Quivr — это открытая платформа для построения приложений на основе Retrieval-Augmented Generation (RAG), предназначенная для интеграции с любыми крупными языковыми моделями (LLM) и векторными хранилищами данных. Она предоставляет инструменты для инжеста документов, поиска по векторам и генерации ответов, что позволяет эффективно создавать интеллектуальные системы для обработки и анализа данных.
Проект Quivr включает в себя несколько компонентов, среди которых основным является движок RAG, обеспечивающий извлечение релевантной информации из внешних источников и её интеграцию с LLM для генерации ответов. Платформа поддерживает работу с различными форматами файлов, такими как PDF, TXT и Markdown, и предоставляет возможности для настройки и расширения функциональности в соответствии с потребностями пользователя.
- Поддержка любых LLM: интеграция с моделями, такими как GPT-4, Groq, Llama и другие.
- Гибкая настройка: возможность добавления интернет-поиска, инструментов и других расширений.
- Совместимость с различными хранилищами векторов: поддержка PGVector, Faiss и других решений.
- Поддержка различных форматов файлов: работа с PDF, TXT, Markdown и возможность добавления собственных парсеров.
- Инструмент Megaparse: для эффективного инжеста и предварительной обработки данных.
- Оценка производительности: использование Le Juge для оценки и улучшения работы RAG-приложений.
- Полный стек решений: от инжеста и извлечения до генерации и оценки.
- Лицензия Apache 2.0: свободное использование и модификация кода.