SmartRAG — это модульная библиотека на Python для рабочих процессов расширенного поиска с использованием больших языковых моделей. Она сочетает загрузку документов, индексирование векторов и современные API LLM для предоставления точных и насыщенных контекстом ответов. Пользователи могут импортировать PDF-файлы, текстовые документы или веб-страницы, индексировать их с помощью популярных хранилищ векторов, таких как FAISS или Chroma, и создавать собственные шаблоны запросов. SmartRAG управляет процессами поиска, сборки подсказок и вызовов LLM, возвращая целостные ответы, основанные на исходных документах. Это ускоряет разработку систем Q&A, чат-ботов и исследовательских ассистентов. Разработчики могут расширять коннекторы, менять поставщиков LLM и оптимизировать стратегии поиска в соответствии с конкретными областями знаний.

Steel — это ориентированный на разработчика каркас, предназначенный для ускорения создания и эксплуатации LLM-агентов в производственных условиях. Он предоставляет универсальные соединители для основных API моделей, хранилище памяти в оперативной и постоянной памяти, встроенные шаблоны вызова инструментов, автоматическое кэширование ответов и подробное трассирование для наблюдаемости. Разработчики могут определять сложные рабочие процессы агентов, интегрировать пользовательские инструменты (например, поиск, запросы к базам данных и внешним API), а также управлять потоковыми выводами. Steel абстрагирует сложность оркестрации, позволяя командам сосредоточиться на бизнес-логике и быстро итераировать приложения на базе ИИ.

Advanced_RAG предоставляет модульную цепочку для задач генерации с дополнением поиска, включая загрузчики документов, конструкторы векторных индексов и менеджеры цепочек. Пользователи могут настраивать различные базы данных векторов (FAISS, Pinecone), изменять стратегии поиска (по сходству, гибридный), интегрировать любые LLM для получения контекстных ответов. Также поддерживаются метрики оценки и ведение логов для оптимизации производительности. Разработан для масштабируемости и расширяемости в производственной среде.