Плагин GAMA Genstar добавляет возможность работы с генеративным ИИ в платформу GAMA, предоставляя коннекторы к OpenAI, локальным LLM и эндпоинтам пользовательских моделей. Пользователи определяют подсказки и пайплайны в GAML для генерации решений агентов, описаний сред и параметров сценариев на лету. Плагин поддерживает синхронные и асинхронные API-запросы, кэширование ответов и настройку параметров. Он упрощает интеграцию моделей на естественном языке в крупномасштабные симуляции, уменьшая объем ручного скриптинга и стимулируя создание более богатого и адаптивного поведения агентов.

MCP Agent Proxy выступает в качестве промежуточного сервиса между вашими приложениями и API OpenAI. Он прозрачно передает вызовы ChatCompletion и Embedding, обрабатывает потоковые ответы, кэширует результаты для повышения производительности и снижения затрат, логирует метаданные запросов и ответов для отладки, а также позволяет в реальном времени настраивать параметры API. Разработчики могут интегрировать его в существующие фреймворки агентов для упрощения мультиканальной обработки и поддержания единой управляющей точки для всех взаимодействий с ИИ.

LLMs обеспечивает унифицированное абстрагирование для различных моделей языка с открытым исходным кодом и хостингов, позволяя разработчикам загружать и запускать модели через один интерфейс. Поддерживает обнаружение моделей, управление запросами и пайплайнами, пакетную обработку и точный контроль за токенами, температурой и потоками. Пользователи легко могут переключаться между CPU и GPU, интегрировать локальные или удалённые хосты моделей и кэшировать ответы для повышения производительности. Включает утилиты для шаблонов запросов, анализа ответов и бенчмаркинга производительности моделей. Отделяя логику приложения от конкретных реализаций моделей, LLMs ускоряет разработку NLP-приложений, таких как чат-боты, генерация текста, суммаризация, перевод и другие, без привязки к поставщикам или проприетарным API.

Steel — это ориентированный на разработчика каркас, предназначенный для ускорения создания и эксплуатации LLM-агентов в производственных условиях. Он предоставляет универсальные соединители для основных API моделей, хранилище памяти в оперативной и постоянной памяти, встроенные шаблоны вызова инструментов, автоматическое кэширование ответов и подробное трассирование для наблюдаемости. Разработчики могут определять сложные рабочие процессы агентов, интегрировать пользовательские инструменты (например, поиск, запросы к базам данных и внешним API), а также управлять потоковыми выводами. Steel абстрагирует сложность оркестрации, позволяя командам сосредоточиться на бизнес-логике и быстро итераировать приложения на базе ИИ.