Демонстрации AWS Sample Model Context Protocol — это репозиторий с открытым исходным кодом, представляющий стандартизированные шаблоны для управления контекстом больших языковых моделей (LLM) и вызова инструментов. В нем есть две полные демонстрации — одна на JavaScript/TypeScript и одна на Python, реализующие протокол контекста модели, позволяющие разработчикам строить ИИ-агентов, вызывающих функции AWS Lambda, сохраняющих историю диалогов и осуществляющих потоковую передачу ответов. Примерный код демонстрирует форматирование сообщений, сериализацию аргументов функций, обработку ошибок и настраиваемые интеграции инструментов, ускоряя прототипирование генеративных AI-приложений.

ggfai предоставляет единый интерфейс для определения целей, управления многошаговым рассуждением и поддержания диалогового контекста с помощью модулей памяти. Он поддерживает настраиваемые интеграции инструментов для вызова внешних сервисов или API, асинхронные потоки выполнения и абстракции над моделями GPT от OpenAI. Архитектура плагинов позволяет вам менять бэкенды памяти, хранилища знаний и шаблоны действий, что упрощает оркестровку агентов для задач, таких как поддержка клиентов, получение данных или личные ассистенты.