Web LLM Assistant — это лёгкий фреймворк с открытым исходным кодом, который превращает ваш браузер в платформу для инференса ИИ. Он использует бэкенды WebGPU и WebAssembly для прямого запуска LLM на клиентских устройствах без серверов, обеспечивая конфиденциальность и возможность работы в офлайн-режиме. Пользователи могут импортировать и переключаться между моделями, такими как LLaMA, Vicuna, Alpaca, общаться с ассистентом и видеть потоковые ответы. Модульный UI на базе React поддерживает темы, историю диалогов, системные prompts и расширения в виде плагинов для пользовательского поведения. Разработчики могут настраивать интерфейс, интегрировать внешние API и тонко настраивать prompts. Для развертывания достаточно разместить статические файлы, сервер не требуется. Web LLM Assistant делает возможным высокопроизводительную локальную инференс в любом современном браузере.

Minimalist Agent предоставляет базовую структуру для создания AI-агентов на Python. Он использует классы агентов LangChain и API OpenAI для выполнения многошагового мышления, динамического выбора инструментов и исполнения функций. Вы можете клонировать репозиторий, настроить ключ API OpenAI, определить собственные инструменты или конечные точки и запускать CLI-скрипт для взаимодействия с агентом. Проект ориентирован на ясность и расширяемость, что облегчает изучение, изменение и расширение поведения основных агентов для экспериментов или обучения.

InfantAgent предлагает легкую структуру для проектирования и развертывания интеллектуальных агентов на Python. Интегрируется с популярными LLM (OpenAI, Hugging Face), поддерживает постоянные модули памяти и обеспечивает цепочки пользовательских инструментов. В комплектации — разговорный интерфейс, оркестрация задач и принятие решений на базе правил. Архитектура плагинов позволяет легко расширять функциональность за счет специализированных инструментов и API, что делает его идеальным для прототипирования исследовательских агентов, автоматизации рабочих процессов или внедрения AI-ассистентов в приложения.

js-agent предоставляет разработчикам минималистский, но мощный набор инструментов для создания автономных AI-агентов на JavaScript. Он предлагает абстракции для хранения диалогов, инструментов вызова функций, настраиваемых стратегий планирования и обработки ошибок. С помощью js-agent вы можете быстро подключать подсказки, управлять состоянием, вызывать внешние API и управлять сложным поведением агентов с помощью простого, модульного API. Он предназначен для работы в средах Node.js и бесшовно интегрируется с API OpenAI для создания интеллектуальных, контекстуально ориентированных агентов.

На практике LlamaSim позволяет определить несколько AI-агентов с помощью модели Llama, настроить сценарии взаимодействия и запускать контролируемые симуляции. Вы можете настроить личность агентов, логику принятия решений и каналы связи с помощью простых API на Python. Фреймворк автоматически управляет созданием подсказок, разбором ответов и отслеживанием состояния диалога. Он регистрирует все взаимодействия и предоставляет встроенные метрики оценки, такие как когерентность ответов, уровень завершения задач и задержка. Благодаря плагинам, можно интегрировать внешние источники данных, добавлять пользовательские функции оценки или расширять возможности агентов. Легкий ядроLlamaSim подходит для локальной разработки, CI/CD и облачных развертываний, что обеспечивает воспроизводимость исследований и проверку прототипов.