JARVIS-1 представляет собой модульную архитектуру, объединяющую интерфейс на естественном языке, модуль памяти и исполнитель задач на базе плагинов. На базе GPT-index он сохраняет диалоги, восстанавливает контекст и развивается благодаря взаимодействиям с пользователем. Пользователи задают задачи простыми подсказками, а JARVIS-1 управляет планированием задач, выполнением кода, обработкой файлов и веб-браузингом. Его система плагинов обеспечивает пользовательские интеграции с базами данных, электронной почтой, PDF и облачными сервисами. Можно развернуть через Docker или CLI на Linux, macOS и Windows, JARVIS-1 гарантирует офлайн-работу и полный контроль данных, что делает его идеальным для разработчиков, команд DevOps и продвинутых пользователей, ищущих безопасную и расширяемую автоматизацию.

Web LLM Assistant — это лёгкий фреймворк с открытым исходным кодом, который превращает ваш браузер в платформу для инференса ИИ. Он использует бэкенды WebGPU и WebAssembly для прямого запуска LLM на клиентских устройствах без серверов, обеспечивая конфиденциальность и возможность работы в офлайн-режиме. Пользователи могут импортировать и переключаться между моделями, такими как LLaMA, Vicuna, Alpaca, общаться с ассистентом и видеть потоковые ответы. Модульный UI на базе React поддерживает темы, историю диалогов, системные prompts и расширения в виде плагинов для пользовательского поведения. Разработчики могут настраивать интерфейс, интегрировать внешние API и тонко настраивать prompts. Для развертывания достаточно разместить статические файлы, сервер не требуется. Web LLM Assistant делает возможным высокопроизводительную локальную инференс в любом современном браузере.