PHP AI Tool Bridge — гибкая PHP-структура, предназначенная для абстрагирования сложности взаимодействия с различными API ИИ и крупными языковыми моделями. Определяя стандартный интерфейс AiTool, она позволяет разработчикам переключаться между поставщиками, такими как OpenAI, Azure OpenAI и Hugging Face, без изменения бизнес-логики. Библиотека поддерживает шаблоны подсказок, настройку параметров, потоковую передачу, вызовы функций, кэш запросов и журналирование. Также имеется схема выполнения инструментов, позволяющая цеплять несколько инструментов ИИ, создавать диалоговых агентов и управлять состоянием через хранилища памяти. PHP AI Tool Bridge ускоряет разработку функций на базе ИИ, уменьшая шаблонный код и обеспечивая единообразное использование API.

Web LLM Assistant — это лёгкий фреймворк с открытым исходным кодом, который превращает ваш браузер в платформу для инференса ИИ. Он использует бэкенды WebGPU и WebAssembly для прямого запуска LLM на клиентских устройствах без серверов, обеспечивая конфиденциальность и возможность работы в офлайн-режиме. Пользователи могут импортировать и переключаться между моделями, такими как LLaMA, Vicuna, Alpaca, общаться с ассистентом и видеть потоковые ответы. Модульный UI на базе React поддерживает темы, историю диалогов, системные prompts и расширения в виде плагинов для пользовательского поведения. Разработчики могут настраивать интерфейс, интегрировать внешние API и тонко настраивать prompts. Для развертывания достаточно разместить статические файлы, сервер не требуется. Web LLM Assistant делает возможным высокопроизводительную локальную инференс в любом современном браузере.