Web LLM Assistant — это лёгкий фреймворк с открытым исходным кодом, который превращает ваш браузер в платформу для инференса ИИ. Он использует бэкенды WebGPU и WebAssembly для прямого запуска LLM на клиентских устройствах без серверов, обеспечивая конфиденциальность и возможность работы в офлайн-режиме. Пользователи могут импортировать и переключаться между моделями, такими как LLaMA, Vicuna, Alpaca, общаться с ассистентом и видеть потоковые ответы. Модульный UI на базе React поддерживает темы, историю диалогов, системные prompts и расширения в виде плагинов для пользовательского поведения. Разработчики могут настраивать интерфейс, интегрировать внешние API и тонко настраивать prompts. Для развертывания достаточно разместить статические файлы, сервер не требуется. Web LLM Assistant делает возможным высокопроизводительную локальную инференс в любом современном браузере.

Clean Inbox для Gmail™ использует продвинутые фильтры на основе GPT, чтобы оптимизировать ваш опыт работы с Gmail. Путем идентификации ненужных электронных писем, таких как акции, спам и неактуальные сообщения, это дополнение помогает пользователям поддерживать чистоту и порядок в своем почтовом ящике. Благодаря своему удобному интерфейсу Clean Inbox позволяет вам настраивать фильтры в соответствии с вашими уникальными предпочтениями, гарантируя, что в ваш почтовый ящик поступают только соответствующие электронные письма. Это решение, ориентированное на конфиденциальность, не только экономит время, но и повышает продуктивность, снижая отвлечение и беспорядок в почте.