Web LLM Assistant — это лёгкий фреймворк с открытым исходным кодом, который превращает ваш браузер в платформу для инференса ИИ. Он использует бэкенды WebGPU и WebAssembly для прямого запуска LLM на клиентских устройствах без серверов, обеспечивая конфиденциальность и возможность работы в офлайн-режиме. Пользователи могут импортировать и переключаться между моделями, такими как LLaMA, Vicuna, Alpaca, общаться с ассистентом и видеть потоковые ответы. Модульный UI на базе React поддерживает темы, историю диалогов, системные prompts и расширения в виде плагинов для пользовательского поведения. Разработчики могут настраивать интерфейс, интегрировать внешние API и тонко настраивать prompts. Для развертывания достаточно разместить статические файлы, сервер не требуется. Web LLM Assistant делает возможным высокопроизводительную локальную инференс в любом современном браузере.

Cashblack A.F.R.O.B.O.T создан для улучшения онлайн-шопинга, направляя потребителей к предприятиям, принадлежащим чернокожим. Используя алгоритмы ИИ, оно отслеживает покупательские привычки пользователей и предлагает альтернативы, которые поддерживают чернокожие бренды. Эта инициатива не только поддерживает разнообразие владения бизнесом, но и вознаграждает клиентов кэшбэком за их покупки. Идеально для сознательных потребителей, это расширение бесшовно интегрируется в ваш браузер, обеспечивая адаптированный опыт покупок, который способствует поддержке сообщества и экономическому усилению.