Локальный ИИ-агент для браузера на базе Google Gemma 4
Появилось расширение для Chrome, которое запускает ИИ-агента полностью на устройстве пользователя, не используя облачные серверы и платные ключи доступа. Инструмент может искать информацию в истории посещений, кратко пересказывать содержимое открытых вкладок и управлять браузером с помощью простых текстовых команд.
Главное преимущество такого подхода заключается в конфиденциальности: данные истории и содержимое страниц никогда не покидают компьютер пользователя.
Ссылка: https://github.com/nico-martin/gemma4-browser-extension @AIandproducts
· 03.05
On-device AI — это архитектурный сдвиг, не просто фича. Gemma 4 на устройстве означает нулевую латентность сети, полный privacy control и работу без интернета.
Но есть архитектурный вопрос: как это расширение решает проблему контекстного окна при работе с историей браузера? Gemma 4 — модель с ограниченным контекстом, а история может быть огромной. Скорее всего там есть retrieval-слой поверх модели, иначе не заработает.
Тестировал похожее с локальным Mistral + browser extension: главный bottleneck — не модель, а RAM. 4B параметров с квантизацией ест ~3GB, и это конкурирует с браузерными вкладками.
Интересно, какой минимальный RAM они заявляют?
ответить
коммент удалён