11 сентября Яндекс выложил в открытый доступ базовую модель, на которой построены быстрые ИИ-ответы под поисковой строкой. Лицензия Apache 2.0 — можно скачать и использовать в своих проектах.
Занятно тут архитектура: 35 млрд параметров, а на конкретный фрагмент текста активируется около 600 млн — меньше 2%. За счёт этого модель лёгкая и годится на большой поток запросов.
Пользователю нажимать ничего не надо. Разработчикам интереснее — можно посмотреть, как Яндекс решает задачу дешёвых и быстрых поисковых ответов.
А что у Claude?
Anthropic на этой неделе выпустила отчёт о злоупотреблениях Claude (в том числе в военных целях) и несколько материалов для разработчиков про снижение стоимости и оптимизацию агентов.
Что в итоге
Из всего этого мне интереснее всего три вещи.
Алиса для бизнеса — Яндекс наконец собирает из своих 360-сервисов что-то похожее на единого рабочего агента. Data Agent в ChatGPT — попытка забрать кусок работы между руководителем, аналитиком и BI-системой. GPT-Live-1 с телефонией — голосовые ИИ-операторы существуют давно, но когда нормальный realtime-голос, рассуждение и инструменты складываются в одну платформу, реализовать сценарий становится сильно проще.
Модели на этой неделе снова не главное. Главное — к каким данным, инструментам и действиям им дают доступ.