В AI наступила новая революция? Что такое Jev от TypeSafe?
Как многим известно, огромная проблема текущих фронтир-моделей - это цена инференса и низкая скорость работы. Чем больше модели растут, тем они дороже и медленнее. Некоторые задачи им приходится выполнять часами, а то и неделями.
Новый тип модели Jev (System One Model) принципиально иной, имеет совершенно другую архитектуру и принцип работы. Там не генерируется текст и нет размышлений. Она невероятно быстрая и дешёвая.
Jev параллельно выдает строго типизированные вероятности. На вход даем текст, категории/лейблы/структуры, и она на выходе дает ответ и степень своей уверенности. Это открывает целый мир возможностей: скоринг, разметка в Big Data, классификация.
Модель не подходит в общем случае для генерации текста или кода. То есть не заменяет текущие LLM, однако полностью уничтожает их в целом классе задач.
Отличный и очень интересный релиз, ждем конкурентов от OpenAI / Anthropic / Google. Да и вообще ждем новых архитектур в моделях - потенциал AI еще огромный.