Бывший сотрудник OpenAI представил новое поколение ИИ: его модель Jev в некоторых задачах работает в 200 раз быстрее обычных LLM.

Что сделал стартап TypeSafe AI Диогу Алмейды, коротко:

• Jev не генерирует ответ последовательно, а выдает структурированный результат с вероятностями;
• Это означает, что модель не может галлюцинировать. Из готовых ответов она выбирает тот, что вызывает больше доверия. Правда, Jev все еще может выбрать не тот вариант;
• По этой же причине модель очень быстрая. Ее заставили играть в DOOM: модель получала данные о происходящем и принимала ~10 решений в секунду;
• А еще она на порядок дешевле. Миллион входных токенов стоит всего $0,042, а выходные токены вообще бесплатные. На тест с игрой Jev тратила всего $7 в час.

Модель уже открыта в раннем доступе, вейтлист по ссылке.

tg / max

В этом посте были ссылки, но мы их удалили по правилам Сетки