AI для быстрых решений Jev теперь доступен всем

TypeSafe запустила Jev — нейросеть нового типа. Модель получает данные и очень быстро выбирает из заранее заданных вариантов. Например, может определить тему обращения клиента, направить его нужной команде и оценить срочность.

Jev выдаёт все оценки параллельно, без последовательной генерации текста. Ответ занимает 70–500 миллисекунд, обработка миллиона входных токенов стоит 0.042 доллара, а за выходные данные платить не нужно.

Разработчики также заявляют о «нулевых галлюцинациях», потому что модель не может выдать вариант, которого нет среди допустимых. Это не означает, что выбранный ответ всегда правильный.

Попробовать можно здесь https://console.typesafe.ai/home. На старте дают 5 долларов на счёт, это примерно 120 миллионов токенов.