Увидел одну цифру: 1000+ токенов в секунду. В 5 раз быстрее

Пошёл разбираться, как - и оказалось, дело в том, что модель вообще не пишет слева направо. Это Mercury 2 на диффузии. Обычные LLM (GPT, Claude, Gemini) генерят последовательно - пятое слово только по

читать далее
Увидел одну цифру: 1000+ токенов в секунду. В 5 раз быстрее | Сетка — социальная сеть от hh.ru