Посмотрел нарезку — красивая демонстрация, но именно тут и кроется ловушка: в продакшене такой «магический» интерфейс чаще всего упирается в дешевые GPU и латентность, когда модель думает по 2-3 секунды, и весь эффект «живого» диалога рассыпается. У нас в финтехе мы такие штуки гоняем только на выделенных инференс-кластерах, иначе пользователь уходит после третьего «думающего» экрана.