Будущее ИИ?

Совсем недавно я наткнулся на Канадский стартап Taalas и их чип HC1. Эта компания разрабатывала данный продукт с 2023 года и выпустила свою первую версию в феврале 2026 года. Узнал я о них лишь по той причине, что крупный производитель графических и вычислительных процессоров AMD выкупил данный стартап для развития собственной линейки видеокарт. Чем же так выделяется их продукт? Суть в том, что они предлагают “впаять” веса какой-либо ИИ модели (в данном случае Llama 3.1 8B) прямо на кремниевый кристалл, как полноценный процессор. Не побоюсь сказать, что это уже что-то сравнимое с мозгом. Дело в том, что до данного чипа все компании упирались в гибкость, из-за чего страдала производительность. Большую часть энергии современные процессоры тратят на пересылку данных между чипом и памятью, а ИИ как раз таки целиком и хранится на оперативной памяти. Но вместо того, чтобы хранить его программно, что, если физически с помощью транзисторов описать структуру любой модели на кристалле. Этот кристалл будет сам для себя и памятью, и процессором.

Касательно преимуществ, все это так бы и могло остаться занимательным экспериментом, если бы данные чипы не тратили в 3-4 раза меньше энергии и не работали бы при этом в 73 раза быстрее (в сравнении с Nvidia H200, выпущенной в 2024 году и предназначенной для запуска ИИ моделей на крупных серверах). Да, главный минус данного продукта исходит оттуда, откуда идут и плюсы – его “распаянной” архитектуры. То, что зашито на процессоре останется без изменений и, если возникнет желание обновить модель, придется покупать новый процессор. Тем не менее, для данных чипов открыты другие возможности, где конкуренты находятся просто вне игры. Робототехника и отдельные ускорители для обычных пользователей, крупные сервера для обработки запросов пользователей, голосовые и чат боты. И все это будет работать локально. Для робототехники это вообще отдельная находка, буквально можно смоделировать мозжечок для контроля координации и движений робота, что позволит вывести точность их движений на человеческий уровень, если не выше (учитывая скорость работы подобных чипов). Конечно, это голословное заявление (ведь тогда все будет упираться уже в механическую начинку робота), но поле для фантазий огромное, включая и банальные коммерческие готовые чипы для пк. Кто бы что не говорил, но я вижу в этом будущее для дальнейшего развития LLM и других моделей.