ОКНО В 100 МИЛЛИОНОВ ТОКЕНОВ? ВОТ ЭТО ОБЗОР!
⚡️Команда Magic AI поразила мир, представив модель с контекстным окном в 100 миллионов токенов, обходя ранее неслыханные возможности других моделей, таких как Gemini.
Этот технологический прорыв позволяет интегрировать огромные объемы данных наподобие полного корпуса программного кода, что открывает новые горизонты в разработке специализированного ПО и обучении моделей.
Ключевой особенностью является использование механизма HashHop, который обеспечивает эффективное использование памяти и исключает потери данных при масштабировании, что делает каждый декодированный токен в тысячу раз дешевле по сравнению с традиционным механизмом attention.
#AI#MachineLearning#Innovation
🔥 Бесплатный GPT4 Ompi👉 Гайды по нейросетям 💳 Оплатить любую подписку