Сколько токенов в день обрабатывает человеческий мозг?
Если считать только слова, результат даже немного обидный: · внутренний монолог - около 80 тысяч токенов в день; · разговоры, переписка и услышанная речь - еще 70-80 тысяч; · весь словесный поток за 80 лет - примерно 4,4 млрд токенов.
То есть весь наш речевой день почти помещается в одно контекстное окно современной LLM. Мы, кожаные мешки, генерим не так уж много текста.
Но дальше начинается самое интересное. Если добавить зрение, слух, тело, запахи и вкус, игровая модель дает около миллиона смысловых единиц в день. А сырой поток от сенсорных рецепторов может достигать 7,2 триллиона условных токенов за сутки.
И весь этот информационный водопад обрабатывает устройство массой 1,4 килограмма и мощностью около 20 ватт.
Оно не просто предсказывает следующий токен: оно видит, слышит, держит равновесие, чувствует боль, вспоминает прошлое, назначает сигналам эмоциональный вес - и в конце концов заставляет тело что-нибудь сделать.
Так что человеческий мозг пока рано отправлять в утиль истории. Да, ИИ уже читает быстрее нас и помнит больше текста. Но между большим контекстным окном и существованием в реальном мире все еще лежит приличная технологическая пропасть.
В новом лонгриде от Сергея считаем токены внутреннего монолога, разговоров, органов чувств и целой человеческой жизни. С формулами, допущениями, триллионами сигналов и небольшой серверной стойкой из мяса.
Спойлер: суперсила мозга не в том, чтобы обработать максимум токенов, а в том, чтобы понять, какие из них действительно важны, - и превратить их в действие.