Сара Коннор может спать спокойно

Машины не восстанут.

Science опубликовал аналитику учёных из разных дисциплин про ИИ. Для них большие модели — вовсе не зачаток разума.

Это культурная система, стоящая в одном ряду с письменностью, печатным станком, рынком и бюрократией.

Следите за руками.

Что делает рынок? Сжимает всю сложность экономики в одно число — цену. Покупателю не нужно знать про урожай, логистику и биржу.

Что делает бюрократия? Сжимает живых людей в категории: граждане, резиденты, люди с разрешением или без него, с правами или без них.

Что делает языковая модель? Сжимает массив человеческих текстов, изображений и знаний в систему, которой можно задать вопрос.

И тут важно понимать: любое такое сжатие ведёт к искажению.

Модель сильнее всего там, где данных много, и слабее всего — в редком, новом, непривычном. Так уж она устроена: алгоритм воспроизводит вероятности, а вероятность — это про частое.

Поэтому модель не отражает культуру. А усредняет.

Того же боялся Макс Вебер в бюрократии: система формальных правил не замечает всё, что в правила не укладывается. Проще говоря, без бумажки ты букашка, система тебя не видит.

Ровно так же ИИ не видит уникальность, зато помогает производить однотипные видео, тексты и баннеры.

Мы получили инструмент, который на любой вопрос выдаёт самый вероятный ответ. И чем чаще мы к нему обращаемся, тем шаблоннее рассуждаем сами.

Машины не восстанут.

Машинами станем мы.