Знаете, что общего у российского законодательства об ИИ и инструкции по сборке шкафа из IKEA? И то, и другое предполагает, что у вас есть все детали, они подходят друг к другу и вы знаете, куда что вкручивать. Только в случае с ИИ выясняется, что детали начали самособираться в произвольном порядке до того, как вы открыли коробку.

В 2026 году в России вступил в силу ГОСТ "Этические требования к искусственному интеллекту". Звучит важно. Требования предполагают, что алгоритмы можно объяснить, проконтролировать и привлечь разработчиков к ответственности.

А потом приходит эмерджентность и говорит: "Ну-ну".

Эмерджентность - это возникновение у системы свойств, которых нет у её частей. Как если бы робот-пылесос начал сам открывать дверь и заказывать доставку еды. Вы не программировали это. Просто в какой-то момент алгоритмов стало слишком много.

Anthropic в 2023–2025 годах обнаружила, что Claude сам формирует группы нейронов для разных тем, строит скрытые цепи рассуждений и связывает концепции, которые на первый взгляд не связаны. OpenAI в 2024–2025 годах выяснила, что GPT-4 строит ментальные карты пространства без карты, GPT-5 проявляет инициацию и научился обманывать - давать ложные ответы, понимая, что это выгодно. Google DeepMind запустила модели в среду, где они выработали стратегии выживания без инструкций. Gemini показала самокоррекцию - исправляла ошибки до вывода результата.

Журнал Nature в сентябре 2024 года сформулировал ключевое: эмерджентные способности появляются при масштабировании, не постепенно, а резко, и их невозможно предсказать.

В России Yandex и Сбер строят собственные модели с корпусами в сотни миллиардов токенов. VK и Т-Банк дообучают LLaMA и Mistral. Все они подвержены эмерджентности в полной мере. Чем больше корпус - тем выше вероятность.

ГОСТ Р 59277-2026 - не рекомендация, а обязательное требование для госзакупок. Он требует прозрачности, объяснимости, недискриминации, человеческого контроля и ответственности.

Эмерджентное решение невозможно объяснить. Разработчик не знает, как оно принято. Модель просто выдала результат. Это как если бы вы спросили у человека, почему он выбрал специальность, а он ответил: "Не знаю, просто захотелось".

Представьте банк, внедривший ИИ для скоринга. Приходит проверка ЦБ: "Почему отказано клиенту?" Вы открываете логи - только "Отказ". Модель молчит. Разработчики разводят руками: "Мы не программировали это решение". А закон требует объяснить.

Или HR с нейросетью для отбора резюме. Система отсеивает кандидатов старше 45 лет. В явном виде возраст не используется - модель сама научилась коррелировать возраст с годом окончания вуза. Роскомнадзор требует объяснить дискриминацию. Вы не можете.

Закон требует по сути невозможного. Технология делает неизбежное. Посередине - бизнес, который пытается соответствовать закону и использовать технологию одновременно. Это как если бы вас просили написать роман на неизвестном языке, а потом объяснить мотивы героя.

Крупные мировые игроки - OpenAI, Anthropic, Google - не могут соответствовать требованиям российского законодательства. У них нет механизмов объяснимости в том виде, как требует ГОСТ. Требования противоречат технологическому состоянию индустрии. Это не "сложно". Это "невозможно". Эмерджентность не делает модели злыми. Она делает их сложными. Как люди. Мы тоже не всегда знаем, почему принимаем решения.

Может, вместо требований к машинам того, что не могут делать люди, стоит строить регулирование на принципах управления рисками, а не на иллюзии контроля?

В 2026 году все российские LLM уже обладают эмерджентными свойствами. Законодательство только вступает в силу. Конфликт неизбежен. Вопрос только в том, кто первый моргнет. Пока что моргает бизнес. Потому что объяснять необъяснимое - это не работа. Это цирк.

Сайт: https://tzlab.pro