Одна из самых странных особенностей ИИ, которую большинство даже не замечает

Есть свойство современных моделей, которое редко обсуждают публично. Хотя оно объясняет почти всё — почему ИИ иногда гениален, почему тупит и почему его невозможно воспринимать как “аналог человеческого мышления”.

Это называется emergent behavior

поведение, которое возникает не потому, что его задали, а потому что система становится достаточно сложной, чтобы рождать новые способности сама.

Самое поразительное: модель может уметь что-то, чему её никто не учил.

Например: в определённый момент количество параметров и глубина связей становятся такими, что внутри сети внезапно появляется способность, которой не было на предыдущих версиях.

И что самое неприятное — невозможно предсказать когда это произойдёт.

Ты увеличиваешь масштаб → ничего. Ещё чуть-чуть → тоже ничего. А потом модель переходит некий скрытый порог, и у неё вдруг появляется новая компетенция, которой не должно быть по логике.

Она начинает: — считать точнее, — стабилизировать промпт, — удерживать длинные цепочки, — распознавать структуры данных, — интерпретировать контекст, — или делать выводы, которые никто ей не программировал.

Не потому, что она «умнела». А потому что она выросла до уровня, где возникают новые свойства.

Это как вода, которая долго ведёт себя как вода — пока в один момент не превращается в лёд. Не постепенно. А скачком.

С ИИ то же самое. Это не эволюция. Это фазовый переход.

И вот главный вывод, который никто не любит обсуждать:

Мы можем контролировать обучение модели. Но мы не контролируем то, что в ней “включится”, когда она станет слишком сложной.

Поэтому вопрос об AGI звучит неправильно. Никто не знает, какой именно порог станет тем, где “новое свойство” окажется уже не функцией, а чем-то большим.

ИИ — это единственная технология, которая может удивить даже того, кто её создаёт.