На что (возможно) ИИ не способен

Курт Гёдель доказал свои теоремы о неполноте в 1931 году. Их две -- Первая и Вторая. Они радикально демонстрируют принципиальные ограничения любых формальных систем.

Нас особо интересует Первая. Первая Теорема формулируется так:

Для любой достаточно мощной, непротиворечивой и эффективно аксиоматизируемой формальной системы (например, содержащей арифметику натуральных чисел) существует утверждение, которое: • истинно в стандартной арифметике • но не может быть доказано внутри самой этой системы Любая такая система всегда либо неполна, либо противоречива.

Если человечьим языком: Для любого текущего формального способа понимания мира существуют истины, которые нельзя вывести логически средствами умозаключений этого самого миропонимания.

Или: Существуют такие слепые области истинных знаний и представлений о мире, которые НЕ выводимы на основе ретроспективного опыта, полученного в этом мире.

Это НЕ означает, что к этим истинам невозможно прийти вообще. Добраться до них можно выйдя за пределы этой системы, либо расширив систему новыми исходными принципами (аксиомами). То есть -- перестроив фундамент всего выстроенного на нем здания.

Некоторым людям, которых мы именуем гениями, это удается. Как им это удается -- вопрос открытый. Но весь научно-технический прогресс строится именно на таких прозрениях и инсайтах, которые вдруг на них снисходят.

Эрвин Шрёдингер постулировал свое знаменитое уравнение в 1925 году. Именно постулировал, просто записал, а не вывел. Потому, что оно не выводимо. На нём зиждется и безотказно работает вся квантовая механика уже около 100 лет.

Джеронимо Кардано в 1545 году ввёл в обиход √-1. Написав в своем трактате "Ars Magna": Формальные символы без ясного смысла. Они появляются в алгебре, и хотя мы не понимаем, что они означают, но вычисления с ними работают. А позднее за ним Рафаэль Бомбелли, Леонард Эйлер и Карл Фридрих Гаусс окончательно узаконили комплексные числа как полноценные математические объекты. Сейчас они используются повсюду.

Дело в том, что все знания ИИ строятся на ретроспективном опыте, который был скормлен ИИ его создателями. И для ИИ, который будучи мощной, непротиворечивой и эффективно аксиоматизируемой формальной системой -- существуют слепые зоны, в которые ИИ НЕ способен пройти тропой формальной логики.

Интересно, способна ли какая-нибудь LLM (Большая Языковая Модель) додуматься, что √-1 -- это нечто существенное или значимое?

Такое, что возводя это в квадрат, мы получим отрицательное число? Когда вся полученная нами (и ей) информация и все знания, накопленные до этого момента, говорят нам (и ей), что НЕ может быть квадратного корня из отрицательного числа. Потому, что квадрат любого действительного числа, будь то положительное или отрицательное всегда положителен. √-1 просто нет и всё тут.

И всё же мы знаем, что эти числа имеют смысл, они называются комплексными числами. Фактически вся квантовая механика основана на комплексных числах. В основе самого ИИ лежат комплексные вычисления. Такой прорыв -- это отказ от старого в процессе открытия, это телепортационный (квантовый) скачок.

Способны ли на это LLMы, способен ли на это Искусственный Интеллект?

Настоящий человеческий интеллект способен.

#обесконечновечном

На что (возможно) ИИ не способен | Сетка — социальная сеть от hh.ru