Что думаете насчет Китайской комнаты? Для тех кто не в курсе напомню:

Философ Дж. Серль еще в 1980 году развеял страхи о могуществе искусственного интеллекта, заявив, что «сильный» ИИ (осознающий себя) невозможен. Его мысленный эксперимент «Китайская комната», описанный в работе «Сознание, мозг и программы», демонстрирует это.

Суть эксперимента:

Человек A, не знающий китайских символов, но владеющий английским, сидит в комнате. У него три корзины с данными: Текст на китайском. Символы с правилами сопоставления (на английском) для создания рассказа. Правила для ответов на вопросы (на английском). Человек B, владеющий китайским, задает вопросы и получает ответы из комнаты. Человек A, следуя правилам, выдает правильные ответы, не понимая китайского. Заменив его на современный компьютер, результат будет таким же.

Этот эксперимент показывает, что возможен только «слабый» ИИ, имитирующий человеческую деятельность, а не осознающий её. Поэтому страхи о могущественном ИИ — это лишь ночные кошмары луддитов.