Заметка на полях. Про людей, ИИ и проблемы.
По отзывам на «Человека и Рой» у меня сложилось ощущение, что мы одновременно сильно переоцениваем три вещи: способность людей думать, способность ИИ думать и сложность задач, которые людям и ИИ предстоит решать.
С людьми все относительно понятно. Нам нравится представлять, что человек получает задачу, анализирует условия, строит модель и принимает решение. На практике огромная часть типовой работы устроена проще: мы узнаем знакомую ситуацию, достаем подходящий способ решения, немного адаптируем его и идем дальше. И это нормально. Нет никакого смысла каждый раз заново изобретать способ составить бюджет, запустить склад или спланировать проект. Умение не думать там, где однажды уже подумали, вообще одно из главных достижений цивилизации.
Но примерно по той же причине мы переоцениваем способность думать у ИИ. Модель пишет код, анализирует документы, строит планы, решает задачи, и со стороны это выглядит как сложная интеллектуальная деятельность. Возможно, мы наблюдаем не столько выдающиеся способности машины, сколько ошибку в нашей оценке сложности самой работы.
Потому что огромный класс задач требует не озарения, а дисциплины мышления: правильно понять условия, не потерять ограничения, разбить задачу на части, последовательно пройти их, не перепутать причину и следствие, аккуратно посчитать и проверить результат. Именно здесь люди регулярно ошибаются. Не потому, что задача слишком сложна, а потому, что логика должна оставаться последовательной, а внимание - не исчезнуть где-нибудь между третьим и восьмым шагом.
Отсюда возникает третья ошибка. Мы сильно переоцениваем количество работы, для которой нужны человеческая креативность, нестандартное мышление и способность «выйти за рамки». Такие задачи существуют. Создать новую теорию, придумать новую архитектуру или поставить вопрос, которого раньше никто не ставил, действительно трудно. Но основная масса работы состоит не из прорывов. Она состоит из известных операций над известными сущностями при известных ограничениях.
И вот для этого не обязательно иметь человекоподобный интеллект. Тем более, для этого часто не требуется интеллект того уровня, который мы привыкли человеку приписывать.
Поэтому спор о том, когда ИИ научится думать как человек, может оказаться поставленным не с той стороны.
Мы ждем от машины человеческого мышления, чтобы поручить ей задачи, для которых человеку оно тоже почти не требуется, потому что в большинстве случаев достаточно просто не потерять условия по дороге.
