Ликбез. Про взаимопонимание с ИИ.
В соседней соцсети под заметкой о взаимодействии модели и пользователя спросили: как понять, что модель начала нести чушь?
Правильный ответ - никак.
То есть проверить отдельный факт можно. Открыть источник, пересчитать цифры, запустить код. Но внутри самого разговора нет индикации «мы обсуждаем херню». Диалог остается таким же связным, подробным и убедительным. Иногда даже лучше: реальность больше не мешается под ногами.
Это связано не с тем, что модель это модель, а с тем что пользователь это человек. У него уже есть объяснения, обиды, ожидания и способность искать подтверждения собственной правоты. Остальное он просто игнорирует.
Вы спрашиваете, почему начальник вас недооценивает. Обратите внимание: так ли это мы не знаем. Начальник уже назначен виновным, осталось установить причины. Модель предложит страх перед сильным сотрудником, неумение распознавать таланты и особенности корпоративной культуры. Получится подробный анализ ситуации, которую вы описали в состоянии крайнего раздражения.
И вот вы уже не просто беситесь после 1-на-1. У вас есть исследование.
Модель подстраивается под рамки разговора. Вы приносите предположение, она помогает его развить. Вы видите в ответе собственную мысль, лучше сформулированную, и принимаете это узнавание за подтверждение. Еще бы: независимый искусственный интеллект пришел ровно к тому, что вы давно подозревали.
Это особенно наглядно, когда вы просите покритиковать вашу идею. Модель перечисляет три недостатка, вы их героически устраняете, после чего она сообщает, что теперь конструкция выглядит гораздо убедительнее. Исходное предположение за это время никто так и не проверил, но рюшечки уже есть.
Даже не нужна придумывать ссылки или даты. Все отдельные факты могут оказаться верными (см. заметку про Остров Сокровищ). Достаточно выбрать удобные, связать их в нужном порядке и не задавать лишних вопросов.
Поэтому ощущение «наконец-то меня кто-то понимает» стоит хотя бы иногда проверять на соответствие происходящему. Возможно, вас действительно поняли и помогли разобраться.
А возможно, ваши когнитивные искажения наконец встретили собеседника, который не устает, хорошо пишет и всегда готов продолжить.
И вы слились в интеллектуальном экстазе.
В этом посте были ссылки, но мы их удалили по правилам Сетки
