ИИ как инструмент.
Один из самых тиражируемых недостатков ИИ - он слишком охотно соглашается с пользователем.
Сказал глупость - поможет ее обосновать. Предложил сомнительную идею - разовьет. Впрочем, с тем же энтузиазмом раскритикует, если попросишь.
Мы почему-то считаем соглашательство недостатком ИИ, хотя для инструмента выполнять поставленную задачу - как бэ нормально.
Проблема в том, что как инструмент он воспринимается плохо.
Он помнит больше нас, пишет быстрее, иногда рассуждает лучше и вполне способен найти ошибку, которую мы не заметили. Поэтому где-то незаметно возникает ощущение, что перед нами независимый разум. А у независимого разума должна быть собственная позиция.
Но ИИ - все еще инструмент. Просто впервые инструмент оказался способен превосходить своего владельца, в том что мы считали исключительно человеческой чертой.
Отсюда и довольно странное требование: мы хотим, чтобы он был независим, но последнее слово оставлял за нами.
Возможно, поэтому вообще так плохо приживаются по-настоящему умные вещи. Автопилоту оставляют руль, автоматике - ручной режим, алгоритму - кнопку отмены. Нам важно не только чтобы система работала правильно. Нам важно ощущать, что решение все еще наше.
С ИИ это ощущение особенно легко потерять, потому что его орган управления - обычный разговор.
Но если хочется критики - ее можно попросить. Если хочется альтернативы - тоже.
Меня гораздо больше насторожил бы топор, который сам решал, что он сегодня рубит.
