ИИ-грамотность: не только промпты (ч.1)

Мы привыкли думать, что дружить с ИИ — это уметь правильно составить запрос. Написать промпт помощнее, чтобы нейронка выдала шедевр с первого раза.

Но представьте ситуацию: вы просите друга-эксперта помочь с задачей. Он выдает блестящий, аргументированный ответ, со ссылками. Вы его проверите? Скорее всего, да. Потому что ваш друг человек, и вы знаете, что люди ошибаются.

Так почему же, когда тот же самый уверенный ответ нам выдает нейросеть, мы так легко верим ей? У меня есть три ответа:

1. ИИ не умеет говорить «я не знаю»

Друг-эксперт, когда сомневается, скажет: «Знаешь, тут надо проверить». Нейросеть так не может — она заточена давать максимально связный и правдоподобный ответ. Если данных недостаточно, она начнет импровизировать, додумывать, дорисовывать. Ее галлюцинации — не баг, а базовая настройка.

2. ИИ — это зеркало наших заблуждений Он учился на всем, что мы, люди, написали в интернете за 20 лет: в книгах, форумах, научных статьях и новостях. Он впитал не только знания, но и наши массовые заблуждения. Нашу способность выдавать мнение за факт. ИИ — это коллективный слепок человечества со всеми его ошибками, предрассудками и иллюзиями.

3. ИИ звучит как идеальная версия нас

Человек, если врет или ошибается, может выдать себя паузой, оговоркой, неуверенной интонацией. Мы это считываем подсознательно. А ИИ не такой. И мы доверяем ему, потому что он «продает» нам наши же заблуждения с непоколебимой уверенностью.

Три причины, три ловушки. И главное: ИИ опасен не тем, что он ошибается, а тем, что делает это с абсолютной уверенностью. А мы принимаем ее за правду.