ИИ-грамотность: не только промпты (ч.2)

Не пора ли овладеть грамотой в области ИИ? Набор каких компетенций позволяет нам, людям, оставаться главными в диалоге с машиной?

Уровень 1: отключаем магическое мышление

Мы знаем, что большая языковая модель строится на предсказании следующего токена. Но когда начинаем работать с ней, ведем себя так, будто внутри коробки сидит стажер с энциклопедией. Он старательный, речистый, но совершенно не разбирается, где правда, а где лингвистическая конструкция. И главное — он не знает, что он этого не знает.

Нам необходимо всегда держать в голове, что красивая упаковка не гарантирует качество содержимого.

Уровень 2: включаем критическое мышление

Способность не влюбляться в сгенерированный текст, а смотреть на него холодным взглядом редактора — это наш внутренний фактчекер и адвокат дьявола. «Если достаточно долго пытать данные, они сознаются в чем угодно» — лауреат Нобелевской премии по экономике Рональд Коуз учил этому своих студентов в Великобритании и США, начиная с 1960-х годов. Именно так работает ИИ: мы задаем ему вопрос, он роется в данных и выдает то, что мы хотим услышать — особенно если вопрос сформулирован предвзято.

ИИ — великий манипулятор данными. Наша задача — поймать его за руку.

Уровень 3: осознаем этический компонент

ИИ — это технология, которая меняет реальность вокруг нас, и не всегда в лучшую сторону.

Примеры из жизни: ⁃ Deepfake: вы видите видео, где известный политик или ваш коллега говорит то, чего никогда не говорил. ИИ-грамотность — это способность усомниться в подлинности видео и понять, что грань между реальностью и вымыслом стирается. ⁃ Предвзятость (биас): вы используете ИИ для найма персонала. А он, обученный на исторических данных вашей компании, где 90% руководителей — мужчины, будет автоматически «забраковывать» женские резюме. Не потому что он сексист, а потому что выучил закономерность из данных. ⁃ Чужая работа: нейросеть генерирует логотип, вдохновляясь миллионами работ дизайнеров. Кто автор? Вы, ИИ или тот неизвестный художник, чей стиль был «переработан»?

Важно понимать, что за каждым удобством стоят сложные социальные, юридические и моральные последствия. И наша задача — не закрывать на них глаза.

Уровень 4: становимся умным заказчиком

Это как раз про промпты. Но промпты как диалог, а не как приказ: умение ставить задачу (писать ТЗ!), а затем брать сырой результат и доводить его до ума — своим опытом, своей интонацией, своими уникальными мыслями.

«Вдруг, как в сказке…»

И вот парадоксальным образом ИИ-грамотность оказывается не про то, как сделать что-то с помощью ИИ. А про то, как остаться в процессе человеком: задавать правильные вопросы, видеть риски, брать на себя ответственность. Выходит, ИИ может принудительно научить нас критическому мышлению и осознанности — и это самый оптимистичный взгляд в будущее, который у меня для вас есть.