Важный момент в использовании нейросетей

Уже долгое время у меня были некоторые сомнения в отношении AI, только вот я эти сомнения не мог внятно сформулировать, а теперь сообразил.

Регулярно наблюдаю ситуацию, в которой люди ищут и принимают помощь от нейросетей по разным вопросам, а затем идут дальше удовлетворённые жизнью. В целом, это так и должно работать, и это здорово. Есть, правда, часто одна важная вещь, которая упускается.

Решение проблем — это не только поиск и построение пути к определённой цели, но и переосмысление самой цели.

Если вы желаете взобраться на самую высокую гору и в процессе подъёма от безделья изобретаете более грамотный способ измерения высоты горы, то вполне можете обнаружить, что ваша гора перестала быть самой высокой. Цель в формулировке не меняется, но вот искомая гора становится совсем другой. Только если вы использовали вертолёт (👋, AI) для подъёма, то что-то осознать и переформулировать цель вы не успеете.

Это не призыв отказаться от помощи наших могучих новых инструментов, а попытка подсветить, какую цену мы платим при их использовании.

#AI #Нейросети #LLM