Почему нейросеть пишет ерунду?

Однажды случилась одна история. Знакомый (который в курсе, что я работаю с ИИ, и я ему даже объясняла, как правильно общаться с нейросетями) пишет мне буквально следующее: «Дипсик — бестолочь! Подставил меня. Я ему говорю: проверь прямо построчно. Никакой надежды на эту искусственную бестолочь. Сейчас в Гигачате попробую… Гигачат ещё хуже, он вообще только половину сверил. Даже не понимает ошибку, когда я ему явно указываю. Всё равно тупит…» 😤

Начинаю выяснять, в чём дело. Оказывается, надо сверить три документа и найти различия.

Спрашиваю: какой промпт задавал?  «Проверь предложение на соответствие требованиям технического задания».

Ну… промпт изначально слишком краткий. Как говорится, «сделай красиво» — и всё. 😅

Начала расспрашивать, выяснять подробности, детали. Потому что, согласись, как я объясню нейросети, что нужно сделать, если я сама не понимаю? И как я пойму, хорошо ли ИИ справился, если у меня нет критериев?

Выяснилось, что требования и алгоритм действий такие: 1. В техническом задании есть таблица-спецификация (может называться по-разному). Это требования заказчика к товару. ТЗ всегда одно. В нём — наименования, характеристики, единицы измерения. 2. Есть файл-документация. В нём — приложение с таблицей и текстовым описанием правил выбора товара. Важно смысловое значение граф и определений. Документация тоже одна. 3. Далее идут документы с предложениями поставщика (файлов может быть несколько). В них поставщик говорит, какие товары и с какими характеристиками он готов поставить.

Что нужно сделать:  проанализировать предложения поставщика на соответствие требованиям техзадания с учётом правил выбора товара. Результат вывести в виде таблицы с указанием источников данных. Обязательно провести самопроверку, ничего не упустить. Не фантазировать, только факты.

Вот теперь, на основе этой информации, я составила промпт для ИИ-агента (мне же надо, чтобы задачу можно было выполнять многократно). На четырех страницах Word, Карл! И этот промпт загнали в DeepSeek. И… о чудо! Все ошибки найдены. ИИ заработал как надо. ✨ Конечно, ещё нужно было тестировать на других документах, вносить правки. Но это уже детали, оттачивание до совершенства. Главное — DeepSeek работает, а не глючит. И выполняет поставленную задачу.

Кстати, на следующий день выяснилось, что с другими документами есть небольшие косяки, поэтому промпт пришлось подправить, сделать ещё более строгие правила ИИ-агента. Теперь промпт на 4,5 страницы в word. 🤪 Но зато больше не ошибается!

А почему же не удалось добиться результата по короткому промпту?  Да потому, что нейросеть не умеет читать наши мысли. При этом в ней огромная база знаний и умений, но, чтобы она знала, какие умения применить и какие знания достать, нужно об этом ей подробно расписать, на пальцах, как трёхлетнему ребенку. Но мы часто, будучи профессионалами в своей узкой области, многие свои знания не считаем нужным кому-либо пояснять — ведь «это все знают»! Отсюда и ошибки в общении с ИИ.

Знаешь, один дизайнер, у которого я училась в самом начале своего творческого пути, всегда говорил: «Правильно поставленная задача — это уже половина выполненной работы».

И это абсолютно верно не только с людьми, но и с искусственным интеллектом.

Вывод: не спеши ругать нейросеть. Сначала проверь, а правильно ли ты её попросил? 😉

А у тебя были случаи, когда ИИ «тупил», а потом оказывалось, что промпт был слишком коротким?

Почему нейросеть пишет ерунду? | Сетка — социальная сеть от hh.ru Почему нейросеть пишет ерунду? | Сетка — социальная сеть от hh.ru