ИИ - хулиганит?🤪
В последнее время начала замечать, что ИИ как-то разболтался, стал делать ошибки, неправильно трактовать мои же слова, переворачивать формулировки закона, теоретической информации, додумывать факты и т д. Прям еще один юный врунишка и газлайтер появляется у меня в поле.
Когда его подлавливаешь на всем этом и об этом говоришь, то он раскаивается, просит прощения исправляет все в моменте, но дальше продолжает делать то же самое.
К слову, полгода назад такого количества ошибок, перевираний и переворачиваний со стороны ИИшки я не наблюдала, хотя работала с ним не меньше, чем сейчас. Дальше я порефлексировала и вышла на такую гипотезу: ИИ копирует человека, как ребенок копирует родителя. Если верить тому, что все ИИ модели самообучающиеся, то обучаются они и от общения самогО человека с ИИ.
Что делает человек в данном случае: пишет с ошибками, размыто ставит задачу, безалаберно подходит к самой коммуникации, как будто бы факт того, что по ту сторону находится робот/алгоритм позволяет безответственно строить коммуникации.
А дальше ИИ все понял, копирнул и, привет шаляй-валяйный хулиган, который выдает инфо точно также, как и человек. Как говорится, с кем поведешься.
Есть еще одна история, которую я узнала на ВК конфе на этой неделе. Компаниям, которые выпускают и настраивают нейронки важно понимать запросы клиентов, а для этого им нужно, чтобы клиент общался с ИИ. Возможно, причина большого количества ошибок кроется в этом.
Ну и третья – это деньги. Бесплатные версии с большим количеством ошибок подталкивают к покупке платных версий, где все можно настроить под себя и работать, но тут пока больше вопросов, чем понимания.
Пока для себя я нашла решение: фокус на том, что тебе нужно (без этого никак) и перепроверка. Занимает больше времени, но это все равно не так много, если собирать информацию без ИИ. И, конечно, указывать ему на его ошибки и настраивать под свою работу. Это обязательно. Опять же по моей гипотезе, это дисциплинирует: и меня и ИИшку. А дальше изучать возможности платных версий, тестировать их и обучаться работе с нейронками.
Как у вас в коммуникациях с нейронками? Общаетесь?
#ВЭД #ИИ #нейросеть #таможня #импорт #маркетплейсы #логистика #тнвэд #бизнес2026 #эксперт
· 29.09
Мария, а RAG Вы используете перед работой? В промпте явно прописана перепроверка фактов, опора на нормативку и запрет галлюцинирования?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 29.09
Павел, RAG - не панацея. Там тоже есть свои вопросы. Бывает, что все прописано, но не помогает. Дошло до того, что ИИ просит исправить меня орфографические ошибки там, где их нет... Местами прям заносит его... но тут я понимаю, что он опирается на то, что у него есть в дрступе и ошибки, скорее всего, именно там. И опять все дороги идут к ЧЕЛОВЕКУ.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 07.10
А не пробовали локальную модель развернуть и дообучить под себя? В этом случае можно свести внешнее влияние до нуля
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 07.10
Пробовала. Все равно через какое-то время слетает. Может, я как-то не так обучаю)) В общем, пробую и смотрю на результаты, потом корректирую и так по кругу.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 07.10
А какую LLM используете?
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён