MIT Technology Review сообщает, что учёные выявили фундаментальную проблему в работе крупных языковых моделей, которые сейчас используются повсеместно. Из-за этого их можно легко обмануть, подавая им неправильные данные. Исследование было опубликовано в июле 2026 года.

Понять это сложно, потому что LLM — это как очень умный школьник, который всё запоминает, но не всегда умеет проверять информацию. Если ему дать неправильные факты, он может их повторять как истину. То есть модель не способна сама проверять достоверность данных — она просто передаёт то, что видела в обучении.

Важно помнить, что уязвимость не означает, что модели бесполезны. Они всё ещё помогают людям находить информацию, писать тексты и даже решать задачи. Проблема в том, что они могут ошибаться, особенно если их специально запутывают. Это как использовать карту, которая иногда ведёт в нужное место, а иногда — в сторону.

Если представить, что LLM — это человек, который читает много книг, но не умеет проверять их содержание, то его ответы могут быть не всегда точными. Это напоминает, как в детстве мы верили всему, что нам говорили, пока не научились задавать вопросы. Теперь, кажется, и искусственный интеллект столкнулся с тем же вызовом.