“Безрассудство в крайней степени”: как ChatGPT отправил адвокатов под суд, а ИИ-галлюцинации могут дорого обойтись вашему бизнесу.

В прошлом году (2025) федеральный судья в Алабаме вынесла жесткое решение: трое адвокатов из крупной юридической фирмы Butler Snow отстранены от дела, получили публичный выговор, а их материалы переданы в Коллегию адвокатов для возможного дисциплинарного преследования. Их “преступление”? Они использовали ChatGPT для поиска судебных прецедентов и не проверили результат. Нейросеть “нашла” и сгенерировала ссылки на несуществующие судебные решения. Их просто не было в природе. Но адвокаты вставили эти ссылки в официальные документы, поданные в суд. Судья написала в решении: “Эти ссылки были полностью выдуманы”. И добавила: “Фальсификация юридических источников — это серьезное нарушение, которое требует серьезного наказания”. Судья подчеркнула, что обычный денежный штраф в данном случае бесполезен, поэтому применила редкую меру - обязала адвокатов разослать текст судебного выговора абсолютно всем своим текущим клиентам и судьям по другим делам. Фирма Butler Snow принесла публичные извинения, назвав произошедшее “непростительной оплошностью”. Они наняли стороннюю юридическую фирму с 28 юристами, чтобы проверить более 2 400 ссылок в 330 документах за два года. Просто чтобы убедиться, что ИИ больше нигде не “напридумывал” факты.

А теперь представьте: вместо судебного дела — ваш проект по оформлению лесного или земельного участка объектов нефтегаза. Ситуация: специалист по землеустройству “попросил” ChatGPT помочь с обоснованием для перевода земель из одной категории в другую. Нейросеть выдала ссылку на несуществующее постановление Правительства РФ, якобы разрешающее такой перевод без торгов. Специалист не проверил — вставил ссылку в официальное ходатайство в Росреестр.

Последствия: - Росреестр отказал в регистрации, сославшись на отсутствие правовых оснований. - Из-за этого проект строительства сместился в сроках. - Компания потеряла 120 млн рублей из-за простоя буровой и подрядчиков. - Специалист получил выговор и лишился премии за год. - Судебные разбирательства с смежным землепользователем, который опередил с оформлением и уже начал строить на этом участке…

Это не теория. Это уже реальный кейс.

ИИ может не понимать разницу между действующей и утратившей силу редакцией закона. Он не знает, что в ХМАО действует один регламент, а в Иркутской области — другой. Он просто генерирует текст, который выглядит убедительно. Экспертная проверка — это не опция. Это единственный способ не получить штраф, не сорвать сроки и не потерять деньги. Связка ИИ + ЭКСПЕРТ — это не про “роботы заменят людей”. Это про безопасность бизнеса. Про эволюцию специалиста, который перестает быть исполнителем и становится фильтром, гарантом качества, последней инстанцией перед тем, как документ уйдет в госорган.

Кстати, о том, как ИИ “играет” в логику. Эта история с адвокатами — не единичный случай. В прошлом году (2025) IT-архитектор Роберт Карузо устроил батл между ChatGPT и шахматной программой для Atari 2600 образца 1977 года. Чат-бот самоуверенно согласился сыграть… и проиграл. Он путал ладью со слоном, пропускал очевидные угрозы и в итоге сдался. Простая программа с 128 байтами оперативной памяти просто делала свою работу. Языковая модель может блестяще говорить о шахматах. Но она не умеет в них играть. Так же она может блестяще говорить о законах. Но она не умеет их применять либо не видит очевидную “лазейку”.

Вывод: ИИ без эксперта — это риск. ИИ под контролем эксперта — это эволюция.

Если вы тоже сталкивались с тем, что ИИ “придумал” несуществующую норму или перепутал регламенты — расскажите в комментариях. Интересно, насколько это массовая история в нашей сфере.

#ИИгаллюцинации #ЭкспертVSИИ #Землеустройство #ЛесноеХозяйство #DomainExpert #ЭволюцияЭксперта #ButlerSnow