Адвокаты, защищавшие в суде создателя одного из самых продвинутых ИИ инструментов, были вынуждены оправдываться из-за ошибки, которую допустил чат-бот, созданный этим же разработчиком, оформляя документы для работы адвокатов в этом суде.

Суть дела.

Музыкальные издательства подали в суд на Anthropic (создателя Claude), обвиняя компанию в том, что Claude обучался и использовал тексты их песен без разрешения. В ходе данного судебного процесса, один из адвокатов защиты решил использовать чат-бот Claude, чтобы обработать и представить суду научную статью в обоснование своей позиции, которая была использована в качестве доказательства.

Несмотря на то, что сама научная статья действительно существовала и была указана верная ссылка на нее, бот при форматировании текста выдумал совершенно другое название статьи и указал фальшивых авторов. Ошибку в сносках быстро обнаружили адвокаты истцов (музыкальных издательств) и указали на нее судье, обвинив сторону ответчика в предоставлении «вымышленных авторитетных источников».

Адвокаты, представлявшие саму компанию Anthropic в судебном процессе о нарушении авторских прав, официально извинились перед судом за то, что их чат-бот сгенерировал ложную цитату в судебном документе. Юристы пояснили, что это была «честная ошибка цитирования, а не умышленная фальсификация», подтвердив, что исходный материал существует и доводы эксперта верны. Выходит, адвокаты вынуждены были защищать в суде бота, который пытался защитить позицию юристов

Этот случай вызвал большой резонанс в юридическом и технологическом сообществе из-за очевидного парадокса: компания, создающая ИИ, сама пострадала от его главной проблемы — галлюцинаций.

Судья, которая вела этот процесс назвала произошедшее «чистой воды ИИ-галлюцинацией». Она сочла инцидент серьезным упущением, подрывающим доверие к документу, и своим решением удалила (вычеркнула) соответствующий параграф с ошибкой из материалов дела, хотя и не стала накладывать на юристов денежные штрафы.

Вывод.

Данный кейс подтверждает тезис о том, что ИИ-решения это всего лишь инструмент в руках специалиста, он не позволяют в полной мере заменять квалифицированных сотрудников, в том числе юристов. Если полагаться на сгенерированные ИИ документы без контроля со стороны специалиста можно допустить ошибки, цена которых может быть весьма значительной. ИИ позволяет повышать эффективность юриста, но категория «ответственность» применима пока только к работе человека, ИИ нести ответственности не может, все разработчики ИИ платформ в своих интерфейсах специально указывают, что ИИ может допускать ошибки.

Получается, что ошибаться может и искусственный интеллект, и специалист, но отвечать за эти результат способен только человек, это следует помнить, заменяя сотрудников доступными ИИ-решениями.