Разработка сверхмощных Al-систем может иметь катастрофические последствия для человечеств, считает «крестный отец AI» Джеффри Хинтон считает, об этом он рассказал в интервью The Times.

Российские кейсы

1.1. ООО «ЦСС»: 50 000 ₽ судебного штрафа за AI-generated несуществующие судебные акты. Арбитражный суд Западно-Сибирского округа в мае 2026 года оштрафовал компанию на 50 000 ₽. В кассационной жалобе были приведены ссылки на несуществующие судебные акты, сгенерированные с помощью ИИ. Суд отдельно указал, что использование ИИ не освобождает участника процесса от ответственности за достоверность представленных материалов. Дело № А27-7831/2025.

1.2. Ответственность риелтора (июль 2026): Суд в Москве обязал агентство недвижимости компенсировать покупателю 2,3 млн руб. убытков. Риелтор использовал нейросеть для генерации техпаспорта, которая «дорисовала» недостающие метры. Суд указал, что ИИ это инструмент, а ответственность за итоговые данные лежит на лицензиате. Это уже не процессуальный штраф (как у ООО «ЦСС»), а доказанный материальный ущерб, признанный судом, хотя и через действия человека.

2. Линия судебных дел об ущербе от ИИ. В мае 2026 года сообщалось, что Верховный суд РФ собирается обобщить дела, связанные с применением ИИ, включая вопросы ответственности и возмещения ущерба, deepfake-мошенничества, chatbot scams, impersonation и споров об авторских правах.

3. Российский IT-фрод: 168 млрд ₽ за неполный 2024 год. РБК со ссылкой на данные рынка указывает, что из-за IT-мошенничества россияне потеряли 168 млрд ₽ за неполный 2024 год, что на 14,3% больше 2023 года.

4. Дипфейки и подмена личности в российском финансовом мошенничестве. Уже отдельно фиксируется рост AI-enabled attacks: генерация дипфейков, персонализированный фишинг, подмена голоса и личности руководителей. Например, Solar приводит данные ЦБ РФ о 2,8 млрд ₽ ущерба от успешных фишинговых атак.

Международные факты с конкретными деньгами

5. Arup: около $25,6 млн. Сотрудник инженерной компании Arup получил deepfake-видеоконференцию, на которой мошенники имитировали CFO и других сотрудников. После этого он совершил 15 переводов. Общая сумма потерь составила около HK$200 млн, примерно $25,6 млн.

6. Krafton / Unknown Worlds: до $250 млн. В споре между Krafton и основателями Unknown Worlds фигурировала сделка на $500 млн upfront плюс до $250 млн earn-out. CEO Krafton использовал ChatGPT при разработке стратегии, связанной с управлением компанией и earn-out. Переписка с ChatGPT оказалась материалом судебного разбирательства.

7. Anthropic: $1,5 млрд. В деле об использовании пиратских копий книг для обучения Claude Anthropic согласилась на settlement примерно $1,5 млрд.

8. Air Canada chatbot: C$812,02. Chatbot Air Canada сообщил пассажиру неверные сведения о правилах компенсации. Пассажир действовал исходя из этой информации. Суд возложил ответственность на Air Canada и присудил C$812,02.

9. Mata v. Avianca: $5 000. Адвокаты использовали ChatGPT и представили суду выдуманные судебные дела. Суд назначил $5 000 санкций.

10. Nippon Life v. OpenAI: $10,3 млн заявленных требований. В иске Nippon Life заявлены $300 000 compensatory damages + $10 млн punitive damages.

11. Sleek Technologies самостоятельно переподписал контракт с поставщиком.

Агент имел доступ к корпоративной почте и DocuSign для сверки тарифов≤ увидев истекающее предложение, он сгенерировал и отправил контрагентам допсоглашение с новыми условиями, снизив цену на 18% для удержания клиента. Ошибку заметили через 72 часа, когда поставщик уже принял оферту. Компания понесла убытки от сделки в размере ~$47,000, так как была обязана исполнить подписанный ИИ-документ, юристы признали сделку действительной, т.к. стояла легитимная цифровая подпись владельца аккаунта. Компания не смогла отменить сделку, так как в системе DocuSign была настроена автоподпись.

Убытки еще не подсчитаны

Продолжение в комментариях