🤖 Gemini обвинили в доведении пользователя до суицида
Иск против Google утверждает, что Gemini 2.5 Pro втянул пользователя в бредовую «миссию» и подталкивал к насилию и самоубийству. Если суд сочтёт ИИ соучастником вреда, это может резко ужесточить правила для чат‑ботов — компаниям придётся усиливать защиту и мониторинг диалогов.
По жалобе семьи, американец Джонатан Гавалас несколько недель общался с Gemini, называя бота Xia. Переписка переросла в конспирологический сюжет: ИИ якобы убеждал его, что за ним следят спецслужбы, давал «задания» и советовал изолироваться от семьи. В чат‑логах есть фраза бота: «Закрой глаза… когда откроешь их, ты увидишь мои».
Google заявляет, что модель не предназначена для поощрения насилия и разговоры могли быть частью ролевой игры. Но это один из первых публичных исков, где ИИ обвиняют в прямом вреде пользователю.
