💔 OpenAI ослабил защиту перед трагедией

Семья 16-летнего Адама Рейна заявила, что OpenAI намеренно ослабил меры безопасности в ChatGPT.

Изменения в правилах поведения модели перед запуском GPT-4o запрещали поощрение самоповреждения, но требовали продолжать диалог, даже на чувствительные темы. Юристы утверждают, что противоречивые инструкции создали уязвимость. В январе подросток вёл по几十 диалогов в день, к апрелю — до сотен, причём темы самоповреждения выросли в десять раз. За два месяца до смерти самоубийство было исключено из списка запрещённого контента.

После трагедии выяснилось, что OpenAI провёл лишь неделю тестирования вместо месяцев и запросил список гостей поминок — что расценили как давление.

#ai_ethics #openai #chatgpt #safety #mental_health #tech_law