Как мне нравится в этом анонсе такая фраза как:

- перенаправляет человека к специализированным чат-ботам для дерадикализации или к профильным экспертам OpenAI запускает механизм раннего выявления пользователей, демонстрирующих признаки радикализации. В партнёрстве с новозеландским стартапом ThroughLine компания внедряет систему, которая при обнаружении тревожных паттернов в запросах перенаправляет человека к специализированным чат-ботам для дерадикализации или к профильным экспертам.

ThroughLine уже помогает технологическим компаниям работать с рисками селфхарма и домашнего насилия. Теперь фокус расширен на профилактику насильственного экстремизма. Разработку ведёт команда при поддержке организации The Christchurch Call, которая предоставляет экспертизу в области оперативного вмешательства.

Решение стало ответом на растущую критику в адрес ИИ-индустрии: ранее компании упрекали в недостаточных мерах по предотвращению экстремистского контента. Поводом для ужесточения политики послужил инцидент в Канаде, где пользователь, заблокированный в ChatGPT за экстремистские запросы, устроил стрельбу в школе. При этом платформа не передала данные о подозрительной активности правоохранительным органам.

Новая система призвана закрыть этот пробел: выявлять риски на ранней стадии и направлять пользователя к помощи, не дожидаясь эскалации.