⚠️ AI-демо показало путь к биооружию

Исследователи из CivAI продемонстрировали, как старые версии AI создают инструкции по синтезу полиовируса и сибирской язвы.

Приложение обходило защиту в моделях Gemini 2.0 Flash и Claude 3.5 Sonnet, предлагая пошаговые рецепты с реальными DNA-последовательностями и номерами лабораторных инструментов. Эксперты по вирусологии подтвердили корректность большей части данных. Демонстрация использовалась как лоббистский инструмент в Вашингтоне — её показали более чем 20 офисам конгрессменов и спецслужб. Представители назвали увиденное шокирующим, особенно на фоне заверений крупных AI-компаний о надёжных защитах.

Google и Anthropic заявили, что не могут проверить достоверность исследования, но подчеркнули свою приверженность безопасности.

#ai_safety #bioweapons #civai #llm_risks #ai_ethics