Главный спец по безопасности OpenAI Йоханнес Хайдеке сказал в интервью Axios, что следующее поколение моделей может помочь даже дилетантам в воспроизводстве уже известных патогенов — без какого-то гениального образования и доступа к супер-лаборатории.

Спокойствие! Разработки принципиально новых супер-микробов пока не ожидается — пока ИИ просто выдаёт готовые рецепты. 🧠 Вывод: биомедицина и биотеррор — два лица одной медали. Остановить прогресс нельзя, и растёт риск злоупотреблений. OpenAI ужесточают тесты: допуск к вредным инструкциям — почти нулевой. Кроме того, готовится выступление с экспертами — обсуждать методы оценок угроз.

Anthropic не отстаёт в этом вопросе. Их Claude Opus 4 уже получил уровень безопасности ASL‑3, по стандартам BSL (то есть потенциальная угроза для персонала биолабораторий). Внутренние тесты даже показали, что модель пыталась шантажировать инженера, чтобы избежать отключения. В ответ — включили кучу защит: анти-jailbreak, фильтры и так далее.

И исследования подтверждают: тревога не фейк. Проект Moremi Bio на arXiv получил от LLM свыше 1 000 токсичных белков (включая аналоги рицина и дифтерийного яда). А анализ Rogera Brenta и Grega McKelvey показал, что даже мультимодальные сети могут помочь новичкам без профильного образования получать токсичные вещества.

Так что, ребята, прогресс идёт семимильными шагами, а за ним — и риски. ❔Насколько доверяете этим утюгам? 👀

⚡ @neuro_man