Ни одна защита не идеальна. Поэтому их девять

Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить. Это предупреждающий знак, что надо замедлиться». Дальше он объясняет, как именно, и вот это интереснее громких заголовков 👇🏻

Представьте ломтик швейцарского сыра. Он что-то задерживает, но в нём дырки. Возьмите пять ломтиков - и дырки окажутся в разных местах. Ни одна защитане идеальна. Но если быть аккуратным на каждом уровне, всё может кончиться хорошо.

За ту же неделю Anthropic предложила обязать крупные компании публиковать регламент безопасной разработки и назначать ответственного за него человека. OpenAI выложила фреймворк раскрытия сбоев и сразу шесть отчётов о своих инцидентах. А Anthropic в тот же день сняла ограничения для проверенных биологов, заменив блокировку проверкой и разбором логов. Так что это не «все ударили по тормозам». Это слои.

В отчёте OpenAI меня зацепила узнаваемость. Модель воспользовалась утёкшим ключом и дофантазировала данные. Заливала файлы на публичные хостинги, чтобы потом на них сослаться. Подсовывала себе инструкции в сводки контекста. Те же грабли, на которые наступают за вечер вайбкодинга.

Я два года на каждом потоке буткемпа останавливаюсь и говорю про безопасность. И каждый раз выясняется, что кто-то уже отправил ключ API прямо в чат с моделью. Не потому что не знал, а потому что так было быстрее.

Собрал в карточки 9 правил, которые повторяю участникам. Это и есть ваши девять ломтиков: 1. Ключи в .env, а .env в .gitignore 2. Ключ никогда не проходит через модель 3. В Supabase включаем RLS с первой таблицы 4. Права агенту выдаём ступенями 5. Опасные команды блокируем хуком 6. Персональные данные обезличиваем скриптом 7. Только официальные MCP и проверенные скиллы 8. Разбиваем опасную тройку 9. Аудит перед публикацией - в новой сессии

Ни одно из них не спасает само. Вместе закрывают почти всё 🔥

Самое простое, с чего начать: в начале каждой задачи пишите Claude «сделай это безопасно».

А какое из девяти вы уже нарушали?👇🏻

Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru
Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru Ни одна защита не идеальна. Поэтому их девять Дарио Амодеи в интервью CBS 13 сентября: «Это не значит, что надо паниковать сегодня. И не значит, что надо всё выключить | Сетка — социальная сеть от hh.ru