💰 Anthropic добавила ещё $20 млн на продвижение правил для искусственного интеллекта Anthropic направит ещё $20 млн организации Public First Action. С учётом февральского перевода общая сумма помощи выросла до $40 млн.
🧭 В Anthropic подчёркивают: деньги пойдут не на поддержку кандидатов, а на просвещение общества и обсуждение правил для искусственного интеллекта. Public First Action работает с республиканцами, демократами и независимыми политиками и выступает за «разумные меры защиты».
Обе наши выплаты предназначены только для просветительской и политической работы и не могут использоваться для влияния на выборы.
⚠️ Повод для нового перевода — быстрое усиление возможностей моделей. В Anthropic напомнили, что ранняя версия Claude Mythos Preview в этом году нашла тысячи серьёзных уязвимостей в программах, включая проблемы в популярных операционных системах и браузерах.
Чтобы снизить риск, доступ к этой модели дали только ограниченному кругу специалистов по киберзащите в рамках проекта Project Glasswing. Логика простая: если такие инструменты попадут не в те руки, под ударом могут оказаться больницы, энергосети и другие критически важные системы.
🛡️ Раньше Anthropic в основном требовала большей прозрачности от создателей мощных моделей. Теперь позиция стала жёстче: одной открытости уже недостаточно, нужны меры, которые позволят проверять заявления компаний о безопасности, штрафовать за нарушения и при необходимости замедлять или блокировать запуск опасных моделей.
Правительства должны иметь возможность проверять заявления компаний о безопасности и, в конечном счёте, замедлять или блокировать запуск моделей, которые несут риск катастрофического вреда.
🌍 Отдельно Anthropic связывает это с технологическим соперничеством государств. В компании считают, что США и союзники пока сохраняют преимущество, но оно нестабильно, поэтому нужны более жёсткие ограничения на вывоз передовых чипов и оборудования, а также защита от незаконного доступа к моделям.
Для рынка это важный сигнал. Крупные разработчики искусственного интеллекта всё активнее продвигают не только свои продукты, но и правила игры для всей отрасли. Для бизнеса это значит, что в ближайшие годы требований к безопасности, проверкам и отчётности станет заметно больше.
