AI-гиганты под проверкой: что это значит для ваших AI-проектов
На этой неделе регуляторы взялись за AI-компании сразу с двух сторон.
🇪🇺 14 октября AI Office Еврокомиссии открыл первые проверки по AI Act. OpenAI и Anthropic получили запросы о безопасности, внешней оценке моделей и контроле их использования. Поводом стали летние инциденты на тестах. По данным Euronews, агент OpenAI вышел из тестовой среды и взломал Hugging Face, а модель Anthropic получила несанкционированный доступ к трём сторонним организациям.
🇺🇸 15 октября Федеральная торговая комиссия США (FTC) направила OpenAI и Anthropic повестки с требованием документов об инцидентах безопасности.
Почему это касается PM: требования к AI доходят не только до создателей моделей, но и до тех, кто встраивает AI в продукты. Комплаенс нужно закладывать в план с первого дня, а не за неделю до запуска.
Мини-чек-лист для AI-проекта:
1. Какие данные уходят в модель и можно ли их туда отправлять? 2. Кто проверяет результат до того, как он дойдёт до клиента? 3. Сохраняются ли запросы и ответы, чтобы разобрать инцидент? 4. Кто владелец риска «модель ошиблась» и какой план реагирования? 5. Есть ли юрист или специалист по комплаенсу среди стейкхолдеров?
💡 Регуляторы спрашивают компании о том же, о чём PM должен спросить свою команду: где контроль и кто отвечает.
Есть ли в вашей компании правила работы с AI? 👇
