Во вторник я рассказывала про шесть вопросов, которые независимая организация Guidelight задала пяти ИИ-гигантам — OpenAI, Anthropic, Google, xAI, Meta*. Ни одна не получила высокий балл ни по одной практике контроля над собственными моделями.

🔍 Напомню сами вопросы:

1. Остаётся ли след — сможете ли вы через две недели посмотреть, что именно система сделала 2. Проверяли ли вы, что защита реально работает 3. Есть ли действия, которые система физически не может сделать без вашего участия 4. Остановится ли всё само при подозрительной активности 5. Смотрел ли кто-то со стороны на то, как у вас всё настроено 6. Есть ли у вас план на первые десять минут, если что-то пойдёт не так

Буквально два дня назад — свежий показательный пример. Автономный ИИ-агент Meta Muse по первой же просьбе исследователя безопасности отдал 6,8 ГБ своей внутренней файловой системы, включая SSH-ключи. Meta закрыла репорт статусом «Not Applicable».

А что если те же шесть вопросов задать не компании с тысячами инженеров, а одному человеку?

🧭 Таня Мирошина — предпринимательница из Италии, у неё несколько малых бизнесов, например, производство кожаных изделий — ничего общего с IT. В какой-то момент она настолько глубоко зашла в тему искусственного интеллекта, что теперь сама проектирует системы для своих и чужих проектов и ведёт вебинары про ИИ в Клубе женских стратегий. Для меня она ролевая модель гибкости в условиях технологической трансформации — человек без айтишного бэкграунда, который не побоялся зайти глубоко и перестроиться.

Вопросы Guidelight она нашла сама и уже разбирала на одном из практикумов в Клубе. А по моей просьбе — опубликовала у себя в канале серию постов, честно ответив на них не от имени компании, а от себя лично.

Все шесть ответов — отрицательные. Не потому, что человек небрежен. Вот два примера, которые показались мне особенно показательными.

По первому вопросу (про след) дело в скорости: задач так много, что часть из них проходит через инструменты, работающие «под капотом», и восстановить, что именно происходило хотя бы позавчера, уже не получается.

По третьему (про действия), которые система не может сделать без участия человека, обнаружилась более тонкая история. Ограничение легко поставить, но так же легко снять одним движением, если в моменте это удобнее. Действие проходит, а ограничение назад не возвращается, не по злому умыслу, а просто потому что об этом никто не вспоминает.

Тот же разрыв, что у гигантов с тысячами инженеров, только в масштабе одного человека с ноутбуком.

У меня за плечами бэкграунд в кибербезопасности, и я регулярно повторяю одно и то же: сейчас у всех эйфория от лёгкости применения ИИ. Но рано или поздно каждому, кто в этой эйфории живёт, придётся пройти через боль столкновения с реальностью и рисками, теми самыми, о которых Таня сейчас пишет в канале, а кибербез твердит давно. При этом многие такие истории мы просто никогда не услышим — признаться в подобном значит рискнуть репутацией, а для компаний ещё и деньгами инвесторов.

Эти шесть вопросов не про то, кто умнее. Они про то, догадался ли кто-то вообще их себе задать.

А вы бы как ответили на эти шесть вопросов?

Канал Тани «Между» — https://t.me/mejdu_ai Сайт Тани «Цифровой критерий» — https://ru.criteriodigitale.it/

* Meta Platforms Inc. признана в России экстремистской организацией, её деятельность на территории РФ запрещена.