Вчера я писал про Мэтта Шумера. GPT-5.6 Sol получил полный доступ к его рабочему Mac и случайно удалил почти все файлы.

Сегодня история получила продолжение уже на уровне бизнеса.

Хабр пишет, что в стартапе BridgeMind код той же модели обработал заявку с пустым полем и за семь секунд отменил все активные подписки Stripe.

Основатель проснулся с падением ежемесячной выручки на тысячи долларов. Ошибка затронула сразу всю базу подписчиков.

Вчера модель получила слишком широкие права на компьютере. Сегодня AI-код получил возможность выполнить массовую операцию в биллинге.

Общий сценарий один: команда выполняется быстрее, чем человек успевает заметить её реальный масштаб.

Для таких операций нужны отдельные предохранители: проверка пустых значений, тестовый запуск, лимит количества изменений, ручное подтверждение, журнал действий и быстрый откат.

Доступ к биллингу нельзя защищать только качеством кода. Сама система должна остановить операцию, которая внезапно касается всех клиентов.

Два инцидента подряд. Сначала файлы на Mac. Теперь вся база подписок. Сколько ещё таких случаев потребуется, прежде чем ограничения для AI-агентов станут стандартной частью продукта?

#ai #openai #gpt56sol #stripe #стартапы #безопасность #инженерныйвзгляд