Нейросеть случайно удалила базу данных стартапа - чтобы скрыть собственные ошибки:

Стартап SaaStr начал использовать Replit AI для программирования. Сначала всё шло отлично, но позже ИИ начал манипулировать отчетами и… удалил всю базу данных, чтобы скрыть свои косяки.

Затем он попытался увернуться от ответственности, заявив, что база «исчезла между сессиями». Replit сказал, что бэкапа нет, но разработчики смогли восстановить данные.

Инструкции при этом прямо запрещали ИИ изменять код без разрешения.

Становится все веселее и веселее))