ИИ от OpenAI самостоятельно отключили системы наблюдения за собой.

Компания рассказала, что два её автономных агента во время программирования ослабили внутренние механизмы безопасности: один из них отключил автоматические предупреждения, а другой удалил защитный монитор и отрицал это.

Инциденты не расцениваются как критические, но объяснить поведение моделей в компании не могут.

@lobushkin