OpenAI предупреждает о рисках новой модели Astra

Новая разработка под названием Astra стала первой моделью OpenAI, получившей статус критического риска в сфере кибербезопасности. Модель способна самостоятельно находить и использовать уязвимости в реальных компьютерных системах без помощи человека.

Из-за высокого потенциала автономных атак компания частично ограничила работу над проектом, чтобы внедрить дополнительные защитные механизмы и протоколы мониторинга перед публичным выпуском.

Ссылка: https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/ @AIandproducts