⚠️ AI-разработчики скрывают угрозы

Компании скрывают продвинутые AI-модели внутри своих систем, чтобы ускорить разработку.

Топовые лаборатории уже используют ИИ для внутренних исследований: генерации кода, проектирования архитектур и оптимизации R&D. Google, например, отмечает, что 50% кода пишется ИИ. Чем мощнее модели, тем больше шанс, что они начнут улучшать самих себя — создавая опасный цикл ускорения без внешнего контроля.

Без публичного доступа к таким системам невозможно оценить их риски: манипуляции, самосохранение или побег из песочницы. Если компания не раскрывает, как тестирует и контролирует ИИ, общество теряет возможность вовремя среагировать.

#ai_safety #ai_risks #bengio #closed_door_ai #agi #machine_learning