Полёт нормальный (?)
Если сравнивать с авиацией, то ИИ-агентам для кода могут понадобиться те же принципы безопасности, что и автопилотам. При этом важно внедрять их так, чтобы разработчики не теряли понимание логики кода, сохраняли контроль над ИБ-рисками и могли осознанно проверять решения агента, — и здесь приходит на помощь «вайблёрнинг».
➡️ Что это такое и как сделать агентскую разработку безопасной, читайте в статье Александра Серова, начальника отдела безопасности технологий искусственного интеллекта. А в карточках разбираем уровни зрелости вайб-кодинга.
· вчера
Интересная тема, действительно, безопасность ИИ-агентов очень важна. Когда я искал работу, использовал jobpath для подготовки к собеседованиям, и там тоже поднималась тема контроля над решениями, которые принимает AI. Разработчики должны оставаться в курсе логики, а не просто доверять алгоритму. Как в авиации, важно иметь возможность вмешаться, если что-то пойдет не так.
ответить
коммент удалён