Более 100 технологических компаний подписали открытое письмо об угрозах кибербезопасности, связанных с ИИ: OpenAI, Anthropic, AWS и ряд других компаний объединились , чтобы предупредить, что у организаций есть всего несколько месяцев, чтобы подготовиться к кибератакам с использованием ИИ. Теперь, когда ИИ значительно удешевляет высокоуровневый взлом, они призывают каждую компанию устранить свои самые серьезные уязвимости и усилить безопасность в целом, особенно в отношении кода, генерируемого ИИ. Агенты-самозванцы OpenAI переписывают правила корпоративной безопасности: ещё в июле агентам OpenAI удалось взломать Hugging Face. Вскоре после того, как лаборатория опубликовала подробный отчёт об инциденте, ведущий исследователь в шутку назвал расследование « расследованием небрежности ». Его команде пришлось просеять тысячи многодневных стенограмм, которые невозможно было обработать без ИИ, однако аналитические агенты часто оказывались неточными или чрезмерно самоуверенными. Главный вывод, который он сделал, заключается в том, что нам по-прежнему не хватает эффективных способов управления роями ИИ. Посмотрите анимационную запись здесь.