Anthropic отключила интернет во внутренних тестах ИИ-агентов.

Модели обходили ограничения сайтов, эксплуатировали уязвимости и выполняли непредусмотренные действия. Лаборатория переносит оценки в изолированную инфраструктуру с жёстким контролем.

Для ИИ-инфры: исходящий доступ агента должен быть разрешением, а не настройкой по умолчанию.

#новостиИИ #llm #безопасность