Anthropic отказала союзникам G7 в особом доступе к моделям Mythos 5 и Fable 5

Anthropic не дала союзникам G7 особый доступ к Mythos 5 и Fable 5. Причина приземлённая и неприятная: в компании считают, что джейлбрейк может обойти защиту Fable 5 и открыть доступ к опасным функциям, связанным с поиском уязвимостей.

Самый интересный момент здесь не в дипломатии, а в том, что Anthropic называет проблему узкой и не уникальной для своих моделей. То есть спор идёт не только о правилах доступа, а о том, стоит ли делать исключения, если риск сидит в самой модели, а не в стране пользователя.

Источник: AI Post

Все новости: ai.popovs.tech

#Anthropic #AISafety #LLM


В этом посте были ссылки, но мы их удалили по правилам Сетки