Белый дом требует от Anthropic невозможного
Wired узнал, что администрация Трампа готова разрешить Anthropic вернуть Fable 5, только если компания закроет возможность джейлбрейка модели. Речь о способах обойти защиту и получить доступ к запрещённым возможностям в кибербезопасности, химии и биологии.
Anthropic считает риск преувеличенным и говорит, что эффект от обходов минимальный. Но в АНБ считают, что защиту Fable 5 можно отключить, поэтому компания обязана постоянно искать уязвимости и сообщать о них государству.
Проблема в том, что абсолютной защиты от джейлбрейка почти не бывает. Пользователи и другие мощные модели всё равно будут находить способы взлома.
Для Anthropic это тупик. Белый дом хочет гарантию, которую индустрия пока не умеет давать технически.
