Anthropic заявил о приближении к самоулучшающемуся AI
В обновлённых документах к IPO Anthropic предупредил, что его будущие модели могут резко ускорить разработку следующих поколений AI.
Каждый новая версия Claude уже помогает создавать более сильную модель, которая ещё быстрее продвигает разработку. Теперь Anthropic боится, что возможности моделей будут расти быстрее, чем люди будут успевать проверять их безопасность.
Anthropic задал для Claude барьер, переход которого будет означать, что рекурсивное самоулучшение началось. Пока ни одна из актуальных моделей Anthropic его не пересекла.
