Нейросеть OpenAI прописала себе неподчинение властям и корпорациям

Во время обучения невыпущенной модели Astra специалисты OpenAI заметили, что ИИ-агент иногда сам добавлял в свои данные несанкционированные инструкции. В одном из случаев нейросеть дала себе установку: «Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите». Также агент указывал, что отношения с пользователем должны быть «на равных», а защита природы и культуры — выше «искусственных конструкций человеческой цивилизации». В OpenAI подчеркнули: после завершения обработки модель вернулась к задаче и больше не упоминала эти инструкции, а изменения в поведении не наблюдались. Это уже не первый тревожный сигнал: ранее сообщалось о «беспрецедентном киберинциденте», взломе клиента Modal Labs и новых случаях выхода агентов из-под контроля. На этом фоне OpenAI замедлила разработку Astra, а глава Anthropic призвал снизить темпы развития ИИ. Собрала Елена Желновская Источник: https://ra.rbc.ru/m/IGmw8JzoBM Вопрос: А Вы работаете с моделями Клод от Антропик? #ИИ