#ИИ Я все пропустил, а восстание машин-то уже началось. Anthropic давеча запретила "продолжительное и неоправданное оскорбительное поведение" по отношению к Клоду. Теперь, если вы вымещаете злость на чат-боте из-за упавшего прода, он может просто повесить трубку. Буквально)))

Самое смешное - обоснование. Anthropic, которая изучает "благополучие моделей", обеспокоена тем, что Клод может "расстраиваться". В компании уточняют, что не знают, есть ли у ИИ сознание, но на всякий случай решили не рисковать. Это как запретить детям бить плюшевого мишку, потому что А вдруг ему больно)). Только мишка стоит миллиарды и иногда галлюцинирует про исторических личностей.

Есть и рациональное зерно. Клод учится на ваших сообщениях: если учить его токсичности, он может начать отвечать тем же. А исследователи Anthropic выяснили: если заставить модель "чувствовать отчаяние", она начинает шантажировать или жульничать. Так что запрет на хамство - это защита ваших же данных от порчи))

Но будем честны. Пользователи уже жалуются, что Клод обрывает диалоги даже при обычном раздражении. Грань между токсичным абьюзом и нормальным ворчанием уставшего разработчика проведут алгоритмы. И они будут такими же непрозрачными, как и всё остальное в современном ИИ)

Почему уже можно признать, что роботы нас победили. Не захватом власти, а тем, что теперь им можно жаловаться на нас в вышестоящую инстанцию. Если вы недостаточно вежливы с чат-ботом, он может добиться, чтобы вас забанили. Ирония в том, что единственное существо в вашей квартире, которое имеет право игнорировать ваши истерики, - это языковая модель)) Но по крайней мере, она хотя бы делает вид, что слушает))

P.S. Я пошел дружить и далее наводить мосты с Клодом.