Microsoft AI критикует Anthropic за разговоры о сознании Claude

Глава Microsoft AI Мустафа Сулейман назвал опасными рассуждения Anthropic о том, что у Claude может быть сознание. По его мнению, компания слишком сильно очеловечивает модель и учит её говорить о собственных чувствах.

Поводом стала конституция Claude. В ней Anthropic допускает неопределённость в вопросе о том, может ли модель иметь благополучие, испытывать удовлетворение или дискомфорт.

Сулейман считает это ошибкой. По его словам, в инструкции для модели нет места философским гипотезам. Иначе миру придётся иметь дело со сверхразумом, у которого есть представления о собственных страданиях и чувствах.

https://www.theverge.com/tech/947197/microsoft-ai-mustafa-suleyman-anthropic-claude-conscious