💰 Anthropic выделит $5 млн на проверку влияния искусственного интеллекта на психическое состояние людей
🧠 Anthropic запускает грантовую программу на $5 млн. Деньги пойдут на независимые исследования, которые помогут понять, как модели искусственного интеллекта влияют на самочувствие пользователей. Участникам дадут не только финансирование, но и доступ к моделям Claude, а также техническую поддержку.
📌 Главная идея в том, что такие исследования будут полностью независимыми. Все результаты пообещали публиковать в открытом виде, чтобы ими могли пользоваться разработчики по всей отрасли. Это попытка создать общие правила для оценки того, где искусственный интеллект помогает, а где может навредить.
Оценивать влияние на благополучие особенно сложно: один и тот же ответ в одной ситуации может быть полезным, а в другой — опасным.
💬 В Anthropic прямо признают, что модели все чаще становятся не просто рабочим инструментом, но и собеседником. Люди обращаются к ним за поддержкой в трудные моменты, а иногда обсуждают с ними одиночество, стресс и даже кризисные состояния. Именно поэтому обычной проверки одного ответа уже недостаточно — нужен контекст всей беседы.
⚠️ Например, совет про питание и тренировки сам по себе может выглядеть безобидно. Но если у человека есть признаки расстройства пищевого поведения, такой ответ уже может причинить вред. Компания хочет, чтобы новые проверки учитывали длинные диалоги, изменение контекста и риск того, что модель либо скажет лишнее, либо, наоборот, откажется помогать там, где это было бы уместно.
Нам нужны проверки, которые оценивают и риск вредного ответа, и риск излишнего отказа.
👩⚕️ Anthropic отдельно подчеркивает: к таким исследованиям хотят привлечь психологов, врачей и специалистов по методике оценки. Заявки принимают до 21 сентября, а приглашения на следующий этап отправят до 5 октября.
Итог простой: рынок искусственного интеллекта быстро растет, а понятных стандартов безопасности для эмоционально сложных разговоров пока нет. Если у Anthropic получится запустить сильные независимые проверки, это повлияет и на пользователей, и на весь рынок — от качества защиты до правил работы чат-ботов в чувствительных темах.
