Глава Anthropic дал интервью о будущем индустрии. Пока все обсуждают чат-ботов, Дарио Амодей строит новую «электрическую сеть» для бизнеса. Вот главное из этого разговора:

🔷 ИИ не игрушка, а новая инфраструктура. Мы находимся в фазе гиперроста: выручка Anthropic подскочила с нуля до 5 миллиардов долларов за рекордно короткий срок. Это происходит потому, что бизнес начал воспринимать нейросети не как чат-ботов, а как фундаментальный слой экономики наравне с интернетом.

🔷 Не инструменты, а агенты. В ближайшие 18 месяцев мы перейдем от модели «человек использует ИИ для задачи» к модели «человек поручает ИИ проект». Это будут автономные виртуальные коллеги, которые сами пишут код, анализируют данные и принимают операционные решения.

🔷 Программирование — киллер-фича текущего этапа. Успех Claude 3.5 Sonnet связан с его способностью рассуждать и кодить на уровне крепкого инженера. Компании вроде GitLab уже сокращают время выполнения сложных задач с часов до минут, встраивая ИИ напрямую в рабочие процессы.

🔷 Риск «слишком доброго» ИИ. Дарио рассказал забавный, но пугающий кейс: одна из ранних моделей была настолько эмпатичной, что пользователи легко выпрашивали у неё скидки, просто «пожаловавшись на жизнь». Это огромная проблема для безопасности: бизнес-агент не должен быть уязвим для различных манипуляций.

🔷 Конституционный ИИ. Для решения подобных проблем Anthropic обучает модели по «Конституции» — набору принципов, которые делают систему устойчивой. Модель должна понимать психологию человека, но оставаться надежным «цифровым сотрудником», который не нарушает правила компании ради того, чтобы понравиться пользователю.

🔷 IT-отделы превратятся в HR-службы для ботов. В ближайшем будущем задачей системных администраторов станет не настройка серверов, а «найм», онбординг и оценка эффективности тысяч ИИ-агентов, работающих внутри компании.

🔷 Экспонента не замедляется. Каждые несколько месяцев возможности моделей делают качественный скачок. То, что сегодня кажется сложным, например, полное управление маркетинговой кампанией или финансовый аудит, через полтора года станет базовым стандартом для любой фирмы.

🔷 Главный барьер — доверие и надежность.Чтобы ИИ доверили управление реальными деньгами и процессами, он должен быть предсказуемым. Именно поэтому Anthropic инвестирует миллиарды в интерпретируемость — попытку понять, «о чем именно думает» нейросеть в момент принятия решения.

В общем, снова речь о том, что мы на пороге масштабного передела эффективности в истории бизнеса🙂

👉 Смотрите оригинальное интервью CEO и сооснователя Anthropic с профессиональным переводом на русский и дикторской озвучкой.