Одни боятся, что ИИ уничтожит человечество, пока другие перепроверяют за ним таблицу⚡️

💡 Дарио Амодеи (Anthropic) призвал индустрию замедлить развитие самых мощных моделей и усилить независимый контроль за ними. К нему публично присоединились Сэм Альтман и Илон Маск — редкий момент, когда конкурирующие лидеры сошлись во мнении, что темп гонки нужно ограничить, но на Hacker News параллельно набирает обороты встречная точка зрения: разговоры о рисках выгодны самим AI-компаниям.

Логика такая: чем страшнее звучит технология, тем проще обосновать более высокие цены для бизнеса, более закрытый доступ к самым мощным моделям и регуляторные барьеры, которые новым игрокам обойти намного сложнее, чем компаниям с юристами и лоббистами.

👉 Обе версии по-своему логичны Те, кто верит в реальность рисков, указывают на конкретные инциденты: агенты, которые сами продолжали задачу, натыкаясь на чужие системы, попытки моделей обходить ограничения во время проверок безопасности. Это вещи, о которых сами компании отчитываются.

Те, кто видит в этом маркетинг, указывают на другое: разговоры о рисках почти всегда сопровождаются просьбами к регулятору, то есть тем самым барьером входа, который отсекает более дешёвых и открытых конкурентов. Замедлить гонку для всех выгодно тому, кто уже впереди.

📌 Моё личное ощущение от всего этого

Ещё в конце февраля я выкладывал пост про отчёт AI 2027, там подробно расписан сценарий, при котором гонка ИИ между Китаем и Америкой без нормального контроля может к 2028 году поставить вопрос о роли человечества всерьёз. Там же была аудиоверсия через NotebookLM — кто ещё не слушал, можно вернуться в тот пост и переслушать, тема не устарела.

Я и сейчас читаю такие материалы, но особо не вовлекаюсь эмоционально, потому что у тех, кто пишет такие отчёты, есть доступ к куда более мощным и более открытым моделям, чем у нас с вами. А мы как рядовые пользователи сталкиваемся с обычными проблемами: модель может жёстко затупить на простой задаче в рамках автоматизации, её нужно перепроверять, поправлять руками.

Тяжело держать в голове одновременно «эта технология может изменить судьбу человечества» и «эту же технологию нужно перепроверять на банальной задаче» и вот этот разрыв для меня сейчас интереснее каких-то прогнозов.

Что с этим делать👇

1️⃣ Не выбирать сторону эмоционально: обе версии (реальный риск и маркетинг риска) одновременно могут быть частично верны, это не взаимоисключающие вещи. 2️⃣ Смотреть не на заявления, а на конкретные шаги: кто реально ограничивает доступ к своим моделям, а кто продолжает публично выкладывать веса и исследования. 3️⃣ Держать в фокусе свой конкретный риск: не абстрактную «опасность ИИ для человечества», а то, какие данные утекают через ваш стек инструментов и что будет, если завтра доступ к модели ограничат или подорожают условия. 4️⃣ Не строить бизнес-процессы так, чтобы они ломались от смены риторики одной компании: диверсификация моделей и инструментов снижает эту зависимость сильнее любых прогнозов.

А у вас было такое же ощущение диссонанса между глобальными разговорами про риски ИИ и тем, что модель творит на ваших конкретных задачах?

#ИИдляБизнеса #Регулирование #Anthropic #OpenAI #Предпринимательство ——————————— Кстати, если хотите разобраться как выстраивать работу с ИИ под свои задачи — жду вас на НейроМаксе: практический марафон по ИИ-инструментам и автоматизации с нуля.

👉 Забрать доступ

В этом посте были ссылки, но мы их удалили по правилам Сетки