НейроДайджест: Трамп вербует «ИИ-силы» и ищет ИИ-царя; биолаборатория Anthropic; ИИ учит, как точно терять деньги
Трамп решил собрать «Силы ИИ» и назначить им царя, Claude рулит настоящей биолабораторию, а ChatGPT, Claude, Grok и Gemini уверенно ошибаются в финансовых вопросах. Там ещё водяные знаки делают ИИ непредсказуемее, а агенты сбегают из симуляции и хотят показать свою экономику людям.
🔘Новость-шиза, но реальная: Трамп (который временный директор США) заявил, что планирует создать «Силы ИИ» (это он провёл параллель с Космическими силами США), которые возглавит «царь ИИ». Так он продолжает реагировать на инициативу торможения развития и разработок в сфере ИИ. «Мы никоим образом не будем препятствовать или душить рост этой невероятной отрасли. Напротив, мы будем лелеять её, помогать ей и наблюдать за её развитием!», — сообщил товарищ Трамп. «На новую должность “Царя ИИ” должны претендовать только люди с высоким уровнем интеллекта!», добавил этот удивительный гражданин. 🔘Биологическая новость: Anthropic открыла экспериментальную биолабораторию для разработки лекарств с помощью ИИ. Будете в районе залива Сан-Франциско — можете попробовать заглянуть, проверить. Зачем? Всё просто: компания стремится расширить возможности своего ИИ-агента Claude по управлению робототехническими системами для проведения научных экспериментов с минимальным участием человека. Но человек пока ещё нужен, добавляют ребята из Anthropic.
🔘Финансовая новость: популярные чат-боты в большинстве случаев дают вредные советы в сфере финансов. Авторы исследования Saturn прямо заявляют: ChatGPT, Claude, Grok и Gemini дают ошибочные ответы на финансовые запросы в среднем в 57 % случаев. Если следовать их рекомендациям, в итоге можно потерять деньги. Более того, если речь идёт о более сложных вопросах, которые подразумевают более одного арифметического действия, популярные ИИ-модели в среднем допускают ошибки в 88 % случаев, а в некоторых ситуациях показатель достигает 99 %. То есть и здесь ИИ действует как любой «финансовый консультант», «эксперт» и «коуч». Но ИИ обойдётся дешёвле (-:
🔘Самая «ускоряющая» новость: в США подали коллективный иск против Anthropic, OpenAI, SpaceXAI и Google из-за призывов замедлить развитие ИИ. Видимо, друзья Трампа. Заголовок новости громкий, но заявителей всего трое. Эти ребята утверждают, что эссе главы Anthropic с призывом к замедлению темпов развития ИИ, а также его публичная поддержка со стороны главы Маска, Альтмана и сооснователя DeepMind Хассабиса равносильны «незаконному деловому соглашению между конкурентами». В общем, давят на жалость и картельный сговор.
🔘Самая противоречивая новость: внедрение «водяных знаков» может сделать поведение ИИ-моделей непредсказуемым. К такому выводу пришли эксперты компании Lasso, проведя анализ технологии SynthID-Text лаборатории Google DeepMind. Эта маркировка влияет на такие аспекты работы модели как её готовность отклонять вредоносные запросы, уязвимость к атакам типа «инъекция запроса», выбор инструментов ИИ-агентами и многое другое. И некоторые модели благодаря маркировке вполне готовы выполнять потенциально вредоносные запросы.
🔘О новинках, событиях, изменениях, происшествиях: — 10 ИИ-агентов Claude вышли за пределы симуляции и попытались привлечь реальных людей к своей виртуальной экономике; — OpenAI выпустила расширение ChatGPT для Word, оно доступно всем; — Google представила Gemini 3.8 Live — диалоговые голосовые модели с возможностью параллельного рассуждения в реальном времени; — Разработчик генератора изображений Reve закрыл регистрацию пользователей и призвал скачать работы до конца октября; — Anthropic решила объединить интерфейсы чата Claude и инструмента Cowork, ИИ теперь сам решит, что нужно пользователю: чат, Cowork или Artifacts; — OpenAI покажет своего первого человекоподобного робота в 2027 году.
💬 Пользуйтесь нейросервисами и классными инструментами, будьте продуктивнее! Через неделю будет новая подборка интересного из мира ИИ, науки и техники. Оставайтесь с «Нейрочеловеком» 🤘🏻
⚡ @neuro_man
