Новости к 14:00

✦ Ну вот. 3D-сканер комнаты из телефона — штука вполне прикладная. Снимаешь пространство на смартфон, а дальше SAM, CLIP и DINOv2 собирают из видео облако точек, навешивают на него смысл, масштабируют под реальные метры и отдают чертёж. Без дообучения. Идея простая: если нужно прикинуть мебель или планировку, руками мерить всё это давно надоело. Я бы как раз такие вещи и называл нормальным применением ИИ — без театра, просто берёшь и проверяешь на своей комнате.

✦ Ну наконец-то. OpenAI показала GPT-Red — внутреннюю штуку, которая не помогает пользователю, а ломает другие модели. Она ищет prompt injection, data exfiltration и дыры в агентных системах, где модель читает веб-страницы, файлы, письма и tool output, а потом может схватить вредную инструкцию.

Работает это как автоматизированный red team. Модель получает цель, пробует атаку, смотрит на ответ системы, улучшает атаку и идёт ещё раз. OpenAI обучала её через self-play reinforcement learning: атакующая модель получает награду за успешный сбой, defender-модели — за устойчивость к атаке и за то, что не теряют исходную задачу.

GPT-Red не дают пользователям. Она живёт только внутри компании. И да, OpenAI уже использовала её, чтобы собрать сильные prompt injection атаки и добавить их в обучение GPT-5.6 Sol, чтобы та лучше держала вредные инструкции из документов, сайтов, писем и вывода инструментов.

✦ OpenAI создает GPT-Red для red teaming. По сути, это модель для имитации реальных атак на ИИ-системы. Не для пользователей, а для поиска слабых мест.

✦ Apple, по сообщениям, снова смотрит на ИИ-чипы. Не на софт и не на очередной app layer, а на железо. И это нормально: если ИИ-системы становятся тяжелее и жрут больше вычислений, хочется контролировать стек целиком самому.

✦ Thinking Machines выкатили Inkling — открытую мультимодальную модель с MoE и контекстом до 1 миллиона токенов. 975 миллиардов параметров, из них 41 миллиард активны на запрос. Модель обучена с нуля, ориентирована на кодинг, работу с инструментами и длинные агентные задачи.

У неё нормальная позиция: не обещать победу на всех бенчмарках, а дать штуку, которую можно подогнать под свои процессы. Веса открыты, дообучение есть через Tinker, плюс есть облегчённая версия Inkling-Small с 12 миллиардами активных параметров. Обе модели лежат в Tinker и на Hugging Face. Это мне куда ближе, чем маркетинговый туман.

✦ Демис Хассабис снова уводит разговор в сторону AGI. Он пишет, что это может случиться через несколько лет и ударить по миру сильнее промышленной революции. Прогноз смелый.

Но важнее другое: когда даже самые аккуратные люди всерьёз говорят про безопасность, индустрия уже давно перестала быть игрушкой. Он отдельно предупреждает про гонку между компаниями и странами, про киберриски, а в будущем — и про биологические с ядерными. И да, мер безопасности и регулирования теперь надо не ждать, а строить уже сейчас.

Источники: Habr AI, Метаверсище и ИИще, ICT.Moscow AI, GPT/ChatGPT/AI Central Александра Горного, AI Post

Все новости: ai.popovs.tech

#ComputerVision #MachineLearning #multimodal

В этом посте были ссылки, но мы их удалили по правилам Сетки