Новости к 14:00
✦ США снова подбираются к нормальному надзору за ИИ. Bloomberg пишет, что в Белом доме обсуждают отдельный орган для аудита передовых моделей, формально под SEC. Идея не с потолка: похожую схему продвигает Демис Хассабис, ссылаясь на FINRA. И я тут на простой стороне: если модели уже лезут в критичные штуки, без внешней проверки это просто самодеятельность.
✦ Hugging Face показывает другой край картины. Компания говорит, что атаку на инфраструктуру провели ИИ-агенты: короткоживущие VM, несколько шагов выполнения кода, потом доступ к внутренним данным и сервисам. Инцидент заметила и отразила LLM, которая следит за логами и аномалиями. Короче, ИИ уже и атакует, и ловит сам себя.
✦ OWASP назвал Prompt Injection главной угрозой 2025 года. И это логично: запретами тут ничего не чинится, потому что модель перестаёт нормально работать. Alibaba, в свою очередь, показала Qwen3.8-Max-Preview на 2,4 трлн параметров и обещает открыть веса после релиза. Пока это красивая вывеска без независимых бенчмарков.
✦ Alibaba анонсировала Qwen3.8 — модель на 2,4 трлн параметров, веса которой обещают открыть после релиза. Уже сейчас Qwen3.8-Max-Preview можно попробовать через Token Plan, Qoder и QoderWork. В Alibaba называют модель одной из сильнейших в мире и ставят её сразу после Fable 5, но без таблицы бенчмарков, методики и конкретных баллов. На LM Arena и Artificial Analysis новинка пока не появилась.
✦ Alibaba показала Qwen3.8-Max-Preview — предварительную версию модели с 2,4 трлн параметров — и пообещала вскоре открыть веса. Компания называет её одной из сильнейших моделей в мире и ставит ниже только Fable 5, однако публичных бенчмарков и технического отчёта пока нет. Попробовать модель можно через Qwen Cloud Token Plan, в том числе в индивидуальных тарифах, а также через Qoder или QoderWork. У Qoder доступен двухнедельный Pro Trial.
✦ Группа исследователей из Princeton Superalignment опубликовала работу Measuring Intelligence Beyond Human Scale, в которой предложен новый подход к оценке больших языковых моделей — SepaRank. Фреймворк основан на состязательной психометрике: модели выступают в двух ролях — как авторы задач и как их решатели. Авторы задач получают вознаграждение за генерацию бинарных вопросов, которые вызывают максимальное расхождение в ответах пула моделей-решателей, а решатели оцениваются по точности с помощью Brier loss. Такой подход призван снизить зависимость от статичных бенчмарков, которые быстро насыщаются по мере роста возможностей ИИ. SepaRank автоматически формирует лидерборд без участия судей-людей и ориентирован на ранжирование систем, включая случаи, когда модели превосходят человеческий уровень. В работе также отмечается, что динамическое взаимодействие между моделями может создавать сложные данные, полезные для RLHF и пост-тренинга.
Источники: Метаверсище и ИИще, Habr AI, Нейроканал, Futuris, gonzo-обзоры ML статей
Все новости: ai.popovs.tech
В этом посте были ссылки, но мы их удалили по правилам Сетки
