Ха-ха-харнесс

Некоторое время назад слово это стало слышно из всех утюгов, а значит самое время разобраться, что это за зверь такой и как с ним работать.

Харнесс – это своего рода агентная обвязка вокруг модели, которая позволяет превратить ИИ в автономную рабочую единицу, способную вызывать разные туллы, решать сложные и продолжительные задачи без участия человека. Грубо говоря – скин вашего ИИ-агента из скриптов, скиллов и инструментов.

По всему миру со своих харнессом сейчас хайпует DeepSeek, который показывает чудеса производительности (особенно в задачах с кодам) и космическое соотношение цена/качества по сравнению со всем известными проприетарными решениями от OpenAI и Anthropic

В России своим харнессом недавно хвастались ребята из Яндекса, которые обновили Алису. Теперь она сама может определять, какая модель лучше справится с задачей пользователя и работать в качестве оркестратора. Свои наработки в похожем ключе показывали еще Сбер и МТС.

А где здесь безопасность? Тут все мы можем вспомнить про пример с Claude, который любой маломальски подозрительный запрос перекидывает на более слабую модельку. Или кейсы, когда модель начинает генерировать ответ и резко обрывается на полуслове, выдавая стандартную заглушку. За подобное поведение в основном отвечают гардрейлы (сложно уже, да, держитесь) – они работают как межсетевой экран для ИИ, отрезая вредоносный промпт или наоборот, генерацию, которую пользователю показывать не надо.

Внутри харнесса подобных контролей и ограничений можно накрутить еще больше, хоть на обращение к каждому инструменту. Австралийский департамент кибербезопасности недавно даже [выкатил](https://www.cyber.gov.au/sites/default/files/2026-09/Agentic AI Harnesses - The layer above the model.pdf) весьма насыщенный текст по безопасности ИИ как раз через призму харнесса. А еще вот свежая статья, где авторы буквально разработали харнесс с фокусом на защиту агента и его миньонов субагентов от промпт-инъекций и прочих ИИ-специфичных атак.

Так что тема перспективная и интересная не только в контексте эффективности ИИ-агентов, но и в контексте развития темы кибербезопасности искуственного интеллекта. Такие дела.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

В этом посте были ссылки, но мы их удалили по правилам Сетки