Ликбез. ИИ и взаимодействие пользователя.
В заметке про миры пользователя я написал: «Вы его полгода этому учили». Но если при обучении у модели подкручивают параметры, значит ли это, что после каждой нашей беседы кто-то лезет туда с отверткой?
Нет. Перед ответом модели выдают папку: правила, предыдущую переписку, новый вопрос. Она читает и продолжает. Если там двадцать страниц о том, как мама готовила ракету к параду, рама выглядит уже неуместно. Параметры прежние, но условия задачи теперь такие.
Часть этой папки вы можете написать сами. В пользовательских инструкциях указать: отвечай коротко, проверяй исходные предпосылки, не соглашайся со мной только потому, что я уверенно несу чушь. Последнее, кстати, иногда полезнее первых двух.
У агентов для подобных правил часто есть файл AGENTS.md. Там можно написать: вот устройство проекта, вот как его проверять, сюда без необходимости не лезь, а если попросили поменять кнопку - не надо заодно переписывать бухгалтерию.
Это инструкция сотруднику на первый рабочий день. Но первый рабочий день у него начинается перед каждой задачей. Поэтому «мы же договаривались» лучше положить в файл, который агент прочитает, а не хранить в собственной обиде.
Папка однако не резиновая, подробнее об этом поговорим в следующем посте. Когда разговор разрастается, старое приходится убирать или пересказывать. Вы помните, как подробно объяснили, почему мама никак не могла мыть раму. Модели досталось краткое содержание типа «Обсуждали маму, что-то мыла».
Что - не помню.
Память между разговорами часто устроена похоже. Приложение подкладывает в новую папку записку: «Пользователь критикует Астартес, живет в Нидерландах, раму не предлагать».
Поэтому полгода разговоров могут заметно изменить ответы, не изменив саму модель. Пока нужные сведения лежат перед ней, она их учитывает. Инструкции тоже не дают гарантии послушания, но хотя бы сообщают, чего вы хотели. Без них агентам приходится угадывать, а с бредогенерацией у этих товарищей все хорошо.
Вы строите с ними отношения, а они ведут протокол допроса.
В этом посте были ссылки, но мы их удалили по правилам Сетки
