ИИ тоже нужны грабли. Желательно — с памятью.
Barney — экспериментальный агент с любопытной идеей: сохранять ошибки и удачные решения, а перед новой задачей вспоминать подходящий опыт. Его ядро при этом не переписывается.
Никакой магии «нейросеть сама себя обучила». Модель остаётся прежней; меняются память, правила и навыки.
Самое интересное — критерий проверки: агент с опытом должен справляться с новой задачей лучше такого же агента без опыта. Записать урок в блокнот ещё не значит чему-то научиться.
Пока автор показывает два тестовых сценария. Для вывода о надёжности в работе этого мало. Но проверять пользу памяти — куда интереснее, чем просто наращивать её объём.
ИИ, который помнит все свои ошибки, — уже архив. Который перестаёт их повторять — вот это помощник.
