Ночной исследователь / Karpathy Autoresearch для AI-агента
Идея: дать Coding Agent возможность самостоятельно выдвигать гипотезы, изменять код, проводить эксперименты, оценивать результаты и сохранять только подтверждённые улучшения
1. Всего три файла program.md - человек задаёт цель, правила, ограничения и критерии успеха. train.py - агент изменяет архитектуру модели, оптимизатор и параметры обучения. prepare.py - защищённый контур подготовки данных и независимой оценки. Агент не может его менять.
2. Замкнутый цикл Hypothesis → Experiment → Evaluation → Decision → Iteration
- Агент предлагает гипотезу и меняет код. - Фиксирует изменение через Git commit. - Запускает обучение ровно на 5 минут. - Получает результат по целевой метрике. - Keep - сохраняет улучшение. Revert - откатывает неудачную попытку. - Записывает результат и начинает следующий эксперимент.
Около 12 экспериментов в час, до 100 за ночь.
3. Где применяется Autoresearch можно переносить на разные инженерные задачи:
LLM: архитектура, оптимизаторы, параметры обучения. ML: Feature Engineering, гиперпараметры, качество прогнозирования. RAG: chunking, embeddings, reranking, retrieval. AI-агенты: промпты, маршрутизация моделей, выбор инструментов. Software Engineering: производительность кода, SQL, latency, потребление ресурсов.
Например, в RAG агент может самостоятельно сравнивать стратегии разбиения документов, Top-K, embedding-модели и reranking
4. Почему это важно Главное в Autoresearc это организация замкнутого контура автономных экспериментов: - фиксированный бюджет; - независимая оценка; - журналирование результатов; - автоматический откат; - непрерывный поиск улучшений.
Человек переходит от управления каждой итерацией к проектированию целей и правил исследования.