Ночной исследователь / Karpathy Autoresearch для AI-агента

Идея: дать Coding Agent возможность самостоятельно выдвигать гипотезы, изменять код, проводить эксперименты, оценивать результаты и сохранять только подтверждённые улучшения

1. Всего три файла program.md - человек задаёт цель, правила, ограничения и критерии успеха. train.py - агент изменяет архитектуру модели, оптимизатор и параметры обучения. prepare.py - защищённый контур подготовки данных и независимой оценки. Агент не может его менять.

2. Замкнутый цикл Hypothesis → Experiment → Evaluation → Decision → Iteration

- Агент предлагает гипотезу и меняет код. - Фиксирует изменение через Git commit. - Запускает обучение ровно на 5 минут. - Получает результат по целевой метрике. - Keep - сохраняет улучшение. Revert - откатывает неудачную попытку. - Записывает результат и начинает следующий эксперимент.

Около 12 экспериментов в час, до 100 за ночь.

3. Где применяется Autoresearch можно переносить на разные инженерные задачи:

LLM: архитектура, оптимизаторы, параметры обучения. ML: Feature Engineering, гиперпараметры, качество прогнозирования. RAG: chunking, embeddings, reranking, retrieval. AI-агенты: промпты, маршрутизация моделей, выбор инструментов. Software Engineering: производительность кода, SQL, latency, потребление ресурсов.

Например, в RAG агент может самостоятельно сравнивать стратегии разбиения документов, Top-K, embedding-модели и reranking

4. Почему это важно Главное в Autoresearc это организация замкнутого контура автономных экспериментов: - фиксированный бюджет; - независимая оценка; - журналирование результатов; - автоматический откат; - непрерывный поиск улучшений.

Человек переходит от управления каждой итерацией к проектированию целей и правил исследования.

Ночной исследователь / Karpathy Autoresearch для AI-агента | Сетка — социальная сеть от hh.ru Ночной исследователь / Karpathy Autoresearch для AI-агента | Сетка — социальная сеть от hh.ru