Context is all you need
Я оч хорошо помню свое впечатление от GPT 3.5, уже тогда я офигел от того, что оно может Но сейчас — мое увожение
Модели прекрасно слушаются, понимают, что я от них хочу и поправляют штуки, которые у мидла вызвали бы проблем на день-второй Я уже часов 12 пишу код, в в него залез только один раз, и то, чтобы лучше "указать" что делать.
Про объем контекста вообще молчу. Да, наверное для большого корпората с сотней репов контекста маловато, но, что-то я сомневаюсь, что это проблема объема контекста Это скорее проблема контекст-инжиниринга. Под корпората нужно создавать мемори бэнки и контекст ритривмент конвейеры. Которые от описанной спеки начинают собирать архитектуру, связанный код (вероятно, для которого нужна графовая база, которая содержит ключевые связи, сформированные на основе AST и данных об интеграции)
Другими словами, разница в работе на маленьком проекте и на большом лишь в одном:
- на малом модель прекрасно сама собирает контекст, потому что это легкая задача, пройтись по докам, заглянуть в роутинг, найти нужные компоненты и их шаблоны
- на большом проекте сам человек не всегда способен собрать (нет нормальной доки, нужно ходить у всех спрашивать, получать доступы, перебирать репозитории, искать спеки по конфлюенс через поиск в рандомном порядке вычитывая старые и не актуальные страницы)
И как будто, это вообще не проблема дата-саенс, это проблема организации документации.Ставлю пиво, те у кого с докой всегда был порядок не испытывают проблем с сбором контекста для модели
Контекст, это все, что нам нужно для решении задачи. И я сейчас не про модели и агентов)