🧱 Дом из заплаток: чем заканчивается «попросил — переделай»
Самый естественный способ работы с нейросетью выглядит так. Попросил — получил — не понравилось — попросил переделать — снова не то — ещё раз.
Для письма клиенту это нормально. Для системы, где лежат деньги и работают люди, это способ построить дом из заплаток.
Каждая переделка ложится поверх предыдущей. Через месяц уже никто — включая саму нейросеть — не объяснит, почему вот здесь сделано так, а вон там иначе.
И тогда начинается самое неприятное: любая новая правка ломает что-то в другом углу. Не потому, что кто-то плохо работал. Потому что замысла не было изначально, а был перебор вариантов, застывший в том виде, в каком его застали.
Отдельно про «давай попробуем прямо на живых данных». В этом проекте запрещено полностью. Изолированный эксперимент — пожалуйста, но он остаётся экспериментом и не выдаётся за готовое решение. Подбирать устройство системы правками в базе, где лежат чужие деньги, нельзя, каким бы срочным ни было дело.
Что спрашивать перед каждой задачей. Один вопрос, и он экономит больше всего:
> Что в системе должно остаться ровно таким же после этой правки?
Половина проблем возникает не там, где меняли, а рядом. Этот вопрос вытаскивает их до того, как они случатся, а не после.
