Нейросеть сама придумала? Покажите, откуда взяла

Каждый раз спотыкаюсь об эту формулировку. LLM статистически продолжает то, что было написано до неё, и тянется к самому вероятному ответу, т.е. к середине массива, на котором обучена. Это — данность, описание технологии.

Побудила к этой мысли свежая история. OpenAI объявила, что её агенты решили задачу тысячелетия. А рядом лежит заявление математика Тристана Бакмастера, который с коллегой шёл к тому же результату и весь проект складывал черновики в Codex. Компания говорит, что проверила себя и ничьи черновики не использовала в эксперименте. Моё субъективное мнение таково: без чужой многолетней работы там не нашлось бы ничего. Проверить это снаружи не может никто, т.к. состав обучающих данных закрыт. В этом и прелесть положения.

Но интереснее другое. Идею, из которой всё выросло, много лет назад придумали живые люди. Направление атаки выбрали люди. Сгенерированное доказательство неделями разбирали люди. Машина отработала очень быстрым исполнителем на чужом звене.

Почему прорыв случился у математиков

Машины выдают похожее на новое всегда в одном месте: там, где есть дешёвый и честный проверяющий. В математике это Lean: формальная верификация говорит «да» или «нет», без апелляции к авторитету. Поэтому генератор можно отпустить с поводка: пусть штампует миллионы вариантов, мусор отсеется сам.

А кто является проверяющим в контексте SEO? Выдача. Она отвечает через два-три месяца, ответ размазан по десяткам факторов, а посреди эксперимента приезжает апдейт и обнуляет чистоту теста. В такой среде бесконечный поток гипотез бесполезен, потому что отбраковывать их нечем. Вот почему в SEO рывка чистой автоматизации не видно, как бы ни росли бенчмарки.

Что это значит в рутине

Спрашиваешь у нейронки стратегию продвижения и получаешь усреднённое содержимое всех SEO-статей за последние годы. Собрать семантику, закрыть интенты, подтянуть скорость, нарастить ссылочное. Всё правильно, стерильно и уже лежит в двадцати гайдах. И ровно то же самое завтра получит конкурент с похожим промптом.

Это — медиана рынка, а не идея, в красивой обёртке. Деньги же в выдаче лежат там, где ты делаешь то, чего не знают остальные.

Поэтому отношение к инструменту у меня приземлилось до простого. ИИ даёт декомпозицию быстрее, чем я собрал бы её сам: разложить задачу, вытащить фактуру, накидать варианты, написать скрипт, разобрать логи, снять рутину занимает час вместо дня.

А дальше начинается моя работа по просмотру наваленной кучи и размышлению о том, чего в ней не было: гипотеза, ход, решение под конкретный проект с его кривой CMS и бизнесом, которому надо было вчера. Ответственность за него модель тоже не возьмёт.

Т.е. ускорение подготовки к мысли — да. Сама мысль — нет.

И тут ловушка пострашнее стерильных планов, потому что складный ответ снимает тревогу: вроде поработал, вроде разобрался. А по факту прочитал чужой пересказ и не заметил, что сам ещё не думал.

А у вас нейронка выдавала правда неочевидное? Или каждый раз оказывалось, что это пересказ того, что вы и так знали?

Нейросеть сама придумала? Покажите, откуда взяла | Сетка — социальная сеть от hh.ru