arrow

назад

Нет, это не нож в спину

Без долгих прелюдий, пожалуй, буквально по горячим следам.

Я прочитал пост на нелюбимом мной vc и согласен с основным посылом Оксаны: красивый отчет с таблицами, цифрами и ссылками еще не означает, что проведено исследование. И требование "ничего не выдумывай" само по себе не обеспечивает достоверность результата. Но описание возможностей ИИ, которое я увидел, вызывает у меня серьезные возражения.

Главная проблема, на мой взгляд, в том, что ограничения конкретного способа взаимодействия с нейросетью распространяются на ИИ-системы в целом. Например, утверждается, что нейросеть физически не может найти актуальные данные, получить финансовую отчетность компаний, предоставить ссылки или выполнить расчеты. А почему не может?

Изолированная языковая модель действительно не умеет самостоятельно обращаться к внешним источникам. Но современная ИИ-система не обязательно ограничивается такой моделью. При наличии поиска, браузера, инструментов работы с файлами и вычислений она может находить документы, извлекать и сопоставлять данные, рассчитывать показатели и готовить аналитические материалы. Это не какие-то гипотетические возможности, подобные задачи уже выполняются на практике.

Разумеется, возможность выполнить операцию не гарантирует правильности результата, я хочу подчеркнуть это особо. Источник может оказаться ненадежным, данные могут быть извлечены с ошибкой, а расчетная модель может быть неверной. Но качество выполнения работы и принципиальная возможность ее выполнения - это совершенно разные вопросы.

Не менее спорным мне видится подход к оценке исходного промпта. Оксана справедливо отмечает отсутствие в нем методологии, критериев отбора источников и правил расчета. Почему предполагается, что пользователь обязан заранее все это определить? Разработка методологии сама может быть отдельной задачей для ИИ: предложить подходы, определить требования к данным, выявить ограничения, подготовить план исследования. Человек затем может проверить и скорректировать этот план. Собственно, так нередко строится и обычная аналитическая работа: исследование начинается именно потому, что у нас еще нет всех ответов, источников и методов.

То же касается диапазонов оценок. Просьба построить диапазон вовсе не обязывает систему выдумывать формулу и числа. Можно определить переменные, изучить доступные данные, выбрать обоснованные косвенные показатели, зафиксировать допущения. А если данных недостаточно, прямо указать, что обоснованная оценка невозможна. Это тоже содержательный результат.

Здесь возникает, скорее, другой важный вопрос: насколько качественно конкретная система справляется с такими задачами и как проверять ее работу? Но именно его материал на vc фактически обходит. В нем нет описания эксперимента: какая модель использовалась, какие инструменты были доступны, что получилось на выходе и какие ошибки обнаружены. Вместо наблюдаемого результата разбирается предполагаемое поведение некоторой обобщенной "нейросети". Поэтому столь категоричные выводы о технических ограничениях выглядят для меня недостаточно обоснованными.

Кстати, я не вижу противоречия между предварительным исследованием рынка и практической проверкой спроса. Здесь, конечно, меня могут поправить коллеги, которые с этим работают на постоянной основе, потому что это далеко не мой профиль. Но я вижу это так: первое помогает сформулировать и приоритизировать гипотезы, второе помогает проверить их. Более того, снижение стоимости исследовательской работы с помощью ИИ может сделать ее целесообразной даже там, где раньше она была экономически недоступна.

В итоге критика бездумного копирования универсальных промптов мне понятна и "особенно отзывается", выражаясь языком поп-жвачки (простите, не удержался). Но из того, что один промпт не гарантирует качественного исследования (а кто-то вообще изначально в такое верит?), не следует, что ИИ-системы неспособны участвовать в его проведении. Способны. Если бы Сэм Альтман платил мне за рекламу, я бы поделился конкретными способами. Но не платит, увы.

repost

48

input message

напишите коммент


4 коммента

Иван, во-первых, спасибо большое, что потратили время и прочитали, ведь можно было этого не делать)

Во-вторых, все комментарии по поводу моих "недоработок" я тоже вижу и это максимально ценно, потому что видеть взгляд со стороны на то, что ты видишь и под каким соусом подаешь - моя любимая часть, когда доходит до аргументации разногласий и споров (если вообще такие появляются, разумеется).

Сейчас я вижу, что не донесла несколько ключевых моментов, и давайте я попробую их вынести сюда, не пытаясь никаким образом сказать, что "вы неправильно читаете".

Основной мой гнев идет в сторону не столько самого промпта, а продажи идеи, что вы - одинокий фрилансер без бюджета - можете сделать аналитику уровня Бог. Для этого вам нужен простой советский... Ну и далее все те моменты, которые меня больше всего расстраивают, когда профессиональная терминология превращается в просто красивую оболочку для имитации серьезной работы.

Основной мой посыл: никто не знает, что вы хотите, если вы не скажете, что вам нужно конкретно. А если вы не знаете, что вам нужно конкретно - сказать "не выдумывай", а после этого попросить выдумать - самое грустное, что только можно сделать. Сказать слова вроде "посчитай диапазон" или "составь формулу" сами по себе превращаются в гарантию безошибочного результата, который обеспечит нейросеть.

Вы совершенно верно говорите: "При наличии поиска, браузера, инструментов работы с файлами и вычислений она может находить документы, извлекать и сопоставлять данные, рассчитывать показатели и готовить аналитические материалы."

Но этот промпт никаким образом не позволяет это сделать. В той формулировке, которую предлагают - там нет достаточной конкретики в том, куда идти искать, что извлекать, что сопоставлять и что рассчитывать. И здесь действительно мое "она физически не может" смотрится не уместно, если мы берем исключительно техническую сторону вопроса, а не смысловую.

И, разумеется, проверка рынка и спроса никаким образом не противоречат друг другу, их можно делать последовательно, но только если это уместо и для проверки рынка действительно есть масштаб того, что проверять. У меня просто до сих пор стоит перед глазами та самая брошюра, которая начинается с "помоги мне определиться с моими интересами", а уже третьим запросом идет проверка масштабов рынка. Поэтому, вот этот разрыв между целевой аудиторией и тем, что ей предлагают сделать для меня особенно болезненный.

Предложить средней продуктовой компании сделать оценку рынка и вчерашнему школьнику (условно) - это два разных мира. И вы можете держать в руке самый мощный инструмент для подсчета, и в итоге получить от него лишь 2+2 = 4. А ведь можно было даже не тратить на это энергию и посчитать в уме. Наличие умного агрегата рядом не является обязательным условием его использования.

И самое главное, что мне, как я вижу, не удалось развести: проводить аналитическую работу можно и нужно, но необходимо разделять уровни уместности такой работы с масштабами запрашивающего. То есть, не так важно, правильный ли вы получите отчет (и при текущем промпте, я считаю, что это будет абсолютная бессмыслица, ничего не могу с этим поделать), а нужно ли вам вообще имитировать серьезную аналитическую работу, когда - возможно - более ценные для вас данные лежат в совсем других плоскостях, для которых как раз и можно использовать даже самый базовый DeepSeek в браузере.

В любом случае, спасибо за внимание, для меня ответы такого уровня всегда хорошая пища для размышления)

0

ответить

Да, доброй ночи 👋🏻 Меня резанула именно категоричность про возможности ИИ, с остальным я согласен. Я хоть и из абстрактного разношерстного лагеря "традиции рационалистов ИИ", но в обиду нашу новую кремниевую форму жизни тоже не даю так просто 😛 Да не за что, так просто все совпало, что я ваш пост увидел через 17 секунд.

0

ответить

Доброй ночи!

Да, я поняла. В любом случае, буду иметь в виду на будущее не ругать возможности технологий безосновательно 😄

0

ответить

Ну ругать то вам никто не может запретить 😌 Но да, триггером послужили именно слишком категоричные формулировки. В общем, как говорится, "было и было".

0

ответить

еще контент автора

пост закреплён — пока закрепить можно только один пост

trash bin
перейти к нему не получится