Сейчас не все ЛПРы (как и IT-специалисты, был у меня печальный опыт на собесе буквально вчера) относятся к “AI в работе” с энтузиазмом.

Скорее, они относятся “к новому с подозрением” - ну, типично 👏

С одним из таких веду диалог на тему задачи (более подробно позже, в рубрике “Тяжелые будни IT”).

Коротко - встает выбор:

- подключить и натренировать модель на их файлах (множество разнородных документов) -> дать нескольким отделам возможность брать инфу по запросам на “нативном” языке;

- разработать “классический” структурный ввод данных (КМы -> кастомные CMS/CRM -> отделы продаж), чтобы потом также “классически” (токенизация -> умный поиск/фильтрация) запрашивать инфу;

Очень тяжело дается AI-трансформация тому-кого-нельзя-называть (с). Без деталей.

Мой интерес в задаче: формы промтов сотрудников (к любым AI в работе).

Беру 10 сотрудников компании, запрашиваю у них историю промтов (300+) и ответов (генерация картинок, обработка документов, анализ данных, формулы для Excel и др. - не суть). Ответы и цепочки связей (промт1 -> резалт1 ... промтN -> резалтN) - тоже не суть. Для наблюдения ниже важна только форма.

Наблюдение: более 90% промтов антропоморфизируют AI (ну т.е. “приписывают” человеческие черты) -> запросы содержат N инфашума -> резалты менее эффективны (инфошум влияет на общий контекст, сл-но влияет и на генерацию токенов).

Я еще не ахти какой специалист в AI, мой общий стаж вместе с исследовательской работой на данный момент не превышает 5 лет (в сравнении с 15 летним стажем в IT-сфере), и в отличии от какого-нибудь Ильи Суцкевера с его SSI мы не можем позволить себе замахиваться на AGI или  “грандиозно масштабировать” вычислительные мощности 😮‍💨 (вот вам и пример: вся вода выше умещается в “я средний AI-инженер решающий реальные задачи на скромных ресурсах”)

Те AI что мы будем тренировать, чаще будут: - узколобыми (1 область -> 1 контекст -> плюс-минус идемпотентные ответы в пределах контекста); - медленными (в силу отсутствия возможности запускать мощные модели, максимум что наши заказчик могут оплатить - 1 “далеко не топовую” GPU, а иногда и вовсе - 1 “далеко не мощный” VPS без проброса в GPU, ну т.е. вам уже ясно: инференс “ну ооооочень медленный” 😂);

А значит нам придется давать рекомендации конечным клиентам по составлению промтов.

И уже сейчас, независимо от того - насколько мощную модель вы используете, я призываю вас: не антропоморфизируйте AI в своих промтах! Не ведите с AI “пространных” бесед. И вот почему:

Ни одна модель (забудьте о маркетинге в стиле “AGI/RL/RAG/{ВСТАВЬТЕ_НУЖНОЕ}”) не оперирует НИКАКИМИ понятиями (attention-слои/RLHF/reward model - это термины мат. аппарата и не более) (“стараюсь” / “теряю нить” / “нервничаю”). Это всего лишь токены (слова/символы) нашего языка, которые для вас звучат “по-человечески”. А вы отвечаете той же монетой.

Сравните (пример реального запроса, но стиль изменен и маты убраны, мало ли 🙂):

А: “смотри у меня вот такая фигня вылезла [кидает скрин в промт] в эксельке, запускаю эту формулу [приводит формулу без обособлений] чтобы получить выручку по региону категории и месяцу а получаю эту шляпу. разбирайся!”

B: excel-формула: ``` ... ```; наблюдаю: [скриншот]; ожидаю: [выручка по: регион + категория + месяц]; Excel/OS версии: [A/B]; от тебя: анализ + исправленный вариант”

“ЧЁ докопался? как хотим так и общаемся!” - резонно заметите Вы. Ок. Но знайте, что первый “стиль общения” ОДНОВРЕМЕННО: становится привычкой (той самой, от которой потом “сложно избавиться”) И делает ваши запросы менее эффективными.

Резюме по пункту: если вы юзаете AI для работы: стиль промтов прямо влияет на ваш КПД.

На данный момент моя формула хорошего промта: конкретика + рамочные условия + явная задача. Назовем это КРЯ 🙂 И да: под КРЯ нужно будет переучиться. Но есть и хорошая новость: это переобучение сделает вас более эффективным и в общении (проверено на себе как и все мои “советы”).

Хотите в мою “исследовательскую базу”? Пожалуйста, делитесь своими промтами в комментариях 🙂

#AI #ИИ #маркетинг #бизнес #playbiz #smartbiz #SSI #промт #КРЯ