🫤 У ИИ тоже есть акцент? Артефакты генерации LLM простыми словами На прошлой неделе подал статью на конкурс Сбера по ИИ. Моя работа "Анализ уязвимостей и артефактов генерации современных LLM" прошла первый отбор и ушла на рецензирование. Миллион за главный приз мне вряд ли достанется, но сам факт участия радует: приятно понимать, что даже без учёной степени можно конкурировать на равных.

👉 LLM — это большие языковые модели. Формально они не совсем "искусственный интеллект", но именно их сейчас называют ИИ.

Теперь к самому интересному. Артефакты генерации - это не баги, а скорее "подпись" модели, следы её внутренней логики. Если угодно - своеобразный "почерк".

Попробуйте вспомнить: когда мы читаем текст, написанный человеком, мы легко угадываем стиль - кто-то любит канцеляризмы, кто-то метафоры, кто-то обрывает предложения на полуслове. Так вот, у моделей тоже есть свои "привычки".

Например:

• повтор одних и тех же оборотов, даже если они не бросаются в глаза;
• постоянное выравнивание стиля (в шутке - шутит, в лекции - "звучит умно");
• невидимый "эхо-след" самого вопроса - модель отвечает в той же интонации;
• вставка характерных метафор или "опорных точек";
• странные скачки внутри ответа, когда тон резко меняется, словно кто-то дернул за шнур.

💡 Чем это полезно людям, далёким от тестирования ИИ? Эти артефакты помогают лучше фильтровать информацию в интернете. Если вы видите слишком гладкий, "универсальный" текст без ашибок, оппечаток и лишних эмоций, скорее всего, он сгенерирован. Это навык медиаграмотности 21 века - отличать, где пишет человек, а где машина.

А вы лично замечали такие "почерки" у ChatGPT, DeepSeek или других моделей? Поделитесь в комментариях: какой самый странный артефакт вам попадался?

P.S.: Считать, что наличие длинного тире или «ёлочек» — это признак ИИ - ну, такое себе... Ведь длинное тире легко поставить на Маке, просто повторив 2 раза обычное тире. А кавычки-ёлочки - ставятся автозаменой, и не только в Ворде. Да и длинные тире Word ставит сам. Другое дело, когда в тексте встречаются сразу и “такие кавычки” и «такие», при этом в русском тексте без вставок английского - тогда точно ИИ :)) Кстати, поставить эмодзи или смайл в текст на Винде можно нажав Win + . (точка, которая Ю)