Презумпция виновности, или докажи, что не бот

По умолчанию в скором времени большая часть контента будет восприниматься как частично или полностью созданная с применением ИИ. Уже сейчас граница с реальностью сильно размыта. В бизнес-блогах сгенерированный контент — обычное дело. Они лутают подписчиков, штампуют каждый день истории о том, «какое умопомрачительное открытие ларька в Зажопинске у них произошло», и, самое грустное, делают вид, что это всё правда. До тех пор, пока кто-нибудь не опубликует это на Пикабу — и не найдётся житель этой глубинки, который сходит и лично убедится, что никакого ларька там нет и в помине.

Да, может, это пишет редактор, а не нейросеть (но это даже немного грустнее — платить живому человеку за такие тексты, да в наше-то время), но для конечного пользователя это не так уж важно. Потому что запас эмпатии и эмоций у нас ограничен на единицу контента. И очень не хочется тратить их впустую — сопереживая несуществующим персонажам.

Важно: речь именно про обман. Понятное дело, книжки, кино и прочее вымышленное творчество никто не отменял — оно честно предупреждает, что вымышленное.

Но, сколько я ни кручу в голове вопрос «что делать дальше», всё чаще прихожу к выводу: расти будет не ценность распознавания или маркировки выдуманного, а ценность подтверждённой подлинности. Сам факт того, что блог ведёт живой человек, соответствующий легенде этого блога, уже станет плюсом. Это противоположность тому, как было: настоящий эксперт считался нормой, выдуманный — отклонением. А по мере того как вымышленного становится катастрофически много, норма смещается. В итоге «придуманный блог» станет обычным явлением, а «реальный» — ценным и редким местом притяжения.

Казалось бы, придумать пару пруфов реальности блога, текста или истории человека несложно. Но на практике все они давно обесценены: — нетворкинг и связи — спокойно обходятся аферистами и «дядей Фёдором на перроне»; — видео — уже не показатель, говорящие головы генерируются с нуля и почти неотличимы от настоящих (см. пост в Дизрапторе); — свидетели истории — тоже под вопросом; — публикации где-либо? Тут даже пояснять ничего не нужно. Обманываются все и все. Значит, выхода нет?

Скорее всего, он всё же есть — и довольно давно: это формирование кредита доверия. Только с поправками. Если раньше мы по умолчанию давали людям некий «аванс» на честность, порядочность и реальность, то теперь, скорее всего, логика будет другая: старт с нуля. То есть: — наличие знакомств — плюсик; —наличие свидетелей — плюсик; — наличие публикаций — плюсик. И чем больше таких «плюсиков», тем выше кредит доверия. Тем больше вероятность, что перед нами реальный человек. Это не исключит возможность обмана, конечно. Но хотя бы создаст какую-то рабочую схему взаимодействия.

Что делать будущим поколениям — понятия не имею. Но нашему точно стоит об этом подумать уже сейчас.

Вот, например, одна история с DTF: — выложили видео о машине из Cyberpunk, собранной в гараже; — в комментариях начали писать, что это нейросеть (и их можно понять — свет в кадре вышел так себе, а сама машина получилась слишком уж круто); — только вот проект собирается уже не первый год — и на каком-то этапе фальсификация стала бы дороже самой машины. То есть у ребят есть некий запас «пруфов» своей реальности, который начал формироваться ещё до появления подозрений. В противном случае им пришлось бы ехать на выставки, светиться на публике и так далее. А так — есть аудитория, есть материалы, есть реальные знакомые (русскоязычные ребята), — вешаем маркер «реальные люди».

И так будет с каждым 😄 (ушёл записывать кружочки, чтобы были пруфы того, как я выгляжу, и что это пишет не самоед)