🌏 Модели не одинаковые. Они по-разному понимают, что такое нормально.
Это уже померили. Девятнадцать моделей попросили рассказать про политиков - почти четыре тысячи имён. Оценки разошлись по странам разработчиков. Вывод авторов простой: модель повторяет взгляды тех, кто её делал.
В Китае это даже не побочный эффект, а закон. Генеративный сервис обязан держаться «основных социалистических ценностей». Не держится - не зарегистрируют.
Похоже на новую теорию заговора. Но вторая работа немного портит картину. Двадцать моделей, китайских и американских, прогнали через опросники о морали и сравнили с живыми людьми. Все отвечали как американцы. Даже китайские. Даже по-китайски.
Данные - штука упрямая.
Значит «серых кардиналов» трое, и тянут они врозь. Регулятор говорит, что можно. Компания решает, что прилично. А данные заносят своё, мимо общей «кассы». Единого хозяина этой механики нет.
А работает она лучше любой пропаганды. Пропаганду хотя бы видно: есть автор, есть цель. Тут никто ничего не пытается внушать. Просто мысль всё чаще идёт по накатанной колее.
До смешного - уже на слух отличаю блогера, который сидит на ChatGPT, от того, кто сидит на Claude. Не по теме - по ходу повествования.
Дальше петля. Модель выучила уроки прошлого и предлагает банальное (среднее значение). Мы соглашаемся (ну похоже же на правду). Так банальное становится данными. На них учится следующая итерация модели - и банальное становится нормой. Даже у муравьишек есть инструмент, чтобы тропа зарастала, когда запах выдыхается. Здесь такой опции не предусмотрено.
Полагаю, смотреть надо не на мощность моделей. Смотреть надо на долю решений, которые прошли через одни врата. Больше доля - глубже колея.
Сколько твоих решений за неделю прошло по накатанной?
