OpenAI объяснила, почему её модели упоминают гоблинов и гремлинов
OpenAI снова объясняет странности своих моделей — теперь речь о том, почему они то и дело вспоминают гоблинов и гремлинов. В компании это связали с материалом про «глубинную психологию» больших языковых моделей и то, как их внутренние паттерны прорываются в ответах.
Это выглядит не как курьёз ради курьёза, а как попытка честно разобрать, почему модель цепляется за одни и те же образы. Для LLM такие повторяющиеся мотивы — полезный сигнал: у модели есть свои устойчивые ассоциации, и их уже можно изучать как отдельный слой поведения, а не только как баг в генерации.
Источник: Habr AI
Все новости: ai.popovs.tech
В этом посте были ссылки, но мы их удалили по правилам Сетки
