От космического хоррора к инфраструктурному

У Жени Казначеева ссылка на статью (ниже) про неожиданные эмерджентные свойства ЛЛМок, которые проявляются в виде странных контекстов (все объяснять через гоблинов и гремлинов без прямого на то запроса), устойчивых цифровых персонажей (от дуальных сущностей вроде "дьявола" и "Бога", "знающих" друг о друге, до "дамы в беде", убеждающей юзера роскомнадзорнуться) и визуальной дичи, стабильно воспроизводящейся при генерации изображений в определенных условиях.

Это все крипово, местами даже uncanny, но при этом еще и дико любопытно.

Я читал всего пару страшилок про ЛЛМки (одну - в "Голодном мире" Подшибякина). В них авторы не удержались сделать злодея-чатбота антропоморфным в смысле логики и мотивации, поэтому в восприятии такой злодей ложится в онтологический лоток "антагонист, просто цифровой" - типа злого робота.

Жизнь, как обычно, гораздо богаче на фактуру.

Описанные в статье штуки криповы ровно потому, что они необъяснимы с точки зрения человеческой мотивации.

В статье указано, что такое поведение объясняется статистическими аттракторами, внезапно возникающими внутри модели, но это мало что меняет.

Система, ушедшая в такой аттрактор, не деградирует в бессвязный шум или откровенный бред, напротив - она пугающе когерентна.

В своих ответах она вполне единообразна, сохраняет контекст, повторяет/настаивает на одних и тех же тезисах, и в целом как будто следует своей неведомой логике.

Естественно, это путает или пугает пользователя - у него ведь не было запроса на такое поведение.

Мы боялись обнаружить Великих Древних в космической бездне, а они притаились среди цифровых матриц.