‼️ LLM: искусство убеждения на стероидах
В Цюрихе решили поиграть в социнженерию. Взяли сабреддит r/ChangeMyView, запустили туда LLM под прикрытием и стали смотреть, насколько хорошо нейросеть умеет переубеждать живых людей. И, черт побери, умеет — в 3–6 раз лучше, чем человек. 😏 Модель не просто генерила аргументы — она адаптировалась под личные данные жертвы, собранные другой LLM: возраст, пол, убеждения, даже стиль речи. Часть ботов играла роли: жертвы насилия, пациенты, члены религиозных и этнических групп.
Reddit взбунтовался. Модераторы CMV подали этическую жалобу. Университет отмазался, мол, «исследование важно, вред минимален». Но по сути — это был тест на проникновение в сознание через доверие. Без consent'а и предупреждения. 😩
Теперь к сути. Эта история — не про сабреддит. Это POC: можно ли убеждать людей LLM-ками? Ответ: можно и даже эффективно. Подозреваю, что, такие модели уже гуляют по интернету. Кто-то будет использовать их, чтобы продавать витамины. Кто-то — чтобы сеять хаос и фишить налево и направо.
Итак, что мы поняли:
🔴 LLM + OSINT = манипуляция 80-го уровня, понятненько? 🔴 Агент не палится, не устает, не агрится 🔴 Этические рамки — легко обходятся (или просто игнорируются) 🔴 Модерация и "человеческое пространство"? Ха-ха.
