Есть такое понятие - социальная инженерия. Это не фишинг из учебников по кибербезопасности. Это инженерия восприятия и поведения (проектирование сообщений, которые меняют наличие идеи, ее интенсивность и ее стабильность). Это три базовых рычага трансформации любого содержания у получателя.

Социальной инженерией занимаются такие категории специалистов как политконсультанты, рекламщики, PR, редактора, UX-исследователи, историки, философы. Но у всех высокие барьеры входа, чтобы стать экспертом способным к такому воздействию: долгое обучение, доступ к каналам, источникам финансирования, тестирование гипотез. Т.е. масштаб и точность в этой профессии - привилегия крупных "акторов".

Что же сделал ИИ? ИИ не научил всех "манипулировать" и управлять умами других людей. ИИ снял три барьера: 1. Производительность - скорость генерации и итерации сообщений выросла на порядки (можно дешево собрать 100-и версий сообщений под разные аудитории). Это переводит влияние из штучного ремесла в потоковое производство. 2. Персонализация - модели умеют "подгонять форму под карту получателя" (лексики, фреймы, примеры, тон). Это повышает шанс на трансформацию, потому что сигнал резонирует с предсуществующей моделью мира у получателя контента. 3. Обратная связь по факту воздействия - метрики реакций, становятся частью цикла управления, который и есть власть в операционном смысле (видеть как сообщение изменило состояние адресата и мгновенно усиливать/гасить нужные элементы).