Вновь поднималась тема про ИИ-модерацию и про то, что скоро кожаные мешки заменятся на цифровые. И мне сразу вспомнилась история полуторогодовалой давности. Выходит новость следующего содержания (примерно октябрь 24-го): TikTok увольняет сотни сотрудников по всему миру, в том числе большое количество сотрудников в Малайзии, сообщила компания в пятницу, поскольку смещает акцент на более широкое использование искусственного интеллекта при модерации контента.
Два источника, знакомых с этим вопросом, ранее сообщили Reuters, что в Малайзии было сокращено более 700 рабочих мест. TikTok, принадлежащий китайской ByteDance, позже уточнил, что пострадали менее 500 сотрудников в стране. Ко мне сразу же прилетает запрос: "А может и нашу модерацию, того, оцифруем". Мой ответ был довольно простым: "вот когда мы сможем себе позволить увольнять 700 человек (а для этого штат модерации должен быть ещё больше), тогда, скорее всего, мы сможем также ставить эксперименты и заменять живых людей на роботов.
Прошёл год. Мы вновь вернулись к подсчётам и оценкам возможностей. За это время рынок ИИ сильно подрос и даже в вопросах b2b решений появились интересные предложения. Но итог и вердикт пока тот же: слишком дорого и сложно заменять качественных специалистов на ИИ. Ключевое тут, конечно, "качественных". Или "специалистов", кому как больше нравится. Но обо всём по порядку.
Что сейчас может предложить рынок ИИ (и всего, что пытается быть на них похожим) в качестве замены модераторов по адекватной цене: 1. Обработку больших объемов данных - когда у вас нужно промодерировать миллионы записей - люди будут стоить дороже, а обрабатывать дольше (потому и дороже, конечно). 2. Чат-бот системы и всё, что с ними связано. Они становятся умнее, лучше понимают контекст, легче настроить, чтобы не было тупиковых веток. Работа с шаблонными ответами и скриптами сюда же. А собственно и всё. Если кратко - много черновой работы, которая машина будет делать качественней и быстрее. И дешевле при больших объемах.
Но как только к работе модератора подключается требования:
- понимать контекст
- понимать способы обмана и хитростей, к которым прибегают нарушители
- распутывать сложные случаи или запутанно высказанные мысли пользователя
- принимать решения по совокупности признаков и истории взаимодействия с пользователем то ИИ становится невероятно дорогим удовольствием. Где одно только обучение выходит дороже стабильно работы человека. А еще поддержание, контроль и взаимодействие с этой моделью требует дополнительных ресурсов. Сработать такое может только на очень большом количестве запросов. И то, это будет давать сбои (я покажу на примере Яндекса это следующим постом).
Вот и получается, что какую-то работу, на которую претендовали ранее скриптованные чат-системы, ИИ всё-таки себе у модерации отжали. Но вторую линию и специалистов пока не пошатнули. Мы в прошлом году считали экономику для себя и получается, что:
- корпоративные решения, которые подходят банкам, маркетплейсам или доскам объявлений - пока не нужны, ибо объемы не сопоставимы, а то, что мы можем применить в работе - слишком дорого, человек дешевле.
- самостоятельная разработка - способна закрыть часть потребностей и в переспективе даже дать выгоду, но лишь в малом объеме задач, которые проще не трогать пока, а направить ресурсы разработки на что-то более интересное
- решений, которые могли бы заменить качественного специалиста на постоянной основе пока нет / слишком дорого
Поэтому совместная работа с ИИ как с инструментам уже есть. Некоторые решения полезны и применяются в работе. Полноценной замены модераторов пока нет. Будет, но не сегодня.
