Как мы сделали чат-бота, который грубил пользователям

Для проекта школы по геймдеву kaino.online мы разработали образовательную платформу и кучу внутренних сервисов, одним из которых был чат-бот по кличке "Филин".

Основная функция бота — оповещать пользователей при обращении в чат со школой, реагировать на частые запросы без ответа и менять свой текст в зависимости от времени суток.

Но есть у нас такой нюансик: нас, как бы так сказать, чуть-чуть несет. Хочется заложить различные сценарии, предсказать поведение пользователя, устранить бизнес-проблемы, и было решено, что бот должен понимать маты.

Ведь студентов много, среди них непременно должен быть матершинник, и не один. И вот он решит нагрубить куратору, а бот ему отвечает:

"Использование мата в нашем диалоге карается чисткой рта мылом! Пожалуйста, помните о правилах поведения и больше их не нарушайте."

А еще все его маты в предложении заменяет на слово хрюканье.

Для этого мы нашли открытую библиотеку матов russian-swears и на ее основе написали логику проверки сообщений (попутно обогащая знания и делясь ими в рабочем чате).

Еще придумали фичу, чтобы бот оповещал на почту главного куратора о появлении мата в чате.

Спустя время замечаем чаты, в которых бот откровенно грубит пользователям и отправляет помыть рот с мылом. При прочтении переписки мы поняли, что не учли некоторые моменты.

Например, есть такой китайский производитель графических планшетов — huion.com название которого часто мелькает в чатах пользователей. Нашему боту сочетание этих букв показалось нарушением, так как мат транслитом он тоже умел распознавать.

В итоге эту функцию у бота упразднили, потому что собирать минус-слова на живых пользователях — занятие не очень разумное, а реальных матов в чатах за 2 года так и не появилось.

Пока писали пост, разработчик вспомнил, что читал диалоги, где студенты пытались объяснить боту, что huion это не мат (бедняжки).

Данный пример хорошо показывает, что предусмотреть все нюансы невозможно, и только на практике любое решение приходит в рабочую форму (а что-то и вовсе остается невостребованным и упраздняется).

Кстати, у нас есть очень подробная статья, как мы строили данную образовательную платформу.

Чтиво серьезное — вот тут.