“Приведу забавный случай, это нейросеть, она учится, и буквально уже в первый месяц разработчики отметили такую коллизию, что нейросеть научилась мату. Но, как это говорится, с кем поведешься, от того и наберешься. Поэтому эту коллизию, конечно, пришлось устранять. Но тем менее это показатели активной работы с нашими гражданами” Ссылка

Интересное оправдание. Но это лишь показатели одного: никто не исследовал пользователей и не думал о рисках на этапе проектирования решения. Данные, которыми вы кормите модель, нужно жестко валидировать и чистить. Если вы, конечно, не создаете LLM с нуля (pre-train). Иначе модель и не такому научится.

Что ж, учимся на ошибках других.