Мы делаем предустановленный контент для школ, в которых установлен наш флагманский продукт, и сейчас один из таких проектов - это краткие биографии великих ученых. Ну там Платон, Аристотель, Ломоносов, совсем большие люди. Идея в том, что, если педагогу лень заморачиваться с созданием контента через редактор, он может вывести некоторую edutaintment-инфу в пару кликов.

Дизайнер хочет сделать экран про Теслу (потому что нейросеть ей нарисовала неплохой портрет Теслы), ну а про него надо что-то написать. И, в качестве рыбы, дизайнер пихает в текстовый блок какую-то телегу, тоже написанную нейросетью.

И это мрак и ад. Текст бессвязный, стилистически беспомощный, нелогичный и, местами, безграмотный. Я его, разумеется, переписал, но вообще - достоинства нейросетей в деле генерации текстов несколько преувеличены. Вернее, так. Если надо выдать некую эмоциональную пургу, без фактов и особой логики, то она справится (при некотором навыке оператора). А в базовой комплектации они выдают какую-то совершенную чушь.

Прикол в том, что языковые модели, конечно, выдают текста в единицу времени больше, чем любой человек. Я даже не буду рассказывать, что большинство текстов от т.н. ИИ это квазиинтеллектуальный словесный мусор времен топ-блогеров расцвета ЖЖ. Но, главное, что принцип формирования текста исходя из его массовости в сочетании с попытками сделать текст интереснее, выдает чудовищные фактические искажения. Я, когда баловался с КоПайлотом от Битрикса, с удивлением узнал, что Ломоносов открыл Северный полюс. И даже понял, почему языковая модель выдала именно такой результат - но это я понимаю, как модель работает, и чем Ломоносов занимался. А человек с менее критическим мышлением этот "факт" запомнит, про его источник забудет, а потом будет выдавать ахинею, сгенерированную нейронкой, за истину.

Я даже рад, что языковые модели такие бестолковые - не тянет пока Скайнет, не тянет.