ИИ: помощник или генератор "цифровых дурачков"?

У меня все же вызывает определенное опасение, это делегирование когнитивных функций ИИ. Большинство людей очень быстро перейдут в режим бездумного воспроизведения его подсказок, советов, информации. Зачем напрягаться, прилагать усилия, думать!, когда уже есть тот, кто это сделает за тебя. И это не брюзжание с моей стороны, это предвидение того, что вместо того, чтобы способствовать развитию интеллекта человечества, он приведет к появлению армии "жвачных" дилетантов, выдающих клишированный, шаблонный контент, принимающих шаблонные решения.

На одном канале в ТГ мне попались любопытные рассуждения и выводы из них, которые меня зацепили. Приведу цитаты: "Искусственный интеллект создавали для великих дел — спасать жизни, находить лекарства, строить мосты знаний между науками. Но человечество решило иначе: зачем лечить рак, если можно спросить, как выглядел бы Гомер Симпсон в образе Будды? Миллиарды пользователей ежедневно штурмуют ИИ запросами, которые в приличном обществе называли бы «интеллектуальным мусором». Алгоритмы, как вежливый официант, не могут отказать — и вот вместо логических выкладок машина учится рифмовать «пельмени» с «Евгением Онегиным». Разработчики рвут волосы: фильтры, приоритеты, “умные” выборки… Бесполезно. Машинное обучение безжалостно — оно впитывает не то, что надо, а то, что дают. А дают в основном чепуху. И чем глупее контент, тем увереннее он занимает центральное место в модели. Ирония в том, что мы сами платим миллиарды за то, чтобы превратить цифрового гения в цифрового шута. И теперь этот шут пытается нам помогать… с тем же успехом, с каким клоун проведёт операцию на сердце..." "...Парадокс налицо: ИИ, призванный стать нашим умным помощником, цифровым Прометеем, несущим свет знания, превращается в жертву коллективной человеческой глупости. Он вынужден отражать не лучшее, что есть в нас – наш интеллект, креативность, стремление к познанию, – а самое массовое и зачастую самое низкое: лень, агрессию, невежество, стремление к хаосу. Разработчики в тупике. Они пытаются строить фильтры, создавать сложные системы модерации, "вычищать" обучающие данные. Но масштаб проблемы катастрофичен: отфильтровать миллиарды ежедневных глупых запросов технически почти невозможно без огромных ложных срабатываний и блокировки легитимного контента. Пользователи находят новые, изощренные способы задавать бессмысленные или вредные вопросы, обходя фильтры быстрее, чем их успевают обновлять.Ограничение доступа к ИИ для "сомнительных" пользователей противоречит коммерческим интересам платформ, стремящихся к максимальному охвату. Чем больше ИИ взаимодействует с пользователями, тем больше он впитывает их "мусорные" паттерны, особенно в системах, где обучение происходит непрерывно на основе живого общения. Итог тревожен: мы рискуем получить не суперинтеллект, а "суперпосредственность" – ИИ, блестяще генерирующий мемы и отвечающий на вопросы уровня детского сада, но беспомощный перед сложными этическими дилеммами, научными задачами или необходимостью глубокого анализа. ИИ становится кривым зеркалом, отражающим не наш потенциал, а нашу массовую недалекость. Парадокс прост: мы хотим, чтобы ИИ был умнее нас, но учим его на том, что даже нам стыдно озвучить при посторонних. В итоге получаем зеркало — и ужасаемся, глядя на собственное отражение... "

То есть, то на что уже сейчас предлагают опираться как на "знающего", может заведомо оказаться глупее нас, что добавит абсурда происходящему. )