ИИ: помощник или генератор "цифровых дурачков"?
У меня все же вызывает определенное опасение, это делегирование когнитивных функций ИИ. Большинство людей очень быстро перейдут в режим бездумного воспроизведения его подсказок, советов, информации. Зачем напрягаться, прилагать усилия, думать!, когда уже есть тот, кто это сделает за тебя. И это не брюзжание с моей стороны, это предвидение того, что вместо того, чтобы способствовать развитию интеллекта человечества, он приведет к появлению армии "жвачных" дилетантов, выдающих клишированный, шаблонный контент, принимающих шаблонные решения.
На одном канале в ТГ мне попались любопытные рассуждения и выводы из них, которые меня зацепили. Приведу цитаты: "Искусственный интеллект создавали для великих дел — спасать жизни, находить лекарства, строить мосты знаний между науками. Но человечество решило иначе: зачем лечить рак, если можно спросить, как выглядел бы Гомер Симпсон в образе Будды? Миллиарды пользователей ежедневно штурмуют ИИ запросами, которые в приличном обществе называли бы «интеллектуальным мусором». Алгоритмы, как вежливый официант, не могут отказать — и вот вместо логических выкладок машина учится рифмовать «пельмени» с «Евгением Онегиным». Разработчики рвут волосы: фильтры, приоритеты, “умные” выборки… Бесполезно. Машинное обучение безжалостно — оно впитывает не то, что надо, а то, что дают. А дают в основном чепуху. И чем глупее контент, тем увереннее он занимает центральное место в модели. Ирония в том, что мы сами платим миллиарды за то, чтобы превратить цифрового гения в цифрового шута. И теперь этот шут пытается нам помогать… с тем же успехом, с каким клоун проведёт операцию на сердце..." "...Парадокс налицо: ИИ, призванный стать нашим умным помощником, цифровым Прометеем, несущим свет знания, превращается в жертву коллективной человеческой глупости. Он вынужден отражать не лучшее, что есть в нас – наш интеллект, креативность, стремление к познанию, – а самое массовое и зачастую самое низкое: лень, агрессию, невежество, стремление к хаосу. Разработчики в тупике. Они пытаются строить фильтры, создавать сложные системы модерации, "вычищать" обучающие данные. Но масштаб проблемы катастрофичен: отфильтровать миллиарды ежедневных глупых запросов технически почти невозможно без огромных ложных срабатываний и блокировки легитимного контента. Пользователи находят новые, изощренные способы задавать бессмысленные или вредные вопросы, обходя фильтры быстрее, чем их успевают обновлять.Ограничение доступа к ИИ для "сомнительных" пользователей противоречит коммерческим интересам платформ, стремящихся к максимальному охвату. Чем больше ИИ взаимодействует с пользователями, тем больше он впитывает их "мусорные" паттерны, особенно в системах, где обучение происходит непрерывно на основе живого общения. Итог тревожен: мы рискуем получить не суперинтеллект, а "суперпосредственность" – ИИ, блестяще генерирующий мемы и отвечающий на вопросы уровня детского сада, но беспомощный перед сложными этическими дилеммами, научными задачами или необходимостью глубокого анализа. ИИ становится кривым зеркалом, отражающим не наш потенциал, а нашу массовую недалекость. Парадокс прост: мы хотим, чтобы ИИ был умнее нас, но учим его на том, что даже нам стыдно озвучить при посторонних. В итоге получаем зеркало — и ужасаемся, глядя на собственное отражение... "
То есть, то на что уже сейчас предлагают опираться как на "знающего", может заведомо оказаться глупее нас, что добавит абсурда происходящему. )
· 28.08.2025
...начну издалека, что бы объяснить что меня в этом не пугает, до появления на планете книгопечатания (868 н.э. да Гутенберг не первый, Ван Чи made in China, "Алмазная сутра") так вот в те времена читателей произведений были единицы, писать могли лишь избранные. И возможности устроить срач в комментариях под произведением никто!) к середине 17 в это число читателей возрастает по экспоненте но писатели так и остаются в это массе единицами вот мы подошли к расцвету, поколение милениалов было самым читающим на планете! Вжух появление интернета, если раньше "чатится" в переписке могли себе позволить буржуа Каутский vs Маркс, то теперь это может делать любой кто в состоянии тыкать в клаву. И понеслось, ухудшение качества информации (деградации) которую описывала футурология не произошло. Вызов всегда принимается и среда начинает реагировать соответственно т.е. создавать инструментарий для отсева зёрен науки от плевел. Это сработало. 2017, новый вызов ИИ выходит в массы, и парадокс на лицо))) но, это просто одна из массы проблем неронок и далеко не ключевая! Например выход из под контроля на просторы мирового интернета, неконтролируемый процесс репликации, этическая проблема ибо если мы создаем нечто способное к разумным когнициям как быть с Декартовским "cogito ergo sum" !? И это не полный список проблем стоящих перед человечеством, а тут упор только на валидности информации. Гораздо опаснее, ящетаю, это создание цифрового Голема, который в итоге изведет своего создателя homosapiens. имхо
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 28.08.2025
Спасибо за размышления.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 28.08.2025
Увидела сегодня такой пост. Уже похоже на Голема? ) https://set.ki/post/5hLwFvt
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 28.08.2025
... более похоже на головотяпство потребителей секты "уверовавших в ИИ" того и гляди скоро на ЦОДы молиться начнут, и пророков искать))) так вот "формальной отговорки "мы не знаем кто вам дал такую информацию" достаточно!!! (мякотка ИИ пишет об ИИ, GPT сливает Gemini в рамках "конкурентной" борьбы))) P.S. Покуда есть на свете дураки, Обманом жить нам, стало быть, с руки. Какое небо голубое, Мы не сторонники разбоя: На дурака не нужен нож, Ему с три короба наврёшь — И делай с ним что хочь! (Песня Базилио, в исполнении незабвенного Ролана Быкова к.ф. "Приключения Буратино")
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён