Фантазёр 😅🤣😆

Если любая нейронка есть хороший ученик, со своей бесконечной базой, постоянно пополняемой. Быстро перебирает комбинации и выдаёт ответ. Человек видит ошибки ( критическое мышление) и уточняет запрос. Если хорошо ориентируется в теме. Человек получается учитель, который пополняет базу знаний ии. Но, бывают и плохие учителя. Нейросеть прилежно усваивает. Не получится ли со временем, что на этой базе массового слопа нейросеть начнет конфигурировать бред. Критического мышления у неё нет. Это я к вопросу про образование. Кому-то оно даёт возможность самостоятельно мыслить, а для кого-то образование — красивый набор знаний

Немного не так работает. ИИ не учится у пользователей: она обучена на корпусах данных и это (так называемые "веса") зафиксировано статично в N-мерном пространстве. Никакие данные из Ваших, моих или еще чьих-то диалогов не могут "дообучить" модель. Это делается отдельно разработчиками. Единственное, что модель как бы доучивается сама - это на контенте в рамках сессии + RAG (фактически это видно если с Алисой поговорить, то она зафиксирует в долговременной памяти факты о Вас лично).

Таким образом бред ИИ может генерировать, но исключительно в рамках конкретной сессии если объем диалога превысит некое пороговое значение и начнется "дрейф".

🔥спасибо за ответ, Александр! Но👈 всё равно остаётся

Так проверяем тоже в ии. Получается нейросеть даёт информацию, которую у неё и перепроверяешь.

Баланс опыта и квалификации помогает выскочить из замкнутого круга

Да, но у отдельно взятого специалиста есть ограничения. Понимаю, что глубина знаний у всех разная. “Я знаю только то, что ничего не знаю, но и другие не знают этого” — мантра мудрецов. Сейчас не проблема знать обо всём в экзошлеме ии. В чём замысел 🤔