Яндекс создает тест для проверки ИИ
Причем проверки не какой-то там, а соответствия духовно-нравственным ценностям!!! Ну, во-первых, это очередная пустая трата денег с точки зрения эффективного инструмента как такового. ИИ учатся на всех мировых источниках и вдруг, по какой-то причине, она должна соответствовать каким-то локальным "хорошо и плохо". Учитывая вероятностную базу языковой модели как таковой, с каких таких, она первым должна выдать результат, вероятность которого не сильно первая в очереди? Далее, понятно что это просто метода отсечь неподходящие. В итоге соответствующими окажутся только локальные или адаптированные. А это очень слабые. Остальные легко признать неподходящими или нарушающими закон. Ну не станут ведущие ИИ адаптировать себя под чью-то правду. В итоге такие как ChatGPT, Claude, Gemini окажутся для нас заблокированными не только с той стороны, но и с этой. И все полетят на юг с двумя крыльями, а мы будем вынуждены махать одним или половинкой. Поэтому на зимовье прилетим далеко не первыми и пережидать технологический сезон придется опять не на самом теплом и мягком местечке. В общем очередная не подходящая нам по нравам Википедия. Как сказала одна из великих: "Он нам и на..й не нужон ваш Интернет"
· 20.08
Алексей, погодите, сейчас ещё другая проблема будет - и она уже очевидна, многие сайты начали делать свой контакт таким, чтобы его кормить ИИ, уже сейчас, если используешь режим расширенного поиска - ответы сильно отличаются от того, что должно быть в оригинале. Сюда же если наложился духовно-нравственные ценности, а обосновать нравственно можно любое дерьмо. То на выходе будет ещё то говнище из кривых духовно-нравственных данных, которое к реальности отношения не имеет. Глюки нейронки победят все
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
коммент удалён
· 20.08
Да, ИИ-агенты становятся целевой аудиторией. Им тоже могут запретить демонстрировать алкоголь или сигареты, если агент младше пятой модели.
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён
· 20.08
Ну, и какое качество данных будет тогда на выходе, понятно, что есть вещи вне закона, но и те, которые в рамках закона, тоже будут кривыми
0
ответить
коммент скрыт — часть юзеров считает его токсичным или некорректным
ответ удалён