arrow

назад

ask

Вопрос

Пользуясь случаем вопрос всем , кто использует нейросети в работе - как вы решаете проблему недетерминированности ответов ИИ ?

repost

435

input message

напишите коммент


10 комментов

А как решается проблема детерминированности ответов калькулятора? Да просто не использованием его в задачах требующих недетерминированного результата 🙂 Вот с ИИ так же, только наоборот)

0

ответить

В ключевых (существенных) аспектах - запрашиваю в промпте ссылки на источники и ознакамливаюсь с первичной информацией самостоятельно.

Если все ключевые аспекты интерпретированы корректно - оцениваю общую структуру и логику повествования.

Пока к такому алгоритму пришёл. Но на добивочку можно ещё поиграться с промптами/другими нейронками - запросить валидацию ответа в новом диалоговом окне, например

0

ответить

ИИ на данном этапе не может и не должен принимать ни каких решений. Он просто помощник, который даёт рекомендации. Решение должен принять человек, и уже человек должен решить учитывать мнение ИИ или нет. Использование ИИ в качестве источника единой правды - серьезная ошибка.

0

ответить

ИИ не принимает решения , решения принимает человек , НО, на основании информации предоставленной ИИ. И тут , как раз в полный рост встает вопрос в топике - как решать проблему недостоверной информации предоставленной ИИ? Вы в курсе , что такое "недетерминированность" ?

0

ответить

Вы никак не решите проблему недостоверной информации от ИИ. Тот кто решит эту проблему станет вторым Семом Альтманом. Вы в курсе принципов и алгоритмов лежащих в основе ИИ?

0

ответить

А где именно это проблема? Четкий промт с форматом ответа, контекстом, правилами и минимальной температурой в настройках, также 2+ примерами делает ответ более повторяемым

0

ответить

Это просто гипотеза или экспериментально подтверждённая версия ? Что является критерием чёткости ? Насколько достигается повторяемость ? Количество ответов какое ? Статистика семантического анализа ответов какая ?

0

ответить

Проблема в этом : ‼️Для инженера по производительности это означает катастрофу воспроизводимости.‼️ Если сегодня нейросеть проанализировала график нагрузки и указала на узкое место в подсистеме ввода-вывода, а завтра на тех же данных она обвинит в проблемах процессор или сеть, доверие к такому инструменту будет подорвано. Анализ производительности требует точности и повторяемости, так как на его основе принимаются решения о закупке оборудования или изменении конфигурации.

0

ответить

Пока что там, где можно обойтись аналитикой данных и алгоритмами - нейронка проиграет. Имхо. Да, ответов на ваши вопросы нет, тк нет качественных исследований на эту тему, пока что оперируем гипотезами

0

ответить

Всё, что необходимо считать математически, можно запускать внутри нейросети Python, строго внутри кода. Гибридная система получается

0

ответить

еще контент автора

пост закреплён — пока закрепить можно только один пост

trash bin
перейти к нему не получится