**Горячие Новости раньше официального анонса 🤪

Так сказать - пока вы спите, мы за вас решаем**

Сегодня была очень жаркая дискуссия в рамках написания этического кодекса применения ИИ.

Тема: применение автономных агентных систем и этичности его использования в разных сферах.

Полемика была в степени применения, два взгляда на проблему: 1. Ту что транслировала я - этично, в тех случаях где уровень потенциальной угрозы (замечу не статистической, не с учетом эффективности, а именно потенциальной - «черный лебедь») не является критической.

И тут даже если риск, что человек ошибется так же высок, но с него хоть будет спрос.

2. Другая сторона дискуссии оперировала понятием эффективности, дабы использование ИИ агентов должна оцениваться с учетом эффективности на основе достоверных данных. Но тут, как мне кажется, возникает вопрос - а судьи кто? Кто определяет эту эффективность. В целом, чтение Насиб Талеба в моей голове не прошли мимо 😂 и он мне вбил, что цифрам верить нельзя.

Победила дружба и остановились на таком определении:

Да, этично при условии строгого разграничения полномочий агентной системы, и достаточной степени уверенности в улучшении результата. При этом в сценариях с низкой степенью уверенности важно обеспечивать прозрачность через уведомление контрагентов и реализации модели контроля «человек в контуре» (Human-on-the-loop), где уровень надзора смещается от мониторинга каждого действия к управлению целями, а ответственность за результат и ограничение непредсказуемости вывода данных в высокорисковых сценариях полностью сохраняется за человеком. В любом сценарии критически важно предусматривать «красную кнопку» отключение ИИ-агента. А что думаете вы?