📰 Whisper: когда ИИ говорит неправду
Инструмент OpenAI Whisper, призванный превращать речь в текст, оказался не таким уж точным. Исследователи обнаружили, что он склонный к "галлюцинациям" - созданию несуществующей информации.
В транскрипциях, созданных Whisper, могут появляться расовые комментарии, вымышленные медицинские процедуры, и другие данные, которые никогда не звучали в аудиозаписи.
Почти 80% транскрипций, созданных Whisper, содержали ошибки. Это серьезная проблема, особенно в медицине, где точность транскрипций жизненно важна.
OpenAI обещает работать над улучшением точности модели, но пока остается вопрос: насколько безопасно полагаться на ИИ, который может придумывать информацию?
