首页 > 热点播报 > 正文

OpenAI语音转写工具Whisper不时生成虚假内容 将通过更新修复

【太平洋科技快讯】最新报道揭露,OpenAI的语音转写工具Whisper存在严重问题,该工具在转写过程中不时地创造出大量甚至整句的虚假内容。这一情况由多名软件工程师、开发人员和学术研究人员共同指出。这些虚假内容涉及敏感领域,这种现象在业内被称为“AI幻觉”。

VCG41N1867034828

专家们对Whisper的广泛应用表示担忧。目前,该工具已被全球多个行业采用,用于翻译、转录访谈、生成科技文本和视频字幕制作等。特别是在医疗机构中,尽管OpenAI已警告不宜在高风险领域使用Whisper,仍有部分机构在使用该工具记录医患咨询。

实际案例显示,Whisper的“幻觉”现象普遍存在。例如,密歇根大学一位研究员发现,在研究的十份公共会议音频转录中,有八份含有虚构内容。此外,一位机器学习工程师在分析超过100小时的Whisper转录后发现,约一半内容存在“幻觉”现象。还有开发人员指出,在其生成的26000份转录中,几乎每一份都含有虚假内容。

针对此问题,OpenAI发言人表示,公司正在努力研究减少“幻觉”现象的方法,并对研究者的发现表示感谢。公司承诺将在未来的模型更新中采纳这些建议。

网友评论

24小时内最火资讯
热门IT产品
  1. ¥1699
    华为畅享90 Pro Max
    ·
  2. ¥4699
    HUAWEI Mate 80
    ·
  3. ¥5999
    苹果iPhone17
    ·
  4. ¥8999
    苹果iPhone17 Pro
    ·
  5. ¥2399
    iQOO Z11 Turbo
    ·
  6. ¥1999
    vivo Y600 Pro
    ·
  7. ¥3599
    荣耀500 Pro
    ·
  8. ¥3499
    一加Ace 6至尊版
    ·
  9. ¥1399
    荣耀X70
    ·
  10. ¥2199
    REDMI Turbo 5 Max
    ·