OpenAI的Whisper，一款被广泛赞誉具有人类水平的鲁棒性和准确性的AI转录工具，正因软件开发人员和研究人员报告的频繁幻觉问题而受到审查。OpenAI的Whisper转录工具由于频繁的幻觉问题而引发担忧，这些幻觉包括编造的单词或句子，这些内容在音频中并不存在。这些幻觉，如虚构的单词、短语或整句，由AI添加，引发了各行各业使用Whisper进行转录和翻译任务的担忧。专家指出，这些不准确之处可能引入种族主义言论、暴力引用和虚构的医疗信息，从而呼吁监管监督和部署时的高度谨慎。
专家警告称，OpenAI的Whisper转录工具在医疗保健环境中尤其成问题，因为转录错误可能导致严重后果。尽管OpenAI已警告不要在高风险领域使用Whisper，但该工具仍被多家医疗保健提供者采用，用于转录患者与医生之间的会诊。这一趋势令专家感到担忧，他们警告说，医疗转录中的错误可能导致有害的误解或误诊。前白宫科技政策办公室主任阿隆德拉·尼尔森（Alondra Nelson）强调，医疗应用需要更高的准确性标准，以避免严重的后果。鉴于一些基于Whisper的工具，如Nabla的工具，出于数据安全原因删除原始音频，这种采用尤其令人担忧，这消除了任何验证的机会。
日常使用中的错误转录
即使在简单的转录任务中，也出现了Whisper的幻觉问题。例如，密歇根大学的研究人员在80%的公共会议转录中发现了幻觉文本。同样，一位机器学习工程师在其分析的100小时录音中发现近一半存在幻觉，另一位开发者在数千份转录中也遇到了类似的问题。专家表示，这些不准确之处可能会在从字幕生成到语音助手响应的各种应用中损害数据完整性。
Whisper的转录错误还影响了聋哑人和听力障碍者使用的字幕服务。加劳德特大学技术访问项目负责人克里斯蒂安·沃格勒（Christian Vogler）警告说，聋哑社区面临独特的风险，因为他们无法轻易检测这些隐藏在大量其他文本中的虚构内容。患者中也出现了隐私问题；加州议会成员丽贝卡·鲍尔-卡汉（Rebecca Bauer-Kahan）最近拒绝了一家医院要求与科技公司分享医生就诊音频的请求，理由是对私人医疗信息的担忧。
呼吁采取行动和监管监督
随着担忧的增加，行业专家、AI伦理学家和前OpenAI员工敦促OpenAI优先解决Whisper的幻觉问题。前OpenAI工程师威廉·桑德斯（William Saunders）认为，忽视这些风险可能会误导用户，使他们认为Whisper的转录比实际情况更可靠。对此，OpenAI表示正在努力减少幻觉，并继续纳入反馈以进行改进。
尽管存在缺陷，Whisper仍然是语音识别的热门选择。上个月，Whisper在HuggingFace上的下载量超过420万次，已被嵌入Oracle和Microsoft Azure等平台，将AI驱动的转录带到了呼叫中心、客户服务和全球翻译服务中。Whisper还被集成到OpenAI的ChatGPT中，引发了对其聊天机器人功能潜在幻觉的疑问。
对潜在后果的担忧日益加剧
OpenAI的Whisper是一款由AI驱动的转录工具，因其在转录和翻译任务中的潜力而受到关注。然而，该工具倾向于产生“幻觉”（即编造的单词、短语甚至整句），现在引发了担忧。Whisper的准确性问题，特别是在医疗保健和无障碍服务等敏感领域，突显了在没有强大保障措施的情况下广泛部署此类技术的潜在风险和伦理问题。尽管知道OpenAI的Whisper转录工具有问题，医疗中心仍在使用AI转录，这可能通过错误的文档记录给患者带来潜在的危害。Whisper的幻觉的确切原因尚不清楚，但开发人员指出，它们通常发生在背景噪音或音频停顿期间。教授艾莉森·科恩克（Allison Koenecke）和莫娜·斯洛恩（Mona Sloane）在他们分析的40%的转录中发现了潜在的有害幻觉，如额外的种族背景或虚构的暴力内容。
(全文结束)
