阿肯色大学计算机科学与计算机工程助理教授Ngan Le研究人工智能和计算机视觉。Credit: 阿肯色大学
人工智能可以扫描胸透图像，并诊断出肺部积液、心脏扩大或癌症等异常情况。但仅仅是正确还不够，阿肯色大学计算机科学与计算机工程助理教授Ngan Le表示，我们应该了解计算机是如何做出诊断的，而大多数人工智能系统都是黑箱，即使是其创建者也无法解释其“思考过程”。
“当人们理解AI决策背后的推理过程和局限性时，他们更有可能信任并接受这项技术。”Le说道。
Le及其同事开发了一个透明且高度准确的用于读取胸透图像的AI框架，称为ItpCtrl-AI，即可解释和可控的人工智能。
研究团队在《医学人工智能》杂志上发表了题为“ItpCtrl-AI：通过建模放射科医生意图实现端到端可解释和可控的人工智能”的论文，详细介绍了他们的方法。
研究人员教会计算机像放射科医生一样查看胸透图像。放射科医生在审阅胸透图像时，记录了他们注视的位置和在特定区域停留的时间。由此生成的眼动数据集热图向计算机展示了在哪里搜索异常以及哪些部分的图像需要较少关注。
创建一个使用清晰透明的方法（如眼动热图）得出结论的AI框架，有助于研究人员调整和纠正计算机，使其提供更准确的结果。在医疗环境中，透明度也增强了医生和患者对AI生成诊断的信任。
“如果AI医疗助手系统诊断出某种病症，医生需要理解它为何做出该决定，以确保其可靠并符合医学专业知识。”Le说。
透明的AI框架还更加负责，在高风险领域（如医学、自动驾驶汽车或金融市场）中具有法律和伦理上的重要性。由于医生了解ItpCtrl-AI的工作原理，他们可以对其诊断承担责任。
“如果我们不知道系统如何做出决策，很难确保它是公平、无偏见或与社会价值观一致的。”Le说。
Le及其团队与休斯顿MD安德森癌症中心合作，现在正在努力改进ItpCtrl-AI，使其能够读取更复杂的三维CT扫描图像。
(全文结束)
