新加坡国立大学健康系统的助理集团首席技术官高玉佳博士在HIMSS24 APAC会议的关键演讲“揭开人工智能的阴暗面”中，敦促在医疗保健领域谨慎实施人工智能。“虽然人工智能无疑提高了患者护理水平，但我们也必须承认潜在的陷阱，”他强调说。
一个主要的担忧是人工智能算法中的偏见风险。高博士引用了疫情期间的一个例子，当时一个基于有偏见数据训练的人工智能算法不恰当地降低了有色人种患者的优先级，尽管他们与其他患者的病情相同。高博士强调，人工智能系统必须在多样性和代表性数据集上进行训练。“类似于‘垃圾进，垃圾出’的情况，人工智能只能与其输入的数据一样准确。一些人工智能算法未能按预期表现，因为它们没有在相关数据上进行训练或过度拟合到特定数据集。”
除了数据质量，高博士还提出了人工智能在医疗保健领域的伦理影响。“我们使用人工智能来帮助我们整理思路，但同样的意图也可能被恶意利用。例如，人工智能生成的深度伪造已被用于勒索软件攻击，冒充医疗工作者。由于人工智能生成的内容如此令人信服，虚假的医学研究也成为可能。”
当被问及人工智能在医疗保健领域是否全是“末日景象”时，高博士表示不同意。“一个更加沉浸式和即时的数字世界是不可避免的，但保护我们免受人工智能风险的是在人类自主权和人工智能效用之间保持平衡。”高博士认为，道德框架、透明度和人类监督是发挥人工智能力量同时减轻其潜在危害的关键因素。
他建议医疗保健专业人士既不要害怕人工智能，也不要对人工智能毫无畏惧。“我们应该退一步，了解、欣赏、理解和规划如何将人工智能融入我们社会的医疗保健体系。”
(全文结束)
