即使医疗领域早期关于人工智能的担忧正在得到解决，这一快速发展技术的新问题仍在不断涌现。
这是5月5日威斯康星政治网-州事务（WisPolitics-State Affairs）与威斯康星技术理事会（Wisconsin Technology Council）在威斯康星医学院（Medical College of Wisconsin，MCW）举行的活动得出的一个结论。此次午宴探讨了人工智能在应对医疗劳动力短缺方面的应用。
即将离任的威斯康星医学院总裁兼首席执行官约翰·雷蒙德（John Raymond）博士警告说，人工智能在医疗领域的使用正面临新的危险。
他表示："最初的问题在于训练集所包含数据的质量，以及这些算法倾向于'幻觉'或编造内容的倾向，这是一个真正的担忧。这些问题现在大多（并非完全）得到了控制。"
但随着环境式AI笔记系统成为临床医生的常态，有关数据隐私以及如何使用人工智能和个人数据的披露问题正成为焦点。美国医学会（American Medical Association）最近的一项调查显示，超过80%的临床医生现在在日常实践中使用人工智能。
雷蒙德昨日表示："使用人工智能的伦理问题，以及向患者披露您如何使用他们的数据、数据如何处理、是否符合美国健康保险可携性和责任法案（Health Insurance Portability and Accountability Act，简称HIPAA）在电子健康记录方面的安全规定等，这些都是真正的担忧，我们需要密切关注这些。"
讨论指出，人工智能有潜力减轻医疗提供者的工作负担以减少职业倦怠，同时在疾病诊断、改善患者体验和辅助医生决策方面也有应用。
但威斯康星大学密尔沃基分校（UW-Milwaukee）医疗信息学专家何璐（Lu He）教授表示，所有这些好处只有在底层技术基础设施到位的情况下才可能实现。她指出，这对于支持服务不足的社区和农村地区的努力来说是一个真正的问题。
她说："使用人工智能，我们假设患者拥有智能手机，拥有足够好的系统来运行那些大型语言模型甚至语音识别软件。但在许多社区，这些基础设施根本不存在，实际上反而成为患者的负担。"
此外，她还指出缺乏"人力基础设施"来维护和修复出现故障的人工智能系统，并补充说"还有很长的路要走"才能确保这项技术惠及所有人。
与此同时，威斯康星医院协会（Wisconsin Hospital Association，WHA）的一位劳动力专家昨日呼吁"谨慎但也要快速行动"，指出医疗保健领域的变革步伐几十年来一直在加速。
威斯康星医院协会劳动力与临床实践高级副总裁安·曾克（Ann Zenk）表示："人工智能的发展速度将比其他技术和电子健康记录更快。这是个好消息，因为威斯康星州面临人口挑战。像我这样的婴儿潮一代正在退休，同时我们的医疗需求也在增加。"
她指出该行业面临着劳动力减少和需求增加的"双重挑战"，并将人工智能视为填补缺口的关键工具。尽管如此，她和雷蒙德都提出了一个问题：如果技术接管了其他任务，医疗工作者可能会被要求看更多的患者，人工智能实际上可能会增加医疗工作者的负担。
雷蒙德指出，如果临床医生由于人工智能而变得更加高效，"雇主总是有诱惑让他们承担更多工作。"
他说："即使机构没有要求你这样做，我们许多临床医生也采用按绩效付费模式，因此他们可能会自我驱动去做更多工作。我们必须确保照顾到医疗保健领域的所有方面。"
昨日的讨论小组还探讨了政府在制定医疗领域人工智能使用标准方面的作用。企业家兼康复网（Recovery.com）人工智能创新总监尼克·迈尔斯（Nick Myers）认为，这项技术"迫切需要"更多监管。
他表示："在这种情况发生之前，我们将继续生活在一个没有标准、没有道德准则、没有任何类型治理的环境中，试图将其整合到一个本应是仅次于金融业的美国最受监管的行业中。"
雷蒙德补充说"目前是一片蛮荒之地"，并呼吁在法规中制定互操作性框架。他还支持制定统一的国家HIPAA合规标准。
【全文结束】