宾夕法尼亚大学工程学院和宾夕法尼亚大学佩雷尔曼医学院（PSOM）的研究人员正在努力开发能够支持更个性化医疗治疗的人工智能（AI）系统。
宾夕法尼亚大学的研究人员从联邦健康高级研究项目局（ARPA-H）获得了一笔为期四年、价值 700 万美元的奖励，最初专注于乳腺癌、心脏病发作和败血症。
该项目将由宾夕法尼亚大学工程学院计算机与信息科学（CIS）的齐斯曼家族教授、支持人工智能的系统：安全、可解释和值得信赖（ASSET）中心主任拉杰夫·阿卢尔（Rajeev Alur）领导。
这些项目将开发有助于临床医生预测治疗反应的系统，从而为患者带来更好的健康结果。阿卢尔在一份声明中说：“我们很高兴接受构建用于临床预测的人工智能模型的挑战，这些模型不仅要高度准确，还要有临床医生可以信任的解释。”
尽管机器学习和大型语言模型在图像分类和推理方面显示出巨大的前景，这是医学中的两项关键任务，但研究人员认为，这些系统对于临床使用来说还不够透明和准确。
部分原因是人工智能系统需要大量数据才能做出准确的预测；由于医疗数据受到保护，人工智能系统必须专门为医疗用途进行训练。目前，人工智能系统也像一个“黑匣子”，这意味着导致其输出的步骤并不总是能够确定，使其“思考过程”不透明。
为了开发出足够准确和透明以供医疗使用的人工智能系统，宾夕法尼亚大学工程学院和 PSOM 的研究人员将在人工智能研究中探索多种途径，将数据驱动模型与逻辑和符号推理相结合。
宾夕法尼亚大学表示，研究人员将与临床医生密切合作，以更好地了解现实世界的限制，例如何时以及有多少数据可用，现有的工作流程如何纳入人工智能支持系统，以及不同患者对各种医疗指标的预期阈值如何变化，都可以纳入该系统。最终，研究人员的目标是支持临床医生预测患者对乳腺癌、心脏病发作和败血症的不同治疗的反应，从而带来更好的健康结果。
阿卢尔指出宾夕法尼亚大学工程学院和 PSOM 之间的合作是创新的催化剂。阿卢尔在一份声明中说：“拟议的研究需要宾夕法尼亚大学工程学院在机器学习方面具有专业知识的教师与 PSOM 具有临床专业知识的教师密切合作。”“宾夕法尼亚大学工程学院和 PSOM 最近的举措——从为人工智能研究人员提供种子资金到我们关于可信人工智能的研讨会——展示了合作如何推动整个领域的发展。”
“这是一个令人兴奋的项目，它将我们在人工智能方面的专业知识与世界上最伟大的卫生系统之一的临床专业知识相结合，”宾夕法尼亚大学工程学院的维贾伊·库马尔（Vijay Kumar）院长在一份声明中说。“临床挑战为人工智能提供了许多重要和有影响力的用例，阿卢尔教授组建了一个梦想团队，为医学中值得信赖的人工智能奠定基础。”
