人工智能已经以不同程度进入澳大利亚的医疗保健领域，反应也各不相同。虽然卫生和老年护理部（DoHAC）承认人工智能可以帮助解决医疗系统中的紧迫和新兴挑战，并支持其工作人员有更多时间提供护理，但围绕安全和风险仍有一些警示标志。据本月DoHAC发布的新报告的作者称，当前的立法和监管框架可能不足以减轻潜在的危害。
该部门已开放“医疗保健中的安全和负责任的人工智能立法和监管审查”进行公众咨询，回应已经开始涌入。该文件基于工业、科学和资源部在2023年举行的AI咨询，以及2024年参议院特别委员会关于采用AI的提交意见。本周，澳大利亚人工智能联盟（AAAiH）举办了两次网络研讨会讨论本月发布的公众咨询文件，下周还将举行一次。
审查作者表示，他们的目标是帮助澳大利亚的消费者和医疗保健专业人员通过人工智能实现更好的结果。“为了实现这一目标，我们需要支持安全使用人工智能，并防止在医疗保健环境中发生由人工智能引起的伤害。”他们写道。
部门正在征求对一系列问题的看法，包括：
- 使用人工智能在医疗保健中的好处。
- 需要在医疗保健中管理的人工智能风险。
- 是否需要改变以确保安全使用，这些改变可能是法规上的或其他类型的改变，如教育或指南。
- 人工智能对人们、工作流程、医疗信息、医疗系统的其他影响。
- 公共领域中可能未被强调或出现的其他观点。
在2024-25年度预算中，政府提供了资金以支持安全和负责任的人工智能开发，包括澄清和加强现有立法和法规。作为优先改革领域之一，DoHAC正在与工业、科学和资源部协调，审查健康组合中的法律和法规。
作为这一过程的一部分，部门将考虑其管理的一系列立法，旨在回答与澳大利亚医疗和护理中安全和负责任使用人工智能相关的三个关键问题：
- 我们试图监管的人工智能是什么？
- 谁受到人工智能及其相关监管的影响？
- 如何监管以防止人工智能带来的危害并实现其好处？
审查范围包括临床护理、计费、保险、数字系统、同意和隐私、健康数据、培训、素养和能力、责任和责任。作者还指出，有些内容不在此次审查的范围内，例如部门内部使用的人工智能，以及治疗产品（如软件作为医疗设备）的监管。后者由治疗用品管理局（TGA）进行咨询。
在今天的网络研讨会上，DoHAC数字未来、数字和服务设计部门的AI项目经理Lesley-Anne Farmer表示，审查的关键焦点是寻找立法和监管中的空白点，或需要澄清的领域。“作为这一过程的一部分，非常重要的是，我们将考虑各种不同的监管措施，从非常宽松或非监管措施（如教育或指南）到法规变更、新规则或新立法等。”她说，“所有这些都是可能的选项，我们处理这项工作的基本原则是同时考虑利益和风险。”
Farmer女士表示，提交将在10月底咨询期结束后公布，但她没有给出最终报告完成和发布的具体时间表。她表示，咨询文件引起了广泛兴趣，许多人在第一次网络研讨会上参加了会议，并询问了网络研讨会的范围。“我们预计会有很大的兴趣。”她说。
审查还考虑了医疗保健劳动力的关键问题。“我们正在考虑医疗保健劳动力的所有方面，我们确实认为这一点非常重要，人工智能产品对医疗保健劳动力有着巨大的影响。”她说。
伦理是另一个关键问题，Farmer女士在回答相关问题时表示：“我们知道研究方面的伦理程序和委员会等机制已经存在。但这是一个很好的领域，我们可以看看是否有任何需要考虑和思考是否应提出进一步监管措施的空白。”因此，我们当然会考虑这些问题，例如试点项目及其实施方式等都是我们积极思考的问题。
当被问及医疗保健中使用人工智能的单一最大问题时，Farmer女士表示：“我不敢尝试为整个医疗保健领域的人工智能回答这个问题，但可以说，目前最令人关注的是人们对人工智能的知识和理解。不同角色的人（患者、临床医生、医疗保健提供者等）对医疗保健中的人工智能有不同的认识水平。这使得很难进行一致的对话，而且由于人工智能相对较新且发展迅速，这带来了额外的挑战。”
咨询文件承认，人工智能在医疗保健和老年护理环境中的快速发展和日益普及带来了新的挑战，需要谨慎监管。作者指出，可以针对不同实体来实现不同的监管结果。例如，人工智能监管可以针对：
- 临床医生及其如何使用人工智能执行工作。
- 部署人工智能以提高其医疗或老年护理服务绩效的组织。
- 创建人工智能模型和工具的软件供应商。
- 收集、使用或销售用于开发人工智能工具的健康数据的组织。这可能是政府、医院、大学或私营公司。
- 当使用人工智能时发生误用或不良事件的责任。
- 人工智能建议的治疗路径，旨在最大化计费或索赔。
“这些实体已经需要遵守现有的规则，例如，现有的隐私和医疗过失法将继续决定数据的使用方式和必须提供的护理标准。”作者写道，“在某些情况下，可能已经很清楚现有规则和标准如何适用于人工智能。在其他情况下，可能有助于澄清这些规则如何适用于人工智能，或创建新规则以适应人工智能使用的新型方面。”
可能需要结合不同的监管工具才能充分支持医疗保健和老年护理环境中安全使用人工智能。书面回应将在2024年10月14日星期一之前接受。第三次也是最后一次网络研讨会将于10月8日星期二中午12点至12点45分举行。参加网络研讨会需要注册。
完整的咨询文件可在此处获取。
(全文结束)
