我们正处于危险之中，而澳大利亚政府仍在咨询，澳大利亚数字健康研究所（AIDH）表示。AIDH首席执行官Anja Nikolic特别担心在临床环境中使用“深度伪造”头像和AI聊天机器人，并敦促政府更快采取行动。“我们还不完全了解AI在医疗保健中可能造成的全部危害，但澳大利亚必须迅速行动，就像欧洲那样，”Nikolic女士说。“27个欧洲国家能够合作制定《人工智能法》，而澳大利亚政府仍在进行咨询。如果没有适当的保护措施，澳大利亚人将面临人工智能滥用的风险。”
欧盟的《人工智能法》为欧盟内的人工智能开发、使用和营销建立了法律框架。这是世界上首个全面的人工智能法规，于2024年8月生效。AIDH向工业、科学和资源部提交了一份关于安全和负责任的人工智能使用的咨询意见，强调了人工智能在医疗环境中的潜在危害可能是“难以或无法逆转的，也无法得到适当补偿”。Nikolic女士表示，仅依靠澳大利亚的国际人权义务所提供的保障是不够的。“不良影响的风险应在澳大利亚法律中得到承认，”她说。
AIDH呼吁列出高风险的人工智能应用场景和高风险的人工智能模型，以提供明确性和确定性。“通过确定高风险应用，如新兴的人工智能在医疗决策中的应用，监管机构可以帮助组织和患者更好地了解这些技术的要求和风险，”Nikolic女士说。“具体示例和明确指南将促进开发者和用户之间的责任文化。”AIDH特别关注使用图像和声音创建未经同意的真实人物头像的AI应用，即所谓的“深度伪造”，尤其是在涉及信息、建议或治疗的精神健康等情况下，这构成了不可接受的风险。“数字伪造可以欺骗消费者，导致他们基于未经验证和误导性的健康信息采取行动，”她说。
AIDH还敦促政府考虑禁止声称提供医疗建议或临床心理健康支持的AI聊天机器人，以及自主从医学影像或其他数据诊断疾病的AI算法。
AIDH向工业、科学和资源部的咨询提交了三项建议：
- 清晰的信息和培训：政府应提供清晰的信息、免费培训和教育，以支持小型和中型企业（SMB），如医疗诊所和软件/应用程序供应商。这些SMB已经在高度监管的环境中运营，因此额外的支持至关重要，以避免不必要的监管负担；
- 资金支持AI采用：政府应增加并持续资助AI采用计划，特别是在医疗保健环境中；
- 立法进展：澳大利亚政府必须迅速推进未来的立法工作，并获得两党支持。延迟可能导致澳大利亚落后于国际最佳实践，增加AI滥用的风险。
完整的AIDH提交文件可在此处阅读。
(全文结束)
