澳大利亚数字健康合作研究中心（DHCRC）与卫生和老年护理部及悉尼科技大学AI团队合作，将开发一款在线工具，帮助分类澳大利亚医疗保健中使用的不同类型的人工智能（AI）解决方案。DHCRC表示，这一举措补充了政府、行业组织和临床专业及安全机构确保医疗保健中AI安全部署的努力。
DHCRC首席执行官Annette Schmiede表示：“为了补充政府和行业定义AI伦理原则、开发AI风险评估并提供安全和负责任使用AI的指导方针的工作，需要有一个标准化的方法来分类各种类型的AI系统。AI的可用性和采用无疑正在所有领域，包括医疗保健中迅速发展。”
她还指出：“挑战在于建立明确和一致的指南和工具，确保这些工具对医疗保健领域的多样化受众和AI解决方案有效，包括开发者、医疗保健提供者和消费者。”
该在线工具将根据澳大利亚的实际情况调整经济合作与发展组织（OECD）的AI分类框架，确保纳入最近的政府政策，包括拟议的澳大利亚经济中AI的强制性监管措施。OECD AI专家网络开发了AI分类框架，作为政策制定者、监管机构、立法者和采购AI解决方案的人员评估不同类型AI系统带来的机会和风险的工具。
悉尼科技大学UTS Rapido和UTS人类技术研究所团队将参与该项目，将工具适应澳大利亚的医疗保健组织，支持AI的安全采用。该框架的维度涵盖用户和利益相关者；AI将使用的经济环境；数据收集、格式、规模和适当性；AI模型；以及AI系统的任务。
卫生和老年护理部数字和服务设计助理秘书长Sam Peascod表示：“随着政府寻求建立社区信任并促进AI的采用，我们需要提供如何安全和负责任地使用AI的指导。拥有一个可以协助分类和进行AI技术风险评估的工具，将支持医疗保健组织和医疗保健提供者采用AI解决方案，最终为消费者带来更好的健康结果。”
该框架已获得包括澳大利亚在内的46个国家的认可，为分类AI系统提供了国际公认的基础，进而评估各国AI战略的有效性。该项目将通过与医疗保健领域AI解决方案的开发者、部署者和最终用户的测试，确保AI系统分类的一致性和与现有软件作为医疗器械法规以及澳大利亚新兴监管框架的对齐。
这款动态交互工具将是首创的举措，突出医疗保健中与偏见、可解释性和稳健性相关的特定风险。
该项目将交付一个面向AI开发者、用户和政策制定者的自助咨询和基准测试工具，特别针对澳大利亚医疗保健部门量身定制。项目团队计划在2025年中期前准备好基本的网络工具进行测试。
悉尼科技大学人类技术研究所副所长Adam Berry教授表示：“要实现AI的巨大潜力，关键在于负责任的做法。实现这一做法的关键第一步是在记录个别AI系统如何使用、功能和影响多样化利益相关者方面保持一致。”
“这种一致性有助于我们建立评估和应对风险的共同方法，并使每个人都能一致地清楚地谈论AI的使用，同时保持OECD开发的工具的完整性。这将有可能提供这种一致性，使来自46个OECD国家的州、组织和个人能够比较政策、程序和控制措施的有效性，随着AI领域的扩展。”
UTS Rapido首席交付经理Raj Calisa表示：“这个项目的令人兴奋之处在于构建和测试一个提供良好用户体验的交互工具，其中的‘智慧’可以在后续迭代中动态优化。”
(全文结束)
