人工智能（AI）有可能彻底改变医疗保健，但如果没有强有力的保障措施，公司可能会把利润置于患者的福祉之上。波士顿儿童医院计算健康信息学项目主任肯尼思·曼德尔博士（Dr. Kenneth Mandl）在《新英格兰医学杂志AI》中写道。
医疗系统始终面临着财务压力——销售AI工具的公司非常清楚这一点，他们经常吹嘘这些工具可以节省或带来更多收入。曼德尔担心，AI工具将被配置为产生最大的财务回报。他以收入周期管理产品为例，这些产品承诺通过利用每一个计费机会来提高报销金额。
AI还可以通过其他方式带来更多利润。例如，取决于AI的具体程度或其用于做出建议的标准，它可能导致人们预约不必要的医生就诊或服用不必要的药物。
“你可以通过选择有更多假阳性的诊断来增加收入，”曼德尔说。
接下来会发生什么？他认为，行业本身可以做很多事情来防范这些问题。他建议电子病历公司采用标准应用程序编程接口（API），使小型开发人员能够为医疗系统构建工具。
曼德尔的文章还建议创建一个联邦数据生态系统，让大小医疗系统都能平等地获得测试AI工具所需的数据。
至于联邦法规，现有的法规可以解决一些不良商业行为，如反回扣法和虚假索赔法，他说。他还提到，卫生与公众服务部已经引入了一些良好的基本AI透明度规定。
“但这并不能完全解决那些看不见的商业影响，这些影响可能会塑造决策支持在现实世界中的行为。”
他表示，新的规则可能是必要的，特别是那些建立结构以监测由AI驱动的不良事件的规则。
(全文结束)
