自然语言处理的大规模语言模型（LLMs），如ChatGPT，正在各个经济领域得到广泛应用。然而，尽管它们可以改善医疗保健，如何才能合乎伦理和安全地使用这些技术呢？我们采访了Emma AI的联合创始人查尔斯·克罗斯，以了解更多详情。
克罗斯表示，总体而言，该行业已经取得了长足的进步，数字化程度不断提高。然而，医疗保健行业目前仅使用了3%的医疗数据。他解释说：“这是因为大部分医疗数据是以自然语言形式存储的，即它是被写下来的。我们有能力分析数字，但直到最近，我们还没有同样的能力来分析文字。”
在大规模语言模型出现之前，Emma AI就已经取得了令人印象深刻的成果。“我们最初创建Emma是为了提供一个24/7全天候护理团队支持应用程序。护理专业人员可以通过该应用程序查询有关组织或他们照顾的人的任何问题。后来，我们开始根据过去七天的护理情况向团队成员发送预测性和预防性的见解。
“通过分析这些自然语言数据，我们可以提供关于皮肤状况、压疮进展、情绪变化、与家人的互动、药物变化、水合作用、营养以及对日常生活的反应等方面的洞见。这有助于护理人员了解哪些措施有效，哪些方面存在隐患。
“这对一线护理团队具有巨大价值。我们发现，由于通过应用程序，护理人员能够在需要时获得正确的信息，因此夜间紧急呼叫中央办公室的情况减少了59%。”
使用大规模语言模型使得这一过程更快，新技术还使Emma AI获得了新的功能。在行政管理和提高护理质量方面，克罗斯表示，Emma AI可以汇总六个月的护理数据，加上任何书面外部反馈和管理者与员工之间的会议录音，从而生成评估护理人员绩效的文件。
大规模语言模型还可以审计药物影响和运营效率。
虽然有人讨论过将大规模语言模型用于临床目的，例如谈话疗法，但克罗斯认为，在社会护理的交付方面，大规模语言模型的应用有限。他说：“AI不能提供护理，即使它可以，我们也不应该允许它影响护理的个人化方面。我们必须记住它的本质。但它可以增强护理的交付。”
他认为这是至关重要的：“未来20年内，提供医疗保健的成本预计将翻一番。目前，医疗和社会护理领域有超过30万个空缺职位。随着需要护理的人数增加，我们将面临更大的缺口。我认为通过AI增强人力并填补部分空缺并不是问题。
“实际上，我们在艰难的宏观经济环境中面临着更大的挑战，即如何推动供应。AI可以将资源重新导向一线护理交付，这非常好，因为提供个性化护理时，个人关怀是必不可少的。”
关于安全性方面，克罗斯表示Emma AI遵守GDPR和SOP第1类和第2类规定。更有趣的是所谓的“零数据保留政策”，他指出这需要比护理提供商有时意识到的更多的思考。
他解释说：“许多使用像ChatGPT或Gemini这样的平台的提供商不知道他们在使用公共访问模式，这意味着这些基础模型会使用他们的数据进行训练。我们已经通过了基础模型的过程和保障措施，以实现零数据保留政策。这很重要，因为这些平台不会自动隔离和删除数据，这样做会花费他们金钱。”
还有一个问题是确保大规模语言模型不会产生错误信息。成功的AI采用要求信息可见、透明且可解释。克罗斯告诉我们：“我们有98.7%的情境回忆率，但在1.3%的情况下，Emma会说她没有信息，而实际上她是有信息的。
“因此，我们有一位内部专家负责分析Emma的所有回答——确保Emma AI的回答达到100%的准确性。为了帮助这一点，每个答案下面都可以进入后台查看来源，并且只需再点击一下就可以看到来源所在的完整文档。这种透明度和可见性使人们有信心采用这项技术，这对于看到这项技术的积极影响至关重要。
“关于AI伦理有很多讨论，但对我来说，关键是如果你使用自己的数据库和数据集，并能以极高的准确性和情境回忆率训练模型，并且它能提供有用的信息。我们已经经历了这个过程，在医疗和社会护理中确实需要这样做。”
克罗斯同意，例如全科医生收集的大部分数据也将是自然语言。虽然他没有直接确认Emma AI是否会扩展到这些子领域，但他指出，健康和社会护理之间的数据流动需要改善，以便更好地提高护理质量和患者体验。
(全文结束)