在GE HealthCare，我们理解人工智能系统应作为服务人类、尊重人类尊严并维护个人自主权的工具来使用，同时以能够被适当控制和监督的方式运行。这需要一种多方面的方法，因为人工智能不是单一技术，而是一系列具有特定能力的不同技术的集合。因此，我们致力于确保适当的人员监督机制到位，这些机制根据具体的使用环境进行定制，并符合相关法律法规。
信任是我们GE HealthCare所做一切的核心。一个多世纪以来，我们开发了领先的医疗设备、患者护理解决方案和药品服务，赢得了全球医疗机构和患者的信赖。我们的技术安装基础超过500万台，涵盖X射线、PET、超声波和心电图，每年支持超过10亿名患者，提供关键数据和见解，推动高质量护理和挽救生命的决策。
这就是为什么我们制定了负责任的人工智能原则。这些原则指导我们产品开发的每一个阶段，帮助人工智能成为医疗保健中值得信赖的伙伴。在本文中，我将首先概述我们的负责任人工智能原则。然后，我将展示我们如何在现实世界中以切实且有意义的方式实现这些原则。
我们的7项负责任人工智能原则
我们的负责任人工智能原则旨在确保我们参与或开发的每个AI系统都达到最高标准的性能、安全性和问责制。这些原则包括以下关键领域：
- 安全性：GE HealthCare致力于防止因意外应用或访问AI系统而对人类生命、健康、财产或环境造成的损害。GE HealthCare还致力于以可持续和环保的方式开发和使用AI系统，抓住机会促进社会意识的AI使用，符合GE HealthCare的ESG目标。
- 有效性和可靠性：我们开发和部署AI系统，以在预期使用条件下始终提供准确输出或在可接受范围内表现，从而提供可靠性。
- 安全性和韧性：我们设计AI系统以抵御意外不良事件或其环境或使用中的意外变化，在对抗或未经授权的行为时保持机密性、完整性和可用性。
- 问责制和透明度：我们帮助向相关利益相关者提供有关每个AI系统的有意义和及时的信息，针对每个受众的预期知识和可访问性需求进行定制。问责结构管理与AI系统相关的每个决策。
- 可解释性和可解读性：我们设计和记录AI系统以允许追溯和解释，以便在需要时能够回答如何以及为何做出某个决策。
- 隐私保护：我们开发AI系统以保护隐私，目的是采用最佳实践来维护人类自主权、身份和尊严。
- 公平性与有害偏见管理：GE HealthCare旨在以鼓励公平和包容的方式开发和使用AI系统，包括多元参与者，促进性别和其他受保护特征的平等访问、健康公平和平等，同时避免非法歧视和不公平偏见。
从理论到行动
让我们来看看这些原则如何付诸实践。
幻觉
在人工智能中，幻觉是指模型生成看似合理但实际上不基于现实的虚假或误导信息。在医疗保健领域，这些错误可能是危险的，因为不准确的输出可能导致错误诊断或治疗。
通过提示工程可以减轻幻觉，通过改进模型生成响应的方式来提高准确性。清晰的提示和充分的上下文有助于提高准确性。例如，结构化的输入（如病史、症状和影像数据）比开放式提示更有效地引导模型输出。
检索-增强-生成（RAG）技术通过将响应基于检索到的事实数据来减少幻觉。视觉定位可以通过将语言描述链接到医学图像中的特定区域来进一步提高准确性。例如，医学报告定位（MRG）系统可以突出显示关注区域，如X射线中的肺实变，帮助放射科医生根据扫描中的相关区域确认诊断。
可解释性技术和基于本体的推理也可以提高可靠性。本体框架通过对已知疾病分类进行交叉检查来帮助防止错误，而大语言模型的温度控制机制则有助于控制输出的稳定性和可重复性。
设计中的负责任人工智能
我们的负责任人工智能原则驱动着工具的设计，旨在增强安全性、透明度和临床有效性。目前正在开发的实时射血分数（EF）工具就是一个例子，该工具使用床旁超声（POCUS）简化左心室（LV）功能评估。LV功能对于评估心脏健康至关重要。该工具提供快速的半自动化EF测量，并带有多种颜色的质量指示器（绿色、黄色、红色），以实时评估扫描质量和一致性。
传统上，EF计算需要手动成像和测量，耗时10-15分钟，并依赖于专业技能。我们的测试表明，该工具可以更快地提供结果，从而提高速度和准确性。
该工具通过颜色编码的质量系统促进透明度，并允许用户审查和选择最佳数据，体现了负责任的人工智能。它通过在次优扫描时提供指导并保持选定帧的手动确认和可追溯性来增强安全性。
通过提高可访问性和减少结果的变异性，该工具旨在提高准确性。经过专家测量验证，它有助于促进可靠性，支持及时诊断和公平获取先进的心脏护理。
定义预期用途
预期用途是为AI系统设计的具体应用，帮助其满足安全、性能和监管要求。这对于通用技术（如基础模型）尤为重要，这些技术具有广泛的能力，但必须针对特定任务进行定制才能可靠部署。
通过明确定义预期用途，我们帮助维持性能控制，支持合规性，并降低风险。这种方法旨在帮助我们充分发挥基础模型的潜力。
我将在未来的讨论中介绍其他方式来促进负责任的人工智能推广。目前，我希望提供的示例能够说明负责任的人工智能不仅是一项原则，而且已经嵌入到我们的产品开发过程中，指导我们在创新和患者护理方面的做法。
(全文结束)
