专题：超越炒作——医疗保健中的人工智能：伦理平衡与见解
审视将人工智能整合到医疗保健中的伦理维度，我们探讨如何平衡伴随这一创新而来的潜在优势与挑战。
人工智能在医疗保健领域正取得重大进展，在疾病诊断、协助临床医生、个性化治疗以及改善每位患者的护理方面发挥着作用。这项技术可以改变患者的感受，并改善他们的生活质量。但是，将生成式人工智能引入医疗保健会带来一些需要解决的伦理问题，例如数据安全、公平性，以及维护人类在决策中的选择权和技能。解决这些问题对于确保人工智能惠及所有患者并维持对医疗保健的信任至关重要。
Polat Goktas 和 Ricardo S. Carbajo的个人说明
作者正在合作一个旨在革新干细胞制造的人工智能项目。Polat是玛丽·居里研究员，而Ricardo担任都柏林大学学院计算机科学学院及爱尔兰应用人工智能中心的创新与开发组主任。我们深厚的人工智能研究背景驱动着我们探索人工智能技术在医疗保健中的伦理影响，并促进负责任的人工智能应用。我们目前的项目DeepStain，专注于开发先进的人工智能算法，以优化干细胞制造过程、降低成本，并改善患者获得挽救生命疗法的机会。通过理解人工智能整合中的伦理挑战和潜在益处，我们希望为制定伦理指南做出贡献，以确保全球范围内患者的安全、数据保护和公平待遇。
随着自然语言处理技术的进步，像GPT系列这样的生成式人工智能模型正成为强大的工具。OpenAI与微软合作，制造了强大的AI聊天机器人，其中GPT-4是截至2023年3月的最佳模型。谷歌的Med-PaLM 2已在多个医学领域展现了其潜力。在放射学领域，AI聊天机器人已显示出在辅助图像分析、减少诊断错误和提高工作流程效率方面的前景。在皮肤病学领域，AI驱动的系统已被有效用于生成医学病例报告，其质量与临床实践中人类专家撰写的报告不相上下。在医学中使用AI技术可以带来更好的诊断、更高的效率和改善的患者护理。但在临床中使用这项技术也存在问题。使用带有大型语言模型的技术也引发了一些伦理问题，例如：
数据隐私与安全
AI医疗保健系统使用大量患者数据来构建准确的模型。保护这些敏感信息的隐私和安全至关重要。需要良好的数据保护措施和关于数据使用方式的清晰政策，以维持患者的信任。这意味着使用加密、控制数据访问，并公开数据处理方式，这有助于患者在医疗保健中更舒适地接受AI。
处理算法偏见
AI系统有时可能存在偏见，导致患者护理和治疗方案上的差异。为了防止这种情况，创建包含各种患者信息的多样化和独特数据集非常重要。此外，我们应定期评估AI是否存在任何偏见，确保应用是公平且无偏见的。采取这些措施将有助于确保所有患者都能平等地从医疗保健中的AI中受益，避免基于算法偏见的待遇不公。
超越炒作：一张来自讨论人工智能在改变未来医疗保健格局方面巨大潜力活动的场景图。该图使用Tome.app基于自定义提示词“超越炒作：医疗保健中的人工智能”生成。
在AI中保持人类判断与专业知识
随着生成式AI在当今医疗保健中日益普及，保持人类在患者护理中的参与至关重要。我们需要确保AI支持并增强临床医生的专业知识，而不是取而代之。这有助于维护医患之间的同理心和个人联系，确保护理质量保持高水平，并让患者在治疗过程中继续感到被理解和支持。
理解AI错误中的责任归属
当AI导致医疗错误时，很难确定谁该负责！我们需要明确的法律指南，概述所有相关方（包括用户界面交互）的责任，例如AI开发者、医疗保健提供者和其他利益相关者。通过这样做，我们可以保护患者并维持对AI驱动医疗保健的信任。建立这些规则有助于确保问责制，并鼓励在医疗环境中负责任地使用AI技术。
为AI制定伦理和监管框架
建立管理医疗保健中AI的伦理指南和监管结构非常重要。这些框架应侧重于促进透明度和确保对伦理原则负责，同时鼓励创新和技术进步。通过制定这些指南，我们可以在保护患者和促进能够改善所有人医疗保健结果的AI进步之间找到平衡。
总之，为了以正确的方式使用AI，应对将AI整合到医疗保健中的伦理挑战，我们应该进行公开讨论，负责任地实施AI，并开发尊重人类价值观同时改善患者结果的技术。通过探索这些重要的伦理关切，我们可以更负责任地理解AI在医疗保健中的潜在益处和风险。这种理解将帮助我们制定负责任AI实施的伦理指南和最佳实践，确保我们利用AI的力量来增强患者护理，同时维护医疗保健系统中所有相关方的信任和安全。
Polat Goktas
都柏林大学学院计算机科学学院
都柏林大学学院 & 爱尔兰应用人工智能中心
爱尔兰都柏林
Ricardo S. Carbajo
都柏林大学学院计算机科学学院
都柏林大学学院 & 爱尔兰应用人工智能中心
爱尔兰都柏林
参考文献
Dunn, C., Hunter, J., Steffes, W., Whitney, Z., Foss, M., Mammino, J., Leavitt, A., Hawkins, S. D., Dane, A., & Yungmann, M. (2023). AI-derived Dermatology Case Reports are Indistinguishable from Those Written by Humans: A Single Blinded Observer Study. Journal of the American Academy of Dermatology, S0190-9622 (0123) 00587-X.
Google (2023) Med-PaLM2.
OpenAi. (2023). GPT-4 Technical Report. arXiv pre-print server, arxiv:2303.08774.
Shen, Y., Heacock, L., Elias, J., Hentel, K. D., Reig, B., Shih, G., & Moy, L. (2023). ChatGPT and other large language models are double-edged swords. In (pp. 230163): Radiological Society of North America.
【全文结束】