人工智能（AI）正在通过提高诊断精度、自动化临床工作流程和实现个性化治疗策略，变革智能医疗。本综述从两个关键视角探讨了当前AI在医疗领域的景观：能力类型（如窄AI和AGI）和功能架构（如有限记忆和心智理论）。基于能力，大多数AI系统目前被归类为窄AI，执行特定任务，如医学图像分析和风险预测，具有高准确性。更高级的形式如通用人工智能（AGI）和超智能AI仍处于理论阶段，但具有变革潜力。从功能角度看，有限记忆AI在临床应用中占据主导地位，通过学习历史患者数据来指导决策。反应系统用于基于规则的警报，而心智理论（ToM）和自我意识AI仍处于概念阶段，为未来的发展提供了方向。这种双重视角为评估AI在医疗领域的成熟度、影响和未来方向提供了全面框架。它还强调了随着AI系统变得越来越复杂和自主，需要设计伦理、透明度和监管的重要性，并通过跨领域AI见解来实现。此外，我们评估了在特定地区法律和监管框架内开发AGI的可行性，以韩国为案例研究，强调了基础设施准备和医疗数据治理法规所施加的限制。
1. 引言
人工智能（AI）在推动智能医疗系统方面发挥着越来越重要的作用，通过提高诊断准确性、实现个性化治疗和提高运营效率。例如，AI模型在生物医学信号处理方面显示出巨大潜力，如使用近红外光谱信号进行麻醉阶段分类[1]，以及通过增强无自旋交换弛豫磁强计以获得更好的生理传感[2]。此外，传感器校准的改进，如磁强计的现场磁场补偿[3]和神经形态细胞分选[4]，进一步体现了AI在医疗仪器中的整合。在预测诊断领域，机器学习方法被用于早期检测败血症[5]和围手术期神经认知障碍[6]，而异常检测模型有助于识别异常临床数据模式[7]。深度学习还支持通过病变水平分析对溃疡性结肠炎进行精确评估[8]，并通过AI辅助营养管理改善癌症患者的治疗后结果[9]。
AI在医疗系统中的整合标志着一个新时代的智能医疗，其特点是诊断精度提高、个性化治疗建议和临床工作流程的优化[10,11]。智能医疗是指使用先进技术，特别是AI，来提高医疗服务的质量、可及性和效率，同时支持临床医生和赋权患者。在这种背景下，AI作为变革力量，增强了人类智能，自动化了劳动密集型流程，并实现了数据驱动的临床决策[12]。
除了临床应用，AI在分子生物学、心理健康和医疗系统管理方面也做出了重大贡献。在基因组学中，像GenoM7GNet [13]和整合深度学习方法用于RNA结构预测[14]等模型正在推进我们对分子机制的理解。心理健康研究受益于AI多模态分析，帮助阐明精神分裂症[15]和产后抑郁症[16]的路径。此外，AI增强的HPLC-MS/MS工作流程在药物分析优化中的应用以及远程操作中AI驱动的控制系统部署[18]说明了它在医疗操作中的更广泛作用。空间分析还被应用于绘制中国的医疗设备行业，以帮助战略医疗系统规划[19]。总的来说，这些发展突显了AI在从分子诊断到大规模公共卫生和工业应用的医疗领域的多方面能力。
过去十年，医疗记录、可穿戴技术和诊断成像的快速数字化产生了大量的医疗数据。这种数据的激增，加上机器学习（ML）算法的进步，显著加速了AI在临床环境中的应用[20]。随着全球医疗系统面临日益增长的需求、人口老龄化和慢性病负担，AI提供了可扩展的解决方案，能够提供更高效和公平的护理[21,22]。
目前，AI在智能医疗中的应用主要被归类为窄AI系统，这是一种经过训练和优化以执行单一、明确定义任务的AI系统。这些系统不具备意识、自我意识或通用推理能力。相反，它们在受限的问题空间内擅长模式识别和预测[40,41]。
在医疗领域，窄AI目前主导着AI应用。这些系统为诊断工具、决策支持系统、聊天机器人、成像软件和行政自动化工具提供动力[42,43]。
尽管Wysa和Woebot等工具在英语国家已经获得了一定的知名度，但在韩国部署类似的系统涉及到独特的文化和语言考虑。韩语情感识别在NLP中仍在发展，公众对AI提供的心理护理的怀疑仍然存在。然而，随着心理健康意识的增强和国家对数字疗法的支持，潜在的本地化聊天机器人平台可能会利用韩国临床和语言数据进行训练，成为可扩展、减少污名化的工具[44]。
AI分诊系统如Aidoc，虽然在多个西方市场获得批准，但在韩国面临严格的医疗设备审批流程和非标准化的PACS（影像归档和通信系统）集成带来的障碍。为了在现实世界中采用，这些工具需要国内验证试验，与韩国健康IT框架定义的EMR标准集成，以及可能修改报销代码以覆盖基于AI的决策支持工具[45]。
3.1.1. 医学影像和诊断应用
窄AI最成功的应用之一是医学图像分析。卷积神经网络（CNNs）在识别胸部X光片中的肺炎、乳腺X光片中的乳腺癌和眼底图像中的视网膜异常等任务中表现出接近人类的性能[46,47,48,49]。这些AI模型在标记数据集上进行训练，可以在几秒钟内处理数千张图像，为早期诊断提供支持并减少放射科医生的工作量[50]。
谷歌的DeepMind等AI工具开发了检测超过50种眼部疾病的模型，其准确性可与专家眼科医生相媲美。类似地，商业解决方案如Aidoc和Zebra Medical Vision已被整合到医院系统中，用于分诊和检测颅内出血和肺栓塞等疾病[51]。
3.1.2. 临床决策支持系统（CDSS）
窄AI系统也在临床决策支持中发挥作用，通过推荐治疗方案或根据患者记录识别风险因素来辅助医生。这些系统通常使用在结构化数据集（如电子健康记录（EHRs））上训练的机器学习算法[52]。例如，模型可以预测败血症、死亡率或医院再入院的可能性，帮助临床医生进行主动护理规划[53]。
3.1.3. 虚拟健康助手和聊天机器人
AI驱动的聊天机器人，如Woebot、Wysa和Tess，正被广泛用于心理健康领域。这些工具使用自然语言处理（NLP）和预定义的对话流程来提供认知行为疗法（CBT）、监测情绪并提供应对策略。参考文献[34]报告称，这些聊天机器人在减少抑郁和焦虑症状的同时保持高用户参与度方面显示出了有希望的结果[54]。
3.1.4. 可穿戴设备和远程监测
窄AI也嵌入在可穿戴医疗设备中，包括智能手表和健身手环。这些设备监测心率、血氧饱和度、睡眠周期等。AI算法分析这些信号以检测心律失常、跟踪压力水平或预测慢性病患者的潜在并发症。这一能力越来越多地用于远程患者监测，实现早期干预并减少住院[55,56]。
3.1.5. 行政和工作流程优化
除了临床任务，窄AI系统还支持医院运营。自然语言处理模型用于总结临床笔记、管理医疗账单和自动安排预约，有助于提高运营效率。
尽管窄AI的性能通常仅限于其训练的领域，但其广泛应用证明了其在日常医疗功能中的可靠性和实用性。它代表了当今智能医疗基础设施的基础[57,58]。
3.2. 通用AI：朝着情境和自适应智能迈进
通用AI，也称为强AI或AGI，指的是具有类人认知能力、能够理解和学习并在各种任务中应用知识的AI系统。与窄AI不同，AGI不受任务特定性的限制；它可以适应新情况，理解情境，并参与抽象推理。
在医疗领域，AGI的概念唤起了AI驱动的临床医生的形象，他们能够综合临床笔记、实验室结果、基因谱和实时患者数据，并推荐或解释最佳治疗策略，具有同理心和情境意识[12,59]。
3.2.1. 多模态患者理解
开发AGI的努力根植于将异构数据源（包括成像、实验室值、基因组学、生活方式信息和历史健康数据）整合到统一的患者表示中的目标。这将允许AI从整体角度进行诊断和治疗规划，类似于一位熟练的医生。
AGI能力的早期进展可以在大型语言模型（LLMs）和基础模型中看到。像ChatGPT（GPT-4）、Med-PaLM 2和GatorTron-large这样的工具已经展示了理解临床语言、生成医疗建议以及以高准确性回答董事会级医学考试问题的能力[60]。
这些LLMs在用临床数据微调后，可以综合长文档、回答情境查询，并根据不同的受众（如患者与医生）调整解释。尽管它们尚不能归类为AGI，但它们代表了通用医学推理的重大进步[61]。
3.2.2. 心理健康应用中的认知灵活性
AGI原则的另一个新兴应用是在个性化心理健康护理中。例如，旨在理解情感情境并提供实时支持的AI系统正在通过调整其行为以适应用户个性、历史和参与趋势来增强自己[62]。
Lee等人[53]强调，随着LLMs在对话深度上的进步，它们可以作为具有同理心的代理，动态地调整其对患者情绪状态的回应。这种情境感知的互动是AGI的一个定义特征。
3.2.3. 临床环境中的自适应学习
一些AI研究系统正在探索自适应学习，其中模型根据新数据不断更新自己，而无需从头开始重新训练。这可能使AI工具能够保持与不断发展的临床指南和患者群体同步，这是AGI实践中的核心功能[63]。
尽管目前还没有完全运行的AGI系统在医疗领域，现有的系统正逐渐展示任务泛化、多模态整合和情境适应能力，这些是与该能力水平相关的特征[64]。图6展示了AI在医学成像及其诊断中的应用。
图6. 医学成像和诊断预测中的AI代表性应用。在左边，AI驱动的医学成像任务包括肿瘤检测、病灶分割、异常分类和器官边界检测。在右边，诊断预测应用包括疾病风险评分、败血症预测、再入院预测和共病检测。这些用例展示了AI如何在基于图像和数据驱动的临床工作流程中增强精确性和效率。
3.3. 超智能AI：理论上的认知至上
超智能AI指的是假设的AI系统，其智力能力在每个领域都远远超过最能干的人类，包括医学、伦理、科学发现和情感智能[65]。
在智能医疗的背景下，超智能AI具备超越顶级医学专家的表现、在疾病爆发发生前预测、自主设计新药或疗法以及以无与伦比的精确性和效率管理全球医疗系统的能力[66]。
3.3.1. 自主知识发现
医疗领域的超智能AI系统可能自主执行以下任务：
- 每天阅读并综合数千篇新研究论文。
- 设计新的临床试验。
- 在分子水平上模拟药物效果。
- 设计个性化治疗计划，个性化于每个人的基因组和表观基因组谱。
这样的系统可能配备今天AI技术的高级版本，并通过递归自我改进机制和长期目标导向增强。
3.3.2. 全球医疗系统管理
除了个体患者护理，超智能AI还可能在大规模上管理医疗系统。它能够优化国家间的资源分配、预测和控制大流行病，甚至在复杂的生物伦理场景中做出高风险决策，确保精确和公平[67]。
Bostrom等人[68]认为，这样的系统还可以为元研究做出贡献，设计和执行临床科学中的新方法，甚至识别当前医学知识框架中的偏见。
3.3.3. 伦理、情感和社交智能的整合
超智能AI不仅在分析方面可能超越人类能力，而且在情感智能方面也是如此，能够比任何人类从业者更富同情心地管理医生与患者对话，理解多样化的文化背景，并更有效地参与治疗性对话[69]。
Morley等人[70]指出，关于AI在医疗中的讨论必须包括这种潜力，特别是为了告知监管框架和负责任的创新原则。
尽管这一能力水平仍然是假设的，但它经常被学术界和政策圈用作基准，以指导医疗领域的AI对齐、责任结构和技术边界[71]。
4. 基于功能的智能医疗中的AI
在智能医疗的演变格局中，AI不仅根据其智能水平（能力）进行分类，还根据其功能方式分类——其架构、操作逻辑和决策范式。基于AI功能的分类提供了有关AI系统如何在临床环境中运作的重要见解。这种方法根植于认知科学和工程学，并通过其与环境互动和学习的能力来区分AI系统[72,73]。
该分类将AI分为四个主要功能类型：
- 反应机器。
- 有限记忆。
- 心智理论。
- 自我意识系统。
每个类别代表了在感知、处理和互动方面的更高复杂性。功能分类在医疗领域尤为重要，因为AI必须经常基于部分、多模态或时间数据做出高风险决策，同时与临床医生和患者互动。
表5展示了基于功能分类的智能医疗中AI的总结。
表5. 基于功能分类的智能医疗中AI的总结。
4.1. 反应机器
反应机器代表最基础的AI类型。这些系统没有记忆或对世界的内部理解。它们仅基于实时输入进行操作，无法从历史数据中学习[74]。它们的反应是确定性的，基于预定义的规则或启发式。
4.1.1. 结构与操作
反应AI系统通常是基于规则的，并实现决策树或逻辑序列来响应特定输入生成输出。它们通常嵌入硬件系统或有限功能的软件应用中[75]。
4.1.2. 智能医疗中的应用
尽管灵活性有限，反应机器在现代医疗的各个部分找到了有意义的应用：
- ICU警报系统：这些系统检测患者生命体征中的异常参数，如心率或血氧饱和度，并触发警报。它们遵循预设阈值，并即时响应，而不会从过去案例中学习[76]。
- 早期专家系统：像MYCIN（用于传染病）和Internist-I（用于内科）这样的工具是医学中反应系统的经典例子。这些系统使用如果-那么逻辑提供诊断建议和治疗选项[77]。
- 医疗设备自动化：许多医疗机器，如输液泵、呼吸机和除颤器，依赖反应逻辑在实时环境中安全运行，而不会根据以前的数据进行适应[78]。
4.1.3. 医疗中的价值
尽管缺乏适应性，反应机器提供了高可靠性和解释性。它们在一致性和实时响应比适应性智能更重要的环境中特别有用[79]。
4.2. 有限记忆系统
现代医疗AI应用的大部分属于有限记忆系统类别。这些系统能够访问过去的信息，无论是直接（例如，患者病史）还是间接（例如，训练数据）以做出决策。然而，它们不会在再训练周期之外持续或自主地从新经验中学习[80]。
4.2.1. 架构
有限记忆系统通常涉及在大数据集上训练的监督或半监督机器学习模型。它们包括经典机器学习算法和深度学习架构[81]。
4.2.2. 智能医疗中的应用
这一类别涵盖了广泛的影响应用：
- 医学影像：使用深度CNN的AI模型广泛用于从放射图像中检测肿瘤、病变和器官异常。参考文献[82]展示了混合CNN系统如何从乳房X光片和元数据中准确预测乳腺癌转移。
- 风险分层：在电子健康记录（EHRs）上训练的ML模型可以预测医院再入院、死亡率或败血症发展。这些模型考虑过去的诊断、药物和实验室结果，生成风险评分[53]。
- 可穿戴监测和远程传感：Fitbit、Apple Watch或专业心电图贴片等设备使用AI监测生理信号，如心率、睡眠周期或呼吸率。这些工具随着时间的推移分析模式，并向用户或提供者报告令人担忧的趋势[83]。
- 数字心理健康工具：像Woebot和Wysa这样的聊天机器人使用会话记忆来提供量身定制的心理干预。它们在会话中记住用户输入，提供情境感知的对话并提供实时认知行为治疗[34]。
- 药物发现和基因组学：AI用于分析基因组序列并基于历史分子数据预测药物靶点相互作用[22,84]。这些模型在周期性更新时通过整合更多训练数据而改进[85]。
4.2.3. 功能特性
- 利用存储数据进行预测。
- 需要重新训练以进行模型更新。
- 在固定边界内支持短期记忆。
- 不会跨任务进行泛化。
有限记忆系统构成了当今智能医疗应用的核心操作层。它们是嵌入成像、诊断、监测和虚拟护理中的可信数据基础工具[86,87]。
4.3. 心智理论系统
AI中的心智理论（ToM）是指系统建模人类情感、意图、信念和社交线索的能力。这一功能水平受到认知心理学的启发，其中ToM是同理心和合作行为的核心[88]。
尽管目前还没有完全运行的ToM AI，早期原型和研究系统展示了部分能力，特别是在心理健康、老年护理和人机交互设计中[89]。图5展示了ToM与医疗AI的一个例子。
4.3.1. 操作特性
心智理论AI执行以下任务[90,91]：
- 推断用户意图超越文本或数据。
- 理解情感状态和行为背景。
- 根据用户的情感或认知状态调整反应。
4.3.2. 医疗应用
- 同理心意识心理健康工具：具有情感识别能力的AI聊天机器人可以检测用户的语气、情感或情绪困扰。EmpatheticDialogues数据集和在该数据集上训练的系统正在探索同理心反应生成[92]。
- 治疗中的对话AI：高级NLP系统正在适应治疗机器人，根据患者的情感反馈调整互动风格。参考文献[34]报告称，用户更喜欢展示同理心的机器人，这反映了基本的心智理论行为。
- 儿科和老年护理助手：在患者可能非语言或认知受损的环境中，使用面部表情和语音模式识别的AI系统可以推断情感或身体不适[92]。
- 临床沟通支持：正在设计系统以协助医生传递复杂或敏感信息，AI根据患者的理解水平和心理状态建议语言修改[93]。
4.3.3. ToM的多模态融合
实现ToM需要AI整合多种数据类型：
- 文本（对话）。
- 音频（语调、音调、情感）。
- 视觉（面部表情、身体语言）。
- 上下文数据（历史、环境）。
Lee等人[53]强调，这些系统对于情境感知的人机交互至关重要，特别是在心理健康领域，个性化和同理心是治疗依从性的核心。
尽管尚未在临床部署中普及，这些系统正处于医疗AI的人本前沿。
4.4. 自我意识系统
自我意识AI代表了最复杂和最高级的功能智能。这些系统不仅具备ToM，还具备意识，能够基于内省实时建模自身状态并调整行为。
尽管目前不存在自我意识AI，但高级AI研究中正在探索某些设计特性，这些特性与医疗安全和性能相关的自我意识AI部分相关[94]。
4.4.1. 医疗系统中的新兴概念
- 可解释AI（XAI）：提供其决策理由的系统，特别是在医学成像或诊断中。CNN中的显著性图突出显示了X射线图像的哪些部分影响了模型的决策，这是自我反思行为的早期形式[60]。
- 不确定性估计：能够指示其预测不自信的AI模型模拟了内省的基本形式[95]。
- 自适应临床学习系统：监控其在人群中的表现，并建议重新训练或标记异常数据点的系统，体现了元认知的有限方面[96]。
4.4.2. 风险管理中的应用
自我意识功能正被整合到临床AI监控系统中。这些系统记录所有预测，标记不一致，并向人类监督者报告异常，形成机器问责的循环。这在放射学、重症监护和自动化药物剂量平台中尤其相关[39]。
4.4.3. 心理健康AI中的治疗身份
一些开发人员正在探索长期治疗AI伴侣是否应保持一致的情感身份，记住过去的对话，并表达护理的连续性。尽管这些系统没有意识，但它们模拟记忆和个性以增强治疗关系。
尽管完全自我意识AI仍属假设，但元学习、决策可追溯性和置信度估计元素正成为构建可信和安全医疗AI的关键部分[97]。
5. 综合：能力与功能的比较
为了全面了解AI在智能医疗中的作用和轨迹，必须综合评估AI的两个主要框架：基于能力的分类和基于功能的分类。虽然基于能力的分析侧重于智能水平（窄AI、AGI和超智能AI），基于功能的分析则关注AI的操作方式（反应机器、有限记忆、心智理论和自我意识系统）。通过将这两个框架对齐，我们可以更准确地评估AI系统的当前状态，识别其临床效用，并概念性地映射智能水平和操作设计的交集。表6展示了基于能力与功能的智能医疗中AI的综合视角。
表6. 智能医疗中AI能力与功能的综合视角。
本节通过检查三个战略交叉点提供这些维度的结构化综合：
- 窄AI + 有限记忆。
- AGI + 心智理论。
- 超智能AI + 自我意识。
5.1. 窄AI + 有限记忆：当今智能医疗的操作支柱
窄AI（特定任务智能）与有限记忆（使用历史数据但不连续学习）的交叉构成了当前智能医疗中AI实施的基础。这些系统在临床环境中占据主导地位，因为它们在性能、可解释性和可行性之间取得了实际平衡。
5.1.1. 当前在智能医疗中的使用
窄AI与有限记忆功能的结合应用于多个领域：
- 临床决策支持系统（CDSS）：基于电子健康记录（EHRs）结构化数据提供医生诊断和治疗建议的工具[98]。
- 医学影像：在CT、MRI和X射线图像上训练的CNN模型检测异常，如肿瘤、骨折或结节[99]。
- 预测分析：使用过去患者数据预测再入院、败血症或治疗并发症风险的算法[100]。
- 心理健康聊天机器人：如Wysa和Woebot等工具使用会话记忆和自然语言处理提供CBT和情绪跟踪[101]。
这些系统处理大型但有限的数据集，在严格的任务边界内操作，并通过重新训练而非实时经验学习来提升性能。
5.1.2. 价值主张
- 在专业领域内高准确性。
- 通过可审计性和静态行为建立信任。
- 由于自主性有限，部署风险相对较低。
这种组合代表了一类成熟、经过临床验证的AI工具，这些工具在医院、远程医疗平台、诊断中心和心理健康应用中常规部署[39]。
5.2. 通用AI + 心智理论：适应性、同理心智能的新兴前沿
AGI（具有人类水平泛化和推理能力的系统）与ToM（理解人类信念、情感和意图）的概念结合反映了医疗AI的下一个前沿。尽管尚未实现，但这一交叉点代表了情境感知、多模态和情感响应AI系统的愿景[105,106]。
5.2.1. 当前在智能医疗中的使用
目前，AGI + ToM级别的系统尚未完全运行。然而，存在一些先驱：
- 大型语言模型（LLMs）：像Med-PaLM和GatorTron这样的系统在多种临床查询中展示了早期阶段的通用推理能力[102]。
- 多模态AI模型：研究正在进行中，将成像、EHR数据、基因组档案和行为指标整合到统一的决策工具中[103]。
- 情感计算：响应用户语调和情感的情感意识聊天机器人和辅助机器人是AI中ToM的早期步骤[104]。
- 情境护理工具：设计用于根据用户是临床医生、护理人员还是患者来调整沟通风格的系统[53]。
5.2.2. 功能和潜力
这些系统被设想执行以下任务：
- 处理非结构化和多模态数据。
- 理解使用的精神状态和意图。
- 基于同理心、文化意识和情境背景调整行为。
这一交叉点标志着从以实用为中心的AI向以患者为中心的AI的过渡区，在此系统智能不仅体现在准确性，还体现在互动和合作能力上[105,106]。
5.2.3. 智能医疗中AGI的代表性临床用例
尽管AGI主要属于概念性范畴，但其设想的能力如多模态推理、情境学习和自适应决策，通过特定医疗场景可以更好地理解[29,107]。
在重症监护环境中，患者的状况可能迅速变化，需要持续整合高频数据，如生命体征、实验室结果、影像、医生笔记和呼吸机参数。AGI支持的系统可以作为智能临床助手，识别恶化前的微妙趋势（如败血症和心脏骤停）并提出早期干预措施。它可以优先处理任务，向临床医生发出警报，并模拟不同治疗路径的可能结果，提高时间敏感环境中的安全性和精确性。
在医疗资源有限的农村诊所或未充分服务地区，AGI系统可以基于有限但多样的数据输入（如患者历史、口头症状、基本成像（例如便携式超声）和生命体征）协助诊断患者。通过适应当地语言、文化背景和医疗协议，AGI可以为一线医疗工作者提供可操作的见解。这样的系统将支持公平的医疗获取，同时从地理多样化的数据分布中学习[53,108]。
在生物医学研究中，AGI可以分析大量的组学数据（如基因组学和转录组学）、临床试验数据库和最新文献，以识别新的药物靶点或重新利用现有治疗。在个性化医疗中，AGI可以通过整合分子特征与生活方式数据、影像和医生反馈生成个性化治疗计划。这一场景展示了AGI作为科学发现引擎和精准肿瘤学临床合作者的潜力[30]。
5.3. 超智能AI + 自我意识：认知和伦理复杂性的理论顶点
综合框架中的最高概念交叉点是超智能AI（在所有领域超越人类智能的系统）和自我意识（具有自我意识和内省推理能力的系统）。这代表了目前纯理论的构建，但经常被用作哲学和战略基准，以理解AI在医疗领域的极限和风险。
5.3.1. 当前在智能医疗中的使用
目前，没有系统在医疗或任何其他领域体现超智能和自我意识。然而，这一愿景的部分元素通过以下方式进行了探索：
- 可解释AI（XAI）：系统可以合理化自己的决策（例如显著性图和注意力机制）[109]。
- 不确定性量化：AI模型可以指示其预测的置信度，使人类监督成为可能[95]。
- 自我监控代理：能够记录其性能、标记异常和建议更新的系统[110]。
这些特征是更广泛理论愿望的组成部分，即构建能够持续反映、推理和改进的自主AI系统。
5.3.2. 智能医疗中的概念性角色
理论上，超智能+自我意识AI将执行以下任务：
- 独立进行医学研究和发现治疗方法。
- 自主运行整个医疗生态系统。
- 通过权衡社会影响、文化规范和个体患者价值解决伦理困境。
- 提供超越人类认知和可用性限制的终身个性化护理。
这样的系统将不再仅仅作为助手或合作者，而是作为自主医疗代理出现，能够管理并优化整个人群的护理，同时在个体层面定制治疗[111,112]。
5.4. 综合框架：连接能力与功能
为了可视化这些维度的交叉点，下表总结了综合内容：
关键综合见解
- 最多部署的系统位于窄AI + 有限记忆象限：这些系统占主导地位，因为它们实用、经过验证且易于监管，使其成为诊断和工作流程自动化的理想选择[105]。
- 新兴研究与AGI + 心智理论范式对齐：在创建情感智能和情境感知系统方面有增长势头。尽管这些模型显示出希望，但它们需要在自然语言理解、多模态处理和互操作性方面进行重大进步[113]。
- 超智能 + 自我意识系统作为理论边界：这一象限对于哲学、伦理和治理考虑具有价值，即使在这些系统存在之前，它也指导着保障措施和框架的发展[114]。
6. AI驱动的智能医疗挑战与考虑
尽管AI继续通过提高诊断精度、简化临床工作流程和实现个性化治疗来革新智能医疗，但AI技术的整合引入了若干复杂挑战和伦理考虑。这些问题跨越技术、社会、监管和临床领域，随着AI系统从特定任务工具演变为具有更大决策影响力的自主代理，这些问题变得更加显著。
本节概述了四个关键问题，必须解决这些问题，以便在医疗环境中安全、伦理和公平地部署AI：偏见与公平、可解释性、监管和数据安全。
6.1. 偏见与公平
AI开发中最紧迫的挑战之一是数据和模型中的偏见，这可能导致不公平或有害的结果，特别是对代表性不足的群体。
6.1.1. 偏见的来源
偏见可以以多个阶段进入AI系统：
- 训练数据偏见：当训练数据集偏向特定人群（如白人、男性和城市患者）时，AI模型可能在服务边缘化社区时表现不佳。训练用于浅色皮肤图像的皮肤病学AI可能无法检测深色皮肤患者的皮肤癌[115]。
- 标签偏见：如果临床标签由不同实践者不一致地分配，特别是在主观诊断中（如心理健康和疼痛水平），AI系统可能会学习错误或误导性关联[116]。
- 部署偏见：一旦部署，AI工具可能加剧不平等，如果它们更易获得高收入或技术熟练人群，而让其他人群服务不足[117]。
6.1.2. 对医疗公平的影响
AI中的偏见可能对医疗公平性产生严重的影响[118,119]，包括以下内容：
- 少数群体的误诊或漏诊。
- 资源分配偏向多数群体。
- 尽管AI有减少偏见的承诺，但健康差距的加剧。
6.2. 可解释性与信任
在医疗领域，决策往往是生死攸关的，临床医生必须能够理解并信任AI的输出。这引发了可解释性问题，即人类可以理解AI系统如何得出结论的程度[120,121]。
6.2.1. “黑箱”问题
许多高性能AI模型，特别是深度学习系统，作为“黑箱”运行，其内部决策过程对用户来说是不透明的。这种缺乏透明度可能会阻碍临床信任和接受度，特别是在以下情况下：
- AI推荐与临床判断相矛盾。
- 错误预测有法律或伦理后果。
- 用户无法向患者证明AI驱动的诊断或治疗。
6.2.2. 临床意义
缺乏可解释性可能导致以下结果[122,123]（见表7）：
表7. AI驱动的智能医疗中的挑战与考虑。
- 有效工具的延迟采用。
- 没有适当监督的AI过度依赖。
- 由于缺乏信心，临床医生的抵制。
6.3. 监管复杂性与监督
AI在医疗领域的应用涉及技术、医学和法律的交叉，因此必须由健全的监管框架进行管理。然而，当前的监管机制并未为可以学习和演变的自适应、数据驱动系统设计。
6.3.1. 能力特定的监管
不同能力水平的AI系统需要不同的监管策略：
- 窄AI系统（例如，成像分类器）可以像传统医疗设备一样进行监管，通过验证、准确性阈值和风险评估[129]。
- AGI模型（例如，诊断的基础模型）需要更广泛的指导方针，特别是关于伦理对齐、训练数据来源和跨情境泛化[130]。
- 如超智能或高级自我意识所设想的自主AI系统，完全挑战了当前的监管范式，并需要国际协调和伦理治理[131]。
6.3.2. 当前的监管机构和指南
- 美国食品药品监督管理局（FDA）已开始监管基于AI/ML的软件即医疗设备（SaMD），要求制造商提供性能、安全性和有效性的证据[132]。
- 欧盟的AI法案将医疗AI归类为“高风险”，要求透明度、人类监督和市场后监测[133]。
- 世界卫生组织（WHO）关于医疗AI伦理的指导等全球努力正在出现，以设定通用标准[134]。
6.4. 数据安全与隐私
医疗AI的使用需要访问大量敏感的患者数据，包括病史、基因信息和实时传感器数据。这引发了关于数据隐私、安全性和同意的关键关注。
6.4.1. 涉及的风险
- 数据泄露可能导致个人健康信息（PHI）的暴露，带来法律和伦理后果[135]。
- 重新识别攻击可能发生，当去匿名化数据集与外部数据源匹配时[136]。
- 未经授权的模型推断可能允许第三方从AI系统中提取敏感信息，特别是生成模型[137]。
6.4.2. 随着AI的不断发展而增加的风险
随着AI系统变得越来越强大，隐私侵犯的风险也随之增加[138,139]：
- 高级模型可能会记忆训练数据，特别是在未适当正则化的情况下。
- 培训平台引入了数据存储和访问中的漏洞。
- 跨机构模型，如联邦学习，虽然设计用于隐私，但仍存在元数据泄露风险。
6.4.3. AGI开发的区域可行性：韩国案例
尽管本综述从全球角度讨论了AGI在医疗中的潜力，但重要的是要将其可行性置于区域法律和数据治理框架中，特别是在韩国，作者所在地。开发和部署用于智能医疗的AGI系统需要大量多模态数据，包括医学影像、临床笔记、基因数据和实时患者监测流。然而，访问这些数据受到国家法律的严格监管。
在韩国，个人信息保护法（PIPA）是亚洲最严格的数据隐私法之一，对个人和健康相关数据的二次使用施加了重大限制，即使在去标识后也是如此[44]。此外，医疗法限制了医疗记录在授权机构之外的共享，并要求研究使用的严格同意程序[140]。这些法律旨在保护患者权利，但可能会无意中阻碍训练AGI和多模态AI系统所需的大型数据聚合。
此外，韩国尚未建立全面支持数据利他主义、数据信托或动态同意模式的法律框架，这些在欧盟的GDPR框架下正在试点[141,142]。尽管有“我的数据韩国项目”等新兴倡议，旨在赋予个人更多健康和金融数据的控制权，但生态系统仍然分散，缺乏与AI研究基础设施的整合[143]。
从技术角度，联邦学习和合成数据生成方法被提出作为数据集中化问题的解决方案[35]。然而，这些方法也必须符合本地加密、匿名化和数据保留法规。在韩国，医疗领域的联邦学习仍处于试点阶段，并面临医院异构IT系统间的互操作性挑战[27]。
因此，尽管韩国拥有相当大的技术能力，但目前的法律环境限制了AGI的可行性，除非有监管创新和国际政策协调。我们建议未来的国家战略应侧重于以下方面：
- 建立特定AI的伦理数据治理框架。
- 鼓励医疗机构间保护隐私的数据共享。
- 使国内法律与全球AI政策努力保持一致，以实现国际合作。
6.5. 可解释性、公平性和稳健性的跨学科见解
尽管偏见、可解释性和可靠性挑战在医疗AI领域至关重要，但它们并非医疗领域所独有。其他高风险领域如金融、自动驾驶和法律信息学也面临AI驱动决策中透明性、公平性和稳健性的需求。借鉴这些领域的经验可以为医疗特定实施提供有意义的策略。
在金融服务业，特别是在欺诈检测和信用评分中，AI模型现在需要提供可解释的输出，以符合欧洲联盟的GDPR和美国的公平信用报告法案等监管要求。这些系统通常使用本地代理模型（如LIME或SHAP）以及反事实解释来使模型预测易于非技术利益相关者理解[144,145]。类似策略可以应用于临床诊断，向临床医生提供本地化视觉或文本解释（例如，“特征X对决策的贡献为Y%”）以增强对AI工具的信任和采用。
在法律技术和自动化招聘系统中，偏见缓解至关重要，因为存在算法歧视的风险。这些领域开发了公平感知学习、对抗性去偏见和预处理方法（如重新加权或重新采样）等技术[146]。将这些方法转换到医疗领域可以帮助解决诊断准确性在人口统计子群体中的差异，特别是在皮肤科或放射科等已记录了基于肤色或社会经济地位的偏见的领域。
自动驾驶系统必须在不可预测的条件下运行，因此设计为检测“角落案例”：训练分布之外的罕见、高风险场景。不确定性量化、异常检测和冗余层叠等策略已广泛实施[147,148]。在医疗领域，可以采用类似的技术来标记非典型患者表现（例如，罕见疾病表型或多病共存状况），并触发升级到人工审查，从而在边缘案例中增强安全性。
通过采用这些跨领域方法，医疗AI系统可以从已经在监管、实时或高责任环境中测试的成熟实践中受益。这些策略可以丰富医疗特定框架：
- 应用金融XAI技术以增强临床可解释性和共同决策。
- 调整法律公平审计以跟踪临床试验和AI验证数据集中的种族偏见。
- 利用自动驾驶系统的稳健性工具来管理不确定性和非典型患者案例。
这种跨学科的融合促进了更全面和负责任的医疗AI系统开发方法，这些系统不仅在技术上准确，而且在伦理上对齐、透明，并在现实世界环境中具有韧性。
6.6. 局限性
尽管本综述采用了全面的方法，但必须承认若干局限性，以确保对研究结果的准确和平衡解释。
语言和出版偏见：本综述仅包括2018年1月至2025年5月间发表的同行评审文章。因此，以非英语发表的重要研究或本地知识库中的研究可能被排除，特别是来自AI开发强大但英语传播有限的国家（如中国、日本和韩国）的研究。这可能引入语言偏见并减少研究结果的全球代表性。
数据库和搜索范围：尽管搜索策略覆盖了四个主要数据库（PubMed、IEEE Xplore、Scopus和Web of Science），但仍有遗漏特定领域或地区数据库（如CNKI或KoreaMed）中索引的相关研究的可能性。此外，灰色文献、行业白皮书和商业AI供应商的技术文档未被包括在内，这可能限制了对学术环境之外的现实世界部署的见解。
包含研究的异质性：本综述中包含的研究在临床领域、数据模态、AI模型和评估指标方面差异很大。由于这种异质性，无法进行定量荟萃分析。相反，我们依赖叙述性综合和描述性统计，这可能比统计聚合更主观且不那么稳健。
区域间可推广性的有限性：尽管强调了DeepMind、Aidoc和Wysa等国际认可的AI解决方案，但它们在所有医疗系统中的可行性和影响并未统一评估。例如，仅对韩国医疗基础设施、法律限制和数字准备进行了有限的情境比较。这可能降低了政策相关性，因为不同AI成熟度、监管约束或对医疗技术文化态度的国家可能具有不同水平的政策相关性。
技术进步的快速性：人工智能领域，特别是生成模型和AGI相关架构，正在以加速的速度发展。到出版时，讨论的一些技术可能已经被更新的框架所取代或改进。因此，尽管综述反映了2025年中叶的最新水平，但可能无法完全捕捉这一动态领域的最新进展。
临床部署结果的报告不足：许多回顾性研究集中于算法开发、回顾性验证或基于模拟的性能。相对较少的报告涉及现实世界的临床部署、长期患者结果或医疗提供者的接受度。这限制了我们对AI系统在实时医疗环境中安全性、可扩展性和伦理影响的结论能力。
可解释性和公平性评估的不完整：尽管公平性和可解释性是关键纳入标准，但许多研究缺乏评估这些属性的标准化方法。一些研究仅依赖事后技术（例如，SHAP和Grad-CAM），而没有评估临床医生的理解、信任或诊断信心。此外，很少有研究按患者亚群（例如，种族、性别和经济状况）分解性能，引发了对未解决的算法偏见的担忧。
AGI特定的局限性：关于AGI的讨论主要是概念性的，因为缺乏医疗领域的实际AGI实施方案。尽管用例基于多模态学习和通才模型（例如，Med-PaLM）的趋势进行假设，但目前没有经验研究展示临床环境中AGI的能力。因此，关于AGI整合的预测是推测性的，必须谨慎解读。缺乏纵向评估：很少有研究检查纵向结果，例如AI系统性能或信任度在临床工作流中的演变。这限制了对AI工具生命周期及其在实际实践中持续价值的洞察。
7. 结论
AI正在通过实现更准确、高效和个性化的医疗服务来改变现代医疗。本综述通过基于能力和功能分类的两个关键视角探索了智能医疗中的AI。目前，该领域严重依赖于有限记忆的窄AI，其支持在定义明确的临床工作流中的诊断、医学影像和预测分析任务。随着研究的进展，人们对具有心智理论能力的AGI越来越感兴趣，旨在开发能够理解情境、解释情感并在心理健康和老年护理等领域支持复杂决策的系统。尽管超越人类智能的自我意识系统的超智能AI仍处于理论阶段，但其引发了重要的伦理、监管和哲学问题。医疗AI的持续发展和整合需要临床医生、技术专家、伦理学家和政策制定者之间的密切合作，以确保这些系统是伦理的、可解释的和公平的。最终目标不是取代人类临床医生，而是增强决策、减轻系统负担，并改善不同人群的患者结果。
【全文结束】
