美国国立卫生研究院（NIH）的研究人员开发出一种基于大语言模型（LLM）的人工智能（AI）系统，该系统能够比现有方法更准确、更详尽地描述基因集分析中的生物过程及其功能。
该系统被称为GeneAgent，它通过比对其自身的初步预测（也称为“声明”）与已建立的专家整理数据库中的信息，来检查预测的准确性，并生成一份验证报告，详细说明其成功与失败之处。该人工智能代理可以帮助研究人员解读高通量分子数据，并识别相关的生物通路或功能模块，从而更好地理解不同疾病和条件如何单独及共同影响基因组。
人工智能生成的内容由基于互联网上大量文本数据训练而成的LLM生成。LLM利用这些数据识别语言模式，并预测句子中词语的后续顺序。然而，LLM并非设计用于验证事实，因此AI生成的内容可能虚假、误导甚至捏造，这种现象被称为AI幻觉。此外，LLM容易出现循环推理问题——即用自身训练数据来验证生成结果，使输出内容听起来更自信，即使信息本身是错误的。
在基因集分析中使用LLM工具时，防止AI幻觉尤为重要——该过程旨在为一组基因生成集体功能描述及其潜在相互作用。此前的研究尝试教LLM回答基因组问题或总结特定基因集中涉及的生物过程，但并未明确解决生成内容中的幻觉问题。
GeneAgent通过将自身的“声明”独立地与外部专家整理数据库中汇编的已有知识进行比较，缓解了这一问题。研究团队首先测试了GeneAgent在1,106个已知功能和过程名称的基因集上的表现。对于每个基因集，GeneAgent首先生成一份功能声明的初始列表。然后，它利用其自我验证代理模块，将这些声明与整理数据库进行交叉验证，并生成一份验证报告，标明其声明是否得到支持、部分支持或被反驳。
为了最好地评估其在自我验证步骤中的准确性，研究人员随后邀请两位人类专家手动审查10个随机选择的基因集，这些基因集共包含132条声明，并判断GeneAgent生成的自我验证报告是否正确、部分正确或错误。专家评估结果显示，GeneAgent生成的自我验证报告中有92%的判断是正确的，表明其在自我验证能力方面表现优异，尤其相较于GPT-4而言。他们的详细审查确认了该模型在最小化幻觉和生成更可靠的分析叙述方面的有效性。
研究团队还测试了GeneAgent在动物模型基因集上的实际应用。当应用于源自小鼠黑色素瘤细胞系的7个新基因集时，GeneAgent能够提供特定基因新功能的宝贵见解。这可能意味着在诸如癌症等疾病中发现潜在的新药物靶点。
尽管像GeneAgent这样的LLM仍受限于其可用信息及其无法像人类一样推理，但GeneAgent的自主事实核查能力在缓解AI幻觉方面展现出显著的前景。
【全文结束】
