当斯坦福大学的研究人员最近宣布开发出一种能够创建新病毒基因组序列的人工智能(AI)工具时，媒体反应迅速——而且不乏担忧。
《华盛顿邮报》警告称："我们远未准备好迎接人工智能能够创造有效病毒的世界。"其他地方，政治评论员们则认为政府尚未做好应对即将到来的AI设计病原体浪潮的准备。在《60分钟》节目中，Anthropic公司CEO达里奥·阿莫代伊(Dario Amodei)提出了外国对手可能利用AI设计不仅网络攻击，还有生物攻击的担忧。
与许多近期的AI发展一样，公众焦虑可能已超前于技术现实。虽然斯坦福大学的工作代表了重要的科学进步，但它还不是一个"紧急破窗"时刻——至少目前还不是。关于独立行动者使用AI释放新病毒的担忧仍属假设，而且这种情况很可能在未来几年内仍将如此。
话虽如此，新兴的AI生物工程领域提出了一个关键问题：随着这些工具变得更快、更易获取，科学和公共政策机构应如何适应。用生物安全专家的话来说，这是一个典型的"双重用途"问题：具有有益目标的生命科学研究也可能被用于邪恶目的。但就目前而言，这些风险在很大程度上仍是推测性的。
病毒经济学
"如果有人现在试图用AI系统开发生物武器，那可能适得其反，"在Arc研究所领导该项目并与斯坦福研究人员合作的布莱恩·希(Brian Hie)表示，"这只会拖慢你的进度。"
的确，他的团队实验工作凸显了从头开始创造新病毒的成本之高和复杂性——即使有AI参与其中。
该项目背后的逻辑对任何基本了解大型语言模型(LLMs)工作原理的人来说都耳熟能详。像ChatGPT这样的系统通过摄取大量数据并分析其基础统计结构来学习生成文本。Arc系统名为Evo，将类似的统计方法应用于生物学，用基因组序列替代书面文本。
为此，研究人员使用约200万个噬菌体基因组训练了Evo——这些是感染细菌但对人类无害的病毒。其中一种特定病毒φX174作为测试案例。它仅有11个基因和约5,000个DNA"字母"，在基因组标准下非常小，已被研究数十年，使其成为该实验的理想试验场。
训练后，该模型生成了一系列完整基因组：代表从未存在过的假设病毒的A、C、G和T字符串。但这种输出最终只是一组代码，是没有任何实体物质的数字序列。将这些代码转化为物理有机体需要使用高度专业设备合成DNA，并将其引入大肠杆菌(E. coli)，后者提供了产生蛋白质和组装新病毒颗粒所需的细胞机制。在团队合成和测试的302个AI生成基因组中，只有16个被证明是可行的——能够成功复制并杀死其细菌宿主——在某些情况下甚至比自然进化的噬菌体更高效。
"亲眼看到这个AI生成的病毒球体确实令人印象深刻，"希说道。
尽管如此，较低的成功率——约5%——突显了这种方法的局限性。即使对于如此小的病毒，将数字序列转化为功能性有机体也是一个缓慢而昂贵的过程，原因在很大程度上与AI本身无关。合成一个全新的病毒基因组可能花费数万至数十万美元，具体取决于长度和错误率。扩展到更大的基因组——这个过程几乎不可避免地需要先经过许多失败的设计循环——很快就会将成本推至数百万美元。
换句话说：作为恐怖工具，目前AI生成的生物武器提供的投资回报率极为低下。
希指出，如果恶意行为者意图用生物武器造成伤害，已有远比用AI发明新东西更经济的选择。"天花病毒的基因组是公开知识，其已知病死率达90%,"他说，"而且那东西基本上有100%的成功率。"
从成本效益角度看，很难理解为什么对手会选择昂贵、易失败的设计过程，而不是选择有长期且毁灭性记录的病原体。鉴于合成整个基因组的物理过程相关成本，这种计算短期内不太可能发生显著变化。
以AI速度进行治理
虽然独立行动者利用AI生物工程工具的风险可能有限，但拥有更多资源和专业知识的敌对国家可能会带来更大的风险。
"你真的必须区分国家和非国家行为者，"前白宫网络安全政策高级总监、现斯坦福大学教授安德鲁·詹姆斯·格罗托(Andrew James Grotto)表示。"生物威胁只有在同时具备能力和意图时才会显现，"他说。"我们谈论的不是自然发生的疫情，它没有意识。人类行为者是有目标导向的，对成本和收益敏感。国家在成本约束方面较少，但它们也对后果有着敏锐的认识。"
生物安全专家长期以来一直警告，就减轻这些风险而言，机构准备——而非任何特定技术——最为重要。约翰·霍普金斯健康安全中心主任汤姆·英格尔斯比(Tom Inglesby)在国会作证时警告称："无论是在美国还是国际上，我们都没有所需的监管体系来充分理解或管理这类发展。"
从这个角度看，AI的重要性不在于它可能最终带来的新危险，而在于它暴露了已有紧张的监管环境中的现有弱点。然而历史上，政府往往对生物工程问题重视不足。"生物风险在历史上缺乏核威胁和化学威胁的即时显著性，"担心此类风险在政策讨论中经常被视为事后想法的格罗托说道。
走向"良性"病毒
尽管存在长期安全风险，许多研究者对机器设计基因组用于有益用途的潜力持乐观态度——这是双重用途硬币的积极一面。
噬菌体长期以来一直被研究作为抗生素的替代品，特别是针对耐药性感染。与广谱抗生素不同，噬菌体可以高度特异性，只针对单一细菌菌株，同时保持微生物组的其他部分完整。瓶颈始终是速度：及时找到或设计合适的病毒以产生临床意义。
AI可以帮助解决这一限制。研究人员可能最终按需设计噬菌体，将病毒基因组定制为特定感染，而不必在自然界中寻找合适的噬菌体。类似方法可应用于农业，细菌性疾病经常摧毁农作物。
病毒在基因治疗中也扮演着核心角色，作为治疗性DNA的递送载体。"大多数基因治疗使用病毒将基因运送到患者体内，"领导斯坦福实验的研究生塞缪尔·金(Samuel King)在接受《麻省理工科技评论》采访时说。AI辅助设计可以产生更安全、更高效或更能靶向特定组织的病毒载体。
综上所述，这些应用指向更广泛的转变：生物设计正变得越来越可编程。自动化实验室已经允许研究人员同时测试数千种基因变异。结合生成模型，这些系统有望将发现速度提升至远超当今水平。
然而，正是这种加速让政策制定者感到不安。旨在加速研究过程的工具也可能压缩想法与现实之间的距离，引发关于现有监管制度能否跟上的疑问。
非生命——尚非生命
公众对斯坦福研究的担忧可能部分源于对它似乎提出的问题的本能反应：AI是否创造了新的生命？
目前，答案是有条件的"否"。病毒处于生物灰色地带，因为它们完全依赖宿主细胞进行复制。设计即使是简单的细菌也需要操纵比此处涉及的基因组大几个数量级的基因组，以及仍不完全理解的相互作用层次。从噬菌体到完整细胞生命的飞跃不是一个渐进步骤；而是一个指数级的飞跃。
从这个角度看，斯坦福的工作代表了现有技术的加速，而非与科学惯例的根本性突破。合成生物学长期以来一直依赖迭代实验过程。AI压缩了这一周期，使探索和测试更快——但它并没有消除生物学本身施加的限制。
但AI驱动创新的惊人速度可能会带来新的挑战。当设计速度超过治理速度时，责任问题变得突出。谁（或什么）最终对AI生成的有机体负责：模型的开发者、部署它的研究人员，还是资助这项工作的机构？
这些问题回响着生物技术研究中更早的关键时期：从1970年代的重组DNA突破，到近期关于新冠病毒疫情期间的功能增益研究的争论。历史表明，规范和保障措施会随着时间推移而演变——但它们需要跟上技术变革的步伐。
目前，AI设计的病毒本质上仍是一个概念验证。而引发滥用担忧的相同技术也可能带来巨大的公共卫生效益——从加速疫苗开发到推进抗生素发现和疫情应对。然而，这些工具最终是带来更多希望还是更多危险，仍有待观察。
正如马歇尔·麦克卢汉(Marshall McLuhan)著名观察所言，技术既不好也不坏——但它不是中立的。AI驱动的生物学也不例外。虽然近期风险可能被夸大，但长期的利害关系和机遇是真实的。随着代码和生物学继续融合，一个更大的问题浮现：我们的机构能否足够迅速地适应，以启动相当于免疫反应的监管机制？
【全文结束】
