本文已根据Science X的编辑流程和政策进行审核。编辑在确保内容可信度的同时，突出了以下属性：
事实核查
同行评审出版
可信来源
校对
AIPD红队演练工作流程摘要。来源：科学 (2025)。DOI: 10.1126/science.adu8578
人工智能正在通过加速新药物和蛋白质的发现以及简化DNA（生命的基本构建模块）的设计和操作来改变生物学和医学。但与大多数新技术一样，也存在潜在的负面影响。同样的AI工具可能被用于开发能够绕过当前安全检查的危险新病原体和毒素。在微软的一项新研究中，科学家采用黑客式测试证明，AI生成的序列可以规避DNA制造商使用的安全软件。
"我们认为，AI辅助蛋白质设计的持续进步在应对健康和生命科学领域的关键挑战方面具有巨大潜力，有可能为人类和社会带来压倒性的积极影响，"研究人员在发表于《科学》杂志的论文中评论道。"然而，与其他新兴技术一样，主动识别并减轻新型能力带来的风险也至关重要。"
测试防御系统
当生物技术公司为研究人员制造DNA时，他们使用生物安全筛查软件(BSS)来查找新序列与已知威胁数据库之间的相似性。这既是优势也是劣势，因为它只能针对数据库中列出的内容进行筛查。
为了测试这一生物安全漏洞，微软研究人员使用公开可用的AI程序创建了7.6万余种已知危险蛋白质（包括蓖麻毒素）的合成变体。他们实际上并未生产这些蛋白质；而是设计了用于合成的遗传指令。然后，他们将这些序列通过四种不同的筛查软件工具进行测试，看是否有任何序列能够通过检查。结果确实如此——数量相当大。相当比例的这些AI设计序列轻松通过了检查。
发现这些漏洞后，微软团队与BSS提供商合作开发了补丁。这些补丁包括更新威胁数据库和微调筛查软件。结果如何？升级后的筛查工具在第二次测试中捕获了97%的最危险序列。
这项研究发出了明确的警告。尽管补丁提高了检测率，但它们并非万无一失，因为3%的潜在危险序列未能被识别。此外，由于这些序列是计算机预测的，尚不清楚这些蛋白质在现实世界中的表现如何。
显然，需要更多工作来构建针对日益复杂的AI技术的稳健防御，但这一努力将持续进行。持续的进化军备竞赛不可避免。正如疫苗必须跟上新的病毒突变一样，生物安全筛查工具也需要持续更新，以应对AI生成的威胁。
本文由作者保罗·阿诺德撰写，加比·克拉克编辑，罗伯特·伊根进行事实核查和审阅——这是精心人工工作的成果。
更多信息：Bruce J. Wittmann等人，《加强针对生成式蛋白质设计工具的核酸生物安全筛查》，《科学》(2025)。DOI: 10.1126/science.adu8578
【全文结束】
