人工智能(AI)辅助的蛋白质工程正推动生命科学领域的重大突破，但同时也带来了新的生物安全挑战。核酸合成是AI辅助蛋白质工程流程中的关键环节，因此，在AI能力不断增强的背景下，强化核酸合成服务商对订单的筛查机制成为提升生物安全的重要关注点。
微软联合 Twist Bioscience、RTX BBN Technologies、Integrated DNA Technologies、Aclid 等 DNA 合成技术公司，于2025年10月2日在《Science》期刊上发表文章，题为“Strengthening nucleic acid biosecurity screening against generative protein design tools”。该研究评估了开源AI驱动的蛋白设计软件生成蛋白变体的能力，并测试这些变体是否能够规避当前商业核酸合成服务商所使用的生物安全筛查工具。结果显示，现有筛查工具无法可靠检测经AI重新设计的序列，这构成潜在的安全漏洞。对此，作者团队开发并部署了补丁，显著提升了对更可能保留野生型功能的合成同源序列的检测能力。
Michael A. Funk在总结中指出：“企业与政府限制潜在有害生物研究的一项关键措施，是对可编码特定蛋白质或来源于特定病原体的DNA的商业合成进行管控。然而，现有的筛查方法并不总能够检测到经过工程化处理的序列。Wittmann等人与四家商业DNA合成公司合作，对筛查方法进行了压力测试，并开发了相应补丁，大幅增强其对受限制序列的识别能力。研究结果表明，即使蛋白序列经过蛋白设计方法的改写，更新后的软件仍能够有效标记这些具有风险的蛋白。”
背景
各类生成式AI工具正被越来越多地用于设计新蛋白或改造现有蛋白，使科学家能够在巨大的组合设计空间中探索并迅速找到实现特定结构与功能目标的路径。然而，随着此类工具的快速发展和日益普及，蛋白质科学家、生物安全专家及监管机构也逐渐认识到，有必要制定相应的协议与体系，以防这些技术被滥用于生成潜在有害的蛋白。在任何可能引发生物安全风险的蛋白合成过程中，一个关键环节是向核酸合成供应商订购编码该蛋白的基因或其片段。这一流程在蛋白生产流程中形成了可被监控的瓶颈，用以降低不当行为者获取风险蛋白的可能性。核酸合成公司会使用生物安全筛查软件(BSS)对客户订单进行筛查，以识别那些编码关注蛋白(POCs)的基因。
然而，在面对新兴的AI辅助蛋白设计(AIPD)任务时，传统BSS的敏感性可能下降，目前也尚未开展系统、广泛的潜在漏洞评估。在本研究中，作者报告了一项跨组织、持续数月的工作，旨在深入理解这一挑战并制定相关缓解措施。研究以一次“AI红队”分析为核心(图1)，展示了如何利用公开可用的AIPD工具实施对抗性设计，以规避现有BSS的检测。同时，研究也展示了如何基于这些发现制定并优化相应的防护策略。
图1 AIPD红队流程
实验流程
在本研究框架中，研究团队利用广泛可获取的AIPD工具，通过计算模拟展示了如何将一个关注蛋白重新设计为数以千计的合成同源序列，并进一步评估这些序列在知名核酸合成公司的BSS中的可识别性。具体而言，研究人员采用了三种开源蛋白序列生成模型(PSGM)，包括ProteinMPNN、EvoDiff-MSA和EvoDiff-Seq，对72个野生型关注蛋白在多个突变负荷区间内生成了总计76080个合成同源序列。随后，研究人员使用OpenFold对模板蛋白及其合成同源序列进行结构预测，并据此计算TM-Score与ΔpLDDT两项计算指标(图2)。
图2 计算模拟中生成的合成同源序列的指标分布
评估生物安全筛查软件
研究团队将76080个合成同源序列提交给四家BSS开发机构，并由其使用各自的软件进行检测。这些BSS工具涵盖多种策略，包括正则表达式匹配、基于隐马尔可夫模型(HMM)的搜索以及结合神经网络增强的序列比对方法。尽管这些工具的技术路线有所差异，但它们均采用最佳匹配框架，因此理论上都可能难以识别本研究生成的对抗性序列。所谓最佳匹配，是指若某序列片段与某个关注序列的匹配度优于其与任何其他序列的匹配度，则该序列将被标记并进入专家审查流程。
采用研究开展时的筛查协议对上述序列进行分析，结果呈现在图3的第1列。通常情况下，TM-Score与ΔpLDDT较高的合成同源序列更可能保留野生型功能。因此，在图3的第1列与第2列中，右上角区域(高TM-Score且高ΔpLDDT)理应大面积被标记为红色，意味着BSS能够成功识别。同时也需注意，在常规核酸合成订单中，大多数序列并不包含潜在危险内容，因此BSS的假阳性率必须保持较低，以避免订单处理延误并减少对行业的经济负担。因此，理想情况下不希望在图中的左下角区域出现大量误报。然而，鉴于本研究涉及的蛋白可能具有潜在危害性，且计算指标本身存在不确定性，对于评估BSS的有效性而言，让右上角区域尽可能呈现红色(被标记)比让左下角区域保持蓝色(未标记)更重要。若要对BSS具备充分信心，则在第1列与第2列的右上角不应出现蓝色区域。总体来看，尽管所有测试的BSS工具对野生型蛋白表现良好，但在PSGM情境下，它们尚不能稳定识别含潜在风险蛋白基因的DNA合成订单。
图3 所有蛋白、工具及参与提供商的计算指标与标记情况
针对上述结果，供应商1至3对其BSS进行不同程度的更新，调整范围从完全替换筛查算法(供应商1)到仅通过参数优化提升灵敏度(供应商2和3)，供应商4则未进行更新。如图3的第2列所示，更新后，供应商1至3的BSS在识别经AI重新设计的变体方面能力增强，在部分情形下对野生型模板的识别能力也有所提升，同时仍保持较低的假阳性率。
在第二组实验中，作者向已完成补丁更新的BSS提交了经过扰动处理的DNA序列。此类DNA通过以下步骤生成，首先将直接编码合成同源序列的DNA进行分段，其后随机打乱所得片段的方向或顺序。这一策略属于已被业内认知的对抗性混淆方法，旨在减弱序列与其对应蛋白的直接关联，使其更难被筛查工具检测，同时理论上仍可能在实验室条件下被重构为原始基因。该测试的目的在于评估在面对结合多种对抗技术的攻击路径时，补丁后的BSS是否仍具备足够能力识别编码关注蛋白的基因。
图4 DNA混淆对BSS的影响
图4展示了来自72个模板蛋白的、经重新设计且更可能具备功能性的变体在DNA混淆处理下被遮蔽的频率。所谓被遮蔽蛋白，是指当以直接编码DNA提交时能够被标记，但在以混淆后的DNA提交时未能被标记的情形。总体而言，与未更新版本相比，所有经补丁增强的BSS不仅在检测由AI重设计的变体方面性能提升，在处理混淆DNA时也表现出更强的鲁棒性。
总结
人工智能驱动的蛋白设计在解决健康和生命科学领域的关键问题方面展现出巨大潜力，有望为人类福祉和社会发展带来深远的积极影响。然而，与其他新兴技术类似，及早识别并缓解由其带来的新型风险同样至关重要。本研究展示了如何通过技术创新、协同探索、客观评估和审慎流程，构建及时且负责任的风险缓解路径，从而为不断壮大的AI生物安全研究体系提供重要贡献。从长期视角看，仅依赖基于序列匹配的生物安全筛查并不足以持续有效地标记受限序列，因为可以预见AIPD将能够生成自然界从未出现过的全新蛋白。因此，尽管强化基于序列的筛查工具仍然必要，但这一体系必须辅以新的方法学创新。未来的提升方向可能包括利用高维学习嵌入空间执行更具鲁棒性的同源性检测，以增强现有BSS工具的覆盖范围与识别能力。
参考链接：
https:///10.1126/science.adu8578