当前位置：首页 > 文章列表 > 科技周边 > 人工智能 > 中科院计算所团队提出CarbonNovo，基于AI进行蛋白质结构和序列的端到端从头设计

中科院计算所团队提出CarbonNovo，基于AI进行蛋白质结构和序列的端到端从头设计

来源：机器之心 2024-11-28 17:20:57 0浏览收藏

科技周边不知道大家是否熟悉？今天我将给大家介绍《中科院计算所团队提出CarbonNovo，基于AI进行蛋白质结构和序列的端到端从头设计》，这篇文章主要会讲到等等知识点，如果你在看完本篇文章后，有更好的建议或者发现哪里有问题，希望大家都能积极评论指出，谢谢！希望我们能一起加油进步！

编辑 | ScienceAI

作者 | 计算所张海仓团队

近期，中国科学院计算所张海仓带领的研究团队提出了 CarbonNovo，以端到端的方式联合设计蛋白质主链结构和序列。

该研究以「CarbonNovo: Joint Design of Protein Structure and Sequence Using a Unified Energy-based Model」为题发表在机器学习会议 ICML 2024 上。

中科院计算所团队提出CarbonNovo，基于AI进行蛋白质结构和序列的端到端从头设计

背景介绍

蛋白质是生物执行功能的重要大分子。蛋白质从头设计旨在创造全新的蛋白质，在药物开发和酶工程中有着广泛的应用。

近几年，基于 AI 的蛋白质从头设计快速发展，已被成功应用于抗体设计、小蛋白药物设计等领域，和传统设计方法相比，其显著提高了设计成功率和效率。

AI 蛋白质设计得益于近几年的两大技术突破：

一是蛋白质结构预测领域的 AlphaFold2 模型，它为蛋白质计算领域包括蛋白质设计领域，提供了基础的神经网络模型架构、蛋白质序列表示和结构表示方法、以及先进的训练策略（蒸馏训练、端到端训练）等技术；

二是 AIGC 在文字、图像、视频生成领域的快速发展，为蛋白质设计提供了成熟的生成模型，例如 DDPM, SDE, Flow Matching，Bayesian Flow Network 等。代表性的蛋白质设计模型，例如 RFDiffusion 和 Chroma 等，主要思路都是将这两大技术融合，将蛋白质的序列和结构表示网络嵌入到基于 AI 的生成模型框架中。

中科院计算所团队提出CarbonNovo，基于AI进行蛋白质结构和序列的端到端从头设计

图 1：蛋白质从头设计的「两阶段」框架。(来源，作者)

蛋白质从头设计主要包含两个步骤，蛋白质主链结构设计和序列设计（图1）。相应地，当前的主流模型通常采用「两阶段」框架进行：在训练过程中，结构设计模块和序列设计模块分别训练；在推断过程中，首先生成主链结构，然后为主链结构生成最优序列。代表性地，领域内使用 RFDiffusion 和 ProteinMPNN 这两个软件，依次生成主链结构和序列。

蛋白质从头设计的「两阶段」框架存在固有的局限性：

(1) 序列设计模块面临过拟合风险。序列设计模块是在准确的结晶结构上训练的，而在推断阶段，结构模块生成的结构是包含噪音的，其准确性与晶体结构不一致。

(2) 序列设计模块缺乏与结构设计模块的交互，设计序列无法为结构生成模块提供反馈以进一步优化生成的结构。

CarbonNovo进行端到端的结构和序列联合设计

针对蛋白质设计「两阶段」框架的局限性，中科院计算所张海仓带领的研究团队提出 CarbonNovo，以端到端的方式联合设计蛋白质主链结构和序列。论文近期已于近期发表在机器学习会议 ICML 2024 上。

中科院计算所团队提出CarbonNovo，基于AI进行蛋白质结构和序列的端到端从头设计

图 2：CarbonNovo 端到端生成蛋白质结构和序列。（来源：论文）

CarbonNovo 的主要贡献总结如下：

1）设计了基于能量的生成模型，以端到端的方式设计主链结构和序列（图 2）。之前的结构-序列联合设计模型主要针对抗体等特殊的蛋白质家族，CarbonNovo 是第一个针对所有蛋白质家族的结构-序列联合设计模型。

2）基于 network recycling 技术，CarbonNovo 首次将蛋白质语言模型引入蛋白质结构设计任务，以利用海量天然蛋白质序列数据包含的先验信息。

3）CarbonNovo 采用多种技术，以提高结构-序列联合生成模型的训练和推断效率，例如多阶段训练策略和用于序列采样的离散 M-H Langevin 算法。

蛋白质结构-序列的联合能量模型

中科院计算所团队提出CarbonNovo，基于AI进行蛋白质结构和序列的端到端从头设计

在经典物理模型下，天然蛋白质构象具有比较低的自由能，这也是蛋白质结构预测和设计的一般假设。基于此，CarbonNovo 建立了蛋白质结构和序列的联合能量模型:

1) 采用SE(3)空间的扩散模型刻画主链结构能量。最近的一些研究，无论是在训练目标还是推理策略方面，都已将扩散模型统一在能量模型（Energy-based model）下。

CarbonNovo也是基于此，将AI模型下的能量和经典物理模型下的能量联系在一起。需要指出的是，主流扩散模型（例如 FrameDiff 和 Genie）只是用IPA (Invariant Point Attention network)作为生成网络。而 CarbonNovo 引入了 AlphaFold2 模型里的三角更新网络，也是该工作的创新之一。

2) 采用 amortized Potts 模型刻画给定主链结构下的序列能量。Potts 模型是经典的能量模型，在蛋白质结构预测领域被用来学习同源序列中的共进化信号。CarbonNovo 利用学习到的结构表示来参数化 Potts 模型，建立给定结构条件的序列能量模型。

图 2 展示了 CarbonNovo 的具体生成过程:

1) 基于扩散模型设计出当前时间步的主链结构。

2) 给定当前的主链结构，基于 Potts 模型设计出可能的序列。

3) 通过 network recycling 机制，将中间序列的语言模型表示回传到结构模块来帮助生成更一致的序列-结构，实现了结构模块、序列模块和预训练语言模型的统一。

CarbonNovo 生成蛋白质结构-序列的性能评测