复旦团队提出Transformer生成的原子嵌入策略，可通过ML提高晶体特性的预测准确性

编程并不是一个机械性的工作，而是需要有思考，有创新的工作，语法是固定的，但解决问题的思路则是依靠人的思维，这就需要我们坚持学习和更新自己的知识。今天golang学习网就整理分享《复旦团队提出Transformer生成的原子嵌入策略，可通过ML提高晶体特性的预测准确性》，文章讲解的知识点主要包括，如果你对科技周边方面的知识点感兴趣，就不要错过golang学习网，在这可以对大家的知识积累有所帮助，助力开发能力的提升。

基于Transformer的晶体材料特性预测模型：CrystalTransformer

近年来，基于Transformer架构的化学分子性质与结构预测模型取得了显著进展，例如OrbNet和3D-Transformer。这些模型有效利用Transformer处理原子间相互作用和三维结构的能力，从而高效地表示复杂的原子间相互作用。 复旦大学的研究人员在此基础上，开发了一种名为CrystalTransformer的新模型，该模型生成名为ct-UAE的通用原子嵌入（Universal Atomic Embedding），为每个原子学习独特的“指纹”，捕捉其在材料中的功能和相互作用。

这些原子嵌入随后被应用于不同的深度学习模型中。研究人员利用均匀流形近似和投影（UMAP）聚类方法对原子进行分组，并分析嵌入与真实原子属性之间的关联。这项研究成果已于2025年1月31日发表在《Nature Communications》期刊上，论文标题为“Transformer-generated atomic embeddings to enhance prediction accuracy of crystal properties with machine learning”。

加速新型晶体材料的发现对于推动清洁能源、信息处理等技术发展至关重要。而传统的原子信息嵌入方法在提高材料特性预测精度方面存在局限性。CrystalTransformer生成的ct-UAE作为一种通用的原子指纹，具有广泛的适用性。

实验结果表明，基于CrystalTransformer的ct-UAE能够准确捕捉复杂的原子特征。在材料项目数据库中，使用形成能作为目标时，CGCNN模型的预测精度提高了14%，ALIGNN模型的预测精度提高了18%。 ct-UAE还展现出良好的可移植性，适用于各种数据库。

基于多任务ct-UAE的聚类分析能够对元素周期表中的元素进行有效分类，并揭示原子特征与目标晶体特性之间的合理联系。在预测混合钙钛矿数据库中的形成能时，MEGNET模型的精度提高了34%，CGCNN模型的精度提高了16%，这充分展现了ct-UAE在解决数据稀缺性问题上的潜力。

论文链接：https://www.nature.com/articles/s41467-025-56481-x

今天关于《复旦团队提出Transformer生成的原子嵌入策略，可通过ML提高晶体特性的预测准确性》的内容介绍就到此结束，如果有什么疑问或者建议，可以在golang学习网公众号下多多回复交流；文中若有不正之处，也希望回复留言以告知！