DARWIN 1.5 来啦！材料设计通用大语言模型，刷新多项实验性质预测记录

“纵有疾风来，人生不言弃”，这句话送给正在学习科技周边的朋友们，也希望在阅读本文《DARWIN 1.5 来啦！材料设计通用大语言模型，刷新多项实验性质预测记录》后，能够真的帮助到大家。我也会在后续的文章中，陆续更新科技周边相关的技术文章，有好的建议欢迎大家在评论留言，非常感谢！

DARWIN 1.5：一款基于语言接口的材料发现与设计AI模型

材料科学的核心挑战在于高效地寻找理想的材料成分和结构。传统的计算方法，例如高通量筛选和机器学习，通常依赖于复杂的、特定任务的描述符，这些描述符难以泛化，且与真实材料特性存在偏差，限制了实际应用。为了克服这些局限，GreenDynamic 联合澳大利亚新南威尔士大学、上海人工智能实验室和香港城市大学的研究团队，开发了名为 DARWIN 1.5 的新型人工智能模型。

DARWIN 1.5 不同于传统的机器学习方法，它基于2022年NeurIPS论文提出的语言接口微调框架（LIFT），并整合了33万条科学问答和22个材料科学任务的数据集进行预训练。这种方法使得模型能够灵活地预测各种材料属性，并成功预测了数万种材料的特性。

相较于LLaMA-7B 和 GPT-4，DARWIN 1.5 的性能最高提升了60%，并在超过一半的材料属性预测任务（例如带隙和屈服强度预测）中超越了传统的机器学习方法。在多个基准测试中，例如MatBench带隙预测，DARWIN 1.5 更是刷新了最高记录（SOTA）。

图示：DARWIN 在劳伦斯伯克利国家实验室MatBench材料带隙预测基准测试中取得的最高记录。

DARWIN 1.5 的关键技术:

DARWIN 1.5 采用两阶段训练策略：

1. 问答（QA）微调: 利用高引用科学文献中的33000个问答对进行微调，将专业知识融入模型，并模拟人类科学家分析文献的思维方式。
2. 多任务学习: 同时执行22个材料科学任务（包括5个分类任务和17个回归任务），涵盖多种材料系统和属性，实现知识共享和跨任务迁移学习。

图 1：DARWIN 模型架构示意图。

这种方法避免了传统机器学习对复杂描述符的依赖，使用自然语言作为统一输入，简化了任务整合，并增强了模型在实验场景中的适用性。 SciQAG-24D 数据集和多任务学习策略的结合，显著提升了模型的性能。

图 2：不同微调策略对模型性能的影响。

图 3：DARWIN 1.5 与其他模型的性能对比。

预训练阶段对模型的性能至关重要，为后续的QA微调和多任务学习奠定了坚实的基础。多任务学习有效地增强了知识迁移，尤其在回归任务中表现显著。 在带隙预测方面，DARWIN 1.5 以其低门槛、高速度和高精度，超越了传统的计算方法。

图 4：预训练模型与未经预训练模型的性能对比。

图 5：不同类型任务中预训练和微调的收益对比。

图 6：消融实验结果，展示了多任务学习机制的有效性。

表 1：DARWIN 1.5 与传统带隙预测方法的性能对比。

DARWIN 1.5 代表了材料科学与人工智能融合的新纪元，其通用性、高精度和高效率，为新材料的发现和设计提供了强大的工具。 项目源码和论文地址已附上。

终于介绍完啦！小伙伴们，这篇关于《DARWIN 1.5 来啦！材料设计通用大语言模型，刷新多项实验性质预测记录》的介绍应该让你收获多多了吧！欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布科技周边相关知识，快来关注吧！