开源22万条DeepSeek R1的高质量数据！你也能复现DeepSeek了

编程并不是一个机械性的工作，而是需要有思考，有创新的工作，语法是固定的，但解决问题的思路则是依靠人的思维，这就需要我们坚持学习和更新自己的知识。今天golang学习网就整理分享《开源22万条DeepSeek R1的高质量数据！你也能复现DeepSeek了》，文章讲解的知识点主要包括，如果你对科技周边方面的知识点感兴趣，就不要错过golang学习网，在这可以对大家的知识积累有所帮助，助力开发能力的提升。

DeepSeek 的影响力持续发酵，中国AI军团实现了反向技术输出，引发全球复现 DeepSeek 的热潮。尽管 DeepSeek-R1 部分开源，但关键信息仍未公开。然而，技术报告已为复现提供了指导，许多团队利用小型模型取得了成功，其中 Hugging Face 的 Open R1 项目最为引人注目。

Open R1 项目旨在完全开放复现 DeepSeek-R1，并补充所有未公开的技术细节。几周内，他们已完成 GRPO 实现、训练与评估代码以及合成数据生成器。项目地址：https://github.com/huggingface/open-r1

近期，Open R1 发布了 OpenR1-Math-220k 数据集，填补了 DeepSeek R1 合成数据缺口。该数据集包含 22 万条高质量数据，源自 80 万条 DeepSeek R1 推理轨迹。

OpenR1-Math-220k 数据集概览 数据集链接：https://huggingface.co/datasets/open-r1/OpenR1-Math-220k

DeepSeek R1 的优势在于其将高级推理能力迁移到小型模型的能力。DeepSeek 团队使用了 60 万条推理数据，证明了这种迁移能力，即使不使用强化学习也能实现强大的推理性能。OpenR1-Math-220k 数据集弥补了 DeepSeek 未公开合成数据的不足。基于该数据集训练的 Qwen-7B-Math-Instruct 模型，性能与 DeepSeek-Distill-Qwen-7B 相当。

OpenR1-Math-220k 数据集特点：

• 利用 DeepSeek R1 生成 80 万条推理轨迹，筛选后保留 22 万条高质量数据。
• 本地高效生成，利用 512 个 H100 服务器，每天生成 18 万条推理轨迹。
• 基于 NuminaMath 1.5，专注于数学推理公式。
• 自动过滤，通过数学验证和 Llama3.3-70B-Instruct 模型筛选，确保数据质量。

数据集分为 default (94k 问题) 和 extended (131k 问题) 两个部分。

Open R1 团队希望这种可扩展、高质量的推理数据生成过程能够启发其他领域。数据生成过程使用了 vLLM 和 SGLang，并对 Math-Verify 工具进行了改进，利用 Llama-3.3-70B-Instruct 模型进行二次评估，确保数据质量。数据生成脚本：https://github.com/huggingface/open-r1/tree/main/slurm

在 OpenR1-Math-220k 数据集上训练的 Qwen-7B-Math-Instruct 模型，与 DeepSeek-Distill-Qwen-7B 的性能相当。

Open R1 项目的成果表明，少量高质量的推理数据也能实现强大的推理能力，并引发了关于 LLM 推理机制、数据规模和 CoT 长度等问题的深入探讨。 相关研究表明，更小、更高质量的数据集可能更有效。 Open R1 团队正在进行更多实验，以优化 GRPO 训练。

参考链接：https://huggingface.co/blog/open-r1/update-2, https://x.com/_lewtun/status/1889002019316506684, https://huggingface.co/open-r1, https://arxiv.org/pdf/2502.05171, https://arxiv.org/pdf/2502.03373

以上就是《开源22万条DeepSeek R1的高质量数据！你也能复现DeepSeek了》的详细内容，更多关于产业,Open R1的资料请关注golang学习网公众号！