AI华佗？港中大、深圳大数据研究院提出医疗推理大模型HuatuoGPT-o1

“纵有疾风来，人生不言弃”，这句话送给正在学习科技周边的朋友们，也希望在阅读本文《AI华佗？港中大、深圳大数据研究院提出医疗推理大模型HuatuoGPT-o1》后，能够真的帮助到大家。我也会在后续的文章中，陆续更新科技周边相关的技术文章，有好的建议欢迎大家在评论留言，非常感谢！

OpenAI o1 的突破为增强自然语言大模型（LLM）的推理能力，拓展其应用潜力指明了方向。然而，当前大多数推理研究集中于数学领域，医学等专业领域的应用仍有待深入探索。

医学领域对可靠答案的依赖性极高，因此需要强大的推理能力。但与数学不同，医学推理的验证难度较大。为解决这一难题，香港中文大学和深圳市大数据研究院的研究人员提出了一种基于可验证医学问题和医学验证器的评估方法。

他们开发了 HuatuoGPT-o1，这是一个能够进行复杂医学推理的 LLM。令人瞩目的是，该模型仅使用 40,000 个可验证问题进行训练，便超越了多个医学专用基准模型。

这项研究成果已于 2024 年 12 月 25 日以「HuatuoGPT-o1, Towards Medical Complex Reasoning with LLMs」为题，发表在 arXiv 预印平台。

医疗任务通常需要复杂的推理过程，医生需要谨慎权衡各种因素。 HuatuoGPT-o1 的优势在于，医疗领域的相对封闭性和可验证性，使其训练和评估更为便捷，研究成果也易于迁移至其他领域，例如金融、法律等。

HuatuoGPT-o1 的核心方法

HuatuoGPT-o1 的训练基于 40,000 个从具有挑战性的闭卷医学考试题目中提取的可验证医学问题。这些问题具有开放性，且只有一个客观正确的答案，方便验证器检查模型输出的准确性。

HuatuoGPT-o1 的训练分为两个阶段：

第一阶段：学习复杂推理 通过策略搜索和验证器反馈（正确或错误），模型学习构建复杂的推理路径。

第二阶段：强化学习优化 使用强化学习（RL）算法（近端策略优化，PPO）进一步优化模型的复杂推理能力。

结果显示，HuatuoGPT-o1（8B 模型）在医学基准测试中取得了 8.5 分的显著提升，70B 版本更是在多个基准测试中超越了其他开源通用和医学专用 LLM。 此外，在中医基准测试中也表现出色。

该研究证明了复杂推理在提升 LLM 医学推理能力方面的显著作用，并强调了强化学习的积极影响。 HuatuoGPT-o1 的成功为 LLM 在医学和其他专业领域的应用提供了新的可能性。

模型地址：https://github.com/FreedomIntelligence/HuatuoGPT-o1

论文链接：https://arxiv.org/abs/2412.18925

相关内容：https://x.com/_akhaliq/status/1873572891092283692

好了，本文到此结束，带大家了解了《AI华佗？港中大、深圳大数据研究院提出医疗推理大模型HuatuoGPT-o1》，希望本文对你有所帮助！关注golang学习网公众号，给大家分享更多科技周边知识！