漆远：AI趋势开源安全可信

目前golang学习网上已经有很多关于科技周边的文章了，自己在初次阅读这些文章中，也见识到了很多学习思路；那么本文《漆远：AI趋势是开源开放与安全可信》，也希望能帮助到大家，如果阅读完后真的对你学习科技周边有帮助，欢迎动动手指，评论留言并分享~

在2025 Inclusion·外滩大会期间，复旦大学人工智能创新与产业研究院院长漆远围绕AI技术的未来走向，提出了三大关键方向：开源开放、价值交付与安全可信，并通过多个实际案例深入探讨了人工智能如何真正实现产业落地并驱动变革。

漆远表示，2025年最显著的趋势之一是“开源开放”正从理念全面走向实践，深刻重构着全球AI生态格局。他特别提到“DeepSeek”的崛起，“彻底改变了生成式AI的竞争格局”，其高性能与完全开源的设计实现了效率上的数量级跃升，带来了“十倍以上的效能提升”。

这一浪潮甚至撼动了传统封闭模式的科技巨头。漆远指出：“OpenAI时隔六年再度开源”，其创始人Sam Altman公开反思：“我们或许曾站在历史错误的一侧。”这标志着行业对开源战略价值的重新审视与回归。

他认为，当前AI已不再局限于提供工具，而是迈向“结果导向”的新阶段——从“Copilot”逐步进化为“Auto Pilot”，真正成为可交付业务成果的核心能力。这一转变的关键在于深度融入具体行业场景，并融合领域专业知识。

以医疗领域的“焕新智能体”为例，该系统已在中山医院投入实际运行。与依赖大规模算力或工程师堆叠的方案不同，它的核心优势在于“更精准的场景理解”和“更高质的数据沉淀”。系统能够整合MRI、CT、心电图及文本等多模态医学数据，自动识别心电异常区域，辅助医生完成标准化诊疗决策。

在金融领域，漆远团队凭借一项融合大语言模型与符号计算的技术，在恒生指数创新挑战赛中拔得头筹。该技术构建了“神经符号系统”，有效抑制模型幻觉，保障推理过程的严谨性。他强调：“我们要解决的是指数生成在广度、深度、速度和细粒度上的综合挑战。”

在畅谈技术突破的同时，漆远多次强调“安全可信”是AI发展的不可逾越的底线。他坦言，当前大模型普遍存在“虚构内容”“逻辑幻觉”等问题，某些医疗问答模型的准确率仅约55%，令人“难以放心使用”。

他列举了多起警示性事件：MIT导师发现学生提交的博士论文系AI代写；全球广告巨头WPP的CEO遭遇深度伪造视频诈骗，损失巨额资金。这些案例揭示出信息真伪难辨的时代危机。

为此，漆远及其团队提出五大关键技术路径：

• 可解释AI：在医疗、金融等高风险决策场景中，模型必须能清晰说明每一个判断依据。
• 检索增强（RAG）与神经符号系统：结合规则引擎与语义理解，提升推理的准确性与可控性。
• 高质量数据治理：数据的质量直接决定模型输出的可靠性，需建立严格的数据筛选与标注机制。
• 博弈对抗技术：借鉴强化学习和围棋对弈的思想，训练模型在复杂、动态环境中保持稳健表现。
• 自知之明机制：让AI具备“知道自己不知道”的能力，避免盲目输出，是通往可信AI的关键一步。

漆远总结道，开源开放推动AI技术普惠化，使更多机构得以参与智能化进程；深入行业场景才能释放真实价值；而唯有建立在安全与可信基础上的发展，才能确保人工智能行稳致远。

终于介绍完啦！小伙伴们，这篇关于《漆远：AI趋势开源安全可信》的介绍应该让你收获多多了吧！欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布科技周边相关知识，快来关注吧！