百度智能云打造三款顶级云底座，引领大模型时代

珍惜时间，勤奋学习！今天给大家带来《百度智能云打造三款顶级云底座，引领大模型时代》，正文内容主要涉及到等等，如果你正在学习科技周边，或者是对科技周边有疑问，欢迎大家关注我！后面我会持续更新相关内容的，希望都能帮到正在学习的大家！

2023 年 12 月 20 日，在北京举办了百度云智大会・智算大会。大会的主题是「大模型重构云计算，Cloud for AI」，着重讨论了由大模型引发的云计算变革

百度智能云表示，为满足大模型落地需求，正在基于「云智一体」战略重构云计算服务，目前已完成从底层基础设施 — 大模型开发与应用 —AI 原生应用开发的端到端升级重构：全面升级百舸等 20 多个云计算基础设施、千帆大模型平台再升级、AI 原生应用开发工作台 “千帆 AppBuilder” 全面开放。

智算大会现场，百度智能云还公布了最新 “成绩单”。自 8 月 31 日文心大模型向全社会全面开放以来，在千帆大模型平台上，大模型 API 日调用量增长 10 倍。目前千帆平台已经累计服务超过 4 万家企业用户，累计帮助企业用户精调近 1 万个大模型。相较于自建系统训练大模型，使用千帆平台训练的成本最高可以下降 90%。

大模型正在重构云计算

AI 原生时代已经开始，大型模型正在推动云计算产业的创新变革。百度集团副总裁侯震宇指出：“大型模型重塑云计算主要体现在三个方面：AI 原生云将改变云计算的格局，模型即服务（MaaS）将成为新的基础服务，AI 原生应用将催生新的研发范式。”

首先，在云基础设施层，移动互联网时代的应用，底层大多依赖 CPU 算力，而 AI 应用对 GPU 或异构计算的需求大幅增加，云市场的底层算力需求将逐渐转向以 GPU 为主。

其次，在模型层，大模型正在成为通用的服务能力，即 MaaS。MaaS 将大幅降低 Al 落地的门槛，实现真正的 Al 普惠。

最后，在应用层，应用开发的范式已经被彻底颠覆。大模型理解、生成、逻辑、记忆的独特能力会催生 A 原生应用研发新范式，整个应用技术栈、数据流和业务流都将被改变。

侯震宇表示，总体来说，构建繁荣的 A 原生应用生态，需要大模型、智能算力、AI 原生应用研发新范式三要素相辅相成。大模型是 AI 原生应用的 “大脑”，智能计算则为 A 原生应用运行提供坚实支撑，新研发范式助力开发者高效基于大模型能力开发应用。数据飞轮是成功的 AI 原生应用的充分必要条件，让大模型能力高速迭代，产品体验持续进步。

云计算全面升级：五大领域 20 余款全栈产品集中发布

AI 原生时代，面向大模型的云计算基础设施体系将全面重构。侯震宇表示，百度智能云将在三大方面重构云计算服务，即：面向模型的智算基础设施、面向数据的数据基础设施、面向应用的云基础设施，以支撑 AI 原生应用落地。

在大会现场，百度智能云发布和升级了超过20款云计算产品，包括智能计算、通用计算、数据库和大数据、分布式云、应用开发平台等五个领域

在智能计算领域，算力是实现大模型应用的基础条件。目前，大模型的训练、推理和部署对高速互联、计算效率和算力成本提出了很高的要求。因此，我们需要建立新型的智能计算基础设施。然而，目前的计算集群面临着一些挑战，比如大模型训练时间长、容易出错，稳定性也较差。此外，算力集群的规模较大，系统复杂度也较高，这增加了运维的难度

全新发布的百度百舸・AI 异构计算平台 3.0，针对 AI 原生应用以及大模型的训练、推理等环节进行了专项优化。百舸 3.0 在稳定、高效、易运维三个方面大幅升级产品能力，实现万卡级别任务有效训练时长达到 98% 以上，带宽有效性可达 95%。相比自建智算基础设施，可以实现模型训、推吞吐分别最高提升 30% 和 60% 。

百度智能云推出智算网络平台，以解决AI原生时代智能算力供需平衡的问题。该平台支持将百度和第三方智算中心、超算中心、边缘节点等智算节点全面接入，实现分散且异构的算力资源的连接，形成一个统一的算力网络资源池。通过百度自主研发的算力调度算法，智能分析各类算力资源的状态、性能和利用率等指标，并统一调度算力，使得智算资源能够灵活、稳定、高效地交付给有需求的用户，实现智算资源的平衡分配

在通用计算领域，计算、存储、网络等云原生基础设施也需要面向 AI 原生时代重构升级，提供更具弹性、高性能和智能化的运维能力。

本次大会，百度太行・计算新增了三款计算实例：全新推出第 7 代（通用计算型）云服务器实例 G7，综合性能较上一代产品提升 10%；发布昆仑芯弹性裸金属实例 NKL5，搭载了百度自研的昆仑芯 R300 加速处理器，在大模型推理场景综合性能较业界主流加速卡可提升达 50%；发布基于昇腾 910B 加速处理器打造的弹性高性能计算实例 NH6T，在大模型训练场景中，综合性能较业界主流加速卡提升可达 40%。

与此同时，高性能计算平台CHPC（云HPC）已正式发布，为用户提供了一站式公共云HPC服务。在资源使用方面，CHPC支持用户一键创建高性能计算环境，并根据业务变化自如地使用云上资源；在业务应用方面，CHPC支持集成药物研发、基因测序等行业的应用。此外，结合在VPC内集成的百度网盘等服务，用户可以轻松实现HPC源文件从提交、上传、处理、结果回传，到分发的数据全链路打通，以提高研发效率

在分布式云方面，百度智能云带来三大升级：边缘计算节点 BEC 产品能力升级，打造全球统一的边缘计算网络和产品体验，打造 AI 原生应用时代能力最完善的 “云边一体”；专有云 ABC Stack 新能力发布，支持本地部署百度智能云千帆大模型平台；本地计算集群 LCC 新能力发布，支持全新一代 CPU/GPU 实例以及完整的百度智能云 AI&HPC 集群管理能力，进一步丰富完善基础设施与云产品支持能力矩阵。

大模型落地不仅需要算力支持，还需要对各类数据和海量的知识进行存储、管理和分析工作。百度智能云在云存储、云原生数据库、大数据平台等数据基础设施领域发布了一系列重磅新品。

百度沧海・存储已经正式发布了统一技术底座，它能够支持各类存储产品，并同时满足AI时代的大规模、高性能、低成本的存储需求。全新升级的对象存储BOS、云磁盘CDS、并行文件存储PFS等产品，已经针对数据湖存储和AI存储能力进行了全面增强，以加速智能计算并释放数据的价值

云原生数据库 GaiaDB 4.0 版本正式发布，增强并行查询能力，突破单机计算瓶颈，实现跨机多核并行查询，在混合负载和实时分析业务场景中性能提升超过 10 倍；针对不同的工作负载推出列存索引和列存引擎，提升不同规模数据的查询速度，其中列存引擎最大可支持 PB 级数据的复杂分析，并且与事务处理业务严格复杂隔离；通过共识协议优化、链路优化、自适应动态回放存储多版本等一些列数据流深度优化，大幅提升 GaiaDB 整体性能 60% 以上。

大会期间，杭州吉利易云科技有限公司总经理成品耀，分享了吉利集团携手百度智能云的打造集团专有云，打造数字基建底座。目前吉利集团已实现车联网、生产制造业务上云，且正在基于这套高效、稳定的基础设施平台构建企业级 AI 大模型能力，全方位赋能集团业务。

模型即服务（MaaS）：千帆大模型平台再升级

在人工智能的原生时代，大模型将作为新的通用服务能力，通过模型即服务（MaaS）平台提供给广大用户。百度智能云千帆大模型平台（以下简称"千帆平台"）是业界领先的MaaS服务平台，预置了包括百度文心大模型在内的国内最多的54个主流基础大模型和行业大模型，还为大模型的持续预训练、精调、评估、压缩和部署等环节提供了最完善易用的工具链，帮助客户根据自身业务场景快速定制专属的大模型。相较于自建系统训练大模型，使用千帆平台训练的成本最高可以降低90%

目前，千帆平台已经累计服务超过 40000 家企业用户，精调近 10000 个大模型。本次智算大会，针对客户应用大模型最关心的 “提效” 和 “降本” 两大核心诉求，千帆平台发布一系列全新功能。

千帆平台在数据方面提供完善、高效的大模型数据管理工具链，包括数据采集、清洗、自动标注、自动增强与推理数据多位评估等功能，助力用户快速构建自身业务的“数据飞轮”，实现反馈驱动增长。全新发布的数据统计分析、数据质量检查等功能，支持用户获取全方位的数据洞察信息，结合数据清洗可视化Pipeline，能够构建出面向大模型场景的高质量数据燃料，为大模型训练提供保障。千帆也因此成为国内首个支持大模型多方位数据分析的MaaS服务平台

作为模型部署上线前的 “最后一公里”，模型评估能够对大模型的输出效果、计算性能等进行全方位评估，确保大模型上线后 AI 原生应用的效果稳定可靠。千帆平台创新性地引入自动化与人工结合的双重评估机制，充分发挥双方优势，大幅提升模型评估效率与质量。一方面，百度文心大模型作为 AI 裁判员，能够对被评估模型的回答进行自动化打分，极大程度地减少海量重复性人工作业；另一方面，由数据标注员 / 业务专家对大模型回答进行打分，则能够实现对大模型回答质量的精细化衡量。

此外，千帆平台灵活的计价方式，如 Tokens（适用灵活性要求较高的业务）、TPM（Tokens per Minute，适用于较大并发量业务）、批量计算（适用于离线内容生产等对实时性要求较低，吞吐较大的任务）、算力单元（适用于需要专享硬件部署模型的客户）等，可以轻松满足客户的多种业务场景需要，助力企业低成本用好大模型。

赋能 AI 原生应用开发：千帆 AppBuilder 正式开放服务

为了满足企业迅捷高效地进行 AI 原生应用开发的需求，降低 AI 原生应用开发的门槛，百度智能云千帆 AppBuilder 正式开放服务

AppBuilder 将常见的大型模型开发 AI 原生应用的模式、工具和流程整合到一个工作台中，以帮助开发者专注于业务本身，而无需在开发过程中分散精力。具体来说，AppBuilder 主要由组件和框架两个层次的服务构成

「组件」服务由多模态的 AI 能力组件（如文字识别、文生图等）、基于大语言模型的能力组件（如长文总结、nl2sql 等）、基础组件（如向量数据库、对象存储等）三部分组成，是对底层服务能力的组件化封装，让每个组件完成一个特定的功能。

「框架」则是通过将上述这些组件有选择地串联、组合起来，让它们能够比较完整地完成一个特定场景的任务。目前，AppBuilder 提供的检索增强生成（RAG）、智能体（Agent）、智能数据分析（GBI）就是常用的 AI 原生应用框架。

AppBuilder提供了两种产品形态，即代码态和低代码态。对于那些有深度AI原生应用开发需求的用户，AppBuilder的代码态提供了包括SDK、开发环境、调试工具和应用示例代码等各种开发工具和组件。而AppBuilder的低代码态则提供了可视化工具，用户只需简单点击，就能快速定制和上线AI原生应用

百度创始人、董事长兼首席执行官李彦宏认为，繁荣的 AI 原生应用生态，会驱动经济增长。今年 10 月，百度智能云推出了国内首个大模型全链路生态支持体系，为合作伙伴提供包括赋能培训、AI 原生应用孵化、销售商机、市场营销等全方位的支持，致力于繁荣 AI 原生应用生态。

侯震宇预判，2024 年将成为 AI 原生应用的元年，迎来 AI 原生应用的爆发式增长。百度智能云将持续推出有竞争力的产品方案，与伙伴一起深耕客户应用场景，让更多的 AI 原生应用创新涌现。

理论要掌握，实操不能落！以上关于《百度智能云打造三款顶级云底座，引领大模型时代》的详细介绍，大家都掌握了吧！如果想要继续提升自己的能力，那么就来关注golang学习网公众号吧！