英特尔张宇:边缘计算在整个AI生态系统中扮演重要角色
在IT行业这个发展更新速度很快的行业,只有不停止的学习,才不会被行业所淘汰。如果你是科技周边学习者,那么本文《英特尔张宇:边缘计算在整个AI生态系统中扮演重要角色》就很适合你!本篇内容主要包括##content_title##,希望对大家的知识积累有所帮助,助力实战开发!
【环球网科技报道 记者 林梦雪】当前,生成式AI、大模型在世界各地都呈现出高热现象,在刚刚过去的2023世界人工智能大会(WAIC 2023)期间, 各家厂商更是掀起了“百模大战”,据组委会不完全统计,共有超30个大模型平台对外发布和亮相,六成线下展台展示了生成式AI技术的相关介绍和应用,八成参会人员讨论的内容围绕大模型展开。
WAIC 2023期间,英特尔公司高级首席AI工程师、网络与边缘事业部中国区首席技术官张宇认为,推动本轮人工智能发展最核心的要素,实际上是计算、通讯和存储技术的不断提升。在整个AI生态系统中,无论是大型模型还是融合AI,边缘都扮演着至关重要的角色。
张宇表示,“随着行业数字化转型,人们对于敏捷连接,实时业务以及应用智能等方面的诉求,推动了边缘人工智能的发展。但是边缘人工智能目前绝大部分的应用还处于边缘推理阶段。也就是说我们要利用大量数据以及极大算力在数据中心训练一个模型,我们把训练的结果推送到前端去执行一个推理操作。这是目前绝大部分在边缘实现人工智能的使用模式。”
“尽管这种模式会限制模型的更新频率,但我们也发现许多智能行业实际上对模型的更新有需求。”。自动驾驶要求具备适应不同路况和多个驾驶员的驾驶行为的能力。但是我们在车厂训练一个角色模型的时候,所使用的训练数据和在动态驾驶过程中所产生的数据之间,往往会产生一定差异。这个差异对于模型的泛化能力产生了影响,即对新路况和新驾驶行为的适应能力。我们需要在边缘不断对这个模型进行进一步训练和优化。”他说道。
因此,张宇提出,人工智能发展的第二个阶段应该是边缘训练阶段。“如果我们要实现边缘训练,就需要有更加自动化的手段和工具去完成从数据标注到模型的训练,以及模型部署一整套完整的开发流程。”他表示,边缘人工智能下一步的发展方向应该是自主学习。
而在实际的发展过程中,边缘人工智能也面临着诸多挑战。在张宇看来,除了边缘训练的挑战外,还有边缘设备的挑战。“由于提供的算力所能够承载的功耗往往是有限的,所以如何在有限资源的情况下去实现边缘的推理及训练,对芯片的性能、功耗比提出了更高的要求。”他还提出,边缘设备的碎片化非常明显,如何利用软件很好地实现在不同平台之间的迁移也提出了更多要求。
此外,人工智能的发展与算力息息相关,而算力的背后则是庞大的数据基础,面对海量的数据资产,如何进行数据保护也成为边缘人工智能发展热议的焦点。当人工智能被边缘部署时,这些模型将远离服务提供商的控制范围。在这个时候我们如何去保护模型?且要在存储和运行时都能达到很好的保护效果,这些都是边缘人工智能面临的挑战。”
“英特尔是一家数据公司,我们的产品恰恰涵盖了计算、通讯和存储的各个方面。在计算方面,英特尔提供的是包括CPU、GPU、FPGA和各种人工智能加速芯片在内的多种产品,来满足用户对于算力的不同要求。比如在人工智能大模型方面,英特尔旗下的Habana推出的Gaudi2产品是整个业界唯二的在大模型训练方面表现出优异性能的产品。在在边缘推理方面,英特尔提供的OpenVINO深度学习部署工具套件,可以将开发人员在开放的人工智能框架上设计和训练好的模型快速部署到不同硬件平台执行推理操作。”
以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于科技周边的相关知识,也可关注golang学习网公众号。
如何使用MySQL数据库进行推荐系统任务?
- 上一篇
- 如何使用MySQL数据库进行推荐系统任务?
- 下一篇
- OPPO K11配置升级:5000万像素IMX890传感器首次亮相
-
- 科技周边 · 人工智能 | 2小时前 |
- 模型路由怎么做:按任务难度分配速度、成本与质量
- 147浏览 收藏
-
- 科技周边 · 人工智能 | 4小时前 |
- 多模态模型读图前,图片缩放与裁切会影响什么
- 247浏览 收藏
-
- 科技周边 · 人工智能 | 19小时前 | 人工智能 · 推理优化 ONNX Runtime 动态量化 nodes_to_exclude
- ONNX Runtime 动态量化怎么选择需要排除的节点
- 377浏览 收藏
-
- 科技周边 · 人工智能 | 21小时前 | 人工智能 · 向量检索 · Sentence Transformers truncate_dim 嵌入维度 Matryoshka 向量存储
- Sentence Transformers 怎么截断嵌入维度减少存储
- 165浏览 收藏
-
- 科技周边 · 人工智能 | 23小时前 |
- PEFT 多个 adapter 怎么按权重组合推理
- 454浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Accelerate 大模型推理怎么自动分配到多块设备
- 358浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | 人工智能 · Tokenizers offset_mapping 原始文本
- Tokenizers offset mapping 怎么映射回原始文本位置
- 328浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | python · 人工智能 · shuffle Hugging Face Datasets streaming IterableDataset buffer_size
- Datasets streaming 怎么在不下载全集时打乱样本
- 470浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 365次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 424次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 437次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 387次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 214次使用
-
- 本地大模型反复输出同一句话怎么调整生成参数
- 2026-09-06 501浏览
-
- Python 调用大模型时如何用结构化输出校验 JSON:从解析失败到可重试
- 2026-08-29 501浏览
-
- AI写作工具免费版安装教程(含豆包Clawdbot)
- 2026-05-30 501浏览
-
- WPS AI能自动生成PPT吗?输入主题一键制作演示文稿
- 2026-05-27 501浏览
-
- Canva手机闪退解决方法及适配指南
- 2026-05-25 501浏览

