Azure AI 基础设施强势升级!进一步扩展人工智能能力
目前golang学习网上已经有很多关于科技周边的文章了,自己在初次阅读这些文章中,也见识到了很多学习思路;那么本文《Azure AI 基础设施强势升级!进一步扩展人工智能能力》,也希望能帮助到大家,如果阅读完后真的对你学习科技周边有帮助,欢迎动动手指,评论留言并分享~

微软 Azure AI 基础设施是微软扩展产品和服务的核心支柱,为开发人员提供在 Azure 平台上构建下一代 AI 驱动的应用程序所需的系统、工具和资源。
微软在早期对硬件和AI基础设施的投资,正在帮助客户将AI的高效和创新转化为业务价值。通过利用AI,用户可以创造更丰富的用户体验,推动创新,提高业务生产力
微软 Azure AI 基础设施能够支持全球可扩展,且未来微软仍将对其进行持续投资与扩展。现在,微软推出了 ND H100 v5 虚拟机系列,这款虚拟机配备了 NVIDIA H100 Tensor Core 图形处理单元(GPU)和低延迟网络,推动企业步入 AI 应用新时代。
AI 处理和规模的程度是前所未有的
发布了 ND H100 v5 虚拟机系列
微软全新发布 Azure ND H100 v5 虚拟机(VM)系列,现已在美国东部和美国中南部 Azure 区域提供。该系列配备了最新的 NVIDIA H100 Tensor Core GPU 和 NVIDIA Quantum-2 InfiniBand 网络。凭借在超级计算性能和规模方面的丰富经验,微软精心设计的 ND H100 v5 系列虚拟机,用于应对先进的 AI 工作负载带来的日益增加的复杂性。作为微软在 AI 领域深入和持续投资的一部分,微软正在利用一个 AI 优化的 4K GPU 集群,并将在明年将其扩展到数十万个全新的 GPU。
ND H100 v5 VM 虚拟机系列具有以下特性: - 高性能:ND H100 v5 VM 虚拟机系列具备强大的计算能力和处理速度,能够快速处理复杂的计算任务。 - 灵活性:该系列虚拟机支持灵活的配置选项,可以根据实际需求进行调整和定制。 - 可靠性:ND H100 v5 VM 虚拟机系列采用可靠的硬件和软件组件,确保系统的稳定性和可靠性。 - 安全性:该系列虚拟机提供安全的隔离环境,能够有效保护用户的数据和应用程序。 - 易用性:ND H100 v5 VM 虚拟机系列提供简单易用的界面和工具,使用户能够轻松管理和操作虚拟机
- AI 超级计算 GPU:配备了八个 NVIDIA H100 Tensor Core GPU。比起上一代虚拟机,该系列可让 AI 模型显著提速,为企业提供无与伦比的计算能力。
- 新一代计算机处理单元(CPU):CPU 性能对于 AI 的训练和推理至关重要,微软选择了第四代 Intel Xeon Scalable 处理器,确保虚拟机达到最佳的处理速度。
- 低延迟网络:采用 NVIDIA Quantum-2 ConnectX-7 InfiniBand,每个 GPU 拥有 400Gb/s、每个 VM 拥有 3.2 Tb/s 的跨节点带宽,确保 GPU 间的无缝性能,堪称全球顶级的超级计算机。
- 优化主机到 GPU 的性能:通过PCIe Gen5提供每个GPU 64GB/s的带宽,Azure在CPU和GPU之间具有显著的性能优势。
- 大规模的内存和内存带宽:DDR5 内存是该系列虚拟机的核心,提供更高的数据传输速度和效率,使它们成为处理大规模数据集工作负载的理想选择。
该系列虚拟机已经证明了它们的性能优势,使用新的8位 FP8 浮点数据类型进行矩阵乘法操作时,速度提升了六倍,比前一代的 FP16 更快。ND H100 v5 VM 帮助大型语言模型(如 BLOOM 175B 端到端模型)实现了最高两倍的推理速度提升,验证了它们进一步优化 AI 应用的潜力。
由 Azure AI 基础设施支持的人工智能,具有推动从制造到零售、从金融服务到医疗保健等各行各业发展的潜力。
本篇关于《Azure AI 基础设施强势升级!进一步扩展人工智能能力》的介绍就到此结束啦,但是学无止境,想要了解学习更多关于科技周边的相关知识,请关注golang学习网公众号!
深度学习中的代码数据增强:5年89篇研究综述
- 上一篇
- 深度学习中的代码数据增强:5年89篇研究综述
- 下一篇
- 仅次于 GPT-4,Inflection AI 发布 Inflection-2 模型
-
- 科技周边 · 人工智能 | 1天前 |
- 讯飞绘文写活动通知怎么避免改错时间和地点
- 360浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Accelerate Accelerator.clip_grad_norm_ 怎样在混合精度训练中裁剪梯度
- 339浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | 人工智能 · LoRa PEFT save_pretrained PeftModel 适配器权重
- PEFT PeftModel 怎样只保存适配器权重
- 468浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Transformers num_special_tokens_to_add 怎样计算输入的特殊词元开销
- 233浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | TensorFlow dataset tf.data assert_cardinality
- TensorFlow tf.data.assert_cardinality 怎样标记数据集的样本数量
- 191浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | PyTorch 模型权重 safetensors safe_open
- Safetensors safe_open 怎样按名称读取单个张量
- 368浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Transformers get_added_vocab 怎样读取新增词元与编号映射
- 267浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Safetensors metadata 怎样读取文件元数据
- 358浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Transformers compute_transition_scores 怎样查看每个生成 token 的分数
- 321浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 |
- Transformers StopStringCriteria 怎样按结束字符串停止生成
- 443浏览 收藏
-
- 科技周边 · 人工智能 | 1天前 | 人工智能 · Hugging Face 模型仓库 Hugging Face Hub HfApi list_repo_tree
- Hugging Face Hub HfApi.list_repo_tree 怎样列出模型仓库中的文件
- 429浏览 收藏
-
- 科技周边 · 人工智能 | 2天前 | 人工智能 · PyTorch safetensors contiguous save_file transpose
- Safetensors 保存转置张量时怎样处理连续内存
- 165浏览 收藏
-
- 前端进阶之JavaScript设计模式
- 设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
- 543次学习
-
- GO语言核心编程课程
- 本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
- 516次学习
-
- 简单聊聊mysql8与网络通信
- 如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
- 500次学习
-
- JavaScript正则表达式基础与实战
- 在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
- 487次学习
-
- 从零制作响应式网站—Grid布局
- 本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
- 485次学习
-
- PubMedQA
- 深入了解PubMedQA生物医学问答数据集,涵盖其核心功能、使用方法及在临床决策、药物研发等场景的应用,助力提升NLP模型性能。
- 1162次使用
-
- H2O EvalGPT
- H2O EvalGPT是H2O.ai推出的开源LLM评估平台,提供详细的大模型性能排行榜、行业特定基准测试及A/B测试功能,助您快速选择最适合项目的高性能大语言模型。
- 1147次使用
-
- LMArena
- LMArena是加州大学伯克利分校推出的AI模型匿名评测平台。通过盲测投票机制,用户可对比不同大模型回答并生成实时排行榜,助力开发者优化模型及用户选择最佳AI工具。
- 1324次使用
-
- HELM
- 深入了解斯坦福推出的HELM(Holistic Evaluation of Language Models)大模型评测体系。本文解析其核心功能、安装配置步骤及应用场景,涵盖准确性、公平性、鲁棒性等多维度指标,助力开发者全面优化语言模型性能。
- 1267次使用
-
- MMBench
- MMBench是由上海人工智能实验室等机构联合推出的多模态基准测试平台,提供细粒度能力评估、大规模数据集及VLMEvalKit工具。本文详细介绍其核心功能、安装使用方法及应用场景,助力开发者全面评估多模态模型性能。
- 1125次使用
-
- 量化模型本地推理的显存估算方法
- 2026-10-17 501浏览
-
- 本地大模型反复输出同一句话怎么调整生成参数
- 2026-09-06 501浏览
-
- Python 调用大模型时如何用结构化输出校验 JSON:从解析失败到可重试
- 2026-08-29 501浏览
-
- AI写作工具免费版安装教程(含豆包Clawdbot)
- 2026-05-30 501浏览
-
- WPS AI能自动生成PPT吗?输入主题一键制作演示文稿
- 2026-05-27 501浏览

