英伟达推出 L40S GPU，AI 推理性能超过 A100 约 1.2 倍

IT行业相对于一般传统行业，发展更新速度更快，一旦停止了学习，很快就会被行业所淘汰。所以我们需要踏踏实实的不断学习，精进自己的技术，尤其是初学者。今天golang学习网给大家整理了《英伟达推出 L40S GPU，AI 推理性能超过 A100 约 1.2 倍》，聊聊，我们一起来看看吧！

据IT之家8月10日消息，英伟达最近推出了全新的NVIDIA L40S GPU和配备该GPU的OVX服务器系统，有关该技术的文档可以在这里找到

▲ 图片来源：英伟达官网

据悉，这款 L40S GPU 搭配最新发布的 OVX 服务器，可适用于 AI 大模型训练和推理、三维设计、可视化、视频处理、工业数字化等多种用途，相比 A100 GPU，这套“相得益彰”的 L40S 系统能够“增强生成式 AI、图形和视频处理能力，并满足不断增长的算力需求”。

根据IT之家的调查，我们了解到L40S GPU是英伟达之前L40 GPU的升级版，具备48GB GDDR6 ECC显存。该GPU基于Ada Lovelace架构，搭载第四代Tensor Core和FP8转换引擎，其计算速度是上一代的5倍。然而，仍然不支持NVLink

根据英伟达的说法，L40S 在生成式 AI 推理性能上比 A100 高出 1.2 倍，并且在训练性能上高出 1.7 倍。英伟达认为，对于“复杂的 AI 工作，具有数十亿个参数和多种数据模式”，L40S 的效能更加显著

英伟达宣布，他们将在今年秋季推出英伟达 L40S GPU。每台英伟达 OVX 服务器系统最多可支持8个L40S加速卡，但英伟达尚未公布该GPU的价格

英伟达宣布华硕、戴尔、技嘉、HPE、联想、QCT和美超微等厂商将很快推出搭载L40S GPU的OVX服务器系统

终于介绍完啦！小伙伴们，这篇关于《英伟达推出 L40S GPU，AI 推理性能超过 A100 约 1.2 倍》的介绍应该让你收获多多了吧！欢迎大家收藏或分享给更多需要学习的朋友吧~golang学习网公众号也会发布科技周边相关知识，快来关注吧！