全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能

戴尔科技、慧与和联想即将推出采用 nvidia l40s gpu 和 nvidia bluefield 的服务器,以支持 vmware private ai foundation with nvidia
拉斯维加斯 — vmware explore — 太平洋时间 2023 年 8 月 22 日 — nvidia 宣布,全球领先的系统制造商将推出 ai 就绪型服务器,其支持同发布的 vmware private ai foundation with nvidia,帮助企业使用自有业务数据来定制和部署生成式 ai 应用。
nvidia ai 就绪型服务器将采用 nvidia l40s gpu、nvidia bluefield-3 dpu 和 nvidia ai enterprise 软件使企业能够微调生成式 ai 基础模型并部署生成式 ai 应用,比如智能聊天机器人、搜索和摘要工具等。这些服务器还提供由 nvidia 加速的基础设施和软件,以支持 vmware private ai foundation with nvidia。
作为全球领先的系统制造商的戴尔科技、慧与和联想,将于年底前推出搭载 nvidia l40s 的服务器,以加速推进企业级 ai 的发展。
nvidia 创始人兼首席执行官黄仁勋表示:“全新的计算时代已经来临,各行各业的企业都在竞相采用生成式 ai。我们正在通过涵盖全球顶尖软件和系统合作伙伴的生态系统,将生成式 ai 带给全球企业。”
对于将部署 vmware private ai foundation with nvidia 的企业来说,nvidia ai 就绪型服务器是一个理想的平台。
vmware 首席执行官 raghu raghuram 表示:“生成式 ai 正在大力推动数字化转型进程,企业需要一种全面集成的解决方案,以更加安全地构建应用,从而推动业务发展。通过 vmware、nvidia、以及我们服务器制造商合作伙伴的专业知识相结合,企业将能够在确保数据隐私、安全和可控性的前提下开发和部署 ai。”
助推企业生成式 ai 转型
各行各业正在竞相将生成式 ai 用于药物研发、零售产品描述、智能虚拟助手、制造模拟、欺诈检测等各种用途,nvidia ai 就绪型服务器将为这些行业提供全栈加速基础设施和软件。
这些服务器采用 nvidia ai enterprise,即 nvidia ai 平台的操作系统。该软件为 100 多个框架、预训练模型、工具套件和软件提供生产就绪型企业级支持和安全性,包括用于 llm 的 nvidia nemo、用于模拟的 nvidia modulus、用于数据科学的 nvidia rapids 和用于生产型 ai 的 nvidia triton 推理服务器。
专为处理包含数十亿参数的复杂 ai 工作负载而打造的 l40s gpu 搭载第四代 tensor core 和 fp8 transformer 引擎,可提供超 1.45 pflops 的张量处理能力,其训练性能是 nvidia a100 tensor core gpu 的 1.7 倍。
相较于 nvidia a100 gpu,nvidia l40s 可将智能聊天机器人、助手、搜索和摘要等生成式 ai 应用中的生成式 ai 推理性能提高 1.2 倍。
通过集成 nvidia bluefield dpu,可加速、卸载和隔离巨大计算工作负载,其中包含虚拟化、网络、存储、安全,以及其他云原生 ai 服务,以进一步提高速度。
nvidia connectx-7 智能网卡提供先进的硬件卸载和超低延迟,可为数据密集型生成式 ai 工作负载提供同类领先的可扩展性能。
推动企业生成式 ai 部署的庞大生态系统
全球领先的计算机制造商正在构建 nvidia ai 就绪型服务器,包括戴尔 poweredge r760xa、适用于 vmware private ai foundation with nvidia 的慧与 proliant gen11 服务器以及联想 thinksystem sr675 v3。
戴尔科技主席兼首席执行官 michael dell 表示:“生成式 ai 是创新的‘催化剂’,将助力解决一些全球性的重大挑战。而采用 nvidia ai 就绪型服务器的戴尔生成式 ai 解决方案将扮演至关重要的角色,即通过推动生产力水平实现前所未有的提升,并变革工业运营的方式,以加速人类的进程。”
慧与总裁兼首席执行官 antonio neri 表示:“生成式 ai 将推动企业生产力规模的全新扩展 —— 从赋能聊天机器人和数字助理,到帮助设计和开发新的解决方案。我们很高兴能继续与 nvidia 密切合作,在一系列企业级调优和推理工作负载解决方案中采用 nvidia 的 gpu 和软件,这将加速生成式 ai 的部署。”
联想集团主席兼首席执行官杨元庆表示:“企业迫切希望采用生成式 ai 来推动智能化转型。通过与 nvidia 和 vmware 合作,联想正在进一步扩大自身在生成式 ai 领域的领先地位,并巩固自身的独特定位,即在客户采用 ai 的旅程中为其提供帮助。”
供应情况
搭载 l40s gpu 和 bluefield dpu 的 nvidia ai 就绪型服务器将于年底前上市,云服务提供商预计将在未来几个月提供实例。
gtc 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。点击 “阅读原文” 或扫描下方海报二维码,关注更多会议及活动信息。
原文标题:全球领先系统制造商推出 nvidia ai 就绪型服务器,为企业大幅提升生成式 ai 性能
文章出处:【微信公众号:nvidia英伟达】欢迎添加关注!文章转载请注明出处。

日本制定无人机标准
虹软科技VisDrive落地量产方案已覆盖各种车型
电机启动器的分类
无位置反馈比例阀放大器RT-PVDA
AMD官方澄清RX5700XT50周年纪念版显卡限地区发售的情况
全球领先系统制造商推出 NVIDIA AI 就绪型服务器,为企业大幅提升生成式 AI 性能
ds18b20如何读取温度?温度数据怎么换算?
Linux操作系统的系统性能监控工具syastat的详解
首创后置三摄+三摄万物:华为联合京东这波海报666
物联网安全之Unicorn框架初探
自制的中波环形天线,AM antenna
一台智能汽车会使用哪些芯片
掌握物联网转型主动权 海尔打造智能+5G智慧园区
P2P实时影音分享技术
Android 12锁屏、通知界面UI曝光
94个项目!“太湖之芯”创业大赛初赛-深圳赛区圆满落幕
华工科技子公司出售芯片及TO封装设备,为盘活公司存量资产
RSA:世界为物联网做好准备了吗
微型空气监测系统安装使用注意事项
微软打辅助,大众花两千亿能否推掉传统汽车这座高塔?