开发者可以直接在浏览器中试用全新的 nvidia ai foundation models,使用 nvidia ai foundation endpoints 在应用程序中进行测试,然后使用专有的业务数据进行自定义。
如今,免费、开源的大语言模型对企业来说就像是一顿“自助餐”。但对于构建自定义生成式 ai 应用的开发者来说,这顿“大餐”可能会让他们应接不暇,因为他们需要满足各种不同的项目和业务需求,比如兼容性、安全性和用来训练模型的数据。 nvidia ai foundation models 集企业级预训练模型之大成,为开发人员提供了针对企业应用定制生成式 ai 的良好开端。
nvidia 优化的基础模型加速创新
nvidia ai foundation models 可通过简单的用户界面或 api 直接在浏览器体验。此外,这些模型还可通过 nvidia ai foundation endpoints 进行访问,以便在企业应用中测试模型性能。
llama 2、stable diffusion xl 和 mistral 等现有的领先社区模型在格式化后,可帮助开发者利用其专有数据精简自定义过程。此外,这些模型还通过 nvidia tensorrt-llm 进行了优化,以提供最高的吞吐量和最低的时延,同时支持在任一 nvidia gpu 加速堆栈上的大规模运行。例如,经过 tensorrt-llm 优化的 llama 2 模型在 nvidia h100 上的运行速度提高了近 2 倍。 新的 nvidia nemotron-3 8b 基础模型系列可支持创建当今领先的企业聊天与问答应用,并适用于医疗、电信和金融服务等众多行业。 这一系列模型是客户构建安全且生产就绪的生成式 ai 应用的起点。这些模型在可靠的数据集上训练而成,其性能可媲美规模更大的模型,因此成为企业部署的理想之选。 多语言功能是 nemotron-3 8b 系列模型的关键优势之一。这些开箱即用的模型精通 50 多种语言,包括英语、德语、俄语、西班牙语、法语、日语、中文、韩语、意大利语和荷兰语。
加快从自定义到部署的全过程
在跨业务功能中使用生成式 ai 的企业需要一个 ai foundry,以便为其独特的应用自定义模型。nvidia 的 ai foundry 具备三个要素:nvidia ai foundation models、nvidia nemo 框架和工具,以及 nvidia dgx 云 ai 超级计算服务。它们共同提供了端到端的企业级服务,以创建自定义生成式 ai 模型。
重要的是,企业拥有其定制化模型,也就可以通过 nvidia ai enterprise 软件将其部署到几乎任何地点,并获得企业级的安全性、稳定性和支持。 nvidia ai foundation models 现已在 nvidia ngc 目录(https://catalog.ngc.nvidia.com/ai-foundation-models.ngc.nvidia.com/ai-foundation-models)和 hugging face 上免费提供,并且也托管于 microsoft azure ai 模型目录中。 gtc 2024 将于 2024 年 3 月 18 至 21 日在美国加州圣何塞会议中心举行,线上大会也将同期开放。扫描下方海报二维码,立即注册 gtc 大会。
原文标题:nvidia 加快企业自定义生成式 ai 模型开发
文章出处:【微信公众号:nvidia英伟达企业解决方案】欢迎添加关注!文章转载请注明出处。
兆易创新NOR闪存累计出货量超过100亿颗 将推动研发24nm工艺NAND技术
iphone8最新消息,iphone8什么时候上市?果8机身外壳报曝光,网友:“没想到你是这样的苹果!”
石墨烯电池和铅酸电池的区别
至2025年全球电动汽车电池回收市场规模年复合增长率将达41.8%
基于GMPLS的光突发交换的原理与网络结构
NVIDIA 加快企业自定义生成式 AI 模型开发
硕数物联科技PPC-1921主板简介
E拆解:小小的充电器,竟然拆出多家国产芯片
海信入选2022中国新消费Z世代品牌榜,大屏影音最爱激光电视
推荐一款12W开关电源芯片U62153
屏幕指纹将成为标配? vivo公布新机X21海报
PCB的器件布局需要注意哪些问题
PLC闪存即将上线 比QLC闪存再渣一等
!销售/回收HP6675A直流电源HP6675A 小兵/李S
整车业务恢复缓慢,众泰汽车上半年亏损2.84亿元
大数据对智慧医疗行业有什么帮助
蓝牙定时开关怎么接线,蓝牙定时开关怎么设置定时
关于本质安全Boost变换器的探讨
智能叉车AGV小车车载系统功能特点
ABLIC推出业界首款(*1)具有报警功能的S-82L1/T1/U1/V1系列单节电池保护IC