AMD推出MI300X,可运行多达800亿参数模型

6月13日(星期二),amd举行新品发布会,最重磅的新品当属于具有大模型训练功能的gpu instinct mi300。
该芯片是针对llm的优化版,拥有192gb的hbm3内存、5.2 tb/s的带宽和896gb/s的infinity fabric带宽。amd将1530亿个晶体管集成在12个5纳米芯片内。使用cdna 3 gpu结构、24个zen 4 cpu核心、128gb hbm3内存。与前作mi250、mi300相比,性能和效率分别提高了8倍和5倍。
mi300x提供的hbm与英伟达ai芯片h100的密度相比,最大2.4倍,带宽最大1.6倍。amd的芯片将可以运行比英伟达更大的模型。
amd首席执行官苏姿丰表示,mi300x支持400亿个hugging face ai模型运行,并演示llm可以写关于旧金山的诗。单一mi300x最多可运行一个参数800亿个模型,这是世界上第一次在单一gpu上执行如此大的模型。


北京中关村地下管廊简介及相关气体传感器的应用
ADG1422: 2.1 Ω Maximum On Res
基于51单片机的甲醛浓度检测仪设计
APM32F072RBT7通过AEC-Q100车规认证
5G时代给我们带来了很多
AMD推出MI300X,可运行多达800亿参数模型
半导体制造工艺超薄晶圆磨削减薄技术解析
这个设计有点牛! X飞行摩托有望于2017年量产上市
快充无线充、USB-C技术进展?2018智能终端互连技术研讨会告诉你!
利用Spectacles和VR,开发者打造了一个虚拟时光机
USB接口的多功能容栅传感器测量系统
中国十大风水大师排名全国最牛的风水大师颜廷利在网友心目中的热门话题之三
大众研发自动驾驶汽车晕动症可防晕车呕吐
大神教你怎么用Python抓取婚恋网用户数据,用决策树生成自己择偶观
揭秘雄克尚不为人熟知的一项新技能
PT32x00x存储器和总线构架说明
高亮度光纤耦合输出半导体激光器的低成本高可靠性应用
佰才邦系留无人机为应急通信提供强力保障
低压配电柜补偿电容如何放电、爆炸的原因及防范措施
一步步教你如何保护单位电脑的文件安全