不同算力芯片的特点与区别

英伟达宣布 gh200 grace hopper 超级芯片投产,生成式 ai 引擎 nvidia dgx gh200 现已投入量产。
gh200 使用 nvidia 的 nvlink-c2c 互连技术,将 nvidia 基于 arm 的 grace cpu和 hopper gpu 架构融合到一个芯片中。nvidia dgx gh200 将 256 个 nvidia grace hopper超级芯片完全连接到单个 gpu 中,支持万亿参数 ai 大模型训练,能够处理大规模推荐系统、生成式人工智能和图形分析,并为巨型人工智能模型提供线性可扩展性。
gh200 速度和功耗指标都有显著提升。这款新的芯片总带宽达每秒 900gb,比当今最先进的加速计算系统中采用的标准 pcie gen5 通道高出 7 倍。nvidia 表示,superchip 的功耗也降低了 5倍。
amd 推出数据中心 apu instinct mi300。amd 推出数据中心apu(加速处理器)instinct mi300,其旨在帮助数据中心处理人工智能相关数据流量,并在这一快速增长的市场上挑战英伟达的垄断地位。instinct mi300 系列将包括一个 gpu(图形处理器)mi300x,可以加速 chatgpt 等聊天机器人所使用的生成式 ai 技术的处理。
先进算力国产替代在行业变革中有望迎来机遇。半导体国产化势在必行,而算力芯片又是重中之重。ai 算力、低功耗等对服务器算力芯片提出新的要求,市场格局近几个季度变化较多,英伟达gh200 有望加速全球 ai 服务器算力芯片市场变革,中国芯片企业在面临挑战的同时,也有望迎来发展机遇。
1、不同算力芯片的特点与区别
计算芯片包括 cpu、gpu、fpga、asic 等,都用作计算分析。其中,cpu 是性能最综合的计算芯片,ai 算法的执行也运用 gpu、fpga、asic 等芯片。
cpu 是综合计算芯片,擅长逻辑控制和串行运算。计算机的运算器和控制器一起组成了 cpu,cpu 是整台计算机的大脑,也是一个有多种功能的优秀领导者。它的优点在于调度、管理、协调能力强,计算能力则位于其次。cpu 有大量的缓存和复杂的逻辑控制单元,非常擅长逻辑控制、串行的运算,但因计算单元占 30%左右,不擅长复杂算法运算和处理并行重复的操作。
gpu相比cpu计算单元大大增加,擅长大量并行计算。而作为通用芯片的 gpu 相当于一个接受cpu 调度的“拥有大量计算能力”的员工,计算单元相比 cpu 大大增加。gpu 最初承担图像计算任务,能够进行并行计算,因此 gpu 架构本身比较适合深度学习算法,通过对 gpu 的优化,进一步满足深度学习大量计算需求。其主要缺点在于功耗较高。
gpu 按照接入类型可以分为独立 gpu 和集成 gpu。独立 gpu 即独立显卡,需要插在主板的相应接口上,具备单独的显存,不占用系统内存,能够提供更好的显示效果和运行性能。全球知名供应商主要包括 amd 和 nvidia 两家。集成 gpu 即集成显卡,是将图形核心以单独芯片的方式集成在主板上,并且动态共享部分系统内存作为显存使用,能够提供简单的图形处理能力,以及较为流畅的编码应用。全球知名供应商主要包括英特尔和 amd 两家。
gpu 按照应用场景不同可分为 pc gpu、服务器 gpu 和移动 gpu。
1)集成 gpu 一般运用于pc 以轻办公、文字编纂为主;独立 gpu 则一般运用于 pc 以制作高清图片、编辑视频、渲染游戏等。
2)服务器 gpu 主要以独立 gpu 为主。服务器 gpu 主要应用于服务器,可做专业可视化、计算加速、深度学习等应用。
3)移动 gpu 以集成 gpu 为主。随着移动端向着轻薄化不断发展,终端内部净空间随着多种功能模组的增加呈快速下降趋势。此外,就目前的移动端视频和图片的处理要求而言,集成 gpu 的性能尚可满足移动端的需要。
fpga 又称半定制化芯片,具有足够的计算能力、较低的试错成本和足够的灵活性。fpga 的计算速度快是源于它本质上是无指令、无需共享内存的体系结构,“无指令”即使用硬件描述语言编程,直接编译为晶体管电路的组合,所以 fpga 实际上直接用晶体管电路实现用户的算法,没有通过指令系统的翻译;“无需共享内存”是指对于保存状态的需求,fpga 中的寄存器和片上内存(bram)是属于各自的控制逻辑的,无需不必要的仲裁和缓存。
因此,fpga 运算速度足够快,优于gpu。同时,相比量产成本高昂的 asic 芯片,因为 fpga 是一种半定制的硬件,通过编程可定义其中的单元配置和链接架构进行计算,因此在灵活性上优于 asic,具备较低试错成本。
asic 是全定制芯片,性能强但是前期开发久、成本高。是根据产品的需求进行特定设计和制造的集成电路,能够在特定功能上进行强化,具有更高的处理速度和更低的能耗。缺点是成本高,且由于定制化,可复制性一般,因此只有用量足够大时才能够分摊前期投入,降低成本。
2、cpu 广泛应用于服务器、工作站、个人计算机等
cpu 可以应用在服务器、工作站、个人计算机(台式机、笔记本电脑)、移动终端和嵌入式设备等不同设备上,根据应用领域的不同,其架构、功能、性能、可靠性、能效比等技术指标也存在一定差异。
服务器处理器需长时间运行,数据处理能力最强、设计工艺最复杂、可靠性最高。服务器具有高速的数据处理能力、强大的 i/o 数据吞吐能力、良好的可扩展性,并需要长时间可靠运行,其cpu 芯片在性能、可靠性、可扩展性和可维护性等方面要求较为苛刻。因此,服务器处理器是数据处理能力最强、设计工艺最复杂、可靠性最高的处理器。服务器的应用领域包括实时分析、5g应用、人工智能、机器学习、金融、大数据和云计算等领域。
工作站主要为单用户提供比个人计算机更强大的性能。工作站是一种高端微型计算机,主要为单用户提供比个人计算机更强大的性能,尤其是在数据并行处理能力和图形处理能力等方面。工作站的典型应用领域包括科学和工程计算、软件开发、计算机辅助设计等。
个人计算机主要满足个人需求,核心数量较少。个人计算机包括台式机和笔记本电脑两大类,主要用于满足个人的工作、学习、娱乐需求,以及企业员工的办公需求。个人计算机处理器核心数量较少,具有较少 i/o。
移动终端具有低功耗、轻量化等特点,关注对多媒体功能的增强。移动终端包括手机、笔记本、平板电脑、pos 机等。随着集成电路技术的进步和移动网络向宽带化发展,移动终端正从简单通话工具逐步转变为综合信息处理平台。移动终端处理器具有低功耗、轻量化等特点,关注对多媒体功能的增强,具有较少 i/o。
嵌入式设备对功耗、稳定性、可扩展能力要求高。嵌入式设备需要具有高稳定性和低功耗,其处理器对环境(如温度、湿度、电磁场、振动等)的适应能力强,体积小,且集成度高,适用于工业控制、移动便携设备、物联网终端等场合。其中,大多数物联网设备需要额外的 cpu 处理能力来支持可升级的额外功能。因此,针对特定的物联网应用程序的 cpu 不仅必须支持安全特性,而且必须同时具有可扩展的性能,实现更高的时钟频率。物联网应用处理器芯片具有面向高集成度、高抗干扰能力和低功耗的发展趋势。
3、gpu 等 ai 芯片广泛应用于高性能运算、深度学习等场景
ai 芯片主要指面向人工智能应用的芯片。大致包含三类:
1)通用、半定制化芯片:经过软硬件优化可以高效支持 ai 应用的通用芯片,如 gpu,fpga;
2)专门为特定的 ai 产品或者服务而设计的芯片:侧重加速机器学习(尤其是神经网络、深度学习),如 asic;
3)神经形态计算芯片:不采用经典的冯·诺依曼架构,而是基于神经形态架构设计,类似人脑,具备较高的集成度和能效比,以 ibm truenorth 为代表。
国产算力芯片市占率低,具备广阔拓展空间。算力芯片目前国产厂商份额极低。cpu 目前从市场占有率来说,intel 依靠其强大的 x86 生态体系,在通用 cpu 市场占据领先地位,市场份额常年保持在 80%左右,amd 近期追赶势头明显,其他厂商整体市场份额不超过 1%。
2022 年,数据中心领域 intel 市场占有率为 71%,较 21年下降 10pcts,amd 在 22 年市占率快速提升 8pcts 至 20%,亚马逊、ampere 等新兴玩家份额快速提升,给总计份额不足 5%的国产厂商发展带来了借鉴意义。在独立显卡市场上,nvidia、amd 和英特尔 2022 年 q4 全球 gpu 市场占有率分别为82%、9%和 9%。
多数参数我国 cpu 具备比肩能力,ipc 性能是最主要差距。目前通过公开信息可以看出,主频、核心数、内存类型等指标我国 cpu 厂商差异不大,具备一定的比肩能力,但落实到具体性能决定指标 ipc,仅 intel 和 amd 会公布 ipc“相比上一代提升了多少”,其他国产 cpu 从 ipc 性能来看大致落后于 intel、amd 几年水平。
国产厂商的机遇一:数据中心带来新需求。根据工信部信息通信发展司数据,2017年我国数据中心市场总机架数量 166 万架,2022 年预测达到 670 万架,2017-2022e 复合增速达 32.2%。目前东数西算工程将通过构建数据中心、云计算、大数据一体化的新型算力网络体系,于 2022 年 2 月,在京津冀、长三角、粤港澳大湾区等 8 地启动建设国家算力枢纽节点,规划了 10 个国家数据中心集群。各地数据中心都将集聚大量服务器,如韶关数据中心预计到 2025 年将建成 50 万架标准机架、500 万台服务器规模,投资超 500 亿元(不含服务器及软件)。
国产厂商的机遇二:国产化浪潮。政府及国有企事业单位为国产 cpu 主阵地。据测算,今年 pc 芯片市场规模在 162-330 亿元之间,2022 年服务器芯片市场规模则已达 130 亿美元。在企业级市场中,也不仅是国有企业,能源、交通、金融、电信、教育等重要领域或规模较大的民营企业也存在设备国产化需求。消费级市场对产业生态的要求最高,对性价比较为敏感,迭代周期短,是国产 cpu 长期需突破的目标市场。
国产厂商的机遇三:通过封测技术弯道超车。后摩尔时代的到来,一方面,cpu 制程进入后摩尔定律时期升级速度趋缓,国产 cpu 性能与国际主流水平逐步缩小,存在赶超的可能;另一方面,先进封装技术成为兵家竞争新赛道,在封装方面,我国封测厂商长电科技和通富微电在全球前五中占据两席,通富与 amd 紧密合作,先进封装技术正成为集成电路产业发展的新引擎,我国 cpu 企业有望通过封测技术弯道超车,弥补先进制程能力不足的缺陷。目前国产 cpu 已经可以通过先进封装技术实现性能提升与应用场景拓展。


SMT贴片元件推拉力测试机有哪些测试方法,试验机老二告诉你
关于零售业的移动城堡的分析介绍和应用发展
基于Petri网的嵌入式软件组件的实时性研究
Digi-Key成为Raspberry Pi官方授权分销商 分销Raspberry Pi全系列产品
全国首个地方区块链安全标准有望在上海亮相
不同算力芯片的特点与区别
锂离子电池的原理结构精讲
华为一键测速App有哪些“不一样”的优势?
sql中日期函数的用法
EDA技术及发展趋势(四)
顶级智能制造平台:ThingWorx工业创新平台
Microchip 宣布推出基于COTS的宇航级抗辐射电源转换器
电阻的作用
使用远距离支援干扰系统对制导导弹干扰的机理分析
基于FPGA的ISD语音芯片的设计开发
工信部:5G流量单价两年降46%
瑞萨电子宣布将会与初创公司Dibotics合作 共同开发车规级的嵌入式激光雷达处理器
赛灵思新一代闪存存储解决方案为新一代云数据中心奠定基础
同样是备份,云备份、数据中心的备份有什么区别
国际医疗电子创新论坛将于11月3日在慕尼黑华南电子展上召开