科技云报道:大模型的火烧到了AI服务器上

科技云报道原创。
大模型的纷争已经随着各大入局者公布产品后,热度逐渐退去,但是由大模型带来的产业链高频共振,已经传递了算力层。
表现最为激烈的,就是ai服务器市场。大模型带来的算力需求,直接引发了一波ai服务器抢购潮和涨价潮。
据《证券时报》报道,一家检测企业透露,他们在去年6月购买的8台ai服务器到今年三月已经涨价到130万每台,到现在价格飙升至160万每台。不到一年的时间,价格涨幅近20倍。
另外,ai服务器需求量大涨也直接引发了上游材料ppo(聚苯醚,用作高速覆铜板增强材料)的抢购潮,此前有业内相关人士坦言,由于全球ppo主流厂商仅一家,随着ai服务器的放量,ppo未来很有可能成为产业链上的紧缺环节之一。
在这样的背景下,ai服务器厂商扩产的消息也层出不穷。
鸿海集团旗下负责ai服务器业务的鸿佰科技就曾被曝出规划新增五到六条生产线,以应对ai服务器客户要求的消息。
市场火热度可见一斑,这也直接点燃了资本市场。
从1月份开始,以浪潮信息、中际旭创、工业富联为首的ai服务器概念股扶摇直上,多次涨停,甚至连长期亏损的寒武纪,股价都一路飘红。
爆火的“ai服务器”
ai服务器是什么?
ai服务器是一种专门设计用于执行人工智能(ai)、机器学习(ml)、深度学习(dl)等计算密集型任务的高性能服务器。
ai服务器通常配备有高效能的中央处理器(cpu)、图形处理器(gpu)、张量处理器(tpu)或专用的ai加速器,以及大量的内存和存储空间。
在异构方式上,ai服务器可以为cpu+gpu、cpu+fpga、cpu+tpu、cpu+asic或cpu+多种加速卡。
具体的设计和配置可以根据需要进行大量并行处理的具体任务来进行调整。
目前,使用比较广泛的ai服务器是cpu+gpu。这也与传统的服务器区分开来。
据悉,传统服务器主要以cpu为算力提供者,但是在运作的过程中需要引入大量分支跳转中断处理,这使得cpu的内部结构复杂,并不能满足ai时代的需求。
而采用gpu并行计算的ai服务器,单卡核心数达到上千个,擅长处理密集型运算应用,如图形渲染、计算视觉和机器学习。
上述提及的检测企业使用的ai服务器,基础配置就包括8颗英伟达a100gpu和80g存储器。
ai服务器对于ai、ml和dl的计算密集型任务来说非常有用。主要功能包括:
大数据处理:ai服务器能够处理和分析大量数据,这是训练ai和ml模型的关键。
并行计算:由于ai和ml算法需要对大量数据进行复杂的计算,ai服务器通常使用可以并行处理大量数据的硬件,如gpu。
存储和内存:ai服务器通有大量的存储空间和内存,以便存储和处理大量的数据。
网络能力:ai服务器需要高速和低延迟的网络连接,以便快速传输大量的数据。
其实,这也解释了为什么在大模型热浪后,会引发ai服务器的抢购浪。大模型中包含着海量的数据参数、训练、运行都需要更多的计算资源来处理,这就需要更高性能的ai服务器来支持。
当然,这一次ai服务需求大涨最直接的原因是大模型时代的到来,但是实际上,ai服务器在这个节点爆发,与ai技术、大数据的发展都有关。
总的来说,ai服务器的爆火可以归结为以下几个关键因素。
首先,大数据的崛起。现代社会的每个角落,无论是社交媒体、电子商务还是互联网搜索,都在产生大量的数据。
这些数据需要通过复杂的算法进行分析和解读,以发现有用的模式和信息,而ai服务器就能提供足够的计算能力来处理这些任务。
其次,ai和ml的普及也推动了ai服务器的需求。ai和ml现在已经广泛应用于各种行业,包括医疗保健、金融、零售和交通等。
这些领域的进步需要强大的计算能力来处理和分析数据,训练和运行复杂的ai和ml模型。
最后,云计算和边缘计算的发展也为ai服务器的爆火提供了动力。
云计算使得企业和组织能够无需购买和维护昂贵的硬件就能获得强大的计算能力,而边缘计算则需要在接近数据产生地点的服务器上进行数据处理和分析。
ai服务器国内市场格局
ai服务器市场在过去的几年里一直在持续增长,到现今,在大模型的加持下,ai服务器市场盘子越来越大。
据北京研精毕智信息咨询发布的最新数据显示,2022年全年,全球ai服务器行业市场出货量达到85万台,同比增长约11%,到2023年中旬,ai服务器市场出货量接近60万台,相比上年同期增长约39%。
未来,随着自然语言处理和图像、视频等ai大模型的发展,算力需求的持续增长,预计到今年年底,全球ai服务器市场规模将超过200亿美元。
到2025年,预计市场出货量将提升至190万台左右,2022-2025年期间年平均增长率达41.2%。
就具体产业链来说,ai服务器产业链上游为cpu、gpu、内存和硬盘等核心零部件,以及数据库、操作系统和基础管理软件等软件供应;下游为应用市场,包括互联网、云计算和数据中心服务商等。
目前,主导市场的是一些主要的ai服务器制造商,包括华为、浪潮、联想和中科曙光等,这些公司的服务器被广泛应用于ai和ml的研究和商业应用。
不过,值得注意的是,浪潮信息于近日发布了一份营收净利润双双下滑的半年度业绩预告。
其中,浪潮信息2023年上半年扣非净利润同比下滑88%-99%。对此,浪潮信息方面称,2023年上半年,受全球gpu及相关专用芯片供应紧张等因素的影响,营业收入出现下滑。
实际上,有行业人士分析,在ai服务器大火的背景下,浪潮信息业绩不及预期,深层次原因还是在于传统服务器行业整体不景气,而目前浪潮信息ai服务器实际所占比例并不大。
浪潮信息此前曾表示,总体来看,公司ai服务器的整体业务占比在上升。ai服务器需求大涨带来的业绩,或许能在浪潮信息2023年年报才能体现。
不过,根据idc发布的《2022年第四季度中国服务器市场跟踪报告prelim》,目前,在整个服务器市场(涵盖ai服务器和传统服务器)浪潮份额依旧以28.1%领先,但相比于去年30.8%的份额,还是有所下滑。
其实这也与说明一点,传统cpu服务器行业受到ai的影响,市场逐渐萎靡。未来以ai服务器为代表的异构服务器或是大势所趋。
在应用市场,数据显示,全球市场中以microsoft、google、meta和aws为代表的四家北美云端供应商采购量相对比较高。
2022年末,microsoft以接近20%的采购量占据当年首位;google、meta和aws采购量占比排在之后,分别达到17%、15%和14%。
在国内,随着科技厂商入局大模型已经大模型创业的兴起,ai算力基础设施的加快建设,对ai服务器的采购量占比也在相应升高。
2022年年末,字节跳动的ai服务器采购量大幅度提高,市场占比达到6%。
然而,市场也面临着一些挑战。首先,是能源消耗的问题。尽管ai服务器的性能在不断提高,但其能耗也在增加。这对于环保和电力供应来说都是一个问题。
其次,ai和ml的快速发展和变化要求服务器制造商必须持续投入研发,以确保他们的产品能够满足最新的需求。
关于未来,国内的ai服务器市场有很大的潜力。随着ai、ml和dl的进一步发展和应用,预计对ai服务器的需求将继续增长。
此外,随着5g和物联网技术的普及,未来在边缘计算领域对ai服务器的需求将会增加。
总的来说,尽管市场面临着一些挑战,但ai服务器的快速发展和广泛应用表明,这是一个充满活力和潜力的市场。
【关于科技云报道】
专注于原创的企业级内容行家——科技云报道。成立于2015年,是前沿企业级it领域top10媒体。获工信部权威认可,可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。


电容触摸屏厂家批发价格一般是多少?云上触摸屏
无人机电力行业应用解决方案
基于四方V560变频器的注塑机驱动方案
荣耀即将发布笔记本、手表和智慧屏等新品
值得关注的12家在AI芯片领域的创业公司
科技云报道:大模型的火烧到了AI服务器上
蓝牙技术在智能设备领域有哪些应用
一月前十位轿车品牌销量排名
Cave正式推出首款VR游戏《A.我是怪兽》
贸泽开售ams OSRAM TMF8820、TMF8821 和TMF8828多区飞行时间传感器
物联网技术如何重塑整个制造业?
高通牵手三星推出新一代的3D超声波屏幕触控技术
4.2蓝牙模块SKB369是什么,它的功能有哪些
软启动和一般降压启动的区别及使用方法
单片机引脚是如何控制负载大电流的呢?
谷歌曾想放弃云计算市场,现在却有望超越微软或亚马逊
如何在Win 2003中安全的释放内存
技术大佬宣告iPhone12全系列可以随意扩容?
【节能学院】合理利用能效管理平台规避能耗超限电价加价机制
一种在量子极限下操作光子传感器的方法