Microchip CEO博文《AI将如何重新定义数据中心?》

ai已经存在了一段时间,其影响也相当巨大。生成式ai刚开始崭露头角,对于其如何颠覆世界的种种预言已经迅速成为热门话题,影响之深广,令人深思。 
这项技术已经对数据中心产生了重大影响。基于必须在云端训练和运行的模型的大小,生成式ai的基础设施需求预计将比早期ai模型高出10到100倍。事实上,所有数据中心基础设施都受到这一趋势的影响,包括电力、hvac、网络和物理布局。数据中心将如何扩展规模以适应呈指数级增长的生成式ai大型语言模型? 
生成式ai的成功可能取决于半导体行业对以下几个方面的关注,一是先进的ai处理器,二是如何存储和处理所有这些数据,最后是确保数据中心散热更佳、更高效且更安全。 
我们已经解决了这类问题,以便数据中心运营商能够为5g、云服务和新一代的ai/ml应用提供支持。我们的单片机、存储器、pcie开关、安全解决方案和其他产品提供了各种解决方案,以应对从连接ai处理卡到优化数据访问、存储、安全和保护等一系列ai挑战,同时提供必要的带宽、端口密度和连接能力,从而处理不断增加的流量。 
类似的挑战也适用于数据中心和本地服务器中的生成式ai,其应对难度也进一步放大。生成式ai似乎也存在一种途径,能够扩展到物联网应用中的网络边缘,如患者监测和汽车交通违规检测。有些人认为,如果生成式ai产生的海量数据必须在云端而不是在边缘处理,那么这些应用便无法取得成功。 
如今的边缘ai解决方案可能为生成式ai提供了一种路线图。语音识别系统和ai摄像头等计算机视觉产品可在边缘提供许多优势,包括消除网络延迟和将隐私控制权交还给用户。它们有助于降低功耗,因为只有在检测到不规则的变化后才会将视频流传输到云端,而不是像“傻瓜”摄像头那样连续不断地传输。可以预计,未来的边缘设备也会采用这种方案。 
但是,将生成式ai引入到边缘将比引入传统ai更加困难。由于数据量更大,电力问题将变得更具挑战性。硬件需求将远远超过传统ai所需,并且解决方案还需要为智能边缘的电池供电、深度嵌入式设备提供必要的安全性和其他独特功能。 
我们已经关注到这些挑战。例如,我们正在探索如何利用当前的wi-fi设备实现串行端口到生成式ai的桥接。在这种情况下,生成式ai并非在边缘实现,而是通过8位单片机的uart访问。单片机会产生一个实时传感器数据穿插其中的预定义提示语,将其发送到生成式ai解决方案,然后根据回答采取行动。目前,尚不明确端点能否在边缘独立运行生成式ai而不回调至数据中心,但我们正处于创新的早期阶段。
与我们服务的任何市场一样,microchip的目标是尽可能简化解决行业中一些最基本的系统设计挑战。这包括提供丰富的产品组合,以便客户能够采用全面系统解决方案的方法实现创新。我们会帮助解决在需要新功能的成熟应用中遇到的挑战,同时也为长期的安全性、保护性和可靠性要求提供支持。针对生成式ai等最新的新兴技术,我们也会采取同样的做法,这些技术描绘了令人期待的未来,但在兑现承诺之前,这些技术仍然面临着相同的基本系统设计挑战。

IBM的物联网解决方案
RAM,RAM工作原理是什么?
关于多晶硅生产工艺流程的简单介绍
多线路板设计中的接地连接和高速信号
Q1季度全球笔记本电脑出货量仅下滑2%,Q2季度将面临更大挑战
Microchip CEO博文《AI将如何重新定义数据中心?》
Blaize发布人工智能硬/软件产品,旨在克服AI应用程序未满足的要求
陶瓷天线是什么?陶瓷天线概述
2020年5G终端的发展情况预测分析
红外检测系统助力实现压铸工艺流程的优化
分析机构纷降预测,2012年全球芯片或现衰退
一个产品级MCU菜单框架设计
关于特来电充电网两级安全防护体系的详细介绍
ARM嵌入式开发板汽车节能控制系统
gps追踪器组成与硬件结构
软通动力"工业智能:AI驱动制造业数字化深入变革"分论坛圆满落幕
电动汽车的发展问题以及现处阶段的分析
如何使用视化预置位控制插件软件AW-SF300分派摄像机
ANRV-100电压继电器概述及特点
傲普为数据中心园区提供“无忧储能”产品服务