近日,浪潮宣布为可重构ai计算发展计划参与者提供最新fpga加速卡支持。参与该计划的高校将fpga开源ai框架tf2应用于ai科研或应用并取得创新成果,并承诺将优化后代码反馈回tf2开源社区,即可获赠最新fpga加速卡。同时,参与该计划的商业用户也可获得较大程度的fpga加速卡购买优惠。该计划可在tf2开源社区(网址:https://github.com/tf2-engine/tf2)进行申请。目前南开大学等知名高校已加入该计划。
fpga技术具有可定制性、低延迟和高性能功耗比等优势,已成为诸多ai用户部署推理应用的选择。但fpga技术进入到大规模ai业务部署仍旧存在软件编写门槛高、性能优化受限、功耗难以控制等诸多挑战。为了应对这些挑战,浪潮推出了开源的tf2框架。
tf2是全球首个完整方案的fpga高效ai计算开源框架,可对模型进行压缩、裁剪、量化等优化转换以减少模型计算量,将模型文件自动转化为fpga目标运行文件,降低fpga的ai软件实现门槛,通过创新的dnn移位计算技术大幅提升fpga做推理计算的性能,并有效降低其实际运行功耗,帮助用户快速实现fpga线上推理。在浪潮f10a fpga卡上采用facenet模型对tf2进行的测试(batchsize=1)表明,运行tf2后单张图片的计算耗时为0.612ms,提速12.8倍。目前,tf2开源社区已吸引第四范式、快手、上海大学、华大智造、远鉴科技、睿视智觉、华展汇元等多家领先公司或机构加入。
tf2计算加速流程
为了推动tf2社区建设,浪潮推出了可重构ai计算发展计划,为参与者提供f10a、f37x等最新fpga加速卡支持,鼓励参与者将创新性成果反馈至社区,共同促进fpga技术的开源开放合作发展,降低高性能ai计算技术门槛,加速ai应用落地。浪潮f10a是目前业界支持opencl的最高性能密度的fpga加速卡,每瓦特性能达到42gflops,已实现大规模应用部署,适用于数据中心ai推理、边缘高密计算及桌面端应用加速等多种计算环境;浪潮f37x是全球首款集成hbm2的fpga加速卡,可在75w典型功耗条件下,提供28.1tops int8计算性能。此外,浪潮还将提供针对性的技术培训和服务支持,并定期举行开发者会议和线上公开课,分享最新技术进展和经验成果。
浪潮ai&hpc总经理刘军表示:“视觉、语音识别以及文本、语义理解等人工智能技术正在与各行业融合,以fpga为代表的可重构计算将在各类线上推理场景中得到更广泛的应用。浪潮希望通过可重构ai计算发展计划促进tf2开源社区发展,同时增进开发者对最新fpga计算加速技术的熟悉和了解,最大化释放fpga的计算潜力,加速产业ai化进程。”
浪潮是人工智能计算的领导品牌,ai服务器中国市场份额保持50%以上。并与人工智能领先科技公司保持在系统与应用方面的深入紧密合作,帮助ai客户在语音、语义、图像、视频、搜索、网络等方面取得数量级的应用性能提升。
台湾自2011年至2017年集成电路出口额屡创新高,平均年增8.9%
Orange Business Services助力中国跨国企业出海:提升客户数字化体验
从语音导航到汤唯定制语音 AI百度地图不断突破自身局限
电容器毁灭性故障,让PCB板直接报废
芯讯通携手高通开启智能物联网的全新篇章
浪潮宣布为可重构AI计算发展计划参与者提供最新FPGA加速卡支持
照明用LED驱动技术方案的探讨
人工智能技术复合年增长率不断增长 服务业从中收益
华为保时捷Design Mate RS搭载LG的OLED屏
西门子变频器冷却方式改造分享
青岛市与科大讯飞合作对接座谈会在市级机关办公楼举
IHS Markit:苹果正在考虑使用mini-LED背光LCD面板
必易微推超强插拔能力 28V/1.2A 全集成单节锂离子/磷酸铁锂线性充电芯片
程控交换机是什么_程控交换机怎么设置的
数据中台是什么,它能帮我们解决什么问题
SAP 20亿美元投入中国 助力中小企业转型
开元通信发布第4个子产品系列“凤凰Sili-ALL”品牌
报名新一轮Tech Talks无线技术讲座,LPWAN主题开箱xG28开发套件!
慧能泰推出超低功耗USB Type-C端口控制器HUSB320,简单实现接口升级
相控阵天线方向图——第1部分:线性阵列波束特性和阵列因子