为什么微软要基于FPGA来进行人工智能芯片设计?

微软发明的gpu与fpga进行数据传输的方法,不仅可以带动基于fpga进行人工智能芯片设计的发展,同时也可以加快深度学习技术发展的步伐。
集微网消息,2018年5月,在bulid大会上,微软宣布 project brainwave 开放预览,这是一种用于深度神经网络处理的架构,可以用于azure与边缘环境,并且可以让azure成为实时运行人工智能最快的云平台。
为什么微软要基于fpga来进行人工智能芯片设计呢?这是因为当时微软的搜索引擎都是依靠cpu驱动,尽管英特尔等公司不断改进cpu,但是这些芯片还是不能满足微软的需求。而此时恰好fpga能弥补这个不足。
图形处理单元(gpu)已经被用于图形应用许多年,近年来也被应用于其他例如图形处理、搜索以及其他一般的应用。虽然fpga和gpu均可以被视为专用处理器,但是在某些场合,如果fpga与gpu之间可以进行通信以及任务的共享、转交,会更加高效的完成任务,这也是基于fpga设计人工智能芯片的重要设计方案之一。
为了实现fpga与gpu之间的通信,微软在2013年8月16日申请了一项名为“gpu和fpga组件之间的直接通信的方法和系统”的发明专利(申请号:201380044351.6),申请人为微软技术许可有限责任公司。
根据该专利目前公开的资料,让我们一起来看看这项fpga与gpu之间的通信技术吧。
如上图,为用于gpu和fpga组件之间直接通信的系统框图,系统100包括存储计算机指令的存储器、中央处理单元(cpu)102、图形处理单元(gpu)104和现场可编程门阵列(fpga)106,这些部件通过总线进行连接,传输数据包括经由pcie交换机在gpu和fpga之间直接传输数据。
而要达到数据传输的目的,必然不可避免要对于数据在硬件中进行编址,也就是例如基于虚拟存储器存储的数据,被存储在不连续的块中的数据的物理地址中时,需要进行地址编码。当数据在gpu与fpga之间传输时,数据可以从fpga的存储器传输到gpu中,由于采用了编址,因此也就不会发生数据错位、丢失等问题。
在gpu和fpga通信中,也分为直接通信和间接通信两种方式,首先我们来看看间接通信方式。
如上图,为gpu和fpga组件之间间接通信的系统示意图,如图所示,数据202经由gpu、快速pci交换机、cpu和cpu存储器,在gpu存储器和fpga存储器之间交换。这是一个间接的路径,由于在gpu和fpga之间经过了cpu,因此也被称为gpu-cpu-fpga传输。
这种间接传输的方式,虽然可以保证数据在gpu和fpga之间共享,但是由于数据经过了两次pcie交换机并由于操作系统和cpu存储器硬件两者的等待时间加时,因此增加了通信等待时间和操作系统的开销。
接着,我们来看看gpu和fpga组件之间直接通信的流程图,如上图所示,首先要获取标识用于直接访问fpga的存储器的地址的虚拟指针,例如fpga驱动程序可以生成标识用于直接访问fpga中的存储器的地址的虚拟指针。
之后就可以启动虚拟指针到与fpga外部的gpu相关联的图形处理单元(gpu)驱动程序的传输,经过外部的总线接口,可以直接启动gpu与fpga之间的数据传输,而无需作为中间操作来将数据存储在中央处理单元的存储器中。
以上就是微软发明的gpu与fpga之间的数据传输方案,在微软进行基于fpga的人工智能芯片设计的过程中,fpga担任着机器学习算法的主要硬件基础。这种在gpu与fpga之间传输数据的技术,势必会加速人工智能芯片的发展以及加快深度学习技术的发展。
关于嘉德
深圳市嘉德知识产权服务有限公司由曾在华为等世界500强企业工作多年的知识产权专家、律师、专利代理人组成,熟悉中欧美知识产权法律理论和实务,在全球知识产权申请、布局、诉讼、许可谈判、交易、运营、标准专利协同创造、专利池建设、展会知识产权、跨境电商知识产权、知识产权海关保护等方面拥有丰富的经验。


慕尼黑大学物理学家研发了一种新型的光波脉冲探测器
快准备好肾 WWDC大会或将会发布两大新产品!
无线电的用途有哪些
采用堆叠结构形式的总线设计雷达嵌入式故障检测仪系统的设计
C语言字符串的引用方式
为什么微软要基于FPGA来进行人工智能芯片设计?
风暴即将来临 中国汽车半导体进入大面积停产状态
苹果自动驾驶汽车项目最新进展,注册了额外24辆自动驾驶汽车
尼康正开发Z-Noct58mmf/0.95镜头 将带来更锐利的成像
物联网技术如何促进经济的发展
LLC电路的参数计算
带你走进奥迪A8L e-tron无线充电的混动技术
华为发布了2020年一季度经营业绩
工业机器人当中新成员 协作机器人
评测 | 中兴天机Axon 10 Pro,的的确确不负“天机”之名
小米6双11特供版和小米7齐曝光
指纹识别跃智能手机主要卖点
小米6偷跑:或搭载索尼旗舰IMX400摄像头,双摄加持
根据数据流量的特征来挑选电动丝扣球阀
气体流量传感器LMM-H03的工作原理