FPGA取代AI加速器中的GPU
ai软件初创公司mipsology正在与xilinx合作，以使fpga能够仅使用一个附加命令即可替换ai加速器应用程序中的gpu。mipsology的“零努力”软件zebra将gpu代码转换为可在fpga上的mipsology的ai计算引擎上运行，而无需进行任何代码更改或重新培训。
赛灵思今天宣布，将为数据中心向zebra交付最新版本的alveo u50卡。zebra已经在其他xilinx板上支持推理加速，包括alveo u200和alveo u250。
赛灵思最新版本的alveo u50数据中心加速卡现在带有mipsology的zebra软件，用于转换gpu ai代码以在fpga上运行（图片：xilinx）
xilinx营销副总裁ramine roane表示：“ zebra带给我们的alveo卡的加速水平使cpu和gpu加速器感到羞愧。”“与zebra结合使用，alveo u50满足了ai工作负载的灵活性和性能需求，并为任何部署提供了高吞吐量和低延迟性能优势。”
过去，即插即用的fpga对于非专业人士来说很难编程，但是mipsology希望将fpga变成即插即用的解决方案，就像cpu或gpu一样容易使用。这样做的想法是使从其他类型的加速切换到fpga尽可能容易。
mipsology首席执行官ludovic larzul说：“最好的方式是[mipsology]，我们使用fpga之上的软件来使它们透明化，就像nvidia用cuda cudnn来使gpu对ai用户完全透明一样。“在接受ee times采访时。
至关重要的是，这可以由非专家完成，而无需具备深厚的ai专业知识或fpga技能，因为无需进行模型再培训即可过渡。
“易用性非常重要，因为当您查看人们的ai项目时，他们通常无法访问设计神经网络的ai团队，” larzul说。“通常，如果有人安装了一个机器人系统或一个视频监视系统……他们会让其他团队或其他团体开发神经网络并对其进行培训。一旦获得了[训练有素的模型]，他们就不会更改它，因为他们没有专业知识。”
斑马的堆栈。该技术适用于数据中心，边缘和嵌入式应用程序（图片：mipsology）
与xilinx对比当xilinx已经拥有自己的神经网络加速器引擎（xdnn）时，为什么会支持第三方软件？
“一句话的重点是：我们做得更好，”拉尔祖尔说。“另一句话是：我们的作品。”
mipsology在zebra中拥有自己的计算引擎，该引擎支持客户现有的卷积神经网络（cnn）模型，与xdnn不同，larzul表示xdnn支持大量演示，但不太适合定制神经网络。他说，这使使用xdnn建立和运行自定义网络“痛苦”。尽管xdnn可以在不受gpu威胁的应用程序中竞争，但zebra旨在使fpga根据性能，成本和易用性直接采用gpu。
斑马的堆栈详细。目的是通过尽可能多地隐藏硬件来使fpga成为从gpu或cpu到ai加速的更简单的切换（图片：mipsology）
larzul说，大多数客户改变gpu解决方案的动机是成本。
他说：“他们想降低硬件成本，但又不想重新设计神经网络。”“（避免了）一笔非经常性的费用，因为我们能够透明地替换gpu，并且无需重新训练或修改神经网络。”
fpga还具有可靠性，部分原因是因为它们在芯片领域不那么积极，并且通常比包括gpu在内的其他加速器类型运行温度更低。这在需要长期维护成本的数据中心中尤其重要。
拉尔祖尔说：“总拥有成本不仅仅是董事会的价格。”“确保系统正常运行还需要付出代价。”
zebra还旨在使fpga在性能上竞争。larzul说，尽管fpga通常提供比其他加速器更少的tops（每秒tera操作），但由于zebra精心设计的计算引擎，它们能够更有效地使用tops。
ludovic larzul（图片：mipsology）
“这是大多数加速ai的asic初创企业都忘记了的-他们在做很大的一块硅片，试图包装更多的tops，但是他们没有考虑如何在网络上映射它以提高效率”，他说，并指出zebra的基于fpga的引擎比tops量为6倍的gpu每秒能够处理更多图像。
如何实现的？尽管larzul没有提供确切的细节，但他确实表示它们不依赖修剪，因为精度降低太大，以至于不进行重新培训就无法接受。由于相同的原因，它们不使用极限量化（低于8位）。
zebra的引擎加快了cnn的速度，而cnn如今已广泛用于图像和视频处理应用程序，但zebra也可以应用于使用类似数学概念的bert（google的自然语言处理模型）。zebra的未来迭代可能会覆盖其他类型的神经网络，包括lstm（长期短期记忆）和rnn（递归神经网络），但这很难实现，因为rnn在数学上更加多样化。
evemipsology的团队成立于2015年，在法国约有30人从事研发工作，在加利福尼亚有一个小团队，主要负责业务发展。该公司已获得总计700万美元的资金，其中200万美元是2019年法国政府创新竞赛的奖金。
mipsology的核心团队来自eve，这是一家asic仿真器公司，于2012年被synopsys收购，用于其zebu（零错误）硬件辅助验证产品，当时是cadence钯金验证平台的竞争对手。larzul认为，几乎所有主要的asic公司都使用eve技术在设计周期内验证asic。该技术依赖于连接在一起的数千个fpga来重现asic行为。
mipsology拥有12项正在申请的专利，并且与xilinx密切合作，并且与第三方加速器卡兼容，例如western digital小型（sff u.2）卡和vega-4001等研华卡。
三星欲借新机Galaxy S8翻身？1月中先公布Note7爆炸原因
中国99%人口实现4G网络覆盖，超95％行政村通光纤宽带网络
利用工业物联网如何改造化学流程控制
选用MOS管还是三极管？
比亚迪加入拉美锂矿开采，锁定动力电池供应链
FPGA取代AI加速器中的GPU
Delta-Sigma模数转换器的优点
基于FPGA技术的RFID板的标签有什么不一样的
读书笔记常用的5款思维导图软件，你正在用哪款？
光伏+沙漠将会是一个巨大的新兴市场
激光测距雷达在仙知机器人中的运用
台积电为什么不帮中国_台积电为什么受美国控制
LTT光触发晶闸管的仿真建模
便捷安装和维护，高性价比——选择这款导轨型DTU的理由远不止这些
PCB设计的布线效率怎样来提高
全球半导体产业转移启示录
3GPP将于今年6月在美国举行的大会上公布5G Phase-1标准
浅谈功率半导体烧结贴片技术
比亚迪：遇到日产廉价电动车的无情低价还要我怎么活？
汉能电力二期热电联产项目今年底开工建设，总投资15亿元
赛灵思今天宣布，将为数据中心向zebra交付最新版本的alveo u50卡。zebra已经在其他xilinx板上支持推理加速，包括alveo u200和alveo u250。
赛灵思最新版本的alveo u50数据中心加速卡现在带有mipsology的zebra软件，用于转换gpu ai代码以在fpga上运行（图片：xilinx）
xilinx营销副总裁ramine roane表示：“ zebra带给我们的alveo卡的加速水平使cpu和gpu加速器感到羞愧。”“与zebra结合使用，alveo u50满足了ai工作负载的灵活性和性能需求，并为任何部署提供了高吞吐量和低延迟性能优势。”
过去，即插即用的fpga对于非专业人士来说很难编程，但是mipsology希望将fpga变成即插即用的解决方案，就像cpu或gpu一样容易使用。这样做的想法是使从其他类型的加速切换到fpga尽可能容易。
mipsology首席执行官ludovic larzul说：“最好的方式是[mipsology]，我们使用fpga之上的软件来使它们透明化，就像nvidia用cuda cudnn来使gpu对ai用户完全透明一样。“在接受ee times采访时。
至关重要的是，这可以由非专家完成，而无需具备深厚的ai专业知识或fpga技能，因为无需进行模型再培训即可过渡。
“易用性非常重要，因为当您查看人们的ai项目时，他们通常无法访问设计神经网络的ai团队，” larzul说。“通常，如果有人安装了一个机器人系统或一个视频监视系统……他们会让其他团队或其他团体开发神经网络并对其进行培训。一旦获得了[训练有素的模型]，他们就不会更改它，因为他们没有专业知识。”
斑马的堆栈。该技术适用于数据中心，边缘和嵌入式应用程序（图片：mipsology）
与xilinx对比当xilinx已经拥有自己的神经网络加速器引擎（xdnn）时，为什么会支持第三方软件？
“一句话的重点是：我们做得更好，”拉尔祖尔说。“另一句话是：我们的作品。”
mipsology在zebra中拥有自己的计算引擎，该引擎支持客户现有的卷积神经网络（cnn）模型，与xdnn不同，larzul表示xdnn支持大量演示，但不太适合定制神经网络。他说，这使使用xdnn建立和运行自定义网络“痛苦”。尽管xdnn可以在不受gpu威胁的应用程序中竞争，但zebra旨在使fpga根据性能，成本和易用性直接采用gpu。
斑马的堆栈详细。目的是通过尽可能多地隐藏硬件来使fpga成为从gpu或cpu到ai加速的更简单的切换（图片：mipsology）
larzul说，大多数客户改变gpu解决方案的动机是成本。
他说：“他们想降低硬件成本，但又不想重新设计神经网络。”“（避免了）一笔非经常性的费用，因为我们能够透明地替换gpu，并且无需重新训练或修改神经网络。”
fpga还具有可靠性，部分原因是因为它们在芯片领域不那么积极，并且通常比包括gpu在内的其他加速器类型运行温度更低。这在需要长期维护成本的数据中心中尤其重要。
拉尔祖尔说：“总拥有成本不仅仅是董事会的价格。”“确保系统正常运行还需要付出代价。”
zebra还旨在使fpga在性能上竞争。larzul说，尽管fpga通常提供比其他加速器更少的tops（每秒tera操作），但由于zebra精心设计的计算引擎，它们能够更有效地使用tops。
ludovic larzul（图片：mipsology）
“这是大多数加速ai的asic初创企业都忘记了的-他们在做很大的一块硅片，试图包装更多的tops，但是他们没有考虑如何在网络上映射它以提高效率”，他说，并指出zebra的基于fpga的引擎比tops量为6倍的gpu每秒能够处理更多图像。
如何实现的？尽管larzul没有提供确切的细节，但他确实表示它们不依赖修剪，因为精度降低太大，以至于不进行重新培训就无法接受。由于相同的原因，它们不使用极限量化（低于8位）。
zebra的引擎加快了cnn的速度，而cnn如今已广泛用于图像和视频处理应用程序，但zebra也可以应用于使用类似数学概念的bert（google的自然语言处理模型）。zebra的未来迭代可能会覆盖其他类型的神经网络，包括lstm（长期短期记忆）和rnn（递归神经网络），但这很难实现，因为rnn在数学上更加多样化。
evemipsology的团队成立于2015年，在法国约有30人从事研发工作，在加利福尼亚有一个小团队，主要负责业务发展。该公司已获得总计700万美元的资金，其中200万美元是2019年法国政府创新竞赛的奖金。
mipsology的核心团队来自eve，这是一家asic仿真器公司，于2012年被synopsys收购，用于其zebu（零错误）硬件辅助验证产品，当时是cadence钯金验证平台的竞争对手。larzul认为，几乎所有主要的asic公司都使用eve技术在设计周期内验证asic。该技术依赖于连接在一起的数千个fpga来重现asic行为。
mipsology拥有12项正在申请的专利，并且与xilinx密切合作，并且与第三方加速器卡兼容，例如western digital小型（sff u.2）卡和vega-4001等研华卡。
三星欲借新机Galaxy S8翻身？1月中先公布Note7爆炸原因
中国99%人口实现4G网络覆盖，超95％行政村通光纤宽带网络
利用工业物联网如何改造化学流程控制
选用MOS管还是三极管？
比亚迪加入拉美锂矿开采，锁定动力电池供应链
FPGA取代AI加速器中的GPU
Delta-Sigma模数转换器的优点
基于FPGA技术的RFID板的标签有什么不一样的
读书笔记常用的5款思维导图软件，你正在用哪款？
光伏+沙漠将会是一个巨大的新兴市场
激光测距雷达在仙知机器人中的运用
台积电为什么不帮中国_台积电为什么受美国控制
LTT光触发晶闸管的仿真建模
便捷安装和维护，高性价比——选择这款导轨型DTU的理由远不止这些
PCB设计的布线效率怎样来提高
全球半导体产业转移启示录
3GPP将于今年6月在美国举行的大会上公布5G Phase-1标准
浅谈功率半导体烧结贴片技术
比亚迪：遇到日产廉价电动车的无情低价还要我怎么活？
汉能电力二期热电联产项目今年底开工建设，总投资15亿元