利用reVISION™ 堆栈实现应用算法
作者：nick ni 和 adam taylor
监控系统严重依靠嵌入式视觉系统提供的功能加速在广泛市场和系统中的部署。这些监控系统的用途非常广泛，包括事件和流量监控、安全与安防用途、isr 和商业智能。用途的多样性也带来了几大挑战，需要系统设计人员在解决方案中加以解决。它们是：
●多摄像头视觉– 能够连接多个同类或异类传感器类型。
●计算机视觉技术- 能够使用高级库和框架（例如 opencv 和 openvx）进行开发。
●机器学习技术– 能够使用框架（例如 caffe）来实现机器学习推断引擎。
●提高分辨率和帧率– 提高每个图像帧所需的数据处理。
根据用途，监控系统会实现相应算法（例如光流法）以检测图像内的运动。立体视觉提供图像内的深度知觉，也使用机器学习技术来检测和分类图像中的对象。
图 1 - 实例应用（上：面部检测与分类，下：光流）
异构系统器件，例如 all programmable zynq®-7000 和 zynq® ultrascale+™ mpsoc，正越来越多地应用于监控系统的开发。这些器件是可编程逻辑(pl)架构与高性能 arm® 内核处理器系统(ps)的完美结合。
与传统方案相比，pl 与 ps 的紧密耦合使得创建的系统具有更强的响应能力、可重配置能力以及更高的能效。基于 cpu/gpu 的传统 soc 需要使用系统存储器将图像从一个处理阶段传送到下个阶段。这会降低确定性并增大功耗和系统响应时延，因为多个资源需要访问同一个存储器，造成处理算法瓶颈。该瓶颈随帧率和图像分辨率增加而加重。
当解决方案采用 zynq-7000 或 zynq ultrascale+ mpsoc 器件实现时，就会打破这个瓶颈。这些器件允许设计人员在器件的 pl 中实现图像处理流水线。在 pl 中创建真正的并行图像流水线，其中一个阶段的输出被传送到另一个阶段的输入。这样能获得确定的响应时间，缩短时延，实现功耗最佳解决方案。
利用 pl 实现图像处理流水线，还能获得比传统 cpu/gpu soc 方案更宽的接口能力，而后者只能获得固定接口。pl io 接口的灵活特性允许任意连接，支持 mipi、camera link、hdmi 等行业标准接口。这种灵活特性还能实现定制传统接口，而且能进行升级以支持最新接口标准。利用 pl，还可以让系统并行连接多个摄像头。
不过，最关键的是实现应用算法，而且无需用硬件描述语言（例如 verilog 或 vhdl）重新编写所有高级算法。这正是 revision™ 堆栈的用武之地。
图 2 - 传统 cpu/gpu 方案与 zynq-7000/zynq ultrascale+ mpsoc 的对比
revision 堆栈
revision 堆栈使开发人员能够实现计算机视觉和机器学习技术。在这里，针对 zynq-7000 和 zynq ultrascale+ mpsoc 的高级框架和库同样适用。为此，revision 将支持平台、应用和算法开发的多种资源完美结合在一起。该堆栈分为三个不同等级：
平台开发 - 这是堆栈的最底层，是剩余堆栈层的构建基础。该层为 sdsoc™ 工具提供平台定义。
算法开发 – 这是堆栈的中间层，为所需算法的实现提供支持。该层有助于图像处理和机器学习推断引擎加快向可编程逻辑中转移。
应用开发 – 这是堆栈的最高层，可提供行业标准框架支持。该层用来开发应用，以便利用平台开发和算法开发层。
堆栈的算法和应用层支持传统图像处理流程和机器学习流程。在算法层中，支持用 opencv 库开发图像处理算法。这包括：能将多种 opencv 功能（包括 openvx 内核子集）加速放在可编程逻辑中实现。为支持机器学习，算法开发层提供几种可以放在 pl 中用以实现机器学习推断引擎的预定义硬件功能。然后，由应用开发层访问这些图像处理算法和机器学习推断引擎，用以创建最终应用，并为 openvx 和 caffe 等高级框架提供支持。
图 3 - revision 堆栈
revision 堆栈能提供所有必要元素，用以实现高性能监控系统所需的算法。
在 revision 中加速 opencv
算法开发层的最重要优势之一是能够加速多种 opencv 功能。该层中，可加速的 opencv 功能被分成四个高级类别。
计算 – 包括的功能有：两个帧的绝对偏差、像素运算（加、减和乘）、梯度和积分运算。
输入处理 – 支持位深度转换、通道运算、直方图均衡化、重新映射和尺寸重调整。
滤波 - 支持多种滤波器，包括 sobel、自定义卷积和高斯滤波器。
其他 – 提供多种功能，包括 canny/fast/harris 边缘检测、阀值以及 svm 和 hog 分级器。
这些功能构成了 openvx 子集的核心功能，能够针对 openvx 与应用开发层紧密集成。开发团队可利用这些功能在可编程逻辑中创建算法流水线。以此方式在逻辑中实现这些功能，这样能显著提高算法实现性能。
revision 中的机器学习
revision 提供与 caffe 的集成，能够实现机器学习推断引擎。与 caffe 的集成发生在算法开发层和应用开发层。caffe 框架在 c++ 库中为开发人员提供大量函数库、模型和预训练的权重，以及 python™ 和 matlab® 捆绑程序。该框架使用户能够创建和训练网络，以执行所需的运算，无需重新开始。为便于模型重用，caffe 用户可通过模型库（model zoo）共享模型；库中提供多个网络模型，用户可针对专门的任务实现和更新网络模型。在 prototxt 文件中定义这些网络和权重，当在机器学习环境中部署时，使用该文件来定义推断引擎。
revision 提供 caffe 集成功能，使机器学习推断引擎的实现非常简单，只需提供 prototxt 文件即可；剩下的工作由框架来完成。然后，使用这个 prototxt 文件来配置处理系统以及可编程逻辑中的硬件优化库。可编程逻辑用来实现推断引擎，并包含 conv、relu、pooling 等功能。
图 4 - caffe 流程集成
机器学习推断引擎中的数字表达对性能也起到重要作用。机器学习越来越多地使用更为高效、降低精度的定点数字系统，例如 int8 表达法。与传统的浮点 32 (fp32)方法相比，定点降精度数字系统不会造成较大精度损失。与浮点相比，定点运算更易于实现，因此改用 int8 后能实现更高效、快速的解决方案。可编程逻辑解决方案最适合使用定点数字，revision 能在 pl 中使用 int8 表达法。采用 int8 表达法后，可在 pl 中使用专用 dsp 模块。有了这些 dsp 模块的架构，当使用相同的内核权重时，可同时执行两个 int8 乘法累积运算。这样不仅能获得高性能实现方案，而且可以降低功耗。凭借可编程逻辑的灵活特性，也可以轻松实现精度更低的定点数字表达形式。
结论
revision 使开发人员能够利用 zynq-7000 和 zynq ultrascale+ mpsoc 器件所提供的功能。而且，即使不是专家也能利用可编程逻辑来实现算法。这些算法和机器学习应用可通过高级的行业标准框架来实现，从而缩短系统开发时间。这使开发人员能够提供响应性和可重配置能力更强而且功耗更加优化的系统。
基于英安特的可视化区域联网报警运营系统的设计
9.6.8 化学机械抛光垫和化学机械修整盘∈《集成电路产业全书》
plc与多种传感器连接方式的区别
库仑电量传感器和电化学传感器在等压法透氧测试中的区别
热图像传感器如何工作
利用reVISION™ 堆栈实现应用算法
无线遥控开关解决酒店项目建筑电气设计中存在问题
ADI公司为不同超声平台上实现成像质量与功耗性能的最优化
黑客潜伏三年，GoDaddy源代码失窃
MAX14521/MAX14521E 四通道高压EL灯驱动器
华为p10与小米6哪个更值得入手？华为p10与小米6对比评测：谁最性能怪兽
基于WLAN实现mesh网络的多跳无线扩展的设计
单相方波逆变电路
特斯拉Model Y雷达加热器助力自动驾驶功能积雪天气正常运行
Digi-Key推进分销来自 Renesas 和 Dialog 的致胜产品组合
PCIM展会：东芝展示在工业变频器与电力方面的系统解决方案
74hc245中文资料_芯片74hc245管脚功能
国产DRAM工艺逐渐提升 市场规模持续扩大
如何管理物联网中所有“事物”的数据
RFIC设计的主要流程和发展趋势学习
监控系统严重依靠嵌入式视觉系统提供的功能加速在广泛市场和系统中的部署。这些监控系统的用途非常广泛，包括事件和流量监控、安全与安防用途、isr 和商业智能。用途的多样性也带来了几大挑战，需要系统设计人员在解决方案中加以解决。它们是：
●多摄像头视觉– 能够连接多个同类或异类传感器类型。
●计算机视觉技术- 能够使用高级库和框架（例如 opencv 和 openvx）进行开发。
●机器学习技术– 能够使用框架（例如 caffe）来实现机器学习推断引擎。
●提高分辨率和帧率– 提高每个图像帧所需的数据处理。
根据用途，监控系统会实现相应算法（例如光流法）以检测图像内的运动。立体视觉提供图像内的深度知觉，也使用机器学习技术来检测和分类图像中的对象。
图 1 - 实例应用（上：面部检测与分类，下：光流）
异构系统器件，例如 all programmable zynq®-7000 和 zynq® ultrascale+™ mpsoc，正越来越多地应用于监控系统的开发。这些器件是可编程逻辑(pl)架构与高性能 arm® 内核处理器系统(ps)的完美结合。
与传统方案相比，pl 与 ps 的紧密耦合使得创建的系统具有更强的响应能力、可重配置能力以及更高的能效。基于 cpu/gpu 的传统 soc 需要使用系统存储器将图像从一个处理阶段传送到下个阶段。这会降低确定性并增大功耗和系统响应时延，因为多个资源需要访问同一个存储器，造成处理算法瓶颈。该瓶颈随帧率和图像分辨率增加而加重。
当解决方案采用 zynq-7000 或 zynq ultrascale+ mpsoc 器件实现时，就会打破这个瓶颈。这些器件允许设计人员在器件的 pl 中实现图像处理流水线。在 pl 中创建真正的并行图像流水线，其中一个阶段的输出被传送到另一个阶段的输入。这样能获得确定的响应时间，缩短时延，实现功耗最佳解决方案。
利用 pl 实现图像处理流水线，还能获得比传统 cpu/gpu soc 方案更宽的接口能力，而后者只能获得固定接口。pl io 接口的灵活特性允许任意连接，支持 mipi、camera link、hdmi 等行业标准接口。这种灵活特性还能实现定制传统接口，而且能进行升级以支持最新接口标准。利用 pl，还可以让系统并行连接多个摄像头。
不过，最关键的是实现应用算法，而且无需用硬件描述语言（例如 verilog 或 vhdl）重新编写所有高级算法。这正是 revision™ 堆栈的用武之地。
图 2 - 传统 cpu/gpu 方案与 zynq-7000/zynq ultrascale+ mpsoc 的对比
revision 堆栈
revision 堆栈使开发人员能够实现计算机视觉和机器学习技术。在这里，针对 zynq-7000 和 zynq ultrascale+ mpsoc 的高级框架和库同样适用。为此，revision 将支持平台、应用和算法开发的多种资源完美结合在一起。该堆栈分为三个不同等级：
平台开发 - 这是堆栈的最底层，是剩余堆栈层的构建基础。该层为 sdsoc™ 工具提供平台定义。
算法开发 – 这是堆栈的中间层，为所需算法的实现提供支持。该层有助于图像处理和机器学习推断引擎加快向可编程逻辑中转移。
应用开发 – 这是堆栈的最高层，可提供行业标准框架支持。该层用来开发应用，以便利用平台开发和算法开发层。
堆栈的算法和应用层支持传统图像处理流程和机器学习流程。在算法层中，支持用 opencv 库开发图像处理算法。这包括：能将多种 opencv 功能（包括 openvx 内核子集）加速放在可编程逻辑中实现。为支持机器学习，算法开发层提供几种可以放在 pl 中用以实现机器学习推断引擎的预定义硬件功能。然后，由应用开发层访问这些图像处理算法和机器学习推断引擎，用以创建最终应用，并为 openvx 和 caffe 等高级框架提供支持。
图 3 - revision 堆栈
revision 堆栈能提供所有必要元素，用以实现高性能监控系统所需的算法。
在 revision 中加速 opencv
算法开发层的最重要优势之一是能够加速多种 opencv 功能。该层中，可加速的 opencv 功能被分成四个高级类别。
计算 – 包括的功能有：两个帧的绝对偏差、像素运算（加、减和乘）、梯度和积分运算。
输入处理 – 支持位深度转换、通道运算、直方图均衡化、重新映射和尺寸重调整。
滤波 - 支持多种滤波器，包括 sobel、自定义卷积和高斯滤波器。
其他 – 提供多种功能，包括 canny/fast/harris 边缘检测、阀值以及 svm 和 hog 分级器。
这些功能构成了 openvx 子集的核心功能，能够针对 openvx 与应用开发层紧密集成。开发团队可利用这些功能在可编程逻辑中创建算法流水线。以此方式在逻辑中实现这些功能，这样能显著提高算法实现性能。
revision 中的机器学习
revision 提供与 caffe 的集成，能够实现机器学习推断引擎。与 caffe 的集成发生在算法开发层和应用开发层。caffe 框架在 c++ 库中为开发人员提供大量函数库、模型和预训练的权重，以及 python™ 和 matlab® 捆绑程序。该框架使用户能够创建和训练网络，以执行所需的运算，无需重新开始。为便于模型重用，caffe 用户可通过模型库（model zoo）共享模型；库中提供多个网络模型，用户可针对专门的任务实现和更新网络模型。在 prototxt 文件中定义这些网络和权重，当在机器学习环境中部署时，使用该文件来定义推断引擎。
revision 提供 caffe 集成功能，使机器学习推断引擎的实现非常简单，只需提供 prototxt 文件即可；剩下的工作由框架来完成。然后，使用这个 prototxt 文件来配置处理系统以及可编程逻辑中的硬件优化库。可编程逻辑用来实现推断引擎，并包含 conv、relu、pooling 等功能。
图 4 - caffe 流程集成
机器学习推断引擎中的数字表达对性能也起到重要作用。机器学习越来越多地使用更为高效、降低精度的定点数字系统，例如 int8 表达法。与传统的浮点 32 (fp32)方法相比，定点降精度数字系统不会造成较大精度损失。与浮点相比，定点运算更易于实现，因此改用 int8 后能实现更高效、快速的解决方案。可编程逻辑解决方案最适合使用定点数字，revision 能在 pl 中使用 int8 表达法。采用 int8 表达法后，可在 pl 中使用专用 dsp 模块。有了这些 dsp 模块的架构，当使用相同的内核权重时，可同时执行两个 int8 乘法累积运算。这样不仅能获得高性能实现方案，而且可以降低功耗。凭借可编程逻辑的灵活特性，也可以轻松实现精度更低的定点数字表达形式。
结论
revision 使开发人员能够利用 zynq-7000 和 zynq ultrascale+ mpsoc 器件所提供的功能。而且，即使不是专家也能利用可编程逻辑来实现算法。这些算法和机器学习应用可通过高级的行业标准框架来实现，从而缩短系统开发时间。这使开发人员能够提供响应性和可重配置能力更强而且功耗更加优化的系统。
基于英安特的可视化区域联网报警运营系统的设计
9.6.8 化学机械抛光垫和化学机械修整盘∈《集成电路产业全书》
plc与多种传感器连接方式的区别
库仑电量传感器和电化学传感器在等压法透氧测试中的区别
热图像传感器如何工作
利用reVISION™ 堆栈实现应用算法
无线遥控开关解决酒店项目建筑电气设计中存在问题
ADI公司为不同超声平台上实现成像质量与功耗性能的最优化
黑客潜伏三年，GoDaddy源代码失窃
MAX14521/MAX14521E 四通道高压EL灯驱动器
华为p10与小米6哪个更值得入手？华为p10与小米6对比评测：谁最性能怪兽
基于WLAN实现mesh网络的多跳无线扩展的设计
单相方波逆变电路
特斯拉Model Y雷达加热器助力自动驾驶功能积雪天气正常运行
Digi-Key推进分销来自 Renesas 和 Dialog 的致胜产品组合
PCIM展会：东芝展示在工业变频器与电力方面的系统解决方案
74hc245中文资料_芯片74hc245管脚功能
国产DRAM工艺逐渐提升 市场规模持续扩大
如何管理物联网中所有“事物”的数据
RFIC设计的主要流程和发展趋势学习