作者:尹参军 英特尔高级应用工程师
01telemetry 介绍
telemetry(遥测)是指intel developer cloud 帮助开发者收集应用程序执行时开发者指定的信息,并通过 ui 的形式展现的功能,该功能可以被启动或关闭。
intel developer cloud 提供的遥测指标,包括有关计算设备运行状态和应用运行数据。在intel developer cloud 的部分实例调用了 telemetry dashboard 模块,我们可以通过运行这块单元格来查看边缘节点上运行应用过程中实际数据,这些数据对于想要为其应用程序做出数据驱动决策以确定适合其解决方案的最佳硬件的用户来说是很有参考价值的。
telemetry 涉及的内容比较多,我们本文仅从 telemetry 概念,功能做介绍,对于如何把 telemetry 功能集成到自己的应用中去,我们后面会再做分析。
02telemetry 流程
intel developer cloud示例的整体工作流程如下:
图 1-1 工作流程图
1.注册 intel developer cloud
2.启动并打开 jupyter notebook
3.使用指定的目标硬件开发模型并将作业发送到作业队列
4. 应用运行时调用 telemetry 接口记录数据
5.指标/结果由 jupyter notebook 访问
6.通过 grafana 仪表板生成遥测数据
telemetry 数据包含在给定作业运行期间的应用程序详细信息——即:平均推理时间 (ms)、推理计数、目标硬件。它还包括以下指标:每秒帧数、推理时间、推理期间的 cpu/gpu 使用率、平均 cpu/gpu 温度以及推理期间的内存使用率。
03裸机实例演示
step1. 进入 jupyter lab 环境
登录主页后,选择“bare metal deployment”的 “get started”,进入 jupyter notebook 开发环境。
图 2-1 点击进入jupyter notebook
step2. 运行参考实例
这次我们并不去细究 telemetry 调用,所以选择已经集成了 telemetry 的预置实例——物体检测。我在多个介绍文章里选择把这个预置实例拎出来,主要是因为它功能非常齐全,很适合做演示。当然平台还有很多预置程序,可以自行去探索,大可不必局限于这个实例。
进入jupyter notebook开发环境后,依次点击文件夹:
~/reference-samples/iot-devcloud/openvino-dev-latest/developer-samples/python/
然后找到 object-detection-python 应用,打开 object_detection_demo.ipynb 文件:
依次运行 notebook 上模块(cell),需要注意的是要等在边缘节点上的应用运行完毕后,再去点击 notebook 最后 telemetry dashboard 模块,会生成进入 telemetry 数据页面的链接地址,点击即可进入数据页面,观察边缘设备运行对象检测应用的数据指标。注意:数据收集发生在应用过程,并随应用终止而结束,需等收集结束后才可查看数据。
图 2-2 submit jobs
图 2-3 telemetry dashboard
图 2-4 观察数据
04总结
telemetry 虽然功能简单,却是十分关键。获取ai应用执行过程中设备的状态,通过数据分析,找到一个更合理的硬件搭配,发现我们设备资源瓶颈,才能更好地优化我们的方案。
上面只是演示了裸机部署实例,在 devcloud 容器化环境下也是支持 telemetry 功能的,原理一样,这里不再赘述,可以自行去探索一下。
新拓三维与韩国庆北大学联合举办三维光学测量应用发展论坛
SD卡在记录汽车CAN总线数据中的应用
印度拟降低高端手机关键部件进口关税
四大科技巨头都如何利用AI来相互竞争
热搜第一的“蟹卡诈骗”,到底应该怎么防?
Intel Developer Cloud Telemetry数据分析(一)
Spireon推出拖车图像捕获与检索功能,可提高运行效率
恒温恒湿试验箱的主要功能及技术参数
以色列 AI芯片独角兽企业Hailo与立端科技(Lanner Electronics)合作开发PCIe AI加速卡Falcon Lite
纳米纸制电子信息传感器的特别之处
怎么判断液晶面板是8bit还是6bit
面对网站的安全,数字资产交易平台开发该注重什么?
机械制动辅助系统(BA)
澳洲航空CEO表示将日出计划飞机订单推迟至2020年初
新能源车和自动驾驶会产生怎样的化学反应呢?
华为CloudBU,担任着历史使命
具有双总线的8位DAC风扇控制器LTC1840
黑莓Motion评测:搭载骁龙625+防水长续航
机器人的世界杯,中国浙大ZJUNlict队大胜美国马萨诸塞大学队
ICNexus应用处理器助力实现智能型运输车辆系统