多媒体技术和网络与移动通信的飞速发展激发了人们进行视频信息交流的需求。随着视频监控系统逐步向数字化发展。开发新一代基于计算机网络以及多媒体压缩算法的视频监控系统成为行业的主流方向。然而随着视频应用的迅速增加,开发者往往需要花费很多时间来熟悉各种多媒体的标准,最终只能通过编写与改进代码来进行开发与改变。随着美国ti公司推出达芬奇(davinci)平台后,这一切都在发生改变。
1 达芬奇技术的主要特点
达芬奇平台是典型的基于共享存储的嵌入式多处理(arm,dsp,vicp,视频前端和后端等)环境,支持的关键技术是片内实现了多通道的交换中心资源(switch central resources,scr)。基于片内scr,达芬奇平台在片内多处理器之间形成了典型的c/s架构:计算能力强大的dsp可以作为服务器提供算法的实时计算服务;带有java处理能力的arm9实现网络,硬盘音视频i/o等用户界面。美国ti公司在达芬奇平台上专门为音视频编解码(codec)多媒体应用精心设计了系统框架,提供了丰富的系统程序接口spi,应用程序接口api以及视频,图像,话音和音频千余种流媒体算法组件。他们与操作系统,中间件构成了一个应用系统的大部分内容,应用系统开发团队只需要将他们封装成运行包,就能得到高可用性和高可靠性的产品。
达芬奇平台的最大特点就是基于dsp与arm的soc芯片,和与之相关的相关软件,如图1所示。
图1 divinci软件框图
对达芬奇平台,硬件上给与双核架构强有力的支持,在dsp端用dps/bios来支持音/视频算法的运行,在arm端用montavistalinux(mv)来支持其对外设的管理。对于arm与dsp之间的数据交叉,则用codec engine和codec server来加以管理。达芬奇平台的先进性,对高端音/视频系统来说,无疑是开发平台的最好选择。
2 tms320dm365介绍
ti公司的tms320dm365是一款面向多媒体技术应用的高性能芯片。tm320dm365功能框图如图2所示。
图2 tms320dm365功能框图
内核方面tms320dm365集成arm926ej-s.h.264协处理器(hdvicp),mpeg4/jpeg协处理器(mjcp),能以1080p格式与10帧/s的速度提供h.264编解码功能,和以1080p格式与24帧/s的速度提供mpeg4编解码功能,以及以720p格式与30帧/s的速度提供h.264或mpeg4编解码功能。存储方面扩展存储器接口emifs包括1个16位256 m地址空间的ddr2和mddr,以及1个16/8位的aemif,可扩展的类型有8/16位nand flash,16mb nor flash,sram,16位onenand等。其他外围扩展控制器还包括16位hpi(host-port interface),2个mmc(multimedia card)/sd(secure digital)/sdio接口,1个16位的wdt(watch dogtimer),5个spi(serial port interface)接口其中每个具有两个片选,1个主/从i2c(inter-integrated circuit)总线控制器,1个支持2.0usb otg接口控制器等。
tms320dm365集成的arm926ej-s处理器包括32 kbram、16 kb rom(用于非aemif启动模式下的armbootloader)、16 kb指令缓存、8 kb数据缓存、cp15及mmu等。其中cp15用来对指令、数据缓存、mmu以及其他arm子系统进行配置及控制。mmu使用统一的tlb来对页表中存储的信息进行缓存,并为类似linux、windowsce、ultron以及threadx等操作系统提供虚拟内存。该处理器的写缓冲数据容量高达17 kb,使其可以大幅提高内核的性能。
tms320dm365中的视频处理子系统(vpss)由两个接口,分别用于视频捕获的视频前段(vpfe)输入接口和用于图像显示的视频后端(vpbe)输出接口。图3为视频处理子系统系统框图。
图3 vpss系统框图
vpfe模块主要用于捕获视频信号,也可以直接从前端输入已有的视频信号。vpfe输入接口有1个ccd控制器(ccdc)、1个预处理器、柱状模块、自动曝光/白平衡/聚焦模块(h3a)和寄存器组成。ccdc可以与视频解码器、cmos传感器或电荷耦合装置连接;预处理器是一个实时的图像处理器,它把来自cmos或ccd的原始图像从rgb转变为yuv422的编码;柱状模块和h3a模块实现基于原始图像信息的硬件操作。
vpbe输出接口由1个osd引擎和1个视频编码器组成。osd引擎能够显示两组独立的视频窗口或两组独立的osd窗口,还可以以2个视频窗口、1个osd窗口和一个属性窗口的形式显示。osd用于在视频图像上叠加音量,图标等位图或图像信息。视频编码模块提供数字输出和模拟输出。数字输出支持24bitrgb888格式、8/16bit bt.656以及具有独立的水平和垂直同步功能的ccit.601输出;模拟输出支持4路10bit dac,均工作于54 mhz,支持复合ntsc/pal、s端子和分量视频。
3 系统硬件设计
系统硬件结构如图4所示,本系统选择以tms320dm365为嵌入式处理器,外围电路包括有音频、视频信号采集电路,以太网络电路,电源接口,jtfag,uart,nand flash,sd卡,ddr2,usb2.0 otg以及i2c。
图4 系统硬件结构框图
网络摄像机系统的信息处理流程主要分为图像的获取、图像的处理传输以及图像的显示3部分。本系统中,前端摄像头负责图像的捕捉,将获取的未经压缩处理的图像信号传输至电路板中通过tms320dm365芯片进行压缩处理以及sd卡的相应存储,再由以太网接口或其他接口将处理过图像进行传输,在远端监视器上将图像进行显示。
本系统的视频采集模块采用tvp5146.传统ntsc/pal摄像头的输出信号格式为模拟信号,由于tms320dm365的视频输入信号是通过vpfe的ccdc以itu-r bt.601/bt.656格式进行输入的,所以首先需要通过视频前段滤波放大器opa361对采集到的模拟信号进行放大,经过视频解码芯片tvps146将模拟信号进行图像的抗混叠滤波预处理、模拟数字化转换及亮度/色度、水平/垂直同步信号的分离,实现模拟视频信号转换为数字并行信号bt.656码流格式,随后通过2个12位2选1的fet多路复用器对4路视频信号选择1路作为输入从而完成vpfe的视频输入工作。 tvp5146是一种高性能单片数字视频解码器,它可将所有常见的基带模拟视频信号,例如ntsc,pal,secam混合信号数字化并解码为数字视频信号。该解码器还包括了具有模拟预处理功能的4路10位30msps的模数转换器。高达10组的视频输入终端可以用来配置作为rgb,ypbpr,cvbs分量信号或者s端子视频输入。
网络控制模块主要包括emac模块和mdio模块,原理图如图5所示。
图5 以太网mii连接配置图
本系统采用ti公司出品的tsb43ea42作为以太网收发器。tsb43ea42支持10 mb/100 mb基带传输,提供与mac层相接的mii接口。它与dm3 65通信的主要引脚有:发送、接收数据线、时钟、使能信号、错误指示、管理数据接口、控制/指示引脚等。emac控制模块内部集成了8 kb的ram,主要功能使存放缓冲描述符和以太网数据包。mdio模块则主要通过两线接口完成对物理层芯片的配置,工作状态检测等工作。
串口模块采用ti公司的max322icpw,主要用来负责开发板与计算机之间的通信。通过超级终端,完成linux内核的下载以及相关参数的设置,完成系统的开发以及调试。存储模块包括了2个扩展存储接口emif和2个mmc/sd卡接口。前者包括ddr控制器和异步扩展存储接口aemif分别用于扩展连接对ddr存储器和flash存储器;后者实现了2个sd卡存储器的扩展连接。
电源模块采用了ti公司的tps65023作为电源管理芯片。该芯片包括3个dc/dc转换器以及2个200ma线性稳压器ldo.每路ldo由tms320dm3 65通过i2c与之通信,实现各路输出电源电压的控制,为内核存储器和i/o接口提供1.3,1.8,3.3 v的工作电压;也可通过5 v稳压器直流供电,通过dc/dc转换器提供1.3,1.8,3.3 v供电。
4 系统软件设计
系统的视频采集模块负责从摄像头中读取视频流数据,读出的图像数据交由压缩模块处理。摄像头驱动程序加载完成后为了进行视频采集必须加入video4linux模块,从而可以通过video4linux模块提供的编程接口从摄像头设备中获取图像帧。基于v4l的视频采集流程图如图6所示。
图6 视频采集流程图
本系统采用rtp实时传输协议以及rtcp实时传输控制协议作为视频传输的协议。rtp在多点传送或单点传送的网络服务上,提供端对端的网络传输功能,适合应用程序传输实时数据,如:音频、视频或者仿真数据。rtp由于没有为实时服务提供资源预留功能,所以不能保证qos(服务质量)。rtcp作为一种控制协议,通过扩展可以升级为大型的多点传送网络,并提供最小限度的控制和鉴别功能。在rtp会话期间,各参与者周期性的传送rtcp包,rtcp包中含有已发送的数据包的数据、丢失的数据包的数量等统计资料,因此服务器可以利用这些信息动态的改变传输速率,甚至改变有效载荷类型。rtp和rtcp配合使用,他们能以有效地反馈和量小的开销使传输效率最佳化,rtcp利用主要的两种控制包sr和rr反馈的信息如数据包丢失比,数据包丢失率,吞吐量和吞吐率,数据包到达时延抖动和往返传播时延等来调节实时传输,并调整系统的打包格式,发包速率来保证流畅地传输数据和清晰的播放视频,因此特别适合传送网上的实时数据。
jrtplib作为一个rtp协议的库,用来开发多媒体的应用十分方便。通过jrtplib库发送或接收rtp数据,而不用考虑ssrc的冲突、调度,连rtcp的数据也不需要用户来发送。用户只需要使用相应的类来发送和接收媒体数据。下面介绍rtp相关代码的具体实现。
在使用jrtplib传输多媒体数据之前,首先应该创建一个rtpsession类的一个对象来标识此次会话。然后通过rtpsession实例的create()方法来对其进行初始化操作。在create()时,需要两个参数sessparams和transparams,分别为rtpsessionparams和rtpudpv4trans mission params的实例。在create()成功以后,需要设置目标地址、净荷类型、时间戳增量等信息。在rtp会话建立起来以后,我们就可以进行媒体数据的传输。传输净荷数据的方法很简单,只需要调用rtpsession实例的sendpacker()方法就可以了。同时为了适应在网上的传输,还需对净荷数据进行分割。为了方便的使用,我们需进一步的封装。对于rtp分组的接收部分,由于给出的是拆分了的数据帧,我们需要组合成完整的数据帧。这里需要注意的是由于本摄像机采用的h.264解码算法,所以分流式接收方式以及rtp分组接收方式两种模式,对于流式传输,有的组合成完整的数据帧的步骤放在了h.264的nal层。但对有些音频和jpeg等应用,还是需要进行组装过程的。
5 结束语
提出一种基于tms320dm365的高速网络摄像机系统设计。网络摄像机接入局域网后,在局域网内部的pc机上通过ie输入网络摄像机的ip地址,通过第三方软件便可以观看到摄像机捕捉到的图像以及网络摄像机的相关数据流量信息。当获得图像质量要求较高时,相应的图像数据量也会增高,反之减小。在640x480的分辨率下,测得数据流量约为960 kb/s,可以满足对监控视频流畅性的要求。
本文首先介绍了视频监控系统的发展趋势以及嵌入式处理器tms320dm365的特点,之后通过对该系统的硬件设计以及软件设计的详细分析,实现了基于达芬奇技术tms320dm365的高速网络摄像机系统。该系统采用了最新的技术,降低了产品的成本,具有很强的实用性,是一种比较理想的网络摄像机解决方案,可广泛应用于视频监控系统。
运算放大器有哪些应用?
如何定义网络架构或结构加速视觉系统的优化
数据等创新技术正在加速投入疫情防控的关键应用
「论坛活动」AGV应用潜入深水区,科聪如何赋能客户轻松应对?
特斯拉没有做足工作防止滥用自动驾驶系统?特斯拉发布车祸新声明
TMS320DM365的特点及基于高速网络摄像机系统的设计
宁德时代动力电池份额还有增长空间?
【节能学院】能耗监测管理系统在舜通大厦及轨道交通R3线控制中心大楼项目的研究与应用
无人机反制系统的技术优势都有哪些
NI模块化平台方案,助力国产飞机翱翔蓝天
雷达感应模块在智能家居中的应用
Pixelworks推出集成Pixelworks X5 Pro视觉处理器的一加9 Pro旗舰智能手机
透视 CES 2018:不容错过的四大科技趋势
iPhone6s降至华为Mate9一样的售价, 选择让人很纠结!
高通:Android手机用户明年将用上刷脸功能
“四新”和“独角兽”有望以CDR方式回归A股
FPGA数据配置模式解析
关于医疗行业集成现状、发展瓶颈和未来发展趋势的全面介绍
全球闪存与存储半导体产业发展趋势
面向智能边缘的实时操作系统容器