CN107609576A - 融合大模板图的模板匹配并行实现方法及装置 - Google Patents
融合大模板图的模板匹配并行实现方法及装置 Download PDFInfo
- Publication number
- CN107609576A CN107609576A CN201710728331.0A CN201710728331A CN107609576A CN 107609576 A CN107609576 A CN 107609576A CN 201710728331 A CN201710728331 A CN 201710728331A CN 107609576 A CN107609576 A CN 107609576A
- Authority
- CN
- China
- Prior art keywords
- real
- time
- gray value
- module
- row
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Complex Calculations (AREA)
Abstract
本发明公开了一种融合大模板图的模板匹配并行实现方法及装置,属于归一化相关图像模板匹配领域,其由归一化相关系数计算模块逻辑架构包括模板图灰度值求和,模板图灰度值平方求和,实时图灰度值求和、实时图灰度值平方求和模块和实时图模板图灰度值乘积求和、后续计算、实时图模板图灰度值总和缓冲、实时图灰度值总和缓冲、实时图灰度值平方总和缓冲等模块。通过增加实时图灰度值总和缓冲模块、实时图灰度值平方总和缓冲模块、实时图模板图灰度值乘积总和缓冲模块;同时控制流程中通过比较模板图大小与实现的并行通道数目,分别执行大模板图模式和小模板图模式逻辑控制,使所实现架构不再受限于并行通道数目,提高了资源利用率。
Description
技术领域
本发明涉及归一化相关图像模板匹配领域,特别涉及一种融合大模板图的匹配并行实现方法及装置。
背景技术
模板匹配通过计算表征目标的模板图与实时图中搜索区域内所有位置的相似性测度来进行目标定位,该目标同模板图有类似的尺寸和图像。由于归一化相关系数对亮度和对比度变化具有不变性,因此它是模板匹配广泛采用的一种测度。假定实时图和模板图分别由A、B表示,其尺寸分别为K×L和M×N个像素。在任一搜索位置(u,v),0≤u≤K-M,0≤v≤L-N,归一化相关系数(NCC-Normalized Cross-Correlation)定义为:
其中∑∑表示 为模板图像的均值,为在当前搜索位置实时图与模板图重叠部分的均值。可以看出,该运算就是在实时图中平移模板图,对实时图和模板图重叠点进行归一化相乘,然后进行累加操作。
已经提出许多技术来加速模板匹配过程,由于这些技术不需要对所有位置进行匹配,因此大幅度的降低了计算量,但是这些技术通常由于局部的极值点干扰导致错误的匹配。实际上,由于模板匹配计算是针对图像各个像素进行相关运算,因此该算法本身能够通过并行的方法来加速。此外已经提出了一些多处理器并行计算方法来加速模板匹配。但是对于很多小型化、微功耗需求的嵌入式应用,多处理器并行计算方法仍无法满足实际应用要求。
近年来,随着电子技术和制造工艺的快速发展,现场可编程门阵列(FPGA)的容量越来越大、速度越来越快,这使得FPGA具有了一般微处理器所无法比拟的强大并行计算,因此FPGA特别适用于实现模板匹配计算。
很多自动目标识别任务为了提高精度,在与目标接近的最终任务阶段,往往采用较大的模板图,如一些任务中实时图往往只比模板图略大。对于大小为512*512的实时图,一个典型模板图大小可能大于400*400。一般并行模板匹配实现方法直接采用模板图行数个并行通道,一般FPGA无法同时满足如此多的资源、体积、精度及功耗需求;即使能够利用具有更多资源的芯片采用多通道方式实现,而任务早期和中期只需要小模板图,如80*80,导致整个芯片资源利用率不高。
发明内容
本发明所要解决的技术问题是针对背景技术的缺陷,提出一种融合大模板图的匹配并行实现方法及装置,实现如何提供一种小模板图实现同时适应大模板图的归一化相关系数计算方法,从而可以解决上述任务不同阶段大小模板图匹配的问题。
本发明的上述技术问题是通过以下技术方案得以实现的:
一种融合大模板图的模板匹配并行实现方法,包括以下步骤:
A、在外部微处理器输入参数和启动命令***启动以后进行初始化,并且设置u=0,v=0,c=0,其中u代表当前行,v代表当前列,c代表当前块;判断模板图是否大于所实现的并行处理通道数P,当模板图不大于P时,执行步骤C1~C6小模板图模式工作流程,否则执行步骤B1~B7大模板图模式工作流程;
小模板图模式工作流程如下:
C1、从外部存储器中读取每一行模板图数据存储到对应的内部模板图数据RAM缓冲块中同时进行模板图灰度值总和模板图灰度值平方总和计算;读取模板图相同行数的实时图数据分别到对应的内部实时图数据RAM缓冲块中,同时计算第0行第0列搜索位置处实时图灰度值总和实时图灰度值平方总和同时分别存储到Acc缓冲、A2cc缓冲中,其中当前行、当前列初始化为u=0,v=0,M、N分别代表模块图中的行数和列数;
C2、计算当前行第0列模板图实时图灰度值乘积总和同时存储到ABcc缓冲中;从Acc缓冲、A2cc缓冲、ABcc缓冲中同时输出当前行当前列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,同时计算当前行当前列归一化互相关结果;
C3、由实时图数据RAM缓冲块数据及当前行第0列搜索位置处实时图灰度值总和、实时图灰度值平方总和,采用一加一减两步操作计算搜索位置当前行第1列的实时图灰度值总和及实时图灰度值平方总和同时存储到Acc缓冲、A2cc缓冲中;
C4、由步骤C2到步骤C3相同的方式,依次计算当前行后续各列v归一化相关系数直到所有列计算完成;
C5、读入下一行实时图数据存储到数据已经无效的内部实时图RAM缓冲块中,同时计算当前行第0列的实时图灰度值总和实时图灰度值平方总和同时存储到Acc缓冲、A2cc缓冲中;
C6、采用步骤C2到步骤C5相同的方式,依次计算出后续各行各列归一化相关系数;
大模板图模式工作流程如下:
B1、从外部存储器中读取第u+P*c到u+P*c+P-1行实时图数据到对应的内部RAM缓冲块中,计算第u行第0列搜索处第c块实时图灰度值总和
实时图灰度值平方总和
同时从Acc(v=0)、A2cc(v=0)缓冲当前列位置v读取已经存储起来的前c-1块的累加值和当前第c块的Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc、A2cc在V=0的缓冲对应位置;从外部存储器中读取第P*c到P*c+P-1行模板图数据到对应的内部RAM缓冲块中,同时利用累加运算进行前c块模板图灰度值总和模板图灰度值平方总和计算;
B2、计算当前行第0列第c块模板图实时图灰度值乘积总和从ABcc缓冲当前列位置v读取已经存储起来的前c-1块的累加值和当前第c块的ABcc(u,v,c)相加后存储到ABcc缓冲对应位置;
B3、由实时图数据RAM缓冲块数据及当前行第0列搜索位置处第c块实时图灰度值总和、实时图灰度值平方总和,采用一加一减两步操作计算搜索位置当前行第1列第c块的实时图灰度值总和及实时图灰度值平方总和从Acc缓冲、A2cc缓冲当前列位置v读取已经存储起来的前c-1块的累加值和当前第c块的Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc缓冲、A2cc缓冲对应位置;
B4、由步骤B2到步骤B3相同的方式,依次计算当前行后续各列v第c块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,从缓冲中读取此前所有块的累加值与新计算结果相加,并且存储到相应的Acc缓冲、A2cc缓冲、ABcc缓冲对应列v位置中;
B5、v重新初始化为0,由步骤B2到步骤B4相同的方式,依次计算当前行各列v各块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,从缓冲相应位置读取此前所有块的累加值与新计算结果相加,并且存储到相应的Acc缓冲、A2cc缓冲、ABcc缓冲中,由此得到当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和;
B6、由Acc缓冲、A2cc缓冲、ABcc缓冲中依次输出当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,同时计算当前行各列归一化互相关结果;
B7、块序c重新初始化为0,采用步骤B1到步骤B6,依次计算出后续各行各列归一化相关系数。
进一步的,所述归一化相关系数公式如下:
其中,A、B分别表示实时图和模板图,其尺寸分别为K×L、M×N个像素,其中K代表是实时图的行数,L代表实时图的列数,M代表模块图的行数,N代表模块图的列数;(u,v)为任一搜索位置,0≤u≤K-M,0≤v≤L-N;∑∑表示 为模板图像的灰度平均值,为当前搜索位置(u,v)处实时图与模板图重叠区域的灰度平均值,行列的序号都是从0开始的。
进一步的,步骤A中并行处理通道数P由较小模板图行数决定,大模板图中,c是每一搜索位置处分块数目C的序号。
进一步的,步骤C1所述的模板图数据读入到对应的内部RAM缓冲块,是将每一行N列的灰度值存储到一个RAM块中,共存入M行,即占用了M个RAM块,每个RAM块占用其中的N个存储单元;实时图数据读入到对应的内部RAM缓冲块,是将每一行L列的灰度值存储到一个RAM块中,共存入M行,同样占用了M个RAM块,每个RAM块占用其中的L个存储单元;
步骤C1所述的模板图灰度值总和的计算是在读入模板图数据时,通过时序控制模块控制一个累加器实现,累加器的输入端连接到模板图数据输入端,其输出即为模板图灰度值总和;
步骤C1所述的模板图灰度值平方总和的计算是在读入模板图数据时,通过时序控制模块控制一个平方运算模块和一个累加器实现,平方运算模块的输入端连接到模板图数据输入端,平方运算模块的输出连接到累加器的输入端,累加器输出即为模板图灰度值平方总和;
步骤C1中所述的第0行第0列搜索位置处的实时图灰度值总和的计算,是通过时序控制模块控制一个行数据累加模块在每一行实时图数据读入时,对实时图第0行第0列搜索位置处每一行数据进行累加,然后通过一个列累加器对这些行数据累加模块输出结果逐行进行累加,并且和该列累加器累加结果经过M步延迟后结果相减获得,同时结果存储到Acc缓冲中;
步骤C1中所述的第0行第0列搜索位置处的实时图灰度值平方总和的计算,是通过时序控制模块控制一个行数据累加模块在每一行实时图数据读入时,对实时图第0行第0列搜索位置处每一行数据逐个平方后进行累加,然后通过一个列累加器对这些行数据平方累加模块输出结果逐行进行累加,并且和该列累加器累加结果经过M步延迟后结果相减获得,同时结果存储到A2cc缓冲中;
步骤C2和步骤C4中的模板图与实时图当前搜索位置的灰度值乘积总和的计算,实现如下:模板图像RAM缓冲块的所有输出端连接到一个多路选通开关,多路选通开关的输出连接到乘法模块中的一个乘法器的一端,乘法器的另一端对应连接到实时图像RAM缓冲块的输出端;采用模板图最大行数M个这样的并行通道进行并行运算,然后各个通道输出端连接到一个并加模块的输入端,并加模块的输出端连接到一个累加模块,在计算时,时序控制模块控制选通开关使得对应的模板图数据与实时图数据进行乘积运算,改变模板图像和实时图像RAM缓冲块的地址,逐列输出模板图和实时图的对应数据进行乘积运算,然后经过并加模块对当前列各行数据进行求和,而后由累加模块对并加模块输出的结果逐列求和后,获得当前列各个搜索位置的同时结果存储到ABcc缓冲中;
步骤C2和步骤C4所述计算归一化相关系数是在由Acc缓冲、A2cc缓冲、ABcc缓冲中同时输出当前行当前列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和以后,相应的 可以由乘法器、平方运算、加、减法器计算出来,归一化相关系数计算公式中的分母由两个求根模块进行求根运算,然后再对两者进行相乘获得,然后归一化相关系数计算公式中的分子和分母由除法运算得到归一化相关系数;
步骤C2和步骤C4所述的搜索位置当前行归一化相关系数的计算,是模板图像第0到M-1行与实时图第0到M-1行数据对应计算,搜索位置第0列归一化相关系数的计算为模板图像第0到N-1列与实时图像第0到N-1列数据对应计算;搜索位置第1列归一化相关系数的计算为模板图像第0到N-1列与实时图像第1到N列数据对应计算;此时后续的求平方根、浮点除法等后续运算同步流水进行,以此重复,直到当前行归一化相关系数计算完成为止;
步骤C3和步骤C6中当前行第1列开始后续各列v,v≥1,每一个实时图灰度值总和计算,是从搜索位置第1列开始,通过时序控制模块同时控制所有实时图数据缓冲RAM块依次输出实时图中模板图重叠区域相对于前一列搜索位置新进的一列数据和刚移出的一列数据,经过并加器后,由累加器在当前输出值的基础上,累加新进的一列数据并加结果减去刚移出一列数据并加结果,然后累加器输出结果与已经计算出的当前行第0列的实时图灰度值总和相加得到同时结果存储到Acc缓冲中,此时,该累加器在第0列搜索位置处的值初始化为0,当前操作主要为一加一减两步操作,累加器加上相对于前一个搜索位置新进的一列数据的并加结果,减去相对于前一个搜索位置刚移出的一列数据的并加结果,其它运算通过逻辑同步完成;
步骤C3和步骤C6中当前行第1列开始后续各列v,v≥1,每一个实时图灰度值平方总和计算,是从搜索位置第1列开始,通过时序控制模块同时控制所有实时图数据缓冲RAM块依次输出实时图中模板图重叠区域相对于前一列搜索位置新进的一列数据和刚移出的一列数据,每一行数据分别由平方运算模块求平方,经过并加器并加后,由累加器在当前输出值的基础上,累加新进的一列数据平方并加结果减去刚移出一列数据平方并加结果,最后由加法器与已经计算出的当前行第0列搜索位置处的相加即可获得当前列的同时结果存储到A2cc缓冲中,此时该累加器在第0列搜索位置处的值初始化为0,当前操作主要为一加一减两步操作,累加器加上相对于前一个搜索位置新进的一列数据平方的并加结果,减去相对于前一个搜索位置刚移出的一列数据平方的并加结果,其它运算通过逻辑同步完成;
步骤C5所述从外部RAM读入新一行的实时图数据到相应的内部RAM缓冲块中,为第一行相关系数计算完成后,读入一行新的实时图数据覆盖不用的实时图RAM块数据,在后续各行计算时需要通过时序控制模块重新切换多路选通开关使模板图RAM缓冲块输出与实时图RAM缓冲块输出顺序变化对应;
步骤C5中所述在读入实时图下一行数据时,同时由步骤C1中同一模块以相同方式计算出当前行(u)第0列的实时图灰度值总和的值,后续列实时图灰度值总和亦是按前述步骤C3中一加一减两步操作方式依次计算得出;
步骤C5中所述在读入实时图下一行数据时,同时由步骤C1中同一模块以相同方式计算出当前行(u)第0列的实时图灰度值平方总和的值,后续列实时图灰度值平方总和亦是按前述步骤C3中一加一减两步操作方式依次计算得出;
步骤C6所述计算出后续各行归一化互相关系数,是指计算实时图像第2行至第K-M+1行归一化相关系数,第一行相关系数计算完成后,依次读入一行新的实时图数据覆盖不用的实时图RAM缓冲块数据,并且通过时序控制模块重新选择模板图RAM缓冲块输出多路选通开关使其与之对应,这样相当于模板图像在待匹配图像中下移一行,然后按照步骤C2和步骤C3方式进行计算,依次得到每行的归一化相关系数;
步骤C1到C6中的Acc缓冲、A2cc缓冲、ABcc缓冲是为融合大模板图额外增加的数据缓冲器;小模板图模式时,上述步骤结合数据缓冲器相应的流程控制方式,大模板图模式时,用于缓冲L-N+1列的数据。
进一步的,步骤B1中和的计算采用与步骤C1模板图灰度值平方总和、模板图灰度值平方总和相同的计算模块,在第0行第0列搜索位置处多块数据读入完毕时完成模板图灰度值总和、模板图灰度值平方总和计算;
步骤B1中第u行第v列搜索位置处第c块实时图灰度值总和实时图灰度值平方总和的计算,采用步骤C1中相同的模块保持其中的延迟环节不使能,即输出为0,只输出累加后的值实现;
步骤B2中计算当前行第0列第c块模板图实时图灰度值乘积总和采用步骤C2相同的并行计算模块按相同的方式进行计算,计算完毕后从ABcc缓冲中读取已经存储起来的前c-1块的累加值和当前第c块的ABcc(u,v,c)相加后存储到ABcc缓冲中;
步骤B3中搜索位置当前行第1列第c块的实时图灰度值总和及实时图灰度值平方总和的计算采用步骤C3相同的模块按相同的方式进行计算,计算完毕后从Acc缓冲、A2cc缓冲当前列位置v读取已经存储起来的前c-1块的累加值和当前第c块的Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc缓冲、A2cc缓冲对应位置;
步骤B4当前行后续各列v第c块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和计算、缓冲读取、累加及存储具体参考B2和B3的说明;
步骤B5当前行各列v各块实时图灰度值总和,、实时图灰度值平方总和、模板图实时图灰度值乘积总和计算、缓冲读取、累加及存储具体参考B2、B3和B4的说明,最终由此得到当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和;
步骤B6中由Acc缓冲、A2cc缓冲、ABcc缓冲中依次输出当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和以后,相应的 可以由乘法器、平方运算、加、减法器计算出来,归一化相关系数计算公式中的分母由两个求根模块进行求根运算,然后再对两者进行相乘获得,然后归一化相关系数计算公式中的分子和分母由除法运算得到归一化相关系数;
进一步的,包括高速相关运算器、模板图实时图数据外部存储器、结果存储器和微处理器,其特征是:所述高速相关运算器分别与模板图实时图数据外部存储器、结果存储器、微处理器相连,模板图实时图数据外部存储器、结果存储器也与微处理器相连,所述高速相关运算器由归一化相关系数计算模块、外部通信接口模块以及时序控制模块组成;归一化相关系数计算模块用于归一化相关系数的计算,外部通信接口模块通过寄存器与处理器进行参数输入输出、指令输入、状态查询输出,时序控制模块控制整个归一化相关系数计算的工作流程,并与各个模块中的RAM的地址及控制线、多路选择器的选通地址、寄存器的使能端控制和地址信号相连,模板图实时图数据外部存储器、结果存储器分别存储原始图像数据以及运算结果,微处理器由高速相关运算器的外部通信接口模块通过寄存器访问的方式进行参数输入输出、指令输入和状态查询输出,从而命令高速相关运算器进行相应的操作,同时也进行原始图像数据的准备工作,高速相关运算器把结果存储到结果存储器中,并且从模板图实时图数据外部存储器中读取数据。
进一步的,所述高速相关运算器的归一化相关系数计算模块包括模板图灰度值求和模块、模板图灰度值平方求和模块、实时图灰度值求和模块、实时图灰度值平方求和模块和实时图模板图灰度值乘积求和模块、后续计算模块、实时图模板图灰度值总和缓冲、实时图灰度值总和缓冲和实时图灰度值平方总和缓冲,
模板图在时序电路控制下从模板图实时图数据存储器输入到模板图RAM缓冲块,同时输入到模板图灰度值求和模块和模板图灰度值平方求和模块计算模板图灰度值的Bcc与B2cc;实时图在时序电路控制下从模板图实时图数据存储器输入到实时图数据缓冲RAM,并输入到实时图灰度值求和模块和实时图灰度值平方求和模块,这两个模块计算每块实时图对应的Acc和A2cc,并存储到实时图灰度值总和缓冲和实时图灰度值平方总和缓冲;模板图RAM缓冲块和实时图数据缓冲RAM中的数据送入到实时图模板图灰度值乘积求和模块,计算相应的ABcc,并存储到模板图灰度值总和缓冲;
其中,模板图灰度值求和模块由一个第一累加器组成;
模板图灰度值平方求和模块由一个平方运算模块和一个第二累加器相连而成;实时图灰度值求和模块由与实时图灰度值平方求和模块共用的P路实时图数据缓冲RAM块、第1列第一累加模块、第一并加器、第三累加器和第一加法器组成;实时图灰度值平方求和模块由与实时图灰度值求和模块共用的P路实时图数据缓冲RAM、第1列第二累加模块、平方运算阵列、平方运算模块、第二并加器、第四累加器和第二加法器组成;实时图模板图灰度值乘积求和模块由和模块共用的P路实时图数据缓冲RAM、P路模板图RAM缓冲块、P个P选1多路选择器、P路乘法器、并加模块和第三累加器组成;后续计算模块由乘法器、平方运算模块、加法器、减法器和分子分母定点浮点转换模块、分母方根运算模块、浮点除法运算模块组成;实时图模板图灰度值总和缓冲的输出和模板图大小M*N的乘积,以及实时图灰度值总和缓冲的输出和模板图灰度值求和模块输出的乘积分别连接到减法器的被减数端和减数端,减法器的输出连接到分子浮点转换模块;实时图灰度值平方总和缓冲的输出和模板图大小M*N的乘积,以及实时图灰度值总和缓冲的输出通过一个平方运算模块,分别连接到减法器的被减数端和减数端,减法器的输出端连接到分母方根运算模块;模板图灰度值平方求和模块的输出和模板图大(M*N的乘积,以及模板图灰度值求和模块通过一个平方运算模块,分别连接到减法器的被减数端和减数端,减法器的输出端连接到分母方根运算模块;分母方根运算模块的输出送入到乘法器,计算分母并输入到分母浮点转换模块;分子分母负电转换模块的输出送入浮点除法运算模块,该模块将计算得到的归一化相关系数存储到外部存储器。其中,P为由任务要求、***成本、体积折中决定的逻辑实现器件所能实现的并行处理通道决定。
本发明采用以上技术方案与现有技术相比,具有以下技术效果:
本发明通过在通过合理加入中间数据结果缓冲以及针对大小模板图情况定制不同工作流程方式,使得该架构同时适用于大小模板图情况,特别是对于为满足体积及功耗需求选择的FPGA芯片资源只够实现小模板图并行通道的情况,提高了资源利用率,降低了成本和体积,能够适应任务不同阶段不同尺寸模板图匹配,由于基于归一化相关的模板匹配还广泛应用于图像对齐、双目立体视觉、视频编码等领域,因此该实现方法和装置具有广阔的应用前景。
附图说明
图1是本发明的原理结构框图;
图2是本发明的工作流程初始化阶段;
图3是本发明的小模板图模式工作流程;
图4是本发明的大模板图模式工作流程;
图5是本发明用于体现第1列第一累加模块和第1列第二累加模块实现的原理结构图;
图6是本发明的模板匹配原理示意图;
图7是本发明的原理结构框图;
图8是本发明的结构框图。
具体实施方式
以下结合附图对本发明作进一步详细说明。
一种融合大模板图的模板匹配并行实现方法,所用的归一化相关系数公式如下:
A表示实时图,B表示模板图,其尺寸分别为K×L和M×N个像素,(u,v)为任一搜索位置,K代表是实时图的行数,L代表实时图的列数,M代表模块图的行数,N代表模块图的列数,0≤u≤K-M,0≤v≤L-N。∑∑表示 为模板图像的均值,为搜索位置(u,v)处实时图与模板图重叠部分的均值,u代表当前列,v代表当前列,c代表当前块,下述行列的序号都是从0开始的。
为了简单起见,进行下述变量定义:Bcc=∑∑B(i,j),B2cc=∑∑(B(i,j)2,Acc(u,v)=∑∑A(i+u,j+v),A2cc(u,v)=∑∑A(i+u,j+v)2,ABcc(u,v)=∑∑A(i+u,j+v)B(i,j),即Bcc表示模板图灰度值总和,B2cc表示模板图灰度值平方总和,Acc(u,v)表示当前搜索位置实时图灰度值总和,A2cc(u,v)表示当前搜索位置实时图灰度值平方总和,ABcc(u,v)表示当前搜索位置实时图模板图灰度值乘积总和。归一化相关系数可进一步简写为:
由上式分子和分母可以看出,归一化相关系数的计算需要大量的乘累加操作,因此非常适合并行实现。为简便起见,此处的定义和缩写在下文的描述、图形及表中同样有效。
实时图像以及模板图像的行数和列数(即,K≤Kmax,L≤Lmax,M≤Mmax,N≤Nmax)都是可以由外部微处理器输入的可变参数,其中Kmax、Lmax、Mmax、Nmax是由任务需求所决定的最大可输入图像的行列数。本发明所提出的融合大模板图的零均值归一化相关图像模板匹配并行实现方法的原理结构框图如图1所示。归一化相关系数计算完成以后取最大值、阈值处理等操作由微处理器37来完成。为了清晰起见,图1主要给出了数据流相关的结构图,各个操作符号的功能说明已经在图例中给出。图中,时序控制模块8主要用于控制整个归一化相关系数计算的工作流程。外部通信接口模块7主要用于与微处理器37进行通信,即进行参数(包括K、L、M、N)、命令输入及状态输出。归一化相关系数计算模块36为核心运算模块,包括ABcc计算模块3、Acc计算模块4、A2cc计算模块5、Bcc计算模块2、B2cc计算模块1及后续计算模块6。
参考图2到图4,本发明的融合大模板图模板匹配并行实现方法包括如下几步,下面具体结合原理结构框图说明这些步骤中子模块的实现方法及工作流程:
A、在外部微处理器输入参数和启动命令***启动以后进行初始化,并且设置u=0,v=0,c=0;判断模板图是否大于所实现的并行处理通道数P,小于等于则执行步骤C1~C6的小模板图模式工作流程,否则执行步骤B1~B7的大模板图模式工作流程。
C1:从外部存储器中读取每一行模板图数据存储到对应的内部模板图数据RAM缓冲块中,同时计算模板图灰度值总和模板图灰度值平方总和读取模板图相同行数(M行)实时图数据分别到对应的内部实时图数据RAM缓冲块中,同时计算第0行第0列搜索位置(u=0,v=0)处的实时图灰度值总和实时图灰度值平方总和同时存储到Acc缓冲、A2cc缓冲中。其中当前行、列序号初始化为u=0,v=0。
由于在每一行的每一个搜索位置处的归一化相关系数的计算只需模板图行数(M)行的实时图,因此可以采用一组P个大小为1×Nmax的模板图RAM缓冲块21(如图1中的ORAM[0],...,ORAM[P])及P个大小为1×Lmax的实时图RAM缓冲块20(如图1中的RRAM[0],...,RRAM[P-1])。在开始计算时,首先从外部存储器中读入实时图数据和模板图数据到对应的内部RAM缓冲块中。具体是将模板图每一行的N个灰度值数据存储到一个RAM缓冲块中,共存入P行;将实时图每一行的L个灰度值数据存储到一个RAM缓冲块中,共存入P行。P由任务要求、***成本、体积折中决定的逻辑实现器件所能实现的并行处理通道确定,考虑成本,其一般由较小模板图行数确定。
对于一个固定的模板图,在每一个模板匹配位置(u,v)处,Bcc和B2cc在整幅图搜索空间内只计算一次。因此可以在模板图数据从外部存储器(图1中的Exter-RORAM)9中输入到内部的RAM缓冲块21(ORAMA[0],...,ORAMA[P-1])的同时计算Bcc和B2cc。
Bcc由Bcc计算模块2实现,该模块包括一个累加器14。累加器14的输入端连接到模板图实时图数据外部存储器9的输出端,在读入模板图数据时通过时序控制其输出即为模板图灰度值总和。
B2cc由B2cc计算模块1实现,该模块包括一个平方运算模块12和一个累加器13。平方运算模块12的输入端连接到模板图实时图数据外部存储器9的输出端,平方运算模块12的输出连接到累加器13的输入端,在读入模板图数据时通过时序控制累加器13的输出即为模板图灰度值平方总和。
搜索位置第u行第0列的实时图灰度值总和的计算,是通过时序控制模块控制一个行数据累加模块在每一行实时图数据读入时,对实时图第u行第0列搜索位置处每一行数据进行累加,然后通过一个列累加器对这些行数据累加模块输出结果逐行进行累加,并且和该列累加器累加结果经过M步(模板图行数步)延迟后结果相减获得。具体是由第1列累加1模块24来实现,该模块具体的原理实现结构如图5所示,每一行第一列Acc的计算都是由这个模块实现的。这个模块由2个累加器(行数据累加模块和列累加模块)、一组延迟寄存器和一个为适应不同模板图行数变化而选用的P输入选1的多路选择器组成,行数据累加模块在每一行实时图数据读入时,对每一行前N个数据进行累加,因此得到列累加模块在行数据累加模块得到累加值时对该累加值进行累加,然后与经过M步(模板图行数步)延迟的列累加器累加结果相减获得第u行第0列搜索位置处的Acc(u,0):
因此,本发明在实时图数据从外部存储器9(图1中的Exter-RORAM)读入到内部RAM缓冲块20(RRAM[0],...,RRAM[M-1])的过程中计算Acc(u,0)。
搜索位置第u行第0列的实时图灰度值平方总和的计算,是通过时序控制模块控制一个行数据累加模块在每一行实时图数据读入时,对实时图第u行第0列搜索位置处的每一行数据平方后进行累加,然后通过一个列累加器对这些行数据平方累加模块输出结果逐行进行累加,并且和该列累加器累加结果经过M步(模板图行数步)延迟后结果相减获得。具体由A2cc计算模块5中的平方模块27和第1列累加2模块28实现。第1列累加2模块与第1列累加1模块的结构和工作流程相同。即本发明在实时图数据从外部存储器9(图1中的Exter-RORAM)读入到内部RAM缓冲块20(RRAM[0],...,RRAM[P-1])的过程中计算Acc(u,0)的同时计算A2cc(u,0)。
C2:计算搜索位置(u,v)(v=0)处模板图实时图灰度值乘积总和同时存储到ABcc缓冲中;从Acc缓冲、A2cc缓冲、ABcc缓冲中同时输出第u行第v列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,同时计算当前行当前列归一化互相关结果。
1)ABcc计算模块
模板图与实时图当前搜索位置的灰度值乘积总和的计算,由ABcc计算模块3实现。
与前述相一致,采用P个并行乘法通道来进行并行运算。因此通过合理时序控制在一个时钟周期里就可以计算M(M≤P)个乘累加,这样,在N个时钟周期以后,可以得到一个搜索位置上的ABcc。
在开始计算时,首先从外部存储器中读入实时图数据和模板图数据到对应的内部RAM缓冲块中。当从第2行进行搜索时,新来的一行实时图数据可以覆盖无用的第1个缓冲块,此时实时图第1个RAM缓冲块(RRAM[0])和模板图的第1块(ORRAM[0])不对应,而是与模板图的最后一块(ORAM[M-1])相对应,第2个实时图缓冲块对应模板图的第1个缓冲块,以此类推。当进行第3行搜索时,新来的一行实时图数据可以覆盖第2个无用的RAM缓冲块,此时第1个实时图缓冲块对应第M-1个模板图缓冲块(ORAM[M-2]),第2个实时图缓冲块对应第M个模板图缓冲块(ORAM[M-1]),第3个才对应模板图的第1个缓冲块(ORAM[0]),以此类推。为了使实时图和模板图的每个RAM缓冲块数据能够相对应,本发明利用多路选通开关(MUX)从M个模板图缓冲块中选择一个缓冲块与实时图的每个缓冲块相对应。总共需要M个这样的多路选通开关来对数据进行重排。利用多路选通开关对实时图和模板图进行重排都是可以的,由于模板图的缓冲块较小,从而布线路径会简单一些,因此本发明采用对模板图进行重排,如图1所示。
ABcc计算模块3由实时图RAM缓冲块20、模板图RAM缓冲块21、多路选通开关16、乘法器17、并加模块18和累加器19组成。模板图RAM缓冲块21的所有输出端连接到一个多路选通开关16的输入端,多路选通开关的输出连接到乘法器17的一端,乘法器17的另一端对应连接到存储实时图像的RAM缓冲块的输出端。利用模板图最大行数(Mmax)个并行通道进行并行运算,然后各个通道输出端连接到一个并加模块18(PAdd1),最终连接到一个累加模块19(Accu3)上。
在具体计算时,时序控制模块8控制选通开关16使得对应的模板图数据与实时图数据进行乘积运算,改变模板图和实时图RAM缓冲块的地址,逐列输出模板图和实时图的对应数据进行乘积运算,然后经过并加模块18对当前列的各个数据进行求和,而后由累加模块19对并加模块18输出的结果逐列求和后,获得当前列各个搜索位置的
2)归一化相关系数后续计算
归一化相关系数后续由后续计算模块6实现,在Acc缓冲、A2cc缓冲、ABcc缓冲输出当前搜索位置实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和后相应的 可以由乘法器和加、减法器计算出来。归一化相关系数公式的分母先由两个求根模块和分别进行求根运算,然后由乘法器模块进行乘积运算,这样可以降低数据宽度。归一化相关系数公式的分子和分母首先由定点浮点转换模块30和31转化为浮点数,最终通过浮点除法运算模块32进行浮点除法运算就可以得到浮点格式的归一化相关系数。
搜索位置第0行处的归一化相关系数计算,是模板图像第0到M-1行与实时图第0到M-1行数据对应计算,搜索位置第0列处归一化相关系数的计算为模板图像第0到N-1列与实时图像第0到N-1列数据对应计算。搜索位置第1列处归一化相关系数的计算为模板图像第0到N-1列与实时图像第1到N列数据对应计算,即模板图像在实时图像中右移一列,并计算该处的此时后续的求平方根、浮点除法等归一化相关系数后续计算同步流水进行,以此重复运行,直到当前行(第0行)归一化相关系数计算完成。根据实际需要可选择32位浮点或者64位浮点运算。
C3:由实时图数据RAM缓冲块数据及第u行第v列(v=0)搜索位置处实时图灰度值总和、实时图灰度值平方总和,采用一加一减两步操作计算搜索位置第u行第v列(v=1)的实时图灰度值总和及实时图灰度值平方总和同时存储到Acc缓冲、A2cc缓冲中。
1)后续Acc计算
后续搜索位置(u,v)(v≥1)的每一个实时图灰度值总和的计算,是从搜索位置开始,通过时序控制模块同时控制所有实时图数据缓冲RAM块依次输出实时图中模板图重叠区域相对于前一搜索位置(u,v-1)的新进的列数据和移出的列数据,经过并加器后,由累加器在当前输出值的基础上,累加新进的列数据并加结果减去移出的列数据并加结果,然后累加器输出结果与前一搜索位置(u,v-1)的实时图灰度值总和相加得到此时,该累加器在第0列搜索位置(v=0)时初始化为0。当前操作主要为一加一减两步操作,累加器加上相对于前一个搜索位置的新进列数据的并加结果,减去相对于前一个搜索位置的移出列数据的并加结果,其它运算通过逻辑同步完成。
由具体的模板匹配过程图6可以看出,当前位置搜索(u,v0+1)的Acc计算和前一搜索位置(u,v0)相比多了一列新数据(图6中的新列)和少了一列旧数据(图6中的旧列),因此在当前给定搜索位置(u,v0+1),可以通过时序控制逻辑同时控制所有实时图RAM缓冲块20,依次输出实时图的第v0+N列和第v0列数据,经过并加器后,由累加器累加上第v0+N列数据并加结果并且减去第v0列数据并加结果同时与搜索位置(u,v0)处的累加器结果求和,得到Acc(u,v0+1)。同时存储到Acc缓冲相应位置中。
因此后续的实时图灰度值总和Acc(u,v)由Acc计算模块4和A2cc(u,v)计算模块5共用的内部实时图数据RAM缓冲块20、并加模块22(PAdd2)、累加器23(Accu4)和第1列累加1模块24实现。所有内部实时图数据RAM缓冲块20输出端对应连接到并加模块22的输入端,并加模块22的输出端连接到累加器23的输入端。累加器的输出加上第1列累加1模块24的输出即可得到后续列的实时图灰度值总和Acc(u,v)。
2)后续A2cc计算
从搜索位置(u,v)(v≥1)起后续的A2cc(u,v)的计算以与Acc(u,v)相同的方式实现。在当前给定搜索位置(u,v0+1),在时序控制模块控制所有实时图数据缓冲RAM块20依次输出实时图中模板图的第v0列数据和第v0+N列数据的同时,对每个数据分别由平方运算模块求平方后,经过并加器并加,而后由累加器累加第v0+N列数据平方并加结果减去第v0列数据平方并加结果,最后由加法器与搜索位置(u,v0)处的相加即可获得当前列的同时存储到A2cc缓冲相应位置中。
因此后续的实时图灰度值平方总和A2cc(u,v)由Acc计算模块4和A2cc(u,v)计算模块5共用的内部实时图数据RAM缓冲块20(RRAM[0],...,RRAM[P-1])、每行1个平方运算模块26、并加器25(PAdd3)、累加器29(Accu5)、平方模块27和第1列累加2模块28组成。所有内部实时图数据缓冲RAM块20(RRAM[0],...,RRAM[P-1])的输出端对应连接到各行平方运算26输入端,各行平方运算26输出端连接到并加器25的输入端,并加器25的输出端连接到累加器29的输入端。累加器29的输出加上第1列累加2模块28的输出即可得到后续列的实时图灰度值平方总和A2cc(u,v)。
RRAM2可由双端口RAM实现,以实现同时读出两个数据;在没有双端口RAM时可由两块RAM实现。
C4:以步骤C2到步骤C3的方式,依次计算当前行后续各列的归一化相关系数直到所有列计算完成。
该步骤由前述步骤C2和C3的实现细节进行实现。
C5:读入下一行(u+M)实时图数据存储到数据无效的内部实时图RAM缓冲块中,同时计算当前行(第u行)第0列(v=0)的实时图灰度值总和实时图灰度值平方总和同时存储到Acc缓冲、A2cc缓冲中。
由步骤C2中所述,从外部RAM读入新一行的实时图数据到相应的内部RAM缓冲块中,为一行相关系数计算完成后,读入一行新的实时图数据覆盖无用的实时图RAM块数据,在后续计算时需要通过时序控制模块8重新切换多路选通开关使模板图RAM缓冲块输出与实时图RAM缓冲块输出顺序变化对应。
在读入实时图新一行数据时,同时由步骤C1中所述方式相应的计算出当前行第0列的实时图灰度值总和和实时图灰度值平方总和的值,后续列实时图灰度值总和与实时图灰度值平方总和按步骤C3中所述方式依次计算得出,同时存储到Acc缓冲、A2cc缓冲相应位置中。
C6:采用步骤C2到步骤C5的方式,依次计算出后续各行各列归一化相关系数。
计算实时图像第2行至第K-M+1行的归一化相关系数,上一行相关系数计算完成后,依次读入一行新的实时图数据覆盖失效的实时图RAM缓冲块数据,并且通过时序控制模块重新选择模板图RAM缓冲块输出多路选通开关使其与实时图RAM缓冲块数据相对应,这样相当于模板图像在待匹配图像中下移一行,这样按照步骤C2到步骤C5相同的方式进行计算,依次得到每行的归一化相关系数。
B1:从外部存储器中读取第u+P*c到u+P*c+P-1行实时图数据到对应的内部RAM缓冲块,同时计算搜索位置(u,0)处第c块实时图灰度值总和实时图灰度值平方总和同时从Acc、A2cc缓冲的当前列(v=0)对应位置处读取前c-1块的累加值,将该累加值与Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc、A2cc缓冲的对应位置。从外部存储器中读取第P*c到P*c+P-1行模板图数据到对应的内部RAM缓冲块中,同时利用累加运算计算前c块模板图灰度值总和模板图灰度值平方总和
和的计算采用与步骤C1中模板图灰度值平方总和、模板图灰度值平方总和相同的计算模块,在第0行第0列搜索位置处的C块数据读入完毕时完成模板图灰度值总和、模板图灰度值平方总和计算。
搜索位置(u,v)处的第c块实时图灰度值总和实时图灰度值平方总和的计算,采用与步骤C1相同的模块且保持其中延迟环节不使能(即输出为0),只输出累加后的值来实现。
B2:计算搜索位置为(u,v)(v=0)处的第c块模板图实时图灰度值乘积总和从ABcc缓冲当前列v对应位置读取的前c-1块的累加值与当前第c块的ABcc(u,v,c)相加后存储到ABcc缓冲对应位置。
搜索位置为(u,v)(v=0)处第c块模板图实时图灰度值乘积总和的计算采用与步骤C2相同的并行计算模块ABcc按相同方式计算,计算时选通开关保证模板图和实时图缓冲块之间的数据对应。计算完毕后从ABcc缓冲中读取前c-1块的累加值和ABcc(u,v,c)相加后存储到ABcc缓冲中。
B3:由实时图数据RAM缓冲块数据及搜索位置(u,v)(v=0)处的第c块实时图灰度值总和、实时图灰度值平方总和,采用一加一减两步操作来计算搜索位置(u,v)(v=1)处第c块的实时图灰度值总和及实时图灰度值平方总和从Acc缓冲、A2cc缓冲当前列v对应位置读取前c-1块的累加值和Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc缓冲、A2cc缓冲对应位置。
搜索位置(u,v)(v=1)处第c块的实时图灰度值总和及实时图灰度值平方总和的计算采用步骤C3相同的模块按相同方式进行计算。计算完毕后从Acc缓冲、A2cc缓冲当前列v对应位置读取前c-1块的累加值和第c块的Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc缓冲、A2cc缓冲对应位置。
B4:由步骤B2到步骤B3相同方式,依次计算当前行后续各列v第c块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,从缓冲读取所有块的累加值与新计算结果相加,并且存储到相应的Acc缓冲、A2cc缓冲、ABcc缓冲列v对应位置。
当前行后续各列v第c块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和计算、缓冲读取、累加及存储是由步骤B2到步骤B3相同的方式,具体参考步骤B2和B3的说明。
B5:v重新初始化为0,由步骤B2到步骤B4相同的方式,依次计算当前行各列v处的各块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,从缓冲相应位置读取此前所有块累加值与新计算结果相加,并且存储到相应Acc缓冲、A2cc缓冲、ABcc缓冲中,由此得到当前行各列搜索位置处的实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和。
当前行各列v的各块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和计算、缓冲读取、累加及存储由步骤B2到步骤B4相同的方式,具体参考步骤B2、B3、B4的说明。最终由此得到当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和。
B6:由Acc缓冲、A2cc缓冲、ABcc缓冲依次输出当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,同时计算当前行各列的归一化互相关结果。
由Acc缓冲、A2cc缓冲、ABcc缓冲依次输出当前行各列搜索位置处的实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和后,相应的和可以由乘法器、平方运算、加、减法器计算出来。归一化相关系数计算公式中的分母由两个求根模块进行求根运算,然后再对两者进行相乘得到。然后归一化相关系数计算公式中的分子和分母由除法运算得到归一化相关系数。
B7:块序c重新初始化为0,采用步骤B1到步骤B6相同方式,依次计算出后续各行各列归一化相关系数。
采用步骤B1到步骤B6相同的方式,依次计算出后续各行各列归一化相关系数,即基于实时图灰度值总和、实时图灰度值平方总和、实时图模板图灰度值缓冲,由前述步骤首先分别进行当前行搜索位置处第c块实时图灰度值、模板图灰度值、实时图灰度值平方总和、模板图灰度值平方总和、实时图模板图灰度值计算、缓冲读取、累加及存储直到所有块完成,然后计算各列的归一化相关系数直到完成,而后计算当前行各列的归一化相关系数。这样采用步骤B1到步骤B6相同的方式,依次计算出后续各行各列归一化相关系数。
其中本发明中外部实时图和模板图数据存储在了一块存储器(Exter-RORAM)中,此时读取分为两步;也可考虑分别存储在两块RAM中,此时可同时进行读取,可根据实际情形对上述实现方法和步骤进行适量合并。
一种融合大模板图的模板匹配并行实现装置,如图7所示,为高效模板匹配装置,由高速相关运算器10、模板图实时图数据外部存储器9、结果存储器11和微处理器37构成,高速相关运算器10分别与模板图实时图数据外部存储器9、结果存储器11、微处理器37相连,模板图实时图数据外部存储器9、结果存储器11也与微处理器37相连。高速相关运算器10由归一化相关系数计算模块36、外部通信接口模块7以及时序控制模块8组成。归一化相关系数计算模块36主要用于归一化相关系数的计算。外部通信接口模块7主要通过寄存器与处理器进行参数输入输出、指令输入、状态查询输出。时序控制模块8主要基于上述步骤控制整个归一化相关系数计算的工作流程,它与各个模块中的RAM的地址及控制线、多路选择器的选通地址、寄存器的使能端等控制和地址信号相连。模板图实时图数据外部存储器9、结果存储器11分别存储原始图像数据以及运算结果,微处理器37由高速相关运算器10的外部通信接口模块7通过寄存器访问的方式进行参数输入输出、指令输入和状态查询输出,从而命令高速相关运算器10进行相应的操作,同时也进行原始图像数据的准备工作。高速相关运算器10把结果存储到结果存储器11中,并且从模板图实时图数据外部存储器9中读取数据。
如图1所示,高效模板匹配装置中高速相关运算器10的归一化相关系数计算模块36包括模板图灰度值求和模块2,模板图灰度值平方求和模块1,实时图灰度值求和模块4、实时图灰度值平方求和模块5和实时图模板图灰度值乘积求和模块3、后续计算模块6、实时图模板图灰度值总和缓冲41、实时图灰度值总和缓冲42、实时图灰度值平方总和缓冲43;模板图灰度值求和模块2由一个第一累加器14组成,模板图灰度值平方求和模块1由一个平方运算模块12和一个第二累加器13相连而成;实时图灰度值求和模块4由与实时图灰度值平方求和模块5共用的P路实时图数据缓冲RAM块20、第1列第一累加模块24、并加器22、第三累加器23和加法器组成;实时图灰度值平方求和模块5由与实时图灰度值求和模块4共用的P路实时图数据缓冲RAM 20、第1列第二累加模块28、平方运算阵列26、平方运算模块27、并加器25、第四累加器29和加法器组成。实时图模板图灰度值乘积求和模块3由和模块4共用的P路实时图数据缓冲RAM 20、P路模板图RAM缓冲块21、P个P选1多路选择器16、P路乘法器17、并加模块18和累加器19组成。后续计算模块由乘法器、平方运算模块、加法器、减法器和分子分母定点浮点转换模块、分母方根运算模块、浮点除法运算模块32组成。其中,P为由任务要求、***成本、体积折中决定的逻辑实现器件所能实现的并行处理通道决定,考虑成本,其一般由较小模板图行数决定。
模板图在时序电路控制下从模板图实时图数据存储器输入到模板图RAM缓冲块,同时输入到模板图灰度值求和模块和模板图灰度值平方求和模块计算模板图灰度值的Bcc与B2cc;
实时图在时序电路控制下从模板图实时图数据存储器输入到实时图数据缓冲RAM,并输入到实时图灰度值求和模块和实时图灰度值平方求和模块,这两个模块计算每块实时图对应的Acc和A2cc,并存储到实时图灰度值总和缓冲和实时图灰度值平方总和缓冲;
模板图RAM缓冲块和实时图数据缓冲RAM中的数据送入到实时图模板图灰度值乘积求和模块,计算相应的ABcc,并存储到模板图灰度值总和缓冲;
实时图模板图灰度值总和缓冲的输出和模板图大小M*N的乘积,以及实时图灰度值总和缓冲的输出和模板图灰度值求和模块输出的乘积分别连接到减法器的被减数端和减数端,减法器的输出连接到分子浮点转换模块;
实时图灰度值平方总和缓冲的输出和模板图大小M*N的乘积,以及实时图灰度值总和缓冲的输出通过一个平方运算模块,分别连接到减法器的被减数端和减数端,减法器的输出端连接到分母方根运算模块;
模板图灰度值平方求和模块的输出和模板图大(M*N的乘积,以及模板图灰度值求和模块通过一个平方运算模块,分别连接到减法器的被减数端和减数端,减法器的输出端连接到分母方根运算模块;
分母方根运算模块的输出送入到乘法器,计算分母并输入到分母浮点转换模块;
分子分母负电转换模块的输出送入浮点除法运算模块,该模块将计算得到的归一化相关系数存储到外部存储器。
其中,P为由任务要求、***成本、体积折中决定的逻辑实现器件所能实现的并行处理通道决定。
高效模板匹配装置工作流程如下:首先微处理器37把原始模板图和实时图数据存入模板图实时图数据外部存储器9中,然后向高速相关运算器10输入图像的尺寸参数,而后输入启动命令启动归一化相关运算,高速相关运算器10会将运算结果存储到结果存储器。在运算过程中通过寄存器访问的方式查询运算的进程状态。在运算完成以后,微处理器37会从高速相关运算器10收到完成的中断信号,为可靠起见,微处理器37进一步查询高速相关运算器10的完成标志,在确保完成以后从结果存储器11读取归一化相关系数计算结果进行后续处理工作。
高效模板匹配装置中所包含的高速相关运算器可以利用FPGA实现,也可利用VLSI实现。高速相关运算器中实时图像以及模板图像的行数和列数都是可以由外部微处理器输入的可变的参数,而最终实现的并行通道数目,包括内部实时图和模板图RAM缓冲块的数目,是由任务要求、***成本、体积折中决定的逻辑实现器件所能实现的并行处理通道数(可以小于任务要求的最大行数)确定。
下面是算法的具体实施实例:
本发明的实施实例是以Altera公司的现场可编程门阵列Stratix II系列EP2S90F780I4芯片为平台。图像灰度值为8位,模板图和实时图的大小参数是可变的:2≤M≤400,2≤N≤400,2≤K≤512,2≤L≤512。相应的,我们采用小模板图的行数80作为并行通道数,大模板图行数为400。采用Quartus II 8.0sp1软件作为基本的逻辑分析、综合、逻辑布局布线工具,采用Verilog和VHDL语言混合硬件编程的方式进行逻辑设计。***的全局时钟频率采用70MHz,由PLL根据外部输入的20MHz时钟产生。具体采用32位浮点归一化相关系数输出。
依据本发明,具体实例图像模板匹配的实施如下:
1)依据两个图像的具体大小,搭建图像匹配***
高速相关运算器按照图1在FPGA芯片上实现,完成归一化相关系数的计算。模板图实时图的RAM缓冲块由实例化RAM实现,多路选择器、乘法运算、平方运算、加法运算、减法运算、求方根运算、定点浮点转换、浮点除法运算都由Qartus II根据所用的FPGA相应进行实例化。时序控制模块通过状态机的方式实现,从而控制整个***的运行。在分母求方根运算和分子转化为浮点数之前,所有的数据计算都进行了位扩展以保证不出现精度损失。
2)采用Verilog和VHDL语言混合编程的方式进行逻辑设计
步骤A、在外部的微处理器输入参数和启动命令***启动以后进行初始化;判断模板图是否大于所实现的并行处理通道数80,小于等于执行C1~C7小模板图相应的工作流程,否则,执行大模板图相应的工作流程。
步骤C1:读入模板图像80*80个数据到A组对应的每一个内部RAM缓冲块中,读入前80行实时图像512*80个数据分别存储到对应的内部RAM缓冲块,同时计算Bcc和B2cc和第0行第0列搜索位置上的Acc和A2cc,并且存储到Acc和A2cc缓冲中
对于模板图像和实时图像,分别设置80个RAM缓冲块,每一行信息存储到一个RAM缓冲块中,由于灰度值为8位二进制数据,每个RAM缓冲块的大小分别为400*8(位)和512*8(位),前80行实时图像同时依次存入实时图数据缓冲RAM中,总计512*80*8(位)。这样对于实时图,在开始时读入的是第1至80行数据。Bcc在模板图像数据读入过程中通过Bcc计算模块计算出来,同时B2cc在模板图像数据读入过程中通过B2cc计算模块计算出来。第1行第1列搜索位置上的Acc和A2cc由第1列累加1模块和第1列累加2模块实现。Acc缓冲和A2cc缓冲的大小分别为433*17(位)和433*25(位)。
步骤C2:计算ABcc(u,v),存储到ABcc缓冲中,从缓冲中输出并且计算归一化相关系数,并且将结果存储到外部存储器中。
对于ABcc的计算,时序控制模块控制当前计算组模板图和实时图每一个RAM缓冲块地址同时输出一列数据,同时控制多路选择器选择对应的模板图与实时图数据进行乘积运算,然后经过对所有行乘积结果同时求和的并加和对并加结果逐列求和的累加实现。ABcc缓冲的大小分别为433*25(位)。同时按照流水的方式由后续计算模块计算出归一化相关系数,并且存储到外部存储器中。
步骤C3:计算Acc(u,v)和A2cc(u,v),并且存储到Acc和A2cc缓冲中
对于每一行从第1列(0为起始序号)开始,Acc和A2cc可由时序控制模块控制Acc计算模块和A2cc计算模块实现,具体从实时图数据缓冲RAM(RRAM2)中顺序读出新进的一列数据和移出的旧的一列数据相减并且对结果值进行累加而后和当前行第一列的Acc求和计算。
步骤C4:由步骤C2到步骤C3相同的方式,依次计算当前行后续各列v归一化相关系数直到所有列计算完成。
步骤C5:从外部RAM读入新一行的实时图数据到相应的内部RAM缓冲块中,同时存入到实时图数据缓冲RAM中,同时计算当前行第0列的Acc(u,0)和A2cc(u,0)值,同时存储到Acc缓冲、A2cc缓冲中。
对于实时图像,当开始进行第2行搜索时,新来的第M+1行实时图数据覆盖已经不用的第1个缓冲块,以此类推。当进行第3行搜索时,新来的一行实时图数据可以覆盖第2个已经不用的RAM缓冲块,此时第1个实时图缓冲块对应第M-1个模板图缓冲块(ORAM[M-2]),第2个实时图缓冲块对应第M个模板图缓冲块(ORAM[M-1]),第3个才对应模板图的第1个缓冲块(ORAM[0]),以此类推。时序控制模块控制选通开关使得模板图数据与实时图数据对应。
当前行第1列搜索位置上Acc(u,1)和A2cc(u,1)由第1列累加1模块和第1列累加2模块在新一行实时图数据读入过程中同时计算出来。
步骤C6:重复(2)~(3),依次计算直到433行数据计算完毕。
大模板图相应的工作流程和实现方式这儿不再赘述。
3)资源利用情况
由Qartus II编译报告,总的资源利用在67%。ALUTs占用了56%,REGs 40%,内存位数20%,DSP块59%。可见,在包含了求平方根、定点到浮点转换、浮点除法等运算情况下,整个FPGA芯片占用的逻辑资源不多,因而本发明所提方案是完全可以实现的。
4)实际的实验结果
在实际***中,融合大模板图的归一化相关图像模板匹配并行实现方法的基本构成如图8所示。图中,Exter-RORAM、Exter-RAM分别为缓存模板图实时图数据和运算结果的外部存储器。微处理器采用ADI公司的DSP芯片TS201。Addr和Data为地址和数据总线,RD、WR、CS为外部存储器读写控制信号。
首先TS201作为核心处理器把模板图实时图数据存入外部双端口RAM(Exter-RORAM)中,然后向FPGA输入图像的尺寸参数,其后输入启动命令启动模板匹配运算。在运算完成以后,TS201会收到完成的中断信号,为可靠起见,TS201需要查询FPGA的完成标志,在确保完成以后进行后续工作。
在不同参数情况下用不同实际图像数据对该装置进行了长期的稳定性测试,归一化相关系数计算的结果与理论计算值相一致,并且能够稳定可靠的工作。
上述仅用Altera公司的现场可编程门阵列Stratix II系列EP2S90F780I4以70MHz***全局时钟频率进行了实施验证,实际方案可以采用更高的时钟频率和更先进的FPGA芯片进行综合验证,从而获得功耗和速度上的进一步提高。
因为FPGA通常用作VLSI专用集成电路的验证和开发平台,因此所提出的高速相关运算器可以同样进一步由VLSI实现和验证。
本具体实施例仅仅是对本发明的解释,其并不是对本发明的限制,本领域技术人员在阅读完本说明书后可以根据需要对本实施例做出没有创造性贡献的修改,但只要在本发明的权利要求范围内都受到专利法的保护。
Claims (7)
1.一种融合大模板图的模板匹配并行实现方法,其特征是:包括以下步骤:
A、在外部微处理器输入参数和启动命令***启动以后进行初始化,并且设置u=0,v=0,c=0,其中u代表当前行,v代表当前列,c代表当前块;判断模板图是否大于所实现的并行处理通道数P,当模板图不大于P时,执行步骤C1~C6小模板图模式工作流程,否则执行步骤B1~B7大模板图模式工作流程;
小模板图模式工作流程如下:
C1、从外部存储器中读取每一行模板图数据存储到对应的内部模板图数据RAM缓冲块中同时进行模板图灰度值总和模板图灰度值平方总和计算;读取模板图相同行数的实时图数据分别到对应的内部实时图数据RAM缓冲块中,同时计算第0行第0列搜索位置处实时图灰度值总和实时图灰度值平方总和同时分别存储到Acc缓冲、A2cc缓冲中,其中当前行、当前列初始化为u=0,v=0,M、N分别代表模块图中的行数和列数;
C2、计算当前行第0列模板图实时图灰度值乘积总和同时存储到ABcc缓冲中;从Acc缓冲、A2cc缓冲、ABcc缓冲中同时输出当前行当前列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,同时计算当前行当前列归一化互相关结果;
C3、由实时图数据RAM缓冲块数据及当前行第0列搜索位置处实时图灰度值总和、实时图灰度值平方总和,采用一加一减两步操作计算搜索位置当前行第1列的实时图灰度值总和及实时图灰度值平方总和同时存储到Acc缓冲、A2cc缓冲中;
C4、由步骤C2到步骤C3相同的方式,依次计算当前行后续各列v归一化相关系数直到所有列计算完成;
C5、读入下一行实时图数据存储到数据已经无效的内部实时图RAM缓冲块中,同时计算当前行第0列的实时图灰度值总和实时图灰度值平方总和同时存储到Acc缓冲、A2cc缓冲中;
C6、采用步骤C2到步骤C5相同的方式,依次计算出后续各行各列归一化相关系数;
大模板图模式工作流程如下:
B1、从外部存储器中读取第u+P*c到u+P*c+P-1行实时图数据到对应的内部RAM缓冲块中,计算第u行第0列搜索处第c块实时图灰度值总和实时图灰度值平方总和同时从Acc(v=0)、A2cc(v=0)缓冲当前列位置v读取已经存储起来的前c-1块的累加值和当前第c块的Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc、A2cc在V=0的缓冲对应位置;从外部存储器中读取第P*c到P*c+P-1行模板图数据到对应的内部RAM缓冲块中,同时利用累加运算进行前c块模板图灰度值总和模板图灰度值平方总和计算;
B2、计算当前行第0列第c块模板图实时图灰度值乘积总和从ABcc缓冲当前列位置v读取已经存储起来的前c-1块的累加值和当前第c块的ABcc(u,v,c)相加后存储到ABcc缓冲对应位置;
B3、由实时图数据RAM缓冲块数据及当前行第0列搜索位置处第c块实时图灰度值总和、实时图灰度值平方总和,采用一加一减两步操作计算搜索位置当前行第1列第c块的实时图灰度值总和及实时图灰度值平方总和从Acc缓冲、A2cc缓冲当前列位置v读取已经存储起来的前c-1块的累加值和当前第c块的Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc缓冲、A2cc缓冲对应位置;
B4、由步骤B2到步骤B3相同的方式,依次计算当前行后续各列v第c块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,从缓冲中读取此前所有块的累加值与新计算结果相加,并且存储到相应的Acc缓冲、A2cc缓冲、ABcc缓冲对应列v位置中;
B5、v重新初始化为0,由步骤B2到步骤B4相同的方式,依次计算当前行各列v各块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,从缓冲相应位置读取此前所有块的累加值与新计算结果相加,并且存储到相应的Acc缓冲、A2cc缓冲、ABcc缓冲中,由此得到当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和;
B6、由Acc缓冲、A2cc缓冲、ABcc缓冲中依次输出当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和,同时计算当前行各列归一化互相关结果;
B7、块序c重新初始化为0,采用步骤B1到步骤B6,依次计算出后续各行各列归一化相关系数。
2.根据权利要求1所述的方法,其特征是:所述归一化相关系数公式如下:
其中,A、B分别表示实时图和模板图,其尺寸分别为K×L、M×N个像素,其中K代表是实时图的行数,L代表实时图的列数,M代表模块图的行数,N代表模块图的列数;(u,v)为任一搜索位置,0≤u≤K‐M,0≤v≤L‐N;∑∑表示 为模板图像的灰度平均值,为当前搜索位置(u,v)处实时图与模板图重叠区域的灰度平均值,行列的序号都是从0开始的。
3.根据权利要求1述的方法,其特征是:步骤A中并行处理通道数P由较小模板图行数决定,大模板图中,c是每一搜索位置处分块数目C的序号。
4.根据权利要求1所述的方法,其特征是:步骤C1所述的模板图数据读入到对应的内部RAM缓冲块,是将每一行N列的灰度值存储到一个RAM块中,共存入M行,即占用了M个RAM块,每个RAM块占用其中的N个存储单元;实时图数据读入到对应的内部RAM缓冲块,是将每一行L列的灰度值存储到一个RAM块中,共存入M行,同样占用了M个RAM块,每个RAM块占用其中的L个存储单元;
步骤C1所述的模板图灰度值总和的计算是在读入模板图数据时,通过时序控制模块控制一个累加器实现,累加器的输入端连接到模板图数据输入端,其输出即为模板图灰度值总和;
步骤C1所述的模板图灰度值平方总和的计算是在读入模板图数据时,通过时序控制模块控制一个平方运算模块和一个累加器实现,平方运算模块的输入端连接到模板图数据输入端,平方运算模块的输出连接到累加器的输入端,累加器输出即为模板图灰度值平方总和;
步骤C1中所述的第0行第0列搜索位置处的实时图灰度值总和的计算,是通过时序控制模块控制一个行数据累加模块在每一行实时图数据读入时,对实时图第0行第0列搜索位置处每一行数据进行累加,然后通过一个列累加器对这些行数据累加模块输出结果逐行进行累加,并且和该列累加器累加结果经过M步延迟后结果相减获得,同时结果存储到Acc缓冲中;
步骤C1中所述的第0行第0列搜索位置处的实时图灰度值平方总和的计算,是通过时序控制模块控制一个行数据累加模块在每一行实时图数据读入时,对实时图第0行第0列搜索位置处每一行数据逐个平方后进行累加,然后通过一个列累加器对这些行数据平方累加模块输出结果逐行进行累加,并且和该列累加器累加结果经过M步延迟后结果相减获得,同时结果存储到A2cc缓冲中;
步骤C2和步骤C4中的模板图与实时图当前搜索位置的灰度值乘积总和的计算,实现如下:模板图像RAM缓冲块的所有输出端连接到一个多路选通开关,多路选通开关的输出连接到乘法模块中的一个乘法器的一端,乘法器的另一端对应连接到实时图像RAM缓冲块的输出端;采用模板图最大行数M个这样的并行通道进行并行运算,然后各个通道输出端连接到一个并加模块的输入端,并加模块的输出端连接到一个累加模块,在计算时,时序控制模块控制选通开关使得对应的模板图数据与实时图数据进行乘积运算,改变模板图像和实时图像RAM缓冲块的地址,逐列输出模板图和实时图的对应数据进行乘积运算,然后经过并加模块对当前列各行数据进行求和,而后由累加模块对并加模块输出的结果逐列求和后,获得当前列各个搜索位置的同时结果存储到ABcc缓冲中;
步骤C2和步骤C4所述计算归一化相关系数是在由Acc缓冲、A2cc缓冲、ABcc缓冲中同时输出当前行当前列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和以后,相应的 可以由乘法器、平方运算、加、减法器计算出来,归一化相关系数计算公式中的分母由两个求根模块进行求根运算,然后再对两者进行相乘获得,然后归一化相关系数计算公式中的分子和分母由除法运算得到归一化相关系数;
步骤C2和步骤C4所述的搜索位置当前行归一化相关系数的计算,是模板图像第0到M‐1行与实时图第0到M‐1行数据对应计算,搜索位置第0列归一化相关系数的计算为模板图像第0到N‐1列与实时图像第0到N‐1列数据对应计算;搜索位置第1列归一化相关系数的计算为模板图像第0到N‐1列与实时图像第1到N列数据对应计算;此时后续的求平方根、浮点除法等后续运算同步流水进行,以此重复,直到当前行归一化相关系数计算完成为止;
步骤C3和步骤C6中当前行第1列开始后续各列v,v≥1,每一个实时图灰度值总和计算,是从搜索位置第1列开始,通过时序控制模块同时控制所有实时图数据缓冲RAM块依次输出实时图中模板图重叠区域相对于前一列搜索位置新进的一列数据和刚移出的一列数据,经过并加器后,由累加器在当前输出值的基础上,累加新进的一列数据并加结果减去刚移出一列数据并加结果,然后累加器输出结果与已经计算出的当前行第0列的实时图灰度值总和相加得到同时结果存储到Acc缓冲中,此时,该累加器在第0列搜索位置处的值初始化为0,当前操作主要为一加一减两步操作,累加器加上相对于前一个搜索位置新进的一列数据的并加结果,减去相对于前一个搜索位置刚移出的一列数据的并加结果,其它运算通过逻辑同步完成;
步骤C3和步骤C6中当前行第1列开始后续各列v,v≥1,每一个实时图灰度值平方总和计算,是从搜索位置第1列开始,通过时序控制模块同时控制所有实时图数据缓冲RAM块依次输出实时图中模板图重叠区域相对于前一列搜索位置新进的一列数据和刚移出的一列数据,每一行数据分别由平方运算模块求平方,经过并加器并加后,由累加器在当前输出值的基础上,累加新进的一列数据平方并加结果减去刚移出一列数据平方并加结果,最后由加法器与已经计算出的当前行第0列搜索位置处的相加即可获得当前列的同时结果存储到A2cc缓冲中,此时该累加器在第0列搜索位置处的值初始化为0,当前操作主要为一加一减两步操作,累加器加上相对于前一个搜索位置新进的一列数据平方的并加结果,减去相对于前一个搜索位置刚移出的一列数据平方的并加结果,其它运算通过逻辑同步完成;
步骤C5所述从外部RAM读入新一行的实时图数据到相应的内部RAM缓冲块中,为第一行相关系数计算完成后,读入一行新的实时图数据覆盖不用的实时图RAM块数据,在后续各行计算时需要通过时序控制模块重新切换多路选通开关使模板图RAM缓冲块输出与实时图RAM缓冲块输出顺序变化对应;
步骤C5中所述在读入实时图下一行数据时,同时由步骤C1中同一模块以相同方式计算出当前行(u)第0列的实时图灰度值总和的值,后续列实时图灰度值总和亦是按前述步骤C3中一加一减两步操作方式依次计算得出;
步骤C5中所述在读入实时图下一行数据时,同时由步骤C1中同一模块以相同方式计算出当前行(u)第0列的实时图灰度值平方总和的值,后续列实时图灰度值平方总和亦是按前述步骤C3中一加一减两步操作方式依次计算得出;
步骤C6所述计算出后续各行归一化互相关系数,是指计算实时图像第2行至第K‐M+1行归一化相关系数,第一行相关系数计算完成后,依次读入一行新的实时图数据覆盖不用的实时图RAM缓冲块数据,并且通过时序控制模块重新选择模板图RAM缓冲块输出多路选通开关使其与之对应,这样相当于模板图像在待匹配图像中下移一行,然后按照步骤C2和步骤C3方式进行计算,依次得到每行的归一化相关系数;
步骤C1到C6中的Acc缓冲、A2cc缓冲、ABcc缓冲是为融合大模板图额外增加的数据缓冲器;小模板图模式时,上述步骤结合数据缓冲器相应的流程控制方式,大模板图模式时,用于缓冲L‐N+1列的数据。
5.根据权利要求1所述的方法,其特征是:步骤B1中和的计算采用与步骤C1模板图灰度值平方总和、模板图灰度值平方总和相同的计算模块,在第0行第0列搜索位置处多块数据读入完毕时完成模板图灰度值总和、模板图灰度值平方总和计算;
步骤B1中第u行第v列搜索位置处第c块实时图灰度值总和实时图灰度值平方总和的计算,采用步骤C1中相同的模块保持其中的延迟环节不使能,即输出为0,只输出累加后的值实现;
步骤B2中计算当前行第0列第c块模板图实时图灰度值乘积总和采用步骤C2相同的并行计算模块按相同的方式进行计算,计算完毕后从ABcc缓冲中读取已经存储起来的前c‐1块的累加值和当前第c块的ABcc(u,v,c)相加后存储到ABcc缓冲中;
步骤B3中搜索位置当前行第1列第c块的实时图灰度值总和及实时图灰度值平方总和的计算采用步骤C3相同的模块按相同的方式进行计算,计算完毕后从Acc缓冲、A2cc缓冲当前列位置v读取已经存储起来的前c‐1块的累加值和当前第c块的Acc(u,v,c)、A2cc(u,v,c)相加后存储到Acc缓冲、A2cc缓冲对应位置;
步骤B4当前行后续各列v第c块实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和计算、缓冲读取、累加及存储具体参考B2和B3的说明;
步骤B5当前行各列v各块实时图灰度值总和,、实时图灰度值平方总和、模板图实时图灰度值乘积总和计算、缓冲读取、累加及存储具体参考B2、B3和B4的说明,最终由此得到当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和;
步骤B6中由Acc缓冲、A2cc缓冲、ABcc缓冲中依次输出当前行各列实时图灰度值总和、实时图灰度值平方总和、模板图实时图灰度值乘积总和以后,相应的 可以由乘法器、平方运算、加、减法器计算出来,归一化相关系数计算公式中的分母由两个求根模块进行求根运算,然后再对两者进行相乘获得,然后归一化相关系数计算公式中的分子和分母由除法运算得到归一化相关系数。
6.一种融合大模板图的模板匹配并行实现装置,包括高速相关运算器(10)、模板图实时图数据外部存储器(9)、结果存储器(11)和微处理器(37),其特征是:所述高速相关运算器(10)分别与模板图实时图数据外部存储器(9)、结果存储器(11)、微处理器(37)相连,模板图实时图数据外部存储器(9)、结果存储器(11)也与微处理器相连(37),所述高速相关运算器(10)由归一化相关系数计算模块(36)、外部通信接口模块(7)以及时序控制模块(8)组成;归一化相关系数计算模块(36)用于归一化相关系数的计算,外部通信接口模块(7)通过寄存器与处理器进行参数输入输出、指令输入、状态查询输出,时序控制模块(8)控制整个归一化相关系数计算的工作流程,并与各个模块中的RAM的地址及控制线、多路选择器的选通地址、寄存器的使能端控制和地址信号相连,模板图实时图数据外部存储器(9)、结果存储器(11)分别存储原始图像数据以及运算结果,微处理器(37)由高速相关运算器(10)的外部通信接口模块(7)通过寄存器访问的方式进行参数输入输出、指令输入和状态查询输出,从而命令高速相关运算器(10)进行相应的操作,同时也进行原始图像数据的准备工作,高速相关运算器(10)把结果存储到结果存储器(11)中,并且从模板图实时图数据外部存储器(9)中读取数据。
7.根据权利要求6所述的装置,其特征是:所述高速相关运算器的归一化相关系数计算模块包括模板图灰度值求和模块(2)、模板图灰度值平方求和模块(1)、实时图灰度值求和模块(4)、实时图灰度值平方求和模块(5)和实时图模板图灰度值乘积求和模块(3)、后续计算模块(6)、实时图模板图灰度值总和缓冲(41)、实时图灰度值总和缓冲(42)和实时图灰度值平方总和缓冲(43),
模板图在时序电路控制下从模板图实时图数据存储器(9)输入到模板图RAM缓冲块(21),同时输入到模板图灰度值求和模块(2)和模板图灰度值平方求和模块(1)计算模板图灰度值的Bcc与B2cc;
实时图在时序电路控制下从模板图实时图数据存储器(9)输入到实时图数据缓冲RAM(20),并输入到实时图灰度值求和模块(4)和实时图灰度值平方求和模块(5),这两个模块计算每块实时图对应的Acc和A2cc,并存储到实时图灰度值总和缓冲(42)和实时图灰度值平方总和缓冲(43);
模板图RAM缓冲块(21)和实时图数据缓冲RAM(20)中的数据送入到实时图模板图灰度值乘积求和模块(3),计算相应的ABcc,并存储到模板图灰度值总和缓冲(41);
其中,模板图灰度值求和模块(2)由一个第一累加器(14)组成;
模板图灰度值平方求和模块(1)由一个平方运算模块(12)和一个第二累加器(13)相连而成;
实时图灰度值求和模块(4)由与实时图灰度值平方求和模块(5)共用的P路实时图数据缓冲RAM块(20)、第1列第一累加模块(24)、第一并加器(22)、第三累加器(23)和第一加法器组成;
实时图灰度值平方求和模块(5)由与实时图灰度值求和模块(4)共用的P路实时图数据缓冲RAM(20)、第1列第二累加模块(28)、平方运算阵列(26)、平方运算模块(27)、第二并加器(25)、第四累加器(29)和第二加法器组成;
实时图模板图灰度值乘积求和模块(3)由和模块(4)共用的P路实时图数据缓冲RAM(20)、P路模板图RAM缓冲块(21)、P个P选1多路选择器(16)、P路乘法器(17)、并加模块(18)和第三累加器(19)组成;
后续计算模块由乘法器、平方运算模块、加法器、减法器和分子分母定点浮点转换模块、分母方根运算模块、浮点除法运算模块(32)组成;
实时图模板图灰度值总和缓冲(41)的输出和模板图大小M*N的乘积,以及实时图灰度值总和缓冲(42)的输出和模板图灰度值求和模块(2)输出的乘积分别连接到减法器的被减数端和减数端,减法器的输出连接到分子浮点转换模块(30);
实时图灰度值平方总和缓冲(43)的输出和模板图大小M*N的乘积,以及实时图灰度值总和缓冲(42)的输出通过一个平方运算模块,分别连接到减法器的被减数端和减数端,减法器的输出端连接到分母方根运算模块(34);
模板图灰度值平方求和模块(1)的输出和模板图大(M*N的乘积,以及模板图灰度值求和模块(2)通过一个平方运算模块,分别连接到减法器的被减数端和减数端,减法器的输出端连接到分母方根运算模块(33);
分母方根运算模块(33)的输出送入到乘法器(35),计算分母并输入到分母浮点转换模块(31);
分子分母负电转换模块(31)的输出送入浮点除法运算模块(32),该模块将计算得到的归一化相关系数存储到外部存储器。
其中,P为由任务要求、***成本、体积折中决定的逻辑实现器件所能实现的并行处理通道决定。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710728331.0A CN107609576A (zh) | 2017-08-23 | 2017-08-23 | 融合大模板图的模板匹配并行实现方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710728331.0A CN107609576A (zh) | 2017-08-23 | 2017-08-23 | 融合大模板图的模板匹配并行实现方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107609576A true CN107609576A (zh) | 2018-01-19 |
Family
ID=61065714
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710728331.0A Pending CN107609576A (zh) | 2017-08-23 | 2017-08-23 | 融合大模板图的模板匹配并行实现方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107609576A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110288649A (zh) * | 2019-01-15 | 2019-09-27 | 南京航空航天大学 | 归一化相关图像模板匹配多核并行高效实现方法和装置 |
US11488664B2 (en) | 2020-10-13 | 2022-11-01 | International Business Machines Corporation | Distributing device array currents across segment mirrors |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3166905B2 (ja) * | 1997-07-02 | 2001-05-14 | インターナショナル・ビジネス・マシーンズ・コーポレ−ション | パターンマッチングによる画像処理方法およびシステム |
CN101576961A (zh) * | 2009-06-16 | 2009-11-11 | 天津大学 | 高速的图像匹配方法及装置 |
CN103310228A (zh) * | 2013-05-28 | 2013-09-18 | 南京邮电大学 | 基于归一化相关系数的模板匹配高速并行实现方法和装置 |
CN104657553A (zh) * | 2015-02-10 | 2015-05-27 | 北京航天自动控制研究所 | 一种基于快速归一化互相关法的相似性测度硬件加速方法 |
CN105426918A (zh) * | 2015-11-23 | 2016-03-23 | 南京航空航天大学 | 归一化相关图像模板匹配高效实现方法 |
-
2017
- 2017-08-23 CN CN201710728331.0A patent/CN107609576A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3166905B2 (ja) * | 1997-07-02 | 2001-05-14 | インターナショナル・ビジネス・マシーンズ・コーポレ−ション | パターンマッチングによる画像処理方法およびシステム |
CN101576961A (zh) * | 2009-06-16 | 2009-11-11 | 天津大学 | 高速的图像匹配方法及装置 |
CN103310228A (zh) * | 2013-05-28 | 2013-09-18 | 南京邮电大学 | 基于归一化相关系数的模板匹配高速并行实现方法和装置 |
CN104657553A (zh) * | 2015-02-10 | 2015-05-27 | 北京航天自动控制研究所 | 一种基于快速归一化互相关法的相似性测度硬件加速方法 |
CN105426918A (zh) * | 2015-11-23 | 2016-03-23 | 南京航空航天大学 | 归一化相关图像模板匹配高效实现方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110288649A (zh) * | 2019-01-15 | 2019-09-27 | 南京航空航天大学 | 归一化相关图像模板匹配多核并行高效实现方法和装置 |
US11488664B2 (en) | 2020-10-13 | 2022-11-01 | International Business Machines Corporation | Distributing device array currents across segment mirrors |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103310228B (zh) | 基于归一化相关系数的模板匹配高速并行实现方法和装置 | |
CN105426918B (zh) | 归一化相关图像模板匹配高效实现方法 | |
CN110058883B (zh) | 一种基于opu的cnn加速方法及*** | |
CN104899182B (zh) | 一种支持可变分块的矩阵乘加速方法 | |
CN106650699B (zh) | 一种基于卷积神经网络的人脸检测方法及装置 | |
CN102369508B (zh) | 电子***中的暂时辅助资源共享 | |
CN103324774B (zh) | 一种基于时钟规划偏差算法的处理器性能优化方法 | |
CN103677739B (zh) | 一种可配置的乘累加运算单元及其构成的乘累加运算阵列 | |
CN108256628A (zh) | 基于多播片上网络的卷积神经网络硬件加速器及其工作方式 | |
CN106200577A (zh) | 一种立体车库调度控制方法 | |
CN207817702U (zh) | 用于提高数据处理速度的数据处理*** | |
CN101673343B (zh) | 在dsp+fpga架构中提高信号实时模式识别处理速度的***及方法 | |
CN101263487A (zh) | 基于指令的并行中值滤波处理器和方法 | |
CN107609576A (zh) | 融合大模板图的模板匹配并行实现方法及装置 | |
CN101576961B (zh) | 高速的图像匹配方法 | |
CN106936127A (zh) | 一种线路负荷回归分析与预测方法及*** | |
CN102109542B (zh) | 一种可配置复用数字内插和数字滤波功能的数字示波器 | |
CN101976431A (zh) | 一种基于动态可重构技术的通用图像处理平台及其实现方法 | |
CN106803750A (zh) | 一种多通道流水fir滤波器 | |
CN105786610B (zh) | 计算密集型任务向云服务器中卸载的方法 | |
CN110222833A (zh) | 一种用于神经网络的数据处理电路 | |
Tsmots et al. | Designing features of hardware and software tools for intelligent processing of intensive data streams | |
CN107679117A (zh) | 一种全场稠密点快速匹配*** | |
CN1996263A (zh) | 一种实时位真仿真开发***及其方法 | |
CN103078729A (zh) | 基于fpga的双精度混沌信号发生器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180119 |