CN104811723B - Memc技术中局部运动矢量修正方法 - Google Patents

Memc技术中局部运动矢量修正方法 Download PDF

Info

Publication number
CN104811723B
CN104811723B CN201510203610.6A CN201510203610A CN104811723B CN 104811723 B CN104811723 B CN 104811723B CN 201510203610 A CN201510203610 A CN 201510203610A CN 104811723 B CN104811723 B CN 104811723B
Authority
CN
China
Prior art keywords
motion vector
block
local
memc
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201510203610.6A
Other languages
English (en)
Other versions
CN104811723A (zh
Inventor
姜建德
余横
袁嘉林
刘广智
马琰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qingdao Xinxin Microelectronics Technology Co Ltd
Original Assignee
HONGYOU IMAGE TECHNOLOGY (SHANGHAI) Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HONGYOU IMAGE TECHNOLOGY (SHANGHAI) Co Ltd filed Critical HONGYOU IMAGE TECHNOLOGY (SHANGHAI) Co Ltd
Priority to CN201510203610.6A priority Critical patent/CN104811723B/zh
Publication of CN104811723A publication Critical patent/CN104811723A/zh
Application granted granted Critical
Publication of CN104811723B publication Critical patent/CN104811723B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明提供一种MEMC技术中局部运动矢量修正方法,包括步骤如下:1)对每个block指定其周围某个固定区域的范围;2)获取该范围内所有block的运动矢量及该运动矢量的准确性;3)从该些运动矢量中选择计算出一个可靠的运动矢量作为替换运动矢量;4)分析判断当前block的运动矢量是否可靠,计算出一个加权平均系数;5)用该加权平均系数将block原本的运动矢量和其替换运动矢量加权出一个新的运动矢量作为当前block的最终运动矢量。本发明算法可以在运动搜索局部不够好时,通过采用周边的比较好的运动矢量来代替不好的运动矢量,利用平滑的运动矢量生成的插值帧,视觉效果较好,易遮掩画面破碎等现象。

Description

MEMC技术中局部运动矢量修正方法
技术领域
本发明涉及图像处理技术,更具体的,涉及一种MEMC技术中局部运动矢量修正方法。
背景技术
运动估计运动补偿(Motion estimation and motion compensation,MEMC)技术是目前普遍采用的一种帧率转换技术,应用于电视装置等视频***中,该技术可以有效消除或改善运动画面的抖动和拖尾问题。运动估计是其关键技术之一,正确的运动估计结果生成的插值帧可以给予良好的视觉体验,错误的运动估计结果反而会影响观看效果,比原始抖动带来更糟的观看效果。运动估计的效果和原始帧的场景内容关联极大,有很多场景在一般的MEMC技术下并不能得到正确的运动搜索结果,譬如复杂运动,小物体运动,淡入淡出场景等。
已有技术实现是,根据运动估计运动补偿的结果,通过各种指标判断该场景下运动估计是否失效,得到的运动矢量并不可靠,继而插值帧不再采用运动补偿的结果,而是选择原始帧或原始帧加权混合(blending)结果。但是有些场景只有局部运动估计效果不好,整帧fallback(退为原始输入帧或原始帧加权结果,而非运动估计运动补偿的插值结果)后虽然避免了错误运动估计可能带来的破碎,但是视觉体验仍不够好。
发明内容
本发明针对上述现有技术中存在的技术问题,提供一种MEMC技术中局部运动矢量修正方法,可以在运动搜索局部不够好时,通过采用周边的比较好的运动矢量来代替不好的运动矢量,虽然即使替换的运动矢量也未必是正确的运动矢量,但是利用平滑的运动矢量生成的插值帧,视觉效果较好,易遮掩画面破碎等现象。
为达到上述目的,本发明所采用的技术方案如下:
一种MEMC技术中局部运动矢量修正方法,包括步骤如下:
1)对每个block指定其周围某个固定区域范围;
2)获取该范围内所有block的运动矢量及该运动矢量的准确性;
3)从该些运动矢量中选择计算出一个准确可靠的运动矢量作为替换运动矢量;
4)分析判断当前block的运动矢量是否准确可靠,计算出一个加权平均系数;
5)用该加权平均系数将block原本的运动矢量和其替换运动矢量加权出一个新的运动矢量作为当前block的最终运动矢量。
所述步骤1),MEMC技术基于块进行运动估计,图像按块进行分割,指定当前计算块周围一个包含了N×M个块的区域,该区域应当也包含了当前块,N,M为整数,根据硬件实现、算法要求进行选择。
所述块相似匹配程度是根据能够表明运动矢量的对应块的相似程度的指标进行判断。
所述指标包括绝对差和准则、均方误差准则,或者根据位置、候选运动矢量类型,给绝对差值之和准则或均方误差准则的计算结果加上一个惩罚系数,得到的判断依据指标。
所述绝对差和准则,即SAD值,SAD值越小,表示运动矢量越准确可靠,SAD值越大,块匹配性越差,该运动矢量的准确性越差,其计算公式如下:
SAD=Σ(|pa(i)-pb(i)|)
Pa(i)和Pb(i)指进行比较的块a和块b中的第i个像素点。
准确可靠的运动矢量是指N×M个块所表示的范围内,块相似匹配程度比较好、可以近似表示该范围运动的矢量。
从N×M个运动矢量中选择块匹配程度最好的一个或若干个运动矢量,最终加权计算出一个运动矢量作为替换运动矢量。
N×M个矢量中,比较由上述误差准则计算得到的值,选出值比较小的X个矢量,准确可靠的运动矢量是指X个矢量加权得到的一个矢量,X可为任意小于N×M的整数,X=1,2,3,...。
所述步骤4)分析判断当前block的运动矢量是否可靠,是参考包含当前块的局部小区域内的收敛状况决定的,这个区域可以是包含以当前块为中心的一个Z×Z块的范围;加权平均系数反应的就是这个小区域的收敛状况。
匹配准则误差满足一定条件的块的数目,或是每行最小匹配误差累加和都可以表示区域的收敛状况,用这些指标映射得到加权平均系数。
所述步骤5)中,加权平均系数可由反应区域收敛状况的指标映射得到(譬如通过一维线性曲线进行映射),所得系数应该是个整数,便于两个运动矢量进行加权求平均,当映射关系确定,系数的范围也被确定;
最终的运动矢量=(Vec×(Range-alpha)+FB_Vec×alpha)/Range
Vec指块原本的运动矢量,FB_Vec指上述计算的可靠的运动矢量,即替换运动矢量,alpha指加权平均系数,Range指系数的有效范围;
alpha=0时,说明块原本的矢量可信较好,无需改变;alpha越大,表明块原本矢量越不可信,用另一个矢量去加权获得一个新的较好的矢量。
本发明采用上述的技术方案,所带来的有益效果如下:
MEMC技术在很多场景下都有局限性,个别块的运动矢量收敛错误会引起局部破碎、抖动等问题,影响观看体验,本发明技术方案,对那些一直效果不好的运动矢量,寻找周边收敛正确的运动矢量去替换它,虽然替换矢量也未必准确,但是平滑的运动矢量得到的插值帧,可以避免明显的插值破碎等现象,提高视觉体验。该技术可归类为一种局部退化策略,当局部效果不好时,不需要整帧画面退化至原始帧,用抖动来避免局部破碎,而是用平滑的矢量场来减小局部破碎的问题。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1是本发明所提供的方法的流程图。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进。这些都属于本发明的保护范围。
如图1所示,本发明所提供的MEMC技术中局部运动矢量修正方法,包括步骤如下:
1)每个block指定其周围某个固定区域范围;
2)获取该范围内所有block的运动矢量及该矢量的准确性,例如运动矢量的SAD,运动矢量的SAD表明块的匹配程度,SAD越大,块匹配性越差,说明该MV并不是足够好的运动矢量;
3)找出该区域中相对可靠的运动矢量,譬如最小SAD对应的运动矢量,或者每一行最小SAD对应的运动矢量;
4)将认为可靠的运动矢量作为替换运动矢量,若是可靠运动矢量有多个,可计算出它们的加权值作为替换运动矢量;
5)分析判断该block的运动矢量是否可靠,得到一个加权平均系数,加权平均系数越大,表明该运动矢量越不可靠,用该加权平均系数将block原本的运动矢量和其替换运动矢量加权出一个新的运动矢量作为当前block的最终运动矢量。
实施例:
1)选择一个固定区域,以当前块为中心,包含5x5个块的范围;
2)获取这25个块的运动矢量及其SAD,本例中用SAD来衡量运动矢量的准确性;
3)对这25个运动矢量进行筛选,选择可靠的运动矢量;可以设置一个门限值,SAD值小的运动矢量可认为是可靠的运动矢量;选择方式不限于本实施例中所列举的方法;
4)将步骤3)中获得的运动矢量可以按照可靠性进行加权,得到最终的替换矢量;
5)判断当前块的运动矢量是否可靠,该判断参考包含当前块的局部小区域内的收敛状况决定的;
6)假设该局部小区域为7x7,统计这49个块的收敛情况,譬如统计SAD都小于一个门限的块的数目,由该数反映7x7区域的收敛状况;该收敛状况的判定不限于此处所列举的例子;
7)由6)中7x7区域的收敛状况映射出一个加权平均系数,即fallback level;
8)用7)中的加权平均系数fallback level,把块的原始矢量和4)中得到的替换矢量进行加权,即得到块最终的运动矢量。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变形或修改,这并不影响本发明的实质内容。

Claims (9)

1.一种MEMC技术中局部运动矢量修正方法,其特征在于,包括步骤如下:
1)对每个block指定其周围某个固定区域范围;
2)获取该范围内所有block的运动矢量及该运动矢量的准确性,即,运动矢量的块相似匹配程度;
3)找出该区域中最小SAD对应的运动矢量,或者每一行最小SAD对应的运动矢量;将认为可靠的运动矢量作为替换运动矢量,若是可靠运动矢量有多个,计算出它们的加权值作为替换运动矢量;
4)判断当前块的运动矢量是否可靠,该判断参考包含当前块的局部小区域内的收敛状况决定的,由局部小区域内的收敛状况映射出一个加权平均系数;
5)用该加权平均系数将block原本的运动矢量和其替换运动矢量加权出一个新的运动矢量作为当前block的最终运动矢量。
2.根据权利要求1所述的MEMC技术中局部运动矢量修正方法,其特征在于,所述步骤1)中固定区域范围为当前block周围一个包含了N×M个块的区域范围,该区域范围包含了当前块,N和M为整数。
3.根据权利要求2所述的MEMC技术中局部运动矢量修正方法,其特征在于,所述步骤2)中,运动矢量的准确性是指:N×M个块所表示的范围内,块的相似匹配程度较好、能够近似表示该范围内运动的矢量。
4.根据权利要求3所述的MEMC技术中局部运动矢量修正方法,其特征在于,所述块相似匹配程度是根据能够表明运动矢量的对应块的相似程度的指标进行判断。
5.根据权利要求4所述的MEMC技术中局部运动矢量修正方法,其特征在于,所述指标包括绝对差和准则或均方误差准则。
6.根据权利要求5所述的MEMC技术中局部运动矢量修正方法,其特征在于,所述绝对差和准则,即SAD值,SAD值越小,表示运动矢量越准确可靠,SAD值越大,块匹配性越差,该运动矢量的准确性越差,其计算公式如下:
Pa(i)和Pb(i)指进行比较的块a和块b中的第i个像素点。
7.根据权利要求3所述的MEMC技术中局部运动矢量修正方法,其特征在于,所述步骤3)中,从N×M个运动矢量中选择块匹配程度最好的一个或若干个运动矢量,最终加权出一个运动矢量作为替换运动矢量。
8.根据权利要求3所述的MEMC技术中局部运动矢量修正方法,其特征在于,所述步骤4)中,分析判断当前block的运动矢量是否准确可靠,是参考包含当前块的局部小区域内的收敛状况决定的,加权平均系数是反应该局部小区域的收敛状况,由该局部小区域的收敛状况的指标映射得到,所述收敛状况的指标是匹配误差满足一定条件的块的数目,或是每行最小匹配误差累加和来表示。
9.根据权利要求8所述的MEMC技术中局部运动矢量修正方法,其特征在于,所述步骤5)中,最终的运动矢量=(Vec×(Range-alpha)+FB_Vec×alpha)/Range,
Vec指block原本的运动矢量,FB_Vec指替换运动矢量,alpha指加权平均系数,Range指系数的有效范围。
CN201510203610.6A 2015-04-24 2015-04-24 Memc技术中局部运动矢量修正方法 Active CN104811723B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510203610.6A CN104811723B (zh) 2015-04-24 2015-04-24 Memc技术中局部运动矢量修正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510203610.6A CN104811723B (zh) 2015-04-24 2015-04-24 Memc技术中局部运动矢量修正方法

Publications (2)

Publication Number Publication Date
CN104811723A CN104811723A (zh) 2015-07-29
CN104811723B true CN104811723B (zh) 2018-03-16

Family

ID=53696152

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510203610.6A Active CN104811723B (zh) 2015-04-24 2015-04-24 Memc技术中局部运动矢量修正方法

Country Status (1)

Country Link
CN (1) CN104811723B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106851047B (zh) * 2016-12-30 2020-02-07 中国科学院自动化研究所 一种视频图像中静止像素点检测方法及***
CN107124572A (zh) * 2017-03-08 2017-09-01 宏祐图像科技(上海)有限公司 运动估计运动补偿中局部效果修正的方法及***
CN113508595B (zh) * 2019-03-08 2023-11-28 华为技术有限公司 运动矢量细化的搜索区域

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1328405A (zh) * 2000-06-13 2001-12-26 三星电子株式会社 采用双向运动矢量的格式转换器及其方法
CN101416523A (zh) * 2006-04-03 2009-04-22 英特尔公司 具有抗补偿伪影保护的运动补偿帧速率转换
CN101883278A (zh) * 2009-05-08 2010-11-10 联发科技股份有限公司 运动向量校正装置及其方法
CN102123283A (zh) * 2011-03-11 2011-07-13 杭州海康威视软件有限公司 视频帧率转换中的插值帧获取方法及其装置
CN102131058A (zh) * 2011-04-12 2011-07-20 上海理滋芯片设计有限公司 高清数字视频帧速率变换处理模块及其方法
CN102868879A (zh) * 2011-07-05 2013-01-09 北京大学 一种视频帧速率上转换方法及***

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8204104B2 (en) * 2006-03-09 2012-06-19 Sony Corporation Frame rate conversion system, method of converting frame rate, transmitter, and receiver

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1328405A (zh) * 2000-06-13 2001-12-26 三星电子株式会社 采用双向运动矢量的格式转换器及其方法
CN101416523A (zh) * 2006-04-03 2009-04-22 英特尔公司 具有抗补偿伪影保护的运动补偿帧速率转换
CN101883278A (zh) * 2009-05-08 2010-11-10 联发科技股份有限公司 运动向量校正装置及其方法
CN102123283A (zh) * 2011-03-11 2011-07-13 杭州海康威视软件有限公司 视频帧率转换中的插值帧获取方法及其装置
CN102131058A (zh) * 2011-04-12 2011-07-20 上海理滋芯片设计有限公司 高清数字视频帧速率变换处理模块及其方法
CN102868879A (zh) * 2011-07-05 2013-01-09 北京大学 一种视频帧速率上转换方法及***

Also Published As

Publication number Publication date
CN104811723A (zh) 2015-07-29

Similar Documents

Publication Publication Date Title
US8446524B2 (en) Apparatus and method for frame rate conversion
Kang et al. Motion compensated frame rate up-conversion using extended bilateral motion estimation
Yoo et al. Direction-select motion estimation for motion-compensated frame rate up-conversion
US20150356718A1 (en) Alignment of an ordered stack of images from a specimen
US8644387B2 (en) Motion estimation method
EP1978737A2 (en) Frame interpolation apparatus and method
US20090278991A1 (en) Method for interpolating a previous and subsequent image of an input image sequence
US8773595B2 (en) Image processing
KR100676704B1 (ko) 움직임 추정장치 및 그 추정방법
US20030206246A1 (en) Motion estimator for reduced halos in MC up-conversion
JP2005287048A (ja) 画像境界における動きベクトル検出の改良
US20100157162A1 (en) Image processing apparatus, image processing method and computer readable medium
US20100329343A1 (en) Motion vector calibration circuit, image generating apparatus and method thereof
CN104811723B (zh) Memc技术中局部运动矢量修正方法
KR101050135B1 (ko) 광류 정보를 이용한 중간 영상 생성 방법
US9357161B1 (en) Motion vector interpolation for motion compensation
US9106926B1 (en) Using double confirmation of motion vectors to determine occluded regions in images
US9894367B2 (en) Multimedia device and motion estimation method thereof
JP5197374B2 (ja) 動き推定
US9094561B1 (en) Frame interpolation and motion vector reconstruction
US20090153742A1 (en) Global motion estimation
EP2237559B1 (en) Background motion estimate based halo reduction
CN109788297B (zh) 一种基于元胞自动机的视频帧率上转换方法
Park et al. Adaptive weighting scheme for edge-based line interpolation
Qian et al. Global motion estimation under translation-zoom ambiguity

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20200115

Address after: 266101 No. 399, Laoshan District Pine Ridge Road, Qingdao of Shandong province

Patentee after: Qingdao Xinxin Microelectronics Technology Co., Ltd.

Address before: 201203 Shanghai City Chenhui Road, Zhangjiang High Tech Park of Pudong New Area No. 88 Building 1, 312, 316, 318.

Patentee before: Hongyou Image Technology (Shanghai) Co., Ltd.

TR01 Transfer of patent right