CN1178472C - 图像信号制式变换装置 - Google Patents
图像信号制式变换装置 Download PDFInfo
- Publication number
- CN1178472C CN1178472C CNB981096514A CN98109651A CN1178472C CN 1178472 C CN1178472 C CN 1178472C CN B981096514 A CNB981096514 A CN B981096514A CN 98109651 A CN98109651 A CN 98109651A CN 1178472 C CN1178472 C CN 1178472C
- Authority
- CN
- China
- Prior art keywords
- signal
- motion vector
- unit
- motion
- image block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/587—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal sub-sampling or interpolation, e.g. decimation or subsequent interpolation of pictures in a video sequence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0117—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
- H04N7/012—Conversion between an interlaced and a progressive signal
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Graphics (AREA)
- Television Systems (AREA)
Abstract
本发明为一种图像信号的制式变换方法,通过IP变换单元把隔行扫描的图像信号变换为逐行扫描的图像信号,通过图像块单位运动矢量搜索单元根据逐行扫描的图像信号搜索图像块单位运动矢量,通过像素单位运动矢量生成单元使用图像块单位运动矢量把以小图像块单位求出的运动补偿误差最少的运动矢量分配为小图像块内的像素单位运动矢量,通过运动补偿内插帧生成单元使用像素单位运动矢量生成图像信号的内插帧输出帧频更高的逐行扫描的图像信号序列。
Description
技术领域
本发明涉及一种图像信号制式变换装置以及电视接收机,特别地涉及通过运动补偿的信号处理生成内插帧并且适合于变换图像信号的帧数的的图像信号制式变换装置以及电视接收机。
背景技术
作为不同电视***间的信号变换的制式变换广泛地使用在广播领域的节目交换等中。制式变换中一般由于需要进行扫描线数和场频的变换处理,因此将产生分辨率的恶化以及在运动图像中损坏光滑性的动作不稳定等的图像质量恶化。
为防止这些恶化,提出了扫描线数变换中的运动适应型扫描线数·时序扫描变换方法、帧数变换中的运动补偿型帧数变换方法等的信号处理技术。
其中,运动补偿型帧数变换方法是用运动矢量使前后帧的图像位置移动生成内插帧的信号的方法,在去除运动图像的动作不稳定方面极为有效。因此,在广播级的制式变换装置中几乎都采用这种方法。
另外,关于用于电视图像的运动预测方法,例如有在1995年7月4日公开的日本专利公报7-170496号(基于1993年9月8日申请的法国专利申请第93402188.2号以及1993年11月2日申请的德国专利申请第93117661.4号的日本申请的公开公报)中揭示的方法。该方法是使用1个所关注的图像块的运动矢量以及3个相邻的图像块的运动矢量,计算1个像素的运动矢量的方法。由此,该公报提供了兼顾图像块的可靠性高的优点并决定局部位置的运动矢量的性能的装置。
然而,在广播级制式变换装置中使用的运动补偿的帧数变换的信号处理在运动矢量搜索的信号处理中需要巨大的运算量,如果将其直接用于电视接收机中,则从电路规模以及成本方面出发将难于实现。另外,上述用于电视图像的运动预测方法中,在像素单位的运动矢量的精度方面存在问题,不能够得到正确的运动矢量,有可能产生图像质量的恶化。
发明内容
本发明的目的在于提供高图像质量而且电路规模小的图像信号的制式变换装置。
为了实现本发明的上述目的,提供了一种图像信号的制式变换装置,其特征在于包括:根据图像信号搜索图像块单位运动矢量的搜索装置;把使用上述搜索了的当前图像块和相邻图像块的运动矢量以比所述当前图像块小的小图像块单位求出的、与预定的运动补偿误差有关的运动矢量分配到小图像块内的像素单位运动矢量的分配装置,以及通过使用上述像素单位运动矢量生成图像信号的内插帧的方式变换图像信号的帧数的变换装置;其中,上述搜索单元对于检测出运动的图像块,在预先设定的多个代表运动矢量内计算出运动补偿误差最少的运动矢量,以上述计算出的补偿误差最少的运动矢量为基准、从预定范围内的运动矢量检测出运动补偿误差最少的运动矢量作为图像块单位运动矢量。
在本发明的上述图像信号的制变换装置中,上述搜索单元对于检测出运动的图像块,在上述图像块的前一个图像块的运动矢量和预先设定的多个代表运动矢量内计算出运动补偿误差最少的运动矢量,以上述计算出的补偿误差最少的运动矢量为基准、从预定范围内的运动矢量检测出运动补偿误差最少的运动矢量作为图像块单位运动矢量。
依据本发明,能够抑制在运动补偿处理中固有活动图像的边缘部分产生闪烁或者看起来动作不自然的图像质量的恶化。另外,还能够抑制产生场景变换时的巨大的运算量。
在本发明的上述图像信号的制式变换装置中,还具有用检测出一帧期间的运动的像素数来检测场景变换的场景变换检测单元;在检测出场景变换的帧中停止搜索图像块单位的运动矢量、生成像素单位的运动矢量以及运动补偿的帧内插处理的动作,使用当前帧的信号和前一帧的信号生成内插帧。
此外,在本发明的上述图像信号的制式变换装置中,还具有根据上述像素单位运动矢量检测像素单位运动矢量超过阈值的运动、或所述像素单位运动矢量在整个画面区域或一部分区域上的大小和方向基本相同的运动的装置,以及所述变换装置使用由上述检测装置输出的检测信号生成上述图像信号的内插帧。
由此,能够以极低的成本实现例如PAL-NTSC电视信号的制式变换,PAL50Hz-60Hz变换,帧频24Hz的胶片图像—帧频60Hz的逐行扫描变换,电视信号—微机(个人计算机)图像信号变换的各种帧率变换装置。另外,通过使用这样的制式变换装置,能够得到对应于多信号源的高图像质量而且低成本的电视接收机。
通过使用上述的内插处理进行帧数变换的装置可以进行:
(1)以上述运动检测单元的信号为依据,仅对于检测出了运动的像素进行运动补偿处理。即使求出了运动矢量的图像块,在进行帧数变换的运动补偿的每个像素的处理中,对于运动检测单元的没有运动的信号的像素把运动矢量处理为0。
(2)检测损坏了运动的光滑性的易于引人注意的动作不稳定的速度、图像的上下、水平摇动以及文字上卷等特殊运动等的特定运动矢量,仅对于特定运动的信号以像素单位进行补偿帧内插处理。
如上所述,根据本发明,由于仅对于被检测出包含运动的像素的图像块进行运算量多的图像块匹配处理,所以能够把所需要的存储器、运算电路等的装置小规模化。另外,由于减少了图像块匹配处理,因此能够设置从与当前图像块的运动相关性高的相邻图像块的运动矢量生成修正运动矢量的矢量修正单元,能够以简单的信号处理实现高精度的运动矢量的检测。进而,在进行补偿帧内插的处理时,利用运动检测单元的有无运动的信号,能够以像素单位在每个具有运动的像素中进行处理,所以在维持图像质量精度的同时能够大幅度地削减信号处理中所需要的运算处理量,从而大幅度地减小构成电路的规模。
附图说明
图1是表示本发明第1实施例的制式变换装置结构框图。
图2表示运动检测单元的一结构例。
图3表示图像块单位运动矢量搜索单元的一结构例。
图4表示像素单位运动矢量生成单元的第1结构例。
图5表示像素单位运动矢量生成单元的第2结构例。
图6表示像素单位运动矢量生成单元的第3结构例。
图7表示像素单位运动矢量生成单元的第4结构例。
图8表示运动补偿内插帧生成单元的第1结构例。
图9a~图9c分别表示帧序控制单元和运动补偿信号生成单元的动作概略。
图10表示运动补偿内插帧生成单元的第2结构例。
图11是表示本发明第2实施例的制式变换装置的结构框图。
图12表示场景变换检测单元的一结构例。
图13是表示本发明第3实施例的制式变换装置的结构框图。
图14是表示本发明第4实施例的制式变换装置的结构框图。
图15是表示本发明第5实施例的制式变换装置的结构框图。
图16是表示本发明第6实施例的制式变换装置的结构框图。
图17表示图像块单位运动矢量搜索处理的流程。
图18a~18b分别表示图像块单位运动矢量搜索动作的概略。
图19表示像素单位运动矢量的第1生成方法的概略。
图20表示像素单位运动矢量生成动作的概略。
图21a~21b分别表示像素单位运动矢量的第2生成方法的概略。
图22表示像素单位运动矢量的第3生成方法的概略。
图23a~23b分别表示像素单位运动矢量的第4生成方法的概略。
图24是表示本发明一实施例的电视接收机的总体结构框图。
图25是表示本发明另一实施例的电视接收机的总体结构框图。
图26是表示本发明再一实施例的电视接收机的总体结构框图。
图27是表示电视接收机的第4实施例的总体框图。
图28是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
图29是图28的垂直6-5变换单元2中的信号处理概略图。
图30是图28的运动检测单元4的一结构例的框图。
图31是图28的运动矢量检测单元5的第1结构例的框图。
图32是图28的运动矢量检测单元5的第2结构例的框图。
图33a~33b是图32的相邻运动信息检测单元13的动作概略的说明图。
图34是示出图28的运动矢量检测单元5的第3结构例的框图。
图35是图34的像素运动矢量运算单元12′的第1结构例的框图。
图36是用于说明像素运动矢量运算单元的动作的部分图像图。
图37是图34的像素运动矢量运算单元12′的第2结构例的框图。
图38是图28的运动补偿处理单元6的第1结构例的框图。
图39是图28的运动补偿处理单元6的第2结构例的框图。
图40a~图40b是运动补偿处理的帧内插动作概略的说明图。
图41是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
图42是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
图43是图42的简易型运动矢量检测单元24的第1结构例的结构框图。
图44是图42的简易型运动矢量检测单元24的第2结构例的结构框图。
图45是图42的简易型运动矢量检测单元24的第3结构例的结构框图。
图46是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
图47是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
图48是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
图49是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
图50是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
图51a~51b是表示本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。
具体实施方式
下面用图1~图10的附图说明本发明的第1实施例。本实施例是把隔行扫描的输入图像信号变换为具有更高帧频的逐行扫描的图像信号序列S4的图像信号的制式变换装置。
图1是本实施例的结构框图。该图中,IP变换单元1输入隔行扫描的输入图像信号S1(亮度信号成分和色差信号成分),进行隔行—逐行的扫描变换,输出逐行扫描的信号序列S2(亮度信号成分和色差信号成分)。隔行—逐行扫描变换例如亮度信号成分通过运动适应型的内插处理进行,色差信号通过用行间的内插处理生成内插扫描线的信号进行。另外,在输入图像信号是电视电影图像信号(用2-3下拉处理把电影等的胶片图像变换为电视信号格式的信号)时,通过进行胶片模式的内插处理(用属于同一胶片的隔行扫描的信号生成内插扫描线的信号),生成胶片图像形态的逐行扫描的信号序列。
运动补偿帧数变换单元2是通过用运动补偿处理生成内插帧的信号序列,把由IP变换单元1得到逐行扫描的信号序列S2变换为帧频更高频率的逐行扫描的图像信号序列S4(亮度信号成分和色差信号成分)后进行输出的部分,具备1帧延迟单元3,运动检测单元4,图像块单位运动矢量搜索单元5,像素单位运动矢量生成单元6以及运动补偿内插帧生成单元7。
这里,1帧延迟单元3是把输入的信号序列延迟1帧后进行输出的部分。
运动检测单元4从当前帧的信号序列S2的亮度信号成分减去从1帧延迟单元3得到的前一个帧的信号序列S3的亮度信号成分以后抽取1帧间的差分信号,把该值进行2进制量化,输出运动检测信号MI1,MI2。其结构在后面叙述。
图像块单位运动矢量搜索单元5如下面那样搜索图像块单位(例如16像素×16行或者8像素×8行)的运动矢量BV。首先,运动检测信号MI1全部为0的图像块判定为静止图像块,向图像块单位运动矢量BV输出0。另一方面,在MI1中包含1的图像块判定为活动图像块,对于信号S2和S3的亮度信号成分用图像块匹配处理进行误差最小的图像块对的搜索,检测出图像块单位运动矢量BV。该结构在后面叙述,下面说明其动作。
在图像块单位运动矢量搜索中,按照图17所示的信号处理流程,搜索图像块单位运动矢量BV。
(1)在第1步骤中,区分在帧差分信号中没有检测出运动的图像块(静止图像块)和检测出了运动的图像块(活动图像块)。
(2)在第2步骤中,静止图像块不进行运动矢量的搜索,给运动矢量BV分配0。另外活动图像块首先如图18a所示那样,对于预先设定的多个代表运动矢量(图中的BVa,BVb,BVc,BVd,…,BVn)运算运动补偿误差。即,把当前帧图像块内的像素的信号fct(x,y)和使前一个帧的像素移动了代表运动矢量的x成分BVx,y成分BVy位置的信号fpr(x+BVx,y+BVy)的差分成分的绝对值进行累加运算,求出该值为最少的代表运动矢量BV1。
(3)在第3步骤中,如图18b所示那样,以代表运动矢量BV1为起点,对于水平±DX,垂直±DY区域的运动矢量,进行基于图像块匹配处理的搜索,把运动补偿误差为最少的运动矢量检测为图像块单位的运动矢量BV。图像块单位运动矢量搜索单元5进行以上那样的动作。
像素单位运动矢量生成单元6如以下那样生成像素单元运动矢量PV。首先,运动检测信号MI2为0的像素在PV中分配0。另一方面,在MI2为1的像素中,使用当前图像块以及与其相邻的上下左右图像块的运动矢量,以小图像块单位(例如2像素×2行)计算出运动补偿误差为最少的运动矢量,并将其分配到小图像块内的像素的运动矢量。该结构也在后面进行叙述,下面说明其动作。
在像素单位运动矢量生成中,使用图19~图23所示的4种信号处理流程中的任一种方法,生成像素单位运动矢量PV。
首先,用图19和图20说明该第1信号处理。
(1)在第1步骤中,用图像块单位的运动矢量BV计算出当前图像块的运动补偿误差,与阈值TH进行大小比较。
(2)在第2步骤中,当运动补偿误差小于阈值TH时,运动矢量BV被判定为正确,把该运动矢量BV分配到图像块内所有的像素。另一方面,当运动补偿误差大于阈值TH时,如图20所示,使用当前图像块以及与其相邻的参考图像块的运动矢量,在每个小图像块(例如水平MX像素×垂直MY行),在包含小图像块的水平MX+2,垂直MY+2的计算区域,求出运动补偿误差为最少的运动矢量。即,把小图像块内的像素的信号fct(x,y)与当前图像块的像素移动了运动矢量的x成分BVx,y成分BVy位置的信号fpr(x+BVx,y+BVy)的差分成分的绝对值进行累加运算,把其最少的运动矢量求出为PV。而且,在小图像块内的像素上分配该运动矢量PV。
(3)在第3步骤中,对于运动检测信号MI2为0的像素,分配运动矢量0。
另外,以下所述的第2至第4的信号处理中,大于阈值TH时的第2步骤中的处理分别不同于第1信号处理。
在图21a、21b所示的第2信号处理中,在运动补偿误差大于阈值TH时,在以当前图像块的运动矢量BV作为参考矢量的图像块匹配处理中,再次搜索每个子图像块SB1(图像块尺寸水平、垂直都为1/2)的运动矢量PV1。其次,把该PV1作为参考矢量,再次搜索每个子图像块SB2(水平,垂直都为SB1的1/2尺寸)的运动矢量PV2。随后,进行该运动矢量的再次搜索处理直到小图像块的尺寸为止,生成小图像块的运动矢量PV。而且,把该运动矢量PV分配到小图像块内的像素上。
另一方面,在图22所示的第3信号处理中,当运动补偿误差大于阈值TH时,在把当前图像块的运动矢量BV作为参考矢量的图像块匹配处理中,再次搜索每个子图像块SB1(图像块尺寸水平、垂直都为1/2)的运动矢量PV1。其次,使用由再次搜索得到的PV1和图20所示的与当前图像块相邻的参考图像块的运动矢量,在每个小图像块(例如水平MX像素×垂直MY行),在包含小图像块的水平MX+2,垂直MY+2的计算区域内,求出运动补偿误差为最少的运动矢量PV。而且,在小图像块内的像素中分配该运动矢量PV。
在图23a,23b所示的第4信号处理中,对于子图像块SB1(图像块尺寸在水平、垂直方向都为1/2),子图像块SB2(水平、垂直都为SB1的1/2尺寸),直到小图像块的尺寸的子图像块SBn,进行以BV为参考矢量的图像块匹配处理,再次搜索子图像块的运动矢量PV1,PV2,…,PVn。接着,在每个小图像块中,在PV1,PV2,…,PVn内计算出运动补偿误差为最少的矢量,并将其分配到小图像块内的像素的运动矢量上。像素单位运动矢量生成单元6如以上那样进行动作。
运动补偿内插帧生成单元7使用像素单位运动矢量PV制作补偿内插运动矢量,用使当前帧的信号S2和前一帧的信号S3的相素的位置以该补偿内插运动矢量移动了的信号,生成内插帧的信号。而且,在输出端得到通过运动补偿型帧数变换处理提高了帧频的逐行扫描的图像信号S4。另外,该具体的结构也在后面叙述。
以下,说明本实施例中的主要部分。
图2示出运动检测单元4的一结构例。减法单元8对于当前帧的信号S2和前一帧的信号S3的亮度信号成分进行减法运算,抽取出1帧间的差分信号成分FD。2进制量化单元9-1在差分信号成分FD的信号电平小于设定值±Tha时判定为静止区域输出0的运动检测信号MI1,在大于±Tha时判定为活动图像区域输出1的运动检测信号MI1。2进制量化单元9-2在差分信号成分FD的信号电平是0时判定为静止输出0的运动检测信号MI2,此外判定为活动图像,输出1的运动检测信号MI2。
图3示出图像块单位运动矢量检测单元5的一结构例。静/动图像块判定单元10以图像块单位(例如16像素×16行或者8像素×8行),检测运动检测信号MI1有无1。而且,在信号MI1全部为0时判定为静止图像块,在信号BM上输出0,在除此以外情况下判定为活动图像块,在BM上输出1。
控制单元11根据信号BM,控制图像块匹配第1处理单元12和图像块匹配第2处理单元13的动作。即,在信号BM为0的静止图像块中,不进行运动矢量搜索的动作,在图像块单位运动矢量BV上输出0。而且,仅在信号BV是1的活动图像块的情况下进行如下所述的运动矢量搜索的动作。
图像块匹配第1处理单元12进行图17所示的第2步骤的运动矢量的搜索。即,使用当前帧的信号S2和前一帧的信号S3的亮度信号成分,对于预先设定的多个代表运动矢量(图18所示的BVa,BVb,…,BVn)以图像块匹配处理计算出运动补偿误差,把其值最少的矢量输出到代表运动矢量BV1中。另外,在多个代表运动矢量中,还可以同时使用已经结束了搜索的前一个图像块的运动矢量。
图像块匹配第2处理单元13进行图17所示的第3步骤的运动矢量的搜索。即,使用当前帧的信号S2和前一帧的信号S3的亮度信号成分,以代表运动矢量BV1作为起点,对于把x成分在±DX的范围,把y成分在±DY的范围内确定的运动矢量通过图像块匹配处理计算出运动补偿误差,把该值最少的矢量输出到图像块单位运动矢量BV。
其结果,图像块单位运动矢量的搜索能够限定于活动图像块,而且,由于能够进行基于代表运动矢量的部分搜索,所以能够大幅度地降低搜索所需要的信号处理的运算量。
图4示出像素单位运动矢量生成单元6的第1结构例。这是适合于进行遵从上述图19、图20的信号处理的结构。
补偿误差运算单元14进行图19所示的第1步骤的处理。即,对于当前帧的信号S2和前一帧的信号S3的亮度信号成分,计算出基于图像块单位运动矢量BV的运动补偿误差。而且,当该误差值小于阈值TH时在信号PM上输出0,大于阈值TH时在信号PM上输出1。
控制单元15根据信号PM和运动检测信号MI2,生成图19所示的第2、第3步骤的信号处理中所必需的控制信号PC1、PC2。
补偿误差运算单元17-1,…,17-N进行图19的第2步骤的大于阈值时的信号处理。即,在控制信号PC1表示大于阈值时,用在参考运动矢量生成单元16中所生成的当前图像块的运动矢量V0和对应于图20所示的相邻图像块的运动矢量V1,…,VN,在每个小图像块(例如水平MX=2,垂直MY=2的2像素×2行),计算出包含这些值的水平4(MX+2)像素,垂直4(MY+2)行的计算区域中的运动补偿误差ER0,ER1,…,ERN。另外,该运动补偿误差的计算对于当前帧的信号S2和前一帧的信号S3的亮度信号成分,或者亮度信号成分和色差信号成分的某一个,能够实现由(公式1)所表示的运算。
ER0=∑abs{S2(x,y)-S3(V0)}=∑abs{S2(x,y)-S3(x+V0x,y+V0y)}
ER1=∑abs{S2(x,y)-S3(V1)}=∑abs{S2(x,y)-S3(x+V1x,y+V1y)}
ER2=∑abs{S2(x,y)-S3(V2)}=∑abs{S2(x,y)-S3(x+V2x,y+V2y)}
…………
ERN=∑abs{S2(x,y)-S3(VN)}=∑abs{S2(x,y)-S3(x+VNx,y+VNy)}
(1)
在(公式1)中,S2(x,y)是计算区域内的当前帧的像素的信号,S3(VN)是用运动矢量VN使其移动位置的前一帧的像素的信号,abs{ }是绝对值,∑是计算区域内的像素的总和,VNx是运动矢量VN的x成分,VNy是y成分。
像素运动矢量设定单元18进行图19的第2步骤的小于阈值或者第3步骤的信号处理。即,在控制信号PC2表示小于阈值时,把当前图像块的运动矢量V0输出到像素单位运动矢量PV。另一方面,在表示大于阈值时,把在运动补偿误差ER0,ER1,…,ERN内取最少值的运动矢量作为各小图像块内的像素的运动矢量PV进行输出。
另外,当运动检测信号MI2表示0的像素时,控制信号PC2强制地把0输出到像素单位运动矢量PV。
图5示出像素单位运动矢量生成单元的第2结构例。而且,用图21a,21b所示的信号处理生成像素单位的运动矢量。补偿误差运算单元14与图4所示的相同,进行图21a所示的第1步骤的处理,在图像块单位的运动补偿误差的值小于阈值TH时,在信号PM上输出0,在大于阈值TH时输出1。
控制单元15根据信号PM和运动检测信号MI2,生成图21a所示的第2、第3步骤的信号处理所必需的控制信号PC3、PC2。
再搜索第1处理单元19、再搜索第2处理单元20及再搜索第3处理单元21进行图21a的第2步骤的信号处理。即,在控制信号PC3表示大于阈值时,进行运动矢量的再搜索处理。首先,再搜索第1处理单元19中,如图21b所示,对每个图像块尺寸水平、垂直都缩小为1/2尺寸的子图像块SB1,以运动矢量BV作为参考矢量进行图像块匹配处理,输出再搜索了的SB1单位的运动矢量PV1。其次,在再搜索第2处理单元20中,对每个把子图像块SB1水平、垂直都缩小为1/2的子图像块SB2,以运动矢量PV1作为参考矢量进行图像块匹配处理,输出再搜索了的SB2单位的运动矢量PV2。再搜索第3处理单元21,对每个把子图像块SB2水平、垂直都缩小为1/n的小图像块尺寸的子图像块SBN,以运动矢量PV2作为参考矢量进行图像块匹配处理,输出再搜索了的SBN单位的运动矢量,即,小图像块单位的运动矢量PV3。另一方面,在控制信号PC3表示小于阈值时,再搜索第1处理单元19、再搜索第2处理单元20和再搜索第3处理单元21,停止再搜索处理的动作,在运动矢量PV3中输出当前图像块的运动矢量BV。
像素运动矢量设定单元22进行图21a的第3步骤的信号处理。即,当运动检测信号MI2表示0的像素时,控制信号PC2强制地把0输出到像素单位运动矢量PV。另一方面,当运动检测信号MI2表示1的像素时控制信号PC2把PV3输出到像素单位运动矢量PV1。
图6示出像素运动矢量生成单元的第3结构例。这是适合于进行遵从上述图22的信号处理的结构,通过在图4的结构中追加再搜索处理单元23实现。
再搜索处理单元23在控制信号PC4表示大于阈值时,对每个把图像块尺寸水平、垂直都缩小为1/2的子图像块SB1,进行以当前图像块的运动矢量BV作为参考矢量的图像块匹配处理,输出再搜索了的SB1单位的运动矢量PV1。另一方面,在PC4表示小于阈值时,中止再搜索动作,输出当前图像块的运动矢量BV。而且,生成图22的第2步骤的大于阈值的信号处理中作为参考矢量而使用的子图像块SB1单位的运动矢量PV1。
以后的动作由于与图4所示的相同,所以省略说明。
图7示出像素单位运动矢量生成单元的第4结构例,生成在图23a、23b中所示的信号处理中的像素单位的运动矢量。
补偿误差运算单元14与图4所示的相同,进行图23a所示的第1步骤的处理,在图像块单位的运动补偿误差的值小于阈值TH时在信号PM中输出0,大于阈值TH时输出1。
控制单元15根据信号PM和运动检测信号MI2,生成图23a所示的第2、第3步骤的信号处理所必需的控制信号PC5、PC2。
再搜索第1处理单元24、再搜索第2处理单元25及再搜索第3处理单元26进行图23a的第2步骤的信号处理。即,在控制信号PC5表示大于阈值时,进行运动矢量的再搜索处理。首先,再搜索第1处理单元24如图23b所示,对每个把图像块尺寸水平、垂直都缩小为1/2尺寸的子图像块SB1,以运动矢量BV作为参考矢量进行图像块匹配处理,输出再搜索到的SB1单位的运动矢量PV1。其次,在再搜索第2处理单元25中,对每个把图像块尺寸水平,垂直都缩小为1/4的子图像块SB2,以运动矢量BV作为参考矢量进行图像块匹配处理,输出再搜索了的SB2单位的运动矢量PV2。再搜索第3处理单元26,对每个把图像块尺寸水平,垂直都缩小为1/n的小图像块尺寸的子图像块SBN,以运动矢量BV作为参考矢量进行图像块匹配处理,输出再搜索了的SBN单位的运动矢量(即小图像块单位的运动矢量PV3)。另一方面,在控制信号PC5表示小于阈值时,再搜索第1处理单元24、再搜索第2处理单元25及再搜索第3处理单元26停止再搜索处理的动作,在运动矢量PV1,PV2,PV3中输出当前图像块的运动矢量BV。
像素运动矢量设定单元27进行图23a的第2步骤的小于阈值以及第3步骤的信号处理。即,在控制信号PC2表示小于阈值的情况下,把当前图像块的运动矢量PV1输出到像素单位运动矢量PV中。另一方面,在表示大于阈值时,把PV1、PV2、PV3内运动补偿误差取最少值的运动矢量作为各小图像块内的像素的运动矢量进行输出。
另外,在运动检测信号MI2表示0的像素时,控制信号PC2强制地把0输出到像素单位运动矢量PV中。
图8示出运动补偿内插帧生成单元7的第1结构例,图9a~图9c用于说明其动作。
帧序控制单元28从上述单位运动矢量PV生成运动补偿处理所必需的补偿内插运动矢量Vct和Vpr。图9a,9b以把帧频50Hz的信号进行帧数变换为帧频60Hz的信号的情况为例示出了该动作的情况。帧频50Hz的逐行扫描的信号对于帧序1至5的信号,如同图所示那样根据运动矢量PV通过补偿型的信号处理生戌内插帧,变换为帧序1到6的帧频为60Hz的逐行扫描的信号。这时,补偿内插运动矢量需要与内插帧位置一致。于是,如该图所示那样,使在运动矢量信号PV上进行系数加权的系数值ka,kb变化,在(式2)所示的运算中生成补偿内插运动矢量Vpr,Vct。
Vpr=PV*ka/(ka+kb)
Vct=-PV*kb/(ka+kb) (2)
即,帧序为2的内插帧,如Vpr=PV*5/6,Vct=-PV*1/6(ka=5,kb=1)所式,为3的内插帧如Vpr=PV*4/6,Vct=-PV*2/6(ka=4,kb=2)…所示,使系数值ka,kb变化,生成在时间方向上没有错位的补偿内差运动矢量。其结果,实现时间方向上没有晃动的帧数变换。
在运动补偿信号生成单元29中,用当前帧的信号S2和补偿内插运动矢量Vct生成运动补偿信号Sct。另外,运动补偿信号生成单元30用前一帧的信号S3和补偿内插运动矢量Vpr生成运动补偿信号Spr。图9c示出该动作的大致情况。内插帧的点A(x,y)的信号对应于在前一帧的信号S3中使点A(x,y)以补偿内插运动矢量Vpr(水平方向成分Vprx,垂直方向成分Vpry)移动了的点A′(x1,y1)=(x+Vprx,y+Vpry)的位置的信号,在当前帧的信号S2中使点A(x,y)以补偿内插运动矢量Vct(水平方向成分Vctx,垂直方向成分Vcty)移动了的点A(x2,y2)=(x-Vctx,y-Vcty)的位置的信号。从而,运动补偿信号Spr和Sct用以下的(公式3)生成。
Spr=S3(x+Vprx,y+Vpry)
Sct=S2(x-Vctx,y-Vcty) (3)
该信号处理能够通过控制在运动补偿信号生成单元内安装的存贮电路的读取动作实现。即,生成把用于读取的地址偏移补偿内插运动矢量Vpr,Vct位置的地址,在该地址读出对应于点A′,A″的像素信号。
加法单元31进行2个运动补偿信号Spr和Sct的加法平均,在其输出端得到用运动补偿的帧数变换提高了帧频的逐行扫描的图像信号S4。
图10示出运动补偿内插帧生成单元的第2结构例。这是仅在易于引人注意的动作不稳定障碍的速度的变化、或者水平图像、上下图像以及文字上卷等特殊运动的情况下进行运动补偿帧内插处理的结构。
同图的帧序控制单元28、运动补偿信号生成单元29,30,加法单元31与图8进行相同的动作,在加法单元31的输出端得到运动补偿帧内插处理了的信号Smc。
运动速度检测单元32根据像素单位运动矢量PV,检测运动易于引人注意的动作不稳定障碍的速度的变化、或者水平图像、上下图像和文字上卷等特殊的活动。
例如,动作不稳定障碍在达到1秒/画面宽度、1秒/画面高度左右的视线能够追踪的运动情况下已知具有特别易于引人注意的性质。从而,在运动速度检测单元中,通过其第1动作,即进行以相当于1秒/画面宽度、1秒/画面高度左右的速度为阈值的运动矢量PV的速度成分的判定,在小于阈值的速度下输出1的信号SL,在大于阀值的情况下输出0的信号SL的动作,能够进行该检测。
另外,水平图像和上下图像与画面总体以相同的速度变化。从而,运动速度检测单元用第2动作,即在整个画面区域检测像素单位运动矢量PV≠0的大小和方向,仅在其取几乎相同值时,在整个的画面区域把1输出到信号SL中的动作,可以进行该检测。
另一方面,在文字上卷等中,运动区域的形状是带状,而且,该区域中的运动矢量几乎为相同的值。从而,运动速度检测单元用第3动作,即检测像素单位运动矢量PV≠0的矢量的大小和方向几乎相同的带状的区域,仅在该区域把1输出到信号SL中的动作,可以进行该检测。
另外,运动速度检测单元可以用第1、第2、第3的任一个动作或者把它们进行组合起来的动作等各种动作形态实现。
开关单元33在信号SL是1时,选择当前帧的信号S2,在信号SL是0时,选择信号Smc。而且,在该输出端得到仅把成为易于引人注意的动作不稳定障碍的速度的变化、或者水平图像、上下图像和文字上卷等特殊活动的区域进行运动补偿的内插处理了的逐行扫描的图像信号S4。
如上述所知,如果依据本实施例,则可以减少运动矢量的搜索、生成所需要的运算量,而且能够实现高画质的图像信号的制式变换装置。而且,可以在低成本化方面可以得到显著的效果。
其次,使用图11的结构框图说明本发明的第2实施例。本实施例是适用于在场景变换区域中进行中止运动补偿处理的信号处理动作的例子。
同图中的IP变换单元1、1帧选择单元3、运动检测单元4、图像块单位运动矢量检索单元5、像素单位运动矢量生成单元6与图1所示的相同。
场景变换检测单元34根据1帧期间的帧间差分信号成分的发生形态,进行检测发生了场景变换区域的动作。图12示出该一结构例。减法单元8对于当前帧的信号S2和前一帧的信号S3的亮度信号成分进行减法运算,抽取出1帧间的差分成分FD。一般,在场景变换的区域中为了切换图像的内容,差分信号成分FD的信号电平具有比较大的值。于是,2进制量化单元36以比较高的电平的阈值±Thb按各像素把信号FD进行2进制量化。而且,小于阈值±Thb的像素在信号QS上输出0,大于阈值的像素在信号QS上输出1。1帧累加单元37计算1帧期间信号QS是1的像素的数目,输出1帧期间的累计值AQ。判定单元38为了避免搞错图像整体以相同速度移动的水平图像和上下图像的移动而检测为场景变换的误动作,把累加值AQ的值是全画面的一半以上的像素数,而且其发生仅限在1帧期间的情况判定为场景变换区域,在信号SC中在整个一帧期间内输出1。除此以外的情况输出0。
图像块单位运动矢量搜索单元5、像素单位运动矢量生成单元6仅在信号SC是1的期间,优先地中止运动矢量的搜索和生成的动作。而且,在信号SC是0的情况下,进行与图1相同的动作。
另外,运动补偿内插帧生成单元35在信号SC是1的期间,优先选择当前帧的信号S2并输出到S4中。另外,在信号SC是0的情况下,进行与图1运动补偿内插帧生成单元7相同的动作。
如上所述,如果依据本实施例,能够避免产生用于搜索和生成场景变换区域中的运动矢量的巨大运算量,而且,实现进一步减少运算量并且高画质的图像信号的制式变换装置,能够以低成本得到显著的效果。
其次,用图13所示的结构框图说明本发明的第3实施例。本实施例是适用于同时进行内插补偿的帧率变换的处理和图像信号的扫描线数的缩小变换的处理的例子。
隔行扫描的输入图像信号S1(亮度信号成分和色差信号成分)输入到IP变换单元1中,进行隔行—逐行的扫描变换。例如,亮度信号成分通过运动适应型的内插处理,色差信号通过行间的内插处理生成内插扫描线的信号,在输出端得到逐行扫描的信号序列S2(亮度信号成分和色差信号成分)。另外,在输入图像信号是电视电影图像信号(把电影等的胶片图像通过2-3下拉处理变换成电视信号格式的信号)时,通过胶片模式的内插处理(用属于同一胶片帧的隔行扫描的信号生成内插扫描线的信号),生成胶片图像形态的逐行扫描的信号序列。
定标处理单元39以基于线性内插特性的垂直M-N变换处理(M>N)的垂直压缩的信号处理,进行扫描线数的N/M倍的缩小变换处理。例如,把PAL制式的扫描线数625条的信号变为NTSC制式的扫描线数525条的信号。而且,输出缩小了扫描线数的逐行扫描的图像信号S10。另外,该结构由于能够容易地用以往技术实现,所以省略具体结构例等的说明。
运动补偿帧数变换单元2,其结构、动作完全与图1所示的相同。而且,使用当前帧的信号S10和用1帧延迟单元3延迟了1帧期间的前一帧的信号S11,进行运动补偿的帧内插的信号处理,在输出端得到进行了帧率变换和扫描线缩小变换的逐行扫描的图像信号S4。
如上所述,如果依据本实施例,则能够以极低的成本实现同时进行运动补偿的帧率变换处理和图像信号的扫描线数的缩小变换处理的图像信号的制式变换装置,例如,把PAL制式的电视信号变换为NTSC制式的逐行扫描的图像信号的变换装置。
下面,使用图14所示的框图说明本发明的第4实施例。本实施例也是适合于同时进行运动补偿的帧率变换处理和图像信号的扫描线数的缩小变换处理的例子。本实施例中,与图13所示的实施例相同,在IP变换单元1中进行隔行—逐行的扫描变换,在定标处理单元39中,用垂直压缩的信号处理进行扫描线数的N/M倍的缩小变换处理。
运动补偿帧数变换单元2的结构、动作与图1所示的完全相同。而且,使用当前帧的信号S10和用1帧延迟单元3延迟了1帧期间的前一帧的信号S11,进行运动补偿的帧内插的信号处理,在输出端得到进行了帧率变换和扫描线数缩小变换的逐行扫描的图像信号S4。
如上所述,如果依据本实施例,则能够以极低的成本实现同时进行运动补偿的帧率变换处理和图像信号的扫描线数的缩小变换处理的图像信号的制式变换装置,例如,把PAL制式的电视信号变换为NTSC制式的逐行扫描的图像信号的变换装置。
下面,用图15所示的结构框图说明本发明的第5实施例。本实施例也是适合于同时进行运动补偿的帧变换处理和图像信号的扫描线数放大变换处理的例子。图15中,IP变换单元1以及运动补偿帧数变换单元2的结构以及动作与图1所示的完全相同。
被进行了运动补偿的帧数变换的逐行扫描的图像信号S4在定标处理单元39中通过基于线性内插特性的垂直M-N变换处理(M<N)的垂直放大的信号处理,进行扫描线数的N/M倍的放大变换处理。例如,把NTSC制式的扫描线数525条的信号变换为相当于微机的SVGA的扫描线数720条的信号。而且,输出放大了扫描线数的逐行扫描的图像信号S5。另外,由于该结构能够容易地用以往技术实现,所以省略具体结构例等的说明。
如上所述,如果依据本实施例,则能够以极低的成本实现同时进行运动补偿的帧率变换处理和图像信号的扫描线数放大处理的图像信号的制式变换装置,例如,把NTSC制式的电视信号变换为相当于微机的SVGA的扫描线数的逐行扫描的图像信号的装置。
其次,用图16所示的结构框图说明本发明的第6实施例。本实施例是适合于同时进行运动补偿的帧变换处理和图像信号的扫描线数的放大变换处理的装置。
同图中,IP变换单元1和运动补偿帧数变换单元2的结构、动作与图1所示的完全相同。
被进行了运动补偿的帧数变换的逐行扫描的图像信号S4在定标处理单元39中通过基于线性内插特性的垂直M-N变换处理(M<N)的垂直放大的信号处理,进行扫描线数的N/M倍的放大变换处理。例如,把NTSC制式的扫描线数525条的信号变换为相当于微机的SVGA的扫描线数720条的信号。而且,输出放大了扫描线数的逐行扫描的图像信号S5。另外,由于该结构能够容易地用以往技术实现,所以省略具体结构例等的说明。
用以上所述的本发明的技术装置,能够实现可以装在电视接收机内部,电路规模小,而且实现高画质的运动补偿帧数变换,并且具有对应于多信号源,对应于多显示器,对应于多窗口显示的功能的电视接收机。
图24是示出本发明另一实施例的电视接收机的总体框图。本实施例是适合于显示单元为扫描线数625条,场频60Hz,逐行扫描,或者,扫描线数1080条(1125条),场频60Hz,隔行扫描形态的CRT,PDP,LCD的例子。
发射波TV1、TV2、…,TVN(例如,现行TV制式NTSC信号、PAL信号),在TV解调单元51-1,…,51-N中进行预定的解调处理,解调为亮度信号成分和色差信号成分。
数字发射波TVD在IRD52中进行预定的数字解调、解码处理。解调为SD(与现行TV制式相同的图像格式的信号)或者HD(相当于HDTV的图像格式的信号)的亮度信号成分和色差信号成分。
个人计算机的图像信号(例如,RGB3原色信号)在彩色变换单元53中进行彩色空间变换的信号处理,变换为亮度信号成分和色差信号成分。
以上输入***的信号经过信号总线59输入到图像格式变换单元60-1,…,60-M中。而且,IP变换单元1把隔行扫描的信号用例如运动适应的扫描线内插的信号处理变换为逐行扫描的信号。运动补偿帧数变换单元2把帧频小于60Hz(例如PAL制式的50Hz,或者胶片图像的24Hz)的信号用运动补偿的帧内插处理变换为帧频60Hz的信号。另外,定标处理单元39进行对应于扫描线数的变换(如果显示单元是扫描线数625条,则把NTSC制式的扫描线数525条的信号用扫描线数的5-6变换处理变换为625条的信号)、多窗口、2画面活动图像PIP(画中画、Picture in picture),POP(画外画、Picture out picture)等的各种显示形态的图像尺寸的放大、缩小处理。
画质改善单元61-1~61-M进行亮度等级补偿和与显示单元的彩色空间特性一致的彩色空间变换以及逆γ补偿(在显示单元是PDP和LCD等线性特性的情况下)等的信号处理。
MPX单元62是把信号进行多路化的多路化单元,把来自各画质改善单元的输出信号进行综合合成,生成预定显示形态的图像信号。而且,在显示单元55上再生图像。
视听者选择指定的显示形态的信息,经过遥控器56,控制信号接收单元57,输入到控制单元58中。而且,在控制单元58中,根据该信息,生成各单元的动作所需要的控制信号,输出到受控单元54中。
在本结构框图中,作为本发明主要部分的图像格式变换单元60-1~60-M具有IP变换单元1,运动补偿帧数变换单元2以及定标处理单元39,这些部分能够使用上述实施例的相应部分。另外,除去这些部分以外的部分由于能够容易地用以往技术构成,所以在这里省略其说明。
如果依据本发明,则能够与以往的方法相比把进行运动补偿的帧率变换所必要的运动矢量的搜索、生成所需要的运算量减少为几十分之一左右,电路规模能够做得极小。由此,能够以比较低的成本实现内部安装了该运动补偿的帧率变换功能的电视接收机。而且,可以在电视图像的高画质化,高功能化方面得到显著的效果。
其次,用图25所示的总体结构框图说明本发明另一实施例的电视接收机。本实施例是适合于显示单元为扫描线数525条、帧频60Hz,逐行扫描形态的CID、PDP、ICD的例子。另外,与图24所示的实施例的不同之点在于使图像格式变换单元的信号处理中的定标处理和运动补偿帧数变换处理的顺序相反。从而,以下说明在运动补偿帧数变换处理。
在图像格式变换单元62-1,…,62-M中,首先在IP变换单元中把隔行扫描的信号变换为逐行扫描的信号。即,隔行扫描的图像信号(亮度信号成分和色差信号成分)的亮度信号成分用运动适应型的内插处理,色差信号成分用行间的内插处理生成内插扫描线的信号,变换为逐行扫描的信号序列(亮度信号成分和色差信号成分)。另外,在输入图像信号是电视电影图像信号(把电影等胶片图像用2-3下拉处理变换为电视信号的格式的信号)的情况下,用胶片模式的内插处理(用属于同一胶片帧的隔行扫描的信号生成内插扫描线的信号)生成胶片图像形态的逐行扫描的信号序列。
其次,在定标处理单元39中,进行扫描线数的缩小变换以及图像尺寸的放大,缩小的处理。例如,使用扫描线数的6-5变换处理,把扫描线数625条的PAL制式的信号变换为NTSC制式的扫描线数525条的信号。另外,进行适用于多窗口,2画面活动图像,PIP(画中画,Picture in picture),POP(画外画,Picture out picture)等的各种显示形态的图像尺寸的放大、缩小处理。
运动补偿帧数变换单元2把帧频小于60Hz(例如PAL制式的50Hz,或者胶片图像的24Hz)的信号用运动补偿帧内插处理变换为帧频60Hz的信号。这时,在前级的定标处理中,PAL制式的扫描线数625条的信号变换为把扫描线数缩小到5/6的扫描线数525条的信号。从而,用于搜索运动补偿的帧数变换所必需的运动矢量的运算量,能够减少到扫描线数625条情况下的5/6。另外,运动补偿帧数变换单元2的具体结构与上述实施例相同,省略说明。
如上所述,如果依据本发明,则能够与以往的方法相比把进行运动补偿的帧率变换所必要的运动矢量的搜索、生成所需要的运算量减少为几十分之一左右,电路规模也能够做的极小。由此,能够以比较低的成本实现内部安装了该运动补偿的帧率变换功能的电视接收机。而且,可以在电视图像的高画质化、高功能化方面得到显著的效果。
其次,使用图26所示的总体框图说明本发明的另一实施例的电视接收机。本实施例是在图24的实施例上添加作为信号混合单元的MIX单元63-1~63-K,以更少个数的图像格式变换单元60-1~60-M′实现上述功能,谋求更降低成本的例子。
MIX单元63-1,…,63-K,在TV接收单元51-1,…,51-N中解调了的图像信号中,输入同一制式2频道的TV信号。而且,在显示形态是同一制式的TV信号的2画面活动图像或者PIP的情况下,进行2频道的TV信号的合成处理。例如,在2画面活动图像中,进行在画面的左半部分位置配设一个频道信号,在画面的右半部分位置配设另一频道信号的动作的信号处理,并且进行输出。另外,在PIP的情况下,进行把一个频道的信号配置在主画面的位置,把另一个信道的频道信号配置在子画面的位置的动作的信号处理,并且进行输出。另一方面,在上述以外的显示形态下,输出显示所使用的某一个频道的信号。
在图像格式变换单元60-1,…,60-M′中,进行与图24同样的处理。然而,在同一制式的TV信号的2画面活动图像,或者PIP的显示形态的情况下,由于在MIX单元63-1~63-K的输出中不进行对于所需要的信号形态的变换,所以不进行定标处理单元的放大,缩小的信号处理。
如以上所述,本实施例中在2画面活动图像和PIP的显示形态情况下,在设置于图像格式变换单元的前级的MIX单元中进行变换处理。由此,能够减少所使用的图像格式变换单元的个数,能够实现更低成本的电视接收机。
其次,使用图27所示的总体结构框图说明本发明的另一实施例。本实施例是在图25实施例上添加MIX单元63-1~63-K,谋求减少图像格式变换单元62-1~62-M′的个数,进一步降低成本的例子。另外,MIX单元63-1~63-K的动作与图26所示的相同。还有,其它各结构、动作由于和图25相同,因此省略说明。
如以上所述,如果依据这些实施例,在电视图像的高质量化和高功能化方面能够得到显著效果的同时,与以往的方法相比能够大幅度减少运动补偿的信号处理中运动矢量的搜索和生成所需要的运算量,而且还能够大幅度地减小电路规模。由此,能够实现具有对应于多源,多显示器,多窗口显示功能的,高画质而且低成本的电视接收机。
这里,试求出运动补偿的信号处理中运动矢量的搜索和生成所需要的运算量的减少率。
首先,如以下那样可以求出图像块单位的运动矢量搜索处理的运算量减少率。
把搜索区域取为水平方向±DX像素,垂直方向±DY行的情况下,在全搜索法中每个图像块的图像块匹配处理需要(2DX+1)(2DY+1)次。另一方面,每个活动图像块的图像块匹配处理在第2步骤中成为(DX/2+1)(DY/2+1)次,在第3步骤中成为(DX/4+1)(DY/4+1)次。这里,设活动图像块的发生概率为Mb(0≤Mb≤1),DX=16,DY=16,如果把图像块搜索的运算量减少率设定为Kb,则Kb由(公式4)给出。
Kb=Mb{(DX/2+1)(DY/2+1)+(DX/4+1)(DY/4+1)}/
{(2DX+1)(2DY+1)}=Mb/10 (4)
从而,在图像块单位的搜索中,在一个画面是总体活动图像块的最差情况下(Mb=1),与全搜索法相比也能够以10%左右的运算量进行搜索。
其次,能够如下求出像素单位的运动矢量搜索处理运算量的减少率。
一般,把当前图像块的运动矢量BV作为参考矢量,采用按各像素单位,在把搜索范围缩小了水平方向±DX/4像素,垂直方向±DY/4行左右的范围内进行再搜索,生成最终运动矢量的方法。如果把图像块尺寸设定为水平BX像素,垂直BY行,则在这种情况下所需要的再搜索处理成为需要(DX/2+1)(DY/2+1)·BX·BY次的搜索处理。另一方面,对于大于阈值TH的图像块,进行(参考矢量的个数9)·(灰度1***和色差2***的3种)·(BX/2)·(BY/2)次的再搜索。这里,如果设大于阈值TH的图像块的发生概率为Mp(0≤Mp≤1),DX=DY=16,BX=BY=16,像素搜索的运算量减少率为Kp,则Kp由(公式5)给出。
Kb=Mp{9×3×(BX/2)(DY/2+1)}/{(DX/2+1)(DY/2+1)
*BX*BY}=Mp/12 (5)
从而,即使是一个画面的全部都成为活动图像块的最差情况(Mp=1),与全像素搜索法相比也能够以8%左右的运算量进行搜索。
而且,由于运动矢量的生成按上述的图像块单位的搜索和像素单位的再搜索的两个阶段进行,所以如果把作为总体的运算量减少率设为Kmv,则Kmv用(公式6)表示。
Kmv=Kb*Kp=0.008*Mb*MP (6)
从而,即使在最差(Mb=Mp=1)的情况下,运动矢量的搜索、生成所需要的运算量也能够在总体上减少2行以上。由此,能够把进行运动补偿的信号处理的电路规模做得极小。
如果依据上述实施例,则能够得到高画质而且电路规模小的图像信号的制式变换装置。另外,通过使用该制式变换装置,能够实现对应于多信号源的高画质而且低成本的电视接收机。
图28是示出本发明另一实施例的运动补偿型图像信号变换装置结构的框图。本实施例是把PAL制式的电视(以下简称为TV)信号变换为NTSC制式的逐行扫描的TV信号的例子。
PAL制式TV信号的解调信号S71(亮度信号成分和色差信号成分),输入到IP变换单元71中,把隔行扫描的信号变换为逐行扫描的信号(简称为隔行—逐行扫描变换)。即,亮度信号成分用运动适应型的内插处理,色差信号成分用行间的内插处理生成内插扫描线的信号,在输出端得到帧频50Hz的逐行扫描的信号序列S2。
垂直6-5变换单元72进行6-5变换处理的扫描线数变换,生成与NTSC制式的TV信号等价的扫描线数的信号序列S73(其中,帧频50Hz)。即,如图29所示,以6条扫描线a,b,c,d,e,f的组为单位,用输入输出特性为2点线性内插的特性进行运算,生成5条扫描线v,w,x,y,z。IP变换单元71以及垂直6-5变换单元72构成变换帧频的图像信号的图像信号发生单元,可以使用以往所知道的技术。
信号S73以及在帧存储器73中延迟了1帧的信号S74(以下称为前一帧的信号)被输入到运动检测单元74,运动矢量检测单元75和运动补偿处理单元76中。
运动检测单元74对于信号S73和S74的亮度信号成分,进行减法运算按各像素抽取出1帧间的差分信号成分,进行2值化,平滑化处理,输出运动检测信号FD(没有运动时为“0”,有运动时为“1”的2值信号)。另外,关于运动检测单元74的具体结构后面叙述。
运动矢量检测单元75通过图像块匹配处理检测图像块单位(例如16像素×16行或者8像素×8行)的运动矢量。即,图像块内的所有像素的运动检测信号FD是“0”的图像块判定为静止图像,在运动矢量信号V上输出0。另一方面,在运动检测信号FD中包含“1”的像素的图像块判定为活动图像,对于信号S73和S74的亮度信号成分,通过图像块匹配处理进行误差为最小的图像块对的搜索,把其结果作为运动矢量信号V进行输出。关于运动矢量检测单元75的具体结构也在后面叙述。
运动补偿处理单元76对于运动检测信号FD为“1”的像素,进行运动补偿型的信号处理。即,用运动矢量V制做补偿内插运动矢量,以使用该补偿内插运动矢量使当前帧的信号S73和前一帧的信号S74的图像位置移动了的信号,生成内插帧的信号。另一方面,对于运动检测信号FD为“0”的像素,使用当前帧和前一帧的信号的平均值,或者当前帧的信号,生成内插帧的信号。在其输出端得到进行了运动补偿型的帧数变换处理的帧频60Hz的NTSC制式的逐行扫描的信号S75。关于运动补偿处理单元76的结构也在后面叙述。
以下,对于本实施例中的主要部分的结构以及动作进行发明。
图30是运动检测单元74的一结构例。减法单元77进行逐行扫描的当前帧的信号S73和前一帧的信号S74的亮度信号成分的减法运算,按各像素得到1帧间的差分信号成分。2进制化单元78在差分信号成分的信号电平小于设定值±Th时判定为静止区输出“0”,在大于±Th时判定为活动图像区输出“1”的2进制信号。平滑单元79进行水平/垂直空间区域的积分操作等的平滑处理。而且,得到进行了去除孤立点和补充不连续点的运动检测信号FD。
图31是运动矢量检测单元75的第1结构例图。
静止图像块检测单元81按各图像块单位(例如16像素×16行或者8像素×8行),检测运动检测信号FD有无“1”。而且,仅在信号FD对于图像块内的所有像素都为“0”时在信号BM上输出“0”,除此以外的情况输出“1”。图像块匹配处理单元80仅在信号BM为“1”时,使用逐行扫描的当前帧的信号S73和前一帧的信号S74的亮度信号成分,通过图像块匹配处理进行误差最小的图像块对的搜索,输出所得到的图像块对的运动矢量Va。其结果,由于仅在信号BM为“1”时,进行运动矢量Va的搜索,所以由图像块匹配处理所进行的运动矢量的搜索可以限定在活动图像块,能够大幅度地减少搜索所需要的信号处理的运算量。选择单元82在信号BM为“0”的静止图像块时输出0的运动矢量,在信号BM为“1”的活动图像块时,把在图像块匹配处理单元80中所检测的Va作为运动矢量信号V进行输出。
图32是运动矢量检测单元75的第2结构例图。本结构例是在图31的结构上添加相邻运动信息检测单元83和运动矢量修正单元84,进行更高精度的运动矢量检测的例子。相邻运动信息检测单元83是进行检测与相邻图像块的运动的相关关系的信号处理的部分,使用图33a,图33b说明其动作概略。如图33a所示,相邻运动信息检测单元83用与当前图像块相连接的上下和左右的相邻图像块的边界区域1u,1r,1d,1l中的运动检测信号FD的形态,检测运动的相关关系,输出图33b所示的相邻图像块运动信息信号ABM(1~9)。例如,边界区域中的运动检测信号FD中有多个“1”(例如4个以上)的状态仅存在于区域1u的情况下(1u≠0,1r=1d=1l=0),判定与上述图像块具有运动的相关关系,在信号ABM上输出“1”。以下同样,在具有多个(例如4个以上)“1”的运动检测信号FD的状态仅存在于区域1r,1d以及1l的情况下,分别判定为与右,下以及左图像块具有运动的相关关系,输出信号ABM2~4。
另外,存在多个(例如4个以上)“1”的运动检测信号FD的状态在连续两个区域中发生时,判定为与对应的多个相邻图像块具有运动的相关关系,输出信号ABM5~8。例如,存在多个(例如4个以上)“1”的运动检测信号FD的状态在区域1u以及1r发生时,输出表示与上和右图像块的运动的相关关系的ABM。另外,在运动检测信号FD中存在多个(例如4个以上)“1”的状态是除此以外形态的情况下,判定为仅用当前图像块能够进行高精度的运动矢量的检测,输出ABM9。
运动矢量修正单元84根据相邻图像块运动信息信号ABM,如图33b所示那样,通过当前图像块和该相邻图像块的运动矢量的平均操作生成修正运动矢量并且进行输出。例如,在信号ABM是1时,输出通过当前图像块的运动矢量Vo和上图像块的运动矢量Vu的平均生成的修正运动矢量(Vo+Vu)/2。另外,在信号ABM是5时,输出通过当前图像块的运动矢量Vo,上图像块的运动矢量Vu和右图像块的运动矢量Vr的平均生成的修正运动矢量(Vo+Vu+Vr)/3。另外,在信号ABM是9时,直接输出当前图像块的运动矢量Vo。通过以上所述的简单处理,能够进行更高精度的运动矢量的检测。
图34是运动矢量检测单元75的第3结构例图。图中,静止图像块检测单元81,图像块匹配处理单元80实质上与图31标注相同编号的部分相同。控制单元83′根据来自静止图像块检测单元81的图像块单位的信号BM,生成图像块匹配处理单元80以及像素运动矢量运算单元82′的动作所需要的控制信号CT。像素运动矢量运算单元82′从图像块单位的运动矢量Va计算出像素的运动矢量信号V。
图35是像素运动矢量运算单元82′的第1结构例图。运算单元82′如在后面图36所说明的那样,使用当前图像块以及与其相邻的上下左右图像块的运动矢量,按小图像块单位(例如2像素×2行)进行把运动补偿误差最少的运动矢量分配到小图像块的像素的运动矢量的处理,输出运动矢量信号V。相邻图像块运动矢量排列单元84′根据控制信号CT,从图像块单位的运动矢量Va输出与上述小图像块对应的当前图像块和相邻图像块的运动矢量Vo,Vu,Vr,Vd,Vl。
误差运算单元85-1,…,85-6分别对于当前帧的信号S73和前一帧的信号S74,以小图像块单位计算出以下的公式(7)的运动补偿误差信号ER,ERo,…,以及ERl。
ER=∑abs{S3(x,y)-S4(x,y)}
ERO=∑abs{S3(x,y)-S4(Vo)}=∑abs{S3(x,y)-S4(x+Vox,y+Voy)}
ERu=∑abs{S3(x,y)-S4(Vu)}=∑abs{S3(x,y)-S4(x+Vux,y+Vuy)}
ERr=∑abs{S3(x,y)-S4(Vr)}=∑abs{S3(x,y)-S4(x+Vrx,y+Vry)}
ERd=∑abs{S3(x,y)-S4(Vd)}=∑abs{S3(x,y)-S4(x+Vdx,y+Vdy)}
ERl=∑abs{S3(x,y)-S4(Vl)}=∑abs{S3(x,y)-S4(x+Vlx,y+Vly)} (7)
这里,符号abs{ }表示绝对值,Vix,Viy(i=o,u,i,d或者1)表示运动矢量Vi的x方向,y方向成分,∑表示小图像块内的所有像素的总和。
判定单元86在运动补偿误差信号ER,ERo,…,以及ERl中检测出最小值,把对应于该最小值的运动矢量Vmb作为图像块内的像素的运动矢量输出。选择单元87在控制信号CT表示静止图像块时,选择当前图像块的运动矢量Vo(Vo=0),在活动图像块时选择运动矢量Vmb,输出像素的运动矢量信号V。
图36说明上述像素单位的运动矢量运算的概略以及效果,示出活动图像的一部分。图中的当前图像块混合存在不同活动的点区域内的活动图像物体p和斜线区域内的活动图像物体q。从而,当前图像块的运动矢量Vo成为在哪一个活动图像物体p,q的活动都不相同的矢量,运动矢量检测成为不正确。另一方面,在相邻的上图像块和左图像块中检测出的运动矢量Vu,Vl与活动图像物体p的活动几乎一致。另外在右图像块和下图像块检测出的运动矢量Vr,Vd和活动图像物体q的活动几乎一致。
由于小图像块A是活动图像物体p的区域,所以运动补偿误差的信号ERu和ERl为最小。从而,在小图像块A的像素中,代替运动矢量Vo,被分配运动矢量Vu或者Vl。另一方面,由于小图像块B是活动图像物体q的区域,所以运动补偿误差的信号ERr或者ERd为最小。从而,在小图像块B的像素中代替运动矢量Vo被分配运动矢量Vr或者Vd。还有,由于小图像块C是静止的区域,所以运动补偿误差的信号ER为最小。从而,在小图像块C的像素中代替运动矢量Vo,被分配运动矢量0。
如上所述,在以小图像块单位计算出运动补偿误差,把误差为最小的运动矢量分配到小图像块的像素的运动矢量的处理中,即使在以图像块单位检测出的运动矢量中存在着不正确的运动矢量时,也能够以像素单位实现几乎正确的运动矢量的运算。即,能够大幅度地抑制图像的一部分被置换为不切实图像的孤立点的恶化。
图37是图34的像素运动矢量运算单元82′的第2结构例图。本实施例是在图35的结构中添加特殊矢量修正单元88,进行更高精度的运动矢量检测的例子。即,特殊矢量修正单元88在初始,使用当前小图像块的运动矢量Vom和与其相邻的上下左右的小图像块的运动矢量Vum,Vrm,Vdm,Vlm计算以下公式(8)所示的差分值EV1,EV2,EV3以及EV4。
EV1=abs(Vom-Vum)
EV2=abs(Vom-Vrm)
EV3=abs(Vom-Vdm)
EV4=abs(Vom-Vlm) (8)
把该差分值全部超过允许误差范围(例如,x方向一个像素以内,或者y方向一行以内)的运动矢量Vom判定为特殊矢量。而且,对于特殊矢量,用相邻的上下左右的小图像块的运动矢量的平均值生成的修正矢量Vmb进行置换。从而,运动的不正确的特殊矢量被用更高精度的修正矢量(Vmd=(Vom+Vum+Vrm+Vdm+Vlm)/5)进行置换,能够谋求更提高运动矢量的精度。
如上所述,在以小图像块单位计算出运动补偿误差,把误差为最小的运动矢量分配到小图像块的像素的运动矢量的处理中,即使在以图像块单位检测出的运动矢量中存在着不正确的运动矢量时,也能够以像素单位实现几乎正确的运动矢量的运算。即,能够大幅度地抑制图像的一部分被置换为不切实图像的孤立点的恶化。
图38是图28的运动补偿处理单元76的第1结构例的框图。加法单元89把当前帧的信号S73和前一帧的信号S74进行加法平均,生成内插帧的静止区域的信号成分的Sav。补偿信号生成单元90-1用前一帧的信号S74和补偿内插运动矢量Vpr生成运动补偿信号Spr,补偿信号生成单元90-2用当前帧的信号S73和补偿内插运动矢量Vct生成运动补偿信号Sct。图40a中示出补偿信号生成单元90-1、90-2的动作概略。对于内插帧fip的点A(x,y),运动补偿信号Spr是使前一帧fip的点A(x,y)以补偿内插运动矢量Vpr(水平方向成分Vprx,垂直方向成分Vpry)移动了的点A″(x+Vprx,y+Vpry)位置的信号,运动补偿信号Sct是使当前帧fct的点A(x,y)以补偿内插运动矢量Vct(水平方向成分Vctx,垂直方向成分Vcty)移动了的点A′(x-Vctx,y-Vcty)的位置的信号。即
Spr=fpr(x+Vprx,y+Vpry)
Sct=fct(x-Vctx,y-Vcty) (9)
从而,通过用补偿内插运动矢量控制存贮电路的读出地址能够简单地实现在点A读出点A′,A″的像素的信号。另外,关于补偿内插运动矢量的生成后面叙述。
在加法单元92中,把两者的运动补偿信号Spr和Sct进行加法平均,生成内插帧的活动图像区域的信号成分Smc。
开关单元93在运动检测信号FD是“0”的像素中选择信号Sav,在信号FD是“1”的像素中选择信号Smc。在输出端得到活动图像区域的用运动补偿型的信号处理帧数变换了的帧频60Hz的NTSC制式的逐行扫描的信号S5。
帧序控制单元91根据帧定标信号FS的帧序信息,生成运动补偿处理所必需的补偿内插运动矢量Vct,Vpr。图40b示出该动作的概略。对于帧频50Hz的PAL逐行扫描帧序1到5的信号,用运动补偿型的帧内插处理,变换成帧序1到6的帧频60Hz的NTSC逐行扫描的信号。这时,补偿内插运动矢量需要与内插的帧位置一致。为此,根据帧定标信号FS的帧序信息,如同图所示那样,使得在运动矢量信号V上进行加权的系数值ka,kb发生变化,用以下的运算公式(10)生成补偿内插运动矢量Vpr,Vct。
Vpr=V*ka/(ka+kb)
Vct=-V*kb/(ka+kb) (10)
从而,在帧序为2的内插帧中,如Vpr=V*5/6,Vct=-V*1/6(ka=5,kb=1)所示,为3的内插帧中,如Vpr=V*4/6,Vct=-V*2/6(ka=4,kb=6)所示,生成没有时间方向位移的补偿内插运动矢量。其结果,实现没有时间方向晃动的帧数变换。
图39是图28的运动补偿处理单元76的第2结构例的框图。该结构在用当前帧的信号S73生成内插帧的静止区域的信号成分Sav这一点上与图38的结构例不同,能够用更简单的信号处理实现。另外,其它各部分结构、功能与图38的结构例相同,省略说明。
如以上所述,如果依据本实施例,能够实现运动补偿的信号处理方面所需要的运算量少,电路规模小,而且画质恶化少的PAL-NTSC逐行扫描制式的变换装置。
图41是示出本发明另一实施例的运动补偿型图像信号的变换装置结构框图。本实施例是把PAL制式的电视信号变换为与PAL制式的电视信号相同扫描线数的帧频60Hz的逐行扫描的信号的例子。
由于本实施例是除去图28的垂直6-5变换单元72的结构,其它部分实质上与图28的结构相同,因此省略其详细说明。如果依据本实施例,则能够实现运动补偿的信号处理所需要的运算量少,电路规模小,而且画质恶化少的变换为帧频60Hz的PAL逐行扫描的变化制式变换装置。
图42是示出本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。本实施例是把PAL制式的电视信号变换为帧频60Hz逐行扫描的NTSC制式的电视信号的例子,是简易地进行运动矢量检测的信号处理的例子。同图的IP变换单元71、垂直6-5变换单元72、帧存储器73、运动检测单元74和运动补偿处理单元76的结构以及动作由于与第1实施例相同,因此省略说明。
简易型运动矢量检测单元94使用运动检测单元74的运动检测信号FD检测图像块单位或者像素单位的运动矢量。
图43是简易型运动矢量检测单元94的第1结构例的框图。静止信息检测单元81以图像块单位检测运动检测信号FD有无“1”,仅在全部为“0”时在信号BM上输出“0”,除此以外的情况下输出“1”。控制单元83把信号BM作为控制信号CT,加入到图像块匹配处理单元96以及像素运动矢量运算单元82′上。
图像块匹配处理单元96在控制信号CT表示静止图像块时,在信号Va上输出0。另一方面,在控制信号CT表示活动图像块时,用在1帧延迟单元95中进行了1帧延迟的前一帧的运动检测信号FDpr和当前帧的运动检测信号FD,进行基于图像块匹配处理的误差最小的图像块对的搜索,把所得到的运动矢量输出到信号Va上。这时,由于信号FDpr,FD是“0”和“1”的2进制信号,因此能够用把EXOR(异或)电路、加法电路以及比较电路组合起来的极简单的逻辑电路进行该误差最小的图像块对的搜索。
像素运动矢量运算单元82′与上述图35,图37的结构相同,以小图像块为单位,用当前图像块和与其相邻的上下左右的图像块的运动矢量,计算延迟了1帧的前一帧的运动检测信号FDpr和当前帧的运动检测口号FD的运动补偿误差,把该误差为最少的运动矢量分配到像素的运动矢量中。由于信号FD和FDpr是2值的信号,所以能够更简单地进行运动补偿误差的运算。
图44是简易型运动矢量检测单元94的第2结构例的结构框图,是用于检测图像块单位的运动矢量的例子。静止图像块检测单元81以图像块单位检测运动检测信号FD有无“1”,仅在全部为“0”时在信号BM上输出0,除此以外的情况下输出“1”。选择单元82在信号BM是“0”的静止图像块时输入0的运动矢量,在BM是“1”的活动图像块时把用简易图像块匹配处理单元26检测出的运动矢量Va作为运动矢量信号V进行输出。
简易图像块匹配处理单元96仅在信号BM是“1”时,使用在1帧延迟单元95中进行了1帧延迟的前一帧的运动检测信号FDpr和当前帧的运动检测信号FD,进行基于图像块匹配处理的误差最小的图像块对的搜索,输出所得到的运动矢量Va。这时,由于信号FDpr,FD是“0”和“1”的2进制信号,所以能够用把EXOR(异或)电路、加法电路以及比较电路组合起来的极简单的逻辑电路进行该误差最小的图像块对的搜索。从而,能够谋求大幅度降低在图像块匹配处理中搜索运动矢量的信号处理的运算量以及削减电路规模。
图45是简易型运动矢量检测单元94的第3结构例的结构框图,是检测图像块单位的运动矢量的例子。本结构例是在图44的结构上添加了相邻运动信息检测单元83和运动矢量修正单元84,进行更高精度运动矢量检测的例子。即,与上述的图32相同,以相邻图像块的边界区域内的运动检测信号FD的形态检测运动的相关关系,以当前图像块和运动相关关系高的相邻图像块的运动矢量的平均操作生成修正运动矢量并且进行输出。
如上所述,如果依据本实施例,则与代表性地在图28中示出的实施例进行比较,可以实现进一步减少运动补偿的信号处理所需要的运算量而且电路规模小的制式变换装置。
图46是示出本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。本实施例是把PAL制式的电视信号变换为帧频为60Hz的逐行扫描的NTSC制式的电视信号的例子,是特别地仅对于破坏了运动光滑性的易于引人注意的动作不稳定的速度变化进行运动补偿处理的例子。
图中的IP变换单元71、垂直6-5变换单元72、帧存储器73、运动检测单元74和运动矢量检测单元75与图28的结构相同并且进行相同的动作。MC动作控制单元97用运动矢量信号V,以每个图像块、像素或者小图像块为单位检测易于引人注意的动作不稳定的速度(例如,数秒~数10秒/画面宽度或者画面高度)的变化。而且,运动矢量信号V在与该范围的速度相应的图像块、像素或小图像块中输出“1”,除此以外的情况下输出“0”的MC控制信号IPM。
运动补偿处理单元98能够以把图39所示的结构进行若干变化的形态实现。在图39所示的结构中,开关单元93用运动检测信号FD进行信号S73和信号Smc的选择,而在本实施例中,将其变更为用运动检测信号FD和MC控制信号IPM的逻辑积运算(AND电路)得到的信号。即,在运动检测信号FD为“1”而且MC控制信号IPM为“1”时,选择Sav。在输出端得到仅对于易于引人注意的动作不稳定的速度变化用运动补偿型的信号处理进行了帧数变换的帧频60Hz的NTSC制式的逐行扫描的信号S75。如果依据本实施例,则由于仅对于特定范围的变动速度的信号进行信号处理,所以能够实现运算量少,电路规模小,并且把运动补偿处理限定于易于引人注意的动作不稳定障碍的运动的制式变换装置。
图47是示出本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。本实施例是把PAL制式的电视信号变换为帧频为60Hz的逐行扫描的NTSC制式的电视信号的例子,特别是在图42的结构上添加了如图46所示的实施例中叙述的MC动作控制单元97和运动补偿处理单元98而构成的例子。进行与图46所示的实施例相同的动作,得到仅对于易于引人注意的动作不稳定的速度变化用运动补偿型的信号处理进行了帧数变化的帧频60Hz的NTSC制式的逐行扫描的信号R45。如果依据本实施例,则能够实现谋求了电路规模更小型的制式变换装置。
图48是示出本发明另一实施例的运动补偿型图像信号的变换装置的结构框图。本实施例是把PAL制式的电视信号变换为帧频为60Hz的逐行扫描的NTSC制式的电视信号的例子,是特别地适于仅对于图像总体以相同速度变化的水平图像,上下图像和文字上卷等特殊的变动进行运动补偿型的信号处理的例子。
本实施例是把上述图46的MC动作控制单元97置换为MC限定动作控制单元99的例子。
MC限定动作控制单元99使用运动检测信号FD和运动矢量信号V,进行特殊运动的检测。即,以图像块,小图像块或者像素单位在运动矢量信号V≠0的图像块的运动矢量的大小和方向在整个画面区域取几乎相同值的情况下判定为上下图像和水平图像的活动。而且,在整个画面区域把“1”的信号输出到信号IPM上。另外,在用运动检测信号FD检测的运动区域的形状为带状,而且,该区域的图像块的运动矢量取几乎相同值时判定为文字上卷的活动。而且,在该文字上卷区域的区域内把“1”的信号输出到信号IPM。在除此以外的区域把“0”输出到信号IPM。
运动补偿处理单元98如前所述由于用信号IPM和运动检测信号FD的逻辑积运算的信号控制开关93,所以在输出端得到限定于特殊活动的用运动补偿型的信号处理进行了帧数变换的信号。
如果依据本实施例,则能够实现限定于对易于引人注意的动作不稳定的特殊活动进行运动补偿处理的制式变换装置。
图49是示出本发明的运动补偿型图像信号的变换装置的第7实施例的结构框图。本实施例是把图47的MC动作控制单元97置换为MC限定动作控制单元99的例子。另外,MC限定动作控制单元99的结构及动作与图48的实施例相同。如果依据本实施例,能够实现谋求了电路规模进一步小型化的制式变换装置。
图50是示出把本发明另一实施例的运动补偿型图像信号的变换装置适用于电视接收机的实施例的结构框图。另外,本实施例中,以图像显示单元进行帧频60Hz,扫描线数525条的NTSC制式的逐行扫描显示为例进行说明。
基带的电视信号VS输入到NTSC解码单元100,PAL解码单元101和控制单元102中。NTSC解码单元100进行以NTSC制式为基准的解调处理(YC分离,彩色解调)的信号处理,输出隔行扫描的解调信号S80(亮度信号和色差信号)。
PAL解码单元101进行以PAL制式为基准的解调处理(YC分离,彩色解调)的信号处理,输出隔行扫描的解调信号S81(亮度信号和色差信号)。控制单元102根据电视信号VS的同步信号进行制式判定,生成该制式接收图像所必要的控制信号CS。开关单元103在NTSC制式时选择信号S80,在PAL制式时选择信号S81。
IP变换单元104进行运动适应型的隔行—逐行的扫描变换的信号处理,输出逐行扫描的信号。定标单元105进行变换为图像显示单元格式(幅形比和扫描线数)的信号处理。例如,用垂直6-5变换处理把PAL制式的信号变换为扫描线数525条的信号。另外,PC图像信号等的逐行扫描的信号S83用预定的垂直变换处理变换为525条的扫描线数的信号。
帧率变换单元106在上述的变换装置中进行运动补偿型的帧数变换的信号处理,变换为与图像显示单元108相同帧频的信号。例如,PAL制式的帧频50Hz的逐行扫描的信号用运动补偿的帧内插处理变换为帧频60Hz的信号。
彩色空间变换单元107进行轮廓补偿和等级补偿的画质改善处理以及对于三原色信号的变换、逆γ补偿(显示单元为线性的γ特性的情况下)等的信号处理。而且,把该输出信号供给到逐行扫描显示单元108中进行图像的显示。
如果依据本电视接收机,则能够实现以低成本实现了多源对应功能和提高画质的电视接收机,可以在多功能化以及高画质化方面得到显著的效果。另外,即使在图像显示单元是以HDTV制式为基准的情况下,在帧数变换中也能够适用本发明的运动补偿型图像信号的变换装置。
图51a、51b是本发明另一实施例的运动补偿型图像信号的变换装置,说明把电影等帧频为24Hz的胶片图像变换为帧频60Hz的逐行扫描的信号的装置的一实施例的结构以及动作。
图51a是装置的结构框图,由视频解调单元109,IP变换单元110,帧数变换单元111和控制单元112构成。
输入电影信号VS在视频解调单元109中进行预定的解调处理,解调成由亮度信号和色差信号构成的隔行扫描的信号S90。控制单元112从电影信号VS的帧间差分信号成分为0的帧的产生周期等,判定电影信号是一般图像的信号还是电视电影图像的信号(用2-3下拉处理把电影等的胶片图像变换为电视制式的格式的信号),在一般图像时在信号CTS上输出1的信号,在电视电影图像输出0的信号。
IP变换单元110在信号CTS是“1”时,用以往的运动适应型的扫描变换处理变换为逐行扫描的信号。另一方面,在信号CTS是“0”时,通过胶片模式的内插处理用作为同1帧信号的前后场的信号生成内插扫描的信号,变换为帧频24Hz的电视电影逐行扫描的信号。
帧数变换单元111在信号CTS是“1”时,用与上述实施例相同动作的运动补偿型的帧数变换处理生成帧频60Hz的逐行扫描的信号VO。另一方面,在信号CTS是“0”时,用图51b所示的帧序的顺序,生成运动补偿处理所必需的补偿内插运动矢量Vct,Vpr。即,如同图所示那样,使得在运动矢量信号V上进行加权的系数值ka,kb发生变化,在以下的运算中生成补偿内插运动矢量Vpv,Vct。
Vpr=V*ka/(ka+kb)
Vct=-V*kb/(ka+kb) (11)
从而,在帧序为2的内插帧中,如Vpr=V*2/5,Vct=-V*3/5(ka=2,kb=3)所示,在3的内插帧中,如Vpr=V*4/5,Vct=-V*1/5(ka=4,kb=1)…所示,生成补偿内插运动矢量。而且,对于帧频24Hz的电视电影逐行扫描的帧序1到2的信号,用运动补偿型的帧内插处理,变换成帧序1到5的帧频60Hz的逐行扫描的信号VO。
如上所述,如果依据本实施例,则能够以低成本、高画质实现把电影等的胶片图像变换为帧频60Hz的逐行扫描的信号的帧数变换装置。
本发明并不限定于上述实施例,例如,在图32~图49所示的实施例中,如图41所示的实施例那样,以省略了垂直6-5变换单元的结构,能够实现把PAL制式的电视信号变换为帧频高于50Hz的逐行扫描信号的制式变换装置。
如果依据上述实施例,能够实现运动补偿的信号处理所需要的运算量少,电路规模小,而且画质恶化少的制式变换装置。由此,能够在实现电视接收机中的多源对应功能和提高画质方面得到显著的效果。
Claims (4)
1.一种图像信号的制式变换装置,其特征在于包括:
根据图像信号搜索图像块单位运动矢量的搜索装置;
把使用上述搜索了的当前图像块和相邻图像块的运动矢量以比所述当前图像块小的小图像块单位求出的、与预定的运动补偿误差有关的运动矢量分配到小图像块内的像素单位运动矢量的分配装置,以及
通过使用上述像素单位运动矢量生成图像信号的内插帧的方式变换图像信号的帧数的变换装置;
其中,上述搜索单元对于检测出运动的图像块,在预先设定的多个代表运动矢量内计算出运动补偿误差最少的运动矢量,以上述计算出的补偿误差最少的运动矢量为基准、从预定范围内的运动矢量检测出运动补偿误差最少的运动矢量作为图像块单位运动矢量。
2.如权利要求1所述的图像信号的制式变换装置,其特征在于:
上述搜索单元对于检测出运动的图像块,在上述图像块的前一个图像块的运动矢量和预先设定的多个代表运动矢量内计算出运动补偿误差最少的运动矢量,以上述计算出的补偿误差最少的运动矢量为基准、从预定范围内的运动矢量检测出运动补偿误差最少的运动矢量作为图像块单位运动矢量。
3.如权利要求1所述图像信号的制式变换装置,其特征在于:
还具有用检测出一帧期间的运动的像素数来检测场景变换的场景变换检测单元;在检测出场景变换的帧中停止搜索图像块单位的运动矢量、生成像素单位的运动矢量以及运动补偿的帧内插处理的动作,使用当前帧的信号和前一帧的信号生成内插帧。
4.如权利要求1所述的图像信号的制式变换装置,其特征在于:
还具有根据上述像素单位运动矢量检测像素单位运动矢量超过阈值的运动、或所述像素单位运动矢量在整个画面区域或一部分区域上的大小和方向基本相同的运动的装置,以及
所述变换装置使用由上述检测装置输出的检测信号生成上述图像信号的内插帧。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP14620597 | 1997-06-04 | ||
JP146205/1997 | 1997-06-04 | ||
JP146205/97 | 1997-06-04 | ||
JP290385/97 | 1997-10-07 | ||
JP29038597 | 1997-10-07 | ||
JP290385/1997 | 1997-10-07 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1211872A CN1211872A (zh) | 1999-03-24 |
CN1178472C true CN1178472C (zh) | 2004-12-01 |
Family
ID=26477085
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB981096514A Expired - Fee Related CN1178472C (zh) | 1997-06-04 | 1998-06-04 | 图像信号制式变换装置 |
Country Status (2)
Country | Link |
---|---|
EP (1) | EP0883298A3 (zh) |
CN (1) | CN1178472C (zh) |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6731818B1 (en) | 1999-06-30 | 2004-05-04 | Realnetworks, Inc. | System and method for generating video frames |
US6753865B1 (en) | 1999-06-30 | 2004-06-22 | Realnetworks, Inc. | System and method for generating video frames and post filtering |
US6760378B1 (en) | 1999-06-30 | 2004-07-06 | Realnetworks, Inc. | System and method for generating video frames and correcting motion |
US6735338B1 (en) * | 1999-06-30 | 2004-05-11 | Realnetworks, Inc. | System and method for generating video frames and detecting text |
US6765964B1 (en) | 2000-12-06 | 2004-07-20 | Realnetworks, Inc. | System and method for intracoding video data |
KR100854091B1 (ko) | 2002-07-13 | 2008-08-25 | 삼성전자주식회사 | 영상신호의 필름 모드 검출장치 및 방법 |
KR100927143B1 (ko) | 2002-11-27 | 2009-11-18 | 삼성전자주식회사 | 움직임 검출장치 및 방법 |
KR20040054032A (ko) | 2002-12-16 | 2004-06-25 | 삼성전자주식회사 | 영상신호의 포맷 검출장치 및 방법 |
KR20040055059A (ko) * | 2002-12-20 | 2004-06-26 | 삼성전자주식회사 | 영상포맷의 변환장치 및 방법 |
KR100467625B1 (ko) * | 2003-02-03 | 2005-01-24 | 삼성전자주식회사 | 프레임 레이트 변환을 이용하는 영상 처리 장치 및 방법 |
JP4217543B2 (ja) * | 2003-06-05 | 2009-02-04 | キヤノン株式会社 | 動き情報処理装置及び方法 |
JP4419062B2 (ja) | 2004-03-29 | 2010-02-24 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びにプログラム |
KR101157053B1 (ko) | 2004-04-09 | 2012-06-21 | 소니 주식회사 | 화상 처리 장치 및 방법, 기록 매체, 및 프로그램 |
EP1592251B1 (en) * | 2004-04-30 | 2006-10-25 | Matsushita Electric Industrial Co., Ltd. | Ticker processing in video sequences |
US7307664B2 (en) * | 2004-05-17 | 2007-12-11 | Ati Technologies Inc. | Method and apparatus for deinterlacing interleaved video |
KR100555869B1 (ko) * | 2004-06-15 | 2006-03-03 | 삼성전자주식회사 | 저더 검출을 이용한 디인터레이싱 장치 및 방법 |
MX2007000254A (es) | 2004-07-01 | 2007-04-09 | Qualcomm Inc | Metodo y aparato para utilizar tecnicas de conversion ascendente de indice de cuadro en codificacion de video que se puede escalar. |
TW200625964A (en) | 2004-07-20 | 2006-07-16 | Qualcomm Inc | Method and apparatus for encoder assisted-frame rate up conversion (EA-FRUC) for video compression |
US8553776B2 (en) | 2004-07-21 | 2013-10-08 | QUALCOMM Inorporated | Method and apparatus for motion vector assignment |
CN100366092C (zh) * | 2005-04-08 | 2008-01-30 | 北京中星微电子有限公司 | 一种视频编码中基于运动矢量预测的搜索方法 |
WO2007040045A1 (ja) | 2005-09-30 | 2007-04-12 | Sharp Kabushiki Kaisha | 画像表示装置及び方法 |
US8023041B2 (en) * | 2006-01-30 | 2011-09-20 | Lsi Corporation | Detection of moving interlaced text for film mode decision |
JP4417918B2 (ja) | 2006-03-30 | 2010-02-17 | 株式会社東芝 | 補間フレーム作成装置、動きベクトル検出装置、補間フレーム作成方法、動きベクトル検出方法、補間フレーム作成プログラムおよび動きベクトル検出プログラム |
US8634463B2 (en) | 2006-04-04 | 2014-01-21 | Qualcomm Incorporated | Apparatus and method of enhanced frame interpolation in video compression |
US8750387B2 (en) | 2006-04-04 | 2014-06-10 | Qualcomm Incorporated | Adaptive encoder-assisted frame rate up conversion |
JP4303745B2 (ja) * | 2006-11-07 | 2009-07-29 | シャープ株式会社 | 画像表示装置及び方法、画像処理装置及び方法 |
US20090262249A1 (en) * | 2008-04-22 | 2009-10-22 | Himax Media Solutions, Inc. | Interpolated frame generating method |
DE102009001520B4 (de) * | 2009-03-12 | 2016-02-25 | Entropic Communications, Inc. | Vorrichtung und Verfahren zur Zwischenbildinterpolation |
US9654792B2 (en) | 2009-07-03 | 2017-05-16 | Intel Corporation | Methods and systems for motion vector derivation at a video decoder |
GB201007351D0 (en) * | 2010-04-30 | 2010-06-16 | Imagination Tech Ltd | Varying temporal interpolation in a motion compensated frame interpolation system |
CN103501418A (zh) * | 2013-09-17 | 2014-01-08 | 广东威创视讯科技股份有限公司 | 图像缩放拼接方法、***以及图像缩放拼接控制装置 |
CN106651918B (zh) * | 2017-02-16 | 2020-01-31 | 国网上海市电力公司 | 抖动背景下的前景提取方法 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2678464A1 (fr) * | 1991-06-27 | 1992-12-31 | Thomson Csf | Procede de conversion du rythme temporel d'une sequence d'images animees. |
GB2263602B (en) * | 1992-01-24 | 1995-06-21 | Sony Broadcast & Communication | Motion compensated video signal processing |
US5557342A (en) * | 1993-07-06 | 1996-09-17 | Hitachi, Ltd. | Video display apparatus for displaying a plurality of video signals having different scanning frequencies and a multi-screen display system using the video display apparatus |
EP0648052B1 (en) * | 1993-09-08 | 2000-03-01 | THOMSON multimedia | Method and apparatus for motion estimation using block matching |
US5614945A (en) * | 1993-10-19 | 1997-03-25 | Canon Kabushiki Kaisha | Image processing system modifying image shake correction based on superimposed images |
EP0675643B1 (en) * | 1994-03-30 | 1999-07-21 | THOMSON multimedia | Method and apparatus for reducing conversion artefacts |
JPH08111852A (ja) * | 1994-10-12 | 1996-04-30 | Sharp Corp | 動き適応形走査線補間装置 |
-
1998
- 1998-06-02 EP EP98110021A patent/EP0883298A3/en not_active Withdrawn
- 1998-06-04 CN CNB981096514A patent/CN1178472C/zh not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
CN1211872A (zh) | 1999-03-24 |
EP0883298A3 (en) | 2000-03-29 |
EP0883298A2 (en) | 1998-12-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1178472C (zh) | 图像信号制式变换装置 | |
CN1075323C (zh) | 运动矢量编码和解码方法及装置,图像信号编码和解码方法及装置 | |
CN1132422C (zh) | 取自运动图像的静止图像文件的图像处理和显示方法及装置 | |
CN1160967C (zh) | 图像编码设备和图像解码设备 | |
CN100352270C (zh) | 一种支持多源流媒体的同步播放控制方法 | |
CN1237067A (zh) | 图象编码和解码装置、方法及数据存储媒体 | |
CN1039472C (zh) | 检测字幕及无画面区等图像特征区域位置的装置 | |
CN1138275A (zh) | 图形信号编码译码方法和装置及信号记录介质 | |
CN1537384A (zh) | 用于子像素值内插的方法 | |
CN1138420C (zh) | 图象处理器、图象数据处理器和可变长度代码解码器 | |
CN1170317A (zh) | 逐行扫描帧的内插方法 | |
CN1090115A (zh) | 图象信号编码方法和装置和图象信号解码方法和装置 | |
CN1852414A (zh) | 一种视频码流伽玛特性校正方法及多点控制单元 | |
CN1197252C (zh) | 利用对应象素块的等级信息的变换系数进行图象的编码和译码 | |
CN1692640A (zh) | 广播记录***、记录设备、广播设备及用于节省用来记录内容的记录介质的存储空间的记录程序 | |
CN100348044C (zh) | 不同帧速率多流混合视频流的无缝译码装置 | |
CN1726529A (zh) | 用于处理图像信号的设备和方法、用于执行该方法的程序、以及用于记录该程序的计算机可读介质 | |
CN1397137A (zh) | 数据处理装置 | |
CN1379592A (zh) | 图像编码处理装置和图像编码处理程序 | |
CN1491516A (zh) | 声像再现装置、声像再现方法、程序和媒体 | |
CN1898965A (zh) | 运动图象编码方法和装置 | |
CN1574944A (zh) | 动态图像解码装置 | |
CN1163076C (zh) | 图像编码装置和图像编码方法及图像解码装置和图像解码方法 | |
CN1158863C (zh) | 图象信号再现设备 | |
CN1236628C (zh) | 产生立体图像的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
C17 | Cessation of patent right | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20041201 Termination date: 20130604 |