CN105227851B - 图像处理方法及图像采集装置 - Google Patents
图像处理方法及图像采集装置 Download PDFInfo
- Publication number
- CN105227851B CN105227851B CN201510756207.6A CN201510756207A CN105227851B CN 105227851 B CN105227851 B CN 105227851B CN 201510756207 A CN201510756207 A CN 201510756207A CN 105227851 B CN105227851 B CN 105227851B
- Authority
- CN
- China
- Prior art keywords
- image
- images
- shutter speed
- target object
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 31
- 239000002131 composite material Substances 0.000 claims description 37
- 238000005316 response function Methods 0.000 claims description 32
- 238000004364 calculation method Methods 0.000 claims description 19
- 230000002194 synthesizing effect Effects 0.000 claims description 10
- 230000015572 biosynthetic process Effects 0.000 claims description 7
- 238000003786 synthesis reaction Methods 0.000 claims description 7
- 230000004044 response Effects 0.000 claims description 4
- 230000008859 change Effects 0.000 description 114
- 230000000875 corresponding effect Effects 0.000 description 59
- 238000000034 method Methods 0.000 description 45
- 230000008569 process Effects 0.000 description 30
- 238000012545 processing Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 11
- 101100257981 Arabidopsis thaliana S-ACP-DES3 gene Proteins 0.000 description 9
- 101150093202 SAD3 gene Proteins 0.000 description 9
- 101100325615 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) MEC1 gene Proteins 0.000 description 9
- 230000008901 benefit Effects 0.000 description 8
- 230000002829 reductive effect Effects 0.000 description 8
- 101000836261 Homo sapiens U4/U6.U5 tri-snRNP-associated protein 2 Proteins 0.000 description 6
- 102100027243 U4/U6.U5 tri-snRNP-associated protein 2 Human genes 0.000 description 6
- 101100257986 Arabidopsis thaliana S-ACP-DES4 gene Proteins 0.000 description 5
- 230000036961 partial effect Effects 0.000 description 5
- 101100478627 Arabidopsis thaliana S-ACP-DES2 gene Proteins 0.000 description 4
- 101150038966 SAD2 gene Proteins 0.000 description 4
- 238000013459 approach Methods 0.000 description 4
- 230000003247 decreasing effect Effects 0.000 description 4
- 230000003068 static effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000002596 correlated effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 239000003381 stabilizer Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
提供了一种图像处理方法,包括:确定图像采集装置是否满足预定条件;在所述图像采集装置满足预定条件时,提高所述图像采集装置的快门速度;以提高的快门速度采集针对同一目标对象的多个图像;以及基于所述多个图像来获得与所述目标对象对应的图像。
Description
技术领域
本发明涉及一种图像处理方法及图像采集装置,尤其涉及一种能够改善防抖效果的图像处理方法及图像采集装置。
背景技术
电子技术的发展使得许多电子设备具有图像采集功能。例如,手机、笔记本电脑、平板电脑等电子设备具有例如摄像头等的图像采集器件,以实现图像采集功能。
通常,出于图像曝光度的考虑,这类图像采集器件的快门速度会根据环境亮度的变化而变化,并且不同的图像采集器件可能具有不同的快门速度。例如,当图像采集器件的取景范围中的光线较强时,图像采集器件的快门速度较快,以避免所采集的图像过度曝光;当图像采集器件的取景范围中的光线较弱时,图像采集器件的快门速度较慢,以避免所采集的图像曝光不足。在图像采集器件的快门速度较慢的情况中,如果拍摄者的手在拍摄过程中抖动,则所拍摄的图像会变得模糊。
为了防止因手抖所导致的图像模糊,一些图像采集器件采用由硬件元件实现的防抖模组,例如光学图像稳定器(OIS,optical image stabilizer)等。然而,这类防抖模组需要专门的零件和控制芯片,从而增加了的图像采集器件的成本。
发明内容
本发明的目的在于提供一种大体上消除了由于现有技术的限制和缺陷所导致的一个或多个问题的图像处理方法及图像采集装置。
根据本发明的一个方面,提供了一种图像处理方法,包括:确定图像采集装置是否满足预定条件;在所述图像采集装置满足预定条件时,提高所述图像采集装置的快门速度;以提高的快门速度采集针对同一目标对象的多个图像;以及基于所述多个图像来获得与所述目标对象对应的图像。
根据本发明的一个方面,提供了一种图像采集装置,包括:确定单元,用于确定所述图像采集装置是否满足预定条件;快门控制单元,用于在所述图像采集装置满足预定条件时,提高所述图像采集装置的快门速度;图像采集器,用于在所述快门控制单元的控制下、以提高的快门速度采集针对同一目标对象的多个图像;以及处理器,用于基于所述多个图像来获得与所述目标对象对应的图像。
由此可见,根据本发明的图像处理方法及图像采集装置,通过在所述图像采集装置满足预定条件时提高快门速度并针对同一目标对象采集多个图像,并且基于所述多个对象来获得与所述目标对象对应的图像,从而即使图像采集装置在拍摄时发生抖动也能获取相对清晰的图像,并且无需增加额外的硬件元件,节省了成本。
应理解的是,前面的一般描述和下面的详细描述两者都是示例性的,并且意图在于提供要求保护的技术的进一步说明。
附图说明
通过结合附图对本发明实施例进行更详细的描述,本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。除非明确指出,否则附图不应视为按比例绘制。在附图中,相同的参考标号通常代表相同组件或步骤。在附图中:
图1是示出根据本发明的图像处理方法的流程图;
图2是示出图1中所示的步骤S104的流程图;
图3A至图3B是示意性示出采集图像及目标对象的示意图;
图4是示出根据本发明一实施例的图像处理方法中进行位置匹配的示意图;
图5A至图5D是示出根据本发明另一实施例的图像处理方法中进行位置匹配的示意图;
图6A和图6B是分别示出根据本发明的图像处理方法中所采用的响应函数及其反函数的示图;
图7是示出根据本发明的图像处理方法中所采用的用以建立查找表的函数的示图;
图8是示出根据本发明的图像采集装置的配置的框图;以及
图9是示出图8中所示的处理器的配置的框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。基于本文所描述的实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。在本说明书和附图中,将采用相同的附图标记表示大体上相同的元素和功能,且将省略对这些元素和功能的重复性说明。此外,为了清楚和简洁,可以省略对于本领域所熟知的功能和构造的说明。
首先参照图1对根据本发明的图像处理方法进行说明。图1是示出根据本发明的图像处理方法100的流程图。根据本发明的图像处理方法100应用于图像采集装置。所述图像采集装置可以是带有图像采集器的电子设备,例如笔记本电脑、平板电脑、智能手机、个人数字助理、智能可穿戴设备等。
如图1中所示,在步骤S101,确定图像采集装置是否满足预定条件。
在步骤S101中,所述预定条件可以针对多种类型的参数,例如图像采集器的快门速度、环境光的亮度、图像采集装置的稳定性、以及它们的组合等。
具体而言,如果所述参数是图像采集器的快门速度,则所述预定条件可以是图像采集装置的图像采集器的快门速度小于预设值。相应地,在步骤S101,所述确定图像采集装置是否满足预定条件包括:获取所述图像采集装置在当前环境中的快门速度;确定所述快门速度是否小于预设值。
如果所述参数是环境光的亮度,则所述预定条件可以是环境光的亮度小于预设值。相应地,在步骤101,所述确定图像采集装置是否满足预定条件包括:获取环境光的亮度;确定所述环境光的亮度是否小于预设值。应注意的是,这里所述的环境光的亮度仅是出于便于描述的考虑而采用的一种概括性的描述,在具体应用场景下,所述环境光的亮度可以存在几种不同的内涵,例如其既可以表示图像采集装置所处的环境中的总体环境光的亮度,还可以表示图像采集器的取景范围中的环境光的亮度,也可以表示图像采集器的焦点处的环境光的亮度。图像采集装置的用户可以根据不同的应用场景来对所述环境光的亮度进行定义或选择性设置。
值得一提的是,上述两种参数(快门速度和环境光的亮度)通常是相互关联的。例如,当前主流的图像采集装置通常具有自动调节快门速度的功能,当环境光的亮度较低时,适当降低快门速度,以增加曝光时间;而当环境光的亮度较高时,适当提高快门速度,以减少曝光时间。因此,在步骤S101中,所述预定条件所针对的参数可以是上述两种参数的组合,因而对所述预定条件的判断是两种参数的双重判断。也就是说,在步骤S101,所述确定图像采集装置是否满足预定条件包括:获取所述图像采集装置在当前环境中的快门速度;确定所述快门速度是否小于预设值;并且获取环境光的亮度;确定所述环境光的亮度是否小于预设值。这样做的好处在于可以提高所述预定条件判断的准确性。
此外,所述预定条件还可以是图像采集装置的稳定性,这里所述的稳定性仅是出于便于描述的考虑而采用的一种概括性的描述,其可以表示图像采集装置在预定时间阈值内的震动幅度和/或震动频率。相应地,在步骤S101,所述确定图像采集装置是否满足预定条件包括:获取所述图像采集装置在预定时间阈值内的震动幅度和/或震动频率;确定所述震动幅度和/或震动频率是否大于预设值。在该情形中,如果所述震动幅度或所述震动频率大于预设值,则可以认为图像采集装置正由用户握持,从而进入步骤S102;如果所述震动幅度或所述震动频率小于或等于预设值,则可以认为图像采集装置正置于固定平面或三角架上,从而不进入步骤S102。
虽然上文示例性示出了步骤S101中的预定条件以及如何确定是否满足所述预定条件,然而本发明并不限于此,本领域技术人员可以根据图像采集装置的类型、应用场景等的不同而对所述预定条件进行设置或选择,只要能够实现本发明的原理即可。
如图1中所示,如果步骤S101的确定结果为“是”,则进入步骤S102。
在步骤S102,提高所述图像采集装置的快门速度。
在下文中,将图像采集装置当前的快门速度简称为“快门速度”或“所述快门速度”,而将提高后的快门速度简称为“提高的快门速度”。
优选地,在步骤S102中,所述提高所述图像采集装置的快门速度包括:确定要针对同一目标对象拍摄的图像的数量;基于所述快门速度和所述数量确定提高的快门速度。例如,按照当前的快门速度的整数倍来提高快门速度,其中所述整数倍与确定要针对同一目标对象拍摄的图像的数量相同。例如,假定图像采集装置当前的快门速度是1/10秒,如果确定要针对同一目标对象拍摄的图像的数量是2个,则将当前的快门速度提高2倍,即提高的快门速度是1/20秒;如果确定要针对同一目标对象拍摄的图像的数量是3张,则将当前的快门速度提高3倍,即提高的快门速度是1/30秒。
此外,在上述情形中,还可以按照当前的快门速度的整数倍来提高快门速度,其中所述整数倍小于或大于确定要针对同一目标对象拍摄的图像的数量。例如,假定图像采集装置当前的快门速度是1/10秒,确定要针对同一目标对象拍摄的图像的数量是3张,将当前的快门速度提高2倍,即提高的快门速度是1/20。
此外,还可以不按照当前的快门速度的整数倍来提高快门速度。例如,假定图像采集装置当前的快门速度是1/10秒,将当前的快门速度提高1.8倍,即提高的快门速度是1/18秒。
虽然上文示例性示出了提高图像采集装置的快门速度的方式,然而本发明并不限于此,本领域技术人员可以根据图像采集装置的类型、应用场景等的不同而对提高的快门速度进行设置或选择,只要能够实现本发明的原理即可。
接下来进入步骤S103。
在步骤S103,以提高的快门速度采集针对同一目标对象的多个图像。
具体而言,优选地,以当前的快门速度的整数倍来提高快门速度并且以同样的整数倍来采集多个图像。例如,假定图像采集装置当前的快门速度是1/10秒,并且提高的快门速度是1/30秒,则以1/30秒的快门速度针对同一目标对象采集3个图像。
在下文中,如果没有特殊说明,将以当前的快门速度是1/10秒、提高的快门速度是1/30秒、采集3个图像为例进行说明。虽然上文示例性示出了当前的快门速度的整数倍和采集的多个图像的数量相同,然而本发明并不限于此,当前的快门速度的整数倍以及采集的多个图像的数量也可以不同。在上述情形中,还可以以1/30秒的快门速度针对同一目标对象采集2个图像或者5个图像。本领域技术人员根据本文的教导,可以将本文所描述的原理应用于其它的快门速度、提高的快门速度以及采集的多个图像的情形中。
接下来进入步骤S104。
在步骤S104,基于所述多个图像来获得与所述目标对象对应的图像。
具体而言,假定图像采集装置当前的快门速度是1/10秒,并且在步骤S102和步骤S103分别完成了如下操作:将快门速度提高至1/30秒,以1/30秒的快门速度针对同一目标对象采集3个图像。在步骤S104中,将所采集的3个图像进行诸如像素位置匹配、图像合成、曝光度调整等处理,从而获得与所述目标对象对应的图像。
下面将参照图2对步骤S104进行详细说明。图2是示出图1中所示的步骤S104的流程图。
如图2中所示,在步骤S201,改变所述多个图像的位置以使改变后的图像的像素位置匹配。
优选地,步骤S201中包括两个子步骤:第一子步骤,从所述多个图像中选择一个基准图像;以及第二子步骤,改变所述多个图像中除了所述基准图像之外的每个图像的位置以与所述基准图像匹配。
下面将对步骤S201中的两个子步骤进行详细说明,即对如何从所述多个图像中选择一个基准图像以及如何改变所述多个图像中除了所述基准图像之外的每个图像的位置进行详细说明。假定如下情形:图像采集装置当前的快门速度是1/10秒,提高的快门速度是1/30秒,以1/30秒的快门速度针对同一目标对象采集3个图像,即第1个图像、第2个图像和第3个图像。在下文中,为了便于描述,将步骤S201中的“改变所述多个图像中除了所述基准图像之外的每个图像的位置以与所述基准图像匹配”处理简称为“位置匹配”,并且将所述多个图像中除了所述基准图像之外的每个图像与所述基准图像匹配的位置简称“匹配位置”;如果在步骤S201中没有选择一个基准图像,则术语“位置匹配”还可以表示改变多个图像之间的位置从而使所述多个图像匹配;所述多个图像之间的匹配位置简称为“匹配位置”。
可以采用如下几种方式来选择基准图像并进行相应的位置匹配:
方式一:从上述3个图像中选择其中的第2个图像作为基准图像,改变第1个图像和第3个图像的位置,以使第1个图像和第3个图像与第2个图像匹配。由于这3个图像(第1个图像、第2个图像和第3个图像)是按顺序依次采集的,所以将第2个图像作为基准图像有利于减少第1个图像和第3个图像的位置改变量,从而相应地节省图像采集装置的运算量。
方式二:将最先采集的图像作为基准图像,即从上述3个图像中选择其中的第1个图像作为基准图像,改变第2个图像和第3个图像的位置,以使第2个图像和第3个图像的位置与第1个图像匹配。当用户用手握持图像采集装置时,用户的手的抖动幅度和频率通常比较细微,因此当采用较快的快门速度时,通常针对同一目标对象所采集的各个图像之间的位置偏移量比较细微。因此在上述情形中,如上文所述,由于各个图像之间的位置偏移比较细微,所以将第1个图像作为基准图像并不会显著增加第2个图像和第3个图像的位置改变量,即不会显著增加图像采集装置的运算量,并且将第1个图像作为基准图像,还可以在采集完第2个图像时便开始将已经采集的第2个图像与第1个图像进行位置匹配,从而节省运算时间。
方式三:计算上述3个图像的清晰度;将所述3个图像中具有最高清晰度的图像作为基准图像。对图像的清晰度的计算和识别是本领域较为公知的技术,这里仅结合本发明的原理作简要说明。例如,首先确定每个图像中的所述目标对象的轮廓,然后计算所述轮廓边缘的各个像素之间灰度值变化,从而判断所述轮廓边缘的敏锐程度,灰度值变化越大,所述轮廓的边缘处的光学密度或亮度的变化越敏锐、细节就越清晰。为了减少运算量,可以仅对所述轮廓的一部分边缘的各个像素之间的灰度值变化进行计算。此外,还可以对除了所述目标对象以外的其它对象的轮廓进行计算。在将具有最高清晰度的图像作为基准图像之后,改变其它两个图像的位置以与所述基准图像匹配。选择具有最高清晰度的图像作为基准图像有利于在后续的处理中提高图像的清晰度,尤其有利于提高步骤S202(稍后说明)中获得的合成图像的清晰度,并且减少所采集的多个图像中清晰度较低的图像对所述合成图像的影响。
虽然上文示例性示出了选择基准图像及相应的位置匹配的三种方式,然而本发明并不限于此。根据本发明的图像处理方法还可以根据具体使用情形来选择上述三种方式中的一种或多种。例如在不同的拍摄场景下为上述三种方式设置不同的优先级,例如,如果图像采集装置判断出抖动幅度和频率较大,则优先采用方式三来选择基准图像;如果图像采集装置判断出抖动幅度和频率较小,则优先采用方式一来选择基准图像;如果在上文所述的步骤S102中确定要针对同一目标对象拍摄的图像数量较多(例如大于5个),则优先采用方式二来选择基准图像。此外,在步骤S102中确定要针对同一目标对象拍摄的图像数量较多的情形中,根据本发明的图像处理方法还可以先采用方式三来选择清晰度最高和次高的两个图像进行合成从而生成基准图像。
此外,在步骤S201中,也可以无需从所述多个图像中选择一个基准图像,而是将所述多个图像共同向一个匹配位置移动。所述匹配位置可以同时兼顾所述多个图像的位置改变量,从而使所述多个图像的位置改变量总和最小。这样做的优点在于,可以避免在特定抖动状态下选择基准图像时出现较大偏差,例如,假定图像采集装置以“V”字形轨迹抖动并且在“V”字形轨迹的三个端点分别采集3个图像,如果将“V”字形轨迹的最低点选择作为基准图像,则其它两个图像的位置改变量较大。在该情形中,可以将“V”字形轨迹所包围的区域中的特定位置作为上文所述的匹配位置来移动所述3个图像,或者将“V”字形轨迹的上部两个端点处所采集的两个图像之一作为基准图像,从而减少各个图像的位置改变量总和。
下面将参照图3A至图3B、图4、图5A至图5D对步骤S201中的第二子步骤进行详细说明。图3A至图3B是示意性示出采集图像和目标对象的示意图。图4是示出根据本发明一实施例的图像处理方法中进行位置匹配的示意图。图5A至图5D是示出根据本发明另一实施例的图像处理方法中进行位置匹配的示意图。假定在步骤S201的第一子步骤中选择第2个图像作为基准图像。因此在步骤S201的第二子步骤中改变第1个图像和第3个图像的位置以与第2个图像匹配。
具体而言,可以先改变第1个图像的位置以使第1个图像与第2个图像匹配;然后再改变第3个图像的位置以使第3个图像与第2个图像匹配。然而本发明并不限于此,也可以先改变第3个图像的位置以使第3个图像与第2个图像匹配;然后再改变第1个图像的位置以使第1个图像与第2个图像匹配。
步骤S201的第二子步骤的关键在于确定第1个图像和第3个图像各自的位置改变量。下文将对如何确定第1个图像和第3个图像各自的位置改变量进行详细说明。
这里首先参照图3A和图3B对位置匹配的概念进行说明。图3A示出了第1个图像和第2个图像。第1个图像中的目标对象31以及第2个图像中的目标对象32是步骤S102和S103中所述的目标对象,即目标对象31和32是同一目标对象在两个不同图像中的显示。由图3A可见,由于用户握持图像采集装置时造成图像采集装置的抖动,因此目标对象31与目标对象32在各自图像中的相对位置彼此不同,目标对象31处于第1个图像偏左上的位置,目标对象32处于第2个图像偏右下的位置。图3B示出了以第2个图像为基准图像改变第1个图像的示意图。在理想情形中,改变第1个图像的位置之后,目标对象31与目标对象32两者完全重合。因此,在步骤S201的第二子步骤中改变第1个图像的位置以与第2个图像(基准图像)匹配的过程可以理解为使第1个图像的位置不断改变以便使第1个图像中的目标对象与第2个图像中的目标对象不断趋近直至二者重合或近似重合的过程,当二者重合或近似重合时,即可确定第1个图像位置改变量(沿横向和纵向)。同理,改变第3个图像的位置以与第2个图像匹配的过程也可以理解为使第3个图像的位置不断改变以便使第3个图像中的目标对象与第2个图像中的目标对象不断趋近直至二者重合或近似重合的过程。最后实现3个图像中的目标对象三者重合或近似重合。
根据本发明一优选实施例,可以根据各个图像的像素值来确定各个图像的位置改变量。具体而言,如图4中所示,将第1个图像或第3个图像的横向位置改变△x,并且将第1个图像或第3个图像的纵向位置改变△y,从而得到第1个图像与第2个图像的交叠区域(图4中w×h的阴影部分)或第3个图像与第2个图像的交叠区域(未示出),然后利用下面的方程式(1)来计算SAD值。
其中P1or3(x,y)表示第1个图像或第3个图像在交叠区域中的像素点(x,y)的像素值,P2(x,y)表示第2个图像在交叠区域中的像素点(x,y)的像素值。3个图像以及交叠区域均以像素为单元,因此w表示横向方向的w个像素点,h表示纵向方向的h个像素点,w×h表示交叠区域中的像素点的数量。
这里应注意的是,图4仅示出了将第1个图像向右下方向移动的情形,然而在确定第1个图像的位置改变量时,还应当对第1个图像向右上、左上、左下等几个方向移动的情形进行计算,因此所述位置改变量是矢量,其既包括位置改变量的大小(由△x和/或△y确定)还包括位置改变量的方向。
通过不断调整△x和/或△y,能够获得多个SAD值。在理想情形中,如果两个图像各自的阴影部分中的图像彼此重合或近似重合,在该情形中所获得的SAD值为零或近似为零。因此,可以认为,当SAD的值为零或近似为零时,即可根据此时的△x和/或△y及其方向确定第1个图像的位置改变量。然而在实际应用中,上述理想情形通常并不常见,因此可以在SAD的值小于预定阈值时,确定该SAD值对应的△x和/或△y及其方向为所述位置改变量。还可以将所获得的多个SAD值进行比较,将最小的SAD值所对应的△x和/或△y及其方向确定为所述位置改变量。确定第3个图像的位置改变量的过程与上文所述的确定第1个图像的位置改变量的过程相似,这里不再赘述。
由于在通常情况下,用户握持图像采集装置时手的抖动的幅度和频率不会过大,因此以提高的快门速度(1/30秒)所采集的3个图像之间的位置偏移通常也不会过大。这里为了便于描述,我们假定所采集的3个图像之间的位置偏移不超过5个像素的距离。因此,一方面,△x和△y均可采用像素为单位;另一方面,为了节省确定位置改变量时的计算量,可以将△x和△y分别设定在一定范围内。例如,将△x的范围设定为1至5个像素,将△y的范围设定为1至5个像素。如此,在图4中所示的情形中,第1个图像沿右下方向逐步改变位置,将通过上述方程式1获得25个SAD值;同理,沿右上、左上和左下方向也分别获得25个SAD值。通过对这100个SAD值进行比较,将最小的SAD值所对应的△x和/或△y及其方向确定为所述位置改变量。应注意的是,虽然上文以位置偏移不超过5个像素为例进行了说明,然而本领域技术人员可以理解的是,本发明并不限于此,本领域技术人员可以根据提高的快门速度以及图像采集装置的抖动情形调整上述△x和△y的范围,例如,△x和△y的范围可以设定为0至10个像素。
此外,在使用图像采集装置拍照时,用户通常仅对所拍摄的图像中的特定区域或特定区域中的特定对象感兴趣,或者特定区域或特定区域中的特定对象对用户的意义更大,因此在步骤S201的第二子步骤中还可以仅对该特定区域或该特定区域中的特定对象所对应的区域的像素值进行计算,而忽略图像中其它区域,由此可以减少步骤S201的第二子步骤的计算量。因此,在上文所述的实施例中,可以仅对3个图像中的一部分区域中的像素点进行计算。也就是说,在步骤S201的第二子步骤中,基于除了所述基准图像之外的每个图像的预定区域的像素值以及所述基准图像的预定区域的像素值,来确定除了所述基准图像之外的每个图像所改变的位置。
具体而言,可以将第1个图像中的目标对象31所在的区域设置为第一预定区域,并且将第2个图像中的目标对象32所在的区域设置为第二预定区域,这两个预定区域的形状和大小均相同,并且目标对象31相对于第一预定区域的位置与目标对象32相对于第二预定区域的位置彼此相同。
将第1个图像的横向位置改变△x,并且将第1个图像的纵向位置改变△y,从而得到第1个图像的第一预定区域与第2个图像的第二预定区域的交叠区域,假定该交叠区域的大小为a×b(a、b的单位为像素,a×b小于图4中w×h,然后通过上文所述的方程式(1)来计算该交叠区域的SAD值。由此,能够减少方程式(1)的计算量,从而能够减少步骤S201的第二子步骤的计算量。
此外,还可以将上文所述的第一预定区域和第二预定区域进一步缩小并使缩小后的区域分别与目标对象31、32相关联。例如,可以将第1个图像中的目标对象31设置为第一预定区域,并且将第2个图像中的目标对象32设置为第二预定区域;或者可以将第1个图像中的目标对象31中的一部分区域设置为第一预定区域,并且将第2个图像中的目标对象32中的一部分区域设置为第二预定区域。这样做的好处在于,既可以进一步减少步骤S201的第二子步骤的计算量,而且基于目标对象31、32来确定的第1个图像和第2个图像的各自的位置改变量也有利于提高确定位置改变量的精确性并有利于后续步骤S202中合成图像的精确性。
根据本发明另一优选实施例,在上文所述的仅对3个图像中的一部分区域中的像素点进行计算的情形中,可以对步骤S201的第二子步骤中确定位置改变量的过程进行进一步改进。例如,可以先确定第1个图像的在纵向方向的纵向位置改变量(矢量),然后再确定第1个图像在横向方向的横向位置改变量(矢量),将所述横向位置改变量和所述纵向位置改变量进行矢量求和即可得出第1个图像的位置改变量。此外,也可以先确定第1个图像的纵向位置改变量,再确定其横向位置改变量。确定第3个图像的位置改变量的过程与此类似,不再赘述。
下面将参照图5A至图5D对根据本发明另一优选实施例的图像处理方法确定位置改变量的过程进行详细说明。图5A至图5D是示出根据本发明另一优选实施例的图像处理方法中进行位置匹配的示意图。为了便于表述,在图5A至图5D中,以第2个图像为基准图像来确定第1个图像的位置改变量。本领域技术人员可以根据下文的描述来将本发明的原理应用于确定第3个图像的位置改变量的过程。
如图5A中所示,将第2个图像中的阴影部分的区域确定为预定区域42,并且预定区域42的长和宽分别为L和H(单位为像素)。以预定区域42构建x,y坐标系,其中,预定区域42的左下端点作为该坐标系的原点。如上文所述,由于用户握持图像采集装置时手的抖动的幅度和频率不会过大,因此这里假定第1个图像与第2个图像之间的位置偏移阈值是5个像素。然而本领域技术人员可以理解的是,本发明并不限于此,本领域技术人员可以根据提高的快门速度以及图像采集装置的抖动情形调整上述位置偏移阈值。
如图5B中所示,将第1个图像中的阴影部分的区域确定为预定区域41,并且预定区域41的长和宽分别为L和H(单位为像素)。以预定区域41构建x,y坐标系,其中,预定区域41的左下端点作为该坐标系的原点。在理想情形中(图像采集装置不抖动),预定区域41和预定区域42中的图像内容相同,即两个预定区域中对应的各个像素点的像素值相同。然而由于存在抖动情况,因此在第1个图像中,与预定区域42中的图像内容相同的区域可能是将预定区域41沿±x轴和/或±y轴方向移动后所确定的预定区域。本实施例意在通过不断调整第1个图像中的预定区域41的位置直至寻找到与第2个图像中的预定区域42相匹配的位置,从而确定预定区域41的位置移动量,并根据该位置移动量来确定第1个图像的位置改变量。
首先确定第1个图像的在纵向方向的纵向位置改变量。在第1个图像中,以像素为单位沿﹢y轴方向逐个像素移动预定区域41,共计移动5个像素,并获得5个新的预定区域41;以像素为单位沿﹣y轴方向逐个像素移动预定区域41,共计移动5个像素,并获得5个新的预定区域41;将这10个新的预定区域41中的各个预定区域的像素值与预定区域42中的像素值进行比较来确定纵向位置改变量。
可以利用下面的方程式(2)来将﹢y轴方向上5个新的预定区域41中的每个预定区域的像素值与预定区域42中的像素值进行比较。
其中,P1(x,y+△y)表示第1个图像中的新的预定区域41中的像素点(x,y+△y)的像素值,P2(x,y)表示第2个图像中的预定区域42中像素点(x,y)的像素值。L表示横向方向的L个像素点,H表示纵向方向的H个像素点,L×H表示预定区域中的像素点的数量。△y的值分别为1、2、3、4和5,对应获得5个SAD1。
可以利用下面的方程式(3)来将﹣y方向上5个新的预定区域41中的每个预定区域的像素值与预定区域42中的像素值进行比较。
其中,P1(x,y-△y)表示第1个图像中的新的预定区域41中的像素点(x,y-△y)的像素值,P2(x,y)表示第2个图像中的预定区域42中像素点(x,y)的像素值。L表示横向方向的L个像素点,H表示纵向方向的H个像素点,L×H表示预定区域中的像素点的数量。△y的值分别为1、2、3、4和5,对应获得5个SAD2。
将上文所述的5个SAD1与5个SAD2进行比较,其中最小的SAD1或SAD2对应的△y及其﹢y或﹣y方向即为第1个图像中的预定区域41沿纵向方向的位置移动量。相应地,所述△y及其﹢y或﹣y方向的相反方向,即为第1个图像的在纵向方向的纵向位置改变量。
此外,还可以将5个SAD1取平均值,将5个SAD2取平均值,比较两个平均值,将较小的平均值所对应的方向(﹢y或﹣y)的相反方向确定为第1个图像的纵向移动方向,例如5个SAD1的平均值小于5个SAD2的平均值,则﹣y方向是纵向移动方向;然后对5个SAD1进行比较,最小的SAD1对应的△y为第1个图像沿﹣y方向的位置改变量,即纵向位置改变量。这样做的好处在于,有利于减少误判,从而提高±y方向上确定位置改变量的精确性。
在确定了纵向位置改变量的基础上,再确定横向位置改变量。横向位置改变量的确定过程与上文所述的纵向位置改变量的确定过程相似,这里仅进行简要说明。这里假定,如图5C中所示,经过上文的计算,所确定的预定区域41沿纵向方向的位置移动量是沿﹢y方向移动1个像素,即△y=1,预定区域43为预定区域41沿﹢y方向移动1个像素所生成的新的预定区域,相应地,第1个图像的纵向位置改变量是沿﹣y方向移动1个像素。
在第1个图像中,以像素为单位沿﹢x轴方向逐个像素移动预定区域43,共计移动5个像素,并获得5个新的预定区域43;以像素为单位沿﹣x轴方向逐个像素移动预定区域43,共计移动5个像素,并获得5个新的预定区域43;将这10个新的预定区域43中的各个预定区域的像素值与预定区域42中的像素值进行比较来确定纵向位置改变量。
可以利用下面的方程式4和5来将±y轴方向上5个新的预定区域43中的每个预定区域的像素值与预定区域42中的像素值进行比较。
其中,△y的值分别为1、2、3、4和5,对应获得5个SAD3和5个SAD4。
将上文所述的5个SAD3与5个SAD4进行比较,其中最小的SAD3或SAD4对应的△x及其﹢x或﹣x方向即为预定区域43沿横向方向的位置移动量。相应地,所述△x及其﹢x或﹣x方向的相反方向,即为第1个图像的在横向方向的横向位置改变量。
将横向位置改变量与上文所确定的纵向位置改变量相结合进行矢量运算,即可确定第1个图像的位置改变量。这里假定,如图5D中所示,经过上文的计算,所确定的预定区域43沿横向方向的位置移动量是沿﹢x方向移动1个像素,即△x=1,相应地,第1个图像的横向位置改变量是沿﹣x方向移动1个像素。图5D中所示的预定区域44即为第1个图像中与第2预定区域42匹配的预定区域。因此,第1个图像的位置改变量是沿﹣x方向移动1个像素,沿﹣y方向移动1个像素。
此外,与上文确定纵向移动方向时类似,可以先对SAD3和SAD4取平均数,然后将﹢x或﹣x方向确定为横向移动方向,然后再从相应的SAD3或SAD4中确定△x。
虽然上文示例性示出了首先确定纵向位置改变量,再确定横向位置改变量的示例,然而本发明并不限于此。根据上文描述的原理,还可以首先确定横向位置改变量,再确定纵向位置改变量;也可以同时确定横向位置改变量和纵向位置改变量。
接下来进入步骤S202。
在步骤S202,合成所匹配的各个图像以得到一合成图像。
仍以上文所述的3个图像为例,在确定出第1个图像的位置改变量之后,按照所述位置改变量改变第1个图像的位置,使得第1个图像与第2个图像对应的像素匹配。经过步骤S201,第1个图像与第2个图像匹配的效果应如图3B中所示的那样,即第1个图像与第2个图像对应的像素近似重合或重合。在步骤S202中,对第1个图像与第2个图像的近似重合或重合的区域(下文简称匹配区域)进行合成来得到合成图像,而舍弃匹配区域之外的区域。如上文所述,由于用户握持图像采集装置时,手的抖动的幅度通常较小,因此所舍弃的区域也较小,因此舍去匹配区域以外的区域并不会严重影响合成图像的尺寸和分辨率。在下文中,如果没有特别说明,所述平均图像和所述合成图像均与所述匹配区域相对应。
具体而言,在步骤S202中,计算所述基准图像和与该基准图像匹配的各个图像的平均图像;对所述基准图像和所述平均图像进行加权而得到所述合成图像。
步骤S202中所述的生成合成图像的过程,可以理解为将基准图像和平均图像两者的匹配区域中对应的像素点的像素值进行加权计算,生成对应的合成图像中的像素点的像素值。同理,生成平均图像的过程也可以理解为将基准图像和其它图像(例如第1个图像)两者的匹配区域中对应的像素点的像素值进行平均计算。
本领域技术人员已知,通过获得所采集的多个图像的平均图像,有利于消除图像的噪音,然而如果该平均图像作为合成图像容易使合成图像产生“鬼影”现象。如果仅将基准图像作为合成图像,可以克服平均图像所导致的“鬼影”现象,但增大了图像的噪音。
因此,在步骤S202中,可以根据拍摄场景、目标对象等的不同而对基准图像和平均图像进行加权,即,赋予基准图像和平均图像不同的权重值,并基于这些权重值来对基准图像和平均图像进行合成,从而获得较佳的合成图像。
例如,如果拍摄场景为静态场景,或者目标对象为静态对象,则适当增大平均图像的权重,并减少基准图像的权重;如果拍摄场景为动态场景,或者目标对象为动态对象,则适当增大基准图像的权重,并减少平均图像的权重。
可以采用如下的方程式(6)来计算平均图像中的各个像素点的像素值。
其中,Pave(x,y)是平均图像中的坐标点(x,y)的像素值,Pi(x,y)是第i个图像的坐标点(x,y)的像素值。如果采集3个图像,则N=3,通过计算匹配区域中的各个像素点的Pave(x,y),即可获得3个图像的平均图像。
可以利用如下的方程式(7)来计算合成图像中的各个像素点的像素值。
Pt(x,y)=ω(x,y)P2(x,y)+(1-ω(x,y))Pave(x,y) (7)
其中,Pt(x,y)是合成图像中的坐标点(x,y)的像素值,P2(x,y)是第2个图像(即基准图像)中的坐标点(x,y)的像素值,ω(x,y)是基准图像的权重,1-ω(x,y)是平均图像的权重。
优选地,在步骤S202中,可以采用如下3个子步骤来确定基准图像和平均图像各自的权重并获得合成图像:
第一子步骤:基于所述平均图像计算所述多个图像的方差。
可以利用如下方程式(8)来计算方差:
其中,是所采集的N个图像在坐标点(x,y)的方差。
第二子步骤:基于所述方差计算用于所述基准图像的第一权重和用于所述平均图像的第二权重。
可以利用如下方程式(9)和(10)来计算第一权重。
σc 2(x,y)=max(0,σt 2(x,y)-σ2(x,y)) (9)
其中,ω(x,y)是第一权重,σ2(x,y)是预先设置的调整值。所述调整值可以根据快门速度、拍摄场景、目标对象等的不同而不同。用户也可以根据需要来对所述调整值进行设置。优选地,σ2(x,y)的值是0.2。通过上述方程式(9)和(10)可以看出设置所述调整值的目的在于:如果较大,则可以认为图像采集装置抖动较大或目标对象是运动对象,在该情形中,如果大于σ2(x,y),则越大,第一权重ω(x,y)越大,这样增加了基准图像在合成图像中所占的权重;如果小于σ2(x,y),则可以认为图像采集装置抖动较小或目标对象是静止对象,在该情形中,则第一权重ω(x,y)为零,这样将以平均图像作为合成图像。在计算出第一权重ω(x,y)之后,可以计算第二权重1-ω(x,y)。
第三子步骤:利用所述第一权重和第二权重对所述基准图像和所述平均图像进行加权而得到所述合成图像。
具体而言,在计算出第一权重ω(x,y)和第二权重1-ω(x,y)之后,可以利用上文所述的方程式(7)来获得合成图像。
接下来进入步骤S203。
在步骤S203,调整所述合成图像的曝光度而获得与所述目标对象对应的图像。
具体而言,步骤S203可以包括如下两个子步骤:
第一子步骤:预先确定所述图像采集装置的响应函数,该响应函数用于表征所述图像采集装置所采集的图像的像素值与环境光的关系。
通常,环境光与图像采集装置所采集的图像的像素值之间并不是线性关系,因此在上文所示的示例中,并不能将所采集的图像的像素值直接扩大3倍确定合成图像的曝光度。步骤S203的第一子步骤中预先确定的图像采集装置的响应函数可以是如图6A中所示的响应函数f。然而本发明并不限于此,响应函数可以随着图像采集装置的不同而不同,本领域技术人员可以针对不同的图像采集装置而设置所述响应函数,此外所述响应函数也可以在图像采集装置出厂时设置。
第二子步骤:基于所述响应函数和所述多个图像的数目来调整所述合成图像的曝光度,以获得与所述目标对象对应的图像。
根据图6A中所示的响应函数f以及上文所述的步骤S202所获得合成图像的像素值,可以获得所述合成图像的像素值所对应的环境光的值C1;然后将所获得的环境光的值C1扩大3倍来获得当前环境光的值C2,并且将图6A中所示的响应函数f进行反函数运算,获得图6B中所示的反函数f-1;然后根据当前环境光的值C2与反函数f-1来计算当前环境光的值C2所对应的像素值;重复步骤S203的第二子步骤直至将合成图像中的每个像素点的像素值均转换成与当前环境光的值C2所对应的像素值,即完成了合成图像的曝光度的调整。
优选地,在步骤S203的第二子步骤,还可以基于所述响应函数和所述多个图像的数目预先建立一关于像素值的查找表,该查找表记载了在以提高的快门速度拍摄的图像的像素值与未提高的快门速度拍摄的图像的像素值之间的非线性对应关系,并基于该查找表调整所述合成图像的曝光度。优选地,可以通过图7中所示的函数g来建立所述查找表。如图7中所示,纵坐标表示以1/T(结合上文的实例,T=10)秒的快门速度采集的图像的像素值,横坐标表示以3倍的快门速度(1/30秒)采集的图像的像素值或通过上述步骤所合成的合成图像的像素值。所述查找表可以预先存储在图像采集装置中,也可以随着图像采集装置的拍摄场景、快门速度等改变而生成新的查找表。
虽然上文示例性示出了步骤S104,然而本发明并不限于此。替换地,在步骤S104中,可以首先如上文参照步骤S201中所描述的那样,从所述多个图像中选择具有最高清晰度的图像作为基准图像;然后,如上文参照步骤S203所描述的那样,调整所述基准图像的曝光度而获得与所述目标对象对应的图像。因与上文所描述的处理相似,这里不再赘述。此时,在步骤S104中执行的处理操作更简单些,但是所获得的与所述目标对象对应的图像中可能具有更多噪声。当对所获得的图像的噪声性能要求较低的情况下,可以选择基准图像、并仅仅调整基准图像的曝光度而获得与所述目标对象对应的图像。
通过上文的描述可见,根据本发明的图像处理方法通过在所述图像采集装置满足预定条件时提高快门速度并针对同一目标对象采集多个图像,并且基于所述多个对象来获得与所述目标对象对应的图像,从而即使图像采集装置在拍摄时发生抖动也能采集到相对清晰的图像,并且无需增加额外的硬件元件,节省了成本。
下面参照图8对根据本发明的图像采集装置80进行说明。图8是示出根据本发明的图像采集装置80的配置的框图。图像采集装置80可以是带有图像采集器的电子设备,例如笔记本电脑、平板电脑、智能手机、个人数字助理、智能可穿戴设备等。此外,也可以将本发明的图像采集装置80作为上述电子设备的组件。
如图8中所示,图像采集装置80包括:确定单元81、快门控制单元82、图像采集器83以及处理器84。下面对图像采集装置80的上述组件进行详细说明。
确定单元81用于确定图像采集装置80是否满足预定条件。所述预定条件可以针对多种类型的参数,例如图像采集器83的快门速度、环境光的亮度、图像采集装置的稳定性、以及它们的组合等。
具体而言,如果所述参数是图像采集器的快门速度,则所述预定条件可以是图像采集装置的图像采集器的快门速度小于预设值。相应地,确定单元81获取图像采集装置80在当前环境中的快门速度,并在所述快门速度小于预设值时确定所述图像采集装置满足预定条件。
如果所述参数是环境光的亮度,则所述预定条件可以是环境光的亮度小于预设值。相应地,确定单元81获取环境光的亮度,并在所述环境光的亮度小于预设值时确定所述图像采集装置满足预定条件。应注意的是,这里所述的环境光的亮度仅是出于便于描述的考虑而采用的一种概括性的描述,在具体应用场景下,所述环境光的亮度可以存在几种不同的内涵,例如其既可以表示图像采集装置80所处的环境中的总体环境光的亮度,还可以表示图像采集器83的取景范围中的环境光的亮度,也可以表示图像采集器83的焦点处的环境光的亮度。图像采集装置80的用户可以根据不同的应用场景来对所述环境光的亮度进行定义或选择性设置。
值得一提的是,上述两种参数(快门速度和环境光的亮度)通常是相互关联的。例如,当前主流的图像采集装置通常具有自动调节快门速度的功能,当环境光的亮度较低时,适当降低快门速度,以增加曝光时间;而当环境光的亮度较高时,适当提高快门速度,以减少曝光时间。因此,确定单元81确定是否满足所述预定条件时所针对的参数可以是上述两种参数的组合,因而对所述预定条件的判断是两种参数的双重判断。也就是说,确定单元81获取图像采集装置80在当前环境中的快门速度并且获取环境光的亮度,并在所述快门速度小于预设值且所述环境光的亮度小于预设值时确定所述图像采集装置满足预定条件。这样做的好处在于可以提高所述预定条件判断的准确性。
此外,所述预定条件还可以是图像采集装置80的稳定性,这里所述的稳定性仅是出于便于描述的考虑而采用的一种概括性的描述,其可以表示图像采集装置80在预定时间阈值内的震动幅度和/或震动频率。相应地,确定单元81获取图像采集装置80在预定时间阈值内的震动幅度和/或震动频率,并在所述震动幅度和/或震动频率大于预设值时确定所述图像采集装置满足预定条件。在该情形中,如果确定单元81确定所述震动幅度和/或所述震动频率大于预设值,则可以认为图像采集装置80正由用户握持。如果确定单元81确定所述震动幅度和/或所述震动频率小于或等于预设值,则可以认为图像采集装置80正置于固定平面或三角架上。
虽然上文示例性示出了预定条件以及确定单元81如何确定是否满足所述预定条件,然而本发明并不限于此,本领域技术人员可以根据图像采集装置80的类型、应用场景等的不同而对所述预定条件进行设置或选择,只要能够实现本发明的原理即可。
快门控制单元82用于在图像采集装置80满足预定条件时,提高图像采集装置80的快门速度。
这里应注意的是,将图像采集装置80当前的快门速度简称为“快门速度”或“所述快门速度”,而将提高后的快门速度简称为“提高的快门速度”。
优选地,快门控制单元82确定要针对同一目标对象拍摄的图像的数量,并基于所述快门速度和所述数量确定提高的快门速度。例如,快门控制单元82按照当前的快门速度的整数倍来提高快门速度,其中所述整数倍与确定要针对同一目标对象拍摄的图像的数量相同。例如,假定图像采集装置80当前的快门速度是1/10秒,如果确定要针对同一目标对象拍摄的图像的数量是2个,则将当前的快门速度提高2倍,即提高的快门速度是1/20;如果确定要针对同一目标对象拍摄的图像的数量是3张,则将当前的快门速度提高3倍,即提高的快门速度是1/30秒。
此外,在上述情形中,快门控制单元82还可以按照当前的快门速度的整数倍来提高快门速度,其中所述整数倍小于或大于确定要针对同一目标对象拍摄的图像的数量。例如,假定图像采集装置80当前的快门速度是1/10秒,快门控制单元82确定要针对同一目标对象拍摄的图像的数量是3张,将当前的快门速度提高2倍,即提高的快门速度是1/20秒。
此外,快门控制单元82还可以不按照当前的快门速度的整数倍来提高快门速度。例如,假定图像采集装置80当前的快门速度是1/10秒,快门控制单元82将当前的快门速度提高1.8倍,即提高的快门速度是1/18秒。
虽然上文示例性示出了快门控制单元82提高图像采集装置80的快门速度的方式,然而本发明并不限于此,本领域技术人员可以根据图像采集装置80的类型、应用场景等的不同而对提高的快门速度进行设置或选择,只要能够实现本发明的原理即可。
图像采集器83用于在快门控制单元82的控制下、以提高的快门速度采集针对同一目标对象的多个图像。
具体而言,优选地,图像采集器83在快门控制单元82的控制下以当前的快门速度的整数倍来提高快门速度并且以同样的整数倍来采集多个图像。例如,假定图像采集装置80当前的快门速度是1/10秒,并且提高的快门速度是1/30秒,则以1/30秒的快门速度针对同一目标对象采集3个图像。
在下文中,如果没有特殊说明,将以当前的快门速度是1/10秒、提高的快门速度是1/30秒、采集3个图像为例进行说明。本领域技术人员根据本文的教导,可以将本文所描述的原理应用于其它的快门速度、提高的快门速度以及采集的多个图像的情形中。
虽然上文示例性示出了当前的快门速度的整数倍和采集的多个图像的数量相同,然而本发明并不限于此,当前的快门速度的整数倍以及采集的多个图像的数量也可以不同。在上述情形中,还可以以1/30秒的快门速度针对同一目标对象采集2个图像或者5个图像。
处理器84用于基于所述多个图像来获得与所述目标对象对应的图像。
具体而言,假定图像采集装置80当前的快门速度是1/10秒,并且图像采集器83在快门控制单元82的控制下将快门速度提高至1/30秒,以1/30秒的快门速度针对同一目标对象采集3个图像。处理器84将所采集的3个图像进行诸如像素位置匹配、图像合成、曝光度调整等处理,从而获得与所述目标对象对应的图像。
下面将参照图9对处理器84进行详细说明。图9是示出图8中所示的处理器84的配置的框图。
如图9中所示,处理器84包括:像素匹配模块91、合成模块92以及曝光度调整模块93。
首先对像素匹配模块91进行说明。像素匹配模块91用于改变所述多个图像的位置以使改变后的图像的像素位置匹配。
优选地,如图9中所示,像素匹配模块91包括:基准选择子模块911和匹配子模块912。
基准选择子模块911用于从所述多个图像中选择一个基准图像。
匹配子模块912用于改变所述多个图像中除了所述基准图像之外的每个图像的位置以与所述基准图像匹配。
下面将对基准选择子模块911和匹配子模块912进行详细说明,即对如何从所述多个图像中选择一个基准图像以及如何改变所述多个图像中除了所述基准图像之外的每个图像的位置进行详细说明。假定如下情形:图像采集装置80当前的快门速度是1/10秒,提高的快门速度是1/30秒,以1/30秒的快门速度针对同一目标对象采集3个图像,即第1个图像、第2个图像和第3个图像。在下文中,为了便于描述,将匹配子模块912进行的“改变所述多个图像中除了所述基准图像之外的每个图像的位置以与所述基准图像匹配”的处理简称为“位置匹配”,并且将所述多个图像中除了所述基准图像之外的每个图像与所述基准图像匹配的位置简称“匹配位置”;如果没有选择一个基准图像,则术语“位置匹配”还可以表示改变多个图像之间的位置从而使所述多个图像匹配;所述多个图像之间的匹配位置简称为“匹配位置”。
像素匹配模块91可以采用如下几种方式来选择基准图像(由基准选择子模块911完成)并进行相应的位置匹配:
方式一:从上述3个图像中选择其中的第2个图像作为基准图像,改变第1个图像和第3个图像的位置,以使第1个图像和第3个图像与第2个图像匹配。由于这3个图像(第1个图像、第2个图像和第3个图像)是按顺序依次采集的,所以将第2个图像作为基准图像有利于减少第1个图像和第3个图像的位置改变量,从而相应地节省图像采集装置的运算量。
方式二:将最先采集的图像作为基准图像,即从上述3个图像中选择其中的第1个图像作为基准图像,改变第2个图像和第3个图像的位置,以使第2个图像和第3个图像的位置与第1个图像匹配。当用户用手握持图像采集装置80时,用户的手的抖动幅度和频率通常比较细微,因此当采用较快的快门速度时,通常针对同一目标对象所采集的各个图像之间的位置偏移量比较细微。因此在上述情形中,如上文所述,由于各个图像之间的位置偏移比较细微,所以将第1个图像作为基准图像并不会显著增加第2个图像和第3个图像的位置改变量,即不会显著增加图像采集装置的运算量,并且将第1个图像作为基准图像,还可以在采集完第2个图像时便开始将已经采集的第2个图像与第1个图像进行位置匹配,从而节省运算时间。
方式三:计算上述3个图像的清晰度;将所述3个图像中具有最高清晰度的图像作为基准图像。对图像的清晰度的计算和识别是本领域较为公知的技术,这里仅结合本发明的原理作简要说明。例如,首先确定每个图像中的所述目标对象的轮廓,然后计算所述轮廓边缘的各个像素之间灰度值变化,从而判断所述轮廓边缘的敏锐程度,灰度值变化越大,所述轮廓的边缘处的光学密度或亮度的变化越敏锐、细节就越清晰。为了减少运算量,可以仅对所述轮廓的一部分边缘的各个像素之间的灰度值变化进行计算。此外,还可以对除了所述目标对象以外的其它对象的轮廓进行计算。在将具有最高清晰度的图像作为基准图像之后,改变其它两个图像的位置以与所述基准图像匹配。选择具有最高清晰度的图像作为基准图像有利于在后续的处理中提高图像的清晰度,尤其有利于提高合成模块92(稍后说明)所获得的合成图像的清晰度,并且减少所采集的多个图像中清晰度较低的图像对所述合成图像的影响。
虽然上文示例性示出了像素匹配模块91选择基准图像及相应的位置匹配的三种方式,然而本发明并不限于此。根据本发明的图像采集装置80还可以根据具体使用情形来选择上述三种方式中的一种或多种。例如在不同的拍摄场景下为上述三种方式设置不同的优先级,例如,如果图像采集装置80判断出抖动幅度和频率较大,则优先采用方式三来选择基准图像;如果图像采集装置80判断出抖动幅度和频率较小,则优先采用方式一来选择基准图像;如果在上文所述的快门控制单元82确定要针对同一目标对象拍摄的图像数量较多(例如大于5个),则优先采用方式二来选择基准图像。此外,在快门控制单元82确定要针对同一目标对象拍摄的图像数量较多的情形中,根据本发明的图像采集装置80还可以先采用方式三来选择清晰度最高和次高的两个图像进行合成从而生成基准图像。
此外,像素匹配模块91也可以无需从所述多个图像中选择一个基准图像,而是将所述多个图像共同向一个匹配位置移动。所述匹配位置可以同时兼顾所述多个图像的位置改变量,从而使所述多个图像的位置改变量总和最小。这样做的优点在于,可以避免在特定抖动状态下选择基准图像时出现较大偏差,例如,假定图像采集装置以“V”字形轨迹抖动并且在“V”字形轨迹的三个端点分别采集3个图像,如果将“V”字形轨迹的最低点选择作为基准图像,则其它两个图像的位置改变量较大。在该情形中,可以将“V”字形轨迹所包围的区域中的特定位置作为上文所述的匹配位置来移动所述3个图像,或者将“V”字形轨迹的上部两个端点处所采集的两个图像之一作为基准图像,从而减少各个图像的位置改变量总和。
下面将参照图3A至图3B、图4、图5A至图5D、图9对匹配子模块912进行详细说明。图3A至图3B是示意性示出采集图像和目标对象的示意图。图4是示出根据本发明一实施例的图像采集装置进行位置匹配的示意图。图5A至图5D是示出根据本发明另一实施例的图像采集装置进行位置匹配的示意图。假定基准选择子模块911选择第2个图像作为基准图像。因此匹配子模块912改变第1个图像和第3个图像的位置以与第2个图像匹配。
具体而言,匹配子模块912可以先改变第1个图像的位置以使第1个图像与第2个图像匹配;然后再改变第3个图像的位置以使第3个图像与第2个图像匹配。然而本发明并不限于此,匹配子模块912也可以先改变第3个图像的位置以使第3个图像与第2个图像匹配;然后再改变第1个图像的位置以使第1个图像与第2个图像匹配。
匹配子模块912进行位置匹配的关键在于确定第1个图像和第3个图像各自的位置改变量。下文将对匹配子模块912如何确定第1个图像和第3个图像各自的位置改变量进行详细说明。
这里首先参照图3A和图3B对位置匹配的概念进行说明。图3A示出了第1个图像和第2个图像。第1个图像中的目标对象31以及第2个图像中的目标对象32是图像采集器83所采集的多个图像中的目标对象,即目标对象31和32是同一目标对象在两个不同图像中的显示。由图3A可见,由于用户握持图像采集装置80时造成图像采集装置80的抖动,因此目标对象31与目标对象32在各自图像中的相对位置彼此不同,目标对象31处于第1个图像偏左上的位置,目标对象32处于第2个图像偏右下的位置。图3B示出了以第2个图像为基准图像改变第1个图像的示意图。在理想情形中,改变第1个图像的位置之后,目标对象31与目标对象32两者完全重合。因此,匹配子模块912改变第1个图像的位置以与第2个图像(基准图像)匹配的过程可以理解为使第1个图像的位置不断改变以便使第1个图像中的目标对象与第2个图像中的目标对象不断趋近直至二者重合或近似重合的过程,当二者重合或近似重合时,即可确定第1个图像位置改变量(沿横向和纵向)。同理,匹配子模块912改变第3个图像的位置以与第2个图像匹配的过程也可以理解为使第3个图像的位置不断改变以便使第3个图像中的目标对象与第2个图像中的目标对象不断趋近直至二者重合或近似重合的过程。最后实现3个图像中的目标对象三者重合或近似重合。
根据本发明一优选实施例,匹配子模块912可以根据各个图像的像素值来确定各个图像的位置改变量。具体而言,如图4中所示,将第1个图像或第3个图像的横向位置改变△x,并且将第1个图像或第3个图像的纵向位置改变△y,从而得到第1个图像与第2个图像的交叠区域(图4中w×h的阴影部分)或第3个图像与第2个图像的交叠区域(未示出),然后利用下面的方程式(1)来计算SAD值。
其中P1or3(x,y)表示第1个图像或第3个图像在交叠区域中的像素点(x,y)的像素值,P2(x,y)表示第2个图像在交叠区域中的像素点(x,y)的像素值。3个图像以及交叠区域均以像素为单元,因此w表示横向方向的w个像素点,h表示纵向方向的h个像素点,w×h表示交叠区域中的像素点的数量。
这里应注意的是,图4仅示出了将第1个图像向右下方向移动的情形,然而在确定第1个图像的位置改变量时,还应当对第1个图像向右上、左上、左下等几个方向移动的情形进行计算,因此所述位置改变量是矢量,其既包括位置改变量的大小(由△x和/或△y确定)还包括位置改变量的方向。
通过不断调整△x和/或△y,能够获得多个SAD值。在理想情形中,如果两个图像各自的阴影部分中的图像彼此重合或近似重合,在该情形中所获得的SAD值为零或近似为零。因此,可以认为,当SAD的值为零或近似为零时,即可根据此时的△x和/或△y及其方向确定第1个图像的位置改变量。然而在实际应用中,上述理想情形通常并不常见,因此可以在SAD的值小于预定阈值时,确定该SAD值对应的△x和/或△y及其方向为所述位置改变量。还可以将所获得的多个SAD值进行比较,将最小的SAD值所对应的△x和/或△y及其方向确定为所述位置改变量。确定第3个图像的位置改变量的过程与上文所述的确定第1个图像的位置改变量的过程相似,这里不再赘述。
由于在通常情况下,用户握持图像采集装置80时手的抖动的幅度和频率不会过大,因此图像采集器83以提高的快门速度(1/30秒)所采集的3个图像之间的位置偏移通常也不会过大。这里为了便于描述,我们假定所采集的3个图像之间的位置偏移不超过5个像素的距离。因此,一方面,△x和△y均可采用像素为单位;另一方面,为了节省匹配子模块912确定位置改变量时的计算量,可以将△x和△y分别设定在一定范围内。例如,将△x的范围设定为1至5个像素,将△y的范围设定为1至5个像素。如此,在图4中所示的情形中,第1个图像沿右下方向逐步改变位置,将通过上述方程式1获得25个SAD值;同理,沿右上、左上和左下方向也分别获得25个SAD值。通过对这100个SAD值进行比较,将最小的SAD值所对应的△x和/或△y及其方向确定为所述位置改变量。应注意的是,虽然上文以位置偏移不超过5个像素为例进行了说明,然而本领域技术人员可以理解的是,本发明并不限于此,本领域技术人员可以根据提高的快门速度以及图像采集装置的抖动情形调整上述△x和△y的范围,例如,△x和△y的范围可以设定为0至10个像素。
此外,在使用图像采集装置80拍照时,用户通常仅对所拍摄的图像中的特定区域或特定区域中的特定对象感兴趣,或者特定区域或特定区域中的特定对象对用户的意义更大,因此匹配子模块912还可以仅对该特定区域或该特定区域中的特定对象所对应的区域的像素值进行计算,而忽略图像中其它区域,由此可以减少匹配子模块912的计算量。因此,在上文所述的实施例中,匹配子模块912可以仅对3个图像中的一部分区域中的像素点进行计算。也就是说,匹配子模块912基于除了所述基准图像之外的每个图像的预定区域的像素值以及所述基准图像的预定区域的像素值,来确定除了所述基准图像之外的每个图像所改变的位置。
具体而言,匹配子模块912可以将第1个图像中的目标对象31所在的区域设置为第一预定区域,并且将第2个图像中的目标对象32所在的区域设置为第二预定区域,这两个预定区域的形状和大小均相同,并且目标对象31相对于第一预定区域的位置与目标对象32相对于第二预定区域的位置彼此相同。
将第1个图像的横向位置改变△x,并且将第1个图像的纵向位置改变△y,从而得到第1个图像的第一预定区域与第2个图像的第二预定区域的交叠区域,假定该交叠区域的大小为a×b(a、b的单位为像素,a×b小于图4中w×h,然后通过上文所述的方程式(1)来计算该交叠区域的SAD值。由此,能够减少方程式(1)的计算量,从而能够减少匹配子模块912的计算量。
此外,还可以将上文所述的第一预定区域和第二预定区域进一步缩小并使缩小后的区域分别与目标对象31、32相关联。例如,匹配子模块912可以将第1个图像中的目标对象31设置为第一预定区域,并且将第2个图像中的目标对象32设置为第二预定区域;或者可以将第1个图像中的目标对象31中的一部分区域设置为第一预定区域,并且将第2个图像中的目标对象32中的一部分区域设置为第二预定区域。这样做的好处在于,既可以进一步减少匹配子模块912的计算量,而且基于目标对象31、32来确定的第1个图像和第2个图像的各自的位置改变量也有利于提高确定位置改变量的精确性并有利于后续合成模块92合成图像的精确性。
根据本发明另一优选实施例,在上文所述的仅对3个图像中的一部分区域中的像素点进行计算的情形中,可以对匹配子模块912确定位置改变量的过程进行进一步改进。例如,匹配子模块912可以先确定第1个图像的在纵向方向的纵向位置改变量(矢量),然后再确定第1个图像在横向方向的横向位置改变量(矢量),将所述横向位置改变量和所述纵向位置改变量进行矢量求和即可得出第1个图像的位置改变量。此外,匹配子模块912也可以先确定第1个图像的纵向位置改变量,再确定其横向位置改变量。确定第3个图像的位置改变量的过程与此类似,不再赘述。
下面将参照图5A至图5D对根据本发明另一优选实施例的图像采集装置确定位置改变量的过程进行详细说明。图5A至图5D是示出根据本发明另一优选实施例的图像采集装置进行位置匹配的示意图。为了便于表述,在图5A至图5D中,以第2个图像为基准图像来确定第1个图像的位置改变量。本领域技术人员可以根据下文的描述来将本发明的原理应用于确定第3个图像的位置改变量的过程。
如图5A中所示,匹配子模块912将第2个图像中的阴影部分的区域确定为预定区域42,并且预定区域42的长和宽分别为L和H(单位为像素)。以预定区域42构建x,y坐标系,其中,预定区域42的左下端点作为该坐标系的原点。如上文所述,由于用户握持图像采集装置80时手的抖动的幅度和频率不会过大,因此这里假定第1个图像与第2个图像之间的位置偏移阈值是5个像素。然而本领域技术人员可以理解的是,本发明并不限于此,本领域技术人员可以根据提高的快门速度以及图像采集装置的抖动情形调整上述位置偏移阈值。
如图5B中所示,匹配子模块912将第1个图像中的阴影部分的区域确定为预定区域41,并且预定区域41的长和宽分别为L和H(单位为像素)。以预定区域41构建x,y坐标系,其中,预定区域41的左下端点作为该坐标系的原点。在理想情形中(图像采集装置80不抖动),预定区域41和预定区域42中的图像内容相同,即两个预定区域中对应的各个像素点的像素值相同。然而由于存在抖动情况,因此在第1个图像中,与预定区域42中的图像内容相同的区域可能是将预定区域41沿±x轴和/或±y轴方向移动后所确定的预定区域。本实施例意在通过不断调整第1个图像中的预定区域41的位置直至寻找到与第2个图像中的预定区域42相匹配的位置,从而确定预定区域41的位置移动量,并根据该位置移动量来确定第1个图像的位置改变量。
首先匹配子模块912确定第1个图像的在纵向方向的纵向位置改变量。在第1个图像中,以像素为单位沿﹢y轴方向逐个像素移动预定区域41,共计移动5个像素,并获得5个新的预定区域41;以像素为单位沿﹣y轴方向逐个像素移动预定区域41,共计移动5个像素,并获得5个新的预定区域41;将这10个新的预定区域41中的各个预定区域的像素值与预定区域42中的像素值进行比较来确定纵向位置改变量。
可以利用下面的方程式(2)来将﹢y轴方向上5个新的预定区域41中的每个预定区域的像素值与预定区域42中的像素值进行比较。
其中,P1(x,y+△y)表示第1个图像中的新的预定区域41中的像素点(x,y+△y)的像素值,P2(x,y)表示第2个图像中的预定区域42中像素点(x,y)的像素值。L表示横向方向的L个像素点,H表示纵向方向的H个像素点,L×H表示预定区域中的像素点的数量。△y的值分别为1、2、3、4和5,对应获得5个SAD1。
可以利用下面的方程式(3)来将﹣y方向上5个新的预定区域41中的每个预定区域的像素值与预定区域42中的像素值进行比较。
其中,P1(x,y-△y)表示第1个图像中的新的预定区域41中的像素点(x,y-△y)的像素值,P2(x,y)表示第2个图像中的预定区域42中像素点(x,y)的像素值。L表示横向方向的L个像素点,H表示纵向方向的H个像素点,L×H表示预定区域中的像素点的数量。△y的值分别为1、2、3、4和5,对应获得5个SAD2。
匹配子模块912将上文所述的5个SAD1与5个SAD2进行比较,其中最小的SAD1或SAD2对应的△y及其﹢y或﹣y方向即为第1个图像中的预定区域41沿纵向方向的位置移动量。相应地,所述△y及其﹢y或﹣y方向的相反方向,即为第1个图像的在纵向方向的纵向位置改变量。
此外,匹配子模块912还可以将5个SAD1取平均值,将5个SAD2取平均值,比较两个平均值,将较小的平均值所对应的方向(﹢y或﹣y)的相反方向确定为第1个图像的纵向移动方向,例如5个SAD1的平均值小于5个SAD2的平均值,则﹣y方向是纵向移动方向;然后对5个SAD1进行比较,最小的SAD1对应的△y为第1个图像沿﹣y方向的位置改变量,即纵向位置改变量。这样做的好处在于,有利于减少误判,从而提高±y方向上确定位置改变量的精确性。
在确定了纵向位置改变量的基础上,匹配子模块912再确定横向位置改变量。横向位置改变量的确定过程与上文所述的纵向位置改变量的确定过程相似,这里仅进行简要说明。这里假定,如图5C中所示,经过上文的计算,所确定的预定区域41沿纵向方向的位置移动量是沿﹢y方向移动1个像素,即△y=1,预定区域43为预定区域41沿﹢y方向移动1个像素所生成的新的预定区域,相应地,第1个图像的纵向位置改变量是沿﹣y方向移动1个像素。
在第1个图像中,以像素为单位沿﹢x轴方向逐个像素移动预定区域43,共计移动5个像素,并获得5个新的预定区域43;以像素为单位沿﹣x轴方向逐个像素移动预定区域43,共计移动5个像素,并获得5个新的预定区域43;将这10个新的预定区域43中的各个预定区域的像素值与预定区域42中的像素值进行比较来确定纵向位置改变量。
可以利用下面的方程式4和5来将±y轴方向上5个新的预定区域43中的每个预定区域的像素值与预定区域42中的像素值进行比较。
其中,△y的值分别为1、2、3、4和5,对应获得5个SAD3和5个SAD4。
匹配子模块912将上文所述的5个SAD3与5个SAD4进行比较,其中最小的SAD3或SAD4对应的△x及其﹢x或﹣x方向即为预定区域43沿横向方向的位置移动量。相应地,所述△x及其﹢x或﹣x方向的相反方向,即为第1个图像的在横向方向的横向位置改变量。
匹配子模块912将横向位置改变量与上文所确定的纵向位置改变量相结合进行矢量运算,即可确定第1个图像的位置改变量。这里假定,如图5D中所示,经过上文的计算,所确定的预定区域43沿横向方向的位置移动量是沿﹢x方向移动1个像素,即△x=1,相应地,第1个图像的横向位置改变量是沿﹣x方向移动1个像素。图5D中所示的预定区域44即为第1个图像中与第2预定区域42匹配的预定区域。因此,第1个图像的位置改变量是沿﹣x方向移动1个像素,沿﹣y方向移动1个像素。
此外,与上文确定纵向移动方向时类似,匹配子模块912可以先对SAD3和SAD4取平均数,然后将﹢x或﹣x方向确定为横向移动方向,然后再从相应的SAD3或SAD4中确定△x。
虽然上文示例性示出了匹配子模块912首先确定纵向位置改变量,再确定横向位置改变量的示例,然而本发明并不限于此。根据上文描述的原理,匹配子模块912还可以首先确定横向位置改变量,再确定纵向位置改变量;也可以同时确定横向位置改变量和纵向位置改变量。
下面对合成模块92进行详细说明。合成模块92用于合成所匹配的各个图像以得到一合成图像。
仍以上文所述的3个图像为例,在像素匹配模块91确定出第1个图像的位置改变量之后,按照所述位置改变量改变第1个图像的位置,使得第1个图像与第2个图像对应的像素匹配。如此,第1个图像与第2个图像匹配的效果应如图3B中所示的那样,即第1个图像与第2个图像对应的像素近似重合或重合。合成模块92对第1个图像与第2个图像的近似重合或重合的区域(下文简称匹配区域)进行合成来得到合成图像,而舍弃匹配区域之外的区域。如上文所述,由于用户握持图像采集装置时,手的抖动的幅度通常较小,因此所舍弃的区域也较小,因此舍去匹配区域以外的区域并不会严重影响合成图像的尺寸和分辨率。在下文中,如果没有特别说明,所述平均图像和所述合成图像均与所述匹配区域相对应。
优选地,合成模块92包括:第一计算子模块921和第二计算子模块922。
第一计算子模块921用于计算所述基准图像和与该基准图像匹配的各个图像的平均图像。
合成模块92生成合成图像的过程,可以理解为将基准图像和平均图像两者的匹配区域中对应的像素点的像素值进行加权计算,生成对应的合成图像中的像素点的像素值。同理,第一计算子模块921生成平均图像的过程也可以理解为将基准图像和其它图像(例如第1个图像)两者的匹配区域中对应的像素点的像素值进行平均计算。
本领域技术人员已知,通过获得所采集的多个图像的平均图像,有利于消除图像的噪音,然而如果该平均图像作为合成图像容易使合成图像产生“鬼影”现象。如果仅将基准图像作为合成图像,可以克服平均图像所导致的“鬼影”现象,但增大了图像的噪音。
因此,合成模块92可以根据拍摄场景、目标对象等的不同而对基准图像和平均图像进行加权,即,赋予基准图像和平均图像不同的权重值,并基于这些权重值来对基准图像和平均图像进行合成,从而获得较佳的合成图像。
例如,如果拍摄场景为静态场景,或者目标对象为静态对象,则适当增大平均图像的权重,并减少基准图像的权重;如果拍摄场景为动态场景,或者目标对象为动态对象,则适当增大基准图像的权重,并减少平均图像的权重。
可以采用如下的方程式(6)来计算平均图像中的各个像素点的像素值。
其中,Pave(x,y)是平均图像中的坐标点(x,y)的像素值,Pi(x,y)是第i个图像的坐标点(x,y)的像素值。如果采集3个图像,则N=3,通过计算匹配区域中的各个像素点的Pave(x,y),即可获得3个图像的平均图像。
可以利用如下的方程式(7)来计算合成图像中的各个像素点的像素值。
Pt(x,y)=ω(x,y)P2(x,y)+(1-ω(x,y))Pave(x,y) (7)
其中,Pt(x,y)是合成图像中的坐标点(x,y)的像素值,P2(x,y)是第2个图像(即基准图像)中的坐标点(x,y)的像素值,ω(x,y)是基准图像的权重,1-ω(x,y)是平均图像的权重。
第二计算子模块922用于对所述基准图像和所述平均图像进行加权而得到所述合成图像。
优选地,第二计算子模块922可以通过如下处理来确定基准图像和平均图像各自的权重并获得合成图像:
首先,基于所述平均图像计算所述多个图像的方差。
可以利用如下方程式(8)来计算方差:
其中,是所采集的N个图像在坐标点(x,y)的方差。
其次,基于所述方差计算用于所述基准图像的第一权重和用于所述平均图像的第二权重。
可以利用如下方程式(9)和(10)来计算第一权重。
σc 2(x,y)=max(0,σt 2(x,y)-σ2(x,y)) (9)
其中,ω(x,y)是第一权重,σ2(x,y)是预先设置的调整值。所述调整值可以根据快门速度、拍摄场景、目标对象等的不同而不同。用户也可以根据需要来对所述调整值进行设置。优选地,σ2(x,y)的值是0.2。通过上述方程式(9)和(10)可以看出设置所述调整值的目的在于:如果较大,则可以认为图像采集装置抖动较大或目标对象是运动对象,在该情形中,如果大于σ2(x,y),则越大,第一权重ω(x,y)越大,这样增加了基准图像在合成图像中所占的权重;如果小于σ2(x,y),则可以认为图像采集装置抖动较小或目标对象是静止对象,在该情形中,则第一权重ω(x,y)为零,这样将以平均图像作为合成图像。在计算出第一权重ω(x,y)之后,可以计算第二权重1-ω(x,y)。
最后,利用所述第一权重和第二权重对所述基准图像和所述平均图像进行加权而得到所述合成图像。
具体而言,在计算出第一权重ω(x,y)和第二权重1-ω(x,y)之后,可以利用上文所述的方程式(7)来获得合成图像。
下面对曝光度调整模块93进行详细说明。曝光度调整模块93用于调整所述合成图像的曝光度而获得与所述目标对象对应的图像。
优选地,曝光度调整模块93包括:响应确定子模块931和调整子模块932。
具体而言,响应确定子模块931用于预先确定图像采集装置80的响应函数,该响应函数用于表征图像采集装置80所采集的图像的像素值与环境光的关系。
通常,环境光与图像采集装置80所采集的图像的像素值之间并不是线性关系,因此在上文所示的示例中,并不能将所采集的图像的像素值直接扩大3倍确定合成图像的曝光度。响应确定子模块931预先确定的图像采集装置80的响应函数可以是如图6A中所示的响应函数f。然而本发明并不限于此,响应函数可以随着图像采集装置80的不同而不同,本领域技术人员可以针对不同的图像采集装置80而设置所述响应函数,此外所述响应函数也可以在图像采集装置80出厂时设置。
调整子模块932用于基于所述响应函数和所述多个图像的数目来调整所述合成图像的曝光度,以获得与所述目标对象对应的图像。
调整子模块932根据图6A中所示的响应函数f以及合成模块92所获得合成图像的像素值,可以获得所述合成图像的像素值所对应的环境光的值C1;然后将所获得的环境光的值C1扩大3倍来获得当前环境光的值C2,并且将图6A中所示的响应函数f进行反函数运算,获得图6B中所示的反函数f-1;然后根据当前环境光的值C2与反函数f-1来计算当前环境光的值C2所对应的像素值;调整子模块932重复上述处理直至将合成图像中的每个像素点的像素值均转换成与当前环境光的值C2所对应的像素值,即完成了合成图像的曝光度的调整。
优选地,调整子模块932还可以基于所述响应函数和所述多个图像的数目预先建立一关于像素值的查找表,该查找表记载了在以提高的快门速度拍摄的图像的像素值与未提高的快门速度拍摄的图像的像素值之间的非线性对应关系,并基于该查找表调整所述合成图像的曝光度。优选地,调整子模块932可以通过图7中所示的函数g来建立所述查找表。如图7中所示,纵坐标表示以1/T(结合上文的实例,T=10)秒的快门速度采集的图像的像素值,横坐标表示以3倍的快门速度(1/30秒)采集的图像的像素值或通过上述步骤所合成的合成图像的像素值。所述查找表可以预先存储在图像采集装置80中,也可以随着图像采集装置80的拍摄场景、快门速度等改变而生成新的查找表。
虽然上文示例性示出了处理器84的处理,然而本发明并不限于此。处理器84可以首先如上文像素匹配模块91所进行的处理那样,从所述多个图像中选择具有最高清晰度的图像作为基准图像;然后,如上文曝光度调整模块93所进行的处理那样,调整所述基准图像的曝光度而获得与所述目标对象对应的图像。因与上文所描述的处理相似,这里不再赘述。此时,在步骤S104中执行的处理操作更简单些,但是所获得的与所述目标对象对应的图像中可能具有更多噪声。当对所获得的图像的噪声性能要求较低的情况下,可以选择基准图像、并仅仅调整基准图像的曝光度而获得与所述目标对象对应的图像。
通过上文的描述可见,根据本发明的图像采集装置通过在所述图像采集装置满足预定条件时提高快门速度并针对同一目标对象采集多个图像,并且基于所述多个对象来获得与所述目标对象对应的图像,从而即使图像采集装置在拍摄时发生抖动也能采集到相对清晰的图像,并且无需增加额外的硬件元件,节省了成本。
需要说明的是,本说明书中所使用的术语仅出于描述特定实施方式的目的,而非意在对本发明进行限制。除非上下文另外明确指出,否则如本文中所使用的单数形式的“一”、“一个”和“该”也意在包括复数形式。术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本领域技术人员可以意识到,本文中所公开的实施例能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
本领域技术人员应该理解的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,但本领域的技术人员可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明权利要求书的范围。
Claims (17)
1.一种图像处理方法,包括:
确定图像采集装置是否满足预定条件;
在所述图像采集装置满足预定条件时,提高所述图像采集装置的快门速度;
以提高的快门速度采集针对同一目标对象的多个图像;以及
基于所述多个图像来获得与所述目标对象对应的图像;
其中,所述基于所述多个图像来获得与所述目标对象对应的图像包括:从所述多个图像中选择一个基准图像;改变所述多个图像中除了所述基准图像之外的每个图像的位置以与所述基准图像匹配;计算基准图像和与该基准图像匹配的各个图像的平均图像;对所述基准图像和所述平均图像进行加权而得到合成图像;以及调整所述合成图像的曝光度而获得与所述目标对象对应的图像。
2.根据权利要求1的图像处理方法,其中,所述确定图像采集装置是否满足预定条件包括:
获取所述图像采集装置在当前环境中的快门速度;以及
确定所述快门速度是否小于预设值。
3.根据权利要求1的图像处理方法,其中,所述提高所述图像采集装置的快门速度包括:
确定要针对同一目标对象拍摄的图像的数量;以及
基于所述快门速度和所述数量确定提高的快门速度。
4.根据权利要求1所述的图像处理方法,其中,所述改变所述多个图像中除了所述基准图像之外的每个图像的位置以与所述基准图像匹配包括:
基于除了所述基准图像之外的每个图像的预定区域的像素值以及所述基准图像的预定区域的像素值,来确定除了所述基准图像之外的每个图像所改变的位置。
5.根据权利要求1的图像处理方法,其中,从所述多个图像中选择一个基准图像包括:
计算所述多个图像的清晰度;以及
将所述多个图像中具有最高清晰度的图像作为基准图像。
6.根据权利要求1的图像处理方法,其中,所述对所述基准图像和所述平均图像进行加权而得到所述合成图像包括:
基于所述平均图像计算所述多个图像的方差;
基于所述方差计算用于所述基准图像的第一权重和用于所述平均图像的第二权重;以及
利用所述第一权重和第二权重对所述基准图像和所述平均图像进行加权而得到所述合成图像。
7.根据权利要求1的图像处理方法,其中,所述调整所述合成图像的曝光度而获得与所述目标对象对应的图像包括:
预先确定所述图像采集装置的响应函数,该响应函数用于表征所述图像采集装置所采集的图像的像素值与环境光的关系;以及
基于所述响应函数和所述多个图像的数目来调整所述合成图像的曝光度,以获得与所述目标对象对应的图像。
8.根据权利要求7的图像处理方法,其中,基于所述响应函数和所述多个图像的数目来调整所述合成图像的曝光度包括:
基于所述响应函数和所述多个图像的数目预先建立一关于像素值的查找表,该查找表记载了在以提高的快门速度拍摄的图像的像素值与未提高的快门速度拍摄的图像的像素值之间的非线性对应关系;以及
基于该查找表调整所述合成图像的曝光度。
9.一种图像采集装置,包括:
确定单元,用于确定所述图像采集装置是否满足预定条件;
快门控制单元,用于在所述图像采集装置满足预定条件时,提高所述图像采集装置的快门速度;
图像采集器,用于在所述快门控制单元的控制下、以提高的快门速度采集针对同一目标对象的多个图像;以及
处理器,用于基于所述多个图像来获得与所述目标对象对应的图像;
其中,所述处理器包括:像素匹配模块,用于改变所述多个图像的位置以使改变后的图像的像素位置匹配;合成模块,用于合成所匹配的各个图像以得到一合成图像;以及曝光度调整模块,用于调整所述合成图像的曝光度而获得与所述目标对象对应的图像;
其中,所述像素匹配模块包括:基准选择子模块,用于从所述多个图像中选择一个基准图像;以及匹配子模块,用于改变所述多个图像中除了所述基准图像之外的每个图像的位置以与所述基准图像匹配,所述合成模块包括:第一计算子模块,用于计算基准图像和与该基准图像匹配的各个图像的平均图像;以及第二计算子模块,用于对所述基准图像和所述平均图像进行加权而得到所述合成图像。
10.根据权利要求9的图像采集装置,其中,所述确定单元获取所述图像采集装置在当前环境中的快门速度,并在所述快门速度小于预设值时确定所述图像采集装置满足预定条件。
11.根据权利要求9的图像采集装置,其中,所述快门控制单元确定要针对同一目标对象拍摄的图像的数量,并基于所述快门速度和所述数量确定提高的快门速度。
12.根据权利要求9所述的图像采集装置,其中,
所述匹配子模块基于除了所述基准图像之外的每个图像的预定区域的像素值以及所述基准图像的预定区域的像素值,来确定除了所述基准图像之外的每个图像所改变的位置。
13.根据权利要求9的图像采集装置,其中,所述基准选择子模块计算所述多个图像的清晰度,并将所述多个图像中具有最高清晰度的图像作为基准图像。
14.根据权利要求9的图像采集装置,其中,所述第二计算子模块基于所述平均图像计算所述多个图像的方差,基于所述方差计算用于所述基准图像的第一权重和用于所述平均图像的第二权重,利用所述第一权重和第二权重对所述基准图像和所述平均图像进行加权而得到所述合成图像。
15.根据权利要求9的图像采集装置,其中,所述曝光度调整模块包括:
响应确定子模块,用于预先确定所述图像采集装置的响应函数,该响应函数用于表征所述图像采集装置所采集的图像的像素值与环境光的关系;以及
调整子模块,用于基于所述响应函数和所述多个图像的数目来调整所述合成图像的曝光度,以获得与所述目标对象对应的图像。
16.根据权利要求15的图像采集装置,其中,所述调整子模块基于所述响应函数和所述多个图像的数目预先建立一关于像素值查找表,基于该查找表调整所述合成图像的曝光度,
其中,所述查找表记载了在以提高的快门速度拍摄的图像的像素值与未提高的快门速度拍摄的图像的像素值之间的非线性对应关系。
17.一种电子设备,包括如权利要求9到16中任一项所述的图像采集装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510756207.6A CN105227851B (zh) | 2015-11-09 | 2015-11-09 | 图像处理方法及图像采集装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510756207.6A CN105227851B (zh) | 2015-11-09 | 2015-11-09 | 图像处理方法及图像采集装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105227851A CN105227851A (zh) | 2016-01-06 |
CN105227851B true CN105227851B (zh) | 2019-09-24 |
Family
ID=54996501
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510756207.6A Active CN105227851B (zh) | 2015-11-09 | 2015-11-09 | 图像处理方法及图像采集装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105227851B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105578146B (zh) * | 2016-01-07 | 2019-01-11 | 浙江宇视科技有限公司 | 一种机芯防抖处理方法及装置 |
CN106454094A (zh) * | 2016-10-19 | 2017-02-22 | 广东欧珀移动通信有限公司 | 拍摄方法、装置以及移动终端 |
CN107995432A (zh) * | 2016-10-26 | 2018-05-04 | 努比亚技术有限公司 | 一种实现慢门拍照的方法和装置 |
CN107395991B (zh) * | 2017-08-31 | 2020-01-10 | Oppo广东移动通信有限公司 | 图像合成方法、装置、计算机可读存储介质和计算机设备 |
CN110084765B (zh) * | 2019-05-05 | 2021-08-06 | Oppo广东移动通信有限公司 | 一种图像处理方法、图像处理装置及终端设备 |
CN110072061B (zh) * | 2019-05-31 | 2021-02-09 | 努比亚技术有限公司 | 一种交互式拍摄方法、移动终端及存储介质 |
CN111314611A (zh) * | 2020-02-26 | 2020-06-19 | 浙江大华技术股份有限公司 | 一种多个运动对象的拍摄方法及装置 |
CN112672055A (zh) * | 2020-12-25 | 2021-04-16 | 维沃移动通信有限公司 | 拍照方法、装置及设备 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101056354A (zh) * | 2006-04-14 | 2007-10-17 | 佳能株式会社 | 图像摄取装置及其控制方法、图像处理装置和图像处理方法 |
CN102972020A (zh) * | 2010-06-30 | 2013-03-13 | Lg伊诺特有限公司 | 相机模块和驱动相机模块的方法 |
CN104954656A (zh) * | 2014-03-24 | 2015-09-30 | 联想(北京)有限公司 | 一种信息处理方法和装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI394097B (zh) * | 2009-10-12 | 2013-04-21 | Nat Univ Tsing Hua | 移動物體的偵測方法以及偵測系統 |
JP5489897B2 (ja) * | 2010-07-22 | 2014-05-14 | パナソニック株式会社 | ステレオ測距装置及びステレオ測距方法 |
CN103606132B (zh) * | 2013-10-31 | 2016-04-13 | 西安电子科技大学 | 基于空域和时域联合滤波的多帧数字图像去噪方法 |
-
2015
- 2015-11-09 CN CN201510756207.6A patent/CN105227851B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101056354A (zh) * | 2006-04-14 | 2007-10-17 | 佳能株式会社 | 图像摄取装置及其控制方法、图像处理装置和图像处理方法 |
CN102972020A (zh) * | 2010-06-30 | 2013-03-13 | Lg伊诺特有限公司 | 相机模块和驱动相机模块的方法 |
CN104954656A (zh) * | 2014-03-24 | 2015-09-30 | 联想(北京)有限公司 | 一种信息处理方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN105227851A (zh) | 2016-01-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105227851B (zh) | 图像处理方法及图像采集装置 | |
US8767085B2 (en) | Image processing methods and apparatuses to obtain a narrow depth-of-field image | |
CN113454982B (zh) | 用于使图像稳定化的电子装置及其操作方法 | |
US9288392B2 (en) | Image capturing device capable of blending images and image processing method for blending images thereof | |
JP5567235B2 (ja) | 画像処理装置、撮影装置、プログラム及び画像処理方法 | |
JP4487191B2 (ja) | 画像処理装置および画像処理プログラム | |
US9055217B2 (en) | Image compositing apparatus, image compositing method and program recording device | |
US8830363B2 (en) | Method and apparatus for estimating point spread function | |
JP6074254B2 (ja) | 画像処理装置およびその制御方法 | |
JPWO2004077820A1 (ja) | 画像撮像処理方法 | |
JP2010020758A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
CN111062881A (zh) | 图像处理方法及装置、存储介质、电子设备 | |
WO2015001835A1 (ja) | 撮像装置 | |
US20160044241A1 (en) | Image processing apparatus for generating wide-angle image by compositing plural images, image processing method, storage medium storing image processing program, and image pickup apparatus | |
US9007471B2 (en) | Digital photographing apparatus, method for controlling the same, and computer-readable medium | |
CN111372000A (zh) | 视频防抖方法和装置、电子设备及计算机可读存储介质 | |
EP3267675B1 (en) | Terminal device and photographing method | |
JP2007306436A (ja) | 撮像装置 | |
JP2014220717A (ja) | 画像処理装置及び方法 | |
JP2018181070A (ja) | 画像処理装置および画像処理方法 | |
JP2017212698A (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
JP6554009B2 (ja) | 画像処理装置、その制御方法、プログラム及び記録媒体 | |
US20220408022A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP2020036091A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP6548409B2 (ja) | 画像処理装置、その制御方法、および制御プログラム、並びに撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |