CN111709879B - 图像处理方法、图像处理装置及终端设备 - Google Patents
图像处理方法、图像处理装置及终端设备 Download PDFInfo
- Publication number
- CN111709879B CN111709879B CN202010553736.7A CN202010553736A CN111709879B CN 111709879 B CN111709879 B CN 111709879B CN 202010553736 A CN202010553736 A CN 202010553736A CN 111709879 B CN111709879 B CN 111709879B
- Authority
- CN
- China
- Prior art keywords
- image
- matrix
- filtering
- processing
- guide
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 120
- 238000003672 processing method Methods 0.000 title claims abstract description 27
- 238000001914 filtration Methods 0.000 claims abstract description 87
- 238000000034 method Methods 0.000 claims abstract description 28
- 239000011159 matrix material Substances 0.000 claims description 176
- 238000004590 computer program Methods 0.000 claims description 23
- 230000008569 process Effects 0.000 claims description 14
- 230000008859 change Effects 0.000 claims description 7
- 238000005070 sampling Methods 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 8
- 239000013598 vector Substances 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000011176 pooling Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000004913 activation Effects 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20224—Image subtraction
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本申请适用于图像处理技术领域,提供了图像处理方法、图像处理装置、终端设备及计算机可读存储介质,一种图像处理方法,包括:获取输入图像;对所述输入图像的分辨率进行调整,获得第一图像,其中,所述第一图像的分辨率低于所述输入图像;对所述第一图像进行目标处理,获得第二图像;根据所述第一图像和所述第二图像,生成引导图像;根据所述引导图像和所述输入图像,通过导向滤波生成输出图像,其中,所述输出图像的分辨率与所述输入图像相同。通过上述方法,可以提高对分辨率较高的图像的图像处理速度。
Description
技术领域
本申请属于图像处理技术领域,尤其涉及图像处理方法、图像处理装置、终端设备及计算机可读存储介质。
背景技术
随着技术的发展,目前各类终端设备中的图像的分辨率也越来越高。而在对高分辨率的图像进行诸如去噪等处理时,由于图像的尺寸较大,导致图像处理时所消耗的时长较长,所要占用的设备资源较多,从而难以高效快速地实现对高分辨率的图像的处理任务,影响用户体验。
发明内容
本申请实施例提供了图像处理方法、图像处理装置、终端设备及计算机可读存储介质,可以提高对高分辨率的图像的图像处理速度。
第一方面,本申请实施例提供了一种图像处理方法,包括:
获取输入图像;
对上述输入图像的分辨率进行调整,获得第一图像,其中,上述第一图像的分辨率低于上述输入图像;
对上述第一图像进行目标处理,获得第二图像;
根据上述第一图像和上述第二图像,生成引导图像;
根据上述引导图像和上述输入图像,通过导向滤波生成输出图像,其中,上述输出图像的分辨率与上述输入图像相同。
第二方面,本申请实施例提供了一种图像处理装置,包括:
获取模块,用于获取输入图像;
第一处理模块,用于对上述输入图像的分辨率进行调整,获得第一图像,其中,上述第一图像的分辨率低于上述输入图像;
第二处理模块,用于对上述第一图像进行目标处理,获得第二图像;
第一生成模块,用于根据上述第一图像和上述第二图像,生成引导图像;
第二生成模块,用于根据上述引导图像和上述输入图像,通过导向滤波生成输出图像,其中,上述输出图像的分辨率与上述输入图像相同。
第三方面,本申请实施例提供了一种终端设备,包括存储器、处理器、显示器以及存储在上述存储器中并可在上述处理器上运行的计算机程序,其特征在于,上述处理器执行上述计算机程序时实现如第一方面上述的图像处理方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,上述计算机可读存储介质存储有计算机程序,上述计算机程序被处理器执行时实现如第一方面上述的图像处理方法。
第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行上述第一方面中上述的图像处理方法。
本申请实施例与现有技术相比存在的有益效果是:本申请实施例中,在获取输入图像之后,可以对上述输入图像的分辨率进行调整,获得相应的第一图像;此时,由于上述第一图像的分辨率低于上述输入图像,因此,对上述第一图像进行目标处理的处理速度较快;在对上述第一图像进行目标处理获得第二图像之后,可以根据上述第一图像和上述第二图像,生成引导图像,此时,上述引导图像可以表示目标处理所导致的图像纹理变化;然后,根据上述引导图像和上述输入图像,通过导向滤波生成输出图像,从而可以根据上述引导图像通过导向滤波改变上述输入图像的纹理,将上述目标处理作用到上述输入图像中,并获得分辨率与上述输入图像相同的输出图像。
通过本申请实施例,可以对降低分辨率所得到的第一图像进行目标处理,以提升处理速度,然后获得能够反映上述目标处理的处理效果的引导图像,再根据上述引导图像,通过导向滤波对上述输入图像进行滤波,获得与上述输入图像分辨率相同的输出图像,从而可以快速高效地实现对高分辨率图像的处理,并且可以获得同样高分辨率的输出图像。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一实施例提供的一种图像处理方法的流程示意图;
图2是本申请一实施例提供的步骤S104的一种流程示意图;
图3是本申请一实施例涉及的数据处理流程的一种示意图;
图4是本申请一实施例提供的一种图像处理装置的结构示意图;
图5是本申请一实施例提供的终端设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本申请说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本申请实施例提供的图像处理方法可以应用于服务器、台式电脑、手机、平板电脑、可穿戴设备、车载设备、增强现实(augmented reality,AR)/虚拟现实(virtualreality,VR)设备、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、个人数字助理(personal digital assistant,PDA)等终端设备上,本申请实施例对终端设备的具体类型不作任何限制。
具体地,图1示出了本申请实施例提供的一种图像处理方法的流程图,该图像处理方法可以应用于终端设备。
该图像处理方法可以包括:
步骤S101,获取输入图像。
本申请实施例中,上述输入图像的来源可以有多种,示例性的,上述输入图像可以是上述用户通过终端设备的相机拍摄的图像;或者,可以是终端设备中的相机所采集预览画面中的一帧预览图像;或者,也可以是终端设备本地所保存的图像;或者,还可以是在线观看的视频或本地保存的视频中的某一帧图像,或者,可以是终端设备通过预设接口或者预设通信方式等获取到的图像等等。
步骤S102,对上述输入图像的分辨率进行调整,获得第一图像,其中,上述第一图像的分辨率低于上述输入图像。
本申请实施例中,调整上述输入图像的分辨率的方式可以有多种,例如,可以是根据预设比例缩小上述输入图像的尺寸之后得到上述第一图像;或者,也可以通过均值池化(Average Pooling)对上述输入图像进行处理,以获得上述第一图像。其中,上述第一图像的分辨率可以根据具体应用场景来确定。
步骤S103,对上述第一图像进行目标处理,获得第二图像。
本申请实施例中,示例性的,上述目标处理可以包括去噪处理、图像增强处理或者图像分割等等。其中,上述目标处理的具体处理方式可以根据实际场景需求来确定。例如,若在移动终端上应用本申请实施例,则由于硬件性能等限制条件,此时,所采用的目标处理往往为轻量级的处理方式,以降低对移动终端的资源的占用,减少用户的等待时长,提升用户体验。
其中,由于上述第一图像的分辨率较低,所以,对上述第一图像进行目标处理的处理速度往往也较快。
在一些实施例中,上述目标处理可以包括去噪处理或者图像增强处理。
本申请实施例中,上述去噪处理的具体处理方式可以有多种。例如,上述去噪处理可以通过Non-Local Means算法、Block-matching and 3D filtering(BM3D)算法或者基于深度学习的去噪算法来实现。
其中,在一种具体示例中,为了降低处理时长,提升处理效率,可以选择轻量级的去噪模型,例如,可以选择基于U-net的去噪模型。
具体的,上述基于U-net的去噪模型可以包括对称结构,上述对称结构中包括编码部分和解码部分,其中,上述对称结构的编码部分可以包括两个卷积层和4个下采样块,每个下采样块中包括1个下采样层和2个卷积层;上述第一图像输入上述编码部分之后,依次经过上述两个卷积层和4个下采样块,获得256维的H/32*W/32的特征图,该256维的H/32*W/32的特征图通过均值池化处理获得全局特征向量。
在获得上述全局特征向量之后,上述全局特征向量可以输入上述对称结构的解码部分,其中,上述解码部分的任一上采样块可以与上述编码部分中对应的下采样块建立跳跃连接(skip connection)。具体的,上述全局特征向量可以通过全连接层和拷贝操作得到128*H/16*W/16的向量,该向量与编码部分中同样尺度的向量进行拼接,经过3个建立了跳跃链接(skip connection)的上采样块后,得到与输入的第一图像大小相同的特征图,接着将其与肆意图像进行对应元素相乘,得到输出特征图,再将上述输出特征图输入一个反卷积层和一个卷积层得到第二图像。
需要说明的是,上述具体示例仅作为本实施例中执行目标处理的一种示例性说明,而非对本申请的限制。
步骤S104,根据上述第一图像和上述第二图像,生成引导图像。
本申请实施例中,上述引导图像可以用于导向滤波中。其中,上述导向滤波可以指通过引导图像,对输入图像进行滤波处理,使得所得到的滤波结果在大体上与输入图像相似,但是纹理部分与引导图像相似。也即是说,上述引导图像确定了上述导向滤波所得到的输出图像的纹理变化情况,即图像的梯度变化情况。
上述引导图像可以根据上述第一图像和上述第二图像的图像差异而生成,相应的,上述引导图像可以指示上述目标处理所导致的图像纹理变化情况。示例性的,可以分别对上述第一图像和第二图像进行相应的预处理(例如,对上述第二图像进行特征提取(如卷积运算)、均值滤波等处理,对上述第一图像进行滤波等处理),再通过相减、相除等方式进行对预处理的结果比对,并通过上采样等方法获得上述引导图像,以在上述引导图像中体现上述目标处理所导致的图像纹理变化情况。
步骤S105,根据上述引导图像和上述输入图像,通过导向滤波生成输出图像,其中,上述输出图像的分辨率与上述输入图像相同。
目前常用的图像处理方法中,往往是直接对上述输入图像进行目标处理,以获得想要的图像。但由于输入图像往往分辨率较高,导致处理速度慢,耗时较长,用户体验不佳。
而本申请实施例中,可以将目标处理转移到降低分辨率之后的第一图像上进行,以提升处理速度,再根据引导图像和上述导向滤波,将目标处理再作用于上述输入图像中,从而提升了处理速度,减小了处理耗时,同时还可以获得与输入图像同样高分辨率的输出图像。
在一些实施例中,在获得上述输出图像之后,还包括:
将上述输出图像和输入图像进行图像拼接,获得第四图像;
将上述第四图像输入至少一个残差结构,获得第五图像。
本申请实施例中,由于上述输出图像可能会相对于输入图像丢失了一些细节,因此,可以通过将上述输出图像和输入图像进行图像拼接,然后输入至少一个残差结构来补充一些细节信息,使得最终获得的第五图像的图像质量更好。其中,上述残差结构也可以称为残差块(residual block)。任一上述残差结构可以为包含一个shortcut connection的N层网络,上述残差结构的网络中可以包括全连接层,也可以包括卷积层。其中,上述shortcut connection可以将上述残差结构的输入与其中的N层网络的最后一层的输出进行连接,以用于优化上述残差结构的输出。在一些示例中,上述残差结构可以有4个,但上述残差结构的个数可以根据具体场景、实验结果等来设置和调整。在此不作限定,
在一些实施例中,任一上述残差结构包括两层卷积层和位于上述两层卷积层之间的激活层。
本申请实施例中,任一上述残差结构可以包括两层卷积层。其中,示例性的,每一层卷积层的卷积核大小可以为3*3,对应的通道数为4或者8。上述激活层的激活函数可以为线性整流函数(Rectified Linear Unit,ReLU)等。此外,在一些示例中,在上述残差结构的shortcut connection之后,还可以通过一个ReLU激活函数,以获得上述残差结构的输出。
在一些实施例中,上述步骤S104具体包括:
步骤S201,通过第一卷积结构对上述第一图像进行处理,获得第三图像;
步骤S202,对上述第二图像进行均值滤波,获得第一滤波矩阵;
步骤S203,对上述第三图像进行均值滤波,获得第二滤波矩阵;
步骤S204,对上述第二图像的像素矩阵的平方进行均值滤波,获得第三滤波矩阵;
步骤S205,对上述第三图像的像素矩阵的平方进行均值滤波,获得第四滤波矩阵;
步骤S206,根据上述第一滤波矩阵、第二滤波矩阵、第三滤波矩阵和第四滤波矩阵,生成第一矩阵;
步骤S207,对上述第一矩阵进行上采样处理,获得上述引导图像。
本申请实施例中,上述第一卷积结构可以包括若干个卷积层,以用于特征提取。示例性的,上述第一卷积结构可以包括两个卷积层。其中,可以通过上述第一滤波矩阵、第二滤波矩阵、第三滤波矩阵和第四滤波矩阵的相应元素之间的相减、相除等方式得到上述第一矩阵中的各个元素,以通过上述第一矩阵反映上述第一图像和上述第二图像之间的差异。
本申请实施例中,上述上采样处理可以通过双线性插值(bilinear)、转置卷积(deconvolution)或者反池化(unpooling)等方式来实现。
可选的,上述根据上述第一滤波矩阵、第二滤波矩阵、第三滤波矩阵和第四滤波矩阵,生成第一矩阵,包括:
将上述第三滤波矩阵与第一滤波矩阵和第二滤波矩阵的乘积相减,获得第二矩阵;
将上述第四滤波矩阵与上述第二滤波矩阵的平方相减,获得第三矩阵;
根据上述第二矩阵和上述第三矩阵,获得第四矩阵,其中,上述第四矩阵中的任一元素为上述第二矩阵中的对应元素除以上述第三矩阵中的对应元素所得到的值;
将上述第一滤波矩阵与上述第四矩阵和第二滤波矩阵的乘积相减,获得第五矩阵;
将上述第四矩阵和上述第五矩阵进行拼接,获得上述第一矩阵。
本申请实施例中,上述第四矩阵和上述第五矩阵的拼接方式可以有多种,例如,上述第四矩阵和上述第五矩阵可以左右拼接或者上下拼接。
其中,在一些示例中,由于上述第三矩阵中的元素要作为被除数,因为,为了避免被除数为0,可以将上述第三矩阵中的元素都加上一个非0的指定值之后,再将上述第二矩阵中的对应元素除以上述第三矩阵中的对应元素。示例性的,该非0的指定值可以为1e-8,即10^-8。由于该非0的指定值一般很小,仅用于防止出现被除数为0的情况,因此,在一定误差范围内,将上述第三矩阵中的元素都加上一个非0的指定值之后,所计算得到的第四矩阵中的元素值依然可以认为是上述第二矩阵中的对应元素除以上述第三矩阵中的对应元素所得到的值。或者,在一些示例中,若上述第三矩阵中存在值为0的元素,也可以设置上述第四矩阵中的对应元素的值为预设值。
可选的,上述引导图像中包括对上述第四矩阵进行上采样处理之后得到的第六矩阵,和对上述第五矩阵进行上采样处理之后得到的第七矩阵;
上述根据上述引导图像和上述输入图像,通过导向滤波生成输出图像,包括:
通过第一卷积结构对上述输入图像进行处理,获得第八矩阵;
将上述第六矩阵和上述第八矩阵相乘所得的乘积与上述第七矩阵相加,获得上述输出图像。
本申请实施例中,可以将上述第一矩阵所包含的第四矩阵的内容作为第一部分,而将上述第一矩阵所包含的第五矩阵的内容作为第二部分。此时,生成的引导图像中也可以相应的包括两个部分,即对上述第四矩阵进行上采样处理之后得到的第六矩阵,和对上述第五矩阵进行上采样处理之后得到的第七矩阵。
上述导向滤波包括了至少局部的线性计算过程,计算量较小,耗时较小。可见,上述导向滤波可以快速高效地将上述引导图像中的梯度信息等作用于上述输入图像中,获得纹理部分与引导图像相似,但分辨率与输入图像相同,且内容大体上与输入图像相似的输出图像。
如图3所示,为本申请实施例中的S104-S105等步骤所涉及的一种数据处理流程的示例性示意图。其中,第一模块用于执行根据上述第二图像和上述第三图像获得上述第一矩阵的步骤。
上述第一矩阵中包括第四矩阵和第五矩阵。上述引导图像中包括第六矩阵和第七矩阵。
需要说明的是,图3仅为本申请所提供的一种具体示例,而非对本申请的限定。
本申请实施例中,在获取输入图像之后,可以对上述输入图像的分辨率进行调整,获得相应的第一图像;此时,由于上述第一图像的分辨率低于上述输入图像,因此,对上述第一图像进行目标处理的处理速度较快;在对上述第一图像进行目标处理获得第二图像之后,可以根据上述第一图像和上述第二图像,生成引导图像,此时,上述引导图像可以表示目标处理所导致的图像纹理变化;然后,根据上述引导图像和上述输入图像,通过导向滤波生成输出图像,从而可以根据上述引导图像通过导向滤波改变上述输入图像的纹理,将上述目标处理作用到上述输入图像中,并获得分辨率与上述输入图像相同的输出图像。
通过本申请实施例,可以对降低分辨率所得到的第一图像进行目标处理,以提升处理速度,然后获得能够反映上述目标处理的处理效果的引导图像,再根据上述引导图像,通过导向滤波对上述输入图像进行滤波,获得与上述输入图像分辨率相同的输出图像,从而可以快速高效地实现对高分辨率图像的处理,并且可以获得同样高分辨率的输出图像。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
对应于上文实施例上述的图像处理方法,图4示出了本申请实施例提供的一种图像处理装置的结构框图,为了便于说明,仅示出了与本申请实施例相关的部分。
参照图4,该图像处理装置4包括:
获取模块401,用于获取输入图像;
第一处理模块402,用于对上述输入图像的分辨率进行调整,获得第一图像,其中,上述第一图像的分辨率低于上述输入图像;
第二处理模块403,用于对上述第一图像进行目标处理,获得第二图像;
第一生成模块404,用于根据上述第一图像和上述第二图像,生成引导图像;
第二生成模块405,用于根据上述引导图像和上述输入图像,通过导向滤波生成输出图像,其中,上述输出图像的分辨率与上述输入图像相同。
可选的,上述目标处理包括去噪处理或者图像增强处理。
可选的,上述第一生成模块404具体包括:
第一处理单元,用于通过第一卷积结构对上述第一图像进行处理,获得第三图像;
第一滤波单元,用于对上述第二图像进行均值滤波,获得第一滤波矩阵;
第二滤波单元,用于对上述第三图像进行均值滤波,获得第二滤波矩阵;
第三滤波单元,用于对上述第二图像的像素矩阵的平方进行均值滤波,获得第三滤波矩阵;
第四滤波单元,用于对上述第三图像的像素矩阵的平方进行均值滤波,获得第四滤波矩阵;
第二处理单元,用于根据上述第一滤波矩阵、第二滤波矩阵、第三滤波矩阵和第四滤波矩阵,生成第一矩阵;
第三处理单元,用于对上述第一矩阵进行上采样处理,获得上述引导图像。
可选的,第二处理单元具体包括:
第一处理子单元,用于将上述第三滤波矩阵与第一滤波矩阵和第二滤波矩阵的乘积相减,获得第二矩阵;
第二处理子单元,用于将上述第四滤波矩阵与上述第二滤波矩阵的平方相减,获得第三矩阵;
第三处理子单元,用于根据上述第二矩阵和上述第三矩阵,获得第四矩阵,其中,上述第四矩阵中的任一元素为上述第二矩阵中的对应元素除以上述第三矩阵中的对应元素所得到的值;
第四处理子单元,用于将上述第一滤波矩阵与上述第四矩阵和第二滤波矩阵的乘积相减,获得第五矩阵;
拼接子单元,用于将上述第四矩阵和上述第五矩阵进行拼接,获得上述第一矩阵。
可选的,上述引导图像中包括对上述第四矩阵进行上采样处理之后得到的第六矩阵,和对上述第五矩阵进行上采样处理之后得到的第七矩阵;
上述第二生成模块405具体包括:
第四处理单元,用于通过第一卷积结构对上述输入图像进行处理,获得第八矩阵;
第五处理单元,用于将上述第六矩阵和上述第八矩阵相乘所得的乘积与上述第七矩阵相加,获得上述输出图像。
可选的,上述图像处理装置4还包括:
拼接模块,用于将上述输出图像和输入图像进行图像拼接,获得第四图像;
第三处理模块,用于将上述第四图像输入至少一个残差结构,获得第五图像。
可选的,任一上述残差结构包括两层卷积层和位于上述两层卷积层之间的激活层。
通过本申请实施例,可以对降低分辨率所得到的第一图像进行目标处理,以提升处理速度,然后获得能够反映上述目标处理的处理效果的引导图像,再根据上述引导图像,通过导向滤波对上述输入图像进行滤波,获得与上述输入图像分辨率相同的输出图像,从而可以快速高效地实现对高分辨率图像的处理,并且可以获得同样高分辨率的输出图像。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将上述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
图5为本申请一实施例提供的终端设备的结构示意图。如图5所示,该实施例的终端设备5包括:至少一个处理器50(图5中仅示出一个)、存储器51以及存储在上述存储器51中并可在上述至少一个处理器50上运行的计算机程序52,上述处理器50执行上述计算机程序52时实现上述任意各个图像处理方法实施例中的步骤。
上述终端设备5可以是服务器、手机、可穿戴设备、增强现实(augmented reality,AR)/虚拟现实(virtual reality,VR)设备、桌上型计算机、笔记本、台式电脑以及掌上电脑等计算设备。该终端设备可包括,但不仅限于,处理器50、存储器51。本领域技术人员可以理解,图5仅仅是终端设备5的举例,并不构成对终端设备5的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括输入设备、输出设备、网络接入设备等。其中,上述输入设备可以包括键盘、触控板、指纹采集传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风、摄像头等,输出设备可以包括显示器、扬声器等。
上述处理器50可以是中央处理单元(Central Processing Unit,CPU),该处理器50还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
上述存储器51在一些实施例中可以是上述终端设备5的内部存储单元,例如终端设备5的硬盘或内存。上述存储器51在另一些实施例中也可以是上述终端设备5的外部存储设备,例如上述终端设备5上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,上述存储器51还可以既包括上述终端设备5的内部存储单元也包括外部存储设备。上述存储器51用于存储操作***、应用程序、引导装载程序(Boot Loader)、数据以及其他程序等,例如上述计算机程序的程序代码等。上述存储器51还可以用于暂时地存储已经输出或者将要输出的数据。
另外,尽管未示出,上述终端设备5还可以包括网络连接模块,如蓝牙模块Wi-Fi模块、蜂窝网络模块等等,在此不再赘述。
本申请实施例中,上述处理器50执行上述计算机程序52以实现上述任意各个图像处理方法实施例中的步骤时,可以对降低分辨率所得到的第一图像进行目标处理,以提升处理速度,然后获得能够反映上述目标处理的处理效果的引导图像,再根据上述引导图像,通过导向滤波对上述输入图像进行滤波,获得与上述输入图像分辨率相同的输出图像,从而可以快速高效地实现对高分辨率图像的处理,并且可以获得同样高分辨率的输出图像。
本申请实施例还提供了一种计算机可读存储介质,上述计算机可读存储介质存储有计算机程序,上述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行时实现可实现上述各个方法实施例中的步骤。
上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,上述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,上述计算机程序包括计算机程序代码,上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质至少可以包括:能够将计算机程序代码携带到拍照装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,RandomAccess Memory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/网络设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/网络设备实施例仅仅是示意性的,例如,上述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上上述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (9)
1.一种图像处理方法,其特征在于,包括:
获取输入图像;
对所述输入图像的分辨率进行调整,获得第一图像,其中,所述第一图像的分辨率低于所述输入图像;
对所述第一图像进行目标处理,获得第二图像;
根据所述第一图像和所述第二图像,生成引导图像,所述引导图像表示目标处理所导致的图像纹理变化;
根据所述引导图像和所述输入图像,通过导向滤波生成输出图像,其中,所述输出图像的分辨率与所述输入图像相同;
所述根据所述第一图像和所述第二图像,生成引导图像,包括:
通过第一卷积结构对所述第一图像进行处理,获得第三图像;
对所述第二图像进行均值滤波,获得第一滤波矩阵;
对所述第三图像进行均值滤波,获得第二滤波矩阵;
对所述第二图像的像素矩阵的平方进行均值滤波,获得第三滤波矩阵;
对所述第三图像的像素矩阵的平方进行均值滤波,获得第四滤波矩阵;
根据所述第一滤波矩阵、第二滤波矩阵、第三滤波矩阵和第四滤波矩阵,生成第一矩阵;
对所述第一矩阵进行上采样处理,获得所述引导图像。
2.如权利要求1所述的图像处理方法,其特征在于,所述目标处理包括去噪处理或者图像增强处理。
3.如权利要求1所述的图像处理方法,其特征在于,所述根据所述第一滤波矩阵、第二滤波矩阵、第三滤波矩阵和第四滤波矩阵,生成第一矩阵,包括:
将所述第三滤波矩阵与第一滤波矩阵和第二滤波矩阵的乘积相减,获得第二矩阵;
将所述第四滤波矩阵与所述第二滤波矩阵的平方相减,获得第三矩阵;
根据所述第二矩阵和所述第三矩阵,获得第四矩阵,其中,所述第四矩阵中的任一元素为所述第二矩阵中的对应元素除以所述第三矩阵中的对应元素所得到的值;
将所述第一滤波矩阵与所述第四矩阵和第二滤波矩阵的乘积相减,获得第五矩阵;
将所述第四矩阵和所述第五矩阵进行拼接,获得所述第一矩阵。
4.如权利要求3所述的图像处理方法,其特征在于,所述引导图像中包括对所述第四矩阵进行上采样处理之后得到的第六矩阵,和对所述第五矩阵进行上采样处理之后得到的第七矩阵;
所述根据所述引导图像和所述输入图像,通过导向滤波生成输出图像,包括:
通过第一卷积结构对所述输入图像进行处理,获得第八矩阵;
将所述第六矩阵和所述第八矩阵相乘所得的乘积与所述第七矩阵相加,获得所述输出图像。
5.如权利要求1至4任意一项所述的图像处理方法,其特征在于,在获得所述输出图像之后,还包括:
将所述输出图像和输入图像进行图像拼接,获得第四图像;
将所述第四图像输入至少一个残差结构,获得第五图像。
6.如权利要求5所述的图像处理方法,其特征在于,任一所述残差结构包括两层卷积层和位于所述两层卷积层之间的激活层。
7.一种图像处理装置,其特征在于,包括:
获取模块,用于获取输入图像;
第一处理模块,用于对所述输入图像的分辨率进行调整,获得第一图像,其中,所述第一图像的分辨率低于所述输入图像;
第二处理模块,用于对所述第一图像进行目标处理,获得第二图像;
第一生成模块,用于根据所述第一图像和所述第二图像,生成引导图像,所述引导图像表示目标处理所导致的图像纹理变化;
第二生成模块,用于根据所述引导图像和所述输入图像,通过导向滤波生成输出图像,其中,所述输出图像的分辨率与所述输入图像相同;
所述第一生成模块包括:
第一处理单元,用于通过第一卷积结构对所述第一图像进行处理,获得第三图像;
第一滤波单元,用于对所述第二图像进行均值滤波,获得第一滤波矩阵;
第二滤波单元,用于对所述第三图像进行均值滤波,获得第二滤波矩阵;
第三滤波单元,用于对所述第二图像的像素矩阵的平方进行均值滤波,获得第三滤波矩阵;
第四滤波单元,用于对所述第三图像的像素矩阵的平方进行均值滤波,获得第四滤波矩阵;
第二处理单元,用于根据所述第一滤波矩阵、第二滤波矩阵、第三滤波矩阵和第四滤波矩阵,生成第一矩阵;
第三处理单元,用于对所述第一矩阵进行上采样处理,获得所述引导图像。
8.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述的图像处理方法。
9.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010553736.7A CN111709879B (zh) | 2020-06-17 | 2020-06-17 | 图像处理方法、图像处理装置及终端设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010553736.7A CN111709879B (zh) | 2020-06-17 | 2020-06-17 | 图像处理方法、图像处理装置及终端设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111709879A CN111709879A (zh) | 2020-09-25 |
CN111709879B true CN111709879B (zh) | 2023-05-26 |
Family
ID=72541330
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010553736.7A Active CN111709879B (zh) | 2020-06-17 | 2020-06-17 | 图像处理方法、图像处理装置及终端设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111709879B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113012077B (zh) * | 2020-10-20 | 2023-04-07 | 杭州微帧信息科技有限公司 | 一种基于卷积导向图滤波的去噪方法 |
CN112884756A (zh) * | 2021-03-12 | 2021-06-01 | 敦泰电子(深圳)有限公司 | 一种指纹图像处理方法、指纹芯片及电子设备 |
CN117097993B (zh) * | 2023-10-20 | 2024-05-28 | 荣耀终端有限公司 | 图像处理方法及相关装置 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109816595A (zh) * | 2017-11-20 | 2019-05-28 | 北京京东尚科信息技术有限公司 | 图像处理方法和装置 |
CN109902723A (zh) * | 2019-01-31 | 2019-06-18 | 北京市商汤科技开发有限公司 | 图像处理方法及装置 |
CN110211057A (zh) * | 2019-05-15 | 2019-09-06 | 武汉Tcl集团工业研究院有限公司 | 一种基于全卷积网络的图像处理方法、装置和计算机设备 |
CN110544205A (zh) * | 2019-08-06 | 2019-12-06 | 西安电子科技大学 | 基于可见光与红外交叉输入的图像超分辨率重建方法 |
CN110827211A (zh) * | 2019-10-10 | 2020-02-21 | 杭州智团信息技术有限公司 | 一种图像细节增强方法 |
CN110827371A (zh) * | 2019-11-05 | 2020-02-21 | 厦门美图之家科技有限公司 | 证件照生成方法、装置、电子设备及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9654700B2 (en) * | 2014-09-16 | 2017-05-16 | Google Technology Holdings LLC | Computational camera using fusion of image sensors |
-
2020
- 2020-06-17 CN CN202010553736.7A patent/CN111709879B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109816595A (zh) * | 2017-11-20 | 2019-05-28 | 北京京东尚科信息技术有限公司 | 图像处理方法和装置 |
CN109902723A (zh) * | 2019-01-31 | 2019-06-18 | 北京市商汤科技开发有限公司 | 图像处理方法及装置 |
CN110211057A (zh) * | 2019-05-15 | 2019-09-06 | 武汉Tcl集团工业研究院有限公司 | 一种基于全卷积网络的图像处理方法、装置和计算机设备 |
CN110544205A (zh) * | 2019-08-06 | 2019-12-06 | 西安电子科技大学 | 基于可见光与红外交叉输入的图像超分辨率重建方法 |
CN110827211A (zh) * | 2019-10-10 | 2020-02-21 | 杭州智团信息技术有限公司 | 一种图像细节增强方法 |
CN110827371A (zh) * | 2019-11-05 | 2020-02-21 | 厦门美图之家科技有限公司 | 证件照生成方法、装置、电子设备及存储介质 |
Non-Patent Citations (1)
Title |
---|
冯创意 ; 张纯纯 ; .基于双边引导上采样的图像增强快速实现研究.农业装备与车辆工程.2020,(02),第159-164页. * |
Also Published As
Publication number | Publication date |
---|---|
CN111709879A (zh) | 2020-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111709879B (zh) | 图像处理方法、图像处理装置及终端设备 | |
CN109493350B (zh) | 人像分割方法及装置 | |
CN112862681B (zh) | 一种超分辨率方法、装置、终端设备及存储介质 | |
CN110781923B (zh) | 特征提取方法及装置 | |
CN112102164B (zh) | 一种图像处理方法、装置、终端及存储介质 | |
US20240005628A1 (en) | Bidirectional compact deep fusion networks for multimodality visual analysis applications | |
CN112308866A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN111290684B (zh) | 图像显示方法、图像显示装置及终端设备 | |
CN112602088A (zh) | 提高弱光图像的质量的方法、***和计算机可读介质 | |
CN110782398B (zh) | 图像处理方法、生成式对抗网络***和电子设备 | |
WO2023019682A1 (zh) | 水印去除方法、装置、终端设备及可读存储介质 | |
CN113361535A (zh) | 图像分割模型训练、图像分割方法及相关装置 | |
CN110880160B (zh) | 图片帧超分方法、装置、终端设备及计算机可读存储介质 | |
CN111582353A (zh) | 一种图像特征检测方法、***、设备以及介质 | |
CN115641352A (zh) | 一种人像背景虚化方法、装置、电子设备及存储介质 | |
CN111583111B (zh) | 动态范围图像压缩方法、计算机设备及存储装置 | |
CN111986144B (zh) | 一种图像模糊判断方法、装置、终端设备及介质 | |
CN114119377A (zh) | 一种图像处理方法及装置 | |
CN116052233A (zh) | 一种神经网络优化方法、装置、计算设备及存储介质 | |
WO2013100785A1 (en) | Method of and apparatus for low-complexity detection of periodic textures | |
CN115409719A (zh) | 数据处理方法、装置、终端设备及计算机可读存储介质 | |
CN113658050A (zh) | 一种图像的去噪方法、去噪装置、移动终端及存储介质 | |
CN107871162B (zh) | 一种基于卷积神经网络的图像处理方法及移动终端 | |
CN113780300B (zh) | 图像反池化方法、装置、计算机设备和存储介质 | |
CN113361602B (zh) | 神经网络模型的训练方法、装置和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |