CN110349165A - 图像处理方法、装置、电子设备及计算机可读介质 - Google Patents
图像处理方法、装置、电子设备及计算机可读介质 Download PDFInfo
- Publication number
- CN110349165A CN110349165A CN201810290778.9A CN201810290778A CN110349165A CN 110349165 A CN110349165 A CN 110349165A CN 201810290778 A CN201810290778 A CN 201810290778A CN 110349165 A CN110349165 A CN 110349165A
- Authority
- CN
- China
- Prior art keywords
- image
- processing
- specified region
- gradient
- background area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 28
- 238000012545 processing Methods 0.000 claims abstract description 82
- 238000009826 distribution Methods 0.000 claims abstract description 45
- 238000000034 method Methods 0.000 claims abstract description 43
- 238000004040 coloring Methods 0.000 claims abstract description 29
- 238000003860 storage Methods 0.000 claims description 23
- 238000003709 image segmentation Methods 0.000 claims description 18
- 238000013527 convolutional neural network Methods 0.000 claims description 17
- 238000013135 deep learning Methods 0.000 claims description 17
- 239000011159 matrix material Substances 0.000 claims description 5
- 238000007781 pre-processing Methods 0.000 claims description 5
- 230000003416 augmentation Effects 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 4
- 239000004744 fabric Substances 0.000 claims description 3
- 230000001537 neural effect Effects 0.000 claims 1
- 230000000694 effects Effects 0.000 abstract description 18
- 238000004043 dyeing Methods 0.000 abstract description 15
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 12
- 238000005070 sampling Methods 0.000 description 11
- 230000015654 memory Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000011218 segmentation Effects 0.000 description 5
- 238000012549 training Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000005291 magnetic effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000005520 cutting process Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000011282 treatment Methods 0.000 description 2
- 235000008331 Pinus X rigitaeda Nutrition 0.000 description 1
- 235000011613 Pinus brutia Nutrition 0.000 description 1
- 241000018646 Pinus brutia Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000000712 assembly Effects 0.000 description 1
- 238000000429 assembly Methods 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 230000002401 inhibitory effect Effects 0.000 description 1
- 210000003127 knee Anatomy 0.000 description 1
- 238000003475 lamination Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000000465 moulding Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000003973 paint Substances 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000001259 photo etching Methods 0.000 description 1
- 238000012797 qualification Methods 0.000 description 1
- 230000003014 reinforcing effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 210000000352 storage cell Anatomy 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/40—Filling a planar surface by adding surface attributes, e.g. colour or texture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及一种图像处理方法、装置、电子设备及计算机可读介质。涉及图像处理领域,该方法包括:对图像进行分割处理以获取所述图像中的指定区域与背景区域;对所述指定区域进行上色处理;计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息;以及通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。本公开的图像处理方法、装置、电子设备及计算机可读介质,能够高效精准的对虚拟染发效果进行还原,提升图像显示效果。
Description
技术领域
本公开涉及图像处理领域,具体而言,涉及一种图像处理方法、装置、电子设备及计算机可读介质。
背景技术
染发现已成为人们改变造型常用方法,由于对染发之后的效果的不确定,使得大多数人对染发采取谨慎态度,为了更好的为用户提供选择参考,也为了增加图像的趣味性,对用户图像进行虚拟染发的图像处理技术开始涌现。现有技术中已存在二维染发方案,即为在用户通过上传照片后,通过图像处理,给用户呈现不同染色效果。现有技术方案虽然连接了用户虚拟变美与真实变美的桥梁,但是存在非实时、头发分割不精确、染色失真等缺点。
因此,需要一种新的图像处理方法、装置、电子设备及计算机可读介质。
在所述背景技术部分公开的上述信息仅用于加强对本公开的背景的理解,因此它可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
有鉴于此,本公开提供一种图像处理方法、装置、电子设备及计算机可读介质,能够高效,精准的对虚拟染发效果进行还原,提升图像显示效果。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的一方面,提出一种图像处理方法,该方法包括:对图像进行分割处理以获取所述图像中的指定区域与背景区域;对所述指定区域进行上色处理;计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息;以及通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。
在本公开的一种示例性实施例中,还包括:通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型;对图像进行分割处理以获取所述图像中的指定区域与背景区域包括:将所述图像输入图像分割模型以获取所述图像中的指定区域与背景区域。
在本公开的一种示例性实施例中,通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型包括:将样本图像进行图像预处理,生成样本数据;对所述样本数据进行标记;以及通过所述样本数据对深度学习算法模型进行训练,获取所述图像分割模型。
在本公开的一种示例性实施例中,对所述样本数据进行标记包括:通过labelme对所述样本数据进行多边形标记。
在本公开的一种示例性实施例中,将样本图像进行图像预处理包括:对所述样本图像进行图像增广处理。
在本公开的一种示例性实施例中,所述深度学习算法模型包括:全卷积神经网络模型;通过所述样本数据对深度学习算法模型进行训练,获取所述图像分割模型包括:将所述样本数据输入全卷积神经网络模型中;全卷积神经网络模型通过8个卷积层处理所述样本数据,获得卷积数据;通过样本数据的标记与所述卷积数据确定所述所述图像分割模型。
在本公开的一种示例性实施例中,计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息包括:通过拉普拉斯变换获取上色处理之后的所述指定区域的第一梯度分布信息;通过拉普拉斯变换获取所述背景区域的第二梯度分布信息;以及通过所述第一梯度分布信息与所述第二梯度分布信息获取所述梯度分布信息。
在本公开的一种示例性实施例中,通过所述第一梯度分布信息与所述第二梯度分布信息获取所述梯度分布信息包括:将所述第一梯度分布信息作为掩膜覆盖到所述第二梯度分布信息上,以获取所述梯度分布信息。
在本公开的一种示例性实施例中,通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建包括:通过所述梯度分布信息获取图像散度信息;通过所述图像散度信息求解泊松重建处理中的系数矩阵以对所述图像进行泊松重建。
根据本公开的一方面,提出一种图像处理装置,该装置包括:图像分割模块,用于对图像进行分割处理以获取所述图像中的指定区域与背景区域;区域上色模块,用于对所述指定区域进行上色处理;梯度信息模块,用于计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息;图像重建模块,用于通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。
在本公开的一种示例性实施例中,还包括:模型模块,用于通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型。
根据本公开的一方面,提出一种电子设备,该电子设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如上文的方法。
根据本公开的一方面,提出一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上文中的方法。
根据本公开的图像处理方法、装置、电子设备及计算机可读介质,能够高效,精准的对虚拟染发效果进行还原,提升图像显示效果。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性的,并不能限制本公开。
附图说明
通过参照附图详细描述其示例实施例,本公开的上述和其它目标、特征及优点将变得更加显而易见。下面描述的附图仅仅是本公开的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据一示例性实施例示出的一种图像处理方法及装置的***框图。
图2是根据一示例性实施例示出的一种图像处理方法的流程图。
图3是根据另一示例性实施例示出的一种图像处理方法的流程图。
图4是根据另一示例性实施例示出的一种图像处理方法中的示意图。
图5为根据一示例性实施例示出的一种图像处理方法中全卷积神经网络的示意图
图6是根据另一示例性实施例示出的一种图像处理方法的流程图。
图7A-图7C是根据另一示例性实施例示出的一种图像处理方法中的示意图。
图8是根据一示例性实施例示出的一种图像处理装置的框图。
图9是根据一示例性实施例示出的一种电子设备的框图。
图10是根据一示例性实施例示出一种计算机可读存储介质示意图。
具体实施方式
现在将参考附图更全面地描述示例实施例。然而,示例实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施例;相反,提供这些实施例使得本公开将全面和完整,并将示例实施例的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本公开的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
应理解,虽然本文中可能使用术语第一、第二、第三等来描述各种组件,但这些组件不应受这些术语限制。这些术语乃用以区分一组件与另一组件。因此,下文论述的第一组件可称为第二组件而不偏离本公开概念的教示。如本文中所使用,术语“及/或”包括相关联的列出项目中的任一个及一或多者的所有组合。
本领域技术人员可以理解,附图只是示例实施例的示意图,附图中的模块或流程并不一定是实施本公开所必须的,因此不能用于限制本公开的保护范围。
图1是根据一示例性实施例示出的一种图像处理方法及装置的***框图。
如图1所示,***架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器。后台管理服务器可以对接收到的图像处理请求等数据进行分析等处理,并将处理结果(例如处理后的图像)反馈给终端设备。
服务器105可例如对图像进行分割处理以获取所述图像中的指定区域与背景区域;服务器105可例如对所述指定区域进行上色处理;服务器105可例如计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息;服务器105可例如通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。服务器105还可例如将展示的图像推送给用户处的终端设备101、102、103中,以便终端设备101、102、103进行展示。
服务器105可以是一个实体的服务器,还可例如为多个服务器组成,需要说明的是,本公开实施例所提供的图像处理方法一般由服务器105执行,相应地,图像处理装置一般设置于服务器105执行。而提供给用户进行图片浏览的网页端一般位于终端设备101、102、103中。
图2是根据一示例性实施例示出的一种图像处理方法的流程图。本申请中图像处理方法包括步骤S202至S208。
如图2所示,在S202中,对图像进行分割处理以获取所述图像中的指定区域与背景区域。可例如,用户通过网页或者移动终端上传图片,后台服务器获取该图片后,对图像进行分割处理,用以将待染色的用户头发区域与不进行染色处理的其他区域分开。
在一个实施例中,通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型;将所述图像输入图像分割模型以获取所述图像中的指定区域与背景区域。其中,深度学习算法包括全卷积神经网络(Region-based Fully Convolutional Networks,R-FCN)。本申请的发明人发现:图像中用户的头发与其他部分的分割属于像素级的分割,属于语义分割和边缘检测问题。针对语义分割和边缘检测问题,经典的做法就是以某个像素点为中心取一个图像块,然后取图像块的特征作为样本去训练分类器。在测试阶段,同样的在测试图片上以每个像素点为中心采一个图像块进行分类,分类结果作为该像素点的预测值。然而,这种逐像素取图像块进行分类的方法非常耗时,现有图像分割技术中另外一个不足是受到图像块的限制,无法建模较大的上下文信息(context),从而影响算法的性能。所以,在本实施例中,通过R-FCN建立图像分割模型以对所述图像进行分隔。
与经典的卷积神经网络(Convolutional Neural Network,CNN)在卷积层之后使用全连接层得到固定长度的特征向量进行分类不同,R-FCN可以接受任意尺寸的输入图像,采用反卷积层对最后一个卷积层的feature map进行上采样,使它恢复到输入图像相同的尺寸,从而可以对每个像素都产生了一个预测,同时也保留了原始输入图像中的空间信息,最后在上采样的特征图上进行逐像素分类。
在S204中,对所述指定区域进行上色处理。可例如,根据用户的操作,接收用户选定的颜色数据,用选定的颜色为指定的区域进行上色处理。
在S206中,计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息。例如:通过拉普拉斯变换获取上色处理之后的所述指定区域的第一梯度分布信息;通过拉普拉斯变换获取所述背景区域的第二梯度分布信息;以及通过所述第一梯度分布信息与所述第二梯度分布信息获取所述梯度分布信息。
在一个实施例中,通过所述第一梯度分布信息与所述第二梯度分布信息获取所述梯度分布信息包括:将所述第一梯度分布信息作为掩膜覆盖到所述第二梯度分布信息上,以获取所述梯度分布信息。
数字图像处理中的掩膜的概念是借鉴于PCB制版的过程,在半导体制造中,许多芯片工艺步骤采用光刻技术,用于这些步骤的图形“底片”称为掩膜,图像掩膜与其类似,用选定的图像、图形或物体,对处理的图像(全部或局部)进行遮挡,来控制图像处理的区域或处理过程。
在S208中,通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。例如,通过所述梯度分布信息获取图像散度信息;通过所述图像散度信息求解泊松重建处理中的系数矩阵以对所述图像进行泊松重建。
泊松重建是图像融合处理的一种方法,泊松重建是一种隐函数表面重建方法,例如,一个物体可用物体外为1,物体外为0的指示函数表示,通过求解出这个函数然后进行等值面提取,从而得到表面,求解这个函数的过程,就是构建一个泊松方程并对泊松方程进行求解的过程。泊松重建是一种可以保有表面细节的图像融合方法。
根据本公开的图像处理方法,在分割出头发区域之后,通过计算头发区域纹理梯度变化,对每一个像素进行颜色处理从而进行上色,在上色之后通过泊松重建获取展示图像的方式,能够高效精准的对虚拟染发效果进行还原,提升图像显示效果。
应清楚地理解,本公开描述了如何形成和使用特定示例,但本公开的原理不限于这些示例的任何细节。相反,基于本公开公开的内容的教导,这些原理能够应用于许多其它实施例。
图3是根据另一示例性实施例示出的一种图像处理方法的流程图。图3对通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型进行了详细说明。
其中,在S302中,将样本图像进行图像预处理,生成样本数据。可例如,对所述样本图像进行图像增广处理。
在一个实施例中,将样本图像数据做成预定类型,可例如为PASCALVOC 2012中的segementClass的格式,图片数据集的类型可包括自拍小视频、带有人脸头发完整区域的数据集。搜集一定数量样本后,对样本进行图像增广处理以便样本数据增加。可例如通过图片剪裁,对图片进行微小旋转,对图片进行镜像,改变图像中通道颜色,以及对图片轻度模糊从而生成新的图片。
在S304中,对所述样本数据进行标记。可例如,通过labelme对所述样本数据进行多边形标记。标注效果可例如图4所示。
在S306中,通过所述样本数据对深度学习算法模型进行训练,获取所述图像分割模型。所述深度学习算法模型包括:全卷积神经网络模型;通过所述样本数据对深度学习算法模型进行训练,获取所述图像分割模型包括:将所述样本数据输入全卷积神经网络模型中;全卷积神经网络模型通过8个卷积层处理所述样本数据,获得卷积数据;通过样本数据的标记与所述卷积数据确定所述所述图像分割模型。
图5为全卷积神经网络的示意图,如图5所示,FCN将传统CNN中的全连接层转化成一个个的卷积层。在传统的CNN结构中,前5层是卷积层,第6层和第7层分别是一个长度为4096的一维向量,第8层是长度为1000的一维向量,分别对应1000个类别的概率。FCN将这3层表示为卷积层,卷积核的大小(通道数,宽,高)分别为(4096,1,1)、(4096,1,1)、(1000,1,1)。所有的层都是卷积层,经过多次卷积(还有pooling)以后,得到的图像越来越小,分辨率越来越低。为了从这个分辨率低的粗略图像恢复到原图的分辨率,FCN使用了上采样。例如经过5次卷积(和pooling)以后,图像的分辨率依次缩小了2,4,8,16,32倍。对于最后一层的输出图像,需要进行32倍的上采样,以得到原图一样的大小。
这个上采样是通过反卷积(deconvolution)实现的。对第5层的输出(32倍放大)反卷积到原图大小,得到的结果还是不够精确,一些细节无法恢复。可例如将第4层的输出和第3层的输出也依次反卷积,分别需要16倍和8倍上采样,结果能够更加精细。
如图5所示,第一行对应FCN-32s,第二行对应FCN-16s,第三行对应FCN-8s。从FCN-32s开始说明升采样过程,网络里面有5个pool,所以conv7的特征图是原始图像1/32,最左边image的是32x32,FCN中的卷积不会改变图像大小,pool1是16x16,pool2是8x8,pool3是4x4,pool4是2x2,pool5是1x1,所以conv7对应特征图大小为1x1。然后经过32x升采样后图片变回32x32。FCN在这里增加一个卷积层,卷积后的大小为输入图像的32倍,可例如这个卷积核大小也为32,需要通过反馈训练32x32个权重变量即可让图像实现首尾相顾,完成了一个32s的升采样。
下面说明FCN-16s的升采样过程,在conv7先进行一个2x conv7操作,其实这里也只是增加1个卷积层,这次卷积后特征图的大小为conv7的2倍,可以从pool5与2x conv7中得到,此时2x conv7与pool4的大小是一样的,fuse结果进行16x升采样预测,与FCN-32s一样,也是增加一个卷积层,卷积后的大小为输入图像的16倍,pool4的大小是2x2,放大16倍,就是32x32,这样最后图像大小也变为原来的大小,至此完成了一个16s的升采样。FCN中的升采样实际是通过增加卷积层,通过反馈的训练方法训练卷积层达到首尾相顾,这时卷积层的作用可以看作是pool的逆过程。
根据本公开的图像处理方法,通过全卷积神经网络模型获得的图像分割模块,能够精确的提取用户图像中的头发区域。而且图像分割模块可以接受任意大小的输入图像,而不要求所有的训练图像和测试图像具有同样的尺寸。而且图像分割模块还更加高效的处理图像,避免了由于使用像素块而带来的重复存储和计算卷积的问题。
图6是根据另一示例性实施例示出的一种图像处理方法的流程图。图6对步骤S206与S208进行了详细的描述。
在S602中,通过拉普拉斯变换获取上色处理之后的所述指定区域的第一梯度分布信息。头发染色区域失真是由于直接进行了像素的处理,但是头发在不同光照下会有梯度的变化,因此通过拉普拉斯变换求解头发区域的梯度分布,然后进行颜色处理,便能突出头发的纹理信息,看到发丝的信息。可例如,通过拉普拉斯变换获取上色处理之后的所述指定区域的第一梯度分布信息V。
在S604中,通过拉普拉斯变换获取所述背景区域的第二梯度分布信息,第二梯度分布信息记为S。
在S606中,将所述第一梯度分布信息作为掩膜(mask)覆盖到所述第二梯度分布信息上,以获取所述梯度分布信息。即为通过第一梯度分布信息V直接覆盖第二梯度分布信息S对应部分。
在S608中,通过所述梯度分布信息获取图像散度信息。通过步骤S605可以得到每个像素点的梯度值,也就是待重建图像的梯度信息,继续对梯度信息求偏导,从而获得散度。可例如,对图像梯度信息在x和y方向上求偏导。
在S610中,通过所述图像散度信息求解泊松重建处理中的系数矩阵以对所述图像进行泊松重建。泊松重建方程为Ax=b,A为图像的系数稀疏矩阵,b为图像散度信息,通过以上信息求取x以进行泊松重建。
在本申请中,对于边缘过度不自然的问题,采用泊松融合来解决,这一方法的核心数学思想是具有Dirichlet边界条件的泊松偏微分方程,它指定了感兴趣区域的未知函数的拉普拉斯算子,同时给出了函数域边界上的未知函数值。
本申请采用泊松重建的原因有两点:首先,在拉普拉斯算子抑制下梯度变化较慢的强度可以叠加到图像不明显的地方。而与之相反的,拉普拉斯算子提取出的二阶变化才是最为重要的感知。其次,有界区域上的标量函数是由它边界上的值和内部的拉普拉斯算子唯一确定的。泊松方程因此有了唯一解。因此,给定构造某些域上未知函数的拉普拉斯算子,和它的边界条件的方法,泊松方程就能解决无缝填充域的问题。泊松融合的算法思路就是根据背景图和目标图之间的梯度映射关系,用泊松方程重建图,重建后的图梯度和散度能够表征融合图。
根据本申请中的图像处理方法,计算获得的头发图像然后示意图如图7A-图7C所示。图7A为用户图像,图7B为图像分割后效果图,图7C为头发染色后效果图。如图7A-图7C所示,本申请中的图像处理方法可以给用户在线体验、真实呈现时下流行的染发效果,以一种逼真的方式来调整发色,甚至发根一丝丝的效果都清晰可见,最大程度模拟现实效果。根据本申请中的图像处理方法,很好的解决了头发分割和染发的问题。
本领域技术人员可以理解实现上述实施例的全部或部分步骤被实现为由CPU执行的计算机程序。在该计算机程序被CPU执行时,执行本公开提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中,该存储介质可以是只读存储器,磁盘或光盘等。
此外,需要注意的是,上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
下述为本公开装置实施例,可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节,请参照本公开方法实施例。
图8是根据一示例性实施例示出的一种图像处理装置的框图。图像处理装置80包括:图像分割模块802,区域上色模块804,梯度信息模块806,图像重建模块808,模型模块810。
图像分割模块802用于对图像进行分割处理以获取所述图像中的指定区域与背景区域。
区域上色模块804用于对所述指定区域进行上色处理。
梯度信息模块806用于计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息。
图像重建模块808用于通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。
在本公开的一种示例性实施例中,图像处理装置80还包括:模型模块810用于通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型。
图9是根据一示例性实施例示出的一种电子设备的框图。
下面参照图9来描述根据本公开的这种实施方式的电子设备200。图9显示的电子设备200仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图9所示,电子设备200以通用计算设备的形式表现。电子设备200的组件可以包括但不限于:至少一个处理单元210、至少一个存储单元220、连接不同***组件(包括存储单元220和处理单元210)的总线230、显示单元240等。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元210执行,使得所述处理单元210执行本说明书上述电子处方流转处理方法部分中描述的根据本公开各种示例性实施方式的步骤。例如,所述处理单元210可以执行如图2,图3,图6中所示的步骤。
所述存储单元220可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)2201和/或高速缓存存储单元2202,还可以进一步包括只读存储单元(ROM)2203。
所述存储单元220还可以包括具有一组(至少一个)程序模块2205的程序/实用工具2204,这样的程序模块2205包括但不限于:操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线230可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备200也可以与一个或多个外部设备300(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备200交互的设备通信,和/或与使得该电子设备200能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口250进行。并且,电子设备200还可以通过网络适配器260与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器260可以通过总线230与电子设备200的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备200使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本公开实施方式的上述方法。
图10示意性示出本公开示例性实施例中一种计算机可读存储介质示意图。
参考图10所示,描述了根据本公开的实施方式的用于实现上述方法的程序产品400,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该计算机可读介质实现如下功能:对图像进行分割处理以获取所述图像中的指定区域与背景区域;对所述指定区域进行上色处理;计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息;以及通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。
本领域技术人员可以理解上述各模块可以按照实施例的描述分布于装置中,也可以进行相应变化唯一不同于本实施例的一个或多个装置中。上述实施例的模块可以合并为一个模块,也可以进一步拆分成多个子模块。
通过以上的实施例的描述,本领域的技术人员易于理解,这里描述的示例实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施例的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施例的方法。
以上具体地示出和描述了本公开的示例性实施例。应可理解的是,本公开不限于这里描述的详细结构、设置方式或实现方法;相反,本公开意图涵盖包含在所附权利要求的精神和范围内的各种修改和等效设置。
此外,本说明书说明书附图所示出的结构、比例、大小等,均仅用以配合说明书所公开的内容,以供本领域技术人员了解与阅读,并非用以限定本公开可实施的限定条件,故不具技术上的实质意义,任何结构的修饰、比例关系的改变或大小的调整,在不影响本公开所能产生的技术效果及所能实现的目的下,均应仍落在本公开所公开的技术内容得能涵盖的范围内。同时,本说明书中所引用的如“上”、“第一”、“第二”及“一”等的用语,也仅为便于叙述的明了,而非用以限定本公开可实施的范围,其相对关系的改变或调整,在无实质变更技术内容下,当也视为本公开可实施的范畴。
Claims (13)
1.一种图像处理方法,其特征在于,包括:
对图像进行分割处理以获取所述图像中的指定区域与背景区域;
对所述指定区域进行上色处理;
计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息;以及
通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。
2.如权利要求1所述的方法,其特征在于,还包括:
通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型;
对图像进行分割处理以获取所述图像中的指定区域与背景区域包括:
将所述图像输入图像分割模型以获取所述图像中的指定区域与背景区域。
3.如权利要求2所述的方法,其特征在于,通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型包括:
将样本图像进行图像预处理,生成样本数据;
对所述样本数据进行标记;以及
通过所述样本数据对深度学习算法模型进行训练,获取所述图像分割模型。
4.如权利要求3所述的方法,其特征在于,对所述样本数据进行标记包括:
通过labelme对所述样本数据进行多边形标记。
5.如权利要求3所述的方法,其特征在于,将样本图像进行图像预处理包括:
对所述样本图像进行图像增广处理。
6.如权利要求3所述的方法,其特征在于,所述深度学习算法模型包括:全卷积神经网络模型;
通过所述样本数据对深度学习算法模型进行训练,获取所述图像分割模型包括:
将所述样本数据输入全卷积神经网络模型中;
全卷积神经网络模型通过8个卷积层处理所述样本数据,获得卷积数据;
通过样本数据的标记与所述卷积数据确定所述所述图像分割模型。
7.如权利要求1所述的方法,其特征在于,计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息包括:
通过拉普拉斯变换获取上色处理之后的所述指定区域的第一梯度分布信息;
通过拉普拉斯变换获取所述背景区域的第二梯度分布信息;以及
通过所述第一梯度分布信息与所述第二梯度分布信息获取所述梯度分布信息。
8.如权利要求7所述的方法,其特征在于,通过所述第一梯度分布信息与所述第二梯度分布信息获取所述梯度分布信息包括:
将所述第一梯度分布信息作为掩膜覆盖到所述第二梯度分布信息上,以获取所述梯度分布信息。
9.如权利要求1所述的方法,其特征在于,通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建包括:
通过所述梯度分布信息获取图像散度信息;
通过所述图像散度信息求解泊松重建处理中的系数矩阵以对所述图像进行泊松重建。
10.一种图像处理装置,其特征在于,包括:
图像分割模块,用于对图像进行分割处理以获取所述图像中的指定区域与背景区域;
区域上色模块,用于对所述指定区域进行上色处理;
梯度信息模块,用于计算进行上色处理之后的指定区域与所述背景区域的梯度分布信息;
图像重建模块,用于通过所述指定区域与所述背景区域的梯度分布信息对所述图像进行泊松重建,以获取展示图像。
11.如权利要求10所述的装置,其特征在于,还包括:
模型模块,用于通过深度学习算法建立用于对所述图像进行分割处理的图像分割模型。
12.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-9中任一所述的方法。
13.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-9中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810290778.9A CN110349165A (zh) | 2018-04-03 | 2018-04-03 | 图像处理方法、装置、电子设备及计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810290778.9A CN110349165A (zh) | 2018-04-03 | 2018-04-03 | 图像处理方法、装置、电子设备及计算机可读介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110349165A true CN110349165A (zh) | 2019-10-18 |
Family
ID=68172820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810290778.9A Pending CN110349165A (zh) | 2018-04-03 | 2018-04-03 | 图像处理方法、装置、电子设备及计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110349165A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111402114A (zh) * | 2020-03-10 | 2020-07-10 | 云南大学 | 一种基于卷积神经网络的蜡染多染色方法 |
CN112967338A (zh) * | 2019-12-13 | 2021-06-15 | 宏达国际电子股份有限公司 | 影像处理***及影像处理方法 |
CN113888560A (zh) * | 2021-09-29 | 2022-01-04 | 北京百度网讯科技有限公司 | 用于处理图像的方法、装置、设备以及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080226190A1 (en) * | 2007-03-16 | 2008-09-18 | Massachusetts Institute Of Technology | System and method for providing gradient preservation for image processing |
CN105719234A (zh) * | 2016-01-26 | 2016-06-29 | 厦门美图之家科技有限公司 | 用于人脸区域的自动去油光方法、***及拍摄终端 |
WO2016121329A1 (ja) * | 2015-01-29 | 2016-08-04 | パナソニックIpマネジメント株式会社 | 画像処理装置、スタイラス、および画像処理方法 |
CN106203399A (zh) * | 2016-07-27 | 2016-12-07 | 厦门美图之家科技有限公司 | 一种图像处理方法、装置和计算设备 |
EP3139341A1 (en) * | 2015-09-02 | 2017-03-08 | Thomson Licensing | Methods, systems and apparatus for specular highlight reconstruction |
-
2018
- 2018-04-03 CN CN201810290778.9A patent/CN110349165A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20080226190A1 (en) * | 2007-03-16 | 2008-09-18 | Massachusetts Institute Of Technology | System and method for providing gradient preservation for image processing |
WO2016121329A1 (ja) * | 2015-01-29 | 2016-08-04 | パナソニックIpマネジメント株式会社 | 画像処理装置、スタイラス、および画像処理方法 |
EP3139341A1 (en) * | 2015-09-02 | 2017-03-08 | Thomson Licensing | Methods, systems and apparatus for specular highlight reconstruction |
CN105719234A (zh) * | 2016-01-26 | 2016-06-29 | 厦门美图之家科技有限公司 | 用于人脸区域的自动去油光方法、***及拍摄终端 |
CN106203399A (zh) * | 2016-07-27 | 2016-12-07 | 厦门美图之家科技有限公司 | 一种图像处理方法、装置和计算设备 |
Non-Patent Citations (2)
Title |
---|
MICHAEL KAZHDAN等: "Poisson Surface Reconstruction", EUROGRAPHICS SYMPOSIUM ON GEOMETRY PROCESSING, pages 1 - 10 * |
凌瑞: "基于GPU的快速三维人脸重建的研究与实现", 《中国优秀硕士学位论文全文数据库(信息科技辑)》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112967338A (zh) * | 2019-12-13 | 2021-06-15 | 宏达国际电子股份有限公司 | 影像处理***及影像处理方法 |
CN112967338B (zh) * | 2019-12-13 | 2024-05-31 | 宏达国际电子股份有限公司 | 影像处理***及影像处理方法 |
CN111402114A (zh) * | 2020-03-10 | 2020-07-10 | 云南大学 | 一种基于卷积神经网络的蜡染多染色方法 |
CN111402114B (zh) * | 2020-03-10 | 2023-03-24 | 云南大学 | 一种基于卷积神经网络的蜡染多染色方法 |
CN113888560A (zh) * | 2021-09-29 | 2022-01-04 | 北京百度网讯科技有限公司 | 用于处理图像的方法、装置、设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10373312B2 (en) | Automated skin lesion segmentation using deep side layers | |
CN109034206A (zh) | 图像分类识别方法、装置、电子设备及计算机可读介质 | |
CN114187633B (zh) | 图像处理方法及装置、图像生成模型的训练方法及装置 | |
CN109902672A (zh) | 图像标注方法及装置、存储介质、计算机设备 | |
CN111742345A (zh) | 通过着色的视觉跟踪 | |
US20210279279A1 (en) | Automated graph embedding recommendations based on extracted graph features | |
CN110349165A (zh) | 图像处理方法、装置、电子设备及计算机可读介质 | |
CN112215171A (zh) | 目标检测方法、装置、设备及计算机可读存储介质 | |
Liu et al. | Painting completion with generative translation models | |
CN112132770A (zh) | 图像修复的方法、装置、计算机可读介质及电子设备 | |
JP2024519443A (ja) | 双方向空間-時間変換器を使用したアクション認識方法、システム | |
Daihong et al. | Facial expression recognition based on attention mechanism | |
CN114998583A (zh) | 图像处理方法、图像处理装置、设备及存储介质 | |
Timchenko et al. | The method of parallel-hierarchical transformation for rapid recognition of dynamic images using GPGPU technology | |
CN112115744A (zh) | 点云数据的处理方法及装置、计算机存储介质、电子设备 | |
CN112069412B (zh) | 信息推荐方法、装置、计算机设备及存储介质 | |
Li et al. | [Retracted] Deep‐Learning‐Based 3D Reconstruction: A Review and Applications | |
Fridman et al. | Sideeye: A generative neural network based simulator of human peripheral vision | |
Yu et al. | Contrast preserving decolorization based on the weighted normalized l1 norm | |
Ardhianto et al. | Generative deep learning for visual animation in landscapes design | |
CN111898544A (zh) | 文字图像匹配方法、装置和设备及计算机存储介质 | |
CN114792097B (zh) | 预训练模型提示向量的确定方法、装置及电子设备 | |
CN115482324A (zh) | 多媒体资源生成方法、装置、电子设备及存储介质 | |
CN114661904A (zh) | 文档处理模型的训练方法、装置、设备、存储介质及程序 | |
CN114373215A (zh) | 图像处理方法及装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |