CN108629747B - 图像增强方法、装置、电子设备及存储介质 - Google Patents
图像增强方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN108629747B CN108629747B CN201810377408.9A CN201810377408A CN108629747B CN 108629747 B CN108629747 B CN 108629747B CN 201810377408 A CN201810377408 A CN 201810377408A CN 108629747 B CN108629747 B CN 108629747B
- Authority
- CN
- China
- Prior art keywords
- image
- target image
- semantic
- enhancement
- style
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 92
- 230000011218 segmentation Effects 0.000 claims abstract description 41
- 238000012546 transfer Methods 0.000 claims abstract description 38
- 238000013528 artificial neural network Methods 0.000 claims description 36
- 230000002596 correlated effect Effects 0.000 claims description 26
- 230000006870 function Effects 0.000 claims description 25
- 238000012549 training Methods 0.000 claims description 23
- 230000005012 migration Effects 0.000 claims description 22
- 238000013508 migration Methods 0.000 claims description 22
- 230000000875 corresponding effect Effects 0.000 claims description 20
- 239000011159 matrix material Substances 0.000 claims description 20
- 230000003044 adaptive effect Effects 0.000 claims description 19
- 238000010586 diagram Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 10
- 239000013598 vector Substances 0.000 claims description 8
- 230000002708 enhancing effect Effects 0.000 claims description 7
- 238000005259 measurement Methods 0.000 claims description 3
- 239000004576 sand Substances 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 21
- 230000000694 effects Effects 0.000 abstract description 15
- 230000002093 peripheral effect Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 3
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000001965 increasing effect Effects 0.000 description 3
- 239000000919 ceramic Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例公开了一种图像增强方法、装置、设备及存储介质，属于图像处理领域。所述方法包括：获取待处理的目标图像；对所述目标图像进行语义分割，得到所述目标图像的n个语义区域，n为大于1的整数；根据参考图像对所述目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像；其中，所述影响因子用于表示对所述语义区域进行增强时的程度。本申请实施例能够实现对目标图像中的各个语义区域分别进行不同程度的风格转移，从而解决了对目标图像进行整体性的风格转移时增强效果较差的问题；达到了对不同的语义区域按照合适的程度进行增强，使得整张目标图像得到较好的增强性效果。
Description
技术领域
本申请实施例涉及机器学习领域，特别涉及一种图像增强方法、装置、电子设备及存储介质。
背景技术
在夜晚拍摄照片时，需要拍摄者具有许多摄影技巧以及高质量的相机。现在大多数的智能手机，由于设备本身的体积、硬件参数和操作方式存在局限性，很难拍摄出专业的夜景照片。
相关技术中提供了基于风格迁移的图像增强方法，该方法包括：在图像增强程序中输入一张夜景图像，并且由用户在图像增强程序中手动选择一张风格模板图像，图像增强程序会基于深度学习的方法，计算输入的夜景图像和风格模板图像之间的风格损失以及内容损失，经过若干个迭代运算后输出夜景图像。输出的夜景图像在视觉上按照风格模板图像进行了一个整体性的风格化迁移，从而得到了增强。
由于夜景图像在图像内容上有很大的变化，可能会有非常复杂的结构。例如许多建筑物在白天看起来很相似，但是在晚上，它们可以有完全不相同的窗户和壁灯。更不用提许多其它不同类型的物体和光线，比如道路、天空、汽车等等。相关技术中的图像增强方法并不能适应不同内容的夜景图像增强。
发明内容
本申请实施例提供了一种图像增强方法、装置、设备及存储介质，可以解决相关技术中的图像增强方法不能适应不同内容的夜景图像增强，在某些场景下增强效果较差的问题。所述技术方案如下：
根据本申请的一个方面，提供了一种图像增强方法，所述方法包括：
获取待处理的目标图像；
对所述目标图像进行语义分割，得到所述目标图像的n个语义区域，n为大于1的整数；
根据参考图像对所述目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像；
其中，所述影响因子用于表示对所述语义区域进行增强时的程度。
根据本申请的另一方面，提供了一种图像增强装置，所述装置包括：
图像获取模块，用于获取待处理的目标图像；
语义分割模块，用于对所述目标图像进行语义分割，得到所述目标图像的n个语义区域，n为大于1的整数；
风格转移模块，用于根据参考图像对所述目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像；
其中，所述影响因子用于表示对所述语义区域进行增强时的程度。
根据本申请的另一方面，提供了一种电子设备，所述电子设备包括存储器和处理器；所述存储器存储有至少一条指令，所述至少一条指令由所述处理器加载并执行以实现如上所述的图像增强方法。
根据本申请的另一方面，提供了一种计算机可读存储介质，所述存储介质中存储有至少一条指令，所述至少一条指令由处理器加载并执行以实现如上所述的图像增强方法。
本申请实施例提供的技术方案带来的有益效果至少包括：
通过对目标图像进行语义分割得到目标图像的n个语义区域，根据参考图像对目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像；能够实现对目标图像中的各个语义区域分别进行不同程度的风格转移，从而解决了对目标图像进行整体性的风格转移时，无法适应不同的图像内容所导致的增强效果较差的问题；达到了对不同的语义区域按照合适的程度进行增强，使得整张目标图像得到较好的增强性效果。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本申请一个示例性实施例提供的图像处理设备的结构框图；
图2是本申请一个示例性实施例提供的图像增强方法的方法流程图；
图3是本申请一个示例性实施例提供的图像增强方法的方法流程图；
图4是本申请另一个示例性实施例提供的图像增强方法的原理示意图；
图5是本申请另一个示例性实施例提供的图像增强方法的原理示意图；
图6是本申请另一个示例性实施例提供的检索神经网络的训练流程图；
图7是本申请一个示例性实施例提供的图像增强装置的框图；
图8是本申请一个示例性实施例提供的电子设备的框图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合附图对本申请实施方式作进一步地详细描述。
本申请实施例提供了一种基于语义区域进行不同程度增强的图像增强方法，该图像增强方法可以用于夜景图像的效果增强。由于该图像增强方式是全自动的图像增强方式，因此可以应用于移动终端中。当用户在移动终端上拍摄了夜景图像后，由移动终端内的处理器或AI芯片对该夜景图像进行全自动的增强。
典型的，该图像增强方法能够应用于如下产品场景：
手机拍照软件上的夜景增强功能：
目前的智能手机都提供有拍照功能。虽然智能手机上的摄像头参数越来越优秀，但受限于智能手机上的摄像头体积，特别是光圈无法做到很大，导致手机直接拍摄得到夜景图像的质量较为一般。本申请实施例提供的图像增强方法能够以软件形式(或配合专门的Ai芯片)内置于手机内，提供全自动化的夜景增强或者用户手动启用的夜景增强功能。比如，在用户拍摄夜景图像后，在夜景图像的查看页面上提供增强按钮，当用户按压该增强按钮后对该夜景图像进行全自动的增强。
网页服务器提供的在线夜景增强功能：
本申请实施例提供的图像增强方法还能够以软件形式(或配合专门的Ai芯片)设置在网页服务器中。该网页服务器用于向用户提供具有增强图像功能的网页。比如，用户通过该网页向网页服务器上传待处理的图像且选择夜景增强功能，由网页服务器对该图像进行夜景增强。
需要说明的是，本申请实施例提供的图像增强方法可以用于不同形式的图像增强，比如风景图像增强、人文图像增强等。本申请实施例主要以夜景图像增强来举例说明，但并不限定该图像增强方法的应用场景。
请参考图1，其示出了本申请一个示例性实施例提供的图像处理设备的结构框图。该图像处理设备可以实现成为移动终端或服务器，该图像处理设备可简称为设备或电子设备。该图像处理设备包括：处理器120、存储器140和相机160。
处理器120包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器120用于执行存储器140中存储的指令、代码、代码片段和程序中的至少一种。
处理器120与存储器140电性相连。可选地，处理器120通过总线与存储器140相连。存储器140存储有一个或多个指令、代码、代码片段和/或程序。该指令、代码、代码片段和/或程序在被处理器120执行时，用于实现如下实施例中提供的人体姿态预测方法。
处理器120还与相机160电性相连。可选地，处理器120通过总线与相机160相连。相机160是具有图像采集能力的传感器件。相机160还可称为摄像头、感光器件等其它名称。相机160具有连续采集图像或多次采集图像的能力。可选地，相机160设置在设备内部或设备外部。在一些实施例中，若目标图像是其它设备采集的图像，则相机160为可选部件。
本领域技术人员可以理解，图1中示出的结构并不构成对图像处理设备的限定，可以包括比图示更多或更少的组件，或者组合某些组件，或者采用不同的组件布置。
请参考图2，其示出了本申请一个示例性实施例提供的图像增强方法的流程图。该方法能够用于移动终端中，该移动终端可以是具有拍照功能的移动终端。该方法包括：
步骤202，获取待处理的目标图像；
待处理的目标图像是需要进行增强处理的图像。可选地，目标图像是夜景图像。
步骤204，对目标图像进行语义分割，得到目标图像的n个语义区域；
语义区域是目标图像中按照不同的语义区域标签所标注出的区域。可选地，语义区域是像素点级别标注出的区域。语义区域标签的类别包括但不限于：天空、河水、海洋、湖泊、建筑物、人物、动物、植物、道路、汽车等等。其中，n为正整数。
步骤206，根据参考图像对目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像。
风格转移(style Transfer)是将参考图像的风格“转移”到目标图像上的图像处理技术。可选地，参考图像是具有代表性的夜景图像，或者，参考图像是夜景效果高于预设条件的图像。存在至少两张参考图像是具有不同风格和/或不同语义内容的。
终端调用风格迁移增强网络，以参考图像的风格作为参照对目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像。当n≥2时，n个语义区域中存在至少两个语义区域的影响因子是不同的。
综上所述，本实施例提供的图像增强方法，通过对目标图像进行语义分割得到目标图像的n个语义区域，根据参考图像对目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像；能够实现对目标图像中的各个语义区域分别进行不同程度的风格转移，从而解决了对目标图像进行整体性的风格转移时，无法适应不同的图像内容所导致的增强效果较差的问题；达到了对不同的语义区域按照合适的程度进行增强，使得整张目标图像得到较好的增强性效果。
在基于图2提供的可选实施例中，本申请实施例中采用了三种神经网络：检索神经网络、语义分割神经网络、风格转移增强网络。其中：
检索神经网络：用于全自动地从参考图像库中，挑选出与目标图像匹配的参考图像。可选地，该参考图像满足如下三个条件：
1、参考图像本身具有高质量的内容及色彩；
2、参考图像的语义信息与目标图像的语义信息尽可能相似；
3、参考图像的色调(风格)与目标图像的色调尽可能相似。
语义分割神经网络：用于对目标图像进行语义分割，得到目标图像上的各个语义区域。同时，若参考图像尚未进行语义分割时，语义分割神经网络还可用于对参考图像进行语义分割，得到参考图像上的各个语义区域。
风格转移增强网络：用于根据参考图像对目标图像按照语义区域为单位进行风格转移。可选地，每个语义区域按照各自的影响因子进行区别增强，以实现最好的增强效果。
请参考图3，其示出了本申请另一个示例性实施例提供的图像增强方法的流程图。当该方法用于对夜景图像进行增强时，还可称为夜景图像增强方法。该方法能够用于电子设备中，该电子设备可以是具有拍照功能的电子设备。该方法包括：
步骤301，获取待处理的目标图像；
以移动终端为例，当移动终端通过内置摄像头采集夜景图像后，将夜景图像确定为待处理的目标图像。
待处理的目标图像是需要进行增强处理的图像。可选地，目标图像是夜景图像。目标图像是需要进行夜景增强处理的图像。
步骤302，调用检索神经网络从多个参考图像中，确定出与目标图像匹配的参考图像；
参考图像可以由用户在多个参考图像中进行手动选择。但手动选择的效率较低。在一个可选的实施例中，设备内运行有检索神经网络，该检索神经网络能够全自动地从多个参考图像中选择出与目标图像匹配的参考图像，不需要用户的手动选择过程。
可选地，该检索神经网络用于根据语义相似度和/或风格相似度对参考图像进行相似度排名，并将相似度排名第一的参考图像，确定为与目标图像匹配的参考图像。示意性的，设备中存储有多个参考图像，每个参考图像对应不同的语义内容和风格类型。在一个可选的实施例中，从图像聚合网站上预先挑选出5000张具有不同的语义内容和风格类型，且夜景效果较高的图像构建为参考图像库。
可选地，设备将目标图像输入检索神经网络，该检索神经网络用于计算各个参考图像与目标图像之间的语义相似度和风格相似度，并挑选出具有最高的语义相似度和风格相似度的参考图像，作为与目标图像匹配的参考图像。
参考图4，假设左下图为目标图像，左上图为被选择出的参考图像，该选择过程如S1所示。
步骤303，调用语义分割神经网络对目标图像进行处理，得到目标图像的n个语义区域；
可选地，语义分割神经网络是通过标定有语义区域标签的样本图像训练得到的。在一个示意性的例子中，语义分割神经网络是预先利用ADE20K数据集进行训练得到的。
设备将目标图像输入至语义分割神经网络，得到目标图像的n个语义区域，n为正整数。可选地，n为大于1的整数。参考图4，该语义分割过程可以如S2所示。
步骤304，将参考图像和目标图像输入风格迁移增强网络得到输出图像；
在检索神经网络确定出与目标图像匹配的参考图像后，设备将参考图像和目标图像输入风格迁移增强网络中得到输出图像，该风格迁移增强网络包括ι个卷积层，ι为正整数。
可选地，若参考图像是已经进行语义分割的图像，则设备将参考图像的k个语义区域和目标图像的n个语义区域输入风格迁移增强网络中得到输出图像。
可选地，若参考图像是尚未进行语义分割的图像，则设备调用语义分割神经网络对参考图像进行语义分割，得到参考图像上的k个语义区域。然后设备再将参考图像的k个语义区域和目标图像的n个语义区域输入风格迁移增强网络中得到输出图像。参考图4，该语义分割过程可以如S3所示。通常情况下，k≥n。
此后，设备调用风格迁移增强网络按照参考图像中的k个语义区域，对目标图像中的相同或相似的语义区域按照各自的影响因子进行不同程度的增强。该风格迁移增强网络可以包括ι个卷积层。在如图5所示出的示意性例子中，该风格迁移增强网络50包括5个卷积层。
在风格迁移增强网络的增强过程中，衡量输出图像和参考图像之间的损失包括：风格损失和内容损失。可选地，本申请还引入了一个拉普拉斯损失项，该拉普拉斯损失项用于表征输出图像的失真程度。
本实施例中，以输出图像和参考图像之间的总损失包括：风格损失Ls、内容损失Lc和拉普拉斯损失项Lm来举例说明。
步骤305，计算输出图像和参考图像之间的自适应影响因子风格损失Ls；
该自适应影响因子风格损失用于表示输出图像中的n个语义区域按照对应的影响因子进行风格转移后的风格损失之和。可选地，该影响因子在初始状态为默认值，每次迭代更新前进行自适应更新，不需要用户手动调整。
可选地，在一次迭代得到输出图像后，设备按照如下公式计算输出图像和目标图像之间的自适应影响因子风格损失Ls：
其中，O是输出图像，R是参考图像，r是语义区域的标签，Λ是各个影响因子构成的矢量，是第ι个卷积层上第r个语义区域的影响因子，是第ι个卷积层上第r个语义区域的格尔曼矩阵，Nι是第ι个卷积层上的特征图个数。
步骤306，计算输出图像和目标图像之间的内容损失Lc；
可选地，设备按照如下公式计算输出图像和目标图像之间的内容损失Lc：
其中，O是输出图像，L是目标图像，αι是每个卷积层的内容权重，是语义区域的标签，Nι是第ι个卷积层上的特征图个数，Dι是矢量化特征图的维数，是第ι个卷积层上的第r个语义区域对应的特征图。
可选地，为了保持语义结构，同时避免增大信噪比，可以将内容权值5设置为a1-5＝{0,0,0,1,0}，使得内容损失Lc仅应用于卷积层conv4_2中。因此，能够保留编码在较高层(例如conv4_2)中的重要语义信息，而忽略了由较低层中的噪声引起的高频特征，并且只有高质量的参考图像会影响这些较低层。最终达到不增加作为副作用的噪声前提下实现对目标图像的夜景增强。
步骤307，计算输出图像的拉普拉斯损失项Lm；
可选地，为了实现较为真实的风格转换，设备按照如下公式计算输出图像的拉普拉斯损失项Lm，该拉普拉斯损失项Lm用来保留目标图像中的细节：
其中，O是输出图像，Vc[.]是输出图像的矢量C通道，所是定义在拉普拉斯抠图矩阵上的线性***。
步骤308，将输出图像和参考图像的特征输入全连接层得到ι*m的参数矩阵；
可选地，本申请实施例还提供了一个全连接层，该全连接层用于自适应生成不同卷积层的各个语义区域类别的增强因子，如图5中的全连接层52所示。
也即，本申请实施例中的影响因子是自适应更新的。在一次迭代得到输出图像后，设备还将输出图像和参考图像的特征输入全连接层，由该全连接层输出ι*m的参数矩阵。该ι*m的参数矩阵与ι个卷积层上的m个语义区域一一对应。
步骤309，根据ι*m的参数矩阵确定第ι个卷积层上的第m个语义区域的增强因子；
设备根据ι*m的参数矩阵确定第ι个卷积层上的第m个语义区域的增强因子。示意性的，
Λ＝softmax[W H[O,R]]；
H[O,R]是最后一层卷积层汇聚的输出图像和参考图像的特征向量的级联(concat)结果，W是优化的全连接层的参数矩阵。
示意性的，每次迭代过程中通过步骤308和308实现各个影响因子的自适应更新。
步骤310，根据总损失将输出图像在ι个卷积层中进行迭代增强，总损失包括自适应影响因子风格损失Ls、内容损失Lc、拉普拉斯损失项Lm；
可选地，设备计算输出图像和参考图像之间的总损失如下：
L(O，Λ)＝Lc(O)+βLs(O,Λ)+γLm(O)
其中，β是自适应影响因子风格损失(总风格损失)的权重，γ是拉普拉斯损失项的权重。
可选地，设备采用交替更新方案来优化上述总损失，也即通过计算总损失的误差反向传播来优化输出图像。对于增强因子的更新，全连接层的权重梯度如下：
其中，Ls是自适应影响因子风格损失(总风格损失)，C是语义区域的类别数量，i是多个卷积层中第i层，j是多个语义区域类别中的第j类，k是全连接层的特征向量中的第k个元素，ci+j是全连接层的参数矩阵中的行，k还是全连接层的参数矩阵中的列。
步骤311，当总损失收敛时，将输出图像确定为增强后的目标图像。
综上所述，本实施例提供的方法，通过对目标图像进行语义分割得到目标图像的n个语义区域，根据参考图像对目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像；能够实现对目标图像中的各个语义区域分别进行不同程度的风格转移，从而解决了对目标图像进行整体性的风格转移时，无法适应不同的图像内容所导致的增强效果较差的问题；达到了对不同的语义区域按照合适的程度进行增强，使得整张目标图像得到较好的增强性效果。
本实施例提供的方法，还通过分别计算各个语义区域的风格损失后累加得到总风格损失，能够准确计算风格损失，从而达到较好的风格转移效果。
本实施例提供的方法，还通过引入拉普拉斯损失项，使得目标图像在风格转移过程中能够保留图像细节，实现较为真实的风格转移。
本实施例提供的方法，还通过利用输出图像和参考图像的图像特征输入全连接层，利用全连接层来自适应地生成影响因子，避免用户手动调整影响因子的低效率，实现了全自动的图像增强。
本实施例提供的方法，还通过利用检索神经网络来从参考图像库中自动挑选出与目标图像匹配的参考图像，实现了全自动地挑选出语义相似度/或风格相似度最匹配的参考图像，实现了全自动的图像增强。
在基于图3的可选实施例中，预先通过如下方式训练得到检索神经网络，如图6所示：
步骤601，获取多组训练样本，该训练样本包括：样本目标图像、正相关参考图像和负相关参考图像；
可选地，该训练样本的获取过程如下：
1、对于任意一个样本目标图像，计算样本目标图像与参考图像库中的各个参考图像之间的语义度量；
2、按照语义度量由大到小的排列顺序，选择出前i个候选参考图像；
可选地，对两个图像I1和I2，该语义度量Dsem被定义为预先训练的VGG-16分类网络的FC-8层中特征的欧式距离，采用如下公式进行表征：
Dsem＝||ffc8(I1)-ffc8(I2)||2；
其中，ffc8(.)标识图像在FC-8层中特征。示意性的，对于任意一个样本目标图像，选择出60个候选参考图像。
3、在前i个候选参考图像中标定出样本目标图像对应的j个正样本参考图像和k个负相关参考图像，形成一组训练样本。
以60个候选参考图像为例，采用人工标定(或机器标定)方式，在前60个候选参考图像中标定出样本目标图像对应的10个正样本参考图像和50个负相关参考图像，形成一组训练样本。
步骤602，将训练样本输入检索神经网络，按照损失函数进行误差反向传播训练。
该损失函数为如下函数Lref：
其中，i为样本目标图像的候选参考图像的个数，j为样本目标图像的正相关参考图像的个数，k为样本目标图像的负相关参考图像的个数，p代表正相关参考图像，n代表负相关参考图像，α代表正相关参考图像和负相关参考图像之间的最小距离。
综上所述，本实施例提供的方法，能够利用三元组损失函数，可以训练出用于为目标图像匹配参考图像的检索神经网络，让输入的目标图像尽可能与正相关的参考图像接近，而远离负相关的参考图像。
图7示出了本申请一个示例性实施例提供的图像增强装置的结构框图。该图像增强装置可以通过软件、硬件或者两者的结合实现成为图像处理设备的全部或一部分。该装置包括：图像获取模块720、语义分割模块740和风格转移模块760。
图像获取模块720，用于获取待处理的目标图像；
语义分割模块740，用于对所述目标图像进行语义分割，得到所述目标图像的n个语义区域，n为大于1的整数；
风格转移模块760，用于根据参考图像对所述目标图像的n个语义区域按照各自对应的影响因子进行风格转移，得到增强后的目标图像；
其中，所述影响因子用于表示对所述语义区域进行增强时的程度。
在一个可选的实施例中，所述风格转移模块760，用于：
将所述参考图像和所述目标图像输入风格迁移增强网络得到输出图像，所述风格迁移增强网络包括ι个卷积层，ι为正整数；
计算所述输出图像和所述参考图像之间的自适应影响因子风格损失Ls，所述自适应影响因子风格损失用于所述输出图像中的n个语义区域按照对应的影响因子进行风格转移后的风格损失之和；
计算所述输出图像和所述目标图像之间的内容损失Lc；
根据总损失将所述输出图像在所述ι个卷积层中进行迭代增强，所述总损失包括所述自适应影响因子风格损失Ls和所述内容损失Lc；
当所述总损失收敛时，将所述输出图像确定为所述增强后的目标图像。
在一个可选的实施例中，所述风格转移模块760，还用于按照如下公式计算所述输出图像和所述目标图像之间的所述自适应影响因子风格损失Ls：
其中，O是所述输出图像，R是所述参考图像，r是所述语义区域的标签，Λ是各个影响因子构成的矢量，是第ι个卷积层上第r个语义区域的影响因子，是第ι个卷积层上第r个语义区域的格尔曼矩阵，Nι是第ι个卷积层上的特征图个数。
在一个可选的实施例中，所述风格转移模块760，还用于按照如下公式计算所述输出图像和所述目标图像之间的所述内容损失Lc：
其中，O是所述输出图像，L是所述目标图像，αι是每个卷积层的内容权重，r是所述语义区域的标签，Nι是第ι个卷积层上的特征图个数，Dι是矢量化特征图的维数，是第ι个卷积层上的第r个语义区域对应的特征图。
在一个可选的实施例中，所述总损失还包括：拉普拉斯矩阵损失项，所述拉普拉斯矩阵损失项用于保证所述输出图像的真实化；所述风格转移模块760，还用于按照如下公式计算所述输出图像的拉普拉斯损失项：
其中，O是所述输出图像，Vc[·]是所述输出图像的矢量C通道，所述ML是定义在拉普拉斯抠图矩阵上的线性***。
在一个可选的实施例中，所述风格转移模块760，还用于将所述输出图像和所述参考图像的特征输入全连接层得到ι*m的参数矩阵，所述全连接层用于自适应生成不同卷积层的各个语义区域类别的增强因子；根据所述ι*m的参数矩阵确定第ι个卷积层上的第m个语义区域的增强因子。
在一个可选的实施例中，所述语义分割模块74，还用于调用语义分割神经网络对所述参考图像进行语义分割，得到所述参考图像上的k个语义区域；
所述风格转移模块760，还用于将所述参考图像上的k个语义区域和所述目标图像上的n个语义区域输入所述风格迁移增强网络得到所述输出图像。
在一个可选的实施例中，所述装置还包括：检索模块780；
所述检索模块780，用于调用检索神经网络从多个参考图像中，确定出与所述目标图像匹配的参考图像，所述检索神经网络用于根据语义相似度和/或风格相似度对所述参考图像进行相似度排名。
在一个可选的实施例中，所述装置，还包括：
所述图像获取模块72，用于获取多组训练样本，所述训练样本包括：样本目标图像、正相关参考图像和负相关参考图像；
训练模块790，用于将所述多组训练样本输入所述检索神经网络，按照损失函数进行误差反向传播训练。
在一个可选的实施例中，所述图像获取模块720，用于：
对于任意一个样本目标图像，计算所述样本目标图像与参考图像库中的各个参考图像之间的语义度量；
按照所述语义度量由大到小的排列顺序，选择出前i个候选参考图像；
在所述前i个候选参考图像中标定出所述样本目标图像对应的j个正样本参考图像和k个负相关参考图像，形成一组训练样本。
在一个可选的实施例中，所述损失函数为如下函数Lref：
其中，i为所述样本目标图像的候选参考图像的个数，j为所述样本目标图像的正相关参考图像的个数，k为所述样本目标图像的负相关参考图像的个数，p代表所述正相关参考图像，n代表所述负相关参考图像，α代表所述正相关参考图像和所述负相关参考图像之间的最小距离。
在一个可选的实施例中，所述语义分割模块740，用于调用语义分割神经网络对所述目标图像进行处理，得到所述目标图像的n个语义区域；
其中，所述语义分割神经网络是通过标定有语义区域标签的样本图像训练得到的。
需要说明的是：上述实施例提供的图像增强装置在增强夜景图像时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将装置的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的图像增强装置与图像增强方法的方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。
请参考图8，示出了本发明一个示例性实施例提供的电子设备800的结构框图。该电子设备800可以是：智能手机、平板电脑、MP3播放器(Moving Picture Experts GroupAudio Layer III，动态影像专家压缩标准音频层面3)、MP4(Moving Picture ExpertsGroup Audio Layer IV，动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。电子设备800还可能被称为用户设备、便携式电子设备、膝上型电子设备、台式电子设备等其他名称。
通常，电子设备800包括有：处理器801和存储器802。
处理器801可以包括一个或多个处理核心，比如4核心处理器、8核心处理器等。处理器801可以采用DSP(Digital Signal Processing，数字信号处理)、FPGA(Field－Programmable Gate Array，现场可编程门阵列)、PLA(Programmable Logic Array，可编程逻辑阵列)中的至少一种硬件形式来实现。处理器801也可以包括主处理器和协处理器，主处理器是用于对在唤醒状态下的数据进行处理的处理器，也称CPU(Central ProcessingUnit，中央处理器)；协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中，处理器801可以在集成有GPU(Graphics Processing Unit，图像处理器)，GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中，处理器801还可以包括AI(Artificial Intelligence，人工智能)处理器，该AI处理器用于处理有关机器学习的计算操作。
存储器802可以包括一个或多个计算机可读存储介质，该计算机可读存储介质可以是非暂态的。存储器802还可包括高速随机存取存储器，以及非易失性存储器，比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中，存储器802中的非暂态的计算机可读存储介质用于存储至少一个指令，该至少一个指令用于被处理器801所执行以实现本申请中方法实施例提供的图像增强方法。
在一些实施例中，电子设备800还可选包括有：***设备接口803和至少一个***设备。处理器801、存储器802和***设备接口803之间可以通过总线或信号线相连。各个***设备可以通过总线、信号线或电路板与***设备接口803相连。具体地，***设备包括：射频电路804、触摸显示屏805、摄像头806、音频电路807、定位组件808和电源809中的至少一种。
***设备接口803可被用于将I/O(Input/Output，输入/输出)相关的至少一个***设备连接到处理器801和存储器802。在一些实施例中，处理器801、存储器802和***设备接口803被集成在同一芯片或电路板上；在一些其他实施例中，处理器801、存储器802和***设备接口803中的任意一个或两个可以在单独的芯片或电路板上实现，本实施例对此不加以限定。
射频电路804用于接收和发射RF(Radio Frequency，射频)信号，也称电磁信号。射频电路804通过电磁信号与通信网络以及其他通信设备进行通信。射频电路804将电信号转换为电磁信号进行发送，或者，将接收到的电磁信号转换为电信号。可选地，射频电路804包括：天线***、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路804可以通过至少一种无线通信协议来与其它电子设备进行通信。该无线通信协议包括但不限于：万维网、城域网、内联网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity，无线保真)网络。在一些实施例中，射频电路804还可以包括NFC(Near Field Communication，近距离无线通信)有关的电路，本申请对此不加以限定。
显示屏805用于显示UI(User Interface，用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏805是触摸显示屏时，显示屏805还具有采集在显示屏805的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器801进行处理。此时，显示屏805还可以用于提供虚拟按钮和/或虚拟键盘，也称软按钮和/或软键盘。在一些实施例中，显示屏805可以为一个，设置电子设备800的前面板；在另一些实施例中，显示屏805可以为至少两个，分别设置在电子设备800的不同表面或呈折叠设计；在再一些实施例中，显示屏805可以是柔性显示屏，设置在电子设备800的弯曲表面上或折叠面上。甚至，显示屏805还可以设置成非矩形的不规则图形，也即异形屏。显示屏805可以采用LCD(Liquid Crystal Display，液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件806用于采集图像或视频。可选地，摄像头组件806包括前置摄像头和后置摄像头。通常，前置摄像头设置在电子设备的前面板，后置摄像头设置在电子设备的背面。在一些实施例中，后置摄像头为至少两个，分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种，以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality，虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中，摄像头组件806还可以包括闪光灯。闪光灯可以是单色温闪光灯，也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合，可以用于不同色温下的光线补偿。
音频电路807可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波，并将声波转换为电信号输入至处理器801进行处理，或者输入至射频电路804以实现语音通信。出于立体声采集或降噪的目的，麦克风可以为多个，分别设置在电子设备800的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器801或射频电路804的电信号转换为声波。扬声器可以是传统的薄膜扬声器，也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时，不仅可以将电信号转换为人类可听见的声波，也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中，音频电路807还可以包括耳机插孔。
定位组件808用于定位电子设备800的当前地理位置，以实现导航或LBS(LocationBased Service，基于位置的服务)。定位组件808可以是基于美国的GPS(GlobalPositioning System，全球定位***)、中国的北斗***或俄罗斯的伽利略***的定位组件。
电源809用于为电子设备800中的各个组件进行供电。电源809可以是交流电、直流电、一次性电池或可充电电池。当电源809包括可充电电池时，该可充电电池可以是有线充电电池或无线充电电池。有线充电电池是通过有线线路充电的电池，无线充电电池是通过无线线圈充电的电池。该可充电电池还可以用于支持快充技术。
在一些实施例中，电子设备800还包括有一个或多个传感器810。该一个或多个传感器810包括但不限于：加速度传感器811、陀螺仪传感器812、压力传感器813、指纹传感器814、光学传感器815以及接近传感器816。
加速度传感器811可以检测以电子设备800建立的坐标系的三个坐标轴上的加速度大小。比如，加速度传感器811可以用于检测重力加速度在三个坐标轴上的分量。处理器801可以根据加速度传感器811采集的重力加速度信号，控制触摸显示屏805以横向视图或纵向视图进行用户界面的显示。加速度传感器811还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器812可以检测电子设备800的机体方向及转动角度，陀螺仪传感器812可以与加速度传感器811协同采集用户对电子设备800的3D动作。处理器801根据陀螺仪传感器812采集的数据，可以实现如下功能：动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器813可以设置在电子设备800的侧边框和/或触摸显示屏805的下层。当压力传感器813设置在电子设备800的侧边框时，可以检测用户对电子设备800的握持信号，由处理器801根据压力传感器813采集的握持信号进行左右手识别或快捷操作。当压力传感器813设置在触摸显示屏805的下层时，由处理器801根据用户对触摸显示屏805的压力操作，实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器814用于采集用户的指纹，由处理器801根据指纹传感器814采集到的指纹识别用户的身份，或者，由指纹传感器814根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时，由处理器801授权该用户执行相关的敏感操作，该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器814可以被设置电子设备800的正面、背面或侧面。当电子设备800上设置有物理按键或厂商Logo时，指纹传感器814可以与物理按键或厂商Logo集成在一起。
光学传感器815用于采集环境光强度。在一个实施例中，处理器801可以根据光学传感器815采集的环境光强度，控制触摸显示屏805的显示亮度。具体地，当环境光强度较高时，调高触摸显示屏805的显示亮度；当环境光强度较低时，调低触摸显示屏805的显示亮度。在另一个实施例中，处理器801还可以根据光学传感器815采集的环境光强度，动态调整摄像头组件806的拍摄参数。
接近传感器816，也称距离传感器，通常设置在电子设备800的前面板。接近传感器816用于采集用户与电子设备800的正面之间的距离。在一个实施例中，当接近传感器816检测到用户与电子设备800的正面之间的距离逐渐变小时，由处理器801控制触摸显示屏805从亮屏状态切换为息屏状态；当接近传感器816检测到用户与电子设备800的正面之间的距离逐渐变大时，由处理器801控制触摸显示屏805从息屏状态切换为亮屏状态。
本领域技术人员可以理解，图8中示出的结构并不构成对电子设备800的限定，可以包括比图示更多或更少的组件，或者组合某些组件，或者采用不同的组件布置。
本申请还提供一种计算机可读存储介质，所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、所述至少一段程序、所述代码集或指令集由所述处理器加载并执行以实现上述方法实施例提供的图像增强方法。
本申请还提供了一种计算机程序产品，当其在电子设备上运行时，使得电子设备执行上述各个方法实施例所述的图像增强方法。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。
以上所述仅为本申请的较佳实施例，并不用以限制本申请，凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。
Claims (14)
1.一种图像增强方法，其特征在于，所述方法包括：
获取待处理的目标图像；
对所述目标图像进行语义分割，得到所述目标图像的n个语义区域，n为大于1的整数；
将参考图像和所述目标图像输入风格迁移增强网络得到输出图像，所述风格迁移增强网络包括ι个卷积层，ι为正整数；
计算所述输出图像和所述参考图像之间的自适应影响因子风格损失Ls，所述自适应影响因子风格损失用于所述输出图像中的n个语义区域按照对应的影响因子进行风格转移后的风格损失之和；
计算所述输出图像和所述目标图像之间的内容损失Lc；
根据总损失将所述输出图像在所述ι个卷积层中进行迭代增强，所述总损失包括所述自适应影响因子风格损失Ls和所述内容损失Lc；
当所述总损失收敛时，将所述输出图像确定为增强后的目标图像；
其中，所述影响因子用于表示对所述语义区域进行增强时的程度。
2.根据权利要求1所述的方法，其特征在于，所述计算所述输出图像和所述参考图像之间的自适应影响因子风格损失Ls，包括：
按照如下公式计算所述输出图像和所述目标图像之间的所述自适应影响因子风格损失Ls：
其中，O是所述输出图像，R是所述参考图像，r是所述语义区域的标签，Λ是各个影响因子构成的矢量，是第ι个卷积层上第r个语义区域的影响因子，是第ι个卷积层上第r个语义区域的格尔曼矩阵，Nι是第ι个卷积层上的特征图个数。
3.根据权利要求1所述的方法，其特征在于，所述计算所述输出图像和所述目标图像之间的内容损失Lc，包括：
按照如下公式计算所述输出图像和所述目标图像之间的所述内容损失Lc：
其中，O是所述输出图像，L是所述目标图像，αι是每个卷积层的内容权重，r是所述语义区域的标签，Nι是第ι个卷积层上的特征图个数，Dι是矢量化特征图的维数，是第ι个卷积层上的第r个语义区域对应的特征图。
4.根据权利要求1所述的方法，其特征在于，所述总损失还包括：拉普拉斯矩阵损失项，所述拉普拉斯矩阵损失项用于保证所述输出图像的真实化；所述方法还包括:
按照如下公式计算所述输出图像的拉普拉斯损失项：
其中，O是所述输出图像，Vc[.]是所述输出图像的矢量C通道，所述ML是定义在拉普拉斯抠图矩阵上的线性***。
5.根据权利要求2所述的方法，其特征在于，所述方法还包括：
将所述输出图像和所述参考图像的特征输入全连接层得到ι*m的参数矩阵，所述全连接层用于自适应生成不同卷积层的各个语义区域类别的增强因子；
根据所述ι*m的参数矩阵确定第ι个卷积层上的第m个语义区域的增强因子。
6.根据权利要求1所述的方法，其特征在于，所述将所述参考图像和所述目标图像输入风格迁移增强网络得到输出图像，包括：
调用语义分割神经网络对所述参考图像进行语义分割，得到所述参考图像上的k个语义区域；
将所述参考图像上的k个语义区域和所述目标图像上的n个语义区域输入所述风格迁移增强网络得到所述输出图像。
7.根据权利要求1至6任一所述的方法，其特征在于，所述将参考图像和所述目标图像输入风格迁移增强网络得到输出图像之前，还包括:
调用检索神经网络从多个参考图像中，确定出与所述目标图像匹配的参考图像，所述检索神经网络用于根据语义相似度和/或风格相似度对所述参考图像进行相似度排名。
8.根据权利要求7所述的方法，其特征在于，所述调用检索神经网络从多个候选参考图像中，确定出与所述目标图像匹配的参考图像之前，还包括：
获取多组训练样本，所述训练样本包括：样本目标图像、正相关参考图像和负相关参考图像；
将所述多组训练样本输入所述检索神经网络，按照损失函数进行误差反向传播训练。
9.根据权利要求8所述的方法，其特征在于，所述获取多组训练样本，包括：
对于任意一个样本目标图像，计算所述样本目标图像与参考图像库中的各个参考图像之间的语义度量；
按照所述语义度量由大到小的排列顺序，选择出前i个候选参考图像；
在所述前i个候选参考图像中标定出所述样本目标图像对应的j个正样本参考图像和k个负相关参考图像，形成一组训练样本。
10.根据权利要求8或9所述的方法，其特征在于，所述损失函数为如下函数Lref：
其中，i为所述样本目标图像的候选参考图像的个数，j为所述样本目标图像的正相关参考图像的个数，k为所述样本目标图像的负相关参考图像的个数，p代表所述正相关参考图像，n代表所述负相关参考图像，α代表所述正相关参考图像和所述负相关参考图像之间的最小距离。
11.根据权利要求1至6任一所述的方法，其特征在于，所述对所述目标图像进行语义分割，得到所述目标图像的n个语义区域，包括：
调用语义分割神经网络对所述目标图像进行处理，得到所述目标图像的n个语义区域；
其中，所述语义分割神经网络是通过标定有语义区域标签的样本图像训练得到的。
12.一种图像增强装置，其特征在于，所述装置包括：
图像获取模块，用于获取待处理的目标图像；
语义分割模块，用于对所述目标图像进行语义分割，得到所述目标图像的n个语义区域，n为大于1的整数；
风格转移模块，用于将参考图像和所述目标图像输入风格迁移增强网络得到输出图像，所述风格迁移增强网络包括ι个卷积层，ι为正整数；计算所述输出图像和所述参考图像之间的自适应影响因子风格损失Ls，所述自适应影响因子风格损失用于所述输出图像中的n个语义区域按照对应的影响因子进行风格转移后的风格损失之和；计算所述输出图像和所述目标图像之间的内容损失Lc；根据总损失将所述输出图像在所述ι个卷积层中进行迭代增强，所述总损失包括所述自适应影响因子风格损失Ls和所述内容损失Lc；当所述总损失收敛时，将所述输出图像确定为增强后的目标图像；
其中，所述影响因子用于表示对所述语义区域进行增强时的程度。
13.一种电子设备，其特征在于，所述电子设备包括存储器和处理器；
所述存储器中存储有至少一条指令，所述至少一条指令由所述处理器加载并执行以实现如权利要求1至11任一所述的图像增强方法。
14.一种计算机可读存储介质，其特征在于，所述存储介质中存储有至少一条指令，所述至少一条指令由处理器加载并执行以实现如权利要求1至11任一所述的图像增强方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810377408.9A CN108629747B (zh) | 2018-04-25 | 2018-04-25 | 图像增强方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810377408.9A CN108629747B (zh) | 2018-04-25 | 2018-04-25 | 图像增强方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108629747A CN108629747A (zh) | 2018-10-09 |
| CN108629747B true CN108629747B (zh) | 2019-12-10 |
Family
ID=63694439
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810377408.9A Active CN108629747B (zh) | 2018-04-25 | 2018-04-25 | 图像增强方法、装置、电子设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108629747B (zh) |
Families Citing this family (24)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109377537B (zh) * | 2018-10-18 | 2020-11-06 | 云南大学 | 重彩画的风格转移方法 |
| CN109697690A (zh) * | 2018-11-01 | 2019-04-30 | 北京达佳互联信息技术有限公司 | 图像风格迁移方法和*** |
| CN109348089B (zh) * | 2018-11-22 | 2020-05-22 | Oppo广东移动通信有限公司 | 夜景图像处理方法、装置、电子设备及存储介质 |
| CN109544482A (zh) * | 2018-11-29 | 2019-03-29 | 厦门美图之家科技有限公司 | 一种卷积神经网络模型生成方法及图像增强方法 |
| CN109584179A (zh) * | 2018-11-29 | 2019-04-05 | 厦门美图之家科技有限公司 | 一种卷积神经网络模型生成方法及图像质量优化方法 |
| TWI696144B (zh) * | 2018-12-19 | 2020-06-11 | 財團法人工業技術研究院 | 影像生成器的訓練方法 |
| KR102646889B1 (ko) * | 2018-12-21 | 2024-03-12 | 삼성전자주식회사 | 스타일 변환을 위한 영상 처리 장치 및 방법 |
| CN109859152B (zh) * | 2018-12-25 | 2021-05-25 | 北京奇艺世纪科技有限公司 | 模型生成方法、图像增强方法、装置及计算机可读存储介质 |
| CN109859096A (zh) * | 2018-12-28 | 2019-06-07 | 北京达佳互联信息技术有限公司 | 图像风格迁移方法、装置、电子设备及存储介质 |
| CN111583097A (zh) * | 2019-02-18 | 2020-08-25 | 北京三星通信技术研究有限公司 | 图像处理方法、装置、电子设备及计算机可读存储介质 |
| CN111669492A (zh) * | 2019-03-06 | 2020-09-15 | 青岛海信移动通信技术股份有限公司 | 一种终端对拍摄的数字图像进行处理的方法及终端 |
| CN110009028B (zh) * | 2019-03-28 | 2021-04-02 | 北京科技大学 | 一种显微图像数据增强方法及装置 |
| US11404025B2 (en) | 2019-04-10 | 2022-08-02 | Mediatek Inc. | Video processing system for performing artificial intelligence assisted picture quality enhancement and associated video processing method |
| CN110222722A (zh) * | 2019-05-14 | 2019-09-10 | 华南理工大学 | 交互式图像风格化处理方法、***、计算设备及存储介质 |
| CN110781899B (zh) * | 2019-10-23 | 2022-11-25 | 维沃移动通信有限公司 | 图像处理方法及电子设备 |
| CN110796624B (zh) | 2019-10-31 | 2022-07-05 | 北京金山云网络技术有限公司 | 一种图像生成方法、装置及电子设备 |
| CN114930798A (zh) * | 2019-12-30 | 2022-08-19 | 苏州臻迪智能科技有限公司 | 拍摄对象切换方法及装置、图像处理方法及装置 |
| CN111325664B (zh) * | 2020-02-27 | 2023-08-29 | Oppo广东移动通信有限公司 | 风格迁移方法、装置、存储介质及电子设备 |
| CN111402170B (zh) * | 2020-03-23 | 2023-11-03 | Oppo广东移动通信有限公司 | 图像增强方法、装置、终端及计算机可读存储介质 |
| CN111681183A (zh) * | 2020-06-05 | 2020-09-18 | 兰州理工大学 | 一种壁画图像色彩还原方法及装置 |
| CN113240576B (zh) * | 2021-05-12 | 2024-04-30 | 北京达佳互联信息技术有限公司 | 风格迁移模型的训练方法、装置、电子设备及存储介质 |
| CN113837162B (zh) * | 2021-11-29 | 2022-04-08 | 腾讯科技（深圳）有限公司 | 数据处理方法及相关装置 |
| CN116740360B (zh) * | 2023-08-10 | 2024-06-18 | 荣耀终端有限公司 | 一种图像处理方法、装置、设备及存储介质 |
| CN117115220B (zh) * | 2023-08-31 | 2024-04-26 | 阿里巴巴达摩院(杭州)科技有限公司 | 图像处理方法、服务提供方法、装置、设备和存储介质 |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105631403A (zh) * | 2015-12-17 | 2016-06-01 | 小米科技有限责任公司 | 人脸识别方法及装置 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103617596A (zh) * | 2013-10-12 | 2014-03-05 | 中山大学 | 一种基于流型转换的图像色彩风格变换方法 |
| US9558268B2 (en) * | 2014-08-20 | 2017-01-31 | Mitsubishi Electric Research Laboratories, Inc. | Method for semantically labeling an image of a scene using recursive context propagation |
| US9972073B2 (en) * | 2016-06-22 | 2018-05-15 | Adobe Systems Incorporated | Enhanced vectorization of raster images |
| CN107564025B (zh) * | 2017-08-09 | 2020-05-29 | 浙江大学 | 一种基于深度神经网络的电力设备红外图像语义分割方法 |
-
2018
- 2018-04-25 CN CN201810377408.9A patent/CN108629747B/zh active Active
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105631403A (zh) * | 2015-12-17 | 2016-06-01 | 小米科技有限责任公司 | 人脸识别方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN108629747A (zh) | 2018-10-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108629747B (zh) | 图像增强方法、装置、电子设备及存储介质 | |
| CN109086709B (zh) | 特征提取模型训练方法、装置及存储介质 | |
| CN110121118B (zh) | 视频片段定位方法、装置、计算机设备及存储介质 | |
| CN110147805B (zh) | 图像处理方法、装置、终端及存储介质 | |
| CN109299315B (zh) | 多媒体资源分类方法、装置、计算机设备及存储介质 | |
| CN110650379B (zh) | 视频摘要生成方法、装置、电子设备及存储介质 | |
| CN110490179B (zh) | 车牌识别方法、装置及存储介质 | |
| CN108288032B (zh) | 动作特征获取方法、装置及存储介质 | |
| CN108776822B (zh) | 目标区域检测方法、装置、终端及存储介质 | |
| CN109360222B (zh) | 图像分割方法、装置及存储介质 | |
| CN111680697B (zh) | 实现领域自适应的方法、装置、电子设备及介质 | |
| CN110856048B (zh) | 视频修复方法、装置、设备及存储介质 | |
| CN110796248A (zh) | 数据增强的方法、装置、设备及存储介质 | |
| CN110991457B (zh) | 二维码处理方法、装置、电子设备及存储介质 | |
| CN110503160B (zh) | 图像识别方法、装置、电子设备及存储介质 | |
| CN112261491B (zh) | 视频时序标注方法、装置、电子设备及存储介质 | |
| CN111127509A (zh) | 目标跟踪方法、装置和计算机可读存储介质 | |
| CN113918767A (zh) | 视频片段定位方法、装置、设备及存储介质 | |
| CN114547428A (zh) | 推荐模型处理方法、装置、电子设备及存储介质 | |
| CN112508959B (zh) | 视频目标分割方法、装置、电子设备及存储介质 | |
| CN114117206A (zh) | 推荐模型处理方法、装置、电子设备及存储介质 | |
| CN110728167A (zh) | 文本检测方法、装置及计算机可读存储介质 | |
| CN111611414A (zh) | 车辆检索方法、装置及存储介质 | |
| CN113343709B (zh) | 意图识别模型的训练方法、意图识别方法、装置及设备 | |
| CN114817709A (zh) | 排序方法、装置、设备及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20210915 Address after: 518057 Tencent Building, No. 1 High-tech Zone, Nanshan District, Shenzhen City, Guangdong Province, 35 floors Patentee after: TENCENT TECHNOLOGY (SHENZHEN) Co.,Ltd. Patentee after: TENCENT CLOUD COMPUTING (BEIJING) Co.,Ltd. Address before: 518057 Tencent Building, No. 1 High-tech Zone, Nanshan District, Shenzhen City, Guangdong Province, 35 floors Patentee before: TENCENT TECHNOLOGY (SHENZHEN) Co.,Ltd. |
|
| TR01 | Transfer of patent right |