CN109727208A - 滤镜推荐方法、装置、电子设备及存储介质 - Google Patents

滤镜推荐方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN109727208A
CN109727208A CN201811505873.2A CN201811505873A CN109727208A CN 109727208 A CN109727208 A CN 109727208A CN 201811505873 A CN201811505873 A CN 201811505873A CN 109727208 A CN109727208 A CN 109727208A
Authority
CN
China
Prior art keywords
classification
filter
recommendation
image
original image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811505873.2A
Other languages
English (en)
Inventor
张渊
郑文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Dajia Internet Information Technology Co Ltd
Original Assignee
Beijing Dajia Internet Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Dajia Internet Information Technology Co Ltd filed Critical Beijing Dajia Internet Information Technology Co Ltd
Priority to CN201811505873.2A priority Critical patent/CN109727208A/zh
Publication of CN109727208A publication Critical patent/CN109727208A/zh
Priority to PCT/CN2019/112572 priority patent/WO2020119254A1/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/60Image enhancement or restoration using machine learning, e.g. neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开是关于一种滤镜推荐方法、装置、电子设备及存储介质。其中方法包括:接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别所述原始图像所属的类别;依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜;根据查询到的智能滤镜进行滤镜推荐。本公开可以根据原始图像的类别进行智能滤镜的推荐,推荐过程更加客观,推荐的智能滤镜能够更加适应原始图像的情况,推荐结果准确,能够提升用户体验。

Description

滤镜推荐方法、装置、电子设备及存储介质
技术领域
本公开涉及图像处理技术领域,尤其涉及一种滤镜推荐方法、装置、电子设备及存储介质。
背景技术
随着移动互联网和智能终端的飞速发展,移动终端逐渐成为人们生活中不可或缺的一部分。移动终端具有通话,拍摄,播放音频、视频,定位,条码扫描等各种功能,为人们的生活带来了极大的便利。
在利用移动终端拍摄时,为了使得拍摄的作品质量更好,很多用户会在拍摄的照片或者视频上增加滤镜,以达到美化照片或视频的目的。
在相关技术中,用户通常是根据自己的喜好来选择要增加的滤镜,因此滤镜的选择往往偏主观,而很多用户并不是专业摄像人士,从而导致选择的滤镜与拍摄的作品不符合,滤镜选择不准确,降低用户体验。
发明内容
为克服相关技术中存在的问题,本公开提供一种滤镜推荐方法、装置、电子设备及存储介质。
根据本公开实施例的第一方面,提供一种滤镜推荐方法,包括:接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别所述原始图像的类别;依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜;根据查询到的智能滤镜进行滤镜推荐。
可选地,所述在预置图像特征包含的类别中,识别所述原始图像所属的类别的步骤包括:将所述原始图像输入预设的神经网络模型,所述神经网络模型包括至少一个全连接层,每个全连接层对应一种预置图像特征,每种预置图像特征包含至少一种类别;获取每个全连接层输出的,在所述全连接层对应的预置图像特征包含的类别中,所述原始图像所属的类别。
可选地,所述神经网络模型通过如下方式得到:获取多个样本图像,每个样本图像标记有在至少一种所述预置图像特征包含的类别中所属的类别;针对每种类别,根据所述类别对应的样本图像的数量,计算所述类别对应的采样权重;按照每种类别各自对应的采样权重从所述多个样本图像中选取待训练的样本图像;利用所述待训练的样本图像,训练所述神经网络模型。
可选地,所述原始图像所属的类别包括至少一种,所述类别与智能滤镜的对应关系中每个智能滤镜对应至少一种类别;所述依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜的步骤包括:依据所述类别与智能滤镜的对应关系,查询对应的类别命中所述原始图像所属的类别的智能滤镜。
可选地,根据查询到的智能滤镜进行滤镜推荐的步骤包括:从查询到的智能滤镜中选取命中类别的数量最多的智能滤镜,作为推荐的智能滤镜。
可选地,在所述从查询到的智能滤镜中选取命中类别的数量最多的智能滤镜,作为推荐的智能滤镜的步骤之后,还包括:显示滤镜列表,在所述滤镜列表中显示所述推荐的智能滤镜,并将所述推荐的智能滤镜标记为智能;在所述滤镜列表中存在与所述推荐的智能滤镜类别相同的滤镜时,将所述类别相同的滤镜中的至少一个滤镜标记为推荐。
可选地,所述预置图像特征包括图像目标、图像场景及图像质量。
根据本公开实施例的第二方面,提供一种滤镜推荐装置,包括:识别单元,被配置为接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别所述原始图像所属的类别;查询单元,被配置为依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜;推荐单元,被配置为根据查询到的智能滤镜进行滤镜推荐。
可选地,所述识别单元包括:图像输入模块,被配置为将所述原始图像输入预设的神经网络模型,所述神经网络模型包括至少一个全连接层,每个全连接层对应一种预置图像特征,每种预置图像特征包含至少一种类别;类别获取模块,被配置为获取每个全连接层输出的,在所述全连接层对应的预置图像特征包含的类别中,所述原始图像所属的类别。
可选地,所述的装置还包括:获取单元,被配置为获取多个样本图像,每个样本图像标记有在至少一种所述预置图像特征包含的类别中所属的类别;计算单元,被配置为针对每种类别,根据所述类别对应的样本图像的数量,计算所述类别对应的采样权重;选取单元,被配置为按照每种类别各自对应的采样权重从所述多个样本图像中选取待训练的样本图像;训练单元,被配置为利用所述待训练的样本图像,训练所述神经网络模型。
可选地,所述原始图像所属的类别包括至少一种,所述类别与智能滤镜的对应关系中每个智能滤镜对应至少一种类别;所述查询单元包括:类别查询模块,被配置为依据所述类别与智能滤镜的对应关系,查询对应的类别命中所述原始图像所属的类别的智能滤镜。
可选地,所述推荐单元包括:滤镜选取模块,被配置为从查询到的智能滤镜中选取命中类别的数量最多的智能滤镜,作为推荐的智能滤镜。
可选地,所述装置还包括:显示单元,被配置为显示滤镜列表,在所述滤镜列表中显示所述推荐的智能滤镜,并将所述推荐的智能滤镜标记为智能;标记单元,被配置为在所述滤镜列表中存在与所述推荐的智能滤镜类别相同的滤镜时,将所述类别相同的滤镜中的至少一个滤镜标记为推荐。
可选地,所述预置图像特征包括图像目标、图像场景及图像质量。
根据本公开实施例的第三方面,提供一种电子设备,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为执行上述任一种滤镜推荐方法。
根据本公开实施例的第四方面,提供一种非临时性计算机可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行上述任一种滤镜推荐方法。
根据本公开实施例的第五方面,提供一种计算机程序产品,当所述计算机程序产品中的指令由电子设备的处理器执行时,使得电子设备能够执行上述任一种滤镜推荐方法。
本公开的实施例提供的技术方案可以包括以下有益效果:
本公开的实施例中,接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别原始图像所属的类别;依据预设的类别与智能滤镜的对应关系,查询原始图像所属的类别对应的智能滤镜;根据查询到的智能滤镜进行滤镜推荐。由此可知,本公开实施例中可以根据原始图像的类别进行智能滤镜的推荐,推荐过程更加客观,推荐的智能滤镜能够更加适应原始图像的情况,推荐结果准确,能够提升用户体验。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。
图1是根据一示例性实施例示出的一种滤镜推荐方法的流程图。
图2是根据一示例性实施例示出的一种滤镜推荐方法的流程图。
图3是根据一示例性实施例示出的一种神经网络模型的示意图。
图4是根据一示例性实施例示出的一种滤镜列表的示意图。
图5是根据一示例性实施例示出的一种滤镜推荐效果的示意图。
图6是根据一示例性实施例示出的一种滤镜推荐效果的示意图。
图7是根据一示例性实施例示出的一种滤镜推荐效果的示意图。
图8是根据一示例性实施例示出的一种滤镜推荐装置的框图。
图9是根据一示例性实施例示出的一种用于滤镜推荐的装置的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种滤镜推荐方法的流程图,如图1所示,滤镜推荐方法用于电子设备中,包括以下步骤。
在步骤S11中,接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别所述原始图像所属的类别。
原始图像可以为相册中已保存的、之前拍摄的图像,原始图像也可以为当前正在拍摄的图像。原始图像可以为照片或者视频。
用户可以为原始图像增加滤镜。比如,用户可以针对原始图像选择编辑操作,将原始图像导入到编辑界面中,在编辑界面中可以显示一键美化、裁切旋转、滤镜、贴纸、涂鸦等选项,用户可以选择其中的滤镜选项,从而触发为原始图像增加滤镜的指令。
***在接收到为原始图像增加滤镜的指令后,可以在预置图像特征包含的类别中,识别该原始图像所属的类型。
其中,预置图像特征可以包括至少一种。比如,预置图像特征可以包括图像目标、图像场景及图像质量等。每种预置图像特征可以包含多种类别。比如,图像目标可以包含大人、婴儿、猫、狗、美食等,图像场景可以包含室内、舞台、人群、风景等,图像质量可以包含高质量、逆光、模糊等。
在步骤S12中,依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜。
本公开实施例中,可以预先设置类别与智能滤镜的对应关系。因此在识别出原始图像所属的类别后,即可从预设的类别与智能滤镜的对应关系中,查询原始图像所属的类别对应的智能滤镜。
在步骤S13中,根据查询到的智能滤镜进行滤镜推荐。
查询到的智能滤镜为原始图像所属的类别对应的智能滤镜。查询到的智能滤镜可以包括一个或多个,可以根据查询到的智能滤镜与原始图像所属的类别的相关性大小,进行滤镜推荐。
本公开实施例中可以根据原始图像的类别进行智能滤镜的推荐,推荐过程更加客观,推荐的智能滤镜能够更加适应原始图像的情况,推荐结果准确,能够提升用户体验。
图2是根据一示例性实施例示出的一种滤镜推荐方法的流程图,如图2所示,滤镜推荐方法用于电子设备中,包括以下步骤。
在步骤S21中,接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别所述原始图像所属的类别。
比如,可以通过Gist特征提取原始图像的全局特征,进而根据全局特征在预置图像特征包含的类别中,识别原始图像所属的类别。Gist特征是一种生物启发式特征,该特征模拟人的视觉,形成对外部世界的一种空间表示,捕获图像中的上下文信息。Gist特征通过多尺度多方向Gabor滤波器组对场景图像进行滤波,将滤波后的图像划分为4×4的网格,然后各个网格采用离散傅里叶变换和窗口傅里叶变换提取图像的全局特征信息。但是,Gist特征提取存在一些缺点:只能学习浅层特征,忽略图像之间的相关结构信息;准确度不高,过于复杂场景的鲁棒性能不好;只能识别一种类别,无法识别多种类别,同时无法捕捉到高层语义信息。
因此,本公开的实施例提出了采用深度神经网络模型识别原始图像所属的类别。
对神经网络模型进行训练时,可以通过如下方式:获取多个样本图像,每个样本图像标记有在至少一种所述预置图像特征包含的类别中所属的类别;针对每种类别,根据所述类别对应的样本图像的数量,计算每种所述类别对应的采样权重;按照每种类别各自对应的采样权重从所述多个样本图像中选取待训练的样本图像;利用待训练的样本图像,训练所述神经网络模型。
(1)数据集准备
本公开的实施例中,可以针对图像的不同图像特征进行处理,图像特征可以包括图像目标、图像场景及图像质量中的至少一个,当然图像特征还可以包括其他特征。以图像特征包括图像目标、图像场景及图像质量为例,自然场景中的图片中含有各种各样的图像目标,同时各个图像场景也很多样,图像质量也有差别。比如,针对图像目标可以选择10个类别:大人、婴儿、猫、狗、美食、绿植、文字、花、水果、其他,针对图像场景可以选择10个类别:室内、舞台、人群、风景、瀑布、天空、雪景、海滩、夜景、其他,针对图像质量可以选择5个类别:高质量、逆光、模糊、雾图、暗光。针对这些类别采集数据集(数据也即样本图像),比如可以从不同的渠道如快手数据、ImageNet数据、PlaceData竞赛数据采集数据集,其中数据的类别标签可以为***标记的标签,也可以为自带标签。
不同类别之间,样本图像的数量有一定的差别,如果随机从中选取一组样本图像进行训练,可能会出现样本不均衡的问题,从而导致模型训练不准确。因此,本公开实施例中需要针对不同类别之间存在的不均衡问题,设置了合适的采样权重。鉴于此,提出了如下方式来设计不同类别的样本图像的采样权重,主要步骤如下:分别统计每种类别对应的样本图像总数k_i,以及全部样本图像的总数K;计算每种类别对应的的采样权重为K/k_i。因此,数量越多的样本图像的采样权重越小,数量越少的样本图像的采样权重越大,这样保证在神经网络模型训练时选取的一组中各个类别的样本图像的数量均衡,防止神经网络模型训练出现偏差。
(2)模型结构设计
本公开实施例采用卷积神经网络来设计网络结构。图3是根据一示例性实施例示出的一种神经网络模型的示意图。
神经网络模型主要包含两部分,第一部分是73层的卷积层Conv2d,第二部分是3个兄弟全连接层fc1,fc2,fc3。73层卷积层为共享网络层,是根据任务特性设计的结构,后续的3个全连接层分别对应一种图像特征,用来对图像中的图像目标(Object),图像场景(Scene),图像质量(Image Quality)进行分类(Classifier)。输入图像(input image)输入到73层卷积层Conv2d进行特征提取,再将提取的特征输入到全连接层fc1,fc2,fc3分别进行分类。
(3)模型的优化和评估
在神经网络模型构建好后,可以在数据集上进行训练,模型训练依赖损失函数及优化器,最后模型评价可以设置合适的评价指标。
损失函数:由于在分类任务中,图像中可能同时出现多个目标,同时图像也有可能符合多种场景,因此针对每一类别,可以采用多标签交叉熵损失函数。
优化器:网络优化可以采用随机梯度下降方法来更新模型的参数。
评价指标:评价指标可以采用TOP1-accuracy来针对检测结果进行评价。
利用上述训练得到的神经网络模型,可以进行图像类别的识别。识别原始图像的类别的步骤可以包括:将所述原始图像输入预设的神经网络模型,所述神经网络模型包括至少一个全连接层,每个全连接层对应一种预置图像特征;获取每个全连接层输出的,在所述全连接层对应的预置图像特征包含的类别中,所述原始图像所属的类别。
比如,如果图像特征包括图像目标、图像场景及图像质量3种,则神经网络模型包括3个全连接层,三个全连接层各自输出原始图像在图像目标包含的类别中所属的类别,在图像场景包含的类别中所属的类别,以及在图像质量包含的类别中所属的类别。
本公开实施例中,能够针对原始图像中的主体目标、场景、图像质量进行准确的分类,能够结合图像底层及高层特征,针对不同场景都有较好的鲁棒性。
在步骤S22中,依据所述类别与智能滤镜的对应关系,查询对应的类别命中所述原始图像所属的类别的智能滤镜。
本公开实施例中,可以预先设置智能滤镜库,在智能滤镜库中存储类别与智能滤镜的对应关系。智能滤镜库中可以包括多个智能滤镜,每个智能滤镜对应至少一种类别。比如,可以将大量滤镜依据图像目标、图像场景、图像质量三者中的至少一个进行分析匹配,将匹配的滤镜作为智能滤镜,并存储每个智能滤镜对应的在图像目标包含的类别中所属的类别、在图像场景包含的类别中所属的类别、在图像质量包含的类别中所属的类别三者中的至少一个类别。
利用神经网络模型识别出原始图像所属的类别,识别出的所述原始图像的类别包括至少一种。比如,原始图像所属的类别可以包括在图像目标包含的类别中所属的类别、在图像场景包含的类别中所属的类别、在图像质量包含的类别中所属的类别三者中的至少一个类别。
依据原始图像所属的类别,可以从智能滤镜库中查询该原始图像所属的类别对应的智能滤镜。查询过程可以包括:依据所述类别与智能滤镜的对应关系,查询对应的类别命中所述原始图像所属的类别的智能滤镜。
其中,智能滤镜对应的类别命中原始图像所属的类别可以为,智能滤镜对应的至少一个类别命中原始图像所属的类别。
比如,智能滤镜对应的类别包括在图像目标包含的类别中所属的类别、在图像场景包含的类别中所属的类别、在图像质量包含的类别中所属的类别三者,原始图像所属的类别包括在图像目标包含的类别中所属的类别、在图像场景包含的类别中所属的类别、在图像质量包含的类别中所属的类别三者。
如果智能滤镜对应的一个类别与原始图像的一个类别相同,比如,智能滤镜对应的在图像目标包含的类别中所属的类别与原始图像在图像目标包含的类别中所属的类别相同;或者智能滤镜对应的在图像场景包含的类别中所属的类别与原始图像在图像场景包含的类别中所属的类别相同;或者智能滤镜对应在图像质量包含的类别中所属的类别与原始图像在图像质量包含的类别中所属的类别相同,则可以认为智能滤镜对应的类别命中原始图像所属的类别。
如果智能滤镜对应的两个类别与原始图像所属的两个类别相同,比如,智能滤镜对应的在图像目标包含的类别中所属的类别与原始图像在图像目标包含的类别中所属的类别相同,并且智能滤镜对应的在图像场景包含的类别中所属的类别与原始图像在图像场景包含的类别中所属的类别相同;或者智能滤镜对应的在图像目标包含的类别中所属的类别与原始图像在图像目标包含的类别中所属的类别相同,并且智能滤镜对应的在图像质量包含的类别中所属的类别与原始图像在图像质量包含的类别中所属的类别相同;或者智能滤镜对应的在图像场景包含的类别中所属的类别与原始图像在图像场景包含的类别中所属的类别相同,并且智能滤镜对应的在图像质量下的类别与原始图像在图像质量包含的类别中所属的类别相同,则可以认为智能滤镜对应的类别命中原始图像所属的类别。
如果智能滤镜对应的三个类别与原始图像所属的三个类别相同,比如,智能滤镜对应的在图像目标包含的类别中所属的类别与原始图像在图像目标包含的类别中所属的类别相同,并且智能滤镜对应的在图像场景包含的类别中所属的类别与原始图像在图像场景包含的类别中所属的类别相同,并且智能滤镜对应的在图像质量包含的类别中所属的类别与原始图像在图像质量包含的类别中所属的类别相同,则可以认为智能滤镜对应的类别命中原始图像的类别。
在步骤S23中,从查询到的智能滤镜中选取命中类别的数量最多的智能滤镜,作为推荐的智能滤镜。
查询到的智能滤镜可能有多个,可以从其中选取至少一个作为推荐的智能滤镜。比如,可以选取命中的类别的数量最多的智能滤镜作为推荐的智能滤镜,等等。
在步骤S24中,显示滤镜列表,在所述滤镜列表中显示所述推荐的智能滤镜,并将所述推荐的智能滤镜标记为智能。
在为原始图像增加滤镜时,可以在编辑界面的底部显示滤镜列表。并且,在得到推荐的智能滤镜后,在滤镜列表中显示该推荐的智能滤镜,并将所述推荐的智能滤镜标记为智能。因此用户在选择增加的滤镜时,可以从滤镜列表中选择推荐的智能滤镜,也即标记为智能的滤镜。
当然,滤镜列表中还可以包括***推荐的其他滤镜,用户可以从滤镜列表中选择任意一个滤镜增加到原始图像上。
在步骤S25中,在所述滤镜列表中存在与所述推荐的智能滤镜类别相同的滤镜时,将所述类别相同的滤镜中的至少一个滤镜标记为推荐。
在一种可选地实施方式中,还可以判断滤镜列表中是否存在与推荐的智能滤镜类别相同的滤镜。如果滤镜列表中存在与推荐的智能滤镜类别相同的滤镜,还可以将类别相同的滤镜中的至少一个滤镜标记为推荐。如果滤镜列表中不存在与推荐智能滤镜类别相同的滤镜,则可以不对其他滤镜进行标记。
滤镜列表中的其它滤镜也可以具有对应的类别,可以将滤镜列表中的滤镜对应的类别与推荐的智能滤镜对应的类别进行对比,如果类别相同,则可以将类别相同的滤镜中的至少一个滤镜标记为推荐。
图4是根据一示例性实施例示出的一种滤镜列表的示意图。由图4可知,在滤镜列表中当前显示有“无”选项及5个滤镜,滤镜包括“智能”滤镜(也即上述被标记为智能的推荐的智能滤镜),还包括“泡芙”、“舒芙蕾”、“馥芮白”、“果冻”这4个其它滤镜,并且其中一个滤镜“舒芙蕾”被标记为推荐。如果用户不为原始图像增加滤镜,可以选择第一个“无”选项,如果要为原始图像增加滤镜,则可以选择增加智能滤镜,也可以选择增加其他滤镜,比如标记有推荐的滤镜,等等。
该公开的实施例可以应用于对原有的图像进行识别,也可以应用于直接拍摄时,实时对图像进行识别,识别后直接推荐滤镜。
图5是根据一示例性实施例示出的一种滤镜推荐效果的示意图。如图5所示,其中原始图像在图像目标包含的类别中所属的类别的婴儿,在图像场景包含的类别中所属的类别是室内,在图像质量包含的类别中所属的类别是模糊。
图6是根据一示例性实施例示出的一种滤镜推荐效果的示意图。如图6所示,其中原始图像在图像目标包含的类别中所属的类别的大人,在图像场景包含的类别中所属的类别是舞台,在图像质量包含的类别中所属的类别是暗光。
图7是根据一示例性实施例示出的一种滤镜推荐效果的示意图。如图7所示,其中原始图像在图像目标包含的类别中所属的类别的其他,在图像场景包含的类别中所属的类别是夜景,在图像质量包含的类别中所属的类别是暗光。
本公开实施例采用卷积神经网络来设计图像分类框架,可以更有效的获得图像内容信息。卷积神经网络能够提取到图像中的高层语义信息,能够识别到图像中各种类别的图像目标、图像场景、图片质量,且识别更准确,针对不同场景、遮挡、形变、光照等外界干扰更加鲁棒。
在训练神经网络模型时,针对各个类别计算了采样权重,在训练中通过采样权重来达到数据均衡,防止模型训练偏移。针对训练数据,在训练模型的过程中通过随机扰动(水平翻转,左右旋转,随机裁剪,图像像素扰动)来进行数据增强,使得模型受外界因素的干扰影响很小,对于光照,遮挡,低对比度等都能很好的处理。将神经网络模型应用到场景识别中,能够提取到图像从底层纹理到高层语义的特征,不用人工参与特征设计,网络根据监督数据可以自动学习。
本公开实施例中可以根据原始图像的类别进行智能滤镜的推荐,推荐过程更加客观,推荐的智能滤镜能够更加适应原始图像的情况,推荐结果准确,能够提升用户体验。
图8是根据一示例性实施例示出的一种滤镜推荐装置框图。参照图8,该装置包括识别单元701、查询单元702和推荐单元703。
识别单元701,被配置为接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别所述原始图像所属的类别;
查询单元702,被配置为依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜;
推荐单元703,被配置为根据查询到的智能滤镜进行滤镜推荐。
在一种可选实施方式中,识别单元701包括:图像输入模块,被配置为将所述原始图像输入预设的神经网络模型,所述神经网络模型包括至少一个全连接层,每个全连接层对应一种预置图像特征,每种预置图像特征包含至少一种类别;类别获取模块,被配置为获取每个全连接层输出的,在所述全连接层对应的预置图像特征包含的类别中,所述原始图像所属的类别。
在一种可选实施方式中,滤镜推荐装置还包括:获取单元,被配置为获取多个样本图像,每个样本图像标记有在至少一种所述预置图像特征包含的类别中所属的类别;计算单元,被配置为针对每种类别,根据所述类别对应的样本图像的数量,计算所述类别对应的采样权重;选取单元,被配置为按照每种类别各自对应的采样权重从所述多个样本图像中选取待训练的样本图像;训练单元,被配置为利用所述待训练的样本图像,训练所述神经网络模型。
在一种可选实施方式中,所述原始图像所属的类别包括至少一种,所述类别与智能滤镜的对应关系中每个智能滤镜对应至少一种类别。所述查询单元702包括:类别查询模块,被配置为依据所述类别与智能滤镜的对应关系,查询对应的类别命中所述原始图像所属的类别的智能滤镜。
在一种可选实施方式中,所述推荐单元703包括:滤镜选取模块,被配置为从查询到的智能滤镜中选取命中类别的数量最多的智能滤镜,作为推荐的智能滤镜。
在一种可选实施方式中,滤镜推荐装置还包括:显示单元,被配置为显示滤镜列表,在所述滤镜列表中显示所述推荐的智能滤镜,并将所述推荐的智能滤镜标记为智能;标记单元,被配置为在所述滤镜列表中存在与所述推荐的智能滤镜类别相同的滤镜时,将所述类别相同的滤镜中的至少一个滤镜标记为推荐。
在一种可选实施方式中,所述预置图像特征包括图像目标、图像场景及图像质量。
本公开实施例中可以根据原始图像的类别进行智能滤镜的推荐,推荐过程更加客观,推荐的智能滤镜能够更加适应原始图像的情况,推荐结果准确,能够提升用户体验。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图9是根据一示例性实施例示出的一种用于滤镜推荐的装置800的框图。例如,装置800被提供为一电子设备,电子设备可以是移动终端。例如,装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图9,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电力组件806,多媒体组件808,音频组件810,输入/输出(I/O)的接口812,传感器组件814,以及通信组件816。
处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理***,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
I/O接口812为处理组件802和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到设备800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,运营商网络(如2G、3G、4G或5G),或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器804,上述指令可由装置800的处理器820执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
在示例性实施例中,还提供了一种计算机程序产品,当所述计算机程序产品中的指令由电子设备的处理器执行时,使得电子设备能够执行上述滤镜推荐方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (10)

1.一种滤镜推荐方法,其特征在于,包括:
接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别所述原始图像所属的类别;
依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜;
根据查询到的智能滤镜进行滤镜推荐。
2.根据权利要求1所述的滤镜推荐方法,其特征在于,所述在预置图像特征包含的类别中,识别所述原始图像所属的类别的步骤包括:
将所述原始图像输入预设的神经网络模型,所述神经网络模型包括至少一个全连接层,每个全连接层对应一种预置图像特征,每种预置图像特征包含多种类别;
获取每个全连接层输出的,在所述全连接层对应的预置图像特征包含的类别中,所述原始图像所属的类别。
3.根据权利要求2所述的滤镜推荐方法,其特征在于,所述神经网络模型通过如下方式得到:
获取多个样本图像,每个样本图像标记有在至少一种所述预置图像特征包含的类别中所属的类别;
针对每种类别,根据所述类别对应的样本图像的数量,计算所述类别对应的采样权重;
按照每种类别各自对应的采样权重从所述多个样本图像中选取待训练的样本图像;
利用所述待训练的样本图像,训练所述神经网络模型。
4.根据权利要求1所述的滤镜推荐方法,其特征在于,所述原始图像所属的类别包括至少一种,所述类别与智能滤镜的对应关系中每个智能滤镜对应至少一种类别;所述依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜的步骤包括:
依据所述类别与智能滤镜的对应关系,查询对应的类别命中所述原始图像所属的类别的智能滤镜。
5.根据权利要求4所述的滤镜推荐方法,其特征在于,根据查询到的智能滤镜进行滤镜推荐的步骤包括:
从查询到的智能滤镜中选取命中类别的数量最多的智能滤镜,作为推荐的智能滤镜。
6.根据权利要求5所述的滤镜推荐方法,其特征在于,在所述从查询到的智能滤镜中选取命中类别的数量最多的智能滤镜,作为推荐的智能滤镜的步骤之后,还包括:
显示滤镜列表,在所述滤镜列表中显示所述推荐的智能滤镜,并将所述推荐的智能滤镜标记为智能;
在所述滤镜列表中存在与所述推荐的智能滤镜类别相同的滤镜时,将所述类别相同的滤镜中的至少一个滤镜标记为推荐。
7.根据权利要求1所述的滤镜推荐方法,其特征在于,所述预置图像特征包括图像目标、图像场景及图像质量。
8.一种滤镜推荐装置,其特征在于,包括:
识别单元,被配置为接收到为原始图像增加滤镜的指令后,在预置图像特征包含的类别中,识别所述原始图像所属的类别;
查询单元,被配置为依据预设的类别与智能滤镜的对应关系,查询所述原始图像所属的类别对应的智能滤镜;
推荐单元,被配置为根据查询到的智能滤镜进行滤镜推荐。
9.一种电子设备,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行如权利要求1-7任一项所述的滤镜推荐方法。
10.一种非临时性计算机可读存储介质,当所述存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行如权利要求1-7任一项所述的滤镜推荐方法。
CN201811505873.2A 2018-12-10 2018-12-10 滤镜推荐方法、装置、电子设备及存储介质 Pending CN109727208A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN201811505873.2A CN109727208A (zh) 2018-12-10 2018-12-10 滤镜推荐方法、装置、电子设备及存储介质
PCT/CN2019/112572 WO2020119254A1 (zh) 2018-12-10 2019-10-22 滤镜推荐方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811505873.2A CN109727208A (zh) 2018-12-10 2018-12-10 滤镜推荐方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN109727208A true CN109727208A (zh) 2019-05-07

Family

ID=66295271

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811505873.2A Pending CN109727208A (zh) 2018-12-10 2018-12-10 滤镜推荐方法、装置、电子设备及存储介质

Country Status (2)

Country Link
CN (1) CN109727208A (zh)
WO (1) WO2020119254A1 (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020119254A1 (zh) * 2018-12-10 2020-06-18 北京达佳互联信息技术有限公司 滤镜推荐方法、装置、电子设备及存储介质
CN112114948A (zh) * 2020-09-18 2020-12-22 上海商汤智能科技有限公司 一种数据加载方法及装置、电子设备和存储介质
CN112561827A (zh) * 2020-12-22 2021-03-26 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备和计算机可读存储介质
CN112819685A (zh) * 2019-11-15 2021-05-18 青岛海信移动通信技术股份有限公司 一种图像的风格模式推荐方法和终端
CN113194254A (zh) * 2021-04-28 2021-07-30 上海商汤智能科技有限公司 图像拍摄方法及装置、电子设备和存储介质
CN115797723A (zh) * 2022-11-29 2023-03-14 北京达佳互联信息技术有限公司 滤镜推荐方法、装置、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103927372A (zh) * 2014-04-24 2014-07-16 厦门美图之家科技有限公司 一种基于用户语义的图像处理方法
CN104636759A (zh) * 2015-02-28 2015-05-20 成都品果科技有限公司 一种获取图片推荐滤镜信息的方法及图片滤镜信息推荐***
CN104700442A (zh) * 2015-03-30 2015-06-10 厦门美图网科技有限公司 一种自动添加滤镜与文字的图像处理方法和***
CN107730461A (zh) * 2017-09-29 2018-02-23 北京金山安全软件有限公司 图像处理方法、装置、设备及介质
CN108898082A (zh) * 2018-06-19 2018-11-27 Oppo广东移动通信有限公司 图片处理方法、图片处理装置及终端设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105224950A (zh) * 2015-09-29 2016-01-06 小米科技有限责任公司 滤镜类别识别方法及装置
CN108897786B (zh) * 2018-06-08 2021-06-08 Oppo广东移动通信有限公司 应用程序的推荐方法、装置、存储介质及移动终端
CN109727208A (zh) * 2018-12-10 2019-05-07 北京达佳互联信息技术有限公司 滤镜推荐方法、装置、电子设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103927372A (zh) * 2014-04-24 2014-07-16 厦门美图之家科技有限公司 一种基于用户语义的图像处理方法
CN104636759A (zh) * 2015-02-28 2015-05-20 成都品果科技有限公司 一种获取图片推荐滤镜信息的方法及图片滤镜信息推荐***
CN104700442A (zh) * 2015-03-30 2015-06-10 厦门美图网科技有限公司 一种自动添加滤镜与文字的图像处理方法和***
CN107730461A (zh) * 2017-09-29 2018-02-23 北京金山安全软件有限公司 图像处理方法、装置、设备及介质
CN108898082A (zh) * 2018-06-19 2018-11-27 Oppo广东移动通信有限公司 图片处理方法、图片处理装置及终端设备

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020119254A1 (zh) * 2018-12-10 2020-06-18 北京达佳互联信息技术有限公司 滤镜推荐方法、装置、电子设备及存储介质
CN112819685A (zh) * 2019-11-15 2021-05-18 青岛海信移动通信技术股份有限公司 一种图像的风格模式推荐方法和终端
CN112819685B (zh) * 2019-11-15 2022-11-04 青岛海信移动通信技术股份有限公司 一种图像的风格模式推荐方法和终端
CN112114948A (zh) * 2020-09-18 2020-12-22 上海商汤智能科技有限公司 一种数据加载方法及装置、电子设备和存储介质
CN112561827A (zh) * 2020-12-22 2021-03-26 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备和计算机可读存储介质
CN113194254A (zh) * 2021-04-28 2021-07-30 上海商汤智能科技有限公司 图像拍摄方法及装置、电子设备和存储介质
CN115797723A (zh) * 2022-11-29 2023-03-14 北京达佳互联信息技术有限公司 滤镜推荐方法、装置、电子设备及存储介质
CN115797723B (zh) * 2022-11-29 2023-10-13 北京达佳互联信息技术有限公司 滤镜推荐方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
WO2020119254A1 (zh) 2020-06-18

Similar Documents

Publication Publication Date Title
CN109727208A (zh) 滤镜推荐方法、装置、电子设备及存储介质
CN105426857B (zh) 人脸识别模型训练方法和装置
CN105528786B (zh) 图像处理方法及装置
CN107193983A (zh) 图像搜索方法及装置
CN110210535A (zh) 神经网络训练方法及装置以及图像处理方法及装置
CN109040605A (zh) 拍摄引导方法、装置及移动终端和存储介质
CN108764069A (zh) 活体检测方法及装置
CN110188236A (zh) 一种音乐的推荐方法、装置及***
CN106446782A (zh) 图像识别方法及装置
CN109815844A (zh) 目标检测方法及装置、电子设备和存储介质
CN105354543A (zh) 视频处理方法及装置
CN107018333A (zh) 拍摄模板推荐方法、装置及拍摄设备
CN104700353B (zh) 图像滤镜生成方法及装置
CN106204435A (zh) 图像处理方法及装置
CN105069083B (zh) 关联用户的确定方法及装置
CN105302315A (zh) 图片处理方法及装置
CN106331504A (zh) 拍摄方法及装置
CN108629354A (zh) 目标检测方法及装置
CN107766820A (zh) 图像分类方法及装置
CN105512220B (zh) 图像页面输出方法及装置
CN105203456B (zh) 植物品种识别方法及装置
CN105654033A (zh) 人脸图像验证方法和装置
CN102905233A (zh) 一种终端功能推荐的方法及装置
CN108256549A (zh) 图像分类方法、装置及终端
CN108416337A (zh) 提醒用户清洁镜头的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20190507

RJ01 Rejection of invention patent application after publication