CN101986295B - 基于流形稀疏编码的图像聚类的方法 - Google Patents
基于流形稀疏编码的图像聚类的方法 Download PDFInfo
- Publication number
- CN101986295B CN101986295B CN 201010522037 CN201010522037A CN101986295B CN 101986295 B CN101986295 B CN 101986295B CN 201010522037 CN201010522037 CN 201010522037 CN 201010522037 A CN201010522037 A CN 201010522037A CN 101986295 B CN101986295 B CN 101986295B
- Authority
- CN
- China
- Prior art keywords
- image
- images
- data
- manifold
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 239000011159 matrix material Substances 0.000 claims abstract description 12
- 238000003064 k means clustering Methods 0.000 claims abstract description 4
- 230000009977 dual effect Effects 0.000 claims description 4
- 238000001514 detection method Methods 0.000 claims description 3
- 238000012887 quadratic function Methods 0.000 claims description 3
- 238000010801 machine learning Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 210000000857 visual cortex Anatomy 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
技术领域
本发明涉及机器学习中的图像稀疏编码技术领域,特别是涉及一种基于流形稀疏编码的图像聚类方法。
技术背景
图像聚类一直是机器学习领域内的经典问题,所谓图像聚类就是在给出的图像集合中,根据图像的内容,在无先验知识的条件下,将图像分成有意义的簇。对于图像聚类,最常用的特征属性是颜色、纹理和形状等,此外比较常用的特征是采用图像的尺度不变特征变换(SIFT)特征。然而很多时候这类特征都是维度较高同时又是比较稠密的表达,这往往会影响图像的聚类性能。
发明内容
为克服现有技术的采用SIFT特征进行图像聚类,由于特征的维度高且对图像进行稠密表达,造成聚在同一类的图像之间的相似度低,聚类性能不理想的缺点,本发明提供了一种能提高聚类性能的基于流形稀疏编码的图像聚类的方法。
基于流形稀疏编码的图像聚类的方法,包括以下步骤:
3)、使用K-means聚类方法,采用欧式距离计算各个图像之间的距离,预设图像之间的距离阈值,将图像之间距离小于预设的距离阈值的图像聚为一类,使得图像最终按类别进行显示。
进一步,步骤1)中,提取图像的SIFT特征的方法包括以下步骤:
(1.1)获取一张目标图像,进行尺度空间极值检测,即利用不同尺度的高斯差分方程同目标图像进行卷积,求取尺度空间极值;
(1.2)精确定位特征点的位置,即通过拟合三维二次函数以精确确定各特征点的位置和尺度(达到亚像素精度),同时去除低对比度的关键点和不稳定的边缘相应点、以增强匹配稳定性、提高抗噪声能力;
(1.3)确定特征点的主方向,即利用关键点领域像素的梯度方向分布特征为每个关键点指定方向参数,使算子具备旋转不变性;
(1.4)生成特征描述符,包括以下步骤:
(1.4.1)将坐标轴旋转为特征点的方向,以保证旋转不变性;
(1.4.2)以特征点为中心取16×16像素大小的窗口,但是特征点所在的行和列不取;
(1.4.3)在每个4×4的图像小块上计算8个方向的梯度方向直方图,绘制每个梯度方向的累加值,形成一个种子点,每个特征点由4×4共16个种子点组成,每个种子点有8个方向向量信息,可产生4×4×8共128个数据,形成128维的SIFT特征向量,该SIFT特征向量为特征描述符。
(2.1)初始化数据字典B,对数据字典B随机赋值,算法将从i=1开始通过步骤(2.2)及(2.3)逐个求解图像的流形稀疏编码以及更新后的数据字典B,直到i=m,迭代终止;
(2.3)将步骤(2.2)得出的图像的流形稀疏编码S作为已知信息,通过使用拉格朗日对偶法求解数据字典B,然后再次执行步骤(2.2)来求解下一个流形稀疏编码。
稀疏编码是一种获取图像稀疏表达的方法,最早应用于模拟哺乳动物视觉***主视皮层V1区简单细胞感受的人工神经网络的编码方式,后来被广泛应用图像处理领域,例如图像去噪,图像分类等问题。稀疏编码所获得的稀疏表达会使得图像特征简单化,更有利用图像聚类。
流形学习是机器学习近些年的一个热门研究课题。假设数据是均匀采样于一个高维欧氏空间中的低维流形,流形学习就是从高维采样数据中恢复低维流形结构,即找到高维空间中的低维流形,并求出相应的嵌入映射,以实现数据的降维。它是从观测到的现象中去寻找事物的本质,找到产生数据的内在规律。
本发明将稀疏编码技术应用于图像聚类领域,同时在传统的稀疏编码方法上综合考虑了数据的流形结构特征,使得学习出来的稀疏编码符合数据内在的结构特征,利用这种既稀疏又体现数据内在结构的数据表达会使得图像聚类效果更好。
本发明具有能提高图像聚类性能的优点。
附图说明
图1是本发明的流程图。
图2是步骤1的流程图。
具体实施方式
参照附图,进一步说明本发明:
基于流形稀疏编码的图像聚类的方法,包括以下步骤:
3)、使用K-means聚类方法,采用欧式距离计算各个图像之间的距离,预设图像之间的距离阈值,将图像之间距离小于预设的距离阈值的图像聚为一类,使得图像最终按类别进行显示。
进一步,步骤1)中,提取图像的SIFT特征的方法包括以下步骤:
(1.1)获取一张目标图像,进行尺度空间极值检测,即利用不同尺度的高斯差分方程同目标图像进行卷积,求取尺度空间极值;
(1.2)精确定位特征点的位置,即通过拟合三维二次函数以精确确定各特征点的位置和尺度(达到亚像素精度),同时去除低对比度的关键点和不稳定的边缘相应点、以增强匹配稳定性、提高抗噪声能力;
(1.3)确定特征点的主方向,即利用关键点领域像素的梯度方向分布特征为每个关键点指定方向参数,使算子具备旋转不变性;
(1.4)生成特征描述符,包括以下步骤:
(1.4.1)将坐标轴旋转为特征点的方向,以保证旋转不变性;
(1.4.2)以特征点为中心取16×16像素大小的窗口,但是特征点所在的行和列不取;
(1.4.3)在每个4×4的图像小块上计算8个方向的梯度方向直方图,绘制每个梯度方向的累加值,形成一个种子点,每个特征点由4×4共16个种子点组成,每个种子点有8个方向向量信息,可产生4×4×8共128个数据,形成128维的SIFT特征向量,该SIFT特征向量为特征描述符。
进一步,步骤2)中,利用数据矩阵X,通过求解目标函数,来学习数据字典B和图像的流形稀疏编码S,其方法包括以下步骤:
(2.3)将步骤(2.2)得出的图像的流形稀疏编码S作为已知信息,通过使用拉格朗日对偶法求解数据字典B,然后再次执行步骤(2.2)来求解下一个流形稀疏编码。
稀疏编码是一种获取图像稀疏表达的方法,最早应用于模拟哺乳动物视觉***主视皮层V1区简单细胞感受的人工神经网络的编码方式,后来被广泛应用图像处理领域,例如图像去噪,图像分类等问题。稀疏编码所获得的稀疏表达会使得图像特征简单化,更有利用图像聚类。
流形学习是机器学习近些年的一个热门研究课题。假设数据是均匀采样于一个高维欧氏空间中的低维流形,流形学习就是从高维采样数据中恢复低维流形结构,即找到高维空间中的低维流形,并求出相应的嵌入映射,以实现数据的降维。它是从观测到的现象中去寻找事物的本质,找到产生数据的内在规律。
获取图像的流形稀疏编码S时,利用数据矩阵X,通过求解目标函数(1),学习数据字典B= [b1,...,bk]以及新的图像数据表达S=[s1,...,sm],其中S是图像的稀疏表达。其中学习数据字典B和学习稀疏图像数据表达S是一个迭代学习的过程,每次迭代过程包括固定B,学习S;然后固定S,更新B。在学习稀疏图像表达的过程中考虑了数据本身的流形结构,即:在原始数据空间相似的两张图像xi和xj,学习出来的稀疏表达si和sj也相似,通过目标函数(1)中的Tr(SLST)来保证数据本身流形结构得以保持。固定B学习S,我们采用的方法是基于猜测图像新的表达S的符号,来使得将原来含有绝对值的不可导的问题转换为一个简单的二次规划问题进行解决。而固定S学习B,则是一个最小二乘问题,通过使用拉格朗日对偶法进行求解即可。
本发明将稀疏编码技术应用于图像聚类领域,同时在传统的稀疏编码方法上综合考虑了数据的流形结构特征,使得学习出来的稀疏编码符合数据内在的结构特征,利用这种既稀疏又体现数据内在结构的数据表达会使得图像聚类效果更好。
本说明书实施例所述的内容仅仅是对发明构思的实现形式的列举,本发明的保护范围不应当被视为仅限于实施例所陈述的具体形式,本发明的保护范围也及于本领域技术人员根据本发明构思所能够想到的等同技术手段。
Claims (1)
1.基于流形稀疏编码的图像聚类的方法,包括以下步骤:
1)、获取待聚类的所有图像,将所有图像组成数据矩阵X,X=[x1,x2,Λ,xi,Λxm],其中,xi是第i张图像的原始特征;获取每张图像中的SIFT特征,xi=[SIFTi1,SIFTi2,Λ,SIFTin];其中SIFTin为组成图像xi的第n个SIFT特征;提取图像的SIFT特征的方法包括以下步骤:
(1.1)获取一张目标图像,进行尺度空间极值检测,即利用不同尺度的高斯差分方程同目标图像进行卷积,求取尺度空间极值;
(1.2)精确定位特征点的位置,即通过拟合三维二次函数以精确确定各特征点的位置和尺度(达到亚像素精度),同时去除低对比度的关键点和不稳定的边缘相应点、以增强匹配稳定性、提高抗噪声能力;
(1.3)确定特征点的主方向,即利用关键点领域像素的梯度方向分布特征为每个关键点指定方向参数,使算子具备旋转不变性;
(1.4)生成特征描述符,包括以下步骤:
(1.4.1)将坐标轴旋转为特征点的方向,以保证旋转不变性;
(1.4.2)以特征点为中心取16×16像素大小的窗口,但是特征点所在的行和列不取;
(1.4.3)在每个4×4的图像小块上计算8个方向的梯度方向直方图,绘制每个梯度方向的累加值,形成一个种子点,每个特征点由4×4共16个种子点组成,每个种子点有8个方向向量信息,可产生4×4×8共128个数据,形成128维的SIFT特征向量,该SIFT特征向量为特征描述符;
2)、构造一个数据字典B,B=[b1,b2,Λ,bn],其中bi为向量维度与原始数据维度相同的基向量,利用数据矩阵X,学习数据字典B和图像的流形稀疏编码S,S=[s1,s2,Λ,si,Λ,sm];其中,si为采用流形稀疏编码表示的第i张图像特征;利用数据矩阵X,通过求解目标函数 来学习数据字典B和图像的流形稀疏编码S,其方法包括以下步骤:
(2.1)初始化数据字典B,对数据字典B随机赋值,算法将从i=1开始通过步骤(2.2)及(2.3)逐个求解图像的流形稀疏编码si以及更新后的数据字典B,直到i=m,迭代终止;
(2.2)将数据字典B作为已知信息,基于猜测图像的流形稀疏编码si的符号,将原始目标函数中的项|si|中的绝对值运算去除,从而使得原始含有绝对值的不可导的问题转换为一个简单的二次规划问题进行解决;
(2.3)将步骤(2.2)得出的图像的流形稀疏编码S作为已知信息,通过使用拉格朗日对偶法求解数据字典B,然后再次执行步骤(2.2)来求解下一个流形稀疏编码;
3)、使用K-means聚类方法,采用欧式距离计算各个图像之间的距离,预设图像之间的距离阈值,将图像之间距离小于预设的距离阈值的图像聚为一类,使得图像最终按类别进行显示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201010522037 CN101986295B (zh) | 2010-10-28 | 2010-10-28 | 基于流形稀疏编码的图像聚类的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN 201010522037 CN101986295B (zh) | 2010-10-28 | 2010-10-28 | 基于流形稀疏编码的图像聚类的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101986295A CN101986295A (zh) | 2011-03-16 |
CN101986295B true CN101986295B (zh) | 2013-01-02 |
Family
ID=43710642
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN 201010522037 Active CN101986295B (zh) | 2010-10-28 | 2010-10-28 | 基于流形稀疏编码的图像聚类的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101986295B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013102503A1 (en) * | 2012-01-02 | 2013-07-11 | Telecom Italia S.P.A. | Method and system for image analysis |
CN102722717B (zh) * | 2012-05-22 | 2014-04-02 | 天津大学 | 一种细胞***识别方法 |
CN102930300B (zh) * | 2012-11-21 | 2015-07-15 | 北京航空航天大学 | 一种飞机目标识别方法及*** |
CN103345471B (zh) * | 2013-06-03 | 2016-08-10 | 浙江大学 | 一种基于多流形关联矩阵分解的无障碍文本展现方法 |
CN104053012B (zh) * | 2014-05-28 | 2017-08-29 | 北京大学深圳研究生院 | 一种基于字典库的视频编解码方法及装置 |
CN104298997B (zh) * | 2014-09-28 | 2017-10-03 | 小米科技有限责任公司 | 数据分类方法及装置 |
WO2019099899A1 (en) * | 2017-11-17 | 2019-05-23 | Facebook, Inc. | Analyzing spatially-sparse data based on submanifold sparse convolutional neural networks |
EP4189951A4 (en) * | 2020-09-01 | 2023-06-07 | Guangdong Oppo Mobile Telecommunications Corp., Ltd. | METHOD OF GENERATION OF TARGET IMAGE DATA, ELECTRICAL DEVICE AND NON-TRANSITORY COMPUTER READABLE MEDIA |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101149759A (zh) * | 2007-11-09 | 2008-03-26 | 山西大学 | 一种基于邻域模型的K-means初始聚类中心选择方法 |
CN101266621A (zh) * | 2008-04-24 | 2008-09-17 | 北京学门科技有限公司 | 一种高维稀疏数据聚类***及方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003203090A (ja) * | 2002-01-07 | 2003-07-18 | Ricoh Co Ltd | 画像空間表示方法 |
-
2010
- 2010-10-28 CN CN 201010522037 patent/CN101986295B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101149759A (zh) * | 2007-11-09 | 2008-03-26 | 山西大学 | 一种基于邻域模型的K-means初始聚类中心选择方法 |
CN101266621A (zh) * | 2008-04-24 | 2008-09-17 | 北京学门科技有限公司 | 一种高维稀疏数据聚类***及方法 |
Non-Patent Citations (1)
Title |
---|
JP特开2003-203090A 2003.07.18 |
Also Published As
Publication number | Publication date |
---|---|
CN101986295A (zh) | 2011-03-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101986295B (zh) | 基于流形稀疏编码的图像聚类的方法 | |
CN110443143B (zh) | 多分支卷积神经网络融合的遥感图像场景分类方法 | |
CN107564025B (zh) | 一种基于深度神经网络的电力设备红外图像语义分割方法 | |
Gosselin et al. | Revisiting the fisher vector for fine-grained classification | |
Yuan et al. | Factorization-based texture segmentation | |
CN113449594B (zh) | 一种多层网络组合的遥感影像地类语义分割与面积计算方法 | |
CN108876796A (zh) | 一种基于全卷积神经网络和条件随机场的道路分割***及方法 | |
WO2019018063A1 (en) | FINAL GRAIN IMAGE RECOGNITION | |
CN101807258B (zh) | 基于核标度切维数约简的合成孔径雷达图像目标识别方法 | |
CN106408039A (zh) | 一种基于形变方法进行数据扩展的脱机手写汉字识别方法 | |
CN111652273B (zh) | 一种基于深度学习的rgb-d图像分类方法 | |
CN110827297A (zh) | 基于改进的条件生成对抗网络的绝缘子分割方法 | |
CN102122353A (zh) | 利用增量字典学习与稀疏表示进行图像分割的方法 | |
CN108960258A (zh) | 一种基于自学习深度特征的模板匹配方法 | |
CN113239954A (zh) | 基于注意力机制的图像语义分割特征融合方法 | |
CN112836671A (zh) | 一种基于最大化比率和线性判别分析的数据降维方法 | |
Zhang et al. | 3D object retrieval with multi-feature collaboration and bipartite graph matching | |
CN112905828B (zh) | 一种结合显著特征的图像检索器、数据库及检索方法 | |
CN105654122A (zh) | 基于核函数匹配的空间金字塔物体识别方法 | |
CN106908774B (zh) | 基于多尺度核稀疏保持投影的一维距离像识别方法 | |
CN103839074A (zh) | 一种基于素描线段信息和空间金字塔匹配的图像分类方法 | |
Xu et al. | Multi‐pyramid image spatial structure based on coarse‐to‐fine pyramid and scale space | |
CN108428234B (zh) | 基于图像分割结果评价的交互式分割性能优化方法 | |
Liu et al. | Flower classification using fusion descriptor and SVM | |
Shahram et al. | Recovering layers of brush strokes through statistical analysis of color and shape: an application to van Gogh's" Self portrait with grey felt hat" |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |