CN107240136B - 一种基于深度学习模型的静态图像压缩方法 - Google Patents
一种基于深度学习模型的静态图像压缩方法 Download PDFInfo
- Publication number
- CN107240136B CN107240136B CN201710379743.8A CN201710379743A CN107240136B CN 107240136 B CN107240136 B CN 107240136B CN 201710379743 A CN201710379743 A CN 201710379743A CN 107240136 B CN107240136 B CN 107240136B
- Authority
- CN
- China
- Prior art keywords
- image
- model
- compression
- images
- deep learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/002—Image coding using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
- G06T9/001—Model-based coding, e.g. wire frame
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
一种基于深度学习模型的静态图像压缩方法,数据挖掘与机器学习领域,涉及用于图像的有损压缩,主要是利用多层稀疏自动编码和K‑means算法实现以上功能。本发明进行图像数据有损压缩的主要流程为图像分块、图像分类、PSO参数寻优和模型训练、模型测试四个步骤。本发明的创新点主要体现在提出了一种由稀疏自动编码器和BP神经网络混合而成的多层稀疏自动编码(MSAE)神经网络。多层稀疏自动编码神经网络的特征提取效果以及对图像有损压缩的效果都高于传统神经网络。成功的将深度学习的方法引入了图像压缩领域,并取得了优于人工神经网络的效果。
Description
技术领域
本发明属于数据挖掘与机器学习领域,涉及用于对图像数据的有损压缩。
背景技术
随着大数据时代的来临,数据正以前所未有的速度增长和累积,数据处理技术正在经历一次全新的变革。首先,数据的体量不断扩大,数据集合的规模已经从GB、TB到了PB,而网络大数据甚至以EB和ZB等单位来计数;其次,网络大数据类型繁多,包括结构化数据、半结构化数据和非结构化数据.在现代互联网应用中,呈现出非结构化数据大幅增长的特点;再次,网络大数据往往呈现出突发涌现等非线性状态演变现象,因此难以对其变化进行有效评估和预测.另一方面,网络大数据常常以数据流的形式动态、快速地产生,具有很强的时效性。随着大数据时代的来临数据压缩技术也在不断发展,因为存储设备的空间毕竟是有限的,而图片,游戏、音频、视频在计算机中应用中越来越普遍,但它们又非常占据空间,所以压缩技术前景非常广阔并且不断在发展。
关于数据的压缩算法虽早已有研究,如游程编码、差分编码、LZW算法、哈夫曼编码、JPEG、JPEG200、ZIP等,这些压缩算法虽然能够压缩数据,使其能够便于存储和传输,但面对当今极大量的、结构复杂、增长速度极快的数据,越来越显得力不从心。本研究课题以大数据为研究背景,通过研究数据压缩算法,提出把深度学习模型用于数据的压缩,从而提高数据的压缩比,降低数据冗余,方便数据传输和存储,具有重大的意义。
发明内容
本发明首先对五张原始灰度图像进行分块,然后把具有相同特征的块儿聚集到一类形成训练数据集,接着把每一个训练数据集输入到相对应的多层稀疏自动编码器(MSAE,Multilayer Sparse Auto-Encoder)模型中进行训练,并在训练过程中使用粒子群优化(PSO)算法进行参数寻优,最后使用测试样本对模型的性能进行测试并分析实验结果。本发明提出的MSAE是指稀疏自动编码器和BP神经网络混合构成的一个神经网络,稀疏自动编码器能够将输入层的数据稀疏的映射到隐含层,得到稀疏的特征便于神经网络来学习数据的特征。通过将稀疏自动编码器的输出输入到BP网络中,然后通过BP网络的误差反传进一步调节自动稀疏编码器的网络权重。
为实现上述的发明目的,本发明采用下述的技术方案:
一种基于深度学习模型的静态图像压缩方法,包括如下步骤:
步骤一:图像分块
把图像分成若干个8*8维的图块;
步骤二:图块聚类
使用K-means聚类算法把上述步骤一所分成的具有相同特征的图块聚集在一起,形成训练数据集;
步骤三:PSO参数寻优与模型训练
采用多层稀疏自动编码器(MSAE)模型,用粒子群优化(PSO)算法来确定该模型的隐含层的层数和神经元个数两个参数,并把所述具有相同特征的图块输入到该模型中完成图像的压缩和解压缩;
步骤四:模型测试
采用上述步骤一至步骤三,分别进行图像的8倍、16倍、32倍压缩实验,并在不同测试样本和训练样本下,把测试样本图像作为三个MSAE网络的测速集,测试该模型的压缩和解压效果。
相同的特征包括边缘区域特征、平坦区域特征和纹理区域特征。所述边缘区域是图像灰度变化明显的区域,标志着图像特征的剧烈转变;所述平坦区域是图像中灰度变化平缓的区域,是图像的背景或者是图像的单一特征;所述纹理区域是图像中的灰度呈一定形状分布的区域,标志着图像的纹理特征。利用K-means聚类算法把所述图块按照区域特征、平坦区域特征和纹理区域特征分成三类。定义压缩倍数R=NO/NC,其中NO为原始数据的维数,NC为压缩后数据的维数即最后一层隐含层的个数。利用五幅图像Lena、Baboon、Jet、Peppers、Sailboat分别作为测试样本和训练样本,进行模型测试。
本发明在实验过程中与BP神经网络的识别结果进行对比,并且进行了交叉验证,主要的算法性能评价指标选用了PSNR值。结果显示在评价指标上K-means加MSAE网络的混合压缩模型在图像压缩和重构上比ANN网络取得了更好的重构效果。
附图说明
图1为本发明流程图。
图2为本发明模型训练示意图。
图3为本发明模型示意图。
具体实施方式
下面结合附图和具体实施方式对本发明作进一步的说明。
图1为本发明示意图。参照图1所示,首先对五张原始灰度图像进行分块,然后把具有相同特征的块儿聚集到一类形成训练数据集,接着把每一个训练数据集输入到相对应的多层稀疏自动编码器(MSAE)模型中进行训练并在训练过程中使用PSO算法进行参数寻优,最后使用测试样本对模型的性能进行测试并分析实验结果。具体实现步骤如下:
步骤一:图像分块
(1)图像分块。原则上说,我们可以把原始的训练样本输入到多层稀疏自动编码器模型然后对这个模型进行训练,因为多层稀疏自动编码器模型可以自动地学习样本数据的内在特征。然而,如果我们不对训练样本进行预处理,就需要稀疏自动编码器模型拥有更加复杂的结构(更多的隐含层和神经元节点)去拟合样本数据,足够多的数据去训练模型,同时还对我们的硬件提出了较高的要求。由于硬件设备的限制和时间成本的控制,我们对实验数据的预处理是有必要的。对于实验数据的预处理不仅可以降低模型的复杂度,缩短训练时间,同时还可以降低实验设备的要求,有助于我们在有限的实验条件下进行深度学习模型的可行性验证。在开始试验之前,我们对试验图像进行了图像分块和图像聚类的处理。由于单幅图像的维度巨大,我们需要使用更复杂的模型才能充分提取一整幅图像的特征,而且当我们把一整幅图像输入到模型的时候,模型的收敛速度会变慢,模型会很容易出现欠拟合的情况。因此,本发明先把图像分成8*8的图块儿,这样一幅原本512*512维的灰度图像就变为8*8维的灰度图像块,这样做大大简化了模型的复杂度,加快了模型收敛速度,也方便模型进行特征提取。本文中使用Baboon、Jet、Lena、Peppers、Sailboat五幅图像分别作为训练样本和测试样本进行说明。
步骤二:图块聚类
一般说来,我们可以把一幅图像分为边缘区域,平坦区域和纹理区域。边缘区域,是图像灰度变化明显的区域,往往标志着图像特征的剧烈转变;平坦区域,是图像中灰度变化平缓的区域,常常是图像的背景或者是图像的单一特征;纹理区域,是图像中的灰度呈一定形状分布的区域,一般标志着图像的纹理特征。因此,我们使用聚类算法把具有相同特征的图块儿聚集到一起,然后我们使用一个压缩模型对这类图块儿进行图像的压缩和解压研究。这样做有助于压缩模型提取这类特征,避免了不同特征的图块儿对于压缩模型的扰动,而且大大增强了模型的学习效率,保证了在高压缩比的情况下重构图像的质量更好。
步骤三:PSO参数寻优和模型训练
在多层稀疏自动编码器中有三个重要参数直接地影响了模型的性能,隐含层的层数,隐含层神经元的个数以及节点转换函数。隐含层的层数和隐含层中神经元的个数的确定一直是学术界的难题,没有统一的理论,大多数研究人员的对于这些参数的选择更多的是依赖经验和大量重复试验来确定。一般说来,隐含层的神经元个数越多,网络对输入数据的特征表达就越完整,所压缩的数据也就更少,在满足精度要求的前提下取尽可能紧凑的结构,即取尽可能少的隐层节点数;隐含层层数越多,网络对于原始数据的抽象能力就更强,更加能够提取出数据的核心特征,也更加容易压缩,增加隐层数可以降低网络误差,提高精度,但也使网络复杂化,收敛速度变慢。
本文对于隐含层的层数和神经元个数的确定采用粒子群优化算法来确定。神经网络的参数好坏影响了神经网络对数据压缩效果的好坏,粒子群优化算法可以在给定的参数范围内查找到一组对于网络效果较优的参数集合。
粒子群算法采用“群体”与“进化”的概念,依据微粒的适应值大小进行操作,是一种基于叠代的优化工具,***初始化为一组随机解,通过叠代搜寻最优值,粒子在解空间追随最优的粒子进行搜索,将每个体看作是在n维搜索空间中的一个没有重量和体积的微粒,并在搜索空间中以一定的速度飞行,直到达到最大迭代次数和获得最优解算法才结束。图2是模型训练图,展示了图像分块、图像聚类、PSO参数寻优的步骤。
步骤四:模型测试
使用Lena图像作为三个MSAE网络的测速集。首先把Lena图像分割成4096个8*8的图块儿,然后使用K-means聚类算法,聚集成三类,最后把同类图块儿输入到对应模型中完成图像的压缩和解压缩实验。图3显示了通过粒子群寻优算法以及样本集训练后所获得的MSAE网。网络的输入层到最后一个隐含层的部分为图像的压缩器MSAE_compress进行图像压缩,MSAE_compress输出的数据即为要存储的数据;最后一个隐含层到输出层的部分为图像的解压缩器MSAE_decompress,输出数据为重构的图块对应的像素值。定义压缩倍数为R,NO为原始数据的维数,NC为压缩后数据的维数即最后一层隐含层的个数。采用上面实验步骤,分别进行图像的8倍、16倍、32倍实验,并在不同训练样本和测试样本下,测试模型的压缩解压效果。
R=No/Nc
表一在记录的是八倍压缩倍率的情况下MSAE模型和ANN模型重构的图像的PSNR值。表一中的一行为一次压缩和解压缩实验,其中Lena为测试样本,其余四副为训练样本。ANN模型的图像的实验顺序和MSAE模型的图像的实验顺序是一样的。
从表一中的行观察,我们可以明显的发现Lena的PSNR值比其它训练图像的PSNR值要低1-3个db,这是因为Lena没有参与模型的训练它,所以它具有的特征是模型没有学习过的,而训练图像的特征是模型充分学习的,所以训练图像输入到模型后所得到的重构图像比测试图像的PSNR值要高,质量要好。从列观察,在相同测试样本和训练样本的情况下,BP模型所获得的测试样本的重构图像比MSAE模型所获得重构图像的PSNR值要低1-4个db,即使是训练样本的重构,ANN模型重构图像的PSNR也比MSAE网络重构图像差了很多,说明了MSAE模型在图像特征提取,图像还原上高于BP网络。
表一.在八倍压缩率情况下MSAE模型和ANN模型重构图像的对比
为了避免过学习以及欠学习状态的发生,防止单幅图像的特征影响到整个模型的性能和实验结果,本文使用交叉验证的方法来测试MSAE模型的稳定性和可靠性。
将实验样本分成五组,每组依次采用五幅图像中的一幅作为测试样本,另外四幅作为训练样本,这样在同一个压缩率情况下进行五次实验,五幅图像都会依次作为测试图像,避免了特殊图像的特征影响到实验结果。依据上述思想,分别在8倍,16倍,32倍压缩率的情况下使用交叉验证的方法测试模型,实验结果如表二至表七。
表二.在八倍压缩率情况下MSAE模型重构图像的对比
表三.在八倍压缩率情况下BP模型重构图像的对比
表四.十六倍压缩率情况下,MSAE重构图像的PSNR对比
表五.十六倍压缩率情况下,BP重构图像的PSNR对比
表六.三十二倍压缩率情况下,MSAE重构图像的PSNR对比
表七.三十二倍压缩率情况下,BP重构图像的PSNR对比
表二到表六显示了8、16、32倍压缩倍率下ANN模型和MSAE模型重构图像的PSNR值。表格2中每一行为一次实验,其中第一行的第二列是测试图像,第二行第一列是测试图像,第三行的第三列是测试图像,第四行第四列是测试图,第五行的第五列是测试图像,同一行其他列为训练图像,表格3-6的测试图像与表格2的情况相同。
实验结果表明,除了个别的实验误差,大体趋势都是测试样本比训练样本所重构的图像PSNR值要低,质量要差,而重构图像的PSNR值相互之间差别不大。在相同压缩比的情况下,MSAE模型的重构图像比ANN模型重构图像的PSNR值高1-3个db,即使在不同压缩比情况下,MSAE模型的重构图像也要比ANN模型重构图像的质量更好,充分说明了MSAE模型的特征提取能力和适应性更强,模型稳定性更高。
综合上述实验结果的比较,K-means加MSAE网络的混合压缩模型在图像压缩和重构上比ANN网络取得了更好的重构效果,在相同压缩比情况下,图像保留的特征更加全面,图像失真小,而且在不同的压缩比情况下,也有非常好的表现,这说明了深度学习模型比浅层学习模型在特征提取方面有着明显的优势,更加符生理上人脑的神经网络多层结构,同时也证明了把深度学习模型运用到图像压缩领域是切实可行的,MSAE模型有较强的容错性,任何局部的损坏不会影响整体结果,这一特性有助于对有噪图像的数据压缩及对压缩后信息不全图像的恢复。另外,MSAE网络的大规模并行处理能力,为图像编码的实时实现创造了条件。
Claims (6)
1.一种基于深度学习模型的静态图像压缩方法,包括如下步骤:
步骤一:图像分块
把图像分成若干个8*8维的图块;
步骤二:图块聚类
使用K-means聚类算法把上述步骤一所分成的具有相同特征的图块聚集在一起,形成训练数据集;
步骤三:PSO参数寻优与模型训练
采用多层稀疏自动编码器(MSAE)模型,用粒子群优化(PSO)算法来确定该模型的隐含层的层数和神经元个数两个参数,并把所述具有相同特征的图块输入到该模型中完成图像的压缩和解压缩;
步骤四:模型测试
采用上述步骤一至步骤三,分别进行图像的8倍、16倍、32倍压缩实验,并在不同测试样本和训练样本下,把测试样本图像作为三个MSAE网络的测速集,测试该模型的压缩和解压效果。
2.根据权利要求1所述的一种基于深度学***坦区域特征和纹理区域特征。
3.根据权利要求2所述的一种基于深度学***坦区域是图像中灰度变化平缓的区域,是图像的背景或者是图像的单一特征;所述纹理区域是图像中的灰度呈一定形状分布的区域,标志着图像的纹理特征。
4.根据权利要求1-3任一项所述的一种基于深度学***坦区域特征和纹理区域特征分成三类。
5.根据权利要求1所述的一种基于深度学习模型的静态图像压缩方法,其特征在于:在上述步骤三种,定义压缩倍数R=NO/NC,其中NO为原始数据的维数,NC为压缩后数据的维数即最后一层隐含层的个数。
6.根据权利要求1所述的一种基于深度学习模型的静态图像压缩方法,其特征在于:利用五幅图像Lena、Baboon、Jet、Peppers、Sailboat分别作为测试样本和训练样本,进行模型测试。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710379743.8A CN107240136B (zh) | 2017-05-25 | 2017-05-25 | 一种基于深度学习模型的静态图像压缩方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710379743.8A CN107240136B (zh) | 2017-05-25 | 2017-05-25 | 一种基于深度学习模型的静态图像压缩方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107240136A CN107240136A (zh) | 2017-10-10 |
CN107240136B true CN107240136B (zh) | 2020-07-10 |
Family
ID=59985621
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710379743.8A Expired - Fee Related CN107240136B (zh) | 2017-05-25 | 2017-05-25 | 一种基于深度学习模型的静态图像压缩方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107240136B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107749757B (zh) * | 2017-10-18 | 2020-08-14 | 广东电网有限责任公司电力科学研究院 | 一种基于堆栈式自编码和pso算法的数据压缩方法及装置 |
CN108876864B (zh) * | 2017-11-03 | 2022-03-08 | 北京旷视科技有限公司 | 图像编码、解码方法、装置、电子设备及计算机可读介质 |
CN108062780B (zh) * | 2017-12-29 | 2019-08-09 | 百度在线网络技术(北京)有限公司 | 图像压缩方法和装置 |
CN108111873B (zh) * | 2017-12-29 | 2020-04-14 | 国网山东省电力公司泰安供电公司 | 一种基于机器学习的gis图像数据传输方法 |
CN110119745B (zh) * | 2019-04-03 | 2024-05-10 | 平安科技(深圳)有限公司 | 深度学习模型的压缩方法、装置、计算机设备及存储介质 |
CN110222717B (zh) * | 2019-05-09 | 2022-01-14 | 华为技术有限公司 | 图像处理方法和装置 |
WO2020232612A1 (zh) * | 2019-05-20 | 2020-11-26 | 西门子股份公司 | 降低用于数据可视化的数据量的方法和装置 |
CN110930322B (zh) * | 2019-11-06 | 2021-11-30 | 天津大学 | 图像分块与卷积网络相结合估计透射图图像去雾方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105163121A (zh) * | 2015-08-24 | 2015-12-16 | 西安电子科技大学 | 基于深度自编码网络的大压缩比卫星遥感图像压缩方法 |
CN105531725A (zh) * | 2013-06-28 | 2016-04-27 | D-波***公司 | 用于对数据进行量子处理的***和方法 |
CN106251375A (zh) * | 2016-08-03 | 2016-12-21 | 广东技术师范学院 | 一种通用隐写分析的深度学习堆栈式自动编码方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11221990B2 (en) * | 2015-04-03 | 2022-01-11 | The Mitre Corporation | Ultra-high compression of images based on deep learning |
-
2017
- 2017-05-25 CN CN201710379743.8A patent/CN107240136B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105531725A (zh) * | 2013-06-28 | 2016-04-27 | D-波***公司 | 用于对数据进行量子处理的***和方法 |
CN105163121A (zh) * | 2015-08-24 | 2015-12-16 | 西安电子科技大学 | 基于深度自编码网络的大压缩比卫星遥感图像压缩方法 |
CN106251375A (zh) * | 2016-08-03 | 2016-12-21 | 广东技术师范学院 | 一种通用隐写分析的深度学习堆栈式自动编码方法 |
Also Published As
Publication number | Publication date |
---|---|
CN107240136A (zh) | 2017-10-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107240136B (zh) | 一种基于深度学习模型的静态图像压缩方法 | |
CN111369563B (zh) | 一种基于金字塔空洞卷积网络的语义分割方法 | |
CN115049936B (zh) | 一种面向高分遥感影像的边界增强型语义分割方法 | |
CN108920720B (zh) | 基于深度哈希和gpu加速的大规模图像检索方法 | |
CN112070209B (zh) | 基于w距离的稳定可控图像生成模型训练方法 | |
CN111079795B (zh) | 基于cnn的分片多尺度特征融合的图像分类方法 | |
CN107180248A (zh) | 基于联合损失增强网络的高光谱图像分类方法 | |
CN107633522A (zh) | 基于局部相似性活动轮廓模型的脑部图像分割方法和*** | |
CN103942571B (zh) | 一种基于遗传规划算法的图形图像分类方法 | |
CN110689599A (zh) | 基于非局部增强的生成对抗网络的3d视觉显著性预测方法 | |
CN109886406A (zh) | 一种基于深度压缩的复数卷积神经网络压缩方法 | |
CN111709903A (zh) | 一种红外与可见光图像融合方法 | |
CN111259933B (zh) | 基于分布式并行决策树的高维特征数据分类方法及*** | |
CN112862015A (zh) | 一种基于超图神经网络的论文分类方法及*** | |
CN109472352A (zh) | 一种基于特征图统计特征的深度神经网络模型裁剪方法 | |
CN109711442A (zh) | 无监督逐层生成对抗特征表示学习方法 | |
CN111524140A (zh) | 基于cnn和随机森林法的医学图像语义分割方法 | |
CN110264483B (zh) | 一种基于深度学习的语义图像分割方法 | |
Zhang et al. | FCHP: Exploring the discriminative feature and feature correlation of feature maps for hierarchical DNN pruning and compression | |
CN113361346B (zh) | 一种替换调节参数的尺度参数自适应的人脸识别方法 | |
CN114049675B (zh) | 基于轻量双通道神经网络的人脸表情识别方法 | |
CN112990336B (zh) | 基于竞争注意力融合的深度三维点云分类网络构建方法 | |
CN109829377A (zh) | 一种基于深度余弦度量学习的行人重识别方法 | |
CN112785663B (zh) | 一种基于任意形状卷积核的图像分类网络压缩方法 | |
CN107291897A (zh) | 一种基于小波衰减概要树的时间序列数据流聚类方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20200710 |
|
CF01 | Termination of patent right due to non-payment of annual fee |