CN115278263B - 一种高效的大数据实时传输方法及*** - Google Patents

一种高效的大数据实时传输方法及*** Download PDF

Info

Publication number
CN115278263B
CN115278263B CN202210647030.6A CN202210647030A CN115278263B CN 115278263 B CN115278263 B CN 115278263B CN 202210647030 A CN202210647030 A CN 202210647030A CN 115278263 B CN115278263 B CN 115278263B
Authority
CN
China
Prior art keywords
pixel points
edge pixel
edge
pixel
compressed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210647030.6A
Other languages
English (en)
Other versions
CN115278263A (zh
Inventor
苗润昱
娄嘉慧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xi'an Yuntong Network Technology Co ltd
Original Assignee
Xi'an Yuntong Network Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xi'an Yuntong Network Technology Co ltd filed Critical Xi'an Yuntong Network Technology Co ltd
Priority to CN202210647030.6A priority Critical patent/CN115278263B/zh
Publication of CN115278263A publication Critical patent/CN115278263A/zh
Application granted granted Critical
Publication of CN115278263B publication Critical patent/CN115278263B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明涉及数据传输领域,提供一种高效的大数据实时传输方法及***,包括:获取原图像和压缩恢复图像的数据,得到非边缘像素点的像素值损失量,利用图像金字塔确定原图像各像素点的注意力权重,通过压缩非边缘像素点的周围像素点确定推演像素值,通过非边缘像素点的像素值损失量、注意力权重、压缩非边缘像素点的推演像素值得到非边缘像素点的重构难度,通过压缩边缘像素点的梯度推演向量、曲率推演值和边缘像素点的梯度向量、曲率值、注意力权重得到边缘像素点的重构难度,利用重构难度构建出损失函数,基于损失函数进行自编码训练得到压缩网络,压缩图像并传输,本发明在保证降低数据维度实时传输的同时减少了数据损失。

Description

一种高效的大数据实时传输方法及***
技术领域
本发明涉及数据传输领域,具体涉及一种高效的大数据实时传输方法及***。
背景技术
随着科技的发展和数字化的推进,数据传输量随之增多,为了保障数据传输的实时性,一般需对数据进行降维压缩,现多使用自编码压缩的方式来实现数据降维,该方式能按照传输要求对数据进行定量的降维,能尽可能的保留数据的关键特征信息。
但是传统的自编码***没有考虑相同损失量的数据,造成的信息损失量不同;再者有些数据虽然损失,但是其可以根据周围数据信息进行推演出来,而有的数据信息损失后很难通过已有的信息推演得到,可能会损失数据的关键信息,因此,需要一种高效的大数据实时传输方法及***。
发明内容
为了克服上述现有技术的缺点,本发明提供一种高效的大数据实时传输方法及***。
本发明的一种高效的大数据实时传输方法采用如下技术方案:
获取原图像和自编码压缩网络训练过程中的压缩恢复图像;
确定原图像中各像素点的注意力权重;
获取原图像的非边缘像素点、压缩恢复图像的压缩非边缘像素点、原图像的边缘像素点、压缩恢复图像的压缩边缘像素点,通过非边缘像素点与压缩非边缘像素点的像素值得到非边缘像素点的像素值损失量;
获取压缩非边缘像素点的周围像素点,利用该压缩非边缘像素点的周围像素点得到压缩非边缘像素点的推演像素值;
根据非边缘像素点的像素值损失量、注意力权重和压缩非边缘像素点的推演像素值得到非边缘像素点的重构难度;
获取压缩边缘像素点的周围像素点,获取压缩边缘像素点的周围像素点的梯度向量和曲率值,根据该周围像素点的梯度向量和曲率值得到压缩边缘像素点的梯度推演向量和曲率推演值;
获取边缘像素点的梯度向量和曲率值,根据压缩边缘像素点的梯度推演向量、曲率推演值和边缘像素点的梯度向量、曲率值、注意力权重得到边缘像素点的重构难度;
结合边缘像素点和非边缘像素点的重构难度得到原图像中所有像素点的重构难度,通过重构难度构建损失函数;
根据损失函数对自编码压缩网络进行监督训练,通过完成训练后的自编码压缩网络对原图像进行压缩传输。
进一步,确定原图像中各像素点的注意力权重的步骤包括:
获取原图像的非边缘像素点,将非边缘像素点作为第一层级像素点;
对原图像进行方差为σ的高斯滤波,然后对高斯滤波后的图像进行下采样,得到第一层图像,对第一层图像进行重复的高斯滤波和下采样过程得到第二层图像,以此类推,得到第三层图像,再将第一、二、三层图像分别进行上采样恢复成与原图像尺寸相同的恢复图像,恢复图像记为T1、T2、T3;
分别获取T1、T2、T3的边缘像素点集合,T3的边缘像素点集合作为第四层级像素点;T2边缘像素点集合减T3边缘像素点集合得到的集合为第三层级像素点;T1边缘像素点集合减T2边缘像素点集合得到的集合为第二层级像素点;
根据高斯滤波的方差确定各层级像素点的注意力权重,各层级像素点的注意力权重即为对应的原图像中各像素点的注意力权重。
进一步,根据根据非边缘像素点的像素值损失量、推演像素值和注意力权重得到非边缘像素点的重构难度的步骤包括:
根据下式(1)计算非边缘像素点的重构难度:
式中,X0i表示第i个非边缘像素点的像素值,Xi表示第i个压缩非边缘像素点的推演像素值,Qi表示第i个非边缘像素点的注意力权重,Si表示第i个非边缘像素点的像素值损失量,Ni表示第i个非边缘像素点的重构难度。
进一步,根据该周围像素点的梯度向量得到压缩边缘像素点的梯度推演向量的步骤包括:
将压缩边缘像素点中求梯度推演向量的像素点作为中心像素点,当中心像素点为边缘像素点的交点时,获取中心像素点两侧的邻接像素点,邻接像素点记为2n个;
将2n个邻接像素点两两组合形成若干个像素组,每n个像素组记为一个完全组合;
计算像素组中两像素点的梯度向量模长差值,选出所有完全组合中梯度向量模长差值之和最小的完全组合作为最佳完全组合;
将最佳完全组合中每个像素组内两像素点的梯度向量模长求均值得到多个均值模长,选最大的均值模长作为中心像素点的梯度向量模长;
将均值模长最大的像素组中两像素点的梯度向量相加得到中心像素点的梯度方向,通过中心像素点的梯度向量模长和梯度方向得到中心像素点的梯度推演向量;
当中心像素点不是边缘像素点的交点时,通过中心像素点两侧邻接两像素点的向量得出中心像素点的梯度推演向量。
进一步,根据周围像素点的曲率值得到压缩边缘像素点的曲率推演值的步骤包括:
将压缩边缘像素点中求曲率推演值的像素点作为中心像素点,当中心像素点为边缘像素点的交点时,获取中心像素点两侧的邻接像素点;
将邻接像素点两两组合计算曲率差值,选取曲率差值最小的像素组所在的边缘,作为用来计算中心像素点的曲率推演值的连通边缘;
获取中心像素点在连通边缘11领域内的连通像素点的曲率值,对连通像素点的曲率值线性插值分析得出中心像素点的曲率推演值;
当中心像素点不是边缘像素点的交点时,获取中心像素点11邻域内连通像素点的曲率值,对中心像素点11邻域内连通像素点进行线性插值分析得到中心像素点的曲率推演值。
进一步,根据压缩边缘像素点的梯度推演向量、曲率推演值和边缘像素点的梯度向量、曲率值、注意力权重得到边缘像素点的重构难度的步骤包括:
根据下式(2)计算边缘像素点的重构难度:
式中,Qj表示第j个边缘像素点的注意力权重,K0,K1表示超参数,lj表示第j个边缘像素点的曲率推演值,l0j表示第j个边缘像素点的曲率值,l1j表示第j个压缩边缘像素点的曲率值,R0j表示第j个边缘像素点的梯度向量,R1j表示第j个压缩边缘像素点的梯度向量,Rj表示第j个压缩边缘像素点的梯度推演向量,Nj表示第j个边缘像素点的重构难度。
进一步,通过重构难度构建损失函数的步骤包括:
根据下式(3)计算损失函数:
式中,Ni表示原图像中第i个非边缘像素点的重构难度,Nj表示原图像中第j个像素点的重构难度,M表示原图像中非边缘像素点的数量,W表示原图像中边缘像素点的数量,表示损失函数。
本发明还包括一种高效的大数据实时传输***,包括:
数据采集单元,用于获取待传输的原图像以及自编码网络训练中的压缩恢复图像;
第一数据处理单元,用于确定原图像中各像素点的注意力权重;
第二数据处理单元,用于获取原图像的非边缘像素点、压缩恢复图像的压缩非边缘像素点、原图像的边缘像素点、压缩恢复图像的压缩边缘像素点,通过非边缘像素点与压缩非边缘像素点的像素值得到非边缘像素点的像素值损失量;
获取压缩非边缘像素点的周围像素点,根据压缩非边缘像素点的周围像素点得到压缩非边缘像素点的推演像素值;
根据非边缘像素点的像素值损失量、注意力权重和压缩非边缘像素点的推演像素值和得到非边缘像素点的重构难度;
第三数据处理单元,用于获取压缩边缘像素点的周围像素点,获取压缩边缘像素点的每个周围像素点的梯度向量和曲率值,根据周围像素点的梯度向量和曲率值,得到压缩边缘像素点的梯度推演向量和曲率推演值;
获取边缘像素点的梯度向量和曲率值,根据压缩边缘像素点的梯度推演向量、曲率推演值、注意力权重和边缘像素点的梯度向量和曲率值得到边缘像素点的重构难度;
第四数据处理单元,结合边缘像素点和非边缘像素点的重构难度得到原图像中所有像素点的重构难度,通过重构难度构建损失函数;
数据压缩传输单元,根据损失函数对自编码压缩网络进行监督训练得到压缩网络,通过完成训练后的自编码压缩网络对原图像进行压缩传输。
本发明的有益效果是:本发明提供一种高效的大数据实时传输方法及***,考虑到相同像素损失量下像素点承载的信息量损失不同,通过图像金字塔确定了各像素点的注意力权重,不同的像素损失后进行推演恢复的程度不同,利用各像素点的周围像素点确定压缩恢复图像的推演像素值,然后通过各像素点的损失量,注意力权重,推演值得到各像素点的重构难度,利用重构难度构建出损失函数,能够保证降低数据维度实时传输的同时减少数据损失。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明的一种高效的大数据实时传输方法的实施例的流程示意图;
图2为本发明的一种高效的大数据实时传输***的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的一种高效的大数据实时传输方法的实施例,如图1所示,包括:
S1、获取待传输的原图像和自编码压缩网络训练过程中的压缩恢复图像。
具体的,获取待传输的原图像并利用自编码压缩网络训练先对原图像进行压缩;然后再对压缩后的图像进行解压得到压缩恢复图像。
S2、确定原图像中各像素点的注意力权重。
具体的,不同位置的像素点的损失对整个图像的信息影响不同,边缘像素点的信息损失相对于非边缘像素点的信息损失要大,因而需将原图像的像素点分为非边缘像素点与边缘像素点,利用图像金字塔来确定像素点的注意力权重。
S21、通过sobel算子处理原图像,分割出原图像中的非边缘像素点集合,将非边缘像素点集合作为第一层级像素点。
S22、通过图像金字塔处理原图像,分割出不同层级的边缘像素点集合:
利用方差为σ的高斯滤波器对原图像进行滤波处理,根据经验σ通常取2,对滤波处理过的原图像进行下采样得到下层图像,对下层图像进行重复滤波和下采样操作,重复2次得到三层图像;将三层图像分别进行上采样恢复成与原图像相同尺寸的恢复图像,恢复图像记为T1、T2、T3;
利用sobel算子分别处理T1、T2、T3,得到T1、T2、T3各自的边缘像素点集合;T3的边缘像素点集合作为第四层级像素点,T2边缘像素点集合减去T3边缘像素点集合得到第三层级像素点,T1边缘像素点集合减去T2边缘像素点集合得到第二层级像素点;
层级越高的像素点的信息承载量越高,像素点的信息损失造成的影响程度越大,所以其注意力权重越大,具体的像素点的注意力权重:
Q1=a
Q2=a*σ
Q3=a*σ2
Q4=a*σ3
式中,a表示常量参数,根据经验该值通常取1,σ表示高斯滤波器中的方差值,Q1,Q2,Q3,Q4表示原图像中与第一、二、三层级像素点对应的各像素点的注意力权重。
S3、获取原图像的非边缘像素点、压缩恢复图像的压缩非边缘像素点、原图像的边缘像素点、压缩恢复图像的压缩边缘像素点,通过非边缘像素点与压缩非边缘像素点的像素值得到非边缘像素点的像素值损失量。
图像损失包括像素值损失和纹理参数损失,纹理参数损失即图像中的纹理像素点的曲率、纹理像素点的梯度向量损失,主要从这几个方面确定原图像中各像素点的重构难度(重构难度是指通过压缩恢复图像像素点的周围像素点推演,弥补原图像像素损失量的程度)。由于边缘像素点与非边缘像素点的信息承载量不同,所以对原图像的边缘像素点和非边缘像素点分别求重构难度。非边缘像素点相对边缘像素点信息量承载不高,所以只考虑像素值的损失量得到非边缘像素点的重构难度。
具体的,利用sobel算子分割原图像和压缩回复图像,得到原图像的非边缘像素点和压缩恢复图像的压缩非边缘像素点,将非边缘像素点和压缩非边缘像素点的对应颜色通道的对应像素值相减得到非边缘像素点的像素值损失量。
S4、获取压缩非边缘像素点的周围像素点,利用该压缩非边缘像素点的周围像素点得到压缩非边缘像素点的推演像素值。
具体的,获取压缩非边缘像素点的周围像素点,以求推演像素值的像素点为中心像素点,设置一个11*11的窗口,以水平方向为0度,以30度为角度间隔得到6个方向的直线,通过各直线所通过窗口内的像素点进行线性插值分析,得到中心像素点的像素值Ci,e,根据下式(a)计算压缩非边缘像素点的推演像素值:
式中,Ci,e表示第i个压缩非边缘像素点在第e个方向的直线得到的像素估计值,Xi表示第i个压缩非边缘像素点的推演像素值。
S5、根据非边缘像素点的像素值损失量、注意力权重和压缩非边缘像素点的推演像素值得到非边缘像素点的重构难度。
根据下式(1)计算非边缘像素点的重构难度:
式中,X0i表示第i个非边缘像素点的像素值,Xi表示第i个压缩非边缘像素点的推演像素值,Qi表示第i个非边缘像素点的注意力权重,Si表示第i个非边缘像素点的像素值损失量,Ni表示第i个非边缘像素点的重构难度;表示单位损失量的修复偏差比重,该值越大说明修复该像素点信息的可能性越小。
S6、获取压缩边缘像素点的周围像素点,获取压缩边缘像素点的周围像素点的梯度向量和曲率值,根据该周围像素点的梯度向量和曲率值得到压缩边缘像素点的梯度推演向量和曲率推演值。
具体的,S61、获取压缩边缘像素点的周围像素点,获取周围像素点的梯度向量,将压缩边缘像素点中求梯度推演向量的像素点作为中心像素点。
当中心像素点为边缘像素点的交点时,获取中心像素点两侧的邻接像素点,邻接像素点记为2n个;将2n个邻接像素点两两组合形成若干个像素组,每n个像素组记为一个完全组合。
计算像素组中两像素点的梯度向量模长的差值,选出多组完全组合中梯度向量模长差值之和最小的完全组合作为最佳完全组合;将最佳完全组合中每个像素组内两像素点的梯度向量模长求均值得到多个均值模长,选最大的均值模长作为中心像素点的梯度向量模长,将均值模长最大的像素组中两像素点的梯度向量相加得到中心像素点的梯度方向,通过中心像素点的梯度向量模长和梯度方向得到中心像素点的梯度推演向量。
当中心像素点不是边缘像素点的交点时,获取中心像素点的两个邻接像素点,求两个邻接像素点的梯度向量模长的均值,作为中心像素点的梯度向量模长,将两个邻接像素点的梯度向量相加得到中心像素点的梯度方向,通过中心像素点的梯度向量模长和梯度方向得到中心像素点的梯度推演向量。
S62、通过海森矩阵获取压缩边缘像素点的周围像素点的曲率值,将压缩边缘像素点中求曲率推演值的像素点作为中心像素点。
当中心像素点为边缘像素点的交点时,获取中心像素点两侧的邻接像素点;将邻接像素点两两组成若干个像素组,计算每个像素组中两像素点的曲率差值,选出曲率差值最小的像素组,将曲率差值最小的像素组所在的边缘作为连通边缘;获取中心像素点在连通边缘11领域内的与中心像素点连通的像素点的曲率值,通过线性插值分析连通的像素点的曲率值得出中心像素点的曲率推演值;
当中心像素点不是边缘像素点的交点时,获取中心像素点11邻域内连通的像素点的曲率值,通过线性插值分析中心像素点11邻域内连通的像素点的曲率值得到中心像素点的曲率推演值。
S7、获取边缘像素点的梯度向量和曲率值,根据压缩边缘像素点的梯度推演向量、曲率推演值和边缘像素点的梯度向量、曲率值、注意力权重得到边缘像素点的重构难度。
根据下式(2)计算边缘像素点的重构难度:
式中,Qi表示第j个边缘像素点的注意力权重,K0,K1表示超参数,K0,K1是为了调整取值等级,该值可根据两个模块和/>的取值宽度进行调整,根据经验该值通常取1,2;lj表示第j个边缘像素点的曲率推演值,l0j表示第j个边缘像素点的曲率值,l1j表示第j个压缩边缘像素点的曲率值,R0j表示第j个边缘像素点的梯度向量,R1j表示第j个压缩边缘像素点的梯度向量,Rj表示第j个压缩边缘像素点的梯度推演向量,Nj表示第j个边缘像素点的重构难度,/>表示单位压缩边缘像素点的曲率值损失量的修复偏差比值,该值越大说明压缩恢复图像中的利用周围像素点的曲率值修复压缩边缘像素点的曲率值的可能性较小,修复难度较大,/>表示单位压缩边缘像素点的梯度向量损失量的修复偏差比值,该值越大说明压缩恢复图像中利用周围像素点的梯度向量修复压缩边缘像素点的梯度向量的难度较大。
S8、结合边缘像素点和非边缘像素点的重构难度得到原图像中所有像素点的重构难度,通过重构难度构建损失函数。
具体的,根据下式(3)计算损失函数:
式中,Ni表示原图像中第i个非边缘像素点的重构难度,Nj表示原图像中第j个像素点的重构难度,M表示原图像中非边缘像素点的数量,W表示原图像中边缘像素点的数量,表示损失函数。
S9、根据损失函数对自编码压缩网络进行监督训练,通过完成训练后的自编码压缩网络对原图像进行压缩传输。
具体的,根据损失函数训练自编码压缩网络;将待传输的原图像输入压缩网络进行降维压缩,再将压缩后的图像利用传输线路进行传输。
本发明还包括一种高效的大数据实时传输***,如图2所示,包括:数据采集单元201,用于获取待传输的原图像以及自编码压缩网络训练中的压缩恢复图像。
第一数据处理单元202,用于确定原图像中各像素点的注意力权重。
第二数据处理单元203,用于获取原图像的非边缘像素点、压缩恢复图像的压缩非边缘像素点、原图像的边缘像素点、压缩恢复图像的压缩边缘像素点,通过非边缘像素点与压缩非边缘像素点的像素值得到非边缘像素点的像素值损失量;获取压缩非边缘像素点的周围像素点,根据压缩非边缘像素点的周围像素点得到压缩非边缘像素点的推演像素值;根据非边缘像素点的像素值损失量、注意力权重和压缩非边缘像素点的推演像素值和得到非边缘像素点的重构难度。
第三数据处理单元204,用于获取压缩边缘像素点的周围像素点,获取压缩边缘像素点的每个周围像素点的梯度向量和曲率值,根据周围像素点的梯度向量和曲率值,得到压缩边缘像素点的梯度推演向量和曲率推演值;获取边缘像素点的梯度向量和曲率值,根据压缩边缘像素点的梯度推演向量、曲率推演值、注意力权重和边缘像素点的梯度向量和曲率值得到边缘像素点的重构难度。
第四数据处理单元205,结合边缘像素点和非边缘像素点的重构难度得到原图像中所有像素点的重构难度,通过重构难度构建损失函数。
数据压缩传输单元206,用于根据损失函数对自编码压缩网络进行监督训练得到压缩网络,通过完成训练后的自编码压缩网络对原图像进行压缩传输。
综上所述,本发明提供一种高效的大数据实时传输方法及***,考虑到相同像素损失量下像素点承载的信息量损失不同,通过图像金字塔确定了各像素点的注意力权重,不同的像素损失后进行推演恢复的程度不同,利用各像素点的周围像素点确定压缩恢复图像的推演像素值,然后通过各像素点的损失量,注意力权重,推演值得到各像素点的重构难度,利用重构难度构建出损失函数,能够保证降低数据维度实时传输的同时减少数据损失。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (4)

1.一种高效的大数据实时传输方法,其特征在于,包括:
获取原图像和自编码压缩网络训练过程中的压缩恢复图像;
确定原图像中各像素点的注意力权重;
获取原图像的非边缘像素点、压缩恢复图像的压缩非边缘像素点、原图像的边缘像素点、压缩恢复图像的压缩边缘像素点,通过非边缘像素点与压缩非边缘像素点的像素值得到非边缘像素点的像素值损失量;
获取压缩非边缘像素点的周围像素点,利用该压缩非边缘像素点的周围像素点得到压缩非边缘像素点的推演像素值;
根据非边缘像素点的像素值损失量、注意力权重和压缩非边缘像素点的推演像素值得到非边缘像素点的重构难度;
获取压缩边缘像素点的周围像素点,获取压缩边缘像素点的周围像素点的梯度向量和曲率值,根据该周围像素点的梯度向量和曲率值得到压缩边缘像素点的梯度推演向量和曲率推演值;
获取边缘像素点的梯度向量和曲率值,根据压缩边缘像素点的梯度推演向量、曲率推演值和边缘像素点的梯度向量、曲率值、注意力权重得到边缘像素点的重构难度;
结合边缘像素点和非边缘像素点的重构难度得到原图像中所有像素点的重构难度,通过重构难度构建损失函数;
根据损失函数对自编码压缩网络进行监督训练,通过完成训练后的自编码压缩网络对原图像进行压缩传输;
确定原图像中各像素点的注意力权重的步骤包括:
获取原图像的非边缘像素点,将非边缘像素点作为第一层级像素点;
对原图像进行方差为σ的高斯滤波,然后对高斯滤波后的图像进行下采样,得到第一层图像,对第一层图像进行重复的高斯滤波和下采样过程得到第二层图像,以此类推,得到第三层图像,再将第一、二、三层图像分别进行上采样恢复成与原图像尺寸相同的恢复图像,恢复图像记为T1、T2、T3;
分别获取T1、T2、T3的边缘像素点集合,T3的边缘像素点集合作为第四层级像素点;T2边缘像素点集合减T3边缘像素点集合得到的集合为第三层级像素点;T1边缘像素点集合减T2边缘像素点集合得到的集合为第二层级像素点;
根据高斯滤波的方差确定各层级像素点的注意力权重,各层级像素点的注意力权重即为对应的原图像中各像素点的注意力权重;
根据非边缘像素点的像素值损失量、推演像素值和注意力权重得到非边缘像素点的重构难度的步骤包括:
根据下式(1)计算非边缘像素点的重构难度:
式中,X0i表示第i个非边缘像素点的像素值,Xi表示第i个压缩非边缘像素点的推演像素值,Qi表示第i个非边缘像素点的注意力权重,Si表示第i个非边缘像素点的像素值损失量,Ni表示第i个非边缘像素点的重构难度;
根据压缩边缘像素点的梯度推演向量、曲率推演值和边缘像素点的梯度向量、曲率值、注意力权重得到边缘像素点的重构难度的步骤包括:
根据下式(2)计算边缘像素点的重构难度:
式中,Qj表示第j个边缘像素点的注意力权重,K0,K1表示超参数,lj表示第j个边缘像素点的曲率推演值,l0j表示第j个边缘像素点的曲率值,l1j表示第j个压缩边缘像素点的曲率值,R0j表示第j个边缘像素点的梯度向量,R1j表示第j个压缩边缘像素点的梯度向量,Rj表示第j个压缩边缘像素点的梯度推演向量,Nj表示第j个边缘像素点的重构难度;
通过重构难度构建损失函数的步骤包括:
根据下式(3)计算损失函数:
式中,Ni表示原图像中第i个非边缘像素点的重构难度,Nj表示原图像中第j个像素点的重构难度,M表示原图像中非边缘像素点的数量,W表示原图像中边缘像素点的数量,θ表示损失函数。
2.根据权利要求1所述的一种高效的大数据实时传输方法,其特征在于,根据该周围像素点的梯度向量得到压缩边缘像素点的梯度推演向量的步骤包括:
将压缩边缘像素点中求梯度推演向量的像素点作为中心像素点,当中心像素点为边缘像素点的交点时,获取中心像素点两侧的邻接像素点,邻接像素点记为2n个;
将2n个邻接像素点两两组合形成若干个像素组,每n个像素组记为一个完全组合;
计算像素组中两像素点的梯度向量模长差值,选出所有完全组合中梯度向量模长差值之和最小的完全组合作为最佳完全组合;
将最佳完全组合中每个像素组内两像素点的梯度向量模长求均值得到多个均值模长,选最大的均值模长作为中心像素点的梯度向量模长;
将均值模长最大的像素组中两像素点的梯度向量相加得到中心像素点的梯度方向,通过中心像素点的梯度向量模长和梯度方向得到中心像素点的梯度推演向量;
当中心像素点不是边缘像素点的交点时,通过中心像素点两侧邻接两像素点的向量得出中心像素点的梯度推演向量。
3.根据权利要求1所述的一种高效的大数据实时传输方法,其特征在于,根据该周围像素点的曲率值得到压缩边缘像素点的曲率推演值的步骤包括:
将压缩边缘像素点中求曲率推演值的像素点作为中心像素点,当中心像素点为边缘像素点的交点时,获取中心像素点两侧的邻接像素点;
将邻接像素点两两组合计算曲率差值,选取曲率差值最小的像素组所在的边缘,作为用来计算中心像素点的曲率推演值的连通边缘;
获取中心像素点在连通边缘11领域内的连通像素点的曲率值,对连通像素点的曲率值线性插值分析得出中心像素点的曲率推演值;
当中心像素点不是边缘像素点的交点时,获取中心像素点11邻域内连通像素点的曲率值,对中心像素点11邻域内连通像素点进行线性插值分析得到中心像素点的曲率推演值。
4.一种高效的大数据实时传输***,根据权利要求1-3任一项所述的一种高效的大数据实时传输方法,其特征在于,包括:
数据采集单元,用于获取待传输的原图像以及自编码网络训练中的压缩恢复图像;
第一数据处理单元,用于确定原图像中各像素点的注意力权重;
第二数据处理单元,用于获取原图像的非边缘像素点、压缩恢复图像的压缩非边缘像素点、原图像的边缘像素点、压缩恢复图像的压缩边缘像素点,通过非边缘像素点与压缩非边缘像素点的像素值得到非边缘像素点的像素值损失量;
获取压缩非边缘像素点的周围像素点,根据压缩非边缘像素点的周围像素点得到压缩非边缘像素点的推演像素值;
根据非边缘像素点的像素值损失量、注意力权重和压缩非边缘像素点的推演像素值和得到非边缘像素点的重构难度;
第三数据处理单元,用于获取压缩边缘像素点的周围像素点,获取压缩边缘像素点的每个周围像素点的梯度向量和曲率值,根据周围像素点的梯度向量和曲率值,得到压缩边缘像素点的梯度推演向量和曲率推演值;
获取边缘像素点的梯度向量和曲率值,根据压缩边缘像素点的梯度推演向量、曲率推演值、注意力权重和边缘像素点的梯度向量和曲率值得到边缘像素点的重构难度;
第四数据处理单元,结合边缘像素点和非边缘像素点的重构难度得到原图像中所有像素点的重构难度,通过重构难度构建损失函数;
数据压缩传输单元,根据损失函数对自编码压缩网络进行监督训练得到压缩网络,通过完成训练后的自编码压缩网络对原图像进行压缩传输。
CN202210647030.6A 2022-06-08 2022-06-08 一种高效的大数据实时传输方法及*** Active CN115278263B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210647030.6A CN115278263B (zh) 2022-06-08 2022-06-08 一种高效的大数据实时传输方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210647030.6A CN115278263B (zh) 2022-06-08 2022-06-08 一种高效的大数据实时传输方法及***

Publications (2)

Publication Number Publication Date
CN115278263A CN115278263A (zh) 2022-11-01
CN115278263B true CN115278263B (zh) 2024-04-02

Family

ID=83759442

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210647030.6A Active CN115278263B (zh) 2022-06-08 2022-06-08 一种高效的大数据实时传输方法及***

Country Status (1)

Country Link
CN (1) CN115278263B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104809748A (zh) * 2015-05-13 2015-07-29 西安电子科技大学 基于变采样率和线性均值预测的图像压缩感知方法
ITUB20153724A1 (it) * 2015-09-18 2017-03-18 Sisvel Tech S R L Metodi e apparati per codificare e decodificare immagini o flussi video digitali
CN107278314A (zh) * 2015-03-24 2017-10-20 英特尔公司 具有自适应有向空间滤波器的非局部均值图像去噪
CN108028941A (zh) * 2015-09-25 2018-05-11 西斯维尔科技有限公司 用于通过超像素编码和解码数字图像的方法和装置
CN108121522A (zh) * 2017-12-19 2018-06-05 中国航空工业集团公司洛阳电光设备研究所 一种基于边缘方向相关性的预畸变后平显画面反走样方法
CN114078149A (zh) * 2020-08-21 2022-02-22 深圳市万普拉斯科技有限公司 一种图像估计方法、电子设备及存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107278314A (zh) * 2015-03-24 2017-10-20 英特尔公司 具有自适应有向空间滤波器的非局部均值图像去噪
CN104809748A (zh) * 2015-05-13 2015-07-29 西安电子科技大学 基于变采样率和线性均值预测的图像压缩感知方法
ITUB20153724A1 (it) * 2015-09-18 2017-03-18 Sisvel Tech S R L Metodi e apparati per codificare e decodificare immagini o flussi video digitali
CN108028941A (zh) * 2015-09-25 2018-05-11 西斯维尔科技有限公司 用于通过超像素编码和解码数字图像的方法和装置
CN108121522A (zh) * 2017-12-19 2018-06-05 中国航空工业集团公司洛阳电光设备研究所 一种基于边缘方向相关性的预畸变后平显画面反走样方法
CN114078149A (zh) * 2020-08-21 2022-02-22 深圳市万普拉斯科技有限公司 一种图像估计方法、电子设备及存储介质

Also Published As

Publication number Publication date
CN115278263A (zh) 2022-11-01

Similar Documents

Publication Publication Date Title
CN111369563B (zh) 一种基于金字塔空洞卷积网络的语义分割方法
CN108765296B (zh) 一种基于递归残差注意力网络的图像超分辨率重建方法
CN111709895A (zh) 基于注意力机制的图像盲去模糊方法及***
CN109727195B (zh) 一种图像超分辨率重构方法
CN111696033B (zh) 基于角点引导级联沙漏网络结构学习的真实图像超分辨率模型及方法
CN110827198B (zh) 基于压缩感知和超分辨率重构的多相机全景图像构建方法
CN111681166A (zh) 一种堆叠注意力机制编解码单元的图像超分辨率重建方法
CN103413286A (zh) 一种基于学习的高动态范围与高分辨率图像联合重建方法
CN111932461A (zh) 一种基于卷积神经网络的自学习图像超分辨率重建方法及***
CN111861884A (zh) 一种基于深度学习的卫星云图超分辨率重建方法
CN117391958B (zh) 一种基于多路径聚合Transformer的卫星云图超分辨率重建方法
CN113538246A (zh) 基于无监督多阶段融合网络的遥感图像超分辨率重建方法
CN116029902A (zh) 一种基于知识蒸馏的无监督真实世界图像超分辨方法
CN114897694A (zh) 基于混合注意力和双层监督的图像超分辨率重建方法
CN116681592A (zh) 基于多尺度自适应非局部注意力网络的图像超分辨率方法
CN116416237A (zh) 基于改进YOLOv5与模糊图像增强的输电线路缺陷检测方法
Li Image super-resolution using attention based densenet with residual deconvolution
CN115908142A (zh) 一种基于视觉识别的接触网微小部件验损方法
CN114419060A (zh) 皮肤镜图像分割方法与***
CN113628143A (zh) 一种基于多尺度卷积的加权融合图像去雾方法及装置
CN115278263B (zh) 一种高效的大数据实时传输方法及***
CN109272450A (zh) 一种基于卷积神经网络的图像超分方法
CN113192084A (zh) 一种基于机器视觉的公路边坡微小位移形变监测方法
CN112634168A (zh) 一种结合边缘信息的图像修复方法
CN111986079A (zh) 基于生成对抗网络路面裂缝图像超分辨率重建方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20240308

Address after: Room 30703, 7th Floor, Unit 3, Building 1, Hesheng Jingguang Center, No. 11 Tangyan Road, High tech Zone, Xi'an City, Shaanxi Province, 710075

Applicant after: Xi'an Yuntong Network Technology Co.,Ltd.

Country or region after: China

Address before: Room 1008, Building B, Xingzhi Science and Technology Park, No. 6 Xingzhi Road, Economic and Technological Development Zone, Nanjing City, Jiangsu Province, 210000

Applicant before: Nanjing Wenliang Network Technology Co.,Ltd.

Country or region before: China

GR01 Patent grant
GR01 Patent grant