CN109919838B - 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法 - Google Patents

基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法 Download PDF

Info

Publication number
CN109919838B
CN109919838B CN201910045687.3A CN201910045687A CN109919838B CN 109919838 B CN109919838 B CN 109919838B CN 201910045687 A CN201910045687 A CN 201910045687A CN 109919838 B CN109919838 B CN 109919838B
Authority
CN
China
Prior art keywords
network
image
resolution
feature
ultrasonic image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910045687.3A
Other languages
English (en)
Other versions
CN109919838A (zh
Inventor
刘娇蛟
李薿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN201910045687.3A priority Critical patent/CN109919838B/zh
Publication of CN109919838A publication Critical patent/CN109919838A/zh
Application granted granted Critical
Publication of CN109919838B publication Critical patent/CN109919838B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

本发明公开了一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,包括:S1:数据采集;S2:网络构建;S3:网络初始化;S4:网络训练;S5:超分辨率图像重建。在现有特征提取重建网络的基础上,该方法搭建另一级并联的编码‑解码结构的注意力机制网络,利用普通卷积和空洞卷积,更好地获取超声图像中的高频信息。将这两级网络特征合并,利用卷积提取最后的图像特征,构成超分辨率重建网络。本发明通过两级并联网络,利用注意力机制网络定位高频信息的具***置,可以有效区分超声图像中组织交界面和组织区域,提升超声图像中组织接触面的边缘重建清晰度,解决重建超声图像的轮廓模糊问题。

Description

基于注意力机制提升轮廓清晰度的超声图像超分辨率重建 方法
技术领域
本发明属于图像超分辨率重建和深度学习的技术领域,具体涉及一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法。
背景技术
超声成像是利用超声波束扫描,通过对反射信号的接收、处理,获得扫描图像。其相干本质导致超声扫描结果会产生斑点噪声的退化效应,而且超声波束成形的带宽受限特性会造成图像空间分辨率降低,这些原因导致了超声成像的对比度降低,超声图像中轮廓信息的模糊化。然而,超声成像广泛用于医学的辅助诊断,例如:在肿瘤检测中,超声图像中肿瘤轮廓的模糊容易导致误诊。为提升超声医疗诊断的准确性,就需要获得轮廓比较清晰的超声图像。因此,实际应用中有必要对超声图像进行超分辨率重建,即在平滑噪声的同时凸显超声图像中的轮廓信息,达到辅助医疗诊断的效果。
图像超分辨率重建技术是为了突破成像设备和环境的限制,从低分辨率的观测图像中提取图像的相关信息,重建高分辨率的图像。该技术在医疗图像领域已经有所应用,在斑点去噪方面取得了还不错的成果。
现在图像超分辨率重建的方法主要有三种:基于插值的方法,基于重建的方法,基于学习的方法。其中:
基于插值的方法,这是超分辨率研究当中最直观的方法,这类方法的优点是简单易行,适合并联计算,但是因为不能够引入额外有用的高频信息,在超声图像的超分辨率图像重建中容易产生图像模糊或者是锯齿状的现象,达不到超声图像重建的技术要求。
基于重建模型的方法,是通过建模图像的退化模型来约束高、低分辨率图像变量之间的一致性,进而估计出高分辨率图像。这类方法通过正则项约束来获得稳定的解。但是这类方法中,加入强制性先验信息,会破坏图像的原始结构特征,导致重建图像失真。而且这类算法的计算复杂度高,无法达到超声图像重建中实时处理的要求。
基于学习的方法,是通过对低分辨率和高分辨率图像训练集合进行训练,学习低分辨率图像到高分辨率图像之间的映射关系,来重建高分辨率的超声图像。
到目前为止,人们提出很多基于学***滑了图像中的噪点,但是缺少定位高频信息的网络模块,导致重建的超声图像中组织的轮廓比较模糊,达不到超声图像重建的预期效果。
综上所述,如何利用低分辨率图像的高频信息来重建超声图像轮廓部分,是利用超声图像辅助医疗诊断中亟待解决的问题。
发明内容
本发明所要解决的技术问题是,如何有效利用低分辨率图像中的高频信息,提升重建高分辨率图像的轮廓清晰度,从而达到辅助医疗诊断的效果。
超声图像当中的高频信息一般指组织交界面以及组织的轮廓信息。在图像特征提取网络当中,高频信息一般存在于网络提取的浅层特征中。浅层特征一般包括亮度、线条等特征。这些浅层特征通常在卷积网络的前几层获取,但是在超声图像超分辨率重建中往往没有被很好地利用。
为重建轮廓清晰度高的超声图像,本发明提出了一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法。本发明采用编码-解码结构的注意力机制网络,该网络从浅层特征的高频信息中定位超声图像中不同组织的轮廓信息。在编码网络中,首先通过卷积,提取超声图像中的浅层特征,再利用多个并联的空洞卷积,提升学习模型对超声图像的感受野,来获得图像的深层特征,即语义特征。在解码网络中将编码网络获得的深层特征与浅层特征合并,利用卷积提取超声图像的高频信息,再经过归一化函数之后输出特征的权重矩阵。注意力机制网络输出的权重矩阵与特征重建网络输出的特征经过对应元素间相乘后,通过残差与双三次插值后得到的原始图像进行连接。这能够让注意力机制网络侧重学习超声图像中组织轮廓的高频信息位置。
本发明方法包含两级并联的神经网络,在超分辨率重建中现有的特征提取以及超分辨率重建的串联网络基础上,并联搭建另一级注意力机制网络实现超声图像轮廓高频信息的定位。将这两级网络学习的超声图像特征对应元素相乘,得到新的图像特征。所得的特征与低分辨率双三次插值超声图像特征做残差连接后,再和低分辨率双三次插值特征合并,送入卷积层,得到最终重建的超分辨率超声图像。
本发明方法具体包括以下步骤:
S1:数据采集,通过超声医疗设备,采集训练图像数据集,对所述的训练图像进行预处理,并且将其划分为训练集和验证集;
S2:网络构建,具体包括图像插值单元,全局残差单元,卷积输出单元和并联的两级网络,即特征重建网络和注意力机制网络;
S3:网络初始化,利用在CT数据集上预训练过的模型,对注意力机制网络中相应的特征提取层进行参数初始化,其他网络层利用Xavier方法进行参数初始化;
S4:网络训练,将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入上述网络,利用梯度下降更新网络参数,直至网络收敛;
S5:超分辨率图像重建,将低分辨率的超声图像输入到训练好的网络中,即可输出重建的高分辨率超声图像。
进一步地,所述的步骤S1具体包括:
S11:对高分辨率的超声图像进行下采样,获得相应低分辨率超声图像,对数据集进行训练集和验证集划分;
S12:采用数据增强的方法,对训练集进行左右翻转,上下翻转等操作,增加训练集样本数量。
进一步地,所述的步骤S2中构建的网络,具体包括:
S21:图像插值单元,对网络输入的低分辨率超声图像进行双三次插值,获得与目标图像尺寸一致的图像H0
S22:特征重建网络,由特征提取网络和超分辨率重建网络串联构成,直接从网络输入的低分辨率超声图像中,重建高分辨率图像特征H1
S23:注意力机制网络,具有编码-解码的网络结构,对H0进行特征提取,获取图片中的高频信息,再经过非线性变换,得到超声图像轮廓高频信息位置的权重矩阵Ma
S24:全局残差单元,将S22网络得到的H1与S23网络得到的Ma做元素间相乘,得到高频信息加权特征张量H2;H2与S21得到的H0做元素间相加,得到新的高分辨率的图像特征H3;最后将H3和H0合并,得到高分辨率图像重建特征H4
S25:卷积输出单元,利用卷积层,对S24得到的特征H4进行图像超分辨率重建,获得输出的高分辨率图像。
进一步地,所述的S22中的特征重建网络,具体包括:
S221:特征提取网络,由七层残差模块串联而成,并且将残差输出利用Dense连接,从低分辨率的超声图像中提取特征Fp
S222:超分辨率重建网络,包含两个并联的卷积模块,特征合并之后,连接子像素卷积模块,对提取的特征Fp进行细节构建,获得基于特征重建的高分辨率图像特征H1
进一步地,所述的S23中的注意力机制网络,具体包括:
S231:编码-解码的网络结构中,编码网络主要从浅层特征中提取语义特征Fen
S232:编码-解码地网络结构中,解码网络主要将编码网络提取的语义特征,经过非线性变化后,输出超声图像轮廓高频信息位置的权重矩阵Ma
进一步地,S231中所述的编码网络,具体如下:
S2311:浅层特征提取单元,利用ResNet,DenseNet或Xception提取H0中的浅层特征FL
S2312:语义特征提取单元,采用普通卷积和空洞卷积从FL中提取语义特征Fen
进一步地,S232中所述的解码网络,具体如下:
S2321:高频特征提取单元,利用卷积,从编码网络中的浅层特征FL,提取高频特征FdL
S2322:语义特征缩放单元,利用卷积,对编码网络输出地语义特征Fen进行特征重组,变换特征维度,再与FdL拼接,得到富含高频信息的特征FdH
S2323:利用卷积,对FdH进行特征维度的操作,然后进行双三次插值后得到含有高频定位信息的特征Hd。最后对这个特征张量进行归一化操作,生成权重矩阵Ma
进一步地,所述步骤S4中的网络训练,具体包括:
S41:将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入该网络;
S42:输入图像根据网络的前向传播过程,计算得到重建的超声图像,计算重建的超声图像和真实的高分辨率超声图像之间的L1loss,即真实图像和重建图像对应像素点之差绝对值的均值;
S43:利用L1loss进行反向传播,利用梯度下降的方法更新网络参数,直至网络收敛。
本发明采用以上技术方案,首次将注意力机制用于超声图像超分辨率重建当中。利用注意力机制网络,对超声图像当中轮廓的高频信息定位,有效区分了超声图像当中的纹理部分和平滑部分。在平滑超声图像中噪点的同时,达到了更高质量超声图像中组织轮廓的重建效果,能够更好的帮助医疗诊断。
附图说明
图1是本发明方法的流程示意图;
图2是本发明的超分辨率重建网络结构示意图;
图3本发明方法的特征提取网络的网络结构示意图;
图4是本发明方法的超分辨率重建网络结构示意图;
图5是本发明方法的注意力机制网络结构示意图。
具体实施方式
下面结合附图对本发明的实施例作进一步说明,但本发明的实施不限于此。
如图1所示,本实施例提供一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,具体步骤如下:
S1:数据采集,通过超声医疗设备,采集训练图像数据集,对所述的训练图像进行预处理,并且将其划分为训练集和验证集。
S11:本实施例中,数据集由超声医疗设备采集,所有的高分辨率的超声图像的尺寸大小一致,相应的低分辨率的超声图像由对高分辨率的超声图像进行下采样得到,高分辨率的超声图像的大小是低分辨的图像大小的3倍,即低分辨率的图像大小为48*48,高分辨率的图像大小为154*154,最后对该数据集进行训练集和验证集划分。
S12:本实例中,采用数据增强的方法,即对训练集进行左右翻转,上下翻转以及随机裁剪,亮度变化操作,增加训练集样本数量。
S2:网络构建,具体网络结构如图2所示,包括图像插值单元,全局残差单元,卷积输出单元和并联的两级网络,即特征重建网络和注意力机制网络。
S21:图像插值单元,在本实施例中,对网络输入的48*48的低分辨率超声图像进行双三次插值,获得与目标图像尺寸一致的154*154的图像H0
S22:特征重建网络,由特征提取网络和超分辨率重建网络串联构成,直接从网络输入的低分辨率超声图像中,重建高分辨率图像特征H1
S221:特征提取网络,具体结构如图3所示,本实施例当中,特征提取由七层残差模块(block)串联而成,每个block结构如图3中block所示,为卷积->激活函数->卷积,并且每个block的输入和输出进行元素间相加,构成残差连接。本实施例当中,每个block中不同两层卷积的滤波数目一样,七层block的卷积滤波数目分别为96、78、64、64、64、56、48、32。利用这七个block从低分辨率的超声图像中提取特征,设第i个block的卷积层权重矩阵分别为W1 (i),W2 (i),偏置矩阵为
Figure BDA0001949069560000081
对应的输入第i个block的特征为Fi (i),输出的特征为
Figure BDA0001949069560000082
每个block的前向传播过程为:
Figure BDA0001949069560000083
其中*代表卷积操作,a代表非线性激活函数,且
Figure BDA0001949069560000084
在本实施例当中采用PReLU。
并且将这七个block提取的特征进行Dense的拼接,得到超声图像特征Fp,具体公式如下:
Figure BDA0001949069560000085
其中
Figure BDA0001949069560000086
为不同的block获得的特征。
S222:超分辨率重建网络,具体结构如图4所示,包含两个并联的卷积模块,特征合并之后,连接子像素卷积模块,对提取的特征Fp进行细节构建,获得基于特征重建的高分辨率图像特征H1
在本实施例中,并联的卷积模块包括,具体如图3前半部分所示,包括卷积->激活函数,作为α,卷积->激活函数->卷积->激活函数,作为β,激活函数在本实施例当中设置为PReLU。α和β的第一层卷积核大小都为1x1,滤波器数目为64,β的第二层卷积核大小为3x3,滤波器数目均为32。设在α模块当中的权重矩阵为Wα,偏置矩阵为bα,在β模块中的权重矩阵为Wβ1,Wβ2,偏置矩阵为bβ1,bβ2;这两个卷积模块获得的特征拼接后得到图像特征Fc,该特征作为子像素卷积模块的输入;具体的前向传播过程为:
Fα=a(Wα*Fp+bα);
Fβ=a(Wβ1*a(Wβ1*Fp+bβ1)+bβ2);
Fc=[Fα,Fβ],
其中,Fα为α模块提取的特征张量,Fβ为β模块提取的特征张量,Fc表明将这两个特征张量拼接到一起的特征张量。
本实施例中,子像素卷积模块具体如图3后半部分所示,具体构成为卷积->子像素乱序层。代替在超分辨率重建方法当中常用的反卷积模块作为上采样模块,获取重建的高分辨率图像特征H1。本实施例中,卷积核的大小为3x3,设置的滤波器的数量与重建高分辨率的超声图像当中的放大倍数r以及原来超声图像的通道数c对应关系是r2*c。设卷积的权重矩阵为Wsp,偏置矩阵为bsp,子像素乱序层的周期性乱序表示为PS,该层的具体前向传播过程为:
H1=PS(Wsp*Fc+bsp)。
S23:注意力机制网络,具体结构如图5所示,具有编码-解码的网络结构。该网络对H0进行特征提取,获取图片中的高频信息,再经过非线性变换,得到超声图像轮廓高频信息位置的权重矩阵Ma
S231:编码-解码的网络结构中,本实施例中,编码网络结构如图5的encoder部分所示,主要从浅层特征中提取语义特征Fen
S2311:浅层特征提取单元,利用ResNet,DenseNet或Xception提取H0中的浅层特征FL,在本实施例当中采用的是ResNet网络提取浅层特征;
S2312:语义特征提取单元,结构如图5所示,采用普通卷积和空洞卷积从FL中提取语义特征Fen;在本实施例中,具体包含并联的四层卷积操作,其中一层为普通卷积,另外三层为空洞卷积。空洞卷积的前向传播过程为y[i]=∑kx[i+r·k]w[k],x是输入的特征张量,y是输出的特征张量,i对应的是张量的二维平面所在的位置,r代表的是空洞卷积的空洞率,当r=1时,这里的卷积就是普通卷积形式,w表示卷积的权重矩阵。
空洞率可以根据图像最终下采样的倍数来决定大小,在本实施例中,空洞卷积采用6、8、16的空洞率。卷积核大小在这里选择3x3的大小,得到的特征张量分别为Fa1,Fa2,Fa3。设卷积核权重矩阵为Wa1,Wa2,Wa3,偏置矩阵为ba1,ba2,ba3,该网络层的前向计算过程为:Fa1=Wa1*FL+ba1,Fa2=Wa2*FL+ba2,Fa3=Wa3*FL+ba3,*在这里代表空洞卷积的操作,在其他地方均代表普通的卷积操作。
在本实施例中,采用卷积核大小为1x1的普通卷积,得到特征张量Fa0。设该卷积层的权重矩阵为Wa0,偏置矩阵为ba0,前向传播为Fa0=Wa0*FL+ba0
将这四层卷积获取的特征拼接,得到图像的语义特征Fa,即Fa=[Fa0,Fa1,Fa2,Fa3]。在本实施例当中将该特征经过一层1x1的卷积层,获得最终编码网络的输出图像特征Fen。设该卷积层的权重矩阵为Wa,偏置矩阵为ba,则Fen=Wa*Fa+ba
S232:编码-解码地网络结构中,解码网络结构如图5的decoder部分所示。主要将编码网络提取的语义特征,经过非线性变化后,输出超声图像轮廓高频信息位置的权重矩阵Ma
S2321:高频特征提取单元,在本实施例中,利用1x1d的卷积,从编码网络中的浅层特征FL,提取高频特征FdL。设该卷积层的权重矩阵为WdL,偏置矩阵为bdL,即得FdL=WdL*FL+bdL
S2322:语义特征缩放单元,在本实施例中,利用1x1的卷积,对编码网络输出地语义特征Fen进行特征重组,变换特征维度,再与FdL拼接,得到富含高频信息的特征FdH。设该卷积层的权重矩阵为Wd,偏置矩阵为bd,那么Fd=Wd*Fen+bd,FdH=[FdL,Fd]。
S2323:在本实施例中,为了获得合适的特征维度,利用1x1的卷积,对FdH进行特征维度操作,然后进行双三次插值后得到含有高频定位信息的特征Hd。最后对这个特征张量进行归一化操作,生成权重矩阵Ma。计算过程如下,设该层的权重矩阵为Wd,偏置矩阵为bd,那么Fd=Wd*FdH+bd,Hd=Bicubic(Fd),Bicubic代表双三次插值。在本实例中,归一化操作采用混合注意力机制的方法,即直接对Hd当中的每个元素做sigmoid操作,sigmoid函数为S(x)=exp(x)/1+exp(x),Ma=S(Hd)。
S24:全局残差单元,将S22网络得到的H1与S23网络得到的Ma做元素间相乘,得到高频信息加权特征张量H2,H2=Ma⊙H1,⊙代表对应元素相乘。H2与S21得到的H0做元素间相加,得到新的高分辨率的图像特征H3,H3=H0+H2。最后将H3和H0合并,得到高分辨率图像重建特征H4。
S25:卷积输出单元,利用卷积层,对S24得到的特征H4进行图像超分辨率重建,获得输出的高分辨率图像。
S3:网络初始化,利用在CT数据集上预训练过的模型,对注意力机制网络中相应的特征提取层进行参数初始化,其他网络层利用Xavier方法进行参数初始化;
S4:网络训练,将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入上述网络,利用梯度下降更新网络参数,直至网络收敛。
S41:在本实施例中,将训练集中对应的低分辨率超声图像L1,L2,...,Ln和真实的超分辨率超声图像H1,H2,...,Hn输入该网络;
S42:输入图像根据网络的前向传播过程,计算得到重建的超声图像,计算重建的超声图像和真实的高分辨率超声图像之间的L1 loss,具体公式如公式(1)所示;
S43:在本实施例中,利用L1loss进行反向传播来最大化峰值信噪比(PSNR),L1loss具体公式如公式(1)所示:
Figure BDA0001949069560000121
其中n代表样本数目,k∈[1,n]设输入图像张量的大小为M x Nx C,则i∈[1,M],j∈[1,N],c∈[1,C]。
在本实施例中,采用Adam优化器更新网络参数,直至网络收敛。
S5:超分辨率图像重建,将低分辨率的超声图像输入到训练好的网络中,即可输出重建的高分辨率超声图像。
本发明所公开的一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,利用注意力机制网络,对超声图像当中轮廓的高频信息定位,有效区分了超声图像当中的纹理部分和平滑部分。在平滑超声图像中噪点的同时,达到了更高质量超声图像中组织轮廓的重建效果,能够更好的帮助医疗诊断。
以上实施方式仅用于说明本发明,而并非对本发明的限制,有关技术领域的普通技术人员,在不脱离本发明的精神和范围的情况下,还可以做出各种变化和变型,因此所有等同的技术方案也属于本发明的范畴,本发明的专利保护范围应由权利要求限定。

Claims (10)

1.一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,其特征在于,包括一个不完全对称的编码-解码结构的注意力机制网络;所述注意力机制网络中的编码网络利用并行的普通卷积和空洞卷积结构,提取超声图像的深层语义特征,在解码网络中合并浅层特征和深层语义特征,合并的特征经过卷积,提取浅层特征中的高频信息,定位超声图像中组织边缘位置,得到超声图像轮廓高频信息位置的权重矩阵Ma。
2.根据权利要求1所述的一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,其特征在于,还包含两级并联的神经网络,在串联的特征提取网络和超分辨率重建网络的基础上,搭建另一级平行的注意力机制网络,实现超声图像轮廓高频信息的定位;将这两级网络学习的超声图像特征对应元素相乘,得到新的图像特征;所得的特征与低分辨率双三次插值超声图像特征做残差连接后,再和低分辨率双三次插值特征合并,送入卷积层,得到最终重建的超分辨率超声图像。
3.根据权利要求2所述的一种基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法,其特征在于,包括具体以下步骤:
S1:数据采集,通过超声医疗设备,采集训练图像数据集,对所述的训练图像进行预处理,并且将其划分为训练集和验证集;
S2:网络构建,具体包括图像插值单元,全局残差单元,卷积输出单元和并联的两级网络,并联的两级网络即特征重建网络和注意力机制网络,所述特征重建网络包括串联的特征提取网络和超分辨率重建网络;
S3:网络初始化,利用在CT数据集上预训练过的模型,对注意力机制网络中相应的特征提取层进行参数初始化,其他网络层利用Xavier方法进行参数初始化;
S4:网络训练,将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入特征重建网络和注意力机制网络,利用梯度下降更新网络参数,直至网络收敛;
S5:超分辨率图像重建,将低分辨率的超声图像输入到训练好的网络中,即可输出重建的高分辨率超声图像。
4.根据权利要求3所述的方法,其特征在于,所述的步骤S1包括:
S11:对高分辨率的超声图像进行下采样,获得相应低分辨率超声图像,对数据集进行训练集和验证集划分;
S12:采用数据增强的方法,对训练集进行左右翻转和上下翻转操作,增加训练集样本数量。
5.根据权利要求3所述的方法,其特征在于,所述的步骤S2中网络结构进一步包括:
S21:图像插值单元,对网络输入的低分辨率超声图像进行双三次插值,获得与目标图像尺寸一致的图像H0
S22:特征重建网络,由特征提取网络和超分辨率重建网络串联构成,直接从网络输入的低分辨率超声图像中,重建高分辨率图像特征H1
S23:注意力机制网络,具有编码-解码的网络结构,对图像H0进行特征提取,获取图片中的高频信息,再经过非线性变换,得到超声图像轮廓高频信息位置的权重矩阵Ma
S24:全局残差单元,将S22网络得到的高分辨率图像特征H1与S23网络得到的权重矩阵Ma做元素间相乘,得到高频信息加权特征张量H2;高频信息加权特征张量H2与S21得到的图像H0做元素间相加,得到新的高分辨率的图像特征H3;最后将图像特征H3和图像H0合并,得到高分辨率图像重建特征H4
S25:卷积输出单元,利用卷积层,对S24得到的高分辨率图像重建特征H4进行图像超分辨率重建,获得输出的高分辨率图像。
6.根据权利要求5所述的方法,其特征在于,所述的S22中的特征重建网络,具体包括:
S221:特征提取网络,由七层残差模块串联而成,并且将残差输出利用Dense连接,从低分辨率的超声图像中提取特征Fp
S222:超分辨率重建网络,包含两个并联的卷积模块,特征合并之后,连接子像素卷积模块,对提取的特征Fp进行细节构建,获得基于特征重建的高分辨率图像特征H1
7.根据权利要求5所述的方法,其特征在于,所述的S23中的注意力机制网络,具体包括:
S231:编码-解码的网络结构中,编码网络从浅层特征中提取语义特征Fen
S232:编码-解码的网络结构中,解码网络将编码网络提取的语义特征,经过非线性变化后,输出超声图像轮廓高频信息位置的权重矩阵Ma
8.根据权利要求7所述的方法,其特征在于,所述的S231中的编码网络,具体包括:
S2311:浅层特征提取单元,利用ResNet,DenseNet或Xception提取图像H0中的浅层特征FL
S2312:语义特征提取单元,采用普通卷积和空洞卷积从浅层特征FL中提取语义特征Fen
9.根据权利要求8所述的方法,其特征在于,所述的S232中的解码网络,具体包括:
S2321:高频特征提取单元,利用卷积,从编码网络中的浅层特征FL,提取高频特征FdL
S2322:语义特征缩放单元,利用卷积,对编码网络输出的语义特征Fen进行特征重组,变换特征维度,再与高频特征FdL拼接,得到富含高频信息的特征FdH
S2323:利用卷积,对特征FdH进行特征维度的操作,然后进行双三次插值后得到含有高频定位信息的特征Hd;最后对这个特征张量进行归一化操作,生成权重矩阵Ma
10.根据权利要求3所述的方法,其特征在于,所述的步骤S4中的网络训练,具体包括:
S41:将训练集中对应的低分辨率超声图像和真实的超分辨率超声图像输入该网络;
S42:输入图像根据网络的前向传播过程,计算得到重建的超声图像,计算重建的超声图像和真实的高分辨率超声图像之间的L1 loss;
S43:利用L1 loss进行反向传播,利用梯度下降的方法更新网络参数,直至网络收敛。
CN201910045687.3A 2019-01-17 2019-01-17 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法 Active CN109919838B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910045687.3A CN109919838B (zh) 2019-01-17 2019-01-17 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910045687.3A CN109919838B (zh) 2019-01-17 2019-01-17 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法

Publications (2)

Publication Number Publication Date
CN109919838A CN109919838A (zh) 2019-06-21
CN109919838B true CN109919838B (zh) 2023-02-14

Family

ID=66960359

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910045687.3A Active CN109919838B (zh) 2019-01-17 2019-01-17 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法

Country Status (1)

Country Link
CN (1) CN109919838B (zh)

Families Citing this family (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112135136B (zh) * 2019-06-24 2022-09-30 无锡祥生医疗科技股份有限公司 超声远程医疗发送方法、装置和接收方法、装置及***
CN112150354B (zh) * 2019-06-26 2021-08-24 四川大学 联合轮廓增强与去噪统计先验的单幅图像超分辨率方法
CN110309880B (zh) * 2019-07-01 2022-12-09 天津工业大学 一种基于注意力机制cnn的5天和9天孵化鸡蛋胚胎图像分类方法
CN110472631B (zh) * 2019-07-12 2022-05-03 厦门大学 基于序列预测的实时语义分割方法
CN112215761A (zh) * 2019-07-12 2021-01-12 华为技术有限公司 图像处理方法、装置及设备
CN110738231B (zh) * 2019-07-25 2022-12-27 太原理工大学 改进S-DNet神经网络模型的乳腺X射线图像的分类方法
CN110675330A (zh) * 2019-08-12 2020-01-10 广东石油化工学院 基于通道级注意力机制的编码-解码网络的图像去雨方法
CN110717856A (zh) * 2019-09-03 2020-01-21 天津大学 一种用于医学成像的超分辨率重建算法
CN111626267B (zh) * 2019-09-17 2022-02-15 山东科技大学 一种利用空洞卷积的高光谱遥感图像分类方法
CN110705699B (zh) * 2019-10-18 2022-05-31 厦门美图之家科技有限公司 超分辨率重建方法、装置、电子设备和可读存储介质
CN111080513B (zh) * 2019-10-24 2023-12-26 天津中科智能识别产业技术研究院有限公司 一种基于注意力机制的人脸图像超分辨率方法
CN111028147B (zh) * 2019-11-25 2024-02-02 天津大学 基于级联空洞卷积的三维医学图像超分辨率重建方法
CN111047515B (zh) * 2019-12-29 2024-01-09 兰州理工大学 一种基于注意力机制的空洞卷积神经网络图像超分辨率重建方法
CN111161386A (zh) * 2019-12-30 2020-05-15 无锡触典科技有限公司 超声图像的渲染方法、装置及超声设备
CN111464814B (zh) * 2020-03-12 2022-01-04 天津大学 一种基于视差引导融合的虚拟参考帧生成方法
CN111488806A (zh) * 2020-03-25 2020-08-04 天津大学 一种基于并行分支神经网络的多尺度人脸识别方法
CN111353940B (zh) * 2020-03-31 2021-04-02 成都信息工程大学 一种基于深度学习迭代上下采样的图像超分辨率重建方法
CN111461987B (zh) * 2020-04-01 2023-11-24 中国科学院空天信息创新研究院 一种网络构建方法、图像超分辨率重建方法及***
CN111462273B (zh) * 2020-05-14 2024-03-08 东软医疗***股份有限公司 图像处理方法、装置、ct设备及ct***
CN112487184A (zh) * 2020-11-26 2021-03-12 北京智源人工智能研究院 用户性格判定方法、装置、存储器和电子设备
CN113012072A (zh) * 2021-03-30 2021-06-22 华南理工大学 一种基于注意力网络的图像运动去模糊方法
CN113222823B (zh) * 2021-06-02 2022-04-15 国网湖南省电力有限公司 基于混合注意力网络融合的高光谱图像超分辨率方法
CN113313691A (zh) * 2021-06-03 2021-08-27 上海市第一人民医院 一种基于深度学习的甲状腺彩超处理方法
CN114331849B (zh) * 2022-03-15 2022-06-10 之江实验室 一种跨模态核磁共振超分网络及图像超分辨率方法
CN115205117B (zh) * 2022-07-04 2024-03-08 中国电信股份有限公司 图像重建方法及装置、计算机存储介质、电子设备
CN115082320B (zh) * 2022-07-22 2022-11-15 深圳华声医疗技术股份有限公司 超声图像超分辨率处理方法、超声设备及存储介质
CN115759202B (zh) * 2022-11-22 2023-11-28 江苏济远医疗科技有限公司 一种可变空洞卷积的稠密图像超分辨率方法
CN116721040B (zh) * 2023-08-09 2023-12-05 广州索诺星信息科技有限公司 一种基于大数据的超声影像管理方法及***
CN117115284A (zh) * 2023-08-23 2023-11-24 郑州大学 一种基于自编码器的超声图像重建方法及***

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108765296A (zh) * 2018-06-12 2018-11-06 桂林电子科技大学 一种基于递归残差注意力网络的图像超分辨率重建方法
CN109165697A (zh) * 2018-10-12 2019-01-08 福州大学 一种基于注意力机制卷积神经网络的自然场景文字检测方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016207875A1 (en) * 2015-06-22 2016-12-29 Photomyne Ltd. System and method for detecting objects in an image

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108765296A (zh) * 2018-06-12 2018-11-06 桂林电子科技大学 一种基于递归残差注意力网络的图像超分辨率重建方法
CN109165697A (zh) * 2018-10-12 2019-01-08 福州大学 一种基于注意力机制卷积神经网络的自然场景文字检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于通道注意力的卷积神经网络在图像超分辨率重建中的应用;王东飞;《广播与电视技术》;20180615(第06期);全文 *

Also Published As

Publication number Publication date
CN109919838A (zh) 2019-06-21

Similar Documents

Publication Publication Date Title
CN109919838B (zh) 基于注意力机制提升轮廓清晰度的超声图像超分辨率重建方法
Li et al. Lapar: Linearly-assembled pixel-adaptive regression network for single image super-resolution and beyond
Zhang et al. High-quality image restoration using low-rank patch regularization and global structure sparsity
Mao et al. Image restoration using convolutional auto-encoders with symmetric skip connections
CN114549308B (zh) 面向感知的具有大感受野的图像超分辨率重建方法及***
CN111091575B (zh) 一种基于强化学习方法的医学图像分割方法
Andrew et al. Super-resolution reconstruction of brain magnetic resonance images via lightweight autoencoder
Huang et al. Lightweight deep residue learning for joint color image demosaicking and denoising
Temiz et al. Super resolution of B-mode ultrasound images with deep learning
Hsu et al. Detail-enhanced wavelet residual network for single image super-resolution
CN115170410A (zh) 融合小波变换和注意力机制的图像增强方法及装置
CN113706388A (zh) 图像超分辨率重建方法及装置
CN113538246A (zh) 基于无监督多阶段融合网络的遥感图像超分辨率重建方法
CN116823625B (zh) 基于变分自编码器的跨对比度磁共振超分辨率方法和***
Huang et al. Learning deformable and attentive network for image restoration
Chen et al. Attention-based broad self-guided network for low-light image enhancement
Hsu et al. Wavelet pyramid recurrent structure-preserving attention network for single image super-resolution
Dharejo et al. SwinWave-SR: Multi-scale lightweight underwater image super-resolution
CN117291835A (zh) 基于图像内容感知先验和注意力驱动的去噪网络模型
Sharma et al. Deep learning based frameworks for image super-resolution and noise-resilient super-resolution
Chen et al. Guided dual networks for single image super-resolution
CN114708353B (zh) 图像重建方法、装置、电子设备与存储介质
CN116797491A (zh) 基于任务解耦的暗光模糊图像增强方法
CN116385724A (zh) 一种基于交叉注意力和跨尺度融合的医学图像分割方法
Guo et al. Blind Image Despeckling Using a Multiscale Attention-Guided Neural Network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant