CN107239803A - 利用深度学习神经网络的海底底质自动分类方法 - Google Patents

利用深度学习神经网络的海底底质自动分类方法 Download PDF

Info

Publication number
CN107239803A
CN107239803A CN201710600898.XA CN201710600898A CN107239803A CN 107239803 A CN107239803 A CN 107239803A CN 201710600898 A CN201710600898 A CN 201710600898A CN 107239803 A CN107239803 A CN 107239803A
Authority
CN
China
Prior art keywords
mrow
msubsup
msub
mtr
mtd
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201710600898.XA
Other languages
English (en)
Inventor
唐秋华
纪雪
周兴华
李�杰
周东旭
刘森波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
First Institute of Oceanography SOA
Original Assignee
First Institute of Oceanography SOA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by First Institute of Oceanography SOA filed Critical First Institute of Oceanography SOA
Priority to CN201710600898.XA priority Critical patent/CN107239803A/zh
Publication of CN107239803A publication Critical patent/CN107239803A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种利用深度学习神经网络的海底底质自动分类方法,属于底质分类技术领域。本发明提取特征参数增加至十四维,引入有一定模型运算优势和分类优势的深度学习卷积神经网络,卷积和降采样计算不断降低特征的纬度,使得神经网络不宜出现过拟合,传统的人工神经网络输入层的每一个像素都要连接到隐藏层的每一个神经元,而每个神经元其实没有必要对全局图像进行感知,只需要对局部进行感知,然后在更高层将局部的信息综合起来即可得到了全局的信息,卷积神经网络的局部感知就做到了这一点,且隐含层中的所有神经元都检测在图像的不同位置处的同一个特征实现权值共享。

Description

利用深度学习神经网络的海底底质自动分类方法
技术领域
本发明涉及一种利用深度学习神经网络的海底底质自动分类方法,属于底质分类技术领域。
背景技术
现在应用较为广泛的分类方法按照分类原理可分为非监督分类和有监督分类两类。非监督分类主要有ISOD利用深度学***行六面体、最小距离、极大似然、SVM、BP神经网络等。本发明应用的分类方法是深度学习卷积神经网络属于有监督分类,卷积神经网络跟传统的非监督分类方法相比计算复杂度高,但分类精度高;与传统的神经网络比起来加入了卷积和降采样计算,以及独有的局部感知和权值共享,卷积和降采样计算不断对特征进行二次提取的同时降低特征维度,避免神经网络出现过拟合,局部感知和权值共享大大减少了模型的计算参数,加快模型的收敛速率,分类精度高。
相比于本发明应用的卷积神经网络,现有的技术或多或少存在一定缺陷,比如非监督分类对于同一类样本分布较为密集时分类较为准确,对不同类别混杂严重的分类效果不佳;监督分类中常见的分类方法SVM泛化能力较弱,对训练样本要求较高,由于运算过程设计大量矩阵的存储因而占用内存较大,运算时间较长,BP神经网络收敛速度慢、初始化参数较为随机,很容易陷入局部极值,算法运算效率不高,特别是网络层数较多,复杂度较大时,训练时间较长,分类精度普遍没有卷积神经网络分类精度高。
发明内容
针对现有底质分类软件对混合沉积物识别率不高且分类方法较为传统,本发明提取特征参数增加至十四维,引入有一定模型运算优势和分类优势的深度学习卷积神经网络。
本发明是采用以下的技术方法实现的:
一种利用深度学习神经网络的海底底质自动分类方法,包括如下步骤:
S1:输入层计算:
对于输入层的输入可用以下公式表示:
其中,l为卷积层数代表维度,k表示类别属性,gi(x,y)表示特征层中第i个像元的空间位置。
S2:卷积计算:
卷积过程是输入一幅图像,与可训练的卷积核采用滑动窗口卷积的方式进行卷积运算,然后加一个偏置,输入到神经元的激活函数,得到卷积输出层,卷积计算公式:
其中,表示第l层输出的特征图m的激活值,f()为激活函数,P表示选择的输入特征图集合,代表卷积运算,为卷积核函数,为偏置参数。
S3:下采样计算:
卷积后得到的邻域特征图再在小邻域内进行下采样得到新的特征,计算公式如下:
其中,为l层中特征图的乘性偏置系数,为l层中特征图的加性偏置系数,每一个特征图都有自己的加性和乘性偏置系数,down()为下采样函数。
S4:全连接层计算:
全连接层是对模型中上一层特征图重组的过程,该过程可增加模型训练效果。相比于稀疏连接,全连接考虑了上层网络中所有特征图的性质,通过学习的方法得到特征图的组合系数,进一步提高了模型的表达能力和适应性。全连接层输出的特征图计算公式如下:
其中,Z为输入的l-1层中的特征图总数,代表l层特征图n与输入的l-1层中特征图m的权值,为l层中特征图m的偏置系数。
S5:输出层计算:
CNN模型的输出层的作用是计算输入层神经元的归属概率,每个神经元代表一个底质类型。神经网络模型最常采用softmax回归激活函数来预测底质类型的归属概率,该函数可以增强输出层神经元间的约束性,类别估计函数如公式:
其中W和b分别为权重和偏置,Wnk和bk代表输入神经元n归为k类底质类型的权重值和偏置系数,Y代表输入神经元的分类结果,其与训练样本标签一一对应。P( )代表每个输入像元特征g归属为底质类型k的潜在概率,在softmax函数中将样本分为某一类别的概率:
卷积神经网络模型通过局部感知和权重共享来减少模型的训练参数,提高模型的训练效率。
优选地,所述步骤S2中,激活函数常用的有sign,sigmoid,tanh,在传统的CNN中通常使用sigmoid函数。
优选地,所述步骤S2中,P可从这个集合中选取某个组合作为输入特征图,每个输出特征图都有一个偏置系数,特征图内的权值相同,由卷积神经网络的权值共享特性决定的;卷积核也可以称为滤波器,卷积核设计通常涉及卷积核的大小,数目以及步长;卷积核大小确定了图像中参与运算子区域的大小,卷积核上的参数大小决定了卷积核覆盖的图像区域对应的像素点对最终卷积结果的投票能力,权值越大,投票贡献越大。
优选地,所述步骤S2中,每个输出特征图都有自己的乘性偏置参数α和加性偏置参数b。
优选地,所述步骤S3中,对上层进行池化,通常采用最大池化、均值池化、随机池化和高斯池化,在计算过程中通常采用前两种方法。
优选地,所述步骤S3中,由于特征图的变长不一定是2的倍数,在边缘处理上有忽略边缘和保留边缘两种方法,在计算过程中通常选用保留边缘。
本发明的有益效果是:卷积和降采样计算不断降低特征的纬度,使得神经网络不宜出现过拟合,传统的人工神经网络输入层的每一个像素都要连接到隐藏层的每一个神经元,而每个神经元其实没有必要对全局图像进行感知,只需要对局部进行感知,然后在更高层将局部的信息综合起来即可得到了全局的信息,卷积神经网络的局部感知就做到了这一点,且隐含层中的所有神经元都检测在图像的不同位置处的同一个特征实现权值共享。相比于其他算法CNN特殊的局部感知和权值共享大大的减少了网络的训练参数和计算量,这使得神经网络结构变得更简单,适应性更强且分类精度普遍较高。
附图说明
图1是本发明的卷积神经网络结构示意图。
图2是本发明的卷积神经网络计算流程图。
图3是本发明的卷积计算流程图。
图4是本发明的分类结果图。
图5是本发明的SVM神经网络的分类结果图。
图6是本发明的BP神经网络的分类结果图。
具体实施方式
为了使本发明目的、技术方法更加清楚明白,下面结合附图,对本发明作进一步详细说明。
实施例一:
CNN是神经网络的一种变形,它与神经网络的区别在于增加了卷积运算和降采样过程,具有局部感知和权值共享的特点,是一个前馈网络。
如图1所示,根据CNN结构可大致分为四层结构:输入层,卷积和下采样层,全连接层和输出层四部分。
(1)输入层:卷积神经网络的第一层是输入层,利用CNN进行底质分类研究输入的实际上是声纳图像的特征信息。
(2)卷积与下采样层:卷积与下采样层又叫特征提取层,上一层的输出与本层权重W做卷积提取输入数据特征得到各个卷积层(C),通过下采样计算,加快网络训练速度得到各个下采样层(S),通常卷积神经网络至少包含两层特征提取层。
(3)全连接层:全连接层实际上是多层感知器的隐含层部分,经过卷积和下采样处理后的特征信息为了与传统的多层感知器全连接,需要经过一步光栅化(X)即将上一层的所有特征信息依次展开排成一列。该过程可增加模型训练效果。相比于稀疏连接,全连接考虑了上层网络中所有特征图的性质,使模型具有更好的表达能力,增强模型适应性。
(4)输出层:输出层神经节点的数目根据最终具体类别数目设定。
卷积神经网络计算流程图如图2所示.
针对结构中不同层涉及到的计算进行介绍:
S1:输入层计算:
对于输入层的输入可用以下公式表示:
其中,l为卷积层数代表维度,k表示类别属性,gi(x,y)表示特征层中第i个像元的空间位置。
S2:卷积计算:
卷积过程是输入一幅图像,与可训练的卷积核采用滑动窗口卷积的方式进行卷积运算,然后加一个偏置,输入到神经元的激活函数,得到卷积输出层,卷积计算公式:
其中,表示第l层输出的特征图m的激活值,f()为激活函数,P表示选择的输入特征图集合,代表卷积运算,为卷积核函数,为偏置参数。常用的激活函数有sign,sigmoid,tanh等,在传统的CNN中通常使用sigmoid函数,为偏置参数。Mj表示选择的输入特征图集合,可从这个集合中选取某个组合作为输入特征图,每个输出特征图都有一个偏置系数,特征图内的权值相同,由卷积神经网络的权值共享特性决定的。卷积核也可以称为滤波器,卷积核设计通常涉及卷积核的大小(size),数目(number)以及步长(stride)。卷积核大小确定了图像中参与运算子区域的大小,卷积核上的参数大小决定了卷积核覆盖的图像区域对应的像素点对最终卷积结果的投票能力,权值越大,投票贡献越大。
S3:下采样计算:
卷积后得到的邻域特征图再在小邻域内进行下采样得到新的特征,计算公式如下:
其中,为l层中特征图的乘性偏置系数,为l层中特征图的加性偏置系数,每一个特征图都有自己的加性和乘性偏置系数,down()为下采样函数。
S4:全连接层计算:
全连接层是对模型中上一层特征图重组的过程,该过程可增加模型训练效果。相比于稀疏连接,全连接考虑了上层网络中所有特征图的性质,通过学习的方法得到特征图的组合系数,进一步提高了模型的表达能力和适应性。全连接层输出的特征图计算公式如下:
其中,Z为输入的l-1层中的特征图总数,代表l层特征图n与输入的l-1层中特征图m的权值,为l层中特征图m的偏置系数。
S5:输出层计算
CNN模型的输出层的作用是计算输入层神经元的归属概率,每个神经元代表一个底质类型。神经网络模型最常采用softmax回归激活函数来预测底质类型的归属概率,该函数可以增强输出层神经元间的约束性,类别估计函数如公式:
其中,W和b分别为权重和偏置,Wnk和bk代表输入神经元n归为k类底质类型的权重值和偏置系数,Y代表输入神经元的分类结果,其与训练样本标签一一对应。P()代表每个输入像元特征g归属为底质类型k的潜在概率,在softmax函数中将样本分为某一类别的概率:
卷积神经网络模型通过局部感知和权重共享来减少模型的训练参数,提高模型的训练效率。
实施例二:
选取某实验测区内12条多波束(EM3000)观测条带进行实验,实验区含有细砂、泥质砂、砂质泥、粗砂、基岩及砾石等6种底质类型,因为细砂、粗砂和砂质泥的特征及其相似不宜区分因此将这三类合并为一类砂进行研究。为了研究该方法的有效性和优势,分别与SVM和BP神经网络的分类结果进行对比,不同分类方法的分类结果已经精度评估如图4至图6所示。
本发明采用卷积和降采样计算不断降低特征的纬度,使得神经网络不宜出现过拟合,传统的人工神经网络输入层的每一个像素都要连接到隐藏层的每一个神经元,而每个神经元其实没有必要对全局图像进行感知,只需要对局部进行感知,然后在更高层将局部的信息综合起来即可得到了全局的信息,卷积神经网络的局部感知就做到了这一点,且隐含层中的所有神经元都检测在图像的不同位置处的同一个特征实现权值共享。相比于其他算法CNN特殊的局部感知和权值共享大大的减少了网络的训练参数和计算量,这使得神经网络结构变得更简单,适应性更强且分类精度普遍较高。
本发明可广泛运用于深度卷积神经网络在海底底质分类研究中的场合。
以上所述仅为本发明的较佳实施例而己,并不以本发明为限制,凡在本发明的精神和原则之内所作的均等修改、等同替换和改进等,均应包含在本发明的专利涵盖范围内。

Claims (6)

1.一种利用深度学习神经网络的海底底质自动分类方法,其特征在于,包括如下步骤:
S1:输入层计算:
对于输入层的输入可用以下公式表示:
<mrow> <mi>g</mi> <mo>=</mo> <msub> <mi>g</mi> <mi>i</mi> </msub> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>,</mo> <mi>l</mi> <mo>,</mo> <mi>k</mi> <mo>)</mo> </mrow> <mo>=</mo> <msub> <mi>g</mi> <mi>i</mi> </msub> <msubsup> <mrow> <mo>(</mo> <mi>x</mi> <mo>,</mo> <mi>y</mi> <mo>)</mo> </mrow> <mi>l</mi> <mi>k</mi> </msubsup> <mo>,</mo> <mi>i</mi> <mo>=</mo> <mn>1</mn> <mo>,</mo> <mn>2....</mn> <mi>N</mi> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>1</mn> <mo>)</mo> </mrow> </mrow>
其中,l为卷积层数代表维度,k表示类别属性,gi(x,y)表示特征层中第i个像元的空间位置;
S2:卷积计算:
卷积过程是输入一幅图像,与可训练的卷积核采用滑动窗口卷积的方式进行卷积运算,然后加一个偏置,输入到神经元的激活函数,得到卷积输出层,卷积计算公式:
<mrow> <msubsup> <mi>V</mi> <mi>m</mi> <mi>l</mi> </msubsup> <mo>=</mo> <mi>f</mi> <mo>(</mo> <mrow> <munder> <mo>&amp;Sigma;</mo> <mrow> <mi>n</mi> <mo>&amp;Element;</mo> <mi>P</mi> </mrow> </munder> <msubsup> <mi>V</mi> <mi>n</mi> <mrow> <mi>l</mi> <mo>-</mo> <mn>1</mn> </mrow> </msubsup> <mo>&amp;CircleTimes;</mo> <msubsup> <mi>H</mi> <mrow> <mi>m</mi> <mi>n</mi> </mrow> <mi>l</mi> </msubsup> <mo>+</mo> <msubsup> <mi>b</mi> <mi>m</mi> <mi>l</mi> </msubsup> </mrow> <mo>)</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>2</mn> <mo>)</mo> </mrow> </mrow>
其中,表示第l层输出的特征图m的激活值,f()为激活函数,P表示选择的输入特征图集合,代表卷积运算,为卷积核函数,为偏置参数;
S3:下采样计算:
卷积后得到的邻域特征图再在小邻域内进行下采样得到新的特征,计算公式如下:
<mrow> <msubsup> <mi>V</mi> <mi>m</mi> <mi>l</mi> </msubsup> <mo>=</mo> <mi>f</mi> <mrow> <mo>(</mo> <msubsup> <mi>&amp;alpha;</mi> <mi>m</mi> <mi>l</mi> </msubsup> <mi>d</mi> <mi>o</mi> <mi>w</mi> <mi>n</mi> <mo>(</mo> <msubsup> <mi>V</mi> <mi>m</mi> <mrow> <mi>l</mi> <mo>-</mo> <mn>1</mn> </mrow> </msubsup> <mo>)</mo> <mo>+</mo> <msubsup> <mi>b</mi> <mi>m</mi> <mi>l</mi> </msubsup> <mo>)</mo> </mrow> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>3</mn> <mo>)</mo> </mrow> </mrow>
其中,为l层中特征图的乘性偏置系数,为l层中特征图的加性偏置系数,每一个特征图都有自己的加性和乘性偏置系数,down()为下采样函数;
S4:全连接层计算:
全连接层是对模型中上一层特征图重组的过程,该过程可增加模型训练效果;相比于稀疏连接,全连接考虑了上层网络中所有特征图的性质,通过学习的方法得到特征图的组合系数,进一步提高了模型的表达能力和适应性;全连接层输出的特征图计算公式如下:
<mrow> <msubsup> <mi>V</mi> <mi>n</mi> <mi>l</mi> </msubsup> <mo>=</mo> <mi>f</mi> <mo>(</mo> <mrow> <munderover> <mo>&amp;Sigma;</mo> <mrow> <mi>m</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>z</mi> </munderover> <msub> <mo>&amp;part;</mo> <mrow> <mi>m</mi> <mi>n</mi> </mrow> </msub> <mo>*</mo> <msubsup> <mi>V</mi> <mi>m</mi> <mrow> <mi>l</mi> <mo>-</mo> <mn>1</mn> </mrow> </msubsup> <mo>+</mo> <msubsup> <mi>b</mi> <mi>m</mi> <mi>l</mi> </msubsup> </mrow> <mo>)</mo> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>4</mn> <mo>)</mo> </mrow> </mrow>
其中,Z为输入的l-1层中的特征图总数,代表l层特征图n与输入的l-1层中特征图m的权值,为l层中特征图m的偏置系数;
S5:输出层计算:
CNN模型的输出层的作用是计算输入层神经元的归属概率,每个神经元代表一个底质类型;神经网络模型最常采用softmax回归激活函数来预测底质类型的归属概率,该函数可以增强输出层神经元间的约束性,类别估计函数如公式:
<mrow> <mi>P</mi> <mo>=</mo> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <mrow> <mi>P</mi> <mrow> <mo>(</mo> <mi>Y</mi> <mo>=</mo> <mn>1</mn> <mo>|</mo> <mi>V</mi> <mo>,</mo> <mi>W</mi> <mo>,</mo> <mi>b</mi> <mo>)</mo> </mrow> </mrow> </mtd> </mtr> <mtr> <mtd> <mrow> <mi>P</mi> <mrow> <mo>(</mo> <mi>Y</mi> <mo>=</mo> <mn>2</mn> <mo>|</mo> <mi>V</mi> <mo>,</mo> <mi>W</mi> <mo>,</mo> <mi>b</mi> <mo>)</mo> </mrow> </mrow> </mtd> </mtr> <mtr> <mtd> <mn>...</mn> </mtd> </mtr> <mtr> <mtd> <mrow> <mi>P</mi> <mrow> <mo>(</mo> <mi>Y</mi> <mo>=</mo> <mi>k</mi> <mo>|</mo> <mi>V</mi> <mo>,</mo> <mi>W</mi> <mo>,</mo> <mi>b</mi> <mo>)</mo> </mrow> </mrow> </mtd> </mtr> </mtable> </mfenced> <mo>=</mo> <mfrac> <mn>1</mn> <mrow> <msubsup> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>k</mi> </msubsup> <msup> <mi>e</mi> <mrow> <msubsup> <mi>W</mi> <mrow> <mi>n</mi> <mi>k</mi> </mrow> <mi>T</mi> </msubsup> <msub> <mi>V</mi> <mi>n</mi> </msub> <mo>+</mo> <msub> <mi>b</mi> <mi>k</mi> </msub> </mrow> </msup> </mrow> </mfrac> <mfenced open = "[" close = "]"> <mtable> <mtr> <mtd> <msup> <mi>e</mi> <mrow> <msubsup> <mi>W</mi> <mrow> <mi>n</mi> <mi>k</mi> </mrow> <mi>T</mi> </msubsup> <msub> <mi>V</mi> <mi>n</mi> </msub> <mo>+</mo> <msub> <mi>b</mi> <mn>1</mn> </msub> </mrow> </msup> </mtd> </mtr> <mtr> <mtd> <msup> <mi>e</mi> <mrow> <msubsup> <mi>W</mi> <mrow> <mi>n</mi> <mi>k</mi> </mrow> <mi>T</mi> </msubsup> <msub> <mi>V</mi> <mi>n</mi> </msub> <mo>+</mo> <msub> <mi>b</mi> <mn>2</mn> </msub> </mrow> </msup> </mtd> </mtr> <mtr> <mtd> <mn>...</mn> </mtd> </mtr> <mtr> <mtd> <msup> <mi>e</mi> <mrow> <msubsup> <mi>W</mi> <mrow> <mi>n</mi> <mi>k</mi> </mrow> <mi>T</mi> </msubsup> <msub> <mi>V</mi> <mi>n</mi> </msub> <mo>+</mo> <msub> <mi>b</mi> <mi>k</mi> </msub> </mrow> </msup> </mtd> </mtr> </mtable> </mfenced> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>5</mn> <mo>)</mo> </mrow> </mrow>
其中,W和b分别为权重和偏置,Wnk和bk代表输入神经元n归为k类底质类型的权重值和偏置系数,Y代表输入神经元的分类结果,其与训练样本标签一一对应;P()代表每个输入像元特征g归属为底质类型k的潜在概率,在softmax函数中将样本分为某一类别的概率:
<mrow> <mi>P</mi> <mrow> <mo>(</mo> <mi>Y</mi> <mo>=</mo> <mi>i</mi> <mo>|</mo> <mi>V</mi> <mo>,</mo> <mi>W</mi> <mo>,</mo> <mi>b</mi> <mo>)</mo> </mrow> <mo>=</mo> <mfrac> <msup> <mi>e</mi> <mrow> <msubsup> <mi>W</mi> <mrow> <mi>n</mi> <mi>k</mi> </mrow> <mi>T</mi> </msubsup> <msub> <mi>V</mi> <mi>n</mi> </msub> <mo>+</mo> <msub> <mi>b</mi> <mi>k</mi> </msub> </mrow> </msup> <mrow> <msubsup> <mo>&amp;Sigma;</mo> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mi>k</mi> </msubsup> <msup> <mi>e</mi> <mrow> <msubsup> <mi>W</mi> <mrow> <mi>n</mi> <mi>k</mi> </mrow> <mi>T</mi> </msubsup> <msub> <mi>V</mi> <mi>n</mi> </msub> <mo>+</mo> <msub> <mi>b</mi> <mi>k</mi> </msub> </mrow> </msup> </mrow> </mfrac> <mo>-</mo> <mo>-</mo> <mo>-</mo> <mrow> <mo>(</mo> <mn>6</mn> <mo>)</mo> </mrow> </mrow>
卷积神经网络模型通过局部感知和权重共享来减少模型的训练参数,提高模型的训练效率。
2.根据权利要求1所述的利用深度学习神经网络的海底底质自动分类方法,其特征在于,所述步骤S2中,激活函数常用的有sign,sigmoid,tanh,在传统的CNN中通常使用sigmoid函数。
3.根据权利要求1所述的利用深度学习神经网络的海底底质自动分类方法,其特征在于,所述步骤S2中,P可从这个集合中选取某个组合作为输入特征图,每个输出特征图都有一个偏置系数,特征图内的权值相同,由卷积神经网络的权值共享特性决定的;卷积核称为滤波器,卷积核设计通常涉及卷积核的大小,数目以及步长;卷积核大小确定了图像中参与运算子区域的大小,卷积核上的参数大小决定了卷积核覆盖的图像区域对应的像素点对最终卷积结果的投票能力,权值越大,投票贡献越大。
4.根据权利要求1所述的利用深度学习神经网络的海底底质自动分类方法,其特征在于,所述步骤S3中,每个输出特征图都有自己的乘性偏置参数α和加性偏置参数b。
5.根据权利要求4所述的利用深度学习神经网络的海底底质自动分类方法,其特征在于,所述步骤S3中,对上层进行池化,通常采用最大池化、均值池化、随机池化和高斯池化,在计算过程中通常采用前两种方法。
6.根据权利要求5所述的利用深度学习神经网络的海底底质自动分类方法,其特征在于,所述步骤S3中,由于特征图的变长不一定是2的倍数,在边缘处理上有忽略边缘和保留边缘两种方法,在计算过程中通常选用保留边缘。
CN201710600898.XA 2017-07-21 2017-07-21 利用深度学习神经网络的海底底质自动分类方法 Pending CN107239803A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710600898.XA CN107239803A (zh) 2017-07-21 2017-07-21 利用深度学习神经网络的海底底质自动分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710600898.XA CN107239803A (zh) 2017-07-21 2017-07-21 利用深度学习神经网络的海底底质自动分类方法

Publications (1)

Publication Number Publication Date
CN107239803A true CN107239803A (zh) 2017-10-10

Family

ID=59989353

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710600898.XA Pending CN107239803A (zh) 2017-07-21 2017-07-21 利用深度学习神经网络的海底底质自动分类方法

Country Status (1)

Country Link
CN (1) CN107239803A (zh)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108171707A (zh) * 2018-01-23 2018-06-15 武汉精测电子集团股份有限公司 一种基于深度学习的Mura缺陷等级评判方法及装置
CN108596226A (zh) * 2018-04-12 2018-09-28 武汉精测电子集团股份有限公司 一种基于深度学习的显示面板缺陷训练方法及***
CN109001833A (zh) * 2018-06-22 2018-12-14 天和防务技术(北京)有限公司 一种基于深度学习的太赫兹危险品检测方法
CN110188794A (zh) * 2019-04-23 2019-08-30 深圳大学 一种深度学习模型的训练方法、装置、设备及存储介质
CN110532940A (zh) * 2019-08-27 2019-12-03 河海大学 一种人脸表情识别方法
CN110716234A (zh) * 2019-11-07 2020-01-21 中国科学院声学研究所东海研究站 一种用于海底底质识别的声学数据获取方法
CN110765865A (zh) * 2019-09-18 2020-02-07 北京理工大学 基于改进的yolo算法的水下目标检测方法
CN111079900A (zh) * 2019-12-17 2020-04-28 中山大学 一种基于自适应连接神经网络的图像处理方法及装置
CN111144269A (zh) * 2019-12-23 2020-05-12 威海北洋电气集团股份有限公司 一种基于深度学习的信号相关行为识别方法及***
CN111431825A (zh) * 2020-02-25 2020-07-17 泰山学院 一种基于深度多流神经网络的信号自动分类识别方法
CN111465941A (zh) * 2017-11-21 2020-07-28 国立研究开发法人理化学研究所 分类装置、分类方法、程序以及信息记录介质
CN111507335A (zh) * 2019-01-31 2020-08-07 斯特拉德视觉公司 自动标注利用于深度学习网络的训练图像的方法和装置
CN111612049A (zh) * 2020-04-30 2020-09-01 自然资源部第一海洋研究所 基于人工神经网络的海底细粒土工程分类定名分析方法
CN111798935A (zh) * 2019-04-09 2020-10-20 南京药石科技股份有限公司 基于神经网络的普适性化合物结构-性质相关性预测方法
CN112433248A (zh) * 2020-11-10 2021-03-02 成都理工大学 一种碳酸盐岩沉积环境下隐蔽储层的探测方法
CN112534446A (zh) * 2018-09-10 2021-03-19 日立汽车***株式会社 电子控制装置、神经网络更新***
CN112689841A (zh) * 2018-09-07 2021-04-20 韦务拓客公司 微生物信息提供装置及方法
CN113255660A (zh) * 2021-03-18 2021-08-13 自然资源部第三海洋研究所 一种基于实例分割框架的海洋底质自动识别方法及装置
CN113376172A (zh) * 2021-07-05 2021-09-10 四川大学 一种基于视觉与涡流的焊缝缺陷检测***及其检测方法
CN113642591A (zh) * 2020-04-27 2021-11-12 中国科学院声学研究所 一种基于迁移学习的多波束海底沉积层类型的估计方法及***
CN115824458A (zh) * 2023-02-22 2023-03-21 自然资源部第一海洋研究所 一种海底底层水温反演的方法和装置
CN116863343A (zh) * 2023-09-04 2023-10-10 中国地质大学(武汉) 一种深度学习模型、海底底质解译方法、装置及介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110222724A1 (en) * 2010-03-15 2011-09-15 Nec Laboratories America, Inc. Systems and methods for determining personal characteristics
CN104732243A (zh) * 2015-04-09 2015-06-24 西安电子科技大学 基于cnn的sar目标识别方法
CN105787510A (zh) * 2016-02-26 2016-07-20 华东理工大学 基于深度学习实现地铁场景分类的***及方法
CN105825511A (zh) * 2016-03-18 2016-08-03 南京邮电大学 一种基于深度学习的图片背景清晰度检测方法
CN105929845A (zh) * 2016-05-18 2016-09-07 中国计量大学 基于无人机网络的河道巡航***与巡航方法
US20160259994A1 (en) * 2015-03-04 2016-09-08 Accenture Global Service Limited Digital image processing using convolutional neural networks
CN105975931A (zh) * 2016-05-04 2016-09-28 浙江大学 一种基于多尺度池化的卷积神经网络人脸识别方法
CN106250812A (zh) * 2016-07-15 2016-12-21 汤平 一种基于快速r‑cnn深度神经网络的车型识别方法
CN106485251A (zh) * 2016-10-08 2017-03-08 天津工业大学 基于深度学习的鸡蛋胚胎分类
CN106780546A (zh) * 2016-12-06 2017-05-31 南京航空航天大学 基于卷积神经网络的运动模糊编码点的身份识别方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110222724A1 (en) * 2010-03-15 2011-09-15 Nec Laboratories America, Inc. Systems and methods for determining personal characteristics
US20160259994A1 (en) * 2015-03-04 2016-09-08 Accenture Global Service Limited Digital image processing using convolutional neural networks
CN104732243A (zh) * 2015-04-09 2015-06-24 西安电子科技大学 基于cnn的sar目标识别方法
CN105787510A (zh) * 2016-02-26 2016-07-20 华东理工大学 基于深度学习实现地铁场景分类的***及方法
CN105825511A (zh) * 2016-03-18 2016-08-03 南京邮电大学 一种基于深度学习的图片背景清晰度检测方法
CN105975931A (zh) * 2016-05-04 2016-09-28 浙江大学 一种基于多尺度池化的卷积神经网络人脸识别方法
CN105929845A (zh) * 2016-05-18 2016-09-07 中国计量大学 基于无人机网络的河道巡航***与巡航方法
CN106250812A (zh) * 2016-07-15 2016-12-21 汤平 一种基于快速r‑cnn深度神经网络的车型识别方法
CN106485251A (zh) * 2016-10-08 2017-03-08 天津工业大学 基于深度学习的鸡蛋胚胎分类
CN106780546A (zh) * 2016-12-06 2017-05-31 南京航空航天大学 基于卷积神经网络的运动模糊编码点的身份识别方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
AHMED NAIT CHABANE ET AL.: "Unsupervised knowledge discovery of seabed types using competitive neural network: Application to sidescan sonar images", 《2014 OCEANS - ST. JOHN"S》 *
冯子勇: "基于深度学习的图像特征学习和分类方法的研究及应用", 《中国博士学位论文全文数据库》 *
唐秋华 等: "济州岛南部海域海底声呐图像分析与声学底质分类", 《海洋学报(中文版)》 *

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111465941A (zh) * 2017-11-21 2020-07-28 国立研究开发法人理化学研究所 分类装置、分类方法、程序以及信息记录介质
CN108171707A (zh) * 2018-01-23 2018-06-15 武汉精测电子集团股份有限公司 一种基于深度学习的Mura缺陷等级评判方法及装置
CN108596226A (zh) * 2018-04-12 2018-09-28 武汉精测电子集团股份有限公司 一种基于深度学习的显示面板缺陷训练方法及***
CN109001833A (zh) * 2018-06-22 2018-12-14 天和防务技术(北京)有限公司 一种基于深度学习的太赫兹危险品检测方法
CN112689841A (zh) * 2018-09-07 2021-04-20 韦务拓客公司 微生物信息提供装置及方法
CN112534446A (zh) * 2018-09-10 2021-03-19 日立汽车***株式会社 电子控制装置、神经网络更新***
CN111507335A (zh) * 2019-01-31 2020-08-07 斯特拉德视觉公司 自动标注利用于深度学习网络的训练图像的方法和装置
CN111507335B (zh) * 2019-01-31 2023-10-13 斯特拉德视觉公司 自动标注利用于深度学习网络的训练图像的方法和装置
CN111798935A (zh) * 2019-04-09 2020-10-20 南京药石科技股份有限公司 基于神经网络的普适性化合物结构-性质相关性预测方法
CN110188794A (zh) * 2019-04-23 2019-08-30 深圳大学 一种深度学习模型的训练方法、装置、设备及存储介质
CN110188794B (zh) * 2019-04-23 2023-02-28 深圳大学 一种深度学习模型的训练方法、装置、设备及存储介质
CN110532940A (zh) * 2019-08-27 2019-12-03 河海大学 一种人脸表情识别方法
CN110765865B (zh) * 2019-09-18 2022-06-28 北京理工大学 基于改进的yolo算法的水下目标检测方法
CN110765865A (zh) * 2019-09-18 2020-02-07 北京理工大学 基于改进的yolo算法的水下目标检测方法
CN110716234B (zh) * 2019-11-07 2021-10-19 中国科学院声学研究所东海研究站 一种用于海底底质识别的声学数据获取方法
CN110716234A (zh) * 2019-11-07 2020-01-21 中国科学院声学研究所东海研究站 一种用于海底底质识别的声学数据获取方法
CN111079900A (zh) * 2019-12-17 2020-04-28 中山大学 一种基于自适应连接神经网络的图像处理方法及装置
CN111079900B (zh) * 2019-12-17 2023-07-14 中山大学 一种基于自适应连接神经网络的图像处理方法及装置
CN111144269A (zh) * 2019-12-23 2020-05-12 威海北洋电气集团股份有限公司 一种基于深度学习的信号相关行为识别方法及***
CN111144269B (zh) * 2019-12-23 2023-11-24 威海北洋电气集团股份有限公司 一种基于深度学习的信号相关行为识别方法及***
CN111431825A (zh) * 2020-02-25 2020-07-17 泰山学院 一种基于深度多流神经网络的信号自动分类识别方法
CN113642591A (zh) * 2020-04-27 2021-11-12 中国科学院声学研究所 一种基于迁移学习的多波束海底沉积层类型的估计方法及***
CN113642591B (zh) * 2020-04-27 2023-07-18 中国科学院声学研究所 一种基于迁移学习的多波束海底沉积层类型的估计方法及***
CN111612049A (zh) * 2020-04-30 2020-09-01 自然资源部第一海洋研究所 基于人工神经网络的海底细粒土工程分类定名分析方法
CN111612049B (zh) * 2020-04-30 2023-10-13 自然资源部第一海洋研究所 基于人工神经网络的海底细粒土工程分类定名分析方法
CN112433248A (zh) * 2020-11-10 2021-03-02 成都理工大学 一种碳酸盐岩沉积环境下隐蔽储层的探测方法
CN113255660A (zh) * 2021-03-18 2021-08-13 自然资源部第三海洋研究所 一种基于实例分割框架的海洋底质自动识别方法及装置
CN113376172A (zh) * 2021-07-05 2021-09-10 四川大学 一种基于视觉与涡流的焊缝缺陷检测***及其检测方法
CN115824458A (zh) * 2023-02-22 2023-03-21 自然资源部第一海洋研究所 一种海底底层水温反演的方法和装置
CN116863343A (zh) * 2023-09-04 2023-10-10 中国地质大学(武汉) 一种深度学习模型、海底底质解译方法、装置及介质
CN116863343B (zh) * 2023-09-04 2024-01-23 中国地质大学(武汉) 一种深度学习模型、海底底质解译方法、装置及介质

Similar Documents

Publication Publication Date Title
CN107239803A (zh) 利用深度学习神经网络的海底底质自动分类方法
US11055549B2 (en) Network, system and method for image processing
CN109086700B (zh) 基于深度卷积神经网络的雷达一维距离像目标识别方法
CN103955702B (zh) 基于深度rbf网络的sar图像地物分类方法
US20200065606A1 (en) Method and apparatus for automatically extracting image features of electrical imaging well logging
CN106845529A (zh) 基于多视野卷积神经网络的影像特征识别方法
CN107590774A (zh) 一种基于生成对抗网络的车牌清晰化方法及装置
CN110287962A (zh) 基于超对象信息的遥感图像目标提取方法、装置及介质
CN101944174B (zh) 车牌字符的识别方法
CN107644426A (zh) 基于金字塔池化编解码结构的图像语义分割方法
CN104866810A (zh) 一种深度卷积神经网络的人脸识别方法
CN107133974A (zh) 高斯背景建模与循环神经网络相结合的车型分类方法
CN104408481B (zh) 基于深度小波神经网络的极化sar图像分类方法
CN110969086B (zh) 一种基于多尺度cnn特征及量子菌群优化kelm的手写图像识别方法
CN107330480A (zh) 手写字符计算机识别方法
CN109978882A (zh) 一种基于多模态融合的医疗影像目标检测方法
CN103927550B (zh) 一种手写体数字识别方法及***
CN107292336A (zh) 一种基于dcgan的极化sar图像分类方法
CN108122008A (zh) 基于稀疏表示和多特征决策级融合的sar图像识别方法
CN110363230A (zh) 基于加权基分类器的stacking集成污水处理故障诊断方法
CN104866868A (zh) 基于深度神经网络的金属币识别方法和装置
Lorente et al. Image classification with classic and deep learning techniques
CN110210482B (zh) 改进类别不平衡的目标检测方法
CN106339753A (zh) 一种有效提升卷积神经网络稳健性的方法
CN110009030A (zh) 基于stacking元学习策略的污水处理故障诊断方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20171010