CN112130200A - 一种基于grad-CAM注意力引导的断层识别方法 - Google Patents

Abstract

本发明公开了一种基于grad‑CAM注意力引导的断层识别方法，包括以下步骤：S1、通过grad‑CAM获得卷积神经网络的注意力图；S2、向卷积神经网络的目标函数中添加注意力图和地学专家标记的注意力图的交叉熵损失函数，得到新的卷积神经网络目标函数；S3、利用步骤S2得到的目标函数训练断层识别模型。本发明在典型的深度学习框架基础上，引入注意力引导机制，可以有效的增加网络对于断层及其邻域像素的关注，能够实现对神经网络做出断层分类判断的有效引导，能够有效改善断层识别结果发生断裂的情况，得到了连续性更好的识别结果。

Description

一种基于grad-CAM注意力引导的断层识别方法

技术领域

本发明属于地震数据识别技术领域，特别涉及一种基于grad-CAM注意力引导的断层识别方法。

背景技术

地震数据解释是油气勘探工作的重要一步，而对断层的识别是地震数据解释的重要组成部分。断层是地壳受力发生断裂，沿断裂面两侧岩块发生的显著相对位移的构造。断层破坏了岩层的连续性。断层的性质、破碎和紧结程度，以及断层面两侧岩性组合间的接触关系等，对油气运移、聚集和破坏都有密切关系。同一断层，在深部和浅部所起的作用不同；在历史发展过程中，在不同时期内，也可能起着封闭或破坏两种相反的作用。由于断层对油气的运动和聚集所起到重要的控制作用，因此对于断层的识别具有很高的实用价值。

断层识别是地震数据解释中最重要的任务之一，因为断层对油气的运动和聚集所起到重要的控制作用。由于地学数据非常庞大，自动化解释断层的方法是业界一直在研究的。断层作为地震属性的一种，常见属性有相干体，方差体，混沌体等。相对来说，使用推广率高，识别效果好，算法稳定成熟的是相干体属性，它主要是用相邻道之间的振幅不连续性来突出断层。相干体的实现思想是估计主测线和联络测线方向上的波形相似性。通常来说，相干体的相干特征会在断层切割的地震道波形之间体现出相干性的差异，尤其是走向平行于地层的断层在相干属性中体现的更为明显。

目前，对于断层的解释方法主要有：(1)基于地震属性方法的断层识别；(2)基于图像分析的断层识别；(3)基于深度学***面延伸一般较远，其走向一般与构造走向平行或斜交。小断层多是断层裂缝，断裂方向不确定，平面横向延伸不远。评判断层识别的效果除了考察断层分布与形态是否符合地质规律之外，还要重点从断层的细节部分，如断层边缘是否有大量毛刺，切片背景的抗噪性以及断层延展方向上的连续性等几个角度去考量。

深度学习在计算机视觉、自然语言处理等领域得到了很多成功的应用。深度学习技术的发展结合地震数据本身体量巨大的特点，这为断层识别提供了新的方法。深度学习方法的优势在于神经网络模型具有产生高阶函数来拟合模型的能力。神经网络在有监督地训练下能够自动提取断层特征，摆脱了人为手动选取断层特征的麻烦，极大程度地减低了断层识别整个流程的复杂程度。另一个方面，一个良好的深度学习模型应该具备不错的泛化能力，当该神经网络模型学习到了大量地震数据背后的断层形态特征和断层分布规律，即便输入是其他工区的地震数据也能给出不错的断层识别效果，深度神经网络模型在地震解释邻域有优异的效果，蕴含无穷的潜力。但是深度学习这一端到端的“黑盒”模型，存在大量参数，人们很难理解其中的隐藏层、神经元、激活函数等关键部分会对最终的学习结果有什么样的影响。当前利用深度学习识别断层的方法，在预测部分断层样本时可能会产生明显的断裂。神经网络做出断层分类的关键像素可能会存在一些偏差，与人类的客观认识不符。

发明内容

本发明的目的在于克服现有技术的不足，提供一种在典型的深度学习框架基础上，引入注意力引导机制，可以有效的增加网络对于断层及其邻域像素的关注，能够实现对神经网络做出断层分类判断的有效引导，能够有效改善断层识别结果发生断裂的情况，得到了连续性更好的识别结果的基于grad-CAM注意力引导的断层识别方法。

本发明的目的是通过以下技术方案来实现的：一种基于grad-CAM注意力引导的断层识别方法，包括以下步骤：

S1、使用标记了断层的地震数据作为标签，未标记断层的地震数据作为训练集，输入卷积神经网络进行训练；

S2、通过grad-CAM获得卷积神经网络的注意力图；

S3、向卷积神经网络的目标函数中添加注意力图和地学专家标记的注意力图的交叉熵损失函数，得到新的卷积神经网络目标函数；

S4、利用步骤S3得到的目标函数训练断层识别模型。

进一步地，所述卷积神经网络依次包括两个卷积层、一个池化层、两个卷积层、一个池化层、三个卷积层和两个全连接层。

进一步地，所述注意力图的获取方式为假设最后的卷积层输出的第k张特征图为A^k，

表示特征图A^k上的(i,j)点；定义第k张特征图对类别c的权重为

其中Z表示第k张特征图中像素个数；S_c表示第c类的分类得分；

通过下式计算注意力图：

n表示特征图的总数量。

进一步地，所述注意力图和地学专家标记的注意力图的交叉熵损失函数为：

其中，q_i用于表示是否对(i,j)点使用注意力机制，若是则q_i＝1，否则q_i＝0；N代表待分类点总数，

表示地学专家标记的(i,j)点的注意力图，

表示grad-CAM生成的(i,j)点的注意力图；

得到新的目标函数为：

其中，

为卷积神经网络的原始目标函数，β为用户自定义的超参数。

本发明的有益效果是：本发明在典型的深度学习框架基础上，引入注意力引导机制，可以有效的增加网络对于断层及其邻域像素的关注，能够实现对神经网络做出断层分类判断的有效引导，能够有效改善断层识别结果发生断裂的情况，得到了连续性更好的识别结果。本发明提出的基于grad-CAM注意力引导的断层识别方法引入了地质专家对断层识别的重要经验，实现了对卷积神经网络识别断层的解释，有效的引导了神经网络对关键区域的关注，最终得到连续性更佳的断层识别结果，为后续工作奠定了基础。

附图说明

图1为本发明的基于grad-CAM注意力引导的断层识别方法的流程图；

图2为本发明的卷积神经网络的结构示意图；

图3为401*101二维地震数据图像；

图4为利用传统卷积网络对401*101二维地震数据识别结果图；

图5为地震识别图像与其注意力图；

图6为分别取β＝10和β＝100时，利用本发明的方法对二维图像识别的结果图；

图7为利用本发明的方法对包含断层的401*401*101的三维地震数据进行识别的结果图。

具体实施方式

与本发明相关的现有技术

(1)卷积神经网络(CNN)

卷积神经网络是一种被用来处理具有类似网格结构的数据的神经网络。例如时间序列数据(可以认为是在时间轴上有规律地采样形成的一维网格，如文字语音)和图像数据(可以看作是二维的像素网格)。卷积网络在计算机视觉，自然语言处理等诸多应用领域都表现优异。卷积神经网络使用了卷积(convolution)这种数学运算。卷积是一种特殊的线性运算。卷积网络是指在网络中至少有一层使用卷积运算来替代一般的矩阵乘法运算的神经网络。卷积网络中通常也包含有池化层。

在二维的图像数据中，卷积运算的具体步骤如下：

利用卷积核在图像左上角上开始滑动，将图像上的像素灰度值与卷积核上对应的数值相乘，然后把所有相乘后的值相加作为卷积结果对应的图像上像素的灰度值，并滑动完所有像素求得最后的结果。

图像池化运算的具体步骤如下：

和卷积操作类似，从图像的左上角上开始滑动，在规定大小的窗口内，根据不同类型的池化(如最大值，均值)得到一个值，作为池化结果图像对应位置上的灰度值，滑动窗口处理完所有像素求得最后的结果。

(2)类激活映射CAM

类激活映射CAM能够定位出在图像中卷积神经网络对其分类起到重要作用的区域。类激活映射生成热力图叠加到原始图像中，可以看出对图像分类起到重要作用的部分。CAM算法主要用到了NIN中提出的Global Average Pooling(GAP)层。在卷积神经网络的中，卷积层池化层之后总是要连接一个或n个全连接层，最后再通过分类器并用softmax分类。卷积神经网络的特征就是全连接层的参数超多，使模型本身变得非常庞大。GAP层将最后一层卷积层的所有特征图进行整张图的均值池化，每张特征图形成一个特征值，将这些特征值组成最后的特征向量，这样极大的减少了网络的参数，且能直接赋予每一个特征图实际的类别意义。CAM是在分类GAP的基础上实现的，GAP层的输出连接一个全连接层实现分类，通过将某一类全连接分类器的每一个的权值与所对应的原特征图相乘并相加得到CAM的结果。直观的看，平均特征值较大的特征图对得到相应的分类结果的作用也大。

设一个卷积神经网络最后一层有n张特征图，记为A₁,A₂,…A_n，在分类层中一个神经元有n个权重，每一个神经元对应一类，设第i个神经元的权重为w₁ ⁱ,w₂ ⁱ,…w_n ⁱ，则第c类的CAM(记为M_c)为：

接下来分析为什么计算的CAM可以得出类别相关区域。沿用上述符号，记f_i(x,y)表示第i张特征图在位置(x,y)的像素值，则该特征图的GAP输出为:

其中Z表示特征图像素个数。第c类的分类得分:

可以看到，分类c的得分与其CAM的所有像素之和相等，由此可见，CAM图M_c中像素值越大的点(x,y)，对分类的结果影响越大。

(3)grad-CAM

CAM生成的注意力图对神经网络的解释效果很好，但是它要求修改原模型的结构，已有的模型想要使用CAM还需要重新训练该模型，这大大限制了它的使用场景。如果模型已经上线或训练的成本非常高，CAM算法的局限性就非常的大。于是有人提出了grad-CAM，解决了这个问题。

grad-CAM和CAM的基本思路一致，也需要得到每张特征图对某一分类对应的权重，最后求得加权和。grad-CAM与CAM的主要区别在于求权重w_i ^c的过程。CAM通过将全连接层替换为GAP层，重新训练得到权重，而grad-CAM另辟蹊径，用梯度的全局平均来计算权重。事实上，经过严格的数学推导，grad-CAM与CAM计算出来的权重是等价的。定义grad-CAM中第k张特征图对类别c的权重为

可通过下面的公式计算：

得到每张特征图对应的权值过后，由式(1)即可计算注意力图。

Grad-CAM是对CAM的一般化，下面做简要证明。

假设最后的卷积层输出的第K张特征图为A^k,A_ij ^k表示特征图的(i,j)位置。CAM需要计算GAP值：

CAM由以下公式计算最后的分类分数：

求出分类得分对特征图的梯度：

(5)式求对A_ij ^k的偏导数，有

带入(7)得：

由(6),

因此有：

(9)两侧对所有像素求和：

本发明提出了一种基于grad-CAM注意力引导的卷积神经网络断层识别方法。该方法采用grad-CAM方法深沉深度神经网络的类激活图，可以对得到的分类结果依据做出解释。接下来组合地质专家标记的正则项，加上神经网络原有的损失函数来作为卷积神经网络的目标函数，克服了由于地质数据中所有像素在卷积神经网络起到均等作用，造成断层识别结果断裂的问题，提高了断层识别结果的连续性。下面结合附图和具体实施例进一步说明本发明的技术方案。

如图1所示，本发明的一种基于grad-CAM注意力引导的断层识别方法，包括以下步骤：

S1、使用标记了断层的地震数据作为标签，未标记断层的地震数据作为训练集，输入卷积神经网络进行训练；

S2、通过grad-CAM获得卷积神经网络的注意力图；

本发明基于一个结构较简单的卷积神经网络，该卷积网络从输入开始，依次包括两个卷积层、一个池化层、两个卷积层、一个池化层、三个卷积层和两个全连接层，如图2所示。本实施例用卷积神经网络对图3所示的401*101二维地震数据进行识别，得到的识别结果如图4所示。

对于断层，我们人工识别断层时通常认为在断层两侧错开的地质体表面起到了引导作用，然而神经网络的识别可能存在偏差。如图5所示，图5(a)中心点被判定为断层，由该点的类别识别为断层导出的注意力图为(b)，可以看到对该点被判定为断层起到较大作用的位置位于该点的左上方，与我们的直观理解不符，说明神经网络训练得到的模型也存在一定的局限性。因此，本发明将地质专家的断层标签与Grad-CAM注意力图结合，提出了引导神经网络注意力的方法，将神经网络的常规目标函数修改，添加交叉熵损失函数使神经网络在训练的过程中对于断层周边的区域更加关注。

所述注意力图的获取方式为假设最后的卷积层输出的第k张特征图为A^k，

表示特征图A^k上的(i,j)点；定义第k张特征图对类别c的权重为

其中Z表示第k张特征图中像素个数；S_c表示第c类的分类得分；

通过下式计算注意力图：

n表示特征图的总数量。

S3、向卷积神经网络的目标函数中添加注意力图和地学专家标记的注意力图的交叉熵损失函数，得到新的卷积神经网络目标函数；

所述注意力图和地学专家标记的注意力图的交叉熵损失函数为：

其中，q_i用于表示是否对(i,j)点使用注意力机制，若是则q_i＝1，否则q_i＝0；N代表待分类点总数，

表示地学专家标记的(i,j)点的注意力图，

表示grad-CAM生成的(i,j)点的注意力图；

得到新的目标函数为：

其中，

为卷积神经网络的原始目标函数，β为用户自定义的超参数，用于平衡预测的损失函数和注意力引导项。

S4、利用步骤S3得到的目标函数训练断层识别模型。

图6(a)、(b)分别取β＝10和β＝100时，利用本发明的方法得到的识别结果。从图中可以看出，图5(a)的断层的注意力图集中于图6断层分类点附近。调高参数β，所得效果更好，与我们对断层识别结果应当关注读取区域的主观认识相符合。

图7为利用本发明的方法对包含断层的401*401*101的三维地震数据进行识别的结果图。图中(a)为地震数据断层；(b)为无注意力引导时的断层识别结果；(c)为利用本发明的方法当β＝10时的断层识别结果。从图中可以看出，在使用无注意力引导的神经网络进行断层识别时，部分断层识别结果发生断裂，在加入了注意力引导机制后，断裂的情况得到改善，识别结果的连续性有很好的提升。

本领域的普通技术人员将会意识到，这里所述的实施例是为了帮助读者理解本发明的原理，应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合，这些变形和组合仍然在本发明的保护范围内。

Claims (4)

1.一种基于grad-CAM注意力引导的断层识别方法，其特征在于，包括以下步骤：

S1、使用标记了断层的地震数据作为标签，未标记断层的地震数据作为训练集，输入卷积神经网络进行训练；

S2、通过grad-CAM获得卷积神经网络的注意力图；

S3、向卷积神经网络的目标函数中添加注意力图和地学专家标记的注意力图的交叉熵损失函数，得到新的卷积神经网络目标函数；

S4、利用步骤S3得到的目标函数训练断层识别模型。

2.根据权利要求1所述的一种基于grad-CAM注意力引导的断层识别方法，其特征在于，所述卷积神经网络依次包括两个卷积层、一个池化层、两个卷积层、一个池化层、三个卷积层和两个全连接层。

3.根据权利要求1所述的一种基于grad-CAM注意力引导的断层识别方法，其特征在于，所述注意力图的获取方式为假设最后的卷积层输出的第k张特征图为A^k，

表示特征图A^k上的(i,j)点；定义第k张特征图对类别c的权重为

其中Z表示第k张特征图中像素个数；S_c表示第c类的分类得分；

通过下式计算注意力图：

n表示特征图的总数量。

4.根据权利要求1所述的一种基于grad-CAM注意力引导的断层识别方法，其特征在于，所述注意力图和地学专家标记的注意力图的交叉熵损失函数为：

其中，q_i用于表示是否对(i,j)点使用注意力机制，若是则q_i＝1，否则q_i＝0；N代表待分类点总数，

表示地学专家标记的(i,j)点的注意力图，

表示grad-CAM生成的(i,j)点的注意力图；

得到新的目标函数为：

其中，

为卷积神经网络的原始目标函数，β为用户自定义的超参数。

Images