CN114255221A - 图像处理、缺陷检测方法及装置、电子设备和存储介质 - Google Patents

Abstract

本公开涉及一种图像处理、缺陷检测方法及装置、电子设备和存储介质，所述图像处理方法包括：对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图；对所述输入特征图在空间维度进行局部特征聚合，得到聚合特征图；对所述聚合特征图在通道维度进行全连接处理，得到第二输出特征图；根据所述第一输出特征图和所述第二输出特征图，得到目标输出特征图，其中，所述目标输出特征图用于表征所述待处理图像中的目标对象。本公开实施例可以提高全连接处理的处理效率。

Description

图像处理、缺陷检测方法及装置、电子设备和存储介质

技术领域

本公开涉及计算机技术领域，尤其涉及一种图像处理、缺陷检测方法及装置、电子设备和存储介质。

背景技术

自注意力(Transformer)网络是自然语言处理领域中各类任务的主流模型，近些年也在计算机视觉领域引起了广泛关注。Transformer网络中包括多头自注意力(Multi-Head Self-Attention，MHSA)层和前向反馈网络(feed-forward network，FFN)。其中，MHSA通过计算所有输入特征图之间的相关性，对相关输入特征图进行加权聚合，而FFN是全连接层，独立对每一个输入特征图在通道维度上进行全连接处理。相关技术中，FFN的全连接处理过程存在计算冗余，在对高分辨率输入特征图进行全连接处理时，处理效率较低，进而导致FFN在应用于计算机视觉任务时受限。

发明内容

本公开提出了一种图像处理、缺陷检测方法及装置、电子设备和存储介质的技术方案。

根据本公开的一方面，提供了一种图像处理方法，包括：对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图；对所述输入特征图在空间维度进行局部特征聚合，得到聚合特征图；对所述聚合特征图在通道维度进行全连接处理，得到第二输出特征图；根据所述第一输出特征图和所述第二输出特征图，得到目标输出特征图，其中，所述目标输出特征图用于表征所述待处理图像中的目标对象。

在一种可能的实现方式中，所述对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图，包括：对所述输入特征图进行第一次分组全连接处理，得到第一中间特征图；对所述第一中间特征图按通道重新排列，得到第二中间特征图；对所述第二中间特征图进行第二次分组全连接处理，得到所述第一输出特征图。

在一种可能的实现方式中，所述输入特征图包括多个第一图像通道；所述对所述输入特征图进行第一次分组全连接处理，得到第一中间特征图，包括：对所述多个第一图像通道进行分组，得到多个第一图像通道组；在每个所述第一图像通道组内分别进行全连接处理，得到所述第一中间特征图，其中，所述第一中间特征图包括多个第二图像通道组，每个所述第二图像通道组对应一个所述第一图像通道组，每个所述第二图像通道组中包括的任一第二图像通道，是基于对应的一个所述第一图像组通道组中包括的多个所述第一图像通道全连接得到的。

在一种可能的实现方式中，所述对所述第一中间特征图按通道重新排列，得到第二中间特征图，包括：根据所述多个第二图像通道组，对所述第一中间特征图按通道重新排列，得到所述第二中间特征图，其中，所述第二中间特征图包括多个第三图像通道组，每个所述第三图像通道组中包括的第三图像通道来自不同的所述第二图像通道组。

在一种可能的实现方式中，所述对所述第二中间特征图进行第二次分组全连接处理，得到所述第一输出特征图，包括：在每个所述第三图像通道组内分别进行全连接处理，得到所述第一输出特征图，其中，所述第一输出特征图中包括的任一第四图像通道，是基于一个所述第三图像通道组中包括的多个所述第三图像通道确定得到的。

在一种可能的实现方式中，所述方法还包括：对所述第二中间特征图进行卷积处理，得到更新后的第二中间特征图；和/或，对所述第一输出特征图进行通道注意力处理，得到更新后的第一输出特征图。

在一种可能的实现方式中，所述对所述输入特征图在空间维度进行局部特征聚合，得到聚合特征图，包括：对所述输入特征图在空间维度进行切分，得到多个图像块；对每个所述图像块进行特征聚合，得到每个所述图像块对应的聚合后特征；根据每个所述图像块对应的聚合后特征，得到所述聚合特征图。

在一种可能的实现方式中，所述对所述聚合特征图在通道维度进行全连接处理，得到第二输出特征图，包括：对所述聚合特征图在通道维度进行全连接处理，得到第三中间特征图；对所述第三中间特征图进行上采样处理，得到所述第二输出特征图。

在一种可能的实现方式中，所述根据所述第一输出特征图和所述第二输出特征图，得到目标输出特征图，包括：对所述第一输出特征图和所述第二输出特征图进行合并处理，得到所述目标输出特征图。

根据本公开的一方面，提供了一种缺陷检测方法，包括：获取需要进行缺陷检测的目标对象的待处理图像；基于多头自注意力机制，对所述待处理图像进行特征提取，得到第一目标输出特征图；根据所述第一目标输出特征图，确定需要进行全连接处理的输入特征图；对所述输入特征图进行全连接处理，得到第二目标输出特征图，其中，所述全连接处理是采用上述图像处理方法实现的；根据所述第一目标输出特征图和所述第二目标输出特征图，得到目标特征图；根据所述目标特征图，对所述目标对象进行缺陷检测，得到所述目标对象的缺陷检测结果。

在一种可能的实现方式中，所述根据所述第一目标输出特征图，确定需要进行全连接处理的输入特征图，包括：对所述第一目标输出特征图进行归一化处理，得到所述输入特征图。

在一种可能的实现方式中，所述根据所述第一目标输出特征图和所述第二目标输出特征图，得到目标特征图，包括：对所述第一目标输出特征图和所述第二目标输出特征图进行合并处理，得到所述目标特征图。

根据本公开的一方面，提供了一种图像处理装置，包括：第一全连接模块，用于对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图；特征聚合模块，用于对所述输入特征图在空间维度进行局部特征聚合，得到聚合特征图；第二全连接模块，用于对所述聚合特征图在通道维度进行全连接处理，得到第二输出特征图；确定模块，用于根据所述第一输出特征图和所述第二输出特征图，得到目标输出特征图，其中，所述目标输出特征图用于表征所述待处理图像中的目标对象。

根据本公开的一方面，提供了一种缺陷检测装置，包括：获取模块，用于获取需要进行缺陷检测的目标对象的待处理图像；多头自注意力模块，用于基于多头自注意力机制，对所述待处理图像进行特征提取，得到第一目标输出特征图；第一确定模块，用于根据所述第一目标输出特征图，确定需要进行全连接处理的输入特征图；全连接模块，用于对所述输入特征图进行全连接处理，得到第二目标输出特征图，其中，所述全连接处理是采用上述图像处理方法实现的；第二确定模块，用于根据所述第一目标输出特征图和所述第二目标输出特征图，得到目标特征图；缺陷检测模块，用于根据所述目标特征图，对所述目标对象进行缺陷检测，得到所述目标对象的缺陷检测结果。

根据本公开的一方面，提供了一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行上述方法。

根据本公开的一方面，提供了一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。

在本公开实施例中，通过对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，可以实现采用通道间稀疏连接的方式进行全连接处理，从而在通道维度降低全连接处理的计算冗余，快速得到第一输出特征图；此外，通过对输入特征图在空间维度进行局部特征聚合，可以在空间维度降低特征冗余，得到数据量较小的聚合特征图，进而使得对聚合特征图在通道维度进行全连接处理，可以在空间维度降低全连接处理的计算冗余，快速得到第二输出特征图；根据第一输出特征图和第二输出特征图，得到用于表征待处理图像中的目标对象的目标输出特征图，从而实现在通道维度和空间维度综合降低全连接处理的计算冗余，既可以提高全连接处理的处理效率，又可以提高目标输出特征图的上下文语义表征能力。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，而非限制本公开。根据下面参考附图对示例性实施例的详细说明，本公开的其它特征及方面将变得清楚。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，这些附图示出了符合本公开的实施例，并与说明书一起用于说明本公开的技术方案。

图1示出根据本公开实施例的一种图像处理方法的流程图；

图2示出根据本公开实施例的一种输入特征图的示意图；

图3示出根据本公开实施例的一种在通道维度对图2所示的输入特征图进行分组全连接处理的示意图；

图4示出根据本公开实施例的一种对图2所示的输入特征图在空间维度进行局部特征聚合的示意图；

图5示出根据本公开实施例的一种轻量化FFN模块对输入特征图进行全连接处理的示意图；

图6示出根据本公开实施例的一种缺陷检测方法的示意图；

图7示出根据本公开实施例的一种图像处理装置的框图；

图8示出根据本公开实施例的一种缺陷检测装置的框图；

图9示出根据本公开实施例的一种电子设备的框图；

图10示出根据本公开实施例的一种电子设备的框图。

具体实施方式

以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面，但是除非特别指出，不必按比例绘制附图。

在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。

本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中术语“至少一种”表示多种中的任意一种或多种中的至少两种的任意组合，例如，包括A、B、C中的至少一种，可以表示包括从A、B和C构成的集合中选择的任意一个或多个元素。

另外，为了更好地说明本公开，在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解，没有某些具体细节，本公开同样可以实施。在一些实例中，对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述，以便于凸显本公开的主旨。

伴随着制造业的技术不断发展，对工业基础建设进行维护的安全性和可靠性需求逐渐提升。其中，工业缺陷检测成为工业制造业不可获缺的核心技术，但是工业缺陷检测所涉及到的缺陷大小仅有几厘米大小，相较于待检测部件对应的整张图片，很难通过人眼进行定位并检测到待检测部件的缺陷问题。然而，对于海量的工业领域数据集，使用人工的方式对基础缺陷点进行排查，会存在较高的漏检的问题，并且非常消耗成本。

Transformer模型是自然语言处理领域中各类任务的主流模型，近些年也在计算机视觉领域引起了广泛关注。针对工业领域的缺陷检测问题，相比于使用传统卷积网络，使用Transformer模型在建立长距离关系模型、以及拟合海量业务数据集中有着明显优势。因此，可以通过Transformer模型的强大识别能力进行建模，对各缺陷问题进行准确定位。然后针对具体缺陷进行缺陷分类和预警。

但是，Transformer模型最大的问题是其庞大的计算量。Transformer模型主要包括量两个模块，MHSA模块和FFN模块。其中，MHSA模块通过计算所有输入特征图之间的相关性，对相关输入特征图进行加权聚合，而FFN模块则独立对每一个特征图在通道维度上进行全连接处理。相关技术中，Transformer模型往往从两个角输入特度对模型进行改进，一是对MHSA模块中的自注意力机制进行改进，使其更适应二维图像本身所具有的的特征，并解决其在高分辨率特征图上消耗计算资源过大的问题，二是将其与传统卷积相结合，充分利用卷积和自注意力模型各自拥有的特性和优势。虽然这些改进使得Transformer模型在视觉任务中提高了性能，但是，对Transformer模型中的FFN模块缺乏复杂性分析和改进。

FFN模块中包括全连接层(也称为线性层)，全连接层独立对每一个表征(token)在通道维度上进行全连接处理。其中，针对一个输入特征图，将输入特征图划分为多个图像块，每一个图像块分别作为一个输入token。全连接层对一个输入token在通道维度进行全连接处理后，得到一个输出token。全连接层对输入特征图的所有输入token进行全连接处理后，根据得到的所有输出token，得到输出特征图。

全连接层对输入token在通道维度进行全连接处理后，得到的输出token的任一个图像通道，都是根据输入token的每个图像通道确定得到的，即输出token的每个图像通道，与输入token的所有图像通道全连接。

由于输入特征图对应的任一token的图像通道数，与输入特征图的通道数相同，因此，全连接层的计算复杂度与输入特征图的通道数和token数相关联。由于全连接层的计算复杂度较高，使得包括FFN模块的Transformer模型、纯全连接模型(例如，多层感知器(Multilayer Perceptron，MLP))，在端边部署应用上存在困难，无法更好地应用于视觉任务。

本公开实施例的图像处理方法，对FFN模块的全连接处理过程进行了改进，通过对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，可以实现采用通道间稀疏连接的方式进行全连接处理，从而在通道维度降低全连接处理的计算冗余，快速得到第一输出特征图；此外，通过对输入特征图在空间维度进行局部特征聚合，可以在空间维度降低特征冗余，得到数据量较小的聚合特征图，进而使得对聚合特征图在通道维度进行全连接处理，可以在空间维度降低全连接处理的计算冗余，快速得到第二输出特征图；根据第一输出特征图和第二输出特征图，得到用于表征待处理图像中的目标对象的目标输出特征图，从而实现在通道维度和空间维度综合降低全连接处理的计算冗余，既可以提高全连接处理的处理效率，又可以提高目标输出特征图的上下文语义表征能力。

利用本公开实施例的图像处理方法对Transformer模型中的FFN模块进行改进，将改进后的Transformer模型应用于工业缺陷检测领域，可以快速、准确地检测缺陷类型，并可以将Transformer模型更好地部署到端边，使缺陷检测设备拥有更好的检测效果，为工业场景任务保驾护航。下面对本公开实施例的图像处理方法进行详细描述。

图1示出根据本公开实施例的一种图像处理方法的流程图。该图像处理方法可以由终端设备或服务器等电子设备执行，终端设备可以为用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(Personal DigitalAssistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等，该图像处理方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。或者，可通过服务器执行该图像处理方法。如图1所示，该图像处理方法可以包括：

在步骤S11中，对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图。

待处理图像可以是图像采集设备对目标对象进行图像采集后得到的，也可以是从其它终端设备或服务器等电子设备中获取得到的，本公开对此不作具体限定。

目标对象可以是需要进行缺陷检测的工业部件，还可以是其它需要进行分类、识别的对象，本公开对此不作具体限定。

对待处理图像进行特征提取之后，可以得到输入特征图。在该图像处理方法应用于Transformer模型中的FFN模块的情况下，输入特征图可以是与FFN模块相连接的前一个MHSA模块进行特征提取后输出的。

分组全连接处理指的是对输入特征图中的每个输入token首先在通道维度进行分组，每个输入token包括多个图像通道组，进而每个输入token在各图像通道组内进行全连接处理。通过对输入特征图在通道维度进行分组全连接处理，可以实现采用通道间稀疏连接的方式进行全连接处理，从而可以在通道维度降低全连接处理的计算冗余。后文会结合本公开可能的实现方式，对分组全连接过程作详细描述，此处不作赘述。

在步骤S12中，对输入特征图在空间维度进行局部特征聚合，得到聚合特征图。

在输入特征图中，相邻像素或者相邻图像块之间，可能会包含相似语义信息，因此，对输入特征图在空间维度进行局部特征聚合，使得聚合特征图可以降低空间信息冗余。后文会结合本公开可能的实现方式，对局部特征聚合过程作详细描述，此处不作赘述。

在步骤S13中，对聚合特征图在通道维度进行全连接处理，得到第二输出特征图。

由于聚合特征图是对输入特征图在空间维度进行局部特征聚合后得到的，因此，对聚合特征图进行全连接处理，可以实现输入特征图的部分相邻像素或者部分相邻图像块之间共享全连接处理，从而可以在在空间维度降低全连接处理的计算冗余。

在步骤S14中，根据第一输出特征图和第二输出特征图，得到目标输出特征图，其中，目标输出特征图用于表征待处理图像中的目标对象。

在本公开实施例中，通过对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，可以实现采用通道间稀疏连接的方式进行全连接处理，从而在通道维度降低全连接处理的计算冗余，快速得到第一输出特征图；此外，通过对输入特征图在空间维度进行局部特征聚合，可以在空间维度降低特征冗余，得到数据量较小的聚合特征图，进而使得对聚合特征图在通道维度进行全连接处理，可以在空间维度降低全连接处理的计算冗余，快速得到第二输出特征图；根据第一输出特征图和第二输出特征图，得到用于表征待处理图像中的目标对象的目标输出特征图，从而实现在通道维度和空间维度综合降低全连接处理的计算冗余，既可以提高全连接处理的处理效率，又可以提高目标输出特征图的上下文语义表征能力。

在一种可能的实现方式中，对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图，包括：对输入特征图进行第一次分组全连接处理，得到第一中间特征图；对第一中间特征图按通道重新排列，得到第二中间特征图；对第二中间特征图进行第二次分组全连接处理，得到第一输出特征图。

对输入特征图进行分组全连接处理，可以实现全连接过程的通道稀疏化连接，在通道维度降低全连接处理的计算冗余。但是，通道分组不可避免地阻碍了不同通道之间的交互，使得输出的第一中间特征图损失了一部分信息，为了加强不同通道之间的交互，对第一中间特征图进行通道重新排列，得到第二中间特征图，以及对第二中间特征图再次进行分组全连接处理，从而可以得到具有强语义表征能力的第一输出特征图。

图2示出根据本公开实施例的一种输入特征图的示意图。如图2所示，输入特征图的尺寸是w×h×c，其中，w是输入特征图的宽度，h是输入特征图的高度，c是输入特征图的图像通道数。图2所示的输入特征图包括N＝w×h个输入token，每个输入token包括c个图像通道。图2所示的输入特征图可以是Transformer模型中MHSA模块对待处理图像进行特征提取后输出的特征图，也可以是采用其它方式对待处理图像进行特征提取后输出的特征图，本公开对此不作具体限定。

在一种可能的实现方式中，输入特征图包括多个第一图像通道；对输入特征图进行第一次分组全连接处理，得到第一中间特征图，包括：对多个第一图像通道进行分组，得到多个第一图像通道组；在每个第一图像通道组内分别进行全连接处理，得到第一中间特征图，其中，第一中间特征图包括多个第二图像通道组，每个第二图像通道组对应一个第一图像通道组，每个第二图像通道组中包括的任一第二图像通道，是基于对应的一个第一图像组通道中包括的多个第一图像通道全连接得到的。

对输入特征图的多个第一图像通道进行分组，得到多个第一图像通道组，进而在每个第一图像通道组内分别进行全连接处理。针对任一个第一图像通道组，对该第一图像通道组进行全连接处理之后，得到第二图像通道组中包括的每个第二图像通道，是由该第一图像通道组内的所有第一图像通道全连接得到的。通过分组全连接处理，可以实现全连接过程的通道稀疏化连接。假设第一图像通道组的个数是g₁，则相比于未进行分组全连接处理的计算复杂度，在通道维度进行分组全连接处理的操作，可以将计算复杂度下降为原来的g₁倍。

在一示例中，输入特征图包括c个第一图像通道；对输入特征图进行第一次分组全连接处理，得到第一中间特征图，包括：对c个第一图像通道进行分组，得到g₁个第一图像通道组；对g₁个第一图像通道组分别进行全连接处理，得到第一中间特征图，其中，第一中间特征图包括g₁个第二图像通道组，第i个第二图像通道组中包括的任一第二图像通道，是基于第i个第一图像组通道中包括的c/g₁个第一图像通道全连接得到的，i是大于等于1且小于等于i的整数。

在一示例中，可以通过下述公式(1)描述对输入特征图的分组全连接处理。

其中，z^(k,i)表示输入特征图中第k个输入token经过分组全连接处理后得到的输出token，G(i)表示第k个输入token中的第i个第一图像通道组，j表示第i个第一图像通道组中的第j个第一图像通道，y^(k,j)表示第j个第一图像通道的图像特征，w^(i,j)表示第i个第一图像通道组中的第j个第一图像通道的权重参数，b⁽ⁱ⁾表示第i个第一图像通道组的偏移参数。对输入特征图中的每个token分别进行上述公式(1)的全连接处理，得到第一中间特征图。

图3示出根据本公开实施例的一种在通道维度对图2所示的输入特征图进行分组全连接处理的示意图。如图3所示，将图2所示的w×h×c的输入特征图输入通道稀疏化FFN(Channel-Sparse FFN，CS-FFN)模块，其中，CS-FFN模块用于对输入特征图进行分组全连接处理。CS-FFN模块包括两个分组线性层(第一分组线性层和第二分组线性层)和一个通道混洗层。

如图3所示，在输入特征图包括c＝8个第一图像通道的情况下，将输入特征图的8个第一图像通道分为g₁＝4个第一图像通道组。由于全连接处理过程对输入特征图中的每个输入token独立进行处理，因此，图3中以输入特征图中的任意一个输入token为例对分组全连接过程进行详细描述。

如图3所示，输入token包括c＝8个第一图像通道，划分为g₁＝4个第一图像通道组，每个第一图像通道组中包括c/g₁＝2个第一图像通道。利用第一分组线性层，对g₁＝4个第一图像通道组分别进行第一次全连接处理，得到第一中间token，第一中间token包括4c＝16个第二图像通道，划分为g₁＝4个第二图像通道组，每个第二图像通道组对应一个第一图像通道组。

针对任一个第一图像通道组，对该图像通道组进行全连接处理，得到对应的第二图像通道组，第二图像通道组中的每个第二图像通道，是由对应的第一图像通道组中的c/g₁＝2个第一图像通道全连接得到的。

在一示例中，可以通过下述公式(2)描述第t个分组线性层的计算复杂度O(GroupLinear_t)。

其中，C_i表示第t个分组线性层对应的输入token的图像通道数，C_o表示第t个分组线性层对应的输出token的图像通道数，g_t表示第t个分组线性层对应的图像通道组数。

相关技术中，不进行分组全连接处理的线性层的计算复杂度是O(GroupLinear)＝C_i×C_o。由此可知，通过进行分组全连接处理，计算复杂度下降至原来的1/g_t，从而有效提高了全连接处理的处理效率。

仍以上述图3为例，第一个分组线性层(t＝1)对应的输入token的图像通道数是C_i＝c＝8(第一图像通道的数目)，输出token的图像通道数是C_o＝2c＝16(第二图像通道的数目)，图像通道组数g₁＝4，因此，基于上述公式(2)，第一个分组线性层的计算复杂度

假设第一个分组线性层是未进行分组的第一线性层，则第一线性层的的计算复杂度O'(GroupLinear₁)＝C_i×C_o＝c×2c＝2c²＝128，则第一分组线性层的计算复杂度O(GroupLinear₁)，下降至第一线性层的计算复杂度O'(GroupLinear₁)的1/g₁＝1/4。

利用第一分组线性层，对输入特征图中的每个token分别在通道维度执行上述分组全连接处理后，得到第一中间特征图。第一中间特征图包括输入特征图的每个输入token在通道维度执行上述分组全连接处理后得到的第一中间token。

在一种可能的实现方式中，对第一中间特征图按通道重新排列，得到第二中间特征图，包括：根据多个第二图像通道组，对第一中间特征图按通道重新排列，得到第二中间特征图，其中，第二中间特征图包括多个第三图像通道组，每个第三图像通道组中包括的第三图像通道来自不同的第二图像通道组。

通道分组不可避免地阻碍了不同图像通道之间的交互，使得第一中间特征图损失了一部分特征信息，降低了全连接处理的语义表征能力。因此，通过对第一次分组全连接处理后得到的第一中间特征图进行通道重新排列，可以加强不同图像通道组之间的信息交互。每个第三图像通道组中包括的第三图像通道来自不同的第二图像通道组，从而可以有效实现各个图像通道之间的信息交互，避免特征信息的丢失。

在一种可能的实现方式中，按通道重新排列的方式可以是通道混洗处理，还可以是其它使得按通道重新排列后每个第三图像通道组中包括的第三图像通道来自不同的第二图像通道组的排列方式，本公开对此不作具体限定。

对第一中间特征图进行通道混洗处理，需要对第一中间特征图中包括的每个第一中间token均进行通道混洗处理。如图3所示，针对一个第一中间token，利用通道混洗层，对第一中间token中包括的2c＝16个第二图像通道进行重新排列，得到第二中间token。第二中间token包括2c＝16个第三图像通道，划分为g₂＝4个第三图像通道组，相同第三图像通道组中包括的2c/g₂＝4个第三图像通道分别来自第一中间token中的不同第二图像通道组。

对第一中间特征图中的每个第一中间token分别执行上述通道混洗处理，得到第二中间特征图。第二中间特征图包括第一中间特征图中的每个第一中间token执行上述通道混洗处理后得到的第二中间token。

在一种可能的实现方式中，对第二中间特征图进行第二次分组全连接处理，得到第一输出特征图，包括：在每个第三图像通道组内分别进行全连接处理，得到第一输出特征图，其中，第一输出特征图中包括的任一个第四图像通道，是基于一个第三图像通道组中包括的多个第三图像通道确定得到的。

对通道混洗处理后得到的第二中间特征图再次进行分组全连接处理，从而可以得到与对输入特征图进行未分组的全连接处理具有相同的语义表征能力的第一输出特征图。

对第二中间特征图再次进行分组全连接处理，需要对第二中间特征图中的每个第二中间token独立进行分组全连接处理。如图3所示，第二中间token包括g₂＝4个第三图像通道组，利用第二分组线性层对g₂＝4个第三图像通道组分别进行分组全连接处理的过程，与上述利用第一分组线性层对g₁＝4个第一图像通道组分别进行全连接处理的过程类似，此处不作赘述。

对第二中间token进行分组全连接处理，得到输出token。输出token包括c＝8个第四图像通道，即输出token恢复到与输入token相同的图像通道数。

第二个分组线性层(t＝2)对应的输入token的图像通道数是C_i＝2c＝16(第三图像通道的数目)，输出token的图像通道数是C_i＝c＝8(第四图像通道的数目)，图像通道组数g₂＝4，因此，基于上述公式(2)，第二个分组线性层的计算复杂度

假设第二个分组线性层是未进行分组的第二线性层，则第二线性层的的计算复杂度O'(GroupLinear₂)＝C_i×C_o＝2c×c＝2c²＝128，则第二分组线性层的计算复杂度O(GroupLinear₂)，下降至第二线性层的计算复杂度O'(GroupLinear₂)的1/g₂＝1/4。

对第二中间特征图中的每个第二中间token分别在通道维度执行上述分组全连接处理后，得到第一输出特征图。第一输出特征图中包括第二中间特征图的每个第二中间token在通道维度执行上述分组全连接处理后得到的输出token。

对输入特征图在通道维度进行分组全连接处理后得到的第一输出特征图，与输入特征图具有相同的尺寸。仍以上述图2、图3为例，如图2、图3所示，对尺寸是w×h×c的输入特征图进行分组全连接处理后，得到的第一输出特征图的尺寸仍然是w×h×c。

在一示例中，可以通过下述公式(3)描述CS-FFN模块的计算复杂度O(CS-FFN)。

O(CS-FFN)＝(∑_tO(GroupLinear_t))×N+O(Nc) (3)。

其中，N是输入特征图的token数，O(·)表示渐进时间复杂度函数。

仍以上述图2、图3为例，基于上述公式(3)，CS-FFN模块的计算复杂度是：

假设相关技术中FFN模块包括的是未进行分组的第一线性层和第二线性层，则FFN模块的计算复杂度是，

由此可知，CS-FFN模块的计算复杂度，下降至FFN模块的计算复杂度1/4。由此可知，CS-FFN模块通过进行分组全连接处理，有效降低了计算复杂度，提高了全连接处理的处理效率。

在一示例中，CS-FFN模块中包括的分组线性层和通道混洗层的数目除了可以包括上述图3所示的两个分组线性层、一个通道混洗层以外，还可以包括其它数目，本公开对此不作具体限定。

例如，当CS-FFN模块应用于Transformer模型时，为了确保与原始Transformer模型具有相同的通道维度，CS-FFN模块中包括三个分组线性层和两个通道混洗层，依次是第一分组线性层(分组数4、4×输出通道维度)、第一通道混洗层、第二分组线性层(分组数8、4×通道升维)、第二通道混洗层、第三分组线性层(分组数4、1×输出通道维度)。

假设输入特征图包括N个输入token，每个输入token包括c个图像通道。

此时，第一分组线性层对应的输入token的图像通道数是C_i＝c，输出token的图像通道数是C_o＝4c，图像通道组数g₁＝4，则基于上述公式(2)，第一分组线性层的计算复杂度

第二分组线性层对应的输入token的图像通道数是C_i＝4c，输出token的图像通道数是C_o＝4c，图像通道组数g₂＝8，则基于上述公式(2)，第二个分组线性层的计算复杂度

第三分组线性层对应的输入token的图像通道数是C_i＝4c，输出token的图像通道数是C_o＝c，图像通道组数g₃＝1，则基于上述公式(2)，第三个分组线性层的计算复杂度

基于上述公式(3)，CS-FFN模块的计算复杂度是：O(CS-FFN)＝(c²+2c²+c²)×N+O(Nc)＝4c²+O(Nc)。

在一种可能的实现方式中，该图像处理方法还包括：对第二中间特征图进行卷积处理，得到更新后的第二中间特征图。

对第二中间特征图进行卷积处理，可以进一步优化第二中间特征图的语义表征能力，得到具有更高语义表征能力的更新后的第二中间特征图。

在一种可能的实现方式中，利用第一卷积核，对第二中间特征图进行深度可分离卷积处理，其中，第一卷积核的卷积核大小是x、步长是1，x是大于等于1的整数。

在一示例中，第一卷积核的卷积核大小是x＝3。x的具体取值可以根据实际情况设置，本公开对此不作具体限定。

在一示例中，可以在CS-FFN模块的相邻分组线性层之间增加深度可分离卷积层，用于提升CS-FFN模块的网络性能。

在一种可能的实现方式中，该图像处理方法还包括：对第一输出特征图进行通道注意力处理，得到更新后的第一输出特征图。

对第一输出特征图进行通道注意力处理，可以进一步对第一输出特征图进行特征加强，得到更新后的第一输出特征图。

在一示例中，可以在CS-FFN模块的最后增加一个通道注意力层，用于提升CS-FFN模块的网络性能。

在一种可能的实现方式中，对输入特征图在空间维度进行局部特征聚合，得到聚合特征图，包括：对输入特征图在空间维度进行切分，得到多个图像块；对每个图像块进行特征聚合，得到每个图像块对应的聚合后特征；根据每个图像块对应的聚合后特征，得到聚合特征图。

在输入特征图中，相邻像素之间包含相似语义信息，因此，对输入特征图在空间维度进行切分得到多个图像块，由于每个图像块内的多个像素可能包含相似语义信息，对每个图像块进行特征聚合，得到每个图像块对应的聚合后特征，进而根据每个图像块对应的聚合后特征，得到聚合特征图，经过上述聚合，使得输入特征图中每个图像块内的多个像素可以共享全连接处理，从而可以在空间维度降低全连接处理的计算冗余。

仍以上述图2为例，如图2中所示的输入特征图，假设输入特征图的尺寸是w×h＝8×8，则输入特征图包括N＝w×h＝64个输入token。对输入特征图在空间维度进行切分，得到4个图像块，每个图像块大小为w'×h'＝4×4，不同图像块之间互不重叠，每个图像块包括w'×h'＝16个输入token。对每个图像块进行特征聚合，即将每个图像块内的w'×h'＝16个输入token聚合为一个输入token，作为该图像块对应的聚合后特征。根据每个图像块对应的聚合后特征，得到聚合后特征图，聚合后特征图的尺寸是w”×h”＝2×2，聚合后特征图包括w”×h”＝4个输入token。因此，聚合后特征图的输入token数，相当于输入特征图的输入token数，降低为原来的1/16。

在一种可能的实现方式中，对输入特征图在空间维度进行局部特征聚合，得到聚合特征图，包括：对输入特征图进行卷积处理，得到聚合特征图。

在输入特征图中，相邻像素或相邻图像块之间包含相似语义信息，因此，对输入特征图进行卷积处理，对局部窗区域(卷积核大小)内的所有图像块进行聚合，以实现对输入特征图的下采样，使得聚合特征图可以降低空间信息冗余。

由于局部窗区域(卷积核大小)内的所有图像块进行聚合，使得聚合特征图中每个输入token，都能捕获其周围的信息，因此，聚合特征图具有较强的上下文语义表征能力。

在一种可能的实现方式中，利用第二卷积核对输入特征图进行深度可分离卷积处理，得到聚合特征图，其中，第二卷积核的卷积核大小是y、步长是y，y是大于等于2的整数。

相比于输入特征图包括的输入token的数目，利用卷积核大小是y、步长是y的第二卷积核的对输入特征图进行深度可分离卷积处理后，聚合特征图包括的输入token的数目下降为原来的1/y²。

为了实现对输入特征图的下采样，y是大于等于2的整数。但是，y的具体取值可以根据实际情况进行设置，本公开对此不作具体限定

仍以上述图2为例，如图2所示，输入特征图的尺寸是w×h×c，输入特征图包括N＝w×h个输入token。利用卷积核大小是y、步长是y的第二卷积核的对尺寸是w×h×c输入特征图进行深度可分离卷积处理后，聚合特征图的尺寸是

聚合特征图包括

个输入token，相比于输入特征图包括的输入token的数目，聚合特征图包括的输入token的数目下降为原来的1/y²。

图4示出根据本公开实施例的一种对图2所示的输入特征图在空间维度进行局部特征聚合的示意图。如图4所示，将图2所示的w×h×c的输入特征图输入空间稀疏化FFN(Spatial-Sparse FFN，SS-FFN)模块，其中，SS-FFN模块中包括深度可分离卷积层、全连接层、深度可分离反卷积层。

如图4所示，将输入特征图输入SS-FFN模块，利用深度可分离卷积层对输入特征图进行深度可分离卷积处理，以实现对输入特征图的下采样，得到聚合特征图。

在一种可能的实现方式中，对聚合特征图在通道维度进行全连接处理，得到第二输出特征图，包括：对聚合特征图在通道维度进行全连接处理，得到第三中间特征图；对第三中间特征图进行上采样处理，得到第二输出特征图。

对聚合特征图在通道维度进行全连接处理，得到第三中间特征图后，为了使得最终得到的第二输出特征图与输入特征图具有相同的尺寸，对第三中间特征图进行上采样处理，以得到与输入特征图具有相同的尺寸的第二输出特征图。

对聚合特征图在通道维度进行全连接处理的方式，可以采用相关技术中的全连接处理方式，本公开对此不作具体限定。

仍以上述图4为例，利用SS-FFN模块中的全连接层，对聚合特征图在通道维度进行全连接处理。

当SS-FFN模块应用于Transformer模型时，SS-FFN模块可以与原始Transformer模型类似，利用两层全连接层对聚合特征图在通道维度进行全连接处理。

在一示例中，可以通过下述公式(4)描述第t个全连接层的计算复杂度O(Linear_t)。

O(Linear_t)＝C_i'×C_o' (4)。

其中，C_i'表示第t个分组线性层对应的输入token的图像通道数，C_o'表示第t个分组线性层对应的输出token的图像通道数。

在一示例中，可以通过下述公式(5)描述，SS-FFN模块的计算复杂度O(SS-FFN)。

O(SS-FFN)＝(Σ_tO(Linear_t))×N'+O(Nc) (5)。

其中，N是输入特征图的token数，N'是聚合特征图的token数，O(·)表示渐进时间复杂度函数。

相关技术中，不在空间维度进行局部特征聚合的FFN模块的计算复杂度O(FFN)＝(∑_tO(Linear_t))×N+O(Nc)，由于

因此，通过在空间维度进行局部特征聚合，计算复杂度下降至原来的1/y²，从而有效提高了全连接处理的处理效率。

假设输入特征图包括N个输入token，每个输入token包括c个图像通道。经过上述空间维度的局部特征聚合之后，聚合后特征图包括N/y²个输入token，每个输入token包括c个图像通道。

SS-FFN模块利用两层全连接层对聚合特征图在通道维度进行全连接处理。假设第一全连接层具有4×输出通道维度，第二全连接层具有1×输出通道维度。

此时，第一全连接层对应的输入token的图像通道数是C_i'＝c，输出token的图像通道数是C_o'＝4c，则基于上述公式(4)，第一全连接层的计算复杂度O(Linear₁)＝C_i'×C_o'＝c×4c＝4c²；

第二全连接层对应的输入token的图像通道数是C_i'＝4c，输出token的图像通道数是C_o'＝c，则基于上述公式(4)，第一全连接层的计算复杂度O(Linear₁)＝C_i'×C_o'＝4c×c＝4c²；

基于上述公式(5)，SS-FFN模块的计算复杂度是

通过进行分组全连接处理，计算复杂度下降至原来的1/y²，从而有效提高了全连接处理的处理效率。

在一种可能的实现方式中，对第三中间特征图进行上采样处理，得到第二输出特征图，包括：对第三中间特征图进行反卷积处理，得到第二输出特征图。

对第三中间特征图进行反卷积处理，以实现对第三中间特征图的上采样，使得第二输出特征图的尺寸恢复至与输入特征的尺寸一致。

在一种可能的实现方式中，利用第二卷积核对第三中间特征图进行深度可分离反卷积处理，得到第二输出特征图。

仍以上述图4为例，利用SS-FFN模块中的深度可分离反卷积层，对第三中间特征图进行上采样。

在一示例中，可以利用下述公式(6)描述对输入特征图在空间维度进行局部特征聚合，以及对聚合特征图进行全连接处理。

z'＝F_up(FC(F_down(Y'))) (3)。

其中，F_down(·)表示下采样处理，FC(·)表示全连接处理，F_up(·)表示上采样处理。

在一种可能的实现方式中，根据第一输出特征图和所述第二输出特征图，得到目标输出特征图，包括：对第一输出特征图和第二输出特征图进行合并处理，得到目标输出特征图。

对第一输出特征图和第二输出特征图进行合并处理，得到用于表征待处理图像中的目标对象的目标输出特征图，从而实现在通道维度和空间维度综合降低全连接处理的计算冗余，既可以提高全连接处理的处理效率，又可以提高目标输出特征图的上下文语义表征能力。

在一种可能的实现方式中，对第一输出特征图和第二输出特征图进行合并处理，得到目标输出特征图，包括：对第一输出特征图和第二输出特征图进行逐元素相加，得到目标输出特征图。

通过对第一输出特征图和第二输出特征图进行逐元素相加，实现对第一输出特征图和第二输出特征图的合并。

对第一输出特征图和第二输出特征图进行合并处理除了可以采用上述逐元素相加以外，还可以采用其它合并方式，本公开对此不作具体限定。

本公开实施例提供了一种轻量化FFN模块，轻量化FFN模块中包括CS-FFN子模块和SS-FFN子模块，且CS-FFN子模块和SS-FFN子模块之间并联。利用轻量化FFN模块，可以实现在通道维度和空间维度综合降低全连接处理的计算冗余，提高全连接处理的处理效率。

图5示出根据本公开实施例的一种轻量化FFN模块对输入特征图进行全连接处理的示意图。如图5所示，轻量化FFN模块中包括CS-FFN子模块和SS-FFN子模块，且CS-FFN子模块和SS-FFN子模块之间并联。输入特征图输入轻量化FFN模块后，CS-FFN子模块和SS-FFN子模块分别对输入特征图进行全连接处理。

CS-FFN子模块对输入特征图进行全连接处理后得到第一输出特征图，SS-FFN子模块对输入特征图进行全连接处理后得到第二输出特征图，对第一输出特征图和第二输出特征图进行合并处理后，得到目标输出特征图。CS-FFN子模块和SS-FFN子模块进行全连接处理的具体过程可以参考上述实施例中CS-FFN模块和SS-FFN模块的相关描述，此处不作赘述。

本公开实施例的轻量化FFN模块可以应用于Transformer模型，以取代原始FFN模块，使得相关技术中复杂化的Transformer模型变的轻量、高效。此外，本公开实施例的轻量化FFN模块还可以应用于纯MLP模型，本公开对此不作具体限定。

当轻量化FFN模块应用于Transformer模型后，可以将得到的轻量化Transformer模型部署在端边设备中，应用于工业领域的缺陷检测。因此，本公开实施例还提供了一种基于轻量化Transformer模型的缺陷检测方法。基于轻量化Transformer模型的缺陷检测方法可以应用于高铁螺母缺陷检测任务、高铁螺栓缺陷检测任务、高铁开口销缺陷检测任务、汽车制造业缺陷检测任务等，本公开对此不作具体限定。

图6示出根据本公开实施例的一种缺陷检测方法的示意图。该缺陷检测方法可以由终端设备或服务器等电子设备执行，终端设备可以为用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字助理(Personal DigitalAssistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等，该缺陷检测方法可以通过处理器调用存储器中存储的计算机可读指令的方式来实现。或者，可通过服务器执行该缺陷检测方法。该缺陷检测方法可以是基于轻量化Transformer模型实现的，轻量化Transformer模型中包括MHSA模块和轻量化FFN模块。如图6所示，该缺陷检测方法可以包括：

在步骤S61中，获取需要进行缺陷检测的目标对象的待处理图像。

目标对象可以是工业领域需要进行缺陷检测的高铁螺栓、高铁开口销、汽车制造业零部件等，本公开对此不作具体限定。

待处理图像可以是图像采集设备对需要进行缺陷检测的目标对象进行图像采集后得到的，也可以是从其它终端设备或服务器等电子设备中获取得到的，本公开对此不作具体限定。

在步骤S62中，基于多头自注意力机制，对待处理图像进行特征提取，得到第一目标输出特征图。

其中，可以通过轻量化Transformer模型中的MHSA模块，基于多头自注意力机制，对待处理图像进行特征提取，具体特征提取过程可以参考相关技术中Transformer模型中的MHSA模块，本公开对此不作具体限定。

例如，轻量化Transformer模型中还包括第一归一化层和残差连接层，待处理图像经过第一归一化层、MHSA模块、残差连接层之后，得到第一目标输出特征图。

在步骤S63中，根据第一目标输出特征图，确定需要进行全连接处理的的输入特征图。

在步骤S64中，对输入特征图进行全连接处理，得到第二目标输出特征图，其中，全连接处理可以是采用上述相关实施例中所述的图像处理方法实现的。

例如，基于上述轻量化FFN模块采用上述实施例记载的图像处理方法对输入特征图进行全连接处理。

轻量化FFN模块中包括CS-FFN子模块和SS-FFN子模块，且CS-FFN子模块和SS-FFN子模块之间并联。输入特征图输入轻量化FFN模块后，CS-FFN子模块和SS-FFN子模块分别对输入特征图进行全连接处理。CS-FFN子模块和SS-FFN子模块进行全连接处理的具体过程可以参考上述实施例中CS-FFN模块和SS-FFN模块的相关描述，此处不作赘述。

在步骤S65中，根据第一目标输出特征图和第二目标输出特征图，得到目标特征图。

在步骤S66中，根据目标特征图，对目标对象进行缺陷检测，得到目标对象的缺陷检测结果。

目标特征图可以用于表征待处理图像中的语义信息，因此，根据目标特征图，对目标对象进行缺陷检测，可以得到目标对象的缺陷检测结果。

缺陷检测结果可以包括目标对象中是否存在缺陷、缺陷类型、缺陷位置等，进而可以根据缺陷检测结果进行缺陷预警等处理，本公开对此不作具体限定。

基于轻量化Transformer模型进行缺陷检测，由于轻量化Transformer模型的轻量化FFN模块中包括并联的CS-FFN模块和SS-FFN模块，因此，轻量化Transformer模型可以实现在通道维度和空间维度综合降低全连接处理的计算冗余，从而降低轻量化Transformer模型的整体计算复杂度。由于并联的CS-FFN模块和SS-FFN模块，具有强语义表征能力，因此，基于轻量化Transformer模型可以得到具有强语义表征能力的目标特征图，进而基于目标特征图进行缺陷检测，可以有效提高缺陷检测精度。

在一种可能的实现方式中，根据第一目标输出特征图，确定需要进行全连接处理的输入特征图，包括：对第一目标输出特征图进行归一化处理，得到输入特征图。

为了使得全连接处理过程的标准化，对基于多头自注意力机制得到的第一目标输出特征图进行归一化处理，得到需要进行全连接处理的输入特征图。

在一种可能的实现方式中，根据第一目标输出特征图和第二目标输出特征图，得到目标特征图，包括：对第一目标输出特征图和第二目标输出特征图进行合并处理，得到目标特征图。

对第一目标输出特征图和第二目标输出特征图进行合并处理，可以综合MHSA模块和轻量化FFN模块的输出结果，得到最终用于进行缺陷检测的目标特征图。

在一种可能的实现方式中，对第一目标输出特征图和第二目标输出特征图进行合并处理，得到目标特征图，包括：对第一目标输出特征图和第二目标输出特征图进行逐元素相加，得到目标特征图。

通过对第一目标输出特征图和第二目标输出特征图进行逐元素相加，实现对第一目标输出特征图和第二目标输出特征图的合并。

对第一目标输出特征图和第二目标输出特征图进行合并处理除了可以采用上述逐元素相加以外，还可以采用其它合并方式，本公开对此不作具体限定。

在一示例中，轻量化Transformer模型中可以包括堆叠的多个轻量化Transformer子模型，每个轻量化Transformer子模型包括MHSA模块和轻量化FFN模块，每个轻量化FFN模块中包括并联的CS-FFN模块和SS-FFN模块。将待处理图像输入轻量化Transformer模型，利用堆叠的多个轻量化Transformer子模型进行图像处理后，得到从待处理图像中最终提取得到的特征图，进而利用该最终提取得到的特征图进行缺陷检测，得到缺陷检测结果。

MHSA模块、轻量化FFN模块、CS-FFN模块和SS-FFN模块的具体处理过程可以参考上述实施例中的相关描述，此处不作赘述。

可以理解，本公开提及的上述各个方法实施例，在不违背原理逻辑的情况下，均可以彼此相互结合形成结合后的实施例，限于篇幅，本公开不再赘述。本领域技术人员可以理解，在具体实施方式的上述方法中，各步骤的具体执行顺序应当以其功能和可能的内在逻辑确定。

此外，本公开还提供了图像处理/基于轻量化自注意力Transformer模型的缺陷检测装置、电子设备、计算机可读存储介质、程序，上述均可用来实现本公开提供的任一种图像处理/基于轻量化自注意力Transformer模型的缺陷检测方法，相应技术方案和描述和参见方法部分的相应记载，不再赘述。

图7示出根据本公开实施例的一种图像处理装置的框图。如图7所示，图像处理装置装置70包括：

第一全连接模块71，用于对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图；

特征聚合模块72，用于对输入特征图在空间维度进行局部特征聚合，得到聚合特征图；

第二全连接模块73，用于对聚合特征图在通道维度进行全连接处理，得到第二输出特征图；

确定模块74，用于根据第一输出特征图和第二输出特征图，得到目标输出特征图，其中，目标输出特征图用于表征待处理图像中的目标对象。

在一种可能的实现方式中，第一全连接模块71，包括：

第一全连接子模块，用于对输入特征图进行第一次分组全连接处理，得到第一中间特征图；

通道重排子模块，用于对第一中间特征图按通道重新排列，得到第二中间特征图；

第二全连接子模块，用于对第二中间特征图进行第二次分组全连接处理，得到第一输出特征图。

在一种可能的实现方式中，输入特征图包括多个第一图像通道；

第一全连接子模块，具体用于：

对多个第一图像通道进行分组，得到多个第一图像通道组；

在每个第一图像通道组内分别进行全连接处理，得到第一中间特征图，其中，第一中间特征图包括多个第二图像通道组，每个第二图像通道组对应一个第一图像通道组，每个第二图像通道组中包括的任一第二图像通道，是基于对应的一个第一图像组通道组中包括的多个第一图像通道全连接得到的。

在一种可能的实现方式中，通道重排子模块，具体用于：

根据多个第二图像通道组，对第一中间特征图按通道重新排列，得到第二中间特征图，其中，第二中间特征图包括多个第三图像通道组，每个第三图像通道组中包括的第三图像通道来自不同的第二图像通道组。

在一种可能的实现方式中，第二全连接子模块，具体用于：

在每个第三图像通道组内分别进行全连接处理，得到第一输出特征图，其中，第一输出特征图中包括的任一第四图像通道，是基于一个第三图像通道组中包括的多个第三图像通道确定得到的。

在一种可能的实现方式中，图像处理装置70还包括：

第一更新模块，用于对第二中间特征图进行卷积处理，得到更新后的第二中间特征图；和/或，

第二更新模块，用于对第一输出特征图进行通道注意力处理，得到更新后的第一输出特征图。

在一种可能的实现方式中，特征聚合模块72，具体用于：

对输入特征图在空间维度进行切分，得到多个图像块；

对每个图像块进行特征聚合，得到每个图像块对应的聚合后特征；

根据每个图像块对应的聚合后特征，得到聚合特征图。

在一种可能的实现方式中，第二全连接模块73，具体用于：

对聚合特征图在通道维度进行全连接处理，得到第三中间特征图；

对第三中间特征图进行上采样处理，得到第二输出特征图。

在一种可能的实现方式中，确定模块74，具体用于：

对第一输出特征图和第二输出特征图进行合并处理，得到目标输出特征图。

图8示出根据本公开实施例的一种缺陷检测装置的框图。如图8所示，缺陷检测装置80还包括：

获取模块81，用于获取需要进行缺陷检测的目标对象的待处理图像；

多头自注意力模块82，用于基于多头自注意力机制，对待处理图像进行特征提取，得到第一目标输出特征图；

第一确定模块83，用于根据第一目标输出特征图，确定需要进行全连接处理的输入特征图；

全连接模块84，用于对输入特征图进行全连接处理，得到第二目标输出特征图，其中，全连接模块84采用上述图像处理方法实现全连接处理；

第二确定模块85，用于根据第一目标输出特征图和第二目标输出特征图，得到目标特征图；

缺陷检测模块86，用于根据目标特征图，对目标对象进行缺陷检测，得到目标对象的缺陷检测结果。

在一种可能的实现方式中，第一确定模块83，具体用于：

对第一目标输出特征图进行归一化处理，得到输入特征图。

在一种可能的实现方式中，第二确定模块85，具体用于：

对第一目标输出特征图和第二目标输出特征图进行合并处理，得到目标特征图。

在一些实施例中，本公开实施例提供的装置具有的功能或包含的模块可以用于执行上文方法实施例描述的方法，其具体实现可以参照上文方法实施例的描述，为了简洁，这里不再赘述。

本公开实施例还提出一种计算机可读存储介质，其上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现上述方法。计算机可读存储介质可以是易失性或非易失性计算机可读存储介质。

本公开实施例还提出一种电子设备，包括：处理器；用于存储处理器可执行指令的存储器；其中，所述处理器被配置为调用所述存储器存储的指令，以执行上述方法。

本公开实施例还提供了一种计算机程序产品，包括计算机可读代码，或者承载有计算机可读代码的非易失性计算机可读存储介质，当所述计算机可读代码在电子设备的处理器中运行时，所述电子设备中的处理器执行上述方法。

电子设备可以被提供为终端、服务器或其它形态的设备。

图9示出根据本公开实施例的一种电子设备的框图。如图9所示，电子设备900可以是用户设备(User Equipment，UE)、移动设备、用户终端、终端、蜂窝电话、无绳电话、个人数字处理(Personal Digital Assistant，PDA)、手持设备、计算设备、车载设备、可穿戴设备等终端设备。

参照图9，电子设备900可以包括以下一个或多个组件：处理组件902，存储器904，电源组件906，多媒体组件908，音频组件910，输入/输出(I/O)接口912，传感器组件914，以及通信组件916。

处理组件902通常控制电子设备900的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理组件902可以包括一个或多个处理器920来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件902可以包括一个或多个模块，便于处理组件902和其他组件之间的交互。例如，处理组件902可以包括多媒体模块，以方便多媒体组件908和处理组件902之间的交互。

存储器904被配置为存储各种类型的数据以支持在电子设备900的操作。这些数据的示例包括用于在电子设备900上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器904可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。

电源组件906为电子设备900的各种组件提供电力。电源组件906可以包括电源管理***，一个或多个电源，及其他与为电子设备900生成、管理和分配电力相关联的组件。

多媒体组件908包括在所述电子设备900和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件908包括一个前置摄像头和/或后置摄像头。当电子设备900处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。

音频组件910被配置为输出和/或输入音频信号。例如，音频组件910包括一个麦克风(MIC)，当电子设备900处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器904或经由通信组件916发送。在一些实施例中，音频组件910还包括一个扬声器，用于输出音频信号。

I/O接口912为处理组件902和***接口模块之间提供接口，上述***接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。

传感器组件914包括一个或多个传感器，用于为电子设备900提供各个方面的状态评估。例如，传感器组件914可以检测到电子设备900的打开/关闭状态，组件的相对定位，例如所述组件为电子设备900的显示器和小键盘，传感器组件914还可以检测电子设备900或电子设备900一个组件的位置改变，用户与电子设备900接触的存在或不存在，电子设备900方位或加速/减速和电子设备900的温度变化。传感器组件914可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件914还可以包括光传感器，如互补金属氧化物半导体(CMOS)或电荷耦合装置(CCD)图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件914还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。

通信组件916被配置为便于电子设备900和其他设备之间有线或无线方式的通信。电子设备900可以接入基于通信标准的无线网络，如无线网络(Wi-Fi)、第二代移动通信技术(2G)、第三代移动通信技术(3G)、***移动通信技术(4G)、通用移动通信技术的长期演进(LTE)、第五代移动通信技术(5G)或它们的组合。在一个示例性实施例中，通信组件916经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中，所述通信组件916还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。

在示例性实施例中，电子设备900可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。

在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器904，上述计算机程序指令可由电子设备900的处理器920执行以完成上述方法。

本公开涉及增强现实领域，通过获取现实环境中的目标对象的图像信息，进而借助各类视觉相关算法实现对目标对象的相关特征、状态及属性进行检测或识别处理，从而得到与具体应用匹配的虚拟与现实相结合的AR效果。示例性的，目标对象可涉及与人体相关的脸部、肢体、手势、动作等，或者与物体相关的标识物、标志物，或者与场馆或场所相关的沙盘、展示区域或展示物品等。视觉相关算法可涉及视觉定位、SLAM、三维重建、图像注册、背景分割、对象的关键点提取及跟踪、对象的位姿或深度检测等。具体应用不仅可以涉及跟真实场景或物品相关的导览、导航、讲解、重建、虚拟效果叠加展示等交互场景，还可以涉及与人相关的特效处理，比如妆容美化、肢体美化、特效展示、虚拟模型展示等交互场景。可通过卷积神经网络，实现对目标对象的相关特征、状态及属性进行检测或识别处理。上述卷积神经网络是基于深度学习框架进行模型训练而得到的网络模型。

图10示出根据本公开实施例的一种电子设备的框图。如图10，电子设备1900可以被提供为一服务器。参照图10，电子设备1900包括处理组件1922，其进一步包括一个或多个处理器，以及由存储器1932所代表的存储器资源，用于存储可由处理组件1922的执行的指令，例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外，处理组件1922被配置为执行指令，以执行上述方法。

电子设备1900还可以包括一个电源组件1926被配置为执行电子设备1900的电源管理，一个有线或无线网络接口1950被配置为将电子设备1900连接到网络，和一个输入输出(I/O)接口1958。电子设备1900可以操作基于存储在存储器1932的操作***，例如微软服务器操作***(Windows Server^TM)，苹果公司推出的基于图形用户界面操作***(Mac OSX^TM)，多用户多进程的计算机操作***(Unix^TM),自由和开放原代码的类Unix操作***(Linux^TM)，开放原代码的类Unix操作***(FreeBSD^TM)或类似。

在示例性实施例中，还提供了一种非易失性计算机可读存储介质，例如包括计算机程序指令的存储器1932，上述计算机程序指令可由电子设备1900的处理组件1922执行以完成上述方法。

本公开可以是***、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是(但不限于)电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等，以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。

这里参照根据本公开实施例的方法、装置(***)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解，流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合，都可以由计算机可读程序指令实现。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时，产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

该计算机程序产品可以具体通过硬件、软件或其结合的方式实现。在一个可选实施例中，所述计算机程序产品具体体现为计算机存储介质，在另一个可选实施例中，计算机程序产品具体体现为软件产品，例如软件开发包(Software Development Kit，SDK)等等。

以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进，或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (16)

1.一种图像处理方法，其特征在于，包括：

对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图；

对所述输入特征图在空间维度进行局部特征聚合，得到聚合特征图；

对所述聚合特征图在通道维度进行全连接处理，得到第二输出特征图；

根据所述第一输出特征图和所述第二输出特征图，得到目标输出特征图，其中，所述目标输出特征图用于表征所述待处理图像中的目标对象。

2.根据权利要求1所述的方法，其特征在于，所述对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图，包括：

对所述输入特征图进行第一次分组全连接处理，得到第一中间特征图；

对所述第一中间特征图按通道重新排列，得到第二中间特征图；

对所述第二中间特征图进行第二次分组全连接处理，得到所述第一输出特征图。

3.根据权利要求2所述的方法，其特征在于，所述输入特征图包括多个第一图像通道；

所述对所述输入特征图进行第一次分组全连接处理，得到第一中间特征图，包括：

对所述多个第一图像通道进行分组，得到多个第一图像通道组；

在每个所述第一图像通道组内分别进行全连接处理，得到所述第一中间特征图，其中，所述第一中间特征图包括多个第二图像通道组，每个所述第二图像通道组对应一个所述第一图像通道组，每个所述第二图像通道组中包括的任一第二图像通道，是基于对应的所述第一图像组通道组中包括的多个所述第一图像通道全连接得到的。

4.根据权利要求3所述的方法，其特征在于，所述对所述第一中间特征图按通道重新排列，得到第二中间特征图，包括：

根据所述多个第二图像通道组，对所述第一中间特征图按通道重新排列，得到所述第二中间特征图，其中，所述第二中间特征图包括多个第三图像通道组，每个所述第三图像通道组中包括的第三图像通道来自不同的所述第二图像通道组。

5.根据权利要求4所述的方法，其特征在于，所述对所述第二中间特征图进行第二次分组全连接处理，得到所述第一输出特征图，包括：

在每个所述第三图像通道组内分别进行全连接处理，得到所述第一输出特征图，其中，所述第一输出特征图中包括的任一第四图像通道，是基于一个所述第三图像通道组中包括的多个所述第三图像通道确定得到的。

6.根据权利要求2至5中任意一项所述的方法，其特征在于，所述方法还包括：

对所述第二中间特征图进行卷积处理，得到更新后的第二中间特征图；和/或，

对所述第一输出特征图进行通道注意力处理，得到更新后的第一输出特征图。

7.根据权利要求1至6中任意一项所述的方法，其特征在于，所述对所述输入特征图在空间维度进行局部特征聚合，得到聚合特征图，包括：

对所述输入特征图在空间维度进行切分，得到多个图像块；

对每个所述图像块进行特征聚合，得到每个所述图像块对应的聚合后特征；

根据每个所述图像块对应的聚合后特征，得到所述聚合特征图。

8.根据权利要求1至7中任意一项所述的方法，其特征在于，所述对所述聚合特征图在通道维度进行全连接处理，得到第二输出特征图，包括：

对所述聚合特征图在通道维度进行全连接处理，得到第三中间特征图；

对所述第三中间特征图进行上采样处理，得到所述第二输出特征图。

9.根据权利要求1至8中任意一项所述的方法，其特征在于，所述根据所述第一输出特征图和所述第二输出特征图，得到目标输出特征图，包括：

对所述第一输出特征图和所述第二输出特征图进行合并处理，得到所述目标输出特征图。

10.一种缺陷检测方法，其特征在于，包括：

获取需要进行缺陷检测的目标对象的待处理图像；

基于多头自注意力机制，对所述待处理图像进行特征提取，得到第一目标输出特征图；

根据所述第一目标输出特征图，确定需要进行全连接处理的输入特征图；

对所述输入特征图进行全连接处理，得到第二目标输出特征图，其中，所述全连接处理是采用权利要求1至9中任意一项所述的图像处理方法实现的；

根据所述第一目标输出特征图和所述第二目标输出特征图，得到目标特征图；

根据所述目标特征图，对所述目标对象进行缺陷检测，得到所述目标对象的缺陷检测结果。

11.根据权利要求10所述的方法，其特征在于，所述根据所述第一目标输出特征图，确定需要进行全连接处理的输入特征图，包括：

对所述第一目标输出特征图进行归一化处理，得到所述输入特征图。

12.根据权利要求10或11所述的方法，其特征在于，所述根据所述第一目标输出特征图和所述第二目标输出特征图，得到目标特征图，包括：

对所述第一目标输出特征图和所述第二目标输出特征图进行合并处理，得到所述目标特征图。

13.一种图像处理装置，其特征在于，包括：

第一全连接模块，用于对根据待处理图像得到的输入特征图在通道维度进行分组全连接处理，得到第一输出特征图；

特征聚合模块，用于对所述输入特征图在空间维度进行局部特征聚合，得到聚合特征图；

第二全连接模块，用于对所述聚合特征图在通道维度进行全连接处理，得到第二输出特征图；

确定模块，用于根据所述第一输出特征图和所述第二输出特征图，得到目标输出特征图，其中，所述目标输出特征图用于表征所述待处理图像中的目标对象。

14.一种缺陷检测装置，其特征在于，包括：

获取模块，用于获取需要进行缺陷检测的目标对象的待处理图像；

多头自注意力模块，用于基于多头自注意力机制，对所述待处理图像进行特征提取，得到第一目标输出特征图；

第一确定模块，用于根据所述第一目标输出特征图，确定需要进行全连接处理的输入特征图；

全连接模块，用于对所述输入特征图进行全连接处理，得到第二目标输出特征图，其中，所述全连接处理是采用权利要求1至9中任意一项所述的图像处理方法实现的；

第二确定模块，用于根据所述第一目标输出特征图和所述第二目标输出特征图，得到目标特征图；

缺陷检测模块，用于根据所述目标特征图，对所述目标对象进行缺陷检测，得到所述目标对象的缺陷检测结果。

15.一种电子设备，其特征在于，包括：

处理器；

用于存储处理器可执行指令的存储器；

其中，所述处理器被配置为调用所述存储器存储的指令，以执行权利要求1至12中任意一项所述的方法。

16.一种计算机可读存储介质，其上存储有计算机程序指令，其特征在于，所述计算机程序指令被处理器执行时实现权利要求1至12中任意一项所述的方法。

Images