CN113449070A - 多模态数据检索方法、装置、介质及电子设备 - Google Patents

多模态数据检索方法、装置、介质及电子设备 Download PDF

Info

Publication number
CN113449070A
CN113449070A CN202110573402.0A CN202110573402A CN113449070A CN 113449070 A CN113449070 A CN 113449070A CN 202110573402 A CN202110573402 A CN 202110573402A CN 113449070 A CN113449070 A CN 113449070A
Authority
CN
China
Prior art keywords
data
feature extraction
extraction network
retrieval
modality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110573402.0A
Other languages
English (en)
Inventor
夏锦
文柯宇
黄媛媛
邵杰
王长虎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Youzhuju Network Technology Co Ltd
Original Assignee
Beijing Youzhuju Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Youzhuju Network Technology Co Ltd filed Critical Beijing Youzhuju Network Technology Co Ltd
Priority to CN202110573402.0A priority Critical patent/CN113449070A/zh
Publication of CN113449070A publication Critical patent/CN113449070A/zh
Priority to PCT/CN2022/089241 priority patent/WO2022247562A1/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3344—Query execution using natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Library & Information Science (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开涉及一种多模态数据检索方法、装置、介质及电子设备，包括：将目标检索数据输入与目标检索数据的模态相对应的第一特征提取网络中，获取目标检索数据的数据特征；将数据特征输入与目标检索数据的模态相对应的第二特征提取网络中，获取与目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；根据目标检索特征进行检索。这样，能够提取得到表现更好的目标检索特征，且由于该各个模态之间的第二特征提取网络权重共享，不仅能够优化网络模型的结构，提高网络模型的训练效率，而且还提高了无论是在任何模态的单模态检索或跨模态检索的检索任务中的检索精度。

Description

多模态数据检索方法、装置、介质及电子设备
技术领域
本公开涉及数据处理领域，具体地，涉及一种多模态数据检索方法、装置、介质及电子设备。
背景技术
基于内容的多模态匹配技术在互联网业务中有着大量的应用场景，包括但不限于图像检索(如以图搜图)、跨模态检索(如以文搜图、以图搜文、以文搜视频等)、文本匹配(以文搜文)。为了获得更好的匹配精度，现有技术中在处理跨模态检索任务的情况下，需要将不同模态的数据拼接作为网络模型的输入，并提取该拼接数据的数据特征之后，再进行跨模态检索，该过程在实际应用时非常低效，达不到实际场景下的速度要求。
发明内容
提供该发明内容部分以便以简要的形式介绍构思，这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征，也不旨在用于限制所要求的保护的技术方案的范围。
第一方面，本公开提供一种多模态数据检索方法，所述方法包括：将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征；将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；根据所述目标检索特征进行检索。
第二方面，本公开提供一种多模态数据检索装置，所述装置包括：第一处理模块，用于将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征；第二处理模块，用于将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；检索模块，用于根据所述目标检索特征进行检索。
第三方面，本公开提供一种计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现第一方面中所述方法的步骤。
第四方面，本公开提供一种电子设备，包括：存储装置，其上存储有计算机程序；处理装置，用于执行所述存储装置中的所述计算机程序，以实现第一方面所述方法的步骤。
通过上述技术方案，能够通过与不同模态的数据分别对应的第一特征提取网络和该第二特征提取网络提取得到更加适合多模态检索的目标检索特征，并且由于该各个模态之间的第二特征提取网络权重共享，不仅能够压缩整个网络模型中所使用的参数数量，优化了网络模型的结构，提高了网络模型的训练效率，而且还提高了无论是在任何模态的单模态检索或跨模态检索的检索任务中的检索精度。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
结合附图并参考以下具体实施方式，本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中，相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的，原件和元素不一定按照比例绘制。在附图中：
图1是根据本公开一示例性实施例示出的一种多模态数据检索方法的流程图。
图2是根据本公开又一示例性实施例示出的一种多模态数据检索方法中对第一特征提取网络和所述第二特征提取网络进行预训练的方法的流程图。
图3给出了包括该第一特征提取网络和该第二特征提取网络的多模态检索网络模型。
图4是根据本公开又一示例性实施例示出的一种多模态数据检索方法中对第一特征提取网络和所述第二特征提取网络进行预训练的方法的流程图。
图5是根据本公开又一示例性实施例示出的一种多模态数据检索方法中对第一特征提取网络和所述第二特征提取网络进行预训练的方法的流程图。
图6是根据本公开又一示例性实施例示出的一种多模态数据检索方法的流程图。
图7是根据本公开一示例性实施例示出的一种多模态数据检索装置的结构框图。
图8是根据本公开又一示例性实施例示出的一种多模态数据检索装置的结构框图。
图9示出了适于用来实现本公开实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。
应当理解，本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行，和/或并行执行。此外，方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括，即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”；术语“另一实施例”表示“至少一个另外的实施例”；术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意，本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分，并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意，本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的，本领域技术人员应当理解，除非在上下文另有明确指出，否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的，而并不是用于对这些消息或信息的范围进行限制。
图1是根据本公开一示例性实施例示出的一种多模态数据检索方法的流程图，如图1所示，所述方法包括步骤101至步骤103。
在步骤101中，将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征。
在步骤102中，将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享。
在步骤103中，根据所述目标检索特征进行检索。
该目标检索数据的模态可以为任意模态，需要被检索的待检索数据也可以为任意摩天，该模态可以包括例如文本模态、图像模态、视频模态等等。例如，目标检索数据可以为图像模态的数据，而待检索数据为文本模态的数据，或者目标检索数据可以为文本模态的数据，而待检索数据为图像模态的数据，此情况下的数据检索为跨模态检索，也即在一种模态的待检索数据中检索与另一种模态的数据最相近的数据。或者，该目标检索数据为图像模态的数据的情况下，该待检索数据也可以为图像模态的数据，该目标检索数据为文本模态的数据，待检索数据也为文本模态的数据，此情况下的数据检索为单模态检索。无论该目标检索数据和待检索数据的模态相同或不相同，都能够通过本公开进行检索。该目标检索数据和待检索数据的实际内容可以根据具体的检索任务来实时地确定。
该第一特征提取网络可以是一个或多个分别能对不同模态数据进行数据特征提取的特征提取网络中的其中一个，例如，用于对文本模态的数据进行特征提取的文本特征提取网络可以为该第一特征提取网络，用于对图像模态的数据进行特征提取的视觉特征提取网络也可以为该第一特征提取网络，只要是能够对该目标检索数据进行特征提取的网络都可以被作为该第一特征提取网络。
该第一特征提取网络的具体内容与该目标检索数据的模态相关，例如，若目标检索数据的模态为文本模态，则该第一特征提取网络则可以选择为针对文本模态的数据进行文本特征提取的文本特征提取网络，若目标检索数据的模态为图像模态，则该第一特征提取网络则可以选择为针对图像模态的数据进行图像特征提取的视觉特征提取网络。
该第二特征提取网络用于根据所述第一特征提取网络获取到的数据特征进一步提取得到该目标检索特征。该第二特征提取网络的输入与输出数据维度相同，输出的矩阵经过池化操作便能够得到该目标检索特征。由于各个模态不仅有分别对应的第二特征提取网络，而且分别对应的该第二特征提取网络之间是权重共享的，也即在训练各个模态分别对应的该第二特征提取网络时所分别学习到的表示都能够被考虑到，从而使得最终得到的无论是什么模态对应的该第二特征提取网络都能够学习到模态一致的公共表示，从而不仅能够在跨模态检索的情况下提取得到更好的目标检索特征用于检索，而且也能够在单模态检索的检索任务中具有更好的检索精度。
在通过所述第一特征提取网络和该第二特征提取网络获取得到该目标检索数据对应的目标检索特征之后，在对该目标检索数据进行检索时，也可以分别根据该待检索数据的模态确定对应的该第一特征提取网络和该第二特征提取网络，以获取各个待检索数据对应的检索特征。这样得到的该目标检索特征和各个待检索数据的检索特征之间能够具有更好的检索精度。
在一种可能的实施方式中，根据所述目标检索特征进行检索的方法可以是根据所述目标检索特征在检索数据库中对所述目标检索数据进行检索。该检索数据库也可以根据实际的检索任务来确定，若实际检索任务为针对文本模态的单模态检索，则选择的该检索数据库中所包括的待检索数据则可以都为文本模态的数据，若实际检索任务为根据文本模态的目标检索数据在图像模态的待检索数据中进行检索，则该检索数据库中的待检索数据则可以都为图像模态的数据。另外，该检索数据库中可以包括上述待检索数据，也可以直接包括所述待检索数据对应的检索特征，或者既包括该待检索数据，也包括该待检索数据对应的检索特征。在该检索数据库中直接包括该待检索数据对应的检索特征的情况下，该检索数据库中的检索特征也可以是通过与该待检索数据的模态对应的该第一特征提取网络和该第二特征提取网络获取得到。
检索过程中可以分别计算该目标检索特征与各个待检索数据的检索特征之间的相似度，并排序，该相似度越高的即为与该目标检索数据语义相似的目标数据。
通过上述技术方案，能够通过与不同模态的数据分别对应的第一特征提取网络和该第二特征提取网络提取得到更加适合多模态检索的目标检索特征，并且由于该各个模态之间的第二特征提取网络权重共享，不仅能够压缩整个网络模型中所使用的参数数量，优化了网络模型的结构，提高了网络模型的训练效率，而且还提高了无论是在任何模态的单模态检索或跨模态检索的检索任务中的检索精度。
图2是根据本公开又一示例性实施例示出的一种多模态数据检索方法中对第一特征提取网络和所述第二特征提取网络进行预训练的方法的流程图。其中，第一特征提取网络和第二特征提取网络通过预训练训练得到，所述第一特征提取网络和所述第二特征提取网络同时进行该预训练。如图2所示，所述预训练的方法包括步骤201至步骤203。
在步骤201中，将内容一致但模态不同的两个或多个第一样本数据分别输入与所述第一样本数据的模态相对应的所述第一特征提取网络中，得到所述第一样本数据的数据特征。
在步骤202中，将所述第一样本数据的数据特征分别输入与所述第一样本数据相对应的所述第二特征提取网络中，获取与所述第一样本数据对应的检索特征。
在步骤203中，根据获取的不同模态的所述第一样本数据所对应的所述检索特征之间的差异确定第一损失值，并根据所述第一损失值调整各模态对应的所述第一特征提取网络和所述第二特征提取网络。
图3给出了包括该第一特征提取网络和该第二特征提取网络的多模态检索网络模型。如图3所示，整个网络模型中包括该第一特征提取网络10和该第二特征提取网络20。图3中还示例性示出了该第一特征提取网络10中可能包括的视觉特征提取网络11和文本特征提取网络12，以及分别与图像模态对应的该第二特征提取网络21和与该文本模态对应的第二特征提取网络22。图像或视频数据1等为图像模态的数据可以通过该视觉特征提取网络11获取数据特征，并将该数据特征输入与该图像模态对应的第二特征提取网络21中进行进一步特征提取，以得到最终的视觉检索特征3。而文本数据2则可以输入该文本特征提取网络12中获取数据特征，并将该数据特征输入与文本模态对应的该第二特征提取网络22中进一步进行特征提取，以得到最终的文本检索特征4。
下面通过图3中示出的示例性网络模型对如图2中所示的预训练方法进行描述。该第一样本数据中包括其中一条数据内容为“小狗”的文本数据，也有一条数据内容为“小狗”的图像数据，此时，可以分别将该条文本数据输入与该文本特征提取网络12中获取数据特征，然后将获取到的特征数据输入该第二特征提取网络22中以获取与该文本数据对应的文本检索特征4；将该条图像数据输入该视觉特征提取网络11中获取数据特征，然后将该数据特征输入该第二特征提取网络21中以获取与该图像数据对应的视觉检索特征3。最后根据两条样本数据所对应的所述检索特征之间的差异确定第一损失值，并根据所述第一损失值调整各模态对应的文本特征提取网络12、视觉特征提取网络11、第二特征提取网络22和第二特征提取网络21中的参数。由此，采用不同模态数据对比学习的方法，对不同模态分别对应的该第一特征提取网络和该第二特征提取网络进行了预训练。
通过上述技术方案，能够根据不同模态但内容一致的该第一样本数据同时对该第一特征提取网络和该第二特征提取网络进行预训练，从而使得相应的第一特征提取网络和该第二特征提取网络能够学习到不同模态数据的相关语义的表示，使得提取得到的该检索特征能够更关注数据的内容含义，而减少数据模态对检索特征数据的影响，进而提高跨模态检索时的精度。
图4是根据本公开又一示例性实施例示出的一种多模态数据检索方法中对第一特征提取网络和所述第二特征提取网络进行预训练的方法的流程图。如图4所示，所述预训练方法还包括步骤401至步骤404。
在步骤401中，对属于图像模态或视频模态的第二样本数据进行图像增强，得到与所述第二样本数据对应的增强样本数据。图像增强的方法可以为任意方式，本公开中对图像增强的方法不进行限制。
在步骤402中，将所述第二样本数据和所述增强样本数据输入与所述图像模态或所述视频模态对应的所述第一特征提取网络中，分别获取所述第二样本数据和所述增强样本数据的数据特征。
在步骤403中，将所述第二样本数据和所述增强样本数据的数据特征输入与所述图像模态或视频模态对应的所述第二特征提取网络中，分别获取所述第二样本数据和所述增强样本数据对应的检索特征。
在步骤404中，根据所述第二样本数据和所述增强样本数据分别对应的检索特征之间的差异确定第二损失值，并根据所述第二损失值调整所述图像模态或所述视频模态对应的所述第一特征提取网络和所述第二特征提取网络。
也即，该预训练方法中还有针对该图像模态或视频模态对应的第一特征提取网络和第二特征提取网络的图像自监督预训练，也即针对单模态检索的训练，这样能够从一定程度上保证该第一特征提取网络和第二特征提取网络对于单模态数据的检索精度。并且，由于各模态对应的该第二特征提取网络之间权重共享，因此能够使得该第二特征提取网络更好的学习得到各个模态下的不同语义的表示，从而也能在一定程度上提高跨模态检索的精度。
图5是根据本公开又一示例性实施例示出的一种多模态数据检索方法中对第一特征提取网络和所述第二特征提取网络进行预训练的方法的流程图。如图5所示，所述预训练方法还包括步骤501至步骤504。
在步骤501中，对属于文本模态的第三样本数据中的原始文本内容进行随机部分遮盖，得到与所述第三样本数据对应的掩码样本数据。
在步骤502中，通过与所述文本模态对应的所述第一特征提取网络和与所述文本模态对应的所述第二特征提取网络提取所述掩码数据样本对应的检索特征。
在步骤503中，根据所述掩码数据样本对应的检索特征预测所述掩码样本数据中被随机部分遮盖的预测文本。
在步骤504中，将所述预测文本和所述原始文本内容之间差异确定第三损失值，并根据所述第三损失值调整所述文本模态对应的所述第一特征提取网络和所述第二特征提取网络。
也即，该预训练方法中还有针对该文本模态对应的第一特征提取网络和第二特征提取网络的文本自监督预训练，也即另一个针对单模态检索的训练，这样与针对图像模态或视频模态的图像自监督预训练一样，能够从一定程度上保证该第一特征提取网络和第二特征提取网络对于单模态数据的检索精度。并且，由于各模态对应的该第二特征提取网络之间权重共享，因此能够使得该第二特征提取网络更好的学习得到各个模态下的不同语义的表示，从而也能在一定程度上提高跨模态检索的精度。
图6是根据本公开又一示例性实施例示出的一种多模态数据检索方法的流程图。如图6所示，在所述步骤101之前，所述方法还包括步骤601至步骤603。
在步骤601中，获取目标检索任务。
在步骤602中，根据所述目标检索任务所对应的目标模态确定需要进行所述微调训练的所述第一特征提取网络和所述第二特征提取网络。
在步骤603中，根据所述目标检索任务所对应的第四样本数据，对所述第一特征提取网络和所述第二特征提取网络进行微调训练，并将所述第一特征提取网络和所述第二特征提取网络替换为经过所述微调训练的第一特征提取网络和经过所述微调训练的第二特征提取网络。
也即，除了上述对网络模型的预训练之外，在实际获取到该目标检索任务之后，可以针对该目标检索任务所对应的模态相关的第一特征提取网络和该第二特征提取网络分别进行微调训练，将与该目标检索任务所对应的模态相关的第一特征提取网络和第二特征提取网络调整为更适用于该目标检索任务的特征提取网络。例如，若该目标检索任务为针对文本模态的单模态检索任务，则可以使用文本模态的训练数据对与文本模态对应的该第一特征提取网络该第二特征提取网络进行微调训练，以对与文本模态对应的该第一特征提取网络该第二特征提取网络进行网络的调整，例如图3中的文本特征提取网络12和第二特征提取网络22。其中，根据该文本模态的训练数据进行微调训练的方法也可以如上述预训练过程中训练对应于文本模态的第一特征提取网络和第二特征提取网络相同：对属于文本模态的第四样本数据中的原始文本内容进行随机部分遮盖，得到与第四样本数据对应的掩码样本数据；通过与文本模态对应的第一特征提取网络和与文本模态对应的第二特征提取网络提取第四样本数据对应的掩码数据样本对应的检索特征；根据上一步骤提取得到的检索特征预测第四样本数据对应的掩码样本数据中被随机部分遮盖的预测文本；将该预测文本和该第四样本数据中的原始文本内容中被遮盖的内容之间的差异确定损失值，并根据该损失值调整上述与文本模态对应的该第一特征提取网络和该第二特征提取网络。最后利用微调后的该第一特征提取网络和该第二特征提取网络进行检索。其中，进行该微调训练的该第四样本数据可以针对该目标检索任务来独立获取，也可以是进行该预训练时所使用的训练数据。
若该目标检索任务为针对图像模态的单模态检索任务，则只需使用图像模态的训练数据对与图像模态对应的该第一特征提取网络该第二特征提取网络进行微调训练，以对与文本模态对应的该第一特征提取网络该第二特征提取网络进行网络的调整，例如图3中的视觉特征提取网络11和第二特征提取网络21。若该目标检索任务为在文本模态和图像模态中间的跨模态检索任务，则需要使用图像模态和文本模态的训练数据来同时对与图像模态和文本模态分别对应的第一特征提取网络和第二特征提取网络进行微调训练，例如图3中的视觉特征提取网络11、文本特征提取网络12、第二特征提取网络21和第二特征提取网络22。
通过上述技术方案，经过该微调训练，根据该目标检索任务对相关的第一特征提取网络和第二特征提取网络进行进一步调整，能够使得与该目标检索任务相关的第一特征提取网络和该第二特征提取网络在该目标检索任务中表现更好，相比于直接使用预训练后得到的第一特征提取网络和第二特征提取网络，针对该目标检索任务的检索精度能够进一步提高。
在一种可能的实施方式中，所述第二特征提取网络为Transformer模型网络。在该第二特征提取网络为Transformer模型网络的情况下，针对不同模态的输入数据的块的数量可以各不相同，例如图像模态对应的数据特征可以为256块，文本模态的数据尺寸可以为30块。但为了保证不同模态的数据最终获取得到的数据维度相同，可以通过调整各模态对应的该第一特征提取网络输出的数据维度以保证各模态对应的该第二特征提取网络最终输出的目标检索数据的维度能相同。例如，如图3中所示的视觉特征提取网络11可以是例如CNN(卷积神经网络)，输入是一张图像，在网络中统一调整尺寸大小到512*512，经过网络的特征提取之后得到的视觉特征图大小可以为例如16*16*2048，将其拉平为256*2048，最后再经过全连接层映射到1024维作为该网络模块的输出。如图3中所示的文本特征提取网络12可以是例如基于循环神经网络的LSTM或GRU，输入为一段文本，将其编码为768维的向量，经过网络的特征提取之后得到30*768维文本的特征，最后同样也经过全联接层映射到1024维之后再作为该网络模块的输出。
图7是根据本公开一示例性实施例示出的一种多模态数据检索装置的结构框图。如图7所示，所述装置包括：第一处理模块10，用于将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征；第二处理模块20，用于将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；检索模块30，用于根据所述目标检索特征进行检索。
通过上述技术方案，能够通过与不同模态的数据分别对应的第一特征提取网络和该第二特征提取网络提取得到更加适合多模态检索的目标检索特征，并且由于该各个模态之间的第二特征提取网络权重共享，不仅能够压缩整个网络模型中所使用的参数数量，优化了网络模型的结构，提高了网络模型的训练效率，而且还提高了无论是在任何模态的单模态检索或跨模态检索的检索任务中的检索精度。
在一种可能的实施方式中，所述第一特征提取网络和所述第二特征提取网络通过预训练得到。
在一种可能的实施方式中，所述第一特征提取网络和所述第二特征提取网络同时进行所述预训练，所述预训练方法包括：将内容一致但模态不同的两个或多个第一样本数据分别输入与所述第一样本数据的模态相对应的所述第一特征提取网络中，得到所述第一样本数据的数据特征；将所述第一样本数据的数据特征分别输入与所述第一样本数据相对应的所述第二特征提取网络中，获取与所述第一样本数据对应的检索特征；根据获取的不同模态的所述第一样本数据所对应的所述检索特征之间的差异确定第一损失值，并根据所述第一损失值调整各模态对应的所述第一特征提取网络和所述第二特征提取网络。
在一种可能的实施方式中，所述预训练方法还包括：对属于图像模态或视频模态的第二样本数据进行图像增强，得到与所述第二样本数据对应的增强样本数据；将所述第二样本数据和所述增强样本数据输入与所述图像模态或所述视频模态对应的所述第一特征提取网络中，分别获取所述第二样本数据和所述增强样本数据的数据特征；将所述第二样本数据和所述增强样本数据的数据特征输入与所述图像模态或视频模态对应的所述第二特征提取网络中，分别获取所述第二样本数据和所述增强样本数据对应的检索特征；根据所述第二样本数据和所述增强样本数据分别对应的所述检索特征之间的差异确定第二损失值，并根据所述第二损失值调整所述图像模态或所述视频模态对应的所述第一特征提取网络和所述第二特征提取网络。
在一种可能的实施方式中，所述预训练方法还包括：对属于文本模态的第三样本数据中的原始文本内容进行随机部分遮盖，得到与所述第三样本数据对应的掩码样本数据；通过与所述文本模态对应的所述第一特征提取网络和与所述文本模态对应的所述第二特征提取网络提取所述掩码数据样本对应的检索特征；根据所述掩码数据样本对应的所述检索特征预测所述掩码样本数据中被随机部分遮盖的预测文本；将所述预测文本和所述原始文本内容之间差异确定第三损失值，并根据所述第三损失值调整所述文本模态对应的所述第一特征提取网络和所述第二特征提取网络。
图8是根据本公开又一示例性实施例示出的一种多模态数据检索装置的结构框图。如图8所示，在所述第一处理模块将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征之前，所述装置还包括：获取模块40，用于获取目标检索任务；确定模块50，用于根据所述目标检索任务所对应的目标模态确定需要进行所述微调训练的所述第一特征提取网络和所述第二特征提取网络；微调模块60，用于根据所述目标检索任务所对应的第四样本数据，对所述第一特征提取网络和所述第二特征提取网络进行微调训练，并将所述第一特征提取网络和所述第二特征提取网络替换为经过所述微调训练的第一特征提取网络和经过所述微调训练的第二特征提取网络。
在一种可能的实施方式中，所述检索模块30还用于：根据所述目标检索特征在检索数据库中对所述目标检索数据进行检索，所述检索数据库包括待检索数据和/或所述待检索数据对应的检索特征，其中，所述待检索数据对应的检索特征为通过与所述待检索数据对应的所述第一特征提取网络和所述第二特征提取网络获取得到。
在一种可能的实施方式中，所述第二特征提取网络为Transformer模型网络。
下面参考图9，其示出了适于用来实现本公开实施例的电子设备900的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图9示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
如图9所示，电子设备900可以包括处理装置(例如中央处理器、图形处理器等)901，其可以根据存储在只读存储器(ROM)902中的程序或者从存储装置908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中，还存储有电子设备900操作所需的各种程序和数据。处理装置901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
通常，以下装置可以连接至I/O接口905：包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置906；包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置907；包括例如磁带、硬盘等的存储装置908；以及通信装置909。通信装置909可以允许电子设备900与其他设备进行无线或有线通信以交换数据。虽然图9示出了具有各种装置的电子设备900，但是应理解的是，并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在非暂态计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信装置909从网络上被下载和安装，或者从存储装置908被安装，或者从ROM 902被安装。在该计算机程序被处理装置901执行时，执行本公开实施例的方法中限定的上述功能。
需要说明的是，本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：电线、光缆、RF(射频)等等，或者上述的任意合适的组合。
在一些实施方式中，客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol，超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信，并且可以与任意形式或介质的数字数据通信(例如，通信网络)互连。通信网络的示例包括局域网(“LAN”)，广域网(“WAN”)，网际网(例如，互联网)以及端对端网络(例如，ad hoc端对端网络)，以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该电子设备执行时，使得该电子设备：将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征；将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；根据所述目标检索特征进行检索。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码，上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。其中，模块的名称在某种情况下并不构成对该模块本身的限定，例如，第一处理模块还可以被描述为“将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征的模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如，非限制性地，可以使用的示范类型的硬件逻辑部件包括：现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例，示例1提供了一种多模态数据检索方法，包括：将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征；将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；根据所述目标检索特征进行检索。
根据本公开的一个或多个实施例，示例2提供了示例1的方法，所述第一特征提取网络和所述第二特征提取网络通过预训练得到。
根据本公开的一个或多个实施例，示例3提供了示例2的方法，所述第一特征提取网络和所述第二特征提取网络同时进行预训练，所述预训练方法包括：将内容一致但模态不同的两个或多个第一样本数据分别输入与所述第一样本数据的模态相对应的所述第一特征提取网络中，得到所述第一样本数据的数据特征；将所述第一样本数据的数据特征分别输入与所述第一样本数据相对应的所述第二特征提取网络中，获取与所述第一样本数据对应的检索特征；根据获取的不同模态的所述第一样本数据所对应的所述检索特征之间的差异确定第一损失值，并根据所述第一损失值调整各模态对应的所述第一特征提取网络和所述第二特征提取网络。
根据本公开的一个或多个实施例，示例4提供了示例3的方法，所述预训练方法还包括：对属于图像模态或视频模态的第二样本数据进行图像增强，得到与所述第二样本数据对应的增强样本数据；将所述第二样本数据和所述增强样本数据输入与所述图像模态或所述视频模态对应的所述第一特征提取网络中，分别获取所述第二样本数据和所述增强样本数据的数据特征；将所述第二样本数据和所述增强样本数据的数据特征输入与所述图像模态或视频模态对应的所述第二特征提取网络中，分别获取所述第二样本数据和所述增强样本数据对应的检索特征；根据所述第二样本数据和所述增强样本数据分别对应的所述检索特征之间的差异确定第二损失值，并根据所述第二损失值调整所述图像模态或所述视频模态对应的所述第一特征提取网络和所述第二特征提取网络。
根据本公开的一个或多个实施例，示例5提供了示例3的方法，所述预训练方法还包括：对属于文本模态的第三样本数据中的原始文本内容进行随机部分遮盖，得到与所述第三样本数据对应的掩码样本数据；通过与所述文本模态对应的所述第一特征提取网络和与所述文本模态对应的所述第二特征提取网络提取所述掩码数据样本对应的检索特征；根据所述掩码数据样本对应的所述检索特征预测所述掩码样本数据中被随机部分遮盖的预测文本；将所述预测文本和所述原始文本内容之间差异确定第三损失值，并根据所述第三损失值调整所述文本模态对应的所述第一特征提取网络和所述第二特征提取网络。
根据本公开的一个或多个实施例，示例6提供了示例2的方法，在将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征之前，所述方法还包括：获取目标检索任务；根据所述目标检索任务所对应的目标模态确定需要进行所述微调训练的所述第一特征提取网络和所述第二特征提取网络；根据所述目标检索任务所对应的第四样本数据，对所述第一特征提取网络和所述第二特征提取网络进行微调训练，并将所述第一特征提取网络和所述第二特征提取网络替换为经过所述微调训练的第一特征提取网络和经过所述微调训练的第二特征提取网络。
根据本公开的一个或多个实施例，示例7提供了示例1-6中任一示例的方法，所述根据所述目标检索特征进行检索包括：根据所述目标检索特征在检索数据库中对所述目标检索数据进行检索，所述检索数据库包括待检索数据和/或所述待检索数据对应的检索特征，其中，所述待检索数据对应的检索特征为通过与所述待检索数据对应的所述第一特征提取网络和所述第二特征提取网络获取得到。
根据本公开的一个或多个实施例，示例8提供了示例1-6中任一示例的方法，所述第二特征提取网络为Transformer模型网络。
根据本公开的一个或多个实施例，示例9提供了一种多模态数据检索装置，所述装置包括：第一处理模块，用于将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征；第二处理模块，用于将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；检索模块，用于根据所述目标检索特征进行检索。
根据本公开的一个或多个实施例，示例10提供了一种计算机可读介质，其上存储有计算机程序，该程序被处理装置执行时实现示例1-8中任一项所述方法的步骤。
根据本公开的一个或多个实施例，示例11提供了一种电子设备，包括：存储装置，其上存储有计算机程序；处理装置，用于执行所述存储装置中的所述计算机程序，以实现示例1-8中任一项所述方法的步骤。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本公开中所涉及的公开范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述公开构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外，虽然采用特定次序描绘了各操作，但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下，多任务和并行处理可能是有利的。同样地，虽然在上面论述中包含了若干具体实现细节，但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地，在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。

Claims (11)

1.一种多模态数据检索方法，其特征在于，所述方法包括：
将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征；
将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；
根据所述目标检索特征进行检索。
2.根据权利要求1所述的方法，其特征在于，所述第一特征提取网络和所述第二特征提取网络通过预训练得到。
3.根据权利要求2所述的方法，其特征在于，所述第一特征提取网络和所述第二特征提取网络同时进行所述预训练，所述预训练方法包括：
将内容一致但模态不同的两个或多个第一样本数据分别输入与所述第一样本数据的模态相对应的所述第一特征提取网络中，得到所述第一样本数据的数据特征；
将所述第一样本数据的数据特征分别输入与所述第一样本数据相对应的所述第二特征提取网络中，获取与所述第一样本数据对应的检索特征；
根据获取的不同模态的所述第一样本数据所对应的所述检索特征之间的差异确定第一损失值，并根据所述第一损失值调整各模态对应的所述第一特征提取网络和所述第二特征提取网络。
4.根据权利要求3所述的方法，其特征在于，所述预训练方法还包括：
对属于图像模态或视频模态的第二样本数据进行图像增强，得到与所述第二样本数据对应的增强样本数据；
将所述第二样本数据和所述增强样本数据输入与所述图像模态或所述视频模态对应的所述第一特征提取网络中，分别获取所述第二样本数据和所述增强样本数据的数据特征；
将所述第二样本数据和所述增强样本数据的数据特征输入与所述图像模态或视频模态对应的所述第二特征提取网络中，分别获取所述第二样本数据和所述增强样本数据对应的检索特征；
根据所述第二样本数据和所述增强样本数据分别对应的所述检索特征之间的差异确定第二损失值，并根据所述第二损失值调整所述图像模态或所述视频模态对应的所述第一特征提取网络和所述第二特征提取网络。
5.根据权利要求3所述的方法，其特征在于，所述预训练方法还包括：
对属于文本模态的第三样本数据中的原始文本内容进行随机部分遮盖，得到与所述第三样本数据对应的掩码样本数据；
通过与所述文本模态对应的所述第一特征提取网络和与所述文本模态对应的所述第二特征提取网络提取所述掩码数据样本对应的检索特征；
根据所述掩码数据样本对应的所述检索特征预测所述掩码样本数据中被随机部分遮盖的预测文本；
将所述预测文本和所述原始文本内容之间差异确定第三损失值，并根据所述第三损失值调整所述文本模态对应的所述第一特征提取网络和所述第二特征提取网络。
6.根据权利要求2所述的方法，其特征在于，在将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征之前，所述方法还包括：
获取目标检索任务；
根据所述目标检索任务所对应的目标模态确定需要进行所述微调训练的所述第一特征提取网络和所述第二特征提取网络；
根据所述目标检索任务所对应的第四样本数据，对所述第一特征提取网络和所述第二特征提取网络进行微调训练，并将所述第一特征提取网络和所述第二特征提取网络替换为经过所述微调训练的第一特征提取网络和经过所述微调训练的第二特征提取网络。
7.根据权利要求1-6中任一权利要求所述的方法，其特征在于，所述根据所述目标检索特征进行检索包括：
根据所述目标检索特征在检索数据库中对所述目标检索数据进行检索，所述检索数据库包括待检索数据和/或所述待检索数据对应的检索特征，其中，所述待检索数据对应的检索特征为通过与所述待检索数据的模态对应的所述第一特征提取网络和所述第二特征提取网络获取得到。
8.根据权利要求1-6中任一权利要求所述的方法，其特征在于，所述第二特征提取网络为Transformer模型网络。
9.一种多模态数据检索装置，其特征在于，所述装置包括：
第一处理模块，用于将目标检索数据输入与所述目标检索数据的模态相对应的第一特征提取网络中，获取所述目标检索数据的数据特征；
第二处理模块，用于将所述数据特征输入与所述目标检索数据的模态相对应的第二特征提取网络中，获取与所述目标检索数据所对应的目标检索特征，其中，各模态分别对应的各第二特征提取网络之间权重共享；
检索模块，用于根据所述目标检索特征进行检索。
10.一种计算机可读介质，其上存储有计算机程序，其特征在于，该程序被处理装置执行时实现权利要求1-8中任一项所述方法的步骤。
11.一种电子设备，其特征在于，包括：
存储装置，其上存储有计算机程序；
处理装置，用于执行所述存储装置中的所述计算机程序，以实现权利要求1-8中任一项所述方法的步骤。
CN202110573402.0A 2021-05-25 2021-05-25 多模态数据检索方法、装置、介质及电子设备 Pending CN113449070A (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110573402.0A CN113449070A (zh) 2021-05-25 2021-05-25 多模态数据检索方法、装置、介质及电子设备
PCT/CN2022/089241 WO2022247562A1 (zh) 2021-05-25 2022-04-26 多模态数据检索方法、装置、介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110573402.0A CN113449070A (zh) 2021-05-25 2021-05-25 多模态数据检索方法、装置、介质及电子设备

Publications (1)

Publication Number Publication Date
CN113449070A true CN113449070A (zh) 2021-09-28

Family

ID=77810171

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110573402.0A Pending CN113449070A (zh) 2021-05-25 2021-05-25 多模态数据检索方法、装置、介质及电子设备

Country Status (2)

Country Link
CN (1) CN113449070A (zh)
WO (1) WO2022247562A1 (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114581838A (zh) * 2022-04-26 2022-06-03 阿里巴巴达摩院(杭州)科技有限公司 图像处理方法、装置和云设备
CN114610911A (zh) * 2022-03-04 2022-06-10 中国电子科技集团公司第十研究所 多模态知识本征表示学习方法、装置、设备及存储介质
TWI784780B (zh) * 2021-11-03 2022-11-21 財團法人資訊工業策進會 多模態影片檢測方法、多模態影片檢測系統及非暫態電腦可讀取媒體
WO2022247562A1 (zh) * 2021-05-25 2022-12-01 北京有竹居网络技术有限公司 多模态数据检索方法、装置、介质及电子设备
WO2023204763A3 (en) * 2022-04-19 2023-11-30 Lemon Inc. Feature extraction

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110597878A (zh) * 2019-09-16 2019-12-20 广东工业大学 一种多模态数据的跨模态检索方法、装置、设备及介质
WO2020042597A1 (zh) * 2018-08-31 2020-03-05 深圳大学 一种跨模态检索方法及***
CN111680705A (zh) * 2020-08-13 2020-09-18 南京信息工程大学 适于目标检测的mb-ssd方法和mb-ssd特征提取网络
CN111783903A (zh) * 2020-08-05 2020-10-16 腾讯科技（深圳）有限公司 文本处理方法、文本模型的处理方法及装置、计算机设备
CN111882002A (zh) * 2020-08-06 2020-11-03 桂林电子科技大学 一种基于msf-am的低照度目标检测方法
CN112035728A (zh) * 2020-08-21 2020-12-04 中国电子科技集团公司电子科学研究院 一种跨模态检索方法、装置及可读存储介质
CN112148916A (zh) * 2020-09-28 2020-12-29 华中科技大学 一种基于监督的跨模态检索方法、装置、设备及介质
CN112487217A (zh) * 2019-09-12 2021-03-12 腾讯科技（深圳）有限公司 跨模态检索方法、装置、设备及计算机可读存储介质
CN112488131A (zh) * 2020-12-18 2021-03-12 贵州大学 一种基于自监督对抗的图片文本跨模态检索方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107273876B (zh) * 2017-07-18 2019-09-10 山东大学 一种基于深度学习的‘宏to微转换模型’的微表情自动识别方法
US20210012061A1 (en) * 2019-07-12 2021-01-14 Nec Laboratories America, Inc. Supervised cross-modal retrieval for time-series and text using multimodal triplet loss
CN111930992B (zh) * 2020-08-14 2022-10-28 腾讯科技（深圳）有限公司 神经网络训练方法、装置及电子设备
CN112487822A (zh) * 2020-11-04 2021-03-12 杭州电子科技大学 一种基于深度学习的跨模态检索方法
CN112650868B (zh) * 2020-12-29 2023-01-20 苏州科达科技股份有限公司 图像检索方法、装置及存储介质
CN112668671B (zh) * 2021-03-15 2021-12-24 北京百度网讯科技有限公司 预训练模型的获取方法和装置
CN113449070A (zh) * 2021-05-25 2021-09-28 北京有竹居网络技术有限公司 多模态数据检索方法、装置、介质及电子设备

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020042597A1 (zh) * 2018-08-31 2020-03-05 深圳大学 一种跨模态检索方法及***
CN112487217A (zh) * 2019-09-12 2021-03-12 腾讯科技（深圳）有限公司 跨模态检索方法、装置、设备及计算机可读存储介质
CN110597878A (zh) * 2019-09-16 2019-12-20 广东工业大学 一种多模态数据的跨模态检索方法、装置、设备及介质
CN111783903A (zh) * 2020-08-05 2020-10-16 腾讯科技（深圳）有限公司 文本处理方法、文本模型的处理方法及装置、计算机设备
CN111882002A (zh) * 2020-08-06 2020-11-03 桂林电子科技大学 一种基于msf-am的低照度目标检测方法
CN111680705A (zh) * 2020-08-13 2020-09-18 南京信息工程大学 适于目标检测的mb-ssd方法和mb-ssd特征提取网络
CN112035728A (zh) * 2020-08-21 2020-12-04 中国电子科技集团公司电子科学研究院 一种跨模态检索方法、装置及可读存储介质
CN112148916A (zh) * 2020-09-28 2020-12-29 华中科技大学 一种基于监督的跨模态检索方法、装置、设备及介质
CN112488131A (zh) * 2020-12-18 2021-03-12 贵州大学 一种基于自监督对抗的图片文本跨模态检索方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
博文视点BROADVIEW: "干货|深度迁移学习方法的基本思路", pages 1 - 4, Retrieved from the Internet <URL:https://zhuanlan.zhihu.com/p/345317028> *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022247562A1 (zh) * 2021-05-25 2022-12-01 北京有竹居网络技术有限公司 多模态数据检索方法、装置、介质及电子设备
TWI784780B (zh) * 2021-11-03 2022-11-21 財團法人資訊工業策進會 多模態影片檢測方法、多模態影片檢測系統及非暫態電腦可讀取媒體
CN114610911A (zh) * 2022-03-04 2022-06-10 中国电子科技集团公司第十研究所 多模态知识本征表示学习方法、装置、设备及存储介质
CN114610911B (zh) * 2022-03-04 2023-09-19 中国电子科技集团公司第十研究所 多模态知识本征表示学习方法、装置、设备及存储介质
WO2023204763A3 (en) * 2022-04-19 2023-11-30 Lemon Inc. Feature extraction
CN114581838A (zh) * 2022-04-26 2022-06-03 阿里巴巴达摩院(杭州)科技有限公司 图像处理方法、装置和云设备

Also Published As

Publication number Publication date
WO2022247562A1 (zh) 2022-12-01

Similar Documents

Publication Publication Date Title
CN110298413B (zh) 图像特征提取方法、装置、存储介质及电子设备
CN113449070A (zh) 多模态数据检索方法、装置、介质及电子设备
CN110413812B (zh) 神经网络模型的训练方法、装置、电子设备及存储介质
CN110826567B (zh) 光学字符识别方法、装置、设备及存储介质
CN112766284B (zh) 图像识别方法和装置、存储介质和电子设备
CN113222983A (zh) 图像处理方法、装置、可读介质和电子设备
CN113033580B (zh) 图像处理方法、装置、存储介质及电子设备
CN112883968A (zh) 图像字符识别方法、装置、介质及电子设备
CN112330788A (zh) 图像处理方法、装置、可读介质及电子设备
CN116128055A (zh) 图谱构建方法、装置、电子设备和计算机可读介质
CN113140012B (zh) 图像处理方法、装置、介质及电子设备
CN114067327A (zh) 文本识别方法、装置、可读介质及电子设备
CN111915689B (zh) 用于生成目标函数的方法、装置、电子设备和计算机可读介质
CN110765304A (zh) 图像处理方法、装置、电子设备及计算机可读介质
CN116244431A (zh) 文本分类方法、装置、介质及电子设备
CN115984868A (zh) 文本处理方法、装置、介质及设备
CN111737575B (zh) 内容分发方法、装置、可读介质及电子设备
CN112651231B (zh) 口语信息处理方法、装置和电子设备
CN115269978A (zh) 一种视频标签生成方法、装置、设备及介质
CN111680754B (zh) 图像分类方法、装置、电子设备及计算机可读存储介质
CN113222050A (zh) 图像分类方法、装置、可读介质及电子设备
CN112418233A (zh) 图像处理方法、装置、可读介质及电子设备
CN111797263A (zh) 图像标签生成方法、装置、设备和计算机可读介质
CN113283115B (zh) 图像模型生成方法、装置和电子设备
CN111539524B (zh) 轻量级自注意力模块和神经网络构架的搜索方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination