CN115631504A - 一种基于双模态图网络信息瓶颈的情感识别方法 - Google Patents
一种基于双模态图网络信息瓶颈的情感识别方法 Download PDFInfo
- Publication number
- CN115631504A CN115631504A CN202211645853.1A CN202211645853A CN115631504A CN 115631504 A CN115631504 A CN 115631504A CN 202211645853 A CN202211645853 A CN 202211645853A CN 115631504 A CN115631504 A CN 115631504A
- Authority
- CN
- China
- Prior art keywords
- graph
- bimodal
- text
- image
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000002902 bimodal effect Effects 0.000 title claims abstract description 69
- 238000000034 method Methods 0.000 title claims abstract description 40
- 230000008451 emotion Effects 0.000 title description 4
- 230000000007 visual effect Effects 0.000 claims abstract description 34
- 230000008909 emotion recognition Effects 0.000 claims abstract description 29
- 230000003993 interaction Effects 0.000 claims abstract description 18
- 238000012549 training Methods 0.000 claims abstract description 16
- 238000005516 engineering process Methods 0.000 claims abstract description 9
- 230000015654 memory Effects 0.000 claims abstract description 8
- 238000007781 pre-processing Methods 0.000 claims abstract description 8
- 238000011176 pooling Methods 0.000 claims abstract description 6
- 238000013528 artificial neural network Methods 0.000 claims abstract description 5
- 239000013598 vector Substances 0.000 claims description 18
- 125000004432 carbon atom Chemical group C* 0.000 claims description 14
- 238000004364 calculation method Methods 0.000 claims description 13
- 239000011159 matrix material Substances 0.000 claims description 13
- 230000006870 function Effects 0.000 claims description 12
- 230000004927 fusion Effects 0.000 claims description 12
- 230000007246 mechanism Effects 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 6
- 230000002996 emotional effect Effects 0.000 claims description 5
- 150000001875 compounds Chemical class 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 230000002776 aggregation Effects 0.000 claims description 3
- 238000004220 aggregation Methods 0.000 claims description 3
- 230000002457 bidirectional effect Effects 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 claims description 3
- 238000005457 optimization Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000003058 natural language processing Methods 0.000 description 2
- 238000012876 topography Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000013604 expression vector Substances 0.000 description 1
- 230000007787 long-term memory Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/253—Grammatical analysis; Style critique
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/18—Extraction of features or characteristics of the image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
- G06V30/19147—Obtaining sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
- G06V30/19173—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
- G06V30/1918—Fusion techniques, i.e. combining data from various sources, e.g. sensor fusion
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种基于双模态图网络信息瓶颈的情感识别方法,包括数据预处理,通过相应的预训练模型分别对图文进行编码;使用长短期记忆网络和前馈神经网络分别进行文本和图像的特征提取;基于语法依赖关系和视觉块相邻位置关系的模态内拓扑图的构建,基于完全二部图的双模态拓扑图的构建;设计基于双模态图网络的模态交互模块,利用图卷积网络实现模态内和模态间的信息交互;通过图池化技术将双模态拓扑图的节点表示转化为图表示;采用多层感知机进行双模态情感识别。此外,建立信息瓶颈模块,提升方法的泛化能力。本发明提供的一种基于双模态图网络信息瓶颈的情感识别方法,能够有效地融合模态信息,并用于指导情感识别。
Description
技术领域
本发明属于自然语言处理、视觉交叉领域内的双模态情感识别领域,具体涉及一种基于双模态图网络信息瓶颈的情感识别方法。
背景技术
情感识别的目的是利用自然语言处理技术挖掘数据中的主观信息,它在各大领域被广泛应用,如:金融市场预测、商业评论分析等。随着互联网技术的快速发展,互联网中的信息逐渐从纯文本向双模态转变,导致现有的情感分析方法面临着新的挑战和机遇。如何有效地从双模态数据中提取和融合特征是双模态情感表征的关键。
一般的双模态情感识别可通过将所有单模态特征拼接、加和、计算哈达玛积等方式实现,但这类方式无法获得模态之间的相关性。最近,引入交叉注意力机制的方法增强了双模态数据的特征融合;然而,交叉注意力仅仅建立了一种模态的全局语义与另一模态上的局部特征的关联,不足以反映各个模态在局部特征上的对齐关系,将模态的整体特征表示用于语义对齐会产生较大噪声。此外,基于注意力机制的方法还有另一个弊端,这类方法通常需要精心设计注意力方式,如:多层/多次的注意力,多层注意力将会引入较多参数,从而提高过拟合的可能性。
发明内容
本发明的目的在于克服现有技术中的缺点与不足,提供一种基于双模态图网络信息瓶颈的情感识别方法,将各模态的数据分解为细粒度的语义单元,如:文本词和图像视觉块,利用各个模态内和模态间的关联性,建立双模态细粒度语义单元之间的联系,从而使双模态特征融合直接在细粒度语义单元之间进行,即采用局部对齐局部的方式为各模态的表征信息建立映射关系,从而可以充分融合文本的语义信息和图像的局部信息。此外,加入信息瓶颈机制,可以有效提升方法的泛化能力。
为实现上述目的,本发明采用以下技术方案:
S3:利用文本中的语法依赖关系和图像中的空间位置关系构造拓扑图。具体操作为:
S4:设计基于双模态图网络的模态交互模块,利用图卷积网络的消息传递机制进行表示学习,实现模态内和模态间的信息交互和特征融合。具体操作为:
S44:根据模型的具体参数设置循环S41-S43。
S5:建立信息瓶颈模块,提升方法的泛化能力。具体操作为:
S6:采用拼接双模态拓扑图中所有节点表示的图池化技术得到图表示向量,计算公式如下:
S7:通过多层感知机作为分类器,识别双模态的情感倾向。
S8:通过双模态数据对模型进行训练,使用交叉熵损失函数加上信息瓶颈目标函数作为模型训练目标,并使用带有热启动的Adam优化器训练模型。模型的训练目标如下:
S9:通过训练好的模型对待分类的双模态数据进行分类,得到情感识别结果。
本发明的一种基于双模态图网络信息瓶颈的情感识别方法,相比于现有的双模态情感识别方法,具有以下有益效果:
1、将文本词和视觉块形成一个双模态拓扑图,利用了文本的语法信息及图像的空间位置信息;
2、双模态拓扑图建立双模态细粒度语义单元之间的联系,从而使多模态特征融合直接在细粒度语义单元之间进行,可以充分融合文本的语义信息和图像的局部信息,比较大的补充了现有方法的不足;
3、利用信息瓶颈机制,有效提升了方法的泛化能力。
附图说明
图 1 为本发明的整体流程图;
图 2 为本发明的***模型图;
图 3 为本发明的双模态拓扑图的构建模块。
具体实施方式
为了使公众对本发明有更好的了解,以下将结合附图阐述本发明的具体实施方式。其中,附图仅用于示例性说明,不能理解为对本发明的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
本发明提供的一种基于双模态图网络信息瓶颈的情感识别方法,包括以下步骤:
S1:数据预处理,通过相应的预训练模型分别对文本和图像进行预处理。
如图1所示,先分离双模态数据中的文本和图像,然后分别对文本和图像进行预处理。对于文本,在预训练的Glove中查找单词的表示,将每个单词映射为一个300维的向量,得到文本嵌入矩阵;对于图像,先切割成个视觉块,然后采用图像处理技术ResNet152处理每一个视觉块,将每个视觉块处理为1024维的表示向量,最后得到图像嵌入矩阵;其中,表示视觉块的个数。
S2:对预处理后的嵌入表示进行特征提取。
如图1所示,分别对S1获得的文本嵌入和图像嵌入进行特征提取。
上式中,为遗忘门,为输入门,为输出门,为候选值向量,为上一时刻的记忆细胞,为当前时刻的记忆细胞,为上一时刻的隐藏状态表示,为当前时刻的隐藏状态表示,、、、和、、、表示长短期记忆网络的可训练参数,下标表示当前词在文本中的位置索引。
S3:利用文本中的语法依赖关系和图像中的空间位置关系构造拓扑图。
为了解决现有技术的不足,反映各个模态在局部特征上的对齐关系。如图3所示,这一步将构造三个拓扑图,即:两个模态内拓扑图和一个双模态拓扑图,具体操作如下。
S33:建立双模态细粒度语义单元之间的联系,可以使双模态特征融合直接在细粒度语义单元之间进行,即:采用局部对齐局部的方式为各模态的表征信息建立映射关系,从而充分融合文本的语义信息和图像的局部信息。因此,以文本中的词和图像中的视觉块作为两组节点,词中的任一节点与视觉块中每一个节点均形成一条无向边,构造一个完全二部图作为双模态拓扑图。
S4:设计基于双模态图网络的模态交互模块,利用图卷积网络的消息传递机制进行表示学习,实现模态内和模态间的信息交互和特征融合。
S44:如图2所示,S41-S43构成了图卷积网络块,在对模型进行调参之后,会得到一个较优的图卷积网络块层数的参数值,根据具体参数值循环S41-S43。
S5:建立信息瓶颈模块,提升方法的泛化能力。
信息瓶颈模块贯穿了方法的整个过程,具体操作如下。
S6:采用图池化技术将双模态拓扑图的节点表示转化为图表示。
双模态情感识别是对数据的整体情感倾向进行分类,需要结合双模态拓扑图中所有节点的特征信息。因此,采用拼接双模态拓扑图中所有节点表示的图池化技术得到图表示向量,计算公式如下:
S7:通过S6得到的图表示向量,利用多层感知机作为分类器,识别双模态的情感倾向,计算公式如下:
S8:通过双模态数据对模型进行训练。
训练过程中,使用交叉熵损失函数加上信息瓶颈目标函数作为模型训练目标,并使用带有热启动的Adam优化器训练模型。其中,模型的训练目标如下:
S9:通过训练好的模型对待分类的双模态数据进行分类,得到情感识别结果。
本发明所述的实施例仅仅是对本发明的优选实施方式进行的描述,并非对本发明构思和范围进行限定,在不脱离本发明设计思想的前提下,本领域中技术人员对本发明的技术方案作出的各种变型和改进,均应落入本发明的保护范围,本发明请求保护的技术内容,已经全部记载在权利要求书中。
Claims (7)
1.一种基于双模态图网络信息瓶颈的情感识别方法,其特征在于,包括以下步骤:
S1:数据预处理,通过相应的预训练模型分别对文本和图像进行预处理;
S3:利用文本中的语法依赖关系和图像中的空间位置关系构造拓扑图;
S4:设计基于双模态图网络的模态交互模块,利用图卷积网络的消息传递机制进行表示学习,实现模态内和模态间的信息交互和特征融合;
S5:建立信息瓶颈模块,提升方法的泛化能力;
S6:采用图池化技术将双模态拓扑图的节点表示转化为图表示;
S7:通过多层感知机作为分类器,识别双模态的情感倾向;
S8:通过双模态数据对模型进行训练;
S9:通过训练好的模型对待分类的双模态数据进行分类,得到情感识别结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211645853.1A CN115631504B (zh) | 2022-12-21 | 2022-12-21 | 一种基于双模态图网络信息瓶颈的情感识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211645853.1A CN115631504B (zh) | 2022-12-21 | 2022-12-21 | 一种基于双模态图网络信息瓶颈的情感识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115631504A true CN115631504A (zh) | 2023-01-20 |
CN115631504B CN115631504B (zh) | 2023-04-07 |
Family
ID=84910557
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211645853.1A Active CN115631504B (zh) | 2022-12-21 | 2022-12-21 | 一种基于双模态图网络信息瓶颈的情感识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115631504B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116304984A (zh) * | 2023-03-14 | 2023-06-23 | 烟台大学 | 基于对比学习的多模态意图识别方法及*** |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150379336A1 (en) * | 2014-06-27 | 2015-12-31 | Fujitsu Limited | Handwriting input conversion apparatus, computer-readable medium, and conversion method |
CN112860888A (zh) * | 2021-01-26 | 2021-05-28 | 中山大学 | 一种基于注意力机制的双模态情感分析方法 |
CN114511906A (zh) * | 2022-01-20 | 2022-05-17 | 重庆邮电大学 | 基于跨模态动态卷积的视频多模态情感识别方法、装置及计算机设备 |
CN115363531A (zh) * | 2022-08-22 | 2022-11-22 | 山东师范大学 | 基于双模态脑电信号信息瓶颈的癫痫检测*** |
-
2022
- 2022-12-21 CN CN202211645853.1A patent/CN115631504B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150379336A1 (en) * | 2014-06-27 | 2015-12-31 | Fujitsu Limited | Handwriting input conversion apparatus, computer-readable medium, and conversion method |
CN112860888A (zh) * | 2021-01-26 | 2021-05-28 | 中山大学 | 一种基于注意力机制的双模态情感分析方法 |
CN114511906A (zh) * | 2022-01-20 | 2022-05-17 | 重庆邮电大学 | 基于跨模态动态卷积的视频多模态情感识别方法、装置及计算机设备 |
CN115363531A (zh) * | 2022-08-22 | 2022-11-22 | 山东师范大学 | 基于双模态脑电信号信息瓶颈的癫痫检测*** |
Non-Patent Citations (1)
Title |
---|
范习健等: "一种融合视觉和听觉信息的双模态情感识别算法" * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116304984A (zh) * | 2023-03-14 | 2023-06-23 | 烟台大学 | 基于对比学习的多模态意图识别方法及*** |
Also Published As
Publication number | Publication date |
---|---|
CN115631504B (zh) | 2023-04-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111488734B (zh) | 基于全局交互和句法依赖的情感特征表示学习***及方法 | |
US20220147836A1 (en) | Method and device for text-enhanced knowledge graph joint representation learning | |
CN111079409B (zh) | 一种利用上下文和方面记忆信息的情感分类方法 | |
CN111061843A (zh) | 一种知识图谱引导的假新闻检测方法 | |
CN111274398A (zh) | 一种方面级用户产品评论情感分析方法及*** | |
CN115034224A (zh) | 一种融合多种文本语义结构图表示的新闻事件检测方法和*** | |
CN110826639B (zh) | 一种利用全量数据训练零样本图像分类方法 | |
CN114444516B (zh) | 一种基于深度语义感知图卷积网络的粤语谣言检测方法 | |
CN113535904A (zh) | 一种基于图神经网络的方面级情感分析方法 | |
CN110866542A (zh) | 一种基于特征可控融合的深度表示学习方法 | |
CN115221325A (zh) | 一种基于标签语义学习和注意力调整机制的文本分类方法 | |
CN111598183A (zh) | 一种多特征融合图像描述方法 | |
CN114528374A (zh) | 一种基于图神经网络的电影评论情感分类方法及装置 | |
CN114648031A (zh) | 基于双向lstm和多头注意力机制的文本方面级情感识别方法 | |
CN114462420A (zh) | 一种基于特征融合模型的虚假新闻检测方法 | |
CN114004220A (zh) | 一种基于cpc-ann的文本情绪原因识别方法 | |
CN115631504B (zh) | 一种基于双模态图网络信息瓶颈的情感识别方法 | |
CN116933051A (zh) | 一种用于模态缺失场景的多模态情感识别方法及*** | |
CN111930981A (zh) | 一种草图检索的数据处理方法 | |
CN116187349A (zh) | 一种基于场景图关系信息增强的视觉问答方法 | |
CN114818719A (zh) | 一种基于复合网络与图注意力机制的社区话题分类方法 | |
CN110111365B (zh) | 基于深度学习的训练方法和装置以及目标跟踪方法和装置 | |
CN113268592B (zh) | 基于多层次交互注意力机制的短文本对象情感分类方法 | |
CN113255360A (zh) | 基于层次化自注意力网络的文档评级方法和装置 | |
CN116562286A (zh) | 一种基于混合图注意力的智能配置事件抽取方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |