CN109033089A - 情感分析方法和装置 - Google Patents

Abstract

本公开提供一种情感分析方法和装置。情感分析装置对用户会话进行特征提取，将所提取的用户会话特征分别输入预设的第一预测模型和第二预测模型，将第一预测模型中的第一特征数据输入第二预测模型，以便第二预测模型将第一特征数据和自身的第二特征数据进行融合，并利用融合后的特征数据得到用户会话的情感分类结果。本公开通过采用迁移学习的方式，将第一预测模型中的知识迁移到第二预测模型中，从而使第二预测模型能够取得更好的分类结果。

Description

情感分析方法和装置

技术领域

本公开涉及信息处理领域，特别涉及一种情感分析方法和装置。

背景技术

人工客服作为直接面向用户的窗口，在互联网行业起到越来越重要的作用。客服解决问题的能力将直接影响用户体验和用户对公司的印象。

目前，通过采用文本分类技术，对用户情感进行打分。例如，1分表示非常不满意，5分表示非常不满意。

发明内容

发明人通过研究发现，在实际业务场景中，仅对用户情感进行打分，并不能准确了解用户不满意的原因，从而无法有效对业务进行改进。

为此，本公开提供一种能够根据用户会话对用户情感进行分类的方案，从而便于及时了解用户不满意的原因。

根据本公开的一个或多个实施例的一个方面，提供一种情感分析方法，包括：对用户会话进行特征提取；将所提取的用户会话特征分别输入预设的第一预测模型和第二预测模型；将所述第一预测模型中的第一特征数据输入所述第二预测模型，以便所述第二预测模型将所述第一特征数据和自身的第二特征数据进行融合，并利用融合后的特征数据得到用户会话的情感分类结果。

在一些实施例中，所述第一预测模型的分类结果小于所述第二预测模型的分类结果。

在一些实施例中，所述第一预测模型的每个分类结果分别与所述第二预测模型的至少一个分类结果相关联。

在一些实施例中，所述第一预测模型的分类结果包括高兴、中性、负面；所述第二预测模型的分类结果包括高兴、中性、焦虑、生气、害怕、悲伤、失落，其中所述第一预测模型的负面分类结果与所述第二预测模型的焦虑、生气、害怕、悲伤和失落分类结果相关联。

在一些实施例中，所述第一预测模型和所述第二预测模型为基于字符的卷积神经网络。

在一些实施例中，将训练数据分别输入到所述第一预测模型和待训练模型中，以便所述第一预测模型输出分类结果，其中训练数据包括用户会话特征；将所述第一预测模型中的特征数据输入所述待训练模型，以便所述待训练模型将来自所述第一预测模型的特征数据和自身的特征数据进行融合，并利用融合后的特征数据输出分类结果；根据所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间存在的偏差，调整所述待训练模型的参数，以得到所述第二预测模型。

在一些实施例中，若所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间不存在关联关系，则判定所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间存在偏差。

根据本公开的一个或多个实施例的另一个方面，提供一种情感分析装置，包括：特征提取模块，被配置为对用户会话进行特征提取；特征输入模块，被配置为将所提取的用户会话特征分别输入预设的第一预测模型和第二预测模型；迁移学习模块，被配置为将所述第一预测模型中的第一特征数据输入所述第二预测模型，以便所述第二预测模型将所述第一特征数据和自身的第二特征数据进行融合，并利用融合后的特征数据得到用户会话的情感分类结果。

在一些实施例中，所述第一预测模型的分类结果小于所述第二预测模型的分类结果。

在一些实施例中，所述第一预测模型的每个分类结果分别与所述第二预测模型的至少一个分类结果相关联。

在一些实施例中，所述第一预测模型的分类结果包括高兴、中性、负面；所述第二预测模型的分类结果包括高兴、中性、焦虑、生气、害怕、悲伤、失落，其中所述第一预测模型的负面分类结果与所述第二预测模型的焦虑、生气、害怕、悲伤和失落分类结果相关联。

在一些实施例中，所述第一预测模型和所述第二预测模型为基于字符的卷积神经网络。

在一些实施例中，上述装置还包括训练模块，被配置为将训练数据分别输入到所述第一预测模型和待训练模型中，以便所述第一预测模型输出分类结果，其中训练数据包括用户会话特征；将所述第一预测模型中的特征数据输入所述待训练模型，以便所述待训练模型将来自所述第一预测模型的特征数据和自身的特征数据进行融合，并利用融合后的特征数据输出分类结果；根据所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间存在的偏差，调整所述待训练模型的参数，以得到所述第二预测模型。

在一些实施例中，训练模块还被配置为若所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间不存在关联关系，则判定所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间存在偏差。

根据本公开的一个或多个实施例的另一个方面，提供一种物品推荐装置，包括：存储器，被配置为存储指令；处理器，耦合到存储器，处理器被配置为基于存储器存储的指令执行实现如上述任一实施例涉及的方法。

根据本公开的一个或多个实施例的另一个方面，提供一种计算机可读存储介质，其中，计算机可读存储介质存储有计算机指令，指令被处理器执行时实现如上述任一实施例涉及的方法。

通过以下参照附图对本公开的示例性实施例的详细描述，本公开的其它特征及其优点将会变得清楚。

附图说明

为了更清楚地说明本公开实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本公开一个实施例的情感分析方法的示例性流程图；

图2为本公开一个实施例的情感分析网络模型示意图；

图3为本公开另一个实施例的情感分析方法的示例性流程图；

图4为本公开另一个实施例的情感分析网络模型示意图；

图5为本公开一个实施例的情感分析装置的示例性框图；

图6为本公开另一个实施例的情感分析装置的示例性框图；

图7为本公开又一个实施例的情感分析装置的示例性框图。

具体实施方式

下面将结合本公开实施例中的附图，对本公开实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本公开一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。基于本公开中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本公开保护的范围。

除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为授权说明书的一部分。

在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它示例可以具有不同的值。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

图1为本公开一个实施例的情感分析方法的示例性流程图。在一些实施例中，本实施例的方法步骤可由情感分析装置执行。

在步骤101，对用户会话进行特征提取。

在步骤102，将所提取的用户会话特征分别输入预设的第一预测模型和第二预测模型。

在一些实施例中，第一预测模型的分类结果小于第二预测模型的分类结果。例如，第一预测模型的输出有三个分类结果，第二预测模型的输出有七个分类结果。由此，通过借助于第一预测模型的知识，第二预测模型能够进行更加详细的情感分类。

在一些实施例中，第一预测模型的每个分类结果分别与第二预测模型的至少一个分类结果相关联。例如，第一预测模型为三分类模型，其分类结果包括高兴(happy)、中性(neutral)、负面(negative)。第二预测模型为七分类模型，其分类结果包括高兴(happy)、中性(neutral)、焦虑(anxiety)、生气(anger)、害怕(fear)、悲伤(sad)、失落(lost)。第一预测模型的高兴分类结果与第二预测模型的高兴分类结果相关联。第一预测模型的中性分类结果与第二预测模型的中性分类结果相关联。第一预测模型的负面分类结果与第二预测模型的焦虑、生气、害怕、悲伤和失落分类结果相关联。

在一些实施例中，第一预测模型和第二预测模型为基于字符的卷积神经网络(charCNN)。

在步骤103，将第一预测模型中的第一特征数据输入第二预测模型，以便第二预测模型将第一特征数据和自身的第二特征数据进行融合，并利用融合后的特征数据得到用户会话的情感分类结果。

在一些实施例中，可在第二预测模型的相应隐层中，将来自第一预测模型的第一特征数据和第二预测模型中的第二特征数据进行拼接。例如，第一特征数据为200维的数据，第二特征数据也为200维的数据，通过将第一特征数据和第二特征数据进行拼接，将得到的400维的数据在第二预测模型中继续进行处理，以得到用户会话的情感分类结果。

在本公开上述实施例提供的情感分析方法中，通过采用迁移学习的方式，将第一预测模型的特征输入第二预测模型，从而将第一预测模型中的知识迁移到第二预测模型中，从而第二预测模型能够取得更好的分类结果。

图2为本公开一个实施例的情感分析网络模型示意图。如图2所示，将用户会话特征分别输入预设的第一预测模型和第二预测模型。第一预测模型为三分类模型，具有海量的标注数据。第二预测模型为七分类模型，所具有的标注数据较少。第一预测模型的每个分类结果分别与第二预测模型的至少一个分类结果相关联。将第一预测模型中的第一特征数据输入第二预测模型，以便第二预测模型将第一特征数据和自身的第二特征数据进行融合，并利用融合后的特征数据得到用户会话的情感分类结果。

利用上述实施例对用户会话示例进行情感分析的结果如表1所示。

会话标识	情感类别	用户会话
			1	中性	贝亲奶嘴有十字孔的吗？
2	失落	手表有毛病，想查找都查不到
			3	中性	我刚买了这个电源
4	生气	这么慢！
			5	中性	IPONE5S有没有32G内存的
6	高兴	亲爱哒
			7	中性	S号的裤多长
8	悲伤	亏了
			9	悲伤	回答不上来
10	中性	怎样定时关机呢
			11	中性	有没有功率再大的
12	生气	我订的还没发货

表1

图3为本公开另一个实施例的情感分析方法的示例性流程图。在一些实施例中，本实施例的方法步骤可由情感分析装置执行。

在步骤301，将训练数据分别输入到第一预测模型和待训练模型中，以便第一预测模型输出分类结果，其中训练数据包括用户会话特征。

在步骤302，将第一预测模型中的特征数据输入待训练模型，以便待训练模型将来自第一预测模型的特征数据和自身的特征数据进行融合，并利用融合后的特征数据输出分类结果。

在步骤303，根据待训练模型输出的分类结果与第一预测模型输出的分类结果之间存在的偏差，调整待训练模型的参数，以得到第二预测模型。

在一些实施例中，若待训练模型输出的分类结果与第一预测模型输出的分类结果之间不存在关联关系，则判定待训练模型输出的分类结果与第一预测模型输出的分类结果之间存在偏差。

例如，第一预测模型输出用户情感为高兴，而待训练模型输出用户情感为生气，则表明待训练模型和第一预测模型的输出分类结果之间存在偏差。

图4为本公开另一个实施例的情感分析网络模型示意图。将训练数据分别输入到第一预测模型和待训练模型中，以便第一预测模型输出分类结果。第一预测模型为三分类模型，具有海量的标注数据。第二预测模型为七分类模型，所具有的标注数据较少。将第一预测模型中的特征数据输入待训练模型，以便待训练模型将来自第一预测模型的特征数据和自身的特征数据进行融合，并利用融合后的特征数据输出分类结果。根据待训练模型输出的分类结果与第一预测模型输出的分类结果之间存在的偏差，调整待训练模型的参数，以得到第二预测模型。

图5为本公开一个实施例的情感分析装置的示例性框图。如图5所示，情感分析装置包括特征提取模块51、特征输入模块52和迁移学习模块53。

特征提取模块51被配置为对用户会话进行特征提取。

特征输入模块52被配置为将所提取的用户会话特征分别输入预设的第一预测模型和第二预测模型。

在一些实施例中，第一预测模型的分类结果小于第二预测模型的分类结果。在一些实施例中，第一预测模型的每个分类结果分别与第二预测模型的至少一个分类结果相关联。例如，第一预测模型的分类结果包括高兴、中性、负面。第二预测模型的分类结果包括高兴、中性、焦虑、生气、害怕、悲伤、失落，其中第一预测模型的负面分类结果与第二预测模型的焦虑、生气、害怕、悲伤和失落分类结果相关联。

在一些实施例中，第一预测模型和第二预测模型为基于字符的卷积神经网络。

迁移学习模块53被配置为将第一预测模型中的第一特征数据输入第二预测模型，以便第二预测模型将第一特征数据和自身的第二特征数据进行融合，并利用融合后的特征数据得到用户会话的情感分类结果。

图6为本公开另一个实施例的情感分析装置的示例性框图。图6与图5的不同之处在于，在图6所示实施例中，情感分析装置还包括训练模块54。

训练模块54被配置为将训练数据分别输入到第一预测模型和待训练模型中，以便第一预测模型输出分类结果，其中训练数据包括用户会话特征。训练模块54将第一预测模型中的特征数据输入待训练模型，以便待训练模型将来自第一预测模型的特征数据和自身的特征数据进行融合，并利用融合后的特征数据输出分类结果。训练模块54根据待训练模型输出的分类结果与第一预测模型输出的分类结果之间存在的偏差，调整待训练模型的参数，以得到第二预测模型。

在一些实施例中，训练模块54还被配置为若待训练模型输出的分类结果与第一预测模型输出的分类结果之间不存在关联关系，则判定待训练模型输出的分类结果与第一预测模型输出的分类结果之间存在偏差。

图7为本公开又一个实施例的情感分析装置的示例性框图。如图7所示，情感分析装置包括存储器71和处理器72。

存储器71用于存储指令，处理器72耦合到存储器71，处理器72被配置为基于存储器存储的指令执行实现如图1或图3中任一实施例涉及的方法。

如图7所示，该情感分析装置还包括通信接口73，用于与其它设备进行信息交互。同时，该装置还包括总线74，处理器72、通信接口73、以及存储器71通过总线74完成相互间的通信。

存储器71可以包含高速RAM存储器，也可还包括非易失性存储器(non-volatilememory)，例如至少一个磁盘存储器。存储器71也可以是存储器阵列。存储器71还可能被分块，并且块可按一定的规则组合成虚拟卷。

此外，处理器72可以是一个中央处理器CPU，或者可以是专用集成电路ASIC，或者是被配置成实施本公开实施例的一个或多个集成电路。

本公开同时还涉及一种计算机可读存储介质，其中计算机可读存储介质存储有计算机指令，指令被处理器执行时实现如图1或图3中任一实施例涉及的方法。

表2为本公开上述实施例提出的方案与现有技术的试验对比。试验一为采用传统的charCNN模型进行七分类处理，试验二为采用本公开的迁移学习的七分类处理。

试验名称	准确率	召回率	F1分数
				试验一	69.44％	63.22％	66％
试验二	76.52％	60.54％	67.54％

表2

从表2中可以看出，本公开所提供的方案有效提升用户情感分类的准确率，同时总体F1分数也得到提升。

在一些实施例中，在上面所描述的功能单元模块可以实现为用于执行本公开所描述功能的通用处理器、可编程逻辑控制器(Programmable Logic Controller，简称：PLC)、数字信号处理器(Digital Signal Processor，简称：DSP)、专用集成电路(ApplicationSpecific Integrated Circuit，简称：ASIC)、现场可编程门阵列(Field-ProgrammableGate Array，简称：FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件或者其任意适当组合。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

本公开的描述是为了示例和描述起见而给出的，而并不是无遗漏的或者将本公开限于所公开的形式。很多修改和变化对于本领域的普通技术人员而言是显然的。选择和描述实施例是为了更好说明本公开的原理和实际应用，并且使本领域的普通技术人员能够理解本公开从而设计适于特定用途的带有各种修改的各种实施例。

Claims (16)

1.一种情感分析方法，包括：

对用户会话进行特征提取；

将所提取的用户会话特征分别输入预设的第一预测模型和第二预测模型；

将所述第一预测模型中的第一特征数据输入所述第二预测模型，以便所述第二预测模型将所述第一特征数据和自身的第二特征数据进行融合，并利用融合后的特征数据得到用户会话的情感分类结果。

2.根据权利要求1所述的方法，其中，

所述第一预测模型的分类结果小于所述第二预测模型的分类结果。

3.根据权利要求2所述的方法，其中，

所述第一预测模型的每个分类结果分别与所述第二预测模型的至少一个分类结果相关联。

4.根据权利要求3所述的方法，其中，

所述第一预测模型的分类结果包括高兴、中性、负面；

所述第二预测模型的分类结果包括高兴、中性、焦虑、生气、害怕、悲伤、失落，其中所述第一预测模型的负面分类结果与所述第二预测模型的焦虑、生气、害怕、悲伤和失落分类结果相关联。

5.根据权利要求1所述的方法，其中，

所述第一预测模型和所述第二预测模型为基于字符的卷积神经网络。

6.根据权利要求1-5中任一项所述的方法，其中，

将训练数据分别输入到所述第一预测模型和待训练模型中，以便所述第一预测模型输出分类结果，其中训练数据包括用户会话特征；

将所述第一预测模型中的特征数据输入所述待训练模型，以便所述待训练模型将来自所述第一预测模型的特征数据和自身的特征数据进行融合，并利用融合后的特征数据输出分类结果；

根据所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间存在的偏差，调整所述待训练模型的参数，以得到所述第二预测模型。

7.根据权利要求6所述的方法，其中，

若所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间不存在关联关系，则判定所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间存在偏差。

8.一种情感分析装置，包括：

特征提取模块，被配置为对用户会话进行特征提取；

特征输入模块，被配置为将所提取的用户会话特征分别输入预设的第一预测模型和第二预测模型；

迁移学习模块，被配置为将所述第一预测模型中的第一特征数据输入所述第二预测模型，以便所述第二预测模型将所述第一特征数据和自身的第二特征数据进行融合，并利用融合后的特征数据得到用户会话的情感分类结果。

9.根据权利要求8所述的装置，其中，

所述第一预测模型的分类结果小于所述第二预测模型的分类结果。

10.根据权利要求9所述的装置，其中，

所述第一预测模型的每个分类结果分别与所述第二预测模型的至少一个分类结果相关联。

11.根据权利要求10所述的装置，其中，

所述第一预测模型的分类结果包括高兴、中性、负面；

所述第二预测模型的分类结果包括高兴、中性、焦虑、生气、害怕、悲伤、失落，其中所述第一预测模型的负面分类结果与所述第二预测模型的焦虑、生气、害怕、悲伤和失落分类结果相关联。

12.根据权利要求8所述的装置，其中，

所述第一预测模型和所述第二预测模型为基于字符的卷积神经网络。

13.根据权利要求8-12中任一项所述的装置，还包括：

训练模块，被配置为将训练数据分别输入到所述第一预测模型和待训练模型中，以便所述第一预测模型输出分类结果，其中训练数据包括用户会话特征；将所述第一预测模型中的特征数据输入所述待训练模型，以便所述待训练模型将来自所述第一预测模型的特征数据和自身的特征数据进行融合，并利用融合后的特征数据输出分类结果；根据所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间存在的偏差，调整所述待训练模型的参数，以得到所述第二预测模型。

14.根据权利要求13所述的装置，其中，

训练模块还被配置为若所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间不存在关联关系，则判定所述待训练模型输出的分类结果与所述第一预测模型输出的分类结果之间存在偏差。

15.一种情感分析装置，包括：

存储器，被配置为存储指令；

处理器，耦合到存储器，处理器被配置为基于存储器存储的指令执行实现如权利要求1-7中任一项的方法。

16.一种计算机可读存储介质，其中，计算机可读存储介质存储有计算机指令，指令被处理器执行时实现如权利要求1-7中任一项的方法。