CN114912020B - 一种基于用户偏好图的多子目标对话推荐方法 - Google Patents

Abstract

本发明公开了一种基于用户偏好图的多子目标对话推荐方法，其特点是该其方法包括：1）构建用户偏好图，表达用户在近期话题内表现出的实体级偏好；2）基于用户偏好图预测关键实体，为后续回复生成提供显式的内容引导；3）基于当前对话状态、用户偏好图以及关键实体相关的三元组，生成回复内容，并基于用户的在线反馈确定对话结束或进入下一轮对话。本发明与现有技术相比具有较高的对话推荐准确率和生成回复的一致性，进一步增强了模型的可解释性，可广泛应用到社交对话推荐***。

Description

一种基于用户偏好图的多子目标对话推荐方法

技术领域

本发明涉及会话推荐技术领域，具体地说是一种基于用户偏好图的多子目标对话推荐方法。

背景技术

随着互联网上信息量的不断增加，人们越来越难以从中甄别自己感兴趣的内容。推荐***的出现正是为了解决“信息超载”的问题，它会预测用户的需求，并向用户推荐他们最可能喜欢的内容。传统推荐利用历史交互信息估计用户偏好，难以处理历史信息稀疏、有噪音或者用户偏好改变的情况。而对话推荐***(Conversational RecommendationSystem，CRS)与用户进行动态交互，能够在对话过程中直接询问用户偏好，强调用自然语言进行交互并获取明确反馈。

近期的对话推荐工作提出了用于建立多子目标推荐对话***的DuRecDial数据集，标注了闲聊、问答、推荐三大主题内的21个细化子目标，并将对话按子目标划分为若干个阶段。该任务旨在使***规划多种子目标主动引导对话走向，将对话从问答、关于明星的闲聊等非推荐场景引入到电影推荐、音乐推荐等推荐场景。多子目标推荐对话***使用知识库中的信息帮助完成问答、推荐等过程，因此知识的准确选择对于生成高质量的对话至关重要。

现有技术的多子目标推荐对话方法，大多直接使用给定知识库中所有的知识而不对其进行甄别，不仅增加了计算量，还可能引入大量噪音知识。

发明内容

本发明的目的是针对现有技术的不足而设计的一种基于用户偏好图的多子目标对话推荐方法，采用构建的用户偏好图，利用关键实体预测模块预测下一轮对话内容的关键实体，并由对话生成模块生成每一轮***对历史对话的回复，基于用户的在线反馈确定对话结束或进入下一轮对话。该方法实现了多子目标对话推荐，不但提高了对话推荐准确率和生成回复的一致性，还增强了模型的可解释性，方法简便，计算量少，大大减少了噪音知识，推荐准确率高，可广泛应用于社交对话推荐***，具有很好的运用前景。

本发明的目的是这样实现的：一种基于用户偏好图的多子目标对话推荐方法，其特点是采用构建的用户偏好图K_p，利用关键实体预测模块预测下一轮对话内容的关键实体，并由对话生成模块生成每一轮***对历史对话的回复，具体包括如下步骤：

a步骤：建立用户偏好图构建模块

a-1：在对话开始前，基于用户配置文件初始化用户偏好图K_p；

a-2：在对话进行时，根据实体文件匹配对话中提及的实体，并通过基于预训练的语言模型(BERT)预测用户的实体级偏好；

a-3：根据用户实体级偏好更新用户偏好图K_p。

b步骤：建立关键实体模块

基于当前用户偏好图K_p和子目标，确定候选关键实体并通过BERT模型预测关键实体。

c步骤：建立对话生成模块

基于历史对话、用户偏好图K_p及关键实体相关信息通过深度神经网络模型生成回复来与用户进行交互，交互内容包括闲聊、问答或推荐。

所述a-1步骤中的初始化用户偏好图K_p具体包括以下步骤：

1.1取多子目标对话数据的用户配置文件中用户接受的实体和知识图谱中存在实体的交集作为用户偏好图K_p的初始核心结点。

1.2取知识图谱中的用户偏好图K_p初始核心结点及其一跳范围内的点和边构成的子图作为最初的用户偏好图K_p，并为每个初始核心结点赋权重为1。

所述a-2步骤中的实体级偏好具体包括以下步骤：

1.3基于所述知识图谱中的实体信息，处理出实体文件并依据实体文件匹配对话中提及的实体E；其中，提及的实体分为用户提及实体E_user和对话推荐***提及实体E_system。

1.4基于所述用户提及实体e_u∈E_user和用户提及该实体的句子s_u，通过预训练的BERT模型得到用户对实体e_u的态度，其过程如下述(a)～(c)式表示：

F_u＝[[CLS]；e_u；[SEP]；s_u] (a)；

H_u＝BERT(F_u) (b)；

A(e_u)＝Linear(H_u) (c)。

或者基于所述对话推荐***提及实体e_s∈E_system和用户对提及实体e_s的句子的反馈s_resp，通过预训练的BERT模型得到用户对实体e_s的态度，其过程如下述(d)～(f)式表示：

F_s＝[[CLS]；e_s；[SEP]；s_resp] (d)；

H_s＝BERT(F_s) (e)；

A(e_s)＝Linear(H_s) (f)。

所述b步骤2中更新用户偏好图K_p具体包括以下步骤：

1.5在每轮对话开始前将用户偏好图K_p中核心实体的权重w_key进行衰减；其中，权重w_key衰减过程由下述(g)式表示：

w_key＝w_key×0.75 (g)。

1.6基于所述用户对所述提及实体的态度，用户接受的实体及其在知识库中周围一跳的点和边被加入用户偏好图K_p。其中，用户接受的实体作为核心实体并赋权重为1，周围一跳的结点为非核心实体且不赋权重；基于用户对提及实体的态度，用户拒绝的实体如果存在于用户偏好图K_p中，该实体以及其周围一跳的非核心实体以及相关的边将从用户偏好图K_p中移除。

1.7当用户偏好图K_p中核心实体的数量大于限定数量α＝2时，仅保留用户偏好图K_p中权重最大的限定数量α个核心实体及其周围一跳的点和边。

所述b步骤中确定候选关键实体并通过BERT模型预测关键实体具体包括以下步骤：

2.1通过基于Transformer的方法预测下一个子目标g_next，在给定对话历史X、外部知识

和推荐子目标G_T的条件下，预测下一回合的子目标g_next，并由下述(h)式优化交叉熵损失函数-logP：

其中，

为当前已经生成的子目标字符。

2.2由子目标g_next确定的推荐类型包括：电影、音乐、美食和兴趣点；基于确定的推荐类型，找出所有知识库中该类型的实体作为候选关键实体集合E_c。

2.3基于预训练的BERT模型给候选关键实体打分，取分数最高的候选实体作为关键实体。

2.4基于用户偏好图K_p和知识图谱中与候选关键实体e_c∈E_c相关的三元组构成的子图K_c，通过预训练的BERT模型给每个候选关键实体e_c打分，取分数最高的候选实体作为关键实体e_key，其过程由下述(i)～(l)式表示：

F_p＝[s₁；r₁；o₁；…；s_n；r_n；o_n],(s_i,r_i,o_i)∈K_p (i)；

F_c＝[s₁；r₁；o₁；…；s_m；r_m；o_m],(s_j；r_j；o_j)∈K_c (j)；

H＝BERT([[CLS]；g_next；F_p；[SEP]；F_c]) (k)；

S(E_c)＝Sigmoid(Wh₀) (l)；

其中：h₀为[CLS]的表示；W是可训练的参数。

所述c步骤中的通过深度神经网络模型生成回复具体包括以下步骤：

3.1将步骤2.1中所述的子目标g_next进一步分为推荐子目标和非推荐子目标，所述推荐子目标包括：电影推荐、音乐推荐、美食推荐和兴趣点的推荐，除推荐子目标外的子目标都为非推荐子目标；其中，由于新闻推荐并非实体推荐，因此也算作非推荐子目标。

3.2在非推荐子目标下，将用户偏好图中所有的知识三元组K_p作为参考知识K_input输入对话生成模型，而在推荐子目标下，将知识库中与步骤二所述关键实体e_key相关的三元组构成的子图K_key作为参考知识K_input输入对话生成模型；其中，对话生成模块包括编码器和解码器；对话生成模块生成回复的具体过程由下述(m)～(o)式表示为：

F＝[s₁；r₁；o₁；…；s_n；r_n；o_n],(s_i,r_i,o_i)∈K_input (m)；

E_K＝Encoder(F) (n)；

其中，E_K为将参考知识K_input中的三元组拼接后通过编码器得到的知识特征。

3.3基于知识特征E_K和历史对话X和已解码部分的表示得到第t步的输出特征，I(·)表示获取嵌入的函数，y_＜t是已经解码得到的词，

是t时刻解码器输出的隐藏状态。

3.4为了将知识信息整合到回复中，在解码器上采用了复制机制。具体来说，单词概率P(w)是通过下述(p)～(s)式所表示的复制机制计算：

其中，W_v是嵌入矩阵；W_k是可训练的参数；p(s)决定模型从词汇表还是从参考知识K_input生成一个字。

3.5通过下述(t)式的优化交叉熵损耗训练对话框生成模块：

本发明与现有技术相比具有以下显著的技术进步和优点：

1)高推荐准确率，本发明提出的用户偏好图关注用户在近期话题中体现出的实体级偏好对后续话题的贡献，大幅提升了推荐准确率；

2)生成回复高一致性，本发明提出的用户偏好图建模了用户在历史对话中表现出的阶段性实体级偏好，关键实体相关的三元组为对话模块提供更加精确的后续内容指导，两者都为对话模块提供了更加精确的知识，避免知识图谱中的噪音知识带来的影响，提升了生成回复的一致性；

3)模型的可解释性，本法明采用的方法能够提供人类可解读的更加精确的相关知识，根据这些知识人类倾向于做出跟模型较为一致的预测，提高了模型的可解释性。

附图说明

图1为本发明流程图。

具体实施方式

以下结合具体实施例和附图，对本发明做进一步的详细说明。实施本发明的过程、条件、实验方法等，除以下专门提及的内容之外，均为本领域的普遍知识和公知常识，本发明没有特别限制的内容。

实施例1

参阅图1，本发明主要包括以下步骤：

步骤一：初始化用户偏好图

取所述多子目标对话数据的用户配置文件中用户接受的实体和所述知识图谱中存在实体的交集作为用户偏好图K_p的初始核心结点；取所述知识图谱中所述用户偏好图K_p初始核心结点及其一跳范围内的点和边构成的子图作为最初的用户偏好图K_p，并为每个初始核心结点赋权重为1。

步骤二：预测关键实体

通过基于Transformer的方法预测下一个子目标g_next，在给定对话历史X、外部知识

和推荐子目标G_T的条件下，预测下一回合的子目标g_next，并由下述(h)式优化交叉熵损失函数-logP：

其中，

是当前已经生成的子目标字符。

然后，基于由所述子目标g_next确定推荐类型；其中，推荐类型包括：电影、音乐、美食和兴趣点，基于确定的推荐类型，找出所有知识库中该类型的实体作为候选关键实体集合E_c；最后，基于用户偏好图K_p和由所述知识图谱中与候选关键实体e_c∈E_c相关的三元组构成的子图K_c，通过预训练的BERT模型给每个候选关键实体e_c打分，取分数最高的候选实体作为关键实体e_key，其过程由下述(i)～(l)式表示：

F_p＝[s₁；r₁；o₁；…；s_n；r_n；o_n],(s_i,r_i,o_i)∈K_p (i)；

F_c＝[s₁；r₁；o₁；…；s_m；r_m；o_m],(s_j；r_j；o_j)∈K_c (j)；

H＝BERT([[CLS]；g_next；F_p；[SEP]；F_c]) (k)；

S(E_c)＝Sigmoid(Wh₀) (l)；

其中，h₀是[CLS]的表示；W是可训练的参数。

步骤三：进行对话生成

对话生成模块基于所述对话历史、所述关键实体及所述用户偏好图K_p，通过对话生成模型生成对话来与用户进行交互，包括：闲聊、问答或推荐，并基于用户的在线反馈确定对话结束或进入下一轮对话。步骤二中所述子目标g_next可进一步分为推荐子目标和非推荐子目标。其中，推荐子目标包括：电影推荐、音乐推荐、美食推荐和兴趣点推荐，除推荐子目标外的子目标都为非推荐子目标。其中，由于新闻推荐并非实体推荐，因此也算作非推荐子目标。

在非推荐子目标下，将用户偏好图K_p中所有的知识三元组K_p作为参考知识K_input输入对话生成模型，而在推荐子目标下，将知识库中与步骤二所述关键实体e_key相关的三元组构成的子图K_key作为参考知识K_input输入对话生成模型。其中，对话生成模块包括：编码器和解码器；对话生成模块生成回复的具体过程由下述(m)～(o)式表示为：

F＝[s₁；r₁；o₁；…；s_n；r_n；o_n],(s_i,r_i,o_i)∈K_input (m)；

E_K＝Encoder(F) (n)；

其中，E_K为将参考知识K_input中的三元组拼接后通过编码器得到的知识特征。

然后，基于知识特征E_K和历史对话X和已解码部分的表示得到第t步的输出特征，I(·)表示获取嵌入的函数，y_＜t是已经解码得到的词，

是t时刻解码器输出的隐藏状态，为了将知识信息整合到回复中，本发明在解码器上使用了一种复制机制。具体来说，单词概率P(w)是通过下述(p)～(s)式所表示的复制机制计算：

其中，W_v是嵌入矩阵；W_k是可训练的参数；p(s)决定模型从词汇表还是从参考知识K_input生成一个字。

通过下述(t)式的优化交叉熵损耗训练对话框生成模块：

若对话未结束，则继续进行步骤四。

步骤四：更新用户偏好图

基于所述知识图谱中的实体信息，处理出实体文件并依据实体文件匹配对话中提及的实体E；其中，提及的实体分为用户提及实体E_user和对话推荐***提及实体E_system；基于所述用户提及实体e_u∈E_user和用户提及该实体的句子s_u，通过预训练的BERT模型得到用户对实体e_u的态度，其过程如下述(a)～(c)式表示：

F_u＝[[CLS]；e_u；[SEP]；s_u] (a)；

H_u＝BERT(F_u) (b)；

A(e_u)＝Linear(H_u) (c)。

或者基于所述对话推荐***提及实体e_s∈E_system和用户对提及实体e_s的句子的反馈s_resp，通过预训练的BERT模型得到用户对实体e_s的态度，其过程如下述(d)～(f)式表示：

F_s＝[[CLS]；e_s；[SEP]；s_resp] (d)；

H_s＝BERT(F_s) (e)；

A(e_s)＝Linear(H_s) (f)。

然后，在每轮对话开始前将用户偏好图K_p中核心实体的权重w_key进行衰减；其中，权重w_key衰减具过程为：w_key＝w_key×0.75；基于所述用户对所述提及实体的态度，用户接受的实体及其在知识库中周围一跳的点和边被加入用户偏好图K_p。其中，用户接受的实体作为核心实体并赋权重为1，周围一跳的结点为非核心实体且不赋权重。基于所述用户对所述提及实体的态度，用户拒绝的实体如果存在于用户偏好图K_p中，该实体以及其周围一跳的非核心实体以及相关的边将从用户偏好图K_p中移除。当所述用户偏好图K_p中核心实体的数量大于限定数量α＝2时，仅保留用户偏好图K_p中权重最大的所述限定数量α个核心实体及其周围一跳的点和边，完成更新后继续在下一轮对话从步骤二继续执行。

以上只是对本发明作进一步的说明，并非用以限制本专利，凡为本发明等效实施，均应包含于本专利的权利要求范围之内。

Claims (3)

1.一种基于用户偏好图的多子目标对话推荐方法，其特征在于采用构建的用户偏好图K_p，利用关键实体预测模块预测下一轮对话内容的关键实体，并由对话生成模块生成每一轮***对历史对话的回复，具体包括如下步骤：

a步骤：建立用户偏好图构建模块

a-1：在对话开始前，基于用户配置文件初始化用户偏好图K_p；

a-2：在对话进行时，根据实体文件匹配对话中提及的实体集合E，并通过基于预训练的语言模型预测用户的实体级偏好；

a-3：根据用户实体级偏好更新用户偏好图K_p；

b步骤：建立关键实体模块

基于当前用户偏好图K_p和子目标，确定候选关键实体并通过语言模型预测关键实体；

c步骤：建立对话生成模块

基于历史对话、用户偏好图K_p及关键实体相关信息通过深度神经网络模型生成回复来与用户进行交互，交互内容包括闲聊、问答或推荐；

所述a步骤中的初始化用户偏好图K_p具体包括以下步骤：

a-1-1：取多子目标对话数据的用户配置文件中用户接受的实体和知识图谱中存在实体的交集作为用户偏好图K_p的初始核心结点；

a-1-2：将知识图谱中用户偏好图K_p的初始核心结点及其一跳范围内的点和边构成的子图作为最初的用户偏好图K_p，并为每个初始核心结点赋权重为1；

所述b步骤中的确定候选关键实体并通过语言模型预测关键实体，具体包括以下步骤：

b-1：通过基于Transformer的方法预测下一个子目标g_next，在给定对话历史X、外部知识K和推荐子目标G_T的条件下，预测下一回合的子目标g_next，并由下述(h)式优化交叉熵损失函数-logP：

其中，

为当前已经生成的子目标字符；

b-2：基于由子目标确定的推荐类型，找出所有知识库中该类型的实体作为候选关键实体集合E_c，所述推荐类型包括：电影、音乐、美食和兴趣点；

b-3：基于用户偏好图K_p和由所述知识图谱中与候选关键实体e_c∈E_c相关的三元组构成的子图K_c，通过预训练的语言模型给每个候选关键实体e_c打分，取分数最高的候选实体作为关键实体e_key，其过程由下述(i)～(l)式表示：

F_p＝[s₁；r₁；o₁；…；s_n；r_n；o_n],(s_i,r_i,o_i)∈K_p (i)；

F_c＝[s₁；r₁；o₁；…；s_m；r_m；o_m],(s_j；r_j；o_j)∈K_c (j)；

H＝BERT([[CLS]；g_next；F_p；[SEP]；F_c]) (k)；

S(e_c)＝Sigmoid(Wh₀) (l)；

其中：h₀为[CLS]的表示；W是可训练的参数；

所述c步骤中的通过深度神经网络模型生成回复具体包括以下步骤：

c-1：将b步骤中的子目标g_next进一步分为推荐子目标和非推荐子目标，所述推荐子目标包括：电影推荐、音乐推荐、美食推荐和兴趣点推荐，除推荐子目标外的子目标都为非推荐子目标；

c-2：在非推荐子目标下，将用户偏好图K_p中所有的知识三元组作为参考知识K_input输入对话生成模型；在推荐子目标下，将知识库中与b步骤中的关键实体e_key相关的三元组构成的子图K_key作为参考知识K_input输入对话生成模型；所述对话生成模块包括：编码器和解码器；所述对话生成模块生成回复的具体过程如下述(m)～(o)式表示：

F＝[s₁；r₁；o₁；…；s_n；r_n；o_n],(s_i,r_i,o_i)∈K_input (m)；

E_K＝Encoder(F) (n)；

其中，E_K为参考知识K_input中的三元组拼接后通过编码器得到的知识特征；I(·)表示获取嵌入的函数；y_<t是已经解码得到的词；

是t时刻解码器输出的隐藏状态；

c-3：基于知识特征E_K和历史对话X和已解码部分的表示，得到第t步的输出特征；

c-4：利用设置在解码器上的复制机制，将知识信息整合到回复中，其单词概率P(w)通过下述(p)～(s)式所表示的复制机制计算：

其中，W_v为嵌入矩阵；W_k为可训练的参数；P_s决定模型从词汇表还是从参考知识K_input生成一个字；

c-5：通过下述(t)式的优化交叉熵损耗训练对话生成模块：

2.根据权利要求1所述的基于用户偏好图的多子目标对话推荐方法，其特征在于所述a步骤中的实体级偏好具体包括以下步骤：

a-2-1：基于所述知识图谱中的实体信息，处理出实体文件并依据实体文件匹配对话中提及的实体集合E，所述提及的实体集合E分为用户提及实体集合E_user和对话推荐***提及实体集合E_system；

a-2-2：基于用户提及实体e_u∈E_user和用户提及该实体的句子s_u，通过预训练的语言模型得到用户对实体e_u的态度，其过程如下述(a)～(c)式表示：

F_u＝[[CLS]；e_u；[SEP]；s_u] (a)；

H_u＝BERT(F_u) (b)；

A(e_u)＝Linear(H_u) (c)；

或基于对话推荐***提及实体e_s∈E_system和用户对提及实体e_s的句子的反馈s_resp，通过预训练的语言模型得到用户对实体e_s的态度，其过程如下述(d)～(f)式表示：

F_s＝[[CLS]；e_s；[SEP]；s_resp] (d)；

H_s＝BERT(F_s) (e)；

A(e_s)＝Linear(H_s)(f)。

3.根据权利要求1所述的基于用户偏好图的多子目标对话推荐方法，其特征在于所述a步骤中的更新用户偏好图K_p具体包括以下步骤：

a-3-1：在每轮对话开始前将用户偏好图K_p中核心实体的权重w_key进行衰减，其过程由下述(g)式表示：

w_key＝w_key×0.75 (g)；

a-3-2：以用户接受的实体作为核心实体并赋权重为1，周围一跳的结点为非核心实体且不赋权重；

a-3-3：基于用户对提及实体的态度，用户拒绝的实体如果存在于用户偏好图K_p中，该实体以及其周围一跳的非核心实体以及相关的边将从用户偏好图K_p中移除；

a-3-4：当用户偏好图K_p中核心实体的数量大于限定数量α＝2时，仅保留用户偏好图K_p中权重最大的限定数量α个核心实体，及其周围一跳的点和边。

Images