CN113239209A - 基于RankNet-transformer的知识图谱个性化学习路径推荐方法 - Google Patents

Abstract

本发明公开了一种基于RankNet‑transformer的知识图谱个性化学习路径推荐方法，该方法包括构建知识模型构建和推荐模型。在知识模型构建中，通过课程知识点图谱的构建和认知模型对知识测试的分析结果，构建盲区知识点图谱。在推荐模型中，使用RankNet算法和Transformer算法实现盲区知识点的重排序，再采用拓扑排序方法遍历重排序序列与盲区知识点图谱，生成最终的知识点推荐序列。本发明提高了推荐结果的精准性，适应学习者的认知顺序。

Description

基于RankNet-transformer的知识图谱个性化学习路径推荐 方法

技术领域

本发明属于人工智能学习技术领域，特别涉及一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法。

背景技术

在教育信息化的大环境下，各类学***台大量涌现，为学***台只对平台上的学***台只把学***、学习习惯等方面的差异，以及学习者学习状态的动态发展。个性化推荐算法是解决教育资源过载及教育资源推荐不精准问题的一种有效方法，目前主要的个性化推荐方法有：

(1)基于协同过滤的个性化推荐方法。该方法目前是推荐***中应用最广泛的技术，依据学习者问的学习偏好相似性来产生推荐。该方法主要分为三类：基于用户的协同过滤，主要思想是历史学习记录相似的用户也是相似的，通过计算学习者间的相似度，为学习者推荐与其相似的学习者感兴趣的知识点；基于物品的协同过滤，主要思想是学习者学习的知识点相似的，知识点也是相似的，从而计算知识点间的相似度，为学习者推荐与其历史学习知识点相似的知识点；基于模型的协同过滤，其典型算法是矩阵分解，通过对学习者-知识点交互评分矩阵的分解，再相乘实现矩阵补全，为学习者推荐学习者评分高的知识点。

(2)基于内容的个性化推荐方法。该方法核心思想是为学习者推荐与其历史感兴趣的知识点相似的知识点。通过获取知识点的属性特征和学习者的历史学习记录，分别构建知识点属性特征向量和学习者偏好向量。进而计算知识点属性特征向量和学习者历史学习偏好的相似度，相似度高则证明知识点与学习者历史学习偏好匹配，将高相似度的知识点作为推荐结果返回。

(3)混合推荐方法。该方法核心思想是将若干种个性化推荐方法相结合进行知识点推荐。目前在混合推荐方法中，较为流行的是将协同过滤和基于内容推荐的方法相结合。最简单的方式是由协同过滤推荐方法和基于内容的方法分别得到一个知识点的推荐序列，再由两种推荐方法按照一定的原则组合产生最终的知识点推荐结果。

如上所述，目前针对知识点的推荐方法主要有：1)基于协同过滤的知识点推荐方法；2)基于内容的知识点推荐方法；3)混合推荐方法。

方法(1)不依赖于学习者、知识点的信息和特征提取，其推荐的自动化程度较高，但忽略了对学习者、知识点本身特征的考虑，对学习者的学习偏好预测存在偏差。同时，存在严重的数据稀疏和冷启动问题，其推荐结果的质量取决于历史学习数据集，且开始推荐质量较差。方法(2)不依赖于领域知识，推荐结果直观，容易解释。但该方法对知识点和学习者的信息要求较高，具有严重的数据稀疏问题和冷启动问题；方法(3)可以解决知识点冷启动问题，但是仍然无法解决学习者冷启动问题以及数据稀疏问题。

上述三类主流个性化推荐方法同时忽略了对学习者动态变化的认知能力和学习态度的考虑，学习者的认知能力和学习态度反映的是学习者后期学习偏好的重点和变化，其对于不同学习者的精准知识点学习路径的推荐具有重要作用。其次，没有考虑到学习者的行为数据的个性化，及使用重排序思想来提高推荐的精确度。

基于此，亟待解决相关技术中的缺乏学习者及知识点信息导致最终推荐结果的不精确问题，以及缺乏信息导致的冷启动问题；忽略学习者认知能力、学习态度以及行为数据，对学习者后期学习偏好特征抽取不准确，导致的推荐结果精确性不足的问题。

发明内容

针对目前人工智能学习推荐的不精确，导致学习者学习效率不高，为此本发明提出一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法。

为了解决上述技术问题，本发明的技术方案为：

一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法，包括以下步骤：

S1，爬取课程资源，使用HanLP分词算法抽取知识点，并设计知识点关系，采用调整余弦相似度方法计算知识点间的相关度，从而构建课程知识点图谱；

S2，采用DNIA认知模型分析学习者的知识测试，提取盲区知识点，再根据课程知识点图谱构建盲区知识点图谱；

S3，通过图卷积网络挖掘课程知识点图谱以及盲区知识点图谱，得到盲区知识点的特征表示向量；

S4，通过学习排序算法RankNet对盲区知识点进行初排序，得到盲区知识点的初排序序列；

S5，通过Transformer模型挖掘学习者个性化的行为特征向量；

S6，将初排序后的盲区知识点的特征表示向量和学习者个性化的行为特征向量结合，输入Transformer模型中，得到盲区知识点的重排序序列；

S7，使用拓扑排序遍历盲区知识点图谱和重排序序列，还原知识点之间的前驱后继关系，从而得到学习者个性化的知识点学习序列。

优选的，步骤S3包括以下步骤：

S31，通过图卷积网络提取知识图谱中的知识点属性和计算知识点与知识点之间的关联关系，进而得到课程知识点特征表示向量；

S32，通过DNIA认知模型分析提取盲区知识点图谱中的知识点属性，进而得到盲区知识点特征表示向量。

优选的，步骤S31中所述计算知识点与知识点之间的关联关系具体为根据调整余弦相似度方法计算知识点与知识点之间的相应权重。

优选的，步骤S4包括以下步骤：

S41，设置知识点对，计算知识点对之间的相关度，进而得到二元分类器训练所需的样本；

S42，利用二元分类器预测时，对所有知识点进行分类，得到盲区知识点集的偏序关系，从而得到盲区知识点的初排序序列。

优选的，步骤S41中所述设置知识点对，计算知识点对之间的相关度具体为设置知识点对＜k1，k2>，其中k1知识点是学习者的盲区知识点，k2是学习者已掌握知识点，则将k1-k2的label设置为+1，k2-k1的label设置为-1。

优选的，步骤S5包括以下步骤：

S51，提取学习者的个性化行为数据；

S52，使用Transformer模型中的个性化模块对学习者行为数据进行预训练，生成学习者个性化的行为特征向量。

与现有技术相比，本发明的有益效果是：

本发明首先构建课程知识点图谱和盲区知识点图谱，然后采用RankNet排序算法对盲区知识点进行初排序，其次将初排序的盲区知识点与学习者个性化的行为特征向量结合，采用Transformer模型得到重排序的盲区知识点，最后使用拓扑排序算法还原知识点间的前驱后继关系，得到学习者个性化的知识点学习序列，从而使得学习推荐结果顺应学习者的认知发展，有效提高学习效率。

附图说明

图1为本发明实施例提供的基于RankNet-transformer的知识图谱个性化学习路径推荐方法的流程图；

图2为本发明实施例提供的构建盲区知识点图谱的示意图；

图3为本发明实施例提供的构建盲区知识点特征向量的示意图；

图4为本发明实施例提供的盲区知识点的初排序和重排序的流程图；

图5为本发明实施例提供的构建学习者个性化的行为特征向量的示意图；

图6为本发明实施例提供的构建学习者个性化的知识点学习序列的示意图。

具体实施方式

下面结合附图对本发明的具体实施方式作进一步说明。在此需要说明的是，对于这些实施方式的说明用于帮助理解本发明，但并不构成对本发明的限定。此外，下面所描述的本发明各个实施方式中所涉及的技术特征只要彼此之间未构成冲突就可以相互组合。

如图1所示，一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法，包括以下步骤：

S1，爬取课程资源，使用HanLP分词算法抽取知识点，并设计知识点关系，采用调整余弦相似度方法计算知识点间的相关度，从而构建课程知识点图谱；

由于现有开源知识图谱面向领域广、数据量庞大的特点，并不适用于某一课程领域，所以本发明构建了专门的课程知识点图谱。从课程资源中爬取知识点及其元数据，据此得到本体层，选择知识点间的前驱后继关系构建课程知识点图谱的三元组关系，以此实现课程知识点图谱的构建。

S2，采用DNIA认知模型分析学习者的知识测试，提取盲区知识点，再根据课程知识点图谱构建盲区知识点图谱；

本实施例通过学习者的答题情况来推测其知识点的掌握情况，通过最大化该学习者得分的后验概率来确定其知识点掌握情况，见图2。

S3，通过图卷积网络挖掘课程知识点图谱以及盲区知识点图谱，得到盲区知识点的特征表示向量；

步骤S3包括以下步骤：

S31，通过图卷积网络提取知识图谱中的知识点属性和计算知识点与知识点之间的关联关系，进而得到课程知识点特征表示向量；

所述计算知识点与知识点之间的关联关系具体为根据调整余弦相似度方法计算知识点与知识点之间的相应权重。

S32，通过DNIA认知模型分析提取盲区知识点图谱中的知识点属性，进而得到盲区知识点特征表示向量。

本实施例采用映射向量的思想对课程知识点特征表示向量和盲区知识点特征表示向量进行表示，具体见图3。

S4，通过学习排序算法RankNet对盲区知识点进行初排序，得到盲区知识点的初排序序列；

S41，设置知识点对，计算知识点对之间的相关度，进而得到二元分类器训练所需的样本；

所述设置知识点对，计算知识点对之间的相关度具体为设置知识点对<k1，k2>，其中k1知识点是学习者的盲区知识点，k2是学习者已掌握知识点，则将k1-k2的label设置为+1，k2-k1的label设置为-1。

S42，利用二元分类器预测时，对所有知识点进行分类，得到盲区知识点集的偏序关系，从而得到盲区知识点的初排序序列。

S5，通过Transformer模型挖掘学习者个性化的行为特征向量；

步骤S5包括以下步骤：

S51，提取学习者的个性化行为数据；

S52，使用Transformer模型中的个性化模块对学习者行为数据进行预训练，生成学习者个性化的行为特征向量，具体见图5。

学习者的历史学习行为数据包含丰富的学习偏好特征信息，数据特征表示模块可以根据用户的历史行为数据充分挖掘用户的学习偏好特征，极大程度的体现了学习者学习状态的个性化，提高了知识点推荐预测的准确性。

S6，将初排序后的盲区知识点的特征表示向量和学习者个性化的行为特征向量结合，输入Transformer模型中，得到盲区知识点的重排序序列，具体见图4；

本实施例采用阿里巴巴在推荐***中提出的重排序思想。将自然语言中常用编码器Transformer应用于重排序中，引入可学习的位置编码及学习者个性化特征，对初排序序列进行重新排序。其算法原理如下：

输入：初排序后的盲区知识点的特征表示向量；

编码层：有多个编码块，每个编码块包含一个Multi-Head Attention Layer和一个前馈网络FFN层，以实现集成其他额外信息的相互影响；

输出层：以知识点的学习预估作为目标，通过损失函数对模型进行训练。Softmax层对初排序后的盲区知识点的特征表示向量和学习者个性化行为特征向量的级联结合进行计算，得到每个知识点被推荐的概率值，从而得到重排序列。

S7，使用拓扑排序遍历盲区知识点图谱和重排序序列，还原知识点之间的前驱后继关系，从而得到学习者个性化的知识点学习序列。

本实施例中，将盲区知识点的重排序序列和盲区知识点图谱与拓扑排序算法结合，以保留知识点在逻辑上的先后学习关系，即最终的知识点序列顺应学习者的认知发展。在重排序序列中，知识点的优先级与知识点在重排序序列中的位置相关，位置越靠前，优先级越高，且本实施例中，盲区知识点图谱不存在环，可以采永拓扑排序算法。

以上结合附图对本发明的实施方式作了详细说明，但本发明不限于所描述的实施方式。对于本领域的技术人员而言，在不脱离本发明原理和精神的情况下，对这些实施方式进行多种变化、修改、替换和变型，仍落入本发明的保护范围内。

Claims (6)

1.一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法，其特征在于，包括以下步骤：

S1，爬取课程资源，使用HanLP分词算法抽取知识点，并设计知识点关系，采用调整余弦相似度方法计算知识点间的相关度，从而构建课程知识点图谱；

S2，采用DNIA认知模型分析学习者的知识测试，提取盲区知识点，再根据课程知识点图谱构建盲区知识点图谱；

S3，通过图卷积网络挖掘课程知识点图谱以及盲区知识点图谱，得到盲区知识点的特征表示向量；

S4，通过学习排序算法RankNet对盲区知识点进行初排序，得到盲区知识点的初排序序列；

S5，通过Transformer模型挖掘学习者个性化的行为特征向量；

S6，将初排序后的盲区知识点的特征表示向量和学习者个性化的行为特征向量结合，输入Transformer模型中，得到盲区知识点的重排序序列；

S7，使用拓扑排序遍历盲区知识点图谱和重排序序列，还原知识点之间的前驱后继关系，从而得到学习者个性化的知识点学习序列。

2.根据权利要求1所述的一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法，其特征在于，步骤S3包括以下步骤：

S31，通过图卷积网络提取知识图谱中的知识点属性和计算知识点与知识点之间的关联关系，进而得到课程知识点特征表示向量；

S32，通过DNIA认知模型分析提取盲区知识点图谱中的知识点属性，进而得到盲区知识点特征表示向量。

3.根据权利要求2所述的一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法，其特征在于，步骤S31中所述计算知识点与知识点之间的关联关系具体为根据调整余弦相似度方法计算知识点与知识点之间的相应权重。

4.根据权利要求2所述的一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法，其特征在于，步骤S4包括以下步骤：

S41，设置知识点对，计算知识点对之间的相关度，进而得到二元分类器训练所需的样本；

S42，利用二元分类器预测时，对所有知识点进行分类，得到盲区知识点集的偏序关系，从而得到盲区知识点的初排序序列。

5.根据权利要求4所述的一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法，其特征在于，步骤S41中所述设置知识点对，计算知识点对之间的相关度具体为设置知识点对<k1，k2>，其中k1知识点是学习者的盲区知识点，k2是学习者已掌握知识点，则将k1-k2的label设置为+1，k2-k1的label设置为-1。

6.根据权利要求4所述的一种基于RankNet-transformer的知识图谱个性化学习路径推荐方法，其特征在于，步骤S5包括以下步骤：

S51，提取学习者的个性化行为数据；

S52，使用Transformer模型中的个性化模块对学习者行为数据进行预训练，生成学习者个性化的行为特征向量。

Images