CN109977421A

CN109977421A - 一种程序设计类课程课后答疑***的知识库建立方法

Info

Publication number: CN109977421A
Application number: CN201910298906.9A
Authority: CN
Inventors: 薛景; 李洲洋; 孙彤; 施寅端; 林丹
Original assignee: Nanjing Post and Telecommunication University
Current assignee: Nanjing Post and Telecommunication University; Nanjing University of Posts and Telecommunications
Priority date: 2019-04-15
Filing date: 2019-04-15
Publication date: 2019-07-05

Abstract

一种程序设计类课程课后答疑***的知识库建立方法，包括如下步骤，步骤S1、根据交互信息获取并整理收到问题语句；步骤S2、生成问题语句的词向量矩阵，并通过预设模型判断问题语句的问题类型；步骤S3、计算问题语句与同类型其他问题语句之间的语义相似度；步骤S4、根据语义相似度构建候选答案，再通过排序算法对候选答案进行排序，更新问题语句的知识库。该方法利用模型判断问题语句的类型，再根据同类语句之间语义相似度构建候选答案，最后通过排序算法排序候选答案构建问题的知识库，使课后答疑***的表现更佳。

Description

一种程序设计类课程课后答疑***的知识库建立方法

技术领域

本发明属于人机交互技术领域，具体涉及一种程序设计类课程课后答疑***的知识库建立方法。

背景技术

目前远程教育的自动答疑***，主要以Web BBS讨论、留言版和Email交流方式为主，存在时延过长和效率低下等问题。而在具有一定智能的课后答疑***中，以上海交通大学研发的Answer Web自动答疑***为例，这类***虽然是一种具有自动答疑部件的***，有一定的智能性，但是在程序设计类课程的课后答疑方面却表现不佳，不能为学生提供更加优质的解答。这是由程序设计类课程的特殊之处造成的，程序设计课程与其他专业课程答疑不同之处在于，程序设计课程涉及有关代码的正确性测试、报错纠错和逻辑解释等一系列专业性问题。在一般的课后答疑***中，问答对一般由文本组成，而程序设计类课程课后答疑***中的问答对中除了传统文本，还可能包含代码片段。

发明内容

本发明所要解决的技术问题是克服现有技术的不足，提供一种程序设计类课程课后答疑***的知识库建立方法，利用模型判断问题语句的类型，再根据同类语句之间语义相似度构建候选答案，最后通过排序算法排序候选答案构建问题的知识库，使课后答疑***的表现更佳。

本发明提供一种程序设计类课程课后答疑***的知识库建立方法，包括如下步骤，

步骤S1、根据交互信息获取并整理收到问题语句；

步骤S2、生成问题语句的词向量矩阵，并通过预设模型判断问题语句的问题类型；

步骤S3、计算问题语句与同类型其他问题语句之间的语义相似度；

步骤S4、根据语义相似度构建候选答案，再通过排序算法对候选答案进行排序，更新问题语句的知识库。

作为本发明的进一步技术方案，步骤S2具体方法为：

步骤S21、对训练语料中的语句进行解析，获取各训练语句的词向量矩阵，根据各训练语句的词向量矩阵和自身的语句类型训练预设模型；

步骤S22、对问题语句进行分词处理，获取一系列词语，生成每个词语的词向量，并组合生成问题语句的词向量矩阵；

步骤S23、根据词向量矩阵，利用预设模型判断语句的问句类型。

进一步的，语句类型包括日常用语类、课程解释类、讲义资料类、环境配置类、程序原理类、代码调试类和作业解答类。

进一步的，步骤S3中相似度计算包括：

通过词形相似度计算问题语句与同类型的其它问题语句之间的第一相似度；

通过句长相似度计算问题语句与同类型的其它问题语句之间的第二相似度；

通过余弦相似度计算问题语句与同类型的其它问题语句之间的第三相似度；

确定所述第一相似度对应第一权重，所述第二相似度对应第二权重，以及所述第三相似度对应第三权重；

将所述第一相似度与所述第一权重相乘，得到第一乘积；

将所述第二相似度与所述第二权重相乘，得到第二乘积；

将所述第三相似度与所述第三权重相乘，得到第三乘积；

将所述第一乘积、所述第二乘积和所述第三乘积相加，得到问题语句与同类型的其它问题语句之间的所述语义相似度。

进一步的，步骤S3中相似度计算包括：

将所述第一相似度与所述第一权重相乘，得到第一乘积；

将所述第二相似度与所述第二权重相乘，得到第二乘积；

将所述第三相似度与所述第三权重相乘，得到第三乘积；

本发明在程序设计类课程课后答疑***知识库中，建设和管理包含程序代码知识的问题，使程序设计类课程课后答疑***表现效果更佳。

附图说明

图1是本发明的实施例中程序设计类课程课后答疑***知识库的建设方法的流程示意图；

图2是本发明的实施例中判断问题语句的问题类型的流程示意图；

图3是本发明的实施例中计算问题语句与同类型的其他问题语句之间的语义相似度的流程示意图；

图4是本发明的实施例中通过改编后Hacker News的排序算法获取知识库的流程示意图。

具体实施方式

本实施例提供一种程序设计类课程课后答疑***的知识库建立方法，包括如下步骤，

步骤S1、根据交互信息获取并整理收到问题语句；

步骤S4、根据语义相似度构建候选答案，再通过排序算法对候选答案进行排序，获取问题语句的知识库。

如图1所示，步骤S1具体为：

根据交互信息生成问题语句可以指对交互信息中的无意义词语或是句式进行相关转换，从而得到更加易于分析处理的数据形式。

在本课后答疑***中，当用户输入对应的问题语句时，本课后答疑***会返回与该问题语句回应的答案。当本课后答疑***中不存在与该问题语句对应的答案时，本课后答疑***也会返回提示信息，提醒用户不存在与该问题语句对应的答案，并存储该问题语句，累积至一定数值或设置定时任务，提交给本课后答疑***对应专家人员进行解答和存储答案。

如图2所示，步骤S2的具体方法为：

例如，各个训练语句及其问题类型标记可以表示为：

1.(日常用语类)“上课地点改在哪里了呢？”

2.(课程解释类)“大佬，求考试重点”

3.(讲义资料类)“有上课用的PPT嘛？么么哒～”

4.(环境配置类)“Code::Block什么情况啊，求抢救一下！！

sorry,unimplement:64-bit mode not complied in”

5.(程序原理类)“python中为什么这个和这个的结果不一样啊？

’y’<’x’＝＝False为False，(‘y’<’x’)＝＝False为True？？”

6.(代码调试类)“C语言这段为啥报错？谢谢

#include<stdlib.h>

int main(){

print(“hello world！”)

return 0；

}”

7.(作业解答类)“实验二的任务四什么意思啊？”

通过对“上课地点改在哪里了呢？”等语句进行分词处理得到一系列词语，其中的词语既包含文本词语也包含代码片段，对这些词语进行转换得到该语句的词向量，将这些词向量按一定顺序拼接，就得到了该语句的词向量矩阵。本实施例中，各个训练语句的词向量矩阵优选地为二维矩阵。

需要指出的是，在本发明的不同实施例中，训练预料中所包含的带有句类标记的训练语句的数量(即训练样本数量)根据实际需要可用不同合理值，本发明不限于此。

在得到各个训练语句的词向量矩阵后，该方法便可以中利用这些训练语句的词向量矩阵来对预设模型进行训练。将训练语句的词向量矩阵作为模型的输入数据，将该训练语句的句子类型作为模型的输出。

具体地，利用预设模型对词向量矩阵进行计算得到预测分类值，该预测分类值能够表征该对话语句的问题类型。将所述预测分类值与既有标准标注数值比对(由于该训练语句的句类是已知的，因此其表征句类的标注数值也是已知的)，并根据对比结果调整所述预设模型参数。

在得到用于语句类型的预设模型后，此时也就可以利用该预设模型进行问题类型的识别，从而确定出各个问题语句的问题类型。

对所得到的问题语句进行解析，生成该问题语句的词向量矩阵。本实施例中，在生成对话语句的词向量矩阵时，首先在中对该对话语句进行分词处理，从而得到该对话语句的词语。

例如，对于问题语句“上课地点改在哪里了呢？”而言，通过对该问题语句进行分词处理，可以得到诸如“上课”、“地点”、“改”、“在”、“哪里”、“了”、“呢”以及“？”的词语。需要指出的是，本实施例中使用的是结巴分词，但在本发明的其他实施例中，对问题语句进行分词处理所使用的算法可以根据实际需要采用不同的合理算法，本发明不限于此。

在得到问题语句的词语后，将每个词、词语转换为各自对应的词向量。最后，该方法会在中所得到的词向量按顺序进行拼接，从而得到该对话语句的词向量矩阵。其中，该词向量矩阵优选地为二维矩阵。

例如，根据上述通过分词处理所得到的“上课”、“地点”、“改”、“在”、“哪里”、“了”、“呢”以及“？”均会生成其各自对应的特征向量(即词向量，这些词向量的维度相同)，将这三个词向量按照在对话语句中的顺序进行拼接，这样也就可以得到对应于问题语句“上课地点改在哪里了呢？”的词向量矩阵。

在得到问题语句的词向量矩阵后，基于上述词向量矩阵，利用预设模型确定上述问题语句的问题类型。例如，对于上述问题语句“上课地点改在哪里了呢？”，利用预设模型可以得到该问题语句的问题类型为“日常用语类”。

如图3所示，步骤S3中，

在进行句子语义相似度计算之前，要先进行句子切分并生成词向量矩阵，根据所述词向量矩阵判断句子类型。根据句子类型对问题语句与同类型的其他问题语句进行第一相似度计算。

以句子S₁和句子S₂为例：

S₁：

“C语言这段为啥报错？谢谢

#include<stdlib.h>

int main(){

print(“hello world！”)

return 0；

}”，

S₂：

“python为啥报错？

string＝'./datasets

/data.csv'”

句子S₁切分后为S₁＝['C语言',”,'这','段','为啥','报错','？','谢谢','\n','#','include','<','stdlib','.','h','>','\n','int',”,'main','(',')','{','\n','print','(','”','hello',”,'world','！','”',')','\n','return',”,'0','；','\n','}']

句子S₂切分后为S₂＝['python','为啥','报错','？',”,'string',”,'＝',”,'.','/','datasets','/','data','.','csv']

如图3所示，通过词形相似度计算问题语句与同类型的其他问题语句之间的第一相似度。从句子表面特征来看，两个句子中相同关键词的数量能够反映两个句子的相似度，相同词语越多，说明两个句子的相似度越高，相同词语越少，则相似性越低。因此可以统计两个句子S₁和S₂分别包含的词语数量wordCount(S₁)和wordCount(S₂)，以及两个句子中相同词语的数量SameCount(S₁，S₂)，并利用如下公式计算句子的词形相似度Sim1(S₁，S₂)。

在上文的例中SameCount(S₁，S₂)＝2，wordCount(S₁)＝40，wordCount(S₂)＝16，由公式1计算出

由此可得通过词形相似度计算问题语句与同类型的其他问题语句之间的第一相似度为0.071。

通过词长相似度计算问题语句与同类型的其他问题语句之间的第二相似度。两个句子的长度(句子中包含的词语数量)的差值在一定程度上反映了句子相似程度的大小，通常两个句子的长度差越大，它们的相似度越小，反之，则越大。因此，可利用句子S₁，S₂的长度计算出句长相似度。假设句子S₁的长度为len(S₁)，句子S₂的长度为len(S₂)，并利用如下公式计算句子的词长相似度：

在上文的例中len(S₁)＝40，len(S₂)＝16，由公式2计算出

由此可得通过词形相似度计算问题语句与同类型得其他问题语句之间的第二相似度为0.571。

如图3所示，通过余弦相似度计算问题语句与同类型的其他问题语句之间的第三相似度。通过计算问题语句中切分所得词语的词频和同类型问题语句中切分所得词语的词频，从而得到对应的问题语句词向量矩阵和同类型问题语句词向量矩阵。所述词向量矩阵中的每一个元素由词语在句子中出现的词频计算得来。为句子S₁生成的词向量矩阵中的第i个元素，为句子S₂生成的词向量矩阵中的第i个元素，由所述词向量矩阵计算问题语句与同类型问题语句之间的余弦相似度作为第三相似度。并利用以下公式计算句子的余弦相似度Sim3：

在上文的例中，S₁＝[5.0.1.1.1.2.2.1.1.1.1.1.1.1.0.1.1.0.1.1.1.1.1.0.0.0.1.1.1.0.1.1.1.4.1.1.1.1.]

S₂＝[0.1.0.0.0.0.0.0.0.0.0.0.0.0.1.0.0.1.0.0.0.1.0.1.2.1.1.2.0.1.0.1.0.3.0.0.0.0.]

由公式3计算出

由此可得通过余弦相似度计算问题语句与同类型的其他问题语句之间的第三相似度为0.382。

通过所述第一乘积、所述第二乘积和所述第三乘积相加，得到问题语句与同类型的其它问题语句之间的所述语义相似度。

在所述第一乘积、所述第二乘积和所述第三乘积相加之前，需要确定所述第一相似度对应的第一权重，确定所述第二相似度对应的第二权重，以及确定所述第三相似度对应的第三权重。将所述第一相似度与所述第一权重相乘，得到第一乘积；将所述第二相似度与所述第二权重相乘，得到第二乘积；将所述第一相似度与所述第三权重相乘，得到第三乘积。将所述第一乘积、所述第二乘积和所述第三乘积相加，得到问题语句与同类型的其它问题语句之间的所述语义相似度。需要说明的是，第一权重、第二权重和第三权重可以根据具体需要而设置，第一权重、第二权重和第三权重之和为1。如可将第一权重设置为0.38，第二权重设置为0.12，第三权重设置为0.5，本发明不限于此。当第一相似度为0.071，第一权重为0.38，第二相似度为0.571，第二权重为0.12，第三相似度为0.382，第三权重为0.5时，语义相似度＝0.071×0.38+0.571×0.12+0.382×0.5＝0.027+0.069+0.191＝0.287。

需要说明的是，切分问题语句与同类型问题语句所得的切分词语列表可以根据具体情况进行处理。通过实例发现，在对问题语句和同类型问题语句进行切分后，对切分后的词语列表进行去停用词处理，去除切词后的词语列表中的无关干扰项，例如“\n”，“(空格)”，“，”，“/”等，使得问题语句与同类型问题语句的第一相似度、第二相似度和第三相似度计算更加有效。例如，去除停用词后，通过计算问题语句与同类型问题的余弦相似度作为问题语句与同类型问题语句的第三相似度为根据第一相似度，第二相似度和第三相似度加权计算问题语句与同类型问题语句的语义相似度＝0.071×0.5+0.571×0.3+0.234×0.2＝0.036+0.171+0.047＝0.255。需要指出的是，去除停用词的情况可以根据具体情况而定，本发明不限于此。

如图4所示，步骤S4中，

先按由步骤S3得到的问题语句各同类型的其他问题语句之间的语义相似度从大到小地排序。优选地，按顺序选择前五个同类型的其他问题语句为候选答案。例如：对于问题语句：

“C语言这段为啥报错？谢谢

#include<stdlib.h>

int main(){

print(“hello world！”)

return 0；

}”，候选答案可以为：

C语言用gcc编译器，include<stdlib.h>错误？

你的第一个C语言程序：hello world！

C语言printf函数用法解释

C语言例题常见错误及解析

C语言中一定要有空格吗？

通过改编后Hacker News的排序算法的公式对候选答案进行排序，选排名第一的候选答案所关联的知识库为问题语句的回答。

在本实施例中，votes表示以往答案学生点赞数，time表示距离学生提问问题的时间(单位为小时)，加上2是为了防止最新出现的问题语句导致分母过小(本实施例一开始选择2，默认问题不在知识库中到出现到问题解答的时间为2小时，后续可根据具体实际情况和效果做出调整)。gravity表示"重力因子"(gravity power)，即将问题排名往下拉的力量，默认值为1.8。

需要说明的是，Hacker News的排序算法是一种类似基于投票的热门计数算法，Hacker News是一个主题社区，用户可以为主题投票，根据得票数，***自动统计出热门文章排行榜，同时主题发表时间也会对排名产生影响，新发表的主题比旧的主题更容易得到好的排名，国内豆瓣等用户评分类社区也有参考该算法。

例如：在上述五个候选答案中，根据实际情况的votes、time和gravity来计算并排序。假设候选答案的votes值分别为：10、124、110、148、21，time值分别为：14、23、41、50、12，由公式计算可得候选答案score值分别为：0.068、0.378、0.127、0.121、0.182。综上可得优选的答案为“你的第一个C语言程序：hello world！”。

以上显示和描述了本发明的基本原理、主要特征和优点。本领域的技术人员应该了解，本发明不受上述具体实施例的限制，上述具体实施例和说明书中的描述只是为了进一步说明本发明的原理，在不脱离本发明精神范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护的范围由权利要求书及其等效物界定。

Claims

1.一种程序设计类课程课后答疑***的知识库建立方法，其特征在于，包括如下步骤，

步骤S1、根据交互信息获取并整理收到问题语句；

2.根据权利要求1所述的一种程序设计类课程课后答疑***的知识库建立方法，其特征在于，所述步骤S2具体方法为：

3.根据权利要求2所述的一种程序设计类课程课后答疑***的知识库建立方法，其特征在于，所述语句类型包括日常用语类、课程解释类、讲义资料类、环境配置类、程序原理类、代码调试类和作业解答类。

4.根据权利要求1所述的一种程序设计类课程课后答疑***的知识库建立方法，其特征在于，所述步骤S3中相似度计算包括：

将所述第一相似度与所述第一权重相乘，得到第一乘积；

将所述第二相似度与所述第二权重相乘，得到第二乘积；

将所述第三相似度与所述第三权重相乘，得到第三乘积；

5.根据权利要求1所述的一种程序设计类课程课后答疑***的知识库建立方法，其特征在于，所述步骤S4中，选择与问题语句相似度最高的五个同类型的其他问句作为候选答案，再通过改编后Hacker News的排名算法将所述候选答案进行排序，所述改编后HackerNews的排名算法公式为

其中gravity为1.8；

使用排名第一的候选答案更新问题语句的知识库内容。