CN114971066A - 融合遗忘因素和学习能力的知识追踪方法及*** - Google Patents

融合遗忘因素和学习能力的知识追踪方法及*** Download PDF

Info

Publication number
CN114971066A
CN114971066A CN202210681209.3A CN202210681209A CN114971066A CN 114971066 A CN114971066 A CN 114971066A CN 202210681209 A CN202210681209 A CN 202210681209A CN 114971066 A CN114971066 A CN 114971066A
Authority
CN
China
Prior art keywords
vector
knowledge
knowledge tracking
forgetting
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210681209.3A
Other languages
English (en)
Inventor
朱昶胜
刘杜奎
马芳兰
雷鹏
冯文芳
赵佳伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
INSTITUTE OF SENSOR TECHNOLOGY GANSU ACADEMY OF SCIENCE
Lanzhou University of Technology
Original Assignee
INSTITUTE OF SENSOR TECHNOLOGY GANSU ACADEMY OF SCIENCE
Lanzhou University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by INSTITUTE OF SENSOR TECHNOLOGY GANSU ACADEMY OF SCIENCE, Lanzhou University of Technology filed Critical INSTITUTE OF SENSOR TECHNOLOGY GANSU ACADEMY OF SCIENCE
Priority to CN202210681209.3A priority Critical patent/CN114971066A/zh
Publication of CN114971066A publication Critical patent/CN114971066A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/20—Education
    • G06Q50/205—Education administration or guidance

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Strategic Management (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Evolutionary Computation (AREA)
  • Tourism & Hospitality (AREA)
  • Educational Technology (AREA)
  • Educational Administration (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Primary Health Care (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供一种融合遗忘因素和学***对知识追踪的影响，融合了长短期记忆网络和键值对神经网络，增强了模型的可解释性和预测准确率。

Description

融合遗忘因素和学习能力的知识追踪方法及***
技术领域
本发明涉及知识追踪领域，具体为一种融合遗忘因素和学习能力的知识追踪方法及***。
背景技术
随着互联网的迅速发展，线上教育也逐渐扩大规模，线上教育能够通过学习者的学习轨迹挖掘潜在的学习规律从而实现个性化学习云计算、大数据、人工智能等技术的发展为线上教育实现个性化学习提供了强有力的支持，个性化学习受到越来越多的关注，知识追踪 (knowledge tracing，KT)技术是实现个性化学习的关键技术，知识追踪任务可以描述为：通过学生在学习过程中习题交互序列对学生的知识掌握状态进行追踪，进而预测学生在下个时刻正确回答题目的概率。
现有多数知识追踪模型在一定程度上提高了模型准确率，解决了一些原始模型中存在的问题，但往往忽略了学生学习过程中的遗忘行为和学生自身的学习能力对知识追踪产生的影响。根据教育心理学理论，人类在学习之后会立刻开始遗忘，德国心理学家H.Ebbinghaus 提出了遗忘曲线，揭示了遗忘规律，该规律指出，在最开始阶段是遗忘速度最快的阶段，随着时间推移遗忘的速度会减慢，这说明学生通过学习知识点和复习已经学过的知识点得到的知识掌握程度会随时间减少，如果按照遗忘规律对学习的知识进行复习后能够有效减小遗忘的速度。知识点掌握程度和学生自身的学习能力也息息相关，不同学习能力的学生在学习和复习之后相应知识点的掌握程度的变化也不相同。
发明内容
针对以上问题，本发明公开了一种融合遗忘因素和学习能力的知识追踪方法及***，考虑了遗忘因素和学习能力对知识追踪的影响，融合长短期记忆网络和键值对神经网络，增强知识追踪模型的可解释性和预测能力，能够对学生的知识掌握程度实时追踪，预测学生的未来答题表现。
为解决上述技术问题，本发明提供一种融合遗忘因素和学习能力的知识追踪方法，包括以下步骤：
S1：获取知识追踪数据集，所述知识追踪数据集包括：回答习题标签、习题回答结果、重复答题时间间隔、序列时间间隔和历史答题次数；
S2：将所述知识追踪数据集输入到知识追踪模型中，将习题标签向量化得到嵌入向量kt，根据所述嵌入向量kt和知识点存储矩阵获取注意力权重wt，并根据所述注意力权重wt和知识掌握状态矩阵
Figure BDA0003698489980000021
获取读相关向量Rt；
S3：根据所述知识追踪数据集获取遗忘向量Ft和元组(qt，rt)，将所述元组(qt，rt)进行向量化处理得到答题嵌入向量vt，将所述答题嵌入向量vt和所述遗忘向量Ft连接得到向量
Figure BDA0003698489980000022
并根据所述向量
Figure BDA0003698489980000023
获取记忆擦除向量et和记忆更新向量at；
S4：通过所述记忆擦除向量et和所述记忆更新向量at对当前知识掌握状态矩阵
Figure BDA0003698489980000024
进行更新，获取遗忘处理后的中间知识状态矩阵
Figure BDA0003698489980000025
Figure BDA0003698489980000026
i表示习题；
S5：根据所述答题嵌入向量vt、对应的注意力权重wt(i)和所述中间知识状态矩阵
Figure BDA0003698489980000027
获取由长短期记忆网络学习之后的知识掌握状态矩阵
Figure BDA0003698489980000028
Figure BDA0003698489980000029
β表示偏置向量；
S6：预测正确答题概率pt，通过所述正确答题概率pt和真实的习题回答结果rt之间的交叉熵损失函数对所述知识追踪模型进行优化，所述交叉熵损失函数
Figure BDA0003698489980000031
Figure BDA0003698489980000032
log的底数为e或2。
在本发明的较佳实施例中，上述方法还包括：
S7：根据所述交叉熵损失函数最小化的梯度最优值，获取所述知识掌握状态矩阵
Figure BDA0003698489980000033
和偏差参数矩阵的优化值。
在本发明的较佳实施例中，上述方法还包括：
重复执行S2至S7的步骤，深度遍历所述知识追踪数据集中的每一条知识追踪序列数据，对所述知识掌握状态矩阵和所述偏差参数矩阵循环优化，至损失不再下降时结束。
在本发明的较佳实施例中，上述S2的步骤之后，包括：
将所述读相关向量Rt和所述嵌入向量kt串联，并通过全连接层Tanh函数获取汇总向量ft；
根据所述全连接层Tanh函数和所述汇总向量ft，获取用户的学***：
θti＝Tanh(WΦft+bΦ)
其中，θti表示对于在t时刻标签为i的***，WΦ表示全连接层函数的权重系数，bΦ表示全连接层函数的偏置向量。
在本发明的较佳实施例中，上述S2的步骤之后，包括：
根据所述***θti和Sigmoid激活函数预测用户的正确答题概率pt：
Figure BDA0003698489980000034
其中，
Figure BDA0003698489980000035
为权重向量，b2为偏置向量。
在本发明的较佳实施例中，上述记忆擦除向量et：
Figure BDA0003698489980000036
所述记忆更新向量at：
Figure BDA0003698489980000037
其中，
Figure BDA0003698489980000041
和
Figure BDA0003698489980000042
为权重向量，be和ba为偏置向量。
在本发明的较佳实施例中，上述S5的步骤，包括：
使用所述答题嵌入向量vt和对应的注意力权重wt(i)作为长短期记忆网络的输入，以及所述中间知识状态矩阵
Figure BDA0003698489980000043
作为上个长短期记忆网络节点的输出门结果输入当前节点，获取长短期记忆网络输出学习之后的知识掌握状态
Figure BDA0003698489980000044
一种融合遗忘因素和学习能力的知识追踪***，用于实现上述方法。
本发明的有益效果在于：考虑了重复答题时间间隔、序列时间间隔、历史答题次数等遗忘因素以及学***对知识追踪的影响，融合了长短期记忆网络和键值对神经网络，增强了模型的可解释性，提高了模型预测准确率。
附图说明
图1为本发明示出的一种融合遗忘因素和学习能力的知识追踪方法的流程图。
图2为本发明示出的一种融合遗忘因素和学习能力的知识追踪模块图。
图3为本发明示出的一种长短期记忆网络网络单个细胞结构图。
具体实施方式
为更进一步阐述本发明为达成预定发明目的所采取的技术手段及功效，下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明的实施例保护的范围。通过具体实施方式的说明，当可对本发明为达成预定目的所采取的技术手段及功效得以更加深入且具体的了解，而且所附图式仅是提供参考与说明之用，并非用来对本发明加以限制。
请参考图1，图1为本发明示出的一种融合遗忘因素和学习能力的知识追踪方法的流程图。
如图1所示，该实施例所述的融合遗忘因素和学习能力的知识追踪方法方法，包括以下步骤：
S1：获取知识追踪数据集，所述知识追踪数据集包括：回答习题标签、习题回答结果、重复答题时间间隔、序列时间间隔和历史答题次数；
S2：将所述知识追踪数据集输入到知识追踪模型中，将习题标签向量化得到嵌入向量kt，根据所述嵌入向量kt和知识点存储矩阵获取注意力权重wt，并根据所述注意力权重wt和知识掌握状态矩阵
Figure BDA0003698489980000051
获取读相关向量Rt；
S3：根据所述知识追踪数据集获取遗忘向量Ft和元组(qt，rt)，将所述元组(qt，rt)进行向量化处理得到答题嵌入向量vt，将所述答题嵌入向量vt和所述遗忘向量Ft连接得到向量
Figure BDA0003698489980000052
并根据所述向量
Figure BDA0003698489980000053
获取记忆擦除向量et和记忆更新向量at；
S4：通过所述记忆擦除向量et和所述记忆更新向量at对当前知识掌握状态矩阵
Figure BDA0003698489980000054
进行更新，获取遗忘处理后的中间知识状态矩阵
Figure BDA0003698489980000055
Figure BDA0003698489980000056
i表示习题；
S5：根据所述答题嵌入向量vt、对应的注意力权重wt(i)和所述中间知识状态矩阵
Figure BDA0003698489980000057
获取由长短期记忆网络学习之后的知识掌握状态矩阵
Figure BDA0003698489980000058
Figure BDA0003698489980000059
β表示偏置向量；
S6：预测正确答题概率pt，通过所述正确答题概率pt和真实的习题回答结果rt之间的交叉熵损失函数对所述知识追踪模型进行优化，所述交叉熵损失函数
Figure BDA00036984899800000510
Figure BDA00036984899800000511
log的底数为e或2。
通过上述方式，考虑了学生在学习过程中的遗忘因素和学生自身的学习能力对知识追踪产生的影响，并融合长短期记忆网络(LSTM， Long Short-Term Memory)和键值对神经网络，增强知识追踪模型的可解释性和预测能力。
可选地，本发明所述的方法还包括：
S7：根据所述交叉熵损失函数最小化的梯度最优值，获取所述知识掌握状态矩阵
Figure BDA0003698489980000061
和偏差参数矩阵的优化值。
可选地，本发明所述的方法还包括：
重复执行S2至S7的步骤，深度遍历所述知识追踪数据集中的每一条知识追踪序列数据，对所述知识掌握状态矩阵和所述偏差参数矩阵循环优化，至损失不再下降时结束。
可选地，S2的步骤之后，包括：
将所述读相关向量Rt和所述嵌入向量kt串联，并通过全连接层 Tanh函数获取汇总向量ft；
根据所述全连接层Tanh函数和所述汇总向量ft，获取用户(即学生)的学***：
θti＝Tanh(WΦft+bΦ)
其中，θti表示对于在t时刻标签为i的***，WΦ表示全连接层函数的权重系数，bΦ表示全连接层函数的偏置向量。
可选地，S2的步骤之后，包括：
根据所述***θti和Sigmoid激活函数预测用户的正确答题概率pt：
Figure BDA0003698489980000062
其中，
Figure BDA0003698489980000063
为权重向量，b2为偏置向量。
可选地，所述记忆擦除向量et：
Figure BDA0003698489980000064
所述记忆更新向量at：
Figure BDA0003698489980000065
其中，
Figure BDA0003698489980000071
和
Figure BDA0003698489980000072
为权重向量，be和ba为偏置向量。
可选地，S5的步骤，包括：
使用所述答题嵌入向量vt和对应的注意力权重wt(i)作为长短期记忆网络的输入，以及所述中间知识状态矩阵
Figure BDA0003698489980000073
作为上个长短期记忆网络节点的输出门结果输入当前节点，获取长短期记忆网络输出学习之后的知识掌握状态
Figure BDA0003698489980000074
示例性地，本发明所述融合遗忘因素和学习能力的知识追踪训练过程为：
获取训练所用的知识追踪数据集，该训练用知识追踪数据集包括多个时间序列步骤，每一个时间序列步骤包括学习者回答习题标签、习题回答结果(即习题回答正确或习题回答错误)和遗忘因素：重复答题时间间隔、序列时间间隔和历史答题次数。
将处理好的数据集输入到知识追踪模型中，***，WΦ表示全连接层函数的权重系数，bΦ表示全连接层函数的偏置向量。再通过学***在全连接层中使用Sigmoid 激活函数预测出学生正确答题概率，计算公式为：
Figure BDA0003698489980000076
其中，
Figure BDA0003698489980000077
为权重向量，b2为偏置向量。
将三种遗忘因素标量进行组合得到遗忘向量Ft，将习题标签qt和习题回答结果rt组合成元组(qt，rt)；将元组(qt，rt)和嵌入矩阵相乘得到答题嵌入向量vt(vt用来表示学生尝试答题得到的知识增量)，再将答题嵌入向量vt和遗忘向量Ft连接得到向量
Figure BDA0003698489980000078
再使用向量
Figure BDA0003698489980000079
计算记忆擦除向量et和记忆更新向量at。
使用记忆擦除向量et和记忆更新向量at对当前知识掌握状态矩阵
Figure BDA0003698489980000081
进行更新，得到遗忘处理后的中间知识状态矩阵
Figure BDA0003698489980000082
Figure BDA0003698489980000083
将答题嵌入向量vt和对应的注意力权重wt(i)作为LSTM网络的输入，中间知识状态矩阵
Figure BDA0003698489980000084
作为上个LSTM节点的输出门结果输入当前节点，由LSTM网络输出学习之后的知识掌握状态矩阵：
Figure BDA0003698489980000085
使用预测的正确答案概率pt和真实的习题回答结果rt之间的交叉熵损失函数来对模型进行优化，通过交叉熵损失函数最小化对模型进行更新，例如，将模型中的嵌入矩阵A和B、神经网络权重、偏置向量和记忆矩阵进行更新。交叉熵损失函数为：
Figure BDA0003698489980000086
其中，
Figure BDA0003698489980000087
为交叉熵损失函数，log的底数为e或者2。
利用所得损失函数，计算损失函数最小化的梯度最优，得到所述知识掌握状态矩阵
Figure BDA0003698489980000088
和偏差参数矩阵的优化值。
重复执行上述步骤，深度遍历知识追踪数据集中的每一条知识追踪序列数据，对所述知识掌握状态矩阵和偏差参数矩阵循环优化，至损失不再下降为止。
请参阅图2，图2是本发明示出的一种融合遗忘因素和学习能力的知识追踪模块图。该模块图包含以下步骤：
获取训练所用的知识追踪数据集，该训练用知识追踪数据集包括多个时间序列步骤，每一个时间序列步骤包括学习者回答习题标签、改题目回答是否正确的结果、重复答题时间间隔、序列时间间隔、历史答题次数；
将处理好的数据集输入到模型中，习题标签向量化得到嵌入向量 kt，将该向量输入改进后的键值对神经网络中。
将三种遗忘因素标量进行组合得到遗忘向量Ft，将元组(qt，rt)和嵌入矩阵相乘得到答题嵌入向量vt，再将写向量vt和遗忘向量Ft连接得到向量
Figure BDA0003698489980000091
将该向量输入到改进后的键值对神经网络中。
改进后的键值对神经网络内部计算出读相关向量，并对知识掌握状态矩阵进行更新。
使用计算得出的读相关向量计算出知识掌握状态和学习能力，进而得到最终答题正确预测概率。
示例性地，图2中改进后的键值对神经网络，即本发明在原有的键值对神经网络后加入LSTM/长短期记忆网络后构成的模型。
请参阅图3，图3为本发明示出的一种长短期记忆网络单个细胞结构图。将答题嵌入向量vt和对应的注意力权重wt(i)作为LSTM网络的输入，中间知识状态矩阵
Figure BDA0003698489980000092
作为上个LSTM节点的输出门结果输入当前节点，由LSTM网络输出学习之后的知识掌握状态矩阵。
表1
Figure 1
上表为本发明与贝叶斯知识追踪模型和深度知识追踪模型之间的对比结果。评价指标采用AUC值，AUC为深度学习预测分类中的常用指标，AUC越大，说明预测精度越高。本例在两个真实采集的数据集ASSIST 2012、slepemapy.cz上测试评价，均取得了最佳效果。
本发明提供的融合遗忘因素和学习能力的知识追踪方法，通过神经网络对学习能力建模，提高了知识追踪过程的可解释性，考虑了遗忘因素和学习能力对知识追踪的影响，融合LSTM网络和键值对神经网络，增强知识追踪模型的可解释性和预测能力。
本发明还提供一种融合遗忘因素和学习能力的知识追踪***，用于实现上述任一实施例中的融合遗忘因素和学习能力的知识追踪方法的步骤。
本发明还提供一种智能终端，智能终端包括存储器、处理器，存储器上存储有融合遗忘因素和学习能力的知识追踪程序，融合遗忘因素和学习能力的知识追踪程序被处理器执行时实现上述任一实施例中的融合遗忘因素和学习能力的知识追踪方法的步骤。
本发明还提供一种计算机可读存储介质，计算机可读存储介质上存储有融合遗忘因素和学习能力的知识追踪程序，融合遗忘因素和学习能力的知识追踪程序被处理器执行时实现上述任一实施例中的融合遗忘因素和学习能力的知识追踪方法的步骤。
在本发明提供的融合遗忘因素和学习能力的知识追踪***、智能终端和计算机可读存储介质的实施例中，可以包含任一上述融合遗忘因素和学习能力的知识追踪方法实施例的全部技术特征，说明书拓展和解释内容与上述方法的各实施例基本相同，在此不再做赘述。
可以理解，上述场景仅是作为示例，并不构成对于本发明实施例提供的技术方案的应用场景的限定，本发明的技术方案还可应用于其他场景。例如，本领域普通技术人员可知，随着***架构的演变和新业务场景的出现，本发明实施例提供的技术方案对于类似的技术问题，同样适用。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
在本发明中，对于相同或相似的术语概念、技术方案和/或应用场景描述，一般只在第一次出现时进行详细描述，后面再重复出现时，为了简洁，一般未再重复阐述，在理解本发明技术方案等内容时，对于在后未详细描述的相同或相似的术语概念、技术方案和/或应用场景描述等，可以参考其之前的相关详细描述。
本发明技术方案的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本发明记载的范围。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (8)

1.一种融合遗忘因素和学习能力的知识追踪方法，其特征在于，包括以下步骤：
S1：获取知识追踪数据集，所述知识追踪数据集包括：回答习题标签、习题回答结果、重复答题时间间隔、序列时间间隔和历史答题次数；
S2：将习题标签向量化得到嵌入向量kt，根据所述嵌入向量kt和知识点存储矩阵获取注意力权重wt，并根据所述注意力权重wt和知识掌握状态矩阵
Figure FDA0003698489970000011
获取读相关向量Rt；
S3：根据所述知识追踪数据集获取遗忘向量Ft和元组(qt,rt)，将所述元组(qt,rt)进行向量化处理得到答题嵌入向量vt，将所述答题嵌入向量vt和所述遗忘向量Ft连接得到向量
Figure FDA0003698489970000012
并根据所述向量
Figure FDA0003698489970000013
获取记忆擦除向量et和记忆更新向量at；
S4：通过所述记忆擦除向量et和所述记忆更新向量at对当前知识掌握状态矩阵
Figure FDA0003698489970000014
进行更新，获取遗忘处理后的中间知识状态矩阵
Figure FDA0003698489970000015
Figure FDA0003698489970000016
i表示习题；
S5：根据所述答题嵌入向量vt、对应的注意力权重wt(i)和所述中间知识状态矩阵
Figure FDA0003698489970000017
获取由长短期记忆网络学习之后的知识掌握状态矩阵
Figure FDA0003698489970000018
Figure FDA0003698489970000019
β表示偏置向量；
S6：预测正确答题概率pt，通过所述正确答题概率pt和真实的习题回答结果rt之间的交叉熵损失函数对所述知识追踪模型进行优化，所述交叉熵损失函数
Figure FDA00036984899700000110
Figure FDA00036984899700000111
log的底数为e或2。
2.如权利要求1所述的融合遗忘因素和学习能力的知识追踪方法，其特征在于，所述方法还包括：
S7：根据所述交叉熵损失函数最小化的梯度最优值，获取所述知识掌握状态矩阵
Figure FDA0003698489970000021
和偏差参数矩阵的优化值。
3.如权利要求2所述的融合遗忘因素和学习能力的知识追踪方法，其特征在于，所述方法还包括：
重复执行S2至S7的步骤，深度遍历所述知识追踪数据集中的每一条知识追踪序列数据，对所述知识掌握状态矩阵和所述偏差参数矩阵循环优化，至损失不再下降时结束。
4.如权利要求1所述的融合遗忘因素和学习能力的知识追踪方法，其特征在于，所述S2的步骤之后，包括：
将所述读相关向量Rt和所述嵌入向量kt串联，并通过全连接层Tanh函数获取汇总向量ft；
根据所述全连接层Tanh函数和所述汇总向量ft，获取用户的学***：
θti＝Tanh(WΦft+bΦ)
其中，θti表示对于在时刻标签为的***，WΦ表示全连接层函数的权重系数，bΦ表示全连接层函数的偏置向量。
5.如权利要求4所述的融合遗忘因素和学习能力的知识追踪方法，其特征在于，所述S2的步骤之后，包括：
根据所述***θti和Sigmoid激活函数预测用户的正确答题概率pt：
Figure FDA0003698489970000022
其中，
Figure FDA0003698489970000023
为权重向量，b2为偏置向量。
6.如权利要求1所述的融合遗忘因素和学习能力的知识追踪方法，其特征在于，所述记忆擦除向量et：
Figure FDA0003698489970000024
所述记忆更新向量at：
Figure FDA0003698489970000025
其中，
Figure FDA0003698489970000026
和
Figure FDA0003698489970000027
为权重向量，be和ba为偏置向量。
7.如权利要求1或2所述的融合遗忘因素和学习能力的知识追踪方法，其特征在于，所述S5的步骤，包括：
使用所述答题嵌入向量vt和对应的注意力权重wt(i)作为长短期记忆网络的输入，以及所述中间知识状态矩阵
Figure FDA0003698489970000031
作为上个长短期记忆网络节点的输出门结果输入当前节点，获取长短期记忆网络输出学习之后的知识掌握状态
Figure FDA0003698489970000032
8.一种融合遗忘因素和学习能力的知识追踪***，用于实现如权利要求1至7中任一项所述的方法。
CN202210681209.3A 2022-06-16 2022-06-16 融合遗忘因素和学习能力的知识追踪方法及*** Pending CN114971066A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210681209.3A CN114971066A (zh) 2022-06-16 2022-06-16 融合遗忘因素和学习能力的知识追踪方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210681209.3A CN114971066A (zh) 2022-06-16 2022-06-16 融合遗忘因素和学习能力的知识追踪方法及***

Publications (1)

Publication Number Publication Date
CN114971066A true CN114971066A (zh) 2022-08-30

Family

ID=82963873

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210681209.3A Pending CN114971066A (zh) 2022-06-16 2022-06-16 融合遗忘因素和学习能力的知识追踪方法及***

Country Status (1)

Country Link
CN (1) CN114971066A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114971972A (zh) * 2022-06-16 2022-08-30 兰州理工大学 融合遗忘因素和习题难度的深度知识追踪方法及智能终端
CN116578694A (zh) * 2023-04-21 2023-08-11 华南师范大学 解纠缠知识追踪方法、***、装置和介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210256354A1 (en) * 2020-02-18 2021-08-19 Riiid Inc. Artificial intelligence learning-based user knowledge tracing system and operating method thereof
CN113378581A (zh) * 2021-06-25 2021-09-10 浙江工商大学 一种基于多元概念注意力模型的知识追踪方法及***
CN113626572A (zh) * 2021-08-11 2021-11-09 中国科学技术大学 一种学习过程一致性的预测方法和相关设备
KR20210141424A (ko) * 2021-02-02 2021-11-23 (주)뤼이드 인공 지능 학습 기반의 사용자 지식 추적 시스템 및 그것의 동작 방법
CN113793239A (zh) * 2021-08-13 2021-12-14 华南理工大学 融合学习行为特征的个性化知识追踪方法与***
KR20220050037A (ko) * 2020-10-15 2022-04-22 (주)뤼이드 인공 지능 학습 기반의 사용자 지식 추적 장치, 시스템 및 그것의 동작 방법

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210256354A1 (en) * 2020-02-18 2021-08-19 Riiid Inc. Artificial intelligence learning-based user knowledge tracing system and operating method thereof
KR20220050037A (ko) * 2020-10-15 2022-04-22 (주)뤼이드 인공 지능 학습 기반의 사용자 지식 추적 장치, 시스템 및 그것의 동작 방법
KR20210141424A (ko) * 2021-02-02 2021-11-23 (주)뤼이드 인공 지능 학습 기반의 사용자 지식 추적 시스템 및 그것의 동작 방법
CN113378581A (zh) * 2021-06-25 2021-09-10 浙江工商大学 一种基于多元概念注意力模型的知识追踪方法及***
CN113626572A (zh) * 2021-08-11 2021-11-09 中国科学技术大学 一种学习过程一致性的预测方法和相关设备
CN113793239A (zh) * 2021-08-13 2021-12-14 华南理工大学 融合学习行为特征的个性化知识追踪方法与***

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
刘杜奎: "基于IRT的可遗忘型深度知识追踪模型研究", 万方数据, 28 December 2023 (2023-12-28), pages 1 - 59 *
徐墨客: "多知识点知识追踪模型与可视化研究", 电化教育研究, vol. 39, no. 10, 21 September 2018 (2018-09-21), pages 53 - 59 *
李晓光: "LFKT:学习与遗忘融合的深度知识追踪模型", 软件学报, vol. 32, no. 03, 11 March 2021 (2021-03-11), pages 818 - 830 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114971972A (zh) * 2022-06-16 2022-08-30 兰州理工大学 融合遗忘因素和习题难度的深度知识追踪方法及智能终端
CN116578694A (zh) * 2023-04-21 2023-08-11 华南师范大学 解纠缠知识追踪方法、***、装置和介质
CN116578694B (zh) * 2023-04-21 2024-01-09 华南师范大学 解纠缠知识追踪方法、***、装置和介质

Similar Documents

Publication Publication Date Title
CN110264091B (zh) 学生认知诊断方法
CN113033808B (zh) 一种基于习题难度和学生能力的深度嵌入知识追踪方法
US11631338B2 (en) Deep knowledge tracing with transformers
CN111582694B (zh) 一种学习评估方法及装置
CN110941723A (zh) 一种知识图谱的构建方法、***及存储介质
CN112116092B (zh) 可解释性知识水平追踪方法、***和存储介质
CN114971066A (zh) 融合遗忘因素和学习能力的知识追踪方法及***
CN107544960B (zh) 一种基于变量绑定和关系激活的自动问答方法
CN112508334A (zh) 融合认知特性及试题文本信息的个性化组卷方法及***
Lu et al. CMKT: Concept map driven knowledge tracing
CN112529155B (zh) 动态知识掌握建模方法、建模***、存储介质及处理终端
CN113361685A (zh) 一种基于学习者知识状态演化表示的知识追踪方法及***
CN114254127A (zh) 学生能力画像方法、学习资源推荐方法及装置
CN112257966A (zh) 模型处理方法、装置、电子设备及存储介质
CN113591988B (zh) 知识认知结构分析方法、***、计算机设备、介质、终端
CN114385801A (zh) 一种基于分层细化lstm网络的知识追踪方法及***
CN114021722A (zh) 一种融合认知刻画的注意力知识追踪方法
CN114299349A (zh) 一种基于多专家***和知识蒸馏的众包图像学习方法
CN113283488B (zh) 一种基于学习行为的认知诊断方法及***
Wei et al. Time interval aware self-attention approach for knowledge tracing
CN114154839A (zh) 一种基于在线教育平台数据的课程推荐方法
Yi [Retracted] Research on English Teaching Reading Quality Evaluation Method Based on Cognitive Diagnostic Evaluation
CN112818100A (zh) 一种融合题目难度的知识追踪方法及***
CN112766513B (zh) 一种记忆协同的知识追踪方法及***
CN114925218A (zh) 一种基于自适应图的学习者知识认知结构动态挖掘方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination