CN115879536A - 一种基于因果效应的学习认知分析模型鲁棒性优化方法 - Google Patents
一种基于因果效应的学习认知分析模型鲁棒性优化方法 Download PDFInfo
- Publication number
- CN115879536A CN115879536A CN202211233184.7A CN202211233184A CN115879536A CN 115879536 A CN115879536 A CN 115879536A CN 202211233184 A CN202211233184 A CN 202211233184A CN 115879536 A CN115879536 A CN 115879536A
- Authority
- CN
- China
- Prior art keywords
- cognitive
- learning
- causal
- analysis
- robustness optimization
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004458 analytical method Methods 0.000 title claims abstract description 143
- 230000001364 causal effect Effects 0.000 title claims abstract description 122
- 238000005457 optimization Methods 0.000 title claims abstract description 113
- 238000000034 method Methods 0.000 title claims abstract description 110
- 230000019771 cognition Effects 0.000 title claims abstract description 61
- 230000001149 cognitive effect Effects 0.000 claims abstract description 136
- 230000008569 process Effects 0.000 claims abstract description 59
- 230000008447 perception Effects 0.000 claims abstract description 42
- 230000006385 cognitive dynamics Effects 0.000 claims abstract description 29
- 230000000694 effects Effects 0.000 claims description 42
- 238000004364 calculation method Methods 0.000 claims description 23
- 230000007246 mechanism Effects 0.000 claims description 20
- 238000005070 sampling Methods 0.000 claims description 17
- 238000000605 extraction Methods 0.000 claims description 13
- 230000001788 irregular Effects 0.000 claims description 11
- 238000012549 training Methods 0.000 claims description 9
- 238000010276 construction Methods 0.000 claims description 8
- 238000013508 migration Methods 0.000 claims description 8
- 230000005012 migration Effects 0.000 claims description 8
- 238000004590 computer program Methods 0.000 claims description 7
- 210000002569 neuron Anatomy 0.000 claims description 7
- 238000003062 neural network model Methods 0.000 claims description 6
- 230000008859 change Effects 0.000 claims description 5
- 238000013432 robust analysis Methods 0.000 claims description 5
- 238000012935 Averaging Methods 0.000 claims description 4
- 230000006998 cognitive state Effects 0.000 claims description 4
- 238000001514 detection method Methods 0.000 claims description 4
- 230000006870 function Effects 0.000 description 13
- 238000013461 design Methods 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000002441 reversible effect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000036992 cognitive tasks Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000012880 independent component analysis Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000000059 patterning Methods 0.000 description 1
- 230000001242 postsynaptic effect Effects 0.000 description 1
- 230000000087 stabilizing effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于因果效应的学习认知分析模型鲁棒性优化方法，方法包括：构建混合学习过程的认知分析多类型模型；构建学习者认知动态因果网络与因果效应框架；根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。本发明能够提高模型的鲁棒性，并且提高模型分析效率，可广泛应用于计算机技术领域。
Description
技术领域
本发明涉及计算机技术领域，尤其是一种基于因果效应的学习认知分析模型鲁棒性优化方法。
背景技术
混合学习多模态过程数据蕴含了丰富的学习认知刻画信息，但其因素众多，且随时空持续变化，现有主流知识追踪与认知诊断方法大多数是基于独立同分布假设，无法适应数据分布多变的混合学习场景。
目前混合学习认知建模分析在复杂场景下鲁棒性存在不足，复杂教育场景下模型分析效果低下。
发明内容
有鉴于此，本发明实施例提供一种基于因果效应的学习认知分析模型鲁棒性优化方法，提高模型的鲁棒性，并且提高模型分析效率。
本发明实施例的一方面提供了一种基于因果效应的学习认知分析模型鲁棒性优化方法，包括：
构建混合学习过程的认知分析多类型模型；
构建学习者认知动态因果网络与因果效应框架；
根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化；
其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。
可选地，所述构建混合学习过程的认知分析多类型模型，包括：
对采集的多模态学习过程数据进行模态特征抽取；其中，所述模态特征包括视频特征、音频特征和文本特征；
采用多类型主干网络和时序网络，对抽取到的多模态特征进行联合学习，获取学习认知特征的全局表示；
针对不同学习认知计算下游任务，构建不同的认知分类器或者回归器。
可选地，所述构建学习者认知动态因果网络与因果效应框架，包括：
通过学习认知影响变量检测和因果有向图构建，进行学习者认知因果图构建；
利用领域常用因果效应计算方法，采用多路效应计算的方式，进行效应平均或最值化方法，获取因果效应计算结果。
可选地，当所述鲁棒性优化为混合学习过程认知分析时域感知鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
基于直接总因果效应框架与学习者认知动态因果网络模型，提出数据感知不确定性因素的合理因果假设，构建学习认知数据感知进行反事实推断分析；
针对可能存在混合学习过程数据部分缺失问题，构建基于因果总效应导向性随机门控网络机制，进行潜在数据感知缺失场景干预数据生成，增强学习认知分析模型优化空间搜索；
针对复杂情境下数据感知不规则采样粒度问题，基于时序微分神经网络模型，构造连续时域下任意数据感知采样粒度方法；
通过随机门控机制与不规则连续时域感知方法结合使用，实现混合学习过程认知分析时域感知优化。
可选地，当所述鲁棒性优化为混合学习多模态认知分析模型结构鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
分析学习认知分析网络结构权重分布特点，结合生物学可塑性理论，构建针对复杂认知分析场景的波动量抑制-增益模型结构可塑性机制，并在认知分析模型中，确定时序编码器和解码器的神经元连接波动量描述；
针对复杂场景学习认知计算任务数据变化特性，结合不确定因素因果总效应计算框架，确定可塑性权重自适应动态更新规则；
根据学习认知分析模型结构特点，进行可塑性动态权重的架构嵌入，完成混合学习多模态认知分析模型结构鲁棒性优化。
可选地，当所述鲁棒性优化为复杂场景下认知数据分布偏移目标域鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
基于元分布与动态学习认知因果表征，确定学习认知分析任务的复杂场景数据的迁移动态分布，分析预训练数据源域与应用目标域的分布偏移潜在过程；
获取迁移的动态分布的预估值，进行学习认知分析目标数据域以及进行目标独立成分抽取与增益；
根据增益目标域独立成分集，进行目标域数据增强生成，并基于增强后的数据，进行目标域经验风险最小化优化，完成复杂场景下认知数据分布偏移目标域学习认知状态鲁棒性分析。
本发明实施例的另一方面还提供了一种基于因果效应的学习认知分析模型鲁棒性优化装置，包括：
第一模块，用于构建混合学习过程的认知分析多类型模型；
第二模块，用于构建学习者认知动态因果网络与因果效应框架；
第三模块，用于根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化；
其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。
本发明实施例的另一方面还提供了一种电子设备，包括处理器以及存储器；
所述存储器用于存储程序；
所述处理器执行所述程序实现如前面所述的方法。
本发明实施例的另一方面还提供了一种计算机可读存储介质，所述存储介质存储有程序，所述程序被处理器执行实现如前面所述的方法。
本发明实施例还公开了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器可以从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行前面的方法。
本发明的实施例构建混合学习过程的认知分析多类型模型；构建学习者认知动态因果网络与因果效应框架；根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。本发明能够提高模型的鲁棒性，并且提高模型分析效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的整体步骤流程图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
针对现有技术存在的问题，本发明实施例的一方面提供了一种基于因果效应的学习认知分析模型鲁棒性优化方法，包括：
构建混合学习过程的认知分析多类型模型；
构建学习者认知动态因果网络与因果效应框架；
根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化；
其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。
可选地，所述构建混合学习过程的认知分析多类型模型，包括：
对采集的多模态学习过程数据进行模态特征抽取；其中，所述模态特征包括视频特征、音频特征和文本特征；
采用多类型主干网络和时序网络，对抽取到的多模态特征进行联合学习，获取学习认知特征的全局表示；
针对不同学习认知计算下游任务，构建不同的认知分类器或者回归器。
可选地，所述构建学习者认知动态因果网络与因果效应框架，包括：
通过学习认知影响变量检测和因果有向图构建，进行学习者认知因果图构建；
利用领域常用因果效应计算方法，采用多路效应计算的方式，进行效应平均或最值化方法，获取因果效应计算结果。
可选地，当所述鲁棒性优化为混合学习过程认知分析时域感知鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
基于直接总因果效应框架与学习者认知动态因果网络模型，提出数据感知不确定性因素的合理因果假设，构建学习认知数据感知进行反事实推断分析；
针对可能存在混合学习过程数据部分缺失问题，构建基于因果总效应导向性随机门控网络机制，进行潜在数据感知缺失场景干预数据生成，增强学习认知分析模型优化空间搜索；
针对复杂情境下数据感知不规则采样粒度问题，基于时序微分神经网络模型，构造连续时域下任意数据感知采样粒度方法；
通过随机门控机制与不规则连续时域感知方法结合使用，实现混合学习过程认知分析时域感知优化。
可选地，当所述鲁棒性优化为混合学习多模态认知分析模型结构鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
分析学习认知分析网络结构权重分布特点，结合生物学可塑性理论，构建针对复杂认知分析场景的波动量抑制-增益模型结构可塑性机制，并在认知分析模型中，确定时序编码器和解码器的神经元连接波动量描述；
针对复杂场景学习认知计算任务数据变化特性，结合不确定因素因果总效应计算框架，确定可塑性权重自适应动态更新规则；
根据学习认知分析模型结构特点，进行可塑性动态权重的架构嵌入，完成混合学习多模态认知分析模型结构鲁棒性优化。
可选地，当所述鲁棒性优化为复杂场景下认知数据分布偏移目标域鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
基于元分布与动态学习认知因果表征，确定学习认知分析任务的复杂场景数据的迁移动态分布，分析预训练数据源域与应用目标域的分布偏移潜在过程；
获取迁移的动态分布的预估值，进行学习认知分析目标数据域以及进行目标独立成分抽取与增益；
根据增益目标域独立成分集，进行目标域数据增强生成，并基于增强后的数据，进行目标域经验风险最小化优化，完成复杂场景下认知数据分布偏移目标域学习认知状态鲁棒性分析。
本发明实施例的另一方面还提供了一种基于因果效应的学习认知分析模型鲁棒性优化装置，包括：
第一模块，用于构建混合学习过程的认知分析多类型模型；
第二模块，用于构建学习者认知动态因果网络与因果效应框架；
第三模块，用于根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化；
其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。
本发明实施例的另一方面还提供了一种电子设备，包括处理器以及存储器；
所述存储器用于存储程序；
所述处理器执行所述程序实现如前面所述的方法。
本发明实施例的另一方面还提供了一种计算机可读存储介质，所述存储介质存储有程序，所述程序被处理器执行实现如前面所述的方法。
本发明实施例还公开了一种计算机程序产品或计算机程序，该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读存储介质中。计算机设备的处理器可以从计算机可读存储介质读取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行前面的方法。
下面结合说明书附图，对本发明的具体实现过程进行详细描述：
如图1所示，本发明针对目前混合学习认知建模分析在复杂场景下鲁棒性存在不足问题，结合因果学习研究进展，以多模态学习过程数据为基础，提出面向复杂学习场景下基于因果效应的认知分析模型鲁棒性优化方法，解决复杂教育场景下模型分析效果低下等挑战性问题。本发明的具体步骤包括：S1、构建混合学习过程的认知分析多类型模型；S2、构建学习者认知动态因果网络与因果效应框架；S3、根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。
下面针对各个步骤的具体实现过程进行介绍：
S1、混合学习过程多模态认知分析模型框架构建：
本发明所提鲁棒性分析方法主要是针对混合学习过程多模态认知分析模型，该分析模型框架主要包括多模态特征抽取，多模态特征联合学习，认知分析下游任务构建等。下面对框架内这几部主要功能和需要进行鲁棒性优化的方面进行阐述。
1)、学习过程多模态多特征抽取：这部分主要是对采集的多模态学习过程数据进行模态特征抽取，如视频特征，音频特征，文本特征等，为后续多模态特征联合学习准备特征数据。对于不同模态特征抽取，可以用不同骨干网络进行抽取，本发明统一使用Transformer网络作为骨干网络，针对不同模态特征进行相应的预训练优化。由于采集数据涉及时空转换，数据的采样会在采样时间分辨率和缺失方面存在较大问题，针对这个问题，本发明提出混合学习过程认知分析时域感知鲁棒性优化增强设计，将在后面进一步阐述。
2)、多模态特征联合学习：这部主要是对已经抽取的多模态特征进行联合学习，以获取学习认知特征全局表示，主要采用“多类型主干网络+时序网络”架构。由于采集的时序数据类型多样，有结构化或非结构化的，有图结构或非图结构的，抽取相应特征也会因为所用模型结构特点，存在相应结构“偏见”或“偏置”。在多特征联系学习时，也会用到不同网络模块，也存在着类似的。针对这个问题，本发明提出面向混合多模态认知分析模型结构鲁棒性优化增强设计，将在后面进一步阐述。
3)、认知分析下游任务构建：针对不同学习认知计算下游任务，需要构建不同的认知分类/回归器。这些学习认知任务虽然在存在着许多相似之处，都可以采用“大规模预训练(大模型，来源域)+目标任务微调(小数据，目标域)”范式进行应用分析，但依然存在源域和目标域分布偏移问题，造成新训练模型复杂场景适应性差等问题。针对这个问题，本发明提出复杂场景下认知数据分布偏移目标域鲁棒性优化增强设计，将在后面进一步阐述。
S2、学习者认知因果发现与因果效应框架设计
本发明需要基于学习认知因果效应进行学习认知分析模型的多方面鲁棒性优化，因此需要构建学习者认知因果图和因果效应计算机制。
1)、学习者认知因果图构建：学习者认知因果图构建主要有学习认知影响变量检测、因果有向图构建两步。其中学习认知因果变量采用专家定义和自动发现两种方式，专家定义主要采用文献调研方式，确认目前领域内公认学习认知影响变量，自动发现的方法主要是对采集的数据进行大规模条件独立性测试，获取潜在未被发现的学习认知影响变量。学习认知因果图构建主要采用有向图梯度下降法进行实现，主要是把学习认知因果图表达成有向邻接矩阵，通过误差梯度反向传播进行学习者认知因果图拟合，为增加自动生成因果图可解释性，对于目前领域内公认的因果关系会在自动构图之前进行预填充，然后在学习认知因果图构建过程中保持不变。在构图过程中设定预定的可接受误差损失，到达可接受误差则学习认知因果图构建完成。
2)、因果效应框架设计：在模型鲁棒性优化过程中需要进行多次因果效应计算，本发明因果效应计算采用“多路计算+结果优化”框架，即:利用领域常用因果效应计算方法，如直接总效应，间接因果效应等，在这些因果效应计算方法和假设之上，采用多路效应计算的方式，然后进行效应平均或最值化方法，获取更准确因果效应计算结果。
S3、根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化：
1)、混合学习过程认知分析时域感知鲁棒性优化
由于混合学习环境数据感知存在跨时空特性，会由于各种复杂因素导致数据感知采样出现粒度不匹配及丢失等不确定性情形，针对这些问题本发明结合随机门控机制及神经微分网络技术，进行混合学习过程认知分析时域感知鲁棒性优化。首先，基于直接总因果效应框架与学习者认知动态因果网络模型，提出数据感知不确定性因素(如采样粒度、感知缺失)合理因果假设，构建学习认知数据感知进行反事实推断分析，假定对第i个学习认知因素数据感知缺失(x0＝null)，则其直接总效应分析分布可表示为：
T(Yi)＝[Yd＝i|do(X＝x)]-[Yd＝i|do(X＝x0)], (1)
其中，等式右边第一项是对应原始因果图的认知变量分布，而等式右边第二项表示反事实干预后的分布结果，d代表与动量相关的中间调和变量取值。
然后针对可能存在混合学习过程数据部分缺失问题，构建基于因果总效应导向性随机门控网络机制，进行潜在数据感知缺失场景干预数据生成，增强学习认知分析模型优化空间搜索。该随机门控网络机制主要通过GRU时序神经网络和随机门控因子实现，随机门控因子取值采用普通随机算法，其模拟的数据缺失产生的效应采用等式(1)计算即可。
接着针对复杂情境下数据感知不规则采样粒度问题，基于时序微分神经网络模型，构造连续时域下任意数据感知采样粒度方法，假设学习过程感知时序数据记做X＝((t0,x0),…,(tn,xn)),其中
为学习过程数据xj的采样时间点，xj表示为：
其中，*表示可能丢失感知数据概率，t0<…<tn表示不规则时间间隔。根据认知分析模型时间采样粒度需求，结合因果总效应框架，所提构造不规则时序微神经网络模型可以描述为：
Ht＝ODENET(A*Ht-1,f,θf,tbegin,tend),t＝t0,…,tn, (3)
其中，ODENET表示时序微神经网络模型，A表示因果总效应约束下时序自注意力机制，H为学习过程数据隐状态表示，f为时序模型，θf为时序模型可学习参数，利用该模型可生成任意时间粒度规则采样数据。
最后通过随机门控机制与不规则连续时域感知方法结合使用，即随机门控机制和不规则时域采样解决机制通过残差连接的方式，实现混合学习过程认知分析时域感知优化。
2)、混合学习多模态认知分析模型结构鲁棒性优化
大多数深度学习模型由于采样离线训练-在线使用的模式，模型缺乏灵活性，特别在动态变化复杂场景效果低效。本发明结合可塑性权重更新机制，进行多模态认知分析模型结构“弹性”增强，提升复杂动态场景下学习认知分析鲁棒性。
首先，分析学习认知分析网络结构权重分布特点，结合生物学可塑性理论，构建针对复杂认知分析场景的波动量抑制-增益模型结构可塑性机制，在认知分析模型中，时序编码器和解码器的神经元连接波动量描述为：
其中，xj(t)表示后联会神经元t时刻激活量，xi(t-1)为前联会神经元t-1时刻激活量，
为神经网络本身可学习权重，/>
为可塑动态权重，p(xj)为抑制-增益分布概率函数，结合可塑性权重更新规则对异常波动进行镇定。
然后针对复杂场景学习认知计算任务数据变化特性，结合本发明所提的不确定因素因果总效应计算框架，本发明提出可塑性权重自适应动态更新规则，可以由等式(5)描述，
其中，ε(V)为波动因果效应度量函数，用于自适应控制可塑性权重的更新，它会根据会联神经元波动量进行动态计算，其计算过程由等式(5)描述，
其中，
α,γ都为控制参数，d代表与动量相关的中间调和变量取值，平衡复杂环境因素变化直接效应与间接效应的影响。
最后，根据学习认知分析模型结构特点，进行可塑性动态权重的架构嵌入，主要是多模态特征联合学习阶段置入可塑性动态权重，增强分析模型的复杂环境适应的“弹性”和减少模型本身结构偏置带来误差，完成混合学习多模态认知分析模型结构鲁棒性优化。
3)、复杂场景下认知数据分布偏移目标域鲁棒性优化
“大规模预训练(大模型，来源域)+目标任务微调(小数据，目标域)”范式是目前深度学习技术应用主流途径，但复杂跨时域混合学习认知分析任务场景数据分布动态多变，给这种应用范式带来极大挑战。本发明结合学习认知动态因果模型与元分布假设，构建面向数据分布偏移目标域优化机制，增强复杂场景下学习认知分析鲁棒性。
首先，本发明基于元分布与动态学习认知因果表征，提出适合与学习认知分析任务复杂场景数据生成迁移动态分布，分析预训练数据源域与应用目标域分布偏移潜在过程，本发明中把控制数据生成迁移的动态分布记作ft。利用基于泛化对比学习的非线性独立成分分析方法，在预训练多模态学习过程来源域数据上进行ft的估计学习，其估计过程由等式(7)描述，
其中，
参数化函数集合，/>
表示第t阶段动态因果下源域正例分析，则/>
表示负例分析，/>
为分析函数，/>
表示k′的分布期望。
然后就可以利用估计的
近似代替ft，进行学习认知分析目标数据域，以及进行目标独立成分抽取与增益，增益估计后独立成分集可以表示为，
其中，D表示数据维度，
表示目标数据域抽取后未增益的独立成分集，在这过程中会用到/>
的逆函数，用可逆神经网络进行拟合即可。
最后基于等式(8)取得的增益目标域独立成分集，进行目标域数据增强生成，并基于这些增强数据，进行目标域经验风险最小化优化，优化损失由等式(9)描述，
其中，Ω(·)为正则项，用于控制
复杂度，因此生成的/>
就可以目标域任务微调提供增益信息，进行复杂场景下认知数据分布偏移目标域学习认知状态鲁棒性分析
综上所述，本发明针对目前混合学习认知建模分析在复杂场景下鲁棒性存在不足问题，结合因果学习研究进展，以多模态学习过程数据为基础，提出面向复杂学习场景下基于因果效应的认知分析模型鲁棒性优化方法，解决复杂教育场景下模型分析效果低下等挑战性问题。
在一些可选择的实施例中，在方框图中提到的功能/操作可以不按照操作示图提到的顺序发生。例如，取决于所涉及的功能/操作，连续示出的两个方框实际上可以被大体上同时地执行或所述方框有时能以相反顺序被执行。此外，在本发明的流程图中所呈现和描述的实施例以示例的方式被提供，目的在于提供对技术更全面的理解。所公开的方法不限于本文所呈现的操作和逻辑流程。可选择的实施例是可预期的，其中各种操作的顺序被改变以及其中被描述为较大操作的一部分的子操作被独立地执行。
此外，虽然在功能性模块的背景下描述了本发明，但应当理解的是，除非另有相反说明，所述的功能和/或特征中的一个或多个可以被集成在单个物理装置和/或软件模块中，或者一个或多个功能和/或特征可以在单独的物理装置或软件模块中被实现。还可以理解的是，有关每个模块的实际实现的详细讨论对于理解本发明是不必要的。更确切地说，考虑到在本文中公开的装置中各种功能模块的属性、功能和内部关系的情况下，在工程师的常规技术内将会了解该模块的实际实现。因此，本领域技术人员运用普通技术就能够在无需过度试验的情况下实现在权利要求书中所阐明的本发明。还可以理解的是，所公开的特定概念仅仅是说明性的，并不意在限制本发明的范围，本发明的范围由所附权利要求书及其等同方案的全部范围来决定。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行***、装置或设备(如基于计算机的***、包括处理器的***或其他可以从指令执行***、装置或设备取指令并执行指令的***)使用，或结合这些指令执行***、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行***、装置或设备或结合这些指令执行***、装置或设备而使用的装置。
计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)、便携式计算机盘盒(磁装置)、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编辑只读存储器(EPROM或闪速存储器)、光纤装置以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行***执行的软件或固件来实现。例如，如果用硬件来实现，和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。
在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不一定指的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管已经示出和描述了本发明的实施例，本领域的普通技术人员可以理解：在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型，本发明的范围由权利要求及其等同物限定。
以上是对本发明的较佳实施进行了具体说明，但本发明并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可做出种种的等同变形或替换，这些等同的变形或替换均包含在本申请权利要求所限定的范围内。
Claims (10)
1.一种基于因果效应的学习认知分析模型鲁棒性优化方法，其特征在于，包括：
构建混合学习过程的认知分析多类型模型；
构建学习者认知动态因果网络与因果效应框架；
根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化；
其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。
2.根据权利要求1所述的一种基于因果效应的学习认知分析模型鲁棒性优化方法，其特征在于，所述构建混合学习过程的认知分析多类型模型，包括：
对采集的多模态学习过程数据进行模态特征抽取；其中，所述模态特征包括视频特征、音频特征和文本特征；
采用多类型主干网络和时序网络，对抽取到的多模态特征进行联合学习，获取学习认知特征的全局表示；
针对不同学习认知计算下游任务，构建不同的认知分类器或者回归器。
3.根据权利要求1所述的一种基于因果效应的学习认知分析模型鲁棒性优化方法，其特征在于，所述构建学习者认知动态因果网络与因果效应框架，包括：
通过学习认知影响变量检测和因果有向图构建，进行学习者认知因果图构建；
利用领域常用因果效应计算方法，采用多路效应计算的方式，进行效应平均或最值化方法，获取因果效应计算结果。
4.根据权利要求1所述的一种基于因果效应的学习认知分析模型鲁棒性优化方法，其特征在于，当所述鲁棒性优化为混合学习过程认知分析时域感知鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
基于直接总因果效应框架与学习者认知动态因果网络模型，提出数据感知不确定性因素的合理因果假设，构建学习认知数据感知进行反事实推断分析；
针对可能存在混合学习过程数据部分缺失问题，构建基于因果总效应导向性随机门控网络机制，进行潜在数据感知缺失场景干预数据生成，增强学习认知分析模型优化空间搜索；
针对复杂情境下数据感知不规则采样粒度问题，基于时序微分神经网络模型，构造连续时域下任意数据感知采样粒度方法；
通过随机门控机制与不规则连续时域感知方法结合使用，实现混合学习过程认知分析时域感知优化。
5.根据权利要求1所述的一种基于因果效应的学习认知分析模型鲁棒性优化方法，其特征在于，当所述鲁棒性优化为混合学习多模态认知分析模型结构鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
分析学习认知分析网络结构权重分布特点，结合生物学可塑性理论，构建针对复杂认知分析场景的波动量抑制-增益模型结构可塑性机制，并在认知分析模型中，确定时序编码器和解码器的神经元连接波动量描述；
针对复杂场景学习认知计算任务数据变化特性，结合不确定因素因果总效应计算框架，确定可塑性权重自适应动态更新规则；
根据学习认知分析模型结构特点，进行可塑性动态权重的架构嵌入，完成混合学习多模态认知分析模型结构鲁棒性优化。
6.根据权利要求1所述的一种基于因果效应的学习认知分析模型鲁棒性优化方法，其特征在于，当所述鲁棒性优化为复杂场景下认知数据分布偏移目标域鲁棒性优化时，所述根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化，包括：
基于元分布与动态学习认知因果表征，确定学习认知分析任务的复杂场景数据的迁移动态分布，分析预训练数据源域与应用目标域的分布偏移潜在过程；
获取迁移的动态分布的预估值，进行学习认知分析目标数据域以及进行目标独立成分抽取与增益；
根据增益目标域独立成分集，进行目标域数据增强生成，并基于增强后的数据，进行目标域经验风险最小化优化，完成复杂场景下认知数据分布偏移目标域学习认知状态鲁棒性分析。
7.一种基于因果效应的学习认知分析模型鲁棒性优化装置，其特征在于，包括：
第一模块，用于构建混合学习过程的认知分析多类型模型；
第二模块，用于构建学习者认知动态因果网络与因果效应框架；
第三模块，用于根据所述认知分析多类型模型和所述学习者认知动态因果网络与因果效应框架，进行鲁棒性优化；
其中，所述鲁棒性优化包括混合学习过程认知分析时域感知鲁棒性优化、混合学习多模态认知分析模型结构鲁棒性优化以及复杂场景下认知数据分布偏移目标域鲁棒性优化。
8.一种电子设备，其特征在于，包括处理器以及存储器；
所述存储器用于存储程序；
所述处理器执行所述程序实现如权利要求1至6中任一项所述的方法。
9.一种计算机可读存储介质，其特征在于，所述存储介质存储有程序，所述程序被处理器执行实现如权利要求1至6中任一项所述的方法。
10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211233184.7A CN115879536A (zh) | 2022-10-10 | 2022-10-10 | 一种基于因果效应的学习认知分析模型鲁棒性优化方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211233184.7A CN115879536A (zh) | 2022-10-10 | 2022-10-10 | 一种基于因果效应的学习认知分析模型鲁棒性优化方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN115879536A true CN115879536A (zh) | 2023-03-31 |
Family
ID=85770342
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211233184.7A Pending CN115879536A (zh) | 2022-10-10 | 2022-10-10 | 一种基于因果效应的学习认知分析模型鲁棒性优化方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115879536A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116151329A (zh) * | 2023-04-23 | 2023-05-23 | 山东师范大学 | 基于反事实图学习的学生知识状态追踪方法及*** |
-
2022
- 2022-10-10 CN CN202211233184.7A patent/CN115879536A/zh active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116151329A (zh) * | 2023-04-23 | 2023-05-23 | 山东师范大学 | 基于反事实图学习的学生知识状态追踪方法及*** |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Zheng et al. | Meta label correction for noisy label learning | |
| Duan et al. | Curriculum deepsdf | |
| US11610131B2 (en) | Ensembling of neural network models | |
| CN108095716B (zh) | 一种基于置信规则库和深度神经网络的心电信号检测方法 | |
| US10832138B2 (en) | Method and apparatus for extending neural network | |
| US20220004935A1 (en) | Ensemble learning for deep feature defect detection | |
| CN111105008A (zh) | 模型训练方法、数据识别方法和数据识别装置 | |
| CN111489365B (zh) | 神经网络的训练方法、图像处理方法及装置 | |
| KR20160143548A (ko) | 인공 신경 네트워크를 자동으로 조정하는 방법 및 장치 | |
| JP2016157426A (ja) | ニューラルネットワークの学習方法及び装置、及び認識方法及び装置 | |
| Aydin et al. | General multi-fidelity framework for training artificial neural networks with computational models | |
| WO2021138092A1 (en) | Artificial neural network architectures based on synaptic connectivity graphs | |
| CN112116090A (zh) | 神经网络结构搜索方法、装置、计算机设备及存储介质 | |
| JP2021503661A (ja) | 第１のニューラルネットワークモデルと第２のニューラルネットワークモデルとの訓練 | |
| US20230419113A1 (en) | Attention-based deep reinforcement learning for autonomous agents | |
| US11669056B2 (en) | Generation of a control system for a target system | |
| Lonza | Reinforcement Learning Algorithms with Python: Learn, understand, and develop smart algorithms for addressing AI challenges | |
| CN115879536A (zh) | 一种基于因果效应的学习认知分析模型鲁棒性优化方法 | |
| CN114298299A (zh) | 基于课程学习的模型训练方法、装置、设备及存储介质 | |
| Júnior et al. | Regional models: A new approach for nonlinear system identification via clustering of the self-organizing map | |
| CN111612152B (zh) | 一种量子计算机的模拟控制方法、***及相关组件 | |
| van de Ven et al. | Continual Learning and Catastrophic Forgetting | |
| Gu et al. | BAGAIL: Multi-modal imitation learning from imbalanced demonstrations | |
| US20240119363A1 (en) | System and process for deconfounded imitation learning | |
| Weng | A general purpose brain model for developmental robots: The spatial brain for any temporal lengths |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |