CN111738439A - 一种支持在线学习的人工智能处理方法及处理器 - Google Patents
一种支持在线学习的人工智能处理方法及处理器 Download PDFInfo
- Publication number
- CN111738439A CN111738439A CN202010701903.8A CN202010701903A CN111738439A CN 111738439 A CN111738439 A CN 111738439A CN 202010701903 A CN202010701903 A CN 202010701903A CN 111738439 A CN111738439 A CN 111738439A
- Authority
- CN
- China
- Prior art keywords
- time sequence
- signal
- template
- type
- difference
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种支持在线学习的人工智能处理方法及处理器,采用自适应模板匹配、自适应高/低阈值判断结合神经网络判断的双判断方式,使得***具备在线学习能力,能适应使用设备、使用者的时序信号特征,解决普遍存在的时序信号特征存在个体差异性的问题,有效提高了自动分类准确率。相比较传统的神经网络反向传播算法实现在线学习的硬件实现,本发明的参数量和运算量小,仅存储少量的数据,相比于神经网络的在线学习,本发明功耗和所需存储量大大降低。本发明的在线学习硬件模块中的所有参数均可根据不同的应用需求自由配置,从而使得在线学习算法能灵活部署在处理器上,适用于各种时序信号自动分类的应用场景。
Description
技术领域
本发明涉及时间序列信号的在线学习技术,特别涉及一种支持在线学习的人工智能处理方法及处理器。
背景技术
在现实场景中,传感器往往采集到是各式各样的时间序列信号,例如拾音器采集人声信号,佩戴式电极采集肌肉电信号、脑电信号以及心电信号等生理电信号。这一类时序信号,根据其波形的形态特征,就可以表征信号源所处的不同的状态或者反映信号源不同的性质,从而提取到有用的信息来进行信号分类处理。例如人声信号,相同词的发音波形相似,而不同词的发音波形有较大差异,因此可以根据人声信号的波形判断发音的词是否一致。又例如人体心电信号,其作为心脏活动在体表的综合表现,是最简便、最灵敏地了解到患者心肌缺血、心律不齐情况的一种检查方式,正常心脏的心电信号由较为规整的Q波、R波、S波构成,且R波的时间间隔较为固定,而由心肌缺血、心律不齐导致的心电信号,波形较为杂乱。因此可以根据心电信号的波形特征,对心电进行正/异常诊断。
但是时间序列信号的波形普遍存在个体(信号源)差异性的问题,例如心电信号普遍存在病人-病人间差异性的问题,即同一类心脏疾病,不同患者间的心电波形会存在差异,甚至同一患者在不同时间发病的心电波形会都有差异。因此要对其做出准确判断,通常需要医生等具有丰富的相关领域知识和大量的实践经验。但是对此类时序信号进行长时间的人工分析,人不仅容易疲劳,而且效率也不够高,也无法满足某些需要实时监测的应用场景。而现在随着人工智能技术的普及,对于时间序列信号的高准确率的自动分类技术也逐渐得以实现。此类技术不但可以提供辅助人工判断的分类信息,同时也可应用于24小时实时监控。因此,具备高准确率、低功耗的时序信号人工智能处理器硬件应运而生。
基于人工特征的时序信号自动分类算法,将时序信号经过人工设计的特征工程,进行时域、频域的特征分析,提取出数个时频域特征,然后把这些特征传入分类器例如支持向量机、决策树进行分类。而基于神经网络的端到端时序信号自动分类算法不需要预先人工来决定该提取信号的哪些特征,而是将采集的波形信号经过滤波除噪等预处理后直接送入卷积神经网络或者多层全连接层神经网络,通过大量的训练数据和标签来学习网络的参数,使得该神经网络能自动提取出信号特征,并在网络的分类层完成信号的自动分类。一般地,神经网络的参数需要在软件上事先训练好,再配置到相应的硬件中。
基于人工特征的时序信号分类技术,主要局限在于算法的效果十分依赖人工提取的特征。由于时序信号普遍存在个体差异且随时间可能存在波动,这就对人工提取的特征十分严格。而人工提取的那些时频域特征往往不能很好地概括信号的各种类别,泛化能力较弱,不具备在线学习能力,无法适应时序信号的信号源差异性,因此准确率会比较低。而基于神经网络的信号分类技术使用了大量的训练数据和标签来自动学习到信号的波形特征,泛化能力相较于基于人工特征的自动分类方式有所提升,但是由于运算量大,需要存储较多参数,功耗和硬件资源消耗较大。并且由于训练数据中一般不会包含使用者或者使用设备的数据,或者这些数据未知,又因为时序信号普遍存在个体差异性问题,即同种性质/状态的不同设备、使用者的时序信号、甚至同一设备、使用者不同时刻的信号都可能存在着较大的差异,这就导致了神经网络参数很可能对训练集的数据过度拟合,而提取到了不必要的分类特征,这样直接应用在使用设备、使用者的信号自动分类,分类准确率会下降,这是因为训练集中没有包含使用设备、使用者的此类信号的信息,模型针对使用设备、使用者的时序信号泛化能力并不强。为提高模型的泛化能力,算法需要针对使用设备、使用者的数据进行在线学习,调整算法的相关参数来适应使用者的个体差异,而传统的神经网络在线学习算法,例如反向传播算法涉及大量的向量矩阵乘加操作,将导致很高的处理功耗以及硬件资源消耗。
发明内容
本发明所要解决的技术问题是,提供一种高准确率、低功耗的在线学习方法以及实现该方法的处理器。
本发明为实现上述技术问题所采用的技术方案是,一种支持在线学习的人工智能处理方法,包括以下步骤:
1)初始化阶段:
1-1)初始化信号类型1模板、类型1信号与模板的差距、类型2信号与模板的差距;训练完成一个二分类的神经网络计算核,该神经网络计算核的输出层输出类型1信号或类型2信号的二分类结果;所述信号类型1模板为包含完整分类信息的时序信号段;
1-2)对连续时序信号进行预处理,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征;所述时序特征包括相邻两次完整信号段的时间间隔;
1-3)将信号类型1模板输入至神经网络计算核,利用神经网络计算核来提取信号类型1模板的特征,将信号类型1模板的特征与对应的时序特征进行拼接作为信号类型1模板的特征向量;将当前时序信号段输入至神经网络计算核,利用神经网络计算核来提取当前时序信号段的特征,将当前时序信号段的特征与对应的时序特征进行拼接作为当前时序信号段的特征向量;当神经网络计算核输出当前时序信号段的二分类结果为类型1信号,则利用当前时序信号段更新信号类型1模板及其时序特征后,再初始化差距队列A为信号类型1与模板的差距队列A、信号类型2与模板的差距队列B;当神经网络计算核输出当前时序信号段的二分类结果为类型2,则不使用当前时序信号段进行后续操作;
2)更新阶段:
2-1)每次有新的时序信号段输入时,根据差距队列A、B计算高、低阈值,再计算当前时序信号段的特征向量以及信号类型1模板的特征向量的差平方和为差距E值;
2-2)根据当前的差距E值进行类别判断:
当差距E值小于低阈值的时候,经双阈值判断当前时序信号段为类型1信号;
当差距E值大于高阈值的时候,经双阈值判断当前时序信号段为类型2信号;
当差距E值介于低阈值和高阈值之间的时候,则由神经网络计算核输出当前信号的分类;
2-3)每次双阈值判断后,如当前时序信号段由双阈值判断为类型1信号,则还需要再次更新信号类型1模板及其时序特征;当前时序信号段的类别判断为类型1信号时,将当前差距E值通过队列先进先出的方式更新差距队列A;当前时序信号段的类别判断为类型2信号时,将当前差距E值通过队列先进先出的方式更新差距队列B。
一种支持在线学习的人工智能处理器,包括分段模块、输入缓冲模块、在线学习模块、神经网络计算核与类别判断模块;
连续时序信号同时输入至分段模块和输入缓冲模块;
分段模块对连续时序信号进行预处理后,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征,生成时序特征输出至在线学习模块,生成分段控制信号输出至输入缓冲模块;时序特征包括相邻两次完整信号段的时间间隔,分段控制信号包括对连续时序信号进行分段的起始、终止位置;
输入缓冲模块根据接收到的分段控制信号对连续时序信号进行分段后得到时序信号段,将时序信号段分别输出至在线学习模块和神经网络计算核;
神经网络计算核包括输入层、隐藏层和输出层;输入层接收来自于输入缓冲模块的时序信号段以及来自于在线学习模块输出的信号类型1模板,之后输出数据至隐藏层;隐藏层输出提取的当前时序信号段的特征至输出层和在线学习模块,输出信号类型1模板的特征分别至输出层和在线学习模块;输出层输出当前时序信号段的分类结果;输出层为二分类,输出类型1信号或类型2信号的二分类结果;
在线学***方和为差距E值;根据当前的差距E值进行双阈值判断:当差距E值小于低阈值时,经双阈值判断当前时序信号段为类型1信号;当差距E值大于高阈值时,经双阈值判断当前时序信号段为类型2信号;当差距E值介于低阈值和高阈值之间时,则交由神经网络计算核进行处理;每次双阈值判断后,如当前时序信号段由双阈值判断为类型1信号,则还需要再次更新信号类型1模板及其时序特征;当前时序信号段的类别判断为类型1信号时,将当前差距E值通过队列先进先出的方式更新差距队列A;当前时序信号段的类别判断为类型2信号时,将当前差距E值通过队列先进先出的方式更新差距队列B;
类别判断模块根据在线模块输出的阶段信号获知当前处于初始化阶段还是更新阶段,当处于初始化阶段,则选择神经网络计算核输出的二分类结果作为当前时序信号段的类别判断的输出;当处于更新阶段,则选择在线学习模块输出的双阈值判断结果或者神经网络计算核输出的二分类结果作为当前时序信号段的类别判断的输出。
另外,还具体提供了一种实现上述在线学习模块的硬件方案。
本发明的有益效果是:
1、高的时序信号分类准确率:采用自适应模板匹配、自适应高/低阈值判断结合神经网络判断的双判断方式,使得***具备在线学习能力,能适应使用设备、使用者的时序信号特征,解决上述的时序信号存在个体差异性的问题,有效提高了自动分类准确率;
2.低功耗的硬件设计方案:相比较传统的神经网络反向传播算法实现在线学习的硬件实现,本发明的参数量和运算量小,仅存储少量的数据,相比于神经网络的在线学习,本发明功耗和所需存储量大大降低;
3.本发明的在线学习硬件模块中的所有参数均可根据不同的应用需求自由配置,从而使得在线学习算法能灵活部署在处理器上,适用于各种时序信号自动分类的应用场景。
附图说明
图1 处理器硬件设计整体框图。
图2 在线学习模块设计框图。
具体实施方式
支持在线学习的自适应模板更新、自适应高/低双阈值判断结合神经网络判断的方法包括以下步骤:
1.初始化阶段:首先需要将信号类型1模板、类型1信号与模板的差距、类型2信号与模板的差距初始化。信号类型1模板为包含完整分类信息的时序信号段,例如人声信号某个词的发音段,心电信号为R峰前后包含完整QRS波的一段。首先训练完成一个二分类的神经网络计算核,该神经网络计算核的输出层输出二分类结果,即输出为类型1信号或类型2信号。对于心电信号的分类,信号类型1可以代表正常心电,信号类型2可以代表异常心电;对于人声信号可以代表唤醒词,信号类型2可以非唤醒词。实施例的神经网络计算核采用多层感知机网络MLP。
先对连续时序信号进行预处理,再分析得到包含完整分类信息的信号序列段的起始、终止位置,生成分段的时序信号以及对应的时序特征;预处理包括FIR滤波滤除噪声和干扰;时序特征包括相邻两次完整信号段的时间间隔等信号特征。再将分段的时序信号输入至神经网络计算核,当神经网络计算核输出该时序信号段的二分类结果为类型1,则进入步骤1)采用式(1)更新信号类型1模板,之后进入步骤2)初始化差距队列A、B。当神经网络计算核输出时序信号段的二分类结果为类型2,则不使用该时序信号段进行初始化操作。
1)信号类型1模板更新方式,M为预设的模板混合系数:
信号类型1模板=M*信号类型1模板+(1-M)*当前时序信号段 (1)
信号类型1模板的时序特征也采用相同的更新方式:
信号类型1模板的时序特征=M*信号类型1模板的时序特征+(1-M)*当前时序信号段的时序特征
2) 类型1信号与模板的差距、类型2信号与模板的差距的初始化方式:
以信号类型1模板作为输入至神经网络计算核,将神经网络计算核中隐藏层提取信号类型1模板的特征并与对应的时序特征进行拼接作为信号类型1模板的特征向量,记为X;
以当前时序信号段为输入,将神经网络计算核中隐藏层提取当前时序信号段的特征并与对应的时序特征进行拼接作为当前时序信号段的特征向量,记为Y;
X与Y两个向量差的平方和记为E,即差距E值为当前时序信号段的特征向量与信号类型1模板的特征向量的差距;将差距E值作为类型1信号与模板的差距的一个初始值;将K倍差距E值作为类型2信号与模板的差距的一个初始值;K是预设倍数;
将E和K倍E分别加入到A、B两个存储容量为L的差距队列中,其中A为信号类型1与模板的差距队列,B为信号类型2与模板的差距队列。当差距队列A、B被填满时,信号类型1与模板的差距队列A与信号类型2与模板的差距队列B的初始化完成,初始化阶段结束。L为预设的差距队列容量。
2、更新阶段:
每次接收到新的时序信号段输入时,将差距队列A中差距的平均值记为a,差距队列B中差距的平均值记为b,根据平均值a和b计算出两个高低阈值:
低阈值=T*a+(1-T)*b (2)
高阈值=(1-T)*a+T*b (3)
其中,T为取值范围0到1之间的阈值混合系数;
计算当前时序信号段的特征向量以及信号类型1模板的特征向量的差平方和,即差距E值;
当E小于低阈值的时候,***判定当前时序信号段为类型1信号;
当E大于高阈值的时候,***判定当前时序信号段为类型2信号;
当E介于低阈值和高阈值之间的时候,则由神经网络计算核输出当前信号的分类;
此外,每次判断后,如当前时序信号段由双阈值方式判断为类型1信号,则还需要根据式(1)再次更新信号类型1模板。若由神经网络计算核判断为类型1信号,则不再更新信号类型1模板。每次判断后,还需要根据当前时序信号段的判断类型以及队列先进先出的原则,利用当前时序信号段与原来信号类型1模板的差距E值、选择性地更新阵列A或阵列B。即当前时序信号段为类型1时(包括双阈值方式判断为类型1信号和由神经网络计算核判断为类型1信号的情况),差距队列A中最早进入的差距值会被移除,新计算出的差距E值会填补进去;若当前时序信号段为类型2时(包括双阈值方式判断为类型2信号和由神经网络计算核判断为类型2信号的情况),差距队列B中最早进入的差距值会被移除,新计算的差距E值会填补进去。
图1为信号自动分类人工智能处理器硬件框图,包括分段模块、输入缓冲模块、在线学习模块、神经网络计算核与类别判断模块。
连续时序信号同时输入分段模块和输入缓冲模块。
分段模块对连续输入时序信号先进行一系列预处理后,再分析得到包含完整分类信息的信号序列段的起始、终止位置,生成时序特征与分段控制信号,输出分段控制信号至输入缓冲模块,并将时序特征输出至在线学习模块;预处理包括FIR滤波滤除噪声和干扰;时序特征包括相邻两次完整信号段的时间间隔等信号时频域特征,分段控制信号包括对时序信号进行分段的信号起始、终止位置。以心电信号为例,分段模块具体用于R波的峰值检测,采用小波变换、汉明顿和汤姆金斯法等,一旦检测到R波峰值位置,则输出分段控制信号控制输入缓冲模块截取前一段长度的心电数据和后续一段心电数据作为一个完整的心拍。
输入缓冲模块根据接收到的分段控制信号对连续时序信号进行分段后得到包含完整信息的时序信号段,分别输出时序信号段至在线学习模块和神经网络计算核。
神经网络计算核包括输入层、隐藏层和输出层。输入层接收来自于输入缓冲模块的时序信号段以及来自于在线学习模块输出的信号类型1模板;神经网络计算核的隐藏层输出来自输入层输入数据的特征,包括当前时序信号段的特征以及信号类型1模板的特征。神经网络计算核的输出层输出当前时序信号段的二分类结果;神经网络计算核的输出层为二分类,输出类型1或类型2的二分类结果;根据不同应用场景的需要,隐藏层的输出可设置为MLP隐藏层中最后一层的输出、MLP隐藏层中倒数第二层的输出或者隐藏层中其他层的输出。
在线学习模块用于完成自适应模板匹配与自适应高/低阈值判断。在线学习模块接收来自于输入缓冲模块的时序信号段、分段模块的时序特征以及神经网络计算核输出的特征与二分类结果,向神经网络计算核输出当前的信号类型1模板;根据所处状态向类别判断模块输出阶段信号;在初始化阶段,利用神经网络计算核判断为类型1的时序信号段更新信号类型1模板,利用类型1模板和其时序特征以及当前时序信号段和其时序特征完成类型1信号与模板的差距、类型2信号与模板的差距的初始化,得到表示类型1信号与模板的差距的队列A的初始值与表示类型2信号与模板的差距的队列B的初始值;更新阶段,每次当接收到时序信号段输入时,先根据当前的差距队列A、B计算出高、低阈值,再计算当前时序信号段与模板的差距E值,通过差距E值与高、低阈值(双阈值)的比较对当前时序信号段进行第一次分类:当E小于低阈值的时候,***判定当前时序信号段为类型1信号;当E大于高阈值的时候,***判定当前时序信号段为类型2信号;当E介于低阈值和高阈值之间的时候,直接由神经网络计算核输出当前信号的分类;每次判断后,如当前时序信号段由双阈值分类为类型1信号,则再一次更新信号类型1模板与其对应的时序特征,其余情况均不更新信号模板。由双阈值判断方式或者神经网络判断方式得到信号的类型后,再根据差距队列更新先进先出的原则利用当前差距E值选择性地更新差距队列A、B,即若当前时序信号段为类型1,当前差距E值存入差距队列A中,最早进入差距队列A的一个值将被移除;若当前时序信号段判断为类型2,当前差距E值存储差距队列B,最早进入差距队列B的一个值将被移除。
在线学习模块在自适应模板匹配时,通过(1)式混合得到信号类型1的模板数据以及模板的时序特征,并将模板数据输入到神经网络计算核计算核,得到信号类型1模板的特征,与模板的时序特征拼接得到信号类型1模板的特征向量。由神经网络计算核输出的当前的信号段的特征与分段模块输出的当前的信号段的时序特征拼接得到当前的信号段的特征向量。
在双阈值判断时,首先计算模板特征向量和当前的信号段的特征向量差的平方和(差距E值),通过与高、低阈值比较,得到双阈值判断结果,并根据当前时序信号段的判断类型,更新两个差距队列A、B,从而自适应地更新高、低阈值。
类别判断模块根据在线模块输出的阶段信号获知目前处理器处于初始化阶段还是更新阶段,再使用多路选择器选择在线学习模块的双阈值判断结果或者神经网络计算核的二分类结果,来控制输出当前时序信号段自动分类的类别判断结果。具体的,当处理器处于初始化阶段,则选择神经网络计算核输出的二分类结果作为当前时序信号段的类别判断的输出;当处理器处于更新阶段,则选择在线学习模块输出的双阈值判断结果或者神经网络计算核输出的二分类结果作为当前时序信号段的类别判断的输出。
在线学***方和计算模块、双阈值判断模块、双阈值计算模块。
预设置的参数通过配置接口输入至参数配置模块;参数配置模块存储并向状态控制器输出这些参数。预设置的参数包括模板混合系数M、阈值混合系数T和初始化差距队列A、B的长度L等。
RAM包括模板RAM以及数据RAM。根据读/写控制命令将多路选择器输出的将更新的信号类型1模板、差距E值以及K倍的差距E值写入到模板RAM进行存储,并将信号类型1模板的特征及其时序特征拼接为信号类型1模板的特征向量写入到模板RAM进行存储;将当前时序信号段写入到数据RAM进行存储,并将当前时序信号段的特征及其时序特征拼接为当前时序信号段的特征向量段写入到数据RAM进行存储。
状态控制器接收神经网络计算核的二分类结果以及双阈值判断结果,控制处理器在初始化阶段和更新阶段依次切换,使能在线学习模块中的各模块,向发送读/写控制命令至RAM,发送选择控制信号至多路选择器。状态控制器通过生成RAM地址和控制读写使能线对模板RAM和数据RAM进行读写控制,通过发送选择控制信号至多路选择器控制多个信号的选择。
当分段模块输出当前时序信号段的时序特征,状态控制器控制多路选择器选择这些时序特征作为数据RAM输入,写入到数据RAM中;当输入缓冲模块输出当前时序信号段,状态控制器控制多路选择器选择当前时序信号段作为RAM输入,写入到数据RAM中;当神经网络计算核的输出隐藏层当前时序信号段的特征,状态控制器控制多路选择器选择隐藏层输出的特征写入到数据RAM中。
在初始化阶段,若当前时序信号段被神经网络计算核计算核判断为类型1时,状态控制器通过读/写控制信号控制模板RAM读出信号类型1模板、时序特征和特征向量,控制数据RAM读出当前时序信号段、时序特征和特征向量,使能模板更新计算模块更新信号类型1模板和时序特征,通过读/写控制信号控制模板RAM将写入已更新的信号类型1模板和已更新的模板输出到神经网络计算核,使能差平方和计算模块输出差距E值和K倍的差距E值,通过读/写控制信号控制模板RAM将神经网络隐藏层输出的信号类型1模板的特征与更新后的时序特征拼接成模板的特征向量、将差距E值以及K倍的差距E值存入差距队列A、B。当前时序信号段的特征向量由数据RAM中存储的特征与其对应的时序特征拼接而成。在初始化阶段,若当前时序信号段被神经网络计算核计算核判断为类型2时,状态控制器则没有后续操作。
在更新阶段,状态控制器首先控制模板RAM输出差距队列A、B,使能双阈值计算模块;接着控制模板RAM和数据RAM读出模板特征向量和当前时序信号段特征向量,使能差平方和计算模块输出差距E值,使能双阈值判断模块输出双阈值判断结果,如当前时序信号段由双阈值判断模块分类为类型1信号,则控制模板RAM、数据RAM分别输出信号类别1模板及其时序特征、当前时序信号段及其时序特征,使能控制模板更新计算模块计算更新后的模板以及时序特征,并控制多路选择器选择已更新模板和时序特征,写入到模板RAM中。如当前时序信号段由神经网络计算核判断为类型1信号,状态控制器仅控制多路选择器选择差距E值,将差距E值写入到模板RAM中差距队列A最早一个值的位置,覆盖该值。若当前时序信号段由神经网络计算核或者双阈值判断模块分类为类型2信号,状态控制器仅控制多路选择器选择差距E值,将差距E值写入到模板RAM中差距队列B最早一个值的位置,覆盖该值。
多路选择器用于接收根据(1)式更新的信号类型1模板及其时序特征、当前时序信号段以及其时序特征、神经网络计算核隐藏层输出特征,包括当前时序信号段输入时的隐藏层特征和信号类型1模板输入时的隐藏层特征,当前时序信号段的特征向量与信号类型1模板的特征向量差距E以及初始化差距队列B所需的K倍差距值。
模块更新计算模块根据式(1),由RAM输出的当前时序信号段及其时序特征以及信号类型1模板及其时序特征,计算出新的信号类型1模板和时序特征。更新后的信号类型1模板与其时序特征输出至多路选择器的一个输入端,更新后的信号类型1模板数据输出至神经网络计算核用于计算该模板对应的隐藏层输出特征。
差平方和计算模块根据RAM输出的信号类型1模板的特征向量以及当前时序信号段的特征向量,计算出两向量差的平方和,记为差距E值,分别输出差距E值以及K倍的差距E值至多路选择器的两个输入端,另外将差距E值输出至双阈值判断模块。
双阈值计算模块根据模板RAM输出的差距队列A与差距队列B,计算差距队列A中差距的平均值记为a,计算差距队列B中差距的平均值记为b,根据式(2)、(3)计算出高、低阈值并输出至双阈值判断模块。
双阈值判断模块将接收到的差距E值与高、低阈值进行比较,并输出双阈值判断结果:当E小于低阈值的时候,判定当前时序信号段为类型1信号;当E大于高阈值的时候,判定当前时序信号段为类型2信号;当E介于低阈值和高阈值之间的时候,双阈值判断模块无法判定信号的类型,处理器将使能神经网络计算核对当前时序信号段进行分类。
Claims (10)
1.一种支持在线学习的人工智能处理方法,其特征在于,包括以下步骤:
1)初始化阶段:
1-1)初始化信号类型1模板、类型1信号与模板的差距、类型2信号与模板的差距;训练完成一个二分类的神经网络计算核,该神经网络计算核的输出层输出类型1信号或类型2信号的二分类结果;所述信号类型1模板为包含完整分类信息的时序信号段;
1-2)对连续时序信号进行预处理,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征;所述时序特征包括相邻两次完整信号段的时间间隔;
1-3)将信号类型1模板输入至神经网络计算核,利用神经网络计算核来提取信号类型1模板的特征,将信号类型1模板的特征与对应的时序特征进行拼接作为信号类型1模板的特征向量;将当前时序信号段输入至神经网络计算核,利用神经网络计算核来提取当前时序信号段的特征,将当前时序信号段的特征与对应的时序特征进行拼接作为当前时序信号段的特征向量;当神经网络计算核输出当前时序信号段的二分类结果为类型1信号,则利用当前时序信号段更新信号类型1模板及其时序特征后,再初始化信号类型1与模板的差距队列A、信号类型2与模板的差距队列B;当神经网络计算核输出当前时序信号段的二分类结果为类型2,则不使用当前时序信号段进行后续操作;
2)更新阶段:
2-1)每次有新的时序信号段输入时,根据差距队列A、B计算高、低阈值,再计算当前时序信号段的特征向量以及信号类型1模板的特征向量的差平方和为差距E值;
2-2)根据当前的差距E值进行类别判断:
当差距E值小于低阈值的时候,经双阈值判断当前时序信号段为类型1信号;
当差距E值大于高阈值的时候,经双阈值判断当前时序信号段为类型2信号;
当差距E值介于低阈值和高阈值之间的时候,则由神经网络计算核输出当前信号的分类;
2-3)每次双阈值判断后,如当前时序信号段由双阈值判断为类型1信号,则还需要再次更新信号类型1模板及其时序特征;当前时序信号段的类别判断为类型1信号时,将当前差距E值通过队列先进先出的方式更新差距队列A;当前时序信号段的类别判断为类型2信号时,将当前差距E值通过队列先进先出的方式更新差距队列B。
2.如权利要求1所述方法,其特征在于,步骤1-3)以及步骤2-3)中利用当前时序信号段更新信号类型1模板的方式为:
信号类型1模板=M*信号类型1模板+(1-M)*当前时序信号段 ;
信号类型1模板的时序特征=
M*信号类型1模板的时序特征+(1-M)*当前时序信号段的时序特征;
其中,M为预设的模板混合系数。
3.如权利要求1所述方法,其特征在于,步骤1-3)中信号类型1与模板的差距队列A、信号类型2与模板的差距队列B的初始方式为:
将当前差距E值和K倍差距E值分别加入到两个存储容量为L的差距队列A、B中;当差距队列A、B被填满时,信号类型1与模板的差距队列A与信号类型2与模板的差距队列B的初始化完成;K是预设倍数。
4.如权利要求1所述方法,其特征在于,步骤2-1)中根据差距队列A、B计算高、低阈值的方式为:
将差距队列A中差距的平均值记为a,差距队列B中差距的平均值记为b,根据平均值a和b计算出两个高低阈值:
低阈值=T*a+(1-T)*b
高阈值=(1-T)*a+T*b
其中,T为取值范围0到1之间的阈值混合系数。
5.如权利要求1所述方法,其特征在于,所述步骤1-2)中所述预处理包括经过有限长单位冲激响应滤波器FIR滤波滤除噪声和干扰的处理。
6.一种支持在线学习的人工智能处理器,其特征在于,包括分段模块、输入缓冲模块、在线学习模块、神经网络计算核与类别判断模块;
连续时序信号同时输入至分段模块和输入缓冲模块;
分段模块对连续时序信号进行预处理后,通过分析得到包含完整分类信息的信号序列段的起始、终止位置,从而生成时序信号段以及对应的时序特征,生成时序特征输出至在线学习模块,生成分段控制信号输出至输入缓冲模块;时序特征包括相邻两次完整信号段的时间间隔,分段控制信号包括对连续时序信号进行分段的起始、终止位置;
输入缓冲模块根据接收到的分段控制信号对连续时序信号进行分段后得到时序信号段,将时序信号段分别输出至在线学习模块和神经网络计算核;
神经网络计算核包括输入层、隐藏层和输出层;输入层接收来自于输入缓冲模块的时序信号段以及来自于在线学习模块输出的信号类型1模板,之后输出数据至隐藏层;隐藏层输出提取的当前时序信号段的特征至输出层和在线学习模块,输出信号类型1模板的特征至在线学习模块;输出层输出当前时序信号段的分类结果;输出层为二分类,输出类型1信号或类型2信号的二分类结果;
在线学***方和为差距E值;根据当前的差距E值进行双阈值判断:当差距E值小于低阈值时,经双阈值判断当前时序信号段为类型1信号;当差距E值大于高阈值时,经双阈值判断当前时序信号段为类型2信号;当差距E值介于低阈值和高阈值之间时,则交由神经网络计算核进行判断;每次双阈值判断后,如当前时序信号段由双阈值判断为类型1信号,则还需要再次更新信号类型1模板及其时序特征;当前时序信号段的类别判断为类型1信号时,将当前差距E值通过队列先进先出的方式更新差距队列A;当前时序信号段的类别判断为类型2信号时,将当前差距E值通过队列先进先出的方式更新差距队列B;
类别判断模块根据在线模块输出的阶段信号获知当前处于初始化阶段还是更新阶段,当处于初始化阶段,则选择神经网络计算核输出的二分类结果作为当前时序信号段的类别判断的输出;当处于更新阶段,则选择在线学习模块输出的双阈值判断结果或者神经网络计算核输出的二分类结果作为当前时序信号段的类别判断的输出。
7.如权利要求6所述处理器,其特征在于,神经网络计算核采用多层感知机网络MLP结构。
8.如权利要求6所述处理器,其特征在于,在线学习模块利用当前时序信号段更新信号类型1模板的方式为:信号类型1模板=M*信号类型1模板+(1-M)*当前时序信号段 ;信号类型1模板的时序特征=M*信号类型1模板的时序特征+(1-M)*当前时序信号段的时序特征;其中,M为预设的模板混合系数;
差距队列A、B的初始方式为:将当前差距E值和K倍差距E值分别加入到A、B两个存储容量为L的差距队列中;当差距队列A、B被填满时,信号类型1与模板的差距队列A与信号类型2与模板的差距队列B的初始化完成;K是预设倍数;
根据差距队列A、B计算高、低阈值的方式为:将差距队列A中差距的平均值记为a,差距队列B中差距的平均值记为b,根据平均值a和b计算出两个高低阈值:低阈值=T*a+(1-T)*b;高阈值=(1-T)*a+T*b; 其中,T为取值范围0到1之间的阈值混合系数。
9.如权利要求8所述处理器,其特征在于,在线学***方和计算模块、双阈值判断模块、双阈值计算模块;
参数配置模块;参数配置模块存储并向状态控制器输出预设置的参数,预设置的参数包括模板混合系数M、阈值混合系数T和初始化差距队列A、B的存储容量L;
RAM包括模板RAM以及数据RAM;根据读/写控制命令将多路选择器输出的将更新的信号类型1模板、差距E值以及K倍的差距E值写入到模板RAM进行存储,并将信号类型1模板的特征及其时序特征拼接为信号类型1模板的特征向量写入到模板RAM进行存储;将当前时序信号段写入到数据RAM进行存储,并将当前时序信号段的特征及其时序特征拼接为当前时序信号段的特征向量写入到数据RAM进行存储;
状态控制器接收神经网络计算核的二分类结果以及双阈值的判断结果,控制处理器在初始化阶段和更新阶段切换,使能在线学习模块中的其他模块,发送读/写控制命令至RAM,发送选择控制信号至多路选择器;状态控制器通过生成RAM地址和控制读写使能线对模板RAM和数据RAM进行读写控制,通过发送选择控制信号至多路选择器控制多个信号的选择;
多路选择器用于接收更新的信号类型1模板及其时序特征、当前时序信号段以及其时序特征、神经网络计算核隐藏层输出的当前时序信号段的特征和信号类型1模板的特征、差距E值以及K倍差距E值,根据选择控制命令选择接收到RAM的输入;
模块更新计算模块用于利用当前时序信号段及其时序特征更新信号类型1模板和时序特征,更新后的信号类型1模板与其时序特征输出至多路选择器,更新后的信号类型1模板还输出至神经网络计算核;
差平方和计算模块用于计算RAM输出的信号类型1模板的特征向量以及当前时序信号段的特征向量出两向量差的平方和为差距E值,输出差距E值以及K倍的差距E值至多路选择器,还将差距E值输出至双阈值判断模块;
双阈值计算模块用于根据模板RAM输出的差距队列A与差距队列B来计算高、低阈值并输出至双阈值判断模块;
双阈值判断模块将接收到的差距E值与高、低阈值进行比较,输出双阈值判断结果:当差距E值小于低阈值时,判定当前时序信号段为类型1信号;当差距E值大于高阈值时,判定当前时序信号段为类型2信号;当差距E值介于低阈值和高阈值之间时,不输出双阈值判断结果。
10.如权利要求9所述处理器,其特征在于,状态控制器在初始化阶段,当前时序信号段被神经网络计算核计算核判断为类型1时,状态控制器使能模板更新计算模块、差平方和计算模块并通过读/写控制命令与选择控制命令来控制RAM和多路选择器,存入来自模块更新计算模块的信号类型1模板与其时序特征来更新RAM中存储的信号类型1模板与其时序特征、控制RAM存入差距E值与K倍差距E值来更新差距队列A、B;
当前时序信号段被神经网络计算核计算核判断为类型2时,状态控制器不再进行后续处理;
在更新阶段,状态控制器先通过读/写控制命令来控制RAM和多路选择器,同时使能差平方和计算模块、双阈值计算模块与双阈值判断模块,如当前时序信号段被双阈值判断模块分类为类型1信号,则再次通过读/写控制命令与选择控制命令来控制RAM和多路选择器,根据差平方和计算模块的输出差距值来更新差距队列A,同时使能控制模板更新计算模块来更新信号类型1模板与其时序特征;如当前时序信号段由神经网络计算核分类为类型1信号,则通过读/写控制命令与选择控制命令来控制RAM和多路选择器,更新差距队列A;如当前时序信号段的类别判断结果为类型2信号,则通过读/写控制命令与选择控制命令来控制RAM和多路选择器,更新差距队列B。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010701903.8A CN111738439B (zh) | 2020-07-21 | 2020-07-21 | 一种支持在线学习的人工智能处理方法及处理器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010701903.8A CN111738439B (zh) | 2020-07-21 | 2020-07-21 | 一种支持在线学习的人工智能处理方法及处理器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111738439A true CN111738439A (zh) | 2020-10-02 |
CN111738439B CN111738439B (zh) | 2020-12-29 |
Family
ID=72655220
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010701903.8A Active CN111738439B (zh) | 2020-07-21 | 2020-07-21 | 一种支持在线学习的人工智能处理方法及处理器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111738439B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112504428A (zh) * | 2020-10-19 | 2021-03-16 | 威海北洋光电信息技术股份公司 | 低功耗嵌入式高速分布式光纤振动传感***及其应用 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1055347A (ja) * | 1996-08-12 | 1998-02-24 | Nippon Telegr & Teleph Corp <Ntt> | 神経回路網型逐次学習方法および装置 |
TW201020939A (en) * | 2008-11-21 | 2010-06-01 | Nat Taipei University Oftechnology | High speed back-propagation neural network architecture with flexible structure and learning function |
CN104200269A (zh) * | 2014-09-09 | 2014-12-10 | 江南大学 | 一种基于在线学习最小嵌入维网络的实时故障诊断方法 |
CN106780570A (zh) * | 2016-12-21 | 2017-05-31 | 中国航天科工集团第四研究院指挥自动化技术研发与应用中心 | 一种基于在线学习的实时目标跟踪方法 |
US20180197529A1 (en) * | 2017-01-06 | 2018-07-12 | Applied Brain Research Inc. | Methods and systems for extracting auditory features with neural networks |
CN109948452A (zh) * | 2019-02-22 | 2019-06-28 | 中国电子科技集团公司第三十六研究所 | 一种时序信号预测方法和装置 |
CN110378869A (zh) * | 2019-06-05 | 2019-10-25 | 北京交通大学 | 一种样本自动标注的钢轨扣件异常检测方法 |
CN110705646A (zh) * | 2019-10-09 | 2020-01-17 | 南京大学 | 一种基于模型动态更新的移动设备流式数据识别方法 |
CN111382803A (zh) * | 2020-03-18 | 2020-07-07 | 电子科技大学 | 一种基于深度学习的特征融合方法 |
CN111429471A (zh) * | 2020-03-24 | 2020-07-17 | 东华理工大学 | 一种地质灾害信息管理***及方法 |
-
2020
- 2020-07-21 CN CN202010701903.8A patent/CN111738439B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1055347A (ja) * | 1996-08-12 | 1998-02-24 | Nippon Telegr & Teleph Corp <Ntt> | 神経回路網型逐次学習方法および装置 |
TW201020939A (en) * | 2008-11-21 | 2010-06-01 | Nat Taipei University Oftechnology | High speed back-propagation neural network architecture with flexible structure and learning function |
CN104200269A (zh) * | 2014-09-09 | 2014-12-10 | 江南大学 | 一种基于在线学习最小嵌入维网络的实时故障诊断方法 |
CN106780570A (zh) * | 2016-12-21 | 2017-05-31 | 中国航天科工集团第四研究院指挥自动化技术研发与应用中心 | 一种基于在线学习的实时目标跟踪方法 |
US20180197529A1 (en) * | 2017-01-06 | 2018-07-12 | Applied Brain Research Inc. | Methods and systems for extracting auditory features with neural networks |
CN109948452A (zh) * | 2019-02-22 | 2019-06-28 | 中国电子科技集团公司第三十六研究所 | 一种时序信号预测方法和装置 |
CN110378869A (zh) * | 2019-06-05 | 2019-10-25 | 北京交通大学 | 一种样本自动标注的钢轨扣件异常检测方法 |
CN110705646A (zh) * | 2019-10-09 | 2020-01-17 | 南京大学 | 一种基于模型动态更新的移动设备流式数据识别方法 |
CN111382803A (zh) * | 2020-03-18 | 2020-07-07 | 电子科技大学 | 一种基于深度学习的特征融合方法 |
CN111429471A (zh) * | 2020-03-24 | 2020-07-17 | 东华理工大学 | 一种地质灾害信息管理***及方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112504428A (zh) * | 2020-10-19 | 2021-03-16 | 威海北洋光电信息技术股份公司 | 低功耗嵌入式高速分布式光纤振动传感***及其应用 |
Also Published As
Publication number | Publication date |
---|---|
CN111738439B (zh) | 2020-12-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110826466B (zh) | 基于lstm音像融合的情感识别方法、装置及存储介质 | |
KR102451795B1 (ko) | 심전도 신호의 검출 방법 | |
Ölmez et al. | Classification of heart sounds using an artificial neural network | |
Liao et al. | Deep facial spatiotemporal network for engagement prediction in online learning | |
CN110797021B (zh) | 混合语音识别网络训练方法、混合语音识别方法、装置及存储介质 | |
TWI709852B (zh) | 用於經由多預測模型架構之異常偵測之系統與方法 | |
CN110832499A (zh) | 通过稀疏时间池化网络的弱监督动作定位 | |
US20150325046A1 (en) | Evaluation of Three-Dimensional Scenes Using Two-Dimensional Representations | |
CN109685037B (zh) | 一种实时动作识别方法、装置及电子设备 | |
CN109544598A (zh) | 目标跟踪方法、装置及可读存储介质 | |
CN112784976A (zh) | 一种基于脉冲神经网络的图像识别***及方法 | |
CN107239684A (zh) | 一种用于ecg身份识别的特征学习方法和*** | |
KR20200011818A (ko) | 사용자의 신체 상태를 추정하기 위한 방법 및 디바이스 | |
CN112581979A (zh) | 一种基于语谱图的语音情绪识别方法 | |
Ye et al. | ECG generation with sequence generative adversarial nets optimized by policy gradient | |
CN115359576A (zh) | 一种多模态情绪识别方法、装置、电子设备及存储介质 | |
CN112418166A (zh) | 一种基于多模态信息的情感分布学习方法 | |
CN111738439B (zh) | 一种支持在线学习的人工智能处理方法及处理器 | |
CN114511912A (zh) | 基于双流卷积神经网络的跨库微表情识别方法及装置 | |
CN108810551B (zh) | 一种视频帧预测方法、终端及计算机存储介质 | |
CN114582355B (zh) | 基于音视频融合的婴儿哭泣检测方法及装置 | |
CN108875500A (zh) | 行人再识别方法、装置、***及存储介质 | |
CN113995417A (zh) | 基于lstm自编码器的心电信号异常预测方法及*** | |
CN114548262B (zh) | 一种情感计算中多模态生理信号的特征级融合方法 | |
He et al. | A new intelligent ECG recognition approach based on CNN and improved ALO-SVM |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |