CN114781633B - 一种融合人工神经网络与脉冲神经网络的处理器 - Google Patents

一种融合人工神经网络与脉冲神经网络的处理器 Download PDF

Info

Publication number
CN114781633B
CN114781633B CN202210683569.7A CN202210683569A CN114781633B CN 114781633 B CN114781633 B CN 114781633B CN 202210683569 A CN202210683569 A CN 202210683569A CN 114781633 B CN114781633 B CN 114781633B
Authority
CN
China
Prior art keywords
snn
ann
neural network
control circuit
weight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202210683569.7A
Other languages
English (en)
Other versions
CN114781633A (zh
Inventor
周军
张兆民
夏子寒
毛睿昕
李思旭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN202210683569.7A priority Critical patent/CN114781633B/zh
Publication of CN114781633A publication Critical patent/CN114781633A/zh
Application granted granted Critical
Publication of CN114781633B publication Critical patent/CN114781633B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Neurology (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明公开了一种融合人工神经网络与脉冲神经网络的处理器，属于人工智能硬件领域。本发明包括共享存储单元、主控制器、ANN学习控制电路、SNN推理控制电路以及共享计算单元；将ANN学习控制电路输出的权值作为SNN推理控制电路的权值来实现两个神经网络的融合，使该处理器具备高准确率场景下和低功耗环境下两种工作模式。使用时，根据实际场景需求，通过主控制器控制ANN学习控制电路或SNN推理控制电路进行推理，解决了现有的基于神经网络进行信号分类处理无法适用于复杂多变的处理场景的问题，同时提升了低功耗环境下输入监测的准确率。

Description

一种融合人工神经网络与脉冲神经网络的处理器
技术领域
本发明涉及人工智能硬件领域，尤其涉及一种融合人工神经网络与脉冲神经网络的处理器。
背景技术
得益于计算机算力的提升，人工神经网络（Artificial Neural Network，ANN），尤其是卷积神经网络在各种分类任务中表现优秀。基于梯度下降训练的ANN的分类算法因其具有准确率高等优点，成为当前主流的检测手段，但受其算法本身的特性影响，ANN在每次更新时都要更新网络全部的神经元状态，这在具有事件驱动特性的问题，如：ECG检测、关键词检测、脑电信号检测等问题解决中导致了大量计算资源的浪费。因为在连续、不间断的信号波形检测中，异常信号是十分稀疏的，大多数是正常信号，而ANN在每个时刻都要更新网络全部神经元的状态，即使输入网络的波形是极微小的数值。
生物体的大脑时刻都在处理各种信息，但消耗的能量却远少于同规模的ANN，为了降低一些任务中的能耗，脉冲神经网络(Spiking Neural Network,SNN)成为了近来研究的热点。其受人脑神经元尖峰放电特性的启发，仅在输入的刺激到达一定阈值后才向后级神经元传递脉冲形式的信息，从而被认为具有事件驱动执行的低功耗特点。虽然SNN能耗低于ANN，但SNN在执行相同任务时，其准确率远低于ANN。这是因为SNN中的数据流是离散的0-1序列，较难通过直接求导的方法计算学习过程中的梯度，从而达到更新权值的目的。SNN自己的无监督学习方法仅能提取低维度信息，难以保证准确率。
众所周知，SNN与ANN模型有诸多相似之处，目前一些研究人员考虑使用ANN进行预训练，然后将训练后的权值转换给SNN，以取得了可与ANN相抗衡的准确率。但是，仅使用预训练的模型用于不同场景下的任务处理是不够的。由于存在个体的差异以及环境的动态变化，这种使用云端数据库中的数据集训练的模型缺乏对特定用户、多变环境的特有特征进行学习，以至于网络的泛化能力不足。
综上所述，现有的单纯基于人工神经网络或脉冲神经网络执行任务均存在一定的不足，无法适用于复杂多变的处理场景和不同个体的差异性、低能耗需求。
发明内容
本发明的目的在于提供了一种融合人工神经网络与脉冲神经网络的处理器，以解决现有的基于神经网络无法适用于复杂多变的处理场景和不同人员的差异性、低能耗需求。
为实现上述目的，本发明采用如下技术方案：
一种融合人工神经网络与脉冲神经网络的处理器，包括共享存储单元、主控制器、ANN学习控制电路、SNN推理控制电路以及共享计算单元；
所述共享存储单元，用于储存外部模块提供的数据和本处理器中其他模块产生的数据，以供后期调用；外部模块提供的数据包括神经网络权值数据、输入信号采样数据和外部标注好的标签数据；本处理器中其他模块产生的数据包括ANN学习控制电路学习后得到的权值、ANN和SNN运算推理过程中得到的中间数据(包含ANN激活值、SNN膜电位、SNN输出脉冲)、SNN的神经元阈值；
所述主控制器，根据实际场景需求控制整个处理器的运行状态：当在高准确率场景中监测时，通过控制ANN学习控制电路的运算推理实现；当在低能耗场景中监测时，通过SNN推理控制电路的运算推理实现；控制ANN学习控制电路中的ANN模型完成在线学习；
所述ANN学习控制电路，通过与共享计算单元、共享存储单元的交互完成ANN推理与学习；从共享存储单元提取外部输入的神经网络权值数据和输入信号采样数据，同时接收外部标注好的标签数据，然后将这些数据提供给共享计算单元计算出用于更新ANN的权值，根据该权值进行ANN模型的更新以完成ANN学习，得到分类结果以实现高准确率场景中的输入信号监测；学习后的权值作ANN和SNN的共用权值反馈至共享存储单元中；
所述SNN推理控制电路，具有与ANN学习控制电路相同的网络结构；通过与共享计算单元、共享存储单元的交互完成SNN推理；从共享存储单元提取外部输入的神经网络权值数据和输入信号采样数据给共享计算单元计算出用于更新SNN的膜电位与输出脉冲，或从共享存储单元提取ANN学习后的权值给共享计算单元计算出用于更新SNN的膜电位与输出脉冲，从而得到分类结果，实现低能耗场景中的任务处理。
进一步的，所述SNN推理控制电路中，从共享存储单元提取ANN学习后的权值给共享计算单元计算的过程还包括权值转换，即根据ANN学习后的权值微调SNN神经元阈值的过程，具体为：将ANN学习控制电路中采用ANN模型学习得到的权值按照SNN中IF神经元的脉冲发放阈值，适应性缩放到SNN的IF神经元。
进一步的，所述权值转换采用了SNN自动阈值调节的方法进行权值转换，以提升分类的准确性。
进一步的，上述处理器还包括编码器，所述编码器用于对外部输入的信号进行转换以得到直接用于SNN的数据。
进一步的，所述共享计算单元包括softmax单元和乘加单元。为保证计算精度，softmax单元采用softmax计算器，使用浮点数表示；乘加单元使采用多功能乘加累加器，使用定点数表示。
本发明提供的一种融合人工神经网络与脉冲神经网络的处理器，是利用人工神经网络(ANN)模型和脉冲神经网络(SNN)模型在硬件中的网络结构一致时，ANN中ReLU神经元与SNN中IF神经元具有相似特点这一特性，将ANN学习控制电路输出的权值作为SNN推理控制电路的输入值来实现两个神经网络的融合，使该处理器具备高准确率场景和低功耗场景两种工作模式。使用时，根据实际场景需求，通过主控制器控制ANN学习控制电路或SNN推理控制电路进行推理，解决了现有的基于神经网络执行任务无法适用于复杂多变的处理场景的问题，同时提升了低功耗场景下执行任务的准确率。
与现有的技术相比，本发明具有以下的有益效果：
（1）本发明能够根据实际需求，在主控制器的控制下进行在线工作模式的切换，适应灵活多变的场景需求。
（2）本发明的ANN学习控制电路推理过程也是在线学习过程，在ANN学习控制电路所采用的ANN模型中，通过新增外部标注好的标签数据获取边缘端不同人员的差异性特征，提升了ANN模型适应性，从而获得更优的准确率。
（3）本发明中ANN和SNN的数据共用，共用共享存储单元，资源利用率高。
附图说明
图1为实施例处理器的整体架构框图；
图2为SNN推理控制电路采用ANN学习后的权值实现推理流程图；
图3为ANN推理主控制器状态跳转顺序图；
图4为SNN推理主控制器状态跳转顺序图。
具体实施方式
为了更好地了解本发明的目的、结构及功能，下面结合附图，对本发明做进一步详细的描述。
图1为实施例处理器的整体架构框图。这里以一维ECG信号处理为例，更高维信号处理原理与其完全一致。其输入为外部输入的神经网络权值数据（图中的神经网络权值数据）和ECG采样数据、外部标注好的标签数据，输出为分类结果。如图1所示，该一维信号分类智能处理器包括：共享存储单元、共享计算单元、主控制器、ANN学习控制电路以及SNN推理控制电路。
共享存储单元由存储存储权值、偏置以及SNN相关参数的8KB NN Memory、存储一维信号采样数据的192Bytes Data Buffer、存储中间数据的320Bytes NN Data Memory以及一个与外部接口进行数据交互的存储接口组成，用于存储外部模块提供的神经网络权值数据、一维信号采样数据和外部标注好的标签数据；本处理器其他模块提供的数据，具体有经ANN学习控制电路学习后得到的权值、ANN和SNN运算推理过程中得到的中间数据(包含ANN激活值、SNN膜电位、SNN输出脉冲)、SNN的神经元阈值。本实施例中，为使处理器在低工作电压下具备低功耗优势，共享存储单元中各部分的存储实现均采用锁存器完成。
共享计算单元由softmax单元和乘加单元组成。为保证计算精度， softmax单元采用softmax计算器，使用浮点数表示；乘加单元使采用多功能乘加累加器，使用定点数表示，用于完成ANN推理、SNN推理和ANN学习三个工作模式下的计算任务。
主控制器根据实际场景需求控制整个处理器的运行状态，以用于控制ANN学习控制电路和SNN推理控制电路的运算推理状态；ANN学习控制电路采用ANN模型实现学习和高准确率场景下的运算推理；SNN推理控制电路采用SNN模型实现低功耗场景下的运算推理。使用时，通过外部给出的控制信号控制器件选择ANN工作模式或SNN工作模式；当在高准确率场景中监测时，通过控制ANN学习控制电路的运算推理实现一维信号监测；当在低能耗场景中监测时，通过控制SNN推理电路的运算推理实现一维信号监测。
图3为ANN推理主控制器状态跳转顺序图。如图3所示，对于N个输入神经元的网络，当主控器接收到外部给的相应功能指示信号（如001），随后主控器向ANN学习控制电路发送ANN推理指令，指令包含ANN学习控制电路使能信号、输入神经元的起始地址、输出神经元的起始地址、输入神经元个数、输出神经元个数、所用到的权值在共享存储单元中的地址，之后ANN学习控制电路通过与共享计算单元与共享存储单元完成第一层网络的更新，第一层更新完成后，ANN学习控制电路会返回给主控器本层更新完成的信号；之后每层的过程与更新第一层相似，主控制器会重复更新第一层时的操作，不同的是传递给ANN学习控制电路的输入神经元的起始地址、输出神经元的起始地址、输入神经元个数、输出神经元个数、所用到的权值在共享存储单元中的地址会根据下一层网络的结构而不同。待最后一层更新完成后，主控制器读取最后一层神经元的地址信息，然后通过比较最后一层神经元之间激活值的大小，将激活值最大的神经元序号作为推理结果输出，随后主控制器切换回空闲状态，等待下一次ANN推理，本次推理完成。
图4为SNN推理主控制器状态跳转顺序图。如图4所示，当主控器接收到外部给的相应功能指示信号（如100）时，主控器向SNN推理控制电路发送SNN推理指令，指令包含SNN学习控制电路使能信号、输入神经元脉冲的起始地址、输出神经元的起始地址、输出神经元脉冲的起始地址、输出神经元的阈值起始地址、输入神经元个数、输出神经元个数、所用到的权值在共享存储单元中的地址，之后SNN推理控制电路通过与共享计算单元与共享存储单元完成第一层网络的更新，第一层更新完成后，SNN推理控制电路会返回给主控器本层更新完成的信号；之后每层的过程与更新第一层相似，主控制器会重复更新第一层时的操作，不同的是传递给SNN推理控制电路的输入神经元脉冲的起始地址、输出神经元的起始地址、输出神经元脉冲的起始地址、输出神经元的阈值起始地址、输入神经元个数、输出神经元个数、所用到的权值在共享存储单元中的地址会根据下一层网络的结构而不同。待最后一层更新完成后，主控制器读取最后一层神经元的地址信息，然后通过比较最后一层神经元之间脉冲数的大小，将脉冲数最大的神经元序号作为推理结果输出，随后主控制器切换回空闲状态，等待下一次SNN推理，本次推理完成。
图2为SNN推理控制电路采用ANN学习后的权值实现推理流程图。如图2所示，SNN推理控制电路实现推理可以分两条线路实现，其中一条的工作流程为：外部输入的数据（包含初始神经网络权值和一维信号采样数据）经编码器编码转换为可直接用于SNN的数据后，SNN推理控制电路所采用的SNN模型进行SNN推理得到分类结果。另一条则是进行了ANN学习后的线路，该线路的工作流程为：
ANN学习控制电路所采用的ANN模型获取到外部标注好的标签数据和经编码器编码转换后的数据后，进行学习得到用于更新ANN模型的权值参数，然后将该权值参数通过权值转换的方式使其作为SNN推理控制电路的输入，SNN推理控制电路所采用的SNN模型进行SNN推理得到分类结果。从图2可以看出，本实施例的通过ANN模型在线学习过程中新增外部标注好的标签数据获取边缘端不同病人的差异性特征，提升了SNN在功耗场景中的一维信号检测适应性，从而获得更优的准确率。
综上可见，本实施例提供的一维信号分类智能处理器的整体架构框图能够根据实际需求，在主控制器的控制下进行在线工作模式的切换，适应灵活多变的场景需求。根据TSMC 28nm流片测试结果，ANN推理单个心拍的能耗为0.5uJ，速度为0.5ms，SNN推理单个心拍的能耗为0.3uJ，速度为5ms。且通过ANN在线学习，避免了使用云端数据库中的数据集训练的模型存在的网络的泛化能力不足的问题，实现了不同人员的差异***。
以上所述，仅用以说明本发明的技术方案而非限制，本领域普通技术人员对本发明的技术方案所做的其它修改或者等同替换，只要不脱离本发明技术方案的精神和范围，均应涵盖在本本发明的权利要求范围当中。

Claims (5)

1.一种融合人工神经网络与脉冲神经网络的处理器，包括共享存储单元、主控制器、ANN学习控制电路、SNN推理控制电路以及共享计算单元,其特征在于：
所述共享存储单元，用于储存外部模块提供数据和本处理器中其他模块产生的数据，以供后期调用；外部模块提供的数据包括神经网络权值数据、一维信号采样数据和外部标注好的标签数据；本处理器中其他模块产生的数据包括ANN学习控制电路学习后得到的权值、ANN和SNN运算推理过程中得到的中间数据、SNN的神经元阈值；其中，中间数据包含ANN激活值、SNN膜电位、SNN输出脉冲；
所述主控制器，根据实际场景需求控制整个处理器的运行状态：当在高准确率场景中监测时，通过控制ANN学习控制电路的运算推理实现；当在低能耗场景中监测时，通过SNN推理控制电路的运算推理实现；控制ANN学习控制电路中的ANN模型完成在线学习；
所述ANN学习控制电路，通过与共享计算单元、共享存储单元的交互完成ANN推理与学习；从共享存储单元提取外部输入的神经网络权值数据和一维信号采样数据，同时接收外部标注好的标签数据，然后将这些数据提供给共享计算单元计算出用于更新ANN的权值，根据该权值进行ANN模型的更新以完成ANN学习，得到分类结果以实现高准确率场景中的一维信号监测；学习后的权值作ANN和SNN的共用权值反馈至共享存储单元中；
所述SNN推理控制电路，具有与ANN学习控制电路相同的网络结构；通过与共享计算单元、共享存储单元的交互完成SNN推理；从共享存储单元提取外部输入的神经网络权值数据和一维信号采样数据给共享计算单元计算出用于更新SNN的膜电位与输出脉冲，或从共享存储单元提取ANN学习后的权值给共享计算单元计算出用于更新SNN的膜电位与输出脉冲，从而得到分类结果，实现低能耗场景中的任务处理。
2.根据权利要求1所述的一种融合人工神经网络与脉冲神经网络的处理器，其特征在于：所述SNN推理控制电路中，从共享存储单元提取ANN学习后的权值给共享计算单元计算的过程还包括权值转换，即根据ANN学习后的权值微调SNN神经元阈值的过程，具体为：将ANN学习控制电路中采用ANN模型学习得到的权值按照SNN中IF神经元的脉冲发放阈值，适应性缩放到SNN的IF神经元。
3.根据权利要求2所述的一种融合人工神经网络与脉冲神经网络的处理器，其特征在于：所述权值转换采用了SNN自动阈值调节的方法进行权值转换，以提升分类的准确性。
4.根据权利要求1所述的一种融合人工神经网络与脉冲神经网络的处理器，其特征在于：上述处理器还包括编码器，所述编码器用于对外部输入的信号进行转换以得到直接用于SNN的数据。
5.根据权利要求1所述的一种融合人工神经网络与脉冲神经网络的处理器，其特征在于：所述共享计算单元包括softmax单元和乘加单元；softmax单元采用softmax计算器，使用浮点数表示；乘加单元使采用多功能乘加累加器，使用定点数表示。
CN202210683569.7A 2022-06-17 2022-06-17 一种融合人工神经网络与脉冲神经网络的处理器 Active CN114781633B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210683569.7A CN114781633B (zh) 2022-06-17 2022-06-17 一种融合人工神经网络与脉冲神经网络的处理器

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210683569.7A CN114781633B (zh) 2022-06-17 2022-06-17 一种融合人工神经网络与脉冲神经网络的处理器

Publications (2)

Publication Number Publication Date
CN114781633A CN114781633A (zh) 2022-07-22
CN114781633B true CN114781633B (zh) 2022-10-14

Family

ID=82420325

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210683569.7A Active CN114781633B (zh) 2022-06-17 2022-06-17 一种融合人工神经网络与脉冲神经网络的处理器

Country Status (1)

Country Link
CN (1) CN114781633B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110705428A (zh) * 2019-09-26 2020-01-17 北京智能工场科技有限公司 一种基于脉冲神经网络的脸部年龄识别***及方法
CN111325321A (zh) * 2020-02-13 2020-06-23 中国科学院自动化研究所 基于多神经网络融合的类脑计算***及指令集的执行方法
CN111340181A (zh) * 2020-02-11 2020-06-26 天津大学 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法
CN113902092A (zh) * 2021-09-02 2022-01-07 四川晟锦汇科技有限公司 一种脉冲神经网络间接监督训练方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150016089A (ko) * 2013-08-02 2015-02-11 안병익 신경망 컴퓨팅 장치 및 시스템과 그 방법
US10339041B2 (en) * 2013-10-11 2019-07-02 Qualcomm Incorporated Shared memory architecture for a neural simulator
US11501130B2 (en) * 2016-09-09 2022-11-15 SK Hynix Inc. Neural network hardware accelerator architectures and operating method thereof
US20200012924A1 (en) * 2018-07-03 2020-01-09 Sandisk Technologies Llc Pipelining to improve neural network inference accuracy
FR3087560A1 (fr) * 2018-10-23 2020-04-24 Commissariat A L'energie Atomique Et Aux Energies Alternatives Retro-propagation d'erreurs sous forme impulsionnelle dans un reseau de neurones impulsionnels
CN109858620B (zh) * 2018-12-29 2021-08-20 北京灵汐科技有限公司 一种类脑计算***
CN110674928B (zh) * 2019-09-18 2023-10-27 电子科技大学 一种融合人工神经网络和神经形态计算的在线学习方法
CN111314257B (zh) * 2020-03-13 2021-07-06 电子科技大学 一种基于复值神经网络的调制方式识别方法
CN111582445B (zh) * 2020-04-24 2023-05-26 浙江大学 一种基于脉冲神经网络的高效学习***及学习方法
US20220027727A1 (en) * 2020-07-21 2022-01-27 International Business Machines Corporation Online training of neural networks
DE102020209538A1 (de) * 2020-07-29 2022-02-03 Robert Bosch Gesellschaft mit beschränkter Haftung Vorrichtung und Verfahren zum Ermitteln einer physikalischen Eigenschaft eines physikalischen Objekts
CN112116010B (zh) * 2020-09-21 2023-12-12 中国科学院自动化研究所 基于膜电势预处理的ann-snn转换的分类方法
CN112188093B (zh) * 2020-09-24 2022-09-02 北京灵汐科技有限公司 双模态信号融合***和方法
CN112016680B (zh) * 2020-10-22 2021-02-05 电子科技大学 一种可重构的自主学习脉冲神经网络处理器
CN112328398A (zh) * 2020-11-12 2021-02-05 清华大学 任务处理方法及装置、电子设备和存储介质
CN112561057B (zh) * 2020-12-09 2022-12-20 清华大学 一种状态控制方法及装置
CN112686381A (zh) * 2020-12-30 2021-04-20 北京灵汐科技有限公司 神经网络模型、方法、电子设备及可读介质
CN113128675B (zh) * 2021-04-21 2023-12-26 南京大学 一种基于脉冲神经网络的无乘法卷积调度器及其硬件实现方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110705428A (zh) * 2019-09-26 2020-01-17 北京智能工场科技有限公司 一种基于脉冲神经网络的脸部年龄识别***及方法
CN111340181A (zh) * 2020-02-11 2020-06-26 天津大学 基于增强脉冲的深层双阈值脉冲神经网络转换训练方法
CN111325321A (zh) * 2020-02-13 2020-06-23 中国科学院自动化研究所 基于多神经网络融合的类脑计算***及指令集的执行方法
CN113902092A (zh) * 2021-09-02 2022-01-07 四川晟锦汇科技有限公司 一种脉冲神经网络间接监督训练方法

Also Published As

Publication number Publication date
CN114781633A (zh) 2022-07-22

Similar Documents

Publication Publication Date Title
Rueckauer et al. Conversion of analog to spiking neural networks using sparse temporal coding
CN109816026B (zh) 卷积神经网络和脉冲神经网络的融合装置及方法
Lin et al. Diffusion models for time-series applications: a survey
WO2022078334A1 (zh) 利用神经元模型及网络处理信号的处理方法、介质、设备
CN111612136A (zh) 一种神经形态视觉目标分类方法及***
CN114781439B (zh) 模型获取***、手势识别方法、装置、设备及存储介质
CN117435715B (zh) 一种基于辅助监督信号改进时序知识图谱的问答方法
CN112182161A (zh) 一种基于用户对话历史的个性化对话生成方法和***
Fang et al. Multivariate time series classification using spiking neural networks
CN111382840B (zh) 一种面向自然语言处理的基于循环学习单元的htm设计方法
CN113627603B (zh) 在芯片中实现异步卷积的方法、类脑芯片及电子设备
Wu et al. Dynamic threshold integrate and fire neuron model for low latency spiking neural networks
Shahriar et al. An IoT-based real-time intelligent irrigation system using machine learning
CN114781633B (zh) 一种融合人工神经网络与脉冲神经网络的处理器
CN116080688B (zh) 一种类脑启发的智能驾驶视觉辅助方法、装置及存储介质
CN113138080B (zh) 基于振动孪生与极限学习的滚动轴承智能故障诊断方法
CN112949819B (zh) 基于忆阻器的自供能设备及其脉冲神经网络优化方法
Zhang et al. A Hybrid Neural Network-Based Intelligent Forecasting Approach for Capacity of Photovoltaic Electricity Generation
Khosrowshahi Innovation in artificial neural network learning: Learn-On-Demand methodology
Zhao et al. A deep neural networks based on multi-task learning and its application
Huang et al. Power load prediction based on an improved clock-work RNN
Gavrilov et al. A model of spike neuron oriented to hardware implementation
US20240202505A1 (en) Monostable Multivibrators-based Spiking Neural Network Training Method
Li et al. Learning from the crowd with neural network
CN116844225B (zh) 一种基于知识蒸馏的个性化人体动作识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant