CN109165730A - 交叉阵列神经形态硬件中状态量化网络实现方法 - Google Patents

交叉阵列神经形态硬件中状态量化网络实现方法 Download PDF

Info

Publication number
CN109165730A
CN109165730A CN201811029532.2A CN201811029532A CN109165730A CN 109165730 A CN109165730 A CN 109165730A CN 201811029532 A CN201811029532 A CN 201811029532A CN 109165730 A CN109165730 A CN 109165730A
Authority
CN
China
Prior art keywords
crossed array
neuromorphic hardware
quantization
crossed
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811029532.2A
Other languages
English (en)
Other versions
CN109165730B (zh
Inventor
胡绍刚
罗鑫
乔冠超
刘益安
张成明
刘洋
于奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201811029532.2A priority Critical patent/CN109165730B/zh
Publication of CN109165730A publication Critical patent/CN109165730A/zh
Application granted granted Critical
Publication of CN109165730B publication Critical patent/CN109165730B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/061—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using biological neurons, e.g. biological neurons connected to an integrated circuit
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Molecular Biology (AREA)
  • Neurology (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Feedback Control In General (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明属于神经网络技术领域，涉及一种交叉阵列神经形态硬件中状态量化网络实现方法。本发明的方法为，对人工神经网络各项参数(权值、阈值、泄漏常数、置位电压值、不应期时长、突触延迟时长等参数)进行量化后，将量化后的各项参数映射到交叉阵列神经形态硬件中，随后将经过预处理后输入数据送入到交叉阵列神经形态硬件中即可实现状态量化网络。通过状态量化，有效降低了交叉阵列神经形态硬件对存储单元的规模、存储级数、可靠性等的要求。

Description

交叉阵列神经形态硬件中状态量化网络实现方法
技术领域
本发明属于神经网络技术领域，涉及一种交叉阵列神经形态硬件中状态量化网络实现方法。
背景技术
神经形态硬件(Neuromorphic computing)用来指代与普遍的冯·诺依曼计算机体系结构形成鲜明对比的源于大脑的计算机、器件和模型。这种仿生学方法创造了高度连接的合成神经元和突触，其可用于神经科学理论建模，解决机器学习问题。
神经形态电路是神经网络模型的物理实现之一，以硬件化的手段对生物神经***进行高层面，高效地抽象和模拟，以期能在实现神经***信息处理能力的基础上，达到低功耗、高适应性等特性。
交叉阵列将忆阻器用于数据存储和并行计算以及作为神经网络节点的一种重要组成架构就是采用交叉阵列(Crossbar)来组建大规模集成运算电路。通过垂直交叉阵列，可以将大量的忆阻器平行的放置在一起，形成忆阻器矩阵。在不同的电压控制下，读取和改变忆阻器的值就能获得和设置一个权值矩阵。交叉阵列广泛应用于数据存储和神经网络学习。
交叉阵列交叉处单元除忆阻器之外，也可以选择其他器件构成，如电容，晶体管，可变电阻等，也可像忆阻器一样形成阵列，用于数据存储或者用于交叉阵列神经形态硬件中。
现有技术至少存在以下问题：
目前所实现的交叉阵列神经形态硬件中，突触权值以及神经元的各种参数例如阈值，泄露常数，置位电压，不应期时长，突触延迟时长等参数需要占用许多***存储资源，随着电路规模的急剧扩大，在如今存储资源相对比较匮乏的情况下，这必然会成为神经形态硬件的一个重大瓶颈。
发明内容
针对上述问题，本发明提出了交叉阵列神经形态硬件中状态量化网络实现方法，将交叉阵列神经形态硬件中的各种参数进行状态量化，有效降低了交叉阵列神经形态硬件对存储单元的规模、存储级数、可靠性等的要求，可有力推进交叉阵列神经形态硬件的应用。
本发明的技术方案如下：
S1：选取参数并对其进行量化，参数量化可在神经网络训练完成后进行，也可在神经网络训练时进行。
A：在神经网络训练完成后量化
将人工神经网络(包括MLP、CNN、RNN、LSTM等)在特定任务和特定条件下进行训练获得参数(包括权值、阈值、泄漏常数、置位电压值、不应期时长、突触延迟时长等)；
在脉冲神经网络中对S1中获取的人工神经网络参数进行量化，在脉冲神经网络中对至少一个上述人工神经网络训练获得的参数进行量化，即用几个量化状态来取代训练所得的参数的所有状态。对脉冲神经网络中量化的参数进行反复调整使得参数量化后的脉冲神经网络达到预定的功能与性能，则参数量化完成。
B：在神经网络训练时量化
在对人工神经网络进行训练时将要量化的参数(如权值)的取值进行量化，如将权值量化值定为-1、-0.4、0、0.4、1，之后再对人工神经网络进行训练，训练完成后将参数映射到相应的脉冲神经网络中，并对训练所得的量化参数进行调整或重新选取量化参数值进行训练，直到脉冲神经网络能达到预定功能与性能，则参数量化完成。
S2：将S1中量化后的脉冲神经网络参数映射到交叉阵列神经形态硬件中
将训练好的脉冲网络中的量化参数映射到交叉阵列神经形态硬件中，不同的参数，映射到交叉阵列神经形态硬件中的对应的控制部分。如量化权值映射到交叉阵列神经形态硬件中的交叉阵列；量化阈值映射到神经元阈值控制部分；量化泄漏常数映射到神经元泄漏常数控制部分；量化置位电压值映射到神经元置位电压控制部分；量化不应期时长映射到神经元不应期时长控制部分；量化突触延迟时长映射到突触延迟时长控制部分。
S3：对输入数据进行预处理，如转化为脉冲输入以及编码等，将预处理后的输入数据送入到交叉阵列神经形态硬件中，即可实现状态量化网络。
进一步的，上述交叉阵列神经形态硬件中的交叉阵列有多种实现方式；
具体的，交叉阵列交叉处单元可由一个晶体管(N型晶体管、P型晶体管、浮栅晶体管、突触晶体管等)实现；
具体的，交叉阵列交叉处单元可由一个半导体存储单元(如6管SRAM单元)实现；
具体的，交叉阵列交叉处单元可由一个电容实现；
具体的，交叉阵列交叉处单元可由一个选择晶体管加一个电容实现；
具体的，交叉阵列交叉处单元可由一个忆阻器实现；
具体的，交叉阵列交叉处单元可由一个选择晶体管加一个可变电阻实现；
具体的，交叉阵列交叉处单元可由一个整流二极管加一个可变电阻实现。
本发明的有益效果为，将人工神经网络转化为脉冲神经网络的基础上，可实现一个或多个参数的量化，并在此基础上进一步的将量化参数映射到交叉阵列神经形态硬件中对应的控制部分，从而实现交叉阵列神经形态硬件中状态量化网络，从而在硬件层面实现了状态量化，有效降低了交叉阵列神经形态硬件对存储单元的规模、存储级数、可靠性等的要求。
附图说明
图1是本发明实施例提供的交叉阵列神经形态硬件中状态量化网络功能实现方法的流程图；
图2是本发明实施例提供的实现交叉阵列神经形态硬件中状态量化网络功能的***结构图；
图3是用电容实现的交叉阵列形式；
图4是用忆阻器实现的交叉阵列形式；
图5是用晶体管加可变电阻实现的交叉阵列形式；
图6是在本发明实施例中所采用的一种神经元模型。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方式作进一步地详细描述。
参阅图1，本发明实施例提供了交叉阵列神经形态硬件中实现状态量化网络的方法，包括以下步骤：
S1：选取参数并对其进行量化，参数量化可在神经网络训练完成后进行，也可在神经网络训练时进行。
A：在神经网络训练完成后量化
将人工神经网络(包括MLP、CNN、RNN、LSTM等)在特定任务和特定条件下进行训练获得参数，(包括权值、阈值、泄漏常数、置位电压值、不应期时长、突触延迟时长等)；
在脉冲神经网络中对S1中获取的人工神经网络参数进行量化，在脉冲神经网络中对至少一个上述人工神经网络训练获得的参数进行量化，即用几个量化状态来取代训练所得的全部参数。对脉冲神经网络中量化的参数进行反复调整使得参数量化后的脉冲神经网络得到与原人工神经网络一样的功能以及几乎一样的性能；则参数量化完成。
B：在神经网络训练时量化
在对人工神经网络进行训练时将要量化的参数(如权值)的取值进行量化，如将权值量化值定为-1、-0.4、0、0.4、1，之后再对人工神经网络进行训练，训练完成后将参数映射到相应的脉冲神经网络中，并对训练所得的量化参数进行调整，直到脉冲神经网络能达到与原人工神经网络相同的功能以及几乎一样的性能，则参数量化完成。
S2：将S1中量化后的脉冲神经网络参数映射到交叉阵列神经形态硬件中
将训练好的脉冲网络中的量化参数映射到交叉阵列神经形态硬件中，。不同的参数，映射到交叉阵列神经形态硬件中的部位不一样，如量化权值映射到交叉阵列神经形态硬件中的交叉阵列；量化阈值映射到神经元阈值控制部分；量化泄漏常数映射到神经元泄漏常数控制部分；量化置位电压值映射到神经元置位电压控制部分；量化不应期时长映射到神经元不应期时长控制部分；量化突触延迟时长映射到突触延迟时长控制部分。
S3：对输入数据进行预处理，将原输入转化为脉冲输入并对其进行编码等，将预处理后的输入数据送入到交叉阵列神经形态硬件中，即可实现状态量化网络。
下面以权值量化为例进行详细的说明。
针对某一特定任务建立相应的人工神经网络，该神经网络可以是MLP、CNN、RNN、LSTM等任一模型的人工神经网络。
在神经网络训练完成后量化：在一定条件下使用传统的人工神经网络训练方法对其进行训练，得到训练后的参数。再将人工神经网络训练好的参数映射到与其拓扑结构相同的脉冲神经网络中，选取需要量化的权值参数，在脉冲神经网络中用有限个权值状态代替之前所有权值，实现权值的量化，使用量化后的权值对脉冲神经网络进行测试，对比此时脉冲神经网络与对应的人工神经网络的性能，若脉冲神经网络达到了性能指标，则权值量化结束，否则重新取权值量化的状态取值，并再次对脉冲神经网络进行测试，如此反复，直到其达到性能指标。
在神经网络训练时量化：在对人工神经网络进行训练之前选取权值的几个取值状态，并对人工神经网络进行训练，若能达到要求，则训练结束，反之则改变权值的取值状态，并重新训练，如此反复，直到人工神经网络达到要求，训练结束。将训练好的量化权值及其他参数映射到与人工神经网络拓扑结构相同的脉冲神经网络中，对脉冲神经网络进行测试，对比此时脉冲神经网络与对应的人工神经网络的性能，若脉冲神经网络达到了性能指标，则权值量化结束，否则调整量化权值取值，并再次进行人工神经网络训练和脉冲神经网络的映射，如此反复，直到其达到性能指标。
将训练好的脉冲神经网络映射到交叉阵列神经形态硬件中对应的权值控制部分，即交叉阵列单元中。调整交叉阵列单元的相关参数，使交叉阵列神经形态硬件中的权值取值为之前脉冲神经网络训练后所得的有限个权值状态。
对输入数据进行预处理，将其转化为脉冲输入并对其进行编码后送入到交叉阵列神经形态硬件中，即可用交叉阵列神经形态硬件实现权值量化神经网络功能。
图2示出了本发明实施例中交叉阵列神经形态硬件实现状态量化网络的***结构图。如图所示，正权值与负权值分别由各自对应的交叉阵列实现，输入分为正输入+Vin，1，+Vin，2，+Vin，3，、、、，+Vin，n与负输入-Vin，1，-Vin，2，-Vin，3，、、、，-Vin，n(与正输入大小符号都相等)。其中，正权值交叉阵列中保留原来的正权值，负权值置零；负权值交叉阵列中保留原来的负权值，正权值置零，并对负权值取绝对值。每一个输入通过交叉阵列对应的单元的状态(即相应的权值大小)产生附加了权值的输入，一列正输入与对应的一列负输入分别接对应神经元的正输入与负输入，通过神经元内部和差功能相关部分实现正输入与负输入相减。具体的，以输入为正输入1正输入2，负输入9，负输入10时为例，分析神经元19对应输入与输出情况，其他神经元的输入输出情况可同理分析得出。正输入1经由交叉阵列中的5产生对应的附有权值的电流输入；正输入2经由交叉阵列中的6产生对应的附有权值的电流输入；负输入9经由交叉阵列中的13产生对应的附有权值的电流输入；负输入10经由交叉阵列中的14产生对应的附有权值的电流输入。对应于神经元19的正权值交叉阵列的该列产生总的正输入17，类似的对应于神经元19的负权值交叉阵列的该列产生总的负输入18，神经元19对总的正输入17与总的负输入18进行相关的处理，实现正输入与负输入相减，并对其进行后续的处理，最终产生相应的输出。
脉冲神经网络量化权值映射到交叉阵列神经形态硬件中权值控制部分，具体的，量化权值映射到图2所示的***结构中的交叉阵列，通过调整每个交叉阵列单元的控制部分，改变交叉阵列单元的状态，实现权值量化。
下面对不同的交叉阵列单元如何实现权值量化进行说明
图3是由电容构成的交叉阵列，具体的，交叉阵列中的每一个单元，控制该单元的输入与神经元的连接强度，即权值大小。交叉阵列中的电容单元同伙该单元上的电荷量的多少来表示权值的大小，单位输入所产生的电流就相应的越大。脉冲神经网络量化权值映射到交叉阵列神经形态硬件时，根据量化权值的取值状态，调整交叉阵列中电容的控制单元，使得电容上的电荷量取值状态与量化权值状态一一对应，则可用由电容构成的交叉阵列实现交叉阵列神经形态硬件中的权值量化。
图4是由忆阻器构成的交叉阵列，具体的，由忆阻器的阻值状态表示权值大小，从而控制单位输入所产生的电流大小。脉冲神经网络量化权值映射到交叉阵列神经形态硬件时，根据量化权值的取值状态，调整交叉阵列中忆阻器的控制单元，使得忆阻器的阻值取值状态与量化权值状态一一对应，则可用由忆阻器构成的交叉阵列实现交叉阵列神经形态硬件中的权值量化。
图5是由晶体管加可变电阻构成的交叉阵列，具体的，改变可变电阻的阻值大小，从而控制单位输入所产生的电流大小。脉冲神经网络量化权值映射到交叉阵列神经形态硬件时，根据量化权值的取值状态，调整交叉阵列中可变电阻的控制单元，使得可变电组的阻值取值状态与量化权值状态一一对应，则可用由晶体管加可变电组构成的交叉阵列实现交叉阵列神经形态硬件中的权值量化。
图6是本发明实施例中所采用的一种神经元结构模型。该神经元在实现正输入与负输入的同时可对最终输入进行后续处理。如图所示，神经元有正输入与负输入，正输入与负输入经由电阻R1、R2、R3、R4、R5、运放1和运放2构成的权值处理部分实现正输入与负输入相减，产生最终输入。最终输入由后续单元进行处理并产生相应输出。量化的脉冲神经网络参数映射到神经形态硬件时，不同参数映射到神经元各自的对应控制部分。量化阈值映射到图中神经元的阈值控制部分，即图中的可调电压源部分。该可调电压源可产生多个电压值，对应于神经元的多个阈值。根据脉冲神经网络量化阈值，调整该可调电压源所产生的电压从而改变神经元的阈值，即实现了量化阈值的映射；量化泄漏常数映射到图中神经元中的R8，通过调整R8的阻值大小可改变电容C2上电荷的泄漏速度，即可改变神经元的泄漏常数，将脉冲神经网络量化泄漏常数映射到交叉神经形态硬件时，根据量化泄漏常数，相应的调整电阻R8的阻值大小，即可实现量化泄漏常数的映射；量化不应期时长映射到图中神经元的不应期时长控制单元，即图中的选择开关S。选择开关S可调整导通状态以及保持时间，在开关S处于放电状态的保持时间内，神经元不能对外部输入产生反应，即神经元处于不应期，根据脉冲神经网络量化不应期时长调整开关S在神经元每次发放时的保持时间，即可调整神经元的不应期时长，则可实现量化不应期时长的映射。

Claims (10)

1.交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，包括以下步骤：
S1:选取目标参数并对其进行量化；
S2：将S1中量化后的脉冲神经网络参数映射到交叉阵列神经形态硬件中：将训练好的脉冲网络中的量化参数映射到交叉阵列神经形态硬件对应的参数控制部分；
S3：对输入数据进行预处理，将预处理后的输入数据送入到交叉阵列神经形态硬件中，即可实现状态量化网络；所述预处理包括脉冲输入以及编码。
2.如权利要求1所述的交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，所述目标参数为权值、阈值、泄漏常数、置位电压值、不应期时长、突触延迟时长中的一个或多个。
3.如权利要求2所述的交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，步骤S1是在神经网络训练完成后进行：
将人工神经网络在设定的目标条件下进行训练获得对应的目标参数，将目标参数映射到脉冲神经网络中并将选取的参数进行量化。
4.如权利要求2所述的交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，步骤S1是在神经网络训练时进行：
将需要量化的目标参数，在对人工神经网络进行训练时加以量化，训练完成后将目标参数映射到相应的脉冲神经网络中，并对训练所得的量化参数根据需求进行调整，得到最终的量化参数。
5.如权利要求3或4所述的交叉阵列神经形态硬件中状态量化网络实现方法其特征在于，交叉阵列神经形态硬件中交叉阵列中的单元由一个电容构成。
6.如权利要求3或4所述的交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，交叉阵列神经形态硬件中交叉阵列中的单元由一个忆阻器构成。
7.如权利要求3或4所述的交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，交叉阵列神经形态硬件中交叉阵列中的单元由一个选择晶体管加可变电阻构成。
8.如权利要求3或4所述的交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，交叉阵列神经形态硬件中交叉阵列中的单元由一个晶体管构成。
9.如权利要求3或4所述的交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，交叉阵列神经形态硬件中交叉阵列中的单元由交叉阵列交叉处单元由一个选择晶体管加一个电容构成。
10.如权利要求3或4所述的交叉阵列神经形态硬件中状态量化网络实现方法，其特征在于，交叉阵列神经形态硬件中交叉阵列中的单元由一个整流二极管加一个可变电阻构成。
CN201811029532.2A 2018-09-05 2018-09-05 交叉阵列神经形态硬件中状态量化网络实现方法 Active CN109165730B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811029532.2A CN109165730B (zh) 2018-09-05 2018-09-05 交叉阵列神经形态硬件中状态量化网络实现方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811029532.2A CN109165730B (zh) 2018-09-05 2018-09-05 交叉阵列神经形态硬件中状态量化网络实现方法

Publications (2)

Publication Number Publication Date
CN109165730A true CN109165730A (zh) 2019-01-08
CN109165730B CN109165730B (zh) 2022-04-26

Family

ID=64893970

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811029532.2A Active CN109165730B (zh) 2018-09-05 2018-09-05 交叉阵列神经形态硬件中状态量化网络实现方法

Country Status (1)

Country Link
CN (1) CN109165730B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109800872A (zh) * 2019-01-28 2019-05-24 电子科技大学 一种基于分段复用和参数量化共享的神经形态处理器
CN111490162A (zh) * 2020-04-14 2020-08-04 中国科学院重庆绿色智能技术研究院 一种基于微纳结构力敏薄膜的柔性人工传入神经***及其制备方法
CN111598237A (zh) * 2020-05-21 2020-08-28 上海商汤智能科技有限公司 量化训练、图像处理方法及装置、存储介质
CN112163673A (zh) * 2020-09-28 2021-01-01 复旦大学 一种用于大规模类脑计算网络的种群路由方法
CN112183734A (zh) * 2019-07-03 2021-01-05 财团法人工业技术研究院 神经元电路
CN112199234A (zh) * 2020-09-29 2021-01-08 中国科学院上海微***与信息技术研究所 一种基于忆阻器的神经网络容错方法
WO2022057222A1 (zh) 2020-09-15 2022-03-24 深圳市九天睿芯科技有限公司 一种基于电流积分的存内脉冲神经网络

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009026181A (ja) * 2007-07-23 2009-02-05 Ryukoku Univ ニューラルネットワーク
CN103201610A (zh) * 2010-10-29 2013-07-10 国际商业机器公司 带有使用模拟学习的突触权重的神经形态-突触器脉冲神经网络
CN105390520A (zh) * 2015-10-21 2016-03-09 清华大学 忆阻器交叉阵列的参数配置方法
CN106971372A (zh) * 2017-02-24 2017-07-21 北京大学 一种实现图像卷积的编码型闪存***和方法
US20170228345A1 (en) * 2016-02-08 2017-08-10 Spero Devices, Inc. Analog Co-Processor
CN108009640A (zh) * 2017-12-25 2018-05-08 清华大学 基于忆阻器的神经网络的训练装置及其训练方法
CN108304922A (zh) * 2017-01-13 2018-07-20 华为技术有限公司 用于神经网络计算的计算设备和计算方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009026181A (ja) * 2007-07-23 2009-02-05 Ryukoku Univ ニューラルネットワーク
CN103201610A (zh) * 2010-10-29 2013-07-10 国际商业机器公司 带有使用模拟学习的突触权重的神经形态-突触器脉冲神经网络
CN105390520A (zh) * 2015-10-21 2016-03-09 清华大学 忆阻器交叉阵列的参数配置方法
US20170228345A1 (en) * 2016-02-08 2017-08-10 Spero Devices, Inc. Analog Co-Processor
CN108304922A (zh) * 2017-01-13 2018-07-20 华为技术有限公司 用于神经网络计算的计算设备和计算方法
CN106971372A (zh) * 2017-02-24 2017-07-21 北京大学 一种实现图像卷积的编码型闪存***和方法
CN108009640A (zh) * 2017-12-25 2018-05-08 清华大学 基于忆阻器的神经网络的训练装置及其训练方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
MIAO HU等: "Memristor Crossbar-Based Neuromorphic Computing System: A Case Study", 《IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS》 *
XINJIANG ZHANG等: "Neuromorphic Computing with Memristor Crossbar", 《PHYSICA STATUS SOLIDI (A)》 *
胡飞等: "基于忆阻器交叉阵列的卷积神经网络电路设计", 《计算机研究与发展》 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109800872A (zh) * 2019-01-28 2019-05-24 电子科技大学 一种基于分段复用和参数量化共享的神经形态处理器
CN109800872B (zh) * 2019-01-28 2022-12-16 电子科技大学 一种基于分段复用和参数量化共享的神经形态处理器
CN112183734A (zh) * 2019-07-03 2021-01-05 财团法人工业技术研究院 神经元电路
CN111490162A (zh) * 2020-04-14 2020-08-04 中国科学院重庆绿色智能技术研究院 一种基于微纳结构力敏薄膜的柔性人工传入神经***及其制备方法
CN111490162B (zh) * 2020-04-14 2023-05-05 中国科学院重庆绿色智能技术研究院 一种基于微纳结构力敏薄膜的柔性人工传入神经***及其制备方法
CN111598237A (zh) * 2020-05-21 2020-08-28 上海商汤智能科技有限公司 量化训练、图像处理方法及装置、存储介质
WO2021233069A1 (zh) * 2020-05-21 2021-11-25 上海商汤智能科技有限公司 量化训练、图像处理方法及装置、存储介质
CN111598237B (zh) * 2020-05-21 2024-06-11 上海商汤智能科技有限公司 量化训练、图像处理方法及装置、存储介质
WO2022057222A1 (zh) 2020-09-15 2022-03-24 深圳市九天睿芯科技有限公司 一种基于电流积分的存内脉冲神经网络
CN112163673A (zh) * 2020-09-28 2021-01-01 复旦大学 一种用于大规模类脑计算网络的种群路由方法
CN112163673B (zh) * 2020-09-28 2023-04-07 复旦大学 一种用于大规模类脑计算网络的种群路由方法
CN112199234A (zh) * 2020-09-29 2021-01-08 中国科学院上海微***与信息技术研究所 一种基于忆阻器的神经网络容错方法

Also Published As

Publication number Publication date
CN109165730B (zh) 2022-04-26

Similar Documents

Publication Publication Date Title
CN109165730A (zh) 交叉阵列神经形态硬件中状态量化网络实现方法
US9330355B2 (en) Computed synapses for neuromorphic systems
US20200342301A1 (en) Convolutional neural network on-chip learning system based on non-volatile memory
CN109816026B (zh) 卷积神经网络和脉冲神经网络的融合装置及方法
CN110852429B (zh) 一种基于1t1r的卷积神经网络电路及其操作方法
US10140573B2 (en) Neural network adaptation to current computational resources
Carlson et al. Biologically plausible models of homeostasis and STDP: stability and learning in spiking neural networks
CA2926098A1 (en) Causal saliency time inference
WO2015142503A2 (en) Implementing a neural-network processor
US20210049448A1 (en) Neural network and its information processing method, information processing system
EP3055812A2 (en) Shared memory architecture for a neural simulator
US9361545B2 (en) Methods and apparatus for estimating angular movement with a single two dimensional device
US10552734B2 (en) Dynamic spatial target selection
CN104915195B (zh) 一种基于现场可编程门阵列实现神经网络计算的方法
CN105701540A (zh) 一种自生成神经网络构建方法
CN105122278B (zh) 神经网络及编程方法
CN105913119A (zh) 行列互联的异构多核心类脑芯片及其使用方法
US20150269479A1 (en) Conversion of neuron types to hardware
US9536189B2 (en) Phase-coding for coordinate transformation
KR20210152244A (ko) 뉴럴 네트워크를 구현하는 장치 및 그 동작 방법
Schuman et al. Dynamic adaptive neural network arrays: a neuromorphic architecture
US20150278683A1 (en) Plastic synapse management
Zhang et al. The framework and memristive circuit design for multisensory mutual associative memory networks
Goudarzi et al. Towards a calculus of echo state networks
Saraswat et al. Hardware-friendly synaptic orders and timescales in liquid state machines for speech classification

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant