CN106203621B - 用于卷积神经网络计算的处理器 - Google Patents
用于卷积神经网络计算的处理器 Download PDFInfo
- Publication number
- CN106203621B CN106203621B CN201610543294.1A CN201610543294A CN106203621B CN 106203621 B CN106203621 B CN 106203621B CN 201610543294 A CN201610543294 A CN 201610543294A CN 106203621 B CN106203621 B CN 106203621B
- Authority
- CN
- China
- Prior art keywords
- input
- output
- unit
- channel
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013527 convolutional neural network Methods 0.000 title claims abstract description 40
- 238000004364 calculation method Methods 0.000 claims description 94
- 239000011159 matrix material Substances 0.000 claims description 13
- 238000003860 storage Methods 0.000 claims description 11
- 238000006073 displacement reaction Methods 0.000 claims description 6
- 125000004122 cyclic group Chemical group 0.000 claims description 5
- 230000001360 synchronised effect Effects 0.000 claims description 5
- 238000013479 data entry Methods 0.000 claims description 4
- 238000007792 addition Methods 0.000 description 35
- 239000010410 layer Substances 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 238000000034 method Methods 0.000 description 8
- 241001269238 Data Species 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000011229 interlayer Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000010977 unit operation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
- G06F7/544—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices for evaluating functions by calculation
- G06F7/5443—Sum of products
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
- G06F7/57—Arithmetic logic units [ALU], i.e. arrangements or devices for performing two or more of the operations covered by groups G06F7/483 – G06F7/556 or for performing logical operations
- G06F7/575—Basic arithmetic logic units, i.e. devices selectable to perform either addition, subtraction or one of several logical operations, using, at least partially, the same circuitry
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/30003—Arrangements for executing specific machine instructions
- G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
- G06F9/30032—Movement instructions, e.g. MOVE, SHIFT, ROTATE, SHUFFLE
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3885—Concurrent instruction execution, e.g. pipeline or look ahead using a plurality of independent parallel functional units
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computational Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Neurology (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- Complex Calculations (AREA)
Abstract
Description
Claims (12)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610543294.1A CN106203621B (zh) | 2016-07-11 | 2016-07-11 | 用于卷积神经网络计算的处理器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610543294.1A CN106203621B (zh) | 2016-07-11 | 2016-07-11 | 用于卷积神经网络计算的处理器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106203621A CN106203621A (zh) | 2016-12-07 |
CN106203621B true CN106203621B (zh) | 2019-04-30 |
Family
ID=57476499
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610543294.1A Active CN106203621B (zh) | 2016-07-11 | 2016-07-11 | 用于卷积神经网络计算的处理器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106203621B (zh) |
Families Citing this family (52)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110073329B (zh) * | 2016-12-16 | 2021-06-22 | 华为技术有限公司 | 访存设备、计算设备和应用于卷积神经网络运算的设备 |
CN108268939B (zh) * | 2016-12-30 | 2021-09-07 | 上海寒武纪信息科技有限公司 | 用于执行lstm神经网络运算的装置和运算方法 |
CN108268931B (zh) * | 2016-12-30 | 2022-10-25 | 华为技术有限公司 | 数据处理的方法、装置和*** |
CN207440765U (zh) * | 2017-01-04 | 2018-06-01 | 意法半导体股份有限公司 | 片上***和移动计算设备 |
CN108304922B (zh) * | 2017-01-13 | 2020-12-15 | 华为技术有限公司 | 用于神经网络计算的计算设备和计算方法 |
CN106875012B (zh) * | 2017-02-09 | 2019-09-20 | 武汉魅瞳科技有限公司 | 一种基于fpga的深度卷积神经网络的流水化加速*** |
CN108416430A (zh) * | 2017-02-10 | 2018-08-17 | 耐能股份有限公司 | 卷积神经网络的池化运算装置及方法 |
WO2018149217A1 (zh) * | 2017-02-17 | 2018-08-23 | 清华大学 | 神经网络计算核信息处理方法、***和计算机设备 |
CN107633297B (zh) * | 2017-03-10 | 2021-04-06 | 南京风兴科技有限公司 | 一种基于并行快速fir滤波器算法的卷积神经网络硬件加速器 |
CN107085562B (zh) * | 2017-03-23 | 2020-11-03 | 中国科学院计算技术研究所 | 一种基于高效复用数据流的神经网络处理器及设计方法 |
CN107679621B (zh) * | 2017-04-19 | 2020-12-08 | 赛灵思公司 | 人工神经网络处理装置 |
CN107704922B (zh) * | 2017-04-19 | 2020-12-08 | 赛灵思公司 | 人工神经网络处理装置 |
CN107679620B (zh) * | 2017-04-19 | 2020-05-26 | 赛灵思公司 | 人工神经网络处理装置 |
CN107169563B (zh) | 2017-05-08 | 2018-11-30 | 中国科学院计算技术研究所 | 应用于二值权重卷积网络的处理***及方法 |
CN107392224A (zh) * | 2017-06-12 | 2017-11-24 | 天津科技大学 | 一种基于三通道卷积神经网络的作物病害识别算法 |
WO2018232615A1 (zh) * | 2017-06-21 | 2018-12-27 | 华为技术有限公司 | 一种信号处理方法及装置 |
CN109284821B (zh) * | 2017-07-19 | 2022-04-12 | 华为技术有限公司 | 一种神经网络运算装置 |
CN107451659B (zh) * | 2017-07-27 | 2020-04-10 | 清华大学 | 用于位宽分区的神经网络加速器及其实现方法 |
CN109902804B (zh) * | 2017-08-31 | 2020-12-18 | 安徽寒武纪信息科技有限公司 | 一种池化运算方法及装置 |
JP6957365B2 (ja) * | 2017-09-22 | 2021-11-02 | 株式会社東芝 | 演算装置 |
CN107818367B (zh) * | 2017-10-30 | 2020-12-29 | 中国科学院计算技术研究所 | 用于神经网络的处理***和处理方法 |
CN109726805B (zh) * | 2017-10-30 | 2021-02-09 | 上海寒武纪信息科技有限公司 | 利用黑盒模拟器进行神经网络处理器设计的方法 |
CN107944548A (zh) * | 2017-11-30 | 2018-04-20 | 睿视智觉(深圳)算法技术有限公司 | 一种fpga实现卷积层的设计方法 |
CN108009631A (zh) * | 2017-11-30 | 2018-05-08 | 睿视智觉(深圳)算法技术有限公司 | 一种基于fpga的vgg-16通用处理模块及其控制方法 |
CN108090496A (zh) * | 2017-12-22 | 2018-05-29 | 银河水滴科技(北京)有限公司 | 基于卷积神经网络的图像处理的方法和装置 |
CN108256638B (zh) | 2018-01-05 | 2021-06-22 | 上海兆芯集成电路有限公司 | 微处理器电路以及执行神经网络运算的方法 |
CN108345934B (zh) * | 2018-01-16 | 2020-11-03 | 中国科学院计算技术研究所 | 一种用于神经网络处理器的激活装置及方法 |
CN108320022A (zh) * | 2018-01-23 | 2018-07-24 | 深圳市易成自动驾驶技术有限公司 | 深度学习***构建方法、装置、深度学习***及存储介质 |
CN108446758B (zh) * | 2018-02-11 | 2021-11-30 | 江苏金羿智芯科技有限公司 | 一种面向人工智能计算的神经网络数据串行流水处理方法 |
CN108416435B (zh) * | 2018-03-19 | 2020-07-31 | 中国科学院计算技术研究所 | 一种具有低带宽激活装置的神经网络处理器及其方法 |
CN110210610B (zh) * | 2018-03-27 | 2023-06-20 | 腾讯科技(深圳)有限公司 | 卷积计算加速器、卷积计算方法及卷积计算设备 |
CN108564168B (zh) * | 2018-04-03 | 2021-03-09 | 中国科学院计算技术研究所 | 一种对支持多精度卷积神经网络处理器的设计方法 |
CN108470211B (zh) * | 2018-04-09 | 2022-07-12 | 郑州云海信息技术有限公司 | 一种卷积计算的实现方法、设备和计算机存储介质 |
CN108549933A (zh) * | 2018-04-23 | 2018-09-18 | 北京旷视科技有限公司 | 一种数据处理方法、装置、电子设备和计算机可读介质 |
CN110337658A (zh) * | 2018-04-26 | 2019-10-15 | 深圳市大疆创新科技有限公司 | 神经网络加速装置与方法 |
US20190340490A1 (en) * | 2018-05-04 | 2019-11-07 | Apple Inc. | Systems and methods for assigning tasks in a neural network processor |
CN108875914B (zh) * | 2018-06-01 | 2021-03-23 | 北京地平线信息技术有限公司 | 对神经网络数据进行预处理和后处理的方法和装置 |
CN110716751B (zh) * | 2018-07-12 | 2022-10-18 | 赛灵思公司 | 高并行度计算平台、***及计算实现方法 |
CN109165728B (zh) * | 2018-08-06 | 2020-12-18 | 浪潮集团有限公司 | 一种卷积神经网络的基本计算单元及计算方法 |
CN109272113B (zh) * | 2018-09-13 | 2022-04-19 | 深思考人工智能机器人科技(北京)有限公司 | 一种基于通道的卷积神经网络建立装置及方法 |
CN109447241B (zh) * | 2018-09-29 | 2022-02-22 | 西安交通大学 | 一种面向物联网领域的动态可重构卷积神经网络加速器架构 |
CN109814927B (zh) * | 2018-12-19 | 2021-01-29 | 成都海光集成电路设计有限公司 | 一种机器学习推理协处理器 |
CN109800705A (zh) * | 2019-01-17 | 2019-05-24 | 深圳英飞拓科技股份有限公司 | 加速人脸检测速率的方法及装置 |
CN112308217B (zh) * | 2019-07-31 | 2024-06-04 | 北京欣奕华科技有限公司 | 一种卷积神经网络加速方法及*** |
CN110516801B (zh) * | 2019-08-05 | 2022-04-22 | 西安交通大学 | 一种高吞吐率的动态可重构卷积神经网络加速器 |
CN110807519B (zh) * | 2019-11-07 | 2023-01-17 | 清华大学 | 基于忆阻器的神经网络的并行加速方法及处理器、装置 |
CN111310115B (zh) * | 2020-01-22 | 2024-05-24 | 深圳市商汤科技有限公司 | 数据处理方法、装置及芯片、电子设备、存储介质 |
CN111814972B (zh) * | 2020-07-08 | 2024-02-02 | 上海雪湖科技有限公司 | 一种基于fpga的神经网络卷积运算加速方法 |
CN111811694B (zh) * | 2020-07-13 | 2021-11-30 | 广东博智林机器人有限公司 | 一种温度校准方法、装置、设备及存储介质 |
CN111859797A (zh) * | 2020-07-14 | 2020-10-30 | Oppo广东移动通信有限公司 | 一种数据处理方法及装置、存储介质 |
CN111738432B (zh) * | 2020-08-10 | 2020-12-29 | 电子科技大学 | 一种支持自适应并行计算的神经网络处理电路 |
CN112153347B (zh) * | 2020-09-27 | 2023-04-07 | 北京天玛智控科技股份有限公司 | 煤矿井下智能视觉终端感知方法、存储介质及电子设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101086729A (zh) * | 2007-07-09 | 2007-12-12 | 西安飞鹰科技有限责任公司 | 一种基于fpga的动态可重构高性能运算方法与装置 |
CN102208005A (zh) * | 2011-05-30 | 2011-10-05 | 华中科技大学 | 一种2-d卷积器 |
CN104463324A (zh) * | 2014-11-21 | 2015-03-25 | 长沙马沙电子科技有限公司 | 一种基于大规模高性能集群的卷积神经网络并行处理方法 |
CN205139973U (zh) * | 2015-10-26 | 2016-04-06 | 中国人民解放军军械工程学院 | 基于fpga器件构建的bp神经网络 |
CN105681628A (zh) * | 2016-01-05 | 2016-06-15 | 西安交通大学 | 一种卷积网络运算单元及可重构卷积神经网络处理器和实现图像去噪处理的方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5368687B2 (ja) * | 2007-09-26 | 2013-12-18 | キヤノン株式会社 | 演算処理装置および方法 |
US9721204B2 (en) * | 2013-10-28 | 2017-08-01 | Qualcomm Incorporated | Evaluation of a system including separable sub-systems over a multidimensional range |
-
2016
- 2016-07-11 CN CN201610543294.1A patent/CN106203621B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101086729A (zh) * | 2007-07-09 | 2007-12-12 | 西安飞鹰科技有限责任公司 | 一种基于fpga的动态可重构高性能运算方法与装置 |
CN102208005A (zh) * | 2011-05-30 | 2011-10-05 | 华中科技大学 | 一种2-d卷积器 |
CN104463324A (zh) * | 2014-11-21 | 2015-03-25 | 长沙马沙电子科技有限公司 | 一种基于大规模高性能集群的卷积神经网络并行处理方法 |
CN205139973U (zh) * | 2015-10-26 | 2016-04-06 | 中国人民解放军军械工程学院 | 基于fpga器件构建的bp神经网络 |
CN105681628A (zh) * | 2016-01-05 | 2016-06-15 | 西安交通大学 | 一种卷积网络运算单元及可重构卷积神经网络处理器和实现图像去噪处理的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106203621A (zh) | 2016-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106203621B (zh) | 用于卷积神经网络计算的处理器 | |
CN210006057U (zh) | 用于深度学习引擎的设备和*** | |
CN110097174B (zh) | 基于fpga和行输出优先的卷积神经网络实现方法、***及装置 | |
CN104899182B (zh) | 一种支持可变分块的矩阵乘加速方法 | |
CN106127302A (zh) | 处理数据的电路、图像处理***、处理数据的方法和装置 | |
CN109992743A (zh) | 矩阵乘法器 | |
CN110263925B (zh) | 一种基于fpga的卷积神经网络前向预测的硬件加速实现装置 | |
CN108564168A (zh) | 一种对支持多精度卷积神经网络处理器的设计方法 | |
CN109997154A (zh) | 信息处理方法及终端设备 | |
CN110458279A (zh) | 一种基于fpga的二值神经网络加速方法及*** | |
TW201913460A (zh) | 芯片裝置及相關産品 | |
CN109784489A (zh) | 基于fpga的卷积神经网络ip核 | |
CN103677739B (zh) | 一种可配置的乘累加运算单元及其构成的乘累加运算阵列 | |
CN110163363A (zh) | 一种计算装置及方法 | |
CN108537331A (zh) | 一种基于异步逻辑的可重构卷积神经网络加速电路 | |
CN105589677A (zh) | 一种基于fpga的脉动结构矩阵乘法器及其实现方法 | |
CN104145281A (zh) | 神经网络计算装置和***及其方法 | |
CN111626414A (zh) | 一种动态多精度神经网络加速单元 | |
CN109447241A (zh) | 一种面向物联网领域的动态可重构卷积神经网络加速器架构 | |
CN110717583B (zh) | 卷积电路、处理器、芯片、板卡和电子设备 | |
CN111738433A (zh) | 一种可重配置的卷积硬件加速器 | |
CN109934336A (zh) | 基于最优结构搜索的神经网络动态加速平台设计方法及神经网络动态加速平台 | |
CN110543936B (zh) | 一种cnn全连接层运算的多并行加速方法 | |
CN108764467A (zh) | 用于卷积神经网络卷积运算和全连接运算电路 | |
CN107273969A (zh) | 一种参数化可扩展的神经网络全连接层多层互连结构 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20161221 Address after: 100083 Beijing city Haidian District Wangzhuang Road No. 1 Building No. four hospital room 1706 Applicant after: Beijing deep Intelligent Technology Co., Ltd. Address before: 100000 Beijing city Haidian District Wangzhuang road Tongfang Technology Plaza, D block, 807 Applicant before: Yao Song |
|
TA01 | Transfer of patent application right |
Effective date of registration: 20180124 Address after: 100083 Beijing city Haidian District Wangzhuang Road No. 1 Building No. four hospital 8 floor room 807 Applicant after: Beijing insight Technology Co., Ltd. Address before: 100083 Beijing city Haidian District Wangzhuang Road No. 1 Building No. four hospital room 1706 Applicant before: Beijing deep Intelligent Technology Co., Ltd. |
|
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20180605 Address after: 100083, 17 floor, four building four, 1 Wang Zhuang Road, Haidian District, Beijing. Applicant after: Beijing deep Intelligent Technology Co., Ltd. Address before: 100083, 8 floor, 807 building, four building, 1 Wang Zhuang Road, Haidian District, Beijing. Applicant before: Beijing insight Technology Co., Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20200909 Address after: Unit 01-19, 10 / F, 101, 6 / F, building 5, yard 5, Anding Road, Chaoyang District, Beijing 100029 Patentee after: Xilinx Electronic Technology (Beijing) Co., Ltd Address before: 100083, 17 floor, four building four, 1 Wang Zhuang Road, Haidian District, Beijing. Patentee before: BEIJING DEEPHI TECHNOLOGY Co.,Ltd. |