CN106991477A - 一种人工神经网络压缩编码装置和方法 - Google Patents
一种人工神经网络压缩编码装置和方法 Download PDFInfo
- Publication number
- CN106991477A CN106991477A CN201610039026.6A CN201610039026A CN106991477A CN 106991477 A CN106991477 A CN 106991477A CN 201610039026 A CN201610039026 A CN 201610039026A CN 106991477 A CN106991477 A CN 106991477A
- Authority
- CN
- China
- Prior art keywords
- artificial neural
- computing
- arithmetic element
- instruction
- neuron
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 72
- 238000000034 method Methods 0.000 title claims abstract description 44
- 210000004205 output neuron Anatomy 0.000 claims abstract description 39
- 230000004913 activation Effects 0.000 claims abstract description 17
- 210000002569 neuron Anatomy 0.000 claims abstract description 17
- 238000005056 compaction Methods 0.000 claims abstract description 3
- 230000008569 process Effects 0.000 claims description 22
- 210000002364 input neuron Anatomy 0.000 claims description 20
- 238000012549 training Methods 0.000 claims description 19
- 239000013598 vector Substances 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 17
- 238000007667 floating Methods 0.000 claims description 5
- 241001269238 Data Species 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 2
- 230000001537 neural effect Effects 0.000 claims 3
- 238000012545 processing Methods 0.000 abstract description 5
- 238000004422 calculation algorithm Methods 0.000 description 20
- 238000010586 diagram Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 5
- 230000006835 compression Effects 0.000 description 4
- 238000007906 compression Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 210000005036 nerve Anatomy 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 2
- 230000007935 neutral effect Effects 0.000 description 2
- 101000872084 Danio rerio Delta-like protein B Proteins 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000012152 algorithmic method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F7/00—Methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F7/38—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation
- G06F7/48—Methods or arrangements for performing computations using exclusively denominational number representation, e.g. using binary, ternary, decimal representation using non-contact-making devices, e.g. tube, solid state device; using unspecified devices
- G06F7/483—Computations with numbers represented by a non-linear combination of denominational numbers, e.g. rational numbers, logarithmic number system or floating-point numbers
- G06F7/487—Multiplying; Dividing
- G06F7/4876—Multiplying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
- G06F9/38—Concurrent instruction execution, e.g. pipeline or look ahead
- G06F9/3885—Concurrent instruction execution, e.g. pipeline or look ahead using a plurality of independent parallel functional units
- G06F9/3887—Concurrent instruction execution, e.g. pipeline or look ahead using a plurality of independent parallel functional units controlled by a single instruction for multiple data lanes [SIMD]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2207/00—Indexing scheme relating to methods or arrangements for processing data by operating upon the order or content of the data handled
- G06F2207/38—Indexing scheme relating to groups G06F7/38 - G06F7/575
- G06F2207/48—Indexing scheme relating to groups G06F7/48 - G06F7/575
- G06F2207/4802—Special implementations
- G06F2207/4818—Threshold devices
- G06F2207/4824—Neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Neurology (AREA)
- Nonlinear Science (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Image Analysis (AREA)
- Advance Control (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Abstract
Description
Claims (10)
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810151978.6A CN108427990B (zh) | 2016-01-20 | 2016-01-20 | 神经网络计算***和方法 |
CN201610039026.6A CN106991477B (zh) | 2016-01-20 | 2016-01-20 | 一种人工神经网络压缩编码装置和方法 |
PCT/CN2016/078448 WO2017124644A1 (zh) | 2016-01-20 | 2016-04-05 | 一种人工神经网络压缩编码装置和方法 |
US16/041,160 US10402725B2 (en) | 2016-01-20 | 2018-07-20 | Apparatus and method for compression coding for artificial neural network |
US16/508,139 US10726336B2 (en) | 2016-01-20 | 2019-07-10 | Apparatus and method for compression coding for artificial neural network |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610039026.6A CN106991477B (zh) | 2016-01-20 | 2016-01-20 | 一种人工神经网络压缩编码装置和方法 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810151978.6A Division CN108427990B (zh) | 2016-01-20 | 2016-01-20 | 神经网络计算***和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106991477A true CN106991477A (zh) | 2017-07-28 |
CN106991477B CN106991477B (zh) | 2020-08-14 |
Family
ID=59361365
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610039026.6A Active CN106991477B (zh) | 2016-01-20 | 2016-01-20 | 一种人工神经网络压缩编码装置和方法 |
CN201810151978.6A Active CN108427990B (zh) | 2016-01-20 | 2016-01-20 | 神经网络计算***和方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810151978.6A Active CN108427990B (zh) | 2016-01-20 | 2016-01-20 | 神经网络计算***和方法 |
Country Status (3)
Country | Link |
---|---|
US (2) | US10402725B2 (zh) |
CN (2) | CN106991477B (zh) |
WO (1) | WO2017124644A1 (zh) |
Cited By (42)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107578014A (zh) * | 2017-09-06 | 2018-01-12 | 上海寒武纪信息科技有限公司 | 信息处理装置及方法 |
CN107748914A (zh) * | 2017-10-19 | 2018-03-02 | 珠海格力电器股份有限公司 | 人工神经网络运算电路 |
CN107895191A (zh) * | 2017-10-30 | 2018-04-10 | 上海寒武纪信息科技有限公司 | 一种信息处理方法及相关产品 |
CN108205704A (zh) * | 2017-09-27 | 2018-06-26 | 深圳市商汤科技有限公司 | 一种神经网络芯片 |
CN108566537A (zh) * | 2018-05-16 | 2018-09-21 | 中国科学院计算技术研究所 | 用于对视频帧进行神经网络运算的图像处理装置 |
CN108647660A (zh) * | 2018-05-16 | 2018-10-12 | 中国科学院计算技术研究所 | 一种使用神经网络芯片处理图像的方法 |
CN108764454A (zh) * | 2018-04-28 | 2018-11-06 | 中国科学院计算技术研究所 | 基于小波变换压缩和/或解压缩的神经网络处理方法 |
CN108921012A (zh) * | 2018-05-16 | 2018-11-30 | 中国科学院计算技术研究所 | 一种利用人工智能芯片处理图像视频帧的方法 |
CN109389219A (zh) * | 2017-08-04 | 2019-02-26 | 三星电子株式会社 | 用于对神经网络的参数进行量化的方法和装置 |
CN109389209A (zh) * | 2017-08-09 | 2019-02-26 | 上海寒武纪信息科技有限公司 | 处理装置及处理方法 |
CN109583577A (zh) * | 2017-09-29 | 2019-04-05 | 上海寒武纪信息科技有限公司 | 运算装置及方法 |
CN109697507A (zh) * | 2017-10-24 | 2019-04-30 | 上海寒武纪信息科技有限公司 | 处理方法及装置 |
CN109754062A (zh) * | 2017-11-07 | 2019-05-14 | 上海寒武纪信息科技有限公司 | 卷积扩展指令的执行方法以及相关产品 |
WO2019127731A1 (zh) * | 2017-12-29 | 2019-07-04 | 国民技术股份有限公司 | 卷积神经网络硬件加速装置及卷积计算方法及存储介质 |
CN109977446A (zh) * | 2017-12-28 | 2019-07-05 | 北京中科寒武纪科技有限公司 | 集成电路芯片装置及相关产品 |
CN109978143A (zh) * | 2019-03-29 | 2019-07-05 | 南京大学 | 一种基于simd架构的堆栈式自编码器及编码方法 |
CN109993290A (zh) * | 2017-12-30 | 2019-07-09 | 北京中科寒武纪科技有限公司 | 集成电路芯片装置及相关产品 |
CN109993276A (zh) * | 2017-12-29 | 2019-07-09 | 北京中科寒武纪科技有限公司 | 用于执行人工神经网络反向训练的装置和方法 |
CN109993289A (zh) * | 2017-12-30 | 2019-07-09 | 北京中科寒武纪科技有限公司 | 集成电路芯片装置及相关产品 |
CN110147872A (zh) * | 2018-05-18 | 2019-08-20 | 北京中科寒武纪科技有限公司 | 编码存储装置及方法、处理器及训练方法 |
CN110196735A (zh) * | 2018-02-27 | 2019-09-03 | 上海寒武纪信息科技有限公司 | 一种计算装置及相关产品 |
CN110196734A (zh) * | 2018-02-27 | 2019-09-03 | 上海寒武纪信息科技有限公司 | 一种计算装置及相关产品 |
WO2019165939A1 (zh) * | 2018-02-27 | 2019-09-06 | 上海寒武纪信息科技有限公司 | 一种计算装置及相关产品 |
CN110363291A (zh) * | 2018-03-26 | 2019-10-22 | 上海寒武纪信息科技有限公司 | 神经网络的运算方法、装置、计算机设备和存储介质 |
CN110956257A (zh) * | 2018-09-26 | 2020-04-03 | 龙芯中科技术有限公司 | 神经网络加速器 |
CN111045726A (zh) * | 2018-10-12 | 2020-04-21 | 上海寒武纪信息科技有限公司 | 支持编码、解码的深度学习处理装置及方法 |
CN111062469A (zh) * | 2018-10-17 | 2020-04-24 | 上海寒武纪信息科技有限公司 | 计算装置及相关产品 |
CN111079930A (zh) * | 2019-12-23 | 2020-04-28 | 深圳市商汤科技有限公司 | 数据集质量参数的确定方法、装置及电子设备 |
CN111222632A (zh) * | 2018-11-27 | 2020-06-02 | 中科寒武纪科技股份有限公司 | 计算装置、计算方法及相关产品 |
CN111353591A (zh) * | 2018-12-20 | 2020-06-30 | 中科寒武纪科技股份有限公司 | 一种计算装置及相关产品 |
CN111382848A (zh) * | 2018-12-27 | 2020-07-07 | 中科寒武纪科技股份有限公司 | 一种计算装置及相关产品 |
CN111738429A (zh) * | 2019-03-25 | 2020-10-02 | 中科寒武纪科技股份有限公司 | 一种计算装置及相关产品 |
CN111915003A (zh) * | 2019-05-09 | 2020-11-10 | 深圳大普微电子科技有限公司 | 一种神经网络硬件加速器 |
CN112865804A (zh) * | 2021-01-12 | 2021-05-28 | 东南大学 | 三值神经网络稀疏性权重的压缩计算单元 |
US11086634B2 (en) | 2017-07-05 | 2021-08-10 | Shanghai Cambricon Information Technology Co., Ltd. | Data processing apparatus and method |
CN113783933A (zh) * | 2021-08-10 | 2021-12-10 | 中山大学 | 基于编码缓存的双层网络通信方法、装置及介质 |
US11307864B2 (en) | 2017-07-05 | 2022-04-19 | Shanghai Cambricon Information Technology Co., Ltd. | Data processing apparatus and method |
US11651202B2 (en) | 2017-12-30 | 2023-05-16 | Cambricon Technologies Corporation Limited | Integrated circuit chip device and related product |
US11704544B2 (en) | 2017-12-30 | 2023-07-18 | Cambricon Technologies Corporation Limited | Integrated circuit chip device and related product |
US11710041B2 (en) | 2017-05-23 | 2023-07-25 | Shanghai Cambricon Information Technology Co., Ltd | Feature map and weight selection method and accelerating device |
US11990137B2 (en) | 2018-09-13 | 2024-05-21 | Shanghai Cambricon Information Technology Co., Ltd. | Image retouching method and terminal device |
US11995556B2 (en) | 2018-05-18 | 2024-05-28 | Cambricon Technologies Corporation Limited | Video retrieval method, and method and apparatus for generating video retrieval mapping relationship |
Families Citing this family (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112230881A (zh) * | 2016-01-20 | 2021-01-15 | 中科寒武纪科技股份有限公司 | 浮点数处理器 |
CN111353588B (zh) * | 2016-01-20 | 2024-03-05 | 中科寒武纪科技股份有限公司 | 用于执行人工神经网络反向训练的装置和方法 |
CN108271026B (zh) * | 2016-12-30 | 2020-03-31 | 上海寒武纪信息科技有限公司 | 压缩/解压缩的装置和***、芯片、电子装置、方法 |
US11037330B2 (en) * | 2017-04-08 | 2021-06-15 | Intel Corporation | Low rank matrix compression |
US10817296B2 (en) * | 2017-04-21 | 2020-10-27 | Intel Corporation | Message based general register file assembly |
US11580361B2 (en) * | 2017-04-24 | 2023-02-14 | Intel Corporation | Neural network training mechanism |
CN109961131B (zh) * | 2017-12-14 | 2020-05-08 | 中科寒武纪科技股份有限公司 | 神经网络正向运算方法及相关产品 |
WO2019141902A1 (en) * | 2018-01-17 | 2019-07-25 | Nokia Technologies Oy | An apparatus, a method and a computer program for running a neural network |
US11687759B2 (en) | 2018-05-01 | 2023-06-27 | Semiconductor Components Industries, Llc | Neural network accelerator |
US20200090035A1 (en) * | 2018-09-19 | 2020-03-19 | International Business Machines Corporation | Encoder-decoder memory-augmented neural network architectures |
WO2020062284A1 (zh) * | 2018-09-30 | 2020-04-02 | 深圳市大疆创新科技有限公司 | 基于卷积神经网络的图像处理方法和设备,以及无人机 |
EP4009183A1 (en) | 2018-10-18 | 2022-06-08 | Shanghai Cambricon Information Technology Co., Ltd | Network-on-chip data processing method and device |
CN111079908B (zh) * | 2018-10-18 | 2024-02-13 | 上海寒武纪信息科技有限公司 | 片上网络数据处理方法、存储介质、计算机设备和装置 |
CN109657788A (zh) * | 2018-12-18 | 2019-04-19 | 北京中科寒武纪科技有限公司 | 数据处理方法、装置及相关产品 |
CN111368986B (zh) * | 2018-12-25 | 2023-03-10 | 上海寒武纪信息科技有限公司 | 一种神经网络计算装置和方法 |
CN111368967B (zh) * | 2018-12-25 | 2023-04-07 | 上海寒武纪信息科技有限公司 | 一种神经网络计算装置和方法 |
CN111368985B (zh) * | 2018-12-25 | 2023-11-28 | 上海寒武纪信息科技有限公司 | 一种神经网络计算装置和方法 |
CN111367567B (zh) * | 2018-12-25 | 2023-03-07 | 上海寒武纪信息科技有限公司 | 一种神经网络计算装置和方法 |
CN111368990B (zh) * | 2018-12-25 | 2023-03-07 | 上海寒武纪信息科技有限公司 | 一种神经网络计算装置和方法 |
CN110225346A (zh) * | 2018-12-28 | 2019-09-10 | 杭州海康威视数字技术股份有限公司 | 一种编解码方法及其设备 |
CN111488976B (zh) * | 2019-01-28 | 2023-06-30 | 中科寒武纪科技股份有限公司 | 神经网络计算装置、神经网络计算方法及相关产品 |
CN109871941B (zh) * | 2019-02-18 | 2020-02-21 | 中科寒武纪科技股份有限公司 | 数据处理方法、装置及相关产品 |
CN110046703B (zh) * | 2019-03-07 | 2020-07-31 | 中国科学院计算技术研究所 | 一种用于神经网络的片上存储处理*** |
KR20200129957A (ko) | 2019-05-10 | 2020-11-18 | 삼성전자주식회사 | 피처맵 데이터에 대한 압축을 수행하는 뉴럴 네트워크 프로세서 및 이를 포함하는 컴퓨팅 시스템 |
CN111930681B (zh) * | 2019-05-13 | 2023-10-10 | 中科寒武纪科技股份有限公司 | 一种计算装置及相关产品 |
WO2020248424A1 (zh) * | 2019-06-12 | 2020-12-17 | 上海寒武纪信息科技有限公司 | 一种神经网络的量化参数确定方法及相关产品 |
CN110598858A (zh) * | 2019-08-02 | 2019-12-20 | 北京航空航天大学 | 基于非易失性存内计算实现二值神经网络的芯片和方法 |
US11526761B2 (en) * | 2019-08-24 | 2022-12-13 | Microsoft Technology Licensing, Llc | Neural network training with decreased memory consumption and processor utilization |
CN112712172B (zh) * | 2019-10-25 | 2023-12-26 | 安徽寒武纪信息科技有限公司 | 用于神经网络运算的计算装置、方法、集成电路和设备 |
CN111008699B (zh) * | 2019-12-05 | 2022-06-07 | 首都师范大学 | 一种基于自动驾驶的神经网络数据存储方法及*** |
CN111045687B (zh) * | 2019-12-06 | 2022-04-22 | 浪潮(北京)电子信息产业有限公司 | 一种人工智能应用的部署方法及相关装置 |
US11144208B2 (en) * | 2019-12-23 | 2021-10-12 | Advanced Micro Devices, Inc. | Data compression system using base values and methods thereof |
CN111240743B (zh) * | 2020-01-03 | 2022-06-03 | 格兰菲智能科技有限公司 | 人工智能集成电路 |
CN111199283A (zh) * | 2020-02-24 | 2020-05-26 | 张早 | 一种基于卷积循环神经网络的气温预测***及方法 |
US10938411B1 (en) * | 2020-03-25 | 2021-03-02 | Arm Limited | Compression and/or decompression of activation data |
US11947828B2 (en) * | 2020-08-27 | 2024-04-02 | Taiwan Semiconductor Manufacturing Company, Ltd. | Memory device |
US20230068645A1 (en) * | 2021-08-27 | 2023-03-02 | Taiwan Semiconductor Manufacturing Company, Ltd. | Memory device and method for computing-in-memory (cim) |
US11734075B2 (en) * | 2021-11-24 | 2023-08-22 | International Business Machines Corporation | Reducing data format conversion of an accelerator |
CN114819122B (zh) * | 2022-03-28 | 2022-12-06 | 中国科学院自动化研究所 | 基于脉冲神经网络的数据处理方法及装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101527010A (zh) * | 2008-03-06 | 2009-09-09 | 上海理工大学 | 人工神经网络算法的硬件实现方法及其*** |
CN102184453A (zh) * | 2011-05-16 | 2011-09-14 | 上海电气集团股份有限公司 | 基于模糊神经网络和支持向量机的风电功率组合预测方法 |
CN103019656A (zh) * | 2012-12-04 | 2013-04-03 | 中国科学院半导体研究所 | 可动态重构的多级并行单指令多数据阵列处理*** |
CN103177288A (zh) * | 2013-03-05 | 2013-06-26 | 辽宁省电力有限公司鞍山供电公司 | 基于遗传算法优化神经网络的变压器故障诊断方法 |
US20150106315A1 (en) * | 2013-10-16 | 2015-04-16 | University Of Tennessee Research Foundation | Method and apparatus for providing random selection and long-term potentiation and depression in an artificial network |
CN104915560A (zh) * | 2015-06-11 | 2015-09-16 | 万达信息股份有限公司 | 一种基于广义神经网络聚类的疾病病种诊疗方案预测方法 |
CN105184366A (zh) * | 2015-09-15 | 2015-12-23 | 中国科学院计算技术研究所 | 一种时分复用的通用神经网络处理器 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5204938A (en) * | 1989-05-30 | 1993-04-20 | Loral Aerospace Corp. | Method of implementing a neural network on a digital computer |
CN1331092C (zh) * | 2004-05-17 | 2007-08-08 | 中国科学院半导体研究所 | 模式识别专用神经网络计算机*** |
CA2629069C (en) * | 2005-11-15 | 2016-07-19 | Bernadette Garner | Method for training neural networks |
US7864083B2 (en) * | 2008-05-21 | 2011-01-04 | Ocarina Networks, Inc. | Efficient data compression and decompression of numeric sequences |
CN105095833B (zh) * | 2014-05-08 | 2019-03-15 | 中国科学院声学研究所 | 用于人脸识别的网络构建方法、识别方法及*** |
CN104200224A (zh) * | 2014-08-28 | 2014-12-10 | 西北工业大学 | 基于深度卷积神经网络的无价值图像去除方法 |
US10373050B2 (en) * | 2015-05-08 | 2019-08-06 | Qualcomm Incorporated | Fixed point neural network based on floating point neural network quantization |
CN104915195B (zh) * | 2015-05-20 | 2017-11-28 | 清华大学 | 一种基于现场可编程门阵列实现神经网络计算的方法 |
WO2017049496A1 (en) * | 2015-09-23 | 2017-03-30 | Intel Corporation | Apparatus and method for local quantization for convolutional neural networks (cnns) |
-
2016
- 2016-01-20 CN CN201610039026.6A patent/CN106991477B/zh active Active
- 2016-01-20 CN CN201810151978.6A patent/CN108427990B/zh active Active
- 2016-04-05 WO PCT/CN2016/078448 patent/WO2017124644A1/zh active Application Filing
-
2018
- 2018-07-20 US US16/041,160 patent/US10402725B2/en active Active
-
2019
- 2019-07-10 US US16/508,139 patent/US10726336B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101527010A (zh) * | 2008-03-06 | 2009-09-09 | 上海理工大学 | 人工神经网络算法的硬件实现方法及其*** |
CN102184453A (zh) * | 2011-05-16 | 2011-09-14 | 上海电气集团股份有限公司 | 基于模糊神经网络和支持向量机的风电功率组合预测方法 |
CN103019656A (zh) * | 2012-12-04 | 2013-04-03 | 中国科学院半导体研究所 | 可动态重构的多级并行单指令多数据阵列处理*** |
CN103177288A (zh) * | 2013-03-05 | 2013-06-26 | 辽宁省电力有限公司鞍山供电公司 | 基于遗传算法优化神经网络的变压器故障诊断方法 |
US20150106315A1 (en) * | 2013-10-16 | 2015-04-16 | University Of Tennessee Research Foundation | Method and apparatus for providing random selection and long-term potentiation and depression in an artificial network |
CN104915560A (zh) * | 2015-06-11 | 2015-09-16 | 万达信息股份有限公司 | 一种基于广义神经网络聚类的疾病病种诊疗方案预测方法 |
CN105184366A (zh) * | 2015-09-15 | 2015-12-23 | 中国科学院计算技术研究所 | 一种时分复用的通用神经网络处理器 |
Non-Patent Citations (1)
Title |
---|
杨永杰: "《地应力测量及综放沿空掘巷支护技术》", 31 October 2010, 煤炭工业出版社 * |
Cited By (70)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11727276B2 (en) | 2017-05-23 | 2023-08-15 | Shanghai Cambricon Information Technology Co., Ltd | Processing method and accelerating device |
US11710041B2 (en) | 2017-05-23 | 2023-07-25 | Shanghai Cambricon Information Technology Co., Ltd | Feature map and weight selection method and accelerating device |
US11907844B2 (en) | 2017-05-23 | 2024-02-20 | Shanghai Cambricon Information Technology Co., Ltd | Processing method and accelerating device |
US11086634B2 (en) | 2017-07-05 | 2021-08-10 | Shanghai Cambricon Information Technology Co., Ltd. | Data processing apparatus and method |
US11307864B2 (en) | 2017-07-05 | 2022-04-19 | Shanghai Cambricon Information Technology Co., Ltd. | Data processing apparatus and method |
CN109389219B (zh) * | 2017-08-04 | 2024-04-09 | 三星电子株式会社 | 用于对神经网络的参数进行量化的方法和装置 |
CN109389219A (zh) * | 2017-08-04 | 2019-02-26 | 三星电子株式会社 | 用于对神经网络的参数进行量化的方法和装置 |
CN109389209B (zh) * | 2017-08-09 | 2022-03-15 | 上海寒武纪信息科技有限公司 | 处理装置及处理方法 |
CN109389209A (zh) * | 2017-08-09 | 2019-02-26 | 上海寒武纪信息科技有限公司 | 处理装置及处理方法 |
CN107578014A (zh) * | 2017-09-06 | 2018-01-12 | 上海寒武纪信息科技有限公司 | 信息处理装置及方法 |
US11307865B2 (en) | 2017-09-06 | 2022-04-19 | Shanghai Cambricon Information Technology Co., Ltd. | Data processing apparatus and method |
CN108205704A (zh) * | 2017-09-27 | 2018-06-26 | 深圳市商汤科技有限公司 | 一种神经网络芯片 |
CN108205704B (zh) * | 2017-09-27 | 2021-10-29 | 深圳市商汤科技有限公司 | 一种神经网络芯片 |
CN109583577A (zh) * | 2017-09-29 | 2019-04-05 | 上海寒武纪信息科技有限公司 | 运算装置及方法 |
US11307866B2 (en) | 2017-09-29 | 2022-04-19 | Shanghai Cambricon Information Technology Co., Ltd. | Data processing apparatus and method |
CN109583577B (zh) * | 2017-09-29 | 2021-04-23 | 上海寒武纪信息科技有限公司 | 运算装置及方法 |
CN107748914A (zh) * | 2017-10-19 | 2018-03-02 | 珠海格力电器股份有限公司 | 人工神经网络运算电路 |
CN109697507A (zh) * | 2017-10-24 | 2019-04-30 | 上海寒武纪信息科技有限公司 | 处理方法及装置 |
CN109697507B (zh) * | 2017-10-24 | 2020-12-25 | 安徽寒武纪信息科技有限公司 | 处理方法及装置 |
US11922132B2 (en) | 2017-10-30 | 2024-03-05 | Shanghai Cambricon Information Technology Co., Ltd. | Information processing method and terminal device |
US11762631B2 (en) | 2017-10-30 | 2023-09-19 | Shanghai Cambricon Information Technology Co., Ltd. | Information processing method and terminal device |
CN107895191B (zh) * | 2017-10-30 | 2022-02-22 | 上海寒武纪信息科技有限公司 | 一种信息处理方法及相关产品 |
CN107993206A (zh) * | 2017-10-30 | 2018-05-04 | 上海寒武纪信息科技有限公司 | 一种信息处理方法及相关产品 |
CN111160549A (zh) * | 2017-10-30 | 2020-05-15 | 上海寒武纪信息科技有限公司 | 互连电路的数据处理装置以及方法 |
CN107895191A (zh) * | 2017-10-30 | 2018-04-10 | 上海寒武纪信息科技有限公司 | 一种信息处理方法及相关产品 |
CN109754062A (zh) * | 2017-11-07 | 2019-05-14 | 上海寒武纪信息科技有限公司 | 卷积扩展指令的执行方法以及相关产品 |
CN109754062B (zh) * | 2017-11-07 | 2024-05-14 | 上海寒武纪信息科技有限公司 | 卷积扩展指令的执行方法以及相关产品 |
CN109977446A (zh) * | 2017-12-28 | 2019-07-05 | 北京中科寒武纪科技有限公司 | 集成电路芯片装置及相关产品 |
CN109993276A (zh) * | 2017-12-29 | 2019-07-09 | 北京中科寒武纪科技有限公司 | 用于执行人工神经网络反向训练的装置和方法 |
WO2019127731A1 (zh) * | 2017-12-29 | 2019-07-04 | 国民技术股份有限公司 | 卷积神经网络硬件加速装置及卷积计算方法及存储介质 |
US11263007B2 (en) | 2017-12-29 | 2022-03-01 | Nationz Technologies Inc. | Convolutional neural network hardware acceleration device, convolutional calculation method, and storage medium |
US11704544B2 (en) | 2017-12-30 | 2023-07-18 | Cambricon Technologies Corporation Limited | Integrated circuit chip device and related product |
US11734548B2 (en) | 2017-12-30 | 2023-08-22 | Cambricon Technologies Corporation Limited | Integrated circuit chip device and related product |
CN109993290A (zh) * | 2017-12-30 | 2019-07-09 | 北京中科寒武纪科技有限公司 | 集成电路芯片装置及相关产品 |
US11710031B2 (en) | 2017-12-30 | 2023-07-25 | Cambricon Technologies Corporation Limited | Parallel processing circuits for neural networks |
CN109993289A (zh) * | 2017-12-30 | 2019-07-09 | 北京中科寒武纪科技有限公司 | 集成电路芯片装置及相关产品 |
US11651202B2 (en) | 2017-12-30 | 2023-05-16 | Cambricon Technologies Corporation Limited | Integrated circuit chip device and related product |
CN109993290B (zh) * | 2017-12-30 | 2021-08-06 | 中科寒武纪科技股份有限公司 | 集成电路芯片装置及相关产品 |
CN109993289B (zh) * | 2017-12-30 | 2021-09-21 | 中科寒武纪科技股份有限公司 | 集成电路芯片装置及相关产品 |
CN110196735A (zh) * | 2018-02-27 | 2019-09-03 | 上海寒武纪信息科技有限公司 | 一种计算装置及相关产品 |
CN110196734A (zh) * | 2018-02-27 | 2019-09-03 | 上海寒武纪信息科技有限公司 | 一种计算装置及相关产品 |
WO2019165939A1 (zh) * | 2018-02-27 | 2019-09-06 | 上海寒武纪信息科技有限公司 | 一种计算装置及相关产品 |
CN110363291A (zh) * | 2018-03-26 | 2019-10-22 | 上海寒武纪信息科技有限公司 | 神经网络的运算方法、装置、计算机设备和存储介质 |
CN108764454A (zh) * | 2018-04-28 | 2018-11-06 | 中国科学院计算技术研究所 | 基于小波变换压缩和/或解压缩的神经网络处理方法 |
CN108647660A (zh) * | 2018-05-16 | 2018-10-12 | 中国科学院计算技术研究所 | 一种使用神经网络芯片处理图像的方法 |
CN108566537A (zh) * | 2018-05-16 | 2018-09-21 | 中国科学院计算技术研究所 | 用于对视频帧进行神经网络运算的图像处理装置 |
CN108921012A (zh) * | 2018-05-16 | 2018-11-30 | 中国科学院计算技术研究所 | 一种利用人工智能芯片处理图像视频帧的方法 |
US11995556B2 (en) | 2018-05-18 | 2024-05-28 | Cambricon Technologies Corporation Limited | Video retrieval method, and method and apparatus for generating video retrieval mapping relationship |
CN110147872A (zh) * | 2018-05-18 | 2019-08-20 | 北京中科寒武纪科技有限公司 | 编码存储装置及方法、处理器及训练方法 |
US11990137B2 (en) | 2018-09-13 | 2024-05-21 | Shanghai Cambricon Information Technology Co., Ltd. | Image retouching method and terminal device |
US11996105B2 (en) | 2018-09-13 | 2024-05-28 | Shanghai Cambricon Information Technology Co., Ltd. | Information processing method and terminal device |
CN110956257A (zh) * | 2018-09-26 | 2020-04-03 | 龙芯中科技术有限公司 | 神经网络加速器 |
CN111045726A (zh) * | 2018-10-12 | 2020-04-21 | 上海寒武纪信息科技有限公司 | 支持编码、解码的深度学习处理装置及方法 |
CN111045726B (zh) * | 2018-10-12 | 2022-04-15 | 上海寒武纪信息科技有限公司 | 支持编码、解码的深度学习处理装置及方法 |
CN111062469A (zh) * | 2018-10-17 | 2020-04-24 | 上海寒武纪信息科技有限公司 | 计算装置及相关产品 |
CN111062469B (zh) * | 2018-10-17 | 2024-03-05 | 上海寒武纪信息科技有限公司 | 计算装置及相关产品 |
CN111222632A (zh) * | 2018-11-27 | 2020-06-02 | 中科寒武纪科技股份有限公司 | 计算装置、计算方法及相关产品 |
CN111353591A (zh) * | 2018-12-20 | 2020-06-30 | 中科寒武纪科技股份有限公司 | 一种计算装置及相关产品 |
CN111382848A (zh) * | 2018-12-27 | 2020-07-07 | 中科寒武纪科技股份有限公司 | 一种计算装置及相关产品 |
CN111738429B (zh) * | 2019-03-25 | 2023-10-13 | 中科寒武纪科技股份有限公司 | 一种计算装置及相关产品 |
CN111738429A (zh) * | 2019-03-25 | 2020-10-02 | 中科寒武纪科技股份有限公司 | 一种计算装置及相关产品 |
CN109978143A (zh) * | 2019-03-29 | 2019-07-05 | 南京大学 | 一种基于simd架构的堆栈式自编码器及编码方法 |
CN111915003B (zh) * | 2019-05-09 | 2024-03-22 | 深圳大普微电子科技有限公司 | 一种神经网络硬件加速器 |
CN111915003A (zh) * | 2019-05-09 | 2020-11-10 | 深圳大普微电子科技有限公司 | 一种神经网络硬件加速器 |
CN111079930B (zh) * | 2019-12-23 | 2023-12-19 | 深圳市商汤科技有限公司 | 数据集质量参数的确定方法、装置及电子设备 |
CN111079930A (zh) * | 2019-12-23 | 2020-04-28 | 深圳市商汤科技有限公司 | 数据集质量参数的确定方法、装置及电子设备 |
CN112865804B (zh) * | 2021-01-12 | 2023-10-10 | 东南大学 | 三值神经网络稀疏性权重的压缩计算单元 |
CN112865804A (zh) * | 2021-01-12 | 2021-05-28 | 东南大学 | 三值神经网络稀疏性权重的压缩计算单元 |
CN113783933B (zh) * | 2021-08-10 | 2022-05-24 | 中山大学 | 基于编码缓存的双层网络通信方法、装置及介质 |
CN113783933A (zh) * | 2021-08-10 | 2021-12-10 | 中山大学 | 基于编码缓存的双层网络通信方法、装置及介质 |
Also Published As
Publication number | Publication date |
---|---|
US20190332945A1 (en) | 2019-10-31 |
CN108427990B (zh) | 2020-05-22 |
US20180330239A1 (en) | 2018-11-15 |
US10402725B2 (en) | 2019-09-03 |
US10726336B2 (en) | 2020-07-28 |
CN106991477B (zh) | 2020-08-14 |
WO2017124644A1 (zh) | 2017-07-27 |
CN108427990A (zh) | 2018-08-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106991477A (zh) | 一种人工神经网络压缩编码装置和方法 | |
KR102142889B1 (ko) | 스파스 연결용 인공 신경망 계산 장치와 방법 | |
US11568258B2 (en) | Operation method | |
CN107862374B (zh) | 基于流水线的神经网络处理***和处理方法 | |
CN104915322B (zh) | 一种卷积神经网络硬件加速方法 | |
JP6880160B2 (ja) | 計算装置と計算方法 | |
CN108665063B (zh) | 用于bnn硬件加速器的双向并行处理卷积加速*** | |
CN106991478A (zh) | 用于执行人工神经网络反向训练的装置和方法 | |
CN108334944B (zh) | 一种人工神经网络运算的装置及方法 | |
CN110163355A (zh) | 一种计算装置及方法 | |
KR20190089685A (ko) | 데이터를 처리하는 방법 및 장치 | |
CN112051981B (zh) | 一种数据流水线计算路径结构及单线程数据流水线*** | |
WO2018112892A1 (zh) | 一种支持快速人工神经网络运算的装置及方法 | |
CN109948787B (zh) | 用于神经网络卷积层的运算装置、芯片及方法 | |
CN116187408B (zh) | 稀疏加速单元、计算方法及稀疏神经网络硬件加速*** | |
CN109993276A (zh) | 用于执行人工神经网络反向训练的装置和方法 | |
Alaeddine et al. | A Pipelined Energy-efficient Hardware Accelaration for Deep Convolutional Neural Networks | |
Jin et al. | Design of Convolutional Neural Network Accelerator Based on RISC-V | |
CN111222632A (zh) | 计算装置、计算方法及相关产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20180428 Address after: 100190 room 644, research complex, 6 South Road, Haidian District Science Academy, Beijing. Applicant after: Beijing Zhongke Cambrian Technology Co., Ltd. Address before: 210049 18 Xianlin Road, Ma Qun street, Qixia District, Nanjing, Jiangsu. Applicant before: NANJING AIXI INFORMATION TECHNOLOGY CO., LTD. |
|
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: 100190 room 644, comprehensive research building, No. 6 South Road, Haidian District Academy of Sciences, Beijing Applicant after: Zhongke Cambrian Technology Co., Ltd Address before: 100190 room 644, comprehensive research building, No. 6 South Road, Haidian District Academy of Sciences, Beijing Applicant before: Beijing Zhongke Cambrian Technology Co., Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |