CN109104876A - 一种运算装置及相关产品 - Google Patents

一种运算装置及相关产品 Download PDF

Info

Publication number
CN109104876A
CN109104876A CN201880000808.6A CN201880000808A CN109104876A CN 109104876 A CN109104876 A CN 109104876A CN 201880000808 A CN201880000808 A CN 201880000808A CN 109104876 A CN109104876 A CN 109104876A
Authority
CN
China
Prior art keywords
vector
sparse
instruction
unit
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201880000808.6A
Other languages
English (en)
Other versions
CN109104876B (zh
Inventor
不公告发明人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Cambricon Information Technology Co Ltd
Original Assignee
Shanghai Cambricon Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from CN201710261742.3A external-priority patent/CN108734279B/zh
Priority claimed from CN201710279655.0A external-priority patent/CN108733739B/zh
Priority claimed from CN201710279834.4A external-priority patent/CN108733352B/zh
Application filed by Shanghai Cambricon Information Technology Co Ltd filed Critical Shanghai Cambricon Information Technology Co Ltd
Priority to CN201811011596.XA priority Critical patent/CN109284823B/zh
Publication of CN109104876A publication Critical patent/CN109104876A/zh
Application granted granted Critical
Publication of CN109104876B publication Critical patent/CN109104876B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003—Arrangements for executing specific machine instructions
    • G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
    • G06F9/3001—Arithmetic instructions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003—Arrangements for executing specific machine instructions
    • G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
    • G06F9/30036—Instructions to perform operations on packed data, e.g. vector, tile or matrix operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Neurology (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Advance Control (AREA)
  • Complex Calculations (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本申请提供了一种运算装置及相关产品，所述运算装置用于执行网络模型的计算，所述网络模型包括：神经网络模型和/或非神经网络模型；所述运算装置包括：运算单元、控制器单元以及存储单元，所述存储单元包括：数据输入输出单元、存储介质和标量数据存储单元。本申请提供的技术方案具有计算速度快，节能的优点。

Description

PCT国内申请，说明书已公开。

Claims (35)

  1. PCT国内申请，权利要求书已公开。
CN201880000808.6A 2017-04-20 2018-04-17 一种运算装置及相关产品 Active CN109104876B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811011596.XA CN109284823B (zh) 2017-04-20 2018-04-17 一种运算装置及相关产品

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
CN201710261742.3A CN108734279B (zh) 2017-04-20 2017-04-20 一种运算装置和方法
CN2017102617423 2017-04-20
CN201710279655.0A CN108733739B (zh) 2017-04-25 2017-04-25 支持集束搜索的运算装置和方法
CN201710279834.4A CN108733352B (zh) 2017-04-25 2017-04-25 支持向量排序的装置、方法及应用
CN2017102796550 2017-04-25
CN2017102798344 2017-04-25
PCT/CN2018/083379 WO2018192492A1 (zh) 2017-04-20 2018-04-17 一种运算装置及相关产品

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN201811011596.XA Division CN109284823B (zh) 2017-04-20 2018-04-17 一种运算装置及相关产品

Publications (2)

Publication Number Publication Date
CN109104876A true CN109104876A (zh) 2018-12-28
CN109104876B CN109104876B (zh) 2021-06-25

Family

ID=63856484

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201811011596.XA Active CN109284823B (zh) 2017-04-20 2018-04-17 一种运算装置及相关产品
CN201880000808.6A Active CN109104876B (zh) 2017-04-20 2018-04-17 一种运算装置及相关产品

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN201811011596.XA Active CN109284823B (zh) 2017-04-20 2018-04-17 一种运算装置及相关产品

Country Status (4)

Country Link
US (1) US11977968B2 (zh)
EP (2) EP3699826A1 (zh)
CN (2) CN109284823B (zh)
WO (1) WO2018192492A1 (zh)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110490315A (zh) * 2019-08-14 2019-11-22 北京中科寒武纪科技有限公司 神经网络的反向运算稀疏方法及相关产品
CN111126600A (zh) * 2019-12-20 2020-05-08 上海寒武纪信息科技有限公司 神经网络模型的训练方法、数据处理方法和相关产品
CN111399905A (zh) * 2019-01-02 2020-07-10 上海寒武纪信息科技有限公司 运算方法、装置及相关产品
CN111488976A (zh) * 2019-01-28 2020-08-04 中科寒武纪科技股份有限公司 神经网络计算装置、神经网络计算方法及相关产品
CN111694617A (zh) * 2018-12-29 2020-09-22 中科寒武纪科技股份有限公司 网络离线模型的处理方法、人工智能处理装置及相关产品
CN111738429A (zh) * 2019-03-25 2020-10-02 中科寒武纪科技股份有限公司 一种计算装置及相关产品
CN111915002A (zh) * 2019-05-09 2020-11-10 中科寒武纪科技股份有限公司 运算方法、装置及相关产品
CN112639836A (zh) * 2020-02-25 2021-04-09 深圳市大疆创新科技有限公司 数据处理装置、电子设备和数据处理方法
CN113032299A (zh) * 2019-12-24 2021-06-25 中科寒武纪科技股份有限公司 用于处理请求的总线***、集成电路装置、板卡及保序方法
CN113032298A (zh) * 2019-12-24 2021-06-25 中科寒武纪科技股份有限公司 用于保序的计算装置、集成电路装置、板卡及保序方法
CN113626080A (zh) * 2020-05-08 2021-11-09 安徽寒武纪信息科技有限公司 数据处理装置以及相关产品
CN113920315A (zh) * 2021-10-14 2022-01-11 江南大学 一种基于卷积神经网络的服装属性识别方法
US20230179546A1 (en) 2020-08-21 2023-06-08 Beijing Baidu Netcom Science And Technology Co., Ltd. Processor and implementation method, electronic device, and storage medium

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111523653B (zh) * 2019-02-03 2024-03-29 上海寒武纪信息科技有限公司 运算装置及方法
CN111723921B (zh) * 2019-03-22 2024-05-14 中科寒武纪科技股份有限公司 人工智能计算装置及相关产品
CN109978160B (zh) * 2019-03-25 2021-03-02 中科寒武纪科技股份有限公司 人工智能处理器的配置装置、方法及相关产品
CN111831207B (zh) * 2019-04-16 2024-06-11 阿里巴巴集团控股有限公司 一种数据处理方法、装置及其设备
CN111966325A (zh) * 2019-05-20 2020-11-20 上海寒武纪信息科技有限公司 指令处理方法、装置及相关产品
CN111966399B (zh) * 2019-05-20 2024-06-07 上海寒武纪信息科技有限公司 指令处理方法、装置及相关产品
CN111966403A (zh) * 2019-05-20 2020-11-20 上海寒武纪信息科技有限公司 指令处理方法、装置及相关产品
CN111966400B (zh) * 2019-05-20 2024-07-19 上海寒武纪信息科技有限公司 指令处理方法、装置及相关产品
CN111260051B (zh) * 2020-02-01 2024-05-14 上海寒武纪信息科技有限公司 神经网络运算方法及相关装置
CN114519167A (zh) * 2020-11-19 2022-05-20 华为技术有限公司 一种算子计算方法、装置、设备及***
WO2022134873A1 (zh) * 2020-12-25 2022-06-30 中科寒武纪科技股份有限公司 数据处理装置、数据处理方法及相关产品
CN112966182B (zh) * 2021-03-09 2024-02-09 中国民航信息网络股份有限公司 一种项目推荐方法及相关设备
CN112732433A (zh) * 2021-03-30 2021-04-30 骊阳(广东)节能科技股份有限公司 一种可进行优先级调配的数据处理***
CN115185524A (zh) * 2021-04-01 2022-10-14 北京希姆计算科技有限公司 向量指令的识别方法、装置、电子设备及计算机可读存储介质
CN112988238A (zh) * 2021-05-06 2021-06-18 成都启英泰伦科技有限公司 一种基于可扩展指令集cpu内核的扩展运算装置及方法
CN117807082A (zh) * 2023-12-20 2024-04-02 中科驭数（北京）科技有限公司 哈希处理方法、装置、设备及计算机可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101925877A (zh) * 2008-01-22 2010-12-22 Arm有限公司 对数据执行排列运算的装置与方法
CN102750131A (zh) * 2012-06-07 2012-10-24 中国科学院计算机网络信息中心 一种面向gpu的双调归并排序方法
CN105512723A (zh) * 2016-01-20 2016-04-20 南京艾溪信息科技有限公司 一种用于稀疏连接的人工神经网络计算装置和方法
CN105765523A (zh) * 2013-11-15 2016-07-13 高通股份有限公司 在向量数据存储器与执行单元之间的数据流路径中采用重排序电路***的向量处理引擎以及相关的方法
WO2016154440A1 (en) * 2015-03-24 2016-09-29 Hrl Laboratories, Llc Sparse inference modules for deep learning
US20170061328A1 (en) * 2015-09-02 2017-03-02 Qualcomm Incorporated Enforced sparsity for classification

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5210870A (en) * 1990-03-27 1993-05-11 International Business Machines Database sort and merge apparatus with multiple memory arrays having alternating access
DE19623033C1 (de) * 1996-06-08 1997-10-16 Aeg Electrocom Gmbh Verfahren und Anordnung zur Mustererkennung auf statistischer Basis
US20120246533A1 (en) * 2011-03-24 2012-09-27 Sparsense, Inc. Scalable hierarchical sparse representations supporting prediction, feedforward bottom-up estimation, and top-down influence for parallel and adaptive signal processing
CN104204991B (zh) * 2012-03-30 2018-01-02 英特尔公司 将较小的已排序向量合并和排序为较大的已排序向量的指令的方法和装置
US20150206050A1 (en) 2014-01-23 2015-07-23 Qualcomm Incorporated Configuring neural network for low spiking rate
US20160283864A1 (en) * 2015-03-27 2016-09-29 Qualcomm Incorporated Sequential image sampling and storage of fine-tuned features
US10140572B2 (en) * 2015-06-25 2018-11-27 Microsoft Technology Licensing, Llc Memory bandwidth management for deep learning applications
CN105260776B (zh) * 2015-09-10 2018-03-27 华为技术有限公司 神经网络处理器和卷积神经网络处理器
CN106485323B (zh) * 2015-10-08 2019-02-26 上海兆芯集成电路有限公司 具有输出缓冲器反馈以执行时间递归神经网络计算的神经网络单元
CN106447034B (zh) 2016-10-27 2019-07-30 中国科学院计算技术研究所 一种基于数据压缩的神经网络处理器、设计方法、芯片

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101925877A (zh) * 2008-01-22 2010-12-22 Arm有限公司 对数据执行排列运算的装置与方法
CN102750131A (zh) * 2012-06-07 2012-10-24 中国科学院计算机网络信息中心 一种面向gpu的双调归并排序方法
CN105765523A (zh) * 2013-11-15 2016-07-13 高通股份有限公司 在向量数据存储器与执行单元之间的数据流路径中采用重排序电路***的向量处理引擎以及相关的方法
WO2016154440A1 (en) * 2015-03-24 2016-09-29 Hrl Laboratories, Llc Sparse inference modules for deep learning
US20170061328A1 (en) * 2015-09-02 2017-03-02 Qualcomm Incorporated Enforced sparsity for classification
CN105512723A (zh) * 2016-01-20 2016-04-20 南京艾溪信息科技有限公司 一种用于稀疏连接的人工神经网络计算装置和方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
秦小麟等: "《"数据结构教程 用C++实现的方法》", 28 February 2003 *

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111694617B (zh) * 2018-12-29 2023-05-02 中科寒武纪科技股份有限公司 网络离线模型的处理方法、人工智能处理装置及相关产品
CN111694617A (zh) * 2018-12-29 2020-09-22 中科寒武纪科技股份有限公司 网络离线模型的处理方法、人工智能处理装置及相关产品
CN111399905A (zh) * 2019-01-02 2020-07-10 上海寒武纪信息科技有限公司 运算方法、装置及相关产品
CN111488976A (zh) * 2019-01-28 2020-08-04 中科寒武纪科技股份有限公司 神经网络计算装置、神经网络计算方法及相关产品
CN111738429A (zh) * 2019-03-25 2020-10-02 中科寒武纪科技股份有限公司 一种计算装置及相关产品
CN111738429B (zh) * 2019-03-25 2023-10-13 中科寒武纪科技股份有限公司 一种计算装置及相关产品
CN111915002A (zh) * 2019-05-09 2020-11-10 中科寒武纪科技股份有限公司 运算方法、装置及相关产品
CN111915002B (zh) * 2019-05-09 2023-12-19 中科寒武纪科技股份有限公司 运算方法、装置及相关产品
CN110490315A (zh) * 2019-08-14 2019-11-22 北京中科寒武纪科技有限公司 神经网络的反向运算稀疏方法及相关产品
CN110490315B (zh) * 2019-08-14 2023-05-23 中科寒武纪科技股份有限公司 神经网络的反向运算稀疏方法及相关产品
CN111126600A (zh) * 2019-12-20 2020-05-08 上海寒武纪信息科技有限公司 神经网络模型的训练方法、数据处理方法和相关产品
CN113032299B (zh) * 2019-12-24 2023-09-26 中科寒武纪科技股份有限公司 用于处理请求的总线***、集成电路装置、板卡及保序方法
CN113032298A (zh) * 2019-12-24 2021-06-25 中科寒武纪科技股份有限公司 用于保序的计算装置、集成电路装置、板卡及保序方法
CN113032298B (zh) * 2019-12-24 2023-09-29 中科寒武纪科技股份有限公司 用于保序的计算装置、集成电路装置、板卡及保序方法
CN113032299A (zh) * 2019-12-24 2021-06-25 中科寒武纪科技股份有限公司 用于处理请求的总线***、集成电路装置、板卡及保序方法
CN112639836A (zh) * 2020-02-25 2021-04-09 深圳市大疆创新科技有限公司 数据处理装置、电子设备和数据处理方法
CN113626080A (zh) * 2020-05-08 2021-11-09 安徽寒武纪信息科技有限公司 数据处理装置以及相关产品
CN113626080B (zh) * 2020-05-08 2023-10-03 安徽寒武纪信息科技有限公司 数据处理装置以及相关产品
US20230179546A1 (en) 2020-08-21 2023-06-08 Beijing Baidu Netcom Science And Technology Co., Ltd. Processor and implementation method, electronic device, and storage medium
US11784946B2 (en) 2020-08-21 2023-10-10 Beijing Baidu Netcom Science And Technology Co., Ltd. Method for improving data flow and access for a neural network processor
CN113920315A (zh) * 2021-10-14 2022-01-11 江南大学 一种基于卷积神经网络的服装属性识别方法
CN113920315B (zh) * 2021-10-14 2024-04-30 江南大学 一种基于卷积神经网络的服装属性识别方法

Also Published As

Publication number Publication date
EP3699826A1 (en) 2020-08-26
EP3579152B1 (en) 2022-09-14
CN109284823B (zh) 2020-08-04
US11977968B2 (en) 2024-05-07
US20200034698A1 (en) 2020-01-30
CN109284823A (zh) 2019-01-29
WO2018192492A1 (zh) 2018-10-25
EP3579152A4 (en) 2020-04-22
EP3579152A1 (en) 2019-12-11
CN109104876B (zh) 2021-06-25

Similar Documents

Publication Publication Date Title
CN109104876A (zh) 一种运算装置及相关产品
US11481215B2 (en) Calculation method and related product
CN109189473A (zh) 神经网络处理装置及其执行向量交换指令的方法
CN109997154A (zh) 信息处理方法及终端设备
CN109740754B (zh) 神经网络计算装置、神经网络计算方法及相关产品
CN109740739A (zh) 神经网络计算装置、神经网络计算方法及相关产品
CN111860807A (zh) 分形计算装置、方法、集成电路及板卡
CN111079908A (zh) 片上网络数据处理方法、存储介质、计算机设备和装置
CN109740730B (zh) 运算方法、装置及相关产品
CN111260046B (zh) 运算方法、装置及相关产品
CN111260070B (zh) 运算方法、装置及相关产品
CN111258641B (zh) 运算方法、装置及相关产品
CN111078625B (zh) 片上网络处理***和片上网络数据处理方法
CN111198714B (zh) 重训练方法及相关产品
CN111078623B (zh) 片上网络处理***和片上网络数据处理方法
CN111078624B (zh) 片上网络处理***和片上网络数据处理方法
CN111047024A (zh) 一种计算装置及相关产品
CN111382835A (zh) 一种神经网络压缩方法、电子设备及计算机可读介质
CN112394990A (zh) 浮点转半精度浮点指令处理装置、方法及相关产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant