JP6684951B2 - 人工知能推論演算装置 - Google Patents
人工知能推論演算装置 Download PDFInfo
- Publication number
- JP6684951B2 JP6684951B2 JP2019117980A JP2019117980A JP6684951B2 JP 6684951 B2 JP6684951 B2 JP 6684951B2 JP 2019117980 A JP2019117980 A JP 2019117980A JP 2019117980 A JP2019117980 A JP 2019117980A JP 6684951 B2 JP6684951 B2 JP 6684951B2
- Authority
- JP
- Japan
- Prior art keywords
- cnn
- artificial intelligence
- pixel
- image data
- cnn processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013473 artificial intelligence Methods 0.000 title claims description 22
- 238000012545 processing Methods 0.000 claims description 110
- 239000000872 buffer Substances 0.000 claims description 41
- 230000015654 memory Effects 0.000 claims description 40
- 238000011176 pooling Methods 0.000 claims description 30
- 238000013136 deep learning model Methods 0.000 claims description 13
- 238000004891 communication Methods 0.000 claims description 12
- 230000004913 activation Effects 0.000 claims description 8
- 238000013528 artificial neural network Methods 0.000 claims description 6
- 238000007667 floating Methods 0.000 claims description 6
- 230000001413 cellular effect Effects 0.000 claims description 5
- 230000008878 coupling Effects 0.000 claims description 2
- 238000010168 coupling process Methods 0.000 claims description 2
- 238000005859 coupling reaction Methods 0.000 claims description 2
- 238000000034 method Methods 0.000 description 30
- 238000010586 diagram Methods 0.000 description 27
- 238000013527 convolutional neural network Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 10
- 238000001994 activation Methods 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 230000009471 action Effects 0.000 description 5
- 239000004065 semiconductor Substances 0.000 description 5
- 238000011144 upstream manufacturing Methods 0.000 description 5
- 238000012015 optical character recognition Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 102100033592 Calponin-3 Human genes 0.000 description 1
- 101000945410 Homo sapiens Calponin-3 Proteins 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Neurology (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Description
1)中央部を表す、画像データのM×M画素を保存するバッファ−0
2)上側端部を表す、画像データの1×M画素を保存するバッファ−1
3)右側端部を表す、画像データのM×1画素を保存するバッファ−2
4)下側端部を表す、画像データの1×M画素を保存するバッファ−3
5)左側端部を表す、画像データのM×1画素を保存するバッファ−4
6)左上角部を表す、画像データの1×1画素を保存するバッファ−5
7)右上角部を表す、画像データの1×1画素を保存するバッファ−6
8)右下角部を表す、画像データの1×1画素を保存するバッファ−7
9)左下角部を表す、画像データの1×1画素を保存するバッファ−8
F(i,j):j番目の画像データに関連するi番目のフィルタのフィルタ係数
Im(j):j番目の画像データ
Out(i):i番目の畳み込み演算結果
図20A〜図20Bに示す例において、i=1,12であってj=1,8であるので、12個のOut(i)、8個のIm(j)、12×8=96個のF(i,j)フィルタ係数がある。当業者であれば、異なる数の画像データ、フィルタ、CNN処理エンジン、及びI/Oデータバスを含む他の組み合わせを同様に導出可能であろう。画像データの数がCNN処理エンジンの数の倍数でない場合には、いずれかの空白部分をゼロとする。
Claims (12)
- 複数の電子部品が実装されているプリント基板(PCB)を備え、
前記複数の電子部品は、
無線通信インタフェースモジュールと、
制御装置モジュールと、
深層学習モデルにおいて畳み込み演算を行って入力データの特徴を抽出するよう構成されている少なくとも一つのセルラーニューラルネットワーク(CNN)ベース集積回路(IC)と、
を有し、
各CNNベースICは、少なくとも一つの入力/出力データバスに動作可能に連結されている複数のCNN処理エンジンを含み、前記複数のCNN処理エンジンは、クロックスキュー回路によりループ状に接続されており、
各前記CNN処理エンジンは、
対応する入力データと訓練済みのフィルタ係数とを用いて畳み込み演算結果を同時に得るよう構成されているCNN処理ブロックと、
前記CNN処理ブロックに動作可能に連結されている、前記対応する入力データを保存するための第一メモリバッファセットと、
前記CNN処理ブロックに動作可能に連結されている、前記訓練済みのフィルタ係数を保存するための第二メモリバッファセットと、
を含み、
前記無線通信インタフェースモジュールは、前記深層学習モデルの訓練済みフィルタ係数をスマートクライアントデバイスから受信するよう構成され、
前記制御装置モジュールは、前記深層学習モデルの前記訓練済みフィルタ係数を前記各CNNベースIC内にロードするよう構成される、
人工知能推論演算装置。 - 前記無線通信インタフェースモジュールは、前記スマートクライアントデバイスから入力データを受信するよう構成されている、
請求項1に記載の人工知能推論演算装置。 - 前記無線通信インタフェースモジュールは、分類結果を前記スマートクライアントデバイスに送信するよう構成されている、
請求項2に記載の人工知能推論演算装置。 - 前記無線通信インタフェースモジュールは、ブルートゥース(登録商標)に基づく、
請求項3に記載の人工知能推論演算装置。 - 前記無線通信インタフェースモジュールは、WiFiに基づく、
請求項3に記載の人工知能推論演算装置。 - 前記スマートクライアントデバイスは、スマートフォンを含む、
請求項3に記載の人工知能推論演算装置。 - 前記制御装置モジュールは、受信した前記入力データに関して各前記CNNベースICで前記深層学習モデルを実行するよう構成されている、
請求項1に記載の人工知能推論演算装置。 - 前記制御装置モジュールは、各前記CNNベースICから抽出した特徴により全結合層を実行するよう構成されている、
請求項1に記載の人工知能推論演算装置。 - 各前記CNN処理エンジンは、活性化及びプーリング演算を更に行う、
請求項1に記載の人工知能推論演算装置。 - 前記入力データは、5ビットの仮数と4ビットの指数とを含む浮動小数点形式で実装される、
請求項1に記載の人工知能推論演算装置。 - 前記訓練済みのフィルタ係数は、12ビットの仮数と2ビットの指数とを含む浮動小数点形式で実装される、
請求項1に記載の人工知能推論演算装置。 - 前記複数の電子部品は、メモリモジュールとストレージとを更に有する、
請求項1に記載の人工知能推論演算装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/128,463 | 2018-09-11 | ||
US16/128,463 US10331983B1 (en) | 2018-09-11 | 2018-09-11 | Artificial intelligence inference computing device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020042774A JP2020042774A (ja) | 2020-03-19 |
JP6684951B2 true JP6684951B2 (ja) | 2020-04-22 |
Family
ID=65818353
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019117980A Active JP6684951B2 (ja) | 2018-09-11 | 2019-06-26 | 人工知能推論演算装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10331983B1 (ja) |
EP (1) | EP3624014A1 (ja) |
JP (1) | JP6684951B2 (ja) |
CN (1) | CN110059815B (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11250461B2 (en) | 2019-03-01 | 2022-02-15 | Mastercard International Incorporated | Deep learning systems and methods in artificial intelligence |
US20210034958A1 (en) * | 2019-07-19 | 2021-02-04 | Pavel Sinha | Configurable processor for implementing convolution neural networks |
CN111899241B (zh) * | 2020-07-28 | 2022-03-18 | 华中科技大学 | 一种定量化的炉前pcb贴片缺陷在线检测方法及*** |
US11335108B2 (en) * | 2020-08-10 | 2022-05-17 | Marlabs Incorporated | System and method to recognise characters from an image |
US11763496B2 (en) | 2021-09-30 | 2023-09-19 | Lemon Inc. | Social networking based on asset items |
Family Cites Families (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5140670A (en) | 1989-10-05 | 1992-08-18 | Regents Of The University Of California | Cellular neural network |
US5355528A (en) | 1992-10-13 | 1994-10-11 | The Regents Of The University Of California | Reprogrammable CNN and supercomputer |
US5764858A (en) * | 1995-09-14 | 1998-06-09 | University Of Southern California | One-dimensional signal processor with optimized solution capability |
EP0797165B1 (en) | 1996-03-21 | 2002-11-27 | STMicroelectronics S.r.l. | Cellular neural network to obtain the so-called unfolded Chua's circuit |
US6754645B2 (en) | 2001-03-20 | 2004-06-22 | Winbond Electronics Corp. | Voltage-mode pulse width modulation VLSI implementation of neural networks |
US9620145B2 (en) * | 2013-11-01 | 2017-04-11 | Google Inc. | Context-dependent state tying using a neural network |
US9613001B2 (en) * | 2013-12-20 | 2017-04-04 | Intel Corporation | Processing device for performing convolution operations |
US9430829B2 (en) * | 2014-01-30 | 2016-08-30 | Case Western Reserve University | Automatic detection of mitosis using handcrafted and convolutional neural network features |
US11256982B2 (en) * | 2014-07-18 | 2022-02-22 | University Of Southern California | Noise-enhanced convolutional neural networks |
US9563825B2 (en) * | 2014-11-20 | 2017-02-07 | Adobe Systems Incorporated | Convolutional neural network using a binarized convolution layer |
US9418319B2 (en) | 2014-11-21 | 2016-08-16 | Adobe Systems Incorporated | Object detection using cascaded convolutional neural networks |
US9666183B2 (en) * | 2015-03-27 | 2017-05-30 | Qualcomm Incorporated | Deep neural net based filter prediction for audio event classification and extraction |
US20160358069A1 (en) * | 2015-06-03 | 2016-12-08 | Samsung Electronics Co., Ltd. | Neural network suppression |
CN109086877B (zh) * | 2016-04-29 | 2020-05-08 | 中科寒武纪科技股份有限公司 | 一种用于执行卷积神经网络正向运算的装置和方法 |
US9858636B1 (en) * | 2016-06-30 | 2018-01-02 | Apple Inc. | Configurable convolution engine |
US10360470B2 (en) * | 2016-10-10 | 2019-07-23 | Gyrfalcon Technology Inc. | Implementation of MobileNet in a CNN based digital integrated circuit |
US10043095B2 (en) * | 2016-10-10 | 2018-08-07 | Gyrfalcon Technology, Inc. | Data structure for CNN based digital integrated circuit for extracting features out of an input image |
CN108345939B (zh) * | 2017-01-25 | 2022-05-24 | 微软技术许可有限责任公司 | 基于定点运算的神经网络 |
CN107066239A (zh) * | 2017-03-01 | 2017-08-18 | 智擎信息***(上海)有限公司 | 一种实现卷积神经网络前向计算的硬件结构 |
US10051423B1 (en) * | 2017-06-02 | 2018-08-14 | Apple Inc. | Time of flight estimation using a convolutional neural network |
US20180358003A1 (en) * | 2017-06-09 | 2018-12-13 | Qualcomm Incorporated | Methods and apparatus for improving speech communication and speech interface quality using neural networks |
CN107657581B (zh) * | 2017-09-28 | 2020-12-22 | 中国人民解放军国防科技大学 | 一种卷积神经网络cnn硬件加速器及加速方法 |
CN108038815B (zh) * | 2017-12-20 | 2019-12-17 | 深圳云天励飞技术有限公司 | 集成电路 |
US10685446B2 (en) * | 2018-01-12 | 2020-06-16 | Intel Corporation | Method and system of recurrent semantic segmentation for image processing |
-
2018
- 2018-09-11 US US16/128,463 patent/US10331983B1/en active Active
-
2019
- 2019-03-18 EP EP19163487.2A patent/EP3624014A1/en not_active Withdrawn
- 2019-04-01 CN CN201910263665.4A patent/CN110059815B/zh active Active
- 2019-06-26 JP JP2019117980A patent/JP6684951B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2020042774A (ja) | 2020-03-19 |
EP3624014A1 (en) | 2020-03-18 |
CN110059815A (zh) | 2019-07-26 |
US10331983B1 (en) | 2019-06-25 |
CN110059815B (zh) | 2020-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6684951B2 (ja) | 人工知能推論演算装置 | |
US10366302B2 (en) | Hierarchical category classification scheme using multiple sets of fully-connected networks with a CNN based integrated circuit as feature extractor | |
US10360470B2 (en) | Implementation of MobileNet in a CNN based digital integrated circuit | |
US10387740B2 (en) | Object detection and recognition apparatus based on CNN based integrated circuits | |
US11593916B2 (en) | Image super-resolution method and apparatus | |
US10339445B2 (en) | Implementation of ResNet in a CNN based digital integrated circuit | |
US10402628B2 (en) | Image classification systems based on CNN based IC and light-weight classifier | |
US11151361B2 (en) | Dynamic emotion recognition in unconstrained scenarios | |
US20180157940A1 (en) | Convolution Layers Used Directly For Feature Extraction With A CNN Based Integrated Circuit | |
JP5376920B2 (ja) | コンボリューション演算回路、階層的コンボリューション演算回路及び物体認識装置 | |
JP2020068027A (ja) | アンサンブル学習ベースの画像分類システム | |
CN108665063B (zh) | 用于bnn硬件加速器的双向并行处理卷积加速*** | |
JP2019185784A (ja) | モジュール接続されているcnnベース集積回路を用いた深層学習画像処理システム | |
CN113034358B (zh) | 一种超分辨率图像处理方法以及相关装置 | |
US11526723B2 (en) | Apparatus and methods of obtaining multi-scale feature vector using CNN based integrated circuits | |
JP7261226B2 (ja) | 演算処理装置 | |
US20210019606A1 (en) | Cellular neural network integrated circuit having multiple convolution layers of duplicate weights | |
US10936938B2 (en) | Method for visualizing neural network models | |
WO2023036157A1 (en) | Self-supervised spatiotemporal representation learning by exploring video continuity | |
US20200218777A1 (en) | Signal Processing Method and Apparatus | |
WO2022179588A1 (zh) | 一种数据编码方法以及相关设备 | |
WO2023109748A1 (zh) | 一种神经网络的调整方法及相应装置 | |
US20210019602A1 (en) | Using and training cellular neural network integrated circuit having multiple convolution layers of duplicate weights in performing artificial intelligence tasks | |
WO2021120036A1 (zh) | 数据处理装置和数据处理方法 | |
JP2018116419A (ja) | データ処理装置及びニューラルネットワークシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190626 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190626 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190703 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191021 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191112 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200116 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200303 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200330 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6684951 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |