JPH0567060A - ニユーロデバイス - Google Patents

ニユーロデバイス

Info

Publication number
JPH0567060A
JPH0567060A JP3217955A JP21795591A JPH0567060A JP H0567060 A JPH0567060 A JP H0567060A JP 3217955 A JP3217955 A JP 3217955A JP 21795591 A JP21795591 A JP 21795591A JP H0567060 A JPH0567060 A JP H0567060A
Authority
JP
Japan
Prior art keywords
input
data
port
output
input data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP3217955A
Other languages
English (en)
Inventor
Uonwarauipatsuto Uiwatsuto
ウイワツト・ウオンワラウイパツト
Makoto Yamamoto
山本  誠
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
IIZERU ROBOTSUTO VISION KK
TAKAYAMA KK
Original Assignee
IIZERU ROBOTSUTO VISION KK
TAKAYAMA KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by IIZERU ROBOTSUTO VISION KK, TAKAYAMA KK filed Critical IIZERU ROBOTSUTO VISION KK
Priority to JP3217955A priority Critical patent/JPH0567060A/ja
Priority to EP92112237A priority patent/EP0525543B1/en
Priority to DE69228150T priority patent/DE69228150T2/de
Publication of JPH0567060A publication Critical patent/JPH0567060A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Image Analysis (AREA)
  • Design And Manufacture Of Integrated Circuits (AREA)

Abstract

(57)【要約】 〔目的〕 ネットワーク構成を自由に設定し得るICま
たはICモジュールを提供することを目的とする。 〔構成〕 複数の入力データに対する重み付き合計値を
求め、この合計値の大小を評価し、評価結果を出力デー
タとして出力する演算部を有し、前記入力データを入力
する入力ポートと、前記出力データを出力する出力ポー
トとを備えているニューロデバイスにおいて、前記入力
データの少なくとも一部を出力しうる入力データ出力ポ
ートと、前記入力データの少なくとも一部を入力できか
つ前記入力ポートとは独立の入力データ入力ポートと、
前記合計値にさらに加えるべきデータを入力しうる合計
値入力ポートと、前記合計値を出力し得る合計値出力ポ
ートとをさらに備えていることを特徴とする。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】この発明は、複数の入力データに
対する重み付き合計値を求め、この合計値の大小を評価
し、評価結果を出力データとして出力する演算部を有
し、前記入力データを入力する入力ポートと、前記出力
データを出力する出力ポートとを備えているニューロデ
バイスに関する。
【0002】
【従来技術】ニューラルネットワークの考え方を基礎と
した情報処理システムは、実用レベルでの最適設計を実
現しうる段階には至っておらず、比較的小規模のシステ
ムにおいて、ニューロン数、レイヤ数等を経験的に設定
しておき、バックプロパゲーションによる重み決定を行
っている現状である。ここにニューロン数、レイヤ数等
のネットワーク構成に関するシミュレーションをハード
ウエア上で実行するには、多大の研究投資が必要であ
り、一方ソフトウエアによるシミュレーションは実行結
果が得られるまでに長時間を要する。
【0003】
【発明が解決しようとする課題】この発明はこのような
従来の問題点を解消すべく創案されたもので、ネットワ
ーク構成を自由に設定し得るICまたはICモジュール
を提供することを目的とする。
【0004】
【課題を解決する手段】この発明に係るニューロデバイ
スは、入力データの少なくとも一部を出力しうる入力デ
ータ出力ポートと、入力データの少なくとも一部を入力
できかつ入力ポートとは独立の入力データ入力ポート
と、入力データの重み付き合計値にさらに加えるべきデ
ータを入力しうる合計値入力ポートと、前記合計値を出
力し得る合計値出力ポートとを備え、入力データの統
合、分離、共用、および合計値の統合と共用を実現した
ものである。
【0005】
【作用】この発明に係るニューロデバイスによれば、自
由なネットワーク構成をハードウエアで容易に実現し得
る。
【0006】
【実施例】次にこの発明に係るニューロデバイスの1実
施例を図面に基づいて説明する。図1はニューロデバイ
スのブロック図であり、入力データを入力する入力ポー
トIP、出力データを出力する出力ポートOPおよび入
力データの重み付き合計値を算出し、その大小の評価結
果を求める演算部Cを備えている。
【0007】入力ポートIPはシリアル/パラレル変換
部SP1を有し、シリアル入力をパラレルデータに変換
して保持し得る。SP1の出力は演算部Cに入力され、
また重みレジスタWREGに接続されている。入力ポー
トIPは入力データの入力だけでなく、重みデータの入
力にも使用され、重みデータをSP1に保持した状態で
WREGを書き込みモードにすることにより、SP1の
データをWREGに転送し得る。 WREGに重みデー
タが保持され、かつSP1に入力データが保持された状
態で、両データを演算部Cに入力することにより、入力
データの重み付き合計値が算出され、その大小が評価さ
れる。演算部Cは乗算部MULTおよび積算部Σよりな
り、乗算部MULTは入力データと対応する重みデータ
との掛け算を行い、その結果を逐次積算部Σに出力す
る。積算部Σは乗算結果を逐次積算し、合計値を求め
る。重みデータは符号付きデータとされ、積算部での積
算結果が正になったときにいわゆる発火とみなす。これ
はいわゆるしきい値を「0」とした処理であり、減算回
路を省略して回路の単純化を図っている。
【0008】演算部Cの出力は、出力ポートにおけるパ
ラレル/シリアル変換部PSに一旦保持され、その後シ
リアルデータとして外部に出力される。このように、入
出力データをシリアルデータとしたことにより、データ
サイズを内部の設定に応じて変更でき、ネットワーク構
成の自由度を確保し得る。
【0009】ニューロデバイスは入出力ポートIP、O
Pの他に4個のシリアル通信ポートCOM1〜COM4
を有し、COM1はSP1へのデータ入力、COM2は
SP2からのデータ出力に使用される。またCOM1の
入力はSP1の出力側にも分岐しており、ここでマルチ
プレクサMUXにより、COM1入力とSP1出力が択
一的に選択される。すなわち、入力データに関しては、
IPおよびCOM1からのデータをSP1で統合でき、
またIPからのデータの全部または一部を外部に出力し
得る。さらに、COM1のデータをスルーでCOM2か
ら出力することも可能である。これによって、IPおよ
びCOM1からの入力データを統合してニューロデバイ
スの入力データとすることができ、またこれら入力デー
タの分離、共用が可能である。 このデータ統合、分
離、共用により、複数のニューロデバイスの結合による
種々のネットワーク構成を実現し得る。なお詳細につい
ては後述する。
【0010】通信ポートCOM3は、シリアル/パラレ
ル変換部SP2においてシリアルデータをパラレルデー
タに変換した後、そのパラレルデータを演算部Cにおけ
る積算部Σに入力する。これによって、演算部Cは2系
統のデータを統合しうる。一方通信ポートCOM4は前
記PSのデータ、すなわち演算部Cの出力を外部に転送
し、これによって演算部Cのデータの共用が可能となっ
ている。このデータ統合、共用も、前記同様ネットワー
ク構成の自由度拡大に有効である。
【0011】以下にニューロデバイスによって構成され
るネットワーク構成の例を列挙する。 図3は同一個数
のニューロンNEのレイヤNLを複数直列に設けた構成
を示し、このネットワーク構成を実現するためには、複
数のニューロデバイスを図2のように接続する。すなわ
ち各ニューラルレイヤにニューロンと同数のニューロデ
バイスを配置し、各ニューロデバイスのCOM2の出力
を他のニューロデバイスのCOM1に入力する。これに
よって各々のニューロデバイスにおいて全入力データが
統合されつつ出力される。
【0012】図5は第1のレイヤにおける複数のニュー
ロンの出力を第2レイヤの1個のニューロンに統合する
ネットワークを示し、図4に対応するニューロデバイス
の接続を示す。第1レイヤでは各ニューロンにおいて全
入力データが統合され、これを実現するために各のニュ
ーロデバイスのCOM2を他のニューロデバイスのCO
M1に入力している。また第2レイヤでは第1レイヤの
出力を統合するために、ニューロデバイスのCOM4を
順次COM3に転送し、最終のニューロデバイス(最上
位)で統合している。
【0013】図7は入力データ数を順次拡大していくタ
イプのネットワークであり、図6がこのネットワークに
対応したニューロデバイスの接続である。各レイヤのに
おいては全入力データを各ニューロンで統合する必要が
あるため、各ニューロデバイスのCOM2を他のニュー
ロデバイスのCOM1に入力している。そして各レイヤ
のニューロデバイスのOPを後段レイヤの対応ニューロ
ンに入力している。以上のように、ニューロデバイスの
接続態様を変更すれば種々のネットワーク構成を実現し
得る。そして各ニューロデバイスはICあるいはICモ
ジュールで構成されるため、その処理速度は高速であ
り、有効なシミュレーションを数多く試みることができ
る。さらにニューロデバイス相互の接続は極めて単純で
あるので、配線が容易である。
【0014】
【発明の効果】前述のとおり、この発明に係るニューロ
デバイスは、入力データの少なくとも一部を出力しうる
入力データ出力ポートと、入力データの少なくとも一部
を入力できかつ入力ポートとは独立の入力データ入力ポ
ートと、入力データの重み付き合計値にさらに加えるべ
きデータを入力しうる合計値入力ポートと、前記合計値
を出力し得る合計値出力ポートとを備え、入力データの
統合、分離、共用、および合計値の統合と共用を実現し
たので、自由なネットワーク構成をハードウエアで容易
に実現し得るという優れた効果を有する。
【図面の簡単な説明】
【図1】この発明に係るニューロデバイスの1実施例を
示すブロック図である。
【図2】同実施例の接続例を示すブロック図である。
【図3】図2の接続に対応するニューラルネットワーク
を示す概念図である。
【図4】同実施例の他の接続例を示すブロック図であ
る。
【図5】図4の接続に対応するニューラルネットワーク
を示す概念図である。
【図6】同実施例のさらに他の接続例を示すブロック図
である。
【図7】図6の接続に対応するニューラルネットワーク
を示す概念図である。
【符号の説明】
C 演算部 IP 入力ポート OP 出力ポート SP シリアル/パラレル変換部 COM1 通信ポート(入力データ入力ポート) COM2 通信ポート(入力データ出力ポート) COM3 通信ポート(合計値入力ポート) COM4 通信ポート(合計値出力ポート)

Claims (2)

    【特許請求の範囲】
  1. 【請求項1】 複数の入力データに対する重み付き合計
    値を求め、この合計値の大小を評価し、評価結果を出力
    データとして出力する演算部を有し、前記入力データを
    入力する入力ポートと、前記出力データを出力する出力
    ポートとを備えているニューロデバイスにおいて、前記
    入力データの少なくとも一部を出力しうる入力データ出
    力ポートと、前記入力データの少なくとも一部を入力で
    きかつ前記入力ポートとは独立の入力データ入力ポート
    と、前記合計値にさらに加えるべきデータを入力しうる
    合計値入力ポートと、前記合計値を出力し得る合計値出
    力ポートとをさらに備えていることを特徴とするニュー
    ロデバイス。
  2. 【請求項2】 入力ポートはシリアルポートとされ、入
    力ポートから入力された入力データと、入力データ入力
    ポートから入力された入力データとを統合するシリアル
    /パラレル変換部がさらに設けられていることを特徴と
    する請求項1記載のニューロデバイス。
JP3217955A 1991-08-02 1991-08-02 ニユーロデバイス Pending JPH0567060A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP3217955A JPH0567060A (ja) 1991-08-02 1991-08-02 ニユーロデバイス
EP92112237A EP0525543B1 (en) 1991-08-02 1992-07-17 Neural processor device
DE69228150T DE69228150T2 (de) 1991-08-02 1992-07-17 Neuronal Prozessorgerät

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP3217955A JPH0567060A (ja) 1991-08-02 1991-08-02 ニユーロデバイス

Publications (1)

Publication Number Publication Date
JPH0567060A true JPH0567060A (ja) 1993-03-19

Family

ID=16712340

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3217955A Pending JPH0567060A (ja) 1991-08-02 1991-08-02 ニユーロデバイス

Country Status (3)

Country Link
EP (1) EP0525543B1 (ja)
JP (1) JPH0567060A (ja)
DE (1) DE69228150T2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018116419A (ja) * 2017-01-17 2018-07-26 株式会社デンソー データ処理装置及びニューラルネットワークシステム

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2553098C2 (ru) * 2013-08-23 2015-06-10 Федеральное государственное унитарное предприятие "Научно-производственное объединение автоматики имени академика Н.А. Семихатова" Нейровычислитель
EP3035249B1 (en) * 2014-12-19 2019-11-27 Intel Corporation Method and apparatus for distributed and cooperative computation in artificial neural networks
US11615297B2 (en) 2017-04-04 2023-03-28 Hailo Technologies Ltd. Structured weight based sparsity in an artificial neural network compiler
US10387298B2 (en) 2017-04-04 2019-08-20 Hailo Technologies Ltd Artificial neural network incorporating emphasis and focus techniques
US11551028B2 (en) 2017-04-04 2023-01-10 Hailo Technologies Ltd. Structured weight based sparsity in an artificial neural network
US11544545B2 (en) 2017-04-04 2023-01-03 Hailo Technologies Ltd. Structured activation based sparsity in an artificial neural network
US11238334B2 (en) 2017-04-04 2022-02-01 Hailo Technologies Ltd. System and method of input alignment for efficient vector operations in an artificial neural network
US11263077B1 (en) 2020-09-29 2022-03-01 Hailo Technologies Ltd. Neural network intermediate results safety mechanism in an artificial neural network processor
US11237894B1 (en) 2020-09-29 2022-02-01 Hailo Technologies Ltd. Layer control unit instruction addressing safety mechanism in an artificial neural network processor
US11221929B1 (en) 2020-09-29 2022-01-11 Hailo Technologies Ltd. Data stream fault detection mechanism in an artificial neural network processor
US11811421B2 (en) 2020-09-29 2023-11-07 Hailo Technologies Ltd. Weights safety mechanism in an artificial neural network processor

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4858177A (en) * 1987-03-27 1989-08-15 Smith Harry F Minimal connectivity parallel data processing system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018116419A (ja) * 2017-01-17 2018-07-26 株式会社デンソー データ処理装置及びニューラルネットワークシステム

Also Published As

Publication number Publication date
DE69228150T2 (de) 1999-05-20
EP0525543A3 (en) 1994-07-13
EP0525543A2 (en) 1993-02-03
EP0525543B1 (en) 1999-01-13
DE69228150D1 (de) 1999-02-25

Similar Documents

Publication Publication Date Title
US9384168B2 (en) Vector matrix product accelerator for microprocessor integration
US5214747A (en) Segmented neural network with daisy chain control
WO2017023042A1 (ko) 딥 빌리프 네트워크를 위한 복수 레이어가 적층된 뉴런 어레이 및 뉴런 어레이 동작 방법
US5089983A (en) Charge domain vector-matrix product processing system
JPH0567060A (ja) ニユーロデバイス
JPH0612393A (ja) マルチプロセッサデータ処理システム
EP0557997A2 (en) Information processing apparatus and information processing system
KR890702151A (ko) 변환 프로세싱 회로
CN110705703A (zh) 基于脉动阵列的稀疏神经网络处理器
CN110543939A (zh) 一种基于fpga的卷积神经网络后向训练的硬件加速实现架构
Schoenauer et al. Digital neurohardware: principles and perspectives
EP0459222A2 (en) Neural network
CN110413561B (zh) 数据加速处理***
CN111079908A (zh) 片上网络数据处理方法、存储介质、计算机设备和装置
JPH0440581A (ja) ニューロプロセッサ
JPS63147255A (ja) 複数の直列接続段を有する計算用プロセッサおよびこのプロセッサを応用したコンピュータならびに計算方法
IT202000009358A1 (it) Circuito, dispositivo, sistema e procedimento corrispondenti
RU2115161C1 (ru) Вычислитель с перепрограммируемой архитектурой
Solheim et al. RENNS-a reconfigurable computer system for artificial neural networks
Roche et al. Signalling techniques and their effect on neural network implementation sizes
Richert et al. ASICs for prototyping of pulse-density modulated neural networks
JP2522406B2 (ja) 全結合型ネットワ―ク並列処理方法と装置
JPH04364525A (ja) 並列演算装置
Faure et al. A cellular architecture dedicated to neural net emulation
JPH03160554A (ja) ニューラルネットワーク装置