JP2005352900A - 情報処理装置、情報処理方法、パターン認識装置、及びパターン認識方法 - Google Patents
情報処理装置、情報処理方法、パターン認識装置、及びパターン認識方法 Download PDFInfo
- Publication number
- JP2005352900A JP2005352900A JP2004174601A JP2004174601A JP2005352900A JP 2005352900 A JP2005352900 A JP 2005352900A JP 2004174601 A JP2004174601 A JP 2004174601A JP 2004174601 A JP2004174601 A JP 2004174601A JP 2005352900 A JP2005352900 A JP 2005352900A
- Authority
- JP
- Japan
- Prior art keywords
- layer
- predetermined
- processing module
- learning
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
- G06V10/449—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
- G06V10/451—Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
- G06V10/454—Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Multimedia (AREA)
- Biodiversity & Conservation Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Ophthalmology & Optometry (AREA)
- Human Computer Interaction (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】 所定のパターンをデータ入力層101に提示することにより、未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行う。
【選択図】 図2
Description
柳川、福島、吉田 『追加学習可能なネオコグニトロン』 電子情報通信学会技術報告NC2001−176,pp.63−70,2002 M. Lehtokangas, "Modeling with constructive backpropagation," Neural Networks, vol.12, pp.707-716, 1999
所定の少なくとも一つの階層レベルの前記演算処理層において所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習処理モジュールとを備え、
所定のパターンを前記データ入力層に提示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする。
前記学習制御回路により実行される所定の学習段階において前記演算処理層内の所定階層レベルでの演算素子出力の誤差信号が所定の条件を満たすか否かを判定する判定手段と、
前記判定手段が前記所定の条件を満たすと判定した場合、前記階層レベルより下位の層において前記処理モジュール追加・削除回路に、少なくとも一つの処理モジュールを追加させるよう制御する制御手段と
を備えることを特徴とする。
所定のデータセットに関して独立成分分析を行う独立成分分析手段と、
学習制御手段と、
複数の検出すべき特徴クラスそれぞれに対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
前記独立成分分析の結果得られる所定の基底データセットと前記入力データとから、所定の前記処理モジュールが学習すべき所定の特徴クラスを含む学習用入力データを設定し、所定のメモリに格納する学習用データ設定手段と、
を有する情報処理装置であって、
所定の少なくとも一つの階層レベルの前記演算処理層は、
所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習の処理モジュールと
を備え、
前記学習制御手段は、所定の前記学習用入力データを前記演算処理層の所定の層に呈示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする。
複数の検出すべき特徴クラスにそれぞれ対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
学習制御手段と、
前記演算処理層からの出力に基づき、所定のパターン認識結果を出力する認識結果出力手段とを備え、
所定の少なくとも一つの階層レベルの前記演算処理層は、所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習の処理モジュールと
を備え、
前記学習制御手段は、所定のパターンを前記データ入力層に提示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする。
検出すべき特徴クラスに対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
学習制御回路と、
処理モジュール追加・削除回路と、
前記演算処理層からの出力に基づき、所定のパターン認識結果を出力する認識結果出力手段とを有し、
前記学習制御回路により実行される所定の学習段階において前記演算処理層内の所定階層レベルでの演算素子出力の誤差信号が所定の条件を満たすときに、前記階層レベルより下位の層において前記処理モジュール追加・削除回路は、少なくとも一つの処理モジュールを追加することを特徴とする。
所定のパターンを前記データ入力層に提示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする。
前記学習制御回路により実行される所定の学習段階において前記演算処理層内の所定階層レベルでの演算素子出力の誤差信号が所定の条件を満たすか否かを判定する判定工程と、
前記判定工程で前記所定の条件を満たすと判定した場合、前記階層レベルより下位の層において前記処理モジュール追加・削除回路に、少なくとも一つの処理モジュールを追加させるよう制御する制御工程と
を備えることを特徴とする。
所定のデータセットに関して独立成分分析を行う独立成分分析手段と、
学習制御手段と、
複数の検出すべき特徴クラスそれぞれに対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
前記独立成分分析の結果得られる所定の基底データセットと前記入力データとから、所定の前記処理モジュールが学習すべき所定の特徴クラスを含む学習用入力データを設定し、所定のメモリに格納する学習用データ設定手段と、
を有し、所定の少なくとも一つの階層レベルの前記演算処理層は、
所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習の処理モジュールとを備える情報処理装置が行う情報処理方法であって、
前記学習制御工程では、所定の前記学習用入力データを前記演算処理層の所定の層に呈示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする。
複数の検出すべき特徴クラスにそれぞれ対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
学習制御手段と、
前記演算処理層からの出力に基づき、所定のパターン認識結果を出力する認識結果出力手段とを備え、
所定の少なくとも一つの階層レベルの前記演算処理層は、所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習の処理モジュールと
を備えるパターン認識装置が行うパターン認識方法であって、
前記学習制御工程では、所定のパターンを前記データ入力層に提示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする。
検出すべき特徴クラスに対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
学習制御回路と、
処理モジュール追加・削除回路と、
前記演算処理層からの出力に基づき、所定のパターン認識結果を出力する認識結果出力手段とを有するパターン認識装置が行うパターン認識方法であって、
前記学習制御回路により実行される所定の学習段階において前記演算処理層内の所定階層レベルでの演算素子出力の誤差信号が所定の条件を満たすときに、前記階層レベルより下位の層において前記処理モジュール追加・削除回路は、少なくとも一つの処理モジュールを追加することを特徴とする。
所定の検出層における所定の処理モジュールを構成する各ニューロンの出力値と、所望の出力値との誤差を求める誤差計算手段と、
前記データ入力層から、前記所定の処理モジュールに出力値を出力する層までの間に配置された各層の内1つ以上の層内に、前記誤差に応じて処理モジュールを新たに追加する追加手段と、
前記追加手段による追加処理後、前記誤差計算手段による誤差に基づいて、前記所定の検出層から前記データ入力層に向けて所定層数分の層の間の結合定数を修正する修正手段と
を備えることを特徴とする。
所定の検出層における所定の処理モジュールを構成する各ニューロンの出力値と、所望の出力値との誤差を求める誤差計算工程と、
前記データ入力層から、前記所定の処理モジュールに出力値を出力する層までの間に配置された各層の内1つ以上の層内に、前記誤差に応じて処理モジュールを新たに追加する追加工程と、
前記追加工程による追加処理後、前記誤差計算工程による誤差に基づいて、前記所定の検出層から前記データ入力層に向けて所定層数分の層の間の結合定数を修正する修正工程と
を備えることを特徴とする。
図1は本実施形態におけるパターン認識処理を行う装置(パターン認識装置)の機能構成を示す図である。同図に示した装置は階層型並列処理のための構造を有し、画像データを入力して特定カテゴリの対象(被写体)、または、それを構成する局所的特徴(例えば、幾何学的特徴)などの検出に関与する情報を主として扱う。その処理結果として、入力データ中に特定カテゴリの認識対象が存在するか否か、存在する場合にはどこにあるかなどの情報が出力される。
次に、各層を構成するニューロンについて説明する。各ニューロン素子はいわゆるintegrate-and-fireニューロンを基本として拡張モデル化したもので、入力信号(アクションポテンシャルに相当するパルス列)を時空間的に線形加算した結果が閾値を越したら発火し、パルス状信号を出力する点ではいわゆるintegrate-and-fireニューロンと同じである。
図4Bは、ニューロンniの結合先である各ニューロンn’jへのシナプス結合強度(位相遅延等に関する変調の大きさを意味する)を与える各小回路がマトリクス的に配置することにより形成されるシナプス回路の構成を示す図である。
以下、ネットワーク処理回路10を構成する主要部について更に詳しく説明する。データ入力層は、画像センサー手段の場合はCMOSセンサー、或いはCCD素子等の光電変換素子であるが、所定データ解析手段の解析結果(例えば、主成分分析、ベクトル量子化、などの次元縮小を行った結果)から得られる高次元のデータを入力するものであってもよい。
特徴検出層(1,0)には、局所的な、ある大きさの領域で所定の空間周波数を持ち、方向成分が垂直であるようなパターンの構造(低次特徴)を検出するニューロンがあるとする。このような機能はGabor filterにより実現することができる。以下、特徴検出層(1,0)の各ニューロンが行う特徴検出フィルタ機能について説明する。
後続の特徴検出層((1,1)、(1,2…)の各処理モジュール内ニューロンの受容野構造は、上記特徴検出層(1,0)に予め形成された処理モジュールとは異なり、認識対象のパターンに固有の特徴を検出する受容野構造を教師付き学習(いわゆる誤差逆伝播学習則等)により形成する。後の層ほど特徴検出を行う局所的な領域のサイズが認識対象全体のサイズに段階的に近くなり、幾何学的には中次または高次の特徴を検出する。例えば、顔の検出や認識を行う場合には中次(または高次)の特徴とは顔を構成する目、鼻、口等の図形要素のレベルでの特徴を表す。
特徴統合層((2,0)、(2,1)、・・・)のニューロンについて説明する。図1に示すごとく特徴検出層(例えば(1,0))から特徴統合層(例えば(2,0)層)への結合は、この特徴統合内のニューロンの受容野内にある前段の特徴検出層の同一特徴要素(タイプ)のニューロンから興奮性結合の入力を受けるように構成され、統合層のニューロンの機能は前述したごとく、各特徴カテゴリごとの局所平均化、最大値検出によるサブサンプリング等である。
次に、処理モジュール追加・削除制御回路30の動作を詳しく説明するために、画像中のまとまりを持った意味のある部分領域(例えば、顔画像中の目、鼻、口など)の検出を行う特徴検出層内の処理モジュールでの学習動作のプロセスについて説明する。目を検出する特徴検出処理モジュール(A1)について説明する。図5(a)に示すように、予め、該当する部分領域(教示データ:目)の検出に有効と推測された局所特徴(例えば、図5(a)のB1〜B4の枠内に示すようなパターン)の検出を行う処理モジュールが図6に示すように処理モジュールA1,Fの下位にある特徴検出層と特徴統合層に存在し、その下位特徴統合層に存在する処理モジュール(B1,S、B2,S、B3,S)からの出力のみを受けて部分領域(複合局所特徴としての目)の検出を行うものとする。図6において処理モジュール(B1,S、B2,S、B3,S)は特徴検出層内に配置されている処理モジュールを表す。
特徴検出層の既に学習済みの下位処理モジュール(Bk,F)についてのその更に下位モジュールとの結合荷重に関する学習係数は、新規に追加された処理モジュール(Bj,F、Bj,S)と比べて相対的に低く(例えば、10分の1以下)設定される。これは、学習済みのモジュールの特性が再学習により破壊されないようにする為であり、結合荷重の更新が抑制されるようにしたものである。一方、新規に追加された処理モジュールについては、誤差信号が相対的に学習済みモジュールよりも拡大され、結合荷重の更新が促進される。
次に、2次元図形パターンのパルス符号化と検出方法について説明する。図4Aは、特徴統合層から特徴検出層への(例えば、図1の層(2,0)から層(1,1)への)パルス信号の伝播の様子を模式的に示す図である。
図8は、以上に示した構成を基本要素とする並列パルス信号処理によるパターン認識装置、及びそのパターン認識装置を搭載した画像入力装置(例えば、カメラ、ビデオカメラ、スキャナーなど)の構成の概要を示す図である。
特に、神経回路網や階層的並列処理において学習済みの有効な特徴クラスの検出素子と一つ以上の未学習(学習予定)の特徴検出素子を用い、両者の出力に基づいて所定のパターンを認識・検出するのに有効な新規の特徴クラスを検出するための演算素子間の結線構造(受容野構造)を学習により効率的に形成させることができる。
本実施形態では、図9に示すように特徴統合層内に新たに追加された処理モジュールと既に存在する処理モジュールとの間にニューロン間の層内結合を導入する。図9は、本実施形態に係るネットワーク処理回路の構成を説明する為の模式図である。
ここに、yk j=[yk 1、yk 2…yk j−1]、yk=[yk 1、yk 2…yk N(k)]、kは層番号のインデクス、N(k)はk番目の層の総ニューロン数を表す。
第1、第2の実施形態と同様にConvolutionalネットワーク構造においてアルファベット的な図形要素としての局所特徴を様々な教示サンプル画像から自動的に検出する神経回路モジュールを形成する他の実施形態を説明する。ネットワーク構造としては、他の階層的並列処理アーキテクチャを用いても良い。
上記実施形態では、パターン認識装置を専用ハードウェアでもって実現させていたが、このパターン認識装置が行う上述の処理をプログラムの形態でもって実装し、これをPC(パーソナルコンピュータ)やWS(ワークステーション)等のコンピュータのメモリにインストールさせ、これをこのコンピュータのCPUが実行することにより、このコンピュータに上記実施形態で説明したパターン認識装置が行う処理を実行させるようにしても良い。
本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
Claims (29)
- データ入力層と、複数の検出すべき特徴クラスにそれぞれ対応する複数の処理モジュールを備えかつ少なくとも一つの階層レベルを有する演算処理層と、を有する並列階層処理を行う情報処理装置であって、
所定の少なくとも一つの階層レベルの前記演算処理層において所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習処理モジュールとを備え、
所定のパターンを前記データ入力層に提示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする情報処理装置。 - データ入力層と、検出すべき特徴クラスに対応する複数の処理モジュールを備えかつ少なくとも一つの階層レベルを有する演算処理層と、学習制御回路と、処理モジュール追加・削除回路と、を有する情報処理装置であって、
前記学習制御回路により実行される所定の学習段階において前記演算処理層内の所定階層レベルでの演算素子出力の誤差信号が所定の条件を満たすか否かを判定する判定手段と、
前記判定手段が前記所定の条件を満たすと判定した場合、前記階層レベルより下位の層において前記処理モジュール追加・削除回路に、少なくとも一つの処理モジュールを追加させるよう制御する制御手段と
を備えることを特徴とする情報処理装置。 - 前記学習済み処理モジュールを構成するニューロン群の受容野構造は、前記新規な特徴クラスの学習において所定の範囲で可変とすることを特徴とする請求項1に記載の情報処理装置。
- 前記新規な特徴クラスの学習は、複数の階層レベルで行うことを特徴とする請求項1に記載の情報処理装置。
- 前記新規な特徴クラスの検出に必要な結合パターンの学習は、前記未学習処理モジュールが存在する階層より上位の所定の階層レベルの処理モジュールに対して行う教師付き学習であり、前記演算処理層間における前記結合素子の特性を決定することを特徴とする請求項1に記載の情報処理装置。
- 前記学習制御回路は前記所定の学習段階において、所定の階層において前記追加された処理モジュール内の演算素子と当該階層より下位の階層の所定処理モジュール内にある演算素子に対する局所的な初期結合を設定し、前記初期結合は、前記所定の階層の学習済み処理モジュール内演算素子が結合する前記下位の階層の所定処理モジュール内演算素子の空間配置のいずれとも異なる空間配置を有する前記下位階層の演算素子と形成されることを特徴とする請求項2に記載の情報処理装置。
- 前記新規な特徴クラスの検出に必要な結合パターンの学習は、前記追加された処理モジュールの演算素子出力と同一階層レベルの他の学習済み処理モジュールの演算素子出力との相関が減少するような自己組織化学習であることを特徴とする請求項5に記載の情報処理装置。
- 前記制御手段は、前記処理モジュール追加・削除回路に、複数の処理モジュールを同時に追加させる処理を行い、前記追加された処理モジュールの演算素子の受容野サイズは前記追加された処理モジュール間で異なることを特徴とする請求項2に記載の情報処理装置。
- 前記自己組織化学習は反ヘッブ則に基づく学習であることを特徴とする請求項7に記載の情報処理装置。
- 前記演算処理層のうち少なくとも一つの階層レベルは追加された処理モジュールと学習済み処理モジュール間での層内結合を有し、当該追加された処理モジュールが属する階層で行う前記自己組織化学習は、当該階層とその下位の階層間での層間結合および前記層内結合について行うことを特徴とする請求項7に記載の情報処理装置。
- 前記新規な特徴クラスの検出に必要な結合パターンの学習は、当該学習を行う処理モジュールが結合する上位の階層の所定の処理モジュールにおける教師付き学習が収束した後に行われる自己組織化学習であることを特徴とする請求項5に記載の情報処理装置。
- 前記演算処理層は、畳み込み神経回路網であることを特徴とする請求項1に記載の情報処理装置。
- 前記新規な特徴クラスの検出に必要な結合パターンの学習は、前記追加された処理モジュールの演算素子出力と同一階層レベルの他の学習済み処理モジュールの演算素子出力とに関する相互情報量が減少するような自己組織化学習であることを特徴とする請求項5に記載の情報処理装置。
- 前記処理モジュール追加・削除回路は、前記演算処理層内の所定階層レベルでの各処理モジュールの相対寄与度評価を行い、前記相対寄与度が所定の閾値より小さい処理モジュールを削除することを特徴とする請求項2に記載の情報処理装置。
- 所定の入力データを入力する入力層と、
所定のデータセットに関して独立成分分析を行う独立成分分析手段と、
学習制御手段と、
複数の検出すべき特徴クラスそれぞれに対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
前記独立成分分析の結果得られる所定の基底データセットと前記入力データとから、所定の前記処理モジュールが学習すべき所定の特徴クラスを含む学習用入力データを設定し、所定のメモリに格納する学習用データ設定手段と、
を有する情報処理装置であって、
所定の少なくとも一つの階層レベルの前記演算処理層は、
所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習の処理モジュールと
を備え、
前記学習制御手段は、所定の前記学習用入力データを前記演算処理層の所定の層に呈示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする情報処理装置。 - 前記学習用データ設定手段は、前記基底データセットの顕著領域を抽出し、当該顕著領域に対応する前記入力データ上のデータを前記学習用入力データとして設定することを特徴とする請求項15に記載の情報処理装置。
- データ入力層と、
複数の検出すべき特徴クラスにそれぞれ対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
学習制御手段と、
前記演算処理層からの出力に基づき、所定のパターン認識結果を出力する認識結果出力手段とを備え、
所定の少なくとも一つの階層レベルの前記演算処理層は、所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習の処理モジュールと
を備え、
前記学習制御手段は、所定のパターンを前記データ入力層に提示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とするパターン認識装置。 - データ入力層と、
検出すべき特徴クラスに対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
学習制御回路と、
処理モジュール追加・削除回路と、
前記演算処理層からの出力に基づき、所定のパターン認識結果を出力する認識結果出力手段とを有し、
前記学習制御回路により実行される所定の学習段階において前記演算処理層内の所定階層レベルでの演算素子出力の誤差信号が所定の条件を満たすときに、前記階層レベルより下位の層において前記処理モジュール追加・削除回路は、少なくとも一つの処理モジュールを追加することを特徴とするパターン認識装置。 - 請求項1又は2に記載の情報処理装置を搭載することを特徴とする画像入力装置。
- 請求項17又は18に記載のパターン認識装置を搭載することを特徴とする画像入力装置。
- データ入力層と、複数の検出すべき特徴クラスにそれぞれ対応する複数の処理モジュールを備えかつ少なくとも一つの階層レベルを有する演算処理層と、所定の少なくとも一つの階層レベルの前記演算処理層において所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習処理モジュールとを備える情報処理装置が行う情報処理方法であって、
所定のパターンを前記データ入力層に提示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする情報処理方法。 - データ入力層と、検出すべき特徴クラスに対応する複数の処理モジュールを備えかつ少なくとも一つの階層レベルを有する演算処理層と、学習制御回路と、処理モジュール追加・削除回路と、を有する情報処理装置が行う情報処理方法であって、
前記学習制御回路により実行される所定の学習段階において前記演算処理層内の所定階層レベルでの演算素子出力の誤差信号が所定の条件を満たすか否かを判定する判定工程と、
前記判定工程で前記所定の条件を満たすと判定した場合、前記階層レベルより下位の層において前記処理モジュール追加・削除回路に、少なくとも一つの処理モジュールを追加させるよう制御する制御工程と
を備えることを特徴とする情報処理方法。 - 所定の入力データを入力する入力層と、
所定のデータセットに関して独立成分分析を行う独立成分分析手段と、
学習制御手段と、
複数の検出すべき特徴クラスそれぞれに対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
前記独立成分分析の結果得られる所定の基底データセットと前記入力データとから、所定の前記処理モジュールが学習すべき所定の特徴クラスを含む学習用入力データを設定し、所定のメモリに格納する学習用データ設定手段と、
を有し、所定の少なくとも一つの階層レベルの前記演算処理層は、
所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習の処理モジュールとを備える情報処理装置が行う情報処理方法であって、
前記学習制御工程では、所定の前記学習用入力データを前記演算処理層の所定の層に呈示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とする情報処理方法。 - データ入力層と、
複数の検出すべき特徴クラスにそれぞれ対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
学習制御手段と、
前記演算処理層からの出力に基づき、所定のパターン認識結果を出力する認識結果出力手段とを備え、
所定の少なくとも一つの階層レベルの前記演算処理層は、所定の特徴クラスを検出するのに用いられる受容野構造を持つ複数のニューロンからなる少なくとも一つの学習済み処理モジュールと、
未学習の特徴クラスを学習すべき受容野構造が不定な複数ニューロンからなる少なくとも一つの未学習の処理モジュールと
を備えるパターン認識装置が行うパターン認識方法であって、
前記学習制御工程では、所定のパターンを前記データ入力層に提示することにより、前記未学習処理モジュールにおいて新規な特徴クラスの検出に必要な学習を行うことを特徴とするパターン認識方法。 - データ入力層と、
検出すべき特徴クラスに対応する複数の処理モジュールを備え、かつ少なくとも一つの階層レベルを有する演算処理層と、
学習制御回路と、
処理モジュール追加・削除回路と、
前記演算処理層からの出力に基づき、所定のパターン認識結果を出力する認識結果出力手段とを有するパターン認識装置が行うパターン認識方法であって、
前記学習制御回路により実行される所定の学習段階において前記演算処理層内の所定階層レベルでの演算素子出力の誤差信号が所定の条件を満たすときに、前記階層レベルより下位の層において前記処理モジュール追加・削除回路は、少なくとも一つの処理モジュールを追加することを特徴とするパターン認識方法。 - 請求項21乃至23に記載の情報処理方法をコンピュータに実行させることを特徴とするプログラム。
- 請求項24又は25に記載のパターン認識方法をコンピュータに実行させることを特徴とするプログラム。
- データ入力層とデータ出力層との間に、前段の層からの出力から検出すべきそれぞれの特徴量を検出するための複数の処理モジュールを備える検出層、当該検出層からの出力を統合して出力する統合層、の各層を交互に配置することにより構成される階層型ニューラルネットワークにおいて、所定の検出層における所定の処理モジュールを構成する各ニューロンの出力値を所望の出力値とすべく、層間の結合定数を修正する処理を行う情報処理装置であって、
所定の検出層における所定の処理モジュールを構成する各ニューロンの出力値と、所望の出力値との誤差を求める誤差計算手段と、
前記データ入力層から、前記所定の処理モジュールに出力値を出力する層までの間に配置された各層の内1つ以上の層内に、前記誤差に応じて処理モジュールを新たに追加する追加手段と、
前記追加手段による追加処理後、前記誤差計算手段による誤差に基づいて、前記所定の検出層から前記データ入力層に向けて所定層数分の層の間の結合定数を修正する修正手段と
を備えることを特徴とする情報処理装置。 - データ入力層とデータ出力層との間に、前段の層からの出力から検出すべきそれぞれの特徴量を検出するための複数の処理モジュールを備える検出層、当該検出層からの出力を統合して出力する統合層、の各層を交互に配置することにより構成される階層型ニューラルネットワークにおいて、所定の検出層における所定の処理モジュールを構成する各ニューロンの出力値を所望の出力値とすべく、層間の結合定数を修正する処理を行う情報処理方法であって、
所定の検出層における所定の処理モジュールを構成する各ニューロンの出力値と、所望の出力値との誤差を求める誤差計算工程と、
前記データ入力層から、前記所定の処理モジュールに出力値を出力する層までの間に配置された各層の内1つ以上の層内に、前記誤差に応じて処理モジュールを新たに追加する追加工程と、
前記追加工程による追加処理後、前記誤差計算工程による誤差に基づいて、前記所定の検出層から前記データ入力層に向けて所定層数分の層の間の結合定数を修正する修正工程と
を備えることを特徴とする情報処理方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004174601A JP2005352900A (ja) | 2004-06-11 | 2004-06-11 | 情報処理装置、情報処理方法、パターン認識装置、及びパターン認識方法 |
US11/149,698 US7676441B2 (en) | 2004-06-11 | 2005-06-10 | Information processing apparatus, information processing method, pattern recognition apparatus, and pattern recognition method |
US12/696,993 US8015130B2 (en) | 2004-06-11 | 2010-01-29 | Information processing apparatus, information processing method, pattern recognition apparatus, and pattern recognition method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004174601A JP2005352900A (ja) | 2004-06-11 | 2004-06-11 | 情報処理装置、情報処理方法、パターン認識装置、及びパターン認識方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005352900A true JP2005352900A (ja) | 2005-12-22 |
JP2005352900A5 JP2005352900A5 (ja) | 2007-08-02 |
Family
ID=35481812
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004174601A Pending JP2005352900A (ja) | 2004-06-11 | 2004-06-11 | 情報処理装置、情報処理方法、パターン認識装置、及びパターン認識方法 |
Country Status (2)
Country | Link |
---|---|
US (2) | US7676441B2 (ja) |
JP (1) | JP2005352900A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011013720A (ja) * | 2009-06-30 | 2011-01-20 | Jfe Steel Corp | カテゴリ判定ルールの作成方法、装置およびコンピュータプログラム |
JP2014095678A (ja) * | 2012-11-12 | 2014-05-22 | Institute Of Physical & Chemical Research | 情報処理装置、情報処理プログラム |
JP2018010626A (ja) * | 2016-06-30 | 2018-01-18 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
CN108241888A (zh) * | 2016-12-27 | 2018-07-03 | 电装 It 研究所 | 信息估计装置和信息估计方法 |
JP2018532441A (ja) * | 2015-08-04 | 2018-11-08 | シーメンス アクティエンゲゼルシャフト | 脳腫瘍を分類するための視覚表現学習 |
Families Citing this family (137)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5184824B2 (ja) * | 2007-06-15 | 2013-04-17 | キヤノン株式会社 | 演算処理装置及び方法 |
US8229209B2 (en) * | 2008-12-26 | 2012-07-24 | Five Apes, Inc. | Neural network based pattern recognizer |
US8160354B2 (en) * | 2008-12-26 | 2012-04-17 | Five Apes, Inc. | Multi-stage image pattern recognizer |
US8290250B2 (en) | 2008-12-26 | 2012-10-16 | Five Apes, Inc. | Method and apparatus for creating a pattern recognizer |
US9405975B2 (en) | 2010-03-26 | 2016-08-02 | Brain Corporation | Apparatus and methods for pulse-code invariant object recognition |
US9311593B2 (en) | 2010-03-26 | 2016-04-12 | Brain Corporation | Apparatus and methods for polychronous encoding and multiplexing in neuronal prosthetic devices |
US9122994B2 (en) | 2010-03-26 | 2015-09-01 | Brain Corporation | Apparatus and methods for temporally proximate object recognition |
US8315305B2 (en) | 2010-03-26 | 2012-11-20 | Brain Corporation | Systems and methods for invariant pulse latency coding |
US8400504B2 (en) | 2010-04-05 | 2013-03-19 | King Fahd University Of Petroleum And Minerals | Contamination monitoring of high voltage insulators |
US9053562B1 (en) | 2010-06-24 | 2015-06-09 | Gregory S. Rabin | Two dimensional to three dimensional moving image converter |
US9906838B2 (en) | 2010-07-12 | 2018-02-27 | Time Warner Cable Enterprises Llc | Apparatus and methods for content delivery and message exchange across multiple content delivery networks |
US9193075B1 (en) | 2010-08-26 | 2015-11-24 | Brain Corporation | Apparatus and methods for object detection via optical flow cancellation |
US8942466B2 (en) | 2010-08-26 | 2015-01-27 | Brain Corporation | Sensory input processing apparatus and methods |
US9015093B1 (en) | 2010-10-26 | 2015-04-21 | Michael Lamport Commons | Intelligent control with hierarchical stacked neural networks |
US8775341B1 (en) | 2010-10-26 | 2014-07-08 | Michael Lamport Commons | Intelligent control with hierarchical stacked neural networks |
JP5746550B2 (ja) * | 2011-04-25 | 2015-07-08 | キヤノン株式会社 | 画像処理装置、画像処理方法 |
US9566710B2 (en) | 2011-06-02 | 2017-02-14 | Brain Corporation | Apparatus and methods for operating robotic devices using selective state space training |
US9070039B2 (en) | 2013-02-01 | 2015-06-30 | Brian Corporation | Temporal winner takes all spiking neuron network sensory processing apparatus and methods |
US9047568B1 (en) | 2012-09-20 | 2015-06-02 | Brain Corporation | Apparatus and methods for encoding of sensory data using artificial spiking neurons |
US8990133B1 (en) | 2012-12-20 | 2015-03-24 | Brain Corporation | Apparatus and methods for state-dependent learning in spiking neuron networks |
US9147156B2 (en) | 2011-09-21 | 2015-09-29 | Qualcomm Technologies Inc. | Apparatus and methods for synaptic update in a pulse-coded network |
US8577131B1 (en) * | 2011-07-12 | 2013-11-05 | Google Inc. | Systems and methods for visual object matching |
US9412064B2 (en) | 2011-08-17 | 2016-08-09 | Qualcomm Technologies Inc. | Event-based communication in spiking neuron networks communicating a neural activity payload with an efficacy update |
US8725662B2 (en) | 2011-09-21 | 2014-05-13 | Brain Corporation | Apparatus and method for partial evaluation of synaptic updates based on system events |
US9460387B2 (en) | 2011-09-21 | 2016-10-04 | Qualcomm Technologies Inc. | Apparatus and methods for implementing event-based updates in neuron networks |
US8725658B2 (en) | 2011-09-21 | 2014-05-13 | Brain Corporation | Elementary network description for efficient memory management in neuromorphic systems |
US8719199B2 (en) | 2011-09-21 | 2014-05-06 | Brain Corporation | Systems and methods for providing a neural network having an elementary network description for efficient implementation of event-triggered plasticity rules |
US9104973B2 (en) | 2011-09-21 | 2015-08-11 | Qualcomm Technologies Inc. | Elementary network description for neuromorphic systems with plurality of doublets wherein doublet events rules are executed in parallel |
US8874498B2 (en) | 2011-09-16 | 2014-10-28 | International Business Machines Corporation | Unsupervised, supervised, and reinforced learning via spiking computation |
US8738554B2 (en) | 2011-09-16 | 2014-05-27 | International Business Machines Corporation | Event-driven universal neural network circuit |
US9117176B2 (en) | 2011-09-21 | 2015-08-25 | Qualcomm Technologies Inc. | Round-trip engineering apparatus and methods for neural networks |
US9156165B2 (en) | 2011-09-21 | 2015-10-13 | Brain Corporation | Adaptive critic apparatus and methods |
US8712939B2 (en) | 2011-09-21 | 2014-04-29 | Brain Corporation | Tag-based apparatus and methods for neural networks |
US9213937B2 (en) | 2011-09-21 | 2015-12-15 | Brain Corporation | Apparatus and methods for gating analog and spiking signals in artificial neural networks |
US9098811B2 (en) | 2012-06-04 | 2015-08-04 | Brain Corporation | Spiking neuron network apparatus and methods |
US10210452B2 (en) | 2011-09-21 | 2019-02-19 | Qualcomm Incorporated | High level neuromorphic network description apparatus and methods |
US9015092B2 (en) | 2012-06-04 | 2015-04-21 | Brain Corporation | Dynamically reconfigurable stochastic learning apparatus and methods |
US9104186B2 (en) | 2012-06-04 | 2015-08-11 | Brain Corporation | Stochastic apparatus and methods for implementing generalized learning rules |
US9146546B2 (en) | 2012-06-04 | 2015-09-29 | Brain Corporation | Systems and apparatus for implementing task-specific learning using spiking neurons |
US8626684B2 (en) | 2011-12-14 | 2014-01-07 | International Business Machines Corporation | Multi-modal neural network for universal, online learning |
US8799199B2 (en) | 2011-12-14 | 2014-08-05 | International Business Machines Corporation | Universal, online learning in multi-modal perception-action semilattices |
EP2825974A4 (en) * | 2012-03-15 | 2017-04-05 | Qualcomm Technologies, Inc. | Tag-based apparatus and methods for neural networks |
US9129221B2 (en) | 2012-05-07 | 2015-09-08 | Brain Corporation | Spiking neural network feedback apparatus and methods |
US9224090B2 (en) | 2012-05-07 | 2015-12-29 | Brain Corporation | Sensory input processing apparatus in a spiking neural network |
US9412041B1 (en) | 2012-06-29 | 2016-08-09 | Brain Corporation | Retinal apparatus and methods |
US9111215B2 (en) | 2012-07-03 | 2015-08-18 | Brain Corporation | Conditional plasticity spiking neuron network apparatus and methods |
US8977582B2 (en) | 2012-07-12 | 2015-03-10 | Brain Corporation | Spiking neuron network sensory processing apparatus and methods |
US9256215B2 (en) | 2012-07-27 | 2016-02-09 | Brain Corporation | Apparatus and methods for generalized state-dependent learning in spiking neuron networks |
US9256823B2 (en) | 2012-07-27 | 2016-02-09 | Qualcomm Technologies Inc. | Apparatus and methods for efficient updates in spiking neuron network |
US9440352B2 (en) | 2012-08-31 | 2016-09-13 | Qualcomm Technologies Inc. | Apparatus and methods for robotic learning |
US9186793B1 (en) | 2012-08-31 | 2015-11-17 | Brain Corporation | Apparatus and methods for controlling attention of a robot |
US9367798B2 (en) | 2012-09-20 | 2016-06-14 | Brain Corporation | Spiking neuron network adaptive control apparatus and methods |
US9311594B1 (en) | 2012-09-20 | 2016-04-12 | Brain Corporation | Spiking neuron network apparatus and methods for encoding of sensory data |
US8793205B1 (en) | 2012-09-20 | 2014-07-29 | Brain Corporation | Robotic learning and evolution apparatus |
US9189730B1 (en) | 2012-09-20 | 2015-11-17 | Brain Corporation | Modulated stochasticity spiking neuron network controller apparatus and methods |
US9082079B1 (en) | 2012-10-22 | 2015-07-14 | Brain Corporation | Proportional-integral-derivative controller effecting expansion kernels comprising a plurality of spiking neurons associated with a plurality of receptive fields |
US9218563B2 (en) | 2012-10-25 | 2015-12-22 | Brain Corporation | Spiking neuron sensory processing apparatus and methods for saliency detection |
US9183493B2 (en) | 2012-10-25 | 2015-11-10 | Brain Corporation | Adaptive plasticity apparatus and methods for spiking neuron network |
US9111226B2 (en) | 2012-10-25 | 2015-08-18 | Brain Corporation | Modulated plasticity apparatus and methods for spiking neuron network |
US9275326B2 (en) | 2012-11-30 | 2016-03-01 | Brain Corporation | Rate stabilization through plasticity in spiking neuron network |
US9904889B2 (en) | 2012-12-05 | 2018-02-27 | Applied Brain Research Inc. | Methods and systems for artificial cognition |
US9123127B2 (en) | 2012-12-10 | 2015-09-01 | Brain Corporation | Contrast enhancement spiking neuron network sensory processing apparatus and methods |
US9195934B1 (en) | 2013-01-31 | 2015-11-24 | Brain Corporation | Spiking neuron classifier apparatus and methods using conditionally independent subsets |
US9177245B2 (en) | 2013-02-08 | 2015-11-03 | Qualcomm Technologies Inc. | Spiking network apparatus and method with bimodal spike-timing dependent plasticity |
US9992021B1 (en) | 2013-03-14 | 2018-06-05 | GoTenna, Inc. | System and method for private and point-to-point communication between computing devices |
US9764468B2 (en) | 2013-03-15 | 2017-09-19 | Brain Corporation | Adaptive predictor apparatus and methods |
US8996177B2 (en) | 2013-03-15 | 2015-03-31 | Brain Corporation | Robotic training apparatus and methods |
US9008840B1 (en) | 2013-04-19 | 2015-04-14 | Brain Corporation | Apparatus and methods for reinforcement-guided supervised learning |
US9242372B2 (en) | 2013-05-31 | 2016-01-26 | Brain Corporation | Adaptive robotic interface apparatus and methods |
US9384443B2 (en) | 2013-06-14 | 2016-07-05 | Brain Corporation | Robotic training apparatus and methods |
US9314924B1 (en) * | 2013-06-14 | 2016-04-19 | Brain Corporation | Predictive robotic controller apparatus and methods |
US9792546B2 (en) | 2013-06-14 | 2017-10-17 | Brain Corporation | Hierarchical robotic controller apparatus and methods |
US9239985B2 (en) | 2013-06-19 | 2016-01-19 | Brain Corporation | Apparatus and methods for processing inputs in an artificial neuron network |
US9436909B2 (en) | 2013-06-19 | 2016-09-06 | Brain Corporation | Increased dynamic range artificial neuron network apparatus and methods |
CN103324879B (zh) * | 2013-07-05 | 2016-08-10 | 公安部第三研究所 | 移动设备基于人脸识别和智能卡的身份验证***及方法 |
US9552546B1 (en) | 2013-07-30 | 2017-01-24 | Brain Corporation | Apparatus and methods for efficacy balancing in a spiking neuron network |
US9296101B2 (en) | 2013-09-27 | 2016-03-29 | Brain Corporation | Robotic control arbitration apparatus and methods |
US9579789B2 (en) * | 2013-09-27 | 2017-02-28 | Brain Corporation | Apparatus and methods for training of robotic control arbitration |
US9489623B1 (en) | 2013-10-15 | 2016-11-08 | Brain Corporation | Apparatus and methods for backward propagation of errors in a spiking neuron network |
US9463571B2 (en) | 2013-11-01 | 2016-10-11 | Brian Corporation | Apparatus and methods for online training of robots |
US9597797B2 (en) | 2013-11-01 | 2017-03-21 | Brain Corporation | Apparatus and methods for haptic training of robots |
US9248569B2 (en) | 2013-11-22 | 2016-02-02 | Brain Corporation | Discrepancy detection apparatus and methods for machine learning |
US9358685B2 (en) | 2014-02-03 | 2016-06-07 | Brain Corporation | Apparatus and methods for control of robot actions based on corrective user inputs |
US9364950B2 (en) | 2014-03-13 | 2016-06-14 | Brain Corporation | Trainable modular robotic methods |
US9987743B2 (en) | 2014-03-13 | 2018-06-05 | Brain Corporation | Trainable modular robotic apparatus and methods |
US9533413B2 (en) | 2014-03-13 | 2017-01-03 | Brain Corporation | Trainable modular robotic apparatus and methods |
US9630317B2 (en) | 2014-04-03 | 2017-04-25 | Brain Corporation | Learning apparatus and methods for control of robotic devices via spoofing |
US9613308B2 (en) | 2014-04-03 | 2017-04-04 | Brain Corporation | Spoofing remote control apparatus and methods |
US9346167B2 (en) | 2014-04-29 | 2016-05-24 | Brain Corporation | Trainable convolutional network apparatus and methods for operating a robotic vehicle |
US10194163B2 (en) | 2014-05-22 | 2019-01-29 | Brain Corporation | Apparatus and methods for real time estimation of differential motion in live video |
US9713982B2 (en) | 2014-05-22 | 2017-07-25 | Brain Corporation | Apparatus and methods for robotic operation using video imagery |
US9939253B2 (en) | 2014-05-22 | 2018-04-10 | Brain Corporation | Apparatus and methods for distance estimation using multiple image sensors |
US9848112B2 (en) | 2014-07-01 | 2017-12-19 | Brain Corporation | Optical detection apparatus and methods |
US10057593B2 (en) | 2014-07-08 | 2018-08-21 | Brain Corporation | Apparatus and methods for distance estimation using stereo imagery |
US9821470B2 (en) | 2014-09-17 | 2017-11-21 | Brain Corporation | Apparatus and methods for context determination using real time sensor data |
US9860077B2 (en) | 2014-09-17 | 2018-01-02 | Brain Corporation | Home animation apparatus and methods |
US9849588B2 (en) | 2014-09-17 | 2017-12-26 | Brain Corporation | Apparatus and methods for remotely controlling robotic devices |
US9579790B2 (en) | 2014-09-17 | 2017-02-28 | Brain Corporation | Apparatus and methods for removal of learned behaviors in robots |
US9870617B2 (en) | 2014-09-19 | 2018-01-16 | Brain Corporation | Apparatus and methods for saliency detection based on color occurrence analysis |
US9630318B2 (en) | 2014-10-02 | 2017-04-25 | Brain Corporation | Feature detection apparatus and methods for training of robotic navigation |
US9881349B1 (en) | 2014-10-24 | 2018-01-30 | Gopro, Inc. | Apparatus and methods for computerized object identification |
US9426946B2 (en) | 2014-12-02 | 2016-08-30 | Brain Corporation | Computerized learning landscaping apparatus and methods |
US10360498B2 (en) * | 2014-12-18 | 2019-07-23 | Facebook, Inc. | Unsupervised training sets for content classification |
MX2017009879A (es) | 2015-01-28 | 2018-05-28 | Google Llc | Capas de normalizacion por lotes. |
GB2543429B (en) | 2015-02-19 | 2017-09-27 | Magic Pony Tech Ltd | Machine learning for visual processing |
US9717387B1 (en) | 2015-02-26 | 2017-08-01 | Brain Corporation | Apparatus and methods for programming and training of robotic household appliances |
EP3065086A1 (en) * | 2015-03-02 | 2016-09-07 | Medizinische Universität Wien | Computerized device and method for processing image data |
GB201603144D0 (en) | 2016-02-23 | 2016-04-06 | Magic Pony Technology Ltd | Training end-to-end video processes |
WO2016156864A1 (en) * | 2015-03-31 | 2016-10-06 | Magic Pony Technology Limited | Training end-to-end video processes |
GB201604672D0 (en) | 2016-03-18 | 2016-05-04 | Magic Pony Technology Ltd | Generative methods of super resolution |
CN104766062A (zh) * | 2015-04-07 | 2015-07-08 | 广西大学 | 基于轻量级智能终端的人脸识别***及注册、识别方法 |
EP3292536B1 (en) | 2015-05-05 | 2024-04-03 | RetInSight GmbH | Computerized device and method for processing image data |
US9840003B2 (en) | 2015-06-24 | 2017-12-12 | Brain Corporation | Apparatus and methods for safe navigation of robotic devices |
US10197664B2 (en) | 2015-07-20 | 2019-02-05 | Brain Corporation | Apparatus and methods for detection of objects using broadband signals |
US10068171B2 (en) * | 2015-11-12 | 2018-09-04 | Conduent Business Services, Llc | Multi-layer fusion in a convolutional neural network for image classification |
EP3441912A4 (en) * | 2016-04-06 | 2019-02-13 | Sony Corporation | INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING METHOD, AND INFORMATION PROVIDING METHOD |
WO2017178808A1 (en) | 2016-04-12 | 2017-10-19 | Magic Pony Technology Limited | Visual data processing using energy networks |
US10295972B2 (en) | 2016-04-29 | 2019-05-21 | Brain Corporation | Systems and methods to operate controllable devices with gestures and/or noises |
GB201607994D0 (en) | 2016-05-06 | 2016-06-22 | Magic Pony Technology Ltd | Encoder pre-analyser |
US10475214B2 (en) * | 2017-04-05 | 2019-11-12 | General Electric Company | Tomographic reconstruction based on deep learning |
CN107087161B (zh) * | 2017-04-28 | 2019-05-03 | 南京邮电大学 | 视频业务中基于多层神经网络的用户体验质量的预测方法 |
US10140421B1 (en) | 2017-05-25 | 2018-11-27 | Enlitic, Inc. | Medical scan annotator system |
CN111602149B (zh) * | 2018-01-30 | 2024-04-02 | D5Ai有限责任公司 | 自组织偏序网络 |
US10902302B2 (en) | 2018-04-23 | 2021-01-26 | International Business Machines Corporation | Stacked neural network framework in the internet of things |
CN108803506A (zh) * | 2018-05-22 | 2018-11-13 | 广东美的智能机器人有限公司 | 生产线工件识别方法、服务器及终端 |
US11011257B2 (en) | 2018-11-21 | 2021-05-18 | Enlitic, Inc. | Multi-label heat map display system |
US11457871B2 (en) | 2018-11-21 | 2022-10-04 | Enlitic, Inc. | Medical scan artifact detection system and methods for use therewith |
US11145059B2 (en) | 2018-11-21 | 2021-10-12 | Enlitic, Inc. | Medical scan viewing system with enhanced training and methods for use therewith |
US11282198B2 (en) | 2018-11-21 | 2022-03-22 | Enlitic, Inc. | Heat map generating system and methods for use therewith |
CN110084836B (zh) * | 2019-04-26 | 2022-03-04 | 西安电子科技大学 | 基于深度卷积特征分层响应融合的目标跟踪方法 |
US11481635B2 (en) * | 2019-05-01 | 2022-10-25 | Massachusetts Institute Of Technology | Methods and apparatus for reducing leakage in distributed deep learning |
US11055568B2 (en) * | 2019-07-10 | 2021-07-06 | Vmware, Inc. | Method and system that measure application response time |
US11462315B2 (en) | 2019-11-26 | 2022-10-04 | Enlitic, Inc. | Medical scan co-registration and methods for use therewith |
US11669678B2 (en) | 2021-02-11 | 2023-06-06 | Enlitic, Inc. | System with report analysis and methods for use therewith |
CN112580615B (zh) * | 2021-02-26 | 2021-06-18 | 北京远鉴信息技术有限公司 | 一种活体的认证方法、认证装置及电子设备 |
JP2022135392A (ja) * | 2021-03-05 | 2022-09-15 | コニカミノルタ株式会社 | 医用情報管理装置、医用情報管理方法および医用情報管理プログラム |
US20220303159A1 (en) * | 2021-03-18 | 2022-09-22 | San Diego State University (SDSU) Foundation, dba San Diego State University Research Foundation | Systems and methods for optimization and estimation of nonlinear mimo systems with deep neural networks |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03288258A (ja) * | 1990-04-04 | 1991-12-18 | Takayama:Kk | データ処理装置の学習方法 |
JPH05197821A (ja) * | 1991-11-11 | 1993-08-06 | Omron Corp | 階層型ニューラルネットの最適化方法及び装置 |
JPH05257917A (ja) * | 1992-01-13 | 1993-10-08 | Nec Corp | 神経回路網及びそのパターン認識装置 |
JPH0764943A (ja) * | 1993-08-23 | 1995-03-10 | Advantest Corp | 階層型ニューラルネットワークの学習方法 |
JPH0883261A (ja) * | 1994-09-13 | 1996-03-26 | Toshiba Corp | ニューロ演算装置 |
JPH08115386A (ja) * | 1994-10-19 | 1996-05-07 | Hitachi Ltd | パターン認識装置 |
JPH08166934A (ja) * | 1994-12-13 | 1996-06-25 | Hitachi Ltd | ニューラルネットワークを用いた関数生成装置 |
JP2001344590A (ja) * | 2000-05-31 | 2001-12-14 | Fuji Electric Co Ltd | ニューラルネットワーク及びその学習方法、解析方法並びに異常判定方法 |
JP2002324226A (ja) * | 2001-04-25 | 2002-11-08 | Fuji Electric Co Ltd | ニューロシステム及びその構築方法 |
JP2003296737A (ja) * | 2002-03-15 | 2003-10-17 | Microsoft Corp | パターン認識を容易にするシステムおよび方法 |
Family Cites Families (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5333239A (en) * | 1988-09-12 | 1994-07-26 | Fujitsu Limited | Learning process system for use with a neural network structure data processing apparatus |
US5086479A (en) * | 1989-06-30 | 1992-02-04 | Hitachi, Ltd. | Information processing system using neural network learning function |
JP2780454B2 (ja) | 1990-07-26 | 1998-07-30 | 日本電気株式会社 | 追記学習型パターン認識装置 |
US5226092A (en) * | 1991-06-28 | 1993-07-06 | Digital Equipment Corporation | Method and apparatus for learning in a neural network |
US5293456A (en) * | 1991-06-28 | 1994-03-08 | E. I. Du Pont De Nemours And Company | Object recognition system employing a sparse comparison neural network |
WO1993003443A1 (en) * | 1991-08-05 | 1993-02-18 | Kawasaki Steel Corporation | Signal processor and learning method thereof |
FR2681709B1 (fr) * | 1991-09-20 | 1993-11-05 | Thomson Csf | Procede de connexion interne pour reseaux de neurones. |
US6894639B1 (en) * | 1991-12-18 | 2005-05-17 | Raytheon Company | Generalized hebbian learning for principal component analysis and automatic target recognition, systems and method |
JPH05274455A (ja) | 1992-03-27 | 1993-10-22 | Toshiba Corp | ニューラルネットワーク装置 |
JP2779119B2 (ja) | 1992-10-06 | 1998-07-23 | 松下電器産業株式会社 | 学習認識装置 |
JPH0962648A (ja) | 1995-08-22 | 1997-03-07 | Mitsubishi Electric Corp | パターン認識装置 |
JP3303253B2 (ja) | 1995-11-14 | 2002-07-15 | 三井造船株式会社 | パターンマッチング方法および装置 |
US6038337A (en) * | 1996-03-29 | 2000-03-14 | Nec Research Institute, Inc. | Method and apparatus for object recognition |
US6128606A (en) * | 1997-03-11 | 2000-10-03 | At&T Corporation | Module for constructing trainable modular network in which each module inputs and outputs data structured as a graph |
US6269351B1 (en) * | 1999-03-31 | 2001-07-31 | Dryken Technologies, Inc. | Method and system for training an artificial neural network |
US6650779B2 (en) * | 1999-03-26 | 2003-11-18 | Georgia Tech Research Corp. | Method and apparatus for analyzing an image to detect and identify patterns |
US7054850B2 (en) * | 2000-06-16 | 2006-05-30 | Canon Kabushiki Kaisha | Apparatus and method for detecting or recognizing pattern by employing a plurality of feature detecting elements |
JP2002042107A (ja) | 2000-07-31 | 2002-02-08 | Fuji Electric Co Ltd | ニューラルネットワークの学習方法 |
DE60130742T2 (de) * | 2001-05-28 | 2008-07-17 | Honda Research Institute Europe Gmbh | Mustererkennung mit hierarchischen Netzen |
US7007002B2 (en) * | 2001-05-31 | 2006-02-28 | Canon Kabushiki Kaisha | Signal processing circuit involving local synchronous behavior |
US7082394B2 (en) * | 2002-06-25 | 2006-07-25 | Microsoft Corporation | Noise-robust feature extraction using multi-layer principal component analysis |
AU2003289116A1 (en) * | 2002-12-16 | 2004-07-09 | Canon Kabushiki Kaisha | Pattern identification method, device thereof, and program thereof |
-
2004
- 2004-06-11 JP JP2004174601A patent/JP2005352900A/ja active Pending
-
2005
- 2005-06-10 US US11/149,698 patent/US7676441B2/en not_active Expired - Fee Related
-
2010
- 2010-01-29 US US12/696,993 patent/US8015130B2/en active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03288258A (ja) * | 1990-04-04 | 1991-12-18 | Takayama:Kk | データ処理装置の学習方法 |
JPH05197821A (ja) * | 1991-11-11 | 1993-08-06 | Omron Corp | 階層型ニューラルネットの最適化方法及び装置 |
JPH05257917A (ja) * | 1992-01-13 | 1993-10-08 | Nec Corp | 神経回路網及びそのパターン認識装置 |
JPH0764943A (ja) * | 1993-08-23 | 1995-03-10 | Advantest Corp | 階層型ニューラルネットワークの学習方法 |
JPH0883261A (ja) * | 1994-09-13 | 1996-03-26 | Toshiba Corp | ニューロ演算装置 |
JPH08115386A (ja) * | 1994-10-19 | 1996-05-07 | Hitachi Ltd | パターン認識装置 |
JPH08166934A (ja) * | 1994-12-13 | 1996-06-25 | Hitachi Ltd | ニューラルネットワークを用いた関数生成装置 |
JP2001344590A (ja) * | 2000-05-31 | 2001-12-14 | Fuji Electric Co Ltd | ニューラルネットワーク及びその学習方法、解析方法並びに異常判定方法 |
JP2002324226A (ja) * | 2001-04-25 | 2002-11-08 | Fuji Electric Co Ltd | ニューロシステム及びその構築方法 |
JP2003296737A (ja) * | 2002-03-15 | 2003-10-17 | Microsoft Corp | パターン認識を容易にするシステムおよび方法 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011013720A (ja) * | 2009-06-30 | 2011-01-20 | Jfe Steel Corp | カテゴリ判定ルールの作成方法、装置およびコンピュータプログラム |
JP2014095678A (ja) * | 2012-11-12 | 2014-05-22 | Institute Of Physical & Chemical Research | 情報処理装置、情報処理プログラム |
JP2018532441A (ja) * | 2015-08-04 | 2018-11-08 | シーメンス アクティエンゲゼルシャフト | 脳腫瘍を分類するための視覚表現学習 |
JP2018010626A (ja) * | 2016-06-30 | 2018-01-18 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
CN108241888A (zh) * | 2016-12-27 | 2018-07-03 | 电装 It 研究所 | 信息估计装置和信息估计方法 |
Also Published As
Publication number | Publication date |
---|---|
US8015130B2 (en) | 2011-09-06 |
US20100121798A1 (en) | 2010-05-13 |
US20050283450A1 (en) | 2005-12-22 |
US7676441B2 (en) | 2010-03-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2005352900A (ja) | 情報処理装置、情報処理方法、パターン認識装置、及びパターン認識方法 | |
JP4532915B2 (ja) | パターン認識用学習方法、パターン認識用学習装置、画像入力装置、コンピュータプログラム、及びコンピュータ読み取り可能な記録媒体 | |
US10002313B2 (en) | Deeply learned convolutional neural networks (CNNS) for object localization and classification | |
Kumar et al. | Object detection system based on convolution neural networks using single shot multi-box detector | |
Tavanaei et al. | Multi-layer unsupervised learning in a spiking convolutional neural network | |
Alani et al. | Hand gesture recognition using an adapted convolutional neural network with data augmentation | |
JP4083469B2 (ja) | 階層ネットワークを用いたパターン認識方法 | |
Bodapati et al. | Feature extraction and classification using deep convolutional neural networks | |
Pavani et al. | Haar-like features with optimally weighted rectangles for rapid object detection | |
CN109840531A (zh) | 训练多标签分类模型的方法和装置 | |
JP2008536211A (ja) | ニューラルネットワークを実現するオブジェクトイメージにおいて興味のあるポイントを位置決めするシステム及び方法 | |
US11443514B2 (en) | Recognizing minutes-long activities in videos | |
US20180082179A1 (en) | Systems and methods for deep learning with small training sets | |
CN112307982A (zh) | 基于交错增强注意力网络的人体行为识别方法 | |
He et al. | Improving object detection with relation graph inference | |
CN112883941A (zh) | 一种基于并行神经网络的人脸表情识别方法 | |
Bischof | Pyramidal neural networks | |
KR102127946B1 (ko) | 사람 재식별 장치 및 방법 | |
JP4510237B2 (ja) | パターン検出装置及び方法、画像処理装置及び方法 | |
US11526757B2 (en) | Systems and methods for deep learning with small training sets | |
JP4314017B2 (ja) | 階層処理装置 | |
JP4532678B2 (ja) | パターン検出装置及び方法、画像処理装置及び方法、ニューラルネットワーク装置 | |
Lin et al. | Ml-capsnet meets vb-di-d: A novel distortion-tolerant baseline for perturbed object recognition | |
CN113435315A (zh) | 一种基于双路神经网络特征聚合的表情识别方法 | |
EP4058940A1 (en) | Permutation invariant convolution (pic) for recognizing long-range activities |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070611 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070611 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20070611 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101004 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20101203 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20101224 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110221 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20110708 |