JP6829700B2

JP6829700B2 - 光信号処理装置

Info

Publication number: JP6829700B2
Application number: JP2018037580A
Authority: JP
Inventors: 光雅中島; 橋本　俊和; 俊和橋本
Original assignee: Nippon Telegraph and Telephone Corp
Current assignee: Nippon Telegraph and Telephone Corp
Priority date: 2018-03-02
Filing date: 2018-03-02
Publication date: 2021-02-10
Anticipated expiration: 2038-03-02
Also published as: US11982884B2; JP2019153058A; US20200363660A1; WO2019167953A1

Description

本発明は、本発明は、リザーバコンピューティングの高速化を可能とする光信号処理装置に関する。

脳の情報処理をモデルにしたニューラルネットワーク（Ｎｅｕｒａｌｎｅｔｗｏｒｋ，ＮＮ）による機械学習に注目が集まっている。ＮＮは非線形応答をする多数のニューロンがシナプスによって結合される大規模な非線形ネットワークであり、特にニューロンを多層状に配置した階層型ＮＮによるディープ・ラーニングが広く応用されている。一般的に、ＮＮで時系列データを取り扱うためには、過去の情報を参照可能な再帰的なネットワーク構造が必要となる。このようなＮＮはリカレントニューラルネットワーク（Ｒｅｃｕｒｒｅｎｔｎｅｕｒａｌｎｅｔｗｏｒｋ，ＲＮＮ）と呼ばれ、一般的には階層型ＮＮの層間にフィードバック結合を有するようなネットワーク構成が利用される。ＲＮＮは、音声認識やセンシングデータなどをはじめとする時系列データの学習・処理に広く応用されているが、層数やニューロン数の増加に伴ってシナプスの結合が爆発的に増加するために計算に時間を要することが欠点である。

近年、このような課題を解く手法として小脳の情報処理をモデルとしたリザーバコンピューティング（Ｒｅｓｅｒｖｏｉｒｃｏｍｐｕｔｉｎｇ，ＲＣ）と呼ばれる光コンピューティング技術が提案されている（非特許文献１参照）。

図１に、一般的なＲＣ回路の概略構成を示す。本構成は、入力信号が各々のニューロンに結合する入力層１０１、各ニューロンが相互に結合する中間層１０２、各ニューロンの信号を和算し出力する出力層１０３からなる。入力層１０１に入力信号ｕ（ｎ）を入れた場合、出力層１０３からの出力信号ｙ（ｎ）は以下の式（１）、（２）で決定される。

尚、Ｎはニューロンの数、ｘ_ｉ（ｎ）は時間ステップｎでのｉ番目のニューロンの状態であり、Ω_ｉｊはニューロン間の相互結合を表す係数、ｍ_ｉは入力信号のニューロンへの結合を表す係数、ω_ｉは各ニューロンから出力への結合強度を表す係数である。また、ｆ（・）は各ニューロンでの非線形応答を表し、ｔａｎｈ（・）などが頻繁に用いられる。

ＲＣと一般的なＲＮＮとの大きな違いは、入力層１０１と中間層１０２のネットワークを固定とし、学習に用いる変数を出力層１０３の重み係数、すなわち各ニューロンから出力への結合強度ω_ｉのみとしている点である。本方式は、学習すべき変数を大幅に削減できるため、データが膨大かつ高速な処理を要する時系列学習に対して大きなアドバンテージを有する。

また、本方式は過去の情報の保存方法の観点でも利点がある。ＲＣに何らかの信号を入力すると、その信号は中間層１０２に存在するニューロンの間をしばらくの間漂い続ける。これは、ＲＣが短期的な記憶能力や相互に情報を交換する能力をそれ自体が保持していることを意味している。そのため、一般的なＲＮＮのように以前の時間ステップの信号を外部メモリに保存し、メモリに保存されたデータを再参照するという動作が不要となる。

ＲＣが注目を集めたのは、図２のような時間遅延を利用した簡易な実装形態が報告されたためである（非特許文献１）。この方式では、時間遅延を有する非線形素子を用いて、遅延時間内のループをある一定の間隔で区切り、遅延線上の各点の瞬時的な光強度をネットワークの仮想的なノード状態とみなすことで仮想的なネットワークを構成している。従って、これまでのＮＮのように多数の非線形素子に対して光配線を行う必要がなく、単一の光遅延線と非線形素子のみでＲＣのネットワークが実装できるという点で優れている。

D. Brunner et al, "Parallel photonic information processing at gigabyte per second data rates using transient states", Nature Communications 4, Article number: 1364 (2013)

しかしながら、従来の光実装方式では、式（２）におけるマスク関数ｍ_ｉの生成を電気領域で行っており、この処理がＲＣとしての信号処理速度のボトルネックとなっていた。

本発明は、このような課題に鑑みてなされたもので、その目的とするところは、光領域でマスク関数を生成することで高速なＲＣ処理を可能とする光信号処理装置を提供することにある。

上記の課題を解決するために、本発明の一実施形態は、光信号処理装置であって、光信号を発生する光源と、前記光信号の強度および位相の少なくとも一方を第１の変調周期で変調することで入力信号を発生させる第１の光変調手段と、前記入力信号の強度および位相の少なくとも一方を前記第１の変調周期よりも短い第２の変調周期で変調する第２の光変調手段と、前記変調された入力信号が所定の遅延長で周回する光周回部と、前記光周回部に前記変調された入力信号を合流させる光合波手段と、前記光周回部を周回する光信号に非線形性を付与する非線形応答素子と、前記光周回部を周回する光信号を変調する可変光変調手段と、前記光周回部を周回する光信号の一部を分岐する光分岐手段と、前記光分岐手段から出力された分岐光を復調して中間信号を得る光受信手段と、前記中間信号を任意の結合荷重で重み付けして和をとることで出力信号を得る信号処理回路と、を備え、前記信号処理回路は、前記出力信号と教師信号との誤差が小さくなるように、前記結合荷重を変更することを特徴とする。

別の実施形態では、前記第２の光変調手段は、有限インパルス応答フィルタであることを特徴とする。

別の実施形態では、前記第２の光変調手段は、前記入力信号をＮ分岐（Ｎは２以上の整数）する第２の光分岐手段と、前記第２の光分岐手段のＮ分岐の各々に接続された遅延長の異なるＮ本の遅延線と、前記Ｎ本の遅延線を通過する光信号の強度または位相を個別に制御する制御手段と、前記制御手段によって制御された光信号を再び合流する光合波手段と、を備えたことを特徴とする。

別の実施形態では、前記第２の光変調手段および前記光周回部の少なくとも一方は光導波路構造を有することを特徴とする。

別の実施形態では、前記所定の遅延長は、前記第２の変調周期の１０倍以上であることを特徴とする。

本発明は、光領域でマスク関数を生成することで電気領域での処理を減らし、高速なＲＣ処理を可能とする。

一般的なＲＣ回路の概略構成を示す図である。本発明の一実施形態に係る光信号処理装置の構成を示す図である。光ＦＩＲフィルタ部の一構成例を示す図である。光ＦＩＲフィルタ部の他の構成例を示す図である。基板上に形成された光導波路による可変光フィルタの構成例を示す図である。マスク処理を行わない場合の教師信号、学習後の出力信号の一例を示す図である。マスク処理を行った場合の教師信号、学習後の出力信号の一例を示す図である。

以下、本発明の実施の形態について、詳細に説明する。

図２に、本発明の一実施形態に係る光信号処理装置の構成を示す。レーザ光源２１１より出射された光は、光変調器２１２により光電界の強度値、位相値のいずれかまたは両方が変調周期Ｔ_１で変調されて入力信号ｕ（ｔ）となり、光有限インパルス応答（Ｆｉｎｉｔｅｉｍｐｕｌｓｅｒｅｓｐｏｎｓｅ，ＦＩＲ）フィルタ部２１３に導入される。入力信号ｕ（ｔ）は、光ＦＩＲフィルタ部２１３でマスク関数に相当する項を乗算されて重み付けされ、変調された入力信号ｕ’（ｔ）に変換される。変調された入力信号ｕ’（ｔ）は、光伝送路２１０を通過し、光カプラ２１４を介して可変減衰器２１６と非線形応答素子２１７が装荷された光周回回路２１５に入力される。尚、光変調器２１２は、例えばマッハツェンダー干渉系のような光の位相や強度を干渉アームに印加する電圧または電流で制御する光回路と、入力電気信号を生成し、光回路を駆動するための電気回路とを備えたものとする。

周回する光信号の一部は光カプラ２１８によって分岐され、一方の分岐光は可変減衰器２１６を介して光カプラ２１４に導入されて光周回部２１５を周回し、他方の分岐光は光受信器２１９にて電気信号の中間信号ｘ（ｔ）に変換される。この光受信器２１９から出力される中間信号ｘ（ｔ）に対して電気信号処理回路２２０にて式（２）の演算を行うことでＲＣとしての動作を行うことができる。

光ＦＩＲフィルタ部２１３は、例えば図３、４に示すような、遅延線と減衰器群２３１、２３１’、位相シフタ群２３２、２３２’で構成されており、各アームの減衰と位相シフトによって光に対して重み付けを行う。入力信号ｕ（ｔ）は、この作用によりマスク関数に相当する項を乗算され、変調された入力信号ｕ’（ｔ）へ変換される。

図５に、光ＦＩＲフィルタ部２１３の具体的な実装例として、基板上に形成された光導波路による可変光フィルタの構成例を示す。本素子では、１：Ｎ分岐した光スプリッタ５１１の各端に遅延量がｄｔずつ異なるＮ本の遅延線かなる遅延線群５１２が接続されており、各遅延線にはＮ個の可変光減衰器（ＶＯＡ）からなるＶＯＡ群５１３及びＮ個の位相シフタからなる位相シフタ群５１４が装荷されている。これらの素子により入力光は各時間信号に対して重み付けされ、その後に光カプラ５１５によって合波される。これにより図３で示した光ＦＩＲフィルタ２１３と等価な動作が可能である。

ここでは、光導波路を用いて光ＦＩＲフィルタ２１３を形成する場合について述べたが、空間光学系を用いても図３と等価な構成が得られる。この場合は、ＶＯＡ群５１３、位相シフタ群５１４に当たる部分を空間光変調器（ＳＬＭ）やＭＥＭＳミラーを用いて実装することができる。

光伝送路２１０、光周回部２１５には、例えば光ファイバや光導波路が利用できる。また、非線形応答素子２１７は、半導体光アンプ（Ｓｅｍｉｃｏｎｄｕｃｔｏｒｏｐｔｉｃａｌａｍｐｌｉｆｉｅｒ，ＳＯＡ）をはじめとする光アンプなどが利用できる。

ここで、光ＦＩＲフィルタ部２１３で変調された入力信号ｕ’（ｔ）について説明する。変調された入力信号ｕ’（ｔ）は以下の式で記述される。

ｍ_ｉは、図３、４に示す光ＦＩＲフィルタ部２１３を構成するｉ番目のアームで生成される重みに対応したマスク関数、Ｔ_２は遅延タップの遅延時間、Ｋは遅延タップ数である。重みｍ_ｉはいかなる値をとっても良いが、より優れた学習性能を引き出すためには、多様な値をとることが好ましく、例えば種々の疑似乱数生成アルゴリズムによって生成する。ここで、遅延時間Ｔ_２は遅延線の長さによって調整可能であるため任意の微小な値を設定できる。従って、電気の回路の処理では実現困難な高速な信号処理が可能となる。

学習の汎化性能は、中間信号ｘ（ｔ）の応答の多様性で決定されるが、このためには光周回部２１５の周回長Ｔ_３は、Ｔ_２＜＜Ｔ_３の関係性を満たすように設定されることが望ましい。より具体的には、Ｔ_３≧１０Ｔ_２に設定されることが望ましい。光受信器２１９で得られる中間信号ｘ（ｔ）は、以下の発展方程式の解として与えられる。

ただし、αはそれぞれ非線形素子２１７の利得と光減衰器２１６の減衰量の積、β、γは光カプラ２１４、２１８の分岐損失である。ここで、単純化のためにＴ_３＝Ｔ_１と置き、中間信号ｘ（ｔ）をサンプリング時間Ｔ_１で離散化した時間で記述すると以下のようになる。ここで、単純化のために信号処理装置２２０においてサンプリング時間Ｔ_１を周回長Ｔ_３と等しくする、すなわちＴ_３＝Ｔ_１と置き、中間信号ｘ（ｔ）をサンプリング時間Ｔ_１で離散化した時間で記述すると以下のようになる。

ただし、ｎは離散化されたタイムステップを表す。添え字のｉは、サンプリング時間Ｔ_１内の信号を遅延タップの遅延時間Ｔ_２で更に区切った信号の応答のｉ番目であることを意味する。ｉは上述の関係から、１からＮ＝Ｔ_２／Ｔ_３の範囲を取る。式（５）のダイナミクスは、式（１）との比較から、相互結合行列の成分Ω_ｉｊの対角成分の総和がαとなる対角行列、ニューロン数がＮである場合のリザーバコンピューティングのダイナミクスに相当する。変調された入力信号ｕ_ｉ’（ｎ）は式（１）を離散化して得られるダイナミクスであり、光ＦＩＲフィルタ２１３における重み付けによってマスク関数ｍ_ｉと同様の処理を与えられている。すなわち、電気信号処理回路２２０にて式（２）の演算を行うことでＲＣとしての動作を行うことが出来る。信号処理装置２２０は、アナログ入力をディジタル値に変換するＡ／Ｄ変換機能を有していてもよく、Ａ／Ｄ変換機能を有する場合、ディジタル領域で信号演算を行っても良い。

このように本発明は、マスク関数ｍ_ｉの演算を光領域で行う光ＦＩＲフィルタ部２１３を備えるため、高速でリザーバコンピューティングの処理が行える。

（学習の方法）
ＲＣにおいては、学習すべき変数はω_ｊのみであり、その決定方法についてもいくつか手法がある。ここでは例として式（６）で記述される最急降下法について説明するが、本発明の効果は学習のアルゴリズム依らず得られるものであり、これに限定されない。

ここでｄ（ｎ）は教師値、ｋは傾き方向へどれだけ移動するかを決定する係数である。本手法は、付近のローカルミニマムに向かってエネルギー（学習値との誤差）を低下させているに過ぎないので、このままでは大的探索は困難である。大域極小解に対して近似を与える手法としては、アニール法などがある。これについても諸々の手法が提案されているが、例えば、ｑを時間ステップｎに対する関数として、

などのように与えればよい。ただし、ｋ_ｍｉｎ，ｈは定数である。

（学習例）
本発明による学習例としてカオス時系列データの予測学習を示す。非線形時系列予測のベンチマークとして標準的に用いられるＳａｎｔａ−Ｆｅカオス時系列の予測を行い、ｙ（ｎ）の入力を行った際にｙ（ｎ＋１）の信号をどれだけ再現できるかについて検討する。図２に示す本発明の実施形態に係る光信号処理装置の光学系をシミュレーション上で再現し、Ｓａｎｔａ−Ｆｅカオス時系列の出力が近似出来るかについて計算を行った。入力にはＳａｎｔｅ−Ｆｅ時系列のｎ番目の応答ｙ（ｎ）与え、ｙ（ｎ＋１）を予想対象の出力として計算を行った。このとき、周回時間Ｔ_３はＴ_３＝Ｔ_１＝ＮＴ_２とした。非線形素子２１７にはＳＯＡを用いている。

学習すべき出力層の重みベクトルω_ｉの初期値は全て１とした。また、ネットワークの中間層における相互結合行列の成分Ω_ｉｊを決定する定数であるαは１．２を選択した。αが増すとリザーバを構成するダイナミクスはカオス性を示すようになるが、α＝１．２はリザーバネットワークがカオス性を示さない範囲で最大となるように設定している。このように設定することで、リザーバネットワークの記憶容量が増大し、Ｓａｎｔａ−Ｆｅのような複雑なダイナミクスへの学習性能が向上するといった優れた機能を発現する。学習はＬＳＭ法を用いて実施した。１０００シンボルの教師信号を学習させたのちに、１０００シンボルの予測を行った。

図６（ａ）〜（ｄ）に、マスク処理を行わない場合の教師信号、学習後の出力信号の一例を示す。また図７（ａ）〜（ｄ）に、マスク処理を行った場合の教師信号、学習後の出力信号の一例を示す。ただし、学習はノード数Ｎ＝５０，１００，３００，５００の条件で実施している。

図６（ａ）〜（ｄ）は、参考として、式（３）での遅延タップ数Ｋが０の場合、すなわちマスク処理を行わない場合の結果を示している。図から、ノード数を増しても学習が行えていないことが分かる。

図７（ａ）〜（ｄ）は、遅延タップ数Ｋ＝Ｎ／２のように設定した場合の学習結果を示しており、学習後の出力信号の波形は教師信号の波形に良い近似を与えており、式（３）のマスク手法の有効性が分かる。

１００ＲＣ回路
１０１入力層
１０２中間層
１０３出力層
２００光信号処理装置
２１０光伝送路
２１１レーザ光源
２１２光変調器
２１３光ＦＩＲフィルタ部
２１４、２１８光カプラ
２１５光周回部
２１６可変減衰器
２１７非線形応答素子
２１９光受信器
２２０電気信号処理回路
２３１減衰器群
２３２位相シフタ群
５１１光スプリッタ
５１２遅延線群
５１３ＶＯＡ群
５１４位相シフタ群
５１５光カプラ

Claims

光信号を発生する光源と、
前記光信号の強度および位相の少なくとも一方を第１の変調周期で変調することで入力信号を発生させる第１の光変調手段と、
前記入力信号の強度および位相の少なくとも一方を前記第１の変調周期よりも短い第２の変調周期で変調する第２の光変調手段と、
前記変調された入力信号が所定の遅延長で周回する光周回部と、
前記光周回部に前記変調された入力信号を合流させる光合波手段と、
前記光周回部を周回する光信号に非線形性を付与する非線形応答素子と、
前記光周回部を周回する光信号を変調する可変光変調手段と、
前記光周回部を周回する光信号の一部を分岐する光分岐手段と、
前記光分岐手段から出力された分岐光を復調して中間信号を得る光受信手段と、
前記中間信号を任意の結合荷重で重み付けして和をとることで出力信号を得る信号処理回路と、
を備え、前記信号処理回路は、前記出力信号と教師信号との誤差が小さくなるように、前記結合荷重を変更することを特徴とする光信号処理装置。
前記第２の光変調手段は、有限インパルス応答フィルタであることを特徴とする請求項１記載の光信号処理装置。
前記第２の光変調手段は、
前記入力信号をＮ分岐（Ｎは２以上の整数）する第２の光分岐手段と、
前記第２の光分岐手段のＮ分岐の各々に接続された遅延長の異なるＮ本の遅延線と、
前記Ｎ本の遅延線を通過する光信号の強度または位相を個別に制御する制御手段と、
前記制御手段によって制御された光信号を再び合流する光合波手段と、
を備えたことを特徴とする請求項２に記載の光信号処理装置。
前記第２の光変調手段および前記光周回部の少なくとも一方は光導波路構造を有することを特徴とする請求項１乃至３のいずれかに記載の光信号処理装置。
前記所定の遅延長は、前記第２の変調周期の１０倍以上であることを特徴とする請求項１乃至４のいずれかに記載の光信号処理装置。