JP2021145875A - 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム - Google Patents

情報処理装置、情報処理方法、プログラムおよび生体信号計測システム Download PDF

Info

Publication number
JP2021145875A
JP2021145875A JP2020048468A JP2020048468A JP2021145875A JP 2021145875 A JP2021145875 A JP 2021145875A JP 2020048468 A JP2020048468 A JP 2020048468A JP 2020048468 A JP2020048468 A JP 2020048468A JP 2021145875 A JP2021145875 A JP 2021145875A
Authority
JP
Japan
Prior art keywords
display control
control unit
cutout
brain
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020048468A
Other languages
English (en)
Inventor
道成 篠原
Michinari Shinohara
道成 篠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2020048468A priority Critical patent/JP2021145875A/ja
Publication of JP2021145875A publication Critical patent/JP2021145875A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Generation (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】着目する部位または領域の近傍の内部状態を把握するために、当該部位または領域に基づいたカットアウト表示を行うことができる情報処理装置、情報処理方法、プログラムおよび生体信号計測システムを提供する。【解決手段】特定の発信源から生体波形に基づく、時間、周波数および3次元空間の位置の5次元についての生体信号の強度のうち、少なくとも3次元空間の位置の生体信号の強度分布を発信源の3次元形状の画像にオブジェクトとして重畳して表示させる第1表示制御部と、オブジェクトの位置に基づく点をカットアウト中心として、3次元形状の一部をカットアウトする第2表示制御部と、を備える。【選択図】図40

Description

本発明は、情報処理装置、情報処理方法、プログラムおよび生体信号計測システムに関する。
脳外科手術等を行うためには、切除対象となる脳の疾患部位であるターゲット部位と、切除せずに温存すべき温存部位とを特定することが必要となる。温存部位としては、視覚野、聴覚野、体性感覚野、運動野および言語野等がある。これらの温存部位を誤って切除してしまうと、人間の感覚および運動等が害されることになるので、脳外科手術等に際してのターゲット部位および温存部位の特定は非常に重要である。このような脳外科手術等のために、事前に脳の活動を調べるためには脳磁計、脳波計、fMRI(functional Magnetic Resonance Imaging)、またはfNIRS(functional Near−Infrared Spectroscopy)等を用いて脳内の物理現象を計測する。このうち、fMRIおよびfNIRSは、脳内を流れる血流を測定して生体信号を得るものであるが、血流という性質上、脳の活動を計測するのに精度的に制限がある。一方、脳磁計および脳波計は、脳内の電気的活動、および電気的活動により生じる磁場を測定して波形(生体波形)として生体信号を測定できる。
しかし、測定された生体信号を波形のままで表示させても、脳内の温存部位を特定することはできない。そこで、技術の進歩により、脳内の活動を波形ではなく、波形の情報から脳内の発火位置(生体信号の発生源(信号源)の位置)を特定し、MRI(Magnetic Resonance Imaging)等で計測された脳の形状を示す図に重畳して表示する技術が提案されてきている。これによって、脳のどの部位で生体信号が発生しているのかが一目瞭然となり、診断を容易としている。ここで、発火(fire)とは、脳内のニューロンが他のニューロンからの刺激を受けて活動することをいう。ただし、脳の形状を示す図に生体信号の強度の分布等を重畳させても、脳の内部の状態および活動状態を把握することができない。
これに対応する技術として、任意に選択した脳の位置、または、生体信号の強度のピーク位置を中心として3次元方向の一部の領域をカット(以下、カットアウトと称する場合がある)して、そのカットした領域の表示を消去して、脳の内部の状態を表示する技術が開示されている(例えば特許文献1)。
しかしながら、特許文献1に記載された技術は、任意に選択した脳の位置、または、生体信号の強度のピーク位置を中心としたカットアウトとの記載はあるものの、医師等が着目する部位または領域に基づいてカットアウト表示を行うものではない。
本発明は、上記に鑑みてなされたものであって、着目する部位または領域の近傍の内部状態を把握するために、当該部位または領域に基づいたカットアウト表示を行うことができる情報処理装置、情報処理方法、プログラムおよび生体信号計測システムを提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、特定の発信源から生体波形に基づく、時間、周波数および3次元空間の位置の5次元についての生体信号の強度のうち、少なくとも3次元空間の位置の前記生体信号の強度分布を前記発信源の3次元形状の画像にオブジェクトとして重畳して表示させる第1表示制御部と、前記オブジェクトの位置に基づく点をカットアウト中心として、前記3次元形状の一部をカットアウトする第2表示制御部と、を備えたことを特徴とする。
本発明によれば、着目する部位または領域の近傍の内部状態を把握するために、当該部位または領域に基づいたカットアウト表示を行うことができる。
図1は、実施形態に係る生体信号計測システムの概略図である。 図2は、実施形態に係る情報処理装置のハードウェア構成の一例を示す図である。 図3は、実施形態に係る情報処理装置の機能ブロック構成の一例を示す図である。 図4は、実施形態に係る情報処理装置に表示される開始画面の一例を示す図である。 図5は、測定収集画面の一例を示す図である。 図6は、測定収集画面の左側の領域の拡大図である。 図7は、測定収集画面の右側の領域の拡大図である。 図8は、時間周波数解析画面の一例を示す図である。 図9は、時間周波数解析画面における頭部三面図の一例を示す図である。 図10は、頭部三面図においてピークリストで選択されたピークの位置を示した状態の一例を示す図である。 図11は、頭部三面図においてピークリストで選択されたピークの位置、および時間的な前後のピークの位置を示した状態の一例を示す図である。 図12は、頭部三面図においてピークリストで選択されたピークの位置、および時間的な前後のピークの位置を色を変えて示した状態の一例を示す図である。 図13は、頭部三面図の立体画像にダイポール推定の結果を重畳表示した状態の一例を示す図である。 図14は、頭部三面図の立体画像に複数の測定対象の結果(ヒートマップ)を重畳表示した状態の一例を示す図である。 図15は、頭部三面図の立体画像に対して視点が変更される前の状態の一例を示す図である。 図16は、頭部三面図の立体画像に対して視点が変更された場合に表示されるダイアログボックスを示す図である。 図17は、立体画像の視点変更により立体図の1行目に同じ表示を反映するための設定例を示す図である。 図18は、頭部三面図の立体画像に対して視点が変更された場合、立体図の1行目に同じ表示を反映した状態を示す図である。 図19は、立体画像の視点変更により立体図の1、2行目に同じ変換を反映するための設定例を示す図である。 図20は、頭部三面図の立体画像に対して視点が変更された場合、立体図の1、2行目に同じ変換を反映した状態を示す図である。 図21は、立体画像の視点変更により立体図の1、2行目に、対応した変換を反映するための設定例を示す図である。 図22は、頭部三面図の立体画像に対して視点が変更された場合、立体図の1、2行目に、対応した変換を反映した状態を示す図である。 図23は、立体画像の視点変更により立体図に同じ表示の新たな行を追加するための設定例を示す図である。 図24は、頭部三面図の立体画像に対して視点が変更された場合、立体図に同じ表示の新たな行を追加した状態を示す図である。 図25は、ピークリストの設定例を示す図である。 図26は、空間的なピークを説明する図である。 図27は、時間・周波数的なピークを説明する図である。 図28は、プルダウンされたピークリストから特定のピークを選択する状態を示す図である。 図29は、再生制御パネルの操作によりヒートマップおよび立体図が再生表示される状態を示す図である。 図30は、再生制御パネルの操作によりヒートマップおよび立体図がコマ戻しされる状態を示す図である。 図31は、再生制御パネルの操作によりヒートマップおよび立体図がコマ送りされる状態を示す図である。 図32は、ピークに対してどの視点からの図を初期表示させるかを説明する図である。 図33は、2つのピークに対してどの視点からの図を初期表示させるかを説明する図である。 図34は、図33に説明する視点からの図を立体図に初期表示させた状態を示す図である。 図35は、時系列で、腰椎の信号が上に伝わっていく状態の一例を示す図である。 図36は、立体画像の構成の一例を示す図である。 図37は、投影有無選択リストにより投影の有無を選択する動作を説明する図である。 図38は、オブジェクト表示選択メニューの一例を示す図である。 図39は、時間周波数解析画面の立体画像にオブジェクトが重畳して表示された状態の一例を示す図である。 図40は、時間周波数解析画面の立体画像の脳画像をカットアウトした状態の一例を示す図である。 図41は、カットアウトを模式的に説明する図である。 図42は、ピークリスト画面の一例を示す図である。 図43は、立体画像に基づくポップアップウィンドウで脳画像を表示した状態の一例を示す図である。 図44は、脳画像で表示されているオブジェクトを選択する動作を説明する図である。 図45は、カットアウトしたカットアウト部分も表示する動作を説明する図である。 図46は、ダイポールを選択した場合のカットアウト方向および視点を模式的に説明する図である。 図47は、脳機能の領域に基づいて視点を変更する動作を説明する図である。 図48は、カットアウトする方向に沿ってカットアウト部分を変動させる動作を説明する図である。 図49は、特定のカットアウト面を選択してスライドすることによりカットアウト部分を変動させる動作を説明する図である。 図50は、時間周波数解析画面において特定のカットアウト面を選択してカットアウト部分を変動させる動作を説明する図である。
以下に、図面を参照しながら、本発明に係る情報処理装置、情報処理方法、プログラムおよび生体信号計測システムの実施形態を詳細に説明する。また、以下の実施形態によって本発明が限定されるものではなく、以下の実施形態における構成要素には、当業者が容易に想到できるもの、実質的に同一のもの、およびいわゆる均等の範囲のものが含まれる。さらに、以下の実施の形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換、変更および組み合わせを行うことができる。
(生体信号計測システムの概略)
図1は、実施形態に係る生体信号計測システムの概略図である。図1を参照しながら、本実施形態に係る生体信号計測システム1の概略について説明する。
生体信号計測システム1は、被検者の複数種類の生体信号(例えば、脳磁(MEG:Magneto−encephalography)信号、および脳波(EEG:Electro−encephalography)信号)を計測し、表示するシステムである。なお、測定対象となる生体信号は、脳磁信号および脳波信号に限られるものではなく、例えば、心臓の活動に応じて発生する電気信号(心電図として表現可能な電気信号)であってもよい。図1に示すように、生体信号計測システム1は、被検者の1以上の生体信号を測定する測定装置3と、測定装置3で測定された1種類以上の生体信号を記録するサーバ40と、サーバ40に記録された1種類以上の生体信号を解析する情報処理装置50と、を含む。なお、図1では、サーバ40と情報処理装置50とが別々に記載されているが、例えば、サーバ40が有する機能の少なくとも一部が情報処理装置50に組み込まれる形態であってもよい。
図1の例では、被検者(被測定者)は、頭に脳波測定用の電極(またはセンサ)を付けた状態で測定テーブル4に仰向けで横たわり、測定装置3のデュワ31の窪み32に頭部を入れる。デュワ31は、液体ヘリウムを用いた極低温環境の保持容器であり、デュワ31の窪み32の内側には脳磁測定用の多数の磁気センサが配置されている。測定装置3は、電極からの脳波信号と、磁気センサからの脳磁信号とを収集し、収集した脳波信号および脳磁信号を含むデータ(以下、「測定データ」と称する場合がある)をサーバ40へ出力する。サーバ40へ出力された測定データは、情報処理装置50に読み出されて表示され、解析される。一般的に、磁気センサを内蔵するデュワ31および測定テーブル4は、磁気シールドルーム内に配置されているが、図1では便宜上、磁気シールドルームの図示を省略している。
情報処理装置50は、複数の磁気センサからの脳磁信号の波形と、複数の電極からの脳波信号の波形を、同じ時間軸上に同期させて表示する装置である。脳波信号とは、神経細胞の電気的な活動(シナプス伝達の際のニューロンの樹状突起で起きるイオン電荷の流れ)を電極間の電圧値として表される信号である。脳磁信号とは、脳の電気活動により生じた微小な電場変動を表す信号である。脳磁場は、高感度の超伝導量子干渉計(SQUID:Superconducting Quantum Interference Device)センサで検知される。これらの脳波信号および脳磁信号は、「生体信号」の一例である。
(情報処理装置のハードウェア構成)
図2は、実施形態に係る情報処理装置のハードウェア構成の一例を示す図である。図2を参照しながら、本実施形態に係る情報処理装置50のハードウェア構成について説明する。
図2に示すように、情報処理装置50は、CPU(Central Processing Unit)101と、RAM(Random Access Memory)102と、ROM(Read Only Memory)103と、補助記憶装置104と、ネットワークI/F105と、入力装置106と、表示装置107と、を有し、これらがバス108で相互に接続されている。
CPU101は、情報処理装置50の全体の動作を制御し、各種の情報処理を行う演算装置である。CPU101は、ROM103または補助記憶装置104に記憶された情報表示プログラムを実行して、測定収集画面および解析画面(時間周波数解析画面等)の表示動作を制御する。
RAM102は、CPU101のワークエリアとして用いられ、主要な制御パラメータおよび情報を記憶する揮発性の記憶装置である。ROM103は、基本入出力プログラム等を記憶する不揮発性の記憶装置である。例えば、上述の情報表示プログラムがROM103に記憶されているものとしてもよい。
補助記憶装置104は、HDD(Hard Disk Drive)またはSSD(Solid State Drive)等の記憶装置である。補助記憶装置104は、例えば、情報処理装置50の動作を制御する制御プログラム、ならびに、情報処理装置50の動作に必要な各種のデータおよびファイル等を記憶する。
ネットワークI/F105は、サーバ40等のネットワーク上の機器と通信を行うための通信インターフェースである。ネットワークI/F105は、例えば、TCP(Transmission Control Protocol)/IP(Internet Protocol)に準拠したNIC(Network Interface Card)等によって実現される。
入力装置106は、タッチパネルの入力機能、キーボード、マウスおよび操作ボタン等のユーザインターフェース等である。表示装置107は、各種の情報を表示するディスプレイ装置である。表示装置107は、例えば、タッチパネルの表示機能、液晶ディスプレイ(LCD:Liquid Crystal Display)または有機EL(Electro−Luminescence)等によって実現される。表示装置107は、測定収集画面および解析画面を表示し、入力装置106を介した入出力操作に応じて画面が更新される。
なお、図2に示す情報処理装置50のハードウェア構成は一例であり、これ以外の装置が備えられるものとしてもよい。また、図2に示す情報処理装置50は、例えば、PC(Personal Computer)を想定したハードウェア構成であるが、これに限定されるものではなく、タブレット等のモバイル端末であってもよい。この場合、ネットワークI/F105は、無線通信機能を有する通信インターフェースであればよい。
(情報処理装置の機能ブロック構成)
図3は、実施形態に係る情報処理装置の機能ブロック構成の一例を示す図である。図3を参照しながら、本実施形態に係る情報処理装置50の機能ブロック構成について説明する。
図3に示すように、情報処理装置50は、収集表示制御部201と、解析表示制御部202と、ピークリスト制御部203と、通信部204と、センサ情報取得部205と、解析部206と、記憶部207と、入力部208と、を有する。
収集表示制御部201は、センサ情報の収集動作時の画面表示を、図5〜図7を参照して説明する手法で制御する機能部である。
解析表示制御部202は、センサ情報取得部205により取得されたセンサ情報(脳波信号または脳磁信号)から解析部206により算出された生体信号の信号強度等の画面表示を、図8〜図50を参照して説明する手法で制御する機能部である。解析表示制御部202は、図3に示すように、ヒートマップ表示制御部211と、立体表示制御部212と、断面表示制御部213(第1表示制御部、第2表示制御部、第3表示制御部の一例)と、再生表示制御部214と、を有する。
ヒートマップ表示制御部211は、後述する図8等に示す時間周波数解析画面601のヒートマップ611の画面表示を制御する機能部である。立体表示制御部212は、時間周波数解析画面601の立体図612の画面表示を制御する機能部である。断面表示制御部213は、時間周波数解析画面601の頭部三面図613の画面表示を制御する機能部である。再生表示制御部214は、時間周波数解析画面601の再生制御パネル615に対する操作入力に従って、再生表示を制御する機能部である。
ピークリスト制御部203は、設定された条件を満たす信号強度のピークを抽出して、後述する図8等に示す時間周波数解析画面601のピークリスト614に登録する機能部である。
通信部204は、測定装置3またはサーバ40等とデータ通信を行う機能部である。通信部204は、図2に示すネットワークI/F105によって実現される。
センサ情報取得部205は、測定装置3またはサーバ40から、通信部204を介して、センサ情報(脳波信号または脳磁信号)を取得する機能部である。解析部206は、センサ情報取得部205により取得されたセンサ情報(測定された信号)を解析し、脳内の各部における信号強度を示す信号(以下、当該信号についても「生体信号」と称する場合がある)を算出する機能部である。
記憶部207は、解析部206により算出された信号強度を示す生体信号のデータ等を記憶する機能部である。記憶部207は、図2に示すRAM102または補助記憶装置104によって実現される。
入力部208は、センサ情報に付加されるアノテーション情報の入力操作、および、時間周波数解析画面601に対する各種入力操作を受け付ける機能部である。入力部208は、図2に示す入力装置106によって実現される。
上述の収集表示制御部201、解析表示制御部202、ピークリスト制御部203、センサ情報取得部205および解析部206は、CPU101がROM103等に記憶されたプログラムをRAM102に展開して実行することにより実現される。なお、収集表示制御部201、解析表示制御部202、ピークリスト制御部203、センサ情報取得部205および解析部206の一部または全部は、ソフトウェアであるプログラムではなく、ASIC(Application Specific Integrated Circuit)またはFPGA(Field−Programmable Gate Array)等のハードウェア回路によって実現されてもよい。
また、図3に示した各機能部は、機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図3で独立した機能部として図示した複数の機能部を、1つの機能部として構成してもよい。一方、図3の1つの機能部が有する機能を複数に分割し、複数の機能部として構成するものとしてもよい。
(開始画面での動作)
図4は、実施形態に係る情報処理装置に表示される開始画面の一例を示す図である。図4を参照しながら、開始画面501での動作について説明する。
開始画面501には、「測定収集」および「解析」の選択ボタンが表示される。脳波測定および脳磁測定の場合、データの測定収集とデータの解析とでは、別々の主体によって行われる場合が多い。例えば、測定技師(測定者)によって「測定収集」のボタンが選択されると、測定装置3で測定されたデータは順次、サーバ40に保存され、情報処理装置50に読み出されて表示される。測定収集の終了後、医師によって「解析」のボタンが選択されると、収集された測定データが読み出されて解析される。
(測定収集時の動作)
図5は、測定収集画面の一例を示す図である。測定収集画面502は、図5に示すように、測定された生体信号(ここでは、脳磁信号および脳波信号)の信号波形を表示する領域511aと、信号波形以外のモニタ情報を表示する領域511bと、を有する。信号波形を表示する領域511aは、測定者からみて画面の左側に配置され、信号波形以外のモニタ情報を表示する領域511bは、測定者からみて画面の右側に配置されている。これによって、リアルタイムで検出され表示される波形の動き(画面の左側から右側に向かって表示される)に合わせた測定者の視線の動きと、画面左側の領域511aから右側の領域511bへマウスを移動させるときの動きに無駄が生じず、作業効率が向上する。
表示画面の領域511bでは、測定中に被測定者の様子を確認するためのモニタウィンドウ512が表示される。測定中の被測定者のライブ映像を表示することで、後述するように、信号波形のチェックおよび判断の信頼性を高めることができる。図5では、1台のモニタディスプレイ(表示装置107)の表示画面に、測定収集画面502の全体が表示される場合を示しているが、左側の領域511aおよび右側の領域511bを、2台またはそれ以上のモニタディスプレイに分けて別々に表示してもよい。
図6は、測定収集画面の左側の領域の拡大図である。領域511aは、信号検出の時間情報を画面の水平方向(第1方向)に表示する第1表示領域530と、信号検出に基づく複数の信号波形を画面の垂直方向(第2方向)に並列に表示する第2表示領域521〜523と、を有する。
第1表示領域530で表示される時間情報は、図6の例では、時間軸531に沿って付された時間表示を含むタイムラインであるが、時間(数字)を表示せずに、帯状の軸だけでもよく、軸を設けずに時間(数字)の表示だけであってもよい。また、画面上側の第1表示領域530の他に、第2表示領域523の下側に時間軸531を表示して、タイムラインを表示してもよい。
領域511aでは、同種の複数のセンサから取得される複数の信号波形、または複数種類のセンサ群から取得される複数種類の信号の波形が、同じ時間軸531で同期して表示される。図6に示す例では、第2表示領域521には被測定者の頭部右側から得られる複数の脳磁信号の波形が、第2表示領域522には被測定者の頭部左側から得られる複数の脳磁信号の波形が、それぞれ並列に表示されている。第2表示領域523には、複数の脳波信号の波形が並列に表示されている。これらの複数の脳波信号の波形は、各電極間で測定された電圧信号である。これらの複数の信号波形それぞれは、その信号が取得されたセンサの識別番号またはチャネル番号と対応付けられて表示されている。
測定が開始され各センサからの測定情報が収集されると、時間の経過と共に領域511aの各第2表示領域521〜523の左端から右方向に向けて信号波形が表示される。ライン532は、計測の時刻(現在)を示しており、画面の左から右へ向けて移動する。領域511aの右端(時間軸531の右端)まで信号波形が表示されると、その後は画面の左端から右へ向けて徐々に信号波形が消え、消えた位置に新しい信号波形が順次左から右方向に表示され、かつ、ライン532も左端から右へ向けて移動していく。これと共に、水平方向の第1表示領域530でも測定の進行に対応して、時間の経過が時間軸531上に表示される。測定収集は、終了ボタン539が押下されるまで継続される。
実施形態の特徴として、測定者(収集者)がデータ収集中に信号波形上で波形の乱れ、振幅の特異点等に気付いたときに、問題となる箇所または範囲を信号波形上でマークすることができる。マーキングの箇所または範囲は、マウスによるポインタ操作またはクリック操作で指定することができる。指定された箇所または範囲は、第2表示領域521〜523の信号波形上に強調表示されると共に、指定結果が対応する時刻位置または時間範囲で、第1表示領域530の時間軸531に沿って表示される。時間軸531上への表示を含むマーキングの情報は、信号波形データと共に保存される。指定された箇所は、ある時刻に対応し、指定された範囲は、ある時刻を含む一定範囲に対応する。
図6の例では、時刻t1で、第2表示領域523で1以上のチャネルを含む範囲が指定され、マーク523a−1で時刻t1を含んだ時間がハイライトで表示されている。マーク523a−1の表示と関連して第1表示領域530の対応する時刻位置に、指定結果を示すアノテーション530a−1が表示されている。時刻t2で、第2表示領域523で別の波形位置またはその近傍がマークされ、その位置(時刻t2)または近傍の領域(少なくとも時間範囲か複数の波形のいずれか一つが指示される)にマーク523a−2がハイライト表示されている。同時に、第1表示領域530の対応する時刻位置(時間範囲)に、アノテーション530a−2が表示される。ここで、アノテーションとは、あるデータに対して関連する情報を注釈として付与することを示す。本実施形態では、少なくとも指定された時間情報に基づいて注釈として表示されるものであって、少なくとも時間情報に基づく波形が表示される位置と結び付けて、注釈として表示するものである。また、複数のチャネルを表示する場合、対応するチャネル情報と結びつけ、注釈として表示してもよい。
時刻t1で第1表示領域530に追加されたアノテーション530a−1は、一例として、アノテーション識別番号と、波形の属性を示す情報と、を含む。この例では、アノテーション番号「1」と共に、波形の属性を表わすアイコンと「strong spike」(ストロングスパイク)というテキスト情報が表示されている。
時刻t2で、測定者が別の波形箇所またはその近傍領域を指定すると、指定された箇所でマーク523a−2がハイライト表示され、これと共に、第1表示領域530の対応する時刻位置に、アノテーション番号「2」が表示される。さらに、ハイライト表示された箇所に、属性選択のためのポップアップウィンドウ535が表示される。ポップアップウィンドウ535は、種々の属性を選択する選択ボタン535aと、コメントおよび追加情報を入力する入力ボックス535bと、を有する。選択ボタン535aには、波形の属性として「速波(fast activity)」、「眼球運動(eye motion)」、「体動(body motion)」、「スパイク(spike)」等、波形乱れの要因が示されている。測定者は、画面の領域511bのモニタウィンドウ512で被測定者の様子を確認することができるので、波形の乱れの原因を示す属性を適切に選択することができる。例えば、波形にスパイクが生じたときに、てんかんの症状を示すスパイクなのか、被測定者の体動(くしゃみ等)に起因するスパイクなのかを判断することができる。
時刻t1でも同じ操作が行われており、図6では、ポップアップウィンドウ535で「スパイク」の選択ボタン535aが選択され、入力ボックス535bに「strong spike」と入力されたことにより第1表示領域530にアノテーション530a−1が表示されている。このような表示態様により、同じ時間軸531上に多数の信号波形を同期して表示する際に、信号波形の注目箇所または範囲を視認により容易に特定することができ、かつ注目箇所の基本情報を容易に把握することができる。
なお、アノテーション530a−1の一部または全部、例えば、属性アイコンおよびテキスト情報の少なくとも一方を、第2表示領域523の信号波形上のマーク523a−1の近傍にも表示してもよい。ここで、信号波形上へのアノテーションの追加は、波形形状のチェックの妨げになる場合もあり得るので、第2表示領域521〜523の信号波形上にアノテーションを表示させる場合は、表示・非表示を選択可能にしておくことが望ましい。
カウンタボックス538は、スパイクのアノテーションの累積数を表示する。「スパイク」が選択される都度、カウンタボックス538のカウンタ値がインクリメントされ、収録開始から現在(ライン532)までのトータルのスパイク数が一目でわかるようになっている。
図7は、測定収集画面の右側の領域の拡大図である。図7は、図6と同じ時刻(ライン532の時点)での状態を示している。領域511bのモニタウィンドウ512では、頭部を測定装置3に入れて測定テーブル4に横たわっている被測定者の状態のライブ映像が表示される。領域511bでは、第2表示領域521、522、523の信号波形のそれぞれに対応する脳磁分布図541、542、脳波分布図550と、アノテーションリスト560と、が表示される。アノテーションリスト560は、図6の信号波形上でマークされたアノテーションの一覧である。第2表示領域521〜523で信号波形上の位置または範囲が指定されアノテーションが付される都度、対応する情報がアノテーションリスト560に順次追加される。測定収集画面502におけるアノテーションリスト560への追加および表示は、例えば、降順(新しいデータを上に表示)で行われるが、この例に限定されない。アノテーションリスト560の表示を昇順にしても構わないが、第1表示領域530で時間軸531に沿って表示されるアノテーションとの対応関係がわかるように表示する。さらに、表示順序を変更させたり、項目ごとにソートさせることも可能である。
図7の例では、アノテーションリスト560には、アノテーション番号「1」に対応する時刻情報と、付加されたアノテーション情報と、がリストされている。アノテーション情報として、「スパイク」を表わす属性アイコンと、「strong spike」というテキストが記録されている。また、マーク523a−1がハイライト表示された時点で、アノテーション番号「2」に対応する時刻情報がリストされている。ここでは、「アノテーション」は、アノテーション番号と、時刻情報と、アノテーション情報との組であると考えてもよいし、アノテーション情報のみであると考えてもよいし、アノテーション情報と、アノテーション番号または時刻情報との組であると考えてもよい。
また、アノテーションリスト560の近傍に、表示/非表示の選択ボックス560aが配置されている。選択ボックス560aで非表示が選択されると、第2表示領域521〜523で、信号波形上のハイライトマーク以外のアノテーションが非表示にされるが、第1表示領域530の時間軸531に沿ったアノテーションの表示は維持される。これにより、信号波形の視認性を阻害せずにアノテーション情報を認識可能にする。
(時間周波数解析画面における解析動作)
図8は、時間周波数解析画面の一例を示す図である。図8を参照しながら、情報処理装置50に表示される時間周波数解析画面601における解析動作について説明する。
上述の図4に示す開始画面501において「解析」ボタンが押下されると、解析部206は、上述の測定収集画面502での測定収集動作により収集されたセンサ情報(脳波信号または脳磁信号)を解析し、脳(生体部位の一例、発信源の一例)内の各位置における信号強度を示す生体信号を算出する。信号強度を算出する方法としては、例えば、公知の方法である空間フィルタ法等が挙げられるが、その他の方法を用いるものとしてもよい。解析表示制御部202は、上述の図4に示す開始画面501において、「解析」ボタンが選択されると、表示装置107に図8に示す時間周波数解析画面601を表示させる。時間周波数解析画面601は、図8に示すように、解析画面切替リスト605と、ヒートマップ611と、立体図612と、頭部三面図613と、ピークリスト614と、再生制御パネル615と、を表示する画面であり、生体信号を時間・周波数・脳部位(3次元位置)の5次元のデータとして解析するための画面である。時間周波数解析画面601を用いた解析および測定の主目的は、視覚野、聴覚野、体性感覚野、運動野および言語野等の人間の生存に欠かせない部位を特定して表示することである。ピークリスト614の右側に表示されているピークリスト設定ボタン614aは、ピークリスト614に登録されるピークの条件を設定するためのウィンドウを表示させるためのボタンである。ピークリスト設定ボタン614aの押下による上述の設定については後述する。頭部三面図613は、断面図641と、断面図642と、断面図643と、立体画像644と、を含む。
解析画面切替リスト605は、各種解析画面を選択するためのリストである。解析画面切替リスト605から選択できる解析画面としては、本実施形態の生体信号に対する時間および周波数での解析をするための時間周波数解析画面601の他、生体信号からてんかん等の部位を推定および解析を行うためのダイポール推定を行うための解析画面等がある。本実施形態では時間周波数解析画面601での解析動作について説明する。
図8に示すように、ヒートマップ611は、解析部206により算出された脳内の各位置の信号強度を示す生体信号について時間周波数分解を施し、横軸を時刻(トリガ時刻からの時間)、縦軸を周波数、そして、時刻および周波数で特定される生体信号の信号強度の分布を色で表した図である。図8に示す例では、信号強度は、例えば、所定の基準に対する増減で示されている。ここで所定の基準とは、例えば、被験者に何も刺激を与えていない場合の信号強度の平均値を0[%]とする。なお、本実施形態では、0±100[%]で図示しているが、これに限られず、100[%]以上の場合には、例えば200[%]等、レンジを変えて表示してもよい。また、ヒートマップ611は、例えば、時刻0[ms]に被験者に対して何らかの刺激(物理的に衝撃を与える、腕を動かす、言葉を発する、音を聴かせる等)を与えた場合、その後の時刻では刺激を与えた後の脳の活動状態を示し、時刻0[ms]以前の時刻では、刺激を与える前の脳の活動状態を示すことになる。このヒートマップ611の表示動作は、ヒートマップ表示制御部211によって制御される。
ヒートマップ611において特定の位置が指定されると、指定された位置に対応する時刻および周波数に対応する生体信号の信号強度の分布が、例えば図8に示すように、立体図612の脳の図では部位712a−1〜712a−5、712b−1〜712b−5のように、頭部三面図613の脳の図では部位713a−1、713a−2、713b、713c、713dのようにヒートマップ(ヒートマップ611におけるヒートマップとは異なる)として表示される。具体的には、ヒートマップ611において指定された位置に対応する時刻および周波数の生体信号の信号強度が、赤〜青のヒートマップとして表示される。
立体図612は、所定の視点からの脳の立体画像(3D画像)を表示する図であり、ヒートマップ611上で指定された位置(点または範囲)、または、ピークリスト614で選択されたピークの位置に対応する生体信号の信号強度をヒートマップとして重畳表示する。図8に示すように、立体図612では、同じ行では同じ視点からの脳の立体画像が表示される。この立体図612の表示動作は、立体表示制御部212によって制御される。
なお、図8に示す立体図612では2つの視点から見た場合の脳の立体図、すなわち、2行で構成された脳の立体図であるが、これに限定されるものではなく、その他の数の行で表示するものとしてもよく、行の数を設定により変更できるものとしてもよい。例えば、脳の言語野の測定であれば、左右の際が重要な情報となるので、脳の左側面および右側面からの2つの視点からの脳の立体図を表示(2行で表示)するものとすればよい。ここで、測定対象と視点の対応の一例を下記の(表1)に示す。測定対象は、測定時に被験者へ与える刺激(刺激装置による付与であり(表1)のNo.1〜4に対応する)や、被験者の動作((表1)のNo.5)を示し、収集時に測定収集画面上で選択する項目である。この測定対象を選択することで、これに対応する視点の脳立体図が表示される。また、視点は、被験者の正面を起点としたときの方向を示す。なお、行数についても別途設定することができるものとしてもよい。
Figure 2021145875
<頭部三面図について>
図9は、時間周波数解析画面における頭部三面図の一例を示す図である。図10は、頭部三面図においてピークリストで選択されたピークの位置を示した状態の一例を示す図である。図11は、頭部三面図においてピークリストで選択されたピークの位置、および時間的な前後のピークの位置を示した状態の一例を示す図である。図12は、頭部三面図においてピークリストで選択されたピークの位置、および時間的な前後のピークの位置を色を変えて示した状態の一例を示す図である。図13は、頭部三面図の立体画像にダイポール推定の結果を重畳表示した状態の一例を示す図である。図14は、頭部三面図の立体画像に複数の測定対象の結果(ヒートマップ)を重畳表示した状態の一例を示す図である。図9〜図14を参照しながら、時間周波数解析画面601の頭部三面図613の基本的な表示動作について説明する。
図9に示すように、頭部三面図613は、脳の特定の位置(点)における3方向の断面図(以下、「三面図」と総称する場合がある)、および3D画像である立体画像644を含む図である。図9に示す例では、頭部三面図613は、脳の特定の位置における3方向の断面図として、脳の前後方向に対して垂直な断面を示す断面図641、脳の左右方向に対して垂直な断面を示す断面図642、および、脳の上下方向に対して垂直な断面を示す断面図643を含む。断面図641は、上述の特定の位置を通るように基準線645aおよび基準線645bが引かれている。また、断面図642は、上述の特定の位置を通るように、基準線645aおよび基準線645cが引かれている。また、断面図643は、上述の特定の位置を通るように、基準線645bおよび基準線645dが引かれている。断面図641〜643には、それぞれ、ヒートマップ611で指定された位置(点または範囲)に対応する時刻および周波数の生体信号の信号強度の分布を示すヒートマップ(ヒートマップ611とは異なる)(第3強度分布)が重畳して表示される。この頭部三面図613の表示動作は、断面表示制御部213によって制御される。
基準線645aは、上述の脳の特定の位置の上下方向の位置を規定する線であるため、断面図641および断面図642にわたって連続した線として描画されている。また、基準線645bは、上述の脳の特定の位置の左右方向の位置を規定する線であるため、断面図641および断面図643にわたって連続した線として描画されている。また、基準線645cは、断面図642において、上述の脳の特定の位置の前後方向の位置を規定する線である。また、基準線645dは、断面図643において、上述の脳の特定の位置の前後方向の位置を規定する線である。なお、頭部三面図613における断面図641〜643の並びは、上述のように、基準線645aおよび基準線645bが複数の断面図に連続して描画することが可能であるために、図9に示す並びとしているが、これに限定されるものではなく、任意でよい。その場合、各断面図において、脳の特定の位置を通るように基準線がそれぞれ描画されるものとすればよい。また、基準線は必ずしも描画される必要はなく、各断面図において、脳の特定の位置を示すマーク等が表示されるものとしてもよい。
立体画像644は、脳の3D画像(3次元形状の画像の一例)を表示する領域であり、後述するように、この立体画像644に対する操作に応じて、立体図612に描画された脳の立体画像の視点が変更される。また、立体画像644には、ヒートマップ611で指定された位置(点または範囲)に対応する時刻および周波数の生体信号の信号強度の分布を示すヒートマップ(ヒートマップ611とは異なる)(第4強度分布)が重畳して表示されるほか、ダイポール、および脳腫瘍(以下、これらを総称して「オブジェクト」と称する場合がある)等も重畳して表示される。また、立体画像644では、後述するように、選択されたオブジェクト等の位置に基づいて、脳の一部を切り取った(カットアウトした)状態の画像を表示することができる。この脳の一部をカットアウトする動作の詳細については、図36以降で説明する。なお、後述するように、立体画像644の脳画像に重畳された生体信号の強度分布(ヒートマップ)は、脳の表面である脳表での生体信号の強度を表示することに限られず、脳表から所定のオフセット量だけ内部に向けてオフセットした位置での生体信号の強度、または、脳表からオフセットした位置までの経路の生体信号の強度の平均値等を脳表に投影してヒートマップとして表示する場合もある。
また、図9に示す頭部三面図613では、ピークリスト614に登録されたピークのうち選択されたピークの位置が特定される三面図を表示し、図10に示すように、立体画像644上に当該選択されたピーク位置を示すピーク点646を表示するものとしてもよい。また、例えば、ピークリスト614で選択されたピークから数えて上位N個のピークの位置が立体画像644に表示されるものとしてもよい。図11では、上位3個のピークの位置(ピーク点646、646a、646b)が表示された例を示す。また、図11では、上位3個ではなく、ピークリスト614で選択されたピークの前後の時刻におけるピーク位置をピーク点646、646a、646bとして表示(ピークの軌跡を表示)するものとしてもよい。なお、設定によりピークの位置をどのように表示させるかが決定されてもよく、例えば、上述の他、ピークそのものを表示させない設定、信号強度がM以上のピークを表示させる設定等を切り替えられるものとしてもよい。
また、図12に示すように、立体画像644上に表示された複数のピークについて、当該ピークの属性情報に応じて、表示の形態を変えるものとしてもよい。図12では、表示されたピークごとにマークの色をそれぞれ異なる色となるように変えて表示させた例を示している。
また、図13に示すように、断面表示制御部213は、立体画像644に対して、他の解析画面等でダイポール推定の結果であるダイポール647を重畳表示させるものとしてもよい。これによって、立体画像644が示す温存部位を示すヒートマップと、疾患部位(ターゲット部位)を示すダイポールとの位置関係を把握することができ、外科手術等に役立てることができる。
また、三面図のいずれかの断面図上で、解析者による入力部208を用いてクリック操作またはタップ操作によって、脳の三次元空間の特定の位置を指定することができる。このように、三面図において特定の位置が指定されると、指定された位置(点)に対応する時刻および周波数に関する生体信号の信号強度の分布がヒートマップ611に反映される。
また、三面図のいずれかの断面図上で、解析者による入力部208に対するドラッグ操作またはスワイプ操作によって、脳の三次元空間の特定の範囲を指定することができる。このように、三面図において特定の範囲が指定されると、指定された範囲に対応する時刻および周波数に関する生体信号の信号強度(その範囲での平均)の分布がヒートマップ611に反映される。
なお、立体画像644(および三面図)に描画されるヒートマップ(信号強度の強弱を示す等高線図)は、各脳の部位の活動が活発となるようなそれぞれの刺激の結果を重畳して表示するものとしてもよい。例えば、言語刺激(測定時)を行った信号に対する結果と、視覚刺激(測定時)を行った信号に対する結果を求めた後に、断面表示制御部213は、図14(a)に示す言語野を活性化させた場合のヒートマップと、図14(b)に示す視覚野を活性化させた場合のヒートマップとを、図14(c)に示すように、重畳させて表示可能とするものとしてもよい。このように図14(c)に示すように重畳されたヒートマップで示される部位が温存部位であるということが確認できる。重畳させるための操作方法としては、現在表示されている測定結果が言語野であるものとした場合、メニューによって異なる測定結果(例えば、視覚野)を選択することができるようにすればよい。なお、重畳する際には、測定対象より刺激に対する反応時間が異なる可能性もある。そこで、測定対象を追加する場合に時間のずれを設定できるようにすれば、より的確に重畳することができる。さらに、ヒートマップを重畳した結果である図14(c)に示す立体画像を、図14(d)に示すように反転表示させることによって、逆に温存部位ではない切除可能な部位を示すことが可能になる。
また、頭部三面図613に示す断面図は、断面方向の異なる3つの断面図である三面図としているが、これに限定されるものではなく、特定の断面方向の1つの断面図、または断面方向の異なる2つもしくは4つ以上の断面図であってもよい。
図15は、頭部三面図の立体画像に対して視点が変更される前の状態の一例を示す図である。図16は、頭部三面図の立体画像に対して視点が変更された場合に表示されるダイアログボックスを示す図である。図17は、立体画像の視点変更により立体図の1行目に同じ表示を反映するための設定例を示す図である。図18は、頭部三面図の立体画像に対して視点が変更された場合、立体図の1行目に同じ表示を反映した状態を示す図である。図19は、立体画像の視点変更により立体図の1、2行目に同じ変換を反映するための設定例を示す図である。図20は、頭部三面図の立体画像に対して視点が変更された場合、立体図の1、2行目に同じ変換を反映した状態を示す図である。図21は、立体画像の視点変更により立体図の1、2行目に、対応した変換を反映するための設定例を示す図である。図22は、頭部三面図の立体画像に対して視点が変更された場合、立体図の1、2行目に、対応した変換を反映した状態を示す図である。図23は、立体画像の視点変更により立体図に同じ表示の新たな行を追加するための設定例を示す図である。図24は、頭部三面図の立体画像に対して視点が変更された場合、立体図に同じ表示の新たな行を追加した状態を示す図である。図15〜図24を参照しながら、時間周波数解析画面601の頭部三面図613の立体画像に対して視点変更した場合における立体図612への反映動作について説明する。
頭部三面図613の立体画像644に表示されている脳は、立体図612と同様に、解析者による操作(例えば、ドラッグ操作またはスワイプ操作等)によって視点を変更することが可能である。この場合、立体画像644の脳の視点を変更した場合において、立体図612に表示された脳の視点に反映するものとしてもよく、以下、その反映方法の類型について以下に説明する。
図15に示すような時間周波数解析画面601に表示された頭部三面図613の立体画像644に対して、解析者による操作(例えば、ドラッグ操作またはスワイプ操作等)が行われると、断面表示制御部213は、図16に示すように、ダイアログボックス650を表示させる。ダイアログボックス650は、立体画像644の脳について視点変更された場合に、どのように立体図612に反映するかを決定するための画面である。ここで、例えば、「立体図は変更しない」ボタンが押下されると、立体図612の立体画像に対する視点変更はなされない。ここでは、解析者は、図16に示すように、脳の左側面の視点の立体画像644を、脳の背面の視点の立体画像の表示となるように視点変更したものとする。
まず、図17に示すように、ダイアログボックス650の「立体図の行の表示に反映する」ボタンが押下されたものとする。すると、断面表示制御部213は、図17に示すように、立体図612にどのように反映するかの詳細を設定するためのダイアログボックス651を表示させる。解析者は、図17に示すように、ダイアログボックス651において、変更する行として立体図612の1行目に選択し、「立体図の3Dと同じ表示」を選択したものとする。この場合、立体表示制御部212は、図18に示すように、立体図612の1行目(上の行)の立体画像に対して、立体画像644の変更された視点と同じ視点となるように表示する。
次に、図16のように視点変更された状態から、解析者は、図19に示すように、ダイアログボックス650の「立体図の行の表示に反映する」ボタンを押下し、ダイアログボックス651において、変更する行として立体図612の1行目および2行目に選択し、「立体図の3Dと同じ変換」を選択したものとする。この場合、立体表示制御部212は、図20に示すように、もともと立体画像644と同じ視点であった立体図612の1行目の立体画像に対して、立体画像644の視点変更と同じ視点変更をして表示する。すなわち、図20に示すように、脳の背面の視点となるように変更する。さらに、立体表示制御部212は、図20に示すように、もともと脳の右側面の視点であった立体図612の2行目の立体画像に対して、立体画像644の視点変更と同じ視点変更をして表示する。すなわち、図20に示すように、脳の前面の視点となるように変更する。なお、「立体図の行の表示に反映する」ボタン押下によるダイアログボックス651での選択を初期設定済みとするか初期設定可能なようにしておき、その上で、例えば、[ビューのリンク]/[ビューのリンク解除]ボタンを設けることで、その選択結果を表示するようにしてもよい。このような構成とすることで毎回の選択動作を省略(簡略化)できる。
次に、解析者は、図22に示すように、脳の左側面の視点の立体画像644を、脳の左前側の視点の立体画像の表示となるように視点変更したものとする。そして、この状態から、解析者は、図21に示すように、ダイアログボックス650の「立体図の行の表示に反映する」ボタンを押下し、ダイアログボックス651において、変更する行として立体図612の1行目および2行目に選択し、「立体図の3Dに対応した変換」を選択したものとする。この場合、立体表示制御部212は、図22に示すように、もともと立体画像644と同じ視点であった立体図612の1行目の立体画像に対して、立体画像644の視点変更と同じ視点変更をして表示する。すなわち、図22に示すように、脳の左前側の視点となるように変更する。さらに、立体表示制御部212は、図22に示すように、もともと脳の右側面の視点であった立体図612の2行目の立体画像に対して、立体画像644の視点変更に対応する視点変更をして表示する。すなわち、図22に示すように、脳の中心面(対象面)に対して面対称となるような視点変更、すなわち、脳の右前側の視点となるように変更する。
次に、図16のように視点変更された状態から、解析者は、図23に示すように、ダイアログボックス650の「立体図の行を追加する」ボタンを押下することによって表示されるダイアログボックス652において、「立体図の3Dと同じ表示」を選択したものとする。この場合、立体表示制御部212は、図24に示すように、立体画像644の視点変更の結果、同一の視点となる脳の立体画像を、立体図612の表示領域612−3に新たな行として表示する。すなわち、図24に示すように、表示領域612−3における新たな行に、脳の背面の視点の立体画像が表示される。
以上のように、頭部三面図613における立体画像644に対して行った視点変更を、各種設定に応じて、立体図612の時系列に並んだ脳の立体画像の視点に反映することができる。これによって、立体画像644の視点変更と同様の視点変更を、立体図612に対して改めて行う必要がないので、操作性が向上し、さらに、立体画像644で変更した視点と同一の視点、または対応する視点で、立体図612において脳の状態の変化を時系列に確認することができる。
なお、図17、図19、図21および図23で示すダイアログボックス650〜652によって設定される立体図612に表示された脳の視点への反映方法は、一例であり、その他の反映方法が設定できるものとしてもよい。
また、立体画像644の視点を変更した場合に、立体図612の立体画像へ視点変更を反映する動作を説明したが、立体画像644に対して変更を加える表示態様は視点だけではなく、例えば、拡大縮小、輝度の変更、または透明度の変更等であってもよい。これらの変更についても、上述の視点変更の趣旨を逸脱しない範囲で、立体図612の立体画像に変更を反映するものとすればよい。
<ピークリストについて>
図25は、ピークリストの設定例を示す図である。図26は、空間的なピークを説明する図である。図27は、時間・周波数的なピークを説明する図である。図28は、プルダウンされたピークリストから特定のピークを選択する状態を示す図である。図25〜図28を参照しながら、時間周波数解析画面601のピークリスト614の基本的な動作について説明する。
ピークリスト614は、ピークリスト制御部203により抽出された、設定された条件を満たす信号強度のピークが登録されたリストである。図25に示すように、ピークリスト制御部203は、ピークリスト614でプルダウンされることによって登録された信号強度の一覧であるプルダウンリスト656を表示する。
また、上述のピークリスト制御部203により抽出される信号強度のピークの条件は、ピークリスト設定ボタン614aを押下することにより設定することができる。ピークリスト制御部203は、ピークリスト設定ボタン614aが押下されると、抽出される信号強度のピークの条件を設定するためのダイアログボックス655を表示させる。
ダイアログボックス655では、まず、ピークリスト614に登録されたピーク情報をどのようにソートするかを設定することができる。ダイアログボックス655において、「ピークの値が大きい順番」が選択された場合、ピークリスト制御部203は、ピークリスト614で登録されているピーク情報を、ピークの信号強度が大きい順にソートする。一方、ダイアログボックス655において、「ピークの高さ(頂点と谷点の差)が大きい順番」が選択された場合、ピークリスト制御部203は、ピークリスト614で登録されているピーク情報を、ピーク点の信号強度と、当該ピークの谷部分の信号強度との差が大きい順にソートする。
さらに、ダイアログボックス655では、ピークリスト614にどのようなピーク情報を登録(リストアップ)させるかを設定することができる。ダイアログボックス655において、「すべての空間的なピーク」が選択された場合、ピークリスト制御部203は、時刻・周波数平面の各時刻・各周波数においての脳全体における空間的なピークを抽出して、ピークリスト614に登録する。ここで、空間的なピークとは、図26に示すピーク部801のように、着目する時刻・周波数の生体信号の、脳全体における信号強度のピークであり、このピーク部801の信号強度は、周辺より信号強度が強い。
また、ダイアログボックス655において、「すべての時刻/周波数的なピーク」が選択された場合、ピークリスト制御部203は、脳全体の各位置においての時刻・周波数平面における時刻/周波数的なピークを抽出して、ピークリスト614に登録する。ここで、時刻/周波数的なピークとは、図27に示すピーク部802のように、着目する脳の位置での生体信号の、時刻・周波数平面における信号強度のピークであり、このピーク部802の信号強度は、周辺よりも信号強度が強い。
また、ダイアログボックス655において、「指定されている時刻/周波数における空間的なピーク」が選択された場合、ピークリスト制御部203は、時刻・周波数平面で指定された時刻・周波数においての脳全体における空間的なピークを抽出して、ピークリスト614に登録する。なお、指定されている時刻/周波数は一点とは限らず、範囲で選択される場合もある。
また、ダイアログボックス655において、「指定されている位置における時刻/周波数的なピーク」が選択された場合、ピークリスト制御部203は、指定された脳の位置においての時刻・周波数平面における時刻/周波数的なピークを抽出して、ピークリスト614に登録する。なお、指定されている位置は一点とは限らず、範囲で選択される場合もある。例えば、視覚野についてのピークを抽出する場合、後頭部全体の範囲を指定することによって、所望のピークを抽出しやすくなる。
次に、各ピーク情報が登録されたピークリスト614から特定のピーク情報を選択した場合の動作について説明する。解析者によって、ピークリスト614から表示されたプルダウンリスト656から特定のピーク情報(例えば、図28に示す「95%/9ms/70Hz/voxel:1736」)が選択されると、ヒートマップ表示制御部211は、当該ピーク情報が示す脳の特定の位置に対応するヒートマップ611を表示する。この場合、ヒートマップ表示制御部211は、図14で上述したように、ヒートマップ611においてピーク情報が示すピークの位置を具体的に示すものとすればよい。
また、立体表示制御部212は、選択されたピーク情報が示す時刻・周波数の脳の立体画像を立体図612の各行の中央に表示させ、さらに、その時刻の前後の脳の立体画像を表示させる。この場合、立体図612の脳の各立体画像に重畳されるヒートマップは、ピーク情報が示す周波数の生体信号の信号強度に対応するものとすればよい。
また、断面表示制御部213は、選択されたピーク情報が示す脳の位置を通る三面図を頭部三面図613に表示させる。さらに、断面表示制御部213は、選択されたピーク情報が示す時刻・周波数の生体信号の信号強度に対応するヒートマップを立体画像644の脳に重畳表示させるものとすればよい。
以上のように、ピークリスト614に登録されたピーク情報から特定のピーク情報を選択することによって、当該ピーク情報に対応したヒートマップ611、立体図612および頭部三面図613が表示される。これによって、選択したピークが脳のどの位置、およびどの時刻・周波数であるかを瞬時に認識することができ、さらに、ヒートマップ611においては当該ピークおよびその周りの時刻/周波数における信号強度の状態、および、当該ピークの位置およびその周りの脳の信号強度の状態も把握することが可能となる。
なお、立体画像644に示す脳画像において、ピークリスト614により選択されたピークの位置を中心として、脳の一部をカットアウトする動作が可能であるが、この動作の詳細については、図36以降で説明する。
<再生制御パネルについて>
図29は、再生制御パネルの操作によりヒートマップおよび立体図が再生表示される状態を示す図である。図30は、再生制御パネルの操作によりヒートマップおよび立体図がコマ戻しされる状態を示す図である。図31は、再生制御パネルの操作によりヒートマップおよび立体図がコマ送りされる状態を示す図である。図29〜図31を参照しながら、時間周波数解析画面601の再生制御パネル615を操作した場合の動作について説明する。
再生制御パネル615は、解析者の操作によって、時間経過と共に、ヒートマップ611、立体図612および頭部三面図613の状態を再生表示するためのユーザインターフェースである。
例えば、解析者が、再生制御パネル615の「再生」ボタンを押下すると、再生表示制御部214は、ヒートマップ表示制御部211に対して、図29(a)および図29(b)に示すように、ヒートマップ611で指定されている指定領域622−1、およびその周りの対応領域622−2〜622−5を、時間経過と共に、右方向(時間が進む方向)に移動させるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1および対応領域622−2〜622−5の移動に伴い、立体表示制御部212に対して、図29(a)および図29(b)に示すように、各領域に対応した脳の立体画像の表示に切り替えるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1の移動に伴い、断面表示制御部213に対して、移動している指定領域622−1に対応する時刻・周波数の範囲に対応する信号強度のヒートマップを、三面図および立体画像644に表示させるように指示する。
また、解析者が、再生制御パネル615の「コマ戻し」ボタンを押下すると、再生表示制御部214は、ヒートマップ表示制御部211に対して、図30(a)および図30(b)に示すように、ヒートマップ611で指定されている指定領域622−1、およびその周りの対応領域622−2〜622−5を、所定時間分だけ左方向(時間が戻る方向)に移動させるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1および対応領域622−2〜622−5の移動に伴い、立体表示制御部212に対して、図30(a)および図30(b)に示すように、各領域に対応した脳の立体画像の表示に切り替えるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1の移動に伴い、断面表示制御部213に対して、移動した指定領域622−1に対応する時刻・周波数の範囲に対応する信号強度のヒートマップを、三面図および立体画像644に表示させるように指示する。
また、解析者が、再生制御パネル615の「コマ送り」ボタンを押下すると、再生表示制御部214は、ヒートマップ表示制御部211に対して、図31(a)および図31(b)に示すように、ヒートマップ611で指定されている指定領域622−1、およびその周りの対応領域622−2〜622−5を、所定時間分だけ右方向(時間が進む方向)に移動させるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1および対応領域622−2〜622−5の移動に伴い、立体表示制御部212に対して、図31(a)および図31(b)に示すように、各領域に対応した脳の立体画像の表示に切り替えるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1の移動に伴い、断面表示制御部213に対して、移動した指定領域622−1に対応する時刻・周波数の範囲に対応する信号強度のヒートマップを、三面図および立体画像644に表示させるように指示する。
また、解析者が、再生制御パネル615の「停止」ボタンを押下すると、再生表示制御部214は、ヒートマップ表示制御部211、立体表示制御部212および断面表示制御部213に対して、ヒートマップ611、立体図612、および頭部三面図613におけるそれぞれの再生表示動作を停止するように指示する。
また、解析者が、再生制御パネル615の「先頭へ移動」ボタンを押下すると、再生表示制御部214は、ヒートマップ表示制御部211に対して、ヒートマップ611で指定されている指定領域622−1を、時刻の先頭に移動させるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1の移動に伴い、立体表示制御部212に対して、指定領域622−1に対応した脳の立体画像の表示に切り替えるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1の移動に伴い、断面表示制御部213に対して、移動した指定領域622−1に対応する時刻・周波数の範囲に対応する信号強度のヒートマップを、三面図およびに表示させるように指示する。
また、解析者が、再生制御パネル615の「末尾へ移動」ボタンを押下すると、再生表示制御部214は、ヒートマップ表示制御部211に対して、ヒートマップ611で指定されている指定領域622−1を、時刻の末尾に移動させるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1の移動に伴い、立体表示制御部212に対して、指定領域622−1に対応した脳の立体画像の表示に切り替えるように指示する。また、再生表示制御部214は、ヒートマップ611における指定領域622−1の移動に伴い、断面表示制御部213に対して、移動した指定領域622−1に対応する時刻・周波数の範囲に対応する信号強度のヒートマップを、三面図および立体画像644に表示させるように指示する。
以上のように、再生表示させることによって、立体図612および頭部三面図613に表示される信号強度の分布(ヒートマップ)の時間経過による変化を動画として確認することができ、時間経過によるピークの移動等を視覚的に確認することができる。
<初期表示について>
図32は、ピークに対してどの視点からの図を初期表示させるかを説明する図である。図33は、2つのピークに対してどの視点からの図を初期表示させるかを説明する図である。図34は、図33に説明する視点からの図を立体図に初期表示させた状態を示す図である。図32〜図34を参照しながら、時間周波数解析画面601を起動した(開いた)場合におけるヒートマップ611、立体図612および頭部三面図613の初期表示について説明する。
解析者が、時間周波数解析画面601を起動した(開いた)場合に、ヒートマップ611、立体図612および頭部三面図613の初期表示としてどのような画像を表示させるかについての類型を説明する。
例えば、解析表示制御部202は、時刻・周波数全体を通じて、脳全体において信号強度が最大となる時刻・周波数および脳内の位置を求める。この場合、ヒートマップ表示制御部211は、解析表示制御部202により求められた脳内の位置でのヒートマップ611を表示させる。また、立体表示制御部212は、解析表示制御部202により求められた信号強度が最大となる時刻・周波数に対応する脳の立体画像を立体図612に表示させる。また、断面表示制御部213は、解析表示制御部202により求められた脳内の位置を通るような三面図を頭部三面図613に表示させ、解析表示制御部202により求められた信号強度が最大となる時刻・周波数のヒートマップを三面図および立体画像644に重畳させる。
また、解析表示制御部202は、時刻・周波数全体を通じての信号強度の平均が最大となる脳内の位置を求めるものとしてもよい。この場合、ヒートマップ表示制御部211は、解析表示制御部202により求められた脳内の位置でのヒートマップ611を表示させる。また、立体表示制御部212は、表示されたヒートマップ611のうち信号強度が最大となる時刻・周波数に対応する脳の立体画像を立体図612に表示させる。また、断面表示制御部213は、解析表示制御部202により求められた脳内の位置を通るような三面図を頭部三面図613に表示させ、表示されたヒートマップ611のうち信号強度が最大となる時刻・周波数のヒートマップを三面図および立体画像644に重畳させる。
また、解析表示制御部202は、脳全体で信号強度の平均値が最大となる時刻・周波数を求めるものとしてもよい。この場合、立体表示制御部212は、解析表示制御部202により求められた時刻・周波数に対応する脳の立体画像を立体図612に表示させる。また、ヒートマップ表示制御部211は、立体図612の立体画像に表示された、解析表示制御部202により求められた時刻・周波数に対応するヒートマップにおいて信号強度が最大となる脳内の位置を求め、当該位置でのヒートマップ611を表示させる。また、断面表示制御部213は、ヒートマップ表示制御部211により求められた脳内の位置を通るような三面図を頭部三面図613に表示させ、解析表示制御部202により求められた時刻・周波数のヒートマップを三面図および立体画像644に重畳させる。
また、立体表示制御部212は、ピークリスト614に登録されているピーク情報のうち、先頭のピーク情報が示す脳内の位置でのヒートマップ611を表示させるものとしてもよい。また、立体表示制御部212は、ピークリスト614に登録されているピーク情報のうち、先頭のピーク情報が示す時刻・周波数に対応する脳の立体画像を立体図612に表示させる。また、断面表示制御部213は、ピークリスト614に登録されているピーク情報のうち、先頭のピーク情報が示す脳内の位置を通るような三面図を頭部三面図613に表示させ、当該ピーク情報が示す時刻・周波数のヒートマップを三面図および立体画像644に重畳させる。
また、立体表示制御部212は、測定の対象(視覚野、聴覚野、体性感覚野、運動野および言語野等)に応じてプリセットされた脳内の位置でのヒートマップ611を表示させるものとしてもよい。また、立体表示制御部212は、測定の対象(視覚野、聴覚野、体性感覚野、運動野および言語野等)に応じてプリセットされた時刻・周波数に対応する脳の立体画像を立体図612に表示させる。また、断面表示制御部213は、測定の対象(視覚野、聴覚野、体性感覚野、運動野および言語野等)に応じてプリセットされた脳内の位置を通るような三面図を頭部三面図613に表示させ、当該ピーク情報が示す時刻・周波数のヒートマップを三面図および立体画像644に重畳させる。
次に、解析者が、時間周波数解析画面601を起動した(開いた)場合に、立体図612の脳の立体画像、および、頭部三面図613の立体画像644の表示の初期視点について説明する。
例えば、測定の対象(視覚野、聴覚野、体性感覚野、運動野および言語野等)に応じてプリセットされた視点を初期視点として用いるものとしてもよい。この場合、立体図612については、行(視点)の数もプリセットしておく。立体図612が2行である場合、2つの視点をプリセットしておく必要がある。例えば、言語野が測定対象であれば、脳の左側面および右側面の視点をプリセットしておく。
また、ピークリスト614において先頭に登録されているピークが最もよく見えるような視点を初期視点として用いるものとしてもよい。具体的には、図32に示すように、脳の中心とピークとを結んだ直線811上に初期視点として視点P0を設定するものとすればよい。
また、ピークリスト614において所定のパラメータ(例えば、図26に示すピークの値(信号強度)またはピークの高さ)が、所定の閾値を超えたピークを用いて設定した視点を初期視点として用いるものとしてもよい。例えば、閾値を超えたピークが2つある場合、立体図612の表示を2行表示とし、図33に示すように、脳の中心とそれぞれのピークとを結んだ直線812、813上に、初期視点としてそれぞれ視点P1、P2を設定するものとすればよい。この場合において、視点P1からの脳の立体画像を立体図612の上の行に、視点P2からの脳の立体画像を立体図612の下の行に表示した例を、図34に示す。
なお、上述してきた内容は、生体部位としての脳についての生体信号を取り扱うものとしたが、これに限定されるものではなく、例えば、脊髄、筋肉等の生体部位の生体信号に対して適用することが可能である。例えば、脳の図で説明した立体図612を、腰椎の場合、図35のように表示することが可能である。図35では、図35(a)〜図35(d)の順で時系列に腰椎の信号が上に伝わっていく状態を示している。
<立体画像について>
図36は、立体画像の構成の一例を示す図である。図37は、投影有無選択リストにより投影の有無を選択する動作を説明する図である。図38は、オブジェクト表示選択メニューの一例を示す図である。図39は、時間周波数解析画面の立体画像にオブジェクトが重畳して表示された状態の一例を示す図である。図40は、時間周波数解析画面の立体画像の脳画像をカットアウトした状態の一例を示す図である。図41は、カットアウトを模式的に説明する図である。図42は、ピークリスト画面の一例を示す図である。図36〜図42を参照しながら、時間周波数解析画面601の頭部三面図613に含まれる立体画像644の操作および動作について説明する。
図36に示すように、立体画像644は、脳の3D画像である脳画像を表示するほか、投影有無選択リスト644aと、カットアウトボタン644bと、更新ボタン644cと、リセットボタン644dと、ポップアップボタン644eと、を含む。
投影有無選択リスト644aは、立体画像644に表示された脳画像の表面に表示する生体信号の強度分布として、脳表での生体信号の強度分布を表示するか、脳表から所定のオフセット量だけ内部に向けてオフセットした位置での生体信号の強度、もしくは脳表からオフセットした位置までの経路の生体信号の強度の平均値等を脳表に投影して強度分布として表示するかを選択するためのリストである。図37に、投影有無選択リスト644aから選択項目をプルダウン表示した状態を示す。プルダウン表示に含まれる「脳内部の強度を表面に投影しない」が選択されると、断面表示制御部213は、立体画像644に表示された脳画像の表面に重畳して表示する生体信号の強度分布として、脳表での生体信号の強度分布を表示させる。また、プルダウン表示に含まれる「脳内部の強度を表面に投影する」が選択されると、断面表示制御部213は、立体画像644に表示された脳画像の表面に重畳して表示する生体信号の強度分布として、脳表から所定のオフセット量だけ内部に向けてオフセットした位置での生体信号の強度、もしくは脳表からオフセットした位置までの経路の生体信号の強度の平均値等を脳表に投影して強度分布として表示する。
カットアウトボタン644bは、立体画像644に表示された脳の所定の位置を中心(カットアウト中心)として、脳の一部をカットアウトして表示させるためのボタンである。更新ボタン644cは、カットアウト後の脳画像についてマウスのドラッグ操作等により脳が回転移動された場合等に、そのときの視点に基づいてカットアウトして脳画像の表示を更新するためのボタンである。なお、カットアウト後の脳画像についてマウスのドラッグ操作等により脳が回転移動された場合等に、改めてカットアウトボタン644bを押下することにより、更新ボタン644cを押下した場合の動作と代替できるとした場合には、更新ボタン644cを省略するものとしてもよい。リセットボタン644dは、カットアウト後の脳画像をカットアウト前の脳画像に戻すためのボタンである。
ポップアップボタン644eは、立体画像644の表示内容を、時間周波数解析画面601とは別の画面である、後述する図43に示すポップアップウィンドウ670を表示させるためのボタンである。
また、立体画像644上にマウスポインタを合わせ、入力装置106としてのマウスの右クリック等が行われることにより、断面表示制御部213は、図38に示すようなオブジェクト表示選択メニュー660を表示させる。図38に示すオブジェクト表示選択メニュー660は、立体画像644の脳画像に表示させるオブジェクトを選択するメニューである。脳画像に表示させるオブジェクトとしては、上述したように、脳機能に基づく生体信号の強度分布(ヒートマップ)、ダイポール、脳腫瘍のほか、神経(拡散テンソル画像)、血管、頭蓋骨、硬膜、および頭皮等が挙げられるが、ここでは、脳機能に基づく生体信号の強度分布(ヒートマップ)、ダイポールおよび脳腫瘍を考える。オブジェクト表示選択メニュー660は、オブジェクトして、脳機能に基づく生体信号の強度分布(ヒートマップ)の表示の有無を切り替えるチェックボックス661と、ダイポールの表示の有無を切り替えるチェックボックス662と、脳腫瘍の表示の有無を切り替えるチェックボックス663と、を含む。ユーザは、オブジェクト表示選択メニュー660のチェックボックス661〜663に対する操作により、所望のオブジェクトの表示、非表示を切り替えることができる。
図39に示す時間周波数解析画面601は、オブジェクト表示選択メニュー660におけるチェックボックス661〜663のすべてにチェックを入れた場合の立体画像644の表示例を示す。すなわち、図39に示すように、立体画像644が示す脳画像には、脳活動(ここでは言語機能)の生体信号の強度分布731と、ダイポール群732と、脳腫瘍733とが重畳して表示されている。また、断面表示制御部213は、チェックボックス661〜663のチェック状態に応じて、頭部三面図613の断面図641〜643においても、強度分布731、ダイポール群732および脳腫瘍733に対応するオブジェクトを表示させる。なお、図39に示すように、表示されている各オブジェクトの近傍には、当該各オブジェクトの名称を示すラベル(図39に示す例では、強度分布731について「Language」、ダイポール群732について「Dipole A」、脳腫瘍733について「Tumor」)が表示されているものとしてもよい。これによって、表示されているオブジェクトが何であるのかを把握できる。
ここで、立体画像644におけるカットアウトボタン644bが押下された場合の、立体画像644の脳画像の状態を、図40に示す。ここでは、ピークリスト614において所定のピークが選択されているものとし、この場合、当該ピークの位置をカットアウト中心としてカットアウトされた脳画像が、立体画像644に示されている。これによって、図40に示すように、カットアウトされた脳の内部状態を表示することができる。例えば、図39に示した強度分布731、ダイポール群732および脳腫瘍733について、図40に示すように、カットアウト後の状態である強度分布731a、ダイポール群732aおよび脳腫瘍733aを表示することができる。例えば、強度分布731aに示すように、カットアウトされていない脳の部分では脳表での生体信号の強度分布が重畳して表示され、カットアウトされた断面(以下、カットアウト面と称する場合がある)では、当該断面での生体信号の強度分布が重畳して表示される。
ここで、脳についてカットアウトした状態を図41に示した模式図によって説明する。図41に示す立体図900は、脳の模式的な3D画像を表すものとする。カットアウトボタン644bが押下されると、着目する点である点CC(カットアウト中心)を中心に、当該点CCを通り、かつ互いに垂直に交わる3つの面である面S1〜S3によって脳の一部がカットアウトされる。この場合、カットアウト後の脳において面S1と面S2との交線を線L1、面S2と面S3との交線を線L2、面S3と面S1との交線を線L3とすると、線L1〜L3は互いに直角に点CCで交わる。以下、線L1〜L3を、カットアウト線と称する場合がある。
なお、上述では、ピークリスト614から生体信号の強度のピークを選択するものとしたが、例えば、入力装置106による操作により表示される図42に示すピークリスト画面680からピークを選択するものとしてもよい。図42に示すピークリスト画面680は、各脳機能の活動領域ごとのピークのリストを示す。図42に示すピークのリストの例は、左の上前頭回(「L_superior_frontal_gyrus」)の領域における生体信号の強度のピークのリストを示している。
<立体画像のポップアップウィンドウ>
図43は、立体画像に基づくポップアップウィンドウで脳画像を表示した状態の一例を示す図である。図44は、脳画像で表示されているオブジェクトを選択する動作を説明する図である。図43および図44を参照しながら、立体画像644についてのポップアップウィンドウについて説明する。
入力装置106によりポップアップボタン644eが押下されると、断面表示制御部213は、図43に示すように、立体画像644に示した脳画像を拡大表示するためのポップアップウィンドウ670を、時間周波数解析画面601と別の画面として表示させる。ポップアップウィンドウ670は、立体画像644の脳の3D画像である脳画像を拡大表示するほか、投影有無選択リスト670aと、カットアウトボタン670bと、更新ボタン670cと、リセットボタン670dと、拡大ボタン670fと、縮小ボタン670gと、を含む。このうち、投影有無選択リスト670a、カットアウトボタン670b、更新ボタン670cおよびリセットボタン670dの機能は、それぞれ立体画像644の投影有無選択リスト644a、カットアウトボタン644b、更新ボタン644cおよびリセットボタン644dの機能と同様である。このように、時間周波数解析画面601とは別の画面として、立体画像644を拡大表示するポップアップウィンドウ670を表示することによって、脳の状態を把握しやすくすることができる。
拡大ボタン670fは、ポップアップウィンドウ670に表示されている脳画像を所定の倍率で拡大するためのボタンである。縮小ボタン670gは、ポップアップウィンドウ670に表示されている脳画像を所定の倍率で縮小するためのボタンである。これらの操作によって、脳画像の脳表およびカットアウト面の状態、およびオブジェクトの状態を解析者が見やすいように調整することができる。
また、図44に示すように、ポップアップウィンドウ670に表示された脳画像における各オブジェクト(図44では強度分布731a、ダイポール群732aおよび脳腫瘍733a)は、例えば入力装置106としてのマウスによるクリック操作によって選択することが可能である。例えば、断面表示制御部213は、図44に示すように、脳腫瘍733aが選択されたものとした場合、当該脳腫瘍733aをハイライト状態(強調表示の一例)にする。これによって、どのオブジェクトが選択されているのかを明示することができる。なお、オブジェクトをハイライト状態にするのは、マウスのクリック操作により選択された場合に限定されるものではなく、例えば、マウスポインタをオブジェクト上にマウスオーバーさせた場合に、ハイライト状態にするものとしてもよい。この場合、マウスポインタをオブジェクトから外すとハイライト状態が解除され、また、マウスオーバーによりオブジェクトをハイライト状態にさせた状態でクリック操作すると当該オブジェクトの選択が確定し、当該ハイライト状態が維持されるものとすればよい。また、図44では、各オブジェクトのラベルがすべて表示されているが、これに限定されるものではなく、ハイライト状態になった場合にラベルを表示させるものとしてもよい。また、ハイライト状態ではなく、例えば、オブジェクトの輪郭を太線で明示する等によって強調するものとしてもよい。
そして、特定のオブジェクトを選択した状態で、カットアウトボタン670bを押下すると、断面表示制御部213は、オブジェクトの位置に基づいて決定した点(カットアウト中心)を中心にして、図41で上述したように脳の一部をカットアウトして表示する。具体的には、例えば脳腫瘍733aが選択されている場合、断面表示制御部213は、脳腫瘍733aが占める領域の中心(例えば脳腫瘍733aの重心等)をカットアウト中心としてカットアウトする。このように、解析者が着目するオブジェクト等の部位または領域の近傍の内部状態を把握するために、当該部位または領域の位置に基づいたカットアウト表示を行うことができる。
なお、図44に示すようなオブジェクトの選択、および選択されたオブジェクトの位置に基づいたカットアウト表示は、立体画像644でも行うことが可能である。また、ポップアップウィンドウ670で行われた操作後の脳画像の表示状態は、立体画像644へ反映されるものとしてもよい。
また、上述では、カットアウトボタン670b(またはカットアウトボタン644b)が押下されるとカットアウト中心を中心にカットアウトされ、カットアウトして除かれた部分(以下、カットアウト部分と称する場合がある)を消去するものとしているが、これに限定されるものではない。例えば、図45に示すように、脳を模式的に表した立体図900から、カットアウト中心である点CCを中心にカットアウトされた場合、立体図900から分離したカットアウト部分901を消去するのではなく、カットアウトされた脳の本体と共に表示を残すものとしてもよい。この場合、マウスのドラッグ操作等によりカットアウト部分901も回転が可能であり、カットアウト部分901側の断面の状態およびオブジェクトの状態を確認することができる。
<カットアウト方向および初期視点について>
図46は、ダイポールを選択した場合のカットアウト方向および視点を模式的に説明する図である。図47は、脳機能の領域に基づいて視点を変更する動作を説明する図である。図46および図47を参照しながら、立体画像644またはポップアップウィンドウ670に表示された脳画像のカットアウト方向および視点について説明する。
図46では、オブジェクトとしてダイポール(例えば、図43に示すダイポール群732aのうちの1つ)を選択してカットアウトする場合のカットアウト方向および視点について示している。図46では、ダイポールの電流の向きを直線DDで表しており、断面表示制御部213は、ダイポールが選択され、カットアウトボタン670b(またはカットアウトボタン644b)が押下された場合、この直線DDに対して各カットアウト線(線L1〜L3)となす角度が同じとなるように、ダイポールの位置をカットアウト中心としてカットアウトを行う。さらに、断面表示制御部213は、図46に示すように、直線DDの延長線上に解析者(使用者の一例)の視点P10が位置するように、カットアウトされた脳画像を回転させて表示する。これによって、解析者が着目するオブジェクトであるダイポールの近傍の内部状態を、カットアウト面が見やすいようにドラッグ操作等によって脳画像を回転操作することなく、ダイポールの方向に視点を自動で移動させることができるので、ダイポールおよび当該ダイポールの近傍の内部状態を容易に確認することができる。なお、上述の直線DDを、カットアウト方向と称する場合がある。また、上述では直線DDをカットアウト方向としているが、これに限定されるものではなく、直線DDに基づく方向(例えば直線DDと垂直な方向等)をカットアウト方向とするものとしてもよい。
また、生体信号の強度分布(例えば、図43に示す強度分布731a)を選択してカットアウトする場合のカットアウト方向および視点について説明する。図47では、各種の脳機能の活動領域を示している。例えば、言語・聴覚機能の活動領域は、図47(a)に示すように左半球(左脳)の左側、および右半球(右脳)の右側に存在する。この場合、立体画像644またはポップアップウィンドウ670に表示される3次元の脳画像は、図47(d)に示す視点A(すなわち、左半球の左側からの視点、および右半球の右側からの視点)から表示させると、言語・聴覚機能の活動領域における強度分布を確認しやすい。また、運動・体性感覚機能の活動領域は、図47(b)に示すように、左半球および右半球の上側に存在する。この場合、立体画像644またはポップアップウィンドウ670に表示される3次元の脳画像は、図47(d)に示す視点B(すなわち、左半球および右半球の上側からの視点)から表示させると、運動・体性感覚の活動領域における強度分布を確認しやすい。また、視覚機能の活動領域は、図47(c)に示すように、左半球および右半球の後側に存在する。この場合、立体画像644またはポップアップウィンドウ670に表示される3次元の脳画像は、図47(d)に示す視点C(すなわち、左半球および右半球の後側からの視点)から表示させると、視覚機能の活動領域における強度分布を確認しやすい。
この場合、断面表示制御部213は、特定の脳機能の活動領域における強度分布がオブジェクトとして選択された場合、例えば、脳の中心と、当該強度分布の領域の中心とを結ぶ直線に対して各カットアウト線(線L1〜L3)となす角度が同じとなるように、当該強度分布の中心をカットアウト中心としてカットアウトを行う。さらに、断面表示制御部213は、脳の中心と、当該強度分布の領域の中心とを結ぶ直線の延長線上に解析者の視点が位置するように、カットアウトされた脳画像を回転させて表示する。これによって、解析者が着目するオブジェクトである生体信号の強度分布の近傍の内部状態を、カットアウト面が見やすいようにドラッグ操作等によって脳画像を回転操作することなく、容易に確認することができる。なお、上述の脳の中心と、強度分布の領域の中心とを結ぶ直線を、カットアウト方向と称する場合がある。
また、脳腫瘍等のオブジェクトについては、特にカットアウトをする方向および視点を、特定の方向および視点にするべき要素がないので、例えば、断面表示制御部213は、そのときに解析者が立体画像644またはポップアップウィンドウ670を見ている視点と、カットアウト中心(脳腫瘍の領域の中心)とを結ぶ直線と、各カットアウト線とのなす角度が同じとなるように、カットアウトを行うものとすればよい。この場合、解析者がそのとき見ている視点に基づく方向でカットアウトされるので、カットアウトされた脳画像について、視点を変更するための回転動作は必要がなく、解析者が意図する視点でカットアウトができ、解析者が着目するオブジェクト等の部位または領域の近傍の内部状態を把握することができる。なお、上述の解析者が立体画像644またはポップアップウィンドウ670を見ている視点と、カットアウト中心(脳腫瘍の領域の中心)とを結ぶ直線を、カットアウト方向と称する場合がある。
なお、ダイポールまたは強度分布についても、当該向きに基づいてカットアウトするのではなく、そのとき解析者が見ている視点に基づいてカットアウトを行うものとしてもよい。これによって、解析者が意図する視点でカットアウトができ、解析者が着目するオブジェクト等の部位または領域の近傍の内部状態を把握することができる。また、カットアウトの際、例えば脳腫瘍のオブジェクトを含めてカットアウトするのか、または、脳腫瘍のオブジェクトを除いた脳の部分だけをカットアウトするのかを、選択できるものとしてもよい。
<カットアウト部分の変動動作>
図48は、カットアウトする方向に沿ってカットアウト部分を変動させる動作を説明する図である。図49は、特定のカットアウト面を選択してスライドすることによりカットアウト部分を変動させる動作を説明する図である。図50は、時間周波数解析画面において特定のカットアウト面を選択してカットアウト部分を変動させる動作を説明する図である。上述では、所定の点をカットアウト中心としてカットアウトする動作について説明したが、そのカットアウトした状態から、さらに脳の内部状態の確認位置を微調整したい場合がある。そこで、図48〜図50を参照しながら、脳の内部状態の確認位置を微調整、すなわち、脳のカットアウト部分を変動させる動作について説明する。
まず、脳画像を模式的に表した立体図900において、図48(a)に示すように、点CCをカットアウト中心として、当該点CCを通り、かつ互いに垂直に交わる3つの面である面S1〜S3によって脳の一部をカットアウトした状態を考える。そして、脳の内部状態の確認位置を微調整、すなわち、脳のカットアウト部分を変動させる動作の一例として、図48(b)に示すように、入力装置106としてのマウスのマウスホイール等の操作に応じて、断面表示制御部213は、解析者が立体画像644またはポップアップウィンドウ670を見ている視点と、点CCとを結ぶ直線に沿って、カットアウト部分を変動させる。図48(b)に示す例は、図48(a)に示す状態から、視点と点CCとを結ぶ直線上を奥側に向かってカットアウト部分が変動された状態を示す。その結果、カットアウト中心である点CCは、点CCaへ移動し、カットアウト面である面S1〜S3は、それぞれ面S1a〜S3aへ移動し、カットアウト線である線L1〜L3は、それぞれ線L1a〜L3aへ移動する。
また、脳の内部状態の確認位置を微調整、すなわち、脳のカットアウト部分を変動させる動作の他の例について、図49を参照しながら説明する。図49(a)に示す脳の状態は、図48(a)と同様の態様で、立体図900に示す脳がカットアウトされた状態と同様である。そして、断面表示制御部213は、カットアウト面である面S1〜S3のいずれかにマウスポインタが入力装置106であるマウスにより移動され、クリック操作またはマウスオーバーされると、対象となる面(カットアウト面)をハイライト状態(強調表示の一例)にして選択状態にする。その状態で、マウスのマウスホイール等の操作に応じて、断面表示制御部213は、選択されたカットアウト面を、当該カットアウト面と垂直なカットアウト線に沿って移動させて、カットアウト部分を変動させる。具体的には、カットアウト面として面S2が選択された状態で、マウスホイール等の操作が行われると、断面表示制御部213は、選択された面S2を、当該面S2と垂直なカットアウト線である線L3に沿って移動させて、カットアウト部分を変動させる。その結果、カットアウト中心である点CCは、点CCbへ移動し、カットアウト面である面S1〜S3は、それぞれ面S1b〜S3bとなり、カットアウト線である線L1〜L3は、それぞれ線L1b〜L3bとなる。なお、面S1または面S3を選択して、同様に、垂直なカットアウト線に沿って移動できるのは言うまでもない。また、選択したカットアウト面をハイライト状態とする以外に、例えば、当該カットアウト面の輪郭を太線で明示する等によって強調するものとしてもよい。
また、図49の模式図で示したカットアウト部分の変動動作を、時間周波数解析画面601の立体画像644で行っている例を、図50に示す。図50の立体画像644に示す脳画像は、カットアウトされた状態を示しており、3つのカットアウト面のうち1つ(面S2c)が選択されハイライト状態となっており、当該選択された面に垂直なカットアウト線に沿って当該面を移動させることによってカットアウト部分を変動させることができる。
以上のように、立体画像644またはポップアップウィンドウ670においてカットアウトされた脳画像に対して、いずれかのカットアウト面を選択し、当該選択されたカットアウト面に垂直なカットアウト線に沿って当該カットアウト面を移動させて、カットアウト部分を変動させることができるので、カットアウトした状態から、さらに脳の内部の確認位置を微調整することが可能となる。
さらに、立体画像644またはポップアップウィンドウ670に示す脳画像のカットアウト部分が変動すると、図48および図49で上述したように、カットアウト中心が移動するので、断面表示制御部213は、断面図641〜643の基準線645a〜645dで特定される脳の位置を、移動したカットアウト中心を示すように移動させ、かつ、当該カットアウト中心を通る脳の断面図を断面図641〜643にそれぞれ表示させる。これによって、立体画像644またはポップアップウィンドウ670に表示された3次元の脳画像のカットアウト表示だけでなく、カットアウト中心を通る断面図を断面図641〜643で確認することができるので、さらに解析の利便性が向上する。
以上のように、本実施形態に係る情報処理装置50では、脳の着目する部位または領域(生体信号の強度分布、ダイポール、脳腫瘍等のオブジェクト)を選択可能とし、選択された部位または領域の位置に基づいて、カットアウト表示を行うことができる。これによって、着目する部位または領域の近傍の内部状態を把握することが容易となる。
また、選択されたオブジェクトの中心をカットアウト中心として、脳の一部をカットアウトする場合、例えば、ダイポールについてはその向きに沿って、生体信号の強度分布については、その強度分布の存在する位置と脳の中心とを結ぶ直線に沿って、また、脳腫瘍については、脳腫瘍の中心と、立体画像644またはポップアップウィンドウ670を見ている視点とを結ぶ直線に沿ってカットアウトをするものとしている。そして、これらの直線の延長線上に視点が位置するように、カットアウトされた脳画像を回転させて表示するものとしている。これによって、解析者が着目するオブジェクトの近傍の内部状態を、カットアウト面が見やすいようにドラッグ操作等によって脳画像を回転操作することなく、カットアウトした直線の方向に視点を自動で移動させることができるので、オブジェクトおよび当該オブジェクトの近傍の内部状態を容易に確認することができる。
また、カットアウトされた脳画像において、カットアウト方向に沿ってカットアウト部分を変動させたり、または、選択したカットアウト面のうちいずれかの面を、当該面に垂直なカットアウト線に沿って移動させることによってカットアウト部分を変動させることができる。これによって、カットアウトした状態から、さらに脳の内部の確認位置を微調整することが可能となる。
また、上述の実施形態において、生体信号計測システム1の各機能部の少なくともいずれかがプログラムの実行によって実現される場合、そのプログラムは、ROM等に予め組み込まれて提供される。また、上述の実施形態に係る生体信号計測システム1で実行されるプログラムは、インストール可能な形式または実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R(Compact Disk Recordable)、DVD(Digital Versatile Disc)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。また、上述の実施形態の生体信号計測システム1で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述の実施形態の生体信号計測システム1で実行されるプログラムを、インターネット等のネットワーク経由で提供または配布するように構成してもよい。また、上述の実施形態の生体信号計測システム1で実行されるプログラムは、上述した各機能部のうち少なくともいずれかを含むモジュール構成となっており、実際のハードウェアとしてはCPUがROM等からプログラムを読み出して実行することにより、上述の各機能部が主記憶装置上にロードされて生成されるようになっている。
1 生体信号計測システム
3 測定装置
4 測定テーブル
31 デュワ
32 窪み
40 サーバ
50 情報処理装置
101 CPU
102 RAM
103 ROM
104 補助記憶装置
105 ネットワークI/F
106 入力装置
107 表示装置
108 バス
201 収集表示制御部
202 解析表示制御部
203 ピークリスト制御部
204 通信部
205 センサ情報取得部
206 解析部
207 記憶部
208 入力部
211 ヒートマップ表示制御部
212 立体表示制御部
213 断面表示制御部
214 再生表示制御部
501 開始画面
502 測定収集画面
511a、511b 領域
512 モニタウィンドウ
521〜523 第2表示領域
523a−1、523a−2 マーク
526−1、526−2 属性アイコン
530 第1表示領域
530a−1、530a−2 アノテーション
531 時間軸
532 ライン
535 ポップアップウィンドウ
535a 選択ボタン
535b 入力ボックス
538 カウンタボックス
539 終了ボタン
541、542 脳磁分布図
550 脳波分布図
560 アノテーションリスト
560a 選択ボックス
601 時間周波数解析画面
605 解析画面切替リスト
611 ヒートマップ
612、612a 立体図
612−1〜612−3 表示領域
613、613a 頭部三面図
614 ピークリスト
614a ピークリスト設定ボタン
615 再生制御パネル
621、621−1 指定部
621−2〜621−5 対応部
622、622−1 指定領域
622−2〜622−5 対応領域
623 指定領域
631−1〜631−5 線分
635 コメント
641〜643 断面図
644 立体画像
644a 投影有無選択リスト
644b カットアウトボタン
644c 更新ボタン
644d リセットボタン
644e ポップアップボタン
645a〜645d 基準線
646、646a、646b ピーク点
647 ダイポール
650〜652 ダイアログボックス
655 ダイアログボックス
656 プルダウンリスト
660 オブジェクト表示選択メニュー
661〜663 チェックボックス
670 ポップアップウィンドウ
670a 投影有無選択リスト
670b カットアウトボタン
670c 更新ボタン
670d リセットボタン
670f 拡大ボタン
670g 縮小ボタン
680 ピークリスト画面
712a−1〜712a−5 部位
712b−1〜712b−5 部位
713a−1、713a−2、713b〜713d 部位
722−1〜722−5 枠
731、731a 強度分布
732、732a ダイポール群
733、733a 脳腫瘍
801、802 ピーク部
811〜813 直線
900、900a、900b 立体図
901 カットアウト部分
A1、A2 アノテーション
CC、CCa、CCb 点
DD 直線
L1〜L3 線
L1a〜L3a 線
L1b〜L3b 線
P0〜P2、P10 視点
S1〜S3 面
S1a〜S3a 面
S1b〜S3b 面
S2c 面
米国特許出願公開第2019/0236824号明細書

Claims (20)

  1. 特定の発信源から生体波形に基づく、時間、周波数および3次元空間の位置の5次元についての生体信号の強度のうち、少なくとも3次元空間の位置の前記生体信号の強度分布を前記発信源の3次元形状の画像にオブジェクトとして重畳して表示させる第1表示制御部と、
    前記オブジェクトの位置に基づく点をカットアウト中心として、前記3次元形状の一部をカットアウトする第2表示制御部と、
    を備えた情報処理装置。
  2. 前記第1表示制御部は、前記オブジェクトのうち、入力装置により選択されたオブジェクトを強調表示し、
    前記第2表示制御部は、前記選択されたオブジェクトの位置に基づく点を前記カットアウト中心として、前記3次元形状の一部をカットアウトする請求項1に記載の情報処理装置。
  3. 前記第2表示制御部は、前記オブジェクトの中心を前記カットアウト中心としてカットアウトする請求項1または2に記載の情報処理装置。
  4. 前記第2表示制御部は、前記オブジェクトの方向に基づいたカットアウト方向にカットアウトする請求項1〜3のいずれか一項に記載の情報処理装置。
  5. 前記第2表示制御部は、前記オブジェクトがダイポールである場合、該ダイポールの方向を前記カットアウト方向としてカットアウトする請求項4に記載の情報処理装置。
  6. 前記第2表示制御部は、使用者の視点と、前記オブジェクトの位置に基づく点とを結ぶ直線の方向をカットアウト方向としてカットアウトする請求項1〜3のいずれか一項に記載の情報処理装置。
  7. 前記第2表示制御部は、入力装置により前記3次元形状の画像の更新操作が行われた場合、表示されている該3次元形状の画像に対する使用者の視点と、前記カットアウト中心とを結ぶ直線の方向をカットアウト方向としてカットアウトする請求項1〜6のいずれか一項に記載の情報処理装置。
  8. 前記第2表示制御部は、前記3次元形状の一部を前記カットアウト方向にカットアウトする動作として、該カットアウト方向と、カットアウトにより生じる各断面の交線とのなす角度がすべて同じとなるようにカットアウトする請求項4〜7のいずれか一項に記載の情報処理装置。
  9. 前記第2表示制御部は、前記3次元形状の一部をカットアウトした場合に、前記カットアウト方向に使用者の視点が位置するように、該3次元形状を回転させる請求項4〜8のいずれか一項に記載の情報処理装置。
  10. 前記第2表示制御部は、前記3次元形状の一部をカットアウトした後、入力装置の操作に応じて、前記カットアウト方向に沿ってカットアウトする部分を変動させる請求項4〜9のいずれか一項に記載の情報処理装置。
  11. 前記第2表示制御部は、前記3次元形状の一部をカットアウトした後、カットアウトの断面のうち、入力装置により選択されたカットアウトの断面を、該断面に垂直な直線に沿って移動させることにより、カットアウトする部分を変動させる請求項1〜9のいずれか一項に記載の情報処理装置。
  12. 前記第2表示制御部は、前記選択されたカットアウトの断面を強調表示する請求項11に記載の情報処理装置。
  13. 前記第2表示制御部は、入力装置としてのマウスのマウスホイールの操作に応じて、前記選択されたカットアウトの断面を、該断面に垂直な直線に沿って移動させる請求項11または12に記載の情報処理装置。
  14. 前記3次元形状に対する所定の面での断面図を表示する第3表示制御部を、さらに備え、
    前記第3表示制御部は、前記第2表示制御部により前記カットアウトする部分が変動された場合、変動後の前記カットアウト中心を通る断面図の表示に更新する請求項10〜13のいずれか一項に記載の情報処理装置。
  15. 前記第1表示制御部は、前記オブジェクトのうち、予め選択されたオブジェクトのみを前記3次元形状の画像に重畳して表示させる請求項1〜14のいずれか一項に記載の情報処理装置。
  16. 前記第2表示制御部は、前記3次元形状の一部をカットアウトした場合、該一部を該3次元形状から分離して表示させたままとする請求項1〜15のいずれか一項に記載の情報処理装置。
  17. 前記オブジェクトは、少なくとも前記生体信号の強度分布、ダイポール、および脳腫瘍を含む請求項1〜16のいずれか一項に記載の情報処理装置。
  18. 特定の発信源から生体波形に基づく、時間、周波数および3次元空間の位置の5次元についての生体信号の強度のうち、少なくとも3次元空間の位置の前記生体信号の強度分布を前記発信源の3次元形状の画像にオブジェクトとして重畳して表示させる第1表示制御ステップと、
    前記オブジェクトの位置に基づく点をカットアウト中心として、前記3次元形状の一部をカットアウトする第2表示制御ステップと、
    を有する情報処理方法。
  19. コンピュータに、
    特定の発信源から生体波形に基づく、時間、周波数および3次元空間の位置の5次元についての生体信号の強度のうち、少なくとも3次元空間の位置の前記生体信号の強度分布を前記発信源の3次元形状の画像にオブジェクトとして重畳して表示させる第1表示制御ステップと、
    前記オブジェクトの位置に基づく点をカットアウト中心として、前記3次元形状の一部をカットアウトする第2表示制御ステップと、
    を実行させるためのプログラム。
  20. 被験者から1種類以上の前記生体波形を測定する測定装置と、
    請求項1〜17のいずれか一項に記載の情報処理装置と、
    を備えた生体信号計測システム。
JP2020048468A 2020-03-18 2020-03-18 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム Pending JP2021145875A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020048468A JP2021145875A (ja) 2020-03-18 2020-03-18 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020048468A JP2021145875A (ja) 2020-03-18 2020-03-18 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム

Publications (1)

Publication Number Publication Date
JP2021145875A true JP2021145875A (ja) 2021-09-27

Family

ID=77849956

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020048468A Pending JP2021145875A (ja) 2020-03-18 2020-03-18 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム

Country Status (1)

Country Link
JP (1) JP2021145875A (ja)

Similar Documents

Publication Publication Date Title
US11037349B2 (en) Information displaying system and non-transitory recording medium
JP2020146204A (ja) 情報処理装置、情報処理方法、プログラムおよび情報処理システム
US10679394B2 (en) Information processing device, information processing method, computer program product, and biosignal measurement system
US11207044B2 (en) Information processing apparatus, information processing method, computer-readable medium, and biological signal measurement system
JP7009906B2 (ja) 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム
US11666262B2 (en) Information display device, biological signal measurement system and computer-readable recording medium
JP2018153612A (ja) 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム
US20200297231A1 (en) Information processing device, information processing method, recording medium storing program code, and biomedical-signal measuring system
US20190282111A1 (en) Input device, measurement system, and computer-readable medium
US11109810B2 (en) Information display device, biological signal measurement system, and computer program product
US11237712B2 (en) Information processing device, biomedical-signal measuring system, display method, and recording medium storing program code
US11457856B2 (en) Information processing device, information processing method, recording medium storing program code, and biomedical-signal measuring system
US11138779B2 (en) Information processing apparatus, information processing method, computer-readable medium, and biological signal measurement system
US11484268B2 (en) Biological signal analysis device, biological signal measurement system, and computer-readable medium
JP7135845B2 (ja) 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム
JP2021145875A (ja) 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム
JP7176197B2 (ja) 情報処理装置、生体信号計測システム、表示方法、及びプログラム
JP2021145969A (ja) 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム
JP2021019954A (ja) 情報処理装置、生体信号表示装置およびプログラム
US20190200887A1 (en) Information processing device, biomedical-signal measuring system, and recording medium storing program code
JP7200774B2 (ja) 情報表示方法、情報表示装置、情報表示システム、プログラム及び記録媒体
JP2019155074A (ja) 情報処理装置、情報処理方法、プログラムおよび生体信号計測システム
JP2021069930A (ja) ダイポール群数値化方法およびダイポール群表示システム
JP2019162404A (ja) 情報表示システム、情報表示装置およびプログラム