JP2004029961A - 画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体 - Google Patents
画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体 Download PDFInfo
- Publication number
- JP2004029961A JP2004029961A JP2002181879A JP2002181879A JP2004029961A JP 2004029961 A JP2004029961 A JP 2004029961A JP 2002181879 A JP2002181879 A JP 2002181879A JP 2002181879 A JP2002181879 A JP 2002181879A JP 2004029961 A JP2004029961 A JP 2004029961A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- search
- group
- image group
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【課題】操作者の意図等を正確に反映した画像を検索して呈示する画像検索支援装置を提供する。
【解決手段】本発明に係る画像検索支援装置1は、複数の画像及び属性情報を記憶している画像記憶手段10と、属性情報及び操作者の検索課題に基づいて適合度を求め、適合度が高い複数の画像を検索して出力する画像検索手段11と、画像を逐次表示する画像表示手段12と、画像を操作者が視認した時に生じる脳波データを取得する脳波データ取得手段13と、複数の画像を適合度順に配列する配列処理と、配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する変更処理とを行う画像配列変更手段14とを備える。
【選択図】 図1
【解決手段】本発明に係る画像検索支援装置1は、複数の画像及び属性情報を記憶している画像記憶手段10と、属性情報及び操作者の検索課題に基づいて適合度を求め、適合度が高い複数の画像を検索して出力する画像検索手段11と、画像を逐次表示する画像表示手段12と、画像を操作者が視認した時に生じる脳波データを取得する脳波データ取得手段13と、複数の画像を適合度順に配列する配列処理と、配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する変更処理とを行う画像配列変更手段14とを備える。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体に関するものである。
【0002】
【従来の技術】
操作者の意図等に適合させるために脳波などの生体信号を用いたものとして特開2000−235588号公報には、操作者のデザイン画像評価において、デザイン画像を見た時の操作者のα波及びβ波の検出を行い、その検出されたα波及びβ波それぞれに基づいて操作者のデザイン画像に対する評価を判定し、その判定結果に基づいて操作者の感性に適合するようにデザインの修正を行うデザイン構築支援システムに係る発明が記載されている。また、画像を並び替える技術として特開平10−275161号公報には、操作者にあらかじめマニュアルで複数の画像を仮選択させ、仮選択された画像に共通なキーワードとの適合度に基づいて画像の並べ替えを行うことにより操作者の要求に合致する画像を効率良く検索することのできる手法が提案されている。
【0003】
【発明が解決しようとする課題】
しかしながら、α波、β波などの脳波の周波数成分に基づく場合には、脳波を加工せずに利用しているため、操作者の意図等とは無関係な高次の認知処理による影響を受ける可能性があり正しく操作者の意図等を抽出できないという欠点を持つ。また、操作者にあらかじめマニュアルで複数の画像を仮選択させ、仮選択された画像に共通なキーワードとの適合度に基づいて画像の並べ替えを行う方法では検索の自動化が困難という課題を有する。
【0004】
本発明は、上記問題点を解消する為になされたものであり、操作者の意図や趣向等を正確に反映した画像を検索して呈示することができる画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体を提供することを目的とする。
【0005】
【課題を解決するための手段】
本発明に係る画像検索支援装置は、複数の画像及び複数の画像それぞれの属性情報を記憶している画像記憶手段と、画像記憶手段により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力する画像検索手段と、画像検索手段により出力された複数の画像それぞれを逐次表示する画像表示手段と、画像表示手段により逐次表示された複数の画像それぞれを操作者が視認した時に生じる操作者の脳波データを取得する脳波データ取得手段と、画像検索手段により出力された複数の画像を適合度順に配列する配列処理と、その配列した複数の画像を配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する変更処理と、を行う画像配列変更手段と、を備えることを特徴とする。
【0006】
本発明に係る画像検索支援方法は、複数の画像及び複数の画像それぞれの属性情報を記憶している画像記憶手段を有し、画像記憶手段により記憶されている画像の検索をするときに検索支援を行う画像検索支援方法であって、画像記憶手段により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力する画像検索ステップと、画像検索ステップで出力された複数の画像それぞれを逐次表示する画像表示ステップと、画像表示ステップで逐次表示された複数の画像それぞれを操作者が視認した時に生じる操作者の脳波データを取得する脳波データ取得ステップと、画像検索ステップで出力された複数の画像を適合度順に配列する配列処理と、その配列した前記複数の画像を配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する変更処理と、を行う画像配列変更ステップと、を備えることを特徴とする。
【0007】
本発明に係る画像検索支援装置又は画像検索支援方法によれば、複数の画像及び複数の画像それぞれの属性情報が画像記憶手段により記憶され、画像記憶手段により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段により(画像検索ステップで)検索され出力される。
【0008】
次に、画像検索手段により(画像検索ステップで)出力された複数の画像それぞれが画像表示手段により(画像表示ステップで)逐次表示され、画像表示手段により(画像表示ステップで)逐次表示された画像を操作者が視認した時に生じる操作者の脳波データが脳波データ取得手段により(脳波データ取得ステップで)取得される。
【0009】
さらに、画像配列変更手段により(画像配列変更ステップで)、画像検索手段により(画像検索ステップで)出力された複数の画像が配列処理されて適合度順に配列され、その配列された複数の画像が分類処理されて配列順に従って複数の画像群に分類され、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとが加算処理され得られるN400の値が最大または最小となる一部の画像が求められることにより変更処理されて画像の配列が変更される。
【0010】
また、本発明に係る画像検索支援装置は、画像配列変更手段により変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する補助検索情報生成手段をさらに備え、画像検索手段は、補助検索情報生成手段により生成された補助検索情報、属性情報及び操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力することが好適である。
【0011】
また、本発明に係る画像検索支援方法は、画像配列変更ステップで変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する補助検索情報生成ステップをさらに備え、画像検索ステップでは、補助検索情報生成ステップで生成された補助検索情報、属性情報及び操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力することが好適である。
【0012】
この場合、画像配列変更手段により(画像配列変更ステップで)変更された画像の配列における操作者に特有の配列の特徴が抽出され、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力ための補助検索情報が補助検索情報生成手段により(補助検索情報生成ステップで)生成される。
【0013】
そして、補助検索情報生成手段により(補助検索情報生成ステップで)生成された補助検索情報、属性情報及び操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段により(画像検索ステップで)検索され出力される。
【0014】
また、画像配列変更手段は、画像検索手段により出力された複数の画像を適合度の高い順に第1画像群、第2画像群及び第3画像群に分類し、第2画像群に属する一部の画像を第1画像群に加えて第4画像群とし、第2画像群に属する残りの画像を第3画像群に加えて第5画像群とし、第4画像群に属するそれぞれの画像に対する脳波データを加算し、第5画像群に属するそれぞれの画像に対する脳波データを加算し、それぞれの加算結果におけるN400の値の差が最大になる一部の画像及び残りの画像それぞれを求めることにより第2画像群に属する複数の画像の配列を変更することが好適である。
【0015】
また、画像配列変更ステップでは、画像検索ステップで出力された複数の画像を適合度の高い順に第1画像群、第2画像群及び第3画像群に分類し、第2画像群に属する一部の画像を第1画像群に加えて第4画像群とし、第2画像群に属する残りの画像を第3画像群に加えて第5画像群とし、第4画像群に属するそれぞれの画像に対する脳波データを加算し、第5画像群に属するそれぞれの画像に対する脳波データを加算し、それぞれの加算結果におけるN400の値の差が最大になる一部の画像及び残りの画像それぞれを求めることにより第2画像群に属する複数の画像の配列を変更することが好適である。
【0016】
この場合、画像配列変更手段により(画像配列変更ステップで)、画像検索手段により(画像検索ステップで)出力された複数の画像が適合度の高い順に第1画像群、第2画像群及び第3画像群に分類され、第2画像群に属する一部の画像が第1画像群に加えられて第4画像群とされ、第2画像群に属する残りの画像が第3画像群に加えられて第5画像群とされ、次に、第4画像群に属するそれぞれの画像に対する脳波データが加算され、第5画像群に属するそれぞれの画像に対する脳波データが加算され、それぞれの加算結果におけるN400の値の差が最大になる一部の画像及び残りの画像それぞれが求められることにより第2画像群に属する複数の画像の配列が変更される。
【0017】
また、画像配列変更手段は、画像検索手段により出力された複数の画像を適合度の高い順に第6画像群及び第7画像群に分類し、第7画像群に属する一部の画像を第6画像群に加えて第8画像群とし、第8画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最大になる一部の画像を求めることにより第7画像群に属する複数の画像の配列を変更することが好適である。
【0018】
また、画像配列変更ステップでは、画像検索ステップで取得された複数の画像を適合度の高い順に第6画像群及び第7画像群に分類し、第7画像群に属する一部の画像を第6画像群に加えて第8画像群とし、第8画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最大になる一部の画像を求めることにより第7画像群に属する複数の画像の配列を変更することが好適である。
【0019】
この場合、画像配列変更手段により(画像配列変更ステップで)、画像検索手段により(画像検索ステップで)出力された複数の画像が適合度の高い順に第6画像群及び第7画像群に分類され、第7画像群に属する一部の画像が第6画像群に加えられて第8画像群とされ、次に、第8画像群に属するそれぞれの画像に対する脳波データが加算され、その加算結果におけるN400の値が最大になる一部の画像が求められることにより第7画像群に属する複数の画像の配列が変更される。
【0020】
また、画像配列変更手段は、画像検索手段により出力された複数の画像を適合度の低い順に第9画像群及び第10画像群に分類し、第10画像群に属する一部の画像を第9画像群に加えて第11画像群とし、第11画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最小になる一部の画像を求めることにより第10画像群に属する複数の画像の配列を変更することが好適である。
【0021】
また、画像配列変更ステップでは、画像検索ステップで出力された複数の画像を適合度の低い順に第9画像群及び第10画像群に分類し、第10画像群に属する一部の画像を第9画像群に加えて第11画像群とし、第11画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最小になる一部の画像を求めることにより第10画像群に属する複数の画像の配列を変更することが好適である。
【0022】
この場合、画像配列変更手段により(画像配列変更ステップで)、画像検索手段により(画像検索ステップで)取得された複数の画像が適合度の低い順に第9画像群及び第10画像群に分類され、第10画像群に属する一部の画像が第9画像群に加えられて第11画像群とされ、次に、第11画像群に属するそれぞれの画像に対する脳波データが加算され、その加算結果におけるN400の値が最小になる一部の画像が求められることにより第10画像群に属する複数の画像の配列が変更される。
【0023】
また、画像配列変更手段は、変更処理により配列を変更した複数の画像について分類処理または加算処理の内容を変更して分類処理および変更処理を繰り返すことが好適である。
【0024】
また、画像配列変更ステップでは、変更処理により配列を変更した複数の画像について分類処理または加算処理の内容を変更して分類処理および変更処理を繰り返すことが好適である。
【0025】
この場合、画像配列変更手段により(画像配列変更ステップで)配列が変更された複数の画像について分類処理または加算処理の内容が変更されて分類処理および変更処理が繰り返される。
【0026】
また、画像配列変更手段は、画像検索手段により取得された複数の画像を3以上の画像群に分類した場合に、何れかの画像群に属する画像の数が、画像に対する脳波データを加算することにより脳波データ中のノイズ成分を除去できる数に満たないときには、画像検索手段により取得された複数の画像を2の画像群に分類することが好適である。
【0027】
また、画像配列変更ステップでは、画像検索ステップで取得された複数の画像を3以上の画像群に分類した場合に、何れかの画像群に属する画像の数が、画像に対する脳波データを加算することにより脳波データ中のノイズ成分を除去できる数に満たないときには、画像検索ステップで取得された複数の画像を2の画像群に分類することが好適である。
【0028】
この場合、画像検索手段により取得された画像の数が少ないときにも、操作者の意図等に適合するように画像の配列を変更することができる。
【0029】
また、画像表示手段は、検索課題を文字で表示した後に画像検索手段により取得された複数の画像の何れかを表示することを繰り返し行うことが好適である。
【0030】
また、画像表示ステップでは、検索課題を文字で表示した後に画像検索ステップで取得された複数の画像の何れかを表示することを繰り返し行うことが好適である。
【0031】
この場合、検索課題と画像との関連性が事象関連電位波形に含まれるN400に反映される。
【0032】
また、画像表示手段は、検索課題を文字で一度だけ表示した後に画像検索手段により取得された複数の画像それぞれを逐次表示することが好適である。
【0033】
また、画像表示ステップでは、検索課題を文字で一度だけ表示した後に画像検索ステップで取得された複数の画像それぞれを逐次表示することが好適である。
【0034】
この場合、検索課題と画像との関連性が事象関連電位波形に含まれるN400に反映される。
【0035】
また、画像検索手段により取得された複数の画像を逐次表示する前に検索課題を音声で出力する音声出力手段をさらに備えることが好適である。
【0036】
また、画像検索ステップ取得された複数の画像を逐次表示する前に検索課題を音声で出力する音声出力ステップをさらに備えることが好適である。
【0037】
この場合、検索課題と画像との関連性が事象関連電位波形に含まれるN400に反映される。
【0038】
また、脳波データ取得手段は、操作者の前頭葉から頭頂にかけて設けられる複数の電極を有し、複数の電極それぞれにより操作者の脳波データを取得することが好適である。
【0039】
また、脳波データ取得ステップでは、操作者の前頭葉から頭頂にかけて設けられる複数の電極それぞれにより操作者の脳波データを取得することが好適である。
【0040】
本発明に係る画像検索支援プログラムは、上記いずれかの画像検索支援方法をコンピュータに実行させることを特徴とする。
【0041】
本発明に係るコンピュータ読み取り可能な記録媒体は、上記の画像検索支援プログラムを記録していることを特徴とする。
【0042】
【発明の実施の形態】
以下、添付図面を参照して本発明の実施の形態を詳細に説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
【0043】
まず、本実施形態に係る画像検索支援装置1の構成について説明する。図1は、本実施形態に係る画像検索支援装置1の全体構成を示すブロック図である。画像検索支援装置1は、画像記憶手段10、画像検索手段11、画像表示手段12、脳波データ取得手段13、画像配列変更手段14、補助検索情報生成手段15、及び、音声出力手段16を備えている。
【0044】
画像記憶手段10は、複数の画像及び複数の画像それぞれの属性情報を記憶するものであり、例えば大容量ハードディスクや大容量光ディスク等が好適に用いられる。
【0045】
画像検索手段11は、画像記憶手段10により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力する。
【0046】
画像表示手段12は、画像検索手段11により出力された複数の画像それぞれを逐次表示するものであり、例えば、CRTディスプレイやLCDディスプレイ等が好適に用いられる。
【0047】
脳波データ取得手段13は、図2に示されるように操作者の頭頂に設けられた電極100、前頭葉に設けられた電極101、右耳朶に設けられた電極102及び左耳朶に設けられた電極103を有し、前頭葉に設けられた電極101を基準電極として、画像表示手段12により逐次表示された複数の画像を操作者が視認した時に生じる操作者の脳波データを頭頂に設けられた電極100より取得するものである。
【0048】
画像配列変更手段14は、画像検索手段11により出力された複数の画像を適合度順に配列する配列処理と、その配列した複数の画像を配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する変更処理とを行う。
【0049】
補助検索情報生成手段15は、画像配列変更手段14により変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する。
【0050】
音声出力手段16は、画像検索手段11により取得された複数の画像が画像表示手段12により逐次表示される前に検索課題を音声で出力する。
【0051】
次に本実施形態に係る画像検索支援装置1の動作について説明するとともに、画像検索支援方法についても説明する。
【0052】
本実施形態に係る画像検索支援装置1によれば、複数の画像及び複数の画像それぞれの属性情報が画像記憶手段10により記憶され、画像記憶手段10により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段11により検索され出力される。
【0053】
次に、画像検索手段11により出力された複数の画像それぞれが画像表示手段12により逐次表示され、画像表示手段12により逐次表示された画像を操作者が視認した時に生じる操作者の脳波データが脳波データ取得手段13により取得される。
【0054】
さらに、画像配列変更手段14により、画像検索手段11により出力された複数の画像が適合度順に配列され、その配列された複数の画像が配列順に従って複数の画像群に分類され、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとが加算処理され得られるN400の値が最大または最小となる一部の画像が求められることにより画像の配列が変更される。
【0055】
また、本実施形態に係る画像検索支援装置1によれば、補助検索情報生成手段15により生成された補助検索情報、属性情報及び操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段11により検索され出力される。
【0056】
図3は、本実施形態に係る画像検索支援方法の全体処理を示す流れ図である。図3のステップS100では、画像記憶手段10により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段11により検索され出力される。
【0057】
ステップS101では、ステップS100で出力された複数の画像それぞれが画像表示手段12により逐次表示され、ステップS102では、ステップS101で逐次表示された画像を操作者が視認した時に生じる操作者の脳波データが脳波データ取得手段13により取得される。
【0058】
ステップS103では、画像検索手段11により出力された複数の画像が適合度順に配列され、その配列された複数の画像が配列順に従って複数の画像群に分類され、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとが加算処理され得られるN400の値が最大または最小となる前記一部の画像が求められることにより画像の配列が変更される。
【0059】
そして、ステップ104では、ステップS103で変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する。
【0060】
さらに、各処理ステップそれぞれについて詳細に説明する。まず、ステップS100での画像検索処理について説明する。ステップS100では、画像記憶手段10に記憶されている複数の画像の中から、属性情報に基づいて画像検索手段11に対して文字や音声等で入力された操作者の検索課題に対応する画像が検索されて出力される。ここで、検索に使用される属性情報はあらかじめ画像記憶手段10に属性情報として登録してあるもののみ利用可能である。また、例えば“犬”*(“白”+“黒”)などの様に複数の属性情報を入力し、属性情報の論理積及び論理和によって操作者の検索課題を表現してもよい。画像検索手段11は、操作者の検索課題に対応した画像を検索し、例えば100枚の画像を取得した場合、属性情報と検索課題との適合度が高いものから順にI1、I2、…、I100と配列して画像表示装置12に出力する。
【0061】
ステップS101では、ステップS100で出力された画像100枚を画像表示手段12により逐次表示する。ステップS102では、ステップS101で逐次表示された画像を操作者が視認した時に生じる操作者の脳波データを脳波データ取得手段13により取得する。
【0062】
図4は、画像表示処理及び脳波データ取得処理の概要を示す流れ図であり、この図に従ってさらに詳細にステップS101及びステップS102における処理を説明する。
【0063】
ステップS200では、まず、操作者の検索課題を文字で画像表示手段12により1s間表示する。このとき、文字に変えて音声を音声出力手段16により出力しても良い。これによって操作者の意図を操作者に対して再認させることができる。
【0064】
次に、ステップS201では、凝視点(例えば十字マーク)を画像表示手段12により1s間表示する。この間操作者は凝視点を注目し、次に出てくる画像の準備をすることを要求される。
【0065】
ステップS202では、検索結果の画像を画像表示手段12により逐次表示する。表示される画像は上記100枚のうちのいずれかの画像であり、画像の表示順序は適合度によらずランダムとし、一枚の画像は一回のみ表示される。この間操作者は画面の中心を注目することが望まれる。
【0066】
そして、ステップS203では、画像が表示されている間の操作者の脳波を脳波データ取得手段13により取得する。
【0067】
ステップS204では、100枚の画像が全て表示されたか否かを判断し、全ての画像の表示が終了していない時にはS200に処理を移行し、ステップS200〜ステップS203までの処理を繰り返す。ただし、ステップS200の処理は、画像の表示を開始する際、初めに一度だけ行うこととしても良い。
【0068】
図3のステップS103では、ステップS102で取得した脳波データから事象関連電位を求める。ここで、事象関連電位(event−related potential: ERP)とは、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電圧変動をいう。また、刺激に対する脳電位反応をより明瞭に取り出すために、事象関連電位の算出には、加算(平均)法が用いられる。この方法は、数十回の脳波データを特定の事象の開始時点に揃えて時間ポイントごとに加算(平均)することにより、その事象に関連した脳電位を抽出するものである。背景脳波が事象とは無関係に生じると仮定すると、加算(平均)することで背景脳波は相殺され、事象に対して一定の時間関係を持った事象関連電位だけが残る。さらに、事象関連電位波形はいくつかの振れから構成されている。図5には、脳波データに基づいて算出された事象関連電位波形を示す。ここで、陰性方向(図5では上向き)の振れをN(negative)、陽性方向(図5では下向き)の振れをP(positive)と呼び、出現順に番号をつけるか、標準的な頂点潜時(ミリ秒単位)をつけて区別する。よって、N400とは、その頂点潜時がおよそ400msの陰性電位をいう。
【0069】
さらに、ステップS103では、画像Ikが表示されている間に取得した脳波をPk(t)とする(k=1,2,…100、0≦t≦1000)。得られた100種類のPk(t)を分類した後、加算して事象関連電位波形を算出し、この事象関連電位波形に含まれるN400の値を用いて検索課題と画像との適合度を判定するが、この際、先行画像(または単語情報)と目標画像とを連続して呈示した場合、目標画像が先行画像と適合度が高い場合の事象関連電位(これをAとする)と、適合度が低い場合の事象関連電位(これをBとする)を比較すると、BがAよりも目標画像呈示後400ms程度で絶対値の大きな陰性の成分(N400)を含むという事実を用いる。
【0070】
次に、画像検索手段11により取得した画像数が100枚あった場合の配列変更処理の1つを図6を用いて説明する。
【0071】
ステップS300では、適合度が上位40位までの画像I1〜I40に対応する脳波P1(t)〜P40(t)を次式により加算しA(t)とする。
【0072】
【数1】
【0073】
ステップS301では、適合度が61位以下の画像I61〜I100に対応する脳波P61(t)〜P100(t)を次式により加算しB(t)とする。
【0074】
【数2】
【0075】
ステップS302では、残り20枚の画像I41〜I60から任意に10枚の画像を選択し、それらに対応した脳波を次式によりA(t)に加算し、A´(t)とする。ここで、任意に選択された10枚の画像の集合をQとし、この集合Qに含まれる画像それぞれに対応した脳波データをQi(t)(i=1、2、・・・、10)とする。
【0076】
【数3】
【0077】
ステップS303では、残りの10枚の画像に対応した脳波を次式によりB(t)に加算し、B´(t)とする。ここで、残りの10枚の画像の集合をQ´とし、この集合Q´に含まれる画像それぞれに対応した脳波データをQ´i(t)(i=1、2、・・・、10)とする。
【0078】
【数4】
【0079】
ステップS304及びステップS305では、A´(t)及びB´(t)のうち250msから500msに対応する個所を次式により加算し、それぞれa、bとする。
【0080】
【数5】
【0081】
次にステップS306では、「c=a−b」を計算する。ここで、上記の事実を考慮すると、bは、aよりも絶対値の大きな負の値となるので、cの値は正となり、さらに、集合Qに含まれる全ての画像が集合Q´に含まれる何れの画像よりも検索課題との適合度が高い画像であった場合、cの値は最大になる。
【0082】
ステップS307では、20枚の画像I41〜I60において全ての任意の10枚の画像の組み合わせでcの値を計算したか否かを判断し、全ての組み合わせでcの値を計算するまでステップS302〜S306の処理を繰り返す。ここで、ステップS302で実施する画像の選択は20枚の画像から10枚を選ぶ操作であるから、20C10回の繰り返し処理により遂行できる。もし計算に長時間を要する場合、最初にステップS300及びステップS301で選択する画像の枚数を増やせばよい。
【0083】
そして、ステップS308では、cが最大になるときの画像の組み合わせに基づいて画像の配列を変更する。この操作により最初の適合度が41位から60位の画像I41〜I60を並び替えてI´41、I´42、…、I´60とすることができる。本実施形態では、適合度が41位から60位の画像I41〜I60を並び替える方法を示したが、上位31位から50位の画像I31〜I50を並べ替えることも可能である。その場合、上位30位までの画像I1〜I30を適合度が高いグループとして、51位から80位までの画像I51〜I80を適合度が低いグループとして処理することにより、同様の手法で上位31位から50位までの画像I31〜I50についての適合度の判定ができる。
【0084】
上記の操作は適合度が高い画像と適合度が低い画像、それぞれに対応する事象関連電位のN400の差に注目した手法であるが、差ではなくN400の最大値または最小値に注目するという手法を用いることもできる。以下この手法について図7を用いて具体的に説明する。
【0085】
ステップS400では、適合度が上位40位までの画像I1〜I40に対応する脳波P1(t)〜P40(t)を上記の式(1)により加算しA(t)とする。
【0086】
ステップS401では、上位41位から60位までの画像I41〜I60の中から任意に10枚選択し、それぞれの画像に対応した脳波を上記の式(3)によりA(t)に加算し、A´(t)とする。ここで、任意に選択された10枚の画像の集合をQとし、この集合Qに含まれる画像それぞれに対応した脳波データをQi(t)(i=1、2、・・・、10)とする。
【0087】
ステップS402では、A´(t)のうち250msから500msに対応する個所を上記の式(5a)により加算し、それをaとする。ここで、上記の事実を考慮すると、適合度の高い画像が10枚選択されたのであれば、aの値は最大になる。
【0088】
ステップS403では、上位41位から60位までの画像I41〜I60において全ての任意の10枚の画像の組み合わせでaを計算したか否かを判断し、全ての組み合わせでaを計算するまでステップS401及びステップS402の処理を繰り返す。
【0089】
そして、ステップS404ではaが最大になるときの画像の組み合わせに基づいて画像の配列を変更する。
【0090】
同様に適合度が低い画像のみに注目する手法も考えられる。具体的には図8を用いて以下に説明する。
【0091】
ステップS500では、適合度が上位61位から100位の画像I61〜I100それぞれに対応する脳波P61(t)〜P100(t)を上記式(2)により加算しB(t)とする。
【0092】
ステップS501では、上位41位から60位までの画像I41〜I60の中から任意に10枚選択し、それぞれの画像に対応した脳波を上記の式(4)によりB(t)に加算し、B´(t)とする。ここで、任意に選択された10枚の画像の集合をQ´とし、この集合Qに含まれる画像それぞれに対応した脳波データをQ´i(t)(i=1、2、・・・、10)とする。
【0093】
ステップS502では、B´(t)のうち250msから500msに対応する個所を上記の式(5b)により加算し、それをbとする。ここで、上記の事実を考慮すると、適合度の低い画像が10枚選択されたのであれば、bの値は最小になる。
【0094】
ステップS503では、上位41位から60位までの画像I41〜I60において全ての任意の10枚の画像の組み合わせによりbを計算したか否かを判断し、全ての組み合わせでbを計算するまでステップS501及びステップS502の処理を繰り返す。
【0095】
そして、ステップS504ではbが最小になるときの画像の組み合わせに基づいて画像の配列を変更する。
【0096】
以上説明した手法では検索順位が中位の画像のみを操作できる。上位(もしくは下位)の並べ替えを行いたい場合、例えば次のような手法が考えられるので、図9を用いて説明する。
【0097】
ステップS600では、適合度が上位21位から100位までの画像I21〜I100に対応する脳波P21(t)〜P100(t)を次式を用いて加算し、それをA(t)とする。
【0098】
【数6】
【0099】
ステップS601では、上位20位の画像I1〜I20の中から任意に10枚選択し、それらに対応した脳波を上記の式(3)を用いてA(t)に加算し、A´(t)とする。ここで、任意に選択された10枚の画像の集合をQとし、この集合Qに含まれる画像それぞれに対応した脳波データをQi(t)(i=1,2、・・・、10)とする。
【0100】
ステップS602では、A´(t)のうち250msから500msに対応する個所を上記の式(5a)を用いて加算し、それをaとする。ここで、上記事実を考慮すると、適合度が低い画像が10枚選択されたのであれば、aの値は最小になる。
【0101】
ステップS603では、上位20位の画像I1〜I20において全ての任意の10枚の画像の組み合わせでaを計算したか否かを判断し、全ての組み合わせでaを計算するまでステップS601及びステップS602の処理を繰り返す。
【0102】
そして、ステップS604では、aが最小になる画像の組み合わせに基づいて画像の配列を変更する。これにより上位20位までの画像I1〜I20を並べ替えることができる。
【0103】
以上の操作を適宜繰り返し実施すれば、画像検索手段11により出力された画像を操作者の意図や趣向等に合った順位に並べ替えることができる。
【0104】
また、画像検索手段11により出力された画像の件数が100枚以下であった場合(例えば60枚程度)、それに対応した適切な画像枚数を選べば、上記のような操作が実施できる。さらに、画像検索手段11により出力された複数の画像を3以上の画像群に分類した場合に、何れかの画像群に属する画像の数が、画像に対する脳波データを加算することにより脳波データ中のノイズ成分を除去できる数に満たない場合(例えば40枚程度)、2の画像群に分離する手法が実施できる。これは、事象関連電位を計算する場合、その加算回数は30回以上あるのが望ましいからである。20回以下の場合には、脳波データのノイズ成分(α波成分、β波成分など)が除去されない可能性がある。
【0105】
上記手法により配列を変更された画像の配列は操作者の意図や趣向等を反映した順序になっている。同じ処理を実施しても、操作者が異なれば異なる配列が作られる。また同じ操作者でも検索時の意図の違いにより配列の順序が変動する可能性がある。
【0106】
次に、本実施形態に係る物体制御方法をコンピュータ2に実行させるための画像検索支援プログラム202、及び画像検索支援プログラム202を記録したコンピュータ読み取り可能な記録媒体200(以下、単に記録媒体という)について説明する。
【0107】
ここで、記録媒体とは、コンピュータのハードウェア資源に備えられている読み取り装置に対して、プログラムの記述内容に応じて、磁気、光、電気等のエネルギーの変化状態を引き起こして、それに対応する信号の形式で、読み取り装置にプログラムの記述内容を伝達できるものである。かかる記録媒体としては、例えば、磁気ディスク、光ディスク、CD−ROM、コンピュータに内蔵されるメモリなどが該当する。
【0108】
図10は、本発明の実施形態に係る記録媒体200の構成図である。記録媒体200は、図10に示すように、プログラムを記録するプログラム領域201を備えている。このプログラム領域201には、画像検索支援プログラム202が記録されている。
【0109】
この画像検索支援プログラム202は、前述した画像検索支援を実行するプログラムであって、図10に示すように、処理を統括するメインモジュール202aと、画像記憶手段10により記憶されている属性情報及び操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力する画像検索モジュール202bと、画像検索モジュール202bにより出力された複数の画像それぞれを画像表示手段12により逐次表示する画像表示モジュール202cと、画像検索モジュール202bにより出力された複数の画像を画像表示手段12により逐次表示する前に検索課題を音声で出力する音声出力モジュール202dと、画像表示モジュール202cにより表示された画像それぞれを操作者が視認した時に生じる操作者の脳波データを取得する脳波データ取得モジュール202eと、画像検索モジュール202bにより出力された複数の画像を適合度順に配列する配列処理と、その配列した複数の画像を配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する画像配列変更モジュール202fと、画像配列変更モジュール202fにより変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する補助検索情報生成モジュール202gとを備えて構成される。
【0110】
図11は、上記記録媒体200に記録された画像検索支援プログラム202を実行するためのコンピュータ2のシステム構成図である。コンピュータ2は、画像検索支援プログラム202の実行等を制御するCPU20と、記録媒体200に記録された画像検索支援プログラム202を読み取り可能な読み取り装置22と、メモリ(RAM)21と、ディスプレイ等より成る画像表示手段12と、音声出力手段16と、脳波データ取得手段13と、を備えている。ここで、記録媒体200が読み取り装置22に挿入されると、記録媒体200に記録された情報が読み取り装置22からアクセス可能となり、図10に示す記録媒体200のプログラム領域201に記録された画像検索支援プログラム202が、コンピュータ2によって実行可能となる。
【0111】
上記読み取り装置22としては、記録媒体200に対応して、フレキシブルディスクドライブ装置、CD−ROMドライブ装置、あるいは磁気テープドライブ装置などが用いられる。
【0112】
【発明の効果】
以上、詳細に説明したとおり、本発明によれば、操作者の意図や趣向等を正確に反映した画像を検索して呈示することができる画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体を提供することができる。
【図面の簡単な説明】
【図1】本実施形態に係る画像検索支援装置の全体構成を示すブロック図である。
【図2】本実施形態に係る画像検索支援装置に含まれる電極の配置を示す図である。
【図3】本実施形態に係る画像検索支援方法の全体処理を示す流れ図である。
【図4】本実施形態に係る画像検索支援方法に含まれる画像表示処理及び脳波データ取得処理の概要を示す流れ図である。
【図5】脳波データに基づいて算出された事象関連電位波形を示す図である。
【図6】本実施形態に係る画像検索支援方法の配列変更処理を示す流れ図である。
【図7】本実施形態に係る画像検索支援方法の配列変更処理を示す流れ図である。
【図8】本実施形態に係る画像検索支援方法の配列変更処理を示す流れ図である。
【図9】本実施形態に係る画像検索支援方法の配列変更処理を示す流れ図である。
【図10】本実施形態に係る記録媒体の構成図である。
【図11】本実施形態に係るコンピュータのシステム構成図である。
【符号の説明】
1…画像検索支援装置、10…画像記憶手段、11…画像検索手段、12…画像表示手段、13…脳波データ取得手段、14…画像配列変更手段、15…補助検索情報生成手段、16…音声出力手段、100、101、102、103…電極、200…記録媒体、202…画像検索支援プログラム。
【発明の属する技術分野】
本発明は、画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体に関するものである。
【0002】
【従来の技術】
操作者の意図等に適合させるために脳波などの生体信号を用いたものとして特開2000−235588号公報には、操作者のデザイン画像評価において、デザイン画像を見た時の操作者のα波及びβ波の検出を行い、その検出されたα波及びβ波それぞれに基づいて操作者のデザイン画像に対する評価を判定し、その判定結果に基づいて操作者の感性に適合するようにデザインの修正を行うデザイン構築支援システムに係る発明が記載されている。また、画像を並び替える技術として特開平10−275161号公報には、操作者にあらかじめマニュアルで複数の画像を仮選択させ、仮選択された画像に共通なキーワードとの適合度に基づいて画像の並べ替えを行うことにより操作者の要求に合致する画像を効率良く検索することのできる手法が提案されている。
【0003】
【発明が解決しようとする課題】
しかしながら、α波、β波などの脳波の周波数成分に基づく場合には、脳波を加工せずに利用しているため、操作者の意図等とは無関係な高次の認知処理による影響を受ける可能性があり正しく操作者の意図等を抽出できないという欠点を持つ。また、操作者にあらかじめマニュアルで複数の画像を仮選択させ、仮選択された画像に共通なキーワードとの適合度に基づいて画像の並べ替えを行う方法では検索の自動化が困難という課題を有する。
【0004】
本発明は、上記問題点を解消する為になされたものであり、操作者の意図や趣向等を正確に反映した画像を検索して呈示することができる画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体を提供することを目的とする。
【0005】
【課題を解決するための手段】
本発明に係る画像検索支援装置は、複数の画像及び複数の画像それぞれの属性情報を記憶している画像記憶手段と、画像記憶手段により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力する画像検索手段と、画像検索手段により出力された複数の画像それぞれを逐次表示する画像表示手段と、画像表示手段により逐次表示された複数の画像それぞれを操作者が視認した時に生じる操作者の脳波データを取得する脳波データ取得手段と、画像検索手段により出力された複数の画像を適合度順に配列する配列処理と、その配列した複数の画像を配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する変更処理と、を行う画像配列変更手段と、を備えることを特徴とする。
【0006】
本発明に係る画像検索支援方法は、複数の画像及び複数の画像それぞれの属性情報を記憶している画像記憶手段を有し、画像記憶手段により記憶されている画像の検索をするときに検索支援を行う画像検索支援方法であって、画像記憶手段により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力する画像検索ステップと、画像検索ステップで出力された複数の画像それぞれを逐次表示する画像表示ステップと、画像表示ステップで逐次表示された複数の画像それぞれを操作者が視認した時に生じる操作者の脳波データを取得する脳波データ取得ステップと、画像検索ステップで出力された複数の画像を適合度順に配列する配列処理と、その配列した前記複数の画像を配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する変更処理と、を行う画像配列変更ステップと、を備えることを特徴とする。
【0007】
本発明に係る画像検索支援装置又は画像検索支援方法によれば、複数の画像及び複数の画像それぞれの属性情報が画像記憶手段により記憶され、画像記憶手段により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段により(画像検索ステップで)検索され出力される。
【0008】
次に、画像検索手段により(画像検索ステップで)出力された複数の画像それぞれが画像表示手段により(画像表示ステップで)逐次表示され、画像表示手段により(画像表示ステップで)逐次表示された画像を操作者が視認した時に生じる操作者の脳波データが脳波データ取得手段により(脳波データ取得ステップで)取得される。
【0009】
さらに、画像配列変更手段により(画像配列変更ステップで)、画像検索手段により(画像検索ステップで)出力された複数の画像が配列処理されて適合度順に配列され、その配列された複数の画像が分類処理されて配列順に従って複数の画像群に分類され、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとが加算処理され得られるN400の値が最大または最小となる一部の画像が求められることにより変更処理されて画像の配列が変更される。
【0010】
また、本発明に係る画像検索支援装置は、画像配列変更手段により変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する補助検索情報生成手段をさらに備え、画像検索手段は、補助検索情報生成手段により生成された補助検索情報、属性情報及び操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力することが好適である。
【0011】
また、本発明に係る画像検索支援方法は、画像配列変更ステップで変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する補助検索情報生成ステップをさらに備え、画像検索ステップでは、補助検索情報生成ステップで生成された補助検索情報、属性情報及び操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力することが好適である。
【0012】
この場合、画像配列変更手段により(画像配列変更ステップで)変更された画像の配列における操作者に特有の配列の特徴が抽出され、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力ための補助検索情報が補助検索情報生成手段により(補助検索情報生成ステップで)生成される。
【0013】
そして、補助検索情報生成手段により(補助検索情報生成ステップで)生成された補助検索情報、属性情報及び操作者の検索課題に基づいて、画像記憶手段により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段により(画像検索ステップで)検索され出力される。
【0014】
また、画像配列変更手段は、画像検索手段により出力された複数の画像を適合度の高い順に第1画像群、第2画像群及び第3画像群に分類し、第2画像群に属する一部の画像を第1画像群に加えて第4画像群とし、第2画像群に属する残りの画像を第3画像群に加えて第5画像群とし、第4画像群に属するそれぞれの画像に対する脳波データを加算し、第5画像群に属するそれぞれの画像に対する脳波データを加算し、それぞれの加算結果におけるN400の値の差が最大になる一部の画像及び残りの画像それぞれを求めることにより第2画像群に属する複数の画像の配列を変更することが好適である。
【0015】
また、画像配列変更ステップでは、画像検索ステップで出力された複数の画像を適合度の高い順に第1画像群、第2画像群及び第3画像群に分類し、第2画像群に属する一部の画像を第1画像群に加えて第4画像群とし、第2画像群に属する残りの画像を第3画像群に加えて第5画像群とし、第4画像群に属するそれぞれの画像に対する脳波データを加算し、第5画像群に属するそれぞれの画像に対する脳波データを加算し、それぞれの加算結果におけるN400の値の差が最大になる一部の画像及び残りの画像それぞれを求めることにより第2画像群に属する複数の画像の配列を変更することが好適である。
【0016】
この場合、画像配列変更手段により(画像配列変更ステップで)、画像検索手段により(画像検索ステップで)出力された複数の画像が適合度の高い順に第1画像群、第2画像群及び第3画像群に分類され、第2画像群に属する一部の画像が第1画像群に加えられて第4画像群とされ、第2画像群に属する残りの画像が第3画像群に加えられて第5画像群とされ、次に、第4画像群に属するそれぞれの画像に対する脳波データが加算され、第5画像群に属するそれぞれの画像に対する脳波データが加算され、それぞれの加算結果におけるN400の値の差が最大になる一部の画像及び残りの画像それぞれが求められることにより第2画像群に属する複数の画像の配列が変更される。
【0017】
また、画像配列変更手段は、画像検索手段により出力された複数の画像を適合度の高い順に第6画像群及び第7画像群に分類し、第7画像群に属する一部の画像を第6画像群に加えて第8画像群とし、第8画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最大になる一部の画像を求めることにより第7画像群に属する複数の画像の配列を変更することが好適である。
【0018】
また、画像配列変更ステップでは、画像検索ステップで取得された複数の画像を適合度の高い順に第6画像群及び第7画像群に分類し、第7画像群に属する一部の画像を第6画像群に加えて第8画像群とし、第8画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最大になる一部の画像を求めることにより第7画像群に属する複数の画像の配列を変更することが好適である。
【0019】
この場合、画像配列変更手段により(画像配列変更ステップで)、画像検索手段により(画像検索ステップで)出力された複数の画像が適合度の高い順に第6画像群及び第7画像群に分類され、第7画像群に属する一部の画像が第6画像群に加えられて第8画像群とされ、次に、第8画像群に属するそれぞれの画像に対する脳波データが加算され、その加算結果におけるN400の値が最大になる一部の画像が求められることにより第7画像群に属する複数の画像の配列が変更される。
【0020】
また、画像配列変更手段は、画像検索手段により出力された複数の画像を適合度の低い順に第9画像群及び第10画像群に分類し、第10画像群に属する一部の画像を第9画像群に加えて第11画像群とし、第11画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最小になる一部の画像を求めることにより第10画像群に属する複数の画像の配列を変更することが好適である。
【0021】
また、画像配列変更ステップでは、画像検索ステップで出力された複数の画像を適合度の低い順に第9画像群及び第10画像群に分類し、第10画像群に属する一部の画像を第9画像群に加えて第11画像群とし、第11画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最小になる一部の画像を求めることにより第10画像群に属する複数の画像の配列を変更することが好適である。
【0022】
この場合、画像配列変更手段により(画像配列変更ステップで)、画像検索手段により(画像検索ステップで)取得された複数の画像が適合度の低い順に第9画像群及び第10画像群に分類され、第10画像群に属する一部の画像が第9画像群に加えられて第11画像群とされ、次に、第11画像群に属するそれぞれの画像に対する脳波データが加算され、その加算結果におけるN400の値が最小になる一部の画像が求められることにより第10画像群に属する複数の画像の配列が変更される。
【0023】
また、画像配列変更手段は、変更処理により配列を変更した複数の画像について分類処理または加算処理の内容を変更して分類処理および変更処理を繰り返すことが好適である。
【0024】
また、画像配列変更ステップでは、変更処理により配列を変更した複数の画像について分類処理または加算処理の内容を変更して分類処理および変更処理を繰り返すことが好適である。
【0025】
この場合、画像配列変更手段により(画像配列変更ステップで)配列が変更された複数の画像について分類処理または加算処理の内容が変更されて分類処理および変更処理が繰り返される。
【0026】
また、画像配列変更手段は、画像検索手段により取得された複数の画像を3以上の画像群に分類した場合に、何れかの画像群に属する画像の数が、画像に対する脳波データを加算することにより脳波データ中のノイズ成分を除去できる数に満たないときには、画像検索手段により取得された複数の画像を2の画像群に分類することが好適である。
【0027】
また、画像配列変更ステップでは、画像検索ステップで取得された複数の画像を3以上の画像群に分類した場合に、何れかの画像群に属する画像の数が、画像に対する脳波データを加算することにより脳波データ中のノイズ成分を除去できる数に満たないときには、画像検索ステップで取得された複数の画像を2の画像群に分類することが好適である。
【0028】
この場合、画像検索手段により取得された画像の数が少ないときにも、操作者の意図等に適合するように画像の配列を変更することができる。
【0029】
また、画像表示手段は、検索課題を文字で表示した後に画像検索手段により取得された複数の画像の何れかを表示することを繰り返し行うことが好適である。
【0030】
また、画像表示ステップでは、検索課題を文字で表示した後に画像検索ステップで取得された複数の画像の何れかを表示することを繰り返し行うことが好適である。
【0031】
この場合、検索課題と画像との関連性が事象関連電位波形に含まれるN400に反映される。
【0032】
また、画像表示手段は、検索課題を文字で一度だけ表示した後に画像検索手段により取得された複数の画像それぞれを逐次表示することが好適である。
【0033】
また、画像表示ステップでは、検索課題を文字で一度だけ表示した後に画像検索ステップで取得された複数の画像それぞれを逐次表示することが好適である。
【0034】
この場合、検索課題と画像との関連性が事象関連電位波形に含まれるN400に反映される。
【0035】
また、画像検索手段により取得された複数の画像を逐次表示する前に検索課題を音声で出力する音声出力手段をさらに備えることが好適である。
【0036】
また、画像検索ステップ取得された複数の画像を逐次表示する前に検索課題を音声で出力する音声出力ステップをさらに備えることが好適である。
【0037】
この場合、検索課題と画像との関連性が事象関連電位波形に含まれるN400に反映される。
【0038】
また、脳波データ取得手段は、操作者の前頭葉から頭頂にかけて設けられる複数の電極を有し、複数の電極それぞれにより操作者の脳波データを取得することが好適である。
【0039】
また、脳波データ取得ステップでは、操作者の前頭葉から頭頂にかけて設けられる複数の電極それぞれにより操作者の脳波データを取得することが好適である。
【0040】
本発明に係る画像検索支援プログラムは、上記いずれかの画像検索支援方法をコンピュータに実行させることを特徴とする。
【0041】
本発明に係るコンピュータ読み取り可能な記録媒体は、上記の画像検索支援プログラムを記録していることを特徴とする。
【0042】
【発明の実施の形態】
以下、添付図面を参照して本発明の実施の形態を詳細に説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
【0043】
まず、本実施形態に係る画像検索支援装置1の構成について説明する。図1は、本実施形態に係る画像検索支援装置1の全体構成を示すブロック図である。画像検索支援装置1は、画像記憶手段10、画像検索手段11、画像表示手段12、脳波データ取得手段13、画像配列変更手段14、補助検索情報生成手段15、及び、音声出力手段16を備えている。
【0044】
画像記憶手段10は、複数の画像及び複数の画像それぞれの属性情報を記憶するものであり、例えば大容量ハードディスクや大容量光ディスク等が好適に用いられる。
【0045】
画像検索手段11は、画像記憶手段10により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力する。
【0046】
画像表示手段12は、画像検索手段11により出力された複数の画像それぞれを逐次表示するものであり、例えば、CRTディスプレイやLCDディスプレイ等が好適に用いられる。
【0047】
脳波データ取得手段13は、図2に示されるように操作者の頭頂に設けられた電極100、前頭葉に設けられた電極101、右耳朶に設けられた電極102及び左耳朶に設けられた電極103を有し、前頭葉に設けられた電極101を基準電極として、画像表示手段12により逐次表示された複数の画像を操作者が視認した時に生じる操作者の脳波データを頭頂に設けられた電極100より取得するものである。
【0048】
画像配列変更手段14は、画像検索手段11により出力された複数の画像を適合度順に配列する配列処理と、その配列した複数の画像を配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する変更処理とを行う。
【0049】
補助検索情報生成手段15は、画像配列変更手段14により変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する。
【0050】
音声出力手段16は、画像検索手段11により取得された複数の画像が画像表示手段12により逐次表示される前に検索課題を音声で出力する。
【0051】
次に本実施形態に係る画像検索支援装置1の動作について説明するとともに、画像検索支援方法についても説明する。
【0052】
本実施形態に係る画像検索支援装置1によれば、複数の画像及び複数の画像それぞれの属性情報が画像記憶手段10により記憶され、画像記憶手段10により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段11により検索され出力される。
【0053】
次に、画像検索手段11により出力された複数の画像それぞれが画像表示手段12により逐次表示され、画像表示手段12により逐次表示された画像を操作者が視認した時に生じる操作者の脳波データが脳波データ取得手段13により取得される。
【0054】
さらに、画像配列変更手段14により、画像検索手段11により出力された複数の画像が適合度順に配列され、その配列された複数の画像が配列順に従って複数の画像群に分類され、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとが加算処理され得られるN400の値が最大または最小となる一部の画像が求められることにより画像の配列が変更される。
【0055】
また、本実施形態に係る画像検索支援装置1によれば、補助検索情報生成手段15により生成された補助検索情報、属性情報及び操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段11により検索され出力される。
【0056】
図3は、本実施形態に係る画像検索支援方法の全体処理を示す流れ図である。図3のステップS100では、画像記憶手段10により記憶されている属性情報および操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度が求められ、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像が画像検索手段11により検索され出力される。
【0057】
ステップS101では、ステップS100で出力された複数の画像それぞれが画像表示手段12により逐次表示され、ステップS102では、ステップS101で逐次表示された画像を操作者が視認した時に生じる操作者の脳波データが脳波データ取得手段13により取得される。
【0058】
ステップS103では、画像検索手段11により出力された複数の画像が適合度順に配列され、その配列された複数の画像が配列順に従って複数の画像群に分類され、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとが加算処理され得られるN400の値が最大または最小となる前記一部の画像が求められることにより画像の配列が変更される。
【0059】
そして、ステップ104では、ステップS103で変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する。
【0060】
さらに、各処理ステップそれぞれについて詳細に説明する。まず、ステップS100での画像検索処理について説明する。ステップS100では、画像記憶手段10に記憶されている複数の画像の中から、属性情報に基づいて画像検索手段11に対して文字や音声等で入力された操作者の検索課題に対応する画像が検索されて出力される。ここで、検索に使用される属性情報はあらかじめ画像記憶手段10に属性情報として登録してあるもののみ利用可能である。また、例えば“犬”*(“白”+“黒”)などの様に複数の属性情報を入力し、属性情報の論理積及び論理和によって操作者の検索課題を表現してもよい。画像検索手段11は、操作者の検索課題に対応した画像を検索し、例えば100枚の画像を取得した場合、属性情報と検索課題との適合度が高いものから順にI1、I2、…、I100と配列して画像表示装置12に出力する。
【0061】
ステップS101では、ステップS100で出力された画像100枚を画像表示手段12により逐次表示する。ステップS102では、ステップS101で逐次表示された画像を操作者が視認した時に生じる操作者の脳波データを脳波データ取得手段13により取得する。
【0062】
図4は、画像表示処理及び脳波データ取得処理の概要を示す流れ図であり、この図に従ってさらに詳細にステップS101及びステップS102における処理を説明する。
【0063】
ステップS200では、まず、操作者の検索課題を文字で画像表示手段12により1s間表示する。このとき、文字に変えて音声を音声出力手段16により出力しても良い。これによって操作者の意図を操作者に対して再認させることができる。
【0064】
次に、ステップS201では、凝視点(例えば十字マーク)を画像表示手段12により1s間表示する。この間操作者は凝視点を注目し、次に出てくる画像の準備をすることを要求される。
【0065】
ステップS202では、検索結果の画像を画像表示手段12により逐次表示する。表示される画像は上記100枚のうちのいずれかの画像であり、画像の表示順序は適合度によらずランダムとし、一枚の画像は一回のみ表示される。この間操作者は画面の中心を注目することが望まれる。
【0066】
そして、ステップS203では、画像が表示されている間の操作者の脳波を脳波データ取得手段13により取得する。
【0067】
ステップS204では、100枚の画像が全て表示されたか否かを判断し、全ての画像の表示が終了していない時にはS200に処理を移行し、ステップS200〜ステップS203までの処理を繰り返す。ただし、ステップS200の処理は、画像の表示を開始する際、初めに一度だけ行うこととしても良い。
【0068】
図3のステップS103では、ステップS102で取得した脳波データから事象関連電位を求める。ここで、事象関連電位(event−related potential: ERP)とは、外的あるいは内的な事象に時間的に関連して生じる脳の一過性の電圧変動をいう。また、刺激に対する脳電位反応をより明瞭に取り出すために、事象関連電位の算出には、加算(平均)法が用いられる。この方法は、数十回の脳波データを特定の事象の開始時点に揃えて時間ポイントごとに加算(平均)することにより、その事象に関連した脳電位を抽出するものである。背景脳波が事象とは無関係に生じると仮定すると、加算(平均)することで背景脳波は相殺され、事象に対して一定の時間関係を持った事象関連電位だけが残る。さらに、事象関連電位波形はいくつかの振れから構成されている。図5には、脳波データに基づいて算出された事象関連電位波形を示す。ここで、陰性方向(図5では上向き)の振れをN(negative)、陽性方向(図5では下向き)の振れをP(positive)と呼び、出現順に番号をつけるか、標準的な頂点潜時(ミリ秒単位)をつけて区別する。よって、N400とは、その頂点潜時がおよそ400msの陰性電位をいう。
【0069】
さらに、ステップS103では、画像Ikが表示されている間に取得した脳波をPk(t)とする(k=1,2,…100、0≦t≦1000)。得られた100種類のPk(t)を分類した後、加算して事象関連電位波形を算出し、この事象関連電位波形に含まれるN400の値を用いて検索課題と画像との適合度を判定するが、この際、先行画像(または単語情報)と目標画像とを連続して呈示した場合、目標画像が先行画像と適合度が高い場合の事象関連電位(これをAとする)と、適合度が低い場合の事象関連電位(これをBとする)を比較すると、BがAよりも目標画像呈示後400ms程度で絶対値の大きな陰性の成分(N400)を含むという事実を用いる。
【0070】
次に、画像検索手段11により取得した画像数が100枚あった場合の配列変更処理の1つを図6を用いて説明する。
【0071】
ステップS300では、適合度が上位40位までの画像I1〜I40に対応する脳波P1(t)〜P40(t)を次式により加算しA(t)とする。
【0072】
【数1】
【0073】
ステップS301では、適合度が61位以下の画像I61〜I100に対応する脳波P61(t)〜P100(t)を次式により加算しB(t)とする。
【0074】
【数2】
【0075】
ステップS302では、残り20枚の画像I41〜I60から任意に10枚の画像を選択し、それらに対応した脳波を次式によりA(t)に加算し、A´(t)とする。ここで、任意に選択された10枚の画像の集合をQとし、この集合Qに含まれる画像それぞれに対応した脳波データをQi(t)(i=1、2、・・・、10)とする。
【0076】
【数3】
【0077】
ステップS303では、残りの10枚の画像に対応した脳波を次式によりB(t)に加算し、B´(t)とする。ここで、残りの10枚の画像の集合をQ´とし、この集合Q´に含まれる画像それぞれに対応した脳波データをQ´i(t)(i=1、2、・・・、10)とする。
【0078】
【数4】
【0079】
ステップS304及びステップS305では、A´(t)及びB´(t)のうち250msから500msに対応する個所を次式により加算し、それぞれa、bとする。
【0080】
【数5】
【0081】
次にステップS306では、「c=a−b」を計算する。ここで、上記の事実を考慮すると、bは、aよりも絶対値の大きな負の値となるので、cの値は正となり、さらに、集合Qに含まれる全ての画像が集合Q´に含まれる何れの画像よりも検索課題との適合度が高い画像であった場合、cの値は最大になる。
【0082】
ステップS307では、20枚の画像I41〜I60において全ての任意の10枚の画像の組み合わせでcの値を計算したか否かを判断し、全ての組み合わせでcの値を計算するまでステップS302〜S306の処理を繰り返す。ここで、ステップS302で実施する画像の選択は20枚の画像から10枚を選ぶ操作であるから、20C10回の繰り返し処理により遂行できる。もし計算に長時間を要する場合、最初にステップS300及びステップS301で選択する画像の枚数を増やせばよい。
【0083】
そして、ステップS308では、cが最大になるときの画像の組み合わせに基づいて画像の配列を変更する。この操作により最初の適合度が41位から60位の画像I41〜I60を並び替えてI´41、I´42、…、I´60とすることができる。本実施形態では、適合度が41位から60位の画像I41〜I60を並び替える方法を示したが、上位31位から50位の画像I31〜I50を並べ替えることも可能である。その場合、上位30位までの画像I1〜I30を適合度が高いグループとして、51位から80位までの画像I51〜I80を適合度が低いグループとして処理することにより、同様の手法で上位31位から50位までの画像I31〜I50についての適合度の判定ができる。
【0084】
上記の操作は適合度が高い画像と適合度が低い画像、それぞれに対応する事象関連電位のN400の差に注目した手法であるが、差ではなくN400の最大値または最小値に注目するという手法を用いることもできる。以下この手法について図7を用いて具体的に説明する。
【0085】
ステップS400では、適合度が上位40位までの画像I1〜I40に対応する脳波P1(t)〜P40(t)を上記の式(1)により加算しA(t)とする。
【0086】
ステップS401では、上位41位から60位までの画像I41〜I60の中から任意に10枚選択し、それぞれの画像に対応した脳波を上記の式(3)によりA(t)に加算し、A´(t)とする。ここで、任意に選択された10枚の画像の集合をQとし、この集合Qに含まれる画像それぞれに対応した脳波データをQi(t)(i=1、2、・・・、10)とする。
【0087】
ステップS402では、A´(t)のうち250msから500msに対応する個所を上記の式(5a)により加算し、それをaとする。ここで、上記の事実を考慮すると、適合度の高い画像が10枚選択されたのであれば、aの値は最大になる。
【0088】
ステップS403では、上位41位から60位までの画像I41〜I60において全ての任意の10枚の画像の組み合わせでaを計算したか否かを判断し、全ての組み合わせでaを計算するまでステップS401及びステップS402の処理を繰り返す。
【0089】
そして、ステップS404ではaが最大になるときの画像の組み合わせに基づいて画像の配列を変更する。
【0090】
同様に適合度が低い画像のみに注目する手法も考えられる。具体的には図8を用いて以下に説明する。
【0091】
ステップS500では、適合度が上位61位から100位の画像I61〜I100それぞれに対応する脳波P61(t)〜P100(t)を上記式(2)により加算しB(t)とする。
【0092】
ステップS501では、上位41位から60位までの画像I41〜I60の中から任意に10枚選択し、それぞれの画像に対応した脳波を上記の式(4)によりB(t)に加算し、B´(t)とする。ここで、任意に選択された10枚の画像の集合をQ´とし、この集合Qに含まれる画像それぞれに対応した脳波データをQ´i(t)(i=1、2、・・・、10)とする。
【0093】
ステップS502では、B´(t)のうち250msから500msに対応する個所を上記の式(5b)により加算し、それをbとする。ここで、上記の事実を考慮すると、適合度の低い画像が10枚選択されたのであれば、bの値は最小になる。
【0094】
ステップS503では、上位41位から60位までの画像I41〜I60において全ての任意の10枚の画像の組み合わせによりbを計算したか否かを判断し、全ての組み合わせでbを計算するまでステップS501及びステップS502の処理を繰り返す。
【0095】
そして、ステップS504ではbが最小になるときの画像の組み合わせに基づいて画像の配列を変更する。
【0096】
以上説明した手法では検索順位が中位の画像のみを操作できる。上位(もしくは下位)の並べ替えを行いたい場合、例えば次のような手法が考えられるので、図9を用いて説明する。
【0097】
ステップS600では、適合度が上位21位から100位までの画像I21〜I100に対応する脳波P21(t)〜P100(t)を次式を用いて加算し、それをA(t)とする。
【0098】
【数6】
【0099】
ステップS601では、上位20位の画像I1〜I20の中から任意に10枚選択し、それらに対応した脳波を上記の式(3)を用いてA(t)に加算し、A´(t)とする。ここで、任意に選択された10枚の画像の集合をQとし、この集合Qに含まれる画像それぞれに対応した脳波データをQi(t)(i=1,2、・・・、10)とする。
【0100】
ステップS602では、A´(t)のうち250msから500msに対応する個所を上記の式(5a)を用いて加算し、それをaとする。ここで、上記事実を考慮すると、適合度が低い画像が10枚選択されたのであれば、aの値は最小になる。
【0101】
ステップS603では、上位20位の画像I1〜I20において全ての任意の10枚の画像の組み合わせでaを計算したか否かを判断し、全ての組み合わせでaを計算するまでステップS601及びステップS602の処理を繰り返す。
【0102】
そして、ステップS604では、aが最小になる画像の組み合わせに基づいて画像の配列を変更する。これにより上位20位までの画像I1〜I20を並べ替えることができる。
【0103】
以上の操作を適宜繰り返し実施すれば、画像検索手段11により出力された画像を操作者の意図や趣向等に合った順位に並べ替えることができる。
【0104】
また、画像検索手段11により出力された画像の件数が100枚以下であった場合(例えば60枚程度)、それに対応した適切な画像枚数を選べば、上記のような操作が実施できる。さらに、画像検索手段11により出力された複数の画像を3以上の画像群に分類した場合に、何れかの画像群に属する画像の数が、画像に対する脳波データを加算することにより脳波データ中のノイズ成分を除去できる数に満たない場合(例えば40枚程度)、2の画像群に分離する手法が実施できる。これは、事象関連電位を計算する場合、その加算回数は30回以上あるのが望ましいからである。20回以下の場合には、脳波データのノイズ成分(α波成分、β波成分など)が除去されない可能性がある。
【0105】
上記手法により配列を変更された画像の配列は操作者の意図や趣向等を反映した順序になっている。同じ処理を実施しても、操作者が異なれば異なる配列が作られる。また同じ操作者でも検索時の意図の違いにより配列の順序が変動する可能性がある。
【0106】
次に、本実施形態に係る物体制御方法をコンピュータ2に実行させるための画像検索支援プログラム202、及び画像検索支援プログラム202を記録したコンピュータ読み取り可能な記録媒体200(以下、単に記録媒体という)について説明する。
【0107】
ここで、記録媒体とは、コンピュータのハードウェア資源に備えられている読み取り装置に対して、プログラムの記述内容に応じて、磁気、光、電気等のエネルギーの変化状態を引き起こして、それに対応する信号の形式で、読み取り装置にプログラムの記述内容を伝達できるものである。かかる記録媒体としては、例えば、磁気ディスク、光ディスク、CD−ROM、コンピュータに内蔵されるメモリなどが該当する。
【0108】
図10は、本発明の実施形態に係る記録媒体200の構成図である。記録媒体200は、図10に示すように、プログラムを記録するプログラム領域201を備えている。このプログラム領域201には、画像検索支援プログラム202が記録されている。
【0109】
この画像検索支援プログラム202は、前述した画像検索支援を実行するプログラムであって、図10に示すように、処理を統括するメインモジュール202aと、画像記憶手段10により記憶されている属性情報及び操作者の検索課題に基づいて、画像記憶手段10により記憶されている複数の画像それぞれの検索課題に対する適合度を求め、画像記憶手段10により記憶されている複数の画像のうちから適合度が高い複数の画像を検索して出力する画像検索モジュール202bと、画像検索モジュール202bにより出力された複数の画像それぞれを画像表示手段12により逐次表示する画像表示モジュール202cと、画像検索モジュール202bにより出力された複数の画像を画像表示手段12により逐次表示する前に検索課題を音声で出力する音声出力モジュール202dと、画像表示モジュール202cにより表示された画像それぞれを操作者が視認した時に生じる操作者の脳波データを取得する脳波データ取得モジュール202eと、画像検索モジュール202bにより出力された複数の画像を適合度順に配列する配列処理と、その配列した複数の画像を配列順に従って複数の画像群に分類する分類処理と、複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる一部の画像を求めることにより画像の配列を変更する画像配列変更モジュール202fと、画像配列変更モジュール202fにより変更された画像の配列における操作者に特有の配列の特徴を抽出し、この抽出された特徴に基づいて操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する補助検索情報生成モジュール202gとを備えて構成される。
【0110】
図11は、上記記録媒体200に記録された画像検索支援プログラム202を実行するためのコンピュータ2のシステム構成図である。コンピュータ2は、画像検索支援プログラム202の実行等を制御するCPU20と、記録媒体200に記録された画像検索支援プログラム202を読み取り可能な読み取り装置22と、メモリ(RAM)21と、ディスプレイ等より成る画像表示手段12と、音声出力手段16と、脳波データ取得手段13と、を備えている。ここで、記録媒体200が読み取り装置22に挿入されると、記録媒体200に記録された情報が読み取り装置22からアクセス可能となり、図10に示す記録媒体200のプログラム領域201に記録された画像検索支援プログラム202が、コンピュータ2によって実行可能となる。
【0111】
上記読み取り装置22としては、記録媒体200に対応して、フレキシブルディスクドライブ装置、CD−ROMドライブ装置、あるいは磁気テープドライブ装置などが用いられる。
【0112】
【発明の効果】
以上、詳細に説明したとおり、本発明によれば、操作者の意図や趣向等を正確に反映した画像を検索して呈示することができる画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体を提供することができる。
【図面の簡単な説明】
【図1】本実施形態に係る画像検索支援装置の全体構成を示すブロック図である。
【図2】本実施形態に係る画像検索支援装置に含まれる電極の配置を示す図である。
【図3】本実施形態に係る画像検索支援方法の全体処理を示す流れ図である。
【図4】本実施形態に係る画像検索支援方法に含まれる画像表示処理及び脳波データ取得処理の概要を示す流れ図である。
【図5】脳波データに基づいて算出された事象関連電位波形を示す図である。
【図6】本実施形態に係る画像検索支援方法の配列変更処理を示す流れ図である。
【図7】本実施形態に係る画像検索支援方法の配列変更処理を示す流れ図である。
【図8】本実施形態に係る画像検索支援方法の配列変更処理を示す流れ図である。
【図9】本実施形態に係る画像検索支援方法の配列変更処理を示す流れ図である。
【図10】本実施形態に係る記録媒体の構成図である。
【図11】本実施形態に係るコンピュータのシステム構成図である。
【符号の説明】
1…画像検索支援装置、10…画像記憶手段、11…画像検索手段、12…画像表示手段、13…脳波データ取得手段、14…画像配列変更手段、15…補助検索情報生成手段、16…音声出力手段、100、101、102、103…電極、200…記録媒体、202…画像検索支援プログラム。
Claims (24)
- 複数の画像及び前記複数の画像それぞれの属性情報を記憶している画像記憶手段と、
前記画像記憶手段により記憶されている前記属性情報および操作者の検索課題に基づいて、前記画像記憶手段により記憶されている前記複数の画像それぞれの前記検索課題に対する適合度を求め、前記画像記憶手段により記憶されている前記複数の画像のうちから適合度が高い複数の画像を検索して出力する画像検索手段と、
前記画像検索手段により出力された前記複数の画像それぞれを逐次表示する画像表示手段と、
前記画像表示手段により逐次表示された前記複数の画像それぞれを操作者が視認した時に生じる前記操作者の脳波データを取得する脳波データ取得手段と、
前記画像検索手段により出力された前記複数の画像を適合度順に配列する配列処理と、その配列した前記複数の画像を配列順に従って複数の画像群に分類する分類処理と、前記複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる前記一部の画像を求めることにより画像の配列を変更する変更処理と、を行う画像配列変更手段と、
を備えることを特徴とする画像検索支援装置。 - 前記画像配列変更手段により変更された画像の配列における前記操作者に特有の前記配列の特徴を抽出し、この抽出された特徴に基づいて前記操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する補助検索情報生成手段をさらに備え、
前記画像検索手段は、前記補助検索情報生成手段により生成された前記補助検索情報、前記属性情報及び操作者の検索課題に基づいて、前記画像記憶手段により記憶されている前記複数の画像それぞれの前記検索課題に対する適合度を求め、前記画像記憶手段により記憶されている前記複数の画像のうちから適合度が高い複数の画像を検索して出力する、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記画像配列変更手段は、前記画像検索手段により出力された複数の画像を前記適合度の高い順に第1画像群、第2画像群及び第3画像群に分類し、
前記第2画像群に属する一部の画像を前記第1画像群に加えて第4画像群とし、前記第2画像群に属する残りの画像を前記第3画像群に加えて第5画像群とし、
前記第4画像群に属するそれぞれの画像に対する脳波データを加算し、前記第5画像群に属するそれぞれの画像に対する脳波データを加算し、それぞれの加算結果におけるN400の値の差が最大になる前記一部の画像及び前記残りの画像それぞれを求めることにより前記第2画像群に属する複数の画像の配列を変更する、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記画像配列変更手段は、前記画像検索手段により出力された複数の画像を前記適合度の高い順に第6画像群及び第7画像群に分類し、
前記第7画像群に属する一部の画像を前記第6画像群に加えて第8画像群とし、
前記第8画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最大になる前記一部の画像を求めることにより前記第7画像群に属する複数の画像の配列を変更する、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記画像配列変更手段は、前記画像検索手段により出力された複数の画像を前記適合度の低い順に第9画像群及び第10画像群に分類し、
前記第10画像群に属する一部の画像を前記第9画像群に加えて第11画像群とし、
前記第11画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最小になる前記一部の画像を求めることにより前記第10画像群に属する複数の画像の配列を変更する、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記画像配列変更手段は、前記変更処理により配列を変更した複数の画像について前記分類処理または前記加算処理の内容を変更して前記分類処理および前記変更処理を繰り返す、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記画像配列変更手段は、前記画像検索手段により出力された前記複数の画像を3以上の画像群に分類した場合に、何れかの前記画像群に属する前記画像の数が、前記画像についての前記脳波データを加算することにより脳波データ中のノイズ成分を除去できる数に満たないときには、前記画像検索手段により出力された前記複数の画像を2の画像群に分類する、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記画像表示手段は、前記検索課題を文字で表示した後に前記画像検索手段により出力された前記複数の画像の何れかを表示することを繰り返し行う、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記画像表示手段は、前記検索課題を文字で一度だけ表示した後に前記画像検索手段により出力された複数の前記画像それぞれを逐次表示する、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記画像検索手段により出力された前記複数の画像を逐次表示する前に前記検索課題を音声で出力する音声出力手段をさらに備える、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 前記脳波データ取得手段は、前記操作者の前頭葉から頭頂にかけて設けられる複数の電極を有し、前記複数の電極それぞれにより前記操作者の前記脳波データを取得する、
ことを特徴とする請求項1に記載の画像検索支援装置。 - 複数の画像及び前記複数の画像それぞれの属性情報を記憶している画像記憶手段を有し、前記画像記憶手段により記憶されている画像の検索をするときに検索支援を行う画像検索支援方法において、
前記画像記憶手段により記憶されている前記属性情報および操作者の検索課題に基づいて、前記画像記憶手段により記憶されている前記複数の画像それぞれの前記検索課題に対する適合度を求め、前記画像記憶手段により記憶されている前記複数の画像のうちから適合度が高い複数の画像を検索して出力する画像検索ステップと、
前記画像検索ステップで出力された前記複数の画像それぞれを逐次表示する画像表示ステップと、
前記画像表示ステップで逐次表示された前記複数の画像それぞれを操作者が視認した時に生じる前記操作者の脳波データを取得する脳波データ取得ステップと、
前記画像検索ステップで出力された前記複数の画像を適合度順に配列する配列処理と、その配列した前記複数の画像を配列順に従って複数の画像群に分類する分類処理と、前記複数の画像群のうちの一の画像群に属する画像に対する脳波データと他の画像群に属する一定数の一部の画像に対する脳波データとを加算処理して得られるN400の値が最大または最小となる前記一部の画像を求めることにより画像の配列を変更する変更処理と、を行う画像配列変更ステップと、
を備えることを特徴とする画像検索支援方法。 - 前記画像配列変更ステップで変更された画像の配列における前記操作者に特有の前記配列の特徴を抽出し、この抽出された特徴に基づいて前記操作者の検索課題により適合した画像を検索して出力するための補助検索情報を生成する補助検索情報生成ステップをさらに備え、
前記画像検索ステップでは、前記補助検索情報生成ステップで生成された前記補助検索情報、前記属性情報及び操作者の検索課題に基づいて、前記画像記憶手段により記憶されている前記複数の画像それぞれの前記検索課題に対する適合度を求め、前記画像記憶手段により記憶されている前記複数の画像のうちから適合度が高い複数の画像を検索して出力する、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 前記画像配列変更ステップでは、前記画像検索ステップで出力された複数の画像を前記適合度の高い順に第1画像群、第2画像群及び第3画像群に分類し、
前記第2画像群に属する一部の画像を前記第1画像群に加えて第4画像群とし、前記第2画像群に属する残りの画像を前記第3画像群に加えて第5画像群とし、
前記第4画像群に属するそれぞれの画像に対する脳波データを加算し、前記第5画像群に属するそれぞれの画像に対する脳波データを加算し、それぞれの加算結果におけるN400の値の差が最大になる前記一部の画像及び前記残りの画像それぞれを求めることにより前記第2画像群に属する複数の画像の配列を変更する、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 前記画像配列変更ステップでは、前記画像検索ステップで出力された複数の画像を前記適合度の高い順に第6画像群及び第7画像群に分類し、
前記第7画像群に属する一部の画像を前記第6画像群に加えて第8画像群とし、
前記第8画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最大になる前記一部の画像を求めることにより前記第7画像群に属する複数の画像の配列を変更する、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 前記画像配列変更ステップでは、前記画像検索ステップで出力された複数の画像を前記適合度の低い順に第9画像群及び第10画像群に分類し、
前記第10画像群に属する一部の画像を前記第9画像群に加えて第11画像群とし、
前記第11画像群に属するそれぞれの画像に対する脳波データを加算し、その加算結果におけるN400の値が最小になる前記一部の画像を求めることにより前記第10画像群に属する複数の画像の配列を変更する、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 前記画像配列変更ステップでは、前記変更処理により配列を変更した複数の画像について前記分類処理または前記加算処理の内容を変更して前記分類処理および前記変更処理を繰り返す、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 前記画像配列変更ステップでは、前記画像検索ステップで出力された前記複数の画像を3以上の画像群に分類した場合に、何れかの前記画像群に属する前記画像の数が、前記画像についての前記脳波データを加算することにより脳波データ中のノイズ成分を除去できる数に満たないときには、前記画像検索ステップで出力された前記複数の画像を2の画像群に分類する、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 前記画像表示ステップでは、前記検索課題を文字で表示した後に前記画像検索ステップで出力された前記複数の画像の何れかを表示することを繰り返し行う、
ことを特徴とする請求項12に記載の画像検索支援方法 - 前記画像表示ステップでは、前記検索課題を文字で一度だけ表示した後に前記画像検索ステップで出力された複数の前記画像それぞれを逐次表示する、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 前記画像検索ステップ取得された前記複数の画像を逐次表示する前に前記検索課題を音声で出力する音声出力ステップをさらに備える、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 前記脳波データ取得ステップでは、前記操作者の前頭葉から頭頂にかけて設けられる複数の電極それぞれにより前記操作者の前記脳波データを取得する、
ことを特徴とする請求項12に記載の画像検索支援方法。 - 請求項12〜22のいずれか1項に記載の画像検索支援方法をコンピュータに実行させるための画像検索支援プログラム。
- 請求項23に記載の画像検索支援プログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002181879A JP2004029961A (ja) | 2002-06-21 | 2002-06-21 | 画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002181879A JP2004029961A (ja) | 2002-06-21 | 2002-06-21 | 画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004029961A true JP2004029961A (ja) | 2004-01-29 |
Family
ID=31178601
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002181879A Withdrawn JP2004029961A (ja) | 2002-06-21 | 2002-06-21 | 画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004029961A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012238088A (ja) * | 2011-05-10 | 2012-12-06 | Vri Inc | 画像選択表示方法および装置 |
WO2013128701A1 (ja) * | 2012-02-28 | 2013-09-06 | 独立行政法人産業技術総合研究所 | 序列化装置、序列化方法及びプログラム |
JP2015136377A (ja) * | 2014-01-20 | 2015-07-30 | 株式会社ニコン | 画像処理装置 |
CN113180701A (zh) * | 2021-07-01 | 2021-07-30 | 中国人民解放军军事科学院军事医学研究院 | 一种用于图像标签标注的脑电信号深度学习方法 |
-
2002
- 2002-06-21 JP JP2002181879A patent/JP2004029961A/ja not_active Withdrawn
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012238088A (ja) * | 2011-05-10 | 2012-12-06 | Vri Inc | 画像選択表示方法および装置 |
WO2013128701A1 (ja) * | 2012-02-28 | 2013-09-06 | 独立行政法人産業技術総合研究所 | 序列化装置、序列化方法及びプログラム |
JP2013178601A (ja) * | 2012-02-28 | 2013-09-09 | National Institute Of Advanced Industrial & Technology | 序列化装置、序列化方法及びプログラム |
US9798796B2 (en) | 2012-02-28 | 2017-10-24 | National Institute Of Advanced Industrial Science And Technology | Ranking device, ranking method, and program |
JP2015136377A (ja) * | 2014-01-20 | 2015-07-30 | 株式会社ニコン | 画像処理装置 |
CN113180701A (zh) * | 2021-07-01 | 2021-07-30 | 中国人民解放军军事科学院军事医学研究院 | 一种用于图像标签标注的脑电信号深度学习方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9665824B2 (en) | Rapid image annotation via brain state decoding and visual pattern mining | |
US8412650B2 (en) | Device and method and program of text analysis based on change points of time-series signals | |
CN102232206B (zh) | 用于传达数据值的传感输出 | |
Tejeswinee et al. | Feature selection techniques for prediction of neuro-degenerative disorders: A case-study with Alzheimer’s and Parkinson’s disease | |
JP7279928B2 (ja) | 議論分析装置及び議論分析方法 | |
CN105068663A (zh) | 一种基于脑电信号的对象选择方法及装置 | |
US11372914B2 (en) | Image annotation | |
CN107844531B (zh) | 答案输出方法、装置和计算机设备 | |
CN117275673A (zh) | 一种用于提升分配注意的认知训练设备和方法 | |
Kampouraki et al. | e-Doctor: a web based support vector machine for automatic medical diagnosis | |
CN113780365A (zh) | 样本生成方法和装置 | |
JP2004029961A (ja) | 画像検索支援装置、画像検索支援方法、画像検索支援プログラムおよびコンピュータ読み取り可能な記録媒体 | |
CN113573128A (zh) | 一种音频处理方法、装置、终端以及存储介质 | |
US20220051670A1 (en) | Learning support device, learning support method, and recording medium | |
Jiang et al. | Music/speech classification using high-level features derived from fmri brain imaging | |
Chakraborty et al. | An efficient SMOTE-based model for dyslexia prediction | |
US20230170097A1 (en) | Methods and computing device related to sleep evaluation | |
JPH0934909A (ja) | 情報検索装置 | |
CN113425293B (zh) | 一种听觉失认障碍评估***及方法 | |
Oliveira et al. | Tabular data augmentation for video-based detection of hypomimia in Parkinson’s disease | |
KR102417448B1 (ko) | 머신 러닝 기반 잠복기별 치매 예측 방법, 그리고 이를 구현하기 위한 장치 | |
Al-hajjar et al. | Epileptic seizure detection using feature importance and ML classifiers | |
Shih et al. | Comparison of checkerboard P300 speller vs. row-column speller in normal elderly and aphasic stroke population | |
JP3915561B2 (ja) | 試験問題作成システム、方法及びプログラム | |
KR20060114569A (ko) | 특허정보시스템의 작동방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050516 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20070726 |