JP2010224207A - 視覚刺激付与装置、及び生体情報計測システム - Google Patents

視覚刺激付与装置、及び生体情報計測システム Download PDF

Info

Publication number
JP2010224207A
JP2010224207A JP2009071303A JP2009071303A JP2010224207A JP 2010224207 A JP2010224207 A JP 2010224207A JP 2009071303 A JP2009071303 A JP 2009071303A JP 2009071303 A JP2009071303 A JP 2009071303A JP 2010224207 A JP2010224207 A JP 2010224207A
Authority
JP
Japan
Prior art keywords
image
screen
projection
subject
omnidirectional
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009071303A
Other languages
English (en)
Inventor
Akio Kosaka
明生 小坂
Takashi Miyoshi
貴史 三由
Kokichi Kenno
孝吉 研野
Miho Kameyama
未帆 亀山
Toshio Horiguchi
敏夫 堀口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP2009071303A priority Critical patent/JP2010224207A/ja
Publication of JP2010224207A publication Critical patent/JP2010224207A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Projection Apparatus (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Abstract

【課題】 投影画像固有の視覚刺激にダイナミック性を付加して刺激効果を向上させ、プロジェクタやスクリーンを動かしても、投影される画像が歪んだり、プロジェクタから画像を投影する際に、投影画像が被験者の陰になってしまいスクリーンに映し出されない不具合が生じることを防止する。
【解決手段】 被験者OBに視覚刺激を付与する視覚刺激付与装置は、視覚刺激となる画像を投影する投影装置150と、投影装置から画像が投影されるスクリーンを有する被投影装置160,161,162,163と、投影装置及び被投影装置の少なくとも一方を、被験者、投影装置及びスクリーンの水平面内での二次元位置関係が変化するように移動させる移動機構151,165と、を含む。
【選択図】 図3

Description

本発明は、視覚刺激付与装置、及び生体情報計測システム等に関係する。
照明・音響・画像提示等の環境刺激と、当該環境刺激に対する被験者の血圧・心電・脈波・脳波・脳血流等の生体反応と、当該被験者が如何に感じているかの主観報告とを統合的に制御・計測するシステムが特許文献1に開示されている。当該システムは、被験者の行動の動機を作り出す刺激を提示する刺激提示部と、被験者の生理反応データを収集する生理反応データ収集部と、被験者の主観量データや行動量データを収集する主観量・行動量データ収集部と、を含む。そして、生理反応データと、主観量データと、行動量データとのうちの少なくともいずれか一つのデータと、刺激とに基づいて、被験者の心身状態を制御演算部で評価する。
特開2007−167105号公報
上記システムにおいて、被験者に付与される環境刺激の1つである視覚刺激として、プロジェクタからスクリーンに画像を投影することで、画像固有の視覚刺激を被験者に付与することができる。しかし、スクリーンに画像を投影するだけでは、視覚刺激として限界があり、ダイナミック性に欠ける。
本発明に係る幾つかの態様によれば、投影画像固有の視覚刺激にダイナミック性を付加して刺激効果を向上させることができる。また、本発明に係る幾つかの態様によれば、プロジェクタやスクリーンを動かしても、投影される画像が歪んだり、プロジェクタから画像を投影する際に、投影画像が被験者の陰になってしまいスクリーンに映し出されない不具合が生じることを防止できる。
本発明の一態様は、被験者に視覚刺激を付与する視覚刺激付与装置であって、前記視覚刺激となる画像を投影する投影装置と、前記投影装置から前記画像が投影されるスクリーンを有する被投影装置と、前記投影装置及び前記被投影装置の少なくとも一方を、前記被験者、前記投影装置及び前記スクリーンの水平面内での二次元位置関係が変化するように移動させる移動機構と、を含むことを特徴とする視覚刺激付与装置に関係する。
本発明の一態様によれば、投影装置及び被投影装置の少なくとも一方を移動させることで、被験者、投影装置及びスクリーンの水平面内での二次元位置関係が変化する。これにより、投影装置から同一画像をスクリーンに投影しても、上述した二次元位置が変化することで、視覚刺激効果をダイナミックに変化させることができる。
このとき、本発明の一態様では、前記被験者が着座する着座部が設けられ、前記移動機構は、前記着座部に着座した前記被験者が前記スクリーンと正対した時の直視方向に沿って、前記着座部の上方空間にて前記投影装置を移動させる投影装置移動機構を含むことができる。
このようにすれば、投影装置とスクリーンとの距離が変化して、スクリーンに投影される画像の大きさが変化して視覚刺激を変化させる。投影装置を移動させる他の意義として、投影装置移動機構は、前記被験者の目の位置に相当する視覚ポイントが前記投影装置の投影領域外となるように、前記投影装置を移動させることができる。
また、本発明の一態様では、前記被投影装置の前記スクリーンは、前記着座部に着座した前記被験者を中心とする180゜以上の広角度で前記被験者を囲む周囲空間を区画する広角スクリーンや、前記着座部に着座した前記被験者を中心として360゜の全角度で前記被験者を囲む周囲空間を区画する全方位スクリーンとすることができる。この場合、前記投影装置は、前記被投影装置の前記広角スクリーンまたは前記全方位スクリーンに広角画像または全方位画像を投影することになる。
このようにすれば、移動可能な投影装置によってスクリーンに投影される画像は広角画像または全方位画像となり、投影装置による視覚刺激の変化の臨場感が高まる。
また、本発明の一態様では、前記着座部を前記直視方向に沿って移動させる着座部移動機構をさらに有することができる。
このようにすれば、着座部とスクリーンとの距離が変化して視覚刺激を変化させることができるほか、着座部と投影装置との相対位置関係が変化して、被験者の目の位置に相当する視覚ポイントが投影装置の投影領域内に設定されてしまう頻度が高まるので、併せて投影装置を移動させる意義が高まる。なお、着座部はリクライニング機構を有することもできる。リクライニング角度を変えることで、開放感や圧迫感の刺激を付与できる他、リクライニング角度によっては、被験者の目の位置に相当する視覚ポイントが投影装置の投影領域内に設定されてしまう頻度が高まるので、併せて投影装置を移動させる意義が高まる。
また、本発明の一態様では、前記被験者が着座する着座部が設けられ、前記移動機構は、前記着座部に着座した前記被験者が前記スクリーンと正対した時の直視方向での前記被験者と前記スクリーンとの距離を少なくとも可変するように、前記被投影装置の前記スクリーンを移動させるスクリーン移動機構を含むことができる。
このようにすれば、投影装置とスクリーンとの距離が変化して、スクリーンに投影される画像の大きさが変化して視覚刺激を変化させる。さらに、被験者とスクリーンの距離が変化するので、プロジェクタのみを移動させた場合と比較して、被験者の前方の開放感、圧迫感、閉塞感が変化し、視覚刺激効果が更に高まる。
また、本発明の一態様では、移動可能なスクリーンを、前記着座部に着座した前記被験者を中心とする180゜以上の広角度で前記被験者を囲む周囲空間を区画する広角スクリーンや、前記着座部に着座した前記被験者を中心として360゜の全角度で前記被験者を囲む周囲空間を区画する全方位スクリーンとすることができる。この場合、前記投影装置は、前記被投影装置の前記広角スクリーンまたは前記全方位スクリーンに広角画像または全方位画像を投影することになる。
このようにすれば、被験者との間の距離が可変である移動スクリーンに投影される画像が広角画像または全方位画像となり、投影装置による視覚刺激の変化の臨場感がさらに高まる。
また、本発明の一態様では、移動可能である前記全方位スクリーンの一例として、第1のスクリーンと、前記第1のスクリーンに対して前記直視方向にて移動可能な第2のスクリーンとを含むことができる。こうすると、前記第1,第2のスクリーンにより前記被験者の全周を囲む周囲空間を区画維持しながら、前記広角スクリーン移動機構により前記周囲空間の大きさを可変する。
また、本発明の一態様では、広角スクリーン移動機構は巻き取りロールを含み、移動可能な前記広角スクリーンの一例として、前記巻き取りロールにより巻き取られ、前記巻き取りロールより引き出される前記広角スクリーンを挙げることができる。この広角スクリーンの自由端部側が、前記被験者の前記周囲空間を区画するように湾曲状に展開され、かつ、前記巻き取りロールへの巻き取り量に応じて、前記周囲空間の大きさを可変する。
また、本発明の一態様では、前記移動機構は、前記スクリーン移動機構に加えてさらに、前記着座部に着座した前記被験者が前記スクリーンと正対した時の直視方向に沿って、前記着座部の上方空間にて前記投影装置を移動させる投影装置移動機構を含むことができる。
このようにすれば、投影装置及びスクリーンのいずれか一方が移動するとき、他方も同一方向に同一距離だけ移動させることで、投影装置及びスクリーンの相対位置関係を維持することができる。こうすると、画像補正を必ずしも伴わずに、移動前と同じ形態でスクリーンに同一画像を投影することができる。
また、本発明の一態様では、投影装置及びスクリーンの移動機構に加えて、前記着座部を前記直視方向に沿って移動させる着座部移動機構をさらに設けることができる。
このようにすれば、被験者、投影装置及びスクリーンの水平面内での二次元位置関係を任意に変化させることができ、視覚刺激のバリエーションの幅をさらに広めることができる。
本発明の一態様では、前記移動機構により前記投影装置または前記被投影装置が移動されたとき、移動パラメータに基づいて、前記投影装置に供給される画像を補正する画像補正装置をさらに有することができる。
こうすると、移動後にスクリーンに投影される画像を移動前と同等にすることができ、投影される画像が歪んだり、スクリーンの一部にしか投影できなかったり、あるいはスクリーンからはみ出して投影されることを防止できる。
本発明の一態様では、前記画像投影装置には、外部の画像撮影装置で撮影された画像が供給され、前記画像補正装置は、前記画像撮影装置から画像と共に前記画像撮影装置の移動パラメータが入力され、前記画像撮影装置の移動パラメータに基づいて画像を補正することができる。
こうすると、画像撮影装置にて手振れその他の移動要因が生じても、投影される画像が歪んだり、スクリーンの一部にしか投影できなかったり、あるいはスクリーンからはみ出して投影されることを防止できる。
本発明の一態様では、前記スクリーンには全方位画像が投影され、前記画像補正装置は、前記スクリーンの半径がd0からd1に拡大した時、前記スクリーンの下端点と上端点に対応する前記全方位画像の各極座標の動径r1,r2を算出し、動径rがr1より小さい領域と動径rがr2よりも大きい領域とに、黒色の画素値を割り当てることができる。
こうすると、スクリーンからはみ出して投影される領域は黒色の画素値となるので、スクリーン外に不要な投影をすることを防止できる。
本発明の一態様では、前記スクリーンには全方位画像が投影され、前記画像補正装置は、前記スクリーンの半径がd0からd1に変更された時、f(r)を前記投影装置の光学特性を表す関数とし、前記全方位画像の変換元の極座標(r,φ)における動径rが、変換後の極座標(r’,φ’)の動径r’になるように、下記の式で与えられる画像変換を行うことができる。
こうすると、投影装置からスクリーンまでの距離が変わっても、元の画像を拡大または縮小して、画像コンテンツの一部を欠損することなく投影することができる。
本発明の一態様では、前記投影装置を垂直方向に移動させる垂直移動機構をさらに有し、前記スクリーンには全方位画像が投影され、前記投影装置が高さtzから高さtz’に垂直方向に移動した時、f(r)を前記投影装置の前記画像補正装置は、光学特性を表す関数とし、前記全方位画像の変換元の極座標(r,φ)における動径rが、変換後の極座標(r’,φ’)の動径r’になるように、下記の式で与えられる画像変換を行うことができる。
こうすると、投影装置が昇降されても、正立像を投影することができる。
本発明の一態様では、前記スクリーンには全方位画像が投影され、前記画像補正装置は、前記画像撮影装置の撮像位置が垂直方向にΔzの変化があった場合、f(r)を前記投影装置の光学特性を表す関数とし、前記全方位画像の変換元の極座標(r,φ)における動径rが、変換後の極座標(r’,φ’)の動径r’になるように、下記の式で与えられる画像変換を行うことができる。
このようにすれば、画像撮影装置の垂直方向への変動や移動に対応して、投影画像を的確に補正できる。
また、本発明の他の態様では、被験者の生体情報を計測する生体情報計測システムであって、前記被験者に視覚刺激を付与する上記のいずれかに記載の視覚刺激付与装置と、前記被験者に取り付けることによって前記被験者の前記生体情報を測定する測定装置と、前記環境刺激に応じて前記測定装置で計測された前記被験者の前記生体情報を記録する記録装置と、を含む生体情報計測システムに関係する。
このようにすれば、上述したように効果的な視覚刺激を被験者に付与しながら、生体情報を計測することができる。
本発明の第1の実施形態に係る生体情報計測システムの機能ブロック図である。 同実施形態の生体情報計測システムの概略構成図である。 図3(A)(B)は、全方位スクリーンに対してプロジェクタを移動可能とした実施形態の概略平面図、概略正面図である。 図4(A)(B)は、全方位スクリーン及びプロジェクタの双方を移動可能とした実施形態の概略平面図、概略正面図である。 図5(A)〜図5(C)は、広角スクリーン及びプロジェクタの双方を移動可能とした実施形態の概略平面図である。 移動機構及びその制御系のブロック図である。 図7(A)(B)は、プロジェクタを単独移動させる必要性を説明するための概略説明図である。 図8(A)(B)は、スクリーンを移動させた時にプロジェクタも移動させる必要性を示す概略説明図である。 図9(A)(B)は、図8(A)(B)の状態からプロジェクタを移動させて不具合を解消した状態を示す概略説明図である。 図10(A)〜図10(C)は、全方位画像撮影(生成)装置と画像投影装置との関係を示すブロック図である。 全方位画像撮影(生成)装置が生成する全方位画像の平面図である。 円筒面への投影の様子を示したものである。 図13(A)(B)は、プロジェクタを移動させた時に画像補正させる必要性を示す概略説明図である。 画像投影装置の前段に設けられる画像補正装置のブロック図である。 画像補正装置による全方位画像の画像補正動作の概略説明図である。 画像投影装置の前段に設けられる画像補正装置の他の実施態様のブロック図である。 画像投影装置の前段に設けられる画像補正装置の他の実施態様のブロック図である。 画像投影装置の前段に設けられる画像補正装置の他の実施態様のブロック図である。 画像投影装置の前段に設けられる画像補正装置の他の実施態様のブロック図である。 全方位カメラの撮影範囲又は全方位プロジェクタの投影範囲を示す全方位光学系の断面図である。 全方位カメラの撮影対象となる円筒状の撮影対象の概略斜視図である。 全方位カメラで撮影された全方位画像の概略平面図である。 全方位スクリーンの概略構成を示す斜視図である。 全方位カメラで撮影された全方位画像を定義する座標系の説明図である。 全方位投影装置の投影可能角度と、全方位画像における投影可能範囲との関係の説明図である。 全方位スクリーンの座標系を定義するための説明図である。 画像補正の具体的な動作説明図である。 画像補正の具体的な動作説明図である。 円筒状スクリーンの半径を拡大させた時に画像補正させる必要性を示す概略説明図である。 画像補正方法1による画像補正の動作説明図である。 画像補正方法2による画像補正の動作説明図である。 全方位投影装置を鉛直方向に移動させた時に画像補正させる必要性を示す概略説明図である。 画像補正方法3による画像補正の動作説明図である。 画像補正方法4による画像補正の動作説明図である。 画像補正方法5による画像補正の動作説明図である。 図36(A)(B)は、画像補正方法5による画像補正前と画像補正後の全方位画像の概略平面図である。 画像補正方法7による画像補正の動作説明図である。
以下、本発明の好適な実施の形態について詳細に説明する。なお、以下に説明する本実施形態は、特許請求の範囲に記載された本発明の内容を不当に限定するものではなく、本実施形態で説明される構成の全てが本発明の解決手段として必須であるとは限らない。
図1は、本発明の第1の実施形態に係る生体情報計測システムの機能ブロック図であり、図2は、同実施形態の生体情報計測システムの概略構成図である。
1.生体情報計測システム
本実施形態の生体情報計測システム100は、被験者の外部からの環境刺激と、環境刺激に対する被験者の生体反応と、環境刺激に対して被験者が如何に感じているかの主観報告とを統合的に制御・計測するシステムであり、図1に示すように、環境刺激付与装置102と、測定装置104と、記録装置106、制御装置112とを含む。
環境刺激付与装置102は、計測対象となる被験者OBに照明、音響、室温、画像提示等の環境刺激を付与する。本実施形態では、環境刺激付与装置102は、図2に示すように、生体情報計測室101の内部に設けられた温度刺激付与装置として機能する空調装置140や、視覚刺激付与装置として機能する画像投影装置(投影装置とも言い、投影装置は例えばプロジェクタである)150と被投影装置としてのスクリーン160等を含む。スクリーン160は、後述するとおり、180゜以上の投影面を有する広角スクリーンや360゜の全方位投影面を有する全方位スクリーンの他、ドーム型等の球面スクリーンであっても良い。画像投影装置150に供給される画像は、コンピュータグラフィック等で画像形成装置により人工的に生成する場合と、カメラ例えば全方位カメラ等で撮影される場合との双方を含む。被験者OBは、画像投影装置150の投影画像を視聴する位置に設置されたシート(着座部)103に着座したり、操作入力部120に任意に接触可能な位置に移動して、操作入力部120を介して、当該環境刺激に対する主観報告を回答する。
また、環境刺激付与装置102から被験者OBに付与された環境刺激は、環境刺激情報変換部108で電気信号等に変換され、当該変換後の環境刺激情報は、メモリ110に記録される。そして、環境刺激情報変換部108で電気信号等に変換された環境刺激情報は、制御装置112に供給される。なお、視覚刺激付与装置となるプロジェクタ150及びスクリーン160の詳細については、後述する。
測定装置104は、図2に示すように、生体情報計測室101の内部に入っている被験者OBに取り付けられ、環境刺激付与装置102(140、150、160)から付与された環境刺激に対する被験者OBの血圧、心電、脈波、脳波、脳血流等の生体反応から得られる生体情報を測定する。本実施形態では、測定装置104は、導電性ペースト(図示しない)等を介して被験者OBに直接装着される計測プローブ114と、計測プローブ114からの電気的信号を増幅する生体アンプ116と、を含む。そして、生体アンプ116で増幅した生体情報の電気的信号は、実験者コンソールに設置されている記録装置106を含む収録用PC130に送信される。
収録用PC130は、記録装置106、制御装置112等を実装し、収録用PC130に送信された電気的信号に含まれる生体情報は、記録媒体110に記録される。このとき、制御装置112からは、記録装置106に操作情報を出力して記録するが、その際に、生体情報と同期して記録されることが好ましい。これら同期して記録される操作情報や生体情報は、HDD(Hard Disk Drive)や半導体メモリ等の記録媒体(メモリ)110に記録される。なお、図2では、腕での誘導を用いた心電図計測を示しているが、各種誘導法による接続方法を代用しても良く、また、心電のみならず、皮膚電気抵抗、脳波、筋電、眼電位などの電気的な生体情報を計測しても良い。
記録装置106は、図2に示すように、生体情報計測室101の外部の実験者コンソールに設置されている収録用PC130に設けられる。そして、環境刺激付与装置102から付与された環境刺激に応じて、計測プローブ114で計測されて生体アンプ116から出力される被験者OBの生体情報を記録する。また、記録装置106は、環境刺激に対して被験者OBが操作入力部120を介して入力した回答情報を記録する。
操作入力部120は、操作表示画面が絶縁体118で覆われた感圧式タッチパネルであり、各種質問事項や、コントロール用のボタンが表示された操作表示画面を押圧することで情報の入力を行う。操作入力部120で入力された情報は、操作入力変換部122で電気信号等に変換されて、ネットワークを介して、制御装置112に伝送される。そして、操作入力変換部122を介して操作入力部120から制御装置112に入力された操作情報を元に、表示制御部124は、表示部126に表示する呈示情報を出力する。操作入力部120から入力された操作情報を伝送するために接続されるネットワークの具体的な例として、イーサネット(登録商標)や、無線LAN、Zigbee、Bluetooth、USB、IEEE1394、RS232C、GPIB等の各種通信規格等のネットワークが挙げられる。
なお、操作入力部120の例としては、操作表示画面の表面を絶縁体118で覆った感圧式タッチパネルに限定されず、被験者OBと操作入力部120との間の短絡を防止するために、絶縁型のタッチパネルであれば、光スイッチ方式のタッチパネルでもよい。また、操作入力部120は、電気絶縁性を有するものであれば、タッチパネル以外にも、各種機械スイッチ、スライダ、ノブ等、また、絶縁体で作られた電磁誘導式のスタイラスペン等に代用してもよい。
2.環境刺激付与装置
次に、本実施形態の生体情報計測システムの環境刺激付与装置102に含まれる視覚刺激付与装置の構成について、図面を使用しながら説明する。図3(A)は、本実施形態の生体情報計測システムの視覚刺激付与装置の上から見た平面図であり、図3(B)は、本実施形態の生体情報計測システムの視覚刺激付与装置の横から見た正面図である。
視覚刺激付与装置141は、生体情報計測室101(図2参照)の内部に設けられており、全方位カメラ(画像生成装置)で撮像(生成)された画像データを投影する画像投影装置であるプロジェクタ例えば全方位プロジェクタ150と、プロジェクタ150から画像データが投影される被投影装置であるスクリーン、例えば円筒状スクリーン161と、を含む。なお、円筒状スクリーン161は、生体情報計測室101の側面部のみでなく、計測室101の天井や床面もスクリーンとしても良い。円筒状スクリーン161は、シート103に着座した被験者OBを中心とする180゜以上の広角度で被験者OBを囲む周囲空間を区画する広角スクリーンの一例である。この円筒状スクリーン161は、シート103に着座した被験者OBを中心として360゜の全角度で被験者OBを囲む周囲空間を区画する全方位スクリーンの一例でもある。
また、プロジェクタ150は、円筒状スクリーン161に対して移動可能に保持するプロジェクタ懸架装置152によって、被験者OBの頭上を水平方向に移動できるようになっている。すなわち、プロジェクタ150は、図3(A)に示すように、円筒状スクリーン161の円中心Oから、少なくとも放射方向の一軸方向に対して移動する。この移動方向は、シート103に着座した被験者OBが円筒状スクリーン161と正対した時の直視方向A(図2参照)と一致させることができる。
図3(A)の例では、円筒状スクリーン161は移動しない実施形態である。図3(A)において、着座部であるシート103を図2の直視方向Aに沿って移動させてもよい。また、シート103は、背もたれ部がリクライニング機構を有しても良い。これらにより、被験者OBの目(視覚ポイント)を移動可能とすることができる。
図4(A)は、本実施形態の生体情報計測システムの視覚刺激付与装置の変形例を上から見た平面図であり、図4(B)は、本実施形態の生体情報計測システムの視覚刺激付与装置の変形例を横から見た正面図である。
本実施形態では、図3(A)(B)と同じ広角スクリーンであり、かつ全方位スクリーン162を、第1のスクリーン162aと、第1のスクリーン162aに対して直視方向A(図2)にて移動可能な第2のスクリーン162bとを含んで構成している。第1,第2のスクリーン162a,162bにより、被験者OBの全周を囲む周囲空間を区画維持しながら、その周囲空間の大きさを可変としている。なお、第1,第2スクリーン162a,162bの双方を移動可能としても良い。
第1,第2スクリーン162a,162bの各々は、横断面にて半円状部162a1(162b1)と2つの直線部162a2,162a3(162b2,162b3)を含み、第1,第2のスクリーン162a,162bの各2つの直線部(162a2と162b2、162a3と162b3)のオーバーラップ量を可変とすることで、被験者OBの全周を囲む周囲空間の大きさを可変させている。
図5(A)〜図5(C)は、さらに他の視覚刺激付与装置を示している。図5(A)〜図5(C)に示すように、巻き取りロール164を含み、フレキシブルな材質の広角スクリーン163は、巻き取りロール164により巻き取り可能である。巻き取りロール164より引き出される広角スクリーン163の自由端部側が、被験者OBの周囲空間を区画するように湾曲状に展開され、かつ、巻き取りロール164への巻き取り量に応じて、周囲空間の大きさを可変する。周囲空間の大きさは、図5(A)では「小」、図5(B)では「中」、図5(C)では「大」であり、周囲空間の大きさは無段階であるいは段階的に可変される。
このように、ロール型のスクリーン163を利用して、シームレスに空間のサイズを仕切ることにより、継ぎ目が無く、また、部屋へのエントリー時の見た目も変化しないようにすることができる。弾性体、もしくは、片ダンボール形状の樹脂パネルで作られたスクリーン163を用いることで、縦方向の剛性を確保しつつ自然に円筒面形状になるよう構成することができる。スクリーン163の自由端部とロール164の部分とで、垂直の固定は行い、必要に応じて、天井、床にアンカ固定することもできる。アンカ部分を形成する場合には、床面、天井面を走行する台車としても良く、また、パンタグラフ構造などを用いたアームによる支持を天井面、床面に対して行うようにしても良い。
なお、図4(A)(B)または図5(A)〜図5(C)の実施形態でも、図3(A)(B)の実施形態と同様に、プロジェクタ150は直視方向A(図2)にて移動可能であり、必要により、着座部であるシート103を図2の直視方向Aに沿って移動させてもよい。また、シート103は、背もたれ部がリクライニング機構を有しても良い。これらにより、被験者OBの目(視覚ポイント)を移動可能とすることができる。
以上に示すように、図4(A)(B)及び図5(A)〜図5(C)の形態では、図3(A)(B)に示す視覚刺激付与装置の機能に加えて、被験者OBの周囲空間のサイズという環境要因を制御することが可能になるとともに、それに合わせた映像呈示を実現することが可能となる。
3.環境刺激付与装置の移動機構と移動内容
図6は、環境刺激付与装置の移動機構と、それを移動制御する制御系を示している。生体情報計測システムの制御を司る制御装置112(図2も参照)には、図2の収録用PC130に接続された操作部例えばオペレータキーボード131から、プロジェクタ150、スクリーン162,163の移動情報を入力可能となっている。また、図2のシート103に着座した被験者OBは、シート103に設けられる被験者操作部105から、シート103の図2の矢印A方向の移動量や、背もたれ部のリクライニング量を、必要により入力可能に構成している。なお、シート103の移動量やリクライニング量は、オペレータキーボード131から入力させることもできる。また、後述する通り各種の移動量を検出する移動検出装置を設け、後述する画像補正装置に移動パラメータとして供与することもできる。また、被験者操作部105は、操作入力部120を適用できる。
これらの移動情報が入力される制御装置112は、移動制御部170を介して、シート移動機構103A、シートリクライニング機構103B、プロジェクタ垂直移動機構151、プロジェクタ水平移動機構(プロジェクタ懸架装置)152、スクリーン移動機構165が、必要に応じて接続されている。被験者操作部105と、その入力によって移動制御されるシート移動機構103A及びシートリクライニング機構103Bは、上述した図3(A)(B)、図4(A)(B)及び図5(A)〜図5(C)の各実施形態にて必要により配置することができる。プロジェクタ水平移動機構152は、図3(A)(B)、図4(A)(B)または図5(A)〜図5(C)の各実施形態にて設けられている。スクリーン移動機構165は、図4(A)(B)及び図5(A)〜図5(C)の各実施形態にて設けられている。
なお、スクリーン移動機構165は、図4(A)(B)及び図5(A)〜図5(C)のスクリーン162,163が広角スクリーンであることから、広角スクリーン移動機構と称することもできる。また、スクリーン移動機構165は、図4(A)(B)のスクリーン162が全方位スクリーンであることから、全方位スクリーン移動機構と称することもできる。プロジェクタ垂直移動機構151の動作形態は特に示されていないが、後述する画像補正方法の一例として、プロジェクタ150を垂直移動させ例について説明する。
シート移動機構103A、シートリクライニング機構103B、プロジェクタ水平移動機構152、スクリーン移動機構165を設ける理由は、被験者OBに対する視覚刺激を変化させるためである。つまり、これらのいずれか一つを移動させれば、被験者OB、プロジェクタ150及びスクリーン161〜163の水平面内での二次元位置関係が変化し、被験者OBの目に映る視覚刺激が変化するからである。以下に、各移動機構103A,103B,152,165による移動態様について説明する。
3.1 プロジェクタの単独移動
図3(A)(B)、図4(A)(B)及び図5(A)〜図5(C)の各実施形態にて、プロジェクタ150をスクリーン161〜163に対して、図2の矢印A方向に沿って前進・後退させれば、プロジェクタ150とスクリーン161〜163との距離が変化する。よって、プロジェクタ150から同一投影画像データに基づいて投影しても、スクリーン161〜163上に投影される画像の大きさが変化し、被験者OBに対する視覚刺激を変化させることができる。被験者OB、プロジェクタ150及びスクリーン161〜163の水平面内での二次元位置関係が変化するからである。
プロジェクタ150を移動させる他の理由として、プロジェクタ150からの投影光が被験者OBの目に入らないようにするためや、また、投影画像が被験者OBの頭等で遮蔽されないようにするために必要となる。例えば、図3(B)の着座位置から図7(A)に示す着座位置に移動した場合、被験者OBの目に相当する視覚ポイントが非投影領域A1から投影領域A2に入ってしまう。あるいは、図7(B)のように、背もたれを立てた状態から傾けると、同様に、被験者OBの目に相当する視覚ポイントが非投影領域A1から投影領域A2に入ってしまう。この他、必ずしもシート103が移動し、またはリクライニングしなくても、被験者OBの座高高さによっては、同様の事態が生ずる。このように、被験者OBの視覚ポイントが投影領域A2に入った場合に、プロジェクタ150を移動させて、被験者OBの視覚ポイントが非投影領域A1に入るようにさせている。これにより、被験者OBの視野外にプロジェクタ150を設定できる。
3.2 スクリーンの単独移動
図4(A)(B)及び図5(A)〜図5(C)の各実施形態にて、スクリーン162,163をプロジェクタ150に対して、図2の矢印A方向に沿って前進・後退させれば、プロジェクタ150とスクリーン162,163との距離が変化する。よって、プロジェクタ150から同一投影画像データに基づいて投影しても、スクリーン162,163上に投影される画像の大きさが変化し、被験者OBに対する視覚刺激を変化させることができる。それとともに、スクリーン162,163と被験者OBとの距離が変化するので、画像投影による臨場感も変化する。いずれも、被験者OB、プロジェクタ150及びスクリーン161〜163の水平面内での二次元位置関係が変化するからである。
スクリーン162,163を移動させる他の理由として、図4(A)(B)の全方位スクリーン162や図5(A)〜図5(C)の広角スクリーン163の場合には特に、被験者OBの周囲空間の大きさが変化するので、開放感、圧迫感または閉塞感を付与でき、それにより視覚刺激を変化させることができる。
3.3 プロジェクタ及びスクリーンの双方移動
図8(A)(B)は、図4(A)(B)の状態から、第2スクリーン162bを被験者OB側に近づけるように移動した状態を示す。図8(B)に示すように、第2スクリーン162bの下部のB部分が非投影領域A1となるため、第2スクリーン162bでの投影面が少なくなり、臨場感が失われる。
そこで、図9(A)(B)のように、プロジェクタ150を被験者OBの例えば頭上位置まで後退移動させることができる。こうすると、プロジェクタ150と第2スクリーン162bとの位置関係は、図4(A)(B)と同じになり、後述する画像補正を必ずしも実施しなくても、第2スクリーン162bの全面に画像を投影することができる。また、図7(A)で指摘したように、図8(B)では被験者OBの目に相当する視覚ポイントが投影領域A2に入ってしまい、被験者OBの視野にプロジェクタ150が入ってしまう。プロジェクタ150の移動後は、図9(B)に示すように、被験者OBの視覚ポイントを非投影領域A1に入るように設定できる。
つまり、プロジェクタ150及びスクリーン162,163のいずれか一方を移動させたとき、他方も同量だけ同一方向に移動させれば、プロジェクタ150及びスクリーン162,163の位置関係は、プロジェクタ150及びスクリーン162,163の移動前と同じになる。このようにすれば、後述する画像補正を必ずしも実施しなくても、移動前と同じ画像を移動後もスクリーン上に投影することができる。
なお、プロジェクタ150は、投影レンズをプロジェクタ150の移動方向と同一方向にシフトさせるシフト機構を設けることもできる。この場合には、プロジェクタ150の移動量の一部を、投影レンズのシフト量にて補っても良い。
4.スクリーンへ投影される画像
上述した通り、コンピュータグラフィック等で画像形成装置により人工的に生成する場合と、カメラ例えば全方位カメラ等の画像撮影装置で撮影される場合との双方を含む。図10(A)〜図10(C)では、これらを総称して画像撮影(生成)装置200と称している。図10(A)に示すように、画像撮影(生成)装置が撮影(生成)した全方位画像は、全方位プロジェクタ等の画像投影装置150により全方位スクリーンまたは球面スクリーンに投影される。この際、撮影される画像を直接投影してもよいが、全方位画像は、図10(B)に示すように、いったん画像格納装置210に格納された後、画像投影装置150により投影されてもよい。または遠隔にある場合などには、図10(C)に示すように、画像通信装置220を介して、画像投影装置150により投影されてもよい。
全方位画像撮影(生成)装置200が生成する画像は、たとえば図11に示される同心円状の画像230である。この際、全方位画像は、部分画像を貼り合わせて生成した全方位画像であってもよいし、また全方位の一部の画像(例えば半分や270度の広角画像など)であってもよい。
図12は、円筒面への投影の様子を示したものである。図12は、直交3軸X,Y,ZのZ軸を縦軸とする高さH(m)で半径R(m)の円筒面を示し、Z軸上にプロジェクタ150が位置する。
5.画像投影装置の位置姿勢の変化がもたらす問題と画像補正
上述したように画像投影装置(プロジェクタ)150の位置が変化すると、その位置によって投影面(例えば円筒面)に正立しない画像が投影されることになる。図13(A)のように、画像投影装置150が円筒スクリーン160の中心に位置したときに適正画像が投影される場合、図13(B)に示すように画像投影装置150が中心からずれると、適正画像が投影されなくなる。
このために、図14に示すように、画像投影装置150の前段に画像補正装置250を配置することができる。画像補正装置250が全方位画像を補正することにより、図13(B)の場合であっても、図15に示すように円筒面などの投影面に投影される画像が所望の形態(正立)になるようにすることを行う。この際、全方位プロジェクタ(画像投影装置)150の移動量や移動方向を記述するパラメータ(画像投影装置150の位置姿勢パラメータ)を利用することにより、画像補正を画像補正装置250で行うことになる。
このような画像補正は、画像投影装置150の移動に伴う場合に限らない。図16に示すように、全方位画像撮影装置(例えば全方位カメラ)200Aで撮影した実写像を利用する場合には、撮影手ぶれなどにより、微小の位置ずれや姿勢ずれを起こすことがあるからである。そのため、全方位画像撮影装置200Aの移動量を計測する移動計測装置260を設け、その位置ずれあるいは姿勢ずれのパラメータ(画像撮影装置移動パラメータ)を画像補正装置250に入力させる。そして、画像投影装置150の前にある画像補正装置250で、その位置ずれあるいは姿勢ずれを、投影されるスクリーンの形状に適応するように補正する。あるいは、図17に示すように、画像補正装置250の前段に画像格納装置210を配置し、画像撮影装置200Aからの画像と移動検出装置260からの画像撮影装置移動パラメータを画像格納装置210に格納しておくこともできる。
図18は、図14の変形例を示し、全方位画像撮影(生成)装置200と画像補正装置250との間を画像通信装置220により接続して、遠隔地からそうした画像を転送することを可能としている。図19は、図17の変形例を示し、画像投影装置150の移動、すなわち例えば移動量や移動パラメータ値を検出する移動検出装置270を設け、画像投影装置移動パラメータも画像補正装置250に取り入れている。
図14〜図19に示す実施形態によれば、次の2つの課題を解決することができる。一つは、全方位画像投影装置150を移動しても、移動してない時と等価な映像を投影するために、全方位画像を補正することである。他の一つは、全方位画像撮影装置200Aが移動しても、全方位画像撮影装置200Aが移動していない時と等価な映像を投影するために、投影すべき全方位画像を補正し、全方位画像投影装置150で表示可能にすること(全方位画像撮影装置200Aでの手ぶれ補正に利用可能)である。
ここで、本来的には、プロジェクタの位置は、Z軸に対して位置が固定であり、X/Y軸に対しては、円筒状スクリーンの中心軸とプロジェクタの中心軸とが合致している条件が望ましいが、以下のような場合では、かかる条件を満たさないことがありうる。
1)機械的制約条件のため、プロジェクタの中心軸と全方位スクリーン(円筒状スクリーン)の中心軸を一致させることができない場合、あるいはプロジェクタの位置が視聴者の視聴の妨害になる場合である。
2)可動型のプロジェクタとなっており、可動したプロジェクタの位置でも、可動しない場合と同様な効果を持つ映像コンテンツの投影をしたい場合である。
3)精密な投影効果を生みたいため、プロジェクタの中心軸と全方位スクリーン(円筒状スクリーン)の中心軸の間の校正(キャリブレーション)を行いたい場合である。
4)全方位カメラと全方位プロジェクタの撮影環境が異なるため、プロジェクタの中心軸と全方位スクリーン(円筒状スクリーン)の中心軸とを変更しなければならない場合である。例えば、全方位カメラが撮影時に手ぶれなどを起こしても、その手ぶれの絶対移動成分がわかっている場合には、その画像補正によりその手ぶれ成分を補正したい場合である。
従って、本実施形態では、全方位スクリーンとして円筒状スクリーンを想定し、その内部に360度の画像を投影可能な全方位型のプロジェクタを搭載し、そのプロジェクタにあらかじめ格納してある映像コンテンツを投影することにより、全方位スクリーン上に、コンテンツ撮影時あるいはコンテンツ作成時と等価になるような正立像を生成するために、画像補正を行うものである。
6.円筒投影の原理的説明
次に、本実施形態の生体情報計測システムに含まれる視覚刺激付与装置で使用される全方位型光学系による円筒投影の原理を説明する。全方位型光学系である全方位型カメラや全方位プロジェクタは、軸対象光学系等で構成されているものとする。
一般的に、全方位プロジェクタはミラーやプリズムなどの光学系を利用して設計され、全方位カメラと全方位プロジェクタを組み合わせて、全方位カメラが撮影した映像をそのまま全方位プロジェクタで全方位スクリーンに投影することによって、全方位にわたる映像の鑑賞することができるようになる。
具体的には、その光学系を例にとり、全方位カメラや全方位プロジェクタを利用し、その撮影範囲あるいは投影範囲を示すために、全方位の断面を考慮すると、図20に示す断面図を描くことができる。この際、基準水平位置よりも上方向の投撮又は撮影可能角度θaや、基準水平位置よりも下方向の撮影又は投影可能角度θbを図20に示すように定義すると、全体としての撮影又は投影可能領域は、図20の角度θのように決定することができる。
また、近年では、コンピュータグラフィクスの発展により、全方位カメラで実写あるいは撮像しなくても、全方位カメラで撮影したのと同様な静止画や動画を制作することができる。または、通常のデジタルカメラ等で撮影した矩形の映像を円筒変換することにより映像コンテンツを作成することもできる。
一般的にCCDやCMOSなどの矩形の撮像デバイスを利用して全方位カメラを構成し、図21に示すような円筒状に格子模様CA1のある環境を撮影したときには、全方位カメラで撮影した場合には、撮影された画像は、図22に示すように、360度の周囲環境で画像中心から放射線状の模様CB1が配列されることになる。図22に示す画像を全方位画像と呼ぶものとする。上述したように撮影された全方位画像(図22)を、プロジェクタ150から図23に示すような無地の円筒状の全方位スクリーン160に撮影すると、全方位スクリーン160には、図21と同様な格子状のパターンCA1を投影することができる。
なお、ここでコンピュータグラフィクスの手法で、図22に示す全方位画像のようなものを作成すれば、上記と同様に図23のように所望の正立した映像を円筒状スクリーンに投影することができる。また、逆に、デジタルカメラ等の撮像装置で撮影した映像群を極座標変換して貼り合わせ、図22のような円形像を合成することにより、全方位カメラを利用しなくても、図21のような投影像を制作することも可能である。
以下の説明では、このように全方位カメラ等の360度周囲環境を撮影することが可能な撮影手段で撮影した映像コンテンツがあるものと仮定した上で説明する。その際に、図22に示すような全方位画像は、画像としてその座標系を定義することが可能となり、被投影装置として、図23に示す構成の全方位スクリーン(円筒状スクリーン)160を利用した場合の数学的関係を説明する。
まず、全方位カメラで撮影された図24に示す全方位画像について、その画像での座標系をP(u,v)で表す。ここにuは横方向の座標軸を、vは縦方向の座標軸を表し、画像の左上が原点(0,0)となるようにする。また全方位画像を生成した際の画像中心をOi(u0,v0)で表現する。このとき、全方位画像の任意の点P(u,v)は、極座標(r,φ)の動径rと画像内角度φとを利用して、以下の式1で表現することができる。
動径rの範囲は、ra≦r≦rとなり、−π≦φ≦0である。図24は、この様子を表したものである。ここで、図20と図24との関係を説明する。図20において、撮影あるいは投影可能角度が、θaとθbで規定されているので、図24においては、θaに対応する動径rがraに対応し、θbに対応する動径rがrに対応する。この様子を図25に示す。図25において、全方位プロジェクタの例として、動径rの取りうる最小値raと最大値rとに対応する投影可能範囲と、水平投影位置に対応する動径r0とが図示されている。
このとき、全方位プロジェクタ150を利用して、円筒状スクリーン160に投影したとき、点P(u,v)が、円筒状スクリーン160上のどのような点に投影されるかの関係式について説明する。
図26に示すように、円筒状スクリーン160(高さh0,半径d0)の座標系(x,y,z)を定義し、全方位プロジェクタをM(0,0,tz)の位置に配置する。このとき、図24で示される全方位画像内の点P(u,v)を極座標系で(r,φ)で表すと、(u,v)が規定する投影方向の光線は、媒介変数tを利用して、以下の式2で表せる。
ここでf(r)は、プロジェクタの光学特性を表す関数で、たとえば図21、図22で示されるような等角写像の場合には、以下の式3で表現される。
円筒状スクリーンの半径をd0、最大動径rbと水平動径r0とが、円筒状スクリーン上でもたらす高低差がtzとなるので、以下の式4を算出できる。
式2は、式3を用いて以下の式5で表現することができる。
従って、全方位画像内の点P(u,v)=P(r,φ)が円筒状スクリーン160上で作る像点Qとの関係は、式5とx +y =d との交点となるので、以下の式6で表現することができる。
従って、以上の結果から全方位画像と円筒状スクリーン間の関係を算出する方法は、どちら側から算出するかにより、以下の方法Aか方法Bのいずれかで行うことになる。
方法A)全方位画像内の点P(u,v)が与えられたとき、その点が円筒状スクリーンに投影される点(xw,yw,zw)を算出する方法は、以下のA−1)、A−2)の方法で算出する。
A−1)(u,v)に対応する(r,φ)を算出する。すなわち、関数hとして、
A−2)(r,φ)に対応する(xw,yw,zw)を式6により算出する。
方法B) 円筒状スクリーン上の点(xw,yw,zw)が与えられたとき、対応する全方位画像の点P(u,v)を算出するには、以下のB−1)、B−2)の方法で算出する。
B−1)(xw,yw,zw)に対応する(r,φ)を式6の逆変換から求める。
B−2)式1を利用して、(r,φ)から(u,v)を算出する。
7.画像補正
以上の説明までは、全方位画像と円筒状スクリーンの関係について説明してきたが、画像投影装置(全方位プロジェクタ)あるいは全方位画像撮影装置(全方位カメラ)の移動に伴う画像補正は、前述した画像補正装置250によって行われる。その画像補正装置250への入力画像も出力画像も、何れも図24にあるような長方形(又はそれに準ずる正方形の形状)の画像を基本としている。すなわち、画像補正装置250では、(u,v)座標系で規定される座標系の画像を、(u’,v’)座標系で規定される画像との間の補正を行うものとなる。
以下、このような画像補正の一般的な手法について説明する。なお、ここで説明する画像補正の手法は、その1手法であり、元の画像が例えば極座標系表示等の別の座標系で規定されている場合には、その手法でも同様の効果を得ることも可能であることは言うまでもない。
本実施形態の視覚刺激付与装置に含まれる画像補正装置では、画像の補正の変換式が与えられたときには、その変換に基づいて、適切な画像変換を施すことが可能となる。例えば、g:(u,v)→(u’,v’)という画像の直交座標系から直交座標系への変換が与えられたとき、画像補正は、「元画像である補正前の画像」から「結果画像である補正後の画像」を生成することになる。
従って、実際の作業では、結果画像の各座標値(u’,v’)(整数値)に対して、上述の変換gの逆変換であるg−1を施し、(u’,v’)に対応する(u,v)をまず算出して、その対応がとれた(u,v)(必ずしも整数の値が対応するわけではない実数の座標になる)に対して適切な補間処理を行うことで、画像補正を結果画像に対して隙間なく算出することができるようになる。すなわち、図27に示すように、結果画像の各座標値(u’,v’)(整数値)をスキャンしながら、逆対応する(u,v)を算出し、その(u,v)の周辺の画素の値で補間する。
さらに、画像は、極座標系を媒介として表現する方が便利な場合が多く、その場合には、図28に示すように、式9で示される3個の関数形でg-1を展開することにより、極座標表示を媒介とした画像補正の方法も可能となる。
以下の説明では、前述した極座標表示を媒介とした画像補正方法を中心に説明する。すなわち、極座標表示の媒介変数と、上記の方法Aと方法Bとを組み合わせながら、画像補正する方法に関して、事例を交えながら説明する。
(画像補正方法1)
画像補正方法1は、同様の光学系を有する全方位カメラと全方位プロジェクタを利用した際に、円筒状スクリーンの半径がd0からd1に拡大した場合における画像補正方法である。円筒状スクリーンの半径がd0からd1に拡大した場合では、図29に示されるように、画像が円筒状スクリーン160の上下にはみ出す形で投影される。このような課題が要求されるのは、全方位カメラと全方位プロジェクタの光学系の拡大率の違いなどによっても起こりうる課題となる。
そこで、図30に示すような方法で元々の全方位画像を変形することにより、円筒状スクリーン160に投影画像を正立させることが可能となる。すなわち、全方位画像の中から、円筒状スクリーン160に投影される部分の画像のみを切り出して、それ以外の部分の領域を黒色等の色で埋めることにより、円筒状スクリーン160以外への映像コンテンツの写り込みをなくす。この場合には、上記方法Aで、半径d1の円筒状スクリーンの下端点Q1(d1,0,0)と上端点Q2(d1,0,h0)に対応する全方位画像の各極座標の動径r1,r2を算出する。そして、r1,r2を含む動径rの部分だけを切り出し、それ以外の領域、すなわち、図30に示す動径rがr1より小さい領域と、動径rがr2よりも大きい領域は、黒色の画素値で埋め込むことを実施する。このような円筒状スクリーン160の半径が拡大した場合の例を見てもわかる通り、円筒状スクリーン160の半径を変更しても、そのスクリーン160の大きさに合致したような画像補正をすることが可能となる。このため、スクリーン160上に有効に映像を投影することができ、視聴者によりリアルな映像を提供することが可能となる。
(画像補正方法2)
画像補正方法2は、全方位画像のコンテンツとしての有効範囲である(ra,rb)の領域を、(r1,r2)の半径d1の円筒状スクリーンに投影できるように、全方位画像を変換することを特徴とする。すなわち、図31に示すように、映像コンテンツの部分を縮小するような全方位画像の座標変換を行えばよい。
具体的には、変換先の全方位画像の整数座標を(u’,v’)とするとき、整数座標(u’,v’)に対応する変換元の全方位画像の実数座標(u,v)を求める。そして、(u,v)周辺の画素値に対して、適切な画像補間を行うことで、(u’,v’)を埋めるべき画素値を算出する。このために、実数座標(u,v)と整数座標(u’,v’)との間の関係式を求める。そして、実数座標(u,v)に対する極座標表現を(r,φ)とし、整数座標(u’,v’)に対する極座標表現を(r’,φ’)とすると、変換元の座標系(r,φ)におけるrが、変換後の座標系(r’,φ’)のr’になるような変換となるので、以下の式10で与えられる画像変換を行えばよいこととなる。このように画像を変換することによって、映像コンテンツの一部を欠損することなく、円筒状スクリーン上に投影することが可能となる。
(画像補正方法3)
画像補正方法3は、全方位プロジェクタがz軸方向に移動した際における画像を補正する方法である。この画像補正方法は、予め撮影された全方位画像を画像補正する手段を設けることで、円筒状スクリーンに適合・正立する映像を投影する手段を与えることを特徴とする。すなわち、全方位プロジェクタの位置がtzからtz’へ変更されたときに、画像補正の変換を行うことにより、tzの位置に全方位プロジェクタを配置した場合と同様の投影画像が得られるようにする。
具体的には、図32に示すように、全方位プロジェクタ150が円筒状スクリーン160の規定する座標系(xw,yw,zw)の中で、S’(0,0,tz’)の位置に配置されていると仮定する。このとき、画像補正の変換をすることにより、全方位プロジェクタがあたかも移動前のS(0,0,tz)の位置に配置されているかのように、投影像を作り出すようにすることが課題となる。すなわち、全方位プロジェクタ150のz方向の位置が変更になっても、円筒状スクリーン160上に投影される画像の高さに変化が起こらないようにすることが必要となる。
移動前にあるべき正立像の座標値を(xw,yw,zw)とし、移動後に補正すべき対応点のスクリーン上の座標値を(xw’,yw’,zw’)とすれば、以下の式11、式12において、(xw,yw,zw)=(xw’,yw’,zw’)が成立しなければならない。
上述した関係式から、以下の式13が得られる。
上述の式13の関係を図33(A)〜図33(C)を用いて説明する。本実施形態では、図33(A)に示す全方位プロジェクタ150の移動前における画像の正立時から、図33(B)に示すように、z軸方向に全方位プロジェクタ150を移動させた場合の画像補正である。z軸方向に全方位プロジェクタ150を移動させると、図33(C)に示すように、全方位プロジェクタ150の移動後の全方位画像の補正として、画像補正後に全方位スクリーン160への投影位置が、補正前の全方位スクリーン160への投影位置と等価になるように、全方位画像を変換する。
(画像補正方法4)
画像補正方法4は、全方位カメラでの撮影時のz軸方向の移動を補正する方法である。すなわち、全方位カメラ撮影時に、全方位カメラが移動して画像に変化が生じた場合に、その変化を画像で補正することを特徴とする。より具体的には、全方位カメラで撮像時に、その撮像位置がz方向にΔzと変化があった場合、すなわちΔzの大きさだけz軸方向の変化が生じた場合に、その変化分であるΔzが半径d0の円筒状スクリーンの投影像ではなかったかのように、すなわちΔzがゼロになるような観察ができるように、画像を補正する。この場合における画像変換は、上記の式13の中で、Δz=t’−tと置換した以下の式14から得られる。
より具体的には、図34(A)〜図34(C)に示されるように、仮想的な円筒状スクリーン面160aを半径d0になるように設置して、上記の式14で処理できるように、r→r’の逆変換で画像補正と補間処理を行う。すなわち、全方位カメラが移動後の全方位画像の補正は、図34(C)に示す画像補正後に仮想的に設けたスクリーン面160aへの投影位置が、図34(A)に示す補正前の仮想的に設けたスクリーン面160aへの投影位置と等価になるように、図34(B)の全方位画像を変換する。
(画像補正方法5)
画像補正方法5は、全方位プロジェクタがx軸方向に移動した際の全方位画像を補正する方法である。すなわち、全方位プロジェクタのx軸方向への位置移動が行われたときに、その位置移動がなかったかのような位置補正を画像が投影される円筒状スクリーン上で行う。
x方向の移動をΔxとすると、補正前と補正後の間での円筒状スクリーン上での座標系(xw,yw,zw)と(xw’,yw’,zw’)の間で、xw=xw’,yw=yw’,zw=zw’が成り立たなければならないので、媒介変数をeとして以下の式15と式16との関係を満たすように、(φ’,r’)に対する(φ,r)を求めることで、画像の補正を行う。
具体的には、上述した式15、式16から、以下の式17を求めることになる。
より具体的には、図35(A)に示す全方位プロジェクタ150の移動前における投影画像の正立時の状態から、図35(B)に示すように、x軸方向にプロジェクタ150を距離Δxだけ移動させた場合に、図35(C)の符号Eで示すように、補正後の投影画像の正立像が移動前と同じ高さになるように、f(r)をf(r’)に変換する。このとき全方位画像は、図36(A)に示す状態から、図36(B)に示す状態に画像補正がされる。
(画像補正方法6)
画像補正方法6は、全方位カメラが微小角度ΔRの回転や微小距離ΔTの位置移動があったときにおける全方位画像を補正する方法である。本実施形態では、全方位カメラには、例えば、回転変化を計測可能なジャイロセンサや、位置変化を計測可能な加速度センサ等の全方位カメラの位置姿勢の変化を計測できるセンサが装着されている。従って、全方位カメラで映像コンテンツを撮影するときに、全方位カメラが撮影フレーム毎に、その撮影時間に関する全方位カメラの微小回転や微小位置移動のパラメータを記録しておくと、映像コンテンツを円筒状スクリーンなどに投影する際に、全方位カメラの手ぶれ補正の機能を実現することができる。
例えば、ある時刻の全方位画像が、その前の時刻に対してΔRで記述される微小回転行列とΔTで表される微小位置移動パラメータで記述した場合に、円筒状スクリーン上での移動前と移動後での投影される位置座標が一致させる必要があることから、以下の式18を満たさなければならない。
ここで、ΔRは、(Ψx,Ψy,Ψz)(Yaw,Pitch,Roll角であるΨx,Ψy,Ψzの乗算)で構成され、それは、以下の式19で定義できる。
また、ΔTは、以下の式20で定義できる。
従って、式18において、未知数eを消去して、(r,φ)を(r’,φ’)で表現すればよい。すなわち、以下の式21なる関数系を求めれば良いことになる。
このようにすることによって、全方位カメラ(全方位画像撮影装置)の位置姿勢が微小に変化した場合にも、その位置姿勢変化を計測することにより、その位置姿勢の変化をキャンセルアウト(除去)できるような画像補正をすることができる。すなわち、画像補正方法6では、全方位カメラの微小な位置あるいは姿勢の変化があった場合にも、その位置あるいは姿勢の変化を円筒状スクリーン上での投影面に投影される画像が正立するように画像補正をする。こうすることによって、あたかも全方位カメラの微小な位置あるいは姿勢の変化がなかったかのように、手ぶれ補正あるいは移動補正が実現できる。このため、全方位プロジェクタからの投影像を鑑賞している利用者にモーション・シックネスなどの症状を起こさせることを低減することが可能となる。
(画像補正方法7)
画像補正方法7は、スクリーン面が図37に示す球面又は球面の一部である場合における全方位画像を補正する方法である。前述した各画像補正方法1乃至6は、円筒状スクリーンについて説明してきたが、円筒状スクリーンの代わりに、球や半球型のドーム形状のスクリーンを利用しても、同じ効果を得ることができる。その場合には、式2の代わりに式22を用いればよい。
以上、説明してきたが、全方位スクリーンは、円筒状スクリーンでも、球面の一部から構成されるスクリーンでも、そのスクリーンの幾何学的特性がパラメータで記述できれば、その投影を規定することができ、画像投影装置(全方位プロジェクタ)や画像撮影装置(全方位カメラ)に移動がともなっても、その移動に関わるパラメータを算出あるいは観察することにより、その移動自体をスクリーン面で除去することができるようになる。
なお、上記のように本実施形態について詳細に説明したが、本発明の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは、当業者には、容易に理解できるであろう。従って、このような変形例は、全て本発明の範囲に含まれるものとする。
例えば、明細書または図面において、少なくとも一度、より広義または同義な異なる用語と共に記載された用語は、明細書または図面のいかなる箇所においても、その異なる用語に置き換えることができる。また、視覚刺激付与装置、及び生体情報計測システムの構成、動作も本実施形態で説明したものに限定されず、種々の変形実施が可能である。
100 生体情報計測システム、101 生体情報計測室、102 環境刺激付与装置、
103 着座部(シート)、103A、103B 着座部移動機構、104 測定装置、
106 記録装置、110 メモリ、112 制御装置、114 計測プローブ、
116 生体アンプ、118 絶縁体、120 操作入力部、122 操作入力変換部、
124 表示制御部、126 表示部、130 収録用PC、140 空調装置、
150 画像投影装置、151、152 投影装置移動機構、
160、161,162,163 被投影装置(スクリーン)、
164 巻き取りスクリーン、165 スクリーン移動機構、170 移動制御部、
200 全方位画像撮影(生成)装置、200A 全方位画像撮影装置、
210 画像格納装置、220 画像通信装置、250 画像補正装置、
260、270 移動検出装置、OB 被験者

Claims (21)

  1. 被験者に視覚刺激を付与する視覚刺激付与装置であって、
    前記視覚刺激となる画像を投影する投影装置と、
    前記投影装置から前記画像が投影されるスクリーンを有する被投影装置と、
    前記投影装置及び前記被投影装置の少なくとも一方を、前記被験者、前記投影装置及び前記スクリーンの水平面内での二次元位置関係が変化するように移動させる移動機構と、
    を含むことを特徴とする視覚刺激付与装置。
  2. 請求項1において、
    前記被験者が着座する着座部が設けられ、
    前記移動機構は、前記着座部に着座した前記被験者が前記スクリーンと正対した時の直視方向に沿って、前記着座部の上方空間にて前記投影装置を移動させる投影装置移動機構を含むことを特徴とする視覚刺激付与装置。
  3. 請求項2において、
    前記投影装置移動機構は、前記被験者の目の位置に相当する視覚ポイントが前記投影装置の投影領域外となるように、前記投影装置を移動させることを特徴とする視覚刺激付与装置。
  4. 請求項3において、
    前記被投影装置の前記スクリーンは、前記着座部に着座した前記被験者を中心とする180゜以上の広角度で前記被験者を囲む周囲空間を区画する広角スクリーンであり、
    前記投影装置は、前記被投影装置の前記広角スクリーンに広角画像を投影することを特徴とする視覚刺激付与装置。
  5. 請求項4において、
    前記被投影装置の前記広角スクリーンは、前記着座部に着座した前記被験者を中心として360゜の全角度で前記被験者を囲む周囲空間を区画する全方位スクリーンであり、
    前記投影装置は、前記被投影装置の前記全方位スクリーンに全方位画像を投影することを特徴とする視覚刺激付与装置。
  6. 請求項2乃至5のいずれかにおいて、
    前記着座部を前記直視方向に沿って移動させる着座部移動機構をさらに有することを特徴とする視覚刺激付与装置。
  7. 請求項2乃至6のいずれかにおいて、
    前記着座部は、リクライニング機構をさらに有することを特徴とする視覚刺激付与装置。
  8. 請求項1において、
    前記被験者が着座する着座部が設けられ、
    前記移動機構は、前記着座部に着座した前記被験者が前記スクリーンと正対した時の直視方向での前記被験者と前記スクリーンとの距離を少なくとも可変するように、前記被投影装置の前記スクリーンを移動させるスクリーン移動機構を含むことを特徴とする視覚刺激付与装置。
  9. 請求項1において、
    前記被験者が着座する着座部が設けられ、
    前記被投影装置の前記スクリーンは、前記着座部に着座した前記被験者を中心とする180゜以上の広角度で前記被験者を囲む周囲空間を区画する広角スクリーンであり、
    前記投影装置は、前記被投影装置の前記広角スクリーンに広角画像を投影し、
    前記移動機構は、前記周囲空間の大きさを可変するように前記被投影装置の前記広角スクリーンを移動させる広角スクリーン移動機構を含むことを特徴とする視覚刺激付与装置。
  10. 請求項9において、
    前記被投影装置の前記広角スクリーンは、前記着座部に着座した前記被験者を中心とする360゜の全角度で前記被験者を囲む周囲空間を区画する全方位スクリーンであり、
    前記投影装置は、前記被投影装置の前記全方位スクリーンに全方位画像を投影することを特徴とする視覚刺激付与装置。
  11. 請求項9において、
    前記全方位スクリーンは、第1のスクリーンと、前記第1のスクリーンに対して前記直視方向にて移動可能な第2のスクリーンとを含み、前記第1,第2のスクリーンにより前記被験者の全周を囲む周囲空間を区画維持しながら、前記広角スクリーン移動機構により前記周囲空間の大きさを可変することを特徴とする視覚刺激付与装置。
  12. 請求項9において、
    前記広角スクリーン移動機構は巻き取りロールを含み、前記広角スクリーンは前記巻き取りロールにより巻き取られ、前記巻き取りロールより引き出される前記広角スクリーンの自由端部側が、前記被験者の前記周囲空間を区画するように湾曲状に展開され、かつ、前記巻き取りロールへの巻き取り量に応じて、前記周囲空間の大きさを可変することを特徴とする視覚刺激付与装置。
  13. 請求項8乃至12のいずれかにおいて、
    前記移動機構は、前記着座部に着座した前記被験者が前記スクリーンと正対した時の直視方向に沿って、前記着座部の上方空間にて前記投影装置を移動させる投影装置移動機構を含むことを特徴とする視覚刺激付与装置。
  14. 請求項8乃至13のいずれかにおいて、
    前記着座部を前記直視方向に沿って移動させる着座部移動機構をさらに有することを特徴とする視覚刺激付与装置。
  15. 請求項1乃至14のいずれかにおいて、
    前記移動機構により前記投影装置または前記被投影装置が移動されたとき、移動パラメータに基づいて、前記投影装置に供給される画像を補正する画像補正装置をさらに有することを特徴とする視覚刺激付与装置。
  16. 請求項15において、
    前記画像投影装置には、外部の画像撮影装置で撮影された画像が供給され、
    前記画像補正装置は、前記画像撮影装置から画像と共に前記画像撮影装置の移動パラメータが入力され、前記画像撮影装置の移動パラメータに基づいて画像を補正することを特徴とする視覚刺激付与装置。
  17. 請求項15において、
    前記スクリーンには全方位画像が投影され、
    前記画像補正装置は、前記スクリーンの半径がd0からd1に拡大した時、前記スクリーンの下端点と上端点に対応する前記全方位画像の各極座標の動径r1,r2を算出し、動径rがr1より小さい領域と動径rがr2よりも大きい領域とに、黒色の画素値を割り当てることを特徴とする視覚刺激付与装置。
  18. 請求項15において、
    前記スクリーンには全方位画像が投影され、
    前記画像補正装置は、前記スクリーンの半径がd0からd1に変更された時、f(r)を前記投影装置の光学特性を表す関数とし、前記全方位画像の変換元の極座標(r,φ)における動径rが、変換後の極座標(r’,φ’)の動径r’になるように、下記の式で与えられる画像変換を行うことを特徴とする視覚刺激付与装置。
  19. 請求項1乃至15のいずれかにおいて、
    前記投影装置を垂直方向に移動させる垂直移動機構をさらに有し、
    前記スクリーンには全方位画像が投影され、
    前記投影装置が高さtzから高さtz’に垂直方向に移動した時、f(r)を前記投影装置の光前記画像補正装置は、学特性を表す関数とし、前記全方位画像の変換元の極座標(r,φ)における動径rが、変換後の極座標(r’,φ’)の動径r’になるように、下記の式で与えられる画像変換を行うことを特徴とする視覚刺激付与装置。
  20. 請求項16において、
    前記スクリーンには全方位画像が投影され、
    前記画像補正装置は、前記画像撮影装置の撮像位置が垂直方向にΔzの変化があった場合、f(r)を前記投影装置の光学特性を表す関数とし、前記全方位画像の変換元の極座標(r,φ)における動径rが、変換後の極座標(r’,φ’)の動径r’になるように、下記の式で与えられる画像変換を行うことを特徴とする視覚刺激付与装置。
  21. 被験者の生体情報を計測する生体情報計測システムであって、
    前記被験者に視覚刺激を付与する請求項1乃至20のいずれかに記載の視覚刺激付与装置と、
    前記被験者に取り付けることによって前記被験者の前記生体情報を測定する測定装置と、
    前記環境刺激に応じて前記測定装置で計測された前記被験者の前記生体情報を記録する記録装置と、
    を含むことを特徴とする生体情報計測システム。
JP2009071303A 2009-03-24 2009-03-24 視覚刺激付与装置、及び生体情報計測システム Pending JP2010224207A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009071303A JP2010224207A (ja) 2009-03-24 2009-03-24 視覚刺激付与装置、及び生体情報計測システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009071303A JP2010224207A (ja) 2009-03-24 2009-03-24 視覚刺激付与装置、及び生体情報計測システム

Publications (1)

Publication Number Publication Date
JP2010224207A true JP2010224207A (ja) 2010-10-07

Family

ID=43041455

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009071303A Pending JP2010224207A (ja) 2009-03-24 2009-03-24 視覚刺激付与装置、及び生体情報計測システム

Country Status (1)

Country Link
JP (1) JP2010224207A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9799095B2 (en) 2013-10-07 2017-10-24 Joled Inc. Peripheral image processing for display screen with a curved surface
WO2019207735A1 (ja) * 2018-04-26 2019-10-31 Wonder Vision Techno Laboratory株式会社 ドーム状スクリーン、ドーム状スクリーン投影装置及びこれの組立て方法
JP2020092450A (ja) * 2015-08-11 2020-06-11 潤佳華晟投資集団有限公司 スクリーンプロジェクターシステム、方法、および装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10111534A (ja) * 1996-10-07 1998-04-28 Hitachi Ltd 球面スクリーンを用いた画像表示装置及びこれを備えたシステム
JP2003345324A (ja) * 2002-05-28 2003-12-03 Sony Corp 表示制御装置および表示制御方法、データ処理装置およびデータ処理方法、並びにプログラムおよび記録媒体
JP2004328321A (ja) * 2003-04-24 2004-11-18 Oki Electric Ind Co Ltd ホームシアターシステム、プロジェクター付きシート、およびスクリーン
JP2005017399A (ja) * 2003-06-23 2005-01-20 Sony Corp ドーム形スクリーン装置
JP2005326797A (ja) * 2004-05-14 2005-11-24 Hidenori Iida 保持棒と映写幕を絡み合わせたスクリーン。
JP2007147786A (ja) * 2005-11-24 2007-06-14 Matsushita Electric Works Ltd 仮想現実感生成システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10111534A (ja) * 1996-10-07 1998-04-28 Hitachi Ltd 球面スクリーンを用いた画像表示装置及びこれを備えたシステム
JP2003345324A (ja) * 2002-05-28 2003-12-03 Sony Corp 表示制御装置および表示制御方法、データ処理装置およびデータ処理方法、並びにプログラムおよび記録媒体
JP2004328321A (ja) * 2003-04-24 2004-11-18 Oki Electric Ind Co Ltd ホームシアターシステム、プロジェクター付きシート、およびスクリーン
JP2005017399A (ja) * 2003-06-23 2005-01-20 Sony Corp ドーム形スクリーン装置
JP2005326797A (ja) * 2004-05-14 2005-11-24 Hidenori Iida 保持棒と映写幕を絡み合わせたスクリーン。
JP2007147786A (ja) * 2005-11-24 2007-06-14 Matsushita Electric Works Ltd 仮想現実感生成システム

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9799095B2 (en) 2013-10-07 2017-10-24 Joled Inc. Peripheral image processing for display screen with a curved surface
JP2020092450A (ja) * 2015-08-11 2020-06-11 潤佳華晟投資集団有限公司 スクリーンプロジェクターシステム、方法、および装置
WO2019207735A1 (ja) * 2018-04-26 2019-10-31 Wonder Vision Techno Laboratory株式会社 ドーム状スクリーン、ドーム状スクリーン投影装置及びこれの組立て方法
US11487195B2 (en) 2018-04-26 2022-11-01 Wonder Vision Techno Laboratory Co., Ltd. Dome screen, dome screen projection apparatus, and method for fabricating the same

Similar Documents

Publication Publication Date Title
CN104871084B (zh) 自适应投影仪
EP3343329B1 (en) Haptic effect generation for space-dependent content
JP5268271B2 (ja) 画像表示装置および画像表示方法
JP7182920B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2015532483A (ja) ビデオ映像の視点を変えるための方法および装置
JP6310898B2 (ja) 画像処理装置、情報処理装置、および画像処理方法
US20210235014A1 (en) Image processing apparatus and control method thereof, computer-readable storage medium
CN109885169B (zh) 基于三维眼球模型的眼球参数标定和视线方向跟踪方法
JP6576042B2 (ja) 表示制御装置及びその方法、プログラム
US20210088790A1 (en) Head-mountable apparatus and methods
KR20160098408A (ko) 치아 파노라마 이미지의 생성
JP2020173529A (ja) 情報処理装置、情報処理方法、及びプログラム
JP2023164844A (ja) 情報処理装置、情報処理方法、及びプログラム
JP2012124839A (ja) 画像監視装置
JP2010224207A (ja) 視覚刺激付与装置、及び生体情報計測システム
JP2011113206A (ja) 映像コミュニケーションシステム、及び映像コミュニケーション方法
CN113658249A (zh) 虚拟现实场景的渲染方法、装置、设备和存储介质
JP5021676B2 (ja) モーションキャプチャにおける眼球運動データ置換
TW201016275A (en) Image system for adjusting displaying angle by detecting human face and visual simulation control apparatus thereof
JP2007323093A (ja) 仮想環境体験表示装置
JP2006018444A (ja) 画像処理システム及び付加情報指示装置
JP7006912B2 (ja) 画像処理装置、画像表示装置及び画像処理プログラム
US8307295B2 (en) Method for controlling a computer generated or physical character based on visual focus
JP5656809B2 (ja) 会話映像表示システム
JP2014155635A (ja) 視線計測装置、注視領域の表示方法および注視点のガウス分布の表示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130321

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130402

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130723