JP2014011654A - 画像解析装置、画像解析方法、および画像解析システム - Google Patents

画像解析装置、画像解析方法、および画像解析システム Download PDF

Info

Publication number
JP2014011654A
JP2014011654A JP2012147341A JP2012147341A JP2014011654A JP 2014011654 A JP2014011654 A JP 2014011654A JP 2012147341 A JP2012147341 A JP 2012147341A JP 2012147341 A JP2012147341 A JP 2012147341A JP 2014011654 A JP2014011654 A JP 2014011654A
Authority
JP
Japan
Prior art keywords
monitor
content
video
marker
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012147341A
Other languages
English (en)
Other versions
JP5563625B2 (ja
Inventor
Yoshinori Ohashi
良徳 大橋
Yoichi Nishimaki
洋一 西牧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Computer Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Computer Entertainment Inc filed Critical Sony Computer Entertainment Inc
Priority to JP2012147341A priority Critical patent/JP5563625B2/ja
Publication of JP2014011654A publication Critical patent/JP2014011654A/ja
Application granted granted Critical
Publication of JP5563625B2 publication Critical patent/JP5563625B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

【課題】コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供する。
【解決手段】コンテンツ再生部506は、コンテンツを再生する。映像取得部502は、前記コンテンツの再生画面を表示中のモニタ300を含む映像を撮像する撮像素子204が撮像した映像を取得する。モニタ特定部504は、映像取得部502が取得した映像からモニタ300の位置を特定する。ここでコンテンツ再生部506は、モニタ300を観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生する。モニタ特定部504は、撮像素子204が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中におけるモニタ300の位置を特定する。
【選択図】図3

Description

本発明は、画像解析装置、画像解析方法、および画像解析システムに関する。
近年、立体映像を提示するための技術開発が進み、奥行きを持った立体映像を提示することが可能なヘッドマウントディスプレイ(Head Mounted Display; 以下「HMD」と記載する。)が普及してきている。このようなHMDの中には、ホログラフィック素子やハーフミラー等を用いて、立体映像をユーザに提示しつつ、かつユーザがHMDの外の様子をシースルーで見ることができる光学透過型HMDも開発されている。
一方、カメラ等の撮像素子で撮像した実世界の映像にCG(Computer Graphics)等の映像を付加した映像を生成し、ユーザに提示する実世界の映像の一部に修正を加えるAR(Augmented Reality)技術も実用段階に入りつつある。AR技術では、バーコード等の識別可能な特定の情報を認識し、その情報に紐付けて画像を生成する場合もある。
光学透過型HMDとテレビモニタとを併用し、テレビモニタにマーカを表示させてテレビモニタ自体をマーカとして利用することにより、その光学透過型HMDを装着するユーザに対し、テレビモニタが表示する映像に光学透過型HMDの映像を重ねて提示することが実現できる。一方で、テレビモニタにもコンテンツの再生画面を表示させることを考えると、マーカの提示によってコンテンツの世界観が損なわれてしまうことは、可能な限り避けることが望まれる。
本発明はこうした課題に鑑みてなされたものであり、その目的は、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供することにある。
上記課題を解決するために、本発明のある態様は画像解析装置である。この装置は、コンテンツを再生するコンテンツ再生部と、前記コンテンツの再生画面を表示中のモニタを含む映像を撮像する撮像素子が撮像した映像を取得する映像取得部と、前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備える。ここで前記コンテンツ再生部は、前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定する。
本発明の別の態様は、画像解析方法である。この方法は、ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を取得するステップと、取得した映像に含まれるコンテンツの再生画面から前記マーカを特定するステップと、特定したマーカをもとに、映像中における前記モニタの位置を特定するステップとをプロセッサに実行させる。
本発明のさらに別の態様は、画像解析システムである。このシステムは、コンテンツを再生するコンテンツ再生部と、前記コンテンツの再生画面を表示するモニタと、前記モニタを含む映像を撮像する撮像素子と、前記撮像素子が撮像した、前記コンテンツの再生画面を表示中のモニタを含む映像を取得する映像取得部と、前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備える。ここで前記コンテンツ再生部は、前記モニタ特定部にのみ認識されるようなマーカを含むコンテンツを再生し、前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定する。
本発明のさらに別の態様は、上記の方法の各ステップをコンピュータに実現させるプログラムである。
このプログラムは、ビデオやオーディオのデコーダ等のハードウェア資源の基本的な制御を行なうために機器に組み込まれるファームウェアの一部として提供されてもよい。このファームウェアは、たとえば、機器内のROM(Read Only Memory)やフラッシュメモリなどの半導体メモリに格納される。このファームウェアを提供するため、あるいはファームウェアの一部をアップデートするために、このプログラムを記録したコンピュータ読み取り可能な記録媒体が提供されてもよく、また、このプログラムが通信回線で伝送されてもよい。
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。
本発明によれば、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供する提供することができる。
実施の形態に係る映像提示システムの全体構成を模式的に示す図である。 実施の形態に係る立体映像観察デバイスの外観の一例を模式的に示す図である。 実施の形態に係る画像解析の内部構成を模式的に示す図である。 実施の形態に係るモニタ特定部がマーカの特定に用いる特徴量の一例を表形式で示す図である。 実施の形態に係るコンテンツ再生部が再生する画像の種類と、そのときの光学シャッタのオンオフのタイミングを表形式で示す図である。 実施の形態に係る画像解析装置によるモニタ特定処理の流れを示すフローチャートである。
図1は、実施の形態に係る映像提示システム100の全体構成を模式的に示す図である。実施の形態に係る映像提示システム100は、立体映像観察デバイス200、モニタ300、および情報処理装置400を含む。
モニタ300は、コンテンツの再生画面の少なくとも一部を再生する。モニタ300は一般的なテレビモニタを用いて実現できるが、フレームシーケンシャル方式で立体映像を表示する3次元モニタであることが好ましく、以下本明細書においては、モニタ300は3次元モニタであることを前提とする。なお、3次元モニタは、2次元画像を表示する一般的なテレビモニタの機能も合わせ持つ。
人間の左右の目は6cm程度離れているため、左目から見える映像と右目から見える映像には視差が生じる。人間の脳は、左右の目で知覚した視差画像を、奥行きを認識するためのひとつの情報として利用しているといわれている。そのため、左目で知覚される視差画像と右目で知覚される視差画像とをそれぞれの目に投影すると、人間には奥行きを持った映像として認識される。モニタ300は、左目用の視差画像と右目用の視差画像とを交互に時分割で表示する。モニタ300は、液晶テレビやプラズマディスプレイ、有機ELモニタ等の既知の提示デバイスを用いて実現できる。
立体映像観察デバイス200は、光学透過型HMDである。ここで立体映像観察デバイス200は、モニタ300を観察するための光学シャッタ(図示せず)を備えてもよい。光学シャッタはモニタ300の視差画像の切替と同期して、左右のシャッタを開閉する。より具体的には、モニタ300が左目用の視差画像を表示しているときは、右目用のシャッタを閉じるとともに左目用のシャッタを開け、立体映像観察デバイス200を装着するユーザに左目用の視差画像を提示する。反対に、モニタ300が右目用の視差画像を表示しているときは、左目用のシャッタを閉じるとともに右目用のシャッタを開け、ユーザに右目用の視差画像を提示する。光学シャッタは、例えば既知の液晶シャッタを用いて実現できる。
立体映像観察デバイス200は、シャッタ切替のための同期信号を受信する。同期信号は、モニタ300または情報処理装置400に設けられた図示しない信号送信部から、例えば赤外光等を用いて無線で伝達される。
情報処理装置400は、映像提示システム100で提示するための立体映像や上述した同期信号を取得する。情報処理装置400の例としては、例えば据置型のゲーム機や携帯ゲーム機等である。情報処理装置400は内蔵するプロセッサを用いて立体映像や同期信号を生成したり、図示しないネットワークインタフェースを介して、サーバ等の他の情報処理装置から立体映像を取得したりする。
図2は、実施の形態に係る立体映像観察デバイス200の外観の一例を模式的に示す図である。立体映像観察デバイス200は、立体映像を提示する提示部202、撮像素子204、および種々のモジュールを収納する筐体206を含む。
提示部202は、ユーザの目に立体映像を提示する光学透過型HMDと、光学透過型HMDを透過する外界の光の透過率を変更する液晶シャッタとを含む。撮像素子204は、立体映像観察デバイス200を装着するユーザの視野を含む領域にある被写体を撮像する。このため、撮像素子204は、立体映像観察デバイス200をユーザが装着したとき、ユーザの眉間のあたりに配置されるように設置されている。撮像素子204は、例えばCCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の既知の固体撮像素子を用いて実現できる。
筐体206は、めがね形状の立体映像観察デバイス200におけるフレームの役割を果たすとともに、立体映像観察デバイス200が利用する様々なモジュール(図示せず)を収納する。立体映像観察デバイス200が利用するモジュールとは、光学透過型HMDを実現するためのホログラム導光板を含む光学エンジン、液晶シャッタを駆動するためのドライバや同期信号受信部、その他Wi−Fi(登録商標)モジュール等の通信モジュール、電子コンパス、加速度センサ、傾きセンサ、GPS(Global Positioning System)センサ、および照度センサ等である。これらのモジュールは例示であり、また立体映像観察デバイス200はこれらのモジュールを必ずしも全て搭載する必要はない。いずれのモジュールを搭載するかは、立体映像観察デバイス200が想定する利用シーンに応じて決定すればよい。
図2は、めがね型の立体映像観察デバイス200を例示する図である。立体映像観察デバイス200の形状は、この他にも帽子形状、ユーザの頭部を一周して固定されるベルト形状、ユーザの頭部全体を覆うヘルメット形状等さまざまなバリエーションが考えられるが、いずれの形状の立体映像観察デバイス200も本発明の実施の形態に含まれることは、当業者であれば容易に理解される。
図3は、実施の形態に係る画像解析装置500の内部構成を模式的に示す図である。実施の形態に係る画像解析装置500は、上述した情報処理装置400の一部として実現される。あるいは、インターネット等のネットワークを介して情報処理装置400に送信するための立体映像を生成するサーバ内に実現されてもよいし、立体映像観察デバイス200やモニタ300に内蔵されてもよい。あるいはさらに、画像解析装置500は独立したひとつの装置であってもよい。以下では、実施の形態に係る画像解析装置500は、上述した情報処理装置400の一部として実現されることを前提に説明する。
実施の形態に係る画像解析装置500は、映像取得部502、モニタ特定部504、およびコンテンツ再生部506を含む。
コンテンツ再生部506は、映画やゲーム、テレビ番組等のコンテンツを再生する。コンテンツ再生部506が再生するコンテンツの映像のうち、少なくとも一部の映像はモニタ300に表示される。また、コンテンツ再生部506が再生するコンテンツの映像の一部は、立体映像観察デバイス200中の光学透過型HMDに表示される。
例えば、コンテンツ再生部506が再生するコンテンツがゲームアプリケーションである場合、ゲームの映像のうち背景画像がモニタ300に表示され、ユーザの操作対象となるキャラクタの映像やARイメージ等が光学透過型HMDに表示される。
立体映像観察デバイス200に備えられた撮像素子204は、コンテンツ再生部506が再生するコンテンツの再生画面を表示中のモニタ300を含む映像を撮像する。映像取得部502は、撮像素子204が撮像した映像を取得する。モニタ特定部504は、映像取得部502が取得した映像中に映っているマーカを検出し、検出したマーカをもとにモニタ300の位置を特定する。このため、コンテンツ再生部506は、モニタ特定部504がモニタ300の特定に利用するためのマーカを、モニタ300に表示させる。コンテンツ再生部506は、モニタ特定部504が特定したモニタ300の位置をもとに、光学透過型HMDに表示されるモニタ300上に3次元イメージを重ねて表示させる。
上述したとおり、モニタ300はコンテンツ再生部506が再生するコンテンツの映像も表示するため、ユーザは、光学透過型HMDを介してモニタ300を観察する。したがって、モニタ特定部504によるモニタ300の特定を容易とする目的でコンテンツの映像と異なるマーカ用の画像を表示すると、コンテンツの世界観を損なうことになりかねず、場合によってはユーザが興ざめしてしまう可能性もある。
そこでコンテンツ再生部506は、モニタ300を観察するユーザには認識されない態様で表示されるマーカをコンテンツに含めてを再生する。ここで、「ユーザには認識されない態様で表示」としては、コンテンツ再生部が再生するコンテンツに由来する映像を表示することによってユーザにはマーカであることを気づかせないように表示することと、ユーザの視界を遮蔽している間に撮像素子204にのみマーカを提示することとの、ふたつの表示方法が考えられる。以下、コンテンツ再生部506が再生するコンテンツに由来する映像を表示する方法と、撮像素子204にのみマーカを提示する方法とについて順に説明する。
まず、コンテンツ再生部506が再生するコンテンツに由来する映像をマーカとして表示することについて説明する。
モニタ特定部504は、テンプレートマッチングやDP(Dynamic Programming)マッチング、エッジ等の特徴量解析など、既知のパターンマッチング手法を用いて映像中のマーカを特定する。したがって、映像中の所定の構造物を特定するために用いられるマーカは、映像においてなるべく変化の少ない画像であることが好ましい。
一般に、ゲームコンテンツの映像は、ユーザの操作対象となるキャラクタや敵キャラ等、映像中を動き回るキャラクタ画像と、動きによる変化が比較的少ない背景画像とに分類できる。したがって、コンテンツに由来する映像をマークとする例として、ゲームコンテンツにおける背景画像をマーカとすることが挙げられる。
モニタ特定部504は、マーカとなる背景画像を取得し、背景画像から取得した画像中に含まれる構造物のエッジや輪郭、コーナー、配色等の特徴量を抽出する。図4は、実施の形態に係るモニタ特定部504がマーカの特定に用いる特徴量の一例を表形式で示す図である。モニタ特定部504は背景画像を解析して、背景画像中のどの位置にどのような特徴量が存在するかを管理する。図4に示す例では、タイプ1は構造物のコーナー(角の点)が、画像中の点(X,Y)に存在することを示している。モニタ特定部504は、映像取得部502から新たに取得した映像を解析し、その映像中に上記の特徴量を含むか否かを調べることで、新たに取得した映像からマーカとなる背景画像を特定する。なお、特徴量は画像解析装置500内の図示しない記録部に保存される。
ところで、背景画像は映像中を動き回るキャラクタ画像と比較すると動きによる変化が少ないといえども、通常、ゲームの進行にしたがって少しずつ変化する。そこで、モニタ特定部504は、ひとたび抽出した特徴点の差分情報も管理する。具体的には、モニタ特定部504は、背景画像の変化に伴う各特徴点の平行移動量や、特徴量が回転した場合にはその回転角も管理する。また、特徴量の存在位置によっては背景画像の移動によって消失する場合もあるため、各特徴量が現在有効か否かも管理する。これにより、特徴量の抽出のもととなった背景画像が変化したとしても、特徴量をもとにしてマーカとなる背景画像を特定することができる。また、ゲームコンテンツの背景そのものをマーカとしてモニタ300を特定するため、ユーザにマーカを意識させることがなく、ゲームの世界観を損なうことを防止できる。
次に、ユーザの視界を遮蔽している間に撮像素子204にのみマーカを提示することについて説明する。
上述したとおり、モニタ300はフレームシーケンシャル方式の3次元モニタであり、光学透過型HMDはフレームシーケンシャル方式の3次元モニタの観察に用いる光学シャッタを備えている。そこでコンテンツ再生部506は、光学透過型HMDを通して実空間を観察するユーザの視界を光学シャッタが遮蔽している間に、モニタ特定部504がモニタ300の位置を特定するために利用するマーカをモニタ300に表示させる。
図5は、実施の形態に係るコンテンツ再生部506が再生する画像の種類と、そのときの光学シャッタのオンオフのタイミングを表形式で示す図である。
上述したとおり、モニタ300が左目用の視差画像を表示しているときは、右目用のシャッタをオンして右目の視野を遮蔽するとともに左目用のシャッタをオフとし、立体映像観察デバイス200を装着するユーザに左目用の視差画像を提示する。また、モニタ300が右目用の視差画像を表示しているときは、左目用のシャッタをオンして左目の視野を遮蔽するとともに右目用のシャッタをオフとし、ユーザに右目用の視差画像を提示する。左目用の視差画像と右目用の視差画像を表示した後に、モニタ300は、3番目の画像としてマーカのための画像を表示する。この時、光学シャッタは両目ともオンとなってユーザの視界を遮蔽する。
このように、モニタ300が左目用の視差画像、右目用の視差画像、およびマーカ画像を変更しながら順番に提示し、光学シャッタのオンオフ制御を画像の提示に同期させることにより、モニタ300を用いてユーザに立体映像を提示しつつ、ユーザに認識されないように撮像素子204だけにマーカ画像を提示することができる。ユーザはマーカ画像を見ることがないため、ゲームの世界観を損なうことを防止できる。
ところで、ゲームの映像のうち背景画像がモニタ300に表示され、ユーザの操作対象となるキャラクタの映像が光学透過型HMDに表示されるような場合、コンテンツ再生部506は、モニタ特定部504が特定したモニタ300の位置をもとに映像を表示する。このため、例えばユーザの視線がモニタ300からはずれる等の原因によってモニタ特定部504によるモニタ300の位置特定ができなくなったとすると、コンテンツ再生部506は光学透過型HMDに適切に映像を表示できなるなる。そこで、モニタ特定部504がマーカの特定に失敗した場合、コンテンツ再生部506はコンテンツの再生を一旦停止する。その後、モニタ特定部504がマーカの特定に成功すれば、コンテンツ再生部506はコンテンツの再生を再開する。
また、モニタ特定部504がマーカの特定に失敗することによってコンテンツの再生を一旦停止する場合、コンテンツ再生部506は、モニタの特定に失敗したことを示すメッセージを光学透過型HMDに表示させる。これにより、ユーザはゲームの進行が中断することが分かる。ユーザは、例えばゲーム以外になすべき別の所用が発生したのであれば、ゲームの進行を中断したまま所用を済ませればよい。また、ゲームを継続することを望むのであれば、立体映像観察デバイス200の撮像素子204をモニタ300の方向に向けることで、モニタ特定部504がモニタを特定できるようにしてもよい。
図6は、実施の形態に係る画像解析装置500によるモニタ特定処理の流れを示すフローチャートである。本フローチャートにおける処理は、例えば画像解析装置500の電源が投入されたときに開始する。
コンテンツ再生部506は、コンテンツを再生する(S2)。モニタ300は、コンテンツ再生部506が再生したコンテンツの再生映像を表示する(S4)。撮像素子204は、コンテンツの再生映像を表示するモニタ300を含む映像を撮像する(S6)。
モニタ特定部504は、映像取得部502が取得した撮像素子204の映像中から、モニタ300を特定するためのマーカの検出を試みる(S8)。モニタ特定部504がマーカの検出に失敗した場合(S10のN)、コンテンツ再生部506は再生中のコンテンツを一時停止する(S12)。コンテンツ再生部506はまた、モニタの特定に失敗したことを示すメッセージを、ユーザが装着している光学透過型HMDに表示させる(S14)。コンテンツ再生部506が光学透過型HMDにメッセージを表示させた後、ステップS6に戻って上述の処理を繰り返す。
モニタ特定部504がマーカの検出に成功した場合(S10のY)、モニタ特定部504は、検出したマーカをもとに映像中におけるモニタ300の位置を特定する(S16)。モニタ特定部504がモニタ300の位置を特定したとき、コンテンツが一時停止されている場合(S18のY)、コンテンツ再生部506はコンテンツの再生を再開する(S20)。コンテンツが一時停止されていない場合(S18のN)、コンテンツ再生部506はコンテンツの再生を継続する。コンテンツが一時停止されていない場合か、あるいはコンテンツ再生部506はコンテンツの再生を再開すると、本フローチャートにおける処理は終了する。
以上の構成による映像提示システム100の利用シーンは以下のとおりである。ユーザが立体映像観察デバイス200を装着してモニタ300を観察すると、撮像素子204は、コンテンツ再生部506によってユーザには認識されない態様で表示されるマーカを撮像する。モニタ特定部504は、マーカを検出することで映像中に存在するモニタ300の位置を特定する。
以上説明したように、実施の形態に係る映像提示システム100によれば、コンテンツの世界観の維持とモニタ検出用マーカの提示との両立を図るための技術を提供することができる。
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
(第1の変形例)
上記では、モニタ300にマーカ画像を表示させて、映像中のモニタ300の位置を特定する場合について説明した。ひとたびモニタ300の位置特定が成功した後は、モニタに表示させる画像以外の情報をマーカとしてもよい。具体的には、例えばモニタ300の位置特定が成功した後は、モニタ300のフレームを検出用マーカとしてもよい。モニタのフレームは時間による変化がないため、より精度よくモニタ300を特定することが期待できる。
(第2の変形例)
上記では、モニタ300にマーカ画像を表示させて、映像中のモニタ300の位置を特定する場合について説明した。ここで、光学透過型HMDの光学シャッタを制御するためのシャッタ制御信号が赤外光を介して送信される場合、シャッタ制御信号の出力部をモニタ300のフレームに設けてその赤外光を検出することにより、モニタ300の位置を特定することもできる。
撮像素子204を実現するためのCCD等の撮像素子は、一般に赤外光も撮像することができる。赤外光は可視光ではないため、ユーザの目に観測されることはほとんどない。したがって、モニタ300のフレームから発信される赤外光の発信源を特定すれば、モニタ300のフレームを特定するための有力な手がかりとなる。一般的な撮像素子には赤外線遮断シートが取り付けられていることが多いが、撮像素子204には赤外線遮断シートを取り付けないことが好ましい。これにより、赤外光であるシャッタ制御信号をより検出しやすくすることができる。
(第3の変形例)
上記では、モニタ300表示されたマーカ画像から特徴量を直接抽出する場合について説明した。これに代えて、コンテンツ再生部506は、コンテンツの再生映像に例えば既知のデジタル指紋や電子透かしを埋め込んでもよい。これにより、ユーザにとっては埋め込まれた情報を視認することは困難であるが、モニタ特定部504は特定の検出処理を実行することによってマーカを検出することができる。
(第4の変形例)
上記では、図5を参照して光学シャッタのオンオフを制御について説明したが、光学シャッタのオンオフのタイミングは図5に示すパターンに限られない。例えば、図5に示すパターンに対してマーカ画像を表示する頻度を少なくしてもよい。これにより、コンテンツの映像とマーカ画像とが混ざって表示されるクロストークの影響を小さくすることができる。
また図5はモニタ300が3次元映像を表示する場合の例を示すが、モニタ300は通常の2次元映像を表示するものであってもよい。この場合、コンテンツ再生部506は、コンテンツの映像とマーカ画像とを時分割で交互に表示するか、あるいはコンテンツの映像フレームを所定枚数表示した後に、マーカ画像をモニタ300に表示させてもよい。立体映像観察デバイス200の光学シャッタは、モニタ300がマーカ画像を表示している間だけシャッタをオンとして、ユーザの視界を遮蔽することで、ユーザにはマーカ画像を知覚させずにモニタ300にマーカ画像を表示することができる。
100 映像提示システム、 200 立体映像観察デバイス、 202 提示部、 204 撮像素子、 206 筐体、 300 モニタ、 400 情報処理装置、 500 画像解析装置、 502 映像取得部、 504 モニタ特定部、 506 コンテンツ再生部。

Claims (10)

  1. コンテンツを再生するコンテンツ再生部と、
    前記コンテンツの再生画面を表示中のモニタを含む映像を撮像する撮像素子が撮像した映像を取得する映像取得部と、
    前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備え、
    前記コンテンツ再生部は、前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、
    前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定することを特徴とする画像解析装置。
  2. 前記モニタ特定部は、前記コンテンツ再生部が再生するコンテンツに由来する映像をマーカとして、前記モニタの位置を特定することを特徴とする請求項1に記載の画像解析装置。
  3. 前記コンテンツ再生部が再生するコンテンツがゲームコンテンツの場合、前記モニタ特定部は、前記ゲームコンテンツの背景画面をマーカとして前記モニタの位置を特定することを特徴とする請求項1または2に記載の画像解析装置。
  4. 前記モニタ特定部がマーカの特定に失敗した場合、前記コンテンツ再生部はコンテンツの再生を停止することを特徴とする請求項1から3のいずれかに記載の画像解析装置。
  5. 前記撮像素子は、前記コンテンツによって生成された仮想的な3次元空間における3次元イメージを実空間中に投影した場合に観察される映像を提示する光学透過型HMDに備えられており、
    前記コンテンツ再生部は、前記モニタ特定部が特定したモニタの位置をもとに、前記光学透過型HMDに表示される前記モニタ上に重ねて表示させる3次元イメージを生成することを特徴とする請求項1から4のいずれかに記載の画像解析装置。
  6. 前記コンテンツの再生画面を表示するモニタはフレームシーケンシャル方式の3次元モニタであり、かつ前記光学透過型HMDはフレームシーケンシャル方式の3次元モニタの観察に用いる光学シャッタを備えており、
    前記コンテンツ再生部は、前記光学透過型HMDを通して実空間を観察するユーザの視界を前記光学シャッタが遮蔽している間に、前記モニタ特定部が前記モニタの位置を特定するために利用するマーカを前記モニタに表示させることを特徴とする請求項5に記載の画像解析装置。
  7. 前記モニタ特定部が前記マーカの特定に失敗した場合、前記コンテンツ再生部は、モニタの特定に失敗したことを示すメッセージを前記光学透過型HMDに表示させることを特徴とする請求項5または6に記載の画像解析装置。
  8. ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を取得するステップと、
    取得した映像に含まれるコンテンツの再生画面から前記マーカを特定するステップと、
    特定したマーカをもとに、映像中における前記モニタの位置を特定するステップとをプロセッサに実行させることを特徴とする画像解析方法。
  9. ユーザには認識されない態様で表示されるマーカを含むコンテンツの再生画面を表示中のモニタを含む映像を取得する機能と、
    取得した映像に含まれるコンテンツの再生画面から前記マーカを特定する機能と、
    特定したマーカをもとに、映像中における前記モニタの位置を特定する機能とをコンピュータに実現させることを特徴とするプログラム。
  10. コンテンツを再生するコンテンツ再生部と、
    前記コンテンツの再生画面を表示するモニタと、
    前記モニタを含む映像を撮像する撮像素子と、
    前記撮像素子が撮像した、前記コンテンツの再生画面を表示中のモニタを含む映像を取得する映像取得部と、
    前記映像取得部が取得した映像から前記モニタの位置を特定するモニタ特定部とを備え、
    前記コンテンツ再生部は、前記モニタを観察するユーザには認識されない態様で表示されるマーカを含むコンテンツを再生し、
    前記モニタ特定部は、前記撮像素子が撮像した前記マーカを含む映像から特定したマーカをもとに、映像中における前記モニタの位置を特定することを特徴とする画像解析システム。
JP2012147341A 2012-06-29 2012-06-29 画像解析装置、画像解析方法、および画像解析システム Active JP5563625B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012147341A JP5563625B2 (ja) 2012-06-29 2012-06-29 画像解析装置、画像解析方法、および画像解析システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012147341A JP5563625B2 (ja) 2012-06-29 2012-06-29 画像解析装置、画像解析方法、および画像解析システム

Publications (2)

Publication Number Publication Date
JP2014011654A true JP2014011654A (ja) 2014-01-20
JP5563625B2 JP5563625B2 (ja) 2014-07-30

Family

ID=50107965

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012147341A Active JP5563625B2 (ja) 2012-06-29 2012-06-29 画像解析装置、画像解析方法、および画像解析システム

Country Status (1)

Country Link
JP (1) JP5563625B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015001760A (ja) * 2013-06-13 2015-01-05 任天堂株式会社 画像処理システム、画像処理装置、画像処理プログラム、および画像処理方法
WO2017204478A1 (ko) * 2016-05-23 2017-11-30 주식회사 토비스 공용 hmd장치 및 이를 구비한 게임기
KR101877846B1 (ko) * 2013-12-27 2018-07-12 인텔 코포레이션 헤드 장착 디스플레이로 확장된 디스플레이를 제공하는 디바이스, 방법 및 시스템
JP2020074058A (ja) * 2018-08-07 2020-05-14 アップル インコーポレイテッドApple Inc. 2d/3d混在コンテンツの検出及び表示

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005250950A (ja) * 2004-03-05 2005-09-15 Nippon Telegr & Teleph Corp <Ntt> マーカ提示用携帯端末および拡張現実感システムならびにその動作方法
JP2009205556A (ja) * 2008-02-28 2009-09-10 Panasonic Corp ユーザインタフェース装置
JP2011204047A (ja) * 2010-03-26 2011-10-13 Konami Digital Entertainment Co Ltd 拡張現実システム、マーカ端末、撮影端末、拡張現実方法、ならびに、情報記録媒体

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005250950A (ja) * 2004-03-05 2005-09-15 Nippon Telegr & Teleph Corp <Ntt> マーカ提示用携帯端末および拡張現実感システムならびにその動作方法
JP2009205556A (ja) * 2008-02-28 2009-09-10 Panasonic Corp ユーザインタフェース装置
JP2011204047A (ja) * 2010-03-26 2011-10-13 Konami Digital Entertainment Co Ltd 拡張現実システム、マーカ端末、撮影端末、拡張現実方法、ならびに、情報記録媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6014001066; 加藤博一,Mark Billinghurst,浅野浩一,橘啓八郎: 'マーカー追跡に基づく拡張現実感システムとそのキャリブレーション' 日本バーチャルリアリティ学会論文誌 Vol.4 No.4, 19991231, p.607-616 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015001760A (ja) * 2013-06-13 2015-01-05 任天堂株式会社 画像処理システム、画像処理装置、画像処理プログラム、および画像処理方法
KR101877846B1 (ko) * 2013-12-27 2018-07-12 인텔 코포레이션 헤드 장착 디스플레이로 확장된 디스플레이를 제공하는 디바이스, 방법 및 시스템
WO2017204478A1 (ko) * 2016-05-23 2017-11-30 주식회사 토비스 공용 hmd장치 및 이를 구비한 게임기
US10901206B2 (en) 2016-05-23 2021-01-26 Tovis Co., Ltd. HMD device for common use and game machine having same
JP2020074058A (ja) * 2018-08-07 2020-05-14 アップル インコーポレイテッドApple Inc. 2d/3d混在コンテンツの検出及び表示
US10916220B2 (en) 2018-08-07 2021-02-09 Apple Inc. Detection and display of mixed 2D/3D content
US11355086B2 (en) 2018-08-07 2022-06-07 Apple Inc. Detection and display of mixed 2D/3D content
US11790871B2 (en) 2018-08-07 2023-10-17 Apple Inc. Detection and display of mixed 2D/3D content

Also Published As

Publication number Publication date
JP5563625B2 (ja) 2014-07-30

Similar Documents

Publication Publication Date Title
US9684173B2 (en) Image processing device, image processing method, and image processing system
KR101275542B1 (ko) 3차원 화상표시장치 및 3차원 화상표시방법
JP4794678B1 (ja) 映像処理装置、映像処理方法、および映像通信システム
JP4903888B2 (ja) 画像表示装置、画像表示方法、および画像補正方法
JP6845111B2 (ja) 情報処理装置および画像表示方法
GB2514466A (en) Display
JP2012239006A (ja) 画像処理装置及びその制御方法、並びにプログラム
CA2933704A1 (en) Systems and methods for producing panoramic and stereoscopic videos
JP5563625B2 (ja) 画像解析装置、画像解析方法、および画像解析システム
US20180192031A1 (en) Virtual Reality Viewing System
US20140092133A1 (en) Computer-readable medium, image processing device, image processing system, and image processing method
CN113382224B (zh) 一种基于全息沙盘的交互手柄展示方法及装置
JP5972462B2 (ja) 画像生成方法
JP2012100015A (ja) 三次元映像再生装置
JP5222407B2 (ja) 画像表示装置、画像表示方法、および画像補正方法
CN105630170B (zh) 一种信息处理方法及电子设备
WO2022255058A1 (ja) 情報処理装置および画像生成方法
JP2011077984A (ja) 映像処理装置
KR20130070034A (ko) 스마트폰을 이용한 입체이미지 촬영 장치 및 그 방법
JP2021068296A (ja) 情報処理装置、ヘッドマウントディスプレイ、およびユーザ操作処理方法
JP2021034744A (ja) 映像提示装置およびプログラム
JP2010258886A (ja) 撮像装置、プログラム、撮像方法
CN108295463A (zh) 一种图像显示方法及装置
JP2013031138A (ja) 電子機器および録画方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140121

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140313

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140603

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140612

R150 Certificate of patent or registration of utility model

Ref document number: 5563625

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250