JP4908523B2 - 位置情報検出装置、位置情報検出方法及び位置情報検出プログラム - Google Patents
位置情報検出装置、位置情報検出方法及び位置情報検出プログラム Download PDFInfo
- Publication number
- JP4908523B2 JP4908523B2 JP2008552967A JP2008552967A JP4908523B2 JP 4908523 B2 JP4908523 B2 JP 4908523B2 JP 2008552967 A JP2008552967 A JP 2008552967A JP 2008552967 A JP2008552967 A JP 2008552967A JP 4908523 B2 JP4908523 B2 JP 4908523B2
- Authority
- JP
- Japan
- Prior art keywords
- identification mark
- unit
- reference point
- position information
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/219—Input arrangements for video game devices characterised by their sensors, purposes or types for aiming at specific areas on the display, e.g. light-guns
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/80—Special adaptations for executing a specific game genre or game mode
- A63F13/837—Shooting of targets
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S5/00—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
- G01S5/16—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using electromagnetic waves other than radio waves
- G01S5/163—Determination of attitude
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03542—Light pens for emitting or receiving light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/037—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor using the raster scan of a cathode-ray tube [CRT] for detecting the position of the member, e.g. light pens cooperating with CRT monitors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
- G06F3/0386—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry for light pen
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/213—Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/80—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
- A63F2300/8076—Shooting
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Electromagnetism (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Position Input By Displaying (AREA)
Description
【0001】
本発明は、画面などの指示対象平面に対して、指示した位置を特定する位置情報検出装置、その方法およびそのプログラムに関する。
【背景技術】
【0002】
従来から、CRTやLCDなどの表示装置とその表示画面上の位置を特定するデバイスによって構成されるシステムが開発されている。その一例が射撃ゲーム装置である。一般に、銃射撃型ゲームでは、ディスプレイの画像表示領域に表示された標的に向かって、ガン型コントローラの照準を合わせ、その狙いの正確性を判定すること等によってゲームを進行させる。そのため、少なくともガン型コントローラが画像表示領域内のいかなる位置に照準を合わせているか(指示位置)を検出する必要がある。
【0003】
このように画面上の位置を特定するための手法として、ディスプレイに表示され若しくはその周囲に配置された識別マークを撮像し、これを解析することにより、指示位置を算出するものがある。たとえば、特許文献1に記載された技術は、ゲーム画面の左右両端に配置された赤外光スポットを模擬銃(ガン型コントローラ)に内蔵されたCCDカメラで撮像し、この撮像位置に基づいてガン型コントローラの着弾位置を検出するものである。
【特許文献1】
特許第2681454号公報
【発明の開示】
【発明が解決しようとする課題】
【0004】
上記の従来技術においては、CCDカメラによる赤外光スポットの撮像位置に基づく位置検出を行っているため、ゲーム画面とガン型コントローラ(CCDカメラ)の相対位置が固定されている場合には、比較的誤差の少ない位置検出が可能となる。ところが、最近の銃射撃型ゲームは多様化が進んでおり、競技者がガン型コントローラを手に持って、指示する位置や姿勢を自由に選択できるようにする必要があるものが多い。このようなゲームでは、ゲーム中に、ゲーム画面とガン型コントローラの相対位置が多様に変化することになる。しかし、かかる場合には、上記のような従来技術では、位置検出の誤差が無視できない程度に発生する可能性がある。
[0005]
また、CCDカメラに一般的な撮像素子を用いる場合、被写体や撮像素子が比較的高速に移動すると、被写体の像がぶれてしまい、期待する画像認識結果が得られず、対象画面の特定に失敗してしまう場合がある。この問題を解決する一つの方法として、シャッタースピードが高速な撮像素子を用いることが考えられる。しかし、このような高速な撮像素子は、普及型撮像素子と比較して高価である。
[0006]
本発明は、上記のような従来技術の問題点を解決するために提案されたものであり、その目的は、非常に簡素な識別マークを用いて、位置情報を高精度に検出できるとともに、安価な撮像素子を用いても、位置検出の成功率を向上させることができる位置情報検出装置、方法及びプログラムを提供することにある。
課題を解決するための手段
[0007]
上記の目的を達成するために、本発明の位置情報検出装置は、指示対象平面側に配設された識別マークを、カメラレンズを介して撮像する撮像部と、前記撮像部が撮像した画像から、識別マーク像を抽出する識別マーク抽出部と、前記識別マーク像から、参照点を抽出する参照点抽出部と、抽出された参照点を記憶する参照点記憶部と、前記参照点により特定される座標系に基づいて、指示対象平面に対する前記撮像部の位置情報を算出する位置情報算出部と、を有し、前記識別マークは、同一直線上に所定の間隔で配置された少なくとも3つの参照点を含み、前記位置情報算出部は、前記識別マークにおける同一直線上に所定の間隔で配置された少なくとも3つの参照点の相対位置に対して、前記参照点抽出部により抽出された当該少なくとも3つの参照点の相対位置を射影像とした場合に、この射影像に対する逆射影変換に基づいて、指示対象平面の指示対象領域における前記撮像部の指示位置を算出する指示位置算出部を有することを特徴とする。なお、本発明は、上記の各部の機能を実現するための位置情報検出方法、位置情報検出プログラムとして捉えることもできる。
【0008】
以上のような本発明では、同一直線上に配置した3つの参照点の位置と、撮像された画像から抽出された参照点の位置とを用いて、逆射影変換に基づく算出を行うことにより、撮像部の指示位置検出誤差を小さく抑えることができる。
【0009】
他の態様では、前記識別マークにおける各参照点は、等間隔で配置されていることを特徴とする。
【0010】
以上のような態様では、参照点が等間隔で配置された識別マークを用いることにより、演算式を簡略化することができるので、処理負担を軽減し、高速な処理が可能となる。
【0011】
他の態様は、前記位置情報算出部は、前記撮像部のカメラレンズの光軸周りの回転角を算出する回転角算出部を有し、前記回転角算出部は、回転角誤差補正曲面を用いて、誤差を補正する回転角誤差補正部を有することを特徴とする。
【0012】
以上のような態様では、指示対象平面に対する撮像部の指示位置のみならず、撮像部の回転角も得ることができるので、ゲーム内容、適用範囲等の多様化、高度化を図ることができる。さらに、回転角誤差補正曲面を用いることにより、大域的な誤差をキャンセルできる。
【0013】
他の態様は、指示対象領域における複数の所定点に、前記カメラレンズの照準を合わせた際の指示位置に基づいて、キャリブレーション用の任意の指示点の指示位置を求めるキャリブレーション演算部を有することを特徴とする。
【0014】
以上のような態様では、本発明で使用する識別マークに適したキャリブレーションを実行することにより、誤差が低減される。
【0015】
他の態様は、前記参照点は、前記識別マークの重心であることを特徴とする。
【0016】
以上のような態様では、識別マークとしては、重心が特定できるものを用いればよいので、構成が単純であり、抽出も容易となる。また、識別マークの特徴や設置方法に変化を持たせることにより、方向の特定も可能となる。
【0017】
他の態様は、前記識別マーク抽出部による識別マークの抽出ができない場合に、前記参照点記憶部に記憶された参照点に基づいて、参照点を推定する参照点推定部を有することを特徴とする。
【0018】
以上のような態様では、被写体や撮像素子が高速に移動した場合に、撮像部が撮像した画像から識別マークの抽出ができず、そのために参照点の抽出に失敗したとしても、直前の参照点の抽出若しくは推定に成功している場合には、参照点推定処理により、参照点を良好に推定可能となる。したがって、高価な撮像素子を用いずとも、位置検出の成功率を向上させることができる。
【0019】
他の態様は、前記参照点推定部は、前記参照点記憶部に記憶された参照点に基づいて、識別マークの近傍領域を算出する領域算出部と、前記近傍領域において遮断すべき背景光を検出する背景光検出部と、前記背景光検出部による検出結果に基づいて、前記近傍領域における識別マークの重心を推定する重心推定部と、前記重心推定部により推定された重心に基づいて、参照点を推定する推定部と、を有することを特徴とする。
【0020】
以上のような態様では、直前に記憶された参照点に基づいて算出された識別マークの近傍領域に基づいて、識別マークの重心を推定して、これにより参照点を推定するので、処理すべきデータ量を低減して高速化を図りつつ、より高い確度によって良好な参照点推定ができる。
【0021】
他の態様は、前記推定部による推定のために、前記重心推定部により推定された重心と、前記参照点記憶部に記憶された参照点との対応付けを行う整合部を有することを特徴とする。
【0022】
以上のような態様では、推定できない重心があった場合であっても、直前の参照点に基づいて、参照点を推定できるので、参照点が得られる可能性が高まる。
【0023】
他の態様は、前記識別マーク側には、前記撮像部が撮像した画像から前記識別マークを識別可能とする光源が配設されていることを特徴とする。
【0024】
以上のような態様では、識別マークを自発光型とすることにより、周囲の照明環境にかかわらず、識別マークを明確に識別できる。
【0025】
他の態様は、前記撮像部は、前記識別マークに光を照射する投光部を有することを特徴とする。
【0026】
以上のような態様では、識別マークを反射型として構成できるので、設置が容易であり、家庭用途に適している。
【0027】
他の態様は、前記撮像部、前記参照点抽出部及び前記位置情報算出部が一体的に構成されていることを特徴とする。
【0028】
以上のような態様では、撮像部等を別体で構成するよりも、全体構成を簡素化でき、装置間の接続作業を簡略化できる。
【発明の効果】
【0029】
以上説明したように、本発明によれば、非常に簡素な識別マークを用いて、位置情報を高精度に検出できるとともに、安価な撮像素子を用いても、位置検出の成功率を向上させることが可能な位置情報検出装置、方法及びプログラムを提供することができる。
【図面の簡単な説明】
【0030】
【図1】本発明の一実施形態を示す全体構成図である。
【図2】図1に示す実施形態の機能ブロック図である。
【図3】図1の実施形態に使用する識別マークの例を示す説明図であり、(a)は点光源によるもの、(b)は幾何学的パターンによるもの、(c)は分割構成によるものである。
【図4】図1の実施形態の処理手順を示すフローチャートである。
【図5】図1の実施形態で用いる座標系を示す説明図である。
【図6】識別マークの参照点を2点とした場合の指示位置検出方法を示す説明図である。
【図7】図1の実施形態の指示位置検出方法を示す説明図である。
【図8】カメラレンズ光軸周りの回転角誤差を示す説明図である。
【図9】カメラレンズ光軸周りの回転角誤差を示す説明図である。
【図10】図1の実施形態の近傍領域算出例を示す説明図である。
【図11】図1の実施形態の背景光遮断閾値の例を示す説明図である。
【図12】図1の実施形態の識別マーク重心推定処理の一例を示す説明図である。
【図13】図1の実施形態の区画選択処理の一例を示す説明図である。
【符号の説明】
【0031】
100…位置情報検出装置
101…ガン型コントローラ
102…識別マーク
103…ディスプレイ
103A…画像表示領域
104…ゲーム機
201…操作部
203…撮像部
204…投光部
205…周辺制御部
206…参照点抽出部
207…位置情報算出部
208…参照点推定部
209…I/O部
261…識別マーク抽出部
262…重心判定部
271…指示位置算出部
272…回転角算出部
273…レンズ位置算出部
274…キャリブレーション演算部
281…領域算出部
282…背景光検出部
283…重心推定部
284…整合部
285…推定部
【発明を実施するための最良の形態】
【0032】
以下、本発明の位置情報検出装置を、銃射撃型ゲームに適用する際の一実施形態について、図面を参照して説明する。
[実施形態の概要]
まず、本実施形態の概要を、図1及び図2を参照して説明する。なお、図1は、本実施形態の全体構成を示す外観斜視図であり、図2は機能ブロック図である。ただし、以降の説明は、本実施形態のみならず、本発明が目的とする機能を実現するための他の応用例に対する説明としても、容易に読み替えることができる。さらに、図2の機能ブロック図は概念的なものであり、これらの機能を実現する具体的な回路は種々考えられるため、実装方法等を限定するものではない。
【0033】
本実施形態の位置情報検出装置100は、ガン型コントローラ101、ゲーム機104及びディスプレイ103を使用する銃射撃型ゲームに適用したシステムである。ゲーム機104は、ゲームプログラムを実行可能なホスト機器であればよく、たとえば、パーソナルコンピュータ等であってもよい。ディスプレイ103は、表示領域が指示対象平面を構成する表示手段であればよく、たとえば、TV、スクリーン、パネル等であってもよい。ガン型コントローラ101は、ゲームの射撃に用いる銃として機能するものであり、その内部に、位置情報を検出するための構成を有している。さらに、識別マーク102は、ディスプレイ103上の画像表示領域(指示対象領域)103Aの周辺に設置して運用する。
【0034】
そして、本実施形態においては、ディスプレイ103に配設された識別マーク102を撮像する撮像部203、識別マーク102の参照点を抽出する参照点抽出部206、ガン型コントローラ101の指示位置を含む位置情報を算出する位置情報算出部207、参照点を推定する参照点推定部208等が、ガン型コントローラ101の内部に実装され、一体的に構成されている。
【0035】
また、本実施形態では、指示位置のみならず、ガン型コントローラ101の銃身軸周りの回転角やディスプレイ103に対する位置(レンズ位置)等の相対的な位置情報をも検出できるようにして、ゲーム内容の多様化を可能としている。
【0036】
さらに、本実施形態は、被写体や撮像素子の高速な移動によって所望の識別マーク像が得られない場合においても、以下のような特徴によって、参照矩形を良好に推定し位置検出を行うことが可能となる。
(A)直前の参照点に基づいて、参照点間を結ぶ最大線分長に応じた近傍領域を決定する。
(B)現画像上の直前に求められた近傍領域の部分画像より、識別マーク画像の背景と見做すべき画素値の閾値を求める。
(C)現画像上の直前に求められた近傍領域の部分画像より、画素集合の重心を求める。
(D)抽出された参照点の一部と部分画像の重心より、現画像上の参照点を推定する。
【0037】
[実施形態の構成]
次に、本実施形態の構成を具体的に説明する。
[ディスプレイ103]
まず、ディスプレイ103は、CRTやLCD等のテレビ受像機やコンピュータ用の表示装置である。ディスプレイ103には、ゲーム機104で実行されるゲームプログラムの進行に応じて、画像信号が入力される。そして、その矩形型の画像表示領域(指示対象平面)103Aに、入力された画像信号に応じた画像が表示される。
【0038】
[識別マーク102]
識別マーク102は、ディスプレイ103上の画像表示領域103Aを特定するために、画像表示領域103Aの外周部分に複数設置されている。この識別マーク102は、図3(a)に示すように、点光源の集合であってもよいし、図3(b)に示すように、幾何学的パターン(図形)をその表面に有するものであってもよい。なお、識別マーク102が設けられる支持部材は、図1、図3(a)(b)のように一体となっていてもよいし、図3(c)のように、複数に分割されてもよい。
【0039】
本発明における識別マーク102に使用される点光源若しくは幾何学的パターンは、図3に示すように、左右と中央の3つあればよい(権利範囲は3つには限定されない。但し、これより多ければ冗長となるため3つで必要十分)。図3(a)における左の点光源は、右のものと区別するために物理的に2つあるが、機能的には1つと考える。同様の理由から、図3(b)における左の幾何学的パターンは、右のものと形状が異なっているが、機能的には1つと考える。これらの識別マーク102は、参照点(本実施形態では重心)の抽出が可能であれば、どのような形状であってもよい。なお、後述するように、3つの点光源若しくは幾何学的パターンの参照点は、同一直線上に並んでいる必要があるが、各参照点間の距離は、異なっていても均等であってもよい。
【0040】
また、識別マーク102は、自発光型と反射型の2種類に分類できる。識別マーク102を反射型とする場合、たとえば、表面は主に、図3(b)の穴(幾何学的パターン内の白色部分)及び背景部分の光の反射率が小さく、それ以外の部分の反射率が高い構成とする。自由な位置で射撃を可能とするためには、高反射率部分の素材には再帰反射特性を有するものが望ましいと言える。
【0041】
識別マーク102を自発光型とする場合、たとえば、背面から表面へ向かってマーク内部から光を放射する光源を備える。この場合、ガン型コントローラ101側に、投光部204を実装する必要はなくなる。但し、識別マーク102側に光源及びその光源への給電が必要となる。この場合、たとえば、表面は主に、図3(b)の穴及び背景部分の光の透過率が小さく、それ以外の部分で光を透過、拡散する構成とする。
【0042】
なお、以上の説明の通り、識別マーク102の形状とその背景部分とは、色彩や素材等から、境界が光学的に識別できればよいのであり、特定の形状には限定されない。同一平面上に形成されているか否かも問わない。したがって、平面状に描かれたものであってもよいし、物理的な穴や窪み、***や突出等によって形成されていてもよい。
【0043】
[ゲーム機104]
ゲーム機104は、所定のプログラムを実行し、当該実行にしたがってゲーム用の画像を表示するための画像信号を生成し、これをディスプレイ103に出力する機器である。このゲーム機104は、位置情報検出部202から、ガン型コントローラ101によって指定された画像表示領域103A上の点の指示位置データその他等のデータが入力され、当該データを基に、プログラムの実行に応じた所定のゲーム進行処理を行う。したがって、ゲーム機は、家庭用のゲーム機のみならず、アーケードゲーム機やゲームプログラムをインストールしたコンピュータであってもよい。
【0044】
[ガン型コントローラ101]
ガン型コントローラ101は、操作部201、撮像部203、投光部204、周辺制御部205、参照点抽出部206、位置情報算出部207、参照点推定部208、I/O部209を有している。
【0045】
操作部201は、引き金(トリガ)などであり、ユーザの指などの操作によって所定の位置まで引かれると、操作信号を出力する。なお、操作部201の具体的な構成は、本発明とは基本的に独立したものであり、特定のものには限定されない。したがって、必ずしも引き金の形状をしている必要はなく、たとえば、押しボタンやトグル等のスイッチであっても、光の遮蔽を検知するセンサであってもよい。
【0046】
撮像部203は、主に光学フィルタ、レンズ、撮像素子で構成されている。レンズはガン型コントローラ101の銃口付近にその光軸上で照準が合うように設置されている。撮像素子は、レンズよりも内部に撮像面が光軸と直交するように設置されている。光学フィルタは、撮影対象とする光の波長領域のみを良好に通過させるものとし、レンズ付近に設置されるかレンズ自体の素材となっている。
【0047】
投光部204は、主に撮影対象とする波長領域で発光する発光素子群で構成されている。この投光部204は、撮像部203のレンズ外周に、光軸よりもやや外側に傾けた状態で設置されている。なお、投光部204は、識別マーク102として反射型を採用する際に必要となる。
【0048】
周辺制御部205は、投光部204の発光及び撮像部203の撮像を制御する手段である。たとえば、発光タイミングの制御、投光部204の光量、撮像部203の感度などの調整が可能な設定とすることもできる。
【0049】
参照点抽出部206は、識別マーク102の構成によらず、撮影された画像を解析して、識別マーク像からその特徴点となる参照点を抽出する手段である。参照点抽出部206は、識別マークに対応する画像成分を抽出する識別マーク抽出部261、識別マーク像の重心を判定する重心判定部262を有している。参照点は、たとえば、点光源の場合は各光源に対応する画像成分の重心点とする。幾何学的パターンで構成される場合は、各パターンに対応する重心点などを参照点とする。
【0050】
位置情報算出部207は、抽出された参照点群に基づいて、画像表示領域103Aにおけるカメラ(撮像部203)の外部パラメータを検出する手段である。本実施形態においては、カメラの外部パラメータを、指示対象領域における指示位置(2次元)、カメラレンズ光軸周りの回転角(1次元)および指示対象領域からカメラレンズまでの距離(1次元)と定義している。それぞれ、指示位置算出部271、回転角算出部272、レンズ位置算出部273によって算出される。さらに、位置情報算出部207は、後述するキャリブレーションのための演算を行うキャリブレーション演算部274を有している。
【0051】
参照点推定部208は、後述するように、参照点の抽出に失敗した撮影画像を対象として参照点の推定を行う手段である。参照点推定部208は、直前に抽出若しくは推定された参照点をもとに、識別マーク近傍領域を算出する領域算出部281、遮断すべき背景光を検出する背景光検出部282、識別マーク近傍領域と背景光に基づいて、識別マークの重心を推定する重心推定部283、推定された重心に基づいて、直前に抽出若しくは推定された参照点との対応付けを行う整合部284、推定された重心と整合部による対応付けの結果から、参照点を推定する推定部285を有している。参照点抽出部206、位置情報算出部207、参照点推定部208における具体的な処理は、後述する。
【0052】
また、各処理で抽出、算出等された情報は、適宜、メモリ等の記憶手段に記憶され、次処理に利用されるが、常識的であるため、図示は省略する。記憶手段として、どのような種類、容量のものを確保するかについては、自由である。特に、本実施形態においては、抽出された参照点や推定された参照点もメモリに記憶され(参照点記憶部)、直前に抽出された参照点や推定された参照点は、参照点推定処理に利用される。なお、I/O部209は、外部機器との入出力を制御する手段である。
【0053】
[実施形態の作用]
以上のような本実施形態による指示位置等の検出処理を、図4のフローチャート、図5〜13の説明図を参照して説明する。なお、下記の処理手順は例示であり、各処理において必要な情報がその前段階のいずれかにおいて得られているのであれば、順序が前後してもよい。
【0054】
[識別マークの撮像…ステップ401]
まず、識別マークの点光源や幾何学的パターン(識別マークパターン)を撮像部203で撮影する。すなわち、ガン型コントローラ101の照準を、ディスプレイ103の画像表示領域103A近辺に合わせている場合、投光部204から放射された光が、識別マーク102表面で反射し、その一部が撮像部203に入射し、撮像素子で撮影される。なお、放射光が識別マーク102に到達しない場合、その反射光は当然撮影されない。
【0055】
また、自発光型の識別マーク102を使用して、投光部204を省略した場合には、識別マーク102から放射された光が、撮像部203に入射する。以上のように撮影された画像は、処理に適した画像データ(たとえば、2値画像等)に変換される。
【0056】
[参照点抽出…ステップ402〜405]
撮影された画像データは、参照点抽出部206で解析されて、参照点が抽出される。つまり、識別マーク抽出部261が、撮像された画像データから、各光源若しくは幾何学的パターンに対応する画像成分を抽出し(ステップ402)、重心判定部262が、抽出した画像成分の重心点を算出する(ステップ404)。この重心点が、参照点として抽出され、記憶される(ステップ405)。
【0057】
識別マークの画像成分の抽出、重心の算出は、周知の技術を適用可能である。なお、撮像部203により撮像される画像には、目的とする識別マークの画像成分のみが撮影されるように、周辺制御部205によって、あらかじめ光源の出力や撮像素子の受光感度などが適切に設定されている。
【0058】
また、必要であれば幾何学的な条件などにより、ノイズ成分を除去しておく。たとえば、重心点を求めた画像成分の面積を同時に記憶しておき、その面積が正常値範囲から外れている場合にはノイズ成分と判定し、参照点としないノイズ除去方法が考えられる。さらに、参照点は全て同一直線上に存在する制約条件による弁別方法を適用することが考えられる。すなわち、3つの参照点座標から得られる任意の2つのベクトルの外積の大きさは、理想的には0となる。このため、4つ以上の参照点候補が得られた場合、総当りで選択できる任意の3点の集合のうち、前記外積の大きさが最小となる集合を、参照点として抽出できる。これにより、ノイズ耐性がさらに向上する。
【0059】
なお、参照点を抽出する過程では、参照点群の配置や識別マーク102の幾何学的特徴などから、指示対象領域である画像表示領域の位置と天地に関する情報を特定する(ステップ404)。
【0060】
識別マーク102が当初の設置位置から移動しない限り、参照点と画像表示領域103Aとの位置関係は変化しないため、参照点の位置情報から画像表示領域103Aを特定することができる(後述のキャリブレーションを参照)。
【0061】
識別マーク102が、図3(a)の点光源の場合、参照点間の距離をすべて求め、点間距離が小さく抑えられる参照点群のうちいずれかを画像表示領域の左上隅に対応する参照点(基準参照点)とすることができる。識別マーク102が図3(b)の幾何学的パターンで構成される場合、いずれかの幾何学的特徴を有する識別マーク102に対応する参照点を選択してもよい。このように画像表示領域の天地を知ることが、正しい位置検出には必須である。
【0062】
識別マーク102の表面が画像表示領域103Aと同一平面上になるように、参照点を結ぶ直線と画像表示領域との水平方向の辺が平行となるように設置することで、より正確な位置検出が実現できる。
【0063】
レンズに歪曲収差がある場合、検出した指示位置等に歪曲収差による誤差が含まれてしまうので、少なくとも抽出された参照点すべてに、歪曲収差補正を実施する。
【0064】
[位置情報検出…ステップ406〜408]
位置情報算出部207においては、抽出された参照点群に基づいて、カメラの外部パラメータを検出する。つまり、後述するように、指示位置算出部271が、画像表示領域103Aにおける指示対象領域におけるカメラの指示位置を算出し(ステップ406)、回転角算出部272が、カメラレンズ光軸周りの回転角を算出し(ステップ407)、レンズ位置算出部273が、指示対象領域からカメラレンズまでの距離を算出する(ステップ408)。なお、回転角以外は後述のとおり正規化される。
【0065】
このようなパラメータの算出手順を、以下に詳述する。すなわち、図5に示すように、図1の銃射撃型ゲームをプレイする実3次元空間に座標系を定める。世界座標系Ow−xwywzwの原点は、基準参照点に位置し、xw軸は、参照点群が乗る直線上にあり、yw軸は、それに直交しかつ指示対象領域平面に乗り、zw軸はxw,yw軸に直交する。
【0066】
指示座標系O−xyは、世界座標系のxw−yw平面上にあり、原点を指示対象領域の左上隅とし、x,y軸は、それぞれxw,yw軸と平行とする。カメラ座標系Oc−xcyczcの原点は、レンズの主点に位置し、xc,yc軸は、それぞれ撮像素子受光面の水平、垂直方向に沿い、zc軸は、光軸に一致する。
【0067】
画像座標系OI−xIyIの原点は、撮像素子受光面の中心に位置し、xI,yI軸は、それぞれ受光面の水平、垂直方向に沿う。撮像素子受光面の法線はz軸に一致しており、受光面とレンズ主点までの距離はレンズの焦点距離fとする。ただし、fは未知であってもよい。
【0068】
世界座標系のxw,yw軸は、原点Owから最も離れた参照点までの距離を1として正規化され、zw軸は、後述のキャリブレーションの際のガン型コントローラ101のレンズ位置までの距離を1として正規化される。指示座標系のx,y軸は、それぞれ指示対象領域の幅と高さを1として正規化される。また、ガン型コントローラ101の照準は画像座標系の原点OIに一致させる。
【0069】
ここで、従来の位置情報検出装置のうち、本発明で言う識別マークの参照点を2点とした場合の指示位置検出方法を、図6を参照して説明する。すなわち、図5において、指示対象領域と撮像素子受光面の法線が一致している場合、指示対象領域上の世界座標系におけるp’=(x’,y’,0)Tは、識別マークから得られる画像平面上の2つの参照点pI0,pI1を用いて、式(1)のとおり求めることができる。
【数1】
【0070】
p’を指示座標系の対応点pに変換しなければならないが、この際、指示対象領域を特定するためのキャリブレーション動作として、従来はプレイ直前などに同領域の左上隅および右下隅の世界座標系での位置座標p’LT=(x’LT,y’LT,0)T,p’RB=(x’RB,y’RB,0)Tを、p’同様に、ガン型コントローラ101の照準を合わせて求めておいたのち、プレイ中は式(2)により、pを求めていた。
【数2】
【0071】
カメラレンズ光軸周りの回転角は、画像平面上の2つの参照点が乗る直線を用いて求めることができる。キャリブレーション時のガン型コントローラ101の姿勢を回転角計測の基準とし、この際の2つの参照点がつくる画像平面上の直線を記憶しておく。プレイ中にも同様な直線を求め、キャリブレーション時に記憶した直線と成す角を回転角とする。
【0072】
指示対象領域からカメラレンズまでの距離は、画像平面上の2つの参照点を結ぶ線分の長さを用いて求めることができる。キャリブレーション時のガン型コントローラ101の位置を距離計測の基準とし、この際の2つの参照点がつくる画像平面上の線分の長さを記憶しておく。プレイ中にも同様な線分長を求めキャリブレーション時に記憶した線分長を基準とした比を距離とする。よって、距離は、キャリブレーション時の指示対象領域とガン型コントローラ101間の距離を1として正規化される。
【0073】
一般的なプレイ環境と考えられる以下の表1の条件下で、式(1),(2)により求めた指示位置と実際の指示位置との間に生ずる誤差の概要は、表2のとおりとなる。いずれの項目も相当量の誤差を含んでいるが、これは式(1),(2)を適用可能な条件である、指示対象領域と撮像素子受光面の法線が一致していることが表1の指示条件では守られていないことによる。
【表1】
【表2】
【0074】
従来手法による各種誤差を抑えるべく、本実施形態では、前述の通り、3つの参照点を同一直線上に配した識別マーク102を用いている。つまり、同一直線上の相対位置が既知の3点pc=(1−M)pa+Mpb点と同直線上の任意点p=(1−n)pa+npbが、任意の射影変換によりそれぞれpIc=(1−MI)pIa+MIpIb,pI=(1−nI)pIa+nIpIbに写像された場合、これらM,MI,nIを用いて、式(3)のとおりnを求めることができる。これは射影変換に対する逆射影変換を求められたことになる。
【数3】
【0075】
よって、pa,pc,pbがこの順に等間隔に配置されている場合、式(4)が言える。
【数4】
【0076】
図7における参照点p’a,p’b,p’cを、上記のpa,pc,pbに対応させた場合、撮像素子による撮影が射影変換となるため、p’a,p’b,p’cの画像平面における像pIa,pIb,pIcと、それらより求められるMI,nIおよび既知のMにより、式(3)を用いて、xw軸上の任意点p=(1−n)pa+npbを厳密に求めることができる。ここで、MIは、式(5)のとおり求まる。
【数5】
【0077】
[キャリブレーション]
式(5)によりxw軸近傍の任意点も精度よく求めることができるため、本実施形態でのキャリブレーションは、図7のとおり、指示対象領域の左上隅、右上隅および中心点の3点に、ガン型コントローラ101の照準を合わせ、キャリブレーション演算部274が次の手順で行う。
【0078】
(i) 指示対象領域の左上隅にガン型コントローラ101の照準を合わせ、式(1)によりその際の指示位置p’LTを求める。
(ii) 同時に式(5)により現在のMIを求める。
(iii)式(3)において、nIを、p’LTのx座標値としてnを求め、そのnを新たなx座標値としてp’LTを更新する。
(iv) 指示対象領域の右上隅にガン型コントローラ101の照準を合わせ、式(1)によりその際の指示位置p’RTを求める。
(v) 同時に式(5)により、現在のMIを求める。
(vi) 式(3)において、nIを、p’RTのx座標値としてnを求め、そのnを新たなx座標値として、p’RTを更新する。
(vii)指示対象領域の中心点にガン型コントローラ101の照準を合わせ、式(1)により、その際の指示位置p’MMを求める。
【0079】
上記手順により得られた世界座標系上の3点p’LT=(x’LT,y’LT,0)T,p’RT=(x’RT,y’RT,0)T,p’MM=(x’MM,y’MM,0)Tを用いて、任意の指示点p’=(x’,y’,0)Tは、式(6)のとおり、指示座標系O−xyでの指示点pに変換できる。
【数6】
【0080】
このキャリブレーションにより求められた指示対象領域内の任意の指示点のy座標値および式(5)のMIと、カメラレンズ光軸周りのコントローラの実際の回転角と回転角算出部272より求めた回転角との誤差の関係を、図8及び図9に示す。なお、キャリブレーション時のコントローラの姿勢を、回転角の基準として前述のとおり求めている。
【0081】
この図8及び図9より、局所的なカメラレンズ光軸周りの回転角の誤差は小さいことがわかり、回転角誤差補正曲面(ay+b)(MI−0.5)を用いて大域的な誤差をキャンセルできる。この際、係数a,bは、非線形最小二乗法により求めることができる。
【0082】
回転角の大域的な誤差をキャンセルするための回転角誤差補正行列Rは、式(7)のとおりである。誤差が5[deg]以下であるため、x≒sinxが十分成立するので三角関数を用いず、計算量を抑えて求めることができる。
【数7】
【0083】
画像平面上での参照点pIcを中心として、式(7)の回転角誤差補正行列Rにより残る参照点pIa,pIbを回転させる場合、回転後のそれぞれの対応点p’Ia,p’Ibは式(8)のとおりである。ただし、Iは単位行列を表す。
【数8】
【0084】
以上により、本実施形態における指示位置検出は次の手順で行う。
(i) 式(6)により現在の指示位置pを求める。
(ii) 同時に式(3)により現在のMIを求める。
(iii)式(7)のyを上記pのy座標値としたうえで、式(8)より、p’Ia,p’Ibを求める。
(iv) 式(1)のpI0,pI1を、それぞれ上記p’Ia,p’Ibとして、p’を求める。
(v) 式(3)のn’をp’のx座標値としてnを求め、そのnを新たなx座標値として、p’を更新する。
(vi) 式(6)により、検出誤差が改善された現在の指示位置pを求める。
【0085】
表1の条件下で、上記手順により求めた指示位置と実際の指示位置との間に生ずる誤差の概要は、表3のとおりである。従来手法による表2と比較して、各種誤差が改善されていることがわかる。
【表3】
【0086】
表2、表3共に、x,y軸方向の指示位置誤差は、表1の条件下における指示点の集合をP、 本装置内レンズ主点を通る指示対象領域の法線と同領域の交点の集合をL、同レンズ主点位置lにおいて、同領域上の点pを指示した際の指示位置を求める関数をf(l,p)としたときの、求めた指示位置と実際の指示位置pとの誤差ベクトルeを表し、誤差上限はeの集合E={e|e=f(l,p)−p,l∈L,p∈P}のすべての元を、x,y軸に正射影した写像を、それぞれEx,Eyとした場合の、大きさが最大となる正方向の元の評価対象成分である。誤差下限は同様に大きさが最大となる負方向の元の評価対象成分である。
【0087】
回転角誤差は、正面から対象領域中心を指示した際に観測される両端の参照点を結ぶ線分sbaseと、線分sbaseを観測したときと同一の姿勢でレンズ主点位置lにおいて同領域上の点pを指示した際に観測される同線分s(l,p)とが成す角度を求める関数fθ(s(l,p),sbase)としたときに求めた角度を表し、誤差上下限は求めた角度の集合Θ={θ|θ=fθ(s(l,p),sbase),l∈L,p∈P}の元のうちの最大、最小値である。
【0088】
距離誤差は、線分sの長さを求める関数をfl(s)とした場合、線分sbaseとs(l,p)との比を表し、誤差上下限は求めた比の集合R={r|r=fl(s(l,p))/fl(sbase),l∈L,p∈P}の元のうちの最大、最小値である。
【0089】
[参照点推定…ステップ410〜414]
位置情報算出部207は、抽出された参照点をもとに、画像表示領域における指示位置等のカメラ(撮像部)の外部パラメータを算出する。しかし、被写体である識別マークやカメラが比較的高速に移動した場合、識別マーク像がぶれてしまい期待する形状などの特徴量および画素値(受光量)が得られなくなり、たとえ識別マークを撮像したとしても参照点の抽出に失敗してしまう(ステップ403)。
【0090】
本問題は普及型カメラの構造上回避できないが、シャッタースピードが高速なカメラを用いることで解決が可能である。ただし、同カメラは比較的高価であるため製品コストを抑えにくいという別の問題が生じる。
【0091】
さらに、そのような高速移動期間においては、正確な指示位置検出の要求は少なく、位置検出誤差が比較的大きくなってしまったとしても、指示位置検出を成功させることへの要求のほうが優先的である。
【0092】
よって、普及型カメラにより問題となる高速移動期間においても、参照点を推定し抽出できればよい。それを実現するために本実施形態では、参照点推定部208によって、識別マーク位置を推定する。
【0093】
この参照点推定処理を、図4のフローチャートを参照して説明する。すなわち、参照点の抽出に失敗した撮影画像を対象として参照点の推定を行うに先立って、識別マーク近傍領域算出処理が行われる(ステップ410)。これは、領域算出部281が、直前に抽出若しくは推定された参照点に基づいて、参照点間を結ぶ最大線分長に応じた領域を算出する処理である。
【0094】
識別マーク近傍領域の半径の長さは、たとえば上記線分長の任意辺の1/nとして許容すべき移動速度をもとに決定する。ただし、図10のとおり、近傍領域同士が重ならないように決定すべきである。
【0095】
次に、背景光検出処理が行われる(ステップ411)。これは、背景光検出部282が、現画像上の直前に求められた識別マーク近傍領域に対応する領域内の部分画像より、識別マーク像の背景と見做すべき画素値の閾値(背景光遮断閾値)を決定する処理である。
【0096】
ノイズの少ない理想的な状態で識別マークが撮影された場合、同部分画像による画素値を階級とする画素数のヒストグラムは、おおよそ図11のような傾向を示す。よって、多値画像の2値化手法を応用して背景光遮断閾値を決定する。本閾値は、複数の部分画像をまとめて唯一つ求めることも、部分画像毎に求めることもできる。以降の説明は部分画像毎に閾値を求めたものとする。
【0097】
上記背景光検出処理において得られたヒストグラムが、図11で示す特徴と異なる場合、理想的でない撮影状態の可能性があるため、図11と同様な特徴が得られるように、撮像部203の撮像素子の露光時間等を、適切に制御してもよいし、I/O部206経由で、本装置外部のホスト機器に、適切な制御情報を提供させてもよい。
【0098】
次に、識別マーク重心推定処理が行われる(ステップ412)。これは、重心推定部283が、現画像上の直前に求められた識別マーク近傍領域に対応する領域内の部分画像より、識別マークと推定される画素情報を集計して、それら画素集合の重心を求める処理である。画素集合が識別マーク像より構成される場合は、良好に識別マーク像の重心を求めることができる。
【0099】
算出する重心の精度を向上させるために、背景光検出処理で求めた背景光遮断閾値Ib (k)により対応する識別マーク近傍領域kの部分画像s(k)(i, j)を式(9)のとおりt(k)(i,j)へ変換してもよい。
【数9】
【0100】
識別マーク近傍領域kの部分画像s(k)(i,j)の重心を求めるために、同画像の0次モーメントm0 (k)およびi方向とj方向の1次モーメントmi (k),mj (k)を式(10)〜 (12)のとおり逐次求める。以降、s(k)(i,j)は式(9)のt(k)(i,j)に読み替えてもよい。
【数10】
【数11】
【数12】
【0101】
これらm0 (k),mi (k),mj (k)により部分画像s(k)(i,j)の重心g(k)は式(13)のとおり求めることができる。
【数13】
【0102】
しかし、これら部分画像に識別マーク以外のノイズ成分が無視できない程度に含まれる場合は、式(13)の重心算出方法では、誤った重心が求まる可能性がある。そこで、図12に示すように、すべての識別マーク近傍領域を同様に複数の区画に分割し、重心算出に適する区画のみを選択することで、期待する重心を求めることができる。
【0103】
識別マーク近傍領域kの区画lにおける部分画像s(k,l)(i,j)毎に式(10)−(12)と同様に、0次モーメントm0 (k,l)およびi方向とj方向の1次モーメントmi (k,l),mj (k,l)を求めておく。
【0104】
重心算出に適する区画を選択するためには、たとえば図13に示すような識別マーク近傍領域間の一定条件を満たした選択候補区画の一致を考える。区画lを選択候補とする条件として、識別マーク近傍領域がn個の区画に分割される場合、区画lを含む識別マーク近傍領域kの0次モーメントm0 (k)と区画数nによる関数値f(m0 (k),n)が区画1の0次モーメントm0 (k,l)を下回ることなどが挙げられる。このf(m,n)はたとえばf=m/an(aは任意の定数)とできるが、識別マーク像を一定率以上含む区画が選択候補となるように決定される。
【0105】
すべての識別マーク近傍領域が撮影画像上である程度同一方向に移動するならば、図13のとおり、複数の識別マーク近傍領域間の同一区画で識別マーク像を一定率以上含むものが選択候補とされることを期待できる。このように、複数領域間で一致する選択候補区画のみを選択すれば、ノイズ成分を含む区画を良好に排除することができる。
【0106】
以上のとおり選択された区画のみの各モーメントの和をそれぞれm’0 (k),m’i (k),m’j (k)とすれば、部分画像s(k) (i,j)の重心g’(k)=[m’i (k)/m’0 (k),m’j (k)/m’0 (k)]Tが新たに得られる。なお、以上までの参照点推定処理は、識別マーク抽出処理等と平行して実行することが可能である。
【0107】
次に、識別マーク整合処理が行われる(ステップ413)。これは、整合部284が、直前に抽出または推定された参照点位置と、現画像から抽出された参照点位置との対応付けを試みる処理である。
【0108】
一部の参照点が抽出できた場合、それら参照点をそれぞれ直前に抽出または推定された参照点のうち最も近くに存在する参照点に対応させ、それらのみを出力する。すべての参照点の抽出に失敗した場合は出力なしとする。
【0109】
さらに、参照点推定処理が行われる(ステップ414)。これは、推定部285が、抽出された参照点の一部と部分画像s(k)(i,j)の重心g(k)(g’(k))とにより、現画像における参照点を推定する処理である。
【0110】
抽出に失敗した参照点の識別マーク近傍領域kから求められた重心g(k)(g’(k))を、当該参照点と推定する。その推定した参照点と抽出に成功した参照点とをもって現画像の参照点群とする。
【0111】
[実施形態の効果]
以上のような本実施形態によれば、光源若しくは幾何学的図形を使用した簡単な3つの識別マーク102を、その参照点(重心)が同一直線上となるように配置し、その参照点の相対位置と、撮像部203により撮像された画像から抽出された参照点の相対位置とを用いて、逆射影変換に基づく算出を行うことにより、撮像部203の指示点等の位置情報の検出誤差を、従来よりも小さく抑えることができる。
【0112】
特に、3つの識別マーク102の参照点を等間隔とした場合には、演算式を簡略化することができるので、処理負担が軽減され、ゲーム等に適した高速な処理が可能となる。さらに、上記のような3つの識別マーク102、逆射影変換等に適したキャリブレーションを実行することにより、誤差の低減が可能となる。
【0113】
また、指示対象平面に対する撮像部の指示位置のみならず、撮像部の回転角も得ることができるとともに、回転角誤差補正曲面を用いることにより、回転角の大域的な誤差をキャンセルできる。このため、ゲーム内容、適用範囲等の多様化、高度化を図ることができる。たとえば、同一標的に対する命中であっても、回転角に応じて、得点や表示画面を変える等が可能となる。
【0114】
また、ノイズ成分の除去等のための重心点及び面積の記憶は、1画面分の画像記憶領域を必要とせず、総じて水平数ライン程度の記憶領域で求めることが可能であるため、本実施形態のような小規模の組込機器に適している。
【0115】
また、識別マーク102は、少なくとも直線上に配置された3つの参照点を含むものであればよいので、構成が単純であり、設置が容易である。また、点光源の密集度や幾何学的図形の特徴を変えることにより、天地等の方向の識別が可能となる。これにより、装置の姿勢にかかわらず、正しい指示位置等の検出が可能となる。そして、識別マーク102は、自発光型とすれば、識別しやすくなるが、反射型としても、設置が容易となり家庭用途に適する。
【0116】
また、投光部204、撮像部203、参照点抽出部206、位置情報算出部207、参照点推定部208等を含む装置が、全てガン型コントローラ101内に一体的に構成されているので、全体構成を簡素化でき、装置間の接続作業も簡単となる。
【0117】
また、現画像で参照点の抽出に失敗したとしても、直前の参照点の抽出若しくは推定に成功している場合には、一連の参照点推定処理により、現画像における参照点を良好に推定可能となり、要求される指示位置検出結果を得られる。特に、識別マーク102や撮像部203の高速移動による像のぶれはもちろん、他の何らかの原因により参照点の抽出に失敗した場合においても、本機能は良好に参照点を推定できることは自明であり、指示位置検出の成功率は従来よりも向上する。
【0118】
たとえば、一時的な光量不足により識別マーク102の認識に失敗した場合においても、指示位置検出に成功する。したがって、高価な高速度対応型の撮像素子が必ずしも必要とならず、普及型の撮像素子を用いて製品コストを抑えることが可能となる。また、カメラの動作可能距離範囲の拡大にもつながる。
【0119】
さらに、直前の参照点に基づいて算出された識別マーク102の近傍領域を対象として、背景光を遮断し、識別マーク102の重心を推定して、これにより参照点を推定できるので、処理すべきデータ量を低減した高速化を図りつつ、より高い確度によって良好な参照点が推定できる。そして、推定できない重心があっても、直前の参照点に基づいて頂点を推定できるので、参照点が得られる可能性が高まる。
【0120】
[他の実施形態]
本発明は上記の実施形態に限定されるものではない。たとえば、本発明は、上記の処理に対応してコンピュータ及び周辺回路を動作させる方法、プログラムとしても把握できる。ハードウェア処理によって実現する範囲とソフトウェア処理によって実現する範囲も自由である。
【0121】
また、本発明は、上記の識別マークを設置させることにより、指示対象となる平面としてあらゆるものが適用可能である。たとえば、ディスプレイとしては、CRT、LCD以外にも、現在又は将来において利用可能なものが適用可能である。また、ディスプレイには限定されず、画像を投影させるスクリーン、パネル、壁面その他あらゆるものが利用できる。
【0122】
さらに、本発明の用途としては、射撃型のゲームには限定されない。たとえば、射撃型以外の釣り、フェンシング、消防活動などのゲーム、ゲーム以外のプレゼンテーションシステム、会議システム、テレビジョンのリモートコントローラ、照明のオン/オフ、ブラインド開閉などのリモートコントローラ、倉庫や書庫の管理システムなどに適用可能である。
Claims (13)
- 指示対象平面側に配設された識別マークを、カメラレンズを介して撮像する撮像部と、
前記撮像部が撮像した画像から、識別マーク像を抽出する識別マーク抽出部と、
前記識別マーク像から、参照点を抽出する参照点抽出部と、
抽出された参照点を記憶する参照点記憶部と、
前記参照点により特定される座標系に基づいて、指示対象平面に対する前記撮像部の位置情報を算出する位置情報算出部と、
を有し、
前記識別マークは、同一直線上に所定の間隔で配置された少なくとも3つの参照点を含み、
前記位置情報算出部は、前記識別マークにおける同一直線上に所定の間隔で配置された少なくとも3つの参照点の相対位置に対して、前記参照点抽出部により抽出された当該少なくとも3つの参照点の相対位置を射影像とした場合に、この射影像に対する逆射影変換に基づいて、指示対象平面の指示対象領域における前記撮像部の指示位置を算出する指示位置算出部を有することを特徴とする位置情報検出装置。 - 前記識別マークにおける各参照点は、等間隔で配置されていることを特徴とする請求項1記載の位置情報検出装置。
- 前記位置情報算出部は、前記撮像部のカメラレンズの光軸周りの回転角を算出する回転角算出部を有し、
前記回転角算出部は、回転角誤差補正曲面を用いて、誤差を補正する回転角誤差補正部を有することを特徴とする請求項1記載の位置情報検出装置。 - 指示対象領域における複数の所定点に、前記カメラレンズの照準を合わせた際の指示位置に基づいて、キャリブレーション用の任意の指示点の指示位置を求めるキャリブレーション演算部を有することを特徴とする請求項1記載の位置情報検出装置。
- 前記参照点は、前記識別マークの重心であることを特徴とする請求項1記載の位置情報検出装置。
- 前記識別マーク抽出部による識別マークの抽出ができない場合に、前記参照点記憶部に記憶された参照点に基づいて、参照点を推定する参照点推定部を有することを特徴とする請求項1記載の位置情報検出装置。
- 前記参照点推定部は、
前記参照点記憶部に記憶された参照点に基づいて、識別マークの近傍領域を算出する領域算出部と、
前記近傍領域において遮断すべき背景光を検出する背景光検出部と、
前記背景光検出部による検出結果に基づいて、前記近傍領域における識別マークの重心を推定する重心推定部と、
前記重心推定部により推定された重心に基づいて、参照点を推定する推定部と、
を有することを特徴とする請求項6記載の位置情報検出装置。 - 前記推定部による推定のために、前記重心推定部により推定された重心と、前記参照点記憶部に記憶された参照点との対応付けを行う整合部を有することを特徴とする請求項7記載の位置情報検出装置。
- 前記識別マーク側には、前記撮像部が撮像した画像から前記識別マークを識別可能とする光源が配設されていることを特徴とする請求項1記載の位置情報検出装置。
- 前記撮像部は、前記識別マークに光を照射する投光部を有することを特徴とする請求項1記載の位置情報検出装置。
- 前記撮像部、前記参照点抽出部及び前記位置情報算出部が一体的に構成されていることを特徴とする請求項1記載の位置情報検出装置。
- カメラレンズを有する撮像部が接続されたコンピュータが、識別マーク抽出部、参照点抽出部、参照点記憶部、指示位置算出部を有し、
撮像部が、指示対象平面側に同一直線上に配設された少なくとも3つの参照点を含む識別マークを、カメラレンズを介して撮像する処理と、
前記識別マーク抽出部が、撮像部により撮像された画像から、識別マーク像を抽出する処理と、
前記参照点抽出部が、前記識別マーク像から参照点を抽出する処理と、
前記参照点記憶部が、抽出された参照点を記憶する処理と、
前記指示位置算出部が、前記識別マークにおける各参照点の相対位置に対して、前記参照点抽出部により抽出された各参照点の相対位置を射影像とした場合に、この射影像に対する逆射影変換に基づいて、指示対象平面の指示対象領域における前記撮像部の指示位置を算出する処理と、
を実行することを特徴とする位置情報検出方法。 - 撮像部が接続されたコンピュータにより実行可能な位置情報検出プログラムにおいて、
指示対象平面側に同一直線上に配設された少なくとも3つの参照点を含む識別マークを、前記撮像部にカメラレンズを介して撮像させる処理と、
前記撮像部により撮像された画像から、識別マーク像を抽出させる処理と、
前記識別マーク像から参照点を抽出させる処理と、
抽出された参照点を記憶させる処理と、
前記識別マークにおける各参照点の相対位置に対して、抽出された各参照点の相対位置を射影像とした場合に、この射影像に対する逆射影変換に基づいて、指示対象平面の指示対象領域における前記撮像部の指示位置を算出する処理と、
を前記コンピュータに実行させることを特徴とする位置情報検出プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008552967A JP4908523B2 (ja) | 2007-01-10 | 2007-12-28 | 位置情報検出装置、位置情報検出方法及び位置情報検出プログラム |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007002767 | 2007-01-10 | ||
JP2007002767 | 2007-01-10 | ||
PCT/JP2007/001495 WO2008084523A1 (ja) | 2007-01-10 | 2007-12-28 | 位置情報検出装置、位置情報検出方法及び位置情報検出プログラム |
JP2008552967A JP4908523B2 (ja) | 2007-01-10 | 2007-12-28 | 位置情報検出装置、位置情報検出方法及び位置情報検出プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2008084523A1 JPWO2008084523A1 (ja) | 2010-04-30 |
JP4908523B2 true JP4908523B2 (ja) | 2012-04-04 |
Family
ID=39608428
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008552967A Expired - Fee Related JP4908523B2 (ja) | 2007-01-10 | 2007-12-28 | 位置情報検出装置、位置情報検出方法及び位置情報検出プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP4908523B2 (ja) |
WO (1) | WO2008084523A1 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5115496B2 (ja) * | 2009-02-25 | 2013-01-09 | 大日本印刷株式会社 | コンテンツ遠隔操作システム及び遠隔操作端末 |
CN102507607B (zh) * | 2011-11-30 | 2013-09-04 | 明基材料有限公司 | 瑕疵检测结果整合***及方法 |
JP6654019B2 (ja) | 2015-11-09 | 2020-02-26 | 任天堂株式会社 | 情報処理システム情報処理装置、情報処理方法、情報処理プログラム、および、ハンドヘルド型情報処理装置 |
JP6666121B2 (ja) | 2015-11-09 | 2020-03-13 | 任天堂株式会社 | 情報処理システム、情報処理装置、情報処理方法、および、情報処理プログラム |
CN112051546B (zh) * | 2019-06-05 | 2024-03-08 | 北京外号信息技术有限公司 | 一种用于实现相对定位的装置以及相应的相对定位方法 |
KR102585785B1 (ko) * | 2021-05-31 | 2023-10-13 | 한국기계연구원 | 절대거리 측정 기반 다변측정시스템 및 이를 이용한 다변측정방법 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001273503A (ja) * | 2000-03-23 | 2001-10-05 | Eiji Kawamura | モーション認識システム |
JP3443416B2 (ja) * | 2001-08-01 | 2003-09-02 | コナミ株式会社 | 射的ゲーム装置および射的ゲーム制御方法 |
JP2003083715A (ja) * | 2001-09-12 | 2003-03-19 | Omron Corp | 指示位置検出方法、指示位置検出装置およびガンコントローラ型ゲーム機 |
JP2004348459A (ja) * | 2003-05-22 | 2004-12-09 | Tamura Seisakusho Co Ltd | マーク、マーク検出装置およびその方法と画面位置指示装置 |
JP2005021458A (ja) * | 2003-07-03 | 2005-01-27 | Tamura Seisakusho Co Ltd | 指示位置特定装置とその方法ならびに画像表示システム |
-
2007
- 2007-12-28 JP JP2008552967A patent/JP4908523B2/ja not_active Expired - Fee Related
- 2007-12-28 WO PCT/JP2007/001495 patent/WO2008084523A1/ja active Search and Examination
Also Published As
Publication number | Publication date |
---|---|
JPWO2008084523A1 (ja) | 2010-04-30 |
WO2008084523A1 (ja) | 2008-07-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4885867B2 (ja) | 位置情報検出装置、位置情報検出方法及び位置情報検出プログラム | |
JP4908523B2 (ja) | 位置情報検出装置、位置情報検出方法及び位置情報検出プログラム | |
US8559704B2 (en) | Three-dimensional vision sensor | |
US10363664B2 (en) | Information processing apparatus, information processing method, and recording medium | |
JP5043133B2 (ja) | 移動ロボットの位置認識用ランドマーク、並びにこれを利用した位置認識装置及び方法 | |
US9910507B2 (en) | Image display apparatus and pointing method for same | |
JP2008269616A (ja) | 画像表示装置のカーソル制御装置及び制御方法、ならびに画像システム | |
JP2008165800A (ja) | カーソル制御方法及び装置 | |
US20230405432A1 (en) | Device and method for sensing movement of sphere moving on plane surface using camera, and device and method for sensing golfball moving on putting mat | |
EP3910451B1 (en) | Display systems and methods for aligning different tracking means | |
JPWO2005096130A1 (ja) | 撮像装置の指示位置検出方法および装置、撮像装置の指示位置検出用プログラム | |
JP5365443B2 (ja) | シミュレーション装置,シミュレーション方法およびシミュレーションプログラム | |
JP5883688B2 (ja) | 設置状態検出システム、設置状態検出装置、及び設置状態検出方法 | |
JP4024124B2 (ja) | 位置特定装置、その方法およびそのプログラム | |
JP5375479B2 (ja) | 三次元測定システムおよび三次元測定方法 | |
US20210350575A1 (en) | Three-dimensional camera pose determination | |
JP4741943B2 (ja) | 検査装置及び検査方法 | |
CN109758753B (zh) | 高尔夫球打标装置及其视觉成像***、打标方法 | |
WO2017006860A1 (ja) | 撮影装置、物体の挙動計測装置、撮影制御方法および物体の挙動計測方法 | |
US20240083038A1 (en) | Assistance system, image processing device, assistance method and non-transitory computer-readable storage medium | |
JP6398755B2 (ja) | 入力装置、入力方法及び入力処理用コンピュータプログラムならびに入力システム | |
JP6565428B2 (ja) | 三次元形状測定装置 | |
JP2003140832A (ja) | 画面位置指示装置およびその方法と画像システム | |
JP2019080768A (ja) | 釘判定方法、釘判定装置及びプログラム | |
KR20170124834A (ko) | 야구 게임 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20101130 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111227 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120112 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150120 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4908523 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |