JP2019047311A - 画像投写システム及びその制御方法 - Google Patents

画像投写システム及びその制御方法 Download PDF

Info

Publication number
JP2019047311A
JP2019047311A JP2017168291A JP2017168291A JP2019047311A JP 2019047311 A JP2019047311 A JP 2019047311A JP 2017168291 A JP2017168291 A JP 2017168291A JP 2017168291 A JP2017168291 A JP 2017168291A JP 2019047311 A JP2019047311 A JP 2019047311A
Authority
JP
Japan
Prior art keywords
unit
image
pattern
reference point
projection system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017168291A
Other languages
English (en)
Inventor
泰介 山内
Taisuke Yamauchi
泰介 山内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2017168291A priority Critical patent/JP2019047311A/ja
Priority to US16/119,588 priority patent/US10664957B2/en
Publication of JP2019047311A publication Critical patent/JP2019047311A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/08Projecting images onto non-planar surfaces, e.g. geodetic screens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3188Scale or resolution adjustment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Image Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Analysis (AREA)

Abstract

【課題】パターン画像の一部が遮蔽されている場合でも、画像を適切に補正することが可能な画像投写システム及びその制御方法を提供する。【解決手段】投写面Spに画像を投写する画像投写部15と、画像投写部15からパターン画像を投写させる制御部10と、投写面Spに投写されたパターン画像を撮像する撮像部16と、撮像部16で撮像されたパターン画像に基づいて、複数の基準点を検出する検出部17と、検出部17で検出された基準点の位置に基づいて、画像投写部15が投写する画像を補正する画像情報補正部14と、を備え、パターン画像Ipは、基準点を特定するための複数の単位パターンを含み、複数の単位パターンは、7色の単位パターンを含む。【選択図】図1

Description

本発明は、投写面に画像を投写する画像投写システム及びその制御方法に関する。
単純な平面ではない投写面、即ち三次元形状の投写面に画像を投写するシステムにおいて、プロジェクターから投写面に所定のパターン画像を投写して、これをカメラで撮像することにより、投写面の三次元形状に起因する画像の歪みを補正する技術が提案されている(例えば、特許文献1参照)。特許文献1に記載の投影システムでは、白色の矩形パターンと黒色の矩形パターンが規則的に配列された格子状のパターン画像が用いられている。
特開2016−178448号公報
しかしながら、プロジェクターとカメラには視差があるため、投写面に比較的大きな凹凸が存在する場合には、パターン画像の一部をカメラで撮像することができず、正しい補正ができなくなってしまうという問題を有している。特に、複数の基準点(例えば、格子の交点)の位置に基づいて補正を行う態様では、一部の基準点が検出できないと、検出された基準点についても、その本来の位置(パターン画像上の位置)との対応関係が不明になってしまうため、画像の全体で正しい補正ができなくなる。また、投写面が平面であっても、投写面上の模様や汚れ、或いは障害物等によって一部の基準点を検出できない場合には、同様の問題が生じ得る。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態又は適用例として実現することが可能である。
[適用例1]本適用例に係る画像投写システムは、投写面に画像を投写する投写部と、前記投写部からパターン画像を投写させる制御部と、前記投写面に投写された前記パターン画像を撮像する撮像部と、前記撮像部で撮像された前記パターン画像に基づいて、基準点を検出する検出部と、前記検出部で検出された前記基準点の位置に基づいて、前記投写部が投写する前記画像を補正する補正部と、を備え、前記パターン画像は、前記基準点を特定するための複数の単位パターンを含み、前記複数の単位パターンには、色及び模様の少なくとも一方が異なる少なくとも3種類の単位パターンが含まれることを特徴とする。
この画像投写システムによれば、パターン画像が、色及び模様の少なくとも一方が異なる少なくとも3種類の単位パターンを含むため、白色の矩形パターンと黒色の矩形パターンのように2種類の単位パターンを用いる場合に比べて、同種の単位パターンが配置される間隔を大きくできる。このため、検出部によって一部の基準点が検出されない場合でも、単位パターンの色や模様に基づいて、検出された基準点を識別することが可能となる。この結果、検出された基準点の位置と、その本来の位置(パターン画像上の位置)との対応関係が明確になるため、画像を適切に補正することが可能となる。
[適用例2]上記適用例に係る画像投写システムにおいて、前記少なくとも3種類の単位パターンは、互いに色が異なっていてもよい。
この画像投写システムによれば、検出部によって一部の基準点が検出されない場合でも、単位パターンの色に基づいて、検出された基準点を識別することが可能となる。
[適用例3]上記適用例に係る画像投写システムにおいて、前記少なくとも3種類の単位パターンは、互いに模様が異なっていてもよい。
この画像投写システムによれば、検出部によって一部の基準点が検出されない場合でも、単位パターンの模様に基づいて、検出された基準点を識別することが可能となる。
[適用例4]上記適用例に係る画像投写システムにおいて、前記単位パターンは、頂点を有する形状のパターンであり、前記検出部は、前記単位パターンの前記頂点を前記基準点として検出するようにしてもよい。
この画像投写システムによれば、検出部が単位パターンの頂点を基準点として検出するため、基準点の検出を容易に行うことが可能となる。
[適用例5]上記適用例に係る画像投写システムにおいて、前記単位パターンは、輝度分布を有するパターンであり、前記検出部は、前記単位パターンの輝度に基づいて前記基準点を検出するようにしてもよい。
この画像投写システムによれば、単位パターンの輝度に基づいて基準点を検出するため、基準点を精度よく検出することが可能となる。
[適用例6]上記適用例に係る画像投写システムにおいて、前記パターン画像は、前記少なくとも3種類の単位パターンが所定の配列で配置された基本パターン群を複数含むようにしてもよい。
この画像投写システムによれば、複数の基本パターン群によってパターン画像を構成しているため、必要となる単位パターンの種類(色や模様)を低減することが可能となり、単位パターンの識別が容易になる。
[適用例7]上記適用例に係る画像投写システムにおいて、前記パターン画像には、前記投写部と前記撮像部の配置関係に基づいて決定される第1のエピポーラ線に沿って前記基準点が位置するように、前記単位パターンが配置されており、前記検出部は、前記撮像部が撮像した画像から、前記第1のエピポーラ線に対応する第2のエピポーラ線に沿って前記基準点を検出するようにしてもよい。
この画像投写システムによれば、検出部が、第2のエピポーラ線に沿って基準点を検出することが可能となるため、基準点の検出が容易になる。
[適用例8]上記適用例に係る画像投写システムにおいて、前記単位パターンは、前記投写部と前記撮像部の配置関係に基づいて決定される第1のエピポーラ線に交差する方向に延出する帯状のパターンであり、前記検出部は、前記撮像部が撮像した画像から、前記第1のエピポーラ線に対応する第2のエピポーラ線に沿って前記基準点を検出するようにしてもよい。
この画像投写システムによれば、検出部が、第2のエピポーラ線に沿って基準点を検出することが可能となるため、基準点の検出が容易になる。
[適用例9]上記適用例に係る画像投写システムにおいて、前記検出部は、前記単位パターンの端部を前記基準点として検出するようにしてもよい。
この画像投写システムによれば、検出部が単位パターンの端部を基準点として検出するため、基準点の検出を容易に行うことが可能となる。
[適用例10]上記適用例に係る画像投写システムにおいて、前記単位パターンは、輝度分布を有するパターンであり、前記検出部は、前記単位パターンの輝度に基づいて前記基準点を検出するようにしてもよい。
この画像投写システムによれば、単位パターンの輝度に基づいて基準点を検出するため、基準点を精度よく検出することが可能となる。
[適用例11]上記適用例に係る画像投写システムにおいて、前記投写部と前記撮像部とが一体的に構成されていてもよい。
この画像投写システムによれば、投写部と撮像部とが一体的に構成されているため、投写部と撮像部の配置の調整を都度行う必要がない。
[適用例12]本適用例に係る画像投写システムの制御方法は、投写面に画像を投写する投写部からパターン画像を投写し、前記投写面に投写された前記パターン画像を撮像し、撮像された前記パターン画像に基づいて、基準点を検出し、検出された前記基準点の位置に基づいて、前記投写部が投写する前記画像を補正する、画像投写システムの制御方法であって、前記パターン画像は、前記基準点を特定するための複数の単位パターンを含み、前記複数の単位パターンには、色及び模様の少なくとも一方が異なる少なくとも3種類の単位パターンが含まれることを特徴とする。
この画像投写システムの制御方法によれば、パターン画像が、色及び模様の少なくとも一方が異なる少なくとも3種類の単位パターンを含むため、白色の矩形パターンと黒色の矩形パターンのように2種類の単位パターンを用いる場合に比べて、同種の単位パターンが配置される間隔を大きくできる。このため、検出部によって一部の基準点が検出されない場合でも、単位パターンの色や模様に基づいて、検出された基準点を識別することが可能となる。この結果、検出された基準点の位置と、その本来の位置(パターン画像上の位置)との対応関係が明確になるため、画像を適切に補正することが可能となる。
プロジェクターの概略構成を示すブロック図。 画像の歪みを補正するためのパターン画像を示す図。 歪み補正を行う際のプロジェクターの動作を説明するためのフローチャート。 鉛直に配設された投写面を上方から見た平面図。 パターン画像が投写された投写面を撮像部で撮像した撮像画像を示す図。 画像形成領域に形成される補正領域を示す図。 投写面に歪みが補正された状態で表示画像が投写される様子を示す図。 鉛直に配設された投写面を上方から見た平面図。 パターン画像が投写された投写面を撮像部で撮像した撮像画像を示す図。 画像形成領域に形成される補正領域を示す図。 画像情報補正部による補正処理を説明する図。 投写面に歪みが補正された状態で表示画像が投写される様子を示す図。 画像情報補正部による補正処理を説明する図。 第2実施形態のパターン画像を示す図。 第3実施形態のパターン画像を示す図。 第4実施形態のパターン画像を示す図。 画像投写部と撮像部に関するエピポーラ幾何を説明するための説明図。 第5実施形態のパターン画像を示す図。 第6実施形態のパターン画像を示す図。
(第1実施形態)
以下、第1実施形態のプロジェクターについて、図面を参照して説明する。
図1は、本実施形態のプロジェクター100の概略構成を示すブロック図である。
図1に示すように、画像投写システムとしてのプロジェクター100は、制御部10と、記憶部11と、入力操作部12と、画像情報入力部13と、補正部としての画像情報補正部14と、投写部としての画像投写部15と、撮像部16と、検出部17と、補正情報生成部18とを一体的に備えて構成されている。プロジェクター100は、画像情報入力部13に入力される画像情報に基づいて、画像投写部15から投写面Spに画像を投写する。
本実施形態のプロジェクター100は、投写面Spに対して画像を斜め方向から投写する場合に生じる画像の歪みを補正可能であるとともに、表面に凹凸を有する三次元形状の投写面Spに画像を投写する場合に生じる画像の歪みをも補正することができる。具体的には、プロジェクター100は、画像投写部15から所定のパターン画像Ip(図2参照)を投写面Spに投写し、これを撮像部16で撮像することによって画像の歪みを認識し、この歪みを補正するための補正情報を生成する。その後、プロジェクター100は、本来表示すべき画像、即ち歪みを補正した状態で表示すべき画像(これ以降、「表示画像」とも呼ぶ。)に対して、生成した補正情報に基づく補正処理を施し、処理後の画像を投写面Spに投写する。
制御部10は、1つ又は複数のプロセッサーを備えて構成され、記憶部11に記憶されている制御プログラムに従って動作することによりプロジェクター100の動作を統括制御する。
記憶部11は、揮発性のメモリーであるRAM(Random Access Memory)、及び不揮発性のメモリーであるROM(Read Only Memory)等を備えて構成される。RAMは、各種データ等の一時記憶に用いられ、ROMは、プロジェクター100の動作を制御するための制御プログラムや制御データ等を記憶する。本実施形態の記憶部11は、画像の歪みを補正するためのパターン画像Ipに対応する画像データ(パターン画像データDp)を記憶している。また、記憶部11は、表示画像用の画像データを記憶していてもよい。
入力操作部12は、ユーザーがプロジェクター100に対して各種指示を行うための複数の操作キーを備えている。入力操作部12が備える操作キーとしては、電源のオンとオフとを切り替えるための「電源キー」、各種設定を行うための設定メニューを表示させる「メニューキー」、設定メニューの項目を選択するための「方向キー」等がある。ユーザーが入力操作部12の各種操作キーを操作すると、入力操作部12は、ユーザーの操作内容に応じた操作信号を制御部10に出力する。なお、遠隔操作が可能なリモコン(図示せず)を、入力操作部12として用いる構成としてもよい。この場合、リモコンは、ユーザーの操作内容に応じた赤外線の操作信号を発信し、図示しないリモコン信号受信部がこれを受信して制御部10に伝達する。
画像情報入力部13は、コンピューターや画像再生装置等の外部の画像供給装置(図示せず)に接続され、画像供給装置から表示画像用の画像情報の供給を受ける。また、画像情報入力部13は、制御部10から、記憶部11に記憶されている画像情報(パターン画像データDp及び表示画像用の画像データ)の供給を受けることができる。画像情報入力部13は、制御部10の制御に基づいて、画像供給装置又は制御部10から入力された画像情報に、必要に応じて様々な処理(例えば、解像度変換処理や画質調整処理等)を施し、処理後の画像情報を画像情報補正部14に出力する。
画像情報補正部14は、制御部10の制御に基づいて、斜め方向からの投写に起因する画像の歪みや、投写面Spの凹凸等に起因する画像の歪みを補正する。具体的には、画像情報補正部14は、画像情報入力部13から入力される画像情報に対して、制御部10から入力される補正情報に基づく補正処理を施し、処理後の画像情報を画像投写部15のライトバルブ駆動部24に出力する。
画像投写部15は、光源21、光変調装置としての3つの液晶ライトバルブ22R,22G,22B、投写光学系としての投写レンズ23、ライトバルブ駆動部24等で構成されている。画像投写部15は、光源21から射出された光を、液晶ライトバルブ22R,22G,22Bで変調して画像光を形成し、この画像光を投写レンズ23から投写して投写面Spに画像を表示する。
光源21は、超高圧水銀ランプやメタルハライドランプ等の放電型の光源ランプ、又は発光ダイオードや半導体レーザー等の固体光源を含んで構成されている。光源21から射出された光は、図示しないインテグレーター光学系によって輝度分布が略均一な光に変換され、図示しない色分離光学系によって光の3原色である赤色(R)、緑色(G)、青色(B)の各色光成分に分離された後、それぞれ液晶ライトバルブ22R,22G,22Bに入射する。
液晶ライトバルブ22R,22G,22Bは、それぞれ一対の透明基板間に液晶が封入された透過型の液晶パネル等によって構成される。各液晶パネルには、マトリクス状に配列された複数の画素からなる矩形の画像形成領域Aiが形成されており、液晶に対して画素毎に駆動電圧を印加可能になっている。
ライトバルブ駆動部24は、液晶ライトバルブ22R,22G,22Bの画像形成領域Aiに画像を形成する。具体的には、ライトバルブ駆動部24は、画像情報補正部14から入力される画像情報に応じた駆動電圧を、画像形成領域Aiの各画素に印加し、各画素を画像情報に応じた光透過率に設定する。光源21から射出された光は、液晶ライトバルブ22R,22G,22Bの画像形成領域Aiを透過することによって画素毎に変調され、画像情報に応じた画像光が色光毎に形成される。形成された各色の画像光は、図示しない色合成光学系によって画素毎に合成されてカラー画像を表す画像光となり、投写レンズ23によって投写面Spに拡大投写される。この結果、投写面Sp上には、画像情報に基づく画像が表示される。
撮像部16は、CCD(Charge Coupled Device)センサー、或いはCMOS(Complementary Metal Oxide Semiconductor)センサー等の撮像素子(図示せず)を備えたカメラである。撮像部16は、制御部10の制御に基づいて、投写面Spに投写されたパターン画像Ipを撮像し、その撮像結果である画像情報(撮像画像情報)を検出部17に出力する。
検出部17は、制御部10の制御に従って動作し、撮像部16から入力される撮像画像情報に基づいて、撮像されたパターン画像Ipから、画像の歪みを補正するための複数の基準点を検出する。具体的には、検出部17は、パターン画像Ipに含まれる複数の矩形の単位パターンの頂点を、基準点として検出する。このとき、検出部17は、単位パターンの色を判別し、判別した単位パターンの色に基づいて、基準点を識別するための識別情報を生成することができる。検出部17は、撮像画像情報に基づく画像(撮像画像)上における各基準点の座標と、生成した識別情報とを補正情報生成部18に出力する。
補正情報生成部18は、制御部10の制御に従って動作し、検出部17から入力される基準点の座標と識別情報とに基づいて、画像の歪みを認識する。そして、補正情報生成部18は、制御部10の制御に基づいて、認識した画像の歪みを補正するための補正情報を生成し、生成した補正情報を制御部10に出力する。
なお、画像情報入力部13、画像情報補正部14、検出部17及び補正情報生成部18は、1つ又は複数のプロセッサー等によって構成されてもよいし、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の専用の処理装置によって構成されてもよい。
図2は、画像の歪みを補正するためのパターン画像Ip、即ち記憶部11に記憶されているパターン画像データDpに基づく画像を示す図である。
図2に示すように、パターン画像Ipは、画像形成領域Aiに形成される矩形の画像であり、色(波長域)が異なる複数の単位パターンUr,Ug,Ub,Uc,Um,Uy,Ukが、15×9のマトリクス状に配列された画像である。具体的には、パターン画像Ipには、赤色の単位パターンUrと、緑色の単位パターンUgと、青色の単位パターンUbと、シアン色の単位パターンUcと、マゼンタ色の単位パターンUmと、黄色の単位パターンUyと、黒色の単位パターンUkの7色の単位パターンが含まれており、これらの形状は、いずれも矩形(本実施形態では、正方形)である。なお、これ以降、単位パターンを総称して「単位パターンU」とも表記する。
ここで、単位パターンUrの色(赤色)は、赤色光用の液晶ライトバルブ22Rの光透過率を最大とし、緑色光用及び青色光用の液晶ライトバルブ22G,22Bの光透過率を最小とした色である。また、単位パターンUgの色(緑色)は、緑色光用の液晶ライトバルブ22Gの光透過率を最大とし、赤色光用及び青色光用の液晶ライトバルブ22R,22Bの光透過率を最小とした色である。また、単位パターンUbの色(青色)は、青色光用の液晶ライトバルブ22Bの光透過率を最大とし、赤色光用及び緑色光用の液晶ライトバルブ22R,22Gの光透過率を最小とした色である。また、単位パターンUcの色(シアン色)は、緑色光用及び青色光用の液晶ライトバルブ22G,22Bの光透過率を最大とし、赤色光用の液晶ライトバルブ22Rの光透過率を最小とした色である。また、単位パターンUmの色(マゼンタ色)は、赤色光用及び青色光用の液晶ライトバルブ22R,22Bの光透過率を最大とし、緑色光用の液晶ライトバルブ22Gの光透過率を最小とした色である。また、単位パターンUyの色(黄色)は、赤色光用及び緑色光用の液晶ライトバルブ22R,22Gの光透過率を最大とし、青色光用の液晶ライトバルブ22Bの光透過率を最小とした色である。そして、単位パターンUkの色(黒色)は、赤色光用、緑色光用及び青色光用の液晶ライトバルブ22R,22G,22Bの光透過率を最小とした色である。
本実施形態において、プロジェクター100の検出部17は、撮像部16で撮像されたパターン画像Ipから、黒色の単位パターンUkを除く6色の単位パターンUの頂点(角部)を基準点として検出する。このため、これ以降、黒色の単位パターンUk以外の6色の単位パターンUのことを、「検出用単位パターンU」とも表記する。検出用単位パターンUは、互いに縦方向及び横方向に隣接しないように市松模様状に配置されている。また、検出用単位パターンUが配置されている位置以外には、黒色の単位パターンUkが配置されている。つまり、黒色の単位パターンUkは、検出用単位パターンUの背景となるパターンである。また、パターン画像Ipは、各単位パターンUの輪郭線で構成される格子状の画像とみなすことも可能であり、この場合、格子の交点が基準点である。なお、図2に示したパターン画像Ipには、16×10個(160個)の基準点がマトリクス状に配列されるように含まれているが、このうち、最上段の16個の基準点にのみ符号が付されている(左から順に基準点C1〜C16とする)。
図2において、一点鎖線で示した矩形の範囲内には、12の単位パターンUが4×3のマトリクス状に配置されている。これ以降、これら12の単位パターンUの集合を「基本パターン群V」と呼ぶ。基本パターン群Vには、各色1つずつの検出用単位パターンUが所定の配列で配置されるとともに、検出用単位パターンUに隣接するように、6つの黒色の単位パターンUkが配置されている。パターン画像Ipは、複数の基本パターン群Vを含む画像であり、言い換えれば、同一の基本パターン群Vを縦横に複数配列させた画像の一部である。なお、図2のパターン画像Ipでは、基本パターン群Vが横方向に繰り返し配列されるとともに、縦方向に隣接する基本パターン群V同志は、1列分(単位パターンUを1つ分)ずれて配置されている。
次に、プロジェクター100の動作について説明する。
図3は、歪み補正を行う際のプロジェクター100の動作(制御方法)を説明するためのフローチャートである。
ユーザーがプロジェクター100の入力操作部12を操作して歪み補正の開始を指示すると、プロジェクター100の制御部10は、歪み補正を行うための制御プログラムに従った動作を開始する。
図3に示すように、ステップS101では、制御部10は、画像投写部15からパターン画像Ipを投写させる。具体的には、制御部10は、記憶部11からパターン画像データDpを読み出して、画像情報入力部13に出力する。また、制御部10は、画像情報補正部14に対して補正処理を行わないように指示をする。この結果、画像形成領域Aiの全域にパターン画像Ipが形成され、投写面Spに投写される。そして、画像投写部15が投写面Spに正対していない場合や、投写面Spに凹凸がある場合には、パターン画像Ipは、投写面Sp上に歪んで表示される。
ステップS102では、制御部10は、投写面Spに投写されたパターン画像Ipを撮像部16に撮像させる。
次いで、ステップS103では、制御部10は、検出部17に指示をして、撮像部16がパターン画像Ipを撮像した撮像画像から複数の基準点を検出させる。上述したように、検出部17は、検出用単位パターンUの頂点を基準点として検出するとともに、基準点を識別するための識別情報を生成し、撮像画像における基準点の座標と、識別情報とを補正情報生成部18に出力する。
ステップS104では、制御部10は、検出部17がすべての基準点を検出できたか否かを判断する。そして、すべての基準点が検出された場合には、ステップS105に処理を移し、一部の基準点が検出されなかった場合には、ステップS106に処理を移す。
すべての基準点が検出されてステップS105に処理が移行した場合には、制御部10は、補正情報生成部18に指示をして、検出されたすべての基準点の座標を用いて補正情報を生成させる。その後、ステップS107では、制御部10は、画像情報入力部13に対して、表示画像用の画像情報の出力を指示するとともに、生成された補正情報を画像情報補正部14に出力して、表示画像の補正を開始させ、処理を終了する。
図4A〜図4Dは、すべての基準点が検出された場合の歪み補正処理を説明するための図であり、図4Aは、鉛直に配設された投写面Spを上方から見た平面図、図4Bは、パターン画像Ipが投写された投写面Spを撮像部16で撮像した撮像画像Icを示す図、図4Cは、画像形成領域Aiに形成される補正領域Acを示す図、図4Dは、投写面Spに歪みが補正された状態で表示画像Idが投写される様子を示す図である。
例えば、図4Aに示すように、画像投写部15の光軸Axが、投写面Spに対して斜めに交わるようにプロジェクター100が設置されている場合には、パターン画像Ipは、台形状に歪んで投写される(ステップS101)。そして、図4Bに示すように、歪んだ状態のパターン画像Ipを含む撮像画像Icが撮像部16によって撮像され(ステップS102)、撮像画像Icから検出部17によって基準点が検出される(ステップS103)。
すべての基準点が検出された場合(ステップS104:Yes)、補正情報生成部18は、検出された基準点の座標に基づいて、単位パターンU毎に歪みを認識して、これを補正するための補正情報を生成する。具体的には、矩形のパターン画像Ipにおける各基準点の座標(基準座標)は既知であり、予め記憶部11に記憶されている。そして、補正情報生成部18は、検出部17によって撮像画像Ic上で検出された各基準点の座標(検出座標)と基準座標との対応関係に基づいて、図4Cに示すように、各単位パターンUの歪みが相殺されるような形状の複数のブロックBからなる補正領域Acを画像形成領域Ai内に設定する。そして、補正情報生成部18は、各基準点の基準座標と、補正領域Ac内の各ブロックBの頂点の座標とに基づいて、表示画像をブロックB単位で変形(射影変換)するための変換テーブルを補正情報として生成し、制御部10に出力する(ステップS105)。
制御部10は、入力された補正情報を画像情報補正部14に出力し、この補正情報に基づいて画像情報の補正を開始させる(ステップS107)。これ以降、画像情報補正部14は、画像情報入力部13から逐次入力される表示画像用の画像情報に対して、表示画像をブロックB単位で変形させる補正処理を行うとともに、補正領域Acの外側の領域Aoを黒色に設定する処理を行う。この結果、図4Dに示すように、撮像部16の方向から見て歪みが補正された状態で表示画像Idが投写される。なお、本実施形態では、マトリクス状に配列された多数の基準点に基づいて、ブロックB単位で歪みを補正しているため、投写面Spに小さな凹凸等がある場合でも、その凹凸等に起因する歪みも補正することができる。
図3に戻って、ステップS104において、一部の基準点が検出されずにステップS106に処理が移行した場合には、制御部10は、補正情報生成部18に指示をして、検出された一部の基準点のみを用いて補正情報を生成させる。その後、ステップS107では、制御部10は、画像情報入力部13に対して、表示画像用の画像情報の出力を指示するとともに、生成された補正情報を画像情報補正部14に出力して、表示画像の補正を開始させ、処理を終了する。
図5A〜図5Eは、一部の基準点が検出されない場合の歪み補正処理を説明するための図であり、図5Aは、鉛直に配設された投写面Spを上方から見た平面図、図5Bは、パターン画像Ipが投写された投写面Spを撮像部16で撮像した撮像画像Icを示す図である。また、図5Cは、画像形成領域Aiに形成される第1の補正領域Ac1及び第2の補正領域Ac2を示す図、図5Dは、画像情報補正部14による補正処理を説明する図、図5Eは、投写面Spに歪みが補正された状態で表示画像Idが投写される様子を示す図である。
例えば、図5Aに示すように、投写面Spに比較的大きな段差(凹凸)が存在し、プロジェクター100がその段差に重なるように画像を投写する場合、画像投写部15と撮像部16との視差により、一部の基準点が段差に遮られて撮像できない事態が起こり得る。図5Aには、パターン画像Ipに含まれる基準点のうち、最上段に配置されている基準点を左から順に基準点C1〜C16(図2参照)とする場合に、これらの基準点C1〜C16が、投写面Spのどの位置に投写されるのかが示されている。図5Aに示すように、基準点C1〜C16のうち、1つの基準点C7については、撮像部16の死角に投写されており、撮像部16で撮像することができない(図5B参照)。パターン画像Ip上において、基準点C7の下方に存在する他の9個の基準点についても同様であり、検出部17は、全部で10個の基準点を検出することができない(ステップS104:No)。
このような場合に、仮に、パターン画像Ipが白黒2色の単純な市松模様である場合には、多数の基準点のうち、どの基準点が検出されて、どの基準点が検出されないのかを判別することは困難である。つまり、各基準点の基準座標と検出座標との対応関係が不明であるため、補正情報生成部18は、補正情報を生成することができない。
これに対し、本実施形態では、検出部17は、各基準点を検出する際に、検出対象の単位パターンUの色を判別し、判別した色や、この単位パターンUにおける検出対象の頂点の位置等に基づいて、基準点を識別するための識別情報を生成する。そして、検出部17は、生成した識別情報を、座標とともに補正情報生成部18に出力する。
補正情報生成部18は、この識別情報に基づいて基準点を識別し、各基準点が基本パターン群Vの中のどの頂点に対応するのかを特定することができる。つまり、補正情報生成部18は、検出された各基準点の本来の位置(矩形のパターン画像Ip上の位置)を推定することができるため、基準座標と検出座標との対応関係が明確になる。この結果、補正情報生成部18は、検出された一部の基準点のみを用いて補正情報を生成することができる。
具体的には、図5Cに示すように、補正情報生成部18は、段差の左側の投写面Spから検出された基準点に基づいて、画像形成領域Ai内に、各単位パターンUの歪みが相殺されるような形状の複数のブロックBからなる第1の補正領域Ac1を設定する。さらに、補正情報生成部18は、段差の右側の投写面Spから検出された基準点に基づいて、同じく複数のブロックBからなる第2の補正領域Ac2を設定する。そして、補正情報生成部18は、各基準点の基準座標と、各ブロックBの頂点の座標とに基づいて、表示画像をブロックB単位で変形(射影変換)するための変換テーブルを補正情報として生成し、制御部10に出力する(ステップS106)。
制御部10は、入力された補正情報を画像情報補正部14に出力し、この補正情報に基づいて画像情報の補正を開始させる(ステップS107)。これ以降、画像情報補正部14は、図5Dに示すように、画像情報入力部13から逐次入力される表示画像用の画像情報に対して、表示画像Idを2つに分割してブロックB単位で変形させる補正処理を行うとともに、第1の補正領域Ac1及び第2の補正領域Ac2の外側の領域Aoを黒色に設定する処理を行う。この結果、図5Eに示すように、投写面Spの段差の左右両側に、撮像部16から見て歪みが補正された状態で表示画像Idが投写される。
なお、画像情報補正部14が上記のような補正処理を行う場合には、黒色の領域Aoによって表示画像Idが2つに分断されてしまうことになるが、この態様に限定されない。例えば、図6に示すように、補正情報生成部18は、第1の補正領域Ac1及び第2の補正領域Ac2とともに、それらに挟まれた第3の補正領域Ac3にも表示画像Idの一部を割り当てるような補正情報を生成してもよい。この態様によれば、撮像部16の方向から見て、表示画像Idの一部が段差によって遮蔽されてしまうものの、段差の周辺に黒色の領域Aoが存在しないため、表示画像Idが分断されずに済む。或いは、画像情報補正部14が、表示画像を分割した位置の周辺の画像に基づいて、第3の補正領域Ac3に形成すべき画像を生成するようにしてもよい。
以上説明したように、本実施形態のプロジェクター100によれば、以下の効果を得ることができる。
(1)本実施形態のプロジェクター100によれば、パターン画像Ipが、7種類(7色)の単位パターンUを含むため、白色の矩形パターンと黒色の矩形パターンのように2種類の単位パターンUを用いる場合に比べて、同色の単位パターンUが配置される間隔を大きくできる。このため、検出部17によって一部の基準点が検出されない場合でも、単位パターンUの色に基づいて、検出された基準点を識別することが可能となる。この結果、検出された基準点の位置と、その本来の位置(矩形のパターン画像Ip上の位置)との対応関係が明確になるため、画像を適切に補正することが可能となる。
(2)本実施形態のプロジェクター100によれば、パターン画像Ipは、複数の基本パターン群Vを含んで構成されているため、必要となる単位パターンUの色数を低減することが可能となり、単位パターンUの色の判別が容易になる。
(3)本実施形態のプロジェクター100によれば、検出部17が単位パターンUの頂点を基準点として検出するため、基準点の検出を容易に行うことが可能となる。
(4)本実施形態のプロジェクター100によれば、画像投写部15と撮像部16とが一体的に構成されているため、画像投写部15と撮像部16の配置の調整を都度行う必要がない。
(5)本実施形態のプロジェクター100によれば、単位パターンUの色(赤色、緑色、青色、シアン色、マゼンタ色、黄色、黒色)を、液晶ライトバルブ22R,22G,22Bの光透過率を最大又は最小とした色、即ち中間階調を有さない色としているため、色の判別を容易に行うことが可能となる。また、上記の7色以外に、すべての液晶ライトバルブ22R,22G,22Bの光透過率を最大とした白色の単位パターンUを用いてもよい。
なお、単位パターンUの色数は、3色以上であればよく、色数を少なくするほど検出部17による色の判別は容易になる。ただし、単位パターンUの色数を少なくすると、基本パターン群Vが小さくなり、同色の単位パターンUが小さい間隔で配置されることになり、単位パターンUを識別する際に、近隣の同色の単位パターンUと混同してしまう恐れが生じる。このため、単位パターンUの色数は、検出部17による判別が可能な範囲内で、できるだけ多くすることが望ましい。また、検出部17が判別可能であれば、中間階調を有する色を用いてもよいし、パターン画像Ipに含まれるすべての検出用単位パターンUを互いに異なる色にしてもよい。
(第2実施形態)
以下、第2実施形態のプロジェクターについて、図面を参照して説明する。
本実施形態のプロジェクター100は、歪みを補正する処理を行う際に、上記の第1実施形態のプロジェクター100とは異なるパターン画像Ipを投写する。
図7は、本実施形態のパターン画像Ipを示す図である。
図7に示すように、本実施形態のパターン画像Ipは、矩形(本実施形態では正方形)の単位パターンUを複数備えて構成されている。複数の単位パターンUには、全域が白色の単位パターンUwと、全域が黒色の単位パターンUkと、白色の三角形と黒色の三角形とが組み合わされた2色の単位パターンUtとが含まれている。2色の単位パターンUtは、矩形の単位パターンUを対角線で二分して生成される2つの三角形(本実施形態では、直角二等辺三角形)の一方を白色に、他方を黒色に配色した単位パターンUであり、白色の三角形と黒色の三角形の位置関係(例えば、白色の三角形が左上、右上、左下、右下のいずれに位置しているか)に応じて、さらに4つに分類できる。つまり、本実施形態のパターン画像Ipは、模様が異なる6種類の単位パターンUによって構成されている。
本実施形態において、プロジェクター100の検出部17は、全域が白色の単位パターンUwの頂点と、2色の単位パターンUtの白色の三角形の頂点とを基準点として検出する。つまり、全域が白色の単位パターンUw(1種類)と2色の単位パターンUt(4種類)とを含む5種類の単位パターンUが検出用単位パターンUとして用いられる。また、パターン画像Ipは、複数の矩形の単位パターンUが縦横にマトリクス状に配置された画像である。そして、各単位パターンUは、すべての単位パターンUの頂点が、いずれかの検出用単位パターンUの基準点として検出されるように配置されている。つまり、複数の基準点もマトリクス状に配置されている。
図7において、一点鎖線で示した矩形の範囲は、複数の単位パターンUが所定の配列で配置された基本パターン群Vを示しており、基本パターン群Vには、検出対象の基準点(頂点)を囲む複数の単位パターンUの組み合わせが同一のものは含まれていない。パターン画像Ipは、複数の基本パターン群Vを含む画像であり、言い換えれば、同一の基本パターン群Vを縦横に複数配列させた画像の一部である。なお、図7のパターン画像Ipでは、基本パターン群Vが横方向に繰り返し配列されるとともに、縦方向に隣接する基本パターン群V同志は、3列分(単位パターンUを3つ分)ずれて配置されている。
検出部17は、各基準点を検出する際に、検出対象の単位パターンUの種類(模様)や、この単位パターンUにおける検出対象の頂点の位置、この頂点を囲む他の単位パターンUの種類(模様)等に基づいて識別情報を生成し、座標とともに補正情報生成部18に出力する。このため、補正情報生成部18は、投写面Spの凹凸(段差等)によって一部の基準点が検出されなかった場合でも、この識別情報に基づいて、各基準点の本来の位置(矩形のパターン画像Ip上の位置)を推定することが可能となり、基準座標と検出座標との対応関係が明確になる。この結果、補正情報生成部18は、検出された一部の基準点のみを用いて補正情報を生成することができる。
以上説明したように、本実施形態のプロジェクター100によれば、パターン画像Ipが、5つの異なる模様の検出用単位パターンUを含むため、白色の矩形パターンと黒色の矩形パターンのように2種類の単位パターンUを用いる場合に比べて、同種の単位パターンUが配置される間隔を大きくできる。このため、検出部17によって一部の基準点が検出されない場合でも、単位パターンUの模様等に基づいて、検出された基準点を識別することが可能となる。この結果、検出された基準点の位置と、その本来の位置(矩形のパターン画像Ip上の位置)との対応関係が明確になるため、画像を適切に補正することが可能となる。
なお、単位パターンUの種類数は、3種類以上であればよいが、第1実施形態と同様、検出部17による判別が可能な範囲内で、できるだけ多くすることが望ましい。
(第3実施形態)
以下、第3実施形態のプロジェクターについて、図面を参照して説明する。
本実施形態のプロジェクター100は、歪みを補正する処理を行う際に、上記の各実施形態のプロジェクター100とは異なるパターン画像Ipを投写する。
図8は、本実施形態のパターン画像Ipを示す図である。
図8に示すように、本実施形態のパターン画像Ipは、輝度分布を有する複数の単位パターンU(Ur,Ug,Ub,Uc,Um,Uy)が縦横にマトリクス状に配置された画像である。複数の単位パターンUとしては、赤色の単位パターンUrと、緑色の単位パターンUgと、青色の単位パターンUbと、シアン色の単位パターンUcと、マゼンタ色の単位パターンUmと、黄色の単位パターンUyの6色の単位パターンUが含まれている。各単位パターンUは、その中央で輝度が最も大きくなるような輝度分布を有している。本実施形態では、6色の単位パターンUのすべてが検出用単位パターンUである。
図8において、一点鎖線で示した矩形の範囲は、6個の単位パターンUが2×3のマトリクス状に配置された基本パターン群Vを示しており、基本パターン群Vには、各色1つずつの単位パターンUが所定の配列で配置されている。パターン画像Ipは、複数の基本パターン群Vを含む画像であり、言い換えれば、同一の基本パターン群Vを縦横に複数配列させた画像の一部である。なお、図8のパターン画像Ipでは、基本パターン群Vが横方向に繰り返し配列されるとともに、縦方向に隣接する基本パターン群V同志は、1列分(単位パターンUを1つ分)ずれて配置されている。
本実施形態において、プロジェクター100の検出部17は、撮像部16で撮像されたパターン画像Ipから、各単位パターンUにおいて輝度が最大となる位置(最大輝度位置)を基準点として検出する。パターン画像Ip内において、基準点はマトリクス状に配置されている。
検出部17は、各基準点を検出する際に、検出対象の単位パターンUの色に基づいて識別情報を生成し、座標とともに補正情報生成部18に出力する。このため、補正情報生成部18は、投写面Spの凹凸(段差等)によって一部の基準点が検出されなかった場合でも、この識別情報に基づいて、各基準点の本来の位置(矩形のパターン画像Ip上の位置)を推定することが可能となり、基準座標と検出座標との対応関係が明確になる。この結果、補正情報生成部18は、検出された一部の基準点のみを用いて補正情報を生成することができる。
なお、検出部17は、最大輝度位置の周辺の領域の輝度の変化率(勾配)に基づいて最大輝度位置を決定するような構成であってもよい。この場合には、最大輝度位置が投写面Spの凹凸等によって遮蔽されている場合にも、その位置を推定することが可能となる。
以上説明したように、本実施形態のプロジェクター100によれば、単位パターンUの輝度に基づいて基準点を検出するため、基準点を精度よく検出することが可能となる。特に、投写面Spの分光反射率が場所によって異なっていたり、外光の影響を受けたりすることで、第1実施形態のような矩形の単位パターンUの頂点を正確に検出できない場合に有効である。
(第4実施形態)
以下、第4実施形態のプロジェクターについて、図面を参照して説明する。
本実施形態のプロジェクター100は、歪みを補正する処理を行う際に、上記の各実施形態のプロジェクター100とは異なるパターン画像Ipを投写する。
図9は、本実施形態のパターン画像Ipを示す図である。
図9に示すように、パターン画像Ipは、複数の単位パターンU(Ur,Ug,Ub,Uc,Um,Uy,Uk)がマトリクス状に配列された画像である。複数の単位パターンUには、赤色の単位パターンUrと、緑色の単位パターンUgと、青色の単位パターンUbと、シアン色の単位パターンUcと、マゼンタ色の単位パターンUmと、黄色の単位パターンUyと、黒色の単位パターンUkの7色の単位パターンUが含まれている。黒色の単位パターンUk以外の6色の単位パターンUは、検出用単位パターンUである。
検出用単位パターンUは、互いに隣接しないように市松模様状に配置されている。また、検出用単位パターンUが配置されている位置以外には、黒色の単位パターンUkが配置されている。第1実施形態と同様、プロジェクター100の検出部17は、撮像部16で撮像されたパターン画像Ipから、検出用単位パターンUの頂点を基準点として検出する。パターン画像Ip内において、基準点はマトリクス状に配置されている。
図9において、一点鎖線で示した矩形の範囲は、基本パターン群Vを示している。本実施形態の基本パターン群Vは、12の単位パターンUが横方向に1列に並んだパターン群である。基本パターン群Vには、各色1つずつの検出用単位パターンUが、黒色の単位パターンUkと交互に、所定の順序で配置されている。パターン画像Ipは、複数の基本パターン群Vを含む画像であり、言い換えれば、同一の基本パターン群Vを縦横に複数配列させた画像の一部である。なお、図9のパターン画像Ipでは、基本パターン群Vが横方向に繰り返し配列されるとともに、縦方向に隣接する基本パターン群V同志は、1列分(単位パターンUを1つ分)ずれて配置されている。
本実施形態において、単位パターンUは、画像投写部15と撮像部16の配置関係によって定まる複数のエピポーラ線Le1に沿って配置されている。具体的には、単位パターンUは、エピポーラ線Le1に沿った方向と、エピポーラ線Le1に交差する方向にマトリクス状に配置されており、検出用単位パターンUの頂点は、エピポーラ線Le1上に位置している。
ここで、エピポーラ線Le1について説明する。
図10は、画像投写部15と撮像部16に関するエピポーラ幾何を説明するための説明図である。
図10に示すように、画像投写部15の光学中心O1と撮像部16の光学中心O2とを結ぶ直線を、ベースラインLbとする。画像投写部15の仮想画像平面P1(画像形成領域Aiに相当する平面)内において、ベースラインLbとの交点(エピポールPe1)を通るすべての直線が、エピポーラ線Le1である。仮想画像平面P1内で1つのエピポーラ線Le1が定まると、撮像部16の仮想画像平面P2(撮像画像Icに相当する平面)上にも、対応するエピポーラ線Le2が特定される。エピポーラ線Le2は、仮想画像平面P2内において、ベースラインLbとの交点(エピポールPe2)を通る直線である。仮想画像平面P1のエピポーラ線Le1上の任意の位置x1から投写面Sp上の位置x0に投写された光は、投写面Spまでの距離に拘らず、仮想画像平面P2上では、対応するエピポーラ線Le2上のいずれかの位置(例えば、位置x2)に投影(撮像)される。
なお、図9では、説明の便宜上、エピポーラ線Le1を複数の平行線によって表しているが、上述したように、すべてのエピポーラ線Le1は、共通のエピポールPe1を通る直線であるため、一般的には放射状に延出する。この場合、各単位パターンUの形状も矩形とはならない。ただし、画像投写部15の光軸と撮像部16の光軸が平行の場合には、エピポールPe1が無限遠に位置することになるため、複数のエピポーラ線Le1は略平行になる。
このように、本実施形態では、検出用単位パターンUが、予め定められたエピポーラ線Le1上に頂点が位置するように配置されている。そして、このエピポーラ線Le1に対応する撮像画像Ic上のエピポーラ線Le2は、画像投写部15と撮像部16との配置関係に応じて予め決定され得る。このため、検出部17は、撮像画像Icにおいて、予め決定されたエピポーラ線Le2上を探索することにより、基準点を検出することができる。そして、検出部17は、各基準点を検出する際に、検出対象の単位パターンUの色等に基づいて識別情報を生成し、座標とともに補正情報生成部18に出力する。このため、補正情報生成部18は、投写面Spの凹凸(段差等)によって一部の基準点が検出されなかった場合でも、この識別情報に基づいて、各基準点の本来の位置(矩形のパターン画像Ip上の位置)を推定することが可能となり、基準座標と検出座標との対応関係が明確になる。この結果、補正情報生成部18は、検出された一部の基準点のみを用いて補正情報を生成することができる。
また、検出用単位パターンUの近傍に、同色の他の単位パターンUが位置している場合であっても、他の単位パターンUが探索対象のエピポーラ線Le2から垂直方向に離れた位置にあれば、これらを混同してしまう恐れがない。このため、本実施形態のように、基本パターン群Vを、複数の単位パターンUがエピポーラ線Le1に沿って1列に並んだ構成とする場合であっても、基準点を容易に識別することが可能となる。
以上、説明したように、本実施形態のプロジェクター100によれば、検出部17が、エピポーラ線Le2に沿って基準点を検出することが可能となるため、基準点の検出が容易になる。
また、上述したように、エピポーラ線Le2に交差する方向については、近傍に同じ種類の単位パターンUがあってもこれらを混同してしまう恐れがないため、基本パターン群Vにおいて、各色の単位パターンUをエピポーラ線Le1に沿って1列に配列することができる。この結果、同色の単位パターンUを、エピポーラ線Le1に沿った方向に離して配置することが可能となるため、他の単位パターンUと混同してしまうことが抑制される。
なお、パターン画像Ip(画像形成領域Ai)上のエピポーラ線Le1が第1のエピポーラ線に相当し、撮像画像Ic上のエピポーラ線Le2が第2のエピポーラ線に相当する。
(第5実施形態)
以下、第5実施形態のプロジェクターについて、図面を参照して説明する。
本実施形態のプロジェクター100は、歪みを補正する処理を行う際に、上記の各実施形態のプロジェクター100とは異なるパターン画像Ipを投写する。
図11は、本実施形態のパターン画像Ipを示す図である。
図11に示すように、パターン画像Ipは、縦方向(エピポーラ線Le1に交差する方向)に延出するように配置された複数の帯状の単位パターンU(Ur,Ug,Ub,Uc,Um,Uy,Uk)が、横方向(エピポーラ線Le1に沿った方向)に1列に配列された画像である。複数の単位パターンUには、赤色の単位パターンUrと、緑色の単位パターンUgと、青色の単位パターンUbと、シアン色の単位パターンUcと、マゼンタ色の単位パターンUmと、黄色の単位パターンUyと、黒色の単位パターンUkの7色の単位パターンUが含まれている。黒色の単位パターンUk以外の6色の単位パターンUは、検出用単位パターンUである。
図11において、一点鎖線で示した矩形の範囲は、基本パターン群Vを示している。本実施形態の基本パターン群Vは、12の単位パターンUが横方向に1列に並んだパターン群である。基本パターン群Vには、各色1つずつの検出用単位パターンUが、黒色の単位パターンUkと交互に、所定の順序で配置されている。パターン画像Ipは、同一の基本パターン群Vを横方向に複数配列させた画像の一部である。
本実施形態では、検出用単位パターンUの端部、即ち検出用単位パターンUと黒色の単位パターンUkとの境界線上の点が基準点として用いられる。具体的には、予め定められた複数のエピポーラ線Le1と、検出用単位パターンUの端部(境界線)との交点が基準点として用いられる。基準点は、パターン画像Ip(画像形成領域Ai)内でマトリクス状に配置されており、記憶部11には、パターン画像Ipにおける各基準点の座標が基準座標として記憶されている。ここで、エピポーラ線Le1に対応する撮像画像Ic上のエピポーラ線Le2は、画像投写部15と撮像部16との配置関係に応じて予め決定され得る。このため、検出部17は、撮像画像Icにおいて、予め決定されたエピポーラ線Le2と検出用単位パターンUの端部との交点を基準点(検出座標)として検出することができる。
そして、検出部17は、各基準点を検出する際に、検出対象の単位パターンUの色等に基づいて識別情報を生成し、座標とともに補正情報生成部18に出力する。このため、補正情報生成部18は、投写面Spの凹凸(段差等)によって一部の基準点が検出されなかった場合でも、この識別情報に基づいて、各基準点の本来の位置(矩形のパターン画像Ip上の位置)を推定することが可能となり、基準座標と検出座標との対応関係が明確になる。この結果、補正情報生成部18は、検出された一部の基準点のみを用いて補正情報を生成することができる。
なお、本実施形態では、帯状の単位パターンUは、エピポーラ線Le1に直交するように配置される。このため、複数のエピポーラ線Le1が平行ではなく、放射状に延出する場合には、単位パターンUは、各エピポーラ線Le1と直交するように、円弧状のパターンとなる。ただし、帯状の単位パターンUとエピポーラ線Le1との関係は、交差する関係であればよく、直交する関係に限定されない。
以上説明したように、本実施形態のプロジェクター100によれば、上記第4実施形態と同様、検出部17が、エピポーラ線Le2に沿って基準点を検出することが可能となるため、基準点の検出が容易になる。
また、本実施形態のプロジェクター100によれば、帯状の単位パターンUをエピポーラ線Le1に沿って1列に配列しているため、同色の単位パターンUを、エピポーラ線Le1に沿った方向に離して配置することが可能となるため、他の単位パターンUと混同してしまうことが抑制される。
また、本実施形態のプロジェクター100によれば、検出部17が単位パターンUの端部を基準点として検出するため、基準点の検出を容易に行うことが可能となる。
(第6実施形態)
以下、第6実施形態のプロジェクターについて、図面を参照して説明する。
本実施形態のプロジェクター100は、歪みを補正する処理を行う際に、上記の各実施形態のプロジェクター100とは異なるパターン画像Ipを投写する。
図12は、本実施形態のパターン画像Ipを示す図である。
図12に示すように、本実施形態のパターン画像Ipは、縦方向(エピポーラ線Le1に交差する方向)に延出するように配置された複数の帯状の単位パターンU(Ur,Ug,Ub,Uc,Um,Uy)が、横方向(エピポーラ線Le1に沿った方向)に1列に配列された画像である。複数の単位パターンUには、赤色の単位パターンUrと、緑色の単位パターンUgと、青色の単位パターンUbと、シアン色の単位パターンUcと、マゼンタ色の単位パターンUmと、黄色の単位パターンUyの6色の単位パターンUが含まれている。これら6色の単位パターンUは、すべて検出用単位パターンUである。また、各単位パターンUは、輝度分布を有しており、エピポーラ線Le1に沿った方向の中央で輝度が最大となっている。
図12において、一点鎖線で示した矩形の範囲は、基本パターン群Vを示している。本実施形態の基本パターン群Vは、6個の単位パターンUが横方向に1列に並んだパターン群である。基本パターン群Vには、各色1つずつの単位パターンUが所定の順序で配置されている。パターン画像Ipは、複数の基本パターン群Vを含む画像であり、言い換えれば、同一の基本パターン群Vを横方向に複数配列させた画像の一部である。
本実施形態では、予め定められた複数のエピポーラ線Le1上で、且つ各単位パターンUの輝度が最大となる位置(最大輝度位置)が基準点として用いられる。基準点は、パターン画像Ip(画像形成領域Ai)内でマトリクス状に配置されており、記憶部11には、パターン画像Ipにおける各基準点の座標が基準座標として記憶されている。ここで、エピポーラ線Le1に対応する撮像画像Ic上のエピポーラ線Le2は、画像投写部15と撮像部16との配置関係に応じて予め決定され得る。このため、検出部17は、撮像画像Icにおいて、予め決定されたエピポーラ線Le2上における各単位パターンUの最大輝度位置を基準点(検出座標)として検出することができる。
そして、検出部17は、各基準点を検出する際に、検出対象の単位パターンUの色に基づいて識別情報を生成し、座標とともに補正情報生成部18に出力する。このため、補正情報生成部18は、投写面Spの凹凸(段差等)によって一部の基準点が検出されなかった場合でも、この識別情報に基づいて、各基準点の本来の位置(矩形のパターン画像Ip上の位置)を推定することが可能となり、基準座標と検出座標との対応関係が明確になる。この結果、補正情報生成部18は、検出された一部の基準点のみを用いて補正情報を生成することができる。
なお、検出部17は、最大輝度位置の周辺の領域の輝度の変化率(勾配)に基づいて最大輝度位置を決定するような構成であってもよい。この場合には、最大輝度位置が投写面Spの凹凸によって遮蔽されている場合にも、その位置を推定することが可能となる。
以上説明したように、本実施形態のプロジェクター100によれば、上記第4及び第5実施形態と同様、検出部17が、エピポーラ線Le2に沿って基準点を検出することが可能となるため、基準点の検出が容易になる。
また、本実施形態のプロジェクター100によれば、上記第5実施形態と同様、帯状の単位パターンUをエピポーラ線Le1に沿って1列に配列しているため、同色の単位パターンUを、エピポーラ線Le1に沿った方向に離して配置することが可能となるため、他の単位パターンUと混同してしまうことが抑制される。
また、本実施形態のプロジェクター100によれば、単位パターンUの輝度に基づいて基準点を検出するため、基準点を精度よく検出することが可能となる。特に、投写面Spの分光反射率が場所によって異なっていたり、外光の影響を受けたりすることで、第5実施形態のような帯状の単位パターンUの端部を正確に検出できない場合に有効である。
(変形例)
また、上記実施形態は、以下のように変更してもよい。
上記第1〜第6実施形態では、画像投写部15及び撮像部16等の各構成要素を一体的に備えたプロジェクター100について説明したが、各構成要素の一部又は全部が分離された構成であってもよい。ただし、画像投写部15と撮像部16が分離されている場合には、設置の度にそれぞれの配置状態が変化するため、その都度キャリブレーション(矩形のパターン画像Ip上の座標と撮像画像Ic上の座標とを対応付ける処理等)を行う必要がある。
上記第1〜第6実施形態では、三次元形状の投写面Spの凹凸(段差等)によって一部の基準点を検出できない場合の歪み補正について説明したが、投写面Spは三次元形状に限定されない。例えば、平面の投写面Sp上にある模様や汚れ、或いは障害物等によって一部の基準点を検出できない場合にも適用可能である。
上記第1〜第6実施形態では、単位パターンUの頂点、端部又は最大輝度位置を基準点としているが、基準点はこれに限定されず、例えば、単位パターンUの重心の位置を基準点としてもよい。
上記第1、第3及び第4実施形態では、基本パターン群Vに各色1つずつの検出用単位パターンUを含む態様について説明したが、基準点を識別可能であれば、基本パターン群V内に同色の単位パターンが複数含まれていてもよい。例えば、1つの基準点(頂点)を囲む複数の検出用単位パターンUの色の組み合わせが、基本パターン群V内のすべての基準点で異なるようにすれば、同色の単位パターンが複数含まれていても、各基準点を識別することが可能である。
上記第6実施形態において、エピポーラ線Le1に沿った方向の輝度分布が複数の単位パターンUに亘って正弦波となるようなパターン画像Ipを用いて、位相シフト法により基準点を特定する態様としてもよい。具体的には、上記のような正弦波の輝度分布を有するパターン画像Ip(第1のパターン画像)を投写して撮像し、撮像画像Ic上のエピポーラ線Le2に沿って輝度分布を計測する。また、第1のパターン画像とは位相がずれた正弦波のパターン画像を少なくとも2つ投写して、それぞれについても撮像画像Ic上のエピポーラ線Le2に沿って輝度分布を計測する。そして、それぞれの計測結果に基づいて、基準点(例えば、第1のパターン画像上の最大輝度位置)を特定してもよい。この態様によれば、投写面Spの反射率が均一でない場合であっても、基準点を精度よく検出することが可能となる。
上記第1及び第3〜第6実施形態では、パターン画像Ipが、色が異なる複数の単位パターンUを含んで構成されているが、色の違いは、波長域の違いに限定されず、明るさの違いを含んでいてもよい。
上記第3及び第6実施形態では、単位パターンUの最大輝度位置を基準点としているが、単位パターンUにおいて輝度が最小となる位置(最小輝度位置)を基準点としてもよい。
上記第4実施形態では、色が異なる複数の単位パターンUをエピポーラ線Le1に沿って配置したパターン画像Ipの例を示したが、第2実施形態のような模様が異なる複数の単位パターンUをエピポーラ線Le1に沿って配置したパターン画像Ipを採用してもよい。
上記第1、第4及び第5実施形態において、パターン画像Ipは、検出用単位パターンU以外に、黒色の単位パターンUkを含んで構成されているが、黒色の単位パターンUkを含まない構成にすることも可能である。ただし、上記第1、第4及び第5実施形態のように、検出用単位パターンUと黒色の単位パターンUkとを隣接させて配置するほうが、検出用単位パターンUの頂点や端部の検出が容易になる。また、パターン画像Ipに黒色の単位パターンUkを含めることにより、基本パターン群Vを大きくできるため、同色の単位パターンUを離して配置することが可能となり、他の単位パターンUと混同してしまうことが抑制される。
上記第5及び第6実施形態において、帯状の単位パターンUのそれぞれは、全域に亘って単一の色によって構成されているが、色が異なる複数の領域を縦方向(エピポーラ線Le1に交差する方向)に配列させた態様とすることも可能である。
上記第1〜第6実施形態において、プロジェクター100から投写された画像の一部が投写面Spの凹凸に遮られて影が生じる場合には、複数台のプロジェクター100に、それぞれ異なる方向から画像を投写させて、画像が表示されない領域(影となる領域)が生成されるのを防止するようにしてもよい。
上記第1〜第6実施形態では、光変調装置として、透過型の液晶ライトバルブ22R,22G,22Bを用いているが、反射型の液晶ライトバルブ等、反射型の光変調装置を用いることも可能である。また、入射した光の射出方向を、画素としてのマイクロミラー毎に制御することにより、光源21から射出された光を変調するデジタルミラーデバイス等を用いることもできる。また、色光別に複数の光変調装置を備える構成に限定されず、1つの光変調装置で複数の色光を時分割で変調する構成としてもよい。
10…制御部、11…記憶部、12…入力操作部、13…画像情報入力部、14…画像情報補正部、15…画像投写部、16…撮像部、17…検出部、18…補正情報生成部、21…光源、22R,22G,22B…液晶ライトバルブ、23…投写レンズ、24…ライトバルブ駆動部、100…プロジェクター、Ac…補正領域、Ac1…第1の補正領域、Ac2…第2の補正領域、Ac3…第3の補正領域、Ai…画像形成領域、C1〜C16…基準点、Dp…パターン画像データ、Ic…撮像画像、Id…表示画像、Ip…パターン画像、Le1,Le2…エピポーラ線、Sp…投写面、Ur,Ug,Ub,Uc,Um,Uy,Uk…単位パターン、V…基本パターン群。

Claims (12)

  1. 投写面に画像を投写する投写部と、
    前記投写部からパターン画像を投写させる制御部と、
    前記投写面に投写された前記パターン画像を撮像する撮像部と、
    前記撮像部で撮像された前記パターン画像に基づいて、基準点を検出する検出部と、
    前記検出部で検出された前記基準点の位置に基づいて、前記投写部が投写する前記画像を補正する補正部と、を備え、
    前記パターン画像は、前記基準点を特定するための複数の単位パターンを含み、
    前記複数の単位パターンには、色及び模様の少なくとも一方が異なる少なくとも3種類の単位パターンが含まれることを特徴とする画像投写システム。
  2. 請求項1に記載の画像投写システムであって、
    前記少なくとも3種類の単位パターンは、互いに色が異なることを特徴とする画像投写システム。
  3. 請求項1に記載の画像投写システムであって、
    前記少なくとも3種類の単位パターンは、互いに模様が異なることを特徴とする画像投写システム。
  4. 請求項1〜3のいずれか一項に記載の画像投写システムであって、
    前記単位パターンは、頂点を有する形状のパターンであり、
    前記検出部は、前記単位パターンの前記頂点を前記基準点として検出することを特徴とする画像投写システム。
  5. 請求項1又は2に記載の画像投写システムであって、
    前記単位パターンは、輝度分布を有するパターンであり、
    前記検出部は、前記単位パターンの輝度に基づいて前記基準点を検出することを特徴とする画像投写システム。
  6. 請求項1〜5のいずれか一項に記載の画像投写システムであって、
    前記パターン画像は、前記少なくとも3種類の単位パターンが所定の配列で配置された基本パターン群を複数含むことを特徴とする画像投写システム。
  7. 請求項1〜6のいずれか一項に記載の画像投写システムであって、
    前記パターン画像には、前記投写部と前記撮像部の配置関係に基づいて決定される第1のエピポーラ線に沿って前記基準点が位置するように、前記単位パターンが配置されており、
    前記検出部は、前記撮像部が撮像した画像から、前記第1のエピポーラ線に対応する第2のエピポーラ線に沿って前記基準点を検出することを特徴とする画像投写システム。
  8. 請求項2に記載の画像投写システムであって、
    前記単位パターンは、前記投写部と前記撮像部の配置関係に基づいて決定される第1のエピポーラ線に交差する方向に延出する帯状のパターンであり、
    前記検出部は、前記撮像部が撮像した画像から、前記第1のエピポーラ線に対応する第2のエピポーラ線に沿って前記基準点を検出することを特徴とする画像投写システム。
  9. 請求項8に記載の画像投写システムであって、
    前記検出部は、前記単位パターンの端部を前記基準点として検出することを特徴とする画像投写システム。
  10. 請求項8に記載の画像投写システムであって、
    前記単位パターンは、輝度分布を有するパターンであり、
    前記検出部は、前記単位パターンの輝度に基づいて前記基準点を検出することを特徴とする画像投写システム。
  11. 請求項1〜10のいずれか一項に記載の画像投写システムであって、
    前記投写部と前記撮像部とが一体的に構成されていることを特徴とする画像投写システム。
  12. 投写面に画像を投写する投写部からパターン画像を投写し、
    前記投写面に投写された前記パターン画像を撮像し、
    撮像された前記パターン画像に基づいて、基準点を検出し、
    検出された前記基準点の位置に基づいて、前記投写部が投写する前記画像を補正する、画像投写システムの制御方法であって、
    前記パターン画像は、前記基準点を特定するための複数の単位パターンを含み、
    前記複数の単位パターンには、色及び模様の少なくとも一方が異なる少なくとも3種類の単位パターンが含まれることを特徴とする画像投写システムの制御方法。
JP2017168291A 2017-09-01 2017-09-01 画像投写システム及びその制御方法 Pending JP2019047311A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017168291A JP2019047311A (ja) 2017-09-01 2017-09-01 画像投写システム及びその制御方法
US16/119,588 US10664957B2 (en) 2017-09-01 2018-08-31 Image projection system and control method for image projection system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017168291A JP2019047311A (ja) 2017-09-01 2017-09-01 画像投写システム及びその制御方法

Publications (1)

Publication Number Publication Date
JP2019047311A true JP2019047311A (ja) 2019-03-22

Family

ID=65518206

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017168291A Pending JP2019047311A (ja) 2017-09-01 2017-09-01 画像投写システム及びその制御方法

Country Status (2)

Country Link
US (1) US10664957B2 (ja)
JP (1) JP2019047311A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021067906A (ja) * 2019-10-28 2021-04-30 セイコーエプソン株式会社 プロジェクターの制御方法及びプロジェクター

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108478188B (zh) * 2018-02-12 2021-08-20 苏州佳世达电通有限公司 以结构光进行扫描的立体物件扫描装置
CN110784692B (zh) * 2018-07-31 2022-07-05 中强光电股份有限公司 投影装置、投影***及影像校正方法
CN111816103A (zh) * 2019-04-10 2020-10-23 中强光电股份有限公司 投影装置及影像调整方法
JP7467947B2 (ja) * 2020-01-31 2024-04-16 セイコーエプソン株式会社 画像投射システムの制御方法、及び画像投射システム

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4507307B2 (ja) 1999-09-16 2010-07-21 独立行政法人科学技術振興機構 映像投影装置
JP2005020314A (ja) 2003-06-25 2005-01-20 Olympus Corp 表示特性補正データの算出方法、表示特性補正データの算出プログラム、表示特性補正データの算出装置
JP2009042690A (ja) 2007-08-10 2009-02-26 Funai Electric Co Ltd プロジェクタ
JP5578844B2 (ja) * 2009-12-21 2014-08-27 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP5724064B2 (ja) 2010-05-06 2015-05-27 パナソニックIpマネジメント株式会社 光投影装置
JP6394081B2 (ja) * 2013-08-13 2018-09-26 株式会社リコー 画像処理装置、画像処理システム、画像処理方法、及びプログラム
JP2015128242A (ja) * 2013-12-27 2015-07-09 ソニー株式会社 画像投影装置及びそのキャリブレーション方法
KR102170182B1 (ko) * 2014-04-17 2020-10-26 한국전자통신연구원 패턴 프로젝션을 이용한 왜곡 보정 및 정렬 시스템, 이를 이용한 방법
WO2016002510A1 (ja) * 2014-07-01 2016-01-07 ソニー株式会社 画像処理装置および方法
JP6794981B2 (ja) * 2015-03-17 2020-12-02 ソニー株式会社 情報処理装置および方法
JP6636252B2 (ja) 2015-03-19 2020-01-29 株式会社メガチップス 投影システム、プロジェクター装置、撮像装置、および、プログラム
JP6554873B2 (ja) * 2015-03-31 2019-08-07 株式会社リコー 投影システム、画像処理装置、校正方法およびプログラム
JP2016224172A (ja) * 2015-05-28 2016-12-28 株式会社リコー 投影システム、画像処理装置、校正方法およびプログラム
EP3346699B1 (en) * 2015-09-01 2023-02-01 NEC Platforms, Ltd. Projection device, projection method and projection program
JP6816725B2 (ja) * 2015-12-18 2021-01-20 ソニー株式会社 画像処理装置および方法、データ、並びに記録媒体
US9978147B2 (en) * 2015-12-23 2018-05-22 Intel Corporation System and method for calibration of a depth camera system
JP6569742B2 (ja) * 2016-01-13 2019-09-04 株式会社リコー 投影システム、画像処理装置、投影方法およびプログラム
WO2017154628A1 (ja) * 2016-03-11 2017-09-14 ソニー株式会社 画像処理装置および方法
CN106403845B (zh) * 2016-09-14 2017-10-03 杭州思看科技有限公司 三维传感器***及三维数据获取方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021067906A (ja) * 2019-10-28 2021-04-30 セイコーエプソン株式会社 プロジェクターの制御方法及びプロジェクター
JP7415439B2 (ja) 2019-10-28 2024-01-17 セイコーエプソン株式会社 プロジェクターの制御方法及びプロジェクター

Also Published As

Publication number Publication date
US10664957B2 (en) 2020-05-26
US20190073753A1 (en) 2019-03-07

Similar Documents

Publication Publication Date Title
JP2019047311A (ja) 画像投写システム及びその制御方法
KR100602622B1 (ko) 화상 처리 시스템, 프로젝터, 정보 기억 매체 및 화상처리 방법
CN102365865B (zh) 多投影显示***和屏幕画面形成方法
JP3844076B2 (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP5251202B2 (ja) プロジェクタの投射画像の歪補正方法、及びプロジェクタ
JP3879858B2 (ja) 画像処理システム、プロジェクタおよび画像処理方法
JP6205777B2 (ja) 投影装置、投影方法、及び投影のためのプログラム
JP2004336225A (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP2005033703A (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP6809292B2 (ja) プロジェクターおよびプロジェクターの制御方法
JP6926948B2 (ja) プロジェクター、画像投写システム、及びプロジェクターの制御方法
US20100026899A1 (en) Image processor, image display device, image processing method, image display method, and program
US20210025699A1 (en) Control method for projector and projector
CN113259644A (zh) 激光投影***及图像校正方法
JP2019047312A (ja) 画像投写システム及びその制御方法
CN113890626B (zh) 色散校正方法、装置、激光电视机及存储介质
CN113630588B (zh) 图像投射***的控制方法和图像投射***
US11327389B2 (en) Image projection system and method of controlling image projection system
JP7243510B2 (ja) プロジェクターの制御方法、及びプロジェクター
JP7467947B2 (ja) 画像投射システムの制御方法、及び画像投射システム
JP2022147132A (ja) 投写画像の調整方法、情報処理装置、及び投写システム
JP2010288062A (ja) プロジェクター、プログラム、情報記憶媒体および画像投写方法
JP7188176B2 (ja) プロジェクター、画像表示システム及び画像表示システムの制御方法
JP2005286573A (ja) 画像処理システム、プロジェクタ、プログラム、情報記憶媒体および画像処理方法
JP2021189826A (ja) 位置検出方法、位置検出装置、及びプロジェクター

Legal Events

Date Code Title Description
RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20180910

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190920

RD07 Notification of extinguishment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7427

Effective date: 20200806