JP2020182127A - キャリブレーション装置、キャリブレーションシステム、および表示装置のキャリブレーション方法 - Google Patents
キャリブレーション装置、キャリブレーションシステム、および表示装置のキャリブレーション方法 Download PDFInfo
- Publication number
- JP2020182127A JP2020182127A JP2019084447A JP2019084447A JP2020182127A JP 2020182127 A JP2020182127 A JP 2020182127A JP 2019084447 A JP2019084447 A JP 2019084447A JP 2019084447 A JP2019084447 A JP 2019084447A JP 2020182127 A JP2020182127 A JP 2020182127A
- Authority
- JP
- Japan
- Prior art keywords
- image
- calibration
- correspondence
- display panel
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 105
- 230000008859 change Effects 0.000 claims description 17
- 238000011156 evaluation Methods 0.000 claims description 11
- 238000003384 imaging method Methods 0.000 claims description 11
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 10
- 230000009466 transformation Effects 0.000 claims description 10
- 238000012937 correction Methods 0.000 claims description 8
- 239000003086 colorant Substances 0.000 claims description 6
- 238000005070 sampling Methods 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 4
- 238000005457 optimization Methods 0.000 claims description 2
- 230000003287 optical effect Effects 0.000 abstract description 8
- 230000008569 process Effects 0.000 description 26
- 238000012545 processing Methods 0.000 description 25
- 238000003860 storage Methods 0.000 description 25
- 230000010363 phase shift Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 6
- 238000013461 design Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- 241000226585 Antennaria plantaginifolia Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 239000011362 coarse particle Substances 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000010419 fine particle Substances 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000000611 regression analysis Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/1407—General aspects irrespective of display type, e.g. determination of decimal point position, display with fixed or driving decimal point, suppression of non-significant zeros
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Controls And Circuits For Display Device (AREA)
- Image Processing (AREA)
- Digital Computer Display Output (AREA)
- Transforming Electric Information Into Light Information (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
【課題】光学系を含む表示装置のキャリブレーションを高精度に実現する。【解決手段】キャリブレーションシステム8においてキャリブレーション対象の表示装置12は、表示パネル30a、30bとレンズ32a、32bを備える。撮像装置14は、レンズ32a、32bを介して、キャリブレーション用パターンの表示画像を撮影する。キャリブレーション装置10は、撮影された観測画像を用いて、表示画像の補正に用いる歪みパラメータを取得する。【選択図】図2
Description
本発明は、光学系を含む表示装置のキャリブレーションを実現する装置、システム、およびキャリブレーション方法に関する。
撮像装置など光学系を利用した装置において、画像の歪みを除去したり画像解析を精度よく行ったりするには、キャリブレーションにより装置固有のパラメータを取得しておく必要がある。キャリブレーション技術としては、チェッカーパターンの平面チャートを複数の視点から撮影し、撮影画像上での特徴点の位置と、実空間でのチャートの平面における特徴点の位置とが正しい対応関係となるようにパラメータを最適化するZhangの手法が広く知られている(例えば非特許文献1参照)。また、プロジェクタが対象物に投影した画像をカメラで撮影することにより対象物の3次元情報を取得する装置においても、カメラやプロジェクタに対しキャリブレーションを行っておくことで、3次元計測の精度を向上させる技術が提案されている(例えば特許文献1参照)。
Zhengyou Zhang, "A Flexible New Technique for Camera Calibration", Microsoft Research Technical Report, MSR-TR-98-71, December 2, 1998.
一方、ヘッドマウントディスプレイや表示装置としてのプロジェクタのように、レンズにより拡大された画像を人に視認させる場合、その視認されている状態を定量的に評価するのは、撮影画像と異なり容易でない。レンズ単体に対しキャリブレーションを行ったり、装置の設計値を利用して各種パラメータを推定したりすることはできるが、製造時の取り付け誤差など個々の装置の状況を踏まえたものではない。結果として、歪んだ画像が視認されたり、表示装置によって画質がばらついたりすることが考えられる。
本発明はこうした課題に鑑みてなされたものであり、その目的は、光学系を含む表示装置のキャリブレーションを高精度に実現できる技術を提供することにある。
本発明のある態様はキャリブレーション装置に関する。このキャリブレーション装置は、表示パネルと、当該表示パネルに表示された画像を透過させるレンズと、を備えた表示装置のキャリブレーションを行うキャリブレーション装置であって、表示パネルに表示させたキャリブレーション用パターンの像がレンズを透過してなる像を撮影した観測画像を取得する観測画像取得部と、観測画像における位置座標と、表示パネルの画面における位置座標との対応関係を取得する対応情報取得部と、当該対応関係に基づき、表示パネルに表示させる画像の補正に用いるパラメータを取得するパラメータ取得部と、を備えたことを特徴とする。
本発明の別の態様はキャリブレーションシステムに関する。このキャリブレーションシステムは、上記キャリブレーション装置と、キャリブレーション装置の制御により観測画像を撮影する撮像装置と、を含むことを特徴とする。
本発明のさらに別の態様はキャリブレーション方法に関する。このキャリブレーション方法は、表示パネルと、当該表示パネルに表示された画像を透過させるレンズと、を備えた表示装置のキャリブレーションを行うキャリブレーション装置が、表示パネルに表示させたキャリブレーション用パターンの像がレンズを透過してなる像を撮影した観測画像を取得するステップと、観測画像における位置座標と、表示パネルの画面における位置座標との対応関係を取得するステップと、当該対応関係に基づき、前記表示パネルに表示させる画像の補正に用いるパラメータを取得するステップと、を含むことを特徴とする。
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、コンピュータプログラムを記録した記録媒体などの間で変換したものもまた、本発明の態様として有効である。
本発明によると、光学系を含む表示装置のキャリブレーションを高精度に実現する。
本実施の形態は、画像を表示させる表示パネルと、当該表示パネルからの光を透過させるレンズを備える表示装置のキャリブレーションに係る。その限りにおいて表示装置の種類は限定されず、代表的には、レンズを透過してなる像を人の眼に投影するヘッドマウントディスプレイや、当該像をスクリーンに投影するプロジェクタなどが考えられる。以後、主にヘッドマウントディスプレイのキャリブレーションについて説明するが、その他、光学系を利用する表示装置であれば同様に適用できる。
図1は、ヘッドマウントディスプレイに表示される画像の補正の必要性を説明するための図である。図ではわかりやすさのために、チェッカーパターンを表示させる場合を示している。なおヘッドマウントディスプレイは、ユーザが頭部に装着することにより、その眼前に位置する表示パネルに画像を表示させる装置である。本実施の形態を適用できるヘッドマウントディスプレイはさらに、表示パネルの前面に接眼レンズを設けた構造を有する。接眼レンズにより、ユーザの視野の広い範囲で画像が視認される。
まず上段の(a)に示すように、歪みのない入力画像20をヘッドマウントディスプレイの表示パネルにそのまま表示させれば、当然、入力画像20と同様の出力画像22が表示される。当該画像を、レンズ16を介して見ると、ユーザにはレンズ16の歪曲収差により、歪んだ画像24が視認される。一方、下段の(b)に示すように、歪みのない入力画像20に対し、レンズ16の歪曲収差を踏まえた補正を施した出力画像26を表示させれば、レンズ16を介して見たときに歪みのない画像28を視認させることができる。レンズによる画像の歪みは、一般に次のようなモデル式により表される。
ここで(x,y)は歪みのない画像における位置座標、rは歪み中心から当該位置座標までの距離、(x’,y’)は歪みのある画像における対応する位置座標である。k1、k2、k3は半径歪みを表す係数、p1、p2は接戦歪みを表す係数である。以後、これらのパラメータと、歪み中心の位置座標を総称して「歪みパラメータ」と呼ぶ。ただし本実施の形態で用いる歪みのモデル式を上記に限る趣旨ではなく、モデル式によってパラメータも様々でよい。(b)に示すように、レンズを介して見たときに本来の画像が視認されるようにするには、レンズ特有の歪みパラメータを正確に求めておく必要がある。
表示画像の補正に必要な歪みパラメータは、レンズ単体による歪みの度合い以外に、表示パネルとレンズの相対的な位置や姿勢の関係にも依存する。装置の設計値等から歪みパラメータを定数として導入すると、取り付け誤差等の装置の個体差によって、視認される画像の質がばらつくことが考えられる。また歪みパラメータが未知のディスプレイについては、レンズを取り外して単体での歪みの度合いを取得したり、設計値を取得したりしなければ、歪みパラメータが得られないことになる。そこで本実施の形態では、表示パネルとレンズが実装された状態で、表示画像がレンズを透過してなる像を撮像装置で撮影することにより、歪みパラメータを正確に求める。
図2は、本実施の形態のキャリブレーションシステムの構成例を示している。キャリブレーションシステム8は、表示装置12、撮像装置14、およびキャリブレーション装置10を含む。表示装置12は少なくとも、表示画像を表す表示パネル30a、30b、および表示された画像を透過させるレンズ32a、32bを備える。図示する表示装置12は、立体視が可能なヘッドマウントディスプレイを想定している。
そのためユーザの左右の眼の前に左目用、右目用の画像をそれぞれ表示させる表示パネル30a、30bと、左目用、右目用の2つのレンズ32a、32bを示している。ただし表示パネルとレンズの組の数は限定されない。上述のとおり表示装置12において表示パネル30a、30bとレンズ32a、32bは、キャリブレーション実行時には組み付けられた状態とする。したがって表示装置12には、入力された画像を表示パネルに表示させるための映像信号処理機構とパネル駆動機構が備えられているが、本図では省略している。
撮像装置14は、表示パネルとレンズの組ごとに、レンズを透過してなる像を撮影する。したがって図示する撮像装置14は、左右のレンズ32a、32bのそれぞれに対しカメラを設けたステレオカメラとしているが、撮像装置14をステレオカメラに限る趣旨ではない。キャリブレーション装置10は、表示装置12の表示パネル30a、30bにキャリブレーション用のパターンを表示させ、それがレンズ32a、32bを透過してなる像を、撮像装置14に撮影させる。
そして、当該撮影画像のデータを解析することにより、歪みパラメータを取得する。ここでキャリブレーション装置10は、複数のキャリブレーション用パターンのデータを表示装置12に順次送信し、表示画像を時間変化させる。そして撮像装置14に同期信号を送信することにより、各パターンの表示と同期するタイミングで、その撮影画像が得られるようにする。同期信号を発生させるマイコンボード等をキャリブレーション装置10と撮像装置14の間に設けてもよい。
図3は、キャリブレーション装置10の内部回路構成を示している。キャリブレーション装置10は、CPU(Central Processing Unit)122、GPU(Graphics Processing Unit)124、メインメモリ126を含む。CPU122は、オペレーティングシステムやアプリケーションなどのプログラムに基づいて、装置内部の構成要素における処理や信号伝送を制御する。GPU124は画像処理を行う。メインメモリ126はRAM(Random Access Memory)により構成され、処理に必要なプログラムやデータを記憶する。
これらの各部は、バス130を介して相互に接続されている。バス130にはさらに入出力インターフェース128が接続されている。入出力インターフェース128には、USBやIEEE1394などの周辺機器インターフェースや、有線又は無線LANのネットワークインターフェースからなる通信部132、ハードディスクドライブや不揮発性メモリなどの記憶部134、表示装置12や撮像装置14へデータや制御信号を出力する出力部136、撮像装置14や図示しない入力装置からデータを入力する入力部138、磁気ディスク、光ディスクまたは半導体メモリなどのリムーバブル記録媒体を駆動する記録媒体駆動部140が接続される。
CPU122は、記憶部134に記憶されているオペレーティングシステムを実行することにより装置の全体を制御する。CPU122はまた、リムーバブル記録媒体から読み出されてメインメモリ126にロードされた、あるいは通信部132を介してダウンロードされた各種プログラムを実行する。GPU124は、ジオメトリエンジンの機能とレンダリングプロセッサの機能とを有し、CPU122からの描画命令に従って画像描画を行う。
図4は、キャリブレーション装置10の機能ブロックの構成を示している。同図に示す各機能ブロックは、ハードウェア的には、図3で示したCPU122、GPU124、メインメモリ126などで実現でき、ソフトウェア的にはハードディスクや記録媒体からメインメモリ126にロードされたコンピュータプログラムなどで実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
キャリブレーション装置10は、表示装置12にキャリブレーション用のパターンを表示させる表示制御部40、キャリブレーション用パターンのデータを格納するキャリブレーション用パターン記憶部42、表示と同期したタイミングで撮像装置14に撮影させる撮影制御部48、撮影された表示画像を観測画像として取得する観測画像取得部50、観測画像における位置座標と表示パネルの画面における位置座標との対応関係を取得する対応情報取得部52、取得した対応関係を格納する対応情報記憶部44、当該対応関係に基づき歪みパラメータを取得するパラメータ取得部54、取得した歪みパラメータを格納する歪みパラメータ記憶部46を備える。
表示制御部40は図3のCPU122、GPU124、出力部136などで実現され、キャリブレーション用パターンのデータを送信することにより、表示装置12に当該パターンを表示させる。このとき上述のように、複数のキャリブレーション用パターンを、設定された時系列順に送信することにより、表示を時間変化させる。また好適には、複数系統のパターン群を順次表示させる。キャリブレーション用パターン記憶部42は図3のメインメモリ126で実現され、当該複数のキャリブレーション用パターンのデータ、あるいは当該パターンの生成規則のデータを格納する。後者の場合、表示制御部40は、格納された規則に従い内部でキャリブレーション用パターンを生成してよい。
撮影制御部48は図3のCPU122、出力部136などで実現され、撮像装置14に制御信号を送信することにより、キャリブレーション用パターンの観測画像を撮影させる。詳細には上述のとおり、表示制御部40が制御する複数のキャリブレーション用パターンの表示タイミングに同期したタイミングで撮影がなされるようにする。観測画像取得部50は図3のCPU122、入力部138、メインメモリ126などで実現され、撮像装置14により撮影された観測画像のデータを順次取得する。
対応情報取得部52は図3のCPU122などで実現され、観測画像を解析し、表示パネルの画面における位置座標(以後、「画面座標」とも呼ぶ)と、観測画像の平面における位置座標(以後、「観測座標」とも呼ぶ)との対応関係を取得する。ここで対応情報取得部52は、各観測座標において観測された輝度の時間変化に基づき、そこで観測された光の発生元である画面座標を特定する。
キャリブレーション用パターンのそれぞれが単純な図形の繰り返しであっても、時間変化の要素を組み合わせることにより、細かい粒度で位置座標の対応関係を取得できる。輝度の時間変化によって位置の対応を取得できれば、具体的なパターンは限定されないが、本実施の形態では後述するように、グレイコードのパターン群と、正弦波を位相シフトさせたパターン群を導入することを考える。この場合、対応情報取得部52は、それらのパターン群の観測画像を用いて個別に対応関係を取得し、その結果を統合して最終的な対応関係を得る。
ただし上述のとおり用いるパターンは限定されず、場合によってはチェッカーパターンなど規則的な特徴点を有するパターンの静止画の観測画像を、上述のような輝度を変化させるパターン群と組み合わせて用いてもよい。また求められる精度や分解能によっては、複数系統のパターンを組み合わせなくてもよい。対応情報記憶部44は図3のメインメモリ126で実現され、各段階で取得された位置座標の対応関係のデータを格納する。
パラメータ取得部54は図3のCPU122で実現され、対応情報記憶部44に格納された画面座標と観測座標の対応関係に基づき、歪みパラメータを取得する。具体的には、対応関係が得られている観測画像上の点群(位置座標群)のうち、直線をなす点群に対応する、画面上の点群も直線をなすように、歪みパラメータを最適化する。歪みパラメータ記憶部46は図3のメインメモリ126で実現され、パラメータ取得部54が取得した歪みパラメータを格納する。
あるいは歪みパラメータ記憶部46は、記憶部134、または図3の記録媒体駆動部140によって駆動する記録媒体としてもよい。これらの手段により記録された歪みパラメータは最終的には、例えば表示装置12が備える不揮発性メモリに格納しておく。そして運用時には、表示画像を生成するコンテンツ処理装置が当該データを読み出し、コンテンツの画像をそれに従い歪ませたうえで表示装置12に表示させる。このように表示された画像を、レンズを介して鑑賞することにより、歪みのない画像が視認される。
図5は、キャリブレーション装置10が行うキャリブレーションの処理手順の概要を示している。まず表示制御部40はキャリブレーション用パターン記憶部42からキャリブレーション用パターン60のデータを読み出し、表示装置12に順次表示させる。撮影制御部48は、表示に同期したタイミングで、レンズを透過してなる像を撮像装置14に撮影させる(S10)。
観測画像取得部50が、撮影された歪みのある観測画像62を取得すると、対応情報取得部52は、画面座標と観測座標の対応関係を取得する(S12)。例えば対応情報取得部52は、各観測座標に対応する画面座標のx成分、y成分を、観測画像平面にそれぞれ表した対応マップ64を作成し、対応情報記憶部44に格納する。次にパラメータ取得部54は、対応する点群が観測画像上でも表示パネルの画面上でも直線となるように、歪みパラメータを最適化することで最終結果を得る(S14)。
図6は、表示パネルの画面に表された画像とその観測画像を例示している。図示する表示画像70には、観測画像平面の各位置に対応する、画面座標のx成分を求めるため、縦方向のストライプからなるパターンが表わされている。当該パターンを、レンズを介して撮影すると、ストライプが歪んだ観測画像72が得られる。対応情報取得部52は、表示画像70における画面座標(例えば画面座標74)と、それを撮影した観測画像72における観測座標(例えば観測座標76)の対応づけを行う。
撮像装置14のキャリブレーションを適切に行っておくことにより、3次元空間での表示画像70から観測画像72の射影は、次のようなピンホールモデルで表される。
ここでm(u,v)は観測画像におけるuv座標、M(X,Y,Z)は表示パネルの画面上の位置座標である。Rは回転行列、tは並進ベクトルである。Aはレンズに係るパラメータであり、次のように表される。
ここで(fx、fy)は画素単位での焦点距離、(Cx,Cy)は主点の位置座標を表す。図示するようにレンズによる歪みが存在する状態では、この射影変換に、さらに式1で示したレンズ歪みモデルによる変換が加わる。ただし本実施の形態では上述のとおり、観測画像72における点群と、表示画像70上での対応する点群の直線性という平面上での幾何的なアプローチにより、式1の歪みパラメータを個別に導出する。
なお図示する例では表示画像70と観測画像72の平面を正規化して示しているが、実際には焦点距離に依存して両者の倍率が変化し、対応する位置座標に影響を与えるため、適切な焦点距離の値を設定しておく必要がある。焦点距離が小さ過ぎると視野範囲が広がり過ぎて式1のrnがオーバーフローする。大きすぎると視野範囲が狭まり過ぎて歪みパラメータが発散する。目安としてディスプレイの解像度の1/2〜1/4の範囲内の焦点距離とすることにより、歪みパラメータを好適に求めることができる。
図7は、キャリブレーション用パターンとして利用するグレイコードについて説明するための図である。グレイコードは例えば3次元計測などに構造化光として用いられる。具体的には計測対象に複数の白黒2値光を投射することで、領域内の各点にバイナリコードを対応づけることができる。本実施の形態では、グレイコードのパターンを表示に利用する。例えば図の(a)に示すように、様々な幅の黒と白の縦線(ストライプ)からなるパターン系列を、図の左から右の順序で表示させていく。
図示するように右のパターンほど細かいストライプとなっており、最も細かいストライプが、位置座標を識別する最小単位となる。当該最小単位の全てで、黒(輝度値0)と白(輝度値1)からなる輝度の時間変化のパターンを異ならせることにより、それぞれに異なるバイナリコードを対応づけていることになる。例えば中段に抜粋して示す例では、最も左の単位は[0,0,0]なる輝度の変化のため、これを10進数で表すと「0」になる。それより右の単位も同様に、10進数で「1」、「2」、「3」、「4」なる識別番号が対応づけられる。
図6に示したように、観測画像においてはストライプが歪みをもって表されるが、表示画面における対応するストライプと同じように輝度が変化するため、当該歪みのあるストライプの像が、表示画面上のどのストライプに対応するかが判明する。(a)に示した縦方向のストライプにより、観測画像上の各点を、画面座標のx成分に対応づけることができる。(b)は、横方向のストライプからなるパターン系列を示しており、(a)と同様の原理により、観測画像上の各点を、画面座標のy成分に対応づけることができる。
この手法によれば原理的には、最も細かいストライプの幅を最小単位として、観測座標と画面座標の対応関係を一意に定めることができる。しかしながら観測画像におけるモアレやブラーの発生、表示パネルと撮像装置14の解像度の差などに起因して、特にストライプの幅が狭い画像では、ストライプの境界が不鮮明だったり黒つぶれしたりして、位置の判別に誤差が生じる可能性がある。
図8は、キャリブレーション用パターンとして利用する正弦波の位相シフトについて説明するための図である。このパターン系列78は、画面の横方向または縦方向に、正弦波の形状で変化する輝度分布を有するとともに、その位相が時間変化するパターンで構成される。図示するパターン系列78は、画面の横方向に正弦波形状に輝度を変化させており、所定の時間間隔Δtで90°ずつ位相がずれている。
各時刻t1、t2、t3、t4における輝度の空間変化の一部を図の下段に示している。ここで、時刻t1において輝度が0.5となる位置のうち左端の位置をx=0としている。例えばパターン系列78の各パターンに示した白丸の位置は、下段の位置x=xaに対応している。各位置における輝度の時間変化も正弦波形となるため、その位相θを取得することにより、空間方向の正弦波に対する、当該位置の位相が判明する。
観測画像においても、輝度の時間変化が同じ位相を示す位置を取得することにより、画面座標のx成分と対応づけることができる。なお位相は0≦θ<2πで定義されるため、例えば観測画像の左側から位置の対応づけを行っていき、次式のように対応する画面座標xaが正弦波の1周期分の幅xbを超える都度、位相θに対応する幅にxbを加算していくことで、画面座標のx軸方向の連続した値xaと対応づけることができる。
xa=(θ/2π)・xb+xb・n, n=[xa/xb] (式4)
xa=(θ/2π)・xb+xb・n, n=[xa/xb] (式4)
画面の縦方向に、正弦波形状に輝度を変化させたパターンによっても同様に、画面座標のy成分と対応づけられる。輝度の時間変化を取得する位置は限定されないため、例えば表示画像の画素単位など細かい単位で位置の対応を取得できる。ただしこの手法で直接的に得られるのはあくまで位相θであり、画面上での対応する位置座標の絶対値(例えば位置xa)は、x=0など基準となる位置の対応が得られているときに限って一意に定まる。
図9は、位置関係の取得結果に関する特徴を、グレイコードのパターンを用いた場合と正弦波の位相をシフトさせるパターンを用いた場合で比較している。以後、前者の手法を「グレイコード法」、後者の手法を「位相シフト法」と呼ぶ。(a)に示すグレイコード法による結果のうち、左に示す理想的な状態では、最も細かいストライプの幅を単位とする画面座標xdのそれぞれに対し、同じ単位で観測座標xpが得られる。一方、上述のとおり、モアレパターンやブラーの影響でストライプの境界が不鮮明になったり潰れたりすると、撮影画像上での位置の分解能が低下する。
その結果、右に示すように、画面座標xdが定義される最小単位より大きい、観測画像上での単位ごとに、観測座標xpが画面座標xdに対応づけられることになる。一方、(b)に示す位相シフト法による結果のうち、左に示す理想的な状態では、パターンが表されている画面上の全ての範囲(図では画面座標の0以上1440以下)が、観測画像上に表れている。この場合、端点を基準とするアフィン変換により、各観測座標の位相θから画面座標の絶対値を求めることができる。
また上述のとおり、位相シフト法によれば、より細かい粒度での対応づけができるため、図では対応関係が曲線形状となっている。一方、図の右に示すように、表示パネルに表されたパターンの端が観測画像の視野から外れていると、基準となる対応関係が得られないため、各観測座標の位相θが判明しても、対応する画面座標の絶対値が不定となる。そこでグレイコード法による結果と統合することにより、位相シフト法による結果を明確化する。
図10は、グレイコード法と位相シフト法の結果を統合する処理の概念を説明するための図である。この処理は、粗い粒度であっても画面座標と観測座標の絶対値での対応関係が得られるグレイコード法による結果を用いて、細かい粒度で相対的な対応関係が得られている位相シフト法による結果を、座標の絶対値の対応関係として表すことを目的とする。基本的には、グレイコード法の結果を示す折れ線82と同じ変化を表していると見なされるように、位相シフト法の結果を示す曲線84を変形させる。
例えばRANSAC(Random Sample Consensus)のアルゴリズムを利用して、矢印86で表象されるスケーリングパラメータと、矢印88で表象される並進パラメータからなるアフィン変換パラメータの最適値を取得する。RANSACは点集合をモデル化する手法であり、ランダムに選択したサンプリング点に対しモデルのパラメータを算出し、それを適用した場合の確からしさを評価する処理を繰り返すことにより最終的なモデルに帰結させる。
この手法により得られたアフィン変換パラメータを用いて曲線84を変換した結果を、最終的な位置座標の対応関係の情報とする。ただし実際には、観測座標および画面座標がそれぞれ2次元のため、例えば観測座標の2次元に対し画面座標の各成分を表した3次元空間での面に対する変換処理となる。
図11は、図5のS10における、キャリブレーションのための表示および撮影処理の手順を示すフローチャートである。なおこのフローチャートは、レンズの色収差を考慮して、赤、緑、青のキャリブレーションパターンを用いて個別にキャリブレーションを実施する例を示している。この場合、図7、8で示した「白」は、最大輝度で表した各色成分で置き換えられる。まず表示制御部40および撮影制御部48はそれぞれ、表示装置12に表示させるキャリブレーション用パターンや、撮像装置14における撮像条件の初期設定を行う(S30)。
具体的には表示制御部40は、表示するパターンのデータをキャリブレーション用パターン記憶部42から読み出す。撮影制御部48は、観測画像において解析に好適な像が得られるように、露光時間や絞り値などの撮影条件を設定する。次に表示制御部40は、全面が白色の画像を表示装置12に表示させ、撮影制御部48は撮像装置14にそれを撮影させる(S32)。これにより、観測画像のうち表示パネルの画面に相当する領域を特定しておく。
そして表示制御部40は、表示パネルの原色である赤、緑、青のうち対照色を一つ定め(S33)、当該色のキャリブレーション用パターンを表示装置12に表示させ、撮影制御部48は撮像装置14にそれを撮影させる(S34)。以後、撮影された画像のデータは順次、観測画像取得部50が撮像装置14から取得し、メインメモリ126に保存していく。対照色の全てのキャリブレーション用パターンの撮影が終了するまで、順次パターンの表示と撮影を繰り返す(S36のN、S34)。
ここで全てのキャリブレーション用パターンとは、上述の例では縦横双方向のグレイコードのパターン系列と、縦横双方向の正弦波のパターン系列である。ただし本実施の形態で用いるパターンをこれらに限る趣旨ではない。対照色の全てのパターンの撮影が完了したら(S36のY)、原色のうち別の色を対照色として、キャリブレーション用パターンの表示と撮影を繰り返す(S38のN、S33、S34、S36のN)。
なお表示させるパターンの色によって観測画像の輝度が不足したり過剰になったりする場合があるため、あらかじめ色ごとに撮影条件の最適値を取得しておく。撮影制御部48は、対照色を切り替える際に必要に応じて撮影条件を切り替える。全ての原色について、全キャリブレーション用パターンの撮影が完了したら処理を終了する(S38のY)。
図12は、図11で示した処理によって撮影される画像の例を示している。(a)は図11のS32において取得される白色画像の撮影画像である。また(b)、(c)は、図11のS34で取得される、あるグレイコードのパターンと、ある正弦波のパターンの観測画像である。(a)に示すように撮影画像の平面のうち白く写っている領域(輝度が所定値以上の領域)を特定しておくことにより、(b)や(c)の観測画像においてパターンが写っている領域を限定できる。これにより、観測座標と画面座標の対応関係を取得する処理の効率を上げるとともに、パターンの写っていない周辺領域をパターンの一部と誤認するのを防ぐことができる。
図13は、図5のS12において、画面座標と観測座標の対応関係を取得する処理手順を示すフローチャートである。まず対応情報取得部52は、メインメモリ126から白色画像の撮影画像を読み出し、画像平面において白く写っている領域以外を解析対象から除外するためのマスクデータを生成する(S40)。次に対応情報取得部52は、メインメモリ126から観測画像のデータを読み出し、撮影されたパターン系列に応じた解析手法で、観測画像と表示画像の位置的な対応関係を取得する(S42)。
すなわち複数の観測座標における輝度の変化を取得していくことにより、各座標に対応する表示パネルの画面上の位置、または位相を特定する。観測画像は原色のそれぞれに対し得られているため、対応関係も色ごとに取得する。用いるパターン系列を1つとする場合(S44のN)、対応情報取得部52はS42で得られた対応関係の情報を対応情報記憶部44に格納して処理を終了する(S48)。例えば要求される精度の観点から、グレイコード法による結果のみでも十分な場合、位相シフト法による解析を省略することで、結果の統合処理は必要なくなる。
複数のパターン系列で対応関係の結果を得た場合は(S44のY)、対応情報取得部52は、それらを統合することにより最終的な対応関係の情報を取得する(S46)。そして当該対応関係の情報を対応情報記憶部44に格納して処理を終了する(S48)。なおこの処理で得られる対応関係は、例えば観測画像の平面の各座標に、対応する画面座標の値を表した2次元マップの形式とする。
図14は、図13のS42において、対応情報取得部52がグレイコード法により対応関係を取得する処理の手順を示すフローチャートである。まず対応情報取得部52は、画像平面のx軸方向およびy軸方向のうち対象とする方向を決定する(S50)。次に対応情報取得部52は、対象方向の対応関係を特定するためのパターン系列のうち、輝度を反転させたパターン対の観測画像を抽出し、それらの差分画像を生成する(S52)。例えば図7の(a)において、左から1番目と2番目のパターンは輝度の分布が反転している。
対応情報取得部52はそれらを撮影した観測画像の対をメインメモリ126から読み出し、1番目の画像の画素値から2番目の画像の画素値を減算することにより差分画像を生成する。図7で例示したパターンの並びによれば、連続する2つのパターンがそれぞれ、輝度の分布を反転させた対をなすため、そのうち前の画像から後の画像を減算することにより差分画像を生成できる。当該差分画像は、パターンにおけるストライプの境界を境に画素値の正負が逆転した画像となる。
したがって対応情報取得部52は、0を境界値とすることにより差分画像を二値化する(S54)。これにより、観測画像におけるストライプの境界を高精度に特定することができる。輝度の分布を反転させたパターン対の観測画像の全てに対しS52、S54の処理を繰り返す(S56のN)。全ての対で観測画像の二値化が完了したら(S56のY)、所定間隔の観測座標ごとに輝度の変化を取得することにより、対応する画面座標を取得し、対応情報記憶部44に保存する(S58)。
このデータは、2次元の観測座標に対し、2次元の画面座標のうち一方の成分が対応づけられたデータとなる。続いて対応情報取得部52は、対象とする方向を切り替えてS50からS58の処理を繰り返す(S60のN)。これにより、観測座標に対し画面座標の残りの成分を対応づけたデータが得られるため、対応情報取得部52はそれらを統合して2次元マップを生成し、グレイコード法による最終結果として対応情報記憶部44に保存する(S60のY、S62)。
図15は、図13のS46において、対応情報取得部52がグレイコード法および位相シフト法により得た対応関係を統合する処理の手順を示すフローチャートである。この処理には上述のとおりRANSACのアルゴリズムを利用する。まず対応情報取得部52は、位相シフト法により得た対応関係の情報を対応情報記憶部44から読み出し、そのうちの対応する観測座標と画面座標の組み合わせをランダムに抽出する(S70)。この処理は、観測画像平面の各座標に、対応する画面座標を表したマップから、ランダムに点を抽出していることに相当する。
なお位相シフト法により得た対応関係は上述のとおり、対応する位置座標の絶対値が得られていない場合がある。この場合、対応情報取得部52は位置座標の絶対値を仮に決定しておく。次に対応情報取得部52は、グレイコード法により得た対応関係の情報を対応情報記憶部44から読み出し、S70で抽出した観測座標と同じ観測座標に対応する画面座標を取得する(S72)。そして、S70で抽出した位相シフト法による画面座標から、S72で取得したグレイコード法による画面座標へのアフィン変換パラメータを最小二乗法で計算する(S74)。ここで取得するパラメータは上述のとおり、スケーリングパラメータと並進パラメータである。
次に対応情報取得部52は、取得したそれらのパラメータを用いて、位相シフト法による結果が示す画面座標の全てをアフィン変換したうえ(S76)、グレイコード法の結果が示す画面座標との誤差の評価値を取得する(S78)。誤差の評価値としては例えば、二乗平均平方根誤差(RMSE)や平均絶対誤差など、回帰分析で用いられる一般的な評価値を利用できる。なおS76の処理においてアフィン変換した画面座標とグレイコードの結果が示す画面座標との誤差が所定値未満である点の数がしきい値未満であるとき、誤差の評価値を取得せずにアフィン変換パラメータを破棄してよい。
S70からS78の処理を繰り返し(S80のN)、繰り返し回数が所定数に達したら(S80のY)、誤差が最小であることを示す評価値が得られるアフィン変換パラメータを選択する(S82)。そして対応情報取得部52は、選択したアフィン変換パラメータを用いて位相シフト法による結果が示す画面座標を変換することにより、最終的な位置座標の対応関係を取得し、対応情報記憶部44に格納する(S84)。なおS70からS78の処理を所定回数繰り返しても常に誤差が基準より大きく、一度も誤差評価値を取得するに至らなかった場合は、エラーとして処理を終了してよい。
この処理手順は、観測座標に対応する画面座標の絶対値が得られるグレイコード法と、対応関係の変化の様子が得られる位相シフト法の結果を統合することを想定している。ただしグレイコード法や位相シフト法に限らず、一方が座標の絶対値の対応を得る手法であり、他方が座標の相対関係を得る手法である限り、同様の手順で統合が可能である。変形例として、複数の手法で座標の絶対値の対応を取得し、その結果を統合してもよい。
例えば、チェッカーパターンやサークルグリッドなどの繰り返しパターンに、特徴的な形状や色を有する1点または複数点のマーカーを含めたパターンを導入することが考えられる。この場合、当該パターンを表示させたうえでその静止画を観測画像として撮影する。そして観測画像上でのマーカーの像を基点とすることにより、特徴点の位置座標と画面座標の絶対値との関係を取得する。このような手法やグレイコード法などにより得られた結果を統合する場合は、同じ観測座標に対応する画面座標の平均値をとることにより、最終的な対応関係としてもよい。
図16は、図5のS14においてパラメータ取得部54が、歪みパラメータを取得する処理について説明するための図である。同図において観測画像マップ90は、観測画像平面に画面座標のy成分を対応づけたマップとx成分を対応づけたマップからなる。画面マップ92は、表示パネルの画面に観測座標のy成分を対応づけたマップとx成分を対応づけたマップからなる。観測画像マップ90において縦方向、あるいは横方向の直線上にある点群は、観測座標のx成分、あるいはy成分が等しい。図示する例では、y成分がY1の点群を示している。
レンズ歪みがある状態では、これらの点群が示す画面座標[y1,x1]、[y2,x2]、[y3,x3]、・・・を画面マップ92にプロットすると、観測画像で同じY1を示す点群が、画面座標では同じy座標を示さず湾曲した線上に位置する。x成分が等しい直線上の点群についても同様に、画面マップ92にプロットすると湾曲した線上に位置することになる。そこでパラメータ取得部54は、画面マップ92にプロットした点群が直線になるように補正パラメータを最適化する。
図17は、画面マップ92にプロットした点群の直線性を評価する手法の例を説明するための図である。図のx軸y軸は画面マップ、ひいては画面の横方向、縦方向の軸であり、観測画像マップで直線状であった点群をプロットしている。プロットした点群のうち[y1,x1]、[y4,x4]、[y7,x7]など所定の間隔でサンプリング点を抽出し、そのうちの3つのサンプリング点を1セットとして、中央の点と両側の点をそれぞれ通る2直線の傾きを算出する。
図示する3点では、直線94a、94bの傾きが求められる。実際には3点からなるセットを、抽出した全てのサンプリング点で形成し、同様に2直線の傾きを求める。プロットした点が直線をなす場合、2直線の傾きの差は0になる。そこで3点のセットごとに、2直線の傾きの差diffを算出し、その総和を評価値とする。図示する3点で2直線94a、94bの傾きをk1、k2とすると、傾きの差diffは次のように求められる。
diff=k1−k2
=(y1−y4)/(x1−x4)−(y4−y7)/(x4−x7)(式5)
diff=k1−k2
=(y1−y4)/(x1−x4)−(y4−y7)/(x4−x7)(式5)
図18は、図5のS14において、パラメータ取得部54が歪みパラメータを取得する処理手順を示すフローチャートである。まずパラメータ取得部54は、観測画像マップにおいて直線に乗る点群を抽出する(S90)。例えば所定間隔の点を抽出することにより、処理を効率化させるとともにノイズの影響を小さくする。次に抽出した点を画面マップにプロットし(S92)、そこから抽出したサンプリング点から連続する3点をセットとして、それらの間の2直線の傾きの差diffを順次取得する(S94)。
次にパラメータ取得部54は、複数のセットに対し得られた傾きの差diffのうち、平均値から所定基準以上外れている値を除外する(S96)。例えば平均値から2σの範囲内にない値を除外する。次にパラメータ取得部54は、差diffの総和を評価値として、それを小さくする方向に歪みパラメータを変位させる(S98)。そして変位後の歪みパラメータを用いて、S92でプロットした点群を式1により補正する(S100のN、S102)。
さらに補正後の3点ごとのセットに対し、傾きの差diffを順次取得し(S94)、外れ値の除外、歪みパラメータの変位を行う(S96、S98)。以後、S102、S92〜S98の処理を所定回数繰り返す(S100のN)。この処理は、実際にはLM法(Levenberg-Marquardt Method)などの非線形最適化アルゴリズムを利用して行える。探索処理を所定回数繰り返したら(S100のY)、パラメータ取得部54は、最後に得られた歪みパラメータを最終的な結果とし、歪みパラメータ記憶部46に格納する(S104)。なお対応関係を表示パネルの原色ごとに取得している場合は、図示する処理手順を色別に実施する。これにより色収差を考慮した歪みパラメータが色ごとに得られる。
図19は、本実施の形態によってキャリブレーションを実施した結果を例示している。同図はヘッドマウントディスプレイの左目用、右目用の領域に表示された画像を、レンズを介してステレオカメラで撮影した結果を示している。表示対象はチェッカーパターンとする。左列の観測画像は当該チェッカーパターンをそのまま表示させた場合であり、レンズによって糸巻き状の歪みが観測される。中列は比較のため、設計値に基づく歪みパラメータを用いて歪ませた表示画像の観測結果であるが、レンズ倒れなど組み立て上の誤差が考慮されず、パターンの外縁部においていくらかの歪みが生じている。
右列は、本実施の形態のキャリブレーションにより取得した歪みパラメータを用いて歪ませた表示画像の観測結果であり、設計値に基づく補正結果と比較して外縁部の歪みが抑えられ、全体的に歪みの少ない画像となっている。図20は、比較のためにグレイコードの結果のみを用いて補正した結果を示している。左の観測画像96は、グレイコードのパターンのうちの1つをそのまま表示させた画像の観測結果である。右の観測画像98は、グレイコードのみによりキャリブレーションを行った結果、得られた歪みパラメータを用いて表示画像を補正した結果であるが、ストライプの歪みが除去しきれていない。
これは上述のとおり、グレイコード法による処理ではモアレの発生などにより、取得する観測座標に誤差が生じるためである。図19に示した本実施の形態による補正の結果と比較すると、位相シフト法を組み合わせることにより歪みパラメータの精度が向上することが明らかである。
図21は、本実施の形態によってキャリブレーションを実施した結果の別の例を示している。この例は図19と同様、ヘッドマウントディスプレイの左目用、右目用の領域に表示された画像を、レンズを介してステレオカメラで撮影した結果を示している。ただし右のレンズがホルダから外れ、レンズとディスプレイが正対していない状態の結果である。左端列は補正前の観測画像であり、レンズによって歪みが観測される。
中列の3つは、赤、緑、青の成分を、本実施の形態を用いてそれぞれに対し取得した歪みパラメータで補正した表示画像の観測結果である。どの色についても、レンズの姿勢に関わらず、同様に歪みの少ない画像が観測される。このようにして撮影された歪みのないステレオ画像を、レンズの姿勢などに基づき平行化すると、右端列のような、エピポーラ線にずれの少ないステレオ画像が得られる。
以上述べた本実施の形態によれば、光学系を含む表示装置において、歪みのない画像が視認されるように表示画像を歪ませておくために用いる歪みパラメータを、キャリブレーション用のパターンを表示させた画像を実際に撮影することにより取得する。具体的には、表示パネルの画面上の位置座標と、撮影された観測画像上の位置座標との対応関係を取得し、対応する点群が双方で直線状になるように補正パラメータを最適化する。これにより、レンズが組み付けられた状態でのキャリブレーションが可能になり、ユーザが実際に視認する状態での最適条件を保証できる。また、二平面での対応点の直線性に着目するため、レンズ歪みの要素に焦点を当てた効率的なキャリブレーションを行える。
対応する位置座標の特定においては、複数系統のキャリブレーション用パターン群を用いてそれぞれに対応関係を取得し、それらを統合することにより歪みパラメータの精度を高める。例えば位置座標の絶対値の対応が得られるグレイコードのパターン系列を用いた結果と、対応関係の変化の様子が細かい粒度で得られる、正弦波の位相シフトパターン系列を用いた結果を統合することにより、位置座標の絶対値の対応を細かい粒度で得ることができる。これにより、最終的に取得する歪みパラメータの精度も向上させることができる。
以上、本発明を実施の形態をもとに説明した。上記実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
例えば本実施の形態で得られた歪みパラメータは、キャリブレーション対象のヘッドマウントディスプレイやプロジェクタが備えるメモリに格納し、運用時の表示画像の補正に利用するのに限らない。例えばそれらの表示装置の製造時に歪みパラメータを取得し、正常値の範囲を逸脱している場合は、不良品として出荷対象から外すなどの検品技術にも利用できる。本実施の形態のキャリブレーションによれば、表示パネルとレンズを組み付けた状態でのパラメータが得られるため、組み付け作業において生じた不良を、歪みパラメータを評価値として高精度に検出できる。
8 キャリブレーションシステム、 10 キャリブレーション装置、 12 表示装置、 14 撮像装置、 40 表示制御部、 42 キャリブレーション用パターン記憶部、 44 対応情報記憶部、 46 歪みパラメータ記憶部、 48 撮影制御部、 50 観測画像取得部、 52 対応情報取得部、 54 パラメータ取得部。
Claims (12)
- 表示パネルと、当該表示パネルに表示された画像を透過させるレンズと、を備えた表示装置のキャリブレーションを行うキャリブレーション装置であって、
前記表示パネルに表示させたキャリブレーション用パターンの像が前記レンズを透過してなる像を撮影した観測画像を取得する観測画像取得部と、
前記観測画像における位置座標と、前記表示パネルの画面における位置座標との対応関係を取得する対応情報取得部と、
前記対応関係に基づき、前記表示パネルに表示させる画像の補正に用いるパラメータを取得するパラメータ取得部と、
を備えたことを特徴とするキャリブレーション装置。 - 前記キャリブレーション用パターンの表示画像を時間変化させる表示制御部をさらに備え、
前記対応情報取得部は、前記観測画像の複数の位置における輝度の時間変化に基づき、前記対応関係を取得することを特徴とする請求項1に記載のキャリブレーション装置。 - 前記観測画像取得部は、複数系統の前記キャリブレーション用パターンの前記観測画像を取得し、
前記観測画像取得部は、前記複数系統のそれぞれについて前記対応関係を取得したうえ、その結果を統合することにより最終的な前記対応関係を取得することを特徴とする請求項1または2に記載のキャリブレーション装置。 - 前記表示制御部は、前記表示画像において所定サイズの領域ごとに異なるパターンで輝度を時間変化させ、
前記対応情報取得部は、前記観測画像の複数の位置における輝度の時間変化に基づき、前記所定サイズの領域の単位で前記画面における位置座標と対応づけることを特徴とする請求項2に記載のキャリブレーション装置。 - 前記表示制御部はさらに、前記表示画像の所定方向における輝度の変化がなす正弦波形の位相を時間変化させ、
前記対応情報取得部は、前記観測画像の複数の位置における輝度の時間変化に基づき当該位置の位相を取得することにより、前記画面上での位相と対応づけたうえ、前記所定サイズの領域の単位で対応づけられた前記画面における位置座標の情報と統合することにより、最終的な前記対応関係を取得することを特徴とする請求項4に記載のキャリブレーション装置。 - 前記対応情報取得部は、前記位相に基づく対応関係を前記観測画像の平面に対し表したマップの形状と、前記所定サイズの領域の単位での対応関係を前記観測画像の平面に対し表したマップの形状との差に係る評価値に基づき求めたアフィン変換パラメータにより、前記位相に基づく対応関係を表したマップの形状を変換することにより、前記最終的な対応関係を取得することを特徴とする請求項5に記載のキャリブレーション装置。
- 前記パラメータ取得部は、前記観測画像において直線をなす位置座標群に対応する、前記画面における位置座標群を取得し、当該位置座標群が直線をなす方向に補正される前記パラメータを取得することを特徴とする請求項1から6のいずれかに記載のキャリブレーション装置。
- 前記パラメータ取得部は、前記画面における位置座標群から抽出した3点ごとのサンプリング点の間の傾きの差の総和を評価値として、非線形最適化アルゴリズムにより前記パラメータを取得することを特徴とする請求項7に記載のキャリブレーション装置。
- 前記観測画像取得部は、前記表示パネルの原色のそれぞれの色で表された前記キャリブレーション用パターンの前記観測画像を取得し、
前記パラメータ取得部は、色ごとに前記パラメータを取得することを特徴とする請求項1から8のいずれかに記載のキャリブレーション装置。 - 請求項1から9のいずれかに記載のキャリブレーション装置と、
前記キャリブレーション装置の制御により前記観測画像を撮影する撮像装置と、
を含むことを特徴とするキャリブレーションシステム。 - 表示パネルと、当該表示パネルに表示された画像を透過させるレンズと、を備えた表示装置のキャリブレーションを行うキャリブレーション装置が、
前記表示パネルに表示させたキャリブレーション用パターンの像が前記レンズを透過してなる像を撮影した観測画像を取得するステップと、
前記観測画像における位置座標と、前記表示パネルの画面における位置座標との対応関係を取得するステップと、
前記対応関係に基づき、前記表示パネルに表示させる画像の補正に用いるパラメータを取得するステップと、
を含むことを特徴とする表示装置のキャリブレーション方法。 - 表示パネルと、当該表示パネルに表示された画像を透過させるレンズと、を備えた表示装置のキャリブレーションを行うコンピュータに、
前記表示パネルに表示させたキャリブレーション用パターンの像が前記レンズを透過してなる像を撮影した観測画像を取得する機能と、
前記観測画像における位置座標と、前記表示パネルの画面における位置座標との対応関係を取得する機能と、
前記対応関係に基づき、前記表示パネルに表示させる画像の補正に用いるパラメータを取得する機能と、
を実現させることを特徴とするコンピュータプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019084447A JP2020182127A (ja) | 2019-04-25 | 2019-04-25 | キャリブレーション装置、キャリブレーションシステム、および表示装置のキャリブレーション方法 |
CN202010303961.5A CN111857623A (zh) | 2019-04-25 | 2020-04-17 | 校准设备、校准***和显示设备校准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019084447A JP2020182127A (ja) | 2019-04-25 | 2019-04-25 | キャリブレーション装置、キャリブレーションシステム、および表示装置のキャリブレーション方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020182127A true JP2020182127A (ja) | 2020-11-05 |
Family
ID=72985038
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019084447A Pending JP2020182127A (ja) | 2019-04-25 | 2019-04-25 | キャリブレーション装置、キャリブレーションシステム、および表示装置のキャリブレーション方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2020182127A (ja) |
CN (1) | CN111857623A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230137199A1 (en) * | 2021-10-28 | 2023-05-04 | Samsung Electronics Co., Ltd. | System and method for optical calibration of a head-mounted display |
WO2024057930A1 (ja) * | 2022-09-16 | 2024-03-21 | パナソニックIpマネジメント株式会社 | 補正方法、測定方法およびヘッドマウントディスプレイシステム |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011188083A (ja) * | 2010-03-05 | 2011-09-22 | Sony Corp | 情報処理装置、情報処理方法、プログラム、及び光学顕微鏡を搭載した撮像装置 |
US8704895B2 (en) * | 2011-08-29 | 2014-04-22 | Qualcomm Incorporated | Fast calibration of displays using spectral-based colorimetrically calibrated multicolor camera |
WO2017043126A1 (ja) * | 2015-09-07 | 2017-03-16 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理システム、情報処理装置、出力装置、プログラム及び記録媒体 |
WO2019049331A1 (ja) * | 2017-09-08 | 2019-03-14 | 株式会社ソニー・インタラクティブエンタテインメント | キャリブレーション装置、キャリブレーションシステム、およびキャリブレーション方法 |
-
2019
- 2019-04-25 JP JP2019084447A patent/JP2020182127A/ja active Pending
-
2020
- 2020-04-17 CN CN202010303961.5A patent/CN111857623A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230137199A1 (en) * | 2021-10-28 | 2023-05-04 | Samsung Electronics Co., Ltd. | System and method for optical calibration of a head-mounted display |
US11900845B2 (en) * | 2021-10-28 | 2024-02-13 | Samsung Electronics Co., Ltd. | System and method for optical calibration of a head-mounted display |
WO2024057930A1 (ja) * | 2022-09-16 | 2024-03-21 | パナソニックIpマネジメント株式会社 | 補正方法、測定方法およびヘッドマウントディスプレイシステム |
Also Published As
Publication number | Publication date |
---|---|
CN111857623A (zh) | 2020-10-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6569742B2 (ja) | 投影システム、画像処理装置、投影方法およびプログラム | |
TWI253006B (en) | Image processing system, projector, information storage medium, and image processing method | |
JP6363863B2 (ja) | 情報処理装置および情報処理方法 | |
WO2006100991A1 (en) | Method of and apparatus for automatically adjusting alignement of a projector with respect to a projection screen | |
TWI484283B (zh) | 影像計算量測方法、影像計算量測裝置及影像檢查裝置 | |
KR101053506B1 (ko) | 어안 렌즈를 구비하는 카메라 모듈에 의해 획득된 영상의 왜곡 보정을 위한 파라미터 조정 방법 | |
JPWO2018235163A1 (ja) | キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法 | |
JP2015128242A (ja) | 画像投影装置及びそのキャリブレーション方法 | |
JP2015060012A (ja) | 画像処理システム、画像処理装置、画像処理方法および画像処理プログラム、ならびに、表示システム | |
JP6115214B2 (ja) | パターン処理装置、パターン処理方法、パターン処理プログラム | |
CN111031311B (zh) | 成像质量检测方法、装置、电子设备及可读存储介质 | |
CN109474814A (zh) | 投影仪的二维校准方法、投影仪以及校准*** | |
US11714278B2 (en) | Method and system for calibrating a wearable heads-up display to produce aligned virtual images in an eye space | |
KR20170073675A (ko) | Led 디스플레이에 이용되는 영상 처리 방법 및 장치 | |
JP2019220887A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2020182127A (ja) | キャリブレーション装置、キャリブレーションシステム、および表示装置のキャリブレーション方法 | |
KR102160340B1 (ko) | 이동하는 물체의 3차원 데이터를 생성하는 방법 및 장치 | |
JP2008180602A (ja) | 検査装置、検査方法、検査プログラムおよびコンピュータ読み取り可能な記録媒体 | |
JP2014178141A (ja) | キャリブレーションシステム、およびキャリブレーション方法 | |
JP2004133919A (ja) | 擬似3次元画像生成装置および生成方法並びにそのためのプログラムおよび記録媒体 | |
JP2006101025A (ja) | 撮影装置、撮影装置の画像処理方法及びプログラム | |
JP5906139B2 (ja) | 補正装置、そのプログラム及び立体撮像システム | |
Tehrani et al. | A practical method for fully automatic intrinsic camera calibration using directionally encoded light | |
JP2021127998A (ja) | 距離情報取得装置および距離情報取得方法 | |
JP2009217174A (ja) | 映像表示システムの調整装置、調整方法、幾何情報取得方法、及びプログラム |