JP5313187B2 - 立体画像補正装置および立体画像補正方法 - Google Patents
立体画像補正装置および立体画像補正方法 Download PDFInfo
- Publication number
- JP5313187B2 JP5313187B2 JP2010022286A JP2010022286A JP5313187B2 JP 5313187 B2 JP5313187 B2 JP 5313187B2 JP 2010022286 A JP2010022286 A JP 2010022286A JP 2010022286 A JP2010022286 A JP 2010022286A JP 5313187 B2 JP5313187 B2 JP 5313187B2
- Authority
- JP
- Japan
- Prior art keywords
- lens
- image
- information
- image quality
- display system
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
また、それとともに、撮影装置に対する撮影系複眼レンズの配置位置と、表示装置に対する表示系複眼レンズの配置位置とは、互いに要素画像を正しく結像させる位置関係にあることが必要である。
また、複数の要素レンズにより構成された要素レンズブロックを複数接合して構成した撮影用複眼レンズを用いる立体画像撮影装置において、要素レンズブロックの接合部により欠けた要素画像を補間することによって、立体画像の画質劣化を防ぐ画像補間処理技術が知られている(例えば、特許文献2参照)。
上記特許文献2に記載された画像補間処理技術は、要素レンズブロックを単位として接合部により欠けた要素画像や、接合部のずれによって位置ずれを起こした要素画像を補間するものであり、この技術によっては、傷等によって中心位置を検出できない要素レンズに対応する要素画像を補間することができない。
[第1の実施の形態]
図1は、本発明の第1実施形態である立体画像補正装置を適用した立体画像撮影表示システムの概略のシステム構成を示す図である。同図に示すように、立体画像撮影表示システム1は、撮影装置100と、表示出力装置200と、立体画像補正装置300とを含む。
撮影系複眼レンズ110は、複数の要素レンズを二次元的に配列した要素レンズ配列である。各要素レンズは、平行光束を入射すると収束する作用を有する収束レンズであり、例えば凸レンズ、球面レンズである。撮影系複眼レンズ110は、各要素レンズを不図示のホルダで保持したり、光透過性を有する樹脂部材やガラス部材等により一体的に形成したりして構成される。撮影系複眼レンズ110は、例えばマイクロレンズアレイである。
撮像部120は、撮影系複眼レンズ110の各要素レンズを通してそれぞれ結像される被写体Sの実像を撮像して撮影画像情報を生成する。撮像部120は、例えばデジタルカメラ、放送用テレビカメラ、家庭用ビデオカメラである。なお、撮像部120が1個の要素レンズを通して結像される被写体像を撮像して得る画像を要素画像という。
撮影系レンズ位置情報は、撮影系複眼レンズ110における、二次元配列された各要素レンズのレンズ中心位置の二次元座標値である。二次元座標系の原点は、その二次元平面における撮影系複眼レンズ110の内側もしくは外側、または境界線上の任意の位置にある。
撮影系レンズ画質情報は、例えば、一定の輝度レベルの拡散光を撮影系複眼レンズ110の一方の面から照射して他方の面で得られる各要素レンズの輝度値である。または、撮影系レンズ画質情報は、例えば、要素レンズの傷、欠損、変形、要素レンズ自体の欠落、付着した塵埃や油等による汚れである物理的エラーの有無を示す情報や、物理的エラーがある場合は、当該要素レンズにおける物理的エラーの場所および範囲またはいずれか一方を示す情報である。
なお、撮影系レンズ情報記憶部130は、撮影系レンズ位置情報および撮影系レンズ画質情報またはいずれか一方の情報を外部から書き込むことによって更新可能である。
表示部210は、補正後画像情報の供給を受けてその画像を表示する表示装置であり、例えば、液晶ディスプレイ、有機EL(Electro−Luminescence、エレクトロ・ルミネッセンス)ディスプレイ、PDP(Plasma Display Panel、プラズマ・ディスプレイ・パネル)等の直視型のパネルディスプレイ、CRT(Cathode Ray Tube、陰極線管)ディスプレイ、投射型表示装置等である。
表示系複眼レンズ220は、撮影系複眼レンズ110と同一仕様の要素レンズ配列である。表示系複眼レンズ220は、撮影系複眼レンズ110と同様に、例えばマイクロレンズアレイである。なお、表示系複眼レンズ220は、ピンホールを二次元的に複数配列したピンホール群でも構成することができる。
表示系レンズ位置情報は、表示系複眼レンズ220における二次元配列された各要素レンズのレンズ中心位置の二次元座標値である。二次元座標系の原点は、その二次元平面における表示系複眼レンズ220の内側もしくは外側、または境界線上の任意の位置にある。
表示系レンズ画質情報は、例えば、一定の輝度レベルの拡散光を表示系複眼レンズ220の一方の面から照射して他方の面で得られる各要素レンズの輝度値である。または、表示系レンズ画質情報は、例えば、要素レンズの傷、欠損、変形、要素レンズ自体の欠落、付着した塵埃や油等による汚れである物理的エラーの有無を示す情報や、物理的エラーがある場合は、当該要素レンズにおける物理的エラーの場所および範囲またはいずれか一方を示す情報である。
なお、表示系レンズ情報記憶部230は、表示系レンズ位置情報および表示系レンズ画質情報またはいずれか一方の情報を外部から書き込むことによって更新可能である。
よって、表示系複眼レンズ220の要素レンズ22nの位置は、撮影系複眼レンズ110の要素レンズ21nの位置からδ(ボールド体)=(x’−x,y’−y)分の位置誤差がある。なお、“(ボールド体)”との記載は、その直前の文字がボールド体で表されることを示し、当該文字がベクトルを表わすことを示す。
表示系レンズ位置情報取得部330は、表示出力装置200の表示系レンズ情報記憶部230から表示系レンズ位置情報を読み出して取り込み、それを位置補正情報生成部350に供給する。表示系レンズ画質情報取得部340は、表示系レンズ情報記憶部230から表示系レンズ画質情報を読み出して取り込み、それを画質補正情報生成部370に供給する。
要素画像位置補正部360は、位置補正情報生成部350から供給された位置補正情報に基づいて、撮像部120から供給された補正前画像情報に含まれる要素画像の位置を補正し、この位置補正された画像情報を出力する。
要素画像画質補正部380は、要素画像位置補正部360から供給された位置補正された画像情報に含まれる要素画像の画質を、画質補正情報生成部370から供給された画質補正情報に基づいて補正し、これを補正後画像情報として出力する。
そして、図4(b)に示すように、要素画像位置補正部360は、位置補正情報に基づいて要素画像43nの位置を要素画像43n’の位置に補正する。つまり、要素画像43n’は、要素画像43nの位置から位置誤差δ(ボールド体)に相当する分だけ移動される。この状態において、要素画像43n’における一点43nG’から要素レンズ42nの中心を通る光軸42nJ’は、同図(a)の光軸42nJよりも光軸41nJに近づいた状態に補正される。
そして、要素画像画質補正部380は、要素画像位置補正部360から供給された位置補正された画像情報に含まれるn番目の要素画像の輝度値を、画質補正情報生成部370から供給された画質補正情報にしたがって調整する。つまり、要素画像画質補正部380は、撮影系のn番目の要素画像の輝度値を、画質補正情報であるレベル調整割合に基づいて変更する。
そして、要素画像画質補正部380は、画質補正情報生成部370が生成した要素画像複製コマンドにしたがって、要素画像位置補正部360から供給された位置補正された画像情報に含まれる複製先番号に対応する要素レンズの要素画像を、複製元番号に対応する要素レンズの要素画像で置換する。
そして、要素画像画質補正部380は、画質補正情報生成部370が生成した要素画像複製コマンドにしたがって、要素画像位置補正部360から供給された位置補正された画像情報に含まれる複製先番号に対応する要素レンズの要素画像について、複製元番号に対応する要素レンズの要素画像における物理的エラーの場所および範囲またはいずれか一方に該当する部分要素画像のみを複製する。
次に、ステップS2において、表示系レンズ位置情報取得部330は、表示出力装置200の表示系レンズ情報記憶部230から表示系レンズ位置情報を読み出して取り込み、これを位置補正情報生成部350に供給する。そして、表示系レンズ画質情報取得部340は、表示系レンズ情報記憶部230から表示系レンズ画質情報を読み出して取り込み、これを画質補正情報生成部370に供給する。
次に、ステップS4において、画質補正情報生成部370は、供給された撮影系レンズ画質情報と表示系レンズ画質情報とに基づいて、撮影系と表示系との間で対応する要素レンズの対それぞれについて、要素画像の画質を比較する。そして、画質補正情報生成部370は、要素画像位置補正部360から供給される位置補正された画像情報に含まれる要素画像の画質を表示系複眼レンズ220の画質を基準にして補正するための画質補正情報を生成し、これを要素画像画質補正部380に供給する。
ステップS12において、要素画像位置補正部360は、撮像部120から供給された補正前画像情報の1フレームを取り込み、この1フレーム分の補正前画像情報に含まれる要素画像の位置を位置補正情報に基づいて補正し、この位置補正された画像情報を出力する。
次に、ステップS13において、要素画像画質補正部380は、要素画像位置補正部360から出力された位置補正された画像情報を取り込み、これに含まれる要素画像の画質を画質補正情報に基づいて補正し、補正後画像情報として出力する。
立体画像撮影表示システム1において、撮影系複眼レンズ110と表示系複眼レンズ220とは、これらの製造時における成形の精度、経年変化、温度や湿度等の環境条件、機械的な圧力等によって位置誤差が生じ易いが、本実施形態によれば、容易に且つ高精度に位置を補正することができる。
図7は、第1実施形態の変形例である立体画像補正装置を適用した立体画像撮影表示システムの概略のシステム構成を示す図である。同図において、第1実施形態における構成と同一の構成のブロックについては同一の符号を付してその説明を省略する。同図に示すように、立体画像撮影表示システム1aは、撮影装置100と、表示出力装置200aと、中継装置400とを含む。
中継装置400は、撮影装置100から表示出力装置200aに対して補正前画像情報と撮影系レンズ位置情報と撮影系レンズ画質情報とを受け渡すための媒体としての機能を有する装置である。中継装置400は、例えば、磁気ハードディスク装置、DVDや光磁気ディスク等のディスク記録再生装置、VTR装置、USBメモリ等の可搬型の記憶媒体である。また、撮影装置100と表示出力装置200aとをネットワークを介して接続するようにした場合には、中継装置400はサーバ装置やゲートウェイ装置であってよい。
表示出力装置200aは、第1実施形態における表示出力装置200に立体画像補正装置300を含めた構成を有し、自装置内で立体画像の補正処理を実行する。
前述した第1実施形態では、撮影系レンズ位置情報および撮影系レンズ画質情報は予め撮影装置100に記憶され、表示系レンズ位置情報および表示系レンズ画質情報は予め表示出力装置200に記憶されていた。本発明の第2実施形態では、撮影系レンズ位置情報と、撮影系レンズ画質情報と、表示系レンズ位置情報と、表示系レンズ画質情報とを、撮影系複眼レンズおよび表示系複眼レンズの撮像画像から求める。
なお、本実施形態では、第1実施形態における構成と同一の構成のブロックについては同一の符号を付してその説明を省略する。
撮影装置100bは、第1実施形態における撮影装置100から撮影系レンズ情報記憶部130を除いた構成を有する。また、表示出力装置200bは、第1実施形態における表示出力装置200から表示系レンズ情報記憶部230を除いた構成を有する。
立体画像補正装置300bは、撮影装置100bから供給される補正前画像情報を受けて位置補正および画質補正を行い、補正後画像情報を生成して表示出力装置200bに供給する。
表示系レンズ画質情報演算部540は、表示系レンズ位置情報演算部520から供給された表示系複眼レンズ220の複眼レンズ画像情報を取り込んで画質補正情報生成部560に供給する。また、表示系レンズ画質情報演算部540は、表示系レンズ位置情報演算部520から供給された垂直サンプリング画像情報と水平サンプリング画像情報とに基づいて、表示系複眼レンズ220の要素レンズ画像における物理的エラーの場所および範囲を推定し、この推定結果を含めた表示系レンズ画質情報を画質補正情報生成部560に供給する。
なお、具体的な位置補正情報生成部550の位置補正情報の生成処理は、前述した第1実施形態における位置補正情報生成部350の処理と同様であるため、その詳細な説明を省略する。
なお、具体的な画質補正情報生成部560の位置補正情報の生成処理は、前述した第1実施形態における画質補正情報生成部560の処理と同様であるため、その詳細な説明を省略する。
要素画像画質補正部590は、要素画像位置補正部580から供給された位置補正された画像情報に含まれる要素画像の画質を、補正情報記憶部570から読み出した画質補正情報に基づいて補正し、これを補正後画像情報として出力する。
撮影系レンズ位置情報演算部510は、同図のように要素レンズ画像情報13を垂直方向に6等分に分割して垂直サンプリング画像情報v1〜v6を生成し、各垂直サンプリング画像の重心座標値を計算する。なお、サンプリング画像の重心座標値とは、当該サンプリング画像における画素値の重心の座標値である。
撮影系レンズ位置情報演算部510は、同図のように要素レンズ画像情報13を水平方向に6等分に分割して水平サンプリング画像情報h1〜h6を生成し、各水平サンプリング画像の重心座標値を計算する。
よって、撮影系レンズ位置情報演算部510は、垂直方向の中心位置算出許容範囲を例えばY(バー)±σyにすることにより、水平ンプリング画像情報h1〜h6から得られる中心位置のY座標を約68.3%の精度で求めることができる。
そして、撮影系レンズ位置情報演算部510は、水平方向の中心位置算出許容範囲以内にある重心のX座標値のみを用いて再度平均値を計算し、これを要素レンズの中心位置のX座標として検出する。このようにして検出することにより、要素レンズの中心位置のX座標値を、物理的エラーの影響を無くして求めることができる。
そして、撮影系レンズ位置情報演算部510は、垂直方向の中心位置算出許容範囲以内にある重心のY座標値のみを用いて再度平均値を計算し、これを要素レンズの中心位置のY座標として検出する。このようにして検出することにより、要素レンズの中心位置のY座標値を、物理的エラーの影響を無くして求めることができる。
図17は、要素レンズのみに係る重複画像領域が検出された様子を模式的に示す図である。同図に示すように、撮影系レンズ画質情報演算部530は、記憶されたエラー含有垂直サンプリング画像情報およびエラー含有水平サンプリング画像情報を読み出して、これらが重複して且つ要素レンズ以外の画像情報を除外した画像領域15cを検出する。これにより、例えば、撮影系複眼レンズ110の要素レンズ配列が俵積み状配列である場合、要素レンズ間の隙間および隣接する要素レンズの影響を抑えて、中心位置の検出精度をさらに向上させることができる。
一方、ステップ53において、撮影系レンズ画質情報演算部530は、現在選択されている要素レンズ画像情報には物理的エラーはないとの推定結果を取得する。
そして、ステップS54において、撮影系レンズ画質情報演算部530は、推定値を撮影系レンズ画質情報として画質補正情報生成部560に供給する。
第2実施形態では、撮影系レンズ位置情報演算部510が複眼レンズ属性情報を予め記憶しており、取り込んだ複眼レンズ画像情報から測定対象複眼レンズ830の全体画像を抽出し、その全体画像と複眼レンズ属性情報とに基づいて各要素レンズの中心位置と直径と要素レンズ間のピッチとを計算する例について説明した。第2実施形態の変形例は、各要素レンズの中心位置を求める別の例である。
本発明の第3実施形態は、物理的エラーのある要素画像をエラーの種類や程度に応じて補間する例である。測定対象複眼レンズ830の要素レンズによって得られる要素画像の画質を劣化させる要因には、主に、前述したとおり、要素レンズの傷、欠損、変形、要素レンズ自体の欠落、または塵埃や油等による汚れ等によるものがある。要素レンズに比較的大きな傷、欠損、変形、または要素レンズの欠落がある場合(以下、“傷による重度欠陥”と呼ぶ。)、その要素レンズから得られる要素画像には傷による重度欠陥部分に対応する画像がない状態となる。一方、要素レンズに比較的小さな傷、欠損、または変形がある場合(以下、“傷による軽度欠陥”と呼ぶ。)、その要素レンズからは、通常よりも輝度レベルが低下した要素画像が得られる。
また、要素レンズに比較的広範囲の汚れが付着している場合(以下、“汚れによる重度欠陥”と呼ぶ。)は、その要素レンズからは、傷による重度欠陥と同様の要素画像が得られる。また、要素レンズに比較的少量の汚れが付着している場合(以下、“汚れによる軽度欠陥”と呼ぶ。)は、その要素レンズからは、傷による軽度欠陥と同様の要素画像が得られる。
ここで、傷による重度欠陥と汚れによる重度欠陥とを“重度欠陥”と呼び、傷による軽度欠陥と汚れによる軽度欠陥とを“軽度欠陥”と呼ぶ。重度欠陥と軽度欠陥とは、欠陥を含む要素画像の輝度値と所定の閾値との比較によって区分することができる。例えば、要素画像の輝度値が所定の閾値未満である場合、その要素画像には重度欠陥が含まれる。
具体的には、画質補正情報生成部560aは、物理的エラーの範囲を表わす位置情報(座標値の集合)と、当該物理的エラーを有する要素画像に隣接する要素レンズそれぞれにおいて上記物理的エラーの範囲に対応する位置情報とをパラメータとして有する画像補間コマンドを画質補正情報として生成する。
具体的には、画質補正情報生成部560aは、物理的エラーの範囲を表わす位置情報(座標値の集合)と、当該物理的エラーを有する要素画像に隣接する要素レンズそれぞれにおいて上記物理的エラーの範囲に対応する位置情報とをパラメータとして有する輝度補正コマンドを画質補正情報として生成する。
また、要素画像画質補正部590aは、補正情報記憶部570から画質補正情報を読出し、これが輝度補正コマンドである場合は、要素画像位置補正部580から供給される位置補正された画像情報から補間元の要素レンズ画像情報の輝度値を求めて平均値を計算し、補正対象の要素レンズ画像情報の輝度値をその平均値に合わせて変更する。
第3実施形態の変形例は、要素レンズ画像情報を用いた画像補間の別の例である。
[第1の変形例]
この変形例による画質補正情報生成部560aは、要素レンズ画像情報が重度欠陥であると識別した場合、当該要素レンズ画像情報に対応する要素レンズの番号をパラメータとして有する画像補間コマンドを画質補正情報として生成して補正情報記憶部570に記憶する。
要素画像画質補正部590aは、要素画像位置補正部580から供給された位置補正された画像情報に基づいて被写体Sの三次元モデルデータを生成する。この三次元モデルデータは、被写体Sの形状やテクスチャを三次元座標値に関連付けて保持するデータである。そして、要素画像画質補正部590aは、補正情報記憶部570から画質補正情報を読み出して、パラメータである要素レンズの番号に対応する要素レンズ画像情報を検出し、生成した三次元モデルデータに基づいて、その重度欠陥を有する要素レンズの位置に仮想要素レンズを設けた場合に得られる要素画像をレンダリングする処理を行う。そして、要素画像画質補正部590aは、このようにして生成した要素画像を補間画像とする。
この変形例による画質補正情報生成部560aは、要素レンズ画像情報が軽度欠陥と重度欠陥とのいずれにおいても、要素レンズ画像情報に対応する要素レンズの番号をパラメータとして有する画像補間コマンドを画質補正情報として生成して補正情報記憶部570に記憶する。
要素画像画質補正部590aは、要素画像位置補正部580から供給された位置補正された画像情報を、仮想複眼レンズを通して被写体Sの被写体像SIである立体像を再現する。そして、要素画像画質補正部590aは、補正情報記憶部570から画質補正情報を読み出し、パラメータである要素レンズの番号に対応する仮想要素レンズをマスクした仮想複眼レンズを設け、再現した立体像をこの仮想複眼レンズに通して補正後画像情報を生成する。
前述した第2実施形態では、撮像装置840が測定対象複眼レンズ830の全体画像を撮像してその撮像データである複眼レンズ画像情報を立体画像補正装置300bに供給する例について説明した。本発明の第4実施形態では、撮像装置が測定対象複眼レンズの1個の要素レンズを被写体としてとらえて撮像し、その撮像データである要素レンズ画像情報を立体画像補正装置に供給する例について説明する。
前述した第4実施形態では、撮像装置840aが測定対象複眼レンズ830の1個の要素レンズを被写体としてとらえて撮像し、その撮像データである要素レンズ画像情報を立体画像補正装置300dに供給する例について説明した。本発明の第5実施形態では、複数の撮像装置が測定対象複眼レンズを撮像し、各撮像装置の撮像データを姿勢制御記録装置で管理して立体画像補正装置に供給する例について説明する。
同図(a)の場合には、位置調整装置群850bは、要素レンズ配列25aの垂直方向および水平方向それぞれに2つおきとなる要素レンズが画像中心となるように、撮像装置群840bに含まれる第1〜第4のカメラ装置の位置を調整する。
同図(b)の場合には、位置調整装置群850bは、要素レンズ配列25bの垂直方向および水平方向それぞれに1つおきとなる要素レンズが画像中心となるように、撮像装置群840bに含まれる第1〜第4のカメラ装置の位置を調整する。
上述した各実施形態は、撮影系レンズ位置情報演算部510および表示系レンズ位置情報演算部520が、測定対象複眼レンズ830に含まれる各要素レンズ画像の中心位置を検出する際に、要素レンズ画像ごとに中心位置算出許容範囲を設定し、その範囲外に重心位置があるサンプリング画像情報を除外して中心位置を検出する例である。この方法以外に、以下のようにして中心位置算出許容範囲を設定してもよい。
次に、各行におけるY座標平均値の標準偏差σyと各列におけるX座標平均値の標準偏差σxとをそれぞれ求め、垂直方向の中心位置算出許容範囲をY座標平均値±標準偏差σy、水平方向の中心位置算出許容範囲をX座標平均値±標準偏差σxとする。
また、撮影系レンズ画質情報演算部530および表示系レンズ画質情報演算部540は、2方向だけでなく3方向以上のサンプリング画像情報を用いて中心位置を検出するようにしてもよい。例えば、第1から第3までの方向それぞれについて6分割したサンプリング画像情報を生成する。そして、これらのサンプリング画像情報を用いて要素レンズ画像情報の中心位置を検出する場合、第1から第3までの各方向のサンプリング画像によって求められた6個の中心位置から、例えば最小二乗和が最も小さくなる近似直線を各方向において求め、これら求めた3つの直線の交点から等しい距離にある点を求めて、この求めた点を要素レンズ画像情報の中心位置として検出する。このとき、一方向の近似直線を求める際に求めた距離が所定の閾値を超える場合のサンプリング画像を除外して再度近似直線を求めるようにすれば、更に測定精度を向上させることができる。
このようにサンプリング画像の画像領域を重複させることにより、要素レンズ画像の中心部付近における検出精度を向上させることができる。
8,8a,8b 補正情報生成システム
100,100b 撮影装置
110 撮影系複眼レンズ
120 撮像部
130 撮影系レンズ情報記憶部
200,200a,200b 表示出力装置
210 表示部
220 表示系複眼レンズ
230 表示系レンズ情報記憶部
300,300b,300c,300d,300e 立体画像補正装置
310 撮影系レンズ位置情報取得部
320 撮影系レンズ画質情報取得部
330 表示系レンズ位置情報取得部
340 表示系レンズ画質情報取得部
350,550 位置補正情報生成部
360,580 要素画像位置補正部
370,560,560a 画質補正情報生成部
380,590,590a 要素画像画質補正部
400 中継装置
510 撮影系レンズ位置情報演算部
520 表示系レンズ位置情報演算部
530 撮影系レンズ画質情報演算部
540 表示系レンズ画質情報演算部
570 補正情報記憶部
810 光源部
820 ディフューザ
830 測定対象複眼レンズ
840,840a,840b 撮像装置
850,850a 位置調整装置
850b 位置調整装置群
860 レーザ光射出部
860b レーザ光射出部群
870 支持部
880 姿勢制御記録装置
S 被写体
SI 被写体像
Claims (6)
- 撮影系複眼レンズに含まれる複数の要素レンズそれぞれの位置情報である撮影系レンズ位置情報を取得する撮影系レンズ位置情報取得部と、
前記複数の要素レンズそれぞれに対応する要素画像の画質に関する情報である撮影系レンズ画質情報を取得する撮影系レンズ画質情報取得部と、
表示系複眼レンズに含まれる複数の要素レンズそれぞれの位置情報である表示系レンズ位置情報を取得する表示系レンズ位置情報取得部と、
前記複数の要素レンズそれぞれに対応する要素画像の画質に関する情報である表示系レンズ画質情報を取得する表示系レンズ画質情報取得部と、
前記撮影系レンズ位置情報取得部が取得した撮影系レンズ位置情報と前記表示系レンズ位置情報取得部が取得した表示系レンズ位置情報とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対における位置誤差を計算し、この位置誤差に基づいて位置補正量データを生成する位置補正情報生成部と、
前記位置補正情報生成部が生成した位置補正量データに基づいて、前記表示系複眼レンズの要素レンズの位置を基準に、補正前画像に含まれる要素画像の位置を補正する要素画像位置補正部と、
前記撮影系レンズ画質情報取得部が取得した撮影系レンズ画質情報と前記表示系レンズ画質情報取得部が取得した表示系レンズ画質情報とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対それぞれについて要素画像の画質を比較し、その比較結果に基づいて画質補正情報を生成する画質補正情報生成部と、
前記画質補正情報生成部が生成した画質補正情報に基づいて、前記表示系複眼レンズの要素レンズに対応する要素画像の画質を基準に、前記位置補正した要素画像の画質を補正する要素画像画質補正部と、
を備えることを特徴とする立体画像補正装置。 - 撮影系複眼レンズが撮像された撮影系複眼レンズ画像の供給を受けて、その撮影系複眼レンズ画像から要素レンズ画像を抽出して前記要素レンズ画像の中心位置を検出する撮影系レンズ位置情報演算部と、
前記撮影系レンズ位置情報演算部が抽出した要素レンズ画像から、要素画像の画質に関する情報である撮影系レンズ画質情報を生成する撮影系レンズ画質情報演算部と、
表示系複眼レンズが撮像された表示系複眼レンズ画像の供給を受けて、その表示系複眼レンズ画像から要素レンズ画像を抽出して前記要素レンズ画像の中心位置を検出する表示系レンズ位置情報演算部と、
前記表示系レンズ位置情報演算部が抽出した要素レンズ画像から、要素画像の画質に関する情報である表示系レンズ画質情報を生成する表示系レンズ画質情報演算部と、
前記撮影系レンズ位置情報演算部が検出した要素レンズ画像の中心位置と前記表示系レンズ位置情報演算部が検出した要素レンズ画像の中心位置とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対における位置誤差を計算し、この位置誤差に基づいて位置補正量データを生成する位置補正情報生成部と、
前記位置補正情報生成部が生成した位置補正量データに基づいて、前記表示系複眼レンズの要素レンズの位置を基準に、補正前画像に含まれる要素画像の位置を補正する要素画像位置補正部と、
前記撮影系レンズ画質情報演算部が生成した撮影系レンズ画質情報と前記表示系レンズ画質情報演算部が生成した表示系レンズ画質情報とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対ごとに要素画像の画質を比較し、その比較結果に基づいて画質補正情報を生成する画質補正情報生成部と、
前記画質補正情報生成部が生成した画質補正情報に基づいて、前記表示系複眼レンズの要素レンズに対応する要素画像の画質を基準に、前記位置補正した要素画像の画質を補正する要素画像画質補正部と、
を備えることを特徴とする立体画像補正装置。 - 請求項1または2記載の立体画像補正装置において、
前記撮影系レンズ画質情報は、前記撮影系複眼レンズに含まれる要素レンズごとの物理的エラーの場所を示す情報を含むとともに、前記表示系レンズ画質情報は、前記表示系複眼レンズに含まれる要素レンズごとの物理的エラーの場所を示す情報を含み、
前記画質補正情報生成部は、前記撮影系レンズ画質情報と前記表示系レンズ画質情報とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対それぞれについて要素画像の物理的エラーの場所を比較し、その比較結果に基づいて画質補正情報を生成する
ことを特徴とする立体画像補正装置。 - 撮影系複眼レンズが撮像された撮影系複眼レンズ画像の供給を受けて、その撮影系複眼レンズ画像から要素レンズ画像を抽出し、この要素レンズ画像から互いに方向の異なる少なくとも2方向のサンプリング画像を生成し、これらサンプリング画像に基づいて物理的エラーの有無を推定するとともに要素レンズ画像の中心位置を検出する撮影系レンズ位置情報演算部と、
物理的エラーが有ると前記撮影系レンズ位置情報演算部が判定した場合に、前記生成した各サンプリング画像に基づいて前記物理的エラーの場所を推定し、要素画像の画質に関する情報である撮影系レンズ画質情報を生成する撮影系レンズ画質情報演算部と、
表示系複眼レンズが撮像された表示系複眼レンズ画像の供給を受けて、その表示系複眼レンズ画像から要素レンズ画像を抽出し、この要素レンズ画像から互いに方向の異なる少なくとも2方向のサンプリング画像を生成し、これらサンプリング画像に基づいて物理的エラーの有無を推定するとともに要素レンズ画像の中心位置を検出する表示系レンズ位置情報演算部と、
物理的エラーが有ると前記表示系レンズ位置情報演算部が判定した場合に、前記生成した各サンプリング画像に基づいて前記物理的エラーの場所を推定し、要素画像の画質に関する情報である表示系レンズ画質情報を生成する表示系レンズ画質情報演算部と、
前記撮影系レンズ位置情報演算部が検出した要素レンズ画像の中心位置と前記表示系レンズ位置情報演算部が検出した要素レンズ画像の中心位置とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対における位置誤差を計算し、この位置誤差に基づいて位置補正量データを生成する位置補正情報生成部と、
前記位置補正情報生成部が生成した位置補正量データに基づいて、前記表示系複眼レンズの要素レンズの位置を基準に、補正前画像に含まれる要素画像の位置を補正する要素画像位置補正部と、
前記撮影系レンズ画質情報演算部が推定した撮影系レンズ画質情報と前記表示系レンズ画質情報演算部が推定した表示系レンズ画質情報とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対それぞれについて要素画像の画質を比較し、その比較結果に基づいて画質補正情報を生成する画質補正情報生成部と、
前記画質補正情報生成部が生成した画質補正情報に基づいて、前記表示系複眼レンズの要素レンズに対応する要素画像の画質を基準に、前記位置補正した要素画像の画質を補正する要素画像画質補正部と、
を備えることを特徴とする立体画像補正装置。 - 請求項4記載の立体画像補正装置において、
前記撮影系レンズ位置情報演算部と前記表示系レンズ位置情報演算部とのそれぞれは、
物理的エラーが無いと推定されたサンプリング画像のみを用いて要素レンズ画像の中心位置を検出することを特徴とする立体画像補正装置。 - 撮影系複眼レンズに含まれる複数の要素レンズそれぞれの位置情報である撮影系レンズ位置情報を取得する撮影系レンズ位置情報取得ステップと、
前記複数の要素レンズそれぞれに対応する要素画像の画質に関する情報である撮影系レンズ画質情報を取得する撮影系レンズ画質情報取得ステップと、
表示系複眼レンズに含まれる複数の要素レンズそれぞれの位置情報である表示系レンズ位置情報を取得する表示系レンズ位置情報取得ステップと、
前記複数の要素レンズそれぞれに対応する要素画像の画質に関する情報である表示系レンズ画質情報を取得する表示系レンズ画質情報取得ステップと、
前記撮影系レンズ位置情報取得ステップにおいて取得した撮影系レンズ位置情報と前記表示系レンズ位置情報取得ステップにおいて取得した表示系レンズ位置情報とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対における位置誤差を計算し、この位置誤差に基づいて位置補正量データを生成する位置補正情報生成ステップと、
前記位置補正情報生成ステップにおいて生成した位置補正量データに基づいて、前記表示系複眼レンズの要素レンズの位置を基準に、補正前画像に含まれる要素画像の位置を補正する要素画像位置補正ステップと、
前記撮影系レンズ画質情報取得ステップにおいて取得した撮影系レンズ画質情報と前記表示系レンズ画質情報取得ステップにおいて取得した表示系レンズ画質情報とに基づいて、前記撮影系複眼レンズと前記表示系複眼レンズとの間で対応する要素レンズの対それぞれについて要素画像の画質を比較し、その比較結果に基づいて画質補正情報を生成する画質補正情報生成ステップと、
前記画質補正情報生成ステップにおいて生成した画質補正情報に基づいて、前記表示系複眼レンズの要素レンズに対応する要素画像の画質を基準に、前記位置補正した要素画像の画質を補正する要素画像画質補正ステップと、
を有することを特徴とする立体画像補正方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010022286A JP5313187B2 (ja) | 2010-02-03 | 2010-02-03 | 立体画像補正装置および立体画像補正方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010022286A JP5313187B2 (ja) | 2010-02-03 | 2010-02-03 | 立体画像補正装置および立体画像補正方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011160344A JP2011160344A (ja) | 2011-08-18 |
JP5313187B2 true JP5313187B2 (ja) | 2013-10-09 |
Family
ID=44591889
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010022286A Expired - Fee Related JP5313187B2 (ja) | 2010-02-03 | 2010-02-03 | 立体画像補正装置および立体画像補正方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5313187B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013117684A (ja) * | 2011-12-05 | 2013-06-13 | Nippon Hoso Kyokai <Nhk> | 立体画像撮影装置および立体画像表示装置 |
JP5948059B2 (ja) * | 2012-01-10 | 2016-07-06 | 日本放送協会 | 立体画像撮影装置および立体画像表示装置 |
JP5852465B2 (ja) * | 2012-02-15 | 2016-02-03 | 日本放送協会 | 空間情報補間装置およびそのプログラム |
JP6223226B2 (ja) * | 2014-02-25 | 2017-11-01 | 日本放送協会 | カメラパラメータ算出装置及びそのプログラム |
JP2015185998A (ja) | 2014-03-24 | 2015-10-22 | 株式会社東芝 | 画像処理方法および撮像装置 |
JP7086273B2 (ja) * | 2019-03-28 | 2022-06-17 | 三菱電機株式会社 | 空中映像表示装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000244823A (ja) * | 1999-02-24 | 2000-09-08 | Fuji Photo Film Co Ltd | 撮像素子の欠陥画素補正装置 |
JP4272464B2 (ja) * | 2003-05-02 | 2009-06-03 | 日本放送協会 | 立体映像補正装置およびその方法 |
-
2010
- 2010-02-03 JP JP2010022286A patent/JP5313187B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011160344A (ja) | 2011-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10319111B2 (en) | Image projection device for 3D measurement and calibration method for calibration of camera and projector | |
US7583307B2 (en) | Autostereoscopic display | |
US9369694B2 (en) | Adjusting stereo images | |
JP5313187B2 (ja) | 立体画像補正装置および立体画像補正方法 | |
US9781412B2 (en) | Calibration methods for thick lens model | |
JP6750183B2 (ja) | 画像距離算出装置、画像距離算出方法および画像距離算出用プログラム | |
JP5633058B1 (ja) | 3次元計測装置及び3次元計測方法 | |
CN109993798B (zh) | 多摄像头检测运动轨迹的方法、设备及存储介质 | |
JP2014178265A (ja) | 校正装置、方法及びプログラム | |
WO2011145285A1 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US10326894B1 (en) | Self stabilizing projector | |
JP2016024052A (ja) | 3次元計測システム、3次元計測方法及びプログラム | |
CN105306922A (zh) | 一种深度相机参考图的获取方法和装置 | |
KR102546346B1 (ko) | 전방위 카메라의 캘리브레이션을 위한 장치 및 방법 | |
US11284052B2 (en) | Method for automatically restoring a calibrated state of a projection system | |
CN110691228A (zh) | 基于三维变换的深度图像噪声标记方法、装置和存储介质 | |
CN108234994B (zh) | 一种人眼位置确定方法及装置 | |
WO2022126430A1 (zh) | 辅助对焦方法、装置及*** | |
JP5252703B2 (ja) | 立体映像表示装置、立体映像表示方法、及び立体映像表示プログラム | |
Ai et al. | A method for correcting non-linear geometric distortion in ultra-wide-angle imaging system | |
TW202121896A (zh) | 立體相機之校正品質的檢測方法及檢測系統 | |
JP5925109B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP6671589B2 (ja) | 3次元計測システム、3次元計測方法及び3次元計測プログラム | |
JP4695557B2 (ja) | 要素画像群補正装置、要素画像群取得システム、要素画像群補正方法及び要素画像群補正プログラム | |
JP6684454B2 (ja) | 画像処理装置及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120322 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130529 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130604 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130703 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 5313187 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |