JPWO2018179039A1 - カメラパラメータ推定装置、方法およびプログラム - Google Patents

カメラパラメータ推定装置、方法およびプログラム Download PDF

Info

Publication number
JPWO2018179039A1
JPWO2018179039A1 JP2019508340A JP2019508340A JPWO2018179039A1 JP WO2018179039 A1 JPWO2018179039 A1 JP WO2018179039A1 JP 2019508340 A JP2019508340 A JP 2019508340A JP 2019508340 A JP2019508340 A JP 2019508340A JP WO2018179039 A1 JPWO2018179039 A1 JP WO2018179039A1
Authority
JP
Japan
Prior art keywords
projection
image
camera
fisheye lens
lens camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019508340A
Other languages
English (en)
Other versions
JP6721111B2 (ja
Inventor
浩雄 池田
浩雄 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2018179039A1 publication Critical patent/JPWO2018179039A1/ja
Application granted granted Critical
Publication of JP6721111B2 publication Critical patent/JP6721111B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/12Panospheric to cylindrical image transformations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Abstract

投影画像生成部91は、魚眼レンズカメラにより撮像される画像に対し、魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する。表示部92は、複数の投影画像を表示する。選択受付部93は、表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける。射影方式決定部94は、選択された投影画像に基づいて射影方式を決定する。出力部95は、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する。

Description

本発明は、カメラパラメータ推定装置、カメラパラメータ推定方法およびカメラパラメータ推定プログラムに関し、特に、魚眼レンズカメラの内部パラメータを推定するカメラパラメータ推定装置、カメラパラメータ推定方法およびカメラパラメータ推定プログラムに関する。
魚眼レンズカメラの内部パラメータとは、カメラ光軸を基準とした3次元座標を示すカメラ座標系と画像上の2次元座標を示す画像座標系を変換できるパラメータであり、画像中心、撮像素子の歪み、レンズ歪み(すなわち、射影方式+関連パラメータ)を示すパラメータである。内部パラメータを用いることで、任意の座標系の点が分かると、各座標系の点に変換することができる。
魚眼レンズカメラの内部パラメータを推定する方法が、例えば、特許文献1に記載されている。特許文献1に記載された方法では、まず、3枚のチェスパターンが互いに直交する特殊な校正パターンを撮影する。次に、視野境界の楕円フィッティングと、射影方式の事前知識及び接線歪みなしの条件から内部パラメータを仮推定し、校正パターンの格子点を示す実空間上の点を外部パラメータと内部パラメータを用いて画像上に投影する。そして、投影された格子点の座標と画像から直接取得した格子点の座標の投影誤差を最小化することで、内部パラメータを推定する。
特開2007−192832号公報
一方、特許文献1に記載された推定方法にはいくつかの問題点が存在する。第一の問題点は、3次元位置の既知な点が存在する特殊な校正パターン、物体、空間などを撮影しないと内部パラメータを推定できず、推定が複雑になることである。その理由は、3次元位置である実空間上の点と画像上の点の対応から、外部パラメータと内部パラメータを同時に推定しながら、内部パラメータを推定しているためである。
第二の問題点は、推定したい魚眼レンズカメラに対し、内部パラメータのレンズ歪みを示す射影方式を事前に入手しておく必要があることである。その理由は、射影方式に基づいて、内部パラメータのレンズ歪みを示すパラメータの初期値、つまり、内部パラメータの初期値を決定しているためである。
そこで、本発明は、特殊な校正パターンや射影方式の前提知識を必要とせずに、内部パラメータを容易に推定できるカメラパラメータ推定装置、カメラパラメータ推定方法およびカメラパラメータ推定プログラムを提供することを目的とする。
本発明によるカメラパラメータ推定装置は、魚眼レンズカメラにより撮像される画像に対し、魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する投影画像生成部と、複数の投影画像を表示する表示部と、表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける選択受付部と、選択された投影画像に基づいて射影方式を決定する射影方式決定部と、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する出力部とを備えたことを特徴とする。
本発明によるカメラパラメータ推定方法は、魚眼レンズカメラにより撮像される画像に対し、魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成し、複数の投影画像を表示し、表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付け、選択された投影画像に基づいて射影方式を決定し、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力することを特徴とする。
本発明によるカメラパラメータ推定プログラムは、コンピュータに、魚眼レンズカメラにより撮像される画像に対し、魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する投影画像生成処理、複数の投影画像を表示装置に表示する表示処理、表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける選択受付処理、選択された投影画像に基づいて射影方式を決定する射影方式決定処理、および、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する出力処理を実行させることを特徴とする。
本発明によれば、特殊な校正パターンや射影方式の前提知識を必要とせずに、内部パラメータを容易に推定できる。
本発明によるカメラパラメータ推定装置の第1の実施形態の構成例を示すブロック図である。 内部パラメータの一部を取得する方法の一例を示す説明図である。 各座標系の関係を示す説明図である。 魚眼レンズカメラで撮影された画像から複数の射影方式により生成された画像の例を示す説明図である。 第1の実施形態のカメラパラメータ推定装置100の動作例を示すフローチャートである。 本発明によるカメラパラメータ推定装置の第2の実施形態の構成例を示すブロック図である。 最大入射角を算出する方法の例を説明する説明図である。 焦点距離を算出する方法の例を説明する説明図である。 第2の実施形態のカメラパラメータ推定装置200の動作例を示すフローチャートである。 本発明によるカメラパラメータ推定装置の第3の実施形態の構成例を示すブロック図である。 魚眼レンズカメラで撮像された画像にガイドを重畳した例を示す説明図である。 第3の実施形態のカメラパラメータ推定装置300の動作例を示すフローチャートである。 本発明によるカメラパラメータ推定装置の第4の実施形態の構成例を示すブロック図である。 平面チェスパターンを透視投影画像に戻した例を示す説明図である。 直線性を判断する処理の例を示す説明図である。 第4の実施形態のカメラパラメータ推定装置400の動作例を示すフローチャートである。 本発明によるカメラパラメータ推定装置の第5の実施形態の構成例を示すブロック図である。 直線と判断する箇所の指示を受け付ける例を示す説明図である。 第5の実施形態のカメラパラメータ推定装置500の動作例を示すフローチャートである。 本発明によるカメラパラメータ推定装置の概要を示すブロック図である。
以下、本発明の実施形態を図面を参照して説明する。
実施形態1.
図1は、本発明によるカメラパラメータ推定装置の第1の実施形態の構成例を示すブロック図である。本実施形態のカメラパラメータ推定装置100は、画像取得装置11と、楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、透視投影画像サイズ記憶手段15と、最大入射角記憶手段16と、射影方式選択手段17と、透視投影画像表示装置18と、射影方式指示手段19とを備えている。
画像取得装置11は、推定に用いられる画像を取得する。具体的には、画像取得装置11は、魚眼レンズで撮像された直線が含まれる風景画像を取得する。直線が含まれる風景画像として、例えば、ビル、電柱、机、柱、床のパターンなどを含む風景画像があげられる。
なお、取得される画像は、直線が含まれていれば、風景画像に限定されず、例えば、上記特許文献1に記載された特殊な格子パターンであってもよい。ただし、特殊な格子パターンを推定ごとに準備し、撮像することは煩雑であるが、本実施形態のカメラパラメータ推定装置100は、後述する処理により、特殊な格子パターンを用いなくても内部パラメータを容易に推定することが可能である。
画像取得装置11は、撮像手段(図示せず)によって撮像された画像を取得してもよく、任意の記憶部(図示せず)から画像を読み取ってもよく、通信ネットワーク網を介して画像を受信してもよい。
楕円推定手段12は、撮像された画像から、その画像を撮像した魚眼レンズの内部パラメータの一部を取得する。ここでは、楕円推定手段12は、撮像された画像から、画像中心(C,C)、撮像素子の歪みαおよび魚眼レンズの視界領域の半径Rを推定する。理論的には、魚眼レンズの視界領域は、半径Rの真円になる。
楕円推定手段12は、魚眼レンズカメラから得られた画像の視野境界に対して、例えば、楕円フィッティングを行い、内部パラメータの一部である画像中心(C,C)と撮像素子の歪みαを取得する。また、楕円推定手段12は、複数の典型的な射影方式のパラメータとして、視野境界が真円である場合の半径Rを取得する。ただし、半径Rを取得する方法は、楕円フィッティングに限定されない。
図2は、内部パラメータの一部を取得する方法の一例を示す説明図である。撮像された画像110は、画像の左上を原点とし、横軸方向をu、縦軸方向をvとする画像座標系で表すことができる。魚眼レンズで撮像された画像は楕円状になることから、長径および短径の長さをそれぞれ2aおよび2bとしたとき、その楕円は、画像中心(C,C)を用いて、以下の式1で表される。
Figure 2018179039
次に、魚眼レンズカメラの光軸を中心とする極座標系(以下、魚眼座標系と記す。)を考える。楕円推定手段12は、図2の画像120に示すように、視野境界が真円になるように戻すための内部パラメータを算出する。ここでは、楕円推定手段12は、短軸の長さ2bの半分の長さを真円の半径Rとするように内部パラメータを算出する。すなわち、R=bである。ただし、R=aとしてもよい。
魚眼座標系において、円の中心を原点とし、u´およびv´を直交座標としたとき、画像座標系の各点は、以下に示す式2を用いて、魚眼座標系の各点に変換できる。式2において、αは撮像素子の歪みであり、α=b/aで算出される。
Figure 2018179039
また、楕円推定手段12は、魚眼座標系における極座標を、以下に示す式3で算出する。
Figure 2018179039
rおよびRを算出することで、典型的な射影方式における入射角を算出することが可能である。以下の説明では、典型的な射影方式として4種類(等距離射影方式、正射影方式、立体射影方式および等立体角射影方式)を例示する。ただし、本実施形態のカメラパラメータ推定装置が用いる射影方式は、これら4種類に限定されない。
等距離射影方式における入射角θは、以下に示す式4で算出される。正射影方式における入射角θは、以下に示す式5で算出される。立体射影方式における入射角θは、以下に示す式6で算出される。等立体角射影方式における入射角θは、以下に示す式7で算出される。
Figure 2018179039
透視投影画像サイズ記憶手段15は、生成される透視投影画像のサイズsを記憶する。具体的には、透視投影画像サイズ記憶手段15は、画像の幅wと高さhで表されるサイズを記憶してもよい。生成される透視投影画像のサイズsは、ユーザ等により予め定められ、透視投影画像サイズ記憶手段15に記憶される。
最大入射角記憶手段16は、生成される透視投影画像で用いられる最大入射角を記憶する。本実施形態では、最大入射角θmaxは予め定められ、最大入射角記憶手段16に記憶されているものとする。
透視投影画像サイズ記憶手段15および最大入射角記憶手段16は、メモリや磁気ディスク等により実現される。
焦点距離算出手段14は、透視投影画像の生成に用いられる焦点距離を算出する。焦点距離f´は、魚眼レンズカメラの焦点から、魚眼レンズカメラで撮像された画像を一般的な画像(透視投影画像)として表示する平面(透視投影平面)までの距離である。
焦点距離算出手段14は、透視投影画像サイズ記憶手段15から透視投影画像のサイズsを取得する。具体的には、焦点距離算出手段14は、透視投影画像サイズ記憶手段15から幅wまたは高さhを取得する。ここで取得された値をsと記す。また、焦点距離算出手段14は、最大入射角記憶手段16から最大入射角θmaxを取得する。このとき、焦点距離算出手段14は、焦点距離f´を以下の式8により算出する。
f´=s/2tanθmax (式8)
透視投影画像生成手段13は、予め定めた射影方式ごとに、楕円推定手段12が取得した内部パラメータを用いて、カメラから焦点距離f´にある平面(透視投影平面)に透視投影することで得られる一般的な画像(すなわち、透視投影画像)を生成する。
具体的には、透視投影画像生成手段13は、複数の射影方式を適用して、複数の投影画像を生成する。なお、上述する射影方式では、魚眼レンズカメラにおける視界領域の半径が用いられる。また、魚眼レンズカメラにおける視界領域の半径Rは、楕円推定手段12によって撮像された画像から推定されている。そこで、透視投影画像生成手段13は、魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する。
図3は、各座標系の関係を示す説明図である。画像座標系で表された図3に例示する画像210の任意の点mは、上記式2および式3により、rおよびφで表される魚眼座標系の点m´に変換できる。また、魚眼座標系における点m´は、指定された射影方式に基づき入射角θを求めて射影変換することにより、カメラ座標系における仮想球面上の点pに変換できる。
仮想球面を半径1の球とし、入射角θ、方位角φとすると、仮想球面上の点pは、以下に示す式9で算出できる。
p=(λ,μ,ν)=(sinθcosφ,sinθsinφ,cosθ) (式9)
そして、カメラ座標系の点pから透視投影平面上の点(u´´´,v´´´)へは、以下に示す式10を用いて変換できる。式10におけるf´は、焦点距離算出手段14によって算出された焦点距離f´である。
Figure 2018179039
本実施形態では、透視投影画像生成手段13は、画像取得装置11が取得した画像(すなわち、魚眼レンズカメラにより撮像される画像)に対し、複数の射影方式を適用して複数の投影画像を生成する。
射影方式選択手段17は、生成された投影画像を透視投影画像表示装置18に表示する。透視投影画像表示装置18は、例えば、タッチパネルやディスプレイ装置により実現される。
図4は、魚眼レンズカメラで撮影された画像から複数の射影方式により生成された画像の例を示す説明図である。図4に示す例では、異なる射影方式で生成された画像間で、歪みの程度に違いがあることを示す。
射影方式選択手段17は、選択された透視投影画像に基づいて射影方式を決定する。透視投影画像の選択は、後述する射影方式指示手段19によって指示される。
そして、射影方式選択手段17は、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する。具体的には、射影方式選択手段17は、射影方式、並びに、射影方式に応じたパラメータ(半径R)、画像中心および撮像画素の歪みを表す内部パラメータを決定し、出力する。
射影方式指示手段19は、表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける。具体的には、ユーザが、複数の投影画像を参照し、最も直線性の高い直線を含む投影画像を判断すると、射影方式指示手段19が、ユーザの判断による投影画像の選択を受け付ける。
直線性が高いとは、直線と比較した場合のズレの小ささである。すなわち、直線と比較した場合のズレがより小さいほど直線性が高いと言える。適切な射影方式に基づいて変換された画像は、元の投影画像に近づくため、元の画像で直線を表している部分は、直線に近くなるように変換される。一方、異なる射影方式に基づいて変換された画像は、適切に変換を行えない結果、元の画像で直線を表している部分にも歪みが発生する。
このように、透視投影画像生成手段13が、複数の射影方式を適用して複数の投影画像を生成することで、ユーザが適切な画像を選択できる結果、適切な射影方式を決定することが可能になる。
射影方式指示手段19は、例えば、タッチパネルに表示された複数の投影画像のうち、指定された位置に存在する投影画像を射影方式選択手段17に通知してもよい。また、射影方式指示手段19は、ポインティングデバイスによって指定された位置に存在する投影画像を射影方式選択手段17に通知してもよい。
楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、射影方式選択手段17と、射影方式指示手段19とは、プログラム(カメラパラメータ推定プログラム)に従って動作するコンピュータのCPUによって実現される。
例えば、プログラムは、カメラパラメータ推定装置100が備える記憶部(図示せず)に記憶され、CPUは、そのプログラムを読み込み、プログラムに従って、楕円推定手段12、透視投影画像生成手段13、焦点距離算出手段14、射影方式選択手段17および射影方式指示手段19として動作してもよい。
また、楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、射影方式選択手段17と、射影方式指示手段19とは、それぞれが専用のハードウェアで実現されていてもよい。また、画像を撮影する魚眼カメラ自体が、いわゆるインテリジェントカメラとして機能し、これらの各手段を備えていてもよい。例えば、魚眼カメラが、画像取得装置11、楕円推定装置12および透視投影画像生成手段13(さらに、必要に応じて、焦点距離算出手段14、透視投影画像サイズ記憶手段15および最大入射角記憶手段16)を備えていてもよい。そして、魚眼カメラが、生成された透視投影画像を射影方式選択手段17に送信して、ユーザによる投影画像の選択を受け付けさせてもよい。
次に、本実施形態のカメラパラメータ推定装置100の動作例を説明する。図5は、第1の実施形態のカメラパラメータ推定装置100の動作例を示すフローチャートである。
画像取得装置11は、魚眼レンズカメラにより撮像される画像を取得する(ステップS11)。楕円推定手段12は、取得した画像から内部パラメータの一部を推定する(ステップS12)。具体的には、楕円推定手段12は、内部パラメータとして、画像中心、撮像素子の歪みおよび魚眼レンズカメラの視界領域の半径を推定する。
透視投影画像生成手段13は、取得した画像に対して複数の射影方式を適用することで、複数の投影画像を生成する(ステップS13)。射影方式選択手段17は、生成された投影画像を透視投影画像表示装置18に表示する(ステップS14)。射影方式指示手段19は、透視投影画像表示装置18に表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける(ステップS15)。射影方式選択手段17は、選択された投影画像に基づいて射影方式を決定する(ステップS16)。そして、射影方式選択手段17は、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する(ステップS17)。
以上のように、本実施形態では、透視投影画像生成手段13は、魚眼レンズカメラにより撮像される画像に対し、魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する。透視投影画像表示装置18は、複数の投影画像を表示し、射影方式指示手段19は、表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける。そして、射影方式選択手段17は、選択された投影画像に基づいて射影方式を決定し、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する。よって、特殊な校正パターンや射影方式の前提知識を必要とせずに、内部パラメータを容易に推定できる。
実施形態2.
次に、本発明によるカメラパラメータ推定装置の第2の実施形態を説明する。第1の実施形態では、射影方式指示手段19が、透視投影画像表示装置18に表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける。その際、ユーザは、複数の投影画像を参照し、最も直線性の高い直線を含む投影画像を判断する。
直線性の高い直線を含む投影画像を判断させるためには、ユーザが着目する直線を適切に表示できることが好ましい。そこで、本実施形態では、透視投影画像の範囲を調整できる構成を説明する。
図6は、本発明によるカメラパラメータ推定装置の第2の実施形態の構成例を示すブロック図である。本実施形態のカメラパラメータ推定装置200は、画像取得装置11と、楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、透視投影画像サイズ記憶手段15と、最大入射角記憶手段16と、射影方式選択手段17と、透視投影画像表示装置18と、射影方式指示手段19と、最大入射角算出手段21と、透視投影範囲入力装置22とを備えている。
すなわち、本実施形態のカメラパラメータ推定装置は、第1の実施形態のカメラパラメータ推定装置と比較し、最大入射角算出手段21と、透視投影範囲入力装置22とをさらに備えている。
透視投影範囲入力装置22は、取得した画像(すなわち、魚眼レンズカメラで撮像された画像)のうち、投影画像を生成する範囲を入力する。具体的には、透視投影範囲入力装置22は、ユーザから投影画像を生成する範囲の入力を受け付ける。
上記図3に示すように、透視投影画像は、取得された画像に対し最大入射角θmaxで決定される半径距離から画像中心までの範囲が拡大された画像である。ユーザが透視投影画像で直線の直線性を確認するためには、直線を大きく写す必要がある。そこで、取得した画像の中心からの距離(半径距離)を短くして、表示させる画像を拡大するため、透視投影範囲入力装置22は、画像中心からの半径距離を入力する。
範囲の指定方法は任意である。最大入射角算出手段21は、例えば、魚眼レンズカメラで撮像された画像を画面に表示し、表示された画面上でクリックされた画像の点(u,v)を取得して、画像中心からの半径を入力してもよい。また、最大入射角算出手段21は、画面上で複数の点がクリックされた場合、その点のうち最も半径距離が短くなる点を取得して、その半径距離を入力してもよい。
最大入射角算出手段21は、入力された範囲に基づいて、射影方式ごとに最大入射角を算出する。図7は、最大入射角を算出する方法の例を説明する説明図である。魚眼レンズカメラで撮像された画像上の点(u,v)が指定されると、最大入射角算出手段21は、例えば、楕円推定手段12で求めた内部パラメータの一部と上記式2とに基づいて、その点を魚眼座標系の点(u´,v´)に変換する。さらに、最大入射角算出手段21は、上記式3に基づいて、変換された魚眼座標系の点(u´,v´)から、rおよびφを算出する。
上記処理により算出されたrと、楕円推定手段12で求めた内部パラメータの一部であるRを用い、最大入射角算出手段21は、射影方式に応じて、例えば、上記式4から式7に示す式に基づいて、入射角を算出する。ここで算出された入射角が最大入射角として扱われる。
焦点距離算出手段14は、最大入射角算出手段21により決定された最大入射角を用いて焦点距離を算出する。図8は、焦点距離を算出する方法の例を説明する説明図である。図8(a)は、カメラ座標系と透視投影平面との関係を斜視図で表したものであり、図8(b)は、カメラ座標系と透視投影平面との関係をY軸方向(v´´´軸方向)から表したものである。図8では、透視投影平面上のu´´´軸方向を透視投影画像の幅wとし、透視投影平面上のv´´´軸方向を透視投影画像の高さhとしている。
図8(b)に示すように、焦点距離算出手段14は、算出された最大入射角θmaxおよび透視投影画像サイズ(w×h)におけるwとhのうち小さい方の値sを用いて、以下の式11を用いて焦点距離f´を算出する。図8(b)は、幅wを基準に焦点距離f´を算出する例である。
Figure 2018179039
透視投影画像生成手段13は、最大入射角により決定される範囲の投影画像を生成する。具体的には、透視投影画像生成手段13は、最大入射角算出手段21により算出された最大入射角θmaxにより決定される焦点距離f´の平面に投影される画像(透視投影画像)を生成する。
楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、射影方式選択手段17と、射影方式指示手段19と、最大入射角算出手段21とは、プログラム(カメラパラメータ推定プログラム)に従って動作するコンピュータのCPUによって実現される。
また、透視投影範囲入力装置22は、例えば、タッチパネル等などの入出力装置により実現される。また、透視投影範囲入力装置22は、例えば、ディスプレイ装置などの出力装置及びその出力装置に出力された内容を選択するポインティングデバイスなどにより実現されてもよい。なお、第1の実施形態と同様、魚眼カメラ自体が、いわゆるインテリジェントカメラとして機能し、カメラパラメータ推定装置200に含まれる各手段を備えていてもよい。
次に、本実施形態のカメラパラメータ推定装置200の動作例を説明する。図9は、第2の実施形態のカメラパラメータ推定装置200の動作例を示すフローチャートである。画像取得装置11は、魚眼レンズカメラにより撮像される画像を取得する(ステップS11)。透視投影範囲入力装置22は、ユーザから投影画像を生成する範囲の入力を受け付ける(ステップS21)。楕円推定手段12は、取得した画像から内部パラメータの一部を推定する(ステップS12)。最大入射角算出手段21は、受け付けた範囲に応じた最大入射角を射影方式ごとに算出する(ステップS22)。透視投影画像生成手段13は、取得した画像に対して複数の射影方式を適用することで、複数の投影画像を生成する(ステップS13)。
以降、生成された投影画像を表示してユーザによる選択を受け付け、射影方式を決定して内部パラメータを算出するステップS14からステップS17までの処理が行われる。
以上のように、本実施形態では、透視投影範囲入力装置22が、投影画像を生成する範囲の入力を受け付け、最大入射角算出手段21が、範囲に応じた最大入射角を射影方式ごとに算出する。そして、透視投影画像生成手段13が、最大入射角により決定される範囲の投影画像を射影方式ごとに生成する。
よって、第1の実施形態の効果に加え、生成される投影画像が見やすいものになり、ユーザが適切な射影方式で生成された投影画像を選択しやすくなる。
実施形態3.
次に、本発明によるカメラパラメータ推定装置の第3の実施形態を説明する。第1の実施形態および第2の実施形態で示すように、ユーザに直線性の高い直線を含む投影画像を判断させるためには、投影画像に変換する前の画像に、判断に適した直線が含まれていることが好ましい。
そこで、本実施形態では、投影画像に変換する前の画像(すなわち、魚眼レンズカメラで撮影された画像)が適切か否かを判断し易くする方法を説明する。
図10は、本発明によるカメラパラメータ推定装置の第3の実施形態の構成例を示すブロック図である。本実施形態のカメラパラメータ推定装置300は、画像取得装置11と、楕円推定手段12と、ガイド生成表示手段31と、透視投影画像生成手段13と、焦点距離算出手段14と、透視投影画像サイズ記憶手段15と、最大入射角記憶手段16と、射影方式選択手段17と、透視投影画像表示装置18と、射影方式指示手段19とを備えている。
すなわち、本実施形態のカメラパラメータ推定装置は、第1の実施形態のカメラパラメータ推定装置と比較し、ガイド生成表示手段31をさらに備えている。なお、カメラパラメータ推定装置300は、第2の実施形態で説明した最大入射角算出手段21および透視投影範囲入力装置22を備えていてもよい。
ガイド生成表示手段31は、魚眼レンズカメラで撮像された画像に対し、内部パラメータの推定を補助する位置に直線を案内するためのガイドを生成し、画像に重畳させて表示する。具体的には、ガイド生成表示手段31は、投影画像に変換したときの直線の歪みが大きく見えるように、魚眼カメラで撮像された画像上の直線の位置に誘導するようなガイドを生成し、表示する。
内部パラメータの推定を補助する位置について、魚眼レンズカメラで撮像された画像のうち、中心部分に近い画像ほど歪みが小さく、また中心から放射状の方向と平行なほど歪みが小さい。そこで、ガイド生成表示手段31は、画像中心から所定距離の円を示すガイドまたは画像中心から放射状のガイドを、取得した画像に重畳させて表示する。円の中心は、楕円推定手段12によって推定された中心位置が用いられれば良い。
また、歪みを判定するためには、直線の長さが一定以上存在することが好ましい。そこで、ガイド生成表示手段31は、予め定めた長さのガイドを取得した画像に重畳させて表示してもよい。ガイドの長さは、投影画像に変換したときにユーザが判断し易い長さを考慮して決定されればよい。楕円推定手段12によって魚眼レンズの視界領域の半径Rは算出できているため、半径Rを基準にガイドの長さを算出することもできる。
図11は、魚眼レンズカメラで撮像された画像にガイドを重畳した例を示す説明図である。図11に示す例では、中心から所定半径の距離に円状のガイドを表示することで、表示された円より外側に直線が写るよう案内している。また、図11に示す例では、中心から放射状に8本のガイドを表示することで、画像の直線がこのガイドに沿わないように案内している。さらに図11に示す例では、直線長さのサンプルSをガイドとして表示し、直線の長さが所定以上になるように案内している。
他にも、ガイド生成表示手段31は、一つの円だけでなく多重の円を表示してもよい。多重の円に接するように画像から得られた直線を合わせることで、放射状の直線を表示した場合と同様の効果を得ることができる。
ガイド生成表示手段31は、この画像を利用するか否かの判断をユーザから受け付けてもよい。利用しないと判断された場合、画像取得装置11が別の画像を取得し、楕円推定手段12が内部パラメータを推定した後、ガイド生成表示手段31が同様の処理を行う。適切な画像と判断されるまで、これらの処理が繰り返される。
ガイド生成表示手段31は、プログラム(カメラパラメータ推定プログラム)に従って動作するコンピュータのCPUおよび生成結果を表示する表示装置(例えば、ディスプレイ装置等)によって実現される。なお、第1の実施形態と同様、魚眼カメラ自体が、いわゆるインテリジェントカメラとして機能し、カメラパラメータ推定装置300に含まれる各手段を備えていてもよい。
次に、本実施形態のカメラパラメータ推定装置300の動作例を説明する。図12は、第3の実施形態のカメラパラメータ推定装置300の動作例を示すフローチャートである。
画像取得装置11は、魚眼レンズカメラにより撮像される画像を取得する(ステップS11)。楕円推定手段12は、取得した画像から内部パラメータの一部を推定する(ステップS12)。ガイド生成表示手段31は、魚眼レンズカメラで撮像された画像に対し、内部パラメータの推定を補助する位置に直線を案内するためのガイドを生成し、表示する(ステップS31)。
ガイドを表示した結果、ユーザが投影画像の生成に適してないと判断した場合(ステップS32におけるNo)、画像を取得するステップS11からの処理が繰り返される。一方、ユーザが投影画像の生成に適している判断した場合(ステップS32におけるYes)、複数の投影画像を生成するステップS13以降の処理が行われる。以後の処理は、図5に例示するステップS13以降の処理と同様である。なお、ステップS11、ステップS12、ステップS31およびステップS32のループにおいて、内部パラメータの一部は変更されないので、2回目からステップS12は省略されてもよい。
以上のように、本実施形態では、ガイド生成表示手段31が、魚眼レンズカメラで撮像された画像に対し、内部パラメータの推定を補助する位置に直線を案内するためのガイドを生成し、その画像に重畳させて表示する。よって、第1の実施形態の効果に加え、変換された投影画像中に判断の対象とする直線を適切に含めることが可能になる。
実施形態4.
次に、本発明によるカメラパラメータ推定装置の第4の実施形態を説明する。第1の実施形態から第3の実施形態では、透視投影画像をユーザに選択させて、射影方式を決定した。本実施形態では、ユーザからの明示の指定を得ずに射影方式を決定して、内部パラメータを出力する方法を説明する。
図13は、本発明によるカメラパラメータ推定装置の第4の実施形態の構成例を示すブロック図である。本実施形態のカメラパラメータ推定装置400は、画像取得装置41と、楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、透視投影画像サイズ記憶手段15と、最大入射角記憶手段16と、射影方式選択手段42とを備えている。
すなわち、本実施形態のカメラパラメータ推定装置は、第1の実施形態のカメラパラメータ推定装置と比較し、透視投影画像表示装置18および射影方式指示手段19を備えていない点において異なる。また、楕円推定手段12、透視投影画像生成手段13、焦点距離算出手段14、透視投影画像サイズ記憶手段15および最大入射角記憶手段16の内容は、第1の実施形態と同様である。
本実施形態の画像取得装置41は、魚眼レンズカメラによって直線を含む対象が撮像された画像を取得する。具体的には、画像取得装置41は、画像中に含まれる線が直線と認識できる対象を撮像した画像を取得する。例えば、画像取得装置41は、画像から直線の構造が分かる特徴点や格子点などを自動的に取得できる対象を撮像した画像を取得する。本実施形態では、画像取得装置41は、直線を含む対象として平面チェスパターンを撮像した画像を取得する。平面チェスパターンとは、白と黒の市松模様のことである。
ただし、画像取得装置41が取得する画像は、平面チェスパターンを撮像した画像に限定されない。画像中の線が直線であることが認識できる対象(より具体的には、画像から直線の構造が分かる特徴を自動的に取得できる対象)であれば、その画像の内容は任意である。そして、透視投影画像生成手段13は、第1の実施形態と同様に、複数の射影方式を適用して、複数の投影画像を生成する。
射影方式選択手段42は、生成された投影画像に含まれる直線の直線性に基づいて、複数の投影画像の中から一つの投影画像を選択する。そして、射影方式選択手段42は、選択された投影画像を生成した射影方式を特定する。本実施形態で撮像された画像中の直線の構造が分かる特徴から、射影方式選択手段42は、その線の歪みの程度を算出して、直線性を判断する。
図14は、平面チェスパターンを透視投影画像に戻した例を示す説明図である。図14に示すように、魚眼レンズカメラで撮像された画像400は、複数の射影方式により、画像410〜413で示す投影画像に変換される。平面チェスパターンを構成する線は全て直線で、射影方式選択手段42は、画像から自動的にチェスの格子点を取得し、チェスの格子点を基準として直線性を判断する。
図15は、直線性を判断する処理の例を示す説明図である。図15に例示するように、チェスの格子点を起点とし、縦方向および横方向の直線性に着目する。まず、射影方式選択手段42は、起点から格子点へのベクトル(格子点ベクトル)を生成する。射影方式選択手段42は、縦方向および横方向の基準の格子点ベクトルをそれぞれ任意に決定し、基準の格子点ベクトルと他の格子点ベクトルとの内積を算出する。
射影方式選択手段42は、全ての内積を平均することで、直線性を数値化する。この数値が1に近いほど直線性が高い。そのため、射影方式選択手段42は、各射影方式によって変換された投影画像の中から、この値が最も1に近い投影画像を選択し、選択された投影画像を生成した射影方式を特定する。そして、射影方式選択手段42は、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する。
このように、射影方式選択手段42は、直線の位置を特定する複数の点を用いて、各点を起点とし隣接する点までのベクトルを決定し、基準として定めたベクトルと他のベクトルとの内積の平均が1に近いほど直線性が高いと判断してもよい。そして、射影方式選択手段42は、この値が最も1に近い射影方式を選択してもよい。
楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、射影方式選択手段42とは、プログラム(カメラパラメータ推定プログラム)に従って動作するコンピュータのCPUによって実現される。なお、第1の実施形態と同様、魚眼カメラ自体が、いわゆるインテリジェントカメラとして機能し、カメラパラメータ推定装置400に含まれる各手段を備えていてもよい。例えば、魚眼カメラが、画像取得装置41、楕円推定装置12、透視投影画像生成手段13および射影方式選択手段42(さらに、必要に応じて、焦点距離算出手段14、透視投影画像サイズ記憶手段15および最大入射角記憶手段16)を備えていてもよい。
次に、本実施形態のカメラパラメータ推定装置400の動作例を説明する。図16は、第4の実施形態のカメラパラメータ推定装置400の動作例を示すフローチャートである。画像取得装置41は、魚眼レンズカメラによって直線を含む対象が撮像された画像を取得する(ステップS41)。以降、内部パラメータの推定および複数の投影画像を生成するステップS12からステップS13の処理が行われる。
射影方式選択手段42は、投影画像に含まれる直線の直線性に基づいて複数の投影画像の一つを選択する(ステップS42)。射影方式選択手段42は、選択された投影画像に基づいて射影方式を決定する(ステップS43)。そして、射影方式選択手段42は、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する(ステップS44)。
以上のように、本実施形態では、透視投影画像生成手段13が、魚眼レンズカメラによって直線を含む対象が撮像された画像に対し、魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する。射影方式選択手段42は、投影画像に含まれる直線の直線性に基づいて複数の投影画像の一つを選択し、その選択された投影画像に基づいて射影方式を決定する。そして、射影方式選択手段42は、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する。よって、ユーザの操作や射影方式の前提知識を必要とせずに、内部パラメータを容易に推定できる。
実施形態5.
次に、本発明によるカメラパラメータ推定装置の第5の実施形態を説明する。第4の実施形態では、画像中の線が直線であることを認識できる対象を撮像した画像を用いて、直線性の判断が行われた。本実施形態では、風景画像など、直線を一部に含むような対象を撮像した画像を用いて射影方式を決定し、内部パラメータを出力する方法を説明する。
図17は、本発明によるカメラパラメータ推定装置の第5の実施形態の構成例を示すブロック図である。本実施形態のカメラパラメータ推定装置500は、画像取得装置51と、直線指示手段52と、楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、透視投影画像サイズ記憶手段15と、最大入射角記憶手段16と、射影方式選択手段53とを備えている。
すなわち、本実施形態のカメラパラメータ推定装置は、第4の実施形態のカメラパラメータ推定装置と比較し、画像取得装置51および射影方式選択手段53の内容が異なり、直線指示手段52をさらに備えている。それ以外の構成は、第4の実施形態と同様である。
画像取得装置51は、第1の実施形態と同様に、魚眼レンズカメラによって直線を少なくとも一部に含む対象が撮像された画像を取得する。なお、画像取得装置51は、第4の実施形態に記載された平面チェスパターンのように、画像から直線の構造が分かる特徴を自動的に取得できる対象が撮影された画像を取得してもよい。
直線指示手段52は、魚眼レンズカメラによって撮像された画像から、ユーザが直線と判断する箇所の指示を受け付ける。すなわち、本実施形態では、透視投影画像に変換する前に、直線性を判断する対象の指示をユーザから受け付ける。
直線指示手段52は、例えば、ユーザから直線と判断する線の位置を複数の点で受け付けてもよい。また、直線指示手段52は、ユーザから直線と判断する線をなぞって特定する指示を受け付けてもよい。
図18は、直線指示手段52が直線と判断する箇所の指示を受け付ける例を示す説明図である。図18(a)に示すように、直線指示手段52は、線の位置を複数の点Pで受け付けてもよい。また、図18(b)に示すように、直線指示手段52は、線の位置をなぞって特定する指示を受け付けてもよい。線の位置がなぞって特定された場合、直線指示手段52は、その線を所定間隔で区切った位置に点が指定されたものとして、線の位置を複数の点で特定してもよい(図18(c)参照)。
直線指示手段52は、例えば、タッチパネル等などの入出力装置により実現される。また、直線指示手段52は、例えば、ディスプレイ装置などの出力装置及びその出力装置に出力された画像の位置を特定するポインティングデバイスなどにより実現されてもよい。
射影方式選択手段53は、直線指示手段52が受け付けた箇所が示す直線の直線性に基づいて、複数の投影画像の一つを選択する。具体的には、透視投影画像生成手段13によって、指示された位置も投影画像に変換されるため、射影方式選択手段53は、その位置に基づいて直線性を判断する。
直線性を判断する方法は任意である。射影方式選択手段53は、第4の実施形態と同様に、指定された各点から次の点へのベクトルを生成し、各ベクトルの内積の平均を算出して、直線性を判断してもよい。
楕円推定手段12と、透視投影画像生成手段13と、焦点距離算出手段14と、射影方式選択手段53とは、プログラム(カメラパラメータ推定プログラム)に従って動作するコンピュータのCPUによって実現される。なお、第4の実施形態と同様、魚眼カメラ自体が、いわゆるインテリジェントカメラとして機能し、カメラパラメータ推定装置500に含まれる各手段を備えていてもよい。
次に、本実施形態のカメラパラメータ推定装置500の動作例を説明する。図19は、第5の実施形態のカメラパラメータ推定装置500の動作例を示すフローチャートである。画像取得装置51は、魚眼レンズカメラによって直線を少なくとも一部に含む対象が撮像された画像を取得する(ステップS51)。直線指示手段52は、取得した画像の中から、ユーザが直線と判断する箇所の指示を受け付ける(ステップS52)。以降、内部パラメータの推定および複数の投影画像を生成するステップS12からステップS13の処理が行われる。
射影方式選択手段53は、受け付けた箇所が示す直線の直線性に基づいて、複数の投影画像の一つを選択する(ステップS53)。以降、射影方式を決定して内部パラメータを出力するステップS43からステップS44の処理が行われる。
以上のように、本実施形態では、直線指示手段52が、魚眼レンズカメラによって撮像された画像から、ユーザが直線と判断する箇所の指示を受け付ける。そして、射影方式選択手段53が、受け付けた箇所が示す直線の直線性に基づいて、複数の投影画像の一つを選択する。よって、特殊な画像や射影方式の前提知識を必要とせずに、内部パラメータを容易に推定できる。
次に、本発明の概要を説明する。図20は、本発明によるカメラパラメータ推定装置の概要を示すブロック図である。本発明によるカメラパラメータ推定装置90(例えば、カメラパラメータ推定装置100)は、魚眼レンズカメラにより撮像される画像に対し、魚眼レンズカメラにおける視界領域の半径(例えば、半径R)を用いる複数の射影方式を適用して、複数の投影画像を生成する投影画像生成部91(例えば、透視投影画像生成手段13)と、複数の投影画像を表示する表示部92(例えば、投影画像表示装置18)と、表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける選択受付部93(例えば、射影方式指示手段19)と、選択された投影画像に基づいて射影方式を決定する射影方式決定部94(例えば、射影方式選択手段17)と、決定された射影方式に応じた魚眼レンズカメラの内部パラメータを出力する出力部95(例えば、射影方式選択手段17)とを備えている。
そのような構成により、特殊な校正パターンや射影方式の前提知識を必要とせずに、内部パラメータを容易に推定できる。
また、本発明では、特許文献1に記載されているような、カメラの三軸の姿勢や地面からの位置などを表す外部パラメータを推定しなくても、内部パラメータを推定できる。
また、カメラパラメータ推定装置90(例えば、カメラパラメータ推定装置200)は、魚眼レンズカメラにより撮像される画像のうち、投影画像を生成する範囲の入力を受け付ける投影範囲入力部(例えば、透視投影範囲入力装置22)と、範囲に応じた最大入射角を射影方式ごとに算出する最大入射角算出部(例えば、最大入射角算出手段21)とを備えていてもよい。そして、投影画像生成部91は、最大入射角により決定される範囲の投影画像を射影方式ごとに生成してもよい。
具体的には、投影範囲入力部は、画像の中心から指定された点までの距離を半径とする範囲の入力を受け付けてもよい。
また、投影画像生成部91は、最大入射角により決定される焦点距離の平面に投影される投影画像を生成してもよい。
また、カメラパラメータ推定装置90(例えば、カメラパラメータ推定装置300)は、魚眼レンズカメラで撮像された画像に対し、内部パラメータの推定を補助する位置に直線を案内するためのガイドを生成し、画像に重畳させて表示するガイド生成表示部(例えば、ガイド生成表示手段31)を備えていてもよい。
具体的には、ガイド生成表示部は、画像中心から所定距離の円を示すガイドまたは画像中心から放射状のガイドを生成し、魚眼レンズカメラで撮像された画像に重畳させて表示してもよい。
他にも、ガイド生成表示部は、予め定めた長さのガイドを生成し、魚眼レンズカメラで撮像された画像に重畳させて表示してもよい。
また、カメラパラメータ推定装置90は、魚眼レンズカメラにより撮像される画像からその魚眼レンズカメラにおける視界領域の半径を推定する(例えば、楕円フィッティングで推定する)視界領域推定部(例えば、楕円推定手段12)を備えていてもよい。
また、投影画像生成部91は、射影方式として、等距離射影方式、正射影方式、立体射影方式および等立体射影方式の少なくとも2つ以上の射影方式を適用して、複数の投影画像を生成してもよい。
また、出力部95は、魚眼レンズカメラの内部パラメータとして、その魚眼レンズカメラで撮影された画像の画像中心(例えば、(C,C))、その魚眼レンズカメラの撮像素子の歪み(例えば、α)および視界領域の半径(例えば、R)並びに射影方式を出力してもよい。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)魚眼レンズカメラにより撮像される画像に対し、前記魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する投影画像生成部と、前記複数の投影画像を表示する表示部と、前記表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける選択受付部と、前記選択された投影画像に基づいて射影方式を決定する射影方式決定部と、決定された射影方式に応じた前記魚眼レンズカメラの内部パラメータを出力する出力部とを備えたことを特徴とするカメラパラメータ推定装置。
(付記2)魚眼レンズカメラにより撮像される画像のうち、投影画像を生成する範囲の入力を受け付ける投影範囲入力部と、前記範囲に応じた最大入射角を射影方式ごとに算出する最大入射角算出部とを備え、前記投影画像生成部は、前記最大入射角により決定される範囲の投影画像を射影方式ごとに生成する付記1記載のカメラパラメータ推定装置。
(付記3)投影範囲入力部は、画像の中心から指定された点までの距離を半径とする範囲の入力を受け付ける付記2記載のカメラパラメータ推定装置。
(付記4)投影画像生成部は、最大入射角により決定される焦点距離の平面に投影される投影画像を生成する付記2または付記3記載のカメラパラメータ推定装置。
(付記5)魚眼レンズカメラで撮像された画像に対し、内部パラメータの推定を補助する位置に直線を案内するためのガイドを生成し、前記画像に重畳させて表示するガイド生成表示部を備えた付記1から付記4のうちのいずれか1つに記載のカメラパラメータ推定装置。
(付記6)ガイド生成表示部は、画像中心から所定距離の円を示すガイドまたは画像中心から放射状のガイドを生成し、魚眼レンズカメラで撮像された画像に重畳させて表示する付記5記載のカメラパラメータ推定装置。
(付記7)ガイド生成表示部は、予め定めた長さのガイドを生成し、魚眼レンズカメラで撮像された画像に重畳させて表示する付記5または付記6記載のカメラパラメータ推定装置。
(付記8)魚眼レンズカメラにより撮像される画像から当該魚眼レンズカメラにおける視界領域の半径を推定する視界領域推定部を備えた付記1から付記7のうちのいずれか1つに記載のカメラパラメータ推定装置。
(付記9)投影画像生成部は、射影方式として、等距離射影方式、正射影方式、立体射影方式および等立体射影方式の少なくとも2つ以上の射影方式を適用して、複数の投影画像を生成する付記1から付記8のうちのいずれか1つに記載のカメラパラメータ推定装置。
(付記10)出力部は、魚眼レンズカメラの内部パラメータとして、当該魚眼レンズカメラで撮影された画像の画像中心、当該魚眼レンズカメラの撮像素子の歪みおよび視界領域の半径並びに射影方式を出力する付記1から付記9のうちのいずれか1つに記載のカメラパラメータ推定装置。
(付記11)魚眼レンズカメラにより撮像される画像に対し、前記魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成し、前記複数の投影画像を表示し、前記表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付け、前記選択された投影画像に基づいて射影方式を決定し、決定された射影方式に応じた前記魚眼レンズカメラの内部パラメータを出力することを特徴とするカメラパラメータ推定方法。
(付記12)魚眼レンズカメラにより撮像される画像のうち、投影画像を生成する範囲の入力を受け付け、前記範囲に応じた最大入射角を射影方式ごとに算出し、算出された最大入射角により決定される範囲の投影画像を射影方式ごとに生成する付記11記載のカメラパラメータ推定方法。
(付記13)コンピュータに、魚眼レンズカメラにより撮像される画像に対し、前記魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する投影画像生成処理、前記複数の投影画像を表示装置に表示する表示処理、前記表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける選択受付処理、前記選択された投影画像に基づいて射影方式を決定する射影方式決定処理、および、決定された射影方式に応じた前記魚眼レンズカメラの内部パラメータを出力する出力処理を実行させるためのカメラパラメータ推定プログラム。
(付記14)コンピュータに、魚眼レンズカメラにより撮像される画像のうち、投影画像を生成する範囲の入力を受け付ける投影範囲入力処理、および、前記範囲に応じた最大入射角を射影方式ごとに算出する最大入射角算出処理を実行させ、前記投影画像生成処理で、前記最大入射角により決定される範囲の投影画像を射影方式ごとに生成させる付記13記載のカメラパラメータ推定プログラム。
11,41,51 画像取得装置
12 楕円推定手段
13 透視投影画像生成手段
14 焦点距離算出手段
15 透視投影画像サイズ記憶手段
16 最大入射角記憶手段
17,42,53 射影方式選択手段
18 透視投影画像表示装置
19 射影方式指示手段
21 最大入射角算出手段
22 透視投影範囲入力装置
31 ガイド生成表示手段
52 直線指示手段
100,200,300,400,500 カメラパラメータ推定装置

Claims (14)

  1. 魚眼レンズカメラにより撮像される画像に対し、前記魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する投影画像生成部と、
    前記複数の投影画像を表示する表示部と、
    前記表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける選択受付部と、
    前記選択された投影画像に基づいて射影方式を決定する射影方式決定部と、
    決定された射影方式に応じた前記魚眼レンズカメラの内部パラメータを出力する出力部とを備えた
    ことを特徴とするカメラパラメータ推定装置。
  2. 魚眼レンズカメラにより撮像される画像のうち、投影画像を生成する範囲の入力を受け付ける投影範囲入力部と、
    前記範囲に応じた最大入射角を射影方式ごとに算出する最大入射角算出部とを備え、
    前記投影画像生成部は、前記最大入射角により決定される範囲の投影画像を射影方式ごとに生成する
    請求項1記載のカメラパラメータ推定装置。
  3. 投影範囲入力部は、画像の中心から指定された点までの距離を半径とする範囲の入力を受け付ける
    請求項2記載のカメラパラメータ推定装置。
  4. 投影画像生成部は、最大入射角により決定される焦点距離の平面に投影される投影画像を生成する
    請求項2または請求項3記載のカメラパラメータ推定装置。
  5. 魚眼レンズカメラで撮像された画像に対し、内部パラメータの推定を補助する位置に直線を案内するためのガイドを生成し、前記画像に重畳させて表示するガイド生成表示部を備えた
    請求項1から請求項4のうちのいずれか1項に記載のカメラパラメータ推定装置。
  6. ガイド生成表示部は、画像中心から所定距離の円を示すガイドまたは画像中心から放射状のガイドを生成し、魚眼レンズカメラで撮像された画像に重畳させて表示する
    請求項5記載のカメラパラメータ推定装置。
  7. ガイド生成表示部は、予め定めた長さのガイドを生成し、魚眼レンズカメラで撮像された画像に重畳させて表示する
    請求項5または請求項6記載のカメラパラメータ推定装置。
  8. 魚眼レンズカメラにより撮像される画像から当該魚眼レンズカメラにおける視界領域の半径を推定する視界領域推定部を備えた
    請求項1から請求項7のうちのいずれか1項に記載のカメラパラメータ推定装置。
  9. 投影画像生成部は、射影方式として、等距離射影方式、正射影方式、立体射影方式および等立体射影方式の少なくとも2つ以上の射影方式を適用して、複数の投影画像を生成する
    請求項1から請求項8のうちのいずれか1項に記載のカメラパラメータ推定装置。
  10. 出力部は、魚眼レンズカメラの内部パラメータとして、当該魚眼レンズカメラで撮影された画像の画像中心、当該魚眼レンズカメラの撮像素子の歪みおよび視界領域の半径並びに射影方式を出力する
    請求項1から請求項9のうちのいずれか1項に記載のカメラパラメータ推定装置。
  11. 魚眼レンズカメラにより撮像される画像に対し、前記魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成し、
    前記複数の投影画像を表示し、
    前記表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付け、
    前記選択された投影画像に基づいて射影方式を決定し、
    決定された射影方式に応じた前記魚眼レンズカメラの内部パラメータを出力する
    ことを特徴とするカメラパラメータ推定方法。
  12. 魚眼レンズカメラにより撮像される画像のうち、投影画像を生成する範囲の入力を受け付け、
    前記範囲に応じた最大入射角を射影方式ごとに算出し、
    算出された最大入射角により決定される範囲の投影画像を射影方式ごとに生成する
    請求項11記載のカメラパラメータ推定方法。
  13. コンピュータに、
    魚眼レンズカメラにより撮像される画像に対し、前記魚眼レンズカメラにおける視界領域の半径を用いる複数の射影方式を適用して、複数の投影画像を生成する投影画像生成処理、
    前記複数の投影画像を表示装置に表示する表示処理、
    前記表示された複数の投影画像の中から、ユーザによる投影画像の選択を受け付ける選択受付処理、
    前記選択された投影画像に基づいて射影方式を決定する射影方式決定処理、および、
    決定された射影方式に応じた前記魚眼レンズカメラの内部パラメータを出力する出力処理
    を実行させるためのカメラパラメータ推定プログラム。
  14. コンピュータに、
    魚眼レンズカメラにより撮像される画像のうち、投影画像を生成する範囲の入力を受け付ける投影範囲入力処理、および、
    前記範囲に応じた最大入射角を射影方式ごとに算出する最大入射角算出処理を実行させ、
    前記投影画像生成処理で、前記最大入射角により決定される範囲の投影画像を射影方式ごとに生成させる
    請求項13記載のカメラパラメータ推定プログラム。
JP2019508340A 2017-03-27 2017-03-27 カメラパラメータ推定装置、方法およびプログラム Active JP6721111B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/012326 WO2018179039A1 (ja) 2017-03-27 2017-03-27 カメラパラメータ推定装置、方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2018179039A1 true JPWO2018179039A1 (ja) 2020-01-16
JP6721111B2 JP6721111B2 (ja) 2020-07-08

Family

ID=63674531

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019508340A Active JP6721111B2 (ja) 2017-03-27 2017-03-27 カメラパラメータ推定装置、方法およびプログラム

Country Status (3)

Country Link
US (1) US11373335B2 (ja)
JP (1) JP6721111B2 (ja)
WO (1) WO2018179039A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11483528B2 (en) * 2018-02-08 2022-10-25 Sony Corporation Information processing apparatus and information processing method
JP6800506B1 (ja) * 2020-02-04 2020-12-16 株式会社Mujin 自動カメラキャリブレーションを実施する方法及びシステム
US11508088B2 (en) * 2020-02-04 2022-11-22 Mujin, Inc. Method and system for performing automatic camera calibration
CN111507924B (zh) * 2020-04-27 2023-09-29 北京百度网讯科技有限公司 视频帧的处理方法和装置
CN111815710B (zh) * 2020-05-28 2024-01-23 北京易航远智科技有限公司 鱼眼相机自动标定方法
CN112565730B (zh) * 2020-12-03 2023-07-25 阿波罗智联(北京)科技有限公司 路侧感知方法、装置、电子设备、存储介质及路侧设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007192832A (ja) * 2007-03-06 2007-08-02 Iwate Univ 魚眼カメラの校正方法。
JP2009176273A (ja) * 2007-12-26 2009-08-06 Dainippon Printing Co Ltd 画像変換装置および画像変換方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5960108A (en) * 1997-06-12 1999-09-28 Apple Computer, Inc. Method and system for creating an image-based virtual reality environment utilizing a fisheye lens
US6833843B2 (en) * 2001-12-03 2004-12-21 Tempest Microsystems Panoramic imaging and display system with canonical magnifier
KR101404527B1 (ko) * 2007-12-26 2014-06-09 다이니폰 인사츠 가부시키가이샤 화상 변환 장치 및 화상 변환 방법
JP5558973B2 (ja) * 2010-08-31 2014-07-23 株式会社日立情報通信エンジニアリング 画像補正装置、補正画像生成方法、補正テーブル生成装置、補正テーブル生成方法、補正テーブル生成プログラムおよび補正画像生成プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007192832A (ja) * 2007-03-06 2007-08-02 Iwate Univ 魚眼カメラの校正方法。
JP2009176273A (ja) * 2007-12-26 2009-08-06 Dainippon Printing Co Ltd 画像変換装置および画像変換方法

Also Published As

Publication number Publication date
JP6721111B2 (ja) 2020-07-08
US11373335B2 (en) 2022-06-28
WO2018179039A1 (ja) 2018-10-04
US20200380729A1 (en) 2020-12-03

Similar Documents

Publication Publication Date Title
JP6721112B2 (ja) カメラパラメータ推定装置、方法およびプログラム
JP6721111B2 (ja) カメラパラメータ推定装置、方法およびプログラム
US10699481B2 (en) Augmentation of captured 3D scenes with contextual information
JP5740884B2 (ja) 繰り返し撮影用arナビゲーション及び差異抽出のシステム、方法及びプログラム
JP5872923B2 (ja) Ar画像処理装置及び方法
US20160210785A1 (en) Augmented reality system and method for positioning and mapping
JP6223169B2 (ja) 情報処理装置、情報処理方法およびプログラム
US9361731B2 (en) Method and apparatus for displaying video on 3D map
JP5886242B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
KR102049456B1 (ko) 광 필드 영상을 생성하는 방법 및 장치
WO2021035891A1 (zh) 基于增强现实技术的投影方法及投影设备
JP6486603B2 (ja) 画像処理装置
JP6579727B1 (ja) 動体検出装置、動体検出方法、動体検出プログラム
WO2015072091A1 (ja) 画像処理装置、画像処理方法及びプログラム記憶媒体
US20140009587A1 (en) Mobile communication terminal having image conversion function and method
KR101489468B1 (ko) 호모그래피 기반 카메라 영상 보정 장치 및 방법
JP6405539B2 (ja) 多視点画像に対するラベル情報の処理装置及びそのラベル情報の処理方法
JP2018032991A (ja) 画像表示装置、画像表示方法及び画像表示用コンピュータプログラム
JP6071142B2 (ja) 画像変換装置
EP4325425A1 (en) A method and system for defining an outline of a region in an image having distorted lines
JP6624880B2 (ja) 画像処理方法および画像処理装置
JP5168313B2 (ja) 画像表示装置
JPWO2013105205A1 (ja) 画像処理装置、画像処理方法および画像処理用プログラム
JP2012043220A (ja) 画像処理装置およびその方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190920

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200601

R150 Certificate of patent or registration of utility model

Ref document number: 6721111

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150