JP2008249430A - 3次元情報検出方法及びその装置 - Google Patents

3次元情報検出方法及びその装置 Download PDF

Info

Publication number
JP2008249430A
JP2008249430A JP2007089756A JP2007089756A JP2008249430A JP 2008249430 A JP2008249430 A JP 2008249430A JP 2007089756 A JP2007089756 A JP 2007089756A JP 2007089756 A JP2007089756 A JP 2007089756A JP 2008249430 A JP2008249430 A JP 2008249430A
Authority
JP
Japan
Prior art keywords
image
distance
difference
subject
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007089756A
Other languages
English (en)
Other versions
JP4831760B2 (ja
Inventor
Masahiro Kawakita
真宏 河北
Tadahito Aida
田人 會田
Yutaka Tomita
豊 冨田
Masayuki Tawara
政幸 俵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
VISUAL DESIGN KK
Japan Broadcasting Corp
NHK Engineering System Inc
Original Assignee
VISUAL DESIGN KK
Nippon Hoso Kyokai NHK
NHK Engineering Services Inc
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by VISUAL DESIGN KK, Nippon Hoso Kyokai NHK, NHK Engineering Services Inc, Japan Broadcasting Corp filed Critical VISUAL DESIGN KK
Priority to JP2007089756A priority Critical patent/JP4831760B2/ja
Publication of JP2008249430A publication Critical patent/JP2008249430A/ja
Application granted granted Critical
Publication of JP4831760B2 publication Critical patent/JP4831760B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】本発明は、距離画像検出の高速化及び高精細化を実現する3次元情報検出方法及びその装置を提供することを目的とする。
【解決手段】位相がπ/M(Mは4以上の整数)ずつシフトするM種類の強度変調光をフレーム毎に順次切替えて被写体に照射し、各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎にM種類の2次元画像を撮影し、前記M種類の2次元画像の差である差画像の和と前記差画像の差との比に基づいて距離を画像の輝度で表す距離画像を算出する。
【選択図】図1

Description

本発明は、3次元情報検出方法及びその装置に関し、特に、カメラから被写体までの距離を検出し3次元情報を取得する3次元情報検出方法及びその装置に関する。
カメラから被写体までの距離を検出し3次元情報を取得する3次元情報検出方法としては、例えば特許文献1や特許文献2に記載のものがある。
特許文献1に記載のイメージレーザレーダ装置は、所定周波数で強度変調され出射光を被写体に照射するレーザ光源と、被写体からの反射光を受光して像増強する機能を有し、所定周波数でゲインが変調されるイメージインテンシファイア管と、このゲイン変調周期の略1/4以下の周期であってゲインが単調に増加又は減少する期間においてのみイメージインテンシファイアの出力をオンとするゲート手段とを備え、これらの周期が同期することにより、距離に応じて濃淡が周期的に繰り返して変化する情報を得ることができ、測距結果を濃淡イメージで得るようにしたものである。
特許文献2は、所定の輝度を有する光で照明された被写体を光学像として結像し、この光学像を所定の撮像利得で撮像した映像から、被写体の各点の距離を検出する3次元情報検出方法であって、前記所定の輝度及び撮像利得の少なくとも一方が時間と共に変化するものであり、これにより前記被写体の各点の距離を映像信号のフレーム時間に実時間で追随する速度で検出できるようにするものである。時間と共に変化する輝度又は撮像利得を利用することで、撮像された被写体の映像の2次元的な輝度分布が得られ、この輝度分布には被写体の各点までの距離情報が含まれるため、被写体の3次元情報を検出することができる。
特開平6−294868号公報 特開2000−121339号公報
特許文献1に記載の発明は、レーザ光の2次元走査と照明光の変調位相の変化があるため、被写体の3次元情報を映像信号のフレーム時間の速度で取り込むことが困難であるという問題がある。
特許文献2に記載の発明は、被写体の3次元情報を映像信号のフレーム内で検出することを目的としている。
従来、一般的に放送や映像コンテンツに使用されるCCD(Charge Coupled Device)では、テレビ映像並の画質転送レートは3OHz程度に制限され、更に、複数の画像から被写体の3次元情報である距離画像を算出するとなると、距離画像の実質的更新速度は、(CCD転送レート)/(距離算出に必要な画像枚数)となり、ビデオフレームレート(30Hz又は60Hz程度)でのスムーズな動きのある距離画像の検出は困難であった。
現在のCCDセンサでは、画素単位にトランジスタが必要であり、高精細化と高速化の両立を実現できない。一方、近年性能向上が目覚ましく、製作コストが安いCMOS(Complementary Metal Oxide Semiconductor)センサが実用化されてきている。近年では、ハイピジョンクラスの高精細画素を有すると共に、60Hz〜120Hz以上の高速転送フレームレートのCMOSセンサが開発されている。
しかし、高精細画素と高速転送フレームレートを有するCMOSセンサを用いた撮像素子は、いわゆるローリングシャッタと呼ばれる方式であり、画像の水平走査ライン毎に、時分割で信号を蓄積転送するものである。
従来の3次元情報検出方法は、全画素を同一の時間だけ蓄積し、同時に転送するフルフレームシャッタ方式でのみ距離画像の検出が可能であり、ローリングシャッタ方式の高精細かつ高速転送フレームレートのCMOS撮像素子は、距離画像検出には使用できなかった。
本発明は、上記の点に鑑みなされたもので、距離画像検出の高速化及び高精細化を実現する3次元情報検出方法及びその装置を提供することを目的とする。
本発明の一実施態様による3次元情報検出方法は、位相がπ/M(Mは4以上の整数)ずつシフトするM種類の強度変調光をフレーム毎に順次切替えて被写体に照射し、
各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎にM種類の2次元画像を撮影し、
前記M種類の2次元画像の差である差画像の和と前記差画像の差との比に基づいて距離を画像の輝度で表す距離画像を算出することにより、距離画像検出の高速化及び高精細化を実現することができる。
また、本発明の他の実施態様による3次元情報検出方法は、位相がπ/4ずつシフトする4種類の強度変調光をフレーム毎に順次切替えて被写体に照射し、
各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎に4種類の2次元画像を撮影し、
前記位相がπ/2だけ異なる2種類の2次元画像の差である2種類の差画像の和と前記2種類の差画像の差との比に基づいて距離を画像の輝度で表す距離画像を算出することにより、距離画像検出の高速化及び高精細化を実現することができる。
本発明の一実施態様による3次元情報検出装置は、位相がπ/M(Mは4以上の整数)ずつシフトするM種類の強度変調光をフレーム毎に順次切替えて被写体に照射する光源と、
各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎にM種類の2次元画像を撮影する撮像手段と、
前記M種類の2次元画像の差である差画像の和と前記差画像の差との比に基づいて距離を画像の輝度で表す距離画像を算出する距離画像算出手段とを有することにより、距離画像検出の高速化及び高精細化を実現することができる。
また、本発明の他の実施態様による3次元情報検出装置は、位相がπ/4ずつシフトする4種類の強度変調光をフレーム毎に順次切替えて被写体に照射する光源と、
各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎に4種類の2次元画像を撮影する撮像手段と、
前記位相がπ/2だけ異なる2種類の2次元画像の差である2種類の差画像の和と前記2種類の差画像の差との比に基づいて被写体の距離を画像の輝度で表す距離画像を算出する距離画像算出手段とを有することにより、距離画像検出の高速化及び高精細化を実現することができる。
前記3次元情報検出装置において、
前記強度変調光は、正弦波である構成とすることができる。
前記3次元情報検出装置において、
前記距離画像算出手段は、前記水平走査ライン毎に光蓄積と転送のタイミングがシフトするのに応じて前記距離画像の算出に用いる係数値を変化させる構成とすることができる。
前記3次元情報検出装置において、
前記被写体からの反射光を距離画像撮影用とカラー画像撮影用に分割する分割手段と、
前記分割手段からの光でカラー画像を撮影するカラー撮影手段とを有する構成とすることができる。
本発明によれば、距離画像検出の高速化及び高精細化を実現することができる。
以下、図面を参照して本発明の実施形態について説明する。
図1は、本発明の3次元情報検出装置の一実施形態のブロック図を示す。同図中、3次元情報検出装置は、強度変調光を被写体2に照射する光源部3と、画像を撮影するカメラレンズ4を持つ。また、受光した反射光を距離画像撮影用とカラー画像撮影用に分割する分割光学系6を有する。
距離画像を検出する距離検出部7は、例えばイメージインテンシファイア等の撮像部8と、高速シャッタとしてローリングシャッタを持ち撮像部8の出力を撮像する2次元画像センサ9を有する。2次元画像センサ9は、例えば水平走査ライン毎に蓄積転送を高速に行うCMOSセンサを用いる。
2次元画像センサ9の出力する画像信号は、複数のメモリ10に記録される。これらの複数のメモリ10から画像信号を読み出して画像信号処理装置11に供給して距離画像を算出する演算を行う。
複数のメモリ10には順次新しい画像信号が上書きされ、その都度、画像信号処理装置11で(1)式により距離画像としての奥行き距離ddを算出する演算が行われ、距離画像が動画像として出力される。
Figure 2008249430

ここで、V,V,V,Vは強度変調光の位相をπ/2ずつ変化させて撮影した映像信号、kは定数、hは画像の水平走査ライン毎に値が変化する係数である。この(1)式については後述する。
光源部3の出力する強度変調光と、撮像部8の高速シャッタは信号発生器13の出力するシャッタトリガ信号で同期駆動される。また、位相切替器14は映像の基準となる垂直同期信号に基づいて映像フレーム毎に変調信号の位相の切替え制御を行う。
また、通常のカラー画像は、分割光学系6の後に設けたカラーカメラ15により撮影する。ここで得られたカラー画像は、遅延回路16により距離演算時間に相当する遅延を施されて出力される。
光源部3は、図2(A)〜(D)に示すように、正弦波状に強度変調している光の位相をπ/2ずつ変化させた、第1強度変調光パターン20、第2強度変調光パターン21、第3強度変調光パターン22、第4強度変調光パターン23を出力する。撮像部8は、図2(A)〜(D)に示すように、シャッタ撮影24のタイミングと時間幅を固定で行い、第1の映像信号V、第2の映像信号V、第3の映像信号V、第4の映像信号Vを取得する。
上記位相の変化のタイミングは画像のフレームレートと同期させて行い、シャッタ撮影の時間幅は光の強度変調周期よりも十分に短い時間を設定して開放し信号を取り込む。
2次元画像センサ9として高精細画素で高速な転送レートが可能なCMOSセンサを使用する場合、図3に示すように、光蓄積と転送のタイミングが、水平走査ライン毎にシフトしている。
図3では横軸に時間を示し、縦軸の一番上が画像における一番上の第1番目の水平走査ラインを示し、CMOSセンサの水平走査ラインの総数をNとする。このとき、フレーム時間毎に、第1強度変調光、第2強度変調光、第3強度変調光、第4強度変調光を切替えて撮影を行う。
CMOSセンサにおいては、光信号の蓄積時間と転送のタイミングが、水平走査ライン毎にシフトしているため、第1フレームにおける第1強度変調光と第2強度変調光の蓄積割合が水平走査ライン毎に異なっている。ここで、第1フレーム蓄積期間における第n番目の水平走査ラインでの、第1強度変調光と第2強度変調光の蓄積割合は、(2)式であらわされる。
h(n):1−h(n) …(2)
この場合の距離画像の求め方を以下に式を用いて示す。図2に示すように強度変調光の位相をフレーム毎にπ/2だけシフトさせ、第1フレーム〜第4フレームまでの画像を順次撮影する。この4極類の強度変調光パターン時のそれぞれにおいて撮影される画像強度(画像輝度)y〜yは以下の(3)〜(7)式で表される。
Figure 2008249430
ただし、σは被写体の反射率、φは変調位相、eは光源以外の外光成分、tはシャッタタイミング、νは光速度、fは強度変調の周波数、dはカメラ(撮像部8)から被写体2までの距離である。なお、(3)〜(6)式における係数「1/2」,定数「1」は画像強度の値を「0」〜「1」の範囲に規格化するために導入している。
ここで、2次元画像センサ9が図3に示すように、水平走査ライン毎に蓄積と転送のタイミングが異なるローリングシャッタを用いている場合、n番目の水平走査ラインにおいて、1画像取得の蓄積時間内における光の切替りタイミング比が、h:(1−h)とすると、第1〜第4フレームで得られる第1〜第4の映像信号V〜Vの画像強度は(8)〜(11)式で表される。
Figure 2008249430
上記の(8)〜(11)式より、(12),(13)式が導かれ、(12),(13)式から(14),(15)式が導かれる。更に、(14),(15)式から位相φを表す(16)式が得られる。ここで、(7)式の関係があるため、(16)式から距離dを表す(17)式が得られる。
Figure 2008249430
ところで、(17)式の右辺第1項は、図4に示すようにカメラ(撮像部8)から測定レンジ(測定可能な範囲)MRまでの距離L1を表しており、右辺第2項は、測定レンジMR内での被写体2の奥行き距離L2を表している。実際の撮影ではシャッタタイミングtを調整することで距離L1を調整し、被写体2が測定レンジMR内に存在するように設定する。
ここで、求めようとする被写体の奥行き距離つまり3次元情報は(17)式の右辺第2項であるため、ν/4πf=kとおくことで、奥行き距離ddは(1)式で表される。
(17),(1)式から明らかなように、被写体の反射率σの影響や外光成分eの影響を除去して、カメラから被写体間の距離d及び奥行き距離ddを求めることができる。
このようにして、ローリングシャッタ方式の高精細かつ高速転送フレームレートのCMOS撮像素子を用いて距離画像検出を行うことが実現できる。
ここで、係数hは、水平走査ライン毎に異なる値で、水平走査ライン番号の関数h(n)であり、以下の式で表されるように初期値hから単調に水平走査ライン毎に増分Δhで与えられる。
h(n)=h+n×Δh …(18)
ところで、(1)式において、定数k(=ν/4πf)を可変調整して映像信号レベルのダイナミックレンジを広くし、距離画像の測定分解能や測定レンジを拡大することができる。例えば映像信号レベルを0〜100%とした場合、kが小さいと、例えば30〜70%の映像信号レベルで奥行き距離を表現することになる。kを大きくすることで、例えば10〜90%の映像信号レベルを使って距離を表現できることになる。つまり、距離を表現する階調が増えることになり、より細かく距離を表現でき分解能が向上する。
また、測定レンジは、光の変調周期を長くすることで大きくなるが、一般的に距離検出分解能が低下する。kを大きくすることで、その距離検出分解能の低下分を補えるので、間接的にkを大きくすることが測定レンジを拡大するのに有効である。
なお、(1),(17)式では、除算処理を行うため、丸め誤差が生じるが、カメラの出力映像信号の階調ビット数に応じた精度で演算処理を行うようにして、丸め誤差の影響を最小限にし、精度の良い距離検出を行うことができる。
距離検出部7においては、フレーム毎に、第1〜第4の映像信号V〜Vを取得して複数のメモリ10に書き込み、順次(1)式で表わされる演算処理を行い、距離画像を出力する。
距離検出部7の動作について、図5に示すフローチャートを用いて説明する。ステップS1で任意の位相を持つ光源部3の変調信号が設定され、ステップS2で強度変調光が被写体2に照射される。
ステップS3で第1の映像信号Vが取得される。ステップS4で第1の映像信号Vはメモリ10内のメモリMに書き込まれる。次のフレームでは、ステップS5で光源部3の変調信号が位相π/2だけシフトし、同様に第2の映像信号Vが取得されメモリ10内のメモリMに書き込まれる。同様に次のフレームでは、光源部3の変調信号が位相π/2だけシフトし、第3の映像信号Vが取得されメモリ10内のメモリMに書き込まれる。同様に次のフレームでは、光源部3の変調信号が位相π/2だけシフトし、第4の映像信号Vが取得されメモリ10内のメモリMに書き込まれる。更に次のフレームでは、光源部3の変調信号が位相π/2だけシフトし、再び第1の映像信号Vが取得されメモリ10内のMに書き込まれる。
以上のように、映像信号V〜Vの撮像サイクルを順次繰り返して行く。このサイクルの中、メモリM〜Mの記憶内容が書き換わる毎に、ステップS6で(1)式の演算を行い、ステップS7で距離画像を出力する。
これにより、フレーム毎に距離画像が更新され、動く被写体の距離画像の撮影が可能となる。
図6は、位相切替器14の一実施形態の構成図を示す。同図中、信号発生器13は正弦波の変調信号を出力する。撮影する被写体の奥行きレンジが測定レンジが、おおよそ1.5m〜7.5mの場合、変調信号の周波数は10MHzから50MHzが使用できる。
位相切替器14は、信号発生器13からの変調信号を4分配し、位相器51にて変調信号の位相をφ,φ+π/4,φ+π/2,φ+3π/4とそれぞれπ/2ずつシフトさせてスイッチ53に供給する。スイッチ53は端子52から映像の垂直同期信号が供給されており、フレーム毎にスイッチ53で変調信号の位相を切替えて端子54より出力する。なお、2次元画像センサ9の高速シャッタを駆動するシャッタトリガ信号も信号発生器13から分配し端子55より出力する。
上記の距離画像の検出は、カラー画像撮影と同時に行うことができ、距離検出用の光源(光源部3)で被写体を照射すると共に、通常の照明のもとで被写体を照明する。例えば、カラー画像を撮影するために可視光成分を持つ光源で照明し、距離検出用の光源の波長は、カラー画像で撮影に使用しない近赤外の波長領域を使用することで、お互いのクロストークの影響を小さくできる。
もっとも、(17)式で示したように、本願発明方法では、外乱光もキャンセルして距離を求めることができるため、距離検出の波長と同じ波長の外光のもとでも距離検出が可能である。
撮影光学系には、ズームカメラレンズを使用し、結像の途中で分割光学系6により2分配し、もしくはカラー画像用と距離検出附の光に波長分割して結像することができる。これにより、カメラレンズのズーム機能が使用できる。具体的には、ズームカメラレンズの途中にハーフミラーを入れて、その先にレンズを付けて分割結像させ、結像面にフォーカス/デフォーカスセンサをおいてピント検出を行うプレシジョンフォーカスレンズ構成の光学系を利用でき、これによって、小型化も実現できる。
ただし、カラー画像と距離画像を撮影する場合、本発明装置では、撮像部8とカラーカメラ15がプリズムなどの光学ブロックで固着されていないため、レンズの取り付けの際に、カラー画像と距離画像が画素単位でずれることがある。このずれは、マイクロメータやステッピングモータを用いたメカニカルなステージを導入することで吸収することが可能である。
カラー映像と距離画像でフレームをそろえるには、カラー映像を遅延回路16で遅延することで、カラー映像と距離画像のタイミングを同じにすることができる。
また、カラー画像のフレームレートが例えば30Hzである場合、距離画像用の映像信号V〜Vを取得するフレームレートを、カラー画像のフレームレートの4倍の120Hzで繰り返し撮影する。これにより、カラー画像と距離画像との更新時間を一致することができる。
また、距離検出用の光源とカラー画像撮影用の光源との波長が異なるため、レンズの特性上、距離画像とカラー画像の画角が異なる場合は、距離画像に対し幾何学形状補正の画像処理を行って両者の画角を合わせることができる。
特に、イメージインテンシファイアで画像を撮影する場合には、ショットノイズの影響により距離画像にノイズが混入する。これらのノイズ成分は距離検出の精度を低下させる原因となる。これらのノイズ成分は、電気的なフィルタで除去することができる。例えばメモリM〜Mの記憶内容に対しリカーシブフィルタやメディアンフィルタ処理を施すことにより、ランダムノイズを低減できる。
また、本発明方法では、従来の2画像間から距離を検出する方法に比して、2倍の4フレームの映像信号V〜Vを基に距離を算出すると共に、正弦波の位相より距離を検出している。画像演算では画像の数の平方根でSN比が向上するため、本発明方法では従来に比して1.41倍、距離検出の精度の向上が期待できると共に、外部の雑音に対しても強い距離検出が可能となる。
また、光源部3に供給する変調信号が正弦波からずれた歪んだ波形であっても、その波形を予め測定しておけば、最終的に得られる距離の検出値を補正処理することで、正しい距離の値に補正することができる。更に、上記実施形態では正弦波状の強度変調光として説明したが、光強度が単調に増加と減少を同じ波形で単一の周期で繰り返す強度変調光についても、その波形形状が既知であれば、同様の原埋で信号処理を行うことによって距離画像を検出できる。
なお、従来方法では、三角波状に増加・減少する変調光を照射し2回の撮影で距離画像を求める。このため、測定レンジ端における被写体の測定は、光が増加や減少し始めるときに撮像した画像から距離を計算することになるため、画像の輝度レベルが低くSN比が悪い画像を基に距離を求めることになり、測定レンジの端では分解能が悪くなる。
これに対し、本発明方法では、π/2位相シフトした4画像を撮影して距離画像を求めるため、平均すれば略一定の輝度レベルの画像が得られる。つまり、極端に輝度レベルが低い画像だけから距離を演算することはなくなるため、測定レンジ全体にわたって良好な性能が得られる。
本発明方法によれば、カラー映像の取得と同時に距離画像を取得することができるので、生放送中においても、例えばカメラの近くの人物だけを抽出する等の画面の切り出しや画面合成をリアルタイムに行うことが可能となる。
また、これによって、従来のブルーバックを用いるクロマキー手法ではできなかった、カメラから所定の距離範囲の被写体だけの映像を抽出することができ、従来困難であったコンピュータグラフィックスと実写映像との合成を実現することが可能となる。更に、本発明装置は高速な3次元形状計測機能を持つため、広い産業分野に活用することができる。
なお、上記実施形態では、撮像手段の一例として撮像部8を用い、距離画像算出手段の一例として画像信号処理装置11を用い、分割手段の一例として分割光学系6を用い、カラー撮影手段の一例としてカラーカメラ15を用いている。
本発明の3次元情報検出装置の一実施形態のブロックである。 強度変調光パターンとシャッタ撮影のタイミングを説明するための図である。 CMOSセンサの光蓄積と転送のタイミングを説明するための図である。 測定レンジと奥行き距離を説明するための図である。 距離検出部の動作説明用フローチャートである。 位相切替器の一実施形態の構成図である。
符号の説明
2 被写体
3 光源部
4 カメラレンズ
6 分割光学系
7 距離検出部
8 撮像部
9 2次元画像センサ
10 メモリ
11 画像信号処理装置
13 信号発生器
14 位相切替器
15 カラーカメラ
16 遅延回路
51 位相器
53 スイッチ

Claims (7)

  1. 位相がπ/M(Mは4以上の整数)ずつシフトするM種類の強度変調光をフレーム毎に順次切替えて被写体に照射し、
    各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎にM種類の2次元画像を撮影し、
    前記M種類の2次元画像の差である差画像の和と前記差画像の差との比に基づいて距離を画像の輝度で表す距離画像を算出することを特徴とする3次元情報検出方法。
  2. 位相がπ/4ずつシフトする4種類の強度変調光をフレーム毎に順次切替えて被写体に照射し、
    各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎に4種類の2次元画像を撮影し、
    前記位相がπ/2だけ異なる2種類の2次元画像の差である2種類の差画像の和と前記2種類の差画像の差との比に基づいて距離を画像の輝度で表す距離画像を算出することを特徴とする3次元情報検出方法。
  3. 位相がπ/M(Mは4以上の整数)ずつシフトするM種類の強度変調光をフレーム毎に順次切替えて被写体に照射する光源と、
    各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎にM種類の2次元画像を撮影する撮像手段と、
    前記M種類の2次元画像の差である差画像の和と前記差画像の差との比に基づいて距離を画像の輝度で表す距離画像を算出する距離画像算出手段とを
    有することを特徴とする3次元情報検出装置。
  4. 位相がπ/4ずつシフトする4種類の強度変調光をフレーム毎に順次切替えて被写体に照射する光源と、
    各強度変調を照射するときの被写体からの反射光を水平走査ライン毎に光蓄積と転送のタイミングがシフトするシャッタを通してフレーム毎に4種類の2次元画像を撮影する撮像手段と、
    前記位相がπ/2だけ異なる2種類の2次元画像の差である2種類の差画像の和と前記2種類の差画像の差との比に基づいて被写体の距離を画像の輝度で表す距離画像を算出する距離画像算出手段とを
    有することを特徴とする3次元情報検出装置。
  5. 請求項4記載の3次元情報検出装置において、
    前記強度変調光は、正弦波であることを特徴とする3次元情報検出装置。
  6. 請求項4又は5記載の3次元情報検出装置において、
    前記距離画像算出手段は、前記水平走査ライン毎に光蓄積と転送のタイミングがシフトするのに応じて前記距離画像の算出に用いる係数値を変化させることを特徴とする3次元情報検出装置。
  7. 請求項4乃至6のいずれか1項記載の3次元情報検出装置において、
    前記被写体からの反射光を距離画像撮影用とカラー画像撮影用に分割する分割手段と、
    前記分割手段からの光でカラー画像を撮影するカラー撮影手段とを
    有することを特徴とする3次元情報検出装置。
JP2007089756A 2007-03-29 2007-03-29 3次元情報検出方法及びその装置 Active JP4831760B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007089756A JP4831760B2 (ja) 2007-03-29 2007-03-29 3次元情報検出方法及びその装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007089756A JP4831760B2 (ja) 2007-03-29 2007-03-29 3次元情報検出方法及びその装置

Publications (2)

Publication Number Publication Date
JP2008249430A true JP2008249430A (ja) 2008-10-16
JP4831760B2 JP4831760B2 (ja) 2011-12-07

Family

ID=39974566

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007089756A Active JP4831760B2 (ja) 2007-03-29 2007-03-29 3次元情報検出方法及びその装置

Country Status (1)

Country Link
JP (1) JP4831760B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012510064A (ja) * 2008-11-25 2012-04-26 テトラビュー, インコーポレイテッド 高解像度三次元撮像のシステムおよび方法
EP2458424A1 (en) * 2010-10-29 2012-05-30 Samsung Electronics Co., Ltd. Beam splitter for 3D camera, and 3D image acquisition apparatus employing the beam splitter
JP2013535675A (ja) * 2010-07-29 2013-09-12 ワイカトリンク リミテッド 対象物の距離特性および/または輝度特性を測定する装置および方法
WO2014132767A1 (ja) * 2013-02-28 2014-09-04 株式会社テクノロジーハブ 距離画像センサ
JP2015175751A (ja) * 2014-03-17 2015-10-05 スタンレー電気株式会社 距離画像生成装置、物体検出装置および物体検出方法
JP2015211329A (ja) * 2014-04-25 2015-11-24 キヤノン株式会社 撮像装置及び撮像装置の駆動方法
JP2017063430A (ja) * 2011-03-22 2017-03-30 フィリップス ライティング ホールディング ビー ヴィ 光検出システム及び方法
WO2018225517A1 (ja) * 2017-06-07 2018-12-13 ソニーセミコンダクタソリューションズ株式会社 情報処理装置および方法
EP3525443A4 (en) * 2016-10-08 2019-11-27 Hangzhou Hikvision Digital Technology Co., Ltd. CAMERA OBJECTIVE AND VIDEO CAMERA

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102486385B1 (ko) 2015-10-29 2023-01-09 삼성전자주식회사 깊이 정보 획득 장치 및 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000517427A (ja) * 1996-09-05 2000-12-26 ルドルフ シュヴァルト 電磁波の位相情報および/または振幅情報を調べるための方法と装置
JP2002500367A (ja) * 1997-12-23 2002-01-08 シーメンス アクチエンゲゼルシヤフト 3次元距離画像を撮影するための方法及び装置
JP2004525351A (ja) * 2000-12-11 2004-08-19 カネスタ インコーポレイテッド 量子効率変調を用いたcmosコンパチブルの三次元イメージセンシングのためのシステム
JP2006214998A (ja) * 2005-02-07 2006-08-17 Matsushita Electric Works Ltd 測距装置
JP2006337286A (ja) * 2005-06-03 2006-12-14 Ricoh Co Ltd 形状計測装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000517427A (ja) * 1996-09-05 2000-12-26 ルドルフ シュヴァルト 電磁波の位相情報および/または振幅情報を調べるための方法と装置
JP2002500367A (ja) * 1997-12-23 2002-01-08 シーメンス アクチエンゲゼルシヤフト 3次元距離画像を撮影するための方法及び装置
JP2004525351A (ja) * 2000-12-11 2004-08-19 カネスタ インコーポレイテッド 量子効率変調を用いたcmosコンパチブルの三次元イメージセンシングのためのシステム
JP2006214998A (ja) * 2005-02-07 2006-08-17 Matsushita Electric Works Ltd 測距装置
JP2006337286A (ja) * 2005-06-03 2006-12-14 Ricoh Co Ltd 形状計測装置

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012510064A (ja) * 2008-11-25 2012-04-26 テトラビュー, インコーポレイテッド 高解像度三次元撮像のシステムおよび方法
US11627300B2 (en) 2008-11-25 2023-04-11 Nlight, Inc. System and method of three-dimensional imaging
JP2013535675A (ja) * 2010-07-29 2013-09-12 ワイカトリンク リミテッド 対象物の距離特性および/または輝度特性を測定する装置および方法
EP2458424A1 (en) * 2010-10-29 2012-05-30 Samsung Electronics Co., Ltd. Beam splitter for 3D camera, and 3D image acquisition apparatus employing the beam splitter
US9188662B2 (en) 2010-10-29 2015-11-17 Samsung Electronics Co., Ltd. Beam splitter for 3D camera, and 3D image acquisition apparatus employing the beam splitter
JP2017063430A (ja) * 2011-03-22 2017-03-30 フィリップス ライティング ホールディング ビー ヴィ 光検出システム及び方法
WO2014132767A1 (ja) * 2013-02-28 2014-09-04 株式会社テクノロジーハブ 距離画像センサ
JP6025081B2 (ja) * 2013-02-28 2016-11-16 株式会社テクノロジーハブ 距離画像センサ
JPWO2014132767A1 (ja) * 2013-02-28 2017-02-02 株式会社テクノロジーハブ 距離画像センサ
JP2015175751A (ja) * 2014-03-17 2015-10-05 スタンレー電気株式会社 距離画像生成装置、物体検出装置および物体検出方法
JP2015211329A (ja) * 2014-04-25 2015-11-24 キヤノン株式会社 撮像装置及び撮像装置の駆動方法
EP3525443A4 (en) * 2016-10-08 2019-11-27 Hangzhou Hikvision Digital Technology Co., Ltd. CAMERA OBJECTIVE AND VIDEO CAMERA
WO2018225517A1 (ja) * 2017-06-07 2018-12-13 ソニーセミコンダクタソリューションズ株式会社 情報処理装置および方法
JPWO2018225517A1 (ja) * 2017-06-07 2020-04-09 ソニーセミコンダクタソリューションズ株式会社 情報処理装置および方法
US10863165B2 (en) 2017-06-07 2020-12-08 Sony Semiconductor Solutions Corporation Image processing apparatus and method
JP7091326B2 (ja) 2017-06-07 2022-06-27 ソニーセミコンダクタソリューションズ株式会社 情報処理装置および方法

Also Published As

Publication number Publication date
JP4831760B2 (ja) 2011-12-07

Similar Documents

Publication Publication Date Title
JP4831760B2 (ja) 3次元情報検出方法及びその装置
US9247227B2 (en) Correction of the stereoscopic effect of multiple images for stereoscope view
JP6601790B2 (ja) リアルタイム計測投影装置及び三次元投影計測装置
US8698924B2 (en) Tone mapping for low-light video frame enhancement
KR101626894B1 (ko) 롤링 셔터를 이용하여 촬상하는 촬상 장치
JP5523124B2 (ja) 撮像装置
JP4399693B2 (ja) 撮像装置
US9420185B2 (en) Method and system for compensating for image blur by moving image sensor
WO2017159027A1 (ja) 撮像制御装置、および撮像制御方法、ならびに撮像装置
KR20100104591A (ko) 파노라마의 생성 방법
JP2013128723A (ja) 内視鏡装置
JP5581968B2 (ja) 撮像装置
JP5649927B2 (ja) 画像処理装置、画像処理方法、および、画像処理プログラム
US9762790B2 (en) Image pickup apparatus using edge detection and distance for focus assist
JP2008099260A (ja) 画像処理装置、電子カメラ、および画像処理プログラム
JP2017143504A5 (ja)
US20100103276A1 (en) Split aperture capture of rangemap for 3d imaging
JP2011176622A (ja) 撮像装置
US12015840B2 (en) Synchronized camera system having two different cameras
JP5772251B2 (ja) カメラシステムおよび画像生成方法
JP2009042098A (ja) 画像処理式物体検出装置
EP2180692A1 (en) Method of and a device for producing a digital picture
JP2004032517A (ja) 撮像システムおよび画像処理装置
JP7409604B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラムおよび記録媒体
WO2016174701A1 (ja) 内視鏡装置及び3次元形状計測方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090728

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110826

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110913

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110916

R150 Certificate of patent or registration of utility model

Ref document number: 4831760

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140930

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250