JP7347942B2 - 3次元映像装置 - Google Patents

3次元映像装置 Download PDF

Info

Publication number
JP7347942B2
JP7347942B2 JP2019045580A JP2019045580A JP7347942B2 JP 7347942 B2 JP7347942 B2 JP 7347942B2 JP 2019045580 A JP2019045580 A JP 2019045580A JP 2019045580 A JP2019045580 A JP 2019045580A JP 7347942 B2 JP7347942 B2 JP 7347942B2
Authority
JP
Japan
Prior art keywords
phase
photogate
pixel
signal
phase signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019045580A
Other languages
English (en)
Other versions
JP2019168448A (ja
Inventor
ミンソン キル
ビタン ガル
アイゼンバーグ アミット
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2019168448A publication Critical patent/JP2019168448A/ja
Application granted granted Critical
Publication of JP7347942B2 publication Critical patent/JP7347942B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/32Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
    • G01S17/36Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated with phase comparison between the received signal and the contemporaneously transmitted signal
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/491Details of non-pulse systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/491Details of non-pulse systems
    • G01S7/4912Receivers
    • G01S7/4915Time delay measurement, e.g. operational details for pixel components; Phase measurement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、ToF(Time of Flight)センサー、これを用いて3次元映像を取得する3次元映像装置、及び3次元映像装置の駆動方法に関する。
クワッドコプター、車両の自律走行、モーション認識制御、仮想現実、拡張現実、3次元(3 dimension)ゲーム、ロボットの制御、及び奥行きのある3次元映像を提供するために、物体との距離情報が必要となる。物体との距離を測定して、距離情報を取得できる3次元カメラ、モーションキャプチャーセンサー(motion capture sensor)、レーザーレーダー(laser radar)の技術開発が行なわれている。
2台のカメラを用いたステレオビジョン(Stereo Vision)方式、又は構造光(Structured Light)を用いた三角測量法(Triangulation)方式によって、物体の奥行き情報(物体とカメラとの間の距離情報)を得る。このような方式は、物体とカメラとの間の距離が遠いほど奥行き情報の正確度が劣るという欠点がある。一方、ToFセンサーを適用した3次元映像装置は、赤外線を物体に照射した後、センサーの受光部において物体から反射される赤外線を受光するまでの時間を測定して、物体の奥行き情報を取得できる。
ToFセンサー方式は、高速動作が可能であり、ステレオビジョン方式に比べて照明変化による雑音が少なく、後処理アルゴリズムの演算量を少なくするという長所がある。このようなToFセンサー方式は、マップ形態の3D奥行き情報を取得できる。ToFセンサー方式は、1つの奥行き情報マップを生成する際、180°の位相差を有する2つのフレームのセンサーイメージ又は90°の位相差を有する4つのフレームのセンサーイメージが必要となる。これにより、奥行き情報マップの生成時に、物体の動きによってモーションアーチファクト(motion artifact)又はモーションブラー(motion blur)が発生する問題がある。また、物体の奥行き値を算出するために、更なるフレームメモリーを要するという問題がある。
本発明の目的は、1つのフレームの映像データから奥行き情報を取得して、モーションアーチファクトの発生を防止できるToFセンサー、3次元映像装置、及び3次元映像装置の駆動方法を提供することにある。
また、本発明の目的は、1つのフレームの映像データから奥行き情報を取得して、メモリー所要量を減らすことができるToFセンサー、3次元映像装置、及び3次元映像装置の駆動方法を提供することにある。
本発明は、上述の課題に制限されず、言及していない他の課題は、下記の記載から当業者が明確に理解できる。
本発明のToFセンサーは、第1画素と、第2画素と、第1信号出力部と、第2信号出力部と、を含む。前記第1画素は、物体から反射された光を受信して、第1位相信号を生成する第1フォトゲートと、前記第1位相信号と180°の位相差を有する第2位相信号を生成する第2フォトゲートと、を含む。前記第2画素は、前記物体から反射された光を受信して、前記第1位相信号と相違する第3位相信号を生成する第3フォトゲートと、前記第3位相信号と180°の位相差を有する第4位相信号を生成する第4フォトゲートと、を含む。前記第1信号出力部は、前記第1位相信号及び前記第2位相信号を出力する。前記第2信号出力部は、前記第3位相信号及び前記第4位相信号を出力する。前記第1フォトゲート乃至第4フォトゲートは、1つのフレーム期間の間前記第1位相信号乃至第4位相信号を出力する。
本発明のToFセンサーは、互いに隣接して配置された複数の画素からなる第1画素群と、互いに隣接して配置された複数の画素からなる第2画素群と、を含む。前記第1画素群の複数の画素の各々は、物体から反射された光を受信して、180°の位相差を有する第1位相信号及び第2位相信号を出力する。第2画素群の複数の画素の各々は、物体から反射された光を受信して、180°の位相差を有する第3位相信号及び第4位相信号を出力する。
本発明のToFセンサーは、第1画素群と、第2画素群と、第3画素群と、第4画素群と、を含む。前記第1画素群は、互いに隣接して配置された複数の第1画素からなり、前記複数の第1画素が第1時間の間駆動されて、互いに異なる第1位相信号及び第2位相信号を出力する。前記第2画素群は、互いに隣接して配置された複数の第2画素からなり、前記複数の第2画素が前記第1時間の間駆動されて、互いに異なる第3位相信号及び第4位相信号を出力する。前記第3画素群は、互いに隣接して配置された複数の第3画素からなり、前記複数の第3画素が前記第1時間よりも短い第2時間の間駆動されて、互いに異なる第5位相信号及び第6位相信号を出力する。前記第4画素群は、互いに隣接して配置された複数の第4画素からなり、前記複数の第4画素が前記第2時間の間駆動されて、互いに異なる第7位相信号及び第8位相信号を出力する。
本発明の3次元映像装置は、物体に光を照射する光源と、前記光源に駆動電圧を供給する光源駆動部と、ToFセンサーと、センサー駆動部と、位相パターン処理部と、奥行き情報生成部と、を含む。前記ToFセンサーは、物体から反射された光を受信して、180°の位相差を有する第1位相信号及び第2位相信号を出力する複数の第1画素と、180°の位相差を有する第3位相信号及び第4位相信号を出力する複数の第2画素と、を含む。前記センサー駆動部は、駆動信号を前記ToFセンサーに供給して、前記ToFセンサーの駆動を制御する。前記位相パターン処理部は、前記第1位相信号、前記第2位相信号、前記第3位相信号、及び前記第4位相信号を受信してデジタル位相値に変換し、前記デジタル位相値を1つのフレームに配列して位相パターンイメージを生成する。前記奥行き情報生成部は、前記位相パターンイメージに基づいて、前記物体の奥行き情報を生成する。
本発明の3次元映像装置の駆動方法は、第1画素の第1フォトゲート及び第2フォトゲートから光を受信して、互いに180°の位相差を有する第1位相信号及び第2位相信号を出力する段階と、第2画素の第3フォトゲート及び第4フォトゲートから光を受信して、互いに180°の位相差を有する第3位相信号及び第4位相信号を出力する段階と、前記第1位相信号、前記第2位相信号、前記第3位相信号、及び前記第4位相信号を受信してデジタル位相値に変換し、デジタル位相値を1つのフレームに配列して位相パターンイメージを生成する段階と、前記位相パターンイメージに基づいて、前記物体の奥行き情報を生成する段階と、を含む。
本発明に係る実施形態によると、1つのフレームの映像データから奥行き情報を取得して、モーションアーチファクトの発生を防止するToFセンサーと、これを用いた3次元映像装置、及び3次元映像装置の駆動方法を提供する。
本発明に係る実刑形態によると、1つのフレームの映像データから奥行き情報を取得して、物体の奥行き情報取得に必要なメモリーを減らすことが可能な3次元映像装置を提供する。
本発明の一実施形態による3次元映像装置を示す図である。 本発明の一実施形態による3次元映像装置を示す図である。 本発明の一実施形態による3次元映像装置を示す図である。 図1に示しているToFセンサーを示す図である。 図2に示しているToFセンサーを構成する複数の画素のうちの1つの画素を示す図である。 図2に示しているToFセンサーを構成する複数の画素のうちの1つの画素を示す図である。 図2に示しているToFセンサーを構成する複数の画素のうちの1つの画素を示す図である。 物体から反射された光をToFセンサーが受信して、4つの位相をサンプリングすることを示す図である。 ToFセンサーによって累積されたT0~T3の期間の受光信号を示す図である。 2タップ(2-tap)構造からなるToFセンサーの横方向に駆動回路を配置して、ToFセンサーと駆動回路とを連結することを示す図である。 2タップ構造からなるToFセンサーの縦方向に駆動回路を配置して、ToFセンサーと駆動回路とを連結することを示す図である。 図1に示している位相パターン処理部を示す図である。 X軸方向の解像度を考慮した位相パターンを示す図である。 位相パターンを生成するためのセンサー駆動部及びToFセンサーの駆動方法を説明するための図である。 センサー駆動部からToFセンサーの各画素に供給される制御信号のタイミングを示す図である。 Y軸方向の解像度を考慮した位相パターンを示す図である。 図11に示している位相パターンを生成するために、センサー駆動部からToFセンサーの各画素に供給される制御信号のタイミングを示す図である。 X軸方向及びY軸方向の解像度を考慮して、チェッカーボード方式で位相を配置した位相パターンを示す図である。 図13に示している位相パターンを生成するために、センサー駆動部からToFセンサーの各画素に供給される制御信号のタイミングを示す図である。 チェッカーボード方式で位相信号を配置した位相パターンを示す図である。 図15Aのチェッカーボード方式の位相パターンを2×2ビニング(Binning)方式で複数の画素をグループ化して、位相パターンを配置したことを示す図である。 図15Bに示している位相パターンのうちのIブロック及びQブロックの位相パターンを生成するためのセンサー駆動部及びToFセンサーの駆動方法を説明するための図である。 図15Bに示している位相パターンのうちのIブロック及びQブロックの位相パターンを生成するためのセンサー駆動部及びToFセンサーの駆動方法を説明するための図である。 図15Bに示している位相パターンを生成するために、センサー駆動部からToFセンサーの各画素に供給される制御信号のタイミングを示す図である。 本発明の一実施形態の位相パターンを示すもので、4×4個の複数の画素を単位画素パターンにグループ化して位相パターンを配置したことを示す図である。 本発明の一実施形態の位相パターンを示すもので、4×4個の複数の画素を単位画素パターンにグループ化して位相パターンを配置したことを示す図である。 本発明の一実施形態の位相パターンを示すもので、4×4個の複数の画素を単位画素パターンにグループ化して位相パターンを配置したことを示す図である。 本発明の一実施形態の位相パターンを示すもので、4×4個の複数の画素を単位画素パターンにグループ化して位相パターンを配置したことを示す図である。 近距離に位置する物体と遠距離に位置する物体の奥行き情報を取得するための位相パターンを配置したことを示す図である。 近距離に位置する物体と遠距離に位置する物体の奥行き情報を取得するための位相パターンを配置したことを示す図である。 近距離に位置する物体と遠距離に位置する物体の奥行き情報を取得するための位相パターンを配置したことを示す図である。 近距離に位置する物体と遠距離に位置する物体の奥行き情報を取得する方法を説明するための図である。 本発明の一実施形態による信号出力器、及び画素にフォトゲート駆動信号を供給する配線の配置形態を示す図である。 本発明の一実施形態による信号出力器、及び画素にフォトゲート駆動信号を供給する配線の配置形態を示す図である。
以下、添付の図面を参考にして、本発明に係る実施形態のToFセンサーと、これを用いた3次元映像装置を説明すると、次の通りである。
図1A乃至図1Cは、本発明の一実施形態による3次元映像装置を示す図である。図2は、図1に示しているToFセンサーを示す図である。
図1A及び図2を参照すると、本発明に係る実施形態の3次元映像装置1000は、光源から照射された光の位相と、物体から反射されて受信した光の位相との差に基づいて、物体の奥行き情報を生成する。このために、3次元映像装置1000は、光源100と、光源駆動部200と、ToFセンサー300と、センサー駆動部400と、制御部500と、位相パターン処理部600と、奥行き情報生成部700と、を含む。
光源100は、赤外線又は可視光線の帯域のレーザー光を照射し、光源100から照射される光が物体から反射され、ToFセンサー300に入射する。ToFセンサー300は、複数の画素310を含み、物体から反射された光が複数の画素310に入射する。一例として、光源100は光を伝送(Tx)し、ToFセンサー300は光を受信(Rx)する。
ToFセンサー300は、1次元又は2次元アレイ状に配列された複数の画素310からなる。図2では、複数の画素310が2次元アレイ状に配列されてToFセンサー300を構成したことを一例として示している。横方向にM個の画素310及び縦方向にN個の画素310が配列されてToFセンサー300を構成したことを一例として示している。一例として、横方向に同じ行に配列されたM個の画素が集まって1つの画素アレイを構成し、N個の画素アレイからなるToFセンサー300を構成する。一例として、縦方向に同じ列に配列されたN個の画素が集まって1つの画素アレイを構成し、M個の画素アレイからなるToFセンサー300を構成する。ToFセンサー300は、センサー駆動部400から供給されるセンサー駆動信号VD1によって駆動される。
光源100は、発光ダイオード(Light Emitting Diode:LED)又はレーザーダイオード(Laser Diode:LD)で構成される。光源100は、光源駆動部200と連結され、光源駆動部200から供給される光源駆動電流ID1によって駆動される。光源100は、パルス波形で光を照射する。一例として、光源100は、サイン波形、三角波形、矩形波形で光を照射する。光源100から照射される光が、物体から反射されてToFセンサー300に入射される。光源100と物体との距離によって、光源100から照射される光の位相と、ToFセンサー300に入射された光の位相において差が発生する。このような光の位相差を検出して、物体の奥行き、即ち、物体との距離を算出する。物体の1地点までの距離を測定しようとする場合、3次元映像装置1000は、1つの光源100と、少なくとも1つの画素310を含むToFセンサー300とを含む。また、複数の物体との距離を測定しようとする場合、3次元映像装置1000は、1つ又は複数の光源100と、複数の画素310を含むToFセンサー300とを含む。
制御部500は、光源駆動部200及びセンサー駆動部400と連結される。制御部500は、光源駆動部200を制御するために光源制御信号CS1を生成する。この時、制御部500は、入力モード又は既設定モードに基づいて、光源制御信号CS1を生成する。制御部500は、生成された光源制御信号CS1を光源駆動部200に供給する。
制御部500は、センサー駆動部400を制御するためにセンサー制御信号CS2を生成し、生成されたセンサー制御信号CS2をセンサー駆動部400に供給する。制御部500は、光源制御信号CS1によって動作する光源駆動部200の動作時点に連動して、センサー駆動部400が動作するようにセンサー制御信号CS2を生成する。この時、制御部500は、入力モード又は既設定モードに基づいて、センサー制御信号CS2を生成する。制御部500は、生成されたセンサー制御信号CS2をセンサー駆動部400に供給する。制御部500から出力される光源制御信号CS1とセンサー制御信号CS2とによって、光源100から照射される光に同期して各画素310が駆動される。
ToFセンサー及び3次元映像装置が適用されるシステムに応じて、要求される奥行きマップ(Depth Map)が異なる。一例として、ToFセンサー及び3次元映像装置をロボット掃除機に適用する場合、垂直(例えば、Y軸)方向よりは水平(例えば、X軸)方向における解像度を高めることができる奥行きマップを必要とする。このような場合、水平(例えば、X軸)方向における解像度を高めることができる位相パターンを生成する必要がある。また、ToFセンサー及び3次元映像装置を垂直方向に移動する装置に適用する場合、水平(例えば、X軸)方向よりは垂直(例えば、Y軸)方向における解像度を高めることができる奥行きマップを必要とする。このような場合、垂直(例えば、Y軸)方向における解像度を高めることができる位相パターンを生成する必要がある。また、ToFセンサー及び3次元映像装置を拡張現実ヘッドセット、又はドローンに適用する場合、水平(例えば、X軸)及び垂直(例えば、Y軸)方向において一定レベルの解像度が得られる奥行きマップを必要とする。このような場合、水平(例えば、X軸)及び垂直(例えば、Y軸)方向において一定レベルの解像度が得られる位相パターンを生成する必要がある。
X軸方向の解像度を高めることができる奥行きマップを必要とする第1モードが、制御部500及び位相パターン処理部600に入力されるか、又は設定される。この時、制御部500は、第1モードによる光源制御信号CS1を生成して、光源駆動部200に供給する。制御部500は、第1モードによるセンサー制御信号CS2を生成して、センサー駆動部400に供給する。
Y軸方向の解像度に有利な奥行きマップを必要とする第2モードが、制御部500及び位相パターン処理部600に入力されるか、又は設定される。この時、制御部500は、第2モードによる光源制御信号CS1を生成して、光源駆動部200に供給する。制御部500は、第2モードによるセンサー制御信号CS2を生成して、センサー駆動部400に供給する。
X軸方向及びY軸方向において一定レベルの解像度を有する奥行きマップを必要とする第3モードが、制御部500及び位相パターン処理部600に入力されるか、又は設定される。この時、制御部500は、第3モードによる光源制御信号CS1を生成して、光源駆動部200に供給する。制御部500は、第3モードによるセンサー制御信号CS2を生成して、センサー駆動部400に供給する。
光源駆動部200は、制御部500と連結され、制御部500から入力される光源制御信号CS1に基づいて、光源100を駆動するための光源駆動電流ID1を生成する。即ち、光源駆動部200は、光源制御信号CS1に応答して、光源駆動電流ID1を生成する。
光源駆動部200は、生成された光源駆動電流ID1を光源100に供給する。光源駆動部200から光源100に供給される光源駆動電流ID1のサイズに応じて、光源100から照射される光の強度及び波長が調節される。一例として、光源100に供給される光源駆動電流ID1のサイズに比例して、光源100から照射される光の強度及び波長が増加する。
図1Bを参照すると、光源駆動部200及びセンサー駆動部400が制御部500内に統合されて配置される。この場合、光源駆動部200、センサー駆動部400、及び制御部500は、システムオンチップ(System on Chip:SoC)で統合される。これに限定されず、センサー駆動部400及び制御部500が1つに統合されて配置され、光源駆動部200は、別途の構成で配置される。
図1Cを参照すると、位相パターン処理部600及び奥行き情報生成部700が制御部500内に統合されて配置される。この場合、位相パターン処理部600、奥行き情報生成部700、及び制御部500は、SoCで統合される。これに限定されず、位相パターン処理部600及び奥行き情報生成部700が1つのチップに統合されて配置され、制御部500は別途の構成で配置される。これに限定されず、奥行き情報生成部700及び制御部500が1つのチップに統合されて配置され、位相パターン処理部600は、別途の構成で配置される。
図3A乃至図3Cは、図2に示しているToFセンサーを構成する複数の画素のうちの1つの画素を示す図である。
図2乃至図3Cを参照すると、各々の画素310は、センサー駆動部400から供給されるセンサー駆動信号VD1によって駆動されて、物体から反射された光を受信する。画素310は、互いに180°の差がある2つの位相信号をサンプリングするために、2タップ復調(2-tap Demodulation)構造で構成される。ToFセンサー300の各々の画素310は、第1フォトゲート312と、第2フォトゲート314と、を含む。画素310は、第1フォトゲート312で受信した光による位相信号を出力するための第1信号出力部316を含む。また、画素310は、第2フォトゲート314で受信した光による位相信号を出力するための第2信号出力部318を含む。即ち、各々の画素310は、2つのサブ画素からなり、各々のサブ画素毎に1つのフォトゲート(312又は314)と、1つの信号出力部(316又は318)と、を含む。各々の画素310の第1フォトゲート312の出力信号及び第2フォトゲート314の出力信号は、位相パターン処理部600に入力される。
図3Aに示すように、画素内で、第1フォトゲート312と第2フォトゲート314とが垂直方向に順次配置され、下側に第1信号出力部316と第2信号出力部318とが配置される。図3Bに示すように、画素の中央部に第1フォトゲート312と第2フォトゲート314とが配置され、第1フォトゲート312の横に第1信号出力部316が配置され、第2フォトゲート314の横に第2信号出力部318が配置される。図3Cに示すように、画素の中央部に第1フォトゲート312と第2フォトゲート314とが配置され、第1フォトゲート312の上側に第1信号出力部314が配置され、第2フォトゲート314の下側に第2信号出力部318が配置される。
各々の画素310に供給されるセンサー駆動信号VD1は、第1フォトゲート312を駆動させるための第1フォトゲート駆動信号と、第2フォトゲート314を駆動させるための第2フォトゲート駆動信号と、を含む。第1フォトゲート駆動信号によって、光源100から照射される光の第1位相と同期するように、第1フォトゲート312が駆動される。第1フォトゲート312は、受信した光による位相信号を第1信号出力部316を介して位相パターン処理部600に出力する。第2フォトゲート駆動信号によって、光源100から照射される光の第2位相と同期するように、第2フォトゲート314が駆動される。第2フォトゲート314は、受信した光による位相信号を第2信号出力部318を介して位相パターン処理部600に出力する。
図4Aは、物体から反射された光をToFセンサーが受信して、4つの位相をサンプリングすることを示す図である。図4Aのグラフは、例えば、時間を示すx軸と信号強度を示すy軸とを有する。図4Bは、ToFセンサーによって累積されたT0~T3の期間の受光信号をグラフで示す図である。
図1乃至図4Bを参照すると、3次元映像装置1000は、物体との距離を測定するために、光源100から光を照射した後、物体から反射された光を画素310で受信する。この時、光源100は、一定の周波数でオン(On)/オフ(Off)して光を変調(modulation)させる。光源100から照射される光の位相と同期するように、画素310の第1フォトゲート312及び第2フォトゲート314が駆動される。第1フォトゲート312及び第2フォトゲート314は、第1フォトゲート駆動信号及び第2フォトゲート駆動信号によって駆動され、物体から反射された光を受信する。図4に示すように、物体の奥行き、即ち、物体との距離を測定するために、第1フォトゲート312及び第2フォトゲート314は、4つの位相ポイント(0°、90°、180°、270°)でサンプリングした位相信号を出力する。光源100から照射された光の飛行(Flight)距離ほどの時間を経て、第1フォトゲート312及び第2フォトゲート314で光を受信することになる。
0°の場合、T0時点からT2時点までに画素310の第1フォトゲート312及び第2フォトゲート314で受光した信号を累積する。90°の場合、T1時点からT3時点までに画素310の第1フォトゲート312及び第2フォトゲート314で受光した信号を累積する。180°の場合、T2時点からT4時点までに画素310の第1フォトゲート312及び第2フォトゲート314で受光した信号を累積する。270°の場合、T0時点からT1時点までに、及びT3時点からT4時点までに画素310の第1フォトゲート312及び第2フォトゲート314で受光した信号を累積する。
信号の1周期は、T0時点からT4時点までであり、信号の1周期が終われば、次の信号周期が連続して繰り返されることになる。このような信号周期が数回(例えば、数千~数十万回)繰り返される。一例として、光信号周期が10ns(100MHzで変調)で、1ms程の間に信号を累積させると、100,000回の周期の間累積動作を行うことができる。
画素310の第1フォトゲート312は、センサー駆動部400から入力された第1フォトゲート駆動信号によって駆動される。この時、光源100から照射される光の位相0°、90°、180°、270°に同期するように、第1フォトゲート駆動信号が生成される。第1フォトゲート駆動信号によって画素310の第1フォトゲート312が動作して、物体から反射された光を受信する。第1フォトゲート312は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの少なくとも1つのポイントに同期して動作する。第1フォトゲート312は、物体から反射されて受信した光の信号を累積し、累積した受光信号による位相信号を第1信号出力部316を介して出力する。
画素310の第2フォトゲート314は、センサー駆動部400から入力された第2フォトゲート駆動信号によって駆動される。この時、光源100から照射される光の位相と同期するように、画素310の第2フォトゲート314が動作して光を受信する。光源100から照射される光の位相0°、90°、180°、270°に同期するように、第2フォトゲート駆動信号が生成される。第1フォトゲート駆動信号と180°の位相差を有するように、第2フォトゲート駆動信号が生成される。第2フォトゲート駆動信号によって画素310の第2フォトゲート314が動作して、物体から反射された光を受信する。
第2フォトゲート314は、物体から反射されて受信した光による位相信号を累積し、累積した受光信号による位相信号を第2信号出力部318を介して出力する。この時、第2フォトゲート314は、第1フォトゲート312と180°の位相差を有するように動作して、第1フォトゲート312と180°の差を有する位相信号を出力する。即ち、第1フォトゲート312と第2フォトゲート314は、光源100から照射される光の初期位相に対して互いに180°の位相差を有するように駆動される。従って、第1フォトゲート312と第2フォトゲート314から出力される位相信号は、互いに180°の差を有する。
図5は、2タップ構造からなるToFセンサーの横方向に駆動回路を配置して、ToFセンサーと駆動回路とを連結することを示す図である。図6は、2タップ構造からなるToFセンサーの縦方向に駆動回路を配置して、ToFセンサーと駆動回路とを連結することを示す図である。
図1A、図5、及び図6を参照すると、センサー駆動部400は、制御部500と連結される。センサー駆動部400は、制御部500から入力されるセンサー制御信号CS2に基づいて、各々の画素310を駆動させるためのセンサー駆動信号VD1を生成する。即ち、センサー駆動部400は、センサー制御信号CS2に応答して、センサー駆動信号VD1を生成する。
センサー駆動部400は、生成されたセンサー駆動信号VD1を各々の画素310に供給する。センサー駆動信号VD1は、第1フォトゲート312を駆動させるための第1フォトゲート駆動信号と、第2フォトゲート314を駆動させるための第2フォトゲート駆動信号と、を含む。
センサー駆動部400は、複数の信号出力器410を含む。複数の信号出力器410の各々は、複数の信号出力チャンネルを含み、1つの信号出力チャンネルが1つのフォトゲートと連結される。1つの信号出力器410が複数の画素310に第1フォトゲート駆動信号及び第2フォトゲート駆動信号を供給する。図5では、センサー駆動部400がToFセンサー300のX軸方向に配置され、複数の信号出力器410と複数の画素310とが連結されていることを一例として示している。図6では、センサー駆動部400がToFセンサー300のY軸方向に配置され、複数の信号出力器410と複数の画素310とが連結されていることを一例として示している。一方、ToFセンサー300のX軸及びY軸に複数の信号出力器410を配置することもできる。図5及び図6では、1つの信号出力器410が、2つの画素310の各々に第1フォトゲート駆動信号及び第2フォトゲート駆動信号を供給することを示している。しかし、これに限定されず、1つの信号出力器410が、1つの画素310又は3つ以上の画素310の各々に、第1フォトゲート駆動信号及び第2フォトゲート駆動信号を供給する。
センサー駆動部400から第1フォトゲート312に供給される第1フォトゲート駆動信号によって、光源100から照射される光の第1位相と同期するように、第1フォトゲート312が駆動される。センサー駆動部400から第2フォトゲート314に供給される第2フォトゲート駆動信号によって、光源100から照射される光の第2位相と同期するように、第2フォトゲート314が駆動される。
一例として、センサー駆動部400は、光源100から照射される光の初期位相0°に同期して、第1フォトゲート312が駆動されるように、第1フォトゲート駆動信号を生成する。第1フォトゲート駆動信号によって、第1フォトゲート312が光源100から照射される光の初期位相0°に同期して駆動される。第1フォトゲート312は、第1フォトゲート駆動信号によって物体から反射された光を受信し、受信した光を累積して0°の位相信号を出力する。センサー駆動部400は、光源100から照射される光の初期位相180°に同期して、第2フォトゲート314が駆動されるように、第2フォトゲート駆動信号を生成する。第2フォトゲート駆動信号によって、第2フォトゲート314が光源100から照射される光の初期位相180°に同期して駆動される。第2フォトゲート314は、第2フォトゲート駆動信号によって物体から反射された光を受信し、受信した光を累積して180°の位相信号を出力する。
一例として、センサー駆動部400は、光源100から照射される光の初期位相90°に同期して、第1フォトゲート312が駆動されるように、第1フォトゲート駆動信号を生成する。第1フォトゲート駆動信号によって、第1フォトゲート312が光源100から照射される光の初期位相90°に同期して駆動される。第1フォトゲート312は、第1フォトゲート駆動信号によって物体から反射された光を受信し、受信した光を累積して90°の位相信号を出力する。センサー駆動部400は、光源100から照射される光の初期位相270°に同期して、第2フォトゲート314が駆動されるように、第2フォトゲート駆動信号を生成する。第2フォトゲート駆動信号によって、第2フォトゲート314が光源100から照射される光の初期位相270°に同期して駆動される。第2フォトゲート314は、第2フォトゲート駆動信号によって物体から反射された光を受信し、受信した光を累積して270°の位相信号を出力する。
一例として、センサー駆動部400は、光源100から照射される光の初期位相180°に同期して、第1フォトゲート312が駆動されるように、第1フォトゲート駆動信号を生成する。第1フォトゲート駆動信号によって、第1フォトゲート312が光源100から照射される光の初期位相180°に同期して駆動される。第1フォトゲート312は、第1フォトゲート駆動信号によって物体から反射された光を受信し、受信した光を累積して180°の位相信号を出力する。センサー駆動部400は、光源100から照射される光の初期位相0°に同期して、第2フォトゲート314が駆動されるように、第2フォトゲート駆動信号を生成する。第2フォトゲート駆動信号によって、第2フォトゲート314が光源100から照射される光の初期位相0°に同期して駆動される。第2フォトゲート314は、第2フォトゲート駆動信号によって物体から反射された光を受信し、受信した光を累積して0°の位相信号を出力する。
一例として、センサー駆動部400は、光源100から照射される光の初期位相270°に同期して、第1フォトゲート312が駆動されるように、第1フォトゲート駆動信号を生成する。第1フォトゲート駆動信号によって、第1フォトゲート312が光源100から照射される光の初期位相270°に同期して駆動される。第1フォトゲート312は、第1フォトゲート駆動信号によって物体から反射された光を受信し、受信した光を累積して270°の位相信号を出力する。センサー駆動部400は、光源100から照射される光の初期位相90°に同期して、第2フォトゲート314が駆動されるように、第2フォトゲート駆動信号を生成する。第2フォトゲート駆動信号によって、第2フォトゲート314が光源100から照射される光の初期位相90°に同期して駆動される。第2フォトゲート314は、第2フォトゲート駆動信号によって物体から反射された光を受信し、受信した光を累積して90°の位相信号を出力する。
このように、第1フォトゲート駆動信号及び第2フォトゲート駆動信号によって、第1フォトゲート312と第2フォトゲート314が180°の位相差で動作される。第1フォトゲート312と第2フォトゲート314とは、互いに180°の位相差を有する位相信号を出力する。
図7は、図1に示している位相パターン処理部を示す図である。
図7を参照すると、位相パターン処理部600は、奥行き情報生成部700で奥行きマップを生成できるように、1つのフレーム単位で位相パターンイメージを生成する。このために、位相パターン処理部600は、アナログ-デジタル変換部610と、位相パターン整列部620と、を含む。従来の技術では、複数のフレームイメージ(例えば、4つのフレームイメージ)を用いて奥行きマップを生成したが、本発明に係る実施形態では、奥行き情報生成部700で1つの位相パターンイメージ(1つのフレームの位相パターンイメージ)を用いて、奥行きマップを生成する。
アナログ-デジタル変換部610は、複数のアナログ-デジタル変換器(Analog-to-digital converter:ADC)612で構成される。ADC612と1つの画素とが1:1で対応するか、又はADC612と1つのフォトゲートとが1:1で対応する。複数のADC612の各々は、各々の画素310から入力された位相信号をアナログ-デジタル変換してデジタル位相値を生成する。複数のADC612で生成されたデジタル位相値は、位相パターン整列部620に入力される。
位相パターン整列部620は、一定容量のラインメモリーを含み、ADC612から入力されたデジタル位相値をラインメモリーにラッチした後、1つの位相パターンイメージを生成する。この時、ADC612から入力されたデジタル位相値を既設定の位相パターンで整列して、1つの位相パターンイメージを生成する。位相パターン整列部620は、1つのフレーム単位で位相パターンイメージを生成する。1つの位相パターンイメージには、光源100から照射される光の初期位相0°、90°、180°、及び270°に同期して感知された位相データが含まれる。即ち、位相パターン整列部620は、1つの位相パターンイメージに0°、90°、180°、及び270°の位相データを含ませる。位相パターン整列部620は、入力モード又は設定モードに応じて、既設定の位相パターンで0°、90°、180°、及び270°の位相データを整列して、1つの位相パターンイメージを生成する。位相パターン処理部600は、モードに応じて生成された1つの位相パターンイメージを奥行き情報生成部700に出力する。
図8は、X軸方向の解像度を考慮した位相パターンを示す図である。図9は、位相パターンを生成するためのセンサー駆動部及びToFセンサーの駆動方法を説明するための図である。図10は、センサー駆動部からToFセンサーの各画素に供給される制御信号のタイミングを示す図である。図8では、全位相パターンイメージのうちの一部を示し、図9では、ToFセンサー300を構成する画素のうちの4つの画素321~324を示している。
図8乃至図10を参照すると、第1画素321と第2画素322は、横方向に互いに隣り合うように配置される。第3画素323と第4画素324は、横方向に互いに隣り合うように配置される。第1画素321と第2画素322は、第1行に配置され、第3画素323と第4画素324は、第2行に配置される。第1画素321と第3画素323は、縦方向に互いに隣り合うように配置される。第2画素322と第4画素324は、縦方向に互いに隣り合うように配置される。第1画素321と第3画素323は、第1列に配置され、第2画素322と第4画素324は、第2列に配置される。
本発明の3次元映像装置1000は、1つの位相パターンイメージにより物体の奥行き演算を行う。このために、ToFセンサー300の各画素は、光の初期位相0°、90°、180°、及び270°に同期して、サンプリングされた4つの位相信号(0°、90°、180°、及び270°)を位相パターン処理部600に出力する。位相パターン処理部600は、ToFセンサー300から受信された4つの位相信号(0°、90°、180°、及び270°)を1つの位相パターンイメージ810に配置する。位相パターン処理部600は、図8に示す領域Aの位相パターンが繰り返される形態で1つの位相パターンイメージ810を生成する。
領域Aの位相パターンを生成するために、センサー駆動部400の信号出力器410は、制御部500から入力されたセンサー制御信号CS2に基づいて、第1画素321、第2画素322、第3画素323、及び第4画素324の駆動のためのセンサー駆動信号VD1を生成する。信号出力器410は、第1画素321、第2画素322、第3画素323、及び第4画素324の各々にセンサー駆動信号VD1を供給する。センサー駆動信号VD1は、第1画素321、第2画素322、第3画素323、及び第4画素324の各々に含まれた第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bとを駆動させるための複数のフォトゲート駆動信号(1)~(8)を含む。第1画素321、第2画素322、第3画素323、及び第4画素324の各々に含まれた第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bは、信号出力器410から入力されるフォトゲート駆動信号(1)~(8)によって駆動される。第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bは、1つのフレーム期間の間0°、90°、180°、270°のうちの何れか1つの位相信号を出力する。
具体的に、信号出力器410は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの270°と同期するように、第1画素321の第1フォトゲート321aを駆動させる。このために、信号出力器410は、第1画素321の第1フォトゲート321aを駆動させるための第1フォトゲート駆動信号(1)を第1画素321の第1フォトゲート321aに供給する。第1画素321の第1フォトゲート321aは、入力された第1フォトゲート駆動信号(1)によって駆動され、光源100から照射される光の初期位相270°に対応する位相信号を生成する。第1画素321の第1フォトゲート321aは、生成された位相信号を位相パターン処理部600に出力する。信号出力器410は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの90°と同期するように、第1画素321の第2フォトゲート321bを駆動させる。このために、信号出力器410は、第1画素321の第2フォトゲート321bを駆動させるための第2フォトゲート駆動信号(2)を第1画素321の第2フォトゲート321bに供給する。第1画素321の第2フォトゲート321bは、入力された第2フォトゲート駆動信号(2)によって駆動され、光源100から照射される光の初期位相90°に対応する位相信号を生成する。第1画素321の第2フォトゲート321bは、生成された位相信号を位相パターン処理部600に出力する。このように、第1画素321の第1フォトゲート321aと第2フォトゲート321bとは、互いに180°の差の位相信号を出力する。
信号出力器410は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの270°と同期するように、第2画素322の第1フォトゲート322aを駆動させる。このために、信号出力器410は、第2画素322の第1フォトゲート322aを駆動させるための第3フォトゲート駆動信号(3)を第2画素322の第1フォトゲート322aに供給する。第2画素322の第1フォトゲート322aは、入力された第3フォトゲート駆動信号(3)によって駆動され、光源100から照射される光の初期位相270°に対応する位相信号を生成する。第2画素322の第1フォトゲート322aは、生成された位相信号を位相パターン処理部600に出力する。信号出力器410は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの90°と同期するように、第2画素322の第2フォトゲート322bを駆動させる。このために、信号出力器410は、第2画素322の第2フォトゲート322bを駆動させるための第4フォトゲート駆動信号(4)を第2画素322の第2フォトゲート322bに供給する。第2画素322の第2フォトゲート322bは、入力された第4フォトゲート駆動信号(4)によって駆動され、光源100から照射される光の初期位相90°に対応する位相信号を生成する。第2画素322の第2フォトゲート322bは、生成された位相信号を位相パターン処理部600に出力する。このように、第2画素322の第1フォトゲート322aと第2フォトゲート322bとは、互いに180°の差の位相信号を出力する。
信号出力器410は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの0°と同期するように、第3画素323の第1フォトゲート323aを駆動させる。このために、信号出力器410は、第3画素323の第1フォトゲート323aを駆動させるための第5フォトゲート駆動信号(5)を第3画素323の第1フォトゲート323aに供給する。第3画素323の第1フォトゲート323aは、入力された第5フォトゲート駆動信号(5)によって駆動され、光源100から照射される光の初期位相0°に対応する位相信号を生成する。第3画素323の第1フォトゲート323aは、生成された位相信号を位相パターン処理部600に出力する。信号出力器410は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの180°と同期するように、第3画素323の第2フォトゲート323bを駆動させる。このために、信号出力器410は、第3画素323の第2フォトゲート323bを駆動させるための第6フォトゲート駆動信号(6)を第3画素323の第2フォトゲート323bに供給する。第3画素323の第2フォトゲート323bは、入力された第6フォトゲート駆動信号(6)によって駆動され、光源100から照射される光の初期位相180°に対応する位相信号を生成する。第3画素323の第2フォトゲート323bは、生成された位相信号を位相パターン処理部600に出力する。このように、第3画素323の第1フォトゲート323aと第2フォトゲート323bとは、互いに180°の差の位相信号を出力する。
信号出力器410は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの0°と同期するように、第4画素324の第1フォトゲート324aを駆動させる。このために、信号出力器410は、第4画素324の第1フォトゲート324aを駆動させるための第7フォトゲート駆動信号(7)を第4画素324の第1フォトゲート324aに供給する。第4画素324の第1フォトゲート324aは、入力された第7フォトゲート駆動信号(7)によって駆動され、光源100から照射される光の初期位相0°に対応する位相信号を生成する。第4画素324の第1フォトゲート324aは、生成された位相信号を位相パターン処理部600に出力する。信号出力器410は、光源100から照射される光の初期位相0°、90°、180°、270°のうちの180°と同期するように、第4画素324の第2フォトゲート324bを駆動させる。このために、信号出力器410は、第4画素324の第2フォトゲート324bを駆動させるための第8フォトゲート駆動信号(8)を第4画素324の第2フォトゲート324bに供給する。第4画素324の第2フォトゲート324bは、入力された第8フォトゲート駆動信号(8)によって駆動され、光源100から照射される光の初期位相180°に対応する位相信号を生成する。第4画素324の第2フォトゲート324bは、生成された位相信号を位相パターン処理部600に出力する。このように、第4画素324の第1フォトゲート324aと第2フォトゲート324bとは、互いに180°の差の位相信号を出力する。
位相パターン処理部600は、1つのフレーム期間の間複数のフォトゲート321a、321b、322a、322b、323a、323b、324a、324bの各々から入力された位相信号をアナログ-デジタル変換して各々のデジタル位相値を生成する。位相パターン処理部600は、入力モード又は既設定モードに基づいて、デジタル位相値を配列する。この時、位相パターン処理部600は、図8に示すように、光源から照射された光の初期位相0°、90°、180°、270°に対応するデジタル位相値を選択的に配列して、1つの位相パターンイメージ810を生成する。即ち、位相パターン処理部600は、0°、90°、180°、及び270°の位相信号を1つのフレームに選択的に配列して、位相パターンイメージ810を生成する。
図8に示す1つの位相パターンイメージ810は、X軸方向の解像度を考慮して生成される。位相パターン処理部600は、X軸方向に対して高い解像度を求めるシステムに、ToFセンサーを含む3次元映像装置1000を適用する場合、入力モード又は既設定モードに基づいて、図8に示す位相パターンイメージ810を適用する。
位相パターン処理部600は、1つの位相パターンイメージ810の偶数行には0°及び180°のデジタル位相値を配列し、奇数行には90°及び270°のデジタル位相値を配列してもよい。一方、位相パターン処理部600は、1つの位相パターンイメージ810の奇数行には0°及び180°のデジタル位相値を配列し、偶数行には90°及び270°のデジタル位相値を配列してもよい。
位相パターン処理部600は、1つの位相パターンイメージ810の偶数列には0°及び270°のデジタル位相値を配列し、奇数列には90°及び180°のデジタル位相値を配列してもよい。一方、位相パターン処理部600は、1つの位相パターンイメージ810の奇数列に0°及び270°のデジタル位相値を配列し、偶数列には90°及び180°のデジタル位相値を配列してもよい。図8では、全フレームを全て示してはいないが、領域Aの位相パターンが繰り返して配置される形態で位相パターンイメージ810が生成される。
図11は、Y軸方向の解像度を考慮した位相パターンを示す図である。図12は、図11に示す位相パターンを生成するために、センサー駆動部からToFセンサーの各画素に供給される制御信号のタイミングを示す図である。図11及び図12に示す本発明の実施形態は、センサー駆動部400から出力されるフォトゲート駆動信号のタイミング及び位相パターンの配列形態を除く他の部分は、図8乃至図10を参照して説明した実施形態と同一であり、同一の内容に関する説明は省略する。
図9、図11、及び図12を参照すると、位相パターン処理部600は、4つの位相信号(0°、90°、180°、及び270°)のデジタル位相値を1つの位相パターンイメージ820に配置する。位相パターン処理部600は、図11に示す領域Bの位相パターンが繰り返される形態で1つの位相パターンイメージ820を生成する。領域Bの位相パターンを生成するために、センサー駆動部400の信号出力器410は、第1画素321、第2画素322、第3画素323、及び第4画素324の各々にセンサー駆動信号VD1を供給する。信号出力器410から生成されるセンサー駆動信号VD1は、第1画素321、第2画素322、第3画素323、及び第4画素324の各々に含まれた第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bとを駆動させるための複数のフォトゲート駆動信号(1)~(8)を含む。第1画素321、第2画素322、第3画素323、及び第4画素324の各々に含まれた第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bは、信号出力器410から入力されるフォトゲート駆動信号(1)~(8)によって駆動される。第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bは、1つのフレーム期間の間0°、90°、180°、270°のうちの何れか1つの位相信号を出力する。
具体的に、信号出力器410は、光源100から照射される光の初期位相0°に同期して、第1画素321の第1フォトゲート321aが駆動されるように、第1フォトゲート駆動信号(1)を第1画素321の第1フォトゲート321aに供給する。また、信号出力器410は、光源100から照射される光の初期位相0°に同期して、第3画素323の第1フォトゲート323aが駆動されるように、第5フォトゲート駆動信号(5)を第3画素323の第1フォトゲート323aに供給する。
信号出力器410は、光源100から照射される光の初期位相180°に同期して、第1画素321の第2フォトゲート321bが駆動されるように、第2フォトゲート駆動信号(2)を第1画素321の第2フォトゲート321bに供給する。また、信号出力器410は、光源100から照射される光の初期位相180°に同期して、第3画素323の第2フォトゲート323bが駆動されるように、第6フォトゲート駆動信号(6)を第3画素323の第2フォトゲート323bに供給する。
信号出力器410は、光源100から照射される光の初期位相270°に同期して、第2画素322の第1フォトゲート322aが駆動されるように、第3フォトゲート駆動信号(3)を第2画素322の第1フォトゲート322aに供給する。また、信号出力器410は、光源100から照射される光の初期位相270°に同期して、第4画素324の第1フォトゲート324aが駆動されるように、第7フォトゲート駆動信号(7)を第4画素324の第1フォトゲート324aに供給する。
信号出力器410は、光源100から照射される光の初期位相90°に同期して、第2画素322の第2フォトゲート322bが駆動されるように、第4フォトゲート駆動信号(4)を第2画素322の第2フォトゲート322bに供給する。また、信号出力器410は、光源100から照射される光の初期位相90°に同期して、第4画素324の第2フォトゲート324bが駆動されるように、第8フォトゲート駆動信号(8)を第4画素324の第2フォトゲート324bに供給する。
第1画素321の第1フォトゲート321aは、第1フォトゲート駆動信号(1)に応答して、光源100から照射される光の初期位相0°に対応する位相信号を生成する。第3画素323の第1フォトゲート323aは、第5フォトゲート駆動信号(5)に応答して、光源100から照射される光の初期位相0°に対応する位相信号を生成する。第1画素321の第1フォトゲート321a及び第3画素323の第1フォトゲート323aは、生成された位相信号を位相パターン処理部600に出力する。
第2画素322の第2フォトゲート322bは、第4フォトゲート駆動信号(4)に応答して、光源100から照射される光の初期位相90°に対応する位相信号を生成する。第4画素324の第2フォトゲート324bは、第8フォトゲート駆動信号(8)に応答して、光源100から照射される光の初期位相90°に対応する位相信号を生成する。第2画素322の第2フォトゲート322b及び第4画素324の第2フォトゲート324bは、生成された位相信号を位相パターン処理部600に出力する。
第1画素321の第2フォトゲート321bは、第2フォトゲート駆動信号(2)に応答して、光源100から照射される光の初期位相180°に対応する位相信号を生成する。第3画素323の第2フォトゲート323bは、第6フォトゲート駆動信号(6)に応答して、光源100から照射される光の初期位相180°に対応する位相信号を生成する。第1画素321の第2フォトゲート321b及び第3画素323の第2フォトゲート323bは、生成された位相信号を位相パターン処理部600に出力する。
第2画素322の第1フォトゲート322aは、第3フォトゲート駆動信号(3)に応答して、光源100から照射される光の初期位相270°に対応する位相信号を生成する。第4画素324の第1フォトゲート324aは、第7フォトゲート駆動信号(7)に応答して、光源100から照射される光の初期位相270°に対応する位相信号を生成する。第2画素322の第1フォトゲート322a及び第4画素324の第1フォトゲート324aは、生成された位相信号を位相パターン処理部600に出力する。
位相パターン処理部600は、入力モード又は既設定モードに基づいて、デジタル位相値を選択的に配列する。この時、位相パターン処理部600は、図11に示すように、光源から照射された光の初期位相0°、90°、180°、270°に対応するデジタル位相値を配列して、1つの位相パターンイメージ820を生成する。図11に示す位相パターンイメージ820は、Y軸方向の解像度を考慮して生成される。位相パターン処理部600は、Y軸方向に対して高い解像度を求めるシステムに、ToFセンサーを含む3次元映像装置1000を適用する場合、入力モード又は既設定モードに基づいて、図11に示す位相パターンイメージ820を適用する。
位相パターン処理部600は、位相パターンイメージ820の全ての行には、0°、90°、180°、及び270°のデジタル位相値を配列する。また、位相パターン処理部600は、位相パターンイメージ820の第1列には0°のデジタル位相値を配列し、位相パターンイメージ820の第2列には180°のデジタル位相値を配列し、位相パターンイメージ820の第3列には270°のデジタル位相値を配列し、位相パターンイメージ820の第4列には90°のデジタル位相値を配列する。位相パターン処理部600は、第1列の位相パターン乃至第4列の位相パターンを繰り返して配列する。即ち、位相パターン処理部600は、0°、90°、180°、及び270°の位相信号を1つのフレームに選択的に配列して、位相パターンイメージ820を生成する。図11では、全フレームを全て示してはいないが、領域Bの位相パターンが繰り返して配置される形態で位相パターンイメージ820が生成される。
図13は、X軸方向及びY軸方向の解像度を考慮して、チェッカーボード方式で位相を配置した位相パターンを示す図である。図14は、図13に示す位相パターンを生成するために、センサー駆動部からToFセンサーの各画素に供給される制御信号のタイミングを示す図である。
図9、図13、及び図14を参照すると、位相パターン処理部600は、4つの位相信号(0°、90°、180°、及び270°)のデジタル位相値を1つの位相パターンイメージ830に配置する。位相パターン処理部600は、図13に示す領域Cの位相パターンが繰り返される形態で位相パターンイメージ830を生成する。
領域Cの位相パターンを生成するために、センサー駆動部400の信号出力器410は、第1画素321、第2画素322、第3画素323、及び第4画素324の各々にセンサー駆動信号VD1を供給する。信号出力器410から生成されるセンサー駆動信号VD1は、第1画素321、第2画素322、第3画素323、及び第4画素324の各々に含まれた第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bを駆動させるための複数のフォトゲート駆動信号(1)~(8)を含む。第1画素321、第2画素322、第3画素323、及び第4画素324の各々に含まれた第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bは、信号出力器410から入力されるフォトゲート駆動信号(1)~(8)によって駆動される。第1フォトゲート321a、322a、323a、324aと第2フォトゲート321b、322b、323b、324bは、1つのフレーム期間の間0°、90°、180°、270°のうちの何れか1つの位相信号を出力する。
具体的に、信号出力器410は、光源100から照射される光の初期位相270°に同期して、第1画素321の第1フォトゲート321aが駆動されるように、第1フォトゲート駆動信号(1)を第1画素321の第1フォトゲート321aに供給する。また、信号出力器410は、光源100から照射される光の初期位相270°に同期して、第4画素324の第1フォトゲート324aが駆動されるように、第7フォトゲート駆動信号(7)を第4画素324の第1フォトゲート324aに供給する。
信号出力器410は、光源100から照射される光の初期位相90°に同期して、第1画素321の第2フォトゲート321bが駆動されるように、第2フォトゲート駆動信号(2)を第1画素321の第2フォトゲート321bに供給する。また、信号出力器410は、光源100から照射される光の初期位相90°に同期して、第4画素324の第2フォトゲート324bが駆動されるように、第8フォトゲート駆動信号(8)を第4画素324の第2フォトゲート324bに供給する。
信号出力器410は、光源100から照射される光の初期位相0°に同期して、第2画素322の第1フォトゲート322aが駆動されるように、第3フォトゲート駆動信号(3)を第2画素322の第1フォトゲート322aに供給する。また、信号出力器410は、光源100から照射される光の初期位相0°に同期して、第3画素323の第1フォトゲート323aが駆動されるように、第5フォトゲート駆動信号(5)を第3画素323の第1フォトゲート323aに供給する。
信号出力器410は、光源100から照射される光の初期位相180°に同期して、第2画素322の第2フォトゲート322bが駆動されるように、第4フォトゲート駆動信号(4)を第2画素322の第2フォトゲート322bに供給する。また、信号出力器410は、光源100から照射される光の初期位相180°に同期して、第3画素323の第2フォトゲート323bが駆動されるように、第6フォトゲート駆動信号(6)を第3画素323の第2フォトゲート323bに供給する。
第2画素322の第1フォトゲート322aは、第3フォトゲート駆動信号(3)に応答して、光源100から照射される光の初期位相0°に対応する位相信号を生成する。第3画素323の第1フォトゲート323aは、第5フォトゲート駆動信号(5)に応答して、光源100から照射される光の初期位相0°に対応する位相信号を生成する。第2画素322の第1フォトゲート322a及び第3画素323の第1フォトゲート323aは、生成された位相信号を位相パターン処理部600に出力する。
第1画素321の第2フォトゲート321bは、第2フォトゲート駆動信号(2)に応答して、光源100から照射される光の初期位相90°に対応する位相信号を生成する。第4画素324の第2フォトゲート324bは、第8フォトゲート駆動信号(8)に応答して、光源100から照射される光の初期位相90°に対応する位相信号を生成する。第1画素321の第2フォトゲート321b及び第4画素324の第2フォトゲート324bは、生成された位相信号を位相パターン処理部600に出力する。
第2画素322の第2フォトゲート322bは、第4フォトゲート駆動信号(4)に応答して、光源100から照射される光の初期位相180°に対応する位相信号を生成する。第3画素323の第2フォトゲート323bは、第6フォトゲート駆動信号(6)に応答して、光源100から照射される光の初期位相180°に対応する位相信号を生成する。第2画素322の第2フォトゲート322b及び第3画素323の第2フォトゲート323bは、生成された位相信号を位相パターン処理部600に出力する。
第1画素321の第1フォトゲート321aは、第1フォトゲート駆動信号(1)に応答して、光源100から照射される光の初期位相270°に対応する位相信号を生成する。第4画素324の第1フォトゲート324aは、第7フォトゲート駆動信号(7)に応答して、光源100から照射される光の初期位相270°に対応する位相信号を生成する。第1画素321の第1フォトゲート321a及び第4画素324の第1フォトゲート324aは、生成された位相信号を位相パターン処理部600に出力する。
位相パターン処理部600は、入力モード又は既設定モードに基づいて、デジタル位相値を選択的に配列する。このとき、位相パターン処理部600は、図13に示すように、光源から照射された光の初期位相0°、90°、180°、270°に対応するデジタル位相値を配列して、1つの位相パターンイメージ830を生成する。図13に示す1つの位相パターンイメージ830は、X軸方向及びY軸方向の解像度を考慮して生成される。位相パターン処理部600は、X軸方向及びY軸方向に対して一定の解像度を求めるシステムに、ToFセンサーを含む3次元映像装置1000を適用する場合、入力モード又は既設定モードに基づいて、図13に示す位相パターンイメージ830を適用する。
位相パターン処理部600は、1つの位相パターンイメージ830の全ての行に前記0°、90°、180°、及び270°のデジタル位相値を配列する。また、位相パターン処理部600は、1つの位相パターンイメージ830の全ての列に前記0°、90°、180°、及び270°のデジタル位相値を配列する。即ち、位相パターン処理部600は、0°、90°、180°、及び270°の位相信号を1つのフレームに選択的に配列して、位相パターンイメージ830を生成する。図13では、全フレームを全て示してはいないが、領域Cの位相パターンが繰り返して配置される形態で位相パターンイメージ830が生成される。
奥行き情報生成部700は、位相パターン処理部600から入力された1つの位相パターンイメージに基づいて、物体の奥行き情報、即ち、奥行きマップを生成する。この時、物体の奥行き情報は、次の数式(1)又は数式(2)を適用して生成される。奥行き情報生成部700は、図4A及び図4Bに示すように、4つの位相ポイント(0°、90°、180°、及び270°)からサンプリングした位相信号A0、A1、A2、A3を用いて物体の奥行き情報を生成する。この時、奥行き情報生成部700は、位相信号A0、A1、A2、A3に次の数式(1)又は数式(2)を適用して物体の奥行き情報を生成する。4つの位相ポイントからサンプリングした位相信号がA0、A1、A2、A3である場合、位相差φは、次の数式(1)のように算出する。
Figure 0007347942000001
数式(1)のように、4つの位相ポイントからサンプリングしたA0、A1、A2、A3の位相信号を用いて、光源100から照射された光と物体から反射されて受信した光との位相差φを算出する。
物体との距離dは、次の数式(2)のように算出する。
Figure 0007347942000002
数式(2)において、cは光の速度を意味し、fmは変調周波数を意味する。このように、奥行き情報生成部700は、位相差を用いて光源100と物体との距離を計算することにより、物体の奥行き情報を取得する。
図8の位相パターンを見ると、横方向の位相信号が1行おきに配置されていることが確認される。奥行き情報生成部700は、図8の位相パターンイメージを受信した場合、周辺の画素信号を用いた位相補間(Phase interpolation)を適用して、縦方向の1行おきの位相信号を推定する。このようにして、奥行き情報生成部700は、横方向において高解像度を有する奥行き情報を取得する。
図11の位相パターンを見ると、横方向の位相信号が1行おきに配置されていることが確認される。奥行き情報生成部700は、図11の位相パターンイメージを受信した場合、周辺の画素信号を用いた位相補間を適用して、横方向の1行おきの位相信号を推定する。このようにして、奥行き情報生成部700は、縦方向において高解像度を有する奥行き情報を取得する。
図13の位相パターンを見ると、横方向及び縦方向に0°、90°、180°、及び270°の位相信号が互いにずれた形態で配列されている。奥行き情報生成部700は、図13の位相パターンイメージを受信した場合、横方向及び縦方向において一定レベルの解像度を有する奥行き情報を取得する。図13の位相パターンを適用する場合、横方向及び縦方向の解像度がsqrt(2)ほど減少するが、横方向及び縦方向の何れにおいても、一定レベルの解像度を得る。即ち、横方向及び縦方向においてバランスの取れた解像度を得る。
図8乃至図14を参照する説明において、位相パターン処理部600が図8、図11、又は図13に示す位相パターンを含む位相パターンイメージを生成するということを説明した。しかし、これに限定されず、位相パターン処理部600は、リアルタイムで撮影されたイメージを分析して適用可能なモードを判断し、判断したモードに基づいて位相パターンイメージを生成する。位相パターン処理部600から生成された位相パターンイメージを奥行き情報生成部700に出力する。一例として、位相パターン処理部600は、横方向において高解像度が必要な場合、図8に示す位相パターンを含む位相パターンイメージを生成する。一例として、位相パターン処理部600は、縦方向において高解像度が必要な場合、図11に示す位相パターンを含む位相パターンイメージを生成する。一例として、位相パターン処理部600は、横方向及び縦方向において一定レベルの解像度が必要な場合、図13に示す位相パターンを含む位相パターンイメージを生成する。一例として、位相パターン処理部600は、第1フレーム期間の間横方向において高解像度が必要な場合、図8に示す位相パターンイメージを生成する。その後、第2フレーム期間の間縦方向において高解像度が必要な場合、図11に示す位相パターンイメージを生成する。その後、第3フレーム期間の間横方向及び縦方向において一定レベルの解像度が必要な場合、図13に示す位相パターンイメージを生成する。
図15Aは、チェッカーボード方式で位相信号を配置した位相パターンを示す図である。図15Bは、図15Aのチェッカーボード方式の位相パターンを2×2ビニング方式で複数の画素をグループ化して、位相パターンを配置したことを示す図である。
図15Aを参照すると、位相パターン処理部600は、光源100から照射された光の初期位相0°、90°、180°、及び270°に対応する位相信号のデジタル位相値を互いにずれるように配置し、チェッカーボード方式で1つの位相パターンイメージ830を生成する。図15Aでは、隣り合う2つの画素に含まれた合計4つのフォトゲートが互いに異なる位相信号0°、90°、180°、及び270°を出力することを示す。位相パターン処理部600は、各々のフォトゲートから出力された位相信号の入力を受け、0°、90°、180°、及び270°の位相信号のデジタル位相値が互いにずれるように配列された位相パターンを繰り返し配置する。このようにして、位相パターン処理部600は、0°、90°、180°、及び270°の位相信号を全て含む1つの位相パターンイメージ830を生成する。
図15Bを参照すると、一定個数の画素をグループにして画素群を形成し、画素群に含まれた画素が同一の位相信号を出力するようにすることで、奥行きマップの出力サイズを減らす。隣り合う画素群は、互いに異なる位相信号を出力するようにする。具体的に、4つの画素を1つの画素群として、画素群内の画素は、同一の位相信号を出力する。このとき、1つの画素群を構成する4つの画素に含まれた第1フォトゲートは、同一の位相信号を出力する。また、1つの画素群を構成する4つの画素に含まれた第2フォトゲートは、同一の位相信号を出力する。第1フォトゲートと第2フォトゲートとは、互いに180°の位相差を有する位相信号を出力する。
一例として、I画素群に含まれた4つの画素の第1フォトゲートの各々では、光源100の初期位相0°に対応する位相信号を出力する。また、I画素群に含まれた4つの画素の第2フォトゲートの各々では、光源100の初期位相180°に対応する位相信号を出力する。I画素群における複数の第1フォトゲートと複数の第2フォトゲートとは、互いに180°の位相差を有する位相信号を出力する。
I画素群と隣り合うQ画素群に含まれた4つの画素の第1フォトゲートの各々では、光源100の初期位相270°に対応する位相信号を出力する。また、Q画素群に含まれた4つの画素の第2フォトゲートの各々では、光源100の初期位相90°に対応する位相信号を出力する。Q画素群における複数の第1フォトゲートと複数の第2フォトゲートとは、互いに180°の位相差を有する位相信号を出力する。
図16及び図17は、図15Bに示す位相パターンのうちのIブロック及びQブロックの位相パターンを生成するためのセンサー駆動部及びToFセンサーの駆動方法を説明するための図である。図18は、図15Bに示す位相パターンを生成するために、センサー駆動部からToFセンサーの各画素に供給される制御信号のタイミングを示す図である。図16では、I画素群に含まれた4つの画素321~324を示しており、図17では、Q画素群に含まれた4つの画素325~328を示している。
図16乃至図18を参照すると、信号出力器410から生成されるセンサー駆動信号VD1は、I画素群に含まれた4つの画素321~324の各々の第1フォトゲート321a、322a、323a、324aと、第2フォトゲート321b、322b、323b、324bとを駆動させるための複数のフォトゲート駆動信号I(1)~I(8)を含む。また、信号出力器410から生成されるセンサー駆動信号VD1は、Q画素群に含まれた4つの画素325~328の各々の第1フォトゲート325a、326a、327a、328aと、第2フォトゲート325b、326b、327b、328bとを駆動させるための複数のフォトゲート駆動信号Q(1)~Q(8)を含む。
先ず、図16に示すI画素群に含まれた画素321、322、323、324に供給されるフォトゲート駆動信号I(1)~I(8)を説明する。信号出力器410は、光源100から照射される光の初期位相0°に同期して、I画素群に含まれた第1画素321、第2画素322、第3画素323、及び第4画素324の第1フォトゲート321a、322a、323a、324aが駆動されるように、各々のフォトゲートにフォトゲート駆動信号I(1)、I(3)、I(5)、I(7)を供給する。また、信号出力器410は、光源100から照射される光の初期位相180°に同期して、I画素群に含まれた第1画素321、第2画素322、第3画素323、及び第4画素324の第2フォトゲート321b、322b、323b、324bが駆動されるように、各々のフォトゲートにフォトゲート駆動信号I(2)、I(4)、I(6)、I(8)を供給する。
I画素群に含まれた第1画素321の第1フォトゲート321aは、フォトゲート駆動信号I(1)に応答して、光源100から照射される光の初期位相0°に対応する位相信号を生成する。I画素群に含まれた第2画素322の第1フォトゲート322aは、フォトゲート駆動信号I(3)に応答して、光源100から照射される光の初期位相0°に対応する位相信号を生成する。I画素群に含まれた第3画素323の第1フォトゲート323aは、フォトゲート駆動信号I(5)に応答して、光源100から照射される光の初期位相0°に対応する位相信号を生成する。I画素群に含まれた第4画素324の第1フォトゲート324aは、フォトゲート駆動信号I(7)に応答して、光源100から照射される光の初期位相0°に対応する位相信号を生成する。I画素群に含まれた第1画素321、第2画素322、第3画素323、及び第4画素324の第1フォトゲート321a、322a、323a、324aは、生成された位相信号を位相パターン処理部600に出力する。
I画素群に含まれた第1画素321の第2フォトゲート321bは、フォトゲート駆動信号I(2)に応答して、光源100から照射される光の初期位相180°に対応する位相信号を生成する。I画素群に含まれた第2画素322の第2フォトゲート322bは、フォトゲート駆動信号I(4)に応答して、光源100から照射される光の初期位相180°に対応する位相信号を生成する。I画素群に含まれた第3画素323の第2フォトゲート323bは、フォトゲート駆動信号I(6)に応答して、光源100から照射される光の初期位相180°に対応する位相信号を生成する。I画素群に含まれた第4画素324の第2フォトゲート324bは、フォトゲート駆動信号I(8)に応答して、光源100から照射される光の初期位相180°に対応する位相信号を生成する。I画素群に含まれた第1画素321、第2画素322、第3画素323、及び第4画素324の第2フォトゲート321b、322b、323b、324bは、生成された位相信号を位相パターン処理部600に出力する。
次に、図17に示すQ画素群に含まれた画素325、326、327、328に供給されるフォトゲート駆動信号Q(1)~Q(8)を説明する。信号出力器410は、光源100から照射される光の初期位相270°に同期して、Q画素群に含まれた第1画素325、第2画素326、第3画素327、及び第4画素328の第1フォトゲート325a、326a、327a、328aが駆動されるように、各々のフォトゲートにフォトゲート駆動信号Q(1)、Q(3)、Q(5)、Q(7)を供給する。また、信号出力器410は、光源100から照射される光の初期位相90°に同期して、Q画素群に含まれた第1画素325、第2画素326、第3画素327、及び第4画素328の第2フォトゲート325b、326b、327b、328bが駆動されるように、各々のフォトゲートにフォトゲート駆動信号Q(2)、Q(4)、Q(6)、Q(8)を供給する。
Q画素群に含まれた第1画素325の第1フォトゲート325aは、フォトゲート駆動信号Q(1)に応答して、光源100から照射される光の初期位相270°に対応する位相信号を生成する。Q画素群に含まれた第2画素326の第1フォトゲート326aは、フォトゲート駆動信号Q(3)に応答して、光源100から照射される光の初期位相270°に対応する位相信号を生成する。Q画素群に含まれた第3画素327の第1フォトゲート327aは、フォトゲート駆動信号Q(5)に応答して、光源100から照射される光の初期位相270°に対応する位相信号を生成する。Q画素群に含まれた第4画素328の第1フォトゲート328aは、フォトゲート駆動信号Q(7)に応答して、光源100から照射される光の初期位相270°に対応する位相信号を生成する。Q画素群に含まれた第1画素325、第2画素326、第3画素327、及び第4画素328の第1フォトゲート325a、326a、327a、328aは、生成された位相信号を位相パターン処理部600に出力する。
Q画素群に含まれた第1画素325の第2フォトゲート325bは、フォトゲート駆動信号Q(2)に応答して、光源100から照射される光の初期位相90°に対応する位相信号を生成する。Q画素群に含まれた第2画素326の第2フォトゲート326bは、フォトゲート駆動信号Q(4)に応答して、光源100から照射される光の初期位相90°に対応する位相信号を生成する。Q画素群に含まれた第3画素327の第2フォトゲート327bは、フォトゲート駆動信号Q(6)に応答して、光源100から照射される光の初期位相90°に対応する位相信号を生成する。Q画素群に含まれた第4画素328の第2フォトゲート328bは、フォトゲート駆動信号Q(8)に応答して、光源100から照射される光の初期位相90°に対応する位相信号を生成する。Q画素群に含まれた第1画素325、第2画素326、第3画素327、及び第4画素328の第2フォトゲート325b、326b、327b、328bは、生成された位相信号を位相パターン処理部600に出力する。
位相パターン処理部600は、入力モード又は既設定モードに基づいて、デジタル位相値を配列する。この時、位相パターン処理部600は、図15Bに示すように、光源から照射された光の初期位相0°、90°、180°、及び270°に対応するデジタル位相値を配列して、1つの位相パターンイメージ840を生成する。図15Bに示す1つの位相パターンイメージ840は、X軸方向及びY軸方向の解像度を考慮して生成される。位相パターン処理部600は、X軸方向及びY軸方向に対して一定の解像度を求めるシステムに、ToFセンサーを含む3次元映像装置1000を適用する場合、入力モード又は既設定モードに基づいて、図15Bに示す位相パターンイメージ840を適用する。
図19乃至図22は、本発明の一実施形態の位相パターンを示すもので、4×4個の画素を1つの単位画素パターンにグループ化して位相パターンを配置したことを示す図である。
図19乃至図22に示す位相パターンイメージを生成するためのToFセンサー300、センサー駆動部400、及び位相パターン処理部600の動作並びに駆動信号は、図8乃至図18の内容を参照する。図19乃至図22に示すように、図15Bに示すI画素群及びQ画素群の位相パターンの配列を異にして、多様な形態の位相パターンイメージを生成する。
図19に示す位相パターンイメージ850を見ると、複数のI画素群と複数のQ画素群とが2次元アレイ状に配列される。1つの位相パターンイメージ内において、同じ個数のI画素群とQ画素群とを階段状に配列する。複数のI画素群と複数のQ画素群のうちの一部は、横方向及び縦方向に隣接して配置される。また、複数のI画素群と複数のQ画素群のうちの一部は、横方向に隣接して配置され、縦方向に離隔して配置される。さらに、複数のI画素群と複数のQ画素群のうちの一部は、縦方向に隣接して配置され、横方向に離隔して配置される。
奇数行H1、H3、H5、H7には、I画素群の位相パターンよりもQ画素群の位相パターンをより多く配置する。一例として、奇数行H1、H3、H5、H7には、I画素群の位相パターンに比べてQ画素群の位相パターンを3倍多く配置する。即ち、奇数行H1、H3、H5、H7には、I画素群とQ画素群の位相パターンが1:3の割合で配置される。これに限定されず、I画素群とQ画素群の位相パターンが1:2、1:4、1:5、又は1:6の割合で配置される。
反面、偶数行H2、H4、H6、H8には、Q画素群の位相パターンよりもI画素群の位相パターンをより多く配置する。一例として、偶数行H2、H4、H6、H8には、Q画素群の位相パターンに比べてI画素群の位相パターンを3倍多く配置する。即ち、偶数行H2、H4、H6、H8には、Q画素群とI画素群の位相パターンが1:3の割合で配置される。これに限定されず、Q画素群とI画素群の位相パターンが1:2、1:4、1:5、又は1:6の割合で配置される。
また、奇数列V1、V3、V5、V7には、Q画素群の位相パターンよりもI画素群の位相パターンをより多く配置する。一例として、奇数列V1、V3、V5、V7には、Q画素群の位相パターンに比べてI画素群の位相パターンを3倍多く配置する。即ち、奇数列V1、V3、V5、V7には、Q画素群とI画素群の位相パターンが1:3の割合で配置される。これに限定されず、Q画素群とI画素群の位相パターンが1:2、1:4、1:5、又は1:6の割合で配置される。
反面、偶数列V2、V4、V6、V8には、I画素群の位相パターンよりもQ画素群の位相パターンをより多く配置する。一例として、偶数列V2、V4、V6、V8には、I画素群の位相パターンに比べてQ画素群の位相パターンを3倍多く配置する。即ち、偶数列V2、V4、V6、V8には、I画素群とQ画素群の位相パターンが1:3の割合で配置される。これに限定されず、I画素群とQ画素群の位相パターンが1:2、1:4、1:5、又は1:6の割合で配置される。ここで、I画素群の位相パターンには、光源100から照射された光の初期位相0°及び180°に対応する位相信号が含まれる。Q画素群の位相パターンには、光源100から照射された光の初期位相90°及び270°に対応する位相信号が含まれる。
図20に示す位相パターンイメージ860を見ると、複数のI画素群と複数のQ画素群とが2次元アレイ状に配列される。1つの位相パターンイメージ内において、同じ個数のI画素群とQ画素群とを階段状に配列する。奇数行H1、H3、H5、H7には、Q画素群の位相パターンよりもI画素群の位相パターンをより多く配置する。一例として、奇数行H1、H3、H5、H7には、Q画素群の位相パターンに比べてI画素群の位相パターンを3倍多く配置する。即ち、奇数行H1、H3、H5、H7には、Q画素群とI画素群の位相パターンが1:3の割合で配置される。これに限定されず、Q画素群とI画素群の位相パターンが1:2、1:4、1:5、又は1:6の割合で配置される。
反面、偶数行H2、H4、H6、H8には、I画素群の位相パターンよりもQ画素群の位相パターンをより多く配置する。一例として、偶数行H2、H4、H6、H8には、I画素群の位相パターンに比べてQ画素群の位相パターンを3倍多く配置する。即ち、偶数行H2、H4、H6、H8には、I画素群とQ画素群の位相パターンが1:3の割合で配置される。これに限定されず、I画素群とQ画素群の位相パターンが1:2、1:4、1:5、又は1:6の割合で配置される。
また、奇数列V1、V3、V5、V7には、I画素群の位相パターンよりもQ画素群の位相パターンをより多く配置する。一例として、I画素群の位相パターンに比べてQ画素群の位相パターンを3倍多く配置する。即ち、奇数列V1、V3、V5、V7には、I画素群とQ画素群の位相パターンが1:3の割合で配置される。これに限定されず、I画素群とQ画素群の位相パターンが1:2、1:4、1:5、又は1:6の割合で配置される。反面、偶数列V2、V4、V6、V8には、Q画素群の位相パターンよりもI画素群の位相パターンをより多く配置する。一例として、Q画素群の位相パターンに比べてI画素群の位相パターンを3倍多く配置する。即ち、偶数列V2、V4、V6、V8には、Q画素群とI画素群の位相パターンが1:3の割合で配置される。これに限定されず、Q画素群とI画素群の位相パターンが1:2、1:4、1:5、又は1:6の割合で配置される。ここで、I画素群の位相パターンには、光源100から照射された光の初期位相0°及び180°に対応する位相信号が含まれる。Q画素群の位相パターンには、光源100から照射された光の初期位相90°及び270°に対応する位相信号が含まれる。
図21に示す位相パターンイメージ870を見ると、I画素群とQ画素群の位相パターンを配列する規則は、図19を参照して説明した実施例と同一である。各行と各列におけるI画素群の位相パターンとQ画素群の位相パターンの個数及び割合は、図19を参照して説明した実施例と同一である。図19に示す位相パターンイメージと図21に示す位相パターンイメージにおいて、I画素群とQ画素群の位置は互いに置き換え可能である。
図22に示す位相パターンイメージ880を見ると、I画素群とQ画素群の位相パターンを配列する規則は、図20を参照して説明した実施例と同一である。各行と各列におけるI画素群の位相パターンとQ画素群の位相パターンの個数及び割合は、図20を参照して説明した実施例と同一である。図20に示す位相パターンイメージと図22に示す位相パターンイメージにおいて、I画素群とQ画素群の位置は互いに置き換え可能である。
図19乃至図22において、各行と各列に互いに異なる個数のI画素群とQ画素群とを配置するが、位相パターンイメージ内においては、I画素群とQ画素群の個数が同一である。このような画素群の配置を通じて、ダイナミックレンジ(Dynamic range)を拡張するためのデュアルエクスポージャー(Dual exposure)方式と結合する場合も、3D解像度を一定に保つことができるという長所がある。
図23A乃至図23Cは、近距離に位置する物体と遠距離に位置する物体の奥行き情報を取得するための位相パターンを配置したことを示す図である。図24は、近距離に位置する物体と遠距離に位置する物体の奥行き情報を取得する方法を説明するための図である。
図23A乃至図24を参照すると、図23Aのチェッカーボード方式の位相パターンと図23Bのデュアルエクスポージャー方式の位相パターンとを結合して、図23Cにハイブリッド位相パターンを生成する。図23Bは、ダイナミックレンジを拡張するためのデュアルエクスポージャー方式の位相パターンの一例を示している。図23Cにおいて、I画素群は、露出時間が長く設定された同位相の画素(Long-exposed in-phase pixel)を意味する。i画素群は、露出時間が相対的に短く設定された同位相の画素(Short-exposed in-phase pixel)を意味する。Q画素群は、露出時間が長く設定された直角位相の画素(Long-exposed quadrature-phase pixel)を意味する。q画素群は、露出時間が相対的に短く設定された直角位相の画素(Short-exposed quadrature-phase pixel)を意味する。
図24に示すように、ToFセンサー300と近い距離に位置する第1物体OB1からの反射光を受信する画素では、相対的に短時間で受信光の飽和が発生する。一方、ToFセンサー300と遠い距離に位置する第2物体OB2からの反射光を受信する画素では、相対的に長時間で受信光の飽和が発生する。この場合、全ての画素の駆動時間を同一に設定すると、第1物体OB1及び第2物体OB2から受信した光の飽和が全て発生し、これにより、第1物体OB1と第2物体OB2との距離差が不明確になる。このような問題を解決するために、各画素310の受信光を累積する駆動時間を調節する。一例として、ToFセンサー300と近い距離に位置する第1物体OB1と、第1物体OB1よりも遠い距離に位置する第2物体OB2との距離差が明確になるように、各画素310の駆動時間を調節する。
具体的に、図23Bに示すように、全画素310を複数の第1画素群と第2画素群とに区分する。第1画素群(I画素群及びQ画素群)を構成する画素の駆動時間を第1時間と設定する。第2画素群(i画素群及びq画素群)を構成する画素の駆動時間を前記第1時間よりも短い第2時間と設定する。即ち、第1画素群(I画素群及びQ画素群)の画素は、光を受信して累積する駆動時間を相対的に長く設定する。第2画素群(i画素群及びq画素群)の画素は、光を受信して累積する駆動時間を相対的に短く設定する。この時、第1画素群を構成する画素の駆動時間を第2画素群を構成する画素の駆動時間よりも2倍乃至10倍長く形成する。即ち、第2画素群を構成する画素の駆動時間を第1画素群を構成する画素の駆動時間よりも2倍乃至10倍短く形成する。
図23Bのようなモザイクパターンで各画素の累積時間を長時間Lと短時間Sとで別々に制御してダイナミックレンジを拡張する。ここで、図23Bのチェスモザイクパターンを図13の位相パターンと結合すると、I画素群は常に長い累積時間を有し、Q画素群は常に短い累積時間を有することになり、解像度の低下をもたらす。よって、図23Cのように、図23Aの位相パターンと図23Bのデュアルエクスポージャー方式の位相パターンとを結合すると、解像度を一定に保ちつつ、1つのフレームの映像データから奥行きマップを生成し、ダイナミックレンジを拡張する。
Q画素群は、互いに隣接して配置された複数の第1画素からなり、複数の第1画素が第1時間の間駆動されて、互いに異なる第1位相信号及び第2位相信号を出力する。I画素群は、互いに隣接して配置された複数の第2画素からなり、複数の第2画素が第1時間の間駆動されて、互いに異なる第3位相信号及び第4位相信号を出力する。q画素群は、互いに隣接して配置された複数の第3画素からなり、複数の第3画素が第1時間よりも短い第2時間の間駆動されて、互いに異なる第5位相信号及び第6位相信号を出力する。i画素群は、互いに隣接して配置された複数の第4画素からなり、複数の第4画素が第1時間よりも短い第2時間の間駆動され、互いに異なる第7位相信号及び第8位相信号を出力する。1つのフレーム期間の間前記第1位相信号乃至第8位相信号が出力される。
ここで、複数の第1画素の各々は、第1時間の間受信光を累積して第1位相信号を出力する第1フォトゲートと、第1時間の間受信光を累積して第1位相信号と180°の位相差を有する第2位相信号を出力する第2フォトゲートと、を含む。複数の第2画素の各々は、第1時間の間受信光を累積して第3位相信号を出力する第3フォトゲートと、第1時間の間受信光を累積して第3位相信号と180°の位相差を有する第4位相信号を出力する第4フォトゲートと、含む。複数の第3画素の各々は、第1時間よりも短い第2時間の間受信光を累積して第5位相信号を出力する第5フォトゲートと、第2時間の間受信光を累積して第5位相信号と180°の位相差を有する第6位相信号を出力する第6フォトゲートと、を含む。複数の第4画素の各々は、第1時間よりも短い第2時間の間受信光を累積して第7位相信号を出力する第7フォトゲートと、第2時間の間受信光を累積して第7位相信号と180°の位相差を有する第8位相信号を出力する第8フォトゲートと、を含む。この時、第1位相信号と第3位相信号とは90°の位相差を有し、第2位相信号と第4位相信号とは90°の位相差を有し、第5位相信号と第7位相信号とは90°の位相差を有し、第6位相信号と第8位相信号とは90°の位相差を有する。
i画素群及びq画素群から生成された位相信号を用いて、ToFセンサー300と近い距離に位置する第1物体OB1の距離を算出する。I画素群及びQ画素群から生成された位相信号を用いて、ToFセンサー300と遠い距離に位置する第2物体OB2の距離を算出する。
これに限定されず、ToFセンサー300の周辺照度に応じて、画素の受信光を累積する駆動時間が調節可能である。全ての画素の駆動時間を同一に設定すると、周辺照度が低い暗い環境(例えば、光量の少ない夜間)において物体との距離算出精度が低下する。また、周辺照度が高い明るい環境(例えば、光量の多い昼間)において物体との距離算出精度が低下する。このような問題を解決するために、各画素310の受信光を累積する駆動時間が調節可能である。一例として、第1画素群(I画素群及びQ画素群)を構成する画素の駆動時間を第1時間と設定する。第2画素群(i画素群及びq画素群)を構成する画素の駆動時間を前記第1時間よりも短い第2時間と設定する。
低照度の暗い環境で物体との距離を算出するために、I画素群及びQ画素群を構成する画素を第1時間の間駆動させて、受信光を相対的に長く累積する。I画素群及びQ画素群を構成する各々の画素は、受信光を累積して位相信号を出力する。位相パターン処理部600は、1つの位相パターンイメージにI画素群及びQ画素群の位相信号を配置する。高照度の明るい環境で物体との距離を算出するために、i画素群及びq画素群を構成する画素を第2時間の間駆動させて、受信光を相対的に短く累積する。i画素群及びq画素群を構成する各々の画素は、受信光を累積して位相信号を出力する。位相パターン処理部600は、1つの位相パターンイメージにi画素群及びq画素群の位相信号を配置する。
図23Cのように、位相パターンイメージを生成すると、解像度を一定に保ちつつ、1つのフレームの映像データから奥行きマップを生成すると共に、ダイナミックレンジを拡張する。i画素群及びq画素群から生成された位相信号を用いて、高照度の明るい環境で物体との距離を算出する。I画素群及びQ画素群から生成された位相信号を用いて、低照度の暗い環境で物体との距離を算出する。
以上、近距離物体及び遠距離物体との距離測定、暗い照度及び明るい照度の環境下で物体との距離を測定するために、画素群単位で画素の駆動時間を第1時間(長く)と、第2時間(短く)とに調節することを説明した。しかし、これに限定されず、1つの画素単位で駆動時間を第1時間(長く)、又は第2時間(短く)に調節する。
図25A及び図25Bは、本発明の一実施形態による信号出力器及び画素にフォトゲート駆動信号を供給する配線の配置形態を示す図である。
図13及び図25Aを参照すると、図13に示すチェッカーボード状の位相パターンを生成するために、信号出力器410の信号出力チャンネルと各画素310とは、配線Lを介して連結される。各信号出力チャンネルから出力されるフォトゲート駆動信号は、配線Lを介して各画素310の第1フォトゲート312と第2フォトゲート314とに入力される。配線Lは、ストライプ状に配列され、同一の位相信号を出力するフォトゲートは、同一の配線Lと接続される。フォトゲート行を基準に、1行当たり2つの配線Lが配置される。即ち、ToFセンサーと信号出力器とを連結させるために、縦方向に配置されたフォトゲートの個数の2倍に当たる配線Lが配置される。信号出力器410は、0°、90°、180°、及び270°の位相信号を出力するためのフォトゲート駆動信号を生成し、各チャンネルを介してフォトゲート駆動信号を出力する。
一例として、1つの位相パターンイメージに0°、90°、180°、及び270°の位相パターンをチェッカーボード状に配置させるために、各画素310の第1フォトゲート312(例えば、2つのタブのうちの上方タブ)には、0°又は270°の位相信号を出力させるためのフォトゲート駆動信号が入力される。各画素310の第2フォトゲート314(例えば、2つのタブのうちの下方タブ)には、90°又は180°の位相信号を出力させるためのフォトゲート駆動信号が入力される。各画素310の第1フォトゲート312(例えば、2つのタブのうちの上方タブ)は、入力されたフォトゲート駆動信号によって動作し、0°又は270°の位相信号を出力する。各画素310の第2フォトゲート314(例えば、2つのタブのうちの下方タブ)は、入力されたフォトゲート駆動信号によって動作し、90°又は180°の位相信号を出力する。
図13及び図25Bを参照すると、図13に示すチェッカーボード状の位相パターンを生成するために、信号出力器410の信号出力チャンネルと各画素310とが、配線Lを介して連結される。各信号出力チャンネルから出力されるフォトゲート駆動信号は、配線Lを介して各画素310の第1フォトゲート312と第2フォトゲート314とに入力される。2つの配線Lは、互いにクロスする形状に配置され、同一の位相信号を出力するフォトゲートは、同一の配線Lと接続される。フォトゲート行を基準に、1行当たり1つの配線Lが配置される。即ち、ToFセンサーと信号出力器とを連結させるために、縦方向に配置されたフォトゲートの個数と同一の配線Lが配置される。信号出力器410は、0°、90°、180°、及び270°の位相信号を出力させるためのフォトゲート駆動信号を生成し、各チャンネルを介してフォトゲート駆動信号を出力する。各画素310のサイズが減少すると、信号出力器410の回路レイアウトが複雑になる。信号出力器410の回路レイアウトの複雑度を減らすために、図25Bのように配線Lを配置する。このようにして、チェッカーボード状の位相パターンを生成するために必要な配線Lの個数を減らすことにより、信号出力器410の回路レイアウトを簡素化させる。
一例として、1つの位相パターンイメージに0°、90°、180°、及び270°の位相パターンをチェッカーボード状に配置させるために、各画素の第1フォトゲート312(例えば、2つのタブのうちの上方タブ)には、0°又は270°の位相信号を出力させるためのフォトゲート駆動信号が入力される。各画素の第2フォトゲート314(例えば、2つのタブのうちの下方タブ)には、90°又は180°の位相信号を出力させるためのフォトゲート駆動信号が入力される。各画素の第1フォトゲート312(例えば、2つのタブのうちの上方タブ)は、入力されたフォトゲート駆動信号によって動作し、0°又は270°の位相信号を出力する。各画素の第2フォトゲート314(例えば、2つのタブのうちの下方タブ)は、入力されたフォトゲート駆動信号によって動作し、90°又は180°の位相信号を出力する。
以上、添付の図面を参照して本発明の技術的思想に係る実施形態を説明したが、本発明が属する技術分野で通常の知識を有する者は、本発明がその技術的思想や必須の特徴を変更することなく、他の具体的な形態で実施できるということを理解すべきである。上述の実施形態は何れも例示的なものであり、限定的なものではないということを理解すべきである。
100:光源
200:光源駆動部
300:ToFセンサー
310:画素
312:第1フォトゲート
314:第2フォトゲート
316:第1信号出力部
318:第2信号出力部
400:センサー駆動部
410:信号出力器
500:制御部
600:位相パターン処理部
610:アナログ-デジタル変換部
612:ADC
620:位相パターン整列部
700:奥行き情報生成部

Claims (19)

  1. ToFセンサーと、位相パターン処理部と、奥行き情報生成部とを含む3次元映像装置であって、前記ToFセンサーは、
    物体から反射された光を受信して、第1位相信号を生成する第1フォトゲートと、前記第1位相信号を出力する第1信号出力部と、前記第1位相信号と180°の位相差を有する第2位相信号を生成する第2フォトゲートと、前記第2位相信号を出力する第2信号出力部とを含む第1画素と、
    前記物体から反射された光を受信して、前記第1位相信号と相違する第3位相信号を生成する第3フォトゲートと、前記第3位相信号を出力する第3信号出力部と、前記第3位相信号と180°の位相差を有する第4位相信号を生成する第4フォトゲートと、前記第4位相信号を出力する第4信号出力部とを含む第2画素とを含み、
    前記位相パターン処理部は、前記第1位相信号乃至第4位相信号をデジタル位相値に変換し、前記デジタル位相値のうち光の第1乃至第4初期位相に対応するものを、1つのフレームの中で所定のパターンで繰り返される形態で配置することにより、1つのフレームに関する位相パターンイメージを生成し、
    前記奥行き情報生成部は、前記デジタル位相値のうち前記第1初期位相に対応するものと前記第3初期位相に対応するものとの間の差分と、前記デジタル位相値のうち前記第2初期位相に対応するものと前記第4初期位相に対応するものとの間の差分との比率の逆正接から算出される位相差を用いて、前記物体との距離を計算することにより、前記物体の奥行き情報を生成する、3次元映像装置。
  2. 前記第1フォトゲートは、光源から照射された前記光の第1乃至第4初期位相0°、90°、180°、270°のうちの1つに対応して前記第1位相信号を出力し、
    前記第1位相信号と前記第3位相信号とは、90°の位相差を有する、請求項1に記載の3次元映像装置。
  3. 前記第2フォトゲートは、光源から照射された前記光の第1乃至第4初期位相0°、90°、180°、270°のうちの1つに対応して前記第2位相信号を出力し、
    前記第2位相信号と前記第4位相信号とは、90°の位相差を有する、請求項1又は2に記載の3次元映像装置。
  4. 前記第3フォトゲートは、光源から照射された前記光の第1乃至第4初期位相0°、90°、180°、270°のうちの1つに対応して前記第3位相信号を出力し、
    前記第3位相信号と前記第2位相信号とは、90°の位相差を有する、請求項1ないし3のうち何れか一項に記載の3次元映像装置。
  5. 前記第4フォトゲートは、光源から照射された前記光の第1乃至第4初期位相0°、90°、180°、270°のうちの1つに対応して前記第4位相信号を出力し、
    前記第4位相信号と前記第1位相信号とは、90°の位相差を有する、請求項1ないし4のうち何れか一項に記載の3次元映像装置。
  6. ToFセンサーと、位相パターン処理部と、奥行き情報生成部とを含む3次元映像装置であって、前記ToFセンサーは、
    互いに隣接して配置された複数の画素を含む複数の第1画素群と、
    互いに隣接して配置された複数の画素を含む複数の第2画素群と、を含み、
    前記複数の第1画素群の複数の画素の各々は、物体から反射された光を受信して180°の位相差を有する第1位相信号及び第2位相信号を出力し、
    前記複数の第2画素群の複数の画素の各々は、物体から反射された光を受信して180°の位相差を有する第3位相信号及び第4位相信号を出力し、
    前記位相パターン処理部は、前記第1位相信号乃至第4位相信号をデジタル位相値に変換し、前記デジタル位相値のうち第1乃至第4初期位相に対応するもの、1つのフレームの中で所定のパターンで繰り返される形態で配置することにより、1つのフレームに関する位相パターンイメージを生成し、
    前記奥行き情報生成部は、前記デジタル位相値のうち前記第1初期位相に対応するものと前記第3初期位相に対応するものとの間の差分と、前記デジタル位相値のうち前記第2初期位相に対応するものと前記第4初期位相に対応するものとの間の差分との比率の逆正接から算出される位相差を用いて、前記物体との距離を計算することにより、前記物体の奥行き情報を生成する、3次元映像装置。
  7. 1つのフレーム期間の間前記第1位相信号、前記第2位相信号、前記第3位相信号、及び前記第4位相信号を出力する、請求項6に記載の3次元映像装置。
  8. 前記複数の第1画素群を構成する複数の画素の各々は、前記第1位相信号を出力する第1フォトゲートと、前記第2位相信号を出力する第2フォトゲートと、を含み、
    前記第2画素群を構成する複数の画素の各々は、前記第3位相信号を出力する第3フォトゲートと、前記第4位相信号を出力する第4フォトゲートと、を含む、請求項7に記載の3次元映像装置。
  9. 前記第1フォトゲートから出力される前記第1位相信号と、前記第3フォトゲートから出力される前記第3位相信号とは、90°の位相差を有する、請求項8に記載の3次元映像装置。
  10. 前記第2フォトゲートから出力される前記第2位相信号と、前記第4フォトゲートから出力される前記第4位相信号とは、90°の位相差を有する、請求項8に記載の3次元映像装置。
  11. 前記複数の第1画素群と前記複数の第2画素群とが、第1方向に交互に配置される、請求項6に記載の3次元映像装置。
  12. 前記複数の第1画素群と前記複数の第2画素群とが、第1方向及び前記第1方向と交差する第2方向にずれた形態で配置される、請求項6に記載の3次元映像装置。
  13. 物体から反射された光を受信するToFセンサーと、位相パターン処理部と、奥行き情報生成部とを含む3次元映像装置であって、前記ToFセンサーは、
    互いに隣接して配置された複数の第1画素を含み、前記複数の第1画素が第1時間の間駆動されて互いに異なる第1位相信号及び第2位相信号を出力する第1画素群と、
    互いに隣接して配置された複数の第2画素を含み、前記複数の第2画素が前記第1時間の間駆動されて互いに異なる第3位相信号及び第4位相信号を出力する第2画素群と、
    互いに隣接して配置された複数の第3画素を含み、前記複数の第3画素が前記第1時間よりも短い第2時間の間駆動されて互いに異なる第5位相信号及び第6位相信号を出力する第3画素群と、
    互いに隣接して配置された複数の第4画素を含み、前記複数の第4画素が前記第2時間の間駆動されて互いに異なる第7位相信号及び第8位相信号を出力する第4画素群とを含み、
    前記位相パターン処理部は、前記第1位相信号乃至第8位相信号をデジタル位相値に変換し、前記デジタル位相値のうち第1乃至第4初期位相に対応するものを、1つのフレームの中で所定のパターンで繰り返される形態で配置することにより、1つのフレームに関する位相パターンイメージを生成し、
    前記奥行き情報生成部は、前記デジタル位相値のうち前記第1初期位相に対応するものと前記第3初期位相に対応するものとの間の差分と、前記デジタル位相値のうち前記第2初期位相に対応するものと前記第4初期位相に対応するものとの間の差分との比率の逆正接から算出される位相差を用いて、前記物体との距離を計算することにより、前記物体の奥行き情報を生成する、3次元映像装置。
  14. 1つのフレーム期間の間前記第1位相信号乃至第8位相信号を出力する、請求項13に記載の3次元映像装置。
  15. 前記複数の第1画素の各々は、
    前記第1時間の間受信光を累積して前記第1位相信号を出力する第1フォトゲートと、
    前記第1時間の間受信光を累積して前記第1位相信号と180°の位相差を有する前記第2位相信号を出力する第2フォトゲートと、を含む、請求項13又は14に記載の3次元映像装置。
  16. 前記複数の第2画素の各々は、
    前記第1時間の間受信光を累積して前記第3位相信号を出力する第3フォトゲートと、
    前記第1時間の間受信光を累積して前記第3位相信号と180°の位相差を有する前記第4位相信号を出力する第4フォトゲートと、を含む、請求項13ないし15のうち何れか一項に記載の3次元映像装置。
  17. 前記複数の第3画素の各々は、
    前記第2時間の間受信光を累積して前記第5位相信号を出力する第5フォトゲートと、
    前記第2時間の間受信光を累積して前記第5位相信号と180°の位相差を有する前記第6位相信号を出力する第6フォトゲートと、を含む、請求項13ないし16のうち何れか一項に記載の3次元映像装置。
  18. 前記複数の第4画素の各々は、
    前記第2時間の間受信光を累積して前記第7位相信号を出力する第7フォトゲートと、
    前記第2時間の間受信光を累積して前記第7位相信号と180°の位相差を有する前記第8位相信号を出力する第8フォトゲートと、を含む、請求項13ないし17のうち何れか一項に記載の3次元映像装置。
  19. 前記第1位相信号と前記第3位相信号とは、90°の位相差を有し、
    前記第2位相信号と前記第4位相信号とは、90°の位相差を有し、
    前記第5位相信号と前記第7位相信号とは、90°の位相差を有し、
    前記第6位相信号と前記第8位相信号とは、90°の位相差を有する、請求項13ないし18のうち何れか一項に記載の3次元映像装置。
JP2019045580A 2018-03-21 2019-03-13 3次元映像装置 Active JP7347942B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180032892A KR102624984B1 (ko) 2018-03-21 2018-03-21 ToF 센서와 이를 이용한 3차원 영상 장치 및 3차원 영상 장치의 구동 방법
KR10-2018-0032892 2018-03-21

Publications (2)

Publication Number Publication Date
JP2019168448A JP2019168448A (ja) 2019-10-03
JP7347942B2 true JP7347942B2 (ja) 2023-09-20

Family

ID=67984984

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019045580A Active JP7347942B2 (ja) 2018-03-21 2019-03-13 3次元映像装置

Country Status (4)

Country Link
US (2) US11378690B2 (ja)
JP (1) JP7347942B2 (ja)
KR (1) KR102624984B1 (ja)
CN (1) CN110297254B (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3474038A1 (en) * 2017-10-23 2019-04-24 ams International AG Image sensor for determining a three-dimensional image and method for determining a three-dimensional image
KR102648089B1 (ko) * 2019-03-26 2024-03-19 삼성전자주식회사 이미징 장치 및 이미지 센서
US11570424B2 (en) * 2019-06-24 2023-01-31 Infineon Technologies Ag Time-of-flight image sensor resolution enhancement and increased data robustness using a binning module
US11841438B2 (en) 2019-09-30 2023-12-12 Zoox, Inc. Power control of sensors using multiple exposures
US11726186B2 (en) 2019-09-30 2023-08-15 Zoox, Inc. Pixel filtering using multiple exposures
WO2021067136A1 (en) * 2019-09-30 2021-04-08 Zoox, Inc. Pixel filtering using multiple exposures
TWI722710B (zh) * 2019-12-11 2021-03-21 茂達電子股份有限公司 具切片式積分時間感測機制的接近感測器及其感測方法
FR3107345A1 (fr) * 2020-02-17 2021-08-20 Stmicroelectronics (Grenoble 2) Sas Dispositif de synchronisation, capteur de temps de vol et procédé associés
KR20210112765A (ko) * 2020-03-06 2021-09-15 에스케이하이닉스 주식회사 이미지 센싱 장치 및 그의 동작 방법
CN111366945B (zh) * 2020-05-27 2020-10-16 深圳市汇顶科技股份有限公司 基于飞行时间的测距方法和相关测距***
CN111798506A (zh) * 2020-06-30 2020-10-20 上海数迹智能科技有限公司 一种图像处理方法、控制方法、终端及计算机可读存储介质
KR20220075016A (ko) 2020-11-26 2022-06-07 삼성전자주식회사 이미징 장치
KR20220093663A (ko) 2020-12-28 2022-07-05 삼성전자주식회사 이미징 장치 및 그 제어 방법
DE102021112942A1 (de) * 2021-05-19 2022-11-24 Valeo Schalter Und Sensoren Gmbh Verfahren zum Betreiben einer Detektionsvorrichtung, Detektionsvorrichtung und Fahrzeug mit wenigstens einer Detektionsvorrichtung
CN113625303A (zh) * 2021-08-05 2021-11-09 思特威(上海)电子科技股份有限公司 像素阵列的信号采集方法、飞行时间传感器、终端及介质
KR20240030636A (ko) 2022-08-31 2024-03-07 주식회사 동운아나텍 3d 센싱 시스템의 센싱 깊이값 보정장치 및 그 방법

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009079988A (ja) 2007-09-26 2009-04-16 Fujifilm Corp 測距方法および装置ならびにこれに用いられる撮像素子
JP2009180659A (ja) 2008-01-31 2009-08-13 Fujifilm Corp 裏面照射型撮像素子及び距離測定装置
JP2011164094A (ja) 2010-02-12 2011-08-25 Samsung Electronics Co Ltd 深さセンサーの深さ推定方法及びその記録媒体
US20140198183A1 (en) 2013-01-16 2014-07-17 Samsung Electronics Co., Ltd. Sensing pixel and image sensor including same
WO2014207983A1 (ja) 2013-06-27 2014-12-31 パナソニックIpマネジメント株式会社 距離測定装置
JP2017167120A (ja) 2016-03-10 2017-09-21 株式会社リコー 距離測定装置、移動体、ロボット、装置及び3次元計測方法
JP2018025474A (ja) 2016-08-10 2018-02-15 株式会社デンソー 光飛行型測距装置および光飛行型測距の異常検出方法
US9921298B2 (en) 2015-07-20 2018-03-20 Google Llc Method and apparatus for increasing the resolution of a time of flight pixel array

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2389960A (en) 2002-06-20 2003-12-24 Suisse Electronique Microtech Four-tap demodulation pixel
EP1777747B1 (en) 2005-10-19 2008-03-26 CSEM Centre Suisse d'Electronique et de Microtechnique SA Device and method for the demodulation of modulated electromagnetic wave fields
US7450220B2 (en) 2006-02-08 2008-11-11 Canesta, Inc Method and system to correct motion blur and reduce signal transients in time-of-flight sensor systems
JP4807253B2 (ja) 2006-12-28 2011-11-02 株式会社デンソー 画像データ生成装置及び受光デバイス
KR100986439B1 (ko) * 2009-01-05 2010-10-08 엘지이노텍 주식회사 촬영 장치 및 이의 영상 제어방법
KR101565969B1 (ko) 2009-09-01 2015-11-05 삼성전자주식회사 깊이 정보를 추정할 수 있는 방법과 장치, 및 상기 장치를 포함하는 신호 처리 장치
EP2521926B1 (en) 2010-01-06 2020-07-29 Heptagon Micro Optics Pte. Ltd. Demodulation sensor with separate pixel and storage arrays
JP2011145109A (ja) * 2010-01-12 2011-07-28 Topcon Corp 光波距離測定装置
KR101812035B1 (ko) * 2010-11-30 2017-12-26 삼성전자 주식회사 컬러 이미지와 깊이 이미지를 동시에 얻을 수 있는 이미지 센서, 이미지 센서의 동작 방법 및 이미지 센서를 포함하는 이미지 처리 시스템
KR101788032B1 (ko) 2011-03-24 2017-10-19 삼성전자주식회사 깊이 센서, 상기 깊이 센서의 깊이 정보 에러 보상 방법, 및 상기 깊이 센서를 포함하는 신호 처리 시스템
WO2013041949A1 (en) 2011-09-20 2013-03-28 Mesa Imaging Ag Time of flight sensor with subframe compression and method
KR102008233B1 (ko) * 2012-06-29 2019-08-07 삼성전자주식회사 거리 측정 장치 및 상기 거리 측정 장치를 이용한 거리 측정 방법
KR101977711B1 (ko) * 2012-10-12 2019-05-13 삼성전자주식회사 깊이 센서, 이의 이미지 캡쳐 방법, 및 상기 깊이 센서를 포함하는 이미지 처리 시스템
WO2015025497A1 (ja) * 2013-08-23 2015-02-26 パナソニックIpマネジメント株式会社 測距システム及び信号発生装置
KR102136850B1 (ko) * 2013-11-12 2020-07-22 삼성전자 주식회사 깊이 센서, 및 이의 동작 방법
US9871065B2 (en) * 2014-12-22 2018-01-16 Google Inc. RGBZ pixel unit cell with first and second Z transfer gates
US9971023B2 (en) * 2015-05-04 2018-05-15 Infineon Technologies Ag Systems and methods for time of flight measurement using a single exposure

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009079988A (ja) 2007-09-26 2009-04-16 Fujifilm Corp 測距方法および装置ならびにこれに用いられる撮像素子
JP2009180659A (ja) 2008-01-31 2009-08-13 Fujifilm Corp 裏面照射型撮像素子及び距離測定装置
JP2011164094A (ja) 2010-02-12 2011-08-25 Samsung Electronics Co Ltd 深さセンサーの深さ推定方法及びその記録媒体
US20140198183A1 (en) 2013-01-16 2014-07-17 Samsung Electronics Co., Ltd. Sensing pixel and image sensor including same
WO2014207983A1 (ja) 2013-06-27 2014-12-31 パナソニックIpマネジメント株式会社 距離測定装置
US9921298B2 (en) 2015-07-20 2018-03-20 Google Llc Method and apparatus for increasing the resolution of a time of flight pixel array
JP2017167120A (ja) 2016-03-10 2017-09-21 株式会社リコー 距離測定装置、移動体、ロボット、装置及び3次元計測方法
JP2018025474A (ja) 2016-08-10 2018-02-15 株式会社デンソー 光飛行型測距装置および光飛行型測距の異常検出方法

Also Published As

Publication number Publication date
KR102624984B1 (ko) 2024-01-15
US11378690B2 (en) 2022-07-05
JP2019168448A (ja) 2019-10-03
US20220236419A1 (en) 2022-07-28
US20190293792A1 (en) 2019-09-26
CN110297254B (zh) 2024-06-11
KR20190110884A (ko) 2019-10-01
CN110297254A (zh) 2019-10-01

Similar Documents

Publication Publication Date Title
JP7347942B2 (ja) 3次元映像装置
JP6309459B2 (ja) ストライプ照明の飛行時間型カメラ
CN111727602B (zh) 单芯片rgb-d相机
US10509126B2 (en) Method for driving a time-of-flight system
KR102136850B1 (ko) 깊이 센서, 및 이의 동작 방법
US9329035B2 (en) Method to compensate for errors in time-of-flight range cameras caused by multiple reflections
US10397552B2 (en) Time-of-flight camera system
JP5858688B2 (ja) 距離画像生成装置
EP3163316B1 (en) Apparatus and method for obtaining a depth image
CN110024375B (zh) 固态摄像装置和测距摄像装置
US20160014360A1 (en) Area scan interline transfer ccd imaging device and apparatus with tdi scanning mode
JP5271643B2 (ja) 光飛行時間型距離画像センサの制御方法およびそのシステム
CN109842750A (zh) 摄像装置***
US20220018946A1 (en) Multi-function time-of-flight sensor and method of operating the same
US11627301B2 (en) Image sensor and camera module using same
JP6042674B2 (ja) 三次元情報取得機能付き画像投影装置
JP5441204B2 (ja) 時間相関検出型イメージセンサおよび画像解析装置
US20190369219A1 (en) Time of flight sensor and method
KR102543027B1 (ko) 3차원 이미지를 획득하기 위한 방법 및 장치
US20210392283A1 (en) Global-shutter image sensor with time-of-flight sensing capability
WO2021084891A1 (ja) 移動量推定装置、移動量推定方法、移動量推定プログラム、及び移動量推定システム
KR20190139573A (ko) 카메라 모듈 및 그의 깊이 정보 추출 방법
US20210383561A1 (en) Camera module
US20240192327A1 (en) Device for distance measurement
JP2017133931A (ja) 画像生成装置、ならびに距離画像およびカラー画像の生成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211115

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221101

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230725

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230822

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230907

R150 Certificate of patent or registration of utility model

Ref document number: 7347942

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150