JP2017175550A - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP2017175550A
JP2017175550A JP2016062188A JP2016062188A JP2017175550A JP 2017175550 A JP2017175550 A JP 2017175550A JP 2016062188 A JP2016062188 A JP 2016062188A JP 2016062188 A JP2016062188 A JP 2016062188A JP 2017175550 A JP2017175550 A JP 2017175550A
Authority
JP
Japan
Prior art keywords
signal
pixel
output
luminance
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016062188A
Other languages
English (en)
Other versions
JP6712883B2 (ja
Inventor
青山 千秋
Chiaki Aoyama
千秋 青山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2016062188A priority Critical patent/JP6712883B2/ja
Priority to US15/465,993 priority patent/US10079991B2/en
Publication of JP2017175550A publication Critical patent/JP2017175550A/ja
Application granted granted Critical
Publication of JP6712883B2 publication Critical patent/JP6712883B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/71Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
    • H04N25/75Circuitry for providing, modifying or processing image signals from the pixel array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • H04N25/627Detection or reduction of inverted contrast or eclipsing effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/702SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/708Pixels for edge detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/771Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising storage means other than floating diffusion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)

Abstract

【課題】黒化現象を防止ししつつ、より明るい場所を撮像したとしても、輝度の境界であるエッジ(形状)を適切に取得することができる撮像装置および撮像方法を提供することを目的とする。
【解決手段】撮像装置は、送信装置からの発光信号を画素によって受光する受光部と、受光部が受光した発光信号に基づく出力が、第1閾値以上であるか否かを検出する検出部と、検出部が検出した結果に基づいて、発光信号に基づく出力が第1閾値以上である場合に、画素の輝度を補正する補正部と、を備える。
【選択図】図1

Description

本発明は、撮像装置および撮像方法に関する。
フォトダイオード等の光検出器を用いて、発光部から照射された光を受信することにより、発光部から発光された光の形状等を認識する装置がある。このような装置において、通常の光を受信した場合には、光検出器からの出力電圧は適正なものとなる。一方、日光等に代表される強い光を受信した場合には、リセットレベルを読み出す際であってもチャージされた電荷がリークすることにより、リセットレベルとの差を取ることで得られる光検出器の出力信号から生成される信号出力のレベルが低下するため、画像において黒い部分が生じる黒化現象が発生する場合がある。
黒化現象の影響を防止ために、複数の能動画素センサがリセットされた後、光検出器により変換された電気信号に出力されるリセット電圧が無信号期間における電圧よりも低い電圧の範囲内にあるとき、リセット電圧を所定の電圧値に置き換える(固定する)ことが提案されている(例えば、特許文献1参照)。
ここで、黒化現象の一例を説明する。
図16は、従来技術に係る光検出器に所定の輝度以上の光が入射した場合の例を示す図である。図16において、符号g901の領域は、6×6画素を備える光検出器に光が入射した例を示す画像である。符号g910が示す領域は、6×6画素を備える光検出器に適正な光のレベルが入射した場合を示す図である。符号g920が示す領域は、6×6画素を備える光検出器に飽和する光のレベルが入射し、弱い飽和が生じた場合を示す図である。符号g930が示す領域は、6×6画素を備える光検出器に飽和する光のレベルが入射し、強い飽和が生じた場合を示す図である。
また、グラフg911、g921、およびg931は、符号g901の領域の画像のA−B方向の断面における断面方向に対する輝度出力の例を示すグラフである。グラフg911、g921、およびg931において、横軸は、符号g901の領域の画像のA−B方向の断面における断面方向の位置を表し、縦軸は輝度出力のレベルを表す。
また、グラフg912、g922、およびg932は、符号g901の領域の画像のA−B方向の断面における断面方向に対する信号出力の例を示すグラフである。グラフg912、g922、およびg932において、横軸は、符号g901の領域の画像のA−B方向の断面における断面方向の位置を表し、縦軸は信号出力のレベルを表す。
光検出器に入射する光の輝度が適正な場合は、符号g911が示す領域の図のように、AからB方向の3番目の輝度が一番高い。光検出器への入射レベルが適正である場合、符号g912が示す領域の図のように、光検出器の信号出力レベルも輝度出力に応じた結果となり、AからB方向の3番目が一番高い。
光検出器に入射する光の輝度が、出力に対して弱い飽和が生じる程度に強い場合、符号g921が示す領域の図のように、AからB方向の2番目〜4番目の輝度が飽和する。輝度出力が飽和することにより、光検出器の信号出力レベルは、符号g922が示す領域の図のように、適正な輝度の入射光であれば最も信号出力が大きいAからB方向の3番目がほぼ0、すなわち黒レベルになり、その周辺の2番目と4番目も実際の信号出力とは異なる値となる。
光検出器に入射する光の輝度が、符号g921が示す領域の図よりさらに強く出力に対して強い飽和が生じる程度に強い場合、符号g931が示す領域の図のように、AからB方向の1番目と5番目の輝度が飽和する。この場合、入射光の輝度が高すぎるため、2番目〜4番目の輝度出力のレベルが適切でなくなっている。輝度出力が飽和することにより、光検出器の信号出力レベルは、符号g932が示す領域の図のように、AからB方向の1番目〜5番目がほぼ0、すなわち黒レベルになる。
特許第3517614号公報
しかしながら、特許文献1に記載の技術では、図16の符号g930の領域のように、強い飽和が生じるより明るい場所をピンポイントで認識させたい場合、飽和した出力レベルを所定の値に置き換えても、例えばAからB方向における1番目〜5番目の信号出力のレベルがすべて同じ値となる。このように、特許文献1に記載の技術では、飽和が生じた画素領域の信号出力のレベルが同じになるため、輝度の境界であるエッジ(形状)やピークを取得できない場合がある。
本発明は、上記の問題点に鑑みてなされたものであって、黒化現象を防止ししつつ、より明るい場所を撮像したとしても、輝度の境界であるエッジ(形状)やピークを適切に取得することができる撮像装置および撮像方法を提供することを目的とする。
(1)上記目的を達成するため、本発明の一態様に係る撮像装置は、送信装置からの発光信号を画素によって受光する受光部と、前記受光部が受光した前記発光信号に基づく出力が、第1閾値以上であるか否かを検出する検出部と、前記検出部が検出した結果に基づいて、発光信号に基づく出力が第1閾値以上である場合に、画素の輝度を補正する補正部と、を備える。
(2)また、本発明の一態様に係る撮像装置において、前記検出部は、前記発光信号に基づく出力が第1閾値以上であるか否かを、前記画素の電荷の蓄積をリセットした後の出力値と、前記受光部を露光した後の前記画素の電荷の蓄積を読み出したときの出力値に基づいて検出するようにしてもよい。
(3)また、本発明の一態様に係る撮像装置において、前記補正部は、発光信号に基づく出力が第1閾値以上である場合に、前記画素の電荷の蓄積をリセットした後の出力値の平均値または標準値と、前記画素の電荷の蓄積をリセットした後の出力値との差分に所定のゲインを乗じた値を、前記受光部を露光した後の前記画素の電荷の蓄積を読み出したときの出力値と前記画素の電荷の蓄積をリセットした後の出力値との差に加算して、前記画素の輝度を補正するようにしてもよい。
(4)また、本発明の一態様に係る撮像装置において、前記受光部は、複数の前記画素、を備え、前記補正部が出力する信号の振幅、および前記受光部が出力する信号に基づく輝度のうち少なくとも一つを用いてクラスタに分類するクラスタリング部、を備え、前記クラスタリング部は、前記クラスタ毎に、前記信号の振幅の最大値である画素の座標、前記受光部が出力する信号に基づく輝度の最大値である画素の座標のうち少なくとも一つを算出するようにしてもよい。
(5)また、本発明の一態様に係る撮像装置において、前記クラスタリング部は、算出した前記信号の振幅の最大値である画素の座標、または算出した前記受光部が出力する信号に基づく輝度の最大値である画素の座標を、次に前記発光信号を取り込むべき関心領域の中心に決定するようにしてもよい。
(6)上記目的を達成するため、本発明の一態様に係る撮像方法は、受光部が、送信装置からの発光信号を画素によって受光する受光手順と、検出部が、前記受光手順によって受光された発光信号に基づく出力が、第1閾値以上であるか否かを検出する検出手順と、補正部が、前記検出手順によって検出された結果に基づいて、前記発光信号に基づく出力が第1閾値以上である場合に、画素の輝度を補正する補正手順と、を含む。
上述した(1)または(6)の構成によれば、出力の飽和の進行状態に応じて出力を補正するため、黒化現象を防止することができつつ、より明るい場所を撮像したとしても、その部分のエッジ(形状)を適切に捉えることができる。
また、上述した(2)の構成によれば、受光部の画素の出力が飽和したときに出力を補正することができるので、黒化現象を防止することができつつ、より明るい場所を撮像したとしても、その部分のエッジ(形状)を適切に捉えることができる。
また、上述した(3)の構成によれば、飽和状態によって発生するリークによる出力降下分を考慮して加算されるべきゲインを決定するので、より一層明るい場所を撮像したとしてもそのエッジを適切に捉えることができる。
また、上述した(4)の構成によれば、受光部が備える複数の画素に対して、振幅または補正後の輝度に基づいてクラスタリングを行うことで、発光信号の領域の大きさを検出することができる。また、上述した(4)の構成によれば、クラスタにおける振幅の最大値の位置、または補正後の輝度の最大値の位置を検出することで、発光信号の中心位置を検出できる。
また、上述した(5)の構成によれば、発光信号の中心位置を関心空間の中心に設定することで、発光信号を次回、受光するときに、発光信号の中心を適切に設定することができる。
本実施形態に係る通信システムの構成を表すシステム構成図である。 本実施形態に係る受光部の構成の概略を表す概略図である。 本実施形態に係る受光部に用いられる画素の構成を表す構成図である。 図3の画素の等価回路を示す図である。 本実施形態に係る各ゲートのタイミングチャートを示す図である。 本実施形態に係る画素から読み出された3つの電圧レベルに基づいてパルス波である搬送波の振幅及び位相を算出するための概略を表す概略図である。 本実施形態に係る送信信号の構成例を示す図である。 本実施形態に係る受信時の端末の動作例を示す図である。 本実施形態に係るn毎の信号TX4の例を示す図である。 本実施形態に係る端末における入射光強度と信号出力レベルの関係を示す図である。 CDS出力対入射光強度の関係を用いた輝度の補正を示す図である。 本実施形態に係る光検出器に所定の輝度以上の光が入射した場合の例を示す図である。 本実施形態に係る複数の画素に対するクラスタリング処理を示す図である。 本実施形態に係る制御部が行う処理のフローチャートである。 本実施形態に係る発光信号の検出結果の一例を示す図である。 従来技術に係る光検出器に所定の輝度以上の光が入射した場合の例を示す図である。
以下、図面を参照しながら本発明の実施形態について説明する。
図1は、本実施形態に係る通信システム1の構成を表すシステム構成図である。図1に示すように、通信システム1は、端末10(撮像装置)および送信装置20−1、20−2、20−3、・・・を備えている。以下の例では、車両が端末10を搭載しているとして説明する。また、以下の説明では、送信装置20−1、20−2、20−3、・・・のうちの1つを特定しない場合、単に送信装置20という。
図1に示すように、端末10は、レンズ101、受光部102、GNSS103、発振器104、復調器105、復号器106、制御部107、および記憶部111を備える。なお、端末10のレンズ101および受光部102それぞれは、車両の進行方向に対して前後に搭載されている。また、制御部107は、検出部108、補正部109、およびクラスタリング部110を備える。
また、送信装置20は、GNSS203、発振器204、制御部207、符号器208、変調器209、投光器210、および記憶部211を備える。
送信装置20は、例えば、信号機、ガードレール、陸橋、歩道橋、他の車両に取り付けられている。送信装置20は、自端末を識別する識別子(ID)とタイムコードと同期クラスと情報を含む信号を符号化し、符号化した送信信号を予め定められているときに互いに送信する。なお、同期クラスとは、端末10の発振器104または送信装置20の発振器204の周波数精度を示す情報である。本実施形態では、例えば、GNSS103またはGNSS203に同期しているレベルの周波数精度を0、10−10以下の周波数精度を1、10−10より大きく10−9以下の周波数精度を2、10−6以上の周波数精度を3とする。
端末10は、送信装置20が送信した送信信号を光通信によって受信する。端末10は、受信した送信信号から情報を抽出する。端末10は、受信した送信信号に基づいて、送信装置20と端末10を搭載する車両との間の距離を算出する。
まず、送信装置20について説明する。
GNSS(Global Navigation Satellite System(s);全地球航法衛星システムまたは汎地球航法衛星システム)203は、衛星(不図示)を用いた測位システムである。GNSS203は、衛星から受信した信号から基準信号を抽出し、抽出した基準信号を発振器204に出力する。
発振器204は、GNSS203から入力された基準信号に応じて、生成した同期信号を補正し、補正した同期信号を変調器209に出力する。または、発振器204は、GNSS203が出力した基準信号を用いて同期信号を生成し、生成した同期信号を変調器209に出力する。なお、発振器204は、GNSS203の代わりに他の送信装置20から同期信号を有線や無線にて受け取って発振するようにしてもよい。
記憶部211は、自送信装置20のIDと、変調や符号化に用いる情報等を記憶する。
制御部207は、記憶部211が記憶する情報を用いて送信情報(含むID)を生成し、生成した送信情報を符号器208に出力する。また、制御部207は、投光器210を制御して送信信号を発光させる。
符号器208は、制御部207が出力する送信情報を符号化してビット列を生成する。符号器208は、生成したビット列を変調器209に出力する。
変調器209は、符号器208が出力するビット列を、例えばDBPSK方式に従って、発振器204が出力する同期信号を用いて変調して搬送波を生成する。変調器209は、生成した搬送波を投光器210に出力する。なお、変調器209で行う変調方式は、例えば、2π/3−DBPSK(Differential Binary Phase Shift Keying)等の方式である。なお、変調器209が行う変調方式は、2π/3−DBPSK変調方式に限られない。
投光器210は、変調器209が生成した搬送波に基づいて位相変調し、位相変調した送信信号である位相変調光を制御部207の制御に応じて端末10へ送信する。投光器210は、例えば高レート(繰り返し周波数)の例えば可視光パルスを送信することのできる発光ダイオード(LED:Light Emitting Diode)またはレーザダイオードを備える。また、投光器210は、高レートの赤外線パルスを送信する発光ダイオードまたはレーザダイオードを備えていてもよい。
次に、端末10について説明する。
レンズ101は、送信装置20が発光した送信信号である位相変調光および環境光を含む光束を通過し、通過した光束を受光部102に結像する。なお、端末10は、レンズ101と受光部102との間に、光学的なフィルタを備えるようにしてもよい。
受光部102は、複数の画素が二次元に配列された構造を有する。受光部102は、画素によって受光した光に応じた電荷を発生させて、制御部107の制御に応じた所定のタイミングで蓄積する。受光部102は、蓄積した電荷に基づく信号を制御部107に出力する。受光部102は、制御部107が出力する情報に基づく信号を受信信号として復調器105へ出力する。なお、制御部107が出力する情報には、画素毎の補正後の輝度、所定の領域毎にクラスタリングを行った結果を示す情報が含まれる。
GNSS103は、衛星から受信した信号から基準信号を抽出し、抽出した基準信号を発振器104に出力する。
発振器104は、GNSS103から入力された基準信号に応じて、生成した同期信号を補正し、補正した同期信号を復調器105に出力する。または、発振器104は、GNSS103が出力した基準信号を用いて同期信号を生成し、生成した同期信号を復調器105に出力する。
復調器105は、受光部102が出力する受信信号に対して、送信装置20の変調器209が用いる変調方式に応じた復調を行い、復調した受信信号を復号器106に出力する。なお、画素の制御は、復調器105が行うようにしてもよい。
復号器106は、復調器105が復調した受信信号を、送信装置20の符号器208が用いる符号化に応じて復号し、復号した受信信号を制御部107に出力する。
制御部107は、受光部102が有する画素を制御する。制御部107は、受光部102が出力する信号を取得し、取得した信号の振幅、位相、輝度を求める。制御部107は、輝度が閾値以上である場合、輝度を補正し、補正した輝度を、画素を示す情報と対応付けて受光部102に出力する。制御部107は、求めた振幅に基づきクラスタリングを行い、補正した輝度に基づきクラスタリングを行い、クラスタリングを行った結果を受光部102へ出力する。制御部107は、復号器106が出力する送信装置20からの送信情報を受信し、受信した送信情報から、ID、情報、および搬送波の位相情報を抽出する。また、制御部107は、2次元の面である受光部の位置情報を角度情報に変換してから距離情報も利用して3次元の位置情報に変換して、車両間の3次元の相対位置情報を求める。
検出部108は、受光部102が出力する信号を取得する。検出部108は、取得した信号の電圧値または電流値が、記憶部111が記憶する飽和を判別するための閾値(第1閾値)以上であるか否かを画素毎に判別する。検出部108は、判別した結果を画素毎に補正部109に出力する。
補正部109は、検出部108が出力する判別結果に基づいて、閾値以上である場合、記憶部111が記憶する補正式を用いて輝度を画素毎に補正する。補正部109は、補正した結果を画素毎にクラスタリング部110に出力する。
クラスタリング部110は、補正部109が出力する補正結果を取得し、振幅、位相、輝度を画素毎に求める。クラスタリング部110は、所定の画素数を含む領域を抽出し、抽出した領域毎に、振幅に基づいてクラスタリングを領域毎に行い、さらに輝度に基づいてクラスタリングを行う。なお、領域とは、受光部102の画素のうち、例えば6×6画素である。クラスタリング部110は、クラスタリングを行った結果を、受光部102と制御部107に出力する。なお、クラスタリング部110は、クラスタリングした結果、クラスタが複数の領域に含まれる場合、周知の手法によって1つのクラスタに統合する。
記憶部111は、自端末10のIDと復調や復号に必要な情報、飽和を判別するための閾値、補正式、クラスタリングに用いる振幅の閾値と輝度の閾値、および受信した情報等を記憶する。
[受光部102の構成]
次に、端末10の受光部102の構成について説明する。
図2は、本実施形態に係る受光部102の構成の概略を表す概略図である。
受光部102は、複数の画素121、垂直走査回路122、水平走査回路123、読み出し回路124を備える。画素121は、二次元マトリックス状に配置され、レンズ101(図1)を通過した光を受光して電荷を生成し蓄積する。読み出し回路124は、各画素121が蓄積した電荷に応じた電圧レベルを、垂直走査回路122および水平走査回路123による制御に応じて読み出す。読み出された電圧レベルは、読み出し回路124から復調器105(図1)へ出力する。
なお、本実施形態では、信号の受信時、露光を行った後に信号の読み出しを制御部107の制御に応じて行う。
[画素121の構成]
次に、画素121の構成について説明する。
図3は、本実施形態に係る受光部102に用いられる画素121の構成を表す構成図である。
受光部102は、図3に示したように複数の画素121が配列されている。画素の数は、例えば1024(横方向、x方向)×768(縦方向、y方向)である。画素121それぞれは、4つの微小変換部1021a〜1021d(光電変換部)を備える。各微小変換部1021a〜1021dは、光電変換素子を用いて構成される。また、画素121は、4つの電荷蓄積領域1022a〜1022d(電荷蓄積部)と、各電荷蓄積領域1022a〜1022dに対応する振り分けゲートTxa〜Txd(振り分けゲート部)を備える。4つの微小変換部1021a〜1021dは、電荷移送領域1023及び振り分けゲートTxa〜Txdを介して、電荷蓄積領域1022a〜1022dに接続される。
微小変換部1021a〜1021d(光電変換部)それぞれは、露光量に応じた電荷を生成する。
電荷蓄積領域1022a〜1022d(電荷蓄積部)それぞれは、微小変換部1021a〜1021dによって生成された電荷を蓄積する。
振り分けゲートTxaは、微小変換部1021a(光電変換部)と電荷蓄積領域1022a(電荷蓄積部)との間に設けられ、ゲートを開閉することによって微小変換部1021aから電荷蓄積領域1022aへ電荷が入ることを制御する。同様に、振り分けゲートTxf(fは、b、x、dのいずれか1つ)は、微小変換部1021f(光電変換部)と電荷蓄積領域1022f(電荷蓄積部)との間に設けられ、ゲートを開閉することによって微小変換部1021fから電荷蓄積領域1022fへ電荷が入ることを制御する。なお、本実施形態において、第1の電荷蓄積部とは、例えば電荷蓄積領域1022dであり、第2〜第4の電荷蓄積部とは、電荷蓄積領域1022a〜1022cである。また、第1の振り分けゲート部とは、振り分けゲートTxaであり、第2〜第4の振り分けゲート部とは、振り分けゲートTxa〜Txcである。
微小変換部1021a〜1021dにおける光電変換によって生成された電荷は、よりポテンシャルの低い電荷移送領域1023へ移動する。振り分けゲートTxa〜Txdのうちの一つが開かれると、電荷移送領域1023から、開かれたゲートTxa〜Txdに対応する電荷蓄積領域1022a〜1022dの一つに電荷が移動する。そして、各電荷蓄積領域1022a〜1022dに移動した電荷は、各電荷蓄積領域1022a〜1022dによって所定のタイミングまで蓄積される。そして、蓄積された電荷は、所定のタイミングで読み出し電極1024a〜1024dから、読み出し回路124(図2)を介して復調器105(図1)へ読み出される。
また、画素121は、電荷蓄積領域1022a〜1022dそれぞれに隣接するリセットゲートRa〜Rd及びリセット電極1025a〜1025dを備える。リセットゲートRa〜Rdが開かれると、リセット電極1025a〜1025dに加えられている電圧Vによって、電荷蓄積領域1022a〜1022dが充電されてリセット状態となる。このリセット処理は、受光部102(図1)の全ての画素121(図2)の電荷蓄積領域1022a〜1022dに対して同時に行われる。
また、画素121(図2)は、ドレインゲートDr、及びドレイン電極Daを備える。ドレインゲートDrが開かれると、電荷移送領域1023に蓄積された電荷のうち、余分な電荷がドレイン端子Daに移動する。余分な電荷とは、例えば、画素121に所定の強度より高い強度の光が入射した場合、蓄積される電荷である。このように所定の強度より高い強度に光が入射した場合、蓄積される電荷が周囲の画素にあふれ出すことを防ぐためにドレインゲートDr及びドレイン端子Daが用いられる。
[画素121の等価回路]
次に、画素121の等価回路について説明する。
図4は、図3の画素121の等価回路を示す図である。図4において、微小変換部1021a〜1021dは、フォトダイオードとして表される。振り分けゲートTxa〜Txdにそれぞれ隣接する電荷蓄積領域1022a〜1022d(図3)は、コンデンサCa〜Cdとして表される。これらのコンデンサCa〜Cdは、リセットゲートRa〜RdのFET(Field effect transistor;電界効果トランジスタ)がオンになることによって電圧Vで充電される。この動作は、前述したリセット処理であり、電荷蓄積領域1022a〜1022dの状態を、微小変換部1021a〜1021dによって生成される電荷を蓄積する前の状態(初期状態)に戻すための処理である。
電界効果トランジスタLa〜Ldは、レベルシフト・トランジスタである。電界効果トランジスタLa〜Ldは、読み出しゲートSLa〜SLdが開かれると、コンデンサCa〜Cdにホールドされている電荷に応じた電流は、それぞれ読み出し回路124(図2)を介して復調器105(図1)へ送り出される。
なお、4つの微小変換部1021a〜1021d及び電荷移送領域1023(図3)は、P型領域(P−well)に埋め込まれた一体的なN型領域によって形成することができる。この一体的なN型領域の上方に遮光幕(遮光マスク)が設けられ、画素121の各構成のうち微小変換部1021a〜1021dだけに光が入るように構成される。
なお、本実施形態では、4つの微小変換部1021a〜1021dのうち、少なくとも1つの微小変換部1021aが受光した信号を用いて、位相を検出する。なお、位相の検出に用いる微小変換部は、微小変換部1021aに限られず、他の微小変換部1021b〜1021dのうちの、いずれか1つであってもよい。
[画素121の動作]
次に、画素121の動作について、図3〜図5を参照して説明する。なお、以下の各ゲートの制御は、制御部107が行う。また、以下の説明において、リセットが行われる期間を「リセット期間」といい、リセット後のレベルを読み出す期間を「リセットレベル読み出し期間」といい、露光が行われる期間を「露光期間」といい、読み出しが行われる時間を「読み出し期間」という。
図5は、本実施形態に係る各ゲート(振り分けゲートTxa〜Txd、リセットゲートRa〜Rd、読み出しゲートSLa〜SLd)のタイミングチャートを示す図である。図5において、横軸は時刻を表し、縦軸は、信号のH(ハイ)レベルとL(ロー)レベルを表している。なお、図5に示す各信号(信号TX1〜TX4、リセットゲート信号RET、出力ゲート信号T)の制御は、制御部107が行う。また、図5に示すように、制御信号の1周期には、リセット期間、リセット読み出し期間、露光期間、読み出し期間が含まれる。リセット期間は、例えば48[μs]である。リセット読み出し期間は、例えば48[μs]である。露光期間は、例えば144[μs]である。読み出し期間は、例えば48[μs]である。また、信号TX1〜TX4は、転送ゲートTxa〜Txdのオン状態とオフ状態を切り替える信号である。リセットゲート信号RETは、リセットゲートRa〜Rdのオン状態とオフ状態を切り替える信号である。出力ゲート信号Tは、電荷蓄積領域1022a〜1022dの電圧を読み出すタイミングを読み出し回路124に指示する信号である。
まず、制御部107は、露光が開始される直前のリセット期間の時刻t1のとき、Hレベルが所定の時間であるリセットゲート信号RETをリセットゲートRa〜Rdに出力する。このリセットゲート信号RETに応じてリセットゲートRa〜Rdが開くことによって、電荷移送領域1023及び電荷蓄積領域1022a〜1022dがリセットされる。
制御部107は、リセットゲート信号RETを出力した後の所定の時間後(例えば48[μs])、リセットレベル読み出し期間の時刻t2のときに、Hレベルが所定の時間である読み出し信号T(出力ゲート信号T)を振り分けゲートTxa〜Txdに出力する。この読み出し信号Tに応じて、4つの振り分けゲートTxa〜Txdが開く。制御部107は、時刻t2のときの信号出力(Out1〜Out4)のレベルを読み取る。
制御部107は、露光期間の時刻t3〜t4の期間に、振り分けゲートTxaを開くように制御する信号TX1を、振り分けゲートTxaに出力する。この信号TX1に応じて、振り分けゲートTxaが開き、4つの微小変換部1021a〜1021dで生成される電荷が、電荷移送領域1023を介して電荷蓄積領域1022a(コンデンサCa)に蓄えられる。また、制御部107は、振り分けゲートTxaが閉じている期間に振り分けゲートTxdを開いて、4つの微小変換部1021a〜1021dで生成される電荷を、電荷移送領域1023を介して電荷蓄積領域1022d(コンデンサCd)に蓄える。さらに、制御部107は、振り分けゲートTxdが閉じている期間にドレインゲートDrを開いて、余分な電荷をドレイン端子Daに排出する。
次に、制御部107は、露光タイムが開始してから1/3周期が経過するときに振り分けゲートTxaを閉じ、1/3周期経過のタイミングの時刻t4〜t5の期間、振り分けゲートTxbを開く信号TX2を振り分けゲートTxbに出力する。この信号TX2に応じて、振り分けゲートTxbが開き、4つの微小変換部1021a〜1021dで生成される電荷が、電荷移送領域1023を介して電荷蓄積領域1022b(コンデンサCb)に蓄えられる。また、制御部107は、振り分けゲートTxbが閉じている期間に振り分けゲートTxdを開いて、4つの微小変換部1021a〜1021dで生成される電荷を、電荷移送領域1023を介して電荷蓄積領域1022d(コンデンサCd)に蓄える。さらに、制御部107は、振り分けゲートTxdが閉じている期間にドレインゲートDrを開いて、余分な電荷をドレイン端子Daに排出する。
次に、制御部107は、露光タイムが開始してから2/3周期が経過するときに振り分けゲートTxbを閉じ、2/3周期経過のタイミングの時刻t5〜t6の期間、振り分けゲートTxcを開く信号TX3を振り分けゲートTxcに出力する。この信号TX3に応じて、振り分けゲートTxcが開き、4つの微小変換部1021a〜1021dで生成される電荷を、電荷移送領域1023を介して電荷蓄積領域1022c(コンデンサCc)に蓄える。また、制御部107は、振り分けゲートTxbが閉じている期間に振り分けゲートTxdを開いて、4つの微小変換部1021a〜1021dで生成される電荷を、電荷移送領域1023を介して電荷蓄積領域1022d(コンデンサCd)に蓄える。さらに、制御部107は、振り分けゲートTxdが閉じている期間にドレインゲートDrを開いて、余分な電荷をドレイン端子Daに排出する。
時刻t3〜t4の期間、時刻t4〜t5の期間、および時刻t5〜t6の期間それぞれは、例えば12[μs]である。制御部107は、露光期間の時刻t3〜t12の期間に、時刻t3〜t6の処理を4回行う。
制御部107は、露光タイムが開始してから1周期が経過する時刻t12のときに振り分けゲートTxcを閉じる。
次に、制御部107は、読み出し期間の時刻t13のとき、Hレベルが所定の時間である出力ゲート信号Tを振り分けゲートTxaに出力する。この読み出し信号Tに応じて、4つの振り分けゲートTxa〜Txdが開くことによって、電荷移送領域1023及び電荷蓄積領域1022a〜1022dに蓄電された電荷が出力される。
[搬送波の振幅と位相について説明]
次に、搬送波の振幅と位相について説明する。搬送波は、正弦波やパルス波であってもよい。以下の説明では、搬送波がパルス波の例を説明する。
図6は、本実施形態に係る画素121から読み出された3つの電圧レベルに基づいてパルス波である搬送波の振幅及び位相を算出するための概略を表す概略図である。図6に表される波形は搬送波を構成する1周期分のパルス波を表す。
図6において、C(θ)、C(θ)、C(θ)は、電圧レベル、すなわち1/3周期毎の搬送波の強度を表す。パルス波においても、復調器105(図1)は、(2/3)π毎に搬送波の振幅R及び搬送波の位相θを算出する。
搬送波の中心レベルB、搬送波の振幅R、及び搬送波の位相θそれぞれは、次式(1)〜次式(3)のように表される。
なお、式(2)において、MAX()は、最大値を求める関数であり、ABS()は、絶対値を求める関数である。また、式(3)において、D、D、及びDは、次式(4)〜次式(6)である。
[送信信号と符号化の説明]
次に、送信装置20が送信する送信信号の例を説明する。
図7は、本実施形態に係る送信信号の構成例を示す図である。図7において、横軸は時刻、縦軸は各信号のHレベルとLレベルとを表している。
図7に示すように、送信信号g200の1つのシーケンスは、2個のリーダ信号ブロックと、80個(n=0〜79)の信号ブロックと、2個の無信号ブロックとで構成されている。また、送信信号g200の1つのシーケンスの1周期Tは、48.384[msec](=576[μsec]×(2+80+2))である。なお、1秒当たりのシーケンス数を整数とするためにシーケンスの前後に無信号期間を設けてもよい。
リーダ信号ブロックは、信号ブロックの始まりを示す信号のブロックである。
信号ブロックSBは、送信情報が符号化及び変調された信号のブロックである。
無信号ブロックは、信号ブロックの終了を示すブロックであり、無信号状態である。
波形g201は、1つの信号ブロックSBを拡大した波形である。1つの信号ブロックSBは、12個の信号パルスと4個の無信号とで構成される。12個の信号パルスは、3 tickに対応する。なお、1 tickは、4個の信号パルスに相当する。
無信号の期間(無信号期間とも言う)は、信号パルス4個分の期間である。1つの信号パルスは36[μsec]である。また、無信号期間は、4個の信号パルス分の期間であるため、1 tickに相当する。このため、信号ブロックの1周期Tは、576[μsec](=36[μsec]×(12+4))である。なお、g201では無信号期間がLレベルとなっているがHレベルでもよい。
波形g202は、1つの信号パルスSPを拡大した波形である。1つの信号パルスSPは、位相を示す期間Tと、9個のTOFブロックと、残りの期間Tw’とで構成される。TOFブロックTBの期間は、ディーティが50%であるため、18[μsec](=2[μsec]×9)である。TOFブロックの1周期Tは、(TP×5)(=1[μsec])×2の期間であり、すなわち、2[μsec]である。また、位相を示す期間Tは、位相が0度の場合に0であり、位相が120度の場合にT×1/3であり、位相が240度の場合にT×2/3である。すなわち、位相を示す期間Tの長さによって、ビット値が決定する。
波形g203は、TOFブロックTBを拡大した波形である。1つのTOFブロックTBは、遅延期間Tと、5個のTOFパルスと、残りの期間Td’とで構成される。ここで、遅延期間Tは、所定の時間である。
波形g204は、TOFパルスTPを拡大した波形である。TOFパルスTPの1周期は、200[nsec]であり、Lレベルの期間TlowとHレベルの期間Thighそれぞれは、100[nsec]である。
図7に示したシーケンスの1周期T、信号ブロックSBの1周期T、信号パルスSPの1周期T、位相を示す期間T、残りの期間Tw’、TOFブロックTBの1周期T、遅延期間Tと、TOFパルスTPのHレベルの期間Thigh及びLレベルの期間Tlowと、残りの期間Td’との関係は、次式(7)のように表される。式(7)の関係は、直交条件に基づいて決定されたものである。
[受信時の端末10の動作]
次に、送信信号の受信時における端末10の動作について説明する。
図8は、本実施形態に係る受信時の端末10の動作例を示す図である。図8において、横軸は時刻、縦軸は各信号のHレベルとLレベルとを表している。
波形g301は、他の端末10が送信した送信信号の発光パターンの波形例である。波形g302は、転送ゲートTxaのオン状態とオフ状態を切り替える信号TX1の波形である。波形g303は、転送ゲートTxbのオン状態とオフ状態を切り替える信号TX2の波形である。波形g304は、転送ゲートTxcのオン状態とオフ状態を切り替える信号TX3の波形である。
波形g305は、波形301を拡大した波形である。波形g306は、波形302を拡大した波形である。波形g307は、転送ゲートTxdのオン状態とオフ状態を切り替える信号TX4の波形である。波形g308は、ドレインゲートDrのオン状態とオフ状態を切り替えるドレインゲート信号の波形である。
波形g301に示すように、送信信号の発光パターンの1周期は、36[μs](=2000[ns]×18=27.8[kHz])である。また、TOFパルス間隔は、2000[ns](=0.5[MHz])である。また、波形g305に示すように、1つのTOFパルスには、1100[ns]のHレベルが継続する期間と、900[ns]の負パルス列を有する期間を含んでいる。なお、負パルス列とは、波形g305に示すように、LレベルとHレベルを交互に繰り返すパルス列である。
波形g306が示すように、信号TX1は、1000[ns]のHレベルの期間と、1000[ns]のLレベルの期間を含む。信号TX1がHレベルの期間は、発光パターンがHレベルの期間うち1000[ns]を含む。また、信号TX1がLレベルの期間は、発光パターンが負パルス列の期間の900[ns]を含む。
波形g307の信号TX4とドレインゲート信号は、時刻0から2000[ns]の間に、左から右に移動する。
波形g307に示すように、信号TX4は、100[ns]のHレベルの期間を5つ含む。なお、HレベルとHレベルとの間には、100[ns]のLレベルの期間を含む。この、5つのHレベルの期間と、間にある4つのLレベルの期間を合わせて、TOF時間ともいう。TOF時間は、900[ns](=100×(5+4))である。
また、波形g308に示すように、ドレインゲート信号は、両側に50[ns]のHレベルの期間と、100[ns]のHレベルの期間を4つ、100[ns]のLレベルの期間を5つ含む。この2つの50[ns]のHレベルに挟まれた期間を排出時間ともいう。排出時間は、1000[ns](=50×2+100(5+4))である。
次に、信号TX4の時刻0から時刻2000[ns]の波形例を説明する。
図9は、本実施形態に係るn毎の信号TX4の例を示す図である。図9において、横軸は時刻、縦軸は各信号のHレベルとLレベルとを表している。なお、図9において、n=0のときの信号をTX4(0)と表し、・・・、n=79のときの信号をTX4(79)と表す。信号TX4は、時刻0から時刻2000[ns]の間、80回、左から右に制御部107の制御に応じて移動する。
波形g307(0)は、n=0のTX4信号である。n=0のとき、パルスTPの遅延期間Td0は0である。すなわち、波形g307(0)は、時刻0から開始される。
次に、波形g307(1)は、n=1のTX4信号である。n=1のとき、パルスTPの遅延期間Td1は25[nsec](=2[μsec]/80)である。すなわち、図14に示すように、n=1のときの波形g307(1)は、n=0のときの波形g307(0)に対して、25[nsec]遅れている。
以下、nが1増加する毎に25[nsec]ずつ遅れていく。そして、n=79のとき、波形g307(79)のように、2000[nsec]の前にパルスTPの最初のLレベルの期間Tlowの1/4(=100[nsec]/25[nsec])だけ現れ、残りの信号は、0[nsec]に折り返す。
なお、図9では省略しているが、TX4信号の移動に合わせて、ドレインゲート信号も左から右に25[nsec]ずつ制御部107の制御に応じて移動する。
[入射光強度と信号出力レベルの関係]
次に、端末10における入射光強度と信号出力レベルの関係を説明する。
図10は、本実施形態に係る端末10における入射光強度と信号出力レベルの関係を示す図である。図10において、横軸は時刻であり、縦軸は各信号のレベルを表す。また、波形g401は、信号TX1の波形である。波形g402は、リセットゲート信号RETの波形である。波形g403は、出力ゲート信号Tの波形である。波形g404〜g408は、電荷蓄積領域1022a〜1022dの電圧レベルの波形である。波形g404は、入射光が無いときの電圧レベルの波形である。波形g405は、入射光がグレーレベルときの電圧レベルの波形である。波形g406は、入射光が白レベルのときの電圧レベルの波形である。波形g407は、入射光が弱い飽和状態の電圧レベルの波形である。波形g408は、入射光が強い飽和状態の電圧レベルの波形である。また、符号LR(n)(nは1〜5の整数)は、リセット読み出し時の信号出力レベル(画素121の電荷の蓄積をリセットした後の出力値)を表す。符号Lは、読み出し時の信号出力レベル(受光部102を露光した後の画素121の電荷の蓄積を読み出したときの出力値)を表す。なお、リセット期間、リセットレベル読み出し期間、露光期間、読み出し期間、およびリセットゲート信号RETと出力ゲート信号Tとの間の時間それぞれは、図5と同様である。なお、時刻t100の時点で、画素121に光が入射している。
リセット期間の時刻t101のとき、制御部107は、リセットゲート信号RETをHレベルに制御する。これに応じて、リセットゲートRa〜Rdが開くことによって、電荷移送領域1023及び電荷蓄積領域1022a〜1022dがリセットされる。
リセットレベル読み出し期間の時刻t102のときに、制御部107は、Hレベルが所定の時間である読み出し信号Tを振り分けゲートTxa〜Txdに出力する。この読み出し信号Tに応じて、4つの振り分けゲートTxa〜Txdが開く。制御部107は、時刻t102のときの信号出力(Out1〜Out4)のレベルを読み取る。
波形g404〜g406に示すように、入射光が無い場合と、入射光がグレーレベルの場合と、入射光が白レベルの場合の信号出力レベルLR1〜LR3は等しく、LRCである。
一方、波形g407に示すように、弱い飽和状態となる入射光の場合の信号出力レベルLR4は、LRCより小さな値である。この理由は、飽和により、チャージされた電荷がリークするためである。
そして、波形g408に示すように、強い飽和状態となる入射光の場合の信号出力レベルLR5は、0である。
リセットレベル読み出し期間の時刻t105〜t106の露光期間、制御部107は、信号TX1を制御する。
そして、読み出し期間の時刻t107のとき、制御部107は、Hレベルが所定の時間である読み出し信号Tを振り分けゲートTxa〜Txdに出力する。この読み出し信号Tに応じて、4つの振り分けゲートTxa〜Txdが開く。制御部107は、時刻t107のときの信号出力(Out1〜Out4)のレベルを読み取る。
波形g404に示すように、入射光が無い場合の信号出力レベルLT1は、LRCである。
波形g405に示すように、入射光がグレーレベルの場合の信号出力レベルLT2は、LRCより小さいLTCである。
波形g404〜g408に示すように、入射光が白レベル場合と、弱い飽和状態と、強い飽和状態の信号出力レベルLT3、LT4、LT5それぞれは、0である。
このように、入射光が弱い飽和状態や強い飽和状態の場合は、読み出し期間に読み出す信号出力レベルが適切な値ではない。
このため、本実施形態では、以下に説明する手法によって、信号出力レベルを補正する。
図11は、CDS出力対入射光強度の関係を用いた信号出力レベルの補正を示す図である。図11において、横軸は入射強度、縦軸はCDS出力である。なお、CDS出力とは、図10で説明したリセット読み出し期間の信号出力レベルLから読み出し期間の信号出力レベルLを減算した値(L−L)である。
図11の符号g501が示す領域のグラフは、補正前のCDS出力対入射光強度のグラフである。直線g502のように、入射光の輝度が0からLmまでの間、CDS出力は、0からCDSまで増加していく。直線g503のように、入射光の輝度がLmからLmまでの間、CDS出力は、飽和によりCDSから0まで減少していく。直線g504のように、入射光の輝度がLm以降、CDS出力は、飽和により0である。
図11の符号g511が示す領域のグラフは、補正後のCDS出力対入射光強度のグラフである。入射光の輝度が0からLmまでの間の直線g502は、符号g501が示す領域のグラフと同様であり、補正を行わない。
制御部107は、直線g513のように、入射光の輝度がLmからLmまでの間、次式(8)を用いて補正する。この結果、直線g513のように、入射光の輝度がLmからLmまでの間、CDS出力は、CDSからCDSまで増加していく。
制御部107は、直線g514のように、入射光の輝度がLm以降、CDS出力を、次式(8)を用いて輝度を補正し、LmのCDS出力値であるCDSを維持する。なお、この補正式を、記憶部111が記憶する。
式(8)において、Lは、リセット後の信号出力レベルの代表値であり、Oは、オフセット値である。Lは、リセット後の信号出力レベルであり、Lは、露光後の信号出力レベルである。Gは、ゲインである。ここで、リセット後の信号出力レベルの代表値Lとは、リセットレベル読み出し期間における信号出力レベルの平均値または標準値である。ゲインGおよびオフセットOは、例えば飽和状態によって発生するリークによる出力降下分を考慮して決定するようにしてもよく、実測やシミュレーション結果や学習結果に基づいて決定するようにしてもよい。
なお、画素121や端末10の温度に応じて、制御部107がLとOを温度補正するようにしてもよい。温度補正を行う場合、記憶部111は、温度保証に関するテーブルを記憶するようにしてもよい。
このように、本実施形態では、リセットレベルと露光後の信号出力をサンプリングし、露光後のレベルが飽和レベル以下になった場合、リセットレベルの低下度を加算することで、輝度を補正している。なお、本実施形態では、このような補正を画素121毎に行う。
次に、輝度を補正した後の輝度出力の例を説明する。
図12は、本実施形態に係る光検出器に所定の輝度以上の光が入射した場合の例を示す図である。図12において、符号g601に示す領域の画像は、従来技術による図16の符号g901に示す領域の画像に相当する。図12の符号g610〜g612に示す画像は、図16の符号g910〜g912に相当する。図12の符号g620〜g622に示す画像は、図16の符号g920〜g922に相当する。
グラフg631は、符号g601の領域の画像のA−B方向の断面における断面方向に対する輝度出力の例を示すグラフである。グラフg631において、横軸は、符号g601の領域の画像のA−B方向の断面における断面方向の位置を表し、縦軸は輝度出力のレベルを表す。グラフg632は、符号g601の領域の画像のA−B方向の断面における断面方向に対する信号出力の例を示すグラフである。グラフg632において、横軸は、符号g601の領域の画像のA−B方向の断面における断面方向の位置を表し、縦軸は信号出力のレベルを表す。
従来技術による図16との差異は、強い飽和が発生したときであり、グラフg631に示すように、AからB方向に向かって、2番目〜4番目の輝度出力が、補正によって飽和レベル以上に出力される。このように、本実施形態によれば、輝度の境界であるエッジ(形状)とピークを保ちながら黒化減少を防止することができる。
次に、本実施形態で行う複数の画素に対するクラスタリング処理について説明する。
図13は、本実施形態に係る複数の画素121に対するクラスタリング処理を示す図である。図13に示す例では、受光部102の画素のうち6×6画素を抽出した例を示す。
図13において、画像g701は、輝度補正前の各画素の輝度を表す画像である。画像g702は、輝度を補正した後の各画素の輝度を表す画像である。画像g703は、輝度を補正した後、閾値より大きな振幅の画素をクラスタリングした画像である。画像g704は、輝度をクラスタリングした後、振幅強度の最大値を抽出した画像である。画像g705は、輝度強度でクラスタリングした画像である。画像g706は、輝度強度でクラスタリングした後、輝度強度の最大値を抽出した画像である。画像g707は、端末10が出力する画像である。また、図13において、“+”(十字印)は、振幅または強度が最大の画素の位置を示している。
次に、本実施形態において制御部107が行う処理手順の一例を、図13を参照しつつ、図14を用いて説明する。
図14は、本実施形態に係る制御部107が行う処理のフローチャートである。
(ステップS1)制御部107は、露光処理を行う。露光後の輝度は、例えば、図13の画像g701のようになる。
(ステップS2)検出部108は、受光部102が出力する信号を取得する。続けて、検出部108は、取得した信号の電圧値または電流値が、記憶部111が記憶する飽和を判別するための閾値以上であるか否かを画素毎に判別する。続けて、補正部109は、検出部108が出力する判別結果に基づいて、閾値以上である場合、記憶部111が記憶する補正式を用いて輝度を画素毎に補正する。輝度補正後は、例えば、図13の画像g702のようになる。
(ステップS3)クラスタリング部110は、画素121毎に、振幅と位相を計算する。なお、復調器105が、振幅と位相を計算するようにしてもよい。
(ステップS4)クラスタリング部110は、受光部102が備える全ての画素のうち、所定の数の領域を抽出する。
(ステップS5)クラスタリング部110は、記憶部111が記憶する閾値以上の振幅を有する画素121に対して、例えばk−平均アルゴリズムを用いてクラスタリング(ラベリング)を行う。クラスタリング後は、例えば、図13の画像g703のようになる。
(ステップS6)クラスタリング部110は、クラスタリングを行った結果、抽出されるクラスタリング領域の領域情報と最大値情報を求める。なお、領域情報とは、領域の左端の座標、右端の座標、上端の座標、および下端の座標である。また、最大値情報とは、振幅の最大値、最大値の座標である。図13の画像g704に示すように、6×6画素の領域において、横方向の画素をx=1〜6とし、縦方向の画素をy=1〜6とする。画像g704において、領域情報の各座標(x、y)は、左端の座標がx=2、右端の座標がx=5、上端の座標がy=5、下端の座標がy=2、振幅が最大値の座標が(2,4)である。
(ステップS7)クラスタリング部110は、ステップS4と同じ領域に対して、記憶部111が記憶する閾値以上の輝度を有する画素121に対して、例えばk−平均アルゴリズムを用いてクラスタリングを行う。クラスタリング後は、例えば、図13の画像g705のようになる。なお、クラスタリング部110は、ステップS7の処理を輝度補正後の輝度を用いて行う。
(ステップS8)クラスタリング部110は、クラスタリングを行った結果、抽出されるクラスタリング領域内において、輝度が最大である画素121の座標を最大値情報として算出する。画像g705において、輝度が最大値の座標が(3,3)である。
(ステップS9)クラスタリング部110は、全ての領域の処理が終了したか否かを判別する。クラスタリング部110は、全ての領域の処理が終了したと判別した場合(ステップS9;YES)、ステップS10の処理に進め、全ての領域の処理が終了していないと判別した場合(ステップS9;NO)、ステップS3の処理に戻す。
(ステップS10)クラスタリング部110は、領域毎の領域情報、振幅の最大値情報、輝度の最大値情報、各画素121の補正後の輝度を示す情報、および各画素121の振幅と位相を示す情報を不図示の外部装置に出力する。なお、クラスタリング部110は、信号領域として輪郭を情報として出力してもよい。制御部107は、輪郭を抽出する際にスネークス(Snakes)法を使うことで凹型の領域について凹んだところを埋めて外形とするようにしてもよい。
(ステップS11)クラスタリング部110は、次に取り込むべきROI(Region Of Interest;関心領域)の中心を、ステップS6で求めた振幅が最大の座標が中心になるように決定する。なお、クラスタリング部110は、ステップS8¥で求めた輝度が最大の座標が中心になるように決定するようにしてもよい。
(ステップS12)制御部107は、振幅強度が最大の画素の位相と振幅を時系列で追って、受信した信号に含まれる情報を復調および復号処理することで解読していく。なお、制御部107は、ROIの中に複数の信号が含まれる場合、振幅で別のクラスタリングであれば別の信号として解読する。
制御部107は、ステップS1〜S12の処理を、1フレーム毎に行う。なお、1フレームは、例えば48.384[ms]である。
なお、図13および図14に示した例では、領域の画素数が6×6画素の例を示したが、これに限られない。領域の画素数は、他の個数であってもよい。
ここで、ステップS1〜S12の処理によって制御部107が抽出した最大位置の例を説明する。
図15は、本実施形態に係る発光信号(送信信号)の検出結果の一例を示す図である。
図15に示す例は、受光部102が1024×768画素の例である。画像g801は、前画素を走査した結果の一例を示す画像である。画像g811は、例えば識別子IDが1にクラスタリングされた領域を示す。位置p811は、画像g811における輝度が最大の座標を示す。画像g812は、例えばIDが2にクラスタリングされた領域を示す。位置p812は、画像g812における輝度が最大の座標を示す。画像g813は、例えばIDが3にクラスタリングされた領域を示す。位置p813は、画像g813における輝度が最大の座標を示す。画像g814は、例えばIDが4と5にクラスタリングされた2つの領域の画像g814とg814が隣接している領域を示す。位置p814は、画像g814における輝度が最大の座標を示す。位置p815は、画像g814における輝度が最大の座標を示す。
制御部107は、例えば、読み出し領域をx軸方向に移動させて、画像801の右端に達した後、読み出し領域を画像801におけるx軸方向の左に戻す。このとき、制御部107は、読み出し領域をy軸方向に1画素分だけ移動させる。そして、制御部107は、x軸方向に移動させる。なお、制御部107は、読み出し領域が右下端に達したら左上端に戻す。
図15に示すように、本実施形態では、クラスタリングを行った領域において、輝度が最大である座標(位置)を求めている。これにより、本実施形態によれば、画像g814に複数の領域が隣接している場合であっても、輝度が最大である座標が複数含まれている領域であれば、複数の領域が隣接していることを制御部107が判別することができる。
以上のように、本実施形態によれば、出力電圧の飽和の進行状態に応じて出力を補正するため、黒化現象を防止することができつつ、より明るい場所を撮像したとしても、その部分のエッジ(形状)とピークを適切に捉えることができる。
また、本実施形態によれば、受光部102の画素121の出力が飽和したときに出力を補正することができるので、黒化現象を防止することができつつ、より明るい場所を撮像したとしても、その部分のエッジ(形状)とピークを適切に捉えることができる。
また、本実施形態によれば、飽和状態によって発生するリークによる出力降下分を考慮して加算されるべきゲインGを決定するので、より一層明るい場所を撮像したとしてもそのエッジとピークを適切に捉えることができる。
また、本実施形態によれば、受光部102が備える複数の画素121に対して、振幅または補正後の輝度に基づいてクラスタリングを行うことで、発光信号(送信信号)の領域の大きさを検出することができる。また、本実施形態によれば、クラスタにおける振幅の最大値の位置、または補正後の輝度の最大値の位置を検出することで、発光信号の中心位置を検出できる。
また、本実施形態によれば、発光信号の中心位置を関心空間ROIの中心に設定することで、発光信号を次回、受光するときに、発光信号の中心を適切に設定することができる。
なお、本発明における端末10の復調器105、復号器106、制御部107の機能のうち少なくとも1つを実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWWシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバーやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
1…通信システム、10…端末、20…送信装置、101…レンズ、102…受光部、103…GNSS、104…発振器、105…復調器、106…復号器、107…制御部、108…検出部、109…補正部、110…クラスタリング部、111…記憶部、121…画素、122…垂直走査回路、123…水平走査回路、124…読み出し回路、203…GNSS、204…発振器、207…制御部、208…符号器、209…変調器、210…投光器、211…記憶部、SB…信号ブロック、SP…信号パルス、TB…TOFブロック、TP…TOFパルス

Claims (6)

  1. 送信装置からの発光信号を画素によって受光する受光部と、
    前記受光部が受光した発光信号に基づく出力が、第1閾値以上であるか否かを検出する検出部と、
    前記検出部が検出した結果に基づいて、前記発光信号に基づく出力が第1閾値以上である場合に、画素の輝度を補正する補正部と、
    を備える撮像装置。
  2. 前記検出部は、
    前記発光信号に基づく出力が第1閾値以上であるか否かを、前記画素の電荷の蓄積をリセットした後の出力値と、前記受光部を露光した後の前記画素の電荷の蓄積を読み出したときの出力値に基づいて検出する、請求項1に記載の撮像装置。
  3. 前記補正部は、
    発光信号に基づく出力が第1閾値以上である場合に、前記画素の電荷の蓄積をリセットした後の出力値の平均値または標準値と、前記画素の電荷の蓄積をリセットした後の出力値との差分に所定のゲインを乗じた値を、前記受光部を露光した後の前記画素の電荷の蓄積を読み出したときの出力値と前記画素の電荷の蓄積をリセットした後の出力値との差に加算して、前記画素の輝度を補正する、請求項2に記載の撮像装置。
  4. 前記受光部は、複数の前記画素、を備え、
    前記補正部が出力する信号の振幅、および前記受光部が出力する信号に基づく輝度のうち少なくとも一つを用いてクラスタに分類するクラスタリング部、を備え、
    前記クラスタリング部は、
    前記クラスタ毎に、前記信号の振幅の最大値である画素の座標、前記受光部が出力する信号に基づく輝度の最大値である画素の座標のうち少なくとも一つを算出する、請求項1から請求項3のうちの1項に記載の撮像装置。
  5. 前記クラスタリング部は、
    算出した前記信号の振幅の最大値である画素の座標、または算出した前記受光部が出力する信号に基づく輝度の最大値である画素の座標を、次に前記発光信号を取り込むべき関心領域の中心に決定する、請求項4に記載の撮像装置。
  6. 受光部が、送信装置からの発光信号を画素によって受光する受光手順と、
    検出部が、前記受光手順によって受光された発光信号に基づく出力が、第1閾値以上であるか否かを検出する検出手順と、
    補正部が、前記検出手順によって検出された結果に基づいて、前記発光信号に基づく出力が第1閾値以上である場合に、画素の輝度を補正する補正手順と、
    を含む撮像方法。
JP2016062188A 2016-03-25 2016-03-25 撮像装置および撮像方法 Active JP6712883B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016062188A JP6712883B2 (ja) 2016-03-25 2016-03-25 撮像装置および撮像方法
US15/465,993 US10079991B2 (en) 2016-03-25 2017-03-22 Imaging apparatus and imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016062188A JP6712883B2 (ja) 2016-03-25 2016-03-25 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JP2017175550A true JP2017175550A (ja) 2017-09-28
JP6712883B2 JP6712883B2 (ja) 2020-06-24

Family

ID=59898950

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016062188A Active JP6712883B2 (ja) 2016-03-25 2016-03-25 撮像装置および撮像方法

Country Status (2)

Country Link
US (1) US10079991B2 (ja)
JP (1) JP6712883B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6791645B2 (ja) * 2016-03-29 2020-11-25 本田技研工業株式会社 光通信装置、光通信システム、および光通信方法
US20180336454A1 (en) * 2017-05-19 2018-11-22 General Electric Company Neural network systems
CN117336600A (zh) * 2017-06-01 2024-01-02 松下电器(美国)知识产权公司 图像传感器、由其实施的方法、以及接收装置及方法
CN112104860B (zh) * 2020-08-18 2022-07-08 江西欧迈斯微电子有限公司 校准方法、装置、计算机装置及可读存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007174032A (ja) * 2005-12-20 2007-07-05 Mitsubishi Electric Corp 撮像装置
JP2008283557A (ja) * 2007-05-11 2008-11-20 Sony Corp 固体撮像装置、撮像装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3517614B2 (ja) 1998-12-25 2004-04-12 株式会社東芝 固体撮像装置
US6803958B1 (en) * 1999-03-09 2004-10-12 Micron Technology, Inc. Apparatus and method for eliminating artifacts in active pixel sensor (APS) imagers
JP2001024949A (ja) * 1999-07-08 2001-01-26 Canon Inc 固体撮像装置及びそれを用いた撮像システム
US7502059B2 (en) * 2002-08-22 2009-03-10 Aptina Imaging Corporation Asymmetric comparator for use in pixel oversaturation detection
US7167200B1 (en) * 2003-06-27 2007-01-23 National Semiconductor Corporation CMOS image sensor oversaturation protection circuit
JP4155280B2 (ja) * 2005-05-18 2008-09-24 コニカミノルタオプト株式会社 撮像装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007174032A (ja) * 2005-12-20 2007-07-05 Mitsubishi Electric Corp 撮像装置
JP2008283557A (ja) * 2007-05-11 2008-11-20 Sony Corp 固体撮像装置、撮像装置

Also Published As

Publication number Publication date
US20170280082A1 (en) 2017-09-28
JP6712883B2 (ja) 2020-06-24
US10079991B2 (en) 2018-09-18

Similar Documents

Publication Publication Date Title
JP6712883B2 (ja) 撮像装置および撮像方法
JP7347585B2 (ja) 距離測定装置
EP3289703B1 (en) Coherent decoding of visible light communication (vlc) signals
CN108010073B (zh) 用于具有背景去除的有源深度成像仪的***和方法
JP7238343B2 (ja) 距離測定装置及び距離測定方法
CN105705962B (zh) 具有主动照明的传感器***
US20170244482A1 (en) Light-based communication processing
Kim et al. A CMOS image sensor based on unified pixel architecture with time-division multiplexing scheme for color and depth image acquisition
US20190037120A1 (en) Imaging apparatus and electronic apparatus
US20170170906A1 (en) Coded light symbol encoding
US10534240B2 (en) Imaging control device, imaging control method, and recording medium having same recorded thereon
US20120162370A1 (en) Apparatus and method for generating depth image
CN111427048A (zh) 一种ToF深度测量装置、控制ToF深度测量装置的方法及电子设备
JP2006084430A (ja) 距離画像センサ
WO2022254789A1 (ja) 受信装置および送受信システム
JP4466319B2 (ja) 空間情報の検出装置
JP2013083510A (ja) レーザレーダ装置およびレーザレーダ装置による撮像目標選択方法
US20230358863A1 (en) Range imaging device and range imaging method
JP2016170038A (ja) 光通信装置、送信信号、及びプログラム
JP6649826B2 (ja) 車両間通信システムおよび車両間通信方法
US20210327091A1 (en) Image processing apparatus and image processing method
JP5427173B2 (ja) 光受信機
US20210135753A1 (en) Detecting coded light
JP2015052481A (ja) 計測装置、計測システム、計測方法、及び計測プログラム
JP2013214938A (ja) 撮影装置及び撮影装置の画像処理方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181005

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200526

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200602

R150 Certificate of patent or registration of utility model

Ref document number: 6712883

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150