JP7299845B2 - 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 - Google Patents

固体撮像素子、撮像装置、および、固体撮像素子の制御方法 Download PDF

Info

Publication number
JP7299845B2
JP7299845B2 JP2019568916A JP2019568916A JP7299845B2 JP 7299845 B2 JP7299845 B2 JP 7299845B2 JP 2019568916 A JP2019568916 A JP 2019568916A JP 2019568916 A JP2019568916 A JP 2019568916A JP 7299845 B2 JP7299845 B2 JP 7299845B2
Authority
JP
Japan
Prior art keywords
time information
unit
counting
time
count value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019568916A
Other languages
English (en)
Other versions
JPWO2019150785A1 (ja
Inventor
靖久 栃木
挙文 高塚
弘博 朱
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Publication of JPWO2019150785A1 publication Critical patent/JPWO2019150785A1/ja
Application granted granted Critical
Publication of JP7299845B2 publication Critical patent/JP7299845B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14609Pixel-elements with integrated switching, control, storage or amplification elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • H04N25/773Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters comprising photon counting circuits, e.g. single photon detection [SPD] or single photon avalanche diodes [SPAD]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Photometry And Measurement Of Optical Pulse Characteristics (AREA)

Description

本技術は、固体撮像素子、撮像装置、および、固体撮像素子の制御方法に関する。詳しくは、光子数を計数するフォトンカウンタを備える固体撮像素子、撮像装置、および、固体撮像素子の制御方法に関する。
従来より、撮像装置などにおいて、画像データを撮像するために固体撮像素子が用いられている。例えば、SPAD(Single-Photon Avalanche Diode)、フォトンカウンタ、閾値マルチプレクサ回路およびタイマを設けた固体撮像素子が提案されている(例えば、特許文献1参照。)。ここで、SPADは、1光子の入射の有無を検出することができるほど感度の高いアバランシェフォトダイオードである。この固体撮像素子において、フォトンカウンタは、露光期間に亘って光子数を計数して計数値を生成する。タイマは、露光期間終了まで、タイマ値を示す時刻情報をメモリに伝送し続ける。また、閾値マルチプレクサ回路は、計数値を監視し、露光期間終了前に計数値が所定の閾値に達した際に、その時点の時刻情報をメモリに保持させる。この時刻情報を画素値として出力し、画素アレイ外部で露光時間における計測数に換算することで、画素内の閾値以上のカウント値情報を得ることができる。
米国特許出願公開第2012/057059号明細書
上述の固体撮像素子において、タイマは、露光期間内にタイマ値を更新するたびに時刻情報を各画素内のメモリへ伝送している。このため、露光期間内に所定の閾値に達しない、もしくは閾値に達するまでの時間が長い低照度において、タイマからメモリへの時刻情報の伝送回数が多くなり、それらの間の伝送路の消費電力が増大してしまう、という問題がある。
本技術はこのような状況に鑑みて生み出されたものであり、時刻を計時する固体撮像素子において、消費電力を低減することを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、所定の露光期間内に光子が入射された回数を計数して計数値を出力する計数部と、上記所定の露光期間が経過する前に上記計数値が所定値に達した場合には上記計数部を停止させる制御と時刻情報の要求とを行う計数制御部と、時刻を計時して上記要求に応じて上記時刻情報を出力する計時部と、上記出力された時刻情報に基づいて上記所定の露光期間内の光子の入射回数を推定する推定部とを具備する固体撮像素子、および、その制御方法である。これにより、要求に応じて計時部から時刻情報が出力されるという作用をもたらす。
また、この第1の側面において、上記時刻情報の要求において上記計数制御部は、上記時刻情報を要求するリクエストを上記計時部に出力し、上記計数部、上記計数制御部およびは、二次元格子状に配列された複数の画素回路のそれぞれに配置されてもよい。これにより、画素回路毎のリクエストの出力に応じて時刻情報が出力されるという作用をもたらす。
また、この第1の側面において、上記計時部は、上記複数の画素回路のいずれかにより前記リクエストが入力された時刻または露光開始から前記リクエストが入力されるまでの時間を示す情報を上記時刻情報として出力してもよい。
また、この第1の側面において、上記所定値は、上記計数値を制限する制限値と当該制限値に達する前の上記計数値を示す直前値とを含み、上記計数制御部は、上記直前値に上記計数値が達したときから上記制限値に上記計数値が達したときまでの間に亘って上記リクエストを継続して上記計時部に出力する制御と上記制限値に上記計数値が達したときに上記計数部を停止させる制御とを行い、上記計時部は、上記リクエストが入力されている期間内の時刻のそれぞれについて上記時刻を示す情報を上記時刻情報として出力し、上記推定部は、上記制限値に上記計数値が達したときの上記時刻情報に基づいて上記入射回数を推定してもよい。これにより、計数値が直前値に達したときから制限値に達するまでの間に亘って時刻情報が継続して出力されるという作用をもたらす。
また、この第1の側面において、上記計時部は、それぞれが上記時刻を計時して上記時刻情報を生成する複数の時刻情報生成部を含み、上記複数の画素回路のそれぞれは、互いに異なる上記時刻情報生成部に接続されてもよい。これにより、画素回路ごとに配置された時刻情報生成部により時刻が計時されるという作用をもたらす。
また、この第1の側面において、上記計時部は、それぞれが上記時刻を計時して上記時刻情報を生成する複数の時刻情報生成部を含み、各々が所定方向に配列された所定数の上記画素回路からなる複数のラインのそれぞれは、互いに異なる上記時刻情報生成部に接続されてもよい。これにより、ラインごとに配置された時刻情報生成部により時刻が計時されるという作用をもたらす。
また、この第1の側面において、上記計時部は、上記時刻を計時して上記時刻情報を生成する時刻情報生成部を含み、上記複数の画素回路は、上記時刻情報生成部に共通に接続されてもよい。これにより、全画素回路により共有された時刻情報生成部により時刻が計時されるという作用をもたらす。
また、この第1の側面において、1つの光子の入射の有無を検出するフォトダイオードと、上記光子の入射が検出されるたびに上記フォトダイオードの一端の電位を初期状態へ戻すための抵抗とをさらに具備し、上記計数部は、上記一端の電位が前記光子の入射の有無の検出により変動した回数を計数してもよい。これにより、フォトダイオードの一端の電位が変動した回数が計数されるという作用をもたらす。
また、この第1の側面において、上記フォトダイオードは、受光チップに配置され、上記抵抗、上記計数部、上記計数制御部、上記推定部は、上記受光チップに積層されたロジックチップに配置されてもよい。これにより、抵抗、計数制御部および推定部とともにロジックチップに配置された計数部により光子数が計数されるという作用をもたらす。
また、この第1の側面において、上記フォトダイオードおよび上記抵抗は、受光チップに配置され、上記計数部、上記計数制御部および上記推定部は、上記受光チップに積層されたロジックチップに配置されてもよい。これにより、計数制御部および推定部とともにロジックチップに配置された計数部により光子数が計数されるという作用をもたらす。
また、この第1の側面において、上記フォトダイオードは、受光チップに配置され、上記計数部、上記計数制御部および上記推定部は、上記受光チップに積層されたロジックチップに配置され、上記計時部は、上記ロジックチップに積層された計時チップに配置されてもよい。これにより、計時チップに積層された計時部により時刻情報が出力されるという作用をもたらす。
また、本技術の第2の側面は、所定の露光期間内に光子が入射された回数を計数して計数値を出力する計数部と、上記所定の露光期間が経過する前に上記計数値が所定値に達した場合には上記計数部を停止させる制御と時刻情報の要求とを行う計数制御部と、時刻を計時して上記要求に応じて上記時刻情報を出力する計時部と、上記出力された時刻情報に基づいて上記所定の露光期間内の光子の入射回数を推定して推定値を出力する推定部と、上記推定値から生成された画像データを記録する記録部とを具備する撮像装置である。これにより、要求に応じて計時部から時刻情報が出力され、その時刻情報から推定値が推定されるという作用をもたらす。
本技術によれば、時刻を計時する固体撮像素子において、消費電力を低減することができるという優れた効果を奏し得る。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
本技術の第1の実施の形態における撮像装置の一構成例を示すブロック図である。 本技術の第1の実施の形態における固体撮像素子の積層構造の一例を示す図である。 本技術の第1の実施の形態における受光チップの一構成例を示す平面図である。 本技術の第1の実施の形態におけるロジックチップの一構成例を示すブロック図である。 本技術の第1の実施の形態におけるロジックアレイ部および計時部の一構成例を示すブロック図である。 本技術の第1の実施の形態における時刻情報生成部の一構成例を示すブロック図である。 本技術の第1の実施の形態における画素回路の一構成例を示す回路図である。 本技術の第1の実施の形態におけるアノード、カソードを逆にした際の画素回路の一構成例を示す回路図である。 本技術の第1の実施の形態におけるフォトンカウンタの動作の一例を示す図である。 本技術の第1の実施の形態における計数制御部の動作の一例を示す図である。 本技術の第1の実施の形態における信号処理部の動作の一例を示す図である。 本技術の第1の実施の形態における撮像装置の動作の一例を示すタイミングチャートである。 本技術の第1の実施の形態における画素回路および計時部の動作の一例を示すタイミングチャートである。 本技術の第1の実施の形態における計数値の変動の一例を示す図である。 本技術の第1の実施の形態における画素回路および計時部を簡易化した図である。 本技術の第1の実施の形態における撮像装置の動作の一例を示すフローチャートである。 本技術の第1の実施の形態における計数処理の一例を示すフローチャートである。 本技術の第1の実施の形態の変形例における画素回路の一構成例を示す回路図である。 本技術の第2の実施の形態における時刻情報生成部の一構成例を示すブロック図である。 本技術の第2の実施の形態における画素回路および計時部の動作の一例を示すタイミングチャートである。 本技術の第3の実施の形態における計数制御部の動作の一例を示す図である。 本技術の第3の実施の形態における画素回路および計時部の動作の一例を示すタイミングチャートである。 本技術の第4の実施の形態におけるロジックアレイ部および計時部の一構成例を示すブロック図である。 本技術の第5の実施の形態における固体撮像素子の積層構造の一例を示す図である。 本技術の第5の実施の形態におけるロジックチップの一構成例を示すブロック図である。 本技術の第5の実施の形態における計時チップの一構成例を示す平面図である。 車両制御システムの概略的な構成例を示すブロック図である。 撮像部の設置位置の一例を示す説明図である。
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(要求に応じて計時部が時刻情報を出力する例)
2.第2の実施の形態(要求に応じて計時部が時刻情報を継続して出力する例)
3.第3の実施の形態(直前値から制限値までの要求に応じて計時部が時刻情報を出力する例)
4.第4の実施の形態(全行で時刻情報生成部を共有し、要求に応じて計時部が時刻情報を出力する例)
5.第5の実施の形態(3つのチップに分散して回路を配置し、要求に応じて計時部が時刻情報を出力する例)
6.移動体への応用例
<1.第1の実施の形態>
[撮像装置の構成例]
図1は、本技術の実施の形態における撮像装置100の一構成例を示すブロック図である。この撮像装置100は、画像データを撮像するものであり、撮像レンズ110、固体撮像素子200、記録部120および撮像制御部130を備える。撮像装置100としては、例えば、スマートフォン、デジタルカメラ、パーソナルコンピュータ、車載カメラやIoT(Internet of Things)カメラが想定される。
撮像レンズ110は、入射光を集光して固体撮像素子200に導くものである。固体撮像素子200は、撮像制御部130の制御に従って画像データを撮像するものである。この固体撮像素子200は、撮像した画像データを記録部120に信号線209を介して供給する。記録部120は、画像データを記録するものである。
撮像制御部130は、固体撮像素子200を制御して画像データを撮像させるものである。この撮像制御部130は、例えば、垂直同期信号などの同期信号と、露光期間を制御する露光制御信号と、露光時間とを固体撮像素子200に信号線139を介して供給する。
なお、撮像装置100は、インターフェースをさらに備え、そのインターフェースにより画像データを外部に送信してもよいし、表示部をさらに備え、表示部に画像データを表示してもよい。
[固体撮像素子の構成例]
図2は、本技術の実施の形態における固体撮像素子200の積層構造の一例を示す図である。この固体撮像素子200は、受光チップ201と、その受光チップ201に積層されたロジックチップ202とを備える。これらのチップ間には、信号を伝送するための信号線が設けられる。
[受光チップの構成例]
図3は、本技術の実施の形態における受光チップ201の一構成例を示す平面図である。この受光チップ201には、受光部210が設けられ、受光部210には、二次元格子状に複数の受光回路220が設けられる。受光回路220の詳細については後述する。
[ロジックチップの構成例]
図4は、本技術の実施の形態におけるロジックチップ202の一構成例を示すブロック図である。このロジックチップ202には、垂直制御部230、ロジックアレイ部260、水平制御部240、信号処理部250および計時部290が配置される。また、ロジックアレイ部260には、受光回路220ごとに、論理回路270が配列される。これらの論理回路270のそれぞれは、対応する受光回路220と信号線を介して接続されている。受光回路220と、その回路に対応する論理回路270とからなる回路は、画像データにおける1画素の画素信号を生成する画素回路として機能する。
そして、垂直制御部230には、垂直同期信号が入力され、水平制御部240には水平同期信号が入力される。ロジックアレイ部260には、撮像制御部130からの露光制御信号が入力される。計時部290には、露光制御信号が入力される。
以下、所定方向(水平方向など)に配列された画素回路(受光回路220および論理回路270)の集合を「行」または「ライン」と称し、行に垂直な方向に配列された画素回路の集合を「列」と称する。
垂直制御部230は、垂直同期信号に同期して行を順に選択するものである。論理回路270は、露光期間内に光子が入射された回数を計数して、その計数値を示す信号を画素信号として信号処理部250に出力するものである。水平制御部240は、水平同期信号に同期して列を順に選択して画素信号を出力させるものである。
信号処理部250は、画素信号からなる画像データに対して、フィルタ処理などの所定の信号処理を実行するものである。この信号処理部250は、処理後の画像データを記録部120に出力する。また、信号処理部250には、撮像制御部130からの露光時間が入力される。また、信号処理部250は、露光期間内の光子の入射回数の推定も行う。推定方法の詳細については後述する。
計時部290は、露光制御信号に従って、露光期間内の相対時刻を計時するものである。この計時部290は、計時した時刻を示す時刻情報を論理回路270のそれぞれに出力する。
[計時部の構成例]
図5は、本技術の第1の実施の形態におけるロジックアレイ部260および計時部290の一構成例を示すブロック図である。ロジックアレイ部260には、論理回路270が二次元格子状に配列される。そして、水平方向に配列された論理回路270からなる行ごとに水平信号線298および299が配線される。また、計時部290には、行ごとに時刻情報生成部291が配置される。時刻情報生成部291は、対応する行(言い換えれば、ライン)のそれぞれの論理回路270(画素回路)と水平信号線298および299を介して接続されている。
論理回路270の行数をNとすると、水平信号線298、水平信号線299および時刻情報生成部291のそれぞれは、N個ずつ設けられる。
論理回路270は、所定のタイミングにおいて、時刻情報Tcを要求するリクエストReqを生成し、対応する水平信号線298を介して時刻情報生成部291に出力する。
時刻情報生成部291は、時刻を計時し、リクエストReqに応じて時刻情報Tcを生成して出力するものである。この時刻情報生成部291は、露光制御信号の示す露光期間内の相対時刻を計時する。そして、リクエストReqが入力されると時刻情報生成部291は、そのときの時刻を示す情報を時刻情報Tcとして生成し、水平信号線299を介して対応する行の論理回路270(画素回路)のそれぞれに出力する。
[時刻情報生成部の構成例]
図6は、本技術の第1の実施の形態における時刻情報生成部291の一構成例を示すブロック図である。この時刻情報生成部291は、計時回路292および伝送部293を備える。
計時回路292は、露光制御信号の示す露光期間内に亘って、その期間内の相対時刻を計時するものである。計時回路292は、例えば、カウンタにより構成される。この計時回路292は、時刻を計時するたびに、その時刻を示すタイマ値を伝送部293に供給する。
伝送部293は、リクエストReqに応じて時刻情報を出力するものである。この伝送部293は、例えば、スイッチ294を備える。スイッチ294は、計時回路292と対応する論理回路270との間の経路を、リクエストReqに従って開閉するものである。論理回路270からのリクエストReqが入力されていない場合、スイッチ294は開状態であり、時刻情報は出力されない。一方、リクエストReqが入力された場合に、スイッチ294は閉状態に移行し、計時回路292のタイマ値を示す情報を時刻情報Tcとして、対応する論理回路270のそれぞれに出力する。
[画素回路の構成例]
図7は、本技術の第1の実施の形態における画素回路300の一構成例を示す回路図である。この画素回路300は、受光回路220と論理回路270とを備える。受光回路220は、抵抗221およびフォトダイオード222を備える。また、論理回路270は、インバータ271、フォトンカウンタ273、計数制御部274、スイッチ275、時刻情報保持部277およびスイッチ278を備える。
フォトダイオード222は、入射光を光電変換して光電流を出力するものである。このフォトダイオード222のカソードは、抵抗221を介して電源電位の端子に接続され、アノードは、その電源電位よりも低い電位GND1の端子(接地端子など)に接続される。これにより、フォトダイオード222には、逆バイアスが印加される。また、光電流は、フォトダイオード222のカソードからアノードへの方向に流れる。
フォトダイオード222としては、例えば、光電流を増幅することにより1光子の入射の有無を検出することができるアバランシェフォトダイオードが用いられる。また、アバランシェダイオードの中でも特に、SPADを用いることが望ましい。
抵抗221の一端は、電源電位の端子に接続され、他端は、フォトダイオード222のカソードに接続される。光子の入射が検出されるたびに、抵抗221に光電流が流れ、フォトダイオード222のカソード電位が、電源電位より低い初期状態の値に降下する。
インバータ271は、フォトダイオード222のカソード電位の信号を反転してパルス信号として、フォトンカウンタ273に出力するものである。このインバータ271は、カソード電位が所定値より高い場合にローレベルのパルス信号を出力し、その所定値以下の場合にハイレベルのパルス信号を出力する。また、インバータ271が接続される接地側の電位GND2は、受光回路220内の電位GND2と異なる。
フォトンカウンタ273は、露光期間内においてハイレベルのパルス信号が出力された回数を計数するものである。この計数値は、光子の入射の有無の検出によりフォトダイオード222の一端の電位(カソード電位など)が変動した回数を示す。光子の実際の入射数に対するパルス数の比率を1/10とすると、10個の光子が入射されるたびに1回の計数が行われる。
フォトンカウンタ273は、露光開始時に計数値CNTを初期値(例えば、「0」)にし、露光期間に亘って計数を行う。計数値は、例えば、パルス信号が出力されるたびに増分される。すなわち、アップカウントが行われる。そして、フォトンカウンタ273は、露光終了時、または、計数制御部274の制御に従って計数を停止し、その計数値CNTを計数制御部274およびスイッチ275に出力する。
なお、フォトンカウンタ273は、特許請求の範囲に記載の計数部の一例である。また、フォトンカウンタ273は、アップカウントを行っているが、アップカウントの代わりにダウンカウントを行ってもよい。
計数制御部274は、計数値CNTが所定の制限値に達した場合において、フォトンカウンタ273を停止させる制御と時刻情報Tcを要求するリクエストReqの出力とを行うものである。アップカウントの場合には制限値として上限値Limが用いられる。上限値Limは、フォトンカウンタ273が計数することができる最大値以下の値であり、予めレジスタなどに設定される。例えば、8ビットカウンタをフォトンカウンタ273として用いる場合、「255」以下の値(「254」や「255」など)が上限値Limとして設定される。
計数制御部274は、露光期間内に計数値CNTが上限値Limに達しているか否かを判定し、その判定結果DECをフォトンカウンタ273、スイッチ275および信号処理部250に出力する。また、露光期間内に計数値CNTが上限値Limに達した場合に計数制御部274は、リクエストReqを生成して時刻情報保持部277と計時部290とに出力する。なお、ダウンカウントが行われる場合には、上限値の代わりに下限値が用いられる。
時刻情報保持部277は、リクエストReqが生成されたときに、そのリクエストに応じて計時部290により出力された時刻情報Tcを取り込んで保持するものである。時刻情報保持部277としてレジスタやメモリが用いられる。
また、信号処理部250は、計数値CNTが所定の制限値に達した場合に、露光期間内の光子の入射回数を示す計数値を推定し、推定値ESTとして出力する。この信号処理部250は、撮像制御部130からの露光時間Teと、時刻情報保持部277に保持された時刻情報Tcと、上限値Limとを用いて次の式により、推定値ESTを求める。そして、信号処理部250は、推定値ESTをスイッチ275に出力する。なお、信号処理部250は、特許請求の範囲に記載の推定部の一例である。
EST=Lim×(Te/Tc) ・・・式1
スイッチ275は、判定結果DECに従って、計数値CNTおよび推定値ESTのいずれかを選択するものである。このスイッチ275は、計数値CNTが所定の制限値に達した場合に推定値ESTを選択し、出力値OUTとしてスイッチ278に出力する。一方、計数値CNTが所定の制限値に達していない場合にスイッチ275は、計数値CNTを選択し、出力値OUTとしてスイッチ278に供給する。
スイッチ278は、水平制御部240の制御に従って、出力値OUTの信号を画素信号として信号処理部250に出力するものである。
なお、フォトダイオード222のカソードを抵抗221に接続しているが、図8に例示するように、アノードを抵抗221に接続することもできる。
図9は、本技術の第1の実施の形態におけるフォトンカウンタの動作の一例を示す図である。フォトンカウンタ273には、露光制御信号と判定結果DECとが入力される。ここで、露光制御信号には、例えば、露光期間内において「1」が設定され、露光期間外において「0」が設定される。また、判定結果DECには、例えば、計数値CNTが上限値Limに達した場合に「1」が設定され、計数値CNTが上限値Lim未満の場合に「0」が設定される。
露光制御信号が「0」(すなわち、露光期間外)である場合にフォトンカウンタ273は、判定結果DECの値に関わらず、計数動作を停止する。一方、露光制御信号が「1」(すなわち、露光期間内)である場合にフォトンカウンタ273は、判定結果DECが「0」(すなわち、計数値CNTが上限値Lim未満)であれば、計数動作を継続して行う。しかし、判定結果DECが「1」(すなわち、計数値CNTが上限値Lim)であれば、フォトンカウンタ273は、計数動作を停止する。
図10は、本技術の第1の実施の形態における計数制御部274の動作の一例を示す図である。計数値CNTが上限値Lim未満である場合に計数制御部274は、「0」の判定結果DECを出力してフォトンカウンタ273に計数動作を継続させ、リクエストReqを「0」にする。
一方、計数値CNTが上限値Limである場合に計数制御部274は、「1」の判定結果DECを出力してフォトンカウンタ273に計数動作を停止させ、「1」のリクエストReqを出力して時刻情報Tcを要求する。
図11は、本技術の第1の実施の形態における信号処理部250の動作の一例を示す図である。判定結果DECが「0」(すなわち、計数値CNTが上限値Lim未満)である場合に信号処理部250は、推定値の演算を実行せずに停止する。一方、判定結果DECが「1」(すなわち、計数値CNTが上限値Lim)である場合に信号処理部250は、式1を用いて推定値ESTを演算する。
図12は、本技術の第1の実施の形態における撮像装置100の動作の一例を示すタイミングチャートである。垂直同期信号VSYNCの立ち上がりのタイミングT0から、その次の立上りのタイミングT4までの期間は、垂直同期信号VSYNCの周期に該当する。この周期内において露光期間が設定される。
例えば、撮像制御部130は、周期内のタイミングT1からタイミングT3までの期間を露光期間として設定し、その露光期間内に亘って露光制御信号をハイレベルにする。そして、フォトンカウンタ273は、露光期間内において動作して計数値CNTを計数する。そして、露光期間内のタイミングT2において、計数値CNTが上限値Limに達すると、計数制御部274は、フォトンカウンタ273に計数を停止させる。動作停止時に、フォトンカウンタ273は、計数値を初期値にする。
また、次の垂直同期信号VSYNCの立ち上がりのタイミングT4の後において、撮像制御部130は、周期内のタイミングT5からタイミングT6までの期間を露光期間として設定する。フォトンカウンタ273は、その露光期間内において動作して計数値CNTを計数する。この露光期間内においては、計数値CNTが上限値Limに達しなかったため、フォトンカウンタ273は露光期間終了時に計数動作を停止する。
上述したように、フォトンカウンタ273は、露光期間内に計数値CNTが上限値Limに達すると計数を停止する。ここで、一般に、カウント回数が増大するほど、カウンタの消費電力は大きくなる。このため、フォトンカウンタ273が、露光期間の途中で計数を停止することにより、停止せずに計数を継続した場合と比較して消費電力を低減することができる。ただし、露光期間の途中で計数を停止した場合、そのときの計数値CNT(すなわち、上限値Lim)は、停止せずに露光期間終了時まで計数した際の値と異なるものとなり、露光期間内の露光量に応じた値ではなくなってしまう。そこで、信号処理部250が、露光期間終了時の計数値の推定を行っている。
図13は、本技術の第1の実施の形態における画素回路300および計時部290の動作の一例を示すタイミングチャートである。タイミングT1からタイミングT3までの露光期間に亘って計時部290内の計時回路292は、計時を行って時刻を示すタイマ値をクロック信号などに同期して更新する。
露光期間内のタイミングT2において、計数値CNTが上限値Limに達すると画素回路300内の計数制御部274は、ハイレベルのリクエストReqを所定のパルス期間に亘って出力する。
そして、リクエストReqが入力されると計時部290内の伝送部293は、タイミングT2から遅延時間dtが経過したタイミングT21において時刻情報Tcを出力する。ここで、遅延時間dtは、画素回路300から計時部290まで水平信号線298を介してリクエストReqが伝送される伝送遅延や、伝送部293内の回路の動作時間などにより生じる。
上述したように、計時部290は、リクエストReqが入力されたときにのみ時刻情報Tcを出力するため、露光期間に亘って時刻情報Tcの出力を継続する場合と比較して、時刻情報Tcの伝送回数を低減して計時部290の消費電力を低減することができる。
図14は、本技術の第1の実施の形態における計数値の変動の一例を示す図である。同図における縦軸は、計数値CNTを示し、横軸は、計数した時間を示す。タイミングT1は、露光開始時刻であり、タイミングT3は露光終了時刻である。タイミングT1からT3までの時間が露光時間Teに該当する。
タイミングT1においてフォトンカウンタ273は計数を開始し、時間の経過とともに計数値CNTは増加する。露光期間において照度の変化が殆ど無い場合、計数値CNTの増加速度は略一定となり、照度が高いほど、増加速度が速くなる。そして、タイミングT2において計数値CNTが上限値Limに達したものとする。このタイミングT2において、フォトンカウンタ273は計数を停止する。
そして、信号処理部250は、タイミングT1からT2までの時間Tcと、露光時間Teおよび上限値Limを式1に代入して、露光終了時の計数値を推定値ESTとして算出する。前述の時刻情報は、リクエストが入力された時刻(タイミングT2など)を示す情報であってもよいし、露光開始からリクエストが入力されるまでの時間(Tcなど)を示す情報であってもよい。
フォトンカウンタ273が計数することができる最大値を上限値Limとした場合、上限値Limに対応する光量を超える量の光を受光した際であっても、固体撮像素子200は、露光量に応じた計数値を推定することができる。
これに対して、露光期間中に計数を停止しない比較例を想定すると、比較例では、露光量が大きいと、正確な計数値を得られないおそれがある。例えば、8ビットカウンタを用いる場合、「255」に対応する光量を超える量の光を受光すると、比較例では、計数値がオーバーフローしてしまい、不正確な値となってしまう。オーバーフローしないようにするには、桁数が十分に多いカウンタを用いればよいが、桁数が多くなるほど、カウンタの消費電力、回路規模やコストが増大するため、望ましくない。
一方、固体撮像素子200では、式1を用いて信号処理部250が露光終了時の計数値を推定するため、ダイナミックレンジを拡大することができる。また、桁数が多いカウンタを用いなくてよいため、消費電力等を削減することができる。
また、上限値Limを小さくするほど、消費電力を低減することができるが、その代わりに推定値ESTの誤差が大きくなってしまう。上限値Limの値は、消費電力の低減のメリットと、推定値ESTの精度低下のデメリットとを比較考量して決定される。
図15は、本技術の第1の実施の形態における画素回路300および計時部290を簡易化した図である。
フォトンカウンタ273は、露光期間内において光子が入射された回数を計数して計数値CNTとして出力する。計数制御部274は、露光期間が経過する前に計数値CNTが上限値Limに達した場合には判定結果DECによりフォトンカウンタ273を停止させ、時刻情報Tcを要求するリクエストReqを出力する。
そして、計時部290は、リクエストReqに応じて時刻情報Tcを出力する。時刻情報保持部277は、その時刻情報Tcを取り込んで保持し、信号処理部250は、時刻情報Tcなどから、式1を用いて推定値ESTを求める。
[画素回路の動作例]
図16は、本技術の第1の実施の形態における画素回路300の動作の一例を示すフローチャートである。この動作は、例えば、画像データを撮像するための所定のアプリケーションが実行されたときに開始される。
画素回路300は、露光開始時刻を経過したか否かを判断する(ステップS901)。
露光開始時刻を経過した場合に(ステップS901:Yes)、画素回路300は、計数値CNTを計数(すなわち、フォトンカウント)する計数処理を実行する(ステップS910)。露光開始時刻前の場合(ステップS901:No)、または、ステップS910の後に画素回路300は、ステップS901以降を繰り返す。
図17は、本技術の第1の実施の形態における計数処理の一例を示すフローチャートである。画素回路300内のフォトンカウンタ273は、光子数の計数を行い(ステップS911)、計数制御部274は、計数値CNTが上限値Limに達したか否かを判断する(ステップS912)。
計数値CNTが上限値Limに達した場合に(ステップS912:Yes)、フォトンカウンタ273は、計数を停止し、計数制御部274は、リクエストReqにより時刻情報を取得する(ステップS913)。また、信号処理部250は、露光終了時の計数値の推定を行う(ステップS914)。
一方、計数値CNTが上限値Lim未満の場合に(ステップS912:No)、フォトンカウンタ273は露光終了時刻であるか否かを判断する(ステップS915)。露光終了時刻前の場合に(ステップS915:No)、フォトンカウンタ273はステップS911以降を繰り返し実行する。
露光終了時刻である場合(ステップS915:Yes)、または、ステップS914の後に画素回路300は、計数処理を終了する。
このように、本技術の第1の実施の形態によれば、画素回路300からのリクエストに応じて計時部290が時刻情報を出力するため、露光期間に亘って時刻情報を出力し続ける場合と比較して計時部290の消費電力を低減することができる。
[変形例]
上述の第1の実施の形態では、受光チップ201において画素毎に抵抗221およびフォトダイオード222を配置していたが、画素数が増大するほど、受光チップ201の回路規模が大きくなるという問題がある。この第1の実施の形態の変形例の固体撮像素子200は、受光チップ201内に、フォトダイオード222のみを配置する点において第1の実施の形態と異なる。
図18は、本技術の第1の実施の形態の変形例における画素回路300の一構成例を示す回路図である。この第1の実施の形態の変形例の画素回路300は、受光チップ201側の受光回路220内にフォトダイオード222のみが配置される点において第1の実施の形態と異なる。フォトダイオード222以外の回路や素子は、ロジックチップ202側に配置される。
このように、本技術の第1の実施の形態の変形例によれば、受光チップ201内にフォトダイオード222のみを配置したため、抵抗221およびフォトダイオード222の両方を配置する場合と比較して受光チップ201の回路規模を小さくすることができる。
<2.第2の実施の形態>
上述の第1の実施の形態では、リクエストReqの伝送遅延等により、リクエストReq出力時の時刻と、画素回路300が保持する時刻との間にずれが生じてしまう。この第2の実施の形態の計時部290は、最初のリクエストReqの出力時から露光終了時まで時刻情報Tcの出力を継続して、遅延を抑制する点において第1の実施の形態と異なる。
図19は、本技術の第2の実施の形態における時刻情報生成部291の一構成例を示すブロック図である。この第2の実施の形態の時刻情報生成部291は、伝送部293の代わりに伝送部295を備える点において第1の実施の形態と異なる。伝送部295には、リクエストReqの他、露光制御信号が入力される。
伝送部295は、露光期間内に、行内のいずれかの画素によりリクエストが入力されると、時刻情報Tcの出力を開始し、露光終了時まで、その出力を継続する。
図20は、本技術の第2の実施の形態における画素回路300および計時部290の動作の一例を示すタイミングチャートである。ある行内に画素Aが、露光期間内のタイミングT2においてリクエストReqを出力したものとする。その行の伝送部293は、遅延時間dtが経過したタイミングT21において時刻情報Tcの出力を開始する。このタイミングT21の時刻情報Tcを画素Aが取り込んで保持する。そして、計時部290は、タイミングT21から露光終了時のタイミングT3までのそれぞれの時刻について、その時刻の時刻情報Tcを出力する。
次いでタイミングT21の後のタイミングT22において、画素Aと同じ行内の画素Bが、リクエストReqを出力したものとする。このタイミングT22のときの時刻情報Tcを画素Bが取り込んで保持する。
最初にリクエストReqを出力した画素Aが保持する時刻は、リクエストReqの出力時から遅延時間dtだけ遅れたものとなってしまう。しかしながら、その後は時刻情報がリクエストReqの有無に関わらず継続して出力される。このため、その間にリクエストReqを出力した画素Bが保持する時刻は、リクエストReqの出力時の時刻に対して遅延が殆ど生じないものとなる。
このように、本技術の第2の実施の形態によれば、計時部290は、いずれかの画素からのリクエストの入力時から時刻情報を継続して出力するため、その後に画素がリクエストを出力した時刻と、その画素が保持する時刻との間のずれを抑制することができる。
<3.第3の実施の形態>
上述の第1の実施の形態では、リクエストReqの伝送遅延等により、リクエストReq出力時(すなわち、計数値が上限値に達した時刻)の時刻と、画素回路300が保持する時刻との間にずれが生じてしまう。この第3の実施の形態の画素回路300は、計数値CNTが上限値Limに達する前に時刻情報の出力を開始させて、時刻のずれを抑制する点において第1の実施の形態と異なる。
図21は、本技術の第3の実施の形態における計数制御部274の動作の一例を示す図である。この第3の実施の形態の計数制御部274には、上限値Limに加えて、直前値Preがさらに設定される。この直前値Preは、上限値Limに達する前の計数値CNTを示す値である。例えば、アップカウントを行う場合、上限値Limより小さい値が直前値Preに設定される。具体的には、上限値Limが「255」であれば、直前値Preとして「250」などが設定される。なお、ダウンカウントを行う場合、下限値より大きな値が直前値Preに設定される。
計数制御部274は、計数値CNTが直前値Pre未満の場合に、「0」の判定結果DECと「0」のリクエストReqとを出力する。また、計数値CNTが直前値Pre以上、上限値Lim未満の場合に計数制御部274は、「0」の判定結果DECと「1」のリクエストReqとを出力する。そして、計数値CNTが上限値Limに達した場合に計数制御部274は、「1」の判定結果DECと「0」のリクエストReqとを出力する。
図22は、本技術の第3の実施の形態における画素回路300および計時部290の動作の一例を示すタイミングチャートである。露光期間内のタイミングT18において計数値CNTが直前値Preに達すると、計数制御部274は、ハイレベルのリクエストReqを出力する。そして、タイミングT2において計数値CNTが上限値Limに達すると計数制御部274はリクエストReqをローレベルにして出力を停止する。すなわち、タイミングT18からタイミングT2までに亘って継続してリクエストReqが出力される。
計時部290内の伝送部293は、タイミングT18から遅延時間dtが経過したタイミングT19において時刻情報の出力を開始する。そして、タイミングT2から遅延時間dtが経過したタイミングT21において時刻情報の出力を停止する。すなわち、リクエストReqが計時部290に入力されている期間内の時刻のそれぞれについて時刻情報が出力される。
また、時刻情報保持部277は、リクエストReqが立ち下がったタイミングT2において時刻情報を保持する。このタイミングT2の前のタイミングT19から、タイミングT2の後のタイミングT21までに亘って時刻情報は継続して出力されている。このため、時刻情報保持部277が保持する時刻は、計数値CNTが上限値Limに達した時刻に対して殆ど遅延が生じない。
このように、本技術の第3の実施の形態によれば、計数制御部274は、計数値が直前値に達したときから上限値に達するまでに亘ってリクエストを継続して出力するため、計時部290は、その間に時刻情報を継続して出力することができる。これにより、時刻情報保持部277は、時刻情報の出力中に、上限値に達した時刻を取り込んで保持することができる。したがって、時刻情報保持部277が保持する時刻と、計数値が上限値に達した時刻との間のずれを抑制することができる。
<4.第4の実施の形態>
上述の第1の実施の形態では、計時部290において、行ごとに時刻情報生成部291を配置していたが、行数が多くなるほど、時刻情報生成部291の個数が多くなり、回路規模やコストが増大するおそれがある。この第4の実施の形態の固体撮像素子200は、全行が1つの時刻情報生成部291を共有する点において第1の実施の形態と異なる。
図23は、本技術の第4の実施の形態におけるロジックアレイ部260および計時部290の一構成例を示すブロック図である。この第4の実施の形態の計時部290は、時刻情報生成部291を1つのみ保持する点において第1の実施の形態と異なる。この時刻情報生成部291は、全行(すなわち、全画素)に接続され、共有される。
このように、本技術の第4の実施の形態によれば、全行が1つの時刻情報生成部291を共有するため、行ごとに時刻情報生成部291を配置する場合と比較して、計時部290の回路規模やコストを低減することができる。
<5.第5の実施の形態>
上述の第1の実施の形態では、固体撮像素子200は、回路や素子を2つのチップ(受光チップ201およびロジックチップ202)に分散して配置していた。しかし、画素数が多くなるほど、それぞれのチップの回路規模や面積が増大するおそれがある。この第5の実施の形態の固体撮像素子200は、3つのチップに回路等を分散して配置する点において第1の実施の形態と異なる。
図24は、本技術の第5の実施の形態における固体撮像素子200の積層構造の一例を示す図である。この第5の実施の形態の固体撮像素子200は、ロジックチップ202に積層される計時チップ203をさらに備える点において第1の実施の形態と異なる。
図25は、本技術の第5の実施の形態におけるロジックチップ202の一構成例を示すブロック図である。この第5の実施の形態のロジックチップ202は、計時部290が配置されない点において第1の実施の形態と異なる。
図26は、本技術の第5の実施の形態における計時チップ203の一構成例を示す平面図である。この計時部203には、計時部290が配置される。計時部290には、画素回路300ごとに時刻情報生成部291が配列される。これらの時刻情報生成部291は、対応する画素回路300と1対1で接続される。
なお、固体撮像素子200内の回路を3つのチップに分散して配置しているが、4つ以上のチップを設け、それらのチップに回路を分散して配置することもできる。
このように、本技術の第5の実施の形態によれば、固体撮像素子200内の回路を3つのチップに分散して配置したため、2つのチップに分散して配置する場合と比較して、それぞれのチップの回路規模や面積を削減することができる。
<6.移動体への応用例>
本開示に係る技術(本技術)は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット等のいずれかの種類の移動体に搭載される装置として実現されてもよい。
図27は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システムの概略的な構成例を示すブロック図である。
車両制御システム12000は、通信ネットワーク12001を介して接続された複数の電子制御ユニットを備える。図27に示した例では、車両制御システム12000は、駆動系制御ユニット12010、ボディ系制御ユニット12020、車外情報検出ユニット12030、車内情報検出ユニット12040、及び統合制御ユニット12050を備える。また、統合制御ユニット12050の機能構成として、マイクロコンピュータ12051、音声画像出力部12052、及び車載ネットワークI/F(interface)12053が図示されている。
駆動系制御ユニット12010は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット12010は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。
ボディ系制御ユニット12020は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット12020は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット12020には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット12020は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
車外情報検出ユニット12030は、車両制御システム12000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット12030には、撮像部12031が接続される。車外情報検出ユニット12030は、撮像部12031に車外の画像を撮像させるとともに、撮像された画像を受信する。車外情報検出ユニット12030は、受信した画像に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。
撮像部12031は、光を受光し、その光の受光量に応じた電気信号を出力する光センサである。撮像部12031は、電気信号を画像として出力することもできるし、測距の情報として出力することもできる。また、撮像部12031が受光する光は、可視光であっても良いし、赤外線等の非可視光であっても良い。
車内情報検出ユニット12040は、車内の情報を検出する。車内情報検出ユニット12040には、例えば、運転者の状態を検出する運転者状態検出部12041が接続される。運転者状態検出部12041は、例えば運転者を撮像するカメラを含み、車内情報検出ユニット12040は、運転者状態検出部12041から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。
マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット12010に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030又は車内情報検出ユニット12040で取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
また、マイクロコンピュータ12051は、車外情報検出ユニット12030で取得される車外の情報に基づいて、ボディ系制御ユニット12020に対して制御指令を出力することができる。例えば、マイクロコンピュータ12051は、車外情報検出ユニット12030で検知した先行車又は対向車の位置に応じてヘッドランプを制御し、ハイビームをロービームに切り替える等の防眩を図ることを目的とした協調制御を行うことができる。
音声画像出力部12052は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図27の例では、出力装置として、オーディオスピーカ12061、表示部12062及びインストルメントパネル12063が例示されている。表示部12062は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。
図28は、撮像部12031の設置位置の例を示す図である。
図28では、撮像部12031として、撮像部12101,12102,12103,12104,12105を有する。
撮像部12101,12102,12103,12104,12105は、例えば、車両12100のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部等の位置に設けられる。フロントノーズに備えられる撮像部12101及び車室内のフロントガラスの上部に備えられる撮像部12105は、主として車両12100の前方の画像を取得する。サイドミラーに備えられる撮像部12102,12103は、主として車両12100の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部12104は、主として車両12100の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部12105は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図28には、撮像部12101ないし12104の撮影範囲の一例が示されている。撮像範囲12111は、フロントノーズに設けられた撮像部12101の撮像範囲を示し、撮像範囲12112,12113は、それぞれサイドミラーに設けられた撮像部12102,12103の撮像範囲を示し、撮像範囲12114は、リアバンパ又はバックドアに設けられた撮像部12104の撮像範囲を示す。例えば、撮像部12101ないし12104で撮像された画像データが重ね合わせられることにより、車両12100を上方から見た俯瞰画像が得られる。
撮像部12101ないし12104の少なくとも1つは、距離情報を取得する機能を有していてもよい。例えば、撮像部12101ないし12104の少なくとも1つは、複数の撮像素子からなるステレオカメラであってもよいし、位相差検出用の画素を有する撮像素子であってもよい。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を基に、撮像範囲12111ないし12114内における各立体物までの距離と、この距離の時間的変化(車両12100に対する相対速度)を求めることにより、特に車両12100の進行路上にある最も近い立体物で、車両12100と略同じ方向に所定の速度(例えば、0km/h以上)で走行する立体物を先行車として抽出することができる。さらに、マイクロコンピュータ12051は、先行車の手前に予め確保すべき車間距離を設定し、自動ブレーキ制御(追従停止制御も含む)や自動加速制御(追従発進制御も含む)等を行うことができる。このように運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行うことができる。
例えば、マイクロコンピュータ12051は、撮像部12101ないし12104から得られた距離情報を元に、立体物に関する立体物データを、2輪車、普通車両、大型車両、歩行者、電柱等その他の立体物に分類して抽出し、障害物の自動回避に用いることができる。例えば、マイクロコンピュータ12051は、車両12100の周辺の障害物を、車両12100のドライバが視認可能な障害物と視認困難な障害物とに識別する。そして、マイクロコンピュータ12051は、各障害物との衝突の危険度を示す衝突リスクを判断し、衝突リスクが設定値以上で衝突可能性がある状況であるときには、オーディオスピーカ12061や表示部12062を介してドライバに警報を出力することや、駆動系制御ユニット12010を介して強制減速や回避操舵を行うことで、衝突回避のための運転支援を行うことができる。
撮像部12101ないし12104の少なくとも1つは、赤外線を検出する赤外線カメラであってもよい。例えば、マイクロコンピュータ12051は、撮像部12101ないし12104の撮像画像中に歩行者が存在するか否かを判定することで歩行者を認識することができる。かかる歩行者の認識は、例えば赤外線カメラとしての撮像部12101ないし12104の撮像画像における特徴点を抽出する手順と、物体の輪郭を示す一連の特徴点にパターンマッチング処理を行って歩行者か否かを判別する手順によって行われる。マイクロコンピュータ12051が、撮像部12101ないし12104の撮像画像中に歩行者が存在すると判定し、歩行者を認識すると、音声画像出力部12052は、当該認識された歩行者に強調のための方形輪郭線を重畳表示するように、表示部12062を制御する。また、音声画像出力部12052は、歩行者を示すアイコン等を所望の位置に表示するように表示部12062を制御してもよい。
以上、本開示に係る技術が適用され得る車両制御システムの一例について説明した。本開示に係る技術は、以上説明した構成のうち、例えば、撮像部12031に適用され得る。具体的には、図1の撮像装置100は、撮像部12031に適用することができる。撮像部12031に本開示に係る技術を適用することにより、撮像部12031を含むシステムの消費電力を低減することができる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
なお、本明細書に記載された効果はあくまで例示であって、限定されるものではなく、また、他の効果があってもよい。
なお、本技術は以下のような構成もとることができる。
(1)所定の露光期間内に光子が入射された回数を計数して計数値を出力する計数部と、
前記所定の露光期間が経過する前に前記計数値が所定値に達した場合には前記計数部を停止させる制御と時刻情報の要求とを行う計数制御部と、
時刻を計時して前記要求に応じて前記時刻情報を出力する計時部と、
前記出力された時刻情報に基づいて前記所定の露光期間内の光子の入射回数を推定する推定部と
を具備する固体撮像素子。
(2)前記時刻情報の要求において前記計数制御部は、前記時刻情報を要求するリクエストを前記計時部に出力し、
前記計数部、前記計数制御部は、二次元格子状に配列された複数の画素回路のそれぞれに配置される
前記(1)記載の固体撮像素子。
(3)前記計時部は、前記複数の画素回路のいずれかにより前記リクエストが入力された時刻または露光開始から前記リクエストが入力されるまでの時間を示す情報を前記時刻情報として出力する
前記(2)記載の固体撮像素子。
(4)前記所定値は、前記計数値を制限する制限値と当該制限値に達する前の前記計数値を示す直前値とを含み、
前記計数制御部は、前記直前値に前記計数値が達したときから前記制限値に前記計数値が達したときまでの間に亘って前記リクエストを継続して前記計時部に出力する制御と前記制限値に前記計数値が達したときに前記計数部を停止させる制御とを行い、
前記計時部は、前記リクエストが入力されている期間内の時刻のそれぞれについて前記時刻を示す情報を前記時刻情報として出力し、
前記推定部は、前記制限値に前記計数値が達したときの前記時刻情報に基づいて前記入射回数を推定する
前記(2)記載の固体撮像素子。
(5)前記計時部は、それぞれが前記時刻を計時して前記時刻情報を生成する複数の時刻情報生成部を含み、
前記複数の画素回路のそれぞれは、互いに異なる前記時刻情報生成部に接続される
前記(1)から(4)のいずれかに記載の固体撮像素子。
(6)前記計時部は、それぞれが前記時刻を計時して前記時刻情報を生成する複数の時刻情報生成部を含み、
各々が所定方向に配列された所定数の前記画素回路からなる複数のラインのそれぞれは、互いに異なる前記時刻情報生成部に接続される
前記(1)から(4)のいずれかに記載の固体撮像素子。
(7)前記計時部は、前記時刻を計時して前記時刻情報を生成する時刻情報生成部を含み、
前記複数の画素回路は、前記時刻情報生成部に共通に接続される
前記(1)から(4)のいずれかに記載の固体撮像素子。
(8)1つの光子の入射の有無を検出するフォトダイオードと、
前記光子の入射が検出されるたびに前記フォトダイオードの一端の電位を初期状態へ戻すための抵抗と
をさらに具備し、
前記計数部は、前記一端の電位が前記光子の入射の有無の検出により変動した回数を計数する
前記(1)から(6)のいずれかに記載の固体撮像素子。
(9)前記フォトダイオードは、アバランシェフォトダイオードである
前記(8)記載の固体撮像素子。
(10)前記フォトダイオードは、受光チップに配置され、
前記抵抗、前記計数部、前記計数制御部、前記推定部は、前記受光チップに積層されたロジックチップに配置される
前記(8)記載の固体撮像素子。
(11)前記フォトダイオードおよび前記抵抗は、受光チップに配置され、
前記計数部、前記計数制御部および前記推定部は、前記受光チップに積層されたロジックチップに配置される
前記(8)記載の固体撮像素子。
(12)前記フォトダイオードは、受光チップに配置され、
前記計数部、前記計数制御部および前記推定部は、前記受光チップに積層されたロジックチップに配置され、
前記計時部は、前記ロジックチップに積層された計時チップに配置される
前記(8)から(11)のいずれかに記載の固体撮像素子。
(13)所定の露光期間内に光子が入射された回数を計数して計数値を出力する計数部と、
前記所定の露光期間が経過する前に前記計数値が所定値に達した場合には前記計数部を停止させる制御と時刻情報の要求とを行う計数制御部と、
時刻を計時して前記要求に応じて前記時刻情報を出力する計時部と、
前記出力された時刻情報に基づいて前記所定の露光期間内の光子の入射回数を推定して推定値を出力する推定部と、
前記推定値から生成された画像データを記録する記録部と
を具備する撮像装置。
(14)所定の露光期間内に光子が入射された回数を計数して計数値を出力する計数手順と、
前記所定の露光期間が経過する前に前記計数値が所定値に達した場合には前記計数部を停止させる制御と時刻情報の要求とを行う計数制御手順と、
時刻を計時して前記要求に応じて前記時刻情報を出力する計時手順と、
前記出力された時刻情報に基づいて前記所定の露光期間内の光子の入射回数を推定する推定手順と
を具備する固体撮像素子の制御方法。
100 撮像装置
110 撮像レンズ
120 記録部
130 撮像制御部
200 固体撮像素子
201 受光チップ
202 ロジックチップ
203 計時チップ
210 受光部
220 受光回路
221 抵抗
222 フォトダイオード
230 垂直制御部
240 水平制御部
250 信号処理部
260 ロジックアレイ部
270 論理回路
271 インバータ
272 トランジスタ
273 フォトンカウンタ
274 計数制御部
275、278、294 スイッチ
276 推定部
277 時刻情報保持部
290 計時部
291 時刻情報生成部
292 計時回路
293、295 伝送部
300 画素回路
12031 撮像部

Claims (14)

  1. 所定の露光期間内に光子が入射された回数を計数して計数値を出力する計数部と、
    前記所定の露光期間が経過する前に前記計数値が所定値に達した場合には前記計数部を停止させるとともに時刻情報の要求を行う計数制御部と、
    時刻を計時して前記要求に応じて前記時刻情報を出力する計時部と、
    前記出力された時刻情報に基づいて前記所定の露光期間内の光子の入射回数を推定する推定部と
    を具備する固体撮像素子。
  2. 前記時刻情報の要求において前記計数制御部は、前記時刻情報を要求するリクエストを前記計時部に出力し、
    前記計数部、前記計数制御部は、二次元格子状に配列された複数の画素回路のそれぞれに配置される
    請求項1記載の固体撮像素子。
  3. 前記計時部は、前記複数の画素回路のいずれかにより前記リクエストが入力された時刻または露光開始から前記リクエストが入力されるまでの時間を示す情報を前記時刻情報として出力する
    請求項2記載の固体撮像素子。
  4. 前記所定値は、前記計数値を制限する制限値と当該制限値に達する前の前記計数値を示す直前値とを含み、
    前記計数制御部は、前記直前値に前記計数値が達したときから前記制限値に前記計数値が達したときまでの間に亘って前記リクエストを継続して前記計時部に出力する制御と前記制限値に前記計数値が達したときに前記計数部を停止させる制御とを行い、
    前記計時部は、前記リクエストが入力されている期間内の時刻のそれぞれについて前記時刻を示す情報を前記時刻情報として出力し、
    前記推定部は、前記制限値に前記計数値が達したときの前記時刻情報に基づいて前記入射回数を推定する
    請求項2記載の固体撮像素子。
  5. 前記計時部は、それぞれが前記時刻を計時して前記時刻情報を生成する複数の時刻情報生成部を含み、
    前記複数の画素回路のそれぞれは、互いに異なる前記時刻情報生成部に接続される
    請求項記載の固体撮像素子。
  6. 前記計時部は、それぞれが前記時刻を計時して前記時刻情報を生成する複数の時刻情報生成部を含み、
    各々が所定方向に配列された所定数の前記画素回路からなる複数のラインのそれぞれは、互いに異なる前記時刻情報生成部に接続される
    請求項記載の固体撮像素子。
  7. 前記計時部は、前記時刻を計時して前記時刻情報を生成する時刻情報生成部を含み、
    前記複数の画素回路は、前記時刻情報生成部に共通に接続される
    請求項記載の固体撮像素子。
  8. 1つの光子の入射の有無を検出するフォトダイオードと、
    前記光子の入射が検出されるたびに前記フォトダイオードの一端の電位を初期状態へ戻すための抵抗と
    をさらに具備し、
    前記計数部は、前記一端の電位が前記光子の入射の有無の検出により変動した回数を計数する
    請求項1記載の固体撮像素子。
  9. 前記フォトダイオードは、アバランシェフォトダイオードであり、
    前記推定部は、前記露光期間をTeとし、前記時刻情報をTcとし、前記所定値をLimとし、前記入射回数の推定値をESTとして、
    EST=Lim×(Te/Tc)
    の式により前記推定値を求める
    請求項8記載の固体撮像素子。
  10. 前記フォトダイオードは、受光チップに配置され、
    前記抵抗、前記計数部、前記計数制御部、前記推定部は、前記受光チップに積層されたロジックチップに配置される
    請求項8記載の固体撮像素子。
  11. 前記フォトダイオードおよび前記抵抗は、受光チップに配置され、
    前記計数部、前記計数制御部および前記推定部は、前記受光チップに積層されたロジックチップに配置される
    請求項8記載の固体撮像素子。
  12. 前記フォトダイオードは、受光チップに配置され、
    前記計数部、前記計数制御部および前記推定部は、前記受光チップに積層されたロジックチップに配置され、
    前記計時部は、前記ロジックチップに積層された計時チップに配置される
    請求項8記載の固体撮像素子。
  13. 所定の露光期間内に光子が入射された回数を計数して計数値を出力する計数部と、
    前記所定の露光期間が経過する前に前記計数値が所定値に達した場合には前記計数部を停止させるとともに時刻情報の要求を行う計数制御部と、
    時刻を計時して前記要求に応じて前記時刻情報を出力する計時部と、
    前記出力された時刻情報に基づいて前記所定の露光期間内の光子の入射回数を推定して推定値を出力する推定部と、
    前記推定値から生成された画像データを記録する記録部と
    を具備する撮像装置。
  14. 計数部が、所定の露光期間内に光子が入射された回数を計数して計数値を出力する計数手順と、
    前記所定の露光期間が経過する前に前記計数値が所定値に達した場合には前記計数部を停止させるとともに時刻情報の要求を行う計数制御手順と、
    時刻を計時して前記要求に応じて前記時刻情報を出力する計時手順と、
    前記出力された時刻情報に基づいて前記所定の露光期間内の光子の入射回数を推定する推定手順と
    を具備する固体撮像素子の制御方法。
JP2019568916A 2018-02-02 2018-12-14 固体撮像素子、撮像装置、および、固体撮像素子の制御方法 Active JP7299845B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018017018 2018-02-02
JP2018017018 2018-02-02
PCT/JP2018/046044 WO2019150785A1 (ja) 2018-02-02 2018-12-14 固体撮像素子、撮像装置、および、固体撮像素子の制御方法

Publications (2)

Publication Number Publication Date
JPWO2019150785A1 JPWO2019150785A1 (ja) 2021-01-28
JP7299845B2 true JP7299845B2 (ja) 2023-06-28

Family

ID=67479198

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019568916A Active JP7299845B2 (ja) 2018-02-02 2018-12-14 固体撮像素子、撮像装置、および、固体撮像素子の制御方法

Country Status (5)

Country Link
US (1) US11330202B2 (ja)
EP (1) EP3748316B1 (ja)
JP (1) JP7299845B2 (ja)
CN (1) CN111434105B (ja)
WO (1) WO2019150785A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3936840A4 (en) * 2019-03-07 2022-06-08 Sony Semiconductor Solutions Corporation LIGHT RECEIPT DEVICE
JP7422451B2 (ja) * 2019-07-19 2024-01-26 キヤノン株式会社 光電変換装置、光電変換システム、および移動体
CN111721411B (zh) * 2020-06-30 2021-06-04 北京工业大学 一种用于高时空分辨光子计数成像的信号处理电路
JP2022069202A (ja) * 2020-10-23 2022-05-11 ソニーセミコンダクタソリューションズ株式会社 Apdセンサおよび測距システム
WO2023131995A1 (ja) * 2022-01-05 2023-07-13 キヤノン株式会社 光電変換装置及び光検出システム
KR20240043496A (ko) * 2022-09-27 2024-04-03 연세대학교 산학협력단 단광자 애벌런치 다이오드 기반의 이미지 센서 및 이의 구동 방법
WO2024074322A1 (en) * 2022-10-06 2024-04-11 Sony Semiconductor Solutions Corporation Counting mode decision circuitry and counting mode decision method

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013157448A1 (ja) 2012-04-20 2013-10-24 ソニー株式会社 半導体光検出装置および放射線検出装置
JP2017521682A (ja) 2014-06-20 2017-08-03 ブルカー・エイエックスエス・インコーポレイテッドBruker AXS, Inc. 混合型光子計数/アナログ出力モードで動作可能なx線検出器
JP2017163046A (ja) 2016-03-10 2017-09-14 株式会社東芝 光検出器およびこれを用いたライダー装置
JP2018013422A (ja) 2016-07-21 2018-01-25 ソニーセミコンダクタソリューションズ株式会社 検出装置及び電子機器

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09189604A (ja) 1996-01-11 1997-07-22 Hamamatsu Photonics Kk 計数禁止時間の決定方法、及び光子計数装置
JP5598905B2 (ja) * 2010-02-26 2014-10-01 独立行政法人日本原子力研究開発機構 中性子イメージ検出方法及びその方法を用いた中性子イメージ検出器
US8426797B2 (en) * 2010-03-23 2013-04-23 Massachusetts Institute Of Technology CMOS readout architecture and method for photon-counting arrays
US8716643B2 (en) * 2010-09-06 2014-05-06 King Abdulaziz City Science And Technology Single photon counting image sensor and method
AU2012292250A1 (en) * 2011-07-20 2014-01-23 Dectris Ltd. Photon counting imaging method and device with instant retrigger capability
JP6145655B2 (ja) 2012-12-18 2017-06-14 パナソニックIpマネジメント株式会社 半導体光検出器
JP6087780B2 (ja) * 2013-10-10 2017-03-01 ソニーセミコンダクタソリューションズ株式会社 撮像素子、放射線検出装置および撮像素子の制御方法
US9210350B2 (en) * 2013-12-09 2015-12-08 Omnivision Technologies, Inc. Low power imaging system with single photon avalanche diode photon counters and ghost image reduction
WO2016003451A1 (en) * 2014-07-02 2016-01-07 The Johns Hopkins University Photodetection circuit and operating method thereof
JP7062430B2 (ja) * 2017-12-15 2022-05-06 キヤノン株式会社 撮像素子、撮像装置および画像処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013157448A1 (ja) 2012-04-20 2013-10-24 ソニー株式会社 半導体光検出装置および放射線検出装置
JP2017521682A (ja) 2014-06-20 2017-08-03 ブルカー・エイエックスエス・インコーポレイテッドBruker AXS, Inc. 混合型光子計数/アナログ出力モードで動作可能なx線検出器
JP2017163046A (ja) 2016-03-10 2017-09-14 株式会社東芝 光検出器およびこれを用いたライダー装置
JP2018013422A (ja) 2016-07-21 2018-01-25 ソニーセミコンダクタソリューションズ株式会社 検出装置及び電子機器

Also Published As

Publication number Publication date
EP3748316A4 (en) 2020-12-09
CN111434105A (zh) 2020-07-17
US20210051279A1 (en) 2021-02-18
WO2019150785A1 (ja) 2019-08-08
EP3748316B1 (en) 2022-04-20
US11330202B2 (en) 2022-05-10
EP3748316A1 (en) 2020-12-09
CN111434105B (zh) 2023-05-12
JPWO2019150785A1 (ja) 2021-01-28

Similar Documents

Publication Publication Date Title
JP7299845B2 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US10746874B2 (en) Ranging module, ranging system, and method of controlling ranging module
JP7245178B2 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP7284714B2 (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP7044107B2 (ja) 光センサ、及び、電子機器
JP7227926B2 (ja) 固体撮像素子、撮像装置および固体撮像素子の制御方法
WO2020110537A1 (ja) 固体撮像素子、および、撮像装置
JP2020136958A (ja) イベント信号検出センサ及び制御方法
JP2020096347A (ja) 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
US20200021769A1 (en) Solid-state imaging element, electronic device, and method for controlling solid-state imaging element
JP2020099015A (ja) センサ及び制御方法
US20220113410A1 (en) Distance measuring device, distance measuring method, and program
US11917317B2 (en) Solid-state imaging element and imaging device that detects address event
JP2023003308A (ja) 撮像装置、電子機器、および光検出方法
WO2018211986A1 (ja) 信号処理装置および方法、撮像素子、並びに、電子機器
WO2021200523A1 (ja) 撮像装置及び撮像方法
WO2021100593A1 (ja) 測距装置及び測距方法
CN118301493A (en) Light detection sensor, solid-state image sensor, and control method therefor
JP2023076345A (ja) 光検出装置、撮像装置および測距装置
JP2024090345A (ja) 光検出装置、および、光検出装置の制御方法
TW202209868A (zh) 固態攝像元件、感測系統及固態攝像元件之控制方法
JP2020072316A (ja) 電子回路、固体撮像素子、および、電子回路の制御方法
JP2020122774A (ja) 測距装置、測距方法、並びにプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230523

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230616

R150 Certificate of patent or registration of utility model

Ref document number: 7299845

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150