JP2024085173A - 固体撮像装置及び電子機器 - Google Patents

固体撮像装置及び電子機器 Download PDF

Info

Publication number
JP2024085173A
JP2024085173A JP2022199558A JP2022199558A JP2024085173A JP 2024085173 A JP2024085173 A JP 2024085173A JP 2022199558 A JP2022199558 A JP 2022199558A JP 2022199558 A JP2022199558 A JP 2022199558A JP 2024085173 A JP2024085173 A JP 2024085173A
Authority
JP
Japan
Prior art keywords
pixels
pixel
event
gradation
color filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022199558A
Other languages
English (en)
Inventor
雄飛 寄門
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Semiconductor Solutions Corp
Original Assignee
Sony Semiconductor Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Semiconductor Solutions Corp filed Critical Sony Semiconductor Solutions Corp
Priority to JP2022199558A priority Critical patent/JP2024085173A/ja
Priority to PCT/JP2023/041518 priority patent/WO2024127912A1/en
Publication of JP2024085173A publication Critical patent/JP2024085173A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/47Image sensors with pixel address output; Event-driven image sensors; Selection of pixels to be read out based on image data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/707Pixels for event detection
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Power Engineering (AREA)
  • General Physics & Mathematics (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Electromagnetism (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】階調画素の画質劣化を抑制できる固体撮像装置を提供する。【解決手段】本開示の第1の側面の固体撮像装置は、光電変換により電荷を生成する複数の画素を含む画素アレイ部を備え、前記複数の画素は、入射光の輝度変化に基づいてイベント信号を生成する複数のイベント画素と、入射光の光量に基づいて輝度信号を生成する複数の階調画素と、を含み、前記イベント画素及び前記階調画素の色配置は、180度の回転対称性を有さない。【選択図】図3

Description

本開示は、固体撮像装置及び電子機器に関する。
従来より、フォトダイオードへの入射光から生成された電荷の変化量に基づいてイベントの発生を検出するイベント画素と、フォトダイオードへの入射光から生成された電荷量に応じた画素信号を出力する階調画素を備える固体撮像装置が提案されている。
国際公開第2021/117350号
上述した技術では、例えば、所定の階調画素から隣接する階調画素への混色が発生する場合があり、階調画素の画質劣化が懸念される。
そこで、本開示は、これらの問題に鑑み、階調画素の画質劣化を抑制できる固体撮像装置を提供する。
本開示の第1の側面の固体撮像装置は、光電変換により電荷を生成する複数の画素を含む画素アレイ部を備え、前記複数の画素は、入射光の輝度変化に基づいてイベント信号を生成する複数のイベント画素と、入射光の光量に基づいて輝度信号を生成する複数の階調画素と、を含み、前記イベント画素及び前記階調画素の色配置は、180度の回転対称性を有さない。これにより、画素アレイ部は、イベント画素に屈折率が比較的高い白のカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、画素アレイ部は、イベント画素に、白のカラーフィルタを備えることで、輝度情報取得にあたり、感度の低下を抑制することができる。また、イベント画素にシアンのカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、イベント画素は、シアンのカラーフィルタを備えることで、白のカラーフィルタを備えるよりも、長波長の光の混色を抑制することができる。
また、この第1の側面において、前記イベント画素及び前記階調画素は、所定の波長帯の光を透過するカラーフィルタをさらに備える。これにより、画素アレイ部は、イベント画素に屈折率が比較的高い白のカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、画素アレイ部は、イベント画素に、白のカラーフィルタを備えることで、輝度情報取得にあたり、感度の低下を抑制することができる。また、イベント画素にシアンのカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、イベント画素は、シアンのカラーフィルタを備えることで、白のカラーフィルタを備えるよりも、長波長の光の混色を抑制することができる。
また、この第1の側面において、前記イベント画素における前記カラーフィルタは、白及びシアンのいずれか一方を含み、前記階調画素における前記カラーフィルタは、赤、緑及び青を含む。これにより、画素アレイ部は、イベント画素に屈折率が比較的高い白のカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、画素アレイ部は、イベント画素に、白のカラーフィルタを備えることで、輝度情報取得にあたり、感度の低下を抑制することができる。また、イベント画素にシアンのカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、イベント画素は、シアンのカラーフィルタを備えることで、白のカラーフィルタを備えるよりも、長波長の光の混色を抑制することができる。また、青の階調画素以外の階調画素と隣接するイベント画素には、レンズ材を備えることにより、そのイベント画素において、入射光の光量をより多く確保し、感度の低下を抑制することができる。
また、この第1の側面において、前記イベント画素における前記カラーフィルタは、白及びシアンの両方を含み、前記階調画素における前記カラーフィルタは、赤、緑及び青を含む。これにより、画素アレイ部は、シアンのカラーフィルタを有するイベント画素から、隣接する青の階調画素への長波長の光の混色を抑制することができる。また、画素アレイ部は、青の階調画素以外の階調画素と隣接するイベント画素には、白のカラーフィルタを備えることにより、そのイベント画素において、感度の低下を抑制しつつ、隣接する階調画素への混色を抑制することができる。
また、この第1の側面において、青の前記カラーフィルタを有する前記階調画素に隣接する前記イベント画素は、シアンの前記カラーフィルタを有する。これにより、画素アレイ部は、シアンのカラーフィルタを有するイベント画素から、隣接する青の階調画素への長波長の光の混色を抑制することができる。
また、この第1の側面において、青以外の前記カラーフィルタを有する前記階調画素に隣接する前記イベント画素は、白の前記カラーフィルタを有する。これにより、画素アレイ部は、青階調画素以外の階調画素と隣接するイベント画素には、白のカラーフィルタを備えることにより、そのイベント画素において、感度の低下を抑制しつつ、隣接する階調画素への混色を抑制することができる。
また、この第1の側面において、画角内における像高中央側の前記イベント画素は白の前記カラーフィルタを有し、前記画角内における高像高側の前記イベント画素は、シアンの前記カラーフィルタを有する。これにより、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。特に、高像高側の青の階調画素への高波長の光の混色を抑制することができる。また、像高中央側のイベント画素は、入射光の光量をより多く確保し、感度の低下を抑制することができる。
また、この第1の側面において、前記画素アレイ部に含まれる前記イベント画素及び前記階調画素の数に対する前記イベント画素の数の比率は、25%以下である。これにより、画素アレイ部は、イベント画素に屈折率が比較的高い白のカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、画素アレイ部は、イベント画素に、白のカラーフィルタを備えることで、輝度情報取得にあたり、感度の低下を抑制することができる。また、イベント画素にシアンのカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、イベント画素は、シアンのカラーフィルタを備えることで、白のカラーフィルタを備えるよりも、長波長の光の混色を抑制することができる。
また、この第1の側面において、前記イベント画素はEVS画素である。これにより、画素アレイ部は、イベント画素に屈折率が比較的高い白のカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、画素アレイ部は、イベント画素に、白のカラーフィルタを備えることで、輝度情報取得にあたり、感度の低下を抑制することができる。また、イベント画素にシアンのカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、イベント画素は、シアンのカラーフィルタを備えることで、白のカラーフィルタを備えるよりも、長波長の光の混色を抑制することができる。
また、この第1の側面において、前記複数の画素の前記カラーフィルタ間には、第1の遮光壁が設けられる。これにより、画素アレイ部は、第1の遮光壁を設けることで、カラーフィルタ間の混色を抑制することができる。また、画素アレイ部は、量子効率を改善することができる。
また、この第1の側面において、前記第1の遮光壁は、低屈折率材構造又はエア構造を含む。これにより、画素アレイ部は、第1の遮光壁を設けることで、カラーフィルタ間の混色を抑制することができる。また、第1の遮光壁は、エア構造を含むことで、低屈折率材構造よりも屈折率を低くすることができる。また、画素アレイ部は、量子効率を改善することができる。
また、この第1の側面において、互いに隣接する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁と厚みが異なる。これにより、イベント画素から青のカラーフィルタを有する階調画素への光の混色をさらに抑制することができる。また、階調画素やイベント画素の感度を向上させることができる。
また、この第1の側面において、互いに隣接する、青の前記カラーフィルタを有する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁よりも、厚みが大きい。これにより、イベント画素から青のカラーフィルタを有する階調画素への光の混色をさらに抑制することができる。
また、この第1の側面において、互いに隣接する、青以外の前記カラーフィルタを有する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁よりも、厚みが小さい。これにより、階調画素やイベント画素の感度を向上させることができる。
また、この第1の側面において、前記イベント画素及び前記階調画素は、前記カラーフィルタ上に、入射光を集光するオンチップレンズをさらに備え、前記複数の画素の前記オンチップレンズ間には、第2の遮光壁が設けられる。これにより、画素アレイ部は、オンチップレンズからの入射光が隣接する画素に混色することを抑制することができる。
また、この第1の側面において、前記カラーフィルタ上には、前記入射光の光路となる導波路が設けられる。これにより、画素アレイ部は、入射光の通り道とすることができ、隣接する画素に混色することを抑制することができる。
また、この第1の側面において、前記導波路は、白又はシアンの前記カラーフィルタ上に設けられる。これにより、画素アレイ部は、入射光の通り道とすることができ、隣接する画素に混色することを抑制することができる。
また、この第1の側面において、前記イベント画素及び前記階調画素は、前記カラーフィルタ下の半導体基板内に、光電変換を行うフォトダイオードをさらに備え、前記複数の画素の前記フォトダイオード間には、前記半導体基板内を貫通する第3の遮光壁が設けられる。これにより、半導体基板は、フォトダイオードに入射した光による混色を抑制することができる。
また、この第1の側面において、前記複数の画素間には、前記半導体基板下の絶縁膜内に第4の遮光壁が設けられる。これにより、絶縁膜は、絶縁膜に入射した光による混色を抑制することができる。
本開示の第2の側面の電子機器は、撮像装置を備える電子機器であって、前記撮像装置は、光電変換により電荷を生成する複数の画素を含む画素アレイ部を備え、前記複数の画素は、入射光の輝度変化に基づいてイベント信号を生成する複数のイベント画素と、入射光の光量に基づいて輝度信号を生成する複数の階調画素と、を含み、前記イベント画素及び前記階調画素の色配置は、180度の回転対称性を有さない。これにより、画素アレイ部は、イベント画素に屈折率が比較的高い白のカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、画素アレイ部は、イベント画素に、白のカラーフィルタを備えることで、輝度情報取得にあたり、感度の低下を抑制することができる。また、イベント画素にシアンのカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素から階調画素に対する入射光の侵入に伴う混色を抑制することができる。また、イベント画素は、シアンのカラーフィルタを備えることで、白のカラーフィルタを備えるよりも、長波長の光の混色を抑制することができる。
第1実施形態における撮像装置の一構成例を示すブロック図である。 第1実施形態における固体撮像装置の構成例を示すブロック図である。 第1実施形態の画素アレイ部における各画素のレイアウト等を示す平面図である。 第1実施形態における階調画素及びイベント画素を備える画素アレイ部等のaa’断面図である。 第2実施形態の画素アレイ部における各画素のレイアウト等を示す平面図である。 白のカラーフィルタ及びシアンのカラーフィルタの透過率の例を示す図である。 第3実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。 第4実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。 第5実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。 第6~8実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。 第9~10実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。 第11実施形態の画素アレイ部における各画素のレイアウト等を示す平面図である。 第12実施形態における画素アレイ部等の断面図の例である。 第13実施形態における画素アレイ部の断面図の例である。 第14実施形態における画素アレイ部の断面図の例である。 第15実施形態における画素アレイ部の断面図の例である。 第16実施形態における画素アレイ部等の断面図の例である。 車両制御システムの構成例を示すブロック図である。 センシング領域の例を示す図である。
以下、本開示の実施形態を、図面を参照して説明する。
(第1実施形態)
図1は、第1実施形態における撮像装置の一構成例を示すブロック図である。
図1の撮像装置100は、撮像レンズ110、固体撮像装置200、制御部130、データ処理部120を備える。撮像装置100としては、例えば、産業用ロボットに搭載されるカメラや、車載カメラなどが想定される。
撮像レンズ110は、入射光を集光して固体撮像装置200に導くものである。固体撮像装置200は、撮像レンズ110を介して入射される入射光の光量に応じた階調レベルの輝度信号を生成し、データ処理部120に出力する。また、固体撮像装置200は、入射光によって輝度変化が所定の閾値を超えたことをイベントとして検出し、イベント信号を生成してデータ処理部120に出力する。より具体的には、固体撮像装置200は、入射光の輝度に応じた光電流に、所定の閾値を超える変化が生じたか否かをイベントとして検出する。
制御部130は、撮像装置100全体を制御する。例えば、制御部130は、固体撮像装置200を制御して画像データを撮像させるものである。
データ処理部120は、データ生成部150と記録部140とを備える。データ処理部120は、固体撮像装置200から受信した信号に基づいて、データの処理を行う。データ生成部150及び記録部140の詳細は後述する。
データ生成部150は、固体撮像装置200から受信する輝度信号を用いて所定のデータ処理を行う。また、データ生成部150は、固体撮像装置200から受信するイベント信号を用いて所定のデータ処理等を行う。データ生成部150は、データ処理結果である処理後データを外部装置(不図示)へ出力する。また、データ生成部150は、固体撮像装置200から供給される輝度信号やイベント信号を、そのまま、外部装置へ出力してもよい。
記録部140は、固体撮像装置200からのデータを記録するものである。
図2は、第1実施形態における固体撮像装置の概略構成例を示すブロック図である。
固体撮像装置200は、画素アレイ部10、駆動部2、アービタ(調停部)3、イベント信号処理部4及び輝度信号処理部5を備える。
画素アレイ部10には、光電変換により電荷を生成する複数の画素9が格子状に配置されている。また、これら画素9には、入射光の輝度変化をイベントとして検出するイベント画素及び入射光の光量に応じた階調レベルの輝度信号を生成する階調画素が種々のレイアウトにより配置される。イベント画素は、例えば、EVS画素である。また、各レイアウトについては、後述する。
駆動部2は、画素アレイ部10における各階調画素を制御し、各階調画素を駆動する。
アービタ3は、画素アレイ部10内のイベント画素からのリクエストを調停し、イベント信号の出力の許可又は不許可を表す応答を、リクエストを送信してきたイベント画素に返す。アービタ3から許可の応答が返信されたイベント画素は、イベント信号をイベント信号処理部4に出力することができる。イベント信号は、行単位でイベント信号処理部4へ転送される。また、同一行の複数のイベント画素のうち、イベントの発生していないイベント画素のイベント信号は、イベント信号処理部4で破棄される。アービタ3は、イベント検出をリセットするリセット信号をイベント画素へ供給する。
イベント信号処理部4は、画素アレイ部10の各イベント画素から受信したイベント信号に必要な処理を行い、データ処理部120に送信する。
輝度信号処理部5は、画素アレイ部10の各階調画素から受信した輝度信号に必要な処理を行い、データ処理部120に送信する。
図3は、第1実施形態の画素アレイ部における各画素のレイアウト等を示す平面図である。
図3Aは、本実施形態における階調画素9a及びイベント画素9bを含む画素アレイ部10のレイアウトであり、図3Bは、別の本実施形態における階調画素9a及びイベント画素9bを含む画素アレイ部10の等レイアウトである。
図3は、互いに垂直なX軸、Y軸、及びZ軸を示している。X方向及びY方向は、横方向(水平方向)に相当し、Z方向は、縦方向(垂直方向)に相当している。また、+Z方向は上方向に相当し、-Z方向は下方向に相当している。なお、-Z方向は、厳密に重力方向に一致していてもよいし、厳密には重力方向に一致していなくてもよい。
図3A及び図3Bの例では、画素アレイ部10は、行方向(X方向)に備えられた4つの階調画素9a又はイベント画素9bと、列方向(Y方向)に備えられた4つの階調画素9a又はイベント画素9bとが一つの色配置の単位となっている。この単位について、単に4×4の画素9と表すことがある。また、図3A及び図3Bの例では、この単位が、X方向及びY方向に周期的に配置されている。以下、この単位で色配置を説明する。
図3A及び図3Bの例では、画素アレイ部10の一行目及び二行目には、左から順に、赤Rの色配置を有する階調画素9a、イベント画素9b、緑Gの色配置を有する階調画素9a及び緑Gの色配置を有する階調画素9aが並んでいる。また、三行目及び四行目には、左から順に、緑Gの色配置を有する階調画素9a、緑Gの色配置を有する階調画素9a、イベント画素9b及び青Bの色配置を有する階調画素9aが並んでいる。この画素配置は、イベント画素9bをベイヤ配列に変換するためのリモザイクを行うのに適した配置となっている。
赤R、青B及び緑Gの色配置については、画素アレイ部10のそれぞれの画素9に、所定の波長帯の光を透過する、各色のカラーフィルタを備えることで実現できる。以下、赤Rのカラーフィルタを備える階調画素9a、緑Gのカラーフィルタを備える階調画素9a、青Bのカラーフィルタを備える階調画素9aについて、それぞれ、赤Rの階調画素9a、緑Gの階調画素9a及び青Bの階調画素9aと呼ぶ場合がある。
また、図3A及び3Bでは、各イベント画素9bは、白の色配置を有する。図3Aでは、画素アレイ部10におけるイベント画素9bは、レンズ材を備えており、白の色配置を有する。レンズ材は、白のカラーフィルタと同様に、可視光に含まれる様々な色(波長)の光を透過させることから、図3Aのイベント画素9bは、白の色配置を有する。図3Bでは、イベント画素9bは、レンズ材の代わりに、白のカラーフィルタを備えており、レンズ材とは別の白の色配置を有する。具体的には、レンズ材も白のカラーフィルタも、可視光に含まれる様々な色の光を透過させるが、白のカラーフィルタを透過する光の成分や性質は、レンズ材を透過する光の成分や性質と異なる。以下、レンズ材と白のカラーフィルタとの色配置を区別するため、白のカラーフィルタの白の色配置を白Wと表現し、レンズ材の白の色配置を白W’と表現する。
本実施形態では、画素アレイ部10に含まれる各階調画素9a及びイベント画素9bは、カラーフィルタを備え、所定の色配置を有している。また、画素アレイ部10における4×4の画素9の色配置は、その中心を回転軸として、XY平面上で180度回転させた場合に、回転前の画素アレイ部10内のどの部分の色配置と比較しても一致しない。この例では、4×4の画素9について、4×4の画素9の中心を回転軸として、XY平面上で180度回転させた場合、赤Rの階調画素9aと青Bの階調画素9aとの位置がもとの配置と比較して、反対の位置になる。
このように、画素9における色配置の単位について、その中心を回転軸として、XY平面上で180度回転させた場合に、回転後の色配置が、回転前の画素アレイ部10内におけるどの部分の色配置と比較しても一致しないことを、180度の回転対称性を有さないと呼ぶ。また、画素アレイ部10に含まれるイベント画素9b及び階調画素9aの数に対するイベント画素9bの数の比率は、25%以下となっている。
図4は、第1実施形態における階調画素9a及びイベント画素9bを備える画素アレイ部等のaa’断面図である。
図4Aは、図3Aのaa’断面図を示し、図4Bは、図3Bのaa’断面図を示す。
また、図4A及び4Bの例では、各画素9は、オンチップレンズ90及びフォトダイオード92を備えており、また、各画素9間には、画素間遮光膜91を備えた例を示している。図4A及び4Bの例では、その他の構成要素は省略する。
オンチップレンズ90は、入射光を集光する。画素間遮光膜91は、主に斜めの角度から所定の画素9に入射した光が隣接する別の画素9へ混色するのを防止する。また、フォトダイオード92は、入射光の光電変換を行う。
光は、スネルの法則により、低屈折率の媒質から、高屈折率の媒質の方向へ曲がる性質がある。空気の屈折率をn、レンズ材の屈折率をnw1、赤Rのカラーフィルタの屈折率をn、緑Gのカラーフィルタの屈折率をn、青Bのカラーフィルタの屈折率をn、白Wのカラーフィルタの屈折率をnw2とすると、屈折率には、おおよそ以下の式(1)の関係が成り立つ。
<nw1<n、n、n<nw2 ・・・(1)
図4Aは、オンチップレンズ90を介して、イベント画素9bのレンズ材に入射した光(屈折率nw1)が隣接する緑Gのカラーフィルタ(屈折率n)及び青Bのカラーフィルタ(屈折率n)に混色する例を示している。緑Gのカラーフィルタの屈折率n及び青Bのカラーフィルタの屈折率nは、レンズ材の屈折率nよりも大きい関係にあるため、レンズ材への入射光が屈折し、緑G及び青Bのカラーフィルタに侵入する。これにより、イベント画素9bから階調画素9aへ混色が発生する。特に、青Bのカラーフィルタには、赤といった長波長の光が混ざり込み、画質の悪化を招く原因となる。
図4Bは、本実施形態における混色を抑制する例を示している。白Wのカラーフィルタの屈折率nw2は、緑Gのカラーフィルタの屈折率n及び青Bのカラーフィルタの屈折率nよりも大きい関係にあるため、入射光は隣接する緑G及び青Bのカラーフィルタへ侵入せず、混色を抑制することができる。
本実施形態によれば、画素アレイ部10は、イベント画素9bに屈折率が比較的高い白Wのカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、イベント画素9bから階調画素9aに対する入射光の侵入に伴う混色を抑制することができる。また、画素アレイ部10は、イベント画素9bに隣接する緑Gや青Bといった階調画素9aで発生する不均一な混色の抑制により、画質劣化を防止することができる。
また、本実施形態によれば、画素アレイ部10は、イベント画素9bに、白Wのカラーフィルタを備えることで、輝度情報取得にあたり、感度の低下を抑制することができる。
(第2実施形態)
図5は、第2実施形態の画素アレイ部における各画素9のレイアウト等を示す平面図である。
本実施形態では、第1実施形態と異なり、イベント画素9bは、白Wのカラーフィルタの代わりにシアンCのカラーフィルタを備えている。シアンCのカラーフィルタは、白Wのカラーフィルタと異なり、長波長(おおよそ600nm以上)の光を透過しにくい。以下、シアンCのカラーフィルタを備えるイベント画素9bについて、シアンCのイベント画素9bと呼ぶ場合がある。
図6は、白のカラーフィルタ及びシアンのカラーフィルタの透過率の例を示す図である。
図6Aは、白Wのカラーフィルタの各波長における透過率の例を示しており、図6Bは、シアンCのカラーフィルタの各波長における透過率の例を示している。
図6Aに示す通り、白Wのカラーフィルタは、おおよそ600nm以上の波長の光を透過する。一方、図6Bに示す通り、シアンCのカラーフィルタは、おおよそ600nm以上の波長の光を透過しにくい性質を有している。そのため、シアンCのカラーフィルタをイベント画素9bに備えることで、隣接する階調画素9aに対する長波長の光の混色を抑制することができる。
本実施形態によれば、イベント画素9bにシアンCのカラーフィルタを備えることで、カラーフィルタなしの状態と比較して、画素アレイ部10は、イベント画素9bから階調画素9aに対する入射光の侵入に伴う混色を抑制することができる。
また、本実施形態によれば、イベント画素9bにシアンCのカラーフィルタを備えることで、画素アレイ部10は、白Wのカラーフィルタを備えるよりも、長波長の光の混色を抑制することができる。特に、画素アレイ部10は、イベント画素9bに隣接する青Bの階調画素9aで発生する混色の抑制により、画質劣化を防止することができる。
(第3実施形態)
図7は、第3実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。
本実施形態では、画素アレイ部10の各イベント画素9b及び各階調画素9aの配置は、第1実施形態と同様である。また、第1実施形態とは異なり、本実施形態における画素アレイ部10では、青Bの階調画素9aに隣接するイベント画素9bは、シアンCのカラーフィルタを備える。また、青Bの階調画素9a以外に隣接するイベント画素9bは、レンズ材を備える。
本実施形態においても、画素アレイ部10に含まれる階調画素9a及びイベント画素9bの色配置は、180度の回転対称性を有していない。また、画素アレイ部10に含まれるイベント画素9b及び階調画素9aの数に対するイベント画素9bの数の比率は、25%以下となっている。
本実施形態によれば、シアンCのイベント画素9bから、隣接する青Bの階調画素9aへの混色を抑制することができる。また、青Bの階調画素9a以外の階調画素9aと隣接するイベント画素9bには、レンズ材を備えることにより、そのイベント画素9bにおいて、入射光の光量をより多く確保し、感度の低下を抑制することができる。
(第4実施形態)
図8は、第4実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。
本実施形態では、画素アレイ部10の各イベント画素9b及び各階調画素9aの配置は、第1実施形態と同様である。また、第1実施形態とは異なり、本実施形態における画素アレイ部10では、青Bの階調画素9aに隣接するイベント画素9bは、シアンCのカラーフィルタを備える。また、青Bの階調画素9a以外に隣接するイベント画素9bは、白Wのカラーフィルタを備える。
本実施形態においても、画素アレイ部10に含まれる階調画素9a及びイベント画素9bの色配置は、180度の回転対称性を有していない。また、画素アレイ部10に含まれるイベント画素9b及び階調画素9aの数に対するイベント画素9bの数の比率は、25%以下となっている。
本実施形態によれば、画素アレイ部10は、シアンCのイベント画素9bから、隣接する青Bの階調画素9aへの長波長の光の混色を抑制することができる。また、画素アレイ部10は、青Bの階調画素9a以外の階調画素9aと隣接するイベント画素9bには、白Wカラーフィルタを備えることにより、そのイベント画素9bにおいて、感度の低下を抑制しつつ、隣接する階調画素9aへの混色を抑制することができる。
(第5実施形態)
図9は、第5実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。
本実施形態では、画素アレイ部10の各イベント画素9b及び各階調画素9aの配置は、第1実施形態と同様である。
一方、本実施形態では、画素アレイ部10は、画角内における像高中央側6(画角内中央側)の色配置と高像高側7(画角内外側)の色配置とが異なっている。像高中央側6では、イベント画素9bは白Wのカラーフィルタを備えており、高像高側7では、イベント画素9bはシアンCのカラーフィルタを備えている。
本実施形態では、画素アレイ部10に含まれる階調画素9a及びイベント画素9bの色配置は、像高中央側6及び高像高側7のいずれにおいても180度の回転対称性を有していない。また、画素アレイ部10に含まれるイベント画素9b及び階調画素9aの数に対するイベント画素9bの数の比率は、25%以下となっている。
像高中央側6と高像高側7の範囲については、相対的な位置関係であればよい。つまり、画角内中央側のイベント画素9bは、白Wのカラーフィルタを備えており、その周囲である画角内外側のイベント画素9bは、シアンCのカラーフィルタを備えていればよい。
一般的に、混色は、像高中央側6よりも、入射光の入射角が大きくなる高像高側7で多く発生する。本実施形態によれば、カラーフィルタなしの状態と比較して、イベント画素9bから階調画素9aに対する入射光の侵入に伴う混色を抑制することができる。特に、高像高側7の青Bの階調画素9aへの高波長の光の混色を抑制することができる。
また、像高中央側6のイベント画素9bに白Wのカラーフィルタを備えることで、入射光の光量をより多く確保し、感度の低下を抑制することができる。
(第6~8実施形態)
図10は、第6~8実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。
図10Aは、第6実施形態の画素アレイ部10における各画素9のレイアウトであり、図10Bは、第7実施形態の画素アレイ部10における各画素9のレイアウトであり、図10Cは、第8実施形態の画素アレイ部10における各画素9のレイアウトである。
図10A~10Cの例では、画素アレイ部10は、行方向(X方向)に備えられた4つの階調画素9a又はイベント画素9bと、列方向(Y方向)に備えられた4つの階調画素9a又はイベント画素9bとが一つの色配置の単位となっている。また、この単位が、X方向及びY方向に周期的に配置されている。図10A~10Cの破線で囲った部分は、一つの色配置の単位を表している。以下、この単位で色配置を説明する。
図10Aの例(第7実施形態)では、画素アレイ部10の一行目及び二行目には、左から順に、赤Rの階調画素9a、赤Rの階調画素9a、緑Gの階調画素9a及び緑Gの階調画素9aが並んでいる。また、三行目及び四行目には、左から順に、緑Gの階調画素9a、緑Gの階調画素9a、イベント画素9b及び青Bの階調画素9aが並んでいる。
図10Bの例(第8実施形態)では、画素アレイ部10の一行目及び二行目には、左から順に、イベント画素9b、赤Rの階調画素9a、緑Gの階調画素9a及び緑Gの階調画素9aが並んでいる。また、三行目及び四行目には、左から順に、緑Gの階調画素9a、緑Gの階調画素9a、イベント画素9b及び青Bの階調画素9aが並んでいる。
図10Cの例(第9実施形態)では、画素アレイ部10の一行目には、左から順に、赤Rの階調画素9a、赤Rの階調画素9a、緑Gの階調画素9a及び緑Gの階調画素9aが並んでいる。また、画素アレイ部10の二行目には、赤Rの階調画素9a、イベント画素9b、イベント画素9b及び緑Gの階調画素9aが並んでいる。また、画素アレイ部10の三行目には、緑Gの階調画素9a、イベント画素9b、イベント画素9b及び青Bの階調画素9aが並んでいる。また、四行目には、緑Gの階調画素9a、緑Gの階調画素9a、青Bの階調画素9a及び青Bの階調画素9aが並んでいる。
図10A~10Cでは、画素アレイ部10におけるイベント画素9bは、少なくとも一部に、白Wのカラーフィルタ又はシアンCのカラーフィルタを備えていてもよい。また、これらのイベント画素9bは、少なくとも一部に、レンズ材を備えてもよい。例えば、それぞれのイベント画素9bは、レンズ材、白Wのカラーフィルタ又はシアンCのカラーフィルタを備えることが考えられる。また、青Bの階調画素9aに隣接するイベント画素9bは、シアンCのカラーフィルタを備え、青B以外の階調画素9aに隣接するイベント画素9bは、レンズ材又は白Wのカラーフィルタを備えることが考えられる。
第6~8実施形態においても、画素アレイ部10における4×4の画素9は、180度の回転対称性を有していない。また、画素アレイ部10に含まれるイベント画素9b及び階調画素9aの数に対するイベント画素9bの数の比率は、25%以下となっている。
本実施形態によれば、画素アレイ部10は、イベント画素9b及び階調画素9aについて、リモザイクに適した種々の配置にすることができる。
(第9~第10実施形態)
図11は、第9~10実施形態の画素アレイ部における各画素のレイアウトを示す平面図である。
図11Aは、第9実施形態の画素アレイ部10における各画素9のレイアウトであり、図11Bは、第10実施形態の画素アレイ部10における各画素9のレイアウトである。
図11A~11Bの例では、画素アレイ部10は、行方向(X方向)に備えられた4つの階調画素9a又はイベント画素9bと、列方向(Y方向)に備えられた4つの階調画素9a又はイベント画素9bとが一つの色配置の単位となっている。また、この単位が、X方向及びY方向に周期的に配置されている。図11A~11Bの破線で囲った部分は、一つの色配置の単位を表している。以下、この単位で色配置を説明する。
図10Aの例(第9実施形態)では、画素アレイ部10の一行目には、左から順に、赤Rの階調画素9a、赤Rの階調画素9a、緑Gの階調画素9a及び緑Gの階調画素9aが並んでいる。また、画素アレイ部10の二行目には、赤Rの階調画素9a、イベント画素9b、緑Gの階調画素9a及び緑Gの階調画素9aが並んでいる。また、画素アレイ部10の三行目には、緑Gの階調画素9a、緑Gの階調画素9a、イベント画素9b及び青Bの階調画素9aが並んでいる。また、画素アレイ部10の四行目には、緑Gの階調画素9a、緑Gの階調画素9a、青Bの階調画素9a及び青Bの階調画素9aが並んでいる。
図10Bの例(第10実施形態)では、画素アレイ部10の一行目には、左から順に、赤Rの階調画素9a、赤Rの階調画素9a、緑Gの階調画素9a及び緑Gの階調画素9aが並んでいる。また、画素アレイ部10の二行目には、赤Rの階調画素9a、赤Rの階調画素9a、イベント画素9b及び緑Gの階調画素9aが並んでいる。また、画素アレイ部10の三行目には、左から順に、緑Gの階調画素9a、緑Gの階調画素9a、イベント画素9b及び青Bの階調画素9aが並んでいる。また、画素アレイ部10の四行目には、緑Gの階調画素9a、緑Gの階調画素9a、青Bの階調画素9a及び青Bの階調画素9aが並んでいる。
図11A~11Bでは、画素アレイ部10におけるイベント画素9bは、少なくとも一部に、白Wのカラーフィルタ又はシアンCのカラーフィルタを備えていてもよい。また、これらのイベント画素9bは、少なくとも一部に、レンズ材を備えてもよい。例えば、それぞれのイベント画素9bは、レンズ材、白Wのカラーフィルタ又はシアンCのカラーフィルタを備えることが考えられる。また、青Bの階調画素9aに隣接するイベント画素9bは、シアンCのカラーフィルタを備え、青B以外の階調画素9aに隣接するイベント画素9bは、レンズ材又は白Wのカラーフィルタを備えることが考えられる。
第9~10実施形態においても、画素アレイ部10に含まれる階調画素9a及びイベント画素9bの色配置は、180度の回転対称性を有していない。また、画素アレイ部10に含まれるイベント画素9b及び階調画素9aの数に対するイベント画素9bの数の比率は、25%以下となっている。
本実施形態によれば、画素アレイ部10は、イベント画素9b及び階調画素9aについて、リモザイクに適した種々の配置にすることができる。
(第11実施形態)
図12は、第11実施形態の画素アレイ部における各画素のレイアウト等を示す平面図である。
図12の例では、行方向(X方向)に備えられた4つの階調画素9a又はイベント画素9bと、列方向(Y方向)に備えられた8つの階調画素9a又はイベント画素9bとが一つの色配置の単位となっている。この単位について、単に4×8の画素9と表すことがある。また、この単位が、X方向及びY方向に周期的に配置されている。図12の破線で囲った部分は、一つの色配置の単位を表している。以下、この単位で色配置を説明する。
図12の例では、画素アレイ部10の一行目及び二行目には、左から順に、赤Rの階調画素9a、赤Rの階調画素9a、緑Gの階調画素9a及び緑Gの階調画素9aが並んでいる。また、画素アレイ部10の三行目及び四行目には、緑Gの階調画素9a、緑Gの階調画素9a、イベント画素9b及び青Bの階調画素9aが並んでいる。また、画素アレイ部10の五行目及び六行目には、赤Rの階調画素9a、イベント画素9b、緑Gの階調画素9a及び緑Gの階調画素9aが並んでいる。また、画素アレイ部10の七行目及び八行目には、緑Gの階調画素9a、緑Gの階調画素9a、青Bの階調画素9a及び青Bの階調画素9aが並んでいる。
図12では、画素アレイ部10におけるイベント画素9bは、少なくとも一部に、白Wのカラーフィルタ又はシアンCのカラーフィルタを備えていてもよい。また、これらのイベント画素9bは、少なくとも一部に、レンズ材を備えてもよい。例えば、それぞれのイベント画素9bは、レンズ材、白Wのカラーフィルタ又はシアンCのカラーフィルタを備えることが考えられる。また、青Bの階調画素9aに隣接するイベント画素9bは、シアンCのカラーフィルタを備え、青B以外の階調画素9aに隣接するイベント画素9bは、レンズ材又は白Wのカラーフィルタを備えることが考えられる。
第11実施形態では、画素アレイ部10における4×8の画素9は、4×8の画素9の中心を回転軸として、XY平面上で180度回転させた場合に、階調画素9a及びイベント画素9bにおける色配置が回転前の色配置と比較して、回転対称性を有していない。また、画素アレイ部10に含まれるイベント画素9b及び階調画素9aの数に対するイベント画素9bの数の比率は、25%以下となっている。
本実施形態によれば、画素アレイ部10は、イベント画素9b及び階調画素9aについて、リモザイクに適した種々の配置にすることができる。
(第12実施形態)
図13は、第12実施形態における画素アレイ部等の断面図の例である。
図13Aは、比較例の画素アレイ部10に含まれる階調画素9a及びイベント画素9bの断面図の例であり、図13Bは、本実施形態における画素アレイ部10に含まれる階調画素9a及びイベント画素9bの断面図の例である。本実施形態では、画素配置及び色配置は、図13Bに限定されるものではなく、例えば、第1~11実施形態のうち、いずれかの画素配置及び色配置を採用することができる。
図13Aに示す断面図では、画素アレイ部10は、各カラーフィルタ間に、画素間遮光膜91が設けられている。画素間遮光膜91は、例えばタングステンといった金属材により形成され、主に斜め方向からオンチップレンズ90へ入射した光が隣接する画素9へと混色するのを抑制する。
一方、図13Bに示す断面図では、画素アレイ部10は、各カラーフィルタ間に、各カラーフィルタを分離する低屈折率材の壁である第1の遮光壁93が設けられている。第1の遮光壁93は、例えばシリコン酸化膜によって形成される。第1の遮光壁93の材質は、これに限定されず、第1の遮光壁93の屈折率が、低屈折率材の屈折率が各カラーフィルタの屈折率よりも小さい関係となっていればよい。ここでは、第1の遮光壁93の構造を低屈折率材構造又はNKB(low-N KaBe)構造と呼ぶ。
本実施形態によれば、画素アレイ部10は、第1の遮光壁93を設けることで、カラーフィルタ間の混色を抑制することができる。また、画素アレイ部10は、量子効率(Qe)を改善することができる。
(第13実施形態)
図14は、第13実施形態における画素アレイ部の断面図の例である。
図14に示す断面図は、本実施形態における画素アレイ部10に含まれる階調画素9a及びイベント画素9bの断面図の例である。本実施形態では、画素配置及び色配置は、図14に限定されるものではなく、例えば、第1~11実施形態のうち、いずれかの画素配置及び色配置を採用することができる。
図14に示す断面図では、画素アレイ部10は、図13Bと同様に、各階調画素9a及びイベント画素9bの間に第1の遮光壁93’が設けられている。本実施形態における第1の遮光壁93’は、図13Bとは異なり、壁の中にエアを含む構造となっている。エアの屈折率は約1であるため、エアにより低屈折率の構造が実現されている。ここでは、第1の遮光壁93’の構造をエア構造又はAKB(Air KaBe)構造と呼ぶ。
本実施形態によれば、第1の遮光壁93’は、エア構造のため、低屈折率材構造よりも屈折率を小さくすることができる。また、第1の遮光壁93’は、カラーフィルタ間の混色を抑制することができる。また、画素アレイ部10は、量子効率を改善することができる。
(第14実施形態)
図15は、第14実施形態における画素アレイ部の断面図の例である。
図15に示す断面図は、本実施形態における画素アレイ部10に含まれる階調画素9a及びイベント画素9bの断面図の例である。本実施形態では、画素配置及び色配置は、図15に限定されるものではなく、例えば、第1~11実施形態のうち、いずれかの画素配置及び色配置を採用することができる。
図15に示す断面図では、画素アレイ部10は、図13Bと同様に、各階調画素9a及びイベント画素9bの間に第1の遮光壁93、93’’及び93’’’が設けられている。本実施形態における第1の遮光壁93~93’’’は、図13Bや図14とは異なり、階調画素9aと隣接するイベント画素9bとの間に設けられる第1の遮光壁93’’及び93’’’は、階調画素9aと階調画素9aの間に設けられる第1の遮光壁93と異なる厚みを有している。
本実施形態では、互いに隣接する、青Bの階調画素9aとイベント画素9bとの間に設けられる第1の遮光壁93’’’は、互いに隣接する階調画素9aと階調画素9aとの間に設けられる第1の遮光壁93よりも、厚みが大きい。図15では、青Bの階調画素9aと隣接するシアンCのイベント画素9bとの間に設けられる第1の遮光壁93’’’は、他の第1の遮光壁93よりも、厚みが大きい構成となっている。
また、本実施形態では、互いに隣接する、青B以外のカラーフィルタを有する階調画素9aとイベント画素9bとの間に設けられる第1の遮光壁93’’は、互いに隣接する階調画素9aと階調画素9aとの間に設けられる第1の遮光壁93よりも、厚みが小さい。図15では、互いに隣接する、緑Gの階調画素9aとシアンCのイベント画素9bとの間に設けられる第1の遮光壁93’’は厚みが小さい構成となっている。
また、図15に示す第1の遮光壁93~93’’’は、低屈折率材構造の例を示しているが、エア構造であってもよい。
本実施形態によれば、画素アレイ部10は、青Bの階調画素9aと隣接するシアンCのカラーフィルタのイベント画素9bとの間に設けられる第1の遮光壁93’’’の厚さを大きくすることで、イベント画素9bから青Bの階調画素9aへの光の混色をさらに抑制することができる。
また、本実施形態によれば、画素アレイ部10は、混色の影響の少ない赤Rや緑Gといったカラーフィルタを有する階調画素9aと隣接するイベント画素9bとの間に設けられる第1の遮光壁93の厚みを小さくすることで、階調画素9aやイベント画素9bの感度を向上させることができる。
(第15実施形態)
図16は、第15実施形態における画素アレイ部の断面図の例である。
図16に示す断面図は、画素アレイ部10に含まれる階調画素9a及びイベント画素9bの断面図の例である。本実施形態では、画素配置及び色配置は、図16に限定されるものではなく、例えば、第1~11実施形態のうち、いずれかの画素配置及び色配置を採用することができる。
図16に示す断面図では、画素アレイ部10は、図13Bと同様に、各階調画素9a及びイベント画素9bの間に第133が設けられている。
本実施形態では、各イベント画素9b及び階調画素9aが備えるカラーフィルタ上には、オンチップレンズ90の間に低屈折率材の壁である第2の遮光壁94が設けられる。第2の遮光壁94は、例えばシリコン酸化膜によって形成される。
また、この例では、イベント画素9bが備える白Wカラーフィルタ上に、入射光の光路となる導波路95が設けられる。導波路95は、例えば、窒化ケイ素等の高屈折率材によって構成される。これにより、導波路95は、イベント画素9b上に入射された光の通り道となるため、隣接する階調画素9aへの混色を抑制することができる。この例では、白Wカラーフィルタ上に、導波路95を設ける例を説明したが、シアンCカラーフィルタ上に導波路95を設けてもよい。
また、導波路95は、ピラー状であってもよい。これにより、導波路95は、より入射光を集光することができる。
本実施形態によれば、画素アレイ部10は、カラーフィルタ上に、第2の遮光壁94を設けることにより、オンチップレンズ90からの入射光が隣接する画素9に混色することを抑制することができる。
また、画素アレイ部10は、白Wカラーフィルタ又はシアンCカラーフィルタ上に、導波路95を設けることにより、入射光の通り道とすることができ、隣接する画素に混色することを抑制することができる。
(第16実施形態)
図17は、第16実施形態における画素アレイ部等の断面図の例である。
図17Aは、比較例の画素アレイ部10に含まれる階調画素9a及びイベント画素9bの断面図の例であり、図17Bは、本実施形態における画素アレイ部10に含まれる階調画素9a及びイベント画素9bの断面図の例である。本実施形態では、画素配置及び色配置は、図17Bに限定されるものではなく、例えば、第1~11実施形態のうち、いずれかの画素配置及び色配置を採用することができる。
図17Aにより、半導体基板88や絶縁膜89における混色の例を説明する。
オンチップレンズ90を介して、イベント画素9bのレンズ材に入射した光は、半導体基板88内のフォトダイオード92により光電変換される。フォトダイオード92に入射した光のうち一部は、素子分離絶縁膜96を全反射し、隣接するフォトダイオード92の領域に侵入する。また、オンチップレンズ90を介して、イベント画素9bのレンズ材に入射した光のうち、一部は、転送トランジスタ99等が備えられる絶縁膜内89にて全反射し、隣接するフォトダイオード92の領域に侵入する。このように、隣接するフォトダイオード92に入射高が侵入することにより、混色が発生する。
図17Bでは、各カラーフィルタ下の半導体基板88内に、フォトダイオード92が備わっている。また各フォトダイオード92間には、半導体基板88内を貫通する低屈折率材の壁である第3の遮光壁97が設けられる。第3の遮光壁97は、例えばフォトダイオード92よりも屈折率が小さい材質によって形成される。
また、図17Bに示す通り、半導体基板88下の絶縁膜89には、各画素9間に、低屈折材の壁である第4の遮光壁98が設けられる。第4の遮光壁98は、例えば絶縁膜89よりも屈折率が小さい材質によって形成される。
図17Bでは、第3の遮光壁97と第4の遮光壁98は、一体となって設けられた例を示しているが、それぞれ一方の壁のみを設ける構造としてもよい。また、上述した第1の遮光壁93~93’’’、第2の遮光壁94及び導波路95を組み合わせて画素アレイ部10に実装してもよい。
本実施形態によれば、半導体基板88は、第3の遮光壁97を設けることにより、フォトダイオード92に入射した光による混色を抑制することができる。
また、本実施形態によれば、絶縁膜89は、第4の遮光壁98を設けることにより、絶縁膜89に入射した光による混色を抑制することができる。
<<車両制御システムの構成例>>
図18は、本技術が適用される移動装置制御システムの一例である車両制御システム11の構成例を示すブロック図である。
車両制御システム11は、車両1に設けられ、車両1の走行支援及び自動運転に関わる処理を行う。
車両制御システム11は、車両制御ECU(Electronic Control Unit)21、通信部22、地図情報蓄積部23、位置情報取得部24、外部認識センサ25、車内センサ26、車両センサ27、記憶部28、走行支援・自動運転制御部29、DMS(Driver Monitoring System)30、HMI(Human Machine Interface)31、及び、車両制御部32を備える。
車両制御ECU21、通信部22、地図情報蓄積部23、位置情報取得部24、外部認識センサ25、車内センサ26、車両センサ27、記憶部28、走行支援・自動運転制御部29、ドライバモニタリングシステム(DMS)30、ヒューマンマシーンインタフェース(HMI)31、及び、車両制御部32は、通信ネットワーク41を介して相互に通信可能に接続されている。通信ネットワーク41は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)、FlexRay(登録商標)、イーサネット(登録商標)といったディジタル双方向通信の規格に準拠した車載通信ネットワークやバス等により構成される。通信ネットワーク41は、伝送されるデータの種類によって使い分けられてもよい。例えば、車両制御に関するデータに対してCANが適用され、大容量データに対してイーサネットが適用されるようにしてもよい。なお、車両制御システム11の各部は、通信ネットワーク41を介さずに、例えば近距離無線通信(NFC(Near Field Communication))やBluetooth(登録商標)といった比較的近距離での通信を想定した無線通信を用いて直接的に接続される場合もある。
なお、以下、車両制御システム11の各部が、通信ネットワーク41を介して通信を行う場合、通信ネットワーク41の記載を省略するものとする。例えば、車両制御ECU21と通信部22が通信ネットワーク41を介して通信を行う場合、単に車両制御ECU21と通信部22とが通信を行うと記載する。
車両制御ECU21は、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)といった各種のプロセッサにより構成される。車両制御ECU21は、車両制御システム11全体又は一部の機能の制御を行う。
通信部22は、車内及び車外の様々な機器、他の車両、サーバ、基地局等と通信を行い、各種のデータの送受信を行う。このとき、通信部22は、複数の通信方式を用いて通信を行うことができる。
通信部22が実行可能な車外との通信について、概略的に説明する。通信部22は、例えば、5G(第5世代移動通信システム)、LTE(Long Term Evolution)、DSRC(Dedicated Short Range Communications)等の無線通信方式により、基地局又はアクセスポイントを介して、外部ネットワーク上に存在するサーバ(以下、外部のサーバと呼ぶ)等と通信を行う。通信部22が通信を行う外部ネットワークは、例えば、インターネット、クラウドネットワーク、又は、事業者固有のネットワーク等である。通信部22が外部ネットワークに対して行う通信方式は、所定以上の通信速度、且つ、所定以上の距離間でディジタル双方向通信が可能な無線通信方式であれば、特に限定されない。
また例えば、通信部22は、P2P(Peer To Peer)技術を用いて、自車の近傍に存在する端末と通信を行うことができる。自車の近傍に存在する端末は、例えば、歩行者や自転車等の比較的低速で移動する移動体が装着する端末、店舗等に位置が固定されて設置される端末、又は、MTC(Machine Type Communication)端末である。さらに、通信部22は、V2X通信を行うこともできる。V2X通信とは、例えば、他の車両との間の車車間(Vehicle to Vehicle)通信、路側器等との間の路車間(Vehicle to Infrastructure)通信、家との間(Vehicle to Home)の通信、及び、歩行者が所持する端末等との間の歩車間(Vehicle to Pedestrian)通信等の、自車と他との通信をいう。
通信部22は、例えば、車両制御システム11の動作を制御するソフトウエアを更新するためのプログラムを外部から受信することができる(Over The Air)。通信部22は、さらに、地図情報、交通情報、車両1の周囲の情報等を外部から受信することができる。また例えば、通信部22は、車両1に関する情報や、車両1の周囲の情報等を外部に送信することができる。通信部22が外部に送信する車両1に関する情報としては、例えば、車両1の状態を示すデータ、認識部73による認識結果等がある。さらに例えば、通信部22は、eコール等の車両緊急通報システムに対応した通信を行う。
例えば、通信部22は、電波ビーコン、光ビーコン、FM多重放送等の道路交通情報通信システム(VICS(Vehicle Information and Communication System)(登録商標))により送信される電磁波を受信する。
通信部22が実行可能な車内との通信について、概略的に説明する。通信部22は、例えば無線通信を用いて、車内の各機器と通信を行うことができる。通信部22は、例えば、無線LAN、Bluetooth、NFC、WUSB(Wireless USB)といった、無線通信により所定以上の通信速度でディジタル双方向通信が可能な通信方式により、車内の機器と無線通信を行うことができる。これに限らず、通信部22は、有線通信を用いて車内の各機器と通信を行うこともできる。例えば、通信部22は、図示しない接続端子に接続されるケーブルを介した有線通信により、車内の各機器と通信を行うことができる。通信部22は、例えば、USB(Universal Serial Bus)、HDMI(High-Definition Multimedia Interface)(登録商標)、MHL(Mobile High-definition Link)といった、有線通信により所定以上の通信速度でディジタル双方向通信が可能な通信方式により、車内の各機器と通信を行うことができる。
ここで、車内の機器とは、例えば、車内において通信ネットワーク41に接続されていない機器を指す。車内の機器としては、例えば、運転者等の搭乗者が所持するモバイル機器やウェアラブル機器、車内に持ち込まれ一時的に設置される情報機器等が想定される。
地図情報蓄積部23は、外部から取得した地図及び車両1で作成した地図の一方又は両方を蓄積する。例えば、地図情報蓄積部23は、3次元の高精度地図、高精度地図より精度が低く、広いエリアをカバーするグローバルマップ等を蓄積する。
高精度地図は、例えば、ダイナミックマップ、ポイントクラウドマップ、ベクターマップ等である。ダイナミックマップは、例えば、動的情報、準動的情報、準静的情報、静的情報の4層からなる地図であり、外部のサーバ等から車両1に提供される。ポイントクラウドマップは、ポイントクラウド(点群データ)により構成される地図である。ベクターマップは、例えば、車線や信号機の位置といった交通情報等をポイントクラウドマップに対応付け、ADAS(Advanced Driver Assistance System)やAD(Autonomous Driving)に適合させた地図である。
ポイントクラウドマップ及びベクターマップは、例えば、外部のサーバ等から提供されてもよいし、カメラ51、レーダ52、LiDAR53等によるセンシング結果に基づいて、後述するローカルマップとのマッチングを行うための地図として車両1で作成され、地図情報蓄積部23に蓄積されてもよい。また、外部のサーバ等から高精度地図が提供される場合、通信容量を削減するため、車両1がこれから走行する計画経路に関する、例えば数百メートル四方の地図データが外部のサーバ等から取得される。
位置情報取得部24は、GNSS(Global Navigation Satellite System)衛星からGNSS信号を受信し、車両1の位置情報を取得する。取得した位置情報は、走行支援・自動運転制御部29に供給される。なお、位置情報取得部24は、GNSS信号を用いた方式に限定されず、例えば、ビーコンを用いて位置情報を取得してもよい。
外部認識センサ25は、車両1の外部の状況の認識に用いられる各種のセンサを備え、各センサからのセンサデータを車両制御システム11の各部に供給する。外部認識センサ25が備えるセンサの種類や数は任意である。
例えば、外部認識センサ25は、カメラ51、レーダ52、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)53、及び、超音波センサ54を備える。これに限らず、外部認識センサ25は、カメラ51、レーダ52、LiDAR53、及び、超音波センサ54のうち1種類以上のセンサを備える構成でもよい。カメラ51、レーダ52、LiDAR53、及び、超音波センサ54の数は、現実的に車両1に設置可能な数であれば特に限定されない。また、外部認識センサ25が備えるセンサの種類は、この例に限定されず、外部認識センサ25は、他の種類のセンサを備えてもよい。外部認識センサ25が備える各センサのセンシング領域の例は、後述する。
なお、カメラ51の撮影方式は、特に限定されない。例えば、測距が可能な撮影方式であるToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラといった各種の撮影方式のカメラを、必要に応じてカメラ51に適用することができる。これに限らず、カメラ51は、測距に関わらずに、単に撮影画像を取得するためのものであってもよい。
また、例えば、外部認識センサ25は、車両1に対する環境を検出するための環境センサを備えることができる。環境センサは、天候、気象、明るさ等の環境を検出するためのセンサであって、例えば、雨滴センサ、霧センサ、日照センサ、雪センサ、照度センサ等の各種センサを含むことができる。
さらに、例えば、外部認識センサ25は、車両1の周囲の音や音源の位置の検出等に用いられるマイクロフォンを備える。
車内センサ26は、車内の情報を検出するための各種のセンサを備え、各センサからのセンサデータを車両制御システム11の各部に供給する。車内センサ26が備える各種センサの種類や数は、現実的に車両1に設置可能な種類や数であれば特に限定されない。
例えば、車内センサ26は、カメラ、レーダ、着座センサ、ステアリングホイールセンサ、マイクロフォン、生体センサのうち1種類以上のセンサを備えることができる。車内センサ26が備えるカメラとしては、例えば、ToFカメラ、ステレオカメラ、単眼カメラ、赤外線カメラといった、測距可能な各種の撮影方式のカメラを用いることができる。これに限らず、車内センサ26が備えるカメラは、測距に関わらずに、単に撮影画像を取得するためのものであってもよい。車内センサ26が備える生体センサは、例えば、シートやステアリングホイール等に設けられ、運転者等の搭乗者の各種の生体情報を検出する。
車両センサ27は、車両1の状態を検出するための各種のセンサを備え、各センサからのセンサデータを車両制御システム11の各部に供給する。車両センサ27が備える各種センサの種類や数は、現実的に車両1に設置可能な種類や数であれば特に限定されない。
例えば、車両センサ27は、速度センサ、加速度センサ、角速度センサ(ジャイロセンサ)、及び、それらを統合した慣性計測装置(IMU(Inertial Measurement Unit))を備える。例えば、車両センサ27は、ステアリングホイールの操舵角を検出する操舵角センサ、ヨーレートセンサ、アクセルペダルの操作量を検出するアクセルセンサ、及び、ブレーキペダルの操作量を検出するブレーキセンサを備える。例えば、車両センサ27は、エンジンやモータの回転数を検出する回転センサ、タイヤの空気圧を検出する空気圧センサ、タイヤのスリップ率を検出するスリップ率センサ、及び、車輪の回転速度を検出する車輪速センサを備える。例えば、車両センサ27は、バッテリの残量及び温度を検出するバッテリセンサ、並びに、外部からの衝撃を検出する衝撃センサを備える。
記憶部28は、不揮発性の記憶媒体及び揮発性の記憶媒体のうち少なくとも一方を含み、データやプログラムを記憶する。記憶部28は、例えばEEPROM(Electrically Erasable Programmable Read Only Memory)及びRAM(Random Access Memory)として用いられ、記憶媒体としては、HDD(Hard Disc Drive)といった磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、及び、光磁気記憶デバイスを適用することができる。記憶部28は、車両制御システム11の各部が用いる各種プログラムやデータを記憶する。例えば、記憶部28は、EDR(Event Data Recorder)やDSSAD(Data Storage System for Automated Driving)を備え、事故等のイベントの前後の車両1の情報や車内センサ26によって取得された情報を記憶する。
走行支援・自動運転制御部29は、車両1の走行支援及び自動運転の制御を行う。例えば、走行支援・自動運転制御部29は、分析部61、行動計画部62、及び、動作制御部63を備える。
分析部61は、車両1及び周囲の状況の分析処理を行う。分析部61は、自己位置推定部71、センサフュージョン部72、及び、認識部73を備える。
自己位置推定部71は、外部認識センサ25からのセンサデータ、及び、地図情報蓄積部23に蓄積されている高精度地図に基づいて、車両1の自己位置を推定する。例えば、自己位置推定部71は、外部認識センサ25からのセンサデータに基づいてローカルマップを生成し、ローカルマップと高精度地図とのマッチングを行うことにより、車両1の自己位置を推定する。車両1の位置は、例えば、後輪対車軸の中心が基準とされる。
ローカルマップは、例えば、SLAM(Simultaneous Localization and Mapping)等の技術を用いて作成される3次元の高精度地図、占有格子地図(Occupancy Grid Map)等である。3次元の高精度地図は、例えば、上述したポイントクラウドマップ等である。占有格子地図は、車両1の周囲の3次元又は2次元の空間を所定の大きさのグリッド(格子)に分割し、グリッド単位で物体の占有状態を示す地図である。物体の占有状態は、例えば、物体の有無や存在確率により示される。ローカルマップは、例えば、認識部73による車両1の外部の状況の検出処理及び認識処理にも用いられる。
なお、自己位置推定部71は、位置情報取得部24により取得される位置情報、及び、車両センサ27からのセンサデータに基づいて、車両1の自己位置を推定してもよい。
センサフュージョン部72は、複数の異なる種類のセンサデータ(例えば、カメラ51から供給される画像データ、及び、レーダ52から供給されるセンサデータ)を組み合わせて、新たな情報を得るセンサフュージョン処理を行う。異なる種類のセンサデータを組合せる方法としては、統合、融合、連合等がある。
認識部73は、車両1の外部の状況の検出を行う検出処理、及び、車両1の外部の状況の認識を行う認識処理を実行する。
例えば、認識部73は、外部認識センサ25からの情報、自己位置推定部71からの情報、センサフュージョン部72からの情報等に基づいて、車両1の外部の状況の検出処理及び認識処理を行う。
具体的には、例えば、認識部73は、車両1の周囲の物体の検出処理及び認識処理等を行う。物体の検出処理とは、例えば、物体の有無、大きさ、形、位置、動き等を検出する処理である。物体の認識処理とは、例えば、物体の種類等の属性を認識したり、特定の物体を識別したりする処理である。ただし、検出処理と認識処理とは、必ずしも明確に分かれるものではなく、重複する場合がある。
例えば、認識部73は、レーダ52又はLiDAR53等によるセンサデータに基づくポイントクラウドを点群の塊毎に分類するクラスタリングを行うことにより、車両1の周囲の物体を検出する。これにより、車両1の周囲の物体の有無、大きさ、形状、位置が検出される。
例えば、認識部73は、クラスタリングにより分類された点群の塊の動きを追従するトラッキングを行うことにより、車両1の周囲の物体の動きを検出する。これにより、車両1の周囲の物体の速度及び進行方向(移動ベクトル)が検出される。
例えば、認識部73は、カメラ51から供給される画像データに基づいて、車両、人、自転車、障害物、構造物、道路、信号機、交通標識、道路標示等を検出又は認識する。また、認識部73は、セマンティックセグメンテーション等の認識処理を行うことにより、車両1の周囲の物体の種類を認識してもよい。
例えば、認識部73は、地図情報蓄積部23に蓄積されている地図、自己位置推定部71による自己位置の推定結果、及び、認識部73による車両1の周囲の物体の認識結果に基づいて、車両1の周囲の交通ルールの認識処理を行うことができる。認識部73は、この処理により、信号機の位置及び状態、交通標識及び道路標示の内容、交通規制の内容、並びに、走行可能な車線等を認識することができる。
例えば、認識部73は、車両1の周囲の環境の認識処理を行うことができる。認識部73が認識対象とする周囲の環境としては、天候、気温、湿度、明るさ、及び、路面の状態等が想定される。
行動計画部62は、車両1の行動計画を作成する。例えば、行動計画部62は、経路計画、経路追従の処理を行うことにより、行動計画を作成する。
なお、経路計画(Global path planning)とは、スタートからゴールまでの大まかな経路を計画する処理である。この経路計画には、軌道計画と言われ、計画した経路において、車両1の運動特性を考慮して、車両1の近傍で安全かつ滑らかに進行することが可能な軌道生成(Local path planning)を行う処理も含まれる。
経路追従とは、経路計画により計画された経路を計画された時間内で安全かつ正確に走行するための動作を計画する処理である。行動計画部62は、例えば、この経路追従の処理の結果に基づき、車両1の目標速度と目標角速度を計算することができる。
動作制御部63は、行動計画部62により作成された行動計画を実現するために、車両1の動作を制御する。
例えば、動作制御部63は、後述する車両制御部32に含まれる、ステアリング制御部81、ブレーキ制御部82、及び、駆動制御部83を制御して、軌道計画により計算された軌道を車両1が進行するように、加減速制御及び方向制御を行う。例えば、動作制御部63は、衝突回避又は衝撃緩和、追従走行、車速維持走行、自車の衝突警告、自車のレーン逸脱警告等のADASの機能実現を目的とした協調制御を行う。例えば、動作制御部63は、運転者の操作によらずに自律的に走行する自動運転等を目的とした協調制御を行う。
DMS30は、車内センサ26からのセンサデータ、及び、後述するHMI31に入力される入力データ等に基づいて、運転者の認証処理、及び、運転者の状態の認識処理等を行う。認識対象となる運転者の状態としては、例えば、体調、覚醒度、集中度、疲労度、視線方向、酩酊度、運転操作、姿勢等が想定される。
なお、DMS30が、運転者以外の搭乗者の認証処理、及び、当該搭乗者の状態の認識処理を行うようにしてもよい。また、例えば、DMS30が、車内センサ26からのセンサデータに基づいて、車内の状況の認識処理を行うようにしてもよい。認識対象となる車内の状況としては、例えば、気温、湿度、明るさ、臭い等が想定される。
HMI31は、各種のデータや指示等の入力と、各種のデータの運転者等への提示を行う。
HMI31によるデータの入力について、概略的に説明する。HMI31は、人がデータを入力するための入力デバイスを備える。HMI31は、入力デバイスにより入力されたデータや指示等に基づいて入力信号を生成し、車両制御システム11の各部に供給する。HMI31は、入力デバイスとして、例えばタッチパネル、ボタン、スイッチ、及び、レバーといった操作子を備える。これに限らず、HMI31は、音声やジェスチャ等により手動操作以外の方法で情報を入力可能な入力デバイスをさらに備えてもよい。さらに、HMI31は、例えば、赤外線又は電波を利用したリモートコントロール装置や、車両制御システム11の操作に対応したモバイル機器又はウェアラブル機器等の外部接続機器を入力デバイスとして用いてもよい。
HMI31によるデータの提示について、概略的に説明する。HMI31は、搭乗者又は車外に対する視覚情報、聴覚情報、及び、触覚情報の生成を行う。また、HMI31は、生成された各情報の出力、出力内容、出力タイミング及び出力方法等を制御する出力制御を行う。HMI31は、視覚情報として、例えば、操作画面、車両1の状態表示、警告表示、車両1の周囲の状況を示すモニタ画像等の画像や光により示される情報を生成及び出力する。また、HMI31は、聴覚情報として、例えば、音声ガイダンス、警告音、警告メッセージ等の音により示される情報を生成及び出力する。さらに、HMI31は、触覚情報として、例えば、力、振動、動き等により搭乗者の触覚に与えられる情報を生成及び出力する。
HMI31が視覚情報を出力する出力デバイスとしては、例えば、自身が画像を表示することで視覚情報を提示する表示装置や、画像を投影することで視覚情報を提示するプロジェクタ装置を適用することができる。なお、表示装置は、通常のディスプレイを有する表示装置以外にも、例えば、ヘッドアップディスプレイ、透過型ディスプレイ、AR(Augmented Reality)機能を備えるウエアラブルデバイスといった、搭乗者の視界内に視覚情報を表示する装置であってもよい。また、HMI31は、車両1に設けられるナビゲーション装置、インストルメントパネル、CMS(Camera Monitoring System)、電子ミラー、ランプ等が有する表示デバイスを、視覚情報を出力する出力デバイスとして用いることも可能である。
HMI31が聴覚情報を出力する出力デバイスとしては、例えば、オーディオスピーカ、ヘッドホン、イヤホンを適用することができる。
HMI31が触覚情報を出力する出力デバイスとしては、例えば、ハプティクス技術を用いたハプティクス素子を適用することができる。ハプティクス素子は、例えば、ステアリングホイール、シートといった、車両1の搭乗者が接触する部分に設けられる。
車両制御部32は、車両1の各部の制御を行う。車両制御部32は、ステアリング制御部81、ブレーキ制御部82、駆動制御部83、ボディ系制御部84、ライト制御部85、及び、ホーン制御部86を備える。
ステアリング制御部81は、車両1のステアリングシステムの状態の検出及び制御等を行う。ステアリングシステムは、例えば、ステアリングホイール等を備えるステアリング機構、電動パワーステアリング等を備える。ステアリング制御部81は、例えば、ステアリングシステムの制御を行うステアリングECU、ステアリングシステムの駆動を行うアクチュエータ等を備える。
ブレーキ制御部82は、車両1のブレーキシステムの状態の検出及び制御等を行う。ブレーキシステムは、例えば、ブレーキペダル等を含むブレーキ機構、ABS(Antilock Brake System)、回生ブレーキ機構等を備える。ブレーキ制御部82は、例えば、ブレーキシステムの制御を行うブレーキECU、ブレーキシステムの駆動を行うアクチュエータ等を備える。
駆動制御部83は、車両1の駆動システムの状態の検出及び制御等を行う。駆動システムは、例えば、アクセルペダル、内燃機関又は駆動用モータ等の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構等を備える。駆動制御部83は、例えば、駆動システムの制御を行う駆動ECU、駆動システムの駆動を行うアクチュエータ等を備える。
ボディ系制御部84は、車両1のボディ系システムの状態の検出及び制御等を行う。ボディ系システムは、例えば、キーレスエントリシステム、スマートキーシステム、パワーウインドウ装置、パワーシート、空調装置、エアバッグ、シートベルト、シフトレバー等を備える。ボディ系制御部84は、例えば、ボディ系システムの制御を行うボディ系ECU、ボディ系システムの駆動を行うアクチュエータ等を備える。
ライト制御部85は、車両1の各種のライトの状態の検出及び制御等を行う。制御対象となるライトとしては、例えば、ヘッドライト、バックライト、フォグライト、ターンシグナル、ブレーキライト、プロジェクション、バンパーの表示等が想定される。ライト制御部85は、ライトの制御を行うライトECU、ライトの駆動を行うアクチュエータ等を備える。
ホーン制御部86は、車両1のカーホーンの状態の検出及び制御等を行う。ホーン制御部86は、例えば、カーホーンの制御を行うホーンECU、カーホーンの駆動を行うアクチュエータ等を備える。
図19は、図18の外部認識センサ25のカメラ51、レーダ52、LiDAR53、及び、超音波センサ54等によるセンシング領域の例を示す図である。なお、図19において、車両1を上面から見た様子が模式的に示され、左端側が車両1の前端(フロント)側であり、右端側が車両1の後端(リア)側となっている。
センシング領域101F及びセンシング領域101Bは、超音波センサ54のセンシング領域の例を示している。センシング領域101Fは、複数の超音波センサ54によって車両1の前端周辺をカバーしている。センシング領域101Bは、複数の超音波センサ54によって車両1の後端周辺をカバーしている。
センシング領域101F及びセンシング領域101Bにおけるセンシング結果は、例えば、車両1の駐車支援等に用いられる。
センシング領域102F乃至センシング領域102Bは、短距離又は中距離用のレーダ52のセンシング領域の例を示している。センシング領域102Fは、車両1の前方において、センシング領域101Fより遠い位置までカバーしている。センシング領域102Bは、車両1の後方において、センシング領域101Bより遠い位置までカバーしている。センシング領域102Lは、車両1の左側面の後方の周辺をカバーしている。センシング領域102Rは、車両1の右側面の後方の周辺をカバーしている。
センシング領域102Fにおけるセンシング結果は、例えば、車両1の前方に存在する車両や歩行者等の検出等に用いられる。センシング領域102Bにおけるセンシング結果は、例えば、車両1の後方の衝突防止機能等に用いられる。センシング領域102L及びセンシング領域102Rにおけるセンシング結果は、例えば、車両1の側方の死角における物体の検出等に用いられる。
センシング領域103F乃至センシング領域103Bは、カメラ51によるセンシング領域の例を示している。センシング領域103Fは、車両1の前方において、センシング領域102Fより遠い位置までカバーしている。センシング領域103Bは、車両1の後方において、センシング領域102Bより遠い位置までカバーしている。センシング領域103Lは、車両1の左側面の周辺をカバーしている。センシング領域103Rは、車両1の右側面の周辺をカバーしている。
センシング領域103Fにおけるセンシング結果は、例えば、信号機や交通標識の認識、車線逸脱防止支援システム、自動ヘッドライト制御システムに用いることができる。センシング領域103Bにおけるセンシング結果は、例えば、駐車支援、及び、サラウンドビューシステムに用いることができる。センシング領域103L及びセンシング領域103Rにおけるセンシング結果は、例えば、サラウンドビューシステムに用いることができる。
センシング領域104は、LiDAR53のセンシング領域の例を示している。センシング領域104は、車両1の前方において、センシング領域103Fより遠い位置までカバーしている。一方、センシング領域104は、センシング領域103Fより左右方向の範囲が狭くなっている。
センシング領域104におけるセンシング結果は、例えば、周辺車両等の物体検出に用いられる。
センシング領域105は、長距離用のレーダ52のセンシング領域の例を示している。センシング領域105は、車両1の前方において、センシング領域104より遠い位置までカバーしている。一方、センシング領域105は、センシング領域104より左右方向の範囲が狭くなっている。
センシング領域105におけるセンシング結果は、例えば、ACC(Adaptive Cruise Control)、緊急ブレーキ、衝突回避等に用いられる。
なお、外部認識センサ25が含むカメラ51、レーダ52、LiDAR53、及び、超音波センサ54の各センサのセンシング領域は、図19以外に各種の構成をとってもよい。具体的には、超音波センサ54が車両1の側方もセンシングするようにしてもよいし、LiDAR53が車両1の後方をセンシングするようにしてもよい。また、各センサの設置位置は、上述した各例に限定されない。また、各センサの数は、1つでもよいし、複数であってもよい。
また、例えば、本開示は以下のような構成を取ることができる。
(1)
光電変換により電荷を生成する複数の画素を含む画素アレイ部を備え、
前記複数の画素は、
入射光の輝度変化に基づいてイベント信号を生成する複数のイベント画素と、
入射光の光量に基づいて輝度信号を生成する複数の階調画素と、
を含み、
前記イベント画素及び前記階調画素の色配置は、180度の回転対称性を有さない、
固体撮像装置。
(2)
前記イベント画素及び前記階調画素は、所定の波長帯の光を透過するカラーフィルタをさらに備える、
(1)に記載の固体撮像装置。
(3)
前記イベント画素における前記カラーフィルタは、白及びシアンのいずれか一方を含み、
前記階調画素における前記カラーフィルタは、赤、緑及び青を含む、
(2)に記載の固体撮像装置。
(4)
前記イベント画素における前記カラーフィルタは、白及びシアンの両方を含み、
前記階調画素における前記カラーフィルタは、赤、緑及び青を含む、
(2)に記載の固体撮像装置。
(5)
青の前記カラーフィルタを有する前記階調画素に隣接する前記イベント画素は、シアンの前記カラーフィルタを有する、(4)に記載の固体撮像装置。
(6)
青以外の前記カラーフィルタを有する前記階調画素に隣接する前記イベント画素は、白の前記カラーフィルタを有する、(4)に記載の固体撮像装置。
(7)
画角内における像高中央側の前記イベント画素は白の前記カラーフィルタを有し、
前記画角内における高像高側の前記イベント画素は、シアンの前記カラーフィルタを有する、
(4)に記載の固体撮像装置。
(8)
前記画素アレイ部に含まれる前記イベント画素及び前記階調画素の数に対する前記イベント画素の数の比率は、25%以下である、(1)に記載の固体撮像装置。
(9)
前記イベント画素はEVS画素である、(1)に記載の固体撮像装置。
(10)
前記複数の画素の前記カラーフィルタ間には、第1の遮光壁が設けられる、(2)に記載の固体撮像装置。
(11)
前記第1の遮光壁は、低屈折率材構造又はエア構造を含む、(10)に記載の固体撮像装置。
(12)
互いに隣接する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁と厚みが異なる、(10)に記載の固体撮像装置。
(13)
互いに隣接する、青の前記カラーフィルタを有する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁よりも、厚みが大きい、(12)に記載の固体撮像装置。
(14)
互いに隣接する、青以外の前記カラーフィルタを有する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁よりも、厚みが小さい、(12)に記載の固体撮像装置。
(15)
前記イベント画素及び前記階調画素は、前記カラーフィルタ上に、入射光を集光するオンチップレンズをさらに備え、
前記複数の画素の前記オンチップレンズ間には、第2の遮光壁が設けられる、(2)に記載の固体撮像装置。
(16)
前記カラーフィルタ上には、前記入射光の光路となる導波路が設けられる、(15)に記載の固体撮像装置。
(17)
前記導波路は、白又はシアンの前記カラーフィルタ上に設けられる、(16)に記載の固体撮像装置。
(18)
前記イベント画素及び前記階調画素は、前記カラーフィルタ下の半導体基板内に、光電変換を行うフォトダイオードをさらに備え、
前記複数の画素の前記フォトダイオード間には、前記半導体基板内を貫通する第3の遮光壁が設けられる、(2)に記載の固体撮像装置。
(19)
前記複数の画素間には、前記半導体基板下の絶縁膜内に第4の遮光壁が設けられる、(18)に記載の固体撮像装置。
(20)
撮像装置を備える電子機器であって、
前記撮像装置は、
光電変換により電荷を生成する複数の画素を含む画素アレイ部を備え、
前記複数の画素は、
入射光の輝度変化に基づいてイベント信号を生成する複数のイベント画素と、
入射光の光量に基づいて輝度信号を生成する複数の階調画素と、
を含み、
前記イベント画素及び前記階調画素の色配置は、180度の回転対称性を有さない、電子機器。
1:車両、2:駆動部、3:アービタ、4:イベント信号処理部、
5:輝度信号処理部、6:像高中央側、7:高像高側、
9:画素、9a:階調画素、9b:イベント画素、
10:画素アレイ部、11:車両制御システム、21:車両制御ECU、
22:通信部、23:地図情報蓄積部、24:位置情報取得部、
25:外部認識センサ、26:車内センサ、27:車両センサ、
28:記憶部、29:走行支援・自動運転制御部、30:DMS、
31:HMI、32:車両制御部、41:通信ネットワーク、
51:カメラ、52:レーダ、53:LiDAR、54:超音波センサ、
61:分析部、62:行動計画部、63:動作制御部、
71:自己位置推定部、72:センサフュージョン部、
73:認識部、81:ステアリング制御部、82:ブレーキ制御部、
83:駆動制御部、84:ボディ系制御部、85:ライト制御部、
86:ホーン制御部、88、半導体基板、89:絶縁膜、
90:オンチップレンズ、91:画素間遮光膜、
92:フォトダイオード、93:第1の遮光壁、93’:第1の遮光壁、
93’’:第1の遮光壁、93’’’:第1の遮光壁、
94:第2の遮光壁、95:導波路、96:素子分離絶縁膜、
97:第3の遮光壁、98:第4の遮光壁、99:転送トランジスタ、
100:撮像装置、110:撮像レンズ、120:データ処理部、
130:制御部、140:記録部、150:データ生成部、
200:固体撮像装置、
R:赤、G:緑、B:青、W:白、W’:白、C:シアン

Claims (20)

  1. 光電変換により電荷を生成する複数の画素を含む画素アレイ部を備え、
    前記複数の画素は、
    入射光の輝度変化に基づいてイベント信号を生成する複数のイベント画素と、
    入射光の光量に基づいて輝度信号を生成する複数の階調画素と、
    を含み、
    前記イベント画素及び前記階調画素の色配置は、180度の回転対称性を有さない、
    固体撮像装置。
  2. 前記イベント画素及び前記階調画素は、所定の波長帯の光を透過するカラーフィルタをさらに備える、
    請求項1に記載の固体撮像装置。
  3. 前記イベント画素における前記カラーフィルタは、白及びシアンのいずれか一方を含み、
    前記階調画素における前記カラーフィルタは、赤、緑及び青を含む、
    請求項2に記載の固体撮像装置。
  4. 前記イベント画素における前記カラーフィルタは、白及びシアンの両方を含み、
    前記階調画素における前記カラーフィルタは、赤、緑及び青を含む、
    請求項2に記載の固体撮像装置。
  5. 青の前記カラーフィルタを有する前記階調画素に隣接する前記イベント画素は、シアンの前記カラーフィルタを有する、請求項4に記載の固体撮像装置。
  6. 青以外の前記カラーフィルタを有する前記階調画素に隣接する前記イベント画素は、白の前記カラーフィルタを有する、請求項4に記載の固体撮像装置。
  7. 画角内における像高中央側の前記イベント画素は白の前記カラーフィルタを有し、
    前記画角内における高像高側の前記イベント画素は、シアンの前記カラーフィルタを有する、
    請求項4に記載の固体撮像装置。
  8. 前記画素アレイ部に含まれる前記イベント画素及び前記階調画素の数に対する前記イベント画素の数の比率は、25%以下である、請求項1に記載の固体撮像装置。
  9. 前記イベント画素はEVS画素である、請求項1に記載の固体撮像装置。
  10. 前記複数の画素の前記カラーフィルタ間には、第1の遮光壁が設けられる、請求項2に記載の固体撮像装置。
  11. 前記第1の遮光壁は、低屈折率材構造又はエア構造を含む、請求項10に記載の固体撮像装置。
  12. 互いに隣接する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁と厚みが異なる、請求項10に記載の固体撮像装置。
  13. 互いに隣接する、青の前記カラーフィルタを有する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁よりも、厚みが大きい、請求項12に記載の固体撮像装置。
  14. 互いに隣接する、青以外の前記カラーフィルタを有する前記階調画素と前記イベント画素との間に設けられる前記第1の遮光壁は、互いに隣接する前記階調画素と前記階調画素との間に設けられる前記第1の遮光壁よりも、厚みが小さい、請求項12に記載の固体撮像装置。
  15. 前記イベント画素及び前記階調画素は、前記カラーフィルタ上に、入射光を集光するオンチップレンズをさらに備え、
    前記複数の画素の前記オンチップレンズ間には、第2の遮光壁が設けられる、請求項2に記載の固体撮像装置。
  16. 前記カラーフィルタ上には、前記入射光の光路となる導波路が設けられる、請求項15に記載の固体撮像装置。
  17. 前記導波路は、白又はシアンの前記カラーフィルタ上に設けられる、請求項16に記載の固体撮像装置。
  18. 前記イベント画素及び前記階調画素は、前記カラーフィルタ下の半導体基板内に、光電変換を行うフォトダイオードをさらに備え、
    前記複数の画素の前記フォトダイオード間には、前記半導体基板内を貫通する第3の遮光壁が設けられる、請求項2に記載の固体撮像装置。
  19. 前記複数の画素間には、前記半導体基板下の絶縁膜内に第4の遮光壁が設けられる、請求項18に記載の固体撮像装置。
  20. 撮像装置を備える電子機器であって、
    前記撮像装置は、
    光電変換により電荷を生成する複数の画素を含む画素アレイ部を備え、
    前記複数の画素は、
    入射光の輝度変化に基づいてイベント信号を生成する複数のイベント画素と、
    入射光の光量に基づいて輝度信号を生成する複数の階調画素と、
    を含み、
    前記イベント画素及び前記階調画素の色配置は、180度の回転対称性を有さない、電子機器。
JP2022199558A 2022-12-14 2022-12-14 固体撮像装置及び電子機器 Pending JP2024085173A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022199558A JP2024085173A (ja) 2022-12-14 2022-12-14 固体撮像装置及び電子機器
PCT/JP2023/041518 WO2024127912A1 (en) 2022-12-14 2023-11-17 Solid-state imaging device and electronic apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022199558A JP2024085173A (ja) 2022-12-14 2022-12-14 固体撮像装置及び電子機器

Publications (1)

Publication Number Publication Date
JP2024085173A true JP2024085173A (ja) 2024-06-26

Family

ID=89073397

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022199558A Pending JP2024085173A (ja) 2022-12-14 2022-12-14 固体撮像装置及び電子機器

Country Status (2)

Country Link
JP (1) JP2024085173A (ja)
WO (1) WO2024127912A1 (ja)

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6215246B2 (ja) * 2014-05-16 2017-10-18 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子および固体撮像素子の製造方法、並びに電子機器
WO2017073321A1 (ja) * 2015-10-26 2017-05-04 ソニー株式会社 固体撮像装置およびその製造方法、並びに電子機器
JP2021093610A (ja) 2019-12-10 2021-06-17 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
CN115023945A (zh) * 2020-02-10 2022-09-06 华为技术有限公司 用于采集基于帧的图像和基于事件的图像的混合像素电路

Also Published As

Publication number Publication date
WO2024127912A1 (en) 2024-06-20

Similar Documents

Publication Publication Date Title
WO2020116195A1 (ja) 情報処理装置、情報処理方法、プログラム、移動体制御装置、及び、移動体
US10864855B2 (en) Imaging control apparatus, method for controlling imaging control apparatus, and mobile body
WO2021241189A1 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2020116194A1 (ja) 情報処理装置、情報処理方法、プログラム、移動体制御装置、及び、移動体
WO2022153896A1 (ja) 撮像装置、画像処理方法及び画像処理プログラム
WO2024024148A1 (ja) 車載監視装置、情報処理装置および車載監視システム
WO2022249734A1 (ja) 撮像装置および電子機器
WO2022004423A1 (ja) 情報処理装置、情報処理方法、及び、プログラム
WO2024127912A1 (en) Solid-state imaging device and electronic apparatus
US20210295563A1 (en) Image processing apparatus, image processing method, and program
WO2024106196A1 (ja) 固体撮像装置および電子機器
WO2024062842A1 (ja) 固体撮像装置
US20240241227A1 (en) Distance measuring device and distance measuring method
WO2023189071A1 (ja) 撮像装置及び電子機器
WO2023063145A1 (ja) 情報処理装置、情報処理方法および情報処理プログラム
WO2024106132A1 (ja) 固体撮像装置および情報処理システム
WO2024090195A1 (ja) 情報処理システム、通信方法、及び、移動体
WO2023171401A1 (ja) 信号処理装置、信号処理方法、および記録媒体
WO2023149089A1 (ja) 学習装置、学習方法及び学習プログラム
WO2023007785A1 (ja) 情報処理装置、および情報処理方法、並びにプログラム
WO2023053498A1 (ja) 情報処理装置、情報処理方法、記録媒体、および車載システム
US20240224359A1 (en) Communication device, communication method, and vehicle
WO2022019117A1 (ja) 情報処理装置、情報処理方法、及び、プログラム
WO2024009739A1 (ja) 光学式測距センサ、及び光学式測距システム
US20240179429A1 (en) Solid-state imaging device, imaging device, processing method in solid-state imaging device, processing program in solid-state imaging device, processing method in imaging device, and processing program in imaging device