JP2019513976A - 3d結像システムおよび方法 - Google Patents
3d結像システムおよび方法 Download PDFInfo
- Publication number
- JP2019513976A JP2019513976A JP2018545214A JP2018545214A JP2019513976A JP 2019513976 A JP2019513976 A JP 2019513976A JP 2018545214 A JP2018545214 A JP 2018545214A JP 2018545214 A JP2018545214 A JP 2018545214A JP 2019513976 A JP2019513976 A JP 2019513976A
- Authority
- JP
- Japan
- Prior art keywords
- array
- elements
- optical
- pixels
- optical elements
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 38
- 238000000034 method Methods 0.000 title claims description 73
- 230000003287 optical effect Effects 0.000 claims abstract description 81
- 230000010287 polarization Effects 0.000 claims abstract description 81
- 230000004044 response Effects 0.000 claims abstract description 16
- 230000005540 biological transmission Effects 0.000 claims description 57
- 238000000576 coating method Methods 0.000 claims description 13
- 239000011248 coating agent Substances 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 7
- BJQHLKABXJIVAM-UHFFFAOYSA-N bis(2-ethylhexyl) phthalate Chemical compound CCCCC(CC)COC(=O)C1=CC=CC=C1C(=O)OCC(CC)CCCC BJQHLKABXJIVAM-UHFFFAOYSA-N 0.000 claims description 2
- 238000013461 design Methods 0.000 description 17
- 239000000463 material Substances 0.000 description 16
- 239000000758 substrate Substances 0.000 description 16
- 238000003491 array Methods 0.000 description 11
- 238000013459 approach Methods 0.000 description 10
- 238000005259 measurement Methods 0.000 description 9
- 238000005286 illumination Methods 0.000 description 8
- 229910052751 metal Inorganic materials 0.000 description 8
- 239000002184 metal Substances 0.000 description 8
- 230000000694 effects Effects 0.000 description 7
- 238000000151 deposition Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000011161 development Methods 0.000 description 5
- 238000005530 etching Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 229920002120 photoresistant polymer Polymers 0.000 description 5
- 238000000926 separation method Methods 0.000 description 5
- 230000004075 alteration Effects 0.000 description 4
- 229910052782 aluminium Inorganic materials 0.000 description 4
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000001465 metallisation Methods 0.000 description 4
- 229920000642 polymer Polymers 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- 230000008021 deposition Effects 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 238000002161 passivation Methods 0.000 description 3
- 238000000059 patterning Methods 0.000 description 3
- 230000001681 protective effect Effects 0.000 description 3
- 239000006117 anti-reflective coating Substances 0.000 description 2
- 238000010894 electron beam technology Methods 0.000 description 2
- 230000004907 flux Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 239000010409 thin film Substances 0.000 description 2
- 230000036962 time dependent Effects 0.000 description 2
- 239000011358 absorbing material Substances 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 230000002939 deleterious effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000010408 film Substances 0.000 description 1
- 150000002222 fluorine compounds Chemical class 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 239000010931 gold Substances 0.000 description 1
- 229910052737 gold Inorganic materials 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000001459 lithography Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000002070 nanowire Substances 0.000 description 1
- 239000000382 optic material Substances 0.000 description 1
- 229910021420 polycrystalline silicon Inorganic materials 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 239000012780 transparent material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
- G02B30/20—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
- G02B30/22—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the stereoscopic type
- G02B30/25—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the stereoscopic type using polarisation techniques
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/481—Constructional features, e.g. arrangements of optical elements
- G01S7/4816—Constructional features, e.g. arrangements of optical elements of receivers alone
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/499—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using polarisation effects
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B26/00—Optical devices or arrangements for the control of light using movable or deformable optical elements
- G02B26/001—Optical devices or arrangements for the control of light using movable or deformable optical elements based on interference in an adjustable optical cavity
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/28—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
- G02B27/286—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising for controlling or changing the state of polarisation, e.g. transforming one polarisation state into another
-
- G—PHYSICS
- G02—OPTICS
- G02F—OPTICAL DEVICES OR ARRANGEMENTS FOR THE CONTROL OF LIGHT BY MODIFICATION OF THE OPTICAL PROPERTIES OF THE MEDIA OF THE ELEMENTS INVOLVED THEREIN; NON-LINEAR OPTICS; FREQUENCY-CHANGING OF LIGHT; OPTICAL LOGIC ELEMENTS; OPTICAL ANALOGUE/DIGITAL CONVERTERS
- G02F1/00—Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics
- G02F1/01—Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour
- G02F1/0136—Devices or arrangements for the control of the intensity, colour, phase, polarisation or direction of light arriving from an independent light source, e.g. switching, gating or modulating; Non-linear optics for the control of the intensity, phase, polarisation or colour for the control of polarisation, e.g. state of polarisation [SOP] control, polarisation scrambling, TE-TM mode conversion or separation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/218—Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/254—Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/296—Synchronisation thereof; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2213/00—Details of stereoscopic systems
- H04N2213/001—Constructional or mechanical details
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Computer Networks & Wireless Communication (AREA)
- Optics & Photonics (AREA)
- Electromagnetism (AREA)
- Nonlinear Science (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Polarising Elements (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Studio Devices (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Optical Modulation, Optical Deflection, Nonlinear Optics, Optical Demodulation, Optical Logic Elements (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
3D結像システムは、時間の関数として光パルスの戻り部分を変調するための光学変調器を含む。戻り光パルス部分は、3D画像またはビデオが所望される場面から反射もしくは散乱される。3D結像システムは、変調された光パルス部分を受け取る要素アレイと、要素アレイに対応するピクセルのセンサアレイとも含む。ピクセルアレイは、光出力を要素アレイから受け取るように位置付けられる。要素アレイは、偏光要素のアレイを含み得、各々は、1つ以上のピクセルに対応する。偏光要素の偏光状態は、戻り光パルスの飛行時間情報が、光パルスの戻り変調部分に応答してピクセルアレイによって生産された信号から測定され得るように構成されることができる。
Description
(米国特許法§119に基づく優先権の主張)
本願は、米国仮出願第62/301,587号(2016年2月29日出願、名称「Simplified 3D Imaging Camera」)に対する優先権を主張する特許のためであり、上記出願は、完全に記載されている場合と同等にその全体が参照により本明細書に明示的に組み込まれる。
本願は、米国仮出願第62/301,587号(2016年2月29日出願、名称「Simplified 3D Imaging Camera」)に対する優先権を主張する特許のためであり、上記出願は、完全に記載されている場合と同等にその全体が参照により本明細書に明示的に組み込まれる。
(技術分野)
本開示は、概して、3次元(3D)結像に関し、より具体的には、3D情報を捕捉するためのカメラまたはシステムに関する。
本開示は、概して、3次元(3D)結像に関し、より具体的には、3D情報を捕捉するためのカメラまたはシステムに関する。
場面における表面およびオブジェクトの3D位置を捕捉することは、ロボットビジョン、自律的車両、およびビデオゲーム制御等の用途のためにますます一般的になりつつある。理想的3Dカメラは、今日の2次元(2D)ビデオカメラおよび携帯電話カメラ機能と同様に高分解能における画像またはビデオとともに、3D情報を捕捉することが可能である。そのようなカメラのためのサイズ、重量、および電力要件は、重要な考慮点である。これを達成するための現在のアプローチは、分解能および動作範囲ならびに一部のための高コストおよび大物理的サイズにおける弱点に悩まされる。
画像として場面全体の3D座標を取得するために現在使用されているいくつかの技術は全て、その長所を有するが、それらが高品質3D画像およびビデオを送達することを妨げる弱点および基本限界も有する。
特に、低コストのための3Dの一般的アプローチは、ベースライン距離だけ分離される複数のレンズおよびセンサを使用して3D効果を提供する立体視カメラである。しかしながら、実際には、高性能映画撮影用機材でさえ、立体視カメラの大部分に対して、3Dデータは存在せず、すなわち、3D効果は、ディスプレイにおける錯視である。これは、3D情報または座標を要求するいくつかの用途のために、有用ではない。立体視画像は、写真測量法(2つのセンサの対応するピクセルを用いて距離を三角測量する)を使用して3D幾何学形状データを生成するために使用されることができるが、それは、ベースライン分離のための精密な較正および機械的体積、ならびにかなりの処理を要求する。有効動作範囲は、典型的ベースラインのためにより狭い範囲に限定され、立体視カメラ対からの写真測量法の性能は、照明条件および陰影に敏感である。そのようなデバイスは、暗いまたは厳しい照明下では、良好に動作せず、かなりの計算リソースを要求する。これらの特性は、リアルタイムデータの抽出を小型システムにおいて困難にする。したがって、写真測量法は、いくつかの用途のために適正な解決策ではない。
使用される関連解決策は、光パターンを場面内のオブジェクト上に投影し、別個のセンサを使用して、パターンにおける偏差を検出する。構造化された光プロジェクタおよび画像センサは、異なる透過開口および受信開口を要求し、それは、良好な距離性能のために精密に整列させられ、十分な距離だけおよび分離されなければならない。これらのシステムは、距離情報のために横の分解能を限定するいくつかのパターンを使用するか、または高速移動オブジェクトのために使用されることができない複数の画像を使用する。
距離を測定するためのこれらの幾何学的解決策以外にも、膨大な量の開発労力が、光が場面オブジェクトに進み、3Dカメラセンサに戻る飛行時間を測定する時間に敏感なセンサの開発に注がれている。時間を測定するために使用される種々の技法が存在するが、全ては、各ピクセルに対応する回路を伴い、回路は、ピクセルの応答を制御し、そのピクセルに関する光の到着時間を記録する(振幅または位相のいずれかによって)。そのような回路の複雑性ならびに記録される広範なデータは、そのようなセンサの開発を妨げており、最も高度な時間に敏感なセンサでさえも、片側100〜200ピクセルに限定される。さらに、ピクセルサイズを低減させる方法が見出され得る場合、縮尺調整は、さらにコストがかかるチップ開発を要求し得る。これらの技法の多くは、照明条件にも敏感であり、現在、短距離の屋内使用に限定されている。これらの解決策のために、各ピクセルは、満足の行く性能を距離測定において得るために、マスタクロックに対して、かつ互いに対して精密にタイミング調整され、それは、時間に敏感なセンサを調整する能力を最新技術を上回ってさらに複雑にし、それは、大まかなジェスチャ認識の現在の使用を超えて広く使用されるためには不十分である。
種々の時間的変調スキームを使用する小型3Dカメラが、生産されている。これらのアプローチは全て、3D効果を達成するために新しい特殊結像センサおよび電子回路を要求し、約200ピクセル×160ピクセルアレイまたはそれより小さいものに限定される。ピクセル数が、時間とともに徐々に増加してはいるものの、依然として低く、かなりの作業が、改良するために依然として必要とされる。それらは、限定される範囲(<5m)も有し、明るい照明(例えば、屋外)下では、良好に機能しない。これらのセンサは、いくつかの産業用途に好適ではないことが示されている。高性能3D測定器具は、必要とされる性能のいくつかを達成することができるが、いずれも、リアルタイムに近づいておらず、広範な労力を要求し、多くの用途に要求されるコスト標的への道筋を有していない。
本明細書に開示される3D結像アプローチに関連する他の公知の技術は、種々の結像用途において偏光グリッドおよび単一センサアレイを使用する以前の試みを含む。
センサアレイと結合された偏光グリッドが、入射光の偏光状態を測定するために使用されている。最も一般的アプローチは、そのピクセルにおける入射光のStokesベクトルを測定するために使用される垂直、水平、45°、および135°等の4つの異なる向きの偏光要素から成るグリッドを使用することである。Stokesベクトルは、入射光の偏光状態を決定する。センサアレイ全体の各ピクセルのための入射光の偏光状態における変化が、センサアレイ上に結像されている表面の面法線における変化を推定するために使用されることができる。
3D結像用途のために、面法線における変化は、結像されている表面の傾きの測定を導出するために使用されることができ、それは、次いで、周囲表面に対する深度位置を導出するために使用されることができる。この技法は、3D表面を平滑光学表面から抽出し、例えば、光学表面の曲率を測定するために使用されている。J.Millerd,N.Brock、他による「Pixelated Phase−Mask Dynamic Interferometer」(Fringe 2005,Springer Berlin Heidelberg(2006年))およびV.Gruev,R.Perkins,and T.Yorkによる「CCD polarization imaging sensor with aluminum nanowire optical filters」(Opt.Express 18,p.19087−94(2011年))を参照されたい。
そのような技法は、3D用途において、入射光の偏光測定を測定するために、偏光グリッドを利用することができ、かつ利用しているが、これらの以前の労力は全て、表面位置の相対測定のみを行う。対照的に、本明細書に開示される新しい方法およびシステムは、変調器と組み合わせられた偏光グリッドを利用し、放出および反射された光の飛行時間を測定し、結像されている表面の絶対位置を導出する。
Yafusoの米国特許第7,301,138号(特許文献1)は、Pockelsセルと組み合わせられた単一センサアレイの使用のアプローチを説明する。このアプローチは、Wollastonプリズムおよび一連の光学レンズを使用して、偏光要素を距離に伴って分離される2つの光学経路に分割する。このアプローチは、さらなる光学をシステムに追加し、コストならびにサイズおよび重量を増加させるより複雑な光学設計をもたらす。単一センサアレイ上で作成された画像は、異なる画像であり、本質的に、2つの独立センサアレイを単一アレイから作成する。これらの2つの画像は、2つの別個のセンサアレイが使用されているかのように、較正および位置合わせされなければならない。センサアレイの整列は、排除されるが、2つの偏光状態のための別個の光学経路は、各状態が独特の歪を受けることを意味し、それは、本質的に、2つのセンサアレイが使用されているかのように、同等補償、位置合わせ、および較正を要求する。
そのうちのいくつかが上で説明される3D結像の公知の技法は、いくつかの用途のためにそれらを非実践的または非好適にする深刻な限界を有する。したがって、改良された3D結像技法の必要がある。
前述の欠点に対処するために、本明細書に開示される技法は、改良された3D結像システムを提供する。システムは、時間の関数として光パルスの戻り部分を変調するように構成されている光学変調器を含む。同様にシステム内に含まれる光学要素のアレイは、光パルスの変調された戻り部分を受け取ることができる。アレイの光学要素のうちの少なくとも1つは、光学要素のうちの別のものの第2の光学透過状態と異なる第1の光学透過状態を有する。光学要素のアレイに対応するピクセルのセンサアレイは、システム内に位置付けられ、光出力を光学要素のアレイから受け取る。
開示される技法の別の側面によると、3D結像の方法は、場面を光パルスで照明することと、光パルスの戻り部分を変調することと、光パルスの変調された戻り部分を光学要素のアレイに通すこととを含む。光学要素のうちの少なくとも1つは、光学要素のうちの別のものの第2の光学透過状態と異なる第1の光学透過状態を有する。ピクセルのセンサアレイは、光出力を光学要素のアレイから受け取る。場面に関する3D情報が、光学要素のアレイに通された光パルスの変調された戻り部分に応答してセンサアレイによって生産された信号に基づいて、生成される。
前述の概要は、添付の請求項の限界を定義するものではない。他の側面、特徴、および利点も、以下の図および発明を実施するための形態の検証に応じて、当業者に明白である、または明白となるであろう。全てのそのような追加の特徴、側面、および利点は、本説明に含まれ、付随の請求項によって保護されることが意図される。
図面は、例証目的のためだけのものであり、添付の請求項の限界を定義するものではないことを理解されたい。さらに、図内のコンポーネントは、必ずしも、正確な縮尺ではない。図では、同様の参照番号は、異なる図全体を通して対応する部分を指定する。
図面を参照し、それを組み込む以下の発明を実施するための形態は、1つ以上の具体的3D結像システムおよび方法を説明および図示する。限定するのではなく、方法およびシステムを例示および教示するためだけに供給されるこれらの構成は、当業者が技法を実践することを可能にするために十分な詳細で図示および説明される。したがって、必要に応じて、システムおよび方法を曖昧にすることを回避するために、説明は、当業者に公知のある情報を省略し得る。本明細書の開示は、例であり、本願に基づいて最終的に与えられ得る任意の特許請求項の範囲を限定するものとして過度に読まれるべきではない。
単語「例示的」は、本願全体を通して使用され、「例、事例、または例証としての役割を果たす」ことを意味する。任意のシステム、「例示的」として本明細書に説明される方法、デバイス、技法、カメラ特徴等は、必ずしも、他の特徴より好ましいまたは有利であるものとして解釈されるものではない。
概して、本明細書に開示される技法は、光学要素のグリッドを、結像センサアレイ(例えば、焦点面アレイ(FPA))の検出表面のピクセル要素の正面に、その正面表面上に、またはそのスタック内に設置することである。これらの要素は、信号を異なる変調状態(変調/非変調状態を含む)から区別するために使用されることができ、基本変調技法に基づいて設計される。例えば、そのような要素は、Fabry−Perotキャビティおよび他の位相変調のために透過要素の偏光変化またはパターンをもたらす、位相変調のための偏光要素のパターンを使用し得る。そのような要素は、1つ以上の方法において設計され、組み合わせられ、偏光透過、スペクトル透過、位相透過、強度透過、または光の類似性質における変動を含む、システムの状態を区別することができる。
コンパクト3Dカメラシステムは、2013年6月25日に発行された米国特許第8,471,895B2号(本明細書に完全に記載される場合と同様に、参照することによってその全体として組み込まれる)(本明細書では、「第’895号特許」と称される)に説明される変調されたセンサアプローチの要素を、偏光または透過グリッドアレイと統合することによって達成され得る。本明細書に説明される方法およびシステムを実装するように修正され得る3D結像システムおよび方法の例は、第’895号特許では、例えば、第’895号明細書内の図1−12およびその付随の記述説明に開示される。第’895号特許のそれらの部分は、本願に開示される方法を行い、偏光または透過グリッドアレイを含むように構成されることができる3D結像システムを説明し、参照することによって具体的に本明細書に組み込まれる。
加えて、または代替として、2015年4月27日に出願され、「Method and System for Robust and Extended Illumination Waveforms for Depth Sensing in 3D Imaging」と題された米国特許出願第14/696,793号(本願の主題は、本明細書に完全に記載される場合と同様に、参照することによって全体として明示的に本明細書に組み込まれる)に説明されるパルス光源および方法が、本明細書に開示されるシステムおよび方法と共に使用され得る。
本明細書に開示されるように、いくつかの要素は、別個または組み合わせてのいずれかにおいて、よりコンパクトなモノリシック設計の能力を提供する。各光に敏感なピクセルの背面に複雑な回路およびタイミングアルゴリズムを設置する代わりに、本発明の技法は、各ピクセル、またはピクセルもしくは光に敏感な要素のアレイの正面に必要とされる時間依存要素を設置する。各ピクセルにおける電圧または電荷信号に影響を及ぼす電子手段を使用する代わりに、本発明の技法は、光場に影響を及ぼす光学、電気光学、または他の手段を各ピクセルまたはピクセルのグループの正面で使用し、光子信号に影響を及ぼす。これらの光学手段は、センサアレイに近接近して、センサアレイと対応する光学要素との間に、またはそのような光学要素の正面に設置され、飛行時間情報を含む入射光場からの時間または深度(例えば、z−軸距離)情報の抽出を可能にし得る。
距離情報をエンコードするための第’895号特許に説明される変調器の使用(センサアレイの外部で)(具体的には、第’895号特許に開示される変調器524、700−701、1124、1224、本説明は、参照することによって具体的に本明細書に組み込まれる)は、コストがかかるカスタムセンサアレイまたはチップ開発の必要性、特に、約200ピクセルに限定されている、高精度タイミング情報を提供することができる、チップのスケーリングの課題を排除する。変調器アプローチをセンサアレイに結合および整列させられる偏光グリッドと組み合わせることは、2つの別個のセンサアレイと偏光ビームスプリッタ等の嵩張る偏光コンポーネントとを有すべき必要性を排除する。単一センサアレイの場合、2つの仮想アレイ間に整列および位置合わせがある。各偏光ピクセルの場所は、定位置における直交偏光のピクセルおよび任意の面法線の角度に対して自動的に把握される。これは、製造および較正複雑性を低減させる。
偏光グリッドの使用は、偏光分離要素のために使用されるガラスまたは他の材料の厚さを大幅に低減させ、それは、球面および他の光学収差の量を低減させる。従来のシステムでは、これらの収差は、3Dカメラの光学システムの光学性能を劣化させるか、または光学システムは、カスタム設計と適合され、そのような収差を除去または補償しなければならないかのいずれかである。本明細書に開示される技法を用いることで、光学要素のために要求される収差補償の量は、低減または排除される。
加えて、偏光グリッドの使用は、変調器/偏光分離/センサアレイを緊密に結合された、またはモノリシックの光学アセンブリの中に作製し、直接、既製の光学レンズまたは結像要素と共に使用され得る可能性を広げる。ウエハスケール製造等のいくつかの状況では、レンズまたは中継光学は、光学変調器とセンサアレイ/偏光グリッドとの間に設置される必要がないであろう。これは、3Dカメラシステムのサイズおよびコストを低減させることができる。
3Dカメラによって生産および処理されるデータストリームは、1つのみのセンサアレイが存在し、他のセンサアレイとタイミング調整する必要がないので、より単純となる。第’895号特許に説明されるように、例えば、図10を参照して第’895号特許(第’895号特許のその部分は、本明細書に完全に記載される場合と同様に、参照することによって具体的に組み込まれる)に説明されるように、複数の3Dカメラまたはモジュールを一緒に組み合わせる(例えば、達成可能測距分解能を悪化させずに、異なる範囲窓および範囲窓を拡張するための変調波形を使用する)こともより単純となる。
図1に示されるように、電気光学モジュール21は、偏光要素のグリッド18を含み、偏光要素のグリッド18は、電荷結合デバイス(CCD)またはピクセルの相補的金属酸化物半導体(CMOS)アレイ等の結像センサ20の正面に、またはおそらくその表面上に設置される。いくつかの構成では、偏光グリッド層18は、リソグラフィ処理における追加のステップを使用して、センサアレイ20の表面上に直接設置されることができる。その他では、グリッド層18は、透明基板上に設置されることができ、それは、次いで、センサアレイ上、またはその正面に設置される。他の構成では、偏光グリッド18は、センサアレイの検出器または電子機器の場所より上にある層内に設置されることができる。偏光グリッド18は、各偏光要素19の中心が各ピクセル22の中心とほぼ一致して位置付けられるように整列させられる。いくつかの構成のために、グリッド18は、交互する偏光要素が直交偏光を通すように配置される。例えば、第1の偏光要素が、垂直偏光を通すように向けられる場合、行または列内の次の要素は、水平偏光を通すように向けられる。直線偏光要素の代わりに、左回りおよび右回りの両方の直交円偏光要素も、使用されることができる。他の構成は、非直交偏光を通す要素を含む他のパターンの偏光要素を使用し得る。
任意の好適な製造技法が、偏光器要素アレイを構築するために採用され得る。例えば、偏光要素18は、金属ワイヤグリッド偏光器、薄膜偏光層、応力ポリマー、および液晶デバイスから作製される要素を含む、種々の技法、ならびに特定の偏光状態をその他よりも優先的に通す任意の他の技法を使用して作製されることができる。ある場合、偏光要素は、各パルス間またはパルス中のいずれかにおいて、いくつかの制御信号を用いて変化させられることができる材料から作製されることができる。そのような要素は、フィルム堆積技法を使用する種々の方法によって堆積されることができる。いくつかは、散在暴露(複数のビームまたは波長によってを含む)、エッチング、および堆積ステップ等のリソグラフィ技法によって作成されることができる。他のそのような要素は、ポリマー等の材料を引き伸ばすこと、または別様に応力を加えることによって作成されることができる。いくつかの要素は、適切な間隔または寸法の形状および構造の電子ビームまたはレーザ書き込みによって作成されることができる。
いくつかの構成のために、波長に敏感ではない要素が、複数の照明波長または広帯域照明と共に3D結像をサポートするために使用されることができる。他の構成では、狭容認帯域幅を伴う要素が、光の所望の波長と所望しない波長との間でより効果的に判別するための偏光要素として使用されることができる。
リソグラフィ製作プロセスを使用することによって、任意の偏光器グリッドとセンサアレイとの不整列および非均一間隔、非理想的偏光器性能、ならびにピクセル間のクロストークは、低減させられることができる。偏光器グリッドおよびセンサアレイは両方とも、リソグラフィプロセスを使用して製作されることができるので、間隔の均一性は、マスク設計によって決定され、マスク設計は、通常、ナノメートルレベルまで正確である。整列基準が、2つのグリッドを整列させるために使用されることができ、リソグラフィ精度は、グリッド要素のピッチを正確に合致させることを可能にする。
非理想的偏光器性能は、出力光の最小値と最大値との場所シフトをもたらすであろう。この非理想的挙動は、種々の時間における応答の較正によって対処されることができる。同様に、不完全な偏光コントラスト(透過される偏光の透過と拒絶される偏光の透過との間の比率)は、適切なシステム較正によって管理されることができる。例えば、約5:1、10:1、またはより高い偏光コントラストは、容認可能性能を伴って使用されることができる。
ピクセルクロストークの場合、すなわち、偏光器要素に対応するもの以外のピクセルに到達する1つの偏光器要素上に入射する光または信号も、較正によって考慮されることができる。異なる較正は、短または長時間スケールにわたって生じ得る、クロストークにおける任意の変化を考慮するために行われることができる。そのような較正は、1回行われることができる、または数回もしくは3Dカメラの動作中に行われ得る。そのような較正は、ルックアップテーブル(LUT)または他の機能もしくは形態を使用して実装されることができる。
ある影響は、例えば、集光光学のF値を変化させることによる、入射光の角度コンテンツが変化するにつれた性能変化であり得る。より高いF値光学が、クロストークを低減させるために使用され得る。
いくつかの構成は、不透明セパレータバンドまたは構造をピクセル間に使用するように偏光グリッドを構築することによって、クロストークを低減させ得る。そのようなバンドまたは構造は、1つのピクセル位置から近隣ピクセル位置またはピクセルに交差できる光の量を低減させる。いくつかの構成では、そのようなバンドまたは構造は、全体的有効透過効率も低減させ得る。他の構造も(基板の両側の構造を含む)、クロストークを低減させるために実装されることができる。例えば、不透明または反射構造が、ピクセル間の空間内に作成されることができ、それは、グリッド要素を通して伝送される光が近隣ピクセルの検出器に伝送されることを遮断するであろう。そのような構造またはバンドは、偏光器アレイの正面、偏光器アレイの背面、センサアレイの層内、またはセンサアレイのフォトサイトの周囲、ならびに偏光器アレイ自体内に設置され得る。いくつかの構成では、偏光状態間の保護ピクセルが、使用され得、そこでは、信号は、無視される。例えば、センサアレイピクセルサイズが、小さい、例えば、3ミクロンである場合、偏光器要素は、9ミクロン幅であり、保護ピクセルを覆う3ミクロンセパレータを伴い得る。代替として、保護ピクセルは、特殊分離が要素間のグリッド構造上に存在しない状態で使用され得る。
いくつかの構成のために、偏光器アレイの要素のいくつかは、全く偏光性質を有しないか、または低減させられた偏光性質を有し、正規化信号を決定するためのバイアスを形成し得る。グリッドにおける偏光要素と非偏光要素との任意の好適な配置が、用途およびシステム設計に応じて使用されることができる。これらの非偏光要素は、複数の波長に対して透過においてほぼ均一であることができるか、または、それらは、IRまたはサーマルカメラもしくは他の波長もしくは波長領域における他の配置に対してカラーカメラまたは異なるフィルタのためにBayerパターンと同様に変動することができる。例えば、それらは、光に不透明または低透過であり得る。
いくつかの配置では、偏光器グリッド要素は、センサアレイの単一ピクセルより大きく、例えば、2×2、3×3、4×4、または他の倍数であることができる。要素は、例えば、2×1、3×2、または他の倍数もしくは縦横比に対する長方形、または、非長方形形状である任意の他の配置であることもできる。グリッド要素が、1つのピクセルより大きい場合、透過要素は、波長、角度または他の類似光学性質に基づいて異なる量を透過させる個々のエリアにさらに分割され得る。
処理ソフトウェアにおいて、センサアレイ20内のピクセルから検出された信号は、ビン処理または別様に処理されることにより、測定のロバスト性を改良すること、雑音もしくは他の有害な影響に対する感度を低減させること、または別様に個々の測定の信号対雑音比を改良することができる。異なる要素または異なるタイプの要素からの値は、所望のアルゴリズム実装および結果に応じて、多くの方法で組み合わせられることができる。
代替として、偏光変調が使用されないFabry−Perotキャビティまたは他の位相ベースの変調スキーム等の他の変調スキームのために、要素のアレイが偏光要素の代わりに採用されることができ、要素のアレイは、上で説明されるものと同様に、いくつかのパターンにおいて、要素間で透過において変動する。いくつかの要素は、Fabry−Perotキャビティのために必要とされる精細度を提供し得る比較的に低透過であることができる一方、いくつかの要素は、比較的に高透過であることができる。高透過要素(Fabry Perotキャビティの他側で高透過要素と結合される)は、基礎特許に説明されるように、相対変調信号の決定のために、より低い透過要素に対して信号を補間することを含む非変調基準信号を決定するために使用されることができる。これらのピクセルの配置は、以下により詳細に説明されるように、種々の方法でグループ化されることができる。
他の構成のために、センサアレイ内の個々のピクセル、列、行、またはピクセルのグループの他の配置の利得は、異なる値に調節または設定され、強い信号が存在する要素のグループ間のコントラストを低減させるか、またはより低い信号が存在するピクセルまたはピクセルのグループ間のコントラストを増加させ、それによって、センサまたは3Dカメラのダイナミックレンジを増加させることができる。いくつかの構成は、ピクセルまたはピクセルのグループの正面における透過を変化させる追加のフィルタを利用し得る。例えば、BayerパターンRGBフィルタまたは異なる透過性質の他のパターンが、使用され得る。そのようなフィルタ要素は、複数の波長の光が、3Dカメラのための場面を照明するか、または特定の背景もしくは周囲照明を取得するかのいずれかのために使用される場合にも使用され得る。
(偏光アレイ)
偏光状態を分離するためにいくつかの3Dカメラにおいて以前に使用されていた嵩張る光学を排除する改良された方法は、偏光要素をセンサアレイの各ピクセルの正面に設置することである。そのようなマイクログリッド偏光アレイは、絶対または相対飛行時間を測定するために使用されることができる。絶対距離測定は、特に、複数のオブジェクトまたは表面が場面内に存在し、それらが接続されないか、または、接続がカメラから見えない場合、とりわけ、誤差蓄積を低減させるために、3Dカメラ内で使用されることができる。
図1は、例示的3Dカメラ10の簡略化された斜視概念図であり、変調器14と、偏光グリッドアレイ14とを採用し、それらは、入射光16を受光レンズ12を通して受け取る。本開示のために、レーザ照明(入射光)16は、レンズ12によって、偏光器アレイ18を通してカメラセンサアレイ20上に結像され、偏光器アレイ18は、図1に示されるような偏光方向または透過パラメータのパターンを有する。例えば、図は、各ピクセル22の正面にあるように配置されるアレイ18内の交互する水平および垂直直線偏光器を示すが、他の配置および/または円もしくは楕円偏光も、使用されることができる。
図1に示されるように、カメラ10は、光源25から放出される照明光を散乱または反射させるオブジェクト17を有する場面15から、3D情報を捕捉し、画像またはビデオも捕捉し得る。光源25は、第’895号特許に説明されるように、照明サブシステムとしてカメラ10と統合され得るか、または代替として、カメラ10から分離され得る。光源25は、第’895号特許に説明されるものを含む、場面15を照明するための任意の好適な手段であり得る。
図1では、分離された要素を有するように示されるが、カメラシステム10のいくつかの構成では、電気光学モジュール21は、光学変調器14と、グリッド18と、センサアレイ20と、単一ユニットとして一緒に一体的に形成される変調器14の前の光学経路内に位置する随意の偏光器(図示せず)とを含み得る。電気光学モジュール21のこの高度に統合された構成は、本明細書に説明されるリソグラフィ、エッチング、および堆積技法を使用して構築され得る。
例示的偏光器アレイ30配置が、図2A−Bにより詳細に示されており、Sは、垂直直線偏光器32を示し、Pは、水平直線偏光器34を示す。(他の配置も、使用されることができ、SおよびPは、任意の2つの異なる偏光であるか、または非偏光器を表すことができる。)アレイ30は、図1では、アレイ18として使用されることができる。アレイ30は、ガラス基板上に別個に製造され、次いで、各マイクロ偏光器が、図1に示されるように、その中心が下にあるピクセルの中心とほぼ一致するよう位置付けられるように、標準的整列技法を使用して、整列させられ、設置されることができる。
代替として、偏光器30のグリッドは、標準的リソグラフィ技法を使用して、パッシベーション層等、直接、センサアレイ表面上に作成されることができる。例えば、アルミニウム等の金属層が、表面上に堆積され、その後、フォトレジスト層が堆積され、適切なマスクを伴うフォトレジストを露出し、金属層のいくつかを優先的に除去するために露出されたフォトレジストおよび金属をエッチングし、次いで、残っているフォトレジストを除去し、所望の金属構造を残すことができる。これらの金属層は、必要に応じて、ある場合、<1μm厚、または<5μm厚、もしくは他の厚さであることができる。直接、センサ表面の中に、またはパッシベーション層等のセンサ表面の上方に堆積された層の中に、構造をエッチングすることを含む他の材料または技法も、偏光効果を作成するために使用されることができる。そのような材料または技法の例は、応力ポリマーまたは他の薄膜偏光層をグリッドパターン内に堆積もしくは配置することである。液晶デバイスもしくは構造も、堆積されることができ、いくつかは、電気的に誘発されるパターン化を伴う。その他では、電子ビームまたはレーザ書き込み等の直接エッチング技法が、パターン化された構造を作成するために使用されることができる。そのような層は、単一ステップもしくは複数のステップまたは複数の層もしくは材料および技法の組み合わせにおいて作成され得る。これらの技法および類似技法の実践者に公知のその他は、パターン化された偏光要素を作成するために使用されることができる。
偏光要素アレイ30は、図5−7の例に示されるようなセンサアレイの上部の層のスタック内のいくつかの層のいずれかに設置され得る。偏光要素をセンサ自体(または付随の層)上に作成するための説明される堆積方法は、偏光要素をセンサアレイの正面に設置される別個の透明または半透明基板(図5の層64、図6の層84、および図7の層104)上に作成するために使用されることもできる。そのような別個の基板または統合された層は、透過を最大化するために、または迷光を最小化するために塗布される反射防止コーティングも有し得る。偏光状態間の区別を提供する任意の好適な技法が、本明細書に開示される方法およびシステムのために使用されることができる。いくつかの技法は、>500:1、いくつかの技法は、>100:1、いくつかの技法は、>50:1、およびいくつかの技法は、>10:1の所望の偏光状態と所望しない偏光状態との間のコントラスト(または比率)を提供する。
図2A−Bに図示されるように、偏光要素32、34とほぼ同一サイズのピクセルに対して、(1,1)位置におけるピクセルは、垂直に偏光されるピクセル(1,1)に入射する光子束の成分に主に基づく応答を提供する。(1,2)位置におけるピクセルは、交互する偏光のピクセル(1,2)に入射する光子束の成分に実質的に比例する応答レベルを提供する。これは、センサ全体にわたり各ピクセルに対して同様に続く。代替として、主偏光軸は、任意の角度で傾けられることができる。いくつかの構成に対して、交互の偏光器の主軸は、直交する。他の構成のために、主軸は、直交しないこともある。例えば、垂直偏光器は、第2の偏光器タイプと組み合わせられ得、偏光軸は、第1の偏光器に対して45°角度を形成する。他の構成は、3つ以上の偏光器タイプを使用し、3つ、4つ、またはそれを上回る偏光器タイプを使用し得る。例えば、3つの偏光器タイプの組み合わせは、垂直に対して0°、45°、および90°、または、0°、30°、および60°、または、他の向きの組み合わせの角度を形成する偏光要素を有し得る。他の構成では、これらの角度は、水平または任意の他の方向に対して参照され得る。これらが配置されるパターンは、図2A−Bに示される格子模様パターンで変動することもできる。例えば、S要素は、それぞれ、行または列全体のいずれか上に配置されることができ、P要素は、交互する行または列のいずれか上に配置されることができる。いくつかの構成では、ある偏光器タイプが、別のタイプものまたはその他のタイプものより多く存在し得る。
他の構成では、偏光要素は、一緒にグループ化された2つ以上のピクセルのサイズであるようにサイズを決定されることができる(例は、図6に示される)。例えば、偏光要素は、ピクセルサイズまたはピクセルピッチが5.5μm(2×2ピクセルグループ化)である場合、11μm×11μmであることができる。そのようなピクセルグループ化は、3×3、1×2、3×4、または任意の他の数もしくは配置等、他の好適な数のピクセルを備え得る。任意の他の好適なピクセルサイズまたはピッチが、本明細書に説明されるアレイ内で使用されることができ、例えば、3μmまたは7μmもしくは15μmである。ピクセルサイズまたはピッチは、非規則的であり得るか、または全てのピクセルが、同一サイズであり得る。いくつかの構成のために、偏光要素は、ピクセル境界に整列させられるか、または各偏光要素の重心は、対応するピクセルの重心に整列させられることができる。他の構成では、要素の少なくともいくつかは、フーリエ変換技法および信号処理または他の処理アルゴリズムを使用して査定され得るいくつかのパターンで不整列にされ得る。
代替として、各ピクセルのための直線偏光構造の代わりに、図4の円偏光構造50が、上で説明されるように偏光状態を区別するために使用されることができる。例えば、直線偏光の代わりに、図2A−BにおけるS要素32は、代わりに、図4に示されるように、右円偏光要素52であることができ、P要素34は、左円偏光要素54であることができる。任意のタイプの偏光構造または組み合わせの構造が、直交偏光向きを伴う対の要素を含め、開示されるカメラシステム内で使用されることができる。いくつかの構成では、偏光要素は、楕円偏光であり得る。
偏光グリッドアレイ50のための別の潜在的配置は、図3に図示されており、ピクセル42のいくつかは、全く偏光構造ではなく、代わりに、全ての偏光を透過させる。この図では、非標識要素42は、偏光要素を有しておらず、他の要素SおよびP44、46は、上記の通りである。非偏光要素42は全て、同一または類似透過性質を有し得、例えば、ほぼ100%の光を透過する。代替として、非偏光要素は、90%未満の入射光または50%未満もしくは10%未満の入射光または任意の他の透過パーセンテージを透過させ得る。透過パーセンテージは、透過要素の全てが同一透過パーセンテージを有していないように、高ダイナミックレンジ(HDR)結像または他の強度依存結像技法において使用するためにパターン化され得る。他の構成では、偏光要素は、対応する偏光状態のための異なる透過値を有し得るか、または異なる透過性質を伴う要素が、偏光要素と組み合わせられ得る。
非偏光要素は、さらに、カラーフィルタとして、またはBayerパターンに類似する色もしくは波長に依存する透過パーセンテージを伴って配置され得る。この場合、偏光要素も、全てが同一タイプ(全てSまたは全てPのいずれか)であるか、または偏光タイプの任意の他の混合であり得る。カラーフィルタのグリッドは、カラーカメラを作成するために使用され得る。これらのカメラのために、色情報は、センサアレイの直接正面に、あるパターンで設置されるマイクロカラーフィルタのアレイを使用して集められる。最も一般的パターンは、Bayerの米国特許第3,971,065号に説明されるように、Bayerパターンとして知られ、フィルタアレイは、Bayerフィルタとして知られ、それは、本明細書に開示される要素アレイと共に使用され得る。ある割合のピクセルが、各波長帯(赤色、緑色、および青色)における入射光をモノクロ信号として検出する。色画像が、次いで、デモザイク処理として知られるプロセスを使用して生成され、測定された値および較正された応答曲線を使用して、他のピクセルにおけるR、G、およびB応答を計算し、次いで、色値を混合し、JPG等のカラーデジタル画像フォーマットで記録されるR、G、およびB値を生産する。これらのカラーフィルタグリッドは、入射光の色情報を記録するために使用され得る。
深度情報(z−次元情報)を得るために計算される比率を正規化するために使用される正規化画像は、その関連付けられた偏光状態の強度を決定するためのピクセルの応答を、反対偏光状態の強度を決定するために使用される周囲ピクセルの応答と組み合わせて使用して計算されことができる。これは、周囲ピクセルの値のいくつかの組み合わせを使用して、直交偏光状態の強度の各ピクセルに対して値を補間することによって遂行され得る。この情報に基づく深度座標(z−座標)の決定は、簡単化される。それが、単一アレイ内の値のみを使用し、値が、アレイ内での既知の関係および位置を有するからである。
図2A−Bに図示される各ピクセルのための2つの偏光状態の相対強度は、偏光要素偏光状態の測定された値と、他の状態の補間された値とを使用することによって決定されることができる。単一センサアレイを使用して距離を得るために、各ピクセルのための正規化され、組み合わせられた戻りが、Bayerフィルタベースのカラーデジタルカメラにおいて使用されるものと類似方式において、近隣ピクセルに基づいて計算または補間され得る。例えば、図2A−Bに図示されるような要素30のアレイでは、Sは、垂直偏光器をピクセルの正面に有し、Pは、水平偏光要素をピクセルの正面に有する。他の偏光状態のいずれも透過させない理想的偏光器を仮定して、正規化分母が、例えば、最近傍アルゴリズムを使用することによって、ピクセル(2,2)に対して計算されるであろう。
同様に、周囲Sピクセルの平均を使用して、Pピクセルに対しても計算されるであろう。大部分の画像およびオブジェクトは、各ピクセルに対して著しく変化しないので、このタイプのデモザイク処理は、ロバストであり得る。代替として、バイリニア、バイキュービック、または画像デモザイク処理のために使用される他のアルゴリズム等の他のアルゴリズムも、適用されることができる。補間は、ピクセル測定自体ではなく、正規化分母に適用される。単一センサアレイからのこのインタリーブされたピクセルは、第’895号特許の図5に示されるように、2つの別個のセンサアレイと組み合わせられる偏光ビームスプリッタプリズム等の嵩張る偏光分離光学を使用するときに誤位置合わせによって生じ得る光学歪を低減させることができる。各ピクセル位置に対する3D距離情報(z−軸情報)は、第’895号特許に説明されるように抽出される。上で説明されるデモザイク処理の一部として、光学およびソフトウェアフィルタが、存在するエイリアシングの量を変化させるために適用されることができる。偏光要素アレイは、アンチエイリアシングフィルタとして使用され得るか、またはホログラフィック要素もしくは他の構造等の他のアンチエイリアシングフィルタと統合されることができる。
開示されるカメラシステム10は、非理想的偏光状態の場合、または戻り光の入射の角度への光学性能(偏光または透過のいずれか)の任意の依存性が存在する場合にも、性能を発揮し得る。いくつかの構成では、測定された性能は、ほぼ理想的性能と関係づけられるか、またはそれに対して補正されることができる。結像センサアレイまたは偏光もしくは透過要素のいずれかのオフセットおよび非線形応答は、較正ステップを使用して決定されたパラメータを使用して、補正されることができる。
いくつかの構成では、偏光グリッド(非偏光要素を伴うグリッドを含む)の位置は、ある割合のピクセルまでピクセル位置に整列させられることができる。割合は、<0.1ピクセル、<0.2ピクセル、<0.5ピクセル、または他の割合であることができる。これらの影響に加え、開示される単一センサ3Dカメラの性能に影響を及ぼし得る非理想的特性は、偏光器グリッドとセンサアレイとの誤整列および非均一間隔、非理想的(例えば、低コントラスト)偏光器性能、ならびにピクセル間のクロストークであり得る。偏光器グリッドおよびセンサアレイは両方とも、リソグラフィプロセスを使用して製作され得るので、間隔の均一性は、ナノメートルレベルまで正確であり得るマスク設計によって決定されることができる。整列基準が、2つのグリッドを整列させるために使用されることができ、リソグラフィ精度は、グリッド要素のピッチを正確に合致させることを可能にする。非理想的偏光器性能は、変調波形にわたって相対応答信号の最小値と最大値のシフトをもたらすであろう。この非理想的挙動は、種々の時間および異なる条件における応答の較正または特徴づけによって対処されることができる。いくつかの構成では、材料は、異なる温度、湿度、振動、または他の環境要因にわたるピクセルに対する偏光器要素の相対移動を最小限にまたは防止するために選定され得る。いくつかのシステムのために、偏光コントラストは、100:1を上回り、いくつかのシステムのために、>50:1、いくつかのシステムのために、>20:1、いくつかのシステムのために、>10:1、または用途に適切な他のコントラスト比率であることができる。
ある影響は、偏光要素を通過する光が近隣ピクセルに到達するピクセルクロストークであり得る。ピクセル間の不透明セパレータバンドまたは保護バンドが、可能なクロストークを低減させるために使用されることができる。いくつかの構成では、そのようなセパレータバンドは、図5における統合された偏光アレイおよびセンサシステム60の側面図断面に図示されるように、偏光要素70間の不透明または半不透明領域72として設置されることができる。アレイ構造60は、偏光要素アレイ層62と、1つ以上の透明層64と、センサ基板層66とを含み、センサ基板層66は、基板74、センサピクセル69、および電子または金属化層68を含む。
セパレータバンド72は、図5に示される。そのような不透明領域は、リソグラフィマスク設計の一部であることができるか、またはBayerフィルタ等のカラーフィルタのための加工プロセスに類似するドープ領域または光学吸収領域であることができる。そのようなセパレータバンドは、反射層または他の技法から作製され、波長または入射角度に基づく透過を含む透過を低減させることができる。セパレータバンド不透明領域72は、例えば、アルミニウムのような金属、またはフォトレジスト、またはポリマー、または多結晶性シリコンもしくは他のタイプの半導体材料のような半導体材料等の別の材料の任意の好適な材料であることができる。例えば、FPAから10μm間隔を置かれるマイクロ偏光器間の1μm幅保護バンドのために、入射角度>6°(<f/5に匹敵する)が、いくつかのFPAマイクロレンズ設計のための隣接するピクセルに到達し得る。いくつかの構成は、設計に応じて、2μmまたはより広いもの等のより厚い分離バンドを利用し、クロストークをさらに低減させ得る。
図6に図示される統合された偏光器センサアレイ80等の他の構成では、セパレータ保護バンド92は、それらが、かなりの割合のピクセル89を遮断するように、ピクセルピッチとほぼ同じ幅でまたはより広く作製される。アレイ構造80は、偏光要素アレイ層82と、1つ以上の透明層84と、センサ基板層86とを含み、センサ基板層86は、基板94、センサピクセル89、および電子または金属化層88を含む。
図6は、2ピクセル幅(例えば、2×1または2×2または2×3もしく他の2D配置)である偏光要素90を使用し、保護バンド(G)92が、第3のピクセル89を覆う設計を図示する。この構成では、保護バンド92は、設計に応じて、不透明、反射、半透明、または透明、もしくはいくつかの組み合わせであり、クロストークを低減させることができる。保護バンド92は、製作コストを低減させるために、または他の設計目的のために、偏光要素グリッド全体にわたり変動することを可能にされ得る。そのような保護バンド92は、上で説明される種々の配置の偏光要素と組み合わせられることができる。ピクセル間の光クロストークの防止に加え、他の構成が、決定的かつ一定であるか、または一部もしくは全部の結像パラメータに対して特徴づけされることができる限り、較正によって、ピクセルクロストークに対処することができる。ピクセルクロストークが、低減させられなければならない場合、より広い保護バンドが、規定されることができるか、マイクロレンズおよび/または保護バンドの組み合わせが設計に追加されることができるか、または、保護ピクセルが使用されることができる。任意の設計において、マイクロレンズアレイは、必要に応じて、ピクセル化偏光器または透過グリッド構造の正面もしくは背面に設置されることができる。
他の構成では、不透明または反射構造は、セパレータバンドまたは保護バンド112として、ピクセル検出器層106の正面における透明層104のスタック内に含まれ、他のピクセルに到達し得る、クロストーク光の量を低減させることができる。この構成の例は、図7の統合されたアレイ100に示される。アレイ構造100は、偏光要素アレイ層102と、1つ以上の透明層104と、センサ基板層106とを含み、センサ基板層106は、基板114、センサピクセル109、および電子または金属化層108を含む。図7は、1つの偏光要素110に入射する光が近隣ピクセルに到達することを防止するためのピクセル109間の垂直壁112としての不透明構造の例示的設置を示す。そのような構造112は、偏光要素グリッド構造層102に到達することができるか、または構造は、着目設計のための必要に応じて、センサ層106と構造102との間の高さの>90%、もしくは>75%、もしくは>50%、もしくは他の量にしか到達しないこともある。いくつかの構成では、これらの構造112は、上部(センサから最も遠い)でより狭く、底部でより広くなるように成形されることができる。他の構成は、構造112を上部でより広くすること、または完全に垂直にすることによって、クロストークに影響を及ぼすことができる。センサ109設計自体および金属化層108も、類似方式で成形されるか、または隣接するセンサピクセル109に到達し得る光の量を低減させるようにより高くされることができる。他の構成は、散乱される光を低減させるための吸収材料または光を他のピクセルから離れるように向かわせるための他の構造を利用することができる。他の構成では、構造112は、半不透明または半反射性であることができる。
(透過ベースのアレイ)
他の構成では、2つ以上の状態間の区別が、上で説明されるもの等の偏光変動ではなく、他の透過変動を介して行われることができる。例えば、可変Fabry−Perotエタロンが、使用され、偏光状態に対する第’895号特許のそれに類似するいくつかの制御手段によって、透過を変動させることができる。例えば、Fabry−Perotキャビティ内の位相が、電圧を電気光学材料に印加することによって、電圧を圧電材料に印加することによって、電圧を液晶に印加することによって、またはある他の類似手段によって、変動させられることができる。そのような場合、結像センサのピクセルは、図3における例証と同様に、異なるグループに分割されることができる。図2AにおけるSによって示されるもの等の1つのグループのピクセルは、好適な反射率Rの反射コーティングを有し、Fabry−Perotエタロンの所望の精細度を達成することができる。図2AにおけるPによって示されるもの等の別のグループのピクセルは、100%、または>99%、または>95%、または>90%、または>80%もしくは他の所望の透過等、異なる透過レベルを有する反射または反射防止コーティングを有することができる。これらの高透過ピクセルは、方程式(1)を使用して計算される分母として使用され得る信号値を提供し、Sピクセルに関する値は、上で説明される方法と同様に、補間によって決定されることができる。
ピクセルのそのようなグループ化は、図2−7に図示されるようなアレイまたは望ましくあり得る他の配置であることができる。3つ以上のグループを伴う透過のより複雑なグループ化も、使用されることができる。反射コーティングは、直接、結像センサ上、例えば、センサアレイチップのパッシベーション層の上部に堆積され得る。代替として、そのようなコーティングは、結像センサアレイの正面に設置され得る追加の基板上に堆積されることができ、反射エリアは、結像センサのピクセルに整列させられる。他の構成は、センサを構成する層のスタック内に堆積されたそのようなコーティングを有し得る。これらのコーティングの堆積は、反射コーティングを作成するために公知の技法によって行われことができ、酸化物またはフッ化物等の透明材料を使用し得るか、もしくは他の類似材料またはコーティングは、金、銀、アルミニウム、半導体、もしくは他のそのような材料等の金属または他のより不透明もしくは半透明材料の薄いもしくは半透明の層から作製され得る。材料は、特定の着目波長において有利であるように選定されることができるか、または複数の波長もしくは広帯域照明との使用のために選定され得る。
この透過パターン化は、単一基板上で行われることができるか、または、それは、電場印加もしくは他の透過パターン化のためのコーティングのより広いスタックの一部であり得る。例えば、Fabry−Perot変調器のために、透過グリッドは、Fabry−Perotキャビティの両側を形成する要素上にパターン化されることができる。そのような設置は、システム設計要件に基づいて選択されることができる。
加えて、コーティングパターンまたはグループ化が、単一プロセスステップまたは複数の堆積およびエッチングステップのいずれかにおいて、均一厚を維持するための方法において適用され得る。
図8は、3D結像センサシステムまたはカメラ120の別の例を図式的に図示する。センサシステム120は、随意に、第’895号特許の図5(第’895号特許のその部分は、記載されるその全体として本明細書に記載される場合と同様に、参照することによって具体的に組み込まれる)に関連して図示および説明される可視結像サブシステム530を含み得る。サブシステム530は、明確にするために、図8から省略される。
システム120は、受光(Rx)レンズ121と、帯域通過フィルタ(BPF)122と、変調器124と、補償器(Cp.)125と、結像レンズ126と、FPA129とを含み、それぞれ、第’895号特許の図5に図示される対応するコンポーネントに関して説明されるものと同一であり得る(第’895号特許の図5要素のそのような説明は、本明細書に完全に記載される場合と同様に、参照することによって具体的に組み込まれる)。しかしながら、システム120は、例えば、図2−7を参照して本明細書に説明される、偏光アレイまたは透過ベースのアレイのいずれかであり得る要素アレイ128も含む。
いくつかの構成は、第’895号特許の図5に示される全てのカメラ要素を使用し得る。例えば、システム120は、変調器の前の任意の好適な位置(ここでは、帯域通過フィルタ122と変調器124との間)にある、ビームスプリッタ123を含むことができ、それは、受光された光の一部をFPA119に向かわせ、FPA119は、それに基づいて、場面の画像を得る。光の残りは、変調器124に伝送され、変調器124は、それを通して伝送される光を変調し、FPA129は、それに基づいて、場面の画像を得る。いくつかの構成では、FPA119およびFPA129によって得られる画像は、前者が非変調光に基づき、後者が変調光に基づくという点において異なり得る。FPA119によって得られる画像は、FPA129によって得られる画像を正規化するために使用され得る。具体的には、FPA119の任意のピクセル(i,j)における強度は、方程式(8)−(15)を参照して第’895号特許に議論される距離計算における値Itotal,i,jとして使用され得る(その主題は、完全に本明細書に記載される場合と同様に、参照することによって具体的に組み込まれる)。代替として、いくつかの構成では、FPA119によって測定された強度は、必要とされず、代わりに、上で説明されるように、FPA129からのデモザイク処理された強度和を使用する。
他の構成では、FPA119は、可視光または赤外線光もしくは他のスペクトル領域等、異なる波長または複数の波長の画像のために使用される。他の構成では、示されるコンポーネントのいくつかは、省略されるか、または順序が変更され得る。例えば、いくつかの構成では、ビームスプリッタ123は、別の種々の偏光プレートもしくは光学によって置換されるか、または、いくつかのインスタンスのために、入射偏光状態が十分な品質である場合、完全に省略され得る。いくつかの構成では、補償器125および/または結像レンズは、省略されることができる。帯域通過フィルタ122も、背景光が無視され得る好適な環境のために、省略されることができる。代替として、コンポーネント124−128またはそのいくつかのサブセットは、他の構成では、ビームスプリッタ123とFPA119との間で繰り返されることができる。FPA119と129との間の変調パターンは、第‘895号特許に説明されるように、同一もしくは異なる長さまたは形状もしくは構造における他の差異であることができる。FPA119、129のいずれかまたは両方から得られた信号は、第‘895号特許に説明されるアルゴリズムにおいて組み合わせられることができる。
第’895号特許に説明される他の技法は、本明細書に開示されるような透過アレイを使用して、3Dカメラと組み合わせられることができる。
図9は、本明細書に説明されるシステムを使用して3D画像を捕捉する例示的方法を図示するフローチャート200である。ボックス202では、場面が、光源25から放出される光パルス、例えば、第’895号特許に説明されるように、レーザパルスを用いて照明される。光パルスの一部は、場面内のオブジェクトから散乱または反射され、3Dカメラの受光光学に戻る。ボックス204では、光パルスの戻り部分は、カメラ内の変調器によって、時間の関数として変調される。変調器は、任意の好適な光学変調器、例えば、Pockelsセルまたは代替として、Fabry−Perot変調器であり得る(両方とも、第’895号特許に説明される)。
次に、ボックス206では、変調された戻り光パルス部分は、本明細書に開示されるもののいずれか等の要素アレイを通過する。要素アレイは、所定の様式でセンサアレイ内のピクセルに対応するように配置される。ボックス208では、光部分は、ピクセル化センサアレイにおいて受光され、それは、受け取られた光に応答して、電気信号を生成する。信号は、次いで、ソフトウェアを起動させ、飛行時間情報を決定するデジタル信号プロセッサ(DSP)またはマイクロプロセッサ等のプロセッサによって処理され、それは、次いで、z−軸情報を決定し、場面の3D画像を生産するために使用されることができる。
例に応じて、本明細書に説明される方法のいずれかのある行為またはイベントは、異なるシーケンスで行われることができ、追加、融合、または完全に省略され得る(例えば、全ての説明される作用またはイベントが、方法の実践のために必要なわけではない)ことを理解されたい。さらに、ある例では、行為またはイベントは、連続してではなく、並行して、例えば、マルチスレッド処理、割り込み処理、または複数のプロセッサを通して行われ得る。加えて、本開示のある側面は、明確性の目的のために、単一モジュールまたはコンポーネントによって行われるように説明されるが、本開示の技法は、3D結像システムと関連付けられたコンポーネントまたはモジュールの任意の好適な組み合わせによって行われ得ることを理解されたい。
要約すると、本明細書に開示されるシステムおよび方法は、異なる信号を通す異なる要素のグループを有する適切なグリッド/アレイを使用することによって、相対位相または他の変調を測定または査定可能である。グリッド/アレイ内の要素のタイプは、選定される変調技法の必要性に基づいて決定される。例えば、偏光要素が、入射光の偏光位相または状態を変化させる変調技法のために使用されることができる。または、透過要素が、位相が変調されるFabry−Perot配置において使用されることができる。この配置は、センサアレイ内でピクセルによって分離されることができる少なくとも2つの異なる時間依存透過機能を可能にする。
上で説明される方法、デバイス、カメラ、システム、および装置の他の構成ならびに修正は、これらの教示に照らして、当業者に容易に想起されるであろう。したがって、前述の説明は、例証的であり、制限的ではない。ある例示的技法が、説明されたが、これらおよび他の技法も、以下の請求項の範囲内である。
Claims (20)
- 3D結像システムであって、前記システムは、
時間の関数として光パルスの戻り部分を変調するように構成されている光学変調器と、
前記光パルスの前記変調された戻り部分を受け取る光学要素のアレイであって、前記光学要素のうちの少なくとも1つは、前記光学要素のうちの別のものの第2の所定の光学透過状態と異なる所定の第1の光学透過状態を有する、光学要素のアレイと、
前記光学要素のアレイに対応するピクセルのセンサアレイであって、前記ピクセルのセンサアレイは、光出力を前記光学要素のアレイから受け取るように位置している、センサアレイと
を備えている、システム。 - 前記光学要素のアレイは、複数の偏光要素を含む、請求項1に記載のシステム。
- 前記偏光要素は、互いに対して略直交偏光状態を伴う偏光要素を含む、請求項2に記載のシステム。
- 前記光学変調器は、前記光パルスの前記戻り部分の偏光状態を変調するように構成されている、請求項1に記載のシステム。
- 前記光学要素のアレイは、第1の透過レベルを有する第1の反射コーティングを有する第1のグループの要素と、前記第1の透過レベルと異なる第2の透過レベルを有する第2の反射コーティングを有する第2のグループの要素とを含む、請求項1に記載のシステム。
- 前記光学変調器は、可変Fabry−Perotエタロンを含む、請求項1に記載のシステム。
- 前記光学要素のアレイは、前記ピクセルのセンサアレイ上に一体的に形成されている、請求項1に記載のシステム。
- 前記光学要素のアレイは、前記センサアレイのピクセル間のクロストークを低減させるように構成されている1つ以上のセパレータバンドを含む、請求項1に記載のシステム。
- 前記センサアレイ内のピクセル間に形成され、前記ピクセル間のクロストークを低減させる1つ以上のセパレータ壁をさらに備えている、請求項1に記載のシステム。
- 前記光パルスを放出するための光源をさらに備えている、請求項1に記載のシステム。
- 前記光パルスの前記戻り部分を受け取るために前記変調器の前に位置している受光レンズをさらに備えている、請求項1に記載のシステム。
- 3D結像システムであって、前記システムは、
時間の関数として光パルスの戻り部分を変調するための光学変調器と、
前記光パルスの変調された戻り部分を前記光学変調器から受け取るように構成されている電気光学モジュールであって、前記電気光学モジュールは、
ピクセルのセンサアレイと、
前記光パルスの前記変調された戻り部分を受け取るために前記センサアレイ上に形成されている光学要素のアレイであって、前記光学要素のうちの少なくとも1つは、前記光学要素のうちの別のものの第2の所定の光学透過状態と異なる所定の第1の光学透過状態を有する、光学要素のアレイと
を含む、電気光学モジュールと、
プロセッサと
を備え、
前記プロセッサは、前記ピクセルのセンサアレイからの信号を処理し、場面に関する3D情報を生成するように構成され、前記信号は、前記光パルスの前記変調された戻り部分に応答して生産される、システム。 - 前記光学要素のアレイは、互いに対して異なる偏光状態を伴う複数の偏光要素を含む、請求項12に記載のシステム。
- 前記光学要素のアレイは、第1の透過レベルを有する第1の反射コーティングを有する第1のグループの要素と、前記第1の透過レベルと異なる第2の透過レベルを有する第2の反射コーティングを有する第2のグループの要素とを含む、請求項12に記載のシステム。
- 前記光学要素のアレイは、前記センサアレイのピクセル間のクロストークを低減させるように構成されている1つ以上のセパレータバンドを含む、請求項12に記載のシステム。
- 前記センサアレイ内のピクセル間に形成され、前記ピクセル間のクロストークを低減させる1つ以上のセパレータ壁をさらに備えている、請求項12に記載のシステム。
- 前記光学変調器は、前記電気光学モジュール内に含まれ、前記光学変調器、センサアレイ、および光学要素のアレイは、単一ユニットの中に一体的に形成されている、請求項12に記載のシステム。
- 前記光パルスの前記戻り部分を受け取るために前記変調器の前に位置している受光レンズをさらに備えている、請求項12に記載のシステム。
- 前記光学変調器は、Pockelsセルを含む、請求項12に記載のシステム。
- 方法であって、前記方法は、
場面を光パルスで照明することと、
前記光パルスの戻り部分を変調することと、
前記光パルスの前記変調された戻り部分を光学要素のアレイに通すことであって、前記光学要素のうちの少なくとも1つは、前記光学要素のうちの別のものの第2の所定の光学透過状態と異なる所定の第1の光学透過状態を有する、ことと、
ピクセルのセンサアレイにおいて、光出力を前記光学要素のアレイから受け取ることと、
前記光学要素のアレイに通された前記光パルスの前記変調された戻り部分に応答して前記センサアレイによって生成された信号に基づいて、場面に関する3D情報を生成することと
を含む、方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662301587P | 2016-02-29 | 2016-02-29 | |
US62/301,587 | 2016-02-29 | ||
PCT/US2017/020011 WO2017151660A1 (en) | 2016-02-29 | 2017-02-28 | 3d imaging system and method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2019513976A true JP2019513976A (ja) | 2019-05-30 |
Family
ID=59680144
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018545214A Pending JP2019513976A (ja) | 2016-02-29 | 2017-02-28 | 3d結像システムおよび方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11209664B2 (ja) |
EP (1) | EP3423858B1 (ja) |
JP (1) | JP2019513976A (ja) |
KR (1) | KR20190003480A (ja) |
CN (1) | CN108780142B (ja) |
WO (1) | WO2017151660A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024095471A1 (ja) * | 2022-11-04 | 2024-05-10 | ソニーセミコンダクタソリューションズ株式会社 | 光検出装置及び測距装置 |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017517748A (ja) * | 2014-04-26 | 2017-06-29 | テトラビュー, インコーポレイテッド | 三次元撮像における奥行き検知のための、安定して広範囲の照明用波形のための方法とシステム |
EP3466052A4 (en) * | 2016-06-07 | 2020-02-19 | Airy3d Inc. | LIGHT FIELD IMAGE DEVICE AND METHOD FOR DEPTH DETECTION AND THREE-DIMENSIONAL IMAGE |
JPWO2018034209A1 (ja) * | 2016-08-18 | 2019-06-13 | ソニー株式会社 | 撮像装置と撮像方法 |
US10536693B2 (en) | 2016-11-22 | 2020-01-14 | Pixvana, Inc. | Analytic reprocessing for data stream system and method |
US10505656B2 (en) * | 2017-04-08 | 2019-12-10 | Nokia Solutions And Networks Oy | Optical wavelength selective switches with guard bands |
EP3707551A4 (en) * | 2017-11-08 | 2020-12-23 | Arizona Board of Regents on behalf of the University of Arizona | IMAGING METHOD AND APPARATUS USING CIRCULAR POLARIZED LIGHT |
US11212512B2 (en) | 2017-12-28 | 2021-12-28 | Nlight, Inc. | System and method of imaging using multiple illumination pulses |
DE102018205984A1 (de) * | 2018-04-19 | 2019-10-24 | Robert Bosch Gmbh | Vorrichtung und Verfahren zum Bestimmen einer Position von mindestens einem Objekt |
KR102514487B1 (ko) * | 2018-06-07 | 2023-03-27 | 엘지이노텍 주식회사 | 카메라 모듈 및 그의 깊이 정보 추출 방법 |
US20200041807A1 (en) * | 2018-08-02 | 2020-02-06 | Christie Digital Systems Usa, Inc. | Light emitting diode display with a monolithic wire-grid polarizer for producing three-dimensional images |
KR102534247B1 (ko) | 2018-10-01 | 2023-05-18 | 삼성전자주식회사 | 편광판을 포함한 3d 이미지 센서, 및 그 3d 이미지 센서를 기반으로 한 깊이 보정방법과 3d 영상 생성방법 |
JP2020071168A (ja) * | 2018-11-01 | 2020-05-07 | 京セラ株式会社 | 電磁波検出装置および情報取得システム |
JP6978394B2 (ja) * | 2018-11-01 | 2021-12-08 | 京セラ株式会社 | 電磁波検出装置及び情報取得システム |
KR102155329B1 (ko) * | 2018-11-09 | 2020-09-11 | 경북대학교 산학협력단 | 라이트 필드 이미징 시스템 |
TWI696842B (zh) * | 2018-11-16 | 2020-06-21 | 精準基因生物科技股份有限公司 | 飛時測距感測器以及飛時測距方法 |
WO2020106972A1 (en) | 2018-11-21 | 2020-05-28 | The Board Of Trustees Of The Leland Stanford Junior University | Wide-field nanosecond imaging methods using wide-field optical modulators |
JP7325949B2 (ja) * | 2018-11-22 | 2023-08-15 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置及び電子機器 |
CN111398935B (zh) * | 2018-12-27 | 2022-08-16 | 深圳市速腾聚创科技有限公司 | 激光雷达接收*** |
US11639990B2 (en) | 2019-01-18 | 2023-05-02 | The University Court Of The University Of Edinburgh | Digital pixels and operating methods thereof |
WO2020160349A1 (en) | 2019-01-31 | 2020-08-06 | Sense Photonics, Inc. | Strobe window dependent illumination for flash lidar |
US11644549B2 (en) * | 2019-03-06 | 2023-05-09 | The University Court Of The University Of Edinburgh | Extended dynamic range and reduced power imaging for LIDAR detector arrays |
EP3908853A4 (en) * | 2019-03-06 | 2022-10-12 | Sense Photonics, Inc. | EXTENDED DYNAMIC RANGE AND IMAGING WITH REDUCED POWER CONSUMPTION FOR LIDAR DETECTOR ARRANGEMENTS |
WO2020259928A1 (en) | 2019-06-27 | 2020-12-30 | Ams International Ag | Imaging system and detection method |
CN114599990A (zh) * | 2019-06-27 | 2022-06-07 | ams国际有限公司 | 成像***和检测方法 |
CN110574166A (zh) * | 2019-07-30 | 2019-12-13 | 深圳市汇顶科技股份有限公司 | 图像传感器及其制造方法、芯片及手持装置 |
US11828851B2 (en) | 2020-01-20 | 2023-11-28 | The Board Of Trustees Of The Leland Stanford Junior University | Wide-field resonant electro-optic imaging devices and applications |
DE102020107450A1 (de) | 2020-03-18 | 2021-09-23 | Audi Aktiengesellschaft | Lidar-Sensoreinrichtung für ein Kraftfahrzeug, Verfahren zum Betrieb einer Lidar-Sensoreinrichtung und Kraftfahrzeug |
US11723763B2 (en) * | 2020-05-22 | 2023-08-15 | Innovega Inc. | Article of manufacture including occlusion ring having inner/outer regions with orthogonal polarizations |
CN113884019B (zh) * | 2020-07-03 | 2024-04-05 | 睿镞科技(北京)有限责任公司 | 三维成像***及方法 |
EP4276495A4 (en) * | 2021-02-02 | 2024-03-06 | Huawei Technologies Co., Ltd. | DETECTION DEVICE, CONTROL METHOD, FUSION DETECTION SYSTEM AND TERMINAL DEVICE |
CN113115017B (zh) * | 2021-03-05 | 2022-03-18 | 上海炬佑智能科技有限公司 | 3d成像模组参数检验方法以及3d成像装置 |
Family Cites Families (56)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE1272583B (de) | 1965-04-09 | 1968-07-11 | Philips Patentverwaltung | Verfahren zur photooptischen Aufzeichnung bzw. Speicherung von aus Einzelsymbolen bestehenden Informationen |
US3644017A (en) | 1968-12-02 | 1972-02-22 | Baird Atomic Inc | Electro-optic light modulator with area selection |
JPS5636405B2 (ja) | 1971-09-18 | 1981-08-24 | ||
CH667340A5 (de) | 1985-04-30 | 1988-09-30 | Cerberus Ag | Lichtschranke. |
US4967270A (en) | 1989-05-08 | 1990-10-30 | Kaman Aerospace Corporation | Lidar system incorporating multiple cameras for obtaining a plurality of subimages |
US4935616A (en) | 1989-08-14 | 1990-06-19 | The United States Of America As Represented By The Department Of Energy | Range imaging laser radar |
US6736321B2 (en) | 1995-12-18 | 2004-05-18 | Metrologic Instruments, Inc. | Planar laser illumination and imaging (PLIIM) system employing wavefront control methods for reducing the power of speckle-pattern noise digital images acquired by said system |
US5200793A (en) | 1990-10-24 | 1993-04-06 | Kaman Aerospace Corporation | Range finding array camera |
US5157451A (en) | 1991-04-01 | 1992-10-20 | John Taboada | Laser imaging and ranging system using two cameras |
US5162861A (en) | 1991-04-01 | 1992-11-10 | Tamburino Louis A | Laser imaging and ranging system using one camera |
US5144482A (en) | 1991-05-13 | 1992-09-01 | Gould Dennis R | Three dimensional viewing apparatus including a stack of transparent plates and related method |
US5686990A (en) | 1992-12-08 | 1997-11-11 | The Charles Stark Draper Laboratory, Inc. | Optical source isolator with polarization maintaining optical fiber and aspheric collimating and focusing lens |
US5394413A (en) | 1994-02-08 | 1995-02-28 | Massachusetts Institute Of Technology | Passively Q-switched picosecond microlaser |
DE4439298A1 (de) | 1994-11-07 | 1996-06-13 | Rudolf Prof Dr Ing Schwarte | 3D-Kamera nach Laufzeitverfahren |
US6088086A (en) | 1995-09-11 | 2000-07-11 | Sandia Corporation | Range determination for scannerless imaging |
US5892575A (en) * | 1996-05-10 | 1999-04-06 | Massachusetts Institute Of Technology | Method and apparatus for imaging a scene using a light detector operating in non-linear geiger-mode |
US7796081B2 (en) | 1997-10-22 | 2010-09-14 | Intelligent Technologies International, Inc. | Combined imaging and distance monitoring for vehicular applications |
US7046711B2 (en) | 1999-06-11 | 2006-05-16 | High Q Laser Production Gmbh | High power and high gain saturation diode pumped laser means and diode array pumping device |
AU5646299A (en) | 1999-09-08 | 2001-04-10 | 3Dv Systems Ltd. | 3d imaging system |
US6515737B2 (en) | 2000-01-04 | 2003-02-04 | The Regents Of The University Of California | High-resolution imaging and target designation through clouds or smoke |
US6456793B1 (en) | 2000-08-03 | 2002-09-24 | Eastman Kodak Company | Method and apparatus for a color scannerless range imaging system |
US7140543B2 (en) | 2000-11-24 | 2006-11-28 | Metrologic Instruments, Inc. | Planar light illumination and imaging device with modulated coherent illumination that reduces speckle noise induced by coherent illumination |
US7444013B2 (en) | 2001-08-10 | 2008-10-28 | Stmicroelectronics, Inc. | Method and apparatus for recovering depth using multi-plane stereo and spatial propagation |
US20040041082A1 (en) | 2001-11-27 | 2004-03-04 | Harmon Gary R. | Molecular sensing array |
US6707054B2 (en) * | 2002-03-21 | 2004-03-16 | Eastman Kodak Company | Scannerless range imaging system having high dynamic range |
US6781763B1 (en) | 2002-04-01 | 2004-08-24 | The United States Of America As Represented By The Secretary Of The Air Force | Image analysis through polarization modulation and combination |
US7224382B2 (en) | 2002-04-12 | 2007-05-29 | Image Masters, Inc. | Immersive imaging system |
US7257278B2 (en) | 2003-02-26 | 2007-08-14 | Hewlett-Packard Development Company, L.P. | Image sensor for capturing and filtering image data |
US7301138B2 (en) | 2003-12-19 | 2007-11-27 | General Atomics | Method and apparatus for dual polarization imaging |
US7236235B2 (en) * | 2004-07-06 | 2007-06-26 | Dimsdale Engineering, Llc | System and method for determining range in 3D imaging systems |
JP4566685B2 (ja) | 2004-10-13 | 2010-10-20 | 株式会社トプコン | 光画像計測装置及び光画像計測方法 |
US7535617B2 (en) | 2005-08-18 | 2009-05-19 | The United States Of America As Represented By The Secretary Of The Army | Portable acousto-optical spectrometers |
US9182228B2 (en) | 2006-02-13 | 2015-11-10 | Sony Corporation | Multi-lens array system and method |
US7995191B1 (en) | 2006-06-29 | 2011-08-09 | Sandia Corporation | Scannerless laser range imaging using loss modulation |
US7667762B2 (en) | 2006-08-01 | 2010-02-23 | Lifesize Communications, Inc. | Dual sensor video camera |
US7751109B1 (en) | 2006-09-14 | 2010-07-06 | The United States Of America As Represented By The Secretary Of The Army | Electro-optic shutter |
JP4403162B2 (ja) | 2006-09-29 | 2010-01-20 | 株式会社東芝 | 立体画像表示装置および立体画像の作製方法 |
JP2011507353A (ja) | 2007-12-05 | 2011-03-03 | エレクトロ サイエンティフィック インダストリーズ インコーポレーテッド | カラーモザイク撮像器から全色性応答を達成するための方法および装置 |
JP4450076B2 (ja) * | 2008-01-17 | 2010-04-14 | パナソニック株式会社 | 三次元画像再生装置 |
JP5631299B2 (ja) | 2008-03-28 | 2014-11-26 | コントラスト オプティカル デザイン アンド エンジニアリング,インク. | 全ビーム画像スプリッタシステム |
EP3396416A1 (en) | 2008-11-25 | 2018-10-31 | Tetravue, Inc. | Systems and methods of high resolution three-dimensional imaging |
US8823848B2 (en) * | 2009-06-11 | 2014-09-02 | The Arizona Board Of Regents On Behalf Of The University Of Arizona | Microgrid imaging polarimeters with frequency domain reconstruction |
US8228417B1 (en) * | 2009-07-15 | 2012-07-24 | Adobe Systems Incorporated | Focused plenoptic camera employing different apertures or filtering at different microlenses |
EP2510504A4 (en) * | 2009-12-07 | 2013-08-14 | Photon X Inc | 3D VISUALIZATION SYSTEM |
US20110175981A1 (en) | 2010-01-19 | 2011-07-21 | Chun-Hung Lai | 3d color image sensor |
CN201707438U (zh) * | 2010-05-28 | 2011-01-12 | 中国科学院合肥物质科学研究院 | 基于led阵列共透镜tof深度测量的三维成像*** |
US8444275B2 (en) | 2010-08-12 | 2013-05-21 | Eastman Kodak Company | Light source control for projector with multiple pulse-width modulated light sources |
KR101680762B1 (ko) | 2010-10-29 | 2016-11-29 | 삼성전자주식회사 | 3d 카메라용 빔스플리터 및 상기 빔스플리터를 채용한 3차원 영상 획득 장치 |
US9479743B2 (en) * | 2011-06-01 | 2016-10-25 | Gvbb Holdings S.A.R.L. | Single lens 3-D camera |
JP5982751B2 (ja) * | 2011-08-04 | 2016-08-31 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにプログラム |
WO2013052781A1 (en) | 2011-10-07 | 2013-04-11 | Massachusetts Institute Of Technology | Method and apparatus to determine depth information for a scene of interest |
US9177983B2 (en) * | 2012-01-23 | 2015-11-03 | Omnivision Technologies, Inc. | Image sensor with optical filters having alternating polarization for 3D imaging |
WO2013114891A1 (ja) * | 2012-02-03 | 2013-08-08 | パナソニック株式会社 | 撮像装置および撮像システム |
WO2014125529A1 (ja) * | 2013-02-15 | 2014-08-21 | パナソニック株式会社 | 画像処理装置および内視鏡 |
WO2015152984A2 (en) * | 2014-01-22 | 2015-10-08 | Polaris Sensor Technologies, Inc. | Polarization imaging for facial recognition enhancement system and method |
JP2017517748A (ja) * | 2014-04-26 | 2017-06-29 | テトラビュー, インコーポレイテッド | 三次元撮像における奥行き検知のための、安定して広範囲の照明用波形のための方法とシステム |
-
2017
- 2017-02-28 EP EP17760645.6A patent/EP3423858B1/en active Active
- 2017-02-28 KR KR1020187028140A patent/KR20190003480A/ko not_active Application Discontinuation
- 2017-02-28 JP JP2018545214A patent/JP2019513976A/ja active Pending
- 2017-02-28 WO PCT/US2017/020011 patent/WO2017151660A1/en active Application Filing
- 2017-02-28 CN CN201780017336.0A patent/CN108780142B/zh active Active
- 2017-02-28 US US15/445,560 patent/US11209664B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024095471A1 (ja) * | 2022-11-04 | 2024-05-10 | ソニーセミコンダクタソリューションズ株式会社 | 光検出装置及び測距装置 |
Also Published As
Publication number | Publication date |
---|---|
KR20190003480A (ko) | 2019-01-09 |
EP3423858A4 (en) | 2019-06-12 |
US20170248796A1 (en) | 2017-08-31 |
CN108780142A (zh) | 2018-11-09 |
CN108780142B (zh) | 2023-10-31 |
US11209664B2 (en) | 2021-12-28 |
EP3423858A1 (en) | 2019-01-09 |
EP3423858B1 (en) | 2023-12-06 |
WO2017151660A1 (en) | 2017-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108780142B (zh) | 3d成像***和方法 | |
Maruyama et al. | 3.2-MP back-illuminated polarization image sensor with four-directional air-gap wire grid and 2.5-$\mu $ m pixels | |
US20220057550A1 (en) | Light Field Imaging Device and Method for Depth Acquisition and Three-Dimensional Imaging | |
KR102624537B1 (ko) | 공간적으로 코딩된 이미지를 생성하는 이미지 분산부를 갖는 이미징 디바이스 | |
EP2816389B1 (en) | A method for producing a mirror for a Fabry-Perot interferomete | |
WO2018012492A1 (ja) | 撮像装置、撮像素子、および画像処理装置 | |
US9945718B2 (en) | Image sensors with multi-functional pixel clusters | |
US10438365B2 (en) | Imaging device, subject information acquisition method, and computer program | |
US11902494B2 (en) | System and method for glint reduction | |
US10319764B2 (en) | Image sensor and electronic device | |
CN108417644B (zh) | 一种红外探测器的封装结构以及封装方法 | |
JP2012095124A (ja) | 分光画像撮像装置 | |
JP5927570B2 (ja) | 3次元撮像装置、光透過部、画像処理装置、およびプログラム | |
KR20210055765A (ko) | 전기-광학 변조기 및 3차원 이미징을 위한 전기-광학 변조기의 사용 및 제조 방법 | |
Garcia et al. | A 1300× 800, 700 mW, 30 fps spectral polarization imager | |
US20160173834A1 (en) | Plasmonic polarization-sensitive image sensor | |
US11889186B2 (en) | Focus detection device, focus detection method, and image capture apparatus | |
JP2014003433A (ja) | 撮像装置 | |
CN107917759A (zh) | 基于阶梯相位反射镜的偏振干涉成像光谱仪及制作方法 | |
US20240063240A1 (en) | Light state imaging pixel | |
Brückner et al. | Advanced artificial compound-eye imaging systems | |
Drysdale | Plasmonic angle sensitive pixel for digital imagers | |
SHINODA | Multispectral Polarization Filter Array | |
CN117949087A (zh) | 一种基于偏振调制阵列和消色差四面角锥棱镜的偏振相机 | |
IL298239B1 (en) | Image system and method |