JP2017526910A - 撮像分光法用のコンパクトな多機能システム - Google Patents
撮像分光法用のコンパクトな多機能システム Download PDFInfo
- Publication number
- JP2017526910A JP2017526910A JP2017503852A JP2017503852A JP2017526910A JP 2017526910 A JP2017526910 A JP 2017526910A JP 2017503852 A JP2017503852 A JP 2017503852A JP 2017503852 A JP2017503852 A JP 2017503852A JP 2017526910 A JP2017526910 A JP 2017526910A
- Authority
- JP
- Japan
- Prior art keywords
- sfa
- elements
- spectral
- image
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000701 chemical imaging Methods 0.000 title claims abstract description 34
- 230000003595 spectral effect Effects 0.000 claims abstract description 172
- 238000000034 method Methods 0.000 claims abstract description 67
- 238000005070 sampling Methods 0.000 claims abstract description 27
- 230000000737 periodic effect Effects 0.000 claims abstract description 24
- 238000009826 distribution Methods 0.000 claims abstract description 22
- 230000005540 biological transmission Effects 0.000 claims description 28
- 238000013461 design Methods 0.000 claims description 18
- 208000032370 Secondary transmission Diseases 0.000 claims description 14
- 238000005259 measurement Methods 0.000 claims description 13
- 230000008569 process Effects 0.000 claims description 13
- 239000011159 matrix material Substances 0.000 claims description 12
- 238000002834 transmittance Methods 0.000 claims description 12
- 230000004044 response Effects 0.000 claims description 11
- 238000005457 optimization Methods 0.000 claims description 10
- 238000003491 array Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 4
- 238000010801 machine learning Methods 0.000 claims description 4
- 230000035945 sensitivity Effects 0.000 claims description 3
- 238000012935 Averaging Methods 0.000 claims description 2
- 230000002708 enhancing effect Effects 0.000 claims description 2
- 238000007634 remodeling Methods 0.000 claims description 2
- 238000009827 uniform distribution Methods 0.000 claims description 2
- 238000003384 imaging method Methods 0.000 description 28
- 230000003287 optical effect Effects 0.000 description 14
- 238000001228 spectrum Methods 0.000 description 12
- 238000003860 storage Methods 0.000 description 9
- 238000012544 monitoring process Methods 0.000 description 7
- 230000006835 compression Effects 0.000 description 6
- 238000007906 compression Methods 0.000 description 6
- 239000000975 dye Substances 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 238000001914 filtration Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 241000196324 Embryophyta Species 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000001514 detection method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000012152 algorithmic method Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000013178 mathematical model Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 241000894007 species Species 0.000 description 2
- 230000009897 systematic effect Effects 0.000 description 2
- 239000013598 vector Substances 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 238000002595 magnetic resonance imaging Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000007637 random forest analysis Methods 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/28—Investigating the spectrum
- G01J3/2823—Imaging spectrometer
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/0205—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows
- G01J3/0229—Optical elements not provided otherwise, e.g. optical manifolds, diffusers, windows using masks, aperture plates, spatial light modulators or spatial filters, e.g. reflective filters
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/02—Details
- G01J3/027—Control of working procedures of a spectrometer; Failure detection; Bandwidth calculation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/31—Investigating relative effect of material at wavelengths characteristic of specific elements or molecules, e.g. atomic absorption spectrometry
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/05—Geographic models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/188—Vegetation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/214—Image signal generators using stereoscopic image cameras using a single 2D image sensor using spectral multiplexing
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J3/00—Spectrometry; Spectrophotometry; Monochromators; Measuring colours
- G01J3/28—Investigating the spectrum
- G01J3/2823—Imaging spectrometer
- G01J2003/2826—Multispectral imaging, e.g. filter imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/194—Terrestrial scenes using hyperspectral data, i.e. more or other wavelengths than RGB
Landscapes
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Remote Sensing (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Signal Processing (AREA)
- Astronomy & Astrophysics (AREA)
- Chemical & Material Sciences (AREA)
- Pathology (AREA)
- Immunology (AREA)
- Biochemistry (AREA)
- Analytical Chemistry (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Graphics (AREA)
- Spectrometry And Color Measurement (AREA)
- Studio Devices (AREA)
Abstract
Description
1.レンズなどの光学素子:光学シーンを撮像平面上に合焦するため。
2.プリズムまたは回折格子などの分散素子:撮像平面からスペクトル情報を空間的に分散させるため。
3.CCDまたはCMOSなどの撮像センサ:分散された光を空間的にサンプリングするため。
・プッシュブルームまたはラインスキャンカメラは、データキューブの空間スペクトルスライスを捕捉し、撮像センサの2次元を1Dスペクトルおよび1D空間サンプリングとして使用する。プッシュブルームセンサは、ハイパースペクトル画像全体を再構成するための動きを必要とし、それらは空間的な走査を必要とする。
・バンドシーケンシャルカメラは、回転型または同調可能なスペクトルフィルタを使用して、スペクトルデータキューブのスペクトルスライスを捕捉する。それらは、撮像センサの2次元を2D空間サンプリングとして使用し、様々なスペクトルフィルタを撮像センサの前で順次に適用することによってスペクトル的に走査し、したがってスペクトル走査を必要とする。
・干渉計ベースのスペクトルカメラは、データキューブのインターフェログラムを画像センサ上に順次に捕捉する。インターフェログラムは、干渉計を同調することによって生成され、これは、スペクトル走査と同様のプロセスである。
従来の信号処理は、情報損失なく信号をサンプリングし、次いで再構成するために、信号が、それが含む最高周波数の少なくとも2倍でサンプリングされなければならないことを要求している。この最小のサンプリング周波数は、ナイキスト周波数とも呼ばれる。サンプリングがナイキスト周波数未満で行われる場合、再構成される信号は、情報損失およびアーチファクト、例えばエイリアスを示す。ナイキスト制約の下でフルハイパースペクトルデータキューブを再構成するのに多数の測定値が必要であることが、非圧縮スナップショットスペクトルカメラが低い解像度を有する主な理由の1つである。
・正しい画素毎のスペクトル再構成は、フィルタの最適なスペクトル分布または高次フィルタ応答相殺(higher order filter response cancellation)など、一連の新たな問題を提示する。
・カラーフィルタアレイは、十分なスペクトル分離を提供しない。
・ハイパースペクトル画像再構成に関して、アルゴリズムは、かなり大きいデータセットを、そのサイズの5%未満から再構成する必要があり、カラー撮像での33%のサブサンプリングレートとは対照的である。
スペクトル撮像の非常に厳しい要件により、スペクトルフィルタアレイは、商用のカラーカメラで使用されるカラーアレイよりもはるかに製造が難しい。カラーカメラは通常、色素ベースのフィルタを採用し、そのようなフィルタのスペクトル透過帯域幅は、スペクトル撮像の放射計測による測定のためには広すぎ一定でなさすぎる。また、色素ベースのカラーフィルタアレイで製造することができる異なるフィルタの数は、使用される色素の数によっても制限される。したがって、カラーフィルタのコストは、異なるフィルタの数の増加と共に大幅に増加する。
・精密に同調可能な中心波長:中心波長は、光をそれ自体と干渉させるために使用される反射面間の距離によって与えられる。この距離の変化は、そのスペクトル透過曲線の形状を大幅に変えることなく、フィルタの中心波長を変える;
・中心波長の周りでの対称性:フィルタ透過は、自然な干渉プロセスにより、中心波長に関して局所的に対称である;
・精密に同調可能な帯域幅:フィルタ帯域幅は、光を反射する表面の反射率によって与えられる;
・多数の異なる波長の干渉フィルタの製造コストは、色素ベースのフィルタに関するコストよりもはるかに低い。
1.カメラ設計および機能;
2.スペクトルフィルタアレイ設計;および
3.再構成器の実施形態および好ましい実装形態
本発明の中核的な実施形態は、2Dスペクトルサンプルセット8を生成するために採用される、図1Aに示される撮像分光法カメラシステムと、前述した2D光学サンプルセットから完全な3Dスペクトルデータキューブを再構成するために利用される計算方法とを含む。より具体的には、カメラは、画像面に対象物1の画像を生成するために使用される光学レンズ5、または1群のレンズを含む。カメラは、物体の画像の様々なスペクトル成分が画像センサに送信されるスペクトルフィルタアレイ(SFA)6と、個々のSFA素子によって送信された光を検出するように構成された画像センサアレイ7とをさらに含む。また、カメラは、アナログ/デジタル信号変換器と記憶媒体9とを含み、記憶媒体9に、得られた2Dデータセットが記憶される。
・撮像されたシーンが、レンズによってSFAの平面上に合焦される。
・SFAの各素子は、その透過曲線に応じて、光の特定の周波数のみがその素子を通過するようにする。
・SFAによって透過された光が撮像センサに入り、撮像センサは、各画素について、画素によって受信された光の量に比例して電荷を生成する。
・撮像センサでの電荷は、アナログ/デジタル変換器によって離散化およびデジタル化されて、センサ読取値を生成する。
・次いで、センサ読取値が記憶媒体に記憶される。
・再構成器は、記憶媒体からセンサ読取値を受信し、フル3Dスペクトル画像を再構成する。
本発明の大抵の実施形態は、均一に分布された非周期的スペクトルフィルタアレイ6(SFAと呼ぶ)を含み、このアレイ6は、個々のスペクトルフィルタ(素子と呼ぶ)から構成される。そのようなSFA実施形態の一例が図3Aに示されており、ここで、各素子は、その中心波長によって表されている。他の実装形態では、図3Cに示されるように、SFAは、その表面の大部分にわたる干渉フィルタの非周期的分布を保ちながら、非フィルタリング素子を含むこともある。好ましい実装形態では、SFAは、ファブリペローフィルタなどの干渉フィルタから構成される。
・決定論的に、ワン(Wang)またはペンローズのタイリングなどの非周期タイリングによって。
・SFA表面を反復パターンで埋め、次いで、SFA中心波長分布の測定されるエントロピーが十分に高くなるまで、連続的に、およびランダムにSFA素子を相互変化させることによって。
・均一な分布からSFA素子をランダムサンプリングすることによって。
・2次透過相殺のための方法は、図4に示されるように、SFA6を既存のカラーフィルタアレイ11(ベイヤーパターンフィルタアレイなど)の上方に配置し、1次応答のみがカラーフィルタアレイによって透過されるように個々のSFA素子の透過率を適合させることからなる。
・2次透過相殺のための別の方法は、それらのフィルタがセンサの感度範囲内で2次透過を有する場合、SFA素子を、その隣接する素子の1つの2次透過に等しい透過を有するように常に配置することである。図3Bに示される設計は、再構成前に、隣接するフィルタに基づいて2次透過を減算することを可能にする。
本発明の様々な実施形態では、再構成器3は、単一のコンピュータ、プログラマブルシングルもしくはマルチプロセッサ10デバイス、または、非線形スパース再構成によって、獲得された2次元データセット8からハイパースペクトル画像を再構成するようにプログラムされたコンピュータネットワークである。再構成器は、インターネットを介してアクセス可能であり、クラウドベースの計算サーバ上で実行される仮想機械でもよい。
Ax=y (1)
ここで、Aは、SFAの個々の素子のスペクトル透過を含むシステム設計行列であり、yは、センサ読取値であり、xは、撮像されたシーンの空間スペクトル特性に対応するハイパースペクトルデータキューブである。したがって、ベクトルxおよびyは、3Dハイパースペクトルおよび2Dセンサデータセットのシリアル化バージョンである。
argmin(||Ax−y||2+c(x)) (2)
ここで、関数c(x)は、常に正のペナルティ項であり、xの特性のアプリオリな知識に基づいて、最適なxに関する探索空間を制約する。関数c(x)は、アプリオリな知識に対応するxのインスタンス(instance)に関して低い値を有し、||Ax−y||2は、測定されたデータyに適合するxのインスタンスに関して低い値を有する。したがって、凸最適化(2)は、測定されたデータyと、スペクトルデータキューブxの構造c(x)に関するアプリオリな知識とに同時に最良適合するスペクトルデータキューブxを見付けることと解釈することができる。
argmin(||ASx−y||2+λ||Sx||1) (3)
ここで、Sは、選択されるスパース数学ベースからの変換の行列表現であり、c(x)は、L1ノルムで置き換えられ、これは、xの表現に対するスパース性を強化し、λは、ペナルティ強度を制御する。ハイパースペクトルデータキューブに関して、主成分分析によって得られる既知のスペクトルベクトルセットへの測定データの投影など、他の変換を想定することもできる。
argmin(||Ax−y||2+λ||x||TV) (4)
ここで、||x||TVは、再構成されたハイパースペクトルデータキューブ全体の3D
TVノルムでよく、または再構成されたハイパースペクトルデータキューブの個々のスペクトルバンドの2D TVノルムの和でよい。3D TVノルムではなく2D TVノルムの和を使用することは、スペクトルバンドを独立して処理し、FISTAの最も計算量の多い工程の並列化を可能にする。
撮像分光法技術は、とりわけ農業、天然資源管理、鉱物学、医学、および製造を含めた研究および商業的分野において多くの実証済みの用途を有する。具体的には、開示する発明は、新種のコンパクトで、軽量で、安価なスペクトル撮像センサの開発を容易にする。新規のセンサは、小さな無人航空機システムを使用する配備に適しており、多くの既存の用途の要求に応え、全く新しい範囲の使用シナリオを容易に実現する。
・植物の病気の早期検出、診断、および制御;
・ストレス検出および成長監視;
・侵入種の検出および制御
[1] Ellis, J., (2001) Searching for oil seeps and oil-impacted soil with hyperspectral imagery, Earth Observation Magazine.
[2] Lacar, F.M., et al., (2001) Use of hyperspectral imagery for mapping grape varieties in the Barossa Valley, South Australia, Geoscience and remote sensing symposium (IGARSS'01) - IEEE 2001 International, vol.6 2875-2877p.
[3] Tack, K., Lambrechts, A., Haspeslagh, L. (2011) Integrated circuit for spectral imaging system, Patent No. WO/2011/064403
[4] Lustig et al, (2007) Sparse MRI: The Application of Compressed Sensing for Rapid MR Imaging, MRM 58:1182-1195
[5] Singh, T., Singh, M. (2011) Method and System for Compressive Color Image Sampling and Reconstruction. Patent no. US20110142339 A1.
[6] A. Wagadarikar, R. John, R. Willett, and David Brady, (2008) Single disperser design for coded aperture snapshot spectral imaging, Appl. Opt. 47, B44-B51.
[7] Golbabaee, M., Vandergheynst, P., (2012) Hyperspectral image compressed sens
ing via low-rank and joint-sparse matrix recovery, IEEE International Confer-ence on Acoustics, Speech and Signal Processing (ICASSP), p. 2741-2744
[8] Heikki, S., Ville-Veikko, A., Altti A., Tapani A., Christer H., Uula K., Jussi M., Jyrki O., (2009) Novel miniaturized hyperspectral sensor for UAV and space appli-cations. Proc. SPIE 7474, Sensors, Systems, and Next-Generation Satellites XIII, 74741M, doi:10.1117/12.830284.
[9] Subhasis, S., (2000) Image compression-from DCT to wavelets: a review. Crossroads 6, doi:10.1145/331624.331630
[10] Beck, A., Teboulle, M., (2009) Fast Gradient-Based Algorithms for Con-strained Total Variation Image Denoising and Deblurring Problems, IEEE Transac-tions on Image Processing, vol.18, no.11, pp.2419,2434, Nov. 2009 doi:10.1109/TIP.2009.2028250
[11] The Economic Impact of Unmanned Aircraft Systems Integration in the United States, AUVSI, 2013
[12] T. M. Mitchell, “Machine Learning”, 1997, ISBN: 0070428077 9780070428072
Claims (14)
- スペクトル撮像データを得るための方法であって、
空間ベースで物体の画像のスペクトル特性をサンプリングすることによって生成されるサンプルデータセットを受信する工程であって、物体の画像のスペクトル特性をサンプリングすることは、
表面を形成するために複数のスペクトルフィルタアレイ(SFA)素子をまとめて配置し、
複数のSFA素子の各SFA素子を、該SFA素子に対応する特定波長にそれぞれ中心を合わされた1つまたはそれ以上のスペクトルバンド幅をフィルタするように構成し、それにより、まとめられた複数のSFA素子すべてが所定のスペクトル範囲をカバーし、
表面にわたる複数のSFA素子すべての均一であり非周期的な空間分布を得るために、表面での複数のSFA素子の各SFA素子の特定波長を設定することによって、
SFAを提供すること、
複数のSFA素子の1つ、または複数のSFA素子の部分集合によってフィルタされる光を各画素で記録するように構成された画像センサを提供し、それにより、複数の素子の1つ、または複数のSFA素子の部分集合によってフィルタされる光の1つの強度値を画素毎に生成すること、
レンズまたはレンズのグループを通してSFA上に物体の画像を生成すること、
画像センサのすべての画素に関して、スペクトル面でフィルタされた強度値を記録し、それにより、物体の画像に対応する強度値の2次元アレイを得ること
を含む、工程と、
サンプリングされた2次元アレイから、撮像された物体のフル3次元スペクトルデータキューブを再構成する工程と
を少なくとも含む前記方法。 - 再構成する工程は、数学的モデリングおよび計算数値最適化を含む請求項1に記載の方法。
- 数学的モデリングおよび計算数値最適化は、SFAによる透過率測定をなくすことを可能にする機械学習法を含む請求項2に記載の方法。
- 数学的モデリングおよび計算数値最適化は、少なくとも、SFAの透過率測定に基づく凸最適化法を含む請求項2に記載の方法。
- 再構成する工程は、
SFAの個々のSFA素子の測定された透過率を提供すること、
個々のSFA素子の測定された透過率と、画像センサ放射計測較正とから、システム設計行列を作成すること、および
システム設計行列に基づいて、デコンボリューションまたは非線形スパース再構成法を使用して、サンプリングされていないスペクトル情報を推量すること
を含む請求項1に記載の方法。 - SFAの特定波長の均一であり非周期的な空間分布を得るために、表面での複数のSFA素子の各SFA素子の特定波長を設定する工程は決定論的であり、それにより、ワンまたはペンローズなどの非周期タイリングを含む請求項1に記載の方法。
- SFAの特定波長の均一であり非周期的な空間分布を得るために、表面での複数のSFA素子の各SFA素子の特定波長を設定する工程は、
SFA表面を反復パターンで埋め、次いで、
SFA中心波長の測定されるエントロピーが十分に高くなるまで、連続的に、およびランダムにSFA素子を相互変化させること
をさらに含む請求項1に記載の方法。 - SFAの特定波長の均一であり非周期的な空間分布を得るために、表面での複数のSFA素子の各SFA素子の特定波長を設定する工程は、
均一な分布からSFA素子をランダムサンプリングすること
をさらに含む請求項1に記載の方法。 - SFAの特定波長のマルチバンド分布を得るために、表面での複数のSFA素子の各SFA素子の特定波長を設定する工程は、
隣接するSFA素子がスペクトル的に直交するように、マルチバンドSFA素子をサンプリングすること
をさらに含む請求項1に記載の方法。 - スペクトルフィルタアレイ(SFA)設計および後続の応答減算によるSFA素子の2次透過相殺のための方法であって、
表面を形成するために複数のSFA素子をまとめて配置し、
複数のSFA素子の各SFA素子を、該SFA素子に対応する中心波長に中心を合わされたスペクトルバンド幅をフィルタするように構成し、それにより、まとめられた複数のSFA素子すべてが所定のスペクトル範囲をカバーし、
表面にわたって均一であり非周期的であるようにすべての中心波長の分布を得るために、表面での複数のSFA素子の各SFA素子の特定波長を設定することによって、
均一におよび非周期的に分布されたスペクトルフィルタアレイ(SFA)を設計する工程と、
画像センサの感度範囲内で2次透過を有するSFA素子を識別する工程と、
2次透過を有するSFA素子に隣接するSFA素子の中心波長を変えて、2次透過の中心波長に一致させる工程と、
変更されなかった、または2次透過を有していないSFA素子の中心波長を構成し直して、SFA中心波長分布の均一性を保つ工程と、
画素強度値の2次元アレイで、2次透過を有するSFA素子に対応する応答から、変更された隣接する素子に対応する応答を減算する工程と
を少なくとも含む前記方法。 - 撮像された物体のリアルタイム単色プレビューを得るための方法であって、撮像された物体は、請求項1〜8のいずれか1項に記載のスペクトル撮像データを得る方法を使用して得られており、リアルタイム単色プレビューを得るための方法は、
表面を形成するために複数のスペクトルフィルタアレイ(SFA)素子をまとめて配置し、複数のSFA素子の各SFA素子を、該SFA素子に対応する中心波長に中心を合わされたスペクトルバンド幅をフィルタするように構成し、それにより、まとめられた複数のSFA素子すべてが所定のスペクトル範囲をカバーし、表面にわたって均一であり非周期的であるようにすべての中心波長の分布を得るように、表面での複数のSFA素子の各SFA素子の中心波長を設定することによって、均一であり非周期的なSFAを設計する工程と、
2次元周期選択によって、SFA素子の部分集合を生成する工程と、
該部分集合に属するSFA素子を、同一の透過率のSFA素子で置き換える工程と、
画素強度値の2次元アレイから、同一の透過率を有する周期的なSFA素子の部分集合に対応する値の部分集合を使用して、より低い解像度の単色画像を作成する工程と
を含む前記方法。 - 撮像された物体のリアルタイム単色プレビューを得るための方法であって、該撮像された物体は、請求項1〜9のいずれか1項に記載のスペクトル撮像データを得る方法を使用して得られており、リアルタイム単色プレビューを得るための方法は、
表面を形成するために複数のスペクトルフィルタアレイ(SFA)素子をまとめて配置し、複数のSFA素子の各SFA素子を、該SFA素子に対応する特定波長に中心を合わされた複数のスペクトルバンドをフィルタするように構成し、それにより、まとめられた複数のSFA素子すべてが所定のスペクトル範囲をカバーし、表面での複数のSFA素子の各SFA素子の中心波長を、隣接するSFA素子がスペクトル的に直交するように設定することによって、均一であり非周期的なSFAを設計する工程と、
画素強度値の2次元アレイから、SFA素子構成に対応する各チャネルを、他のSFA素子構成が存在する画素位置で、独立して空間的に補間する工程と、
高解像度単色画像を作成するために、独立して補間されたチャネルを平均化する工程とを含む前記方法。 - 撮像された物体のスペクトル3Dモデルを生成し、撮像されたシーンのスペクトル再構成品質を高めるための方法であって、
シーンの複数の画像を撮影する工程であって、各画像は、少なくとも画素強度のアレイを含む工程と、
単色プレビューを使用して、画像レジストレーションによって画像を光学的に位置合わせし、それによりシーンの3Dモデルを生成する工程と、
撮像されたシーン内の同じ点に複数の画素が位置合わせされた場合に、複数の画像のうちの異なる画像に対応する異なる画素強度アレイからの値をグループ化する工程と、
グループ化された値に基づいて、異なる位置から取られた、画素強度の複数のアレイに対応するシステム設計行列をモデル化し直す工程と、
クロス画像システム設計行列に基づいて、3Dモデルのスペクトルテクスチャを再構成する工程と
を含む前記方法。 - メモリデバイスに記憶されたコンピュータプログラムであって、コンピューティングデバイスによって実行されるときに、請求項1に記載の方法の工程を実施することによって、メモリデバイスから読み出し、2D空間スペクトルデータセットから3Dハイパースペクトル画像を再構成することを可能にする前記コンピュータプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
IB2014063366 | 2014-07-24 | ||
IBPCT/IB2014/063366 | 2014-07-24 | ||
PCT/IB2015/055614 WO2016012980A1 (en) | 2014-07-24 | 2015-07-24 | Compact multifunctional system for imaging spectroscopy |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017526910A true JP2017526910A (ja) | 2017-09-14 |
Family
ID=54151327
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017503852A Pending JP2017526910A (ja) | 2014-07-24 | 2015-07-24 | 撮像分光法用のコンパクトな多機能システム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10274420B2 (ja) |
EP (1) | EP3172698A1 (ja) |
JP (1) | JP2017526910A (ja) |
WO (1) | WO2016012980A1 (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019220176A (ja) * | 2018-06-15 | 2019-12-26 | 大学共同利用機関法人情報・システム研究機構 | 画像処理装置及び方法 |
JP2021527228A (ja) * | 2018-08-01 | 2021-10-11 | キューセル ピー.シー.Qcell P.C. | ハイブリッドスペクトルイメージャ |
JP2022101519A (ja) * | 2020-12-24 | 2022-07-06 | ディフェンス・エージェンシー・フォー・テクノロジー・アンド・クオリティ | 敵対的生成ネットワークアルゴリズムを活用した超分光高速カメラ映像生成方法 |
WO2022234753A1 (ja) * | 2021-05-07 | 2022-11-10 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像装置及び電子機器 |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106331442B (zh) | 2015-07-02 | 2021-01-15 | 松下知识产权经营株式会社 | 摄像装置 |
US9955088B2 (en) * | 2016-06-10 | 2018-04-24 | The Boeing Company | Hyperspectral borescope system |
US10228283B2 (en) * | 2016-08-12 | 2019-03-12 | Spectral Insights Private Limited | Spectral imaging system |
US9964396B1 (en) * | 2016-11-04 | 2018-05-08 | Com Dev Ltd. | Integrated fourier transform optical spectrometer |
WO2018091486A1 (en) * | 2016-11-16 | 2018-05-24 | Ventana Medical Systems, Inc. | Convolutional neural networks for locating objects of interest in images of biological samples |
JP2020508469A (ja) * | 2017-02-03 | 2020-03-19 | ガマヤ エスエイ | 広角コンピュータ撮像分光法および装置 |
US10337923B2 (en) * | 2017-09-13 | 2019-07-02 | Qualcomm Incorporated | Directional interpolation and cross-band filtering for hyperspectral imaging |
US10861143B2 (en) * | 2017-09-27 | 2020-12-08 | Korea Advanced Institute Of Science And Technology | Method and apparatus for reconstructing hyperspectral image using artificial intelligence |
US10692178B2 (en) * | 2018-02-22 | 2020-06-23 | Raytheon Company | Spatial radiometric correction of an optical system having a color filter mosaic |
US10832094B2 (en) * | 2018-04-10 | 2020-11-10 | International Business Machines Corporation | Generating hyperspectral image database by machine learning and mapping of color images to hyperspectral domain |
CN109146787B (zh) * | 2018-08-15 | 2022-09-06 | 北京理工大学 | 一种基于插值的双相机光谱成像***的实时重建方法 |
FR3091381B1 (fr) * | 2018-12-19 | 2020-12-11 | Lysia | Dispositif de détection hyperspectrale |
CN109443537B (zh) * | 2019-01-09 | 2020-06-09 | 中国科学院长春光学精密机械与物理研究所 | 一种基于多次像面的光谱成像仪 |
CN109447890A (zh) * | 2019-01-09 | 2019-03-08 | 北京理工大学 | 一种基于卷积神经网络的光谱成像***的编码优化方法 |
CN111077088B (zh) * | 2019-12-16 | 2022-07-26 | 王娟 | 智能手机成像光谱仪及其光谱识别方法 |
US11303853B2 (en) | 2020-06-26 | 2022-04-12 | Standard Cognition, Corp. | Systems and methods for automated design of camera placement and cameras arrangements for autonomous checkout |
US11361468B2 (en) * | 2020-06-26 | 2022-06-14 | Standard Cognition, Corp. | Systems and methods for automated recalibration of sensors for autonomous checkout |
CN112598717B (zh) * | 2020-12-14 | 2024-05-17 | 珠海欧比特卫星大数据有限公司 | 高光谱卫星影像全谱段配准方法及介质 |
WO2022168594A1 (ja) * | 2021-02-03 | 2022-08-11 | パナソニックIpマネジメント株式会社 | スペクトルデータキューブを改変する方法および装置 |
CN113418873B (zh) * | 2021-06-23 | 2022-05-17 | 中国科学院长春光学精密机械与物理研究所 | 一种高光谱成像***及重构光谱成像方法 |
CN113486906B (zh) * | 2021-07-07 | 2024-01-09 | 西北工业大学 | 快照式光谱图像的马赛克空谱梯度方向直方图提取方法 |
US11935228B2 (en) * | 2021-10-26 | 2024-03-19 | Carl Zeiss Smt Gmbh | Method to acquire a 3D image of a sample structure |
CN114742985A (zh) * | 2022-03-17 | 2022-07-12 | 苏州大学 | 一种高光谱特征提取方法、装置及存储介质 |
CN116448689B (zh) * | 2023-06-16 | 2023-08-29 | 天津博霆光电技术有限公司 | 基于像素微分的单光频率物体全构造检测方法及设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006084401A (ja) * | 2004-09-17 | 2006-03-30 | Fuji Photo Film Co Ltd | 画像処理方法及び画像処理装置並びに画像処理プログラム |
JP2008518229A (ja) * | 2004-10-25 | 2008-05-29 | アールピー ベンチャーズ テクノロジー オフィス アーベー | マルチスペクトル及びハイパースペクトル撮像を行うシステム |
US20120081511A1 (en) * | 2010-09-29 | 2012-04-05 | Lockheed Martin Corporation | Interlaced focal plane array for wide-area surveillance |
WO2012166840A2 (en) * | 2011-06-01 | 2012-12-06 | The Board Of Trustees Of The Leland Stanford Junior University | Learning of image processing pipeline for digital imaging devices |
WO2013064510A1 (en) * | 2011-11-04 | 2013-05-10 | Imec | Spectral camera with mosaic of filters for each image pixel |
WO2014063117A1 (en) * | 2012-10-19 | 2014-04-24 | Hypermed Imaging, Inc. | Single-sensor hyperspectral imaging device |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5379065A (en) * | 1992-06-22 | 1995-01-03 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | Programmable hyperspectral image mapper with on-array processing |
US6831688B2 (en) * | 2002-04-08 | 2004-12-14 | Recon/Optical, Inc. | Multispectral or hyperspectral imaging system and method for tactical reconnaissance |
US8027041B1 (en) * | 2006-06-08 | 2011-09-27 | Wavefront Research, Inc. | Compact snapshot multispectral imaging system |
CN102812709B (zh) | 2009-11-20 | 2015-11-25 | M·辛格 | 压缩彩色图像采样和重建的方法和*** |
EP4137790A1 (en) | 2009-11-30 | 2023-02-22 | Imec VZW | Integrated circuit for spectral imaging system |
-
2015
- 2015-07-24 US US15/326,511 patent/US10274420B2/en active Active
- 2015-07-24 WO PCT/IB2015/055614 patent/WO2016012980A1/en active Application Filing
- 2015-07-24 JP JP2017503852A patent/JP2017526910A/ja active Pending
- 2015-07-24 EP EP15767257.7A patent/EP3172698A1/en not_active Withdrawn
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006084401A (ja) * | 2004-09-17 | 2006-03-30 | Fuji Photo Film Co Ltd | 画像処理方法及び画像処理装置並びに画像処理プログラム |
JP2008518229A (ja) * | 2004-10-25 | 2008-05-29 | アールピー ベンチャーズ テクノロジー オフィス アーベー | マルチスペクトル及びハイパースペクトル撮像を行うシステム |
US20120081511A1 (en) * | 2010-09-29 | 2012-04-05 | Lockheed Martin Corporation | Interlaced focal plane array for wide-area surveillance |
WO2012166840A2 (en) * | 2011-06-01 | 2012-12-06 | The Board Of Trustees Of The Leland Stanford Junior University | Learning of image processing pipeline for digital imaging devices |
US20120307116A1 (en) * | 2011-06-01 | 2012-12-06 | Lansel Steven P | Learning of Image Processing Pipeline for Digital Imaging Devices |
JP2014515587A (ja) * | 2011-06-01 | 2014-06-30 | ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー | デジタル画像装置用の画像処理パイプラインの学習 |
WO2013064510A1 (en) * | 2011-11-04 | 2013-05-10 | Imec | Spectral camera with mosaic of filters for each image pixel |
WO2014063117A1 (en) * | 2012-10-19 | 2014-04-24 | Hypermed Imaging, Inc. | Single-sensor hyperspectral imaging device |
Non-Patent Citations (1)
Title |
---|
YASUMA F , ET AL.,: "Generalized Assorted Pixel Camera: Postcapture Control of Resolution, Dynamic Range, and Spectrum", IEEE TRANSACTIONS ON IMAGE PROCESSING, vol. 19, no. 9, JPN6019017135, September 2010 (2010-09-01), pages 2241 - 2253, XP011306450, ISSN: 0004034037 * |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019220176A (ja) * | 2018-06-15 | 2019-12-26 | 大学共同利用機関法人情報・システム研究機構 | 画像処理装置及び方法 |
JP7284502B2 (ja) | 2018-06-15 | 2023-05-31 | 大学共同利用機関法人情報・システム研究機構 | 画像処理装置及び方法 |
JP2021527228A (ja) * | 2018-08-01 | 2021-10-11 | キューセル ピー.シー.Qcell P.C. | ハイブリッドスペクトルイメージャ |
JP7087198B2 (ja) | 2018-08-01 | 2022-06-20 | キューセル ピー.シー. | ハイブリッドスペクトルイメージャ |
JP2022101519A (ja) * | 2020-12-24 | 2022-07-06 | ディフェンス・エージェンシー・フォー・テクノロジー・アンド・クオリティ | 敵対的生成ネットワークアルゴリズムを活用した超分光高速カメラ映像生成方法 |
JP7308913B2 (ja) | 2020-12-24 | 2023-07-14 | ディフェンス・エージェンシー・フォー・テクノロジー・アンド・クオリティ | 敵対的生成ネットワークアルゴリズムを活用した超分光高速カメラ映像生成方法 |
WO2022234753A1 (ja) * | 2021-05-07 | 2022-11-10 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像装置及び電子機器 |
Also Published As
Publication number | Publication date |
---|---|
US10274420B2 (en) | 2019-04-30 |
WO2016012980A1 (en) | 2016-01-28 |
US20170205337A1 (en) | 2017-07-20 |
EP3172698A1 (en) | 2017-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10274420B2 (en) | Compact multifunctional system for imaging spectroscopy | |
Arad et al. | Sparse recovery of hyperspectral signal from natural RGB images | |
Arce et al. | Compressive coded aperture spectral imaging: An introduction | |
JP2022002398A (ja) | 撮像装置および分光システム | |
KR102269229B1 (ko) | 렌즈리스 초분광 영상 이미징 방법 및 그 장치 | |
Bacca et al. | Noniterative hyperspectral image reconstruction from compressive fused measurements | |
US9719856B2 (en) | Coded spectral imager | |
Dijkstra et al. | Hyperspectral demosaicking and crosstalk correction using deep learning | |
KR102132075B1 (ko) | 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치 | |
Tsagkatakis et al. | Graph and rank regularized matrix recovery for snapshot spectral image demosaicing | |
Guilloteau et al. | Hyperspectral and multispectral image fusion under spectrally varying spatial blurs–application to high dimensional infrared astronomical imaging | |
KR20190036442A (ko) | 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치 | |
CN110793632B (zh) | 一种用于火焰拍摄的高速高精度光谱视频***及方法 | |
CN109087262B (zh) | 一种多视图光谱图像的重建方法、存储介质 | |
Oktem et al. | High-resolution multi-spectral imaging with diffractive lenses and learned reconstruction | |
CN110998259A (zh) | 编码孔光谱成像装置 | |
Degraux et al. | Generalized inpainting method for hyperspectral image acquisition | |
Fortuna et al. | Multivariate image fusion: A pipeline for hyperspectral data enhancement | |
Rueda Chacón et al. | Spatial super-resolution in coded aperture-based optical compressive hyperspectral imaging systems | |
Cohen et al. | Deep neural network classification in the compressively sensed spectral image domain | |
KR101986998B1 (ko) | 하이퍼스펙트럼 이미지 장치 | |
Yu et al. | High Spectral Resolution Imaging Based on Dual-Camera System With Filter Wheel | |
Chen et al. | A computational camera with programmable optics for snapshot high-resolution multispectral imaging | |
Kar | Computational spectral imaging techniques using diffractive lenses and compressive sensing | |
Mejía-Melgarejo et al. | Adjustable spatial resolution of compressive spectral images sensed by multispectral filter array-based sensors |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180706 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190426 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190521 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20190821 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191120 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200303 |