JP7238381B2 - 画像処理装置、画像処理プログラム、画像処理方法および顕微鏡 - Google Patents
画像処理装置、画像処理プログラム、画像処理方法および顕微鏡 Download PDFInfo
- Publication number
- JP7238381B2 JP7238381B2 JP2018236689A JP2018236689A JP7238381B2 JP 7238381 B2 JP7238381 B2 JP 7238381B2 JP 2018236689 A JP2018236689 A JP 2018236689A JP 2018236689 A JP2018236689 A JP 2018236689A JP 7238381 B2 JP7238381 B2 JP 7238381B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- blur
- processing
- function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 337
- 238000003672 processing method Methods 0.000 title claims description 7
- 230000006870 function Effects 0.000 claims description 212
- 238000003384 imaging method Methods 0.000 claims description 97
- 239000002131 composite material Substances 0.000 claims description 65
- 230000003287 optical effect Effects 0.000 claims description 57
- 238000000034 method Methods 0.000 claims description 47
- 238000007781 pre-processing Methods 0.000 claims description 47
- 230000008569 process Effects 0.000 claims description 23
- 230000010354 integration Effects 0.000 claims description 20
- 238000009826 distribution Methods 0.000 description 55
- 238000003860 storage Methods 0.000 description 28
- 238000004422 calculation algorithm Methods 0.000 description 26
- 230000004075 alteration Effects 0.000 description 24
- 238000010586 diagram Methods 0.000 description 23
- 238000012937 correction Methods 0.000 description 18
- 230000015654 memory Effects 0.000 description 14
- 230000000875 corresponding effect Effects 0.000 description 12
- 230000015572 biosynthetic process Effects 0.000 description 11
- 238000003786 synthesis reaction Methods 0.000 description 11
- 230000002194 synthesizing effect Effects 0.000 description 11
- 230000008859 change Effects 0.000 description 9
- 230000000694 effects Effects 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 6
- 239000007788 liquid Substances 0.000 description 6
- 238000013519 translation Methods 0.000 description 6
- 238000005286 illumination Methods 0.000 description 5
- 230000004044 response Effects 0.000 description 5
- 239000000523 sample Substances 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 4
- 230000036541 health Effects 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000004040 coloring Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 3
- 230000004907 flux Effects 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000000386 microscopy Methods 0.000 description 3
- 238000003825 pressing Methods 0.000 description 3
- 238000004088 simulation Methods 0.000 description 3
- 238000012800 visualization Methods 0.000 description 3
- 241001326510 Phacelia sericea Species 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000005284 excitation Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000004438 eyesight Effects 0.000 description 2
- 238000007654 immersion Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000009827 uniform distribution Methods 0.000 description 2
- 241000282693 Cercopithecidae Species 0.000 description 1
- 101001076732 Homo sapiens RNA-binding protein 27 Proteins 0.000 description 1
- 102100023435 NLR family CARD domain-containing protein 4 Human genes 0.000 description 1
- 101710182264 NLR family CARD domain-containing protein 4 Proteins 0.000 description 1
- 102100025873 RNA-binding protein 27 Human genes 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 239000012472 biological sample Substances 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000002490 cerebral effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 210000003734 kidney Anatomy 0.000 description 1
- KJFBVJALEQWJBS-XUXIUFHCSA-N maribavir Chemical compound CC(C)NC1=NC2=CC(Cl)=C(Cl)C=C2N1[C@H]1O[C@@H](CO)[C@H](O)[C@@H]1O KJFBVJALEQWJBS-XUXIUFHCSA-N 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000001000 micrograph Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 239000006187 pill Substances 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000004304 visual acuity Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/20—Linear translation of whole images or parts thereof, e.g. panning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/571—Depth or shape recovery from multiple images from focus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
- H04N13/117—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/156—Mixing image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/211—Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/261—Image signal generators with monoscopic-to-stereoscopic image conversion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/676—Bracketing for image capture at varying focusing conditions
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/95—Computational photography systems, e.g. light-field imaging systems
- H04N23/958—Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10148—Varying focus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computing Systems (AREA)
- Image Processing (AREA)
Description
D=BM・S/b …(1)
ここで、bは、光軸方向でレンズの物体側の距離(撮影距離)を示す。BMは、最大の像距離(焦点距離+繰り出し量)を示す。
DOF=F×COC …(2)
なお、Fは、レンズのFナンバーを示し、COC(Circle of Confusion)は、最小錯乱円であり、例えば1/30mmに設定される。
Δ(1/b)=COC/2/(f/2/F・BM) …(3)
なお、fは、レンズの焦点距離を示す。
Io(x1,y1,zr)=Ia(x1,y1,zr)≠Ia’(x1,y1,zr) …(13)
ただし、Io(x1,y1,zr)≠0である。
次に、図20に示した座標系XYZを各軸方向に任意の角度で回転、平行移動させた座標系X’Y’Z’における合成画像を生成する方法について説明する。
顕微鏡やデジカメなどの光学機器でZスキャンを高速で行うのは先に述べたZステージを高速に移動させるほかに、例えばTAGレンズ(登録商標)などとして市販されている、焦点距離可変液体レンズを用いても良い。焦点距離可変液体レンズは、液体レンズに60kHzから最大1MHzの一定の周波数の超音波をかけることにより、液体レンズの中心に動的な濃度変化ひいては屈折率変化を発生させ、その結果、焦点距離を高速で変化させるものである。焦点距離可変液体レンズを利用すればメカニカルな動きを一切介せずに、超音波アクチュエータへの入力電圧と共振周波数のコントロールのみで焦点距離、ひいては焦点位置を1μsec以下の高速で可変できる光学系を構成可能である。このような高速のZスキャン光学系を有する顕微鏡を用い、任意ボケアルゴリズムで合成することでほぼリアルタイムの観察が3Dで行えるようになる。
次に、観察画像を3D表示する応用例について説明する。
まず、属性(1)の最大視差量はディスプレイ上の最大表示倍率にて決定する。蛍光顕微鏡の場合、顕微鏡解像度λ/2NA(NAは対物レンズのもの)とナイキスト条件からλ/4NA(NAは対物レンズのもの)の画素ピッチでデータを取得することが一般的である。観察する場合、等倍表示(表示素子1ピクセルに撮像素子1ピクセルを対応させて表示するという意味。観察対象物体のディスプレイ上での拡大倍率ではない。)で光学解像限界まで観察することが可能となる。したがって、標準観視距離でディスプレイを鑑賞する場合、等倍が実質的な最大観察倍率となる。この条件で属性(1)の最大視差量が決まる。フォーカススタックデータのzステップが150nmであって、フォーカススタックデータ1枚当たり、1画素のシフトを与える場合、「奥行表示範囲」は(150nm)*(±28枚)=±4200nmとなる。
健康上の理由から視差の設定を画面幅の3%以下で画像生成する条件であっても、前後方向の奥行幅はディスプレイの幅を上回るので、X,Y,Zの3Dステレオ表示倍率を1:1:1とすることが余裕をもって実現可能である。実験によれば、神経細胞などの形状認識を行う場合、X,Y,Zの3Dステレオ表示倍率を1:1:1とすると、あたかも手に取るように、立体形状を良好に認識できることを確認できた。
IPD/2=L*tan(α/2) …(19)
X,Y,Zの3Dステレオ表示倍率を1:1:1とするには、ディスプレイの視差方向の画素サイズPxのときに視差一画素当たりのデフォーカスピッチdfcsが式(20)でZ相対倍率Mz=1として与えられる量として、視差一画素当たりのデフォーカスピッチdfcsの割合で画像の横ずらしを与えて、任意ボケアルゴリズムにて画像合成すればよい。(この場合、視差一画素に満たないデフォーカスピッチの画像データは間引きされ、合成に用いられないことになる。)視差1画素当たりのデフォーカスピッチdfcsは式(20)で示される。
dfcs=Px/tan(α/2)/Mz …(20)
例えば、後述する図31に示されるように、設定パラメータ画面にZ相対倍率Mzを表示、入力可能とすることが望ましい。その場合、瞳孔間間隔、ディスプレイのサイズ、視距離、画素ピッチの情報も入力できるようにする(不図示)。ここで、本実施形態では、Z軸方向が奥行き方向に対応するので、以降の説明においてZ相対倍率Mzを奥行相対倍率Mzと称する。
物体、試料の寸法測定のために、目盛り付きの座標系XYZを立体表示することが望ましい。これを実現するには、目盛り付きの座標系XYZの3次元データ(ZをパラメータとしたXY2次元画像をスタックしたいわゆるZスタックデータまたはフォーカススタックデータ。座標のみの画像で、観察対象の情報は含まない。)を右目用、左目用に同じものを準備し、フォーカススタックデータの各Z値のXY画像1枚につき右目用、左目用としてX方向に互いに異なる方向にZに比例した画素ずつずらす。これらをZ軸方向に積分すれば、立体表示可能な右目用、左目用の画像データとなる。奥行相対倍率Mzは物体表示と同じ値にするので、視差1画素当たりのzステップ量も物体表示のdfcsと同じにする。これらの画像データを任意ボケアルゴリズムで合成した物体の右目用、左目用の画像データにそれぞれ足し合わせれば、目盛り付きの座標系XYZを物体と一緒に立体表示できる画像となる。目盛り付きの座標系XYZの3次元データの原点および目盛りの間隔をカーソルまたはキーボード入力で変更できるようにすることが望ましい。目盛り付きの座標系XYZは、物体の回転後の方向を常に表示しても良いし、常に回転前の方向を表示しても良い。
カーソルのドラッグにより物体を回転、シフトを押しながら平行移動としても良い。
図25は、コンフォーカル顕微鏡の無収差回折無しの点像強度分布にボケ関数を適用した観察者の左右両眼の方向をX方向(紙面水平方向)とした視差画像の生成例を示す。図25(a)は、図24(b)に示したNA:0.1の視差なしの合成画像である。ここで、3D画像としてステレオ視するためには、左右の視差画像を生成する必要がある。例えば、左目用の画像は、左に視点がずれた画像を合成することで生成できる。この場合、先の実施形態で説明したように、式(17)によって計算する。式(17)の合成画像を生成する際にリフォーカスの距離を中心に、1画像手前の画像は右に例えば1画素ずらし、2画像手前の画像は例えば2画素右にずらし、3画像手前の画像は例えば3画素右にずらす処理を順番に行う。反対に、リフォーカスの距離から1画像奥の画像は左に例えば1画素ずらし、2画像奥の画像は左に例えば2画素ずらし、3画像奥の画像は左に例えば3画素ずらす処理を順番に行う。ここで、左右のずらす方向はデータの奥行方向に応じて見え方が正しい方向に決定する。逆になると凸形状が凹形状になる。なお、画像をずらした際にはボケ関数PSFaは左右にずらす必要はない。このようにして、図25(a)のCF_NA0.1の視差なし画像から図25(b)に示すCF_NA0.1左目画像を生成することができる。同様に、右目用の画像は、右に視点がずれた画像を生成する。この場合、画像処理の際にリフォーカスの距離を中心に、1画像手前の画像は左に例えば1画素ずらし、2画像手前の画像は例えば2画素左にずらし、3画像手前の画像は例えば3画素左にずらす処理を順番に行う。反対に、リフォーカスの距離から1画像奥の画像は右に例えば1画素ずらし、2画像奥の画像は右に例えば2画素ずらす処理を順番に行う。このような操作により、3次元データに対して観察方向Z軸に直交するXY面内で観察者の左右両眼の方向X軸に沿って、リフォーカスの距離を中心に、Z軸に比例した横ずらし(シアー)を与えることになる。なお、右目用画像と同様に、画像をずらした際にはボケ関数PSFaは左右にずらす必要はない。このようにして、式(17)に沿って計算することで、図25(a)のCF_NA0.1の視差なし画像から図25(c)に示すCF_NA0.1右目画像を生成することができる。
図28は、本実施形態に係る画像処理装置100Aの操作インターフェースの一例と表示画像例を示す。図28(a)は、図22で説明した画像処理装置100Aの入力装置IMおよび出力装置OMにより実現される操作インターフェース300の一例を示し、ユーザーはディスプレイ上に表示された設定パラメータの設定を行う。ここで、図22の出力装置OMは2D/3Dディスプレイおよびヘッドマウントディスプレイなどに対応し、入力装置IMはマウス、キーボードおよびタッチパネルなどに対応する。図28(b)は、図28(a)の設定パラメータによる表示画像の一例を示す。ここで、図28(a)に示す設定パラメータの画面と図28(b)に示す画像表示の画面とが1つのディスプレイ上に並べて表示されてもよいし、設定パラメータの画面と画像表示の画面とが別々のディスプレイに表示されてもよい。また、図28(b)に示す合成画像の画面には、元画像の撮影データの情報(NA、媒質屈折率、蛍光励起波長、受光波長など)が合成画像と共に表示される。
以下、式(17)に沿って任意ボケアルゴリズムを用いて合成する場合と、式(11)に沿って任意ボケアルゴリズムを用いないで合成する場合とにおいて、自由視点で任意の深度でのステレオ画像生成を行う手法について説明する。
任意ボケアルゴリズムを用いて合成する場合は次のように行う。
アフィン変換などにより3次元フォーカススタックデータを回転させる。回転後、観察方向をZ軸、観察者の左右両眼の方向をX軸とした座標系に等間隔に整列したデータとなるように補間を行う。
アフィン変換などにより光学系の3次元点像強度分布を(1)と同じだけ回転させる。回転後、観察方向をZ軸、観察者の左右両眼の方向をX軸とした座標系に等間隔に整列したデータとなるように補間を行う。
回転後の3次元フォーカススタックデータの観察方向に直交する断面に対して、任意の3次元ボケカーネルの観察方向に直交する円形断面を2次元コンボリューションする。この結果は、観察方向をZ軸、観察者の左右両眼の方向をX軸とした新フォーカススタックデータと称する。3次元ボケカーネルの焦点はリフォーカス距離に設定される。
上記(3)の結果の3次元データに対して観察方向Z軸に直交するXY面内で観察者の左右両眼の方向X軸に沿って、リフォーカスの距離を中心に、Z軸に比例した横ずらし(シアー)を与える。つまり、新フォーカススタックデータに対してリフォーカスの距離を中心に、Z軸に比例し1画像手前の画像は右に1画素ずらし、2画像手前の画像は2画素右にずらし、3画像手前の画像は3画素右にずらす処理を順番に行う。反対に、リフォーカスの距離から1画像奥の画像は左に1画素ずらし、2画像奥の画像は左に2画素ずらし、3画像奥の画像は左に3画素ずらす処理を順番に行う。なお、左右のずらす方向はデータの奥行方向に応じて見え方が正しい方向に決定する。逆になると凸形状が凹形状になる。また、(4)と(3)の順番は逆でもよい。
上記(4)の結果を観察方向に積分する。結果は2次元データとなる。
回転後の3次元点像強度分布の観察方向に直交する断面に対して、3次元ボケカーネルの観察方向に直交する円形断面を2次元コンボリューションする。この結果を観察方向であるZ軸方向に積分する。結果は2次元データとなる。
上記(5)の結果の2次元データを(6)の結果の2次元データでデコンボリューションする。
任意ボケアルゴリズムを用いないで合成する場合は次のように行う。
光学PSFによる3次元デコンボリューション処理により3Dフォーカススタックデータは3次元物体強度分布に変換される。
アフィン変換などにより3次元物体強度分布を回転させる。回転後、観察方向をZ軸、観察者の左右両眼の方向をX軸とした座標系に等間隔に整列したデータとなるように補間を行う。
回転後の3次元物体強度分布の観察方向に直交する断面に対して、任意の3次元ボケカーネル観察方向に直交する円形断面を2次元コンボリューションする。この結果は、観察方向をZ軸、観察者の左右両眼の方向をX軸とした新フォーカススタックデータと称する。3次元ボケカーネルの焦点はリフォーカス距離に設定される。
(3)の結果の3次元データに対して観察方向に直交する面内で観察者の左右両眼の方向X軸に沿って、リフォーカスの距離を中心に、Z軸に比例した横ずらし(シアー)を与える。つまり、新フォーカススタックデータに対してリフォーカスの距離を中心に、Z軸に比例し1画像手前の画像は右に1画素ずらし、2画像手前の画像は2画素右にずらし、3画像手前の画像は3画素右にずらす処理を順番に行う。反対に、リフォーカスの距離から1画像奥の画像は左に1画素ずらし、2画像奥の画像は左に2画素ずらし、3画像奥の画像は左に3画素ずらす処理を順番に行う。なお、左右のずらす方向はデータの奥行方向に応じて見え方が正しい方向に決定する。逆になると凸形状が凹形状になる。
上記(4)の結果を観察方向に積分する。
Claims (16)
- 互いに合焦位置が異なる複数の画像の各々に、(1)再合焦位置および絞り値、または(2)再合焦位置および開口数NAに対応するボケの度合いで、前記再合焦位置に設定されたボケ関数を用いてボケ処理を実行する第1処理部と、
前記ボケ処理が実行された前記複数の画像を奥行き方向に積算した積算画像を生成する積算部と、
前記積算部で生成された前記積算画像に鮮鋭化処理を実行し、所定のボケの度合いを有する合成画像を生成する第2処理部と
を備え、
前記鮮鋭化処理は、前記積算画像を前記奥行き方向に沿って積分した関数で2次元デコンボリューションしたものであり、前記関数は、前記複数の画像が取得された光学系の点拡がり関数に前記ボケ関数を前記奥行き方向に垂直な平面内で2次元コンボリューションしたものである
画像処理装置。 - (1)前記再合焦位置および前記絞り値、または(2)前記再合焦位置および前記開口数NAは、入力装置を介して、ユーザにより指示される
請求項1に記載の画像処理装置。 - 前記第1処理部は、前記複数の画像の各々が互いに異なる複数の色成分を有する場合、前記複数の画像の各々に対する前記ボケ処理を前記色成分毎に実行し、
前記積算部は、前記色成分毎に前記積算画像を生成し、
前記第2処理部は、前記色成分毎に前記積算画像の前記鮮鋭化処理を実行する
請求項1又は請求項2に記載の画像処理装置。 - 前記第1処理部による前記ボケ処理および前記第2処理部による前記鮮鋭化処理は、周波数領域で実行される
請求項1乃至請求項3のいずれか1項に記載の画像処理装置。 - 前記複数の画像の各々が互いに異なる複数の色成分を有する場合、前記各色成分の前記複数の画像を前記奥行き方向に移動させることにより、前記各色成分における前記再合焦位置を互いに一致させる前処理部をさらに備え、
前記第2処理部は、前記各色成分の前記複数の画像における前記移動に応じて、前記各色成分の点拡がり関数における前記再合焦位置を互いに一致させる
請求項1乃至請求項4のいずれか1項に記載の画像処理装置。 - 前記前処理部は、前記複数の色成分がR成分、G成分およびB成分の場合、前記再合焦位置の画像以外の前記G成分の前記複数の画像を前記奥行き方向に移動させることにより、前記各色成分における前記再合焦位置を互いに一致させ、
前記第2処理部は、前記G成分の前記複数の画像の前記移動に応じて、前記各色成分の点拡がり関数における前記再合焦位置を互いに一致させる
請求項5に記載の画像処理装置。 - 前記第2処理部は、前記光学系の光軸に対して垂直な平面上で(1)前記複数の画像および前記点拡がり関数、または(2)前記ボケ関数を所定量シフトさせ、任意の再合焦位置での前記合成画像を生成する
請求項1に記載の画像処理装置。 - 前記第2処理部は、ステレオ視するための第1の目用の前記合成画像と第2の目用の前記合成画像とをそれぞれ生成する
請求項7に記載の画像処理装置。 - 前記第2処理部は、
第1の目用の画像を生成するときには、前記複数の画像を、前記再合焦位置から前記光学系に近くなるほど第1の方向側に大きくシフトさせ、前記複数の画像を、前記再合焦位置から前記光学系に対して遠くなるほど前記第1の方向とは逆の第2の方向側に大きくシフトさせる処理を行い、
第2の目用の画像を生成するときには、前記複数の画像を、前記再合焦位置から前記光学系に近くなるほど前記第2の方向側に大きくシフトさせ、前記再合焦位置から前記光学系に対して遠くなるほど前記第1の方向側に大きくシフトさせる処理を行う
請求項8に記載の画像処理装置。 - 前記複数の画像に対して、三次元座標の各軸の少なくとも1つの軸を任意の回転角度で回転させた複数の画像を生成する回転処理部をさらに設け、
前記第1処理部は、前記回転処理部が回転させた複数の画像の各々に、前記再合焦位置でのボケ処理を実行する
請求項1乃至請求項9のいずれか一項に記載の画像処理装置。 - 前記ボケ処理のボケの度合いおよび前記回転角度の少なくとも1つを設定するための操作インターフェースをさらに備える
請求項10に記載の画像処理装置。 - 互いに合焦状態が異なる複数の画像の各々に、(1)再合焦位置および絞り値、または(2)再合焦位置および開口数NAに対応するボケの度合いで、前記再合焦位置に設定されたボケ関数を用いてボケ処理を実行し、
前記ボケ処理が実行された前記複数の画像を奥行き方向に積算した積算画像を生成し、
生成された前記積算画像に鮮鋭化処理を実行し、所定のボケの度合いを有する合成画像を生成し、
前記鮮鋭化処理は、前記積算画像を前記奥行き方向に沿って積分した関数で2次元デコンボリューションしたものであり、前記関数は、前記複数の画像が取得された光学系の点拡がり関数に前記ボケ関数を前記奥行き方向に垂直な平面内で2次元コンボリューションしたものである
処理をコンピュータに実行させる画像処理プログラム。 - 前記複数の画像に対して、三次元座標の各軸の少なくとも1つの軸を任意の回転角度で回転させた複数の画像を生成する回転処理をさらに実行し、前記回転処理により回転させた複数の画像の各々に、前記再合焦位置でのボケ処理を実行する
処理をコンピュータに実行させる
請求項12に記載の画像処理プログラム。 - 互いに合焦状態が異なる複数の画像の各々に、(1)再合焦位置および絞り値、または(2)再合焦位置および開口数NAに対応するボケの度合いで、前記再合焦位置に設定されたボケ関数を用いてボケ処理を実行し、
前記ボケ処理が実行された前記複数の画像を奥行き方向に積算した積算画像を生成し、
生成された前記積算画像に鮮鋭化処理を実行し、所定のボケの度合いを有する合成画像を生成し、
前記鮮鋭化処理は、前記積算画像を前記奥行き方向に沿って積分した関数で2次元デコンボリューションしたものであり、前記関数は、前記複数の画像が取得された光学系の点拡がり関数に前記ボケ関数を前記奥行き方向に垂直な平面内で2次元コンボリューションしたものである
ことを含む画像処理方法。 - 前記複数の画像に対して、三次元座標の各軸の少なくとも1つの軸を任意の回転角度で回転させた複数の画像を生成する回転処理をさらに実行し、前記回転処理により回転させた複数の画像の各々に、前記再合焦位置でのボケ処理を実行する
請求項14に記載の画像処理方法。 - 少なくとも1つの対物レンズと、
少なくとも1つの撮像素子と、
前記対物レンズと前記撮像素子とを用いて取得した前記複数の画像に基づき、所定の前記ボケの度合いを有する前記合成画像を生成する請求項1乃至請求項11のいずれか1項に記載の画像処理装置と
を備える顕微鏡。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP19898401.5A EP3902238A4 (en) | 2017-12-21 | 2019-06-14 | IMAGE PROCESSING DEVICE, IMAGE PROCESSING PROGRAM, IMAGE PROCESSING METHOD AND IMAGE DEVICE |
PCT/JP2019/023772 WO2020129280A1 (ja) | 2017-12-21 | 2019-06-14 | 画像処理装置、画像処理プログラム、画像処理方法および撮像装置 |
US17/353,539 US11928794B2 (en) | 2017-12-21 | 2021-06-21 | Image processing device, image processing program, image processing method, and imaging device |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017244786 | 2017-12-21 | ||
JP2017244786 | 2017-12-21 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019114250A JP2019114250A (ja) | 2019-07-11 |
JP2019114250A5 JP2019114250A5 (ja) | 2022-01-27 |
JP7238381B2 true JP7238381B2 (ja) | 2023-03-14 |
Family
ID=67221573
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018236689A Active JP7238381B2 (ja) | 2017-12-21 | 2018-12-18 | 画像処理装置、画像処理プログラム、画像処理方法および顕微鏡 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11928794B2 (ja) |
EP (1) | EP3902238A4 (ja) |
JP (1) | JP7238381B2 (ja) |
WO (1) | WO2020129280A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020246788A1 (ko) * | 2019-06-05 | 2020-12-10 | 세종대학교산학협력단 | 스캐닝 홀로그램 기반 자동광학검사 장치 및 방법 |
CN110503620B (zh) * | 2019-07-31 | 2023-01-06 | 茂莱(南京)仪器有限公司 | 一种基于傅立叶频谱提取的图像融合方法 |
CN114730070A (zh) * | 2019-11-22 | 2022-07-08 | 索尼集团公司 | 图像处理方法、图像处理装置和图像处理*** |
CN113452898B (zh) * | 2020-03-26 | 2023-07-18 | 华为技术有限公司 | 一种拍照方法及装置 |
CN111784695B (zh) * | 2020-06-01 | 2024-03-22 | 北京像素软件科技股份有限公司 | 图形的裁剪方法、装置、电子设备及存储介质 |
US11893668B2 (en) * | 2021-03-31 | 2024-02-06 | Leica Camera Ag | Imaging system and method for generating a final digital image via applying a profile to image information |
US20230044716A1 (en) * | 2021-08-03 | 2023-02-09 | Samsung Electronics Co., Ltd. | Meta-lens, imaging optics, and electronic device including the same |
CN115049655B (zh) * | 2022-08-15 | 2022-11-11 | 汕头大学·香港中文大学联合汕头国际眼科中心 | 一种小鼠模型视网膜病灶分布分析方法 |
CN115100440B (zh) * | 2022-08-22 | 2023-01-10 | 深圳市今朝时代股份有限公司 | 基于超级电容储能的电源监管反馈*** |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002247439A (ja) | 2001-02-13 | 2002-08-30 | Ricoh Co Ltd | 画像入力装置、画像入力方法、およびその方法をコンピュータで実行するためのプログラムが格納されているコンピュータが読み取り可能な記録媒体 |
JP2013026844A (ja) | 2011-07-21 | 2013-02-04 | Nikon Corp | 画像生成方法及び装置、プログラム、記録媒体、並びに電子カメラ |
JP2013531309A (ja) | 2010-06-29 | 2013-08-01 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 画像捕捉装置のアレイにより得られたデータから仮想出力画像を作るための方法及びシステム |
JP2014107631A (ja) | 2012-11-26 | 2014-06-09 | Nikon Corp | 画像生成方法及び装置 |
US20140368494A1 (en) | 2013-06-18 | 2014-12-18 | Nvidia Corporation | Method and system for rendering simulated depth-of-field visual effect |
WO2015146380A1 (ja) | 2014-03-28 | 2015-10-01 | 富士フイルム株式会社 | 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム |
JP2017034682A (ja) | 2016-09-08 | 2017-02-09 | 株式会社ニコン | 画像生成装置、画像処理装置、画像生成方法及び画像処理プログラム |
US20170091906A1 (en) | 2015-09-30 | 2017-03-30 | Lytro, Inc. | Depth-Based Image Blurring |
JP2017201810A (ja) | 2017-06-27 | 2017-11-09 | 株式会社ニコン | 撮像装置及び撮像方法 |
JP2018157573A (ja) | 2018-04-25 | 2018-10-04 | 株式会社ニコン | 任意視点画像合成方法及び画像処理装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3303128B2 (ja) | 1998-04-15 | 2002-07-15 | 東京大学長 | 複数画像を用いる画像処理方法およびそれに用いる複数画像同時撮像型カメラ装置 |
-
2018
- 2018-12-18 JP JP2018236689A patent/JP7238381B2/ja active Active
-
2019
- 2019-06-14 WO PCT/JP2019/023772 patent/WO2020129280A1/ja unknown
- 2019-06-14 EP EP19898401.5A patent/EP3902238A4/en active Pending
-
2021
- 2021-06-21 US US17/353,539 patent/US11928794B2/en active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002247439A (ja) | 2001-02-13 | 2002-08-30 | Ricoh Co Ltd | 画像入力装置、画像入力方法、およびその方法をコンピュータで実行するためのプログラムが格納されているコンピュータが読み取り可能な記録媒体 |
JP2013531309A (ja) | 2010-06-29 | 2013-08-01 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 画像捕捉装置のアレイにより得られたデータから仮想出力画像を作るための方法及びシステム |
JP2013026844A (ja) | 2011-07-21 | 2013-02-04 | Nikon Corp | 画像生成方法及び装置、プログラム、記録媒体、並びに電子カメラ |
JP2014107631A (ja) | 2012-11-26 | 2014-06-09 | Nikon Corp | 画像生成方法及び装置 |
US20140368494A1 (en) | 2013-06-18 | 2014-12-18 | Nvidia Corporation | Method and system for rendering simulated depth-of-field visual effect |
WO2015146380A1 (ja) | 2014-03-28 | 2015-10-01 | 富士フイルム株式会社 | 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム |
US20170091906A1 (en) | 2015-09-30 | 2017-03-30 | Lytro, Inc. | Depth-Based Image Blurring |
JP2017034682A (ja) | 2016-09-08 | 2017-02-09 | 株式会社ニコン | 画像生成装置、画像処理装置、画像生成方法及び画像処理プログラム |
JP2017201810A (ja) | 2017-06-27 | 2017-11-09 | 株式会社ニコン | 撮像装置及び撮像方法 |
JP2018157573A (ja) | 2018-04-25 | 2018-10-04 | 株式会社ニコン | 任意視点画像合成方法及び画像処理装置 |
Also Published As
Publication number | Publication date |
---|---|
JP2019114250A (ja) | 2019-07-11 |
US11928794B2 (en) | 2024-03-12 |
EP3902238A1 (en) | 2021-10-27 |
EP3902238A4 (en) | 2022-09-07 |
US20210312596A1 (en) | 2021-10-07 |
WO2020129280A1 (ja) | 2020-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7238381B2 (ja) | 画像処理装置、画像処理プログラム、画像処理方法および顕微鏡 | |
JP6112824B2 (ja) | 画像処理方法および装置、プログラム。 | |
JP5968107B2 (ja) | 画像処理方法、画像処理装置およびプログラム | |
JP5780865B2 (ja) | 画像処理装置、撮像システム、画像処理システム | |
CN109310278B (zh) | 图像处理装置、图像处理方法、程序和图像处理*** | |
US10146039B2 (en) | Image capture method for a microscope system, and corresponding microscope system | |
EP3086185A1 (en) | Holographic three-dimensional display system and method | |
CN104144284B (zh) | 成像设备和成像方法 | |
JP5464279B2 (ja) | 画像処理装置、そのプログラム、および画像処理方法 | |
CN109031642B (zh) | 一种通用的体视显微裸眼可视化的显示方法和***装置 | |
JP6478511B2 (ja) | 画像処理方法、画像処理装置、複眼撮像装置、画像処理プログラム、および、記憶媒体 | |
JP2000207549A (ja) | 画像処理装置 | |
JP2019114250A5 (ja) | 画像処理装置、画像処理プログラム、画像処理方法および顕微鏡 | |
JP2013026844A (ja) | 画像生成方法及び装置、プログラム、記録媒体、並びに電子カメラ | |
JP2016024489A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム | |
KR20210005555A (ko) | 디지털 가능하게 보정된 수차가 있는 혼합 현실 광학 시스템 | |
KR102253320B1 (ko) | 집적영상 현미경 시스템에서의 3차원 영상 디스플레이 방법 및 이를 구현하는 집적영상 현미경 시스템 | |
US20160353079A1 (en) | Image processing apparatus, image processing method, and storage medium | |
Mignard-Debise et al. | Light-field microscopy with a consumer light-field camera | |
US20180081161A1 (en) | Microscopy system, microscopy method, and computer-readable recording medium | |
JP6170725B2 (ja) | 画像処理装置、及びプログラム | |
JP2017034682A (ja) | 画像生成装置、画像処理装置、画像生成方法及び画像処理プログラム | |
JP2019520897A (ja) | 拡張された被写界深度を有する口腔内イメージング装置 | |
JP2017050662A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
US20040169922A1 (en) | Stereo microscopy |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220119 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221122 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230117 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230131 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230213 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7238381 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |