JP7324047B2 - ホログラム記録再生装置及び立体像再生方法 - Google Patents

ホログラム記録再生装置及び立体像再生方法 Download PDF

Info

Publication number
JP7324047B2
JP7324047B2 JP2019095292A JP2019095292A JP7324047B2 JP 7324047 B2 JP7324047 B2 JP 7324047B2 JP 2019095292 A JP2019095292 A JP 2019095292A JP 2019095292 A JP2019095292 A JP 2019095292A JP 7324047 B2 JP7324047 B2 JP 7324047B2
Authority
JP
Japan
Prior art keywords
hologram
averaging
pixels
spatial
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019095292A
Other languages
English (en)
Other versions
JP2020190616A (ja
Inventor
輝吉 信川
祐太郎 片野
哲彦 室井
延博 木下
紀彦 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2019095292A priority Critical patent/JP7324047B2/ja
Publication of JP2020190616A publication Critical patent/JP2020190616A/ja
Application granted granted Critical
Publication of JP7324047B2 publication Critical patent/JP7324047B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Holo Graphy (AREA)

Description

本発明はホログラム記録再生装置及び立体像再生方法に関し、特に、インコヒーレントホログラフィによる立体像の記録再生装置及び立体像再生方法に関する。
インコヒーレントホログラフィの技術では、太陽光、LED(Light Emitting Diode)などの低コヒーレンス光源を用いて、物体のホログラムを記録することができる(特許文献1、非特許文献1)。この特徴から、インコヒーレントホログラフィは立体撮影技術として有望視されている。しかし、インコヒーレントホログラフィでは、レーザーなどの高コヒーレンス光源を用いるホログラフィと比較すると、ホログラムのコントラストが非常に低いため、撮像素子のノイズの影響を受けやすくなり、再生像の品質が低いという問題が残されている。
この問題に対し、インコヒーレントホログラフィのノイズを低減し、再生像の品質を改善するために、複数枚のホログラムを撮影し、それらを平均化する方法が提案されている(非特許文献2)。
図16に、ホログラムの平均化(時間平均)の概念図を示す。ここでは、ホログラムの撮影方法として、4ステップの位相シフト法(非特許文献3)を用いた場合を示している。一般的には、位相シフト量が0,π/2,π,3π/2 radの4枚のホログラムを撮像素子10により撮影することで、撮影対象の物体を撮影・再構成することが可能である。しかし、実際には撮像素子のノイズの影響が無視できず、撮影したホログラムにノイズが含まれてしまう。
このノイズを低減するために、図16に示すように、位相シフト量が異なる各ホログラムをn枚ずつ撮影し、ホログラム群を得る。各ホログラムに含まれるノイズは、時間に依存して変動する分布であるため、取得したホログラム群に対して、(“1枚目”+“2枚目”+・・・+“n枚目”)/nの平均化の信号処理を適用することによって、ノイズ成分が低減されたホログラムを得ることができる。平均化して得られた4枚のホログラムに対して、4ステップの位相シフト法のアルゴリズム(例えば、非特許文献3)に基づいて解析することで、ノイズの低減された複素振幅分布を取得することができ、さらに、これから物体の高品質の3次元情報又は再生像を再構成することができる。
特表2016-533542号公報 特許第6245551号公報
J. Rosen and G. Brooker,「Non-scanning motionless fluorescence three-dimensional holographic microscopy」,Nature Photonics,(2008),Vol. 2,pp. 190-195 B. Katz, D. Wulich, and J. Rosen,「Optimal noise suppression in Fresnel incoherent correlation holography (FINCH) configured for maximum imaging resolution」,Applied Optics,(2010),Vol. 49,No. 30,pp. 5757-5763 I. Yamaguchi and T. Zhang,「Phase-shifting digital holography」,Optics Letters,(1997),Vol. 22,No. 16,pp. 1268-1270 J. Hong and M. K. Kim,「Single-shot self-interference incoherent digital holography using off-axis configuration」,Optics Letters,(2013),Vol. 38,No. 23,pp. 5196-5199 W. Qin, X. Yang, Y. Li, X. Peng, H. Yao, X. Qu, and B. Z. Gao,「Two-step phase-shifting fluorescence incoherent holographic microscopy」,Journal of Biomedical Optics,(2014),Vol. 19,No. 6,060503
しかしながら、上述の平均化(時間平均)の処理を行うノイズの低減技術は、平均化をするために、4×n回の複数の撮影が必要であるため、撮影時間が長いという課題がある。例えば、画素分割位相シフト法(特許文献2)、オフアクシス法(非特許文献4)、2ステップの位相シフト法(非特許文献5)、3ステップの位相シフト法(非特許文献1)で非特許文献2の平均化の手法を用いる場合には、撮影回数はそれぞれn回、n回、2×n回、3×n回と、全手法でn倍となる。
このように従来技術では、ノイズの発生位置が異なるn枚のホログラムを撮像素子で撮影して、時間的な平均化の演算を適用する必要があるため、ノイズを低減するために撮影時間が少なくともn倍となり、時間分解能が低下する課題がある。
従って、上記のような問題点に鑑みてなされた本発明の目的は、インコヒーレントホログラフィにおいて、時間的分解能を低下させることなく、ホログラムに含まれるノイズを低減し、高品質な再生像を取得することができるホログラム記録再生装置及び立体像再生方法を提供することにある。
図1に、本発明のホログラムの平均化(空間平均)の概念図を示す。本発明は、図1に示すように、撮像素子10により撮影されたインコヒーレント光によるホログラムについて、各ホログラムの各画素の信号値に対して隣接画素との平均化処理(空間平均の信号処理)を導入することで、ノイズ低減の効果を得る。ディジタルカメラ等では、ノイズを低減するために空間平均(或いは画素ビニング)の信号処理が一般的に用いられるが、インコヒーレントホログラフィでは、空間平均の信号処理を適用した試みは未だ報告されていない。
上記課題を解決するために本発明に係るホログラム記録再生装置は、インコヒーレントな光波を第1分割光と第2分割光に分割し、互いに異なる位相分布を付与後、前記第1分割光と前記第2分割光を干渉させて形成したホログラムを再構成して、立体像を再生するホログラム記録再生装置において、撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する演算を含む空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生し、前記空間平均処理に用いる隣接領域の水平方向画素数n x 及び垂直方向画素数n y (n x ,n y >1)を、光源の波長λ、干渉縞の焦点距離z r 、干渉縞の直径D h 、撮像素子の画素ピッチpとして、λz r /D h p以下に設定することを特徴とする。
また、前記ホログラム記録再生装置は、前記空間平均処理が、平均化前の水平方向画素数nx、垂直方向画素数ny(nx,ny>1)として、nx×ny個の画素ごとに信号値を平均化する演算と、次いで、nx×ny倍に画素数を拡大して平均化前後で画素数、画素ピッチを同じにする演算を含むことが望ましい。
また、前記ホログラム記録再生装置は、前記空間平均処理が、平均化前の水平方向画素数nx、垂直方向画素数ny(nx,ny>1)として、nx×ny個の要素数を有する空間フィルタとの畳み込み積分を含むことが望ましい。
また、前記ホログラム記録再生装置は、前記空間平均処理後に、平均化に用いた画素数の逆数に対応する空間周波数帯域を有するローパスフィルタリングを適用することが望ましい。
また、前記ホログラム記録再生装置は、少なくとも前記ホログラム記録再生装置を構成する光学素子の焦点距離、有効開口径、光源の波長、光学素子間の距離、及び撮影対象物体から撮像素子までの距離の情報に応じて、前記空間平均処理に用いる隣接領域の画素数を設定することが望ましい。
上記課題を解決するために本発明に係る立体像再生方法は、インコヒーレントな光波から分割され、互いに異なる位相分布を付与された第1分割光と第2分割光とが干渉して形成されたホログラムを再構成し、立体像を再生する立体像再生方法において、撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生し、前記空間平均処理に用いる隣接領域の水平方向画素数n x 及び垂直方向画素数n y (n x ,n y >1)を、光源の波長λ、干渉縞の焦点距離z r 、干渉縞の直径D h 、撮像素子の画素ピッチpとして、λz r /D h p以下に設定することを特徴とする。
また、前記立体像再生方法は、前記空間平均処理後に、平均化に用いた画素数の逆数に対応する空間周波数帯域を有するローパスフィルタリングを適用することが望ましい。
本発明におけるホログラム記録再生装置及び立体像再生方法によれば、インコヒーレントホログラフィにおいて、時間的分解能を低下させることなく、ホログラムに含まれるノイズを低減し、高品質な再生像を取得することが可能となる。また、再生像のコントラストを向上させることができる。
本発明のホログラムの平均化(空間平均)の概念図である。 単一光路干渉計に基づくインコヒーレントホログラフィの光学系を示す図である。 信号値の平均処理によるホログラムの平均化(空間平均)の概念図である。 空間フィルタによるホログラムの平均化(空間平均)の概念図である。 空間平均の影響を説明するためのホログラムとその再生像である。 インコヒーレントホログラフィで撮影されるホログラムの一例である。 他の干渉計に基づくインコヒーレントホログラフィの光学系を示す図である。 効果の検証に用いたインコヒーレントホログラフィの光学系を示す図である。 様々な条件でホログラムを処理して再構成した再生像である。 図9(d)の拡大図と図9(g)の拡大図である。 平均化枚数に対するコントラスト比と平滑度の評価結果を示す図である。 撮影対象物体の記録位置に対して要求されるサンプリング間隔の関係を示す図である。 再生像の光学的伝達関数の評価結果を比較する図である。 反射物体を用いたインコヒーレントホログラフィの光学系を示す図である。 様々な空間平均を適用した後、再生像を再構成した結果を示す図である。 従来技術のホログラムの平均化(時間平均)の概念図である。
以下、本発明の実施の形態について、図を参照しながら説明する。
(実施の形態)
図2に、単一光路干渉計に基づくインコヒーレントホログラフィの光学系を示す。光学系は、点光源1、レンズ2、偏光子3、空間光変調器4、偏光子5、バンドパスフィルター6、及び撮像素子10の各光学素子と、信号処理装置20を備えている。以下に、図2の単一光路干渉計を用いたホログラム撮影を例として、本発明によるノイズ低減の手段の詳細を述べる。
インコヒーレントな光で照明された物体、或いは、インコヒーレントな光を発生する物体は、複数の点光源の集まりとみなすことができる。したがって、任意の3次元物体のホログラムは、各点光源が形成するホログラムの足し合わせと考えることができる。ここでは、撮影対象の物体が一つの点光源1で構成されているとし、ホログラムを撮影する過程を述べる。
点光源から伝搬する波長λの光は、距離zsに配置された焦点距離f0、開口径D0のレンズ2に入射する。このレンズ2の使用は任意であるが、光効率を高める場合や、像倍率及び視野を調整するために用いる。レンズ2を通過した後の光は偏光子3を通過し、偏光状態が45度に傾いた直線偏光となる。この45度直線偏光の水平直線偏光成分と垂直直線偏光成分のそれぞれを、インコヒーレントホログラフィの自己干渉に必要な第1分割光と第2分割光とする。
これら第1分割光と第2分割光のそれぞれの位相分布に、レンズからzlの距離に配置された有効開口径Dslmの空間光変調器4を用いて焦点距離fd1、fd2の位相分布を付与する。なお、空間光変調器4としては、複屈折性を有する液晶や回折光学素子、メタサーフェスなどが用いられる。空間光変調器4により互いに異なる位相を付与された第1分割光と第2分割光は、空間光変調器4からzh離れた画素ピッチp、有効開口径Dsensorの撮像素子10の撮像面まで伝搬する(実線と破線は、第1分割光と第2分割光のイメージ)。
空間光変調器4と撮像素子10の間には、再度、偏光子5が配置されており、第1分割光と第2分割光がこの偏光子5を通過することで、偏光状態が45度直線偏光で一致し、撮像素子面で干渉縞を形成する。撮像素子10を用いて、この干渉縞をホログラムとして撮影する。
この実施例では、空間光変調器4により、0,π/2,π,3π/2 radの4通りの位相シフト量を与え、4枚のホログラムを得る(図1)。なお、光の波長幅が広く、干渉縞が得られない場合には、バンドパスフィルター6を用いて、波長幅を狭くし、時間的コヒーレンスを高める。なお、撮像素子10で撮影したホログラムには、0次光(直接像)成分と共役像成分のアーチファクトが含まれている。これを除去するには、後述のとおり、位相シフト法或いはオフアクシス法により光の複素振幅分布を取得する。
本発明では、この撮影したホログラムに対して、信号処理装置20内で、空間的な平均化の信号処理(空間平均処理)を適用する。
図3は、隣接複数画素の信号値の平均処理によるホログラムの平均化(空間平均)の概念図である。撮像素子10で撮影したホログラムの画像データIの水平方向、垂直方向の座標を左上から1,2,3,・・・と割り当て,各画素位置の輝度信号I(i,j)とする。平均化前の水平方向画素数nx、垂直方向画素数nyとして、nx×ny(nx,ny>1)個の画素毎の空間的な平均化の演算を適用した後の画像データI'(i',j')は、次式(1)で与えられる。ここでは、nx×ny個の画素領域が一つの隣接領域となる。
図3のように平均化した場合には,平均化後の画像データの水平・垂直方向の画素数は、それぞれ1/nx倍、1/ny倍となり、水平・垂直方向の画素ピッチはそれぞれnx倍、ny倍となる。なお、平均化前の画像データIの水平・垂直方向の画素数がnx、nyで割り切れない場合には、撮影した画像データIにゼロパディングや、線形・非線形補完、周期性を考慮した補完等の画像処理を適用して、画像データを拡張した後に平均化する。
さらに、平均化前後で画像データの画素数、画素ピッチを同じにするために、平均化後の画像データに対して、nx×ny倍のニアレストネイバー、バイリニア―、バイキュービック法等の画像処理技術を適用し、画像データの画素数を拡大する(平均化前の画素数とする)ことが望ましい。データ量を削減、或いは、演算量を削減したい場合には、上述のnx×ny倍の拡大の画像処理は適用しなくてもよい。
ホログラムの平均化(空間平均)の処理は、他の方法を用いても良い。図4に、空間フィルタによるホログラムの平均化(空間平均)の概念図を示す。例えば、nx×nyの要素数を有する空間フィルタ(各要素の係数は、1/nxy)との畳み込み積分による移動平均を行う。また、重みづけ平均、メディアンフィルタ等を用いて、I'を得てもよい。この場合は、空間フィルタの範囲が、中央の画素についての隣接領域となる。
以上の空間的な平均化の演算により、撮影したホログラム内の隣接画素ごとに独立に分布しているノイズ成分を除去することが可能である。
撮像素子で撮影したホログラムには、一般的に、直接像成分と共役像成分が含まれている。よって、図1に示すように、空間的な平均化の演算の後、ホログラムを位相シフト法のアルゴリズム(例えば、特許文献2、非特許文献1、非特許文献5)、或いはオフアクシス法(例えば、非特許文献4)で解析することにより、直接像成分と共役像成分が含まれていない複素振幅分布を得ることが望ましい。なお、直接像成分と共役像成分が再生像の品質に与える影響が軽微な場合には、複素振幅分布を取得しなくてもよい。
この後、ノイズ成分が除去されたホログラム又は複素振幅分布に対して、フレネル回折積分や角スペクトル法等の伝搬計算、或いは相関演算を適用し、再生像を得ることができる。
例えば、空間平均処理によりノイズ成分が除去されたホログラムから、位相シフト法等により複素振幅分布O(x,y)を解析し、取得したO(x,y)に対して、次式(2)の伝搬計算を適用する。
ここでFT[・・・]、FT-1[・・・]は、2次元のフーリエ変換演算子、2次元の逆フーリエ変換演算子であり、iは虚数、zrは距離、λは波長、u,vは空間周波数の変数である。この計算により、再生系において距離zrにおける物体の像O'(x,y;zr)を再生することができる。
本発明により、ノイズの低減した高品質な再生像を得ることができる。また、撮像素子で得られた通常の画像において空間平均化を行っても、単にノイズ(画像のざらつき)が低減するだけで、コントラストは変化しないが、本発明のインコヒーレントホログラフィにおいては、後述のとおり、空間平均化によって、得られた再生像のコントラストが高くなるという、他の画像とは異なる効果を奏する。
(改良された実施の形態)
上述のとおり、各ホログラムの隣接画素毎の信号値に対して空間平均を導入することで、再生像のノイズ低減の効果が得られるが、空間平均の信号処理を単純にインコヒーレントホログラフィに導入することで、以下の2つの問題が生じることが懸念される。
図5に、空間平均の影響を説明するためのホログラムとその再生像を示す。図5(a)、(b)は、空間的な平均化を行わないときのホログラムとその再生像であり、また、図5(c)、(d)は、空間的な平均化を行ったときのホログラムとその再生像である。
1つ目の問題は、撮影したホログラム中にエイリアシングが発生することによって、再生像の品質が劣化し、偽の再生像が発生することである。図5(a)の同心円状のホログラムに対して空間平均の信号処理を適用することで、図5(c)に示すように、ホログラムの高周波成分が失われ、複数(上下、左右、斜め)の同心円状のホログラムが得られてしまう。このホログラムを伝搬計算又は再構成計算を適用することで、図5(d)の再生像のように、本来存在しないはずの複数の偽の点像が得られる。この問題は、像を得るために伝搬計算又は再構成計算を必要とするインコヒーレントホログラフィ特有の問題である。
もう1つの問題は、有効なホログラムの直径が小さくなり、再生像の空間分解能が劣化することである。図5(c)の空間平均後のホログラムでは、複数の同心円状のホログラムが形成されると同時に、中心部分のホログラムの直径が小さくなっている。ホログラムの直径が小さくなることは、レンズのNAが低下することと対応しており、図5(d)のように、ホログラムから再生される点像がぼやけて直径が大きくなる。その結果、通常のディジタルカメラと同様に、空間的な平均化によって再生像の空間分解能が劣化する。
本発明では更なる改良として、ホログラムに空間平均の信号処理を適用する際の副作用である、偽の像の発生の問題に関しては、空間平均の信号処理に用いる画素数の逆数に対応した空間周波数帯域幅のローパスフィルタリングにより低減する。また、空間分解能が劣化する問題に関しては、インコヒーレントホログラフィのホログラム記録装置の光学素子のパラメータと撮影対象物体の配置距離の情報を参照することで、空間分解能を劣化させずに、ノイズだけを低減し、高品質な再生像の取得を可能にする。
まず、偽の像の発生対策について説明する。空間的な平均化を行うことによって生じたエイリアシングに由来する偽の像を除去するために、ホログラム又は複素振幅分布の空間周波数に対してローパスフィルタリングの処理を行う。ローパスフィルタリングは、信号処理装置20内の処理として行い、ホログラム又は複素振幅分布をフーリエ変換し、空間周波数に変換した後にその高周波成分をカットする信号処理を行う。ローパスフィルタリングの通過帯域(空間周波数帯域)は、ホログラム或いは複素振幅分布の画素数をNx×Nyとすると、平均化に用いた画素数(水平方向画素数nx、垂直方向画素数ny)の逆数に対応させて、Nx/nx、Ny/nyと設定することで、信号の損失が無く、偽の像を低減できる。また、ホログラムに高周波成分が含まれない場合や、偽の像の影響が軽微である場合には、ローパスフィルタリングの適用は任意である。
以上の処理を適用した後のホログラム或いは複素振幅分布から再生像を再構成する方法は、従来のインコヒーレントホログラフィ技術(特許文献1,2、非特許文献1,2,4,5)と同様であり、フレネル回折積分や角スペクトル法等の伝搬計算、或いは相関演算を適用し、任意の再生面での高品質な再生像を得ることができる。
次に、空間分解能の劣化対策について説明する。本発明では、nx×nyが大きくなると、つまり平均化に用いる画素数が多くなると、撮像素子で撮影したホログラムの画像データの高周波成分が消失し、結果的に、再生像の空間分解能が低下することが懸念される。そこで、本発明では、前述したホログラム記録装置の光学パラメータ等(λ,f0,D0,zl,fd1,fd2,Dslm,zh,p,Dsensor)の情報を参照し、これらの値に応じて、空間的な平均化の画素数nx×nyを適切に設定することで、空間分解能を低下させることなく、ノイズのみを低減する。以下に、空間分解能を犠牲にせず、ノイズのみを低減するために、空間的な平均化に用いる画素数nx,nyに要求される条件について説明する。
図6は、インコヒーレントホログラフィで撮影されるホログラムの一例である。図2の光学系で、光軸中心に点光源1が配置されている場合、撮像素子10の撮像面上には、図6のような干渉縞が形成される。この干渉縞はフレネルレンズと同等であり、その焦点距離zrの大きさは、図2のレンズの位相変調作用とフレネル回折積分に基づく光伝搬から、次式(3)で表される。なお、フォーカスが合った像を得るためには、(2)式のzrを、次式(3)を満たすように設定する。
ここで、zdは、次式(4)であり、zsはレンズ2から撮影対象物体1までの距離である。
また、この干渉縞の直径Dhは、同様に光波の伝搬を考え、各光学素子の有効開口径を考慮することにより、次式(5)で表すことができる。
ここでMIN{・・・}は、最小値の項を取り出す演算子であり、Dlは(6)式である。
すなわち、(5)式のMIN{・・・}内の最初の項は、焦点距離fd1の位相分布を付与された第1分割光の直径であり、2番目の項は、焦点距離fd2の位相分布を付与された第2分割光の直径であり、3番目の項は、撮像素子の有効開口径である。干渉縞の直径Dhは、これらの最小のもので決定される。
この干渉縞をエイリアシングが発生しないように撮像素子で撮影するサンプリング間隔の条件は、標本化定理から、(7)式で求められる。したがって、(8)式の条件を満たすように撮影画像の画素ピッチpを選定すれば、干渉縞の高周波成分の情報は消失しない。
図3、図4で示した空間的な平均化の演算を行う場合には、画素ピッチがnxp、或いはnypとなることに等価である。したがって、撮像素子の画素ピッチpが決定されている場合には、次式(9)、(10)の条件を満たすようにnx及びnyを選定すれば、干渉縞の情報が消失することなく、つまり空間分解能を低下させることなく、ノイズのみを低減することができる。
すなわち、nx及びnyを、λzr/Dhp以下に設定する。
以上の例では、撮像素子で撮影したホログラムに対して空間的な平均化の演算を適用する場合に関して記述したが、平均化の演算の対象を、ホログラムではなく、位相シフト法或いはオフアクシス法により解析した後に得られる複素振幅分布に対して空間的な平均化の演算を適用してもよい。
また、本技術で用いる撮像素子としては単色に限定されず、カラーフィルターを搭載していてもよい。
(他の実施の形態)
本発明を実施するホログラム記録再生装置としては、図2に示す単一光路干渉計に限定されない。例えば、図7に示すような、各種の干渉計をホログラム記録に用いることができる。
図7(a)はマイケルソン干渉計であり、レンズ2、ビームスプリッター7、2つの凹面鏡8、及び撮像素子10を備える。光波は、レンズ2を透過し、ビームスプリッター7で2つに分割され、それぞれ凹面鏡8で曲率が与えられ、撮像素子10の素子面でホログラムを生成する。
図7(b)はマッハツェンダー干渉計であり、2つのレンズ2、2つのビームスプリッター7、2つのミラー9、及び撮像素子10を備える。光波は、レンズ2を透過し、ビームスプリッター7で2つに分割される。一方の分割光はレンズ2を介してミラー9で反射され、他方の分割光はレンズを介することなくミラー9で反射されて、2番目のビームスプリッター7に入射し、撮像素子10の素子面でホログラムを生成する。
図7(c)は三角光路干渉計であり、3つのレンズ2とビームスプリッター7、2つのミラー9、及び撮像素子10を備える。光波は、レンズ2を透過し、ビームスプリッター7で2つに分割され、それぞれレンズ2、ミラー9、ミラー9、レンズ2を右回りと左回りで進み、再びビームスプリッター7に入射して、撮像素子10の素子面でホログラムを生成する。
このように、物体からの光波を2つに分離し、第1分割光と第2分割光のそれぞれに異なる位相分布を付与し、最後にこれらを撮像素子面上で干渉させ、ホログラムを形成できる光学系であれば、どのような形態でもよい。また、図2或いは図7に示す光学系の各光路に、追加でレンズが挿入されていてもよい。
(効果の検証)
光学実験を行い、本発明の有効性を検証した。実験に用いた光学系を図8に示す。本光学系は、反射型の空間光変調器4を用いて、図2に示す単一光路干渉計を実現したものである。
発光ダイオード(LED)11で発生した光(インコヒーレント光)は、USAFテストターゲット12で光パターンを形成し、バンドパスフィルター6、レンズ2、偏光子3を経て、水平直線偏光成分と垂直直線偏光成分のそれぞれからなる第1分割光と第2分割光となる。ビームスプリッター7を透過した2つの分割光は、空間光変調器4でそれぞれ異なる位相を与えられ、再びビームスプリッター7に入射され、反射して撮像素子10に向かい、偏光子5を透過することで、偏光状態が一致し、撮像素子面で干渉縞を形成する。撮像素子10を用いて、この干渉縞をホログラムとして撮影する。
ここで、レンズ―空間光変調器間の距離を100mm、空間光変調器―撮像素子間の距離を260mmとした。レンズ2の有効開口径は12mm、空間光変調器4の有効開口径は10.65mm、撮像素子10の有効開口径13.3mmであり、撮像素子10としては、画素サイズ6.5μmのものを用いた。光源には、中心波長625nm、波長幅18nmのLED11を用いた。また、光源のコヒーレンス長を長くするために、中心波長633nm、波長幅3nmのバンドパスフィルター6を用いた。
はじめに、本発明によりノイズ及び偽の像の影響を低減可能か、また、平均化に用いる画素数nx×nyの大きさに応じてノイズ低減効果が変化するかを明らかにすることを目的として、透過型のUSAFテストターゲットの撮影実験を実施した。
USAFテストターゲット12をレンズ2から400mm離れた位置に配置し、撮像素子10でホログラムを撮影した。また、4ステップの位相シフト法によりホログラム中の直接像成分と共役像成分を除去するために、位相シフト量が0,π/2,π,3π/2の4枚のホログラムを取得した。4枚のホログラムのそれぞれに対して、式(1)に基づく空間的な平均化の信号処理を適用した。平均化の画素数nx×nyは、2×2,4×4,8×8の3種類とした。
図9に各種の条件で作成した再生像をまとめて表示する。図9(a)に平均化を適用せずに再構成した再生像を示す。また、図9(b)、(c)、(d)に、画素数2×2,4×4,8×8の平均化の演算を行い、ローパスフィルタリングを適用せずに再構成した再生像を示す。図9(e)、(f)、(g)には、画素数2×2,4×4,8×8の平均化を行い、ローパスフィルタリングを適用して再生像を取得した結果を示す。定性的にみて、ローパスフィルタリングの有無にかかわらず、空間的な平均化を適用することで再生像が明瞭になっていることがわかる。
また、偽の像の存在を確認するため、図9(d)と図9(g)それぞれの再生像の一部を拡大し、コントラストを調整した像を図10に示す。図10(a)は図9(d)の拡大図であり、図10(b)は図9(g)の拡大図である。ローパスフィルタリングを適用しない場合(図10(a))には、“0”やライン状の構造物のまわりに、不要な成分(偽の像)が発生しているが、ローパスフィルタリングを適用した場合(図10(b))には、これらの偽の像が除去されていることがわかる。
これらの再生像の品質を定量的に比較するために、コントラスト比(CR: Contrast Ratio)と平滑度(S: Smoothness)を評価した。コントラスト比CRは、像内の明部と暗部の明るさの比を評価する指標であり、次式(11)により与えられる。
μb、μdはそれぞれ、図9の再生像内の破線の矩形領域(明部領域)の強度の平均値、及び一点鎖線の矩形領域(暗部領域)の強度の平均値である。本実験で用いたUSAFターゲットは透過型であるため、USAFテストターゲットの再生像の暗部では、理想的には強度が0となるはずである。よって、コントラスト比CRの値は大きいほど、品質が高い再生像といえる。
一方、平滑度Sは、変動係数の逆数に対応しており、次式(12)により与えられる。
σbは、再生像内の破線の矩形領域(明部領域)内の強度の標準偏差である。この値Sが高いほど、スペックル状のノイズが少なく、平滑な分布であるため、高品質な再生像といえる。
CRとSの評価結果を図9の各再生像の下部に示す。平均化の画素数が増えるほど、CR、Sが向上しているため、本発明の空間平均を用いることでノイズを低減でき、高品質な再生像が得られることがわかった。さらに、空間周波数帯域のローパスフィルタリングを適用することで、ローパスフィルタリングを適用しない場合と比較すると、CRとSが向上しており、より高品質な再生像を得るために有効であることがわかる。
また、比較実験のために、非特許文献2に記載の時間平均を用いてUSAFテストターゲットの撮影実験を実施した。本実験のために、4ステップの位相シフト法に必要な4種類のホログラムそれぞれを64枚撮影した。平均化の枚数を2~64まで変化させて、それぞれ再生像を取得した。図9(h)、(i)、(j)のそれぞれに、平均化の枚数が4枚、16枚、64枚の場合の時間平均の再生像とCR、Sの評価結果を示す。
また、図11に、平均化枚数2~64枚(時間平均)に対するCRとSの評価結果を示す。図11(a)は、横軸に平均化枚数、縦軸にコントラスト比CRの値をプロットしたものであり、図11(b)は、横軸に平均化枚数、縦軸に平滑度Sの値をプロットしたものである。さらに、図11では、比較のために、空間平均処理を行った再生像の評価結果も提示した。空間的な平均化は画素数分の枚数のホログラムの平均化と考えることができるため、図9(e)~(g)で示したローパスフィルタリングを行い、画素数2×2,4×4,8×8の平均化を適用した場合のCRとSの評価結果を、平均化枚数が4、16、64の場合のデータとしてプロットしている。
図9(h)~(j)、図11の評価結果から、時間平均でも平均化の枚数が増加するほどCR、Sが向上しており、非特許文献2で報告されている通りノイズを低減可能である。時間平均と空間平均のノイズ低減効果を比較すると、コントラスト比CRに関しては空間平均の方が優れ、平滑度Sに関しては時間平均の方が優れており、CRとSの改善の傾向が異なる。これは、時間平均と空間平均のそれぞれで低減可能なノイズの種類が異なっていることを意味している。時間平均では、時間的に変動するノイズ成分を除去することに有効である一方で、空間平均は空間的に変動するノイズ成分を除去することに有効であると考えることができる。時間平均と空間平均で、ノイズの低減量に差異はあるものの、空間平均では複数回のホログラムの撮影を必要とせずに、CRの観点から時間平均と遜色ない再生像の品質向上の効果が得られることがわかった。
次に、本発明を適用した場合に、式(9)、式(10)で示した空間解像度を劣化させない条件の有効性を実験で確認した。本発明では平均化の画素数が増えることで空間分解能が劣化することが懸念されるが、式(9)、式(10)の条件を満たす場合には、空間分解能は劣化せず、空間周波数応答は変化しないはずである。本実験に用いた光学系のパラメータに基づいて、物体の撮影位置zsと要求されるサンプリング間隔psとの関係(式(7))をプロットしたものを図12に示す。本実験では撮影対象物体がzs=400[mm]の位置に配置されているため、サンプリング間隔が18.16μm以下であれば、空間分解能は劣化しないことが予測される。
今回の実験では、撮像素子の画素サイズが6.5μmであるため、2×2平均では、画素サイズ、つまりサンプリング間隔が13μmとなることに相当し、空間周波数応答は変化しないはずである。一方、4×4平均、8×8平均では、画素サイズが26μm、52μmとなることに相当し、空間分解能は劣化し、空間周波数応答の高周波成分は低下するはずである。これらの予測の妥当性を確認するために、平均化前後の再生像の光学的伝達関数(OTF: Optical Transfer Function)を評価した。なお、本実験では、空間周波数応答を評価することが目的であり、再生像から可能な限りノイズ成分を除去してより高精度な評価を行うために、64枚のホログラムを時間平均した後、本発明に基づいて、画素数2×2,4×4,8×8の空間平均及びローパスフィルタリングを行った。
撮影対象であるUSAFテストターゲットは種々の空間周波数成分を有するライン状のマスクで構成されているため、ライン状の像のコントラストを評価することで、空間周波数応答、すなわちOTFを調査することができる。実験に用いた図8の光学系の理論的な空間分解能(レイリーの分解能)は、31.24μmであり、これを空間周波数に変換すると16.01 lp/mm(lp:line pair)となる。したがって、USAFテストターゲットの最も低い空間周波数1.00 lp/mmのGroup0 Element1から空間周波数20.16 lp/mmのGroup4 Element3のライン状の像のコントラストを評価対象とすることで、実験で用いた光学系の通過周波数帯域の全域のOTFを評価可能である。
図13に再生像の光学的伝達関数(OTF)を比較した結果を示す。平均化を適用しない場合と画素数2×2平均化を適用した場合とは、OTFにほとんど差が無く、同じ特性を示すことがわかる。一方で、4×4平均化、8×8平均化を適用することで、高周波成分のコントラストが低下していき、OTFが大幅に変化していることがわかる。また、図9(e)で示したように、2×2平均化で再生像の品質を改善することができる。したがって、以上の実験結果から、式(7)の条件に応じて、平均化に用いる画素数の条件を適切に設定すれば、つまり、図11中の破線より左側の領域の条件で、空間平均を適用すれば、空間分解能を低下させることなく、ノイズのみを低減させ、再生像の品質を改善することができる。
最後に、反射物体を撮影することで、空間平均によって再生像の品質の改善が可能かを検証した。これまでの実験では、透過物体であるUSAFテストターゲットのみを撮影したが、反射物体を撮影することにより、空間平均を用いることで再生像の品質向上が可能かを明らかにする。
本実験では、図14に示す光学系を用いた。光学素子の仕様は図8の光学系と同一であるが、反射物体13を撮影するために、照明光であるLED11の配置のみを変更している。LED11で発生した光(インコヒーレント光)は、反射物体13で反射して物体光となり、バンドパスフィルター6に入射する。以下は、図8の光学系と同じである。
図15は硬貨を撮影し、空間的な平均化を適用した後、再生像を再構成した結果である。図15(a)は平均化なしの再生像、(b)は2×2画素、(c)は4×4画素、(d)は8×8画素の平均化を行った再生像である。再生像の品質を定量的に評価するために、破線の領域(コイン上)と一点鎖線の領域内(右上背景)とのCRを式(11)を用いて評価した。その結果を各再生像の上部に示す。なお、反射物体は表面が粗面であり、スペックル状の像が得られることが一般的であるため、平滑度を評価するSによる再生像の評価をおこなっていない。
図15のコントラスト比CRの評価結果からわかるように、空間的な平均化の演算により、コントラスト比が高くなり、再生像の品質が向上し、明瞭になっていることがわかる。
このように、本発明によれば、時間分解能を低下させることなく、ノイズを低減し、高品質なホログラム、及び高品質な再生像を取得することが可能となる。また、本発明では、偽の像の発生に関しては、空間平均に用いる画素数に応じたローパスフィルタリングを適用することで解決可能であり、空間分解能が劣化する問題点に関しては、ホログラム記録装置を構成する素子の光学パラメータや配置距離、撮影対象物体と撮像素子間の距離、光源の波長の情報を参照して、空間的な平均化の演算条件を適用的に設定することで、空間分解能を劣化させることなく、ノイズのみを低減することができる。さらに、空間的な平均化により画像データの画素数を削減できるため、データ処理速度の向上、演算処理の軽減、データ保存容量の削減に有効である。
上記の実施の形態では、ホログラム記録再生装置の構成と動作について説明したが、本発明はこれに限らず、立体像を再生する立体像再生方法として構成されてもよい。すなわち、撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生する、立体像再生方法として構成されても良い。
上述の実施形態は代表的な例として説明したが、本発明の趣旨及び範囲内で、多くの変更及び置換ができることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。例えば、実施形態に記載の複数の構成ブロックを1つに組み合わせたり、あるいは1つの構成ブロックを分割したりすることが可能である。
1 点光源
2 レンズ
3 偏光子
4 空間光変調器
5 偏光子
6 バンドパスフィルター
7 ビームスプリッター
8 凹面鏡
9 ミラー
10 撮像素子
11 LED
12 USAFテストターゲット
13 反射物体
20 信号処理回路

Claims (7)

  1. インコヒーレントな光波を第1分割光と第2分割光に分割し、互いに異なる位相分布を付与後、前記第1分割光と前記第2分割光を干渉させて形成したホログラムを再構成して、立体像を再生するホログラム記録再生装置において、
    撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する演算を含む空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生し、
    前記空間平均処理に用いる隣接領域の水平方向画素数n x 及び垂直方向画素数n y (n x ,n y >1)を、光源の波長λ、干渉縞の焦点距離z r 、干渉縞の直径D h 、撮像素子の画素ピッチpとして、λz r /D h p以下に設定することを特徴とする、ホログラム記録再生装置。
  2. 請求項1に記載のホログラム記録再生装置において、前記空間平均処理は、平均化前の水平方向画素数nx、垂直方向画素数ny(nx,ny>1)として、nx×ny個の要素数を有する空間フィルタとの畳み込み積分を含むことを特徴とする、ホログラム記録再生装置。
  3. インコヒーレントな光波を第1分割光と第2分割光に分割し、互いに異なる位相分布を付与後、前記第1分割光と前記第2分割光を干渉させて形成したホログラムを再構成して、立体像を再生するホログラム記録再生装置において、
    撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する演算を含む空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生し、
    前記空間平均処理は、平均化前の水平方向画素数nx、垂直方向画素数ny(nx,ny>1)として、nx×ny個の画素ごとに信号値を平均化する演算と、次いで、nx×ny倍に画素数を拡大して平均化前後で画素数、画素ピッチを同じにする演算を含むことを特徴とする、ホログラム記録再生装置。
  4. インコヒーレントな光波を第1分割光と第2分割光に分割し、互いに異なる位相分布を付与後、前記第1分割光と前記第2分割光を干渉させて形成したホログラムを再構成して、立体像を再生するホログラム記録再生装置において、
    撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する演算を含む空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生し、
    前記空間平均処理後に、平均化に用いた画素数の逆数に対応する空間周波数帯域を有するローパスフィルタリングを適用することを特徴とする、ホログラム記録再生装置。
  5. インコヒーレントな光波を第1分割光と第2分割光に分割し、互いに異なる位相分布を付与後、前記第1分割光と前記第2分割光を干渉させて形成したホログラムを再構成して、立体像を再生するホログラム記録再生装置において、
    撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する演算を含む空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生し、
    少なくとも前記ホログラム記録再生装置を構成する光学素子の焦点距離、有効開口径、光源の波長、光学素子間の距離、及び撮影対象物体から撮像素子までの距離の情報に応じて、前記空間平均処理に用いる隣接領域の画素数を設定することを特徴とする、ホログラム記録再生装置。
  6. インコヒーレントな光波から分割され、互いに異なる位相分布を付与された第1分割光と第2分割光とが干渉して形成されたホログラムを再構成し、立体像を再生する立体像再生方法において、
    撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生し、
    前記空間平均処理に用いる隣接領域の水平方向画素数n x 及び垂直方向画素数n y (n x ,n y >1)を、光源の波長λ、干渉縞の焦点距離z r 、干渉縞の直径D h 、撮像素子の画素ピッチpとして、λz r /D h p以下に設定することを特徴とする、立体像再生方法。
  7. インコヒーレントな光波から分割され、互いに異なる位相分布を付与された第1分割光と第2分割光とが干渉して形成されたホログラムを再構成し、立体像を再生する立体像再生方法において、
    撮影された前記ホログラム又は前記ホログラムを解析することによって得られる複素振幅分布の各画素に対し、当該画素の信号値とその隣接領域に存在する画素の信号値を平均化する空間平均処理を行い、前記空間平均処理を行った前記ホログラム又は前記複素振幅分布に基づいて立体像を再生し、
    前記空間平均処理後に、平均化に用いた画素数の逆数に対応する空間周波数帯域を有するローパスフィルタリングを適用することを特徴とする、立体像再生方法。
JP2019095292A 2019-05-21 2019-05-21 ホログラム記録再生装置及び立体像再生方法 Active JP7324047B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019095292A JP7324047B2 (ja) 2019-05-21 2019-05-21 ホログラム記録再生装置及び立体像再生方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019095292A JP7324047B2 (ja) 2019-05-21 2019-05-21 ホログラム記録再生装置及び立体像再生方法

Publications (2)

Publication Number Publication Date
JP2020190616A JP2020190616A (ja) 2020-11-26
JP7324047B2 true JP7324047B2 (ja) 2023-08-09

Family

ID=73454463

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019095292A Active JP7324047B2 (ja) 2019-05-21 2019-05-21 ホログラム記録再生装置及び立体像再生方法

Country Status (1)

Country Link
JP (1) JP7324047B2 (ja)

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007157305A (ja) 2005-12-08 2007-06-21 Fuji Xerox Co Ltd データ再生方法及び装置
US20120050832A1 (en) 2009-04-01 2012-03-01 Ben Gurion University Of The Negev Research And Development Method and system for imaging and object using incoherent light
JP2014211565A (ja) 2013-04-19 2014-11-13 東芝アルパイン・オートモティブテクノロジー株式会社 計算機ホログラムのデータ作成装置およびそのデータ作成方法
JP2015001726A (ja) 2013-06-18 2015-01-05 学校法人 関西大学 ホログラム記録装置およびホログラム記録方法
JP2015232869A (ja) 2014-05-16 2015-12-24 株式会社リコー 画像処理装置、画像処理方法及び画像処理プログラム
WO2017065130A1 (ja) 2015-10-13 2017-04-20 学校法人 関西大学 像再生装置、像再生方法、およびデジタルホログラフィ装置
CN107885070A (zh) 2017-06-27 2018-04-06 郑州大学 一种基于slm的非相干数字全息单次曝光成像方法与***
WO2018147473A1 (ja) 2017-02-10 2018-08-16 国立大学法人京都工芸繊維大学 3次元物体情報計測装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007157305A (ja) 2005-12-08 2007-06-21 Fuji Xerox Co Ltd データ再生方法及び装置
US20120050832A1 (en) 2009-04-01 2012-03-01 Ben Gurion University Of The Negev Research And Development Method and system for imaging and object using incoherent light
JP2014211565A (ja) 2013-04-19 2014-11-13 東芝アルパイン・オートモティブテクノロジー株式会社 計算機ホログラムのデータ作成装置およびそのデータ作成方法
JP2015001726A (ja) 2013-06-18 2015-01-05 学校法人 関西大学 ホログラム記録装置およびホログラム記録方法
JP2015232869A (ja) 2014-05-16 2015-12-24 株式会社リコー 画像処理装置、画像処理方法及び画像処理プログラム
WO2017065130A1 (ja) 2015-10-13 2017-04-20 学校法人 関西大学 像再生装置、像再生方法、およびデジタルホログラフィ装置
WO2018147473A1 (ja) 2017-02-10 2018-08-16 国立大学法人京都工芸繊維大学 3次元物体情報計測装置
CN107885070A (zh) 2017-06-27 2018-04-06 郑州大学 一种基于slm的非相干数字全息单次曝光成像方法与***

Also Published As

Publication number Publication date
JP2020190616A (ja) 2020-11-26

Similar Documents

Publication Publication Date Title
JP5339535B2 (ja) デジタルホログラフィ装置及び位相板アレイ
JP6995376B2 (ja) 3次元物体情報計測装置
US9678473B2 (en) Apparatus for producing a hologram
KR101990009B1 (ko) 개선된 홀로그래픽 복원 장치 및 방법
JP7122153B2 (ja) ホログラム記録装置及び像再生装置
US20220163918A1 (en) Device and method for calibration-free phase shifting procedure for self-interference holography
JP6309384B2 (ja) デジタルホログラフィ装置およびデジタルホログラフィ方法
Cossairt et al. Digital refocusing with incoherent holography
Rosen et al. Three-dimensional imaging by self-reference single-channel digital incoherent holography
JP7324047B2 (ja) ホログラム記録再生装置及び立体像再生方法
EP3994529A1 (en) Calibration-free phase shifting procedure for self-interference holography
JP6719479B2 (ja) 像再生装置、像再生方法、およびデジタルホログラフィ装置
Agour et al. Experimental investigation of holographic 3D-TV approach
Zhang et al. Incoherent frequency-selective phase coded holography and axial overlap information stripping
CN110262206B (zh) 一种菲涅尔非相干数字全息单次曝光成像方法和***
CN111880389A (zh) 一种消除红外数字全息零级衍射的方法
Kim et al. Recent Research on Self-interference Incoherent Digital Holography
Hong et al. Dynamic incoherent hologram acquisition using Michelson Interferometry
JP2023124051A (ja) インコヒーレントディジタルホログラム信号処理装置および撮像表示システム
HALAQ et al. ZERO ORDER AND CONJUGATE IMAGES ELIMINATION FOR DIGITAL HOLOGRAMS
KR102373935B1 (ko) 개선된 홀로그래픽 복원 장치 및 방법
Halaq et al. Zero order elimination for digital holograms: Study of setup dependent methods
KR101332984B1 (ko) 홀로그램 촬영 장치 및 이를 이용한 홀로그램 촬영 방법
Funamizu et al. Image quality improvement using speckle method in in-line digital holography by means of multi-mode fiber
Jang et al. Efficient and exact extraction of the object wave in off-axis digital holography

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220421

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230728

R150 Certificate of patent or registration of utility model

Ref document number: 7324047

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150