JP7026853B2 - 画像処理装置、評価システム、画像処理プログラム及び画像処理方法 - Google Patents

画像処理装置、評価システム、画像処理プログラム及び画像処理方法 Download PDF

Info

Publication number
JP7026853B2
JP7026853B2 JP2021527485A JP2021527485A JP7026853B2 JP 7026853 B2 JP7026853 B2 JP 7026853B2 JP 2021527485 A JP2021527485 A JP 2021527485A JP 2021527485 A JP2021527485 A JP 2021527485A JP 7026853 B2 JP7026853 B2 JP 7026853B2
Authority
JP
Japan
Prior art keywords
image
phase difference
optical axis
hologram
sphere
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021527485A
Other languages
English (en)
Other versions
JPWO2020261826A1 (ja
Inventor
崇市郎 中村
祥 小野澤
龍介 大▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020261826A1 publication Critical patent/JPWO2020261826A1/ja
Application granted granted Critical
Publication of JP7026853B2 publication Critical patent/JP7026853B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/22Processes or apparatus for obtaining an optical image from holograms
    • G03H1/2294Addressing the hologram to an active spatial light modulator
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M1/00Apparatus for enzymology or microbiology
    • C12M1/34Measuring or testing with condition measuring or sensing means, e.g. colony counters
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12QMEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/02Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving viable microorganisms
    • C12Q1/04Determining presence or kind of microorganism; Use of selective media for testing antibiotics or bacteriocides; Compositions containing a chemical indicator therefor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Optical investigation techniques, e.g. flow cytometry
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/34Smoothing or thinning of the pattern; Morphological operations; Skeletonisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/88Image or video recognition using optical means, e.g. reference filters, holographic masks, frequency domain filters or spatial domain filters
    • G06V10/89Image or video recognition using optical means, e.g. reference filters, holographic masks, frequency domain filters or spatial domain filters using frequency domain filters, e.g. Fourier masks implemented on spatial light modulators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • G03H1/0866Digital holographic imaging, i.e. synthesizing holobjects from holograms
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/0005Adaptation of holography to specific applications
    • G03H2001/005Adaptation of holography to specific applications in microscopy, e.g. digital holographic microscope [DHM]
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/0443Digital holography, i.e. recording holograms with digital recording means
    • G03H2001/0445Off-axis recording arrangement
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • G03H1/0866Digital holographic imaging, i.e. synthesizing holobjects from holograms
    • G03H2001/0875Solving phase ambiguity, e.g. phase unwrapping
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H1/00Holographic processes or apparatus using light, infrared or ultraviolet waves for obtaining holograms or for obtaining an image from them; Details peculiar thereto
    • G03H1/04Processes or apparatus for producing holograms
    • G03H1/08Synthesising holograms, i.e. holograms synthesized from objects or objects from holograms
    • G03H1/0866Digital holographic imaging, i.e. synthesizing holobjects from holograms
    • G03H2001/0883Reconstruction aspect, e.g. numerical focusing
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H2210/00Object characteristics
    • G03H2210/62Moving object
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03HHOLOGRAPHIC PROCESSES OR APPARATUS
    • G03H2226/00Electro-optic or electronic components relating to digital holography
    • G03H2226/02Computing or processing means, e.g. digital signal processor [DSP]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20216Image averaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Organic Chemistry (AREA)
  • Multimedia (AREA)
  • Wood Science & Technology (AREA)
  • Zoology (AREA)
  • Analytical Chemistry (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Biochemistry (AREA)
  • Biotechnology (AREA)
  • Immunology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Microbiology (AREA)
  • General Engineering & Computer Science (AREA)
  • Genetics & Genomics (AREA)
  • Proteomics, Peptides & Aminoacids (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Sustainable Development (AREA)
  • Biophysics (AREA)
  • Toxicology (AREA)
  • Mathematical Physics (AREA)
  • Dispersion Chemistry (AREA)
  • Medicinal Chemistry (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Holo Graphy (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

開示の技術は、画像処理装置、評価システム、画像処理プログラム及び画像処理方法に関する。
細胞の状態を評価または判定する技術として、例えば、以下の技術が知られている。例えば、特許文献1には、マイクロ流体チャネル内を連続的に流れる複数の細胞の、3Dホログラフィックによるイメージングシステムが記載されている。このイメージングシステムにおいて、レーザビームが線を流れる複数の細胞から散乱される複数の角スペクトルを測定するのに使用され、マイクロ流体チャネル内の線に焦点が合わせられる。複数の複素散乱場の測定については、標本の各位置に対する場のワンショット記録を可能にすべく、軸外デジタルホログラフィが使用される。細胞タンブリングを減少させ、高NA集光レンズおよび対物レンズの使用を可能にするよう構成されたマイクロ流体チャネルが、システムの実視野にわたり、物質を運搬するのに使用される。データ再構成については、複数の細胞内の複数の焦点がぼけた細胞器官から生じる、複数の回折アーティファクトを減少させ、入射ビームの限定的な角度範囲による複数のアーティファクトを減少すべく、反復的な制約手順を適用するために、光回折断層撮影が使用される。
特許文献2には、流れる媒体中に浸漬された物体を選別するためのデバイスが記載されている。このデバイスは、ホログラフィック撮像ユニットと、複数のマイクロ流体チャネルを含む流体ハンドリングユニットとを備える。マイクロ流体チャネルは、流れる媒体中に浸漬された移動物体を撮像するために、対応するホログラフィック撮像素子に沿って流れる媒体を案内するための撮像領域を含む。マイクロ流体チャネルは、複数の出口のうち選択した1つに、流れる媒体中の各物体を制御可能に方向付けるために、撮像領域の下流に配置されたマイクロ流体スイッチを含む。このデバイスは、撮像領域のいずれかを通過する際、物体の各々について得られるホログラフィック回折像のリアルタイム特性評価に適合した処理ユニットを備える。特性評価は、少なくとも1つの所定の物体タイプの痕跡を考慮するものであり、処理ユニットは、特性評価に応答して、撮像領域の下流にあるマイクロ流体スイッチを制御するように構成されている。
特許文献3には、対象水中の生体微細物の個数を計測する水質検査システムが記載されている。この水質検査システムは、撮像素子が撮像した干渉縞のデータであるホログラムデータを処理するデータ処理部を備える。データ処理部は、取得した各ホログラムデータを再生することで生体微細物の個数を数えるものであって、各ホログラムデータについての像再生の際に生体微細物の像であると判断されたものの個数を数えるデータ処理を行う。
特表2016-511435号公報 特表2015-500475号公報 特開2016-133466号公報
細胞の大量生産が可能な培養手法として、細胞の凝集体であるスフェアを培地中に浮遊させた状態で培養する三次元培養法が知られている。三次元培養による細胞の製造工程においては、工程管理の容易性の観点から、細胞の品質をスフェアの状態のまま非破壊且つ簡便に評価する技術が求められる。
スフェアの観察手法として従来のフローサイトメトリーを用いた場合、フローセルを流れるスフェアを1つずつ観察することになり、大量のスフェアの全数観測には膨大な処理時間を要する。スフェアが流れるフローセルと、スフェアのホログラムを取得する撮像装置を備えたシステムにおいて、処理時間を短縮するためには、撮像装置の撮像視野内に複数のスフェアを収めて撮像することが考えられる。しかしながら、撮像視野内に含まれる複数のスフェアは、その一部が互いに重なり合った状態で撮像されることが想定される。このような画像から個々のスフェアの状態を適切に評価するためには、互いに重なり合った状態の複数のスフェアを含む画像から、個々のスフェアの領域を特定する手法が必要となる。また、撮像装置の光軸方向におけるどの断面の画像が、スフェアの状態評価に適しているのかについても検討する必要がある。
開示の技術は、複数の粒状体を撮像視野内に収めて撮像したホログラムを用いた、個々の粒状体の状態評価を適切に実施することを可能とする画像処理装置、評価システム、画像処理プログラム及び画像処理方法を提供することを目的とする。
開示の技術に係る画像処理装置は、複数の粒状体を撮像視野内に収めて撮像したホログラムを取得する取得部と、ホログラムを撮像する際の光軸方向の互いに異なる位置の各々における位相差画像を、ホログラムから生成する生成部と、位相差画像の少なくとも一部を平均化した平均化画像において、複数の粒状体の各々に対応する、光軸方向と交差する平面の方向における複数の画像範囲を特定する特定部と、複数の画像範囲の各々について、対応する粒状体の光軸方向の中心位置における位相差画像を抽出する抽出部と、を含む。
開示の技術に係る画像処理装置によれば、複数の粒状体を撮像視野内に収めて撮像したホログラムを用いた、個々の粒状体の状態評価を適切に実施することが可能となる。
特定部は、位相差画像の少なくとも一部を加算平均した加算平均画像を平均化画像として生成する加算平均画像生成部と、加算平均画像における粒状体の外縁に対応する輪郭線からの距離が、周囲の他の点よりも長くなる各点を中心とし、輪郭線に内接する複数の内接円を導出する内接円導出部と、内接円の各々について膨張処理を施す膨張処理部と、を含んでいてもよい。これにより、光軸方向と交差する平面の方向における粒状体の延在領域を適切に特定することが可能となる。
抽出部は、光軸方向の互いに異なる位置の各々における位相差画像のうち、画素間の位相差量のばらつきが最大となるものを、粒状体の光軸方向の中心位置における位相差画像として抽出してもよい。これにより、粒状体に焦点を合わせた位相差画像を抽出することができる。
粒状体は、複数の細胞の凝集体であってもよい。
開示の技術に係る評価システムは、複数の粒状体を撮像視野内に収めたホログラムを撮像する撮像装置と、ホログラムに対する画像処理を行う画像処理装置と、画像処理装置によって得られた画像に基づいて、複数の粒状体の各々について評価結果を出力する評価装置と、を含む。画像処理装置は、ホログラムを取得する取得部と、ホログラムを撮像する際の光軸方向の互いに異なる位置の各々における位相差画像を、ホログラムから生成する生成部と、位相差画像の少なくとも一部を平均化した平均化画像において、複数の粒状体の各々に対応する、光軸方向と交差する平面の方向における複数の画像範囲を特定する特定部と、複数の画像範囲の各々について、対応する粒状体の光軸方向の中心位置における位相差画像を抽出する抽出部と、を含む。評価装置は、抽出部によって抽出された位相差画像を用いて評価結果を導出する。
開示の技術に係る評価システムによれば、複数の粒状体を撮像視野内に収めて撮像したホログラムを用いた、個々の粒状体の状態評価を自動、かつ適切に実施することが可能となる。
開示の技術に係る評価システムは、複数の粒状体が流動する流路を更に含み得る。撮像装置は、撮像視野内に流路の幅方向の全域が収まるように設置されていることが好ましい。これにより、従来のフローサイトメトリーを用いた評価手法と比較して、処理時間を大幅に短縮することが可能となる。
開示の技術に係る画像処理プログラムは、複数の粒状体を撮像視野内に収めて撮像したホログラムを取得し、ホログラムを撮像する際の光軸方向の互いに異なる位置の各々における位相差画像を、ホログラムから生成し、位相差画像少なくとも一部を平均化した平均化画像において、複数の粒状体の各々に対応する、光軸方向と交差する平面の方向における複数の画像範囲を特定し、複数の画像範囲の各々について、対応する粒状体の光軸方向の中心位置における位相差画像を抽出する処理をコンピュータに実行させるためのプログラムである。
開示の技術に係る画像処理プログラムによれば、複数の粒状体を撮像視野内に収めて撮像したホログラムを用いた、個々の粒状体の状態評価を自動、かつ適切に実施することが可能となる。
開示の技術に係る画像処理方法は、複数の粒状体を撮像視野内に収めて撮像したホログラムを取得し、ホログラムを撮像する際の光軸方向の互いに異なる位置の各々における位相差画像を、ホログラムから生成し、位相差画像の少なくとも一部を平均化した平均化画像において、複数の粒状体の各々に対応する、光軸方向と交差する平面の方向における複数の画像範囲を特定し、複数の画像範囲の各々について、対応する粒状体の光軸方向の中心位置における位相差画像を抽出することを含む。
開示の技術に係る画像処理方法によれば、複数の粒状体を撮像視野内に収めて撮像したホログラムを用いた、個々の粒状体の状態評価を自動、かつ適切に実施することが可能となる。
開示の技術は、一つの側面として、複数の粒状体を撮像視野内に収めて撮像したホログラムを用いた、個々の粒状体の状態評価を自動、かつ適切に実施することが可能となる、という効果を奏する。
開示の技術の実施形態に係る評価システムの構成の一例を示す図である。 開示の技術の実施形態に係るホログラム光学系の構成の一例を示す図である。 開示の技術の実施形態に係る画像処理装置の機能的な構成を示す機能ブロック図である。 開示の技術の実施形態に係る複数のスフェアのホログラムの一例を示す図である。 開示の技術の実施形態に係る複数のスフェアのフーリエ変換画像の一例を示すである。 開示の技術の実施形態に係る複数のスフェアのアンラッピング前の位相差画像の一例を示す図である。 開示の技術の実施形態に係る複数のスフェアの振幅画像の一例を示す図である。 開示の技術の実施形態に係る複数のスフェアのアンラッピング後の位相差画像の一例を示す図である。 開示の技術の実施形態に係る位相差画像の概念を示す図である。 開示の技術の実施形態に係る光軸方向の互いに異なる位置の各々における位相差画像の一例を示す図である。 開示の技術の実施形態に係る加算平均画像の一例を示す図である。 開示の技術の実施形態に係る二値化処理後の画像の一例を示す図である。 開示の技術の実施形態に係る輪郭線の一例を示す図である。 開示の技術の実施形態に係る距離関数を画像化した図である。 開示の技術の実施形態に係る輪郭線からの距離が周囲の他の点よりも長くなる複数の点の一例を示す図である。 開示の技術の実施形態に係る複数の内接円の一例を示す図である。 開示の技術の実施形態に係る膨張処理前の内接円の一例を示す図である。 開示の技術の実施形態に係る膨張処理後の画像の一例を示す図である。 左のグラフは、スフェアの位相差画像における平面方向の位置と位相差量との関係の一例を示すグラフであり、右のグラフは、スフェアの位相差画像における位相差量のヒストグラムの一例である。 スフェアの位相差画像における焦点位置と位相差量のばらつきとの関係の一例を示したグラフである。 開示の技術の実施形態に係る画像処理装置のハードウェア構成の一例である。 開示の技術の実施形態に係る画像処理の流れの一例を示すフローチャートである。 開示の技術の実施形態に係る評価装置の機能的な構成の一例を示す機能ブロック図である。 開示の技術の実施形態に係る評価装置のハードウェア構成の一例である。 開示の技術の実施形態に係る評価処理の流れの一例を示すフローチャートである。 スフェアの体積と位相差量総和との相関特性の一例を示すグラフである。 開示の技術の実施形態に係る評価装置の機能的な構成の一例を示す機能ブロック図である。 開示の技術の実施形態に係る評価処理の流れの他の例を示すフローチャートである。 細胞の生存率と位相差量密度との相関特性の一例を示すグラフである。
以下、開示の技術の実施形態の一例を、図面を参照しつつ説明する。なお、各図面において同一または等価な構成要素および部分には同一の参照符号を付与している。
図1は、開示の技術の実施形態に係る評価システム1の構成の一例を示す図である。評価システム1は、撮像装置10、画像処理装置20及び評価装置30を含んで構成されている。
撮像装置10は、複数の粒状体を撮像視野内に収めたホログラムを撮像する。本実施形態において、撮像装置10は、フローセル200の内部を流動する細胞の凝集体である複数のスフェア300のホログラムを撮像する。
フローセル200は、光透過性を有する部材で構成されており、スフェア300が流動する流路を形成する。本実施形態において、フローセル200の流路断面は、四角形とされており、幅寸法Mが例えば10mm程度とされ、奥行き寸法Lが例えば3mm程度とされている。すなわち、フローセル200の流路断面の面積は、スフェア300のサイズ(例えば100μm~500μm程度)よりも十分に大きい。なお、フローセル200の流路断面の形状及びサイズは、上記したものに限定されず、適宜変更することが可能である。なお、以下の説明において、撮像装置10の光軸方向をz方向とし、スフェア300の流動方向をy方向とし、フローセル200の幅方向をx方向とし、z方向と直交する平面をxy平面とする。
撮像装置10は、複数のスフェア300の全数検査時には、撮像視野内にフローセル200の幅方向(x方向)の全域が収まるように設置するのが望ましい。従って、フローセル200を流動する複数のスフェア300が、撮像装置10の撮像視野内に収められる。撮像装置10は、フローセル200の内部を流動する複数のスフェア300を連続的に撮影してもよい。これにより、フローセル200の内部を順次流動する培養中の全てのスフェア300を撮像対象とすることができる。撮像装置10は、例えばCMOS(Complementary Metal Oxide Semiconductor)カメラであってもよい。
図2は、公知のデジタルホログラフィ技術を用いてスフェアのホログラムを取得するためのホログラム光学系100の構成の一例を示す図である。ホログラム光学系100は、撮像装置10を含んで構成されている。デジタルホログラフィ技術は、物体を透過または反射した物体光と、物体光に対してコヒーレントである参照光との干渉によって生じる像をイメージセンサで撮像し、撮像によって得られた画像について、光伝搬に基づく数値計算を実施することで、物体からの光波の波面を復元する技術である。デジタルホログラフィ技術によれば、物体の位相分布を定量化し、また、焦点位置を機械的に移動させることなく、物体の三次元情報を取得することができる。
ホログラム光学系100は、レーザ光源101、ビームスプリッタ102、108、コリメートレンズ103、110、111、対物レンズ105、結像レンズ107及び撮像装置10を含んで構成されている。撮像対象のスフェア300が流動するフローセル200は、コリメートレンズ103と対物レンズ105との間に配置される。
レーザ光源101には、例えば波長632.8nmのHeNeレーザを用いることが可能である。レーザ光源101から出射されたレーザ光は、ビームスプリッタ102により、2つのレーザ光に分割される。2つのレーザ光の一方は物体光とされ、他方は参照光とされる。物体光は、コリメートレンズ103によって平行光とされた後、フローセル200の内部を流動するスフェア300に照射される。スフェア300を透過した物体光による像は、対物レンズ105によって拡大される。対物レンズ105を透過した物体光は、結像レンズ107によって再び平行光とされた後、ビームスプリッタ108を介して撮像装置10の撮像面に結像される。一方、参照光は、コリメートレンズ111を介して光ファイバ109に入射し、光ファイバ109によってコリメートレンズ110の手前まで導かれる。光ファイバ109から出射した参照光は、コリメートレンズ110によって平行光とされ、ビームスプリッタ108を介して撮像装置10の撮像面に入射する。物体光と参照光との干渉によって生じるホログラムが、撮像装置10によって記録される。なお、撮像装置10の撮像面に入射する物体光と参照光の光軸方向が互いに異なったオフアキシャル光学系が構成されていてもよい。撮像装置10によって撮像されたスフェア300のホログラムは、撮像装置10が備える図示しない画像メモリに記憶される。画像メモリに記憶されたスフェア300のホログラムは、画像処理装置20に供給される。なお、撮像装置10の光軸方向とは、撮像系の光軸の方向であり、対物レンズ105、結像レンズ107、ビームスプリッタ108及び撮像装置10の並び方向と一致する。
図3は、画像処理装置20の機能的な構成を示す機能ブロック図である。画像処理装置20は、撮像装置10によって撮像されたホログラムに対する画像処理を行う。画像処理装置20は、取得部21、位相差画像生成部22、特定部23及び抽出部27を含んで構成されている。なお、位相差画像生成部22は、開示の技術における生成部の一例である。特定部23は、加算平均画像生成部24、内接円導出部25及び膨張処理部26を含んで構成されている。
取得部21は、撮像装置10によって撮像された、複数のスフェアを撮像視野内に収めたホログラムを取得する。
位相差画像生成部22は、撮像装置10の光軸方向(z方向)の互いに異なる位置zの各々における位相差画像を、取得部21によって取得したホログラムから生成する。なお、位相差画像の詳細については後述する。位相差画像生成部22は、例えば、以下の各処理を実施することにより位相差画像を生成する。
はじめに、位相差画像生成部22は、撮像装置10によって取得された図4Aに例示する複数のスフェアのホログラムを、二次元フーリエ変換する。図4Bは、この処理によって得られるスフェアのフーリエ変換画像の一例である。図4Bには、直接光、物体光、共役光に基づく像が示されている。
次に位相差画像生成部22は、フーリエ変換画像における直接光に対する物体光のずれ量を特定することで物体光の位置を特定し、周波数フィルタリング処理により、物体光のみの複素振幅成分を抜き出す。
次に、位相差画像生成部22は、例えば、角スペクトル法を適用して任意の空間位置のスフェアの位相を示す画像を復元する。具体的には、位相差画像生成部22は、撮像装置10のイメージセンサ面で捉えた波面u(x,y;0)のフーリエ変換画像の角スペクトルU(f,f;0)を求める。次に、位相差画像生成部22は、下記の(1)式に示すように、角スペクトルU(f,f;0)に伝達関数H(f,f;z)を乗算することで、撮像装置10の光軸方向(z方向)の任意の位置zにおける波面を再生する。
ここで、伝達関数H(f,f;z)は、周波数応答関数(インパルス応答関数(グリーン関数)のフーリエ変換)である。
Figure 0007026853000001
次に、位相差画像生成部22は、下記の(2)式に示すように、撮像装置10の光軸方向(z方向)の位置zにおける波面U(f,f;z)について逆フーリエ変換を実施することで、位置zにおける解u(x,y;z)を導出する。
Figure 0007026853000002
次に、位相差画像生成部22は、下記の(3)式に示すように、u(x,y;z)についての位相φを導出することで位相差画像を生成する。図4Cは、上記の各処理によって得られるスフェアのアンラッピング前の位相差画像の一例である。
Figure 0007026853000003
なお、位相差画像生成部22は、下記の(4)式に示すように、u(x,y;z)についての振幅aを導出することで、光軸方向の互いに異なる位置zの各々における振幅画像を生成してもよい。図4Dは、複数のスフェアの振幅画像の一例である。
Figure 0007026853000004
図4Cに示すアンラッピング前のスフェアの位相は、0~2πの値に畳みこまれている。そこで、例えば、Unweighted Least Squares(重みなし最小2乗法)またはFlynn's Algorithm(フリンのアルゴリズム)などの位相接続(アンラッピング)手法を適用して2π以上の部分も接合していくことで、図4Eに例示するようなスフェアの最終的な位相差画像を得ることができる。なお、アンラッピングの手法は数多く提案されており、位相不整合を生じない適切なものを適宜選択すればよい。
位相差画像生成部22は、上記の各処理を実施することにより、撮像装置10の光軸方向(z方向)の互いに異なる位置zの各々における位相差画像を生成する。撮像装置10の光軸方向(z方向)の位置zの刻み幅は、例えば、1μm程度であってもよい。
以下において、位相差画像について説明する。図5は、位相差画像Iの概念を示す図である。図5の下段は、位相差画像Iの各画素kにおける位相差量を三次元表示したものである。図5の上段は、位相差画像Iの各画素kにおける位相差量を平面上にグレースケールで示したものである。
ここで、位相差画像Iにおける位相差量θは、位相差画像Iの同一焦点面内に存在するバックグラウンド(スフェアの存在しない領域)の位相をθとし、スフェアの存在する領域の位相をθとしたとき、下記の(5)式によって表わされる。また、本明細書中における「位相」という用語は、光を電磁波とみなした場合の電場振幅の位相であり、より一般的な意味で使用される。
Figure 0007026853000005
また、位相差画像Iの各画素kにおける位相差量θは、下記(6)式によって表わすことができる。但し、nは位相差画像Iの各画素kに対応する部位におけるスフェアの屈折率であり、dは位相差画像Iの各画素kに対応する部位におけるスフェアの厚さであり、λはホログラム光学系における物体光の波長である。
Figure 0007026853000006
スフェアの位相差画像は、スフェアを透過した物体光の光路長分布を示した画像である。スフェア内における光路長は、スフェアの屈折率とスフェアの厚さの積に相当することから、スフェアの位相差画像は、(6)式にも示されているように、スフェアの屈折率及び厚さ(形状)の情報を含んでいる。
図1に示すように、フローセル200の内部を流動する複数のスフェア300の配列はランダムであるため、位相差画像生成部22によって生成される、撮像装置10の光軸方向(z方向)の位置z毎の位相差画像において、複数のスフェアの少なくとも一部が、撮像装置10の光軸方向(z方向)と交差(直交)する平面(xy平面)の方向において部分的に重なった状態にあることが想定される。位相差画像を、個々のスフェアの評価に用いるためには、部分的に重なった状態の複数のスフェアを切り分けて、それぞれを別個のスフェアとして認識する必要がある。そこで、特定部23は、xy平面の方向において、他のスフェアと重なった状態のスフェアを含む複数のスフェアを捉えた位相差画像において、個々のスフェアが延在するxy平面における範囲(領域)を特定する。
具体的には、特定部23は、撮像装置10の光軸方向(z方向)の位置z毎の位相差画像の少なくとも一部を平均化した平均化画像を生成し、この平均化画像において、複数のスフェアの各々に対応する、xy平面の方向における複数の画像範囲を特定する。以下、特定部23の機能について、更に詳細に説明する。図3に示すように、特定部23は、加算平均画像生成部24、内接円導出部25及び膨張処理部26を含んで構成されている。
加算平均画像生成部24は、撮像装置10の光軸方向(z方向)の互いに異なる位置zの位相差画像の各々を加算平均(相加平均)した加算平均画像を上記の平均化画像として生成する。ここで、図6は、位相差画像生成部22によって生成された、撮像装置10の光軸方向(z方向)の互いに異なる位置zの各々における位相差画像の一例を示す図である。図6に示す例において、z=0となる位置は、撮像装置10の光軸方向(z方向)におけるスフェアの中心位置に対応する。なお、図6に示す例において、撮像装置10の光軸方向(z方向)の位置zを-5μmから5μmまで1μmステップで変化させた位相差画像が例示されているが、位相差画像生成部22によって生成される位相差画像における位置zの刻み幅及び位置zの範囲は、この例に限定されるものではない。
加算平均画像生成部24は、図6に例示される撮像装置10の光軸方向(z方向)の互いに異なる位置zの位相差画像の各々を加算平均した加算平均画像を生成する。図6に示すように、撮像装置10の光軸方向(z方向)の位置zに応じて各スフェアの外縁の鮮明度が異なる。このため、特定部23においてスフェアの領域を特定するあたり、撮像装置10の光軸方向(z方向)の特定の位置zにおける1枚の位相差画像のみを用いた場合には、スフェアの領域の特定の精度が低下するおそれがある。特定部23においてスフェアの領域を特定するあたり、撮像装置10の光軸方向(z方向)の互いに異なる位置zの位相差画像の各々を加算平均した加算平均画像を用いることで、スフェアの領域の特定の精度を高めることが可能となる。なお、加算平均画像生成部24は、位相差画像生成部22によって生成された、撮像装置10の光軸方向(z方向)の位置zが互いに異なる複数の位相差画像の一部について加算平均画像を生成してもよいし、全部を用いて加算平均画像を生成してもよい。
内接円導出部25は、加算平均画像において、スフェアの外縁に対応する輪郭線からの距離が周囲の他の点よりも長くなる各点を中心とし、上記の輪郭線に内接する複数の内接円を導出する。具体的には、内接円導出部25は、例えば、以下の各処理を実施することにより内接円を導出する。
はじめに、内接円導出部25は、加算平均画像生成部24によって生成された図7Aに例示する加算平均画像について二値化処理を実施する。図7Bは、二値化処理後の画像の一例を示す図である。
次に、内接円導出部25は、二値化処理後の画像からスフェアの外縁に対応する輪郭線を抽出する。図7Cは、二値化処理後の画像から抽出された輪郭線400の一例を示す図である。
次に、内接円導出部25は、距離関数ε(x,y)を用いて、抽出された輪郭線400からの距離が、周囲の他の点よりも長くなる複数の点を抽出する。距離関数ε(x,y)は、画像内の任意の画素の座標(x,y)からの距離が最も短い位置にある輪郭線400上の点と、座標(x,y)との距離を、輪郭線400の内側領域の各画素について導出したものである。因みに、距離関数ε(x,y)=0となる点は、輪郭線上の点となる。図7Dは、距離関数ε(x,y)を画像化した図である。図7Eは、距離関数ε(x,y)に基づいて抽出された、輪郭線400からの距離が周囲の他の点よりも長くなる複数の点Cの一例を示す図である。
次に、内接円導出部25は、抽出した複数の点Cの各々を中心とし、輪郭線400に内接する複数の内接円を導出する。図7Fは、導出された複数の内接円401の一例を示す図である。
膨張処理部26は、内接円導出部25によって導出された内接円401の各々について膨張処理を施す。具体的には、膨張処理部26は、例えば、以下の処理を実施する。はじめに、膨張処理部26は、図7Gに示すように、膨張処理前の内接円401の各々を塗りつぶす。続いて、膨張処理部26は、既に塗りつぶされた画素に隣接する8画素のうち、塗りつぶされていない画素が存在する場合、塗りつぶされていない画素を塗りつぶす。膨張処理部26がこの処理を繰り返すことにより塗りつぶされた領域が拡大する。膨張処理部26は、上記の膨張処理を、内接円導出部25によって導出された全ての内接円401に対して同時並行で実施する。膨張処理部26は、互いに異なる内接円401に由来する塗りつぶし領域同士が衝突した場合、及び塗りつぶし領域が輪郭線400に到達した場合、当該画素における膨張処理を終了する。図7Hは、膨張処理後の画像の一例を示す図である。膨張処理後の塗りつぶし領域の各々は、複数のスフェアの各々に対応する画像範囲である。
加算平均画像生成部24、内接円導出部25及び膨張処理部26を含んで構成される特定部23が、上記の各処理を行うことで、xy平面の方向において他のスフェアと重なった状態のスフェアを含む複数のスフェアを捉えた位相差画像において、個々のスフェアが延在するxy平面における範囲(領域)が特定される。
抽出部27(図1参照)は、特定部23において特定された、スフェアの各々に対応する画像範囲の各々について、図6に例示する撮像装置10の光軸方向(z方向)の位置z毎の位相差画像の中から、対応するスフェアの光軸方向(z方向)の中心位置における位相差画像を抽出する。
スフェアに対して焦点が合っていない位相差画像からは、回折による広がりの影響によりスフェアの実態に合致した正確な情報が得られない。位相差画像を用いて細胞の評価を行う場合には、評価対象のスフェアに焦点を合わせた位相差画像を用いることが好ましい。ここで、「スフェアに焦点を合わせる」とは、球形状のスフェアの中心付近でスライスした位相差画像を得ることを意味する。スフェアに焦点が合った位相差画像を用いてスフェアの評価を行うことで、より正確な評価を行うことができる。
以下に、抽出部27が、スフェアの光軸方向(z方向)の中心位置における位相差画像を抽出する処理の詳細について説明する。
図8の左のグラフは、スフェアの位相差画像における平面方向(x方向またはy方向)の位置と位相差量との関係の一例を示すグラフであり、実線がスフェアに焦点が合っている状態に対応し、点線がスフェアに焦点が合っていない状態に対応する。スフェアに焦点が合っている場合、位相差画像における特定の位置に急峻なピークが現れる。一方、スフェアに焦点が合っていない場合、焦点が合っている場合と比較してピークが低く且つなだらかになる。
図8の右のグラフは、スフェアの位相差画像における位相差量のヒストグラムの一例であり、実線がスフェアに焦点が合っている状態に対応し、点線がスフェアに焦点が合っていない状態に対応する。スフェアに焦点が合っている場合、カーブの幅w(位相差量のばらつき)は、相対的に大きくなり、スフェアに焦点が合っていない場合、カーブの幅w(位相差量のばらつき)は、相対的に小さくなる。
従って、撮像装置10の光軸方向(z方向)の互いに異なる位置z毎のスフェアの位相差画像の各々について、位相差量のヒストグラムにおけるカーブの幅w(位相差量のばらつき)を求め、求めた幅wのうち、最大の幅wを有する位相差画像を、スフェアに焦点が合った位相差画像として抽出することで焦点合わせを実現できる。最大の幅wを有する位相差画像、すなわち、位相差量のばらつきが最大となる位相差画像は、スフェアの光軸方向(z方向)の中心位置における位相差画像に対応する。
抽出部27は、特定部23において特定された、スフェアの各々に対応する画像範囲(スフェアのxy平面における範囲)の各々について、位相差量のばらつきを導出する処理を、撮像装置10の光軸方向(z方向)の位置z毎の位相差画像の各々について行う。抽出部27は、例えば、特定された画像範囲における位相差量の最大値と最小値との差分を、当該画像範囲における位相差量のばらつきとして導出してもよい。また、特定された画像範囲における位相差量の標準偏差を、当該画像範囲における位相差量のばらつきとして導出してもよい。抽出部27は、特定された画像範囲の各々について、位相差量のばらつきが最大となる位置zの画像を抽出する。
図9は、スフェアの位相差画像における焦点位置(スライス位置)と位相差量のばらつきとの関係の一例を示したグラフである。図9には、焦点位置が、-400μm、-200μm、0μm、+200μm、及び+400μmに対応するスフェアの位相差画像が、グラフとともに例示されている。なお、図9では、位相差量のばらつきが最大となる焦点位置を0μmとしている。位相差量のばらつきが最大となる焦点位置0μmに対応する位相差画像が、焦点が合った位相差画像として抽出される。位相差量のばらつきが最大となる焦点位置0μmに対応する位相差画像において、スフェアの輪郭が最も鮮明となる。
図10は、画像処理装置20のハードウェア構成の一例である。画像処理装置20は、CPU(Central Processing Unit)501、一時記憶領域としての主記憶装置502、不揮発性の補助記憶装置503、撮像装置10及び評価装置30を含む他の装置との間で通信を行うための通信インターフェース504を含んで構成されている。CPU501、主記憶装置502、補助記憶装置503及び通信インターフェース504は、それぞれ、バス505に接続されている。
補助記憶装置503には、CPU501を、取得部21、位相差画像生成部22、特定部23及び抽出部27として機能させるための画像処理プログラム506が格納されている。CPU501は、通信インターフェース504を介して供給される外部からの指示に基づいて、補助記憶装置503から画像処理プログラム506を読み出して主記憶装置502に展開し、画像処理プログラム506に記述された画像処理を順次実行する。
図11は、画像処理プログラム506に記述された画像処理の流れの一例を示すフローチャートである。
ステップS1において、CPU501は、取得部21として機能し、撮像装置10によって撮像された、複数のスフェアを撮像視野内に収めたホログラムを取得する。
ステップS2において、CPU501は、位相差画像生成部22として機能し、撮像装置10の光軸方向(z方向)の互いに異なる位置zの各々における位相差画像をホログラムから生成する。
ステップS3において、CPU501は、特定部23(加算平均画像生成部24)として機能し、撮像装置10の光軸方向(z方向)の互いに異なる位置zの位相差画像の各々を加算平均した加算平均画像(図6参照)を生成する。
ステップS4において、CPU501は、特定部23(内接円導出部25)として機能し、加算平均画像について二値化処理を実施する(図7B参照)。
ステップS5において、CPU501は、特定部23(内接円導出部25)として機能し、二値化処理後の画像からスフェアの外縁に対応する輪郭線400を抽出する(図7C参照)。
ステップS6において、CPU501は、特定部23(内接円導出部25)として機能し、距離関数ε(x,y)を用いて、抽出された輪郭線400からの距離が、周囲の他の点よりも長くなる複数の点Cを特定する(図7E参照)。
ステップS7において、CPU501は、特定部23(内接円導出部25)として機能し、抽出した複数の点Cの各々を中心とし、輪郭線400に内接する複数の内接円401を導出する(図7F参照)。
ステップS8において、CPU501は、特定部23(膨張処理部26)として機能し、内接円401の各々について膨張処理を施す。以上の各処理により、複数のスフェアの各々に対応する、撮像装置10の光軸方向(z方向)と交差する平面(xy平面)の方向における複数の画像範囲が特定される。すなわち、他のスフェアと重なり部を有して存在する複数のスフェアの各々のxy平面の方向における領域が特定される。
ステップS9において、CPU501は、抽出部27として機能し、ステップS8において特定したスフェアの各々に対応する画像範囲の各々について、位相差量のばらつきを導出する。CPU501は、例えば、特定された画像範囲における位相差量の最大値と最小値との差分を、当該画像範囲における位相差量のばらつきとして導出してもよい。また、CPU501は、特定された画像範囲における位相差量の標準偏差を、当該画像範囲における位相差量のばらつきとして導出してもよい。CPU501は、ステップS2において生成した、撮像装置10の光軸方向(z方向)の位置z毎の位相差画像の各々について位相差量のばらつきを導出する上記の処理を行う。
ステップS10において、CPU501は、抽出部27として機能し、ステップS8において特定したスフェアの各々に対応する画像範囲の各々について、位相差量のばらつきが最大となる光軸方向の位置zの画像を抽出する。
評価装置30は、画像処理装置20の抽出部27によって抽出された位相差画像を用いて、スフェアの評価を行い、評価結果を出力する。
図12は、評価装置30の機能的な構成の一例を示す機能ブロック図である。評価装置30は、取得部31、形状指標値導出部32、位相差量総和導出部33及び判定部34を含んで構成されている。
取得部31は、画像処理装置20の抽出部27によって抽出された位相差画像を取得する。すなわち、取得部31は、複数のスフェアの各々について、撮像装置10の光軸方向(z方向)の中心位置における位相差画像を取得する。
形状指標値導出部32は、取得部31によって取得された位相差画像に含まれるスフェアの形状指標値を導出する。スフェアの形状指標値として、例えば、スフェアの体積、断面積、粒径及び周の長さなどを用いることができる。スフェアの粒径及び周の長さは、スフェアの光軸方向の中心位置における位相差画像から直接的に求めることが可能である。スフェアの断面積は、例えば、スフェアの粒径を直径とする円の断面積として導出することが可能である。スフェアの体積は、例えばスフェアの粒径を直径とする球の体積として導出することが可能である。
位相差量総和導出部33は、位相差画像を構成する複数の画素の各々の位相差量を積算した値である位相差量総和θを導出する。位相差量総和θは、下記の(7)式によって表わされる。但し、sは位相差画像の各画素kの面積であり、vは位相差画像の各画素kに対応する部位におけるスフェアの体積である。(7)式に示されるように、位相差量総和θは、スフェアの位相差画像の画素毎の位相差量θを、全ての画素kについて積算したものに相当する。なお、(7)式におけるdは画素kに投影されたスフェア部分の厚みを示し、nはバックグラウンドである培養液とスフェア内部との屈折率差を表す。(7)式では、v=d・sを用いた。ここで、(7)式により、位相差量総和θの単位は面積のスケールとなって、例えば[μm]であるが、イメージセンサ間で比較を行わない場合には単に1ピクセルあたりの画素毎の位相差量θの和として位相差量総和θの単位を[pixel]とし、つまりs=1[pixel]として扱ってもよい。
Figure 0007026853000007
判定部34は、位相差量総和θとスフェアの形状指標値との相関性の基準を示す基準相関トレンドラインと、判定対象のスフェアについての位相差量総和θと形状指標値との相関性とを比較し、判定対象のスフェアについての相関性の、基準相関トレンドラインからの乖離の程度に応じて当該判定対象のスフェアの状態を判定する。なお、基準相関トレンドラインは、予め取得したものを用いることができる。判定部34は、判定対象のスフェアについての相関性の、基準相関トレンドラインからの乖離の幅が閾値を超える場合、当該判定対象のスフェアに含まれる細胞の生存率、密度、均質性及び前記スフェアの外形形状の少なくとも1つについて異常ありと判定してもよい。
図13は、評価装置30のハードウェア構成の一例である。評価装置30は、CPU601、一時記憶領域としての主記憶装置602、不揮発性の補助記憶装置603、画像処理装置20を含む他の装置との間で通信を行うための通信インターフェース604を含んで構成されている。CPU601、主記憶装置602、補助記憶装置603、通信インターフェース604は、それぞれ、バス605に接続されている。
補助記憶装置603には、CPU601を、取得部31、形状指標値導出部32、位相差量総和導出部33及び判定部34として機能させるための評価プログラム606が格納されている。CPU601は、通信インターフェース604を介して供給される外部からの指示に基づいて、補助記憶装置603から評価プログラム606を読み出して主記憶装置602に展開し、評価プログラム606に記述された評価処理を順次実行する。なお、本実施形態においては、評価装置30及び画像処理装置20を、別々のコンピュータによって構成する場合を例示しているが、評価装置30及び画像処理装置20を共通のコンピュータによって構成することも可能である。
図14は、評価プログラム606に記述された評価処理の流れの一例を示すフローチャートである。
ステップS11において、CPU601は、取得部31として機能し、画像処理装置20の抽出部27によって抽出された位相差画像を取得する。
ステップS12において、CPU601は、形状指標値導出部32として機能し、ステップS11において取得した位相差画像に含まれるスフェアの形状指標値を導出する。スフェアの形状指標値として、例えば、スフェアの体積、断面積、粒径及び周の長さなどを用いることができる。
ステップS13において、CPU601は、位相差量総和導出部33として機能し、ステップS11において取得した位相差画像について位相差量総和θを導出する。
ステップS14において、CPU601は、判定部34として機能し、位相差量総和θとスフェアの形状指標値との相関性の基準を示す基準相関トレンドラインと、判定対象のスフェアについての位相差量総和θと形状指標値との相関性とを比較し、判定対象のスフェアについての相関性の、基準相関トレンドラインからの乖離の程度に応じて当該判定対象のスフェアの状態を判定し、判定結果を出力する。なお、基準相関トレンドラインは、補助記憶装置603に予め記憶したものを用いることができる。判定部34は、判定対象のスフェアについての相関性の、基準相関トレンドラインからの乖離の幅が閾値を超える場合、当該判定対象のスフェアに含まれる細胞の生存率、密度、均質性及び前記スフェアの外形形状の少なくとも1つについて異常ありと判定してもよい。
図15は、スフェアの体積と位相差量総和θとの相関特性の一例を示すグラフである。図15に示すように、位相差量総和θとスフェアの体積とは、比例関係であることが確認された。図15には、スフェアの体積と位相差量総和θとの間の相関性の基準を示す基準相関トレンドラインLが、プロットと共に示されている。図15に示す各プロットから導出した回帰線を、基準相関トレンドラインLとして適用した。
図15には、基準相関トレンドラインL上に存在するプロットa1及びa2に対応するスフェアの位相差画像、及び基準相関トレンドラインLから乖離した位置に存在するプロットa3、a4、a5に対応するスフェアの位相差画像が示されている。基準相関トレンドラインL上に存在するプロットa1及びa2に対応するスフェアについては、スフェアの全体に亘って輝度が均一な位相差画像が得られた。このことは、スフェアを構成する複数の細胞が均質であること、及びスフェア内における細胞の密度が均一であること等を示している。一方、基準相関トレンドラインLから乖離した位置に存在するプロットa3及びa4に対応するスフェアについては、中心部の輝度が他の部位と比較して低下している位相差画像が得られた。このことは、スフェアを構成する複数の細胞が不均質であること、及びスフェア内における細胞の密度が不均一であること等を示している。また、基準相関トレンドラインLから乖離した位置に存在するプロットa5に対応するスフェアについては、スフェアの輪郭線の凹凸が顕著な位相差画像が得られた。このことは、スフェアを構成する細胞に異常が生じていること等を示している。
以上の結果から、位相差量総和θと、スフェアの形状指標値の一例である体積との相関性を用いてスフェアの状態を判定することが可能であるといえる。また、位相差量総和θとスフェアの体積との相関性を示す基準相関トレンドラインLと、判定対象のスフェアについての位相差量総和θと形状指標値との相関性とを比較し、判定対象のスフェアについての相関性の、基準相関トレンドラインLからの乖離の程度に応じて当該スフェアの状態を判定することが可能であるといえる。具体的には、一方の軸にスフェアの体積をとり、他方の軸に位相差量総和θをとったグラフ上にプロットした、判定対象のスフェアについてのプロットの、基準相関トレンドラインLからの乖離の程度に応じて、各スフェアの状態を判定することが可能であるといえる。従って、例えば、位相差量総和θの基準相関トレンドラインLからのマイナス幅が閾値以上であるスフェアについては、当該スフェアに含まれる複数の細胞の密度、均質性、及びスフェアの外形形状のうちの少なくとも1つに異常があるものと判定することができる。
なお、本実施例では、スフェアの形状指標値としてスフェアの体積を用いたが、これに代えて、スフェアの断面積、粒径または周の長さを用いることも可能である。これらいずれの形状指標値を用いる場合でも、位相差量総和θとの相関性を用いてスフェアの状態を判定することが可能である。
以下に、評価装置30の他の態様について説明する。図16は、評価装置30の機能的な構成の他の例を示す機能ブロック図である。評価装置30は、取得部31、位相差量密度導出部35及び判定部34を含んで構成されている。本実施形態において、評価装置30は、位相差量総和θを当該スフェアの体積で除算した位相差量密度Dを導出し、導出した位相差量密度Dに基づいて、当該スフェアの状態を判定する。
位相差量密度Dは、下記の(8)式によって表わされる。但し、Vはスフェアの体積である。(8)式に示されるように、位相差量密度Dは、位相差量総和θを当該スフェアの体積Vで除算したものに相当する。健全な細胞は、その恒常性から内部の屈折率は、媒質の屈折率とは異なる一定の値を維持するものと考えられる。一方、死細胞は、恒常性を喪失し、内部の屈折率が媒質の屈折率と略同じになるものと考えられる。従って、位相差量密度Dを、細胞の状態を示す指標として用いることが可能であると考えられる。例えば、判定対象のスフェアについて取得した位相差量密度Dが、閾値以上である場合に当該スフェアの状態が良好であると判定することができ、位相差量密度Dが、閾値未満である場合に当該スフェアの状態が異常であると判定することができる。なお、2π/λは、定数として扱うことができるので、位相差量密度Dの導出に際し、2π/λの乗算を省略してもよい。ここで、スフェアの体積平均屈折率差NaveをNave=Σn ・ (v/V)とすると、(8)式は、D=(2π/λ)×Naveとなることから、位相差密度は体積平均したスフェアの屈折率差を波長の長さで規格化したものである。本明細書において、Vはスフェアの位相像の断面画像から球相当径を算出して求めた。より正確に楕円球とすることも可能である。
Figure 0007026853000008
本実施形態に係る評価装置30のハードウェア構成は、図13に示されたものと同様である。図17は、本実施形態に係る評価プログラム606に記述された評価処理の流れの他の例を示すフローチャートである。
ステップS21において、CPU601は、取得部31として機能し、画像処理装置20の抽出部27によって抽出された位相差画像を取得する。
ステップS22において、CPU601は、位相差量密度導出部35として機能し、ステップS21において取得した位相差画像について位相差量密度Dを導出する。
ステップS23においてCPU601は、判定部34として機能し、予め取得しておいた細胞の生存率と位相差量密度Dとの相関性を示す相関ラインと、ステップS22において導出した位相差量密度Dとに基づいて、当該スフェア内における細胞の生存率を推定し、これを判定結果として出力する。
図18は、細胞の生存率と位相差量密度D(ロット平均値)との相関特性の一例を示すグラフである。生存率の測定手順は以下のとおりである。遠沈管に収容したスフェアを400G、3分間の遠心分離処理を実施した。遠沈管の底に沈殿したスフェアを回収し、細胞解離酵素であるTrypLE(登録商標) Selectを用いて単一細胞に分解した。分解した細胞に対してTrypan Blueによる死細胞染色処理を施した後、細胞を、市販されている一般的なセルカウンタ(Countess(登録商標)) で計数することで、染色された死細胞の個数をカウントした。死細胞のカウント数から細胞の生存率を培養ロット毎に導出した。
横軸に細胞の生存率をとり、縦軸に位相差量密度Dをとったグラフ上に、各培養ロットについてプロットを形成することで、細胞の生存率と位相差量密度D(ロット平均値)との相関特性を取得した。図18に示すように、細胞の生存率と、位相差量密度Dとは比例関係であることが確認された。
以上の結果より、位相差量密度Dから細胞の生存率を推定できるといえる。位相差量密度Dから細胞の生存率を推定することで、遠心分離処理及び染色処理等の細胞の破壊を伴う処理を行うことなく(すなわち非破壊で)、細胞の生存率を把握することができる。本実施形態に係る評価装置30は、細胞の生存率と位相差量密度Dとの相関性を示す相関ラインと、判定対象の培養ロットに属するスフェアについて取得した位相差量密度Dの平均値とから推定した当該培養ロットにおける細胞の生存率を判定結果として出力する。
以上のように、開示の技術の実施形態に係る評価システム1によれば、位相差画像生成部22によって生成される位相差画像において、複数のスフェアの少なくとも一部が、撮像装置10の光軸方向(z方向)と交差する平面(xy平面)の方向において部分的に重なった状態にあることが想定される。位相差画像を用いて個々のスフェアの評価を行うためには、位相差画像において部分的に重なった状態の複数のスフェアを切り分けて、それぞれを別個のスフェアとして認識する必要がある。
開示の技術の実施形態に係る画像処理装置20によれば、位相差画像生成部22が、撮像装置10の光軸方向(z方向)の互いに異なる位置の各々における位相差画像を、撮像装置10によって撮像されたホログラムから生成し、特定部23が位相差画像の各々を加算平均した加算平均画像において、複数のスフェアの各々に対応する、xy平面の方向における複数の画像範囲を特定し、抽出部27が、特定された画像範囲の各々について、対応するスフェアの光軸方向(z方向)の中心位置における位相差画像を抽出する。すなわち、特定部23により個々のスフェアが延在するxy平面における範囲(領域)が特定され、抽出部27により、各スフェアの延在範囲(領域)について、適切に焦点合わせがなされた位相差画像が抽出される。従って、画像処理装置20によれば、各スフェアの状態評価を適切に実施することが可能となる。
また、開示の技術の実施形態に係る評価システム1によれば、複数のスフェアを撮像視野内に収めて撮像したホログラムに基づいて、複数のスフェアの各々についての評価を行うので、従来のフローサイトメトリーを用いた評価手法と比較して、処理時間を大幅に短縮することが可能となる。すなわち、評価システム1によれば、大量のスフェアを、非破壊且つ迅速に評価することが可能となる。
なお、以上の説明では、細胞の凝集体であるスフェアの状態を評価する場合を例示したが、開示の技術は、スフェア以外の粒状体を評価する場合についても適用することが可能である。また、特定部23が、スフェアの各々に対応する画像範囲を特定する際に用いる平均化画像として加算平均画像を用いる場合を例示したが、位相差画像の少なくとも一部を相乗平均した相乗平均画像を平均化画像として用いてもよいし、位相差画像の少なくとも一部を加重平均した加重平均画像を平均化画像として用いてもよい。
1 評価システム
10 撮像装置
20 画像処理装置
21 取得部
22 位相差画像生成部
23 特定部
24 加算平均画像生成部
25 内接円導出部
26 膨張処理部
27 抽出部
30 評価装置
31 取得部
32 形状指標値導出部
33 位相差量総和導出部
34 判定部
35 位相差量密度導出部
100 ホログラム光学系
101 レーザ光源
102 ビームスプリッタ
103 コリメートレンズ
105 対物レンズ
107 結像レンズ
108 ビームスプリッタ
109 光ファイバ
110 コリメートレンズ
200 フローセル
300 スフェア
400 輪郭線
401 内接円
501、601 CPU
502、602 主記憶装置
503、603 補助記憶装置
504、604 通信インターフェース
505、605 バス
506 画像処理プログラム
606 評価プログラム

Claims (8)

  1. 複数の粒状体を撮像視野内に収めて撮像したホログラムを取得する取得部と、
    前記ホログラムを撮像する際の光軸方向の互いに異なる位置の各々における位相差画像を、前記ホログラムから生成する生成部と、
    前記位相差画像の少なくとも一部を平均化した平均化画像において、前記複数の粒状体の各々に対応する、前記光軸方向と交差する平面の方向における複数の画像範囲を特定する特定部と、
    前記複数の画像範囲の各々について、対応する粒状体の前記光軸方向の中心位置における位相差画像を抽出する抽出部と、
    を含む画像処理装置。
  2. 前記特定部は、
    前記位相差画像の少なくとも一部を加算平均した加算平均画像を、前記平均化画像として生成する加算平均画像生成部と、
    前記加算平均画像における前記粒状体の外縁に対応する輪郭線からの距離が、周囲の他の点よりも長くなる各点を中心とし、前記輪郭線に内接する複数の内接円を導出する内接円導出部と、
    前記内接円の各々について膨張処理を施す膨張処理部と、
    を含む
    請求項1に記載の画像処理装置。
  3. 前記抽出部は、前記光軸方向の互いに異なる位置の各々における位相差画像のうち、画素間の位相差量のばらつきが最大となるものを、前記粒状体の前記光軸方向の中心位置における位相差画像として抽出する
    請求項1または請求項2に記載の画像処理装置。
  4. 前記粒状体は、複数の細胞の凝集体である
    請求項1から請求項3のいずれか1項に記載の画像処理装置。
  5. 複数の粒状体を撮像視野内に収めたホログラムを撮像する撮像装置と、
    前記ホログラムに対する画像処理を行う画像処理装置と、
    前記画像処理装置によって得られた画像に基づいて、前記複数の粒状体の各々について評価結果を出力する評価装置と、を含み、
    前記画像処理装置は、
    前記ホログラムを取得する取得部と、
    前記ホログラムを撮像する際の光軸方向の互いに異なる位置の各々における位相差画像を、前記ホログラムから生成する生成部と、
    前記位相差画像の少なくとも一部を平均化した平均化画像において、前記複数の粒状体の各々に対応する、前記光軸方向と交差する平面の方向における複数の画像範囲を特定する特定部と、
    前記複数の画像範囲の各々について、対応する粒状体の前記光軸方向の中心位置における位相差画像を抽出する抽出部と、
    を含み、
    前記評価装置は、前記抽出部によって抽出された位相差画像を用いて前記評価結果を導出する
    評価システム。
  6. 前記複数の粒状体が流動する流路を更に含み、
    前記撮像装置は、前記撮像視野内に前記流路の幅方向の全域が収まるように設置されている
    請求項5に記載の評価システム。
  7. 複数の粒状体を撮像視野内に収めて撮像したホログラムを取得し、
    前記ホログラムを撮像する際の光軸方向の互いに異なる位置の各々における位相差画像を、前記ホログラムから生成し、
    前記位相差画像の少なくとも一部を平均化した平均化画像において、前記複数の粒状体の各々に対応する、前記光軸方向と交差する平面の方向における複数の画像範囲を特定し、
    前記複数の画像範囲の各々について、対応する粒状体の前記光軸方向の中心位置における位相差画像を抽出する
    処理をコンピュータに実行させるための画像処理プログラム。
  8. 複数の粒状体を撮像視野内に収めて撮像したホログラムを取得し、
    前記ホログラムを撮像する際の光軸方向の互いに異なる位置の各々における位相差画像を、前記ホログラムから生成し、
    前記位相差画像の少なくとも一部を平均化した平均化画像において、前記複数の粒状体の各々に対応する、前記光軸方向と交差する平面の方向における複数の画像範囲を特定し、
    前記複数の画像範囲の各々について、対応する粒状体の前記光軸方向の中心位置における位相差画像を抽出する
    画像処理方法。
JP2021527485A 2019-06-28 2020-05-21 画像処理装置、評価システム、画像処理プログラム及び画像処理方法 Active JP7026853B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019122482 2019-06-28
JP2019122482 2019-06-28
PCT/JP2020/020027 WO2020261826A1 (ja) 2019-06-28 2020-05-21 画像処理装置、評価システム、画像処理プログラム及び画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2020261826A1 JPWO2020261826A1 (ja) 2020-12-30
JP7026853B2 true JP7026853B2 (ja) 2022-02-28

Family

ID=74061967

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021527485A Active JP7026853B2 (ja) 2019-06-28 2020-05-21 画像処理装置、評価システム、画像処理プログラム及び画像処理方法

Country Status (4)

Country Link
US (1) US11480920B2 (ja)
EP (1) EP3992609B1 (ja)
JP (1) JP7026853B2 (ja)
WO (1) WO2020261826A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2022181024A1 (ja) * 2021-02-26 2022-09-01
WO2022215499A1 (ja) * 2021-04-09 2022-10-13 富士フイルム株式会社 ホログラフィー装置及び細胞の評価方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003156427A (ja) 2001-11-21 2003-05-30 Mauntekku:Kk 粒子形状解析方法および装置
JP2015510592A (ja) 2012-02-13 2015-04-09 オヴィジオ イメージング システムズ エン.ヴェー. デジタルホログラフィック顕微鏡を備えるフローサイトメータ
JP2018507392A (ja) 2014-12-19 2018-03-15 コミッサリア ア レネルジー アトミーク エ オ ゼネルジ ザルタナテイヴ デフォーカスされたホログラフィ像のスタックを用いて生物学的粒子を同定するための方法。

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8885913B2 (en) * 1999-01-25 2014-11-11 Amnis Corporation Detection of circulating tumor cells using imaging flow cytometry
EP2602608B1 (en) 2011-12-07 2016-09-14 Imec Analysis and sorting of biological cells in flow
US8687253B2 (en) * 2011-12-13 2014-04-01 Canon Kabushiki Kaisha Speckle noise reduction based on longitudinal shift of sample
WO2014124057A1 (en) 2013-02-05 2014-08-14 Massachusetts Institute Of Technology 3-d holographic imaging flow cytometry
JP2016133466A (ja) 2015-01-21 2016-07-25 ウシオ電機株式会社 水質検査システム
US11092532B2 (en) * 2017-06-23 2021-08-17 Texas Tech University System Method and device for label-free, high throughput holographic screening and enumeration of tumor cells in blood
US20200311465A1 (en) * 2017-11-14 2020-10-01 miDiagnostics NV Classification of a population of objects by convolutional dictionary learning with class proportion data
EP3575773A1 (en) * 2018-05-28 2019-12-04 Universität für Bodenkultur Wien A method for determining a three-dimensional particle distribution in a medium
EP3803384A4 (en) * 2018-06-04 2021-08-11 The Regents of University of California DEEP LEARNING-ACTIVATED PORTABLE IMAGING FLOW CYTOMETER FOR MARK-FREE ANALYSIS OF WATER SAMPLES

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003156427A (ja) 2001-11-21 2003-05-30 Mauntekku:Kk 粒子形状解析方法および装置
JP2015510592A (ja) 2012-02-13 2015-04-09 オヴィジオ イメージング システムズ エン.ヴェー. デジタルホログラフィック顕微鏡を備えるフローサイトメータ
JP2018507392A (ja) 2014-12-19 2018-03-15 コミッサリア ア レネルジー アトミーク エ オ ゼネルジ ザルタナテイヴ デフォーカスされたホログラフィ像のスタックを用いて生物学的粒子を同定するための方法。

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KEMMLER Manuel et al.,Noninvasive time-dependent cytometry monitoring by digital holography,Journal of Biomedical Optics,Vol.12,No.6,2007年,pp.064002-1 - 06400210

Also Published As

Publication number Publication date
EP3992609A4 (en) 2022-08-10
EP3992609A1 (en) 2022-05-04
JPWO2020261826A1 (ja) 2020-12-30
EP3992609B1 (en) 2024-04-17
US20220083004A1 (en) 2022-03-17
WO2020261826A1 (ja) 2020-12-30
US11480920B2 (en) 2022-10-25

Similar Documents

Publication Publication Date Title
JP6995975B2 (ja) 判定方法
JP6490219B2 (ja) デジタルホログラフィにおけるオートフォーカスシステムおよびオートフォーカス方法
JP6727229B2 (ja) 粒子の分析方法
EP3803331B1 (en) A method for determining a three-dimensional particle distribution in a medium
US11480920B2 (en) Image processing apparatus, evaluation system, image processing program, and image processing method
JP2019516108A (ja) サンプルの粒子を特徴付けるホログラフィック方法
JP2023529901A (ja) 媒質中の粒子の性質の特定方法
JP2023530078A (ja) 媒質内の粒子の焦点距離を特定するための方法
CN106092859A (zh) 基于激光干涉成像和同轴全息的粒子形状判别***及方法
JP6867731B2 (ja) 微粒子観察装置及び微粒子観察方法
CN108593528B (zh) 基于激光干涉的非球形粗糙粒子形状和尺寸测量方法
US11869181B2 (en) Determination method
Goud et al. Novel defocus hologram aberration compensation method in digital holography integrated pathology microscope for label free 3-D imaging
JP7046211B2 (ja) 判定方法
Sirico et al. Holographic tracking and imaging of free-swimming Tetraselmis by off-axis holographic microscopy
Tai et al. A forward reconstruction, holographic method to overcome the lens effect during 3D detection of semi-transparent, non-spherical particles
KR101761014B1 (ko) 마이크로 렌즈 3차원 광학 굴절률 촬영 장치 및 방법
WO2022224722A1 (ja) 評価値の取得方法
Chang et al. Combining optical diffraction tomography with imaging flow cytometry for characterizing morphology, hemoglobin content, and membrane deformability of live red blood cells
WO2023233827A1 (ja) 位相画像取得方法及び定量データ取得方法
Angarita-Jaimes et al. Wavefront sensing for 3D particle metrology and velocimetry
Hu Quantitative assessment of image motion blur in diffraction images of moving biological cells
El Mallahi et al. Automated 3D detection of particles using digital holographic microscopy with partially coherent source-Applications in environmental monitoring
Tamrin Particle image identification, classification and correction techniques in digital holographic microscopy
Mas Soler Force calibration of optical traps by video-based methods

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211221

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20211221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220125

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220215

R150 Certificate of patent or registration of utility model

Ref document number: 7026853

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150