JP6947289B2 - 細胞観察装置 - Google Patents

細胞観察装置 Download PDF

Info

Publication number
JP6947289B2
JP6947289B2 JP2020507180A JP2020507180A JP6947289B2 JP 6947289 B2 JP6947289 B2 JP 6947289B2 JP 2020507180 A JP2020507180 A JP 2020507180A JP 2020507180 A JP2020507180 A JP 2020507180A JP 6947289 B2 JP6947289 B2 JP 6947289B2
Authority
JP
Japan
Prior art keywords
image
cell
observation device
region
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020507180A
Other languages
English (en)
Other versions
JPWO2019180833A1 (ja
Inventor
克利 木村
克利 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Publication of JPWO2019180833A1 publication Critical patent/JPWO2019180833A1/ja
Priority to JP2021147618A priority Critical patent/JP7428173B2/ja
Application granted granted Critical
Publication of JP6947289B2 publication Critical patent/JP6947289B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Micro-Organisms Or Cultivation Processes Thereof (AREA)
  • Image Analysis (AREA)

Description

本発明は、細胞の状態を観察する細胞観察装置に関し、さらに詳しくは、多能性幹細胞(ES細胞やiPS細胞)を培養する過程等において細胞の状態を非侵襲で判定したり培養に不具合がないか等を確認したりするのに好適な細胞観察装置に関する。
再生医療分野では、近年、iPS細胞やES細胞等の多能性幹細胞を用いた研究が盛んに行われている。こうした多能性幹細胞を利用した再生医療の研究・開発においては、多能性を維持した状態の未分化の細胞を大量に培養する必要がある。そのため、適切な培養環境の選択と環境の安定的な制御が必要であるとともに、培養中の細胞の状態を高い頻度で確認する必要がある。例えば、細胞コロニー内の細胞が未分化状態から逸脱すると、この場合、細胞コロニー内にある全ての細胞は分化する能力を有しているために、最終的にはコロニー内の細胞全てが未分化逸脱状態に遷移してしまう。そのため、作業者は培養している細胞中に未分化状態を逸脱した細胞(すでに分化した細胞や分化しそうな細胞、以下「未分化逸脱細胞」という)が発生していないかを日々確認し、未分化逸脱細胞を見つけた場合にはこれを迅速に除去する必要がある。また、培養の過程で塵埃などの異物が培地に混入してしまうことがあるが、そうした異物もできるだけ迅速に除去する必要がある。
多能性幹細胞が未分化状態を維持しているか否かの判定は、未分化マーカーによる染色を行うことで確実に行うことができる。しかしながら、染色を行った細胞は死滅するため、再生医療用の多能性幹細胞の判定には未分化マーカー染色を実施することができない。そこで、現在の再生医療用細胞培養の現場では、位相差顕微鏡を用いた細胞の形態的観察に基づいて、作業者が未分化細胞であるか否かを判定するようにしている。位相差顕微鏡を用いるのは、一般に細胞は透明であって通常の光学顕微鏡では観察しにくいためである。
また、非特許文献1に開示されているように、最近では、ホログラフィ技術を用いて細胞の観察画像を取得する装置も実用化されている。この装置は、特許文献1〜4等に開示されているように、デジタルホログラフィック顕微鏡で得られたホログラムデータに対し位相回復や画像再構成等のデータ処理を行うことで、細胞が鮮明に観察し易い位相像(インライン型ホログラフィック顕微鏡(In-line Holographic Microscopy:IHM)を用いていることから、以下「IHM位相像」という)を作成するものである。デジタルホログラフィック顕微鏡では、ホログラムデータを取得したあとの演算処理の段階で任意の距離における位相情報を算出することができるため、撮影時にいちいち焦点合わせを行う必要がなく測定時間を短くすることができるという利点がある。
しかしながら、位相差顕微画像やIHM位相画像では細胞を或る程度鮮明に観察可能であるものの、作業者が目視で未分化細胞等を正確に判定するにはかなり熟練が必要である。そのため、そうした判定を担当できる作業者がかなり限られる。また、人間の判断に基づくために判定にばらつきが生じることは避けられない。また、熟練した作業者であっても正確な判定には時間が掛かるため、大量の画像を処理することは難しい。そのため、こうした従来の手法は大学や研究機関での研究レベルであれば許容可能であるものの、多能性幹細胞を工業的に大量生産するのには適さない。
国際特許公開第2017/203718号パンフレット 国際特許公開第2017/204013号パンフレット 国際特許公開第2016/084420号パンフレット 特開平10−268740号公報
「細胞培養解析装置 CultureScanner CS-1」、[online]、株式会社島津製作所、[平成30年2月14日検索]、インターネット<URL: https://www.an.shimadzu.co.jp/bio/cell/cs1/index.htm>
本発明は上記課題を解決するためになされたものであり、その目的とするところは、細胞について得られた観察画像に基づいて細胞の状態や品質などを判定したり、異物混入等の不適切な状態がないかを確認したりする作業を、経験や技量に乏しい作業者であっても行うことができ、且つそうした作業を効率的に行うことができる細胞観察装置を提供することである。
上記課題を解決するために成された本発明に係る細胞観察装置は、
a)インライン型ホログラフィック顕微鏡と、該ホログラフィック顕微鏡で得られたホログラムデータに基づいて位相画像、又は、位相画像及び強度画像を作成する画像再構成処理部と、を含み、細胞についての位像を観察画像として取得する観察画像取得部と、
b)前記観察画像取得部で取得された観察画像の全体又はその一部について、観察画像の入力に対し該観察画像中の2以上の特徴領域を区分けした画像を出力する機械学習モデルを利用して、2以上の細胞状態をそれぞれ示す特徴領域を識別する領域識別部と、
c)前記領域識別部により識別された2以上の特徴領域を、それぞれ視覚的に識別可能な態様で区分けして描出した領域識別画像を作成し、該領域識別画像を表示部の画面上に表示するものであって、表示された前記領域識別画像上で所定の範囲が選択されたときに、該所定の範囲の領域識別画像の拡大画像と、前記位相画像又は前記位相画像及び強度画像内で前記拡大画像に対応した範囲の画像とを同一画面内に表示する画像表示処理部と、
を備えることを特徴としている。
本発明において観察画像は、インライン型ホログラフィック顕微鏡で得られたホログラムデータから求まる位相画像である。
観察画像取得部でこうした観察画像が得られると、領域識別部は、その観察画像の全体又は例えばユーザにより指定された範囲の部分的な観察画像について、互いに異なる細胞状態をそれぞれ示す2以上の特徴領域を識別する。領域識別部における領域識別のアルゴリズムは特に問わないが、教師有りの機械学習をその一部に利用したものが有用である。即ち、本発明の一態様として、前記領域識別部は、観察画像中の2以上の特徴領域を識別可能な態様で区分けされた画像を教師データとして用いた機械学習により作成された学習済みモデルを使用して、前記観察画像の全体又はその一部について前記特徴領域を識別するものとすることができる。
教師有りの機械学習としては、サポートベクターマシン(Support Vector Machine:SVM)、ランダムフォレスト(Random Forest)、アダブースト(AdaBoost)、単純ベイズ、k近傍法、さらにはニューラルネットワークを含むディープラーニング(Deep Learning)など、適宜の手法を用いることができる。また、画像そのものを学習するのではなく、画像からテクスチャ解析などにより抽出した特徴量を学習するものでもよい
上記特徴領域は観察対象の細胞の種類や観察の目的等によって異なるが、例えば観察対象の細胞がヒトiPS細胞を含む多能性幹細胞である場合、互いに異なる細胞状態とは未分化細胞と未分化逸脱細胞などである。そこで、本発明では例えば、前記特徴領域の一つは細胞又は細胞コロニーである領域、該特徴領域の他の一つは細胞又は細胞コロニーである領域中において未分化細胞又は未分化逸脱細胞のいずれかである領域とすることができる。また、互いに異なる細胞状態として、目的とする器官(例えば心臓移植用の心筋)の細胞へ分化した細胞と、それ以外の細胞(例えば神経細胞など)としてもよい。
画像表示処理部は、上述したように識別された2以上の特徴領域を、それぞれ視覚的に識別可能な態様で区分けして描出した領域識別画像を作成する。そして、該領域識別画像を表示部の画面上に表示する。ここで「視覚的に識別可能な態様」とは、典型的には、互いに異なる表示色を用いた塗りつぶし処理、つまりは特徴領域の色分けである。もちろん、グレイスケール上の異なる濃淡で特徴領域を区分けしてもよいし、塗りつぶし部分の図形パターンが異なるもので特徴領域を区分けしてもよい。
こうして表示された領域識別画像では、例えば未分化細胞領域、未分化逸脱細胞領域、異物領域などがそれぞれ異なる色等で示される。それにより、観察画像からは細胞の状態の判別が行えないような経験の乏しい作業者であっても、細胞コロニー中に未分化逸脱細胞が存在するかどうか、存在するとすれば未分化細胞と未分化逸脱細胞との境界はどこか、或いは、培地中に異物が混入していないかどうか、などを一目で把握することができる。
本発明において好ましくは、前記領域識別部は、画素単位で前記特徴領域を識別した情報を生成し、前記画像表示処理部は、画素単位又は隣接する複数の画素をまとめた小領域の単位で、異なる特徴領域を視覚的に識別可能な態様で区分けして描出する構成とするとよい。
例えば倍率の小さな観察画像では1個の細胞が画像の1画素程度の大きさになる場合もあり得るが、1個の細胞が未分化逸脱細胞であると判定されて該細胞に対応する1画素が領域識別画像上で周りの画素と異なる色で表示されても分かりにくいことが多い。そうした場合に、画素単位ではなく隣接する複数の画素をまとめた小領域の単位で、一つの小領域に含まれる複数の画素のいずれか一つで或る特徴領域であると識別されたならば、その小領域をその特徴領域に対応付けられた色で示すことにより、その特徴領域が存在することが視覚的に分かり易くなる。これにより、作業者による画像の確認時に、ごく小さい特徴領域の見逃しを防止することができる。
また本発明において、前記画像表示処理部は、前記領域識別部での識別対象である細胞状態及び特徴領域毎の識別可能な態様を示す情報を前記領域識別画像と共に表示する構成とするとよい。
具体的には、領域識別画像中の各特徴領域を異なる表示色で示す場合に、「赤色:未分化逸脱、緑色:未分化」などの情報を該画像の一部に、又は該画像の近傍に表示するとよい。これにより、作業者は一目で画像中の細胞状態を把握することができる。
また本発明において前記画像表示処理部は、ユーザの操作に応じて、前記表示部の画面上に表示した領域識別画像を拡大又は縮小させる構成とするとよい
これにより、作業者は例えば細胞1個程度のごく小さい範囲の細胞状態も正確に把握することができる。
また上記構成において、前記画像表示処理部は、前記拡大画像とその拡大前の領域識別画像とを同一画面内に表示するとよい。
これにより、作業者は、試料上の広い範囲における細胞状態の分布状態と、その中の一部の細かい細胞状態とを併せて把握することができる。
また上記構成において、前記画像表示処理部は、前記領域識別部での識別対象である細胞状態及び特徴領域毎の識別可能な態様を示す情報を前記拡大画像と共に表示するとよい。
これにより、作業者は拡大画像を見ただけで該画像中の細胞状態を的確に把握することができる。
この構成によれば、ホログラムデータに基づいて位相情報や強度情報を算出する段階で任意の焦点位置における情報を計算によって求めることができ、細胞を含む試料をホログラフィック顕微鏡で撮影する段階では面倒な焦点合わせを行う必要がない。そのため、試料の撮影を短時間で円滑に行うことができ、生きた状態の細胞を観察するのに好適である。また、一般的な光学顕微画像に比べて細胞が比較的明瞭に観察可能な位相画像や異物等が比較的明瞭に観察可能な強度画像と領域識別画像とを同一画面上で比較することができるので、それら画像を見比べながら、自動的な識別処理による特徴領域の識別が適切に行われているか否かをチェックすることができる。
また上記構成において、前記画像表示処理部は、前記領域識別画像上で所定の範囲が選択されたときに、該範囲の拡大画像と、前記位相画像及び/又は強度画像内で前記拡大画像に対応した範囲の画像とを同一画面内に表示するとよい。
さらにまた、上記構成において、前記画像表示処理部は、前記拡大画像と前記位相画像及び/又は強度画像の拡大画像とのいずれかで拡大・縮小の操作がなされたときに、該操作に応じて全ての画像を連動させて拡大・縮小させるとよい。
これにより、常に同じ範囲の領域識別画像と位相画像又は強度画像とを見比べることができるので、領域識別が適切かどうか等の確認を正確に行うことができる。また、作業者自らが一つ一つの画像を個別に拡大・縮小する必要がないので、観察作業を効率的に行うことができる。
また上記構成において、前記画像表示処理部は、前記領域識別画像と前記位相画像又は強度画像とを重ね合わせた合成画像を表示する構成としてもよい。
またその場合、前記画像表示処理部は、重ね合わせた少なくとも一方の画像の透明度をユーザによる操作に応じて調整する構成とするとよい。
こうした構成によれば、位相画像や強度画像上の模様や境界と特徴領域との関係を作業者が容易に且つ視覚的に把握することができるようになる。もちろん、複数の画像を並べて配置する表示と重ねた表示とをユーザが適宜に切り替えられるようにしておくと便利である。
本発明によれば、例えばiPS細胞やES細胞などの多能性幹細胞を培養する現場において、作業者が、培養中の細胞が未分化状態を維持しているのか未分化逸脱状態であるのか、細胞コロニー中に未分化逸脱細胞が存在するか否か、或いは、培地に異物が混入していないか否かなど判定する作業の労力を軽減することができる。また、そうした作業を担当する作業者の熟練や技量が不足している場合であっても、判定のばらつきを軽減し、判定ミスや見逃しを減らして判定精度を向上させることができる。また、大量の観察画像を効率良く処理することができ、作業の効率を向上させることができる。こうしたことから、培養中の細胞の品質管理が容易になり、細胞培養における生産性の向上を図ることができる。
本発明の一実施例である細胞観察装置の概略構成図。 本実施例の細胞観察装置における観察画像の領域識別処理の流れを示すフローチャート。 本実施例の細胞観察装置における領域識別処理の一例を示す模式図。 本実施例の細胞観察装置における領域識別画像の表示の一態様を示す図。 本実施例の細胞観察装置における領域識別画像の表示の他の態様を示す図。
以下、本発明に係る細胞観察装置の一実施例について、添付図面を参照して説明する。
図1は本実施例の細胞観察装置の概略構成図である。
本実施例の細胞観察装置は、顕微観察部10と、制御・処理部20と、ユーザインターフェイスである入力部30及び表示部40と、を備える。
顕微観察部10はインライン型ホログラフィック顕微鏡であり、レーザダイオードなどを含む光源部11とイメージセンサ12とを備え、光源部11とイメージセンサ12との間に、細胞コロニー(又は細胞単体)14を含む培養プレート13が配置される。
制御・処理部20は、顕微観察部10の動作を制御するとともに顕微観察部10で取得されたデータを処理するものであって、撮影制御部21と、ホログラムデータ記憶部22と、位相情報算出部23と、画像再構成部24と、再構成画像データ記憶部25と、領域識別処理部26と、領域識別結果データ記憶部27と、領域識別画像作成部28と、表示処理部29と、を機能ブロックとして備える。領域識別処理部26の詳細は後述する。
通常、制御・処理部20の実体は、所定のソフトウェアがインストールされたパーソナルコンピュータやより性能の高いワークステーション、或いは、そうしたコンピュータと通信回線を介して接続された高性能なコンピュータを含むコンピュータシステムである。即ち、制御・処理部20に含まれる各ブロックの機能は、コンピュータ単体又は複数のコンピュータを含むコンピュータシステムに搭載されているソフトウェアを実行することで実施される、該コンピュータ又はコンピュータシステムに記憶されている各種データを用いた処理によって具現化されるものとすることができる。
本実施例の細胞観察装置では様々な細胞についての観察を行うことができるが、ここでは、ヒトiPS細胞を培養する際に必要な細胞観察を目的として細胞の観察画像を取得し、該観察画像から細胞コロニー中の未分化細胞領域、及び未分化逸脱細胞領域を識別してその識別結果を出力する際の処理について説明する。
図2は本実施例の細胞観察装置における観察画像の領域識別処理の流れを示すフローチャート、図3はその領域識別処理の一例を示す模式図である。
作業者は細胞コロニー14を含む培養プレート13を所定位置にセットして入力部30で所定の操作を行う。この操作を受けて撮影制御部21は、顕微観察部10を制御して以下のようにホログラムデータを取得する(ステップS1)。
即ち、光源部11は10°程度の微小角度の広がりを持つコヒーレント光を培養プレート13の所定の領域に照射する。培養プレート13及び細胞コロニー14を透過したコヒーレント光(物体光16)は、培養プレート13上で細胞コロニー14に近接する領域を透過した光(参照光15)と干渉しつつイメージセンサ12に到達する。物体光16は細胞コロニー14を透過する際に位相が変化した光であり、他方、参照光15は細胞コロニー14を透過しないので該コロニー14に起因する位相変化を受けない光である。したがって、イメージセンサ12の検出面(像面)上には、細胞コロニー14により位相が変化した物体光16と位相が変化していない参照光15との干渉縞による像が形成される。
なお、光源部11から発せられたコヒーレント光の照射領域(観察領域)は培養プレート13の大きさに比べて小さい。そこで、図示しない移動機構によって、光源部11及びイメージセンサ12を一体に、X軸方向及びY軸方向に所定距離ずつ移動させながら、光源部11から発せられたコヒーレント光を培養プレート13に照射し、該培養プレート13の一部の範囲の干渉像の撮影を繰り返し行う。これにより、培養プレート13上の広い2次元領域に亘るホログラムデータ(イメージセンサ12の検出面で形成されたホログラムの2次元的な光強度分布データ)を取得することができる。
上述したように顕微観察部10で得られたホログラムデータは逐次、制御・処理部20に送られ、ホログラムデータ記憶部22に格納される。制御・処理部20において、位相情報算出部23はホログラムデータ記憶部22からホログラムデータを読み出し、位相回復のための所定の演算処理を実行することで観察領域(撮影領域)全体の位相情報を算出する。そして画像再構成部24は、算出された位相情報に基づいてIHM位相像を作成し、該画像データを再構成画像データ記憶部25に保存する(ステップS2)。こうした位相情報の算出やIHM位相像の作成の際には、特許文献3、4等に開示されている周知のアルゴリズムを用いればよい。一般にIHM位相像では、透明であって光学顕微鏡では見えにくい細胞の輪郭(境界)やその内部の模様が見え易くなる。
なお、ホログラムデータに基づいて位相情報のほかに、強度情報、擬似位相情報なども併せて算出し、画像再構成部24はこれらに基づく再生像(IHM強度像、IHM擬似位相像)を作成することもできる。IHM強度像はIHM位相像に代えて使用されることもある。また、IHM擬似位相像は、IHM位相像とIHM強度像とを合わせたような画像であり、位相差顕微鏡で得られる位相差顕微画像に相当する。また、ホログラムデータに基づいてIHM位相像等を作成する際には、複数の焦点位置におけるIHM位相像等をそれぞれ作成することができる。
領域識別処理部26は作成されたIHM位相像に対し、細胞コロニー中の未分化細胞領域と未分化逸脱細胞領域という二つの特徴領域を識別する処理を実施する(ステップS3)。ここで、この領域識別処理について説明する。
領域識別処理部26は、予め多数の教師データを用いた学習によって構築された識別器を含み、この識別器を用い、入力された画像に対し複数の特徴領域を画素単位で識別してその識別結果を出力するものである。どのような特徴領域を識別するのかは、学習時に使用される教師データに依存する。したがって、ここでは、予め用意された多数のIHM位相像、及び、これを熟練した作業者が見て未分化細胞領域と未分化逸脱細胞領域とを識別した結果(つまりは正解画像)、を教師データとした学習を行う。
正解画像とは、与えられたIHM位相像上の未分化細胞領域、未分化逸脱細胞領域、及び背景領域(細胞が存在しない領域)を画素単位でラベル付けしたラベル画像である。ラベル画像は、ごく概略的に言えば、未分化細胞領域と判定された画素に「1」、未分化逸脱細胞領域と判定された画素に「2」、それ以外の背景領域と判定された画素に「0」などの所定の画素値を割り当てた画像であり、これは換言すれば、各画素の位置情報と「0」、「1」又は「2」の画素値とを対応付けた情報である。このラベル画像において異なるラベルにそれぞれ異なる表示色を割り当てて描出すれば、未分化細胞領域、未分化逸脱細胞領域、及び背景領域を色分け表示した画像となる。
教師データとしてIHM位相像と正解画像との組を多数用意し、このIHM位相像を入力画像として出力画像が正解画像にできるだけ近くなるように、機械学習の学習モデル(つまりは識別器)を構築する。こうした教師有りの機械学習のアルゴリズムとしては、例えば、サポートベクターマシン、ランダムフォレスト、アダブースト、単純ベイズ、k近傍法、さらにはニューラルネットワークを含むディープラーニングなど、様々な手法が知られており、いずれの手法を用いてもよい。また、画像を入力する場合でも、その画像そのものを学習するのではなく、画像からテクスチャ解析などにより抽出した特徴量を学習するようなアルゴリズムでもよい。
上述したような識別器(学習済みの機械学習モデル)を構築する機能はこの制御・処理部20に内蔵させてもよいが、一般に、こうした学習処理の計算はコンピュータにとってかなり負荷が大きく、高性能のコンピュータでないと時間も掛かる。したがって、別の高性能なコンピュータを用いて学習処理を行って精度の高い領域識別が可能な識別器を構築しておき、それを領域識別処理部26の一部であるメモリに記憶させておく。そして領域識別処理部26はその識別器を利用した識別処理のみを実施するのが一般的である。
なお、上記ステップS3では、ステップS2で作成されたIHM位相像の全体について領域識別処理を実施してもよいが、作業者により指定された該IHM位相像の一部の範囲のみについて領域識別処理を実施してもよい。
上述した識別器を利用した領域識別処理部26による領域の識別結果は、元のIHM画像を画素単位で各特徴領域(ここでは未分化細胞領域、未分化逸脱細胞領域、及びそれ以外の背景領域)に対応してラベル付けしたラベル画像である。この識別結果が領域識別結果データ記憶部27に保存される。領域識別画像作成部28はこうしたデータを受け、ラベル付けされている各特徴領域に含まれる画素を、各ラベルに予め割り当てられている表示色で色付けすることにより領域識別画像を作成する(ステップS4)。
各特徴領域に割り当てられる表示色は予めデフォルトで決められているが、作業者が入力部30から任意に指定することも可能である。具体的には例えば、未分化細胞領域は「緑」、未分化逸脱細胞領域は「赤」、背景領域は「黒」で表示されるようにすると、背景と細胞コロニーとの境界(つまりは細胞コロニーの輪郭)や細胞コロニー内の未分化細胞と未分化逸脱細胞との境界が明瞭である。
図3はIHM位相像に対する領域識別画像の一例を示す模式図である。この図では、カラーを表現できないためにグレイスケール上の濃淡の違いで各特徴領域を区分している。このように、カラー表示による各特徴領域の区分に限らず、グレイスケール上の濃淡の違いや塗りつぶしのパターンの違いなど、各特徴領域の境界が視覚的に見やすい表示であれば、様々な態様を採ることができる。
表示処理部29は、ステップS5で作成された領域識別画像とIHM位相像とを横に並べた表示画面を作成し、これを表示部40の画面上に表示する(ステップS5)。図4はこうした表示画面の態様を示す図である。
図4では、識別結果表示画面50内に、領域識別画像表示枠51とIHM位相像表示枠52とが設けられ、それぞれの画像が表示枠51、52内に表示されている。両画像は培養プレート13上の全く同じ範囲の画像であり、例えば、いずれか一方の画像上で作業者が入力部(具体的にはマウス等のポインティングデバイス)30を用いて、画像の拡大・縮小、移動、回転等の操作を行うと、その操作を認識した表示処理部29は、表示に必要なデータを再構成画像データ記憶部25及び領域識別結果データ記憶部27から読み出し、領域識別画像表示枠51及びIHM位相像表示枠52に表示される画像を更新する。これにより、作業者は、常に同じ観察範囲のIHM位相像及び領域識別画像を確認することができる。
また、領域識別画像とIHM位相像とを横に並べるのではなく、いずれか一方の画像を半透明化して重ねて表示させることもできる。図5はこうした表示画面の態様を示す図である。図5では、識別結果表示画面50内に、重ね合わせ画像表示枠53と半透明化する画像の透明度を指定するための操作子であるスライダー54とが設けられ、重ね合わせ画像表示枠53内に同じ観察範囲の領域識別画像とIHM位相像とを重ね合わせた画像が表示されている。作業者は図4又は図5に示す表示画面のいずれかを用いて、領域識別画像とIHM位相像とを見比べ、例えば未分化細胞領域と未分化逸脱細胞領域との区分けの正誤を確認することができる。
また、領域識別画像とIHM位相像とを並べて又は重ねて表示するのではなく、領域識別画像のみを表示できるようにしてもよい。どのような形式で領域識別画像を表示するのかは、例えば同じ画面上に配置したラジオボタンやチェックボックスなどのGUIウィジェットによりユーザが選択できるようにするとよい。
また、領域識別画像表示枠51中に又はその枠外の近傍に、表示色とその表示色で示される細胞状態(つまりは未分化細胞状態、未分化逸脱細胞状態)との対応関係を示す情報を文字で示してもよい。これにより、作業者は表示されている領域識別画像において未分化逸脱細胞の範囲を一目で把握することができる。
上述したように、特徴領域の識別は画素単位で行われ、その識別結果も画素単位で記録されるため、領域識別画像においても画素単位での色分けが可能であるが、画素単位ではなく隣接する複数の画素をまとめた小領域の単位で各特徴領域を色分けするようにしてもよい。この場合、例えば一つの小領域に含まれる複数の画素のいずれか一つで未分化逸脱細胞領域であると識別されたならば、その小領域を未分化逸脱細胞領域に対応付けられた色で示すとよい。これにより、例えば培養プレート全体など、低倍率の画像を表示させたときにでも、1個又は少数の未分化逸脱細胞が存在することを視覚的に明瞭に示すことができる。その結果、作業者による画像の確認時に、未分化逸脱細胞領域の見逃しを防止することができる。
なお、上記実施例では、IHM位相像等を背景領域を含めて三つの特徴領域に区分していたが、異物領域など、識別する領域の数を適宜増やしてもよい。
また、図1に示した細胞観察装置では、制御・処理部20において全ての処理を実施しているが、一般に、ホログラムデータに基づく位相情報の計算やその計算結果の画像化には膨大な量の計算が必要である。また、機械学習による領域識別の処理の負荷も大きい。そこで、顕微観察部10に接続されたパーソナルコンピュータを端末装置とし、この端末装置と高性能なコンピュータであるサーバとがインターネットやイントラネット等の通信ネットワークを介して接続されたコンピュータシステムを利用し、上記のような煩雑な計算や処理は高性能なコンピュータで行い、顕微観察部10の制御や処理後のデータを用いた表示処理などを比較的低性能のパーソナルコンピュータで実行するように役割を分けるとよい。
また、上記実施例はあくまでも本発明の一例であり、本発明の趣旨の範囲でさらに適宜変形、修正、追加を行っても本願特許請求の範囲に包含されることは明らかである。
10…顕微観察部
11…光源部
12…イメージセンサ
13…培養プレート
14…細胞コロニー
15…参照光
16…物体光
20…制御・処理部
21…撮影制御部
22…ホログラムデータ記憶部
23…位相情報算出部
24…画像再構成部
25…再構成画像データ記憶部
26…領域識別処理部
27…領域識別画像作成部
28…領域識別結果データ記憶部
29…表示処理部
30…入力部
40…表示部

Claims (11)

  1. a)インライン型ホログラフィック顕微鏡と、該ホログラフィック顕微鏡で得られたホログラムデータに基づいて位相画像、又は位相画像及び強度画像を作成する画像再構成処理部と、を含み、細胞についての位像を観察画像として取得する観察画像取得部と、
    b)前記観察画像取得部で取得された観察画像の全体又はその一部について、観察画像の入力に対し該観察画像中の2以上の特徴領域を区分けした画像を出力する機械学習モデルを利用して、2以上の細胞状態をそれぞれ示す特徴領域を識別する領域識別部と、
    c)前記領域識別部により識別された2以上の特徴領域を、それぞれ視覚的に識別可能な態様で区分けして描出した領域識別画像を作成し、該領域識別画像を表示部の画面上に表示するものであって、表示された前記領域識別画像上で所定の範囲が選択されたときに、該所定の範囲の領域識別画像の拡大画像と、前記位相画像、又は前記位相画像及び強度画像内で前記拡大画像に対応した範囲の画像と、を同一画面内に表示する画像表示処理部と、
    を備えることを特徴とする細胞観察装置。
  2. 請求項1に記載の細胞観察装置であって、
    前記機械学習モデルは、細胞についての位像と、該位像中の2以上の特徴領域を識別可能な態様で区分けされた正解画像と、を教師データとして機械学習を行うことにより作成された学習済みモデルである、ことを特徴とする細胞観察装置。
  3. 請求項1に記載の細胞観察装置であって、
    前記特徴領域の一つは細胞又は細胞コロニーである領域、該特徴領域の他の一つは細胞又は細胞コロニーである領域中において未分化細胞又は未分化逸脱細胞のいずれかである領域であることを特徴とする細胞観察装置。
  4. 請求項1に記載の細胞観察装置であって、
    画像表示処理部は、ユーザの操作に応じて、前記表示部の画面上に表示した領域識別画像を拡大又は縮小させることを特徴とする細胞観察装置。
  5. 請求項1に記載の細胞観察装置であって、
    前記領域識別部は、画素単位で前記特徴領域を識別した情報を生成し、
    前記画像表示処理部は、画素単位又は隣接する複数の画素をまとめた小領域の単位で、異なる特徴領域を視覚的に識別可能な態様で区分けして描出することを特徴とする細胞観察装置。
  6. 請求項1に記載の細胞観察装置であって、
    前記画像表示処理部は、前記領域識別部での識別対象である細胞状態及び特徴領域毎の識別可能な態様を示す情報を前記領域識別画像と共に表示することを特徴とする細胞観察装置。
  7. 請求項1に記載の細胞観察装置であって、
    前記画像表示処理部は、前記領域識別画像上で所定の範囲が選択されたときに、該範囲の拡大画像とその拡大前の領域識別画像とを同一画面内に表示することを特徴とする細胞観察装置。
  8. 請求項に記載の細胞観察装置であって、
    前記画像表示処理部は、前記領域識別部での識別対象である細胞状態及び特徴領域毎の識別可能な態様を示す情報を前記拡大画像と共に表示することを特徴とする細胞観察装置。
  9. 請求項に記載の細胞観察装置であって、
    前記画像表示処理部は、前記拡大画像、又は、前記位相画像若しくは前記強度画像の拡大画像のいずれかで拡大・縮小の操作がなされたときに、該操作に応じて全ての画像を連動させて拡大・縮小させることを特徴とする細胞観察装置。
  10. 請求項に記載の細胞観察装置であって、
    前記画像表示処理部は、前記領域識別画像と前記位相画像又は前記強度画像とを重ね合わせた合成画像を表示することを特徴とする細胞観察装置。
  11. 請求項10に記載の細胞観察装置であって、
    前記画像表示処理部は、重ね合わせた少なくとも一方の画像の透明度をユーザによる操作に応じて調整することを特徴とする細胞観察装置。
JP2020507180A 2018-03-20 2018-03-20 細胞観察装置 Active JP6947289B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021147618A JP7428173B2 (ja) 2018-03-20 2021-09-10 細胞観察装置及び細胞観察方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/011119 WO2019180833A1 (ja) 2018-03-20 2018-03-20 細胞観察装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2021147618A Division JP7428173B2 (ja) 2018-03-20 2021-09-10 細胞観察装置及び細胞観察方法

Publications (2)

Publication Number Publication Date
JPWO2019180833A1 JPWO2019180833A1 (ja) 2020-12-03
JP6947289B2 true JP6947289B2 (ja) 2021-10-13

Family

ID=67986050

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020507180A Active JP6947289B2 (ja) 2018-03-20 2018-03-20 細胞観察装置
JP2021147618A Active JP7428173B2 (ja) 2018-03-20 2021-09-10 細胞観察装置及び細胞観察方法

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2021147618A Active JP7428173B2 (ja) 2018-03-20 2021-09-10 細胞観察装置及び細胞観察方法

Country Status (2)

Country Link
JP (2) JP6947289B2 (ja)
WO (1) WO2019180833A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7248139B2 (ja) * 2019-10-11 2023-03-29 株式会社島津製作所 細胞画像解析方法及び細胞解析装置
WO2021070372A1 (ja) * 2019-10-11 2021-04-15 株式会社島津製作所 細胞画像解析方法及び細胞解析装置
JP7431592B2 (ja) * 2020-01-29 2024-02-15 株式会社Screenホールディングス 画像処理装置、画像処理システムおよび画像処理方法
JP7391285B2 (ja) * 2020-07-21 2023-12-05 株式会社シバサキ プログラム、情報処理装置、情報処理方法及びモデル生成方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4504417B2 (ja) 2005-01-31 2010-07-14 オリンパス株式会社 画像処理装置、顕微鏡システム、及び領域特定プログラム
JP2008235989A (ja) * 2007-03-16 2008-10-02 Nippon Telegr & Teleph Corp <Ntt> 画像処理装置および画像処理方法
JP4953092B2 (ja) * 2008-03-04 2012-06-13 株式会社ニコン 細胞観察における生細胞の判別手法、細胞観察の画像処理プログラム及び画像処理装置
JP2011002995A (ja) * 2009-06-18 2011-01-06 Riron Soyaku Kenkyusho:Kk 細胞認識装置、インキュベータおよびプログラム
CN105122114B (zh) * 2012-12-06 2018-07-27 通用电气医疗集团生物科学公司 用于生物样本的分屏显示和用于捕捉其记录的***和方法
JP6130801B2 (ja) * 2014-03-17 2017-05-17 富士フイルム株式会社 細胞領域表示制御装置および方法並びにプログラム
WO2017061155A1 (ja) * 2015-10-08 2017-04-13 ソニー株式会社 情報処理装置、情報処理方法及び情報処理システム
WO2017203718A1 (ja) * 2016-05-27 2017-11-30 株式会社島津製作所 ホログラフィ観察方法及び装置

Also Published As

Publication number Publication date
JP7428173B2 (ja) 2024-02-06
JP2021184766A (ja) 2021-12-09
WO2019180833A1 (ja) 2019-09-26
JPWO2019180833A1 (ja) 2020-12-03

Similar Documents

Publication Publication Date Title
JP7428173B2 (ja) 細胞観察装置及び細胞観察方法
JP6981533B2 (ja) 細胞画像解析装置、細胞画像解析システム、学習データの生成方法、学習モデルの生成方法、学習データの生成プログラム、および、学習データの製造方法
JP7163955B2 (ja) 細胞画像解析方法、細胞画像解析装置、及び学習モデル作成方法
JP2021515240A (ja) 定量的バイオマーカデータのオーバレイを有する病理学用拡張現実顕微鏡
CN110476101A (zh) 用于病理学的增强现实显微镜
US20180239951A1 (en) Virtual staining of cells in digital holographic microscopy images using general adversarial networks
CN103649992B (zh) 用于自动调节数字病理图像的焦平面的方法
EP3685355B1 (en) Virtual staining of cells in digital holographic microscopy images using general adversarial networks
JP2021064115A (ja) 細胞画像解析方法及び細胞解析装置
CN110392732B (zh) 细胞分析方法和细胞分析装置
WO2015141275A1 (ja) 細胞領域表示制御装置および方法並びにプログラム
JP7006832B2 (ja) 細胞解析装置
WO2020188814A1 (ja) 細胞解析装置
JP2019091307A (ja) コンピュータプログラム、検出装置、撮像装置、サーバ、画像データ、検出器、検出方法及び提供方法
JP7070656B2 (ja) 細胞画像解析方法、細胞画像解析装置、及び学習モデル作成方法
US20200074628A1 (en) Image processing apparatus, imaging system, image processing method and computer readable recoding medium
JP6947288B2 (ja) 細胞観察装置及び細胞観察用プログラム
JP2021078356A (ja) 細胞解析装置
US20240185422A1 (en) Plaque detection method and apparatus for imaging of cells
US20240102912A1 (en) Plaque counting assay method
US20180247395A1 (en) Cell observation apparatus
WO2021070372A1 (ja) 細胞画像解析方法及び細胞解析装置
US20230129540A1 (en) Cell analyzer device
Chang Low SNR Computational Pattern Detection Applied to Multi-Spectral 3D Molecular Dynamics
WO2023195405A1 (ja) 細胞検出装置、細胞診断支援装置、細胞検出方法、及び細胞検出プログラム

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200422

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210316

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210517

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210526

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210817

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210830

R151 Written notification of patent or utility model registration

Ref document number: 6947289

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151