JP6375925B2 - 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 - Google Patents
画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 Download PDFInfo
- Publication number
- JP6375925B2 JP6375925B2 JP2014252819A JP2014252819A JP6375925B2 JP 6375925 B2 JP6375925 B2 JP 6375925B2 JP 2014252819 A JP2014252819 A JP 2014252819A JP 2014252819 A JP2014252819 A JP 2014252819A JP 6375925 B2 JP6375925 B2 JP 6375925B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- fluorescent
- image processing
- alignment
- cell morphology
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
Description
過剰発現をしている特定の生体物質の例としては、例えば、乳癌、肺癌、大腸癌、胃癌、膀胱癌等の細胞においては、細胞膜上に発現するであるHER2タンパクや、細胞核に発現するKi67タンパクが挙げられる。
標本における特定の生体物質の発現を蛍光輝点で表す蛍光画像と、前記蛍光輝点と異なる情報源に基づく細胞の形態を表す細胞形態画像を入力する入力手段と、
前記細胞形態画像における前記細胞の形態と前記蛍光画像における前記蛍光輝点との位置関係に基づいて、前記細胞形態画像と前記蛍光画像の位置合わせを行う位置合わせ手段と、
を備えることを特徴とする画像処理装置が提供される。
前記位置合わせ手段は、前記細胞形態画像と前記蛍光画像の少なくとも一方に対して、平行移動、回転、拡大、または縮小の少なくとも一つの画像処理を行うことにより、位置合わせを行うことを特徴とする請求項1に記載の画像処理装置が提供される。
前記細胞形態画像における前記細胞の形態は、染色された細胞核の領域を示す核領域であることを特徴とする請求項1または2に記載の画像処理装置が提供される。
前記特定の生体物質は細胞核に発現することを特徴とする請求項3に記載の画像処理装置が提供される。
前記特定の生体物質は細胞膜に発現することを特徴とする請求項3に記載の画像処理装置が提供される。
前記核領域と重なる前記蛍光輝点の数を算出する算出手段を有し、
前記位置合わせ手段は、前記蛍光輝点の数が最大となるように位置合わせを行うことを特徴とする請求項4に記載の画像処理装置が提供される。
前記核領域と重なる前記蛍光輝点の数を算出する算出手段を有し、
前記位置合わせ手段は、前記蛍光輝点の数が最小となるように位置合わせを行うことを特徴とする請求項5に記載の画像処理装置が提供される。
前記核領域と前記蛍光輝点の位置関係に基づいて、各々の前記蛍光輝点が前記核領域のいずれに対応するかを決定する決定手段を有し、
前記位置合わせ手段は、前記蛍光輝点と対応する前記核領域の重心との距離を算出し、当該重心との距離の総和が最小となるように位置合わせを行うことを特徴とする請求項4に記載の画像処理装置が提供される。
前記核領域と前記蛍光輝点の位置関係に基づいて、各々の前記蛍光輝点が前記核領域のいずれに対応するかを決定する決定手段を有し、
前記位置合わせ手段は、前記蛍光輝点と対応する前記核領域の輪郭との最短距離を算出し、前記蛍光輝点が対応する前記核領域と重なっている場合には前記輪郭との最短距離を所定の固定値に置換した後、前記輪郭との最短距離の総和が最小となるように位置合わせを行うことを特徴とする請求項5に記載の画像処理装置が提供される。
前記核領域と前記蛍光輝点の位置関係に基づいて、各々の前記蛍光輝点が前記核領域のいずれに対応するかを決定する決定手段を有し、
前記位置合わせ手段は、前記蛍光輝点と対応する前記核領域の重心との距離を算出し、前記核領域ごとに前記重心との距離の標準偏差を算出して、当該標準偏差の総和が最小となるように位置合わせを行うことを特徴とする請求項5に記載の画像処理装置が提供される。
前記位置合わせ手段は、対応する前記蛍光輝点の数が所定の値よりも大きい前記核領域において算出された前記標準偏差の総和が最小となるように位置合わせを行うことを特徴とする請求項10に記載の画像処理装置が提供される。
前記位置合わせ手段は、前記細胞形態画像と前記蛍光画像の少なくとも一方に対して、所定の制限値の範囲内の平行移動を施すことにより位置合わせを行うことを特徴とする請求項2〜11の何れか一項に記載の画像処理装置が提供される。
前記位置合わせ手段は、前記細胞形態画像と前記蛍光画像の少なくとも一方に対して、所定の制限値の範囲内の拡大または縮小を行うことにより位置合わせを行うことを特徴とする請求項2〜12の何れか一項に記載の画像処理装置が提供される。
前記位置合わせ手段による位置合わせの後に、前記核領域に重ならない前記蛍光輝点を削除する削除手段を備えることを特徴とする請求項4、6、または8の何れか一項に記載の画像処理装置が提供される。
前記位置合わせ手段は、前記細胞形態画像及び前記蛍光画像を取得する度に位置合わせを行うことを特徴とする請求項1〜14の何れか一項に記載の画像処理装置が提供される。
請求項1〜15のいずれか一項に記載の画像処理装置と、
前記画像処理装置で使用される、前記細胞形態画像と前記蛍光画像とを取得する画像取得装置と、
を備えることを特徴とする画像処理システムが提供される。
コンピュータを、
標本における特定の生体物質の発現を蛍光輝点で表す蛍光画像と、前記蛍光輝点と異なる情報源に基づく細胞の形態を表す細胞形態画像を入力する入力手段、
前記細胞形態画像における前記細胞の形態と前記蛍光画像における前記蛍光輝点との位置関係に基づいて、前記細胞形態画像と前記蛍光画像の位置合わせを行う位置合わせ手段、
として機能させるための画像処理プログラムが提供される。
標本における特定の生体物質の発現を蛍光輝点で表す蛍光画像と、前記蛍光輝点と異なる情報源に基づく細胞の形態を表す細胞形態画像を入力する入力工程と、
前記細胞形態画像における前記細胞の形態と前記蛍光画像における前記蛍光輝点との位置関係に基づいて、前記細胞形態画像と前記蛍光画像の位置合わせを行う位置合わせ工程と、
を有することを特徴とする画像処理方法が提供される。
図1に、本実施の形態における病理診断支援システム100の全体構成例を示す。病理診断支援システム100は、所定の染色試薬で染色された人体の組織切片の顕微鏡画像を取得し、取得された顕微鏡画像を解析することにより、観察対象の組織切片における特定の生体物質の発現を定量的に表す特徴量を出力するシステムである。
顕微鏡画像取得装置1Aは、照射手段、結像手段、撮像手段、通信I/F等を備えて構成されている。照射手段は、光源、フィルター等により構成され、スライド固定ステージに載置されたスライド上の組織切片に光を照射する。結像手段は、接眼レンズ、対物レンズ等により構成され、照射した光によりスライド上の組織切片から発せられる透過光、反射光、又は蛍光を結像する。撮像手段は、CCD(Charge Coupled Device)センサー等を備え、結像手段により結像面に結像される像を撮像して顕微鏡画像のデジタル画像データを生成する顕微鏡設置カメラである。通信I/Fは、生成された顕微鏡画像の画像データを画像処理装置2Aに送信する。本実施の形態において、顕微鏡画像取得装置1Aは、明視野観察に適した照射手段及び結像手段を組み合わせた明視野ユニット、蛍光観察に適した照射手段及び結像手段を組み合わせた蛍光ユニットが備えられており、ユニットを切り替えることにより明視野/蛍光を切り替えることが可能である。
図2に、画像処理装置2Aの機能構成例を示す。図2に示すように、画像処理装置2Aは、制御部21、操作部22、表示部23、通信I/F24、記憶部25等を備えて構成され、各部はバス26を介して接続されている。
その他、画像処理装置2Aは、LANアダプターやルーター等を備え、LAN等の通信ネットワークを介して外部機器と接続される構成としてもよい。
明視野画像は、HE(ヘマトキシリン−エオジン)染色試薬を用いて染色された組織切片を、顕微鏡画像取得装置1Aにおいて明視野で拡大結像及び撮影することにより得られる顕微鏡画像である。ヘマトキシリンは青紫色の色素であり、細胞核、骨組織、軟骨組織の一部、漿液成分など(好塩基性の組織等)を染色する。エオジンは赤〜ピンク色の色素であり、細胞質、軟部組織の結合組織、赤血球、線維素、内分泌顆粒など(好酸性の組織等)を染色する。図3に、HE染色を行った組織切片を撮影した明視野画像の一例を示す。図3に示すように、HE染色を行った組織切片を撮影した明視野画像においては、組織切片における細胞の形態が表れている。すなわち、明視野画像は組織切片における細胞の形態を表す細胞形態画像である。かかる明視野画像では、細胞核は、周囲の細胞質よりも濃い色(青紫色)で周囲と区別して表れており、細胞核の形態をはっきり捉えることができる。
蛍光画像は、特定の生体物質と特異的に結合及び/又は反応する生体物質認識部位が結合した蛍光物質を内包したナノ粒子(蛍光物質内包ナノ粒子と呼ぶ)を含む染色試薬を用いて染色された組織切片に対し、顕微鏡画像取得装置1Aにおいて所定波長の励起光を照射して蛍光物質内包ナノ粒子を発光(蛍光)させ、この蛍光を拡大結像及び撮影することにより得られる顕微鏡画像である。即ち、蛍光画像に現れる蛍光は、組織切片における、生体物質認識部位に対応する特定の生体物質の発現を示すものである。図4に、蛍光画像の一例を示す。
ここで、蛍光画像の取得方法について、この蛍光画像の取得に際して用いられる染色試薬(蛍光物質内包ナノ粒子)、染色試薬による組織切片の染色方法等も含めて詳細に説明する。
蛍光画像の取得のための染色試薬に用いられる蛍光物質としては、蛍光有機色素及び量子ドット(半導体粒子)を挙げることができる。200〜700nmの範囲内の波長の紫外〜近赤外光により励起されたときに、400〜1100nmの範囲内の波長の可視〜近赤外光の発光を示すことが好ましい。
量子ドットは必要に応じて、有機ポリマー等により表面処理が施されているものを用いてもよい。例えば、表面カルボキシ基を有するCdSe/ZnS(インビトロジェン社製)、表面アミノ基を有するCdSe/ZnS(インビトロジェン社製)等が挙げられる。
本実施の形態において蛍光物質内包ナノ粒子とは、蛍光物質がナノ粒子内部に分散されたものをいい、蛍光物質とナノ粒子自体とが化学的に結合していても、結合していなくてもよい。
ナノ粒子を構成する素材は特に限定されるものではなく、ポリスチレン、ポリ乳酸、シリカ等を挙げることができる。
本実施の形態に係る生体物質認識部位とは、目的とする生体物質と特異的に結合及び/又は反応する部位である。目的とする生体物質は、それと特異的に結合する物質が存在するものであれば特に限定されるものではないが、代表的にはタンパク質(ペプチド)および核酸(オリゴヌクレオチド、ポリヌクレオチド)、抗体等が挙げられる。したがって、そのような目的とする生体物質に結合する物質としては、前記タンパク質を抗原として認識する抗体やそれに特異的に結合する他のタンパク質等、および前記核酸にハイブリタイズする塩基配列を有する核酸等が挙げられる。具体的には、細胞表面に存在するタンパク質であるHER2に特異的に結合する抗HER2抗体、細胞核に存在するエストロゲン受容体(ER)に特異的に結合する抗ER抗体、細胞骨格を形成するアクチンに特異的に結合する抗アクチン抗体等があげられる。中でも抗HER2抗体及び抗ER抗体を蛍光物質内包ナノ粒子に結合させたものは、乳癌の投薬選定に用いることができ、好ましい。
以下、組織切片の染色方法について述べる。以下に説明する染色方法は病理切片組織に限定せず、細胞染色にも適用可能である。
また、以下に説明する染色方法が適用できる切片の作製法は特に限定されず、公知の方法により作製されたものを用いることができる。
キシレンを入れた容器に病理切片を浸漬させ、パラフィンを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でキシレンを交換してもよい。
次いで、エタノールを入れた容器に病理切片を浸漬させ、キシレンを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でエタノールを交換してもよい。
次いで、水を入れた容器に病理切片を浸漬させ、エタノールを除去する。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中で水を交換してもよい。
公知の方法にならい、目的とする生体物質の賦活化処理を行う。賦活化条件に特に定めはないが、賦活液としては、0.01M クエン酸緩衝液(pH6.0)、1mM EDTA溶液(pH8.0)、5%尿素、0.1M トリス塩酸緩衝液等を用いることができる。加熱機器は、オートクレーブ、マイクロウェーブ、圧力鍋、ウォーターバス等を用いることができる。温度は特に限定されるものではないが、室温で行うことができる。温度は50−130℃、時間は5−30分で行うことができる。
次いで、PBS(Phosphate Buffered Saline:リン酸緩衝生理食塩水)を入れた容器に、賦活化処理後の切片を浸漬させ、洗浄を行う。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でPBSを交換してもよい。
生体物質認識部位が結合された蛍光物質内包ナノ粒子のPBS分散液を病理切片に載せ、目的とする生体物質と反応させる。蛍光物質内包ナノ粒子と結合させる生体物質認識部位を変えることにより、さまざまな生体物質に対応した染色が可能となる。数種類の生体物質認識部位が結合された蛍光物質内包ナノ粒子を用いる場合には、それぞれの蛍光物質内包ナノ粒子PBS分散液を予め混合しておいてもよいし、別々に順次病理切片に載せてもよい。
温度は特に限定されるものではないが、室温で行うことができる。反応時間は、30分以上24時間以下であることが好ましい。
蛍光物質内包ナノ粒子による染色を行う前に、BSA含有PBS等、公知のブロッキング剤を滴下することが好ましい。
次いで、PBSを入れた容器に、染色後の切片を浸漬させ、未反応蛍光物質内包ナノ粒子の除去を行う。温度は特に限定されるものではないが、室温で行うことができる。浸漬時間は、3分以上30分以下であることが好ましい。また、必要により浸漬途中でPBSを交換してもよい。カバーガラスを切片に載せ、封入する。必要に応じて市販の封入剤を使用してもよい。
なお、HE染色試薬を用いて染色を行う場合、カバーガラスによる封入前にHE染色を行う。
染色した病理切片に対し顕微鏡画像取得装置1Aを用いて、広視野の顕微鏡画像(蛍光画像)を取得する。顕微鏡画像取得装置1Aにおいて、染色試薬に用いた蛍光物質の吸収極大波長及び蛍光波長に対応した励起光源及び蛍光検出用光学フィルターを選択する。
蛍光画像の視野は、3mm2以上であることが好ましく、30mm2以上であることがさらに好ましく、300mm2以上であることがさらに好ましい。
ここで、本件出願人は、以下に説明するように、一実施例として、Cy5内包シリカナノ粒子(以下、ナノ粒子1という。)を作製し、ナノ粒子1に対して抗HER2抗体を結合させた標識材料Aを作製した。また、CdSe/ZnS内包シリカナノ粒子(以下、ナノ粒子2という)を作製し、ナノ粒子2に対して抗HER2抗体を結合させた標識材料Bを作製した。そして、作製した標識材料A、B及び比較例としての標識材料C、Dを用いて予めFISHスコアを測定したヒト***組織の隣接切片を用いて免疫染色を行って視野を変えて複数の蛍光画像を取得し、各蛍光画像に現れている蛍光輝点の数を計測してFISHスコアとの関連を調べる実験を行った。
(合成例1:蛍光有機色素内包シリカ:Cy5内包シリカナノ粒子の合成)
下記工程(1)〜(5)の方法により、Cy5内包シリカナノ粒子(ナノ粒子1)を作製した。
工程(1):Cy5のN−ヒドロキシスクシンイミドエステル誘導体(GEヘルスケア社製)1mg(0.00126mmol)とテトラエトキシシラン400μL(1.796mmol)を混合した。
工程(2):エタノール40mLと14%アンモニア水10mLを混合した。
工程(3):工程(2)で作製した混合液を室温下で撹拌しているところに、工程(1)で調製した混合液を添加した。添加開始から12時間撹拌を行った。
工程(4):反応混合物を10000Gで60分遠心分離を行い、上澄みを除去した。
工程(5):エタノールを加え、沈降物を分散させ、再度遠心分離を行った。同様の手順でエタノールと純水による洗浄を1回ずつ行った。
得られたナノ粒子1を走査型電子顕微鏡(SEM;日立(登録商標)社製S−800型)で観察したところ、平均粒径は110nm、変動係数は12%であった。
下記工程(1)〜(5)の方法により、CdSe/ZnS内包シリカナノ粒子(以下、ナノ粒子2という。)を作製した。
工程(1):CdSe/ZnSデカン分散液(インビトロジェン社Qdot655)10μLとテトラエトキシシラン40μLを混合した。
工程(2):エタノール4mLと14%アンモニア水1mLを混合した。
工程(3):工程(2)で作製した混合液を室温下で撹拌しているところに、工程(1)で作製した混合液を添加した。添加開始から12時間撹拌を行った。
工程(4):反応混合物を10000Gで60分遠心分離を行い、上澄みを除去した。
工程(5):エタノールを加え、沈降物を分散させ、再度遠心分離を行った。同様の手順でエタノールと純水による洗浄を1回ずつ行った。
得られたナノ粒子2を走査型電子顕微鏡で観察したところ、平均粒径は130nm、変動係数は13%であった。
下記工程(1)〜(12)の方法により、蛍光物質内包シリカナノ粒子に対して抗体を結合させた。ここでは、ナノ粒子1を用いた例を示すが、ナノ粒子2についても同様である。
工程(1):1mgのナノ粒子1を純水5mLに分散させた。次いで、アミノプロピルトリエトキシシラン水分散液100μLを添加し、室温で12時間撹拌した。
工程(2):反応混合物を10000Gで60分遠心分離を行い、上澄みを除去した。
工程(3):エタノールを加え、沈降物を分散させ、再度遠心分離を行った。同様の手順でエタノールと純水による洗浄を1回ずつ行った。
得られたアミノ基修飾したシリカナノ粒子のFT−IR測定を行ったところ、アミノ基に由来する吸収が観測でき、アミノ基修飾されたことが確認できた。
工程(5):工程(4)で調整した溶液に、最終濃度10mMとなるようSM(PEG)12(サーモサイエンティフィック社製、succinimidyl−[(N−maleomidopropionamid)−dodecaethyleneglycol]ester)を混合し、1時間反応させた。
工程(6):反応混合液を10000Gで60分遠心分離を行い、上澄みを除去した
工程(7):EDTAを2mM含有したPBSを加え、沈降物を分散させ、再度遠心分離を行った。同様の手順による洗浄を3回行った。最後に500μLのPBSを用いて再分散させた。
工程(9):反応混合物についてゲルろ過カラムにより過剰のDTTを除去し、還元化抗HER2抗体溶液を得た。
工程(11):10mMメルカプトエタノール4μLを添加し、反応を停止させた。
工程(12):反応混合物を10000Gで60分遠心分離を行い、上澄みを除去した後、EDTAを2mM含有したPBSを加え、沈降物を分散させ、再度遠心分離を行った。同様の手順による洗浄を3回行った。最後に500μLのPBSを用いて再分散させ、抗HER2抗体が結合された蛍光物質内包シリカナノ粒子を得た。
下記工程(1)〜(10)の方法により、作製した抗体結合標識材料A〜Dを用い、予めFISHスコアを測定したヒト***組織の隣接切片を用いて免疫染色を行った。染色切片はコスモバイオ社製の組織アレイスライド(CB−A712)を用いた。FISHスコアで1〜9の24切片を用いた。
工程(2):エタノールを入れた容器に病理切片を30分浸漬させた。途中3回エタノールを交換した。
工程(3):水を入れた容器に病理切片を30分浸漬させた。途中3回水を交換した。
工程(4):10mMクエン酸緩衝液(pH6.0)に病理切片を30分浸漬させた。
工程(5):121度で10分オートクレーブ処理を行った。
工程(6):PBSを入れた容器に、オートクレーブ処理後の切片を30分浸漬させた。
工程(7):1%BSA含有PBSを組織に載せて、1時間放置した。
工程(8):1%BSA含有PBSで0.05nMに希釈した抗HER2抗体が結合された標識材料A〜Dを、各組織切片に載せて3時間放置した。
工程(9):PBSを入れた容器に、染色後の切片をそれぞれ30分浸漬させた。
工程(10):Merck Chemicals社製Aquatexを滴下後、カバーガラスを載せ封入した。
各標識材料A〜Dを用いて染色した組織切片について、視野(観察面積)を変えて複数の蛍光画像を取得し、画像解析ソフトにより、各蛍光画像から蛍光輝点の数(輝点数)を計測した。
なお、顕微鏡は、カールツアイス社製正立顕微鏡Axio Imager M2を用い、対物レンズを20倍に設定し、630〜670nmの波長を有する励起光を照射して、組織切片から発せられる蛍光を結像し、顕微鏡設置カメラ(モノクロ)により蛍光画像(画像データ)を取得し、画像解析ソフトにより輝点数を計測した。なお、上記カメラは画素サイズ6.4μm×6.4μm、縦画素数1040個、横画素数1388個(撮像領域8.9mm×6.7mm)を有している。
また、各標識材料A〜Dについて、各視野において、計測された輝点数とFISHスコアとの相関係数Rを算出した。FISHスコアは、HER2遺伝子の過剰発現レベルと対応しており、FISHスコアの値が大きいほど、HER2遺伝子の過剰発現レベルが高いことを示している。
以下、病理診断支援システム100において、上記説明した蛍光画像及び明視野画像を取得して解析を行う動作について説明する。ここでは、特定のタンパク質(ここでは、乳癌組織におけるKi67タンパクまたはHER2タンパクとする。以下、特定タンパクと呼ぶ。)を認識する生体物質認識部位が結合した蛍光物質内包ナノ粒子を含む染色試薬を用いて染色された組織切片を観察対象とする場合を例にとり説明するが、これに限定されるものではない。
その後、顕微鏡画像取得装置1Aにおいて、(a1)〜(a5)の手順により明視野画像及び蛍光画像が取得される。
(a1)操作者は、HE染色試薬と蛍光物質内包ナノ粒子を含む染色試薬とによりそれぞれ染色された組織切片をスライドに載置し、そのスライドを顕微鏡画像取得装置1Aのスライド固定ステージに設置する。
(a2)明視野ユニットに設定し、撮影倍率、ピントの調整を行い、組織上の観察対象の領域を視野に納める。
(a3)撮像手段で撮影を行って明視野画像の画像データを生成し、画像処理装置2Aに画像データを送信する。
(a4)ユニットを蛍光ユニットに変更する。
(a5)視野及び撮影倍率を変えずに撮像手段で撮影を行って蛍光画像の画像データを生成し、画像処理装置2Aに画像データを送信する。
なお、HE染色を同時に行わない場合においては、組織の自家蛍光が微弱なため励起光の波長の範囲は、一般的な200nm〜700nmの範囲で特に限定せずとも自家蛍光と蛍光物質内包ナノ粒子からの蛍光の発光差を確保して両者を区別して認識可能とする(両者の光量差10%(1.1倍)以上)を確保することができる。
図10に、画像処理装置2Aにおける画像解析処理のフローチャートを示す。図10に示す画像解析処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
図11に、ステップS2における処理の詳細フローを示す。ステップS2の処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
次いで、モノクロ画像に対し予め定められた閾値を用いて閾値処理が施され、各画素の値が2値化される(ステップS202)。図12Bに、閾値処理後の二値画像の一例を示す。
なお、後述する蛍光輝点の抽出におけるラベルの番号と区別するため、コンピュータの保持できる最大値をMAXとし、現在までに行ったラベリング回数をLabel_tempとすると、新たな細胞核にはラベルLabel_nucleusとして、MAX−Label_tempが付与される。例えば、101個目の細胞核にラベルを付与する場合、Label_temp=100であるので、MAX=65536とすると、Label_nucleusとして65436が付与される。
図13に、ステップS4における処理の詳細フローを示す。ステップS4の処理は、制御部21と記憶部25に記憶されているプログラムとの協働により実行される。
次いで、R成分が抽出された画像にTophat変換が施される(ステップS402)。Tophat変換は、入力画像の各画素の値から、入力画像に最小値フィルター及び最大値フィルターをこの順でかけた画像の、対応する画素の値を減算する処理である。最小値フィルターは、注目画素の近傍の画素(例えば、3×3画素)のうちの最小値で注目画素の値を置き換えるものである。最大値フィルターは、注目画素の近傍の画素(例えば、3×3画素)のうちの最大値で注目画素の値を置き換えるものである。Tophat変換により、濃淡プロファイル上の小突起(近傍の画素に比べて輝度の高い領域)を抽出することができる。これにより、蛍光輝点候補画像を得ることができる。図14Aに、蛍光輝点候補画像の一例を示す。
当該位置合わせに用いられる明視野画像はステップS2で得られた核領域画像(図12C参照)であり、当該位置合わせに用いられる蛍光画像はステップS4で得られた蛍光輝点画像(図14B参照)である。ステップS5では、明視野画像または蛍光画像の少なくとも何れか一方に対して、以下の式を用いた座標変換を施して平行移動、回転、拡大、または縮小の少なくとも一つの画像処理を行う。制御部21は、パラメータdx、dy、θ、α及びβを変えて、明視野画像及び蛍光画像の位置が最も合っているパラメータの組み合わせ(最適パラメータ)を探索する。
(dx、dy) :平行移動量
θ :回転移動量
(α、β) :拡大率
(x0、y0) :変換前の輝点座標
特定タンパクが、例えばKi67のように細胞核に発現する核タンパク質である場合には、制御部21は、例えば、染色された細胞核の内側に存在する輝点数が最大である時に、明視野画像及び蛍光画像の位置が合っていると判断する。
具体的には、例えば、ステップS4で抽出した蛍光輝点が、ステップS2で抽出したいずれかの核領域と重なっているか否かを判断し、重なっている場合には輝点のスコアを+1、重なっていない場合には輝点のスコアを0として、画像全体のスコアの総和を算出する。図15(a)の模式図においては、●で表される16個の蛍光輝点30のうち、13個が核領域31Aまたは31Bのいずれか一方と重なっているため、蛍光画像内の全ての輝点のスコアの総和は13と算出される。また、図15(a)の蛍光輝点を平行移動した図15(b)においては、スコアの総和は9と算出される。スコアの総和が最大となるパラメータを探索し、最適パラメータとして用いて座標変換を行うことにより、明視野画像と蛍光画像とが精度よく位置合わせされる。
また、特定タンパクが核タンパクである場合には、制御部21は、例えば、染色された細胞核と輝点の距離の総和が最小となる時に、明視野画像及び蛍光画像の位置が合っていると判断してもよい。
具体的には、まず、ステップS4で抽出した各蛍光輝点において、ステップS4で抽出した核領域との距離を算出し、最も近い核領域を探して蛍光輝点と対応付ける。核領域との距離の定義は任意であるが、例えば、図15(c)において点線で示されるような核領域の重心32と対応する蛍光輝点30の距離、または、核領域31A及び31Bの輪郭線と各蛍光輝点30の距離を用いることができる。
全ての蛍光輝点について算出した細胞核との距離の総和が最小となるパラメータを最適パラメータとして用いて座標変換を行うことにより、明視野画像と蛍光画像とが正確に位置合わせされる。
各距離の絶対値を加算した単純和を総和とすれば、最も簡便な計算方法により総和を算出可能である。
また、各距離の2乗和を総和とすれば、距離が長いほど、パラメータを変えた時の総和に大きく影響するため、領域から大きく外れる蛍光輝点数を減らすパラメータを最適パラメータとすることができる。
また、核領域ごとに、対応付けられた全ての蛍光輝点との距離の平均値を算出し、その平均値の単純和または二乗和を総和としてもよい。これにより、核領域に対応する蛍光輝点数のばらつきが大きい場合でも、全ての核領域を同等に加味した総和を算出することができる。
また、各距離を、対応する核領域の面積の逆数で重みづけして、その単純和または二乗和を総和としてもよい。
また、各距離を、対応する核領域に対応づけられた蛍光輝点の数で重みづけして、その単純和または二乗和を総和としても良い。これにより、対応付けられた蛍光輝点数が多い核領域を優先的に位置合わせに用いることができる。
特定タンパクが、例えばHER2のように細胞膜に発現する膜タンパク質である場合には、膜タンパクが付着している細胞膜を明視野画像から直接抽出することは難しい。そこで、組織標本を薄切した組織切片においては、膜タンパクの発現を示す蛍光輝点は核領域に重ならずに核領域の外側に分布すると考えられることに基づいて、制御部21は、例えば、染色された核領域の内側に存在する輝点数が最小となる時に、明視野画像及び蛍光画像の位置が合っていると判断する。
具体的には、上述した(1−1)の方法と同様に、核領域と蛍光輝点の重なりに基づくスコアを算出する。蛍光画像内の全ての輝点のスコアの総和が最小となるパラメータを探索し、最適パラメータとして用いて座標変換を行うことにより、明視野画像と蛍光画像とが精度よく位置合わせされる。
また、特定タンパクが膜タンパク質である場合には、制御部21は、例えば、染色された核領域の輪郭と輝点の距離の総和が最小となる時に、明視野画像及び蛍光画像の位置が合っていると判断してもよい。
具体的には、まず、ステップS4で抽出した各蛍光輝点において、ステップS2で抽出した核領域の輪郭との距離を算出し、最も近い核領域を探して蛍光輝点と対応付ける。
全ての輝点について対応する核領域の輪郭との距離を算出し、その総和が最小となるパラメータを探索して最適パラメータとして用いて座標変換を行うことにより、明視野画像と蛍光画像とが正確に位置合わせされる。図16(a)の●は、核領域31C、31Dに対応付けられた蛍光輝点30を示し、点線の長さは、対応する核領域の輪郭までの距離を示す。核領域31Dのように、核領域に重なる蛍光輝点が存在する場合には、各領域に重なる蛍光起点と核領域の輪郭との距離を所定の固定値に置き換えて、総和を算出することとしても良い。所定の固定値を大きな値に設定すれば、核領域と重なる蛍光輝点が存在する場合には、蛍光輝点と核領域の輪郭までの距離の総和が必ず大きくなるため、蛍光輝点が核領域と重なっている場合のパラメータが最適パラメータと判断される可能性が低い。
また、特定タンパクが膜タンパク質であり、細胞核が細胞のほぼ中心に存在していると想定される場合には、制御部21は、図16(b)に示すように、核領域31Cの重心32から核領域に対応付けられた蛍光輝点までの距離がほぼ一定であるとみなして、例えば、ステップS2で抽出された核領域の重心と蛍光輝点の距離の標準偏差の総和が最小となる時に、明視野画像及び蛍光画像の位置が合っていると判断してもよい。
具体的には、まず、ステップS4で抽出した各蛍光輝点において、ステップS2で抽出した核領域の重心との距離を算出し、最も近い核領域を探して蛍光輝点と対応付ける。次いで、核領域ごとに、対応付けられた蛍光輝点との距離の標準偏差を算出し、標準偏差の総和が最小となるパラメータを最適パラメータとして用いて座標変換を行うことにより、明視野画像と蛍光画像とが正確に位置合わせされる。
標準偏差の絶対値を加算した単純和を総和とすれば、最も簡便な計算方法により総和を算出することができる。
また、標準偏差の2乗和を総和とすれば、標準偏差が大きいほど総和への影響が大きいため、総和が最小となる最適パラメータを探索することにより、標準偏差が大きい核領域を減らすことができる。
また、標準偏差を、核領域の面積の逆数で重みづけして、その単純和または二乗和を総和としてもよい。
また、標準偏差を、核領域に対応する蛍光輝点の数で重みづけして、総和の算出に用いても良い。また、核領域に対応付けられた蛍光輝点の数が所定の値よりも少ない核領域は、標準偏差の総和の算出には用いないこととしても良い。これにより、対応付けられた蛍光輝点数が多い核領域を、優先的に位置合わせに用いることができる。
各パラメータに制限値を設けることにより、例えば、生体物質が核タンパクである場合に、明視野画像の過度な拡大により全ての蛍光輝点が1つの核領域に重なった時のパラメータが最適パラメータとされたり、また、生体物質が膜タンパクである場合に、一方の画像の過度な平行移動により全ての蛍光輝点が核領域外となった時のパラメータが最適パラメータとされるといった誤認識を防ぐことができる。
また、特定タンパクが膜タンパク質である場合には、位置合わせ後に明視野画像と蛍光画像を重ね合わせた時に、核領域と重なっている蛍光輝点は、特定タンパクの発現とは無関係なノイズであるとみなして削除し、ステップS6以降の処理には用いないこととしても良い。
詳しくは、明視野画像と蛍光画像とを位置合わせして重ね合わせた状態において、例えば、ステップS2で抽出した核領域のそれぞれに対応する蛍光輝点数が算出され、癌の悪性度や進行度の指標とされる。
悪性度の判定や治療計画に用いる統計値は、特に限定されないが、例えば、核領域に対応する蛍光輝点数の総計値を核領域の数で除した値や、核領域に対応する蛍光輝点の分布の偏り等が評価され、また核領域に対応する蛍光輝点数をヒストグラム化して一定数以上の蛍光輝点を有する核領域数の比率等も好ましく用いられる。
例えば、ステップS7では、1つの核領域に対応する蛍光輝点数が予め定められた複数の閾値を超えるか否かに基づいて、特定タンパクの発現状況が複数の段階に分類され、高発現領域、中発現領域、低発現領域、極低発現領域といった態様で区分けされる。その後、明視野画像上に、分類結果に応じて異なる表示態様で区分け(例えば、色分け)された画像(タンパク発現状況表示画像)が生成され、解析結果画面231として表示部23に表示出力される。タンパク発現状況表示画像においては、例えば、区分けに応じて核領域部分を色分けして表示しても良いし、また、それぞれの核領域に対応する蛍光輝点を包含する領域を作成し、核領域の区分けに応じて色分けして表示しても良い。
タンパク発現状況表示画像231cには、明視野画像上に、特定タンパクの高発現領域、中発現領域、低発現領域、極低発現領域が色分けして表示されている。特定タンパクの発現状況に応じて色分けして表示されるので、医師は、癌の悪性度の指標となる特定タンパクの過剰発現、その広がりを効率よく把握することが可能となり、適切な治療計画を立てることが可能となる。
例えば、タンパク発現状況表示画像231cのみを表示することとしてもよい。また、操作部22からの切り替え指示に応じて、明視野画像231aとタンパク発現状況表示画像231cを切り替え表示することとしてもよい。また、解析結果画面231に表示する明視野画像231a、蛍光輝点画像231b、タンパク発現状況表示画像231cは、観察しやすいように何れか又は全てを拡大縮小して表示することとしてもよい。
さらに、操作部22からの指示に応じて、明視野画像231aと蛍光輝点画像231bとを単に重ね合わせた画像を表示することとしてもよく、かかる場合にはその重ね合わせた画像により、特定タンパクの発現状況を医師に視覚的に提示し、判断を促すこともできる。
操作部22により印刷ボタン231dが押下されると、制御部21により解析結果のデータが通信I/F24やLAN等の通信ネットワークを介して図示しないプリンタに送信され、解析結果が印刷出力される。また、操作部22により送信ボタン231eが押下されると、制御部21により解析結果のデータが通信I/F24やLAN等の通信ネットワークを介して外部機器(例えば、PACS(Picture Archiving and Communication System for medical application))に送信される。
なお、顕微鏡画像取得装置1Aを操作して視野範囲や倍率を変えることにより、同じ標本から連続して取得した蛍光画像及び明視野画像であっても、視野範囲をずらす操作時の振動などにより、不規則なずれが発生する可能性があり、視野範囲ごとにずれの程度が異なる可能性があるため、視野範囲を変えるごとに図5のフローチャートに示される位置合わせを行うことが好ましい。
また、特定タンパクが細胞膜に発現している場合には、位置合わせ後に核領域内に存在する輝点はノイズであるとみなして削除することにより、ノイズを除去して正確な診断を実施することができる。
例えば、上記実施の形態においては、特定タンパクの例として乳癌におけるKi67タンパク及びHER2タンパクを挙げたが、これに限定されない。診断対象となる病変(がん)種に応じて、蛍光画像を取得する際の生体物質認識部位を異なるものとすれば、病変種に応じた特定タンパクの発現量を定量的に示す特徴量を医師に提供することが可能となる。
体を適用することが可能である。また、本発明に係るプログラムのデータを、通信回線を介して提供する媒体として、キャリアウエーブ(搬送波)も適用される。
2A 画像処理装置
3A ケーブル
21 制御部(位置合わせ手段、算出手段、決定手段、削除手段)
22 操作部
23 表示部
24 通信I/F(入力手段)
25 記憶部
26 バス
30 蛍光輝点
31A、31B、31C、31D 核領域
32 核領域の重心
100 病理診断支援システム
Claims (18)
- 標本における特定の生体物質の発現を蛍光輝点で表す蛍光画像と、前記蛍光輝点と異なる情報源に基づく細胞の形態を表す細胞形態画像を入力する入力手段と、
前記細胞形態画像における前記細胞の形態と前記蛍光画像における前記蛍光輝点との位置関係に基づいて、前記細胞形態画像と前記蛍光画像の位置合わせを行う位置合わせ手段と、
を備えることを特徴とする画像処理装置。 - 前記位置合わせ手段は、前記細胞形態画像と前記蛍光画像の少なくとも一方に対して、平行移動、回転、拡大、または縮小の少なくとも一つの画像処理を行うことにより、位置合わせを行うことを特徴とする請求項1に記載の画像処理装置。
- 前記細胞形態画像における前記細胞の形態は、染色された細胞核の領域を示す核領域であることを特徴とする請求項1または2に記載の画像処理装置。
- 前記特定の生体物質は細胞核に発現することを特徴とする請求項3に記載の画像処理装置。
- 前記特定の生体物質は細胞膜に発現することを特徴とする請求項3に記載の画像処理装置。
- 前記核領域と重なる前記蛍光輝点の数を算出する算出手段を有し、
前記位置合わせ手段は、前記蛍光輝点の数が最大となるように位置合わせを行うことを特徴とする請求項4に記載の画像処理装置。 - 前記核領域と重なる前記蛍光輝点の数を算出する算出手段を有し、
前記位置合わせ手段は、前記蛍光輝点の数が最小となるように位置合わせを行うことを特徴とする請求項5に記載の画像処理装置。 - 前記核領域と前記蛍光輝点の位置関係に基づいて、各々の前記蛍光輝点が前記核領域のいずれに対応するかを決定する決定手段を有し、
前記位置合わせ手段は、前記蛍光輝点と対応する前記核領域の重心との距離を算出し、当該重心との距離の総和が最小となるように位置合わせを行うことを特徴とする請求項4に記載の画像処理装置。 - 前記核領域と前記蛍光輝点の位置関係に基づいて、各々の前記蛍光輝点が前記核領域のいずれに対応するかを決定する決定手段を有し、
前記位置合わせ手段は、前記蛍光輝点と対応する前記核領域の輪郭との最短距離を算出し、前記蛍光輝点が対応する前記核領域と重なっている場合には前記輪郭との最短距離を所定の固定値に置換した後、前記輪郭との最短距離の総和が最小となるように位置合わせを行うことを特徴とする請求項5に記載の画像処理装置。 - 前記核領域と前記蛍光輝点の位置関係に基づいて、各々の前記蛍光輝点が前記核領域のいずれに対応するかを決定する決定手段を有し、
前記位置合わせ手段は、前記蛍光輝点と対応する前記核領域の重心との距離を算出し、前記核領域ごとに前記重心との距離の標準偏差を算出して、当該標準偏差の総和が最小となるように位置合わせを行うことを特徴とする請求項5に記載の画像処理装置。 - 前記位置合わせ手段は、対応する前記蛍光輝点の数が所定の値よりも大きい前記核領域において算出された前記標準偏差の総和が最小となるように位置合わせを行うことを特徴とする請求項10に記載の画像処理装置。
- 前記位置合わせ手段は、前記細胞形態画像と前記蛍光画像の少なくとも一方に対して、所定の制限値の範囲内の平行移動を施すことにより位置合わせを行うことを特徴とする請求項2〜11の何れか一項に記載の画像処理装置。
- 前記位置合わせ手段は、前記細胞形態画像と前記蛍光画像の少なくとも一方に対して、所定の制限値の範囲内の拡大または縮小を行うことにより位置合わせを行うことを特徴とする請求項2〜12の何れか一項に記載の画像処理装置。
- 前記位置合わせ手段による位置合わせの後に、前記核領域に重ならない前記蛍光輝点を削除する削除手段を備えることを特徴とする請求項4、6、または8の何れか一項に記載の画像処理装置。
- 前記位置合わせ手段は、前記細胞形態画像及び前記蛍光画像を取得する度に位置合わせを行うことを特徴とする請求項1〜14の何れか一項に記載の画像処理装置。
- 請求項1〜15のいずれか一項に記載の画像処理装置と、
前記画像処理装置で使用される、前記細胞形態画像と前記蛍光画像とを取得する画像取得装置と、
を備えることを特徴とする画像処理システム。 - コンピュータを、
標本における特定の生体物質の発現を蛍光輝点で表す蛍光画像と、前記蛍光輝点と異なる情報源に基づく細胞の形態を表す細胞形態画像を入力する入力手段、
前記細胞形態画像における前記細胞の形態と前記蛍光画像における前記蛍光輝点との位置関係に基づいて、前記細胞形態画像と前記蛍光画像の位置合わせを行う位置合わせ手段、
として機能させるための画像処理プログラム。 - 標本における特定の生体物質の発現を蛍光輝点で表す蛍光画像と、前記蛍光輝点と異なる情報源に基づく細胞の形態を表す細胞形態画像を入力する入力工程と、
前記細胞形態画像における前記細胞の形態と前記蛍光画像における前記蛍光輝点との位置関係に基づいて、前記細胞形態画像と前記蛍光画像の位置合わせを行う位置合わせ工程と、
を有することを特徴とする画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014252819A JP6375925B2 (ja) | 2014-12-15 | 2014-12-15 | 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014252819A JP6375925B2 (ja) | 2014-12-15 | 2014-12-15 | 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016114447A JP2016114447A (ja) | 2016-06-23 |
JP6375925B2 true JP6375925B2 (ja) | 2018-08-22 |
Family
ID=56139981
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014252819A Active JP6375925B2 (ja) | 2014-12-15 | 2014-12-15 | 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6375925B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6948145B2 (ja) * | 2017-04-14 | 2021-10-13 | シスメックス株式会社 | 蛍光画像分析装置、蛍光画像の画像処理方法及びコンピュータプログラム |
US10935773B2 (en) | 2017-08-09 | 2021-03-02 | Allen Institute | Systems, devices, and methods for image processing to generate an image having predictive tagging |
EP3623798B1 (de) * | 2018-09-13 | 2021-11-03 | Euroimmun Medizinische Labordiagnostika AG | Verfahren und vorrichtung zum erfassen und darstellen eines immunfluoreszenzbildes einer biologischen probe |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4854832B2 (ja) * | 2000-03-27 | 2012-01-18 | オリンパス株式会社 | 細胞の画像解析方法,装置、及び記録媒体 |
US20090081775A1 (en) * | 2005-05-25 | 2009-03-26 | Stiftesen Unversitetsforskning Bergen | Microscope system and screening method for drugs, physical therapies and biohazards |
JP2010085219A (ja) * | 2008-09-30 | 2010-04-15 | Nec Soft Ltd | 顕微質量分析の二次元解析画像と、光学顕微鏡撮影の二次元可視画像との自動的位置重ね合わせ方法 |
JP4997255B2 (ja) * | 2009-01-05 | 2012-08-08 | オリンパス株式会社 | 細胞画像解析装置 |
JP2011043350A (ja) * | 2009-08-19 | 2011-03-03 | Olympus Corp | 細胞画像解析装置、細胞画像解析方法、及びコンピュータープログラム |
US8269827B2 (en) * | 2009-09-29 | 2012-09-18 | General Electric Company | System and methods for mapping fluorescent images into a bright field color space |
JP6350527B2 (ja) * | 2013-07-03 | 2018-07-04 | コニカミノルタ株式会社 | 画像処理装置、病理診断支援システム、画像処理プログラム及び病理診断支援方法 |
-
2014
- 2014-12-15 JP JP2014252819A patent/JP6375925B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016114447A (ja) | 2016-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6350527B2 (ja) | 画像処理装置、病理診断支援システム、画像処理プログラム及び病理診断支援方法 | |
JP5892238B2 (ja) | 医用画像処理装置及びプログラム | |
JP5804194B2 (ja) | 医用画像処理装置及びプログラム | |
JP6443450B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP5822054B1 (ja) | 画像処理装置、病理診断支援システム、画像処理プログラム及び画像処理方法 | |
JP6597316B2 (ja) | 画像処理装置及びプログラム | |
JPWO2016093090A1 (ja) | 画像処理装置及び画像処理プログラム | |
JP6635108B2 (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
JP5768948B1 (ja) | 画像処理装置および画像処理プログラム | |
WO2017126420A1 (ja) | 画像処理装置及びプログラム | |
JP7173034B2 (ja) | 画像処理装置、合焦位置特定方法及び合焦位置特定プログラム | |
JP5887823B2 (ja) | 組織評価方法 | |
JP6493398B2 (ja) | 診断支援情報生成方法、画像処理装置、診断支援情報生成システム及び画像処理プログラム | |
JP5835536B1 (ja) | 組織評価方法、画像処理装置、病理診断支援システム及びプログラム | |
JPWO2018143406A1 (ja) | 画像処理装置及びプログラム | |
JP6375925B2 (ja) | 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 | |
JP6337629B2 (ja) | 診断支援情報生成方法、画像処理装置、診断支援情報生成システム及び画像処理プログラム | |
JP6702339B2 (ja) | 画像処理装置及びプログラム | |
JPWO2019172097A1 (ja) | 画像処理方法、画像処理装置及びプログラム | |
JP6405985B2 (ja) | 画像処理装置、画像処理システム、画像処理プログラム及び画像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170921 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180523 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180626 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180709 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6375925 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |