JP6342810B2 - 画像処理 - Google Patents

画像処理 Download PDF

Info

Publication number
JP6342810B2
JP6342810B2 JP2014541783A JP2014541783A JP6342810B2 JP 6342810 B2 JP6342810 B2 JP 6342810B2 JP 2014541783 A JP2014541783 A JP 2014541783A JP 2014541783 A JP2014541783 A JP 2014541783A JP 6342810 B2 JP6342810 B2 JP 6342810B2
Authority
JP
Japan
Prior art keywords
image
artifact
artifacts
parameter
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014541783A
Other languages
English (en)
Other versions
JP2014533857A (ja
Inventor
ペーテル フィンク,イェルテ
ペーテル フィンク,イェルテ
レーウェン,マリニュス バスティアーン ファン
レーウェン,マリニュス バスティアーン ファン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2014533857A publication Critical patent/JP2014533857A/ja
Application granted granted Critical
Publication of JP6342810B2 publication Critical patent/JP6342810B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20008Globally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明は画像処理に関する。
デジタル病理検査では標本からデジタル顕微鏡写真が作製される。次に、得られたデジタル画像が病理医に提示されて評価を受ける。デジタル病理検査は、標本を顕微鏡で直接観察する従来の病理検査に比べていくつかの利点をもつ。第一に、デジタル病理検査は処理能力を高めることができる。病理医の作業量は増えているため、該当する状況はますます増えている。第二に、デジタル病理検査は診断の質を高める手段を提供できる。病理医がコンピュータアルゴリズムの助けを借りる場合、複数の病理医の間で診断の整合性が大幅に改善できることが研究によって示されている。
しかしながら、デジタル病理検査にはいくつかの欠点もありうる。現時点での欠点の1つは焦点面が固定されていることである。デジタルスキャナは通常、組織に対して1枚の画像を取得するだけである。それ以降に焦点面を変更することはできない。これは焦点外れアーチファクト(artifact)の原因となる。ただし、異なる焦点面を用いて複数の異なる画像を得ることも可能である。
この焦点問題以外にも、デジタル病理検査画像には、病理検査で普通に生じるその他のアーチファクトも発生する。そのようなアーチファクトとして以下のものがありうる。
・圧力効果
・固定アーチファクト(例えば、誤った固定液の使用、汚染、酸性ホルマリンヘマチン色素の形成)
・脱水不足(例えば、組織内に捕捉されたままの水)
・染色アーチファクト(例えば、非清浄な水浴または不均一な染色による)
・意図せず画像中に現れる物体(例えば、微生物や髪の毛)
・焦点ずれアーチファクト
・センサノイズ
病理医はこのようなアーチファクトを経験によって識別でき、画像解釈に際してそれらを無視することができる。しかし、自動画像解析プログラムは1つ以上のアーチファクトを含む画像の処理が難しいことがある。
現在利用できるデジタル解析手法は、組織全体または少なくとも視野全体に対して正規化と核検出を行う。
米国特許出願公開第2006/0014238号は、免疫組織化学化合物が適用された生物標本のデジタル画像を強調補正するステップと、強調補正したデジタル画像中にある所定の種類の不要な細胞を検討対象から外すステップと、強調補正したデジタル画像において関心のある複数の細胞を特定するステップと、強調補正したデジタル画像において関心エリアを1つ以上特定するステップと、特定された1つ以上の関心エリアにある細胞アーチファクトを検討対象から外し、それによって、医療の診断もしくは予後診断の作成に用いる、1つ以上の強調補正された関心エリアを自動的に生成するステップとを開示している。
M.Macenko、M.Niethammer、J.S.Marron、D.Borland、J.T.Woosley、X.Guan、C.Schmitt、およびN.E.Thomas「A Method for Normalizing Histology Slides for Quantitative Analysis」(IEEE Int.Symposium on Biomedical Imaging、2009)(以下では「Macenkoら」という)は、染色過程における不整合を解決し、それによって、異なる条件下で処理もしくは保存されたスライドを共通の正規化空間に置き、定量分析を改善可能にする2つの仕組みを開示している。この論文は、画像に対して正しい染料ベクタを自動的に見つけた後にカラーデコンボリューションを実施するアルゴリズムを開示している。
米国特許出願公開第2006/0014238号明細書
M.Macenko、M.Niethammer、J.S.Marron、D.Borland、J.T.Woosley、X.Guan、C.Schmitt、およびN.E.Thomas「A Method for Normalizing Histology Slides for Quantitative Analysis」(IEEE Int.Symposium on Biomedical Imaging、2009)
他の種類の画像処理においても、不適切な領域を含む画像の処理に際して問題が発生しうる。
画像処理を改善すると有利である。この課題により良く対処するため、本発明の第1の態様は、アーチファクトを含む領域を画像内に検出するアーチファクト検出部を備えた領域検出部と、検出された領域を除外した画像の一部に基づいてパラメータを決定するパラメータ決定部と、導出されたパラメータを用いて画像を処理する画像処理モジュールとを備えたシステムを提供する。
上記システムは、検出された領域を除外した画像の一部に対してパラメータを決定するという利点がある。従って、検出された領域の望ましくない、もしくは無関係な属性によってパラメータが歪曲されることがない。その後、導出されたパラメータを用いて画像が処理される。従って、検出された領域の属性によって歪曲されていないパラメータを用いて画像処理が行われる。このように、画像の関連部分に基づいてパラメータが決定できるため、画像処理の向上が実現される。
デジタル病理検査画像などの画像の局部エリアにはアーチファクトを含みうるものがいくつかあり、そのような局部エリアは解析から除外するべきである。さもなければ、正規化などの画像処理操作は最適以下のものとなってしまう。従って、パラメータを決定する際にはアーチファクトを含む領域を除外するのが有益である。その後、画像はこのパラメータを用いて処理できる。
なお、Macenkoらでは、特異値分解を実施する際、実質的に染色のない画素を安定性のために排除している。しかし、病理検査標本には、染色がほとんど、あるいは全くなくても有効な領域がありうるため、染色のない画素はアーチファクトではない。
デジタル画像処理のメリットは、画像中のムラに対する明示的な対処手法にある。例えば、コンピュータを用いた組織の解析(例えば、核検出、分類、正規化など)では、信頼できる結果を得るためにアーチファクト(例えば、標本作製やスキャン手続きによって生じるもの)を除去することが重要でありうる。
システムは、処理を終えた画像を表示する表示部を備えていてもよい。さらに、表示部は、アーチファクトを含む検出された領域の印を表示するように構成されてもよい。それにより、パラメータの決定時にどの領域が除外されたかをユーザは見ることができる。
システムは、表示部による検出された領域の印の表示をユーザが制御可能にするユーザインターフェイスを備えていてもよい。ユーザに適した可視化形態を実現可能にする選択肢をいくつか提供してもよい。複数の可視化形態をユーザが比較できるよう、より多種類の可視化形態をユーザの制御下で生成してもよい。
ユーザインターフェイスは、検出された領域の印をユーザがオンまたはオフに切り替えられるように構成されてもよい。これは、検出された領域の印が不要なときに画面を邪魔することなく、検出された領域の位置を必要時に素早くチェックするのに役立つ。このように、ユーザは、検出された領域の印を表示および非表示にした状態のいずれでも、処理を終えた画像を閲覧しうる。従って、ユーザは、処理を終えた画像のみを表示するようにシステムを制御しうるほか、処理を終えた画像を、パラメータの決定時に除外された領域の印とともに表示するようにシステムを制御することもできる。それによってシステムが柔軟に使用可能になる。
ユーザインターフェイスは、検出された領域の印の外観をユーザが変更できるように構成されてもよい。これによって柔軟性が高まるうえ、必要に応じて印を調整することができる。例えば、ユーザは、以下の1つまたは組み合わせの中から選択を行いうる。印の色の選択、検出された領域の外枠の表示、ある特定色またはある特定パターンで埋めることによる検出された領域の強調表示、または、矢印などの記号による領域の指示、である。
パラメータ決定部は、検出された領域を除外した画像の部分に基づいて正規化パラメータを決定するように構成されてもよい。画像処理モジュールは、画像の正規化を正規化パラメータに従って実施するように構成されてもよい。従って、検出された領域を除外した画像の一部に基づいて決定されたパラメータを用いて画像全体が正規化されうる。これにより、同じ正規化パラメータを画像全体に適用しながらパラメータの決定精度を高めることができる。均一な正規化を提供しながら、検出された領域を除外した画像の一部に対して正規化パラメータを最適化しうる。
システムは、検出された領域を示すマスクを生成するマスク部を備えていてもよい。パラメータ決定部は、マスクに基づいてパラメータを決定するように構成されてもよい。特に、パラメータ決定部は除外された領域を定義するためにマスクを使用してもよい。これは効率的なシステム実装に対する1つの可能性である。
画像は病理検査画像を含みうる。病理検査においてはアーチファクトが常に発生する。従って、本システムを病理検査画像に適応できれば好都合である。
画像処理モジュールは、検出された領域も導出されたパラメータを用いて処理するように構成されてよい。これにより、画像の関連部分に基づいてパラメータを決定することができる。同時に、同じ導出されたパラメータを、検出された領域にも適用することで画像が統一的に処理される。
アーチファクト検出部は、焦点外れアーチファクト、染色アーチファクト、圧力アーチファクト、および固定アーチファクトの少なくとも1つを含むアーチファクトを検出するように構成されてもよい。これらは病理検査画像に現れる重要なアーチファクトの例であり、これらのアーチファクトは、これらの画像に対する画像処理パラメータを決定することによって除外できる。
アーチファクト検出部は、物体検出法の適用によってアーチファクトを検出するように構成されてもよい。例えば、アーチファクトは、物体検出法を用いて検出可能なある特定の外観を有することが知られうる。かかる物体検出法は、当業者によってそれ自体公知である。かかる物体検出法は当該領域を検出および/または輪郭表示する1つの効率的な方法でありうる。
別の態様において、本発明は上記システムを備えるデジタル顕微鏡を提供する。かかるデジタル顕微鏡は、画像を取得するデジタルカメラ、領域検出部を実現するプロセッサとメモリ、パラメータ決定部、および画像処理モジュールをさらに備えていてもよい。例えば、デジタル顕微鏡はデジタル病理検査顕微鏡である。
別の態様において、本発明は上記システムを備えるワークステーションを提供する。
さらに別の態様において、本発明は、画像を処理する方法であって、アーチファクトを含む領域を画像内に検出するステップと、検出された領域を除外した画像の一部に基づいてパラメータを決定するステップと、導出されたパラメータを用いて画像を処理するステップとを含む方法を提供する。
別の態様において、本発明は、上記方法をプロセッサシステムに実行させる命令を含むコンピュータプログラム製品を提供する。
本発明の上記の実施形態、実装、および/または態様の2つ以上を、有用と思われる任意の方法で組み合わせうることは当業者には理解されるだろう。
本明細書に開示される手法が2次元、3次元、および/またはより高次元の画像データに適用されうることは当業者に理解されるだろう。さらに、本明細書に開示される手法が写真撮影、顕微鏡検査、コンピュータ断層撮影(CT)、X線、磁気共鳴、またはその他のあらゆる種類の画像収集モダリティから得られる画像データに適用されうることが、当業者に理解されるだろう。さらに、本明細書に開示される手法が病理検査画像および顕微鏡画像のみならず、写真画像や医療画像など他の種類の画像にも適用されうることは当業者に理解されるだろう。
記載される本システムの改変および変形に対応する、画像収集装置、ワークステーション、システム、方法、および/またはコンピュータプログラム製品の改変および変形は、本説明を元に当業者が実施できる。
本発明のこれらおよび他の態様は下記の実施形態から明らかであり、またそれらを参照することによって明確になる。
画像を処理するシステムのブロック図である。 画像を処理する方法のフローチャートである。 病理検査画像の4つの例を示す図である。 アーチファクトを含む領域に対応するマスクを示す図である。
病理検査画像は手動で分析されることがある。手動分析では、標本処理アーチファクトと組織アーチファクトが病理医によって無視される。また顕微鏡の焦準ハンドルを回すことにより、病理医は画像の関連部分に焦点を合わせうる。最近の傾向は、病理検査が近い将来にデジタル化されることを示している。デジタル病理検査を用いる場合、解析の少なくとも一部(例えば、核検出、核分類、HER2値など)はコンピュータによって実施される。しかし、知られているコンピュータ解析は、アーチファクトや焦点外れエリアによって不正確な結果をもたらすことがある。
分析結果は、最初にアーチファクトおよび焦点外れエリアを局所的に検出した後、それらのエリアを分析時に廃棄することによって改善しうる。これは病理検査画像だけでなく、CT画像、X線画像、磁気共鳴画像、およびその他の種類の画像などの医療画像を含むその他の種類の画像にも当てはまる。医療画像におけるアーチファクトの例として、インプラントや再構成アーチファクトがある。デジタル写真などの他の画像は、JPEGアーチファクト等の圧縮アーチファクトなどのアーチファクトも含みうる。
図1は画像処理システムの諸態様を示す。本システムは、適切にプログラムされたコンピュータまたはプロセッサによって少なくとも部分的には実現されうる。あるいは、本システムの一部または全部の特徴を実現するために専用の電子回路を備えてもよい。本システムはワークステーションによって実現されうる。画像に対する処理操作の開始など、システム制御のためのユーザからの入力を受信するため、本システムは、キーボード、マウスデバイス、ディスプレイ、および/またはタッチセンサ式ディスプレイなどのユーザ・インターフェイス・ハードウェアも備えうる。さらに、かかるユーザ・インターフェイス・ハードウェアは、処理を終えた画像などのシステムの結果を表示するために使用されうる。本システムは、画像収集装置またはデジタル画像保管庫といった他の機器との通信を行う通信ポートも備えうる。
システムは画像受信部4を備えうる。この画像受信部4は通信ポートと機能的に接続されうる。画像受信部4は別の機器(例えば画像の格納手段を備えたサーバ)から1枚以上の画像を受信するように構成されうる。画像受信部4は、画像収集装置(図示せず)と直接通信するように構成されてもよい。本明細書に別途記載するように、画像は例えば組織画像や他の種類の画像を含みうる。
システムは領域検出部1を備えうる。領域検出部1は、ある特定の基準を満たす画像内領域、特に、アーチファクトを含む領域を検出するように構成される。かかるアーチファクトは、虫もしくは微生物もしくは髪の毛などの有機物体でありうる。アーチファクトはまた人工物体でありうる。本パラグラフで述べるアーチファクトの例は病理検査画像において生じうる。病理検査の撮影では、組織標本の特性に関心が向けられる。アーチファクトが存在する画像内領域にそれらの特性を認めることは難しい可能性がある。しかし、アーチファクトは他の適用分野においても発生しうる。
別の種類のアーチファクトは組織の物理的取り扱いによって生じる。例えば、組織の一部に圧力が加えられる場合、組織のその部分は変形しうる。例えば、細胞構造が破壊されうる。また別の種類のアーチファクトは、焦点および/または絞りなどの顕微鏡の光学的設定によって生じる。また別の種類のアーチファクトは、デジタル画像圧縮などの画像のデジタル前処理によって生じる。
システムは、アーチファクトを画像中に検出するアーチファクト検出部7を備えうる。アーチファクト検出部7は、ある特定種類のアーチファクトを検出するように特化されていてもよい。例えば、アーチファクト検出部7は、虫の形状モデルおよび/または物体認識手法に基づいてある特定種類の虫を検出するように構成されてもよい。そのような手法は当技術分野においてそれ自体公知である。システムはかかるアーチファクト検出部7を複数備えていてもよく、アーチファクト検出部7のそれぞれは異なる種類のアーチファクトを検出するように構成されてもよい。例えば、異なる虫を異なる形状モデルを用いて検出してもよい。髪の毛は別の形状モデルを用いて検出しうる。また、他の複数種類の物体を別々にモデル化してもよい。光学的な歪みおよび/またはデジタル画像処理の異常など、他の種類のアーチファクトを検出するために複数の異なるアーチファクト検出部を実装してもよい。かかるアーチファクト検出部は当技術分野においてそれ自体公知である。領域検出部1は、アーチファクト検出部7によって検出されたアーチファクトを含む領域の表現を生成する。
システムは、検出された領域を除外した画像の一部に基づいてパラメータを決定する、パラメータ決定部2を備えうる。かかるパラメータは、自体公知の方法で画像の残り部分を解析することによって決定しうる。このパラメータの決定方法は実施する画像処理の種類に依存する。アーチファクトを含む領域の表現を領域検出部1から受信するために、パラメータ決定部2は領域検出部1に機能的に結合されうる。かかる表現はアーチファクトの囲み枠の座標の形態でありうる。マスク画像など、その他の表現も可能である。
システムは、導出されたパラメータを用いて画像を処理する画像処理モジュール3を備えうる。その目的のために、所望する任意の適切な画像処理操作が使用できる。例えば、ヒストグラムの平坦化を実施しうる(ヒストグラムのビン(bin)をパラメータとして使用)、正規化を実施しうる(最大画素値をパラメータとして使用)、物体カウントを例えば物体検出用のしきい値を用いて実施しうる。このとき、しきい値は、検出部分を除外した画像の部分のヒストグラムに基づく。その他の種類の処理も、本開示に基づいて当業者が適宜なしうる。
システムは、処理を終えた画像を表示する表示部5を備えうる。表示部5は、処理を終えた画像の表示に加えて、生の(未処理の)画像の表示に使用しうる。さらに、表示部5は、検出された領域の印を示すように構成されうる。例えば、検出された領域は当該領域を囲む輪郭線によって輪郭を示してもよいし、検出された領域は特有の色で示してもよい。検出された領域は未処理の画像および/または処理を終えた画像の中に示してもよい。表示部5は、例えば外部表示装置を制御するソフトウェアユニットとして実装してもよい。
さらに、システムはユーザインターフェイス8を備えうる。ユーザインターフェイス8はユーザがシステムを制御できるように構成されうる。他の多くの用途に加え、ユーザインターフェイス8は、表示部による検出された領域の印の表示をユーザが制御できるように構成されうる。ユーザインターフェイスは、画像と、前記画像の処理に際して廃棄されたアーチファクトとの両方をユーザが可視化/表示できるように構成されうる。例えば、検出された領域の印をユーザがオンまたはオフに切り替えられるように、グラフィカル・ユーザ・インターフェイス上のボタンを備えてもよい。このように、処理を終えた画像および/または未処理の画像は、検出された領域の印がない状態で表示されうる。ユーザがボタンの押下を選択すると、同じ画像が、検出された領域の印とともに表示されうる。かかる表示は、検出された領域の位置および/または範囲および/または形状を示すものでありうる。さらに、ユーザインターフェイス8は、検出された領域の印の外観をユーザが変更できるように構成されうる。例えば、ユーザがいくつかの選択肢の一覧を与えられ、ユーザが前記選択肢の中から選択を行えるようにしてもよい。例えば、ユーザは、検出された領域の外枠表示と検出された領域の着色との間で選択を行いうる。かかる着色は完全に不透明でもいいし、半透明でもいい。色および/または不透明度はユーザ選択可能であってもよい。ユーザはさらに、検出された領域の位置を示す記号の表示が選択可能でありうる。かかる記号は、矢印もしくは点、またはあらゆるその他のアイコンを含みうる。
例えば、ユーザインターフェイスは、上記目的に対して1つ以上のユーザインターフェイス要素を備える。かかるユーザインターフェイス要素は、グラフィカル・ユーザ・インターフェイスのウィジェットを含みうる。ハードウェアボタンなど、別の種類のユーザインターフェイス要素を使用してもよい。このように、ユーザは処理を終えた画像を、検出された領域の印を表示した状態または表示しない状態のいずれで閲覧したいかを選択しうる。同様に、検出された領域の印を表示した状態または表示しない状態のいずれかでユーザが元の(未処理の)画像を可視化可能にするユーザインターフェイス要素を備えてもよい。画像処理の種類の1つは正規化である。従って、パラメータ決定部2は、正規化に用いる1つ以上のパラメータを決定するように構成されてもよい。正規化操作に使用できるパラメータの例として、ヒストグラムの平均強度、最大強度、またはビン値などがある。画像処理モジュール3は、画像の正規化を正規化パラメータに従って実施するように構成されうる。例えば、補正係数の適用によって強度レベルを調整し、平均強度を変更し、あるいは使用強度の範囲を所定範囲に収めたりすることができる。ヒストグラムの平坦化も可能である。
システムは、検出された領域を示すマスクを生成するマスク部6を備えうる。かかるマスクは画像の形状でありえ、例えば、検出された領域の部分である画素に対して第1の画素値を用いて、検出された領域の部分ではない画素に対して第1の画素値とは異なる第2の画素値を用いるバイナリ画像である。パラメータ決定部2は、マスクに基づいてパラメータを決定するように構成されうる。具体的には、例えば、検出された領域の部分であることがマスク画像によって示されていない、未処理画像の画素のみを評価する。
画像処理モジュール3は、検出された領域も導出されたパラメータを用いて処理するように構成されうる。そのため、パラメータ値は、検出された領域を除外した画像の一部に基づいてパラメータ決定部2によって決定されたが、画像処理モジュールは、画像の統一的な取り扱いが行われるよう、導出された画像全体のパラメータに基づいて上記処理ステップを実施しうる。あるいは、画像処理モジュール3は、検出された領域を除外した画像の一部に対してのみ上記処理ステップを適用するように構成されうる。
アーチファクト検出部7は、焦点外れアーチファクト、染色アーチファクト、圧力アーチファクト、および固定アーチファクトを検出するように構成されうる。ある特定種類のアーチファクトを検出するように特化された複数の異なるアーチファクト検出部7を使用してもよい。
アーチファクト検出部7は、物体検出法の適用によってアーチファクトを検出するように構成しうる。例えば、ある特定の形状および/または色および/またはテクスチャなど、特定の属性を有することがわかっているアーチファクトの検出には、形状モデルまたはテンプレートマッチング法を用いることができる。
システムはデジタル顕微鏡内に組み込まれうる。かかる顕微鏡は関心領域を拡大する光学サブシステム、および光学サブシステムから得た光信号をデジタル画像に変換するデジタルカメラを備えうる。デジタル画像は、システムが本明細書中に記載の方法で取り扱うように画像受信部4に供給されうる。
代替的に、システムはワークステーション内に組み込まれうる。かかるワークステーションは、デジタル顕微鏡によって取り込まれた画像を受信しうる。
システムは顕微鏡画像に限定されない。システムは他の種類の画像に対しても最適化しうる。
図2は画像処理方法の諸態様を示す。本方法は、画像内のある領域を基準に基づいて検出するステップ201を含む。この基準は、領域内におけるアーチファクトの存在でありうる。領域の範囲は検出されるアーチファクトにちょうど対応しうる。あるいは、領域の範囲はアーチファクトの凸閉包、またはアーチファクトの境界ボックスに対応しうる。この領域はアーチファクトの周囲のマージンを含みうる。これらの可能性は領域検出部1によって検出される領域にも適用される。領域の検出後、本方法は、検出された領域を除外した画像の一部に基づいてパラメータを決定するステップ202に進む。パラメータの決定後、本方法は、導出されたパラメータを用いて画像を処理するステップ203に進む。その後、本方法は、処理を終えた画像を表示装置に表示するステップ204に進む。代替的または追加的に、画像を記憶媒体に格納してもよい。本方法は、プロセッサシステムに記載の方法を実行させる命令を含むコンピュータプログラム製品内に含まれてもよい。
本方法は、本明細書中に記載するシステムの機能の説明に鑑みて当業者によって改変および/または拡張されうる。
病理検査のデジタル化にはいくつかの利点がある。第一に、処理能力の向上が可能である。米国では病理医の作業量が増えているため、該当する状況はますます増えている。その原因は一方では人々の高齢化に帰することができるが、他方では病理医の卒業者数が米国において年々微減している点に帰することができる。第二に、デジタル病理検査は診断の質を高める手段を提供する。病理医がコンピュータアルゴリズムの助けを借りる場合、病理医の間で診断の整合性が大幅に改善できることが研究によって示されている。しかしながら、デジタル病理検査にはいくつかの欠点もある。一番の欠点は、焦点面が固定されていることである。デジタルスキャナは通常、組織に対して1枚の画像を与えるだけである。従って、焦点面を調整することができない。ただし、異なる焦点面を用いて複数の画像を記録することは可能である。
デジタル病理検査はデジタルスキャナそのものによって生じるアーチファクトにのみ直面するのではない。以下に示すのは、あらゆる種類の病理検査画像に生じうるアーチファクトの例である。
・圧力効果
・固定アーチファクト(例えば、誤った固定液の使用、汚染、および/または酸性ホルマリンヘマチン色素の形成)
・脱水不足(組織内に捕捉されたままの水)
・染色アーチファクト(非清浄な水浴または不均一な染色)
・インクアーチファクト、例えば、外科切除端の印を付けるために医療提供者によって使用されるインク
従来型の病理検査におけるアーチファクトの概要は、E.McInnes「Artifacts in histopathology」(Comp Clin Path(2005)13:100〜108に収録)に開示されている。
病理医は病理検査標本を解釈する際にアーチファクトを無視するように日頃から訓練されている。しかし、デジタル病理検査システムには効果的かつ明示的な戦略が必要である。コンピュータを用いた組織の解析(すなわち、核検出、分類、正規化など)では、結果の信頼性および/または再現性を高めるために、あらゆるアーチファクト(標本作製ならびにスキャン手続きによって生じるもの)を除去することが重要である。
生じうるアーチファクトの例として、検死の際に解剖者の持つ鉗子によって新鮮組織が固定前に過剰に引きずられ、それによって肺に生じうる鉗子傷がある。酸性ホルマリンヘマチン色素は暗褐色の異方性・微晶質かつ鉄が負に帯電した色素であり、非緩衝ホルマリン由来のギ酸が酸性pHにおいてヘモグロビンのヘムと反応して生成される。脊髄の白質に染色の薄いエリアが生じうるのは、脱水不足によって水が組織内に捕捉されたままとなり、組織の一部が染色されないためである。非清浄な水浴には以前の組織が残留していることがある。それは肺の中に存在する肝臓組織のように、現在の組織切片に混入しうる。組織切片の焦点面の上方にエオシン薄片が見えうるのは、無濾過の原液から生じる沈殿染料のためである。
正規化と核検出は組織全体または少なくとも視野全体に対して実施されうる。しかし、上記の例で示すように、一部の局部エリアは信頼できないか、または解析に関係しないため、解析から除外するべきである。さもなければ正規化は最善以下のものとなりえ、自動核検出および/または自動核カウントといった自動解析の結果は多くの偽陽性および/または偽陰性を示しかねない。現在の実務では、標準的な画像正規化手法としてヒストグラムの平坦化がある。
アーチファクト(焦点外れや染色アーチファクトなど)がある位置は局所的に決定することができる。かかるアーチファクトは画像の解析中に廃棄しうる。廃棄されたアーチファクトは解析結果の可視化時に示しうる。
組織のデジタル化画像にはいくつかの種類のアーチファクトが生じうる。Y.Sun、S.Duthaler、およびB.J.Nelson「Autofocusing Algorithm Selection in Computer Microscopy」(Intelligent Robots and Systems、2005に収録)は、焦点の合ったアーチファクトと焦点外れアーチファクトを検出する手法を開示している。(修正)ラプラスやエネルギーラプラスの和のような微分によるアプローチ、または分散や自己相関の手法などの統計に基づくアルゴリズムを使用しうる。関連方法は染色アーチファクトを検出できうる。これは、染色アーチファクトが染色液の不鮮明なしみとして生じうるためである。固定および圧力アーチファクトも検出されうる。
アーチファクトが検出された後で、バイナリマスクを用いて解析を実施しうる。バイナリマスクは、どの画素を解析に使用するべきか、および/またはどの画素を解析に使用するべきでないかを示す。アーチファクトを含む領域の可視化は、例えば、画像の関連エリアの網掛けによって行うことができる。
画像正規化に先立ち、アーチファクト(焦点外れや染色アーチファクトなど)がある位置を最初に局所的に決定してもよい。発見されたアーチファクトは正規化パラメータの確立時に廃棄してもよい。正規化はアーチファクトを除外した領域にのみ適用してもよい。あるいは、正規化は、アーチファクトを除外した画像の領域に基づいて決定された正規化パラメータを用いて画像全体に適用してもよい。あるいは、除去済み領域と画像の残り部分との境界において正規化パラメータが急に変化しないよう、例えば正規化パラメータのフェーディング技法または段階的変化を除去済み領域内に適用することにより、検出されたアーチファクトを画像の残り部分と組み合わせてもよい。
図3は、同じ切片による2枚の免疫組織化学(IHC)染色画像を示す。IHCは組織切片の細胞の解析に使用しうる公知の技法である。左上の画像は、デジタル病理検査スキャナを用いて取得した第1の画像を示す。右上の画像は、デジタル病理検査スキャナを用いて取得した第2の画像を示す。左下の画像は正規化後の第1の画像を示す。右下の画像は正規化後の第2の画像を示す。図4は、第1の画像に対するマスク画像を示す。図4の黒い領域は、デジタル病理検査スキャナで取得した画像においてアーチファクトが検出された、第1の画像内の領域に対応する。第1の画像に対する正規化パラメータはデジタル病理検査スキャナで取得した第1の画像に基づいて決定されたが、図4に示すマスク画像に従ってマスク領域が除去されている。画像は得られた正規化パラメータを用いて正規化された。その結果が図3に示す左下の画像である
本発明が、本発明を実現するように適応したコンピュータプログラム、特にキャリア上もしくはキャリア内のコンピュータプログラムにも適用されることが理解されるだろう。プログラムはソースコード、オブジェクトコード、部分コンパイル形態などのソースコードとオブジェクトコードの中間のコードの形態、または本発明による方法の実装に用いるのに適したあらゆる形態でありうる。かかるプログラムが多様なアーキテクチャ設計を有しうることも理解されるだろう。例えば、本発明による方法またはシステムの機能を実現するプログラムコードは1つ以上のサブルーチンに分割しうる。それらのサブルーチン間に機能を分配する多様なやり方は当業者にとって明らかであろう。サブルーチンは1つの実行可能ファイルにまとめて格納して自己完結型のプログラムを形成してもよい。かかる実行可能ファイルは、例えばプロセッサ命令および/またはインタプリタ命令(例えばJava(登録商標)インタプリタ命令)などの、コンピュータで実行可能な命令を含みうる。あるいは、サブルーチンの1つ以上または全てを少なくとも1つの外部ライブラリファイルに格納し、メインプログラムと静的もしくは動的に(例えば実行時に)リンクさせてもよい。メインプログラムはサブルーチンの少なくとも1つに対する少なくとも1つの呼び出しを含む。サブルーチンは互いに対する呼び出しも含んでよい。コンピュータプログラム製品に関連する実施形態は、本明細書に記載する方法の少なくとも1つにおける各処理ステップに対応する、コンピュータで実行可能な命令を含む。それらの命令は、サブルーチンに分割しうる、および/または静的もしくは動的にリンクされうる1つ以上のファイルに格納されうる。コンピュータプログラム製品に関連する別の実施形態は、本明細書に記載するシステムおよび/または製品の少なくとも1つにおける各手段に対応する、コンピュータで実行可能な命令を含む。それらの命令は、サブルーチンに分割しうる、および/または静的もしくは動的にリンクされうる1つ以上のファイルに格納されうる。
コンピュータプログラムのキャリアはプログラムを輸送可能なあらゆるエンティティもしくはデバイスでありうる。例えば、キャリアはROM(例えば、CD ROMもしくは半導体ROM)などの記憶媒体、または例えばフラッシュドライブもしくはハードディスクなどの磁気記録媒体を含みうる。さらに、キャリアは電気信号もしくは光信号など、電気もしくは光ケーブルを介して、または無線などの手段によって搬送しうる、伝送可能なキャリアでありうる。プログラムをかかる信号において実現する場合、キャリアはかかるケーブルまたはその他のデバイスもしくは手段によって構成されてもよい。あるいは、キャリアはプログラムが埋め込まれる集積回路であって、関連する方法を実施するように、あるいはその実施に使用されるようにされた集積回路であってもよい。
なお、上記の実施形態は発明を説明するものであって限定するものではなく、当業者は添付の特許請求の範囲の範囲を逸脱することなく多くの代替的な実施形態を設計できるだろう。特許請求の範囲では括弧内の参照符号は当該請求項を限定するものと解釈してはならない。動詞「備える」、「含む」、およびその活用形の使用は、請求項に記載されない要素もしくは方法の存在を排除するものではない。要素が単数として記載されていても、かかる要素が複数存在することを排除するものではない。本発明は異なる要素をいくつか含むハードウェアによって、および適切にプログラムされたコンピュータによって実現してもよい。複数の手段を列挙する装置請求項において、それらの手段のいくつかは同一のハードウェアのアイテムによって実現されてもよい。互いに異なる従属請求項にある方策が列挙されるというだけでは、それらの方策を組み合わせて使用することが有用ではないことにはならない。

Claims (17)

  1. 生物標本の顕微鏡画像を処理する顕微鏡システムであって、
    前記顕微鏡画像内におけるアーチファクトを含む領域を検出するためのアーチファクト検出部を備えた領域検出部であり、前記アーチファクトは、標本作製または物理的取り扱いによって生じる、領域検出部と、
    前記検出された領域を除外した前記顕微鏡画像に係る部分に基づいて、パラメータを決定するためのパラメータ決定部と、
    前記決定されたパラメータを使用して、前記顕微鏡画像を処理するための画像処理モジュールと、
    を備え、前記システムは、さらに、
    ユーザが、前記顕微鏡画像及び前記顕微鏡画像の処理の最中に除外されたアーチファクトの両方を可視化できるようにするユーザインターフェイスを備える、
    ことを特徴とするシステム。
  2. 前記システムは、さらに、
    前記処理を終えた画像を前記検出された領域の印と供に表示するための表示部を備える、
    請求項1に記載のシステム。
  3. 前記システムは、さらに、
    ユーザが、前記表示部による前記検出された領域の印の前記表示を制御できるようにするためのユーザインターフェイスを備える、
    請求項2に記載のシステム。
  4. 前記ユーザインターフェイスは、前記ユーザが、前記検出された領域の印をオンまたはオフに切り替えられるように構成されている、
    請求項3に記載のシステム。
  5. 前記ユーザインターフェイスは、前記ユーザが、前記検出された領域の印の外観を変更できるように構成されている、
    請求項3に記載のシステム。
  6. 前記パラメータ決定部によって決定された前記パラメータは、正規化パラメータを含み、
    前記画像処理モジュールは、前記正規化パラメータに従って、前記顕微鏡画像の正規化を実行するように構成されている、
    請求項1に記載のシステム。
  7. 前記システムは、さらに、
    前記検出された領域を示すマスクを生成するためのマスク部を備え、
    前記パラメータ決定部は、前記マスクに基づいて、前記パラメータを決定するように構成されている、
    請求項1に記載のシステム。
  8. 前記顕微鏡画像は、病理検査画像を含む、
    請求項1に記載のシステム。
  9. 前記画像処理モジュールは、前記決定されたパラメータを使用して、前記検出された領域も処理するように構成されている、
    請求項1に記載のシステム。
  10. 前記アーチファクト検出部は、焦点外れアーチファクト、染色アーチファクト、圧力アーチファクト、および、固定アーチファクト、のうち少なくとも1つを検出するように構成されている、
    請求項1に記載のシステム。
  11. 前記アーチファクト検出部は、物体検出法を適用することにより、前記アーチファクトを検出するように構成されている、
    請求項1に記載のシステム。
  12. 前記領域検出部は、アーチファクトの種類に対応する複数の異なるアーチファクト検出部、を含む、
    請求項1に記載のシステム。
  13. 前記ユーザインターフェイスは、、
    前記画像処理モジュールによって処理された画像及び前記画像の処理の最中に除外されたアーチファクトの両方を可視化する、
    請求項1に記載のシステム。
  14. 請求項1に記載のシステムを備えたデジタル顕微鏡。
  15. 請求項1に記載のシステムを備えたワークステーション。
  16. 生物標本の顕微鏡画像を処理する方法であって、
    前記顕微鏡画像内におけるアーチファクトを含む領域を検出するステップであり、前記アーチファクトは、標本作製または物理的取り扱いによって生じる、ステップと、
    前記検出された領域を除外した前記顕微鏡画像に係る部分に基づいて、パラメータを決定するステップと、
    前記決定されたパラメータを使用して、前記顕微鏡画像を処理するステップと、
    を含み、さらに、
    前記顕微鏡画像及び前記顕微鏡画像の処理の最中に除外されたアーチファクトの両方を可視化するステップと、を含む、
    ことを特徴とする方法。
  17. 請求項16に記載の方法をプロセッサシステムに実行させるための命令を含む、コンピュータプログラム。
JP2014541783A 2011-11-17 2012-11-07 画像処理 Active JP6342810B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201161560831P 2011-11-17 2011-11-17
US61/560,831 2011-11-17
PCT/IB2012/056237 WO2013072816A1 (en) 2011-11-17 2012-11-07 Image processing

Publications (2)

Publication Number Publication Date
JP2014533857A JP2014533857A (ja) 2014-12-15
JP6342810B2 true JP6342810B2 (ja) 2018-06-13

Family

ID=47358505

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014541783A Active JP6342810B2 (ja) 2011-11-17 2012-11-07 画像処理

Country Status (6)

Country Link
US (1) US9916515B2 (ja)
EP (1) EP2780888B1 (ja)
JP (1) JP6342810B2 (ja)
CN (1) CN103959332B (ja)
IN (1) IN2014CN03657A (ja)
WO (1) WO2013072816A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013008121A1 (en) * 2011-07-13 2013-01-17 Koninklijke Philips Electronics N.V. Method for automatically adjusting a focal plane of a digital pathology image
WO2013072816A1 (en) 2011-11-17 2013-05-23 Koninklijke Philips Electronics N.V. Image processing
US10216762B2 (en) 2014-06-04 2019-02-26 Panasonic Corporation Control method and non-transitory computer-readable recording medium for comparing medical images
AU2016211981A1 (en) 2015-01-31 2017-07-27 F. Hoffmann-La Roche Ag Quality control of automated whole-slide analysis
JP6960935B2 (ja) * 2016-03-01 2021-11-05 ベンタナ メディカル システムズ, インコーポレイテッド コントロールスライドを使用する改善された画像解析アルゴリズム
US11715556B2 (en) 2016-08-11 2023-08-01 DiamondFox Enterprises, LLC Handheld arthropod detection device
US10496893B2 (en) * 2016-08-11 2019-12-03 DiamondFox Enterprises, LLC Handheld arthropod detection device
CN109643450A (zh) * 2016-08-31 2019-04-16 皇家飞利浦有限公司 用于从组织活检物中检测管状物的装置
DE102019217524A1 (de) * 2019-11-13 2021-05-20 Siemens Healthcare Gmbh Verfahren und Bildverarbeitungsvorrichtung zum Segmentieren von Bilddaten und Computerprogrammprodukt

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1993016436A1 (en) 1992-02-18 1993-08-19 Neopath, Inc. Method for identifying normal biomedical specimens
US5978497A (en) 1994-09-20 1999-11-02 Neopath, Inc. Apparatus for the identification of free-lying cells
WO2005027015A2 (en) 2003-09-10 2005-03-24 Bioimagene, Inc. Method and system for quantitatively analyzing biological samples
TWI245229B (en) 2003-09-18 2005-12-11 Ind Tech Res Inst Region based illumination-normalization method and system
JP4745080B2 (ja) 2006-02-20 2011-08-10 猛 中浦 X線診断装置、画像処理装置及びプログラム
CN100530220C (zh) * 2006-05-10 2009-08-19 航伟科技股份有限公司 人体影像异常区域统计检测方法
US8019134B2 (en) 2006-11-16 2011-09-13 Definiens Ag Automatic image analysis and quantification for fluorescence in situ hybridization
JP5952996B2 (ja) * 2006-12-19 2016-07-13 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 医用撮像データ内で可能性あるコンピュータ検出偽陽性を指し示す装置及び方法
JP2008165496A (ja) 2006-12-28 2008-07-17 Toyota Central R&D Labs Inc 画像正規化装置、対象物検出装置、対象物検出システム及びプログラム
KR101350853B1 (ko) * 2007-06-29 2014-01-13 톰슨 라이센싱 이미지들에서 아티팩트들을 감소시키기 위한 장치 및 방법
JP2009059326A (ja) 2007-08-06 2009-03-19 Nikon Corp 撮像装置
US20100111441A1 (en) * 2008-10-31 2010-05-06 Nokia Corporation Methods, components, arrangements, and computer program products for handling images
US9002134B2 (en) 2009-04-17 2015-04-07 Riverain Medical Group, Llc Multi-scale image normalization and enhancement
JP5712925B2 (ja) * 2009-09-28 2015-05-07 日本電気株式会社 画像変換パラメータ算出装置、画像変換パラメータ算出方法およびプログラム
CN102222318B (zh) 2010-04-16 2013-11-06 深圳迈瑞生物医疗电子股份有限公司 一种滤线栅伪影检测及抑制方法及其装置
WO2013072816A1 (en) 2011-11-17 2013-05-23 Koninklijke Philips Electronics N.V. Image processing

Also Published As

Publication number Publication date
IN2014CN03657A (ja) 2015-10-16
CN103959332B (zh) 2017-05-17
EP2780888A1 (en) 2014-09-24
JP2014533857A (ja) 2014-12-15
US9916515B2 (en) 2018-03-13
CN103959332A (zh) 2014-07-30
EP2780888B1 (en) 2019-08-14
US20140334711A1 (en) 2014-11-13
WO2013072816A1 (en) 2013-05-23

Similar Documents

Publication Publication Date Title
JP6342810B2 (ja) 画像処理
JP7422825B2 (ja) 顕微鏡スライド画像のための焦点重み付き機械学習分類器誤り予測
US11199690B2 (en) Determining a degree of red blood cell deformity within a blood sample
US11062168B2 (en) Systems and methods of unmixing images with varying acquisition properties
WO2017150194A1 (ja) 画像処理装置、画像処理方法及びプログラム
CN113570619A (zh) 基于人工智能的计算机辅助胰腺病理图像诊断***
Rao et al. Retinex-centered contrast enhancement method for histopathology images with weighted CLAHE
EP3938999A1 (en) Correlated image analysis for 3d biopsy

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151104

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160913

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20161208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170801

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20171030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180424

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180517

R150 Certificate of patent or registration of utility model

Ref document number: 6342810

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250