JP6231885B2 - 頸部を検査する医療機器 - Google Patents

頸部を検査する医療機器 Download PDF

Info

Publication number
JP6231885B2
JP6231885B2 JP2013558549A JP2013558549A JP6231885B2 JP 6231885 B2 JP6231885 B2 JP 6231885B2 JP 2013558549 A JP2013558549 A JP 2013558549A JP 2013558549 A JP2013558549 A JP 2013558549A JP 6231885 B2 JP6231885 B2 JP 6231885B2
Authority
JP
Japan
Prior art keywords
image
acetic acid
cervical
processor
score
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013558549A
Other languages
English (en)
Other versions
JP2014508021A (ja
Inventor
グプタ,ヴィピン
シャン,ツァイフェン
ヴァジネパリ,パラヴィ
ケスワルプ,パヤル
レーウェン,マリニュス バスティアーン ファン
レーウェン,マリニュス バスティアーン ファン
フィルスィオン,セリーヌ
モスール ヴェンカテサン,シャンカル
モスール ヴェンカテサン,シャンカル
ペーテル フィンク,イェルテ
ペーテル フィンク,イェルテ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2014508021A publication Critical patent/JP2014508021A/ja
Application granted granted Critical
Publication of JP6231885B2 publication Critical patent/JP6231885B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000096Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope using artificial intelligence
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/303Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the vagina, i.e. vaginoscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • G06T2207/10021Stereoscopic video; Stereoscopic image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physics & Mathematics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Reproductive Health (AREA)
  • Gynecology & Obstetrics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Endoscopes (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Description

本発明は、頸部の光学的検査の分野、特に膣鏡診の分野に関する。
頸部から生じる癌は、多くの国々で女性の第1位の癌である。女性の癌の約30%は、例えばインドでは毎年100000件より多くの新しい例が子宮頸ガンに起因すると診断されている。
子宮頸ガンの肯定的なスクリーニングテストの後、通常、膣鏡検査が、頸部の異常領域の特定のために第2の診断段階として婦人科医により用いられる。膣鏡は、子宮頸ガンの診断を助けるために子宮頸部の拡大視覚的検査に用いられる強力な光源を備えた低倍率、立体的、両眼視野顕微鏡である。
膣鏡が用いられる世界的に適用される子宮頸ガンの定期検査は、酢酸及びヨウ素溶液の頸部への投与に対する組織の反応を含む。
膣鏡は、異常組織を示唆する視覚的手掛かりを特定するために用いられる。膣鏡は、頸部、膣、外陰表面の視野を拡大するための点灯する単対物双眼顕微鏡として機能する。表面構造の全体的印象を得るために、低倍率(2x乃至6x)が用いられ得る。中倍率(8x乃至15x)及び高倍率(15x乃至25x)は、膣及び頸部を評価するために用いられる。より進行した前癌状態又は癌性病変の存在を示し得る特定の血管パターンを識別するために、高倍率が必要な場合が多い。頸部表面の異なる態様を強調表示するために、種々の光フィルタが利用可能である。
酢酸(通常3−5%)が、例えば消毒綿又はスプレイを用いて頸部に適用される。
酢酸による白色化が高い核密度と関連するので、新生組織形成高い危険を有する領域又は癌は、変化する白色調を現す。用度「酢酸による白色化」は、酢酸の適用前に白く見える角化又は白斑症領域とは対照的に用いられる。移行部(transformation zone)は、多くの前癌状態及び癌性病変が最も多く生じる頸部にある重要部位である。移行部及び視覚化された病変の全体的な程度を調べる能力は、適切な膣鏡検査が達成可能か否かを決定する。
酢酸の適用後に白色化した又は異常な血管パターンを有する頸部の領域は、生体検査を検討される場合が多い。異常領域を強調表示するのを助け、及び化生領域を疑わしい病変から区別するために、ヨウ素溶液が頸部に適用される。
検査終了後、膣鏡専門家は、最も高い可視的変態を有する領域を決定し、長い生体検査器具を用いてこれらの領域から生検を行っても良い。多くの医師及び患者は、麻酔が不要であると考える。しかしながら、一部の膣鏡専門家は、現在、局部麻酔薬又は頸部ブロックのような局部麻酔を推奨し使用し、特に多くの生体検査用検体が採取される場合に患者の不快さを軽減させている。
上述のプロトコルに従った膣鏡検査を正しく解釈するためには、豊富な訓練が必要である。インドは中国のような新興成長市場では、訓練されたリソース及び専門的知識の欠如が、この効率的診断ツールの使用を制限している。同じ状況は、有資格医療職員が不足している先進工業国にも当てはまる。
膣鏡診断は、子宮頸部の病気の正確な診断のために、専門知識を必要とし特定の画像特徴の検出を含む。これは、この領域の自動化を困難にしている。診断するために考慮される幾つかの特徴のうち1つの重要な特徴は、頸部領域に存在する赤点斑である。それらは、異常な血管構造の印であり、それらの存在は頸部の前癌性及び癌性病変の存在と有意に相関している。
本発明は、独立請求項において、医療機器、コンピュータプログラム、該医療機器の動作方法、及びビデオ位置合わせ方法を提供する。実施形態は、従属請求項で定められる。
本発明は、膣鏡診画像内に存在する赤点マークを確実に識別する方法を提供し得る。本発明の実施形態は、階層的濾過アプローチ、その後に続く、異なる種類の赤点(精細/粗/拡散)を検出し及び診断支援のためにそれらの領域をセグメント化するために学習に基づくフレームワーク、を提供し得る。本発明の実施形態は、赤点検出を次の2段階に分け得る。(1)粗レベル赤点検出。これは、関心点検出に基づき、関心点検出の後に、誤検出されたオブジェクトを除去するためにオブジェクトフィルタリングの幾つかのステップが続く。(2)精細レベル赤点検出。学習に基づくフレームワークは、粗検出された赤点を確実に分類するために用いられる。最後のステップは、赤点マークを含む領域を定めることである。テストは、前癌性病変の様々な重症度を有する35個のデータセットに対して実行され、テストセットについて平均精度98.2%が達成された。
現在の膣鏡診検査は、主観的であり、解釈のために婦人科医の知識及び経験に依存する。したがって、本発明の目的は、処理から主観性を除去することである。本発明の別の目的は、学習曲線を短縮し診断を支援することにより、膣鏡診の有用性を向上させることである。本発明の別の目的は、ユーザ(婦人科医)により良い信頼性を提供することである。本発明の更に別の目的は、癌の重症度の低度についての定量的指標を提供することである。
上述の目的は、本発明によるシステム又は方法により達成される。
本発明によると、頸部の光学検査のためのシステムが提供され、前記システムは、光学拡大手段、照射手段、少なくとも1つの刺激及び/又は造影剤の管理のための投薬手段、画像化手段、及び画像処理手段を有する。前記画像処理手段は、主要フレーム抽出手段、任意で、グレア除去手段、オブジェクト検出手段(「オブジェクト検出器」とも呼ばれる)、不明瞭度変化検出手段、を有する。
本願明細書で用いられるグレアは、正反射を表し得る。したがって、グレア除去手段は、幾つかの実施形態では、正反射除去手段であっても良い。
好適な実施形態では、前記システムは、データ入力及びデータ出力のためのオペレータインタフェース手段を更に有する。このようなインタフェース手段は、例えば、ディスプレイスクリーン、キーボード、マウス、タッチスクリーン、タッチパッド、ジョイスティック等である。
望ましくは、前記刺激及び/又は造影剤は、酢酸及び/又はヨウ素溶液、望ましくはルゴール溶液又はシラー溶液を有するグループから選択される。本発明の明細書から明らかになるように、当業者は、通常の業務により個別の文献において代替の刺激及び/又は造影剤を見出し得る。したがって、このような代替の刺激及び/又は造影剤は、本発明により提供される保護範囲に包含される。
別の好適な実施形態では、画像化手段は、デジタル画像化装置、又は非デジタルカメラ及びフレーム取り込み器を有する。前記デジタル画像化装置は、望ましくはデジタルカメラである。前記デジタル又は非デジタルカメラは、望ましくは、CCD(Charge Coupled Device)又はCMOS(Metal Oxide Semiconductor)カメラを有する。
別の好適な実施形態では、光学拡大手段は、膣鏡である。膣鏡は、子宮頸ガンの診断を助けるために子宮頸部の拡大視覚的検査に用いられる強力な光源を備えた低電力、立体的、両眼視野顕微鏡であっても良い。膣鏡は、立体鏡である必要はない。
別の好適な実施形態では、前記システムは、光学拡大手段、照射手段、刺激剤の管理のための投薬手段、画像化手段、画像処理手段、及び/又はオペレータインタフェース手段を有するグループから選択された少なくとも1つの手段を制御するコンピュータワークステーション、を更に有する。
本発明の別の実施形態では、患者の頸部の光学検査の方法が提供される。前記方法は、
(a)少なくとも1回、刺激及び/又は造影剤を頸部に適用するステップ;
(b)刺激剤の各適用の前及び後で、前記頸部の拡大画像を取得するステップ;
(c)前記画像内の基本的解剖学的オブジェクト、つまりOs、柱状領域、及び移行帯を識別するステップ;
(d)不明瞭度差スコアを生成するステップ;を有する。
前記患者は、望ましくは哺乳動物であり、特に望ましくは霊長類であり、更に特に望ましくは人間である。重要なことに、上述のステップは、必ずしも所与の順序で実行される必要がない。
本発明の別の好適な実施形態では、前記刺激及び/又は造影剤は、不明瞭度差スコア探知剤、及び/又は移行帯探知剤を有するグループから選択された少なくとも1つである。
不明瞭度差スコア探知剤は、以下の2つの異なる目的を有する。第1に、基本的解剖学的オブジェクトが、前記探知剤による刺激及び/又は造影の後に識別できる。第2に、不明瞭度差スコア探知剤は、個々の組織内の高い核密度と相関のある酢酸による白色化の程度として、新生物又は前癌過程を示す不明瞭度差スコアを生成するために役立つ。
移行帯探知剤は、望ましくは、濃い色(例えば、ヨウ素溶液は濃い紫色又は「赤褐色」とも呼ばれる茶色を有する)を有し、それぞれ頸部、又は後者の領域若しくは形状の移行帯を検出するための造影剤として役立つ。
前記不明瞭度差スコア探知剤は、望ましくは酢酸であり、前記移行帯探知剤は、望ましくはルゴール溶液又はシラー溶液のようなヨウ素溶液である。したがって、本発明による方法の更に別の好適な実施形態では、少なくとも1つの画像又はフレームは、不明瞭度差スコア探知剤の適用前及び後(便宜のため、以下ではこれらの画像は「酢酸処理前画像及び酢酸処理後画像」と称されるが、これらの用語は他の不明瞭度差スコア探知剤と関連しても用いられる)、及び/又は移行帯探知剤の適用前及び後(便宜のため、以下ではこれらの画像は「ヨウ素溶液処理前画像及びヨウ素溶液処理後画像」と称されるが、これらの用語は他の移行帯探知剤と関連しても用いられる)に取得される。
当業者は、当然ながら、代替の刺激及び/又は造影剤を別個の文献から通常業務により得ることができる。より高い核密度の領域を検出するために使用できる代替剤は、例えば、メチレンブルーである。したがって、このような代替の刺激及び/又は造影剤は、本発明により提供される保護範囲に包含される。これは、用語「酢酸処理前画像及び酢酸処理後画像」及び/又は「ヨウ素溶液処理前画像及びヨウ素溶液処理後画像」にも当てはまる。代替案が酢酸又はヨウ素溶液に用いられる場合、これらの用語は相応して変更される。
本発明による方法の他の好適な実施形態では、以下のステップのうちの少なくとも1つが実行される。
(a)前記酢酸処理後画像及び/又は前記酢酸処理後画像内で、Os及び柱状領域が識別され、
(b)前記ヨウ素溶液処理後画像内で、一時的移行帯が識別され、
(c)前記一時的移行帯は、前記酢酸処理前画像及び酢酸処理後画像にマッピングされ、
(d)前記酢酸処理前画像及び前記酢酸処理後画像内で、前記Os及び柱状領域を前記一時的移行帯から減算することにより、実際の移行帯が識別される。
したがって、前記実際の移行帯の識別は、2ステップアプローチである。(i)上述のリストの第1のステップ(ステップb)では、影響を受けた頸部ゾーンがヨウ素溶液処理で示される色変化に基づき移行帯を暫定的に検出するために、ヨウ素溶液処理後画像が処理される。キーフレーム抽出器から得られたヨウ素溶液処理後画像は、色に基づくK平均クラスタリングを用いて2個のクラスタにセグメント化される。2個のクラスタのうちの小さい方が選択される。このクラスタの凸包は、一時的移行帯として定められる。(ii)上述のリストの第2のステップ(ステップc)では、一時的移行帯が酢酸処理前及び後画像にマッピングされ、次に、上述のリストの実際の移行帯を定めるために(ステップd)、上述のリストの(ステップaに従って検出された)検出されたOs及び円柱状領域が減算される。酢酸処理前及び後画像は、移行帯を識別する前に位置合わせされ得る。図6及び7に、個々の画像分析処理を示す。
本発明による方法の特に好適な実施形態では、前記不明瞭度差スコアは、少なくとも1つの酢酸処理前画像及び1つの酢酸処理後画像の画像処理により生成される。前記処理では、望ましくは、これらの画像の実際の移行帯データのみが、実際の移行帯の前の識別に基づき用いられる。
本発明による方法の別の好適な実施形態では、本発明による方法に従って決定される前記実際の移行帯(又は望ましくはその形状及び/又は全体面積)、及び/又は本発明による方法に従って決定される前記不明瞭度差スコアは、新生物及び/又は前癌過程を示す。
非常に多くの場合、ヨウ素溶液染色後に決定される前記実際の移行帯、及び後者の前記酢酸処理後画像へのマッピングも、前癌領域を示し得る。この定義によると、少なくとも1つの酢酸処理前画像及び1つの酢酸処理後画像の画像処理により決定される前記不明瞭度差スコアは、前癌領域内の白色化の程度、及び癌の程度若しくは重症度を決定するのに役立つ。
別の実施形態では、前記実際の移行帯の形状及び/又は全面積は、癌を示し得る。したがって、前記不明瞭度差スコアは、疑わしい新生物又は癌領域を確認し又は破棄するために用いることができる。
特に望ましいことに、頸部の拡大画像の取得、基本的解剖学的オブジェクトの識別及び/又は不明瞭度差スコアの生成は、画像化手段及び/又は画像処理手段を用いて実行される。
望ましくは、膣鏡はこの目的のために用いられる。
更に望ましいことに、頸部の拡大画像の取得は、
−画像ストリームをキャプチャするステップ;
−前記画像ストリームから相関画像シーケンスを識別するステップ;
−前記シーケンスからキー画像を識別するステップ;
−前記画像を前処理するステップ;を有する。
相関画像シーケンスの識別及び/又はキーフレームの識別は、望ましくは:
−ショット境界を識別するステップ;
−ショットを分類するステップ;
−キーフレームを選択するステップ;を有する。
さらに、望ましくは、前記画像内の基本的解剖学的オブジェクトの識別は:
−ピクセルのK平均クラスタリングを用いて、該ピクセルの色に基づき酢酸処理前画像及び酢酸処理後画像を2個のクラスタにセグメント化するステップ、
−最小クラスタをOs+柱状上皮領域として一緒にラベル付けするステップ、
−Os及び柱状上皮領域の両方の中で小さなバラバラのクラスタを繰り返し除去するステップ、
−最小分散量子化を用いてOs及び柱状上皮を分けるステップ、を有する。
特に望ましい実施形態では、不明瞭度差スコアの生成は:
−酢酸処理後画像の移行帯内の主要な不明瞭度変化を有する画像ピクセルを識別するステップ;
−前記画像ピクセルを前記酢酸処理前画像の対応するピクセルにマッピングするステップ;
−次式を用いて前記不明瞭度差スコアを求めるステップ;
Figure 0006231885
を有する。
更に望ましいことに、本発明による方法は、人間のパピローマウイルスのPAPテスト及び/又は分子テストを有するグループから選択された少なくとも1つのステップを更に有する。
PAPテスト(前世紀の前半にこのテストを開発したDr.George Papanicolaouにちなんで名付けられた)は、前癌状態の及び悪性の過程を検出するために婦人科で用いられるスクリーニングテストである。検鏡は、子宮の頸部の外口及び子宮頸部から細胞を集めるために用いられる。これらの細胞は、組織学的に異常について、特に頸部の新生物又は癌過程について検査される。
人間のパピローマウイルス(HPV)は、人間に感染可能なウイルスのパピローマウイルス属のメンバである。HPV感染は、子宮頸ガンのほぼ全ての例の原因である。頸部から採取されたサンプル内のウイルス性核酸の存在は、頸部のHPV感染を示し、したがって頸部内に新生物又は癌過程を発現する患者の危険性の指標である。PCRのような最新の分子診断技術は、サンプル内のHPVの迅速な検出を可能にする。このようなテストの1つは、Qiagenにより製造され、digene HC2 HPV DNAテストとして流通している。
本発明による方法と前述の2つのテストのうちの1つとの組合せは、頸部内の癌検出の精度、感度及び再現性を更に向上させる。
さらに、本発明による方法を実行するための本発明によるシステムの使用方法が提供される。
一態様によると、本発明は、頸部の光学検査のためのシステムを提供し、前記システムは、光学拡大手段、照射手段、少なくとも1つの刺激及び/又は造影剤の管理のための投薬手段、画像化手段、及び画像処理手段を有する。前記画像処理手段は、
−キーフレーム抽出手段、
−任意で、グレア除去手段、
−オブジェクト検出手段、
−不明瞭度変化検出手段、を更に有する。
別の実施形態では、前記システムは、データ入力及びデータ出力のためのオペレータインタフェース手段を更に有する。
別の実施形態では、光学拡大手段は、膣鏡である。
別の実施形態では、前記システムは、光学拡大手段、照射手段、刺激剤の管理のための投薬手段、画像化手段、画像処理手段、及び/又はオペレータインタフェース手段を有するグループから選択された少なくとも1つの手段を制御するコンピュータワークステーション、を更に有する。
別の態様では、本発明は、患者の頸部の光学検査の方法を提供する。前記方法は、
(a)少なくとも1回、刺激及び/又は造影剤を頸部に適用するステップ;
(b)刺激剤の各適用の前及び後で、前記頸部の拡大画像を取得するステップ;
(c)前記画像内の基本的解剖学的オブジェクト、つまりOs、柱状領域、及び移行帯を識別するステップ;
(d)不明瞭度差スコアを生成するステップ;を有する。
本発明の別の実施形態では、前記刺激及び/又は造影剤は、不明瞭度差スコア探知剤、及び/又は移行帯探知剤を有するグループから選択された少なくとも1つである。
別の実施形態では、前記不明瞭度差スコア探知剤は酢酸であり、及び/又は前記移行帯探知剤はヨウ素溶液である。
別の実施形態では、少なくとも1つの画像は、前記不明瞭度差スコア探知剤の適用前及び後(「酢酸前画像及び酢酸処理後画像」)、及び/又は前記移行帯探知剤の適用前及び後(「ヨウ素溶液処理前画像及びヨウ素溶液処理後画像」)に取得される。
前記方法の別の実施形態では、
(a)前記酢酸処理後画像内で、Os及び柱状領域が識別され、
(b)前記ヨウ素溶液処理後画像内で、一時的移行帯が識別され、
(c)前記一時的移行帯は、前記酢酸処理後画像にマッピングされ、
(d)前記酢酸処理前画像及び前記酢酸処理後画像内で、前記Os及び柱状領域を前記一時的移行帯から減算することにより、実際の移行帯が識別される。
別の実施形態では、前記不明瞭度差スコアは、少なくとも1つの酢酸処理前画像及び1つの酢酸処理後画像の画像処理により生成される。
別の実施形態では、(a)前記実際の移行帯、及び/又は(b)前記不明瞭度差スコアは、新生物又は癌過程を示す。
別の実施形態では、前記画像内の基本的解剖学的オブジェクトの識別は:
−ピクセルのK平均クラスタリングを用いて、該ピクセルの色に基づき酢酸処理前画像及び酢酸処理後画像を2個のクラスタにセグメント化するステップ、
−最小クラスタをOs+柱状上皮領域として共にラベル付けするステップ、
−Os及び柱状上皮領域の両方の中で小さなバラバラのクラスタを繰り返し除去するステップ、
−最小分散量子化を用いてOs及び柱状上皮を分けるステップ、を有する。
別の実施形態では、不明瞭度差スコアの生成は:
−酢酸処理後画像の移行帯内の主要な不明瞭度変化を有する画像ピクセルを識別するステップ;
−前記画像ピクセルを前記酢酸処理前画像の対応するピクセルにマッピングするステップ;
−次式を用いて前記不明瞭度差スコアを求めるステップ;
Figure 0006231885
を有する。
別の実施形態では、前記方法は、人間のパピローマウイルスについてのPAPテスト及び/又は分子テストを行うステップ、を更に有する。
別の態様では、本発明は、本発明の実施形態による方法を実行するための本発明の実施形態によるシステムを提供する。
一態様では、本発明は、頸部を検査する医療機器を提供する。前記医療機器は、頸部画像を取得する光学検査システムを有する。本願明細書で用いられる頸部画像は、頸部を記述する画像を含む。前記医療機器は、前記医療機器を制御するプロセッサを更に有する。前記医療機器は、前記プロセッサによる実行のための機械実行命令を含むメモリを更に有する。前記命令の実行は、前記プロセッサに、さらに、前記光学検査システムを用いて前記頸部画像を取得させる。前記命令の実行は、プロセッサに、さらに、デジタルフィルタを用いて関心点位置セットを計算させる。幾つかの実施形態では、前記デジタルフィルタは、Harris Corner Detectorである。
前記命令の実行は、プロセッサに、さらに、前記関心点位置セット及び形態フィルタを用いてフィルタリングされた関心点位置セットを計算させる。前記形態フィルタは、関心点セットの光学特性を用いて、どの関心点がフィルタリングされるべきかを決定する。例えば、赤点マークは、背景に対して暗く、点のような特性を有する。
前記命令の実行は、前記プロセッサに、さらに、前記フィルタリングされた関心点位置セット及び近隣に基づくフィルタを用いて削減された関心点位置セットを計算させる。標準的に、赤点マークは、群をなして一緒に生じる。赤点マークの除外、又は他の赤点マークから離れているフィルタリングされた関心点は、偽陽性を排除するのに役立つ。
別の実施形態では、前記命令の実行は、さらに、訓練された分類モジュール及び前記削減された関心点位置セットを用いて、分類された関心点位置セットを計算させる。訓練されたパターン検出ソフトウェアモジュールは、赤点マークが既存の又は予め知られている赤点マークと類似しているかどうかを検出又は決定するために用いられ得る。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、第2の近隣に基づくフィルタ及び前記分類された関心点位置セットを用いて赤点ポイント位置セットを計算させる。前記第2の近隣に基づくフィルタは、赤点マークの集団を検査し、それらを用いて偽陽性の除去を助ける。前記命令の実行は、前記プロセッサに、さらに、赤点ポイント位置を用いて赤点マーク領域を計算させる。
別の実施形態では、前記訓練された分類モジュールは、ランダムツリー分類モジュールである。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記第1の関心点位置セットを計算する前に、前処理フィルタで頸部画像内の除外位置セットを生成させる。前記デジタルフィルタは、前記除外位置セットを用いて前記関心点セットを生成する。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記光学検査システムを用いて第2の頸部画像を取得させる。前記命令の実行は、前記プロセッサに、さらに、前記デジタルフィルタを用いて第2の関心点位置セットを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記第2の関心点位置セット及び前記形態フィルタを用いて第2のフィルタリングされた関心点位置セットを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記第2のフィルタリングされた関心点位置セット及び前記近隣に基づくフィルタを用いて第2の削減された関心点位置セットを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記訓練された分類モジュール及び前記第2の削減された関心点位置セットを用いて第2の分類された関心点位置セットを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記第2の近隣に基づくフィルタ及び前記第2の分類された関心点位置セットを用いて第2の赤点位置セットを計算させる。赤点マーク領域は、赤点ポイント位置及び第2の赤点ポイント位置を用いる。
別の実施形態では、前記第1の頸部画像は、第1の酢酸処理前画像である。
別の実施形態では、前記第1の頸部画像は、第1の緑色フィルタ画像である。
別の実施形態では、前記第1の頸部画像は、第1の酢酸処理後画像である。前記第2の頸部画像は、第2の酢酸処理前画像である。
別の実施形態では、前記第2の頸部画像は、第2の酢酸処理前画像である。
別の実施形態では、前記第2の頸部画像は、第2の緑色フィルタ画像である。
別の実施形態では、前記第2の頸部画像は、第2の酢酸処理後画像である。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、画像位置合わせモジュールを用いて前記第1の画像及び前記第2の画像を位置合わせさせる。画像位置合わせでは、前記第1の画像内の特徴は、前記第2の画像内で識別される。
別の実施形態では、前記命令の実行は、前記プロセッサに、複数の画像フレームを有するビデオデータを取得することにより、前記第1の頸部画像及び前記第2の頸部画像を取得させる。前記命令の実行は、前記プロセッサに、複数の画像フレームから前記第1の頸部画像及び前記第2の頸部画像を選択させる。前記命令の実行は、前記プロセッサに、さらに、複数の画像フレームを有する前記ビデオデータを受信させる。前記命令の実行は、前記プロセッサに、さらに、前記複数の画像フレームから選択された連続画像フレームの各対の間の移行モデルを決定させる。前記命令の実行は、前記プロセッサに、さらに、連続画像フレームの各対の間の移行モデルから累積的移行モデルを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記累積的移行モデルを用いて、前記複数の画像フレームの各々を位置合わせさせる。前記命令の実行は、前記プロセッサに、さらに、前記累積的移行モデルを用いて、前記第1の頸部画像及び前記第2の頸部画像の位置合わせを提供させる。基本的に、前記ビデオデータは、多くの異なる画像フレームを有する。移行モデルは、隣接する画像フレームの各々の間の変化を計算するために用いられる。次に、累積的移行モデルは、前記第1の頸部画像と前記第2の頸部画像との間の位置合わせを計算するために用いられる。これは、前記第1の頸部画像と前記第2の頸部画像との間のより正確な位置合わせを提供するという利点を有し得る。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、連続画像フレームの少なくとも1つの対の間の移行モデルの決定の失敗を検出させる。失敗は、例えば、連続画像フレームの対の間の移行モデルを決定する能力であっても良い。前記命令の実行は、前記プロセッサに、さらに、前記失敗の前の前記ビデオデータから選択された第1の画像フレームから第1の画像のセグメント化を計算させる。前記命令の実行は、前記プロセッサに、さらに、前記失敗の後の前記ビデオデータから選択された第2の画像フレームから第2の画像のセグメント化を計算させる。両方の場合において前記画像のセグメント化は、標準的な画像セグメント化ソフトウェアモジュールを用いて計算されても良い。例えば、画像セグメント化モジュールは、画像内の頸部の特定の鳥類学的特徴(ornithological features)を認識するための専用コードを有しても良い。画像セグメント化モジュールは、可変モデル又は他のモデル化手段のようなものを用いて画像セグメント化を実行しても良い。
前記命令の実行は、前記プロセッサに、さらに、前記第1の画像フレームと前記第2の画像フレームとの間の第2の移行を決定させる。前記命令の実行は、前記プロセッサに、さらに、前記第2の移行を用いて、前記累積的移行モデルを修正させる。基本的に、前記第1及び第2の画像セグメント化は、前記第2の画像フレームを前記第1の画像フレームに位置合わせする方法を提供する。したがって、画像セグメントは、前記第1の画像フレームと前記第2の画像フレームとの間の移行を計算するために用いられても良い。次に、これは、前記累積的移行モデルを修復又は修正するためのブリッジとして用いられても良い。
幾つかの実施形態では、前記第2の移行モデルは、隣接フレーム間の移行モデルが決定されるのと同じ方法で決定される。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、連続画像フレームの少なくとも1つの対の間の移行の決定の失敗を検出させる。前記命令の実行は、前記プロセッサに、さらに、前記失敗の前の前記ビデオデータをから第1の画像を選択させる。前記命令の実行は、前記プロセッサに、さらに、前記失敗の後の前記ビデオデータをから第2の画像フレームを選択させる。前記命令の実行は、前記プロセッサに、さらに、前記第1の画像と前記第2の画像との間の第2の移行を決定させる。前記命令の実行は、前記プロセッサに、さらに、前記第2の移行を用いて、前記累積的移行モデルを修正させる。幾つかの実施形態では、前記第2の移行は、連続画像フレームの対の間の移行モデルが決定されるのと同じ方法で実行され得る。
別の実施形態では、前記第1の頸部画像は、造影剤前及び/又は刺激剤前画像である。前記第2の頸部画像は、造影剤後及び/又は刺激剤後画像である。前記命令の実行は、前記プロセッサに、さらに、画像内の基本的解剖学的オブジェクトを識別させる。例えば、基本的解剖学的オブジェクトは、Os、柱状領域、及び移行帯であっても良いが、これらに限定されない。前記命令の実行は、前記プロセッサに、さらに、不明瞭度差スコアを生成させる。前記プロセッサのこれらのステップは、例えば、患者の頸部の光学的検査の方法を実行するために用いられても良い。方法は、少なくとも1回、刺激剤及び/又は造影剤を頸部に適用するステップを有しても良い。方法は、刺激剤の各適用の前及び後に、頸部の拡大画像を取得するステップを更に有しても良い。方法は、画像内の基本的解剖学的オブジェクト、つまりOs、柱状領域及び移行帯を識別するステップを更に有しても良い。方法は、不明瞭度差スコアを生成するステップを更に有しても良い。
別の実施形態では、前記第2の頸部画像は、前記第1の頸部画像内の少なくとも部分的に拡大された領域を示す拡大画像である。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、ディスプレイに、前記第1の頸部画像に重ね合わされた赤点マーク領域を表示させる。
別の態様では、本発明は、頸部を検査する医療機器を制御するプロセッサによる実行のための機械実行命令を有するコンピュータプログラムを提供する。前記医療機器は、頸部画像を取得する光学検査システムを有する。前記命令の実行は、前記プロセッサに、さらに、前記光学検査システムを用いて前記頸部画像を取得させる。前記命令の実行は、プロセッサに、さらに、デジタルフィルタを用いて関心点位置セットを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記関心点位置セット及び形態フィルタを用いてフィルタリングされた関心点位置セットを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記フィルタリングされた関心点位置セット及び近隣に基づくフィルタを用いて削減された関心点セットを計算させる。前記命令の実行は、前記プロセッサに、さらに、訓練された分類モジュール及び前記削減された関心点セットを用いて分類された関心点位置セットを計算させる。
前記命令の実行は、前記プロセッサに、さらに、第2の近隣に基づくフィルタ及び前記分類された関心点位置セットを用いて赤点位置セットを計算させる。前記命令の実行は、前記プロセッサに、さらに、赤点ポイント位置を用いて赤点マーク領域を計算させる。
別の態様では、本発明は、ビデオ位置合わせ方法を提供し、当該方法は、複数の画像フレームを有するビデオデータを受信するステップを有する。方法は、前記複数の画像フレームから選択された連続画像フレームの各対の間の移行を決定するステップを更に有する。方法は、連続画像フレームの各対の間の移行から累積的移行モデルを計算するステップを更に有する。方法は、累積変換を用いて複数の画像フレームの各々を位置合わせするステップを更に有する。本実施形態は、ビデオデータ内のフレームを互いに位置合わせする効率的な方法を提供するので、有益であり得る。
別の実施形態では、移行を決定するためにLucas-Kanade追跡アルゴリズムが用いられる。
別の実施形態では、移行は、SIFT特徴を追跡することにより決定される。
別の実施形態では、移行は、特徴の一致を引き出すための同時ローカライゼーション及びマッピングアルゴリズムにより決定される。
別の実施形態では、方法は、連続画像フレームの少なくとも1つの対の間の移行の決定の失敗を検出するステップを更に有する。方法は、前記失敗の前の前記ビデオデータから選択された第1の画像フレームから第1の画像のセグメント化を計算するステップを更に有する。方法は、前記失敗の後の前記ビデオデータから選択された第2の画像フレームから第2の画像のセグメント化を計算するステップを更に有する。方法、前記第1の画像フレームと前記第2の画像フレームとの間の第2の移行を決定するステップを更に有する。方法は、前記第2の移行を用いて前記累積的移行を修正するステップを更に有する
幾つかの実施形態では、前記第2の移行の決定は、連続画像フレームの各対の間の移行の決定と同じ方法で実行され得る。
別の実施形態では、方法は、連続画像フレームの少なくとも1つの対の間の移行の決定の失敗を検出するステップを更に有する。方法は、前記累積的移行モデルから低信頼性の決定された移行を除去するステップを更に有する
別の実施形態では、方法は、連続画像フレームの少なくとも1つの対の間の移行の決定の失敗を検出するステップを更に有する。方法は、前記失敗の前の前記ビデオデータから選択された第1の画像フレームから第1の画像のセグメント化を計算するステップを更に有する。方法は、前記失敗の後の前記ビデオデータから選択された第2の画像フレームから第2の画像のセグメント化を計算するステップを更に有する。前記第1及び第2の画像セグメント化は、第3の画像セグメント化技術を用いて決定されても良い。方法は、前記第1の画像セグメント化及び前記第2の画像セグメント化を用いて前記累積的移行モデルを修正するステップを更に有する
別の実施形態では、方法は、連続画像フレームの少なくとも1つの対の間の移行の決定の失敗を検出するステップを更に有する。方法は、前記失敗の前の前記ビデオデータから第1の画像フレームを選択するステップを更に有する。方法は、前記失敗の後の前記ビデオデータから第2の画像フレームを選択するステップを更に有する。
方法、前記第1の画像と前記第2の画像との間の第2の移行を決定するステップを更に有する。方法は、前記第2の移行を用いて前記累積的移行を修正するステップを更に有する
幾つかの実施形態では、前記第2の移行は、連続画像の各対の間の移行を決定する移行と同じ方法で実行され得る。
別の実施形態では、前記第1の画像セグメント化は、第1の輪郭である。前記第2の画像セグメント化は、第2の輪郭である。前記命令の実行は、前記プロセッサに、さらに、前記第1の輪郭と前記第2の輪郭との間の移行を決定させる。前記累積的移行は、前記移行を用いて修正される。
別の実施形態では、前記移行は、輪郭に基づく照合を用いて決定される。
別の実施形態では、第1の画像セグメント化及び第2の画像セグメント化は、関心領域内で実行される。
別の実施形態では、方法は、前記関心領域を受信するステップを更に有する。これは、別のコンピュータシステムから又はユーザにより操作されているユーザインタフェースからの関心領域の受信であっても良い。方法は、ソフトウェアモジュールにより決定された関心領域を受信するステップを更に有しても良い。
別の実施形態では、関心領域はオペレータから受信される。
別の実施形態では、移行は、特徴識別アルゴリズムを用いて連続画像フレームの各対の間の特徴の一致を特定することにより決定される。移行は、さらに、前記特徴の一致を用いて移行を計算することにより決定される。
別の実施形態では、前記特徴識別アルゴリズムは、ラッピング及び変換を用いて隣接フレーム間の同じ特徴をマッピングするよう動作する。
別の態様では、本発明は、前述のビデオ位置合わせ方法のうちの如何なる1つを実行するコンピュータプログラムを提供する。
別の態様では、本発明は、頸部画像を取得する光学検査システムを有する医療機器を提供する。前記医療機器は、前記医療機器を制御するプロセッサを更に有する。前記医療機器は、前記プロセッサによる実行のための機械実行命令を含むメモリを更に有する。前記命令の実行は、前記プロセッサに、さらに、生理食塩水処理された頸部の画像を取得させる。前記生理食塩水処理された頸部の画像は、頸部が生理食塩水溶液で洗浄された後に取得された頸部画像である。前記命令の実行は、前記プロセッサに、さらに、前記光学検査システムを用いて複数の酢酸により白色化した頸部の画像を取得させる。前記複数の酢酸により白色化した頸部の画像は、頸部が酢酸溶液で洗浄された後に取得された頸部画像である。前記複数の酢酸により白色化した頸部の画像は、異なる時間に取得され、酢酸による白色化の動態が検査され又は決定されるようにしても良い。前記命令の実行は、前記プロセッサに、さらに、前記光学検査システムを用いてヨウ素処理された頸部の画像を取得させる。前記ヨウ素処理された頸部の画像は、ヨウ素浴液又は溶液が適用された後に取得された頸部画像である。
前記命令の実行は、前記プロセッサに、さらに、前記酢酸により白色化した頸部の画像を用いて酢酸による白色化の動態スコアを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記酢酸により白色化した頸部の画像を用いて酢酸による白色化のマージンスコアを計算させる。前記命令の実行は、前記プロセッサに、さらに、前記酢酸により白色化した頸部の画像及び前記生理食塩水処理された頸部の画像を用いて血管パターンスコアを計算させる。血管パターンは、酢酸により白色化した頸部の画像及び生理食塩水処理された頸部の画像の両者に注記される。生理食塩水処理された頸部の画像内に存在していた血管パターンが酢酸により白色化した頸部の画像内では消えている場合、これは癌性腫瘍の存在を示し得る。
前記命令の実行は、前記プロセッサに、さらに、前記ヨウ素処理された頸部の画像を用いてヨウ素染色スコアを計算させる。前記ヨウ素染色スコアは、頸部内の組織によるヨウ素吸収の位置により決定されるスコアである。前記命令の実行は、前記プロセッサに、さらに、酢酸による白色化の動態スコア、酢酸による白色化のマージンスコア、血管パターンスコア、及びヨウ素染色スコアを加算することにより膣鏡診インデックススコアを決定させる。本実施形態は、膣鏡診インデックススコアの決定が診断を行うための医師の訓練又は子宮頸ガンを診断する際の医師の支援において助けとなるので、有利であり得る。
別の実施形態では、前記医療機器は、ディスプレイ及びユーザインタフェースを更に有する。ディスプレイは、情報又はグラフィックを表示するよう構成されるディスプレイであっても良い。前記ユーザインタフェースは、ユーザによるデータの入力又は応答のために用いられ得る如何なる装置も包含する。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記酢酸により白色化した頸部の画像のうちの少なくとも1つを表示させる。前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記酢酸による白色化の動態スコアを表示させる。前記命令の実行は、前記プロセッサに、さらに、前記ユーザインタフェースから、修正された酢酸による白色化の動態スコアを受信させる。前記膣鏡診インデックススコアは、前記修正された酢酸による白色化の動態スコアを用いて少なくとも部分的に決定される。本実施形態は、医師又は医療提供者が前記酢酸により白色化した頸部の画像のうちの少なくとも1つ及び前記酢酸による白色化の動態スコアを見ることを望み得るので、有利であり得る。次に、医師又は医療提供者は、前記酢酸による白色化の動態スコアに同意し又は同意しなくても良い。これは、医師の訓練において有用であり得る。これは、医療機器の動作及び機能の訓練においても有用であり得る。例えば、前記酢酸による白色化の動態スコアは、時間に依存する酢酸により白色化した頸部の画像の不明瞭度インデックスを用いて決定されても良い。前記修正された酢酸による白色化の動態スコアを受信するステップは、酢酸による白色化の動態過程にスコアを付ける精度を向上させるために用いられ得る実験データを提供しても良い。
別の態様では、前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記酢酸により白色化した頸部の画像のうちの少なくとも1つを表示させる。前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記酢酸による白色化のマージンスコアを表示させる。前記命令の実行は、前記プロセッサに、さらに、前記ユーザインタフェースから、修正された酢酸による白色化のマージンスコアを受信させる。前記膣鏡診インデックススコアは、前記修正された酢酸による白色化のマージンスコアを用いて少なくとも部分的に決定される。本実施形態は、再び、医師又は他の医療提供者に訓練機会を提供し得るので、並びに前記修正された酢酸による白色化のマージンスコアが前記酢酸により白色化した頸部の画像のより正確なスコアリング処理を提供し得る実験データを提供するために用いられ得るので、有利であり得る。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記酢酸により白色化した頸部の画像のうちの少なくとも1つを表示させる。前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記血管パターンスコアを表示させる。前記命令の実行は、前記プロセッサに、さらに、前記ユーザインタフェースから、修正された血管パターンスコアを受信させる。前記膣鏡診インデックススコアは、前記修正された血管パターンスコアを用いて少なくとも部分的に決定される。再び、本実施形態は、医師又は医療提供者を訓練するために有用であり、前記修正された血管パターンスコアの受信は、血管パターンをスコアリングするアルゴリズムを向上させるために有用であり得る。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記酢酸により白色化した頸部の画像のうちの少なくとも1つを表示させる。前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記ヨウ素染色スコアを表示させる。前記命令の実行は、前記プロセッサに、さらに、前記ユーザインタフェースから、修正されたヨウ素染色スコアを受信させる。前記膣鏡診インデックススコアは、前記修正されたヨウ素染色スコアを用いて少なくとも部分的に決定される。本実施形態は、医師及び/又は医療提供者を訓練するのを助ける方法を提供し得るので、有利であり得る。また、前記修正されたヨウ素染色スコアの受信は、ヨウ素染色のより正確なスコアリングを提供し得る。前記ヨウ素染色スコアは、頸部の異なる領域をヨウ素吸収陽性領域及びヨウ素吸収陰性領域に分けることから得られても良い。前記修正されたヨウ素染色スコアは、ヨウ素吸収した領域の正しい識別、及びそれら領域の移行帯に対する位置を修正するのを助けるために用いられても良い。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記酢酸により白色化した頸部の画像の不明瞭度インデックススコアを決定させる。前記酢酸による白色化の動態スコアは、前記不明瞭度インデックススコアを用いて少なくとも部分的に計算される。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記酢酸により白色化した頸部の画像の時間に依存する不明瞭度インデックスを計算させる。不明瞭度インデックススコアは、前記時間に依存する不明瞭度インデックスを所定の不明瞭度インデックス範囲にビニングすることにより、前記時間に依存する不明瞭度インデックスから決定される。基本的に、各酢酸により白色化した頸部の画像の不明瞭度インデックスが決定されても良い。これは、時間に依存する不明瞭度インデックスとしてプロットされ又は格納される。次に、所定の不明瞭度インデックス範囲又は基準のセットを用いて、前記時間に依存する不明瞭度インデックスは、幾つかの異なるスコアのうちの1つにビニングされても良い。このビニングは、実験的に決定された基準を用いても良い。例えば、医師は、酢酸により白色化した頸部の画像のセットを用いて診断を行い得る。次に、酢酸により白色化した頸部の画像の膨大な数のセットに基づく医師の診断を用いて、特定の不明瞭度インデックススコアの正しいビニングが決定され得る。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記酢酸により白色化した頸部の画像のうちの少なくとも1つを選択させる。前記命令の実行は、前記プロセッサに、さらに、前記酢酸により白色化した頸部の画像のうちの少なくとも1つの中の移行帯を識別させる。前記命令の実行は、前記プロセッサに、さらに、前記酢酸により白色化した頸部の画像のうちの少なくとも1つの中の酢酸による白色化のマージンを識別させる。前記酢酸による白色化のマージンスコアは、前記移行帯及び前記酢酸による白色化のマージンを用いて少なくとも部分的に計算される。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、酢酸による白色化の境界の鮮明度を決定するために少なくとも1つの酢酸により白色化した頸部の画像を閾値化させる。前記酢酸による白色化のマージンスコアは、前記酢酸による白色化の境界の鮮明度を用いて少なくとも部分的に計算される。
別の実施形態では、前記酢酸による白色化のマージンが前記移行帯の外側である場合、前記酢酸による白色化のマージンスコアは、第1の値を割り当てられる。前記酢酸による白色化のマージンが前記移行帯の内側である場合、前記酢酸による白色化のマージンスコアは、前記酢酸による白色化の境界の鮮明度を所定の閾値と比較することにより、第2の値又は第3の値を割り当てられる。本実施形態は、実験的に用いられるデータが酢酸による白色化のマージンスコアを正確に決定するために用いられ得るので、有利であり得る。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、生理食塩水処理された頸部の画像内のモザイク、赤点マーク領域、及び/又は特殊な血管を識別させる。前記命令の実行は、前記プロセッサに、さらに、複数の酢酸処理された頸部の画像から選択された1つの酢酸処理された頸部の画像内の酢酸処理後のモザイク、酢酸処理後の赤点マーク領域、及び/又は酢酸処理後の特殊な血管を識別させる。酢酸処理後のモザイク、酢酸処理後の赤点マーク領域、及び酢酸処理後の特殊な血管は、単に酢酸浴液又は洗浄が頸部に適用された後に識別可能なモザイク、赤点マーク領域、及び特殊な血管である。前記血管パターンスコアは、モザイクと酢酸処理後のモザイク、赤点マーク領域と酢酸処理後の赤点マーク領域、特殊な血管と酢酸処理後の特殊な血管、及びこれらの組合せ、のうちのいずれか1つの間の差を用いて計算される。これは、これらの構造が酢酸が適用された後に消失する場合、頸部内の癌の存在を示し得るので、有用であり得る。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記ヨウ素処理された頸部の画像内の移行帯を識別させる。前記命令の実行は、前記プロセッサに、さらに、前記ヨウ素処理された頸部の画像のカラーヒストグラムを生成させる。前記命令の実行は、前記プロセッサに、さらに、前記カラーヒストグラムを用いて、前記ヨウ素処理された頸部の画像をヨウ素陽性領域及びヨウ素陰性領域に閾値化させる。ヨウ素染色スコアは、移行帯内のヨウ素陽性領域を識別することにより少なくとも部分的に計算される。
別の実施形態では、前記ヨウ素染色スコアは、移行帯がヨウ素陽性である場合に第1のヨウ素値を割り当てられる。前記ヨウ素染色スコアは、移行帯がヨウ素陽性及びヨウ素陰性である場合に第2のヨウ素値を割り当てられる。前記ヨウ素染色スコアは、酢酸により白色化した領域がヨウ素陰性である場合に第3の値を割り当てられる。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、前記ユーザインタフェースを用いて注釈を受信させる。前記命令の実行は、前記プロセッサに、さらに、前記ディスプレイに、前記注釈を表示させる。これは、医師及び医療提供者の訓練において特に有用であり得る。これは、医師に特定の患者の健康に関して情報を提供する際にも有用であり得る。
別の実施形態では、前記命令の実行は、前記プロセッサに、さらに、患者記録に前記注釈を格納させる。幾つかの実施形態では、前記注釈は、画像と共に格納されても良い。これは、熟練した医師又は医療提供者が異なる医師又は医療提供者が使用し及び患者を診断若しくは治療する際に役立ち得る患者記録に注釈又は所見を入力できるので、有用であり得る。
<定義>
本願明細書で用いられるように、用語「光学拡大手段」は、光学画像を拡大可能な装置又はアルゴリズム、例えば拡大レンズ、顕微鏡、又は拡大がデジタル的に若しくは電子的に実行されるデジタル画像処理システムに関する。
本願明細書で用いられるように、用語「膣鏡」は、子宮頸ガンの診断を助けるために子宮頸部の拡大視覚的検査に用いられる強力な光源を備えた低倍率、立体的、両眼視野顕微鏡である。幾つかの例では、膣鏡は、立体及び双眼視野顕微鏡であっても良い。他の例では、膣鏡は単眼顕微鏡である。
用語「Os」は、子宮腔の内部の狭い部分である頸部の外口に関連する。これは、頂点と基底との間の中ほどにある子宮表面に観察される狭部として知られる僅かな狭窄に対応する。
用語「円柱領域」は、頸部の上皮領域に関連する。子宮頸膣部は、非角化層を成す扁平上皮を有する。子宮頸部(子宮内でより基部に近い)は、単純な円柱上皮、つまり「円柱領域」を有する。
用語「移行帯」は、子宮頸部と子宮頸膣部の境界に隣接する領域に関連する。移行帯は、普通の生活の間に何回も化生を経験する。しかしながら、この化生の可能性は、この領域の癌の危険性を増大させる。移行帯は、子宮頸癌が最も起こりやすい。
用語「一時的移行帯」は、ヨウ素溶液が染色した後に条件付きで検出される移行帯に関連する。
用語「実際の移行帯」は、酢酸処理後の画像に一時的移行帯をマッピングした後に決定される移行帯に関連する。実際の移行帯は、腫瘍又は癌性過程の危険性が高いため「癌性領域」とも呼ばれる場合が多い。
用語「調剤手段」は、時間、容量及び位置に関して制御される方法で、少なくとも1つの刺激及び/又は造影剤を所与の対象に適用するのに有用な装置に関連する。望ましくは、このような調剤手段は、注射器、ピペット、等である。
用語「フレーム取り込み器」は、アナログビデオフレーム画像化装置の出力を変換可能な装置、又は更なる画像処理のためにアナログスキャンをデジタル画像に変換するコンバータを意味する。
用語「キーフレーム抽出手段」は、少なくとも1つの酢酸処理前画像、酢酸処理後画像及びヨウ素溶液処理後画像を自動的に識別できる装置又はアルゴリズムに関連する。
用語「グレア除去手段」は、例えばデジタル画像内のグレアを除去可能な装置又はアルゴリズムに関連する。
用語「画像処理手段」(又は画像プロセッサ)は、デジタル画像データを入力、計算及び出力可能なデジタル画像処理装置又はソフトウェアに関連する。
用語「不明瞭度変化検出手段」(又は不明瞭度変化検出器)は、例えば本願明細書に記載されるような少なくとも2つの対応する画像における不明瞭度の変化を検出可能なデジタル画像処理装置又はソフトウェアに関連する。
用語「オブジェクト検出手段」(又はオブジェクト検出器)は、デジタル画像内のオブジェクトを検出及び/又は識別可能なデジタル画像処理装置又はソフトウェアに関連する。
本願明細書で用いられる「コンピュータ可読記憶媒体」は、コンピューティング装置のプロセッサにより実行可能な命令を格納できる如何なる有形記憶媒体も含む。コンピュータ可読記憶媒体は、コンピュータ可読非一時的記憶媒体として表されても良い。コンピュータ可読記憶媒体は、有形コンピュータ可読媒体として表されても良い。幾つかの実施形態では、コンピュータ可読記憶媒体は、コンピューティング装置のプロセッサによりアクセス可能なデータを格納できても良い。コンピュータ可読記憶媒体の例は、フロッピディスク、穿孔テープ、穿孔カード、磁気ハードディスクドライブ、固体ハードディスク、フラッシュメモリ、USBサムドライブ、RAM(Random Access Memory)、ROM(Read Only Memory)、光ディスク、光磁気ディスク、プロセッサのレジスタファイルを含むが、これらに限定されない。光ディスクの例は、CD(Compact Disk)、DVD(Digital Versatile Disk)、例えばCD−ROM、CD−RW、CD−R、DVD−ROM、DVD−RW又はDVD−Rディスクを含む。コンピュータ可読記憶媒体は、コンピュータ装置によりネットワーク又は通信リンクを介してアクセス可能な種々の記録媒体も表す。例えば、データはモデムを介して、インターネットを介して、又はローカルエリアネットワークを介して読み出されても良い。コンピュータ可読記憶媒体への言及は、場合によっては複数のコンピュータ可読記憶媒体であると解釈されるべきである。1又は複数のプログラムの種々の実行可能コンポーネントは、異なる場所に格納されても良い。コンピュータ可読記憶媒体は、例えば、同じコンピュータシステム内の複数のコンピュータ可読記憶媒体であっても良い。コンピュータ可読記憶媒体は、例えば、複数のコンピュータシステム又はコンピューティング装置に渡り分散されたコンピュータ可読記憶媒体であっても良い。
「コンピュータメモリ」又は「メモリ」は、コンピュータ可読記憶媒体の一例である。コンピュータメモリは、プロセッサに直接アクセス可能な如何なるメモリであっても良い。コンピュータメモリの例は、RAMメモリ、レジスタ、レジスタファイルを含むがこれらに限定されない。「コンピュータメモリ」又は「メモリ」への言及は、場合によっては複数のメモリであると解釈されるべきである。メモリは、例えば、同じコンピュータシステム内の複数のメモリであっても良い。メモリは、複数のコンピュータシステム又はコンピューティング装置に渡り分散された複数のメモリであっても良い。
「コンピュータ記憶装置」又は「記憶装置」は、コンピュータ可読記憶媒体の一例である。コンピュータ記憶装置は、如何なる不揮発性コンピュータ可読記憶媒体であっても良い。コンピュータ記憶装置の例は、ハードディスクドライブ、USBサムドライブ、フロッピドライブ、スマートカード、DVD、CD−ROM及び固体ハードディスクドライブを含むがこれらに限定されない。幾つかの実施形態では、コンピュータ記憶装置は、コンピュータメモリを含んでも良い。或いは逆も同様である。「コンピュータ記憶装置」又は「記憶装置」への言及は、場合によっては複数の記憶装置であると解釈されるべきである。記憶装置は、例えば、同じコンピュータシステム又はコンピューティング装置内の複数の記憶装置であっても良い。記憶装置は、複数のコンピュータシステム又はコンピューティング装置に渡り分散された複数の記憶装置であっても良い。
本願明細書で用いられるように「プロセッサ」は、プログラム又は機械実行命令を実行可能な電子部品を包含する。「プロセッサ」を有するコンピューティング装置への言及は、場合によっては1より多いプロセッサ又はプロセッサコアを含むとして解釈されるべきである。プロセッサは、例えばマルチコアプロセッサであっても良い。プロセッサは、単一のコンピュータシステム内の又は複数のコンピュータシステムの間に分散されたプロセッサの集合も表し得る。用語コンピューティング装置は、場合によっては、それぞれ1又は複数のプロセッサを有するコンピューティング装置の集合体又はネットワークを表すとして解釈されるべきである。多くのプログラムは、同一のコンピューティング装置内にある又は複数のコンピューティング装置に渡って分散され得る複数のプロセッサにより実行される命令を有する。
本願明細書で用いられる「ユーザインタフェース」は、ユーザ又はオペレータにコンピュータ又はコンピュータシステムとの相互作用を可能にするインタフェースを含む。「ユーザインタフェース」は、「ヒューマンインタフェース装置」として表されても良い。ユーザインタフェースは、情報又はデータをオペレータに提供し及び/又は情報又はデータをオペレータから受信しても良い。ユーザインタフェースは、オペレータからの入力をコンピュータにより受信させ、ユーザにコンピュータからの出力を提供しても良い。言い換えると、ユーザインタフェースは、オペレータにコンピュータを制御又は操作させても良い。また、インタフェースは、コンピュータにオペレータの制御又は操作の効果を示させても良い。ディスプレイ又はグラフィカルユーザインタフェースへのデータ又は情報の表示は、オペレータへのデータの提供の一例である。キーボード、マウス、トラックボール、タッチパッド、ポインティングスティック、グラフィックタブレット、ジョイスティック、ゲームパッド、ウェブカメラ、ヘッドセット、ギアスティック、ステアリングホイール、ペダル、有線グローブ、ダンスパッド、リモコン、1又は複数のスイッチ、1又は複数のボタン、加速度形を通じたデータの受信は、全て、オペレータからの情報又はデータの受信を可能にするユーザインタフェースコンポーネントの例である。
本願明細書で用いられる「ハードウェアインタフェース」は、コンピュータシステムのプロセッサに外部コンピューティング装置及び/又は機器と相互作用させ及び/又は制御させるインタフェースを含む。ハードウェアインタフェースは、プロセッサに、制御信号又は命令を外部コンピューティング装置及び/又は機器へ送信させても良い。ハードウェアインタフェースは、プロセッサに、外部コンピューティング装置及び/又は機器とデータを交換させても良い。ハードウェアインタフェースの例は、ユニバーサルシリアルバス、IEEE1394ポート、パラレルポート、IEEE1284ポート、シリアルポート、RS232ポート、IEEE488ポート、Bluetooth(登録商標)コネクション、無線ローカルエリアネットワークコネクション、TCP/IPコネクション、Ethernet(登録商標)コネクション、制御電圧インタフェース、MIDIインタフェース、アナログ入力インタフェース、及びデジタル入力インタフェースを含むが、これらに限定されない。
本願明細書で用いられる「ディスプレイ」又は「ディスプレイ装置」は、画像又はデータを表示するために適応される出力装置又はユーザインタフェースを含む。ディスプレイは、視覚的、聴覚的、及び/又は触覚的データを出力しても良い。ディスプレイの例は、コンピュータモニタ、テレビジョンスクリーン、タッチスクリーン、触覚電子ディスプレイ、点字スクリーン、陰極線管(CRT)、蓄積管、Bistableディスプレイ、電子ペーパ、ベクトルディスプレイ、平面パネルディスプレイ、真空蛍光ディスプレイ(VF)、発光ダイオード(LED)ディスプレイ、電子発光ディスプレイ(ELD)、プラズマディスプレイパネル(PDP)、液晶ディスプレイ(LCD)、有機発光ダイオードディスプレイ(OLED)、プロジェクタ、及びヘッドマウントディスプレイを含むが、これらに限定されない。
本発明の上述の及び他の態様は、本願明細書に記載される実施形態から明らかであり、それらの実施形態を参照して教示される。以下の図面がある。
Philips Goldway膣鏡を示す。 本発明による方法のフロー図を示す。 膣鏡画像を自動化する方法のフロー図を示す。 酢酸が頸部に適用される過程を示す膣鏡画像を示す。 生膣鏡画像を示す。 グレアピクセルの除去された同じ画像を示す。 本発明による方法により識別された膣鏡画像内のオブジェクト、つまり頸部(1)、移行帯(2)、円柱上皮(3)及びOs(4)を示す。 酢酸が適用された後に撮られた膣鏡画像を示す。 一緒に識別されたOs及び円柱上皮領域を示す。 別個のOs及び円柱状領域を示す。 小さなバラバラなクラスタを除去した後にマークを外されたOs及び円柱上皮を示す。 ヨウ素溶液処理後画像内で識別された一時的移行帯を示す(黒線)。 酢酸処理後画像にマッピングされた一時的移行帯を示す。 実際の移行帯を示す。 酢酸処理後画像内の移行帯を示す。 移行帯の主要な及び軽微な不明瞭度変化へのクラスタ化を示す。 主要な不明瞭度変化を有する酢酸処理後の移行帯内のピクセルを示す。 酢酸処理前画像内の対応するピクセルを示す。 酢酸処理前画像を示す。 1分後の酢酸処理後画像を示す。 不明瞭度差スコア=18.46を有する不明瞭画像を示す。 酢酸処理前画像を示す。 3分後の酢酸処理後画像を示す。 不明瞭度差スコア=43.28の不明瞭度差を有する不明瞭画像を示す。 本発明の一実施形態による方法を示すフロー図である。 本発明の一実施形態による医療機器を示す。 頸部画像を示す。 本発明の一実施形態に含まれる幾つかのソフトウェアモジュールの関係を示す。 本発明の一実施形態による方法を示すフロー図である。 訓練された分類モジュールとして用いられるRT又はランダムツリーをどのように構築するかの例を示す。 ランダムツリー分類を構築する特徴の計算を示すフロー図を示す。 ツリー数に対する赤点斑サンプルテストセットエラーのグラフを示す。 頸部画像を示す。 前処理後の画像1700を示す。 画像1800内に位置する検出された関心点を示す画像1700を示す。 形態学的フィルタリング後の画像1900を示す。 近隣フィルタリング後の画像2000を示す。 RT分類器を用いた後の画像2100を示す。 第2の近隣フィルタリング後の画像2200を示す。 頸部内部領域で見付かった赤点斑を示す。 赤点斑の強調表示された頸部の緑色フィルタ画像を示す。 僅かな赤点斑を有する頸部の酢酸処理後画像を示す。 低強度の赤点斑を有する頸部のズーム画像を示す。 炎症を有し赤点斑の存在しない頸部画像を示す。 頸部領域内に存在する赤点斑に似た多くの白い腺を有する酢酸処理後画像を示す。 本発明の更なる実施形態による方法を示すフロー図である。 本発明の一実施形態による医療機器の一例を示す。 自動膣鏡の一般的ワークフローをすフロー図である。 特徴に基づく追跡の一例を示す。 本発明の更なる実施形態による方法を示すフロー図である。 本発明の更なる実施形態による医療機器を示す。 本発明の更なる実施形態による医療機器の機能構成要素を示すブロック図である。 本発明の更なる実施形態による方法を示すブロック図である。 酢酸により白色化した頸部の画像の一例を示す。 ヨウ素処理された頸部の画像の一例を示す。 2つのヒストグラムを示す。 ヨウ素処理された頸部の画像及び同じ頸部の酢酸処理された頸部の画像を示す。 一連の6枚の異なる頸部画像を示す。 酢酸処理前及び後画像内のOsの検出を説明する一連の3枚の頸部画像を示す。 本発明の一実施形態によるユーザインタフェースを示す。 一連の6枚の頸部画像を示す。 赤点斑の印の識別を説明するための酢酸により白色化した同じ頸部の画像の3つのバージョンを示す。 酢酸により白色化した同じ頸部の画像の3つのバージョンを示す。 同一の頸部の2枚の画像を示す。 本発明の一実施形態によるユーザインタフェースを示す。 コンジローマ様癌を発生した頸部の画像、辺縁明瞭な頸部画像、及びロールしたマージンの頸部画像を説明する3枚の酢酸による白色化の画像を示す。 不明瞭度指数の3つのサブクラスを説明する、3枚の酢酸により白色化した頸部の画像を示す。 時間に対する不明瞭度指数のグラフを示す。 図49に示したユーザインタフェースの異なる図を示す。 頸部画像の一例を示す。 モザイク領域の示された図54に示したものと同じ頸部の画像である。 図49に示したユーザインタフェースの異なる図を示す。 図49に示したユーザインタフェースの異なる図を示す。 図49に示したユーザインタフェースの異なる図を示す。 図49に示したユーザインタフェースの異なる図を示す。 図49に示したユーザインタフェースの異なる図を示す。 陽性のヨウ素吸収、部分的ヨウ素吸収、及び陰性のヨウ素吸収6106を説明するヨウ素処理された頸部の画像を示す。 Reid膣鏡指数に基づくスコアを説明する表を示す。
本発明による膣鏡(図1参照)は、キーフレーム抽出器、プリプロセッサ、オブジェクト検出器、及び不明瞭度変化検出器を有する。キーフレーム抽出器は、婦人科医に表示される膣鏡から来るビデオを入力として取り入れる。同じ光学倍率の頸部領域を含む画像(酢酸処理前、酢酸処理後、及びヨウ素溶液処理後)が抽出される(本願では、単語フレーム及び画像は、同義的に用いられる)。プリプロセッサでは、画像内の正反射により生じたグレアが除去される。これにより、良好なグレア対バックグランド比を提供するカラー画像から特徴画像が抽出される。特徴画像内の領域を含むグレアが検出され、該グレアにより影響を受ける全てのピクセルをカバーするために拡張される。次に、影響を受ける領域内のグレアは、基礎的な画像特徴の推定におけるフィリング(filling)により除去される。
次に、グレアの除去された画像は、オブジェクト検出器へ送信される。オブジェクト検出器は、画像を処理して、カラー及び強度情報を用いるセグメント化技術に基づき、Os、円柱上皮及び移行帯を識別する。
次に、この情報は、移行帯内の白色化度及び癌化の程度を推定するために、不明瞭度変化検出器により用いられる。図2及び3に、提案する方法のフロー図を示す。
キーフレーム抽出器は、膣鏡から出力される2Dビデオを入力として取り入れる。キーフレーム抽出器は、ショット境界を識別し次に各ショットから関連画像を抽出することにより、ビデオをショットに分ける。抽出した画像の種類は、同じ倍率を有する、酢酸処理前画像、酢酸処理後画像、及びヨウ素溶液処理後画像である。
<ショット境界識別器>
膣鏡診を行っている間、異なる拡大レベルで及び頸部への酢酸(図4A参照)若しくはヨウ素溶液のような異なる薬品の適用で頸部を診ることは、一般的なビデオ処理アプリケーションでは異なるショットとして考えられる。ショット/ビューは、時間及び空間で連続する動作を表す、膣鏡からキャプチャされた一連の相関画像として定められる。「ビュー境界」は、本願明細書では、膣鏡診を行っている間のあるビューから別のビューへ切り替わる点として定められる。汎用ビデオアプリケーションの環境における伝統的なショット境界検出アルゴリズムが、ショット境界を検出するために用いることができる。カラー特徴は、ショット検出のために用いられる。
<キーフレーム選択>
ショットが識別されると、キー画像が各ショットから自動的に選択される。キーフレームは、酢酸処理前、酢酸処理後、及びヨウ素溶液処理後のショットからである。ショット内の各フレーム又は画像は、頸部の色、テクスチャ、領域、等に基づく特徴セットと共に記述される。スコアαは、各フレームに割り当てられ、用いられる特徴セットの関数である。最大αを有するフレームは、ショット内のキーフレームとして選択される。
<プリプロセッサ>
プリプロセッサは、キーフレーム抽出器により選択されたキー画像を入力として取り入れる。頸部画像の品質は、グレア/グリント/正反射を含む多くの要因による。グレアは、影響を受けるピクセル内の色情報を消失させるので、画像分析アルゴリズムを信用できないものにしてしまう。したがって、膣鏡画像からグレアを除去する必要があり、これはプリプロセッサで行われる。グレア領域は、小さな、飽和したハイコントラスト領域として検出される。画像「I」はRGB色空間で開かれる。RGB色空間のG成分は、良好なグレア対バックグランド比を提供するので、特徴空間として用いられる。G成分により生成されるヒストグラムの極大が、識別され、これは飽和値を表す。グレアピクセルに対するマスクが生成され、画像「I」からグレアピクセルを除去するために画像「I」に適用される(図4C参照)。
<オブジェクト検出器>
オブジェクト検出器は、グレアピクセルがフィルタ除去されたキーフレーム画像を入力として取り入れる。オブジェクト検出器は、頸部(1)、Os(4)等、円柱上皮(3)、及び移行帯(2)の関連オブジェクトを識別することを目的とする(図4D参照)。
<Os及び円柱状領域検出>
Os及び円柱状領域は、以下のステップを用いて識別される。
−色に基づきピクセルを2つのクラスタにするピクセルのK平均クラスタリングを用いて酢酸処理後膣鏡画像をセグメント化する
−最小クラスタは、Os+円柱上皮領域としてラベル付けされる
−最小分散量子化を用いてOs及び円柱状領域を分ける
−Os及び円柱状領域の両方の中にある小さなバラバラのクラスタを繰り返し除去する。
図5に個々の画像分析処理を示す。
<移行帯検出>
酢酸処理後画像内の移行帯の検出は、2ステップのアプローチである。第1のステップでは、影響を受けた頸部ゾーンがヨウ素溶液処理で示される色変化に基づき移行帯を暫定的に検出するために、ヨウ素溶液処理後画像が処理される。キーフレーム抽出器から得られたヨウ素溶液処理後画像は、色に基づくK平均クラスタリングを用いて2個のクラスタにセグメント化される。2個のクラスタのうちの小さい方が選択される。このクラスタの凸包は、一時的移行帯として定められる。この次の第2のステップでは、一時的移行帯が酢酸処理前及び後画像にマッピングされ、次に、実際の移行帯を定めるために検出されたOs及び円柱状領域が減算される。酢酸処理前及び後画像は、移行帯を識別する前に位置合わせされ得る。図6に個々の画像分析処理を示す。
<不明瞭度変化検出器>
このモジュールは、酢酸処理前及び後画像内で識別された移行帯を入力として取り入れ、全ての酢酸処理前及び後画像について、酢酸処理前画像に対する不明瞭度差スコアを生成する。概して、酢酸処理後画像において、主要な不明瞭度変化を示す移行帯内のピクセルが識別され、それらは酢酸処理後画像内の対応するピクセルと比較される。不明瞭度差スコアを生成するステップは次の通りである。
−酢酸処理後画像内の移行帯のRGB値をLab色空間(L成分が明度/白色度の人間の知覚と良く一致する)に変換する
−(臨床的に実施された不透明白色と半透明白色を一致させるために)移行帯内のピクセルを2レベルの白色領域、つまり主要な不明瞭度変化及び軽微な不明瞭度変化にクラスタ化する
−軽微な不明瞭度変化を有するピクセルを除去する
−酢酸処理前画像内で主要な不明瞭度変化に対応するピクセルを識別する。
最後に、各酢酸処理後画像は、次式を用いて酢酸処理前画像に対する不明瞭度差スコアを与えられる。
Figure 0006231885
ここで、次の通りである。
I=酢酸処理前画像内の主要ピクセルを有する画像、
J=酢酸処理後画像内の主要ピクセルを有する画像、
N=主要な不明瞭度変化を有するピクセルの数
r=主要な不明瞭度変化を有するバイナリ画像、
(i,j)=画像I/J/rの空間領域のピクセル。
図7及び8に、個々の画像分析処理を示す。
図9は、本発明の一実施形態による方法を示すフロー図である。ステップ900で、頸部画像は、光学検査システムを用いて取得される。次にステップ901で、デジタルフィルタを用いて、関心点位置セットが計算される。次にステップ902で、関心点位置セット及び形態フィルタを用いて、フィルタリングされた関心点位置セットが計算される。次にステップ903で、フィルタリングされた関心点位置セット及び近隣に基づくフィルタを用いて、削減された関心点位置セットが計算される。次にステップ904で、訓練された分類モジュール及び削減された関心点位置セットを用いて、分類された関心点位置セットが計算される。次にステップ906で、第2の近隣に基づくフィルタ及び分類された関心点位置セットを用いて、赤点斑位置のセットが計算される。最後にステップ908で、赤点斑ポイント位置を用いて、赤点斑マーク領域が計算される。
図10は、本発明の一実施形態による医療機器1000を示す。医療機器は、光学検査システム1002及びコンピュータ1004を有する。コンピュータ1004は、プロセッサ1006を有するプロセッサ1006は、ハードウェアインタフェース1008、ユーザインタフェース1010、コンピュータ記憶装置1012及びコンピュータメモリ1014に結合される。光学検査システム1002はハードウェアインタフェース1008に結合される。これは、光学検査システム1002に、コンピュータ1004へ画像を転送できるようにする。コンピュータ記憶装置1012内に、光学検査システム1002で取得された頸部画像1016が格納される。コンピュータ記憶装置1012内には、頸部画像1016から計算された関心点セット1018もある。コンピュータ記憶装置1012内には、関心点セット1018を用いて計算されたフィルタリングされた関心点セット1020もある。コンピュータ記憶装置1012内には、フィルタリングされた関心点セット1020から計算された削減された関心点セット1022もある。コンピュータ記憶装置1012内には、削減された関心点セット1022から計算された削減された分類された関心点セット1024がある。コンピュータ記憶装置1012内には、分類された関心点セット1024から計算された赤点斑位置セット1026もある。最後に、コンピュータ記憶装置1012内には、赤点斑位置セット1026から計算された赤点斑マーク領域1028もある。
コンピュータメモリ1014内には、制御モジュールがある。制御モジュールは、医療機器1000の動作及び機能を制御するコンピュータ実行可能コードを含む。コンピュータ記憶装置1014内には、デジタルフィルタ1032がある。デジタルフィルタ1032は、頸部画像1016から関心点セット1018を計算するために用いられた。コンピュータメモリ1014内には、形態フィルタ1034がある。形態フィルタ1034は、関心点セット1018からフィルタリングされた関心点セット1020を計算するために用いられるコンピュータ実行可能コードを含む。コンピュータメモリ1014内には、近隣に基づくフィルタ1036がある。近隣に基づくフィルタ1036は、フィルタリングされた関心点セット1020から削減された関心点セット1022を計算するために用いられたコンピュータ実行可能コードを含む。コンピュータメモリ1014内には、訓練された分類モジュール1038がある。訓練された分類モジュール1038は、削減された関心点セット1022から分類された関心点セット1024を計算するために用いられるコンピュータ実行可能コードを含む。コンピュータメモリ1014は、第2の近隣に基づくフィルタ1040を更に含む。第2の近隣に基づくフィルタ1040は、分類された関心点セット1024から赤点斑位置セット1026を計算するために用いられるコンピュータ実行可能コードを含む。次に、制御モジュール1030又はコンピュータコードは、赤点斑位置セット1026から赤点斑マーク領域1028を計算するために用いられる。
子宮頸ガンは、発展途上世界において女性の主な死因である。子宮頸ガンの高い死亡率は、自覚の欠如、並びにこれらの地域におけるスクリーニング及び診断リソースの欠如に起因する。膣鏡診は、早期の子宮頸ガン(前癌病変又は微小癌)の診断における基本的ステップである。膣鏡診は、適切に膣鏡を用いて、頸部領域を調べること及び頸部画像を取得することを含む。膣鏡検査は、前処理を有しない顕微分析、緑色フィルタ、酢酸及びルゴールヨウ素液の使用後の分析を含む、熟練を要する処理である幾つかのステップで行われる。婦人科医は、各画像又はビデオを注意深く検査し、Reidインデックスのような定められた指標に基づく蓄積スコアのための全ての所見を集める。
膣鏡診の解釈は難しいので、膣鏡診はオペレータ自身及びオペレータ間で大きく変動する。また、膣鏡診を行うためには婦人科医は監督下でそのような検査を少なくとも50回行う必要があるだろう。したがって、画像内の異常な特徴を検出し正確且つ客観的膣鏡診評価を与える自動システムを有することが不可欠である。赤点斑及びモザイクパターンは、Reidインデックスを計算する際に大きな重要性を有する。
赤点斑は、間質内の末端容器の先端が間質突起を通り上皮表面に達するときに現れる。それらは、酢酸により白色化した領域内に赤い点として現れる。赤点斑は、2種類に分類される。(1)微赤点斑、(2)粗赤点斑である。微赤点斑は、正常又は低悪性度領域である。一方、粗赤点斑は、高悪性度の前癌病変を示す。
赤点斑検出は、子宮頸ガンの診断又はスクリーニングのための自動膣鏡画像分析の主要な構成要素のうちの1つである。これらの特徴は、画像内のグループで又は孤立して現れ得る。赤点斑検出は、正反射、表面及び粘液分泌の複雑な特性のような重なり合う雑音の多い要因のために困難な作業である。別の主な困難は、膣鏡診手順の種々の段階における赤点斑マークの出現の多様性である。赤点の小さな大きさ及び強度も、赤点斑検出を困難な作業にする。
酢酸処理前、緑色フィルタ、酢酸処理後画像のような種々の段階で取得される膣鏡画像内の赤点斑領域を検出及びセグメント化する強靱な方法が記載される。このアプローチの結果は、少なくとも次の2つの方法で用いられ得る。
−診断の向上のために病変を等級付ける際に膣鏡専門家を支援する、
−自動膣鏡システムに送り込む。
本発明の実施形態は、以下の問題又は欠点を克服し得る。
−微細な赤点斑パターンの検出。これは、微細な赤点斑検出に基づき画像を適切にズーム/拡大するよう膣鏡専門家を導く。
−膣鏡診手順の種々の段階における赤点斑マークの出現。本発明の実施形態は、酢酸処理前、緑色フィルタ、酢酸処理後画像のような種々の段階で取得される膣鏡画像内の赤点斑領域を検出及びセグメント化する強靱な方法を提供する。
−現在の方法の粗悪な感度及び特異性は、本発明により克服される。本発明の実施形態は、微細な赤点斑を客観的に検出すると共に白色分泌腺、正反射、等の種々の紛らわしいパターンに対して強靱な方法を提供し得る。
−熟練したリソースの欠如。本発明の実施形態は、膣鏡診の所見の容易な解釈を達成するのを助ける自動システムの少なくとも一部を提供し得る。
−手動手順の粗悪な効率。本発明の実施形態は、赤点斑パターンの自動検出により効率の増大したシステムを提供し得る。
膣鏡画像内の赤点斑パターンは、特定するのが困難である。時々、赤点斑パターンの微細な特定のために、それらは医師の目から隠れたままである。例えば、以下のCIN2として診断された患者の例はこれを良く説明している。
図11は、頸部画像1100を示す。マークされた領域1102は、簡単に特定される赤点斑ポイントを有する領域を示す。画像1100内でマーク付けされた領域1104及び1106は、あまり簡単に見えない赤点斑マークを有する領域を示す。画像1108は、領域1104の引き伸ばしズームインである。赤点斑領域1110は、画像1108内に示される。画像1112は、領域1106のズームインである、画像1112内に、マークされた赤点斑領域1114がある。画像1116は、赤点斑ポイントが強調表示された画像1110を示す。
図11は、赤点斑パターンの微細な特性を示す。つまり、画像1100は「知覚し易い」赤点斑マークを含む元の画像を示し、画像1116は検出された赤点斑マークを示し、画像1108及び1112は赤点斑パターンを肉眼で検出し難い、強調表示された赤点斑点領域を有する拡大領域を示す。
図11は、前癌状態の例を識別するためにこれらの微細な赤点斑パターンを検出するシステムの必要性を説明する。これらのパターンを検出する他の代替案は、異なる領域の画像を撮るために膣鏡で拡大表示することであるが、これはより多くの膣鏡時間を含み、処理の効率を悪くする。
したがって、本発明の実施形態は、微細な赤点斑パターンを検出するために膣鏡画像分析をより効率的に且つ正確にし得る。
現在の手動診療の他の欠点は、処理の主観性である。一般的に、膣鏡専門家は、種々の異常な特徴に、それらの存在/不存在、粒度及び他の基準に基づき、スコアを与える必要がある。特徴を見逃す又は特徴を識別する際に誤る可能性があることが明らかである。本発明の実施形態は、赤点斑パターンの自動解釈によりこの人間の主観性を克服し得る。
本発明の実施形態は、以下の特徴を有し得る。
−ビデオ膣鏡に組み込まれる赤点斑検出モジュール、
−膣鏡のビデオキャプチャモジュールと視覚ディスプレイモジュールの間に置かれる赤点斑検出モジュール、
−角検出、それに続く複数の拒否ステップを用いる着想に基づく赤点斑検出モジュールであって、複数の拒否ステップは、局所分析に基づく経験則、正しい赤点斑と誤った赤点斑との間を区別する近隣赤点斑ポイントの信頼性を含む、
−赤点斑を確実に検出する2つの主な段階(粗レベル及び精細レベル)を有する赤点斑検出モジュール。これは、白色分泌腺、正反射、等のような偽陽性をフィルタリングする、
−孤立した赤点斑及び群をなす赤点斑を検出する2つより多いコンポーネントを有する赤点斑検出モジュール、
−異なる膣鏡画像、つまり酢酸処理前、酢酸処理後、緑色フィルタ、及びズーム/拡大画像において、赤点斑を検出する赤点斑検出モジュール、
−赤点斑が存在する頸部内領域を強調表示する赤点斑検出モジュール。
図12は、赤点斑検出モジュールの詳細ブロック図を示す。図12は、本発明の一実施形態に含まれる幾つかのソフトウェアモジュールの関係を示す。モジュール1200は、膣鏡からのビデオをキャプチャするビデオキャプチャモジュールである。次に、ビデオキャプチャモジュール1200は、赤点斑検出モジュール1201にデータを渡す。次に、赤点斑検出モジュール1201は、膣鏡のビデオディスプレイ1202にデータを渡す。膣鏡画像は、以下の領域を含み得るとき前処理されても良い(1300)。
−正反射又は酢酸による白色化の結果であり得る光る/白っぽい領域
−目立って赤色又は暗赤色の血液領域
−頸部OSのために非常に暗い領域
−外部オブジェクト及び頸部の近隣領域
−関心のある頸部領域のマスキング。
子宮頸ガンの診断では、頸部領域の赤点斑を見付けることは有益である。したがって、我々のシステムへの入力は、セグメント化された頸部領域である。マスク画像は、全ての真の又は検索可能な領域を含み計算される。これは、外部オブジェクトの問題を排除するのを助ける。
粗レベル赤点斑検出(ステップ1308)は、赤点斑マークを検出する幾つかのステップを有し、良好な感度及び中程度の特異性を有する信頼できる検出精度を与える。精度は、精細レベルの赤点斑検出に更に拡張される。
関心点(IP)検出(ステップ1302)は、初期の粗レベル赤点斑推定を検出するために用いられても良い。Harris角検出器が用いられても良い。マスク画像上のIPは、最後のステップで計算されても良い。しかし、これは、赤点斑検出に関連する粗悪な特異性を有する。つまり、検出される多くのIPは偽赤点斑である。図7Bに1022個のIPが示される。これらのIPは、SET1としてラベル付けされる。
形態学的操作に基づくフィルタリング。検出された関心点セットは、形態学的経験則を適用することにより最後のステップで精緻化されても良い。最後のステップで検出される多くの点、ピーク、線、等がある。我々が用いた1つの重要な手掛かりは、背景に対して赤点斑が暗いという特徴、及び赤点斑の位置に似た特性である。画像は、暗い/明るいIP、その方向及びアスペクト比、等を探すためにバイナリ形式にされる。このステップは、1022個から384個の点へと多くの削減を与える。我々は、フィルタリングされた点をSET2と呼ぶ。
近隣赤点斑の信頼性に基づくフィルタリング。大部分の赤点斑は群をなして現れた。SET1内に存在する点は、SET2に存在しても良く又は存在しなくても良い。以下に方法を段階毎に示す。
(a)SET2内の点「y」を選択する。
(b)点「y」の近隣にある点(N(y))が分析され、そのうちの何個がSET1に存在しSET2に存在しないかが調べられる。この数はNと呼ばれ、誤った点の数である。
(c)同様に、SET2の点「y」について、近隣の点(N(y))は、SET1内で分析され、そのうちの何個がSET1及びSET2に存在するかが調べられる。これらはNと呼ばれ、正しい点の数である。
(d)N>>Nの場合、SET2内で選択された点はフィルタリングされる。
(e)この手順は、SET2内の全ての点について繰り返される。詳細には次式の通りである。
Figure 0006231885
このステップは、正反射/角、等の近くの誤って検出された赤点斑を除去する。このステップは、384個から185個の点へと約50%の削減を与える。
粗レベル赤点斑検出ステップは、赤点斑マークの可能性が非常に高い候補を与える。しかしながら、臨床的には、白色の腺、白色の輪、境界上の点、等のような依然として多くの誤検出が存在する。それらの全ては、真の赤点斑マークに非常に類似している。主に雑音による影響を受け粗野な伝統的な発見に基づくアプローチでそれらをフィルタリングすることは不可能である。したがって、学習に基づくフレームワークは精細レベルの赤点斑検出に展開された(ステップ1314)。ランダムツリーは、真及び偽の赤点斑の例を含む有意に多数の例で訓練するために無作為に選ばれた。
(1)ランダムツリー。RT(ランダムツリー)は、バギング(bagging)アプローチにより構築され、各RTはランダムに選択された特徴で訓練される。
a)訓練。図13に、訓練及び分類器の構造を示す。3000個のサンプルが25個のデータセットから集められた。最適ツリーセットは、ツリー数の増加と共にテスト誤り率を調べることにより見出された。
b)テスト。サンプルをテストするために、特徴ベクトルが用いられ、該特徴ベクトルを用いて全てのRTをテストした。各RTは票(vote)を与えられ、候補に合意が与えられる。これらの票の平均は、点が真の赤点斑マークであることの確率的指標として計算された。この指標は、所与の候補の強度と呼ばれる。低い強度を示す点は、フィルタリングされた。このステップは、(粗検出された)185個から145個の点への削減を与える。
(2)孤立した赤点斑検出及びフィルタリング。知られているように及び上述のように、赤点斑は群をなして生じるとき、より多くの関連を有する。この最後のステップは、赤点斑が孤立しているか及び強度が低いかを検出することにより、偽赤点斑を削除する。幾つかの精緻化段階の後、孤立した幾つかの偽陽性が残される。したがって、このステップは、多くの残された誤検出赤点斑を除去する。このステップは、145個から45個の点への削減を与える。
(3)赤点斑グループ化及び領域区分。検出した赤点斑ポイントの最終セットは、赤点斑領域を形成するために、画像投入操作(image closing operation)を用いて一緒にグループ化される。
図12に、主な構成要素を含む詳細なフローチャートを示す。以下の図では、RT(ランダムツリー)の構造、及び最適ツリー数をどのように選択するかを示す。
図13は、本発明の一実施形態による方法を示すフロー図である。先ず、ステップ1300で、画像の前処理が行われる。次に、ステップ1302で、関心点の検出が実行される。次に、ステップ1304で、形態学的経験則に基づく最初のフィルタリングが実行される。次に、ステップ1306で、信頼性のある赤点斑に基づくフィルタリングが実行される。ステップ1302、1304、1306は、粗レベル赤点斑検出1308であると考えられる。次に、ステップ1310が実行される。ステップ1310で、RT分類器が用いられ、赤点斑マークを分類する。次に、ステップ1312で、孤立した赤点斑マークがフィルタリングされる。ステップ1310、1312は、精細レベル赤点斑検出1314であると考えられる。ステップ1316で、赤点斑マークはグループ化されて赤点斑領域を形成し、結果が保存される。
図14は、訓練された分類モジュールとして用いられるRT又はランダムツリーをどのように構築するかの例を示す。先ず、ステップ1400でサンプル収集が実行される。次に、ステップ1402で、特徴計算が実行される。ステップ1404で、10%のサンプルが、テストの実行を見合わされる。次に、ステップ1406で、訓練セット選択肢が選択される。ランダム選択肢は、ツリーに非依存性を導入するために用いられる。全特徴のうちの25パーセントがランダムに選択され、各ツリーを構築するために用いられる。次に、ステップ1408で、ツリーは、訓練セットを用いて構築され、格納される。次に、ステップ1410で、テストセットで相互検証が実行される。これらは、訓練で用いられなかったデータのセットである。ステップ1412は、質問「50個のツリーが構築されたか?」を有する決定ボックスである。答えがいいえ(No)の場合、方法はステップ1406に戻り、50個のツリーが構築されるまで、ステップ1406、1408及び1410が繰り返される。50個のツリーが構築された場合、テストが実行される。
図15は、ランダムツリー分類を構築する特徴の計算を示すフロー図を示す。ステップ1500で、入力ブロックが取り入れられる。次に、ステップ1502で、41×41ピクセルの近隣ウインドウが検査される。41×41ピクセルのウインドウは、経験的に最適サイズであることが分かっている。次に、ステップ1504で、カラーピクセルのヒストグラムが計算される。赤点斑マークは赤点なので、赤色のヒストグラムは赤点斑マークを識別するのに有用である。ヒストグラム比は、強度変動に対して方法をより強靱にする。次に、ステップ1506で、ウインドウの全てのカラーチャネルについてGabor特徴が計算される。Gabor特徴は、画像の周波数領域特性を捕らえる強力な候補(contender)である。赤点斑は鋭い強度変化を有するので、特定のフーリエ領域特性又は形跡を有する。フーリエスケールは、各方向に用いられる。これは、カラーチャネル毎に全部で20個の特徴である。最後に、ステップ1508で、ヒストグラム及びGabor特徴がベクトル化され、特徴ベクトルを形成する。
図16は、ツリー数1600に対する赤点斑サンプルテストセットのエラー1602のグラフを示す。図16に示すテストセットエラーは、1個の無関係、8%のエラー又は10個のツリーで98.2%の精度が達成されることを示す。この図は、10個のツリーの使用が正確な赤点斑検出のために十分であることを示す。
図16は、赤点斑検出システムのフローを説明する例示的な画像を示す。子宮頸部内部領域の赤点斑は、黒点として見える。これらは黒い円により強調表示される。
図17は、頸部画像1700を示す。頸部画像1700内には、赤点斑を有する2つの領域1702がある。次のステップでフィルタリングされる点は、黒い円で強調表示される。
本発明の実施形態は、多くの内部変化を有する35個のデータセットを用いてテストされた。分類器は訓練され、熟達者と比較して98.2%のテスト精度を達成した。
赤点斑マークは、CIN1、CIN2及びCIN3の例に存在し得る。また、赤点斑マークは、子宮頸部内部領域と同様に子宮頸部外部領域にも存在する。幾つかの例示的な結果を、批評と共に以下に示す。
図18は、前処理1800後の画像1700を示す。
図19は、画像1800内に位置する検出された関心点1900を示す画像1700を示す。オブジェクトのような全ての点が検出され、合計の点の数=1022である。
図20は、形態学的フィルタリング2000後の画像1900を示す。この図は、最後のステップで検出された点の形態学的フィルタリング後の出力を示し、点の数=384である。
図21は、近隣フィルタリング2100後の画像2000を示す。近隣信頼性方法を適用した後の出力は、点の数=183である。
図22は、RT分類器を用いた後の画像2100を示す。関心領域2202は、画像2200内でマークされる。領域202は、ズーム画像2204内に示される。ランダムツリーで各点を分類した後の出力は、点の数=183である。
図23は、第2の近隣フィルタリングを用いた後の画像2200を示す。孤立した赤点斑検出及びRTに基づくフィルタリングの出力は、点の数=45である。関心領域2302は、画像2300内に示される。画像2304は、領域2302の拡大である、
図24は、頸部内部領域で見付かった赤点斑を示す。頸部画像2400が示される。関心領域2402は、画像2400内でマークされる。関心領域2402は、ズームイン又は引き伸ばされ、画像2404内に示される。画像2406は、赤点斑位置と共に画像2400を示す。画像2408は、赤点斑領域と共に画像2400を示す。
図25は、赤点斑の強調表示された緑色フィルタ画像を示す。画像2500は頸部画像である。画像2500内に、マークされた関心領域2502がある。画像2504は、領域2502のズームインを示す。画像2506は、赤点斑位置と共に画像2500を示す。画像2508は、赤点斑領域と共に画像2500を示す。
図26は、僅かな赤点斑を有する酢酸処理後画像を示す。画像2600は頸部画像である。画像2600内に、マークされた関心領域2602がある。画像2604は、領域2602の拡大画像である。画像2606は、赤点斑位置を有する画像2600である。画像2608は、赤点斑領域を有する画像2600である。
図27は、低強度の赤点斑を有する拡大画像を示す。画像2700は拡大された頸部画像である。2702は、画像2400内でマークされた関心領域である。画像2704は、関心領域2702の拡大である、画像2706は、赤点斑位置を有する画像2700である。画像2708は、赤点斑領域を有する画像2700である。
図28は、炎症を有し赤点斑の存在しない頸部画像2800を示す。画像2802は、赤点斑位置を有する画像2800である。画像2804は、マークされた赤点斑領域を有する画像2800である。留意すべきことに、画像2802及び2804には目に見える赤点斑位置又は領域が存在しない。
図29は、頸部領域内に存在する赤点斑に似た多くの白い腺を有する酢酸処理後画像を示す。画像2900は元の頸部画像を示す。矢印2901は、白い腺の位置を示す。画像2902は、赤点斑位置を有する画像2900である。画像2904は、赤点斑領域を有する画像2900である。留意すべきことに、赤点斑位置及び領域は、画像2902及び2094では見えない。
図30は、本発明の一実施形態による方法を示すフロー図である。ステップ3000で、複数の画像フレームを有するビデオデータが受信される。ステップ3002で、複数の画像フレームから選択された連続画像フレームの各対の間の移行が決定される。次に、ステップ3004で、連続画像フレームの各対の間の移行から累積的移行モデルが計算される。最後に、ステップ3006で、複数の画像フレームの各々は、累積的移行を用いて位置合わせされる。
図31は、本発明の一実施形態による医療機器3100の一例を示す。留意すべきことに、図31に示した実施形態の特徴は、図10に示した特徴と結合されても良い。特に、図31に示した特徴は、検査経過中に得られる複数の画像を位置合わせするのに有用であり得る。これらは、同じ倍率であっても良く、又は拡大画像の間であっても良い。
コンピュータ1004及び光学検査システム1002の機能は、図10に示したものと等しい。コンピュータ記憶装置1012は、光学検査システム1002で取得されるビデオデータ3102を含むとして示される。さらに、コンピュータ記憶装置1012は、ビデオデータ3102のフレーム間で計算された移行セット3104を含むとして示される。さらに、コンピュータ記憶装置1012は、移行セット3104から計算された累積的移行3105を有するとして示される。累積的移行3105は、共にコンピュータ記憶装置1012内に格納されているとして示される第1の画像3106と第2の画像3108との間にある。第1の画像3106と第2の画像3108は、ビデオデータ3102から選択される。さらに、コンピュータ記憶装置1012は、累積的移行3105から計算された第1の画像3106及び第2の画像3108の位置合わせを含むとして示される。
コンピュータメモリ1014は、画像変換モジュール3110を有するとして示される。画像変換モジュール3110は、ビデオデータ3102の隣接フレーム間の移行セット3104を計算するために用いられる。コンピュータメモリ1014は、移行セット3104から累積的移行3105を計算するために用いられた累積的移行計算モジュール3112を有するとして示される。さらに、コンピュータメモリ1014は、画像位置合わせモジュール3114を有するとして示される。画像位置合わせモジュール3114は、累積的移行3105を用いて第1の画像3106と第2の画像3108との間の位置合わせ3109を計算するために用いられたコンピュータ実行可能コードを含む。
膣鏡診は、特にインド及び中国のような発展途上国で、子宮頸ガンの診断及びスクリーニングのために広く用いられている。図1は、Philips Goldwayのデジタル膣鏡、及び図4に示された膣鏡により取得された例示的な画像膣鏡ビデオデータの解釈は、自明ではなく、何年もの技能を必要とする。発展途上国、特に遠隔の農村部では、この技能は存在しないかも知れない。
図32は、自動膣鏡の一般的ワークフローをすフロー図である。ステップ3200で、膣鏡ビデオが入力される。次に、画像は、画像拡張3202を通る。これは、グリント除去及び緑色フィルタリングなどを含んでも良い。次に、ステップ3204で、画像位置合わせが実行される。フレーム間動き補償、酢酸処理前及び後並びにヨウ素加処理後の画像化、さらに画像の拡大中の補正のために画像の整列が実行される。次に、ステップ3206で、画像は、領域を検出し特徴を抽出するために処理される。例えば、酢酸による白色化を画像化している間に、ヨウ素による染色及び目に見える基礎的血管構造に加えてマージン及び時間遅延が決定され得る。最後にステップ3008で、収集されたデータの分類が実行され、幾つかの実施形態では、診断が実行されても良い。幾つかの状況における診断は、データを提示される医師により行われても良い。
図32は、自動膣鏡システムのステップ又は構成要素を示す。ここで、以下の目的で入力ビデオフレームを整列するために画像位置合わせが必要である。
−患者の組織及び体の動きの補償、
−カメラの動きの補償、膣鏡検査では、臨床医学者は、頸部の異なる部分を検査するためにカメラを動かす必要がある、
−異なる染色液を有する画像を整列する(食塩水、酢酸、ルゴールヨウ素溶液)、
−異なるズームの画像を整列する、膣鏡検査では、臨床医学者は、異なる診断用特徴を診るためにズームイン及びズームアウトする必要がある。正確な画像位置合わせは、診断用特徴を抽出するために極めて重大である。画像位置合わせなしでは、複数の画像に関連する診断用特徴(例えば、酢酸による白色化の反応速度)を抽出することが出来ないかも知れない。
本発明の実施形態は、以下を提供する。
−正確な画像位置合わせは、いかなる新しいハードウェア(例えば、3D画像化)の導入することなく、Philips Goldwayの現在の膣鏡製品で行うことができる。
−現在の膣鏡製品に追加できる新しい特徴は、例えば、婦人科医に安定化した膣鏡ビデオを提供する。
本発明の実施形態は、以下の特徴を有し得る。
−ビデオ位置合わせは、対の観点からビデオ内の連続フレーム間の位置合わせの移行モデルを繰り返し連結することにより行われる。
−関心領域(ROI)セグメント化は、画像位置合わせと統合される。
位置合わせが失敗した場合、ROIセグメント化は、画像位置合わせを再初期化するために用いられる。
位置合わせに対して得られた特徴照合は、ROIセグメント化のために用いることができる。
−画像位置合わせは、2フレーム間の局所的特徴の対応を見出すことにより行われる。
+特徴照合の3つの実施形態がある。Lukas-Kanade追跡法(KLT)、SIFT特徴検出及び照合、並びにSLAM(Simultaneous Localization and Mapping)である。
+検出した特徴の一致数は、位置合わせの信頼性/精度として検査される。少なすぎる場合、現在フレームの位置合わせはスキップされる。
膣鏡ビデオ位置合わせは、全ての入力ビデオフレームを基準フレーム(又はテンプレートフレーム)に揃えるために用いられる。基準フレームは、通常は最初のフレームが選択される。代替は、セグメント化アルゴリズム(以下を参照)が関心領域(例えば、頸部)の検出に成功した膣鏡ビデオの第1の部分内のフレームを用いることである。膣鏡検査過程では、頸部の外観は、(1)カメラの動き、(2)酢酸のような造影剤により誘起される変化、(3)カメラの倍率により有意に変化する。したがって、長い時間間隔で取得された2つのビデオフレームを整列することは非常に困難である(又は不可能である)。提案される解決策は次の通りである。
−対の観点から連続フレーム間の位置合わせを行う。例えば、フレームn+1乃至フレームnを位置合わせし、移行モデルT[n+1->n]を保つ。連続フレーム間では外観の変化は比較的小さいので、位置合わせは高い精度で行うことができる。
−所与のフレームtに対して、移行モデルT[t->t−1]、T[t−1->t−2]、T[2->1]を繰り返し連結することにより、フレーム1との位置合わせが行われる。
(1)関心領域(ROI)セグメント化
−関心領域(ROI)セグメント化は、画像位置合わせと統合される。入力ビデオフレームでは、膣鏡診断に関連する関心領域(例えば、頸部領域)は、最初にセグメント化される。次に、位置合わせは、セグメント化された領域に焦点を当てる。つまり、特徴(抽出及び)照合がこの領域にのみ実行される。この利点は、以下を有し得る。
−(ビデオフレーム全体と比較して)画像パッチに焦点を当てることにより、特徴の一致を引き出す過程が高速化される。これは、例えばKLT追跡法で、計算コストを低減し得る。
−信頼性の低い特徴照合又は誤った照合(つまり、偽陽性)を削減する。例えば、SIFT特徴照合では、ROIセグメント化なしでは、フレーム1内のROI内の1特徴がフレーム2内のROIの外側にある特徴と照合され得る。ROIセグメント化により、この種の誤った照合は回避できる。
ROIセグメント化は、手動で、半自動的に、又は自動的に行われても良い。例えば、半自動的の場合、臨床医学者は、ビデオ内でクリックしてROIが存在する場所を示すことができる。自動ROIセグメント化では、これは異なる方法で行うことができ、例えば、色空間内のクラスタリング又は予め訓練されたオブジェクト検出器を用いて行うことができる。位置合わせのために得られた特徴の一致は、ROIセグメント化を向上させるために用いることができる。例えば、フレーム1とフレーム2との間の抽出された特徴の一致は、フレーム2内のROIセグメント化の付加的証拠として用いられる(フレーム1内の全ての特徴がROI内に存在する場合)。
画像位置合わせは、例えば、(モーションブラーを生じる)極めて大きな動き及び閉鎖(臨床医学者が綿で頸部を清浄している又は酢酸のような造影剤を適用しているとき)の場合には失敗し得る。これらの場合には、ROIセグメント化は、ROIが入力フレーム内で検出されるとき、位置合わせを再初期化するために適用される。代替として、位置合わせに基づく特徴が考慮されても良い。
(2)特徴検出及び照合
セグメント化されたROIについて、局所的特徴の一致を見付けることにより、位置合わせが行われる。特徴の一致は、異なる方法で実施できる。
−一実施形態では、Lukas-Kanade追跡法(又はKLT追跡)が適用され、特徴を追跡し又は局所的近隣にある一致を見付ける。
−別の実施形態では、SIFT特徴が検出され、2つのビデオフレーム間で照合される。
−別の実施形態では、SLAM(Simultaneous Localization and Mapping)法が用いられ、特徴の一致を得る。
所与のビデオフレーム内で見付かる特徴の一致の量は、2つのフレーム間の類似性に依存する。通常、2つの連続ビデオフレーム間の段階的な外観の変化又は小さな動きでは、多数の特徴の一致が得られる。特徴の一致の数は、位置合わせに関する指標の信頼性(又は精度レベル)として用いることができる。特徴の一致の数が閾より低い場合、2つのフレーム間に(例えば大きな動き又は閉鎖による)大きな相違があることを示す。この場合、現在フレームの位置合わせはスキップされ、次の入力フレームへ進む。このように、位置合わせエラーは、(上述の繰り返しで)累積されない。多数のフレームがスキップされる場合、2つのフレーム(つまり、現在フレームと参照フレーム)が大きく相違する危険性が高まり、位置合わせが困難又は危険であることを示す。位置合わせは、ROIセグメント化により再初期化される。つまり、テンプレートフレームを再設定する。
(3)画像位置合わせ
最後に、検出された特徴の一致に基づき、(フレーム1をフレーム2と揃える)移行モデルが推定される。ビデオ内の画像変動にしたがって、異なる変換方法が適用できる。移行モデルでは、フレーム1はフレーム2に位置合わせされる。上述のように、対に基づく画像位置合わせが、連続フレームについて行われる。
図33は、特徴に基づく追跡の一例を示す。画像3300及び画像3302を並べて示す。画像3300は時間tにおけるものであり、画像3302は時間t+1におけるものである。線により結合された点は、対応する特徴を示す。枠3304は、2つの画像内の同一位置を表し、フレーム3300と3302との間の動きを示すために用いられる。このような特徴に基づく追跡は、複数の画像フレームから選択された連続画像フレームの各対の間の移行を決定するために用いられても良い。
図34は、本発明の一実施形態による方法を示すフロー図である。先ず、ステップ3400で、生理食塩水処理された頸部の画像は、光学検査システムを用いて取得される。次に、ステップ3402で、複数の酢酸により白色化した頸部の画像は、光学検査システムを用いて取得される。次に、ステップ3404で、ヨウ素処理された頸部の画像は、光学検査システムを用いて取得される。次に、ステップ3406で、酢酸による白色化の動態スコアは、酢酸により白色化した頸部の画像及び生理食塩水処理された頸部の画像を用いて計算される。次に、ステップ3408で、酢酸による白色化のマージンスコアは、酢酸により白色化した頸部の画像を用いて計算される。次に、ステップ3410で、血管パターンスコアは、酢酸により白色化した頸部の画像及び生理食塩水処理された頸部の画像を用いて計算される。次に、ステップ3412で、ヨウ素染色スコアは、ヨウ素処理された頸部の画像を用いて計算される。最後に、ステップ3414で、膣鏡診インデックススコアは、酢酸による白色化の動態スコア、酢酸による白色化マージンスコア、血管パターンスコア、及びヨウ素染色スコアを加算することにより決定される。
図35は、本発明の更なる実施形態による医療機器3500を示す。図35に示す実施形態は、図10に示した実施形態と非常に似ている。コンピュータ記憶装置1012及びメモリ1014は、図10に示した実施形態のコンピュータ記憶装置1012及びコンピュータメモリ1014内に示されるデータオブジェクト及び実行可能コードも示し得る。
コンピュータ記憶装置1012は、光学検査システム1002を用いて取得された生理食塩水処理された頸部の画像3502、酢酸により白色化した頸部の画像3504、及びヨウ素処理された頸部の画像3506を含むとして示される。コンピュータ記憶装置1012は、酢酸による白色化の動態スコア3508、酢酸による白色化のマージンスコア3510、血管パターンスコア3512、及びヨウ素染色スコア3514を更に含むとして示される。コンピュータ記憶装置1012は、膣鏡診インデックススコア3516を更に含むとして示される。
さらに、コンピュータメモリ1014は、酢酸による白色化の動態スコア計算モジュール3520を有するとして示される。酢酸による白色化の動態スコア計算モジュール3520は、プロセッサ1006に、酢酸により白色化した頸部の画像3504及び生理食塩水処理された頸部の画像3502を用いて酢酸による白色化の動態スコア3508を計算させるコンピュータ実行可能コードを含む。さらに、コンピュータメモリ1014は、酢酸による白色化のマージンスコア計算モジュール3522を有するとして示される。酢酸による白色化のマージンスコア計算モジュール3522は、プロセッサ1006に、酢酸により白色化した頸部の画像3504を用いて酢酸による白色化のマージンスコア3508を計算させるコンピュータ実行可能コードを含む。
さらに、コンピュータメモリ1014は、血管パターンスコア計算モジュール3524を有するとして示される。血管パターンスコア計算モジュール3524は、プロセッサ1006に、酢酸により白色化した頸部の画像3504及び生理食塩水処理された頸部の画像3502を用いて血管パターンスコア3512を計算させるコンピュータ実行可能コードを含む。さらに、コンピュータメモリ1014は、ヨウ素染色スコア計算モジュール3526を有するとして示される。ヨウ素染色スコア計算モジュール3526は、プロセッサ1006に、ヨウ素処理された頸部の画像3506を用いてヨウ素染色スコア3514を計算させるコンピュータ実行可能コードを含む。さらに、コンピュータメモリ1014は、膣鏡診インデックススコア計算モジュール3528を有する。膣鏡診インデックススコア計算モジュール3528は、プロセッサ1006に、酢酸による白色化の動態スコア3508、酢酸による白色化のマージンスコア3510、血管パターンスコア3512及びヨウ素染色スコア3514を用いて膣鏡診インデックススコア3516を計算させるコンピュータ実行可能コードを含む。
図35に示した実施形態は、過程から主観を除去するのに有用であり、婦人科医のようなユーザの学習期間を削減し得る。頸部から生じる癌が世界の女性の2番目に多い癌であるので、このようなシステムは有益であり得る。インドは、世界で生じる癌の約23%を占める。膣鏡は、前癌状態及び早期侵襲的子宮頸ガン病変の診断/格付けのため並びに生体検査の場所を特定するために、婦人科医により用いられる。膣鏡の専門家は以下に概略を述べるステップに従うが、異なる設定で変化し、彼らの訓練に基づき得る。例えば、米国ではルゴールヨウ素溶液のステップはスキップされる。
膣鏡検査には幾つかのステップがある。先ず、生理食塩水が適用され、如何なる分泌物も洗浄され取り除かれる。次に、画像が取得されても良い。次に、緑色フィルタが用いられ、更に多くの画像が取得されても良い。緑色フィルタは、血管パターンの検査を可能にする。次に、3−5%の酢酸溶液が適用されても良い。頸部の外観の経時変化、変化期間及び時間は、検査の一部として記録される。次に、ルゴールヨウ素溶液が適用され、ヨウ素の部分的及び完全な吸収が検査される。最後に、如何なる異常組織領域から検体が採取されても良い。これらのステップは、非常に大きな主観を含む。したがって、子宮頸ガンのインデックスを提供するための膣鏡の使用にも非常に大きな主観が存在する。
膣鏡を用いた診断は、新米膣鏡専門家では長い学習曲線を有することも分かっている。実際の患者に基づく対話型学習は、新米膣鏡専門家の学習曲線を加速させるために文献で引用されている。
本発明の実施形態は、膣鏡検査のインデックスを自動的に生成し、前癌状態及び早期癌病変の重症度を格付けする方法及び/又はシステムを提供し得る。これは、新米膣鏡専門家の学習曲線も加速する。既存の方法と異なり、本発明の方法は、臨床医学者により用いられる又は再検討される膣鏡インデックスを生成し得る。
膣鏡の自動スコア方法は、以下の利点を有し得る。
−癌の重症度を格付けする観測者の変動を低減する、
−子宮頸ガンを客観的にスコア付けし、これを自動的に行う、
−婦人科医に対話型方法で職業訓練を提供し、彼らの学習曲線を加速する。
本発明の実施形態は、自動化又は半自動化方法のために、画像/ビデオ分析アルゴリズムの組合せを用いて膣鏡との対話型方法で膣鏡診インデックスを提供する方法を提供し得る。
このようなシステムの特徴は、以下を含み得る。
1.自動スコアリング。提案のシステムは、膣鏡診手順を実行しながらビデオ膣鏡からキャプチャされたデータを分析し、膣鏡診インデックスを自動的に提供する。
2.スコア計算のためのパラメータ選択。パラメータを選択する基準又はスコアを計算するための臨床医学者の所見は、ユーザに表示される。臨床医学者の所見は、主に、酢酸による白色化の動態、酢酸による白色化のマージン、血管パターン及びヨウ素染色である。各所見は、アルゴリズムにより提供される「信頼性レベル」と関連付けられる。信頼性レベルにより、医師は、(自動分析ソフトウェアにとって)どの所見が未決定かを知ることができる。低信頼性の所見の場合、医師は、それらを手動で調べ、その所見を確認することができる。ユーザは、選択されたパラメータに合意する/同意しない選択肢を有する。膣鏡専門家は、より良い診断を与えるために選択されたパラメータを分析することに集中し得る。
3.選択されたパラメータの領域注釈。提案のシステムは、選択されたパラメータを示す画像内の領域に注釈を付け得る。注釈を付された領域は、膣鏡専門家自身又は他者を訓練するために、膣鏡専門家により用いることができる。
4.注釈を付された領域の格納。これらの注釈を付された領域は、異常の予後を追跡するために又は生体検査/処置のために将来参照するために、患者の病歴と共に格納され得る。
5.スコアの種類の選択。膣鏡専門家は、癌病変の重症度を格付けするために、臨床的に用いられるインデックスのリスト、例えばReidスコア、変形Reidスコア、簡易Reid、Swedeスコア、等から選択できる。
6.さらに、膣鏡検査のスコアリング方法における発展又は変更も、基本的パラメータがシステムにより自動的に計算されるように包含され得る。
標準的な膣鏡は、以下の4つのコンポーネントを有し得る。
(1)光源を有するカメラ、
(2)ビデオキャプチャユニット、
(3)ディスプレイユニット、及び
(4)患者情報を管理するデータ管理ユニット、である。図36に膣鏡のブロック図を示す。
図36は、本発明の一実施形態による医療機器の機能構成要素を示すブロック図である。ブロック3600は、カメラ及び光源である。カメラ及び光源は、ビデオキャプチャユニット3602にデータを提供する。ビデオキャプチャユニットからの画像は、視覚的ディスプレイユニット3604及びソフトウェアを実行するプロセッサへ転送される。ソフトウェアは、データ管理ユニット3608にも提供され得る自動スコアリング方法3610を提供する。データ管理ユニット3608は、データをプロセッサにも提供し得る。プロセッサは、自動スコアリング3610を行い、自動スコアリングの結果は視覚的ディスプレイユニット3604に表示されても良い。
図37は、本発明の一実施形態による方法を示すブロック図である。先ず、ステップ3700で自動領域検出が実行される。次に、ステップ3702で、関連する解剖学的所見の自動検出が実行される。次に、ステップ3704で、個々の所見の自動分類が実行される。最後に、ステップ3706で、膣鏡検査のスコアが生成される。
本発明の実施形態による解剖学的領域検出を以下に説明する。先ず、関連オブジェクトが、頸部画像内で識別される。つまり、Os、移行帯(TZは古いSCJ(Squamo Columnar Junction)及び新しいSCJにより決定された領域である)、及び頸部である。
関心領域、つまり頸部領域は、画像の赤色成分に動的閾値化スキームを用い、次に酢酸処理前及び後画像についてのK平均クラスタリングにより、自動的に識別される。クラスタが画像の大きさの10分の1(これは経験則により決定された)より小さい大きさを有する領域を識別した場合、頸部は画像内で見えないと結論づけた。その他の場合、クラスタは、頸部領域であると考えられる。アルゴリズムは、201枚の酢酸処理前及び後画像について検証され、95%の例で正確なセグメント化の結果を与えた。ルゴールヨウ素溶液画像の例では、非頸部領域から頸部領域を区別するためにOtsu閾値化が用いられた。上述のアルゴリズムを用いて酢酸処理画像及びルゴールヨウ素溶液処理後画像内で識別された頸部領域は次の通りである。
図38は、酢酸により白色化した頸部の画像3800の一例を示す。画像3800内で識別された頸部領域3802がある。
図39は、ヨウ素処理された頸部の画像3900の一例を示す。ヨウ素処理された頸部の画像3900内で識別された頸部領域3902がある。
古いSCJ検出は、2段階アプローチである。第1のステップでは、ルゴールヨウ素溶液の適用で示される色変化に基づき移行帯を暫定的に検出するために、ルゴールヨウ素溶液処理後画像が処理される。ルゴールヨウ素溶液処理後画像は、色に基づくK平均クラスタリングを用いて2つのクラスタIL1及びIL2にセグメント化される。移行帯を含むクラスタの赤色成分(IL1(R))のヒストグラムは正規分布に従うが、他のクラスタではそうではないことが分かる。移行帯を含むクラスタを自動的に識別するために、我々は正規分布をモデル化した。両方のクラスタの赤色成分のヒストグラムをH(IL1(R))と表す。
図40は、2つのヒストグラム4000、4002を示す。ヒストグラム4000は、移行帯を表すクラスタ内の赤色値の正規分布を示す。ヒストグラム4002は、移行帯を含まない赤色値のランダム分布を示す。画像4000では、移行帯を表すクラスタ内の赤色値の正規分布が調べられる。画像4002では、移行帯を含まない赤色値のランダム分布及びH(IL2(R))が調べられる。2つのヒストグラム4000、4002は平滑化され、H(IL1(R))及びH(IL2(R))のピークの数が特定される。1つのピークのみを含むヒストグラムは、移行帯を含むクラスタに属すると考えられる。次に、我々は、このクラスタ内の小さなバラバラの領域を繰り返し除去した。このクラスタの凸包は、IL内の一時的移行帯として定められる。第2のステップで、ルゴールヨウ素溶液処理画像内で識別された一時的移行帯は、位置合わせ技術を用いて、酢酸処理後画像及び酢酸処理前画像にマッピングされる。これは、酢酸処理前画像及び酢酸処理後画像内の古いSCJ領域を区別する。
図41は、ヨウ素処理された頸部の画像4100及び同じ頸部の酢酸処理された頸部の画像4102を示す。両方の図には、識別された頸部領域4104がある。また、ヨウ素処理後画像から酢酸処理後画像にマッピングされた古いSCJ4106も示す。
新しいSCJ領域の識別は、特徴抽出及び分類の2段階処理である。これは、特徴を識別するために頸部領域を入力として取り入れる。使用される標準的な特徴は、平均赤色、赤色の標準偏差、空間ピクセル位置、並びに赤色の緑色に対する比及び赤色の青色に対する比である。空間ピクセル位置、並びに赤色の緑色に対する比及び赤色の青色に対する比は、頸部領域全体に適用され、平均赤色及び赤色の標準偏差は、頸部領域内の4×4及び5×5ピクセルブロックに適用される。新しいSCJ領域の初期閾値化は、平均赤色及び赤色の標準偏差に基づき行われる。
このR/G、R/B及び空間位置で閾値化された画像は、関数Prob_pixel_NewSCJ=ImgRed.*(R2G).*(R2B).*Gradientを用いて初期確率を与える。この初期確率及び1次分類を用いて、条件付きランダムフィールドモデル(Conditional Random Field Model)により後の確率が計算される。画像がCRFにより分類された後、新しいSCJと考えられる主要領域が抽出される。図42に、新しいSCJを識別した幾つかの結果を示す。図42は、一連の6個の異なる頸部画像を示す。これらの各画像では、新しいSCJ領域4202が識別されている。
酢酸処理前及び後画像内のOs検出は、識別された新しいSCJ領域にも適用される。新しいSCJ領域は、円柱上皮及びOsを含む。これらの領域の両者は、最小分散量子化を用いて、その後に円柱上皮及びOs内の小さなバラバラの領域を繰り返し除去することにより、分けられる。代替として、両方の領域は、Otsu閾値化を用いても分けられ得る。自動的に、頸部の2次元表現では、Osは円柱上皮内部にある。これは、Os領域を円柱上皮領域から識別する手掛かりとして用いられる。図43に、Os検出アルゴリズムの幾つかの結果を示す。
図43は、酢酸処理前及び後画像内のOsの検出を説明する一連の3枚の頸部画像を示す。Osは4302でラベル付けされている。
次に、関連する膣鏡診所見の自動検出を説明する。関連する解剖学的領域が画像内で識別されると、ユーザは、識別された解剖学的領域から自動的に計算された膣鏡診所見のリストを示される。
図44は、本発明の一実施形態によるユーザインタフェース4400を示す。このユーザインタフェース4400では、頸部画像4402が表示される。領域4404は、頸部画像4402の異なる領域を選択可能にする膣鏡所見又はボックスを示す。ボックス4406は、有望な診断を示す。このユーザインタフェースでは、関連する膣鏡所見は自動的にユーザに表示された。
膣鏡検査のスコアリングに貢献する幾つかの関連する臨床的所見の自動識別は、次の通りである。
酢酸による白色化。酢酸処理前及び後画像内で識別された移行帯は、古いSCJと新しいSCJとの間の領域である。不明瞭度差スコアは、全ての酢酸処理後画像について、酢酸処理前画像に対して計算され、存在、大きさ、位置、移行帯に対する位置の情報、及び酢酸により白色化した上皮の格付けを提供し得る。図45に、酢酸処理後画像セットについて、酢酸処理前画像に対して得られた不明瞭度差スコアの一例を示す。
図45は、一連の6枚の頸部画像4500、4502、4504、4506、4508、4510を示す。画像4500は、酢酸処理前画像を示す。画像4502は、酢酸処理の後1分後の同一の頸部を示す。画像4504は、不明瞭度差スコア18.46を有する不透明画像を示す。画像4506は、画像4500と同じである。画像4508は、酢酸処理の後3分後の同一の頸部を示す。画像4510は、画像4506及び4508から計算された不透明画像を示す。画像4510の不明瞭度差スコアは43.28である。
この処理の後に、酢酸により白色化した領域の境界から特徴を計算し、それらを鮮明、不明瞭、又は羽毛状(feathered)に分類する。分類のための特徴の1つは、境界におけるゼロ交差数である。「ゼロ交差」は、境界の兆候が陽性から陰性に又は陰性から陽性に変化する境界上の点である。辺縁明瞭な境界は、不明瞭な境界より多くのゼロ交差を有する。
頸部領域に存在する赤点マークは、子宮頸ガンの診断のための別の重要な特徴である。それらは、異常な血管構造の印であり、それらの存在は頸部の前癌性及び癌性病変の存在と有意に相関している。階層的フィルタリングアプローチが用いられ、その後に、異なる種類の赤点(精細/粗/拡散)を検出し及び診断支援のためにそれらの領域をセグメント化するために学習に基づくフレームワークが続く。このアプローチは、2つの段階を有しても良い。
(1)粗レベル赤点検出。これは、関心点検出に基づき、関心点検出の後に、誤検出されたオブジェクトを除去するためにオブジェクトフィルタリングの幾つかのステップが続く。
(2)精細レベル赤点検出。学習に基づくフレームワークは、粗検出された赤点を確実に分類するために構築される。図46に、赤点検出の一例を示す。
図46は、酢酸により白色化した同じ頸部の画像の3つのバージョン4600、4602、4604を示す。図46は、赤点マークの識別を説明する。画像4600は生頸部画像である。画像4602は、個々の赤点マーク4606の識別を説明する。画像4604は、赤点マークが集中している赤点マーク領域4608を示す。
モザイクパターンは、癌の重症度の計算に貢献する別の重要な特性である。それらの存在は、前癌性及び癌病変の存在と有意に相関する。それらは、テクスチャに基づく分析を用いて検出される。図47に、例示的な結果を示す。
図47は、酢酸により白色化した同じ頸部の画像の3つのバージョン4700、4702、4704を示す。この画像では、モザイクパターンの識別が説明される。画像4700は生画像である。画像4702は、モザイク領域4606の識別を示す。画像4704は、多数のモザイクが存在する領域4708を強調表示する線を示す。
特殊な血管は、癌の重症度の病期を定めるための重要な基準を与える。
我々は、色に基づくフィルタリング、その後の線に基づく検出により、特殊な血管を検出した。白色環及び腺の存在は、移行帯の通常の特徴であるが、異常な病変の場合には環がより広い。白色環は次のように識別される。白色環は円形又は円柱状の形状なので、円検出のHough変換は、白色腺の外観を有する候補を識別するために用いられる。次のステップで、識別された候補は、実際の白色腺を識別するために、白色、サイズ、移行帯内の位置、等のような特定の特徴に基づきフィルタリングされ除去される。
図48は、同一の頸部の2枚の画像4800、4802を示す。画像4800では、白色腺である可能性のある領域4804が識別され又はマーク付けされる。画像4802は、白色腺として識別される可能性のある領域4804を示す。基本的に、画像4800内で識別された候補及び白色腺は、画像4802に示すようにフィルタリングの後に識別される。
頸部のヨウ素染色の結果は、膣鏡検査のスコアを生成するのに重要である。未熟な上皮化生はヨウ素陰性になるが、成熟した上皮化生はルゴールヨウ素溶液で部分的又は完全に茶色に染められる。低度の前癌病変はヨウ素陰性であるが、高度の前癌病変はマスタードイエローに染まる。ヨウ素変化を自動的に決定するために、ヨウ素陰性及び陽性領域はOtsu閾値化を用いて分けられる。この後に、ヨウ素陰性領域が移行帯内に存在するか否かが識別される。ヨウ素陰性領域が移行帯内又は酢酸による白色化領域が存在する場所で識別された場合、ヨウ素陰性領域の境界が分析される。我々は、境界にあるゼロ交差の総数を計算した。ゼロ交差数が閾より多い場合、境界は不明瞭であり、その他の場合には境界は鮮明であると考えられる。
次に、個々の所見の自動分類を説明する。このステップでは、個々の所見の各々(酢酸による白色化の動態、酢酸による白色化のマージン、血管パターン及びヨウ素染色)は、以下の図に示すように、前述の臨床的所見の自動検出に基づき、ユーザに自動的に独立したスコアを与える。この部分は、上述の第2の特徴に位置する。システムは、どのスコアが与えられるかの確かさを示す。ユーザは、システムにより提供されたスコアに合意する又は合意しない選択肢を有する。
この部分の主な目的は、4つの異なる臨床的所見に基づき膣鏡記録にスコアを与えることである。
1.マージン(酢酸による白色化領域のマージンにより表される)
2.色(酢酸による白色化の動態により表される)
3.血管(モザイク、赤点及び特殊な血管により表される)
4.ヨウ素染色(ヨウ素の色吸収により表される)。
酢酸による白色化領域が識別されると、これらの領域の境界が得られる。図49に示すように、酢酸による白色化のマージンは大きく3種類に更に分類できる。図49は、本発明の一実施形態によるユーザインタフェース4900を示す。ユーザインタフェース4900は、頸部画像4902を示す。頸部画像4902の隣に、酢酸による白色化のマージンスコア4904、酢酸による白色化の動態スコア4906、血管パターンスコア4908、及びヨウ素染色スコア4910が示される。この下に、スコア調整セレクタがある。スコア調整セレクタ4912は、医療提供者が評価に合意しない場合、酢酸による白色化マージンスコア4904を調整するために、医療提供者により用いられる。このユーザインタフェースを用いて、異なるスコアが選択でき、画像4902が表示され、スコアはスコア調整セレクタ4912で変更できる。
酢酸による白色化マージンが移行帯の外側にある場合、ゼロのスコアが与えられる。酢酸による白色化領域が移行帯の内側にある場合、我々は、境界におけるゼロ交差数を計算した。「ゼロ交差」は、境界の兆候が陽性から陰性に又は陰性から陽性に変化する境界上の点である。辺縁明瞭な境界は、不明瞭な境界より多くのゼロ交差を有する。辺縁明瞭な境界と不明瞭な境界を区別する閾は、経験的に決定される。辺縁明瞭な境界を有する酢酸による白色化領域は、スコア1を与えられる。異なる不明瞭度インデックスを有する酢酸による白色化領域により囲まれた不明瞭な境界は、スコア2を与えられる。図50は、異なるマージンのスコアを有する例を示す。
図50は、コンジローマ様癌を発生した頸部の画像5002、辺縁明瞭な頸部画像5004、及びロールしたマージンの頸部画像5006を説明する3枚の酢酸による白色化の画像5002、5004、5006を示す。
図51に示すように、酢酸による白色化動態は大きく3種類に更に分類できる。図51は、不明瞭度指数の3つのサブクラスを説明する、3枚の酢酸により白色化した頸部の画像5102、5104、5106を示す。画像5102は雪のように白い外観を示し、画像5104は光沢のない白い外観を示し、画像5106は濃い白色の外観を示す。3つのサブクラスの各々について、不明瞭度指数は、以下のパターンを示す。これは、色の臨床的所見のスコアを決定する。
図52は、時間5200に対する不明瞭度指数5202のグラフを示す。このグラフでは、3つのサブクラスがある。サブクラス1 5204は画像5102に対応し、サブクラス2 5206は画像5104に対応し、サブクラス3 5208は画像5106に対応する。
図53に示すように、サブクラス1はスコア0を与えられ、サブクラス2はスコア1を与えられ、サブクラス3はスコア2を与えられる。図53は、ユーザインタフェース4900の別の図を示す。この例では、酢酸による白色化の動態スコア4906が選択されている。この例では、スコア調整セレクタ4912は、ユーザが酢酸により白色化した頸部の画像を雪のような白、光沢のない白、又は濃い白に選択できる。
次に、モザイク、赤点及び特殊な血管により表される血管の識別を説明する。これらの赤点及びモザイクパターンの粗さ又は精細さに基づき、血管所見は3つのサブクラスに分けられる。赤点及びモザイクが精細な場合には、スコア0が与えられる。赤点及びモザイクが粗い場合には、スコア2が与えられる。表面の血管が存在しない場合、スコア1が与えられる。特殊な血管は、色に基づくフィルタリング、その後の線に基づく検出により、検出できる。以下の図は、精細/粗モザイク及びパターン、並びにそれらがどのようにスコアを与えられるかの例を示す。
モザイクパターンは多様な外観で現れ、以下のような異なるタグを与えることができる。
−タイル状の均一な構造
−粗いモザイク
−精細なモザイク
−部分的に可視の早期モザイク及び不規則構造
−正反射を生じる***モザイク
−明確に見えない弱いモザイク
−特殊/正常な血管の散在するモザイク
−赤点の散在するモザイク
−血液又は円柱上皮に近い領域にあるモザイク。
強靱な学習に基づくアプローチは、これらのパターンを識別するために用いられても良い。このアプローチは、モザイクパターンの外観の拡大縮小、均一、粗さ、鏡面性及び雑音のような複数の変動を処理する能力を生来備えている。本発明の実施形態は、大部分の類似するパターンを区別し、最終的に真のモザイク領域を検出する能力を有し得る。
特徴選択は、このようなクラス内変動を解決するために、オブジェクトのセグメント化により実行されても良い。フラクタルに基づく特徴の後に勾配特徴のヒストグラムの共起性に基づく複数段階の分類アプローチが用いられても良い。これは、異なる形状を有するオブジェクトを確実に区別するので、有利なアプローチであり得る。これらは、特に異なる形状及び方向を有するオブジェクトを検出するために、オブジェクト検出において最も成功する特徴の一つである。全体のフレームワークは、パターン認識団体で近年人気を得ているランダムフォレスト(Random Forest)に基づく。
訓練されたパターン認識エンジン又はプログラムは、モザイク検出及び分類のために用いられても良い。赤点検出に関して前述したように、学習エンジンを訓練する第1のステップは、訓練データの生成である。これは、失敗したサンプルを選択することにより分類器を連続的に向上させる管理された方法で行われる。約50例が訓練目的で用いられ、訓練例は合計で約10000サンプルであった。各サンプルは、ウインドウサイズ60×60を有する訓練のために選択された点の近隣で取り込まれたカラー画像パッチである。これら全てのサンプルは、格納され、将来計算のために用いられる。
次に、特徴計算を説明する。前述のように、2種類の特徴が用いられる。第1の特徴は、有向勾配のヒストグラムの共起性(cohog)であり、訓練段階で得られた全てのサンプルに渡り計算される。これらは、単純な60×1のカラーヒストグラム(各チャネル20ビン、3つの色チャネル)特徴と合わせられ、明度変動に対して堅牢にする。第2の特徴セットは、フラクタルであり、線、円、自己相似性のようなオブジェクトの自然幾何学を抽出する際に助けとなる。これは、胸部超音波画像を分類するために用いられている。
複数段階のランダムフォレストは、堅牢性と感度を達成するために用いられている。システムは、2つの段階を有する。第1の段階は、フラクタルに基づく特徴に基づく。第2の段階は、cohog特徴に基づく。
フラクタル特徴による検査精度は、10000検査サンプルの6%から選択されたランダムに選択された検査セットを用いて、84%である。cohog特徴による第2の分類器は、10000検査サンプルの6%から選択されたランダムに選択された検査セットを用いて、86%の検査精度を達成した。実践として、訓練及び検査セットは、分離され排除される。
図54は、頸部画像5400の一例を示す。図55は、モザイク領域5502、5504、5506の示された同じ頸部の画像5400である。領域5502は、モザイクが存在する信頼性の低い領域を示す。領域5504は、モザイクが存在する信頼性の中程度の領域を示す。領域5506は、モザイク領域が存在する信頼性の高い領域を示す。
図56は、再びユーザインタフェース4900を示す。図56では、頸部画像5600は頸部にある精細なモザイクパターンを示す。
図57は、再びユーザインタフェース4900を示す。本例では、頸部画像5700は頸部にある粗いモザイクパターンを示す。
図58は、再びユーザインタフェース4900を示す。本例では、頸部画像5800は頸部にある精細な赤点マークを示す。
図59は、再びユーザインタフェース4900を示す。本例では、頸部画像5900は粗い赤点マークを有する頸部を示す。
ヨウ素染色。図60及び図61に示すように、ヨウ素染色は大きく3種類に更に分類できる。図60は、再びユーザインタフェース4900を示す。本例では、頸部画像は、ヨウ素処理された頸部画像6000である。
図61は、ヨウ素処理された頸部の3枚の画像6102、6104、6106を示す。画像6102は、陽性ヨウ素吸収を示す。画像6104は、部分的ヨウ素吸収を示す。3番目の画像6106は、陰性ヨウ素吸収を示す。画像6102は第1のサブクラスに対応し、画像6104は第2のサブクラスに対応し、画像6106は第3のサブクラスに対応する。
ヨウ素変化を自動的に決定するために、ヨウ素陰性(黄色)及び陽性領域(濃い茶色)はOtsu閾値化を用いて分けられる。ヒストグラムに基づくアプローチは、領域がヨウ素陰性又はヨウ素陽性かを分類するために用いられる。この後に、ヨウ素陰性領域が移行帯内に存在するか否かが識別される。陽性ヨウ素吸収が移行帯内にある場合、ゼロのスコアが与えられる。黄色及び茶色の両方の領域が移行帯内にある場合、スコア1が与えられる。酢酸により白色化した領域が黄色を示す場合、スコア2が与えられる。
4個全ての臨床的所見がスコアを与えられると、それらは加算され、最終的/全体的スコアを膣鏡検査/記録に与える。
図62は、Reid膣鏡指数に基づくスコア6200を有する表を示す。スコア6200は、酢酸による白色化のスコア、酢酸による白色化マージンスコア、血管パターンスコア、及びヨウ素染色スコアの値を加算することにより決定される。スコアに依存して、有望な診断である対応する組織像6202がある。スコア0−2では、組織像はCIN1が有望である。この場合、病変は前癌状態であり得る。スコアが3乃至4の間の場合、重なり合う病変が存在しても良く、癌はCIN1又はCIN2が有望である。この場合、患者は更なる検査により追跡したいと望むかも知れない。スコアが5乃至8の間の場合、組織像はCIN2又は3が有望であり、患者又は被検者は治療が必要な可能性がある。
種々の膣鏡診インデックスが臨床的に用いられ、膣鏡専門家はそれらのうちの如何なる1つを用いることを好む。幾つか名前を挙げると、Reid、修正Reid、簡易Reid、Swedeスコア等である。幾つかの実施形態では、基本的解剖学的特徴が自動的に検出され、ユーザが臨床的に用いられる如何なるインデックス付け方法も選択できるようにしても良い。
本発明は図面及び上述の説明で詳細に説明されたが、このような図面及び説明は説明及び例であり、本発明を限定するものではない。本発明は開示された実施形態に限定されない。開示された実施形態の他の変形は、図面、詳細な説明、及び請求項を読むことにより、当業者に理解され請求項に記載された発明を実施する際に実施されうる。留意すべき点は、用語「有する(comprising)」は他の要素又は段階を排除しないこと、及び単数を表す語(a、an)は複数を排除しないことである。特定の量が相互に異なる従属請求項に記載されるという事実は、これらの量の組合せが有利に用いることが出来ないことを示すものではない。請求項中のいかなる参照符号も請求の範囲又は本発明の範囲を制限するものと考えられるべきではない。
1 頸部
2 移行帯
3 円柱上皮
4 Os
1000 医療機器
1002 光学検査システム
1004 コンピュータ
1006 プロセッサ
1008ハードウェアインタフェース
1010 ユーザインタフェース
1012 コンピュータ記憶装置
1014コンピュータメモリ
1016 頸部画像
1018 関心点セット
1020 フィルタリングされた関心点セット
1022 削減された関心点セット
1024 分類された関心点セット
1026 赤点位置セット
1028 赤点マーク領域
1030 制御モジュール
1032 デジタルフィルタ
1034 形態フィルタ
1036 近隣に基づくフィルタ
1038 訓練された分類モジュール
1040 第2の近隣に基づくフィルタ
1100 頸部画像
1102 容易に位置を特定された赤点ポイントを有する領域
1104 第1の領域
1106 第2の領域
1108 第1の領域の拡大
1110 赤点領域
1112 第2の領域の拡大
1114 赤点領域
1116 赤点斑ポイントが強調表示された画像1110
1600 ツリー数
1602 赤点サンプルテストエラー
1700 頸部画像
1702 赤点を有する領域
1800 前処理後の画像1700
1900 検出された関心点を示す画像1700
2000 形態フィルタリング後の画像1900
2100 近隣フィルタリング後の画像2000
2200 RT分類器を用いた後の画像2100
2202 関心領域
2204 関心領域の拡大
2300 第2の近隣フィルタリング後の画像2200
2302 関心領域
2304 関心領域の拡大
2400 頸部画像
2302 関心領域
2404 領域2402の拡大画像
2406 赤点斑位置を有する画像2400
2408 赤点斑領域を有する画像2400
2500 頸部画像
2502 関心領域
2504 領域2502の拡大画像
2506 赤点斑位置を有する画像2500
2508 赤点斑領域を有する画像2500
2600 頸部画像
2602 関心領域
2604 領域2602の拡大画像
2606 赤点斑位置を有する画像2600
2608 赤点斑領域を有する画像2600
2700 頸部画像
2702 関心領域
2704 領域2702の拡大画像
2706 赤点斑位置を有する画像2700
2708 赤点斑領域を有する画像2700
2800 頸部画像
2802 赤点斑位置を有する画像2800
2804 赤点斑領域を有する画像2800
2900 頸部画像
2902 赤点斑位置を有する画像2900
2904 赤点斑領域を有する画像2900
3100 医療機器
3102 ビデオデータ
3104 移行セット
3105 累積的移行
3106 第1の画像
3108 第2の領域
3109 第1及び第2の画像の位置合わせ
3110 画像変換モジュール
3112 累積的移行計算モジュール
3114 画像位置合わせモジュール
3300 画像
3302 画像
3304 ボックス
3500 医療機器
3502 生理食塩水処理された頸部の画像
3504 酢酸により白色化した頸部の画像
3506 ヨウ素処理された頸部の画像
3508 酢酸による白色化の動態スコア
3510 酢酸による白色化のマージンスコア
3512 血管パターンスコア
3514 ヨウ素染色スコア
3516 膣鏡診インデックススコア
3520 酢酸による白色化の動態スコア計算モジュール
3522 酢酸による白色化のマージンスコア計算モジュール
3524 血管パターンスコア計算モジュール
3526 ヨウ素染色スコア計算モジュール
3528 膣鏡診インデックススコア計算モジュール
3800 酢酸により白色化した頸部の画像
3802 頸部領域
3900 ヨウ素処理された頸部の画像
3902 頸部領域
4000 ヒストグラム
4002 ヒストグラム
4100 ヨウ素処理された頸部の画像
4102 酢酸処理された頸部の画像
4104 頸部領域
4106 古いSCJ領域
4202 新しいSCJ領域
4302 Os
4400 ユーザインタフェース
4402 頸部画像
4404 膣鏡所見
4406 診断
4500 生理食塩水処理された頸部の画像
4502 酢酸により白色化した頸部の画像
4504 不明瞭画像
4506 生理食塩水処理された頸部の画像
4508 酢酸により白色化した頸部の画像
4510 不明瞭画像
4600 酢酸により白色化した頸部の画像
4602 酢酸により白色化した頸部の画像
4604 酢酸により白色化した頸部の画像
4606 赤点マーク
4608 赤点領域
4700 酢酸により白色化した頸部の画像
4702 酢酸により白色化した頸部の画像
4704 酢酸により白色化した頸部の画像
4706 モザイク領域
4708 強調表示されたモザイク領域
4800 頸部画像
4802 頸部画像
4804 候補白色腺
4808 白色腺
4900 ユーザインタフェース
4902 頸部画像
4904 酢酸による白色化のマージンスコア
4906 酢酸による白色化の動態スコア
4908 血管パターンスコア
4910 ヨウ素染色スコア
4912 スコア調整セレクタ
5002 コンジローマ様癌を生じた頸部の画像
5004 鮮明なマージンの頸部画像
5006 ロールしたマージンの頸部画像
5102 雪のように白い頸部の画像
5104 光沢のない白色の頸部の画像
5106 濃い白色の頸部の画像
5200 時間
5202 不明瞭インデックス
5204 サブクラス1
5206 サブクラス2
5208 サブクラス3
5400 頸部画像
5502 低信頼性モザイク領域
5504 中信頼性モザイク領域
5506 高信頼性モザイク領域
5600 精細なモザイクを示す頸部画像
5700 粗いモザイクを示す頸部画像
5800 精細な赤点を示す頸部画像
5900 粗い赤点を示す頸部画像
6000 ヨウ素処理された頸部の画像
6102 ヨウ素処理された頸部の画像内の陽性ヨウ素吸収
6104 ヨウ素処理された頸部の画像内の陽性ヨウ素吸収
6104 ヨウ素処理された頸部の画像内の陽性ヨウ素吸収
6200 スコア
6202 組織像

Claims (15)

  1. 医療機器であって:
    −頸部画像を取得する光学検査システム;
    −前記医療機器を制御するプロセッサ;
    −前記プロセッサにより実行される機械実行可能命令を有するメモリ;
    を有し、前記命令の実行は、前記プロセッサに:
    前記プロセッサが前記光学検査システムを用いて取得した複数の画像フレームを有するビデオデータから、第1の頸部画像及び第2の頸部画像を取得させ
    前記第1の頸部画像について、
    −デジタルフィルタを用いて関心点位置セットを計算させ
    −前記関心点位置セット及び形態フィルタを用いてフィルタリングされた関心点位置セットを計算させ
    −前記フィルタリングされた関心点位置セット及び近隣に基づくフィルタを用いて削減された関心点位置セットを計算させ
    −前記削減された関心点セット及び訓練された分類モジュールを用いて分類された関心点位置セットを計算させ
    −前記分類された関心点位置セット及び第2の近隣に基づくフィルタを用いて赤点斑位置セットを計算させ
    −前記赤点斑位置を用いて赤点斑マーク領域を計算させ
    −前記赤点斑マーク領域を出力させ;
    前記第2の頸部画像について、
    −前記デジタルフィルタを用いて第2の関心点位置セットを計算させ
    −前記第2の関心点位置セット及び前記形態フィルタを用いて第2のフィルタリングされた関心点位置セットを計算させ
    −前記第2のフィルタリングされた関心点位置セット及び前記近隣に基づくフィルタを用いて第2の削減された関心点位置セットを計算させ
    −前記訓練された分類モジュール及び前記第2の削減された関心点セットを用いて第2の分類された関心点位置セットを計算させ
    −前記第2の近隣に基づくフィルタ及び前記第2の分類された関心点位置セットを用いて第2の赤点斑位置セットを計算させ、前記赤点斑マーク領域は、前記赤点斑位置及び前記第2の赤点斑位置を用いて計算され;
    前記第1の頸部画像及び前記第2の頸部画像を位置合わせさせ、前記位置合わせは、前記プロセッサに:
    −前記複数の画像フレームから選択された連続画像フレームの各対の間の移行モデルを決定させ
    −前記連続画像フレームの各対の間の移行モデルから累積的移行モデルを計算させ
    −前記累積的移行モデルを用いて前記第1の頸部画像及び前記第2の頸部画像の位置合わせを提供させる;
    ことにより行われる、
    医療機器。
  2. 前記第1の頸部画像は生理食塩水処理された頸部の画像であり、前記命令の実行は、前記プロセッサに、さらに:
    −前記光学検査システムを用いて複数の酢酸により白色化した頸部の画像を取得させ
    −前記光学検査システムを用いてヨウ素処理された頸部の画像を取得させ
    −前記酢酸により白色化した頸部の画像を用いて酢酸による白色化の動態スコアを計算させ
    −前記酢酸により白色化した頸部の画像を用いて酢酸による白色化のマージンスコアを計算させ
    −前記酢酸により白色化した頸部の画像及び前記生理食塩水処理された頸部の画像を用いて、血管パターンスコアを計算させ
    −前記ヨウ素処理された頸部の画像を用いてヨウ素染色スコアを計算させ
    −前記酢酸による白色化の動態スコア、前記酢酸による白色化のマージンスコア、前記血管パターンスコア、及び前記ヨウ素染色スコアを加算することにより、膣鏡診インデックススコアを決定させる;
    請求項1に記載の医療機器。
  3. 前記医療機器は、ディスプレイ及びユーザインタフェースを更に有する請求項2に記載の医療機器。
  4. 前記命令の実行は、前記プロセッサに、さらに:
    −前記ディスプレイに少なくとも1つの前記酢酸により白色化した頸部の画像を表示させ
    −前記ディスプレイに前記酢酸による白色化の動態スコアを表示させ
    −前記ユーザインタフェースから修正された酢酸による白色化の動態スコアを受信させ、前記膣鏡診インデックススコアは、前記修正された酢酸による白色化の動態スコアを用いて少なくとも部分的に決定される;
    請求項3に記載の医療機器。
  5. 前記命令の実行は、前記プロセッサに、さらに:
    −前記ディスプレイに少なくとも1つの前記酢酸により白色化した頸部の画像を表示させ
    −前記ディスプレイに前記酢酸による白色化のマージンスコアを表示させ
    −前記ユーザインタフェースから修正された酢酸による白色化のマージンスコアを受信させ、前記膣鏡診インデックススコアは、前記修正された酢酸による白色化のマージンスコアを用いて少なくとも部分的に決定される;
    請求項3又は4に記載の医療機器。
  6. 前記命令の実行は、前記プロセッサに、さらに:
    −前記ディスプレイに少なくとも1つの前記酢酸により白色化した頸部の画像を表示させ
    −前記ディスプレイに前記血管パターンスコアを表示させ
    −前記ユーザインタフェースから修正された血管パターンスコアを受信させ、前記膣鏡診インデックススコアは、前記修正された血管パターンスコアを用いて少なくとも部分的に決定される;
    請求項3、4又は5に記載の医療機器。
  7. 前記命令の実行は、前記プロセッサに、さらに:
    −前記生理食塩水処理された頸部の画像内でモザイク、前記赤点斑マーク領域、及び/又は特殊な血管を識別させ
    −前記酢酸により白色化した頸部の画像から選択された1つの酢酸により白色化した頸部の画像内で酢酸処理後のモザイク、酢酸処理後の赤点斑マーク領域、及び/又は酢酸処理後の特殊な血管を識別させ、前記血管パターンスコアは、前記モザイク及び前記酢酸処理後のモザイク;前記赤点斑マーク領域及び前記酢酸処理後の赤点斑マーク領域;及び前記特殊な血管及び前記酢酸処理後の特殊な血管;並びにそれらの組合せ;のうちの1つの間の差を用いて計算される、請求項3乃至6のいずれか一項に記載の医療機器。
  8. 前記第1の頸部画像は:第1の酢酸処理前画像、第1の緑色フィルタ画像、及び第1の酢酸処理後画像のうちのいずれか1つであり;前記第2の頸部画像は:第2の酢酸処理前画像、第2の緑色フィルタ画像、及び第2の酢酸処理後画像のうちのいずれか1つである;請求項1乃至7のいずれか一項に記載の医療機器。
  9. 前記命令の実行は、前記プロセッサに、さらに:
    −連続画像フレームの少なくとも1つの対の間の移行モデルの決定の失敗を検出させ
    −前記失敗の前の前記ビデオデータから選択された第1の画像フレームから第1の画像セグメント化を計算させ
    −前記失敗の後の前記ビデオデータから選択された第2の画像フレームから第2の画像セグメント化を計算させ
    −前記第1の画像フレームと前記第2の画像フレームとの間の第2の移行を決定させ
    −前記第2の移行を用いて前記累積的移行モデルを修正させる;
    請求項1乃至8のいずれか一項に記載の医療機器。
  10. 前記命令の実行は、前記プロセッサに、さらに:
    −連続画像フレームの少なくとも1つの対の間の移行の決定の失敗を検出させ
    −前記失敗の前の前記ビデオデータから第1の画像フレームを選択させ
    −前記失敗の後の前記ビデオデータから第2の画像フレームを選択させ
    −前記第1の画像フレームと前記第2の画像フレームとの間の第2の移行を決定させ
    −前記第2の移行を用いて前記累積的移行モデルを修正させる;
    請求項1乃至8のいずれか一項に記載の医療機器。
  11. 前記第1の頸部画像は造影剤前及び/又は刺激剤前画像であり、前記第2の頸部画像は造影剤後及び/又は刺激剤後画像であり、前記命令の実行は、前記プロセッサに、さらに:
    −前記第1及び第2の頸部画像内の基本的解剖学的オブジェクト、つまりOs、柱状領域及び移行帯を識別させ
    −不明瞭度差スコアを生成させる;
    請求項1乃至10のいずれか一項に記載の医療機器。
  12. 前記第2の頸部画像は、前記第1の頸部画像内の少なくとも部分的に拡大された領域を示す拡大画像である、請求項1乃至11のいずれか一項に記載の医療機器。
  13. 前記命令の実行は、前記プロセッサに、さらに、ディスプレイに前記第1の頸部画像に重ね合わされた前記赤点斑マーク領域を表示させる、請求項1乃至12のいずれか一項に記載の医療機器。
  14. 医療機器を制御するプロセッサによる実行のための機械実行可能命令を有するコンピュータプログラムであって、前記医療機器は、頸部画像を取得する光学検査システムを有し;
    前記命令の実行は、前記プロセッサに:
    前記プロセッサが前記光学検査システムを用いて取得した複数の画像フレームを有するビデオデータから、第1の頸部画像及び第2の頸部画像を取得させ
    前記第1の頸部画像について、
    −デジタルフィルタを用いて関心点位置セットを計算させ
    −前記関心点位置セット及び形態フィルタを用いてフィルタリングされた関心点位置セットを計算させ
    −前記フィルタリングされた関心点位置セット及び近隣に基づくフィルタを用いて削減された関心点位置セットを計算させ
    −前記削減された関心点セット及び訓練された分類モジュールを用いて分類された関心点位置セットを計算させ
    −前記分類された関心点位置セット及び第2の近隣に基づくフィルタを用いて赤点斑位置セットを計算させ
    −前記赤点斑位置を用いて赤点斑マーク領域を計算させ;
    前記第2の頸部画像について、
    −前記デジタルフィルタを用いて第2の関心点位置セットを計算させ
    −前記第2の関心点位置セット及び前記形態フィルタを用いて第2のフィルタリングされた関心点位置セットを計算させ
    −前記第2のフィルタリングされた関心点位置セット及び前記近隣に基づくフィルタを用いて第2の削減された関心点位置セットを計算させ
    −前記訓練された分類モジュール及び前記第2の削減された関心点セットを用いて第2の分類された関心点位置セットを計算させ
    −前記第2の近隣に基づくフィルタ及び前記第2の分類された関心点位置セットを用いて第2の赤点斑位置セットを計算させ、前記赤点斑マーク領域は、前記赤点斑位置及び前記第2の赤点斑位置を用いて計算され;
    前記第1の頸部画像及び前記第2の頸部画像を位置合わせさせ、前記位置合わせは、前記プロセッサに:
    −前記複数の画像フレームから選択された連続画像フレームの各対の間の移行モデルを決定させ
    −前記連続画像フレームの各対の間の移行モデルから累積的移行モデルを計算させ
    −前記累積的移行モデルを用いて前記複数の画像フレームの各々を位置合わせさせ
    −前記累積的移行モデルを用いて前記第1の頸部画像及び前記第2の頸部画像の位置合わせを提供させる;
    コンピュータプログラム。
  15. 医療機器の作動方法であって、前記医療機器は、頸部画像を取得する光学検査システムと、プロセッサ及びメモリを有し前記光学検査システムに結合されるコンピュータと、を有し、前記メモリは、前記プロセッサにより実行される制御モジュール、デジタルフィルタ、形態フィルタ、近隣に基づくフィルタ、訓練された分類モジュール、第2の近隣に基づくフィルタ、画像変換モジュール、累積的移行計算モジュール、画像位置合わせモジュール、を格納し
    前記作動方法は:
    前記プロセッサが前記光学検査システムを用いて取得した複数の画像フレームを有するビデオデータから、前記プロセッサが第1の頸部画像及び第2の頸部画像を取得するステップ;
    前記第1の頸部画像について:
    前記プロセッサが前記デジタルフィルタを用いて関心点位置セットを計算するステップ;
    前記プロセッサが前記関心点位置セット及び前記形態フィルタを用いてフィルタリングされた関心点位置セットを計算するステップ;
    前記プロセッサが前記フィルタリングされた関心点位置セット及び前記近隣に基づくフィルタを用いて削減された関心点位置セットを計算するステップ;
    前記プロセッサが前記削減された関心点セット及び前記訓練された分類モジュールを用いて分類された関心点位置セットを計算するステップ;
    前記プロセッサが前記分類された関心点位置セット及び前記第2の近隣に基づくフィルタを用いて赤点斑位置セットを計算するステップ;
    前記プロセッサが前記赤点斑位置を用いて赤点斑マーク領域を計算するステップ;
    前記第2の頸部画像について:
    前記プロセッサが前記デジタルフィルタを用いて第2の関心点位置セットを計算するステップ;
    前記プロセッサが前記第2の関心点位置セット及び前記形態フィルタを用いて第2のフィルタリングされた関心点位置セットを計算するステップ;
    前記プロセッサが前記第2のフィルタリングされた関心点位置セット及び前記近隣に基づくフィルタを用いて第2の削減された関心点位置セットを計算するステップ;
    前記プロセッサが前記訓練された分類モジュール及び前記第2の削減された関心点セットを用いて第2の分類された関心点位置セットを計算するステップ;
    前記プロセッサが前記第2の近隣に基づくフィルタ及び前記第2の分類された関心点位置セットを用いて第2の赤点斑位置セットを計算するステップであって、前記赤点斑マーク領域は、前記赤点斑位置及び前記第2の赤点斑位置を用いて計算され、ステップ;
    前記プロセッサが前記第1の頸部画像及び前記第2の頸部画像を位置合わせするステップであって:
    前記プロセッサが前記画像変換モジュールを用いて前記複数の画像フレームから選択された連続画像フレームの各対の間の移行モデルを決定するステップ;
    前記プロセッサが前記累積的移行計算モジュールを用いて前記連続画像フレームの各対の間の移行モデルから累積的移行モデルを計算するステップ;
    前記プロセッサが前記画像位置合わせモジュールを用いて前記累積的移行モデルを用いて前記第1の頸部画像及び前記第2の頸部画像の前記位置合わせを提供するステップ;
    を含むステップ;
    を有する方法。
JP2013558549A 2011-03-16 2012-03-12 頸部を検査する医療機器 Expired - Fee Related JP6231885B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP11305291 2011-03-16
EP11305291.4 2011-03-16
US201161567158P 2011-12-06 2011-12-06
US61/567,158 2011-12-06
PCT/IB2012/051149 WO2012123881A2 (en) 2011-03-16 2012-03-12 Medical instrument for examining the cervix

Publications (2)

Publication Number Publication Date
JP2014508021A JP2014508021A (ja) 2014-04-03
JP6231885B2 true JP6231885B2 (ja) 2017-11-15

Family

ID=46831131

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013558549A Expired - Fee Related JP6231885B2 (ja) 2011-03-16 2012-03-12 頸部を検査する医療機器

Country Status (6)

Country Link
US (1) US9107569B2 (ja)
EP (1) EP2685881B1 (ja)
JP (1) JP6231885B2 (ja)
CN (1) CN103442628B (ja)
IN (1) IN2013CN07995A (ja)
WO (1) WO2012123881A2 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BR112015006004A2 (pt) * 2012-09-21 2017-07-04 Koninklijke Philips Nv sistema e método para rotular uma imagem cervical obtida durante uma colposcopia de uma paciente, estação de trabalho ou dispositivo de imagem, colposcópio, e, produto de programa de computador
CN103126646A (zh) * 2013-03-21 2013-06-05 山西瑞克普生物科技有限公司 ***镜、宫腔镜用图像分析***
RU2676432C2 (ru) 2013-04-18 2018-12-28 Конинклейке Филипс Н.В. Получение цервикальных изображений
US9427137B2 (en) 2013-05-15 2016-08-30 Koninklijke Philips N.V. Imaging a patient's interior
CN103325128B (zh) * 2013-05-16 2016-08-17 深圳市理邦精密仪器股份有限公司 一种智能识别***镜所采集的图像特征的方法及装置
US10002427B2 (en) 2013-10-11 2018-06-19 Mauna Kea Technologies Method for characterizing images acquired through a video medical device
US10028649B2 (en) * 2013-12-02 2018-07-24 Welch Allyn, Inc. Digital colposcope system
WO2015101496A1 (en) * 2013-12-30 2015-07-09 Koninklijke Philips N.V. Method and apparatus for cervical image analysis with improved reliability
CN103767658B (zh) * 2013-12-30 2017-02-08 深圳市理邦精密仪器股份有限公司 电子***镜图像的采集方法及装置
CN103932665B (zh) * 2014-03-17 2016-03-02 深圳市理邦精密仪器股份有限公司 一种电子***镜图像的显示方法及装置
JP2017515588A (ja) * 2014-05-14 2017-06-15 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. コルポスコピー手順を実行するためのコルポスコピー装置
CN104217437A (zh) * 2014-09-19 2014-12-17 西安电子科技大学 ***kvct图像的病变区域分割方法
US10925579B2 (en) * 2014-11-05 2021-02-23 Otsuka Medical Devices Co., Ltd. Systems and methods for real-time tracking of a target tissue using imaging before and during therapy delivery
WO2016097910A1 (en) * 2014-12-15 2016-06-23 Koninklijke Philips N.V. Quality control of image registration
EP3325938B1 (en) * 2015-05-25 2022-05-11 Natarajan, Adarsh Sample stainer
US11087461B2 (en) * 2016-06-28 2021-08-10 Sony Corporation Image processing device, image processing method, medical imaging system
KR101923183B1 (ko) * 2016-12-14 2018-11-28 삼성전자주식회사 의료 영상 표시 방법 및 의료 영상 표시 장치
WO2018216618A1 (ja) * 2017-05-25 2018-11-29 日本電気株式会社 情報処理装置、制御方法、及びプログラム
CN107368669A (zh) * 2017-06-02 2017-11-21 吕尚格 一种妇产科全方位检查成像管理***
JP7054436B2 (ja) * 2017-12-14 2022-04-14 オムロン株式会社 検出システム、情報処理装置、評価方法及びプログラム
CN110123254B (zh) * 2018-02-09 2022-04-05 深圳市理邦精密仪器股份有限公司 电子***镜图像调节方法、***及终端设备
US11335079B2 (en) * 2018-03-05 2022-05-17 Intel Corporation Method and system of reflection suppression for image processing
EP3804605A4 (en) * 2018-06-04 2021-08-18 FUJIFILM Corporation IMAGE PROCESSING DEVICE, ENDOSCOPE SYSTEM AND IMAGE PROCESSING METHOD
CN112867431A (zh) * 2018-06-13 2021-05-28 移动Odt公司 宫颈成像中的自动检测
US20210374953A1 (en) * 2018-10-04 2021-12-02 Duke University Methods for automated detection of cervical pre-cancers with a low-cost, point-of-care, pocket colposcope
JP7143436B2 (ja) * 2018-11-01 2022-09-28 富士フイルム株式会社 医療画像処理装置、医療画像処理装置の作動方法及びプログラム、診断支援装置
KR102268335B1 (ko) * 2019-10-28 2021-06-24 주식회사 아이도트 자궁경부 영상 획득기
CN111738980B (zh) * 2020-05-14 2023-08-04 北京深睿博联科技有限责任公司 一种医学影像的显示方法、计算机设备及存储介质
WO2022196493A1 (ja) * 2021-03-17 2022-09-22 テルモ株式会社 プログラム、情報処理方法、画像診断装置及び学習済みモデルの生成方法
KR102625668B1 (ko) * 2021-07-07 2024-01-18 성신여자대학교 연구 산학협력단 캡슐 내시경 장치 및 병변 진단 지원 방법

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7260248B2 (en) 1999-12-15 2007-08-21 Medispectra, Inc. Image processing using measures of similarity
JP4845318B2 (ja) * 2000-03-28 2011-12-28 ボード・オブ・リージエンツ,ザ・ユニバーシテイ・オブ・テキサス・システム 診断用マルチスペクトルデジタル画像化のための方法および装置
JP4493408B2 (ja) * 2003-06-06 2010-06-30 富士フイルム株式会社 画像読影支援方法及び装置並びにプログラム
US7664300B2 (en) 2005-02-03 2010-02-16 Sti Medical Systems, Llc Uterine cervical cancer computer-aided-diagnosis (CAD)
US20090076368A1 (en) 2007-04-11 2009-03-19 Forth Photonics Ltd. Integrated imaging workstation and a method for improving, objectifying and documenting in vivo examinations of the uterus
WO2009058171A2 (en) 2007-08-03 2009-05-07 Sti Medical Systems, Llc Computerized image analysis for a acetic acid induced cervical intraepithelial neoplasia
EP2344982A4 (en) 2008-10-10 2012-09-19 Sti Medical Systems Llc METHODS FOR CLASSIFYING TISSUE IN UTERUS COLLAR IMAGING

Also Published As

Publication number Publication date
EP2685881A2 (en) 2014-01-22
CN103442628A (zh) 2013-12-11
WO2012123881A3 (en) 2012-12-20
WO2012123881A2 (en) 2012-09-20
US9107569B2 (en) 2015-08-18
IN2013CN07995A (ja) 2015-08-21
CN103442628B (zh) 2016-06-15
JP2014508021A (ja) 2014-04-03
EP2685881B1 (en) 2020-08-19
US20140005477A1 (en) 2014-01-02

Similar Documents

Publication Publication Date Title
JP6231885B2 (ja) 頸部を検査する医療機器
US11562820B2 (en) Computer classification of biological tissue
Cao et al. Hierarchical method for cataract grading based on retinal images using improved Haar wavelet
Jitpakdee et al. A survey on hemorrhage detection in diabetic retinopathy retinal images
CN108257129B (zh) 基于多模态检测网络的宫颈活检区域辅助识别方法及装置
RU2633320C2 (ru) Отбор изображений для оптического исследования шейки матки
CN113420826B (zh) 一种肝脏病灶图像处理***及图像处理方法
CN114782307A (zh) 基于深度学习的增强ct影像直肠癌分期辅助诊断***
CN112927179A (zh) 肝肿瘤智慧分析方法
Sornapudi et al. Automated cervical digitized histology whole-slide image analysis toolbox
Obukhova et al. Automated image analysis in multispectral system for cervical cancer diagnostic
KR102095730B1 (ko) 딥러닝 기반의 대장 병변 검출 방법
Aina et al. Deep learning for image-based cervical cancer detection and diagnosis—a survey
CN112419246B (zh) 量化食管粘膜IPCLs血管形态分布的深度检测网络
Wang et al. Automated segmentation of breast arterial calcifications from digital mammography
Nahrawi et al. A Novel Nucleus Detection on Pap Smear Image Using Mathematical Morphology Approach
WO2013150419A1 (en) Quality-check during medical imaging procedure
Ashame et al. Abnormality Detection in Eye Fundus Retina
Bernal et al. Towards intelligent systems for colonoscopy
Ting et al. Auto-probing breast cancer mass segmentation for early detection
Saranya et al. Detecting Exudates in Color Fundus Images for Diabetic Retinopathy Detection Using Deep Learning
Andrade A Portable System for Screening of Cervical Cancer
Andrade et al. Automatic Segmentation of the Cervical Region in Colposcopic Images.
Mustafa et al. Evaluating GrabCut Algorithm for Cervical Cancer Lesion Segmentation
Long et al. Technology for medical education, research, and disease screening by exploitation of biomarkers in a large collection of uterine cervix images

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130918

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150311

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170613

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171020

R150 Certificate of patent or registration of utility model

Ref document number: 6231885

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees