JP6313325B2 - バイオマーカー発現の選択及び表示 - Google Patents

バイオマーカー発現の選択及び表示 Download PDF

Info

Publication number
JP6313325B2
JP6313325B2 JP2015545892A JP2015545892A JP6313325B2 JP 6313325 B2 JP6313325 B2 JP 6313325B2 JP 2015545892 A JP2015545892 A JP 2015545892A JP 2015545892 A JP2015545892 A JP 2015545892A JP 6313325 B2 JP6313325 B2 JP 6313325B2
Authority
JP
Japan
Prior art keywords
image
panel
region
biomarker
field
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015545892A
Other languages
English (en)
Other versions
JP2016511846A (ja
Inventor
ヘンダーソン,デイヴィッド・ラヴァン
ラザレ,マイケル・エス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Global Life Sciences Solutions USA LLC
Original Assignee
Amersham Biosciences Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Amersham Biosciences Corp filed Critical Amersham Biosciences Corp
Publication of JP2016511846A publication Critical patent/JP2016511846A/ja
Application granted granted Critical
Publication of JP6313325B2 publication Critical patent/JP6313325B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16BBIOINFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR GENETIC OR PROTEIN-RELATED DATA PROCESSING IN COMPUTATIONAL MOLECULAR BIOLOGY
    • G16B25/00ICT specially adapted for hybridisation; ICT specially adapted for gene or protein expression
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N35/00Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842Selection of displayed objects or displayed text elements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0486Drag-and-drop
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16BBIOINFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR GENETIC OR PROTEIN-RELATED DATA PROCESSING IN COMPUTATIONAL MOLECULAR BIOLOGY
    • G16B45/00ICT specially adapted for bioinformatics-related data visualisation, e.g. displaying of maps or networks
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N35/00Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor
    • G01N35/00584Control arrangements for automatic analysers
    • G01N35/00722Communications; Identification
    • G01N2035/00891Displaying information to the operator
    • G01N2035/0091GUI [graphical user interfaces]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Medical Informatics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Evolutionary Biology (AREA)
  • Biotechnology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Biophysics (AREA)
  • Analytical Chemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Chemical & Material Sciences (AREA)
  • Biochemistry (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Genetics & Genomics (AREA)
  • Molecular Biology (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、バイオマーカー発現の選択及び表示に関する。
バイオマーカーの発現を明らかにするよう処理された組織試料の検査は、生物学的研究及び臨床研究のための知られたツールである。そのような処理の一つは、関心対象のバイオマーカー、一般にタンパク質に特異的な抗体又は抗体代用物、例えば抗体フラグメントなどの使用を伴う。そのような抗体又は抗体代用物は、適切な条件下でシグナルを生成する能力をもつ部分で直接的に又は間接的に標識することができる。例えば、蛍光部分を抗体に結合させて、処理した組織を蛍光について調べることができる。得られたシグナルは、一般に、存在するバイオマーカーの存在と量の両方を示す。
米国特許出願公開第2011/0091091号明細書
例となる一実施形態によれば、生体試料の視野に1以上のバイオマーカーの発現レベルを表示するためのコンピュータ実装方法が提供される。この方法には、グラフィックユーザインターフェースを視覚表示装置にレンダリングすることが含まれる。グラフィックユーザインターフェースには、主画像パネル及びバイオマーカーパネルが含まれる。この方法には、選択された生体試料に対応する視野を選択するユーザ入力を受け取ること、及び、主画像パネルに、生体試料に対応する選択された視野の第1の画像をレンダリングすることが含まれる。この方法には、主画像パネルの第1の画像の上に重ねて、ユーザが第1の画像内の第1の領域を選択することを可能にする関心対象領域選択コンポーネントをレンダリングすることが含まれる。また、この方法には、バイオマーカーパネルに、第1の画像内の第1の領域に対応するサムネイル画像の第1のセットをレンダリングすることが含まれ、該サムネイル画像の第1のセットはバイオマーカーのセットの発現レベルを表示する。この方法には、主画像パネルで、第1の画像中の第2の領域を選択するユーザ入力を受け取ること、及び、第1の画像内の第2の領域を選択するユーザ入力に基づいて、バイオマーカーパネルを更新してサムネイル画像の第1のセットを第1の画像内の第2の領域に対応するサムネイル画像の第2のセットに置き換え、バイオマーカーのセットの発現レベルを表示することがさらに含まれる。
別の例となる実施形態によれば、生体試料の視野に1以上のバイオマーカーの発現レベルを表示するためのコンピュータシステムが提供される。このコンピュータシステムには、グラフィックユーザインターフェースを表示するための視覚表示装置、及び視覚表示装置に連結されているコンピュータ処理装置が含まれる。このコンピュータ処理装置は、グラフィックユーザインターフェースを視覚表示装置にレンダリングするようにプログラム又は構成され、該グラフィックユーザインターフェースには主画像パネル及びバイオマーカーパネルが含まれる。このコンピュータ処理装置は、選択された生体試料に対応する視野を選択するユーザ入力を受け取り、主画像パネルに、生体試料に対応する選択された視野の第1の画像をレンダリングするようにプログラム又は構成されている。このコンピュータ処理装置は、主画像パネルの第1の画像の上に重ねて、ユーザが第1の画像内の第1の領域を選択することを可能にする関心対象領域選択コンポーネントをレンダリングするようにプログラム又は構成されている。このコンピュータ処理装置はまた、バイオマーカーパネルに、第1の画像内の第1の領域に対応するサムネイル画像の第1のセットをレンダリングするようにプログラム又は構成され、該サムネイル画像の第1のセットはバイオマーカーのセットの発現レベルを表示する。このコンピュータ処理装置は、さらに、主画像パネルで、第1の画像中の第2の領域を選択するユーザ入力を受け取り、第1の画像内の第2の領域を選択するユーザ入力に基づいて、バイオマーカーパネルを更新してサムネイル画像の第1のセットを第1の画像内の第2の領域に対応するサムネイル画像の第2のセットに置き換え、バイオマーカーのセットの発現レベルを表示するようにプログラム又は構成されている。
別の例となる実施形態によれば、1以上の一時的でない、コンピュータで読み取り可能な媒体が提供される。この一時的でない、コンピュータで読み取り可能な媒体は、演算装置で実行した場合、生体試料の視野に1以上のバイオマーカーの発現レベルを表示するための方法を実施する、1以上のコンピュータで実行可能な命令がそれにエンコードされている。この方法には、グラフィックユーザインターフェースを視覚表示装置にレンダリングする工程が含まれる。グラフィックユーザインターフェースには、主画像パネル及びバイオマーカーパネルが含まれる。この方法には、選択された生体試料に対応する視野を選択するユーザ入力を受け取ること、及び、主画像パネルに、生体試料に対応する選択された視野の第1の画像をレンダリングすることが含まれる。この方法には、主画像パネルの第1の画像の上に重ねて、ユーザが第1の画像内の第1の領域を選択することを可能にする関心対象領域選択コンポーネントをレンダリングすることが含まれる。また、この方法には、バイオマーカーパネルに、第1の画像内の第1の領域に対応するサムネイル画像の第1のセットをレンダリングすることが含まれ、該サムネイル画像の第1のセットはバイオマーカーのセットの発現レベルを表示する。この方法にはさらに、主画像パネルで、第1の画像内の第2の領域を選択するユーザ入力を受け取ること、及び、第1の画像内の第2の領域を選択するユーザ入力に基づいて、バイオマーカーパネルを更新して、サムネイル画像の第1のセットを第1の画像内の第2の領域に対応するサムネイル画像の第2のセットに置き換え、バイオマーカーのセットの発現レベルを表示することが含まれる。
別の例となる実施形態によれば、表示される画像は、捕捉され、取り出し可能な記録にアップロードされてよい。
例となる実施形態の前述及び他の目的、態様、特徴、及び利点は、添付の図面と併せて、以下の説明を参照することにより、より明らかになり、よりよく理解されるであろう。
バイオマーカー発現データを格納するための例となるデータ構造を示す図である。 生体試料の1以上の視野を表示するための例となるユーザインターフェースを示す図である。 主画像パネルにおいて視野内のバイオマーカーの発現レベルを表示する、図2のユーザインターフェースを示す図である。 互いに対して水平に配置された2つの画像サブパネルに分割された主画像パネルを表示する図3のユーザインターフェースを示す図である。 互いに対して垂直に配置された2つの画像サブパネルに分割された主画像パネルを表示する図3のユーザインターフェースを示す図である。 左側のサブパネルが、視野の左側の部分のバイオマーカーの発現レベルを示し、右側のサブパネルが、視野の右側の部分の形態学上の特徴を示す画像を表示する図4のユーザインターフェースを示す図である。 2又はそれ以上の画像サブパネルの大きさを調節するために使用され得るスライダコンポーネントを表示する図6のユーザインターフェースを示す図である。 生体試料の視野の分割画面表示を提供するための例となるコンピュータ実装方法のフローチャートを示す図である。 図4の画像サブパネルを表示するために必要な画像データを格納するための例となるデータ構造を示す図である。 バイオマーカー発現データの1以上のサムネイル画像を含む、主画像パネル及びバイオマーカーパネルを表示するためのユーザインターフェースを示す図である。 主画像パネルにおいて様々なズームレベルで様々な視野を表示する図10のユーザインターフェースを示す図である。 関心対象の形態学上の特徴が、主画像パネル内の関心対象領域選択コンポーネントの境界から外れる、図10のユーザインターフェースを示す図である。 関心対象の形態学上の特徴が、主画像パネル内の関心対象領域選択コンポーネントの境界の中に入る、図12のユーザインターフェースを示す図である バイオマーカー発現データの1以上のサムネイル画像を含む、主画像パネル及びバイオマーカーパネルを表示するためのユーザインターフェースを示す図である。 生体試料の視野に1以上のバイオマーカーの発現レベルを表示するための例となるコンピュータ実装方法のフローチャートを示す図である。 生体試料の視野の分割画面ビューと、視野の一領域に対応するバイオマーカー発現データの1以上のサムネイル画像を含むバイオマーカーパネルとを表示するためのユーザインターフェースを示す図である。 例となる実施形態では使用可能な、例となるネットワーク環境のブロック図を示す図である。 本明細書に記載されるユーザインターフェースのいずれかを実行するようにプログラムされたクライアント演算装置とタイリング画像データサーバとの間の相互作用を説明する例となるフローチャートを示す図である。 クライアント演算装置によって生成され得る画像メトリック要求の一例を示す図である。 図19の画像メトリック要求に対するXMLに基づく応答の一例を示す図である。 クライアント演算装置によって生成され得るタイル画像要求の一例を示す図である。 本明細書に記載されるユーザインターフェースのいずれかを実行するようにプログラムされたクライアント演算装置とタイリング画像データサーバとの間の相互作用を説明するフローチャートを示す図である。 例となる実施形態で使用可能な、例となる演算装置のブロック図を示す図である。 本発明の代わりのビューアを示す図である。 図24のビューアの部分画像の10倍の倍率で得られる、スライド上の試料の分子H&E画像を示す図である。 図24のビューアのCD30のmDAB画像の10倍表示を示す図である。 ビューイングパネルにおいてサムネイル画像を表示するこの機能を示す図である。 40倍の解像度で撮影された、多重モノクロ画像の色の混合を示す図である。 図28のビューイングパネルの部分ビュー上での、本発明によって提供される混合インターフェースをさらに示す図である。 本発明のデジタルプリズムの代わりの実施形態を示す図である。 図28のビューイングパネルの部分ビュー上での、1つのパネル上のmDAB CD30画像、及び隣接するパネルの中のmDAB Pax5画像の選択を示す図である。 図31の2つの画像の選択可能な配向を示す図である。 図28のビューイングパネルの部分ビューで見るために選択された2つの画像を識別するバーの1つの選択可能な位置を示す図である。 メインディスプレイ上の2つのボックスに輪郭が描かれるように、本発明のスナップショット捕捉機能を用いて捕捉した2つの異なる関心対象領域を示す図である。 本発明のスナップショット機能を用いて全てのサムネイル画像が捕捉されることを可能にする本発明を示す図である。 本発明のスナップショット機能を用いて捕捉される全範囲が捕捉されることを可能にする本発明を示す図である。 本発明の注釈タブを用いる捕捉したサムネイル画像の表示を示す図である。 捕捉した画像の表示をリスト形式で示す図である。 病理学者が症例報告に全ての捕捉した画像をアップロードすることができることを示す図である。
本明細書において開示される実施形態には、生体試料及び組織並びに生体試料に対応するデータ、例えば、1以上のバイオマーカーの発現レベル、1以上の形態学上の特徴、1以上の画像解析法の結果、などを選択的に可視化するための方法、システム、及び装置が含まれる。例となる実施形態は、構造化された、しかし迅速で柔軟であり使い勝手の良い生体試料の表示を可能にし、それは生物学的研究応用を促進し、病理学者が客観的で反復可能な診断法及び疾患又は状態モデルに到達することを可能にする。
特定の例となる実施形態は、生体試料の選択された視野の異なる部分を同時に見るための分割画面表示を提供する。表示される視野の解像度に応じて、本発明は、視野が生体試料の画像の全部又は一部を示すことができることを企図する。本発明の大部分の適用において、生体試料画像のほんの一部分であるか、又はより小さい関心対象領域である視野を選択することが、画像パネルで生体試料画像のその部分のより高い倍率表示を可能にするために望ましいであろうと考える。従って、視野が「生体試料に一致している」と言われる場合、本発明は、視野が生体試料の画像、又は画像の一部分を表示することを意図する。分割画面表示の画像パネルには、視野の2又はそれ以上の隣接部分を表示するための2又はそれ以上のオーバーラップしていない画像サブパネルを含むか、又はそれに分割されてよく、それにより1つのサブパネルが視野の単一の部分を表示し、その結果2又はそれ以上の画像サブパネルの集まりが視野全体を協同的に表示する。視野の部分は、サブパネルの境界に正確に継ぎ目なく整列する。様々な表示方式を用いて、視野の部分をサブパネルに表示してよい。様々な表示方式には、限定されるものではないが、1以上のバイオマーカーの発現、1以上の形態学上の特徴の表示、1以上の分析結果の表示、及び1以上の視覚化タイプとしての表示が含まれてよい。
特定の例となる実施形態は、生体試料の視野を表示するための画像パネル、及び視野内の領域の異なる態様を同時に見るためのサムネイル画像を表示するためのバイオマーカーパネル(例えば、領域における異なるバイオマーカーの発現レベル)を含むユーザインターフェースを提供する。視野の選択された領域を選択又は更新すると、サムネイル画像がそれに応じて自動的に更新されて、新しく選択された領域を表示することができる。画像パネルには、視野内の領域を画定するための関心対象領域選択コンポーネントが含まれてよい。関心対象領域選択コンポーネントは、主画像パネルに表示された視野の一部分の上にオーバーレイすることができ、バイオマーカーパネルに表示された視野内の領域をユーザが選択又は更新するために使用することができる。
例となる組織イメージング技法
本明細書において教示される実施形態は、染色−漂白−再染色などの既知技法によって生成されてよい、多重化されたバイオマーカー画像に対応する生物学的画像データを使用する。一般に、この技法は、生体試料をフルオロフォア標識プローブで染色して、1以上のプローブに結合したバイオマーカーのシグナルを生成し、これらのシグナルを化学的に漂白し、そして試料を再染色して、いくらかのさらなるバイオマーカーのシグナルを生成することを伴う。化学漂白段階は便利である。なぜなら、互いにすぐに区別することのできる限られた数のシグナルだけが存在するので、限られた数のバイオマーカーだけを特定の段階で調べることができるためである。漂白によって、組織試料は複数の段階のために再び調査され、再び評価され得る。この循環法は、ホルマリン固定パラフィン包埋組織(FFPE)試料及び細胞で使用され得る。試料のデジタル画像を各染色段階の後に収集する。試料の連続画像を、DAPI染色細胞核などの形態学上の特徴を用いてレジストリに便利に保管することができ、そのシグナルは化学漂白法によって変更されない。上述の内容は、多重化技法の一例であり、試料を染色、漂白、及び画像化するために使用されるシステムは、多重化プラットフォームの一例である。
別のアプローチには、凍結した生体試料を、それらを染色することによって繰り返し調べること、及び前の染色段階からの標識を次のセット染色を適用する前に光退色させることが含まれる。その後、評価される各々のバイオマーカーに関連した蛍光シグナルの強度を適切な画像から抽出する。
生成した画像は、より大きな細胞組織試料の中の個々の細胞による1以上のバイオマーカーの発現を例示することができる。組織試料は、細胞培養由来の一群の細胞であってもよいし、器官、腫瘍、又は病変の試料であってもよい。また、組織試料は、コホートとして公知の、異なる被験体由来の同様の組織の一群の試料であってもよい。これらの組織試料の群は、1以上の疾患又は状態モデル、1つの疾患又は状態モデルの中の異なるステージ、或いは疾患又は状態の処置に対する1以上の応答を代表し得る。
組織処置及び検査の技法は洗練されているので、特定の細胞において、又は所与細胞の1区画、例えば核、細胞質又は膜などにおいてさえ、所与バイオマーカーの発現のレベルを定量的に測定することができる。これらの区画の境界又は全体としての細胞は、公知の組織学的染色を用いて位置づけられる。一般に、処置した組織はデジタルイメージングによって調査され、異なるバイオマーカーが発する異なるシグナルのレベルは、その結果、容易に定量化することができる。
生体試料の各々染色された視野の画像は、既知技法を用いて、例えば適切な顕微鏡及び適切な品質管理ルーチンに結び付けられたデジタルカメラによって生成される。自動化された画像登録及び分析はまた、個々の画定された細胞、細胞の集まりについての、又は亜細胞区画、例えば核、細胞質及び膜などについてさえも、バイオマーカーの発現レベルを定量化するために使用されてよい。細胞又は亜細胞成分の多重化及び画像解析から生じるデータの値は、単独で、又はさらなる分析、例えばセグメンテーション分析の結果と併せて記憶され得る。データベースは、ソース試料の識別及び試料が導かれた組織内の位置の識別を含む、バイオマーカーの発現レベルを(例えば、データの異なるチャネルとして)保存してよい。識別した位置は、特定の測定値を導いた特定の細胞及び/又は組織を示すことができ、また、識別した位置には、測定値に関連する区画、核、細胞質又は膜の識別も含むことができる。関連するデータ値は、データベースに記憶させることができ、データベースは記憶装置で、またネットワーク化されたサーバで維持することができる。
例となる実施形態は、下で図面を参照して説明される。当業者は、例となる実施形態が、実例となる実施形態に限定されないこと、及び例となるシステム、装置及び方法の成分が下記の実例となる実施形態に限定されないことを理解するであろう。
生体画像データを格納するための例となるデータ構造
例となる実施形態は、生体試料に関する画像データを、グラフィックユーザインターフェースでの表示用に異なる解像度での画像の生成を許容する方法で格納することができる。生体試料の多重化画像は、演算装置によって処理されて、多重化画像を形成するために使用される、異なるマーカーに対応するデータの異なるチャネルを分離することができる。これらのマーカーは、生体試料において形態学上の特徴(例えば、核、膜、細胞質)を発現するバイオマーカー及び/又は染色であってよい。
例となる実施形態では、多重化画像の各々のチャネルに対応する画素レベルの画像データは、ストリーミングデータに適したタイル化された多重解像度又はタイル化されたピラミッド形データ構造に格納することができる。このデータ構造では、画像データの同じチャネルの異なる解像度に対応する複数の画像が、解像度の昇順又は降順にピラミッド形の形式に格納される。各々の解像度レベルで、画像の画素レベルのデータは、複数のブロック又はタイルに分割される。タイル化された多重解像度形式は、データアクセス及び伝送の速度及び効率を最大化する。個々の画像タイルは、最小のサーバオーバーヘッドで迅速にアクセスされ、任意の解像度でストリームすることができ、その最小のサーバオーバーヘッドは高解像度画像データにアクセスする際に特に重要である。つまり、1以上のタイルの順序に対応するデータがデータ記憶装置から送られ、データ要求エンティティによって受け取られる。データは異なる解像度で利用できるので、画像データを要求したレベルの解像度に従わせる画像処理は必要ではない。
タイル化された多重解像度データ構造を作成する際に、データ(例えば、単一のバイオマーカー)の単一のチャネルに対応する画像を、演算装置によって処理して、同じ画像の2又はそれ以上のバージョンを異なる解像度で生成することができる。より解像度の低い型の画像を生成するためにどんな従来技法を用いてもよい。その後、データの単一のチャネルに対応する画像を、解像度の昇順又は降順にピラミッド形の形式に格納することができる。図1Aは、生体試料中の第1のバイオマーカーの発現データを格納するためのタイル化されたピラミッド形のデータ構造102を例示し;図1Bは、生体試料中の第2のバイオマーカーの発現データを格納するためのタイル化されたピラミッド形のデータ構造104を例示し;図1Cは、生体試料中の第3のバイオマーカーの発現データを格納するためのタイル化されたピラミッド形のデータ構造106を例示する。図1Aの例となるデータ構造102には、解像度の増加する順に並べられた、4つの異なる解像度レベルの同じ生体試料中の同じマーカー発現又は形態に関するデータに対応する4つの画像108、110、112、114が含まれる。
ピラミッド形のデータ構造がデータの単一のチャネルに対して生成されれば、異なる解像度層の各々の画像に関する画素レベルのデータがブロック又はタイルに分割される。画像は、任意の適した数のタイルに分割することができる。例えば、画像は、幅512ピクセル×高さ512ピクセルのタイルに分割することができる。タイル化された多重解像度データ構造を格納する記憶装置は、要求に基づく迅速なアクセスのために、各々のデータ構造及びデータ構造中の各々のタイルを独自に識別することができる。例えば、データ構造中の各々のタイルに、ピラミッドの各レベルでインデックスを付けることができ、かつ/又は二次元座標を、ピラミッドの各レベルの各々のタイルと関連付けることができる。
例となる実施形態は、タイル化された多重解像度データ格納構造に関して説明されるが、その他の適した格納構造を同様に又は代わりに用いることができることを、当業者は理解するであろう。
一実施形態では、本明細書に記載されるユーザインターフェースのいずれかを提供する演算装置には、タイル化された多重解像度データ構造の生体試料に関する画像データを格納するための記憶装置が含まれ得る。
もう一つの実施形態では、本明細書に記載されるユーザインターフェースのいずれかを提供する演算装置は、タイル化された多重解像度データ構造を格納する遠隔サーバから画像データにアクセスすることができる。この例では、ユーザインターフェースを実行する演算装置は、その目的のために選択的に要求されるデータのタイルを決定することができ、選択されたタイルだけをサーバから要求することができる。つまり、一部の実施形態では、生体試料全体に関する画像データは、要求されないか、ユーザインターフェースにプリロードされない可能性がある;しかし、むしろ、一定時間内に必要とされる画像データのセットだけがサーバから要求される可能性がある。これは、要求処理時のサーバオーバーヘッドを最小化し、そのユーザインターフェースのために演算装置に移さなければならない画像データの量を減少させ、それによってユーザインターフェースを迅速かつ効率的で、ユーザ入力及び要求に高応答性にする。データの要求に応じて、サーバは、データの要求したタイルにアクセスし、場合によって、データの分析又は妥当性確認を実施することができる。その後、サーバは、データのタイルをストリーミング方式で演算装置に転送することができる。つまり、1以上のタイルの順序に対応するデータは、サーバによって送られ、データを要求する演算装置に受け取られる。
生体試料の例となる分割画面表示
一部の例となる実施形態では、選択された生体試料の視野の2又はそれ以上の部分、又は領域の異なる態様を同時に見るための分割画面表示が可能である。より具体的には、選択された生体試料の視野を表示するための画像パネルが提供される。分割画面表示の画像パネルは、視野の2又はそれ以上の隣接部分を表示するための2又はそれ以上のオーバーラップしていない画像サブパネルを含むか、又はそれに分割されてよく、それにより1つのサブパネルが視野の単一の部分を表示し、その結果2又はそれ以上の画像サブパネルの集まりが視野全体を協同的に表示する。視野の部分は、隣接していてよい。視野の部分は、サブパネルの境界に正確に継ぎ目なく整列する。例となる実施形態では、指定された生体試料の視野内で、画像サブパネルは、同じサイズ及び解像度レベルを有する、釣り合ったセットであり得る。画像サブパネルは、視野が分割画面ビューで表示されている場合に組織の特徴がサブパネル間で適切に整列するように、適切に登録され得る。
2つの画像サブパネルが提供される一つの例では、第1のサブパネルは、視野の2つの部分の1番目を表示することができ、第2のサブパネルは、視野の2つの部分の2番目を表示することができる。サブパネルに分割された後でさえも、画像パネルは、視野全体を継ぎ目のない方法で表示し続ける。全ての実施形態に関して、本発明は、用語「継ぎ目のない」及び「隣接する」が、サブパネル間を確定する境界線を有する画像パネルディスプレイにも当てはまることを企図する。それは、境界線がサブパネルの隣接する端部の一方又は両方を覆い隠すため、又はサブパネルの隣接する端部が、与えられた境界線の幅を横方向に分離されるためである。
例となる実施形態では、異なる表示方式を用いて、視野の部分を異なる画像サブパネルに表示することができる。例となる実施形態で用いられる様々な表示方式としては、限定されるものではないが、1以上のバイオマーカーの発現、1以上の形態学上の特徴の表示、1以上の分析結果の表示、1以上の視覚化タイプによる表示(例えば、バイナリ・ヒートマップ、離散的ヒートマップ、連続的ヒートマップ、灰色又は色画素のグレースケール値強度、2又はそれ以上のバイオマーカー発現の混色)、上記の種類のいずれかの組合せなどを挙げることができる。
2つの画像サブパネルが提示される一つの例では、第1のサブパネルは、第1のバイオマーカーの発現レベルを視野の第1の部分に表示することができ、第2のサブパネルは、第2のバイオマーカーの発現レベルを視野の第2の部分に表示することができる。2つの画像サブパネルが提示される別の例では、第1のサブパネルは、バイオマーカーの発現レベルを視野の第1の部分に表示することができ、第2のサブパネルは、1以上の形態学上の特徴を視野の第2の部分に表示することができる。2つの画像サブパネルが提示される別の例では、第1のサブパネルは、1以上の形態学上の特徴を視野の第1の部分に表示することができ、第2のサブパネルは、1以上の形態学上の特徴を視野の第2の部分に表示することができる。
例となる実施形態により提供される分割画面表示能力は、生体試料の異なる局面が視野(field)の異なる部分でどのように変化するか又は変動するかを比較するのに有用である。例えば、分割画面表示は、医療従事者又は研究者が、異なるバイオマーカー又はバイオマーカーの組合せを、異なる関心対象の位置(例えば、1以上の画像化されたバイオマーカーを発現する細胞又は一群の細胞)で分析することを可能にすることができる。
分割画面表示の有利な特徴は、画像サブパネルの作成の前にコンピュータメモリに完全にロードされるはずである、生体試料の画像又は主画像パネルに表示される視野の画像を分割画面表示が必要としないことである。代わりに、ユーザは、サブパネルで表示するための望ましい視野の部分を選択することができ、それにより、ユーザの選択に関連する画像データだけが分割画面表示のためのコンピュータメモリに選択的にロードされる。
当業者は、様々な表示方式の任意の適した組合せを用いて、分割画像パネルに視野を表示することができることを理解するであろう。例えば、画像パネルの異なる画像サブパネルを選択して、0、1以上の異なるバイオマーカー発現;0、1以上の形態学上の特徴;0、1以上の異なる分析結果;0、1以上の異なる視覚化タイプ;或いは上記の任意の組合せを表示することができる。
例となる画像パネルは、限定されるものではないが、ユーザ選択、表示サイズ、ディスプレイ解像度、などを含む、1以上の要素に基づいて、任意の適した数のサブパネルに分割されるか又はそれを備えることができる。画像パネルに形成又は設けられるサブパネルの例となる数には、限定されるものではないが、1、2、3、4、5、6、7、8、9、10、11、12、13、14、15、などが含まれてよい。
画像パネルは、画像パネルに同時に表示される2又はそれ以上の画像サブパネルに予め分割されたものとしてロードされてよい。或いは、画像パネルは、ユーザ入力を受け取ると、又はディスプレイ設定に基づいて、ロードされた後に分割されてもよい。
2又はそれ以上の例となる画像サブパネルは、互いに関して任意の適した方法で、例えば、水平に、垂直に、格子編成で画像パネルに編成されてよい。画像サブパネルの空間的編成は、視野の表示部分の空間的編成に一致することができるので、視野の部分は、サブパネルの境界に正確に継ぎ目なく整列する。視野が分割画面ビューに表示される場合に組織の特徴が適切に整列するように、画像サブパネルは適切に登録される。例えば、水平に編成された左右のサブパネルは、視野の右と左の部分を継ぎ目なく表示することができ、一方、垂直に編成された上下のサブパネルは、視野の上と下の部分を継ぎ目なく表示することができる。
図2〜7は、本明細書において「ビューア」とも呼ばれる、例となるグラフィックユーザインターフェース(GUI)200を例示する。これを用いて分割画面表示を実行することができるが、その他の適したユーザインターフェースを使用してもよい。図2は、生体試料の視野を表示するための主画像パネル202を含むGUI200を例示する。ユーザは、主画像パネル202に表示するのに望ましい生体試料(例えば、スライド/スポット)を選択することができる。生体試料は、GUI200、コマンドパネル、又は任意のその他の適した手段を用いて選択することができる。
選択された生体試料は、GUI200で表示することのできる、対応する格納された画像データを有し得る。表示方式選択コンポーネント204は、ユーザが主画像パネル202での表示のために利用可能な1以上の表示方式を選択するために用いることができる。例となる実施形態で使用される例となる表示方式としては、限定されるものではないが、1以上のバイオマーカーの発現、1以上の形態学上の特徴の表示、1以上の分析結果の表示、1以上の視覚化タイプによる表示(例えば、バイナリ・ヒートマップ、離散的ヒートマップ、連続的ヒートマップ、灰色又は色画素のグレースケール値強度、2又はそれ以上のバイオマーカー発現の混色)、上記の種類のいずれかの組合せ、などを挙げることができる。例えば、図2〜7の表示方式選択コンポーネント204は、選択された生体試料に関して、VDABの視覚化タイプが、CD30バイオマーカーに利用可能であり、グレースケールの視覚化タイプが、CD30バイオマーカーに利用可能であり、VHE画像が利用可能であることを示す。
選択された生体試料の表示方式のユーザ選択(例えば、選択されたものをクリックすること、かつ/又はそれを主画像パネル202までドラッグすることによる)を受け取ると、主画像パネル202は、選択された表示方式に従って表示される視野をレンダリングすることができる。図3は、主画像パネル202の生体試料の視野の表示を例示し、CD30バイオマーカー用のVDAB視覚化タイプが表示されている。
主画像パネル202に視野が表示されると、生体試料全体を表示する画像ナビゲーションコンポーネント206(図3〜7に例示)が含まれるようにGUI200を更新することができ、主画像パネル202に表示される視野はその生体試料の一部である。画像ナビゲーションコンポーネント206は、ユーザによって選択された表示方式、例えば、図3中のCD30バイオマーカー用のVDAB視覚化タイプに従って生体試料を表示する。
画像ナビゲーションコンポーネント206には、生体試料の全体表示の範囲内で視野を画定するための、図3〜7に例示される、視野選択コンポーネント208(例えば、レチクル又は任意のその他の適したコンポーネント)が含まれ得る。これは、ユーザが一般に全体的な生体試料(画像ナビゲーションコンポーネント206に表示される)に見出すことのできる視野(主画像パネル202に表示される)の位置を確認することを可能にする。視野選択コンポーネント208は、画像ナビゲーションコンポーネント206に表示された生体試料中の任意の視野をユーザが選択し、その結果、主画像パネル202が更新されて選択された視野を表示することを可能にする、相互作用コンポーネントであり得る。同様に、ユーザは、視野選択コンポーネント208を用いて、異なる視野を継続的でスムーズな方法でブラウズすることができる。ユーザは、視野選択コンポーネント208を選択し(例えば、その上をマウスカーソルでクリックすることによる)、その視野選択コンポーネント208を新しい別の視野の上にドラッグ・アンド・ドロップすることができる。例となる実施形態では、カーソルを解放することによって視野選択コンポーネント208をドロップすると、主画像パネル202は自動的に更新されて新しい視野が表示され得る。例となる実施形態では、主画像パネル202は、視野選択コンポーネント208がユーザによってドラッグされる間にも自動的に更新され得る。一部の実施形態では、この更新は、ユーザがユーザインターフェースと対話する時にリアルタイムで実施されてもよいし、或いは、ユーザが視野の新しい位置を選択した後にタイムラグの後で実施されてもよい。
一部の実施形態では、画像ナビゲーションコンポーネント206は、主画像パネル202よりも小さく、生体試料の低解像度表示を提供する。その他の実施形態では、画像ナビゲーションコンポーネント206は、主画像パネル202と同じサイズであるか又はそれよりも大きくてよい。
図3に例示されるように、主画像パネル202には、ユーザが、特定のズームレベル又は相対ズームレベルを入力する(例えば、ズームスライダ及び/又はズームボタンを用いて)ことを可能にするためのズーム入力ツール210が含まれ得る。最新の相対ズームレベルは、画像パネル上のズームインジケータ212に示され得る。場合によって、ズームレベルは、ユーザによるか、又はシステムによって自動的に、デフォルトレベルにリセットされ得る。一部の例となる実施形態では、ユーザインターフェースは、主画像パネル202の画像上のポインティングデバイスを直接用いて、例えば、マウスの右ボタンをクリックすることによって、拡大及び縮小を可能にすることができる。一部の例となる実施形態では、ユーザインターフェースは、キーボードショートカットを用いて拡大及び縮小することを可能にすることができる、例えば、拡大するためには「Ctrl」キーと「+」キーの組合せを使用し、縮小するためには「Ctrl」キーと「−」キーの組合せを使用する。主画像パネル202が新しいズームレベルに応じて更新されると、画像ナビゲーションコンポーネント206中の視野選択コンポーネント208は、自動的に更新されて、主画像パネル202に示される更新された視野を正確に画定する。例となる実施形態では、ユーザインターフェースを実行する演算装置は、新しいズームレベルがタイル化された多重解像度データ構造の中の異なる解像度レベルから画像データを必要とすることを決定することができ、画像データの1以上のタイルを解像度レベルから取り出すことができる。
図3に例示されるように、主画像パネル202には、生体試料において新しい視野をパンするためのパン入力ツール214が含まれ得る。パン入力ツール214は、主画像パネル202に表示される視野を調節するために、ユーザに生体試料におけるパンニングの特定のレベル又はパンニングの相対レベルをスライダを用いて入力させることができる。場合によって、パン設定をリセットして主画像パネル202に最初に表示した視野を表示することができる。一部の例となる実施形態では、ユーザインターフェースは、主画像パネル202の上のポインティングデバイスを直接用いてパンすること、例えば、画像の上でマウスの左ボタンをクリックし、画像を横切ってカーソルをドラッグし、それを解放して新しい視野を表示することを可能にすることができる。一部の例となる実施形態では、ユーザインターフェースは、キーボードショートカットを用いてパンニングを可能にすることができる。
一実施形態では、主画像パネル202を更新して、カーソルの解放に応じて新しい視野を表示することができる。もう一つの実施形態では、主画像パネル202は、ユーザが画像を横切ってカーソルをドラッグする時にリアルタイムに更新されるか、或いは、ユーザが選択された視野を動かした後にタイムラグの後で実施されてもよい。例となる実施形態では、ユーザインターフェースを実行する演算装置は、新しい視野を表示するために画像データのタイルの異なるセットが必要であることを決定することができ、タイル化された多重解像度データ構造からタイルのセットを取り出すことができる。
一部の実施形態では、パン入力ツール214は、ユーザが主画像パネル202に表示される視野を回転させることも可能にすることができる。
主画像パネル202が更新されて新しい視野を表示する時、画像ナビゲーションコンポーネント206中の視野選択コンポーネント208は、自動的に更新されて、試料中の新しい視野の位置を正確に画定する。
図4に例示されるように、主画像パネル202には、主画像パネル202が同時表示のための2又はそれ以上の画像サブパネル、例えば、サブパネル218、220に分割されるか又はそれを備えているはずであることをユーザが示すことを可能にする1以上のスプリッタコンポーネント216が含まれてよい。例となる実施形態では、ユーザは、同時表示用にいくつほどのサブパネルが作成されるべきであるかを選択することができる。或いは、システムは、記憶されたデフォルト設定に示されるいくつかのサブパネルを生成することができる。例となる実施形態では、ユーザは、画像パネル202においてサブパネルがどのように編成されるかを選択することができる。或いは、システムは、記憶されたデフォルト設定に従ってサブパネルを編成することができる。例となる実施形態では、ユーザは、主画像パネル202から画像サブパネルを除去することが可能であり得る。
表示方式選択コンポーネント204は、ユーザがサブパネル218、220で表示するための表示方式を示すために使用することができる。サブパネル用の表示方式のユーザ選択を受け取ると(例えば、選択項目をクリックし、それをサブパネルの上にドラッグすることによる)、例となる実施形態は、サブパネルを集めたものが全体的な視野を示すように、視野の隣接する部分(画像ナビゲーションコンポーネント206で選択)を異なるサブパネル218、220に表示することができる。各々のサブパネルは、視野の対応する部分について異なる表示方式をレンダリングすることができる(例えば、バイオマーカーの発現レベル、分析結果、視覚化タイプをレンダリングすることによる)。
図4は、主画像パネル202での2つの例となる画像サブパネル218、220の表示を例示する。ここで、サブパネルは、視野の右と左の部分を表示するために互いに対して水平に編成される。画像サブパネルを配置するために適したあらゆるパターン、例えば、図5に示される垂直編成(上と下のサブパネル218’、220’が視野の上と下の部分を表示)、格子状、などが可能である。図4において、第1のサブパネル218は第1の表示方式(CD30バイオマーカーのVDAB視覚化タイプ)に従って視野の左側の部分を表示し、第2のサブパネル220は、第2の表示方式(VHE画像)に従って視野の右側の部分を表示する。
各々のサブパネルは、倍率レベルを増減させるための対応するズーム入力ツール210’、210’’、及び異なる視野をパンするためのパン入力ツール214’、214’’を有することができる。拡大又は縮小すると、視野の隣接する部分がサブパネルに継ぎ目なく表されるように新しい拡大された視野を画像パネル202に表示することができる。例えば、図6は、画像サブパネル218、220に拡大された表示(図4のズームレベルと比較)を示し、そこではサブパネルは新しい拡大された視野の隣接する部分を示すように構成されている。図6は、画像を表示する例となるユーザインターフェースを例示し、そこでは左側のサブパネルはバイオマーカーの発現レベルを視野の左側の部分に示し、右側のサブパネルは形態学上の特徴を視野の右側の部分に示す。一部の実施形態では、全てのサブパネルが同じスケール又は解像度で表示されるように、1つの画像サブパネルの解像度を更新するために拡大又は縮小することによって、全てのサブパネルを自動的に更新することができる。例となる実施形態では、ユーザインターフェースを実行する演算装置は、新しいズームレベルがタイル化された多重解像度データ構造の中の異なる解像度レベルから画像データを必要とすることを決定することができ、画像データの1以上のタイルを解像度レベルから取り出すことができる。
一実施形態では、サブパネルは、同じイメージスケールで維持されてよい。他の実施形態では、サブパネルは、異なるスケールで構成されてよい。
各サブパネル218、220は、ズームインジケータ212’、212’’も含むことができる。その上、ユーザは、画像ナビゲーションコンポーネント206中の視野選択コンポーネント208を用いて異なる視野をパンすることができる。新しい視野(field of field)にパンすると、視野の隣接する部分がサブパネルに継ぎ目なく表されるように、新しい視野を画像パネル202に表示することができる。例えば、図6は、画像サブパネル218、220に表示される異なる視野を示し(図4に示される視野と比較)、そこではサブパネルは新しい視野の隣接する部分を示すように構成されている。一部の実施形態では、1つの画像サブパネルをパンすると、全てのサブパネルは自動的に更新されて、それに応じてパンすることができる。例となる実施形態では、ユーザインターフェースを実行する演算装置は、新しい視野を表示するために画像データのタイルの異なるセットが必要であることを決定することができ、タイル化された多重解像度データ構造からタイルのセットを取り出すことができる。
例となる実施形態では、図4〜7に例示されるように、主画像パネル202は、2又はそれ以上の画像サブパネル218、220の間の境界に配置された1以上の相互作用スライダコンポーネント222を含むことができる。スライダコンポーネント222を用いて、異なるサブパネル218、220によって占有されている画像パネル202の相対的な部分を再構成することができる。例えば、スライダコンポーネント222を、画像パネル202を横切ってドラッグして、表示される1以上のサブパネルのサイズを縮小し、1以上のその他のサブパネルのサイズを拡大することができる。これはウィンドウシェードのような、1つの画像サブパネルを別のサブパネルの上にドラッグする視覚効果を作り出すことができる。図7は、スライダコンポーネント222を右にドラッグして右側のサブパネル220のサイズを縮小し、左側のサブパネル218のサイズを拡大する例を例示する。サブパネルが視野の隣接する部分を表示するように、サブパネル218、220の集まりによって同じ視野が表示される。この例では、左側のサブパネル218を更新して同じ視野のより大きい部分を(左側のサブパネルに関連する表示方式に従って)示し、右側のサブパネル220を更新して同じ視野のより小さい部分を(右側のサブパネルのサブパネルに関連する表示方式に従って)示す。
一部の例となる実施形態では、ユーザインターフェース200は、ユーザが画像サブパネルのいずれかで表示するための1以上の形態学上の特徴を選択することを可能にする形態選択コンポーネントを含み得る。1以上の形態学上の特徴を選択するユーザ入力を受け取ると、これらの特徴は、該当する画像サブパネルに、例えば、画像オーバーレイとして表されることができる。例となる形態学上の特徴としては、限定されるものではないが、細胞、細胞の集まり、亜細胞成分(例えば、核、細胞質、膜)などを挙げることができる。
一部の実施形態では、ユーザインターフェースは、ユーザが、画像解析結果(例えば、セグメンテーション分析の結果)を画像サブパネルのいずれかにオーバーレイすることを可能にすることができる。
図8は、生体試料の視野の分割画面表示を提供するための例となるコンピュータ実装方法のフローチャートである。段階802では、グラフィックユーザインターフェースが、視覚表示装置にレンダリングされ得る。段階804では、画像パネルが、生体試料の視野を表示するためのユーザインターフェースにレンダリングされ得る。段階806では、ユーザが画像パネルを2又はそれ以上の画像サブパネルに分割することを可能にするスプリッタコンポーネントがユーザインターフェースにレンダリングされ得る。
段階808では、ユーザ入力は、画像パネルを2又はそれ以上の画像サブパネルに分割するためのスプリッタコンポーネントで受け取られ、そこで各々のサブパネルは視野の異なる部分を表示するように構成される。ユーザ入力は、グラフィックユーザインターフェースで、或いは異なるユーザインターフェース又はコマンドプロンプトで受け取ることができる。一部の例となる実施形態では、ユーザ入力が、ユーザインターフェースでの画像サブパネルの編成を指定することができる。或いは、例となる実施形態は、保存された設定に基づいて、画像パネルを分割するかどうか、またどのように分割するかを決定することができる。
段階810では、生体試料の画像から視野を選択するユーザ入力を受け取ることができる。段階812では、異なる画像サブパネルの視野の部分をレンダリングする2又はそれ以上の表示方式を選択するユーザ入力を受け取ることができる。
一例では、ユーザ入力は、第1の画像サブパネルが第1のバイオマーカーの発現レベルを視野の第1の部分に表示するべきであり、第2の画像サブパネルが第2のバイオマーカーの発現レベルを視野の第2の部分に表示するべきであるということを指定することができる。別の例では、ユーザ入力は、第1の画像サブパネルがバイオマーカーの発現レベルを視野の第1の部分に表示するべきであり、第2の画像サブパネルが1以上の形態学上の特徴を視野の第2の部分に表示するべきであるということを指定することができる。別の例では、ユーザ入力は、第1の画像サブパネルが1以上の形態学上の特徴の第1のセットを視野の第1の部分に表示するべきであり、第2の画像サブパネルが1以上の形態学上の特徴を視野の第2の部分に表示するべきであるということを指定することができる。
段階814では、各々のサブパネルについて、視野の部分をサブパネルに表示させるために選択された表示方式の画像データに選択的に対応するデータセットを決定することができる。
例となる実施形態では、段階814では、ユーザインターフェースを提供する演算装置は、生体試料に関する画像データをタイル化された多重解像度データ構造で格納する遠隔サーバから画像データにアクセスすることができる。この例では、ユーザインターフェースを実行する演算装置は、その目的のために選択的に必要とされるデータのタイルを決定することができ、サーバからそれらの選択的なタイルだけを要求することができる。つまり、生体試料全体に関する画像データは、一部の実施形態では、要求されないか、又はユーザインターフェースにプリロードされない場合がある;しかし、むしろ、一定時間内に必要とされる画像データのそれらのセットだけが、サーバから要求される可能性がある。一例として、GUI200に表示される画像のズームレベルが調節される場合、演算装置は、適切なピラミッドレベルからタイル画像を要求するようにプログラムされることができる。別の例として、GUI200に表示される画像のパン操作を実施する場合、演算装置は、メインパネル及び/又は1以上のサブパネルの中に表示される予定の画像の新しい部分のタイル画像を要求するようにプログラムされることができる。このアプローチを使用することは、要求を処理する際のサーバオーバーヘッドを最小化し、そのユーザインターフェースのために演算装置に移さなければならない画像データの量を減少させ、それによりユーザとの対話及び要求に対応する際にユーザインターフェースを迅速かつ効率的にする。データの要求に応じて、サーバは、データの要求したタイルにアクセスし、場合によって、データの分析又は妥当性確認を実施することができる。その後、サーバは、データのタイルをストリーミング方式で演算装置に転送することができる。
画素データの別々のセットは、異なる画像サブパネルのために遠隔サーバから取り出される。各々の画像サブパネルに対して、ユーザインターフェースを提供する演算装置は、サブパネルに表示させるための生体試料の識別並びに1以上のバイオマーカー及び/又は形態学上の特徴の識別を決定することができる。識別に基づいて、演算装置は、アクセスする適切なデータ構造を決定するようにプログラムされることができる。例えば、第1の画像サブパネルが第1のバイオマーカーの発現レベルを含む特定のスライドスポットから生体試料を表示する場合、演算装置は、第1のバイオマーカーと特定のスライドスポットの両方に特異的な、図9Aに例示される第1のデータ構造902を識別することが可能であり得る。同様に、第2の画像サブパネルが第2のバイオマーカーの発現レベルを含むスライドスポットから生体試料を表示する場合、演算装置は、第2のバイオマーカーとスライドスポットの両方に特異的な、図9Bに例示される第2のデータ構造904を識別することが可能であり得る。
各々の画像サブパネルについて、演算装置は、タイル化された多重解像度データ構造の中のどの解像度の層に画像データを求めてアクセスするべきかを決定するようにプログラムされることができる。この目的のため、演算装置は、画像サブパネルが視野を表示する予定であるか又は視野を表示するよう要求される(例えば、ズーム設定及び/又はパネルサイズを再調査することによる)解像度を決定することができる。この決定に基づいて、演算装置は、適切な解像度の層にある、データ構造中の画像にアクセスすることができる。例えば、図6に例示されるように、画像サブパネルが視野の拡大されたバージョンを示す場合、演算装置は、データ構造の最も高解像度の層の画像がアクセスされなければならないと決定することができる。
各々の画像サブパネルについて、演算装置は、画像中の画像データのどのタイルにアクセスするべきかを決定するようにプログラムされることができる。この目的のため、演算装置は、主画像パネルに表示される予定の生物組織の視野、及び画像サブパネルに表示される予定である視野の部分を分析することができる。分析に基づいて、演算装置は、アクセスする画像データの部分又はタイルを決定することができる。画像データの関連するタイルは、その結果、画像サブパネルを表示するために必要な画素データに対応し、画像サブパネルの集まりは非常に正確に整合した境界を有し、そのためそれらは継ぎ目のない隣接する視野を主画像パネルに集合的に表示する。
図9A及び9Bは、2つの画像サブパネルに対応するデータ構造902、904の表現を例示する。この例では、第1のサブパネルは、は、第1のデータ構造902に含まれるデータを用いて生成され、第2のサブパネルは、第2のデータ構造904に含まれるデータを用いて生成される。演算装置は、第1のサブパネルが、第1のデータ構造902の画素画像データを含有するタイル906の第1のセットと一致すること、及び第2のサブパネルが第2のデータ構造904の画素画像データを含有するタイル908の第2のセットと一致することを決定するようにプログラムされることができる。演算装置は、第1のデータ構造902からタイル906の第1のセットを、及び第2のデータ構造904からタイル908の第2のセットを、選択的に取り出す要求を作成するようにプログラムされることができる。この要求は、データ構造を格納する遠隔サーバに伝送されることができる。それに応じて、サーバは、要求されるタイルに容易に、かつ迅速にアクセスし、それらを演算装置に伝送することができる。他の実施形態では、ユーザインターフェースを提供する演算装置とは異なる演算装置が、決定段階814を実行することができる。
段階816では、例となる実施形態は、段階814で異なる画像サブパネルについて決定した選択的なデータセットを画像データを格納するサーバに要求することができる。段階818では、例となる実施形態は、要求されたデータセットを、要求に基づいてサーバからストリーミング方式で受け取ることができる。例となる実施形態では、データセットは、ユーザがユーザインターフェースと対話している時にリアルタイムで受け取ることもでき、或いは、ユーザがユーザインターフェースと対話した後にタイムラグの後で受け取ることもできる。
段階820では、例となる実施形態は、段階812のユーザ入力に基づいて画像パネルを複数の画像サブパネルに分割することができる。或いは、画像パネルは、画像サブパネルをプリロードすることができる。
段階822では、例となる実施形態は、サーバから受け取ったデータに基づいて、選択された視野の異なる部分を異なる画像サブパネルに表示して、サブパネルの集まりが全体的な視野を表示することができる。例となる実施形態は、サブパネルの境界を整列させるか又は登録して、分割画面表示を形成することができる。
例となる実施形態は、ユーザが生体試料の異なる視野をスムーズにブラウズすることを可能にし、その一方でユーザインターフェースのサブパネル構成を維持する。ユーザが視野を変える時に、新しい視野が画像パネルに表示されるので、新しい視野の隣接する部分は対応する画像サブパネルに自動的に表示される。段階824では、画像パネルに表示される生体試料の視野を変えるユーザ入力が受け取られ得る。段階810〜822はその結果繰り返されることがある。
図8の例となる方法には、例となるフローチャートに例示されるよりも多いか又は少ない段階が含まれてよく、例となるフローチャート中の段階が、示されるものと異なる順序で実施されてよいことを当業者は理解するであろう。
生体試料におけるバイオマーカー発現の例となる選択及び表示
一部の例となる実施形態では、領域の異なる態様(例えば、領域における異なるバイオマーカーの発現レベル)を同時に見るために、主画像パネルは、生体試料の画像、又は画像の一部分に対応する視野を表示するために提供されてよく、バイオマーカーパネルは、視野の一領域のサムネイル画像を表示するために提供されてよい。本発明のこの特徴は、サムネイルが望ましくはメインディスプレイにおいて画像の構成要素である特徴を描写するので、口語で「デジタルプリズム」と呼ばれることがある。視野の選択された領域を選択又は更新すると、サムネイル画像がそれに応じて自動的に更新されて、新しく選択された領域を表示することができる。主画像パネルは、生体試料の画像が含まれることが望ましく、主画像パネルに表示される視野の中の領域を画定するための関心対象領域選択コンポーネント(例えば、レチクル又は任意のその他の適したコンポーネント)を含んでもよい。例となる実施形態では、関心対象領域選択コンポーネントは、主画像パネルに表示された視野の一部分の上にオーバーレイすることができ、バイオマーカーパネルに表示された視野の領域をユーザが選択又は更新するために使用することができる。
バイオマーカーパネルは、関心対象領域選択コンポーネント内で画定された視野の一領域の1以上のサムネイル画像のセットが含まれるように構成することができる。サムネイル画像は、同じ領域の異なる態様又は表示方式、例えば、異なるバイオマーカーの発現、形態学的単位の発現、分析結果、上記表示方式の組合せなどを表すことができる。例えば、各々のサムネイル画像は、視野のそれぞれの領域における異なるバイオマーカー又はバイオマーカーの組合せの発現レベルを表示することができる。例となる実施形態では、主画像パネルが1以上のバイオマーカーの発現レベルを表示する場合、バイオマーカーパネルは、主画像パネルに表示されるバイオマーカーに対応するサムネイル画像を指示するものを提供することができる。サムネイル画像は、ユーザによって選択されて、主画像パネルが選択されたサムネイル画像のバイオマーカーを表示するように主画像パネルを更新することができる。
サムネイル画像は、バイオマーカーパネルにおいて、視野の一領域の異なる態様を簡単で編成された方法で見ることを可能にする。一部の例となる実施形態では、サムネイル画像は、サイズ及びスケールが主画像パネルよりも小さいことがあるので、そのために使いにくいビジーインターフェースとならない。さらに、サムネイル画像の表示は、一部の実施形態では小さいが、視野全体よりも小さい領域に基づいている。従って、サムネイル画像はそれでもなお見やすく解釈しやすいように十分に高い解像度で表示することができる。
関心対象領域選択コンポーネントはまた、主画像パネルにレンダリングされた視野内の任意の関心対象領域を選択的に表示するためのサムネイル画像の自動更新も可能にする。ユーザは、容易にかつ迅速に、主画像パネル内の関心対象領域、例えば、1以上の関心対象の形態学上の特徴(例えば、細胞、細胞の集まり、亜細胞成分)を含む領域に焦点を合わせることができる。この能力は、サムネイルを簡単なナビゲーション補助からバイオマーカー発現パターンに迅速に問い合わせするために使用することのできるツールへと変えた。
例となるユーザインターフェースを用いる特定の臨床応用は、迅速な方法で複数のバイオマーカーの評価を必要とする。この評価は、バイオマーカーを完全に視覚化したもののサムネイル画像に基づいてバイオマーカー間の迅速かつ直感的なナビゲーションを提供するバイオマーカーパネルによって速められる。この評価はまた、サムネイル画像の検索対象情報を表示することによっても速められる。例えば、サムネイル画像は、それらを更新して生体試料の視野における正確な関心対象領域を表すことができるので、さらにより情報価値のあるものとなる。リード・シュテルンベルク細胞のバイオマーカー発現だけが診断上重要であるホジキンリンパ腫の評価は、例となる実施形態の能力が特に役立つ例となる用途である。
例となるバイオマーカーパネルは、任意の適した数のサムネイル画像を含むように構成されてよい。バイオマーカーパネルに提供されるサムネイル画像の例となる数としては、限定されるものではないが、1、2、3、4、5、6、7、8、9、10、11、12、13、14、15、などを挙げることができる。
バイオマーカーパネルは、バイオマーカーパネルに表示される予定の1以上のバイオマーカーについて記憶されたデフォルト設定に基づく1セットのサムネイル画像を含むとしてロードされてよい。或いは、バイオマーカーパネルは、バイオマーカーパネルに表示される予定の1以上のバイオマーカーへのユーザ入力を受け取って1セットのサムネイル画像を与えることができる。
2又はそれ以上の例となるサムネイル画像は、バイオマーカーパネルにおいて、互いに関して任意の適したパターン又は方法で、例えば、互いに対して水平に、互いに対して垂直に、又は格子状の編成で編成されることができる。サムネイル画像は、記憶されたデフォルト設定又はユーザの好みで指定された編成で、バイオマーカーパネルにロードされてよい。或いは、ユーザは、バイオマーカーパネルにおいてサムネイル画像がどのように編成されるかを指定することができる。その上、使用中に、ユーザは、例えば、バイオマーカーの臨床的関連性に基づいて、バイオマーカーパネルで(例えば、マウスカーソルを用いてドラッグ・アンド・ドロップすることにより)サムネイル画像を再編成することができる。生体試料で臨床状態を診断する際に非常に関連するバイオマーカーのサムネイル画像は、例えば、サムネイル画像の順序の最初に置くことができる。サムネイル画像の順序付け又は再順序付けは、設定として保存することができるので、サムネイル画像が生体試料のためにリロードされる場合、サムネイル画像は、保存された設定で指定された通り編成される。
図10〜14は、生体試料におけるバイオマーカー発現の選択及び表示を可能にするために使用することのできる、例となるグラフィックユーザインターフェース(GUI)1000を例示する。しかしその他の適したユーザインターフェースを使用してもよい。図10は、生体試料の視野を表示するための主画像パネル1002、及び生体試料の視野の一領域に関連するバイオマーカー発現のサムネイル画像を表示するためのバイオマーカーパネル1004を含むGUI1000を例示する。本発明は、主画像パネル1002に表される視野が一般に生体試料の画像全体の一部分に対応すると考える。
ユーザは、主画像パネル1002に表示するための望ましい生体試料(例えば、スライド/スポット)を選択することができる。生体試料は、GUI1000、コマンドパネル、又は任意のその他の適した手段を用いて選択されてよい。選択された生体試料は、GUI1000で表示することのできる、対応する格納された画像データを有することができる。例となる画像データとしては、限定されるものではないが、1以上のバイオマーカーに関する発現データ、1以上の形態学上の特徴に関する表示データ、1以上の画像解析技法の結果、などを挙げることができる。表示方式選択コンポーネント1006は、ユーザが主画像パネル1002での表示に利用可能な1以上の表示方式を示すために使用することができる。例となる実施形態で使用される例となる表示方式としては、限定されるものではないが、1以上のバイオマーカーの発現、1以上の形態学上の特徴の表示、1以上の分析結果の表示、1以上の視覚化タイプによる表示(例えば、バイナリ・ヒートマップ、離散的ヒートマップ、連続的ヒートマップ、灰色又は色画素の強度、或いは2又はそれ以上のバイオマーカー発現の混色)、上記の種類のいずれかの組合せ、などを挙げることができる。
選択された生体試料についての表示方式のユーザ選択を受け取ると(例えば、選択をクリックし、それを主画像パネル1002にドラッグすることによる)、主画像パネルは、選択された表示方式に従って表示される視野をレンダリングすることができる。図11は、主画像パネル1002での生体試料の視野の表示を例示し、CD30バイオマーカーのVDAB視覚化タイプが表示されている。
一部の例となる実施形態では、ユーザインターフェース1000は、ユーザが主画像パネル1002での表示のための1以上の形態学上の特徴を選択することを可能にするための形態選択コンポーネントを含み得る。1以上の形態学上の特徴を選択するユーザ入力を受け取ると、これらの特徴を主画像パネル1002に、例えば、画像オーバーレイとして表すことができる。例となる形態学上の特徴としては、限定されるものではないが、細胞、細胞の集まり、亜細胞成分(例えば、核、細胞質、膜)などを挙げることができる。
一部の実施形態では、ユーザインターフェースは、ユーザが画像解析結果(例えば、セグメンテーション分析の結果)を主画像パネル1002にオーバーレイすることを可能にする。
主画像パネル1002に視野を表示すると、GUI1000を更新して、主画像パネル1002に表示される視野がその部分である生体試料全体を表示する画像ナビゲーションコンポーネント1008を含めることができる。画像ナビゲーションコンポーネント1008は、ユーザによって選択された表示方式に従って生体試料を表示する。
画像ナビゲーションコンポーネント1008は、生体試料の全体表示の中で視野を画定するための視野選択コンポーネント1010(例えば、レチクル又は任意のその他の適したコンポーネント)を含み得る。これにより、ユーザは、一般に、視野(主画像パネル1002に表示される)が全体的な生体試料(画像ナビゲーションコンポーネント1008に表示される)の中で見出される場所の位置を確認することができる。視野選択コンポーネント1010は、ユーザが画像ナビゲーションコンポーネント1008に表示される生体試料の任意の視野を選択することを可能にするための相互作用コンポーネントでもあり、その結果、主画像パネル1002は更新されて選択された視野を表示する。同様に、ユーザは、異なる視野を継続的でスムーズな方法でブラウズするために、視野選択コンポーネント1010を使用することができる。ユーザは、視野選択コンポーネント1010を選択し(例えば、その上をマウスカーソルでクリックすることによる)、視野選択コンポーネント1010を新しい異なる視野にドラッグ・アンド・ドロップすることができる。例となる実施形態では、カーソルを解放することによって視野選択コンポーネント1010をドロップすると、主画像パネル1002は自動的に更新されて新しい視野を表示することができる。例となる実施形態では、主画像パネル1002は、視野選択コンポーネント1010がユーザにドラッグされる間にも自動的に更新され得る。一部の実施形態では、この更新は、ユーザがユーザインターフェースと対話している時にリアルタイムで実施されてもよいし、或いは、或いは、ユーザが視野の新しい位置を選択した後にタイムラグの後で実施されてもよい。
一部の実施形態では、画像ナビゲーションコンポーネント1008は、主画像パネル1002よりも小さく、生体試料の低解像度表示を提供する。その他の実施形態では、画像ナビゲーションコンポーネント1008は、主画像パネル1002と同じサイズであるか又はそれよりも大きくてよい。
図11に例示される例となる実施形態では、主画像パネル1002には、ユーザが、ズームの特定のレベル又はズームの相対レベルを入力する(例えば、ズームスライダ及び/又はズームボタンを用いて)ことを可能にするためのズーム入力ツール1012が含まれ得る。最新の相対ズームレベルは、画像パネル上のズームインジケータ1014に示され得る。場合によって、ズームレベルは、ユーザによるか、又はシステムによって自動的に、デフォルトレベルにリセットされてよい。一部の例となる実施形態では、ユーザインターフェースは、主画像パネル1002の画像上のポインティングデバイスを直接用いて、例えば、マウスの右ボタンをクリックすることによって、拡大及び縮小を可能にすることができる。一部の例となる実施形態では、ユーザインターフェースは、キーボードショートカットを用いて拡大及び縮小することを可能にすることができる、例えば、拡大するためには「Ctrl」キーと「+」キーの組合せを使用し、縮小するためには「Ctrl」キーと「−」キーの組合せを使用する。主画像パネル1002が新しいズームレベルに応じて更新されると、画像ナビゲーションコンポーネント1008中の視野選択コンポーネント1010は、自動的に更新されて、主画像パネル1002に示される対応する更新された視野を正確に画定する。例となる実施形態では、ユーザインターフェースを実行する演算装置は、新しいズームレベルがタイル化された多重解像度データ構造の中の異なる解像度レベルから画像データを必要とすることを決定することができ、画像データの1以上のタイルを解像度レベルから取り出すことができる。
例となる実施形態では、主画像パネル1002には、生体試料において新しい視野をパンするためのパン入力ツール1016が含まれ得る。パン入力ツール1016はユーザに生体試料におけるパンニングの特定のレベル又はパンニングの相対レベルをスライダを用いて入力させることができる。場合によって、パン設定をリセットして主画像パネル1002に最初に表示した視野を表示することができる。一部の例となる実施形態では、ユーザインターフェースは、主画像パネル1002の上のポインティングデバイスを直接用いてパンすること、例えば、画像の上でマウスの左ボタンをクリックし、画像を横切ってカーソルをドラッグし、それを解放して新しい視野を表示することを可能にすることができる。一実施形態では、主画像パネル1002を更新して、カーソルの解放に応じて新しい視野を表示することができる。一実施形態では、主画像パネル1002はまた、ユーザが画像を横切ってカーソルをドラッグする時にリアルタイムに更新されるか、或いは、ユーザがユーザインターフェースと対話した後にタイムラグの後で実施されてもよい。一部の例となる実施形態では、ユーザインターフェースは、キーボードショートカットを用いてパンニングを可能にすることができる。主画像パネル1002が更新されて新しい視野を表示する場合、画像ナビゲーションコンポーネント1008中の視野選択コンポーネント1010は、自動的に更新されて、主画像パネル1002に示される試料中の新しい視野の位置を正確に画定する。
主画像パネル1002は、主画像パネル1002に表示される視野内の領域を確定するための、関心対象領域選択コンポーネント1018(例えば、レチクル又は任意のその他の適したコンポーネント)を含み得る。例となる実施形態では、関心対象領域選択コンポーネント1018は、主画像パネル1002に表示される視野の部分の上にオーバーレイされてよい。バイオマーカーパネル1004は、関心対象領域選択コンポーネント1018内で画定された視野の部分の1以上のサムネイル画像のセットを含むように構成されてよい。サムネイル画像は、同じ領域の異なる態様又は表示方式、例えば、異なるバイオマーカーの発現、形態学的単位の発現、分析結果、上記表示方式の組合せなどを表すことができる。例えば、各々のサムネイル画像は、視野の領域における異なるバイオマーカー又はバイオマーカーの組合せの発現レベルを表示することができる。バイオマーカー発現レベルは、任意の適した視覚化タイプ、例えば、(例えば、バイナリ・ヒートマップ、離散的ヒートマップ、連続的ヒートマップ、灰色又は色画素のグレースケール値強度、2又はそれ以上のバイオマーカー発現の混色)で表示されてよい。
例となる実施形態では、主画像パネル1002が1以上のバイオマーカーの発現レベルを表示する場合、バイオマーカーパネル1004は、主画像パネルに表示されるバイオマーカーに対応するサムネイル画像を指示するものを提供することができる。
一部の例となる実施形態では、特定のバイオマーカーに対応するサムネイル画像を選択するユーザ入力を受け取ることができる。それに応じて、例となる実施形態は、主画像パネル1002を更新して、生体試料の視野における特定のバイオマーカーの発現レベルを表示することができる。
サムネイル画像は、バイオマーカーパネル1004において、視野の一領域の異なる態様を簡単で編成された方法で見ることを可能にする。一部の例となる実施形態では、サムネイル画像は、サイズ及びスケールが主画像パネル1002の表示よりも小さいことがあるので、そのためにビジーインターフェースとならない。その他の実施形態では、サムネイル画像は、サイズ及び/又はスケールが、主画像パネル1002の表示と同じであるか又はそれよりも大きくてもよい。サムネイル画像の表示は、一部の実施形態では小さいが、視野全体よりも小さい領域に基づいている。従って、サムネイル画像はそれでもなお見やすく解釈しやすいように十分に高い解像度で表示することができる。
バイオマーカーパネル1004のサイズ及び/又は空間次元は、表示されるサムネイル画像数及び/又はサイズに基づいて自動的に設定及び/又は縮尺を変更することができる。場合によって、表示されるサムネイル画像の数は、今度は、いくつのバイオマーカーを見るかに基づいてよい。一部の実施形態では、ユーザは、バイオマーカーパネル1004のサイズ及び/又は次元を手動でセット又はリセットすることが可能であり得る。
バイオマーカーパネル1004におけるサムネイル画像のサイズ及び/又は空間次元は、表示されるサムネイル画像の数及び/又はバイオマーカーパネル1004のサイズに基づいて自動的に設定及び/又は縮尺を変更することができる。一部の実施形態では、ユーザは、サムネイル画像のサイズ及び/又は次元を手動でセット又はリセットすることが可能であり得る。
図14に例示されるように、各々のサムネイル画像は、サムネイル画像に表示されるバイオマーカー発現の視覚化タイプのユーザ選択を受け取るための関連ツール1020を有することができる。例えば、ユーザは、視覚化タイプをバイナリ・ヒートマップ、離散的ヒートマップ、連続的ヒートマップ、灰色又は色画素のグレースケール値強度、擬似明視野像、などを含む群から選択することができる。
図14に例示されるように、各々のサムネイル画像は、バイオマーカーパネル1004からサムネイル画像を除外することに対するユーザ入力を受け取るための関連ツール1022(例えば、十字アイコン)を有することができる。サムネイル画像を除外することを求めるユーザ入力を受け取ると、バイオマーカーパネル1004は自動的に更新されて選択されたサムネイル画像を除外することができる。同様に、バイオマーカーパネル1004は、ユーザが新しいサムネイル画像をバイオマーカーパネル1004に追加することを可能にするツールを含み得る。新しいサムネイル画像を追加することを求めるユーザ入力を受け取ると、バイオマーカーパネル1004は、自動的に更新されて選択されたサムネイル画像を追加する。
バイオマーカーパネルにおける第1のサムネイル画像をスケール又は解像度を変化させるためのユーザ入力は、バイオマーカーパネル1004で受け取ることができる。ユーザ入力は、例えば、境界をドラッグして第1のサムネイル画像のサイズを変えることにより提供されてよい。ユーザ入力に応じて、例となる実施形態は、バイオマーカーパネルを更新して第1のサムネイル画像のスケール又は解像度を変えることができる。一実施形態では、バイオマーカーパネル1004はまた、全てのサムネイル画像が均一な解像度を有するように、残りのサムネイル画像のスケール又は解像度を第1のサムネイル画像のスケール又は解像度に設定するためにも更新され得る。
バイオマーカーパネル1004において第1のサムネイル画像に表示される視野の部分を変化させるためのユーザ入力は、関心対象領域選択コンポーネント1018で受け取ることができる。ユーザ入力は、例えば、境界をドラッグして関心対象領域選択コンポーネント1018のサイズを変えることにより提供されてよい。ユーザ入力に応じて、例となる実施形態は、バイオマーカーパネル1004を更新して第1のサムネイル画像に表示される視野の部分を変えることができる。一実施形態では、バイオマーカーパネル1004はまた、全てのサムネイル画像が視野の同じ領域を表示するように更新され得る。
関心対象領域選択コンポーネント1018は、主画像パネル1002にレンダリングされた視野内の任意の関心対象領域を選択的に表示するためのサムネイル画像の自動更新を可能にする。ユーザは、容易にかつ迅速に、主画像パネル1002内の関心対象領域、例えば、1以上の関心対象の形態学上の特徴(例えば、細胞、細胞の集まり、亜細胞成分)を含む領域に焦点を合わせることができる。この能力は、サムネイルを簡単なナビゲーション補助からバイオマーカー発現パターンに迅速に問い合わせするために使用することのできるツールへと変えた。この能力を実行するため、関心対象領域選択コンポーネント1018は、ユーザが主画像パネル1002に表示される視野の任意の領域を選択することを可能にする相互作用コンポーネントとして構成され得る。ユーザは、関心対象領域選択コンポーネント1018を用いて、視野内の異なる領域を継続的でスムーズな方法でブラウズすることができる。ユーザは、関心対象領域選択コンポーネント1018を選択し(例えば、その上をマウスカーソルでクリックすることによる)、その関心対象領域選択コンポーネント1018を視野の異なる領域の上にドラッグ・アンド・ドロップすることができる。例となる実施形態では、カーソルを解放することによって関心対象領域選択コンポーネント1018をドロップすると、バイオマーカーパネル1004のサムネイル画像は自動的に更新されて視野内の新しい領域を表示することができる。例となる実施形態では、サムネイル画像は、関心対象領域選択コンポーネント1018がユーザによってドラッグされる間にも自動的に更新され得る。一部の実施形態では、この更新は、ユーザがユーザインターフェースと対話する時にリアルタイムで実施されてもよいし、或いは、ユーザがユーザインターフェースと対話した後にタイムラグの後で実施されてもよい。
或いは、視野内の異なる領域をブラウズするために、ユーザは、主画像パネル1002に表示される画像を選択し(例えば、画像の上をマウスカーソルでクリックすることによる)、その画像を関心対象領域選択コンポーネント1018に対してドラッグ・アンド・ドロップすると、画像内の異なる領域が関心対象領域選択コンポーネント1018の境界の範囲内にあるようにすることができる。例となる実施形態では、カーソルを解放することによって画像をドロップすると、バイオマーカーパネル1004のサムネイル画像は自動的に更新されて、関心対象領域選択コンポーネント1018によって画定される視野内の新しい領域を表示することができる。例となる実施形態では、画像がユーザによってドラッグされる間にサムネイル画像も自動的に更新することができる。一部の実施形態では、ユーザがユーザインターフェースと対話する時にリアルタイムで実施されてもよいし、或いは、ユーザがユーザインターフェースと対話した後にタイムラグの後で実施されてもよい。
例となる実施形態で、ユーザは関心対象領域選択コンポーネント1018を主画像パネル1002に表示される画像に対して固定された位置にロックすることができ得る。また、ユーザは、関心対象領域選択コンポーネント1018のロックを解除して、主画像パネル1002に表示される画像に対してそれを移動可能又はドラッグ可能にすることができる。
図12及び13は、関心対象の形態学上の特徴1200(例えば、関心対象の細胞)に焦点を合わせるためにバイオマーカーパネル1004を更新する例となる使用を示す。図12は、形態学上の特徴1200が関心対象領域選択コンポーネント1018の境界の外側にある主画像パネル1002を例示する。従って、バイオマーカーパネル1004は、関心対象の形態学上の特徴1200が含まれない主画像パネル1002の視野の領域を例示する。図13は、関心対象の形態学上の特徴1200が、(主画像パネル1002に表示される画像に対する関心対象領域選択コンポーネント1018の位置を調節することによるか、及び/又は関心対象領域選択コンポーネント1018に対する主画像パネル1002に表示される画像の位置を調節することによって)関心対象領域選択コンポーネント1018の境界内に収められている主画像パネル1002を例示する。この例では、バイオマーカーパネル1004のサムネイル画像は、関心対象領域選択コンポーネント1018によって現在画定される形態学上の特徴1200を含む視野の部分を表示するために自動的に更新される。
図15は、生体試料の画像、又は画像の一部分に対応する視野における1以上のバイオマーカーの発現レベルを表示するための例となるコンピュータ実装方法のフローチャートである。段階1502では、グラフィックユーザインターフェースが視覚表示装置にレンダリングされ得る。段階1504では、主画像パネル及びバイオマーカーパネルがユーザインターフェースにレンダリングされ得る。
段階1506では、生体試料の視野を選択するユーザ入力を受け取ることができる。段階1508では、選択された視野の第1の画像が主画像パネルにレンダリングされ得る。
段階1510では、関心対象領域選択コンポーネントは、主画像パネルの第1の画像の上にオーバーレイされ得る。関心対象領域選択コンポーネントは、第1の画像内の第1の領域を確定することができる。段階1512では、関心対象領域選択コンポーネント内で画定された第1の領域に対応する、サムネイル画像の第1のセットが、バイオマーカーパネルにレンダリングされ得る。例となる実施形態では、サムネイル画像の第1のセットの中の異なるサムネイル画像は、第1の画像の同じ第1の領域を様々な表示方式で表示することができる。例えば、異なるサムネイル画像は、関心対象領域選択コンポーネント内で画定された領域における異なるバイオマーカーの発現レベルを表示することができる。
段階1514では、サムネイル画像を更新するための第1の画像内の異なる領域を選択するユーザ入力を受け取ることができる。例となる実施形態では、受け取るユーザ入力には、関心対象領域選択コンポーネントを選択し(例えば、マウスカーソルを用いてその境界の上をクリックすることによる)、関心対象領域選択コンポーネントを第1の画像上の異なる位置にドラッグし(例えば、カーソルをドラッグすることによる)、関心対象領域選択コンポーネントを第1の画像上の新しい位置で解放する(例えば、カーソルを解放することによって)ユーザ入力(user)が含まれることがある。或いは、受け取るユーザ入力には、主画像パネル上の第1の画像を選択し(例えば、マウスカーソルを用いて第1の画像の上をクリックすることによる)、第1の画像を関心対象領域選択コンポーネントに対してドラッグし(例えば、カーソルをドラッグすることによる)、第1の画像を解放して、第1の画像の新しい領域を関心対象領域選択コンポーネントの下に配置する(例えば、カーソルを解放することによって)ユーザ入力(user)が含まれることがある。
例となる実施形態は、関心対象領域選択コンポーネント内で画定された視野の新しい領域におけるバイオマーカー発現に選択的に対応する1以上のデータセットを決定することができる。例となる実施形態は、バイオマーカー発現データを格納するサーバに、視野の新しい領域に対して決定された選択的なデータセットを要求することができる。例となる実施形態は、要求に基づいて、要求されたデータセットをストリーミング方式でサーバから受け取ることができる。例となる実施形態では、データセットは、ユーザがユーザインターフェースと対話する時にリアルタイムで受け取ってもよいし、或いは、ユーザがユーザインターフェースと対話した後にタイムラグの後で実施されてもよい。
例となる実施形態では、ユーザインターフェースを提供する演算装置は、生体試料に関するバイオマーカーデータをタイル化された多重解像度データ構造で格納する遠隔サーバから画像データにアクセスすることができる。この例では、ユーザインターフェースを実行する演算装置は、その目的のために選択的に必要とされるデータのタイルを決定することができ、サーバから選択的なタイルを要求することができる。つまり、生体試料全体に関する画像データは、一部の実施形態では、要求されないか、又はユーザインターフェースにプリロードされない場合がある;しかし、むしろ、一定時間内に必要とされる画像データのそれらのセット、例えばサムネイル画像だけが、サーバから要求される可能性がある。一例として、GUI200に表示される画像のズームレベルが調節される場合、演算装置は、適切なピラミッドレベルからタイル画像を要求するようにプログラムされることができる。別の例として、GUI200に表示される画像のパン操作を実施する場合、演算装置は、メインパネル及び/又は1以上のサブパネルの中に表示される予定の画像の新しい部分のタイル画像を要求するようにプログラムされることができる。このアプローチを使用することは、要求を処理する際のサーバオーバーヘッドを最小化し、そのユーザインターフェースのために演算装置に移さなければならない画像データの量を減少させ、それによりユーザとの対話及び要求に対応する際にユーザインターフェースを迅速かつ効率的にする。データの要求に応じて、サーバは、データの要求したタイルにアクセスし、場合によって、データの分析又は妥当性確認を実施することができる。その後、サーバは、データのタイルをストリーミング方式で演算装置に転送することができる。
各々の画像サムネイル画像について、ユーザインターフェースを提供する演算装置は、ユーザインターフェースに表示される生体試料の識別及び1以上のバイオマーカー及び/又は形態学上の特徴の識別を決定することができる。識別に基づいて、演算装置は、アクセスする適切なデータ構造を決定することができる。例えば、第1のサムネイル画像が生体試料を第1のバイオマーカーの発現レベルを含む特定のスライドスポットから表示する場合、演算装置は、第1のバイオマーカーと特定のスライドスポットの両方に特異的な第1のデータ構造を識別することが可能であり得る。同様に、第2のサムネイル画像が生体試料を第2のバイオマーカーの発現レベルを含むスライドスポットから表示する場合、演算装置は、第2のバイオマーカーとスライドスポットの両方に特異的な第2のデータ構造を識別することが可能であり得る。
各々のサムネイル画像について、演算装置は、次に、タイル化された多重解像度データ構造の中のどの解像度の層に画像データを求めてアクセスするべきかを決定することができる。この目的のため、演算装置は、サムネイル画像が視野の領域を表示するか又は視野の領域を表示するよう要求される解像度を決定することができる(例えば、サムネイル画像のズームレベル及び/又はサムネイル画像及びバイオマーカーパネルのサイズを再調査することによる)。この決定に基づいて、演算装置は、適切な解像度の層にある、データ構造中の画像にアクセスすることができる。例えば、サムネイル画像が領域の拡大されたバージョンを表示する場合、演算装置は、データ構造の最も高解像度の層の画像がアクセスされなければならないと決定することができる。
各々のサムネイル画像について、演算装置は次に、選択されたデータ構造の画像データのどのタイルがアクセスされなければならないかを決定することができる。この目的のため、演算装置は、主画像パネルに表示される生物組織の視野、及びサムネイル画像に表示される予定の視野の領域を分析することができる。分析に基づいて、演算装置は、アクセスする画像データの部分又はタイルを決定することができる。それによって、画像データの関連するタイルは、サムネイル画像を表示するために必要な画素データに対応する。
段階1516では、ユーザ入力及び受け取ったバイオマーカーデータに応じて、バイオマーカーパネルを更新して、サムネイル画像の第1のセットを、関心対象領域選択コンポーネント内で画定された第1の画像の新しい領域を表示するサムネイル画像の第2のセットに置き換えることができる。
例となる実施形態では、主画像パネル上の第1の画像を更新して、段階1514で選択され新しい領域を、例えば、第1の画像内の新しい領域を画定するための関心対象領域選択コンポーネントをレンダリングすることによって示す又は画定することができる。
図15の例となる方法には、例となるフローチャートに例示されるよりも多いか又は少ない段階が含まれてよく、例となるフローチャート中の段階が、示されるものと異なる順序で実施されてよいことを当業者は理解するであろう。
例となる分割画面表示及び生体試料のためのバイオマーカー表示
一部の実施形態では、図2〜7に例示されるインターフェース(生体試料の視野の分割画面表示を見ることを可能にするため)と図10〜14に例示されるインターフェース(生体試料の視野の領域における異なるバイオマーカーの発現レベルを見ることを可能にするため)の特徴を合わせるためにグラフィックユーザインターフェースが提供される。図16は、両方の能力を実行する例となるグラフィックユーザインターフェース1600である。グラフィックユーザインターフェース1600には、例えば、生体試料の画像、又は画像の一部分を表示するための画像ナビゲーションコンポーネント1602、生体試料の画像の中の視野を表示するための主画像パネル1604、及び、主画像パネル1604に表示される視野内の領域の範囲内の1以上のバイオマーカーの発現レベルを表示するためのバイオマーカーパネル1606が含まれる。主画像パネル1604は、境界線によって視野の2つの隣接する部分を表示するための2つの例となる画像サブパネル1608、1610に分割されるか、又はそれらを備えている。図16に例示される例となる特徴及びそれらの操作は、図2〜15に関連してさらに詳細に記載される。
データアクセスのための例となるネットワークアーキテクチャ
図17は、実施形態の実施に適した例となるネットワーク環境1700を描写する。ネットワーク環境1700には、コミュニケーションネットワーク1710によって1以上のクライアント1706及び1708に連結された1以上のサーバ1702及び1704が含まれ得る。特に、1以上のサーバ1702及び1704及び1以上のクライアント1706及び1708の各々は、図23に関して記載されるような演算装置2300としてインプリメントすることができる。従って、1以上のサーバ1702及び1704及び1以上のクライアント1706及び1708の各々には、サーバ1702及び1704がコミュニケーションネットワーク1710によってクライアント1706及び1708と通信することを可能にするためのネットワークインターフェース2312及びネットワーク装置2322が含まれ得る。コミュニケーションネットワーク1710としては、限定されるものではないが、インターネット、イントラネット、LAN(ローカル・エリア・ネットワーク)、WAN(ワイド・エリア・ネットワーク)、MAN(メトロポリタン・エリア・ネットワーク)、ワイヤレスネットワーク、光ネットワークなどを挙げることができる。コミュニケーションネットワーク1710によって提供される通信機能は、本明細書において開示されるように協同的な分析及び研究努力を支持することができる。
例となる実施形態では、サーバ1702、1704の1又はそれ以上は、クラウド環境及び本明細書に記載される方法に関連するデータを格納する能力を、例えば、図1A〜1Cに関連して記載されるデータ格納システムに従って有利に提供することができる。特定の例となるサーバは、画像データを異なる解像度層の別々のデータタイルとして格納するタイリングサーバであり得る。サーバ1702、1704は、画像データを必要に応じてストリーミング方式で、要求を行ったクライアントに転送することができる。一部の例となる実施形態では、サーバ1702、1704の1又はそれ以上はまた、本明細書に記載される方法に関連するデータを分析するための環境及び能力も提供する。
クライアント1706、1708の1又はそれ以上は、クライアント演算装置のユーザが使用するための本明細書に記載されるグラフィックユーザインターフェースの1又はそれ以上を提供するか又は実装することができる。クライアント1706、1708は、1以上のサーバ1702、1704に遠隔アクセスして、グラフィックユーザインターフェースのレンダリング及び/又は更新に必要なデータの部分(例えば、1以上のデータタイル)を要求することができる。それに応じて、サーバは、要求されたそれらのデータ部分だけを取り出すことができ、データを要求を行ったクライアントにストリーミング方式で転送することができる。一部の実施形態では、データは、クライアントによって要求され、ユーザがクライアントにレンダリングされたグラフィックユーザインターフェースと対話している時にサーバによってリアルタイムでクライアントに転送されてよく、或いは、ユーザがユーザインターフェースと対話した後にタイムラグの後で実施されてもよい。
例となる実施形態では、クライアントからサーバへの要求の転送及び/又はサーバからクライアントへのデータの転送は、特定の条件、例えばライセンス契約などの対象とすることができる。
例となる実施形態では、タイリングサーバとして実装されるサーバは、GUI100、1000、及び/又は1600の実施形態を実行するようプログラムされた1以上のクライアントから受け取った要求に応じて、個々のタイルを取り出し、処理し、提供するよう動作することができる。クライアントとタイリングサーバとの間の通信は、通信プロトコル、例えば、ハイパーテキスト転送プロトコル(Hypertext Transport Protocol)によって容易にすることができる。タイリングサーバは、クライアントがハンドラインターフェース、例えば標準的なウェブベースのHTTPインターフェースを用いることによって利用でき得る。ハンドラインターフェースは、例えば、タイリングサーバの機能をカプセル化する、暗号化されたJavaScript(登録商標)Object Notation(JSON)に基づく画像データクエリを利用する柔軟なデータ要求構造を提供することができる。
図18は、タイリングサーバに送信され得るタイル画像要求に基づく、GUI100、1000、及び/又は1600の実施形態を実行するようプログラムされたクライアント演算装置と、タイリングサーバとの相互作用を例示する例となるフローチャートを示す。タイルを要求するには、クライアントは、段階1800で画像メトリック要求を送信するようプログラムされることができる。画像メトリック要求は、クライアントが〜タイルを求めてタイリングサーバをクエリするために使用することのできる情報を得るために使用することができる。例えば、処理要求は、画像メトリック、例えば画像高さ、画像幅、タイル高さ、タイル幅、画像ディレクトリの数、最小ピラミッドレベル(例えば、最小解像度レベル)、及び最大ピラミッドレベル(例えば、最大解像度レベル)などを要求することができ、それはタイリングサーバによってクライアントに戻されることができる。タイリングサーバは、段階1802で、要求した画像メトリックをクライアントに戻すことができる。
クライアントが要求した画像メトリックを受け取ると、クライアントは、段階1804の画像メトリックを用いて、具体的なタイル画像を要求することができる。例となる実施形態では、タイルは、クライアントによって順次要求され得る。クライアントによって作成されるタイルに対する要求には、どのタイル画像が望まれているのかを指定する情報が含まれる。タイルに対する要求に応じて、タイリングサーバは要求を処理し、段階1806でタイル画像を識別する。段階1808において、タイリングサーバは、クライアントに要求されたタイル画像をストリームし、段階1810において、タイリングサーバはクライアントからの次のタイル要求を待つ。クライアントが別のタイル画像を要求した場合、処理を段階1804から繰り返す。そうでなければ、処理は段階1812で終了する。例となる実施形態では、タイリングサーバは、ケースマネージャ及び/又はファイルシステムへの冗長で時間のかかる呼び出しを減らすためにキャッシングを使用することができ、従ってクライアント要求に対するその応答性をスピードアップすることができる。
クライアントがタイルを要求した場合、その要求には、要求される特定のタイルを識別するための情報が含まれ得る。一実施形態では、タイルは、各タイルに対する別個のHTTP要求に基づいてタイリングサーバから取り出すことができる。例となる実施形態では、クライアントによって開始される要求には、スライド画像のサムネイルに対する要求、1以上のチャネルで構成されるタイルに対する要求、画像サイズ、タイルサイズ、及び利用可能なピラミッドレベルを含む画像メトリックに対する要求が含まれ得、かつ/又は情報に対する任意のその他の適した要求が含まれ得る。
例となる実施形態では、クライアントによって開始される要求は、パラメータ(例えば、画像メトリック)、例えば情報パラメータ、インデックスパラメータ、レベルパラメータ、画像高さパラメータ、画像幅パラメータ、タイル高さパラメータ、タイル幅パラメータ、及び/又は取り出される特定のタイルを指定するのに適した任意のその他の情報などを含むURLクエリを作成するユニバーサルリソースロケーター(URL)プロトコルを利用することができる。本明細書に記載されるように、クライアントは、パラメータに対する画像メトリック要求を送信するようにプログラムされることができ、サーバはパラメータ及びそれらの関連する値を与えることによって要求に応答することができる。インフォパラメータは、URLクエリによって要求されている情報の種類(例えば、画像メトリック又はタイル画像)を示すブール値であり得る。例えば、インフォパラメータが「真」に設定される場合、URLクエリは画像メトリックを要求するように構成され、インフォパラメータが「偽」に設定されているか指定されていない場合、URLクエリはタイル画像を要求するように構成される。インデックスパラメータには、要求したタイルのx軸及びy軸のタイル位置を示す整数値が含まれ得る。レベルパラメータには、戻されるべき画像ピラミッドからのレベルを示す整数値(例えば、スケール及び/又は解像度)が含まれ得る。例となる実施形態では、レベルパラメータには、画像ピラミッドから最も低いレベルを示す最小レベルパラメータ及び画像ピラミッドから最も高いレベルを示す最大レベルパラメータが含まれ得る。画像高さパラメータは画像全体の高さに対応し、画像幅パラメータは画像全体の幅に対応する。タイル高さパラメータは、画像全体のタイルの高さに対応し、タイル幅パラメータは、画像全体のタイルの幅に対応する。
図19は、クライアントが作成することのできる画像メトリック要求1900の一例を示し、ここで、インフォパラメータ1902は「真」に設定されている。図20は、タイリングサーバによって提供される画像メトリック要求に対する、XMLに基づく応答20の一例を示し、それには、例えば、画像高さパラメータ2002、画像幅パラメータ2004、タイル高さパラメータ2006、タイル幅パラメータ2008、及び最小ピラミッドレベルパラメータ2010、及び最大ピラミッドレベルパラメータ2012の値が含まれる。図21は、クライアントが作成することのできるタイル画像要求2100の一例を示す。タイル画像要求2100には、要求2100において特定のタイル画像を指定するための画像メトリック2104の値2102が含まれ得る。
図22は、タイリングサーバに送信され得るサムネイル画像要求に基づく、GUI100、1000、及び/又は1600の実施形態を実行するようにプログラムされたクライアントとタイリングサーバとの対話を例示するフローチャートである。GUI100、1000、及び/又は1600の実施形態を実行するクライアントによってサムネイルを表示することのできる実施形態に関して、クライアントは、画像メトリック要求を送信することができ、図18〜20に関して上に記載されるようにタイリングサーバから画像メトリックを受け取ることができる。要求された画像メトリックをクライアントが受け取ると、クライアントは、段階2200の画像メトリックを用いて特定のサムネイル画像を要求することができる。クライアントが作成したサムネイルに対する要求には、画像全体のどの部分がサムネイルに含まれるべきであるかを指定する情報が含まれ得る。サムネイルに対する要求に応じて、タイリングサーバは要求を処理し、段階2202でサムネイル画像に含められるべき画像全体の部分に対応するタイルを特定する。タイリングサーバが特定したタイルは、要求で指定されたサムネイル画像のズームレベルに最もよく一致する最大のピラミッドレベルから取り出され得る。段階2204において、タイリングサーバは、サムネイル用に取り出したタイルを合わせて単一の画像にすることができ、段階2206において、タイリングサーバは画像を望ましいサイズに縮小する。段階2208において、要求したサムネイル画像の寸法に合わせるために画像の縁をトリミングし、段階2210において、サムネイル画像として1以上のGUI100、1000、及び/又は1600での表示のために画像をクライアントに送信する。
例となる演算装置
本明細書において開示されるシステム及び方法には、1以上のコンピュータで読み取り可能な媒体、RAM、ROM、ハードドライブ、及び/又はハードウェアに保有される実行可能な命令と関連付けられた1以上のプログラム可能な処理単位が含まれてよい。例となる実施形態では、ハードウェア、ファームウェア及び/又は実行可能なコードが、例えば、既存のインフラストラクチャー(例えば、既存の装置/処理単位)と併せて使用するための1以上のアップグレードモジュールとして、提供されてよい。ハードウェアには、例えば、演算プロセスとして本明細書において教示される実施形態を実行するために、コンポーネント及び/又は論理回路が含まれてよい。
用語「コンピュータで読み取り可能な媒体」とは、本明細書において、コントローラ、マイクロコントローラ、計算システム又は計算システムのモジュールによってアクセスされて、その上にコンピュータで実行可能な命令又はソフトウェアプログラムをエンコードすることのできる、一時的でないストレージハードウェア、一時的でない記憶装置又は一時的でないコンピュータシステムメモリをさす。「コンピュータで読み取り可能な媒体」は、計算システム又は計算システムのモジュールによってアクセスされて、その媒体にエンコードされるコンピュータで実行可能な命令又はソフトウェアプログラムを取り出す、かつ/又は実行することができる。一時的でないコンピュータで読み取り可能な媒体としては、限定されるものではないが、1以上の種類のハードウェアメモリ、一時的でない有形メディア(例えば、1以上の磁気記憶ディスク、1以上の光ディスク、1以上のUSBフラッシュドライブ)、コンピュータシステムメモリ又はランダムアクセスメモリ(例えば、DRAM、SRAM、EDO RAM)などを挙げることができる。
例えば、本開示に従ってグラフィックユーザインターフェースをレンダリングするための、表示及び/又はその他のフィードバック手段も含まれてよい。表示及び/又はその他のフィードバック手段は、スタンドアローン型の装置であってもよいし、又は1以上の処理単位の1以上のコンポーネント/モジュールとして含められていてもよい。例となる実施形態では、表示及び/又はその他のフィードバック手段は、生物組織試料の画像、又は画像の一部分に対応する視野の形態学上の表現と統計学上の表現の両方を同時に説明するために使用されてもよい。
本発明の一部の実施形態を実行するために用いることのできる実際のソフトウェアをコード又は制御するハードウェアは、そのような実施形態の範囲に制限されることを意図するものではない。例えば、本明細書に記載される実施形態の特定の態様は、任意の適したプログラミング言語の種類、例えば、アセンブリコード、C、C#又はC++などを用い、例えば、従来の又はオブジェクト指向のプログラミング技法を用いてコードで(in code)実行されてよい。そのようなコードは、適した一時的でない、コンピュータで読み取り可能な1以上の媒体、例えば、磁気又は光記憶媒体などのあらゆる種類に格納されるか又は保持される。
本明細書において用いられる、「プロセッサ」、「処理装置」、「コンピュータ」又は「コンピュータシステム」は、例えば、マイクロコンピュータ、ミニコンピュータ、サーバ、メインフレーム、ラップトップ、パーソナルデータアシスタント(PDA)、ワイヤレス電子メール装置(例えば、「BlackBerry」、「Android」又は「Apple」、取引を指定された装置)、携帯電話、ページャー、プロセッサ、FAX装置、スキャナ、或いは、ネットワークによってデータを送信及び受信するように構成された、任意のその他のプログラム可能な装置のワイヤレス又はワイヤラインの種類であり得る。本明細書において開示されるコンピュータシステムには、データを得、処理し、通信する際に用いられる、特定のソフトウェアアプリケーションを格納するためのメモリが含まれてよい。そのようなメモリは開示される実施形態の内側であっても外側であってもよい。また、メモリには、ソフトウェアを格納するための一時的でない記憶媒体が含まれてもよく、それには、ハードディスク、光ディスク、フロッピー(登録商標)ディスク、ROM(読み出し専用メモリ)、RAM(ランダムアクセスメモリ)、PROM(プログラム可能なROM)、EEPROM(電気的に消去可能なPROM)、フラッシュメモリ記憶装置、又は同類のものが挙げられる。
図23は、本明細書において開示されるシステム及び方法を実行するために使用され得る、例となる演算装置2300を表すブロック図を描写する。演算装置2300は、あらゆるコンピュータシステムであってもよく、例えばワークステーション、デスクトップコンピュータ、サーバ、ラップトップ、ハンドヘルドコンピュータ、タブレットコンピュータ(例えば、iPad(商標)タブレットコンピュータ)、モバイルコンピューティングもしくは通信装置(例えば、iPhone(商標)モバイル通信装置、Android(商標)モバイル通信装置、など)、又は、通信ができ、本明細書に記載される動作を行うのに十分なプロセッサ・パワーとメモリ容量を有する、その他の形態のコンピューティングもしくは遠距離通信装置であってよい。例となる実施形態では、分散型コンピュータシステムには、複数のそのような演算装置が含まれることがある。
演算装置2300には、本明細書に記載される例となる方法を実行するための1以上のコンピュータで実行可能な命令又はソフトウェアがそれにエンコードされている、1以上の一時的でない、コンピュータで読み取り可能な媒体が含まれる。一時的でない、コンピュータで読み取り可能な媒体としては、限定されるものではないが、1以上の種類のハードウェアメモリ及びその他の有形メディア(例えば、1以上の磁気記憶ディスク、1以上の光ディスク、1以上のUSBフラッシュドライブ)、などを挙げることができる。例えば、演算装置2300に含められるメモリ2306は、本明細書に記載されるグラフィックユーザインターフェースを実行するためのコンピュータで読み取り可能な及びコンピュータで実行可能な命令又はソフトウェアを格納することができる。また、演算装置2300には、プロセッサ2302及び関連するコア2304も含まれる、さらに一部の実施形態では、メモリ2302に格納されたコンピュータで読み取り可能な及びコンピュータで実行可能な命令又はソフトウェア及びシステムハードウェアを制御するためのその他のプログラムを実行するための、1以上のさらなるプロセッサ2302’及び関連するコア2304’も含まれる(例えば、マルチプロセッサ/コアを有するコンピュータシステムの場合)。プロセッサ2302及びプロセッサ2302’は、各々、シングルコアプロセッサ又はマルチコア(2304及び2304’)プロセッサであり得る。
演算装置2300で仮想化を用いて、演算装置のインフラストラクチャー及びリソースを動的に共有することができる。プロセスが複数の演算リソースよりもむしろただ一つの演算リソースを使用しているように見えるように、マルチプロセッサで実行するプロセスを処理するための仮想マシン2314が提供され得る。複数の仮想マシンも、1つのプロセッサで使用されることができる。
メモリ2306としては、コンピュータシステムメモリ又はランダムアクセスメモリ、例えばDRAM、SRAM、EDO RAM、などを挙げることができる。メモリ2306には、その他の種類のメモリ、又はその組合せも含まれ得る。
ユーザは、視覚表示装置2318、例えば画面又はモニタなどを通じて演算装置2300と対話することができ、その視覚表示装置は本明細書に記載される例となる実施形態に従って提供される1以上のグラフィックユーザインターフェース2320を表示することができる。また、視覚表示装置2318は、その他の態様、要素及び/又は例となる実施形態に関連する情報もしくはデータも表示することができる。
演算装置2300には、ユーザからの入力を受け取るためのその他のI/O装置、例えば、キーボード又は任意の適したマルチポイント・タッチ・インターフェース2308、ポインティングデバイス2310(例えば、マウス、ディスプレイ装置と直接的に対話するユーザの指)が含まれてよい。本明細書において用いられる、「ポインティングデバイス」は、任意の適した入力インターフェース、具体的には、ユーザが空間的なデータを演算システムもしくは装置に入力することを可能にする、ヒトインターフェース装置である。例となる実施形態では、ポインティングデバイスは、ユーザが物理的な身振り、例えば、ポインティング、クリック、ドラッグ、ドロップ、などを用いてコンピュータに入力を行うことを可能にすることができる。例となるポインティングデバイスとしては、限定されるものではないが、マウス、タッチパッド、ディスプレイ装置と直接的に対話するユーザの指、などを挙げることができる。
キーボード2308及びポインティングデバイス2310は、視覚表示装置2318に連結されていてよい。演算装置2300には、その他の適した従来のI/O周辺装置が含まれてよい。I/O装置は、1以上のグラフィックユーザインターフェース2320の実施、例えば、本明細書に記載される1以上のグラフィックユーザインターフェースの実施を容易にすることができる。
演算装置2300には、データ、並びに、本明細書において教示される例となる実施形態を実行する、コンピュータで読み取り可能な命令及び/又はソフトウェアを格納するための1以上の記憶装置2324、例えば耐久性のあるディスク記憶装置(これには任意の適した光学もしくは磁気耐久性のある記憶装置、例えば、RAM、ROM、フラッシュ、USBドライブ、又はその他の半導体に基づく記憶媒体が含まれ得る)、ハードドライブ、CD−ROM、又はその他のコンピュータで読み取り可能な媒体などが含まれ得る。例となる実施形態では、1以上の記憶装置2324は、本開示のシステム及び方法によって生成され得るデータの格納を提供することができる。例えば、記憶装置2324は、生体試料(例えば、タイル化された多重解像度データ構造の形態)、本明細書に記載されるバイオマーカーパネル及び関連するサムネイル画像を実行するようにプログラム又は構成されたバイオマーカーパネル表示モジュール2328、並びに本明細書に記載される分割画面表示を実行するようにプログラム又は構成されている分割画面表示モジュール2330に対応する画像データ2326の格納を提供することできる。1以上の記憶装置2324は、本明細書に記載される1以上の方法に関するコンピュータで読み取り可能な命令の格納をさらに提供することができる。1以上の記憶装置2324は、演算装置2300に属して提供されてよく、かつ/又は演算装置2300とは別々に又は離れて提供されてよい。
演算装置2300には、1以上のネットワーク装置2322によって1以上のネットワーク、例えば、ローカル・エリア・ネットワーク(LAN)、ワイド・エリア・ネットワーク(WAN)と、或いは、限定されるものではないが、標準的な電話線、LANもしくWANリンク(例えば、802.11、T1、T3、56kb、X.25)、ブロードバンド接続(例えば、ISDN、フレームリレー、ATM)、ワイヤレス接続、コントローラ・エリア・ネットワーク(CAN)、又は上記のいずれか又は全ての何らかの組合せを含む、多様な接続によるインターネットとインターフェースで接続するように構成されたネットワークインターフェース2312が含まれ得る。ネットワークインターフェース2312には、ビルトインネットワークアダプタ、ネットワークインターフェースカード、PCMCIAネットワークカード、カードバスネットワークアダプタ、ワイヤレスネットワークアダプタ、USBネットワークアダプタ、モデム又は演算装置2300を通信の可能な任意の種類のネットワークとインターフェース連結し、本明細書に記載される動作を実施するのに適した任意のその他の装置が含まれ得る。ネットワーク装置2322には、限定されるものではないが、1以上の受信機、1以上の送信機、1以上のトランシーバー、1以上のアンテナ、などをはじめとする、ネットワーク上で通信を受信及び送信するのに適した1以上の装置が含まれ得る。
演算装置2300は、任意のオペレーティングシステム2316、例えばMicrosoft(登録商標)Windows(登録商標)オペレーティングシステムのバージョンのいずれか、異なるリリースのUnix(登録商標)及びLinux(登録商標)オペレーティングシステム、Macintoshコンピュータ向けMacOS(登録商標)の任意のバージョン、任意の組み込まれたオペレーティングシステム、任意のリアルタイムオペレーティングシステム、任意のオープンソースオペレーティングシステム、任意の著作権のあるオペレーティングシステム、モバイルコンピューティングデバイス向けの任意のオペレーティングシステム、又は演算装置で実行すること及び本明細書に記載される動作を実施することが可能な任意のその他のオペレーティングシステムで実行することができる。例となる実施形態では、オペレーティングシステム2316は、ネイティブモード又はエミュレーテッドモードで実行することができる。例となる実施形態では、オペレーティングシステム2316は、1以上のクラウド・マシン・インスタンスで実行することができる。
例となる演算システム2300には、図23に示されるよりも多いか又は少ないモジュールが含まれ得ることを当業者は理解するであろう。
ここで図24〜39を参照すると、本発明は、本発明の分割画面機能とデジタルプリズム機能の両方、並びに選択された画像を電子記録にアップロードするためのスナップショット捕捉機能を提供するGUI2500を提供し、その電子記録は保存され、所定の例でユーザ病理学者の知見に対する支持を詳しく述べるレポートに提供されるか又は書式化され得る。例えば、スナップショット捕捉機能、又は「スナップショット機能」又は簡単に「スナップショット」は、全てのサムネイル画像又は分割画面画像を記録に保存することを可能にすることができ、その記録はその後、ローカルメディアに、又はハードワイヤードネットワーク内のサーバに、又はクラウドサーバにさえ保管される。その後、記録は、望ましくは他の患者情報とともに、ローカル及び/又は遠隔のレビュアーが利用でき得る。用語「スナップショット」とは、スナップショット捕捉機能によって記録された画像をさす。本発明は、本発明のスナップショット機能が、本発明の分割画面機能とデジタルプリズム機能のいずれか又は両方を提供するGUIとともに用いられ得ることを企図する。
本発明のスナップショット捕捉機能(及びこの機能によって撮られた画像のスナップショット)は、多数の利益をユーザにもたらす。例えば、スナップショットは必要に応じて修正及び大きさを変更することができる。捕捉した領域は、望ましくは、スナップショットが削除されるまでスライドの画像とともにとどまる、はっきりした線色で、目に見えるボックス内に表示されてよい。望ましくは、スナップショットは、特定のスライド及び特定の捕捉領域とそれらを結び付けることのできる情報の名前がデフォルトで付けられる、この名前は望ましくは必要に応じて編集されてよい。本発明は、スナップショットをリストモード又はギャラリーモードで見直すことができることを企図する。望ましくは、ギャラリーモードでは、スナップショットプレビューのサイズを拡大又は縮小して、ユーザの必要性又は好みに合わせることができる。本発明は、「更新通知データ」ボタンをビューアインターフェースに備えているので、「更新通知データ」ボタンをクリックすることによってスナップショットを症例報告にアップロードすることができる。症例報告には、本発明は、病理学者に、見直した画像の全て又は一部を含めるか又は何も含めないという選択肢を提供する。本発明は、保存した画像を、それらを得た領域でソートすることをさらに企図する。本発明は、プレゼンテーション又はさらなる研究で使用するために思い出せるように、スナップショットをローカルディスク又はその他の遠隔記憶媒体に保存することを可能にする。フル解像度画像も保存することができる。本発明は、さらに提供する。スナップショットは、ユーザによって自由形式のテキストで注釈がつけられてよい。本発明は、各々の保存したスナップショットがその後付随する注釈とともに診断レポート又は研究レポートに含めるために使用可能であるように、スナップショットがレポートビルダーツールへの入力を提供するサーバに保存され得ることを企図する。
本発明のデジタルプリズムスナップショットは、単一のバイオマーカーの混合で提示される、選択された領域の画像の捕捉をさらに提供し、同じ位置の残りのバイオマーカーのそれぞれの画像も捕捉することができる。その上、デジタルプリズムスナップショットは、ユーザが、患者試料の画像上のある位置の第1のバイオマーカーを見て、そのバイオマーカーの発現の画像と、第1のバイオマーカーを用いて選択された同じ位置又は領域で発現したその他のバイオマーカーの画像の両方を捕捉することを可能にする。
図24は、多重化プラットフォームで得たどんなデータもユーザが直感的にブラウズすることを可能にするGUI2500を提供する本発明の実施形態を描写する。それは、例えば、ホジキンリンパ腫実験室開発試験(LDT)の結果を評価するために病理学者に使用されてよい。
GUI2500は本発明のGUI1000の変更形であると見られ、GUI1000に対する例として記載されるものを含む、同様の能力及び機能性を提供するために同様の特徴が企図される。GUI2500には、生体試料の視野を表示するための主画像パネル2502、及び、捕捉領域に関する情報を表示するための捕捉領域タブ2507か又はレポートで用いるために捕捉したスナップショットに関する情報を表示するためのレポートスナップショットタブ2509のいずれかをユーザが選択することのできる領域管理パネル2504が含まれる。図24に示されるように、ユーザが捕捉領域タブ2507を選択する場合、パネル2504は、主画像パネル2502の試料画像から選択される捕捉領域の各々に対する、選択可能なタブ2503のリストを表示する。図27に示されるように、ユーザが特定のタブ2503を選択する場合、パネル2504は、その選択されたタブ2503の下に、各々が捕捉領域の生体試料の視野の一領域に関連するバイオマーカー発現を表す、いくつかのサムネイル画像2505を表示する。主画像パネル2502に表される視野は、一般に生体試料の画像全体の一部分に相当するが、望ましくはパネル2504で選択された捕捉領域に関する領域を示す。
特に図24を参照すると、GUI2500には、スライド上の各々の領域をフォルダ2506aとして、及びその領域内の各々の画像をフォルダ要素としてリストする、ユーザが主画像パネル2502に表示するために使用できる1以上の表示方式を示すために使用されてよい、表示方式選択コンポーネント2506が含まれる。例えば、表示方式2506a−1、2506a−2、及び2506a−3は、それぞれ、CD30 mDAB、mHE、CD30 Low Mag(単色)であり得、それらは各々、全組織領域に対するフォルダ2506aの下にフォルダ要素として備えられている。主画像パネル2502に視野を表示すると、GUI2500は、全体的な生体試料を表示する画像ナビゲーションコンポーネント2508が含まれるように更新されてよく、主画像パネル2502に表示される視野はその生体試料の一部である。画像ナビゲーションコンポーネント2508は、ユーザによって選択された表示方式に従って生体試料を表示する。
画像ナビゲーションコンポーネント2508には、望ましくは、生体試料の全体表示の中で視野を画定するための視野選択コンポーネント2510(例えば、レチクル又は任意のその他の適したコンポーネント)が含まれる。視野選択コンポーネント2510は、ユーザが一般に全体的な生体試料(画像ナビゲーションコンポーネント2508に表示される)に見出すことのできる視野(主画像パネル2502に表示される)の位置を確認することを可能にする。一部の実施形態では、画像ナビゲーションコンポーネント2508は、主画像パネル2502よりも小さく、生体試料の低解像度表示を提供する。その他の実施形態では、画像ナビゲーションコンポーネント2508は、主画像パネル2502と同じサイズであるか又はそれよりも大きくてよい。主画像パネル2502には、ユーザが、ズームの特定のレベル又はズームの相対レベルを入力する(例えば、ズームスライダ及び/又はズームボタンを用いて)ことを可能にするためのズーム入力ツール2512が含まれ得る。最新の相対ズームレベルは、画像パネル上のズームインジケータ2514に示され得る。主画像パネル2502が新しいズームレベルに従って更新されると、画像ナビゲーションコンポーネント2508中の視野選択コンポーネント2510は、自動的に更新されて、主画像パネル2502に示される対応する更新された視野を正確に画定する。例となる実施形態では、ユーザインターフェースを実行する演算装置は、新しいズームレベルがタイル化された多重解像度データ構造の中の異なる解像度レベルから画像データを必要とすることを決定することができ、画像データの1以上のタイルを解像度レベルから取り出すことができる。
主画像パネル2502には、生体試料において新しい視野をパンするためのパン入力ツール2516が含まれる。パンニングは、主画像パネル2502の画像の上をクリックしてホールドし、パネルを横切ってカーソルをドラッグすることによっても実施することができ、下にある画像をそれと一緒に動かす。主画像パネル2502には、主画像パネル2502に表示される視野の中の各々の捕捉領域の位置を画定するための捕捉領域インジケータコンポーネント2540(例えば、レチクル又は任意のその他の適したコンポーネント)も含まれる。さらなる高解像度画像が選択された捕捉領域から得られてGUI2500にロードされれば、領域管理パネル2504は、例えば図27に示されるように、新しく得た捕捉領域画像を表す1以上のサムネイル画像2505のセットが含まれるように構成される。その後、これらの画像はサムネイルをクリックすることにより主画像パネル2502にロードされることができ、その後、領域管理パネル2504は、主画像パネルに表示される画像にどのサムネイル画像が対応するかを指示するものを備えていることができる。
GUI1000について記載されたように、バイオマーカータブ2503のサムネイル画像2505のサイズ及び/又は空間次元は、表示されるサムネイル画像の数及び/又は領域管理パネル2504のサイズに基づいて自動的に設定及び/又は縮尺を変更することができる。一部の実施形態では、ユーザは、サムネイル画像のサイズ及び/又は次元を手動でセット又はリセットすることが可能であり得る。
タブ2507が選択される場合、パネル2504は、表示されたサムネイル2505のスナップショットを捕捉するための第1のスナップショット捕捉ボタン2590、及び主画像パネル2502から画像を捕捉するための第2のスナップショット捕捉ボタン2592を備えている。ボタン2590及び2592は、ユーザがスナップショット画像の位置を、後で検索することのできるメインサーバに保存することを可能にすることが望ましい。GUI2500には、ユーザが画像を選択されたスナップショットから取り出し可能な電子記録に保存することを可能にする、更新通知データボタン2595も含まれる。更新通知データボタン2595は、保存した画像をユーザのための報告ツールへの入力として使用することのできるディレクトリにエクスポートさせることが望ましい。
望ましくは、病理学者は、任意のインターネットブラウザを通じてGUI2500を遠隔アクセス及び操作することができる。GUI2500では、彼らは症例一覧をブラウズし、見直したい症例を選択することができる。或いは、病理学者は、特定の症例が見直しの準備ができているという警告を受けることができ、彼らはその症例への直接リンクが提供される。
ひとたび症例がサーバ又はその他の適した電子記録用の記憶装置からアクセスされると、病理学者は、図25に示されるように、10倍の倍率で得たスライド、例えば分子H&E(mH&E)画像などの概要を見るための画像選択コンポーネント2506から選択することができる。mH&Eは、グレースケール免疫蛍光画像を、病理学者により馴染みがあり、視覚情報を抽出するのがより容易な画像に変換するアルゴリズムを用いて生成される。mH&Eは、病理学者が試料の全体的な形態を評価することを可能にする。
図24〜27は、レチクル2510によって表されるように異なるズームレベルで得た低解像度画像の異なるビューを表す。システムは、図28〜34に表されるように、ユーザがさらなる高解像度撮像のための領域を明示することを可能にする。ひとたび試料及びその関心対象領域の低解像度及び高解像度の画像(ここではそれぞれ10倍及び40倍と示される)がそれぞれ撮影されれば、画像はGUI2500によって(though)結び付けられて、低解像度画像と高解像度画像との間のナビゲーションを可能にする。
図26は、CD30のmDAB画像の10倍表示を示す。主画像パネル2502の左側には、画像の拡大及び縮小を行うために使用することのできるズームインジケータ2514を見ることができる。既に選択した捕捉領域は、ここに見えるボックス2540で強調される。病理学者は、単純にGUI2500の左手側の画像選択コンポーネントの中の画像のリストから所望の画像を主画像パネル2502にドラッグ・アンド・ドロップすることによって、又はバイオマーカータブ2503によって得た捕捉領域からサムネイル2505を選択することによって、その他の画像にアクセスすることができる。図26に示されるように、病理学者はCD30染色の分子DAB画像を見ている。mH&Eに似て、mDABは、バイオマーカー染色のグレースケール画像を使用し、それらを明視野DAB染色画像に似た画像に変換する。例えば、ホジキンリンパ腫LDTにおいて、CD30は、将来回ってくる画像化によって調査されることになる、潜在的なリード−シュテルンベルク(RS)細胞をそれが識別するという点で重要な染色である。ウェットラボプロトコルの初めに、病理学者はこの10倍のCD30 mDAB画像を見て、その後回ってくる画像化で画像化されることになるROI(又は捕捉領域)を選択する。既に選択された一部のROIは、CD30 mDAB画像の上のボックス2540で輪郭が描かれている。
画像をナビゲートすることは簡単で直感的である。パンニングは、所望により主画像パネル2502のあたりの画像をクリックすること及びドラッグすることによるか、又はパン入力ツール2516を使用することによって実施される。拡大及び縮小は、マウスホイールをスクロールすることによるか、ズーム入力ツール2512のスライダバーをドラッグすることによるか、又は所望の倍率レベルを選択することによって実行することができる。病理学者は、彼らが調査したいと思った、事前に選択したROIを見つけるまで、10倍画像をナビゲートすることができる。病理学者は所望のROIの上でダブルクリックすることができ、それは右手側の領域管理パネル2504で強調される。次に彼らは所望のROIを拡大して、見直すことのできる異なる視覚化タイプ及びバイオマーカーの全てを見ることができる。画像の中の1つのサムネイル2505の上を簡単にクリックすることにより、それは主画像パネル2502上で開かれる。図27は、ROIがダブルクリックされてアクティブになるこの機能を示す。ボックス2540で示されるROIは、その後、異なる色のボックス2550で輪郭が描かれ、その対応するタブ2503がパネル2504で強調される。
病理学者が10倍画像をナビゲートすることによって関心対象領域を特定したら、彼らはその領域の高解像度(40倍)で得た、利用可能な画像及び色混合を見ることができる。又は、彼らは2又はそれ以上のモノクロの画像を組合せて色混合を作り出すこともできる。図28は、各々異なる色の5つの異なるバイオマーカーを表示する、この特徴を示す。
図29に示されるように、従来の免疫蛍光画像によく慣れている病理学者にとって、画像を混合する機能は非常に有用であると分かることができる。多数のグレースケール画像2521を画像選択コンポーネント2506から主画像パネル2502にクリック及びドラッグすることによって、彼らは最大5つの画像を各々のバイオマーカーを表す異なる色で混合することができる。混合インターフェース2555を開くことにより、異なるバイオマーカーに好む色の組合せ並びに各々のバイオマーカーの相対強度の選択を可能にする選択可能な制御装置が病理学者に提供される。
図30に関連して、病理学者は、一度に全ての利用可能なバイオマーカー(この例では9つの異なるバイオマーカー)をデジタルプリズム機能を用いて見ることができる。ここではアクティブなサムネイル画像(すなわち、主画像パネル2502に示される画像に対応する特定のサムネイル画像2505)上に位置するギアアイコンとして示されるボタン2560をクリックすることによって、それ自体「デジタルプリズム」と呼ばれることのあるボックス2565が病理学者に提示される。病理学者がこのボックスを特定の細胞又は関心対象領域に動かした場合、右手側のサムネイル2505が更新されて、9つのバイオマーカーの各々のデジタルプリズム2565の内容が反映される。図30は、メインディスプレイのボックス2565によって選択された領域のあるデジタルプリズムを示し、右手側の個々のバイオマーカーのサムネイル画像2505は、ボックス2565の中にある細胞を含むように更新されている。例えば、ホジキンリンパ腫LDTに関して、最も重要な情報は、パネルのその他の8つのバイオマーカーの関連においてCD30陽性細胞の表現型が何かということである。それらの8つのバイオマーカーは、CD15、CD20、Bob1、Oct2、Pax5、CD45、CD3、及びCD79aである。多重化は、病理学者が単一細胞における全ての9つのバイオマーカーの発現を決定的に述べることを可能にする。過去には、病理学者は各々のバイオマーカーの別々の連続切片を頼りにしていたので、同じ細胞は評価されていなかった。
ホジキンリンパ腫のバイオマーカーパネルは9つのバイオマーカーからなる。病理学者は、本発明の分割画面表示機能を用いて一つ一つの比較を続けることができるか、又は、本発明のデジタルプリズム機能を用いて一度に9つ全てのバイオマーカーを見ることができる。サムネイル画像に位置するボタンをクリックすることにより、青色のボックス又は上記のデジタルプリズム機能が病理学者に提示される。病理学者がこのボックスを特定の細胞又は関心対象領域に動かした場合、右手側のサムネイル2505が更新されて、9つのバイオマーカーの各々のデジタルプリズムの内容が反映される。再び図30を参照すると、病理学者が焦点を合わせているこの単一細胞がCD30陽性、Pax5陰性、並びにその他のバイオマーカーの相対的な存在及び非存在をそれらのそれぞれのサムネイル画像において明らかに見ることができる。
図31において、病理学者は、第1のサブパネル2570にmDAB CD30画像を、隣接する第2のサブパネル2572にmDAB Pax5画像を選択した。所望により、図32に示されるように、病理学者は2つの画像の配向を垂直又は水平に変更することができる。いずれの配向でも、図33でバーが異なる位置に表されるように、彼らはその後バー2575を画像を横切ってドラッグしてCD30画像とPax5画像との間を連続的に変えることができる。そうすることによって、組織の同じ領域でのバイオマーカー発現の違いをはっきりと見ることができる。そのような多重化により、ユーザは、1つのバイオマーカーに陽性の細胞が別のバイオマーカーにも陽性であるかどうか、例えば、この例では、CD30陽性細胞はCD15に対しても陽性であるのかどうかを決定することを可能にする。
病理学者が症例レポートに含めるために必要な関心対象領域を決定した後、彼らはGUI2500に表示した画像を本発明のスナップショット機能で捕捉することができる。図34は、主画像パネル2502のボックス2580及び2582に輪郭が描かれる、捕捉した2つの異なるスナップショットを示す。それはまた、パネル2504で得たスナップショットのリストも示す。選択したタブ2509によって、病理学者は、2つのうちの1つの方法でスナップショットを用いて、画像を捕捉することができる。1つ目の方法は、結果として生じるデジタルプリズムのサムネイル画像2505を捕捉することである。そうするために、病理学者はデジタルプリズムボックス2565を関心対象の細胞の方に動かし、プリズムの大きさを変更して画像を適切に枠に入れ、サムネイルの位置を保存する。その後、彼らは第1のスナップショット捕捉ボタン2590をクリックし、図35に示されるGUI2500の領域管理パネル2504部分に表されるように、9つ全てのバイオマーカーのために同じ領域を捕捉する。病理学者が画像を捕捉することのできる2つ目の方法は、全フィールドを捕捉することによる、一度に1回の染色である。これは、ただ単一又は2つの細胞でなく全領域を見る必要のある時に有用である。全フィールドを捕捉するには、図36の主画像パネル2502の部分に示されるように、彼らは単に主画像パネル2502上の第2のスナップショット捕捉ボタン2592をクリックする。捕捉された全ての画像は、スナップショットタブ2509をクリックすることによって見直すことができる。図37に示されるように、画像はサムネイル画像形式で見直すことができる。或いは、図38に示されるように、画像は、説明的なリストとして見直すことができる。レポートスナップショットタブ2509のギャラリーサブパネル2546には、ユーザが(図37に示されるような)サムネイル画像の表示、又は(図38に示されるような)画像の説明的なリストを選択することを可能にするギャラリートグル2548が含まれる。図38に示されるリストから、関連するごみ箱アイコン2596の上をクリックすることにより、病理学者はどんな捕捉画像も消去することができる。また、ユーザは、リストの画像をハイライトし、編集トグル2598をクリックし、その後主画像パネル2502上の対応するボックスの位置を調節することによって、変更したいどんな画像も変更することができる。その上、タブ2509は、ユーザが画像をローカルメディアに保存することを可能にするクイックセーブボタン2597も提供する。病理学者が捕捉した画像全てに満足すれば、図39に表されるように、更新通知データボタン2595を1回クリックすることで彼らは画像を症例レポートにアップロードすることができる。
例となる実施形態を記載するにあたり、明瞭さのために特有の用語が使用される。説明を目的に、各々の特有の用語は、少なくとも、同様の目的を達成する同様の方法で動作する全ての技術的及び機能的等価物を含むことを意図する。その上、特定の例となる実施形態が複数のシステム要素又は方法段階を含む一部の例では、それらの要素又は段階は、単一の要素又は段階に置き換えることができる。同様に、単一の要素又は段階は、同じ目的に適う複数の要素又は段階に置き換えることができる。さらに、様々な性質についてのパラメータが例となる実施形態について本明細書において指定されている場合、それらのパラメータは、特に断りのない限り、1/20、1/10、1/5、1/3、1/2などだけ上下に調節するか、又はその近似値を四捨五入することによって、調節することができる。さらに、例となる実施形態はその特定の実施形態を参照して示され記載されているが、本発明の範囲を逸脱することなく、形式及び詳細の様々な置換及び変更がその中で行われてよいことを当業者は理解するであろう。さらになお、その他の態様、機能及び利点も本発明の範囲内である。
例となるフローチャートは、説明目的で本明細書に提供され、それらは方法の限定されない例である。例となるには、例となるフローチャートに例示されるよりも多いか又は少ない段階が含まれてよく、例となるフローチャート中の段階が、示されるものと異なる順序で実施されてよいことを当業者は理解するであろう。

Claims (44)

  1. 生体試料の画像、又は画像の一部分に対応する、視野内の1以上のバイオマーカーの発現レベルを表示するためのコンピュータ実装方法であって、当該方法が、
    グラフィックユーザインターフェースを視覚表示装置にレンダリングする工程であって、グラフィックユーザインターフェースが主画像パネル及びバイオマーカーパネルを含む、工程と;
    選択された生体試料に対応する視野を選択するユーザ入力を受け取る工程と;
    主画像パネルに、生体試料に対応する選択された視野の第1の画像をレンダリングする工程と;
    主画像パネルの第1の画像の上に重ねて、ユーザが第1の画像内の第1の領域を選択することを可能にする関心対象領域選択コンポーネントをレンダリングする工程と;
    バイオマーカーパネルに、第1の画像内の第1の領域に対応するサムネイル画像の第1のセットをレンダリングする工程であって、サムネイル画像の第1のセットがバイオマーカーのセットの発現レベルを表示する工程と;
    主画像パネルで、第1の画像内の第2の領域を選択するユーザ入力を受け取る工程と;
    第1の画像内の第2の領域を選択するユーザ入力に基づいて、バイオマーカーパネルを更新して、サムネイル画像の第1のセットを第1の画像内の第2の領域に対応するサムネイル画像の第2のセットに置き換え、バイオマーカーのセットの発現レベルを表す、工程と
    を含む、方法。
  2. 関心対象領域選択コンポーネントが、第1の画像内のより小さい領域を画定する、請求項1記載の方法。
  3. 第2の領域を選択するユーザ入力が、
    関心対象領域選択コンポーネントを選択するユーザ入力;及び
    関心対象領域選択コンポーネントを、第1の画像に重ねて、第1の画像内の第1の領域から第2の領域までドラッグするユーザ入力
    を含む、請求項1記載の方法。
  4. 第2の領域を選択するユーザ入力が、
    第1の画像を選択するユーザ入力;及び
    第1の画像内の第2の領域が関心対象領域選択コンポーネントの下側にあるように、関心対象領域選択コンポーネントの下にある第1の画像をドラッグするユーザ入力
    を含む、請求項1記載の方法。
  5. 生体試料の選択された視野の中の1以上の形態学上の特徴の表現を第1の画像の上にオーバーレイする工程
    をさらに含む、請求項1記載の方法。
  6. 第2の領域が、第1の画像に表示された形態学上の特徴を含むように選択される、請求項5記載の方法。
  7. 形態学上の特徴が細胞である、請求項6記載の方法。
  8. 形態学上の特徴が細胞の集まりである、請求項6記載の方法。
  9. 形態学上の特徴が亜細胞成分である、請求項6記載の方法。
  10. 亜細胞成分が、核、細胞質又は膜である、請求項9記載の方法。
  11. サムネイル画像の第1及び第2のセットが、バイオマーカーパネルにおいて所定のパターンで配置される、請求項1記載の方法。
  12. 所定のパターンが格子状のパターンである、請求項11記載の方法。
  13. サムネイル画像の第1及び第2のセットが、サムネイル画像が表示される順序を示す記憶された設定に基づいて、バイオマーカーパネルにおいて編成される、請求項1記載の方法。
  14. 順序が、臨床成績を評価する際の1以上のバイオマーカーの関連性に基づく、請求項13記載の方法。
  15. バイオマーカーパネル上で直接的に、サムネイル画像の第2のセットにおいて1以上のサムネイル画像を再度順序付けるためのユーザ入力を受け取る工程;及び
    ユーザ入力に応じて、バイオマーカーパネルにサムネイル画像の第2のセットを再度順序付ける工程
    をさらに含む、請求項1記載の方法。
  16. バイオマーカーパネル上で直接的に、第1のサムネイル画像を除外するためのユーザ入力を受け取る工程;及び
    ユーザ入力に応じて、バイオマーカーパネルを更新して、選択された第1のサムネイル画像を除外する工程
    をさらに含む、請求項1記載の方法。
  17. バイオマーカーパネルの視覚化タイプを選択するためのユーザ入力を受け取る工程;及び
    ユーザ入力に応じて、バイオマーカーパネルを更新して、サムネイル画像の第2のセットを選択された視覚化タイプで表示する工程。
    をさらに含む、請求項1記載の方法。
  18. 選択された視覚化タイプが、2又はそれ以上のバイオマーカーの発現レベルを、混合された色の画像として同時に表示する、請求項17記載の方法。
  19. 選択された視覚化タイプが、バイオマーカーの発現レベルを色のレベルとして表示する、請求項17記載の方法。
  20. 選択された視覚化タイプが、バイオマーカーの発現レベルをヒートマップとして表示する、請求項17記載の方法。
  21. ヒートマップが、離散的であるか、連続的であるか、又はバイナリ・ヒートマップである、請求項20記載の方法。
  22. 選択された視覚化タイプが、視野の擬似明視野像を表示する、請求項17記載の方法。
  23. サムネイル画像の第2のセット中のサムネイル画像の数に基づいて、バイオマーカーパネルのサイズを更新する工程
    をさらに含む、請求項1記載の方法。
  24. 第1の画像内の第2の領域を固定してオーバーレイするために、下にある第1の画像に対して関心対象領域選択コンポーネントをロックする工程
    をさらに含む、請求項1記載の方法。
  25. バイオマーカーパネル上で直接的に、サムネイル画像の第2のセットの第1のサムネイル画像のスケールを変更するためのユーザ入力を受け取る工程;及び
    ユーザ入力に応じて、バイオマーカーパネルを更新して、選択された第1のサムネイル画像のスケールを変更する工程
    をさらに含む、請求項1記載の方法。
  26. ユーザ入力に応じて、バイオマーカーパネルを更新して、サムネイル画像の第2のセットの残りのサムネイル画像のスケールを変更して、それらのスケールをスケールを変更した第1のサムネイル画像と同じスケールに変更する工程
    をさらに含む、請求項25記載の方法。
  27. 関心対象領域選択コンポーネントで、サムネイル画像の第2のセットの第1のサムネイル画像に表示された第1の画像の部分を変化させるユーザ入力を受け取る工程;及び
    ユーザ入力に応じて、バイオマーカーパネルを更新して、選択された第1のサムネイル画像に表示された第1の画像の部分を変化させる工程
    をさらに含む、請求項1記載の方法。
  28. ユーザ入力に応じて、サムネイル画像の第2のセットの残りのサムネイル画像が、更新された第1のサムネイル画像に表示された第1の画像の同じ部分を表示するようにバイオマーカーパネルを更新する工程をさらに含む、請求項27記載の方法。
  29. サムネイル画像の第1及び第2のセットが、第1の画像と同じスケールで表示される、請求項1記載の方法。
  30. サムネイル画像の第1及び第2のセットが、第1の画像とは異なるスケールで表示される、請求項1記載の方法。
  31. グラフィックユーザインターフェースで、生体試料の表現を表示する画像ナビゲーションコンポーネントをレンダリングする工程;及び
    画像ナビゲーションコンポーネントで直接に、主画像パネルでの表示のための生体試料の視野を選択するユーザ入力を受け取る工程
    をさらに含む、請求項1記載の方法。
  32. 画像ナビゲーションコンポーネントが、生体試料内の選択された視野の位置を示す、請求項31記載の方法。
  33. バイオマーカーの発現レベルが、画素レベルで表示される、請求項1記載の方法。
  34. グラフィックユーザインターフェースが、演算装置でレンダリングされる、請求項1記載の方法であって、方法が、
    バイオマーカーの発現レベルに関するデータを、演算装置からデータを格納する遠隔サーバに要求する工程;及び
    演算装置で、発現レベルに関するデータをサーバから受け取る工程
    をさらに含む、方法。
  35. 要求されたデータが、第1のバイオマーカーの発現レベルを示し、主画像パネルでの表示のための生体試料の選択された視野に対応し、かつ要求されたデータが、選択された視野の外の生体試料の領域に対応するデータを除外する、請求項34記載の方法。
  36. 要求されたデータが、バイオマーカーのセットの発現レベルを示し、バイオマーカーパネルでの表示のための選択された第2の領域に対応する、請求項34記載の方法。
  37. 要求されたデータが、ストリーミングデータとして受け取られる、請求項34記載の方法。
  38. サーバが、タイルサーバであり、バイオマーカーの発現レベルに関するデータの部分が、画像データのタイルとしてサーバに格納されている、請求項34記載の方法。
  39. 第1の画像が、バイオマーカーのセットから選択されたデフォルトバイオマーカーの発現レベルを表示する、請求項1記載の方法。
  40. 第1の画像が、ユーザの選択したバイオマーカーの発現レベルを表示する、請求項1記載の方法。
  41. バイオマーカーパネル上で直接的に、第2のバイオマーカーの発現レベルを表示する第1のサムネイル画像を選択するユーザ入力を受け取る工程;及び
    ユーザ入力に応じて、主画像パネルを更新して、選択された視野の第2の画像を表示する工程であって、第2の画像が、ユーザ入力によって選択された第2のバイオマーカーの発現レベルを表示する、工程
    をさらに含む、請求項1記載の方法。
  42. 第1の画像の上に、第1の画像のセグメンテーション分析の結果をオーバーレイする工程
    をさらに含む、請求項1記載の方法。
  43. 生体試料の画像、又は画像の一部分に対応する、視野内の1以上のバイオマーカーの発現レベルを表示するためのコンピュータシステムであって、システムが、
    視覚表示装置;及び
    視覚表示装置に連結され、
    グラフィックユーザインターフェースを視覚表示装置にレンダリングし、グラフィックユーザインターフェースは主画像パネル及びバイオマーカーパネルを含み;
    選択された生体試料に対応する視野を選択するユーザ入力を受け取り;
    主画像パネルに、生体試料に対応する選択された視野の第1の画像をレンダリングし;
    主画像パネルの第1の画像の上に重ねて、ユーザが第1の画像内の第1の領域を選択することを可能にする関心対象領域選択コンポーネントをレンダリングし;
    バイオマーカーパネルに、第1の画像内の第1の領域に対応するサムネイル画像の第1のセットをレンダリングし、サムネイル画像の第1のセットはバイオマーカーのセットの発現レベルを表示し;
    主画像パネルで、第1の画像内の第2の領域を選択するユーザ入力を受け取り;
    第1の画像内の第2の領域を選択するユーザ入力に基づいて、バイオマーカーパネルを更新して、サムネイル画像の第1のセットを第1の画像内の第2の領域に対応するサムネイル画像の第2のセットに置き換え、バイオマーカーのセットの発現レベルを表示するようにプログラムされているコンピュータ処理装置を備える、コンピュータシステム。
  44. 演算装置で実行した場合、生体試料の画像、又は画像の一部分に対応する、視野内の1以上のバイオマーカーの発現レベルを表示するための方法を実施する、1以上のコンピュータで実行可能な命令がエンコードされた、1以上の一時的でない、コンピュータで読み取り可能な媒体であって、方法が、
    グラフィックユーザインターフェースを視覚表示装置にレンダリングする工程であって、グラフィックユーザインターフェースが主画像パネル及びバイオマーカーパネルを含む、工程と;
    選択された生体試料に対応する視野を選択するユーザ入力を受け取る工程と;
    主画像パネルに、生体試料に対応する選択された視野の第1の画像をレンダリングする工程と;
    主画像パネルの第1の画像の上に重ねて、ユーザが第1の画像内の第1の領域を選択することを可能にする関心対象領域選択コンポーネントをレンダリングする工程と;
    バイオマーカーパネルに、第1の画像内の第1の領域に対応するサムネイル画像の第1のセットをレンダリングする工程であって、サムネイル画像の第1のセットがバイオマーカーのセットの発現レベルを表示する、工程と;
    主画像パネルで、第1の画像内の第2の領域を選択するユーザ入力を受け取る工程と;
    第1の画像内の第2の領域を選択するユーザ入力に基づいて、バイオマーカーパネルを更新して、サムネイル画像の第1のセットを第1の画像内の第2の領域に対応するサムネイル画像の第2のセットに置き換え、バイオマーカーのセットの発現レベルを表す、工程と
    を含む、媒体。
JP2015545892A 2012-12-06 2013-12-06 バイオマーカー発現の選択及び表示 Active JP6313325B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201261734032P 2012-12-06 2012-12-06
US61/734,032 2012-12-06
US201361828890P 2013-05-30 2013-05-30
US61/828,890 2013-05-30
US201361889820P 2013-10-11 2013-10-11
US61/889,820 2013-10-11
PCT/US2013/073698 WO2014089499A1 (en) 2012-12-06 2013-12-06 Selection and display of biomarker expressions

Publications (2)

Publication Number Publication Date
JP2016511846A JP2016511846A (ja) 2016-04-21
JP6313325B2 true JP6313325B2 (ja) 2018-04-18

Family

ID=50884048

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015545892A Active JP6313325B2 (ja) 2012-12-06 2013-12-06 バイオマーカー発現の選択及び表示

Country Status (6)

Country Link
US (1) US9891804B2 (ja)
EP (1) EP2929453B1 (ja)
JP (1) JP6313325B2 (ja)
KR (1) KR20150095646A (ja)
CN (1) CN104981798B (ja)
WO (1) WO2014089499A1 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120131507A1 (en) * 2010-11-24 2012-05-24 General Electric Company Patient information timeline viewer
US20120130741A1 (en) * 2010-11-24 2012-05-24 General Electric Company Integrated patient information viewer interface
US10200627B2 (en) 2014-04-09 2019-02-05 Imagination Technologies Limited Virtual camera for 3-D modeling applications
JP2016024213A (ja) * 2014-07-16 2016-02-08 株式会社ミツトヨ 画像測定装置、画像測定装置用のguiプログラム
USD783632S1 (en) * 2014-09-04 2017-04-11 Flir Systems Ab Display screen or portion thereof with graphical user interface
US10244241B2 (en) * 2015-03-22 2019-03-26 Innova Plex, Inc. Pyramidal file structure and method of use thereof
US9953133B2 (en) 2015-06-03 2018-04-24 General Electric Company Biological data annotation and visualization
US10672505B2 (en) 2015-06-03 2020-06-02 General Electric Company Biological data annotation and visualization
US10003754B2 (en) 2015-06-18 2018-06-19 Agilent Technologies, Inc. Full field visual-mid-infrared imaging system
CN107924462A (zh) * 2015-08-24 2018-04-17 皇家飞利浦有限公司 数字病理学中的服务器‑客户机架构
JP6823646B2 (ja) 2015-09-02 2021-02-03 ベンタナ メディカル システムズ, インコーポレイテッド 生体試料の複数の画像を表示するための画像処理システムおよび方法
KR20190007445A (ko) 2016-05-12 2019-01-22 라이프 테크놀로지스 코포레이션 이미지 캡처 및 표시를 위한 시스템, 방법 및 장치
US10650621B1 (en) 2016-09-13 2020-05-12 Iocurrents, Inc. Interfacing with a vehicular controller area network
EP3523779A1 (en) 2016-10-07 2019-08-14 Ventana Medical Systems, Inc. Digital pathology system and associated workflow for providing visualized whole-slide image analysis
CN106775313B (zh) * 2016-12-07 2020-05-01 北京安云世纪科技有限公司 分屏操作控制方法及移动终端
RU2739713C1 (ru) * 2016-12-08 2020-12-28 Конинклейке Филипс Н.В. Обучение аннотированию объектов в изображении
CN107509101A (zh) * 2017-08-11 2017-12-22 环球智达科技(北京)有限公司 图片处理方法
CN107547931A (zh) * 2017-08-11 2018-01-05 环球智达科技(北京)有限公司 图片显示方法
USD868085S1 (en) * 2017-08-31 2019-11-26 Shanghai Hugong Electric (Group) Co., Ltd. Display screen or portion thereof with graphical user interface
EP3762933A1 (en) * 2018-03-06 2021-01-13 Ventana Medical Systems, Inc. Digital pathology scanning interface and workflow
EP3611695A1 (en) * 2018-08-15 2020-02-19 Koninklijke Philips N.V. Generating annotation data of tissue images
EP3844771A1 (en) 2018-08-31 2021-07-07 Ventana Medical Systems, Inc. Contextually adaptive digital pathology interface
BR112022002824A2 (pt) * 2019-08-23 2022-05-10 Memorial Sloan Kettering Cancer Center Visualizador de lâminas universal
JP2021124861A (ja) * 2020-02-04 2021-08-30 ソニーグループ株式会社 解析装置、解析方法、解析プログラム及び診断支援システム
CN111863120B (zh) * 2020-06-28 2022-05-13 深圳晶泰科技有限公司 晶体复合物的药物虚拟筛选***及方法
US11294556B1 (en) * 2021-01-05 2022-04-05 Adobe Inc. Editing digital images using multi-panel graphical user interfaces
USD986262S1 (en) * 2021-07-01 2023-05-16 Olympus Medical Systems Corporation Display screen with graphical user interface
CN114003164B (zh) * 2021-10-14 2024-07-05 中国第一汽车股份有限公司 基于自然驾驶数据的交通参与者位置及动作的标注方法
EP4198999A1 (en) * 2021-12-20 2023-06-21 Leica Microsystems CMS GmbH Image annotation system and method
EP4202947A1 (en) * 2021-12-21 2023-06-28 Leica Microsystems CMS GmbH Image annotation system and method

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101443780A (zh) * 2004-12-30 2009-05-27 普罗文蒂斯公司 用于开发和使用用于预测多种医学结果、评价介入策略以及同时验证生物标志物诱因的预测模型的方法、***和计算机程序产品
US20080104531A1 (en) * 2006-09-29 2008-05-01 Stambaugh Thomas M Spatial organization and display of enterprise operational integration information
WO2009072098A1 (en) * 2007-12-04 2009-06-11 University College Dublin, National University Of Ireland Method and system for image analysis
US8094947B2 (en) 2008-05-20 2012-01-10 Xerox Corporation Image visualization through content-based insets
US8150708B2 (en) * 2009-02-17 2012-04-03 Virtual Radiologic Corporation Organizing medical images for display
US8320655B2 (en) 2009-10-16 2012-11-27 General Electric Company Process and system for analyzing the expression of biomarkers in cells
JP5617233B2 (ja) * 2009-11-30 2014-11-05 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
EP2583240B1 (en) * 2010-06-15 2018-08-08 Koninklijke Philips N.V. An image processing method in microscopy
WO2012037419A2 (en) 2010-09-16 2012-03-22 Omnyx, LLC Digital pathology image manipulation
US20120084732A1 (en) * 2010-10-01 2012-04-05 Vasily Filippov Methods and apparatus for organizing applications and widgets on a mobile device interface
US8711149B2 (en) 2010-12-08 2014-04-29 Definiens Ag Graphical user interface for interpreting the results of image analysis
JP5685928B2 (ja) 2010-12-24 2015-03-18 ソニー株式会社 情報処理装置、画像データ最適化方法、プログラム
WO2013027399A1 (ja) * 2011-08-23 2013-02-28 日本電気株式会社 情報処理システム、情報処理方法、情報処理装置およびその制御方法と制御プログラム
US9036888B2 (en) * 2012-04-30 2015-05-19 General Electric Company Systems and methods for performing quality review scoring of biomarkers and image analysis methods for biological tissue
WO2013164277A2 (en) * 2012-04-30 2013-11-07 General Electric Company Systems and methods for selection and display of multiplexed images of biological tissue

Also Published As

Publication number Publication date
KR20150095646A (ko) 2015-08-21
CN104981798A (zh) 2015-10-14
US9891804B2 (en) 2018-02-13
US20150301732A1 (en) 2015-10-22
WO2014089499A1 (en) 2014-06-12
EP2929453A4 (en) 2016-07-27
EP2929453B1 (en) 2020-04-08
CN104981798B (zh) 2018-06-08
EP2929453A1 (en) 2015-10-14
JP2016511846A (ja) 2016-04-21

Similar Documents

Publication Publication Date Title
JP6313325B2 (ja) バイオマーカー発現の選択及び表示
JP6348504B2 (ja) 生体試料の分割画面表示及びその記録を取り込むためのシステム及び方法
Hanna et al. Whole slide imaging: technology and applications
JP2022534155A (ja) デジタルパソロジー画像の関心領域のニューラルネットワークベースの特定方法
KR20220015368A (ko) 조직학적 이미지 내의 종양 및 수술 후 종양 마진 평가에 대한 컴퓨터 지원 검토
JP6317732B2 (ja) 生物組織に対するバイオマーカーの品質レビュースコアリング及び画像解析方法を実行するためのシステム並びに方法
JP2022546595A (ja) デジタル病理学のためのスライドの画像を処理するためのシステムおよび方法
CN116235223A (zh) 使用基于目光的跟踪的注释数据收集
JP2023530070A (ja) 電子画像を処理して組織マップ可視化を生成するシステム及び方法
Molin et al. Scale Stain: Multi-resolution feature enhancement in pathology visualization
CN114388105A (zh) 病理切片处理方法、装置、计算机可读介质及电子设备
Hipp et al. Image microarrays (IMA): digital pathology’s missing tool
Ranefall et al. The Giga-pixel Challenge: Full Resolution Image Analysis–Without Losing the Big Picture: An open-source approach for multi-scale analysis and visualization of slide-scanner data

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160420

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20161202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180322

R150 Certificate of patent or registration of utility model

Ref document number: 6313325

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250