JP2013134574A - 画像データ生成装置、画像データ表示システムおよび画像データ生成方法 - Google Patents

画像データ生成装置、画像データ表示システムおよび画像データ生成方法 Download PDF

Info

Publication number
JP2013134574A
JP2013134574A JP2011283718A JP2011283718A JP2013134574A JP 2013134574 A JP2013134574 A JP 2013134574A JP 2011283718 A JP2011283718 A JP 2011283718A JP 2011283718 A JP2011283718 A JP 2011283718A JP 2013134574 A JP2013134574 A JP 2013134574A
Authority
JP
Japan
Prior art keywords
display
image data
data
image
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2011283718A
Other languages
English (en)
Other versions
JP2013134574A5 (ja
Inventor
Yutaka Saito
裕 齋藤
Eiju Tsuzuki
英寿 都築
Shuji Murakami
修司 村上
Kazuyuki Sato
和行 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011283718A priority Critical patent/JP2013134574A/ja
Priority to US14/356,025 priority patent/US20140301665A1/en
Priority to PCT/JP2012/008070 priority patent/WO2013099150A1/en
Publication of JP2013134574A publication Critical patent/JP2013134574A/ja
Publication of JP2013134574A5 publication Critical patent/JP2013134574A5/ja
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Public Health (AREA)
  • Radiology & Medical Imaging (AREA)
  • Epidemiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Primary Health Care (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Microscoopes, Condenser (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】複数の関心領域の指定を行うスクリーニング作業と詳細観察とを関連づけてかつ独立に行えるようにする。
【解決手段】画像データ生成装置であって、ユーザによって指示された撮像画像上の関心領域の位置データを取得する位置データ取得手段と、撮像画像のデータおよび位置データとを用いて、表示画像のデータを生成する表示データ生成手段とを備え、位置データ取得手段は、複数の関心領域の位置データを取得可能であり、表示データ生成手段は、複数の位置データを表示装置に表示するためのデータと、撮像画像の一部分を拡大し、表示装置に複数表示可能とするためのデータとを生成し、撮像画像の一部分は、表示装置に表示された複数の位置データのうちユーザによって指定された位置データに対応する前記関心領域を含む。
【選択図】図3

Description

本発明は、画像データ生成装置および画像データ生成方法に関し、特に病理診断の作業効率を向上させる画像診断向け表示画像データの生成技術に関する。
近年、病理分野において、病理診断のツールである光学顕微鏡の代替として、プレパラートに載置された被検試料の撮像と画像のデジタル化によってディスプレイ上での病理診断を可能とするバーチャル・スライド・システムが注目を集めている。バーチャル・スライド・システムを用いた病理診断画像のデジタル化により、従来の被検試料の光学顕微鏡像をデジタルデータとして取り扱うことが可能となる。その結果、遠隔診断の迅速化、デジタル画像を用いた患者への説明、希少症例の共有化、教育・実習の効率化、などのメリットが得られると期待されている。通常、被検試料全体をデジタル化した場合、数億画素から数十億画素と非常に大きなデータ量となる。それゆえ、診断画像ビューア上で拡大・縮小処理を行うことにより、ミクロ(細部拡大像)からマクロ(全体俯瞰像)まで観察することが可能となり、種々の利便性を提供することができる。
一方で、病理分野に限らず、低倍画像から高倍画像までユーザが求める画像の即時の表示が可能となる様々なビューアが提案されている。例えば、特許文献1では、超音波診断装置において、断層像と一部領域の拡大像との対応関係を明示することにより、断層像のどの領域を拡大して表示したのか明確に把握できるようにする技術が公開されている。また、特許文献2では、超音波診断装置において、超音波画像を段階的に拡大表示する場合に、元画像を縮小処理して生成された参照画像を用意する。このことによって、各画像間の関係を容易に理解できるようにし、また元画像の表示を容易に行えるようにする技術が公開されている。
特開平6−78927号公報 特開2004−121652号公報
病理診断におけるスクリーニングでは、低倍像の観察時に像拡大を行って詳細な観察を行う領域を予め指定・マーキングしておくことが一般的である。特許文献1および特許文献2では、低倍像と関心領域の高倍観察像との対応関係は明示されるものの、複数の関心領域を詳細観察する場合の対応関係について開示されていない。そのため、スクリーニングと詳細観察を独立した作業として行うことが困難であり、作業効率を低下させてしまう。
また、スクリーニングと詳細観察では観察する際の観察倍率(表示倍率)が異なり、更には観察する対象や部位ごとに詳細観察時の観察倍率が異なる。そのため、倍率設定を行えない関心領域の指定・マーキングでは、関心領域の詳細観察時に所望の観察倍率で診断画像を提示することができず、画面操作が煩雑になることで作業効率を低下させることになった。
本発明は、かかる課題に鑑みなされたものであり、複数の関心領域の指定を行うスクリーニング作業と詳細観察とを関連付けてかつ独立に行えるようにする。このことにより、
病理診断の作業効率を向上させることができる画像診断向けの表示画像データを生成する画像データ生成装置および画像データ生成方法を提供することを目的とする。
撮像画像のデータを用いて、表示装置に表示される表示画像のデータを生成する画像データ生成装置であって、前記撮像画像のデータを取得する撮像画像データ取得手段と、
前記撮像画像上のユーザに指示された関心領域の位置データを取得する位置データ取得手段と、前記撮像画像のデータと前記位置データとを用いて、前記表示画像のデータを生成する表示データ生成手段と、を備え、前記位置データ取得手段は、ユーザに指示された複数の前記関心領域のそれぞれの前記位置データを取得可能であり、前記表示データ生成手段は、前記位置データのリストを前記表示装置に表示するためのデータと、前記撮像画像の一部分を拡大し、前記表示装置に複数表示可能とするためのデータを生成し、前記撮像画像の一部分は、前記リストからユーザが選択した前記位置データに対応する前記関心領域を含む。
拡大して詳細観察を行う関心領域の位置情報を複数記憶・保持してリストとして提示することで、関心領域の指定を行うスクリーニング作業と詳細観察とを独立して行え、作業効率を向上させることができる。また、詳細観察倍率との対応関係を合わせて把握しておくことで、詳細観察画像を複数枚同時に表示する際の、対象物(例えば細胞の核等)の大きさの比較が容易となり、作業効率を向上させることができる。
第1の実施形態の画像データ生成装置を含む画像処理システムの構成図 第1の実施形態の画像データ生成装置のハード構成図 第1の実施形態の画像データ生成装置の機能ブロック図 第1の実施形態のスクリーニング作業時の表示画面構成例 第1の実施形態のスクリーニング作業時の表示画面構成例 第1の実施形態のスクリーニング作業時の表示画面構成例 第1の実施形態のスクリーニング作業時の表示画面構成例 第1の実施形態のスクリーニング作業時における表示データ生成処理フロー スクリーニング作業時の観察画像データを生成または更新する処理フロー 第1の実施形態での詳細観察時の表示画面構成の例 第1の実施形態での詳細観察時の表示画面構成の例 第1の実施形態での詳細観察時の表示画面構成の例 第1の実施形態での詳細観察時の表示画面構成の例 第1の実施形態での詳細観察時の表示画面構成の別の例 第1の実施形態での詳細観察時の表示画像データの生成処理フロー 詳細観察フローの拡大表示画像を更新する処理フロー スクリーニング時に生成される関心領域のリストの形式例 第2の実施形態の画像データ生成装置を含む画像処理システムの構成図 第2の実施形態での詳細観察時の表示画面構成の例 第2の実施形態での詳細観察時の表示画像データの生成処理フロー 変更された関心領域のリストの形式例 第3の実施形態での詳細観察時の表示画面構成の例 第4の実施形態での詳細観察時の表示画像データの生成処理フロー
<第1の実施形態>
本発明を実現する第1の実施形態を図に従って説明する。
図1は、本発明の第1の実施形態を説明するための画像データ生成装置を含む画像処理システム(画像データ表示システム)の構成図である。図1のシステムは、撮像装置(顕微鏡装置、又はバーチャルスライドスキャナ)101、画像データ生成装置102、表示装置103から構成され、撮像対象となる検体(被検試料)の二次元画像を取得し表示する機能を有するシステムである。撮像装置101と画像データ生成装置102間は、専用もしくは汎用のI/Fケーブル104で接続され、画像データ生成装置102と表示装置103間は、汎用のI/Fケーブル105で接続される。
撮像装置101は、二次元画像を撮像し、取得した二次元画像データを外部装置へ出力する機能を有する撮像画像出力装置である。撮像装置101は、通常の光学顕微鏡の接眼部にデジタルカメラを取り付けたデジタル顕微鏡装置であっても構わない。二次元画像データの取得にはCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子が用いられる。
画像データ生成装置102は、撮像装置101から取得した二次元画像データから、病理診断に適した画像データや表示データを生成する機能を有する。画像データ生成装置102は、CPU(中央演算処理装置)、RAM、記憶装置、操作部、I/Fなどのハードウェア資源を備えた、演算処理の高速な汎用のコンピュータやワークステーションで構成することができる。記憶装置は、ハードディスクドライブなどの大容量情報記憶装置であり、後述する各処理を実現するためのプログラムやデータ、OS(オペレーティングシステム)などが格納されている。上述した各機能は、CPUが記憶装置からRAMに必要なプログラムおよびデータをロードし、当該プログラムを実行することにより実現されるものである。操作部は、キーボードやマウスなどにより構成され、操作者が各種の指示を入力するために利用される。後述する表示装置103をタッチパネルとすることで操作入力の機能を持たせても良い。
表示装置103は、画像データ生成装置102の生成した表示用の画像データを取得し、病理診断に適した表示データを表示する機能を有したモニタであり、CRTや液晶等により構成することができる。
図1の例では、撮像装置101と画像データ生成装置102と表示装置103の3つの装置により画像処理システムが構成されているが、本発明の構成はこの構成に限定されるものではない。例えば、表示装置が一体化した画像データ生成装置を用いても良いし、画像データ生成装置の機能を撮像装置に組み込んでも良い。また撮像装置、画像データ生成装置、表示装置の機能を1つの装置で実現することもできる。また逆に、画像データ生成装置等の機能を分割して複数の装置によって実現しても良い。
図2は、本発明の第1の実施形態を説明するための画像データ生成装置102のハード構成図である。図2の画像データ生成装置102は、メモリ201、ストレージ202、I/F203、CPU204、内部バス205から構成される。
メモリ201は、画像データ生成装置102が外部から取得した撮像画像データや内部で生成した表示データを一時的に記憶するためのエリアや、CPU204が各種の処理を行うために用いるワークエリアを有する記憶デバイスである。ここでは、DDR3等のDRAMデバイスを使用するものとした。
ストレージ202は、画像データ生成装置102が行う各処理をCPU204に実行させるためのプログラムやデータ、および画像データ生成装置102に記憶させておきたい画像データやリスト、設定データが格納される不揮発性の記憶デバイスである。ここでは
、HDDやSSDなどのデバイスを使用するものとした。
I/F203は、画像データ生成装置102が外部から撮像画像データを取得する、あるいは外部に表示データを出力する、あるいは操作情報を外部から取得するためのインターフェースデバイスである。ここでは、USBやGigabitEthernet(登録商標)、DVI等のデバイスを使用するものとした。
CPU204は、初期設定や各種デバイスの制御、画像データ処理といった、画像データ生成装置102の動作全般を司るプログラムを実行するための演算処理デバイスである。ここでは、汎用のコンピュータやワークステーションのCPUを使用する。
内部バス205は、上述の各デバイスを繋ぐ内部バスである。ここでは、PCI Ex
press等のシリアルバスを使用するものとした。
図3は、本発明の第1の実施形態を説明するための画像データ生成装置102の機能ブロック図である。図3の画像データ生成装置102は、撮像画像データ取得部301、画像メモリ302、低倍表示画像データ取得部303、拡大表示画像データ取得部304、表示データ生成部305、表示データ出力部306、位置データ取得部307、操作情報入力部308から構成される。また、位置データ取得部307は、表示位置データ設定部309、ポインタ設定部310、倍率設定部311、取得データ領域算出部312、リスト生成部313から構成される。
撮像画像データ取得部301は、撮像装置101が取得した撮像画像データを入力し、画像メモリに出力する機能を有する。入力される撮像画像データの形式は、接続する撮像装置101を不図示の撮像装置認識手段によって自動で認識して変更できることが望ましいが、ユーザが設定しても良い。
画像メモリ302には、位置座標と関連付けられた撮像画像データが格納されている。例えば、N×N画素の撮像画像がある場合、撮像画像の左上の画素の位置座標を(0,0)、その右隣の画素の位置座標を(1,0)、左下の画素の位置座標を(0,N)、右下の画素の位置座標を(N,N)と定義する。この場合、それぞれの位置座標に対応する画像データが、位置座標と関連付けられた撮像画像データとして画像メモリ302に格納されている。また、撮像画像データは上記の順番で、例えば画像メモリ302のアドレス番号0から格納されている。したがって、撮像画像の位置座標と撮像画像データ上の位置座標とアドレス番号は、互いに1対1で指定することができる。また、画像メモリ302に格納される撮像画像データは、白黒画像データでもカラー画像データでも良いが、カラー画像データの場合は位置座標ごとにRGB3つの画像データによって構成される。更に、撮像画像データは、観察倍率に合わせた複数の階層画像データから構成されている。したがって、観察倍率とメモリアドレスを指定することで、任意の階層の撮像画像データ上の位置座標に対応する画像データの入出力を行うことができる。
低倍表示画像データ取得部303は、画像メモリ302から、後述する位置データ取得部307によって指定される領域の画像データを取得する。
拡大表示画像データ取得部304は、画像メモリ302から、位置データ取得部307によって指定される撮像画像の一部分の領域の画像データを取得する。
上記領域の指定は、指定される領域が矩形の場合、指定領域の4角の位置座標を用いても、左上の位置座標と右下の位置座標からなる組で表しても、領域の先頭にあたる位置座標と縦横それぞれの画素数(領域幅)で表しても良い。
表示データ生成部305は、低倍表示画像、拡大表示画像、ポインタ画像、リスト画像の各画像データを、表示装置103に表示させるためのデータを生成する機能を有する。それぞれの表示装置103上での表示領域、位置座標は位置データ取得部307によって取得された情報に基づいて指定される。なお、拡大表示の対象としてユーザから指定される関心領域が複数ある場合には、これらの領域の拡大画像を複数表示可能な拡大表示画像用のデータを生成する。
表示データ出力部306は、表示データを表示装置103に出力する機能を有する。出力される表示データの形式としては、RGB信号や輝度色差信号、等様々なものに対応する。また、表示装置103の解像度(画素数)にも任意に対応する。これらの設定は、接続する表示装置103を不図示の表示装置認識手段によって認識して変更できることが望ましいが、ユーザが設定しても良い。
操作情報入力部308は、ユーザが操作・設定した、マウスポインタの移動、操作決定、数値入力等の操作・設定情報を不図示の操作部から取得し、位置データ取得部307に出力する機能を有する。
位置データ取得部307は、ユーザが操作・設定した、マウスポインタの移動、操作決定、数値入力等の操作・設定情報に基づき下記のデータを生成する機能を有する。すなわち、位置データ取得部307は、低倍表示画像データの取得領域と低倍表示倍率、拡大表示画像データの取得領域と拡大表示倍率(拡大倍率)、リスト画像データを生成する機能を有する。更に、それぞれの画像の表示装置103上での表示領域、ポインタ画像データおよびその表示装置103上での表示位置座標を生成する機能も有する。
ポインタ設定部310は、位置データ取得部307を構成する一部であり、ポインタの移動情報から表示装置103上でのポインタ画像(アイコン)の表示位置座標を設定し、ポインタ画像データを生成する機能を有する。
表示位置データ設定部309は、位置データ取得部307を構成する一部であり、数値情報から表示装置103上での低倍表示画像、拡大表示画像、リスト画像の表示領域をそれぞれ設定し、表示データ生成手段に指示する機能を有する。また、表示装置103上での拡大表示画像の表示領域は、選択される関心領域の個数によって適宜変更して設定される。
倍率設定部311は、位置データ取得部307を構成する機能の一部であり、数値情報によって低倍表示倍率と拡大表示倍率を設定する機能を有する。
リスト生成部313は、位置データ取得部307を構成する機能の一部であり、撮像画像上の関心領域に対応する撮像画像データ上における位置座標の取得、拡大表示倍率と関連付けたリストの生成、およびリスト画像データの生成する機能を有する。これらの処理は、マウスポインタの決定情報と表示装置103上でのポインタ画像の表示位置座標と、低倍表示画像データの取得領域と低倍表示倍率とに基づいて実行される。ここで取得される関心領域の位置座標は、関心領域内を代表する位置に対応する撮像画像データ上における位置座標であり、ここでは領域の先頭にあたる位置座標とする。また、リストの各項目は、表示装置103上での表示位置座標とも関連付けて管理され、表示装置103上でのポインタ画像の表示位置座標と決定情報とによって、任意の関心領域に対応する撮像画像データ上における位置座標が選択される。
取得データ領域算出部312は、位置データ取得部307を構成する機能の一部である
。取得データ領域算出部312は、表示を行う低倍表示画像の、撮像画像データ上における位置座標と低倍表示倍率と表示装置103上における表示位置座標とに基づいて、低倍表示画像データの取得領域を算出する機能を有する。更に、リストから選択された関心領域に対応する撮像画像データ上における位置座標と拡大表示倍率と表示装置103上での拡大表示画像の表示領域とに基づいて、拡大表示画像データの取得領域を算出する機能を有する。
図3の画像データ生成装置102は、上記の機能を用い、下記のように動作する。すなわち、撮像装置101が取得した撮像画像データを画像メモリ302に入力し、不図示の操作手段からの指示に応じて、位置データ取得部307が、表示する画像の撮像画像データ上における位置座標を算出する。その後、画像メモリ302から該位置座標に相当する領域の画像データを取得し、表示データ生成部305によって表示データを生成し、生成された表示データを表示装置103に対して出力する。また、位置データ取得部307は、表示画像上で指定された関心領域に対応する撮像画像データ上における位置座標と、表示を行う倍率とを関連付けたリストを作成する。そして、該リストから、表示データとして生成したい画像データの撮像画像データ上における位置座標を選択できるようにする。
図4A〜4Dは、本発明の第1の実施形態を説明するためのスクリーニング作業時の表示画面構成例である。図4Aに示すように、スクリーニング作業時における表示装置103の表示画面401は、全体画像表示部402、観察画像表示部403、観察倍率表示部404、関心領域情報表示部(リスト表示部)405で構成されている。表示装置103上における表示領域は、不図示の操作部からユーザが任意に設定できる。また、不図示の操作部からのポインタの移動情報に応じて移動するポインタ画像406が表示されている。
全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像407と、観察画像表示部403に表示される観察倍率に応じた表示画像の領域指定枠408が表示されている。
観察画像表示部403には、ユーザによって指定された撮像画像データ上における位置座標の観察画像(拡大画像)409が観察倍率表示部404で示された表示倍率で表示されている。
観察倍率表示部404には、ユーザによって設定された表示倍率が表示されている。図4Aにおいては、5倍の表示倍率が設定された例を示している。
関心領域情報表示部405には、ユーザによって指定・設定された関心領域に対応する撮像画像データ上における位置座標と関心領域表示倍率が、指定・設定された順番で表示される。図4Aにおいては、まだ関心領域が指定されていないので関心領域情報表示部405は空欄となっている。
関心領域の位置座標は、観察画像409上で指定された位置情報を取得し、該位置に対応する撮像画像データ上における位置座標を算出することによって得られる。撮像画像データ上における位置座標値や表示画面401上における位置座標値を直接入力する構成によって、関心領域の位置座標を取得可能としても良い。
図4Bは、図4Aから1点目の関心領域が指定された際の表示画面401の例を示している。観察画像409上の1点目の関心領域に対応する位置に関心領域マーク410が表示されるとともに、全体画像407上の1点目の関心領域に対応する位置にも関心領域マーク411が表示されている。関心領域の指定がなされると、該関心領域を詳細に観察し
たい関心領域表示倍率を入力するための関心領域表示倍率入力部412が表示される。図4Bにおいては、関心領域表示倍率として20倍が入力された例を示している。また、関心領域情報表示部405に、ここで得られた1点目の関心領域の撮像画像データ上における位置座標と合わせて詳細観察用の関心領域表示倍率が、関心領域情報413として表示される。なお、ここで入力される関心領域表示倍率は、予め用意された候補リストからユーザが選択できる構成とすると簡便なスクリーニング作業が行える。一方で、数値を直接入力できる構成として、適応的な倍率が入力できるようにしても良い。また、これらの領主方を組み合わせるようにしても良い。
図4Cは、図4Bの状態から更に2点目の関心領域が指定された際の表示画面401の例を示している。図4B同様、2点目の観察画像409上の関心領域マーク414、全体画像407上の関心領域マーク415、詳細観察用の関心領域表示倍率416、および関心領域情報417が更新され、表示される。
図4Dは、図4Cの状態から更に3点目の関心領域が指定された際の表示画面401の例を示している。ここでは、図4Aで表示された観察画像409を移動した後に関心領域を指定することを想定しているため3点目の関心領域は1,2点目と同じ表示領域内にはない。ここでは、3点目の関心領域が全体画像407において上方向の位置に存在している例を示している。不図示の操作部から、図4Aで表示された観察画像409を上方へスクロールさせることによって、表示したい観察画像の撮像画像データ上における位置座標も更新され、新たな観察画像418が表示されている。なお、観察画像409をスクロールさせる代わりに、全体画像407条の領域指定枠419を移動させることで、観察画像を更新する構成としても良い。この場合は、不図示の操作部からの指示により、図4Aで表示された全体画像407上の領域指定枠419を上方へ移動させることによって、表示したい観察画像の撮像画像データ上における位置座標を更新し観察画像318を表示させる。また別に、撮像画像データ上における位置座標値を直接入力する構成をとっても良い。また、全体画像407上の、新たな観察画像418の表示領域に対応した位置に領域指定枠419が表示されている。更には、図4C同様、3点目の観察画像418上の関心領域マーク420、全体画像407上の関心領域マーク421、詳細観察用の関心領域表示倍率422、および関心領域情報423が更新され、表示されている。ここでは詳細観察用の関心領域表示倍率として、40倍が入力、指定された例を示している。
スクリーニング作業においては、以上の表示動作が、全ての関心領域の指定が終わるまで繰り返される。このように、複数の関心領域の指定を、簡便に、かつ集中的に行うことができる。
図5は、本発明の第1の実施形態を説明するためのスクリーニング作業時における表示データ生成のフローチャートである。
ステップS501において、全体画像407を全体画像表示部402に表示するための表示データを生成する。画像メモリ302から撮像画像データを読み出し、全体画像表示部402の表示領域に合わせて解像度変換して全体画像データを生成する。なお、全体画像407は、予め解像度変換後の表示用データを用意しておくことで、処理を高速化することができる。
次に、ステップS502において、画像メモリ302から、表示する観察画像の領域の画像データを読み出し、観察画像表示部403に表示するための観察画像データを生成する。この工程の詳細は図6を用いて後述する。この結果、図4Aのように表示するための表示データが生成される。なお、後述するステップ503の結果を受けて、観察画像の表示領域を変更する際には、新たに観察画像データを生成し、更新する。
次に、ステップS503において、観察画像の表示領域の変更有無を判断する。変更があった場合はステップS502へ戻り、表示データを更新する。表示領域の変更がない場合には、ステップS504へ進む。
ステップS504において、ユーザによる関心領域の指定があるか否かを判断する。指定がない場合はステップS508へ、指定がある場合はステップS505へそれぞれ進む。
次に、ステップS505において、ユーザに指定された関心領域に対応する撮像画像データ上における位置座標を取得する。
次に、ステップS506において、前記ステップS505において指定された関心領域の詳細観察用にユーザに設定された関心領域表示倍率を取得する。なお、任意の値をデフォルト値として設定しておいて、その値をそのまま使用する構成でも良い。例えば、5〜10倍の観察画像を用いてスクリーニングを行っている場合、詳細観察用に20倍を設定しておけば、特に変更のない場合はその設定値を使用することができる。仮に40倍での観察が必要な場合は、該当する関心領域のみ40倍の関心領域表示倍率を設定すれば良い。
次に、ステップS507において、取得した関心領域の、撮像画像データ上における位置座標と関心領域表示倍率とを関連付けたリストを生成する。そして、リストの各項目が、関心領域情報表示部405に、指示された順番で追加表示されるようにリスト画像データを生成し、表示データを生成または更新する。この結果、図4Bに示した表示データが生成される。
次に、ステップS508において、スクリーニング作業が完了したか否かを判断する。スクリーニング作業が完了した場合、すなわち、次の高倍による詳細観察へ作業が移行した場合や他の検体に対してスクリーニング作業を開始すべく別の検体画像の読み込み指示があった場合は、本表示データ生成の処理を終了する。スクリーニング作業が継続して行われていると判断された場合は、ステップS503へ戻り、観察画像の表示領域変更の待ち状態へと移行する。
ここで、以上のようにして作成されたリストをストレージ202に格納する構成としても良い。また、該リストをI/F203を介して、装置外部に出力する構成としても良い。更に、リストは、撮像画像データのファイルと関連付けて管理できることが望ましい。関連付けの方法としては、リスト内に、撮像画像データのファイルの情報を記載しても良いし、撮像画像データのファイルにリストの情報を記載しても良い。
このようにリストが格納・出力できることで、スクリーニング作業によって得られた関心領域の情報を、別のユーザが使用することが可能となる。あるいは、過去のスクリーニング作業によって得られた関心領域の情報を、使用することが可能となる。
図6は、スクリーニング作業時の観察画像データを生成または更新する工程のフローチャートである。
S601において、撮像画像データ上における位置座標と、観察用の表示倍率と、表示装置103上における観察画像表示部403の表示領域から、観察画像データを取得する領域を算出する。例えば、撮像画像データは、5倍、10倍、20倍、40倍の倍率に相当する階層画像データから構成されているとする。ユーザが表示をさせたい観察用の表示
倍率が5倍の場合、5倍の階層画像データから観察画像データを取得するための領域を算出することになる。この場合、ユーザが表示をさせたい観察画像の撮像画像データ上における位置座標を基準として、観察画像表示部403の表示領域と同じ画素数の領域が、取得する観察画像データの領域となる。一方で、ユーザが表示をさせたい観察用の表示倍率が8倍の場合は、10倍の階層画像データから観察画像データを取得するための領域を算出することになる。この場合、ユーザが表示をさせたい観察画像の撮像画像データ上における位置座標を基準として、観察画像表示部403の表示領域の10/8倍の画素数の領域が、取得する観察画像データの領域となる。
次に、S602において、画像メモリ302から、低倍画像データ取得部を介してユーザが表示させたい低倍の観察画像の領域に対応する画像データを読み出す。
次に、S603において、観察表示画像データを生成または更新し、表示データを用意する。ここで、ステップS602で取得した観察画像データの格納されていた階層が表す表示倍率と、実際に観察領域に表示する表示倍率が異なる場合には解像度変換によって所望の表示倍率での表示が行えるよう画像データを加工する。上述した、ユーザが表示をさせたい観察用の表示倍率が8倍の例では、8/10倍の解像度変換を行う。
最後に、S604において、表示をさせたい観察画像の領域に対応した領域指定枠を全体画像データ上に生成し、表示データを生成または更新する。なお、この処理はステップS601で観察画像データの領域が算出された時点で把握できているため、その後の任意のタイミングで更新することができる。
図7は、本発明の第1の実施形態を説明するための詳細観察時の表示画面構成の例である。
図7Aに示すように、詳細観察時における表示装置103の表示画面401は、図4と同様に、全体画像表示部402、観察画像表示部403、観察倍率表示部404、および関心領域情報表示部405で構成されている。表示装置103上における表示領域は、不図示の操作部からユーザが任意に設定できる。また、不図示の操作部からのポインタの移動情報に応じて移動するポインタ画像406が表示されている。更に、全体画像表示部402には、撮像装置101から取得した撮像画像データの全体を縮小した全体画像407が表示されている。
観察画像表示部403には、ユーザによってリストから選択された関心領域に対応する領域の拡大表示画像が表示される。図7Aにおいては、関心領域がまだ選択されていないため何も表示されない状態となっている。もしくはスクリーニング時に表示を行っていた10倍程度の低倍像を表示する構成にしても良い。
観察倍率表示部404には、ユーザによってリストから選択された関心領域の詳細観察用の関心領域表示倍率が表示される。図7Aにおいては、関心領域がまだ選択されていないので空欄となっている。もしくはスクリーニング時に表示を行っていた10倍程度の低倍像を表示している場合は、10倍と表示する。
関心領域情報表示部405には、スクリーニング時に生成された関心領域のリスト801が表示されている。リスト801は、例えば後述する図11に示すような形式で表示される。ユーザは、表示されている関心領域のリスト801から詳細観察を行いたい領域が選択可能となる。リスト801から関心領域を選択して表示する以外にも、リストとして表示されている情報をもとに各項目の表示位置座標や詳細観察用の関心領域表示倍率を直接入力して表示できる構成としても良い。
図7Bは、図7Aから1点目の関心領域が選択された表示画面401の例を示している。リスト801上で選択された1点目の関心領域に対応する項目802が、ハイライト表示されている。また、観察画像表示部403に、該選択された1点目の関心領域に対応する拡大表示画像803が、対応する関心領域表示倍率で表示されている。なお、関心領域表示倍率は、関心領域をリスト化する際に合わせて格納した詳細観察用の表示倍率である。ここで1点目の拡大表示画像803は、選択された関心領域が1点であるため、観察画像表示部403の全表示領域をすべて使用して表示される。また、観察倍率表示部404に、1点目の関心領域の詳細観察用の関心領域表示倍率804が表示されている。図7Bにおいては、該表示倍率が20倍であった例を示している。また、全体画像407上の1点目の関心領域に対応する位置に選択領域マーク805が表示されている。
図7Cは、図7Bから2点目の関心領域が選択された表示画面401の例を示している。図7Bから、リスト801上の、2点目の関心領域に対応する項目806が更にハイライト表示され、全体画像407上の、2点目の関心領域マーク807が追加で表示されている。一方、観察画像表示部403には、1点目および2点目の関心領域に対応する拡大表示画像808、809が、それぞれに対応する関心領域表示倍率で表示されている。ここで、それぞれの拡大表示画像は、選択された関心領域が2点あるため、観察画像表示部403の全表示領域を半分に分割して表示される。また、観察倍率表示部404はそれぞれの拡大表示画像領域上に表示され、それぞれの関心領域表示倍率810、811が表示されている。
図7Dは、図7Cから更に2点の関心領域が選択された表示画面の例を示している。図7C同様、リスト801上の、3点目、4点目の関心領域に対応する項目812、813が追加でハイライト表示され、全体画像407上の、計4点の選択領域マークが表示されている。一方、観察画像表示部403には、1点目〜4点目の関心領域に対応する拡大表示画像814、815、816、817が、それぞれに対応する関心領域表示倍率で表示されている。ここで、それぞれの拡大表示画像は、観察画像表示部403の全表示領域を四分割して表示される。また、観察倍率表示部404がそれぞれの観察画像表示部403上に表示され、それぞれの関心領域表示倍率が表示されている。
拡大画像の表示態様は上記に限られず、任意の手法を採用することができる。例えば、図8のように拡大表示画像を表示する構成としても良い。すなわち、表示画面401の観察画像表示部403は、予め設定された分割数と配置に分割され、分割領域701〜709が構成されている。そして、それぞれの分割領域には、予め表示順が決められており、リスト801上から選択された関心領域の拡大表示画像が、分割領域の表示順に従って選択された順番で表示される。関心領域の選択時に、表示させる分割領域を逐次設定する構成としても良い。
詳細観察の作業においては、以上の表示動作が、ユーザによる関心領域の選択によって繰り返され、複数の関心領域の詳細観察を、同時に行うことができる。このように、スクリーニング時に指定、選択した関心領域を複数の表示領域に並べて表示することで、観察対象の比較をはじめとした詳細な診断に専念することが可能となる。
図9は、本発明の第1の実施形態を説明するための詳細観察時の表示画像データの生成を説明するフローチャートである。
まず、ステップS901において、生成された関心領域リストからユーザが任意の関心領域を選択したか否かを判断する。関心領域が選択された場合はステップS902へ進む。関心領域が選択されない場合は本詳細観察用の表示画像データ生成の処理を終了する。
次に、ステップS902において、リスト上からユーザによって選択された関心領域に対応する撮像画像データ上における位置座標を取得する。
続いて、ステップS903において、リスト上からユーザによって選択された関心領域に対応する関心領域表示倍率を取得する。
次に、ステップS904において、画像メモリ302から、拡大表示画像データ取得部を介して、ユーザによって選択された拡大表示画像の領域に対応する画像データを読み出す。その後、拡大表示された観察画像データを生成する。この工程の詳細は図10を用いて後述する。
最後に、ステップS905において、追加で選択される関心領域の有無を判断する。追加の選択があった場合はステップS902へ戻り、詳細観察用の拡大表示画像データの生成を以後繰り返し行う。追加での選択がなかった場合は、本詳細観察用の表示画像データ生成の処理を終了する。こうして生成された画像データを用いて、図7Dに示される詳細観察の画面を表示する。
ところで、ユーザに任意の関心領域を選択させるために提示されるリストは、スクリーニング作業で作成されてメモリ201内に格納されているものを使用するが、ストレージ202に格納された情報を読み出す構成としても良い。また、該リストをI/F203を介して、装置外部から入力する構成としても良い。更に、メモリ201内に格納されている撮像画像データが、リストと関連付けられている撮像画像データと一致しない場合に、撮像画像データを再入力する構成とすることが望ましい。
このようにリストが読み出し・入力できることで、スクリーニング作業によって得られた関心領域の情報を使用して、別のユーザが詳細観察を行うことが可能となる。あるいは、過去のスクリーニング作業によって得られた関心領域の情報を使用して、詳細観察を行うことが可能となる。
図10は、詳細観察フローの拡大表示画像を生成・更新する工程S904のフローチャートである。
ステップS1001において、ユーザによって選択された関心領域に対応する、詳細観察用に取得する拡大表示画像データの領域を算出する。この領域は、ユーザによって選択された関心領域に対応する撮像画像データ上における位置座標と、詳細観察用の関心領域表示倍率と、表示装置103上における拡大表示画像の表示領域とに基づいて算出される。例えば、撮像画像データは、5倍、10倍、20倍、40倍の倍率に相当する階層画像データから構成されているとする。ユーザによって選択された関心領域に対応する詳細観察用の関心領域表示倍率が20倍の場合、20倍の階層画像データから拡大表示画像データを取得するための領域を算出することになる。この場合、ユーザによって選択された関心領域に対応する撮像画像データ上における位置座標を基準として、観察画像表示部403における拡大表示画像の表示領域と同じ画素数の領域が、取得する拡大表示画像データの領域となる。一方で、ユーザによって選択された関心領域に対応する詳細観察用の関心領域表示倍率が35倍の場合、40倍の階層画像データから拡大表示画像データを取得するための領域を算出することになる。この場合、ユーザによって選択された関心領域に対応する撮像画像データ上における位置座標を基準として、観察画像表示部403における拡大表示画像の表示領域の40/35倍の画素数の領域が、取得する拡大表示画像データの領域となる。ここで、表示装置103上における拡大表示画像の表示領域は、観察画像表示部403として確保されている全表示領域と選択された関心領域の点数とから算出さ
れる。具体的には、選択された関心領域の点数分で観察画像の表示領域が分割され、取得する画像データもそれに応じて領域を設定することになる。また、関心領域の選択の点数が変更された場合は、選択の点数に応じて各拡大表示画像データを取得する領域を再算出する。
次に、ステップS1002において、画像メモリ302から、拡大表示画像データ取得部304を介してユーザによって選択された詳細観察用表示画像の領域に対応する画像データを読み出す。
最後に、ステップS1003において、拡大表示画像データを生成し、表示データを更新する。なお、ステップS1002で取得した拡大表示画像データの格納されていた階層が表す表示倍率と、実際に拡大表示画像の観察領域に表示する表示倍率が異なる場合には解像度変換によって所望の表示倍率での表示が行えるよう画像データを加工する。上述した、ユーザによって選択された関心領域に対応する詳細観察用の関心領域表示倍率が35倍の例では、35/40倍の解像度変換を行う。また、既に拡大表示画像データの取得を行っているものに関しては、画像データの再取得をせず、生成された表示用画像データから再構成しても良い。
なお、ここまで説明してきた表示用の画像データの取得方法は、画像メモリ302に階層画像データが格納されていることを前提に行ってきたが、元の撮像画像データから適宜領域を算出して取得する構成としても良い。
図11は、スクリーニング時に生成される関心領域のリストの形式例である。
図11に示すように、スクリーニング時に生成される関心領域のリスト801は、項目ごとに項目番号欄1101、関心領域座標欄1102、関心領域表示倍率欄1103から構成されている。
項目番号欄1101には、関心領域を取得した順番で、通し番号が生成されて記載される。図4における関心領域マークの代わりに、この番号が表示される構成としても良い。また、番号の代わりに、項目が区別できるアルファベットや図形としても良い。
関心領域座標欄1102には、項目番号に関連付けて、取得した関心領域に対応する撮像画像データ上における位置座標が記載される。
関心領域表示倍率欄1103には、項目番号に関連付けて、取得した関心領域に対応する関心領域表示倍率が記載される。
また、リスト画像として表示しない情報として、各項目が表示される表示装置103上の位置座標が、項目番号に関連付けて記載・管理されることによって、マウスポインタを使用して、表示装置103上から項目を選択することができる。
以上に記載した第1の実施形態の構成および動作によって、ユーザは、病理診断のスクリーニング作業における複数の関心領域の指定が、簡便に、かつ集中的に行うことができる。また、詳細観察の作業における複数の関心領域の詳細観察を、同時に行うことができる。その結果、スクリーニング作業と詳細観察とを独立して行え、病理診断の作業効率を向上させることができる。更には、詳細観察倍率との対応関係を合わせて把握しておくことができるため、詳細観察画像を複数枚同時に表示する際の、対象物(例えば細胞の核等)の大きさの比較が容易となり、作業効率を向上させることができる。
<第2の実施形態>
本発明を実現する第2の実施形態を図に従って説明する。
本発明第1の実施形態においては、スクリーニング作業時に取得した関心領域表示倍率に基づいて、詳細観察するための画像データを生成する例を示した。本実施例では、詳細観察時の画像領域や表示倍率を変更することを可能とし、病理診断の作業効率を更に向上させる画像データを生成する例を示す。
図12は、本発明の第2の実施形態を説明するための画像データ生成装置を含む画像処理システムの構成図である。
図12のシステムは、画像サーバ1201、画像データ生成装置1202、表示装置103から構成され、表示対象となる検体(被検試料)の二次元画像を取得し表示する機能を有するシステムである。画像サーバ1201と画像データ生成装置1202と表示装置103の間は、ネットワーク1203を介して、汎用のLANケーブル1204で接続される。あるいは、画像サーバ1201と画像データ生成装置1202間、または画像データ生成装置1202と表示装置103間は、図1に示した104や105といった汎用I/Fのケーブルで接続される構成としても良い。
画像サーバ1201は、二次元画像の撮像機能を持つ撮像装置101により撮像された検体の二次元画像データを保存する機能を有する。
画像データ生成装置1202は、撮像済みの二次元画像データを画像サーバ1201から取得し、病理診断に適した画像データや表示データを生成する機能を有する。
画像データ生成装置1202及び表示装置103は、上記の機能以外にも、第1の実施形態において説明した機能を有するが、これらについての説明は省略する。
図13は、本発明の第2の実施形態を説明するための詳細観察時の表示画面構成の例である。図13は、図7Dの状態の表示画面401において、右下の観察倍率表示部に表示されている関心領域表示倍率1301が、20倍から40倍に変更された状態を表している。また、変更された関心領域表示倍率1301に連動して、右下の拡大表示画像領域に表示されている拡大表示画像1302の倍率が更新されて表示されている。更に、リスト801に表示されている、上記変更に対応した項目1303も更新されて表示されている。リスト801は、例えば後述する図15に示すような形式に再編集されて表示される。その他の表示構成やレイアウトは図7Dと同様であり、説明は省略する。なお、個々の関心領域の表示倍率を変更可能とするだけでなく、複数の関心領域表示倍率を共通で変更可能とする設定部を用意して、複数の拡大表示画像をまとめて更新・表示できるようにしても良い。また、倍率値を入力する代わりに増減で指定するようにしても良い。
一方、変更が倍率でなく画像領域の場合は、変更された画像領域に基づいて、倍率を除いた上記と同様の更新・表示がなされる。
図14は、本発明の第2の実施形態を説明するための詳細観察時の表示画像データの生成を説明するフローチャートである。
まず、ステップS1401において、ユーザが関心領域表示倍率を変更したか否かを判断する。関心領域表示倍率が変更された場合はステップS1402へ進む。変更されない場合は本詳細観察用の表示画像データ生成の処理を終了する。
次に、ステップS1402において、リスト上からユーザによって変更された関心領域表示倍率を取得する。
続いて、ステップS1403において、リスト上からユーザによって変更された関心領域表示倍率に対応する位置座標を取得する。
次に、ステップS1404において、画像メモリ302から、拡大表示画像データ取得部を介して、ユーザによって選択された拡大表示画像の領域に対応する画像データを読み出す。その後、拡大表示された観察画像データを生成する。この工程の詳細は図10と同様であるためここでの説明は省略する。
最後に、ステップS1405において、追加で変更される関心領域表示倍率の有無を判断する。追加の変更があった場合はステップS1402へ戻り、詳細観察用の拡大表示画像データの生成を以後繰り返し行う。追加での選択がなかった場合は、本詳細観察用の表示画像データ生成の処理を終了する。
一方、変更が倍率でなく画像領域の場合は、変更された画像領域に基づいて、上記と同様の動作がなされる。
図15は、変更された関心領域のリストの形式例である。
図15に示すように、関心領域のリスト801は、図11の形式例から、変更履歴欄1501が追加された構成となっている。
変更履歴欄1501には、ユーザによって変更された関心領域表示倍率が、更新された順番で図15上右側に追加されている。この例においては、変更が無かった項目は、同じ情報が追加されているが、空欄としても良い。
一方、変更が倍率でなく画像領域の場合は、画像領域に相当する撮像画像データ上の変更後の位置座標が追加される。
以上に記載した第2の実施形態の構成および動作によって、ユーザは、病理診断における詳細観察時の画像領域や表示倍率を、対応関係を把握しつつ変更することが可能となる。このことにより、詳細観察画像を複数枚同時に表示する際の、対象物(例えば細胞の核等)の大きさの比較が更に容易となり、作業効率を向上させることができる。
<第3の実施形態>
本発明を実現する第3の実施形態を図に従って説明する。
本発明の第1の実施形態においては、スクリーニング作業時に取得した関心領域表示倍率に基づいて、詳細観察するための画像データを生成する例を示した。本発明の第2の実施形態においては、詳細観察時の画像領域や表示倍率を変更することを可能とする例を示した。本実施形態では、詳細観察時の複数の拡大表示画像間の表示倍率の違いを、ユーザに判別し易くすることを可能とし、病理診断の作業効率を更に向上させる画像データを生成する例を示す。
装置構成としては、第1及び第2の実施形態で説明したものと同等で実現できるため、説明は省略する。
図16は、本発明の第3の実施形態を説明するための詳細観察時の表示画面構成の例で
ある。図16は、図7Dの状態の表示画面401において、右上の表示領域の表示倍率が他の領域の表示倍率と異なることを明示するために、右上の表示領域の枠1601の表示態様と他の表示領域の枠の表示体表と異ならせている。図16では、枠1601を点線で示しているが、実際には枠1601の表示色を他の枠の表示色と異ならせることが考えられる。また、枠1601の表示色と連動して、対応する項目1602のハイライト表示色、全体画像407上の選択領域マーク1603の表示色も変更することも好ましい。枠1601の表示色が違うことにより、拡大表示画像1602は、その他の拡大表示画像814、816、817とは表示倍率が違うことが、ユーザにとって判別し易くなる。枠の表示色は、ユーザによって予め倍率ごとに設定される。あるいは、スクリーニング作業時に、関心領域表示倍率を指定する際に設定する構成としても良い。あるいは、詳細観察時に設定する構成としても良い。また、枠の表示色でなく、枠の表示輝度、枠の形状、観察倍率表示領域の表示色・表示輝度、関心領域表示倍率の表示色・表示輝度等で表示倍率を判別できる構成としても良い。更には、リスト801の項目が、項目内に記載されている関心領域表示倍率に応じて、設定された倍率ごとの表示色に全て色分けされて表示される構成としても良い。
この構成によれば、関心領域の選択工程におけるリストからの関心領域表示倍率の判別も一層容易となる。
その他の表示構成やレイアウトは図7Dと同様であり、説明は省略する。
以上に記載した第3の実施形態の構成および動作によって、ユーザは、病理診断における詳細観察時の複数の拡大表示画像間の表示倍率の違いを、対応関係を把握しつつ判別することが可能となる。このことにより、詳細観察画像を複数枚同時に表示する際の、対象物(例えば細胞の核等)の大きさの比較が更に容易となり、作業効率を向上させることができる。
<第4の実施形態>
本発明を実現する第4の実施形態を説明する。
本発明の第1の実施形態においては、スクリーニング作業時に取得した関心領域表示倍率に基づいて、詳細観察するための画像データを生成する例を示した。本発明の第2の実施形態においては、詳細観察時の画像領域や表示倍率を変更することを可能とする例を示した。更に本発明の第3の実施形態においては、詳細観察時の複数の拡大表示画像間の表示倍率の違いを、ユーザに判別し易くすることを可能とする例を示した。本実施形態では、詳細観察時に、スクリーニング作業時に取得した関心領域情報から、同一条件のものを一括して選択・表示することを可能とし、病理診断の作業効率を更に向上させる画像データを生成する例を示す。
装置構成としては、第1及び第2の実施形態で説明したものと同等で実現できるため、説明は省略する。
図17は、本発明の第4の実施形態を説明するための詳細観察時の表示画像データの生成を説明するフローチャートである。
まず、ステップS1701において、ユーザが関心領域表示倍率の検索を行ったか否かを判断する。特定の関心領域表示倍率が検索された場合はステップS1702へ進む。検索されない場合は本詳細観察用の表示画像データ生成の処理を終了する。
次に、ステップS1702において、リスト上からユーザに検索された特定の関心領域
表示倍率に一致する関心領域の有無を判断する。一致する関心領域があった場合はステップS1703へ進む。一致する関心領域がなかった場合は、本詳細観察用の表示画像データ生成の処理を終了する。
続いて、ステップS1703において、検索に一致した関心領域に対応する位置座標を取得する。そして、画像メモリ302から、拡大表示画像データ取得部を介して、検索に一致した拡大表示画像の領域に対応する画像データを読み出す。その後、拡大表示された観察画像データを生成し、ステップS1702へ戻り、詳細観察用の拡大表示画像データの検索を以後繰り返し行う。ここのステップの詳細は、S902〜904に示したものと同様であり、ここでの説明は省略する。
なお、検索条件として倍率でなく、位置範囲を指定することもできる。この場合は、検索条件として指定された範囲内に位置する関心領域が選択され、検索に一致した関心領域の拡大表示画像が生成・表示される。処理内容は基本的には、上記と同様であるため、詳しい説明は省略する
以上に記載した第4の実施形態の構成および動作によって、ユーザは、病理診断における詳細観察時に、スクリーニング作業時に取得した関心領域情報から、同一条件のものを一括して選択・表示することが可能となる。このことにより、詳細観察画像を複数枚同時に表示する際の、対象物(例えば細胞の核等)の大きさの比較が更に容易となり、作業効率を向上させることができる。
<第5の実施形態>
本発明は、前述した実施形態の機能の全部または一部を実現するソフトウェアのプログラムコードそのもの、あるいは当該プログラムコードを記録した記録媒体(または記憶媒体)として実現することもできる。上記機能を有するプログラムコードを記録した記録媒体経由をシステムや装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行することで、上記機能が実現可能である。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。また、上記プログラムコードは、ネットワーク経由でシステムや装置に供給され補助記憶装置に格納され、そのシステムあるいは装置のコンピュータが補助記憶装置に格納されたプログラムコードを読み出して実行することでも、上記の機能が実現可能である。
また、コンピュータが、読み出したプログラムコードを実行することにより、コンピュータ上で稼働しているオペレーティングシステム(OS)などが、実際の処理の一部または全部を行う。その処理によって前述した実施形態の機能が実現される場合も本発明に含まれる。
更に、記録媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張カードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれたとする。その後、そのプログラムコードの指示に基づき、その機能拡張カードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本発明に含まれる。
なお、本発明を上記記録媒体に適用する場合、その記録媒体には、先に説明したフローチャートに対応するプログラムコードが格納されることになる。
<その他の実施形態>
第1から4の実施の形態で説明してきた構成は、お互いに組み合わせて使用できる。し
たがって、上記各実施形態における様々な技術を適宜組み合わせて新たなシステムを構成することは当業者であれば容易に想到し得るものであり、そのような様々な組み合わせによるシステムも本発明の範疇に属する。
101 撮像装置
102 画像データ生成装置
103 表示装置
301 撮像画像データ取得部
305 表示データ生成部
306 表示データ出力部
307 位置データ取得部

Claims (14)

  1. 撮像画像のデータを用いて、表示装置に表示される表示画像のデータを生成する画像データ生成装置であって、
    前記撮像画像のデータを取得する撮像画像データ取得手段と、
    ユーザによって指示された前記撮像画像上の関心領域の位置データを取得する位置データ取得手段と、
    前記撮像画像のデータと前記位置データとを用いて、前記表示画像のデータを生成する表示データ生成手段と、
    を備え、
    前記位置データ取得手段は、複数の前記関心領域の前記位置データを取得可能であり、
    前記表示データ生成手段は、前記複数の位置データを前記表示装置に表示するためのデータと、前記撮像画像の一部分を拡大した拡大画像を前記表示装置に複数表示可能とするためのデータとを生成し、
    前記撮像画像の一部分は、前記表示装置に表示された前記複数の位置データのうちユーザによって指定された位置データに対応する前記関心領域を含む、
    画像データ生成装置。
  2. 前記位置データ取得手段は、前記関心領域のそれぞれについて、当該関心領域を含む前記撮像画像の一部分を拡大して表示する際の表示倍率も取得し、
    前記表示データ生成手段は、前記表示倍率で前記撮像画像の一部分を表示するためのデータを生成する、
    請求項1に記載の画像データ生成装置。
  3. 前記表示データ生成手段は、前記表示倍率ごとに異なる表示態様で前記拡大画像を表示できるように、前記表示画像のデータを生成する、
    請求項2に記載の画像データ生成装置。
  4. 前記表示データ生成手段は、前記複数の関心領域の中から、ユーザによって指定された特定の表示倍率で表示する関心領域を一括して選択し、一括して選択された関心領域を含む前記拡大画像を表示するためのデータを生成する、
    請求項2または3に記載の画像データ生成装置。
  5. 前記表示データ生成手段は、前記複数の関心領域の中から、ユーザによって指定された特定の位置範囲に含まれる関心領域を一括して選択し、一括して選択された関心領域を含む前記拡大画像を表示するためのデータを生成する、
    請求項1〜3のいずれか1項に記載の画像データ生成装置。
  6. 前記表示データ生成手段は、前記撮像画像の全体画像を表示するためのデータも生成する、
    請求項1〜5のいずれか1項に記載の画像データ生成装置。
  7. 前記表示データ生成手段は、前記撮像画像の低倍画像を表示するためのデータも生成する、
    請求項1〜6のいずれか1項に記載の画像データ生成装置。
  8. 前記複数の位置データを、保存、読み出し、及び、読み込みする手段を更に備える、
    請求項1〜7のいずれか1項に記載の画像データ生成装置。
  9. 前記撮像画像のデータは、撮像装置から出力されたデータである、
    請求項1〜8のいずれか1項に記載の画像データ生成装置。
  10. 前記撮像画像のデータは、画像サーバに格納された画像データである、
    請求項1〜8のいずれか1項に記載の画像データ生成装置。
  11. ユーザが操作して前記画像データ生成装置に指示を入力するための操作手段を更に備える、
    請求項1〜10のいずれか1項に記載の画像データ生成装置。
  12. 撮像画像出力装置と、表示装置と、請求項1〜11のいずれか1項に記載の画像データ生成装置と、を備えた画像データ表示システムであって、
    前記画像データ生成装置は、前記撮像画像出力装置から出力された撮像画像のデータを用いて、前記表示装置に表示される表示画像のデータを生成する、
    画像データ表示システム。
  13. 撮像画像のデータを用いて、表示装置に表示される表示画像のデータを生成する画像データ生成方法であって、コンピュータが、
    前記撮像画像のデータを取得する撮像画像データ取得工程と、
    前記撮像画像上のユーザに指示された関心領域の位置データを取得する位置データ取得工程と、
    前記撮像画像のデータと前記位置データとを用いて、前記表示画像のデータを生成する表示データ生成工程と、
    を実行し、
    前記位置データ取得工程では、ユーザに指示された複数の前記関心領域のそれぞれの前記位置データを取得可能であり、
    前記表示データ生成工程では、前記複数の位置データを前記表示装置に表示するためのデータと、前記撮像画像の一部分を拡大し、前記表示装置に複数表示可能とするためのデータを生成し、前記撮像画像の一部分は、前記表示装置に表示された前記複数の位置データのうちユーザによって指定された位置データに対応する前記関心領域を含む、
    画像データ生成方法。
  14. 請求項13に記載の画像データ生成方法の各工程をコンピュータに実行させるためのプログラム。
JP2011283718A 2011-12-26 2011-12-26 画像データ生成装置、画像データ表示システムおよび画像データ生成方法 Ceased JP2013134574A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011283718A JP2013134574A (ja) 2011-12-26 2011-12-26 画像データ生成装置、画像データ表示システムおよび画像データ生成方法
US14/356,025 US20140301665A1 (en) 2011-12-26 2012-12-18 Image data generating apparatus, image data display system, and image data generating method
PCT/JP2012/008070 WO2013099150A1 (en) 2011-12-26 2012-12-18 Image data generating apparatus, image data display system, and image data generating method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011283718A JP2013134574A (ja) 2011-12-26 2011-12-26 画像データ生成装置、画像データ表示システムおよび画像データ生成方法

Publications (2)

Publication Number Publication Date
JP2013134574A true JP2013134574A (ja) 2013-07-08
JP2013134574A5 JP2013134574A5 (ja) 2015-01-29

Family

ID=47553317

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011283718A Ceased JP2013134574A (ja) 2011-12-26 2011-12-26 画像データ生成装置、画像データ表示システムおよび画像データ生成方法

Country Status (3)

Country Link
US (1) US20140301665A1 (ja)
JP (1) JP2013134574A (ja)
WO (1) WO2013099150A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015210640A (ja) * 2014-04-25 2015-11-24 富士電機株式会社 表示装置、監視システム、表示方法および表示プログラム

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5791256B2 (ja) * 2010-10-21 2015-10-07 キヤノン株式会社 表示制御装置、表示制御方法
JP2013174581A (ja) * 2012-01-25 2013-09-05 Canon Inc 画像データ生成装置および画像データ生成方法
JP6455829B2 (ja) * 2013-04-01 2019-01-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US9412162B2 (en) 2013-08-21 2016-08-09 Sectra Ab Methods, systems and circuits for generating magnification-dependent images suitable for whole slide images
US9824189B2 (en) * 2015-01-23 2017-11-21 Panasonic Intellectual Property Management Co., Ltd. Image processing apparatus, image processing method, image display system, and storage medium
US9898453B1 (en) * 2015-12-09 2018-02-20 TurboPatent Corp. Machine controls for rapid numbering of graphical depictions on a display surface
KR102656542B1 (ko) * 2015-12-22 2024-04-12 삼성메디슨 주식회사 초음파 영상들을 디스플레이하는 방법 및 장치.
US10489633B2 (en) 2016-09-27 2019-11-26 Sectra Ab Viewers and related methods, systems and circuits with patch gallery user interfaces
CN109983767B (zh) * 2016-11-24 2021-12-07 株式会社尼康 图像处理装置、显微镜***、图像处理方法及计算机程序
JP6949612B2 (ja) * 2017-08-09 2021-10-13 キヤノン株式会社 動画再生装置およびその制御方法、並びにプログラム
US20240087082A1 (en) * 2022-09-13 2024-03-14 Shanghai United Imaging Intelligence Co., Ltd. System and method for magnifying an image based on trained neural networks

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08185509A (ja) * 1994-12-28 1996-07-16 Sumitomo Metal Ind Ltd 画像編集方法
JPH09223155A (ja) * 1996-02-19 1997-08-26 Ge Yokogawa Medical Syst Ltd 画像表示方法及び画像表示装置
JP2004121652A (ja) * 2002-10-04 2004-04-22 Aloka Co Ltd 超音波診断装置
JP2008188163A (ja) * 2007-02-02 2008-08-21 Toshiba Corp 超音波診断装置、医用画像処理装置、及び医用画像処理プログラム
JP2008294523A (ja) * 2007-05-22 2008-12-04 Brother Ind Ltd 画像処理装置および画像処理プログラム
JP2011227628A (ja) * 2010-04-16 2011-11-10 Sony Corp 情報処理装置、情報処理方法、プログラム、及び情報処理システム
US20120069049A1 (en) * 2010-09-16 2012-03-22 Omnyx, LLC Digital pathology image manipulation

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0678927A (ja) 1992-09-03 1994-03-22 Fujitsu Ltd 超音波診断装置
US6396941B1 (en) * 1996-08-23 2002-05-28 Bacus Research Laboratories, Inc. Method and apparatus for internet, intranet, and local viewing of virtual microscope slides
US6404906B2 (en) * 1997-03-03 2002-06-11 Bacus Research Laboratories,Inc. Method and apparatus for acquiring and reconstructing magnified specimen images from a computer-controlled microscope
JP3619132B2 (ja) * 2000-08-25 2005-02-09 株式会社日立製作所 電子顕微鏡
US20030210262A1 (en) * 2002-05-10 2003-11-13 Tripath Imaging, Inc. Video microscopy system and multi-view virtual slide viewer capable of simultaneously acquiring and displaying various digital views of an area of interest located on a microscopic slide
US20100002070A1 (en) * 2004-04-30 2010-01-07 Grandeye Ltd. Method and System of Simultaneously Displaying Multiple Views for Video Surveillance
US7394926B2 (en) * 2005-09-30 2008-07-01 Mitutoyo Corporation Magnified machine vision user interface
WO2007052572A1 (en) * 2005-11-02 2007-05-10 Olympus Corporation Electronic camera
CA2785746C (en) * 2009-12-30 2016-09-13 Nokia Corporation Methods and apparatuses for facilitating content-based image retrieval
JP5652227B2 (ja) * 2011-01-25 2015-01-14 ソニー株式会社 画像処理装置および方法、並びにプログラム
US20140306992A1 (en) * 2011-12-26 2014-10-16 Canon Kabushiki Kaisha Image processing apparatus, image processing system and image processing method
JP2013152454A (ja) * 2011-12-27 2013-08-08 Canon Inc 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム
JP2013174581A (ja) * 2012-01-25 2013-09-05 Canon Inc 画像データ生成装置および画像データ生成方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08185509A (ja) * 1994-12-28 1996-07-16 Sumitomo Metal Ind Ltd 画像編集方法
JPH09223155A (ja) * 1996-02-19 1997-08-26 Ge Yokogawa Medical Syst Ltd 画像表示方法及び画像表示装置
JP2004121652A (ja) * 2002-10-04 2004-04-22 Aloka Co Ltd 超音波診断装置
JP2008188163A (ja) * 2007-02-02 2008-08-21 Toshiba Corp 超音波診断装置、医用画像処理装置、及び医用画像処理プログラム
JP2008294523A (ja) * 2007-05-22 2008-12-04 Brother Ind Ltd 画像処理装置および画像処理プログラム
JP2011227628A (ja) * 2010-04-16 2011-11-10 Sony Corp 情報処理装置、情報処理方法、プログラム、及び情報処理システム
US20120069049A1 (en) * 2010-09-16 2012-03-22 Omnyx, LLC Digital pathology image manipulation

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
堀越 功: "企業を熱くする最新テクノロジ テレパソロジー(遠隔病理診断) 遠隔地の病理医が手術中に診断 ネットワー", 日経コミュニケーション 2007.9.15, vol. 第494号, JPN6016004368, 15 September 2007 (2007-09-15), JP, pages 68 - 73, ISSN: 0003284458 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015210640A (ja) * 2014-04-25 2015-11-24 富士電機株式会社 表示装置、監視システム、表示方法および表示プログラム

Also Published As

Publication number Publication date
WO2013099150A1 (en) 2013-07-04
US20140301665A1 (en) 2014-10-09

Similar Documents

Publication Publication Date Title
JP2013134574A (ja) 画像データ生成装置、画像データ表示システムおよび画像データ生成方法
JP5589366B2 (ja) 情報処理装置、情報処理方法及びそのプログラム
JP6091137B2 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
JP2013174581A (ja) 画像データ生成装置および画像データ生成方法
JP6124543B2 (ja) 画像処理装置、画像処理方法、画像処理システム、及びプログラム
US10078876B2 (en) Information processing apparatus, method, and computer-readable medium
JP6348504B2 (ja) 生体試料の分割画面表示及びその記録を取り込むためのシステム及び方法
JP5531750B2 (ja) 情報処理装置、情報処理方法、プログラム、及び情報処理システム
JP4667944B2 (ja) 画像作成装置
US20190304409A1 (en) Image processing apparatus and image processing method
JP5350532B2 (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP5812576B2 (ja) 情報処理装置及びそのプログラム
US11990227B2 (en) Medical system, medical apparatus, and medical method
JP2014130221A (ja) 画像処理装置、その制御方法、画像処理システム、及びプログラム
JP2013200639A (ja) 描画データ生成装置、描画データ生成方法、プログラム、および描画データ生成システム
JP2013153429A (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP2001265310A (ja) 画像処理装置及びコンピュータ読取可能な記録媒体
JP2018173984A (ja) 情報処理方法、情報処理システム、情報処理装置、プログラム、サーバ装置及び表示制御装置
JP2016038542A (ja) 画像処理方法および画像処理装置
JP6338730B2 (ja) 表示データを生成する装置、方法、及びプログラム
JP2012018816A5 (ja)
JP2014112148A (ja) 撮像画像と位置特定画像とを重ねて表示させる装置
JP2016038541A (ja) 画像処理方法および画像処理装置
JP2013250574A (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141209

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160309

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160329

A045 Written measure of dismissal of application [lapsed due to lack of payment]

Free format text: JAPANESE INTERMEDIATE CODE: A045

Effective date: 20160726