JP2019033924A - 学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム - Google Patents

学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム Download PDF

Info

Publication number
JP2019033924A
JP2019033924A JP2017157672A JP2017157672A JP2019033924A JP 2019033924 A JP2019033924 A JP 2019033924A JP 2017157672 A JP2017157672 A JP 2017157672A JP 2017157672 A JP2017157672 A JP 2017157672A JP 2019033924 A JP2019033924 A JP 2019033924A
Authority
JP
Japan
Prior art keywords
anatomical region
image
data generation
learning data
generation support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017157672A
Other languages
English (en)
Other versions
JP6797088B2 (ja
Inventor
佳児 中村
Yoshiji Nakamura
佳児 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2017157672A priority Critical patent/JP6797088B2/ja
Priority to US16/042,292 priority patent/US11062448B2/en
Publication of JP2019033924A publication Critical patent/JP2019033924A/ja
Application granted granted Critical
Publication of JP6797088B2 publication Critical patent/JP6797088B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/903Querying
    • G06F16/9032Query formulation
    • G06F16/90332Natural language query formulation or dialogue systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/903Querying
    • G06F16/90335Query processing
    • G06F16/90344Query processing by using string matching techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30028Colon; Small intestine
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30048Heart; Cardiac
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30056Liver; Hepatic
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30084Kidney; Renal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Business, Economics & Management (AREA)
  • Pathology (AREA)
  • General Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Library & Information Science (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

【課題】本発明は、画像のディープラーニングに必要な多様なデータを提供するための学習データ生成支援装置および学習データ生成支援方法並びに学習データ生成支援プログラムを提供する。
【解決手段】検索手段11で、複数の読影レポートの文字列を解析して、検索キーワードが含まれる読影レポートを検索し、登録手段13で、検索された読影レポートに対応する医用画像に対して画像処理を施して、検索キーワードに関連する解剖学的領域を抽出し、抽出された解剖学的領域が解剖学的領域の標準の大きさと異なる場合、または、抽出された解剖学的領域が解剖学的領域の標準の形状と異なる場合に、解剖学的領域を示す情報と医用画像を正解データとして登録する。
【選択図】図7

Description

本発明は、機械学習に用いる学習データを生成するための支援を行う学習データ生成支援装置および学習データ生成支援方法並びに学習データ生成支援プログラムに関する。
データの特徴を学習して画像などの認識や分類を行うために機械学習が従来から利用されてきたが、近年、様々な学習手法が開発され、より認識精度が向上してきた。また、コンピュータの処理能力が向上したことにより処理時間が短縮され、システムが画像データなどの特徴をより深いレベルで学習するディープラーニングを行うことが可能になってきた。ディープラーニングを行うことにより、非常に高い精度で画像などの特徴を認識できるようになり判別性能の向上が期待されている。ディープラーニングには大量かつ多様なデータが必要であり、多くの画像判別のためのデータをインターネットなどから取得している。
一方、医療情報システムの普及に伴い、地域における病気診断の連携と医療情報の共有を目的として、医療機関の相互間でデータ交換が可能な広域電子カルテシステムの実現がされつつある。広域電子カルテシステムの要素技術には、各医療機関に設けられた医用画像管理システム(PACS: Picture Archiving and Communication System)がある。PACSでは、CR(Computed Radiography:コンピュータX線撮影)、CT(Computed Tomography:コンピュータ断層撮影装置)、MRI(magnetic resonance imaging:磁気共鳴画像撮影装置)、超音波画像診断(ultrasound imaging)、またはPET(Positron Emission Tomography:陽電子放射断層撮影装置)といった画像撮影装置(モダリティ)から受信した画像データの保管、閲覧、および管理を行っている。また、DICOM(Digital Imaging and COmmunication in Medicine)規格を用いて画像データを管理することにより、様々な種類の画像データの一元管理を可能にしている。
このような一元管理された大量のデータから、様々な情報を取得する手法が試みられている。例えば、症例毎にまとめたデータを作成するために、ある画像に類似した画像を検索したり、類似した症例を読影レポートに基づいて検索したりする手法が求められている。特許文献1では、指定された1以上の画像データに対して文字情報を検索キーワードとして用いて、指定された画像データとは異なりかつ類似する画像データを検出する手法が開示されている。
特開2008−52544号公報
近年、医療分野においても、診断向上のために高い精度で画像の特徴を認識することが望まれ、ディープラーニングの利用が検討されている。ディープラーニングには、目的に沿った大量かつ良質のデータによる学習が不可欠である。医療分野では、学習に必要な正解データは医用画像管理システムに保管されている大量のデータに埋もれていると考えられる。しかし、大量のデータの中から正解データを手動で判別するのは合理的ではない。
そのため正解データを自動的に検出する方法が様々に検討されているが、類似した正解データを大量に学習させても、一定の性能を得ることはできるが、それ以上に性能を向上させることは難しい。実際には、正解データのうち標準から外れたデータも学習させることで、全体の性能を向上させることができるようになる。
そこで、本発明では、上述のような問題を解決するために、医療分野においてディープラーニングに必要な多様な学習データを生成する学習データ生成支援装置および学習データ生成支援方法並びに学習データ生成支援プログラムを提供することを目的とする。
本発明の学習データ生成支援装置は、複数の読影レポートの文字列を解析して、検索キーワードが含まれる読影レポートを検索する検索手段と、検索された読影レポートに対応する医用画像に対して画像処理を施して、検索キーワードに関連する解剖学的領域を抽出し、抽出された解剖学的領域が解剖学的領域の標準の大きさと異なる場合、または、抽出された解剖学的領域が解剖学的領域の標準の形状と異なる場合に、解剖学的領域を示す情報と医用画像を正解データとして登録する登録手段とを備える。
本発明の学習データ生成支援装置の作動方法は、検索手段と、登録手段とを備えた学習データ生成支援装置の作動方法であって、検索手段が、複数の読影レポートの文字列を解析して、検索キーワードが含まれる読影レポートを検索し、登録手段が、検索された読影レポートに対応する医用画像に対して画像処理を施して、検索キーワードに関連する解剖学的領域を抽出し、抽出された解剖学的領域が解剖学的領域の標準の大きさと異なる場合、または、抽出された解剖学的領域が解剖学的領域の標準の形状と異なる場合に、解剖学的領域を示す情報と医用画像を正解データとして登録する。
本発明の学習データ生成支援プログラムは、コンピュータを、複数の読影レポートの文字列を解析して、検索キーワードが含まれる読影レポートを検索する検索手段と、検索された読影レポートに対応する医用画像に対して画像処理を施して、検索キーワードに関連する解剖学的領域を抽出し、抽出された解剖学的領域が解剖学的領域の標準の大きさと異なる場合、または、抽出された解剖学的領域が解剖学的領域の標準の形状と異なる場合に、解剖学的領域を示す情報と医用画像を正解データとして登録する登録手段として機能させる。
「解剖学的領域」とは、臓器領域または病変領域を指す。
「解剖学的領域が解剖学的領域の標準の大きさと異なる」とは、解剖学的領域がその解剖学的領域の標準の大きさの範囲内から外れた大きさであることを指し、「解剖学的領域が解剖学的領域の標準の形状と異なる」とは、解剖学的領域がその解剖学的領域の標準の形状の範囲内から外れた形状であることを指す。また、解剖学的領域の標準の大きさの範囲、または、標準の形状の範囲は、例えば、解剖学領域の特徴に応じて決められる指標を用いて決められ、指標値が所定の基準値から決められた幅を持った範囲を指す。解剖学的領域の標準の大きさは、例えば、解剖学的領域の長軸方向の長さの値などを用いて決めることができ、解剖学的領域の標準の形状は、例えば、円形度の値などを用いて決めることができる。
「検索キーワードが含まれる読影レポート」とは、検索キーワードがそのまま含まれた読影レポートだけではなく、検索キーワードと実質的に同一と判断できる内容が含まれている読影レポートであればよい。例えば、同じ対象を指す他の用語であってもよいし、並び順が違っているが同じ内容を指すものであってもよいし、あいまい検索のように所定の規則に従って同じ内容と判断できるものであってもよい。
また、登録手段は、抽出された解剖学的領域の大きさが標準の解剖学的領域の大きさとは異なるか否かの判定を、予め基準画像に設定された医用画像の解剖学的領域の大きさに基づいて行ってもよく、または、抽出された解剖学的領域が標準の解剖学的領域の形状が異なる否かの判定を、予め基準画像に設定された医用画像の解剖学的領域の形状に基づいて行なってもよい。
また、検索手段は、読影レポートに対して自然言語解析を実行して、解剖学的領域の大きさまたは形状に関する情報を抽出してもよい。
また、検索キーワードは、医用画像が同一患者を異なる時期に撮影した2以上の医用画像に存在する解剖学的領域の状態の変化を意味する文字列を含んでいてもよい。
また、検索キーワードが、がんの状態を表す文字列であってもよい。
また、解剖学的領域が、肺、肝臓、腎臓、心臓、大腸のいずれかであってもよい。
また、解剖学的領域が、がんの領域であってもよい。
また、検索キーワードが、がんの種類を含んでもよい。
また、医用画像は、MRI画像、CT画像、単純X線画像、または、超音波画像であってもよい。
また、検索キーワードの入力を受け付ける入力受付手段をさらに備え、検索手段が、入力された検索キーワードが含まれる読影レポートを検索してもよい。
本発明によれば、複数の読影レポートの文字列を解析して、検索キーワードが含まれる読影レポートを検索し、検索された読影レポートに対応する医用画像の解剖学的領域が標準の大きさと異なる場合、または、抽出された解剖学的領域が標準の形状と異なる場合に、解剖学的領域を示す情報と医用画像を正解データとして登録することにより、ディープラーニングに必要な多様な正解データを自動的に取得することが可能になる。
医療情報システムの概略構成を表す図 読影医用ワークステーションの概略構成を示す図 レポート編集画面の一例 辞書テーブルの一例(その1) 辞書テーブルの一例(その2) 読影医用ワークステーションで読影レポートを作成する処理の流れを示すフローチャート 学習データ生成支援装置の概略構成を示す図 解剖学的領域の例を説明するための図(その1) 解剖学的領域の例を説明するための図(その2) 解剖学的領域の例を説明するための図(その3) 学習データ生成支援装置の処理の流れを示すフローチャート 正解データの一覧の一例
図1に、本発明の第1の実施の形態における学習データ生成支援装置が導入された医療情報システム1の概略構成を示す。この医療情報システム1は、公知のオーダリングシステムを用いた診療科の医師からの検査オーダに基づいて、被写体の検査対象部位の撮影および保管、放射線科の読影医による撮影された画像の読影と読影レポートの作成、および、依頼元の診療科の医師による読影レポートの閲覧と読影対象の画像の詳細観察を行うためのシステムである。医療情報システム1は、図1に示すように、撮影装置(以下、モダリティという)2、読影医用ワークステーション3、診療科用ワークステーション4、電子カルテデータベース6、画像データベース7、および、読影レポートデータベース8が、ネットワーク9を介して互いに通信可能な状態で接続されて構成されている。各機器は、医療情報システム1の構成要素として機能させるためのアプリケーションプログラムがインストールされている。また、アプリケーションプログラムは、CD−ROM等の記録媒体からインストール、または、インターネット等のネットワーク経由で接続されたサーバの記憶装置からダウンロードされた後にインストールされてもよい。
モダリティ2には、被写体の検査対象部位を撮影することにより、その部位を表す検査画像を生成し、その画像にDICOM規格で規定された付帯情報(以下、DICOMタグという)を付加して出力する装置が含まれる。具体例としては、CT装置、MRI装置、超音波装置、または、CR装置などが挙げられる。
読影医用ワークステーション3は、放射線科の読影医が画像の読影や読影レポートの作成に利用するコンピュータであり、CPU(Central Processing Unit)、主記憶装置、補助記憶装置、入出力インターフェース、通信インターフェース、入力装置、表示装置、および、データバス等の周知のハードウェア構成を備え、周知のオペレーションシステム等がインストールされ、表示装置として1台または複数台の高精細ディスプレイを有している。この読影医用ワークステーション3では、画像データベース7に対する画像の送信要求、画像データベース7から受信した画像の表示、読影レポートの作成支援と表示、および、画像中の病変らしき部分の自動検出および強調表示等の各処理が、各処理のためのソフトウェアプログラムを実行することにより行われる。また、読影医用ワークステーション3は、生成した読影レポートを、ネットワーク9を介して読影レポートを読影レポートデータベース8へ送信して登録を要求する。
診療科用ワークステーション4は、診療科の医師が、電子カルテの閲覧および入力、検査オーダの発行、および画像の詳細観察や読影レポートの閲覧等に利用するコンピュータであり、CPU、主記憶装置、補助記憶装置、入出力インターフェース、通信インターフェース、入力装置、表示装置、および、データバス等の周知のハードウェア構成を備え、周知のオペレーションシステム等がインストールされ、表示装置として1台または複数台の高精細ディスプレイを有している。
診療科用ワークステーション4では、入力装置(キーボード、またはマウスなど)を通じて、カルテの入力および編集の指示や、検査オーダの入力および発行の指示といった操作指示が入力される。入力されたカルテや検査オーダのデータは、ネットワーク9を介して電子カルテデータベース6に登録される。
また、この診療科用ワークステーション4では、画像管理サーバ5に対する画像の閲覧要求、画像管理サーバ5から受信した画像の表示、画像中の病変らしき部分の自動検出または強調表示、読影レポートデータベース8に対する読影レポートの閲覧要求、および、読影レポートデータベース8から受信した読影レポートの表示等の各処理が、各処理のためのソフトウェアプログラムの実行により行われる。また、診療科用ワークステーション4は、各診療科で行われた超音波診断などの画像を、ネットワーク9を介して画像管理サーバ5に転送し、画像データベース7への登録を要求する。
電子カルテデータベース6は、汎用のコンピュータにデータベース管理システム(Data Base Management System:DBMS)の機能を提供するソフトウェアプログラムが組み込まれ、大容量ストレージを備えている。このストレージは、データバスによって接続された大容量のハードディスク装置であってもよいし、ネットワーク9に接続されているNAS(Network Attached Storage)やSAN(Storage Area Network)に接続されたディスク装置であってもよい。
電子カルテデータベース6には、問診などから得られた情報などが記録された複数の患者の電子カルテが、患者IDおよび患者氏名と年齢と性別などの患者情報と対応付けて記憶される。
画像データベース7は、汎用のコンピュータにデータベース管理システムの機能を提供するソフトウェアプログラムが組み込まれ、大容量ストレージを備えている。このストレージは、データバスによって接続された大容量のハードディスク装置であってもよいし、ネットワーク9に接続されているNASやSANに接続されたディスク装置であってもよい。
画像データベース7には、複数の患者をモダリティ2で撮影した検査画像と付帯情報が登録される。付帯情報には、例えば、個々の画像を識別するための画像ID(identification)、被写体を識別するための患者ID、検査を識別するための検査ID、検査画像ごとに割り振られるユニークなID(UID:unique identification)、その検査画像が生成された検査日、検査時刻、その検査画像を取得するための検査で使用されたモダリティの種類、検査部位(撮影部位)、撮影条件(造影剤の使用有無または放射線量など)、および、1回の検査で複数の断層画像を取得したときのシリーズ番号などの情報が含まれる。
また、画像データベース7は、読影医用ワークステーション3からの閲覧要求をネットワーク9経由で受信すると、上述の画像データベース7に登録されている検査画像を検索し、抽出された検査画像を要求元の読影医用ワークステーション3に送信する。
読影レポートデータベース8は、汎用のコンピュータにデータベース管理システム(Data Base Management System: DBMS)の機能を提供するソフトウェアプログラムが組み込まれ、読影医用ワークステーション3からの読影レポートの登録要求を受け付けると、その読影レポートをデータベース用のフォーマットに整えて読影レポートデータベース8に登録する。
読影レポートデータベース8には、例えば、読影対象画像もしくは代表画像を識別する画像IDや、読影を行った画像診断医を識別するための読影医ID、病変名、病変の位置情報、所見、所見の確信度といった情報が記録された読影レポートが登録される。また、読影レポートには、生検によって得られた判定結果が記録される。
ネットワーク9は、病院内の各種装置を接続するローカルエリアネットワークである。読影医用ワークステーション3が他の病院あるいは診療所に設置されている場合には、ネットワーク9は、各病院のローカルエリアネットワーク同士をインターネットまたは専用回線で接続した構成としてもよい。いずれの場合にも、ネットワーク9は光ネットワークなど検査画像の高速転送が実現可能な構成にすることが好ましい。
次に、読影医用ワークステーション3の機能について説明する。図2に示すように、読影医用ワークステーション3は、表示制御手段(表示制御部)40、データベース接続手段(データベース接続部)41、編集処理手段(編集処理部)42、および記憶手段(記憶部)43を備える。
データベース接続部41は、ネットワーク9を介して、画像データベース7および読影レポートデータベース8とデータの送受信を行う。
表示制御部40は、読影医用ワークステーション3に接続されているディスプレイ31の表示を制御する機能を有し、画像データベース7から受信した検査画像をディスプレイ31に表示させ、かつ、読影レポートの入力画面をディスプレイ31に表示させる機能を備える。
図3〜5を用いて、表示制御部40の機能について詳細に説明する。図3〜5は、読影医用ワークステーションから読影レポートを入力する際の表示画面の一例である。ここでは、2台のディスプレイ31が読影医用ワークステーション3に接続されている場合について説明する。
表示制御部40は、1台目のディスプレイ31の表示画面に、CR装置で撮影された放射線による単純X線画像、CT装置またはMRI装置で撮影された断層画像、断層画像に基づいて生成される三次元画像などの各種の検査画像(医用画像に対応)を表示する。表示画面に、複数の検査画像を同時に表示することが可能である。
また、表示制御部40は、別のディスプレイ31の表示画面に、図3に示すレポート編集画面44を表示する。レポート編集画面44には、操作ボタン、リストボックス、アイコンなどの、GUI(Graphical User Interface)を構成する各種の操作ツールが設けられている。こうした操作ツールを通じて、入力装置から各種の操作指示が入力される。
レポート編集画面44には、基本情報表示領域45、所見文入力領域46、用語選択入力領域47、および操作ボタン領域48が設けられている。これら各領域は、GUIを構成する各種の操作ツールである。こうした操作ツールを通じて、入力装置から種の操作指示が入力される。操作指示には、読影レポートデータベース8から読影レポートのデータを読み出す指示、読影レポートデータベース8へ読影レポートのデータを保存する指示、所見文入力領域46を選択してアクティブ(入力が可能な状態)にする指示等が含まれる。
基本情報表示領域45には、患者名(「富士一郎」)、検査ID(「CT0803」)、検査画像の撮影日(「08/4/12(2008年4月12日)」)といった基本情報が表示される。
所見文入力領域46には、読影医が検査画像を観察して認識した、病変の状態等の観察記録、すなわち所見を表す文(以下、所見文という)が入力される。図3では、所見文入力領域46は一つだけ表示されているが、所見文入力領域46は追加することも可能である。所見文入力領域46を追加する際には、病変が複数有る場合に、病変毎に所見を分けて入力したり、検査目的が複数ある場合(例えば、治療効果判定と転移検索等)に、検査目的毎に所見を分けて入力したりといった使い方が可能である。
用語選択入力領域47は、マウスのクリック操作によって、所見文入力領域46へ所見文を入力するための操作ツール(テンプレート式操作ツールとも呼ばれる)が表示される。用語選択入力領域47は、「肝臓」、「胆管」、「胆嚢」などの臓器別の大分類パネル49と、小分類パネル50とを有する。小分類パネル50は、「肝臓の形態」、「腫瘤性病変」などの臓器毎に所見として記入されるべき項目を類型化した所見項目を有する。各パネル49、50は、タブによって切り替え選択が可能である。大分類パネル49として選択された臓器名は、所見文入力領域46の横に表示される。本例では、大分類パネル49として「肝臓」が、小分類パネル50として「肝臓の形態」がそれぞれ選択されている。
小分類パネル50には、さらに、複数の用語選択ボタン51が設けられている。用語選択ボタン51は、所見項目をさらに細分化した、「辺縁」、「表面」、「腫大程度」、「腫大部位」などの所見要素毎に、横並びに配列されている。例えば、「辺縁」の所見要素には、「鋭」、「やや鈍」、「鈍」、「表面」の所見要素には、「平滑」、「やや凹凸」、「凹凸」といったものがある。用語選択ボタン51の用語には、各所見要素で使用される頻度が高い医療用語が使用されている。
用語選択ボタン51は、各所見要素について一つだけ選択することが可能である。このため、例えば「辺縁−鋭」が選択された状態で、「辺縁−鈍」を選択し直した場合は、「辺縁−鋭」の選択が自動的に解除される。
所見文入力領域46をアクティブにした状態で、所望の用語選択ボタン51にポインタ52を合わせて、マウスでクリック操作を行うと、選択された用語に基づいた所見文が所見文入力領域46に表示される。所見文入力領域46に入力された所見文には、キーボードを操作することで、修正加筆することも可能である。
所見文は、一個以上の用語選択ボタン51を選択したときに表示される。所見文は、用語選択ボタン51が追加選択される毎に表示が更新される。追加選択は、例えば、二つの所見要素の用語選択ボタン51が選択されていて、三つ目の所見要素の用語選択ボタン51を選択する場合と、同一の所見要素で用語選択ボタン51の選択をし直す場合とを含む。
本例では、用語選択ボタン51として、「辺縁−鋭」、「表面−平滑」、「腫大程度−軽度」、「腫大部位−左葉」、「萎縮程度−なし」、「実質均一度−均一」、「実質濃度−正常」がそれぞれ選択され(斜線で示す)、萎縮部位のみ選択されていない。また、所見文として、「肝は左葉が軽度に腫大しています。辺縁鋭、表面平滑、萎縮はなく、実質は均一で正常濃度です。」が所見文入力領域46に表示された状態を図示している。
所見文入力領域46に入力された所見文のデータ(以下、所見データという)は、個々を識別する所見IDを有する。所見IDは、検査画像や読影レポートと所見文との対応をとるためのものであり、所見文入力領域46の追加された順に付された番号を含む。
終了ボタン54が選択されると、読影レポートのデータが確定保存される。確定保存された読影レポートは、不正な改ざんを防止するために編集が禁止される。
編集処理部42は、レポート編集画面44の所見文入力領域46に入力された所見データ、および各パネル49、50、用語選択ボタン51の選択を受け付ける。
編集処理部42は、所見IDに加えて、各所見データに対して、その所見文を入力した読影医を識別するための医師IDを付加する。医師IDは、読影医用ワークステーション3の起動時のユーザ認証の際等に読影医によって入力される。
また、編集処理部42は、記憶部43に格納された辞書テーブル57に基づいて、各パネル49、50、用語選択ボタン51の選択状態に応じた所見文を作成する。
図4の左側において、辞書テーブル57は、臓器の項目を最上層として、所見項目、所見要素の順に下層となる階層構造を有する。臓器と所見項目、所見項目と所見要素は、それぞれ異なる階層であり、臓器、所見項目、所見要素の各々は、同じ階層である。臓器の項目には、大分類パネル49の「肝臓」、「胆管」等が、所見項目には、小分類パネル50の「肝臓の形態」、「腫瘤性病変」等が、所見要素には、「辺縁」、「表面」、「腫大程度」、「腫大部位」等がそれぞれ登録されている。所見要素の「腫大」、「萎縮」、「実質」の下層には、それぞれ、「腫大部位」、「腫大程度」、「萎縮部位」、「萎縮程度」、「実質均一度」、「実質濃度」の所見要素が繋げられている。図示は省略したが、臓器の項目の「胆管」や「胆嚢」、あるいは所見項目の「腫瘤性病変」等も、それぞれ複数の所見項目および所見要素を下の階層に有する。
図4の右側および図5において、各所見要素には、その所見要素に関する節を構成する語句が登録されている。語句には、固定、入力、可変の三種類がある。所見要素には、これら全ての種類の語句が登録されているものもあれば、いずれかが登録されているものもある。
固定語句は、「辺縁」、「表面」、「腫大」等であり、所見要素と同一である。固定語句は、その所見要素に属する用語選択ボタン51が選択されたときに必ず所見文に入る。
入力語句は、「鋭」、「鈍」、「やや凹凸」等であり、所見要素「実質濃度」等の入力語句が用語選択ボタン51の用語の表示と若干異なる他は、用語選択ボタン51の用語の表示と同一である。入力語句は、「腫大−なし」、「萎縮−なし」が選択された場合を除いて、対応する用語選択ボタン51が選択されたときに必ず所見文に入る。
入力語句には、属性として区別情報が定義されている。区別情報には、「正常」、「異常」の二種類がある。入力語句が、医学的な見地で正常な状態を示す医療用語である場合、区別情報は「正常」、異常な状態を示す場合は「異常」となる。区別情報が「正常」である入力語句は、本例では「辺縁−鋭」、「表面−平滑」、「腫大程度−なし」、「萎縮程度−なし」、「実質均一度−均一」、「実質濃度−正常」の六個で、他の入力語句は全て「異常」が定義されている。
可変語句は、「、」、「はなく、」、「しています。」等であり、用語選択ボタン51の選択状態に応じて可変する。可変語句には、属性として使用位置、および使用形式が定義されている。使用位置には「途中」、「末尾」、使用形式には「肯定」、「否定」のそれぞれ二種類がある。使用位置が「途中」の可変語句(「、」、「はなく、」等)は、その所見要素に関する節が、所見文の途中の節である場合に使用する。使用位置が「末尾」の可変語句(「しています。」等)は、その所見要素に関する節が、所見文の末尾の節である場合に使用する。
使用形式が「肯定」の可変語句(「し、」、「しています。」等)は、その所見要素に関する節が、肯定形である場合に使用する。使用形式が「否定」の可変語句(「はなく、」、「はありません。」)は、その所見要素に関する節が、否定形である場合に使用する。否定形である場合とは、本例では、所見要素「腫大程度」、「萎縮程度」において、用語選択ボタン51で「なし」を選択した場合である。それ以外は全て肯定を表す場合となる。
用語選択ボタン51のいずれかが選択された場合、編集処理部42は、まず、各パネル49、50の選択状態に対応する、辞書テーブル57の臓器の項目、所見項目の階層を辿る。そして、選択された用語選択ボタン51に対応する所見要素(以下、アクティブな所見要素という)の固定語句、および入力語句を、辞書テーブル57から読み出す。下層(子)の所見要素、すなわち本例では「腫大程度」、「腫大部位」、「萎縮程度」、「萎縮部位」、「実質均一度」、「実質濃度」の用語選択ボタン51が選択された場合は、その上層(親)の所見要素である「腫大」、「萎縮」、「実質」も自動的にアクティブとなり、上層の所見要素の語句も、自動的に編集処理部42に読み出される。
編集処理部42は、辞書テーブル57から読み出した入力語句の区別情報を取得する。読み出した全ての入力語句の区別情報が正常、または異常である場合、編集処理部42は、以下に説明する節の組み替えは行わない。
辞書テーブル57から読み出した入力語句の区別情報が正常、異常と混在していた場合、編集処理部42は、区別情報が異常である入力語句をピックアップする。そして、区別情報が異常である入力語句が選択された所見要素に関する節(以下、第二の節という)を所見文の先頭に割り当て、区別情報が正常である入力語句が選択された所見要素に関する節(以下、第一の節という)を後に回す。辞書テーブル57の登録順が最初の所見要素(本例では「辺縁」)に関する節が第二の節であった場合は、節の組み換えはしない。
続いて、編集処理部42は、アクティブな所見要素の可変語句を決定する。編集処理部42は、アクティブな所見要素に関する節の使用位置、および使用形式を調べる。編集処理部42は、アクティブな所見要素と同じ階層レベルにある所見要素がアクティブであるか否かを、辞書テーブル57の登録順に見ていく。辞書テーブル57から読み出した全ての入力語句の区別情報が正常、または異常であり、使用位置、および使用形式の判定対象となるアクティブな所見要素の後に、別のアクティブな所見要素がある場合は、使用位置は途中、そうでなければ末尾となる。
辞書テーブル57から読み出した入力語句の区別情報が正常、異常と混在していた場合、所見文の先頭に割り当てた第二の節のうち、第一の節との境目の第二の節の使用位置は「末尾」となる。その他の第二の節の使用位置は「途中」となる。同様に、後に回された第一の節の使用位置は、辞書テーブル57から読み出した全ての入力語句の区別情報が正常、または異常である場合に準じる。端的に言えば、編集処理部42は、第一の節と第二の節を分けて、第二の節の位置を所見文の前にもってきて句点で区切り、その後に第一の節をまとめるのである。
選択された用語選択ボタン51に対応する入力語句の使用形式が「否定」であった場合、すなわち本例で「腫大程度−なし」、「萎縮程度−なし」が選択された場合、編集処理部42は、アクティブな所見要素である「腫大程度」およびその上層の「腫大」、「萎縮程度」およびその上層の「萎縮」の使用形式を「否定」と断じる。それ以外は全て「肯定」と断じる。この説明から明らかなように、下層の所見要素の使用形式は、その上層の所見要素に対しても適用される。編集処理部42は、以上のようにして辞書テーブル57から読み出した各種語句を、辞書テーブル57の並び(登録)順に従って連結し、所見文を作成する。
図3の各パネル49、50、用語選択ボタン51の選択状態を例に挙げて、編集処理部42の所見文の作成処理を説明する。各パネル49、50として「肝臓」、「肝臓の形態」が選択されているので、編集処理部42は、辞書テーブル57の「肝臓」、その下層の「肝臓の形態」を辿る。そして、アクティブな所見要素(この場合は「辺縁」〜「実質」まで全て)の固定語句である「辺縁」、「腫大」、「実質は」等、および入力語句である「鋭」、「軽度に」、「左葉が」、「正常濃度」等を、辞書テーブル57から読み出す。
この場合、異常な所見要素は「腫大部位」、「腫大程度」であり、その他は全て正常な所見要素である。このため、第二の節である所見要素「腫大」に関する節「肝は左葉が軽度に腫大しています。」を所見文の先頭に割り当て、その他の第一の節「辺縁鋭、表面平滑、・・・」を後に回す。また、所見要素「腫大」に関する節は、使用位置が「末尾」の可変語句「しています。」を選択する。その他の所見要素に関する節は、所見要素「辺縁」〜「実質均一度」までは、使用位置が「途中」である。また、「萎縮程度−なし」が選択されているため、所見要素「萎縮」の使用形式は「否定」で、他は全て「肯定」である。従って、編集処理部42は、可変語句として「、」、「はなく、」、「で」、「です。」を辞書テーブル57から選択的に読み出す。このようにして読み出した各種語句を、予め定められた順序に従って連結すると所見文となる。
他の例を挙げると、「辺縁−鈍」のみが選択された場合、所見文は「辺縁鈍です。」となる。また、「腫大程度−なし」のみが選択された場合、所見文は「腫大はありません。」、「萎縮程度−中等度」、「萎縮部位−肝全体」のみが選択された場合、所見文は「肝全体が中等度に萎縮しています。」となる。「実質−不均一」のみが選択された場合、所見文は「実質は不均一です。」である。
「辺縁−鈍」、「表面−平滑」が選択された場合、「鈍」の区別情報が異常、「平滑」は正常であるので、所見文は「辺縁鈍です。表面平滑です。」となる。「辺縁−鋭」、「表面−凹凸」、「萎縮程度−高度」、「萎縮部位−左葉」が選択された場合は、所見文は「表面凹凸、左葉が高度に萎縮しています。辺縁鋭です。」となる。アクティブな所見要素が一つである場合は、所見文は単文となり、アクティブな所見要素が複数である場合は、所見文は各所見要素に関する節からなる重文となる。辞書テーブル57から読み出した入力語句の区別情報が正常、異常と混在していた場合、所見文は先頭の第二の節と、それに続く第一の節とからなる。
所見要素の並び(登録)順は、所見文における各所見要素に関する節の位置と対応している。すなわち、辞書テーブル57から読み出した全ての入力語句の区別情報が正常、または異常であり、全ての所見要素がアクティブであった場合、所見要素「辺縁」に関する節が所見文の先頭に割り当てられ、順次「表面」、「腫大」、・・・の節がその後に続く。そして、「実質」に関する節が、所見文の末尾に位置する。下層に所見要素が繋げられた所見要素「腫大」、「萎縮」、「実質」に関する節も、下層の所見要素の並び順が、所見文に反映される。例えば、所見要素「腫大」は、「腫大部位」、「腫大程度」の順に節が組み立てられる。辞書テーブル57から読み出した入力語句の区別情報が正常、異常と混在していた場合は、第一、第二の節のそれぞれで、所見要素の並び順に応じた位置となるように所見文が作成される。
また、各所見要素の各語句の並び(登録)順も、その所見要素に関する節における語句の位置と対応している。例えば、所見要素「辺縁」に関する節は、固定語句「辺縁」が先頭で、その後に入力語句、可変語句が続く。所見要素「実質」に関する節は、固定語句「実質は」が先頭で、その後に所見要素「実質均一度」の入力語句、可変語句が続き、さらにその後に所見要素「実質濃度」の入力語句が続く。そして、最後に所見要素「実質」の可変語句で締め括られる。
なお、所見要素「実質」は、所見文の末尾にくる節を構成するため、可変語句は登録せず、所見要素「実質濃度」の末尾を「です。」としておけばよさそうなものだが、使用位置が末尾の「です。」に加えて、使用位置が途中の「、」をも登録している。本例では所見要素「実質」の節が途中となることはないので、「、」は使用しないが、所見要素「実質」の後に、新たな所見要素を追加登録する場合は、所見要素「実質」の節が途中となることも有り得る。従って、新たな所見要素を追加登録する場合を想定して、「です。」や「、」を登録している。所見要素「実質均一度」の可変語句の末尾が空欄となっているのも、そのためである。他の所見要素についても、新たな所見要素や語句を追加登録する場合を想定して、例えば、入力語句に対しても使用形式を定義する等、無駄がないように定義付けや並び順を構成することが好ましい。
ここで、所見要素「腫大」と「萎縮」に関する節は、どの部位(肝全体、右葉、または左葉)に、どの程度(軽度、中等度、または高度)の腫大、または萎縮があり、選択した部位以外に腫大、または萎縮がないこと、もしくは、肝のどの部位にも腫大、または萎縮がないこと、のいずれかの意味の記述を想定している。
以下、上記構成による読影医用ワークステーション3の処理の流れについて、図6に示すフローチャートを用いて説明する。
読影医用ワークステーション3は、診療科用ワークステーション4から発行された検査オーダを受信する(S1)。読影医は、読影医用ワークステーション3で検査オーダを確認し、読影レポートの作成を開始する。データベース接続部41から画像データベース7に対して、検査オーダに対応する検査画像を要求して、読影対象の検査画像を受信する(S2)。表示制御部40で、レポート編集画面44を2台目のディスプレイに表示し、これと連動して検査画像を1台目のディスプレイに表示する(S3)。読影医は、検査画像を観察しながら、2台目のディスプレイのレポート編集画面44の所見文入力領域46に、それぞれ臓器別の所見文を入力する(S4)。
所見文の入力は、上述で説明したように用語選択ボタン51を選択することにより行われる。作成された所見文は、編集処理部42で所見文入力領域46に表示される。このように、読影医は、用語選択ボタン51を選択しながら、所見文の入力を行う。
読影医は、所見文の入力を終えると、終了ボタン54が選択される(S5)。データベース接続部41から読影レポートのデータが読影レポートデータベース8に送信され、登録が行われる(S6)。
上述では、肝臓を例に説明したが、各臓器に応じた辞書テーブルを用意して、用語を選択しながら所見文の入力が行えるようにすることが可能である。
次に、本発明の第1の実施の形態の学習データ生成支援装置10について具体的に説明する。
本発明の学習データ生成支援装置10は、ネットワーク9に接続され、ネットワーク9を介して画像データベース7および読影レポートデータベース8に接続される(図1参照)。
学習データ生成支援装置10は、汎用のコンピュータで構成され、CPU、主記憶装置、補助記憶装置、入出力インターフェース、通信インターフェース、入力装置、表示装置、および、データバス等の周知のハードウェア構成を備え、周知のオペレーションシステムおよびアプリケーションプログラム等がインストールされ、さらに、本発明の学習データ生成支援プログラムがインストールされている。また、通信インターフェースを介して、ネットワーク9に接続された画像データベース7、および読影レポートデータベース8とデータの送受信を行う機能を有する。なお、学習データ生成支援プログラムはCD−ROM(Compact Disc Read only memory)などの記録媒体からインストールされてもよいし、インターネットなどのネットワークを介してインストールされてもよい。
なお、画像データベース7に記憶されている医用画像には、医師が作成した正しい解剖学的領域を示す情報が保存された画像が含まれているものとする。解剖学的領域を示す情報として、例えば、医用画像上に解剖学的領域(例えば、臓器領域または病変領域)を正しく認識したときの範囲をマスクしたマスク画像を用いることができる。あるいは、解剖学的領域の範囲を示す位置情報を記憶したデータであってもよい。以下、本実施の形態では、正しい解剖学的領域を示す情報を持っている医用画像の中から、正解データに適した医用画像を検索する場合について説明する。また、正しい解剖学的領域を示す情報がマスク画像の場合を例に以下説明する。
図7に示すように、学習データ生成支援装置10は、入力受付手段11、検索手段12、および登録手段13を備える。
入力受付手段11は、キーボードなどの入力装置から、検索キーワードの入力を受け付ける。例えば、検索キーワードとして、「肺」、「肝臓」、「腎臓」、「心臓」、「大腸」、「気管支」、または「血管」などの臓器の名称、または、「肺がん」、「肝臓がん」、「胸水」、「結節」、または「大動脈瘤」などの疾患名または症状を入力してもよい。検索キーワードは1つだけでなく、2以上の検索キーワードでも良く、「肺」と「結節」のように2つ以上の検索キーワードの入力を受け付けるようにしてもよい。
検索手段12は、読影レポートの文字列を解析する解析手段14を有し、読影レポートデータベース8に記憶されている読影レポートから検索キーワードに該当する読影レポートを検索する。
解析手段14は、自然言語解析を用いて、読影レポート内の文を単語に区切り、かつ、単語の並びに基づいて読影レポートを解析することにより、読影レポートの内容を解析する。レポート入力時に用いた辞書テーブル57(図4および図5参照)に基づいて解析を行うようにするのが望ましく、階層構造の上層の臓器と下層の所見要素に該当する文字列の組み合わせに基づいて解析する。例えば、辞書テーブルの臓器に一致する「肝臓」、「胆管」等に続いて、所見項目の「肝臓の形態」の所見要素の「辺縁」、「表面」、「腫大程度」、または「腫大部位」等に関する文字列が存在する否か、さらに、程度を表す文字列、または、数字の並びと単位を表す文字列の組み合わせ、各臓器内の部位を表す文字列、および、それらをつなぐ語句に関する文字列を組み合わせから、読影レポートの内容を解析する。
例えば、検索手段12は、検索キーワードとして「肝臓」と「左葉の腫大」が指定された場合は、解析手段14を用いて文字列を解析することで、肝臓の左葉の腫大を肯定する文、例えば、「肝臓の左葉が軽度に腫大しています」と記録された読影レポートを検索キーワードに該当する読影レポートとして検索する。
また、検索キーワードとして、病変を表す文字列が含まれていてもよい。病変に対しても臓器と同様に、「肺結節」などの病変とその特徴を表す用語を階層に分けて辞書テーブル57に登録し、辞書テーブル57を用いて、病変の種類および病変の形状などに関する文字列と、程度を表す文字列、または、数字の並びと単位を表す文字列の組み合わせ、さらに、それらをつなぐ語句に関する文字列を組み合わせから、病変部の大きさと形状に関する内容が記録された読影レポートを検索するようにしてもよい。
例えば、検索手段12は、検索キーワードとして病変の名称である「肺結節」とその特徴である「スピキュラ」が指定された場合は、例えば、「スピキュラ状の肺結節が見られる」と記録された読影レポートを検索キーワードに該当する読影レポートとして検索する。
また、検索キーワードが、がんの状態を表す文字列を含んでいてもよい。例えば、がんの進行の程度を表すステージ、または、転移ありまたは転移なしである。あるいは、検索キーワードに、がんの種類を含んでいてもよい。がんの種類は、例えば、「肺がん」、「肝臓がん」、「腎臓がん」、「心臓がん」、「大腸がん」などである。さらに、「大腸がん」は、「結腸がん」と「直腸がん」に分けられる。このように、各臓器名が付いたがんである場合には、解析手段14で文字列を解析することでがんが存在する場所についても特定可能になる。
検索される検索キーワードに、医用画像が同一患者を異なる時期に撮影した2以上の医用画像に存在する解剖学的領域の状態の変化を意味する文字列であってもよい。解剖学的領域の比較を表す文字列には、臓器自体の大きさの変化、臓器領域内に病変の有無、病変の大きさの変化を表す文字列などが含まれ、解剖学的領域を比較することで得られる情報を意味するものであればよい。
例えば、検索キーワードが「肺結節のサイズの拡大」のように、過去画像と現在画像の肺領域を比較することで得られる病変の変化を意味する文字列であってもよい。この場合、検索手段12は、例えば、「右上葉の肺結節のサイズが拡大している」と記録された読影レポートを検索キーワードに該当する読影レポートとして検索する。
このように検索キーワードに、解剖学的領域の特徴、病変の存在、または、解剖学的領域の比較を意味する文字列を指定して、それらの文字列の意味に該当する内容が含まれる読影レポートを検索し、検索した読影レポートに対応する医用画像を取り出すことで、検索したい医用画像である可能性が高い画像を画像データベース7から検索することができる。
さらに、登録手段13は、判定手段15を備え、検索された読影レポートに対応する医用画像が正解データとして適しているか否かを判定した上で、適していると判定された医用画像とそのマスク画像を正解データとして登録する。
判定手段15は、まず、検索された医用画像に対して画像処理を施して、検索キーワードに関連する解剖学的領域を抽出し、抽出された解剖学的領域がその解剖学的領域の標準の大きさと異なる場合、つまり、解剖学的領域が標準の大きさの範囲内から外れた大きさである場合に正解データとして適した医用画像であると判定する。または、前記抽出された解剖学的領域がその解剖学的領域の標準の形状と異なる場合、つまり、解剖学的領域が標準の形状の範囲内から外れた形状である場合に正解データとして適した医用画像であると判定する。
例えば、検索キーワードに「肝臓」と「左葉の腫大」が指定されている場合には、医用画像から肝臓の抽出処理を行い、さらに左葉の抽出を行う。抽出された肝臓の左葉に対して、標準の大きさの範囲内か標準の大きさの範囲から外れた大きさであるかの判定を行う。あるいは、抽出された肝臓の左葉の形状が、標準の形状の範囲内であるか標準の形状の範囲から外れた形状の判定を行う。
臓器領域が、標準の大きさの範囲内であるか、あるいは、標準の大きさから外れた大きさかの判定は、予め基準画像に指定された医用画像の臓器領域の大きさに基づいて行う。例えば、標準的な大きさの臓器を撮影した画像の複数を基準画像として指定しておき、基準画像として指定された複数の画像から抽出された臓器の大きさの平均値または大きさの代表値から所定の範囲内の大きさの臓器を標準の大きさとし、その範囲から外れた臓器を標準の大きさから外れているとする。同様に、基準画像として指定された複数の画像から抽出された臓器の形状を平均した形状との差が予め決められた範囲内の臓器の形状を標準の形状とし、その範囲から外れた臓器を標準の形状から外れているとする。例えば、医用画像から抽出された臓器領域を標準の形状と重ね合わせたときに重ならない面積または体積が基準値以内である時には標準の形状であると判定し、基準値以上である時には標準の形状から外れていると判定する。
標準の臓器領域の大きさに関する情報として、例えば、臓器領域の体積、臓器領域の頭尾方向(あるいは、長径方向)の長さなどがある。また、標準の臓器領域の形状に関する情報として、例えば、ランドマークの位置などがある。これらの標準の臓器領域の情報を予め画像データベース7に記憶しておく。なお、臓器が肺野または肝臓などの一つの臓器を複数の区域に分けることができる場合には、区域ごとに標準の大きさまたは形状の情報を記憶するようにしてもよい。例えば、肺野であれば、右上葉、右中葉、右下葉、左上葉、左下葉に分けて、標準の体積、長さ、ランドマークなどの情報を記憶しておいてもよい。肝臓であれば、右葉、左葉に分けて、標準の体積、長さ、ランドマークなどの情報を記憶しておいてもよい。
病変領域の形状が標準の形状か、あるいは、標準の形状から外れているかの判定は、病変の特徴を表す複数の情報から判定することができる。例えば、図8A〜図8Cに示すように、肺がんの特徴は、肺結節の長さおよび半径、肺結節の重心gを中心として肺結節に包含される最大球GES(greatest enclosed sphere)、および肺結節の重心gを中心とした肺結節特徴(針状の突起)の全てを含む最小球SES(smallest enclosing sphere)で表され、形状の特徴は、最大球GESに含まれる突起の数、最大球GESと最小球SESの半径の差などで決められる。多くの肺結節は円形に近い形状であるため、円形に近い陰影を標準の形状として、スピキュラが多く表れているものを円形から外れた形状と判定してもよい。
以上の通り、解剖学的領域の標準の大きさ、または、標準の形状の判定を行うために用いられるデータは、解剖学領域の特徴に応じて適宜決められればよい。
また、画像データベース7に記憶されている医用画像の中から、予め解剖学的領域が標準の大きさまたは形状とは、異なる医用画像を集めて、複数のクラスにクラスタリグ処理で分類し、各クラスタの中心に位置する医用画像をピックアップするようにして、少ない医用画像から抽出できるようにしても良い。例えば、解剖学的領域の大きさが標準から外れている画像を選択する際、各画像から算出した臓器領域の体積、および、臓器領域の頭尾方向の長さなどの数値を特徴量として、k−means法などの手法を用いてクラスタリング処理を実施する。標準の大きさから外れている画像が多数存在する場合、クラスタリング処理の結果に基づいて、各クラスタから所定の個数(例えば20個などと予め設定したおく)の画像のみをピックアップすることで、少ない画像数で効率よく正解データに必要な画像を選択することが出来る。
登録手段13は、判定手段15で、解剖学的領域が解剖学的領域の標準の大きさと異なると判定された医用画像、または、解剖学的領域が解剖学的領域の標準の形状と異なると判定された医用画像を、そのマスク画像と一緒に正解データとして記憶部16に登録する。記憶部16は、画像を記憶するための大容量記憶装置で構成される。
あるいは、記憶部16には、画像のIDのみ登録するようにして、学習に用いる際には、画像データベース7から読み出すようにしてもよい。
以下、上記構成による学習データ生成支援装置10の処理の流れについて、図9のフローチャートを用いて、臓器領域を例に正解データの登録方法について具体的に説明する。
まず、キーボードなどの入力装置から、検索キーワードとして「肝臓」と「左葉の腫大」と入力すると入力受付手段11で受け付ける(S10)。検索手段12は、読影レポートデータベース8に記憶されている読影レポートに対して解析手段14で自然言語解析を実行することにより(S11)、検索キーワードに該当する読影レポートを検索する(S12)。
判定手段15で、まず、検索された読影レポートに対応する医用画像を画像データベース7から取り出して(S13)、医用画像に対して画像処理を施して検索キーワードに関連する解剖学的領域として肝臓の左葉を抽出する(S14)。各医用画像の肝臓の左葉の体積から標準の大きさから外れているか否かを判定し、標準の大きさから外れている肝臓の左葉が存在する医用画像を取り出す(S15)。
登録手段13は、判定手段15で標準の範囲から外れていると判定された医用画像とそのマスク画像を正解データとして記憶部16に登録する(S16)。
1つの正解データでなく複数の正解データを学習させたい場合には、登録した医用画像を除いてS12〜S16を繰り返して、所望の数の正解データを登録する。
次に、図9のフローチャートを用いて、肺結節を例に正解データの登録方法について具体的に説明する。
まず、キーボードなどの入力装置から、検索キーワードとして「肺結節」と「スピキュラ」と入力すると入力受付手段11で受け付ける(S10)。検索手段12は、読影レポートデータベース8に記憶されている読影レポートに対して解析手段14で自然言語解析を実行することにより(S11)、検索キーワードに該当する読影レポートを検索する(S12)。
判定手段15で、まず、検索された読影レポートに対応する医用画像を画像データベース7から取り出して(S13)、医用画像に対して画像処理を施して検索キーワードに関連する肺野領域を抽出した後に肺結節を抽出する(S14)。抽出した各医用画像の肺結節はスピキュラが多く標準の形状の範囲から外れているか否かを判定し、標準の形状から外れた肺結節が存在する医用画像を取り出す(S15)。
登録手段13は、判定手段15で標準の範囲から外れていると判定された医用画像とそのマスク画像を正解データとして記憶部16に登録する(S16)。
1つの正解データでなく複数の正解データを学習させたい場合には、登録した医用画像を除いてS12〜S16を繰り返して、所望の数の正解データを登録する。
図10に示すように、登録された正解データの医用画像とマスク画像を一覧表示する。このように、一覧表示することによって、どのような医用画像を学習させたかを確認することが可能になる。
学習を行う際には、記憶部16に登録された正解データを用いて、ニューラルネットワークをベースとした機械学習を行わせる。具体的には、例えば、畳み込みニューラルネットワークなどを利用することにより、画像認識装置を生成することができる。
以上の詳細に説明したように、特定の検索キーワードを用いて、読影レポートを検索することによって、標準的な解剖学的領域から外れている可能性の高い解剖学的領域を含む医用画像を検索し、さらに、実際の医用画像から解剖学的領域を検出して標準的な解剖学的領域から外れた医用画像を正解データとして登録する。このように正解データとして、標準的な解剖学的領域の大きさから外れた解剖学的領域を持つ医用画像、または、標準的な解剖学的領域の形状から外れた解剖学的領域を持つ医用画像を登録して、学習を行うことにより、標準的な大きさまたは形状から外れた解剖学的領域が存在する医用画像も適切に判別を行うことが可能になる。
上記の実施の形態では、ネットワーク9に接続された汎用コンピュータが学習データ生成支援装置10として機能する場合について説明したが、読影医用ワークステーション3に学習データ生成支援プログラムをインストールして、読影医用ワークステーション3が学習データ生成支援装置10として機能するように構成してもよい。
また、判定手段15を画像データベース7に設けて、学習データ生成支援装置10は、検索手段12で検索した読影レポートに対応する医用画像の送信を画像データベース7に要求するのではなく、画像データベース7から判定結果を受信した上で、正解データに適していると判定された時だけ医用画像の送信を要求するようにしてもよい。
あるいは、学習データ生成支援装置10の検索手段12で検索した読影レポートに対応する医用画像を、画像処理専用のコンピュータに送信して、画像処理専用のコンピュータで画像処理を行なって画像処理の結果を受け取るようにしてもよい。さらに、画像処理専用のコンピュータに、判定処理(判定手段に対応する)を行なわせ、その判定結果を受取ようにしてもよい。
以上のように、学習データ生成支援装置10の全ての機能を1つのコンピュータ上で設けるのではなく、複数のコンピュータに分散して設けるようにしてもよい。
以上、詳細に説明したように、医療画像管理システムに記憶されている画像を利用することで、機械学習に必要な大量かつ多様な正解データを取得することが可能になる。
1 医療情報システム
2 モダリティ
3 読影医用ワークステーション
4 診療科用ワークステーション
5 画像管理サーバ
6 電子カルテデータベース
7 画像データベース
8 読影レポートデータベース
9 ネットワーク
10 学習データ生成支援装置
11 入力受付手段
12 検索手段
13 登録手段
14 解析手段
15 判定手段
16 記憶部
31 ディスプレイ
40 表示制御部
41 データベース接続部
42 編集処理部
43 記憶部
44 レポート編集画面
45 基本情報表示領域
46 所見文入力領域
47 用語選択入力領域
48 操作ボタン領域
49 大分類パネル
50 小分類パネル
51 用語選択ボタン
52 ポインタ
54 終了ボタン
57 辞書テーブル

Claims (12)

  1. 複数の読影レポートの文字列を解析して、検索キーワードが含まれる読影レポートを検索する検索手段と、
    前記検索された読影レポートに対応する医用画像に対して画像処理を施して、前記検索キーワードに関連する解剖学的領域を抽出し、前記抽出された解剖学的領域が該解剖学的領域の標準の大きさと異なる場合、または、前記抽出された解剖学的領域が該解剖学的領域の標準の形状と異なる場合に、前記解剖学的領域を示す情報と前記医用画像を正解データとして登録する登録手段とを備えた学習データ生成支援装置。
  2. 前記登録手段が、前記抽出された解剖学的領域の大きさが標準の解剖学的領域の大きさとは異なるか否かの判定を、予め基準画像に設定された医用画像の解剖学的領域の大きさに基づいて行う、
    または、
    前記抽出された解剖学的領域が標準の解剖学的領域の形状が異なる否かの判定を、予め基準画像に設定された医用画像の解剖学的領域の形状に基づいて行う請求項1記載の学習データ生成支援装置。
  3. 前記検索手段が、前記読影レポートに対して自然言語解析を実行して、前記解剖学的領域の大きさまたは形状に関する情報を抽出する請求項1または2記載の学習データ生成支援装置。
  4. 前記検索キーワードが、医用画像が同一患者を異なる時期に撮影した2以上の医用画像に存在する前記解剖学的領域の状態の変化を意味する文字列を含む請求項1〜3のいずれか1項記載の学習データ生成支援装置。
  5. 前記検索キーワードが、がんの状態を表す文字列である請求項1〜4のいずれか1項記載の学習データ生成支援装置。
  6. 前記解剖学的領域が、肺、肝臓、腎臓、心臓、大腸のいずれかである請求項1〜5のいずれか1項記載の学習データ生成支援装置。
  7. 前記解剖学的領域が、がんの領域である請求項1〜5のいずれか1項記載の学習データ生成支援装置。
  8. 前記検索キーワードが、がんの種類を含む請求項7に記載の学習データ生成支援装置。
  9. 前記医用画像は、MRI画像、CT画像、単純X線画像、または、超音波画像である請求項1〜8のいずれか1項記載の学習データ生成支援装置。
  10. 前記検索キーワードの入力を受け付ける入力受付手段をさらに備え、
    前記検索手段が、前記入力された検索キーワードが含まれる読影レポートを検索する請求項1〜9のいずれか1項記載の学習データ生成支援装置。
  11. 検索手段と、登録手段とを備えた学習データ生成支援装置の作動方法であって、
    前記検索手段が、複数の読影レポートの文字列を解析して、検索キーワードが含まれる読影レポートを検索し、
    前記登録手段が、前記検索された読影レポートに対応する医用画像に対して画像処理を施して、前記検索キーワードに関連する解剖学的領域を抽出し、前記抽出された解剖学的領域が該解剖学的領域の標準の大きさと異なる場合、または、前記抽出された解剖学的領域が該解剖学的領域の標準の形状と異なる場合に、前記解剖学的領域を示す情報と前記医用画像を正解データとして登録する学習データ生成支援装置の作動方法。
  12. コンピュータを、
    複数の読影レポートの文字列を解析して、検索キーワードが含まれる読影レポートを検索する検索手段と、
    前記検索された読影レポートに対応する医用画像に対して画像処理を施して、前記検索キーワードに関連する解剖学的領域を抽出し、前記抽出された解剖学的領域が該解剖学的領域の標準の大きさと異なる場合、または、前記抽出された解剖学的領域が該解剖学的領域の標準の形状と異なる場合に、前記解剖学的領域を示す情報と前記医用画像を正解データとして登録する登録手段として機能させる学習データ生成支援プログラム。
JP2017157672A 2017-08-17 2017-08-17 学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム Active JP6797088B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017157672A JP6797088B2 (ja) 2017-08-17 2017-08-17 学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム
US16/042,292 US11062448B2 (en) 2017-08-17 2018-07-23 Machine learning data generation support apparatus, operation method of machine learning data generation support apparatus, and machine learning data generation support program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017157672A JP6797088B2 (ja) 2017-08-17 2017-08-17 学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム

Publications (2)

Publication Number Publication Date
JP2019033924A true JP2019033924A (ja) 2019-03-07
JP6797088B2 JP6797088B2 (ja) 2020-12-09

Family

ID=65360148

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017157672A Active JP6797088B2 (ja) 2017-08-17 2017-08-17 学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム

Country Status (2)

Country Link
US (1) US11062448B2 (ja)
JP (1) JP6797088B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022059799A1 (ja) * 2020-09-18 2022-03-24 国立大学法人群馬大学 情報処理装置及びプログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6862147B2 (ja) * 2016-11-09 2021-04-21 キヤノン株式会社 画像処理装置、画像処理装置の作動方法、画像処理システム
WO2019146356A1 (ja) * 2018-01-29 2019-08-01 富士フイルム株式会社 画像処理装置、画像処理方法、及びプログラム
CN109993709B (zh) * 2019-03-18 2021-01-12 绍兴文理学院 一种基于深度学习的图像配准误差校正方法
JP2022117177A (ja) * 2021-01-29 2022-08-10 富士フイルム株式会社 情報処理装置、情報処理方法及び情報処理プログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006155002A (ja) * 2004-11-26 2006-06-15 Hitachi Medical Corp レポート作成支援システム
JP2011024799A (ja) * 2009-07-27 2011-02-10 Fujifilm Corp 医用画像処理装置および方法並びにプログラム
JP2015187845A (ja) * 2014-03-11 2015-10-29 株式会社東芝 読影レポート作成装置および読影レポート作成システム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5098253B2 (ja) 2006-08-25 2012-12-12 コニカミノルタエムジー株式会社 データベースシステム、プログラム、及びレポート検索方法
EP2081494B1 (en) * 2006-11-16 2018-07-11 Vanderbilt University System and method of compensating for organ deformation
IN2014DN08065A (ja) * 2012-04-24 2015-05-01 Du Pont
JP5930228B2 (ja) * 2014-02-25 2016-06-08 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 情報処理装置、方法及びプログラム
JP5810251B1 (ja) * 2014-04-09 2015-11-11 パナソニック株式会社 情報端末の制御方法及びプログラム
CN108027698A (zh) * 2015-07-21 2018-05-11 代表亚利桑那大学的亚利桑那校董会 用于分析医疗保健数据的***和方法
WO2017030913A2 (en) * 2015-08-14 2017-02-23 Intuitive Surgical Operations, Inc. Systems and methods of registration for image-guided surgery
US20170337329A1 (en) * 2016-05-18 2017-11-23 Siemens Healthcare Gmbh Automatic generation of radiology reports from images and automatic rule out of images without findings

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006155002A (ja) * 2004-11-26 2006-06-15 Hitachi Medical Corp レポート作成支援システム
JP2011024799A (ja) * 2009-07-27 2011-02-10 Fujifilm Corp 医用画像処理装置および方法並びにプログラム
JP2015187845A (ja) * 2014-03-11 2015-10-29 株式会社東芝 読影レポート作成装置および読影レポート作成システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022059799A1 (ja) * 2020-09-18 2022-03-24 国立大学法人群馬大学 情報処理装置及びプログラム

Also Published As

Publication number Publication date
US11062448B2 (en) 2021-07-13
JP6797088B2 (ja) 2020-12-09
US20190057503A1 (en) 2019-02-21

Similar Documents

Publication Publication Date Title
Wu et al. Comparison of chest radiograph interpretations by artificial intelligence algorithm vs radiology residents
US20190220978A1 (en) Method for integrating image analysis, longitudinal tracking of a region of interest and updating of a knowledge representation
CN105940401B (zh) 用于提供可执行注释的***和方法
JP6797088B2 (ja) 学習データ生成支援装置および学習データ生成支援装置の作動方法並びに学習データ生成支援プログラム
Tagare et al. Medical image databases: A content-based retrieval approach
US7607079B2 (en) Multi-input reporting and editing tool
CN106415555B (zh) 用于病理学报告与放射学报告的相关联的***和方法
US8671118B2 (en) Apparatus, method and program for assisting medical report creation and providing medical information
JP5496019B2 (ja) 医療情報提供装置、医療情報提供方法、並びに医療情報提供プログラム
US20120020536A1 (en) Image Reporting Method
JP2019153250A (ja) 医療文書作成支援装置、方法およびプログラム
Wu et al. Chest imagenome dataset for clinical reasoning
CN105074708A (zh) 放射学发现的背景驱动的概要视图
US20240021280A1 (en) Oncology workflow for clinical decision support
JP7102509B2 (ja) 医療文書作成支援装置、医療文書作成支援方法、及び医療文書作成支援プログラム
JP2017191457A (ja) レポート作成装置、およびその制御方法
CN117501375A (zh) 用于人工智能辅助图像分析的***和方法
JP2024009108A (ja) 文書作成支援装置、文書作成支援方法及びプログラム
WO2020209382A1 (ja) 医療文書作成装置、方法およびプログラム
JP2012053633A (ja) 医療情報提供装置、医療情報提供方法、並びに医療情報提供プログラム
JPWO2019176407A1 (ja) 学習支援装置、学習支援方法、学習支援プログラム、関心領域判別装置、関心領域判別方法、関心領域判別プログラム及び学習済みモデル
JP5116557B2 (ja) 医用文書作成支援装置、医用文書作成支援方法、並びに医用文書作成支援プログラム
JP7371116B2 (ja) 文書作成支援装置、文書作成支援方法及びプログラム
JP7504987B2 (ja) 情報処理装置、情報処理方法及び情報処理プログラム
JP5657451B2 (ja) 医用文書作成支援装置、医用文書作成支援方法、並びに医用文書作成支援プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190715

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200804

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200917

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201117

R150 Certificate of patent or registration of utility model

Ref document number: 6797088

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250