JP6837551B2 - Hmdsに基づく医学画像形成装置 - Google Patents

Hmdsに基づく医学画像形成装置 Download PDF

Info

Publication number
JP6837551B2
JP6837551B2 JP2019528764A JP2019528764A JP6837551B2 JP 6837551 B2 JP6837551 B2 JP 6837551B2 JP 2019528764 A JP2019528764 A JP 2019528764A JP 2019528764 A JP2019528764 A JP 2019528764A JP 6837551 B2 JP6837551 B2 JP 6837551B2
Authority
JP
Japan
Prior art keywords
volume
forming apparatus
transfer function
image forming
medical image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019528764A
Other languages
English (en)
Other versions
JP2020506452A (ja
Inventor
リー スチュワート,ピン
リー スチュワート,ピン
リー デイヴィッド,ウェイ
リー デイヴィッド,ウェイ
Original Assignee
リー スチュワート,ピン
リー スチュワート,ピン
リー デイヴィッド,ウェイ
リー デイヴィッド,ウェイ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by リー スチュワート,ピン, リー スチュワート,ピン, リー デイヴィッド,ウェイ, リー デイヴィッド,ウェイ filed Critical リー スチュワート,ピン
Publication of JP2020506452A publication Critical patent/JP2020506452A/ja
Application granted granted Critical
Publication of JP6837551B2 publication Critical patent/JP6837551B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2016Rotation, translation, scaling
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Architecture (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Processing Or Creating Images (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Image Processing (AREA)
  • Image Generation (AREA)
  • Medical Treatment And Welfare Office Work (AREA)
  • Human Computer Interaction (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)

Description

本発明は、医療器械分野に属す。具体的に言えば、本発明は医学画像処理と科学計算可視化とが連携した技術分野に関し、特に、ヴァーチュアルリアリティに基づくインタラクティブ的且つ三次元リアルタイムレンダリング可能なHMDS医学画像形成システム及び方法に関する。
現有技術では、大部分の医者は、連続的な二次元スライスデータを使用し、CT(コンピュータ断層撮影)、MRI(磁性共振イメージング)、DTI(拡散テンソル撮像法)、PET(ポジトロン断層法)等の技術により、病変組織の形態、位置、トポロジー構造等の情報を取得する。
既存の三次元エディタ又は作業端末システムでは、原始のDICOMファイルを分割、分類、破壊し、表面描画技術を使う必要がある。その結果、図1のように、外面レンダリングの効果だけが表示され、内部が黒色の無効データである。既存の三次元画像形成は外部変形の病巣しか調べられず、内部の病巣を識別することができない。さらに、外部変形の病巣と器官との融合状態も判別できない。病巣の辺縁がはっきりせず、境界線が明瞭ではなく、明確に識別できず、画像のフレーム数が低いため、観察者を眩しくさせやすく、直観的且つ真実的な器官内部の構造が得られない。また、教学の手本としてよく使われ、医者の診断と実践に役立たない。言い換えると、上記の三次元エディタ又は作業端末では、三次元効果だけ表示でき、器官の内部に入ってリアルタイムの三次元レンダリングを行うことができず、明瞭な病巣と辺縁の画像も獲得できない。
その他、医学画像形成技術分野において、端末ユーザーが三次元人体画像のリアルタイム動態レンダリングを実現させるように、どのようにローカルユーザー(例えば、医学画像形成システムの編集者、開発端末)と端末ユーザー(例えば、医者、患者)の連携を結ぶのかは、益々重要になってくる。
そこで、上記の現有技術の欠陥と不足を解消して人達の新しい需要を満足するために、どのようにヴァーチュアルリアリティに基づくインタラクティブ的且つ三次元リアルタイムレンダリング可能な新しい医学画像形成システム及び方法を作るのかは、当分野の関連技術者が解決しなければならない課題になっている。
現有技術に存在している医学画像形成システムの技術問題を克服するために、本発明は画像処理システム及び方法を提供する。その画像形成効果がもっと真実で立体且つ直観的な三次元人体画像形成が提供できる。また、医者は、三次元画像に対して、位置決めズーム、回転、器官の進入、又は病巣部における上下左右の多角度の移動、特定領域の色及び透明度の変更を行って、三次元画像形成のインタラクティブ展示が実現できる。
上記の発明目的を実現するために、本発明は第一方面にて、画像処理システムを公開する。画像処理システムは、ローカル医学画像形成装置と、サーバと、端末医学画像形成装置と、一つ又は複数のディスプレイとを備え、前記ローカル医学画像形成装置はローカルデータベースとリバースレンダリングエディタとを有し、前記ローカルデータベースは解析モジュールと記憶モジュールとを有し、前記解析モジュールは、第1のDICOMファイルを解析し、第1のボリュームテクスチャーデータを形成して前記記憶モジュールに記憶するために用いられ、前記リバースレンダリングエディタは、第1のボリュームテクスチャーデータを受け取り、伝達関数模型によって関連する伝達関数結果を生成するために用いられ、前記サーバは、前記ローカル医学画像形成装置に接続され、第1のボリュームテクスチャーデータ及び関連する伝達関数結果の記憶に用いられ、前記端末医学画像形成装置は、ユーザー入力インターフェイスとボリュームデータベースとを有し、前記ボリュームデータベースは、前記サーバに接続され、前記第1のボリュームテクスチャーデータ及び前記関連する伝達関数結果の取得に用いられ、前記ボリュームデータベースは前記ユーザー入力インターフェイスから入力された第2のDICOMファイルを解析し、第2のボリュームテクスチャーデータを形成するとともに、マッチング度が予め設定された閾値以内にある第1のボリュームテクスチャーデータと前記伝達関数結果とをサーチし、第1の三次元画像を表示することに用いられ、前記マッチング度が前記予め設定された閾値より高い場合、前記端末医学画像形成装置が前記ボリュームデータベースによって前記第2のボリュームテクスチャーデータを前記ローカル医学画像形成装置に伝送し、前記リバースレンダリングエディタが前記伝達関数模型を編集し調整し、調整した後の伝達関数結果を前記サーバによって前記端末医学画像形成装置に伝送し、第2の三次元画像を表示し、前記一つ又は複数のディスプレイは、前記ローカル医学画像形成装置及び/又は前記端末医学画像形成装置に配置されている。
もう一つの好ましい例では、前記第1のDICOMファイルと前記第2のDICOMファイルとが同じである。
もう一つの好ましい例では、前記ローカル医学画像形成装置及び前記端末医学画像形成装置それぞれにはヘッドマウンドディスプレイが配置されている。
もう一つの好ましい例では、前記ヘッドマウンドディスプレイはVR設備である。
本発明の第二方面は、本発明の第一方面が提供した画像処理システムが実行する画像処理方法を提供する。画像処理方法は、前記サーバから第1のボリュームテクスチャーデータ及び関連する伝達関数結果を取得し、前記ボリュームデータベースに記憶するステップ(1)と、第2のDICOMファイルを前記端末医学画像形成装置に提供するステップ(2)と、前記ボリュームデータベースから、第2のDICOMファイルとのマッチング度が予め設定された閾値以内にある前記第1のボリュームテクスチャーデータ、及び関連する伝達関数結果をサーチし、第2の三次元画像を表示するステップ(3)とを有する。
もう一つの好ましい例では、前記ステップ(3)は、前記ボリュームデータベースが前記第2のDICOMファイルを解析して第2のボリュームテクスチャーデータを形成するステップをさらに有する。
もう一つの好ましい例では、前記第2の三次元画像は、ヘッドマウンドディスプレイにより表示され、前記ヘッドマウンドディスプレイはVR設備を含むことが好ましい。
もう一つの好ましい例では、前記第2の三次元画像は前記第1の三次元画像と同じである。
もう一つの好ましい例では、前記ステップ(3)において、前記マッチングは、器官のパラメーター、フレーム、行、列、解像度及び/又は層厚からなる群から選ばれる。
もう一つの好ましい例では、前記ステップ(3)において、前記マッチング度が前記予め設定された閾値より高い場合、前記第2のボリュームテクスチャーデータが前記サーバによって前記ローカル医学画像形成装置に伝送され、前記リバースレンダリングエディタが伝達関数を編集し調整し、調整した後の伝達関数結果を前記サーバによって前記端末医学画像形成装置に伝送し、第2の三次元画像を表示する。
本発明の第三方面は、本発明の第一方面が提供した画像処理システムが実行する画像処理方法を提供する。画像処理方法は、前記サーバから第1のボリュームテクスチャーデータ及び関連する伝達関数結果を取得し、前記ボリュームデータベースに記憶するステップ(1)と、第2のDICOMファイルを前記端末医学画像形成装置に提供するステップ(2)と、前記ボリュームデータベースから、第2のDICOMファイルとのマッチング度が予め設定された閾値以内にある前記第1のボリュームテクスチャーデータ、及び関連する伝達関数結果をサーチし、第2の三次元画像を表示するステップ(3)と、第2の三次元画像について、領域選択命令を提供し、選択領域を形成し、前記ボリュームデータベースから、前記選択領域とのマッチング度が予め設定された閾値以内にある伝達関数結果をサーチし、選択領域の第3の三次元画像を表示するステップ(4)とを有する。
もう一つの好ましい例では、前記ステップ(4)において、前記マッチング度が予め設定された閾値より高い場合、前記選択領域のデータが前記サーバによって前記ローカル医学画像形成装置に伝送され、前記リバースレンダリングエディタが伝達関数を編集し調整し、調整した後の伝達関数結果を前記サーバによって前記端末医学画像形成装置に伝送し、第3の三次元画像を表示する。
現有の技術と比べると、本発明が提供する技術方案は以下の利点を備える。
1.本発明が提供する画像処理システムでは、ローカル医学画像形成装置におけるボリュームテクスチャーデータ及び伝達関数結果をリアルタイムにデータベースに伝送して記憶することができる。ユーザーは直接的に患者の原始映像資料(例えば、CTディスク)を差し込めば、CTディスクの情報データにより、情報の類似程度によってサーバとの正確な自動マッチングが実現でき、自動的に伝達関数結果を使用し、直接的に明らかな三次元ボリュームデータレンダリング効果を展示して予備診断を行うことができる。ユーザーは全ての映像資料に対して何らの編集をする必要はない。
2.本発明が提供する画像処理システムでは、リバースレンダリングエディタについて、高次元伝達関数の設計を用い、三次元画像形成の後、器官の辺縁がはっきりとし、病巣境界線の解像度が高く、ユーザーが簡単に器官の識別と病症画像の識別が行える。
3.初回の三次元画像形成の上、初回の三次元画像のある特定部位又は領域を選び、二回目の三次元再構築を行い、伝達関数の設計を改進し、妨害の要素を排除することができる。微小な部位(例えば、血管の内面又は狭い器官の内部等)又は病巣領域を明瞭且つ可逆に拡大することができるとともに、色や透明値のパラメーターを変更することができる。器官と病巣の境界線が明瞭であり、ユーザーの診断に便利を与える。
4.本発明の画像処理システムでは、複数の選択領域が同時に存在してもよく、データが独自に制御して互いに妨害しない。複数の選択領域はCT、MRI、DTI、PET−CTデータのうち、違う器官部位を表す。また、色の透明度が肉眼の感官機能を増強し、器官と病巣の境界線の表示を増強する。
5.人体画像形成効果がもっと真実で立体且つ直観になり、医者は自動的に患者の器官と病巣を識別できる。
6.三次元画像のインタラクティブ式の展示を実現する。医者は三次元画像に対し、位置決めズーム及びビューの回転により、多角度で見ることができ、ビューの引張より、人体の内部に「入って」観察でき、そして、特定領域の色及び/又は透明度を変えることから、ある器官又は組織構造を目立てることができる。ユーザーのインタラクティブにより、持続的にボリュームデータのうち、関心を持つ構造を探索することで、よりスムーズ且つ便利にユーザーを補助してボリュームデータの分析を完成する。
7.HMDS(Head−mounted Displays Set)により、医学画像形成及び三次元立体空間がより明瞭になり、二次元で見えない死角が観察でき、インタラクティブ性と没入感を増やすことができる。
8.サーバとローカルデータベースが共存し、データの記憶・共有・管理を行い、資源の配置を最適化する。
9.ユーザーごとにアカウントを作成して利用させることにより、各ユーザーのデータ間の安全・独立性を保証する。
以下の詳細説明と図面により、本発明の利点と精神がさらに把握できる。
現有技術の間接的に描画した三次元人体の効果図である。 本発明が提供する画像処理システムの構造模式図である。 本発明が提供する画像処理システムのデータ記憶の流れの図である。 本発明が提供する画像処理システムの資源獲得の流れの図である。 本発明が提供する画像処理システムの端末医学画像形成装置のディスプレイの表示効果図である。 本発明が提供する画像処理システムの端末医学画像形成装置のディスプレイの表示効果図である。 本発明が提供する画像処理システムの端末医学画像形成装置のディスプレイの表示効果図である。 本発明が提供する画像処理システムの端末医学画像形成装置のディスプレイの表示効果図である。 本発明が提供する画像処理システムの端末医学画像形成装置のディスプレイの表示効果図である。 本発明が提供する画像処理システムのHMDSの表示効果図である。 本発明が提供する画像処理システムのHMDSの表示効果図である。 本発明が提供する画像処理システムのHMDSの表示効果図である。 本発明が提供する画像処理システムのHMDSの表示効果図である。 本発明が提供する画像処理システムのHMDSの特殊表示効果図である。 本発明が提供する画像処理システムのHMDSの特殊表示効果図である。 本発明が提供する画像処理システムのHMDSの特殊表示効果図である。 本発明が提供する画像処理システムのHMDSの特殊表示効果図である。 現有技術において原始のDICOMファイルを破壊して得た心臓三尖弁病巣の効果図である。 本発明が提供する画像処理システムが表示した図18と同じ部位の病巣効果図である。 本発明が提供する画像処理システムによる心臓三尖弁膜病巣の選択区域に対する二回目の三次元再構築の効果図である。 本発明が提供する画像処理システムによる心臓三尖弁膜病巣に対する二回目の三次元再構築の効果図Aである。 本発明が提供する画像処理システムによる心臓三尖弁膜病巣に対する二回目の三次元再構築の効果図Bである。 本発明が提供する画像処理システムによる大動脈瘤の選択領域に対する二回目の三次元再構築の効果図である。 本発明が提供する画像処理システムによる大動脈瘤に対する二回目の三次元再構築の効果図Aである。 本発明が提供する画像処理システムによる大動脈瘤に対する二回目の三次元再構築の効果図Bである。 本発明が提供する画像処理システムによる腎臓腫瘍の選択領域に対する二回目の三次元再構築の効果図である。 本発明が提供する画像処理システムによる腎臓腫瘍に対する二回目の三次元再構築の効果図である。 本発明が提供する画像処理システムによる肺及び気管支内面の三次元画像である。 本発明が提供する画像処理システムによる気管支内面の拡大三次元画像である。 本発明が提供する画像処理システムによるMRI脳部の三次元画像である。 本発明が提供する画像処理システムによる主脈血管病巣の三次元画像Aである。 本発明が提供する画像処理システムによる主脈血管病巣の三次元画像Bである。 本発明が提供する画像処理システムによる主脈血管病巣の三次元画像Cである。 本発明が提供する画像処理システムが肺CTに対してリバースレンダリングエディタを行ったグレーケールイメージである。 本発明が提供する画像処理システムが肺CTに対してリバースレンダリングエディタを行った透明度の効果図である。
ここで、図面に基づき、本発明の具体的な実施例を詳しく説明する。しかし、本発明は以下の実施形態に限らないことを理解すべきであり、並びに、本発明の技術理念は、他の公知技術や機能又はそれらの公知技術と同じ他の技術と組み合わせて実施することができる。
以下の具体的な実施例についての説明では、本発明の構造と動作方法を明らかに展示するため、多くの方向を示す用語で説明を行い、しかし、「前」、「後」、「左」、「右」、「外」、「内」、「上」、「下」、「外向き」、「内向き」、「軸方向」、「ラジアル方向」等の用語を限定的な用語として理解されず、便利用語に理解すべきである。
本発明では、単数で説明されて前に「一」・「一つ」・「第1の」を付けたエレメント、部品又はステップは、この種類を排除すると明確に説明される以外、複数の該エレメント又はステップを排除しないと理解すべきである。
本発明の「一つの実施例」を使用する目的は、前記特徴を含む付加実施例を排除すると解釈されない。
本発明では、開発端末、開発者、編集者は同じ意味があり、互いに交換して使う可能であり、いずれもローカル医学画像形成装置が操作できる対象を指す。
本発明では、クライアント、ユーザー、端末は同じ意味があり、互いに交換して使う可能であり、いずれも端末医学画像形成装置が操作できる対象(例えば、患者や医者等)を指す。
用語についての解釈
ヴァーチュアルリアリティ(VR):ヴァーチュアルの世界を作って体験できるアナログシミュレーションシステムを指す。これは、多種情報の融合且つインタラクティブ的な三次元動態視界と実体行為のシステムシミュレーションであり、ユーザーをその環境に浸せることができる。
HMDS:ヴァーチュアルリアリティ(VR)を表示するヘッドマウンドディスプレイ(Head−mounted Displays Set)のことである。それは、一つ又は複数の付加物を含め、イヤホン、マイクロフォン、HD撮影機、赤外線撮影機、手持ち式追跡計、位置追跡計、VRメガネ、VRヘッドマウンドディスプレイ、VR複合機、VR別個式機等を含むが、これらに限られない。
原始のDICOMファイルを破壊する:ある器官の良い表示効果を得るために、アルゴリズムにより、人為的に切除又は分割・分離を行って原始画像のファイルデータを破壊すること。
画像ソース:原始のDICOMファイルを解析することで生成したボリュームテクスチャーデータを指す。
医学画像形成装置:各種の媒介を情報媒体にし、人体内部の構造を影像に再現する各器械を指す。その影像情報は、人体の実際構造と、空間・時間にての同じ分布比例という対応関係がある。
ローカル医学画像形成装置:DICOMファイルの解析に用いられ、リバースレンダリングエディタ機能を備えるモジュールを指す。特別に、持続的にパラメーター、ボリュームテクスチャーデータ、関連する伝達関数を補充、調整、修正するために、通常、当該ローカル医学画像形成装置は開発端末に位置し、端末ユーザーが自分で編集とテストをしなくてもいい。即ち、医学画像アルゴリズムを基礎にし、三次元の描画を行い、人体の三次元立体効果を実現する。本発明のローカル医学画像形成装置は、512*512のピクセル、計1024枚の画像に対する読み取り・編集、又は1024*1024のピクセル、計2048枚の画像に対する読み取り・編集が可能になることが好ましい。
端末医学画像形成装置(Display System):端末ユーザーにリアルタイムに見える画像形成体験を与えるよう、サーバから、リアルタイムにボリュームテクスチャーデータ及び関連する伝達関数結果を更新できる。その他、データベースから、マッチング度が一つの予め設定された閾値以内にある伝達関数結果を取り出すことができなければ、端末医学画像形成装置はサーバによって当該DICOMファイルをローカル医学画像形成装置にアップロードして伝達関数を補充又は修正するとともに、新しいボリュームテクスチャーデータ及び関連する伝達関数結果をサーバに記憶し、データの更新と共有を実現することができる。本発明における端末医学画像形成装置(通常、端末ユーザー、例えば医者により使われる)はローカル医学画像形成装置との相違点は以下の通りである。端末医学画像形成装置は、リバースレンダリングエディタを備えず、伝達関数を設計・編集できず、サーバを介してローカル医学画像形成装置から三次元レンダリングに必要なデータ(例えば、三次元人体画像の伝達関数結果)を取得するしかできない。
ボリュームレンダリング:即ち、可視化レンダリングである。ボリュームレンダリングは主に表面レンダリング(Surface Rendering)と直接ボリュームレンダリング((Direct Volume Rendering)という二つの方法を含む。ここで、表面レンダリング(Surface Rendering)は主に物体の表面情報の抽出により、ライティングでレンダリングして立体効果がある画像を得る。それはボリュームデータの部分情報だけで最終的なレンダリング効果を得るので、全体のボリュームデータ情報が得られず、細部の情報が失い、詳細的な構造に係るボリュームデータ分析に不利となり、可視化の効果が良くない。直接ボリュームレンダリング(Direct Volume Rendering)はボリュームデータ全体のボクセルの光学属性を累計することで、最終的なレンダリング結果を得る。そのレンダリングの結果がもっと完全で具体的であり、視覚の効果もより良い。本発明は直接ボリュームレンダリングというボリューム可視化のレンダリング方法を使う。その上、そのボリュームレンダリングがリアルタイムの動態ボリュームレンダリングであり、光線投射法のアルゴリズムを使うので、ボリュームデータの全体構造情報をよりよく反映できる。そして、そのレンダリング効果はボリュームデータの全体ボクセルによって決められるので、ボリュームデータの詳細情報が反映できる。例えば、人体内臓器官の組織構造をより完全に表示できる。直接ボリュームレンダリングは、原始DICOMファイルの特徴によって分析し、それに光学属性を与える。これは、放射線科医の脳のみに存在する重要的な解剖構造情報を三次元立体の形で表示させることだけでなく、空間でターゲット器官や病巣の周囲組織との位置関係及び具体的な形情報を識別することもできる。
ボリュームデータ:直接ボリュームレンダリングの中、ボリュームデータは、一定的な準則により、一連の医学画像データから採集できる。例えば、0.33mmで心臓データを採集すれば、横切りまたは縦切りで、0.33mmごとに一枚の心臓画像を得る。こうしたら、一組の二次元心臓画像が得られる。これらの画像は元の部位の表面特徴を含むだけではなく、内部の構造特徴もある。
ボクセル:ボクセルは、上記の二次元画像の中の画素点であり、三次元ボリュームデータの最も小さい構成ユニットである。例えば、x軸、y軸、z軸に沿い、m、n、t個の画素点があれば、そのボリュームデータの大きさがm×n×tである。
DICOM (Digital Imaging and Communications in Medicine):医学デジタル影像と通信標準を指し、医学デジタル画像の採集、整理、記憶、通信、表示、及び調べ等のほぼ全部の情報の交換を含む協議であり、一式の各種類医学診断画像及び関連する分析・報告等の情報を含む対象集を定義する。DICOMファイルは主にファイルヘッダー、データ集合及びデータエレメントという三部分を含む。ここで、データ集合は医学画像を含むだけではなく、病者の名前と画像の大きさなどの情報も含む。データエレメントは、ラベルとデータの説明(Value Representation)、データの長さ(Value Length)、データ領域(Value Field)を含み、例えば下記表1の通りである。
本発明の使用の通り、第1のDICOMは、開発者により予め収集された、医学影像ファイル即ち初期サーバに用いられる原始ファイルが好ましい。第2のDICOMはクライアント即ち医者又は患者の診断に関わる医学影像ファイルが好ましい。第1のDICOMファイルは、第2のDICOMファイルと同じであってもいいし、違ってもいい。
解析DICOMファイル:DICOMファイルは四級の属性を含む。即ち、病者(Patient)、検査(Study)、序列(Series)と影像(Sop)である。それぞれのDICOMファイルを解析して関連するSeries NumberとStudy IDの値を取得し、解析した第1枚のSeries NumberとStudy ID値を一組にし、後に解析したSeries NumberとStudy ID値を、以前のすでに解析した組のSeries NumberとStudy ID値に比べる。Series Number及びStudy ID値と、以前のSeries Number及びStudy ID値とが同じである場合、同じ組のデータになる。同じではなければ、新しいDICOM数の組になる。これによって、DICOMファイルを分類する。
ボリュームテクスチャーデータ(Texture 2D/3Dデータ):DICOMファイルを解析して形成したボリュームデータ形式であり、ボリュームデータのうちの空間面データと空間の三次元データを説明し、リバースレンダリングエディタによって、直接的に編集される。
伝達関数(Transfer Function)模型:伝達関数や伝達関数の設計と互いに交換して使用することが可能であり、ボクセルのデータが光学属性に写像する関数のことを指す。T:V1 × V2 ×...Vn → O1 × O2 ×...On 。TはVn とOn の間の写像規則であり、定義域のVn はボクセルの違う属性の値を代表する。例えば、勾配・幅・距離、曲率、尺度、CT又はMRIのグレーケール値等である。値域On は光学の特徴であり、違う光学属性の不透明度と色の値を表す。ここで、不透明度はどの興味ある構造が表示されるかを決め、色の値はどのように直観的に興味ある構造を表示するかを決める。通常は不透明度、色、陰影のパラメーター、屈折率、反射率等を含む。医学画像形成描画の分野について、全部のデータに適用する汎用の伝達関数模型がまだない。従って、本発明は採用した多種の伝達関数模型が患者の違う器官及び/又は病巣に適し、動脈、血管、骨格、胸部、消化管、脳、腎臓、心臓、肺、肝臓、胃部、骨盤、全身、並びに腎臓腫瘍の病巣、心臓三尖弁の破損病巣、大動脈瘤の病巣、肺と気管支の内面、MRI脳腫瘍、主脈血管の病巣等を含むが、これらに限られない。
本発明の使用の通り、上記の伝達関数模型はグレーケール画像の多次元伝達関数、カラー多次元伝達関数画像を含むが、これらに限られない。上記のグレーケール画像の伝達関数の中、グレーケールのスカラー値により、勾配情報等を計算でき、ボリュームデータ辺縁の特徴と輪郭情報が表示でき、そして、色の値と不透明度値も出力できる。上記のカラー画像の伝達関数は自身の色のベクトル及びベクトルの計算によって取得した派生属性の値である。
リバースレンダリングエディタ(Editor System):上記のボリュームテクスチャーデータの受け取りに用いられ、伝達関数模型により、伝達関数結果を生成するモジュールを指し、伝達関数の設計・修正・補充・追加等が実現できる。その他、リアルタイム且つ動態的にリバースレンダリングエディタが完成した三次元画像の効果を表示するように、ローカル医学画像形成装置にはディスプレイが配置でき、そして、当該三次元画像効果によって伝達関数を調整し、最も良い画像形成効果を得ることができる。
伝達関数結果:違う伝達関数模型により、ボリュームテクスチャーデータを編集し、可視化三次元画像の需要に基づき、適宜なボリュームテクスチャーデータ属性と光学特徴との間の写像関係を得る。例えば、伝達関数が要する立方エディットボックスとアークエディットの排列数量、座標、色、透明度等の情報が得られる。座標の違うボクセルの空間情報が区分できる。物質辺縁の勾配模擬値が区分でき、物体形状の曲率等が表示できる。当該伝達関数は患者器官の表面と内部の組織構造の伝達関数結果を含み、そして、立方体積空間の伝達関数結果も含む。
ローカルデータベース:ローカル医学画像形成装置において、第1のDICOMファイルの解析及び第1のボリュームテクスチャーデータデータの形成に用いられる。そして、患者、画像採集器、画像の採集時間、撮影のタイプ、器官によって、ボリュームテクスチャーデータを分類して記憶し、唯一の標識を形成することができる。その他、ローカルデータベースは、リバースレンダリングエディタで得た伝達関数結果の記憶にも用いられる。同時、ローカルデータベースは、開発端末の記憶動作が随時に発生することが現実にならせる。ミリ秒までのローカルシステム時間を画像の記憶の一種の標識として利用する同時、記憶の動作が完成した後、3Dモードに戻ることもできる。編集者がある画像の効果が良い基礎で、継続に細かいところをテストして時間を節約するように、編集者は原の効果に対して、継続の編集ができる同時、この前に編集した三次元人体画像の関連データのチェックと調べもできる。
ボリュームデータベース:ボリュームデータベースはリアルタイムにサーバで更新した伝達関数結果とボリュームテクスチャーデータを得る。そして、ボリュームデータベースはユーザー入力インターフェイスで入力した医学画像形成データの解析に用いられ、医学画像データとのマッチング度が予め設定された閾値以内にある伝達関数結果のサーチにも用いられる。
サーバ:DICOMファイルを解析することで生成したボリュームテクスチャーデータ、及びリバースレンダリングエディタで編集して取得した伝達関数結果の記憶に用いられる。当該DICOMファイルは開発者端末が本発明の医学画像形成システムを研究開発する時、予め集めた医学影像ファイルで、即ちサーバの最初形成に用いる原始ファイルである。そして、マッチング度が一つの予め設定された閾値より少ない場合、クライアント、即ち、医者又は患者が診断されるべき医学影像ファイルをアップロードし、ローカル医学画像形成装置によって解析されて新しいボリュームテクスチャーデータと伝達関数結果が形成した後、サーバに補充して記憶されるものであってもよい。好ましくは、本発明では、上記の「サーバ」は、一つの予め設定されたデータ集合とユーザーの需要によって動態的に補充したデータ集合の総和であっても構わない。
マッチング:これは、端末医学画像形成装置に入力した第2のDICOMファイルが、解析されてボリュームテクスチャーデータを形成した後、ボリュームデータベースにすでに記憶したボリュームテクスチャーデータ及び伝達関数結果と、器官のパラメーター、フレーム(Frame)、行(Row)、列(Column)、解像度(Pixelsping)、層厚(ScliceThickness)等の方面でマッチングを行い、マッチング度が予め設定された閾値以内にある伝達関数結果をサーチし、三次元画像を形成する過程を指す。好ましくは、当該予め設定された閾値が定義するマッチング度の区間でマッチング度の範囲を定義する。その閾値を超えれば、マッチングしないと見なす。本分野の技術人員はマッチングの需要によって閾値を調整することができる。
好ましくは、本発明が述べたマッチングは、器官のデータ、フレーム、行、列、解像度、層厚の順序の通りに行われる。本発明では、上記のマッチングは以下のことを含むが、これらに限られない。
a.CTディスクデータの種類のマッチング(例えばCT、DTI、MRI、PET)。
b.CTディスクデータのうち、器官データのマッチング、解像度のマッチング、層厚のマッチング、三次元再構築画像の資源数。
c.伝達関数結果のマッチング。
実施例一
伝達関数による色の値と不透明値に対するフィッテング
目前、数多くの医学スキャン設備が採集しているボリュームデータがほぼグレーケールデータであり、それぞれの人体組織・器官のグレーケールの分布が違う。本発明では、伝達関数はグレーケール画像の違うグレーケールの分布により、色の値と不透明度値を与える。図26と図27の通り、図26は画像処理システムが肺CTに対してリバースレンダリングエディタを行ったグレーケール画像である。図27は、画像処理システムが肺CTに対してリバースレンダリングエディタした透明度の効果図である。層厚が1mm、フレーム数が296である肺CTを例とし、具体的なステップは、器官領域の選択、選択した領域に対する属性編集、及び最後に得た伝達関数によるレンダリングを有する。
1.器官領域の選択:
立方体グラフ操作機能関数:パラメーターは選択した領域のフレームとマウスで入力したx、yの座標を含む。
bool Cxxx_handleMoveEvent(Cxxx*p,int x,int y)
アーク線フィッテング操作機能関数:パラメーターは選択した領域のフレームとマウスで入力したx、yの座標を含む。
bool Cxxx_handleMoveEvent(Cxxx*p,int x,int y);
2.選択した領域の属性編集(器官の色と透明度の調整を例とする)
(1)3Dモードでの伝送は、選択した器官の色の選択を実現する
パラメーターはマウスのx、yであり、マウスが色の選択領域の範囲にあり、マウス位置の色が変更の色である
関数のbool CTransferFunction2_move_Cxxxx (int x, int y)を実現する。
(2)3Dモードで、編集者は選択した器官の透明度を調整する。透明度の値が0〜1.0である。
パラメーターは、今の透明表UIの位置である。
関数のvoid CTransferFunction2_Axxxx(int index)を実現する。
実施例二
本実施例では、二次元グレーケール−勾配伝達関数の空間で、本発明が高次元伝達関数を採用してボリュームレンダリングを行うことを説明する。画像中心法による伝達関数を使用する場合は、データ中心法による伝達関数を使用する場合より、最も良い描画結果が得られる。この過程は、伝達関数がパラメーターとし、そのパラメーターを最適化する過程である。即ち、ある特定の描画結果を目標とし、間接的に伝達関数を変える、従って、ユーザーは持続的に可視化結果をインタラクティブすることだけでよく、直接的に伝達関数を設計しなくてもいい。
2−1 二次元グレーケール−勾配伝達関数空間を構成する
ボリュームデータの中、同じ物質内部のボクセルが類似のグレーケール値を持つが、違う物質の間の境界領域にあるボクセルのグレーケール値には明らかな変化がある。勾配はスカラー場の中、スカラー場の変化方向と変化速度を表す度量なので、勾配の変化が非常に激しい。
(1)ボリュームデータを読み込み、それぞれのボクセルのために勾配の幅を計算する。
(2)ボリュームデータの中、同じグレーケールと勾配ドットペアの数を統計して、一つの255×256の二次元画像を形成する。
2−2 Sobel演算子
中心差分と違い、Sobel演算子が26近傍の26個のボクセルを利用し、より良い表示効果が得られる。三次元Sobel演算子は3×3×3の合成積を利用して得たものである。第一行列はこの前のスライスであるが、第二行列は目前のスライスであり、そして、第三行列は次のスライスである。
2−3 二次元グレーケール−勾配の立方編集フレームを構成する
(1)先ず、二次元グレーケール勾配立方編集フレームの範囲を[0.255]に設定し、0で初期化する。即ち、一つの大きさが255×256である二次元画像のそれぞれのピクセルの輝度に値を与え、ここで、横軸がグレーケールを表し、縦軸が勾配を表す。
(2)全部のボリュームデータの一回目のトラバースを実施し、公式によって、各ボクセルに対して勾配の幅||∇f||を計算する。ここで、h=1。そして、次ぎのステップで勾配の幅の範囲を調整しやいように、||∇f||の最大値と最小値を統計する。
(3)全部のボリュームデータの2回目のトラバースを実施し、各ボクセルの勾配の幅||∇f||を範囲[0,225]の中に写像して、二次元伝達関数の空間が完全に勾配の幅が表せることを保証する同時、全体のボリュームデータの中、各ドットペアI||∇f||に属するボクセルの個数を統計する。統計したドットペアのデータに対して、対数変換を行うことから、高効率的に伝達関数の空間情報を表す。その輝度の値は当該三次元ボリュームデータのうち、グレーケール・勾配ボクセルの分布状況と対応する。もっと明るければ、ボリュームデータに含む関連するボクセルが多く、もっと暗ければ、関連するボクセルが少ないことを表す。
従って、伝達関数空間の中の任意の一つのピクセルに対し、ドットペアがあるボクセルの数がN(i,j)であると統計し、最後、対数変換から得た輝度の値がI(i,j)である。公式が(1−1)の通りである。
ここで、Nmaxは伝達関数空間における全体のNのうち、対数処理を行って取得した最大値である。
実施例三:画像処理システムの動作の流れ
図2は本発明の画像処理システムの構造模式図であり、主にローカル医学画像形成装置1、サーバ3、及び端末医学画像形成装置2を含む。
医学画像形成に使われるボリュームデータの出所は、CT(コンピュータ断層撮影)、MRI(磁性共振イメージング)、DTI(拡散テンソル撮像法)、PET−CT(ポジトロン断層法)等を含むが、これらに限られない。そのボリュームデータはDICOMファイルにより記憶され、それぞれのDICOMファイルはファイルヘッダー情報とデータ情報を含む。ファイルヘッダーは、データのサイズ情報、ファイルの生成時間、病人の関連情報、及びスライスデータの位置等を記憶する。
ローカル医学画像形成装置1は光ディスクドライブを配置し、開発者端末が提供するコンパクトディスクの中にあるCT、MRI、DTI、PET−CTの原始DICOMファイルの読み取りに用いられる。ローカルデータベースは原始DICOMファイルを解析してボリュームテクスチャーデータに形成させる。
説明の必要があることは、ボリュームデータレンダリングの画像組として使われるデータの出所が多ければ多いほど、効果がもっと精細であり、つまり、コンパクトディスクの画像ソースデータ及びレンダリングに用いられる画像データ組の数が最終のレンダリング効果に影響する。従って、ローカル医学画像形成装置1は自動的にデータが最も多い画像ソースを解析し、後続のボリュームレンダリングに用いられる。さらに、自動的に画像ソースを選択する時、ローカル医学画像形成装置1は優先的に層厚がより薄い画像ソースを選び、その優先的に選ぶ範囲は0.2〜0.7mmである。ボリュームレンダリングの計算過程には大きい計算量があるので、本発明のローカル医学画像形成装置1にGPUが配置され、GPUの高速並行演算機能により、直接的にボリューム描画とGPUレンダリングを実現する。
さらに、ローカル医学画像形成装置1はリバースレンダリングエディタ11により、64位記憶空間の基礎で、ボリュームテクスチャーデータに対し、編集とリアルタイムのボリュームレンダリングを行い、伝達関数を設計し、ボリュームテクスチャーデータと光学特徴の適合の写像関係を得て、伝達関数結果を得る。並びに、編集者はリアルタイムの描画効果を見ることで、逆に伝達関数を調整して編集し、最終的に器官・病巣辺縁が明らか且つ合理的である上、高い解像度で内部構造の三次元画像を形成する。
上記のボリュームテクスチャーデータ及び伝達関数結果はサーバ3に記憶され、さらに、サーバ3によって端末医学画像形成装置2のボリュームデータベース24の中に導入される。図3が示したデータ記憶の流れの通り、ローカル医学画像形成装置1又は端末医学画像形成装置2のユーザーは使用する時、先ず、ローカルデータベース13により、バックアップ・共有・管理を行い、そして、ネットワークにより、サーバ3の中に導入してバックアップ・共有・管理を行う。ここで、データの記憶は全体記憶である。その他、本分野の普通の技術人員は以下のことを知らなければならない。即ち、編集した後の三次元人体画像データの管理に便利を与え、データの配置を最適化するように、データの記憶について、ユーザーの需要により、器官別に記憶することができる。
クライアントが提供するCTディスクのデータは端末医学画像形成装置2に導入され、CTディスクの中のDICOMファイルは、ボリュームデータベース24により解析されてクライアントのボリュームテクスチャーデータを形成する。すでにローカル医学画像形成装置で記憶したボリュームテクスチャーデータ及び伝達関数結果に基づき、ボリュームデータベース24はクライアントのボリュームテクスチャーデータとマッチングする。そのマッチングが成功すれば、直接的に三次元画像を表示する。
端末医学画像形成装置2はネットワークを通し、サーバ3を訪問して画像ソースを得ることができる。サーバ3の画像ソースは、ローカル医学画像形成装置1から得てもいいし、もう一つの端末医学画像形成装置2から得てもいい。例を挙げて説明すれば、二人の医者のA、Bはそれぞれに自分の端末医学画像形成装置2を使う場合、医者Aがサーバ3にアップロードした画像ソースは、医者Bに獲得される可能である。つまり、これは二人の医者のインタラクティブ式の診断が実現できる。さらに、ボリュームデータベース24がマッチングを行う時、マッチング度が予め設定された閾値より高ければ、解析した後のクライアントボリュームテクスチャーデータがサーバ3より、ローカル医学画像形成装置1にアップロードされ、リバースレンダリングエディタ11によって、当該クライアントのCTディスクデータの三次元画像を明瞭に表示できるまで、伝達関数を再び編集して調整する。同時、他のユーザーのマッチング需要を満足させるように、調整した伝達関数結果及び関連するボリュームテクスチャーデータはサーバ3にアップロードされることができる。
端末医学画像形成装置2はディスプレイ21(例えば、コンピュータの平面ディスプレイ)及びビルトインGPUを備え、DICOMファイル解析で生成したTexture 2D/3Dに対するリアルタイムの動態レンダリング及びリアルタイム動態レンダリング後の三次元人体画像の表示に用いられ、そして、リアルタイムに多角度・局部のズーム・画面切抜引張による内部器官の観察効果を得る。ユーザーは端末医学画像形成装置2を通して画像を観察する時、リアルタイム動態レンダリングした後の三次元人体画像だけではなく、当該三次元人体画像の関連原始DICOMファイルが解析して形成したTexture 2D/3D画像も見える。
ローカル医学画像形成装置1及び/又は端末医学画像形成装置2はそれぞれにHMDS12と22を備える。開発者又はユーザーは、操作の状態で、リアルタイムに三次元人体画像と空間画像を観察してレンダリングすることができ、多角度・局部のズーム・画面切抜引張による内部器官の観察効果も得られる。HMDS12と22はいずれも三次元ヴァーチュアルリアリティの画像が表示でき、より真実性がある。観察する時、目眩の感覚を防ぐように、当該HMDS22のFPSを最低30FPS、最高60FPSに設定し、そして、最低30FPSに達する場合に限り、HMDSを添えることができる。端末医学画像形成装置2は具体的な画像を表示する時、ユーザーはディスプレイ21及び/又はHMDS22を選ぶことができる。そして、ローカル医学画像形成装置1におけるディスプレイとHMDS12、端末医学画像形成装置2におけるディスプレイ21とHMDS22は、いずれも三次元人体画像を60倍に拡大して表示することが実現できる。同時、ユーザーの選択により、光照射を切る表現方式を表示方式とする。
上記の操作動作は、ユーザーが端末医学画像形成装置2の一つの外部入力設備23(例えば、マウスやキーボード等)により、三次元人体画像に対して操作制御を行う。これによって、マンマシンインタラクションを実現し、以下の操作動作を含むが、これらに限られない。(1)ある具体的な器官/組織の色及び/又は透明度を変え、即ち、ユーザーは単独の器官に対し、色及び/又は透明度を調整することで、器官と病巣の境界線の解像度の向上を実現する。(2)位置決めズームビュー。(3)回転ビューは、三次元人体画像の多視角の360°の観察を実現する。(4)人体器官の内部に「入り」、内部の構造を観察し、リアルタイムに切り取ってレンダリングを行う。(5)上下にビューを移動する。
その他、ボリュームデータレンダリングの画像組として使われるデータの出所が多かった方が良く、効果ももっと精細であるので、コンパクトディスクの画像ソースデータ及びレンダリングに用いられる画像データ組の数が最終のレンダリング効果に影響する。従って、端末医学画像形成装置2は自動的にデータが最も多い画像ソースを解析し、さらなるレンダリングを行う。同様に、自動的に画像ソースを選択する時、端末医学画像形成装置2は優先的に層厚がより薄い画像ソースを選び、その優先的に選ぶ範囲は0.2〜0.7mmである。端末医学画像形成装置2はサーバ3を通して、ローカル医学画像形成装置1が編集して形成した伝達関数結果を得る。これでリアルタイム動態レンダリング(Dynamic Real Time Rendering)を実現する。
図4は、本発明が提供する画像処理システムの資源獲得の流れの図である。ローカル医学画像形成装置又は医学画像形成装置は、光ディスクドライブでCTディスクの中のDICOMファイルを読み取り、CTディスクのドライブレターにより、このCTディスクが読み込まれたかのこと及びその中のDICOMファイルが解析されたかのことを判断する。CTディスクが読み込まれ、その中のDICOMファイルが解析された場合、当該CTディスクに対し、資源の獲得を行わない。CTディスクが読み込まれなかった場合、すでに作成されたDICOM DIRをさらに無視し、画像情報形式を含まないDICOMファイルを読み取る。
他のより良い実施例では、現有の技術としてよく使われる「濾波の操作により、画像データのノイズを消し、画像の品質を向上する」と違い、ローカル医学画像形成装置1及び/又は端末医学画像形成装置2がボリューム描画の過程において、いずれも原始DICOMファイルを破壊せず、画像に対して濾波処理をしないことから、病巣の辺縁を明瞭且つ識別しやすくならせ、病巣の識別しやすいことを実現する。図18は、現有技術において原始DICOMファイルのデータに対して濾波予備処理を行った描画効果を表示し、データが破損した後、表示する病巣の細かいところが大幅に減少し、医者の判断に不利がある。図19は、本発明の画像処理システムが図18と同じ部位に対して形成した三次元効果図であり、本発明の画像処理システムが病巣の細かいところをより詳しく表現でき、病巣の辺縁も非常に明瞭である。
他のより良い実施例では、当該医学画像形成装置はユーザーごとにアカウントを作成するように構成されている。即ち、ユーザーはローカル医学画像形成装置1を利用し、人体内臓器官の描画効果に対し、深度を更新するデータ調整を行う時、専有のアカウントを通し、ローカル医学画像形成装置1にログインできる。これは、各ユーザーデータの安全・独立性が実現できる。
本発明が提供する医学画像形成システムは、そのボリューム描画レンダリングは特殊の伝達関数の編集効果を使い(例えば、違う器官が違う色を有する)、真実の器官画像を形成する。観察すべき器官と病巣は元の色であり、他の器官は青色を組織の色とする。三次元人体画像は人体の内臓器官及び人体の内臓器官の中の組織構造を含む。その他、違うユーザーは、サーバに記憶されている同じ画像ソースに対し、それぞれに編集することができる。
本発明が提供するHMDSに基づく医学画像形成システムは、DICOMファイルを使う基礎で、特殊の伝達関数アルゴリズムを使い、器官の辺縁を明瞭で合理にならせ、病巣境界線の区別が明瞭で高い識別度がある。そして、器官の色・透明度の違う対比は、三次元立体の構成の感覚を強くさせる。これはビッグデータ研究アルゴリズムの結果であるので、面で成形して効果を表せることではなく、辺縁を点で形になる効果を実現させる。従って、本システムによって表示した画像は、最も高い解像度で病巣を識別することができる。
さらに、ローカル医学画像形成装置又は端末医学画像形成装置は、全部のDICOM排列でなく、データが最も多いDICOM排列を自動的に選んで読み取ることによって、CTフィルムにおける患者情報(名前、性別、採集器官)及びCT画像の情報を取得する。当該画像の情報をローカルデータベースによって記憶された後、サーバに記憶される。このステップでは、CT画像の情報はすでに関連するTexture 2Dを生成した場合、記憶されない。
図5〜9は、本発明が提供する画像処理システムの端末医学画像形成装置ディスプレイの表示効果図である。
図10〜13は、本発明が提供する画像処理システムのHDMSの表示模式図である。 図14〜17は本発明が提供する画像処理システムのHMDSの特殊表示効果図である。特殊表示とは、興味ある器官又は組織に対して特殊の対比処理を行うことを言い、リバースレンダリングエディタにより器官又は組織の色及び/又は透明度を変更することで実現させる。
実施例三:二回目の三次元再構築
既に形成した三次元画像の中、本発明の画像処理システムは選定領域に対して検査と調整が行え、他の選定しない部位の描画効果を影響しない前提で、単独に器官のある具体的な部位又は病巣の詳しい内部画像が観察できる。そして、多部位が併存する状況で、色と透明度によって病巣の状況を判断し、周囲部位又は他の器官の影響を消すことができる。
即ち、本発明の画像処理システムはボリュームデータの中、いかなる領域の二回目の三次元再構築が実現する。クライアントはすでに作成した三次元画像のある領域を選び(例えば、点で選び、サークルで選び、又はフレームで選び)、この選定領域の三次元立体効果がより強くさせ、二回目の三次元再構築により、レンダリングを拡大できるが、歪みがない。
具体的に、本発明の画像処理システムはユーザーの指令により、初回の三次元画像から二回目の再構築領域のボリュームデータを抽出し、位置決めのマッチングと深さの表示等の伝達関数結果を表すことができる。その上、当該選定領域の倍数拡大・正しく位置決めが可能になり、内部の構造も明瞭に観察でき、正しく医療が実現できる。
図20(a)〜20(c)は、心臓三尖弁膜病巣の選択領域に対する二回目の三次元再構築の効果図である。
図21(a)〜21(c)は、大動脈瘤病巣の選択領域に対する二回目の三次元再構築の効果図である。
図22(a)〜22(c)は、腎臓腫瘍病巣の選択領域に対する二回目の三次元再構築の効果図である。
図23(a)〜23(b)は、肺及び気管支内面に対する拡大三次元の効果図である。
図24は、本発明が提供する画像処理システムによるMRI脳部の三次元画像である。
図25(a)〜25(c)は主脈血管病巣の三次元画像の効果図を表示する。
現有の技術に比べると、本発明が提供する画像処理システムと方法は以下の利点を備える。第一、人体画像形成の効果がより真実で立体且つ直観であり、医者は自動的に患者の器官と病巣を識別できる。第二、三次元人体画像のインタラクティブ式の展示を実現する。医者は三次元画像に対し、位置決めズームとビューの回転により、人体の内部に「入って」観察することができ、上下にビューを移動すること及び特定領域の色及び/又は透明度を変えることにより、具体的な器官と組織構造を目立たせる。第三、HMDS((head−mounted displays set))を通し、医学画像形成をもっと明瞭にならせ、二次元画像で見えない死角を観察でき、その上、インタラクティブと没入感を増やす。第四、サーバとローカルデータベースが共存し、データの記憶・共有・管理を行い、資源の配置を最適化する。第五、ユーザーごとにアカウントを作成して利用させることにより、各ユーザー間のデータの安全・独立性を保つ。
特別の説明がなければ、本文の中に出現した「第1の」「第2の」などの限定子は時間の順序や数量又は重要性に対する限定ではなく、本発明の一つの技術特徴ともう一つの技術特徴を区分することだけである。同様に、本文の中に出現した「一」のような限定子は数量を限定することではなく、前文の中に出現しなかった技術特徴を説明する。同様に、本文の中に、数量の前に出現した「約」や「近似」等の修飾語は通常に本来の数量を含み、そして、具体的な意味を理解したければ、文脈によって理解すべきである。同様に、特定の量詞に修飾された名詞以外、本文では、単数形と複数形の両者を含むものと見なす。即ち、当該発明では、単数の当該技術特徴を含んでもいいし、複数の当該技術特徴を含んでもいい。
本発明が述べたのは、本発明のより良い具体的な実施例である。以上の実施例は本発明の技術方案しか説明できず、本発明に対する制限ではない。本分野の技術人員は、本発明の構想に基づき、論理分析や推理又は制限ある試験によって得られる技術方案は、全部本発明の範囲の中に属すものとする。

Claims (12)

  1. ローカル医学画像形成装置と、サーバと、端末医学画像形成装置と、一つ又は複数のディスプレイとを備え、
    前記ローカル医学画像形成装置はローカルデータベースとリバースレンダリングエディタとを有し、前記ローカルデータベースは解析モジュールと記憶モジュールとを有し、前記解析モジュールは、第1のDICOMファイルを解析し、第1のボリュームテクスチャーデータを形成して前記記憶モジュールに記憶するために用いられ、前記リバースレンダリングエディタは、第1のボリュームテクスチャーデータを受け取り、伝達関数模型によって関連する伝達関数結果を生成するために用いられ、
    前記サーバは、前記ローカル医学画像形成装置に接続され、第1のボリュームテクスチャーデータ及び関連する伝達関数結果の記憶に用いられ、
    前記端末医学画像形成装置はユーザー入力インターフェイスとボリュームデータベースとを有し、前記ボリュームデータベースは、前記サーバに接続され、前記第1のボリュームテクスチャーデータ及び前記関連する伝達関数結果の取得に用いられ、前記ボリュームデータベースは、前記ユーザー入力インターフェイスから入力された第2のDICOMファイルを解析し、第2のボリュームテクスチャーデータを形成するとともに、マッチング度が予め設定された閾値以内にある第1のボリュームテクスチャーデータと前記伝達関数結果とをサーチし、第1の三次元画像を表示することに用いられ、
    前記マッチング度が前記予め設定された閾値より高い場合、前記端末医学画像形成装置が前記ボリュームデータベースによって前記第2のボリュームテクスチャーデータを前記ローカル医学画像形成装置に伝送し、前記リバースレンダリングエディタが前記伝達関数模型を編集し調整し、調整した後の伝達関数結果を前記サーバによって前記端末医学画像形成装置に伝送し、第2の三次元画像を表示し、
    前記一つ又は複数のディスプレイは、前記ローカル医学画像形成装置及び/又は前記端末医学画像形成装置に配置されている
    画像処理システム。
  2. 前記第1のDICOMファイルと前記第2のDICOMファイルとが同じであることを特徴とする請求項1に記載の画像処理システム。
  3. 前記ローカル医学画像形成装置及び前記端末医学画像形成装置それぞれにはヘッドマウンドディスプレイが配置されていることを特徴とする請求項1に記載の画像処理システム。
  4. 前記ヘッドマウンドディスプレイはVR設備であることを特徴とする請求項3に記載の画像処理システム。
  5. 請求項1に記載の画像処理システムが実行する画像処理方法であって、
    前記サーバから第1のボリュームテクスチャーデータ及び関連する伝達関数結果を取得し、前記ボリュームデータベースに記憶するステップ(1)と、
    第2のDICOMファイルを前記端末医学画像形成装置に提供するステップ(2)と、
    前記ボリュームデータベースから、第2のDICOMファイルとのマッチング度が予め設定された閾値以内にある前記第1のボリュームテクスチャーデータ、及び関連する伝達関数結果をサーチし、第2の三次元画像を表示するステップ(3)と
    を有する画像処理方法。
  6. 前記ステップ(3)は、前記ボリュームデータベースが前記第2のDICOMファイルを解析して第2のボリュームテクスチャーデータを形成するステップをさらに有することを特徴とする請求項5に記載の画像処理方法。
  7. 前記第2の三次元画像は、ヘッドマウンドディスプレイにより表示され、前記ヘッドマウンドディスプレイはVR設備を含むことを特徴とする請求項5に記載の画像処理方法。
  8. 前記第2の三次元画像は前記第1の三次元画像と同じであることを特徴とする請求項5に記載の画像処理方法。
  9. 前記ステップ(3)において、前記マッチングは、器官のパラメーター、フレーム、行、列、解像度及び/又は層厚からなる群から選ばれることを特徴とする請求項5に記載の画像処理方法。
  10. 前記ステップ(3)において、前記マッチング度が前記予め設定された閾値より高い場合、前記第2のボリュームテクスチャーデータが前記サーバによって前記ローカル医学画像形成装置に伝送され、前記リバースレンダリングエディタが伝達関数を編集し調整し、調整した後の伝達関数結果を前記サーバによって前記端末医学画像形成装置に伝送し、第2の三次元画像を表示することを特徴とする請求項5に記載の画像処理方法。
  11. 請求項1に記載の画像処理システムが実行する画像処理方法であって、
    前記サーバから第1のボリュームテクスチャーデータ及び関連する伝達関数結果を取得し、前記ボリュームデータベースに記憶するステップ(1)と、
    第2のDICOMファイルを前記端末医学画像形成装置に提供するステップ(2)と、
    前記ボリュームデータベースから、第2のDICOMファイルとのマッチング度が予め設定された閾値以内にある前記第1のボリュームテクスチャーデータ、及び関連する伝達関数結果をサーチし、第2の三次元画像を表示するステップ(3)と、
    第2の三次元画像について、領域選択命令を提供し、選択領域を形成し、前記ボリュームデータベースから、前記選択領域とのマッチング度が予め設定された閾値以内にある伝達関数結果をサーチし、選択領域の第3の三次元画像を表示するステップ(4)と
    を有する画像処理方法。
  12. 前記ステップ(4)において、前記マッチング度が予め設定された閾値より高い場合、前記選択領域のデータが前記サーバによって前記ローカル医学画像形成装置に伝送され、前記リバースレンダリングエディタが伝達関数を編集し調整し、調整した後の伝達関数結果を前記サーバによって前記端末医学画像形成装置に伝送し、第3の三次元画像を表示することを特徴とする請求項11に記載の画像処理方法。
JP2019528764A 2016-11-25 2017-11-23 Hmdsに基づく医学画像形成装置 Active JP6837551B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201611055308.1 2016-11-25
CN201611055308.1A CN107016228B (zh) 2016-11-25 2016-11-25 一种基于hmds的医学成像***
PCT/CN2017/112495 WO2018095346A1 (zh) 2016-11-25 2017-11-23 一种基于hmds的医学成像***

Publications (2)

Publication Number Publication Date
JP2020506452A JP2020506452A (ja) 2020-02-27
JP6837551B2 true JP6837551B2 (ja) 2021-03-03

Family

ID=59439117

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019528764A Active JP6837551B2 (ja) 2016-11-25 2017-11-23 Hmdsに基づく医学画像形成装置

Country Status (6)

Country Link
US (1) US10713856B2 (ja)
EP (1) EP3547178A4 (ja)
JP (1) JP6837551B2 (ja)
CN (1) CN107016228B (ja)
AU (1) AU2017366502B2 (ja)
WO (1) WO2018095346A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107016228B (zh) * 2016-11-25 2023-08-18 斯图尔特平李 一种基于hmds的医学成像***
WO2018094883A1 (zh) * 2016-11-26 2018-05-31 华为技术有限公司 生成三维模型的方法和终端设备
KR20210025085A (ko) * 2018-06-27 2021-03-08 콜로라도 스테이트 유니버시티 리써치 파운데이션 상호작용 다중사용자 가상현실 경험을 효율적으로 렌더링, 관리, 기록 및 재생하기 위한 방법 및 장치
CN109044356A (zh) * 2018-09-11 2018-12-21 即智数字科技(苏州)有限公司 一种共享式mri三维医疗影像平台
CN109215764B (zh) * 2018-09-21 2021-05-04 苏州瑞派宁科技有限公司 一种医学图像四维可视化的方法及装置
WO2020163539A1 (en) * 2019-02-05 2020-08-13 University Of Virginia Patent Foundation System and method for fully automatic lv segmentation of myocardial first-pass perfusion images
CN111613302B (zh) * 2019-02-22 2024-03-05 曹生 基于医学影像的肿瘤Ai处理方法及产品
US10884490B2 (en) * 2019-02-27 2021-01-05 Siemens Healthcare Gmbh Transfer function adaptation in virtual reality environments
CN111627529A (zh) * 2019-02-28 2020-09-04 未艾医疗技术(深圳)有限公司 Vrds 4d医学影像处理方法及产品
CN111144379B (zh) * 2020-01-02 2023-05-23 哈尔滨工业大学 基于图像技术的小鼠视动反应自动识别方法
CN111782879B (zh) * 2020-07-06 2023-04-18 Oppo(重庆)智能科技有限公司 模型训练方法及装置
CN113256791A (zh) * 2021-05-24 2021-08-13 南开大学 一种全息增强现实辅助的外科手术术中人机交互诊疗***
US11887245B2 (en) 2021-09-02 2024-01-30 Nvidia Corporation Techniques for rendering signed distance functions
CN115618033B (zh) * 2022-12-15 2023-03-14 山东科技大学 数据采集与处理方法、***、计算机设备以及存储介质
CN117059235A (zh) * 2023-08-17 2023-11-14 经智信息科技(山东)有限公司 一种ct图像的自动渲染方法及装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003220035A (ja) * 2002-01-29 2003-08-05 Hitachi Medical Corp 診断支援システム
DE10254908B4 (de) * 2002-11-25 2006-11-30 Siemens Ag Verfahren zum Herstellen eines Bildes
US7417636B2 (en) * 2003-05-08 2008-08-26 Siemens Medical Solutions Usa, Inc. Method and apparatus for automatic setting of rendering parameter for virtual endoscopy
US7532214B2 (en) * 2005-05-25 2009-05-12 Spectra Ab Automated medical image visualization using volume rendering with local histograms
WO2008065586A2 (en) * 2006-11-29 2008-06-05 Koninklijke Philips Electronics N.V. Improved manipulation of a transfer function for volume rending
US8355021B2 (en) * 2007-05-17 2013-01-15 Siemens Aktiengesellschaft Fused volume rendering
JP2010148828A (ja) * 2008-12-26 2010-07-08 Toshiba Corp 超音波診断装置及び超音波診断装置の制御プログラム
JP5677738B2 (ja) * 2009-12-24 2015-02-25 株式会社東芝 X線コンピュータ断層撮影装置
CN101976458A (zh) * 2010-10-15 2011-02-16 华中科技大学 应用于移动手持设备的医学图像三维可视化方法
CN102857791B (zh) * 2012-09-14 2015-07-08 武汉善观科技有限公司 用移动终端对pacs***中图像数据的处理及显示方法
CN102930109B (zh) * 2012-11-12 2015-07-01 沈阳东软医疗***有限公司 一种剂量模型匹配方法及***
US8976190B1 (en) * 2013-03-15 2015-03-10 Pme Ip Australia Pty Ltd Method and system for rule based display of sets of images
CN105307569B (zh) * 2013-06-05 2018-11-20 皇家飞利浦有限公司 用于显示目标的第一图像和第二图像的方法和设备
US10062200B2 (en) * 2015-04-03 2018-08-28 Dental Imaging Technologies Corporation System and method for displaying volumetric images
CN107016228B (zh) * 2016-11-25 2023-08-18 斯图尔特平李 一种基于hmds的医学成像***
CN106991712A (zh) * 2016-11-25 2017-07-28 斯图尔特平李 一种基于hmds的医学成像***

Also Published As

Publication number Publication date
AU2017366502B2 (en) 2021-05-20
EP3547178A4 (en) 2020-06-17
WO2018095346A1 (zh) 2018-05-31
CN107016228B (zh) 2023-08-18
US20190279416A1 (en) 2019-09-12
CN107016228A (zh) 2017-08-04
JP2020506452A (ja) 2020-02-27
EP3547178A1 (en) 2019-10-02
AU2017366502A1 (en) 2019-07-25
US10713856B2 (en) 2020-07-14

Similar Documents

Publication Publication Date Title
JP6837551B2 (ja) Hmdsに基づく医学画像形成装置
Stytz et al. Three-dimensional medical imaging: algorithms and computer systems
JP6080249B2 (ja) 3次元画像表示装置および方法並びにプログラム
CN106991712A (zh) 一种基于hmds的医学成像***
US20140324400A1 (en) Gesture-Based Visualization System for Biomedical Imaging and Scientific Datasets
JP2001502453A (ja) 最新式診断用ビューワ
DE102016102751A1 (de) Anatomisch spezifische filmgetriebene medizinische Bildbegutachtung
US20220346888A1 (en) Device and system for multidimensional data visualization and interaction in an augmented reality virtual reality or mixed reality environment
AU2019430369B2 (en) VRDS 4D medical image-based vein Ai endoscopic analysis method and product
EP3588438A1 (en) Method and system for generating colour medical images
CN113645896A (zh) 手术计划、手术导航和成像用***
Zhang Virtual reality technology
Xiang et al. Skeleton cuts—An efficient segmentation method for volume rendering
Abou El-Seoud et al. An interactive mixed reality ray tracing rendering mobile application of medical data in minimally invasive surgeries
CN102548480B (zh) 医用图像显示设备和方法
WO2021081771A1 (zh) 基于vrds ai医学影像的心脏冠脉的分析方法和相关装置
CN114391158A (zh) 用于在虚拟多用户协作中分析医学图像数据的方法、计算机程序、用户接口和***
US20230054394A1 (en) Device and system for multidimensional data visualization and interaction in an augmented reality virtual reality or mixed reality image guided surgery
US20220139054A1 (en) Method and product for processing of vrds 4d medical images
Kirmizibayrak et al. Interactive visualization and analysis of multimodal datasets for surgical applications
CN112950774A (zh) 一种三维建模装置、手术规划***及教学***
Zhang et al. Real-time interactive heart illustration platform via hardware accelerated rendering
Andersson et al. Digital 3D Facial Reconstruction Based on Computed Tomography
Paul et al. A Deep Learning approach to 3D Viewing of MRI/CT images in Augmented Reality
Jung Feature-Driven Volume Visualization of Medical Imaging Data

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190723

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200923

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201223

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210209

R150 Certificate of patent or registration of utility model

Ref document number: 6837551

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250