JP7375180B2 - 3次元トラッキングカメラをベースとする3次元超音波イメージング方法及びシステム - Google Patents

3次元トラッキングカメラをベースとする3次元超音波イメージング方法及びシステム Download PDF

Info

Publication number
JP7375180B2
JP7375180B2 JP2022519263A JP2022519263A JP7375180B2 JP 7375180 B2 JP7375180 B2 JP 7375180B2 JP 2022519263 A JP2022519263 A JP 2022519263A JP 2022519263 A JP2022519263 A JP 2022519263A JP 7375180 B2 JP7375180 B2 JP 7375180B2
Authority
JP
Japan
Prior art keywords
dimensional
spatial information
ultrasound
initial
tracking camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022519263A
Other languages
English (en)
Other versions
JP2022549698A (ja
Inventor
鄭永平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Telefield Medical Imaging Ltd
Original Assignee
Telefield Medical Imaging Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from CN201911125286.5A external-priority patent/CN112568935B/zh
Application filed by Telefield Medical Imaging Ltd filed Critical Telefield Medical Imaging Ltd
Publication of JP2022549698A publication Critical patent/JP2022549698A/ja
Application granted granted Critical
Publication of JP7375180B2 publication Critical patent/JP7375180B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/48Diagnostic techniques
    • A61B8/483Diagnostic techniques involving the acquisition of a 3D volume of data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • A61B8/14Echo-tomography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • A61B8/4254Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient using sensors mounted on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/42Details of probe positioning or probe attachment to the patient
    • A61B8/4245Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient
    • A61B8/4263Details of probe positioning or probe attachment to the patient involving determining the position of the probe, e.g. with respect to an external reference frame or to the patient using sensors not mounted on the probe, e.g. mounted on an external reference frame
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A61B8/5246Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode
    • A61B8/5253Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image combining images from the same or different imaging techniques, e.g. color Doppler and B-mode combining overlapping images, e.g. spatial compounding
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5269Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving detection or reduction of artifacts

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Radiology & Medical Imaging (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Description

本発明は、3次元超音波イメージングの分野に関し、より具体的には、3次元トラッキングカメラをベースとする3次元超音波イメージング方法及びシステムに関する。
フリーハンド(free-hand)3次元イメージングでは、人が手動で超音波プローブをターゲット上で自在に移動させることで走査し、3次元空間センシング技術により超音波プローブの位置及び方向情報をキャプチャする。現在、常用されている3次元空間センシング技術には、空間参照物又は信号と、対応する検出器が含まれる。例えば、電磁発信器により電磁波を基準信号として発射し、検出器が電磁波の電界強度の変化からプローブの位置及び方向の変化を判断する。また、例えば、プローブ表面に配置した1又は複数の視覚マーカーを基準物として使用し、超音波プローブを包囲する1又は複数のカメラによってプローブの位置及び方向を検出する。
上述した3次元空間センシング技術には、それぞれのメリット及び限界が存在する。電磁センシング技術の場合には、周囲の金属物から干渉を受ける。また、カメラをベースとするセンシングシステムの場合には、一般的に体積が非常に大きく、費用が高騰する。現在のところ、どのような場合であっても特定の基準物が存在しない状況で使用可能なフリーハンド3次元超音波イメージングシステムは存在しない。
本発明が解決しようとする技術的課題は、従来技術における上記の欠陥に対し、耐干渉能力に優れ、低コストであり、体積が小さく、且つ、特定の基準物を一切必要としないどのような環境においても使用可能な、3次元トラッキングカメラをベースとする3次元超音波イメージング方法及びシステムを提供することである。
本発明が技術的課題を解決するために用いる技術方案は以下の通りである。
3次元トラッキングカメラをベースとする3次元超音波イメージングシステムを構成する。当該システムは、ターゲットの関心領域を超音波走査する超音波プローブと、前記超音波走査に基づき、前記ターゲットの関心領域の2次元超音波画像を生成する2次元超音波イメージング装置と、前記超音波プローブに接続されて、前記超音波プローブの3次元空間情報を取得する3次元空間情報取得装置と、前記超音波プローブの3次元空間情報及び前記2次元超音波画像に基づいて3次元超音波画像を再現する3次元再現モジュール、を含む。
本発明の3次元トラッキングカメラをベースとする3次元超音波イメージングシステムにおいて、前記3次元空間情報取得装置は、3次元トラッキングカメラ及び処理モジュールを含む。前記3次元トラッキングカメラは、環境画像を取得するとともに、前記環境画像に基づいて初期3次元空間情報を生成するために用いられる。前記処理モジュールは、前記初期3次元空間情報を前記超音波プローブの3次元空間情報に変換するために用いられる。
本発明の3次元トラッキングカメラをベースとする3次元超音波イメージングシステムにおいて、前記3次元空間情報取得装置は、複数の前記3次元トラッキングカメラを含む。複数の前記3次元トラッキングカメラは、前記超音波プローブの異なる部位に装着されて、複数組の初期3次元空間情報を取得する。前記処理モジュールは、取得した複数組の初期3次元空間情報に基づいて、前記超音波プローブの3次元空間情報を生成する。
本発明の3次元トラッキングカメラをベースとする3次元超音波イメージングシステムにおいて、前記3次元空間情報取得装置は、更に、測定した前記初期3次元空間情報の変化と、前記2次元超音波画像の内容の変化に基づいて、3次元空間における前記初期3次元空間情報及び前記2次元超音波画像の位置を修正するための修正モジュールを含む。
本発明の3次元トラッキングカメラをベースとする3次元超音波イメージングシステムにおいて、前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも大きく、且つ前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも小さい場合、前記修正モジュールは前記初期3次元空間情報を修正する。
本発明の3次元トラッキングカメラをベースとする3次元超音波イメージングシステムにおいて、前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも小さく、且つ、前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも大きい場合、前記修正モジュールは、前記3次元空間における前記2次元超音波画像の位置を修正する。
本発明の3次元トラッキングカメラをベースとする3次元超音波イメージングシステムにおいて、更に、前記3次元空間情報取得装置及び前記超音波プローブを接続する装着モジュールを含む。前記装着モジュールは、操作者が把持するグリップを含む。
本発明の3次元トラッキングカメラをベースとする3次元超音波イメージングシステムにおいて、更に、前記2次元超音波イメージング装置が取得した2次元超音波画像及び前記3次元空間情報取得装置が取得した3次元空間情報を統合し、有線又は無線モードで3次元再現モジュールに伝送するデータ統合及び通信装置を含む。
本発明の他の局面では、更に、3次元トラッキングカメラをベースとする3次元超音波イメージング方法を提供する。当該方法は、以下を含む。
S1:超音波プローブを使用して、ターゲットの関心領域を超音波走査する。
S2:前記超音波走査に基づき、前記ターゲットの関心領域の2次元超音波画像を生成する。
S3:3次元空間情報取得装置によって、前記超音波プローブの3次元空間情報を取得する。
S4:前記超音波プローブの3次元空間情報及び前記2次元超音波画像に基づいて3次元超音波画像を再現する。
本発明で提供する3次元トラッキングカメラをベースとする3次元超音波イメージング方法において、ステップS3は以下を含む。
S31:前記3次元空間情報取得装置の3次元トラッキングカメラによって環境画像を取得する。
S32:前記環境画像に基づいて初期3次元空間情報を生成する。
S33:前記初期3次元空間情報を変換して、前記プローブの3次元空間情報を生成する。
本発明で提供する3次元トラッキングカメラをベースとする3次元超音波イメージング方法において、ステップS31では、前記超音波プローブの異なる部位に装着された複数の前記3次元トラッキングカメラを使用して複数の環境画像を取得する。ステップS32では、複数の環境画像に基づいて複数組の初期3次元空間情報を生成する。ステップS33では、複数組の初期3次元空間情報を変換して、前記超音波プローブの3次元空間情報を取得する。
本発明で提供する3次元トラッキングカメラをベースとする3次元超音波イメージング方法において、ステップS32とS33の間に更に以下を含む。
測定した前記初期3次元空間情報の変化と、前記2次元超音波画像の内容の変化に基づいて、3次元空間における前記初期3次元空間情報及び前記2次元超音波画像の位置を修正する。
本発明で提供する3次元トラッキングカメラをベースとする3次元超音波イメージング方法において、前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも大きく、且つ前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも小さい場合、前記修正モジュールは前記初期3次元空間情報を修正する。
本発明で提供する3次元トラッキングカメラをベースとする3次元超音波イメージング方法において、前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも小さく、且つ、前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも大きい場合、前記修正モジュールは、前記3次元空間における前記2次元超音波画像の位置を修正する。
本発明における3次元トラッキングカメラをベースとする3次元超音波イメージングシステム及び方法を実施すれば、3次元トラッキングカメラにより超音波プローブの3次元空間情報を取得することで、柔軟且つ低コスト、及び小体積な方式で3次元超音波画像を再現可能である。また、効果的に干渉を回避可能であり、且つ、特定の基準物を一切必要としない。更には、測定した3次元空間情報の変化と、超音波プローブが収集したターゲットに関連する画像情報の変化を比較することで、それぞれの突然の変化に伴う誤差を修正可能である。また、更には、複数のトラッキングカメラを設置する方式で、3次元超音波画像の品質を一段と向上させる。
以下に、図面と実施例を組み合わせて本発明につき更に説明する。
図1は、本発明における3次元トラッキングカメラをベースとする3次元超音波イメージングシステムの第1の好ましい実施例の概略原理図である。 図2は、本発明における3次元トラッキングカメラをベースとする3次元超音波イメージングシステムの第1の好ましい実施例の概略システム図である。 図3は、本発明における3次元光学トラッキングカメラをベースとする3次元超音波イメージングシステムで脊柱を走査する際の概略図である。 図4は、本発明における3次元トラッキングカメラをベースとする3次元超音波イメージング方法の第1の好ましい実施例のフローチャートである。
本発明の目的、技術方案及び利点がより明瞭に理解されるよう、以下に、図面と実施例を組み合わせて、本発明につき更に詳細に説明する。理解すべき点として、ここで記載する具体的実施例は本発明を説明するためのものにすぎず、本発明を限定するものではない。
通常、従来の3次元空間ロケータは、正確な3次元空間情報を取得するための特別な基準物を必要とする。これに対し、トラッキングカメラは、例えば、センサ及びインテルのRealsense T265のように、ステレオカメラを組み合わせて周辺環境の3次元画像を検出することで、3次元空間における自身の位置及び角度を測位する。また、トラッキングカメラは、光学追跡のほか、内蔵のモーションセンサ(加速度計、角加速度計、磁力計等)を利用して、3次元空間情報を更に修正することも可能である。これにより、トラッキングカメラは、特別な基準物が存在しない場合でも、自身の正確な3次元空間情報を取得可能である。
本発明の発明思想では、超音波プローブと3次元トラッキングカメラを組み合わせ、3次元トラッキングカメラから提供された超音波プローブの3次元空間情報と、2次元超音波イメージング装置から提供された2次元超音波画像情報を用いて3次元画像を再現する。本発明の更なる思想では、測定した3次元空間情報の変化と、超音波プローブが収集したターゲットに関連する画像情報の変化を比較することで、それぞれの突然の変化に伴う誤差を修正可能である。また、更には、複数のトラッキングカメラを設置する方式で、3次元超音波画像の品質を一段と向上させる。
図1は、本発明における3次元トラッキングカメラをベースとする3次元超音波イメージングシステムの第1の好ましい実施例の概略原理図である。また、図2は、本発明における3次元トラッキングカメラをベースとする3次元超音波イメージングシステムの第1の好ましい実施例の概略システム図である。図1及び図2に示すように、本発明における3次元トラッキングカメラをベースとする3次元超音波イメージングシステムは、超音波プローブ10、2次元超音波イメージング装置15、3次元空間情報取得装置12及び3次元再現モジュール16を含む。具体的に、2次元超音波イメージング装置15は、超音波プローブ10に内蔵するか、外付けにして超音波プローブ10と有線又は無線接続し、超音波プローブ10の走査に基づいて、ターゲットの関心領域の2次元超音波画像を生成する。また、3次元空間情報取得装置12は、前記超音波プローブ10と通信接続し、超音波プローブの3次元空間情報を取得する。3次元再現モジュール16は、2次元超音波イメージング装置15及び3次元空間情報取得装置12と通信接続し、前記超音波プローブの3次元空間情報及び前記2次元超音波画像に基づいて3次元超音波画像を再現する。
具体的に、本発明の一実施例において、前記2次元超音波イメージング装置15は、前記超音波走査に基づいて前記ターゲットの関心領域の2次元超音波画像を生成するために、前記超音波プローブ10と通信接続するか、超音波プローブに内蔵される。更に、前記関心領域は、前記ターゲットの少なくとも一部としてもよいし、全体としてもよい。当業者であれば理解し得るように、当該分野における既知のいずれかの超音波プローブ、2次元超音波イメージング装置を用いて本発明の超音波プローブ10、2次元超音波イメージング装置15を構成可能であるが、本発明はこれに限定しない。
具体的に、本発明の一実施例において、3次元空間情報取得装置12は、3次元トラッキングカメラ13、及び3次元トラッキングカメラに組み合わされる処理モジュール17を含み、3次元トラッキングカメラにより環境画像を取得するとともに、前記環境画像に基づいて初期3次元空間情報を生成する。初期3次元情報とは、3次元トラッキングカメラ自体の3次元空間情報である。当業者が知り得るように、環境画像に基づいて3次元トラッキングカメラ自体の3次元空間情報を生成することは、3次元トラッキングカメラが有する機能のため、ここではこれ以上詳述しない。3次元トラッキングカメラの3次元空間情報を取得したあと、処理モジュールによって初期3次元空間情報を空間変換することで、超音波プローブの3次元空間情報を実際に反映し、変換した前記超音波プローブの3次元空間情報を、有線又は無線形式で3次元再現モジュールに伝送する。当業者であれば知り得るように、3次元トラッキングカメラの3次元空間情報は、当該分野において既知の空間変換方法で超音波プローブの3次元空間情報に変換するが、本発明ではこれ以上詳述しない。トラッキングカメラと処理モジュールを組み合わせることで、本発明の3次元超音波イメージングシステムを更に小さくし、使用しやすくすることができる。更に、処理モジュールは、3次元トラッキングカメラの初期3次元空間情報を取得したあと、更に、平滑化処理及び/又はノイズリダクション処理を含む前処理を行う。当業者が周知するように、インテルのRealsense T265トラッキングカメラ、及び今後発展する類似のデバイスを含む(ただし、これらに限らない)当該分野におけるいずれかのトラッキングカメラを使用可能である。
更に、本発明のその他の実施例において、3次元空間情報取得装置12は、複数の3次元トラッキングカメラを含み得る。複数の3次元トラッキングカメラを超音波プローブ10又は装着モジュール11の異なる場所に装着するか、異なる方向に向けることで、複数組の初期3次元空間情報を取得可能となる。処理モジュールが複数組の初期3次元空間情報に基づいて超音波プローブの3次元空間情報を生成することで、生成される超音波プローブの3次元空間情報の精度が向上する。当業者であれば理解し得るように、複数組の初期3次元空間情報は、最も簡単な平均化アルゴリズム又はその他の既知の方法を含む複数の方法で処理可能であり、本発明は上記に限らない。
具体的に、本発明の一実施例において、3次元再現モジュール16は、データ統合及び通信装置(図示しない)を介して、2次元超音波イメージング装置15及び3次元空間情報取得装置12と通信接続する。データ統合及び通信装置は、前記2次元超音波イメージング装置が取得した2次元超音波画像及び前記3次元空間情報取得装置が取得した3次元空間情報を統合し、有線又は無線モードで3次元再現モジュールに伝送する。3次元再現モジュールは、前記超音波プローブの3次元空間情報及び前記2次元超音波画像に基づいて3次元超音波画像を再現する。当業者が周知するように、当該分野において既知のいずれかの再現方法を使用して3次元超音波画像の再現を実現可能であるが、ここではこれ以上詳述しない。
具体的に、本発明の一実施例において、3次元超音波イメージングシステムは、更に、前記3次元空間情報取得装置及び前記超音波プローブを接続する装着モジュール11を含む。前記装着モジュール11は、操作者が把持するグリップ14を含む。前記超音波プローブ10は、装着モジュール11を介してトラッキングカメラに接続され、共に3次元空間内で移動する。トラッキングカメラは、ステレオカメラにより周辺の画像を観測して絶えず比較し、その他のセンサの情報を組み合わせることで、自身の初期3次元空間情報を取得する。そして、これを処理モジュールで処理することで、超音波プローブの3次元空間情報を把握可能となる。図3では、前記超音波プローブが脊柱21を3次元走査している。操作者の手22は、装着モジュールに接続されたグリップを把持して超音波プローブを移動させる。
更に、本発明の一実施例において、3次元空間情報取得装置は、測定した前記初期3次元空間情報の変化と、前記2次元超音波画像の内容の変化に基づいて、3次元空間における前記初期3次元空間情報及び前記2次元超音波画像の位置を修正するための修正モジュール(図示しない)を更に含む。
更に、初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも大きく、且つ前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも小さい場合に、初期3次元空間情報を修正する。修正モジュールは、隣り合う2回又は特定の時間に取得した初期3次元空間情報の変化と2次元超音波画像の内容の変化を比較する。経験的に、実際の応用において、超音波プローブの移動が突然大きく変化することはないため、得られる2次元超音波画像も突然変化することはない。そこで、2次元超音波イメージング装置で取得した2次元超音波画像の内容の変化が非常に小さいにも関わらず、3次元トラッキングカメラで測定した初期3次元空間情報の変化が大変大きい場合には、測定した3次元トラッキングカメラの3次元空間情報に誤差が存在することを意味するため、測定した初期3次元空間情報を修正する必要がある。また、正常な状況で、超音波プローブがターゲット内の関心領域を走査している際に突然移動した場合には、2次元超音波画像の内容も突然変化する。そのため、測定した3次元空間情報が大きく変化しているにも関わらず、2次元超音波画像が大きく変化していない場合には(実際の経験として、通常、走査されるターゲットは動かないか、動きが大変少なく且つゆっくりである)、測定した3次元空間情報に誤りが存在することが分かるため、修正が必要である。具体的な修正方法は、以下の数種類を含む。
1)測定した2つ又はそれ以上の正確であると判断された3次元空間情報を用いて、修正を要すると判断された3次元空間情報の値について外挿を行えばよい。
2)更に、次の1つ又は複数の正確な3次元空間情報の値を取得したあと、前の1つ又は複数の正確な3次元空間情報の値について内挿を行ってもよい。
3)走査の完了後に、正確であると判断された全ての3次元空間情報の値を用いて3次元カーブフィッティングを行うことで、修正を要すると判断された3次元空間情報の値を取得してもよい。
当業者は、更に、その他の当該分野において既知のいずれかの修正方法によって3次元空間情報の修正を実現してもよい。
更に、前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも小さく、且つ、前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも大きい場合、前記修正モジュールは、前記3次元空間における前記2次元超音波画像の位置を修正する。経験的に、走査される対象に移動が生じた場合には、2次元超音波画像の内容も大きく変化する。そのため、測定した初期3次元空間情報の変化が非常に小さいにも関わらず、前記2次元超音波画像の内容の変化が大変大きい場合には、前記ターゲットの関心領域が超音波走査の過程で移動したことを意味する。よって、前記初期3次元空間情報に基づいて、3次元空間における前記2次元超音波画像の位置を修正する。具体的な修正方法は、以下の数種類を含む。
1)測定した2つ又はそれ以上の正確であると判断された3次元空間情報を用いて、修正を要すると判断された3次元空間情報の値について外挿を行えばよい。
2)更に、次の1つ又は複数の正確な3次元空間情報の値を取得したあと、前の1つ又は複数の正確な3次元空間情報の値について内挿を行ってもよい。
3)走査の完了後に、正確であると判断された全ての3次元空間情報の値を用いて3次元カーブフィッティングを行うことで、修正を要すると判断された3次元空間情報の値を取得してもよい。
当業者は、更に、その他の当該分野において既知のいずれかの修正方法によって3次元空間情報の修正を実現してもよい。
本発明における3次元トラッキングカメラをベースとする3次元超音波イメージングシステムを実施すれば、3次元トラッキングカメラにより3次元空間情報を取得することで、柔軟且つ低コスト、及び小体積な方式で3次元超音波画像を再現可能である。また、効果的に干渉を回避可能であり、且つ、走査過程で特定の基準物を必要としない。
図4は、本発明における3次元光学トラッキングカメラをベースとする3次元超音波イメージング方法の第1の好ましい実施例のフローチャートである。図4に示すように、3次元光学トラッキングカメラをベースとする3次元超音波イメージング方法は、以下のステップを含む。
S1:超音波プローブを使用して、ターゲットの関心領域を超音波走査する。
具体的に、本発明の一実施例において、前記関心領域は、前記ターゲットの少なくとも一部としてもよいし、全体としてもよい。当業者が周知するように、前記超音波プローブには、異なる周波数、幅及び形状を使用可能である。
S2:前記超音波走査に基づき、前記ターゲットの関心領域の2次元超音波画像を生成する。
具体的に、本発明の一実施例において、前記超音波プローブ10と通信接続するか、超音波プローブに内蔵される2次元超音波イメージング装置15は、前記超音波走査に基づいて前記ターゲットの関心領域の2次元超音波画像を生成する。
S3:3次元空間情報取得装置によって、前記超音波プローブの3次元空間情報を取得する。
具体的に、本発明の一実施例では、前記3次元空間情報取得装置によってそれ自体の3次元空間情報を取得するとともに、当該3次元空間情報取得装置と共に移動する超音波プローブの3次元空間情報を取得する。そのため、ステップS3は以下を含む。
S31:前記3次元空間情報取得装置の3次元トラッキングカメラによって環境画像を取得する。
S32:前記環境画像に基づいて初期3次元空間情報を生成する。
S33:前記初期3次元空間情報を変換して、前記プローブの3次元空間情報を生成する。
具体的に、本発明の一実施例において、初期3次元情報とは、3次元トラッキングカメラ自体の3次元空間情報である。当業者が知り得るように、環境画像に基づいて3次元トラッキングカメラ自体の3次元空間情報を生成することは、3次元トラッキングカメラが有する機能のため、ここではこれ以上詳述しない。3次元トラッキングカメラの3次元空間情報を取得したあと、初期3次元空間情報を空間変換することで、超音波プローブの3次元空間情報を実際に反映し、変換した前記超音波プローブの3次元空間情報を、有線又は無線形式で3次元再現モジュールに伝送する。当業者であれば知り得るように、3次元トラッキングカメラの3次元空間情報は、当該分野において既知の空間変換方法で超音波プローブの3次元空間情報に変換するが、本発明ではこれ以上詳述しない。
更に、3次元トラッキングカメラの初期3次元空間情報を取得したあと、更に、平滑化処理及び/又はノイズリダクション処理を含む前処理を行う。
更に、本発明のその他の実施例において、3次元空間情報取得装置12は、複数の3次元トラッキングカメラを含み得る。複数の3次元トラッキングカメラを超音波プローブ10又は装着モジュール11の異なる場所に装着するか、異なる方向に向けることで、複数組の初期3次元空間情報を取得可能となる。よって、本発明のその他の実施例において、ステップS31では、前記超音波プローブの異なる部位に装着された複数の前記3次元トラッキングカメラを使用して複数の環境画像を取得する。ステップS32では、複数の環境画像に基づいて複数組の初期3次元空間情報を生成する。ステップS33では、複数組の初期3次元空間情報を変換して、前記超音波プローブの3次元空間情報を取得する。複数組の初期3次元空間情報に基づいて超音波プローブの3次元空間情報を生成することで、生成される超音波プローブの3次元空間情報の精度が向上する。当業者であれば理解し得るように、複数組の初期3次元空間情報は、最も簡単な平均化アルゴリズム又はその他の既知の方法を含む複数の方法で処理可能であり、本発明は上記に限らない。
更に、本発明の別の実施例では、ステップS32とS33の間に更に以下を含む。
測定した前記初期3次元空間情報の変化と、前記2次元超音波画像の内容の変化に基づいて、3次元空間における前記初期3次元空間情報及び前記2次元超音波画像の位置を修正する。
具体的に、前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも大きく、且つ前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも小さい場合に、前記初期3次元空間情報を修正する。修正モジュールは、隣り合う2回又は特定の時間に取得した初期3次元空間情報の変化と2次元超音波画像の内容の変化を比較する。経験的に、実際の応用において、超音波プローブの移動が突然大きく変化することはないため、得られる2次元超音波画像も突然変化することはない。そこで、2次元超音波イメージング装置で取得した2次元超音波画像の内容の変化が非常に小さいにも関わらず、3次元トラッキングカメラで測定した初期3次元空間情報の変化が大変大きい場合には、測定した3次元トラッキングカメラの3次元空間情報に誤差が存在することを意味するため、測定した初期3次元空間情報を修正する必要がある。また、正常な状況で、超音波プローブがターゲット内の関心領域を走査している際に突然移動した場合には、2次元超音波画像の内容も突然変化する。そのため、測定した3次元空間情報が大きく変化しているにも関わらず、2次元超音波画像が大きく変化していない場合には(実際の経験として、通常、走査されるターゲットは動かないか、動きが大変少なく且つゆっくりである)、測定した3次元空間情報に誤りが存在することが分かるため、修正が必要である。当業者が周知するように、当該分野において既知のいずれかの修正方法によって3次元空間情報の修正を実現可能である。最も簡単な方法は、そのタイミングの3次元空間情報をその他のタイミングのデータから推定することであるが、ここではこれ以上詳述しない。
更に、前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも小さく、且つ、前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも大きい場合、前記修正モジュールは、前記3次元空間における前記2次元超音波画像の位置を修正する。経験的に、走査される対象に移動が生じた場合には、2次元超音波画像の内容も大きく変化する。そのため、測定した初期3次元空間情報の変化が非常に小さいにも関わらず、前記2次元超音波画像の内容の変化が大変大きい場合には、前記ターゲットの関心領域が超音波走査の過程で移動したことを意味する。よって、前記初期3次元空間情報に基づいて、3次元空間における前記2次元超音波画像の位置を修正する。
S4:前記超音波プローブの3次元空間情報及び前記2次元超音波画像に基づいて3次元超音波画像を再現する。
具体的に、本発明の一実施例では、当該分野において既知のいずれかの再現方法を使用して3次元超音波画像の再現を実現可能であるが、ここではこれ以上詳述しない。
本発明における3次元トラッキングカメラをベースとする3次元超音波イメージング方法を実施すれば、3次元光学トラッキングカメラにより3次元空間情報を取得することで、柔軟且つ低コスト、及び小体積な方式で3次元超音波画像を再現可能である。また、効果的に干渉を回避可能であり、且つ、特定の基準物を必要としない。
当業者が更に周知するように、本発明における3次元トラッキングカメラをベースとする3次元超音波イメージングシステム及び方法は、互いに裏付け及び説明することが可能である。また、各々で記載した機能及びステップは互いに組み合わせ、結合及び置換することが可能である。
更に、上記では、何らかの重要機能の機能モジュールについて説明することで、本発明につき記載した。また、記載の便宜上、ここでは、これら機能構成モジュールの境界を特別に定義した。この境界は、これらの重要機能が適切に実現されていれば変更が可能である。同様に、ここでは、フローチャートのモジュールについても特別に定義することで、何らかの重要機能につき説明した。しかし、幅広く応用するために、フローチャートのモジュールの境界及び順序は別途定義してもよく、これらの重要機能を実現可能であればよい。上記の機能モジュール、フローチャートの機能モジュールについての境界及び順序の変化もまた、請求項の保護の範囲内と見なすべきである。
本発明は、更に、コンピュータプログラム製品によって実施してもよい。プログラムは、本発明の方法を実現可能な全ての特徴を含み、当該プログラムをコンピュータシステムにインストールした場合に、本発明の方法を実現可能である。本文書におけるコンピュータプログラムとは、いずれかのプログラミング言語、コード又は符号で記載可能な命令群のいずれかの式を指す。当該命令群は、システムに情報処理能力を持たせることで、特定の機能を直接実現するか、a)その他の言語、コード又は符号に変換するステップ、b)異なるフォーマットで再現するステップのうちの1つ又は2つを実行することで特定の機能を実現する。
具体的実施例によって本発明を説明したが、当業者であれば理解し得るように、本発明の範囲を逸脱しなければ、本発明につき各種の変換及び同等の置換を実施してもよい。このほか、特定の状況又は材料に応じて、本発明の範囲を逸脱することなく、本発明につき各種の修正を行ってもよい。よって、本発明は開示した具体的実施例に限らず、本発明の請求項の範囲に属する全ての実施形態を含むものとする。
以上の記載は本発明の好ましい実施例にすぎず、本発明を制限するものではない。本発明の精神及び原則内で実施される何らかの修正、同等の置換及び改良等は、いずれも本発明の保護の範囲に含まれるものとする。

Claims (11)

  1. 3次元トラッキングカメラをベースとする3次元超音波イメージングシステムであって、
    ターゲットの関心領域を超音波走査する超音波プローブと、
    前記超音波走査に基づき、前記ターゲットの関心領域の2次元超音波画像を生成する2次元超音波イメージング装置と、
    前記超音波プローブに接続されて、前記超音波プローブの3次元空間情報を取得する3次元空間情報取得装置と、
    前記超音波プローブの3次元空間情報及び前記2次元超音波画像に基づいて3次元超音波画像を再現する3次元再現モジュールと、を含むシステムであって、
    前記3次元空間情報取得装置は、3次元トラッキングカメラ及び処理モジュールを含み、前記3次元トラッキングカメラは、環境画像を取得するとともに、前記環境画像に基づいて初期3次元空間情報を生成するために用いられ、前記処理モジュールは、前記初期3次元空間情報を前記超音波プローブの3次元空間情報に変換するために用いられる3次元トラッキングカメラをベースとする3次元超音波イメージングシステムであり、
    前記3次元空間情報取得装置は、更に、測定した前記初期3次元空間情報の変化と、前記2次元超音波画像の内容の変化とに基づいて、3次元空間における前記初期3次元空間情報及び前記2次元超音波画像の位置を修正するための修正モジュールを含む3次元トラッキングカメラをベースとする3次元超音波イメージングシステムであって、
    前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも大きく、且つ前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも小さい場合、前記修正モジュールは前記初期3次元空間情報を修正することを特徴とする3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  2. 前記3次元空間情報取得装置は、複数の前記3次元トラッキングカメラを含み、複数の前記3次元トラッキングカメラは、前記超音波プローブの異なる部位に装着されて、複数組の初期3次元空間情報を取得し、前記処理モジュールは、取得した複数組の前記初期3次元空間情報に基づいて、前記超音波プローブの3次元空間情報を生成することを特徴とする請求項に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  3. 前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも小さく、且つ、前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも大きい場合、前記修正モジュールは、前記3次元空間における前記2次元超音波画像の位置を修正することを特徴とする請求項に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  4. 更に、前記3次元空間情報取得装置及び前記超音波プローブを接続する装着モジュールを含み、前記装着モジュールは、操作者が把持するグリップを含むことを特徴とする請求項1に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  5. 更に、前記2次元超音波イメージング装置が取得した前記2次元超音波画像及び前記3次元空間情報取得装置が取得した前記3次元空間情報を統合し、有線又は無線モードで3次元再現モジュールに伝送するデータ統合及び通信装置を含むことを特徴とする請求項1に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  6. 3次元トラッキングカメラをベースとする3次元超音波イメージングシステムであって、
    S1:超音波プローブを使用して、ターゲットの関心領域を超音波走査し、
    S2:前記超音波走査に基づき、前記ターゲットの関心領域の2次元超音波画像を生成し、
    S3:3次元空間情報取得装置によって、前記超音波プローブの3次元空間情報を取得し、
    S4:前記超音波プローブの3次元空間情報及び前記2次元超音波画像に基づいて3次元超音波画像を再現する方法を用いることを特徴とする請求項1に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  7. ステップS3では、
    S31:前記3次元空間情報取得装置の3次元トラッキングカメラによって環境画像を取得し、
    S32:前記環境画像に基づいて初期3次元空間情報を生成し、
    S33:前記初期3次元空間情報を変換して、前記プローブの3次元空間情報を生成する方法を用いることを特徴とする請求項6に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  8. ステップS31では、前記超音波プローブの異なる部位に装着された複数の前記3次元トラッキングカメラを使用して複数の環境画像を取得し、ステップS32では、複数の環境画像に基づいて複数組の初期3次元空間情報を生成し、ステップS33では、複数組の初期3次元空間情報を変換して、前記超音波プローブの3次元空間情報を取得する方法を用いることを特徴とする請求項7に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  9. ステップS32とS33の間において、更に、
    測定した前記初期3次元空間情報の変化と、前記2次元超音波画像の内容の変化に基づいて、3次元空間における前記初期3次元空間情報及び前記2次元超音波画像の位置を修正する方法を用いることを特徴とする請求項7に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  10. 前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも大きく、且つ前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも小さい場合、前記修正モジュールは前記初期3次元空間情報を修正する方法を用いることを特徴とする請求項9に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
  11. 前記初期3次元空間情報の変化が3次元空間情報の変化の閾値よりも小さく、且つ、前記2次元超音波画像の内容の変化が2次元超音波画像の内容の変化の閾値よりも大きい場合、前記修正モジュールは、前記3次元空間における前記2次元超音波画像の位置を修正する方法を用いることを特徴とする請求項9に記載の3次元トラッキングカメラをベースとする3次元超音波イメージングシステム。
JP2022519263A 2019-09-29 2020-09-28 3次元トラッキングカメラをベースとする3次元超音波イメージング方法及びシステム Active JP7375180B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
CN201910933434 2019-09-29
CN201910933434.X 2019-09-29
CN201911125286.5 2019-11-18
CN201911125286.5A CN112568935B (zh) 2019-09-29 2019-11-18 基于三维追踪相机的三维超声成像方法和***
PCT/CN2020/118249 WO2021057993A1 (zh) 2019-09-29 2020-09-28 基于三维追踪相机的三维超声成像方法和***

Publications (2)

Publication Number Publication Date
JP2022549698A JP2022549698A (ja) 2022-11-28
JP7375180B2 true JP7375180B2 (ja) 2023-11-07

Family

ID=75116998

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022519263A Active JP7375180B2 (ja) 2019-09-29 2020-09-28 3次元トラッキングカメラをベースとする3次元超音波イメージング方法及びシステム

Country Status (6)

Country Link
US (1) US20220240897A1 (ja)
EP (1) EP4035603A4 (ja)
JP (1) JP7375180B2 (ja)
AU (1) AU2020355865A1 (ja)
CA (1) CA3152758A1 (ja)
WO (1) WO2021057993A1 (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008275391A (ja) 2007-04-26 2008-11-13 Canon Inc 位置姿勢計測装置及び位置姿勢計測方法
CN101569541A (zh) 2008-04-29 2009-11-04 香港理工大学 三维超声波成像***

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006127142A2 (en) * 2005-03-30 2006-11-30 Worcester Polytechnic Institute Free-hand three-dimensional ultrasound diagnostic imaging with position and angle determination sensors
US9451928B2 (en) * 2006-09-13 2016-09-27 Elekta Ltd. Incorporating internal anatomy in clinical radiotherapy setups
US10542962B2 (en) * 2009-07-10 2020-01-28 Elekta, LTD Adaptive radiotherapy treatment using ultrasound
US20120277588A1 (en) * 2011-04-26 2012-11-01 General Electric Company Systems and methods for fusing sensor and image data for three-dimensional volume reconstruction
JP2013164643A (ja) * 2012-02-09 2013-08-22 Honda Elesys Co Ltd 画像認識装置、画像認識方法および画像認識プログラム
EP3001219B1 (en) * 2013-08-20 2019-10-02 CureFab Technologies GmbH Optical tracking
US20150327841A1 (en) * 2014-05-13 2015-11-19 Kabushiki Kaisha Toshiba Tracking in ultrasound for imaging and user interface
EP3554383B1 (en) * 2016-12-16 2020-04-22 Koninklijke Philips N.V. System for providing images for guiding surgery
KR102409090B1 (ko) * 2017-05-11 2022-06-15 베라톤 인코포레이티드 확률 맵 기반의 초음파 스캐닝
CN109171808A (zh) * 2018-09-07 2019-01-11 东南大学 基于三维轮廓测量的三维超声成像***

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008275391A (ja) 2007-04-26 2008-11-13 Canon Inc 位置姿勢計測装置及び位置姿勢計測方法
CN101569541A (zh) 2008-04-29 2009-11-04 香港理工大学 三维超声波成像***

Also Published As

Publication number Publication date
JP2022549698A (ja) 2022-11-28
US20220240897A1 (en) 2022-08-04
WO2021057993A1 (zh) 2021-04-01
EP4035603A1 (en) 2022-08-03
AU2020355865A1 (en) 2022-05-19
CN112568935A (zh) 2021-03-30
CA3152758A1 (en) 2021-04-01
EP4035603A4 (en) 2022-11-09

Similar Documents

Publication Publication Date Title
CN105388478B (zh) 用于检测声学和光学信息的方法和装置、以及对应的计算机可读存储介质
JP3859574B2 (ja) 3次元視覚センサ
JP5164811B2 (ja) 作業システム及び情報処理方法
EP2654606B1 (en) Motion blur compensation
US7110593B2 (en) Method and system for generating three-dimensional data
KR100361462B1 (ko) 모션 캡쳐 데이터 획득 방법
WO2019179344A1 (zh) 基于多传感器信息融合的三维超声成像方法、装置、终端机机器可读存储介质
JP2002054912A (ja) 形状計測システムと撮像装置と形状計測方法及び記録媒体
WO2019012770A1 (ja) 撮像装置及びモニタリング装置
CN111487320A (zh) 基于三维光学成像传感器的三维超声成像方法和***
CN102772225A (zh) 图像处理装置、图像处理方法、图像处理***和探测器
KR20110057742A (ko) 초음파 영상 처리를 수행하는 초음파 시스템 및 방법
US11241797B2 (en) Control system
WO2018216341A1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2010201049A (ja) 超音波診断装置
JP7375180B2 (ja) 3次元トラッキングカメラをベースとする3次元超音波イメージング方法及びシステム
KR101972432B1 (ko) 레이저비전 센서 및 그 보정방법
JP2000134537A (ja) 画像入力装置及びその方法
US20020114022A1 (en) Image input apparatus, recording medium and image synthesis method
KR101738433B1 (ko) 손떨림에 의한 데이터 왜곡 보정기능을 구비한 핸드핼드/모바일용 3d 스캔 장치 및 그 보정 방법
KR101573641B1 (ko) 6자유도 구조물 변위 측정 시스템 및 방법
CN112568935B (zh) 基于三维追踪相机的三维超声成像方法和***
JP5230354B2 (ja) 位置特定装置及び異動建物検出装置
JP2019148926A (ja) 情報処理装置、移動体システム、撮像システム及び情報処理方法
JP3191659B2 (ja) 画像入力装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220518

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230712

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231010

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231025

R150 Certificate of patent or registration of utility model

Ref document number: 7375180

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150