JP7335925B2 - デバイス対画像レジストレーションの方法、装置及び記憶媒体 - Google Patents

デバイス対画像レジストレーションの方法、装置及び記憶媒体 Download PDF

Info

Publication number
JP7335925B2
JP7335925B2 JP2021124865A JP2021124865A JP7335925B2 JP 7335925 B2 JP7335925 B2 JP 7335925B2 JP 2021124865 A JP2021124865 A JP 2021124865A JP 2021124865 A JP2021124865 A JP 2021124865A JP 7335925 B2 JP7335925 B2 JP 7335925B2
Authority
JP
Japan
Prior art keywords
fiducial
fiducials
candidate
image
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021124865A
Other languages
English (en)
Other versions
JP2022031179A (ja
Inventor
サントーシュ ナラヤン ガネサン
バレット ダニエルズ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon USA Inc
Original Assignee
Canon USA Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon USA Inc filed Critical Canon USA Inc
Publication of JP2022031179A publication Critical patent/JP2022031179A/ja
Application granted granted Critical
Publication of JP7335925B2 publication Critical patent/JP7335925B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G06V10/225Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on a marking or identifier characterising the area
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/24Aligning, centring, orientation detection or correction of the image
    • G06V10/245Aligning, centring, orientation detection or correction of the image by locating a pattern; Special marks for positioning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

関連出願への相互参照
本願は、2020年8月6日に出願された米国仮特許出願第63/062,227号(その全体が参照により本明細書に組み込まれる)からの優先権の利益を主張する。
本開示は、概して、フィデューシャル(fiducial)マーカを用いたデバイス対画像レジストレーション(device-to-image registration)のための画像処理及び自動化プロセスに関し、より詳細には、デバイス対画像レジストレーションの方法、装置及び記憶媒体に関する。
フィデューシャルマーカ又はフィデューシャルは、画像の位置をオブジェクトの物理的位置と相関又はレジストレーションするのに役立つ。医療用途では、フィデューシャルにより、医療従事者は、患者の実際の位置と離れた場所の画像との関係を比較又は決定することができる。医療用途としては、例えば、外科手術、歯科、放射線療法、整形外科等が挙げられる。医療従事者としては、例えば、医師、内科医、看護師、技術者等が挙げられる。フィデューシャルとしては、例えば、マーカ、ポイント位置、特性、初期化パラメータ等を挙げることができる。フィデューシャルは、円、三角形、楕円、球、コイル、円柱等の形をした小さなオブジェクトであり得る。オブジェクトは、金等の金属を含む材料から製造することができる。フィデューシャルは、治療中又は手術中に放射線ビーム、ツール、針等の配置をガイドするのを助けるために、腫瘍等の医療エリアの近くに配置することができる。
患者の内部エリアに医学療法を導くために、コンピュータ断層撮影法(CT)や磁気共鳴画像法(MRI)等のインターベンショナル誘導構成を用いることができる。インターベンショナル誘導構成では、自動デバイス対画像レジストレーションの医用画像において、高強度フィデューシャルを正確かつ迅速に検出することが望ましい。臨床的な文脈の中では、インターベンショナル誘導技術は、合理的かつ迅速に、例えば数秒以下で行われることが好ましい。
この課題に対処する現在のアプローチは、図15~図19に示され、また、米国特許第10,420,626号及び第10,893,911号に記載されており、想定フィデューシャルの候補のほとんどが実在のフィデューシャルであると想定している。しかしながら、画像内にノイズが存在し、様々な発生源からアーチファクトが発生するので、この仮定は正しくない場合がある。これにより、デバイス対画像レジストレーションの解が最適ではなくなるおそれがある。最適解は、物理空間から画像空間へのデバイスの変換として表すことができ、その結果、最小の平均二乗偏差や、可能な限り多くのフィデューシャルの検出等が得られる可能性がある。
自動デバイス対画像レジストレーションの他のアプローチは、指定された画像の遠隔領域で見つかった関連アーチファクトを除外し、検索アルゴリズム自体を理論的に高速化するために、挿入ポイント、患者装着型ユニット、又はその両方のいずれかを中心とするトリミングウィンドウを利用する。しかしながら、この解決策では、デバイス自体から発生するアーチファクト等、トリミングウィンドウ内に存在し得るアーチファクトが考慮されていない場合がある。
画像内に重大なノイズが提示される一般のシナリオでは、高速で正確なデバイス対画像レジストレーションを実行することは困難である。
これらの懸念を克服し、高強度フィデューシャルを正確かつ迅速に検出することにより、フィデューシャルを用いた自動化されたデバイス対画像レジストレーションを提供することが、有益であろう。
本開示の1つ以上の態様によれば、デバイス対画像レジストレーション方法は、デバイスの画像データを取得するステップであって、デバイスは、デバイス上にフィデューシャルフレームとして配置された複数のフィデューシャルを含む、取得するステップと、画像データ内のフィデューシャルオブジェクトを検出するステップと、画像データをトリミングして、トリミング済み画像データを生成するステップと、トリミング済み画像データに特徴強調を適用して、フィデューシャルオブジェクトを強調するステップと、特徴強調に基づいて、候補オブジェクトの候補リストを生成し、候補リストのうちの少なくとも3つのポイントに基づいて、共通平面を決定するステップと、各候補オブジェクトについて代表ポイントを決定するステップと、共通平面に基づいて、外れ値候補オブジェクトを決定するステップと、候補リストから外れ値候補オブジェクトを抽出することによって、結果のオブジェクトを決定するステップと、結果のオブジェクトの代表ポイントをフィデューシャルフレームのモデルと合致させることにより、結果のオブジェクトをデバイスに対してレジストレーションするステップと、を含む。
本開示の更なる特徴は、添付の図面を参照する例示の実施形態の以下の説明から明らかになるであろう。
図1Aは、本開示の例示の態様に係るデバイス対画像レジストレーションを実施するための医用デバイスを示す図である。 図1Bは、本開示の例示の態様に係るデバイス対画像レジストレーションを実施するための医用デバイスを示す図である。 図1Cは、本開示の例示の態様に係るデバイス対画像レジストレーションを実施するための医用デバイスを示す図である。 図2は、本開示の例示の態様に係るコントローラを示す図である。 図3は、本開示の例示の態様に係るデバイス対画像レジストレーションの実施のワークフローを示す図である。 図4は、本開示の例示の態様に係るデバイス対画像レジストレーションの実施のワークフローを示す図である。 図5は、本開示の例示の態様に係るデバイス対画像レジストレーションの実施のワークフローを示す図である。 図6は、本開示の例示の態様に係るデバイス対画像レジストレーションの実施のワークフローを示す図である。 図7は、本開示の例示の態様に係るデバイス対画像レジストレーションの実施のワークフローを示す図である。 図8A、図8B及び図8Cは、本開示に係る第1の実施形態を示す図である。 図9は、本開示に係る第2の実施形態を示す図である。 図10A~図10Dは、本開示に係る第3の実施形態を示す図である。 図11A及び図11Bは、本開示の例示の態様に係る臨床面を示す図である。 図12は、本開示の例示の態様に係る平面検出を示す図である。 図13A及び図13Bは、本開示に係る第4の実施形態を示す図である。 図14A及び図14Bは、本開示に係る第5の実施形態を示す図である。 図15は、デバイス対画像レジストレーションの実施の標準ワークフローを示す図である。 図16は、デバイス対画像レジストレーションの実施の標準ワークフローを示す図である。 図17は、デバイス対画像レジストレーションの実施の標準ワークフローを示す図である。 図18は、デバイス対画像レジストレーションの実施の標準ワークフローを示す図である。 図19は、デバイス対画像レジストレーションの実施の標準ワークフローを示す図である。
以下、図面を参照して、本開示の様々な例示の実施形態、特徴及び態様を説明する。
本開示では、例えばコンピュータ断層撮影法(CT)、コンピュータ体軸断層撮影法(CAT)、ポジトロン放出断層撮影法(PET)、磁気共鳴画像法(MRI)、超音波(US)、X線イメージング、それらの組合せ又はハイブリッド等のイメージングモダリティによる高強度フィデューシャルの正確かつ迅速な検出を通して、フィデューシャルを用いた自動デバイス対画像レジストレーションを機能的に実施できる構成が記載される。構成は、医用ツールや針等の配置を容易にするように構成することができ、自立型や患者装着型等にすることができる。本開示は、いかなる特定の構成にも限定されない。
本開示の1つ以上の態様に係る装置は、例えば、医用又は非医用の構成を含むことができる。本装置は、標的ポイント及び挿入ポイントの位置を設定することによって針軌道を定めるために画像処理を実施するように構成され得る1つ以上のイメージング構成から、医用画像データを取得するように構成されてよく、また、使用される物理的誘導デバイスの2次元(2D)又は3次元(3D)のモデル表現を含んでよい。
本装置はまた、例えば画像キャプチャ、モデリング、センシング、コンピュータグラフィクス等のために構成され得る非医用構成を含んでよい。
本開示の1つ以上の態様に係るデバイス対画像レジストレーション処理は、仮想デバイスモデルを画像空間に自動的にレジストレーションできる1つ以上のプロセス、技術、アルゴリズム等を用いて機能を実装することができる。
図1A、図1B及び図1Cは、本開示の1つ以上の態様に係るデバイス対画像レジストレーションを実施するための装置10の特徴を示す。
図1Cに示されるように、装置10は、患者装着型ユニット(PMU)として構成することができ、また、ベースアセンブリ及びガイドを含んでよい。ベースアセンブリは、患者等の物体に取り付けるように構成することができ、ガイドは、針状器具を患者の関心エリアに誘導するように、少なくとも2つの自由度を含むように構成することができる。装置10は、患者上に配置できる針ガイドデバイスとして構成された医用デバイスであってよいので、針状器具は、体の針入口点を通る開口を介して挿入することができる。針状器具は、アーク部材に取り付けることができ、また、機能処理を通して、手動又は自動で関心標的エリアに誘導することができる。ベースアセンブリは、例えばテープや接着剤等を含む所望の方法で体に取り付けることができる。
図1Aは、計画された挿入ポイントを中心とすることができる対象上の円形リングPMUを示す。図1Bは、フィデューシャル球と、LED(発光ダイオード)ボード及びエンコーダボードを含み得る回路又は電子機器との配置を表示できる、ベースアセンブリの内部図を示す。図1Cは、対象上のPMを示すスキャンされたスライスを示し、対象上の高コントラストオブジェクトから生じるアーチファクト、PMU電子機器、画質等とともに、高コントラストフィデューシャルが強調されている。
図2は、本開示の1つ以上の態様に係るコントローラ100を示す。本装置は、医用器具又は他の様々なデバイスと相互接続されてよく、コントローラ100により、独立して、外部から、又は遠隔で制御することができる。
コントローラ100は、例えば中央処理装置(CPU)110、リードオンリーメモリ(ROM)120、ランダムアクセスメモリ(RAM)130、記憶装置140、操作ユニット150、通信ユニット160、インタフェースユニット170及び表示ユニット180等の、1つ以上の構成コンポーネントを含む。これらのコンポーネントは、コンポーネントが互いに通信できるように、バス190によって一緒に接続されてよい。バス190を用いて、一緒に接続されたこれらのハードウェア間でデータを送受信することができ、或いは、CPU110から他のハードウェアにコマンドを送信することができる。コントローラ100は、通信チャネルを介してCPU110に結合され得る1つ以上の物理的デバイスによって実装されてよい。例えば、コントローラ100は、特定用途向け集積回路(ASIC)等の形態の回路構成を用いて実施されてよい。或いは、コントローラ100は、ハードウェアとソフトウェアの組合せとして実装されてよく、この場合、ソフトウェアは、メモリから、又はネットワーク接続を介して、プロセッサにロードすることができる。コントローラ100の機能は記憶媒体に格納することができ、記憶媒体としては、RAMメモリ、磁気又は光学ドライブ、ディスケット、クラウドストレージ等が挙げられる。
CPU110(1つ以上のプロセッサと1つ以上のメモリを含んでよい)は、本装置及び本装置に接続されたコンポーネントの全体的な制御を実行するための制御回路又は回路構成として、構成することができる。CPU110は、ROM120に格納されたプログラムを実行して、制御を実行することができる。更に、CPU110は、ディスプレイドライバを実行して、表示ユニット180の表示を制御することができる。更に、CPU110は、操作ユニット150との間の入出力を制御することができる。
ROM120は、CPU110による制御手順を格納できるプログラムとデータとを格納することができる。ROM120は、コントローラ100のブートプログラムと、様々なタイプの初期データを格納することができる。更に、ROM120は、本装置の処理を達成するための様々なプログラムを格納することができる。
RAM130は、CPU110がコマンドプログラムに従って制御を実行するときに、作業用の記憶領域を提供する。RAM130は、スタック及び作業領域を含んでよい。RAM130は、本装置及び本装置に接続されたコンポーネントの処理を実行するためのプログラムと、画像処理に用いる様々なパラメータとを格納する。RAM130は、CPU110によって実行される制御プログラムを格納し、また、CPU110が様々なタイプの制御を実行する際に用いる様々なタイプのデータを一時的に格納する。
記憶装置140は、画像や他の画像構成等の様々なタイプのデータを保存するための補助記憶装置であってよい。記憶装置140は、ハードディスクドライブ(HDD)、ソリッドステートドライブ(SSD)、テープドライブ、フロッピードライブ、コンパクトディスクドライブ、USB等として構成することができる。
操作ユニット150は、マウスやキーボード等として構成されてよい。ユーザは、操作ユニット150を介して操作入力を提供することができ、本装置は、操作ユニット150、1つ以上の入出力デバイス(受信機、送信機、スピーカ、ディスプレイ、イメージングセンサ等を含み得る)、ユーザ入力デバイス(キーボード、キーパッド、マウス、ポジショントラッキング型スタイラス、ポジショントラッキング型プローブ、フットスイッチ、マイク等を含み得る)の情報を受け取ることができる。
通信ユニット160は、本装置に含まれるコンポーネント、並びにネットワークを介して本装置に接続された様々な外部装置と通信するための回路又は他のデバイスとして構成されてよい。例えば、通信ユニット160は、転送パケットに出力される情報を格納し、トランスミッションコントロールプロトコル/インターネットプロトコル(TCP/IP)等の通信技術によるネットワークを介して、転送パケットを外部装置に出力することができる。本装置は、所望の通信形態に従う複数の通信回路を含んでよい。
インタフェースユニット170は、コントローラ100のコンポーネントのいずれか、又は1つ以上の入出力デバイス(受信機、送信機、スピーカ、ディスプレイ、イメージングセンサ等を含み得る)に接続するための接続ユニットである。ユーザ入力デバイスは、例えば、キーボード、キーパッド、マウス、ポジショントラッキング型スタイラス、ポジショントラッキング型プローブ、フットスイッチ、マイク等を含んでよい。
表示ユニット180は、例えばモニタ、LCD(液体パネルディスプレイ)、LEDディスプレイ、OLED(有機LED)ディスプレイ、プラズマディスプレイ、有機エレクトロルミネセンスパネル等として構成された表示デバイスである。本装置の制御に基づいて、表示ユニット180上には、キャプチャされている1つ以上の画像、キャプチャされた画像、記憶ユニットに記録されたキャプチャされた動画等を示す画面が表示され得る。
コントローラ100は、1つ以上の外部デバイス(例えば、1つ以上のデータストレージ、1つ以上の外部ユーザ入出力デバイス等)と通信可能に相互接続又はインタフェース接続されてよい。コントローラ100は、例えば外部ストレージ、ディスプレイ、キーボード、マウス、センサ、マイク、スピーカ、プロジェクタ、スキャナ、ディスプレイ、照明デバイス等のうちの1つ以上を含む他の要素とインタフェース接続することができる。
本開示を通して記載されるユニットは、本開示に記載のプロセスを実施するための例示的なかつ/又は好ましいモジュールである。本明細書で用いられる「ユニット」という用語は、一般に、目的を達成するために使用されるファームウェア、ソフトウェア、ハードウェア又は他のコンポーネント(回路等)、又はそれらの任意の組合せを指す場合がある。モジュールは、ハードウェアユニット(回路、ファームウェア、フィールドプログラマブルゲートアレイ、デジタル信号プロセッサ、特定用途向け集積回路等)及び/又はソフトウェアモジュール(コンピュータ可読プログラム等)とすることができる。様々なステップを実施するためのモジュールは、上記では網羅的に説明されていない。しかしながら、特定のプロセスを実行するステップがある場合、同プロセスを実施するための対応する機能モジュール又はユニット(ハードウェア及び/又はソフトウェアによって実装される)が存在してよい。本開示には、記載されたステップとこれらのステップに対応するユニットの全ての組合せによる技術的解決策が含まれる。
本開示の1つ以上の態様に係るデバイス対画像レジストレーション処理は、仮想デバイスモデルを画像空間に自動的にレジストレーションできる1つ以上のプロセス、技術、アルゴリズム等を用いて、機能を実施することができる。デバイス対画像レジストレーションは、デバイスを画像座標系にレジストレーションするために、デバイスに埋め込まれたフィデューシャルを較正画像内で自動的に検出することができる。デバイス対画像レジストレーション処理は、フィデューシャルを検出及びレジストレーションすることができ、また、デバイスのモデル及びそのアクセス可能範囲を画像にオーバーレイすることができ、よって、操作者は、全ての標的が範囲内にあることを確認することができる。
図3~図7は、本開示の1つ以上の態様に係るデバイス対画像レジストレーションの特徴を示す。
最初に、装置は、例えば、医用又は非医用の構成を含む様々な構成から選択されるデバイスを含んでよい。例えば、ステップS100において、図1A、図1B及び図1CのPMU医用デバイスを選択又は取得することができ、手術部位上に配置又は固定することができる。デバイスは、針ガイドデバイスとして構成され、患者上に配置することができるので、針状器具は、体の針入口点を通る開口を介して挿入することができる。針状器具は、アーク部材に取り付けることができ、また、機能処理を通して、手動又は自動で関心標的エリアに誘導することができる。ベースアセンブリは、例えばテープや接着剤等を含む所望の方法で体に取り付けられる。
デバイスは複数のフィデューシャルを含んでよく、フィデューシャルは、デバイス上のフィデューシャルフレームとして配置されてよい。ステップS110において、デバイスの属性を取得又は決定することができ、属性としては、例えば、デバイスの物理的寸法(デバイスの半径を含み得る)、フィデューシャルのサイズ、フィデューシャルの配置、電子機器の配置等が挙げられる。ステップS120において、デバイスの画像データと画像データの属性を決定又は取得することができ、画像データの属性を決定することができる。画像データとしては、MRIデータやCTデータ等が挙げられる。例えば、医師又は他の開業医等のユーザが任意の平面に沿って画像をレビューし、マウス又は他の入力デバイスを用いて標的ポイントを選択することができる場合、ステップS130において、挿入ポイント又は標的ポイントを定めることができる。標的ポイントは、医師又はユーザが針を誘導したい最終的な場所を指す場合がある。次に、ステップS140において、医用画像データから、画像データ内のフィデューシャルマーカオブジェクトを検出することができる。
図4では、ステップS140aにおいて、画像データをトリミングすることによって、トリミング済み画像データが生成される。ステップS140bでは、トリミング済み画像データがマスキングされる。ステップS140cでは、フィデューシャルオブジェクトを強調するために、トリミング済み画像データに特徴強調が適用され、特徴強調は、フィデューシャルの形状データを含むことができる。ステップS140dでは、特徴抽出が適用される。特徴強調に基づいて、候補オブジェクトの候補リストを生成することができ、候補リストのうちの少なくとも3つのポイントに基づいて、共通平面を決定することができる。ステップS140eでは、結果のフィデューシャルオブジェクトのうちの外れ値候補オブジェクトが検出又は決定され、候補リストから抽出又は除外される。外れ値候補オブジェクトは、共通平面に基づいて検出又は決定することができる。ステップS140fでは、各候補オブジェクトの代表ポイントが決定又は定義される。結果のオブジェクトの代表ポイントをフィデューシャルフレームのモデルと合致させることにより、結果のオブジェクトをデバイスとレジストレーションすることができる。
デバイス上のフィデューシャルフレームとして、複数のフィデューシャルを配置することができる。フィデューシャルは、実質的に平面の配置でデバイス上に配置することができ、配置は、独立した非対称のリングであってよい。フィデューシャルはリング形状に配置することができ、結果のオブジェクトの代表ポイントがフィデューシャルフレームのモデルと合致するまでリング形状を回転させることにより、結果のオブジェクトをデバイスとレジストレーションすることができる。
図5に示されるように、ステップS142において、フィデューシャルリングを回転又は反転させることができる。これは、完全又は部分的な回転、或いは180°の反転であってよい。次に、ステップS144において、2点間マッピングを適用することができる。2点間マッチングのデータから、デバイスの仮想モデルを、画像内にあるフィデューシャルの位置と位置合せすることができる。デバイスは、針を標的位置に誘導するように調節することができる。
図6では、候補リストの部分集合から共通平面を見つけ、候補リストの他のポイントが平面に適合するかどうかを決定することにより、代表ポイントが定義又は決定される。ステップS200では、ストックモデルポイントをユーザ定義原点に変換することによって、代表ポイントを決定することができる。ステップS210において、候補画像ポイントリストが取得又は生成される。ステップS220では、候補画像ポイント間の最良適合平面が決定され、また、所与の数の候補フィデューシャル(N個)について、該平面に最良適合するk個のポイントを選ぶことにより、モデルの中心が推定される。例えば、図7のステップS220aでは、k個のポイント(k≧1)を選び、それらの共平面性のレベルを決定し、ほとんど該平面にあるk個のポイントを見つける。ステップS220bでは、リスト上の残りのポイントを当該平面とマッチングし、該平面上にない全てのポイントを除去する。ステップS240では、ストックモデルポイントと画像ポイントとの間の最良適合回転角度を見つけ、ステップS250では、ストックモデルポイントから画像ポイントへの変換を計算又は決定する。次に、レジストレーションを行うことができる。
代表ポイントは、ストックモデルポイントをユーザ定義原点に変換し、候補画像ポイントリストを生成することによって、決定することができる。共通平面は、画像ポイントリストの部分集合から決定することができ、画像ポイントリスト上の他のポイントが該平面に適合するかどうかについて、決定を行うことができる。候補画像ポイントリストの中の最良適合とモデルの中心は、所与の数の候補フィデューシャル(N個)について、該平面に最良適合するk個のポイントを選び、該平面上で残りの候補ポイントをマッチングすることによって、決定することができる。ストックモデルポイントと結果のオブジェクトとの間の変換を計算し、変換をレジストレーションすることにより、ストックモデルポイントと結果のオブジェクトとの間で最良適合回転角度を決定又は発見することができる。最良適合回転角度は、ストックモデルポイントと結果のオブジェクトとの間で決定されてよい。変換は、ストックモデルポイントと結果のオブジェクトとの間で決定又は計算することができ、レジストレーションを行うことができる。
フィデューシャルは、実質的に平面の配置で配置されてよい。フィデューシャルは、独立した非対称のリングとして配置されてよい。フィデューシャルはリング形状に配置されてよく、フィデューシャルマーカの代表ポイントがフレームのモデルと合致するまでリング形状を回転させることにより、フィデューシャルオブジェクトをレジストレーションすることができる。画像データはマスキングされてよい。特徴強調は、フィデューシャルの形状データを含んでよい。特徴抽出をトリミング済み画像データに適用して、候補フィデューシャルを生成することにより、フィデューシャルオブジェクトを抽出することができる。特徴抽出は、トリミング済み画像データに導関数ベースの演算を適用することによる特徴強調に基づいて、候補フィデューシャルを生成することにより、フィデューシャルオブジェクトを抽出することができる。デバイスは回転させることができ、また、ポイント向きの各組合せをチェックすることにより、2点間マッチングを適用することができる。デバイスを用いて、針を標的に誘導することができる。
平面フィッティング及び外れ値検出には、1つ以上の方法を用いることができる。例えば、レジストレーションは、例えば外れ値の除去の反復プロセスにおける二乗平均平方根レジストレーション等の測定基準(metrics)を用いて、達成することができる。
例えば、スキャンデータの仮想表現に示されるように、フレームの回転軸と対象の標的表面(例えば皮膚表面)との交点を通るサンプルラインを選択することができる。該ラインに沿った複数のポイントを選択することができる。このようなポイントごとに、スキャンデータをサンプリングすることができる。サンプリングされたデータは、ポイントを中心とする(又は別の方法でポイントを含む)小さな球等、ポイントを囲む小さな領域を表すデータを含むことができる。したがって、そのようなポイントのサンプリングされたデータは、サンプルポイント周辺の近傍における場所を表すデータを含むことができ、したがって、ポイントのサンプリングされたデータの数学的属性(近傍のデータ値の勾配導関数等)を用いて、ポイントの属性を決定することができる。当該の例は、サンプルポイント周辺の近傍のサンプルデータの値fの勾配導関数(一般に勾配と呼ばれる)∇fを計算することである。
例えば、測定基準は、スキャンデータに重ねられたデバイスの仮想表現から成ることができる。例えば、サンプルラインに沿ったサンプリングポイントの各々の近傍の勾配∇fを決定することができる。勾配∇fがそのような近傍全体で定数(ゼロ等)であるか、又はそれに近い場合、サンプルポイントは、対象の上か又は隣接する空気中にあるが、対象の表面上又は対象内部には存在しない可能性が最も高い。なぜなら、スキャンによって検出可能な密度、温度及び他の物理的パラメータは、対象周囲の空気中ではあまり変化しない可能性があるので、空気中のスキャンデータの値は、典型的には値が非常に近くなるからである。つまり、対象周囲の空気中のポイントから取得されるスキャンデータのほとんどの値は、典型的には値がほぼ同じであり得るので、勾配∇fの変化はほとんどないという結果になる。勾配∇fの値は、空気中のサンプルポイント周囲の近傍全体において、ほぼゼロになる場合がある。勾配∇fが近傍のライン又は平面に沿った値の急激な変化を含む場合、そのようなライン又は平面での値の急激な変化は対象の表面で発生するので、サンプルポイントは、対象の表面にあるか又は非常に近い可能性が最も高い。勾配∇fが近傍の値の小さな変化を含むが、値の急激な変化を含まない場合、サンプルポイントは、患者の内部にある可能性が最も高い場合がある。なぜなら、勾配の値の小さな変化は、そのような近傍全体における対象の組織の性質の変化(例えば、対象の筋肉又は皮膚深部の膜若しくは血管で生じ得る、勾配∇fの値の変化)を表すからである。サンプルラインに沿ったそのような各ポイントについて、サンプルポイントが対象の表面上にあるか又は非常に近いポイントを表す可能性が高いかについて、決定することができる。対象の表面上にあるか又は非常に近い、サンプルライン上のサンプルポイントの数をカウントすることができる。そのカウントが予め選択された値(3等)を満たすか又は超える場合、デバイスの仮想表現は、スキャンデータによって表される対象の表面上にあると決定することができる。
フィデューシャルマーカオブジェクトを検出するために、図4のステップS140aでは、基準ポイント(例えば挿入ポイント)を中心とするウィンドウに沿って、画像をトリミングすることができる。ウィンドウは、物理的デバイスを含むことができる。ステップS140bにおいて、先験的に知られている想定アーチファクト(例えば針アーチファクト)がある可能性のある場所において、画像をマスキングすることができる。特徴の強調及び抽出のステップは、ステップS140c及びS140dにおいて実施されてよく、ここでは、候補フィデューシャルのリストと画像内でのそれらの位置を生成するために、導関数ベースの演算をデータに適用することができる。このリストのポイントを用いて共通平面を計算することができ、また、外れ値を除去することができる。平面共通性の計算には、少なくとも3つのポイントが用いられることが好ましい。等式1を用いて以下に定義される3つのベクトル(v1,v2,v3)は、スカラ積(v1・(v2×v3))がゼロ(0)に等しくなる場合に、同一平面上にあると決定することができる。
代表ポイントは、平面内にある追加のポイントとして表すことができ、等式2を用いて、平面からポイントまでの距離(d)として計算することができる。
平面は、Ax+By+Cz+D=0として定義することができる。
外れ値は、候補フィデューシャルリスト上の、距離がゼロ以外であるとともに平面上にない任意のポイントとして特徴付けることができる。このような外れ値ポイントが候補リストから除去されると、デバイスとのレジストレーションは、リスト上の残りのポイントを用いて行うことができ、また、全ての実在のフィデューシャルを含むと仮定することができる。図5のステップS142では、フィデューシャルリングが回転又は反転されてよい。これは、完全又は部分的な回転、或いは180°の反転であってよい。次に、ステップS144において、2点間マッピングを適用することができる。2点間マッチングのデータから、デバイスの仮想モデルを、画像内にあるフィデューシャルの位置と位置合せすることができる。デバイスは、針を標的位置に誘導するように調節することができる。
本開示の1つ以上の態様に係る外れ値検出は、現在実施され得る外れ値検出技術とは異なり独自である特徴を含む。例えば、図4及び図5に示される外れ値検出の実施は対話側アプローチに対応し、候補リストの全てのポイントからレジストレーション変換が作成され、リスト上の各ポイントは、様々な閾値及びチェックを通して順次検証される。このような指定されたチェックのいずれかで失敗すると、そのポイントは除去され、変換が再計算され、リスト上の次のポイントが検証される。このプロセスは、候補リスト上の全てのポイントに対して繰り返される。このワークフローは、多数のアーチファクトが候補フィデューシャルと間違われる状況では、困難である場合がある。このシナリオでは、このようなアーチファクトにより、実在のフィデューシャル(少数派である)が外れ値であるとみなされ候補リストから除去され得るレベルにまで、レジストレーション変換が歪められてしまうおそれがある。このようなポイントの各々が除去されると、レジストレーション変換は、このようなアーチファクトを受け入れる方向に更に歪められ、実在のフィデューシャルである後続のポイントが除去される可能性が高くなってしまう。この場合、レジストレーション変換によって誤った結果が生じるおそれがある。別の想定される欠点は、平面変換の計算及び関連するチェックがループ全体で毎回計算される可能性があり、レジストレーションにかかる時間が長くなる可能性があることである。外れ値検出が実行される前に想定平面を事前に定める仮想皮膚検出等の他の方法は、前述したような起こり得るレジストレーションの失敗を回避する方法となり得る。
本開示の1つ以上の態様に係る外れ値検出のためのワークフローを、図6及び図7に示す。
ステップS200において、ストックモデルポイントがユーザ定義原点に変換される。ここでは、フィデューシャルの位置を、仮想モデルにおいてユーザ定義原点(すなわち挿入ポイント)に変換することができる。ステップS210では、候補画像ポイントリストを決定又は取得することができる。ステップS220では、候補画像ポイント間の最良適合平面を取得することができる。ステップS230では、モデルの中心を推定することができる。ステップS240では、ストックモデルポイントと画像ポイントとの間の最良適合回転角度であり得る角度を決定するか、又は見つけることができる。S250では、フィデューシャルマーカオブジェクトをレジストレーションすることができる。ステップS260では、ストックモデルポイントから画像ポイントへの変換を計算又は決定することができ、画像ポイントをレジストレーションすることができる。
図7に示されるように、候補ポイント間の最良適合を決定するために、ステップS220aにおいて、候補画像ポイントリストの所与の数の候補フィデューシャル(N個)について、k個のポイントを選ぶことができ(kは3以上である(k≧3))、それらの共平面性のレベルを決定することができ、共通平面に最良適合するか、又はほとんど平面内にあるか、又は実質的に平面配置で配置されているk個のポイントを見つけることができる。ステップS220bでは、リスト上の残りのポイントを当該平面とマッチングすることができ、平面上にない全てのポイントを除去することができる。ステップS240では、仮想モデルと候補画像ポイントとの間で最良適合回転角度を見つけることができる。次に、S250では、変換を計算することができる。
図8A、図8B及び図8Cは、本開示の1つ以上の態様に係る第1の実施形態を示す。図1Cの装置10は、第1の実施形態を実施することができる。図8Aでは、フィデューシャルを有するPMUの側面図が、共通平面に沿って位置合せされている。図8Bにおいて、左側は、デバイスの周りにリング状に配置されたフィデューシャルの上から見た図を示す。図8Bにおいて、右側は、中心に挿入ポイントのある、デバイスの周りにリング状に配置されたフィデューシャルの上面図を示す。図8Cの左側は、画像内で検出された画像ポイント(番号付き)を示す。4つのポイントを用いて見出された最良適合平面が示されている。残りのポイントから共通平面までの距離を計算することができる。緑のポイントが平面上にあることが分かる。図8Cの右側では、青のポイントは、平面の外側にある。フィデューシャルの上面図は、図8Cの右側の平面上に見つけることができる。
候補リストから、3つのポイントの全ての組合せを選ぶことができ、平面を計算することができる。候補リスト上の残りのポイントの各々を、平面とマッチングすることができる。平面に沿っていないポイントは、リストから除去することができる。
図9は、本開示の1つ以上の態様に係る第2の実施形態を示す。画像内で、左側の画像ポイント(番号付き)を検出することができる。最良適合平面は、3よりも大きい(k>3)ポイント4~8を用いて見つけることができる。残りのポイントから共通平面までの距離を計算することができる。ポイント1及び3は平面上にあることが分かる。ポイント2は平面の外側にあることが分かる。図9は、右側に、平面上に見出されたフィデューシャルの上面図を示す。
候補リストから、ポイント(k>3)の全ての組合せを選ぶことができ、平面を計算することができる。図9は、k=5の場合を示す。最良適合平面の組合せを見つけることができる。候補リスト上の残りのポイントの各々は、平面とマッチングすることができる。平面に沿っていないポイントは除去することができる。一般に、サイズnの固定された候補リストでは、kが増加すると、可能な組合せの数が減少し、計算やアルゴリズム等による処理が高速化される可能性がある。
図10A~図10Dは、本開示の1つ以上の態様に係る第3の実施形態として、アークのフィデューシャルを示す。図10Aでは、フィデューシャルは、物理的デバイス内に配置されている。アーク上に1つのフィデューシャルがあってよい。図10Bでは、画像内で画像ポイント(番号付き)を検出することができる。最良適合平面は、4つのポイント5、6、8及び9を用いて見つけることができる。残りのポイントから共通平面までの距離を計算することができる。ポイント1、3及び7を緑とみなし、ポイント2を青とみなし、ポイント4を黄とみなし、ポイント5、6、8及び9を赤とみなす。緑のポイント1、3及び7が平面上にあることが分かる。アーク上のフィデューシャルに対応する画像ポイントを表す青と黄のポイント2、4は、平面の外側にあることが分かる。図10Cでは、デバイスの周りのリングとして配置されたフィデューシャルの上面図が示されおり、中心に挿入ポイントがあるアークのフィデューシャルを示している。図10Dは、中心に挿入ポイントのある、デバイスの周りにリング状に配置されたフィデューシャルの上から見た図を示す。
候補リストから、3つのポイントの全ての組合せを選ぶことができ、平面を計算することができる。最良適合平面の組合せを見つけることができる。候補リスト上の残りのポイントの各々は、試行錯誤を通して平面とマッチングすることができ、ここで、向きを見つけることの検証は、最小の二乗平均平方根の計算によって見つけることができる。アーク上にフィデューシャルを有し、その位置を共通平面に対して決定することによって、向きを見出すことができる。
図11A及び図11Bは、本開示の例示の態様に係る臨床シナリオを示す。多くのノイズが存在し得る臨床シナリオでは、対応するフィデューシャルについて画像ポイントの位置が欠落することは、予想されないことではない場合がある。例えば、7個のフィデューシャルがある可能性があっても、アルゴリズムによって設定された基準が原因で、4つの画像ポイントしか得られない場合がある。このような場合、或いは、フィデューシャルの推定中心が正確でない可能性がある場合、複数の解が存在する可能性があり、レジストレーションエラーにつながるおそれがある。現在のリングの実施形態では、フィデューシャルの配置は、この可能性を防ぐために非対称であってよいが、それは、フィデューシャルポイントの全てが対応する画像ポイントを有する場合にのみ有効である可能性があり、全ての状況に当てはまるとは限らない。
後述するように、一部の構成は、ストックモデルポイントを画像ポイントとともに適切な方向に向けるのを助けるために、フィデューシャルを互いに対して複数の平面に配置することにより(第4の実施形態)、また、任意の単一ポイントの検出の失敗によってレジストレーション精度の急激な低下が生じる可能性を低減するために、より多くのフィデューシャル及びフィデューシャル平面が存在し得る実施形態(第5の実施形態)により、この課題を考慮することができる。
図12は、本開示の例示の態様に係る平面検出を示す。これまでの開示はフィデューシャルのリング配置を含んでいたが、平面検出は、非リング構成でも可能である場合があり、これは、フィデューシャルが欠落している場合の解を制約するのにより効果的である可能性がある。
例えば、フィデューシャル(円)を含むPMUの上面図は、画像ポイントのオーバーレイ(及び符号)とともに、非対称の非リング形状に位置合せされる。この場合、5個の想定画像ポイントのうちの4個のみが検出される。
図13A及び図13Bは、本開示に係る第4の実施形態を示す。図13Aは、2つの平面に沿って位置合せされ、共通の軸を共有し、互いに対して共通の角度θだけ方向付けられたフィデューシャルを含むPMUの側面図を示す。図13Bは、画像内で検出された画像ポイントを示す。最良適合平面は、画像ポイントを用いて見つけることができる。
候補リストから、両方の平面に分離するポイントを見つけることができる。モデルポイントとイメージポイントの間で最良適合向きを見つけることができ、2つの共通平面は、物理的デバイス内で既知の角度だけ離れていてよい。平面の互いに対する向きを知ることにより、候補リストからの画像ポイントのレイアウトを分析することによって、物理的デバイスが画像内で反転されているか、又は直立に向けられているかについての決定を行うことができる。
図14A及び図14Bは、本開示に係る第5の実施形態を示す。図14Aは、3つの平面に沿って位置合せされ、共通の軸を共有し、互いに対して共通の角度(θ,Ψ)だけ方向付けられたフィデューシャルを含むPMUの側面図を示す。図14Bは、画像内で検出された画像ポイントを示す。最良適合平面は、画像ポイントを用いて見つけることができる。
候補リストから、3つの平面に分離するポイントを見つけることができる。モデルポイントとイメージポイントの間で最良適合向きを見つけることができ、3つの共通平面は、物理的デバイス内で既知の角度だけ離れていてよい。平面の互いに対する向きを知ることにより、候補リストからの画像ポイントのレイアウトを分析することによって、物理的デバイスが画像内で反転されているか、又は直立に向けられているかについての決定を行うことができる。
本開示の1つ以上の態様によれば、デバイス対画像レジストレーションは、デバイスの画像データを取得するステップであって、デバイスは、デバイス上にフィデューシャルフレームとして配置された複数のフィデューシャルを含む、取得するステップと、画像データ内のフィデューシャルオブジェクトを検出するステップと、画像データをトリミングして、トリミング済み画像データを生成するステップと、トリミング済み画像データに特徴強調を適用して、フィデューシャルオブジェクトを強調するステップであって、特徴強調はフィデューシャルの形状データを含む、強調するステップと、特徴強調に基づいて、候補オブジェクトの候補リストを生成し、候補リストのうちの少なくとも3つのポイントに基づいて、共通平面を決定するステップと、各候補オブジェクトについて代表ポイントを決定するステップと、共通平面に基づいて、外れ値候補オブジェクトを決定するステップと、候補リストから外れ値候補オブジェクトを抽出することによって、結果のオブジェクトを決定するステップと、結果のオブジェクトの代表ポイントをフィデューシャルフレームのモデルと合致させることにより、結果のオブジェクトをデバイスに対してレジストレーションするステップと、を含んでよい。
本開示の1つ以上の態様によれば、代表ポイントは、ストックモデルポイントをユーザ定義原点に変換し、候補画像ポイントリストを生成することによって、決定することができる。共通平面は、画像ポイントリストの部分集合から決定することができ、画像ポイントリスト上の他のポイントが該平面に適合するかどうかについて、決定を行うことができる。候補画像ポイントリストの中の最良適合とモデルの中心は、所与の数の候補フィデューシャル(N個)について、該平面に最良適合するk個のポイントを選び、該平面上で残りの候補ポイントをマッチングすることによって、決定することができる。ストックモデルポイントと結果のオブジェクトとの間の変換を計算し、変換をレジストレーションすることにより、ストックモデルポイントと結果のオブジェクトとの間で最良適合回転角度を決定又は発見することができる。最良適合回転角度は、ストックモデルポイントと結果のオブジェクトとの間で決定されてよい。変換は、ストックモデルポイントと結果のオブジェクトとの間で決定又は計算することができ、レジストレーションを行うことができる。
本開示の特徴は、例えば、トリミングウィンドウ内でさえ、ノイズ及びアーチファクトを伴う画像を用いて正確にレジストレーションする方法を含む、様々な技術的改善を提供することができる。計算時間の短縮と、モデルポイントと画像ポイントとの間の最良適合向きのためのRMS計算の代替案は、本開示によって提供され得る他の技術的改善を表す。当業者には、本開示に基づく様々な修正及び変更が明らかになる可能性があり、また、本開示の特徴は、例えばCT、CAT、PET、MRI、US、X線イメージング、それらの組合せ又はハイブリッド等を含む1つ以上の構成配置に適用することができる。
他の実施形態
本開示の実施形態は、記憶媒体(より完全には「非一時的コンピュータ可読記憶媒体」と呼ぶこともできる)に記録されたコンピュータ実行可能命令(例えば1つ以上のプログラム)を読み出し実行して、前述の実施形態のうち1つ以上の機能を実行し、かつ/又は、前述の実施形態のうち1つ以上の機能を実行するための1つ以上の回路(例えば特定用途向け集積回路(ASIC))を含むシステム又は装置のコンピュータ化構成によって実現することもできるし、また、システム又は装置のコンピュータ化構成が、記憶媒体からコンピュータ実行可能命令を読み出し実行して、前述の実施形態のうち1つ以上の機能を実行すること、及び/又は1つ以上の回路を制御して、前述の実施形態のうち1つ以上の機能を実行することによって実行される方法によって実現することもできる。コンピュータ化構成は、1つ以上のプロセッサ、1つ以上のメモリ、回路又はそれらの組合せ(例えば中央処理装置(CPU)、マイクロプロセシングユニット(MPU)等)を備えてよく、コンピュータ実行可能命令を読み出して実行するために別個のコンピュータ又は別個のプロセッサのネットワークを含んでよい。コンピュータ実行可能命令は、例えばネットワークク又は記憶媒体から、コンピュータ化構成に提供することができる。記憶媒体は、例えば、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、分散コンピューティングシステムのストレージ、光ディスク(コンパクトディスク(CD)、デジタル多用途ディスク(DVD)又はBlu-ray Disc(BD)(商標)等)、フラッシュメモリデバイス、メモリカード等のうち1つ以上を含んでよい。
本開示は、例示の実施形態を参照して説明されたが、当然のことながら、本開示は、開示された例示の実施形態に限定されない。以下の特許請求の範囲は、そのような変更並びに均等の構造及び機能を全て包含するように、最も広い解釈が与えられるべきである。

Claims (15)

  1. デバイスの画像データを取得するステップであって、前記デバイスは、前記デバイス上にフィデューシャルフレームとして配置された複数のフィデューシャルを含む、取得するステップと、
    前記フィデューシャルフレームのモデルを決定するステップと、
    前記画像データ内のフィデューシャルオブジェクトを検出するステップと、
    前記画像データをトリミングすることにより、トリミング済み画像データを生成するステップと、
    前記トリミング済み画像データに特徴強調を適用することにより、前記フィデューシャルオブジェクトを強調するステップと、
    前記強調されたフィデューシャルオブジェクトに基づいて、候補フィデューシャルの候補リストを生成するステップと、
    少なくとも3個の候補フィデューシャルの共平面性のレベルを決定して、前記少なくとも3個の候補フィデューシャルが実質的に平面の配置にあるような共通平面を決定するステップと、
    前記候補リストから、前記共通平面と同一平面上にないか又は前記共通平面上にない外れ値候補フィデューシャルを決定するステップと、
    前記候補リストから前記外れ値候補フィデューシャルを抽出して、前記共通平面と同一平面上にあるか又は前記共通平面上にある結果のフィデューシャルを取得するステップと、
    前記トリミング済み画像データ内で、各結果のフィデューシャルの画像ポイントを決定するステップと、
    前記結果のフィデューシャルの前記画像ポイントを前記フィデューシャルフレームの前記モデルと位置合せすることにより、前記結果のフィデューシャルを前記デバイスに対してレジストレーションするステップと、
    を含む、デバイス対画像レジストレーション方法。
  2. 前記少なくとも3個の候補フィデューシャル以外の前記候補リストからの追加の候補フィデューシャルが、前記共通平面と同一平面上にあるかどうか、又は前記共通平面上にあるかどうかを決定するステップ、
    を更に含む、請求項に記載のデバイス対画像レジストレーション方法。
  3. 前記結果のフィデューシャルは、実質的に平面の配置で配置される、
    請求項1に記載のデバイス対画像レジストレーション方法。
  4. 前記結果のフィデューシャルは、独立した非対称のリングとして配置される、
    請求項1に記載のデバイス対画像レジストレーション方法。
  5. 前記フィデューシャルをリング形状に配置するステップと、
    前記画像ポイントが前記フィデューシャルフレームの前記モデルに対応するように、前記リング形状を回転させるステップと、
    を更に含む、請求項1に記載のデバイス対画像レジストレーション方法。
  6. 前記画像データをマスキングするステップ、
    を更に含む、請求項1に記載のデバイス対画像レジストレーション方法。
  7. 前記特徴強調は、前記フィデューシャルの形状に基づく、
    請求項1に記載のデバイス対画像レジストレーション方法。
  8. 前記トリミング済み画像データに特徴抽出を適用して、前記候補フィデューシャルを生成することにより、前記フィデューシャルオブジェクトを抽出するステップ、
    を更に含む、請求項1に記載のデバイス対画像レジストレーション方法。
  9. 前記特徴抽出は、前記トリミング済み画像データに導関数ベースの演算を適用することによる前記特徴強調に基づいて、前記候補フィデューシャルを生成することにより、前記フィデューシャルオブジェクトを抽出する、
    請求項に記載のデバイス対画像レジストレーション方法。
  10. 前記デバイスを回転させるステップと、
    前記結果のフィデューシャルの前記画像ポイントを前記フィデューシャルフレームの前記モデルと位置合せするステップと、
    を更に含む、請求項1に記載のデバイス対画像レジストレーション方法。
  11. 前記デバイスを調節して、針を的ポイント位置に誘導するステップ、
    を更に含む、請求項1に記載のデバイス対画像レジストレーション方法。
  12. デバイスの画像データを取得するステップであって、前記デバイスは、前記デバイス上にフィデューシャルフレームとして配置された複数のフィデューシャルを含む、取得するステップと、
    前記フィデューシャルフレームのモデルを決定するステップと、
    前記画像データ内のフィデューシャルオブジェクトを検出するステップと、
    前記画像データをトリミングすることにより、トリミング済み画像データを生成するステップと、
    前記トリミング済み画像データに特徴強調を適用することにより、前記フィデューシャルオブジェクトを強調するステップと、
    前記強調されたフィデューシャルオブジェクトに基づいて、候補フィデューシャルの候補リストを生成するステップと、
    少なくとも3個の候補フィデューシャルの共平面性のレベルを決定して、前記少なくとも3個の候補フィデューシャルが実質的に平面の配置にあるような共通平面を決定するステップと、
    前記候補リストから、前記共通平面と同一平面上にないか又は前記共通平面上にない外れ値候補フィデューシャルを決定するステップと、
    前記候補リストから前記外れ値候補フィデューシャルを抽出して、前記共通平面と同一平面上にあるか又は前記共通平面上にある結果のフィデューシャルを取得するステップと、
    前記トリミング済み画像データ内で、各結果のフィデューシャルの画像ポイントを決定するステップと、
    前記結果のフィデューシャルの前記画像ポイントを前記フィデューシャルフレームの前記モデルと位置合せすることにより、前記結果のフィデューシャルを前記デバイスに対してレジストレーションするステップと、
    を実行するように構成された少なくとも1つのプロセッサを備える、
    デバイス対画像レジストレーション装置。
  13. 前記少なくとも1つのプロセッサは、
    前記少なくとも3個の候補フィデューシャル以外の前記候補リストからの追加の候補フィデューシャルが、前記共通平面と同一平面上にあるかどうか、又は前記共通平面上にあるかどうかを決定するステップ、
    を実行するように更に構成される、請求項12に記載のデバイス対画像レジストレーション装置。
  14. コンピュータにレジストレーションの方法を実行させるためのプログラムを格納した非一時的記憶媒体であって、前記方法は、
    デバイスの画像データを取得するステップであって、前記デバイスは、前記デバイス上にフィデューシャルフレームとして配置された複数のフィデューシャルを含む、取得するステップと、
    前記フィデューシャルフレームのモデルを決定するステップと、
    前記画像データ内のフィデューシャルオブジェクトを検出するステップと、
    前記画像データをトリミングすることにより、トリミング済み画像データを生成するステップと、
    前記トリミング済み画像データに特徴強調を適用することにより、前記フィデューシャルオブジェクトを強調するステップと、
    前記特徴強調に基づいて、候補フィデューシャルの候補リストを生成するステップと、
    少なくとも3個の候補フィデューシャルの共平面性のレベルを決定して、前記少なくとも3個の候補フィデューシャルが実質的な平面の配置にあるような共通平面を決定するステップと、
    前記候補リストから、前記共通平面と同一平面上にないか又は前記共通平面上にない外れ値候補フィデューシャルを決定するステップと、
    前記候補リストから前記外れ値候補フィデューシャルを抽出して、前記共通平面と同一平面上にあるか又は前記共通平面上にある結果のフィデューシャルを取得するステップと、
    前記トリミング済み画像データ内で、各結果のフィデューシャルの画像ポイントを決定するステップと、
    前記結果のフィデューシャルの前記画像ポイントを前記フィデューシャルフレームの前記モデルと位置合せすることにより、前記結果のフィデューシャルを前記デバイスに対してレジストレーションするステップと、
    を含む、記憶媒体。
  15. 前記方法は、
    前記少なくとも3個の候補フィデューシャル以外の前記候補リストからの追加の候補フィデューシャルが、前記共通平面と同一平面上にあるかどうか、又は前記共通平面上にあるかどうかを決定するステップ、
    を更に含む、請求項14に記載の記憶媒体。
JP2021124865A 2020-08-06 2021-07-30 デバイス対画像レジストレーションの方法、装置及び記憶媒体 Active JP7335925B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US202063062227P 2020-08-06 2020-08-06
US63/062,227 2020-08-06
US17/377,191 US11887347B2 (en) 2020-08-06 2021-07-15 Device-to-image registration method, apparatus, and storage medium
US17/377,191 2021-07-15

Publications (2)

Publication Number Publication Date
JP2022031179A JP2022031179A (ja) 2022-02-18
JP7335925B2 true JP7335925B2 (ja) 2023-08-30

Family

ID=80115234

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021124865A Active JP7335925B2 (ja) 2020-08-06 2021-07-30 デバイス対画像レジストレーションの方法、装置及び記憶媒体

Country Status (2)

Country Link
US (1) US11887347B2 (ja)
JP (1) JP7335925B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10898329B2 (en) * 2019-01-25 2021-01-26 Edwards Lifesciences Corporation Testing apparatus for prosthetic device
CA3183162A1 (en) 2020-06-19 2021-12-23 Jake Anthony Sganga Systems and methods for guidance of intraluminal devices within the vasculature
US11707332B2 (en) 2021-07-01 2023-07-25 Remedy Robotics, Inc. Image space control for endovascular tools
US11690683B2 (en) 2021-07-01 2023-07-04 Remedy Robotics, Inc Vision-based position and orientation determination for endovascular tools

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120259204A1 (en) 2011-04-08 2012-10-11 Imactis Device and method for determining the position of an instrument in relation to medical images
JP2018529399A (ja) 2015-06-30 2018-10-11 キヤノン ユーエスエイ, インコーポレイテッドCanon U.S.A., Inc レジストレーションの基準マーカー、システム、および方法
JP2019076693A (ja) 2017-08-11 2019-05-23 キヤノン ユーエスエイ, インコーポレイテッドCanon U.S.A., Inc 患者装着式の針ガイドの位置合わせおよび動き補償

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7751868B2 (en) * 2004-11-12 2010-07-06 Philips Electronics Ltd Integrated skin-mounted multifunction device for use in image-guided surgery
WO2008085163A1 (en) * 2007-01-09 2008-07-17 General Electric Company Method for detecting the alignment of films for automated defect detection
US8340400B2 (en) * 2009-05-06 2012-12-25 Honeywell International Inc. Systems and methods for extracting planar features, matching the planar features, and estimating motion from the planar features
US8553280B2 (en) * 2009-10-29 2013-10-08 Xerox Corporation Image on paper registration using image marks
WO2016134093A1 (en) * 2015-02-19 2016-08-25 Metritrack, Inc. System and method for positional registration of medical image data
US10420626B2 (en) * 2015-06-30 2019-09-24 Canon U.S.A., Inc. Fiducial markers, systems, and methods of registration
US10157452B1 (en) * 2015-09-28 2018-12-18 Amazon Technologies, Inc. Image processing system for image rectification
EP3481319A4 (en) * 2016-07-05 2020-02-12 7D Surgical Inc. SYSTEMS AND METHODS FOR CARRYING OUT AN INTRAOPERATIVE IMAGE REGISTER
CA2958624C (en) * 2017-02-21 2018-08-28 Synaptive Medical (Barbados) Inc. Method, system and apparatus for maintaining patient registration in a surgical navigation system
JP2019061484A (ja) * 2017-09-26 2019-04-18 キヤノン株式会社 画像処理装置及びその制御方法及びプログラム
US10893911B2 (en) * 2017-11-26 2021-01-19 Canon U.S.A., Inc. Automated image cropping for enhanced automatic device-to-image registration
JP6784944B2 (ja) * 2018-03-26 2020-11-18 カシオ計算機株式会社 投影制御装置、マーカ検出方法及びプログラム
US12023143B2 (en) 2018-10-19 2024-07-02 Canon U.S.A., Inc. Structure masking or unmasking for optimized device-to-image registration
US11786307B2 (en) * 2018-10-19 2023-10-17 Canon U.S.A., Inc. Visualization and manipulation of results from a device-to-image registration algorithm
US11295471B1 (en) * 2019-12-11 2022-04-05 Amazon Technologies, Inc. Camera-based pallet placement detection and notification

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120259204A1 (en) 2011-04-08 2012-10-11 Imactis Device and method for determining the position of an instrument in relation to medical images
JP2018529399A (ja) 2015-06-30 2018-10-11 キヤノン ユーエスエイ, インコーポレイテッドCanon U.S.A., Inc レジストレーションの基準マーカー、システム、および方法
JP2019076693A (ja) 2017-08-11 2019-05-23 キヤノン ユーエスエイ, インコーポレイテッドCanon U.S.A., Inc 患者装着式の針ガイドの位置合わせおよび動き補償

Also Published As

Publication number Publication date
US11887347B2 (en) 2024-01-30
US20220044057A1 (en) 2022-02-10
JP2022031179A (ja) 2022-02-18

Similar Documents

Publication Publication Date Title
JP7335925B2 (ja) デバイス対画像レジストレーションの方法、装置及び記憶媒体
US11138461B2 (en) Methods and systems for performing segmentation and registration of images using neutrosophic similarity scores
US11717376B2 (en) System and method for dynamic validation, correction of registration misalignment for surgical navigation between the real and virtual images
US9265587B2 (en) Method for determining an insertion trajectory of a tool in a deformable tissular matrix and robotic system executing the method
US10420626B2 (en) Fiducial markers, systems, and methods of registration
EP3316784B1 (en) Fiducial markers, systems, and methods of registration
US20170084036A1 (en) Registration of video camera with medical imaging
US9918798B2 (en) Accurate three-dimensional instrument positioning
US9715739B2 (en) Bone fragment tracking
TWI670681B (zh) 判定手術路徑上一個或多個點之方法和系統
US9936879B2 (en) Method, system and apparatus for adaptive image acquisition
CN112085797A (zh) 3d相机-医疗成像设备坐标系校准***和方法及其应用
US11847730B2 (en) Orientation detection in fluoroscopic images
US20210196387A1 (en) System and method for interventional procedure using medical images
US11464583B2 (en) Surgery support apparatus and surgical navigation system
US20130218003A1 (en) Rapid entry point localization for percutaneous interventions
US10102681B2 (en) Method, system and apparatus for adjusting image data to compensate for modality-induced distortion
US20200297303A1 (en) An apparatus and method for detecting a tool
CN112801114B (zh) 确定乳腺图像的投照位信息的方法及装置
US20230346351A1 (en) Image processing device, method, and program
Lagomarsino Tracciamento e compensazione della deformazione del seno durante biopsia robot-assistita

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211112

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211112

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230214

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230501

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230801

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230818

R150 Certificate of patent or registration of utility model

Ref document number: 7335925

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150