JP2024070359A - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2024070359A JP2024070359A JP2022180791A JP2022180791A JP2024070359A JP 2024070359 A JP2024070359 A JP 2024070359A JP 2022180791 A JP2022180791 A JP 2022180791A JP 2022180791 A JP2022180791 A JP 2022180791A JP 2024070359 A JP2024070359 A JP 2024070359A
- Authority
- JP
- Japan
- Prior art keywords
- cross
- image
- parameters
- correction
- sectional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 143
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000012937 correction Methods 0.000 claims description 245
- 239000013598 vector Substances 0.000 claims description 83
- 238000000034 method Methods 0.000 claims description 65
- 230000008569 process Effects 0.000 claims description 49
- 230000009467 reduction Effects 0.000 claims description 5
- 238000006073 displacement reaction Methods 0.000 claims description 3
- 239000003550 marker Substances 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 14
- 238000013527 convolutional neural network Methods 0.000 description 18
- 210000004115 mitral valve Anatomy 0.000 description 15
- 230000006870 function Effects 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 9
- 238000002604 ultrasonography Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000000747 cardiac effect Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 210000001765 aortic valve Anatomy 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000007637 random forest analysis Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000010420 art technique Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 210000000877 corpus callosum Anatomy 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 210000002451 diencephalon Anatomy 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000016507 interphase Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
- A61B8/461—Displaying means of special interest
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
- A61B8/461—Displaying means of special interest
- A61B8/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/46—Arrangements for interfacing with the operator or the patient
- A61B6/461—Displaying means of special interest
- A61B6/463—Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/50—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
- A61B6/503—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for diagnosis of the heart
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
- G06T2207/10136—3D ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Radiology & Medical Imaging (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Biophysics (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- Heart & Thoracic Surgery (AREA)
- Pathology (AREA)
- Veterinary Medicine (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Computer Graphics (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
【課題】3次元画像を対象とした基準断面の推定精度を向上させる技術を提供する。【解決手段】本開示の画像処理装置は、被検体の3次元画像を取得する画像取得部と、前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う初期パラメータ推定部と、前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得部と、前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定部とを備える。【選択図】図1
Description
本開示の技術は、画像処理装置、画像処理方法、およびプログラムに関する。
医用画像を用いた診断では、3次元画像(ボリュームデータ)を所定の基準に基づいて切断し、その切断面である2次元断面(基準断面)をディスプレイ等に表示をして診断を行うことがある。しかしながら、基準断面の手動設定においては、3次元空間において手掛かりとなる解剖学的ランドマーク(特徴点)等を見つけ出す作業が伴うため、医師等にとって負担が大きいという課題がある。
この課題を解決するため、基準断面を自動推定する種々の技術が提案されている。特許文献1では、心臓領域を撮像した複数時相からなる3次元動画像の基準断面推定の方法が開示されている。特許文献1では、複数時相の中の特定の基準時相において基準断面を推定し、時相間トラッキングによって基準断面を移動、回転させることで、基準時相以外の時相の基準断面を得る。また、特許文献2では、心臓領域を撮像した画像を対象に、基準断面の候補(候補断面)を求め、候補断面を並進、回転させて得られる複数の断面からそれぞれ特徴点座標を算出する。そして、それら特徴点を総合して、候補断面が補正される。
しかしながら、これら先行技術に記載の方法を用いた基準断面推定では、十分な精度の推論結果が得られない場合があった。
本開示の技術は、上記に鑑みてなされたものであり、3次元画像を対象とした基準断面の推定精度を向上させる技術を提供することを目的とする。
上記目的を達成するために、本開示に係る画像処理装置は、
被検体の3次元画像を取得する画像取得部と、
前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う初期パラメータ推定部と、
前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得部と、
前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定部と
を備えることを特徴とする画像処理装置を含む。
被検体の3次元画像を取得する画像取得部と、
前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う初期パラメータ推定部と、
前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得部と、
前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定部と
を備えることを特徴とする画像処理装置を含む。
さらに、本開示の技術は、上記処理の少なくとも一部を含む、画像処理方法や、これらの方法をコンピュータに実行させるためのプログラム、または、そのようなプログラムを非一時的に記録したコンピュータ読取可能な記録媒体として捉えることもできる。上記構成および処理の各々は技術的な矛盾が生じない限り互いに組み合わせて実施することがで
きる。
きる。
本開示の技術によれば、3次元画像を対象とした基準断面の推定精度を向上させることができる。
以下、本開示の実施形態について図面を用いて説明する。なお、本開示は以下の実施形態に限定されるものではなく、その要旨を逸脱しない範囲において適宜変更可能である。また、以下で説明する図面において、同じ機能を有するものは同一の符号を付し、その説明を省略または簡潔にすることもある。
以下に説明する実施形態に係る画像処理装置は、入力3次元画像を医師等が観察(診断)するための所定の基準断面を推定する機能を提供する。処理対象となる入力画像は、医用画像、すなわち、医学的な診断、検査、研究などの目的で撮影ないし生成された被検体(人体など)の画像であり、典型的には、モダリティと呼ばれる撮像システムによって取得された画像である。入力画像としては、例えば、超音波診断装置によって得られる超音波画像、X線CT装置によって得られるX線CT画像、MRI装置によって得られるMRI画像などが挙げられる。
以下の説明では、心臓の僧帽弁領域を撮像した経食道3次元超音波画像を入力3次元画像として、観察対象である僧帽弁領域の解剖学的ランドマークの位置を推定する場合を例に挙げて、画像処理装置の具体例を詳しく説明する。なお、僧帽弁を観察対象とするのは一例に過ぎず、他の部位が観察対象であってもよい。
<第1実施形態>
第1実施形態に係る画像処理装置は、3次元画像を入力画像として、2次元の基準断面の位置・姿勢を表すパラメータ(基準断面パラメータ)を推定する。推定処理では、まず入力画像に基づいて基準断面パラメータを推定する。以下、この段階で推定されるパラメータを、基準断面を得るためのパラメータの初期値として「基準断面パラメータの初期値」(初期パラメータ)と呼ぶ。次に、この初期パラメータに基づき、入力画像からA面・B面・C面という3枚の断面画像を切り出す。そして、各断面画像から、基準断面パラメータにおけるそれぞれ異なる成分の補正量を推定する。以下の説明では、これを「基準断面パラメータの補正量」(あるいは単に補正量)と呼ぶ。最終的に、初期パラメータに断面画像ごとに推定された補正量を適用して、最終的な基準断面パラメータを得る。以降、このように最終的に得られるパラメータを「基準断面パラメータの最終値」(最終パラメータ)と呼ぶ。
第1実施形態に係る画像処理装置は、3次元画像を入力画像として、2次元の基準断面の位置・姿勢を表すパラメータ(基準断面パラメータ)を推定する。推定処理では、まず入力画像に基づいて基準断面パラメータを推定する。以下、この段階で推定されるパラメータを、基準断面を得るためのパラメータの初期値として「基準断面パラメータの初期値」(初期パラメータ)と呼ぶ。次に、この初期パラメータに基づき、入力画像からA面・B面・C面という3枚の断面画像を切り出す。そして、各断面画像から、基準断面パラメータにおけるそれぞれ異なる成分の補正量を推定する。以下の説明では、これを「基準断面パラメータの補正量」(あるいは単に補正量)と呼ぶ。最終的に、初期パラメータに断面画像ごとに推定された補正量を適用して、最終的な基準断面パラメータを得る。以降、このように最終的に得られるパラメータを「基準断面パラメータの最終値」(最終パラメータ)と呼ぶ。
ここで、基準断面パラメータは、前述したように、基準断面の位置と姿勢を表すパラメータである。また、本実施例における基準断面パラメータとは、観察対象(本実施例では
僧帽弁)を表す座標系(観察対象座標系)の、入力3次元画像中における位置と姿勢を表すパラメータと同義である。本実施例において、その位置は、後述する僧帽弁の基準位置(以下、中心位置とも呼ぶ)の3次元座標(cx,cy,cz)を表す3パラメータで表現されるものとする。また、その姿勢は、後述するように僧帽弁に対して定義される長軸ベクトル(lx,ly,lz)を表す3パラメータと、短軸ベクトル(sx,sy,sz)を表す3パラメータの合計6パラメータで表現されるものとする。なお、上述の基準断面パラメータは本開示の技術の一実施形態として例示するにすぎず、基準断面の位置・姿勢を表す情報であれば、いかなる表現形態であってもよい。基準断面の初期パラメータ推定処理の詳細は、ステップS203の説明で行う。本実施形態において、観察対象座標系におけるA面・B面・C面の各断面の位置と姿勢は既知であるとする。したがって、A面・B面・C面の各断面画像の入力3次元画像における位置・姿勢は、上記9個のパラメータで表現される基準断面パラメータから一意に算出される。したがって、断面画像取得部43が取得する断面画像は、画像間の位置および姿勢が所定の関係となる複数の画像により構成されている。
僧帽弁)を表す座標系(観察対象座標系)の、入力3次元画像中における位置と姿勢を表すパラメータと同義である。本実施例において、その位置は、後述する僧帽弁の基準位置(以下、中心位置とも呼ぶ)の3次元座標(cx,cy,cz)を表す3パラメータで表現されるものとする。また、その姿勢は、後述するように僧帽弁に対して定義される長軸ベクトル(lx,ly,lz)を表す3パラメータと、短軸ベクトル(sx,sy,sz)を表す3パラメータの合計6パラメータで表現されるものとする。なお、上述の基準断面パラメータは本開示の技術の一実施形態として例示するにすぎず、基準断面の位置・姿勢を表す情報であれば、いかなる表現形態であってもよい。基準断面の初期パラメータ推定処理の詳細は、ステップS203の説明で行う。本実施形態において、観察対象座標系におけるA面・B面・C面の各断面の位置と姿勢は既知であるとする。したがって、A面・B面・C面の各断面画像の入力3次元画像における位置・姿勢は、上記9個のパラメータで表現される基準断面パラメータから一意に算出される。したがって、断面画像取得部43が取得する断面画像は、画像間の位置および姿勢が所定の関係となる複数の画像により構成されている。
図3A~図3Cに、各断面の臨床的な定義を模式的に示す。図3AはA面の一例を示し、大動脈弁(301)、僧帽弁の前尖(302)、後尖(303)を同時に観察可能な断面を示す。図3BはB面の一例を示し、A面に対しては前尖と後尖の境界(304)で交差し、この境界を中心に僧帽弁輪(305および306)が写る断面を示す。図3CはC面の一例を示し、僧帽弁(307)と大動脈弁(308)を輪切りにする断面を示す。
図3A~図3Cで示した臨床的な定義に基づいて、図4A~図4Eに本実施形態における各断面の定義を示す。図4A~図4Cでは、入力3次元画像(401)に対するA面(402)、B面(403)、C面(404)の位置および姿勢の関係を示している。A面・B面・C面は中心位置(407)の1点で交わり、互いに直交する。長軸(405)は、図4Dに示す通り、僧帽弁を上下に貫く軸であり、A面における面内ベクトルをなす。長軸と直交する短軸(406)は、前尖・後尖の高さにおいて僧帽弁を輪切りにする軸であり、軸405と軸406は点407で交わる。B面は、A面を長軸(405)周りに90度回転させた断面である。C面は、A面・B面の両方に直交する断面であり、C面の面内ベクトルを示す軸406および軸408は、A面とB面をそれぞれ左右に貫く面内ベクトルと一致する。
上記の通り、基準断面パラメータの補正量の算出は、断面画像ごとに基準断面パラメータの異なる成分の補正量を算出することで行われる。A面では、中心位置(cx,cy,cz)のA面の面内成分、すなわち、A面の面内で中心位置をどの程度平行移動させるべきかを算出する。B面では、長軸ベクトルの面内成分、すなわち、初期パラメータではB面を上下に貫いている軸を、B面内でどの程度回転させるべきかを算出する。そしてC面では、短軸ベクトルの面内成分、すなわち、初期パラメータではC面を上下に貫く軸を、C面内でどの程度回転させるべきかを算出する。補正量の算出処理の詳細については、ステップS205の説明で行う。また、補正量を初期パラメータに反映させて最終パラメータを得る処理の詳細については、ステップS206の説明で行う。
なお、3次元空間において互いに直交する3つの断面の位置および姿勢を表現可能であれば、基準断面パラメータの表現形式は、上記以外の形式を用いてもよい。例えば、公知技術であるロドリゲスの回転公式を用いて姿勢を4パラメータ(回転軸ベクトルの3パラメータと回転角度の1パラメータ)で表現してもよい。この場合、中心位置の3パラメータと合わせて、基準断面パラメータは全7パラメータとなる。あるいは、位置と姿勢は、4×4の剛体変換行列で表現することも可能である。これらの表現形式は、互いに変換可能であるため、いずれの場合であっても、本実施形態の処理を実行可能である。
以下、本実施形態の画像処理装置の構成および処理について説明する。図1は、本実施形態の画像処理装置を含む画像処理システム(医用画像処理システムともいう)の構成例を示すブロック図である。画像処理システム1は、画像処理装置10およびデータベース22を備える。画像処理装置10は、ネットワーク21を介してデータベース22に通信可能な状態で接続されている。ネットワーク21は、例えば、LAN(Local Area Network)やWAN(Wide Area Network)を含む。
データベース22は、複数の画像や以下に説明する処理に使用される情報を保持し、管理する。データベース22で管理される情報には、画像処理装置10による基準断面推定処理の対象となる入力3次元画像と各推定処理で用いる学習モデルの情報が含まれる。画像処理装置10は、ネットワーク21を介してデータベース22で保持されているデータを取得することが可能である。なお、学習モデルの情報は、データベース22の代わりに、画像処理装置10の内部記憶(ROM32または記憶部34)に記憶されていてもよい。
画像処理装置10は、通信IF(Interface)31、ROM(Read On
ly Memory)32、RAM(Random Access Memory)33、記憶部34、操作部35、表示部36、および制御部37を備える。
ly Memory)32、RAM(Random Access Memory)33、記憶部34、操作部35、表示部36、および制御部37を備える。
通信IF31は、LANカードなどにより構成され、外部装置(例えば、データベース22など)と画像処理装置10との通信を実現する通信部である。ROM32は、不揮発性のメモリなどにより構成され、各種プログラムや各種データを記憶する。RAM33は、揮発性のメモリなどにより構成され、実行中のプログラムやデータを一時的に記憶するワークメモリとして用いられる。記憶部34は、HDD(Hard Disk Drive)などにより構成され、各種プログラムや各種データを記憶する。操作部35は、キーボードやマウス、タッチパネルなどにより構成され、ユーザ(例えば、医師や検査技師)からの指示を各種装置に入力する。表示部36は、ディスプレイなどにより構成され、各種情報をユーザに表示する。
制御部37は、CPU(Central Processing Unit)などにより構成され、画像処理装置10における処理を統括制御する。制御部37は、その機能的な構成として、画像取得部41、初期パラメータ推定部42、断面画像取得部43、学習モデル取得部44、補正パラメータ推定部45、補正部46、表示処理部51を備える。制御部37は、GPU(Graphics Processing Unit)やDSP(Digital Signal Processor)やFPGA(Field-Programmable Gate Array)などを備えてもよい。
画像取得部41は、画像処理装置10に入力される被検体の3次元画像である入力3次元画像を、データベース22から取得する。入力3次元画像は、モダリティから直接取得されてもよい。その場合、画像処理装置10はモダリティ(撮像システム)のコンソール内に実装されていてもよい。処理の詳細はステップS201の説明で詳述する。
初期パラメータ推定部42は、画像取得部41で取得された入力3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータを推定する。処理の詳細は、ステップS203の説明で詳述する。
学習モデル取得部44は、初期パラメータ推定部42および補正パラメータ推定部45が用いる学習モデルをデータベース22から取得する。処理の詳細は、ステップS202の説明で詳述する。
断面画像取得部43は、画像取得部41が取得した入力3次元画像と初期パラメータ推定部42が推定した基準断面の初期パラメータを用いて、3次元画像から少なくとも1枚の2次元断面画像を取得する。また、断面画像取得部43は、補正部46によって補正された最終パラメータを用いて、3次元画像から少なくとも1枚の2次元断面画像を取得する。処理の詳細は、ステップS204およびS207の説明で詳述する。
補正パラメータ推定部45は、断面画像取得部43が取得した各断面画像をそれぞれ用いて、断面画像ごとに基準断面パラメータの補正量を推定する指標推定部である。ここで、基準断面パラメータの補正量は、初期パラメータの補正に寄与する指標の一例である。A面からは中心位置、B面・C面からは各断面を上下に貫く軸(それぞれ長軸・短軸と呼ぶ)の向きの補正量を推定する。処理の詳細は、ステップS205の説明で詳述する。
補正部46は、補正パラメータ推定部45で推定された基準断面パラメータの補正量を、初期パラメータ推定部42が推定した初期パラメータに反映して、最終パラメータを算出する。処理の詳細は、ステップS206の説明で詳述する。
表示処理部51は、入力3次元画像を補正部46が算出した基準断面パラメータで切断した断面画像を、画像処理装置10のユーザが容易に視認できるような表示形態で、表示部36の画像表示領域に表示する。処理の詳細は、ステップS208の説明で詳述する。
上記の画像処理装置10の各構成要素は、コンピュータプログラムに従って機能する。例えば、制御部37(CPU)がRAM33をワーク領域としてROM32または記憶部34などに記憶されたコンピュータプログラムを読み込み、実行することで、各構成要素の機能が実現される。なお、画像処理装置10の構成要素の一部またはすべての機能が専用の回路を用いることで実現されてもよい。また、制御部37の構成要素の一部の機能が、クラウドコンピュータを用いることで実現されてもよい。例えば、画像処理装置10とは異なる場所にある演算装置がネットワーク21を介して画像処理装置10に通信可能に接続されてよい。そして、画像処理装置10が演算装置とデータの送受信を行うことで、画像処理装置10または制御部37の構成要素の機能が実現されてもよい。
次に、図2のフローチャートを用いて、図1の画像処理装置10の処理の例を説明する。
(ステップS201:入力画像の取得)
ステップS201において、画像処理装置10は操作部35を介してユーザからの画像取得の指示を取得する。そして、画像取得部41は、ユーザが指定した入力3次元画像をデータベース22から取得し、RAM33に格納する。なお、入力3次元画像をデータベース22から取得する以外にも、超音波診断装置が時々刻々と撮像する超音波画像の中から入力画像を取得してもよい。
ステップS201において、画像処理装置10は操作部35を介してユーザからの画像取得の指示を取得する。そして、画像取得部41は、ユーザが指定した入力3次元画像をデータベース22から取得し、RAM33に格納する。なお、入力3次元画像をデータベース22から取得する以外にも、超音波診断装置が時々刻々と撮像する超音波画像の中から入力画像を取得してもよい。
(ステップS202:学習モデルの取得)
ステップS202において、学習モデル取得部44は、初期パラメータ推定部42と補正パラメータ推定部45がそれぞれ推定を行うために用いる2種類の学習モデルをデータベース22から取得し、RAM33に格納する。
ステップS202において、学習モデル取得部44は、初期パラメータ推定部42と補正パラメータ推定部45がそれぞれ推定を行うために用いる2種類の学習モデルをデータベース22から取得し、RAM33に格納する。
初期パラメータ推定部42が用いる学習モデルは、入力3次元画像と出力値である基準断面パラメータとの関係の統計的傾向を表現するものである。したがって、初期パラメータ推定部42が取得する学習モデルは、学習用3次元画像と学習用3次元画像における基準断面を得るためのパラメータとの組を含む情報を用いた学習処理により作成された初期パラメータ推定用学習モデルである。
一方、補正パラメータ推定部45が用いる学習モデルは、各断面画像(A面・B面・C面)で異なり、入力断面画像と、該断面における基準断面パラメータの補正量との統計的傾向を表現する。すなわち、A面画像から中心位置の面内成分の補正量を推定する学習モデル、B面画像から長軸ベクトル面内角度の補正量を推定する学習モデル、C面画像から短軸ベクトル面内角度の補正量を推定する学習モデル、という3つの学習モデルを取得する。したがって、補正パラメータ推定部45が取得する学習モデルは、学習用断面画像と学習用断面画像における基準断面パラメータの補正に寄与する指標との組を含む情報を用いた学習処理により作成された補正パラメータ推定用学習モデルである。なお、各断面画像における補正パラメータ推定処理の詳細については、ステップS205で説明する。
本実施形態において、学習モデルは畳み込みニューラルネットワーク(CNN)を用いる。この場合、入力と出力を組にした多数の症例データを学習データとして学習を行うことで、それぞれの推定を行う学習モデルをあらかじめ構築しておく。本処理ステップでは、このようにして構築した学習モデルを取得する。なお、あらかじめ構築した学習モデルをデータベース22から取得する以外にも、上で述べた学習処理を行う処理部を画像処理装置10の制御部において構成し、当該処理部により本ステップの学習を行ってもよい。
(ステップS203:初期パラメータの推定)
ステップS203において、初期パラメータ推定部42は、入力3次元画像のボリュームデータを入力し、中心位置・長軸ベクトル・短軸ベクトルからなる基準断面の初期パラメータを出力する。
ステップS203において、初期パラメータ推定部42は、入力3次元画像のボリュームデータを入力し、中心位置・長軸ベクトル・短軸ベクトルからなる基準断面の初期パラメータを出力する。
ステップS202で説明した通り、本実施形態において、初期パラメータの推定は、入力3次元画像から初期パラメータを推定する畳み込みニューラルネットワーク(CNN)を用いることで行う。すなわち、CNNに3次元画像を入力し、CNNの出力として得られる9パラメータからなる基準断面パラメータを初期パラメータとして取得する。
ここで、CNNに入力される3次元画像は、ステップS201で取得される入力3次元画像と同一ではなく、解像度を低減させた「粗い」画像である。例えば、入力3次元画像が1ボクセルあたりの長さが0.6mmで256×256×256ボクセル、すなわち各辺153.6mmの範囲が表現されたボリューム画像だとする。本ステップでは、入力3次元画像の各辺のボクセル数を1/8に縮小し、32×32×32ボクセルとする。すなわち、表現される範囲は各辺153.6mmで変わらないまま1ボクセルあたりの長さは4.8mmの画像へと変換される。このようにすることで、入力3次元画像をそのまま用いる場合と比較して、CNNを用いた推論に要する計算時間や使用メモリ量を削減することができる。また、入力3次元画像の画素値平均・分散を用いた画素値正規化やコントラスト補正など、公知の画像処理をさらに適用してもよい。なお、上述した解像度変換処理は、公知の任意の手法を用いてよい。例えば、縮小幅に応じたステップでボクセル値をサンプリングしたり、縮小幅に応じた範囲のボクセルの画素値の平均値を用いたりすることができる。また、上述した解像度変換処理と画素値正規化といった画像処理は、任意の順番で実行することが可能である。
なお、本実施形態では基準断面を9個のパラメータで表現するものとし、本ステップの処理では上記の9個の値をCNNによる推定の出力として直接的に推定する場合を例に説明しているが、CNNによる推定の出力としては他の表現形式を用いてもよい。例えば、基準断面パラメータを7パラメータ(中心位置3パラメータ、回転軸ベクトル3パラメータ、回転角度1パラメータ)で表現し、CNNによる推定の出力はこれら7パラメータを出力するものであってもよい。この場合、CNNによる推定後に上記9パラメータの表現形式に変換してもよい。同様に、CNNによる推定の出力は4×4の剛体変換行列を出力
するものであってもよい。
するものであってもよい。
本実施形態ではA面・B面・C面が互いに直交する場合を例として説明するが、各断面間の位置・姿勢の関係があらかじめ定義されていれば、必ずしもA面・B面・C面が互いに直交でなくてもよい。例えば、B面はA面に対して直交ではなく、長軸周りに80度回転させた断面として定義してもよい。この場合であっても、3つの断面が直交する場合と同様に、本ステップの処理を実施することが可能である。また、観察対象座標系における各断面の位置と姿勢が既知であるなら、3つの断面の交差位置は、必ずしも基準断面パラメータの中心位置(=観察対象の基準位置)と一致しなくてもよい。同様に、3つの断面は、必ずしも面内軸をそれぞれ共有する構成でなくてもよく、各基準断面画像の画像中心は、基準断面パラメータの中心位置や3つの断面の交差位置と必ずしも一致しなくてもよい。
(ステップS204:断面画像の取得)
ステップS204において、断面画像取得部43は、入力3次元画像とステップS203で推定された初期パラメータを用いて、2次元断面画像を切り出す。なお、本実施形態では、各2次元断面画像を取得する際には、基準断面の初期パラメータの中心位置が断面画像の中心になるように切り出されるものとする。すなわち、図4A~図4Cのように中心位置(407)が入力3次元画像(401)の中心ではない場合であっても、図4D~図4Fで示す通り、A面(4021)・B面(4031)・C面(4041)の各断面画像の中心は、中心位置(407)となる。
ステップS204において、断面画像取得部43は、入力3次元画像とステップS203で推定された初期パラメータを用いて、2次元断面画像を切り出す。なお、本実施形態では、各2次元断面画像を取得する際には、基準断面の初期パラメータの中心位置が断面画像の中心になるように切り出されるものとする。すなわち、図4A~図4Cのように中心位置(407)が入力3次元画像(401)の中心ではない場合であっても、図4D~図4Fで示す通り、A面(4021)・B面(4031)・C面(4041)の各断面画像の中心は、中心位置(407)となる。
ここで、2次元断面画像の空間的な解像度は、ステップS203で用いられる解像度を低減した後の3次元画像の解像度よりも高いものとする。例えば、2次元断面画像は1ピクセル当たりの長さ(ピクセルサイズ)は1.2mmで128×128ピクセルの画像を用いるものとする。この場合、ステップS203で用いた1ボクセルあたりの長さが4.8mmの画像に比べて、1辺あたり4倍の解像度を持つ画像となる。このようにすることで、計算量や使用メモリ量を大幅に増大させることなく、解像度が細かい画像を基準断面パラメータ推定に用いることができる。
ここで図4A~図4Fを用いて、断面画像取得処理についてより具体的に説明する。A面断面画像(4021)を取得する場合、まず、中心位置を407、上下方向ベクトルを軸405、左右方向ベクトルを軸406として入力3次元画像(401)をサンプリングする。ここで、1ピクセルあたりの長さは入力3次元画像と同じ(0.6mm)とし、256×256ピクセル(153.6mm×153.6mm)の範囲をサンプリングするものとする。このとき、サンプリング位置が入力3次元画像の定義範囲を超える場合はその位置の画素値は0とする。次に、そのようにして得られた256×256ピクセルの2次元画像の解像度を1/2に低減し、128×128ピクセルの2次元画像を生成する。すなわち、定義範囲は153.6mm×153.6mmで変わらないまま、1ピクセル当たりの長さが1.2mmの2次元画像が得られる。このようにして、A面断面画像を取得することができる。B面断面画像(4031)は、上下方向ベクトルを軸405、左右方向ベクトルを軸408として、A面断面画像と同じ手順で算出される。C面断面画像(4041)についても、上下方向ベクトルを軸406、左右方向ベクトルを軸408とする以外は、A面・B面断面画像の算出手順と同じである。
(ステップS205:補正パラメータの推定)
ステップS205において、補正パラメータ推定部45は、ステップS204で算出された各断面画像を入力とし、学習モデルを用いて断面の種類のそれぞれに対応付いた基準断面パラメータの成分の補正量を算出する。これにより、補正パラメータ推定部45は、初期パラメータの断面画像の画像面内における補正に寄与する指標を推定する。ここで、
A面断面画像・B面断面画像・C面断面画像に対する補正量推定は、それぞれ独立に実行される。いずれの断面画像に対する推定も、断面画像を入力とするCNNを用いて行われる。
ステップS205において、補正パラメータ推定部45は、ステップS204で算出された各断面画像を入力とし、学習モデルを用いて断面の種類のそれぞれに対応付いた基準断面パラメータの成分の補正量を算出する。これにより、補正パラメータ推定部45は、初期パラメータの断面画像の画像面内における補正に寄与する指標を推定する。ここで、
A面断面画像・B面断面画像・C面断面画像に対する補正量推定は、それぞれ独立に実行される。いずれの断面画像に対する推定も、断面画像を入力とするCNNを用いて行われる。
ここで、初期パラメータによって得られる基準断面を変移させるための補正量である補正パラメータの推定処理について具体的に説明する。図5Aを用いて、A面断面画像を用いた補正パラメータの推定処理を説明する。初期パラメータに基づいて取得したA面断面画像(501)において、基準断面の中心位置(507a)は、A面断面画像の中心に位置している。このとき、本ステップでは、この中心位置を「A面面内でどの程度移動させるべきか」という、初期パラメータによって得られる基準断面の位置を基準断面の目標位置へと移動させるための変位量が推定される。すなわち、ステップS203で初期パラメータとして推定された中心位置が、所定の基準(例えば、解剖学的な意味や臨床的ガイドライン)によって定まる基準断面の目標位置となる中心位置に対して、どれだけずれているかが推定される。なお、中心位置の移動量を推定するのではなく、補正後の中心位置(A面内における2次元座標値)を推定してもよい。この場合、例えば、図5Aにおける点517のように、もともとの中心位置とは異なる位置が補正後の中心位置として推定される。
図5Bを用いて、B面断面画像を用いた補正パラメータの推定処理を説明する。初期パラメータでは、長軸ベクトル(505b)は、B面断面画像を上下に貫く軸である。このとき、本ステップでは、この長軸ベクトルを「B面面内でどの程度回転させるべきか」という、初期パラメータによって得られる基準断面の姿勢を基準断面の目標姿勢へと回転させるための回転量が推定される。すなわち、ステップS203で初期パラメータとして推定された長軸ベクトルが、所定の基準(解剖学的な意味や臨床的ガイドライン)によって定まる基準断面の目標となる長軸ベクトルに対して、どれだけずれているかが推定される。なお、長軸ベクトルの回転量を推定するのではなく、補正後の長軸ベクトルの向き(B面内における2次元ベクトル)を推定してもよい。この場合、例えば、図5Bにおけるベクトル515のように、もともとの長軸ベクトルとは異なる向きのベクトルが補正後の長軸ベクトルとして推定される。
あるいは、補正後の長軸ベクトルを直接推定するのではなく、他の指標の推定結果から間接的に補正後の長軸ベクトルを算出してもよい。例えば、B面が僧帽弁輪と交差する2点(図5Bの点510、511)の座標値を推定し、2点を結んだベクトルと直交するベクトルを補正後の長軸ベクトルとして算出してもよい。あるいはこれら2点とは異なる長軸が通過すべき不図示の2点の座標値を推定し、推定した2点を結んだベクトルを補正後の長軸ベクトルとして算出してもよい。
図5Cを用いて、C面断面画像を用いた補正パラメータの推定処理を説明する。初期パラメータでは、短軸ベクトル(506c)は、C面断面画像を上下に貫く軸である。このとき、本ステップでは、この短軸ベクトルを「C面面内でどの程度回転させるべきか」という、初期パラメータによって得られる基準断面の姿勢を基準断面の目標姿勢へと回転させるための回転量が推定される。すなわち、ステップS203で初期パラメータとして推定された短軸ベクトルが、所定の基準(解剖学的な意味や臨床的ガイドライン)によって定まる基準断面の目標の短軸ベクトルに対して、どれだけずれているかが推定される。
なお、B面の場合と同様に、短軸ベクトルの回転量を推定するのではなく、補正後の短軸ベクトルの向き(C面内における2次元ベクトル)を推定してもよい。この場合、例えば、図5Cにおけるベクトル516のように、もともとの短軸ベクトルとは異なる向きのベクトルが補正後の短軸ベクトルとして推定される。
あるいは、補正後の短軸ベクトルを直接推定するのではなく、他の指標の推定結果から間接的に補正後の短軸ベクトルを算出してもよい。例えば、B面が僧帽弁輪と交差する2点(図5Cの点512、513)の座標値を推定し、2点を結んだベクトルと直交するベクトルを補正後の短軸ベクトルとして算出してもよい。あるいはこれら2点とは異なる短軸が通過すべき不図示の2点の座標値を推定し、推定した2点を結んだベクトルを補正後の短軸ベクトルとして算出してもよい。
また、学習モデルを用いず画像処理によって補正後の短軸ベクトルを算出してもよい。例えば、C面断面画像に描出される弁輪の最大径の方向となるベクトルを算出し、そのベクトルと直交するベクトルを短軸ベクトルとしてもよい。同様に、A面断面画像やB面断面画像を用いた補正パラメータの推定処理においても、テンプレートマッチング等の画像処理によって補正に必要な特徴点位置を推定し、それを用いて補正を行う構成でもよい。
なお、本実施形態ではA面・B面・C面という3断面すべてを補正量の算出対象とし、断面画像取得部43が2枚以上の断面画像を取得する場合は、補正パラメータ推定部45が推定する指標は断面画像ごとに異なる。しかし、必ずしも3断面のすべてを補正量の算出対象としなくてもよい。例えば1断面のみを対象にしたり、あるいはA面・B面の2断面を対象にしたりしてもよい。この場合、基準断面パラメータのうち補正量が算出されなかった成分については、初期パラメータとしての推定値を最終パラメータとして使用することができる。あるいは、A面断面画像を用いて中心位置と長軸ベクトル両方の補正量を算出するなど、1つの断面画像から2種類以上の成分の補正量を算出してもよい。
また、本実施形態では、ステップS205の補正パラメータの推定において、2次元断面画像を用いる場合を例として説明したが、少数スライスからなる3次元画像を用いてもよい。この場合、断面画像取得部43は、初期パラメータに基づいて、3次元画像における所定の厚みに対応する複数のスライス数を含む断面画像を3次元画像から取得する。例えば、CNNの入力は少数スライス(例:出力断面画像を中心に前後2スライス)の3次元画像とし、出力は上で述べた処理と同様に面内成分補正量としてもよい。このようにすることで、近傍の3次元空間の画像特徴を考慮した補正量推定を行うことができる。あるいは、出力を面内成分に限定せず、3次元空間における補正量を推定してもよい。すなわち、例えばA面断面画像周辺のスライスからなる3次元画像から、中心位置の3次元座標の補正量を算出する。このようにすることで、より精度の高い補正量算出を行うことが可能になる。
(ステップS206:初期パラメータの補正)
ステップS206において、補正部46は、ステップS203で推定された初期パラメータとステップS205で推定された補正量とを用いて初期パラメータを補正し、最終パラメータを算出する。
ステップS206において、補正部46は、ステップS203で推定された初期パラメータとステップS205で推定された補正量とを用いて初期パラメータを補正し、最終パラメータを算出する。
初期パラメータの補正は以下の手順で行われる。まず、各断面の2次元空間上で定義されている補正量(移動量や回転量)を、3次元空間における移動量や回転量に変換する。次に、変換された移動量や回転量を用いて基準断面の初期パラメータを補正して、最終パラメータを算出する。すなわち、前段のステップS205において、断面画像ごとに各成分独立に推定された補正量を、本ステップにおいて同時に反映させる。なお、ステップS205において補正量ではなく補正後の中心位置や軸ベクトルを推定した場合は、当該推定値を入力画像の座標系である3次元空間座標系へと変換した中心位置や軸ベクトルを、最終パラメータの値とする。
なお、ステップS205においてパラメータの同一成分に関する補正量を複数の断面で算出する場合、本ステップにおいて、補正量の選択や組み合わせを行う。具体的には、例
えば、A面断面から中心位置のA面内移動量が推定され、B面断面から中心位置のB面内移動量と長軸ベクトルのB面内回転量が推定された場合は、中心位置に関して、A面内移動量とB面内移動量という2種類の補正量が存在することになる。このとき、2つの移動量において共通する成分である上下方向の移動量については、両者を統合した値(例えば単純平均値や加重平均値)を用いる。このようにすることで、2種類の補正量をバランスよく反映することができる。他にも、補正パラメータ算出処理の信頼性を評価し、それに基づいて採用する補正量を選択するようにしてもよい。例えば、補正量が所定の値(例えば中心位置の移動量が10mm)以上に大きい場合、補正量の推定に失敗したとみなすという意図に基づき、移動量の絶対値が所定の値以下の補正結果のみを採用して補正するようにしてもよい。このようにすることで、初期パラメータからかけ離れた信頼性の低い補正結果が出力されるリスクを低減することができる。あるいは、一定の基準に基づいて、補正量に重み付けをしてもよい。例えば、断面画像のコントラストに基づき、コントラストの高い断面画像による補正量がより重視されるように重み付けをしてもよい。これによれば、より信頼度の高い補正量を重視した補正量が算出できる。
えば、A面断面から中心位置のA面内移動量が推定され、B面断面から中心位置のB面内移動量と長軸ベクトルのB面内回転量が推定された場合は、中心位置に関して、A面内移動量とB面内移動量という2種類の補正量が存在することになる。このとき、2つの移動量において共通する成分である上下方向の移動量については、両者を統合した値(例えば単純平均値や加重平均値)を用いる。このようにすることで、2種類の補正量をバランスよく反映することができる。他にも、補正パラメータ算出処理の信頼性を評価し、それに基づいて採用する補正量を選択するようにしてもよい。例えば、補正量が所定の値(例えば中心位置の移動量が10mm)以上に大きい場合、補正量の推定に失敗したとみなすという意図に基づき、移動量の絶対値が所定の値以下の補正結果のみを採用して補正するようにしてもよい。このようにすることで、初期パラメータからかけ離れた信頼性の低い補正結果が出力されるリスクを低減することができる。あるいは、一定の基準に基づいて、補正量に重み付けをしてもよい。例えば、断面画像のコントラストに基づき、コントラストの高い断面画像による補正量がより重視されるように重み付けをしてもよい。これによれば、より信頼度の高い補正量を重視した補正量が算出できる。
(ステップS207:断面画像の取得)
ステップS207において、断面画像取得部43は、入力3次元画像とステップS206で推定された補正後の基準断面パラメータを用いて、2次元断面画像を切り出す。これにより取得される2次元断面画像は、基準断面の中心位置や各軸ベクトルが上記のように補正された断面画像となる。
ステップS207において、断面画像取得部43は、入力3次元画像とステップS206で推定された補正後の基準断面パラメータを用いて、2次元断面画像を切り出す。これにより取得される2次元断面画像は、基準断面の中心位置や各軸ベクトルが上記のように補正された断面画像となる。
(ステップS208:推定結果の表示)
ステップS208において表示処理部51は、ステップS207において最終パラメータを用いて入力3次元画像を切断した断面画像を、容易に視認できるような表示形態で、表示部36の画像表示領域内に表示させる。
ステップS208において表示処理部51は、ステップS207において最終パラメータを用いて入力3次元画像を切断した断面画像を、容易に視認できるような表示形態で、表示部36の画像表示領域内に表示させる。
なお、最終パラメータに基づいて表示を行うのではなく、ステップS204で取得した「初期パラメータに基づく断面画像」とステップS205で算出した「補正量」とを組み合わせた表示形態で表示を行ってもよい。例えば、断面画像は基準断面の初期パラメータに基づいて生成する。そして、これら断面画像上に中心位置の移動量やベクトルの回転量を矢印等で可視化した情報を重畳表示する。この場合、ステップS206の補正処理を省略することが可能となる。また、基準断面に基づく解析や計測を目的とする場合、ステップS208の表示処理は必須ではなく、ステップS206で得た最終パラメータを用いて入力3次元画像からそれぞれの断面画像を生成しこれを記憶装置に保存する構成や外部に出力する構成でもよい。また、ステップS206で得た最終パラメータを記憶部34や外部に出力する構成であってもよい。
本実施形態によれば、3次元画像から基準断面パラメータを算出する処理において、解像度の低い3次元画像から推定された初期パラメータを、2次元断面画像に基づいて補正する。これにより、計算量を増大させることなく高精度な推定を行うことが可能となる。
<第1実施形態の変形例1>
以下、上記の第1実施形態の変形例について説明する。第1実施形態では、処理対象が心臓僧帽弁領域を撮像した3次元超音波画像である例を示したが、本開示の技術は、僧帽弁以外の心臓の領域や、心臓以外の他の臓器を撮像した画像、他のモダリティによる画像を用いる場合でも実施可能である。
以下、上記の第1実施形態の変形例について説明する。第1実施形態では、処理対象が心臓僧帽弁領域を撮像した3次元超音波画像である例を示したが、本開示の技術は、僧帽弁以外の心臓の領域や、心臓以外の他の臓器を撮像した画像、他のモダリティによる画像を用いる場合でも実施可能である。
心臓僧帽弁領域以外の領域を超音波画像以外のモダリティで撮影した画像に対して本発明を適用する例としては、脳MRI画像から間脳や脳梁といった所定の構造を検出する場合が挙げられる。これらの構造を検出する場合、例えば当該構造を視認できる位置を通る
アキシャル断面を基準断面するようにできる。この場合まず、この基準断面(アキシャル断面)の初期値をCNNで算出する。そして、アキシャル断面やアキシャル断面と直交するコロナル、サジタルの各断面の画像を取得する。さらに当該画像上において脳の構造を表す所定の解剖学的ランドマークの位置を示す点座標を推定する。最終的に、これらランドマークの点座標の推定値を用いて、アキシャル断面を表すパラメータを補正する。
アキシャル断面を基準断面するようにできる。この場合まず、この基準断面(アキシャル断面)の初期値をCNNで算出する。そして、アキシャル断面やアキシャル断面と直交するコロナル、サジタルの各断面の画像を取得する。さらに当該画像上において脳の構造を表す所定の解剖学的ランドマークの位置を示す点座標を推定する。最終的に、これらランドマークの点座標の推定値を用いて、アキシャル断面を表すパラメータを補正する。
このように、本変形例によれば、3次元超音波画像以外のモダリティの画像に対しても、また心臓僧帽弁以外の領域を対象としても、本開示の技術を適用することができる。
<第1実施形態の変形例2>
次に、第1実施形態の別の変形例について説明する。第1実施形態では、ステップS203で基準断面パラメータの初期値を推定する際、CNNを用いて「画像とパラメータ値との関係」を学習していたが、このように画像とパラメータとの関係を学習する以外の手法でも本開示の技術は実施可能である。
次に、第1実施形態の別の変形例について説明する。第1実施形態では、ステップS203で基準断面パラメータの初期値を推定する際、CNNを用いて「画像とパラメータ値との関係」を学習していたが、このように画像とパラメータとの関係を学習する以外の手法でも本開示の技術は実施可能である。
一例としては、「入力画像が基準断面として適切であるか否か」を、Random Forestsといった公知の識別器を用いて識別する方法が挙げられる。この場合、学習段階ではまず、学習用3次元画像を多数のランダムな断面パラメータで切り出す。このとき、基準断面として適切(基準断面に近い)なパラメータで切り出した画像を「基準断面である」、基準断面として不適切(基準断面に対して遠い)なパラメータで切り出した画像を「基準断面ではない」とラベル付けする。ここで、基準断面に対して近いもしくは遠いとは、基準断面との位置・姿勢の差異が所定の値(例えば5.0mm・5.0度)未満もしくは以上である場合を指す。そして、これらラベル付けされた画像をRandom Forestsに入力して、識別器を学習する。推定段階では、ランダムな断面パラメータを多数生成し、それらのパラメータを用いて入力3次元画像から多数の断面画像を切り出し、各断面画像について識別器を用いて「基準断面か否か」を識別する。そして、「基準断面である」と判定された断面画像を生成する際に用いたパラメータの平均値を、基準断面パラメータの推定結果として出力する。
あるいは、学習データに基づかないアルゴリズムを適用して初期パラメータを推定することも可能である。例えば、基準断面の各断面画像(A面、B面、C面)について、それぞれ典型的な態様を表す2次元テンプレートを用意し、入力3次元画像の中で当該テンプレートがよく当てはまる位置・姿勢を探索するテンプレートマッチングを行ってもよい。さらに、画像処理装置10が自動的に初期パラメータを推定するのではなく、操作部35を介してユーザによる基準断面パラメータの初期値の入力を受け付けてもよい。
このように、本変形例によれば、CNNに限らず、多様な方法に基づいて基準断面パラメータの初期値を決定することが可能である。
<第1実施形態の変形例3>
第1実施形態では、観察対象座標系における3枚(A面・B面・C面)の断面の位置と姿勢が既知であり、共通の基準断面パラメータから各基準断面の位置と姿勢が一意に算出される場合を例に説明した。しかし、それぞれの基準断面が独立して定義される場合でもあっても、本開示の技術を適用可能である。
第1実施形態では、観察対象座標系における3枚(A面・B面・C面)の断面の位置と姿勢が既知であり、共通の基準断面パラメータから各基準断面の位置と姿勢が一意に算出される場合を例に説明した。しかし、それぞれの基準断面が独立して定義される場合でもあっても、本開示の技術を適用可能である。
一例として、A面・B面・C面の3断面が中心位置を共有しておらず、かつ非直交の場合を例に挙げて説明する。第1実施形態では、9個のパラメータ(位置3パラメータ、長軸ベクトル3パラメータ、短軸ベクトル3パラメータ)を用いて3断面を表現していたが、3断面が互いに独立の場合、各断面を表現するためにそれぞれ9個のパラメータが必要となる。すなわち、本変形例における基準断面パラメータは、観察対象の位置と姿勢を表
すパラメータではなく、それぞれの基準断面の位置と姿勢を直接表すパラメータとなる。したがって、ステップS203では、基準断面の初期パラメータとして、全部で27個のパラメータを推定する。また、ステップS205では第1実施形態と同様に、各断面において断面の面内成分の補正量を算出するが、各断面が互いに独立している場合には、ある断面を用いて算出された補正量は他の断面には影響を及ぼさない。すなわち断面ごとに推定した補正量は、断面毎に独立して適用される。
すパラメータではなく、それぞれの基準断面の位置と姿勢を直接表すパラメータとなる。したがって、ステップS203では、基準断面の初期パラメータとして、全部で27個のパラメータを推定する。また、ステップS205では第1実施形態と同様に、各断面において断面の面内成分の補正量を算出するが、各断面が互いに独立している場合には、ある断面を用いて算出された補正量は他の断面には影響を及ぼさない。すなわち断面ごとに推定した補正量は、断面毎に独立して適用される。
なお、各断面は、上記のようにそれぞれが完全に独立であってもよいし、ある断面とある断面に関しては、中心位置と長軸を共有するが面同士が交わる角度だけが不定であるなど、一部のパラメータを共有し一部のパラメータのみが独立する構成であってもよい。このような場合には、不定となるパラメータのみを初期パラメータとして推定する。この場合、ある断面を用いて算出された補正量は、その補正量が他の断面と共有するパラメータに影響を及ぼす場合にのみ、当該断面のパラメータの補正が行われる。
あるいは、A面・B面・C面という3つの基準断面を用いる場合に限らず、基準断面の数が1面乃至2面、あるいは4面以上の場合であっても、所定の数のパラメータで基準断面を表現できれば、本開示の技術を第1実施形態と同様に適用することが可能である。
<第2実施形態>
次に、第2実施形態について説明する。なお、以下の説明において第1実施形態と同様の構成や処理については同一の符号を付し、詳細な説明は省略する。本実施形態に係る画像処理装置10の構成は図1に示す構成である。
次に、第2実施形態について説明する。なお、以下の説明において第1実施形態と同様の構成や処理については同一の符号を付し、詳細な説明は省略する。本実施形態に係る画像処理装置10の構成は図1に示す構成である。
第2実施形態に係る画像処理装置10は、第1実施形態と同様に、心臓領域を撮像した3次元超音波画像を入力し、観察用の基準断面を推定する装置である。第1実施形態では、ステップS205で推定される補正量は、無条件に最終的な推定結果に反映される。しかし、本実施形態のように、一定の基準に基づいて、推定された補正量を最終結果に反映させるかどうかの判定を行ってもよい。これにより、補正パラメータ推定部45が推定する指標が複数存在する場合、補正部46は指標に基づく初期パラメータの補正を行うか否かを指標ごとに判定することができる。
以下に説明するように、本実施形態における画像処理装置10では、補正部46と表示処理部51の処理が第1実施形態における処理と異なる。
補正部46は、補正パラメータ推定部45で推定された基準断面パラメータの補正量を、初期パラメータ推定部42が推定した初期パラメータに適用して、最終パラメータを算出する。この際、補正結果を受け入れるか否かに対するユーザの判断結果を、操作部35を通して取得して、基準断面パラメータの補正量を適用するかどうかを決定する。そして、適用すると決定された場合に、基準断面パラメータの補正量を初期パラメータに適用する。
表示処理部51は、第1実施形態で述べた表示処理部51の機能に加えて、ユーザが基準断面パラメータの補正結果を受け入れるか否かを判断できるような表示形態で、基準断面パラメータに基づく断面画像を表示する機能を有する。補正部46および表示処理部51による処理の詳細は、ステップS406の説明で後述する。
次に、図6のフローチャートを用いて、第2実施形態における画像処理装置10の処理の例を説明する。ここで、ステップS601からS605、そしてS608、S609の処理は、第1実施形態のフローチャート(図2)におけるステップS201からS205、そしてS207、S208の処理と同一である。以下、第1実施形態と異なる処理ステ
ップについてのみ、説明を行う。
ップについてのみ、説明を行う。
(ステップS606:補正パラメータの判定)
ステップ606において、補正部46は、操作部35と表示処理部51を制御することで、ステップS605で推定された基準断面パラメータの補正量を採用するか否かを、基準断面パラメータの成分ごとに判定する。以下、処理手順を具体的に示す。
ステップ606において、補正部46は、操作部35と表示処理部51を制御することで、ステップS605で推定された基準断面パラメータの補正量を採用するか否かを、基準断面パラメータの成分ごとに判定する。以下、処理手順を具体的に示す。
第1に、表示処理部51が、ユーザが判定結果を判断するために必要な画像表示を行う。例えば、補正前の基準断面パラメータ(初期パラメータ)に基づき生成された断面画像と、補正量を反映した基準断面パラメータに基づき生成された断面画像とを並べて表示する。ユーザは、初期パラメータに基づいて生成された断面画像と補正量を反映したパラメータで生成された断面画像とを見比べることで、補正量が適切であるか否かを判断することができる。
なお、ユーザが補正量の適切さを判断できれば、上記とは別の表示方法を用いてもよい。例えば、補正前の初期パラメータに基づいて生成した断面画像上に、中心位置の補正量(移動量)や軸ベクトルの補正量(回転量)を示す矢印等を重畳表示してもよい。あるいは、図5A~図5Cに示すように、補正前と補正後の中心位置や軸ベクトルを、点や直線で示してもよい。
第2に、補正部46が、操作部35を通じて、ユーザによる「補正結果を受け入れるか否か」の選択結果を取得する。このとき、補正部46は、補正結果を受け入れるか否かの選択結果を、基準断面パラメータの成分ごとに受け付ける。すなわち、補正部46は、中心位置・長軸ベクトル・短軸ベクトルの3種類の成分それぞれに対して、補正結果を受け入れるか否かの判定を行う。
なお、補正部46は、補正結果を受け入れるか受け入れないかのいずれかの選択結果だけでなく、ユーザによる補正結果の入力を受け付け、受け付けた補正結果を基に初期パラメータを補正してもよい。例えば、ユーザが、補正後の断面画像を確認しながら、操作部35を操作して、断面画像上で対話的に中心位置や姿勢(具体的には軸ベクトルの値)を補正してもよい。この場合、補正部46は、ユーザからの補正指示を新たな補正量として採用する。また、このようにして得られた補正結果を受け入れるか否かの指示は、補正量とともにRAM33に格納される。あるいは、補正結果を受け入れるか否かの選択を行わず、初期パラメータをもとに、ユーザが常に手動で補正を行うようにしてもよい。
なお、ユーザが手動で補正結果を受け入れるか否かを判断するのではなく、所定の基準に基づいて自動的に判定してもよい。例えば、補正部46は、ステップS605によって算出された補正量(すなわち中心位置の移動量や軸ベクトルの回転量)が所定の値よりも大きかった場合、補正量の推定に失敗したと判定し、補正結果を受け入れないという判断を行ってもよい。あるいは、補正部46は、「各断面画像の適切さ(尤もらしさ)」を定量的に評価する識別器を断面画像ごとに取得し、補正後の断面画像を識別器で識別させた結果の尤度が所定の値を下回った場合に、補正量の推定に失敗したと判定してもよい。また、例えば、補正部46は、これら自動的な判定結果によって補正量の推定に失敗したと判定した場合に、ユーザに対して補正量の修正を促すメッセージを表示部36に表示してもよい。
(ステップS607:初期パラメータの補正)
ステップS607において、補正部46は、ステップS603で推定された初期パラメータとステップS605で推定された補正量とを用いて初期パラメータを補正し、最終パラメータを算出する。本ステップの処理は、ステップS606における補正量の判定結果
を用いること以外は、第1実施形態におけるステップS206の処理と同じである。すなわち、補正部46は、ステップS606によって「補正結果を受け入れる」と判定された成分のパラメータのみ、初期パラメータに対する補正に反映させる。
ステップS607において、補正部46は、ステップS603で推定された初期パラメータとステップS605で推定された補正量とを用いて初期パラメータを補正し、最終パラメータを算出する。本ステップの処理は、ステップS606における補正量の判定結果
を用いること以外は、第1実施形態におけるステップS206の処理と同じである。すなわち、補正部46は、ステップS606によって「補正結果を受け入れる」と判定された成分のパラメータのみ、初期パラメータに対する補正に反映させる。
以上のように、本実施形態によれば、初期パラメータの補正にユーザによる判断を用いることで、より柔軟で質の高い基準断面パラメータ推定を行うことができる。
<第3実施形態>
次に、第3実施形態について説明する。なお、以下の説明において、第1実施形態および第2実施形態と同様の構成や処理については同一の符号を付し、詳細な説明を省略する。
次に、第3実施形態について説明する。なお、以下の説明において、第1実施形態および第2実施形態と同様の構成や処理については同一の符号を付し、詳細な説明を省略する。
第3実施形態に係る画像処理装置は、第1実施形態および第2実施形態と同様に、入力3次元画像の基準断面を推定する装置である。本実施形態に係る画像処理装置10の構成は図1に示す構成である。
また、本実施形態の画像処理装置10は、第1実施形態および第2実施形態と同様に、基準断面の初期パラメータを算出し、初期パラメータに基づいて生成された断面画像を用いて補正量を算出する。ただし、第1実施形態および第2実施形態では、中心位置・長軸ベクトル・短軸ベクトルという3種類の成分の補正量が独立(並列)に推定され、またそれら補正量が同時に最終パラメータに反映される。しかし、本実施形態では、各成分の補正量の推定と補正量の基準断面パラメータへの反映とが順次行われる。すなわち、本実施形態に係る画像処理装置10では、補正する成分の順番があらかじめ決められている。補正する成分の順番に関する情報は、記憶部34などに格納されてよい。
そして、まず補正パラメータ推定部45が1番目の成分に対する補正量の推定を行い、断面画像取得部43が、推定された1番目の成分に基づいて補正された基準断面パラメータによって切り出される断面画像(補正後断面画像)を取得する。そして、補正パラメータ推定部45は、補正後断面画像に基づいて、2番目の成分に対する補正量の推定を行う。同様に、断面画像取得部43は、推定結果に基づいて補正された補正後断面画像を取得し、補正パラメータ推定部45は、補正後断面画像に基づいて、3番目の成分に対する補正量の推定を行う。
断面画像取得部43は、第1実施形態と同様に、画像取得部61が取得した入力3次元画像を、基準断面パラメータに基づいてすることで2次元断面画像を生成する。また、断面画像取得部43は、初期パラメータ推定部42によって推定された基準断面の初期パラメータに基づいて断面画像を生成するだけでなく、補正部46によって補正された基準断面パラメータに基づく断面画像生成も行う。
補正パラメータ推定部45は、第1実施形態と同様に、断面画像取得部43によって生成された2次元断面画像に基づいて、各断面画像の種類と対応付いた成分の補正量を算出する。ただし、第1実施形態と異なり、補正パラメータ推定部45は、A面・B面・C面すべての補正量算出を同時に、独立に行うのではなく、あらかじめ定められた順番に基づいて、現在対象とする断面の補正量推定のみを行う。例えば、「A面、B面、C面の順番で補正する」と定められている場合、補正パラメータ推定部45は、A面の補正量の推定と当該補正量の基準断面パラメータへの反映の完了後に、B面の断面画像を用いた補正量の推定を行う。さらに、補正パラメータ推定部45は、B面の補正量の推定と当該補正量の基準断面パラメータへの反映の完了後に、C面の断面画像を用いた補正量の推定を行う。具体的な処理の順番については後述する。
補正部46は、第1実施形態と同様に、補正パラメータ推定部45で推定された補正量を用いて基準断面パラメータの補正を行う。第1実施形態では、補正部46は、A面・B面・C面のすべての補正量を用いて基準断面パラメータを補正する。一方、本実施形態では、補正部46は、補正パラメータ推定部45で推定対象とした成分の補正量のみを用いて基準断面パラメータを補正する。
次に、図7のフローチャートを用いて、本実施形態に係る画像処理装置10における処理の一例について説明する。なお、S701からS703、そしてS708、S709の処理は、図2のフローチャートにおけるS201からS203、そしてS207、S208の処理とそれぞれ同じであるため、ここでは詳細な説明を省略する。
(ステップS704:断面画像の取得)
ステップS704において、断面画像取得部43は、画像取得部41が取得した入力3次元画像を、基準断面パラメータに基づいて切断した2次元断面画像を生成する。
ステップS704において、断面画像取得部43は、画像取得部41が取得した入力3次元画像を、基準断面パラメータに基づいて切断した2次元断面画像を生成する。
第1実施形態におけるステップS204では、常に、ステップS203で推定された初期パラメータに基づいて2次元断面画像が算出される。しかし、本実施形態では、処理が後段のステップS705~S707を経てからステップS704に戻る場合、ステップS704では、ステップS706において補正された基準断面パラメータに基づいて2次元断面画像を取得する。
例えば、ステップS706においてA面を用いた基準断面パラメータの補正が行われた後にステップS704に処理が戻る場合、S704において取得される断面画像は、A面に対応する成分、すなわち中心位置のみが補正された状態の断面画像である。この場合、ステップS704では、中心位置は補正後の中心位置が採用され、それ以外の成分(長軸ベクトル・短軸ベクトル)は初期パラメータが採用されて、断面画像取得部43によって断面画像が取得される。
(ステップS705:補正パラメータの推定)
ステップS705において、補正パラメータ推定部45は、ステップS704で取得された断面画像を用いて、断面の種類に対応する基準断面パラメータの成分の補正量を推定する。
ステップS705において、補正パラメータ推定部45は、ステップS704で取得された断面画像を用いて、断面の種類に対応する基準断面パラメータの成分の補正量を推定する。
ステップS705では、第1実施形態におけるステップS205とは異なり、あらかじめ定められた順番に従って、ある1種類の断面画像に対する補正パラメータの推定を行う。例えば、補正の順番がA面、B面、C面の順と定められていて、A面の補正が完了した状態でステップS705を行う場合は、ステップS705ではB面断面画像を対象にパラメータ補正量の推定を行う。なお、各断面画像に対する補正量の推定処理は、第1実施形態におけるステップS205の処理と同じである。
(ステップS706:パラメータの補正)
ステップS706において補正部46は、ステップS705で推定されたパラメータの補正量を用いて補正後の基準断面パラメータを算出する。
ステップS706において補正部46は、ステップS705で推定されたパラメータの補正量を用いて補正後の基準断面パラメータを算出する。
第1実施形態におけるステップS206では、初期パラメータを入力として、中心位置・長軸ベクトル・短軸ベクトルすべての補正量を同時に初期パラメータに反映していた。一方、本実施形態のステップS705の処理は、ステップS704~S707の処理によって得られるパラメータの補正量が推定された成分について、初期パラメータを補正する。すなわち、基準断面パラメータの一部の成分について更新が行われる。なお、推定された補正量を用いて基準断面パラメータを補正する処理自体は、第1実施形態の処理と同じ
である。
である。
(ステップS707:全パラメータの補正が完了したか否かの判定)
ステップS707において補正部46は、補正対象となる基準断面パラメータのすべての成分の補正が完了したか否かを判定する。例えば、補正の順番がA面・B面・C面と定められている場合に、補正部46は、各断面の補正が完了している場合に初期パラメータの補正が完了したとみなし(S707:YES)、ステップS708へと処理を進める。一方、補正が完了していない断面がある、すなわち初期パラメータの一部の成分が基準断面パラメータとして残っている場合は、補正部46は、補正は未完了であるとみなし(S707:NO)、処理をステップS704へと戻す。
ステップS707において補正部46は、補正対象となる基準断面パラメータのすべての成分の補正が完了したか否かを判定する。例えば、補正の順番がA面・B面・C面と定められている場合に、補正部46は、各断面の補正が完了している場合に初期パラメータの補正が完了したとみなし(S707:YES)、ステップS708へと処理を進める。一方、補正が完了していない断面がある、すなわち初期パラメータの一部の成分が基準断面パラメータとして残っている場合は、補正部46は、補正は未完了であるとみなし(S707:NO)、処理をステップS704へと戻す。
本実施形態によれば、基準断面パラメータのある成分(例えば中心位置)の補正が反映された断面画像に基づいて、残りの成分(例えば長軸ベクトル)の補正量を推定する。すなわち、本実施形態に係る画像処理装置10は、基準断面パラメータの補正を逐次的に実行する。そのため、本実施形態によれば、基準断面パラメータの各成分の補正量を独立に推定して同時に反映する場合に比べ、基準断面パラメータの各成分の補正結果間で不適合や矛盾が生じる可能性を小さくすることができる。これにより、より質の高い基準断面パラメータを算出できる。
なお、本実施形態ではA面・B面・C面の順番で補正量の反映を行う場合を例に挙げて説明したが、異なる順番であってもよい。また、いずれか1つの断面に対する補正を行わなくてもよい。あるいは、第2実施形態で説明した処理と組み合わせて、補正量を反映するか否かを断面ごとに判定してもよい。このように、補正パラメータ推定部45は、断面画像を構成する複数の画像の一部に基づいて指標を推定し、複数の画像のいずれの画像に基づいて指標を推定するかを所定の順番で順次切り替えることができる。
以上が本実施形態に関する説明であるが、上記の電子機器の構成や処理は、上記の実施形態に限定されるものではなく、本発明の技術的思想と同一性を失わない範囲内において種々の変更が可能である。例えば、上記の各実施形態の処理は適宜組み合わされて実施することで、基準断面パラメータの推定精度を高めることができる。
<その他の実施形態>
本開示の技術は、例えば、システム、装置、方法、プログラム若しくは記録媒体(記憶媒体)等としての実施態様をとることが可能である。具体的には、複数の機器(例えば、ホストコンピュータ、インターフェイス機器、撮像装置、webアプリケーション等)から構成されるシステムに適用してもよいし、また、1つの機器からなる装置に適用してもよい。
本開示の技術は、例えば、システム、装置、方法、プログラム若しくは記録媒体(記憶媒体)等としての実施態様をとることが可能である。具体的には、複数の機器(例えば、ホストコンピュータ、インターフェイス機器、撮像装置、webアプリケーション等)から構成されるシステムに適用してもよいし、また、1つの機器からなる装置に適用してもよい。
また、本発明の目的は、以下のようにすることによって達成されることはいうまでもない。すなわち、上記の実施形態の機能を実現するソフトウェアのプログラムコード(コンピュータプログラム)を記録した記録媒体(または記憶媒体)を、システムあるいは装置に供給する。係る記憶媒体はいうまでもなく、コンピュータ読み取り可能な記憶媒体である。そして、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記録媒体に格納されたプログラムコードを読み出し実行する。この場合、記録媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記録した記録媒体は本発明を構成することになる。
本実施形態の開示は、以下の構成を含む。
(構成1)
被検体の3次元画像を取得する画像取得部と、
前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う初期パラメータ推定部と、
前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得部と、
前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定部と
を備えることを特徴とする画像処理装置。
(構成2)
前記断面画像取得部は、前記初期パラメータに基づいて、前記3次元画像における所定の厚みに対応する複数のスライスを含む断面画像を前記3次元画像から取得することを特徴とする構成1に記載の画像処理装置。
(構成3)
前記断面画像取得部が取得する前記断面画像の解像度は、解像度を低減した後の前記3次元画像の解像度よりも高いことを特徴とする構成1または2に記載の画像処理装置。
(構成4)
前記断面画像取得部が2枚以上の前記断面画像を取得する場合は、前記指標推定部が推定する前記指標は断面画像ごとに異なることを特徴とする構成1から3のいずれか1項に記載の画像処理装置。
(構成5)
前記初期パラメータ推定部は、前記3次元画像の解像度を低減させた画像に基づいて、前記初期パラメータを推定することを特徴とする構成1から4のいずれか1項に記載の画像処理装置。
(構成6)
学習モデルを取得する学習モデル取得部をさらに備え、
前記学習モデルは、学習用3次元画像と該学習用3次元画像における前記基準断面を得るためのパラメータとの組を含む情報を用いた学習処理により作成された初期パラメータ推定用学習モデルと、学習用断面画像と該学習用断面画像における基準断面パラメータの補正に寄与する指標との組を含む情報を用いた学習処理により作成された指標推定用学習モデルのうちの少なくとも1つであり、
前記初期パラメータ推定部および前記指標推定部の少なくとも一方は、前記学習モデルに基づいて前記推定を行う
ことを特徴とする構成1から5のいずれか1項に記載の画像処理装置。
(構成7)
前記初期パラメータは前記3次元画像における前記基準断面の位置または姿勢に関する情報であることを特徴とする構成1から6のいずれか1項に記載の画像処理装置。
(構成8)
前記指標推定部が推定する前記指標は、前記初期パラメータの前記断面画像の画像面内における補正に寄与する指標であることを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
(構成9)
前記指標推定部が推定する前記指標は、前記初期パラメータによって得られる基準断面を変移させるための補正量であることを特徴とする構成1から8のいずれか1項に記載の画像処理装置。
(構成10)
前記補正量は、前記初期パラメータによって得られる基準断面の位置を前記基準断面の目標位置へと移動させるための変位量、および、前記初期パラメータによって得られる基準断面の姿勢を前記基準断面の目標姿勢へと回転させるための回転量、のうちの少なくとも1つであることを特徴とする構成9に記載の画像処理装置。
(構成11)
前記指標推定部が推定する前記指標は、前記基準断面を得るためのパラメータであり、
前記指標推定部は前記基準断面を得るためのパラメータを前記初期パラメータに基づいて推定する
ことを特徴とする構成1から8のいずれか1項に記載の画像処理装置。
(構成12)
前記基準断面を得るための前記パラメータは、前記基準断面の目標位置の推定値、および、前記基準断面の目標となる軸ベクトルの推定値のうちの少なくとも1つであることを特徴とする構成11に記載の画像処理装置。
(構成13)
前記指標推定部は、断面画像上の複数の所定のランドマークの位置の推定を行い、前記位置の推定の結果に基づいて前記基準断面を得るためのパラメータを推定することを特徴とする構成11または12に記載の画像処理装置。
(構成14)
前記指標推定部が推定する前記指標に基づいて、前記初期パラメータを補正する補正部をさらに備えることを特徴とする構成1から12のいずれか1項に記載の画像処理装置。(構成15)
前記補正部は、前記指標推定部が推定する前記指標に基づく前記初期パラメータの補正を行うか否かを判定し、該判定の結果に基づいて前記初期パラメータの補正を行うことを特徴とする構成14に記載の画像処理装置。
(構成16)
前記指標推定部が推定する前記指標が複数存在する場合、前記補正部は前記指標に基づく前記初期パラメータの補正を行うか否かを指標ごとに判定することを特徴とする構成15に記載の画像処理装置。
(構成17)
前記3次元画像、前記断面画像、および前記指標推定部が推定する前記指標を表示する処理を行う表示処理部をさらに備え、
前記補正部は、前記指標推定部が推定する前記指標のうちどの指標に基づいて前記初期パラメータの補正を行うかに関するユーザの選択結果を取得し、前記選択結果に基づいて前記初期パラメータの補正を行う
ことを特徴とする構成14から16のいずれか1項に記載の画像処理装置。
(構成18)
前記3次元画像、前記断面画像、および前記指標推定部が推定する前記指標を表示する処理を行う表示処理部をさらに備え、
前記補正部は、ユーザからの指示に基づいて、前記指標推定部が推定する前記指標を修正し、修正された前記指標に基づいて前記初期パラメータの補正を行うことを特徴とする構成16に記載の画像処理装置。
(構成19)
前記断面画像は画像間の位置および姿勢が所定の関係となる複数の画像により構成され、
前記断面画像取得部は、前記補正部により補正された断面パラメータに基づいて、前記3次元画像から補正後断面画像を取得し、
前記指標推定部は、前記補正後断面画像に基づいて前記指標の推定をさらに行う
ことを特徴とする構成14に記載の画像処理装置。
(構成20)
前記指標推定部は、前記断面画像を構成する複数の画像の一部に基づいて前記指標を推定し、
前記指標推定部は、前記複数の画像のいずれの画像に基づいて前記指標を推定するかを所定の順番で順次切り替える
ことを特徴とする構成19に記載の画像処理装置。
(方法1)
被検体の3次元画像を取得する画像取得ステップと、
前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う推定ステップと、
前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得ステップと、
前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定ステップと
を含むことを特徴とする画像処理方法。
(プログラム1)
コンピュータに方法1に記載の画像処理方法を実行させるプログラム。
(構成1)
被検体の3次元画像を取得する画像取得部と、
前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う初期パラメータ推定部と、
前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得部と、
前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定部と
を備えることを特徴とする画像処理装置。
(構成2)
前記断面画像取得部は、前記初期パラメータに基づいて、前記3次元画像における所定の厚みに対応する複数のスライスを含む断面画像を前記3次元画像から取得することを特徴とする構成1に記載の画像処理装置。
(構成3)
前記断面画像取得部が取得する前記断面画像の解像度は、解像度を低減した後の前記3次元画像の解像度よりも高いことを特徴とする構成1または2に記載の画像処理装置。
(構成4)
前記断面画像取得部が2枚以上の前記断面画像を取得する場合は、前記指標推定部が推定する前記指標は断面画像ごとに異なることを特徴とする構成1から3のいずれか1項に記載の画像処理装置。
(構成5)
前記初期パラメータ推定部は、前記3次元画像の解像度を低減させた画像に基づいて、前記初期パラメータを推定することを特徴とする構成1から4のいずれか1項に記載の画像処理装置。
(構成6)
学習モデルを取得する学習モデル取得部をさらに備え、
前記学習モデルは、学習用3次元画像と該学習用3次元画像における前記基準断面を得るためのパラメータとの組を含む情報を用いた学習処理により作成された初期パラメータ推定用学習モデルと、学習用断面画像と該学習用断面画像における基準断面パラメータの補正に寄与する指標との組を含む情報を用いた学習処理により作成された指標推定用学習モデルのうちの少なくとも1つであり、
前記初期パラメータ推定部および前記指標推定部の少なくとも一方は、前記学習モデルに基づいて前記推定を行う
ことを特徴とする構成1から5のいずれか1項に記載の画像処理装置。
(構成7)
前記初期パラメータは前記3次元画像における前記基準断面の位置または姿勢に関する情報であることを特徴とする構成1から6のいずれか1項に記載の画像処理装置。
(構成8)
前記指標推定部が推定する前記指標は、前記初期パラメータの前記断面画像の画像面内における補正に寄与する指標であることを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
(構成9)
前記指標推定部が推定する前記指標は、前記初期パラメータによって得られる基準断面を変移させるための補正量であることを特徴とする構成1から8のいずれか1項に記載の画像処理装置。
(構成10)
前記補正量は、前記初期パラメータによって得られる基準断面の位置を前記基準断面の目標位置へと移動させるための変位量、および、前記初期パラメータによって得られる基準断面の姿勢を前記基準断面の目標姿勢へと回転させるための回転量、のうちの少なくとも1つであることを特徴とする構成9に記載の画像処理装置。
(構成11)
前記指標推定部が推定する前記指標は、前記基準断面を得るためのパラメータであり、
前記指標推定部は前記基準断面を得るためのパラメータを前記初期パラメータに基づいて推定する
ことを特徴とする構成1から8のいずれか1項に記載の画像処理装置。
(構成12)
前記基準断面を得るための前記パラメータは、前記基準断面の目標位置の推定値、および、前記基準断面の目標となる軸ベクトルの推定値のうちの少なくとも1つであることを特徴とする構成11に記載の画像処理装置。
(構成13)
前記指標推定部は、断面画像上の複数の所定のランドマークの位置の推定を行い、前記位置の推定の結果に基づいて前記基準断面を得るためのパラメータを推定することを特徴とする構成11または12に記載の画像処理装置。
(構成14)
前記指標推定部が推定する前記指標に基づいて、前記初期パラメータを補正する補正部をさらに備えることを特徴とする構成1から12のいずれか1項に記載の画像処理装置。(構成15)
前記補正部は、前記指標推定部が推定する前記指標に基づく前記初期パラメータの補正を行うか否かを判定し、該判定の結果に基づいて前記初期パラメータの補正を行うことを特徴とする構成14に記載の画像処理装置。
(構成16)
前記指標推定部が推定する前記指標が複数存在する場合、前記補正部は前記指標に基づく前記初期パラメータの補正を行うか否かを指標ごとに判定することを特徴とする構成15に記載の画像処理装置。
(構成17)
前記3次元画像、前記断面画像、および前記指標推定部が推定する前記指標を表示する処理を行う表示処理部をさらに備え、
前記補正部は、前記指標推定部が推定する前記指標のうちどの指標に基づいて前記初期パラメータの補正を行うかに関するユーザの選択結果を取得し、前記選択結果に基づいて前記初期パラメータの補正を行う
ことを特徴とする構成14から16のいずれか1項に記載の画像処理装置。
(構成18)
前記3次元画像、前記断面画像、および前記指標推定部が推定する前記指標を表示する処理を行う表示処理部をさらに備え、
前記補正部は、ユーザからの指示に基づいて、前記指標推定部が推定する前記指標を修正し、修正された前記指標に基づいて前記初期パラメータの補正を行うことを特徴とする構成16に記載の画像処理装置。
(構成19)
前記断面画像は画像間の位置および姿勢が所定の関係となる複数の画像により構成され、
前記断面画像取得部は、前記補正部により補正された断面パラメータに基づいて、前記3次元画像から補正後断面画像を取得し、
前記指標推定部は、前記補正後断面画像に基づいて前記指標の推定をさらに行う
ことを特徴とする構成14に記載の画像処理装置。
(構成20)
前記指標推定部は、前記断面画像を構成する複数の画像の一部に基づいて前記指標を推定し、
前記指標推定部は、前記複数の画像のいずれの画像に基づいて前記指標を推定するかを所定の順番で順次切り替える
ことを特徴とする構成19に記載の画像処理装置。
(方法1)
被検体の3次元画像を取得する画像取得ステップと、
前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う推定ステップと、
前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得ステップと、
前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定ステップと
を含むことを特徴とする画像処理方法。
(プログラム1)
コンピュータに方法1に記載の画像処理方法を実行させるプログラム。
10 画像処理装置、41 画像取得部、42 初期パラメータ推定部、43 断面画像取得部、45 補正パラメータ推定部
Claims (22)
- 被検体の3次元画像を取得する画像取得部と、
前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う初期パラメータ推定部と、
前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得部と、
前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定部と
を備えることを特徴とする画像処理装置。 - 前記断面画像取得部は、前記初期パラメータに基づいて、前記3次元画像における所定の厚みに対応する複数のスライスを含む断面画像を前記3次元画像から取得することを特徴とする請求項1に記載の画像処理装置。
- 前記断面画像取得部が取得する前記断面画像の解像度は、解像度を低減した後の前記3次元画像の解像度よりも高いことを特徴とする請求項1に記載の画像処理装置。
- 前記断面画像取得部が2枚以上の前記断面画像を取得する場合は、前記指標推定部が推定する前記指標は断面画像ごとに異なることを特徴とする請求項1に記載の画像処理装置。
- 前記初期パラメータ推定部は、前記3次元画像の解像度を低減させた画像に基づいて、前記初期パラメータを推定することを特徴とする請求項1に記載の画像処理装置。
- 学習モデルを取得する学習モデル取得部をさらに備え、
前記学習モデルは、学習用3次元画像と該学習用3次元画像における前記基準断面を得るためのパラメータとの組を含む情報を用いた学習処理により作成された初期パラメータ推定用学習モデルと、学習用断面画像と該学習用断面画像における基準断面パラメータの補正に寄与する指標との組を含む情報を用いた学習処理により作成された指標推定用学習モデルのうちの少なくとも1つであり、
前記初期パラメータ推定部および前記指標推定部の少なくとも一方は、前記学習モデルに基づいて前記推定を行う
ことを特徴とする請求項1に記載の画像処理装置。 - 前記初期パラメータは前記3次元画像における前記基準断面の位置または姿勢に関する情報であることを特徴とする請求項1に記載の画像処理装置。
- 前記指標推定部が推定する前記指標は、前記初期パラメータの前記断面画像の画像面内における補正に寄与する指標であることを特徴とする請求項7に記載の画像処理装置。
- 前記指標推定部が推定する前記指標は、前記初期パラメータによって得られる基準断面を変移させるための補正量であることを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
- 前記補正量は、前記初期パラメータによって得られる基準断面の位置を前記基準断面の目標位置へと移動させるための変位量、および、前記初期パラメータによって得られる基準断面の姿勢を前記基準断面の目標姿勢へと回転させるための回転量、のうちの少なくとも1つであることを特徴とする請求項9に記載の画像処理装置。
- 前記指標推定部が推定する前記指標は、前記基準断面を得るためのパラメータであり、
前記指標推定部は前記基準断面を得るためのパラメータを前記初期パラメータに基づいて推定する
ことを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。 - 前記基準断面を得るための前記パラメータは、前記基準断面の目標位置の推定値、および、前記基準断面の目標となる軸ベクトルの推定値のうちの少なくとも1つであることを特徴とする請求項11に記載の画像処理装置。
- 前記指標推定部は、断面画像上の複数の所定のランドマークの位置の推定を行い、前記位置の推定の結果に基づいて前記基準断面を得るためのパラメータを推定することを特徴とする請求項11に記載の画像処理装置。
- 前記指標推定部が推定する前記指標に基づいて、前記初期パラメータを補正する補正部をさらに備えることを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
- 前記補正部は、前記指標推定部が推定する前記指標に基づく前記初期パラメータの補正を行うか否かを判定し、該判定の結果に基づいて前記初期パラメータの補正を行うことを特徴とする請求項14に記載の画像処理装置。
- 前記指標推定部が推定する前記指標が複数存在する場合、前記補正部は前記指標に基づく前記初期パラメータの補正を行うか否かを指標ごとに判定することを特徴とする請求項15に記載の画像処理装置。
- 前記3次元画像、前記断面画像、および前記指標推定部が推定する前記指標を表示する処理を行う表示処理部をさらに備え、
前記補正部は、前記指標推定部が推定する前記指標のうちどの指標に基づいて前記初期パラメータの補正を行うかに関するユーザの選択結果を取得し、前記選択結果に基づいて前記初期パラメータの補正を行う
ことを特徴とする請求項16に記載の画像処理装置。 - 前記3次元画像、前記断面画像、および前記指標推定部が推定する前記指標を表示する処理を行う表示処理部をさらに備え、
前記補正部は、ユーザからの指示に基づいて、前記指標推定部が推定する前記指標を修正し、修正された前記指標に基づいて前記初期パラメータの補正を行うことを特徴とする請求項16に記載の画像処理装置。 - 前記断面画像は画像間の位置および姿勢が所定の関係となる複数の画像により構成され、
前記断面画像取得部は、前記補正部により補正された断面パラメータに基づいて、前記3次元画像から補正後断面画像を取得し、
前記指標推定部は、前記補正後断面画像に基づいて前記指標の推定をさらに行う
ことを特徴とする請求項14に記載の画像処理装置。 - 前記指標推定部は、前記断面画像を構成する複数の画像の一部に基づいて前記指標を推定し、
前記指標推定部は、前記複数の画像のいずれの画像に基づいて前記指標を推定するかを所定の順番で順次切り替える
ことを特徴とする請求項19に記載の画像処理装置。 - 被検体の3次元画像を取得する画像取得ステップと、
前記3次元画像の解像度を低減して、基準断面を得るためのパラメータの初期値である初期パラメータの推定を行う推定ステップと、
前記初期パラメータに基づいて、前記3次元画像から少なくとも1枚の断面画像を取得する断面画像取得ステップと、
前記断面画像ごとに、前記初期パラメータの補正に寄与する指標の推定を行う指標推定ステップと
を含むことを特徴とする画像処理方法。 - コンピュータに請求項21に記載の画像処理方法を実行させるプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022180791A JP2024070359A (ja) | 2022-11-11 | 2022-11-11 | 画像処理装置、画像処理方法、およびプログラム |
US18/387,500 US20240161379A1 (en) | 2022-11-11 | 2023-11-07 | Image processing apparatus and image processing method |
EP23208182.8A EP4368112A1 (en) | 2022-11-11 | 2023-11-07 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022180791A JP2024070359A (ja) | 2022-11-11 | 2022-11-11 | 画像処理装置、画像処理方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2024070359A true JP2024070359A (ja) | 2024-05-23 |
Family
ID=88731657
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022180791A Pending JP2024070359A (ja) | 2022-11-11 | 2022-11-11 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20240161379A1 (ja) |
EP (1) | EP4368112A1 (ja) |
JP (1) | JP2024070359A (ja) |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060034513A1 (en) * | 2004-07-23 | 2006-02-16 | Siemens Medical Solutions Usa, Inc. | View assistance in three-dimensional ultrasound imaging |
US8073215B2 (en) * | 2007-09-18 | 2011-12-06 | Siemens Medical Solutions Usa, Inc. | Automated detection of planes from three-dimensional echocardiographic data |
JP5619584B2 (ja) | 2010-01-13 | 2014-11-05 | 株式会社東芝 | 超音波診断装置、超音波画像処理装置及び超音波画像処理プログラム |
JP6449457B2 (ja) | 2015-06-05 | 2019-01-09 | 株式会社日立製作所 | 画像処理方法、及び装置 |
EP4224418A3 (en) * | 2018-01-24 | 2023-08-23 | Pie Medical Imaging BV | Flow analysis in 4d mr image data |
CN111768379B (zh) * | 2020-06-29 | 2024-06-21 | 深圳度影医疗科技有限公司 | 一种子宫三维超声图像的标准切面检测方法 |
-
2022
- 2022-11-11 JP JP2022180791A patent/JP2024070359A/ja active Pending
-
2023
- 2023-11-07 US US18/387,500 patent/US20240161379A1/en active Pending
- 2023-11-07 EP EP23208182.8A patent/EP4368112A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4368112A1 (en) | 2024-05-15 |
US20240161379A1 (en) | 2024-05-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9155470B2 (en) | Method and system for model based fusion on pre-operative computed tomography and intra-operative fluoroscopy using transesophageal echocardiography | |
US8345927B2 (en) | Registration processing apparatus, registration method, and storage medium | |
US9687204B2 (en) | Method and system for registration of ultrasound and physiological models to X-ray fluoroscopic images | |
JP6346445B2 (ja) | 処理装置、処理装置の制御方法、およびプログラム | |
JP5355074B2 (ja) | 3次元形状データ処理装置、3次元形状データ処理方法及びプログラム | |
US11450003B2 (en) | Medical imaging apparatus, image processing apparatus, and image processing method | |
US20130035596A1 (en) | Model-based positioning for intracardiac echocardiography volume stitching | |
US20240008844A1 (en) | Method, device and system for intracavity probe procedure planning | |
JP5194138B2 (ja) | 画像診断支援装置およびその動作方法、並びに画像診断支援プログラム | |
JP6772123B2 (ja) | 画像処理装置、画像処理方法、画像処理システムおよびプログラム | |
JP6383153B2 (ja) | 処理装置、処理方法、およびプログラム | |
JP2022111704A (ja) | 画像処理装置、医用画像撮像装置、画像処理方法、およびプログラム | |
JP2022111705A (ja) | 学習装置、画像処理装置、医用画像撮像装置、学習方法およびプログラム | |
JP2024070359A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2019500114A (ja) | 位置合わせ精度の決定 | |
JP7419037B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP5706933B2 (ja) | 処理装置および処理方法、プログラム | |
WO2024082441A1 (zh) | 基于深度学习的多模态影像配准方法、***及介质 | |
JP5904976B2 (ja) | 3次元データ処理装置、3次元データ処理方法及びプログラム | |
JP2022111706A (ja) | 画像処理装置および画像処理方法、医用撮像装置、プログラム | |
US20230206477A1 (en) | Image processing method, image processing device, program, and trained model | |
JP6660428B2 (ja) | 処理装置、処理方法、およびプログラム | |
JP7356330B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP7165541B2 (ja) | ボリュームデータ処理装置、方法及びプログラム | |
US20230298174A1 (en) | Image processing apparatus, image processing method, and non-transitory computer readable medium |