JP7233792B2 - 画像診断装置、画像診断方法、プログラム及び機械学習用訓練データの生成方法 - Google Patents

画像診断装置、画像診断方法、プログラム及び機械学習用訓練データの生成方法 Download PDF

Info

Publication number
JP7233792B2
JP7233792B2 JP2022533229A JP2022533229A JP7233792B2 JP 7233792 B2 JP7233792 B2 JP 7233792B2 JP 2022533229 A JP2022533229 A JP 2022533229A JP 2022533229 A JP2022533229 A JP 2022533229A JP 7233792 B2 JP7233792 B2 JP 7233792B2
Authority
JP
Japan
Prior art keywords
image
images
blur
diagnostic imaging
ultrasonic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022533229A
Other languages
English (en)
Other versions
JPWO2022114131A1 (ja
Inventor
佑 陣内
祐太朗 田中
隆 東
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lily Medtech Inc
Original Assignee
Lily Medtech Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lily Medtech Inc filed Critical Lily Medtech Inc
Publication of JPWO2022114131A1 publication Critical patent/JPWO2022114131A1/ja
Application granted granted Critical
Publication of JP7233792B2 publication Critical patent/JP7233792B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/13Tomography
    • A61B8/14Echo-tomography

Landscapes

  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Description

本発明は、画像診断装置、画像診断方法、プログラム及び機械学習用訓練データの生成方法に関する。
X線CT(Computer Tomography)、超音波エコー等の撮像手段を用いて画像診断を行う場合に、被検者の体動等に起因して撮像画像がぼやけるアーチファクトが発生する場合がある。この問題に対処するため、種々の手法が提案されている。
例えば特許文献1では、***のX線断層画像を撮像する装置であって、画像撮像時の***の動きを検出し、検出した動きに基づいてX線断層画像を補正する***断層画像撮影装置が開示されている。
特開2010-51337号公報
しかしながら、特許文献1に係る発明は物理的なセンサを用いて***の動きを検出しており、画像自体から体動等に起因するぼやけを検出して画像を補正するに至っていない。
一つの側面では、超音波画像診断を好適に支援することができる画像診断装置等を提供することを目的とする。
一つの側面に係る画像診断装置は、超音波信号に基づき被検者の生体部位を撮像した複数の第1画像を取得する取得部と、前記複数の第1画像を再構成した第2画像を生成する生成部と、前記第1画像又は第2画像を入力した場合に、前記第1画像又は第2画像のぼやけを検出するよう学習済みのモデルに、取得した前記第1画像、又は生成した前記第2画像を入力して前記ぼやけを検出する検出部と、前記ぼやけを検出した場合、前記複数の第1画像同士の位置合わせを行うための位置合わせ関数を算出する算出部とを備え、前記生成部は、前記複数の第1画像と、前記位置合わせ関数とに基づき、前記第2画像を生成する。
一つの側面では、超音波画像診断を好適に支援することができる。
画像診断システムの構成例を示す説明図である。 サーバの構成例を示すブロック図である。 画像処理装置の構成例を示すブロック図である。 超音波断層像の撮像処理に関する説明図である。 超音波撮像における計測時間と体動の関係を示す説明図である。 送信開口の位置と点応答関数との関係を示す説明図である。 3次元画像の生成処理に関する説明図である。 ぼやけ検出処理に関する説明図である。 画像診断装置の表示画面例を示す説明図である。 空間上隣り合う150個のファン画像同士の不一致度を比較した例である。 第1モデルの生成処理の手順を示すフローチャートである。 画像撮像処理の手順を示すフローチャートである。 実施の形態2に係る画像処理装置の構成例を示すブロック図である。 第2モデルの生成処理の手順を示すフローチャートである。 実施の形態2に係る画像撮像処理の手順を示すフローチャートである。 画像撮像処理の手順の他の例を示すフローチャートである。
以下、本発明をその実施の形態を示す図面に基づいて詳述する。
(実施の形態1)
図1は、画像診断システムの構成例を示す説明図である。本実施の形態では、被検者の***を対象とした超音波画像診断を行う画像診断システムについて説明する。画像診断システムは、サーバ1及び画像診断装置2を含む。サーバ1及び画像診断装置2は、ネットワークNを介して通信接続されている。
なお、本実施の形態では画像診断の対象とする生体部位の一例として***を挙げるが、他の生体部位であってもよい。
サーバ1は、種々の情報処理、情報の送受信が可能なサーバコンピュータである。なお、サーバ1に相当する装置はサーバコンピュータに限定されず、例えばパーソナルコンピュータ等であってもよい。本実施の形態においてサーバ1は、所定の訓練データを学習する機械学習を行い、画像診断装置2で撮像された超音波画像(例えば断層像)を入力した場合に、被検者の体動等に起因する画像のぼやけを検出する第1モデル51(図8参照)を生成する生成装置として機能する。サーバ1が生成した第1モデル51のデータは画像診断装置2にインストールされており、画像診断装置2は、第1モデル51を用いて撮像画像からぼやけを検出し、補正を行う。
画像診断装置2は、超音波エコー検査のための画像診断装置であり、画像処理装置20及び撮像装置30を備える。画像処理装置20は、画像診断装置2のコンソールとして機能するコンピュータであり、***の超音波断層像を生成(再構成)して表示するほか、***の複数位置において撮像された複数の断層像を元に3次元画像を生成し、表示する。なお、画像処理装置20は超音波画像診断用のコンピュータ(コンソール)に限定されず、パーソナルコンピュータ等の汎用コンピュータであってもよい。
撮像装置30は、超音波信号の送受信を行う撮像装置である。図1に示すように、撮像装置30は、被検者がうつ伏せになった状態で***を撮像可能に構成されている。具体的には、撮像装置30はベッド状の形状を有し、天板31に***を挿入するための孔32が設けられている。孔32の下方には水槽33が設けられ、被検者は孔32から水槽33に***を挿入する。
水槽33には、リングアレイ34が設けられている。リングアレイ34は、複数の超音波素子341(トランスデューサ)を備えるリング状の振動子アレイである(図4参照)。リングアレイ34には複数の超音波素子341が等間隔で配置され、各超音波素子341は超音波信号を送信すると共に、反射波を受信する。画像処理装置20は、各超音波素子341から得た複数方向の反射波データを再構成し、超音波断層像を生成する。また、リングアレイ34は上下方向に移動可能に構成されており、画像診断装置2はリングアレイ34を上下に移動させて垂下した***の各位置(高さ)における断層像を撮像し、複数位置の断層像を再構成して3次元画像を生成する。
本実施の形態に係る画像診断装置2として、国際公開第2017/051903号に記載の超音波診断システムを採用することができる。
なお、画像診断装置2は上記の構成に限定されない。例えばベッド型の撮像装置30に代えて、ハンディスキャナを用いた画像診断装置としてもよい。
上述の如く、画像診断装置2は***の超音波断層像を撮像する。本実施の形態において画像診断装置2は、上述の第1モデル51を用いて、超音波断層像から体動等に起因するぼやけを検出する。ぼやけを検出した場合、画像診断装置2は断層像を補正し、補正後の断層像を用いて3次元画像を生成する。
なお、本実施の形態ではサーバ1が第1モデル51の生成(学習)を行うものとするが、ローカルの画像診断装置2が第1モデル51を生成するようにしてもよい。また、本実施の形態では画像診断装置2が第1モデル51に基づくぼやけの検出を行うものとするが、クラウド上のサーバ1が第1モデル51を用いてぼやけを検出するようにしてもよい。すなわち、両者の区別は便宜的なものであり、単一のコンピュータが一連の処理を行うようにしてもよい。
図2は、サーバ1の構成例を示すブロック図である。サーバ1は、制御部11、主記憶部12、通信部13、及び補助記憶部14を備える。
制御部11は、一又は複数のCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)等のプロセッサを有し、補助記憶部14に記憶されたプログラムP1を読み出して実行することにより、種々の情報処理を行う。主記憶部12は、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、フラッシュメモリ等の一時記憶領域であり、制御部11が演算処理を実行するために必要なデータを一時的に記憶する。通信部13は、通信に関する処理を行うための通信モジュールであり、外部と情報の送受信を行う。補助記憶部14は、大容量メモリ、ハードディスク等の不揮発性記憶領域であり、制御部11が処理を実行するために必要なプログラムP1、その他のデータを記憶している。
なお、補助記憶部14はサーバ1に接続された外部記憶装置であってもよい。また、サーバ1は複数のコンピュータからなるマルチコンピュータであっても良く、ソフトウェアによって仮想的に構築された仮想マシンであってもよい。
また、本実施の形態においてサーバ1は上記の構成に限られず、例えば操作入力を受け付ける入力部、画像を表示する表示部等を含んでもよい。また、サーバ1は、CD(Compact Disk)-ROM、DVD(Digital Versatile Disc)-ROM等の可搬型記憶媒体1aを読み取る読取部を備え、可搬型記憶媒体1aからプログラムP1を読み取って実行するようにしても良い。あるいはサーバ1は、半導体メモリ1bからプログラムP1を読み込んでも良い。
図3は、画像処理装置20の構成例を示すブロック図である。画像処理装置20は、制御部21、主記憶部22、通信部23、表示部24、入力部25、送受信部26、画像処理部27、及び補助記憶部28を備える。
制御部21は、一又は複数のCPU等のプロセッサを有し、補助記憶部28に記憶されたプログラムP2を読み出して実行することにより、種々の情報処理を行う。主記憶部22は、RAM等の一時記憶領域であり、制御部21が演算処理を実行するために必要なデータを一時的に記憶する。通信部23は、通信に関する処理を行うための通信モジュールであり、外部と情報の送受信を行う。表示部24は、液晶ディスプレイ等の表示画面であり、画像を表示する。入力部25は、キーボード、マウス等の操作インターフェイスであり、ユーザから操作入力を受け付ける。送受信部26は、リングアレイ34の超音波素子341を制御し、超音波信号を送受信する。画像処理部27は、画像処理(再構成)を行うモジュールであり、好適には、GPUのように計算処理能力が高いプロセッサを含む。
補助記憶部28は、ハードディスク、大容量メモリ等の不揮発性記憶領域であり、制御部21が処理を実行するために必要なプログラムP2、その他のデータを記憶している。また、補助記憶部28は、第1モデル51を記憶している。第1モデル51は、所定の訓練データを学習済みの機械学習モデルであり、超音波断層像を入力した場合に画像のぼやけを検出するモデルである。第1モデル51は、人工知能ソフトウェアの一部を構成するプログラムモジュールとしての利用が想定される。
なお、画像処理装置20は、CD-ROM等の可搬型記憶媒体2aを読み取る読取部を備え、可搬型記憶媒体2aからプログラムP2を読み取って実行するようにしても良い。あるいは画像処理装置20は、半導体メモリ2bからプログラムP2を読み込んでも良い。
図4は、超音波断層像の撮像処理に関する説明図である。図4では、画像診断装置2がリングアレイ34を介して超音波信号を送受信し、***の超音波断層像(第2画像)を生成(撮像)する様子を概念的に図示している。以下では画像診断装置2の概要を説明する。
上述の如く、画像診断装置2の撮像装置30は、複数(例えば150個)の超音波素子341を等間隔で設けたリングアレイ34を有し、各超音波素子341を介して超音波信号を送受信する。具体的には、画像診断装置2は、図1においてハッチングで図示するように、超音波素子341から一定距離内の扇状領域を撮像領域として、超音波信号を送信する。
超音波素子341は、上記の撮像領域からの反射波を受信する。なお、超音波信号を送信する素子と、反射波を受信する素子とは異なっていてもよい。画像診断装置2は、超音波素子341が反射波を受信して得た反射波データを、超音波断層像を生成(再構成)するための原画像データ(第1画像)として取得する。本実施の形態では便宜上、超音波素子341が反射波を受信して得た反射波データに基づいて再構成された画像を「ファン画像」と呼ぶ。ここで画像とは二次元の整数或いは実数の行列を指す。
画像診断装置2は、リングアレイ34の円周に沿って並ぶ各超音波素子341から超音波信号を順次送信することで、複数の方向それぞれから生体部位に送信した超音波信号を送信して得た複数のファン画像を取得する。そして、画像診断装置2(画像処理装置20)の画像処理部27は、開口合成法により当該複数のファン画像を再構成し、2次元の超音波断層像を生成する。
具体的には、画像診断装置2は、一の断層像を生成するに当たり、任意の超音波素子341を始点として、当該超音波素子341の隣に位置する終点の超音波素子341に至るまで、例えば時計回りに超音波信号を送信する超音波素子341を順次変えていき、全方位のファン画像(例えば150のファン画像)を取得する。図4に示すように、各ファン画像は扇状の空間をカバーし、隣接する超音波素子341で取得したファン画像同士は撮像領域が互いに重複する。画像診断装置2は、各方向のファン画像を重ね合わせ、一の断層像を生成する。なお、開口合成に用いられるファン画像は、送信開口の位置にかかわらず、同一送信条件下で取得される受信信号に基づき、同一の音速推定値の条件下で再構成されている。
なお、画像診断装置2は、超音波信号を複数の異なる送信開口(超音波素子341)から同時に送信する事もできる。例えば、一の断層像当たり150のファン画像を取得する場合、上記のようにある方向を始点にして150回の送信を行ってもよいが、120度ずつ方向(角度)が異なる3か所の超音波素子341から同時に送信を行い、当該3か所の超音波素子341をリングアレイ34に沿って順次変えることで、50回の送信でファン画像の撮像を完了させてもよい。また、本実施の形態では超音波素子341が***の周囲に円環状に配置されているものとして説明するが、その配置形状は円環状に限定されず、他の形状で配置されていてもよい。すなわち、画像診断装置2は、***(生体部位)の周囲を取り囲むように配置した複数の超音波素子341から複数回に分けて超音波信号を順次送信することで複数のファン画像を取得可能であればよく、超音波信号の送信回数や超音波素子341の配置形状は特に限定されない。
また、上記ではファン画像の形状(撮像領域)が扇状であるものとして説明したが、ファン画像の形状は扇状に限定されない。すなわち、複数のファン画像は、各々が略同一平面上の断層画像撮像領域の少なくとも一部を含み、異なるファン画像の少なくとも1枚と撮像領域の一部が重複している画像の集合となる。
図5は、超音波撮像における計測時間と体動の関係を示す説明図である。音波断層像撮像において、撮像の律速時間となっているのは、生体内及び水中を伝搬する音速である。組織や温度に依存するが、およそ1500m/s程度である。図4に示したようなファン画像の撮像を行う場合、リング直径が20cm、ファンを構成する扇型の辺の長さが、直径の75%であるとすると、辺の長さは15cmとなり、往復の伝搬時間が0.2ミリ秒である。受信素子chを2048、電気回路のch数を256とすると、一つのファン画像を撮像するのに、2048/256=8回の送受信を行う必要があるので、1.6ミリ秒で1つのファン画像が撮像できる。ファン画像256枚で構成される1断面の撮像には、約0.4秒掛かる(図5の一つの長方形の幅に相当)。処理のオーバーヘッドが、全体の50%程度とすると、約1秒で撮像が行われることになる(図5の一つ目の長方形の左端から、最後つまり4つ目の長方形の右端までの時間)。つまり、本実施の形態の処理では、1.6ミリ秒の逆数である0.6kHz程度より早い体動に対しては対処できない。一方、1秒程度の体動による影響を除去するための技術となる。心拍や呼吸動きが、このオーダーに相当する。撮像時間だけを考えると、図の縦軸方向には重なりが無い方が撮像速度は早くなる。しかし空間解像度を考えると、1つの画素あたりに、沢山の異なる送信条件の音波からの散乱波を取得した方が有利となるので、重なりがあるほうが、空間解像度の観点から有利である。体動補正の観点では、図5で、隣接する二つの長方形間での体動が大きい部分の補正が、補正上の意味が大きい。一周で第2画像を撮像していることを考慮すると、1断面の撮像開始時と終了時の間も隣接する第1画像の撮像に対応している。
図6は、送信開口の位置と点応答関数との関係を示す説明図である。超音波撮像により得られる反射波データに基づく超音波散乱画像は、撮像の基本性能を示す点応答関数と、撮像対象中の散乱体分布の畳み込み積分で表される。点応答関数PSFは、音速の不均質などを考慮しない理想的な条件においては、開口からの距離、並びにリングアレイ34の中心及び送信開口の中心を結ぶ線分が基準線との間になす角度の関数となる。つまり厳密には、点応答関数は、点応答関数の出力値が最大値を取る点を中心とした回転対称となる形状ではない。よって、隣り合うファン画像間で、同一の点応答関数の形状とはならない。それでも発明者による検証では、相対的な位置ずれの検出が可能であることを確認しており、これは検討の結果初めて確認できたことである。云い方を変えると、隣接するファン画像の開口の移動に伴う、点応答関数の回転量が位置ずれの検出に影響を与えない程度に細かな開口移動である条件において、本実施の形態は成立しているといえる。
なお、散乱画像は、複数の受信素子で得られた信号を加算して画像を出力する手法であるが、受信素子数の信号から1つの画素信号を出力する際に、必ずしも加算する以外の方法で、散乱強度以外の情報を提示する手法もある。例えば、受信素子位置に依存する信号強度の変化を特徴量として、散乱指向性を可視化する手法などが知られている。また、経時的な散乱信号の変化から血流や造影剤などの動的な情報を抽出し、血流の空間分布に関する情報を可視化する手法などについても、本実施の形態を適用することが可能である。
図7は、3次元画像の生成処理に関する説明図である。図7では、複数のファン画像(図7左)から断層像(図7中央)を生成し、さらに複数の断層像から3次元画像(図7右)を生成する様子を概念的に図示している。
上述の如く、画像診断装置2は、***を各方向から撮像した複数のファン画像を再構成し、2次元の超音波断層像を生成する。画像診断装置2は、リングアレイ34を上下に移動させ、一方向(上下方向)に沿って***の互いに異なる位置(高さ)における断層像を生成する。そして画像診断装置2の画像処理部27は、一方向に沿って並ぶ複数の断層像(フレーム)を再構成し、***の3次元画像を生成する。
図8は、ぼやけ検出処理に関する説明図である。図8では、***の超音波断層像を第1モデル51に入力し、体動等に起因する画像のぼやけを検出する様子を概念的に図示している。
上述の如く、画像診断装置2は、複数のファン画像から超音波断層像を生成する。この場合に、上述の如く、断層像にぼやけが生じる場合がある。このぼやけの原因には、被検者の体動(いわゆるモーションアーチファクト)、あるいは装置(リングアレイ34)の位置ずれ等に起因して生じるものが挙げられる。また、画像診断装置2は超音波の音速を推定して画像を生成するため、音速推定の誤差に依って被写体の位置推定がずれることで、ぼやけが生じる場合もある。これらのぼやけは、開口合成の過程で、時間的に同時に取得されると想定されている平面又は立体の撮像領域において、実際には複数の時間的に異なるタイミングで取得される複数の取得データを合成するため、ぼやけが生じる。本実施の形態では、ファン画像同士の位置ずれを検出することで、開口合成時に起こる、ファン画像間、或いは、ファン画像と撮像空間座標との位置ずれに起因するぼやけを低減することが可能である。
画像診断装置2は、第1モデル51を用いて断層像のぼやけを検出する。第1モデル51は、所定の訓練データを学習済みの機械学習モデルであり、超音波断層像を入力した場合に、断層像のぼやけを検出するモデルである。本実施の形態では第1モデル51として、SVM(Support Vector Machine)を備えたBRISQUE(Blind/Referenceless Image Spatial Quality Evaluator)モデルを用いる。
BRISQUEは、リファレンス画像を不要として画像の品質を評価するアルゴリズムである。第1モデル51は、特徴量抽出器511と、検出器512とを備える。特徴量抽出器511は、入力画像の特徴量を抽出する抽出器である。当該特徴量は、輝度の平均、輝度の分散、輝度の歪度、輝度の尖度、エントロピー等であるが、そのパラメータは特に限定されない。特徴量抽出器511は、入力された断層像から特徴量ベクトルを生成し、検出器512に入力する。
検出器512は、断層像の特徴量に基づいてぼやけを検出するSVMである。検出器512は、断層像の特徴量を特徴量空間にマッピングした場合に、ぼやけが有るものと判定する空間領域と、ぼやけが無いものと判定する空間領域とを識別する決定境界を学習済みのモデルであり、特徴量抽出器511から入力された特徴量に基づいてぼやけを検出する。本実施の形態に係る検出器512は、ぼやけの程度を表すスコアを算出する回帰モデルとして構成され、断層像の特徴量に基づいて当該スコアを算出し、算出したスコアに基づいてぼやけの有無を判定する。
なお、本実施の形態では、検出器512がぼやけの程度を表すスコアを算出する回帰モデルであるものとして説明するが、ぼやけが有るか否かの二値分類を行う分類モデルとしてもよい。
なお、本実施の形態では第1モデル51の一例としてBRISQUEモデルを挙げるが、第1モデル51は、ニューラルネットワーク、決定木、ランダムフォレストなど、他の学習アルゴリズムに基づくモデルであってもよい。
サーバ1は、過去に撮像された被検者の超音波断層像を訓練データとして学習し、第1モデル51を生成して画像診断装置2にインストールしてある。サーバ1は、実際にぼやけが観測された断層像を訓練データとして用いてもよいが、本実施の形態では、ぼやけが無い断層像に人工的にぼやけを加え、訓練データとして用いる。例えばサーバ1は、ぼやけが無い断層像を構成する複数のファン画像に対し、体動を模擬した所定の座標変換(X方向及びY方向への微動、微回転など)を施す。なお、サーバ1は、一の断層像を構成する全てのファン画像に対して座標変換を施してもよく、又は一部のファン画像のみに座標変換を施してもよい。サーバ1は、座標変換後の複数のファン画像を再構成することで、人工的にぼやけを加えた断層像を生成する。サーバ1は、ぼやけを加える前の断層像と、ぼやけを加えた後の断層像とを訓練データとして用い、第1モデル51を生成する。
サーバ1はまず、訓練用の各断層像に対してセグメンテーションを行い、***に対応する画像領域を抽出する。図8では便宜上、***に対応する画像領域を白抜きで、***以外の画像領域を黒塗りで図示してある。なお、セグメンテーションは、パターンマッチングで***の輪郭を検出することで行うようにしてもよく、あるいはCNN(Convolution Neural Network)等の機械学習モデルを用いて行うようにしてもよい。また、セグメンテーションは行わず、元の断層像をそのまま用いてもよい。
サーバ1は、ぼやけが無い元の断層像と、ぼやけを加えた断層像とからそれぞれ抽出した画像領域を特徴量抽出器511に入力し、当該画像領域の特徴量を抽出する。そしてサーバ1は、ぼやけの有無を表すクラスラベルが付された各断層像(画像領域)の特徴量に基づき、検出器512を生成する。すなわち、サーバ1は、断層像を特徴量に応じて特徴量空間にマッピングした場合に、断層像にぼやけが有ると判定する空間領域と、断層像にぼやけが無いと判定する空間領域とを識別する決定境界を導出する。以上より、サーバ1は第1モデル51を生成する。
画像診断装置2は、上述の第1モデル51を用いて、被検者の***の断層像からぼやけを検出する。すなわち、画像診断装置2は、断層像のセグメンテーションを行って***に対応する画像領域を抽出し、特徴量抽出器511に入力して特徴量を抽出する。そして画像診断装置2は、抽出した特徴量を検出器512に入力し、ぼやけの程度を表すスコアを算出して、ぼやけの有無を判定する。例えば画像診断装置2は、算出したスコアが所定の閾値以上であるか否かを判定する。
なお、画像診断装置2は、スコアと比較する閾値を設定(変更)する設定入力をユーザ(医療従事者)から受け付けるようにしてもよい。これにより、補正対象とするぼやけの程度をユーザが任意に決めることができる。
続いて、ぼやけを検出した断層像の補正処理について説明する。第1モデル51を用いて断層像のぼやけを検出した場合、画像診断装置2は、ぼやけを検出した断層像の補正を行う。具体的には、画像診断装置2は、断層像を構成する複数のファン画像同士の位置合わせを行う。
なお、本発明の被検体としての***は非剛体である。したがって、剛体レジストレーション手法が使えない。また、非剛体レジストレーションのためにはランドマークを指定する必要がある。しかしながら、診断において、人(医師)が画像毎にランドマークを選択し、それらの位置を指定することは時間を要する作業である。したがって、本発明では、画像の明るさが不連続に変化している箇所(エッジ)を抽出したエッジ画像によってプログラムが自動抽出した***内の構造をランドマークとして利用する。
例えば、画像診断装置2はまず、各ファン画像のエッジを検出し、各ファン画像からエッジを抽出した複数のエッジ画像を生成する。本実施形態の一例として、結合組織及びクーパー靭帯を***のランドマークとして用いる例を説明する。結合組織及びクーパー靭帯は線状の構造をしているため、エッジ検出フィルタを適用することで結合組織及びクーパー靭帯を取り出すことができる。
エッジ画像の生成方法としては例えば、ガボールフィルタを使用する。まず、画像診断装置2において、制御部21は、ファン画像に対して***領域マスクをかける。例えば、***外領域の輝度をゼロにしたファン画像を生成する。制御部21はさらに、得られたファン画像に対してそれぞれガボールフィルタをかけ、マグニチュード画像を生成する。制御部21は、得られたマグニチュード画像の輝度の平均輝度を算出し、エッジ画像を生成する。なお、ガボールフィルタのパラメータは例えば角度θを0,45,90,・・・,315とする。また、以下に示すガボールフィルタを用いる場合、ガボールフィルタのパラメータσ,σ,fを設定するためのパラメータl,fをそれぞれl=3、f=0.25とする。なお、パラメータfはf=0.4、又はf=0.15としてもよい。
Figure 0007233792000001
エッジ画像の生成方法の別の一例としては、ソベルフィルタ(Sobel Filter)を使用することができる。この場合、まず制御部21は、ファン画像に対して***領域マスクをかけ、***外領域の輝度をゼロにしたファン画像を生成する。次に、制御部21は、得られたファン画像に対してそれぞれ2Dソベルフィルタをかけ、エッジ画像を生成する。なお、エッジ画像の生成方法としては、上記に挙げた手法に限定されるものではなく、線状の構造を選択的に抽出できるフィルタであればよい。このようにして得られたエッジ画像を用いて位置合わせを行うことで、結合組織の位置が2つの画像で一致するような位置合わせを行うことができる。
次に画像診断装置2は、隣り合う2つのエッジ画像の間におけるエッジの動きベクトル(エッジの移動量及び移動方向を表すベクトル値)を算出し、算出した動きベクトルに基づき、ファン画像同士の位置合わせを行うための位置合せ関数を算出する。なお、「隣り合う2つのエッジ画像」とは、リングアレイ34において隣り合う2つの超音波素子341が取得した2つのファン画像に対応する2つのエッジ画像を指す。画像診断装置2は、例えばTV-L1オプティカルフロー等を用いて、2つのエッジ画像の一致度を表す評価値が最大化するように、2つのファン画像の位置合わせ関数を算出する。
画像診断装置2は、全てのエッジ画像について、隣り合うエッジ画像同士の一致度を順次評価し、ファン画像の位置合わせ関数を算出する。画像診断装置2は、算出した位置合わせ関数に基づいて各ファン画像の位置合わせを行いながら複数のファン画像を再構成し、断層像を再生成する。
なお、「ファン画像同士の位置合わせを行う」とは、断層像の生成(再構成)前に各ファン画像の位置合わせする場合のほか、断層像の生成過程において各ファン画像の相対座標をずらしながら重ね合わせていくことで、断層像の生成中に位置合わせをする場合も含み得る。
図9は、画像診断装置2の表示画面例を示す説明図である。図9では、画像診断装置2(画像処理装置20)が表示部24に表示する画面例であって、位置合わせ関数を適用する前(補正前)の断層像と、位置合わせ関数を適用した後(補正後)の断層像とを表示する画面例を図示している。断層像からぼやけを検出した場合、画像診断装置2は上記の補正を行い、補正前後の断層像を表示する。
当該画面は、補正前画像71、補正後画像72、再撮像ボタン73、補正前画像選択ボタン74、補正後画像選択ボタン75を含む。補正前画像71は補正前の断層像(ぼやけが検出された断層像)であり、補正後画像72は補正後の断層像である。画像診断装置2は補正前画像71及び補正後画像72を表示し、ユーザに補正前後の様子を提示する。
再撮像ボタン73は、再撮像の要否を選択するためのボタンである。例えばユーザは、補正しても診断に使えないほど断層像がぼやけている場合、再撮像ボタン73を操作して再撮像を実施する。再撮像ボタン73への操作入力を受け付けた場合、画像診断装置2は再撮像を行い、ファン画像を取得して断層像を生成する。なお、再撮像は、全ての位置(高さ)における***断面について行ってもよく、又はぼやけが検出された位置(高さ)における***断面についてのみ行ってもよい。
なお、上記ではユーザが再撮像の要否を選択するものとしたが、再撮像の要否を画像診断装置2が自動的に判定してもよい。例えば画像診断装置2は、断層像を第1モデル51に入力して得たスコアを所定の閾値と比較することで、スコアが極端に高いか否かを判定する。これにより画像診断装置2は、ぼやけが酷く、再撮像が必要であるか否かを判定する。再撮像が必要であると判定した場合、画像診断装置2は、例えば再撮像が必要である旨を図9の画面に表示し、再撮像をユーザに促す。あるいは画像診断装置2は、再撮像が必要であると判定した場合、自動的に再撮像を開始してもよい。
また、画像診断装置2は、断層像からぼやけ以外のアーチファクトを検出し、ぼやけ以外のアーチファクトを検出した場合は再撮像が必要であると判定してもよい。当該アーチファクトとしては、例えば被検者が大きく動き、被写体(***)が写っていない状態などが考えられる。なお、上記のアーチファクトは一例であって、他のアーチファクトを検出してもよい。例えば画像診断装置2は、ぼやけ以外のアーチファクトが有る断層像を第1モデル51に学習させておいてもよく、又は第1モデル51以外の検出アルゴリズム(画像のパターンマッチング等)によってぼやけ以外のアーチファクトを検出可能としてもよい。このように、画像診断装置2は、ぼやけ以外のアーチファクトを断層像から検出し、再撮像の要否を判定可能としてもよい。
補正前画像選択ボタン74及び補正後画像選択ボタン75は、補正前後の断層像のうち、3次元画像(第3画像)の生成に用いる断層像を選択するためのボタンである。画像診断装置2は、いずれかのボタンへの操作入力を受け付けることで、3次元画像の生成に用いる断層像の選択入力を受け付ける。画像診断装置2は、ユーザが選択した断層像、及びぼやけが検出されなかった他の断層像を再構成し、3次元画像を生成する。画像診断装置2は、生成した3次元画像を表示する。
以上より、本実施の形態によれば、断層像から体動等に起因するぼやけを検出し、ぼやけを検出した場合、断層像を構成する複数のファン画像同士の位置合わせを行って断層像を再生成する。これにより、体動等の影響を除去又は低減し、超音波画像診断を好適に支援することができる。特に本実施の形態では、ぼやけを検出するための第1モデル51としてBRISQUEモデルを採用し、画像の補正手段としてオプティカルフロー等の動きベクトルに基づく位置合わせを採用する。ぼやけの検出及び補正に係る処理は、汎用的なプロセッサである制御部21(CPU等)で処理可能であるため、画像処理部27(GPU等)は画像の再構成(生成)のみに用いることができ、画像処理に要する時間を抑制することができる。
また、本実施の形態では、一平面の断層像を生成するために、複数のファン画像を取得する間に生じ得る被検体と超音波素子341との相対的な位置ずれを検出する事が出来る。特に、円環状に配置された超音波素子341から一方向に向かって超音波信号を順次送信して複数のファン画像を取得する場合、連続的な体動も蓄積されるし、突発的な体動が生じる確率も向上することから、各ファン画像の撮像時点が時間的に離れていればいるほど体動の影響は大きくなる。そのため、時間的に離れた画像同士の不一致度は大きくなる傾向がある。この点は、リングアレイ34の始点位置のファン画像、すなわち初回のファン画像と、終点位置のファン画像、すなわち最終回のファン画像との間で顕著になる。
図10は、空間上隣り合う150個のファン画像同士の不一致度を比較した例である。図10のグラフは、150の方向から撮像されたファン画像のうち、隣り合うファン画像同士の不一致度(輝度のMSE(Mean squared error)の平均値)を計算した計算結果を示している。図10のグラフにおいて、横軸はi番目のファン画像とi+1番目のファン画像とのペアを表すデータ点を、縦軸はファン画像同士の不一致度を表している。
最後のデータ点は、149目のファン画像と0番目のファン画像、すなわち最終回及び初回のファン画像を比較したものである。この2つのファン画像は、空間的には隣り合う位置にあり、撮像領域が互いに重複している。しかし、2つのファン画像は撮像時点が時間的に離れているため、その間に体動が生じやすく、ファン画像同士の不一致度を確認するとこのペアの不一致度が最も大きい場合が多い。そのためこの2つのファン画像同士に位置合わせを行うことで画質が大きく向上する。
このように、撮像領域が重複しているが撮像時点が離れている画像同士の位置合わせを行うことで、体動の影響を好適に除去又は低減することができる。
図11は、第1モデル51の生成処理の手順を示すフローチャートである。図11に基づき、機械学習により第1モデル51を生成する際の処理内容について説明する。
サーバ1の制御部11は、過去に撮像(生成)された被検者の***(生体部位)の超音波断層像であって、画像にぼやけがない複数の断層像を取得する(ステップS11)。制御部11は、各断層像に対してぼやけを加えた訓練用の断層像を生成する(ステップS12)。具体的には、制御部11は、ぼやけがない断層像の各々を構成する複数のファン画像に対し、体動を模擬した所定の座標変換を施す。制御部11は、座標変換後の複数のファン画像を再構成することで、人工的にぼやけを加えた断層像を生成する。
制御部11は、ステップS11で取得したぼやけが無い断層像と、ステップS12でぼやけを加えた断層像とに対してセグメンテーションを実施し、各断層像から***に対応する画像領域を抽出する(ステップS13)。そして制御部11は、抽出した各断層像の画像領域に基づき、第1モデル51を生成する(ステップS14)。具体的には上述の如く、制御部11は、特徴量抽出器511及び検出器512(SVM)を備えたBRISQUEモデルを第1モデル51として生成する。制御部11は、訓練用の各断層像から抽出した画像領域を特徴量抽出器511に入力し、特徴量を抽出する。制御部11は、ぼやけの有無を表すクラスラベルが付された各断層像(画像領域)の特徴量に基づき、検出器512を生成する。すなわち、制御部11は、各断層像を特徴量に応じて特徴量空間にマッピングした場合に、ぼやけが有るものと判定する空間領域と、ぼやけが無いものと判定する空間領域とを識別する決定境界を導出する。制御部11は、一連の処理を終了する。
図12は、画像撮像処理の手順を示すフローチャートである。図12に基づき、画像診断装置2が実行する処理内容について説明する。
画像診断装置2(画像処理装置20)の制御部21は、リングアレイ34の各超音波素子341から超音波信号を送信し、各超音波素子341から送信した超音波信号の反射波を受信して得た複数のファン画像(反射波データ、第1画像)を取得する(ステップS31)。制御部21は、リングアレイ34を上下方向に移動させながら超音波信号を送受信し、***の互いに異なる位置(高さ)において各方向から***を撮像したファン画像を取得する。
画像処理部27は、取得した複数のファン画像を再構成した超音波断層像(第2画像)を生成する(ステップS32)。具体的には、画像処理部27は、一方向(上下方向)に沿う***の互いに異なる位置(高さ)における複数の断層像を生成する。
制御部21は、各断層像に対してセグメンテーションを実施し、***に対応する画像領域を抽出する(ステップS33)。そして制御部21は、各断層像から抽出した画像領域を第1モデル51に入力し、各断層像のぼやけを検出する(ステップS34)。具体的には、制御部21は、各断層像の画像領域を特徴量抽出器511に入力して特徴量を抽出し、抽出した特徴量を検出器512に入力してぼやけの程度を表すスコアを算出し、算出したスコアに応じてぼやけの有無を判定する。
制御部21は、ステップS34の処理の結果、各断層像からぼやけが検出されたか否かを判定する(ステップS35)。ぼやけが検出されなかったと判定した場合(S35:NO)、制御部21は処理をステップS42に移行する。
ぼやけが検出されたと判定した場合(S35:YES)、制御部21は、ぼやけが検出された断層像を構成する複数のファン画像それぞれについて、ファン画像のエッジを抽出したエッジ画像を生成する(ステップS36)。制御部21は、隣り合うエッジ画像の間におけるエッジの動きベクトルを算出し、算出した動きベクトルに基づいて、ファン画像同士の位置合わせを行うための位置合わせ関数を算出する(ステップS37)。画像処理部27は、算出した位置合わせ関数に基づいてファン画像同士の位置合わせを行いながら、断層像を生成する(ステップS38)。
制御部21は、補正前後の断層像を表示部24に表示する(ステップS39)。すなわち、制御部21は、ステップS32で生成した断層像と、ステップ38で生成した断層像とを表示する。制御部21は、再撮像の要否を選択する選択入力をユーザから受け付けることで、再撮像を行うか否かを判定する(ステップS40)。なお、上述の如く、制御部21は、上記で算出したぼやけの程度を表すスコアの高低、又はぼやけ以外のアーチファクトを検出する等して、再撮像の要否を自動的に判定してもよい。再撮像を行うと判定した場合(S40:YES)、制御部21は処理をステップS31に戻す。
再撮像を行わないと判定した場合(S40:NO)、制御部21は、ステップS39で表示した補正前後の断層像のうち、3次元画像(第3画像)の生成に用いる断層像を選択する選択入力を受け付ける(ステップS41)。画像処理部27は、選択された断層像、及びぼやけが検出されなかった他の断層像に基づき、***の3次元画像を生成して表示部24に表示する(ステップS42)。制御部21は一連の処理を終了する。
なお、上記ではファン画像を再構成した超音波断層像(第2画像)からぼやけを検出するものとしたが、本実施の形態はこれに限定されるものではなく、断層像の元となるファン画像(第1画像)からぼやけを検出してもよい。
以上より、本実施の形態1によれば、第1モデル51を用いることで画像のぼやけを好適に検出し、ぼやけを除去又は低減した画像に補正することで、超音波画像診断を好適に支援することができる。
なお、本実施の形態1において、図12中のステップS34で行うぼやけ検出の精度を向上させるために、ぼやけの程度を表すスコアに加えて、隣接する隣接断層像との不一致度を算出し、評価(ぼやけの有無の判定)に利用してもよい。図16は、画像撮像処理の手順の他の例を示すフローチャートである。図16に示す処理は、図12に示す処理において、ステップS34の代わりにステップS341~S344を追加したものである。図12と同じステップについては説明を省略する。なお、図16では、図12中のステップS36~S42の図示を省略している。
図16に示す処理では、画像診断装置2の制御部21は、ステップS33の処理を実行後、以下の処理を実行する。具体的には、制御部21は、各断層像の画像領域を特徴量抽出器511に入力して特徴量を抽出し、抽出した特徴量を検出器512に入力してぼやけの程度を表すスコアを算出する(ステップS341)。次に、制御部21は、各断層像について、各断層像に隣接する断層像を取得する(ステップS342)。例えば制御部21は、1つの断層像(注目している断層像)に対して、撮像位置(高さ)が上方向又は下方向に隣り合う1つの隣接断層像、あるいは、両方向に隣り合う2つの隣接断層像を取得する。そして制御部21は、各断層像と、各断層像の隣接断層像との不一致度を算出する(ステップS343)。例えば制御部21は、各断層像と、その隣接断層像とにおいて、対応する各画素の画素値の差分の累積値を算出し、算出した累積値を不一致度とする。なお、ステップS342で1つの隣接断層像を取得する場合、制御部21は、各断層像と、各断層像の直上の隣接断層像との不一致度、又は、直下の隣接断層像との不一致度を算出する。またステップS342で2つの隣接断層像を取得する場合、制御部21は、各断層像と、各断層像の直上の隣接断層像との不一致度、及び、直下の隣接断層像との不一致度を算出する。
そして、制御部21は、ステップS341で算出したぼやけの程度を表すスコアと、ステップS343で算出した隣接断層像との不一致度とに基づいて、各断層像のぼやけの有無を検出する(S344)。例えば制御部21は、算出したスコアが所定の閾値以上であるか否かを判定すると共に、算出した不一致度が所定の閾値以上であるか否かを判定し、スコアが所定の閾値以上であり、かつ、不一致度が所定の閾値以上であると判定した場合、断層像にぼやけが有ると判定する。なお、制御部21は、スコアが所定の閾値以上であると判定した場合、又は、不一致度が所定の閾値以上であると判定した場合に、断層像にぼやけが有ると判定してもよい。画像診断装置2は、不一致度と比較する閾値についても、設定入力(設定変更)をユーザ(医療従事者)から受け付けるように構成されていてもよい。これにより、補正対象とする不一致度の程度をユーザが任意に決めることができる。
(実施の形態2)
実施の形態1では、ファン画像を断層像に再構成する際にぼやけの検出及び補正を行う形態について説明した。本実施の形態では、断層像(第1画像)を3次元画像(第2画像)に再構成する際にぼやけの検出及び補正を行う形態について述べる。なお、実施の形態1と重複する内容については同一の符号を付して説明を省略する。
図13は、実施の形態2に係る画像処理装置20の構成例を示すブロック図である。本実施の形態に係る画像処理装置20の補助記憶部28は、第2モデル52を記憶している。第2モデル52は第1モデル51と同様に、所定の訓練データを学習済みの機械学習モデルであり、***の3次元画像を入力した場合に、3次元画像のぼやけを検出するモデルである。第2モデル52は、人工知能ソフトウェアの一部を構成するプログラムモジュールとしての利用が想定される。
第2モデル52は第1モデル51と同様の構成を有する。なお、本実施の形態では、断層像からぼやけを検出する第1モデル51と、3次元画像からぼやけを検出する第2モデル52とが別々のモデルであるものとして説明するが、両者は同一のモデルであってもよい。
本実施の形態の概要を説明する。実施の形態1ではファン画像を断層像に再構成する際にぼやけの検出及び補正を行う旨を説明したが、実施の形態1に係る処理は、断層像を3次元画像に再構成する際にも応用可能である。本実施の形態に係る画像診断装置2は、複数の断層像を再構成した3次元画像からぼやけを検出し、3次元画像を構成する断層像の位置合わせを行う。
図14は、第2モデル52の生成処理の手順を示すフローチャートである。図14に基づき、機械学習により第2モデル52を生成する際の処理内容について説明する。
サーバ1の制御部11は、過去に生成(撮像)された被検者の***の3次元画像であって、画像にぼやけがない複数の3次元画像を取得する(ステップS201)。制御部11は、各3次元画像に対してぼやけを加えた訓練用の3次元画像を生成する(ステップS202)。具体的には、制御部11は、ぼやけがない3次元画像を構成する複数の断層像に対して体動を模擬した所定の座標変換を施し、座標変換後の複数の断層像を再構成して、ぼやけを加えた3次元画像を生成する。
制御部11は、ぼやけが無い3次元画像と、ぼやけを加えた3次元画像とからそれぞれ、***に対応する画像領域を抽出する(ステップS203)。制御部11は、抽出した画像領域に基づき、3次元画像を入力した場合に、3次元画像のぼやけを検出する第2モデル52を生成する(ステップS204)。制御部11は、一連の処理を終了する。
図15は、実施の形態2に係る画像撮像処理の手順を示すフローチャートである。ステップS41の処理を実行後、又はステップS35でNOの場合、画像診断装置2は以下の処理を実行する。
画像診断装置2(画像処理装置20)の画像処理部27は、***の互いに異なる位置において撮像された複数の断層像(第1画像)を再構成した3次元画像を生成する(ステップS221)。制御部21は、生成した3次元画像から、***に対応する画像領域を抽出する(ステップS222)。制御部21は、抽出した画像領域を第2モデル52に入力し、3次元画像のぼやけを検出する(ステップS223)。
制御部21は、ステップS223の処理の結果、ぼやけが検出されたか否かを判定する(ステップS224)。ぼやけが検出されなかったと判定した場合(S224:NO)、制御部21は処理をステップS228に移行する。
ぼやけが検出されたと判定した場合(S224:YES)、制御部21は、3次元画像を構成する複数の断層像それぞれについて、断層像のエッジを抽出したエッジ画像を生成する(ステップS225)。制御部21は、隣り合うエッジ画像の間におけるエッジの動きベクトルを算出し、算出した動きベクトルに基づいて複数の断層像同士の位置合わせ関数を算出する(ステップS226)。制御部21は、算出した位置合わせ関数に基づいて断層像同士の位置合わせを行いながら、3次元画像を生成する(ステップS227)。制御部21は、ステップS221又はS227で生成した3次元画像を表示部24に表示し(ステップS228)、一連の処理を終了する。
なお、実施の形態1と同様に、画像診断装置2は補正前後の3次元画像を表示し、再撮像の要否、及び補正の要否を選択可能としてもよい。
また、画像診断装置2は、再構成後の3次元画像(第2画像)ではなく、再構成前の断層像(第1画像)からぼやけを検出し、断層像の位置合わせを行うようにしてもよい。
以上より、本実施の形態2によれば、3次元画像生成時にもぼやけの検出及び補正を行うことができる。
今回開示された実施の形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、請求の範囲によって示され、請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
1 サーバ
11 制御部
12 主記憶部
13 通信部
14 補助記憶部
P1 プログラム
2 画像診断装置
20 画像処理装置
21 制御部
22 主記憶部
23 通信部
24 表示部
25 入力部
26 送受信部
27 画像処理部
28 補助記憶部
P2 プログラム
51 第1モデル
511 特徴量抽出器
512 検出器
52 第2モデル
30 撮像装置
31 天板
32 孔
33 水槽
34 リングアレイ
341 超音波素子

Claims (16)

  1. 超音波信号に基づき被検者の生体部位を撮像した複数の第1画像を取得する取得部と、
    前記複数の第1画像を再構成した第2画像を生成する生成部と、
    前記第1画像又は第2画像を入力した場合に、前記第1画像又は第2画像のぼやけを検出するよう学習済みのモデルに、取得した前記第1画像、又は生成した前記第2画像を入力して前記ぼやけを検出する検出部と、
    前記ぼやけを検出した場合、前記複数の第1画像同士の位置合わせを行うための位置合わせ関数を算出する算出部とを備え、
    前記生成部は、前記複数の第1画像と、前記位置合わせ関数とに基づき、前記第2画像を生成する
    画像診断装置。
  2. 前記取得部は、複数の方向それぞれから前記生体部位に送信した前記超音波信号を受信して得た複数の反射波データを前記複数の第1画像として取得し、
    前記生成部は、前記複数の反射波データを再構成した超音波断層像を前記第2画像として生成する
    請求項1に記載の画像診断装置。
  3. 前記複数の第1画像は、前記生体部位の周囲を取り囲むように配置した複数の超音波素子から前記超音波信号を順次送信して得た複数の反射波データであり、
    一の前記超音波断層像の生成に用いる前記複数の反射波データのうち、初回に送信した前記超音波信号に対応する反射波データの撮像領域と、最終回に送信した前記超音波信号に対応する反射波データの撮像領域とは、少なくとも一部が互いに重複する
    請求項2に記載の画像診断装置。
  4. 前記取得部は、前記生体部位の互いに異なる位置において撮像された複数の超音波断層像を前記複数の第1画像として取得し、
    前記生成部は、前記複数の超音波断層像を再構成した3次元画像を前記第2画像として生成する
    請求項1~3のいずれか1項に記載の画像診断装置。
  5. 前記モデルは、前記第1画像又は第2画像の特徴量を抽出する特徴量抽出器と、前記特徴量を入力した場合に前記ぼやけの程度を表すスコアを算出するよう学習済みの検出器とを備え、
    前記検出部は、
    前記第1画像又は第2画像を前記特徴量抽出器に入力して前記特徴量を抽出し、
    抽出した前記特徴量を前記検出器に入力して前記スコアを算出し、算出した該スコアに応じて前記ぼやけを検出する
    請求項1~4のいずれか1項に記載の画像診断装置。
  6. 前記スコアに基づき、前記第1画像の再撮像の要否を判定する判定部を備える
    請求項5に記載の画像診断装置。
  7. 前記検出部は、
    前記複数の第1画像から、各第1画像に対して撮像位置が隣り合う隣接画像を取得し、
    各第1画像と、取得した隣接画像との不一致度を算出し、
    各第1画像を前記特徴量抽出器に入力して抽出した前記特徴量を前記検出器に入力して算出した前記スコアと、算出した隣接画像との不一致度とに応じて前記ぼやけを検出する
    請求項5又は6に記載の画像診断装置。
  8. 前記第1画像又は第2画像から、前記生体部位に対応する画像領域を抽出する抽出部を備え、
    前記検出部は、前記画像領域を前記モデルに入力して前記ぼやけを検出する
    請求項1~7のいずれか1項に記載の画像診断装置。
  9. 前記算出部は、
    前記複数の第1画像に対してエッジ検出を行い、前記第1画像内のエッジを抽出した複数のエッジ画像を生成し、
    前記複数のエッジ画像の間における前記エッジの動きベクトルを算出し、
    算出した前記動きベクトルに基づき、前記位置合せ関数を算出する
    請求項1~8のいずれか1項に記載の画像診断装置。
  10. 前記ぼやけを検出した場合、前記位置合わせ関数を適用せずに前記複数の第1画像から生成した前記第2画像と、前記位置合わせ関数を適用して前記複数の第1画像から生成した前記第2画像とを表示する表示部を備える
    請求項1~9のいずれか1項に記載の画像診断装置。
  11. 前記第1画像の補正の要否を選択する選択入力を受け付ける受付部と、
    複数の前記第2画像を再構成した第3画像を生成する第2生成部とを備え、
    前記第2生成部は、前記補正の要否の選択結果に応じて、表示した2つの前記第2画像のいずれかを用いて前記第3画像を生成する
    請求項10に記載の画像診断装置。
  12. 前記第1画像の再撮像の要否を選択する選択入力を受け付ける第2受付部を備え、
    再撮像が必要である旨の選択入力を受け付けた場合、前記取得部は、前記生体部位を再撮像した前記複数の第1画像を取得し、
    前記生成部は、前記再撮像した複数の第1画像を再構成した前記第2画像を生成する
    請求項10又は11に記載の画像診断装置。
  13. 前記検出部は、前記第1画像又は第2画像から前記ぼやけ以外のアーチファクトを検出し、
    前記アーチファクトを検出した場合、前記取得部は、前記生体部位を再撮像した前記複数の第1画像を取得し、
    前記生成部は、前記再撮像した複数の第1画像を再構成した前記第2画像を生成する
    請求項1~11のいずれか1項に記載の画像診断装置。
  14. 超音波信号に基づき被検者の生体部位を撮像した複数の第1画像を取得し、
    前記複数の第1画像を再構成した第2画像を生成し、
    前記第1画像又は第2画像を入力した場合に、前記第1画像又は第2画像のぼやけを検出するよう学習済みのモデルに、取得した前記第1画像、又は生成した前記第2画像を入力して前記ぼやけを検出し、
    前記ぼやけを検出した場合、前記複数の第1画像同士の位置合わせを行うための位置合わせ関数を算出し、
    前記複数の第1画像と、前記位置合わせ関数とに基づき、前記第2画像を生成する
    処理をコンピュータが実行する画像診断方法。
  15. 超音波信号に基づき被検者の生体部位を撮像した複数の第1画像を取得し、
    前記複数の第1画像を再構成した第2画像を生成し、
    前記第1画像又は第2画像を入力した場合に、前記第1画像又は第2画像のぼやけを検出するよう学習済みのモデルに、取得した前記第1画像、又は生成した前記第2画像を入力して前記ぼやけを検出し、
    前記ぼやけを検出した場合、前記複数の第1画像同士の位置合わせを行うための位置合わせ関数を算出し、
    前記複数の第1画像と、前記位置合わせ関数とに基づき、前記第2画像を生成する
    処理をコンピュータに実行させるプログラム。
  16. 超音波信号に基づき被検者の生体部位を撮像した複数の第1画像を取得し、
    取得した前記複数の第1画像に対して生体の体動を模した所定の座標変換を施し、
    座標変換後の前記複数の第1画像を再構成した第2画像を生成する
    処理をコンピュータに実行させる機械学習用訓練データの生成方法。
JP2022533229A 2020-11-30 2021-11-26 画像診断装置、画像診断方法、プログラム及び機械学習用訓練データの生成方法 Active JP7233792B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2020198664 2020-11-30
JP2020198664 2020-11-30
PCT/JP2021/043404 WO2022114131A1 (ja) 2020-11-30 2021-11-26 画像診断装置、画像診断方法、プログラム及び機械学習用訓練データの生成方法

Publications (2)

Publication Number Publication Date
JPWO2022114131A1 JPWO2022114131A1 (ja) 2022-06-02
JP7233792B2 true JP7233792B2 (ja) 2023-03-07

Family

ID=81755642

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022533229A Active JP7233792B2 (ja) 2020-11-30 2021-11-26 画像診断装置、画像診断方法、プログラム及び機械学習用訓練データの生成方法

Country Status (2)

Country Link
JP (1) JP7233792B2 (ja)
WO (1) WO2022114131A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014064913A (ja) 2012-09-10 2014-04-17 Toshiba Corp 超音波診断装置、医用画像処理装置及び画像処理プログラム
JP2014131777A (ja) 2010-07-14 2014-07-17 Hitachi Medical Corp 超音波画像の画像復元方法およびその装置並びに超音波診断装置
JP2016055162A (ja) 2014-09-05 2016-04-21 キヤノン株式会社 被検体情報取得装置
WO2019082892A1 (ja) 2017-10-24 2019-05-02 株式会社Lily MedTech 超音波診断システム及び超音波診断方法
US20190350534A1 (en) 2018-05-16 2019-11-21 Siemens Healthcare Gmbh System and method for determining an imaging modality and the parameters therefor
JP2020531074A (ja) 2017-08-17 2020-11-05 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 画像アーチファクト特定及び除去のための深層学習ネットワークを有する超音波システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014131777A (ja) 2010-07-14 2014-07-17 Hitachi Medical Corp 超音波画像の画像復元方法およびその装置並びに超音波診断装置
JP2014064913A (ja) 2012-09-10 2014-04-17 Toshiba Corp 超音波診断装置、医用画像処理装置及び画像処理プログラム
JP2016055162A (ja) 2014-09-05 2016-04-21 キヤノン株式会社 被検体情報取得装置
JP2020531074A (ja) 2017-08-17 2020-11-05 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 画像アーチファクト特定及び除去のための深層学習ネットワークを有する超音波システム
WO2019082892A1 (ja) 2017-10-24 2019-05-02 株式会社Lily MedTech 超音波診断システム及び超音波診断方法
US20190350534A1 (en) 2018-05-16 2019-11-21 Siemens Healthcare Gmbh System and method for determining an imaging modality and the parameters therefor

Also Published As

Publication number Publication date
JPWO2022114131A1 (ja) 2022-06-02
WO2022114131A1 (ja) 2022-06-02

Similar Documents

Publication Publication Date Title
US10743844B2 (en) Ultrasound imaging apparatus
US8657440B2 (en) Image processing apparatus and image processing method
CN101596110B (zh) 心脏mri中视场的自动确定
US20170164923A1 (en) Image Processor, Ultrasound Diagnostic Device Including Same, And Image Processing Method
JP2020531074A (ja) 画像アーチファクト特定及び除去のための深層学習ネットワークを有する超音波システム
CN113557714A (zh) 医学图像处理装置、医学图像处理方法和程序
EP4129197A1 (en) Computer program, information processing method, information processing device, and method for generating model
JP7183590B2 (ja) 眼科画像処理装置、oct装置、および眼科画像処理プログラム
US20240050062A1 (en) Analyzing apparatus and analyzing method
US11631160B2 (en) Image processing apparatus, image processing method, and X-ray CT apparatus
CN113712594A (zh) 医用图像处理装置以及医用摄像装置
US11684344B2 (en) Systems and methods for quantitative abdominal aortic aneurysm analysis using 3D ultrasound imaging
WO2022071264A1 (ja) プログラム、モデル生成方法、情報処理装置及び情報処理方法
US8858442B2 (en) Ultrasonic diagnostic apparatus and ultrasonic image processing apparatus
EP2599444A1 (en) Method and device for determining the elastic modulus of a biological tissue
JP7233792B2 (ja) 画像診断装置、画像診断方法、プログラム及び機械学習用訓練データの生成方法
US20120316442A1 (en) Hypothesis Validation of Far Wall Brightness in Arterial Ultrasound
WO2022071265A1 (ja) プログラム、情報処理装置及び情報処理方法
JP7294996B2 (ja) 超音波診断装置及び表示方法
CN115439423A (zh) 一种基于ct图像的识别方法、装置、设备及存储介质
US20200170624A1 (en) Diagnostic apparatus and diagnostic method
Loizou Ultrasound image analysis of the carotid artery
WO2023053755A1 (ja) 画像診断支援装置、画像診断支援方法、及び画像診断支援プログラム
WO2023032954A1 (ja) 情報処理方法、プログラム及び画像診断装置
CN117095137B (zh) 基于双路图像采集的医疗图像的三维成像方法及***

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220602

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20220603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230215

R150 Certificate of patent or registration of utility model

Ref document number: 7233792

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150