JP7514673B2 - Medical image processing device and medical image processing system - Google Patents

Medical image processing device and medical image processing system Download PDF

Info

Publication number
JP7514673B2
JP7514673B2 JP2020114343A JP2020114343A JP7514673B2 JP 7514673 B2 JP7514673 B2 JP 7514673B2 JP 2020114343 A JP2020114343 A JP 2020114343A JP 2020114343 A JP2020114343 A JP 2020114343A JP 7514673 B2 JP7514673 B2 JP 7514673B2
Authority
JP
Japan
Prior art keywords
image
ray
medical
ultrasound
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020114343A
Other languages
Japanese (ja)
Other versions
JP2022012486A (en
Inventor
広治 安藤
智史 松永
貢大 平山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Priority to JP2020114343A priority Critical patent/JP7514673B2/en
Publication of JP2022012486A publication Critical patent/JP2022012486A/en
Application granted granted Critical
Publication of JP7514673B2 publication Critical patent/JP7514673B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Ultra Sonic Daignosis Equipment (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)

Description

本明細書及び図面に開示の実施形態は、医用画像処理装置及び医用画像処理システムに関する。 The embodiments disclosed in this specification and the drawings relate to a medical image processing device and a medical image processing system.

医用分野では、超音波プローブの複数の振動子(圧電振動子)を用いて発生させた超音波を利用して、被検体内部を画像化する超音波診断装置が使用されている。超音波診断装置は、超音波診断装置に接続された超音波プローブから被検体内に超音波を送信させ、反射波に基づくエコー信号を生成し、画像処理によって所望の超音波画像を得る。 In the medical field, ultrasound diagnostic devices are used to image the inside of a subject using ultrasound generated by multiple transducers (piezoelectric transducers) in an ultrasound probe. The ultrasound diagnostic device transmits ultrasound into the subject from an ultrasound probe connected to the ultrasound diagnostic device, generates echo signals based on the reflected waves, and obtains the desired ultrasound image through image processing.

心臓の冠動脈に対してカテーテルを用いたインターベンション治療が行われてきたが、心臓の弁膜症等の器質的な心疾患に対するインターベンション治療が注目されている。弁膜症に対するインターベンション治療は、「SHD(Structural Heart Disease)インターベンション治療」と呼ばれる。近年、SHDインターベンション治療を進める際、X線撮影装置(例えば、X線循環器装置(Angio))から得られる透視画像データだけではなく、超音波診断装置から得られる超音波画像データも駆使するケースが増加している。そのため、SHDインターベンション治療におけるマルチモダリティのニーズは高まっている。 Although interventional treatment using catheters has been performed on the coronary arteries of the heart, attention is now being paid to interventional treatment for organic heart diseases such as valvular heart disease. Interventional treatment for valvular heart disease is called "Structural Heart Disease (SHD) interventional treatment." In recent years, when performing SHD interventional treatment, there are an increasing number of cases in which not only fluoroscopic image data obtained from X-ray imaging devices (e.g., X-ray circulatory system (Angio)) but also ultrasound image data obtained from ultrasound diagnostic devices are used. As a result, there is a growing need for multi-modality in SHD interventional treatment.

具体的には、僧帽弁閉鎖不全症(MR:Mitral Regurgitation)の患者の体内に挿入されたカテーテルからクリップ等の医用デバイスを挿入し、弁の治療を行なうMitra Clip(登録商標)という術式が適用されている。この術式では、透視画像データによるガイドの下で、術者は、デバイスと心臓組織との位置関係を把握しながら、超音波の経食道心エコーで血流状況を確認しながら医用デバイスの留置を行う。そのため、この術式では、患者を開胸せずに、患者の体力や年齢を考慮して行うことができる。 Specifically, a procedure called Mitra Clip (registered trademark) is used to treat the valve by inserting a medical device such as a clip through a catheter inserted into the body of a patient with mitral regurgitation (MR). In this procedure, under guidance from fluoroscopic image data, the surgeon places the medical device while grasping the positional relationship between the device and the cardiac tissue and checking the blood flow conditions with ultrasonic transesophageal echocardiography. Therefore, this procedure can be performed without opening the patient's chest, taking into consideration the patient's physical strength and age.

また、非弁膜症性心房細動の患者の体内に挿入されたカテーテルの中から、WATCHMAN(登録商標)デバイス等の医用デバイスを挿入し、左心耳の中に留置する術式が適用されている。デバイスが留置されると、術者は、超音波画像で左心耳の適切な位置に留置できているかを確認し、医用デバイスをリリースする。 In addition, a surgical procedure is used in which a medical device such as the WATCHMAN (registered trademark) device is inserted through a catheter inserted into the body of a patient with non-valvular atrial fibrillation and placed in the left atrial appendage. Once the device is placed, the surgeon uses ultrasound images to check that it has been placed in the appropriate position in the left atrial appendage, and then releases the medical device.

特開2014-76331号公報JP 2014-76331 A

本明細書及び図面に開示の実施形態が解決しようとする課題の一つは、インターベンション治療において、術者等の操作者を支援可能な画像データを生成することである。ただし、本明細書及び図面に開示の実施形態により解決しようとする課題は上記課題に限られない。後述する実施形態に示す各構成による各効果に対応する課題を他の課題として位置づけることもできる。 One of the problems that the embodiments disclosed in this specification and the drawings attempt to solve is to generate image data that can assist an operator such as a surgeon in an interventional treatment. However, the problems that the embodiments disclosed in this specification and the drawings attempt to solve are not limited to the above problem. Problems corresponding to the effects of each configuration shown in the embodiments described below can also be positioned as other problems.

実施形態に係る医用画像処理装置は、第1画像取得部と、第2画像取得部と、第3画像取得部と、第1位置合せ部と、第2位置合せ部と、画像生成部とを有する。第1画像取得部は、被検体の超音波画像を第1の医用画像として取得する。第2画像取得部は、被検体のX線画像を第2の医用画像として取得する。第3画像取得部は、超音波画像及びX線画像とは異なる、被検体の第3の医用画像を取得する。第1位置合せ部は、X線画像を、超音波画像に位置合せする。第2位置合せ部は、第3の医用画像を、超音波画像に位置合せする。画像生成部は、第1位置合せ部による位置合せ結果および第2位置合せ部による位置合せ結果に基づいて、X線画像と第3の医用画像とを位置合せし、X線画像に対して第3の医用画像が位置合せされた画像を生成する。 The medical image processing device according to the embodiment has a first image acquisition unit, a second image acquisition unit, a third image acquisition unit, a first alignment unit, a second alignment unit, and an image generation unit. The first image acquisition unit acquires an ultrasound image of the subject as a first medical image. The second image acquisition unit acquires an X-ray image of the subject as a second medical image. The third image acquisition unit acquires a third medical image of the subject, which is different from the ultrasound image and the X-ray image. The first alignment unit aligns the X-ray image with the ultrasound image. The second alignment unit aligns the third medical image with the ultrasound image. The image generation unit aligns the X-ray image with the third medical image based on the alignment result by the first alignment unit and the alignment result by the second alignment unit, and generates an image in which the third medical image is aligned with the X-ray image.

図1は、実施形態に係る医用画像処理装置を設ける医用画像処理システムの構成の一例を示す概略図。FIG. 1 is a schematic diagram showing an example of the configuration of a medical image processing system including a medical image processing apparatus according to an embodiment. 図2は、実施形態に係る医用画像処理装置を設ける医用画像処理システムの外観を示す図。FIG. 2 is a diagram showing the appearance of a medical image processing system including a medical image processing apparatus according to an embodiment. 図3は、実施形態に係る医用画像処理装置を設ける医用画像処理システムのX線撮影装置の構成の一例を示す概略図。FIG. 3 is a schematic diagram showing an example of the arrangement of an X-ray imaging apparatus in a medical image processing system including a medical image processing apparatus according to an embodiment. 図4は、実施形態に係る医用画像処理装置を設ける医用画像処理システムの機能の一例を示すブロック図。FIG. 4 is a block diagram showing an example of functions of a medical image processing system including a medical image processing apparatus according to an embodiment. 図5は、実施形態に係る医用画像処理装置を設ける医用画像処理システムの動作の一例をフローチャートとして示す図。FIG. 5 is a flowchart showing an example of the operation of a medical image processing system including the medical image processing apparatus according to the embodiment. 図6は、実施形態に係る医用画像処理装置を設ける医用画像処理システムの動作の一例をフローチャートとして示す図。FIG. 6 is a flowchart showing an example of the operation of the medical image processing system including the medical image processing apparatus according to the embodiment. 図7は、実施形態に係る医用画像処理装置を設ける医用画像処理システムにおいて、X線透視画像データに、超音波画像データが重畳された重畳画像データに基づく重畳画像の一例を示す図。FIG. 7 is a diagram showing an example of a superimposed image based on superimposed image data in which ultrasound image data is superimposed on X-ray fluoroscopic image data in a medical image processing system including a medical image processing apparatus according to an embodiment. 図8は、実施形態に係る医用画像処理装置を設ける医用画像処理システムにおいて、X線透視画像データに、左心房の全体を含むCT画像データが重畳された重畳画像データに基づく重畳画像の一例を示す図。Figure 8 is a diagram showing an example of a superimposed image based on superimposed image data in which CT image data including the entire left atrium is superimposed on X-ray fluoroscopic image data in a medical image processing system including a medical image processing device according to an embodiment. 図9は、実施形態に係る医用画像処理装置を設ける医用画像処理システムにおいて、X線透視画像データに、左心房の全体を含むCT画像データと心臓を部分的に含む超音波画像データとが重畳された重畳画像データに基づく重畳画像の一例を示す図。Figure 9 is a diagram showing an example of a superimposed image based on superimposed image data in which CT image data including the entire left atrium and ultrasound image data including part of the heart are superimposed on X-ray fluoroscopy image data in a medical image processing system having a medical image processing device according to an embodiment. 図10は、実施形態に係る医用画像処理装置を設ける医用画像処理システムにおいて、X線透視画像データに、血管を含むCT画像データが重畳された重畳画像データに基づく重畳画像の一例を示す図。FIG. 10 is a diagram showing an example of a superimposed image based on superimposed image data in which CT image data including blood vessels is superimposed on X-ray fluoroscopic image data in a medical image processing system including a medical image processing apparatus according to an embodiment. 図11は、実施形態に係る医用画像処理装置を設ける医用画像処理システムにおいて、図3に示す医用画像処理システムの変形例を示すブロック図。FIG. 11 is a block diagram showing a modified example of the medical image processing system shown in FIG. 3 in a medical image processing system including the medical image processing apparatus according to the embodiment.

以下、図面を参照しながら、医用画像処理装置及び医用画像処理システムの実施形態について詳細に説明する。 Below, we will explain in detail the embodiments of the medical image processing device and medical image processing system with reference to the drawings.

図1は、実施形態に係る医用画像処理装置を設ける医用画像処理システムの構成の一例を示す概略図である。図2は、実施形態に係る医用画像処理装置を設ける医用画像処理システムの外観を示す図である。 Figure 1 is a schematic diagram showing an example of the configuration of a medical image processing system that includes a medical image processing device according to an embodiment. Figure 2 is a diagram showing the external appearance of a medical image processing system that includes a medical image processing device according to an embodiment.

図1は、医用画像処理システム1を示す。医用画像処理システム1は、第1の医用画像生成装置(「モダリティ」とも呼ばれる)としての超音波診断装置10と、超音波プローブ20と、位置センサ30と、第2の医用画像生成装置としてのX線撮影装置(例えば、X線循環器装置(Angio))40と、医用画像提供装置50とを備える。なお、超音波診断装置10に、超音波プローブ20と、位置センサ30とのうちの少なくとも1個を加えた装置を超音波診断装置と称する場合もある。以下の説明では、超音波診断装置の外部に、超音波プローブ20と、位置センサ30とが備えられる場合について説明する。 Figure 1 shows a medical image processing system 1. The medical image processing system 1 includes an ultrasound diagnostic device 10 as a first medical image generating device (also called a "modality"), an ultrasound probe 20, a position sensor 30, an X-ray imaging device (e.g., an X-ray circulatory system (Angio)) 40 as a second medical image generating device, and a medical image providing device 50. Note that an apparatus in which at least one of the ultrasound probe 20 and the position sensor 30 is added to the ultrasound diagnostic device 10 may also be referred to as an ultrasound diagnostic device. In the following explanation, a case in which the ultrasound probe 20 and the position sensor 30 are provided outside the ultrasound diagnostic device will be described.

超音波診断装置10は、送受信回路11と、Bモード処理回路12と、ドプラ処理回路13と、画像生成回路14と、画像メモリ15と、ネットワークインターフェース16と、本実施形態に係る医用画像処理装置17と、入力インターフェース18と、ディスプレイ19とを備える。回路11~14は、特定用途向け集積回路(ASIC:Application Specific Integrated Circuit)等によって構成されるものである。しかしながら、その場合に限定されるものではなく、回路11~14の機能の全部又は一部は、医用画像処理装置17の処理回路171がプログラムを実行することで実現されるものであってもよい。また、超音波診断装置10は、入力インターフェース18と、ディスプレイ19とのうちの少なくとも1個をその外部に備えてもよい。以下の説明では、超音波診断装置の内部に、入力インターフェース18と、ディスプレイ19との両方が備えられる場合について説明する。 The ultrasound diagnostic device 10 includes a transmission/reception circuit 11, a B-mode processing circuit 12, a Doppler processing circuit 13, an image generation circuit 14, an image memory 15, a network interface 16, a medical image processing device 17 according to this embodiment, an input interface 18, and a display 19. The circuits 11 to 14 are configured by application specific integrated circuits (ASICs) or the like. However, this is not limited to this case, and all or part of the functions of the circuits 11 to 14 may be realized by the processing circuit 171 of the medical image processing device 17 executing a program. The ultrasound diagnostic device 10 may also include at least one of the input interface 18 and the display 19 externally. In the following description, a case in which both the input interface 18 and the display 19 are provided inside the ultrasound diagnostic device will be described.

送受信回路11は、送信回路と受信回路とを有する(図示省略)。送受信回路11は、処理回路171による制御の下、超音波の送受信における送信指向性と受信指向性とを制御する。なお、送受信回路11が超音波診断装置10に設けられる場合について説明するが、送受信回路11は、超音波プローブ20に設けられてもよいし、超音波診断装置10と超音波プローブ20との両方に設けられてもよい。なお、送受信回路11は、送受信部の一例である。 The transmission/reception circuit 11 has a transmission circuit and a reception circuit (not shown). The transmission/reception circuit 11 controls the transmission directivity and reception directivity in transmitting and receiving ultrasound under the control of the processing circuit 171. Note that, although a case where the transmission/reception circuit 11 is provided in the ultrasound diagnostic device 10 will be described, the transmission/reception circuit 11 may be provided in the ultrasound probe 20, or may be provided in both the ultrasound diagnostic device 10 and the ultrasound probe 20. Note that the transmission/reception circuit 11 is an example of a transmission/reception unit.

送信回路は、パルス発生回路と、送信遅延回路と、パルサ回路等を有し、超音波振動子に駆動信号を供給する。パルス発生回路は、所定のレート周波数で、送信超音波を形成するためのレートパルスを繰り返し発生する。送信遅延回路は、超音波プローブ20の超音波振動子から発生される超音波をビーム状に集束して送信指向性を決定するために必要な圧電振動子ごとの遅延時間を、パルス発生回路が発生する各レートパルスに対し与える。また、パルサ回路は、レートパルスに基づくタイミングで、超音波振動子に駆動パルスを印加する。送信遅延回路は、各レートパルスに対し与える遅延時間を変化させることで、圧電振動子面から送信される超音波ビームの送信方向を任意に調整する。 The transmission circuit has a pulse generation circuit, a transmission delay circuit, a pulsar circuit, etc., and supplies a drive signal to the ultrasonic transducer. The pulse generation circuit repeatedly generates rate pulses to form a transmission ultrasonic wave at a predetermined rate frequency. The transmission delay circuit provides each rate pulse generated by the pulse generation circuit with a delay time for each piezoelectric transducer required to focus the ultrasonic waves generated from the ultrasonic transducers of the ultrasonic probe 20 into a beam and determine the transmission directivity. In addition, the pulsar circuit applies a drive pulse to the ultrasonic transducer at a timing based on the rate pulse. The transmission delay circuit changes the delay time provided to each rate pulse to arbitrarily adjust the transmission direction of the ultrasonic beam transmitted from the piezoelectric transducer surface.

受信回路は、アンプ回路と、A/D(Analog to Digital)変換器と、加算器等を有し、超音波振動子が受信したエコー信号を受け、このエコー信号に対して各種処理を行ってエコーデータを生成する。アンプ回路は、エコー信号をチャンネル毎に増幅してゲイン補正処理を行う。A/D変換器は、ゲイン補正されたエコー信号をA/D変換し、デジタルデータに受信指向性を決定するのに必要な遅延時間を与える。加算器は、A/D変換器によって処理されたエコー信号の加算処理を行ってエコーデータを生成する。加算器の加算処理により、エコー信号の受信指向性に応じた方向からの反射成分が強調される。 The receiving circuit has an amplifier circuit, an A/D (Analog to Digital) converter, an adder, etc., and receives the echo signal received by the ultrasonic transducer and performs various processes on this echo signal to generate echo data. The amplifier circuit amplifies the echo signal for each channel and performs gain correction processing. The A/D converter A/D converts the gain-corrected echo signal and gives the digital data a delay time required to determine the reception directivity. The adder performs addition processing of the echo signal processed by the A/D converter to generate echo data. The addition processing of the adder emphasizes the reflected components from the direction corresponding to the reception directivity of the echo signal.

Bモード処理回路12は、処理回路171による制御の下、受信回路からエコーデータを受信し、対数増幅と、包絡線検波処理等を行って、信号強度が輝度の明るさで表現されるデータ(2次元又は3次元データ)を生成する。このデータは、一般に、Bモードデータと呼ばれる。なお、Bモード処理回路12は、Bモード処理部の一例である。 Under the control of the processing circuit 171, the B-mode processing circuit 12 receives echo data from the receiving circuit, and performs logarithmic amplification and envelope detection processing, etc. to generate data (two-dimensional or three-dimensional data) in which the signal strength is expressed as luminance brightness. This data is generally called B-mode data. The B-mode processing circuit 12 is an example of a B-mode processing unit.

なお、Bモード処理回路12は、フィルタ処理により、検波周波数を変化させることで、映像化する周波数帯域を変えることができる。Bモード処理回路12のフィルタ処理機能を用いることにより、コントラストハーモニックイメージング(CHI:Contrast Harmonic Imaging)や、ティッシュハーモニックイメージング(THI:Tissue Harmonic Imaging)等のハーモニックイメージングを実行可能である。すなわち、Bモード処理回路12は、造影剤が注入された被検体の反射波データから、造影剤(微小気泡、バブル)を反射源とするハーモニック成分の反射波データ(高調波データ又は分周波データ)と、被検体内の組織を反射源とする基本波成分の反射波データ(基本波データ)とを分離することができる。Bモード処理回路12は、また、ハーモニック成分の反射波データ(受信信号)から、造影画像データを生成するためのBモードデータを生成することができ、また、基本波成分の反射波データ(受信信号)から、基本波(ファンダメンタル)画像データを生成するためのBモードデータを生成することができる。 The B-mode processing circuit 12 can change the frequency band to be visualized by changing the detection frequency through filter processing. By using the filter processing function of the B-mode processing circuit 12, it is possible to perform harmonic imaging such as contrast harmonic imaging (CHI) and tissue harmonic imaging (THI). That is, the B-mode processing circuit 12 can separate reflected wave data (harmonic data or sub-frequency data) of harmonic components whose reflection source is the contrast agent (microbubbles, bubbles) from reflected wave data of a subject into which a contrast agent has been injected, and reflected wave data (fundamental wave data) of fundamental components whose reflection source is tissue in the subject, from reflected wave data of the harmonic component (received signal). The B-mode processing circuit 12 can also generate B-mode data for generating contrast image data from reflected wave data of the harmonic component (received signal), and can also generate B-mode data for generating fundamental image data from reflected wave data of the fundamental component (received signal).

また、Bモード処理回路12のフィルタ処理機能を用いることによるTHIにおいて、被検体の反射波データから、ハーモニック成分の反射波データ(受信信号)である高調波データ又は分周波データを分離することができる。そして、Bモード処理回路12は、ハーモニック成分の反射波データ(受信信号)から、ノイズ成分を除去した組織画像データを生成するためのBモードデータを生成することができる。 In addition, in THI, by using the filter processing function of the B-mode processing circuit 12, harmonic data or sub-frequency data, which is reflected wave data (received signal) of harmonic components, can be separated from the reflected wave data of the subject.The B-mode processing circuit 12 can then generate B-mode data for generating tissue image data from which noise components have been removed, from the reflected wave data (received signal) of harmonic components.

さらに、CHIやTHIのハーモニックイメージングを行う際、Bモード処理回路12は、上述したフィルタ処理を用いた方法とは異なる方法により、ハーモニック成分を抽出することができる。ハーモニックイメージングでは、振幅変調(AM:Amplitude Modulation)法、位相変調(PM:Phase Modulation)法、AM法及びPM法を組み合せたAMPM法と呼ばれる映像法が行われる。AM法と、PM法と、AMPM法とでは、同一の走査線に対して振幅や位相が異なる超音波送信を複数回行う。これにより、送受信回路11は、各走査線で複数の反射波データ(受信信号)を生成し出力する。そして、Bモード処理回路12は、各走査線の複数の反射波データ(受信信号)を、変調法に応じた加減算処理することで、ハーモニック成分を抽出する。そして、Bモード処理回路12は、ハーモニック成分の反射波データ(受信信号)に対して包絡線検波処理等を行って、Bモードデータを生成する。 Furthermore, when performing harmonic imaging of CHI or THI, the B-mode processing circuit 12 can extract harmonic components by a method different from the above-mentioned method using filter processing. In harmonic imaging, an imaging method called the AMPM method, which is a combination of the amplitude modulation (AM) method, the phase modulation (PM) method, and the AM method and PM method, is performed. In the AM method, the PM method, and the AMPM method, ultrasonic waves with different amplitudes and phases are transmitted multiple times for the same scanning line. As a result, the transmission/reception circuit 11 generates and outputs multiple reflected wave data (received signals) for each scanning line. Then, the B-mode processing circuit 12 extracts harmonic components by performing addition and subtraction processing on the multiple reflected wave data (received signals) for each scanning line according to the modulation method. Then, the B-mode processing circuit 12 performs envelope detection processing or the like on the reflected wave data (received signals) of the harmonic components to generate B-mode data.

例えば、PM法が行われる場合、送受信回路11は、処理回路171が設定したスキャンシーケンスにより、例えば(-1,1)のように、位相極性を反転させた同一振幅の超音波を、各走査線で2回送信させる。そして、送受信回路11は、「-1」の送信による受信信号と、「1」の送信による受信信号とを生成し、Bモード処理回路12は、これら2つの受信信号を加算する。これにより、基本波成分が除去され、2次高調波成分が主に残存した信号が生成される。そして、Bモード処理回路12は、この信号に対して包絡線検波処理等を行って、THIのBモードデータやCHIのBモードデータを生成する。 For example, when the PM method is performed, the transmission/reception circuitry 11 transmits ultrasound waves of the same amplitude with inverted phase polarity, for example (-1, 1), twice on each scan line according to the scan sequence set by the processing circuitry 171. The transmission/reception circuitry 11 then generates a reception signal resulting from the transmission of "-1" and a reception signal resulting from the transmission of "1", and the B-mode processing circuitry 12 adds these two reception signals together. This removes the fundamental wave component, generating a signal in which the second harmonic component remains as the main component. The B-mode processing circuitry 12 then performs envelope detection processing on this signal, generating B-mode data for THI and B-mode data for CHI.

又は、例えば、THIでは、受信信号に含まれる2次高調波成分と差音成分とを用いて映像化を行う方法が実用化されている。差音成分を用いた映像化法では、例えば、中心周波数が「f1」の第1基本波と、中心周波数が「f1」より大きい「f2」の第2基本波とを合成した合成波形の送信超音波を、超音波プローブ20から送信させる。この合成波形は、2次高調波成分と同一の極性を持つ差音成分が発生するように、互いの位相が調整された第1基本波の波形と第2基本波の波形とを合成した波形である。送受信回路11は、合成波形の送信超音波を、位相を反転させながら、例えば、2回送信させる。かかる場合、例えば、Bモード処理回路12は、2つの受信信号を加算することで、基本波成分が除去され、差音成分及び2次高調波成分が主に残存したハーモニック成分を抽出した後、包絡線検波処理等を行う。 Alternatively, for example, in THI, a method of imaging using the second harmonic component and the difference frequency component contained in the received signal has been put to practical use. In the imaging method using the difference frequency component, for example, a transmission ultrasound having a composite waveform obtained by combining a first fundamental wave having a center frequency of "f1" and a second fundamental wave having a center frequency of "f2" greater than "f1" is transmitted from the ultrasound probe 20. This composite waveform is a waveform obtained by combining the waveform of the first fundamental wave and the waveform of the second fundamental wave, the phases of which are adjusted so that a difference frequency component having the same polarity as the second harmonic component is generated. The transmission/reception circuit 11 transmits the transmission ultrasound having the composite waveform, for example, twice while inverting the phase. In such a case, for example, the B-mode processing circuit 12 adds two received signals to remove the fundamental wave component, extracts the harmonic components in which the difference frequency component and the second harmonic component mainly remain, and then performs envelope detection processing, etc.

ドプラ処理回路13は、処理回路171による制御の下、受信回路からのエコーデータから速度情報を周波数解析し、平均速度、分散、パワー等の移動体の移動情報を多点について抽出したデータ(2次元又は3次元データ)を生成する。このデータは、一般に、ドプラデータと呼ばれる。ここで、移動体の例としては、血流と、心壁等の組織と、造影剤等が挙げられる。なお、ドプラ処理回路13は、ドプラ処理部の一例である。 Under the control of the processing circuit 171, the Doppler processing circuit 13 performs frequency analysis of the velocity information from the echo data from the receiving circuit, and generates data (two-dimensional or three-dimensional data) that extracts the movement information of the moving object, such as the average velocity, variance, and power, for multiple points. This data is generally called Doppler data. Examples of moving objects include blood flow, tissues such as the heart wall, and contrast agents. The Doppler processing circuit 13 is an example of a Doppler processing unit.

画像生成回路14は、処理回路171による制御の下、超音波プローブ20が受信したエコー信号に基づいて、所定の輝度レンジで表現された超音波画像データを生成する。例えば、画像生成回路14は、超音波画像データとして、Bモード処理回路12によって生成された2次元のBモードデータから反射波の強度を輝度にて表したBモード画像データを生成する。また、画像生成回路14は、超音波画像データとして、ドプラ処理回路13によって生成された2次元のドプラデータから移動態情報を表す平均速度画像データ、分散画像データ、パワー画像データ、又は、これらの組み合せの画像データとしてのカラードプラ画像データを生成する。なお、画像生成回路14は、画像生成部の一例である。 Under the control of the processing circuit 171, the image generation circuit 14 generates ultrasound image data expressed in a predetermined brightness range based on the echo signal received by the ultrasound probe 20. For example, the image generation circuit 14 generates, as ultrasound image data, B-mode image data in which the intensity of the reflected wave is expressed as brightness from the two-dimensional B-mode data generated by the B-mode processing circuit 12. The image generation circuit 14 also generates, as ultrasound image data, average velocity image data, variance image data, power image data, or color Doppler image data as image data of a combination of these, which represent the locomotion information from the two-dimensional Doppler data generated by the Doppler processing circuit 13. The image generation circuit 14 is an example of an image generation unit.

ここで、画像生成回路14は、一般的には、超音波走査の走査線信号列を、テレビ等に代表されるビデオフォーマットの走査線信号列に変換(スキャンコンバート)し、表示用の超音波画像データを生成する。具体的には、画像生成回路14は、超音波プローブ20による超音波の走査形態に応じて座標変換を行うことで、表示用の超音波画像データを生成する。また、画像生成回路14は、スキャンコンバート以外に、種々の画像処理として、例えば、スキャンコンバート後の複数の画像フレームを用いて、輝度の平均値画像を再生成する画像処理(平滑化処理)や、画像内で微分フィルタを用いる画像処理(エッジ強調処理)等を行う。また、画像生成回路14は、超音波画像データに、種々のパラメータの文字情報、目盛り、ボディーマーク等を合成する。 Here, the image generating circuit 14 generally converts (scan converts) the scan line signal sequence of the ultrasound scan into a scan line signal sequence of a video format, such as that of a television, to generate ultrasound image data for display. Specifically, the image generating circuit 14 generates ultrasound image data for display by performing coordinate conversion according to the ultrasound scanning form of the ultrasound probe 20. In addition to scan conversion, the image generating circuit 14 also performs various image processing, such as image processing (smoothing processing) that regenerates an average brightness image using multiple image frames after scan conversion, and image processing (edge enhancement processing) that uses a differential filter within the image. The image generating circuit 14 also combines text information of various parameters, scales, body marks, etc., with the ultrasound image data.

すなわち、Bモードデータとドプラデータとは、スキャンコンバート処理前の超音波画像データであり、画像生成回路14が生成するデータは、スキャンコンバート処理後の表示用の超音波画像データである。なお、Bモードデータとドプラデータとは、生データ(Raw Data)とも呼ばれる。画像生成回路14は、スキャンコンバート処理前の2次元超音波画像データから、表示用の2次元超音波画像データを生成する。 That is, the B-mode data and Doppler data are ultrasound image data before the scan conversion process, and the data generated by the image generation circuit 14 is ultrasound image data for display after the scan conversion process. Note that the B-mode data and Doppler data are also called raw data. The image generation circuit 14 generates two-dimensional ultrasound image data for display from the two-dimensional ultrasound image data before the scan conversion process.

さらに、画像生成回路14は、Bモード処理回路12によって生成された3次元のBモードデータに対して座標変換を行うことで、3次元Bモード画像データを生成する。また、画像生成回路14は、ドプラ処理回路13によって生成された3次元のドプラデータに対して座標変換を行うことで、3次元ドプラ画像データを生成する。画像生成回路14は、「3次元のBモード画像データや3次元ドプラ画像データ」を「3次元超音波画像データ(ボリュームデータ)」として生成する。 Furthermore, the image generation circuitry 14 generates three-dimensional B-mode image data by performing coordinate transformation on the three-dimensional B-mode data generated by the B-mode processing circuitry 12. The image generation circuitry 14 also generates three-dimensional Doppler image data by performing coordinate transformation on the three-dimensional Doppler data generated by the Doppler processing circuitry 13. The image generation circuitry 14 generates "three-dimensional B-mode image data or three-dimensional Doppler image data" as "three-dimensional ultrasound image data (volume data)."

そして、画像生成回路14は、3次元メモリに記憶されたボリュームデータをディスプレイ19にて表示するための各種の2次元画像データを生成するために、ボリュームデータに対してレンダリング処理を行う。画像生成回路14は、レンダリング処理として、例えば、断面再構成法(MPR:Multi Planer Reconstruction)を行ってボリュームデータからMPR画像データを生成する処理を行う。また、画像生成回路14は、レンダリング処理として、例えば、3次元の情報を反映した2次元画像データを生成するボリュームレンダリング(VR:Volume Rendering)処理を行う。 Then, the image generation circuitry 14 performs rendering processing on the volume data to generate various types of two-dimensional image data for displaying the volume data stored in the three-dimensional memory on the display 19. As the rendering processing, the image generation circuitry 14 performs, for example, multi-planar reconstruction (MPR) to generate MPR image data from the volume data. As the rendering processing, the image generation circuitry 14 also performs, for example, volume rendering (VR) processing to generate two-dimensional image data reflecting three-dimensional information.

画像メモリ15は、例えば、磁気的記録媒体、光学的記録媒体、又は半導体メモリ等のプロセッサにより読み取り可能な記録媒体等を有する。画像メモリ15は、処理回路171の制御による制御の下、画像生成回路14によって生成された超音波画像データを保存する。なお、画像メモリ15は、記憶部の一例である。 The image memory 15 includes a processor-readable recording medium, such as a magnetic recording medium, an optical recording medium, or a semiconductor memory. The image memory 15 stores ultrasound image data generated by the image generation circuitry 14 under the control of the processing circuitry 171. The image memory 15 is an example of a storage unit.

ネットワークインターフェース16は、ネットワークの形態に応じた種々の情報通信用プロトコルを実装する。ネットワークインターフェース16は、この各種プロトコルに従って、超音波診断装置10と、外部のX線撮影装置40や、医用画像提供装置50等の他の機器とを接続する。この接続には、電子ネットワークを介した電気的な接続等を適用することができる。ここで、電子ネットワークとは、電気通信技術を利用した情報通信網全般を意味し、無線/有線の病院基幹のLAN(Local Area Network)やインターネット網のほか、電話通信回線網、光ファイバ通信ネットワーク、ケーブル通信ネットワーク及び衛星通信ネットワーク等を含む。 The network interface 16 implements various information communication protocols according to the type of network. In accordance with these various protocols, the network interface 16 connects the ultrasound diagnostic apparatus 10 to other devices such as an external X-ray imaging apparatus 40 and a medical image providing apparatus 50. This connection can be an electrical connection via an electronic network. Here, the electronic network refers to a general information communication network that uses electrical communication technology, and includes not only wireless/wired hospital-based LANs (Local Area Networks) and Internet networks, but also telephone communication line networks, optical fiber communication networks, cable communication networks, and satellite communication networks.

また、ネットワークインターフェース16は、非接触無線通信用の種々のプロトコルを実装してもよい。この場合、超音波診断装置10は、例えば超音波プローブ20と、ネットワークを介さず直接にデータ送受信することができる。なお、ネットワークインターフェース16は、ネットワーク接続部の一例である。 The network interface 16 may also implement various protocols for non-contact wireless communication. In this case, the ultrasound diagnostic device 10 can transmit and receive data directly to, for example, the ultrasound probe 20 without going through a network. The network interface 16 is an example of a network connection unit.

医用画像処理装置17は、処理回路171と、メインメモリ172とを備える。 The medical image processing device 17 includes a processing circuit 171 and a main memory 172.

処理回路171は、専用又は汎用のCPU(central processing unit)、MPU(micro processor unit)、又はGPU(Graphics Processing Unit)の他、ASIC、及び、プログラマブル論理デバイス等を意味する。プログラマブル論理デバイスとしては、例えば、単純プログラマブル論理デバイス(SPLD:simple programmable logic device)、複合プログラマブル論理デバイス(CPLD:complex programmable logic device)、及び、フィールドプログラマブルゲートアレイ(FPGA:field programmable gate array)等が挙げられる。 The processing circuit 171 refers to a dedicated or general-purpose CPU (central processing unit), MPU (micro processor unit), or GPU (graphics processing unit), as well as an ASIC and a programmable logic device. Examples of programmable logic devices include a simple programmable logic device (SPLD), a complex programmable logic device (CPLD), and a field programmable gate array (FPGA).

また、処理回路171は、単一の回路によって構成されてもよいし、複数の独立した回路要素の組み合せによって構成されてもよい。後者の場合、メインメモリ172は回路要素ごとに個別に設けられてもよいし、単一のメインメモリ172が複数の回路要素の機能に対応するプログラムを記憶するものであってもよい。なお、処理回路171は、処理部の一例である。 The processing circuit 171 may be configured as a single circuit, or may be configured as a combination of multiple independent circuit elements. In the latter case, the main memory 172 may be provided separately for each circuit element, or a single main memory 172 may store programs corresponding to the functions of multiple circuit elements. The processing circuit 171 is an example of a processing unit.

メインメモリ172は、RAM(random access memory)、フラッシュメモリ(flash memory)等の半導体メモリ素子、ハードディスク、光ディスク等によって構成される。メインメモリ172は、USB(universal serial bus)メモリ及びDVD(digital video disk)等の可搬型メディアによって構成されてもよい。メインメモリ172は、処理回路171において用いられる各種処理プログラム(アプリケーションプログラムの他、OS(operating system)等も含まれる)や、プログラムの実行に必要なデータを記憶する。また、OSに、操作者に対するディスプレイ19への情報の表示にグラフィックを多用し、基礎的な操作を入力インターフェース18によって行うことができるGUI(graphical user interface)を含めることもできる。なお、メインメモリ172は、記憶部の一例である。 The main memory 172 is composed of semiconductor memory elements such as RAM (random access memory) and flash memory, a hard disk, an optical disk, etc. The main memory 172 may be composed of portable media such as a universal serial bus (USB) memory and a digital video disk (DVD). The main memory 172 stores various processing programs (including application programs and an operating system (OS)) used in the processing circuit 171 and data required for executing the programs. The OS can also include a graphical user interface (GUI) that makes extensive use of graphics to display information to the operator on the display 19 and allows basic operations to be performed by the input interface 18. The main memory 172 is an example of a storage unit.

入力インターフェース18は、操作者によって操作が可能な入力デバイスと、入力デバイスからの信号を入力する入力回路とを含む。入力デバイスは、トラックボール、スイッチ、マウス、キーボード、操作面に触れることで入力操作を行うタッチパッド、表示画面とタッチパッドとが一化されたタッチスクリーン、光学センサを用いた非接触入力デバイス、及び音声入力デバイス等によって実現される。また、超音波プローブ20がTEEプローブである場合は、入力デバイスは、TEEプローブを操作可能なコントローラによって実現される場合もある。操作者により入力デバイスが操作されると、入力回路はその操作に応じた信号を生成して処理回路171に出力する。なお、入力インターフェース18は、入力部の一例である。 The input interface 18 includes an input device that can be operated by the operator, and an input circuit that inputs a signal from the input device. The input device can be realized by a trackball, a switch, a mouse, a keyboard, a touchpad that performs input operations by touching the operation surface, a touchscreen that integrates the display screen and touchpad, a non-contact input device that uses an optical sensor, and a voice input device. In addition, when the ultrasound probe 20 is a TEE probe, the input device can also be realized by a controller that can operate the TEE probe. When the input device is operated by the operator, the input circuit generates a signal corresponding to the operation and outputs it to the processing circuit 171. The input interface 18 is an example of an input unit.

ディスプレイ19は、例えば液晶ディスプレイやOLED(Organic Light Emitting Diode)ディスプレイ等の一般的な表示出力装置により構成される。ディスプレイ19は、処理回路171の制御に従って各種情報を表示する。なお、ディスプレイ19は、表示部の一例である。 The display 19 is configured with a general display output device such as a liquid crystal display or an OLED (Organic Light Emitting Diode) display. The display 19 displays various information according to the control of the processing circuit 171. The display 19 is an example of a display unit.

超音波プローブ20は、前面部に複数個の微小な振動子(圧電素子)を備え、対象を含む領域、例えば心臓の左心房を含む領域に対して超音波の送受波を行う。各振動子は電気音響変換素子であり、送信時には電気パルスを超音波パルスに変換し、また、受信時には反射波を電気信号(受信信号)に変換する機能を有する。超音波プローブ20は小型、軽量に構成されており、ケーブル(又は無線通信)を介して超音波診断装置10に接続される。 The ultrasound probe 20 has multiple tiny transducers (piezoelectric elements) on the front surface, and transmits and receives ultrasound waves to and from an area including a target, such as an area including the left atrium of the heart. Each transducer is an electroacoustic conversion element, and has the function of converting an electrical pulse into an ultrasonic pulse when transmitting, and converting a reflected wave into an electrical signal (received signal) when receiving. The ultrasound probe 20 is small and lightweight, and is connected to the ultrasound diagnostic device 10 via a cable (or wireless communication).

超音波プローブ20は、スキャン方式の違いにより、リニア型、コンベックス型、及びセクタ型等の種類に分けられる。また、超音波プローブ20は、アレイ配列次元の違いにより、アジマス方向に1次元(1D)的に複数個の振動子が配列された1Dアレイプローブと、アジマス方向かつエレベーション方向に2次元(2D)的に複数個の振動子が配列された2Dアレイプローブとの種類に分けられる。なお、1Dアレイプローブは、エレベーション方向に少数の振動子が配列されたプローブを含む。 The ultrasonic probe 20 is divided into types such as linear type, convex type, and sector type depending on the scanning method. Also, the ultrasonic probe 20 is divided into types such as 1D array probes in which multiple transducers are arranged one-dimensionally (1D) in the azimuth direction and 2D array probes in which multiple transducers are arranged two-dimensionally (2D) in both the azimuth direction and the elevation direction depending on the array arrangement dimension. Note that 1D array probes include probes in which a small number of transducers are arranged in the elevation direction.

ここで、3D撮影、つまり、ボリューム撮影(例えば、ボリュームスキャン)が実行される場合、超音波プローブ20として、リニア型、コンベックス型、及びセクタ型等のスキャン方式を備えた2Dアレイプローブが利用される。又は、ボリューム撮影が実行される場合、超音波プローブ20として、リニア型、コンベックス型、及びセクタ型等のスキャン方式を備え、エレベーション方向に機械的に揺動する機構を備えた1Dプローブが利用される。後者のプローブは、メカ4Dプローブとも呼ばれる。 Here, when 3D imaging, i.e., volume imaging (e.g., volume scan), is performed, a 2D array probe equipped with a scanning method such as linear type, convex type, or sector type is used as the ultrasound probe 20. Alternatively, when volume imaging is performed, a 1D probe equipped with a scanning method such as linear type, convex type, or sector type and equipped with a mechanism for mechanically oscillating in the elevation direction is used as the ultrasound probe 20. The latter probe is also called a mechanical 4D probe.

ここで、超音波プローブ20は、被検体、例えば患者Pの体表上で操作される超音波プローブ(即ち、体表プローブ)である。例えば、超音波プローブ20は、患者Pの胸部の体表上で操作され、左室、左房、大動脈、僧帽弁、大動脈弁等を走査することができる経胸壁心エコー(TTE:Transthoracic echocardiography)プローブである。又は、超音波プローブ20は、患者Pの体腔内に挿入されて体腔内で操作される超音波プローブ(即ち、体腔内プローブ)である。例えば、超音波プローブ20は、食道内で操作され、左室、左房、大動脈、僧帽弁、大動脈弁などを走査することができる経食道心エコー(TEE:Transesophageal echocardiography)プローブである。なお、TEEプローブは、略リアルタイムで心臓等の3次元の超音波画像データを取得することができる。 Here, the ultrasound probe 20 is an ultrasound probe (i.e., a body surface probe) that is operated on the body surface of the subject, for example, patient P. For example, the ultrasound probe 20 is a transthoracic echocardiography (TTE) probe that is operated on the body surface of the patient P's chest and can scan the left ventricle, left atrium, aorta, mitral valve, aortic valve, etc. Alternatively, the ultrasound probe 20 is an ultrasound probe (i.e., an intracavity probe) that is inserted into the body cavity of the patient P and operated within the body cavity. For example, the ultrasound probe 20 is a transesophageal echocardiography (TEE) probe that is operated in the esophagus and can scan the left ventricle, left atrium, aorta, mitral valve, aortic valve, etc. Note that the TEE probe can acquire three-dimensional ultrasound image data of the heart, etc. in approximately real time.

位置センサ30は、超音波プローブ20の、時系列に複数の位置情報を検知して、超音波診断装置10に出力する。位置センサ30としては、超音波プローブ20に取り付けられるタイプのセンサと、超音波プローブ20としての体表プローブとは別体で設けられるタイプのセンサとがある。後者のセンサは、光学式センサであり、測定対象である体表プローブの特徴点を複数位置から撮影し、三角測量の原理で体表プローブの各位置を検出する。以下、位置センサ30が前者のセンサである場合について説明する。 The position sensor 30 detects multiple pieces of position information of the ultrasound probe 20 in time series and outputs them to the ultrasound diagnostic device 10. There are two types of position sensor 30: a sensor that is attached to the ultrasound probe 20, and a sensor that is provided separately from the body surface probe that serves as the ultrasound probe 20. The latter type of sensor is an optical sensor that captures images of the characteristic points of the body surface probe, which is the measurement target, from multiple positions and detects each position of the body surface probe using the principle of triangulation. Below, we will explain the case where the position sensor 30 is the former type of sensor.

位置センサ30は、超音波プローブ20に取り付けられ、自身の位置情報を検知して、超音波診断装置10に出力する。位置センサ30の位置情報を、超音波プローブ20の位置情報と見なすこともできる。超音波プローブ20の位置情報は、超音波プローブ20の位置及び姿勢(傾き角)を含む。例えば、磁場送信器(図示省略)が3軸の磁場を順次送信しその磁場を位置センサ30で順次受信することにより超音波プローブ20の姿勢が検知され得る。また、位置センサ30は、3次元空間における3軸の角速度を検知する3軸ジャイロセンサ、3次元空間における3軸の加速度を検知する3軸加速度センサ、3次元空間における3軸の地磁気を検知する3軸地磁気センサのうち少なくともいずれかを含む、いわゆる9軸センサであってもよい。 The position sensor 30 is attached to the ultrasonic probe 20, detects its own position information, and outputs it to the ultrasonic diagnostic device 10. The position information of the position sensor 30 can also be considered as the position information of the ultrasonic probe 20. The position information of the ultrasonic probe 20 includes the position and attitude (tilt angle) of the ultrasonic probe 20. For example, the attitude of the ultrasonic probe 20 can be detected by a magnetic field transmitter (not shown) sequentially transmitting three-axis magnetic fields and the position sensor 30 sequentially receiving the magnetic fields. The position sensor 30 may also be a so-called nine-axis sensor that includes at least one of a three-axis gyro sensor that detects three-axis angular velocity in three-dimensional space, a three-axis acceleration sensor that detects three-axis acceleration in three-dimensional space, and a three-axis geomagnetic sensor that detects three-axis geomagnetism in three-dimensional space.

X線撮影装置40は、ネットワークNを介して、超音波診断装置10と、医用画像提供装置50と相互に通信可能なように接続される。 The X-ray imaging device 40 is connected to the ultrasound diagnostic device 10 and the medical image providing device 50 via the network N so that they can communicate with each other.

図3は、医用画像処理システム1のX線撮影装置40の構成の一例を示す概略図である。 Figure 3 is a schematic diagram showing an example of the configuration of the X-ray imaging device 40 of the medical image processing system 1.

X線撮影装置40は、高電圧供給装置41と、X線照射装置42と、X線検出装置43と、入力インターフェース44と、ディスプレイ45と、ネットワークインターフェース46と、医用画像処理装置47と、Cアーム48(図2のみに図示)と、寝台49(図2のみに図示)とを備える。 The X-ray imaging device 40 includes a high-voltage supply device 41, an X-ray irradiation device 42, an X-ray detection device 43, an input interface 44, a display 45, a network interface 46, a medical image processing device 47, a C-arm 48 (shown only in FIG. 2), and a bed 49 (shown only in FIG. 2).

高電圧供給装置41は、処理回路471による制御の下、X線照射装置42のX線管に高電圧電力を供給する。 The high voltage supply device 41 supplies high voltage power to the X-ray tube of the X-ray irradiation device 42 under the control of the processing circuit 471.

X線照射装置42は、Cアーム48の一端に設けられる。X線照射装置42は、X線管(X線源)と可動絞り装置とを設ける。X線管は、高電圧供給装置41から高電圧電力の供給を受けて、高電圧電力の条件に応じてX線を発生する。可動絞り装置は、処理回路471による制御の下、X線管のX線照射口で、X線を遮蔽する物質から構成された絞り羽根を移動可能に支持する。なお、X線管の前面に、X線管によって発生されたX線の線質を調整する線質調整フィルタ(図示省略)を備えてもよい。 The X-ray irradiation device 42 is provided at one end of the C-arm 48. The X-ray irradiation device 42 is provided with an X-ray tube (X-ray source) and a movable diaphragm device. The X-ray tube receives high-voltage power from the high-voltage supply device 41 and generates X-rays according to the conditions of the high-voltage power. Under the control of the processing circuit 471, the movable diaphragm device movably supports diaphragm blades made of a material that blocks X-rays at the X-ray irradiation port of the X-ray tube. In addition, a radiation quality adjustment filter (not shown) that adjusts the radiation quality of the X-rays generated by the X-ray tube may be provided on the front side of the X-ray tube.

X線検出装置43は、Cアーム48の他端に、X線照射装置42に対向するように設けられる。X線検出装置43は、処理回路471による制御の下、SID(Source-Image Distance)方向に沿って動作、即ち、前後動作を行うことができる。また、X線検出装置43は、処理回路471による制御の下、SID方向を中心とした回転方向に沿って動作、即ち、回転動作を行うことができる。 The X-ray detection device 43 is provided at the other end of the C-arm 48 so as to face the X-ray irradiation device 42. Under the control of the processing circuit 471, the X-ray detection device 43 can move along the SID (Source-Image Distance) direction, i.e., can move back and forth. Also, under the control of the processing circuit 471, the X-ray detection device 43 can move along a rotational direction centered on the SID direction, i.e., can perform a rotational movement.

入力インターフェース44は、入力インターフェース18と同等な構成を有する。治療室内の操作者D(手技者D1、超音波技師D2、及び助手等)によって入力インターフェース44が操作されると、操作信号が処理回路471に送られる。 The input interface 44 has the same configuration as the input interface 18. When the input interface 44 is operated by an operator D (technologist D1, ultrasound technician D2, assistant, etc.) in the treatment room, an operation signal is sent to the processing circuit 471.

ディスプレイ45は、ディスプレイ19と同等な構成を有する。ディスプレイ45は、インターベンション治療の手技中に、X線透視画像データをX線透視画像として表示させる。ディスプレイ45は、インターベンション治療の手技中に、X線透視画像データに第3の医用画像データ(例えば、CT画像データ)が重畳された重畳画像データを重畳画像として表示させる。 The display 45 has a configuration equivalent to that of the display 19. The display 45 displays X-ray fluoroscopic image data as an X-ray fluoroscopic image during the interventional treatment procedure. The display 45 displays superimposed image data in which third medical image data (e.g., CT image data) is superimposed on the X-ray fluoroscopic image data as a superimposed image during the interventional treatment procedure.

ネットワークインターフェース46は、ネットワークインターフェース16と同等の構成を有する。 Network interface 46 has the same configuration as network interface 16.

医用画像処理装置47は、処理回路471と、メモリ472とを備える。 The medical image processing device 47 includes a processing circuit 471 and a memory 472.

処理回路471は、処理回路171と同等の構成を有する。メモリ472は、メインメモリ172と同等の構成を有する。 The processing circuit 471 has a configuration equivalent to that of the processing circuit 171. The memory 472 has a configuration equivalent to that of the main memory 172.

Cアーム48(図2に図示)は、X線照射装置42とX線検出装置43とを、対向配置するように支持する。Cアーム48は、処理回路471による制御の下、又は、手動操作に従って、円弧方向の回転、即ち、CRA(Cranial View)の向きの回転と、CAU(Caudal View)の向きの回転とが可能である。また、Cアーム48は、処理回路471による制御の下、又は、手動操作に従って、支点中心の回転、即ち、LAO(Left Anterior Oblique View)の向きの回転と、RAO(Right Anterior Oblique View)の向きの回転とに対応する。なお、Cアーム48の円弧方向の回転が、LAOの向きの回転とRAOの向きの回転とに対応し、Cアーム48の支点中心の回転が、CRAの向きの回転とCAUの向きの回転とに対応する構成を有していてもよい。 The C-arm 48 (shown in FIG. 2) supports the X-ray irradiator 42 and the X-ray detector 43 so that they are arranged opposite to each other. The C-arm 48 can rotate in an arc direction, i.e., in the direction of the CRA (Cranial View) and in the direction of the CAU (Caudal View), under the control of the processing circuit 471 or in accordance with manual operation. The C-arm 48 can also rotate around a fulcrum, i.e., in the direction of the LAO (Left Anterior Oblique View) and in the direction of the RAO (Right Anterior Oblique View), under the control of the processing circuit 471 or in accordance with manual operation. The C-arm 48 may have a configuration in which the rotation in the arc direction corresponds to the rotation in the LAO direction and the rotation in the RAO direction, and the rotation around the fulcrum corresponds to the rotation in the CRA direction and the rotation in the CAU direction.

また、図2において、X線撮影装置40が備えるCアーム構造は、X線照射装置42が寝台49の天板の下方に位置するアンダーテーブルの場合を示す。しかしながらその場合に限定されるものではなく、X線照射装置42が天板の上方に位置するオーバーテーブルの場合であってもよい。また、Cアーム48は、Ωアームにより代替されてもよいし、Ωアームが組み合わされてもよい。 In addition, in FIG. 2, the C-arm structure of the X-ray imaging device 40 is shown as an under-table structure in which the X-ray irradiator 42 is located below the top plate of the bed 49. However, this is not limited to this case, and the X-ray irradiator 42 may be an over-table structure in which the X-ray irradiator 42 is located above the top plate. In addition, the C-arm 48 may be replaced by an Ω arm, or may be combined with an Ω arm.

寝台49は、患者Pを載置可能な天板(図示省略)を備える。天板は、処理回路471による制御の下、X軸方向に沿って動作、即ち、左右方向へのスライドを行うことができる。天板は、処理回路471による制御の下、Y軸方向に沿って動作、即ち、昇降方向へのスライドを行うことができる。天板は、処理回路471による制御の下、Z軸方向に沿って動作、即ち、頭足方向へのスライドを行うことができる。また、天板は、処理回路471による制御の下、ローリング動作や、チルト動作を行うことも可能である。 The bed 49 is equipped with a tabletop (not shown) on which the patient P can be placed. The tabletop can move along the X-axis direction, i.e., slide left and right, under the control of the processing circuit 471. The tabletop can move along the Y-axis direction, i.e., slide up and down, under the control of the processing circuit 471. The tabletop can move along the Z-axis direction, i.e., slide head-to-foot, under the control of the processing circuit 471. The tabletop can also perform rolling and tilting movements under the control of the processing circuit 471.

図1及び図2の説明に戻って、医用画像提供装置50は、ネットワークNを介して、超音波診断装置10と、X線撮影装置40と相互に通信可能なように接続される。例えば、医用画像提供装置50は、超音波画像データと、X線画像データとの両方と種類の異なる第3の医用画像データを生成する第3の医用画像生成装置から第3の医用画像データを収集して保管する医用画像管理装置(「画像サーバ」とも呼ばれる)である。医用画像提供装置50としての医用画像管理装置は、例えば、DICOM(Digital Imaging and Communications in Medicine)サーバであり、ネットワークNを介して通信可能に超音波診断装置10等の機器に接続される。医用画像管理装置は、第3の医用画像データをDICOMファイルとして管理する。 Returning to the explanation of Figures 1 and 2, the medical image providing device 50 is connected to the ultrasound diagnostic device 10 and the X-ray imaging device 40 via the network N so as to be able to communicate with each other. For example, the medical image providing device 50 is a medical image management device (also called an "image server") that collects and stores third medical image data from a third medical image generating device that generates third medical image data of a different type from both ultrasound image data and X-ray image data. The medical image management device as the medical image providing device 50 is, for example, a DICOM (Digital Imaging and Communications in Medicine) server, and is connected to devices such as the ultrasound diagnostic device 10 so as to be able to communicate with each other via the network N. The medical image management device manages the third medical image data as a DICOM file.

又は、医用画像提供装置50は、第3の医用画像データを生成する第3の医用画像生成装置そのものである。例えば、医用画像提供装置50は、X線CT(Computed Tomography)装置や、MRI(Magnetic Resonance Imaging)装置等である。以下、医用画像提供装置50がX線CT(Computed Tomography)装置である場合について説明する。しかし、その場合に限定されるものではない。 Alternatively, the medical image providing device 50 is a third medical image generating device itself that generates the third medical image data. For example, the medical image providing device 50 is an X-ray CT (Computed Tomography) device, an MRI (Magnetic Resonance Imaging) device, or the like. Below, a case will be described where the medical image providing device 50 is an X-ray CT (Computed Tomography) device. However, the present invention is not limited to this case.

続いて、医用画像処理システム1の機能について説明する。 Next, we will explain the functions of the medical image processing system 1.

図4は、医用画像処理システム1の機能の一例を示すブロック図である。 Figure 4 is a block diagram showing an example of the functions of the medical image processing system 1.

超音波診断装置10の処理回路171は、メインメモリ172、又は、処理回路171内のメモリ等の非一過性の記録媒体に記憶されたコンピュータプログラム(例えば、画像処理プログラム)を読み出して実行することで、第1画像取得機能F1と、第2画像取得機能F2と、第3画像取得機能F3と、第1位置合せ機能F4と、第2位置合せ機能F5と、画像生成機能F6と、出力制御機能F7とを実現する。以下、機能F1~F7がコンピュータプログラムによって実現される場合を例に挙げて説明するが、機能F1~F7の全部又は一部は、超音波診断装置10にASIC等の回路等の機能として設けられるものであってもよい。 The processing circuitry 171 of the ultrasound diagnostic device 10 reads and executes a computer program (e.g., an image processing program) stored in the main memory 172 or a non-transitory recording medium such as a memory within the processing circuitry 171, thereby realizing a first image acquisition function F1, a second image acquisition function F2, a third image acquisition function F3, a first alignment function F4, a second alignment function F5, an image generation function F6, and an output control function F7. Below, an example will be described in which functions F1 to F7 are realized by a computer program, but all or part of functions F1 to F7 may be provided in the ultrasound diagnostic device 10 as functions of a circuit such as an ASIC.

超音波診断装置10の医用画像処理装置17は、送受信回路11と、Bモード処理回路12と、ドプラ処理回路13と、画像生成回路14等を制御して、超音波プローブ20を用いた超音波撮影を実行させて、第1の医用画像データとして超音波画像データを生成する。超音波画像データは、画像メモリ15に記憶される。 The medical image processing device 17 of the ultrasound diagnostic device 10 controls the transmission/reception circuit 11, the B-mode processing circuit 12, the Doppler processing circuit 13, the image generation circuit 14, etc. to perform ultrasound imaging using the ultrasound probe 20 and generate ultrasound image data as first medical image data. The ultrasound image data is stored in the image memory 15.

第1画像取得機能F1は、画像メモリ15に記憶された超音波画像データを取得する機能を含む。具体的には、画像取得機能F1は、超音波画像データとして、Bモード画像データ等を取得する。なお、第1画像取得機能F1は、第1画像取得部の一例である。 The first image acquisition function F1 includes a function of acquiring ultrasound image data stored in the image memory 15. Specifically, the image acquisition function F1 acquires B-mode image data or the like as ultrasound image data. The first image acquisition function F1 is an example of a first image acquisition unit.

第2画像取得機能F2は、ネットワークNを介して、X線画像データを生成するX線撮影装置40から、第2の医用画像データとしてX線画像データを取得する機能を含む。なお、第2画像取得機能F2は、第2画像取得部の一例である。 The second image acquisition function F2 includes a function of acquiring X-ray image data as second medical image data from an X-ray imaging device 40 that generates X-ray image data via the network N. The second image acquisition function F2 is an example of a second image acquisition unit.

X線画像データと超音波画像データとのマルチフュージョン(画像出力に対するフュージョン)は実現できているが、超音波画像データでは左心房の全体(又は、心臓全体)を撮影することが難しい。仮に、超音波診断装置10からX線撮影装置40に超音波画像データやマーカを出力しても、X線撮影装置40のディスプレイ45において操作者が左心房の全体の位置情報を把握することは難しい。例えば、心房中隔穿刺を行う際に、超音波プローブ20としてのTEEプローブによる超音波画像単体の表示では穿刺位置が見づらく、術前のCT検査により穿刺位置や角度を見ているのが現状である。また、心臓の左心房がどのあたりにどの大きさで存在するかを確認したい場合であっても、左心房がTEEプローブ20に近すぎて左心房の全体を画像化することができないので、左心房の全体を確認できない。 Although multi-fusion (fusion of image output) between X-ray image data and ultrasound image data has been realized, it is difficult to image the entire left atrium (or the entire heart) using ultrasound image data. Even if ultrasound image data and markers are output from the ultrasound diagnostic device 10 to the X-ray imaging device 40, it is difficult for the operator to grasp the overall position information of the left atrium on the display 45 of the X-ray imaging device 40. For example, when performing atrial septal puncture, it is difficult to see the puncture position when displaying an ultrasound image alone using a TEE probe as the ultrasound probe 20, and the current situation is that the puncture position and angle are seen using a preoperative CT scan. Also, even if one wants to confirm where the left atrium of the heart is located and how large it is, the left atrium is too close to the TEE probe 20 to image the entire left atrium, so the entire left atrium cannot be confirmed.

そこで、医用画像処理装置17は、以下のような機能F3~F7を備え、超音波画像データを介して他の第2の医用画像データと第3の医用画像データとの位置合せを行い、第2の医用画像データに第3の医用画像データをフュージョン(重畳)して重畳画像データを生成するものである。その一例として、超音波診断装置10側で重畳画像データを生成し、X線撮影装置40に出力し、X線撮影装置40のディスプレイ45に表示させる場合を想定して説明する。 The medical image processing device 17 has the following functions F3 to F7, and aligns the second medical image data with the third medical image data via the ultrasound image data, and generates superimposed image data by fusing (superimposing) the third medical image data on the second medical image data. As an example, we will assume that the superimposed image data is generated on the ultrasound diagnostic device 10 side, output to the X-ray imaging device 40, and displayed on the display 45 of the X-ray imaging device 40.

第3画像取得機能F3は、ネットワークNを介して医用画像提供装置50から、超音波画像データ及びX線画像データとは異なる第3の医用画像データを取得する機能を含む。例えば、第3画像取得機能F3は、超音波画像データ及びX線画像データとは異なる第3の医用画像データとして、超音波画像データ及びX線画像データとは異なる種類である画像データを取得する。超音波画像データ及びX線画像データとは異なる種類である画像データとしては、CT画像データ、MRI画像データ、所定の解剖学的特徴(例えば、左心房、心臓等)を含む画像データ、又は、カテーテルの経路を示す情報(例えば、血管)を含む画像等が挙げられる。また、例えば、第3画像取得機能F3は、超音波画像データ及びX線画像データとは異なる第3の医用画像データとして、超音波画像データと同一種類で、取得された時相が異なる超音波画像データ(例えば、過去の超音波画像データ)を取得する。以下、第3画像取得機能F3がCT画像データを取得する場合について説明する。なお、第3画像取得機能F3は、第3画像取得部の一例である。 The third image acquisition function F3 includes a function of acquiring third medical image data different from ultrasound image data and X-ray image data from the medical image providing device 50 via the network N. For example, the third image acquisition function F3 acquires image data of a type different from ultrasound image data and X-ray image data as third medical image data different from ultrasound image data and X-ray image data. Examples of image data of a type different from ultrasound image data and X-ray image data include CT image data, MRI image data, image data including a predetermined anatomical feature (e.g., left atrium, heart, etc.), or an image including information indicating a catheter path (e.g., blood vessels). In addition, for example, the third image acquisition function F3 acquires ultrasound image data (e.g., past ultrasound image data) of the same type as the ultrasound image data but acquired in a different time phase as the third medical image data different from the ultrasound image data and X-ray image data. Below, a case where the third image acquisition function F3 acquires CT image data will be described. Note that the third image acquisition function F3 is an example of a third image acquisition unit.

第1位置合せ機能F4は、第2画像取得機能F2によって取得されたX線画像データを、第1画像取得機能F1によって取得された超音波画像データに位置合せする機能を含む。位置合せは、両画像データの空間的な同期を意味する。第1位置合せ機能F4は、X線画像データを、超音波画像データに対して位置合せした後の画像データを新たに生成するか、X線画像データを、超音波画像データに対して位置合せした後の、X線画像データの各部分の移動量に関するデータを生成する。なお、第1位置合せ機能F4は、第1位置合せ部の一例である。 The first alignment function F4 includes a function of aligning the X-ray image data acquired by the second image acquisition function F2 with the ultrasound image data acquired by the first image acquisition function F1. Alignment means spatial synchronization of both image data. The first alignment function F4 either generates new image data after aligning the X-ray image data with the ultrasound image data, or generates data regarding the amount of movement of each part of the X-ray image data after aligning the X-ray image data with the ultrasound image data. The first alignment function F4 is an example of a first alignment unit.

第2位置合せ機能F5は、第3画像取得機能F3によって取得されたCT画像データを、第1画像取得機能F1によって取得された超音波画像データに位置合せする機能を含む。第2位置合せ機能F5は、CT画像データを、超音波画像データに対して位置合せした後の画像データを新たに生成するか、CT画像データを、超音波画像データに対して位置合せした後の、CT画像データの各部分の移動量に関するデータを生成する。なお、第2位置合せ機能F5は、第2位置合せ部の一例である。 The second alignment function F5 includes a function of aligning the CT image data acquired by the third image acquisition function F3 with the ultrasound image data acquired by the first image acquisition function F1. The second alignment function F5 either generates new image data after aligning the CT image data with respect to the ultrasound image data, or generates data regarding the amount of movement of each part of the CT image data after aligning the CT image data with respect to the ultrasound image data. The second alignment function F5 is an example of a second alignment unit.

画像生成機能F6は、第1位置合せ機能F4による位置合せ結果と、第2位置合せ機能F5による位置合せ結果とに基づいて、X線画像データとCT画像データとを位置合せし、X線画像データに対してCT画像データが位置合せされた画像データを生成する機能を含む。例えば、画像生成機能F6は、X線画像データに対してCT画像データが位置合せされた画像データとして、X線画像データに、位置合せされたCT画像データが重畳された重畳画像データを生成する。以下、画像生成機能F6が、重畳画像データを生成する場合を例にとって説明する。なお、画像生成機能F6は、画像生成部の一例である。 The image generation function F6 includes a function of aligning the X-ray image data and the CT image data based on the alignment result by the first alignment function F4 and the alignment result by the second alignment function F5, and generating image data in which the CT image data is aligned with the X-ray image data. For example, the image generation function F6 generates superimposed image data in which the aligned CT image data is superimposed on the X-ray image data as image data in which the CT image data is aligned with the X-ray image data. The following describes an example in which the image generation function F6 generates superimposed image data. Note that the image generation function F6 is an example of an image generation unit.

出力制御機能F7は、ネットワークNを介して、画像生成機能F6によって生成された重畳画像データを、外部のX線撮影装置40に出力する機能を含む。また、出力制御機能F7は、重畳画像データをディスプレイ19に表示させる機能を含んでもよい。なお、出力制御機能F7は、出力制御部の一例である。 The output control function F7 includes a function for outputting the superimposed image data generated by the image generation function F6 to an external X-ray imaging device 40 via the network N. The output control function F7 may also include a function for displaying the superimposed image data on the display 19. The output control function F7 is an example of an output control unit.

X線撮影装置40の処理回路471は、メモリ472、又は、処理回路471内のメモリ等の非一過性の記録媒体に記憶されたコンピュータプログラム(例えば、画像処理プログラム)を読み出して実行することで、表示制御機能F8を実現する。以下、機能F8がコンピュータプログラムによって実現される場合を例に挙げて説明するが、機能F8の全部又は一部は、X線撮影装置40にASIC等の回路等の機能として設けられるものであってもよい。 The processing circuit 471 of the X-ray imaging device 40 realizes the display control function F8 by reading and executing a computer program (e.g., an image processing program) stored in a non-transient recording medium such as the memory 472 or a memory in the processing circuit 471. Below, an example will be described in which the function F8 is realized by a computer program, but all or part of the function F8 may be provided in the X-ray imaging device 40 as a function of a circuit such as an ASIC.

X線撮影装置40の医用画像処理装置47は、高電圧供給装置41と、X線照射装置42と、X線検出装置43等を制御して、X線撮影を実行させて、第2の医用画像データとしてX線画像データを生成する。X線画像データは、メモリ472に記憶される。 The medical image processing device 47 of the X-ray imaging device 40 controls the high voltage supply device 41, the X-ray irradiation device 42, the X-ray detection device 43, etc. to perform X-ray imaging and generate X-ray image data as second medical image data. The X-ray image data is stored in the memory 472.

表示制御機能F8は、超音波診断装置10から出力された重畳画像データを重畳画像としてディスプレイ45に表示させる機能を含む。超音波診断装置10の出力制御機能F7による重畳画像データの出力により、X線撮影装置40のディスプレイ45は、重畳画像データを重畳画像として略リアルタイムで表示することができる。また、表示制御機能F8は、メモリ472に記憶されたX線画像データを取得して、取得されたX線画像データをX線画像として略リアルタイムでディスプレイ45に表示させる機能を含む。出力制御機能F7による重畳画像データの出力により、X線撮影装置40のディスプレイ45は、重畳画像データを重畳画像として略リアルタイムで表示することができる。なお、「略リアルタイム」は、X線の検出と同時にX線画像データや重畳画像データを生成(又は、表示)する場合に加え、X線の検出からX線画像データや重畳画像データを生成(又は、表示)するまでの処理時間の分だけタイムラグがある場合を含む。 The display control function F8 includes a function for displaying the superimposed image data output from the ultrasound diagnostic device 10 on the display 45 as a superimposed image. The output of the superimposed image data by the output control function F7 of the ultrasound diagnostic device 10 allows the display 45 of the X-ray imaging device 40 to display the superimposed image data as a superimposed image in approximately real time. The display control function F8 also includes a function for acquiring the X-ray image data stored in the memory 472 and displaying the acquired X-ray image data as an X-ray image on the display 45 in approximately real time. The output of the superimposed image data by the output control function F7 allows the display 45 of the X-ray imaging device 40 to display the superimposed image data as a superimposed image in approximately real time. Note that "approximately real time" includes a case where the X-ray image data or superimposed image data is generated (or displayed) at the same time as the detection of the X-ray, as well as a case where there is a time lag corresponding to the processing time from the detection of the X-ray to the generation (or display) of the X-ray image data or superimposed image data.

機能F1~F8の詳細については、図5~図10を用いて説明する。 Details of functions F1 to F8 are explained using Figures 5 to 10.

続いて、医用画像処理システム1の動作について説明する。 Next, we will explain the operation of the medical image processing system 1.

図5及び図6は、医用画像処理システム1の動作の一例をフローチャートとして示す図である。図5及び図6において、「ST」に数字を付した符号はフローチャートの各ステップを示す。なお、図5及び図6の説明において、超音波プローブ20がTEEプローブである場合について説明するが、その場合に限定されるものではない。超音波プローブ20は、体表プローブであってもよい。 Figures 5 and 6 are diagrams showing an example of the operation of the medical image processing system 1 as a flowchart. In Figures 5 and 6, the letters "ST" followed by a number indicate each step of the flowchart. Note that in the explanation of Figures 5 and 6, the ultrasound probe 20 is a TEE probe, but the present invention is not limited to this case. The ultrasound probe 20 may also be a body surface probe.

まず、図5について説明する。第3画像取得機能F3は、医用画像提供装置50から、インターベンション治療の対象である所定の患者Pに関する第3の医用画像データとしてCT画像データ(例えば、ボリュームデータ)を取得する(ステップST1)。CT画像データは、少なくとも、医用デバイスを僧帽弁に留置するために観察が必要な左心房の全体の像を含むものとする。 First, FIG. 5 will be described. The third image acquisition function F3 acquires CT image data (e.g., volume data) from the medical image providing device 50 as third medical image data relating to a specific patient P who is the subject of interventional treatment (step ST1). The CT image data includes at least an image of the entire left atrium that needs to be observed in order to place a medical device in the mitral valve.

続いて、医用画像処理システム1は、医用デバイスを用いた患者Pの僧帽弁のインターベンション治療において、X線撮影装置40によりX線透視画像データを生成するとともに、患者Pの食道に挿入されたTEEプローブ20を用いた超音波診断装置10により超音波画像データを取得する。そして、医用画像処理システム1は、超音波画像データを基準として位置合せされたX線透視画像データに第3の医用画像データを重畳し、当該X線透視画像データに第3の医用画像データが重畳された重畳画像データを略リアルタイムで生成するものである(後述するステップST2~ST13)。手技を実施する術者D1等の操作者は、略リアルタイムで表示された重畳画像データを観察しながら医用デバイスを進め、所定の位置に医用デバイスを到達させる。 Next, in the interventional treatment of the mitral valve of patient P using a medical device, the medical image processing system 1 generates X-ray fluoroscopic image data using the X-ray imaging device 40, and acquires ultrasound image data using the ultrasound diagnostic device 10 using the TEE probe 20 inserted into the esophagus of patient P. Then, the medical image processing system 1 superimposes third medical image data on the X-ray fluoroscopic image data aligned based on the ultrasound image data, and generates superimposed image data in which the third medical image data is superimposed on the X-ray fluoroscopic image data in approximately real time (steps ST2 to ST13 described below). An operator such as surgeon D1 performing the procedure advances the medical device while observing the superimposed image data displayed in approximately real time, and the medical device reaches a predetermined position.

X線撮影装置40は、X線透視撮影を開始する(ステップST2)。X線撮影装置40は、高電圧供給装置41と、X線照射装置42と、X線検出装置43とを制御してX線撮影を実行することで、患者Pに関する所定フレームのX線画像データ(例えば、低いX線量によるX線透視画像データ)を生成し、X線透視画像データをX線撮影装置40のディスプレイ45に表示させる(ステップST3)。 The X-ray imaging device 40 starts X-ray fluoroscopy (step ST2). The X-ray imaging device 40 controls the high-voltage supply device 41, the X-ray irradiation device 42, and the X-ray detection device 43 to perform X-ray imaging, thereby generating a predetermined frame of X-ray image data (e.g., X-ray fluoroscopy image data with a low X-ray dose) for the patient P, and displays the X-ray fluoroscopy image data on the display 45 of the X-ray imaging device 40 (step ST3).

第1画像取得機能F1は、患者Pの食道内に挿入されたTEEプローブ20を使った超音波診断装置10による超音波撮影(例えば、ボリューム撮影)を開始するか否かを判断する(ステップST4)。ステップST4の判断にてNO、即ち、超音波診断装置10による超音波撮影を開始しないと判断される場合、X線撮影装置40は、次のフレームについてX線透視画像データを生成して表示させる(ステップST3)。複数のフレームにおいてX線透視画像データを表示している間に、術者D1は、患者Pの体内におけるカテーテルを進行させる手技を継続する。 The first image acquisition function F1 determines whether or not to start ultrasound imaging (e.g., volume imaging) by the ultrasound diagnostic device 10 using the TEE probe 20 inserted into the esophagus of the patient P (step ST4). If the determination in step ST4 is NO, i.e., if it is determined that ultrasound imaging by the ultrasound diagnostic device 10 is not to be started, the X-ray imaging device 40 generates and displays X-ray fluoroscopic image data for the next frame (step ST3). While the X-ray fluoroscopic image data is being displayed for multiple frames, the surgeon D1 continues the procedure of advancing the catheter inside the patient P's body.

一方で、ステップST4の判断にてYES、即ち、超音波診断装置10による超音波撮影を開始すると判断される場合、第2画像取得機能F2は、X線撮影装置40に、X線透視画像データの出力を要求する(ステップST4)。X線撮影装置40は、次のフレームについてX線透視画像データを生成し(ステップST7)、ネットワークNを介して、生成したX線透視画像データを超音波診断装置10に出力する。 On the other hand, if the determination in step ST4 is YES, i.e., if it is determined that ultrasound imaging by the ultrasound diagnostic device 10 is to be started, the second image acquisition function F2 requests the X-ray imaging device 40 to output X-ray fluoroscopic image data (step ST4). The X-ray imaging device 40 generates X-ray fluoroscopic image data for the next frame (step ST7) and outputs the generated X-ray fluoroscopic image data to the ultrasound diagnostic device 10 via the network N.

第2画像生成機能F2は、X線撮影装置40からX線透視画像データを取得する(ステップST8)。また、超音波診断装置10は、送受信回路11と、Bモード処理回路12(又は、ドプラ処理回路13)と、画像生成回路14とを制御して超音波撮影を実行することで、患者Pに関する所定フレームの超音波画像データを生成する。第1画像取得機能F1は、画像メモリ15から超音波画像データを取得する(ステップST8)。 The second image generation function F2 acquires X-ray fluoroscopic image data from the X-ray imaging device 40 (step ST8). The ultrasound diagnostic device 10 controls the transmission/reception circuitry 11, the B-mode processing circuitry 12 (or the Doppler processing circuitry 13), and the image generation circuitry 14 to perform ultrasound imaging, thereby generating a predetermined frame of ultrasound image data for the patient P. The first image acquisition function F1 acquires ultrasound image data from the image memory 15 (step ST8).

第1位置合せ機能F4は、ステップST7によって取得されたX線透視画像データを、ステップST8によって取得された超音波画像データに位置合せする(ステップST9)。例えば、第1位置合せ機能F4は、位置センサ30によりTEEプローブ20の位置を検出することで、又は、X線透視画像データからTEEプローブ20の位置を検出することで、X線透視画像データの、超音波画像データとの位置合せを行う。 The first alignment function F4 aligns the X-ray fluoroscopy image data acquired in step ST7 with the ultrasound image data acquired in step ST8 (step ST9). For example, the first alignment function F4 aligns the X-ray fluoroscopy image data with the ultrasound image data by detecting the position of the TEE probe 20 with the position sensor 30, or by detecting the position of the TEE probe 20 from the X-ray fluoroscopy image data.

また、第2位置合せ機能F5は、ステップST1によって取得された左心房の全体を含むCT画像データを、ステップST8によって取得された超音波画像データに位置合せする(ステップST10)。ここで、第2位置合せ機能F5は、第1位置合せ機能F4によるX線透視画像データの、超音波画像データとの位置合せ方法とは異なる方法で、CT画像データの、超音波画像データとの位置合せを行う。例えば、第2位置合せ機能F5は、CT画像データと超音波画像データとに描出される特徴部位(例えば、心臓、左心房、血管等)に基づいて、CT画像データの、超音波画像データとの位置合せを行う。 The second alignment function F5 also aligns the CT image data including the entire left atrium acquired in step ST1 with the ultrasound image data acquired in step ST8 (step ST10). Here, the second alignment function F5 aligns the CT image data with the ultrasound image data using a method different from the method of aligning the X-ray fluoroscopic image data with the ultrasound image data by the first alignment function F4. For example, the second alignment function F5 aligns the CT image data with the ultrasound image data based on characteristic areas depicted in the CT image data and the ultrasound image data (e.g., the heart, left atrium, blood vessels, etc.).

図6の説明に移って、画像生成機能F6は、ステップST9による位置合せの結果に基づくX線透視画像データに、ステップST10による位置合せの結果に基づくCT画像データが重畳された重畳画像データを生成する(ステップST11)。これにより、インターベンション治療において、術者D1等の操作者を支援可能な重畳画像データを生成することができる。 Moving on to the explanation of FIG. 6, the image generation function F6 generates superimposed image data (step ST11) in which CT image data based on the result of the alignment in step ST10 is superimposed on the X-ray fluoroscopic image data based on the result of the alignment in step ST9. This makes it possible to generate superimposed image data that can assist an operator such as surgeon D1 in interventional treatment.

出力制御機能F7は、ネットワークNを介して、ステップST11によって生成された重畳画像データをX線撮影装置40に出力する(ステップST12)。X線撮影装置40の表示制御機能F8は、ステップST12によって出力された重畳画像画像データを重畳画像としてディスプレイ45に表示させる(ステップST13)。これにより、インターベンション治療において、位置合せされたCT画像データが重畳された重畳画像データがディスプレイ45に表示されることで、術者D1等の操作者の手技を適切に支援することができる。 The output control function F7 outputs the superimposed image data generated in step ST11 to the X-ray imaging device 40 via the network N (step ST12). The display control function F8 of the X-ray imaging device 40 displays the superimposed image data output in step ST12 as a superimposed image on the display 45 (step ST13). As a result, in interventional treatment, the superimposed image data on which the aligned CT image data is superimposed is displayed on the display 45, thereby appropriately supporting the procedure of an operator such as the surgeon D1.

図7は、X線透視画像データに、超音波画像データが重畳された重畳画像データに基づく重畳画像の一例を示す図である。 Figure 7 shows an example of a superimposed image based on superimposed image data in which ultrasound image data is superimposed on X-ray fluoroscopic image data.

図7に示す重畳画像は、左心房の全体を含む領域をX線撮影して取得されるX線透視画像IXと、それに重畳された超音波画像IUとを含んで成る。上述したように、左心房(左心房の像LA)の位置がTEEプローブ20(TEEプローブの像Q)に近すぎて左心房の全体を画像化することができない。 The superimposed image shown in FIG. 7 includes an X-ray fluoroscopic image IX obtained by X-raying an area including the entire left atrium, and an ultrasound image IU superimposed thereon. As described above, the position of the left atrium (left atrium image LA) is too close to the TEE probe 20 (TEE probe image Q) so that the entire left atrium cannot be imaged.

そこで、超音波画像データと同様にボリュームデータであり、3次元的な位置合せが可能であり左心房の全体を含むCT画像データが超音波画像データを基準にして位置合せされる。画像生成機能F6は、位置合せ後のCT画像データを、同じく超音波画像データを基準にして位置合せされたX線透視画像データ上に重畳する。 The CT image data, which is volume data like the ultrasound image data and can be aligned three-dimensionally and includes the entire left atrium, is aligned with the ultrasound image data as a reference. The image generation function F6 superimposes the aligned CT image data on the X-ray fluoroscopy image data that has also been aligned with the ultrasound image data as a reference.

図8は、X線透視画像データに、左心房の全体を含むCT画像データが重畳された重畳画像データに基づく重畳画像の一例を示す図である。 Figure 8 shows an example of a superimposed image based on superimposed image data in which CT image data including the entire left atrium is superimposed on X-ray fluoroscopic image data.

図8に示す重畳画像は、左心房の全体を含む領域をX線撮影して取得されるX線透視画像IXと、それに重畳された左心房の全体を含むCT画像ICとを含んで成る。左心房の位置がTEEプローブ20(TEEプローブの像Q)に近すぎて左心房の全体を画像化することができない場合であっても、適切に位置合せされたCT画像に描画される左心房(左心房の像LA)により、術者D1等の操作者は左心房の全体を視認できる。また、この表示により、心房中隔穿刺を行う際に、ビューの大きいCT画像等による穿刺位置や角度の事前確認が不要となり、操作者による穿刺位置や角度の決定を支援することができる。 The superimposed image shown in FIG. 8 comprises an X-ray fluoroscopic image IX obtained by X-raying an area including the entire left atrium, and a CT image IC including the entire left atrium superimposed thereon. Even if the position of the left atrium is too close to the TEE probe 20 (TEE probe image Q) to image the entire left atrium, an operator such as surgeon D1 can visually confirm the entire left atrium from the left atrium (left atrium image LA) depicted in an appropriately aligned CT image. In addition, this display makes it unnecessary to check the puncture position and angle in advance using a CT image with a large view when performing atrial septal puncture, and can assist the operator in determining the puncture position and angle.

なお、表示画面は、重畳画像に、位置合せの基準となった超音波画像の画像領域IU´がフレーム(枠)として示されてもよい。 In addition, the display screen may show the image area IU' of the ultrasound image that was used as the reference for alignment as a frame on the superimposed image.

図6の説明に戻って、第1画像取得機能F1は、超音波撮影を終了するか否かを判断する(ステップST14)。所定位置への医用デバイスの留置とリリースが終了すると、術者D1は、X線撮影装置40の入力インターフェース44を操作して、超音波診断装置10に対して超音波撮影の終了を指示する。又は、超音波技師D2は、超音波診断装置10の入力インターフェース18を操作して、超音波撮影の終了を指示する。 Returning to the explanation of FIG. 6, the first image acquisition function F1 determines whether or not to end the ultrasound imaging (step ST14). When the placement and release of the medical device in the specified position is completed, the surgeon D1 operates the input interface 44 of the X-ray imaging device 40 to instruct the ultrasound diagnostic device 10 to end the ultrasound imaging. Alternatively, the ultrasound technician D2 operates the input interface 18 of the ultrasound diagnostic device 10 to instruct the ultrasound imaging to end.

ステップST14の判断にてYES、即ち、超音波撮影を終了すると判断された場合、第1画像取得機能F1は、X線撮影装置40にX線透視画像データの出力を終了するように要求し(ステップST15)。その要求により、X線撮影装置40は、ディスプレイ45への重畳画像データの表示を終了し、X線透視画像データ単独の表示に戻る(ステップST3)。 If the determination in step ST14 is YES, i.e., if it is determined that the ultrasound imaging is to be terminated, the first image acquisition function F1 requests the X-ray imaging device 40 to terminate the output of the X-ray fluoroscopic image data (step ST15). In response to the request, the X-ray imaging device 40 terminates the display of the superimposed image data on the display 45 and returns to displaying the X-ray fluoroscopic image data alone (step ST3).

一方で、ステップST14の判断にてNO、即ち、超音波撮影を終了しないと判断された場合、X線撮影装置40にX線透視画像データの出力を終了するように要求されていない。そのため、X線撮影装置40は、次のフレームについてX線透視画像データを生成し(ステップST6)、次のフレームについてX線透視画像データを超音波診断装置10に出力することで(ステップST7)、ディスプレイ45への重畳画像データの更新表示を維持する。 On the other hand, if the determination in step ST14 is NO, i.e., if it is determined that ultrasound imaging is not to be terminated, the X-ray imaging device 40 is not requested to terminate the output of X-ray fluoroscopic image data. Therefore, the X-ray imaging device 40 generates X-ray fluoroscopic image data for the next frame (step ST6) and outputs the X-ray fluoroscopic image data for the next frame to the ultrasound diagnostic device 10 (step ST7), thereby maintaining the updated display of the superimposed image data on the display 45.

図5及び図6を用いて説明したように、画像生成機能F6は、第1位置合せ機能F4による位置合せ結果と第2位置合せ機能F5による位置合せ結果とに基づいて、連続する全てのフレームに関するX線画像データ(例えば、X線透視画像データ)にとCT画像データとを位置合せし、連続する全てのフレームに関するX線透視画像データに対してCT画像データが位置合せされた画像データ、例えば重畳画像データを生成する。そして、表示制御機能F8は、重畳画像データを、略リアルタイムで動画としてディスプレイ45に表示させる。なお、その場合に限定されるものではない。画像生成機能F6は、第1位置合せ機能F4による位置合せ結果と、第2位置合せ機能F5による位置合せ結果とに基づいて、連続する複数のフレームのうち所定のフレームに関するX線透視画像データとCT画像データとを位置合せし、所定のフレームに関するX線透視画像に対してCT画像データが位置合せされた画像データ、例えば重畳画像データを生成してもよい。その場合、表示制御機能F8は、重畳画像データの要素としてのX線透視画像データを動画像として、CT画像データを静止画としてディスプレイ45に表示させる。 5 and 6, the image generation function F6 aligns the X-ray image data (e.g., X-ray fluoroscopic image data) and the CT image data for all consecutive frames based on the alignment result by the first alignment function F4 and the alignment result by the second alignment function F5, and generates image data in which the CT image data is aligned with the X-ray fluoroscopic image data for all consecutive frames, for example, superimposed image data. Then, the display control function F8 displays the superimposed image data on the display 45 as a moving image in approximately real time. Note that this is not limited to this case. The image generation function F6 may align the X-ray fluoroscopic image data and the CT image data for a predetermined frame out of the consecutive frames based on the alignment result by the first alignment function F4 and the alignment result by the second alignment function F5, and generate image data in which the CT image data is aligned with the X-ray fluoroscopic image for the predetermined frame, for example, superimposed image data. In this case, the display control function F8 displays the X-ray fluoroscopic image data as an element of the superimposed image data on the display 45 as a moving image and the CT image data as a still image.

以上のように、医用画像処理システム1によれば、インターベンション治療を進める際に、位置合せされた、左心房の全体を含むCT画像データが重畳された重畳画像データをディスプレイ45に表示することで、術者D1等の操作者は、左心房の全体の位置情報を容易に把握することができる。 As described above, according to the medical image processing system 1, when performing interventional treatment, superimposed image data on which aligned CT image data including the entire left atrium is superimposed is displayed on the display 45, allowing an operator such as surgeon D1 to easily grasp the overall positional information of the left atrium.

(第1変形例)
図8において、X線透視画像データに、左心房の全体を含むCT画像データを重畳することで重畳画像データを生成する場合について説明したが、その場合に限定されるものではない。例えば、画像生成機能F6は、左心房の全体を含むCT画像データと、位置合せの基準となった超音波画像データとが、X線透視画像データに重畳された重畳画像データを生成することができる。超音波画像データは、左心房の像を部分的に含む。それにより、表示制御機能F8は、X線撮影装置40のディスプレイ45に重畳画像データを重畳画像として表示させることができる。
(First Modification)
In Fig. 8, a case has been described in which the superimposed image data is generated by superimposing CT image data including the entire left atrium on the X-ray fluoroscopic image data, but the present invention is not limited to this case. For example, the image generating function F6 can generate superimposed image data in which the CT image data including the entire left atrium and the ultrasound image data used as the reference for alignment are superimposed on the X-ray fluoroscopic image data. The ultrasound image data partially includes an image of the left atrium. This allows the display control function F8 to display the superimposed image data as a superimposed image on the display 45 of the X-ray imaging device 40.

図9は、X線透視画像データに、左心房の全体を含むCT画像データと心臓を部分的に含む超音波画像データとが重畳された重畳画像データに基づく重畳画像の一例を示す図である。 Figure 9 shows an example of a superimposed image based on superimposed image data in which CT image data including the entire left atrium and ultrasound image data including part of the heart are superimposed on X-ray fluoroscopy image data.

図9に示すように、図8に示すCT画像の左心房LA上に、超音波画像上の左心房LAがさらに重畳される。これにより、左心房の全体を含む過去のCT画像における部分の表示を、現状を示す超音波画像に置き換えることができる。なお、表示制御機能F8は、X線透視画像上に現われるカテーテルの位置、又は、入力インターフェース44を介した操作に基づいて、図8に示す重畳画像の表示から、図9に示す重畳画像の表示に切り替えることができる。なお、表示制御機能F8は、重畳画像データに、位置合せの基準となった超音波画像データを重畳して表示する場合に限定されるものではなく、重畳画像データと、位置合せの基準となった超音波画像データとを並列でディスプレイ45に表示させてもよい。 As shown in FIG. 9, the left atrium LA on the ultrasound image is further superimposed on the left atrium LA on the CT image shown in FIG. 8. This allows the display of a portion of the past CT image including the entire left atrium to be replaced with an ultrasound image showing the current state. The display control function F8 can switch from displaying the superimposed image shown in FIG. 8 to displaying the superimposed image shown in FIG. 9 based on the position of the catheter appearing on the X-ray fluoroscopic image or an operation via the input interface 44. The display control function F8 is not limited to displaying the superimposed image data superimposed with the ultrasound image data that was the reference for alignment, and may display the superimposed image data and the ultrasound image data that was the reference for alignment in parallel on the display 45.

第1変形例によれば、上記効果に加え、左心房の全体を含む過去のCT画像における部分の表示を、現状を示す超音波画像に置き換えることができるので、術者D1等の操作者は、左心房の全体の位置情報を容易に把握することができる。 In addition to the above effects, the first modified example allows the display of a portion of a past CT image that includes the entire left atrium to be replaced with an ultrasound image showing the current state, allowing an operator such as surgeon D1 to easily grasp the overall positional information of the left atrium.

(第2変形例)
図8において、X線透視画像データに、左心房の全体を含むCT画像データを重畳することで重畳画像データを生成する場合について説明し、図9において、X線透視画像データに、左心房の全体を含むCT画像データと心臓を部分的に含む超音波画像データとを重畳することで重畳画像データを生成する場合について説明したが、その場合に限定されるものではない。例えば、第3画像取得機能F3が、血管を含むCT画像データを取得することで、画像生成機能F6は、血管を含むCT画像データが、X線透視画像データに重畳された重畳画像データを生成することができる。それにより、表示制御機能F8は、X線撮影装置40のディスプレイ45に重畳画像データを重畳画像として表示させることができる。
(Second Modification)
In Fig. 8, a case where superimposed image data is generated by superimposing CT image data including the entire left atrium on X-ray fluoroscopic image data has been described, and in Fig. 9, a case where superimposed image data is generated by superimposing CT image data including the entire left atrium and ultrasound image data including a part of the heart on X-ray fluoroscopic image data has been described, but the present invention is not limited to this case. For example, the third image acquisition function F3 acquires CT image data including blood vessels, and the image generation function F6 can generate superimposed image data in which the CT image data including blood vessels is superimposed on the X-ray fluoroscopic image data. This allows the display control function F8 to display the superimposed image data as a superimposed image on the display 45 of the X-ray imaging device 40.

図10は、X線透視画像データに、血管を含むCT画像データが重畳された重畳画像データに基づく重畳画像の一例を示す図である。 Figure 10 shows an example of a superimposed image based on superimposed image data in which CT image data including blood vessels is superimposed on X-ray fluoroscopic image data.

図10に示す重畳画像は、左心房の周辺を含む領域をX線撮影して取得されるX線透視画像IXと、それに重畳された、僧帽弁に至るまでのカテーテルの経路、つまり、血管を含むCT画像ICとを含んで成る。左心房の位置がTEEプローブ20(TEEプローブの像Q)に近すぎて左心房の周辺を画像化することができない場合であっても、適切に位置合せされたCT画像に描画される血管(血管の像B)により、術者D1等の操作者は左心房の周辺のカテーテルの経路を視認できる。 The superimposed image shown in FIG. 10 comprises an X-ray fluoroscopic image IX obtained by X-raying an area including the periphery of the left atrium, and a CT image IC including the catheter path up to the mitral valve, i.e., blood vessels, superimposed thereon. Even if the position of the left atrium is too close to the TEE probe 20 (TEE probe image Q) to image the periphery of the left atrium, an operator such as surgeon D1 can visually confirm the catheter path around the left atrium from the blood vessels (blood vessel image B) depicted in an appropriately aligned CT image.

第2変形例によれば、インターベンション治療を進める際に、位置合せされた、血管を含むCT画像データが重畳された重畳画像データをディスプレイ45に表示することで、術者D1等の操作者は、カテーテルの経路を容易に把握することができる。 According to the second modified example, when performing interventional treatment, superimposed image data on which aligned CT image data including blood vessels is superimposed is displayed on the display 45, allowing an operator such as surgeon D1 to easily understand the catheter path.

(第3変形例)
図4において、超音波診断装置10の医用画像処理装置17が機能F1~F7を備え、X線撮影装置40の医用画像処理装置47が機能F8を備える場合について説明したが、その場合に限定されるものではない。医用画像処理システム1において、複数の装置が連携して重畳画像データを生成することができる。つまり、医用画像処理システム1において、X線撮影装置40が機能F8を備えていれば、機能F1~F7はいずれに備えられてもよい。例えば、超音波診断装置10が機能F1~F5,F7を備え、X線撮影装置40が機能F6,F8を備えてもよい。その場合について、図11を用いて説明する。
(Third Modification)
4, the medical image processing device 17 of the ultrasound diagnostic device 10 has the functions F1 to F7, and the medical image processing device 47 of the X-ray imaging device 40 has the function F8, but the present invention is not limited to this case. In the medical image processing system 1, multiple devices can cooperate to generate superimposed image data. In other words, in the medical image processing system 1, as long as the X-ray imaging device 40 has the function F8, any of the functions F1 to F7 may be provided. For example, the ultrasound diagnostic device 10 may have the functions F1 to F5 and F7, and the X-ray imaging device 40 may have the functions F6 and F8. This case will be described with reference to FIG. 11.

図11は、図3に示す医用画像処理システム1の変形例を示すブロック図である。 Figure 11 is a block diagram showing a modified example of the medical image processing system 1 shown in Figure 3.

超音波診断装置10の処理回路171は、メインメモリ172、又は、処理回路171内のメモリ等の非一過性の記録媒体に記憶されたコンピュータプログラム(例えば、画像処理プログラム)を読み出して実行することで、第1画像取得機能F1と、第2画像取得機能F2と、第3画像取得機能F3と、第1位置合せ機能F4と、第2位置合せ機能F5と、出力制御機能F7とを実現する。 The processing circuitry 171 of the ultrasound diagnostic device 10 reads and executes a computer program (e.g., an image processing program) stored in the main memory 172 or a non-transitory recording medium such as a memory within the processing circuitry 171, thereby realizing a first image acquisition function F1, a second image acquisition function F2, a third image acquisition function F3, a first alignment function F4, a second alignment function F5, and an output control function F7.

第1画像取得機能F1は、前述したように、第1の医用画像データとして超音波画像データを取得する機能を含む。第2画像取得機能F2は、前述したように、ネットワークNを介して、X線画像データを生成するX線撮影装置40から、第2の医用画像データとしてX線画像データを取得する機能を含む。第3画像取得機能F3は、前述したように、ネットワークNを介して医用画像提供装置50から、第3の医用画像データを取得する機能を含む。 The first image acquisition function F1, as described above, includes a function of acquiring ultrasound image data as the first medical image data. The second image acquisition function F2, as described above, includes a function of acquiring X-ray image data as the second medical image data from an X-ray imaging device 40 that generates X-ray image data via a network N. The third image acquisition function F3, as described above, includes a function of acquiring third medical image data from a medical image provision device 50 via a network N.

第1位置合せ機能F4は、前述したように、第2画像取得機能F2によって取得されたX線画像データを、第1画像取得機能F1によって取得された超音波画像データに位置合せする機能を含む。第2位置合せ機能F5は、前述したように、第3画像取得機能F3によって取得されたCT画像データを、第1画像取得機能F1によって取得された超音波画像データに位置合せする機能を含む。 As described above, the first alignment function F4 includes a function for aligning the X-ray image data acquired by the second image acquisition function F2 with the ultrasound image data acquired by the first image acquisition function F1. As described above, the second alignment function F5 includes a function for aligning the CT image data acquired by the third image acquisition function F3 with the ultrasound image data acquired by the first image acquisition function F1.

出力制御機能F7は、ネットワークNを介して、第1位置合せ機能F4によって生成された位置合せ後のX線画像データと、第2位置合せ機能F5によって生成された位置合せ後のCT画像データとを、外部のX線撮影装置40に出力する機能とを含む。 The output control function F7 includes a function to output the aligned X-ray image data generated by the first alignment function F4 and the aligned CT image data generated by the second alignment function F5 to an external X-ray imaging device 40 via the network N.

X線撮影装置40の画像生成機能F6は、出力制御機能F7から出力された、第1位置合せ機能F4による位置合せの結果に基づくX線画像データに、第2位置合せ機能F5による位置合せの結果に基づくCT画像データが重畳された重畳画像データを生成する機能を含む。 The image generation function F6 of the X-ray imaging device 40 includes a function for generating superimposed image data in which CT image data based on the result of alignment by the second alignment function F5 is superimposed on X-ray image data based on the result of alignment by the first alignment function F4, which is output from the output control function F7.

表示制御機能F8は、画像生成機能F6によって生成された重畳画像データを、ディスプレイ45に表示させる機能を含む。超音波診断装置10出力制御機能F7による重畳画像データの出力により、X線撮影装置40のディスプレイ45は、重畳画像データを重畳画像として略リアルタイムで表示することができる。 The display control function F8 includes a function for displaying the superimposed image data generated by the image generation function F6 on the display 45. By outputting the superimposed image data by the ultrasound diagnostic device 10 output control function F7, the display 45 of the X-ray imaging device 40 can display the superimposed image data as a superimposed image in approximately real time.

また、例えば、X線撮影装置40が機能F8を備え、ネットワークNを介して接続される、超音波診断装置10でもX線撮影装置40でもない第3の医用画像処理装置が機能F1~F7を備えてもよい。例えば、第3の医用画像処理装置は、医用画像データに対して各種画像処理を施すワークステーションや、タブレット端末等の携帯型情報処理端末等である。 For example, the X-ray imaging device 40 may have function F8, and a third medical image processing device that is neither the ultrasound diagnostic device 10 nor the X-ray imaging device 40 and is connected via the network N may have functions F1 to F7. For example, the third medical image processing device may be a workstation that performs various image processing on medical image data, or a portable information processing terminal such as a tablet terminal.

第3変形例によれば、既存の装置10,40に新たに機能F1~F7を導入することなく、上記効果を得ることができる。 According to the third modified example, the above effects can be obtained without introducing new functions F1 to F7 into the existing devices 10 and 40.

以上説明した少なくとも1つの実施形態によれば、インターベンション治療において、術者等の操作者を支援可能な画像データを生成することができる。 According to at least one of the embodiments described above, it is possible to generate image data that can assist an operator, such as a surgeon, during interventional treatment.

なお、第1画像取得機能F1は、第1画像取得部の一例である。第2画像取得機能F2は、第2画像取得部の一例である。第3画像取得機能F3は、第3画像取得部の一例である。第1位置合せ機能F4は、第1位置合せ部の一例である。第2位置合せ機能F5は、第2位置合せ部の一例である。画像生成機能F6は、画像生成部の一例である。出力制御機能F7は、出力制御部の一例である。表示制御機能F8は、表示制御部の一例である。 The first image acquisition function F1 is an example of a first image acquisition section. The second image acquisition function F2 is an example of a second image acquisition section. The third image acquisition function F3 is an example of a third image acquisition section. The first alignment function F4 is an example of a first alignment section. The second alignment function F5 is an example of a second alignment section. The image generation function F6 is an example of an image generation section. The output control function F7 is an example of an output control section. The display control function F8 is an example of a display control section.

いくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更、実施形態同士の組み合せ、実施形態と1又は複数の変形例との組み合せを行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 Although several embodiments have been described, these embodiments are presented as examples and are not intended to limit the scope of the invention. These novel embodiments can be implemented in various other forms, and various omissions, substitutions, modifications, combinations of embodiments, and combinations of embodiments with one or more modified examples can be made without departing from the spirit of the invention. These embodiments and their modifications are included within the scope and spirit of the invention, and are included in the scope of the invention and its equivalents as set forth in the claims.

1 医用画像処理システム
10 超音波診断装置
171,471 処理回路
40 X線撮影装置
45 ディスプレイ
50 医用画像提供装置
F1 第1画像取得機能
F2 第2画像取得機能
F3 第3画像取得機能
F4 第1位置合せ機能
F5 第2位置合せ機能
F6 画像生成機能
F7 出力制御機能
F8 表示制御機能
1 Medical image processing system 10 Ultrasound diagnostic device 171, 471 Processing circuit 40 X-ray imaging device 45 Display 50 Medical image providing device F1 First image acquisition function F2 Second image acquisition function F3 Third image acquisition function F4 First alignment function F5 Second alignment function F6 Image generation function F7 Output control function F8 Display control function

Claims (12)

被検体の超音波画像を第1の医用画像として取得する第1画像取得部と、
前記被検体のX線画像を第2の医用画像として取得する第2画像取得部と、
前記超音波画像及び前記X線画像とは異なる、前記被検体の第3の医用画像を取得する第3画像取得部と、
前記X線画像を、前記超音波画像に位置合せする第1位置合せ部と、
前記第3の医用画像を、前記超音波画像に位置合せする第2位置合せ部と、
前記第1位置合せ部による位置合せ結果および前記第2位置合せ部による位置合せ結果に基づいて、前記X線画像と前記第3の医用画像とを位置合せし、前記X線画像に対して前記第3の医用画像が位置合せされた画像を生成する画像生成部と、
前記X線画像に対して前記第3の医用画像が位置合せされた画像を表示部に表示させる表示制御部と、
を有し、
前記表示制御部は、位置合せの基準となった前記超音波画像を位置合せしてさらに前記表示部に表示させ、前記X線画像に現れるカテーテルの位置に基づいて、前記X線画像に対して前記第3の医用画像が位置合せされた画像の表示から、前記X線画像に対して前記第3の医用画像と前記超音波画像とが位置合せされた画像の表示に切り替える、
医用画像処理装置
a first image acquisition unit that acquires an ultrasound image of a subject as a first medical image;
a second image acquisition unit that acquires an X-ray image of the subject as a second medical image;
a third image acquisition unit that acquires a third medical image of the subject, the third medical image being different from the ultrasound image and the X-ray image;
a first registration unit that registers the X-ray image with the ultrasound image;
a second registration unit that registers the third medical image with the ultrasound image;
an image generating unit that aligns the X-ray image and the third medical image based on a result of the alignment by the first alignment unit and a result of the alignment by the second alignment unit, and generates an image in which the third medical image is aligned with the X-ray image;
a display control unit that causes a display unit to display an image in which the third medical image is aligned with the X-ray image;
having
the display control unit aligns the ultrasound image that is the reference for alignment and further displays it on the display unit, and switches from displaying an image in which the third medical image is aligned with respect to the X-ray image to displaying an image in which the third medical image and the ultrasound image are aligned with respect to the X-ray image based on a position of the catheter that appears in the X-ray image.
Medical imaging equipment .
前記第2位置合せ部は、前記第1位置合せ部による前記X線画像の、前記超音波画像との位置合せ方法とは異なる方法で、前記第3の医用画像の、前記超音波画像との位置合せを行う、
請求項1に記載の医用画像処理装置。
the second alignment unit aligns the third medical image with the ultrasound image by a method different from a method of aligning the X-ray image with the ultrasound image by the first alignment unit;
The medical image processing device according to claim 1 .
前記第1位置合せ部は、前記X線画像から超音波プローブの位置を検出することで前記X線画像の、前記超音波画像との位置合せを行い、
前記第2位置合せ部は、前記第3の医用画像と前記超音波画像とに描出される特徴部位に基づいて、前記第3の医用画像の、前記超音波画像との位置合せを行う、
請求項に記載の医用画像処理装置。
the first alignment unit detects a position of an ultrasound probe from the X-ray image to align the X-ray image with the ultrasound image;
The second registration unit performs registration of the third medical image with the ultrasound image based on characteristic parts depicted in the third medical image and the ultrasound image.
The medical image processing device according to claim 2 .
前記第3画像取得部は、前記第3の医用画像として、前記超音波画像及び前記X線画像とは異なる種類である前記被検体のCT画像又はMRI画像を取得する、
請求項1乃至のいずれか一項に記載の医用画像処理装置。
the third image acquisition unit acquires, as the third medical image, a CT image or an MRI image of the subject, which is a type different from the ultrasound image and the X-ray image;
The medical image processing device according to claim 1 .
前記第3画像取得部は、前記第3の医用画像として、所定の解剖学的特徴を含む画像を取得する、
請求項1乃至のいずれか一項に記載の医用画像処理装置。
The third image acquisition unit acquires an image including a predetermined anatomical feature as the third medical image.
The medical image processing apparatus according to claim 1 .
前記第3画像取得部は、前記第3の医用画像として、カテーテルの経路を示す情報を含む画像を取得する、
請求項1乃至のいずれか一項に記載の医用画像処理装置。
the third image acquisition unit acquires, as the third medical image, an image including information indicating a path of the catheter;
The medical image processing apparatus according to claim 1 .
超音波画像を生成する超音波診断装置と、X線画像を生成するX線撮影装置とを備える医用画像処理システムであって、
被検体の超音波画像を第1の医用画像として取得する第1画像取得部と、
前記被検体のX線画像を第2の医用画像として取得する第2画像取得部と、
前記超音波画像及び前記X線画像とは異なる、前記被検体の第3の医用画像を取得する第3画像取得部と、
前記X線画像を、前記超音波画像に位置合せする第1位置合せ部と、
前記第3の医用画像を、前記超音波画像に位置合せする第2位置合せ部と、
前記第1位置合せ部による位置合せ結果および前記第2位置合せ部による位置合せ結果に基づいて、前記X線画像と前記第3の医用画像とを位置合せし、前記X線画像に対して前記第3の医用画像が位置合せされた画像を生成する画像生成部と、
を有し、
前記X線撮影装置に、前記X線画像に対して前記第3の医用画像が位置合せされた画像を表示部に表示させる表示制御部を有し、
前記表示制御部は、位置合せの基準となった前記超音波画像を位置合せしてさらに前記表示部に表示させ、前記X線画像に現れるカテーテルの位置に基づいて、前記X線画像に対して前記第3の医用画像が位置合せされた画像の表示から、前記X線画像に対して前記第3の医用画像と前記超音波画像とが位置合せされた画像の表示に切り替える、
医用画像処理システム
A medical image processing system including an ultrasonic diagnostic device that generates ultrasonic images and an X-ray imaging device that generates X-ray images,
a first image acquisition unit that acquires an ultrasound image of a subject as a first medical image;
a second image acquisition unit that acquires an X-ray image of the subject as a second medical image;
a third image acquisition unit that acquires a third medical image of the subject, the third medical image being different from the ultrasound image and the X-ray image;
a first registration unit that registers the X-ray image with the ultrasound image;
a second registration unit that registers the third medical image with the ultrasound image;
an image generating unit that aligns the X-ray image and the third medical image based on a result of the alignment by the first alignment unit and a result of the alignment by the second alignment unit, and generates an image in which the third medical image is aligned with the X-ray image;
having
a display control unit for causing a display unit to display an image in which the third medical image is aligned with the X-ray image,
the display control unit aligns the ultrasound image that is the reference for alignment and further displays it on the display unit, and switches from displaying an image in which the third medical image is aligned with respect to the X-ray image to displaying an image in which the third medical image and the ultrasound image are aligned with respect to the X-ray image based on a position of the catheter that appears in the X-ray image.
Medical image processing system .
前記第1位置合せ部は、前記超音波診断装置に設けられる、
請求項に記載の医用画像処理システム。
The first alignment unit is provided in the ultrasonic diagnostic apparatus.
The medical image processing system according to claim 7 .
前記画像生成部は、前記X線撮影装置に設けられる、
請求項7又は8に記載の医用画像処理システム。
The image generating unit is provided in the X-ray imaging device.
9. The medical image processing system according to claim 7 or 8 .
前記表示制御部は、前記X線画像に対して前記第3の医用画像が位置合せされた画像と、位置合せの基準となった前記超音波画像とを並列で前記表示部に表示させる、
請求項乃至のいずれか一項に記載の医用画像処理システム。
the display control unit causes the display unit to display, in parallel, an image in which the third medical image is registered with respect to the X-ray image and the ultrasound image used as a reference for the registration.
The medical image processing system according to any one of claims 7 to 9 .
前記画像生成部は、前記第1位置合せ部による位置合せ結果および前記第2位置合せ部による位置合せ結果に基づいて、連続する全てのフレームに関するX線画像と前記第3の医用画像とを位置合せし、前記連続する全てのフレームに関するX線画像に対して前記第3の医用画像が位置合せされた複数の画像を生成し、
前記表示制御部は、前記複数の画像を、略リアルタイムで動画として前記表示部に表示させる、
請求項乃至10のいずれか一項に記載の医用画像処理システム。
the image generating unit aligns the X-ray images and the third medical image for all consecutive frames based on the alignment result by the first alignment unit and the alignment result by the second alignment unit, and generates a plurality of images in which the third medical image is aligned with the X-ray images for all consecutive frames;
The display control unit causes the display unit to display the plurality of images as a moving image in approximately real time.
The medical image processing system according to any one of claims 7 to 10 .
前記画像生成部は、前記第1位置合せ部による位置合せ結果および前記第2位置合せ部による位置合せ結果に基づいて、連続する複数のフレームのうち所定のフレームに関するX線画像と前記第3の医用画像とを位置合せし、前記所定のフレームに関するX線画像に対して前記第3の医用画像が位置合せされた画像を生成し、
前記表示制御部は、前記X線画像に対して前記第3の医用画像が位置合せされた画像の要素としてのX線画像を動画として、前記要素としての第3の医用画像を静止画として前記表示部に表示させる、
請求項乃至10のいずれか一項に記載の医用画像処理システム。
the image generating unit aligns an X-ray image relating to a predetermined frame among a plurality of consecutive frames with the third medical image based on a result of the alignment by the first alignment unit and a result of the alignment by the second alignment unit, and generates an image in which the third medical image is aligned with the X-ray image relating to the predetermined frame;
the display control unit causes the display unit to display the X-ray image as an element of an image in which the third medical image is aligned with the X-ray image as a moving image and the third medical image as the element as a still image.
The medical image processing system according to any one of claims 7 to 10 .
JP2020114343A 2020-07-01 2020-07-01 Medical image processing device and medical image processing system Active JP7514673B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020114343A JP7514673B2 (en) 2020-07-01 2020-07-01 Medical image processing device and medical image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020114343A JP7514673B2 (en) 2020-07-01 2020-07-01 Medical image processing device and medical image processing system

Publications (2)

Publication Number Publication Date
JP2022012486A JP2022012486A (en) 2022-01-17
JP7514673B2 true JP7514673B2 (en) 2024-07-11

Family

ID=80148748

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020114343A Active JP7514673B2 (en) 2020-07-01 2020-07-01 Medical image processing device and medical image processing system

Country Status (1)

Country Link
JP (1) JP7514673B2 (en)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080095421A1 (en) 2006-10-20 2008-04-24 Siemens Corporation Research, Inc. Registering 2d and 3d data using 3d ultrasound data
JP2009095671A (en) 2007-10-15 2009-05-07 General Electric Co <Ge> Method and system for visualizing registered image
JP2010029641A (en) 2008-07-04 2010-02-12 Toshiba Corp X-ray imaging apparatus, x-ray imaging method, and image processing apparatus
US20120065498A1 (en) 2010-09-14 2012-03-15 Thomas Redel Apparatus and method for minimally invasive therapy of mitral regurgitation
JP2013513412A (en) 2009-12-09 2013-04-22 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Combination of ultrasound and X-ray system
US20130279780A1 (en) 2012-01-24 2013-10-24 Siemens Aktiengesellschaft Method and System for Model Based Fusion on Pre-Operative Computed Tomography and Intra-Operative Fluoroscopy Using Transesophageal Echocardiography
JP2014061093A (en) 2012-09-20 2014-04-10 Toshiba Corp Image processor, x-ray diagnostic device, and program
JP2018534038A (en) 2015-10-09 2018-11-22 インサイテック リミテッド Systems and methods for registering images obtained using various imaging modalities and verifying image registration
JP2019072465A (en) 2017-10-12 2019-05-16 キヤノンメディカルシステムズ株式会社 X-ray diagnosis apparatus, medical image processing apparatus, medical image processing system, and medical image processing program
JP2019093123A (en) 2017-11-24 2019-06-20 キヤノンメディカルシステムズ株式会社 Medical image diagnostic apparatus and medical image processing apparatus
JP2020005785A (en) 2018-07-05 2020-01-16 キヤノンメディカルシステムズ株式会社 Medical information processing system, medical information processing apparatus, and ultrasonic diagnostic apparatus
JP2020044266A (en) 2018-09-21 2020-03-26 キヤノンメディカルシステムズ株式会社 Medical information processing device, x-ray diagnostic device and medical information processing program
JP2020065593A (en) 2018-10-22 2020-04-30 キヤノンメディカルシステムズ株式会社 Medical image processing device, x-ray diagnostic device and medical image processing program

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080095421A1 (en) 2006-10-20 2008-04-24 Siemens Corporation Research, Inc. Registering 2d and 3d data using 3d ultrasound data
JP2009095671A (en) 2007-10-15 2009-05-07 General Electric Co <Ge> Method and system for visualizing registered image
JP2010029641A (en) 2008-07-04 2010-02-12 Toshiba Corp X-ray imaging apparatus, x-ray imaging method, and image processing apparatus
JP2013513412A (en) 2009-12-09 2013-04-22 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ Combination of ultrasound and X-ray system
US20120065498A1 (en) 2010-09-14 2012-03-15 Thomas Redel Apparatus and method for minimally invasive therapy of mitral regurgitation
US20130279780A1 (en) 2012-01-24 2013-10-24 Siemens Aktiengesellschaft Method and System for Model Based Fusion on Pre-Operative Computed Tomography and Intra-Operative Fluoroscopy Using Transesophageal Echocardiography
JP2014061093A (en) 2012-09-20 2014-04-10 Toshiba Corp Image processor, x-ray diagnostic device, and program
JP2018534038A (en) 2015-10-09 2018-11-22 インサイテック リミテッド Systems and methods for registering images obtained using various imaging modalities and verifying image registration
JP2019072465A (en) 2017-10-12 2019-05-16 キヤノンメディカルシステムズ株式会社 X-ray diagnosis apparatus, medical image processing apparatus, medical image processing system, and medical image processing program
JP2019093123A (en) 2017-11-24 2019-06-20 キヤノンメディカルシステムズ株式会社 Medical image diagnostic apparatus and medical image processing apparatus
JP2020005785A (en) 2018-07-05 2020-01-16 キヤノンメディカルシステムズ株式会社 Medical information processing system, medical information processing apparatus, and ultrasonic diagnostic apparatus
JP2020044266A (en) 2018-09-21 2020-03-26 キヤノンメディカルシステムズ株式会社 Medical information processing device, x-ray diagnostic device and medical information processing program
JP2020065593A (en) 2018-10-22 2020-04-30 キヤノンメディカルシステムズ株式会社 Medical image processing device, x-ray diagnostic device and medical image processing program

Also Published As

Publication number Publication date
JP2022012486A (en) 2022-01-17

Similar Documents

Publication Publication Date Title
US20230200784A1 (en) Ultrasonic diagnostic device, image processing device, and image processing method
US9931090B2 (en) Image processing apparatus, X-ray diagnosis apparatus, and display method
US9747689B2 (en) Image processing system, X-ray diagnostic apparatus, and image processing method
US9949723B2 (en) Image processing apparatus, medical image apparatus and image fusion method for the medical image
US9547900B2 (en) Image processing apparatus, X-ray diagnosis apparatus, and registration method
US11191524B2 (en) Ultrasonic diagnostic apparatus and non-transitory computer readable medium
JP6125380B2 (en) Ultrasonic diagnostic apparatus, medical image processing apparatus, and image processing program
JP2015006438A (en) Ultrasonic diagnostic device, image processor and image processing program
JP7258483B2 (en) Medical information processing system, medical information processing device and ultrasonic diagnostic device
US10298849B2 (en) Imaging apparatus and control method thereof
JP7134687B2 (en) X-ray diagnostic device, medical image processing device, and medical image diagnostic device
CN110123372B (en) Medical image diagnosis apparatus and X-ray irradiation control apparatus
JP2019093123A (en) Medical image diagnostic apparatus and medical image processing apparatus
US10624592B2 (en) X-ray diagnosis apparatus and arm control method
JP7514673B2 (en) Medical image processing device and medical image processing system
JP7114263B2 (en) Medical image diagnosis device and X-ray irradiation control device
JP7271126B2 (en) Ultrasound diagnostic equipment and medical image processing equipment
US20240074737A1 (en) Medical image processing apparatus, x-ray diagnostic system, and non-transitory computer-readable storage medium storing medical image processing program
JP2019181065A (en) X-ray diagnostic apparatus and medical image processing apparatus
JP2018191848A (en) X-ray diagnostic apparatus and medical image diagnostic system
JP2015012977A (en) Medical image diagnostic system and medical image diagnostic device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240514

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240701

R150 Certificate of patent or registration of utility model

Ref document number: 7514673

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150