JP7221786B2 - Blood vessel diameter measurement system - Google Patents

Blood vessel diameter measurement system Download PDF

Info

Publication number
JP7221786B2
JP7221786B2 JP2019090135A JP2019090135A JP7221786B2 JP 7221786 B2 JP7221786 B2 JP 7221786B2 JP 2019090135 A JP2019090135 A JP 2019090135A JP 2019090135 A JP2019090135 A JP 2019090135A JP 7221786 B2 JP7221786 B2 JP 7221786B2
Authority
JP
Japan
Prior art keywords
blood vessel
feature point
movement
vessel diameter
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019090135A
Other languages
Japanese (ja)
Other versions
JP2020185081A (en
Inventor
淳 加藤
康志 松本
伸一 塚原
健二 小林
貴光 荒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
I Pro Co Ltd
Original Assignee
I Pro Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by I Pro Co Ltd filed Critical I Pro Co Ltd
Priority to JP2019090135A priority Critical patent/JP7221786B2/en
Priority to PCT/JP2020/005517 priority patent/WO2020230389A1/en
Publication of JP2020185081A publication Critical patent/JP2020185081A/en
Application granted granted Critical
Publication of JP7221786B2 publication Critical patent/JP7221786B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Endoscopes (AREA)
  • Image Analysis (AREA)

Description

本開示は、血管を撮像して血管径を測定する血管径測定システムに関する。 The present disclosure relates to a blood vessel diameter measurement system that captures an image of a blood vessel and measures the diameter of the blood vessel.

冠動脈あるいは末梢血管等の組織内に留置されるステントは、例えば金属またはポリマから作製される小型の管状構造を有し、血管の中に挿通されて血管を解放して保持し、閉塞が生じないように保たれる。ステントの配置には幾つかのリスク(例えば血管病変の発生)が存在することが知られており(例えば特許文献1参照)、このような病変を回避するためにはステントは展開される間は血管内で平行に配置されるべきであり、適切なステントを選択するために血管径を測定することが重要となる。 Stents that are placed in tissues such as coronary arteries or peripheral blood vessels have small tubular structures made, for example, of metals or polymers, that are threaded into blood vessels to hold them open and prevent occlusion. kept as It is known that there are some risks (for example, the development of vascular lesions) in the placement of stents (see, for example, US Pat. It should be placed in parallel within the vessel and it is important to measure the vessel diameter to select the appropriate stent.

従来、血管内を撮像可能な血管内視鏡として、例えば9000画素程度の解像度を有するファイバースコープ型のものが知られている。このようなファイバースコープ型の血管内視鏡では、ファイバーを接続する基端側の光源あるいはプロセッサ装置側にイメージセンサが配置されることが多い。 Conventionally, a fiberscope type having a resolution of, for example, about 9000 pixels is known as an angioscope capable of imaging the inside of a blood vessel. In such a fiberscope type angioscope, an image sensor is often arranged on the side of the light source or the processor on the proximal side to which the fiber is connected.

特表2016-503310号公報Japanese Patent Publication No. 2016-503310

しかし、従来の血管内視鏡を用いて血管径を測定する場合、例えば解像度の不足により、医師等が安全安心な手術あるいは検査を行う上で目印となり得る有用な血管内特徴(例えば、ステント、薬剤、血栓、プラーク、ガイドワイヤ、血管壁の模様もしくはその状態)を十分に把握することができず、撮像映像を頼りにした高精度な血管径の測定が難しいという課題があった。血管壁の模様もしくはその状態には、例えば石灰化等の病変、新生内皮膜等が含まれる。 However, when measuring the vascular diameter using a conventional angioscope, for example, due to insufficient resolution, useful intravascular features (such as stents, (drugs, thrombus, plaque, guide wire, vascular wall pattern or its condition) cannot be fully grasped, and there is a problem that it is difficult to measure the vascular diameter with high accuracy relying on the captured image. Patterns or states of blood vessel walls include, for example, lesions such as calcification, neoendothelium, and the like.

また、仮に血管径の測定時に周知のIVUS(Intra Vascular Ultra Sound)もしくはOCT(Optical Coherence Tomography)を利用すると、手術あるいは検査の時間および費用が増大し、患者の負担が増して利便性が向上しないために好ましくないと考えられる。 In addition, if the well-known IVUS (Intra Vascular Ultra Sound) or OCT (Optical Coherence Tomography) is used when measuring the blood vessel diameter, the time and cost of surgery or examination will increase, the burden on the patient will increase, and convenience will not improve. It is considered unfavorable because

本開示は、上述した従来の状況に鑑みて案出され、血管内視鏡の撮像画像を利用して患者等の被検体内の血管径を高精度で手軽かつ簡易に測定し、被検体内に挿通される適切なステントの選択を支援する血管径測定システムを提供することを目的とする。 The present disclosure has been devised in view of the conventional situation described above, and uses an image captured by an angioscope to easily and easily measure the diameter of a blood vessel in a subject such as a patient with high accuracy. It is an object of the present invention to provide a blood vessel diameter measurement system that assists selection of an appropriate stent to be inserted into the blood vessel.

本開示は、被検体の血管内に挿通され、血管を撮像可能な画像センサが先端側に実装された内視鏡と、前記内視鏡と接続され、前記血管内に挿通された前記内視鏡を基端側に向かって一定速度で移動させる駆動機器と、前記駆動機器と接続され、前記駆動機器による前記内視鏡の移動前に撮像された少なくとも1枚の移動前撮像画像と前記駆動機器による前記内視鏡の移動後に撮像された少なくとも1枚の移動後撮像画像と前記駆動機器による前記内視鏡の移動距離とに基づいて、前記血管の血管径を測定する演算装置と、を備える血管径測定システムを提供する。 The present disclosure includes an endoscope inserted into a blood vessel of a subject and having an image sensor capable of imaging the blood vessel mounted on the distal end side, and the endoscope connected to the endoscope and inserted through the blood vessel. a drive device for moving the endoscope toward the base end at a constant speed; at least one pre-movement captured image, which is connected to the drive device and captured before the endoscope is moved by the drive device, and the drive; an arithmetic device that measures the diameter of the blood vessel based on at least one post-movement captured image captured after movement of the endoscope by a device and the movement distance of the endoscope by the driving device; A blood vessel diameter measurement system comprising:

本開示によれば、血管内視鏡の撮像画像を利用して患者等の被検体内の血管径を高精度で手軽かつ簡易に測定し、被検体内に挿通される適切なステントの選択を支援できる。 According to the present disclosure, it is possible to easily and easily measure the diameter of a blood vessel in a subject such as a patient with high accuracy using an image captured by an angioscope, and to select an appropriate stent to be inserted into the subject. I can help.

実施の形態1に係る血管径測定システムの構成の一例を示す図1 is a diagram showing an example of the configuration of a blood vessel diameter measurement system according to Embodiment 1; FIG. 血管内視鏡カメラが血管壁を撮像する状況の一例を示す図The figure which shows an example of the situation where an angioscope camera images a blood vessel wall. PCによる血管径測定手順を示すフローチャートFlowchart showing procedure for measuring blood vessel diameter by PC 血管壁の画像上における特徴点の配置例を示す図A diagram showing an arrangement example of feature points on an image of a blood vessel wall 特徴点および対応点の位置関係例を示す図A diagram showing an example of the positional relationship between feature points and corresponding points 3次元位置の算出例を説明する図Diagram for explaining an example of calculating a three-dimensional position 血管を長手方向(z方向)に視た場合における血管壁に配置された特徴点の点群をモニタに3D表示で示す図FIG. 4 is a diagram showing a 3D display on a monitor of a point group of feature points arranged on a blood vessel wall when the blood vessel is viewed in the longitudinal direction (z direction). 血管を斜め方向に視た場合における血管壁に配置された特徴点の点群をモニタに3D表示で示す図FIG. 4 is a diagram showing a 3D display on a monitor of a point group of feature points arranged on a blood vessel wall when the blood vessel is viewed obliquely; 血管を径方向(xy面)に視た場合における血管壁に配置された特徴点の点群をモニタに3D表示で示す図FIG. 4 is a diagram showing a 3D display on a monitor of a point group of feature points arranged on a blood vessel wall when the blood vessel is viewed in the radial direction (xy plane); 検出された平面に対し特徴点をインライアまたはアウトライアとする選別を示す図A diagram showing selection of feature points as inliers or outliers for the detected plane 3次元点を用いて推定された血管径を示す図Diagram showing estimated vessel diameter using 3D points

以下、適宜図面を参照しながら、本開示に係る血管径測定システムおよび血管径測定方法を具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。 Hereinafter, embodiments specifically disclosing a blood vessel diameter measurement system and a blood vessel diameter measurement method according to the present disclosure will be described in detail with reference to the drawings as appropriate. However, more detailed description than necessary may be omitted. For example, detailed descriptions of well-known matters and redundant descriptions of substantially the same configurations may be omitted. This is to avoid unnecessary verbosity in the following description and to facilitate understanding by those skilled in the art. It should be noted that the accompanying drawings and the following description are provided for a thorough understanding of the present disclosure by those skilled in the art and are not intended to limit the claimed subject matter.

図1は、実施の形態に係る血管径測定システム5の構成の一例を示す図である。血管径測定システム5は、人体等の被検体を対象とし、その被検体内の血管の血管径を測定する。血管径測定システム5は、血管内視鏡100と、中継器20と、カメラコントロールユニット30と、PC(Personal Computer)50と、モニタ70と、を含む構成である。 FIG. 1 is a diagram showing an example configuration of a blood vessel diameter measurement system 5 according to an embodiment. The blood vessel diameter measurement system 5 targets a subject such as a human body and measures the blood vessel diameter of the blood vessel in the subject. The blood vessel diameter measurement system 5 includes an angioscope 100 , a repeater 20 , a camera control unit 30 , a PC (Personal Computer) 50 and a monitor 70 .

内視鏡の一例としての血管内視鏡100は、カテーテルの先端に血管内視鏡カメラ10が取り付けられた(言い換えると、実装された)手術時あるいは検査時に使用される専用の医療器具であり、いわゆる血管内視鏡カテーテルと称される。血管内視鏡100の外径は、例えば1.8mmφであるが、この値に限定されない。血管内視鏡100は、血管内を進退自在に挿通可能なガイドワイヤ150を収容する。ここで、血管内視鏡カメラ10が体内に向かって挿入される方向を進行方向とし、反対に血管内視鏡カメラ10が体外に向かって引き抜かれる方向を退避方向とする。従って、進退自在とは、血管内視鏡100が体内に向かって挿入されることも引き抜かれることも可能であることを意味する。血管内視鏡カメラ10は、手術あるいは検査の対象部位(例えば患部)までに予め挿通されたガイドワイヤ150に案内されて血管の奥までスムーズに挿入可能である。なお、血管内視鏡100は、通常のカテーテル(図示略)の先端部に血管内視鏡カメラ10が交換自在に装着されたものでもよい。カテーテルは、体液の排出あるいは薬液の注入に用いられる医療用の管である。カテーテルには、血管内視鏡カメラ10の他、バルーンもしくはステント等が交換自在に装着される。 An angioscope 100, which is an example of an endoscope, is a dedicated medical instrument having an angioscope camera 10 attached (in other words, mounted) to the tip of a catheter and used during surgery or examination. , a so-called angioscopic catheter. The outer diameter of the angioscope 100 is, for example, 1.8 mmφ, but is not limited to this value. The angioscope 100 accommodates a guide wire 150 that can be inserted back and forth in a blood vessel. Here, the direction in which the angioscope camera 10 is inserted into the body is defined as the advancing direction, and the direction in which the angioscope camera 10 is withdrawn from the body is defined as the withdrawal direction. Therefore, being able to move back and forth means that the angioscope 100 can be inserted into the body and pulled out. The angioscope camera 10 can be smoothly inserted deep into a blood vessel by being guided by a guide wire 150 that has been passed through a target site (for example, an affected site) for surgery or examination. The angioscope 100 may be an angioscope camera 10 exchangeably attached to the distal end of an ordinary catheter (not shown). A catheter is a medical tube used for drainage of bodily fluids or injection of medical fluids. In addition to the angioscope camera 10, the catheter is exchangeably mounted with a balloon, a stent, or the like.

血管内視鏡カメラ10は、例えば、血管を撮像可能な画像センサ(後述参照)が先端側に実装された48万画素の高解像度カメラである。血管内視鏡100が人体等の血管に挿入されることで、血管内視鏡カメラ10は、血管の内壁(以下、血管壁という)を撮像可能である。血管内視鏡カメラ10は、画像センサとして例えばCCD(Charged-Coupled Device)あるいはCMOS(Complementary Metal-Oxide-Semiconductor)等の固体撮像素子(つまりイメージセンサ)を内蔵し、被写体(例えば患部)からの光を撮像面に結像し、結像した光学像を電気信号に変換して撮像画像信号を出力する。血管内視鏡カメラ10は、血管内に挿入されると、ユーザの操作に従い、例えば等間隔で血管壁を撮像し、撮像画像信号を出力する。なお、撮像画像信号は、静止画像および動画像のいずれの信号でもよい。また、血管内視鏡100は、被写体を照明するために、LED光源あるいは後段のカメラコントロールユニット30からの照射光を導くファイバーを内蔵してよい。 The angioscope camera 10 is, for example, a 480,000-pixel high-resolution camera in which an image sensor capable of imaging blood vessels (see below) is mounted on the distal end side. By inserting the angioscope 100 into a blood vessel of a human body or the like, the angioscope camera 10 can image the inner wall of the blood vessel (hereinafter referred to as the blood vessel wall). The angioscope camera 10 incorporates a solid-state imaging device (that is, an image sensor) such as a CCD (Charged-Coupled Device) or a CMOS (Complementary Metal-Oxide-Semiconductor) as an image sensor. It forms an image of light on an imaging surface, converts the formed optical image into an electric signal, and outputs a picked-up image signal. When inserted into a blood vessel, the angioscope camera 10 captures images of the blood vessel wall at, for example, equal intervals according to the user's operation, and outputs captured image signals. Note that the captured image signal may be either a still image signal or a moving image signal. Further, the angioscope 100 may incorporate an LED light source or a fiber that guides illumination light from the camera control unit 30 in the subsequent stage in order to illuminate the subject.

駆動機器の一例としてのプルバック機器80は、ガイドワイヤ150に案内されて血管の奥まで挿入された血管内視鏡100をプルバック速度(例えば一定速度)で血管内視鏡100の基端側に引き抜く動作を行う。血管内視鏡カメラ10は、プルバック機器80によって血管内視鏡100が引き抜かれる際、血管壁を等間隔で撮像する。プルバック機器80は、中継器20を介してカメラコントロールユニット30にプルバック速度等のデータを通知する。なお、プルバック速度は、引き戻される間の速度であり、一定速度でなくてもよい。 A pullback device 80, which is an example of a driving device, pulls out the angioscope 100, which has been guided by the guide wire 150 and inserted deep into the blood vessel, toward the proximal end of the angioscope 100 at a pullback speed (for example, at a constant speed). take action. The angioscope camera 10 takes images of the vascular wall at equal intervals when the angioscope 100 is pulled out by the pullback device 80 . The pullback device 80 notifies data such as the pullback speed to the camera control unit 30 via the repeater 20 . It should be noted that the pullback speed is the speed while being pulled back, and does not have to be a constant speed.

中継器20は、血管内視鏡カメラ10とカメラコントロールユニット30の間で行われる各種の信号を中継する。各種の信号は、血管内視鏡カメラ10で撮像された撮像画像信号、およびカメラコントロールユニット30が血管内視鏡カメラ10を制御する制御信号を含む。 The relay 20 relays various signals between the angioscope camera 10 and the camera control unit 30 . Various signals include captured image signals captured by the angioscope camera 10 and control signals for the camera control unit 30 to control the angioscope camera 10 .

カメラコントロールユニット30(CCU:Camera Control Unit)は、血管内視鏡カメラ10と中継器20を介して電気的に接続され、血管内視鏡カメラ10による撮像動作、血管内視鏡カメラ10からの撮像画像信号に基づく撮像画像データの生成を制御する。また、カメラコントロールユニット30は、プルバック機器80から血管内視鏡100を引き抜くプルバック速度(例えば一定速度)を取得し、メタデータとして画像データに付加する。メタデータは、プルバック速度の他、撮像日時等のデータを含む。カメラコントロールユニット30は、画像入力部(図示略)、画像処理部(図示略)および画像出力部(図示略)を少なくとも含む。画像入力部(図示略)は、血管内視鏡カメラ10で撮像された血管壁等の画像データを入力する。画像入力部(図示略)は、専用の画像入力インターフェースの他、映像データを高速に転送可能なHDMI(登録商標)(High-Definition Multimedia Interface)あるいはUSB(Universal Serial Bus) Type-C等を用いたインターフェースでもよい。画像処理部(図示略)は、入力された血管壁等の撮像画像データにメタデータを付加する等の処理を行う。また、画像処理部(図示略)は、血管内視鏡カメラ10からの撮像画像信号を用いて、所定の画像処理を行うことで後述するモニタ70において視認可能なRGB形式あるいはYUV形式の撮像画像データを生成してもよい。なお、この撮像画像データの生成は、血管内視鏡カメラ10で実行されてもよいし、後段のPC50で実行されても構わない。画像出力部(図示略)は、メタデータが付加された血管壁等の撮像画像データをPC50に送信する。 A camera control unit 30 (CCU: Camera Control Unit) is electrically connected to the angioscope camera 10 via a repeater 20, and is configured to It controls the generation of captured image data based on the captured image signal. The camera control unit 30 also acquires the pullback speed (for example, constant speed) for pulling out the angioscope 100 from the pullback device 80 and adds it to the image data as metadata. The metadata includes data such as the date and time of imaging in addition to the pullback speed. The camera control unit 30 includes at least an image input section (not shown), an image processing section (not shown), and an image output section (not shown). An image input unit (not shown) inputs image data of a blood vessel wall or the like imaged by the angioscope camera 10 . The image input unit (not shown) uses a dedicated image input interface, as well as HDMI (registered trademark) (High-Definition Multimedia Interface) or USB (Universal Serial Bus) Type-C capable of transferring video data at high speed. It can be an existing interface. An image processing unit (not shown) performs processing such as adding metadata to the input captured image data of a blood vessel wall or the like. The image processing unit (not shown) uses the captured image signal from the angioscope camera 10 to perform predetermined image processing, thereby producing a captured image in RGB format or YUV format that can be viewed on a monitor 70 to be described later. data may be generated. It should be noted that the imaging image data may be generated by the angioscope camera 10 or by the PC 50 in the subsequent stage. An image output unit (not shown) transmits captured image data of a blood vessel wall or the like to which metadata is added to the PC 50 .

演算装置の一例としてのPC50は、プロセッサ51と、メモリ52と、入出力インターフェース53と、操作部54と、ストレージ55とを有する。PC50は、血管壁等の撮像画像データ(生画像データの一例)、この撮像画像データに対して所定の画像処理を施した後の撮像画像データ等をストレージ55に記録する。PC50は、血管壁の撮像画像データを基に、血管径を算出する処理を行う。PC50は、血管径の測定結果あるいは血管壁等の撮像画像データをモニタ70に出力し、血管径を可視化する処理を行う。 A PC 50 as an example of an arithmetic device has a processor 51 , a memory 52 , an input/output interface 53 , an operation section 54 and a storage 55 . The PC 50 records captured image data (an example of raw image data) of a blood vessel wall or the like, captured image data after performing predetermined image processing on the captured image data, and the like in the storage 55 . The PC 50 performs a process of calculating the blood vessel diameter based on the captured image data of the blood vessel wall. The PC 50 outputs the measurement result of the blood vessel diameter or the captured image data of the blood vessel wall or the like to the monitor 70, and performs processing for visualizing the blood vessel diameter.

プロセッサ51は、メモリ52に記憶されたプログラムを実行することで、上述した血管径測定処理および可視化処理等のそれぞれを実行する。プロセッサ51は、例えば画像処理に適したGPU(Graphical Processing Unit)でよい。なお、プロセッサ51は、GPUの代わりに、MPU(Micro Processing Unit)、CPU(Central Processing Unit)、ASIC(Application Specific Integrated Circuit)等で設計された専用の電子回路や、FPGA(Field Programmable Gate Array)等で再構成可能に設計された電子回路で構成されてもよい。 The processor 51 executes the programs stored in the memory 52 to perform the above-described blood vessel diameter measurement process, visualization process, and the like. The processor 51 may be, for example, a GPU (Graphical Processing Unit) suitable for image processing. Note that the processor 51 is a dedicated electronic circuit designed by an MPU (Micro Processing Unit), a CPU (Central Processing Unit), an ASIC (Application Specific Integrated Circuit), or the like, or an FPGA (Field Programmable Gate Array) instead of the GPU. It may be configured by an electronic circuit designed to be reconfigurable by, for example.

メモリ52は、プロセッサ51のワーキングメモリとして使用される。入出力インターフェース53は、専用の画像入力インターフェースの他、映像データを高速に転送可能なHDMI(登録商標)(High-Definition Multimedia Interface)あるいはUSB(Universal Serial Bus) Type-C等を用いたインターフェースでもよい。 The memory 52 is used as working memory for the processor 51 . The input/output interface 53 can be a dedicated image input interface, or an interface using HDMI (registered trademark) (High-Definition Multimedia Interface) or USB (Universal Serial Bus) Type-C that can transfer video data at high speed. good.

操作部54は、術者等のユーザによる操作を受け付ける。操作部54は、マウス、キーボード、タッチパッド、タッチパネル、マイクロホン、またはその他の入力デバイスを含んでよい。 The operation unit 54 receives operations by a user such as an operator. The operation unit 54 may include a mouse, keyboard, touchpad, touch panel, microphone, or other input device.

ストレージ55は、大容量のメモリであり、血管内視鏡カメラ10で撮像された血管壁等の撮像画像データを蓄積する。ストレージ55は、例えば二次記憶装置(例えばHDD(Hard Disk Drive)もしくはSSD(Solid State Drive))、あるいは三次記憶装置(例えば光ディスク、SDカード)を含んでよい。 The storage 55 is a large-capacity memory, and accumulates captured image data of blood vessel walls and the like captured by the angioscope camera 10 . The storage 55 may include, for example, a secondary storage device (eg, HDD (Hard Disk Drive) or SSD (Solid State Drive)) or a tertiary storage device (eg, optical disk, SD card).

モニタ70は、PC50から出力される血管径の測定結果あるいは血管壁等の画像を表示する。モニタ70は、血管壁の画像を表示する際、ユーザが所望する方向から視た血管内の立体画像として3D表示可能である。モニタ70は、例えばLCD(Liquid Crystal Display)、有機EL(Electroluminescence)、CRT(Cathode Ray Tube)等の表示デバイスを有する。 The monitor 70 displays the measurement result of the blood vessel diameter or the image of the blood vessel wall or the like output from the PC 50 . When displaying the image of the blood vessel wall, the monitor 70 can perform 3D display as a stereoscopic image of the inside of the blood vessel viewed from a direction desired by the user. The monitor 70 has a display device such as an LCD (Liquid Crystal Display), an organic EL (Electroluminescence), a CRT (Cathode Ray Tube), or the like.

なお、カメラコントロールユニット30、PC50およびモニタ70は、イメージングシステム90として、単一の筐体に搭載される。 Note that the camera control unit 30, the PC 50 and the monitor 70 are mounted as an imaging system 90 in a single housing.

次に、実施の形態1に係る血管径測定システム5の動作を示す。 Next, the operation of the blood vessel diameter measurement system 5 according to Embodiment 1 will be described.

例えば、人体等の血管内に血栓があったり、血管壁にプラークができていたりする等、血管の状態を観察するために、血管内視鏡100は、血管内に挿入される。術者等のユーザが血管内視鏡100を血管内に挿入する際、カテーテルに収容されたガイドワイヤ150を先行して血管内に進行させる。ガイドワイヤ150が観察したい血管内に届くと、ユーザは、ガイドワイヤ150に案内されるように、血管内視鏡カメラ10を血管内に進行させる。血管内視鏡カメラ10が観察したい血管内に達すると、ユーザは、プルバック機器80を作動させ、血管内視鏡100をプルバック速度(例えば一定速度)で引き抜く動作を開始させる。また、血管内視鏡カメラ10で血管内を撮像する場合、ユーザは、血管内を鮮明に撮像できるように、カテーテルの先端から生理食塩水を血管内に注入する。 For example, the angioscope 100 is inserted into a blood vessel in order to observe the condition of the blood vessel, such as a thrombus in the blood vessel of a human body or the formation of plaque on the blood vessel wall. When a user such as an operator inserts the angioscope 100 into a blood vessel, the guide wire 150 accommodated in the catheter is advanced into the blood vessel first. When the guide wire 150 reaches the blood vessel to be observed, the user advances the angioscope camera 10 into the blood vessel so as to be guided by the guide wire 150 . When the angioscope camera 10 reaches the blood vessel to be observed, the user activates the pullback device 80 to start pulling out the angioscope 100 at a pullback speed (for example, a constant speed). When imaging the inside of a blood vessel with the angioscope camera 10, the user injects physiological saline into the blood vessel from the tip of the catheter so that the inside of the blood vessel can be imaged clearly.

図2は、血管内視鏡カメラ10が血管壁200を撮像する状況の一例を示す図である。血管内視鏡カメラ10は、ガイドワイヤ150が予め挿通されている血管201の血管壁200(例えば、血管の中心方向と中心方向を挟んで対向する双方の内壁と)を撮像する。血管壁200を撮像する場合、血管内視鏡カメラ10は、自重により血管壁200に張り付いた状態となる。この状態で、血管壁200を撮像する場合、血管内視鏡カメラ10は、血管壁200を下側から仰いだ画像(いわゆるアオリ撮影による画像)を撮像する。この結果、血管壁の画像は、血管壁200の中心が上側にずれた画像となる(図4参照)。 FIG. 2 is a diagram showing an example of a situation in which the angioscope camera 10 images a blood vessel wall 200. As shown in FIG. The angioscope camera 10 images the blood vessel wall 200 of the blood vessel 201 through which the guide wire 150 has been inserted in advance (for example, the inner wall facing the center direction of the blood vessel and the inner walls facing each other across the center direction). When imaging the blood vessel wall 200, the angioscope camera 10 sticks to the blood vessel wall 200 due to its own weight. When capturing an image of the blood vessel wall 200 in this state, the angioscope camera 10 captures an image of the blood vessel wall 200 viewed from below (a so-called tilt image). As a result, the image of the blood vessel wall is an image in which the center of the blood vessel wall 200 is shifted upward (see FIG. 4).

図3は、PC50による血管径測定手順を示すフローチャートである。この処理は、血管内視鏡カメラ10で連続的に撮像される画像に対し、フレーム単位で実行される。 FIG. 3 is a flow chart showing a blood vessel diameter measurement procedure by the PC 50. As shown in FIG. This processing is executed in units of frames for images continuously captured by the angioscope camera 10 .

まず、ユーザは、PC50に対し、円の中心と半径を入力する。プロセッサ51は、操作部54を介して、ユーザ入力による円の中心と半径を受け付ける。プロセッサ51は、カメラコントロールユニット30から入力した血管壁の画像データに対し、画像全体に配置された1156個の測定点の中から、円の中心と半径に基づく円周上に128個の特徴点e1を検出する(S1)。なお、1156個の測定点および128個の特徴点の数は、一例である。 First, the user inputs the center and radius of the circle to the PC 50 . The processor 51 receives the center and radius of the circle input by the user via the operation unit 54 . The processor 51 selects 128 feature points on the circumference based on the center and radius of the circle from among 1156 measurement points arranged in the entire image for the image data of the blood vessel wall input from the camera control unit 30. e1 is detected (S1). Note that the number of 1156 measurement points and 128 feature points is an example.

アオリ画像の場合、血管径に合わせて円周上に配置される特徴点は、画像の上部がz方向(図6参照)に倒れた状態の楕円状に分布する。また、後述する血管径の算出では、後述するように楕円フィッティングにより得られる楕円の長辺が血管径として採用されるので、アオリ画像の場合、血管径は長めに算出される。なお、PC50は、血管内視鏡カメラ10で撮像される画像に対し、アオリ補正を行い、アオリ補正後の画像を用いて、血管径測定処理を行ってもよい。 In the case of a tilt image, the feature points arranged on the circumference according to the blood vessel diameter are distributed in an elliptical shape with the upper part of the image tilted in the z direction (see FIG. 6). Further, in the calculation of the blood vessel diameter, which will be described later, the long side of an ellipse obtained by ellipse fitting is adopted as the blood vessel diameter as will be described later. Note that the PC 50 may perform tilt correction on the image captured by the angioscope camera 10, and may perform the blood vessel diameter measurement process using the image after the tilt correction.

図4は、血管壁の画像上における特徴点e1の配置例を示す図である。血管内視鏡カメラ10で撮像された画像GZ1に対し、ユーザにより指定された円の円周上に128個の特徴点e1が重畳して描画される。 FIG. 4 is a diagram showing an arrangement example of feature points e1 on an image of a blood vessel wall. 128 feature points e1 are superimposed and drawn on the circumference of a circle designated by the user on the image GZ1 captured by the angioscope camera 10 .

プロセッサ51は、特徴点e1を検出した画像GZ1が1フレーム目の画像であるか否かを判別する(S2)。1フレーム目の画像である場合、プロセッサ51は、本処理を終了する。 The processor 51 determines whether or not the image GZ1 in which the feature point e1 is detected is the first frame image (S2). If the image is the first frame, the processor 51 terminates this process.

一方、ステップS2で2フレーム目以降の画像である場合、プロセッサ51は、第1の特徴点マッチングを行う(S3)。第1の特徴点マッチングでは、プロセッサ51は、前フレーム(言い換えると、第(n-1)番目フレーム)の特徴点近傍の矩形領域をテンプレートとして取得する(n:2以上の整数)。一例として、テンプレートサイズは、幅16ピクセル×高さ16ピクセルのサイズである。プロセッサ51は、現フレーム(言い換えると、第n番目フレーム)の特徴点位置を中心とした矩形領域を、探索範囲としてテンプレートと一致する領域を探索する。探索範囲のサイズは、幅128ピクセル×高さ128ピクセルのサイズである。プロセッサ51は、ZNCC(Zero-means Normalized Cross Correlation)値が最小となる位置を特徴点e1に対応する対応点f2とする。なお、第n番目フレームは、第(n-1)番目フレームに対し、血管内視鏡100が手前に引かれた状態の画像であるので、複数の対応点f2が形成する円は、複数の特徴点e1が形成する円と比べ、小さくなる。 On the other hand, if the image is the second frame or later in step S2, the processor 51 performs first feature point matching (S3). In the first feature point matching, the processor 51 acquires a rectangular area near feature points in the previous frame (in other words, the (n−1)th frame) as a template (n: an integer equal to or greater than 2). As an example, the template size is 16 pixels wide by 16 pixels high. The processor 51 searches for a rectangular area centered on the feature point position of the current frame (in other words, the n-th frame) as a search range for an area that matches the template. The size of the search range is 128 pixels wide by 128 pixels high. The processor 51 sets the position where the ZNCC (Zero-means Normalized Cross Correlation) value is minimum as the corresponding point f2 corresponding to the feature point e1. Note that the nth frame is an image in which the angioscope 100 is pulled forward with respect to the (n−1)th frame, so the circle formed by the plurality of corresponding points f2 corresponds to the plurality of It is smaller than the circle formed by the feature point e1.

図5は、特徴点e1および対応点f2の位置関係例を示す図である。プロセッサ51は、第(n-1)番目フレームに含まれる特徴点e1と第n番目フレームに含まれる対応点f2を用いて、消失点dpを推定する(S4)。消失点dpの推定では、プロセッサ51は、全ての特徴点e1および対応点f2に対し、特徴点e1から対応点f2へのフローを求める。プロセッサ51は、2つのフローの交点を求める。プロセッサ51は、全ての特徴点e1から交点までのベクトルを求める。プロセッサ51は、このフローと各ベクトルとの類似度(ここでは角度差)を求め、この類似度が閾値を超えるか否か、例えばフローとベクトルの角度差が3°未満であるか否かを判別する。プロセッサ51は、角度差が3°未満である場合、この特徴点e1を有効な特徴点(以下、「インライア」と称する場合がある)であると判定する。一方、プロセッサ51は、角度差が3°以上である場合、この特徴点e1を無効な特徴点(以下、「アウトライア」と称する場合がある)であると判定する。プロセッサ51は、全てのフローの交点に対し、インライアの数を算出する。プロセッサ51は、インライアの数が最も多いフローの交点を消失点dpとする。例えば、フローの数が4つである場合、交点は、4つの中から2つを選ぶ組合せで算出されるように、6通り存在する。従って、消失点dpは、6つの交点の中から選出される。 FIG. 5 is a diagram showing an example of the positional relationship between the feature point e1 and the corresponding point f2. The processor 51 estimates the vanishing point dp using the feature point e1 included in the (n-1)th frame and the corresponding point f2 included in the nth frame (S4). In estimating the vanishing point dp, the processor 51 finds the flow from the feature point e1 to the corresponding point f2 for all feature points e1 and corresponding points f2. Processor 51 determines the intersection of the two flows. The processor 51 obtains vectors from all feature points e1 to the intersection. The processor 51 obtains the degree of similarity (angle difference here) between this flow and each vector, and determines whether this degree of similarity exceeds a threshold, for example, whether the angle difference between the flow and the vector is less than 3°. discriminate. The processor 51 determines that the feature point e1 is a valid feature point (hereinafter sometimes referred to as an "inlier") when the angle difference is less than 3°. On the other hand, when the angle difference is 3° or more, the processor 51 determines that the feature point e1 is an invalid feature point (hereinafter sometimes referred to as an "outlier"). The processor 51 computes the number of inliers for every flow intersection. The processor 51 sets the intersection point of the flow with the largest number of inliers as the vanishing point dp. For example, if the number of flows is 4, there are 6 intersection points as calculated by the combination 4 C 2 which selects 2 out of 4. Therefore, the vanishing point dp is selected from among the six intersection points.

プロセッサ51は、クロスチェックのために第2の特徴点マッチングを行う(S5)。第2の特徴点マッチングでは、プロセッサ51は、現フレーム(つまり、第n番目フレーム)の対応点近傍の矩形領域をテンプレートとして取得する。一例として、テンプレートサイズは、幅16ピクセル×高さ16ピクセルのサイズである。プロセッサ51は、前フレーム(つまり、第(n-1)番目フレーム)の対応点位置を中心とした矩形領域を、探索範囲としてテンプレートと一致する領域を探索する。探索範囲のサイズは、幅128ピクセル×高さ128ピクセルのサイズである。プロセッサ51は、ZNCC(Zero-means Normalized Cross Correlation)値が最小となる位置を対応点f2に対応する特徴点(対応特徴点)とする。プロセッサ51は、前フレーム(つまり、第(n-1)番目フレーム)における、特徴点e1と対応特徴点とが略一致するか否かを判別する。特徴点e1と対応特徴点との略一致は、例えば位置座標を基に判別可能である。プロセッサ51は、特徴点e1と対応特徴点とが略一致する場合、対応点f2が信頼性ありと判断し、特徴点e1と対応特徴点とが略一致しない場合、対応点f2が信頼性なしと判断する。プロセッサ51は、信頼性ありと判断された特徴点e1をインライアとして採用し、信頼性なしと判断された特徴点e1をアウトライアとして採用しない。 Processor 51 performs second feature point matching for cross-checking (S5). In the second feature point matching, the processor 51 acquires a rectangular area near the corresponding points in the current frame (that is, the n-th frame) as a template. As an example, the template size is 16 pixels wide by 16 pixels high. The processor 51 searches for a rectangular region centered on the position of the corresponding point in the previous frame (that is, the (n−1)th frame) as a search range for a region that matches the template. The size of the search range is 128 pixels wide by 128 pixels high. The processor 51 sets the position where the ZNCC (Zero-means Normalized Cross Correlation) value is minimum as the feature point (corresponding feature point) corresponding to the corresponding point f2. The processor 51 determines whether or not the feature point e1 and the corresponding feature point in the previous frame (that is, the (n-1)th frame) substantially match. Substantial matching between the feature point e1 and the corresponding feature point can be determined, for example, based on the positional coordinates. The processor 51 determines that the corresponding point f2 is reliable when the feature point e1 substantially matches the corresponding feature point, and determines that the corresponding point f2 is unreliable when the feature point e1 and the corresponding feature point do not substantially match. I judge. The processor 51 adopts the feature point e1 determined to be reliable as an inlier, and does not adopt the feature point e1 determined to be unreliable as an outlier.

プロセッサ51は、インライアである特徴点e1の3次元位置を算出する(S6)。特徴点e1の3次元位置の算出には、例えば三角測量が用いられる。三角測量は、2点間の距離およびこれら2点から測定したい特徴点への角度をそれぞれ測定することで、特徴点の位置を求める、三角法および幾何学を用いた周知の測量方法である。 The processor 51 calculates the three-dimensional position of the inlier feature point e1 (S6). Triangulation, for example, is used to calculate the three-dimensional position of the feature point e1. Triangulation is a well-known surveying method using trigonometry and geometry that determines the position of a feature point by measuring the distance between two points and the angle from these two points to the feature point to be measured.

図6は、3次元位置の算出例を説明する図である。ここで、特徴点e1の3次元座標Eを(X,Y,Z)とする。Xは、血管の径方向を表すx軸の座標値である。Yは、x軸に対し垂直な血管の径方向を表すy軸の座標値である。Zは、血管の長手方向を表すz軸の座標値である。第(n-1)番目フレームのカメラ位置g1における、特徴点e1の画像座標p1を(u1,u2)とする。第n番目フレームのカメラ位置g2における、対応点f2の画像座標p2を(u2,v2)とする。第(n-1)番目フレームのカメラ位置g1と第n番目フレームのカメラ位置g2の間の距離をDとする。ここで、距離Dは、プルバック機器80がガイドワイヤ150を一定のプルバック速度で牽引する際、第(n-1)番目フレームのカメラ位置と第n番目フレームのカメラ位置の撮像時間差とプルバック速度との積で算出される。 FIG. 6 is a diagram illustrating an example of calculation of a three-dimensional position. Here, let the three-dimensional coordinates E of the feature point e1 be (X, Y, Z). X is the coordinate value of the x-axis representing the radial direction of the blood vessel. Y is the coordinate value of the y-axis representing the radial direction of the blood vessel perpendicular to the x-axis. Z is the coordinate value of the z-axis representing the longitudinal direction of the blood vessel. Assume that the image coordinates p1 of the feature point e1 at the camera position g1 of the (n−1)th frame are (u1, u2). Assume that the image coordinates p2 of the corresponding point f2 at the camera position g2 of the n-th frame are (u2, v2). Let D be the distance between the camera position g1 of the (n-1)th frame and the camera position g2 of the nth frame. Here, when the pullback device 80 pulls the guide wire 150 at a constant pullback speed, the distance D is the imaging time difference between the camera position of the (n−1)th frame and the camera position of the nth frame and the pullback speed. It is calculated by the product of

カメラの内部パラメータの行列Kを数式(1)で表す。 A matrix K of intrinsic parameters of the camera is represented by Equation (1).

Figure 0007221786000001
Figure 0007221786000001

ここで、fx:焦点距離を水平画素ピッチで割った値、fy:焦点距離を垂直画素ピッチで割った値、Cx:画像中心のx座標、Cy:画像中心のy座標である。 Here, fx is the value obtained by dividing the focal length by the horizontal pixel pitch, fy is the value obtained by dividing the focal length by the vertical pixel pitch, Cx is the x-coordinate of the center of the image, and Cy is the y-coordinate of the center of the image.

特徴点e1の画像座標p1と3次元座標Eは、数式(2)で表される。 The image coordinate p1 and the three-dimensional coordinate E of the feature point e1 are represented by Equation (2).

Figure 0007221786000002
Figure 0007221786000002

対応点f2の画像座標p2と3次元座標Eは、数式(3)で表される。 The image coordinate p2 and the three-dimensional coordinate E of the corresponding point f2 are represented by Equation (3).

Figure 0007221786000003
Figure 0007221786000003

プロセッサ51は、例えば三角測量関数を使用し、画像座標p1と画像座標p2に対応する、特徴点e1の3次元座標Eを求める。 The processor 51 uses, for example, a triangulation function to determine the three-dimensional coordinates E of the feature point e1 corresponding to the image coordinates p1 and p2.

プロセッサ51は、特徴点e1の3次元座標Eを3次元の立体画像としてモニタ70に表示(3D表示)可能である。図7は、血管を長手方向(z方向)に視た場合における血管壁200に配置された特徴点e1の点群をモニタ70に3D表示で示す図である。図8は、血管を斜め方向に視た場合における血管壁200に配置された特徴点e1の点群をモニタ70に3D表示で示す図である。図9は、血管を径方向(xy面)に視た場合における血管壁200に配置された特徴点e1の点群をモニタ70に3D表示で示す図である。なお、図7,図8,図9では、例えば擬似的な血管として縞模様の付いた3mmの管が用いられた。 The processor 51 can display the three-dimensional coordinates E of the feature point e1 on the monitor 70 as a three-dimensional stereoscopic image (3D display). FIG. 7 is a diagram showing a 3D display on the monitor 70 of a point group of characteristic points e1 arranged on the blood vessel wall 200 when the blood vessel is viewed in the longitudinal direction (z direction). FIG. 8 is a diagram showing a 3D display on the monitor 70 of a point group of feature points e1 arranged on the blood vessel wall 200 when the blood vessel is obliquely viewed. FIG. 9 is a diagram showing a 3D display on the monitor 70 of a point group of characteristic points e1 arranged on the blood vessel wall 200 when the blood vessel is viewed in the radial direction (xy plane). In addition, in FIGS. 7, 8 and 9, for example, a striped 3 mm tube was used as a pseudo blood vessel.

プロセッサ51は、複数の特徴点e1の3次元座標Eを基に、楕円フィッティングが行われる平面を検出する(S7)。平面の検出では、プロセッサ51は、複数の特徴点e1(3次元点という)の中から3点を選択し、これら3点を含む平面を表す式(平面式という)を求める。プロセッサ51は、求めた平面との距離が所定距離以内で平面に近い3次元点の数を計数する。プロセッサ51は、計数した3次元点の数が最も多くなる平面式を選択する。プロセッサ51は、選択した平面式で表される平面に近い3次元点を抽出する。プロセッサ51は、抽出した3次元点群を基に、主成分分析(PCA:Principal Component Analysis)を行い、平面を検出する。主成分分析は、相関のある多数の変数から相関のない少数で全体のばらつきを最もよく表す主成分と呼ばれる変数を合成する多変量解析の一手法である。 The processor 51 detects a plane on which ellipse fitting is performed based on the three-dimensional coordinates E of the plurality of feature points e1 (S7). In plane detection, the processor 51 selects three points from a plurality of characteristic points e1 (referred to as three-dimensional points) and obtains a formula (referred to as a plane formula) representing a plane containing these three points. The processor 51 counts the number of three-dimensional points that are within a predetermined distance from the obtained plane and are close to the plane. The processor 51 selects the planar formula that yields the largest number of counted three-dimensional points. The processor 51 extracts three-dimensional points close to the plane represented by the selected plane formula. The processor 51 performs principal component analysis (PCA) based on the extracted three-dimensional point group to detect a plane. Principal component analysis is a method of multivariate analysis that synthesizes a small number of uncorrelated variables called principal components that best represent the overall variation from a large number of correlated variables.

プロセッサ51は、平面からの距離が所定距離を超えて離れている特徴点e1をアウトライアとし、所定距離以内である特徴点e1をインライアとして血管径の推定に採用する。図10は、検出された平面PLに対し特徴点e1をインライアq1またはアウトライアq2とする選別を示す図である。 The processor 51 adopts feature points e1 that are more than a predetermined distance from the plane as outliers, and feature points e1 that are within the predetermined distance as inliers for estimating the vessel diameter. FIG. 10 is a diagram showing selection of feature points e1 as inliers q1 or outliers q2 for the detected plane PL.

プロセッサ51は、複数の特徴点e1を基に、楕円フィッティングを行って血管径を推定する(S8)。楕円フィッティングでは、複数の特徴点e1をx-y平面に投影し、x-y平面に投影された2次元点に対し、RANSAC(Random Sample Consensus)を利用したフィッティングが行われる。RANSACは、外れ値を含まないように、楕円パラメータを推定する手法である。 The processor 51 performs ellipse fitting based on the plurality of feature points e1 to estimate the blood vessel diameter (S8). In ellipse fitting, a plurality of feature points e1 are projected onto the xy plane, and fitting using RANSAC (Random Sample Consensus) is performed on the two-dimensional points projected onto the xy plane. RANSAC is a technique for estimating elliptic parameters so as not to include outliers.

プロセッサ51は、RANSACを利用することで、複数の2次元点に外れ値が含まれても、その影響を抑えて楕円を推定できる。従って、楕円の推定精度が向上する。具体的に、プロセッサ51は、複数の2次元点を入力し、入力した複数の2次元点の中から5点をランダムに抽出する。プロセッサ51は、抽出した5点を用いて楕円パラメータを求める。楕円パラメータは、長径および短径を含む。プロセッサ51は、各2次元点から楕円弧までの最短距離を算出し、その距離が閾値より小さくなる2次元点の数(インライア数)を計数し、メモリ52に記録する。プロセッサ51は、入力した複数の2次元点の中から別の5点を抽出し、上記と同様の手順で、インライア数を計数する。プロセッサ51は、計数したインライア数がメモリ52に記録されたインライア数を超える場合、メモリ52に記録されたインライア数を更新する。プロセッサ51は、同様の手順を繰り返し、メモリ52に記録されるインライア数が一定回数連続して更新されなかった場合、つまり最大となるインライア数が得られた場合、2次元点の抽出を終了する。プロセッサ51は、全ての2次元点に対し、インライア数が最大となる楕円パラメータを用いて、各2次元点から楕円弧までの最短距離が閾値より小さくなる2次元点をインライアq1として決定する。プロセッサ51は、決定した全てのインライアq1を用いて、楕円パラメータを求める。全てのインライアq1を用いて楕円パラメータを求めた結果、プロセッサ51は、楕円パラメータの1つである長径を血管径φ1と推定する。プロセッサ51は、血管径を長径とすることで、血管に挿通可能なステントのサイズを適正に決定できる。図11は、3次元点を用いて推定された血管径φ1を示す図である。 By using RANSAC, the processor 51 can estimate an ellipse by suppressing the influence thereof even if outliers are included in a plurality of two-dimensional points. Therefore, the estimation accuracy of the ellipse is improved. Specifically, the processor 51 inputs a plurality of two-dimensional points and randomly extracts five points from the plurality of input two-dimensional points. Processor 51 obtains ellipse parameters using the extracted five points. Ellipse parameters include major and minor axes. The processor 51 calculates the shortest distance from each two-dimensional point to the elliptical arc, counts the number of two-dimensional points (the number of inliers) at which the distance is smaller than the threshold value, and records it in the memory 52 . The processor 51 extracts another five points from among the plurality of input two-dimensional points, and counts the number of inliers in the same procedure as above. Processor 51 updates the number of inliers recorded in memory 52 when the counted number of inliers exceeds the number of inliers recorded in memory 52 . The processor 51 repeats the same procedure, and when the number of inliers recorded in the memory 52 is not continuously updated a certain number of times, that is, when the maximum number of inliers is obtained, the extraction of two-dimensional points is terminated. . For all two-dimensional points, the processor 51 uses the ellipse parameters that maximize the number of inliers and determines the two-dimensional point where the shortest distance from each two-dimensional point to the elliptical arc is smaller than a threshold value as an inlier q1. The processor 51 uses all determined inliers q1 to obtain ellipse parameters. As a result of finding the ellipse parameters using all the inliers q1, the processor 51 estimates the major axis, which is one of the ellipse parameters, as the blood vessel diameter φ1. The processor 51 can appropriately determine the size of the stent that can be inserted through the blood vessel by using the diameter of the blood vessel as the major axis. FIG. 11 is a diagram showing a blood vessel diameter φ1 estimated using three-dimensional points.

このように、実施の形態1に係る血管径測定システム5では、PC50は、血管内視鏡100の使用時、血管内視鏡100を牽引した移動距離である距離Dと、第(n-1)番目フレームおよび第n番目フレームの連続する複数枚の撮像画像データを用いて、血管径を推定する。このとき、PC50は、血管壁を撮像した画像の画面全体に配置した測定点(例えば1156個)の中から円状に配置した特徴点e1(例えば128個)を検出する。PC50は、特徴点e1の移動方向から消失点dpを推定する。PC50は、特徴点e1の移動変化量から特徴点e1の3次元座標を算出する。PC50は、算出した特徴点e1の3次元座標に対し楕円フィッティングを行い、楕円パラメータである長径を血管径として算出する。 As described above, in the blood vessel diameter measurement system 5 according to Embodiment 1, when the angioscope 100 is used, the PC 50 measures the distance D, which is the distance traveled by pulling the angioscope 100, and the (n−1)th )-th and n-th frames are used to estimate the blood vessel diameter. At this time, the PC 50 detects characteristic points e1 (for example, 128) arranged in a circle from measurement points (for example, 1156) arranged on the entire screen of the captured image of the vascular wall. The PC 50 estimates the vanishing point dp from the moving direction of the feature point e1. The PC 50 calculates the three-dimensional coordinates of the feature point e1 from the movement change amount of the feature point e1. The PC 50 performs ellipse fitting on the calculated three-dimensional coordinates of the feature point e1, and calculates the major axis, which is the ellipse parameter, as the blood vessel diameter.

PC50は、楕円フィッティングを用いることで、凹凸が少ない血管壁であっても、血管径を表す測定点が判別しにくい状況でも、血管径を安定して算出できる。従って、例えば血管内視鏡を引き抜きながらユーザが血管径をモニタリングする場合、血管径が均一な箇所で表示される血管径の変動が抑えられる。また、血管径の精度が向上する。ユーザは、血管が狭窄している血管箇所にステントを挿入する場合、ステントのサイズを適正に選択できる。また、プルバック機器80が血管内視鏡100を一定速度で自動的に牽引するので、ユーザの負担が軽減する。 By using ellipse fitting, the PC 50 can stably calculate the vascular diameter even if the vascular wall has little unevenness and the measurement point representing the vascular diameter is difficult to determine. Therefore, for example, when the user monitors the blood vessel diameter while pulling out the angioscope, variations in the blood vessel diameter displayed at a point where the blood vessel diameter is uniform can be suppressed. Also, the accuracy of the blood vessel diameter is improved. The user can appropriately select the size of the stent when inserting the stent into a blood vessel site where the blood vessel is stenosed. In addition, since the pullback device 80 automatically pulls the angioscope 100 at a constant speed, the burden on the user is reduced.

以上により、血管径測定システム5は、被検体の血管内に挿通され、血管を撮像可能な血管内視鏡カメラ10が先端側に実装された血管内視鏡100と、血管内視鏡100に接続され、血管内に挿通された血管内視鏡100を基端側に向かって一定速度で移動させるプルバック機器80と、を備える。また、血管径測定システム5は、プルバック機器80に接続され、血管内視鏡100の移動前に撮像された少なくとも1枚の第(n-1)番目フレーム(移動前撮像画像の一例)と血管内視鏡100の移動後に撮像された少なくとも1枚の第n番目フレーム(移動後撮像画像の一例)とプルバック機器80による血管内視鏡100の移動距離とに基づいて、血管の血管径を測定するPC50と、を備える。 As described above, the blood vessel diameter measurement system 5 includes an angioscope 100 that is inserted into the blood vessel of the subject and has an angioscope camera 10 that can image the blood vessel mounted on the distal end side, and the angioscope 100. and a pullback device 80 that moves the connected angioscope 100 inserted into the blood vessel toward the proximal side at a constant speed. In addition, the blood vessel diameter measurement system 5 is connected to a pullback device 80, and includes at least one (n−1)-th frame (an example of an image captured before movement) imaged before movement of the angioscope 100 and the blood vessel diameter measurement system 5. Measure the diameter of the blood vessel based on at least one n-th frame (an example of an image captured after movement) captured after movement of the endoscope 100 and the movement distance of the angioscope 100 by the pullback device 80. and a PC 50 that

これにより、血管径測定システム5は、血管内視鏡100の撮像画像を利用して患者等の被検体内の血管径を高精度で手軽かつ簡易に測定できるので、被検体内に挿通される適切なステントの選択を支援できる。 As a result, the blood vessel diameter measurement system 5 can easily and easily measure the blood vessel diameter in a subject such as a patient with high accuracy using the captured image of the angioscope 100. We can help you choose the right stent.

また、PC50は、血管の血管径の測定結果をモニタ70に表示する。これにより、ユーザは、血管径を視覚的に把握できる。 The PC 50 also displays the measurement result of the blood vessel diameter on the monitor 70 . This allows the user to visually grasp the blood vessel diameter.

また、血管内視鏡カメラ10は、ガイドワイヤ150が予め挿通されている血管の中心方向と中心方向を挟んで対向する双方の内壁とを撮像する。これにより、血管径測定システム5は、血管径の測定に適した画像を得ることができる。 In addition, the angioscope camera 10 images the center direction of the blood vessel through which the guide wire 150 has been inserted in advance and the inner walls facing each other across the center direction. Thereby, the blood vessel diameter measurement system 5 can obtain an image suitable for measuring the blood vessel diameter.

また、PC50のプロセッサ51は、第(n-1)番目フレームに対して円状に配置される128個(複数個)の特徴点e1と、第n番目フレームに対して配置される128個の特徴点e1にそれぞれ対応する128個の対応点f2のそれぞれの移動方向から消失点dpを推定する。プロセッサ51は、128個の特徴点e1の中から、プルバック機器80による血管内視鏡カメラ10の移動に基づく消失点dpの方向へのベクトルを有するインライアである特徴点e1(有効特徴点)を抽出する。プロセッサ51は、血管内視鏡カメラ10が移動した距離D(移動距離)に対応する特徴点e1の移動変化量を用いて特徴点e1の3次元座標を算出する。プロセッサ51は、特徴点e1の3次元座標に基づいて、血管201の血管径を測定する。これにより、血管径測定システム5は、血管壁に配置された、血管径の測定に有効な特徴点を用いて、血管径を正確に測定できる。 In addition, the processor 51 of the PC 50 has 128 (plurality of) feature points e1 arranged in a circle for the (n-1)th frame and 128 feature points e1 arranged for the nth frame. A vanishing point dp is estimated from the moving directions of the 128 corresponding points f2 corresponding to the feature point e1. The processor 51 selects a feature point e1 (effective feature point), which is an inlier having a vector in the direction of the vanishing point dp based on the movement of the angioscope camera 10 by the pullback device 80, from among the 128 feature points e1. Extract. The processor 51 calculates the three-dimensional coordinates of the feature point e1 using the movement change amount of the feature point e1 corresponding to the distance D (movement distance) over which the angioscope camera 10 has moved. Processor 51 measures the diameter of blood vessel 201 based on the three-dimensional coordinates of feature point e1. As a result, the blood vessel diameter measurement system 5 can accurately measure the blood vessel diameter using the feature points arranged on the blood vessel wall that are effective for measuring the blood vessel diameter.

また、プロセッサ51は、第(n-1)番目フレームに対して円状に配置される128個の特徴点e1をそれぞれ含む複数のテンプレートを基に、第n番目フレームに対してテンプレートマッチングを行い、第n番目フレームに配置される128個の特徴点として、第(n-1)番目フレームに配置される128個の特徴点にそれぞれ対応する128個の対応点f2を配置する。プロセッサ51は、第n番目フレームに対して配置される128個の対応点f2をそれぞれ含む複数のテンプレートを基に、第(n-1)番目フレームに対してテンプレートマッチングを行い、128個の対応点f2にそれぞれ対応する128個の対応特徴点を配置する。プロセッサ51は、特徴点e1と対応特徴点が略一致する場合、特徴点e1をインライアとなる特徴点e1(有効特徴点)として抽出する。これにより、血管径測定システム5は、血管径の測定に有効な特徴点を抽出でき、血管径の測定精度が向上する。 In addition, the processor 51 performs template matching for the n-th frame based on a plurality of templates each including 128 characteristic points e1 arranged in a circle for the (n-1)-th frame. , 128 corresponding points f2 corresponding to the 128 feature points arranged in the (n-1)th frame are arranged as the 128 feature points arranged in the nth frame. The processor 51 performs template matching on the (n-1)-th frame based on a plurality of templates each containing 128 corresponding points f2 arranged for the n-th frame, and obtains 128 correspondences. 128 corresponding feature points corresponding to the point f2 are arranged. When the feature point e1 substantially matches the corresponding feature point, the processor 51 extracts the feature point e1 as an inlier feature point e1 (effective feature point). As a result, the blood vessel diameter measurement system 5 can extract feature points that are effective in measuring the blood vessel diameter, improving the measurement accuracy of the blood vessel diameter.

また、プロセッサ51は、3次元座標を有するインライアとなる特徴点e1の2次元の投影平面上の2次元座標を用いた楕円フィッティングに基づいて、血管201の血管径を測定する。これにより、血管径測定システム5は、楕円フィッティングを用いることで、凹凸が少ない血管壁であっても、血管径を表す測定点が判別しにくい状況でも、血管径を安定して算出できる。従って、例えば血管内視鏡を引き抜きながらユーザが血管径をモニタリングする場合、血管径が均一な箇所で表示される血管径の変動が抑えられる。また、血管径の精度が向上する。ユーザは、血管が狭窄している血管箇所にステントを挿入する場合、ステントのサイズを適正に選択できる。 The processor 51 also measures the diameter of the blood vessel 201 based on ellipse fitting using the two-dimensional coordinates on the two-dimensional projection plane of the inlier feature point e1 having three-dimensional coordinates. As a result, by using ellipse fitting, the blood vessel diameter measurement system 5 can stably calculate the blood vessel diameter even if the blood vessel wall has little unevenness and even in a situation where it is difficult to determine the measurement point representing the blood vessel diameter. Therefore, for example, when the user monitors the blood vessel diameter while pulling out the angioscope, variations in the blood vessel diameter displayed at a point where the blood vessel diameter is uniform can be suppressed. Also, the accuracy of the blood vessel diameter is improved. The user can appropriately select the size of the stent when inserting the stent into a blood vessel site where the blood vessel is stenosed.

また、プロセッサ51は、楕円フィッティングの結果得られた楕円の楕円パラメータである長径を血管201の血管径と推定する。これにより、血管径測定システム5は、血管径を長径とすることで、血管に挿通可能なステントのサイズを適正に決定できる。 In addition, the processor 51 estimates the diameter of the blood vessel 201 as the major axis, which is the ellipse parameter of the ellipse obtained as a result of the ellipse fitting. As a result, the blood vessel diameter measurement system 5 can appropriately determine the size of the stent that can be inserted into the blood vessel by using the diameter of the blood vessel as the major axis.

以上、図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。 Various embodiments have been described above with reference to the drawings, but it goes without saying that the present disclosure is not limited to such examples. It is obvious that a person skilled in the art can conceive of various modifications, modifications, substitutions, additions, deletions, and equivalents within the scope of the claims. Naturally, it is understood that it belongs to the technical scope of the present disclosure. In addition, the constituent elements of the various embodiments described above may be combined arbitrarily without departing from the gist of the invention.

例えば、上述した実施の形態では、ユーザは、血管壁の画像に対し、円の中心と半径を入力し、円周上に128個の特徴点を配置したが、血管壁の画像に対し、マウス操作で2本ラインを設定してもよい。この場合、PCのプロセッサは、2本のラインの交点と、交点からライン端までの距離を基に、特徴点を設定するための円の中心座標と円の半径を決定する。 For example, in the above-described embodiment, the user inputs the center and radius of the circle for the image of the blood vessel wall and arranges 128 feature points on the circle. Two lines may be set by operation. In this case, the processor of the PC determines the center coordinates of the circle and the radius of the circle for setting the feature points based on the intersection of the two lines and the distance from the intersection to the line end.

また、上記実施形態では、プロセッサ51は、特徴点に対応する対応点をテンプレートマッチングによって取得したが、例えば第(n-1)番目フレームの特徴点および第n番目フレームの対応点を用いて、ディープラーニングによる機械学習を行い、機械学習の結果生成された学習済みモデルを使用し、第(n-1)番目フレームの特徴点に対応する第n番目フレームの対応点を取得してもよい。 Further, in the above embodiment, the processor 51 acquires the corresponding points corresponding to the feature points by template matching. Machine learning by deep learning may be performed, and a trained model generated as a result of machine learning may be used to acquire corresponding points in the nth frame corresponding to feature points in the (n−1)th frame.

また、上述した実施の形態では、プロセッサ51は、楕円パラメータの長径を血管径として推定したが、短径を血管径として推定してもよい。また、プロセッサ51は、長径と短径を用い、例えば長径と短径を加算しその半分の値を用いて、血管径を推定してもよい。 Moreover, in the embodiment described above, the processor 51 estimated the major axis of the ellipse parameter as the vessel diameter, but may estimate the minor axis as the vessel diameter. Alternatively, the processor 51 may estimate the blood vessel diameter by using the major axis and the minor axis, for example, by adding the major axis and the minor axis and using half the result.

本開示は、血管内視鏡の撮像画像を利用して患者等の被検体内の血管径を高精度で手軽かつ簡易に測定し、被検体内に挿通される適切なステントの選択を支援する血管径測定システムおよび血管径測定方法として有用である。 The present disclosure uses images captured by an angioscope to easily and easily measure the diameter of a blood vessel in a subject such as a patient with high accuracy, and supports the selection of an appropriate stent to be inserted into the subject. It is useful as a blood vessel diameter measuring system and a blood vessel diameter measuring method.

5 血管径測定システム
10 血管内視鏡カメラ
20 中継器
30 カメラコントロールユニット
50 PC
51 プロセッサ
52 メモリ
53 入出力インターフェース
54 操作部
55 ストレージ
70 モニタ
80 プルバック機器
100 血管内視鏡
150 ガイドワイヤ
5 Blood vessel diameter measurement system 10 Angioscope camera 20 Repeater 30 Camera control unit 50 PC
51 processor 52 memory 53 input/output interface 54 operation unit 55 storage 70 monitor 80 pullback device 100 angioscope 150 guide wire

Claims (7)

被検体の血管内に挿通され、血管を撮像可能な画像センサが先端側に実装された内視鏡と、
前記内視鏡と接続され、前記血管内に挿通された前記内視鏡を基端側に向かって一定速度で移動させる駆動機器と、
前記駆動機器と接続され、前記駆動機器による前記内視鏡の移動前に撮像された少なくとも1枚の移動前撮像画像と前記駆動機器による前記内視鏡の移動後に撮像された少なくとも1枚の移動後撮像画像と前記駆動機器による前記内視鏡の移動距離とに基づいて、前記血管の血管径を測定する演算装置と、を備える、
血管径測定システム。
an endoscope inserted into a blood vessel of a subject and having an image sensor capable of imaging the blood vessel mounted on the distal end side;
a driving device that is connected to the endoscope and moves the endoscope inserted into the blood vessel toward the proximal side at a constant speed;
At least one pre-movement captured image that is connected to the drive device and captured before the endoscope is moved by the drive device and at least one movement image that is captured after the endoscope is moved by the drive device. an arithmetic device that measures the diameter of the blood vessel based on the post-capture image and the distance traveled by the endoscope by the driving device;
Blood vessel diameter measurement system.
前記演算装置は、前記血管の血管径の測定結果をモニタに表示する、
請求項1に記載の血管径測定システム。
The computing device displays a measurement result of the blood vessel diameter of the blood vessel on a monitor.
The blood vessel diameter measurement system according to claim 1.
前記内視鏡は、ガイドワイヤが予め挿通されている前記血管の中心方向と前記中心方向を挟んで対向する双方の内壁とを撮像する、
請求項1または2に記載の血管径測定システム。
The endoscope captures images of the center direction of the blood vessel through which the guide wire is inserted in advance and both inner walls facing each other across the center direction.
The blood vessel diameter measurement system according to claim 1 or 2.
前記演算装置は、
前記移動前撮像画像および前記移動後撮像画像のそれぞれに対して円状に配置される複数個の特徴点のそれぞれの移動方向から消失点を推定し、
前記複数個の特徴点の中から、前記駆動機器による前記内視鏡の移動に基づく前記消失点の方向へのベクトルを有する有効特徴点を抽出し、前記内視鏡の移動距離に対応する前記有効特徴点の移動変化量を用いて前記有効特徴点の3次元座標を算出し、
前記有効特徴点の3次元座標に基づいて、前記血管の血管径を測定する、
請求項1に記載の血管径測定システム。
The computing device is
estimating a vanishing point from the movement direction of each of a plurality of feature points arranged in a circle with respect to each of the pre-movement captured image and the post-movement captured image;
extracting from the plurality of feature points an effective feature point having a vector in the direction of the vanishing point based on the movement of the endoscope by the drive device, and extracting the effective feature point corresponding to the movement distance of the endoscope; calculating the three-dimensional coordinates of the effective feature point using the movement change amount of the effective feature point;
measuring the blood vessel diameter of the blood vessel based on the three-dimensional coordinates of the effective feature point;
The blood vessel diameter measurement system according to claim 1.
前記演算装置は、
前記移動前撮像画像に対して円状に配置される複数個の特徴点をそれぞれ含む複数のテンプレートを基に、
前記移動後撮像画像に対してテンプレートマッチングを行い、前記移動後撮像画像に配置される前記複数個の特徴点として、前記移動前撮像画像に配置される前記複数個の特徴点にそれぞれ対応する複数個の対応点を配置し、
前記移動後撮像画像に対して配置される複数個の対応点をそれぞれ含む複数のテンプレートを基に、前記移動前撮像画像に対してテンプレートマッチングを行い、前記複数個の対応点にそれぞれ対応する複数個の対応特徴点を配置し、前記特徴点と前記対応特徴点が略一致する場合、前記特徴点を有効特徴点として抽出する、
請求項4に記載の血管径測定システム。
The computing device is
Based on a plurality of templates each including a plurality of feature points arranged in a circle with respect to the captured image before movement,
template matching is performed on the post-movement captured image, and a plurality of feature points arranged in the post-movement captured image are defined as a plurality of feature points that respectively correspond to the plurality of feature points arranged in the pre-movement captured image. place corresponding points,
Based on a plurality of templates each including a plurality of corresponding points arranged for the post-movement captured image, template matching is performed on the pre-movement captured image, and a plurality of templates corresponding to the plurality of corresponding points are obtained. arranging the corresponding feature points, and extracting the feature point as an effective feature point when the feature point substantially matches the corresponding feature point;
The blood vessel diameter measurement system according to claim 4.
前記演算装置は、
前記3次元座標を有する前記有効特徴点の2次元の投影平面上の2次元座標を用いた楕円フィッティングに基づいて、前記血管の血管径を測定する、
請求項4に記載の血管径測定システム。
The computing device is
measuring the vessel diameter of the blood vessel based on ellipse fitting using the two-dimensional coordinates on the two-dimensional projection plane of the effective feature point having the three-dimensional coordinates;
The blood vessel diameter measurement system according to claim 4.
前記演算装置は、前記楕円フィッティングの結果得られた楕円の楕円パラメータである長径を前記血管の血管径と推定する、
請求項6に記載の血管径測定システム
The arithmetic device estimates the major axis, which is the ellipse parameter of the ellipse obtained as a result of the ellipse fitting, as the vascular diameter of the blood vessel.
The blood vessel diameter measurement system according to claim 6 .
JP2019090135A 2019-05-10 2019-05-10 Blood vessel diameter measurement system Active JP7221786B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019090135A JP7221786B2 (en) 2019-05-10 2019-05-10 Blood vessel diameter measurement system
PCT/JP2020/005517 WO2020230389A1 (en) 2019-05-10 2020-02-13 Blood vessel diameter measurement system and blood vessel diameter measurement method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019090135A JP7221786B2 (en) 2019-05-10 2019-05-10 Blood vessel diameter measurement system

Publications (2)

Publication Number Publication Date
JP2020185081A JP2020185081A (en) 2020-11-19
JP7221786B2 true JP7221786B2 (en) 2023-02-14

Family

ID=73223071

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019090135A Active JP7221786B2 (en) 2019-05-10 2019-05-10 Blood vessel diameter measurement system

Country Status (1)

Country Link
JP (1) JP7221786B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2022163562A (en) 2021-04-14 2022-10-26 i-PRO株式会社 endoscope system

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014055917A1 (en) 2012-10-05 2014-04-10 Elizabeth Begin Systems for indicating parameters in an imaging data set and methods of use
WO2015045368A1 (en) 2013-09-26 2015-04-02 テルモ株式会社 Image processing device, image display system, imaging system, image processing method, and program
US20190021598A1 (en) 2016-03-16 2019-01-24 Korea Photonics Technology Institute Integrated catheter device for cardiovascular diagnosis and image processing system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014055917A1 (en) 2012-10-05 2014-04-10 Elizabeth Begin Systems for indicating parameters in an imaging data set and methods of use
WO2015045368A1 (en) 2013-09-26 2015-04-02 テルモ株式会社 Image processing device, image display system, imaging system, image processing method, and program
US20190021598A1 (en) 2016-03-16 2019-01-24 Korea Photonics Technology Institute Integrated catheter device for cardiovascular diagnosis and image processing system

Also Published As

Publication number Publication date
JP2020185081A (en) 2020-11-19

Similar Documents

Publication Publication Date Title
JP5715311B2 (en) Endoscope system
US9516993B2 (en) Endoscope system
JP5457841B2 (en) Medical image processing apparatus and medical image processing program
JP2009011563A (en) Image processor and image processing program
EP2000075A1 (en) Medical image processing device and medical image processing method
JPWO2014156378A1 (en) Endoscope system
JP5078486B2 (en) Medical image processing apparatus and method of operating medical image processing apparatus
US20220398771A1 (en) Luminal structure calculation apparatus, creation method for luminal structure information, and non-transitory recording medium recording luminal structure information creation program
JP2008119259A (en) Endoscope insertion shape analysis system
WO2021171465A1 (en) Endoscope system and method for scanning lumen using endoscope system
US10799100B2 (en) Image processing device, method, and program
JP7221786B2 (en) Blood vessel diameter measurement system
JP4981335B2 (en) Medical image processing apparatus and medical image processing method
JP7441934B2 (en) Processing device, endoscope system, and method of operating the processing device
JP7221787B2 (en) Blood vessel diameter measurement system
JP2021194268A (en) Blood vessel observation system and blood vessel observation method
JP2021194268A6 (en) Blood vessel observation system and blood vessel observation method
WO2020230389A1 (en) Blood vessel diameter measurement system and blood vessel diameter measurement method
JP7157098B2 (en) Angioscope system and method for measuring blood vessel diameter
JP4981336B2 (en) Medical image processing apparatus and medical image processing method
JP7197535B2 (en) Observation site observation system and observation site observation method
JP2019005038A (en) Endoscope system
JP2008093213A (en) Medical image processor and medical image processing method
JP5148096B2 (en) Medical image processing apparatus and method of operating medical image processing apparatus
WO2021176665A1 (en) Surgery support system, surgery support method, and program

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190731

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191205

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20201224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230202

R150 Certificate of patent or registration of utility model

Ref document number: 7221786

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150