CN109316202B - 影像校正方法及检测装置 - Google Patents
影像校正方法及检测装置 Download PDFInfo
- Publication number
- CN109316202B CN109316202B CN201810968210.8A CN201810968210A CN109316202B CN 109316202 B CN109316202 B CN 109316202B CN 201810968210 A CN201810968210 A CN 201810968210A CN 109316202 B CN109316202 B CN 109316202B
- Authority
- CN
- China
- Prior art keywords
- image
- region
- image frame
- characteristic
- determining
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000001514 detection method Methods 0.000 title claims abstract description 46
- 238000003702 image correction Methods 0.000 title claims abstract description 40
- 239000013598 vector Substances 0.000 claims abstract description 82
- 238000012545 processing Methods 0.000 claims description 62
- 238000002604 ultrasonography Methods 0.000 claims description 21
- 239000011159 matrix material Substances 0.000 claims description 8
- 239000000523 sample Substances 0.000 claims description 7
- 238000004891 communication Methods 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 claims description 4
- 238000012937 correction Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 3
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 210000003205 muscle Anatomy 0.000 description 2
- 238000012984 biological imaging Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 238000002059 diagnostic imaging Methods 0.000 description 1
- 238000012631 diagnostic technique Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000002526 effect on cardiovascular system Effects 0.000 description 1
- 230000003628 erosive effect Effects 0.000 description 1
- 239000012530 fluid Substances 0.000 description 1
- 230000003902 lesion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 210000001835 viscera Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/06—Measuring blood flow
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
- A61B8/0833—Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
- A61B8/0841—Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating instruments
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/44—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device
- A61B8/4444—Constructional features of the ultrasonic, sonic or infrasonic diagnostic device related to the probe
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/48—Diagnostic techniques
- A61B8/488—Diagnostic techniques involving Doppler signals
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5207—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5269—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving detection or reduction of artifacts
- A61B8/5276—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving detection or reduction of artifacts due to motion
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/58—Testing, adjusting or calibrating the diagnostic device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/174—Segmentation; Edge detection involving the use of two or more images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/24—Aligning, centring, orientation detection or correction of the image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Heart & Thoracic Surgery (AREA)
- Surgery (AREA)
- Pathology (AREA)
- Radiology & Medical Imaging (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Veterinary Medicine (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Hematology (AREA)
- Image Analysis (AREA)
Abstract
本发明提供一种影像校正方法及检测装置,该方法包括:从动态影像中的第一影像帧中确定观察区域,并获取观察区域在第一影像帧中的中心位置;从第一影像帧中确定过符合灰阶特征的第一特征区域;根据第一影像帧中第一特征区域的中心位置和观察区域的中心位置获取第一向量;在动态影像中第二影像帧中根据该灰阶特征寻找第二特征区域;根据第二影像帧中第二特征区域的中心位置和观察区域的中心位置,获取第二向量;以及根据二向量与第一向量之间的差值校正观察区域在第三影像帧中的位置。本发明提供的影像校正方法及检测装置可以在每个影像帧中维持观察区域在适当的位置,进而提供良好的检测功能和更精确的检测结果。
Description
技术领域
本发明有关于一种校正方法及检测装置,特别是有关于一种影像校正方法以及检测装置
背景技术
医学超声波检查是一种基于超声波的医学影像诊断技术,可以显现人体内肌肉、内脏器官的大小、结构和病灶。在医学超声波检查的应用中,多普勒超声波大幅生了医学超声波检查的能力。藉由多普勒超声波检测人体内或生物体内流体的流动,例如是血液的流动方向以及速度都可以藉由多普勒超声波量测,在心血管等相关医学领域中特别可以提供有效的检测功能。
然而,多普勒超声波的观察区域主要是藉由检测者根据超声波所产生的图像所选定。追踪连续影像内的特定区域一直是被研究的议题,且超声波图像会随着检测者手持超声波探头时的晃动、移动、下压、以及被测者本身的心跳、呼吸或移动等改变。由于多普勒超声波的观察区域是相对于超声波所产生的图像来定位,因此超声波图像的改变也会改变多普勒超声波的观察区域,进而降低多普勒超声波的准确性。
发明内容
本发明的目的在于提供一种影像校正方法及检测装置,其能够校正观察区域,提升检测的准确性。
为达到上述目的,本发明提供了一种影像校正方法,用以校正观察区域在动态影像的位置,该动态影像包括多个影像帧,该影像校正方法包括:
在该动态影像中的第一影像帧中确定该观察区域,并获取该观察区域在该第一影像帧中的中心位置;
从该第一影像帧中确定第一特征区域,该第一特征区域符合灰阶特征;
根据该第一影像帧中该观察区域的中心位置以及该第一特征区域的中心位置,确定第一向量;
在该动态影像中第二影像帧根据该灰阶特征寻找该第二影像帧的第二特征区域;
根据该第二影像帧中该观察区域的中心位置以及该第二特征区域的中心位置,确定第二向量;以及
根据该第二向量与该第一向量之间的差值校正该观察区域在第三影像帧中的位置。
较佳的,确定该第一特征区域的步骤包括:
从该第一影像帧确定轮廓影像;
从该轮廓影像确定该第一特征区域,在该第一特征区域中的部分该轮廓影像的像素具有相同的像素联通标志;以及
从该第一特征区域所对应的部分该第一影像帧获取该灰阶特征。
较佳的,获取该轮廓影像的步骤还包括:
获取该第一影像帧的断开影像以及闭合影像,其中该断开影像为该第一影像帧经由数字影像处理技术中形态学的侵蚀后再膨胀的影像,该闭合影像为该第一影像帧经由膨胀后再侵蚀的影像;以及
将该断开影像减去该闭合影像后取绝对值的影像确定为该轮廓影像。
较佳的,确定该第一特征区域的步骤还包括:
以像素联通的方法将该轮廓影像区分为多个像素群;以及
将该多个像素群中像素数目最多的像素群确定为该第一特征区域。
较佳的,获取该灰阶特征的方法还包括:
将该第一特征区域所对应的部分该第一影像帧的灰度共生矩阵(Gray-Level Co-occurrence Matrix,GLCM)确定为该灰阶特征。
较佳的,确定第一特征区域的步骤还包括:
将该第一影像帧区分为多个子影像;
在每个该子影像中确定该第一特征区域;
在该第二影像帧根据该灰阶特征寻找该第二特征区域的步骤还包括:
对应该第一影像帧的该多个子影像,将该第二影像帧区分为多个子影像;
在每个该第二影像帧的子影像中根据该灰阶特征寻找该第二特征区域。
较佳的,该动态影像为超声波影像;在使用者在该动态影像中的该第一影像帧中确定该观察区域后还包括:获取对应至该观察区域中的部分该第一影像帧的多普勒信号。
为达到上述目的,本发明还提供了一种检测装置,用以检测生物体,该检测装置包括:
影像撷取单元,从该生物体获取动态影像,该动态影像包括多个影像帧;
处理单元,连接至该影像撷取单元,该处理单元从该影像撷取单元获取该动态影像;
显示单元,连接至该处理单元,该显示单元用以显示来自该处理单元的该动态影像;以及
输入界面,连接至该处理单元,通过该输入界面从该动态影像的第一影像帧确定观察区域;
其中,该处理单元还用于:在确定该观察区域后,获取该观察区域的中心位置;从该第一影像帧确定第一特征区域,该第一特征区域符合灰阶特征;根据该第一影像帧中该观察区域的中心位置以及该第一特征区域的中心位置,确定第一向量;在该动态影像中的第二影像帧根据该灰阶特征寻找该第二影像帧的第二特征区域;根据该第二影像帧中该观察区域的中心位置以及该第二特征区域的中心位置,确定第二向量;根据该第二向量与该第一向量之间的差值校正该观察区域在第三影像帧中的位置。
较佳的,该处理单元确定该第一特征区域具体包括:
该处理单元从该第一影像帧确定轮廓影像;从该轮廓影像确定该第一特征区域,其中在该第一特征区域中的部分该轮廓影像的像素具有相同的像素联通标志;从该第一特征区域所对应的部分该第一影像帧获取该灰阶特征。
较佳的,该处理单元确定该轮廓影像具体包括:
该处理单元获取该第一影像帧的断开影像以及闭合影像,其中,该断开影像为该第一影像帧经由数字影像处理技术中形态学的侵蚀后再膨胀的影像,该闭合影像为该第一影像帧膨胀后再侵蚀的影像;该处理单元将该断开影像减去该闭合影像后取绝对值的影像确定为该轮廓影像。
较佳的,处理单元确定该第一特征区域具体包括:该处理单元以像素联通的方法将该轮廓影像区分为多个像素群,并将该多个像素群中像素数目最多的像素群确定为该第一特征区域。
较佳的,该处理单元获取该第一特征区域具体包括:该处理单元将该轮廓影像区分为多个子影像,并在每个该子影像中确定该第一特征区域;
该处理单元在该第二影像帧中根据该灰阶特征寻找第二特征区域具体包括:该处理单元对应该第一影像帧的该多个子影像,将该第二影像帧区分为多个子影像;并在每个该第二影像帧的子影像中根据该灰阶特征寻找该第二特征区域。
较佳的,该处理单元获取该灰阶特征具体包括:该处理单元将该第一特征区域所对应的部分该第一影像帧的灰度共生矩阵(Gray-Level Co-occurrence Matrix,GLCM)确定为该灰阶特征。
较佳的,该影像撷取单元包括超声波探头;在该使用者经该输入界面在该动态影像中的该第一影像帧确定该观察区域后,该处理单元从该超声波探头获取对应至该观察区域中的部分该第一影像帧的多普勒信号。
与现有技术相比,本发明提供的影像校正方法及检测装置,可以校正观察区域在动态影像中的各个影像帧中的位置。使用者在其中一影像帧中确定好观察区域后,检测装置可以根据影像帧中特征区域的位置以及观察区域的位置来确定第一向量,接着再在其他影像帧中寻找对应的特征区域,并根据该特征区域在其他影像帧中的位置来校正观察区域在其他影像帧中的位置,从而,可以在每个影像帧中维持观察区域在适当的位置,进而提供良好的检测功能和更精确的检测结果。
附图说明
图1为本发明一实施例中检测装置的示意图;
图2为本发明第一实施例中影像校正方法的流程示意图;
图3A至图3D为本发明第一实施例中影像校正方法的影像帧示意图;
图4为本发明第一实施例的影像校正方法中确定第一特征区域的流程示意图;
图5为本发明第一实施例的影像校正方法中确定第一特征区域的另一流程示意图;
图6A至图6D是本发明第二实施例中影像校正方法的影像帧示意图;
图7是本发明第二实施例中影像校正方法的流程示意图。
具体实施方式
为使对本发明的目的、构造、特征、及其功能有进一步的了解,兹配合实施例详细说明如下。
在说明书及权利要求书当中使用了某些词汇来指称特定的元件。所属领域中本领域技术人员应可理解,制造商可能会用不同的名词来称呼同一个元件。本说明书及权利要求书并不以名称的差异来作为区分元件的方式,而是以元件在功能上的差异来作为区分的准则。在通篇说明书及权利要求当中所提及的「包括」为开放式的用语,故应解释成「包括但不限定于」。
本发明所提出的检测装置及其所使用的影像校正方法适于应用于可以提供影像的检测装置,较佳为可以提供生物影像、医学影像的检测装置。举例而言,检测装置例如是超声波装置等适于即时提供生物影像、医学影像的检测装置,本发明并不限于此。本发明所属领域中本领域技术人员可以视需求将本发明所提出的检测装置及其所使用的影像校正方法应用至其他生物影像装置或医学影像装置,较佳为需要针对检测装置所提供的影像中选取特定观察区域的检测装置,以下本说明书将以超声波装置举例说明,其并非用以限定本发明。
图1是本发明一实施例中检测装置的装置示意图。请参照图1,在本发明的实施例中,检测装置100包括影像撷取单元110、处理单元120、显示单元130以及输入界面140,其中处理单元120连接影像撷取单元110、显示单元130以及输入界面140。检测装置100适于检测生物体50,并藉由影像撷取单元110从生物体50获取动态影像,供显示单元130显示。
具体而言,本实施例的影像撷取单元110可以朝生物体50发出感测信号,并藉由接收被生物体50反射的感测信号或是穿透生物体50的感测信号来产生对应于生物体50的动态影像,亦可以是藉由接收来自外界的信号来产生对应至生物体50的动态影像。换句话说,本发明并不限于本说明书实施例中影像撷取单元110从生物体50获取动态影像的方式。
以下将以超声波影像来举例说明。本实施例的检测装置100例如是超声波检测装置;影像撷取单元110例如是超声波探头(Ultrasonic transducer)或超声波感测器(Ultrasonic sensor),用以检测生物体50并获取一动态影像。动态影像例如是由多个影像帧所形成,这些影像帧为二维超声波影像,较佳为超声波在亮度模式(Brightness mode,B-mode)下获取的超声波影像,这些超声波影像各自形成上述的这些影像帧来形成动态影像。
本实施例的处理单元120可以从影像撷取单元110获取动态影像,使检测装置100可以显示动态影像并对此动态影像输入指令。具体而言,处理单元120例如是检测装置100中的中央处理器(Central Processing Unit,CPU),亦可以是检测装置100所连接的电脑装置中的CPU,本发明不限于此。
本实施例的处理单元120连接至显示单元130,检测装置100可以藉由显示单元130显示处理单元120从影像撷取单元110获取的动态影像。显示单元130例如是液晶显示荧幕(Liquid Crystal Display,LCD),用以显示来自影像撷取单元110的动态影像,本发明并不限于显示单元130的种类。
输入界面140连接至处理单元120,用以接收来自例如是医生、检验师、操作者等使用者的指令。本实施例的输入界面140例如包括键盘、摇杆、轨迹球、滑鼠,还可以是设置于显示单元130的触控模组。在本实施例中,使用者可以根据显示单元130所显示的动态影像来透过输入界面140输入指令,例如藉由输入界面140确定动态影像中观察区域的位置。
以下将一并参照上述的检测装置100以及元件的标号来说明本发明所提出的检测装置100以及影像校正方法。应当理解,尽管术语「第一」、「第二」等在本文中可以用于描述各种元件、区域、影像,但是这些元件、区域、影像不应受这些术语限制。这些术语仅用于将一个元件、区域、影像与另一个元件、区域、影像分开。因此,下面讨论的第一元件、区域、影像可以被称为第二元件、区域、影像而不脱离本文的教导。
第一实施例
图2是本发明第一实施例中影像校正方法的流程示意图。请参照图2,先在动态影像中的第一影像帧确定观察区域(步骤S11)。此处所述的第一影像帧可以是动态影像中的这些影像帧的任一影像帧,较佳为使用者在操作影像撷取单元110时,使用者选来用以确定观察区域的影像帧。
为了清楚说明本发明所提出的影像校正方法,以下将以简化的影像示意图来说明本发明的检测装置及影像校正方法,其并非用以限定本发明。请先参照图2,在使用者在第一影像帧确定观察区域(步骤S11)后,在第一影像帧中获取观察区域的中心位置(步骤S12)。
在获取观察区域的中心后,在第一影像帧中确定第一特征区域以及第一特征区域的灰阶特征(步骤S13)。所述的灰阶特征有关于图像中灰阶值的相关资讯,相关资讯包括分布方向、相邻间隔、变化幅度,且处理单元120可以依据灰阶特征在动态影像中的其他影像帧找到第一特征区域的位置。举例而言,第一特征区域可以是灰阶强度变化较剧烈之区域,该区域可能是肌肉等组织,可以作为定位的标的。
在找到第一特征区域以及灰阶特征(步骤S13)之后,获取第一向量(步骤S14)。第一向量有关于观察区域的中心位置与第一特征区域的中心位置之间的相对距离以及相对方向,本实施例以观察区域的中心位置至第一特征区域的中心位置的向量为例,但本发明不限于此。
在获取第一向量、第一特征区域以及第一特征区域的灰阶特征后,接着根据上述的灰阶特征在第二影像帧确定第二特征区域(步骤S15)。上述第二影像帧例如是影像撷取单元110在获取第一影像帧后获取的影像帧,处理单元120藉由灰阶特征在第二影像帧中确定第二特征区域,亦即藉由从第一特征区域获取的灰阶特征来在第二影像帧中找到对应的区域。
根据第二特征区域以及观察区域获取第二向量(步骤S16)。在本实施例中,处理单元120根据灰阶特征确定第二特征区域时,观察区域在第一影像帧中的位置与观察区域在第二影像帧中的位置相同,上述第二向量为观察区域的中心位置与第二特征区域的中心位置之间的相对距离以及相对方向,本实施例根据观察区域的中心位置至第二特征区域的中心位置确定为第二向量,但本发明不限于此,例如,第一向量和第二向量也可以分别为第一/第二特征区域的中心位置至观察区域的中心位置之间的相对距离以及相对方向。
在获取第二向量后,比较第一向量以及第二向量。获取第二向量和第一向量之间的差值,并根据此差值校正观察区域(步骤S17)。藉由从第二影像帧获取的第二向量和第一影像帧获取的第一向量,可以根据第二向量和第一向量的差异校正观察区域在下一张影像帧(亦即第三影像帧)的位置。根据动态影像中特征区域在每个影像帧中的位置变化来校正观察区域的位置,藉以提供良好的校正效果。举例而言,当影像撷取单元110是超声波探头,且观察区域为使用者用以撷取多普勒超声波信号的区域时,藉由上述的影像校正方法检测装置100可以提供准确的多普勒超声波信号。本发明并不限于利用第二向量和第一向量之间的差异校正观察区域在第三影像帧的位置,在其他实施例中,还可以根据第二向量和第一向量的差异即时校正观察区域在第二影像帧的位置,本发明不限于此,具体设置根据检测装置100的处理效能以及校正的准确需求而定。以下将再以影像帧的示意图具体说明本发明所提出的影像校正方法以及检测装置。
图3A至3D为本发明第一实施例中影像帧的示意图,为了清楚说明,图式中以阴影线绘示影像帧中的黑色区域或深色区域,其中填色方式并非用以限定本发明。请参照图3A所绘示的影像帧的示意图,以下将一并参照上述检测装置100的元件标号来清楚说明本发明的影像校正方法以及检测装置,其中观察区域A1经使用者通过输入界面140确定后,处理单元120会获取观察区域A1的中心位置X1,亦即观察区域A1的中心X1在第一影像帧F1的位置。以B-mode超声波影像以及多普勒超声波为例,观察区域A1例如是使用者选定来采用多普勒超声波检测的区域,例如是观察区域C中血液的流速以及流向。
在使用者藉由输入界面140在第一影像帧F1选定观察区域A1后,处理单元120获取观察区域A1在第一影像帧F1中的位置X1。接着,处理单元120在第一影像帧F1中确定第一特征区域B1,同时获取第一特征区域B1的灰阶特征。处理单元120根据观察区域A1的中心位置X1和第一特征区域B1的中心位置X2确定第一向量V1。
请参照图3B,在获取第一向量V1后,由于检测者手持检测装置时的位移,在第二影像帧F2获取第二特征区域B2以及第二向量V2。具体而言,处理单元120在获取第一向量V1后经一段时间接着再由影像撷取单元110获取第二影像帧F2,并在第二影像帧F2中根据第一特征区域B1的灰阶特征找到第二特征区域B2。处理单元120在观察区域A1的中心位置X1和第二特征区域B2的中心位置X3之间确定第二向量V2。
请参照图3C,在获取第一向量V1和第二向量V2后,依据第二向量V2和第一向量V1之间的差值确定校正向量V3。处理单元120在获取与观察区域A1的中心位置X1相关的第一向量V1和第二向量V2后,藉由算出他们的差异来得到校正向量V3,并根据此校正向量V3提供一校正指令。
请参照图3D,在第三影像帧A2中,观察区域A2可以根据校正向量V3校正。具体而言,当处理单元120获取上述的校正向量V3时,处理单元120可以根据校正向量V3校正观察区域A1的位置,并将观察区域A1校正为观察区域A2。由于校正向量V3是根据影像帧中的特征区域所产生,因此观察区域可以维持在使用者所要观察的区域上,藉以提供良好的检测效果。
进一步而言,还可以藉由轮廓影像来确定第一特征区域。图4是本发明的一实施例中影像校正方法确定第一特征区域的流程示意图。请参照图4,在本实施例的影像校正方法中,使用者确定观察区域(步骤S11)后,获取观察区域的中心位置(步骤S12)。在获取观察区域的中心位置(步骤S12)后,从第一影像帧确定一轮廓影像(步骤S121)。具体而言,以像素变化最大的区域作为特征区域,可藉由灰阶形态学来选出灰阶变化较强烈的区域。根据数学上的形态学(Morphology),找出第一影像帧的边界图形,亦即找出第一影像帧中个图形的轮廓以形成为轮廓影像。
在获取第一影像帧的轮廓影像后,以像素联通方式对影像中的像素判断(步骤S122)。由于以灰阶形态学获得影像中的轮廓图形,藉由例如是八联通的像素联通方式可以将轮廓图形区分为多个区块,再将这些区块中最大的一个确定为第一特征区域(步骤S13)。具体而言,藉由八联通判断轮廓影像(步骤S12)后,轮廓影像会有各自不同的像素联通标志,而这些像素中像素联通标志相同并被分为同一组的最大区域就会被确定为第一特征区域。也就是说,经由八联通判断将轮廓影像分区后,这些区域中像素数量最高的区域就是第一特征区域。本实施例以八联通为例,在其他实施例中还可以以四联通或其他数量、形状的像素联通方式来判断影像帧中的像素,本发明不限于此。
图5是本发明第一实施例的影像校正方法中确定第一特征区域的另一流程示意图。本发明实施例中的影像校正方法可以藉由断开(open)影像或闭合(Close)影像来确定轮廓影像。请参照图5,在确定观察区域(步骤S11)以及获取观察区域的中心位置(步骤S12)后,可以获取第一影像帧的断开影像(步骤S123)以及闭合影像(步骤S124)。上述的断开影像以及闭合影像为灰阶形态学中的影像处理方式,上述断开影像为第一影像帧侵蚀(Erosion)后再膨胀(Dilation)后的影像;闭合影像为第一影像帧膨胀后再侵蚀的影像。藉由获取断开影像减去闭合影像的绝对值,可以获取轮廓影像(步骤S121)。借着,再藉由八联通判断轮廓影像中的像素(步骤S122),以在轮廓影像中确定第一特征区域(步骤S13)。
另一方面,在本发明所提出的检测装置以及其所使用的影像校正方法中,灰阶特征是有关第一特征区域所对应的部分第一影像帧中灰阶分布、变化的特征资讯。具体而言,本发明所提出的影像校正方法可以藉由灰度共生矩阵(Gray-Level Co-occurrenceMatrix,GLCM)获取第一特征区域所对应的部分第一影像帧的灰阶特征。换句话说,藉由获取第一特征区域所对应的部分影像帧的灰度共生矩阵,可以在其他影像帧中根据此灰度共生矩阵找到第一特征区域所对应的那部分影像帧,并藉由第一特征区域的位置变化来校正观察区域,藉以使检测装置可以提供良好的检测功能。
第二实施例
本发明所提出的检测装置以及其所用的影像校正方法还可以将影像帧区分为多个子影像来校正观察区域。图6A至图6D为本发明第二实施例的影像校正方法中影像帧的示意图,其中为了清楚说明,影像帧中的黑色区域或深色区域以阴影线绘示,部分图形中省略绘示填色的部分,藉以清楚标示本发明中影像帧的各区域,其并非用以限定本发明。
请参照图6A,在本发明第二实施例的影像校正方法中,影像帧F4被区分为多个子影像F41、F42、F43、F44。详细而言,在使用者在影像帧F4中确定观察区域D1并获取中心位置X5后,将影像帧F4区分为子影像F41、F42、F43、F44。请参照图6B,在子影像F41中获取特征区域E11;在子影像F42中获取特征区域E21;在子影像F43中获取特征区域E31;在子影像F44中获取特征区域E41。获取这些特征区域E11、E21、E31、E41后,根据观察区域D1的中心位置X5确定第一向量V41、V42、V43以及V44,同时对这些特征区域E11、E21、E31、E41中的影像帧获取灰阶特征。
具体而言,在本发明的第二实施例中,上述特征区域E11、E21、E31以及E41的获取例如是可以藉由上述的灰阶形态学的方式经由轮廓影像、八联通判断来确定这些区域,再找出这些区域所对应的影像帧中的影像,藉由获取这些部分的影像的灰度共生矩阵来作为上述的灰阶特征。
请参照图6C,其中省略绘示了填色的部分以便清楚说明各标号的位置,其并非用以限定本发明。在另一张影像帧中,藉由上述的灰阶特征各自在子影像中找到第二特征区域E12、E22、E32以及E42。根据观察区域A1的中心位置X5,在此影像帧中可以确定多个第二向量V51、V52、V53以及V54。在本实施例中,在每个子影像中可以藉由第二向量和第一向量的差异来判断观察区域D1的校正方式,其中藉由第二向量V51和第一向量V41的差异、第二向量V52和第一向量V42的差异、第二向量V53和第一向量V43的差异以及第二向量V54和第一向量V44的差异可以提供校正向量V6来进行观察区域D1的校正。
请参照图6D,藉由上述的第二向量和第一向量的差异所得到的校正向量V6,可以将观察区域D1的中心位置X5校正为中心位置X6,并校正为观察区域D2,以维持适当的观察位置来提供良好的检测效果。
图7是本发明第二实施例中影像校正方法的流程示意图。请参照图7,在在第一影像帧确定观察区域(步骤S21)后,观察区域的中心位置会在第一影像帧中确定(步骤S22)。在获取观察区域的中心位置后将第一影像帧分割为子画面(步骤S23)。
在本实施例中,第一特征区域可以藉由轮廓影像获取。详细而言,在分割出子画面(步骤S23)后,获取第一影像帧的轮廓影像(步骤S24),并根据每个子画面的轮廓影像确定第一特征区域(步骤S25)。在获取这些第一特征区域后,根据这些第一特征区域的位置以及观察区域的位置确定出多个第一向量,同时再根据这些第一特征区域所对应的部分子影像获取灰阶特征(步骤S26),以作为后续校正观察区域的依据。
在获取下一影像帧作为第二影像帧后,根据灰阶特征找出第二影像帧中各子影像中的第二特征区域(步骤S27),并根据这些第二特征区域确定多个第二向量(步骤S28)。在获取这些第一向量和第二向量后,再根据这些一一对应的第二向量和第一向量之间的差异来校正观察区域的位置(步骤S29),藉以使观察区域在动态影像的影像帧中可以维持在适当的位置。
综上所述,本发明所提出的影像校正方法可以校正观察区域在动态影像中的各个影像帧的位置。在使用者在一影像帧确定好观察区域后,可以根据影像帧中特征区域的位置以及观察区域的位置来订出第一向量,接着再在其他影像帧中寻找特征区域,并根据特征区域在其他影像帧中的位置来校正观察区域在其他影像帧中的位置,藉以提供适当的影像校正方法。藉由特征区域及其灰阶特征,本发明所提出的检测装置可以在每个影像帧中维持观察区域在适当的位置,藉以提供良好的检测功能。
本发明已由上述相关实施例加以描述,然而上述实施例仅为实施本发明的范例。必需指出的是,已揭露的实施例并未限制本发明的范围。相反地,在不脱离本发明的精神和范围内所作的更动与润饰,均属本发明的专利保护范围。
Claims (14)
1.一种影像校正方法,用以校正观察区域在动态影像的位置,该动态影像包括多个影像帧,其特征在于,该影像校正方法包括:
在该动态影像中的第一影像帧中确定该观察区域,并获取该观察区域在该第一影像帧中的中心位置;
从该第一影像帧中确定第一特征区域,该第一特征区域符合灰阶特征;
根据该第一影像帧中该观察区域的中心位置以及该第一特征区域的中心位置,确定第一向量;
在该动态影像中第二影像帧根据该灰阶特征寻找该第二影像帧的第二特征区域;
根据该第二影像帧中该观察区域的中心位置以及该第二特征区域的中心位置,确定第二向量;以及
根据该第二向量与该第一向量之间的差值校正该观察区域在第三影像帧中的位置。
2.如权利要求1所述的影像校正方法,其特征在于,确定该第一特征区域的步骤包括:
从该第一影像帧确定轮廓影像;
从该轮廓影像确定该第一特征区域,在该第一特征区域中的部分该轮廓影像的像素具有相同的像素联通标志;以及
从该第一特征区域所对应的部分该第一影像帧获取该灰阶特征。
3.如权利要求2所述的影像校正方法,其特征在于,获取该轮廓影像的步骤还包括:
获取该第一影像帧的断开影像以及闭合影像,其中该断开影像为该第一影像帧经由数字影像处理技术中形态学的侵蚀后再膨胀的影像,该闭合影像为该第一影像帧经由膨胀后再侵蚀的影像;以及
将该断开影像减去该闭合影像后取绝对值的影像确定为该轮廓影像。
4.如权利要求2所述的影像校正方法,其特征在于,确定该第一特征区域的步骤还包括:
以像素联通的方法将该轮廓影像区分为多个像素群;以及
将该多个像素群中像素数目最多的像素群确定为该第一特征区域。
5.如权利要求2所述的影像校正方法,其特征在于,获取该灰阶特征的方法还包括:
将所述部分该第一影像帧的灰度共生矩阵确定为该灰阶特征。
6.如权利要求1所述的影像校正方法,其特征在于,确定第一特征区域的步骤还包括:
将该第一影像帧区分为多个子影像;
在每个该子影像中确定该第一特征区域;
在该第二影像帧根据该灰阶特征寻找该第二特征区域的步骤还包括:
对应该第一影像帧的该多个子影像,将该第二影像帧区分为多个子影像;
在每个该第二影像帧的子影像中根据该灰阶特征寻找该第二特征区域。
7.如权利要求1所述的影像校正方法,其特征在于,该动态影像为超声波影像;在使用者在该动态影像中的该第一影像帧中确定该观察区域后还包括:
获取对应至该观察区域中的部分该第一影像帧的多普勒信号。
8.一种检测装置,用以检测生物体,其特征在于,该检测装置包括:
影像撷取单元,从该生物体获取动态影像,该动态影像包括多个影像帧;
处理单元,连接至该影像撷取单元,该处理单元从该影像撷取单元获取该动态影像;
显示单元,连接至该处理单元,该显示单元用以显示来自该处理单元的该动态影像;以及
输入界面,连接至该处理单元,通过该输入界面从该动态影像的第一影像帧确定观察区域;
其中,该处理单元还用于:在确定该观察区域后,获取该观察区域的中心位置;从该第一影像帧确定第一特征区域,该第一特征区域符合灰阶特征;根据该第一影像帧中该观察区域的中心位置以及该第一特征区域的中心位置,确定第一向量;在该动态影像中的第二影像帧根据该灰阶特征寻找该第二影像帧的第二特征区域;根据该第二影像帧中该观察区域的中心位置以及该第二特征区域的中心位置,确定第二向量;根据该第二向量与该第一向量之间的差值校正该观察区域在第三影像帧中的位置。
9.如权利要求8所述的检测装置,其特征在于,该处理单元确定该第一特征区域具体包括:
该处理单元从该第一影像帧确定轮廓影像;从该轮廓影像确定该第一特征区域,其中在该第一特征区域中的部分该轮廓影像的像素具有相同的像素联通标志;从该第一特征区域所对应的部分该第一影像帧获取该灰阶特征。
10.如权利要求9所述的检测装置,其特征在于,该处理单元确定该轮廓影像具体包括:
该处理单元获取该第一影像帧的断开影像以及闭合影像,其中,该断开影像为该第一影像帧经由数字影像处理技术中形态学的侵蚀后再膨胀的影像,该闭合影像为该第一影像帧膨胀后再侵蚀的影像;该处理单元将该断开影像减去该闭合影像后取绝对值的影像确定为该轮廓影像。
11.如权利要求9所述的检测装置,其特征在于,该处理单元确定该第一特征区域具体包括:该处理单元以像素联通的方法将该轮廓影像区分为多个像素群,并将该多个像素群中像素数目最多的像素群确定为该第一特征区域。
12.如权利要求9所述的检测装置,其特征在于,该处理单元获取该第一特征区域具体包括:该处理单元将该轮廓影像区分为多个子影像,并在每个该子影像中确定该第一特征区域;
该处理单元在该第二影像帧中根据该灰阶特征寻找第二特征区域具体包括:该处理单元对应该第一影像帧的该多个子影像,将该第二影像帧区分为多个子影像;并在每个该第二影像帧的子影像中根据该灰阶特征寻找该第二特征区域。
13.如权利要求9所述的检测装置,其特征在于,该处理单元获取该灰阶特征具体包括:该处理单元将该第一特征区域所对应的部分该第一影像帧的灰度共生矩阵确定为该灰阶特征。
14.如权利要求8所述的检测装置,其特征在于,该影像撷取单元包括超声波探头;在使用者经该输入界面在该动态影像中的该第一影像帧确定该观察区域后,该处理单元从该超声波探头获取对应至该观察区域中的部分该第一影像帧的多普勒信号。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810968210.8A CN109316202B (zh) | 2018-08-23 | 2018-08-23 | 影像校正方法及检测装置 |
US16/506,424 US10937137B2 (en) | 2018-08-23 | 2019-07-09 | Image calibration method and detecting device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810968210.8A CN109316202B (zh) | 2018-08-23 | 2018-08-23 | 影像校正方法及检测装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109316202A CN109316202A (zh) | 2019-02-12 |
CN109316202B true CN109316202B (zh) | 2021-07-02 |
Family
ID=65264258
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810968210.8A Active CN109316202B (zh) | 2018-08-23 | 2018-08-23 | 影像校正方法及检测装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10937137B2 (zh) |
CN (1) | CN109316202B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7479935B2 (ja) * | 2020-05-26 | 2024-05-09 | キヤノンメディカルシステムズ株式会社 | 体液解析装置、体液解析装置の制御方法、およびプログラム |
CN112402013A (zh) * | 2020-11-20 | 2021-02-26 | 胡颖 | 自动识别超声影像的智能导航***、电子装置及储存介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101202905A (zh) * | 2006-12-11 | 2008-06-18 | 财团法人工业技术研究院 | 影像调整校正方法及使用所述方法的车辆安全警示*** |
CN101390383A (zh) * | 2006-02-23 | 2009-03-18 | 松下电器产业株式会社 | 图像修正装置、方法、程序、集成电路、*** |
CN103702616A (zh) * | 2011-08-03 | 2014-04-02 | 株式会社日立医疗器械 | 图像诊断装置以及图像修正方法 |
CN104637044A (zh) * | 2013-11-07 | 2015-05-20 | 中国科学院深圳先进技术研究院 | 钙化斑块及其声影的超声图像提取*** |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5655535A (en) * | 1996-03-29 | 1997-08-12 | Siemens Medical Systems, Inc. | 3-Dimensional compound ultrasound field of view |
EP2862518A1 (en) * | 2006-12-21 | 2015-04-22 | Institut Gustave Roussy | Method for quantification of tumoral vascularization |
JP5791241B2 (ja) * | 2010-07-16 | 2015-10-07 | キヤノン株式会社 | 画像処理方法、画像処理装置、およびプログラム |
US8831708B2 (en) * | 2011-03-15 | 2014-09-09 | Siemens Aktiengesellschaft | Multi-modal medical imaging |
US20130116538A1 (en) * | 2011-11-02 | 2013-05-09 | Seno Medical Instruments, Inc. | Optoacoustic imaging systems and methods with enhanced safety |
EP3013241B1 (en) * | 2013-06-26 | 2020-01-01 | Koninklijke Philips N.V. | System for multi-modal tissue classification |
US10368833B2 (en) * | 2014-09-12 | 2019-08-06 | General Electric Company | Method and system for fetal visualization by computing and displaying an ultrasound measurement and graphical model |
US9965824B2 (en) * | 2015-04-23 | 2018-05-08 | Google Llc | Architecture for high performance, power efficient, programmable image processing |
US9588598B2 (en) * | 2015-06-30 | 2017-03-07 | Ariadne's Thread (Usa), Inc. | Efficient orientation estimation system using magnetic, angular rate, and gravity sensors |
US10127654B2 (en) * | 2015-10-07 | 2018-11-13 | Toshiba Medical Systems Corporation | Medical image processing apparatus and method |
EP3686843A1 (en) | 2016-06-08 | 2020-07-29 | Esaote S.p.A. | Method and system for estimating motion between images, particularly in ultrasound spatial compounding |
CN108268881A (zh) * | 2016-12-30 | 2018-07-10 | 中兴通讯股份有限公司 | 电子设备、目标图像识别方法及装置 |
JP6833533B2 (ja) * | 2017-01-31 | 2021-02-24 | キヤノンメディカルシステムズ株式会社 | 超音波診断装置および超音波診断支援プログラム |
CN108053427B (zh) * | 2017-10-31 | 2021-12-14 | 深圳大学 | 一种基于KCF与Kalman的改进型多目标跟踪方法、***及装置 |
US11688294B2 (en) * | 2017-12-22 | 2023-06-27 | University Of Cincinnati | Simplified, interactive, real-time ultrasound biofeedback system for speech remediation |
CN108346160A (zh) * | 2017-12-22 | 2018-07-31 | 湖南源信光电科技股份有限公司 | 基于视差图背景差法和Meanshift结合的多运动目标跟踪方法 |
-
2018
- 2018-08-23 CN CN201810968210.8A patent/CN109316202B/zh active Active
-
2019
- 2019-07-09 US US16/506,424 patent/US10937137B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101390383A (zh) * | 2006-02-23 | 2009-03-18 | 松下电器产业株式会社 | 图像修正装置、方法、程序、集成电路、*** |
CN101202905A (zh) * | 2006-12-11 | 2008-06-18 | 财团法人工业技术研究院 | 影像调整校正方法及使用所述方法的车辆安全警示*** |
CN103702616A (zh) * | 2011-08-03 | 2014-04-02 | 株式会社日立医疗器械 | 图像诊断装置以及图像修正方法 |
CN104637044A (zh) * | 2013-11-07 | 2015-05-20 | 中国科学院深圳先进技术研究院 | 钙化斑块及其声影的超声图像提取*** |
Also Published As
Publication number | Publication date |
---|---|
CN109316202A (zh) | 2019-02-12 |
US20200065951A1 (en) | 2020-02-27 |
US10937137B2 (en) | 2021-03-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111432733B (zh) | 用于确定超声探头的运动的设备和方法 | |
US9801614B2 (en) | Ultrasound diagnostic apparatus, ultrasound image processing method, and non-transitory computer readable recording medium | |
JP5294340B2 (ja) | 超音波診断装置 | |
US6558324B1 (en) | System and method for strain image display | |
JP5209026B2 (ja) | 超音波診断装置 | |
US20150164482A1 (en) | Ultrasound diagnostic apparatus, ultrasound image recording method, and non-transitory computer readable recording medium | |
JP2004057827A (ja) | 空間的に一致した画像において時間変化を表示する改良型方法 | |
KR20130080640A (ko) | 초음파 영상 제공 방법 및 초음파 영상 제공 장치 | |
CN109316202B (zh) | 影像校正方法及检测装置 | |
EP2425784B1 (en) | Providing a color Doppler mode image in an ultrasound system | |
CN109452954B (zh) | 超声成像方法及装置 | |
US20150320397A1 (en) | Ultrasound image processing method and ultrasound diagnostic device using same | |
CN109069113B (zh) | 超声成像设备及利用超声检测血管壁剪切指数的方法 | |
US8394023B2 (en) | Method and apparatus for automatically determining time to aortic valve closure | |
JP2009005829A (ja) | 超音波診断装置及び処理プログラム | |
US11324487B2 (en) | Ultrasound diagnostic apparatus and control method of ultrasound diagnostic apparatus | |
US20140119610A1 (en) | Measuring apparatus and method thereof | |
TWI681758B (zh) | 影像校正方法及檢測裝置 | |
JP6212160B1 (ja) | 超音波診断装置 | |
CN114025672B (zh) | 一种超声成像设备和子宫内膜蠕动的检测方法 | |
KR101024857B1 (ko) | 3차원 초음파 영상에 컬러 모델링 처리를 수행하는 초음파 시스템 및 방법 | |
KR101097539B1 (ko) | 볼륨 데이터를 보정하는 초음파 장치 및 방법 | |
JP2002330966A (ja) | 超音波診断装置 | |
JPH06319737A (ja) | 超音波カラードプラ診断装置 | |
EP4338684A1 (en) | Ultrasonic imaging device, ultrasonic imaging method, ultrasonic imaging system, and ultrasonic imaging program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |