CN117877691A - 一种基于图像识别的智能化伤口信息采集*** - Google Patents
一种基于图像识别的智能化伤口信息采集*** Download PDFInfo
- Publication number
- CN117877691A CN117877691A CN202410283964.5A CN202410283964A CN117877691A CN 117877691 A CN117877691 A CN 117877691A CN 202410283964 A CN202410283964 A CN 202410283964A CN 117877691 A CN117877691 A CN 117877691A
- Authority
- CN
- China
- Prior art keywords
- wound
- data
- image
- color
- patient
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 206010052428 Wound Diseases 0.000 claims abstract description 273
- 208000027418 Wounds and injury Diseases 0.000 claims abstract description 273
- 238000000034 method Methods 0.000 claims abstract description 44
- 230000036541 health Effects 0.000 claims abstract description 35
- 230000000474 nursing effect Effects 0.000 claims abstract description 28
- 230000008569 process Effects 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims abstract description 16
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims abstract description 12
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 11
- 201000010099 disease Diseases 0.000 claims abstract description 11
- 238000012800 visualization Methods 0.000 claims abstract description 7
- 239000013598 vector Substances 0.000 claims description 83
- 230000011218 segmentation Effects 0.000 claims description 31
- 238000005259 measurement Methods 0.000 claims description 24
- 238000011156 evaluation Methods 0.000 claims description 19
- 238000013507 mapping Methods 0.000 claims description 17
- 238000001514 detection method Methods 0.000 claims description 13
- 230000029663 wound healing Effects 0.000 claims description 11
- 239000003814 drug Substances 0.000 claims description 10
- 230000002093 peripheral effect Effects 0.000 claims description 10
- 230000006870 function Effects 0.000 claims description 8
- 238000000605 extraction Methods 0.000 claims description 7
- 238000012544 monitoring process Methods 0.000 claims description 7
- 230000000007 visual effect Effects 0.000 claims description 6
- 238000012935 Averaging Methods 0.000 claims description 3
- 206010061218 Inflammation Diseases 0.000 claims description 3
- 230000004913 activation Effects 0.000 claims description 3
- 229940079593 drug Drugs 0.000 claims description 3
- 238000003708 edge detection Methods 0.000 claims description 3
- 230000004054 inflammatory process Effects 0.000 claims description 3
- 230000035800 maturation Effects 0.000 claims description 3
- 238000011176 pooling Methods 0.000 claims description 3
- 230000035755 proliferation Effects 0.000 claims description 3
- 238000011084 recovery Methods 0.000 claims description 3
- 230000003068 static effect Effects 0.000 claims description 3
- 238000007499 fusion processing Methods 0.000 claims description 2
- 230000004075 alteration Effects 0.000 description 2
- 230000001684 chronic effect Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 208000017667 Chronic Disease Diseases 0.000 description 1
- 229920000742 Cotton Polymers 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 208000015181 infectious disease Diseases 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 238000000053 physical method Methods 0.000 description 1
- 239000000523 sample Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Public Health (AREA)
- Radiology & Medical Imaging (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Quality & Reliability (AREA)
- Databases & Information Systems (AREA)
- Pathology (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及智慧医疗技术领域,其具体公开了一种基于图像识别的智能化伤口信息采集***。该***包括数据采集模块、数据处理模块和应用服务模块;对采集的伤口数据、护理治疗数据和历史健康数据进行处理,采用不同的图像处理方式提取出伤口数据的尺寸特征和颜色特征,并且利用人工智能卷积神经网络模型对融合后的患者数据进行伤口病程阶段的预测,当预测值与理论值之间存在偏差时,利用预警单元提醒相关医护人员关注,同时利用可视化单元实现患者病程的演化过程展示,进一步提升医疗服务的便利性。
Description
技术领域
本发明属于智慧医疗技术领域,具体涉及一种基于图像识别的智能化伤口信息采集***。
背景技术
在临床医疗上,随着慢性病的多发,医疗上会面临更多慢性伤口的护理和治疗,为了医护人员更好的了解伤口的演化过程,需要对慢性伤口准确测量和评估,这对于确定护理和治疗方案至关重要。伤口测量和评估主要包含伤口面积、深度、容积、颜色等多方面的监测,根据伤口的上述指标可以直观反映伤口愈合程度,综合患者的其他健康数据,给出更加有效的护理治疗方案,并且可以根据患者的实际情况对护理治疗方案进行调整,以适配不同的个体需求。
目前在伤口测量和评估方面,主要依靠物理测量方式,例如棉签或探针法、标尺法。这种测量方式会与患者的伤口直接接触,测量的顺利程度跟医护人员的经验成正比,测量的准确性不稳定,增加患者的疼痛感,也会提升感染的风险。随着大数据和人工智能技术的发展,对于伤口数据的智能化处理需求能够进一步得到满足,本发明旨在提供一种基于图像识别的智能化伤口信息采集***。
发明内容
本发明的目的在于克服现有技术中存在的上述问题,提供了一种基于图像识别的智能化伤口信息采集***,该***实现了对于伤口数据的智能采集、测量和评估,进一步提升了伤口数据测量和评估的准确性,为辅助专业医护人员确定针对性的护理和治疗方案提供了有力的支撑。
为了实现上述发明目的,本发明提供了以下技术方案:
一种基于图像识别的智能化伤口信息采集***,其特征在于,包括如下功能模块:
数据采集模块:包括伤口数据采集单元,用于采集患者伤口数据,所述伤口数据包括伤口图像数据和伤口视频数据,利用伤口数据采集设备实现伤口静态图像和动态视频的采集,所述伤口数据采集设备包括标尺模式、颜色模式、视频模式;所述标尺模式拍摄出的图像中会有参照标尺刻度,所述颜色模式拍摄出的图像中会有参照标准色块,所述视频模式拍摄出的视频为以伤口为中心水平旋转360度的周边皮肤组织情况;护理治疗数据采集单元,用于采集护理治疗数据,所述护理治疗数据包括入院日期、药物名称、用药次数、伤口处理方式;历史健康数据采集单元,用于采集历史健康数据,所述历史健康数据包括既往病史、年龄、性别、家族病史;
数据处理模块:包括伤口测量单元,用于对所述伤口图像数据进行处理,提取伤口的长、宽、面积、颜色指标,确定伤口尺寸特征向量和伤口颜色特征向量;伤口评估单元,用于根据所述患者伤口数据、护理治疗数据和历史健康数据确定伤口演化过程,得到伤口评估结果;根据所述伤口视频数据提取伤口周边皮肤特征向量,根据所述护理治疗数据提取伤口护理治疗特征向量,根据所述历史健康数据提取历史健康特征向量;将伤口尺寸特征向量、伤口颜色特征向量、伤口周边皮肤特征向量、伤口护理治疗特征向量和历史健康特征向量特征向量进行融合处理得到融合后的患者数据特征向量,将所述融合后的患者数据特征向量输入到预先训练的人工卷积神经网络模型中,输出所述患者伤口所属病程阶段的概率特征向量;
应用服务模块:包括预警单元,用于根据伤口智能评估结果和伤口愈合标准进程之间的偏差程度实现危险情况预警;可视化单元,用于对患者伤口愈合演化过程实现可视化展示。
进一步,所述数据采集模块还包括:
所述伤口数据采集设备在标尺模式下工作时,取景框中同时包括患者伤口和纸质标尺,所述纸质标尺为大小1.5cm*1.5cm的方块;所述伤口数据采集设备在颜色模式下工作时,取景框中同时包括患者伤口和纸质色块,所述纸质色块为大小1.5cm*1.5cm的方块,以田字格的方式四等分为黑色区域、白色区域、红色区域、黄色区域;所述伤口数据采集设备在视频模式下工作时,设备可视界面上有水平引导线,工作人员以患者伤口为中心,水平旋转360度采集伤口周边皮肤组织的视频图像。
进一步,所述伤口测量单元还包括:
首先对标尺模式下采集的伤口图像进行背景分割,将拍摄的环境背景初步分离出来,得到仅包含皮肤、伤口以及标尺的目标图像;将所述目标图像分别输入第一区域分割通道和第二区域分割通道;所述第一区域分割通道中,将所述目标图像裁剪成512*512像素的标准化图像并转换成灰度图像,将灰度图像均匀划分为32*32的子像素块,共256块,在每个子像素块中并行实现区域分割,方法为:选取子像素块中具有最大像素值a的像素点x作为初始种子点,设置阈值b,其中b小于a,寻找该子像素块中x的8连通区域中像素值范围属于[a-b,a+b]的像素点集合C1,计算该像素点集合C1的均值c,再分别以C1中的每个像素点作为种子点,分别寻找该子像素块中每个种子点的8连通区域中像素值范围属于[c-b,c+b]的像素点集合C2,依次类推,直到没有满足要求的像素点,得到最后一次寻找到的像素点集合Cn,将所述集合Cn区域以内的像素点值设置为1,将所述集合Cn区域以外的像素点值设置为0;将每个子像素块按照上述方法进行区域分割后进行整合得到第一分割图像I1。
进一步,所述伤口测量单元还包括:
所述第二区域分割通道中,将所述目标图像裁剪成512*512像素的标准化图像并映射到hsv颜色空间,分别对hsv的三个通道图像进行标尺区域检测和伤口区域检测后得到2张第二分割图像I2和图像I3,所述图像I2中的标尺区域像素点值为1,其余区域像素点值为0;所述图像I3中的伤口区域像素点值为1,其余像素点值为0;将所述图像I1分别与图像I2和I3中对应坐标点的像素点值进行与操作,得到标尺区域图像I4和伤口区域图像I5;根据所述I4和I5确定出伤口的长度值、宽度值、面积值,将三个值归一化映射到[0,1]范围内作为伤口尺寸特征向量。
进一步,所述伤口测量单元还包括:
首先对颜色模式下采集的伤口图像进行canny边缘检测,提取伤口边缘和标准色块区域边缘的像素坐标,再依据所述像素坐标从颜色模式下采集的伤口图像分割出保留颜色特征的标准色块和伤口区域图像J1,将所述图像J1映射到RGB空间中,利用标准色块所呈现的三通道像素值与标准黑色、白色、红色、黄色像素值之间的差值幅度对所述图像J1中的伤口区域图像进行校正,得到颜色校正后的图像J2;对所述图像J2进行颜色特征提取得到伤口颜色特征向量。
进一步,所述伤口评估单元还包括:
对所述伤口视频数据进行关键帧提取得到n张关键帧图像,将所述n张关键帧图像进行均值化处理后融合成一张图像P,对所述图像P进行纹理特征提取,根据所述纹理特征得到伤口周边皮肤特征向量。
进一步,所述伤口评估单元还包括:
依据预设的文本编码映射词典,将护理治疗数据和历史健康数据中涉及的文本描述转化成结构化数据后进行编码操作,得到护理治疗数据特征向量和历史健康数据特征向量。
进一步,所述伤口评估单元还包括:
将所述伤口尺寸特征向量、伤口颜色特征向量、伤口周边皮肤特征向量、护理治疗数据特征向量和历史健康数据特征向量进行拼接后得到融合后的患者数据特征向量,将所述患者数据特征向量输入至预先训练好的人工卷积神经网络模型中,输出患者目前伤口所处于不同病程阶段的概率值向量,所述病程阶段包括炎症期、增生期和成熟期,将所述概率值向量中最大值对应的阶段作为患者伤口的预测阶段;所述预先训练的人工卷积神经网络模型包括一个输入层、一个输出层、2个卷积层、1个池化层、2个隐藏层、采用relu作为激活函数,采用交叉熵作为损失函数。
进一步,所述应用服务模块还包括:
所述预警单元中,预先设置不同年龄段的伤口恢复周期与伤口所处阶段之间的映射关系表,若患者伤口的预测阶段与映射关系表中的阶段有差异,则输出预警信息并将患者的医疗数据发送给主管医护人员,以便提醒主管医护人员对该患者的情况进行关注。
进一步,所述应用服务模块还包括:
所述可视化单元中:按照时间轴的方式展示患者伤口愈合演化过程,其中时间轴上设置有伤口数据采集时刻和治疗时刻,所述伤口数据采集时刻对应展示采集的伤口图片、伤口预测阶段、伤口理论阶段;所述治疗时刻对应展示用药方案。
通过采用上述技术,与现有技术相比,本发明的有益效果是:
本申请利用无接触式的伤口测量方式,减轻了患者痛苦,提升了伤口测量的准确性和稳定性。
本申请利用多种方式对伤口图像数据进行处理,实现了各种处理方式的优势互补。
本申请在进行伤口数据特征提取时,综合考虑了尺寸、颜色、周边皮肤组织、患者相关治疗数据以及历史健康数据等特征,相较于传统单一的考虑伤口数据本身更加具备全面性,进一步提升了预测结果的准确性。
本申请利用人工智能卷积神经网络对患者伤口数据所处的病程阶段进行预测,并在该预测值和理论值之间出现偏差时进行预警,以提醒相关医护人员重点关注该患者或者调整治疗护理方案。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定, 对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请一种基于图像识别的智能化伤口信息采集***功能模块图;
图2为本申请数据采集模块功能流程图;
图3为本申请伤口测量单元功能流程图;
图4为本申请伤口评估单元功能流程图;
图5为本申请应用服务模块功能流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例1
如图1所示,本实施例提供一种基于图像识别的智能化伤口信息采集***,包括如下功能模块:
数据采集模块:包括伤口数据采集单元,用于采集患者伤口数据,所述伤口数据包括伤口图像数据和伤口视频数据,利用伤口数据采集设备实现伤口静态图像和动态视频的采集,所述伤口数据采集设备包括标尺模式、颜色模式、视频模式;所述标尺模式拍摄出的图像中会有参照标尺刻度,所述颜色模式拍摄出的图像中会有参照标准色块,所述视频模式拍摄出的视频为以伤口为中心水平旋转360度的周边皮肤组织情况;护理治疗数据采集单元,用于采集护理治疗数据,所述护理治疗数据包括入院日期、药物名称、用药次数、伤口处理方式;历史健康数据采集单元,用于采集历史健康数据,所述历史健康数据包括既往病史、年龄、性别、家族病史;
数据处理模块:包括伤口测量单元,用于对所述伤口图像数据进行处理,提取伤口的长、宽、面积、颜色指标,确定伤口尺寸特征向量和伤口颜色特征向量;伤口评估单元,用于根据所述患者伤口数据、护理治疗数据和历史健康数据确定伤口演化过程,得到伤口评估结果;根据所述伤口视频数据提取伤口周边皮肤特征向量,根据所述护理治疗数据提取伤口护理治疗特征向量,根据所述历史健康数据提取历史健康特征向量;将上述将伤口尺寸特征向量、伤口颜色特征向量、伤口周边皮肤特征向量、伤口护理治疗特征向量和历史健康特征向量特征向量进行融合处理得到融合后的患者数据特征向量,将所述融合后的患者数据特征向量输入到预先训练的人工卷积神经网络模型中,输出所述患者伤口所属病程阶段的概率特征向量;
应用服务模块:包括预警单元,用于根据伤口智能评估结果和伤口愈合标准进程之间的偏差程度实现危险情况预警;可视化单元,用于对患者伤口愈合演化过程实现可视化展示。
实施例2
如图2所示,本实施例提供一种基于图像识别的智能化伤口信息采集***,其中,所述数据采集模块具体包括:
所述伤口数据采集设备在标尺模式下工作时,取景框中同时包括患者伤口和纸质标尺,所述纸质标尺为大小1.5cm*1.5cm的方块;所述伤口数据采集设备在颜色模式下工作时,取景框中同时包括患者伤口和纸质色块,所述纸质色块为大小1.5cm*1.5cm的方块,以田字格的方式四等分为黑色区域、白色区域、红色区域、黄色区域;所述伤口数据采集设备在视频模式下工作时,设备可视界面上有水平引导线,工作人员以患者伤口为中心,水平旋转360度采集伤口周边皮肤组织的视频图像。
纸质标尺和纸质色块在拍摄时可以依据伤口实际情况粘贴于伤口附近的皮肤上或者由拍摄者手持呈现在取景框中。伤口周边的皮肤组织状态也能一定程度反映患者的伤口愈合情况,因此除了采集伤口本身图像数据外,本申请还对伤口周边的皮肤图像进行采集,为了便于提升采集的便利性和采集特征的全面性,通过视频的方式对伤口周边的皮肤组织进行视频采集。
实施例3
如图3所示,本实施例提供一种基于图像识别的智能化伤口信息采集***,其中,所述伤口测量单元具体包括:
首先对标尺模式下采集的伤口图像进行背景分割,将拍摄的环境背景初步分离出来,得到仅包含皮肤、伤口以及标尺的目标图像;将所述目标图像分别输入第一区域分割通道和第二区域分割通道;所述第一区域分割通道中,将所述目标图像裁剪成512*512像素的标准化图像并转换成灰度图像,将灰度图像均匀划分为32*32的子像素块,共256块,在每个子像素块中并行实现区域分割,方法为:选取子像素块中具有最大像素值a的像素点x作为初始种子点,设置阈值b,其中b小于a,寻找该子像素块中x的8连通区域中像素值范围属于[a-b,a+b]的像素点集合C1,计算该像素点集合C1的均值c,再分别以C1中的每个像素点作为种子点,分别寻找该子像素块中每个种子点的8连通区域中像素值范围属于[c-b,c+b]的像素点集合C2,依次类推,直到没有满足要求的像素点,得到最后一次寻找到的像素点集合Cn,将所述集合Cn区域以内的像素点值设置为1,将所述集合Cn区域以外的像素点值设置为0;将每个子像素块按照上述方法进行区域分割后进行整合得到第一分割图像I1。
初步背景分割后的图像并不能准确的反映伤口区域的形态特征,因此需要进一步处理。本申请将初步背景分割的图像输入到两个分割通道中,分别用两种不同的方式提取伤口区域。第一区域分割通道中,利用图像灰度特征实现区域分割,并且为了提升处理效率,将多个子像素块并行分割再整合。
所述第二区域分割通道中,将所述目标图像裁剪成512*512像素的标准化图像并映射到hsv颜色空间,分别对hsv的三个通道图像进行标尺区域检测和伤口区域检测后得到2张第二分割图像I2和I3,所述图像I2中的标尺区域像素点值为1,其余区域像素点值为0;所述图像I3中的伤口区域像素点值为1,其余像素点值为0;将所述图像I1分别与图像I2和I3中对应坐标点的像素点值进行与操作,得到标尺区域图像I4和伤口区域图像I5;根据所述I4和I5确定出伤口的长度值、宽度值、面积值,将三个值归一化映射到[0,1]范围内作为伤口尺寸特征向量。
第二区域分割通道中,利用图像的颜色空间实现区域分割,伤口区域通常以红黄色为主,进行颜色阈值的分割能够得到较好的处理效果;标尺区域的图像较为规整,利用边缘轮廓检测能够得到较好的处理效果。将第一和第二区域分割后的图像进行与操作获得最终精准的标尺区域和伤口区域。在对伤口区域进行尺寸测量时,找到伤口的最大外接矩形,利用网格的方式实现伤口的长度、宽度的测量,从而确定出伤口的面积值。
首先对颜色模式下采集的伤口图像进行canny边缘检测,提取伤口边缘和标准色块区域边缘的像素坐标,再依据所述像素坐标从颜色模式下采集的伤口图像分割出保留颜色特征的标准色块和伤口区域图像J1,将所述图像J1映射到RGB空间中,利用标准色块所呈现的三通道像素值与标准黑色、白色、红色、黄色像素值之间的差值幅度对所述图像J1中的伤口区域图像进行校正,得到颜色校正后的图像J2;对所述图像J2进行颜色特征提取得到伤口颜色特征向量。
由于不同灯光下拍摄的照片会有一定的色差,对于标准色块来说,其对应有标准像素理论值,将标准色块的理论值和实际值作差,再与理论值作商,可以得到拍摄图像颜色的差值幅度,利用该差值幅度去校正伤口区域的像素值可以减小拍摄色差。对校正后的图像进行RGB直方图统计得到伤口颜色特征向量。
实施例4
如图4所示,本实施例提供一种基于图像识别的智能化伤口信息采集***,其中,所述伤口评估单元具体包括:
对所述伤口视频数据进行关键帧提取得到n张关键帧图像,将所述n张关键帧图像进行均值化处理后融合成一张图像P,对所述图像P进行纹理特征提取,根据所述纹理特征得到伤口周边皮肤特征向量。
本申请采用灰度共生矩阵实现图像P的纹理特征提取。
依据预设的文本编码映射词典,将护理治疗数据和历史健康数据中涉及的文本描述转化成结构化数据后进行编码操作,得到护理治疗数据特征向量和历史健康数据特征向量。
护理治疗数据和历史健康数据是文本数据,也是非结构化数据,为了便于统一处理,需要将其转换为结构化数据,本申请预先设置了文本编码映射词典,每个文本属性对应一个01二值化编码值,将文本描述转换成数字编码,再将所有属性编码归一化成[0,1]之间的数值。例如,患者有4个属性,分别是首次发病、62岁、有家族病史、性别女;根据预设的映射词典可得到对应的编码为0111,那么提取该编码中0和1分别出现的概率0.25和0.75组合成属性特征向量(0.25,0.75)。
将所述伤口尺寸特征向量、伤口颜色特征向量、伤口周边皮肤特征向量、护理治疗数据特征向量和历史健康数据特征向量进行拼接后得到融合后的患者数据特征向量,将所述患者数据特征向量输入至预先训练好的人工卷积神经网络模型中,输出患者目前伤口所处于不同病程阶段的概率值向量,所述病程阶段包括炎症期、增生期和成熟期,将所述概率值向量中最大值对应的阶段作为患者伤口的预测阶段;所述预先训练的人工卷积神经网络模型包括一个输入层、一个输出层、2个卷积层、1个池化层、2个隐藏层、采用relu作为激活函数,采用交叉熵作为损失函数。
实施例5
如图5所示,本实施例提供一种基于图像识别的智能化伤口信息采集***,其中,所述伤口评估单元具体包括:
所述预警单元中,预先设置不同年龄段的伤口恢复周期与伤口所处阶段之间的映射关系表,若患者伤口的预测阶段与映射关系表中的阶段有差异,则输出预警信息并将患者的医疗数据发送给主管医护人员,以便提醒主管医护人员对该患者的情况进行关注。
所述可视化单元中:按照时间轴的方式展示患者伤口愈合演化过程,其中时间轴上设置有伤口数据采集时刻和治疗时刻,所述伤口数据采集时刻对应展示采集的伤口图片、伤口预测阶段、伤口理论阶段;所述治疗时刻对应展示用药方案。
本领域内的技术人员应明白,本发明的实施例可提供为方法、***、计算机设备或计算机可读存储介质。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
以上所述,仅是本发明的较佳实施例而已,并非对本发明作任何形式上的限制,依据本发明的技术实质,在本发明的精神和原则之内,对以上实施例所作的任何简单的修改、等同替换与改进等,均仍属于本发明技术方案的保护范围之内。
Claims (10)
1.一种基于图像识别的智能化伤口信息采集***,其特征在于,包括如下功能模块:
数据采集模块:包括伤口数据采集单元,用于采集患者伤口数据,所述伤口数据包括伤口图像数据和伤口视频数据,利用伤口数据采集设备实现伤口静态图像和动态视频的采集,所述伤口数据采集设备包括标尺模式、颜色模式、视频模式;所述标尺模式拍摄出的图像中会有参照标尺刻度,所述颜色模式拍摄出的图像中会有参照标准色块,所述视频模式拍摄出的视频为以伤口为中心水平旋转360度的周边皮肤组织情况;护理治疗数据采集单元,用于采集护理治疗数据,所述护理治疗数据包括入院日期、药物名称、用药次数、伤口处理方式;历史健康数据采集单元,用于采集历史健康数据,所述历史健康数据包括既往病史、年龄、性别、家族病史;
数据处理模块:包括伤口测量单元,用于对所述伤口图像数据进行处理,提取伤口的长、宽、面积、颜色指标,确定伤口尺寸特征向量和伤口颜色特征向量;伤口评估单元,用于根据所述患者伤口数据、护理治疗数据和历史健康数据确定伤口演化过程,得到伤口评估结果;根据所述伤口视频数据提取伤口周边皮肤特征向量,根据所述护理治疗数据提取伤口护理治疗特征向量,根据所述历史健康数据提取历史健康特征向量;将伤口尺寸特征向量、伤口颜色特征向量、伤口周边皮肤特征向量、伤口护理治疗特征向量和历史健康特征向量进行融合处理得到融合后的患者数据特征向量,将所述融合后的患者数据特征向量输入到预先训练的人工卷积神经网络模型中,输出所述患者伤口所属病程阶段的概率特征向量;
应用服务模块:包括预警单元,用于根据伤口智能评估结果和伤口愈合标准进程之间的偏差程度实现危险情况预警;可视化单元,用于对患者伤口愈合演化过程实现可视化展示。
2.如权利要求1所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述数据采集模块具体包括:所述伤口数据采集设备在标尺模式下工作时,取景框中同时包括患者伤口和纸质标尺,所述纸质标尺为大小1.5cm*1.5cm的方块;所述伤口数据采集设备在颜色模式下工作时,取景框中同时包括患者伤口和纸质色块,所述纸质色块为大小1.5cm*1.5cm的方块,以田字格的方式四等分为黑色区域、白色区域、红色区域、黄色区域;所述伤口数据采集设备在视频模式下工作时,设备可视界面上有水平引导线,工作人员以患者伤口为中心,水平旋转360度采集伤口周边皮肤组织的视频图像。
3.如权利要求2所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述伤口测量单元具体包括:
首先对标尺模式下采集的伤口图像进行背景分割,将拍摄的环境背景初步分离出来,得到仅包含皮肤、伤口以及标尺的目标图像;将所述目标图像分别输入第一区域分割通道和第二区域分割通道;所述第一区域分割通道中,将所述目标图像裁剪成512*512像素的标准化图像并转换成灰度图像,将灰度图像均匀划分为32*32的子像素块,共256块,在每个子像素块中并行实现区域分割,方法为:选取子像素块中具有最大像素值a的像素点x作为初始种子点,设置阈值b,其中b小于a,寻找该子像素块中x的8连通区域中像素值范围属于[a-b,a+b]的像素点集合C1,计算该像素点集合C1的均值c,再分别以C1中的每个像素点作为种子点,分别寻找该子像素块中每个种子点的8连通区域中像素值范围属于[c-b,c+b]的像素点集合C2,依次类推,直到没有满足要求的像素点,得到最后一次寻找到的像素点集合Cn,将所述集合Cn区域以内的像素点值设置为1,将所述集合Cn区域以外的像素点值设置为0;将每个子像素块按照上述方法进行区域分割后进行整合得到第一分割图像I1。
4.如权利要求3所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述伤口测量单元具体包括:
所述第二区域分割通道中,将所述目标图像裁剪成512*512像素的标准化图像并映射到hsv颜色空间,分别对hsv的三个通道图像进行标尺区域检测和伤口区域检测后得到2张第二分割图像I2和图像I3,所述图像I2中的标尺区域像素点值为1,其余区域像素点值为0;所述图像I3中的伤口区域像素点值为1,其余像素点值为0;将所述图像I1分别与图像I2和I3中对应坐标点的像素点值进行与操作,得到标尺区域图像I4和伤口区域图像I5;根据所述I4和I5确定出伤口的长度值、宽度值、面积值,将三个值归一化映射到[0,1]范围内作为伤口尺寸特征向量。
5.如权利要求4所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述伤口测量单元具体包括:首先对颜色模式下采集的伤口图像进行canny边缘检测,提取伤口边缘和标准色块区域边缘的像素坐标,再依据所述像素坐标从颜色模式下采集的伤口图像分割出保留颜色特征的标准色块和伤口区域图像J1,将所述图像J1映射到RGB空间中,利用标准色块所呈现的三通道像素值与标准黑色、白色、红色、黄色像素值之间的差值幅度对所述图像J1中的伤口区域图像进行校正,得到颜色校正后的图像J2;对所述图像J2进行颜色特征提取得到伤口颜色特征向量。
6.如权利要求5所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述伤口评估单元具体包括:对所述伤口视频数据进行关键帧提取得到n张关键帧图像,将所述n张关键帧图像进行均值化处理后融合成一张图像P,对所述图像P进行纹理特征提取,根据所述纹理特征得到伤口周边皮肤特征向量。
7.如权利要求6所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述伤口评估单元具体包括:依据预设的文本编码映射词典,将护理治疗数据和历史健康数据中涉及的文本描述转化成结构化数据后进行编码操作,得到护理治疗数据特征向量和历史健康数据特征向量。
8.如权利要求7所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述伤口评估单元具体包括:将所述伤口尺寸特征向量、伤口颜色特征向量、伤口周边皮肤特征向量、护理治疗数据特征向量和历史健康数据特征向量进行拼接后得到融合后的患者数据特征向量,将所述患者数据特征向量输入至预先训练好的人工卷积神经网络模型中,输出患者目前伤口所处于不同病程阶段的概率值向量,所述病程阶段包括炎症期、增生期和成熟期,将所述概率值向量中最大值对应的阶段作为患者伤口的预测阶段;所述预先训练的人工卷积神经网络模型包括一个输入层、一个输出层、2个卷积层、1个池化层、2个隐藏层、采用relu作为激活函数,采用交叉熵作为损失函数。
9.如权利要求8所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述应用服务模块具体包括:所述预警单元中,预先设置不同年龄段的伤口恢复周期与伤口所处阶段之间的映射关系表,若患者伤口的预测阶段与映射关系表中的阶段有差异,则输出预警信息并将患者的医疗数据发送给主管医护人员,以便提醒主管医护人员对该患者的情况进行关注。
10.如权利要求9所述的一种基于图像识别的智能化伤口信息采集***,其特征在于,所述应用服务模块具体包括:所述可视化单元中:按照时间轴的方式展示患者伤口愈合演化过程,其中时间轴上设置有伤口数据采集时刻和治疗时刻,所述伤口数据采集时刻对应展示采集的伤口图片、伤口预测阶段、伤口理论阶段;所述治疗时刻对应展示用药方案。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410283964.5A CN117877691B (zh) | 2024-03-13 | 2024-03-13 | 一种基于图像识别的智能化伤口信息采集*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410283964.5A CN117877691B (zh) | 2024-03-13 | 2024-03-13 | 一种基于图像识别的智能化伤口信息采集*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117877691A true CN117877691A (zh) | 2024-04-12 |
CN117877691B CN117877691B (zh) | 2024-05-07 |
Family
ID=90592234
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410283964.5A Active CN117877691B (zh) | 2024-03-13 | 2024-03-13 | 一种基于图像识别的智能化伤口信息采集*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117877691B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118173229A (zh) * | 2024-05-16 | 2024-06-11 | 简阳市人民医院 | 一种扁桃体摘除术后营养评估方法和*** |
CN118213069A (zh) * | 2024-04-29 | 2024-06-18 | 无锡医百加科技有限公司 | 基于数据分析的乳腺癌患者放射性皮炎护理效果评价*** |
CN118412151A (zh) * | 2024-07-01 | 2024-07-30 | 四川省医学科学院·四川省人民医院 | 一种基于ar技术的远程会诊***及病情部位标记方法 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109363677A (zh) * | 2018-10-09 | 2019-02-22 | 中国人民解放军第四军医大学 | 乳腺电阻抗扫描成像手持式检测探头体表定位***及方法 |
CN111184517A (zh) * | 2020-01-14 | 2020-05-22 | 南方医科大学珠江医院 | 伤口测量及记录*** |
US20200194117A1 (en) * | 2018-12-13 | 2020-06-18 | University Of Maryland, College Park | Systems, methods, and media for remote trauma assessment |
CN111803036A (zh) * | 2020-07-24 | 2020-10-23 | 青岛大学附属医院 | 一种腹部外科手术后伤口换药方法、***及计算机设备 |
CN112107291A (zh) * | 2020-07-29 | 2020-12-22 | 青岛浦利医疗技术有限公司 | 一种创伤智能评估方法及其诊断*** |
WO2021097142A1 (en) * | 2019-11-13 | 2021-05-20 | Enspectra Health, Inc. | Methods and systems for identifying tissue characteristics |
CN113260303A (zh) * | 2018-12-14 | 2021-08-13 | 光谱Md公司 | 用于评估、愈合预测和治疗创伤的机器学习***和方法 |
CN113268623A (zh) * | 2021-06-01 | 2021-08-17 | 上海市第一人民医院 | 一种人工智能化胃镜图像识别处理*** |
CN114080805A (zh) * | 2019-06-24 | 2022-02-22 | 高通股份有限公司 | 用于视频译码的自适应环路滤波的非线性扩展 |
CN114627067A (zh) * | 2022-03-08 | 2022-06-14 | 中南大学湘雅医院 | 一种基于图像处理的伤口面积测量及辅助诊疗方法 |
CN115426939A (zh) * | 2020-02-28 | 2022-12-02 | 光谱Md公司 | 用于伤口的评估、愈合预测和治疗的机器学习***和方法 |
CN116157065A (zh) * | 2020-07-13 | 2023-05-23 | 光谱Md公司 | 用于伤口组织学评估的光谱成像***和方法 |
-
2024
- 2024-03-13 CN CN202410283964.5A patent/CN117877691B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109363677A (zh) * | 2018-10-09 | 2019-02-22 | 中国人民解放军第四军医大学 | 乳腺电阻抗扫描成像手持式检测探头体表定位***及方法 |
US20200194117A1 (en) * | 2018-12-13 | 2020-06-18 | University Of Maryland, College Park | Systems, methods, and media for remote trauma assessment |
CN113260303A (zh) * | 2018-12-14 | 2021-08-13 | 光谱Md公司 | 用于评估、愈合预测和治疗创伤的机器学习***和方法 |
CN114080805A (zh) * | 2019-06-24 | 2022-02-22 | 高通股份有限公司 | 用于视频译码的自适应环路滤波的非线性扩展 |
WO2021097142A1 (en) * | 2019-11-13 | 2021-05-20 | Enspectra Health, Inc. | Methods and systems for identifying tissue characteristics |
CN111184517A (zh) * | 2020-01-14 | 2020-05-22 | 南方医科大学珠江医院 | 伤口测量及记录*** |
CN115426939A (zh) * | 2020-02-28 | 2022-12-02 | 光谱Md公司 | 用于伤口的评估、愈合预测和治疗的机器学习***和方法 |
CN116157065A (zh) * | 2020-07-13 | 2023-05-23 | 光谱Md公司 | 用于伤口组织学评估的光谱成像***和方法 |
CN111803036A (zh) * | 2020-07-24 | 2020-10-23 | 青岛大学附属医院 | 一种腹部外科手术后伤口换药方法、***及计算机设备 |
CN112107291A (zh) * | 2020-07-29 | 2020-12-22 | 青岛浦利医疗技术有限公司 | 一种创伤智能评估方法及其诊断*** |
CN113268623A (zh) * | 2021-06-01 | 2021-08-17 | 上海市第一人民医院 | 一种人工智能化胃镜图像识别处理*** |
CN114627067A (zh) * | 2022-03-08 | 2022-06-14 | 中南大学湘雅医院 | 一种基于图像处理的伤口面积测量及辅助诊疗方法 |
Non-Patent Citations (2)
Title |
---|
周景儒: ""抗血栓药物对老年非刨伤性慢性硬膜下血肿的影响"", 《中国新药杂志》, vol. 28, no. 5, 26 April 2019 (2019-04-26), pages 616 - 619 * |
赵祥猛: "" 复杂条件下的皮肤病理图像分割方法的研究"", 《中国优秀硕士学位论文全文数据库》, 15 June 2022 (2022-06-15) * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118213069A (zh) * | 2024-04-29 | 2024-06-18 | 无锡医百加科技有限公司 | 基于数据分析的乳腺癌患者放射性皮炎护理效果评价*** |
CN118173229A (zh) * | 2024-05-16 | 2024-06-11 | 简阳市人民医院 | 一种扁桃体摘除术后营养评估方法和*** |
CN118173229B (zh) * | 2024-05-16 | 2024-08-09 | 简阳市人民医院 | 一种扁桃体摘除术后营养评估方法和*** |
CN118412151A (zh) * | 2024-07-01 | 2024-07-30 | 四川省医学科学院·四川省人民医院 | 一种基于ar技术的远程会诊***及病情部位标记方法 |
CN118412151B (zh) * | 2024-07-01 | 2024-08-23 | 四川省医学科学院·四川省人民医院 | 一种基于ar技术的远程会诊***及病情部位标记方法 |
Also Published As
Publication number | Publication date |
---|---|
CN117877691B (zh) | 2024-05-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN117877691B (zh) | 一种基于图像识别的智能化伤口信息采集*** | |
Pranata et al. | Deep learning and SURF for automated classification and detection of calcaneus fractures in CT images | |
CN109872328B (zh) | 一种脑部图像分割方法、装置和存储介质 | |
US20160206205A1 (en) | Method and system for wound assessment and management | |
Lakshmi et al. | Classification of Dental Cavities from X-ray images using Deep CNN algorithm | |
Iranpoor et al. | Skin lesion segmentation using convolutional neural networks with improved U-Net architecture | |
CN110338759B (zh) | 一种正面疼痛表情数据采集方法 | |
CN114627067A (zh) | 一种基于图像处理的伤口面积测量及辅助诊疗方法 | |
Barbosa et al. | Towards automatic quantification of the epicardial fat in non-contrasted CT images | |
WO2012064170A1 (en) | A methodology and apparatus for objective, non-invasive and in vivo assessment and rating of psoriasis lesion scaliness using digital imaging | |
Loizou et al. | Evaluation of wound healing process based on texture analysis | |
CN113643354B (zh) | 基于增强分辨率的眼底图像的血管管径的测量装置 | |
Zhou et al. | Detection and semiquantitative analysis of cardiomegaly, pneumothorax, and pleural effusion on chest radiographs | |
CN115862819A (zh) | 一种基于图像处理的医学图像管理方法 | |
CN113313680A (zh) | 一种结直肠癌病理图像预后辅助预测方法及*** | |
Mittal et al. | Identification & enhancement of different skin lesion images by segmentation techniques | |
US9962089B2 (en) | Methodology and apparatus for objective assessment and rating of psoriasis lesion thickness using digital imaging | |
CN112634221B (zh) | 基于图像和深度的角膜层次识别及病变定位方法和*** | |
CN117274278B (zh) | 基于模拟感受野的视网膜图像病灶部位分割方法及*** | |
CN113688942A (zh) | 基于深度学习的头侧片腺样体图像自动评估方法和装置 | |
US20230214970A1 (en) | Skin surface analysis device and skin surface analysis method | |
Silva et al. | A two-phase learning approach for the segmentation of dermatological wounds | |
Loizou et al. | Evaluation of wound healing process based on texture image analysis | |
CN113962958B (zh) | 一种征象检测方法及装置 | |
Shih et al. | Hair segmentation and counting algorithms in microscopy image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |