CN106023057A - 一种用于皮下静脉显影仪的控制处理***及成像方法 - Google Patents

一种用于皮下静脉显影仪的控制处理***及成像方法 Download PDF

Info

Publication number
CN106023057A
CN106023057A CN201610356998.8A CN201610356998A CN106023057A CN 106023057 A CN106023057 A CN 106023057A CN 201610356998 A CN201610356998 A CN 201610356998A CN 106023057 A CN106023057 A CN 106023057A
Authority
CN
China
Prior art keywords
image
module
processing system
light source
driving circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610356998.8A
Other languages
English (en)
Other versions
CN106023057B (zh
Inventor
但果
陈子豪
易羽
陈思平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen University
Original Assignee
Shenzhen University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen University filed Critical Shenzhen University
Priority to CN201610356998.8A priority Critical patent/CN106023057B/zh
Priority to PCT/CN2016/101513 priority patent/WO2017201942A1/zh
Priority to US16/304,560 priority patent/US20190167110A1/en
Publication of CN106023057A publication Critical patent/CN106023057A/zh
Application granted granted Critical
Publication of CN106023057B publication Critical patent/CN106023057B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0082Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence adapted for particular medical purposes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0075Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence by spectroscopy, i.e. measuring spectra, e.g. Raman spectroscopy, infrared absorption spectroscopy
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/48Other medical applications
    • A61B5/4887Locating particular structures in or on the body
    • A61B5/489Blood vessels
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7445Display arrangements, e.g. multiple display units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4084Scaling of whole images or parts thereof, e.g. expanding or contracting in the transform domain, e.g. fast Fourier transform [FFT] domain scaling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/36Image-producing devices or illumination devices not otherwise provided for
    • A61B2090/364Correlation of different images or relation of image positions in respect to the body
    • A61B2090/366Correlation of different images or relation of image positions in respect to the body using projection of images directly onto the body
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/004Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/02007Evaluating blood vessel condition, e.g. elasticity, compliance
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/107Measuring physical dimensions, e.g. size of the entire body or parts thereof
    • A61B5/1079Measuring physical dimensions, e.g. size of the entire body or parts thereof using optical or photographic means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/743Displaying an image simultaneously with additional graphical information, e.g. symbols, charts, function plots
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10144Varying exposure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Biomedical Technology (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Vascular Medicine (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Image Processing (AREA)
  • Cardiology (AREA)
  • Physiology (AREA)

Abstract

本发明公开了一种用于皮下静脉显影仪的控制处理***及成像方法;所述控制处理***包括处理器子***和可编程逻辑子***,所述处理器子***和可编程逻辑子***通过高带宽AXI总线互联;所述控制处理***与可见光光源驱动电路、近红外光源驱动电路、投影成像元件驱动电路、近红外成像元件驱动电路、显示屏幕驱动电路以及用户控制界面信号连接。本发明针对皮下静脉显影成像应用及其成像特点,设计出皮下静脉显影***的控制处理***架构,利用软硬件结合方式进行实现,设计出具有更高对比度、更低时延、更加智能化的皮下静脉显影***,从而有效地辅助医护人员对穿刺对象进行皮下静脉血管定位,提高皮下静脉穿刺操作的成功率。

Description

一种用于皮下静脉显影仪的控制处理***及成像方法
技术领域
本发明属于医疗器械技术领域,尤其是涉及皮下静脉穿刺时用于静脉血管显影的控制处理***和成像方法。
背景技术
皮下静脉穿刺是医院里最常见的医疗操作之一,是临床诊断与治疗的重要手段。而肥胖患者、婴幼儿患者的扎针穿刺则历来是医护人员的头痛问题。据统计,美国每年需要皮下静脉穿刺10亿次,平均每人每年3次以上;我国则为104亿瓶以上,相当于“人均8瓶”,大于国际上2.4~3.2瓶的次数。医院皮下静脉穿刺对象群体一般包括以下几部分:一是急、重病患者,约占40%,此类患者末梢循环差,给皮下静脉穿刺带来一定的困难;二是老年保健性治疗,约占50%,老年人血管弹性差、脆性大,加之长期输液会使血管受到破坏,成为皮下静脉穿刺的一大难点;三是婴幼儿患者,约占10%,此类患者血管细、不易发现,给皮下静脉穿刺带来极大不便。同时,患者及其家长对多次扎针、漏针,甚至扎不上针的情况变得越发敏感。
由此,皮下静脉显影***也就应运而出。然而目前市场上的皮下静脉显影***通常都只使用单一的嵌入式微处理器或单一的可编程逻辑器件,由于受到所采用的控制处理***架构的限制,对于要实现更复杂的处理算法或更多的处理操作来获取更好的成像效果时,会出现一些明显的时延问题,在实时性和智能化方面均难以满足日益增长的要求。
发明内容
本发明为了解决现有产品存在的时延明显、智能化不高等缺陷,同时提高***的成像质量,设计了一种用于皮下静脉显影仪的控制处理处理架构,并着重针对皮下静脉显影的成像技术进行研究和实现,开发了一个具有更高对比度、更低时延以及更具智能化的皮下静脉显影***。
本发明设计的皮下静脉显影***关键技术有:控制处理***架构、图像对比度增强处理、原位等大投影等技术。
为了实现本发明的目的,本发明采用的技术方案为:
一种控制处理***,包括处理器子***和可编程逻辑子***,所述处理器子***和可编程逻辑子***通过高带宽总线互联;所述控制处理***与可见光光源驱动电路、近红外光源驱动电路、投影成像元件驱动电路、近红外成像元件驱动电路、显示屏幕驱动电路以及用户控制界面信号连接。
所述高带宽总线为AXI(Advanced eXtensible Interface,先进可扩展接口)总线,包括AXI-Lite及AXI-Stream。
AXI4-Lite接口是AXI接口的子集,用于处理器与设备(模块)内的控制寄存器进行通信。AXI4-Stream也是AXI接口的子集,并作为一个标准的接口,用于连接需要大量交换数据的设备(模块)。AXI-Stream接口支持很多不同的流类型,本***的所有视频处理模块的接口均采用基于AXI-Stream的视频流类型接口。
所述的控制处理***,其特征是:所述可见光光源驱动电路、近红外光源驱动电路、投影成像元件驱动电路、近红外成像元件驱动电路、显示屏幕驱动电路以及用户控制界面与其信号连接,实现皮下静脉血管近红外图像的数据采集和投影成像,控制处理***负责图像数据处理及***控制。
所述的控制处理***,其特征是:还包括图像数据采集模块、图像裁剪与缩放模块、图像曝光量统计模块、图像对比度增强模块、视频源多路复用模块、投影输出模块、显示屏幕输出模块、自动曝光调节控制器模块、图像曝光量评价模块、***参数控制模块及存储器模块,各模块之间信号连通。
一种采用控制处理***进行图像处理的方法,包括步骤:
A)皮下静脉血管近红外图像数据采集,并对采集的图像进行裁剪、缩放及偏移调节处理;
B)根据采集图像的曝光情况,对皮下静脉显影仪***内的近红外光源进行调节,为后续的图像增强处理提供稳定合适的图像曝光状态;所述对皮下静脉显影仪***内的近红外光源进行调节包括图像曝光量统计、图像曝光量评价及光源自动曝光调节控制;
C)对图像的对比度进行增强处理;
D)对拟输出的结果图像进一步处理,实现投影成像元件和显示屏幕双路同步显示输出。
所述的图像处理的方法,其特征是:所述A)步骤为根据投影出的图像分别测量出采集镜头和投影镜头实际覆盖区域的大小,测量出投影镜头覆盖区域相对采集镜头覆盖区域的位置,从而对采集的图像进行裁剪、缩放及偏移调节处理。
所述的图像处理的方法,其特征是:所述B)步骤图像曝光量统计为按照用户对不同区域的关注程度设置不同权值,然后对每个区域的曝光量信息进行加权平均。之后对得出的图像曝光量信息进行比较及评估并实现近红外光源自动曝光调节控制。
所述的图像处理的方法,其特征是:所述C)步骤为图像对比度增强方法可为基于变换域方法,或者直方图均衡化方法以及由其延伸出的各类改进方法。
所述的图像处理的方法,其特征是:所述改进方法包括全局直方图均衡化,或者亮度保持双直方图均衡化,或者基于Sigmoid函数的双直方图均衡化,或者限制对比度受限自适应直方图均衡化。
所述的图像处理的方法,其特征是:所述D)步骤为采用分时复用的方法对输出视频进一步处理,实现投影成像元件和显示屏幕双路同步显示输出。
本发明主要有益效果
本发明采用处理器子***和可编程逻辑子***协同工作的设计思路,使得皮下静脉血管图像对比度增强技术除了能有效地对皮下静脉血管及其周围组织进行对比度增强外,还能使成像过程具有实时性。
本发明提出了基于限制对比度自适应直方图均衡化的改进算法,并用本发明中提出的控制处理***架构进行设计实现,在皮下静脉血管图像对比度增强和实时性方面均取得理想效果;
本发明提出了一种用于皮下静脉显影成像的原位等大投影技术,该技术实现了使投影的皮下静脉血管图像与实际的皮下静脉血管在位置上相重合。
本发明提出了一种用于皮下静脉显影成像的自适应曝光控制技术,该技术自动对皮下静脉血管图像的曝光情况进行调节,使得图像保持稳定合适的曝光状态,从而保证成像效果在外界干扰时仍能保持稳定。
最后,本发明利用软硬件结合方式进行技术实现,设计出具有更高对比度、更低时延、更加智能化的皮下静脉显影***,从而有效地辅助医护人员对穿刺对象进行皮下静脉血管定位,提高了皮下静脉穿刺操作的成功率。
附图说明
图1为实施例控制处理***结构连接框示意图;
图2为实施例图像采集和投影光路共轴示意图;
图3为实施例原位等大投影方法示意图;
图4为实施例成像方法流程结构框图;
图5为实施例成像区域划分和权重分配示意图;
图6为实施例图像曝光量评价与自动曝光调节控制模块抽象示意图;
图7为实施例近红外光源自适应曝光控制算法具体流程示意图;
图8为实施例图像像素重构映射示意图;
图9为实施例图像对比度增强模块框架示意图;
图10为实施例直方图统计模块框架示意图;
图11为实施例映射建立/输出模块框架图;
图12为实施例双线性插值的流水线结构框架示意图;
图13为实施例双路同步显示技术实现框架图。
具体实施方式
下面结合附图和具体实施例,对本发明作进一步详细说明。
本发明所描述的控制处理***结构连接框图如图1所示。
如图1所示,控制处理***由处理器子***、可编程逻辑子***及存储器组成。其中,处理器子***、可编程逻辑子***及存储器通过AXI总线互联。近红外光源驱动电路、用户控制界面与处理器子***信号连接。近红外成像元件驱动电路、投影成像元件驱动电路、可见光光源驱动电路及显示屏幕驱动电路与可编程逻辑子***信号连接。
其中,处理器子***可采用ARM架构的微处理器或其它功能相近的微处理器;可编程逻辑子***可采用FPGA(Field Programmable Gate Array,现场可编程门阵列)器件或其它功能相近的可编程逻辑器件;存储器可采用DDR(DoubleData Rate,双倍数据速率)存储器或其它具有相近性能的存储器器件。
更进一步地,处理器子***、可编程逻辑子***及AXI总线可使用Zynq异构片上***或其它功能相近的片上***器件组成。
近红外光源驱动电路、近红外成像元件驱动电路、投影成像元件驱动电路、可见光光源驱动电路及显示屏幕驱动电路分别与近红外光源、近红外成像元件、投影成像元件、可见光光源及显示屏幕信号连接。
图像裁剪和缩放(原位等大投影)
为了使投影结果图像中的皮下静脉血管与实际感兴趣区域中的皮下静脉血管位置相重合,需要做到原位等大投影。本***的光学成像单元利用二向色镜实现光路共轴,即图像采集光路与投影光路的中心是近似重合的,如图2及图3所示。
虽然图像采集和投影在光路上是共轴的,但由于采集和投影的器件分辨率和镜头视场角(Field Of View,FOV)均不一致,因此,要实现原位等大投影,还需对采集的图像进行处理,其中主要包括图像等大缩放、偏移调节等操作。
在有效工作高度h=30cm平面上,设图像采集镜头实际覆盖区域大小为a×b厘米,而投影镜头实际覆盖区域大小为c×d厘米,为了让投影出的图像与实际事物完全等大重合,那么就需要从图像传感器采集的图像中截取出被投影镜头覆盖的区域,如图3中第2部分中的斜线区域,然后将其放大至投影成像器件的分辨率,再由投影成像器件投影出来,如图3中第3部分所示,这时的投影成像就能在实际空间上与其覆盖的事物等大重合。
根据上面提出的设计方案,本发明中实现原位等大投影的具体步骤如下:
(1)在***有效工作距离h=30cm的平面上,将采集到的图像先放大至投影成像器件的分辨率大小,再由其投影出来;根据投影出的图像分别测量出采集镜头和投影镜头实际覆盖区域的大小,分别记a×b和c×d为16.3×10.8cm、8.8×6.5cm,同时还测量出投影镜头覆盖区域相对采集镜头覆盖区域的偏移量x、y为3.7cm、1.3cm
(2)根据上面测量出的数据,计算出从采集图像中需要裁剪部分的大小和偏移量。设CMOS图像传感器采集的图像分辨率为752×480像素,设需要裁剪出的部分长宽分别为个像素和个像素,即有
m ‾ = c a × 752 ( p i x s ) - - - ( 1 )
n ‾ = d b × 480 ( p i x s ) - - - ( 2 )
另外,设裁剪部分的起始偏移坐标为即有
x ‾ = x a × 752 ( p i x s ) - - - ( 3 )
y ‾ = y b × 480 ( p i x s ) - - - ( 4 )
根据计算结果,从采集的图像中截取出大小、起始偏移为的区域,那么所截取出的图像则为被投影镜头覆盖的区域。
(3)根据上一步骤确定的参数设计出裁剪和放大模块,模块采用基于AXI总线标准的视频流接口,内部采用后向放大算法实现图像的实时放大。
在本发明中,如图4所示,图像裁剪与缩放模块作为图像数据采集后的第一级处理,用来实现原位等大投影功能。
图像曝光量统计、自动曝光调节控制(近红外光源自适应曝光控制)
本发明设计的皮下静脉显影***需要采用近红外光源进行照明。在不同环境下,例如在室内或室外、白天或晚上、晴天或阴天,近红外光的光照情况都不一样。若近红外光光照不足,会严重影响图像数据的采集;若近红外光过强,采集的图像出现过曝光现象,同样会影响后续的处理。可见,确保最优的光照效果对***成像质量尤为重要。
近红外光源自适应曝光控制就是为了让***图像数据采集在不同环境下都能获取最优的光照效果,为后续的图像增强处理提供稳定合适的曝光状态。本发明设计的近红外光源自适应曝光控制在本***中作为图像数据采集后的第二级处理,根据当前获取图像的曝光情况,对***内的近红外光源进行实时调节,其主要分为3部分:图像曝光量统计、图像曝光量评价及近红外光源自动曝光调节控制,如图4所示。
图像曝光量统计
实现近红外光源自适应曝光控制,首先需要对采集的图像数据进行曝光量信息统计,统计后获得的数据再用于对近红外光源的调节。在成像过程中,用户对成像不同区域的曝光情况关心程度会有所不同,为了让用户获得更好的使用感受,在统计图像曝光量信息时应该按照用户对不同区域的关注程度设置不同权值,然后对每个区域的曝光量值进行加权平均。一般来说,用户习惯将注意力放在成像区域的中央位置,那么按照用户对成像区域的关注程度设置权重分配,成像中间区域的权重加大,四周区域的权重相对降低。成像区域划分和权重分配如图5所示:
从图5可看出,本发明将成像区域分为16个等大的区域,然后分别计算出各区域的曝光量均值Ii,其中,i为各区域的编号。设上图的权重矢量为W,那么成像区域的亮度加权均值u则为:
u = Σ i = 1 16 I i × W i Σ i = 1 16 W i - - - ( 5 )
自动曝光调节控制
图像曝光量评价与自动曝光调节控制模块可以看成为一个典型的闭环自动控制***,可以抽象为如图6所示:
上图中,ue为图像亮度理想均值,Gc(s)为控制器的传递函数。Δw为控制增量,在本发明中为近红外光源发光亮度调节量,用于调节近红外光源的强弱,G(s)为被控单元的传递函数,在本***中为近红外光源,H(s)则为反馈传递函数,u为前面介绍的成像区域的亮度加权均值。本发明中,控制器采用PID自动控制算法来实现。
PID控制器是目前实际工业控制过程中应用最广泛、最稳定的一种控制算法,其输入输出关系如下式所示:
u ( t ) = K P e ( k ) + K I ∫ 0 t e ( t ) d t + K D d e ( t ) d t - - - ( 6 )
KP,KP,KD分别为比例系数、积分系数、微分系数,通过调整这3个系数即可获得理想的控制效果,具体地,Kp参数用来控制调节速度,KI参数用来消除稳态误差,KD参数用来改善***的动态性能[34]。e(t)为***反馈量u与***理想值ue的误差。
根据控制处理***的特点,本发明采用在可编程逻辑子***上进行实时的图像曝光量信息统计,在处理器子***上根据统计数据并通过PID自动控制算法进行自动曝光调节控制。其控制算法具体流程如图7所示。
皮下静脉图像对比度增强
利用对近红外光反射的差异来采集到的皮下静脉图像,其对比度通常比较低,若直接将低对比度的皮下静脉图像投影显示出来,将无法达到显影成像的效果。因此,针对皮下静脉图像的对比度增强技术是皮下静脉显影***的关键技术,在本发明中作为图像数据采集后的第三级处理,如图4所示。
基于CLAHE的改进算法
CLAHE为了在增强图像细节对比度的同时尽可能减少对噪声的放大,通过裁剪直方图来限制放大幅度,亦即限制了CDF的斜率,所以该算法的截断系数α需要在对比度增强效果和噪声抑制程度的权衡间取值。若为了获取最大的对比度增强效果,截断系数α就需要取较大的值,那么对噪声的抑制程度也会减弱。本发明针对静脉图像的特点,对原有的CLAHE进行改进,目的是进一步提高静脉图像对比度增强效果,同时兼顾图像背景噪声放大的抑制。
为了得到最大的对比度增强效果,本发明在原有的CLAHE基础上,提出了改进,主要包括两点:去除直方图的裁剪和重分配这一步骤;对CDF映射函数进行改进。本发明提出的基于CLAHE改进算法具体步骤如下:
(1)图像分块
该步骤与上一节介绍的CLAHE一致。本发明将输入图像分为4×4非重叠子块。
(2)统计各子块的直方图
每个子块的直方图分别记作Hi,j(k),其中i,j=1,2,3,4。在统计完各子块直方图后,本方法不对直方图进行裁剪和重分配,而是进行下一步骤。
(3)计算各子块的混合累计分布函数(Hybrid Cumulative Distribution Function,HCDF)
在上面的分析中,皮下静脉图像的背景多集中在低灰度级部分,而静脉血管则隐藏在中高灰度级部分,因此在该步骤中需要确定一个阀值Th,将直方图分为两部分,小于Th的属于图像背景部分,而大于Th则为感兴趣区域。由于本发明设计的近红外光源自适应曝光控制能保证***采集的图像的亮度均值维持在一个稳定状态,因此用来划分图像背景和感兴趣区域的阀值Th不需动态调整。为了提高算法对感兴趣区域的增强效果,同时减少对背景噪声的放大,本发明对原有方法的CDF进行改进,设计出混合累计分布函数(Hybrid CumulativeDistribution Function,HCDF),如下式所示:
c h b ( X k ) = &Sigma; j = 0 k p ( X j ) &times; 0.2 , 0 &le; k < T h c h b ( X T h - 1 ) + &Sigma; j = T h k p ( X j ) &times; log 2 ( j ) , T h &le; k < L - - - ( 23 )
该混合累计分布函数(HCDF)能对图像背景和感兴趣区域起到不同的增强效果,其中,即各子块相应的概率密度分布函数(PDF)。我们知道累计分布函数的斜率越大,其增强效果就越大;反之,斜率越小,其增强效果越小。CLAHE算法中累计分布函数(CDF)的斜率计算为:
c &OverBar; ( X k ) = c ( X k ) - c ( X k - 1 ) X k - X k - 1 = &Sigma; j = 0 k p ( X j ) - &Sigma; j = 0 k - 1 p ( X j ) 1 = p ( X k ) - - - ( 24 )
相应地,本发明提出的混合累计分布函数(HCDF)的斜率计算为:
c h b &OverBar; ( X k ) = c h b ( X k ) - c h b ( X k - 1 ) X k - X k - 1 = p ( X k ) &times; 0.2 , 0 &le; k < T h p ( X k ) &times; log 2 k , T h &le; k < L - - - ( 25 )
在处理图像的背景部分时,即灰度级在0<k<Th之间,有:
c h b &OverBar; ( X k ) = p ( X k ) &times; 0.2 < c &OverBar; ( X k ) , 0 &le; k < T h - - - ( 26 )
当处理灰度级在Th≤k<L之间的图像区域时,有:
c h b &OverBar; ( X k ) = p ( X k ) &times; log 2 k > c &OverBar; ( X k ) , T h &le; k < L - - - ( 27 )
从上可见,HCDF对图像背景部分的增强作用要比原有的CDF增强作用小,即HCDF对背景噪声的放大起到一定抑制作用;另一方面,HCDF对图像中的感兴趣区域的增强作用则比原有的CDF增强作用大,该算法的增强效果得到进一步提高。在进行到下一个步骤之前,还须要对HCDF执行归一化操作处理。归一化处理后的HCDF表示为:
T ( X k ) = c h b ( X k ) c h b ( X L - 1 ) , 0 &le; k < L - - - ( 28 )
(4)建立各子块的输出映射函数
这一步骤与原有的CLAHE算法相似。设上一步骤得出的各子块混合累计分布函数(HCDF)为Ti,j(Xk),i、j分别为图像分块的纵横编号,那么基于HCDF的输出映射函数为:
zi,j(x)=X0+(XL-1-X0)Ti,j(x),i,j=1,2,3,4 (29)
(5)像素重构映射
这一步骤与原有CLAHE算法一致,基于上一步骤得出的各子块输出映射函数,以各子块中央位置作为基点,使用双线性插值方法重构图像各个像素点的灰度值。如图8所示。
设像素点p位于子块(i,j)的左上方,那么根据p点与其最邻近参考点的位置关系确定权值,最后根据下式计算最终的加权结果:
P o u t = a a + b &lsqb; m m + n C i , j ( P i n ) + n m + n C i - 1 , j ( P i n ) &rsqb; + b a + b &lsqb; m m + n C i , j - 1 ( P i n ) + n m + n C i - 1 , j - 1 ( P i n ) &rsqb; - - - ( 22 )
改进算法的实现
根据控制处理***的特点,本发明设计的图像对比度增强模块按照功能划分,可分为4个子模块:直方图统计模块、映射建立/输出模块、双线性插值重构模块以及子块偏移量计算模块。整体框架图9所示。
这里使用了直方图统计和映射输出同步进行的设计方法,因为视频流是具有连续性的,所以相邻帧图像的直方图具有非常高的相似性。模块内部采用流水线方式设计,在第n帧有效场期间,视频流数据同时进入直方图统计模块和映射建立/输出模块,这样直方图统计和映射表查找输出操作则同时进行。从映射建立/输出模块流出的数据经过双线性插值模块进行像素重构。在第n帧场消隐期间,视频流数据停止传输,此时映射建立/输出模块从直方图统计模块中读取已统计好的直方图,进行映射表的建立,供下一帧图像的映射输出使用。第n+1帧的视频流数据将使用第n帧场消隐期间建立的映射表进行映射输出。
(1)子块偏移量计算模块
该模块通过对视频流输入的当前像素进行定位跟踪,计算出当前像素所在的子块编号i,j,以及像素在子块内的相对坐标m,n,a,b。直方图统计模块和双线性插值模块则根据这些统计信息完成数据选取、权值计算等操作。
(2)直方图统计模块
模块内有1个行缓冲RAM和16个直方图统计RAM,具体架构图10所示。在有效场期间,视频流数据首先写入行缓冲RAM,每一个时钟周期写入一个像素值。当填满一行数据后,一级的视频流暂停传输,此时开始读取行缓冲RAM进行直方图统计,结合子块偏移量计算模块给出的子块编号,将计算结果输入到相应子块的直方图统计RAM中。从行缓冲RAM读取像素值后,下一个时钟周期从相应子块直方图统计RAM读取数据并累加,再下一个时钟周期将累加结果重新写入相应子块直方图统计RAM,这三个步骤总共需要三个时钟周期。当读完行缓冲RAM数据后,上一级模块重新开始下一行数据传输。
当一帧图像传输完后,进入场消隐时间,这时各子块直方图已统计完成,映射建立/输出模块则从直方图统计RAM读取数据来建立各子块相应的映射表。映射表建立完成后,直方图统计RAM将会置零,然后等候下一个有效场数据。(3)映射建立/输出模块
映射建立/输出模块架构如图11所示,该模块有直方图累加模块,映射表建立计算模块和16个映射表RAM,分别对应16个子块。在视频有效场期间,映射建立/输出模块接收视频流数据,并进行映射表RAM查找输出。在视频场消隐期间,直方图累加模块从直方图统计RAM中读取数据进行累加,并将结果传到映射表计算模块。映射表计算模块基于本文提出的混合累计分布函数(HCDF),进行映射表建立。具体地,公式(23)中p(Xj)×0.2和p(Xj)×log2(j)的乘法操作采用了查找表(Look Up Table,LUT)方式来实现,这样既提高了处理速度,也节省了乘法器资源。直方图累加模块和映射表计算模块的数据处理采用流水线方式设计,最终的计算结果写入相应的映射表RAM中。模块内各子块的计算是并行处理的,互不影响,这样能大大提高算法的处理速度,满足***的实时性需求。
(4)双线性插值模块
有效场期间,本模块从映射表RAM中读取数据,并进行双线性插值重构输出。在实现双线性插值前,先对式(22)进行化简,以便于硬件实现。化简式如下所示:
P o u t = maz i , j ( P i n ) + naz i - 1 , j ( P i n ) + mbz i , j - 1 ( P i n ) + nbz i - 1 , j - 1 ( P i n ) ( m + n ) ( a + b ) - - - ( 30 )
模块涉及数据选取、权值计算、插值规则选择、加权乘累加等多个操作,因此,这里使用了多级流水线设计方法,使其获得最大的数据吞吐量,计算性能达到最优。双线性插值的流水线结构框架如图12所示。
图中,双线性插值模块采用了四级流水线设计,其中,加权乘累加模块内还内嵌一个流水线。
双路同步显示(视频源多路复用)
如图4所示,视频源多路复用模块在本发明中作为视频输出前最后一级处理,用来实现投影成像元件和显示屏幕双路同步显示输出功能。
双路同步显示功能是本发明的一个创新性设计,该功能使***在经过投影成像元件投影成像的同时,能在显示屏幕上进行同步显示,这样既能帮助医护人员对皮下静脉的位置进行双重确认、提高穿刺精确度,又能符合医护人员不同的操作习惯。
图13中,各模块部件均采用AXI总线接口进行互联,其实现具体流程如下:
(1)在有效场期间,视频流数据不断流入多路复用模块。
(2)多路复用模块以隔行切换模式,将输入视频流数据分别切换到不同的通路,例如输入视频流第i行数据流入DMA(Direct Memory Access,存储器直接访问)0模块,而下一行的数据则切换到DMA 1模块。
(3)DMA 0模块和DMA 1模块接收上一级的视频流数据,通过DMA将其写入内存中的两个不同块区,并分别供投影成像元件和显示屏幕读取。每个模块内还采用了乒乓操作的设计,这样使得视频缓存和视频读取能同时进行,并使得下一级处理和上一级处理分隔开来。
(4)两个通路通过DMA分别读取相应块区的视频缓冲数据,然后通过图像缩放模块,缩放至合适的输出分辨率大小。
(5)输出的两路视频流数据分别流向投影成像元件驱动电路模块和显示屏幕驱动电路模块,从而实现单一视频源的双路同步显示。

Claims (9)

1.一种控制处理***,包括处理器子***和可编程逻辑子***,所述处理器子***和可编程逻辑子***通过高带宽总线互联;所述控制处理***与可见光光源驱动电路、近红外光源驱动电路、投影成像元件驱动电路、近红外成像元件驱动电路、显示屏幕驱动电路以及用户控制界面信号连接。
所述高带宽总线为AXI(Advanced eXtensible Interface,先进可扩展接口)总线,包括AXI-Lite及AXI-Stream。
2.如权利要求1所述的控制处理***,其特征是:所述可见光光源驱动电路、近红外光源驱动电路、投影成像元件驱动电路、近红外成像元件驱动电路、显示屏幕驱动电路以及用户控制界面与其信号连接,实现皮下静脉血管近红外图像的数据采集和投影成像,控制处理***负责图像数据处理及***控制。
3.如权利要求1所述的控制处理***,其特征是:还包括图像数据采集模块、图像裁剪与缩放模块、图像曝光量统计模块、图像对比度增强模块、视频源多路复用模块、投影输出模块、显示屏幕输出模块、自动曝光调节控制器模块、图像曝光量评价模块、***参数控制模块及存储器模块,各模块之间信号连通。
4.一种采用控制处理***进行图像处理的方法,包括步骤:
A)皮下静脉血管近红外图像数据采集,并对采集的图像进行裁剪、缩放及偏移调节处理;
B)根据采集图像的曝光情况,对皮下静脉显影仪***内的近红外光源进行调节,为后续的图像增强处理提供稳定合适的图像曝光状态;所述对皮下静脉显影仪***内的近红外光源进行调节包括图像曝光量统计、图像曝光量评价及光源自动曝光调节控制;
C)对图像的对比度进行增强处理;
D)对拟输出的结果图像进一步处理,实现投影成像元件和显示屏幕双路同步显示输出。
5.如权利要求4所述的图像处理的方法,其特征是:所述A)步骤为根据投影出的图像分别测量出采集镜头和投影镜头实际覆盖区域的大小,测量出投影镜头覆盖区域相对采集镜头覆盖区域的位置,从而对采集的图像进行裁剪、缩放及偏移调节处理。
6.如权利要求4所述的图像处理的方法,其特征是:所述B)步骤图像曝光量统计为按照用户对不同区域的关注程度设置不同权值,然后对每个区域的曝光量信息进行加权平均。之后对得出的图像曝光量信息进行比较及评估并实现近红外光源自动曝光调节控制。
7.如权利要求4所述的图像处理的方法,其特征是:所述C)步骤为图像对比度增强方法可为基于变换域方法,或者直方图均衡化方法以及由其延伸出的各类改进方法。
8.如权利要求7所述的图像处理的方法,其特征是:所述改进方法包括全局直方图均衡化,或者亮度保持双直方图均衡化,或者基于Sigmoid函数的双直方图均衡化,或者限制对比度受限自适应直方图均衡化。
9.如权利要求4所述的图像处理的方法,其特征是:所述D)步骤为采用分时复用的方法对输出视频进一步处理,实现投影成像元件和显示屏幕双路同步显示输出。
CN201610356998.8A 2016-05-26 2016-05-26 一种用于皮下静脉显影仪的控制处理***及成像方法 Active CN106023057B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201610356998.8A CN106023057B (zh) 2016-05-26 2016-05-26 一种用于皮下静脉显影仪的控制处理***及成像方法
PCT/CN2016/101513 WO2017201942A1 (zh) 2016-05-26 2016-10-08 一种用于皮下静脉显影仪的控制处理***及成像方法
US16/304,560 US20190167110A1 (en) 2016-05-26 2016-10-08 Control processing system and imaging method for subcutaneous vein developing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610356998.8A CN106023057B (zh) 2016-05-26 2016-05-26 一种用于皮下静脉显影仪的控制处理***及成像方法

Publications (2)

Publication Number Publication Date
CN106023057A true CN106023057A (zh) 2016-10-12
CN106023057B CN106023057B (zh) 2022-11-08

Family

ID=57093780

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610356998.8A Active CN106023057B (zh) 2016-05-26 2016-05-26 一种用于皮下静脉显影仪的控制处理***及成像方法

Country Status (3)

Country Link
US (1) US20190167110A1 (zh)
CN (1) CN106023057B (zh)
WO (1) WO2017201942A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111292267A (zh) * 2020-02-04 2020-06-16 北京锐影医疗技术有限公司 一种基于拉普拉斯金字塔的图像主观视觉效果增强方法

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111709898B (zh) * 2020-06-20 2023-05-23 昆明物理研究所 基于优化clahe的红外图像增强方法与***
WO2022051775A1 (en) 2020-09-04 2022-03-10 Abova, Inc. Method for x-ray dental image enhancement
CN115174763A (zh) * 2022-07-05 2022-10-11 重庆邮电大学 一种基于zynq的图像实时显示***

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110213237A1 (en) * 2008-09-15 2011-09-01 University of Pittsburgh -Of the Commonwealth [Syst] System of Higher Education Echo-specific k-space reordering approach to compatible dual-echo arteriovenography
CN103337071A (zh) * 2013-06-19 2013-10-02 北京理工大学 基于结构重建的皮下静脉三维可视化装置及方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8996086B2 (en) * 2010-09-17 2015-03-31 OptimumTechnologies, Inc. Digital mapping system and method
US9072426B2 (en) * 2012-08-02 2015-07-07 AccuVein, Inc Device for detecting and illuminating vasculature using an FPGA
CN103491328A (zh) * 2013-06-26 2014-01-01 苏州联科盛世科技有限公司 带图像校正的静脉投影仪及图像校正方法
CN104146683A (zh) * 2014-04-24 2014-11-19 深圳大学 一种静脉显像仪及其成像方法
CN104123703B (zh) * 2014-07-09 2017-04-12 广州中国科学院先进技术研究所 一种保持表皮原色的静脉显像方法
CN105581780B (zh) * 2015-12-16 2018-11-02 深圳大学 一种用于皮下静脉显像仪的自适应曝光控制方法及***

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110213237A1 (en) * 2008-09-15 2011-09-01 University of Pittsburgh -Of the Commonwealth [Syst] System of Higher Education Echo-specific k-space reordering approach to compatible dual-echo arteriovenography
CN103337071A (zh) * 2013-06-19 2013-10-02 北京理工大学 基于结构重建的皮下静脉三维可视化装置及方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
唐超颖: "一种基于近红外-可见光映射的快捷静脉提取算法", 《东南大学学报(自然科学版)》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111292267A (zh) * 2020-02-04 2020-06-16 北京锐影医疗技术有限公司 一种基于拉普拉斯金字塔的图像主观视觉效果增强方法

Also Published As

Publication number Publication date
CN106023057B (zh) 2022-11-08
WO2017201942A1 (zh) 2017-11-30
US20190167110A1 (en) 2019-06-06

Similar Documents

Publication Publication Date Title
CN106023057A (zh) 一种用于皮下静脉显影仪的控制处理***及成像方法
CN107886503A (zh) 一种消化道解剖位置识别方法及装置
CN104133299B (zh) 用于制造和使用具有自适应透镜的眼镜的***、方法和设备
Einhäuser et al. Human eye-head co-ordination in natural exploration
CN103126655B (zh) 一种非约束目标的非接触式脉搏波采集***及采集方法
CN112446862B (zh) 一种基于人工智能的动态乳腺超声视频全病灶实时检测和分割装置、***及图像处理方法
CN110522448A (zh) 一种基于图卷积神经网络的脑网络分类方法
CN108268870A (zh) 基于对抗学习的多尺度特征融合超声图像语义分割方法
CN106530279A (zh) 一种图像处理方法及***
CN108550151A (zh) 一种基于对抗训练的反向域自适应方法
CN109615634A (zh) 光学眼底图像分割方法、装置、计算机设备及存储介质
US9491443B2 (en) Image processing method and image processing apparatus
CN104318565B (zh) 基于等梯度距离的双向区域增长的视网膜血管分割交互式方法
CN107680110A (zh) 基于统计形状模型的内耳三维水平集分割方法
CN109620293A (zh) 一种图像识别方法、装置以及存储介质
CN114287915A (zh) 一种基于背部彩色图像的无创脊柱侧弯筛查方法及***
CN104166994B (zh) 一种基于训练样本优化的骨骼抑制方法
CN112569093A (zh) 一种视力提升训练方法
CN205942800U (zh) 一种用于皮下静脉显影仪的控制处理***
CN102600541B (zh) 一种基于磁共振信号控制的运动动画交互***
CN109919216A (zh) 一种用于计算机辅助诊断***癌的对抗学习方法
CN213488763U (zh) 一种便携式智能化舌诊仪
CN101732031A (zh) 眼底图像处理方法
CN107731299A (zh) 一种基于智能设备的用户睡眠的管理方法及管理装置
CN113645370B (zh) 基于微型cmos的高清电子内窥镜图像处理器

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant