CN113108921B - 用于监测对象的温度的方法、设备和*** - Google Patents
用于监测对象的温度的方法、设备和*** Download PDFInfo
- Publication number
- CN113108921B CN113108921B CN202110418241.8A CN202110418241A CN113108921B CN 113108921 B CN113108921 B CN 113108921B CN 202110418241 A CN202110418241 A CN 202110418241A CN 113108921 B CN113108921 B CN 113108921B
- Authority
- CN
- China
- Prior art keywords
- temperature
- image
- pixel
- infrared
- time series
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000012544 monitoring process Methods 0.000 title claims abstract description 66
- 238000011176 pooling Methods 0.000 claims abstract description 86
- 230000008859 change Effects 0.000 claims description 74
- 230000009466 transformation Effects 0.000 claims description 62
- 238000003331 infrared imaging Methods 0.000 claims description 30
- 230000006870 function Effects 0.000 claims description 29
- 230000001133 acceleration Effects 0.000 claims description 23
- 238000007781 pre-processing Methods 0.000 claims description 13
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 9
- 238000003062 neural network model Methods 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 4
- 230000001131 transforming effect Effects 0.000 claims 1
- 238000012545 processing Methods 0.000 abstract description 20
- 230000008569 process Effects 0.000 abstract description 13
- 241000196324 Embryophyta Species 0.000 description 15
- 238000012806 monitoring device Methods 0.000 description 15
- 238000012937 correction Methods 0.000 description 12
- 238000013528 artificial neural network Methods 0.000 description 8
- 238000006243 chemical reaction Methods 0.000 description 7
- 230000002123 temporal effect Effects 0.000 description 7
- 238000013519 translation Methods 0.000 description 7
- 239000003086 colorant Substances 0.000 description 6
- 239000000126 substance Substances 0.000 description 6
- 230000007613 environmental effect Effects 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 4
- 230000000670 limiting effect Effects 0.000 description 4
- 238000000844 transformation Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005856 abnormality Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000036961 partial effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 240000008313 Pseudognaphalium affine Species 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000001816 cooling Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000004925 denaturation Methods 0.000 description 1
- 230000036425 denaturation Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000004821 distillation Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000007710 freezing Methods 0.000 description 1
- 230000008014 freezing Effects 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000004886 process control Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000005057 refrigeration Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000004513 sizing Methods 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J5/00—Radiation pyrometry, e.g. infrared or optical thermometry
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Radiation Pyrometers (AREA)
Abstract
提出用于监测对象的温度的方法、设备和***。该方法包括获取包括所监测对象的红外图像的第一图像时间序列,基于对象轮廓对第一图像时间序列进行池化以生成包括池化图像的第二图像时间序列,确定每个池化图像中的对象轮廓内的所有像素单元的温度时间变化趋势,基于温度时间变化趋势从池化图像的像素单元中选择关注像素单元,以及预测关注像素单元出现超温事件的时间。本申请的方案可以***超温事件,减少预测过程的数据量,提高处理速度,使得***能够及时向操作人员预警。
Description
技术领域
本申请涉及温度监测,更具体地,涉及用于监测诸如自动化工厂设备的对象的温度的方法、设备、计算机存储介质以及***。
背景技术
在涉及温度控制的自动化工厂中,需要对设备和流程的温度进行精确的监测。特别是化工工厂中的各种反应设备和管道需要精确检测温度数据,并且将温度控制在限定范围以内。当检测点的温度超过设定的限定值或范围时,温度监测设备将产生超温报警并通知操作人员。
但是,现有的温度监测设备通常在温度达到设定的温度限制时才确定故障并产生警报。发现警报时温度已经超过限制,并且可能在较短的时间内达到产生故障或事故的程度,导致操作人员没有足够的处理时间。例如在化工工厂中,反应过程持续时间可能较短,并且反应对温度变化非常敏感,因此不及时的处理将对化工工厂的自动化运行带来严重的负面影响。
因此,存在对现有的温度监测方案进行改进的需求。
发明内容
为了解决上述问题中的至少一方面,本申请的实施例提出用于监测对象的温度的方法、设备、计算机存储介质以及***。
根据本申请的一方面,提出一种用于监测对象的温度的方法,包括:
获取包括对象的红外图像的第一图像时间序列;
基于对象的轮廓对第一图像时间序列进行池化以生成包括池化图像的第二图像时间序列;
确定每个池化图像中的对象的轮廓内的所有像素单元的温度时间变化趋势;
基于温度时间变化趋势从池化图像的像素单元中选择关注像素单元;以及
预测关注像素单元出现超温事件的时间。
根据本申请的另一方面,提出一种用于监测对象的温度的设备,包括:
池化单元,被配置为基于所获取的包括对象的红外图像的第一图像时间序列以及对象的轮廓,对第一图像时间序列进行池化以生成包括池化图像的第二图像时间序列;
温度监测单元,被配置为:
确定每个池化图像中的对象的轮廓内的所有像素单元的温度时间变化趋势;
基于温度时间变化趋势从池化图像的像素单元中选择关注像素单元;以及
预测关注像素单元出现超温事件的时间。
根据本申请的又一方面,提出一种用于监测对象的温度的设备,包括处理器;以及存储器,用于存储所述处理器的可执行指令;其中,处理器被设置为执行该可执行指令以执行根据如上所述的方法。
根据本申请的再一方面,提出一种计算机可读存储介质,其上存储有计算机程序,该计算机程序包括可执行指令,当该可执行指令被处理器执行时,执行如上所述的方法。
根据本申请的又一方面,提出一种用于监测对象的温度的***,包括:红外图像采集设备,被配置为获取包括对象的红外成像视频或多个红外图像;以及如上所述的设备。
通过采用本申请的方法、设备以及***,能够基于包括监测对象的红外成像视频或红外图像,通过与对象轮廓相对应的池化操作提取红外图像数据中的关键温度信息,减少数据处理量从而提高数据处理速度。在监测对象区域内跟踪每个像素单元的温度变化趋势,选取可能存在异常的关注点并对这些关注点的温度数据的时间和空间变化趋势进行自动分析,使得***能够在特定关注点的温度达到温度限制之前预测到该超温事件并向操作人员预警。在预警的同时,还可以为操作人员提供诸如将要发生超温事件的时间和位置的详细信息。本申请的方案通用性强,可以与不同设备供应商的图像采集设备配合。
附图说明
通过参照附图详细描述其示例性实施例,本申请的上述和其它特征及优点将变得更加明显。
图1为根据本申请的实施例的用于监测对象的温度的***操作的示例性逻辑流程;
图2为根据本申请的实施例的用于监测对象的温度的方法的示例性流程图;
图3为根据本申请的实施例的用于监测对象的温度的***的示例性结构框图;以及
图4为根据本申请的实施例的电子设备的示例性框图。
具体实施方式
现在将参考附图更全面地描述示例性实施例。然而,示例性实施例能够以多种形式实施,且不应被理解为限于在此阐述的实施方式;相反,提供这些实施方式使得本申请将全面和完整,并将示例性实施例的构思全面地传达给本领域的技术人员。在图中,为了清晰,可能会夸大部分元件的尺寸或加以变形。在图中相同的附图标记表示相同或类似的结构,因而将省略它们的详细描述。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本申请的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本申请的技术方案而没有所述特定细节中的一个或更多,或者可以采用其它的方法、元件等。在其它情况下,不详细示出或描述公知结构、方法或者操作以避免模糊本申请的主要方面。
根据本申请的实施例的方案可以应用于需要温度监测的各种自动化工厂中。这些自动化工厂在设备控制、过程控制等方面都可以涉及定点、定设备或定区域的温度监测。下文中以自动化的化工工厂中的设备的温度监测为例介绍本申请的方案,但是本领域技术人员将理解化工工厂仅用于示例而不是用于对本申请方案进行限制。
在本文中,将需要温度监测的设备(诸如反应炉、精馏塔、管道等)称为被监测的对象。在使用图像采集设备获取的包括被监测设备的视频或图像中,设备的轮廓和所覆盖的区域被称为被监测的对象的轮廓和轮廓内的对象覆盖区域。通过识别对象的轮廓,可以清楚地将红外视频或图像划分为对象的覆盖区域(简称为对象区域)和对象外部的周围环境。对象的周围环境中可以包括工厂中与该对象连接或不存在连接的其它设备、空间等。当需要监测的对象有多个时,每个对象的区域内或周围环境中也可以包括其它对象。这些对象在视频或图像中可以间隔开,相邻,或者相互嵌套或重合。
在温度监测过程中,温度限制包括高温限制、低温限制或者同时具有高温限制和低温限制二者的温度限制范围。温度限制与所监测的对象有关。例如,反应炉和蒸馏塔的温度过高会发生反应过程失败、误差甚至危险,或者导致其周围的工作环境的温度超过操作人员能够承受的温度极限,因此要求关注点的温度不高于高温限值。用于冷藏和降温的设备/管道等当温度过低时会导致设备和管路中的物质冻结、材料/样品损坏、变性等,因此其关注点的温度不低于低温限值。而对于过程控制更严格的设备,需要将其反应温度和相关的设备温度维持在一定的温度范围内,这样例如可以保持化学反应在最优的条件下进行,因此这些设备同时存在高温限制和低温限制。根据本申请的实施例,还可以为所监测的对象针对不同的时间和流程阶段设置不同的温度限制。
图1示出用于监测对象的温度的***的示例性操作流程。
***首先在框110处获取由图像采集设备捕获的包括对象的红外成像视频。
图像采集设备可以是由供应商提供的红外成像设备。在温度监测中,一般优选红外成像设备,也可以使用其它类型的可以获取温度信息的成像设备。通常使用能够拍摄红外成像视频的成像设备(诸如红外成像摄像机)进行录像或者使用能够拍摄红外图像的成像设备(诸如红外照相机)进行连续拍摄。为了能够获取与时间相关的温度变化趋势,红外成像摄像机在拍摄红外成像视频时记录每帧图像的拍摄时间信息,而红外照相机可以基于相同或不同的时间间隔多次拍摄红外图像并记录每次拍摄的时间信息。实际上,红外成像视频可以看作由多帧红外图像构成的红外图像序列。
红外成像设备可以是设置在固定位置(例如,位于所监测的对象顶部、侧面、底部以及上方、侧方或下方距离一定距离处)以便能够从某个(或多个)视角拍摄到包括所监测对象的部分或全部外观和/或内部的单个或多个红外摄像机/照相机。这些红外摄像机也可以构成红外摄像机阵列,将所拍摄的红外成像视频或红外图像拼接或组合成监测范围更大,成像分辨率更高更精细的视频或图像。红外成像设备可以通过有线或无线的方式,在工厂内的专用网络或公共网络将录像或图像信息发送到温度监测设备。被监测的对象可以与温度监测设备位于同一工厂或位置,还可以将温度监测设备设置在工厂的远程位置(此时被监测的对象位于本地,监测设备位于远程),或者工厂的温度监测设备可以获取位于与监测设备所在工厂或位置不同的远程工厂的红外成像设备的图像数据(此时监测设备位于本地,被监测的对象位于远程)。
***获取红外成像视频后,在框120处从视频中提取红外图像。对于红外成像视频,可以提取视频中的若干帧图像,构成包括对象的红外图像的红外图像时间序列(在下文中,被称为第一图像时间序列)。对于拍摄的多个红外图像,可以将这些红外图像直接构成第一图像时间序列。第一图像时间序列中的每个红外图像都具有相应的采集时刻,该时刻可以是红外图像在红外成像视频中的时间戳(相对于视频起始时间的相对时间或者绝对时间),也可以是该红外图像的拍摄时间。第一图像时间序列中的每个图像所对应的时刻之间的间隔可以根据所监测的设备、过程和工厂区域的要求设定。当所监测的对象和过程对于温度变化趋势的精度和灵敏度要求比较高时,可以设定较短的间隔;反之,可以选择较长的间隔。一般可以设定第一图像时间序列中的每个图像之间具有相同的时间间隔。时间间隔例如可以选择为几微秒,几十微秒,几百微秒,几毫秒,几十毫秒,几百毫秒,1秒,2秒,5秒,10秒,30秒,1分钟,几分钟,十几分钟,半小时等。对于红外成像视频,可以提取视频中的所有帧作为第一图像时间序列中的所有红外图像,也可以选择视频中的帧的一部分作为第一图像时间序列中的红外图像。对于拍摄的红外图像,可以在所获取的红外图像中选择满足间隔要求的时刻拍摄的红外图像,也可以在满足所设定的时间间隔的时刻处拍摄包括对象的红外图像来构成第一图像时间序列。
如图1所示,提取的红外图像101中具有对象101a(管道),其具有与其周围环境显著不同的颜色和色深,表明对象101a的温度与红外图像中的其它部分的温度不同。对象101a的轮廓呈直线延伸的长条形,并且其延伸方向(或者称为轴线的方向)与图像101的长边延伸方向(水平方向)呈一定夹角。
所提取的与不同时刻对应的多个红外图像101之间可能存在差异。该差异主要来自以下几个方面:由于所监测对象的移动或者图像采集设备的移动导致的红外图像的移动,该移动包括图像的旋转、平移和缩放(这些统称为仿射);以及由于图像采集设备的成像畸变导致的图像中的对象形状的几何畸变或透视畸变。因此,需要对所提取的第一图像时间序列中的所有红外图像进行矫正。红外图像101的误差比较轻微时,上述矫正也可以被称为微扰矫正。微扰矫正包括仿射变换,其中包括用于调整图像角度的旋转,用于移动图像位置的平移和用于调整图像大小的缩放,以及用于调整透视畸变的透视变换等。
可以使用射影变换进行微扰矫正。由有限次中心射影的积定义的两个相同维度的对象(诸如两条直线,两个平面,两个体积)之间的一一对应变换称为射影变换。射影变换是两个点场的射影变换的简称,诸如包括正交变换、相似变换、仿射变换、透视变换。
从原始图像到目标图像的射影变换可以使用射影变换矩阵或函数表示。为了减少微扰矫正的计算量,提高矫正速度,减少图像的存储空间,可以将红外图像中不属于对象的图像部分,即对象的周围环境进行屏蔽或移除或者降低其图像质量,仅对对象所覆盖的区域(对象的轮廓部分包括的区域)进行射影变换。例如,对周围环境的图像进行屏蔽或降低质量后,仅针对红外图像的包括对象的部分103中的对象103a进行射影变换。
进行射影变换需要分别在原始图像和目标图像中设定对应的参考点,并基于参考点的位置参数(例如几何坐标)确定射影变换的参数。二维图像的射影变换需要四个参考点。两个图像中的四个参考点的坐标可以确定射影变换矩阵或函数的唯一一组解。也可以使用超过四个的参考点,但是射影变换矩阵或函数将存在多组解。当存在多组解时,可以选择最优解,但是这将显著增加计算量,因此通常使用四个参考点。
根据本申请的实施例,用于射影变换的四个参考点可以位于对象的轮廓上或者在轮廓附近或周围(一般位于轮廓外部),用作标记对象的轮廓的标定点。也可以使用诸如三角形、矩形、正方形、五角星等的图案作为标记对象的标定图案。对于所监测的设备,通常可以找到覆盖其全部面积的四边形,该四边形的四个顶点可以用作射影变换的参考点。四边形可以被选择为具有两条平行的边,根据对象的轮廓的形状,四边形可以是梯形或平行四边形,平行四边形可以进一步选择矩形,或者进一步为正方形。红外图像101和102中的对象101a,102a为长条形,可以被距离其轮廓上的四个角足够近的四个点构成的矩形覆盖,因此这四个点可以被设定为用于标记该对象101a和102a的轮廓的标定点。标定点同时具有标记对象轮廓和确定射影变换参数的功能。
设定标定点可以采用多种方式。根据本申请的实施例的一种方式可以在设备的周围设置足以(或者在满足误差的情况下刚好)覆盖所监测对象的区域并能够形成四边形的标定灯。标定灯的颜色需要在所获取的红外成像视频或红外图像中能够被准确地识别。可以使用最大差异色设置标定灯的颜色。最大差异色的确定包括首先拍摄对象的周边环境,并从周边环境的图像中计算像素点的RGB均值,例如表示为(a,b,c)的RGB数值形式,则对象的周围环境的最大差异色的RGB数值为(255-a,255-b,255-c)。颜色设置为最大差异色的标定灯可以容易地从红外图像中被识别,确定对象的轮廓以用于将对象与其周围环境分离。对象的轮廓还可以用于在射影变换中屏蔽或移除红外图像中与周围环境对应的图像部分,减少不必要的信息以节省内存空间。
当红外图像中存在多个需要监测的对象时,可以为每个对象设置对应的四个标定灯组成的标定灯组,并将每个标定灯组设置为不同的最大差异色的邻近色。这些不同的最大差异色的邻近色的RGB数值例如可以选择为由周边环境的图像像素点RGB均值所计算的(a,b,c)数值的最大差异色的邻近数值,例如(205-a,255-b,255-c),(255-a,205-b,255-c)等。根据本申请的实施例,可以维护具有最大差异色的邻近色的标定灯组与对应的对象类型的列表,从而在通过识别标定灯组确定对象的轮廓和确定射影变换矩阵或函数的同时,通过查表确定标定灯颜色所对应的对象类型。也可以预先设定不同对象轮廓所对应的对象类型。
设定标定点的另一种方法是先确定对象的轮廓,再从轮廓上选取四个点作为标定点,即射影变换的参考点。在红外图像101中识别对象101a的轮廓可以采用各种图像识别方法。例如,可以基于机器学习技术,使用神经网络模型识别红外图像中的对象的轮廓和类型。神经网络模型可以采用卷积神经网络,递归神经网络等。在使用神经网络模型前,可以使用具有已经被标记的对象轮廓的红外图像训练数据集训练模型参数,还可以在使用中和使用后进一步优化神经网络模型的参数。使用神经网络模型识别对象的方法可以快速高效地同时完成对象轮廓的识别和对象类型的确定,并且所识别的对象轮廓比标定灯的方式更精确。
另外,还可以将标定灯与机器学习方法结合,通过神经网络模型基于标定灯所标定的四边形形状识别对象的轮廓,确定标定灯的颜色以及标定灯构成的形状和所确定的对象轮廓中的至少一项与对象的类型之间的对应关系。
上文中详细介绍了使用标定点识别对象轮廓的过程。根据本申请的实施例,也可以使用标定图像完成对象轮廓的识别。标定图像的识别模型可以事先建立并确定其参数,在识别时直接调用该模型。标定图像的识别模型可以存储在设备的存储器中,也可以直接内置到识别程序中。
根据本申请的实施例,微扰矫正首先将第一图像时间序列中的第一个红外图像中的对象经过射影变换为该红外图像中的所监测对象的轮廓的轴线或延伸方向与红外图像的基准方向一致,然后将随后的第二个红外图像、第三个红外图像…都通过放射变换为对象轮廓的轴线或延伸方向与红外图像的基准方向一致。这样,每个红外图像中的同一对象的轮廓和轮廓内的区域的方向相同并且像素单元对应。因此,可以容易地将第一图像时间序列中的每个红外图像中的所监测对象的覆盖区域内的各个像素单元进行对齐,或者建立它们之间的对应关系。红外图像的基准方向可以选择红外图像的水平或垂直方向。例如,红外图像101为长方形,可以将其长边延伸方向作为图像的基准方向(例如,水平方向)。对象101a相比红外图像101的基准方向具有45度的偏转,因此可以在框130中通过射影变换将红外图像101逆时针旋转相应角度(45度)形成经矫正的红外图像102。矫正后的红外图像102中的对应对象102a的轮廓变为在与图像102的基准方向一致的水平方向上延伸(或者其轴线与基准方向一致或平行)的长条形。
每个红外图像的矫正可以包括仿射变换(旋转、平移、缩放)和透视变换中的至少一种。例如,第二个红外图像由于拍摄角度的微扰导致对象101a的延伸方向或轴线与红外图像101的基准方向的夹角为44度,则对于第二个红外图像的微扰矫正可以是逆时针旋转44度。再例如,第二个图像又相对第一个图像向右平移了1个像素单元或1毫米,则第二个图像的微扰矫正将通过射影变换使图像再向左平移1个像素单元或1毫米,从而使第一个图像与第二个图像中的对象102a的轮廓范围内的像素单元对齐或建立对应关系。
通过使用射影变换矫正红外图像,使得第一图像时间序列中的每个红外图像中的同一关注对象的相应像素单元对齐或建立它们之间的对应关系。进而,对象轮廓内的每个像素单元都可以获得其温度数据与时间和空间相关的变化趋势。
在本文中,像素单元是对图像进行处理的最小单位。像素单元可以是红外图像中的像素点,也可以是由多个像素点构成的网格。可以使用用于像素合并的算法将多个像素点合并成网格作为像素单元。当图像采集设备生成的图像分辨率很高时,将多个像素点构成的网格作为像素单元进行图像处理可以提高图像处理速度。
包括对象与对象周围环境的经矫正的红外图像102或仅包括对象轮廓内区域的经矫正的红外图像部分103,在框140被转化为二维温度图。基于红外图像的颜色与温度的对应关系,将像素单元的RGB颜色数值转换为温度值数据,从而将包括红外图像的第一图像时间序列转换为包括二维温度图的图像时间序列,其中二维温度图的每个像素单元的数值为温度值数据。二维温度图的图像时间序列可以直观地表示对象的轮廓内的每个像素单元相对于时间(每个时刻)的温度数据时间序列。
温度图像时间序列在框150处对序列中的每个二维温度图的所有像素单元中的温度值数据进行池化操作以生成包括池化图像的图像时间序列(下文中,将池化图像的图像时间序列称为第二图像时间序列)。
池化操作常见于在卷积神经网络中用于处理图像样本的池化层,其与图像的卷积操作对应。像素化的图像属于离散的二维数据集合,通过过滤器过滤图像可以突出或隐藏图像的某些特征或元素。卷积操作对图像进行特征提取,也可以对图像中的信息进行压缩和/或简化。在卷积操作中使用的过滤器即卷积核,进行卷积运算时将连续函数或离散函数的积分转换为等效求和。卷积核的尺寸对应于对图像进行卷积时的单位图像区域。不同尺寸的卷积核可以突出、隐藏或压缩原始图像的不同特征属性。
与卷积操作相比,池化操作通过池化核来减少参数。池化操作可以减少图像中存储的信息量从而降低复杂度,同时卷积运算的特性使得可以保留图像中的重要信息。因此,池化操作可以有效降低图像处理过程的数据量从而降低计算负担,提高图像处理速度。池化操作可以实现神经网络模型的网络层或图像的信息紧凑表示。图像的池化操作的形象化体现例如包括图像分辨率的降低。池化操作可以保持图像在例如仿射变换(旋转、平移、伸缩)和透视变换操作后的某种特征不变。但是,池化核的尺寸越大,其误差(例如,池化值/估计值的方差)越大;而池化核的尺寸越小,其误差越小,池化图像的空间分辨率越高。因此,池化核的选取需要保证在原始图像的数据提取和压缩过程中的精度,也可以在池化过程中动态调整。
常见的池化操作包括最大值池化,平均值池化,最小值池化和随机池化等。最大值池化选取图像中的像素单元的邻域的特征点最大值,可用于纹理提取。平均值池化则对邻域内的特征点取平均值,可用于背景保留。最小值池化与最大值池化相对,选取领域特征点的最小值。随机池化对像素单元按照数值赋予概率或权重,再对每个像素单元的数值进行随机运算,例如随机取邻域内的特征点的值,可用于亚采样。
根据本申请的实施例,在框150处的池化操作中选择具有与所监测的对象的轮廓相对应的形状的池化核。池化核的尺寸(范围)与所监测对象的轮廓的范围,以及对象中需要被分别监控的温度监控区域相关联。
监测对象对应于工厂中的设备,对象轮廓即设备的轮廓。与对象的轮廓对应的池化核形状和范围可以为特定的设备简化和提取对应的温度空间分布特征。矩形(长方形和正方形)的对象的轮廓可以使用矩形或正方形的池化核,其尺寸为n*n或m*n,其中m和n为自然数,并且m不等于n,例如池化核的尺寸为2(像素单元)*2(像素单元),3*3,4*4,2*3,3*4,2*4等。由四个标定点标记的四边形的对象轮廓还可以是梯形和非矩形的平行四边形,也可以使用矩形或正方形的池化核进行池化。对于特殊形状的对象轮廓,例如,长条形管道的对象轮廓可以表征为a*b的像素单元矩阵,其中a和b为自然数并且b>>a,在更特殊情况下,管道的对象轮廓可以是1*n,其中n为远大于1的自然数。这种特殊的矩形轮廓可以沿矩形轮廓的轴线方向(轴向)或延伸方向,选择诸如1*m(m为自然数,并且m<=n)的矩形(长条形)池化核。
由于池化核越大,经池化的图像中的数据量越少但是准确度越低,因此如果对象需要分区域监控温度,则池化核的尺寸应当足以满足对象的监测精度和/或分区域温度监测设置的要求,这也是下文中确定温度的空间变化趋势的前提条件。
基于对象的轮廓选择池化核的形状和尺寸还可以结合与对象轮廓相关联的池化方向,更有针对性地监测温度与对象的形状相关的特定变化趋势。
在上文中,工厂中的设备可以由四个标定点标记的对象轮廓来指示。由四个标定点形成的四边形轮廓一般具有轴向或延伸方向。一般将标定点的位置设置为平行四边形或梯形的顶点。平行四边形可以将较长的平行边的延伸方向作为平行四边形的延伸方向。具有正交对称轴的矩形(特别是正方形)同时具有与长边平行的水平轴线和与短边平行(或与长边垂直)的垂直轴线,二者都可以作为矩形的轴线方向。矩形还可以将长边的延伸方向作为矩形的延伸方向。梯形可以将较长的平行边的延伸方向作为梯形的延伸方向,对称的梯形还可以将对称轴的延伸方向作为轴线方向。在对温度图像时间序列中的每个二维温度图进行池化操作时,可以将池化核沿着对象的轮廓的轴向或延伸方向持续移动预定距离(一个或多个像素单元)。这样,池化操作的像素单元的数值处理方式与实际设备的对应性更好。
在池化过程中,可以采用最大值池化,平均值池化,最小值池化和随机池化中的一种或多种计算方式。
***在获得由经池化的图像组成的第二图像时间序列之后,在框160处确定温度的变化趋势。温度的变化趋势包括时间变化趋势(如分支A所示)以及空间变化趋势(如分支B所示)。
时间变化趋势从第二图像时间序列中的每个池化图像中的同一个像素单元的温度数据构成的温度数据时间序列中提取与确定。对于池化图像中的对象轮廓内的所有像素单元,都存在对应的时间变化趋势。对于每个池化图像中的像素单元,其当前的温度数值为该像素单元的当前时刻的温度(也称为当前温度)。可以通过函数拟合或曲线拟合的方法基于像素单元的温度数据时间序列获得该像素单元的温度变化函数。拟合方法包括但不限于最小二乘拟合(线性或非线性),多项式拟合等。
当使用多项式拟合方法时,使用与不同时刻对应的池化图像中的像素单元的温度数据拟合出该像素单元处的一阶温度函数,从而可以计算得出在相应时刻期间(多个池化图像之间)以及该时刻处的池化图像(当前池化图像)中的像素单元的温度变化速率,即温度变化速率的当前值和区间值。获得一阶温度函数需要至少两个池化图像,例如两个相邻的池化图像——前一池化图像104和后一池化图像105中相应的同一像素单元104c和105c的温度数据。基于第二图像时间序列中的所有池化图像中的对应像素单元的温度变化速率,还可以计算得出温度变化速率的平均值。
还可以基于第二图像时间序列拟合出像素单元的二阶温度函数,从而可以通过温度与时间的二阶(偏)导数计算出在不同时刻期间以及当前时刻处的池化图像中的每个像素单元的温度变化加速度,即温度变化加速度的当前值和区间值。获得二阶温度函数需要至少三个池化图像,例如三个相邻的池化图像(图1中未示出)中的同一像素单元的温度数据。同样可以计算温度变化加速度的平均值。
像素单元的当前温度表示该点的当前温度高低,通过温度限制与当前温度的差值表征像素单元的温度距离温度限制的程度,温度变化速率表示该像素单元趋近或远离温度限制的快慢,而温度变化加速度则表示温度趋近或远离温度限制的速度的剧烈程度。可能存在像素单元的当前温度或初始温度不高(低)但是其温度变化速率更大从而更快地达到或超过温度限制的情况,还可能存在像素单元的当前温度变化速率不快但是温度变化加速度快从而更快地达到或超过温度限制的情况。
也可以通过诸如神经网络的深度学习方法基于像素单元的历史温度数据时间序列获得该像素单元的温度变化趋势或温度变化函数。例如,使用像素单元的先前时间的多个或所有温度数据作为神经网络的输入,输出未来时刻的温度数据的预测。为了获得神经网络的准确参数,可以在***运行一段时间内采集像素单元的多个温度数据作为训练数据来训练神经网络,以用于未来时间的温度数据预测。神经网络可以选择诸如LSTM网络的模型。进一步,还可以使用当前像素单元周围的其它像素单元的历史温度数据,充分利用先前时间的温度数据以及像素单元周围的像素单元的温度数据作为附加数据获得温度数据的更准确的预测。例如,对于像素单元X1,其周围的像素点包括X2和X3,则像素单元X1在时刻n的温度数据X1(n)=f(X1(n-1),X1(n-2),X1(n-3),…,X2(n-1),X2(n-2),X2(n-3),…,X3(n-1),X3(n-2),X3(n-3),…),其中n-1,n-2,…为时刻n的先前时刻。
由于池化图像中的对象轮廓内可能覆盖很多像素单元,因此需要在框170处从这些像素单元中选择最有可能达到或超过温度限制的那些像素单元,优先监测它们的温度时间变化趋势,减少监测数据量,提高监测效率和响应速度。被选择出的像素单元可以被称为“关注像素单元”或“关注点(当像素单元为像素点时)”。
选择关注像素单元的标准可以基于框190处得出的环境温度参考数据设定。在池化图像中,还可以获得对象的周围环境中的像素单元的温度数据构成的温度数据时间序列并计算得出包括环境温度参考值(当前值或平均值),环境温度变化速率(当前值、区间值或平均值),以及环境温度变化加速度(当前值、区间值或平均值)的环境温度参考数据。也可以在对象所对应的设备的周围环境中设置温度传感器采集环境温度时间序列以便计算上述温度的参考数据。特别地,也可以手动设定环境温度参考值、环境温度变化速率和环境温度变化加速度中的至少一个。
回到框170,将满足如下条件中的至少一个的像素单元选择为关注像素单元:1)当前温度/区间温度/温度平均值达到或超过环境温度参考值的当前温度/区间温度/温度平均值;2)温度变化速率的当前值/区间值/平均值达到或超过环境温度变化速率的当前值/区间值/平均值;3)温度变化加速度的当前值/区间值/平均值达到或超过环境温度变化加速度的当前值/区间值/平均值。上述条件相当于:达到或超过(高温限制时为正向超过,低温限制时为反向超过)环境温度参考值,即更接近温度限制的像素单元和/或更快速地接近温度限制的像素单元越需要被关注。根据本申请的实施例,上述各项温度数据的当前值更能反映像素单元的瞬时和短期变化,时效性更优。随着所拍摄的红外成像视频或红外图像的持续采集,包括红外图像的第一图像时间序列,进而包括池化图像的第二图像时间序列的数据不断更新,使得像素单元的温度数据持续更新。因此,关注像素单元的集合可以实时更新,将满足上述条件的新像素单元加入集合,也可以将不再满足条件的像素单元从关注像素单元的集合中移除。
在基于温度的时间变化趋势选择关注像素单元之后,还可以为这些关注像素单元生成温度的空间变化趋势以提供更多的温度监测信息作为监测详情或扩展内容。空间变化趋势针对每个池化图像对应的时刻计算。如图1的分支B所示,计算池化图像105中的像素单元105c周围的位于对象的轮廓内的8个相邻像素单元(包括右侧的像素单元105d)的温度值数据,并进一步计算这些相邻的像素单元与像素单元105c的温度值差异。温度值差异体现关注像素单元的温度变化是否会蔓延到与其相邻的其它像素单元或区域,以及蔓延的程度。温度值差异越小,说明温度变化越容易蔓延。
在池化操作时,可以基于温度的空间变化趋势的计算需求来设置相应的池化参数,例如选择相应的池化核的形状和尺寸。例如,如果诸如压缩机的设备的长宽比接近,所采集的红外图像中的对象轮廓近似为正方形,则通过池化操作后,池化图像的尺寸为n*n,其中n>8,则不位于池化图像的边缘并且可以用于确定温度的空间变化趋势的像素单元的数量将大于n2/2。
持续地针对关注像素单元监测温度的时间和空间变化趋势过程中,当预测到可能存在达到或超出温度限制的超温事件时,在框180处计算预测发生超温事件的时间,和/或向操作人员报警。
基于框160处确定的温度的时间变化趋势(包括当前温度、温度变化速率和温度变化加速度),将所有关注像素单元的当前值、温度限制(高温限制和低温限制中的至少一个)作为温度变化函数的初始值和最终值输入温度变化函数,计算出该像素单元是否将在有限时间内达到或超过温度限制,同时确定达到温度限制的预计的剩余时间(如果能达到或超过的话)。对于使用神经网络预测像素单元的温度数据的方式,还可以训练神经网络预测像素单元在温度达到或超过温度限制时所需的剩余时间。可以为不同的监测设备设置对应的超温预处理时间,并且可以设定等于,稍微大于,或大于超温预处理时间的剩余时间阈值。当预计的剩余时间小于或等于剩余时间阈值时,确定该像素单元的将预计发生超温事件,并且警示操作人员在发生超温事件之前进行预处理以避免超温。剩余时间阈值设置还可以与监测的第一图像时间序列中的每个红外图像之间的时间间隔有关。例如,如果提取的每个红外图像之间的间隔较短则超温预测越准确,剩余时间阈值可以设置得相对较短,如果图像之间的间隔较长则超温预测的误差较大,可以设置更大的剩余时间阈值。通过预测超温事件并提前报警,使得操作人员在超温事件来临之前的处理更及时,容错率更高。
在预测将发生超温事件而生成告警时,除了预计时间之外,还可以结合在框130处确定的对象的轮廓和类别,提供发生超温事件的位置(例如对象所处的位置以及关注像素单元的坐标),发生超温事件的具体设备以及诸如该设备的温度变化是否会影响其它设备的进一步信息。
根据本申请的实施例的***还可以同时监测红外成像录像或红外图像中的多个对象的温度变化趋势。对于多个对象,可以分别获取相应的第一图像时间序列,分别基于对象的各自的轮廓进行池化操作以生成相应的第二图像时间序列,分别为各个对象中的像素单元确定温度的时间变化趋势和空间变化趋势,以及对于每个对象进行超温事件的预测和报警。
图2示出根据本申请的实施例的用于监测对象的温度的方法200的示例性步骤,其中与图1中介绍的***操作流程中类似的部分将不再详述。
方法200主要包括如下步骤:
S210:获取由多个红外图像构成的第一图像时间序列,其中红外图像中具有所监测的对象。具体地,步骤S210可以进一步包括子步骤S211-S213。在子步骤S211中,通过图像采集设备拍摄红外成像视频。然后在子步骤S212中从红外成像视频中逐帧或间隔地选择部分帧来提取第一图像时间序列。如果图像采集设备是拍摄红外图像的红外照相机,则可以根据设定的间隔时间直接拍摄红外图像构成第一图像时间序列,跳过子步骤S212。在子步骤S213中,使用射影变换对红外图像进行矫正。射影变换可以包括仿射变换(旋转,平移,缩放)和透视变换中的至少一种。射影变换需要首先在子步骤S213a中识别用于标记对象的轮廓的标定点的参数。当标定点采用预先设置的标定灯的形式时,通过识别标定灯的基于周围环境的颜色确定的最大差异色来确定对象的轮廓,还可以根据标定灯的颜色,标定灯构成的形状,和/或所确定的对象的轮廓确定对象的类别。如果采用类似机器学***移、缩放)和透视变换每个红外图像或者每个红外图像中的对象轮廓所包含的图像区域,使不同红外图像中的对象的轮廓对齐或建立对应关系。其中,旋转对象可以通过将对象的轮廓的轴线或延伸方向与红外图像的基准方向一致来完成。
S220:基于步骤S210中获取的对象的轮廓,对第一图像序列中的红外图像进行池化操作,以生成由经池化的图像构成的第二图像时间序列。步骤S220可以进一步包括子步骤S221,将红外图像中的每个像素单元的颜色值转换为温度值,从而生成由二维温度图构成的温度图像时间序列。接下来,在子步骤S222中执行具体的池化操作。为了使池化操作更有针对性地监测像素单元的温度与对象的形状相关联的变化趋势,可以基于与对象的轮廓相对应的形状选择池化核,基于对象的轮廓,温度监测精度和/或温度监测区域设置来设置池化核的尺寸,以及进一步选择对象轮廓的轴向或延伸方向进行池化。
S230:在获得第二图像时间序列后,确定每个池化图像中的对象轮廓内的所有像素单元的温度的时间变化趋势。基于每个对象的轮廓内的像素单元的温度数据时间序列,在子步骤S231中通过诸如拟合的方式确定像素单元的温度变化函数,以及在步骤S232中确定像素单元的当前温度、温度变化速率和温度变化加速度等时间变化参数。
S240:从对象的轮廓内包含的池化图像的像素单元中,按照设定的标准选择与发生超温事件更相关的关注像素单元。进行选择的标准可以在子步骤S241中确定,其中可以基于池化图像中的对象的周围环境的温度数据或者基于在对象所对应的设备周围设置的温度传感器采集的温度数据确定环境温度参考数据,这些参考数据包括环境温度参考值,环境温度变化速率和环境温度变化加速度中的至少一个。在子步骤S242中,将像素单元的时间变化参数与环境温度参考数据进行比较,当像素单元的相应时间变化参数超过环境温度参考数据时,将该像素单元选择为关注像素单元。关注像素单元可以实时更新,也可以进一步对关注像素单元计算温度空间变化趋势,如子步骤S243所示。温度空间变化趋势可以通过计算关注像素单元与对象轮廓内的相邻像素单元的温度值差异确定,从而判断关注像素单元的温度变化是否会蔓延或影响周围的其它像素单元或区域。
S250:将关注像素单元的当前温度和作为最终温度的温度限制代入像素单元的温度变化函数,预测关注像素单元到达或超过温度限制的剩余时间,并且与预先设置的剩余时间阈值进行比较,预测是否存在超温事件,以及在预测存在超温事件时进行报警并提供发生超温事件的预计时间、位置以及其它进一步信息。温度限制可以包括高温限制和低温限制中的至少一个,剩余时间阈值也与温度限制,超温预测的精度以及超温事件的处理需求有关。
图3示出根据本申请的实施例的用于监测对象的温度的***300。其中,与图1所示的***的类似部分将不再详述。
***300包括用于监测对象的温度的监测设备310和红外图像采集设备320。监测设备310用于基于从红外图像采集设备320捕获的红外成像视频或红外图像,对设备进行温度监测。
监测设备310主要包括池化单元312和温度监测单元313。池化单元312用于基于包括对象的红外图像的第一时间序列以及对象的轮廓进行池化操作,生成包括经池化的图像的第二图像时间序列。
池化单元312可以在对红外图像进行池化之前,通过将红外图像的像素单元的颜色值转换为温度值生成包括二维温度图的温度图像时间序列,并对温度图像时间序列进行池化。池化操作包括基于与对象的轮廓相对应的形状选择池化核,基于对象的轮廓,温度监测精度和/或温度监测区域设置来设置池化核的尺寸,以及进一步选择对象轮廓的轴向或延伸方向进行池化。
温度监测单元313则用于确定每个池化图像中的对象轮廓内的所有像素单元的温度时间变化趋势,并基于该温度时间变化趋势从对象轮廓内包含的池化图像的像素单元中选择关注像素单元,对关注像素单元预测其出现超温事件的时间。温度时间变化趋势包括针对每个池化图像中的对象的轮廓内的所有像素单元基于每个像素单元在池化图像中的温度数据时间序列所确定的像素单元的当前温度和温度变化函数。将从温度变化函数计算的温度变化速率、温度变化加速度和当前温度与基于红外图像获取的对象的周围环境温度参考数据或设备周围设置的温度传感器采集的周围环境温度参考数据进行比较,选择更可能在有限时间内出现超温事件的像素单元作为关注像素单元。对于选择的关注像素单元,还可以进一步计算其温度空间变化趋势。通过判断从温度变化函数得出的关注像素单元发生超温事件的预测剩余时间是否等于或超出剩余时间阈值,可以预测是否存在超温事件的风险并进行警报,提示操作人员提前进行处理。
监测设备310还可以包括在池化单元312进行池化之前,对红外图像进行图像预处理的图像预处理单元311。图像预处理单元311用于从来自红外图像采集设备320的红外成像视频中提取包括红外图像的第一图像时间序列,以及对每个红外图像进行矫正。在矫正时,使用通过标定点标记的位置和对象的轮廓,进行诸如仿射变换(旋转,平移,缩放)和透视变换的射影变换,以使对象的轮廓的轴线或延伸方向与红外图像的基准方向一致。为了减少计算量和存储空间,可以仅针对对象轮廓内的红外图像部分进行射影变换,移除、屏蔽对象轮廓之外的图像部分或降低其图像质量。对于标定点的相关内容,参见上文参照图1所介绍的部分。
根据本申请的实施例,还可以将图像预处理单元311替代地设置在红外图像采集设备320中,即图像预处理单元321。也可以将图像预处理单元311的部分功能设置在红外图像采集设备320中。将图像预处理单元311的功能转移到红外图像采集设备320可以减少其与监测设备310之间通过接口传输的数据量,提高监测设备310的通用性和效率。
如上所述的方法、设备以及***,能够基于所获取的红外成像视频或红外图像,通过与对象轮廓相对应的池化操作提取红外图像数据中的关键温度信息,减少数据处理量从而提高数据处理速度。在监测对象区域内跟踪每个像素单元的温度变化趋势,选取可能存在异常的关注点并对这些关注点的温度数据的时间和空间变化趋势进行自动分析,使得***能够在特定关注点的温度达到温度限制之前预测到该事件并向操作人员预警。在预警的同时,还可以为操作人员提供诸如将要发生超温事件的时间和位置的详细信息等。该方案通用性强,可以与不同设备供应商的图像采集设备配合。
应当注意,尽管在上文详细描述中提及了用于监测对象的温度的***的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本申请的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。作为模块或单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本申请的方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
在本申请的示例性实施例中,还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序包括可执行指令,该可执行指令被处理器执行时可以实现上述任意一个实施例中所述用于监测对象的温度的方法的步骤。在一些可能的实施方式中,本申请的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书用于监测对象的温度的方法中描述的根据本申请各种示例性实施例的步骤。
根据本申请的实施例的用于实现上述方法的程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本申请的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本申请操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
在本申请的示例性实施例中,还提供一种电子设备,该电子设备可以包括处理器,以及用于存储所述处理器的可执行指令的存储器。其中,所述处理器配置为经由执行所述可执行指令来执行上述任意一个实施例中的用于监测对象的温度的方法的步骤。
所属技术领域的技术人员能够理解,本申请的各个方面可以实现为***、方法或程序产品。因此,本申请的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“***”。
下面参照图4来描述根据本申请的这种实施方式的电子设备400。图4显示的电子设备400仅仅是一个示例,不应对本申请的实施例的功能和使用范围带来任何限制。
如图4所示,电子设备400以通用计算设备的形式表现。电子设备400的组件可以包括但不限于:至少一个处理单元410、至少一个存储单元420、连接不同***组件(包括存储单元420和处理单元410)的总线430、显示单元440等。
其中,存储单元存储有程序代码,程序代码可以被处理单元410执行,使得处理单元410执行上文中用于监测对象的温度的方法中描述的根据本申请各种示例性实施方式的步骤。例如,处理单元410可以执行如图2中所示的步骤。
存储单元420可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)4201和/或高速缓存存储单元4202,还可以进一步包括只读存储单元(ROM)4203。
存储单元420还可以包括具有一组(至少一个)程序模块4205的程序/实用工具4204,这样的程序模块4205包括但不限于:操作***、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线430可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备400也可以与一个或多个外部设备500(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备400交互的设备通信,和/或与使得该电子设备400能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口450进行。并且,电子设备400还可以通过网络适配器460与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。网络适配器460可以通过总线430与电子设备400的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备400使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本申请的实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、或者网络设备等)执行根据本申请实施方式的用于监测对象的温度的方法。
本领域技术人员在考虑说明书及实践这里公开的内容后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由所附的权利要求指出。
Claims (56)
1.一种用于监测对象的温度的方法,包括:
获取包括所述对象的红外图像的第一图像时间序列;
基于所述对象的轮廓对所述第一图像时间序列进行池化以生成包括池化图像的第二图像时间序列;
确定每个所述池化图像中的所述对象的轮廓内的所有像素单元的温度时间变化趋势;
基于所述温度时间变化趋势从所述池化图像的像素单元中选择关注像素单元;以及
预测所述关注像素单元出现超温事件的时间。
2.根据权利要求1所述的方法,其中,基于所述对象的轮廓对所述第一图像时间序列进行池化进一步包括:
通过将所述红外图像的像素单元的颜色值转换为温度值生成包括二维温度图的温度图像时间序列,以及对所述温度图像时间序列进行池化。
3.根据权利要求1所述的方法,其中,基于所述对象的轮廓对所述第一图像时间序列进行池化包括:
选择具有与所述对象的轮廓对应的形状的池化核。
4.根据权利要求3所述的方法,其中,基于所述对象的轮廓对所述第一图像时间序列进行池化进一步包括:
基于所述对象的轮廓,温度监测精度和/或温度监测区域设置所述池化核的尺寸。
5.根据权利要求3所述的方法,其中,基于所述对象的轮廓对所述第一图像时间序列进行池化进一步包括:
沿着所述对象的轮廓的轴向或延伸方向对所述对象的轮廓内的像素单元进行池化。
6.根据权利要求1所述的方法,其中,确定每个所述池化图像中的所述对象的轮廓内的所有像素单元的温度时间变化趋势包括:
针对每个所述池化图像中的所述对象的轮廓内的所有像素单元,基于每个像素单元在所述池化图像中的温度数据时间序列和/或所述像素单元的周围的像素单元的温度数据时间序列确定所述像素单元的当前温度和温度变化函数。
7.根据权利要求6所述的方法,其中,基于所述温度变化函数确定温度变化速率和温度变化加速度中的至少一个。
8.根据权利要求7所述的方法,其中,基于所述温度时间变化趋势从所述池化图像的像素单元中选择关注像素单元包括:
将满足如下条件中的至少一个的所述池化图像中的所述对象的轮廓内的像素单元选择为所述关注像素单元:
所述当前温度达到或超过环境温度参考值;
所述温度变化速率达到或超过环境温度变化速率;以及
所述温度变化加速度达到或超过环境温度变化加速度。
9.根据权利要求8所述的方法,其中,基于所述对象的周围环境温度数据确定所述环境温度参考值,所述环境温度变化速率和所述环境温度变化加速度。
10.根据权利要求1所述的方法,其中,进一步包括确定所述关注像素单元的温度空间变化趋势。
11.根据权利要求10所述的方法,其中,确定所述关注像素单元的温度空间变化趋势包括:
计算所述关注像素单元与所述池化图像中的所述对象的轮廓内的相邻像素单元的温度差异。
12.根据权利要求7所述的方法,其中,预测所述关注像素单元出现超温事件的时间包括:
基于所述关注像素单元的所述当前温度,所述温度变化速率和所述温度变化加速度中的至少一个,以及温度限值来确定将达到所述温度限值的所述关注像素单元和达到所述温度限值的剩余时间。
13.根据权利要求12所述的方法,其中,进一步包括在所述剩余时间等于或小于剩余时间阈值时进行报警。
14.根据权利要求12所述的方法,其中,所述温度限值包括低温限制和高温限制中的至少一个。
15.根据权利要求1所述的方法,其中,获取包括所监测的对象的红外图像的第一图像时间序列包括:
获取包括所述对象的红外成像视频;以及
从所述红外成像视频中提取包括至少两个所述红外图像的所述第一图像时间序列。
16.根据权利要求1所述的方法,其中,获取包括所监测的对象的红外图像的第一图像时间序列进一步包括:
对所述第一图像时间序列中的所述红外图像进行矫正。
17.根据权利要求16所述的方法,其中,对所述第一图像时间序列中的所述红外图像进行矫正包括:
对所述第一图像时间序列中的所有所述红外图像进行射影变换,以使所述对象的轮廓的轴线或延伸方向与所述红外图像的基准方向一致。
18.根据权利要求17所述的方法,其中,对所述第一图像时间序列中的所有所述红外图像进行射影变换包括:
从所述红外图像中移除不属于所述对象的图像部分并且仅针对所述对象的轮廓内的图像进行射影变换。
19.根据权利要求17所述的方法,其中,所述射影变换包括以下变换中的至少一个:透视变换和仿射变换。
20.根据权利要求17所述的方法,其中,所述射影变换包括:
识别在所述红外图像中的用于标记所述对象的轮廓的标定点或标定图案;以及
基于所述标定点或标定图案确定所述对象的轮廓以及进行所述射影变换。
21.根据权利要求20所述的方法,其中,所述标定点为四个设置在所述对象的轮廓上或在其周围的标定灯。
22.根据权利要求21所述的方法,其中,所述标定灯或所述标定图案的颜色被设置为基于所述红外图像中的所述对象的周围环境的颜色确定的最大差异色。
23.根据权利要求22所述的方法,其中,基于所述标定灯或所述标定图案的颜色和/或所述对象的轮廓确定所述对象的类别。
24.根据权利要求17所述的方法,其中,所述射影变换包括:
使用神经网络模型识别所述红外图像中的所述对象的轮廓和/或类别。
25.根据权利要求1所述的方法,其中,所述红外图像中包括多个对象。
26.根据权利要求1至25中任一项所述的方法,其中,所述像素单元为图像的像素点或由多个像素点构成的网格。
27.一种用于监测对象的温度的设备,包括:
池化单元,被配置为基于所获取的包括所述对象的红外图像的第一图像时间序列以及所述对象的轮廓,对所述第一图像时间序列进行池化以生成包括池化图像的第二图像时间序列;
温度监测单元,被配置为:
确定每个所述池化图像中的所述对象的轮廓内的所有像素单元的温度时间变化趋势;
基于所述温度时间变化趋势从所述池化图像的像素单元中选择关注像素单元;以及
预测所述关注像素单元出现超温事件的时间。
28.根据权利要求27所述的设备,其中,所述池化单元进一步被配置为:
通过将所述红外图像的像素单元的颜色值转换为温度值生成包括二维温度图的温度图像时间序列,以及对所述温度图像时间序列进行池化。
29.根据权利要求27所述的设备,其中,所述池化单元进一步被配置为:
选择具有与所述对象的轮廓对应的形状的池化核;
基于所述对象的轮廓,温度监测精度和/或温度监测区域设置所述池化核的尺寸;和/或
沿着所述对象的轮廓的轴向或延伸方向对所述对象的轮廓内的像素单元进行池化。
30.根据权利要求27所述的设备,其中,所述温度监测单元进一步被配置为:
针对每个所述池化图像中的所述对象的轮廓内的所有像素单元,基于每个像素单元在所述池化图像中的温度数据时间序列和/或所述像素单元的周围的像素单元的温度数据时间序列确定所述像素单元的当前温度和温度变化函数。
31.根据权利要求30所述的设备,其中,所述温度监测单元进一步被配置为基于所述温度变化函数确定温度变化速率和温度变化加速度中的至少一个。
32.根据权利要求31所述的设备,其中,所述温度监测单元进一步被配置为:
将满足如下条件中的至少一个的所述池化图像中的所述对象的轮廓内的像素单元选择为所述关注像素单元:
所述当前温度达到或超过环境温度参考值;
所述温度变化速率达到或超过环境温度变化速率;以及
所述温度变化加速度达到或超过环境温度变化加速度。
33.根据权利要求32所述的设备,其中,所述温度监测单元进一步被配置为基于所述对象的周围环境温度数据确定所述环境温度参考值,所述环境温度变化速率和所述环境温度变化加速度。
34.根据权利要求27所述的设备,其中,所述温度监测单元进一步被配置为确定所述关注像素单元的温度空间变化趋势。
35.根据权利要求34所述的设备,其中,所述温度监测单元进一步被配置为:
计算所述关注像素单元与所述池化图像中的所述对象的轮廓内的相邻像素单元的温度差异。
36.根据权利要求31所述的设备,其中,所述温度监测单元进一步被配置为:
基于所述关注像素单元的所述当前温度,所述温度变化速率和所述温度变化加速度中的至少一个,以及温度限值来确定将达到所述温度限值的所述关注像素单元和达到所述温度限值的剩余时间。
37.根据权利要求36所述的设备,其中,所述温度监测单元进一步被配置为在所述剩余时间等于或小于剩余时间阈值时进行报警。
38.根据权利要求36所述的设备,其中,所述温度限值包括低温限制和高温限制中的至少一个。
39.根据权利要求27所述的设备,还包括图像预处理单元,所述图像预处理单元被配置为:
从所获取的包括所述对象的红外成像视频中提取包括至少两个所述红外图像的所述第一图像时间序列。
40.根据权利要求39所述的设备,其中,所述图像预处理单元进一步被配置为:
对所述第一图像时间序列中的所述红外图像进行矫正。
41.根据权利要求40所述的设备,其中,所述图像预处理单元进一步被配置为:
对所述第一图像时间序列中的所有所述红外图像进行射影变换,以使所述对象的轮廓的轴线或延伸方向与所述红外图像的基准方向一致。
42.根据权利要求41所述的设备,其中,所述图像预处理单元进一步被配置为:
从所述红外图像中移除不属于所述对象的图像部分并且仅针对所述对象的轮廓内的图像进行射影变换。
43.根据权利要求41所述的设备,其中,所述射影变换包括以下变换中的至少一个:透视变换和仿射变换。
44.根据权利要求41所述的设备,其中,所述射影变换包括:
识别在所述红外图像中的用于标记所述对象的轮廓的标定点或标定图案;以及
基于所述标定点或标定图案确定所述对象的轮廓以及进行所述射影变换。
45.根据权利要求44所述的设备,其中,所述标定点为四个设置在所述对象的轮廓上或在其周围的标定灯。
46.根据权利要求45所述的设备,其中,所述标定灯或所述标定图案的颜色被设置为基于所述红外图像中的所述对象的周围环境的颜色确定的最大差异色。
47.根据权利要求46所述的设备,其中,所述图像预处理单元进一步被配置为基于所述标定灯或所述标定图案的颜色和/或所述对象的轮廓确定所述对象的类别。
48.根据权利要求41所述的设备,其中,所述射影变换包括:
使用神经网络模型识别所述红外图像中的所述对象的轮廓和/或类别。
49.根据权利要求27所述的设备,其中,所述红外图像中包括多个对象。
50.根据权利要求27至49中任一项所述的设备,其中,所述像素单元为图像的像素点或由多个像素点构成的网格。
51.一种用于监测对象的温度的设备,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器被设置为执行所述可执行指令以执行根据权利要求1至25中任一项所述的方法。
52.一种计算机可读存储介质,其上存储有计算机程序,该计算机程序包括可执行指令,当该可执行指令被处理器执行时,执行根据权利要求1至25中任一项所述的方法。
53.一种用于监测对象的温度的***,包括:
红外图像采集设备,被配置为获取包括所述对象的红外成像视频或多个红外图像;以及
根据权利要求27至50中任一项所述的设备。
54.根据权利要求53所述的***,其中,所述红外图像采集设备进一步包括根据权利要求39至47中任一项所述的图像预处理单元。
55.根据权利要求53所述的***,其中,所述红外图像采集设备是红外摄像机或红外摄像机阵列。
56.根据权利要求53所述的***,进一步包括用于获取所述对象的周围环境温度数据的温度采集设备。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110418241.8A CN113108921B (zh) | 2021-04-19 | 2021-04-19 | 用于监测对象的温度的方法、设备和*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110418241.8A CN113108921B (zh) | 2021-04-19 | 2021-04-19 | 用于监测对象的温度的方法、设备和*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113108921A CN113108921A (zh) | 2021-07-13 |
CN113108921B true CN113108921B (zh) | 2023-11-24 |
Family
ID=76718725
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110418241.8A Active CN113108921B (zh) | 2021-04-19 | 2021-04-19 | 用于监测对象的温度的方法、设备和*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113108921B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114485954A (zh) * | 2021-12-16 | 2022-05-13 | 国网山东省电力公司济宁供电公司 | 一种电缆附件温度数据异常判断方法及*** |
CN114049353B (zh) * | 2022-01-11 | 2022-05-03 | 合肥金星智控科技股份有限公司 | 炉管温度监测方法 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4407528A1 (de) * | 1994-03-07 | 1995-09-21 | Sq Services Ag | System und Verfahren zur Bildauswertung |
JP2011516837A (ja) * | 2008-03-31 | 2011-05-26 | ゼネラル・エレクトリック・カンパニイ | サーモグラフィーで同定された複合材料の欠陥の特性評価 |
CN102890823A (zh) * | 2011-07-19 | 2013-01-23 | 株式会社东芝 | 运动对象轮廓提取及左心室图像分割方法和装置 |
US9858388B1 (en) * | 2016-09-26 | 2018-01-02 | International Business Machines Corporation | Health monitoring using parallel cognitive processing |
CN109919905A (zh) * | 2019-01-08 | 2019-06-21 | 浙江大学 | 一种基于深度学习的红外无损检测方法 |
US20190339159A1 (en) * | 2018-05-03 | 2019-11-07 | Quantum IR Technologies, LLC | Infrared imaging systems and methods for oil leak detection |
CN110598736A (zh) * | 2019-08-06 | 2019-12-20 | 西安理工大学 | 一种电力设备红外图像故障定位、识别与预测方法 |
CN110738251A (zh) * | 2019-10-11 | 2020-01-31 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、电子设备及存储介质 |
US20210056678A1 (en) * | 2019-08-22 | 2021-02-25 | Saudi Arabian Oil Company | System and method for cyber-physical inspection and monitoring of nonmetalic structures |
CN112614085A (zh) * | 2019-09-19 | 2021-04-06 | 漳州立达信光电子科技有限公司 | 一种物体检测方法、装置及终端设备 |
-
2021
- 2021-04-19 CN CN202110418241.8A patent/CN113108921B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE4407528A1 (de) * | 1994-03-07 | 1995-09-21 | Sq Services Ag | System und Verfahren zur Bildauswertung |
JP2011516837A (ja) * | 2008-03-31 | 2011-05-26 | ゼネラル・エレクトリック・カンパニイ | サーモグラフィーで同定された複合材料の欠陥の特性評価 |
CN102890823A (zh) * | 2011-07-19 | 2013-01-23 | 株式会社东芝 | 运动对象轮廓提取及左心室图像分割方法和装置 |
US9858388B1 (en) * | 2016-09-26 | 2018-01-02 | International Business Machines Corporation | Health monitoring using parallel cognitive processing |
US20190339159A1 (en) * | 2018-05-03 | 2019-11-07 | Quantum IR Technologies, LLC | Infrared imaging systems and methods for oil leak detection |
CN109919905A (zh) * | 2019-01-08 | 2019-06-21 | 浙江大学 | 一种基于深度学习的红外无损检测方法 |
CN110598736A (zh) * | 2019-08-06 | 2019-12-20 | 西安理工大学 | 一种电力设备红外图像故障定位、识别与预测方法 |
US20210056678A1 (en) * | 2019-08-22 | 2021-02-25 | Saudi Arabian Oil Company | System and method for cyber-physical inspection and monitoring of nonmetalic structures |
CN112614085A (zh) * | 2019-09-19 | 2021-04-06 | 漳州立达信光电子科技有限公司 | 一种物体检测方法、装置及终端设备 |
CN110738251A (zh) * | 2019-10-11 | 2020-01-31 | Oppo广东移动通信有限公司 | 图像处理方法、图像处理装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113108921A (zh) | 2021-07-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109508580B (zh) | 交通信号灯识别方法和装置 | |
CN113108921B (zh) | 用于监测对象的温度的方法、设备和*** | |
US8731241B2 (en) | Activity mapping system | |
CN112116540B (zh) | 一种用于旋钮开关的档位识别方法和*** | |
US20200250944A1 (en) | System and Methods For Computerized Safety and Security | |
EP3462413B1 (en) | Background radiance estimation and gas concentration-length quantification method for optical gas imaging camera | |
KR20140097844A (ko) | 영상 모니터링 시스템에서 영상 제공 방법 및 시스템 | |
CN112435223B (zh) | 目标检测方法、装置及存储介质 | |
CN115880598B (zh) | 一种基于无人机的地面图像检测方法及相关装置 | |
CN104065863A (zh) | 图像处理方法及处理装置 | |
JP2015100019A (ja) | 緩除変化検出システム | |
CN113705788A (zh) | 基于全卷积神经网络的红外图像温度估计方法及*** | |
CN110866475A (zh) | 手部脱离方向盘及图像分割模型训练方法、装置、终端、介质 | |
EP3751245A1 (en) | Smart sensor measurement system | |
CN113344002B (zh) | 一种目标坐标去重方法、***、电子设备及可读存储介质 | |
US11832025B2 (en) | System and methods for computerized health and safety assessments | |
CN113281780B (zh) | 对图像数据进行标注的方法、装置及电子设备 | |
CN113192057A (zh) | 目标检测方法、***、设备及存储介质 | |
CN117314986A (zh) | 基于语义分割的无人机跨模态配电设备巡检图像配准方法 | |
WO2015047479A2 (en) | Isotropic feature matching | |
CN113869163B (zh) | 目标跟踪方法、装置、电子设备及存储介质 | |
CN116311034A (zh) | 一种基于对比检测的机器人巡检*** | |
CN114004891A (zh) | 一种基于目标追踪的配网线路巡检方法及相关装置 | |
CN113108919A (zh) | 人体温度检测方法、装置和存储介质 | |
CN113033397A (zh) | 目标跟踪方法、装置、设备、介质及程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |