CN115100556A - 基于图像分割与融合的增强现实的方法、装置及电子设备 - Google Patents

基于图像分割与融合的增强现实的方法、装置及电子设备 Download PDF

Info

Publication number
CN115100556A
CN115100556A CN202211023758.8A CN202211023758A CN115100556A CN 115100556 A CN115100556 A CN 115100556A CN 202211023758 A CN202211023758 A CN 202211023758A CN 115100556 A CN115100556 A CN 115100556A
Authority
CN
China
Prior art keywords
image
target image
target
night vision
thermal imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211023758.8A
Other languages
English (en)
Other versions
CN115100556B (zh
Inventor
刘天一
吴斐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing LLvision Technology Co ltd
Original Assignee
Beijing LLvision Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing LLvision Technology Co ltd filed Critical Beijing LLvision Technology Co ltd
Priority to CN202211023758.8A priority Critical patent/CN115100556B/zh
Publication of CN115100556A publication Critical patent/CN115100556A/zh
Application granted granted Critical
Publication of CN115100556B publication Critical patent/CN115100556B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761—Proximity, similarity or dissimilarity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/30—Transforming light or analogous information into electric information
    • H04N5/33—Transforming infrared radiation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07—Target detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

本申请涉及一种基于图像分割与融合的增强现实方法、装置及电子设备，在AR眼镜上设置有微光夜视摄像头和红外摄像头，并通过物理方式校准光轴，确保微光夜视摄像头和红外摄像头的摄像端瞄准同一位置，该方法包括：获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像；根据预设的目标检测方法检测所述红外热成像图像中的目标图像，并判断是否检测到目标图像；若是，并根据预设的图像分割算法将检测到的目标图像从红外热成像图像中分割；基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像。本申请便于综合感知目标和环境信息。

Description

基于图像分割与融合的增强现实的方法、装置及电子设备
技术领域
本申请涉及图像融合的领域，尤其是涉及一种基于图像分割与融合的增强现实的方法、装置及电子设备。
背景技术
夜视仪以像增强器为核心器件的夜间外瞄准具，其工作时不用红外探照灯照明目标，而利用微弱光照下目标所反射光线通过像增强器在荧光屏上增强为人眼可感受的可见图像来观察和瞄准目标。
目前，常用的夜视仪主要包括微光夜视仪和红外热成像夜视仪，微弱的自然光经由目标表面放射，进入微光夜视仪，在强光力物镜作用下聚焦于像增强器的光阴极面（与物镜后焦面重合），激发出光电子，在增强器的作用下将一个只被微弱自然光照明的远方目标变成适于人眼观察的可见光图像；红外热成像夜视仪依靠目标自身的红外辐射形成 “热图像”，故又称为”热像仪”。
微光夜视仪能够帮助用户查看周围环境，但很难找到目标，红外热成像夜视仪有利于用户发现有红外特征的目标，但很难看清环境细节。
发明内容
为了便于综合感知目标和环境信息，本申请提供了一种基于图像分割与融合的增强现实的方法、装置及电子设备。
第一方面，本申请提供一种基于图像分割与融合的增强现实的方法，采用如下的技术方案：
一种基于图像分割与融合的增强现实的方法，该方法应用于AR眼镜，在AR眼镜上设置有微光夜视摄像头和红外摄像头，并通过物理方式校准光轴，确保微光夜视摄像头和红外摄像头的摄像端瞄准同一位置，该方法包括：
获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像；
根据预设的目标检测方法检测所述红外热成像图像中的目标图像，并判断是否检测到目标图像；
若是，并根据预设的图像分割算法将检测到的目标图像从红外热成像图像中分割；
基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像。
通过采用上述技术方案，获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像，获取红外热成像图像后根据预设的目标检测方法实时检测红外热成像图像中的目标图像，并判断是否检测到目标图像，当检测到目标图像后将目标图像从红外热成像图像中分割出来，然后基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像，上述方案将微光夜视仪图像易观察环境和红外热成像图像易发现目标的优势结合，无需用户频繁的切换视频源来了解这些信息，便于综合感知目标和环境信息。
可选的，所述据预设的目标检测方法检测红外热成像图像中的目标图像，并判断是否检测到目标图像的方法，具体包括：
获取目标图像素材，根据预设的转化算法将所述目标图像素材转化为第一特征值，并存储；
根据YOLO或Faster R-CNN对目标图像进行检测；
根据预设的转化算法，将检测到的目标图像转化为第二特征值；
将第一特征值与第二特征值进行对比，当所述第一特征值和第二特征值相似度达到阈值时，则判断检测到目标图像。
可选的，根据预设的目标检测方法检测红外热成像图像中的目标图像并判断是否检测到目标图像的方法之后，该方法还包括：
若否，根据预设的目标检测方法检测红外热成像图像中的目标图像，并判断是否检测到目标图像。
可选的，预设的图像分割算法为Trimap-based、Adobe Deep Image Matting和Background Matting中的任意一种。
可选的，根据预设的确定规则，在红外热成像图像中确定第一基点，在微光夜视仪图像中确定第二基点；
基于预设的直角坐标系建立规则以第一基点为原点建第一平面直角坐标系，以第二基点为原点建第二平面直角坐标系；
确定目标图像在第一平面直角坐标系中的坐标；
获取红外热成像图像的垂直方向的像素数和水平方向的像素数和微光夜视仪图像的垂直方向的像素数和水平方向的像素数；
基于预设的调整方式，根据红外热成像图像的垂直方向的像素数和水平方向的像素数和微光夜视仪图像的垂直方向的像素数和水平方向的像素数调整目标图像，形成待融合目标图像；
基于预设的计算方式，根据红外热成像图像的垂直方向的像素数和水平方向的像素数和微光夜视仪图像的垂直方向的像素数和水平方向的像素数以及目标图像在第一平面直角坐标系中的坐标，确定待融合目标图像在第二直角坐标系中的坐标；
根据待融合目标图像在第二直角坐标系中的坐标将目标图像叠加到微光夜视仪图像中，形成显示图像。
可选的，所述根据待融合目标图像在第二直角坐标系中的坐标将目标图像叠加到微光夜视仪图像中，形成显示图像的方法之后，该方法还包括：
获取人工输入的待融合目标图像的坐标；
根据人工输入的待融合目标图像的坐标调整待融合目标图像在微光夜视仪图像中的位置，形成最终图像。
可选的，所述预设的计算方式为：x1/w1=x2/w2，y1/h1=y2/h2；其中，x1为目标图像在第一直角坐标系中的横坐标，w1为微光夜视仪图像的水平方向的像素数；x2为目标图像在第二直角坐标系中的横坐标，w2为红外热成像图像的水平方向的像素数；y1为目标图像在第一直角坐标系中的纵坐标，h1为微光夜视仪图像的垂直方向的像素数，y2目标图像在第二直角坐标系中的纵坐标，h2红外热成像图像的垂直方向的像素数。
第二方面，本申请提供一种基于图像分割与融合的增强现实的装置，采用如下的技术方案：
一种基于图像分割与融合的增强现实的装置，包括：
获取模块，用于获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像；
目标检测模块，用于根据预设的目标检测方法检测所述红外热成像图像中的目标图像，并判断是否检测到目标图像；
图像分割模块，用于若是，并根据预设的图像分割算法将检测到的目标图像从红外热成像图像中分割；
图像融合模块，用于基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像。
第三方面，本申请提供一种电子设，采用如下的技术方案：
一种电子设备，包括存储器和处理器，所述存储器上存储有能够被处理器加载并执行的基于图像分割与融合的增强现实的方法的计算机程序。
综上所述，本申请包括以下有益技术效果：
获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像，获取红外热成像图像后根据预设的目标检测方法实时检测红外热成像图像中的目标图像，并判断是否检测到目标图像，当检测到目标图像后将目标图像从红外热成像图像中分割出来，然后基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像，上述方案将微光夜视仪图像易观察环境和红外热成像图像易发现目标的优势结合，无需用户频繁的切换视频源来了解这些信息，便于综合感知目标和环境信息。
附图说明
图1是本申请提供的基于图像分割与融合的增强现实的方法的流程图。
图2是本申请提供的基于图像分割与融合的增强现实的方法的坐标系建立示意图。
图3是本申请提供的基于图像分割与融合的增强现实的装置的整体结构示意图。
图4是本申请提供的电子设备的结构示意图。
附图标记说明：200、基于图像分割与融合的增强现实的装置；201、获取模块；202、目标检测模块；203、图像分割模块；204、图像融合模块；301、CPU；302、ROM；303、RAM；304、I/O接口；305、输入部分；306、输出部分；307、存储部分；308、通信部分；309、驱动器；310、可拆卸介质。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本申请保护的范围。
另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
本申请使用的所有术语（包括技术术语或者科学术语）与本申请所属领域的普通技术人员理解的含义相同，除非另外特别定义。还应当理解，在诸如通用字典中定义的术语应当被解释为具有与它们在相关技术的上下文中的含义相一致的含义，而不应用理想化或极度形式化的意义来解释，除非这里明确地这样定义。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为说明书的一部分。
目前人们常用的夜视仪主要为微光夜视仪和红外热成像夜视仪，弱的自然光经由目标表面放射，进入微光夜视仪，在强光力物镜作用下聚焦于像增强器的光阴极面（与物镜后焦面重合），激发出光电子，光电子在像增强器内部电子光学***的作用下被加速、聚焦、成像，以极高的速度轰击像增强器的荧光屏，并激发出足够强的可见光，从而把一个只被微弱自然光照明的远方目标变成适于人眼观察的可见光图像，经过目镜的进一步放大，实现更有效地目视观察；红外夜成像夜视仪视仪依靠目标自身的红外辐射形成 “热图像”，故又称为”热像仪”；而微光夜视仪能够帮助用户查看周围环境，但很难找到目标，红外热成像夜视仪有利于用户发现有红外特征的目标（如人体、车辆），但难以看清环境细节。因此微光夜视仪和红外热成像夜视仪在单独使用时，均存在显示信息类型单一，不利于综合感知目标和环境信息的问题。
为了便于综合感知目标和环境信息，本申请实施例公开一种基于图像分割与融合的增强现实的方法、装置及电子设备。
参照图1，基于图像分割与融合的增强现实的方法包括：
S101：获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像。
具体的，在AR眼镜上设置有微光夜视摄像头和红外摄像头，微光夜视摄像头用于采集微光夜视仪图像，红外摄像头用于采集红外热成像图像；微光夜视摄像头和红外摄像头安装完成后通过物理方式校准两摄像头的光轴，确保微光夜视摄像头和红外摄像头瞄准的为同一个点。本实施例中所说的微光夜视摄像头和红外摄像头瞄准的为同一个点，即校准光轴后当微光夜视摄像头和红外摄像头在预设距离范围内拍摄同一个目标时，所拍摄目标形成的图像的中心点的偏差在预设的阈值范围内，如0-3%，使得两摄像头可以获得相同视场角的图像。
在AR眼镜内设置有处理器，微光夜视摄像头采集的微光夜视仪图像和红外摄像头采集的红外热成像图像，上传至处理器，并存储。本实施例中，微光夜视仪图像的采集还可采用高感光度RGB摄像头、全彩夜视摄像头等，在此不做限制。
S102：根据预设的目标检测方法检测红外热成像图像中的目标图像，并判断是否检测到目标图像。
具体的，获取目标图像素材，目标图像素材为检测的目标各种状态下的图像信息，目标为具有红外特征的目标如人体、车辆等。通过爬虫爬取的方式爬取目标图像大数据，并将获取到的目标图像根据预设的转化算法转化为第一特征值即加密字符串，并存储，形成目标识别库；根据Faster R-CNN或YOLO等常见成熟算法，依次完成红外热成像图像输入、生成候选区域、提取特征、判定该特征的目标类型，最后输出检测结果，检测结果为与目标尺寸大小一致的标记方框，标记方框所涵盖的图像即为目标图像。
确定目标图像后，将目标图像转换为第二特征值，将第二特征值与第一特征值进行对比，当第一特征值和第二特征值的相似度达到目标检测阈值时，判断检测到目标，执行步骤S103，当第一特征值和第二特征值的相似度没有达到目标检测阈值时，继续执行步骤S101。
S103：根据预设的图像分割算法将检测到的目标图像从红外热成像图像中分割。
具体的，确定目标图像后，采用预设的图像分割算法将目标图像从红外热成像图像中提取出来，本实施例中，预设的图像分割算法可为Trimap-based、Adobe Deep ImageMatting、Background Matting中的任意一种，在此不做限制，Trimap-based、Adobe DeepImage Matting、Background Matting均为成熟的图像分割算法，具体处理流程在此不做过多赘述。
S104：基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像。
参照图1和图2，具体的，确定目标图像后根据预设的确定规则，在红外热成像图像中确定第一基点，在微光夜视仪图像中确定第二基点，本实施例中，预设的确定规则为选定红外热成像图像左上角的角点为第一基点，选定微光夜视仪图像左上角的角点为第二基点。
第一基点和第二基点确定后根据预设的直角坐标系建立规则以第一基点为原点在红外热成像图像中建立第一直角坐标系，以第二基点为原点在微光夜视仪图像中建立第二直角坐标系，具体的，以原点右侧为X轴的正方向，以原点的下方为Y轴的正方向。
获取红外热成像图像的垂直方向的像素数h2和水平方向的像素数w2和微光夜视仪图像的垂直方向的像素数h1和水平方向的像素数w1，第一直角坐标系确定后，确定目标图像的左边界距离Y轴的距离x1为目标图像的横坐标，目标图像的上边界距离X轴的距离y1为目标图像的横坐标，本实施例中的距离均以像素数表示。
确定目标图像后，获取目标图像的水平方向的像素数a和垂直方向的像素数b，根据公式：a/ w2=c/ w1,b/ h2=d/ h1，其中，c为待融合目标图像的水平方向的像素数，d为待融合目标图像垂直方向的像素数，确定c和d后根据c和d调整目标图像形成待融合目标图像。
确定目标图像在第一直角坐标系中的横纵坐标后，根据公式：x1/w1=x2/w2，y1/h1=y2/h2；确定待融合目标图像在第二直角坐标系中的坐标其中， w1为微光夜视仪图像的水平方向的像素数；x2为目标图像在第二直角坐标系中的横坐标，w2为红外热成像图像的水平方向的像素数；h1为微光夜视仪图像的垂直方向的像素数，y2目标图像在第二直角坐标系中的纵坐标，h2红外热成像图像的垂直方向的像素数。
根据待融合目标图像在第二直角坐标系中的坐标将待融合目标图像添加至第二直角坐标系中，从而将待融合目标图像叠加到微光夜视仪图像中，形成显示图像。
显示图像形成后，还可以获取人工输入的待融合目标图像的坐标，根据输入的待融合目标图像的坐标调节显示图像中待融合目标图像的位置，工作人员可通过手动校准的方式来实现对待融合目标图像的位置的调节，使得待融合目标图像在显示图像中的位置更加准确。待融合目标图像的坐标输入可通过与AR眼镜具备的触摸屏或按键实现。
本申请实施例公开一种基于图像分割与融合的增强现实互装置。
参照图3，基于图像分割与融合的增强现实的装置200包括，
获取模块201，用于获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像；
目标检测模块202，用于根据预设的目标检测方法检测红外热成像图像中的目标图像，并判断是否检测到目标图像；
图像分割模块203，用于若是，并根据预设的图像分割算法将检测到的目标图像从红外热成像图像中分割；
图像融合模块204，用于基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，所述描述的模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
本申请实施例还公开一种电子设备，参照图4，电子设备包括中央处理单元(CPU)301，其可以根据存储在只读存储器(ROM)302中的程序或者从存储部分307加载到随机访问存储器(RAM)303中的程序而执行各种适当的动作和处理。在RAM303中，还存储有***操作所需的各种程序和数据。CPU301、ROM302以及RAM303通过总线彼此相连。I/O接口304也连接至总线。
以下部件连接至I/O接口304：包括键盘、鼠标等的输入部分305；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分306；包括硬盘等的存储部分307；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分308。通信部分308经由诸如因特网的网络执行通信处理。驱动器309也根据需要连接至I/O接口304。可拆卸介质310，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器309上，以便于从其上读出的计算机程序根据需要被安装入存储部分307。
特别地，根据本公开的实施例，上文参考流程图图1描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分308从网络上被下载和安装，和/或从可拆卸介质310被安装。在该计算机程序被中央处理单元(CPU)301执行时，执行本申请的装置中限定的上述功能。
以上均为本申请的较佳实施例，并非依此限制本申请的保护范围，本说明书（包括摘要和附图）中公开的任一特征，除非特别叙述，均可被其他等效或者具有类似目的的替代特征加以替换。即，除非特别叙述，每个特征只是一系列等效或类似特征中的一个例子而已。

Claims (9)

1.一种基于图像分割与融合的增强现实的方法，该方法应用于AR眼镜，在AR眼镜上设置有微光夜视摄像头和红外摄像头，并通过物理方式校准光轴，确保微光夜视摄像头和红外摄像头的摄像端瞄准同一位置，其特征在于：该方法包括：
获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像；
根据预设的目标检测方法检测所述红外热成像图像中的目标图像，并判断是否检测到目标图像；
若是，并根据预设的图像分割算法将检测到的目标图像从红外热成像图像中分割；
基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像。
2.根据权利要求1所述的基于图像分割与融合的增强现实的方法，其特征在于：所述根据预设的目标检测方法检测所述红外热成像图像中的目标图像，并判断是否检测到目标图像的方法，具体包括：
获取目标图像素材，根据预设的转化算法将所述目标图像素材转化为第一特征值，并存储；
根据YOLO或Faster R-CNN对目标图像进行检测；
根据预设的转化算法，将检测到的目标图像转化为第二特征值；
将第一特征值与第二特征值进行对比，当所述第一特征值和第二特征值相似度达到阈值时，则判断检测到目标图像。
3.根据权利要求2所述的基于图像分割与融合的增强现实的方法，其特征在于：根据预设的目标检测方法检测所述红外热成像图像中的目标图像并判断是否检测到目标图像的方法之后，该方法还包括：
若否，根据预设的目标检测方法检测红外热成像图像中的目标图像，并判断是否检测到目标图像。
4.根据权利要求3所述的基于图像分割与融合的增强现实的方法，其特征在于：预设的图像分割算法为Trimap-based、Adobe Deep Image Matting和Background Matting中的任意一种。
5.根据权利要求1所述的基于图像分割与融合的增强现实的方法，其特征在于：根据预设的确定规则，在红外热成像图像中确定第一基点，在微光夜视仪图像中确定第二基点；
基于预设的直角坐标系建立规则以第一基点为原点建第一平面直角坐标系，以第二基点为原点建第二平面直角坐标系；
确定目标图像在第一平面直角坐标系中的坐标；
获取红外热成像图像的垂直方向的像素数和水平方向的像素数和微光夜视仪图像的垂直方向的像素数和水平方向的像素数；
基于预设的调整方式，根据红外热成像图像的垂直方向的像素数和水平方向的像素数和微光夜视仪图像的垂直方向的像素数和水平方向的像素数调整目标图像，形成待融合目标图像；
基于预设的计算方式，根据红外热成像图像的垂直方向的像素数和水平方向的像素数和微光夜视仪图像的垂直方向的像素数和水平方向的像素数以及目标图像在第一平面直角坐标系中的坐标，确定待融合目标图像在第二直角坐标系中的坐标；
根据待融合目标图像在第二直角坐标系中的坐标将目标图像叠加到微光夜视仪图像中，形成显示图像。
6.根据权利要求5所述的基于图像分割与融合的增强现实的方法，其特征在于：根据待融合目标图像在第二直角坐标系中的坐标将目标图像叠加到微光夜视仪图像中，形成显示图像的方法之后，该方法还包括：
获取人工输入的待融合目标图像的坐标；
根据人工输入的待融合目标图像的坐标调整待融合目标图像在微光夜视仪图像中的位置，形成最终图像。
7.根据权利要求5所述的基于图像分割与融合的增强现实的方法，其特征在于：所述预设的计算方式为：x1/w1=x2/w2，y1/h1=y2/h2；其中，x1为目标图像在第一直角坐标系中的横坐标，w1为微光夜视仪图像的水平方向的像素数；x2为目标图像在第二直角坐标系中的横坐标，w2为红外热成像图像的水平方向的像素数；y1为目标图像在第一直角坐标系中的纵坐标，h1为微光夜视仪图像的垂直方向的像素数，y2目标图像在第二直角坐标系中的纵坐标，h2红外热成像图像的垂直方向的像素数。
8.一种基于图像分割与融合的增强现实的装置，其特征在于：包括：
获取模块（201），用于获取微光夜视摄像头输出的微光夜视仪图像和红外摄像头输出的红外热成像图像；
目标检测模块（202），用于根据预设的目标检测方法检测所述红外热成像图像中的目标图像，并判断是否检测到目标图像；
图像分割模块（203），用于若是，并根据预设的图像分割算法将检测到的目标图像从红外热成像图像中分割；
图像融合模块（204），用于基于预设的叠加规则，将分割出的目标图像叠加到微光夜视仪图像中形成显示图像。
9.一种电子设备，其特征在于：包括存储器和处理器，所述存储器上存储有能够被处理器加载并执行如权利要求1至7中任一种方法的计算机程序。
CN202211023758.8A 2022-08-25 2022-08-25 基于图像分割与融合的增强现实的方法、装置及电子设备 Active CN115100556B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211023758.8A CN115100556B (zh) 2022-08-25 2022-08-25 基于图像分割与融合的增强现实的方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211023758.8A CN115100556B (zh) 2022-08-25 2022-08-25 基于图像分割与融合的增强现实的方法、装置及电子设备

Publications (2)

Publication Number Publication Date
CN115100556A true CN115100556A (zh) 2022-09-23
CN115100556B CN115100556B (zh) 2022-11-22

Family

ID=83300582

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211023758.8A Active CN115100556B (zh) 2022-08-25 2022-08-25 基于图像分割与融合的增强现实的方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN115100556B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116993729A (zh) * 2023-09-26 2023-11-03 南京铂航电子科技有限公司 一种基于二次谐波的夜视仪成像***和方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101673396A (zh) * 2009-09-07 2010-03-17 南京理工大学 基于动态目标检测的图像融合方法
CN101853492A (zh) * 2010-05-05 2010-10-06 浙江理工大学 一种夜视微光图像与红外图像融合方法
CN109618087A (zh) * 2019-01-28 2019-04-12 北京晶品特装科技有限责任公司 一种具备精确目标定位功能的红外和微光融合夜视仪
CN112053314A (zh) * 2020-09-04 2020-12-08 深圳市迈测科技股份有限公司 图像融合方法、装置、计算机设备和介质及红外热像仪
CN113298177A (zh) * 2021-06-11 2021-08-24 华南理工大学 夜间图像着色方法、装置、介质和设备
CN216568562U (zh) * 2021-10-15 2022-05-24 北京红翼前锋科技发展有限公司 一种多功能智能头盔
CN114912536A (zh) * 2022-05-26 2022-08-16 成都恒安警用装备制造有限公司 一种基于雷达和双光电的目标识别方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101673396A (zh) * 2009-09-07 2010-03-17 南京理工大学 基于动态目标检测的图像融合方法
CN101853492A (zh) * 2010-05-05 2010-10-06 浙江理工大学 一种夜视微光图像与红外图像融合方法
CN109618087A (zh) * 2019-01-28 2019-04-12 北京晶品特装科技有限责任公司 一种具备精确目标定位功能的红外和微光融合夜视仪
CN112053314A (zh) * 2020-09-04 2020-12-08 深圳市迈测科技股份有限公司 图像融合方法、装置、计算机设备和介质及红外热像仪
CN113298177A (zh) * 2021-06-11 2021-08-24 华南理工大学 夜间图像着色方法、装置、介质和设备
CN216568562U (zh) * 2021-10-15 2022-05-24 北京红翼前锋科技发展有限公司 一种多功能智能头盔
CN114912536A (zh) * 2022-05-26 2022-08-16 成都恒安警用装备制造有限公司 一种基于雷达和双光电的目标识别方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116993729A (zh) * 2023-09-26 2023-11-03 南京铂航电子科技有限公司 一种基于二次谐波的夜视仪成像***和方法
CN116993729B (zh) * 2023-09-26 2024-03-29 南京铂航电子科技有限公司 一种基于二次谐波的夜视仪成像***和方法

Also Published As

Publication number Publication date
CN115100556B (zh) 2022-11-22

Similar Documents

Publication Publication Date Title
WO2018076732A1 (zh) 红外图像和可见光图像融合的方法及装置
EP0932114B1 (en) A method of and apparatus for detecting a face-like region
KR100776801B1 (ko) 화상 처리 시스템에서의 제스처 인식 장치 및 방법
CN107635129B (zh) 一种三维三目摄像装置及深度融合方法
CN107992857A (zh) 一种高温蒸汽泄漏自动巡检识别方法及识别***
CN109754377A (zh) 一种多曝光图像融合方法
CN111462128B (zh) 一种基于多模态光谱图像的像素级图像分割***及方法
JP2000082147A (ja) ヒトの顔を検出する方法および装置、ならびに観察者トラッキングディスプレイ
CN110189294B (zh) 基于深度可信度分析的rgb-d图像显著性检测方法
JP2008123113A (ja) 歩行者検知装置
CN109035307B (zh) 基于自然光双目视觉的设定区域目标追踪方法及***
CN105869115B (zh) 一种基于kinect2.0的深度图像超分辨率方法
CN115100556B (zh) 基于图像分割与融合的增强现实的方法、装置及电子设备
CN114114312A (zh) 一种基于多焦距相机与激光雷达融合的三维目标检测方法
CN110796032A (zh) 基于人体姿态评估的视频围栏及预警方法
CN113573035A (zh) 一种基于视觉的ar-hud亮度自适应调节方法
Shi et al. A method for detecting pedestrian height and distance based on monocular vision technology
CN113762161A (zh) 一种障碍物智能监测方法及***
CN110909571A (zh) 一种高精度面部识别空间定位方法
JP7092616B2 (ja) 物体検出装置、物体検出方法、及び物体検出プログラム
CN109711352A (zh) 基于几何卷积神经网络的车辆前方道路环境透视感知方法
CN115937776A (zh) 监控方法、装置、***、电子设备及计算机可读存储介质
CN110389390B (zh) 一种大视场红外微光自然感彩色融合***
CN112070773A (zh) 一种基于tof相机空间区域内roi的提取方法
KR20100081099A (ko) 아웃 포커싱 장치 및 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant