CN112308809A - 一种图像合成方法、装置、计算机设备及存储介质 - Google Patents

一种图像合成方法、装置、计算机设备及存储介质 Download PDF

Info

Publication number
CN112308809A
CN112308809A CN201910770612.1A CN201910770612A CN112308809A CN 112308809 A CN112308809 A CN 112308809A CN 201910770612 A CN201910770612 A CN 201910770612A CN 112308809 A CN112308809 A CN 112308809A
Authority
CN
China
Prior art keywords
image
target object
target
scene
shadow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910770612.1A
Other languages
English (en)
Other versions
CN112308809B (zh
Inventor
不公告发明人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN201910770612.1A priority Critical patent/CN112308809B/zh
Publication of CN112308809A publication Critical patent/CN112308809A/zh
Application granted granted Critical
Publication of CN112308809B publication Critical patent/CN112308809B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)

Abstract

本公开实施例公开了一种图像合成方法、装置、计算机设备及存储介质。其中,图像合成方法包括:接收目标物体在第一场景下的第一图像;接收目标场景的第二图像;对第一图像进行目标物体分割,以得到目标物体的第三图像;将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像。本公开实施例的技术方案在提高采集图像数据的效率的同时,减少了标注成本。

Description

一种图像合成方法、装置、计算机设备及存储介质
技术领域
本公开实施例涉及图像处理技术领域,尤其涉及一种图像合成方法、装置、计算机设备及存储介质。
背景技术
近年来,随着人工智能领域的快速发展,计算机视觉技术也得到了快速发展。
在计算机视觉技术中,通常包括对目标物体进行自动识别的过程,在对目标物体进行自动识别之前,需要对包含目标物体的大量图像数据进行目标物体的标注。
上述获取大量图像数据的过程,通常需要利用图像采集装置,对包含目标物体的场景进行图像数据的一一采集,由于所需要的图像数据量比较大,因此,采集所需要的时间较长,同时采集成本也相对较高。而现有对目标物体进行标注,一般需要通过人工来完成,其成本高,效率低且易出错。
发明内容
本公开提供一种图像合成方法、装置、计算机设备及存储介质,在提高采集图像数据的效率的同时,减少了标注成本。
第一方面,本公开实施例提供了一种图像合成方法,包括:
接收目标物体在第一场景下的第一图像;
接收目标场景的第二图像;
对所述第一图像进行目标物体分割,以得到所述目标物体的第三图像;
将所述第三图像与所述第二图像进行图像融合,以得到融合后的第一目标图像。
第二方面,本公开实施例还提供了一种图像合成装置,包括:
第一图像接收模块,用于接收目标物体在第一场景下的第一图像;
第二图像接收模块,用于目标场景的第二图像;
第三图像分割模块,用于对所述第一图像进行目标物体分割,以得到所述目标物体的第三图像;
图像融合模块,用于将所述第三图像与所述第二图像进行图像融合,以得到融合后的第一目标图像。
第三方面,本公开实施例还提供了一种计算机设备,包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当一个或多个程序被一个或多个处理装置执行,使得一个或多个处理装置实现如本公开任一实施例所述的图像合成方法。
第四方面,本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如本公开任一实施例所述的图像合成法。
本公开实施例通过接收目标物体在第一场景下的第一图像;接收目标场景的第二图像;对第一图像进行目标物体分割,以得到目标物体的第三图像;将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像,克服了现有技术中在需要利用大量包含目标物体的图像数据进行目标物体检测的过程中,采集图像数据和标注图像数据的成本高,采集数据所需要的时间较长,标注的效率低且容易出错的问题,在保证大量图像数据合成的高效性和目标物体在图像数据中的位置确定的准确性的同时,也减少了图像数据的采集和标定的成本。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1为本公开实施例一提供的一种图像合成方法的流程图;
图2为本公开实施例二提供的一种图像合成方法的流程图;
图3为本公开实施例三提供的一种图像合成方法的流程图;
图4为本公开实施例四提供的一种图像合成装置的结构示意图;
图5为本公开实施例五提供的一种计算机设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
实施例一
图1为本公开实施例一提供的一种图像合成方法的流程图。本实施例可适用于需要利用大量包含目标物体的图像数据进行目标物体检测的情况,该方法可以由图像合成装置来执行,该装置可以采用软件和/或硬件的方式实现,该装置可以配置于计算机设备中。如图1所示,该方法可以包括如下步骤:
S110、接收目标物体在第一场景下的第一图像。
其中,第一图像优选可以利用图像获取装置获取得到,优选的,图像获取装置可以是相机,也可以是摄像头等。目标物体为用户感兴趣的物体,目标物体的数目可以是一个,也可以是多个。
第一场景可以是用户选定的任意的场景,例如,第一场景可以是目标场景,也可以是其他场景,在此不做具体限定。优选的,第一场景可以是单一颜色的平面背景,在该背景下获取到的目标物体的第一图像,相对于复杂背景而言,数据信息量相对较少,后期图像处理的过程也相对简单。
第一图像中既包含至少一个目标物体的信息,又包含第一场景的信息,其中,第一图像中包含的目标物体的数目优选根据实际需要进行确定,在此不做具体限定。即每个第一图像中包含的目标物体的数目可以是一个,也可以是多个。
示例性的,用户感兴趣的目标物体包括a、b、c、d、e,其中,目标物体b和c需要同时出现在一个图像中,控制图像获取装置在第一场景下拍摄相应的目标物体。则获取到的至少一个第一图像,包括四个背景相同的第一图像,其中,第一图像1包含目标物体a,第一图像2包含目标物体b和c,第一图像3包含目标物体d,第一图像4包含目标物体e。
S120、接收目标场景的第二图像。
其中,目标场景为感兴趣的场景,其与最终获取到的目标图像中所具有的背景相对应。
示例性的,目标场景包括目标场景1和目标场景2,控制图像获取装置拍摄目标场景。则获取到的至少一个第二图像,包括两个第二图像,其中,。
S130、对第一图像进行目标物体分割,以得到目标物体的第三图像。
优选的,可以利用图像分割算法,将每个第一图像中的目标物体分割出来,将分割出来的目标物体图像作为第三图像。
其中,图像分割算法可以包括基于阈值的分割算法、基于区域的分割算法、基于边缘的分割算法以及基于特定理论的分割算法等。
示例性的,对第一图像1进行目标物体分割,得到目标物体a的第三图像;对第一图像2进行目标物体分割,得到目标物体b和c的第三图像;对第一图像3进行目标物体分割,得到目标物体d的第三图像;对第一图像4进行目标物体分割,得到目标物体e的第三图像。
S140、将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像。
优选的,可以利用图像融合算法,分别将每个第三图像与每个第二图像进行融合,融合后的每个图像即为第一目标图像。可以理解的是,在将每个第三图像与每个第二图像进行图像融合时,第三图像相对于第二图像的位置没有特殊限定,其可以根据实际需要进行设定。
其中,图像融合算法可以包括基于加权平均的融合方法、基于绝对值取大的融合算法、基于金字塔变换的融合算法、基于小波变换的图像融合算法和多尺度变换的融合算法等。
示例性的,上述经过分割得到的第三图像包括目标物体a的第三图像、目标物体b和c的第三图像、目标物体d的第三图像和目标物体e的第三图像,第二图像包括包含目标场景1的第二图像1和包含目标场景2的第二图像2。则将第三图像与第二图像进行融合,得到的第一目标图像包括包含目标物体a和目标场景1的第一目标图像1、包含目标物体b、c和目标场景1的第一目标图像2、包含目标物体d和目标场景1的第一目标图像3、包含目标物体e和目标场景1的第一目标图像4、包含目标物体a和目标场景2的第一目标图像5、包含目标物体b、c和目标场景2的第一目标图像6、包含目标物体d和目标场景2的第一目标图像7、包含目标物体e和目标场景2的第一目标图像8。
本实施例提供的一种图像合成方法,通过接收目标物体在第一场景下的第一图像;接收目标场景的第二图像;对第一图像进行目标物体分割,以得到目标物体的第三图像;将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像,克服了现有技术中在需要利用大量包含目标物体的图像数据进行目标物体检测的过程中,采集图像数据和标注图像数据的成本高,采集数据所需要的时间较长,标注的效率低且容易出错的问题,在保证大量图像数据合成的高效性和目标物体在图像数据中的位置确定的准确性的同时,也减少了图像数据的采集和标定的成本。
在上述各实施例的基础上,进一步的,将第三图像与第二图像进行图像融合,包括:
根据第三图像在第二图像中的预设位置,将第三图像与第二图像进行图像融合。
在进行图像融合时,优选可以预先设定第三图像在第二图像中的位置。具体的,该预设位置可以是一个,即在分别将每个第三图像与每个第二图像进行图像融合时,第三图像相对于第二图像的位置是唯一固定的,其与第三图像对应的目标物体或第二图像对应的目标场景无关;该预设位置也可以是多个,当预设位置为多个时,其可以与第三图像对应的目标物体或第二图像对应的目标场景相关,例如可以是不同的目标物体对应的预设位置不同,也可以是不同的场景对应的预设位置不同。
以预设位置为2个,分别是预设位置1和预设位置2,其中,预设位置1与目标场景1相对应,预设位置2与目标场景2相对应为例,对上述步骤进行具体说明:
根据第三图像在第二图像中的预设位置,将第三图像与第二图像进行图像融合,以得到的第一目标图像包括:包含目标物体a和目标场景1的第一目标图像1,其中,目标物体a在目标场景1的预设位置1处、包含目标物体b、c和目标场景1的第一目标图像2,其中,目标物体b和c在目标场景1的预设位置1处、包含目标物体d和目标场景1的第一目标图像3,其中,目标物体d在目标场景1的预设位置1处、包含目标物体e和目标场景1的第一目标图像4,其中,目标物体e在目标场景1的预设位置1处、包含目标物体a和目标场景2的第一目标图像5,目标物体a在目标场景2的预设位置2处、包含目标物体b、c和目标场景2的第一目标图像6,其中,目标物体b和c在目标场景2的预设位置2处、包含目标物体d和目标场景2的第一目标图像7,其中,目标物体d在目标场景2的预设位置2处、包含目标物体e和目标场景2的第一目标图像8,其中,目标物体e在目标场景2的预设位置2处。
在上述各实施例的基础上,进一步的,将第三图像与第二图像进行图像融合,还包括:
根据平移矩阵和/或旋转矩阵,确定第三图像在第二图像中的第一位置;
根据第一位置,将第三图像与第二图像进行图像融合。
以一个第三图像和一个第二图像进行融合为例对上述步骤进行具体说明,示例性的,第三图像为目标物体a的第三图像,第二图像为包含目标场景1的第二图像1,预设的平移矩阵的数目为10,则根据平移矩阵确定的第一位置为10个,则根据上述10个位置可以得到10个目标物体a的第三图像与第二图像1的融合图像,其中,在每一个融合图像中,目标物体a的第三图像相对于第二图像1的位置都不同。可以理解的是,上述也可以利用旋转矩阵确定第一位置,还可以用平移矩阵和旋转矩阵共同确定第一位置。还可以理解的是,平移矩阵和旋转矩阵作用的对象可以是第三图像,也可以是第二图像。
在上述各实施例的基础上,进一步的,在图像获取设备获取第一图像和第二图像时,控制第一距离与第二距离相同,并控制图像获取设备的高度和位姿不变,其中,第一距离为图像获取设备与第一场景等效的第一参考平面之间的距离,第二距离为图像获取设备与目标场景等效的第二参考平面之间的距离。
本实施例中,第一场景和第二场景优选可以是平面场景,如果第一场景和/或第二场景不是平面场景,则可以根据第一场景和/或第二场景在成像平面的成像特点,将第一场景和/或第二场景等效成一个参考平面。
为了保证最终获取到的每个图像具有透视一致性和尺度一致性,优选的,可以在拍摄的过程中,控制图像获取设备保持高度和位姿均不变,且控制图像获取设备到第一参考平面的距离与图像获取设备到第二参考平面的距离相等。
在上述各实施例的基础上,进一步的,在对第一图像进行目标物体分割,以得到目标物体的第三图像之前,还包括:
利用图像获取设备所在坐标系与图像坐标系之间的坐标转换关系,对第一图像和第二图像进行校正,以得到具有透视一致性和尺度一致性的第一图像和第二图像;
其中,透视一致性为第一图像和第二图像对应相同的拍摄角度,尺度一致性为第一尺寸比例和第二尺寸比例相同,第一尺寸比例为目标物体与目标场景之间的实际尺寸比例,第二尺寸比例为目标物体对应的第三图像与第二图像之间的尺寸比例。
在图像获取的过程中,如果没有对图像获取设备的高度和位姿进行特殊限定,则可能导致获取到的第一图像与第二图像之间的透视和尺度不一致。基于此,优选可以对第一图像和第二图像进行校正,以使第一图像和第二图像保持透视一致性和尺度一致性。
具体的,在图像获取设备进行定标的过程中,确定图像获取设备所在坐标系与图像坐标系之间的坐标转换关系,将第一图像和第二图像均转换到图像获取设备所在的坐标系下,并通过平移旋转等操作对第一图像和第二图像进行校正。
实施例二
图2为本公开实施例二提供的一种图像合成方法的流程图。本实施例可以与上述一个或者多个实施例中各个可选方案结合,在本实施例中,
在所述将所述第三图像与所述第二图像进行图像融合之前,还包括:
为所述第二图像添加与所述第三图像中的目标物体相对应的阴影特征,以得到具有阴影特征的第二图像;
其中,所述阴影特征为对应目标物体在所述第一图像中形成的阴影所具有的特征。
如图2所示,该方法可以包括如下步骤:
S210、接收目标物体在第一场景下的第一图像。
S220、接收目标场景的第二图像。
S230、对第一图像进行目标物体分割,以得到目标物体的第三图像。
S240、为第二图像添加与第三图像中的目标物体相对应的阴影特征,以得到具有阴影特征的第二图像;其中,阴影特征为对应目标物体在第一图像中形成的阴影所具有的特征。
为了保证最终合成的图像的真实性,优选的,可以为第二图像添加与第三图像中的目标物体相对应的阴影特征。具体的,可以利用特征提取的方法,对相应的阴影特征进行提取。
示例性的,获取四个第一图像,其中,第一图像1包含目标物体a以及目标物体a对应的阴影特征1,第一图像2包含目标物体b和c以及目标物体b和c对应的阴影特征2,第一图像3包含目标物体d以及目标物体d对应的阴影特征3,第一图像4包含目标物体e以及目标物体e对应的阴影特征4;获取两个第二图像,第二图像1包含目标场景1,第二图像2包含目标场景2。则为第二图像添加与第三图像中的目标物体相对应的阴影特征,以得到的具有阴影特征的第二图像包括:具有阴影特征1的第二图像1、具有阴影特征2的第二图像1、具有阴影特征3的第二图像1、具有阴影特征4的第二图像1、具有阴影特征1的第二图像2、具有阴影特征2的第二图像2、具有阴影特征3的第二图像2、具有阴影特征4的第二图像2。
S250、将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像。
本实施例提供的一种图像合成方法,通过接收目标物体在第一场景下的第一图像;接收目标场景的第二图像;对第一图像进行目标物体分割,以得到目标物体的第三图像;为第二图像添加与第三图像中的目标物体相对应的阴影特征,以得到具有阴影特征的第二图像;其中,阴影特征为对应目标物体在第一图像中形成的阴影所具有的特征分别将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像,克服了现有技术中在需要利用大量包含目标物体的图像数据进行目标物体检测的过程中,采集图像数据和标注图像数据的成本高,采集数据所需要的时间较长,标注的效率低且容易出错的问题,在保证大量图像数据合成的高效性和目标物体在图像数据中的位置确定的准确性,减少图像数据的采集和标定的成本的同时,为每个合成的图像添加目标物体的阴影特征,提高了每个合成图像的完整性和真实性。
实施例三
图3为本公开实施例三提供的一种图像合成方法的流程图。本实施例可以与上述一个或者多个实施例中各个可选方案结合,在本实施例中,
所述为所述第二图像添加与所述第三图像中的目标物体相对应的阴影特征,包括:
将所述第一图像中的所述目标物体所对应的像素值置为零,以得到第四图像;
将所述第四图像转换为HSV颜色空间下的第五图像;
计算所述第五图像中亮度通道数据所对应的亮度平均值;
利用所述亮度平均值与相应的亮度通道数据作除法运算,以得到与所述第五图像相对应的阴影特征;
将所述阴影特征与所述第二图像作乘法运算。
如图3所示,该方法可以包括如下步骤:
S310、接收目标物体在第一场景下的第一图像。
S320、接收目标场景的第二图像。
S330、对第一图像进行目标物体分割,以得到目标物体的第三图像。
S340、将第一图像中的目标物体所对应的像素值置为零,以得到第四图像。
S350、将第四图像转换为HSV颜色空间下的第五图像。
S360、计算第五图像中亮度通道数据所对应的亮度平均值。
S370、利用亮度平均值与相应的亮度通道数据作除法运算,以得到与第五图像相对应的阴影特征。
S380、将阴影特征与第二图像作乘法运算,以得到具有阴影特征的第二图像。
上述为阴影特征提取的优选实施方式,具体的,以一个第一图像和一个第二图像为例对上述方式进行具体说明:
由于阴影特征与目标物体本身所对应的图像数据无关,因此。优选可以将第一图像中的目标物体所对应的像素值设置为零,以减少后续确定阴影特征的计算量。上述将目标物体所对应的像素值设置为零,得到的图像为第四图像。由于阴影特征与色彩明亮程度相对应,优选的,可以将第四图像转换为HSV(Hue Saturation Value,色彩信息,纯度比例,色彩明亮程度)颜色空间下的第五图像,并确定第五图像的亮度通道数据对应的亮度平均值,利用该亮度平均值分别与相应的亮度通道数据作除法运算,得到与第五图像相对应的阴影特征,即与第三图像中的目标物体相对应的阴影特征。利用该阴影特征与第二图像做乘法运算,得到具有阴影特征的第二图像,并将该具有阴影特征的第二图像作为与第三图像进行图像融合的第二图像。
S390、将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像。
本实施例提供的一种图像合成方法,通过接收目标物体在第一场景下的第一图像;接收目标场景的第二图像;对第一图像进行目标物体分割,以得到目标物体的第三图像;将第一图像中的目标物体所对应的像素值置为零,以得到第四图像;将第四图像转换为HSV颜色空间下的第五图像;计算第五图像中亮度通道数据所对应的亮度平均值;利用亮度平均值与相应的亮度通道数据作除法运算,以得到与第五图像相对应的阴影特征;将阴影特征与第二图像作乘法运算,以得到具有阴影特征的第二图像;其中,阴影特征为对应目标物体在第一图像中形成的阴影所具有的特征,将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像,克服了现有技术中在需要利用大量包含目标物体的图像数据进行目标物体检测的过程中,采集图像数据和标注图像数据的成本高,采集数据所需要的时间较长,标注的效率低且容易出错的问题,在保证大量图像数据合成的高效性和目标物体在图像数据中的位置确定的准确性,减少图像数据的采集和标定的成本的同时,为每个合成的图像添加目标物体的阴影特征,提高了每个合成图像的完整性和真实性。
实施例四
图4为本公开实施例四提供的一种图像合成装置的结构示意图。本实施例可适用于需要利用大量包含目标物体的图像数据进行目标物体检测的情况。该装置可以采用软件和/或硬件的方式实现,该装置可以配置于计算机设备。如图4所示,该装置可以包括:第一图像接收模块410、第二图像接收模块420、第三图像分割模块430和图像融合模块440。
其中,第一图像接收模块410,用于接收目标物体在第一场景下的第一图像;
第二图像接收模块420,用于接收目标场景的第二图像;
第三图像分割模块430,用于对第一图像进行目标物体分割,以得到目标物体的第三图像;
图像融合模块440,用于将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像。
本实施例提供的一种图像合成装置,通过第一图像接收模块接收目标物体在第一场景下的第一图像;通过第二图像接收模块接收目标场景的第二图像;通过第三图像分割模块对第一图像进行目标物体分割,以得到目标物体的第三图像;通过图像融合模块分别将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像,克服了现有技术中在需要利用大量包含目标物体的图像数据进行目标物体检测的过程中,采集图像数据和标注图像数据的成本高,采集数据所需要的时间较长,标注的效率低且容易出错的问题,在保证大量图像数据合成的高效性和目标物体在图像数据中的位置确定的准确性的同时,也减少了图像数据的采集和标定的成本。
在上述技术方案的基础上,进一步的,图像融合模块440可以包括:
第一图像融合单元,用于根据第三图像在第二图像中的预设位置,将第三图像与第二图像进行图像融合。
在上述技术方案的基础上,进一步的,图像融合模块440还可以包括:
第一位置确定单元,用于根据平移矩阵和/或旋转矩阵,确定第三图像在第二图像中的第一位置;
第二图像融合单元,用于根据第一位置,将第三图像与第二图像进行图像融合。
在上述技术方案的基础上,进一步的,该图像合成装置还可以包括:
位置设定模块,用于在图像获取设备获取第一图像和第二图像时,控制第一距离与第二距离相同,并控制图像获取设备的高度和位姿不变,其中,第一距离为图像获取设备与第一场景等效的第一参考平面之间的距离,第二距离为图像获取设备与目标场景等效的第二参考平面之间的距离。
在上述技术方案的基础上,进一步的,该图像合成装置还可以包括:
校正模块,用于在对第一图像进行目标物体分割,以得到目标物体的第三图像之前,利用图像获取设备所在坐标系与图像坐标系之间的坐标转换关系,对第一图像和第二图像进行校正,以得到具有透视一致性和尺度一致性的第一图像和第二图像;
其中,透视一致性为第一图像和第二图像对应相同的拍摄角度,尺度一致性为第一尺寸比例和第二尺寸比例相同,第一尺寸比例为目标物体与目标场景之间的实际尺寸比例,第二尺寸比例为目标物体对应的第三图像与第二图像之间的尺寸比例。
在上述技术方案的基础上,进一步的,该图像合成装置还可以包括:
阴影特征添加模块,用于在将第三图像与第二图像进行图像融合之前,分别为第二图像添加与第三图像中的目标物体相对应的阴影特征,以得到具有阴影特征的第二图像;
其中,阴影特征为对应目标物体在第一图像中形成的阴影所具有的特征。
在上述技术方案的基础上,进一步的,阴影特征添加模块具体可以用于:
将第一图像中的目标物体所对应的像素值置为零,以得到第四图像;
将第四图像转换为HSV颜色空间下的第五图像;
计算第五图像中亮度通道数据所对应的亮度平均值;
利用亮度平均值与相应的亮度通道数据作除法运算,以得到与第五图像相对应的阴影特征;
将阴影特征与第二图像作乘法运算。
本公开实施例所提供的图像合成装置可执行本公开实施例所提供的图像合成方法,具备执行方法相应的功能模块和有益效果。
实施例五
下面参考图5,其示出了适于用来实现本公开实施例的计算机设备500的结构示意图。本公开实施例中的计算机设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等。图5示出的计算机设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,计算机设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置506加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有计算机设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置506;以及通信装置509。通信装置509可以允许计算机设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的计算机设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置506被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述计算机设备中所包含的;也可以是单独存在,而未装配入该计算机设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该计算机设备执行时,使得该计算机设备:接收目标物体在第一场景下的第一图像;接收目标场景的第二图像;对第一图像进行目标物体分割,以得到目标物体的第三图像;将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的方法、装置、计算机设备和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块、单元以及子单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块、单元或者子单元的名称在某种情况下并不构成对该模块、单元或者子单元本身的限定,例如,图像融合模块还可以被描述为“将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像的模块”,第一图像融合单元还可以被描述为“根据第三图像在第二图像中的预设位置,将第三图像与第二图像进行图像融合的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上***(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
在一个方面,本公开实施例提供了一种图像合成方法,包括:
接收目标物体在第一场景下的第一图像;
接收目标场景的第二图像;
对第一图像进行目标物体分割,以得到目标物体的第三图像;
将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像。
在一些实施例中,将第三图像与第二图像进行图像融合,包括:
根据第三图像在第二图像中的预设位置,将第三图像与第二图像进行图像融合。
在一些实施例中,将第三图像与第二图像进行图像融合,还包括:
根据平移矩阵和/或旋转矩阵,确定第三图像在第二图像中的第一位置;
根据第一位置,分别将第三图像与第二图像进行图像融合。
在一些实施例中,图像合成方法还包括:
在图像获取设备获取第一图像和第二图像时,控制第一距离与第二距离相同,并控制图像获取设备的高度和位姿不变,其中,第一距离为图像获取设备与第一场景等效的第一参考平面之间的距离,第二距离为图像获取设备与目标场景等效的第二参考平面之间的距离。
在一些实施例中,在对第一图像进行目标物体分割,以得到目标物体的第三图像之前,图像合成方法还包括:
利用图像获取设备所在坐标系与图像坐标系之间的坐标转换关系,对第一图像和第二图像进行校正,以得到具有透视一致性和尺度一致性的第一图像和第二图像;
其中,透视一致性为第一图像和第二图像对应相同的拍摄角度,尺度一致性为第一尺寸比例和第二尺寸比例相同,第一尺寸比例为目标物体与目标场景之间的实际尺寸比例,第二尺寸比例为目标物体对应的第三图像与第二图像之间的尺寸比例。
在一些实施例中,在将第三图像与第二图像进行图像融合之前,图像合成方法还包括:
为第二图像添加与第三图像中的目标物体相对应的阴影特征,以得到具有阴影特征的第二图像;
其中,阴影特征为对应目标物体在第一图像中形成的阴影所具有的特征。
在一些实施例中,为第二图像添加与第三图像中的目标物体相对应的阴影特征,包括:
将第一图像中的目标物体所对应的像素值置为零,以得到第四图像;
将第四图像转换为HSV颜色空间下的第五图像;
计算第五图像中亮度通道数据所对应的亮度平均值;
利用亮度平均值与相应的亮度通道数据作除法运算,以得到与第五图像相对应的阴影特征;
将阴影特征与第二图像作乘法运算。
在另一个方面,本公开实施例还提供了一种图像合成装置,包括:
第一图像接收模块,用于接收目标物体在第一场景下的第一图像;
第二图像接收模块,用于接收目标场景的第二图像;
第三图像分割模块,用于对第一图像进行目标物体分割,以得到目标物体的第三图像;
图像融合模块,用于将第三图像与第二图像进行图像融合,以得到融合后的第一目标图像。
在另一个方面,本公开实施例还提供了一种计算机设备,包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当一个或多个程序被一个或多个处理装置执行,使得一个或多个处理装置实现如示例一至七中任一的图像合成方法。
在另一个方面,本公开实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如示例一至七中任一的图像合成方法。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (10)

1.一种图像合成方法,其特征在于,包括:
接收目标物体在第一场景下的第一图像;
接收目标场景的第二图像;
对所述第一图像进行目标物体分割,以得到所述目标物体的第三图像;
将所述第三图像与所述第二图像进行图像融合,以得到融合后的第一目标图像。
2.根据权利要求1所述的方法,其特征在于,所述将所述第三图像与所述第二图像进行图像融合,包括:
根据所述第三图像在所述第二图像中的预设位置,将所述第三图像与所述第二图像进行图像融合。
3.根据权利要求1所述的方法,其特征在于,所述将所述第三图像与所述第二图像进行图像融合,还包括:
根据平移矩阵和/或旋转矩阵,确定所述第三图像在所述第二图像中的第一位置;
根据所述第一位置,分别将所述第三图像与所述第二图像进行图像融合。
4.根据权利要求1-3任一项所述的方法,其特征在于,还包括:
在图像获取设备获取所述第一图像和所述第二图像时,控制第一距离与第二距离相同,并控制所述图像获取设备的高度和位姿不变,其中,所述第一距离为所述图像获取设备与所述第一场景等效的第一参考平面之间的距离,所述第二距离为所述图像获取设备与所述目标场景等效的第二参考平面之间的距离。
5.根据权利要求1-3任一项所述的方法,其特征在于,在所述对所述第一图像进行目标物体分割,以得到所述目标物体的第三图像之前,还包括:
利用所述图像获取设备所在坐标系与图像坐标系之间的坐标转换关系,对所述第一图像和所述第二图像进行校正,以得到具有透视一致性和尺度一致性的所述第一图像和所述第二图像;
其中,透视一致性为所述第一图像和所述第二图像对应相同的拍摄角度,尺度一致性为第一尺寸比例和第二尺寸比例相同,第一尺寸比例为所述目标物体与所述目标场景之间的实际尺寸比例,第二尺寸比例为所述目标物体对应的第三图像与所述第二图像之间的尺寸比例。
6.根据权利要求1-3任一项所述的方法,其特征在于,在所述将所述第三图像与所述第二图像进行图像融合之前,还包括:
分别为所述第二图像添加与所述第三图像中的目标物体相对应的阴影特征,以得到具有阴影特征的第二图像;
其中,所述阴影特征为对应目标物体在所述第一图像中形成的阴影所具有的特征。
7.根据权利要求6所述的方法,其特征在于,所述为所述第二图像添加与所述第三图像中的目标物体相对应的阴影特征,包括:
将所述第一图像中的所述目标物体所对应的像素值置为零,以得到第四图像;
将所述第四图像转换为HSV颜色空间下的第五图像;
计算所述第五图像中亮度通道数据所对应的亮度平均值;
利用所述亮度平均值与相应的亮度通道数据作除法运算,以得到与所述第五图像相对应的阴影特征;
将所述阴影特征与所述第二图像作乘法运算。
8.一种图像合成装置,其特征在于,包括:
第一图像接收模块,用于接收目标物体在第一场景下的第一图像;
第二图像接收模块,用于接收目标场景的第二图像;
第三图像分割模块,用于对所述第一图像进行目标物体分割,以得到所述目标物体的第三图像;
图像融合模块,用于将所述第三图像与所述第二图像进行图像融合,以得到融合后的第一目标图像。
9.一种计算机设备,其特征在于,所述计算机设备包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现如权利要求1-7中任一所述的图像合成方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1-7中任一所述的图像合成方法。
CN201910770612.1A 2019-08-20 2019-08-20 一种图像合成方法、装置、计算机设备及存储介质 Active CN112308809B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910770612.1A CN112308809B (zh) 2019-08-20 2019-08-20 一种图像合成方法、装置、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910770612.1A CN112308809B (zh) 2019-08-20 2019-08-20 一种图像合成方法、装置、计算机设备及存储介质

Publications (2)

Publication Number Publication Date
CN112308809A true CN112308809A (zh) 2021-02-02
CN112308809B CN112308809B (zh) 2024-06-14

Family

ID=74486763

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910770612.1A Active CN112308809B (zh) 2019-08-20 2019-08-20 一种图像合成方法、装置、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN112308809B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113469929A (zh) * 2021-09-03 2021-10-01 北京美摄网络科技有限公司 训练数据生成方法、装置、电子设备及计算机可读存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107808373A (zh) * 2017-11-15 2018-03-16 北京奇虎科技有限公司 基于姿态的样本图像合成方法、装置及计算设备
CN109005334A (zh) * 2018-06-15 2018-12-14 清华-伯克利深圳学院筹备办公室 一种成像方法、装置、终端和存储介质
CN109035288A (zh) * 2018-07-27 2018-12-18 北京市商汤科技开发有限公司 一种图像处理方法及装置、设备和存储介质
CN109727264A (zh) * 2019-01-10 2019-05-07 南京旷云科技有限公司 图像生成方法、神经网络的训练方法、装置和电子设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107808373A (zh) * 2017-11-15 2018-03-16 北京奇虎科技有限公司 基于姿态的样本图像合成方法、装置及计算设备
CN109005334A (zh) * 2018-06-15 2018-12-14 清华-伯克利深圳学院筹备办公室 一种成像方法、装置、终端和存储介质
CN109035288A (zh) * 2018-07-27 2018-12-18 北京市商汤科技开发有限公司 一种图像处理方法及装置、设备和存储介质
CN109727264A (zh) * 2019-01-10 2019-05-07 南京旷云科技有限公司 图像生成方法、神经网络的训练方法、装置和电子设备

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113469929A (zh) * 2021-09-03 2021-10-01 北京美摄网络科技有限公司 训练数据生成方法、装置、电子设备及计算机可读存储介质

Also Published As

Publication number Publication date
CN112308809B (zh) 2024-06-14

Similar Documents

Publication Publication Date Title
CN108833785B (zh) 多视角图像的融合方法、装置、计算机设备和存储介质
CN111127563A (zh) 联合标定方法、装置、电子设备及存储介质
CN111292420B (zh) 用于构建地图的方法和装置
CN110728622B (zh) 鱼眼图像处理方法、装置、电子设备及计算机可读介质
CN110062157B (zh) 渲染图像的方法、装置、电子设备和计算机可读存储介质
CN112801907B (zh) 深度图像的处理方法、装置、设备和存储介质
CN115409881A (zh) 图像处理方法、装置及设备
CN114187366A (zh) 一种相机安装校正方法、装置、电子设备及存储介质
CN111862352A (zh) 定位模型优化方法、定位方法和定位设备
CN114612575A (zh) 一种相机参数的标定、三维数据生成方法和***
CN113962859A (zh) 一种全景图生成方法、装置、设备及介质
CN115761090A (zh) 特效渲染方法、装置、设备、计算机可读存储介质及产品
CN114881901A (zh) 视频合成方法、装置、设备、介质及产品
CN111915532B (zh) 图像追踪方法、装置、电子设备及计算机可读介质
CN115908679A (zh) 纹理映射方法、装置、设备及存储介质
CN115409696A (zh) 图像处理方法、装置、电子设备及存储介质
CN112308809B (zh) 一种图像合成方法、装置、计算机设备及存储介质
CN113963000B (zh) 图像分割方法、装置、电子设备及程序产品
CN115170395A (zh) 全景图像拼接方法、装置、电子设备、介质和程序产品
CN115937290A (zh) 一种图像深度估计方法、装置、电子设备及存储介质
CN115086541A (zh) 一种拍摄位置确定方法、装置、设备及介质
CN110348374B (zh) 车辆检测方法、装置、电子设备及存储介质
CN115082516A (zh) 一种目标跟踪方法、装置、设备及介质
CN115086538A (zh) 一种拍摄位置确定方法、装置、设备及介质
WO2023284479A1 (zh) 平面估计方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant