CN112489114B - 图像转换方法、装置、计算机可读存储介质及电子设备 - Google Patents
图像转换方法、装置、计算机可读存储介质及电子设备 Download PDFInfo
- Publication number
- CN112489114B CN112489114B CN202011344168.6A CN202011344168A CN112489114B CN 112489114 B CN112489114 B CN 112489114B CN 202011344168 A CN202011344168 A CN 202011344168A CN 112489114 B CN112489114 B CN 112489114B
- Authority
- CN
- China
- Prior art keywords
- image
- camera
- coordinate system
- mapped
- original
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 238000006243 chemical reaction Methods 0.000 title claims abstract description 48
- 238000013507 mapping Methods 0.000 claims abstract description 63
- 238000012545 processing Methods 0.000 claims abstract description 35
- 238000012937 correction Methods 0.000 claims abstract description 17
- 230000009467 reduction Effects 0.000 claims abstract description 9
- 230000009466 transformation Effects 0.000 claims description 11
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 9
- 238000004891 communication Methods 0.000 description 6
- 239000011159 matrix material Substances 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
本公开实施例公开了一种图像转换方法和装置，其中，该方法包括：基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对原始图像进行畸变矫正处理，得到矫正后图像；基于矫正后图像，确定待映射图像；基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像；基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像。本公开实施例可以根据相机内参和畸变系数得到模拟另一相机拍摄的不同风格的图像，实现方式更加简便高效。由于生成的图像的像素由原始图像的像素转变而来，从而使生成的图像更接近真实场景。
Description
技术领域
本公开涉及计算机技术领域，尤其是一种图像转换方法、装置、计算机可读存储介质及电子设备。
背景技术
不同摄像头由于在相机内参、畸变系数等方面存在差异，会导致成像质量不同。基于深度学习的图像处理算法对训练数据集有很强的依赖性与适配性，若实际场景中采集数据的摄像头与采集训练数据的摄像头差异(在相机内参/畸变系数等方面)较大，算法模型在实际场景的预测效果通常会比较差。在实际应用中，实际场景使用的摄像头可能是多种多样的，为了适配实际场景，往往需要使用实际场景的摄像头重新采集一批数据进行模型训练。而数据采集的成本(人力/物力/时间等)通常很高。如何有效利用现有数据，生成实际摄像头下的数据是一个非常值得探究的问题。
目前生成不同摄像头下的数据的方法，通常采用基于深度学习的方法，比如生成对抗网络，进行风格迁移，生成贴合实际场景的数据。
发明内容
本公开的实施例提供了一种图像转换方法、装置、计算机可读存储介质及电子设备。
本公开的实施例提供了一种图像转换方法，该方法包括：基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对原始图像进行畸变矫正处理，得到矫正后图像；基于矫正后图像，确定待映射图像；基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像；基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像。
根据本公开实施例的另一个方面，提供了一种图像转换装置，该装置包括：矫正模块，用于基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对原始图像进行畸变矫正处理，得到矫正后图像；确定模块，用于基于矫正后图像，确定待映射图像；映射模块，用于基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像；还原模块，用于基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像。
根据本公开实施例的另一个方面，提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机程序，计算机程序用于执行上述图像转换方法。
根据本公开实施例的另一个方面，提供了一种电子设备，电子设备包括：处理器；用于存储处理器可执行指令的存储器；处理器，用于从存储器中读取可执行指令，并执行指令以实现上述图像转换方法。
基于本公开上述实施例提供的图像转换方法、装置、计算机可读存储介质及电子设备，通过对原始图像进行畸变矫正处理，得到矫正后图像，然后基于矫正后图像，确定待映射图像，接着基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像，最后基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像，从而实现了根据相机内参和畸变系数即可得到模拟另一相机拍摄的不同风格的图像，实现方式更加简便高效。由于生成的图像的像素由原始图像的像素转变而来，从而使生成的图像更接近真实场景。
下面通过附图和实施例，对本公开的技术方案做进一步的详细描述。
附图说明
通过结合附图对本公开实施例进行更详细的描述，本公开的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本公开实施例的进一步理解，并且构成说明书的一部分，与本公开实施例一起用于解释本公开，并不构成对本公开的限制。在附图中，相同的参考标号通常代表相同部件或步骤。
图1是本公开所适用的***图。
图2是本公开一示例性实施例提供的图像转换方法的流程示意图。
图3是本公开另一示例性实施例提供的图像转换方法的流程示意图。
图4是本公开另一示例性实施例提供的图像转换方法的流程示意图。
图5是本公开一示例性实施例提供的图像转换装置的结构示意图。
图6是本公开另一示例性实施例提供的图像转换装置的结构示意图。
图7是本公开一示例性实施例提供的电子设备的结构图。
具体实施方式
下面，将参考附图详细地描述根据本公开的示例实施例。显然，所描述的实施例仅仅是本公开的一部分实施例，而不是本公开的全部实施例，应理解，本公开不受这里描述的示例实施例的限制。
应注意到：除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
本领域技术人员可以理解，本公开实施例中的“第一”、“第二”等术语仅用于区别不同步骤、设备或模块等，既不代表任何特定技术含义，也不表示它们之间的必然逻辑顺序。
还应理解，在本公开实施例中，“多个”可以指两个或两个以上，“至少一个”可以指一个、两个或两个以上。
还应理解，对于本公开实施例中提及的任一部件、数据或结构，在没有明确限定或者在前后文给出相反启示的情况下，一般可以理解为一个或多个。
另外，本公开中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本公开中字符“/”，一般表示前后关联对象是一种“或”的关系。
还应理解，本公开对各个实施例的描述着重强调各个实施例之间的不同之处，其相同或相似之处可以相互参考，为了简洁，不再一一赘述。
同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，技术、方法和设备应当被视为说明书的一部分。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。
本公开实施例可以应用于终端设备、计算机***、服务器等电子设备，其可与众多其它通用或专用计算***环境或配置一起操作。适于与终端设备、计算机***、服务器等电子设备一起使用的众所周知的终端设备、计算***、环境和/或配置的例子包括但不限于：个人计算机***、服务器计算机***、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的***、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机***、大型计算机***和包括上述任何***的分布式云计算技术环境，等等。
终端设备、计算机***、服务器等电子设备可以在由计算机***执行的计算机***可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机***/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算***存储介质上。
申请概述
为了生成不同拍摄风格的图像，目前常用的方法是基于深度学习的方法训练模型，比如生成对抗网络，进行风格迁移，生成贴合实际场景的数据。但该方法受到模型精度影响较大，且图像中的像素值是通过网络合成的，所以图像在细节部分比较容易失真。
示例性***
图1示出了可以应用本公开的实施例的图像转换方法或图像转换装置的示例性***架构100。
如图1所示，***架构100可以包括终端设备101，网络102和服务器103。网络102用于在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101通过网络102与服务器103交互，以接收或发送消息等。终端设备101上可以安装有各种通讯客户端应用，例如图像处理应用、人机交互应用、搜索类应用、网页浏览器应用、即时通信工具等。
终端设备101可以是各种电子设备，包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。
服务器103可以是提供各种服务的服务器，例如对终端设备101上传的图像进行拍摄风格转换的后台图像处理服务器。后台图像处理服务器可以对接收到的图像进行处理，得到处理结果(例如模拟另一相机的拍摄风格的图像)。
需要说明的是，本公开的实施例所提供的图像转换方法可以由服务器103执行，也可以由终端设备101执行，相应地，图像转换装置可以设置于服务器103中，也可以设置于终端设备101中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。在用于转换的原始图像不需要从远程获取的情况下，上述***架构可以不包括网络，只包括服务器或终端设备。
示例性方法
图2是本公开一示例性实施例提供的图像转换方法的流程示意图。本实施例可应用在电子设备(如图1所示的终端设备101或服务器103)上，如图2所示，该方法包括如下步骤：
步骤201，基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对原始图像进行畸变矫正处理，得到矫正后图像。
在本实施例中，电子设备可以基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对原始图像进行畸变矫正处理，得到矫正后图像。其中，第一畸变参数可以是预先对上述原始相机进行畸变参数标定得到的。
具体地，相机畸变包含径向畸变与切向畸变，整合后的畸变公式：
ud＝u*(1+k1r2+k2r4+k3r6)+2p1u*v*+p2(r2+2u*2) (1)
vd＝v*(1+k1r2+k2r4+k3r6)+p1(r2+2v*2)+2p2u*v* (2)
其中，r2＝u*2+v*2,(k1,k2,p1,p2,k3)为相机的畸变参数，fx、fy为第一内参。/>表示有畸变的图像在二维坐标系下的坐标，/>表示无畸变的图像在二维坐标系下中的坐标。式(1)和式(2)是将图像从有畸变到无畸变的坐标转换公式。电子设备可以利用上述式(1)和式(2)进行逆变换以对原始图像进行畸变矫正处理。
步骤202，基于矫正后图像，确定待映射图像。
在本实施例中，电子设备可以基于矫正后图像，确定待映射图像。
其中，待映射图像为用于被映射到另一相机的二维像面坐标下的图像。可选的，可以直接将矫正后图像确定为待映射图像，还可对矫正后图像进行其他方式的处理后(例如相机拍摄角度转换)得到待映射图像。
步骤203，基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像。
在本实施例中，电子设备可以基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像。
其中，第一内参和第二内参可以是基于现有的内参标定方法对原始相机和目标相机进行内参标定得到的。目标相机是与原始相机的参数(包括内参、畸变参数等)不同的相机，由于目标相机与原始相机的参数不同，因此，目标相机拍摄的图像与原始相机拍摄的图像的风格不同。例如，原始相机为普通镜头相机，目标相机为鱼眼镜头相机。
第一内参用于表征原始相机的三维局部坐标系与原始相机的二维像面坐标系的映射关系，第二内参用于表征目标相机的三维局部坐标系与目标相机的二维像面坐标系的映射关系。本实施例的目的是将原始图像的风格转换为另一风格，可以模拟在待映射图像对应的相机位置和姿态下，使用目标相机拍摄图像。
通常，在目标相机的位置和姿态与原始相机相同时，可以基于第一内参，将待映射图像中的像素点转换到三维局部坐标系下，再基于第二内参，将三维局部坐标系下的像素点转换到二维像面坐标系下，从而得到映射图像。
步骤204，基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像。
在本实施例中，电子设备可以基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像。具体地，电子设备可以基于上述式(1)和式(2)以实现对映射图像进行畸变还原处理。
本公开的上述实施例提供的方法，通过对原始图像进行畸变矫正处理，得到矫正后图像，然后基于矫正后图像，确定待映射图像，接着基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像，最后基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像，从而实现了根据相机内参和畸变系数即可得到模拟另一相机拍摄的不同风格的图像，实现方式更加简便高效。由于生成的图像的像素由原始图像的像素转变而来，从而使生成的图像更接近真实场景。
在一些可选的实现方式中，步骤203可以如下执行：
首先，基于第一内参，确定原始相机的二维像面坐标系与原始相机的局部三维坐标系的第一映射关系。
具体地，相机成像公式为：
其中是相机的三维局部坐标系下的坐标，/>表示图像的二维坐标系下的坐标，K表示相机内参。
公式(3)是从相机的三维局部坐标系到二维像面坐标系的转换公式，所以由上述式(3)，可以得到从待映射图像的二维像面坐标系到原始相机的三维局部坐标系的转换公式为：
其中，Ko表示第一内参，Ko -1即可表示上述第一映射关系，为待映射图像中的像素点的坐标。
然后，基于第二内参，确定原始相机的局部三维坐标系与目标相机的二维像面坐标系的第二映射关系。
具体地，根据式(3)，可以得到从目标相机的三维局部坐标系到映射图像的二维像面坐标系的转换公式为：
其中，Kd为第二内参，Kd即可表示上述第二映射关系。为映射图像中的像素点的坐标。
最后，基于第一映射关系和第二映射关系，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像。
具体地，基于上述式(4)和式(5)，可以得到待映射图像和映射图像之间的坐标映射关系：
将第一内参和第二内参代入式(6)即可得到映射图像。
本实现方式通过第一内参和第二内参确定待映射图像和映射图像之间的坐标映射关系，可以将待映射图像中的每个像素点直接映射到映射图像内，从而可以提高生成映射图像的效率，由于映射图像的像素点均来自待映射图像，因此可以降低图像失真的风险。
在一些可选的实现方式中，步骤202可以如下执行：
在原始相机的三维局部坐标系下，基于第一内参和预设的相机旋转角度，将矫正后图像转换为待映射图像。其中，相机旋转角度可以是预先指定的角度。通常，相机旋转角度可以包括俯仰角(pitch)、偏航角(yaw)、翻滚角(roll)。相机旋转角度是在第二图像的相机拍摄角度的基础上，相机拍摄角度发生的变化。
通常，可以基于第一内参，将矫正后图像中的像素点转换到原始相机的三维局部坐标系下，在三维局部坐标系下进行仿射变换，完成像素点的旋转，然后再映射回二维坐标系下，从而得到待映射图像。
本实现方式通过对矫正后图像进行相机拍摄角度转换，可以生成不同相机拍摄角度下的图像，从而可以模拟与原始相机不同参数的目标相机在不同相机拍摄角度下拍摄图像，有助于得到与原始图像相比具有更多不同之处的目标图像，扩大了图像转换的应用范围。
在一些可选的实现方式中，如图3所示，上述可选实施例中，可以按照如下步骤基于第一内参和预设的相机旋转角度，将矫正后图像转换为待映射图像：
步骤2021，从矫正后图像中提取包含预设数量个点的第一像素点集。
其中，预设数量可以任意设置，例如预设数量为4。电子设备可以基于各种方式提取第一像素点集。例如随机提取、按指定提取等。
可选的，电子设备可以从矫正后图像中提取包含预设数量个不共线的点的第一像素点集。不共线的第一像素点集可以使第一像素点集充分表征图像的二维特征，提高后续仿射变换的准确性。
步骤2022，在矫正后图像的二维像面坐标系下，基于第一内参和相机旋转角度，将第一像素点集转换为第二像素点集。
通常，电子设备可以基于第一内参，将第一像素点集转换到原始相机的三维局部坐标系下，在三维局部坐标系下进行仿射变换，完成像素点的旋转，然后再映射回二维坐标系下，从而得到第二像素点集。
步骤2023，确定第一像素点集和第二像素点集在矫正后图像的二维像面坐标系下坐标映射关系。
具体地，上述映射关系可以基于如下公式得到：
设f＝K·Rz·Ry·Rx·K-1，则f即表示该坐标映射关系。其中，表示第三像素点集的二维坐标，/>表示第二像素点集的二维坐标，K为第一内参，Rz、Ry、Rx为旋转矩阵。其中，
Rx表示绕x轴的旋转矩阵，Ry表示绕y轴的旋转矩阵，Rz表示绕z轴的旋转矩阵。旋转矩阵中的pitch、yaw、roll为相机旋转角度。
步骤2024，根据坐标映射关系，将矫正后图像转换为待映射图像。
具体地，基于上述f，可以将矫正后图像中的每个像素的坐标进行转换，最终得到待映射图像。
上述图3对应实施例提供的方法，通过从矫正后图像中提取第一像素点集，基于第一内参和相机旋转角度，得到第二像素点集，从而可以得到像素点集的坐标映射关系，从而实现了使用较少的像素点确定图像间的坐标映射关系，有助于降低计算量，提高图像转换的效率。
在一些可选的实现方式中，如图4所示，步骤2022可以包括如下步骤：
步骤20221，基于第一内参，将第一像素点集转换为三维局部坐标系下的第一空间点集。
具体地，基于下式(8)，可以将第一像素点集转换为三维局部坐标系下的第一空间点集。
其中，Ko为第一内参，表示第一像素点集的二维坐标。
步骤20222，基于相机旋转角度，对第一空间点集的坐标进行仿射变换，得到第二空间点集。
具体地，仿射变换公式如下式所示：
Rx、Ry、Rz表示旋转矩阵，具体如上述步骤2023中的描述。按照式(9)，可以对第一空间点集的坐标进行仿射变换。
步骤20223，基于第二内参，将第二空间点集转换到在二维像面坐标系下的第二像素点集。
具体地，基于上述公式(3)，可以将相机的三维局部坐标系下的第二空间点集转换到在二维像面坐标系下的第二像素点集。
本实现方式通过将第一像素点集转换到三维局部坐标系下进行仿射变换，再从三维局部坐标系下转换回二维坐标系，从而可以准确地对第一像素点集进行视线角度转换，有助于提高确定矫正后图像与待映射图像的坐标映射关系的准确性。
示例性装置
图5是本公开一示例性实施例提供的图像转换装置的结构示意图。本实施例可应用在电子设备上，如图5所示，图像转换装置包括：矫正模块501，用于基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对原始图像进行畸变矫正处理，得到矫正后图像；确定模块502，用于基于矫正后图像，确定待映射图像；映射模块503，用于基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像；还原模块504，用于基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像。
在本实施例中，矫正模块501可以基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对原始图像进行畸变矫正处理，得到矫正后图像。其中，第一畸变参数可以是预先对上述原始相机进行畸变参数标定得到的。
在本实施例中，确定模块502可以基于矫正后图像，确定待映射图像。
其中，待映射图像为用于被映射到另一相机的二维像面坐标下的图像。可选的，可以直接将矫正后图像确定为待映射图像，还可对矫正后图像进行其他方式的处理后(例如相机拍摄角度转换)得到待映射图像。
在本实施例中，映射模块503可以基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像。
其中，第一内参和第二内参可以是基于现有的内参标定方法对原始相机和目标相机进行内参标定得到的。目标相机是与原始相机的参数(包括内参、畸变参数等)不同的相机，由于目标相机与原始相机的参数不同，因此，目标相机拍摄的图像与原始相机拍摄的图像的风格不同。例如，原始相机为普通镜头相机，目标相机为鱼眼镜头相机。
第一内参用于表征原始相机的三维局部坐标系与原始相机的二维像面坐标系的映射关系，第二内参用于表征目标相机的三维局部坐标系与目标相机的二维像面坐标系的映射关系。由于本实施例的目的是将原始图像的风格转换为另一风格，可以模拟在待映射图像对应的相机位置和姿态下，使用目标相机拍摄图像。
通常，可以基于第一内参，将待映射图像中的像素点转换到三维局部坐标系下，再基于第二内参，将三维局部坐标系下的像素点转换到二维像面坐标系下，从而得到映射图像。
在本实施例中，还原模块504可以基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像。具体地，还原模块504可以基于上述式(1)和式(2)以实现对映射图像进行畸变还原处理。
参照图6，图6是本公开另一示例性实施例提供的图像转换装置的结构示意图。
在一些可选的实现方式中，映射模块503包括：第一确定单元5031，用于基于第一内参，确定原始相机的二维像面坐标系与原始相机的局部三维坐标系的第一映射关系；第二确定单元5032，用于基于第二内参，确定原始相机的局部三维坐标系与目标相机的二维像面坐标系的第二映射关系；映射单元5033，用于基于第一映射关系和第二映射关系，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像。
在一些可选的实现方式中，确定模块502进一步用于：在原始相机的三维局部坐标系下，基于第一内参和预设的相机旋转角度，将矫正后图像转换为待映射图像。
在一些可选的实现方式中，确定模块502包括：提取单元5021，用于从矫正后图像中提取包含预设数量个点的第一像素点集；第一转换单元5022，用于在矫正后图像的二维像面坐标系下，基于第一内参和相机旋转角度，将第一像素点集转换为第二像素点集；第三确定单元5023，用于确定第一像素点集和第二像素点集在矫正后图像的二维像面坐标系下坐标映射关系；第二转换单元5024，用于根据坐标映射关系，将矫正后图像转换为待映射图像。
在一些可选的实现方式中，第一转换单元5022包括：第一转换子单元50221，用于基于第一内参，将第一像素点集转换为三维局部坐标系下的第一空间点集；第二转换子单元50222，用于基于相机旋转角度，对第一空间点集的坐标进行仿射变换，得到第二空间点集；第三转换子单元50223，用于基于第二内参，将第二空间点集转换到在二维像面坐标系下的第二像素点集。
在一些可选的实现方式中，提取单元5021进一步用于：从矫正后图像中提取包含预设数量个不共线的点的第一像素点集。
本公开上述实施例提供的图像转换装置，通过对原始图像进行畸变矫正处理，得到矫正后图像，然后基于矫正后图像，确定待映射图像，接着基于原始相机的第一内参和目标相机的第二内参，将待映射图像映射到目标相机的二维像面坐标系下，得到映射图像，最后基于目标相机的第二畸变参数和第二内参，对映射图像进行畸变还原处理，得到目标图像，从而实现了根据相机内参和畸变系数即可得到模拟另一相机拍摄的不同风格的图像，实现方式更加简便高效。由于生成的图像的像素由原始图像的像素转变而来，从而使生成的图像更接近真实场景。
示例性电子设备
下面，参考图7来描述根据本公开实施例的电子设备。该电子设备可以是如图1所示的终端设备101和服务器103中的任一个或两者、或与它们独立的单机设备，该单机设备可以与终端设备101和服务器103进行通信，以从它们接收所采集到的输入信号。
图7图示了根据本公开实施例的电子设备的框图。
如图7所示，电子设备700包括一个或多个处理器701和存储器702。
处理器701可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元，并且可以控制电子设备700中的其他组件以执行期望的功能。
存储器702可以包括一个或多个计算机程序产品，计算机程序产品可以包括各种形式的计算机可读存储介质，例如易失性存储器和/或非易失性存储器。易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在计算机可读存储介质上可以存储一个或多个计算机程序指令，处理器701可以运行程序指令，以实现上文的本公开的各个实施例的图像转换方法以及/或者其他期望的功能。在计算机可读存储介质中还可以存储诸如原始图像、目标图像等各种内容。
在一个示例中，电子设备700还可以包括：输入装置703和输出装置704，这些组件通过总线***和/或其他形式的连接机构(未示出)互连。
例如，在该电子设备是终端设备101或服务器103时，该输入装置703可以是相机、鼠标、键盘等设备，用于输入图像。在该电子设备是单机设备时，该输入装置703可以是通信网络连接器，用于从终端设备101和服务器103接收所输入的图像。
该输出装置704可以向外部输出各种信息，包括生成的目标图像。该输出设备704可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然，为了简化，图7中仅示出了该电子设备700中与本公开有关的组件中的一些，省略了诸如总线、输入/输出接口等等的组件。除此之外，根据具体应用情况，电子设备700还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外，本公开的实施例还可以是计算机程序产品，其包括计算机程序指令，计算机程序指令在被处理器运行时使得处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的图像转换方法中的步骤。
计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码，程序设计语言包括面向对象的程序设计语言，诸如Java、C++等，还包括常规的过程式程序设计语言，诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外，本公开的实施例还可以是计算机可读存储介质，其上存储有计算机程序指令，计算机程序指令在被处理器运行时使得处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的图像转换方法中的步骤。
计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理，但是，需要指出的是，在本公开中提及的优点、优势、效果等仅是示例而非限制，不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外，上述公开的具体细节仅是为了示例的作用和便于理解的作用，而非限制，上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似的部分相互参见即可。对于***实施例而言，由于其与方法实施例基本对应，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的，可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇，指“包括但不限于”，且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”，且可与其互换使用，除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”，且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如，可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于方法的步骤的上述顺序仅是为了进行说明，本公开的方法的步骤不限于以上具体描述的顺序，除非以其它方式特别说明。此外，在一些实施例中，还可将本公开实施为记录在记录介质中的程序，这些程序包括用于实现根据本公开的方法的机器可读指令。因而，本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是，在本公开的装置、设备和方法中，各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的，并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此，本公开不意图被限制到在此示出的方面，而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外，此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例，但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (9)
1.一种图像转换方法，包括：
基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对所述原始图像进行畸变矫正处理，得到矫正后图像；
在所述原始相机的三维局部坐标系下，基于所述第一内参和预设的相机旋转角度，将所述矫正后图像转换为待映射图像；
基于所述原始相机的第一内参和目标相机的第二内参，将所述待映射图像映射到所述目标相机的二维像面坐标系下，得到映射图像；
基于所述目标相机的第二畸变参数和第二内参，对所述映射图像进行畸变还原处理，得到目标图像。
2.根据权利要求1所述的方法，其中，所述基于所述原始相机的第一内参和目标相机的第二内参，将所述待映射图像映射到所述目标相机的二维像面坐标系下，得到映射图像，包括：
基于所述第一内参，确定所述原始相机的二维像面坐标系与所述原始相机的局部三维坐标系的第一映射关系；
基于所述第二内参，确定所述原始相机的局部三维坐标系与所述目标相机的二维像面坐标系的第二映射关系；
基于所述第一映射关系和所述第二映射关系，将所述待映射图像映射到所述目标相机的二维像面坐标系下，得到映射图像。
3.根据权利要求1所述的方法，其中，所述基于所述第一内参和预设的相机旋转角度，将所述矫正后图像转换为待映射图像，包括：
从所述矫正后图像中提取包含预设数量个点的第一像素点集；
在所述矫正后图像的二维像面坐标系下，基于所述第一内参和所述相机旋转角度，将所述第一像素点集转换为第二像素点集；
确定所述第一像素点集和所述第二像素点集在所述矫正后图像的二维像面坐标系下坐标映射关系；
根据所述坐标映射关系，将所述矫正后图像转换为待映射图像。
4.根据权利要求3所述的方法，其中，所述基于所述第一内参和所述相机旋转角度，将所述第一像素点集转换为第二像素点集，包括：
基于所述第一内参，将所述第一像素点集转换为所述三维局部坐标系下的第一空间点集；
基于所述相机旋转角度，对所述第一空间点集的坐标进行仿射变换，得到第二空间点集；
基于所述第二内参，将所述第二空间点集转换到在所述二维像面坐标系下的第二像素点集。
5.根据权利要求3或4所述的方法，其中，所述从所述矫正后图像中提取包含预设数量个点的第一像素点集，包括：
从所述矫正后图像中提取包含预设数量个不共线的点的第一像素点集。
6.一种图像转换装置，包括：
矫正模块，用于基于用于采集原始图像的原始相机的第一畸变参数和第一内参，对所述原始图像进行畸变矫正处理，得到矫正后图像；
确定模块，用于在所述原始相机的三维局部坐标系下，基于所述第一内参和预设的相机旋转角度，将所述矫正后图像转换为待映射图像；
映射模块，用于基于所述原始相机的第一内参和目标相机的第二内参，将所述待映射图像映射到所述目标相机的二维像面坐标系下，得到映射图像；
还原模块，用于基于所述目标相机的第二畸变参数和第二内参，对所述映射图像进行畸变还原处理，得到目标图像。
7.根据权利要求6所述的装置，其中，所述映射模块包括：
第一确定单元，用于基于所述第一内参，确定所述原始相机的二维像面坐标系与所述原始相机的局部三维坐标系的第一映射关系；
第二确定单元，用于基于所述第二内参，确定所述原始相机的局部三维坐标系与所述目标相机的二维像面坐标系的第二映射关系；
映射单元，用于基于所述第一映射关系和所述第二映射关系，将所述待映射图像映射到所述目标相机的二维像面坐标系下，得到映射图像。
8.一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序用于执行上述权利要求1-5任一所述的方法。
9.一种电子设备，所述电子设备包括：
处理器；
用于存储所述处理器可执行指令的存储器；
所述处理器，用于从所述存储器中读取所述可执行指令，并执行所述指令以实现上述权利要求1-5任一所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011344168.6A CN112489114B (zh) | 2020-11-25 | 2020-11-25 | 图像转换方法、装置、计算机可读存储介质及电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011344168.6A CN112489114B (zh) | 2020-11-25 | 2020-11-25 | 图像转换方法、装置、计算机可读存储介质及电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112489114A CN112489114A (zh) | 2021-03-12 |
| CN112489114B true CN112489114B (zh) | 2024-05-10 |
Family
ID=74934976
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011344168.6A Active CN112489114B (zh) | 2020-11-25 | 2020-11-25 | 图像转换方法、装置、计算机可读存储介质及电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112489114B (zh) |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112465716A (zh) * | 2020-11-25 | 2021-03-09 | 深圳地平线机器人科技有限公司 | 图像转换方法、装置、计算机可读存储介质及电子设备 |
| CN113055601B (zh) * | 2021-03-30 | 2023-01-10 | Oppo广东移动通信有限公司 | 双目拍摄矫正方法、双目拍摄矫正装置和电子设备 |
| CN113067984B (zh) * | 2021-03-30 | 2023-01-17 | Oppo广东移动通信有限公司 | 双目拍摄矫正方法、双目拍摄矫正装置和电子设备 |
| CN112884769B (zh) * | 2021-04-12 | 2021-09-28 | 深圳中科飞测科技股份有限公司 | 图像处理方法、装置、光学***和计算机可读存储介质 |
| CN113096192B (zh) * | 2021-04-25 | 2024-05-07 | 西安四维图新信息技术有限公司 | 图像传感器内参标定方法、装置、设备及存储介质 |
| CN114821497A (zh) * | 2022-02-24 | 2022-07-29 | 广州文远知行科技有限公司 | 目标物位置的确定方法、装置、设备及存储介质 |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002158915A (ja) * | 2000-09-05 | 2002-05-31 | Inst Of Physical & Chemical Res | 画像のレンズ歪みの補正方法 |
| CN104363986A (zh) * | 2014-10-31 | 2015-02-18 | 华为技术有限公司 | 一种图像处理方法和设备 |
| CN107424126A (zh) * | 2017-05-26 | 2017-12-01 | 广州视源电子科技股份有限公司 | 图像校正方法、装置、设备、***及摄像设备和显示设备 |
| CN109155822A (zh) * | 2017-11-28 | 2019-01-04 | 深圳市大疆创新科技有限公司 | 图像处理方法和装置 |
| WO2019041651A1 (zh) * | 2017-08-30 | 2019-03-07 | 广州视源电子科技股份有限公司 | 图像校正方法、装置、设备和计算机可读存储介质 |
| CN110517202A (zh) * | 2019-08-30 | 2019-11-29 | 的卢技术有限公司 | 一种车身摄像头标定方法及其标定装置 |
| CN111028290A (zh) * | 2019-11-26 | 2020-04-17 | 北京光年无限科技有限公司 | 一种用于绘本阅读机器人的图形处理方法及装置 |
| CN111047651A (zh) * | 2019-12-12 | 2020-04-21 | 中航华东光电有限公司 | 畸变图像的矫正方法 |
| CN111539880A (zh) * | 2020-04-15 | 2020-08-14 | 上海摩象网络科技有限公司 | 图像处理方法、设备及手持相机 |
| CN111951193A (zh) * | 2020-08-21 | 2020-11-17 | 安谋科技（中国）有限公司 | 图像的水平畸变矫正方法及水平畸变矫正装置 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9196022B2 (en) * | 2014-03-10 | 2015-11-24 | Omnivision Technologies, Inc. | Image transformation and multi-view output systems and methods |
| WO2017020150A1 (zh) * | 2015-07-31 | 2017-02-09 | 深圳市大疆创新科技有限公司 | 一种图像处理方法、装置及摄像机 |
| CN106910210B (zh) * | 2017-03-03 | 2018-09-11 | 百度在线网络技术（北京）有限公司 | 用于生成图像信息的方法和装置 |
| CN109754427A (zh) * | 2017-11-01 | 2019-05-14 | 虹软科技股份有限公司 | 一种用于标定的方法和装置 |
-
2020
- 2020-11-25 CN CN202011344168.6A patent/CN112489114B/zh active Active
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002158915A (ja) * | 2000-09-05 | 2002-05-31 | Inst Of Physical & Chemical Res | 画像のレンズ歪みの補正方法 |
| CN104363986A (zh) * | 2014-10-31 | 2015-02-18 | 华为技术有限公司 | 一种图像处理方法和设备 |
| CN107424126A (zh) * | 2017-05-26 | 2017-12-01 | 广州视源电子科技股份有限公司 | 图像校正方法、装置、设备、***及摄像设备和显示设备 |
| WO2019041651A1 (zh) * | 2017-08-30 | 2019-03-07 | 广州视源电子科技股份有限公司 | 图像校正方法、装置、设备和计算机可读存储介质 |
| CN109155822A (zh) * | 2017-11-28 | 2019-01-04 | 深圳市大疆创新科技有限公司 | 图像处理方法和装置 |
| CN110517202A (zh) * | 2019-08-30 | 2019-11-29 | 的卢技术有限公司 | 一种车身摄像头标定方法及其标定装置 |
| CN111028290A (zh) * | 2019-11-26 | 2020-04-17 | 北京光年无限科技有限公司 | 一种用于绘本阅读机器人的图形处理方法及装置 |
| CN111047651A (zh) * | 2019-12-12 | 2020-04-21 | 中航华东光电有限公司 | 畸变图像的矫正方法 |
| CN111539880A (zh) * | 2020-04-15 | 2020-08-14 | 上海摩象网络科技有限公司 | 图像处理方法、设备及手持相机 |
| CN111951193A (zh) * | 2020-08-21 | 2020-11-17 | 安谋科技（中国）有限公司 | 图像的水平畸变矫正方法及水平畸变矫正装置 |
Non-Patent Citations (1)
| Title |
|---|
| 线扫描相机标定及畸变矫正方法;朱瑶;王治乐;贺磊;周程灏;;航天返回与遥感(06);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112489114A (zh) | 2021-03-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112489114B (zh) | 图像转换方法、装置、计算机可读存储介质及电子设备 | |
| CN111784776B (zh) | 视觉定位方法及装置、计算机可读介质和电子设备 | |
| CN111612842B (zh) | 生成位姿估计模型的方法和装置 | |
| CN114399597B (zh) | 场景空间模型的构建方法、装置以及存储介质 | |
| JP7228608B2 (ja) | ビデオフレームの処理方法及び処理装置、電子機器、記憶媒体並びにコンピュータプログラム | |
| CN112116655B (zh) | 目标对象的位置确定方法和装置 | |
| CN112085775B (zh) | 图像处理的方法、装置、终端和存储介质 | |
| CN111402404B (zh) | 全景图补全方法、装置、计算机可读存储介质及电子设备 | |
| CN112435193B (zh) | 一种点云数据去噪的方法、装置、存储介质和电子设备 | |
| CN110517209B (zh) | 数据处理方法、装置、***以及计算机可读存储介质 | |
| JP7411114B2 (ja) | 空間幾何情報推定モデルの生成方法及び装置 | |
| CN111402136B (zh) | 全景图生成方法、装置、计算机可读存储介质及电子设备 | |
| CN111429501A (zh) | 深度图预测模型生成方法和装置、深度图预测方法和装置 | |
| WO2020092051A1 (en) | Rolling shutter rectification in images/videos using convolutional neural networks with applications to sfm/slam with rolling shutter images/videos | |
| CN111445518B (zh) | 图像转换方法和装置、深度图预测方法和装置 | |
| CN113572978A (zh) | 全景视频的生成方法和装置 | |
| CN114742722A (zh) | 文档矫正方法、装置、电子设备及存储介质 | |
| CN113689508B (zh) | 点云标注方法、装置、存储介质及电子设备 | |
| CN111179328B (zh) | 数据同步标定方法、装置、可读存储介质及电子设备 | |
| CN115205157B (zh) | 图像处理方法和***、电子设备和存储介质 | |
| CN112465716A (zh) | 图像转换方法、装置、计算机可读存储介质及电子设备 | |
| CN112489111B (zh) | 相机外参标定方法、装置及相机外参标定*** | |
| CN113111692B (zh) | 目标检测方法、装置、计算机可读存储介质及电子设备 | |
| CN114332603A (zh) | 一种对白模的外观处理方法、装置和电子设备 | |
| Liu et al. | A new stereo matching method for RAW image data based on improved SGBM |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |