CN111598962A

CN111598962A - 基于矩阵草图分析的单像素成像方法和装置

Info

Publication number: CN111598962A
Application number: CN202010332727.5A
Authority: CN
Inventors: 边丽蘅; 王华依; 张军
Original assignee: Beijing Institute of Technology BIT
Current assignee: Beijing Institute of Technology BIT
Priority date: 2020-04-24
Filing date: 2020-04-24
Publication date: 2020-08-28
Anticipated expiration: 2040-04-24
Also published as: CN111598962B

Abstract

本申请提出一种基于矩阵草图分析的单像素成像方法和装置，其中，方法包括：对目标场景进行随机坐标采样，获取多排行坐标和列坐标；对多排行坐标和列坐标对应的部分目标场景进行光编码，并通过预先搭建的单像素成像***对编码光进行采集，获取一维测量值；根据一维测量值，利用单像素成像重建算法生成多排行坐标和列坐标对应的草图；使用矩阵草图分析方法对草图进行重建得到完整目标场景图像。由此，适用于大规模高分辨率单像素成像，有效减少采样率及计算时间，具有较高的应用价值。

Description

基于矩阵草图分析的单像素成像方法和装置

技术领域

本申请涉及计算摄像学技术领域，尤其涉及一种基于矩阵草图分析的单像素成像方法和装置。

背景技术

在电子图像应用领域，人们对于高分辨率图像的需求越来越高。高分辨率代表图像中的像素密度高，能提供更多的细节描述，在实际应用中尤为重要。例如，高分辨率医疗图像有助于医生做出正确的诊断；又如，使用高分辨率卫星图像可以从相似物中区别相似的对象；不仅如此，如果能够提供高分辨图像，计算机视觉中的模式识别性能就会大大提高。自从上世纪七十年代以来，电荷耦合器件(CCD)、CMOS图像传感器已被广泛用来捕获数字图像。

尽管对于大多数的图像应用来说，这些传感器是合适的，但是当前的分辨率水平和消费价格不能满足日益发展的需求。在日常生活中，成本较低、易于携带的高分辨率数码相机更易被人们所接受；对科学实验来说，科研人员需要高分辨率水平的拍摄以便于放大图像，但现有的高分辨率相机依旧无法降低成本。因此，综合日常使用及科研需求，寻找一种增强当前分辨率水平的方法是非常必须的。

传统摄影技术采用阵列传感器进行自然图像的成像，当图像像素数较大时，往往占用内存多，且实时运算复杂。单像素探测器作为新型计算摄像学的器件，仅需一个检测器，因此成本较低，便于移植。此外，所使用的单像素探测器可以提供更高的性能，如高检测效率，更宽的频谱范围等。这种优势在散射情况下或吸收损耗较大的情况下具有较好的效果，因此具有重要的研究意义，例如医学成像或远成像。

不仅如此，单像素相机能够在数据采集步骤中进行压缩感知，从而减少数据存储和数据传输需求，这是单像素探测器在遥感或高光谱成像时的一个重要应用。在过去的十年内，出现了单个像素摄像头对可见光波段成像的许多应用，多光谱成像，高光谱成像，红外成像，太赫兹成像，气体成像，实时视频，显微镜成像，3D(三维)成像，多模态成像，X射线衍射断层摄影，光声成像，全息相位成像，磁共振成像和远距离成像等。

在机器学习中，多图分析技术和核方法需要对矩阵进行大量的矩阵计算，截断特征值分解(即具有顶部特征向量的近似矩阵分解)广泛用于图分析中，例如频谱聚类，链接预测，图匹配，内核方法，例如主成分分析和许多流形学习方法，也需要截断特征值分解。其他一些核方法，例如高斯过程回归和核岭回归，需要进行矩阵求逆，训练样本的数量众多。由于求解矩阵求逆成本时间很高，因此，标准矩阵计算方法在矩阵较大时不可行。

综上所述，现有研究在处理高分辨率、大尺度的图像重建或矩阵计算时依旧存在硬件及软件上的问题。

发明内容

本申请旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本申请提出一种基于矩阵草图分析的单像素成像方法，适用于大规模高分辨率单像素成像，有效减少采样率及计算时间，具有较高的应用价值。

本申请提出一种基于矩阵草图分析的单像素成像装置。

本申请一方面实施例提出了一种基于矩阵草图分析的单像素成像方法，包括：

对目标场景进行随机坐标采样，获取多排行坐标和列坐标；

对所述多排行坐标和列坐标对应的部分目标场景进行光编码，并通过预先搭建的单像素成像***对编码光进行采集，获取一维测量值；

根据所述一维测量值，利用单像素成像重建算法生成所述多排行坐标和列坐标对应的的草图；

使用矩阵草图分析方法对所述草图进行重建得到完整目标场景图像。

本申请另一方面实施例提出了一种基于矩阵草图分析的单像素成像装置，包括：

采样模块，用于对目标场景进行随机采样获取多排行坐标和列坐标；

编码模块，用于对所述多排行坐标和列坐标对应的部分目标场景进行光编码；

获取模块，用于通过预先搭建的单像素成像***对编码光进行采集，获取一维测量值；

生成模块，用于根据所述一维测量值，利用单像素成像重建算法生成所述多排行坐标和列坐标对应的草图；

处理模块，用于使用矩阵草图分析方法对所述草图进行重建得到完整目标场景图像。

本申请实施例所提供的技术方案可以包含如下的有益效果：

通过对目标场景进行随机坐标采样，获取多排行坐标和列坐标；对多排行坐标和列坐标对应的部分目标场景进行光编码，并通过预先搭建的单像素成像***对编码光进行采集，获取一维测量值；根据一维测量值，利用单像素成像重建算法生成多排行坐标和列坐标对应的草图；使用矩阵草图分析方法对草图进行重建得到完整目标场景图像。由此，适用于大规模高分辨率单像素成像，有效减少采样率及计算时间，具有较高的应用价值。

附图说明

本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本申请实施例所提供的一种基于矩阵草图分析的单像素成像方法的流程示意图；

图2为本申请实施例所提供的一种基于矩阵草图分析的单像素成像方法的流程示例图；

图3为本申请实施例所提供的高分辨率目标场景重建示意图；

图4为本申请实施例所提供的单像素成像***的光路图；

图5为本申请实施例所提供的矩阵草图采样模式示例图；

图6为本申请实施例提供的光编码模式示例图；

图7为本申请实施例提供的单像素解耦算法得到的采样场景部分列坐标的草图及采样场景部分行坐标的草图示例图；

图8为本申请实施例提供的原图及由草图得到的重建图的示例图；

图9为本申请实施例提供的一种基于矩阵草图分析的单像素成像装置的结构示意图。

具体实施方式

下面详细描述本申请的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本申请，而不能理解为对本申请的限制。

下面参考附图描述本申请实施例的基于矩阵草图分析的单像素成像方法和装置。

具体地，矩阵草图通过随机化降低了矩阵的维数，并在保留关键属性的同时压缩了矩阵，从而加快了计算速度，矩阵草图可用于在更短的时间内找到准确的计算解决方案，或者可通过识别重要的行和列来汇总数据。

本申请一种基于矩阵草图分析的单像素成像方法和装置，可以实现高分辨率重建场景。

图1为本申请实施例所提供的一种基于矩阵草图分析的单像素成像方法的流程示意图。

如图1所示，该方法包括以下步骤：

步骤101，对目标场景进行随机坐标采样，获取多排行坐标和列坐标。

步骤102，对多排行坐标和列坐标对应的部分目标场景进行光编码，并通过预建单像素成像***对编码光进行采集，获取一维测量值。

具体地，目标场景是根据需要采集的原始图像，可以对目标场景进行随机采样，或者多排行和列，对采样后的目标场景进行随机光编码的方式有很多种，作为一种可能实现方式，将未采样的行坐标和列坐标置为0，采样的行坐标和列坐标设为1，将设置后的行坐标和列坐标与随机矩阵进行点乘处理完成随机光编码。

进一步地，通过预先搭建的单像素成像***对进行随机光编码过的目标场景进行采集，获取一维测量值，其中，可以理解的是，搭建基于单像素装置的二维成像***，以提高处理效率。

作为一种可能实现方式，通过单像素探测器对目标场景进行光强耦合值采集作为一维测量值。

步骤103，根据一维测量值，利用单像素成像重建算法生成多排行坐标和列坐标对应的草图。

步骤104，使用矩阵草图分析方法对草图进行重建得到完整目标场景图像。

其中，单像素成像重建算法，包括但不限于压缩感知算法，传统迭代或非迭代算法，线性或非线性算法，深度学习算法中的一种或者多种。

为了本领域更加清楚本申请基于矩阵草图分析的单像素成像方法，如图2所示，按照生成草图的方式设定好光调制器的编码方式，再利用单像素探测器采集一维光强耦合值(一维测量值)，解析单像素的重构算法可运用多种方式(包括但不限于压缩感知，传统迭代/非迭代算法，线性/非线性算法，深度学习算法等)，从而解出目标场景的草图(草图为目标场景的随机行/列坐标采样，根据采样方式生成光编码模型，将随机行/列坐标矩阵与多个随机矩阵相乘，形成新的光编码，应用于***的空间光调制器中)，利用矩阵草图分析方法，由草图重建原图，并将重建后的图与原图比较，计算误差。

举例而言，如图3所示，要完成高分辨率的单像素成像，需要生成草图后，从草图重建完整图像，草图的获取方式通过单像素装置的二维成像***进行采集，然后利用草图，使用矩阵分析等方法重建图像。

其中，如图4所示，为二维成像***的光路图，对于二维成像***的搭建来说，单像素成像装置使用空间光调制器来调制光图案，并由单像素探测器接收来自目标场景的反射光，如图3所示，可以通过使用多种算法(包括但不限于压缩感知，传统迭代/非迭代算法，线性/非线性算法，深度学习算法等)从调制模式和相应的一维测量重建二维目标场景图像K(或矩阵K)的一个草图。

其中，矩阵草图绘制方法可以使用快速低阶分解方法来加快矩阵计算，其中C∈Rⁿ ^×c是K的草图(例如，K的随机采样c列是C)。

作为原图的草图选择，包括但不限于如下几种模式，如图5所示，其中，红色块1为背景，代表原图K，黄色块2表示K的子矩阵P或C，从左至右分别表示几种常用方式：标准的Nystrom方法计算K的n×c块；改进的Nystrom方法计算整个n×n矩阵K；Sketch-Nystrom方法计算K的n×c块和s×s块。

本申请所实施的光编码方式依据上述草图采样方式，可以根据上述方式进行目标场景的采样，并与随机矩阵相乘，即为新型光编码样式，公式如下所示：

M_i＝B_x·R_i。

其中，M_i为一种光编码方式，对应一次光强的采集值，R_i为随机矩阵，仅含像素值为0/255，i为采集次数。B_x为采样模式，B_x＝B_nys或B_mod或B_sn对应上述模式(包括但不限于以上几种方式)，如图6所示。

对于本申请中所使用的单像素传感器，其成像方案是一套线性***。具体而言，测量形成可以描述为：

y_i＝M_i·C。

其中，M_i∈R^m×n表示光调制矩阵(m指调制模式的个数,每种调制模式包含n个像素)，C∈R^n×1代表要重建的目标场景的草图，而y_i∈R^m×1是测量得到的一维光强向量。

已知光编码模式M_i和相对应的测量值y_i，可以通过单像素二维解耦算法计算得出草图C，其中，算法包括但不限于压缩感知，传统迭代/非迭代算法，线性/非线性算法，深度学习算法等。

因此，对于单像素成像算法解耦出的C∈R^n×c是K的草图，同样，P∈R^n×c是K的草图，为获得原图K，通过矩阵草图绘制方法(或Nystrom方法)可以使用快速低阶分解方法，从而求解原图K。

具体地，给定n×n矩阵K和n×c列，选择矩阵P，C＝KP；对于标准Nystrom方法：

对于改进Nystrom方法：

其中，U∈R^c×c称为交集矩阵；对于草图-Nystrom方法：

其中，S∈R^n×s为另一种草图矩阵，可以使用上述获取C的方式获得，也可以包括但不限于使用均匀采样矩阵，自适应采样矩阵，杠杆得分采样矩阵等得出矩阵S。

得到C与U矩阵后，即可重建原图像K为：

K≈CUC^T

将上述交集矩阵分别带入，得到的式子分别如下所示：

因此，两个模型之间的唯一区别是它们的交集矩阵，并且该差异导致它们的逼近精度有很大差异，而对于草图-Nystrom方法，得到的重建式如下所示：

基于上述分析，标准Nystrom方法是草图-Nystrom方法的特例，其中S定义为P，同样改进的Nystrom方法也是该方法的特例，上述矩阵草图分析法使用K的低秩近似，仅需O(nc²)的时间即可近似计算秩k(k≤c)特征值分解或矩阵求逆。因此，如果在线性时间中获得C和U，并且c与n无关，则可以在线性时间中近似地解决原图K的重建问题，比如图7和图8，图7由单像素解耦算法得到的草图C(采样部分列)及草图P(采样部分行)示例，图8为原图及由草图得到的重建图示例。

由此，通过本申请的编码方式，进一步降低图像采样率及采集次数，并完成图像的高分辨率重建，可以在多光谱范围内适用，可有效重建高像素的二维场景。

需要说明是的，本申请的方法易于实现，有效处理多种单像素成像问题和对于大尺度场景具有显著优势。

本申请可以针对高分辨率单像素成像，先生成草图，再从草图重建完整图像，从而有效减少测量值数量，提高成像效率，具体包括以下步骤：首先搭建单像素成像***；对目标场景进行随机坐标采样，获取多排行坐标和列坐标；对相应坐标的部分目标场景进行光编码，并通过预建单像素成像***对编码光进行采集，获取一维测量值；根据一维测量值，利用单像素成像重建算法生成相应坐标的草图；最后使用矩阵草图分析方法，对草图进行重建得到完整目标场景图像。由此，适用于大规模高分辨率单像素成像，有效减少采样率及计算时间，具有较高的应用价值。

为了实现上述实施例，本申请还提出一种基于矩阵草图分析的单像素成像装置，该装置设置于服务器中。

如图9所示，该装置包括：采样模块901、编码模块902、获取模块903、生成模块904和处理模块905。

采样模块901，用于对目标场景进行随机采样获取多排行坐标和列坐标。

编码模块902，用于对所述多排行坐标和列坐标对应的部分目标场景进行光编码。

获取模块903，用于通过预先搭建的单像素成像***对编码光进行采集，获取一维测量值。

生成模块904，用于根据所述一维测量值，利用单像素成像重建算法生成所述多排行坐标和列坐标对应的草图。

处理模块905，用于使用矩阵草图分析方法对所述草图进行重建得到完整目标场景图像。

进一步地，在本申请实施例的一种可能的实现方式中，编码模块902，具体用于：将未采样的行坐标和列坐标设置为0；采样的行坐标和列坐标设为1；将设置后的行坐标和列坐标与随机矩阵进行点乘处理，完成所述光编码。

进一步地，在本申请实施例的一种可能的实现方式中，搭建模块906，用于搭建模块，用于搭建单像素成像***。

进一步地，在本申请实施例的一种可能的实现方式中，所述单像素成像重建算法，包括但不限于压缩感知算法，传统迭代或非迭代算法，线性或非线性算法，深度学习算法中的一种或者多种。

进一步地，在本申请实施例的一种可能的实现方式中，获取模块903，具体用于：通过单像素探测器对进行随机光编码过的目标场景进行光强耦合值采集，作为所述一维测量值。

需要说明的是，前述对方法实施例的解释说明也适用于该实施例的装置，此处不再赘述。

本申请实施例的基于矩阵草图分析的单像素成像装置中，通过对目标场景进行随机坐标采样，获取多排行坐标和列坐标；对多排行坐标和列坐标对应的部分目标场景进行光编码，并通过预先搭建的单像素成像***对编码光进行采集，获取一维测量值；根据一维测量值，利用单像素成像重建算法生成多排行坐标和列坐标对应的草图；使用矩阵草图分析方法对草图进行重建得到完整目标场景图像。由此，适用于大规模高分辨率单像素成像，有效减少采样率及计算时间，具有较高的应用价值。

为了实现上述实施例，本申请实施例提出了一种电子设备，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现如前述终端设备执行方法实施例所述的基于矩阵草图分析的单像素成像方法。

为了实现上述实施例，本申请实施例提出了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时，实现前述方法实施例所述的基于矩阵草图分析的单像素成像方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行***、装置或设备(如基于计算机的***、包括处理器的***或其他可以从指令执行***、装置或设备取指令并执行指令的***)使用，或结合这些指令执行***、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行***、装置或设备或结合这些指令执行***、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行***执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本申请各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims

1.一种基于矩阵草图分析的单像素成像方法，其特征在于，包括以下步骤：

对目标场景进行随机坐标采样，获取多排行坐标和列坐标；

2.如权利要求1所述的基于矩阵草图分析的单像素成像方法，其特征在于，所述对所述多排行坐标和列坐标的部分目标场景进行光编码，包括：

将未采样的行坐标和列坐标设置为0；

采样的行坐标和列坐标设为1；

将设置后的行坐标和列坐标与随机矩阵进行点乘处理，完成所述光编码。

3.如权利要求1所述的基于矩阵草图分析的单像素成像方法，其特征在于，在所述获取一维测量值之前，还包括：

搭建单像素成像***。

4.如权利要求1所述的基于矩阵草图分析的单像素成像方法，其特征在于，

所述单像素成像重建算法，包括但不限于压缩感知算法，传统迭代或非迭代算法，线性或非线性算法，深度学习算法中的一种或者多种。

5.如权利要求1所述的基于矩阵草图分析的单像素成像方法，其特征在于，所述通过预先搭建的单像素成像***对编码光进行采集，获取一维测量值，包括：

通过单像素探测器对进行随机光编码过的目标场景进行光强耦合值采集作为所述一维测量值。

6.一种基于矩阵草图分析的单像素成像装置，其特征在于，包括：

7.如权利要求6所述的基于矩阵草图分析的单像素成像装置，其特征在于，所述编码模块，具体用于：

将未采样的行坐标和列坐标设置为0；

采样的行坐标和列坐标设为1；

8.如权利要求6所述的基于矩阵草图分析的单像素成像装置，其特征在于，还包括：

搭建模块，用于搭建单像素成像***。

9.如权利要求6所述的基于矩阵草图分析的单像素成像装置，其特征在于，

10.如权利要求1所述的基于矩阵草图分析的单像素成像装置，其特征在于，所述获取模块，具体用于：

通过单像素探测器对进行随机光编码过的目标场景进行光强耦合值采集，作为所述一维测量值。