CN102812709B - 压缩彩色图像采样和重建的方法和*** - Google Patents
压缩彩色图像采样和重建的方法和*** Download PDFInfo
- Publication number
- CN102812709B CN102812709B CN201080060963.0A CN201080060963A CN102812709B CN 102812709 B CN102812709 B CN 102812709B CN 201080060963 A CN201080060963 A CN 201080060963A CN 102812709 B CN102812709 B CN 102812709B
- Authority
- CN
- China
- Prior art keywords
- data
- filter
- image
- sample
- raw image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Image Input (AREA)
- Facsimile Heads (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
Abstract
一种用于压缩彩色图像采样和重构的方法。接收数据的样本集,该数据通过变换并采样空间基上的原始图像的光学性质而产生,其中所产生的变换在该空间基上大致为对角的。将压缩传感重构技术应用于该样本数据上以产生一组推测的原始图像数据。数据处理设备被适配为接收这种数据的样本集并将压缩传感重构技术应用于该样本数据从而产生一组推测的原始图像数据。在一个优选实施方案中,成像***使用滤色阵列(CFA),其中色彩是随机或伪随机地排列在图像传感器上的。利用压缩传感稀疏方案搜索技术从该传感器数据和CFA模型来推测图像。所推测的图像的分辨率比通过当前的基于CFA的方案利用具有相同数量传感器元件的传感器可获得的分辨率更高。
Description
相关申请
本申请基于并要求在2009年11月20日提交的美国临时专利申请第61/262,923号的权益,该专利申请通过引用以其全文结合在此。
技术领域
本发明的实施方案涉及在成像过程中进行压缩采样的***和方法。
背景技术
传统的采样
数字信号分析要求将模拟信号转换为离散于作为第一个步骤。这由采样定理来控制,采样定理通常规定必须以奈奎斯特速率或高于奈奎斯特速率对模拟信号进行采样,奈奎斯特速率可以被定义为模拟信号的最高频率分量的二倍。对于高带宽信号,高采样率相应地对采集***施加了重负载。
传统的彩色成像
可以认为本文的图像是模拟信号,该信号的幅度表示某种光学性质,例如强度、颜色和极化,这种光学性质可以在空间上变化,但在相关测量期间在时间上不会发生很大程度变化。在彩色成像中,典型地光强度由光敏传感器元件进行检测。传统的图像传感器典型地由这些独立传感器元件的二维规则镶嵌组成。彩色成像***需要在至少三个基色上对图像进行采样,以便合成一幅彩色图像。我们使用术语“基色”是指主要颜色、辅助颜色或形成色彩空间的任意适合选择的色彩集合,在该色彩空间中成像***表示该图像。色彩感测可以通过各种装置来实现,例如像(a)将图像分为三个完全相同的拷贝,分别将每一个拷贝过滤为基色,并且利用独立的图像传感器来感测它们中的每一个,或者(b)使用一个旋转过滤盘将利用这些基色中的每一个过滤的图像依次传送到相同的图像传感器上。
然而,获取彩色图像的最常用的设计是使用覆盖一个滤色阵列(“CFA”)的一个单一传感器。这包括直接的设计,其中每个输出像素的值由三个传感元件来确定,每个元件用于每一个基色,通常这些传感元件排列在水平或垂直条带上。
其他CFA设计,包括名称为彩色成像阵列的Bayer美国专利3,971,065中描述的一种常用的设计,使用主要以有规律的、重复的模式排列的不同颜色的滤光片。所有这些***依赖于称为去马赛克的处理,也称为内插演算法,以便在每个像素位置上重构三个基色。传统的去马赛克算法典型地包括使用利用例如插值技术,像双线性、解调以及滤波和边缘自适应算法。传统的去马赛克算法只有在基色中图像的对应于细节的高频进行相关时或在至少一个方向上具有低的高频能量时才有效。在不具有这些高频特性时,重构的图像呈现出伪影。随机CFA也在Condat的“具有良好光谱特性的滤色阵列的模式(Randompatternsforcolorfilterarrayswithgoodspectralproperties)”(德国慕尼黑,2008年9月,第08-25号,HelmholtzZentrumMunchen,IBB的研究报告)中进行了研究,但其中的重构也依赖于传统的去马赛克。同样,重构的图像除了被随机渲染得在视觉上较差外,还呈现出了去马赛克伪影。
信号压缩
图像压缩典型地应用在数字图像获取之后,以减少传输和存储过程中的***数据加载。图像压缩是基于自然图像和很多合成图像在某些基上是近似稀疏的观察。这种基包括傅里叶相关基,例如JPEG和小波采用的离散余弦变换(“DCT”),它们依赖于经验上观察的自然图像的分层自相似并且构成了JPEG2000压缩方法的基础。
广义传感
如果待采样的信号在某些基上是稀疏的,则以奈奎斯特速率进行采样在资源利用上效率较低。已经做出了很多尝试来解决这种稀疏性以降低采样率。一些技术采用了结合信号的期望结构的先验知识的限制性信号模型来减少需要估计的参数的数量。自适应多尺度感测使用信号的期望多尺度结构的先验知识。这种技术虽然在减少所需的测量次数上十分有效,但受到连续测量要求的影响,在对快速移动的目标进行成像时并不需要这种特性。
压缩传感
最近已经开发了一种新的被称为“压缩传感”的降速率采样方案。压缩传感重构技术的目标是通过被称为“稀疏性提升”的正则化方案来解决病态逆问题的方案。本文的病态逆问题涉及从一个原始信号的一种变换的采样数据集来重构该信号,其中该变换是不可逆的。稀疏性提升使用某些基上的原始信号的稀疏性的现有统计知识,以便择优地搜索在该基上同样近似稀疏的病态逆问题的解决方案。参见Candes等人的“鲁棒性测不准原理:由高度不完整的频率信息重构精确的信号(Robustuncertaintyprinciples:Exactsignalreconstructionfromhighlyincompletefrequencyinformation)”(IEEETrans.onInformationTheory,52(2),第489-509页,2006年2月),该论文通过引用以其全文结合在此。它们表明在一个样本基上原始信号的非自适应样本的减少的数量不足以恢复具有较少信息丢失或无信息丢失的信号,该样本基与原始信号在其上是稀疏的基不相干。这里的非相干性是两个基之间的非相似性的一种测量方法;更精确地说,它是来自两个单独基的任意一对基矢量的内积的最大幅度。参见Candes和Romberg的压缩采样中的稀疏性和非相干性(Sparsityandincoherenceincompressivesampling)(InverseProblems,23(3),第969-985页,2007)他们推导了基之间的不相干性与需要以高概率精确重构原始信号所需要的样本数量之间的逆关系。压缩传感技术因此通过逻辑可维持性和物理概率的联合最大化从欠定***的方程中重构原始信号。
最初认为要求计算禁止组合搜索的L0范数最小化可能是需要的。显而易见的是,后来表明计算上更易于处理的线性计算方法也能起作用。这种方法在已知观察所约束的稀疏基上最小化了重构的L1范数。
已经提出了压缩传感中用于解逆问题的几种公式,包括“基追赶”以及约束和无约束凸二次规划。参见Figueiredo等人的“稀疏重构的梯度投影:应用于压缩传感和其他逆问题(Gradientpfojectionforsparsereconstruction:Applicationtocompressedsensingandotherinverseproblems)”(IEEEJournalonselectedtopicsinSignalProcessing,2007年),该文献通过引用以其全文结合在此。
一个公式由无约束凸优化问题组成:
其中x是稀疏基上的解,该解被栅格化为一个单一的尺度矢量,y是所观测的图像,也进行了栅格化,并且A是转换矩阵,该矩阵表示从稀疏到空间域的基变化。x是稀疏表示,相比于y它具有更少的元素。第一项罚与所观察图像的偏差,而第二项是L1范数,该范数已经被表示用于罚更稀疏的解。τ控制两个惩罚项的相对权重。
约束凸优化问题公式也存在,该公式最小化第一或第二项,同时将其他项约束在一个阈值以下。
正交匹配追踪(“OMP”)及其很多变化形式,例如同时正交匹配追踪、阶段匹配追踪、扩展匹配追踪、稀疏匹配追踪以及顺序稀疏匹配追踪,形成了快速获取近似解的一类常用的算法。已经表明总变差(“TV”)最小化可以产生改进的重构。参见Candes等人的“从随机投影恢复实际信号(Practicalsignalrecoveryfromrandomprojections)”(IEEETrans,SignalProcessing,2005年),该文献通过引用以其全文结合在此。还有另一类重构算法受到去噪方法的启发,并且该算法在变换域中包括迭代阈值。后来的进展继续进一步改善重构质量并降低计算负担。
压缩传感是信息可扩展的,也就是说即便只有很少的样本用来进行精确重构,但可以根据测量的数量来提取不同等级的信息。
本文所用的“压缩传感”表示基于原始信号的转换的样本利用某些基上原始信号的近似稀疏性的先验统计知识来重构信号以便择优地搜索病态逆问题的解,这些样本在该基上也是近似稀疏的。
有很多稀疏性提升解算子可以利用。以下列出了一些著名的解算子。
GPSR:它利用梯度投影算法来解有界约束二次规划公式。这在Figueiredo、Nowak、Wright的“稀疏重构的梯度投影:应用于压缩传感和其他逆问题(Gradientprojectionforsparsereconstruction:Applicationtocompressedsensingandotherinverseproblems)”(IEEEJournalonselectedtopicsinSignalProcessing,2007年)中进行了描述,该文献通过引用以其全文结合在此,并且该文献可以在http://www.lx.it.pt/~mtf/GPSR/上找到。
l1-Magic:它解“线性规划”或二阶“锥规划”公式。该方法目前可以在http://www.acm.caltech.edu/l1magic上找到或可以向作者EmmanuelCandes(斯坦福大学数学系,450SerraMall,Bldg,380)索要得到。
稀疏性:它包含很多算法,这些算法包括几种OMP的变化形式。目前可以在http://www.personal.soton.ac.uk/tb1m08/sparsify/sparsify.html上找到它。
l1_ls:它利用内点法解方程(1)的凸二次规划公式。目前可以在http://www.stanford.edu/~boyd/l_1ls/上找到它。
压缩成像
不幸的是,将压缩传感应用于成像已经受到一些缺陷的影响。实现任意采样基以达到与任何特定稀疏基的不相干要求每个测量是所有像素值的线性组合。由于采集所有的像素值并计算它们的线性组合会无法实现压缩传感的目的,因此已经发展一些技术,这些技术在感光单元感测之前的光域或在数字化之前的模拟电域向一个任意基进行投影。
在这种技术中,在一个不同基上的投影是利用数字镜像装置(“DMD”)来完成的,并且多个样本要连续地获取。参见Duarte等人的“通过压缩采样进行单像素成像(Single-pixelimagingviacompressivesampling)”(IEEESignalProcessingMagazine,25(2),第83-91页,2008年3月)。连续测量是实时成像中不需要的一种特性。除此以外,DMD的附加成本是合理的,只要在传感器成本上有较大的节约。这有时对在可见谱边界之外进行测量的传感器是这种情况,但典型地对可见谱本身不是这种情况。
在光域中向一个任意基进行投影的其他技术包括利用微光机械装置或双折射结构将图像重复若干次并在测量之前对每个复本有区别地进行滤波。参见Brady的名称为压缩成像编码(CODINGFORCOMPRESSIVEIMAGING)的美国专利7,532,772。尽管这些技术不要求连续测量,但光处理在很大程度上增加了成本。而且,它们不捕获彩色图像。
在Jacques,L、Vandergheynst、P.,Bibet,A.、Majidzadeh,V.、Schmid,A.,以及Leblebici,Y.的“由随机卷积进行CMOS压缩成像(CMOScompressedimagingbyRandomConvolution)”(IEEEInternationalConferenceonAcoustics,SpeechandSignalProcessing(ICASSP),4月19-24日,2009)中讨论了另一种技术,该技术通过使各种传感器元件的输出相互电连接而在采样步骤本身中进行图像的随机卷积,从而有效地在不同于空间基的基上采样。这对在空间基上的非对角变换产生了影响。除了在硬件上进行卷积的专用硬件成本外,这种方案受到必须进行连续测量的不利条件的影响。
因此,需要一种方法和***,以计算上可行的、实用的并且经济的方式在图像处理中使用压缩传感。
发明内容
本发明提供了一种处理图像的方法。在该方法中,接收数据的样本集,该数据通过变换并采样一个空间基上的原始图像的光学性质而产生,其中所产生的变换在该空间基上大致为对角的。一种压缩传感重构技术应用于该数据样本集上以产生一组推测的原始图像数据。
另外,可以提供具有多个光敏传感器元件的一个图像传感器,连同提供具有多个转换元件的一个光转换装置,该多个元件响应于该光性质,其中由该光转换装置所产生的变换在该空间基上大致为对角的。在这种情况中,图像投影到该光转换装置上,并且这些转换元件对该原始图像的光学响应在该图像传感器上感测以便产生数据的样本集。
本发明还提供了一种处理图像的***。该***包括一个数据处理设备,该设备被适配为接收数据的样本集,该数据通过变换并采样一个空间基上的原始图像的光学性质而产生,其中所产生的变换在该空间基上大致为对角的。然后将一种压缩传感重构技术应用于该数据样本集以产生一组推测的原始图像数据。
该***可以进一步包括一个图像传感器,该图像传感器具有多个光敏传感器元件;一个光转换装置,该光转换装置具有响应于该光学性质的多个转换元件,其中由该光学转换装置产生的转换在该空间基上大致为对角的;以及一个光成像装置,该光成像装置被适配为将该图像投影到该光转换装置上,该图像传感器针对该光转换装置进行设置,以便接收在其所对应的光敏元件上该转换元件对该图像的光学响应,从而产生该数据样本集。
本发明的一个优选实施方案将随机或伪随机排列的一个滤色阵列与基于压缩传感的一种图像重构技术相结合,该技术在每种色彩上获得的有限图像分辨率相同于利用相同数量的传感器元件的一种单色图像传感器。
应当理解的是,本概述用作总体上确定附图和详细描述中将要阐述的内容,并且不用于限制本发明的范围。考虑以下的详细描述并结合附图将很容易理解本发明的目的、特征和优点。
附图说明
图1的流程图示出了根据本发明的一个优选实施方案的一种利用压缩采样对彩色图像进行采样和重构的方法。
图2是根据本发明的一个优选实施方案的一个彩色成像***的示意图。
图3是根据本发明的一个优选实施方案的一个滤色阵列的图示。
图4是根据本发明的一个优选实施方案的利用压缩采样进行彩色图像采样和重构仿真(以Matlab执行)的结果。
图5列出了用于产生随机滤色阵列的一部分Matlab代码,该阵列适于在本发明的一个优选实施方案中使用。
具体实施方式
为了克服现有的压缩成像方法和***的局限性,本发明使用空间基直接作为采样基。这种直接空间采样不同于先前提到的现有的图像采样技术,因为除了别的之外它在应用一个转换之后对图像进行采样,例如色彩过滤,这种转换在空间基上基本上是对角的,也就是说在每个位置上的转换的值只依赖于在该位置上的原始图像,不依赖于基本上从其移除的位置上的原始图像,以便实现测量和稀疏基之间的不相干。这种方式运行良好,因为空间基始终与傅里叶基高度不相干,在傅里叶基中自然信号是近似稀疏的。这种选择还不会受到先前提到的必须顺序进行多个测量的缺陷的影响,而是同时获得所有测量,每个测量仅仅是一个独立传感器元件的输出。需要注意的是,影响变换的光元件(例如光低通滤波器)在空间基是非对角的,但原始图像-我们计划利用压缩传感技术重构的图像-在本文定义为使用这种滤波器后产生的图像。而且这种元件不用于非相干增强的目的。
在单色图像传感器的情况中,选择具有较少传感器元件(以规则模式排列)的传感器阵列的简单设计不会提供压缩传感的优点:这种图像传感器的最大空间频率受到它们的奈奎斯特频率的限制。超出奈奎斯特极限的频率无法进行推测,因为这些频率在空间测量基上的随机投影不能与它们的镜像随机投影相区分。相反,关闭了一些随机或伪随机选择的传感器元件的一个正常单色图像传感器仍可以提供足够的信息以全分辨率来重构图像,质量损失很小或无损失。尽管这种做法不会导致传感器区域的减少,但它会降低读出速率。这构成了本发明的一个实施方案。
本发明的优选实施方案在上述的单色图像传感器中使用稀疏传感器元件以将三个基色包封在一个图像传感器(具有与单色图像传感器数量相同的传感器元件)中并如同单色传感器一样仍然在每种色彩中获得同样限制的分辨率。基色中的每一个中随机排列的数量大致相等的滤色元件用于对基色进行多路传输。
另一个实施方案使用全色滤色元件,其中每一个元件在所有基色中可变程度上是透光的。这里,随机地选择色彩构成,而不仅仅是它们的分配。然而,这种CFA比基色中的CFA更难于制造。
另一个实施方案使用基色的过滤器,但具有不用的透射率,或增加具有一些非基色或透明过滤器的CFA。这样做可增强所得传感器的灵敏度或动态范围。
图1中示出了说明压缩成像的一种优选方法的流程图。在步骤110,为CFA提供了随机或伪随机安排的色彩。(如本文所用,术语“随机地”被解释为包括伪随机以及随机。)在步骤120,入射图像通过这种CFA进行过滤。在步骤130,过滤的图像由一个图像传感器在一个独立的测量周期中进行检测。在步骤140,全分辨率图像从图像传感器输出和使用压缩传感稀疏信号重构技术的CFA模式进行重构。
图2示出了根据本发明的一个优选实施方案的一个成像***的示意图。图像210由透镜220聚焦到光变换装置上,具体地是CFA230(如本文所用,术语“光转换装置”表示一种装置,例如固定色彩滤光片或空间光调制器,它基于图像的一个或多个光特性将光图像从一个状态转换到另一个状态)。过滤的图像由图像传感器240进行检测。所得到的多个感测的过滤图像强度值发送到执行图1算法的处理器250,在其中进行全分辨率图像重构。
图3示出了根据本发明一个优选实施方案的示例性CFA310。在这种实例中,数量几乎相等的红、绿和蓝(统称“RGB”)滤光片以随机模式分布。
进行了一个Matlab仿真,其中产生了具有数量几乎相等的红、绿和蓝滤光片(以随机化模式排列)的CFA。产生这种CFA的Matlab代码示于图5中。原始彩色图像通过这种CFA进行过滤,一定数量的白噪声加到过滤的图像上并在所得的图像传感器输出上进行重构。二维离散余弦变换(“DCT”)基用作稀疏基。GPSR解算子用于进行信号重构。GPSR解算子解以上所示的方程(1)的公式,方法是将它转换为一个等价的有界约束二次规划公式,然后使用梯度投影算法来解它,本领域中熟练技术人员将会理解。仿真产生了一幅彩色图像,该图像在每个色彩上的分辨率与具有相同数量传感器元件的传统单色传感器产品获得的分辨率相同,尽管图像质量略微有些损失。进行这种仿真的Matlab代码列在本发明的详细描述的最后。
图4示出了这种仿真的结果。图像410是原始彩色图像。图像420是经过示例性随机RGB滤光片过滤后的原始图像。图像430是重构的全分辨率彩色图像。本文提供灰度级的彩色图像。
图5列出了本发明的一个简单实施方案的仿真中所使用的Matlab代码。用于产生CFA的Matlab代码对本领域熟练技术人员而言利用GPSR解算子足以产生这些结果。Matlab是美国马萨诸塞州纳蒂克的MathWorks公司的产品。
本压缩传感成像设计能够在图像获取层面上进行整合压缩。这降低了焦平面的数据传输要求-该焦平面是光场与数字化数据之间的界面-并且能够降低图像传感器设计上的感光单元计算。这还能够产生低功率、低带宽的图像传感器设计。
如前所述,本发明使用空间基作为测量基,利用它与自然图像的稀疏基的非相干性来有效地实现压缩传感。这能够减少需要用于在每个色彩上重构图像的样本,进而允许共同多路传输三个色彩上的采样。可以采用重构技术的各种修改形式来增强此***,以提高图像质量。
三个基色上图像间的相关性可用于在一个联合基上表示图像,在该基上自然图像比合成图像更稀疏。参见Nagesh等人的“彩色图像的压缩成像(Compressiveimagingofcolorimages)”(IEEEInt.Conf.onAcoustics,SpeechandSignalProcessing(ICASSP),台北,台湾,2009年4月),该文献通过引用以其全文结合在此。联合基在稀疏基中将基色上的图像重构为所有色彩公用的一部分和色彩专用部分。
如前所提及,TV最小化产生了比仅使用L1最小化更好的结果。TV是基于梯度的平滑功能。参见Candes等人的“从随机投影恢复实际信号(Practicalsignalrecoveryfromrandomprojections)”(IEEETrans.SignalProcessing,2005),该文献通过引用以其全文结合在此(IBR)。总变差最小化在S.Becker、J.Bobin以及E.J.Candès的“NESTA:一种用于稀疏恢复的快速精确的一阶方法(NESTA:afastandaccuratefirst-ordermethodforsparserecovery)”,InPress,SIAMJ.onImagingSciences描述的NESTA解算子中实现,该文献通过引用以其全文结合在此,目前可在http://www.acm.caltech.edu/~nesta/上找到或向作者索要。
常规的去马赛克图像可以用作解算子的起始点。用于随机CFA模式的这种去马赛克可以利用不同方法来实施,这些方法包括在Condat的“具有良好光谱特性的滤色阵列的随机模型(Randompatternsforcolorfilterarrayswithgoodspectralproperties)”(德国慕尼黑,2008年9月,第08-25号,HelmholtzZentrumMunchen,IBB的研究报告)中描述的方法,IBR,该方法通过引用以其全文结合在此,并且在lukac等人的“利用RGB滤色片阵列对管道进行成像的通用去马赛克处理(UniversaldemosaicingforimagingpipelineswithaRGBcolorfilterarray)”(模式识别,卷38,第2208-2212页,2005年)中进行了描述,该文献通过引用以其全文结合在此。利用这些作为重构图像的起始点可以加速重构处理,并且在一些实施方式中可能提高重构本身的质量。去马赛克图像还可以用作在重构全分辨率图像之前的图像预览。
可以使用其他CFA模式。这些模式可以基于不同的色彩空间,即,使用不同的基色集,而不是红、绿和蓝三原色。
可以使用具有不等数量基色的CFA模式。例如就像在BayerCFA中所做的,使用两倍的绿色站作为红色或蓝色。这种不对称有助于降低噪声。
可以使用具有某种色彩分配限制的CFA模式,例如在Condat的“具有良好光谱特性的滤色阵列的随机模型(Randompatternsforcolorfilterarrayswithgoodspectralproperties)”(德国慕尼黑,2008年9月,第08-25号,HelmholtzZentrumMunchen,IBB的研究报告)中讨论的那些,该文献通过引用以其全文结合在此。这种限制可以帮助避免相同颜色的滤光片元件的过分聚集,同时仍保持CFA模式的随机特征。
其他的小波基、分形基或曲波基或它们的组合可以用作稀疏基。当选择稀疏基时,选择一个基(在该基上自然图像更为稀疏)的优点必须与该基与空间测量基的低不相干性的可能缺点相平衡。利用多贝西小波代替二维DCT基作为稀疏基的实验产生了视觉上相似的重构。
传感器读取受到热源和电源的泊松光量子击中噪声和高斯噪声的影响。重构算法(包括用于这些分配的对数似然罚项)可以更精确地抽取原始的无噪声信号。SPIRAL(在ZacharyT.Harmany、RoummelF.Marcia以及RebeccaM.Willett的“这是SPIRAL-TAP:稀疏泊松强度重构算法一理论和实践(ThisisSPIRAL-TAP:SparsePoissonIntensityReconstructionALgorithms--TheoryandPractice)”(已提交至IEEETransactionsonImageProcessing)中描述并且目前可以从http://people.ee.duke.edu/~zth/software/找到或向作者索要,该文献通过引用以其全文结合在此)是这样一种解算子,除了稀疏提升L1和总变差项外,它可以使用基于泊松分布的负对数似然的罚项。
统计上与自然图像相联系的另一种约束是更大尺度上的较大小波系数的似然性。如果将小波选作稀疏基,这可以在重构处理上发挥作用。类似地,在自然和大部分合成图像的傅立叶变化上较低频率的很大幅度的增强似然性在重构处理中也可以发挥作用。
在亮度或色度或两者的降低的限定分辨率或者一个或多个基色的降低的限定分辨率上的图像重构可以产生更好的图像质量。
本发明不仅可以用于静态成像而且还可以用于视频。除了简单推广至多帧之外,还可以使用进行多帧的联合重构(发挥它们的相关性)。
除可见光谱中的彩色图像之外,本发明还可以用在几何约束限制多光谱图像传感器***的其他情况中。本发明允许多光谱采样被折叠成需要更小孔径的较小传感器,而无需增加获取时间。
对损坏或故障传感器元件,本发明提供了较强的免受图像质量降低的能力。这可以用于提高传感器产量:特点是不需要丢弃具有一些受损传感器元件的图像传感器。
本发明可用在图像扫描器中。
本发明可以用于在不同数量的维度上获取多光谱图像,包括一维和三维。
以下的Matlab代码用于产生图4所示的仿真结果。
实施方案、替代实施方案以及具体实例的上述描述通过图解的形式给出并且不应被视为是限制。另外,本实施方案的范围内的很多变化和修改形式可以在不偏离其精神的前提下做出,并且本发明包括这些变化和修改形式。
前述说明书中已经使用的术语和表达式在其中用作描述的术语而非限制,并且在使用这些术语和表达式时,无意排除所示的和所描述的特征的等同体或它们的一部分,应当认识到本发明的范围仅由后续的权利要求书来定义和限制。
Claims (28)
1.一种用于处理图像的方法,包括:
接收数据的样本集,该数据通过变换并采样空间基上的原始图像的光学性质而产生,样本数据集的每个样本都是从独立光学传感元件中获取的标量值,其中所产生的变换在该空间基上大致为对角的;并且
在明显与采样基础不一致的基础上重建原始图像数据的稀疏表示。
2.如权利要求1所述的方法,进一步包括:
提供一个具有多个光敏传感器元件的图像传感器;
提供一个光转换装置,该装置具有响应于该光学性质的多个转换元件;
将该图像投影到该光转换装置上;并且
在该图像传感器上感测该转换元件对该原始图像的光学响应,以产生该数据样本集。
3.如权利要求2所述的方法,其中提供一个光转换装置包括提供一个具有多个滤光元件的滤光阵列。
4.如权利要求3所述的方法,其中提供一个滤光阵列包括提供至少两组该滤光元件,该两组滤光元件对色彩呈现出不同的响应。
5.如权利要求4所述的方法,其中提供一个滤光元件包括以满足至少一个预定的分配条件的随机色彩模式来排列它们。
6.如权利要求3所述的方法,其中该滤光阵列装配有响应于几个基色之一的多个滤光元件,这些滤光元件以随机色彩模式来排列,并且在所有基色上产生推测的原始图像数据。
7.如权利要求6所述的方法,其中该滤光阵列装配有多个滤光元件,这些滤光元件与大致上所有传感器阵列元件具有一对一的关系,每个滤光元件响应于这些基色之一,这些滤光元件以满足至少一个预定的分配条件的随机色彩模式排列,并且在所有基色上产生推测的原始图像数据。
8.如权利要求3所述的方法,其中该滤光阵列装配有多个响应于随机组成的全色彩的滤光元件,这些滤光元件以随机模式排列,并且沿着一个适当色彩空间的所有轴线来产生推测的图像数据。
9.如权利要求3所述的方法,其中该滤光阵列装配有随机排列的透光或不透光滤光元件的模型。
10.如权利要求2所述的方法,其中该图像传感器的传感器元件中的一个或多个是有缺陷的。
11.如权利要求2所述的方法,其中数据的多个顺序样本集从所产生的相应推测的原始图像数据的多个顺序集中产生。
12.如权利要求1所述的方法,其中该光学性质是以随机色彩模式采样的若干色彩之一的强度,并且在所有基色上产生推测的原始图像数据。
13.如权利要求1所述的方法,其中该光学性质是以随机色彩模式采样的若干色彩之一的强度,并且对于每一个推测的原始图像数据元素,沿着一个适当的色彩空间的所有轴线产生推测的原始图像数据。
14.如权利要求1所述的方法,其中该光学性质是强度。
15.一种用于处理图像的***,包括:
一个数据处理设备,该设备被适配为:
接收数据的样本集,该数据通过变换并采样空间基上的原始图像的光学性质而产生,样本数据集的每个样本都是从独立光学传感元件中获取的标量值,其中所产生的变换在该空间基上大致为对角的;并且
在明显与采样基础不一致的基础上重建原始图像数据的稀疏表示。
16.如权利要求15所述的***,进一步包括:
一个图像传感器,该图像传感器具有多个光敏传感器元件;
一个光转换装置,该光转换装置具有响应于该光学性质的多个转换元件;以及
一个光成像装置,该光成像装置被适配为将该图像投影到滤光阵列上,该图像传感器针对该光转换装置而布置,以便接收在其所对应的光敏元件上这些转换元件对该图像的光学响应,从而产生该数据样本集。
17.如权利要求16所述的***,其中该光转换装置包括一个具有多个滤光元件的滤光阵列。
18.如权利要求17所述的***,其中至少两组滤光元件对色彩呈现出不同的响应。
19.如权利要求18所述的***,其中这些滤光元件以满足至少一个预定的分配条件随机色彩模式来排列。
20.如权利要求17所述的***,其中这些滤光元件响应于若干基色之一并以随机色彩模式排列,并且在所有基色上产生推测的原始图像数据。
21.如权利要求20所述的***,其中这些滤光元件与大致上所有传感器阵列元件具有一对一的关系,每个滤光元件响应于有限数量色彩之一并且以满足至少一个预定的分配条件的随机色彩模式排列,并且在所有基色上产生推测的原始图像数据。
22.如权利要求17所述的***,其中这些滤光元件响应于随机组成的全色彩并且以随机的模式排列,并且沿着一个适当色彩空间的所有轴线来产生推测的图像数据,该色彩空间对应于每个传感器元件。
23.如权利要求17所述的***,其中该滤光元件是随机排列的透光或不透光滤光元件。
24.如权利要求16所述的***,其中该图像传感器的传感器元件中的一个或多个是有缺陷的。
25.如权利要求16所述的***,其中该传感器产生数据的多个顺序样本集,该处理设备从该样本集产生相应推测的原始图像数据的多个顺序集。
26.如权利要求15所述的***,其中该光学性质是以满足至少一个预定的分配条件的随机色彩模式采样的若干色彩之一的强度,并且该数据处理里设备被适配为在所有基色上产生推测的原始图像数据。
27.如权利要求15所述的***,其中该光学性质是以满足至少一个预定的分配条件的随机色彩模式采样的有限数量的全色彩之一的强度,并且对于每一个推测的原始图像数据元素,沿着一个适当的色彩空间的所有轴线产生推测的原始图像数据。
28.如权利要求15所述的***,其中该光学性质是强度。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US26292309P | 2009-11-20 | 2009-11-20 | |
US61/262,923 | 2009-11-20 | ||
PCT/US2010/057541 WO2011063311A2 (en) | 2009-11-20 | 2010-11-20 | Method and system for compressive color image sampling and reconstruction |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102812709A CN102812709A (zh) | 2012-12-05 |
CN102812709B true CN102812709B (zh) | 2015-11-25 |
Family
ID=44060381
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201080060963.0A Expired - Fee Related CN102812709B (zh) | 2009-11-20 | 2010-11-20 | 压缩彩色图像采样和重建的方法和*** |
Country Status (7)
Country | Link |
---|---|
US (1) | US8761525B2 (zh) |
EP (1) | EP2502423A2 (zh) |
JP (1) | JP2013511924A (zh) |
KR (1) | KR20120106762A (zh) |
CN (1) | CN102812709B (zh) |
CA (1) | CA2781534A1 (zh) |
WO (1) | WO2011063311A2 (zh) |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9118797B2 (en) * | 2009-11-20 | 2015-08-25 | Tripurari Singh | Method and system for robust and flexible extraction of image information using color filter arrays |
WO2012005767A2 (en) | 2010-07-07 | 2012-01-12 | The Board Of Trustees Of The Leland Stanford Junior University | A noise robust decoder for multiplexing readout channels on an imaging sensor array |
US9195501B2 (en) * | 2011-07-12 | 2015-11-24 | Qualcomm Incorporated | Instruction culling in graphics processing unit |
WO2013133785A1 (en) | 2012-03-05 | 2013-09-12 | Empire Technology Development Llc | Integrated occupancy and ambient light sensors |
US9213916B2 (en) | 2012-03-22 | 2015-12-15 | The Charles Stark Draper Laboratory, Inc. | Compressive sensing with local geometric features |
US9613285B2 (en) | 2012-03-22 | 2017-04-04 | The Charles Stark Draper Laboratory, Inc. | Compressive sensing with local geometric features |
WO2013142767A1 (en) * | 2012-03-22 | 2013-09-26 | GARDINER, Brian | Compressive sensing with local geometric features |
CN102801984B (zh) * | 2012-07-31 | 2016-04-20 | 陶霖密 | 彩色图像传感器及获取彩色数字图像的方法 |
CN103208134A (zh) * | 2013-03-08 | 2013-07-17 | 西安交通大学 | 一种基于压缩传感的闪光照相客体三维重构方法 |
US10036667B2 (en) | 2013-07-14 | 2018-07-31 | B. G. Negev Technologies And Applications Ltd., At Ben-Gurion University | Thin-layered devices in compressive sensing spectroscopy |
US9300865B2 (en) * | 2014-01-24 | 2016-03-29 | Goodrich Corporation | Random imaging |
WO2015154033A1 (en) | 2014-04-04 | 2015-10-08 | The Arizona Board Of Regents On Behalf Of The University Of Arizona | Compressive sensing systems and related methods |
WO2015198331A1 (en) * | 2014-06-25 | 2015-12-30 | Ramot At Tel-Aviv University Ltd. | System and method for light-field imaging |
WO2016012980A1 (en) | 2014-07-24 | 2016-01-28 | Ecole Polytechnique Federale De Lausanne (Epfl) | Compact multifunctional system for imaging spectroscopy |
JP6595161B2 (ja) * | 2014-07-31 | 2019-10-23 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、画像処理方法、及び、撮像装置 |
JP6478579B2 (ja) * | 2014-11-20 | 2019-03-06 | キヤノン株式会社 | 撮像ユニット、撮像装置、及び画像処理システム |
US9615022B2 (en) * | 2014-12-11 | 2017-04-04 | Conduent Business Services, Llc | High-resolution imaging devices using low-resolution sensors and compressive sensing exploiting joint sparsity |
JP6373221B2 (ja) * | 2015-04-03 | 2018-08-15 | 日本電信電話株式会社 | 画像投影装置、方法、及びプログラム |
US9743024B2 (en) | 2015-07-01 | 2017-08-22 | Massachusetts Institute Of Technology | Method and apparatus for on-chip per-pixel pseudo-random time coded exposure |
JP6653460B2 (ja) * | 2015-09-08 | 2020-02-26 | パナソニックIpマネジメント株式会社 | 撮像装置、撮像システム、画像生成装置およびカラーフィルタ |
JP2017139742A (ja) | 2016-02-02 | 2017-08-10 | パナソニックIpマネジメント株式会社 | 撮像装置、撮像システム、撮像方法及びプログラム |
US10048413B2 (en) * | 2016-06-07 | 2018-08-14 | Goodrich Corporation | Imaging systems and methods |
JP6655790B2 (ja) | 2016-06-16 | 2020-02-26 | パナソニックIpマネジメント株式会社 | 撮像装置及び撮像システム |
EP3264755A1 (en) | 2016-06-30 | 2018-01-03 | Thomson Licensing | Plenoptic sub aperture view shuffling for a richer color sampling |
CN106485760B (zh) * | 2016-09-30 | 2019-05-14 | 电子科技大学 | 一种基于最小插值误差平方和的彩色图像下采样方法 |
JP6975897B2 (ja) * | 2016-12-27 | 2021-12-01 | パナソニックIpマネジメント株式会社 | 画像生成装置及び撮像装置 |
JP6966934B2 (ja) * | 2017-03-29 | 2021-11-17 | パナソニックIpマネジメント株式会社 | 画像生成装置及び撮像装置 |
CN107798345B (zh) * | 2017-10-20 | 2020-11-20 | 西北工业大学 | 基于块对角与低秩表示的高光谱伪装目标检测方法 |
US11539424B2 (en) * | 2019-08-27 | 2022-12-27 | Samsung Electronics Co., Ltd | System and method for providing channel recovery for angle domain sparse channels |
CN111912392A (zh) * | 2019-12-09 | 2020-11-10 | 南开大学 | 一种基于轮转式滤光片的无人机用轻型光谱成像装置 |
CN113824903B (zh) * | 2021-08-11 | 2022-12-02 | 西安电子科技大学 | 一种基于压缩感知技术的图像数据传输*** |
CN116074484A (zh) * | 2023-01-15 | 2023-05-05 | 山东产研卫星信息技术产业研究院有限公司 | 一种CMOS卫星影像的Bayer色彩重建方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101202293A (zh) * | 2006-12-13 | 2008-06-18 | 和舰科技(苏州)有限公司 | 图像传感器及其制造方法 |
WO2008129553A1 (en) * | 2007-04-24 | 2008-10-30 | Optical Compressed Sensing | Method and system for compressed imaging |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5751243A (en) * | 1990-10-29 | 1998-05-12 | Essex Corporation | Image synthesis using time sequential holography |
JP4027441B2 (ja) * | 1995-12-18 | 2007-12-26 | オリンパス株式会社 | カラー画像撮像装置 |
US7030917B2 (en) * | 1998-10-23 | 2006-04-18 | Hewlett-Packard Development Company, L.P. | Image demosaicing and enhancement system |
JP3988461B2 (ja) * | 2001-12-28 | 2007-10-10 | 株式会社ニコン | 電子カメラ |
KR20060115961A (ko) * | 2003-05-13 | 2006-11-13 | 익시이드 이미징 리미티드 | 이미지 해상도를 향상시키기 위한 광학적 방법 및 시스템 |
US7283231B2 (en) * | 2004-07-20 | 2007-10-16 | Duke University | Compressive sampling and signal inference |
US7532772B2 (en) * | 2004-07-20 | 2009-05-12 | Duke University | Coding for compressive imaging |
EP1880524B1 (en) * | 2005-04-21 | 2013-10-30 | William Marsh Rice University | Method and apparatus for compressive imaging device |
US8139130B2 (en) * | 2005-07-28 | 2012-03-20 | Omnivision Technologies, Inc. | Image sensor with improved light sensitivity |
WO2008063691A2 (en) * | 2006-04-12 | 2008-05-29 | William Marsh Rice University | Apparatus and method for compressive sensing radar imaging |
FR2917559B1 (fr) * | 2007-06-12 | 2009-12-25 | Centre Nat Rech Scient | Capteur d'images numeriques,procede d'acquisition et de reconstruction d'images,et systeme de mise en oeuvre |
US8325988B2 (en) * | 2008-03-03 | 2012-12-04 | California Institute Of Technology | Image reconstruction by position and motion tracking |
US7688068B2 (en) * | 2008-05-06 | 2010-03-30 | General Electric Company | System and method for using parallel imaging with compressed sensing |
US8259198B2 (en) * | 2009-10-20 | 2012-09-04 | Apple Inc. | System and method for detecting and correcting defective pixels in an image sensor |
-
2010
- 2010-11-20 KR KR1020127015779A patent/KR20120106762A/ko not_active Application Discontinuation
- 2010-11-20 EP EP10832307A patent/EP2502423A2/en not_active Withdrawn
- 2010-11-20 US US12/951,043 patent/US8761525B2/en not_active Expired - Fee Related
- 2010-11-20 CN CN201080060963.0A patent/CN102812709B/zh not_active Expired - Fee Related
- 2010-11-20 CA CA2781534A patent/CA2781534A1/en not_active Abandoned
- 2010-11-20 WO PCT/US2010/057541 patent/WO2011063311A2/en active Application Filing
- 2010-11-20 JP JP2012540122A patent/JP2013511924A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101202293A (zh) * | 2006-12-13 | 2008-06-18 | 和舰科技(苏州)有限公司 | 图像传感器及其制造方法 |
WO2008129553A1 (en) * | 2007-04-24 | 2008-10-30 | Optical Compressed Sensing | Method and system for compressed imaging |
Non-Patent Citations (2)
Title |
---|
Block Compressed Sensing Of Natural Images;Lu Gan;《Proc. of the 2007 15th Intl. Conf. on Digital Signal Processing》;20071231;403-404页 * |
Random Patterns For Color Filter Arrays With Good Spectral Properties;Laurent Condat;《Research Report of the IBB》;20080630;1-3页 * |
Also Published As
Publication number | Publication date |
---|---|
CN102812709A (zh) | 2012-12-05 |
WO2011063311A3 (en) | 2011-09-29 |
KR20120106762A (ko) | 2012-09-26 |
JP2013511924A (ja) | 2013-04-04 |
CA2781534A1 (en) | 2011-05-26 |
WO2011063311A2 (en) | 2011-05-26 |
US20110142339A1 (en) | 2011-06-16 |
EP2502423A2 (en) | 2012-09-26 |
US8761525B2 (en) | 2014-06-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102812709B (zh) | 压缩彩色图像采样和重建的方法和*** | |
Zhao et al. | Efficient and model-based infrared and visible image fusion via algorithm unrolling | |
Du et al. | PLTD: Patch-based low-rank tensor decomposition for hyperspectral images | |
Oh et al. | Do it yourself hyperspectral imaging with everyday digital cameras | |
Dong et al. | Deep spatial–spectral representation learning for hyperspectral image denoising | |
Hu et al. | Convolutional sparse coding for RGB+ NIR imaging | |
CN106575035A (zh) | 用于光场成像的***和方法 | |
Bacca et al. | Noniterative hyperspectral image reconstruction from compressive fused measurements | |
JP2014515587A (ja) | デジタル画像装置用の画像処理パイプラインの学習 | |
Peng et al. | Residual pixel attention network for spectral reconstruction from RGB images | |
Indhumadhi et al. | Enhanced image fusion algorithm using laplacian pyramid and spatial frequency based wavelet algorithm | |
KR20190036459A (ko) | 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치 | |
KR20190036442A (ko) | 인공 지능을 이용한 초분광 영상 재구성 방법 및 장치 | |
Sun et al. | Sparse spectral signal reconstruction for one proposed nine-band multispectral imaging system | |
Hou et al. | A patch tensor-based change detection method for hyperspectral images | |
Zhou et al. | PAN-guided band-aware multi-spectral feature enhancement for pan-sharpening | |
Hang et al. | Prinet: A prior driven spectral super-resolution network | |
Abdelhamed et al. | Leveraging the availability of two cameras for illuminant estimation | |
Kekre et al. | Image fusion using Kekre's hybrid wavelet transform | |
Hu et al. | A spatial constraint and deep learning based hyperspectral image super-resolution method | |
Le Guludec et al. | Deep light field acquisition using learned coded mask distributions for color filter array sensors | |
Kumar et al. | Pansharpening of Multispectral Images using Deep Learning Architectures: Trends & Future Directions | |
Song et al. | Unsupervised denoising for satellite imagery using wavelet subband cyclegan | |
US20220405972A1 (en) | An imaging sensor, an image processing device and an image processing method | |
Cai et al. | DMDC: Dynamic-mask-based dual camera design for snapshot Hyperspectral Imaging |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20151125 Termination date: 20161120 |