CN101616263B - 摄像装置 - Google Patents
摄像装置 Download PDFInfo
- Publication number
- CN101616263B CN101616263B CN2009101579716A CN200910157971A CN101616263B CN 101616263 B CN101616263 B CN 101616263B CN 2009101579716 A CN2009101579716 A CN 2009101579716A CN 200910157971 A CN200910157971 A CN 200910157971A CN 101616263 B CN101616263 B CN 101616263B
- Authority
- CN
- China
- Prior art keywords
- unit
- pixel
- image
- addition
- amplifying
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Studio Devices (AREA)
Abstract
当为拍摄物体设定了减小手抖动模式时,根据用于减小手抖动模式的程序图(实线)B来控制曝光,其与用于正常模式的程序图(虚线)A不同。在快门速度被设定为小于“1/80”的状态中,在成像信号上执行两像素相加和/或四像素相加,以放大物体亮度,提升ISO感光度。设定在高速范围中的快门速度减小了由于在拍摄操作期间手抖动和/或物体移动造成的图像质量恶化。
Description
技术领域
本发明涉及一种摄像装置,其能够被用于数码相机。
背景技术
一种在数码相机中使用的、用于防止或补偿由在拍摄静态图像时相机机身移动所造成的手抖动的防抖(hand shake preventing)机构是公知的,例如,一种装置,其带有光学***被设置为可移动的摄像镜头***,或者可以任意移动的光学***(可变顶角棱镜),以使得对摄像元件曝光来拍摄物体时,图像位置在摄像元件上移动(移动光轴)。同时,已知另一种装置,其使得在对摄像元件曝光时,摄像元件自身移动。通常,为了控制图像位置和/或摄像元件自身的移动,数码相机带有两个传感器,分别位于水平和垂直方向上,以检测抖动的方向。基于检测结果,相机控制图像位置或摄像元件的这种移动。(例如,参见日本专利公开特许公报No.2004-348147。)
然而,常规技术只减小了手抖动,而不能防止由物体移动或振动造成的模糊图像。
做出本发明以克服上述常规缺陷,且目的是提供一种摄像装置,其能够减小由手抖动以及由物体移动所引起的缺陷。
发明内容
根据本发明的一个方面,提供了一种摄像装置,其包括摄像单元,用于拍摄物体,以输出拍摄图像;亮度获取单元,用于获得物体亮度;第一曝光调整单元,用于当由亮度获取单元获得的物体亮度低于预定值时,使得摄像单元执行像素相加处理,以提升拍摄图像的亮度;以及第二曝光调整单元,用于当由亮度获取单元获得的物体亮度高于预定值时,根据由亮度获取单元获得的物体亮度,控制摄像单元的快门速度,而不使摄像单元执行像素相加处理。
根据本发明的另一方面,提供了一种摄像装置,其包括摄像单元,用于拍摄物体以输出拍摄图像;亮度获取单元,用于获得物体亮度;第一曝光调整单元,用于当由亮度获取单元获得的物体亮度低于第一预定值时,使得摄像单元执行采用第一像素相加模式的像素相加处理,以提升拍摄图像的亮度;以及第二曝光调整单元,用于当由亮度获取单元获得的物体亮度低于比第一预定值低的第二预定值时,使得摄像单元执行采用第二像素相加模式的像素相加处理,以提升拍摄图像的亮度,在第二像素相加模式中相加的像素的数量比在第一像素相加模式中的大。
根据本发明的另一方面,提供了一种摄像装置,其包括摄像单元,用于拍摄物体以输出拍摄图像;以及驱动单元,用于驱动多个场中的摄像单元,并用于使得摄像单元执行采用像素相加模式的像素像素相加处理,从而在每个场中使得具有相同颜色并彼此位置相邻的多个像素的像素信号相加。
根据本发明的再另一方面,提供了一种摄像装置,其包括摄像单元,用于拍摄物体以输出拍摄图像;像素相加单元,用于使摄像单元执行像素相加;图像放大单元,用于当由像素相加单元在摄像单元中已经执行了像素相加处理时,执行放大处理,以放大从摄像单元输出的拍摄图像;像素相加计数改变单元,用于改变在由摄像单元执行的像素相加处理中要被相加的像素的数量;以及放大率改变单元,用于当像素相加计数改变单元已经改变了要被相加的像素的数量时,改变图像放大单元用以执行放大处理的放大率。
根据本发明的再另一方面,提供了一种摄像装置,其包括摄像单元,用于拍摄物体以输出拍摄图像;像素相加单元,用于使摄像单元执行像素相加处理;选择单元,用于确定是否使像素相加单元执行像素相加处理;以及图像放大单元,用于当选择单元已经确定使像素相加单元执行像素相加处理时,在由像素相加单元在摄像单元中执行了像素相加处理之后,执行放大处理,以放大从摄像单元输出的拍摄图像。
根据本发明的再另一方面,提供了一种摄像装置,其包括摄像单元,用于拍摄物体以输出拍摄图像,像素相加单元,用于使摄像单元执行像素相加处理,以将具有相同颜色并彼此位置相邻的多个像素的像素信号相加;以及相位调整单元,用于基于包含在拍摄图像中的像素在像素空间中的布置,调整在颜色内插处理中要为每个像素内插的颜色分量的相位,其在由像素相加单元执行的像素相加处理期间发生改变。
附图说明
图1是根据本发明实施例的数码相机的框图;
图2是示出存储在闪存中的程序图的视图;
图3A和3B是CCD的示意图,用于示出在两像素相加模式中读出成像信号的原理;
图4是示出由采用两像素相加模式读出的成像信号组成的拜耳(Bayer)数据的示意图;
图5A和5B是CCD的示意图,用于示出在四像素相加模式中读出图像信号的原理;
图6是示出由在四像素相加模式中读出的成像信号组成的拜耳(Bayer)数据的示意图;
图7是在静态图像拍摄模式中执行的处理的流程图;
图8是在静态图像拍摄模式中执行的静态图像拍摄过程的流程图;
图9是示出当像素相加系数被设定为“4倍”时,在所执行的RGB内插处理中目标像素的视图;
图10是示出当像素相加系数被设定为“4倍”时所执行的RGB内插处理中,在上述目标像素与水平方向上位置相邻的像素之间的关系的视图;
图11是示出当像素相加系数被设定为“4倍”时所执行的RGB内插处理中,在上述目标像素与垂直方向上位置相邻的像素之间的关系的视图;以及
图12是与图8的流程图相对应的流程图,示出了在静态图像拍摄过程中执行的改进的静态图像拍摄过程。
具体实施方式
现在,将参照附图对用于数码相机的本发明的摄像装置的实施例加以说明。图1是示出根据本发明的数码相机1的电子结构的框图。数码相机1具有拍摄模式,包括静态图像拍摄模式和视频拍摄模式(movie shooting mode)。
如图1所示,数码相机1具有镜头模块2。数码相机1具有不同的功能,例如图像缩放功能,AF(自动聚焦功能),AE(自动曝光设定功能)等。镜头模块2具有一个透镜组,包括变焦透镜和聚焦透镜,光圈和快门机构(未示出)。
致动机构模块3包括:变焦马达和聚焦马达,用于驱动变焦透镜和聚焦透镜;光圈致动机构,用于驱动并设定光圈;以及快门致动机构,用于驱动快门机构来开关快门。在本实施例中的光圈机构具有两个位置,即全开启位置和狭小开启位置。驱动器电路4具有驱动器,用于驱动在致动机构模块3中的两个马达和两个致动机构。驱动电路4根据由CPU 5提供的指令,产生各种驱动信号,CPU 5控制数码相机1的整体操作,并向致动机构模块3提供所产生的驱动信号,以驱动镜头模块2的组件。快门机构可以用电子快门取代。
此外,数码相机1具有:CCD 6,用于接收穿过镜头模块2的物体的入射光;相关双采样电路(CDS)7;可编程增益放大器(PGA)8;以及A/D转换器(A/D)9。
CCD 6是固态成像器件,具有光感测表面,在其上形成物体的光图像,并且光感测表面被采用拜耳(Bayer)样式的基本滤色器所覆盖。CCD 6由垂直/水平驱动器11基于由时序信号发生器(TG)10在CPU 5的指令的基础上所产生的时序信号来驱动,从而CCD 6产生与物体光图像相对应的模拟成像信号,并将其输出到相关双采样电路7。在本实施例中,垂直/水平驱动器11与CCD 6协作,组成该实施例的像素相加单元。
相关双采样电路7对输入的成像信号执行相关双采样操作,以减小包含在成像信号中的噪声,并向可编程增益放大器8输出成像信号。可编程增益放大器8将其增益调整到与ISO感光度相对应的值,以放大减小了噪声的成像信号。A/D转换器9对从可编程增益放大器8提供的成像信号进行采样,以将其转换为具有预定比特数的数字信号,并将数字信号输出到图像处理电路12。
根据来自CPU 5的指令,图像处理电路12将SDRAM 13用作工作存储器,并执行:RGB内插处理,以基于输入的数字成像信号(拜耳数据)为每个像素产生RGB颜色分量数据(以下称为RGB数据);YUV转换处理,为每个像素产生YUV数据,包括亮度信号(Y)和色差信号(U,V);以及数字信号处理,用于提高图像质量,包括自动白平衡处理,和边缘增强处理。由图像处理电路12转换的YUV数据相继存储在SDRAM 13上。
每当一帧数据被存储在SDRAM 13上时,存储在SDRAM13上的YUV数据就被转换为视频信号,并且将视频图像提供到液晶显示器(LCD)15,在液晶显示器15上具有背光,由此将所完成的图像显示在液晶显示器15上。当在静态图像拍摄模式中以快门开关键执行拍摄操作时(当快门开关键被完全压下时),暂时存储在SDRAM 13上的图像数据被CPU 5压缩,并最终以预定格式作为静态图像文件记录在外部存储器16上。在视频拍摄模式中的视频拍摄操作期间,以预定帧频存储在SDRAM 13上的多段图像数据被CPU 5相继压缩,并最终作为视频文件记录在外部存储器16上。
外部存储器16包括,例如,各类存储卡。根据在回放模式中的用户操作,记录在外部存储器16上的静态图像文件和视频文件按需要被CPU 5读出并解压,并进一步解压为SDRAM 13上的YUV数据,以将其显示在液晶显示器15上。
此外,数码相机1具有数据可重写非易失性存储器17,例如闪存。在闪存17上为CPU 5存储了各种程序,以控制各种操作,例如在数码相机1中的AE控制、AF控制、AWB控制操作,还存储了在执行这些操作时要用的各类数据。具体的,在闪存17上为CPU 5存储了程序,用于使其充当像素相加单元、相位调整单元、亮度信号或数据读取单元、切换单元、设定单元、和接收单元,并使其控制组成在静态图像拍摄期间AE控制操作中使用的程序图的数据,如稍后所述。
数码相机1还包括按键输入单元18,包括:快门开关按钮、电源键、模式选择开关、缩放按钮等(未示出);充电电池19(例如镍氢电池);功率控制电路20,其用于将电池19的电能提供给数码相机1中的不同单元;以及微机21,用于控制这些组件的操作。微机21扫描在按键输入单元18中的各开关的状态,以检测是否有任一开关***作。当用户操作任何一个开关时,微机21产生与***作开关相对应的控制信号,并将控制信号发送到CPU 5。快门开关按钮具有半压下功能(即部分压下功能)和全压下功能。
此外,CPU 5与闪光灯电路22相连,其包括发光管(例如氙灯)和其驱动电路,并在静态图像拍摄操作期间根据需要发出辅助光。数码相机1具有音频记录功能,用于在视频拍摄模式中记录环境声音。CPU 5与音频处理模块25相连,其包括麦克风(MIS)23和扬声器(SP)24。音频处理模块25将来自麦克风23的音频信号转换为数字数据,并将数字数据提供给CPU 5。同时,音频处理模块25将与视频文件一起记录在外部存储器16上的音频数据转换为音频数据,以驱动扬声器24。
现在,参照图2,将说明存储在闪存17上的程序图100。图2是示出程序图100的视图。与公知的图相类似,程序图100表示了设定信息,设定信息指明了在任意亮度状态(Lv值)下,获得用于拍摄物体的适当曝光所需的多个拍摄条件。但除与快门开关速度、光圈设定(F值)和ISO感光度有关的设定信息之外,该实施例中的程序图100还包括与像素相加率有关的设定信息。稍后将说明像素相加。
该实施例中的程序图100具有程序图A,用于由虚线表示的正常模式,和程序图B,用于由实线表示的抖动减小模式。程序图A用于在正常模式中拍摄静态图像,程序图B用于设定为抖动减小模式时拍摄静态图像,该模式是在数码相机1中预先准备好的。
用于正常模式的程序图A(虚线)表示拍摄条件的组合,用于将ISO感光度(放大器8的增益)设定为不大于“100”,即将其设定为在成像信号中的噪声被减小的一个感光度,并且如图2所示,在太黑以致于Lv值不大于“9”的情况下,将快门开关速度设定为对于每个Lv值不高于“1/64”。同时,用于抖动减小模式的程序图B(实线)表示拍摄条件的组合,用于将快门开关速度尽可能设定为不低于“1/64”的速度,即将其设定为比在拍摄操作期间手抖动发生速度更高的一个速度,并且针对Lv值,将ISO感光度增加到上限“400”,其是允许设定的最大值,并且将像素相加率相加到上限“4倍”,其是允许设定的最大值。
在该实施例中,通过将可编程放大器8的增益设定为8db、14db、20db和26db,来获得由程序图100表示的ISO感光度“50”到“400”。在可编程放大器8的增益被设定为26db(ISO感光度400)且像素相加率被设定为“双倍”和“4倍”的情况下,获得的感光度基本上与当可编程放大器8的增益被设定为ISO感光度“800”和“1600”的情况相同。
像素相加率由一个数值来表示,该数值与当在图像拍摄操作中从CCD 6读出成像信号时,要被相加的像素的数量相对应。在该实施例中,除了用于从CCD 6读出成像信号的正常读取模式之外,还准备了两像素相加模式和四像素相加模式。在两像素相加模式中,在垂直方向上相加两个像素的信号电荷,以读出成像信号,在四像素相加模式中,在垂直和水平方向上相加四个像素的信号电荷,以读出成像信号。“双倍”的像素相加率是用于设定读取模式的信息,其指明CCD6的驱动模式应被设定为两像素相加模式,类似的,“4倍”的像素相加率是用于设定读取模式的信息,其指明CCD 6的驱动模式应被设定为四像素相加模式。
现在,将参照附图对两像素相加模式和四像素相加模式中读出成像信号的方法加以说明。
图3A和3B是CCD 6的示意图,示出了在两像素相加模式中读出成像信号的方法的原理。CCD 6包括:大量的光感测CCD,即像素(图3A和3B中的R,G,B)、保持存储部HOLD,其没有布置在水平方向上的光感测CCD、水平转移部61、垂直转移部(未示出),用于转移在垂直方向上每个CCD的信号电荷、以及输出电路62。正常读取模式(未示出)用于从CCD 6读出所有像素(在该实施例中5百万像素)的信号电荷,而不在普通帧读取过程中将任何像素相加。
两像素相加模式用于通过2个场的4/8行读出一帧的信号电荷,如图3A和3B所示。更具体的,在图3A所示的第一场中,只有垂直方向上的奇数行(15,13,11,等)的信号电荷在垂直方向上被转移,并且保持存储部HOLD只在一行转移期间保持一行的信号电荷,以将相邻的两个奇数行的信号电荷彼此相加,即,相同颜色的两个像素的信号电荷在垂直方向上被相加,并转移到水平转移部61。于是,奇数行信号被读出,其包括2行的信号电荷,每一行都由在垂直方向上被相加的像素-颜色配置(R,G,R,G等)组成,此后,所有奇数行的信号电荷被相继的读出。在图3B所示的第二场中,在垂直方向上的偶数行(16,14,12,等)的信号电荷以与第一场相似的方式在垂直方向上被相加,并且偶数行信号被读出,其包括2行的信号电荷,每一行都由与在垂直方向上被相加的奇数行不同的像素-颜色配置(G,B,G,B等)组成,此后,所有偶数行的信号电荷被相继的读出。
图4是示出按照如上所述的,由从CCD 6读出的成像信号组成的拜耳数据的概念图。如图4中所示,在两像素相加模式中,在垂直方向上的像素数量是全部数据的一半(2.5兆像素),但获得了拜耳数据,其由总像素数的像素信息来反映,且其中总像素值(亮度信息)被放大1倍。图4是示出在通过如上所述的在垂直方向上的相加而获得的像素(R,G,B)与通过在垂直方向上的相加而未获得的像素之间的位置上的关系的视图,但只包含所获得像素(R,G,B)的拜耳数据被暂时存储在SDRAM 13上。经过如图4所示的两像素相加处理的像素(R,G,B)的像素位置位于被相加的两个像素的重心。
图5A和5B是CCD 6的示意图,示出了在四像素相加模式中读出成像信号的方法的概念。与两像素相加模式相类似,四像素相加模式用于经由2个场的4/8行读出一帧的信号电荷,如图5A和5B所示。
更具体的,在图5A所示的第一场中,只有垂直方向上的奇数行(15,13,11,等)的信号电荷在垂直方向上被转移,保持存储部HOLD只在一行转移期间暂时保持一行的信号电荷,以将相邻的两个奇数行的信号电荷彼此相加,即,相同颜色的两个像素的信号电荷在垂直方向上被相加(垂直相加),并转移到水平转移部61。在水平转移部61中,当在垂直方向上相加的两个像素的信号电荷被转移时,在垂直方向上相加的随后的信号电荷在水平方向上被移位2个像素,以相加到之前的信号电荷(水平相加)上。更具体的,将2行信号电荷在垂直方向上彼此相加(垂直相加的信号电荷),并且其每一行都由相同的像素-颜色配置(R,G,R,G等)组成,并且同一行中彼此相隔一个像素位置的具有相同颜色的2个像素的信号电荷在水平方向上被相加(水平相加的信号电荷)。于是,奇数行信号由垂直相加之后再进行水平相加的信号电荷组成,并被读出。此后,所有奇数行的信号电荷被相继的读出。
类似的,在图5B所示的第二场中,对在垂直方向上的偶数行(16,14,12,等)的信号电荷上进行垂直相加和水平相加,即,将2行信号电荷在垂直方向上相加(垂直相加的信号电荷),并且其每一行都由与奇数行不同的像素-颜色配置(G,B,G,B等)组成,并且同一行中彼此相隔一个像素位置的具有相同颜色的2个像素的信号电荷在水平方向上被相加(水平相加的信号电荷)。偶数行信号被读出,其由由垂直相加之后再进行水平相加的信号电荷组成。此后,所有偶数行的信号电荷被相继的读出。
图6是示出按照如上所述的,由从CCD 6读出的成像信号组成的拜耳数据的概念图的视图。如图6中所示,在四像素相加模式中,在垂直和水平方向上的像素数量是全部数据的一半(1.25兆像素),但获得了拜耳数据,其由总像素数的像素信息来反映,且其中总像素值(亮度信息)被放大4倍。图6是示出在通过如上所述的垂直相加和水平相加而获得的像素(R,G,B)与通过垂直相加和水平相加而未获得的像素之间位置上的关系的视图,但只包括所获得像素(R,G,B)的拜耳数据被暂时存储在SDRAM 13上。经过如图5所示的四像素相加处理的像素(R,G,B)的像素位置位于被相加的四个像素的重心。
现在,将参照附图对上述结构的数码相机1的操作加以说明。图7是示出当通过对模式选择开关的用户操作而在数码相机1中设定了静态图像拍摄模式时,由CPU 5执行的处理的流程图。在图7的流程图中,将省略对AF控制和AWB控制操作的说明。
在静态图像拍摄模式中,CPU 5使得CCD 6以预定过程速率(through rate)的时序执行成像操作,并用在CCD 6的成像操作中获得的图像数据产生过程图像(through image),并且在步骤SA1开始在液晶显示器15上显示该过程图像。
此外,当显示该过程图像时,CPU 5接收取决于各种按键操作的信号,但能够根据用户的操作设定抖动减小模式。同时,对于相继获得的过程图像,根据用于显示过程图像的程序图执行AE处理,由此正确地显示过程图像。
当在显示过程图像的同时,确定快门开关按钮被半压下时(在步骤SA2为是),在步骤SA3,CPU 5基于在之前成像操作期间读出或获得的图像数据的亮度信息(亮度数据或信号),确定物体亮度(Lv值)。此外,CPU 5在步骤SA4判断在数码相机1中是否已经设定了抖动减小模式。当确定没有设定抖动减小模式时(在步骤SA4为否),在步骤SA6,基于程序图100中用于正常模式的程序图A(虚线),确定与在步骤SA3获得的物体亮度(Lv值)相对应的拍摄条件。同时,当确定已经设定了抖动减小模式时(在步骤SA4为是),在步骤SA5,基于用于抖动减小模式的程序图B(实线),确定与在步骤SA3获得的物体亮度(Lv值)相对应的拍摄条件。
此后,当确定快门开关按钮没有被完全压下时(在步骤SA7为否),CPU 5的操作就返回到步骤SA2,当在步骤SA2确定快门开关按钮被保持在半压下时,就重复执行在步骤SA3到SA6的处理。当确定快门开关按钮没有被半压下时(在步骤SA2为否),CPU 5就等待快门被半压下的操作。当确定快门开关按钮被完全压下且不是解除半压下状态时(在步骤SA7为是),在步骤SA8,CPU 5以最后确定的拍摄条件执行静态图像拍摄过程,以产生要被记录的图像数据,并在步骤SA9压缩产生的图像数据,以将该数据记录在外部存储器16上。此后,CPU 5返回到步骤SA1并重复执行上述的处理。
现在,将详细说明静态图像拍摄过程。图8是在图7的步骤SA8由CPU 5执行的静态图像拍摄过程的流程图。基于由在图像拍摄时确定的拍摄条件给定的快门速度和光圈(F值),CPU 5在步骤SB1调整在CCD 6上的曝光量,并以由该拍摄条件给定的像素相加率执行以下处理。
将说明一个处理,其在步骤SB2中像素相加率被设定为“1”时执行,即,当没有设定抖动减小模式,且物体亮度(Lv值)不小于“8”时。在此情况下,不考虑抖动减小模式,由CCD 6上的所有像素的信号电荷组成的成像信号以正常读取模式从CCD 6读出,可编程增益放大器8设定为与由在图像拍摄时所确定的拍摄条件给定的ISO感光度相对应的增益(步骤SB3)。随后,A/D转换器9对成像信号(拜耳数据)执行A/D转换处理,以产生数字成像信号。图像处理电路12对数字成像信号执行RGB内插处理,以基于目标像素不具有的颜色分量数据,为每个像素产生RGB颜色分量数据(以下称为RGB数据),其是具有颜色分量数据的周围像素的像素值的均值。此外,图像处理电路12对RGB颜色分量数据执行YUV转换处理,来为每个像素产生YUV数据,包括亮度分量(Y)和色差分量(Cb,Cr)(步骤SB4)。
将说明一个处理,其在步骤SB2中确定像素相加率被设定为“4倍”时执行,即,当已经设定了抖动减小模式,且物体亮度(Lv值)不大于“6”时。在此情况下,可编程增益放大器8的增益被设定为26db(ISO感光度400),在步骤SB5,采用四像素相加模式驱动CCD6,以读出由分别为在垂直方向上和水平方向上像素数量的一半的1.25兆像素的信号电荷组成的成像信号。
从CCD 6读出的成像信号(拜耳数据)经过由A/D转换器9进行的A/D转换处理,以获得数字成像信号(拜耳数据),对数字成像信号进一步进行在垂直和水平方向上的相位调整处理,由此在步骤SB6获得新的拜耳数据。
将参照附图详细说明上述处理。在通过四像素相加操作获得的拜耳数据中包含的每一个像素都位于在CCD 6的光感测表面上的像素空间中被相加的原始四个像素的重心。因此,如图6所示在像素之间的距离不相等。当对拜耳数据执行RGB内插处理时,换句话说,假定目标像素200是R像素,当基于位于附近的四个G像素产生目标像素的G分量数据,并基于位于附近的四个B像素产生目标像素的B分量数据时,不能够获得真实的G分量数据和B分量数据。因此,颜色分量的相位被移动,在最终图像上出现锯齿。
相位调整处理用于将在拜耳中包含的每个像素的像素值转换为在像素空间中与相邻像素保持等距的像素的像素值,以重组拜耳数据,由此在最终图像中避免了锯齿的出现。图10是示出经过水平方向上的相位调整处理的拜耳数据的示意图。使一个颜色的新像素位于与在同一水平行上此颜色的两个相邻像素之间距离的3/8处相对应的位置上。于是,使得在新像素之间的所有距离都相等。作为位于此新像素两侧的相同颜色的原始像素的像素值的加权平均值而获得新像素的像素值。
例如,如图10所示,新的R像素200位于在R像素201和202之间的位置上,此位置距R像素201为R像素201与202之间距离的3/8,且距R像素202为该距离的5/8。新的R像素200的像素值被设定为R像素201和202的像素值的加权平均值,该值是基于它们与新的R像素200之间的各自的距离计算的(R像素201的值与5/8的乘积和R像素202的值与3/8的乘积之和),用如上述布置的新的R像素的数据来重新生成拜耳数据,图11是示出经过在垂直方向上的相位调整处理的拜耳数据的示意图。以与水平方向上相似的方式在垂直方向上获得新像素的数据,用此数据重新生成拜耳数据。
对用经过相位调整处理的像素重新生成的拜耳数据进一步进行RGB内插处理,以产生RGB颜色分量数据(RGB数据)。在步骤SB7,对产生的RGB数据进行YUV转换处理,来为每个像素产生YUV数据,其包括亮度分量(Y)和色差分量(Cb,Cr)。此外,在步骤SB8,对产生的YUV数据进行在垂直和水平方向上的放大处理(两倍),来内插生成在四像素相加中丢失的像素,由此产生要被记录的图像数据,其包含的像素数量(5百万像素)与像素相加率被设定为“1”而产生的图像数据相同。在放大处理中以与公知的数字放大操作相同的方式内插生成像素(采用相邻像素的线性内插)。
将说明一个处理,其在图8中的步骤SB2将像素相加率设定为“2”时执行,就是说,当设定了抖动减小模式且物体亮度(Lv值)在“6”和“7”之间时。在此情况下,可编程增益放大器8的增益被设定为26db(ISO感光度:400),在步骤SB9,采用两像素相加模式驱动CCD 6,以读出2.5兆像素的信号电荷(在垂直方向上的像素数量是垂直方向上的总像素数的一半)。
读出的成像信号(拜耳数据)被A/D转换为数字成像信号。在步骤SB10,对数字成像信号进行垂直方向上的相位调整处理,以产生新的拜耳数据。采用与如上所述的在像素相加率设定为“4”时在垂直方向上执行的相位调整处理相似的方式,对新的拜耳数据执行相位调整处理。
经过相位调整处理的拜耳数据进一步进行RGB内插处理,以产生RGB颜色分量数据(RGB数据)。在步骤SB11,对产生的RGB数据进行YUV转换处理,为每个像素产生YUV数据,其包括亮度分量(Y)和色差分量(Cb,Cr)。此外,在步骤SB12,对产生的YUV数据进行在垂直方向上的放大处理(两倍),从而内插生成在两像素相加中丢失的像素,以产生要被记录的图像数据,其具有的像素数量(5百万像素)与在像素相加率被设定为“1”时产生的图像数据相同。以与公知的数字放大操作相同的方式在放大处理中内插生成像素(来自相邻像素的线性补偿)。
当CPU 5完成对在步骤SB4,SB8或SB12的任一个处理的执行时,静态图像拍摄过程完成,CPU 5返回到图7所示的处理,其中在上述任一处理中产生的YUV数据被压缩,从而产生图像数据并记录在外部存储器16上。
在以上的静态图像拍摄过程中,对从CCD 6读出的成像信号进行像素相加处理(两像素相加、四像素相加),像素相加处理引起了要进行RGB内插处理的RGB数据中的颜色分量的相移。因此,对拜耳数据进行相位调整处理,以避免在RGB数据的颜色分量中的相移的出现,从而重新生成新的拜耳数据。随后,对按照如上所述重新生成的拜耳数据执行RGB内插处理。但也可以在RGB内插处理期间执行相位调整处理。
图12是示出改进的静态图像拍摄过程的流程图,其与图8所示的流程图相对应。
在改进的静态图像拍摄过程中,在步骤SC1,CPU 5基于由在图像拍摄时确定的拍摄条件给定的快门速度和光圈(F值),调整在CCD6上的曝光量,并以由该拍摄条件给定的像素相加率执行随后的处理。
当在步骤SC2确定像素相加率已被设定为“1”时,在图12的步骤SC3和SC4,执行与图8中步骤SB3和SB4相同的处理,在步骤SC5,CPU 5使得图像处理单元12产生YUV数据。
现在,将说明一个处理,其在步骤SC2中确定像素相加率被设定为“4”时执行。在此情况下,可编程放大器8的增益设定为26db(ISO感光度:400),采用四像素相加模式驱动CCD 6,在步骤SC6读出图像信号,其包括1.25兆像素的信号电荷(在垂直和水平方向上分别包括总像素数的一半)。
成像信号被转换为数字成像信号(拜耳数据),在步骤SC7,对数字成像信号(拜耳数据)进行RGB内插处理,包括在水平和垂直方向上的相位调整处理。与在步骤SC4执行的通常的内插处理不同的是,在当前RGB内插处理中,目标像素不具有的颜色分量数据是通过从位于该目标像素周围的像素的像素值中根据它们与目标像素的距离而计算的加权平均值来给出,而不是通过位于该目标像素周围的具有此颜色分量数据的像素的像素值的简单平均值。
更具体的,如果目标像素是具有如图9所示的R分量的R像素,则基于位于R像素周围的四个G像素产生G分量数据,并且还基于位于R像素周围的四个B像素产生B分量数据。在此情况下,采用上述的四像素相加模式读出每个像素,如图9所示,在CCD 6的光感测表面上的目标像素(r像素)与相邻四个像素(G像素或G像素)之间的距离在像素之间的位置关系(在四个像素的重心之间的位置关系)上不相等。因此,在位于目标像素周围的像素的像素值的平均值被用作目标像素的像素值的情况下,在颜色分量中出现相移,在最终图像中产生锯齿状图形。在以上的处理中,位于目标像素周围的四个像素的像素值分别被乘以取决于到目标像素的距离的加权系数,并且将四个像素的加权像素值的平均值用作目标像素的像素值。
更具体的,将参照附图10详细说明目标值(像素200)的像素值。当在位于同一水平行上紧邻着目标像素200的两个像素(R像素201,202)之间的距离是“8”,且在R像素201与目标像素200之间的水平距离是“3”,且在R像素202与目标像素200之间的水平距离是“5”时,用于左侧像素(R像素201)的加权系数设定为“5/8”,用于右侧像素(R像素202)的加权系数设定为“3/8”。将像素201、202的像素值分别乘以加权系数,以获得加权的像素值。计算这些加权的像素值的平均值,并用作目标像素200的像素值。在以上解释中,像素值只在水平方向上进行加权,但实际上像素值不仅在水平方向上,而且还以与在水平方向上相同的方式在垂直方向上加权。
随后,在步骤SC8,对在包含相位调整处理的RGB内插处理中产生的每个像素的RGB数据进行YUV转换处理,来为每个像素产生YUV数据。此外,在步骤SC9,对产生的YUV数据进行在垂直和水平方向上的放大处理(两倍),从而内插生成在四像素相加中丢失的像素,以产生要被记录的图像数据,其具有的像素数量(5百万像素)与在像素相加率被设定为“1”时产生的图像数据相同。
现在,将说明一个处理,其在步骤SC2中确定像素相加率被设定为“双倍”或“2倍”时执行。在步骤SC10,可编程增益放大器8的增益被设定为26db(ISO感光度:400),采用两像素相加模式驱动CCD 6,以读出成像信号,就是说,2.5兆像素的信号电荷(在垂直方向上的像素数量是垂直方向上的总像素数的一半)。
读出的成像信号(拜耳数据)被A/D转换为数字成像信号。在步骤SC11,图像处理单元12执行RGB内插处理,包括对数字成像信号(拜耳数据)的相位调整处理。与在步骤SC7执行的RGB内插处理不同的是,在步骤SC11的当前RGB内插处理中,当根据位于目标像素周围且具有此颜色分量数据的像素(相邻像素)的像素值获得目标像素不具有的颜色分量数据时,对相邻像素的像素值采用仅取决于它们在垂直方向上与目标像素的距离的加权系数进行加权,相邻像素的加权像素值的平均值被用作目标像素的像素值,从而在颜色分量中没有相移的情况下为每个像素产生RGB数据。
随后,在步骤SC12,对在包含相位调整处理的RGB内插处理中为每个像素产生的RGB数据进行YUV转换处理,以为每个像素产生YUV数据。此外,对产生的YUV数据进行垂直方向上的放大处理(两倍),从而在步骤SC13,内插生成在两像素相加中丢失的像素,以产生要被记录的图像数据,其具有的像素数量(5百万像素)与在像素相加率设定为“1”时产生的图像数据相同。在改进的实施例中,在最终图像中避免了出现锯齿。
如上所述,在根据本发明实施例的数码相机1中,当设定了抖动减小模式时,通过借助两像素相加或四像素相加放大拍摄图像亮度,来确保适当的曝光,即使物体亮度使得用于该物体亮度的适当快门开关速度低于一个受控的快门开关速度(在正常拍摄模式中预料到会有该速度的手抖动或物体晃动)也是如此。因此,通过将快门开关速度保持在较高范围内,能够减小在静态图像拍摄操作期间由手抖动或物体移动造成的图像质量的恶化。结果,提供了一种数码相机,其具有高可靠性的抖动减小功能。
此外,在拍摄黑暗位置以及明亮位置中的物体时,会出现由相机晃动的手抖动和/或物体移动造成的图像抖动,借助于根据本发明的抖动减小功能能够获得清晰图像。
由于两像素相加和/或四像素相加放大了成像信号的亮度,允许高快门速度,图像质量不会恶化,这与提高可编程增益放大器8的增益来允许高快门速度的情况不同。
当在明亮光线下拍摄物体时,不执行两像素相加或四像素相加,全部像素的图像数据都从CCD 6读出。因此,像素数量不会被无益的减小,拍摄图像的质量不会恶化。
在本发明的实施例中,根据拍摄物体时的物体亮度(Lv值)来选择像素相加模式(在该实施例中从CCD 6读出成像信号的模式),但是也可以根据由AE控制确定的快门速度来选择像素相加模式。
在该实施例中,当从CCD 6读出成像信号时,在CCD 6中执行对于由CCD 6拍摄的图像的像素相加(两像素相加或四像素相加),但是可以通过使用任意硬件或用于CPU 5的计算机软件,对从CCD 6输出的图像数据执行类似的像素相加。
对于拜耳数据中的像素,像素相加不总是必须执行的,而是可以对经过RGB内插处理的RGB数据执行,以及对通过YUV转换处理产生的Y数据、Cb数据和Cr数据执行。
由于像素相加,相移出现在经过RGB内插处理的RGB数据的颜色分量中,如在本发明的实施例中,在对RGB数据执行RGB内插处理之前执行相位调整,以避免这种相移的出现,但是相位调整也可以在RGB内插处理期间执行,如图12所示的改进的实施例中的。在执行RGB内插处理之前对拜耳数据执行相位调整的情况下,可以使RGB内插处理变得简单,且可以使用预先准备的内插处理电路和内插处理程序,而无需修改它们。此外,如在改进的实施例中,在RGB内插处理期间执行相位调整的情况下,则不需要仅用于重构拜耳数据的相位调整电路和/或相位调整程序。
当对成像信号进行四像素相加时,在垂直方向上和水平方向上对同一信号执行相位调整,但也可以允许只在垂直方向上或水平方向上执行相位调整。但要清楚的是,通过在垂直和水平方向上都执行的相位调整,可以获得更高质量的图像。
像素相加模式(在该实施例中,是从CCD 6读出成像信号的模式)根据在拍摄物体时的物体亮度(Lv值)而自动转换,但也可以允许用户根据他或她的需要手动选择像素相加模式。
此外,像素相加模式(在该实施例中,是从CCD 6读出成像信号的模式)根据在拍摄物体时的物体亮度(Lv值)而进行转换,但可根据由AE控制曾经确定的快门速度来转换像素相加模式。
在本发明的实施例中,为了记录而拍摄图像的图像尺寸(像素尺寸)被固定为CCD 6能够获得的最大尺寸。在常规数码相机中,准备了能够被记录的多种图像尺寸,用户能够根据他或她的意愿选择一种尺寸。因此,在本发明的实施例中,在静态图像拍摄过程中以仅与像素相加率(双倍,4倍)相对应的放大率来放大UV数据(图8和12)。在一种能够选择图像尺寸的设置中,优选的将在图8中步骤SB8和SB12的处理改变为如下的尺寸放大或尺寸缩小处理。
确认要先前已经设定或选择好要在此时进行记录的图像尺寸。随后,将该图像尺寸与此时的YUV数据(依据像素相加率来确定)的尺寸相比较。当用于记录的图像尺寸大于YUV数据尺寸时,计算一个放大率,以这个放大率将YUV数据放大到用于记录的图像尺寸。与此相反,当用于记录的图像尺寸小于YUV数据尺寸时,计算一个放大率,以这个放大率将YUV数据缩小到用于记录的图像尺寸。随后,YUV数据以所计算的放大系数在尺寸上进行放大或缩小。
当像素相加率被设定为“双倍”,且YUV数据的高宽比与普通的不同时,分别为垂直方向和水平方向计算尺寸上的放大或缩小率,YUV数据以分别用于垂直和水平方向的不同比率在尺寸上进行放大或缩小。当用于记录的图像和YUV数据具有相同的尺寸时,静态图像拍摄过程结束,无需计算放大率并执行放大或缩小处理。
在以上的处理中,可以按照在当时设定或选择的图像尺寸来记录拍摄图像,而无需考虑此时的像素相加率或物体亮度。因此,例如,避免了在每次拍摄物体时依据物体亮度,以不同尺寸记录静态图像。记录的图像可以被方便的排列或使用,并且数码相机能够保持其高功能质量。仅仅在为了确保图像记录尺寸时才需要执行尺寸放大或缩小处理,因此无需额外的或无用的放大或缩小处理。
除了用于通过提高CCD 6的摄影感光度来避免由手抖动或物体移动造成的模糊图像的功能之外,还可以使用一种减小手抖动功能,如在现有技术中所述的,其使用镜头移动型或CCD移动型的常规减小手抖动机构。这两个功能都可以用于有效地避免模糊的图像。
在本发明的实施例中,已经描述了本发明,其用于静态图像拍摄操作,但本发明可以用于记录视频或用于显示过程图像。当记录视频或显示过程图像时,可以根据图2中所示的程序图执行AE控制。
Claims (9)
1.一种摄像装置,包括:
摄像单元,用于拍摄物体以输出拍摄图像;
像素相加单元,用于使所述摄像单元执行对具有相同颜色并彼此位置相邻的多个像素的像素信号的相加处理;
图像放大单元,用于当所述像素相加单元在所述摄像单元中已经执行了所述相加处理时,执行放大处理,以放大从所述摄像单元输出的拍摄图像;
像素相加计数改变单元,用于改变在由所述摄像单元执行的所述相加处理中的要被相加的像素的数量;以及
放大率改变单元,用于当所述像素相加计数改变单元已经改变了要被相加的像素的数量时,改变所述图像放大单元用以执行所述放大处理的放大率。
2.根据权利要求1的摄像装置,其中
所述放大率改变单元将所述图像放大单元用以执行所述放大处理的放大率,改变为与由所述像素相加计数改变单元所改变的像素数量相对应的放大率。
3.根据权利要求1的摄像装置,还包括:
图像记录单元,用于记录所述拍摄图像,其已经经过了所述图像放大单元的放大处理;以及
图像尺寸设定单元,用于设定记录在所述图像记录单元中的所述拍摄图像的图像尺寸,其中
所述放大率改变单元将所述图像放大单元用以执行所述放大处理的放大率,改变为与由所述图像尺寸设定单元所设定的图像尺寸相对应的放大率。
4.根据权利要求1的摄像装置,其中
所述放大率包括不大于“1”且不包括“0”的放大率。
5.根据权利要求1的摄像装置,其中
所述像素相加计数改变单元包括用于将要被相加的像素的数量改变为无需所述摄像单元执行所述相加处理的像素的数量的单元,以及
所述图像放大单元包括用于当所述像素相加计数改变单元已经将要被相加的像素的数量改变为无需所述摄像单元执行所述相加处理的像素的数量时,当所述像素相加单元没有在所述摄像单元中执行所述相加处理时,放大从所述摄像单元输出的拍摄图像的单元。
6.根据权利要求1的摄像装置,其中
所述图像放大单元包括用于分别在垂直和水平方向上放大所述拍摄图像的单元,及
所述放大率改变单元为所述图像放大单元执行所述图像放大处理,分别改变在垂直和水平方向上的放大率。
7.根据权利要求1的摄像装置,还包括:
亮度获取单元,用于获得物体亮度,其中
当所述像素相加单元使得所述摄像单元执行所述相加处理时,所述像素相加计数改变单元根据由所述亮度获取单元获得的物体亮度,改变要被相加的像素的数量。
8.根据权利要求1的摄像装置,还包括:
相位调整单元,用于基于在所述拍摄图像中包含的像素在像素空间中的布置,调整在颜色内插处理中要为每个像素进行内插的颜色分量的相位,所述相位在由所述像素相加单元执行的所述相加处理期间发生改变。
9.一种摄像装置,包括:
摄像单元,用于拍摄物体以输出拍摄图像;
像素相加单元,用于使所述摄像单元执行对具有相同颜色并彼此位置相邻的多个像素的像素信号的相加处理;
选择单元,用于决定是否使所述像素相加单元执行所述相加处理;以及
图像放大单元,用于当所述选择单元已经确定使所述像素相加单元执行所述相加处理时,在所述像素相加单元在所述摄像单元中执行了所述相加处理之后,执行放大处理,以放大从所述摄像单元输出的拍摄图像。
Applications Claiming Priority (12)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005-178642 | 2005-06-17 | ||
JP2005178643 | 2005-06-17 | ||
JP2005178642A JP2006352715A (ja) | 2005-06-17 | 2005-06-17 | デジタルカメラ、及びその露出制御方法 |
JP2005178642 | 2005-06-17 | ||
JP2005178644 | 2005-06-17 | ||
JP2005-178643 | 2005-06-17 | ||
JP2005-178644 | 2005-06-17 | ||
JP2005178644A JP4836500B2 (ja) | 2005-06-17 | 2005-06-17 | デジタルカメラ、及びその画像処理方法 |
JP2005178643A JP2006352716A (ja) | 2005-06-17 | 2005-06-17 | 撮像装置及び撮像方法 |
JP2005187951 | 2005-06-28 | ||
JP2005-187951 | 2005-06-28 | ||
JP2005187951A JP2007013275A (ja) | 2005-06-28 | 2005-06-28 | 撮像装置及び撮像方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB2006800167643A Division CN100568929C (zh) | 2005-06-17 | 2006-06-16 | 摄像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101616263A CN101616263A (zh) | 2009-12-30 |
CN101616263B true CN101616263B (zh) | 2012-06-13 |
Family
ID=37648036
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2009101579716A Expired - Fee Related CN101616263B (zh) | 2005-06-17 | 2006-06-16 | 摄像装置 |
CNB2006800167643A Expired - Fee Related CN100568929C (zh) | 2005-06-17 | 2006-06-16 | 摄像装置 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB2006800167643A Expired - Fee Related CN100568929C (zh) | 2005-06-17 | 2006-06-16 | 摄像装置 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2006352715A (zh) |
CN (2) | CN101616263B (zh) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5006665B2 (ja) * | 2007-02-20 | 2012-08-22 | キヤノン株式会社 | 撮像装置及びその制御方法及びプログラム |
US9077905B2 (en) | 2009-02-06 | 2015-07-07 | Canon Kabushiki Kaisha | Image capturing apparatus and control method thereof |
US8355059B2 (en) | 2009-02-06 | 2013-01-15 | Canon Kabushiki Kaisha | Image capturing apparatus and control method thereof |
JP2011221337A (ja) * | 2010-04-12 | 2011-11-04 | Sanyo Electric Co Ltd | 電子カメラ |
JP5822508B2 (ja) | 2011-04-05 | 2015-11-24 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP6112764B2 (ja) * | 2011-11-22 | 2017-04-12 | 三菱電機株式会社 | 撮像装置、輝度制御方法、及び輝度制御装置 |
CN106412214B (zh) * | 2015-07-28 | 2019-12-10 | 中兴通讯股份有限公司 | 一种终端及终端拍摄的方法 |
CN105578079B (zh) * | 2015-12-18 | 2017-11-17 | 广东欧珀移动通信有限公司 | 图像传感器及画质调节方法、成像装置及方法和移动终端 |
CN105578077A (zh) * | 2015-12-18 | 2016-05-11 | 广东欧珀移动通信有限公司 | 成像方法、成像装置及电子装置 |
JP6858079B2 (ja) * | 2017-05-31 | 2021-04-14 | 日立造船株式会社 | 監視装置および監視方法 |
WO2020202904A1 (ja) | 2019-03-29 | 2020-10-08 | ソニー株式会社 | 信号処理装置、撮像装置、信号処理方法 |
CN111131714A (zh) * | 2019-12-31 | 2020-05-08 | 联想(北京)有限公司 | 图像采集控制方法、装置及电子设备 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6831692B1 (en) * | 1998-10-12 | 2004-12-14 | Fuji Photo Film Co., Ltd. | Solid-state image pickup apparatus capable of outputting high definition image signals with photosensitive cells different in sensitivity and signal reading method |
-
2005
- 2005-06-17 JP JP2005178642A patent/JP2006352715A/ja active Pending
-
2006
- 2006-06-16 CN CN2009101579716A patent/CN101616263B/zh not_active Expired - Fee Related
- 2006-06-16 CN CNB2006800167643A patent/CN100568929C/zh not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6831692B1 (en) * | 1998-10-12 | 2004-12-14 | Fuji Photo Film Co., Ltd. | Solid-state image pickup apparatus capable of outputting high definition image signals with photosensitive cells different in sensitivity and signal reading method |
Also Published As
Publication number | Publication date |
---|---|
CN100568929C (zh) | 2009-12-09 |
JP2006352715A (ja) | 2006-12-28 |
CN101616263A (zh) | 2009-12-30 |
CN101176338A (zh) | 2008-05-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101616263B (zh) | 摄像装置 | |
KR100914090B1 (ko) | 촬상 장치 | |
CN101326816B (zh) | 摄像设备和电子变焦方法 | |
US7978240B2 (en) | Enhancing image quality imaging unit and image sensor | |
JP4943721B2 (ja) | 画像データのカラーノイズ除去方法及びこの方法を用いた撮像装置 | |
JP5207853B2 (ja) | 静止画像及び動画像撮像装置 | |
CN102739961B (zh) | 能够生成广角图像的图像处理装置 | |
JP4639406B2 (ja) | 撮像装置 | |
JP3733828B2 (ja) | 電子カメラ | |
JP4616429B2 (ja) | 画像処理装置 | |
JP2005072966A (ja) | 固体撮像素子及び撮像装置 | |
JP2001275028A (ja) | デジタルカメラ | |
JP4799849B2 (ja) | 撮影装置及び撮影処理方法 | |
JP2004080376A (ja) | 動画撮像装置及び動画再生装置 | |
JP4836500B2 (ja) | デジタルカメラ、及びその画像処理方法 | |
JP2000023024A (ja) | 画像入力装置 | |
US7832951B2 (en) | Lens unit and digital camera | |
JP2006352716A (ja) | 撮像装置及び撮像方法 | |
JP2003189193A (ja) | 撮像装置 | |
JP5550333B2 (ja) | 撮像装置、現像方法及びプログラム | |
JP2007013275A (ja) | 撮像装置及び撮像方法 | |
JP2001285685A (ja) | デジタルカメラおよび記録媒体 | |
JP4271011B2 (ja) | 撮像処理装置 | |
JP2002152587A (ja) | 画像処理方法、デジタルカメラ、および記録媒体 | |
JP2007336092A (ja) | 撮像装置、撮像方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20120613 Termination date: 20210616 |
|
CF01 | Termination of patent right due to non-payment of annual fee |