CN115412688B - 闪烁噪声过滤方法及装置、传感器、芯片及电子设备 - Google Patents

闪烁噪声过滤方法及装置、传感器、芯片及电子设备 Download PDF

Info

Publication number
CN115412688B
CN115412688B CN202211345510.3A CN202211345510A CN115412688B CN 115412688 B CN115412688 B CN 115412688B CN 202211345510 A CN202211345510 A CN 202211345510A CN 115412688 B CN115412688 B CN 115412688B
Authority
CN
China
Prior art keywords
event
flicker noise
noise filtering
filtering method
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202211345510.3A
Other languages
English (en)
Other versions
CN115412688A (zh
Inventor
程伯骏
库佩利奥卢·诺盖
乔宁
图芭·代米尔吉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu Shizhi Technology Co ltd
Shenzhen Shizhi Technology Co ltd
Original Assignee
Chengdu Shizhi Technology Co ltd
Shenzhen Shizhi Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu Shizhi Technology Co ltd, Shenzhen Shizhi Technology Co ltd filed Critical Chengdu Shizhi Technology Co ltd
Priority to CN202211345510.3A priority Critical patent/CN115412688B/zh
Priority to CN202310003371.4A priority patent/CN116233628A/zh
Publication of CN115412688A publication Critical patent/CN115412688A/zh
Application granted granted Critical
Publication of CN115412688B publication Critical patent/CN115412688B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Picture Signal Circuits (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

本发明公开了一种闪烁噪声过滤方法及装置、传感器、芯片及电子设备。为解决闪烁的光源带来的闪烁噪声问题,本发明披露的闪烁噪声过滤方法,接收第一事件,根据第一事件的时间戳和第一事件的前一事件的时间戳,得到第一事件与其前一事件的时间差;若所述时间差小于第一阈值,则将位于第一存储空间中对应第一事件的第一存储单元中的第一数值减去一非零常量,否则将该第一数值增加一非零常量,获得更新后的第一数值;根据所述更新后的第一数值与第二阈值之间的大小关系,判定所述第一事件是否为闪烁噪声。本发明以可信计数为技术手段,解决了闪烁噪声问题,获得了低功耗、低延迟、高性能的降噪效果。本发明适于事件相机、类脑计算领域。

Description

闪烁噪声过滤方法及装置、传感器、芯片及电子设备
技术领域
本发明涉及一种闪烁噪声过滤方法及装置、传感器、芯片和电子设备,具体涉及一种由闪烁光源引起事件相机出现的闪烁噪声过滤方法及装置、传感器、芯片和电子设备。
背景技术
传统帧图像传感器存在延迟、模糊、高功耗等缺陷,而事件相机(event camera)可以很好地克服该问题,因而成为当前学术研究的前沿和热点。事件相机可以用于追踪、VR(眼球追踪)、避障、光流估计、驾驶员状态检测等领域,其善于捕捉视场内的运动物体,而静止物体在视场内不成像,因而成像完全由事件驱动,这正如图1所示。
事件相机中的每个像素独立工作,在检测到光线变化后生成表示光线变化方向的事件,这是其底层工作原理,符合事件驱动特性,具有低功耗、低延迟优势,这与帧图像传感器完全不同。
但在诸如家庭环境中普遍使用交流电照明,而这会导致交流电驱动的光源不停地闪烁(flickering),这种光线明暗变化(光源本身和物体反射光)造成事件相机不停地生成事件(称为闪烁噪声或闪烁噪声事件)产生不被期望出现的虚假“运动”景象或者导致极为糟糕的成像质量,进而影响后续信息处理难度和能力。
图2中包括的子图(a)和(b)分别展示的是在两个不同极短时间区间,低分辨率事件相机对存在闪烁广告牌且有行人路过的场景的成像。图中运动的行人可以被捕捉到,但是不停闪烁的广告牌一直被成像,而后者并不是所期望的。但问题的难点在于这部分不被期望的成像,完全符合事件相机捕捉变化光线的底层逻辑,它们对于事件相机自身而言一切都是正常的,但对于实际应用是有害的,所以传统降噪方案(比如基于空时域特性的降噪方案)难以适用该种噪声。
图3中包括的子图(a)和(b)则分别展示的是在两个不同环境下,在事件相机前挥舞手掌的人在事件相机中的成像。较强且闪烁的背景光源导致整个挥舞动作难以被清晰、可靠成像,糟糕的成像质量显然会给后续信息处理提出严重挑战。
现有技术1:US10248222B2;
现有技术2:US11416759B2;
现有技术3:US20210067679A1。
现有技术1-3是用于消除闪烁噪声的方案,但是这些方案需要缓存连续事件、通过衰减对事件计数,以及需要大量存储空间、复杂高精度计算等,或借助其它传感器获取亮度信息,这些方案通常不是事件驱动或者需要时钟,因而在成本/面积、功耗、延迟等方面存在劣势。
基于此,本领域亟需一种低延迟、低成本、低功耗、高效、可靠的事件相机闪烁噪声降噪方案。
发明内容
为了解决或缓解上述部分或全部技术问题,本发明是通过如下技术方案实现的:
一种闪烁噪声过滤方法,接收第一事件,根据第一事件的时间戳和第一事件的前一事件的时间戳,得到第一事件与其前一事件的时间差;若所述时间差小于第一阈值,则将位于第一存储空间中对应第一事件的第一存储单元中的第一数值减去一非零常量,否则将该第一数值增加一非零常量,获得更新后的第一数值;根据所述更新后的第一数值与第二阈值之间的大小关系,判定所述第一事件是否为闪烁噪声。
在本发明中,所述第一事件和所述第一事件的前一事件,均来自第一像素。
在某类实施例中,所述减去一非零常量与所述增加一非零常量中的非零常量相同,且均等于1。
在某类实施例中,所述第一事件和所述第一事件的前一事件,均来自事件成像装置中的第一像素;所述第一存储空间中包括若干存储单元,且所述若干存储单元与事件成像装置的像素阵列中的若干像素之间存在一一对应关系。
在某类实施例中,所述第一事件来自第一像素,根据第一像素在事件成像装置的像素阵列中的坐标,确定位于第一存储空间中对应第一事件的第一存储单元。
在某类实施例中,如果所述一非零常量为正数,若所述更新后的第一数值小于第二阈值,则判定所述第一事件为闪烁噪声;或者,
如果所述一非零常量为负数,若所述更新后的第一数值大于第二阈值,则判定所述第一事件为闪烁噪声。
在某类实施例中,所述第一存储单元的存储长度为3或4或5比特。
在某类实施例中,若所述第一事件不被判为闪烁噪声,则将所述第一事件交由后级处理。
在某类实施例中,将所述第一事件的时间戳,存储于第二存储空间中对应第一事件的第二存储单元中。
在某类实施例中,在判定所述第一事件是否为闪烁噪声后或得到第一事件与其前一事件的时间差后,将所述第一事件的时间戳,存储于第二存储空间中对应第一事件的第二存储单元中。
在某类实施例中,所述第二存储空间中包括若干存储单元,且所述若干存储单元与事件成像装置的像素阵列中的若干像素之间存在一一对应关系。
在某类实施例中,所述第一事件来自第一像素,根据第一像素在事件成像装置的像素阵列中的坐标,确定位于第二存储空间中对应第一事件的第二存储单元。
在某类实施例中,所述第一事件的前一事件的时间戳,取自位于第二存储空间中对应第一事件的第二存储单元。
在某类实施例中,若所述时间差小于第一阈值并且还大于第三阈值时,则才将位于第一存储空间中对应第一事件的第一存储单元中的第一数值减去一非零常量,否则将该第一数值增加一非零常量。
一种闪烁噪声过滤方法,接收第一事件,根据第一事件的时间戳和第一事件的前一事件的时间戳,得到第一事件与其前一事件的时间差;判断所述时间差与第一阈值之间的大小关系,并将表示该大小关系的结果写入位于第一存储空间中对应第一事件的第一列表中的第一位置;根据位于第一存储空间中对应第一事件的第一列表的若干位置所存储的若干表示大小关系的结果,判定所述第一事件是否为闪烁噪声。
在某类实施例中,所述第一事件和所述第一事件的前一事件,均来自第一像素。
在某类实施例中,如果所述第一列表的若干位置只有所述第一位置:若所述表示该大小关系的结果为所述时间差小于第一阈值,则判定所述第一事件为闪烁噪声,否则判定所述第一事件不是闪烁噪声;或者,如果所述第一列表的若干位置至少有两个位置:则根据所述第一位置所存储的该大小关系的结果和所述第一列表的其它若干位置最近所存储的表示大小关系的结果中表示同一类大小关系结果的数量,判定所述第一事件是否为闪烁噪声。
在某类实施例中,向位于第一存储空间中对应第一事件的第一列表的若干位置存储表示大小关系的结果时,遵循先入先出的原则。
在某类实施例中,将所述第一事件的时间戳,存储于第二存储空间中对应第一事件的第二存储单元中。
一种闪烁噪声过滤装置,该闪烁噪声过滤装置至少包括第一存储空间,并且该闪烁噪声过滤装置根据所述第一存储空间和如前任一项所述的闪烁噪声过滤方法对接收的第一事件进行噪声过滤。
一种传感器,该传感器是事件成像装置,该事件成像装置包括像素阵列和第一存储空间,所述像素阵列中包括生成第一事件以及生成第一事件的前一事件的第一像素,根据所述第一存储空间,以及如前任一项所述的闪烁噪声过滤方法对所述第一事件进行噪声过滤。
一种芯片,该芯片上包括事件成像装置以及处理器和第一存储空间,根据所述第一存储空间,以及如前任一项所述的闪烁噪声过滤方法至少对由所述事件成像装置生成的第一事件进行噪声过滤;所述处理器根据至少经过前述噪声过滤后的第一事件,对事件成像装置生成的事件进行处理。
一种电子设备,该电子设备部署有如前所述的芯片,并被用于处理环境信号。
在某类实施例中,所述的处理器是类脑处理器(神经形态芯片)。
本发明的部分或全部实施例,具有如下有益技术效果:
1)彻底的事件驱动,方案直接使用事件的时间戳,不需要时钟参与;
2)不需要缓存连续事件的信息以执行比较,也不需对这些事件计数;
3)通过阈值比较而非有限状态机,后者往往需要大量计算量;
4)低延迟,对于每个事件,过滤操作仅仅在本地发生且只有一次。
更多的有益效果将在优选实施例中作进一步的介绍。
以上披露的技术方案/特征,旨在对具体实施方式部分中所描述的技术方案、技术特征进行概括,因而记载的范围可能不完全相同。但是该部分披露的这些新的技术方案同样属于本发明文件所公开的众多技术方案的一部分,该部分披露的技术特征与后续具体实施方式部分公开的技术特征、未在说明书中明确描述的附图中的部分内容,以相互合理组合的方式披露更多的技术方案。
本发明任意位置所披露的所有技术特征所组合出的技术方案,用于支撑对技术方案的概括、专利文件的修改、技术方案的披露。
附图说明
图1是事件相机捕捉动态图像的成像效果示意图;
图2是不同片刻下有闪烁背景光源时事件相机捕捉图像效果示意图;
图3是不同片刻下有强背景闪烁光源时事件相机捕捉图像效果示意图;
图4是本发明某实施例方案整体示意图;
图5是本发明闪烁噪声过滤方案流程图;
图6是本发明某替代实施例中闪烁噪声过滤方案流程图;
图7是不同方案下有背景闪烁光源无运动物体时成像效果对比图;
图8是不同方案下有背景闪烁光源有运动物体时成像效果对比图。
具体实施方式
由于不能穷尽描述各种替代方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案中的要点内容进行清楚、完整地描述。对于下文未详细披露的其它的技术方案和细节,一般均属于本领域通过常规手段即可实现的技术目标或技术特征,限于篇幅,本发明不对其详细介绍。
除非是除法的含义,本发明中任意位置的“/”均表示逻辑“或”。本发明任意位置中的“第一”、“第二”等序号仅仅用于描述上的区分标记,并不暗示时间或空间上的绝对顺序,也不暗示冠以这种序号的术语与冠以其它定语的相同术语必然是不同的指代。
本发明会对各种用于组合成各种不同具体实施例的要点进行描述,这些要点将被组合至各种方法、产品中。在本发明中,即便仅在介绍方法/产品方案时所描述的要点,意味着对应的产品/方法方案也明确地包括该技术特征。
本发明中任意位置处描述存在或包括某步骤、模块、特征时,并不暗示这种存在是排它性地唯一存在,本领域技术人员完全可以根据本发明所披露的技术方案而辅以其它技术手段而获得其它实施例。本发明所公开的实施例,一般是出于披露优选实施例的目的,但这并不暗示该优选实施例的相反实施例,为本发明所排斥/排除,只要这种相反实施例至少解决了本发明的某个技术问题,都是本发明所希望涵盖的。基于本发明中具体实施例描述的要点,本领域技术人员完全可以对某些技术特征施加替换、删减、增加、组合、调换顺序等手段,获得一个仍遵循本发明构思的技术方案。这些未脱离本发明技术构思的方案也在本发明保护范围之内。
事件相机,其本质是一种事件驱动的图像传感器,也被称为动态视觉传感器(DVS)。基于该原理,有一些技术方案将其与传统帧图像像素融合在一起,所获得的传感器既能输出事件,也能输出像素亮度,比如DAVIS传感器、ATIS传感器,这些基于事件(event-based)的传感器(EBS)在本发明中被统称为事件成像装置,它属于传感器的一种。本发明以事件相机为例,披露对闪烁噪声过滤的方案。
参考图4,对于事件相机生成的第一事件e,不失一般性,可以是事件相机生成的任一事件,其来自第一像素。第一像素在事件相机像素阵列中的坐标记为(x,y),产生事件e的时间称为时间戳并被记作ts(e)。在事件e前生成的且由同一像素(第一像素)生成的事件被记作“e-1”,它是事件e的前一事件(简称前一事件),二者来源像素相同,坐标相同,但时间戳不同,前一事件e-1的时间戳记为ts(e-1)。第一像素生成前一事件e-1后,相继地生成了事件e。事件的信息可以还包括像素感光的明暗变化方向,并被称为极性。
此外,还存在两个存储空间,分别称为第一存储空间和第二存储空间,并分别存储被称为布尔图(bool Map)和活动图(activity Map)的数据。布尔图和活动图对应的任一存储单元与事件相机像素阵列的任一像素之间存在一一对应关系。换言之,每个像素在第一存储空间和第二存储空间中分别存在一个对应的存储单元。不失一般性,对于任一事件e而言,分别称之为第一存储单元、第二存储单元。为了简化描述,任一事件e的生成像素的坐标为(x,y),它在布尔图和活动图中分别对应的第一存储单元和第二存储单元的坐标在逻辑上都是(x,y)。这种逻辑映射关系可以是任意合理方式,本发明对此不做限定。
所述的布尔图,其对应的第一存储空间中的存储单元所存储的是一个计数,该计数反映的是对应像素的可信度。事件e对应的该计数的数值越大,事件e是由闪烁光源造成的可能性越小。优选地,存储单元可以是3比特存储长度,1比特存储长度是一种极为特殊的特例,也可以是4比特、5比特。若为3比特,某实施例中其存储的值位于-4至3之间,初始值为0。
所述的活动图,其对应的第二存储空间中的存储单元所存储的是对应像素生成最新事件的时间戳。换言之,活动图中的数据,是整个像素阵列每个像素最后一次发放事件的时间戳。优选地,存储单元可以是16比特存储长度。值得一提的是,存储长度越短,所需的存储空间越小。在满足精度需要的前提下,选择最小存储长度将有利于降低存储空间/芯片面积。因此这里的时间戳,可能是降低在事件相机中生成的像素时间戳时的精度(原时间戳精度)后的时间戳,当然选择按原时间戳精度存储,也是可以的。
第一存储空间、第二存储空间,是芯片存储区域的一部分。事件相机的像素阵列是芯片的感光部分,像素电路中可以包括光电二极管。像素阵列和第一存储空间以及第二存储空间,所构成的芯片可以仅仅是事件成像装置,即一个传感器。该传感器还可以与处理器通过转接板而连接在一起,构成一颗“感算一体”的芯片,这时的第一存储空间和第二存储空间,作为用于构建降噪电路/模块而可以视为接口电路的一部分。
参考图5,其展示了事件相机的闪烁噪声过滤模块10,这里生成事件的装置可以是任意一种事件成像装置。第一事件e,其时间戳ts(e)与前一事件e-1的时间戳ts(e-1)做差,得到的结果与第一阈值
Figure 527538DEST_PATH_IMAGE002
比较,若二者时间戳之差在第一阈值
Figure 517448DEST_PATH_IMAGE004
之内(即小于第一阈值,则布尔结果为“真”),则对布尔图中第一存储单元中存储的第一数值boolMAP(x,y)(本质是可信度计数值)执行减去一非零常量,否则(结果为“假”),则对布尔图中第一存储单元中存储的第一数值boolMAP(x,y)执行增加一非零常量。这里的非零常量可以是正数,也可以是负数,如果是负数,那么意味着比较第一数值与第二阈值大小关系后,判断事件e的逻辑将反过来。前述非零常量优选为1。
作为前述实施例进一步优选实施例,前述做差得到的结果还进一步与第三阈值
Figure 562764DEST_PATH_IMAGE006
(比如为第二阈值/2)比较,如果:若二者时间戳之差在第一阈值
Figure 489132DEST_PATH_IMAGE007
之内,且大于第三阈值
Figure 382133DEST_PATH_IMAGE009
(此时布尔结果才为“真”),则对则对布尔图中第一存储单元中存储的第一数值boolMAP(x,y)执行减去一非零常量,否则增加一非零常量。
然后根据布尔图中第一存储单元中存储的第一数值boolMAP(x,y)与第二阈值
Figure 470175DEST_PATH_IMAGE011
进行比较,若第一数值小于第二阈值
Figure DEST_PATH_IMAGE013
,那么就认为事件e是一个由闪烁光源造成的闪烁噪声;否则认为事件e不是闪烁噪声,并执行后级处理。
此外,本发明中大于、小于等措辞本质是一种逻辑比较,为获得相同逻辑比较结果,可以通过对于边界值稍作修改,但这只是本领域的一种等效的惯常替换手段,比如“≥2”与“>1”,在某些情况下的比较逻辑结果等价。这些基本逻辑变换或边界值修改等,通常可由本领域技术人员合乎逻辑地更改、替换,这同样未脱离本发明的基本构思,仍在本发明的保护范围之内。
不论是否判别为闪烁噪声,事件e的时间戳ts(e)被存储在第二存储空间中坐标为(x,y)的第二存储单元中,其值被记为activityMap(x, y)。该存储操作,可以在得到第一事件与其前一事件的时间差后,也可以在判断第一事件是否为闪烁噪声后。作为后续,当像素阵列中坐标为(x,y)的像素再次发放一个新的事件e+1后,前述的activityMap(x, y)值被读取并作为前述新的事件e+1的前一事件e的时间戳ts(e)。换言之,在更新活动图的过程中,事件e的前一事件e-1的时间戳ts(e-1)被事件e的时间戳ts(e)冲刷掉,因此这也是为何活动图中的数据是整个像素阵列每个像素最后一次发放事件的时间戳。
作为特例,布尔图还可以仅仅只有1比特存储长度。这样的实施例则不必进行第二阈值比较,因为布尔图只能存储2种状态,即0或1(表示大小关系的结果的一种形式)。因此,该实施例中只需要比较来自同一像素的当前事件e和前一事件e-1之间的时间戳差值,如果小于第二阈值
Figure DEST_PATH_IMAGE015
则认为事件e是闪烁噪声,否则不是。该特例方案的降噪性能可能不如其它方案。
作为替代实施例,第一存储空间所存储的布尔图还可以通过一组数据来存储同一像素对应的相继生成的多个事件的前述布尔结果。换言之,前述实施例只根据最新事件e的前述布尔结果对第一数值boolMAP(x,y)进行增/减计数,而替代实施例则保留前后多次布尔结果历史记录(原则上保存每个像素前后多次事件的时间戳也可行,但对存储空间需求较大),显然从更为丰富的历史记录中,很容易算得对应的第一数值,以及其与第二阈值
Figure DEST_PATH_IMAGE017
的大小关系。该方案可以解决闪烁噪声问题,但缺点是需要更大的第一存储空间。这些特例或替代实施例,仍在本发明所披露的技术构思之内。
换言之,这里披露的闪烁噪声过滤方法,包括如下步骤:接收第一事件,根据第一事件的时间戳和第一事件的前一事件的时间戳,得到第一事件与其前一事件的时间差;判断所述时间差与第一阈值之间的大小关系,并将表示该大小关系的结果写入位于第一存储空间中对应第一事件的第一列表中的第一位置;根据位于第一存储空间中对应第一事件的第一列表的若干位置所存储的若干表示大小关系的结果,判定所述第一事件是否为闪烁噪声。
优选地,所述第一事件和所述第一事件的前一事件,均来自第一像素。
优选地,如果所述第一列表的若干位置只有所述第一位置(此时第一位置,可以就是存储前述判断大小关系的结果的一个临时位置):若所述表示该大小关系的结果为所述时间差小于第一阈值,则判定所述第一事件为闪烁噪声,否则判定所述第一事件不是闪烁噪声。该实施例对应前述特例。
优选地,如果所述第一列表的若干位置至少有两个位置:则根据所述第一位置所存储的该大小关系的结果和所述第一列表的其它若干位置最近所存储的表示大小关系的结果中表示同一类大小关系结果的数量,判定所述第一事件是否为闪烁噪声。这里选择其它若干位置最近所存储的表示大小关系的结果的原因在于同一像素最近触发所述大小关系,更能反映第一事件e是否为闪烁噪声。比如,第一列表中存储了5个表示小于关系和2个表示大于关系的值,这等效于前述第一数值等于3的情形。
优选地,向位于第一存储空间中对应第一事件的第一列表的若干位置存储表示大小关系的结果时,遵循先入先出的原则。遵循该原则,更容易在方案中找到其它若干位置最近所存储的表示大小关系的结果,比如选择遵循先入先出原则的第一列表中所有位置所存储的大小关系,一定均是最近的大小关系结果。
优选地,将所述第一事件的时间戳,存储于第二存储空间中对应第一事件的第二存储单元中。
应注意,该替代实施例或特例,其它技术特征与在此前述的技术特征相同(不明显违背逻辑的前提下),在此以引用的方式将其罗列于此。
参考图6,其展示的是另一类替代实施例。该实施中事件相机的闪烁噪声过滤模块10与图5中的方案相同。区别在于,在执行闪烁噪声过滤方法前,还执行降低时间戳精度的步骤。参考前文所述,为了降低第二存储空间的大小,通过移位的方式降低时间戳精度,但是依然能满足性能需求。比如左移时间戳后,获得低精度的时间戳ts(e),然后将该降低精度后的时间戳送入前述的闪烁噪声过滤模块10。
以上闪烁噪声过滤模块或方法流程,可以通过设计对应集成电路以实现相应的信息处理流程,以形成最终的事件成像装置或芯片,也可以通过FPGA或软件的方法实现,实现上述方法的物理载体就是闪烁噪声过滤装置。需要说明的是,本发明中各种阈值等参数,均是可配置的,方便根据不同的场景予以调整。此外所述的第一存储空间、第二存储空间中的存储单元可以是集中式的,也可以是分布式的。
应用前述闪烁噪声过滤方法,或包括前述噪声过滤装置的事件成像装置,可以具有较好的抗闪烁噪声性能。而应用前述闪烁噪声过滤方法,或包括前述噪声过滤装置、事件成像装置的电子设备,可以比较容易地在交流电源驱动的光源下工作。
换言之,这里披露了:一种闪烁噪声过滤装置,该闪烁噪声过滤装置至少包括第一存储空间,并且该闪烁噪声过滤装置根据所述第一存储空间和如前任一项所述的闪烁噪声过滤方法对接收的第一事件进行噪声过滤。
一种传感器,该传感器是事件成像装置,该事件成像装置包括像素阵列和第一存储空间,所述像素阵列中包括生成第一事件以及生成第一事件的前一事件的第一像素,根据所述第一存储空间,以及如前任一项所述的闪烁噪声过滤方法对所述第一事件进行噪声过滤。
一种芯片,该芯片上包括事件成像装置以及处理器和第一存储空间,根据所述第一存储空间,以及如前任一项所述的闪烁噪声过滤方法至少对由所述事件成像装置生成的第一事件进行噪声过滤;所述处理器根据至少经过前述噪声过滤后的第一事件,对事件成像装置生成的事件进行处理。
一种电子设备,该电子设备部署有如前所述的芯片。该电子设备可以是玩具、电子锁等边缘设备,这里的芯片有助于实现永远在线的智能检测。
作为对照,现有技术中的某种方案是通过在频率上设置带阻,以过滤交流电工作频率所带来的噪声,其表现显示在图7中(b)部分和图8中(b)部分。
图7展示了没有任何运动物体仅有闪烁灯源情况下不同方案对应的事件成像效果。图7中(a)部分对应没有任何降噪措施的成像效果,可见闪烁光源及在物体上的反射光(图中椭圆内)在一直成像。图7中(b)部分是前述对照降噪方案的降噪后成像效果,可见闪烁光源及在物体上的反射光(图中椭圆内)在背景中仍若隐若现。图7中(c)部分对应本发明的降噪后的成像效果(不含其它降噪方案),图中已经将绝大部分的背景闪烁光源引起的噪声事件消除,仅剩下部分背景随机噪声。该部分随机噪声,可以通过其它专门降噪方案予以消除。
图8展示了有运动物体且有闪烁灯源情况下不同方案对应的事件成像效果。图8中(a)部分对应没有任何降噪措施的成像效果,可见闪烁光源及在物体上的反射光在一直成像,移动的办公椅的一侧轮廓(图中椭圆)清晰可见。图8中(b)部分对应前述对照降噪方案的降噪后成像效果,除了办公椅的一侧轮廓,大量的闪烁噪声(图中椭圆)仍然存在。图8中(c)部分对应的本发明降噪方案的降噪效果成像,除了办公椅的一侧轮廓外(图中椭圆),闪烁噪声基本被消除,仅留有背景随机噪声。
尽管已经参考本发明的具体特征和实施例描述了本发明,但是在不脱离本发明的情况下仍可以对其进行各种修改、组合、替换。本发明的保护范围旨在不限于说明书中描述的过程、机器、制造、物质组成、装置、方法和步骤的特定实施例,并且这些方法、模块可能还被实施在相关联、相互依赖、相互配合、前/后级的一个或多个产品、方法当中。
因此,说明书和附图应简单地视为由所附权利要求限定的技术方案的部分实施例的介绍,因而应根据最大合理解释原则对所附权利要求解读,并旨在尽可能涵盖本发明公开范围内的所有修改、变化、组合或等同物,同时还应避免不合常理的解读方式。
为了实现更好的技术效果或出于某些应用的需求,本领域技术人员可能在本发明的基础之上,对技术方案做出进一步的改进。然而,即便该部分改进/设计具有创造性或/和进步性,只要依赖本发明的技术构思,覆盖了权利要求所限定的技术特征,该技术方案同样应落入本发明的保护范围之内。
所附的权利要求中所提及的若干技术特征可能存在替代的技术特征,或者对某些技术流程的顺序、物质组织顺序可以重组。本领域普通技术人员知晓本发明后,容易想到该些替换手段,或者改变技术流程的顺序、物质组织顺序,然后采用了基本相同的手段,解决基本相同的技术问题,达到基本相同的技术效果,因此即便权利要求中明确限定了上述手段或/和顺序,然而该些修饰、改变、替换,均应依据等同原则而落入权利要求的保护范围。
结合本文中所公开的实施例中描述的各方法步骤或模块,能够以硬件、软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各实施例的步骤及组成。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用或设计约束条件。本领域普通技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为在本发明所要求保护的范围之外。

Claims (20)

1.一种闪烁噪声过滤方法,其特征在于:
接收第一事件,根据第一事件的时间戳和第一事件的前一事件的时间戳,得到第一事件与其前一事件的时间差;
若所述时间差小于第一阈值,则将位于第一存储空间中对应第一事件的第一存储单元中的第一数值减去一非零常量,否则将该第一数值增加一非零常量,获得更新后的第一数值;
根据所述更新后的第一数值与第二阈值之间的大小关系,判定所述第一事件是否为闪烁噪声。
2.根据权利要求1所述的闪烁噪声过滤方法,其特征在于:
所述第一事件和所述第一事件的前一事件,均来自第一像素。
3.根据权利要求2所述的闪烁噪声过滤方法,其特征在于:
所述减去一非零常量与所述增加一非零常量中的非零常量相同,且均等于1。
4.根据权利要求1所述的闪烁噪声过滤方法,其特征在于:
所述第一事件和所述第一事件的前一事件,均来自事件成像装置中的第一像素;所述第一存储空间中包括若干存储单元,且所述若干存储单元与事件成像装置的像素阵列中的若干像素之间存在一一对应关系。
5.根据权利要求1所述的闪烁噪声过滤方法,其特征在于:
所述第一事件来自第一像素,根据第一像素在事件成像装置的像素阵列中的坐标,确定位于第一存储空间中对应第一事件的第一存储单元。
6.根据权利要求1所述的闪烁噪声过滤方法,其特征在于:
如果所述一非零常量为正数,若所述更新后的第一数值小于第二阈值,则判定所述第一事件为闪烁噪声;或者,
如果所述一非零常量为负数,若所述更新后的第一数值大于第二阈值,则判定所述第一事件为闪烁噪声。
7.根据权利要求5所述的闪烁噪声过滤方法,其特征在于:
所述第一存储单元的存储长度为3或4或5比特。
8.根据权利要求2所述的闪烁噪声过滤方法,其特征在于:
若所述第一事件不被判为闪烁噪声,则将所述第一事件交由后级处理。
9.根据权利要求2所述的闪烁噪声过滤方法,其特征在于:
将所述第一事件的时间戳,存储于第二存储空间中对应第一事件的第二存储单元中。
10.根据权利要求1-8任一项所述的闪烁噪声过滤方法,其特征在于:
在判定所述第一事件是否为闪烁噪声后或得到第一事件与其前一事件的时间差后,将所述第一事件的时间戳,存储于第二存储空间中对应第一事件的第二存储单元中。
11.根据权利要求10所述的闪烁噪声过滤方法,其特征在于:
所述第二存储空间中包括若干存储单元,且所述若干存储单元与事件成像装置的像素阵列中的若干像素之间存在一一对应关系。
12.根据权利要求10所述的闪烁噪声过滤方法,其特征在于:
所述第一事件来自第一像素,根据第一像素在事件成像装置的像素阵列中的坐标,确定位于第二存储空间中对应第一事件的第二存储单元。
13.根据权利要求10所述的闪烁噪声过滤方法,其特征在于:
所述第一事件的前一事件的时间戳,取自位于第二存储空间中对应第一事件的第二存储单元。
14.根据权利要求1-8或11-13中任一项所述的闪烁噪声过滤方法,其特征在于:
若所述时间差小于第一阈值并且还大于第三阈值时,则才将位于第一存储空间中对应第一事件的第一存储单元中的第一数值减去一非零常量,否则将该第一数值增加一非零常量。
15.根据权利要求9或11-13中任一项所述的闪烁噪声过滤方法,其特征在于:
在执行闪烁噪声过滤方法前,降低所述第一事件的时间戳精度。
16.一种闪烁噪声过滤装置,其特征在于:
该闪烁噪声过滤装置至少包括第一存储空间,并且该闪烁噪声过滤装置根据所述第一存储空间和如权利要求1-15任一项所述的闪烁噪声过滤方法对接收的第一事件进行噪声过滤。
17.一种传感器,该传感器是事件成像装置,该事件成像装置包括像素阵列和第一存储空间,所述像素阵列中包括生成第一事件以及生成第一事件的前一事件的第一像素,其特征在于:
根据所述第一存储空间,以及权利要求1-15任一项所述的闪烁噪声过滤方法对所述第一事件进行噪声过滤。
18.一种芯片,该芯片上包括事件成像装置以及处理器和第一存储空间,其特征在于:
根据所述第一存储空间,以及权利要求1-15任一项所述的闪烁噪声过滤方法至少对由所述事件成像装置生成的第一事件进行噪声过滤;
所述处理器根据至少经过前述噪声过滤后的第一事件,对事件成像装置生成的事件进行处理。
19.根据权利要求18所述的芯片,其特征在于:
所述处理器为类脑处理器。
20.一种电子设备,其特征在于:该电子设备部署有如权利要求18或19所述的芯片。
CN202211345510.3A 2022-10-31 2022-10-31 闪烁噪声过滤方法及装置、传感器、芯片及电子设备 Active CN115412688B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202211345510.3A CN115412688B (zh) 2022-10-31 2022-10-31 闪烁噪声过滤方法及装置、传感器、芯片及电子设备
CN202310003371.4A CN116233628A (zh) 2022-10-31 2022-10-31 闪烁噪声过滤***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211345510.3A CN115412688B (zh) 2022-10-31 2022-10-31 闪烁噪声过滤方法及装置、传感器、芯片及电子设备

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202310003371.4A Division CN116233628A (zh) 2022-10-31 2022-10-31 闪烁噪声过滤***

Publications (2)

Publication Number Publication Date
CN115412688A CN115412688A (zh) 2022-11-29
CN115412688B true CN115412688B (zh) 2023-02-03

Family

ID=84167527

Family Applications (2)

Application Number Title Priority Date Filing Date
CN202310003371.4A Pending CN116233628A (zh) 2022-10-31 2022-10-31 闪烁噪声过滤***
CN202211345510.3A Active CN115412688B (zh) 2022-10-31 2022-10-31 闪烁噪声过滤方法及装置、传感器、芯片及电子设备

Family Applications Before (1)

Application Number Title Priority Date Filing Date
CN202310003371.4A Pending CN116233628A (zh) 2022-10-31 2022-10-31 闪烁噪声过滤***

Country Status (1)

Country Link
CN (2) CN116233628A (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116546339B (zh) * 2023-07-07 2023-09-08 深圳时识科技有限公司 区分事件极性的降噪装置及方法、芯片及电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111770290A (zh) * 2020-07-29 2020-10-13 中国科学院长春光学精密机械与物理研究所 一种动态视觉传感器输出事件流降噪方法
CN113923319A (zh) * 2021-12-14 2022-01-11 成都时识科技有限公司 降噪装置、方法、芯片、事件成像装置及电子设备
CN114285962A (zh) * 2021-12-14 2022-04-05 成都时识科技有限公司 噪声处理装置、方法、芯片、事件成像装置及电子设备

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018093275A (ja) * 2016-11-30 2018-06-14 オリンパス株式会社 撮像装置およびフリッカ判定方法
CN114078100A (zh) * 2021-11-25 2022-02-22 成都时识科技有限公司 聚类降噪装置、方法、芯片、事件成像装置及电子设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111770290A (zh) * 2020-07-29 2020-10-13 中国科学院长春光学精密机械与物理研究所 一种动态视觉传感器输出事件流降噪方法
CN113923319A (zh) * 2021-12-14 2022-01-11 成都时识科技有限公司 降噪装置、方法、芯片、事件成像装置及电子设备
CN114285962A (zh) * 2021-12-14 2022-04-05 成都时识科技有限公司 噪声处理装置、方法、芯片、事件成像装置及电子设备

Also Published As

Publication number Publication date
CN115412688A (zh) 2022-11-29
CN116233628A (zh) 2023-06-06

Similar Documents

Publication Publication Date Title
CN107948465B (zh) 一种检测摄像头被干扰的方法和装置
US10755417B2 (en) Detection system
CN113923319B (zh) 降噪装置、方法、芯片、事件成像装置及电子设备
CN115412688B (zh) 闪烁噪声过滤方法及装置、传感器、芯片及电子设备
US20240064422A1 (en) Noise filtering for dynamic vision sensor
CN111064865B (zh) 一种动态视觉传感器背景活动噪声过滤器及处理器
US11871125B2 (en) Method of processing a series of events received asynchronously from an array of pixels of an event-based light sensor
CN114285962B (zh) 噪声处理装置、方法、芯片、事件成像装置及电子设备
CN114885074B (zh) 一种基于时空密度的事件相机去噪方法
CN105824441B (zh) 导航装置及其轨迹平滑方法
CN115412686B (zh) 融合降噪方法及装置、传感器、芯片及电子设备
CN114078100A (zh) 聚类降噪装置、方法、芯片、事件成像装置及电子设备
CN115442544A (zh) 基于热像素和增强时空相关性的动态视觉事件流降噪方法
CN117115451B (zh) 一种基于时空内容相关性的自适应阈值事件相机去噪方法
CN104782115A (zh) 车辆用图像处理装置
JP4763219B2 (ja) 運動する物体に付された光学信号マークの重心を写真測量により決定する方法及び装置
CN115412687B (zh) 主被动结合的降噪装置、方法、视觉传感器和芯片
CN112738413A (zh) 一种基于tof的人像区域亮度自动调节方法
CN116546339B (zh) 区分事件极性的降噪装置及方法、芯片及电子设备
Shi et al. Identifying Light Interference in Event-Based Vision
CN116916164A (zh) 图像频闪处理方法、装置、电子设备及存储介质
WO2022001615A1 (en) Method and system for automatically removing glare regions
Jing-zhong et al. A real-time detection of vehicle's speed based on vision principle and differential detection
Li et al. High-Resolution High-Sensitivity Human-Computer Algorithm and Gesture Control SOC Chip for Artificial Intelligence Applications
CN115714923A (zh) 一种自适应时间分辨率的事件信息可视化方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant