CN112561951A - 一种基于帧差绝对误差和sad的运动和亮度检测方法 - Google Patents

一种基于帧差绝对误差和sad的运动和亮度检测方法 Download PDF

Info

Publication number
CN112561951A
CN112561951A CN202011551145.2A CN202011551145A CN112561951A CN 112561951 A CN112561951 A CN 112561951A CN 202011551145 A CN202011551145 A CN 202011551145A CN 112561951 A CN112561951 A CN 112561951A
Authority
CN
China
Prior art keywords
block
sad
current
chroma
brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011551145.2A
Other languages
English (en)
Other versions
CN112561951B (zh
Inventor
潘柳含
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Fullhan Microelectronics Co ltd
Original Assignee
Shanghai Fullhan Microelectronics Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Fullhan Microelectronics Co ltd filed Critical Shanghai Fullhan Microelectronics Co ltd
Priority to CN202011551145.2A priority Critical patent/CN112561951B/zh
Publication of CN112561951A publication Critical patent/CN112561951A/zh
Application granted granted Critical
Publication of CN112561951B publication Critical patent/CN112561951B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/70Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本申请公开了一种基于帧差绝对误差和SAD的运动和亮度检测方法,该方法包括:根据当前帧中的当前块和前一帧中的同位块内像素点的亮度值,计算当前块的SAD;根据当前块的SAD确定当前块为当前帧中的运动块或背景块;根据当前帧总所有背景块的SAD和前M帧中所有背景块的SAD,对当前帧进行亮度检测,确定当前帧的亮度变化等级。这样能解决现有方案中存在的无法适用于动静变化较大或亮度不充足的运动场景、运动区域识别准确性较低及无法满足视频编码使用时的实施性和实用性等问题。

Description

一种基于帧差绝对误差和SAD的运动和亮度检测方法
技术领域
本申请涉及图像处理技术领域,特别是涉及一种基于帧差绝对误差和SAD的运动和亮度检测方法。
背景技术
在视频监控领域中,人们往往对运动的物体更加关注,比如监控视频内运动的人、车及动物等;而对相对不变的背景区域,比如树、马路等关注程度较低。为此,在视频压缩编码前,提前区分出高关注度的运动区域和低敏感度的背景区域,分别采取不同的编码压缩策略,以有效地缓解主观效果上的编码损失。目前,主流的前后景区域分割是利用当前图像和背景图像的区别来检测运动区域,它一般能提供完整的运动物体特征,但对视频中的光照和噪声等无关信息的干扰特别敏感。因而大部分的研究都是基于此基础上开发不同的背景模型,例如背景帧差法、混合高斯模型(GMM)和光流法等,以减少动态场景的变化对于运动检测的影响。其中:
背景帧差法是一种非常简单的背景模型,具体地指定视频中的某一帧为背景图像,用当前图像与背景图像比较,再根据具体需要过滤较小的差异得到的结果部分就是前景区域。帧差计算是直接对两幅图像进行减法运算,然后在用指定阈值过滤,虽然这种方法比较简单易实施,但对于视频中的无关信息和噪声等特别敏感,比较适用于动静变化较小且亮度充足的场景,比如无人仓库的运行监控。但无法适用于动静变化较大或亮度不充足的运动场景,例如行车场景等。
在混合高斯模型中,输入图像的像素点会与背景模型中的像素点进行比较,与背景模型相似度较高的像素点被划分为背景区域,相似度较低的像素点划分为前景区域。在进行新一帧图像区分时,混合高斯模型一般由N个单高斯模型加权组合而成,如果当前图像中某个像素点与该像素点N个单高斯模型中的某个匹配程度很高,则这个像素点是背景像素,同时它的像素值将作为一个新模型用于更新已存在的N个单高斯模型。如果当前像素与模型匹配的程度比较低,则将当前像素划分为前景像素,即运动区域。方差和均值被用于训练整个混合高斯模型,如果对它们采取不同的学习机制将会直接影响最终整个混合高斯模型的正确性、稳定性和收敛性。换句话说,这种方法会受限于混合高斯模型的准确性,进而影响前景区域(即运动区域)识别的准确性。
通过观察视频中运动物体所对应像素点的位置,可以获得运动的像素点在时间域上的变化以其在相邻帧之间的相关性。根据上一帧与当前帧之间存在的对应关系,可以相对简单地计算出运动物体的瞬时速度、运动方向等信息。光流法就是通过研究图像中的像素数据在时间域中的变化和相关性来确定其位置的运动的一种算法。光流法中得出的运动像素即为人们所关心的前景区域。实际实施时,通过光流法会提前赋予图像中每个像素点的一个初速度矢量,从而形成一个运动的矢量场。在某个特定时刻,通过投影计算图像中像素点与三维物体中的点一一对应的关系,根据该像素点的速度矢量特征再对图像进行动态分析。如果图像中没有运动目标,则光流矢量在图像中不会连续变化。当图像中有运动目标,即目标和背景之间存在相对运动,则运动物体所形成的速度矢量必然和背景中的速度矢量有所不同,因而可计算得到运动物体的位置。但是,光流法涉及的计算量很大,运动区域识别的效率较低,无法保证其在视频编码使用时的实施性和实用性。
因此,需提出一种更好地运动和亮度检测方法。
发明内容
为克服上述现有技术存在的不足,本申请之目的在于提供一种基于帧差绝对误差和SAD的运动和亮度检测方法,能解决现有方案中存在的无法适用于动静变化较大或亮度不充足的运动场景、运动区域识别准确性较低及无法满足视频编码使用时的实施性和实用性等问题。
为达上述及其它目的,本申请提出一种基于帧差绝对误差和SAD的运动和亮度检测方法,包括如下步骤:
根据当前帧中的当前块与前一帧中的同位块内像素点的亮度值,计算所述当前块的SAD,所述当前块为所述当前帧中的任一图像块,所述同位块为所述前一帧中与所述当前块处于同一位置的图像块;
根据所述当前块的SAD,确定所述当前块为所述当前帧中的目标块,所述目标块为运动块或背景块;
根据所述当前帧中所有背景块的SAD及前M帧中所有背景块的SAD,对所述当前帧进行亮度检测,确定所述当前帧的亮度变化等级。
可选的,所述方法还包括:
确定所述当前块对应的色度块;
根据所述当前帧中所述当前块对应的色度块与前一帧中所述同位块对应的色度块内像素点的色度值,计算所述当前块对应的色度块的SAD;
根据所述当前块对应的色度块的SAD,对所述当前块进行色度检测,确定所述当前块的色度变化等级。
可选的,所述根据当前帧中的当前块与前一帧中的同位块内像素点的亮度值,计算所述当前块的SAD包括:
将当前帧划分为多个图像块;
对所述当前帧中的当前块进行亮度均值采样,得到对应的第一亮度块;
对所述当前帧的前一帧中的同位块进行亮度均值采样,得到对应的第二亮度块,所述第一亮度块与所述第二亮度块的大小相同;
对所述第一亮度块和所述第二亮度块中每个像素点的亮度值进行差值绝对值求和,得到所述当前块的SAD。
可选的,所述根据所述当前块的SAD,确定所述当前块为所述当前帧中的目标块包括:
根据所述当前块中每个像素点的亮度值,计算所述当前块的平均绝对误差MADI;
根据所述当前块的SAD和所述当前块的MADI,确定所述当前块为所述当前帧中的目标块。
可选的,所述根据所述当前块的SAD和所述当前块的MADI,确定所述当前块为所述当前帧中的目标块包括:
若所述当前块的SAD大于第一预设值,则确定所述当前块为所述当前帧中的运动块;
若所述当前块的SAD小于或等于所述第一预设值,则确定所述当前块为所述当前帧中的背景块;
其中,所述第一预设值是根据所述所述当前块的MADI确定的。
可选的,所述根据所述当前帧中所有背景块的SAD及前M帧中所有背景块的SAD,对所述当前帧进行亮度检测,确定所述当前帧的亮度变化等级包括:
根据所述当前帧中的所有背景块的SAD和亮度值,计算所述当前帧中背景区域的SAD平均和亮度平均,所述当前帧中所有背景块在所述当前帧中所占的区域为所述当前帧的背景区域;
根据所述当前帧的前M帧中每一帧的所有背景块的SAD和亮度值,计算所述前M帧中每一帧的背景区域的SAD平均和亮度平均;
根据所述前M帧中每一帧的SAD平均和亮度平均,分别计算所述前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差;
根据所述当前帧中背景区域的SAD平均和亮度平均,及所述前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差,确定所述当前帧的亮度等级。
可选的,所述根据所述当前帧中背景区域的SAD平均和亮度平均,及所述前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差,确定所述当前帧的亮度等级包括:
若所述当前帧中背景区域的SAD平均与所述前M帧中背景区域的SAD均值之差的平方大于第二预设值,则确定所述当前帧的亮度变化等级为第一亮度级;
若所述当前帧中背景区域的SAD平均与所述前M帧中背景区域的SAD均值之差的平方大于第三预设值,且所述当前帧中背景区域的亮度平均与所述前M帧中背景区域的亮度均值之差的平方大于第四预设值,则确定所述当前帧的亮度变化等级为第二亮度级;否则确定所述当前帧的亮度变化等级为第三亮度级;
其中,所述第一亮度级、所述第二亮度级及所述第三亮度级各自所指示的当前帧的亮度变化程度递减,所述第二预设值和所述第三预设值均是根据所述前M帧中背景区域的SAD均值和SAD方差确定的,所述第四预设值是根据所述前M帧中背景区域的亮度方差确定的。
可选的,所述根据所述当前帧中所述当前块对应的色度块与前一帧中所述同位块对应的色度块内像素点的色度值,计算所述当前块对应的色度块的SAD包括:
对所述当前块对应的色度块进行色度均值采样,得到对应的第一色度块;
对所述同位块对应的色度块进行色度均值采样,得到对应的第二色度块;
对所述第一色度块和所述第二色度块中每个像素点的色度值进行差值绝对值求和,得到所述当前块对应的色度块的SAD。
可选的,所述根据所述当前块对应的色度块的SAD,对所述当前块进行色度检测,确定所述当前块的色度变化等级包括:
对所述第一色度块和所述第二色度块中每个像素点的色度值进行差值绝对值求方差,得到所述当前块对应的色度块的SAD方差;
根据所述当前块对应的色度块中每个像素点的色度值,计算所述当前块对应的色度块的平均绝对误差MADI;
根据所述当前块对应的色度块的SAD、SAD方差和MADI,对所述当前块进行色度检测,确定所述当前块的色度变化等级。
可选的,所述根据所述当前块对应的色度块的SAD、SAD方差和MADI,对所述当前块进行色度检测,确定所述当前块的色度变化等级包括:
若所述当前块对应的色度块的SAD大于第五预设值,或所述当前块对应的色度块的SAD大于第六预设值且所述当前块对应的色度块的SAD方差小于第七预设值,则确定所述当前块的色度变化等级为第一色度级;否则,确定所述当前块的色度变化等级为第二色度级;
其中,所述第一色度级和所述第二色度级各自所指示的当前块的色度变化程度递减,所述第五预设值和所述第六预设值均是根据所述当前块对应的色度块的MADI确定的。
为达上述及其它目的,本申请还提出一种基于帧差绝对误差和SAD的运动和亮度检测装置,包括:
计算单元,用于根据当前帧中的当前块与前一帧中的同位块内像素点的亮度值,计算所述当前块的SAD,所述当前块为所述当前帧中的任一图像块,所述同位块为所述前一帧中与所述当前块处于同一位置的图像块;
确定单元,用于根据所述当前块的SAD,确定所述当前块为所述当前帧中的目标块,所述目标块为运动块或背景块;
检测单元,用于根据所述当前帧中所有背景块的SAD及前M帧中所有背景块的SAD,对所述当前帧进行亮度检测,确定所述当前帧的亮度变化等级。
由上可见本申请提供了一种基于帧差绝对误差和SAD的运动和亮度检测方法及装置,能达到以下有益效果:提供一种简单有效地运动和背景块的区分算法,在区分运动前景的同时,对背景区域中亮度变化程度也进行区分,以便后续采用不同的视频编码压缩策略。既能解决现有方案中存在的无法适用于动静变化较大或亮度不充足的运动场景、运动区域识别准确性较低及无法满足视频编码使用时的实施性和实用性等问题,又能提升图像运动和亮度检测的便捷性和准确性。
附图说明
图1是本申请实施例提供的一种基于帧差绝对误差和SAD的运动和亮度检测方法的流程示意图。
图2是本申请实施例提供的一种运动和亮度检测的流程示意图。
图3是本申请实施例提供的一种基于帧差绝对误差和SAD的运动和亮度检测装置的结构示意图。
具体实施方式
以下通过特定的具体实例并结合附图说明本申请的实施方式,本领域技术人员可由本说明书所揭示的内容轻易地了解本申请的其它优点与功效。本申请亦可通过其它不同的具体实例加以施行或应用,本说明书中的各项细节亦可基于不同观点与应用,在不背离本申请的精神下进行各种修饰与变更。
申请人在提出本申请的过程中还发现:在论文中为提高视频编码的速度和效率,通常采用基于块匹配算法的运动估计。同时,由于图像和视频信息的表示往往采用高度相关性的大量数据,这些相关性会引起编码时信息的冗余,因此通过去除冗余信息来实现对视频数据的压缩。运动估计会首先将图像划分为许多互不重叠的子块,并默认子块内所有像素的运动相同,即每个子块都可以被认为是运动物体。对于某一序列中第K帧的子块,会在它前一帧即第K-1帧中寻找与其最相似的子块作为它的匹配块层,从而获得当前子块的运动位移。本申请结合块匹配的运动估计思想,采用均值采样来过滤无关信息(例如噪声数据等),然后通过对当前帧的在前一帧中的同位块与当前块的SAD进行比较,来确认当前块是否发生了运动,进一步降低了运算的复杂程度。具体如下:
请参见图1,是本申请实施例提供的一种基于帧差绝对误差和(Sum of AbsoluteDifference,SAD)的运动和亮度检测方法的流程示意图。如图1所示的方法包括如下实施步骤:
S101、根据当前帧中的当前块与前一帧中的同位块内像素点的亮度值,计算所述当前块的SAD,所述当前块为所述当前帧中的任一图像块,所述同位块为所述前一帧中与所述当前块处于同一位置的图像块。
作为一种可能的实施方式,本申请可将当前帧划分为多个图像块,例如当前帧为1920*1088的幅面图像,按照16*16块大小来划分,共有120*68=8160个图像块。然后对当前帧中的当前块进行亮度均值采样得到对应的第一亮度块,该当前块为当前帧中的任一图像块。对当前帧的前一帧中的同位块进行亮度均值采样得到对应的第二亮度块,该第一亮度块的大小和第二亮度块的大小相同,且第一亮度块的大小小于当前块的大小。最后对第一亮度块和第二亮度块中每个像素点的亮度值进行差值绝对值求和,即计算两个亮度块中每个亮度值的绝对值差,并求和得到当前块的SAD。
S102、根据所述当前块的SAD,确定所述当前块为所述当前帧中的目标块,所述目标块为运动块或背景块。
本申请还可根据当前块中每个像素点的亮度值,计算当前块的平均绝对误差(Mean Absolute Deviation,MADI)。具体地,首先计算当前块中每个像素点的亮度值的均值,然后计算当前块中每个像素点的亮度值(即每个像素值)与这个均值的绝对差的均值,即可获得当前块的MADI。
然后根据当前块的SAD和MADI,确定当前块为当前帧中的目标块,该目标块具体可为运动块或者背景块,其中运动块在帧图像中所占的区域为运动区域,即前景区域。背景块在帧图像中所占的区域为背景区域。在一具体实施例中,若当前块的SAD大于第一预设值,则确定当前块为运动块。否则,确定当前块为背景块。该第一预设值为***自定义设置的,例如根据用户经验设置的经验值等。优选地,该第一预设值是根据当前块的MADI确定的,具体可为:(阈值1*MADI+a)/b+阈值2。其中,a为第一亮度块的大小,b为当前块的大小。阈值1和阈值2为自定义设置的数值,不做限定。
举例来说,以当前帧为1920*1088的幅面图像为例,本申请按照16*16块来划分当前帧,共有8160个图像块。本申请可分块计算每个图像块各自的MADI:首先计算图像块内像素的亮度值的均值,然后计算图像块内每个像素值与这个均值的绝对差的均值即获得该图像块的MADI。然后分块对亮度进行均值采样,例如对每个16*16的图像块进行2*2的亮度均值采样,得到新的8*8的第一亮度块。对前一帧中同一位置的16*16的同位块进行2*2的亮度均值采样,得到前一帧的8*8的第二亮度块。再计算两个8*8亮度块中每个像素值的绝对值差,并求和,得到该图像块的SAD。若该图像块的SAD>(阈值1*MADI+8)/16+阈值2,则该图像块(即当前块)为运动块,即前景块(A);否则为背景块。按此原理,可检测出当前帧中所有的运动块和所有的背景块。所有运动块在帧图像中所占的区域称为运动区域,即前景区域A,所有背景块在帧图像中所占的区域称为背景区域。
S103、根据所述当前帧中所有背景块的SAD及前M帧中所有背景块的SAD,对所述当前帧进行亮度检测,确定所述当前帧的亮度变化等级。
对于背景区域,本申请还需区分是否发生了亮度变化。亮度检测是先按帧分类,再与阈值比较,最终决定每一图像块用作压缩编码时的偏差offset,即压缩编码时所采用的编码码率。
作为一种可能的实施方式中,本申请可根据当前帧中的所有背景块的SAD和每个背景块中像素点的亮度值,计算当前帧中背景区域的SAD平均(current_SAD)和亮度平均(current_luma)。在按帧分类前,同理可计算出当前帧的前M帧各自背景区域的SAD平均和亮度平均,然后再计算出前M帧中背景区域的SAD平均的均值(简称为SAD均值,sad_ave)和方差(简称为SAD方差,sad_var),前M帧中背景区域的亮度平均的均值(简称为亮度均值,luma_ave)和方差(简称为亮度方差,luma_var)。最后根据当前帧中背景区域的SAD平均、亮度平均、及前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差,确定出当前帧的亮度等级。
在一具体实施例中,若当前帧中背景区域的SAD(current_SAD)与前M帧中背景区域的SAD均值(sad_ave)之差的平方大于第二预设值,则确定当前帧的亮度变化等级为第一亮度级(B1)。若当前帧中背景区域的SAD平均(current_SAD)与前M帧中背景区域的SAD均值(sad_ave)之差的平方大于第三预设值,则确定当前帧的亮度变化等级为第二亮度级(B2)。否则,确定当前帧的亮度变化等级为第三亮度级(B3)。其中,第一亮度级B1、第二亮度级B2及第三亮度级B3各自所指示的当前帧的亮度变化程度递减,例如B1指示当前帧的亮度发生了剧烈变化,B2指示当前帧的亮度变化比较不明显,B3表示当前帧基本没有发生亮度变化等。第二预设值、第三预设值及第四预设值均为***自定义设置的,优先地第二预设值和第三预设值均是根据sad_ave和sad_var确定的,第四预设值是根据luma_var确定的,例如第二预设值为sad_ave*阈值3+(sad_var*sad_var)/阈值4,第三预设值为sad_var*阈值5+(sad_ave*sad_ave)/阈值6,第四预设值为luma_var+阈值7。这里的阈值3-阈值7均为***自定义设置的数值,本申请不做限定。
其中本申请计算每一帧中背景区域的SAD平均和亮度平均的具体实施方式为:获取每一帧中组成背景区域的所有背景块,通过将所有背景块各自的SAD累加,再除以背景区域中所有背景块的个数,来获得当前帧中背景区域的SAD平均。同理,通过将背景区域中所有背景块各自的亮度值累加,再除以所有背景块的个数来获得当前帧中背景区域的亮度平均。
对当前帧而言,对SAD平均和亮度平均的计算是每次获得当前帧的前M帧进行每帧更新的,M为***自定义设置的整数,例如10等。以M=10为例,对于当前帧而言,在分类前先计算其前10帧的SAD平均和亮度平均各自的均值和方差,分别记为前10帧的SAD均值sad_ave、前10帧的SAD方差sad_var、前10帧的亮度均值luma_ave及前10帧的亮度方差luma_var。
然后,计算当前帧的SAD平均current_SAD和亮度平均current_luma。
下一步获得current_SAD与sad_ave的差的平方,再与sad_var组成的阈值比较;同理,获得current_luma与luma_ave的差的平方,再与luma_var组成的阈值比较,即可完成当前帧的亮度变化等级的分类。具体分类如下:
Case1:(current_SAD-sad_ave)*(current_SAD-sad_ave)>sad_var*阈值3+(sad_ave*sad_ave)/阈值4表示当前帧的亮度变化等级为第一亮度级B1,说明当前帧的亮度发生了剧烈的变化。
Case2:(current_SAD-sad_ave)*(current_SAD-sad_ave)>sad_var*阈值5+(sad_ave*sad_ave)/阈值6,并且,
(current_luma-luma_ave)*(current_luma-luma_ave)>luma_var+阈值7表示当前帧的亮度变化等级为第二亮度级B2,说明当前帧的亮度变化比较不明显。
如果不是case1也不是case2,表示当前帧的亮度变化等级为第三亮度级B3,说明当前帧基本没有亮度变化。
在可选实施例中,本申请还需对当前帧中的每个图像块(如当前块)进行额外的色度检测。具体地,首先确定当前块对应的色度块,再根据当前帧中当前块对应的色度块与前一帧中同位块对应的色度块中每个像素点的色度值计算当前块对应的色度块的SAD,再根据该色度块的SAD对当前块进行色度检测,确定出当前块的色度变化等级。
作为一种可能的实施方式,本申请对当前块对应的色度块进行色度均值采样得到对应的第一色度块,对同位块对应的色度块进行色度均值采样得到对应的第二色度块。其中第一色度块和第二色度块具有相同的大小,且都小于当前块对应的色度块的大小。再对第一色度块和第二色度块中每个像素点的色度值进行差值绝对值求和,得到当前块对应的色度块的SAD。
本申请对第一色度块和第二色度块中每个像素点的色度值进行差值绝对值求方差,得到当前块对应的色度块的SAD方差。根据当前块对应的色度块中每个像素点的色度值,计算当前块对应的色度块的平均绝对误差MADI,具体地首先计算该色度块内每个像素点的色度值的均值,然后计算色度块内每个色度值与这个均值绝对差的均值即可获得色度块的MADI。最后根据当前块对应的色度块的SAD、SAD方差和MADI对当前块进行色度检测,确定出当前块的色度变化等级。
在一具体实施例中,若当前块对应的色度块的SAD大于第五预设值,或者当前块对应的色度块的SAD大于第六预设值且当前块对应的色度块的SAD方差小于第七阈值,则确定当前块的色度变化等级为第一色度级C。否则,确定当前块的色度变化等级为第二色度级。其中,第一色度级和第二色度级各自所指示的当前块的色度变化程度递减,例如第一色度级C表示当前块的色度发生了剧烈变化等。第五预设值、第六阈值及第七预设值均为***自定义设置的,优选地第五预设值和第六预设值是根据当前块对应的色度块的MADI确定的,例如第七预设阈值为阈值8、第六预设值为(100*MADI+a)/b+阈值9,第五预设值为(阈值10*MADI+a)/b+阈值11,这里的阈值8-阈值11均为***自定义设置的数值,本申请不做限定。
举例来说,以当前块为16*16的图像块为例,16*16的当前块对应的色度块为8*8,类似前述前景检测中MADI的计算,这里也可计算出8*8色度块的MADI。然后分块对色度进行2*2的色度均值采样得到4*4的第一色度块。同理,对前一帧中同一位置的同位块对应的4*4的色度块进行2*2的色度均值采样得到4*4的第二色度块。计算这两个4*4的色度块中每个像素点的色度值的绝对值差,再求和得到8*8色度块的SAD。求方差得到色度值差的方差(简称为8*8色度块的SAD方差)var_SAD。
如果var_SAD<阈值8,并且SAD>(100*MADI+8)/16+阈值9,则确定当前块的色度变化等级为第一色度级C,表示当前块的色度发生了剧烈变化。如果SAD>(阈值10*MADI+8)/16+阈值11,同理确定当前块的色度变化等级为第一色度级C,表示当前块的色度发生了剧烈变化。否则,确定当前块的色度变化等级为第二色度级,表示当前块的色度没有发生剧烈变化。
本申请基于前一帧同位块与当前块的SAD进行运动块的估计,计算量较小,能够拥有较快的处理速度和执行效率,也可有效地嵌入到基于块处理的编码过程中。在图像主观效果确认时,能准确地区分绝大部分的前景块(运动块),而对于小于最小块尺寸16*16的运动物体,虽然也有概率无法被区分为前景块,但介于肉眼对如此小的变化不敏感,因而不影响最终对运动物体的判断。在亮度检测方面,本申请对于亮度变化检测是以帧为单位,在排除了前景区域的影响后,能准确地检测出某一帧是否发生了亮度的变化以及发生的亮度变化等级,对于之后采取的编码算法有一个明确的引导分级,其具体执行流程如图2所示,这里不再赘述。
本申请提出一种基于帧差SAD的运动和亮度检测算法,主要是为了在编码前先对处理的序列中的帧进行初步分类,以便编码时采用不同的编码策略。因此该算法应用在实际编码器时,会处于应用软件这一层。对于第一个I帧,不进行任何运动和亮度的区域区分,直接进行编码操作。从第二帧开始,分别获取前一帧的同位块,按照前文本申请所提出的方案,区分出当前帧的运动块、当前帧的亮度变化等级和色度变化等级。对于不同的分类块,编码时采用不同的码率进行编码。由于本发明提供的运动和亮度检测算法,计算的数据是直接由当前帧和之前帧计算得到的,所以滤波处理时可以依据编码器设计的特点,既可以进行帧级的处理,也可把滤波处理嵌入到编码器逐块编码的处理过程中完成。
通过实施本申请,能减少计算量,拥有较快的处理速度和执行效率,还能同步解决现有方案中存在的无法适用于动静变化较大或亮度不充足的运动场景、运动区域识别准确性较低及无法满足视频编码使用时的实施性和实用性等问题。
请参见图3,是本申请实施例提供的一种基于帧差绝对误差和SAD的运动和亮度检测装置的结构示意图。如图3所示的装置包括:
计算单元301,用于根据当前帧中的当前块与前一帧中的同位块内像素点的亮度值,计算所述当前块的SAD,所述当前块为所述当前帧中的任一图像块,所述同位块为所述前一帧中与所述当前块处于同一位置的图像块;
确定单元302,用于根据所述当前块的SAD,确定所述当前块为所述当前帧中的目标块,所述目标块为运动块或背景块;
检测单元303,用于根据所述当前帧中所有背景块的SAD及前M帧中所有背景块的SAD,对所述当前帧进行亮度检测,确定所述当前帧的亮度变化等级。
可选的,
所述确定单元302,还用于确定所述当前块对应的色度块;
所述计算单元301,还用于根据所述当前帧中所述当前块对应的色度块与前一帧中所述同位块对应的色度块内像素点的色度值,计算所述当前块对应的色度块的SAD;
所述检测单元303,还用于根据所述当前块对应的色度块的SAD,对所述当前块进行色度检测,确定所述当前块的色度变化等级。
可选的,所述计算单元301具体用于:
将当前帧划分为多个图像块;
对所述当前帧中的当前块进行亮度均值采样,得到对应的第一亮度块;
对所述当前帧的前一帧中的同位块进行亮度均值采样,得到对应的第二亮度块,所述第一亮度块与所述第二亮度块的大小相同;
对所述第一亮度块和所述第二亮度块中每个像素点的亮度值进行差值绝对值求和,得到所述当前块的SAD。
可选的,所述确定单元302具体用于:
根据所述当前块中每个像素点的亮度值,计算所述当前块的平均绝对误差MADI;
根据所述当前块的SAD和所述当前块的MADI,确定所述当前块为所述当前帧中的目标块。
可选的,所述确定单元302具体用于:
若所述当前块的SAD大于第一预设值,则确定所述当前块为所述当前帧中的运动块;
若所述当前块的SAD小于或等于所述第一预设值,则确定所述当前块为所述当前帧中的背景块;
其中,所述第一预设值是根据所述所述当前块的MADI确定的。
可选的,所述确定单元302具体用于:
根据所述当前帧中的所有背景块的SAD和亮度值,计算所述当前帧中背景区域的SAD平均和亮度平均,所述当前帧中所有背景块在所述当前帧中所占的区域为所述当前帧的背景区域;
根据所述当前帧的前M帧中每一帧的所有背景块的SAD和亮度值,计算所述前M帧中每一帧的背景区域的SAD平均和亮度平均;
根据所述前M帧中每一帧的SAD平均和亮度平均,分别计算所述前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差;
根据所述当前帧中背景区域的SAD平均和亮度平均,及所述前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差,确定所述当前帧的亮度等级。
可选的,所述确定单元302具体用于:
若所述当前帧中背景区域的SAD平均与所述前M帧中背景区域的SAD均值之差的平方大于第二预设值,则确定所述当前帧的亮度变化等级为第一亮度级;
若所述当前帧中背景区域的SAD平均与所述前M帧中背景区域的SAD均值之差的平方大于第三预设值,且所述当前帧中背景区域的亮度平均与所述前M帧中背景区域的亮度均值之差的平方大于第四预设值,则确定所述当前帧的亮度变化等级为第二亮度级;否则,确定所述当前帧的亮度变化等级为第三亮度级;
其中,所述第一亮度级、所述第二亮度级及所述第三亮度级各自所指示的当前帧的亮度变化程度递减,所述第二预设值和所述第三预设值均是根据所述前M帧中背景区域的SAD均值和SAD方差确定的,所述第四预设值是根据所述前M帧中背景区域的亮度方差确定的。
可选的,所述计算单元301具体用于:
对所述当前块对应的色度块进行色度均值采样,得到对应的第一色度块;
对所述同位块对应的色度块进行色度均值采样,得到对应的第二色度块;
对所述第一色度块和所述第二色度块中每个像素点的色度值进行差值绝对值求和,得到所述当前块对应的色度块的SAD。
可选的,所述确定单元302具体用于:
对所述第一色度块和所述第二色度块中每个像素点的色度值进行差值绝对值求方差,得到所述当前块对应的色度块的SAD方差;
根据所述当前块对应的色度块中每个像素点的色度值,计算所述当前块对应的色度块的平均绝对误差MADI;
根据所述当前块对应的色度块的SAD、SAD方差和MADI,对所述当前块进行色度检测,确定所述当前块的色度变化等级。
可选的,所述确定单元302具体用于:
若所述当前块对应的色度块的SAD大于第五预设值,或所述当前块对应的色度块的SAD大于第六预设值且所述当前块对应的色度块的SAD方差小于第七预设值,则确定所述当前块的色度变化等级为第一色度级;否则,确定所述当前块的色度变化等级为第二色度级;
其中,所述第一色度级和所述第二色度级各自所指示的当前块的色度变化程度递减,所述第五预设值和所述第六预设值均是根据所述当前块对应的色度块的MADI确定的。
上述实施例仅例示性说明本申请的原理及其功效,而非用于限制本申请。任何本领域技术人员均可在不违背本申请的精神及范畴下,对上述实施例进行修饰与改变。因此,本申请的权利保护范围,应如权利要求书所列。

Claims (10)

1.一种基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,包括:
根据当前帧中的当前块与前一帧中的同位块内像素点的亮度值,计算所述当前块的SAD,所述当前块为所述当前帧中的任一图像块,所述同位块为所述前一帧中与所述当前块处于同一位置的图像块;
根据所述当前块的SAD,确定所述当前块为所述当前帧中的目标块,所述目标块为运动块或背景块;
根据所述当前帧中所有背景块的SAD及前M帧中所有背景块的SAD,对所述当前帧进行亮度检测,确定所述当前帧的亮度变化等级。
2.根据权利要求1所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述方法还包括:
确定所述当前块对应的色度块;
根据所述当前帧中所述当前块对应的色度块与前一帧中所述同位块对应的色度块内像素点的色度值,计算所述当前块对应的色度块的SAD;
根据所述当前块对应的色度块的SAD,对所述当前块进行色度检测,确定所述当前块的色度变化等级。
3.根据权利要求1所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述根据当前帧中的当前块与前一帧中的同位块内像素点的亮度值,计算所述当前块的SAD包括:
将当前帧划分为多个图像块;
对所述当前帧中的当前块进行亮度均值采样,得到对应的第一亮度块;
对所述当前帧的前一帧中的同位块进行亮度均值采样,得到对应的第二亮度块,所述第一亮度块与所述第二亮度块的大小相同;
对所述第一亮度块和所述第二亮度块中每个像素点的亮度值进行差值绝对值求和,得到所述当前块的SAD。
4.根据权利要求1所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述根据所述当前块的SAD,确定所述当前块为所述当前帧中的目标块包括:
根据所述当前块中每个像素点的亮度值,计算所述当前块的平均绝对误差MADI;
根据所述当前块的SAD和所述当前块的MADI,确定所述当前块为所述当前帧中的目标块。
5.根据权利要求4所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述根据所述当前块的SAD和所述当前块的MADI,确定所述当前块为所述当前帧中的目标块包括:
若所述当前块的SAD大于第一预设值,则确定所述当前块为所述当前帧中的运动块;
若所述当前块的SAD小于或等于所述第一预设值,则确定所述当前块为所述当前帧中的背景块;
其中,所述第一预设值是根据所述所述当前块的MADI确定的。
6.根据权利要求1所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述根据所述当前帧中所有背景块的SAD及前M帧中所有背景块的SAD,对所述当前帧进行亮度检测,确定所述当前帧的亮度变化等级包括:
根据所述当前帧中的所有背景块的SAD和亮度值,计算所述当前帧中背景区域的SAD平均和亮度平均,所述当前帧中所有背景块在所述当前帧中所占的区域为所述当前帧的背景区域;
根据所述当前帧的前M帧中每一帧的所有背景块的SAD和亮度值,计算所述前M帧中每一帧的背景区域的SAD平均和亮度平均;
根据所述前M帧中每一帧的SAD平均和亮度平均,分别计算所述前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差;
根据所述当前帧中背景区域的SAD平均和亮度平均,及所述前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差,确定所述当前帧的亮度等级。
7.根据权利要求6所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述根据所述当前帧中背景区域的SAD平均和亮度平均,及所述前M帧中背景区域的SAD均值、SAD方差、亮度均值和亮度方差,确定所述当前帧的亮度等级包括:
若所述当前帧中背景区域的SAD平均与所述前M帧中背景区域的SAD均值之差的平方大于第二预设值,则确定所述当前帧的亮度变化等级为第一亮度级;
若所述当前帧中背景区域的SAD平均与所述前M帧中背景区域的SAD均值之差的平方大于第三预设值,且所述当前帧中背景区域的亮度平均与所述前M帧中背景区域的亮度均值之差的平方大于第四预设值,则确定所述当前帧的亮度变化等级为第二亮度级;否则,确定所述当前帧的亮度变化等级为第三亮度级;
其中,所述第一亮度级、所述第二亮度级及所述第三亮度级各自所指示的当前帧的亮度变化程度递减,所述第二预设值和所述第三预设值均是根据所述前M帧中背景区域的SAD均值和SAD方差确定的,所述第四预设值是根据所述前M帧中背景区域的亮度方差确定的。
8.根据权利要求2所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述根据所述当前帧中所述当前块对应的色度块与前一帧中所述同位块对应的色度块内像素点的色度值,计算所述当前块对应的色度块的SAD包括:
对所述当前块对应的色度块进行色度均值采样,得到对应的第一色度块;
对所述同位块对应的色度块进行色度均值采样,得到对应的第二色度块;
对所述第一色度块和所述第二色度块中每个像素点的色度值进行差值绝对值求和,得到所述当前块对应的色度块的SAD。
9.根据权利要求8所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述根据所述当前块对应的色度块的SAD,对所述当前块进行色度检测,确定所述当前块的色度变化等级包括:
对所述第一色度块和所述第二色度块中每个像素点的色度值进行差值绝对值求方差,得到所述当前块对应的色度块的SAD方差;
根据所述当前块对应的色度块中每个像素点的色度值,计算所述当前块对应的色度块的平均绝对误差MADI;
根据所述当前块对应的色度块的SAD、SAD方差和MADI,对所述当前块进行色度检测,确定所述当前块的色度变化等级。
10.根据权利要求9所述的基于帧差绝对误差和SAD的运动和亮度检测方法,其特征在于,所述根据所述当前块对应的色度块的SAD、SAD方差和MADI,对所述当前块进行色度检测,确定所述当前块的色度变化等级包括:
若所述当前块对应的色度块的SAD大于第五预设值,或所述当前块对应的色度块的SAD大于第六预设值且所述当前块对应的色度块的SAD方差小于第七预设值,则确定所述当前块的色度变化等级为第一色度级;否则,确定所述当前块的色度变化等级为第二色度级;
其中,所述第一色度级和所述第二色度级各自所指示的当前块的色度变化程度递减,所述第五预设值和所述第六预设值均是根据所述当前块对应的色度块的MADI确定的。
CN202011551145.2A 2020-12-24 2020-12-24 一种基于帧差绝对误差和sad的运动和亮度检测方法 Active CN112561951B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011551145.2A CN112561951B (zh) 2020-12-24 2020-12-24 一种基于帧差绝对误差和sad的运动和亮度检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011551145.2A CN112561951B (zh) 2020-12-24 2020-12-24 一种基于帧差绝对误差和sad的运动和亮度检测方法

Publications (2)

Publication Number Publication Date
CN112561951A true CN112561951A (zh) 2021-03-26
CN112561951B CN112561951B (zh) 2024-03-15

Family

ID=75033470

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011551145.2A Active CN112561951B (zh) 2020-12-24 2020-12-24 一种基于帧差绝对误差和sad的运动和亮度检测方法

Country Status (1)

Country Link
CN (1) CN112561951B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114005185A (zh) * 2021-10-12 2022-02-01 红石阳光(北京)科技股份有限公司 一种基于物联网的智慧园区管理***
CN114125451A (zh) * 2021-12-01 2022-03-01 锐宸微(上海)科技有限公司 视频编码方法、视频编码装置及影像处理装置
CN114898175A (zh) * 2022-04-29 2022-08-12 北京九章云极科技有限公司 目标检测方法、装置及相关设备
TWI801033B (zh) * 2021-12-13 2023-05-01 大陸商星宸科技股份有限公司 視訊編碼方法、視訊編碼裝置及影像處理裝置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040079550A (ko) * 2003-03-07 2004-09-16 주식회사 밀리오네어즈 움직임 블록 검출 방법 및 이에 기초한 움직이는 물체추적 방법
CN101110903A (zh) * 2007-08-31 2008-01-23 湖北科创高新网络视频股份有限公司 一种视频数据实时去噪的方法和***
CN101236656A (zh) * 2008-02-29 2008-08-06 上海华平信息技术股份有限公司 基于块划分的图像中运动目标的检测方法
CN101803363A (zh) * 2007-09-10 2010-08-11 Nxp股份有限公司 用于视频图像数据中的基于行的运动估计的方法和装置
EP2525324A2 (en) * 2011-05-20 2012-11-21 Vestel Elektronik Sanayi ve Ticaret A.S. Method and apparatus for generating a depth map and 3d video
CN108280841A (zh) * 2018-01-16 2018-07-13 北京联合大学 一种基于邻域像素强度校正的前景提取方法
CN108537212A (zh) * 2018-07-04 2018-09-14 南京邮电大学 基于运动估计的学生行为检测方法
CN109859236A (zh) * 2019-01-02 2019-06-07 广州大学 运动物体检测方法、***、计算设备及存储介质

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040079550A (ko) * 2003-03-07 2004-09-16 주식회사 밀리오네어즈 움직임 블록 검출 방법 및 이에 기초한 움직이는 물체추적 방법
CN101110903A (zh) * 2007-08-31 2008-01-23 湖北科创高新网络视频股份有限公司 一种视频数据实时去噪的方法和***
CN101803363A (zh) * 2007-09-10 2010-08-11 Nxp股份有限公司 用于视频图像数据中的基于行的运动估计的方法和装置
CN101236656A (zh) * 2008-02-29 2008-08-06 上海华平信息技术股份有限公司 基于块划分的图像中运动目标的检测方法
EP2525324A2 (en) * 2011-05-20 2012-11-21 Vestel Elektronik Sanayi ve Ticaret A.S. Method and apparatus for generating a depth map and 3d video
CN108280841A (zh) * 2018-01-16 2018-07-13 北京联合大学 一种基于邻域像素强度校正的前景提取方法
CN108537212A (zh) * 2018-07-04 2018-09-14 南京邮电大学 基于运动估计的学生行为检测方法
CN109859236A (zh) * 2019-01-02 2019-06-07 广州大学 运动物体检测方法、***、计算设备及存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
张志霞 等: "基于活动轮廓和水平集的多帧运动检测", 火力与指挥控制, vol. 35, no. 05, pages 20 - 22 *
朱娟娟 等: "复杂场景中基于变块差分的运动目标检测", 光学精密工程, vol. 19, no. 01, pages 183 - 191 *
朱秋煜 等: "基于视差和帧差的图割优化运动目标分割算法", 电视技术, vol. 36, no. 13, pages 135 - 139 *
董安国 等: "基于块运动矢量分析的运动目标提取", 长安大学学报(自然科学版), vol. 36, no. 01, pages 98 - 104 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114005185A (zh) * 2021-10-12 2022-02-01 红石阳光(北京)科技股份有限公司 一种基于物联网的智慧园区管理***
CN114005185B (zh) * 2021-10-12 2023-07-21 红石阳光(北京)科技股份有限公司 一种基于物联网的智慧园区管理***
CN114125451A (zh) * 2021-12-01 2022-03-01 锐宸微(上海)科技有限公司 视频编码方法、视频编码装置及影像处理装置
CN114125451B (zh) * 2021-12-01 2022-12-06 锐宸微(上海)科技有限公司 视频编码方法、视频编码装置及影像处理装置
TWI801033B (zh) * 2021-12-13 2023-05-01 大陸商星宸科技股份有限公司 視訊編碼方法、視訊編碼裝置及影像處理裝置
CN114898175A (zh) * 2022-04-29 2022-08-12 北京九章云极科技有限公司 目标检测方法、装置及相关设备

Also Published As

Publication number Publication date
CN112561951B (zh) 2024-03-15

Similar Documents

Publication Publication Date Title
CN112561951B (zh) 一种基于帧差绝对误差和sad的运动和亮度检测方法
CN109522854B (zh) 一种基于深度学习和多目标跟踪的行人流量统计方法
Porikli et al. Traffic congestion estimation using HMM models without vehicle tracking
US8494234B1 (en) Video hashing system and method
CN106162177A (zh) 视频编码方法和装置
CN111079539B (zh) 一种基于异常追踪的视频异常行为检测方法
CN104517095B (zh) 一种基于深度图像的人头分割方法
JP2002288658A (ja) 領域分割された映像の領域特徴値整合に基づいた客体抽出装置およびその方法
CN107705254B (zh) 一种基于街景图的城市环境评估方法
CN110298297A (zh) 火焰识别方法和装置
WO2007036823A2 (en) Method and apparatus for determining the shot type of an image
Fradi et al. Robust foreground segmentation using improved gaussian mixture model and optical flow
KR20110014067A (ko) 스테레오 컨텐트의 변환 방법 및 시스템
CN112104869B (zh) 一种视频大数据存储及转码优化***
CN111212291A (zh) 基于dfl-cnn网络的视频帧内对象移除篡改检测方法
CN101478675A (zh) 一种视频中语义事件检测方法及***
CN114627150A (zh) 基于事件相机的数据处理及运动估计方法及装置
EP1509882A1 (en) Scene change detector algorithm in image sequence
CN101610412A (zh) 一种基于多线索融合的视觉跟踪方法
KR100963701B1 (ko) 영상 식별 장치
JPWO2010084738A1 (ja) 照合加重情報抽出装置
CN112446245A (zh) 一种基于运动边界小位移的高效运动表征方法及装置
CN115188081A (zh) 一种面向复杂场景的检测跟踪一体化方法
CN106485713B (zh) 视频前景检测方法
CN112183310B (zh) 冗余监控画面过滤及无效监控画面筛选的方法及***

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant