CN111988626B - 帧参考方法、设备及存储介质 - Google Patents
帧参考方法、设备及存储介质 Download PDFInfo
- Publication number
- CN111988626B CN111988626B CN202010712418.0A CN202010712418A CN111988626B CN 111988626 B CN111988626 B CN 111988626B CN 202010712418 A CN202010712418 A CN 202010712418A CN 111988626 B CN111988626 B CN 111988626B
- Authority
- CN
- China
- Prior art keywords
- frame
- random access
- image
- access frame
- primary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000007430 reference method Methods 0.000 title claims abstract description 21
- 238000000034 method Methods 0.000 claims abstract description 36
- 239000000872 buffer Substances 0.000 claims description 7
- 230000001351 cycling effect Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 12
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 108091026890 Coding region Proteins 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000012536 storage buffer Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/105—Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本申请公开帧参考方法、设备及存储介质。其中,帧参考方法包括:获取图像序列,图像序列包括连续的多帧图像;获取当前帧图像的类型标识,通过类型标识判断当前帧图像是否为一级随机接入帧,一级随机接入帧可独立解码,一级随机接入帧包括码流标识,码流标识包括一路流标识或两路流标识;若当前帧图像是一级随机接入帧,则从当前帧图像开始解码图像序列。本方法通过提出了一级随机接入帧,一级随机接入帧可独立解码,一级随机接入帧包括码流标识,码流标识包括一路流标识或两路流标识,从而本申请的一级随机接入帧可以合入主码流,也可以编码到独立的一路流中,在产品的实现中更为易于接受,提高了应用的灵活性。
Description
技术领域
本申请属于视频编解码技术领域,具体涉及帧参考方法、设备及存储介质。
背景技术
视频图像包含着大量的数据,通常需要对视频像素数据(RGB、YUV等)进行压缩编码后,才会对其进行传输或存储。压缩编码后的数据称之为视频码流,视频码流通过有线或者无线网络传输至用户端,再进行解码观看。
现有的AVS3视频编解码标准中提出了知识图像(library picture)的概念。知识图像是解码当前位流时使用的非当前位流的参考图像,采用I帧进行编码的帧,它仅作为主码流的参考帧,不应用于显示。知识图像构成的码流称为知识位流,独立于主码流。当主码流中有帧采用知识图像作为参考帧时,解码时需输入知识位流和主码流两路流才能正常解码。知识位流和主码流分成两路传输,且知识位流不应和主码流中的图像一起播放显示。但实际的产品应用中两路码流间的参考会带来实现上的不便。
发明内容
本申请提供帧参考方法、设备及存储介质,以解决视频图像解码不便的问题。
为解决上述技术问题,本申请采用的一个技术方案是:一种帧参考方法,所述方法包括:获取图像序列,所述图像序列包括连续的多帧图像;获取当前帧图像的类型标识,通过所述类型标识判断所述当前帧图像是否为一级随机接入帧,所述一级随机接入帧可独立解码,所述一级随机接入帧包括码流标识,所述码流标识包括一路流标识或两路流标识;若所述当前帧图像是一级随机接入帧,则从所述当前帧图像开始解码所述图像序列。
根据本申请一实施方式,所述方法包括:若所述当前帧图像不是一级随机接入帧,通过所述类型标识判断当前帧图像是否为二级随机接入帧;若所述当前帧图像是二级随机接入帧,则获取所述二级随机接入帧所需参考的一级随机接入帧,利用所述一级随机接入帧解码当前帧图像,并解码后续所述图像序列。
根据本申请一实施方式,所述类型标识采用新增句法进行类型标识,或者采用位流起始码进行类型标识。
根据本申请一实施方式,所述一级随机接入帧包括帧内编码帧和知识图像帧,所述帧内编码帧采用视频帧的播放顺序或者视频帧的编解码顺序进行参考索引标识,或者采用知识图像索引进行参考索引标识;所述知识图像帧采用视频帧的播放顺序或者视频帧的编解码顺序进行参考索引标识,或者采用知识图像索引进行参考索引标识。
根据本申请一实施方式,所述一级随机接入帧的所述参考索引的循环方法包括:获取新的序列头时,所述一级随机接入帧的所述参考索引从0开始计数;和/或,所述一级随机接入帧的所述参考索引的循环周期为第一数值,所述一级随机接入帧的所述参考索引的取值范围为0至第一数值减一,若当前所述一级随机接入帧的参考索引大于第一数值减一时,当前所述一级随机接入帧的所述参考索引从0开始计数;和/或,所述一级随机接入帧的所述参考索引的循环周期为第一数值,当前所述一级随机接入帧的参考索引为所述一级随机接入帧的循环周期数与第一数值的乘积,与当前所述一级随机接入帧的参考索引和第一数值的余数之和。
根据本申请一实施方式,所述一级随机接入帧的帧图像头定义中包括播放或不播放的显示标识;和/或所述一级随机接入帧的序列头中包括知识图像解码图像缓冲区可存储的所述一级随机接入帧帧数的最大值。
根据本申请一实施方式,所述方法包括:若所述当前帧图像不是所述二级随机接入帧;则跳过当前帧图像,并向前或向后获取其他帧图像,直至获取所述一级随机接入帧或者所述二级随机接入帧,并开始解码。
根据本申请一实施方式,所述获取所述二级随机接入帧所需参考的一级随机接入帧,利用所述一级随机接入帧解码当前帧图像,包括:判断是否已保留或可获取所述二级随机接入帧对应的一级随机接入帧;若是,则利用一级随机接入帧解码当前帧图像;若否,则跳过当前帧图像,并向前或向后获取其他帧图像,直至获取一级随机接入帧或者二级随机接入帧,并尝试解码。
为解决上述技术问题,本申请采用的又一个技术方案是:一种电子设备,包括相互耦接的存储器和处理器,所述处理器用于执行所述存储器中存储的程序指令,以实现上述任一帧参考方法。
为解决上述技术问题,本申请采用的又一个技术方案是:一种计算机可读存储介质,其上存储有程序数据,所述程序数据被处理器执行时实现上述帧参考方法。
本申请的有益效果是:本方法通过提出了一级随机接入帧,一级随机接入帧可独立解码,且一级随机接入帧包括码流标识,码流标识包括一路流标识或两路流标识,从而本申请的一级随机接入帧可以合入主码流,也可以编码到独立的一路流中,在产品的实现中更为易于接受,提高了应用的灵活性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图,其中:
图1是本申请的帧参考方法一实施例的流程示意图;
图2是本申请的帧参考方法一实施例中一具体实施方式的框架示意图;
图3是本申请的帧参考方法一实施例中一具体实施方式的框架示意图;
图4是本申请的帧参考方法一实施例中一具体实施方式的框架示意图;
图5是本申请的高空抛物检测装置一实施例的框架示意图;
图6是本申请的电子设备一实施例的框架示意图;
图7是本申请计算机可读存储介质一实施例的框架示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请的一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
请参阅图1至图4,图1是本申请的帧参考方法一实施例的流程示意图;图2是本申请的帧参考方法一实施例中一具体实施方式的框架示意图;图3是本申请的帧参考方法一实施例中一具体实施方式的框架示意图;图4是本申请的帧参考方法一实施例中一具体实施方式的框架示意图。
请参阅图1,本申请一实施例提供了一种帧参考方法,包括如下步骤:
S11:获取图像序列,图像序列包括连续的多帧图像。
获取图像序列,图像序列为一段视频,包括连续的多帧图像。
S12:获取当前帧图像的类型标识,通过类型标识判断当前帧图像是否为一级随机接入帧,一级随机接入帧可独立解码。
通常在丢帧或者随机接入一帧图像时,需要获取当前帧图像的类型标识,通过类型标识判断当前帧图像是否为一级随机接入帧。
本申请中提出一级随机接入帧(first-level random access frame),可简称FR帧,一级随机接入帧包括帧内编码帧(I帧)和知识编码帧等能够独立解码的帧。其中,I帧是一种自带全部编解码信息的独立帧,无需参考其他帧便可独立进行编解码。I帧需要完整编码该帧图像的所有内容,一般来说生成的码流较大,压缩率较低。
以下将详细介绍一级随机接入帧:
一、码流序列类型的标识
本申请的一级随机接入帧包括码流标识,码流标识包括一路流标识或两路流标识,从而本申请的一级随机接入帧可以合入主码流,也可以编码到独立的一路流中,在产品的实现中更为易于接受,提高了应用的灵活性。
具体地,码流标识为需要在序列头中新增句法标识如stream_type_flag该视频码流应是一路流还是两路流。
stream_type_flag为0,即为一路流标识,说明该视频码流只有一路流;stream_type_flag为1,即为两路流标识,说明该视频码流有2路流。
相应的序列头修改为:
二、一级随机接入帧的类型标识:
普通的帧内编码帧(I帧)按照现有方法标识,不做改变。
知识编码帧可采用在帧内预测图像头中新增句法元素进行类型标识,或者采用位流起始码进行类型标识,具体地:
1、在帧内预测图像头中新增句法元素进行类型标识参见下表:为AVS3中帧内预测图像头添加一个句法元素library_picture表明该帧是否为知识图像帧。
帧内预测图像头定义
2、采用位流起始码进行类型标识参见下表:以A类型的知识图像举例,通过位流起始码标识该段位流为A帧。以AVS3为例,可从保留起始码如80~8E、90~AF、B4、B8中选择一个作为A帧图像起始码。
起始码值
三、一级随机接入帧的参考索引标识:
每个一级随机接入帧(FR帧)都有其唯一的索引来标识它。一级随机接入帧(FR帧)可包括普通的I帧和知识图像帧等,本提案提出可以用两种方法对一级随机接入帧(FR帧)进行标识:
1、I帧与知识图像帧分别用不同索引标识。I帧采用视频帧的播放顺序POC(pic_order_cnt)或者视频帧的编解码顺序DOI(decode order index)进行参考索引标识;A类型的知识图像帧A帧采用知识图像索引进行参考索引标识,如IDX进行标识。由于采用不同的索引标识,I帧与A帧的索引标识均相对较小,从而生成码流更小,提高编码效率,节省码流。
例如:以AVS3现有技术为基础,加入FR帧之后,如果I帧采用DOI标识、知识图像帧采用IDX标识,则帧内预测图像头定义改为:
定义中decode_order_index即为DOI,library_picture_index即为知识图像索引IDX。
2、I帧与A帧采用相同索引标识。I帧和A帧都采用同一个索引,如采用视频帧的播放顺序POC(pic_order_cnt)、视频帧的编解码顺序DOI(decode order index)或者知识图像索引IDX进行标识。
例如:以AVS3现有技术为基础,加入FR帧之后,如果I帧和知识图像都采用IDX标识,则帧内预测图像头定义改为
四、一级随机接入帧参考索引的循环方法和退出机制
在视频序列很长时,一级随机接入帧(FR帧)可能会很多,其参考索引可能会很大,此时需要为一级随机接入帧引入参考索引循环机制和一级随机接入帧从解码图片缓冲区DPB中退出的机制。
(1)一级随机接入帧参考索引循环方法:
1、获取新的序列头时,一级随机接入帧的参考索引从0开始计数。
在获取图像序列中的新的序列头时,或则获取新的图像序列的时候,参考索引重新从0开始计数。
2、一级随机接入帧的参考索引的循环周期为第一数值L,一级随机接入帧的参考索引的取值范围为0~L-1,若当前一级随机接入帧的参考索引大于L-1时,当前一级随机接入帧的参考索引从0开始计数。这样在解析到某一级随机接入帧的参考索引小于前一一级随机接入帧的参考索引时,就知道从当前一级随机接入帧开始进入了新的循环周期。
3、一级随机接入帧的参考索引的循环周期为第一数值L,当前一级随机接入帧的参考索引为一级随机接入帧的循环周期数与第一数值的乘积,与当前一级随机接入帧的参考索引和第一数值的余数之和。
IDX=cirle_num*L+IDX_LSB
其中IDX为当前一级随机接入帧的参考索引,cirle_num为一级随机接入帧循环周期数,IDX_LSB为IDX与L的余数。这样需要在一级随机接入帧的图像头定义中采用两个句法元素分别编码cirle_num和IDX_LSB。
需要说明的是,以上三种方法可以结合使用。
(2)一级随机接入帧在DPB中的退出机制:
在编码和解码完一帧后,一般将该帧的解码图像存到知识图像解码图像缓冲区DPB(decode picture buffer)中。供后续帧图像作为参考。DPB中只能存放有限个数的帧,所以一帧存入DPB后就要有相应的退出机制。
本申请提出一种一级随机接入帧DPB退出机制,在一级随机接入帧不再被其他帧参考,且不需要输出时,将该一级随机接入帧从DPB中移除。当某一级随机接入帧不再被其他帧参考后,之后的非一级随机接入帧不应再参考该一级随机接入帧。从而可减小DPB的存储量,提高解码效率。
需要说明的是,一级随机接入帧解码后可存储于一个独立的一级随机接入帧DPB中,也可以与非一级随机接入帧共同存储在同一个DPB中。本申请中的一级随机接入帧的序列头中包括DPB可存储的一级随机接入帧帧数的最大值,以限制一级随机接入帧DPB的大小,在序列头中采用句法如max_fr_dpb表示一级随机接入帧DPB中可存储帧数的最大值。max_fr_dpb应为正整数。具体参见下表:
序列头定义
max_libpic_dpb表示最大知识图像解码图像缓冲区大小,在本具体实施方式中,max_libpic_dpb为5,5为无符号整数,表示解码当前位流所需要的最大的知识图像解码图像缓冲区的大小(以单幅图像存储缓冲区大小为单位)。通常,max_libpic_dpb的值应大于等于0,并可根据实际情况所需,选择合适的值。
五、一级随机接入帧的显示标识
一级随机接入帧可以选择视频序列中的某一帧图像进行编码,也可以人工构建一帧图像进行编码。用户在观看视频时,一般不会想看到人工构建的图像,所以需要为某些帧标识该帧是否应该被显示。
本方法中,一级随机接入帧的帧图像头定义中包括播放或不播放的显示标识,具体地,在一级随机接入帧的帧图像头定义中加入一个句法元素表明该帧是否要播放,从而可获取该显示标识,根据显示标识选择是否播放该帧图像。在其他实施例中,还可以在所有帧的帧图像头定义中加入一个句法元素表明该帧是否要播放,此处不作限制。
具体地,参见图2,POC=0和POC=4的帧为一级随机接入帧且为知识图像帧,通过句法元素library_picture标识。
为知识图像帧的帧图像头定义中加入句法is_present表示该帧是否应该显示。POC=0的帧为该自然图像序列的第一帧,应该显示,则其句法is_present=1;POC=4的帧为人工构成的帧,***码流用于后续帧的参考,不应显示,其句法is_present=0。
POC为1的帧参考的是知识图像帧,其参考知识图像的IDX为0。POC为5的帧参考的是知识图像帧,其参考知识图像的IDX为1。
加入is_present之后帧内预测图像头定义为:
S13:若当前帧图像是一级随机接入帧,则从当前帧图像开始解码图像序列。
若当前帧图像是一级随机接入帧,则从当前帧图像开始解码图像序列。通过定义一级随机接入帧,并将一级随机接入帧编码到主码流中,融合成一路码流,在产品的实现中更为易于接受,提高了应用的灵活性。
S14:若当前帧图像不是一级随机接入帧,通过类型标识判断当前帧图像是否为二级随机接入帧。
若当前帧图像不是一级随机接入帧,通过类型标识判断当前帧图像是否为二级随机接入帧。本申请中提出二级随机接入帧(second-level random access frame),可简称SR帧,二级随机接入帧定义为只参考一级随机接入帧的P帧或B帧,其中P帧为帧间预测编码帧,需要参考显示顺序上过去的帧作为参考图像才能进行编解码;B帧为双向帧间预测编码帧,需要参考显示顺序上过去的和将来的帧作为参考帧才能进行编解码。
以下将详细介绍二级随机接入帧:
一、二级随机接入帧的类型标识
二级随机接入帧可采用在帧间预测图像头中新增句法元素进行类型标识,或者采用位流起始码进行类型标识。具体地,以在帧间预测图像头中新增句法元素进行类型标识如下表:为AVS3中帧间预测图像头添加一个句法second_level_random_access_picture表明该帧是否为知识图像帧。
帧间预测图像头定义
二、二级随机接入帧的参考关系标识
二级随机接入帧(SR帧)采用哪一帧作为参考帧可以采用POC、DOI、delta POC、delta DOI(采用delta POC/DOI还需要另外加一个句法元素表达delta值的正负符号)或知识图像帧索引进行表示。可以复用现有标准中的参考帧索引方法,也可以新增句法元素进行索引。
如果解码器接收二级随机接入帧的同时已经保留有或能够获取其参考帧,则能够对二级随机接入帧进行解码。否则,前向或后向寻找到下一个二级随机接入帧或一级随机接入帧才能尝试解码。
尝试解码的意思是,解析当前帧的参考关系,如果当前帧能够独立解码或解析参考帧关系后能够获取参考帧,就开始解码;如果当前帧无法独立解码且无法获取当前帧的参考帧,跳过当前帧的解码过程。
以下结合一具体实施方式说明:
参见图3,POC为0的帧是I帧,I帧中间的帧都为P帧,其中第7帧为SR帧,它直接参考前一个I帧。可以采用POC、DOI、delta POC或delta DOI表达第7帧的参考帧。以AVS3现有技术为基础,
在采用POC表达时,需要在第7帧的帧头信息中新增句法元素如poc_lsb=0表达当前帧的参考帧的POC为0;
在采用DOI表达时,需要在第7帧的帧头信息中新增句法元素如doi_lsb=0表达当前帧的参考帧的DOI为0;
在采用delta POC表达时,需要在第7帧的帧头信息中新增句法元素如abs_delta_poc=7表达参考帧相对于当前帧的delta POC为7,sign_delta_poc=0表达delta POC为正值;
在采用delta DOI表达时,需要在第7帧的参考图像队列配置集中复用句法元素abs_delta_doi[list][rpls][i]=7表达参考帧相对于当前帧的delta DOI的绝对值为7,sign_delta_doi[list][rpls][i]=0表达delta DOI为正值。
如果POC=0的帧为知识图像帧,且其知识图像索引IDX为0,需要在第7帧的参考图像队列配置集中复用句法元素library_index_flag[list][rpls][i]=1表明该帧的参考帧是知识图像帧,referenced_library_picture_index[list][rpls][i]=0表达其参考的知识图像索引IDX为0。
参考图像队列配置集定义
除此之外,在当前帧为二级随机接入帧时,添加一个二级随机接入帧参考图像队列配置集定义。该配置集中标识了二级随机接入帧的所有参考帧。其中:
reference_to_library_enable_flag标识当前序列的帧是否可参考知识图像;
num_of_ref_pic[list][rpls]标识当前帧的list参考帧列表中有多少参考帧;
library_index_flag[list][rpls][i]判断该配置集中的第i个参考帧是否是知识图像;
library_index_flag[list][rpls][i]=1时,说明该参考帧为知识图像,进一步解析referenced_library_picture_index[list][rpls][i]获取该参考帧的知识图像索引;
library_index_flag[list][rpls][i]=0时,说明该参考帧非知识图像,进一步解析ref_doi[list][rpls][i]获取该参考帧的DOI。具体参见下表:
帧间预测图像头定义
/>
/>
second_level_random_access_picture:表明当前帧是否为SR帧。
该帧的参考帧关系采用新增的二级随机接入帧参考图像队列配置集进行解析。
S15:若当前帧图像是二级随机接入帧,则获取二级随机接入帧所需参考的一级随机接入帧,利用一级随机接入帧解码当前帧图像,并解码后续图像序列。
若当前帧图像是二级随机接入帧,则获取二级随机接入帧所需参考的一级随机接入帧,利用一级随机接入帧解码当前帧图像,并依次解码后续图像序列。
其中,获取二级随机接入帧所需参考的一级随机接入帧,利用一级随机接入帧解码当前帧图像包括:
判断是否保留或可获取二级随机接入帧对应的一级随机接入帧。通常DPB中保留还需要被其他帧参考的一级随机接入帧,若DPB中没有,则可尝试获取二级随机接入帧对应的一级随机接入帧。
若是,则当前帧图像开始解码图像序列。若DPB中保留或者可以获取二级随机接入帧对应的一级随机接入帧,则利用一级随机接入帧解码当前帧图像,并依次解码后续图像序列。
若否,则跳过当前帧图像,并向前或向后获取其他帧图像,直至获取一级随机接入帧或者二级随机接入帧,并尝试解码。若DPB中没有保留,且无法获取对应的一级随机接入帧,则跳过当前帧图像,向前或向后获取其他帧图像,直至获取到一级随机接入帧或者二级随机接入帧,并尝试解码。
S16:若当前帧图像不是二级随机接入帧,则跳过当前帧图像,并向前或向后获取其他帧图像,直至获取一级随机接入帧或者二级随机接入帧,并开始解码。
若当前帧图像不是二级随机接入帧,则跳过当前帧图像,并向前或向后获取其他帧图像,直至获取到可独立解码的一级随机接入帧,或者获取到可参考一级随机接入帧解码的二级随机接入帧,并开始解码,在获取到一级随机接入帧或二级随机接入帧期间的其余不满足条件的帧都被跳过。
需要说明的是,在直播、视频会议等实时性较强的情况下,随机接入了某一帧后,当前帧图像不是二级随机接入帧,则跳过当前帧图像,并向后获取其他帧图像,直至获取到一级随机接入帧或二级随机接入帧,从而保证接入后解码视频的实时性。
而在点播、视频播放切入等情况下,随机接入了某一帧后,当前帧图像不是二级随机接入帧,则跳过当前帧图像,并向前获取其他帧图像,直至获取到一级随机接入帧或二级随机接入帧,从而保证接入后解码视频的完整性。
采用上述方法后仅需解析帧类型,而无需进一步解析帧的参考关系,就可以判断随机接入后从哪一帧可以开始解码,降低了解析成本。
以下结合一具体实施方式来进行说明,继续参考上图图3:
图3中,POC为0的帧是I帧,I帧中间的帧都为P帧,其中第7帧为SR帧,它直接参考前一个I帧。
如果解码完第0帧后第1帧丢失,则解码器将从第2帧开始解析后续帧的帧类型,并跳过所有非FR也非SR的帧,直到找到第一个FR或SR帧,即第7帧为止。因为该过程中没有解析跳过的帧的参考帧关系(每一帧的参考帧关系将决定解码器中已解码图像是否被保留),则在解析第7帧时,第0帧仍将保留在解码器,那么解码器可以从第7帧开始解码。
如果在直播时随机接入了第5帧,则解码器将从第5帧开始解析后续帧的帧类型,并跳过所有非FR也非SR的帧,直到找到第一个FR或SR帧,即第7帧为止。因为随机接入前没有解码第0帧,此时需要判断解码端有没有接收并保存了第0帧的码流。如果有,那么从第0帧开始解码,然后解码第7帧及后续帧;如果没有,只能找到下一个FR帧才能开始解码。
如果在点播时随机接入了第9帧,则解码器将从第9帧开始前向逐帧解析帧类型,并跳过所有非FR也非SR的帧,直到找到第一个FR或SR帧,即第7帧为止。找到第7帧的参考帧第0帧,从第0帧开始解码,然后解码第7帧及后续帧。
以下再结合一具体实施方式,说明一级随机接入帧和二级随机接入帧的组合后的索引及显示标识:
以AVS3现有技术为基础,图4中,POC为0的帧是FR帧且为知识图像,FR帧中间的帧都为P帧,其中POC=3的帧为SR帧,它直接参考前一个FR帧。
FR帧采用IDX进行索引,非FR帧采用POC进行索引。
为FR帧的帧图像头定义中加入句法is_present表示该帧是否应该显示。第一个FR帧为该自然图像序列的第一帧,应该显示,则其句法is_present=1;第二个FR帧为人工构成的帧,***码流用于后续帧的参考,不应显示,其句法is_present=0。
引入FR和SR帧后,序列头定义、帧内预测图像头定义和帧间预测图像头定义都要做修改。
library_picture:新加句法,表明该I帧是否为知识图像;
is_present:新加句法,表明该帧是否应该显示。
帧间预测图像头定义
/>
second_level_random_access_picture:表明当前帧是否为SR帧。
该帧的参考帧关系采用新增的二级随机接入帧参考图像队列配置集进行解析。
本方法提出了一级随机接入帧,一级随机接入帧包括码流标识,码流标识包括一路流标识或两路流标识,从而本申请的一级随机接入帧可以合入主码流,也可以编码到独立的一路流中,在产品的实现中更为易于接受,提高了应用的灵活性。本方法还提出了二级随机接入帧,该帧的提出在帧类型层面标识了在随机接入时该帧是否应该进一步解析,仅需解析帧类型,而无需进一步解析帧的参考关系就可以判断随机接入后从哪一帧可以开始解码,降低了解析成本,从而让解码器更高效的找到应该解析的帧,让解码器能够采用新的开销更低的随机接入策略。
请参阅图5,图5是本申请的帧参考装置一实施例的框架示意图。
本申请又一实施例提供了一种帧参考装置20,包括图像获取模块21、识别判断模块22和解码模块23。图像获取模块21获取图像序列,图像序列包括连续的多帧图像;识别判断模块22获取当前帧图像的类型标识,通过类型标识判断当前帧图像是否为一级随机接入帧,一级随机接入帧可独立解码;若当前帧图像是一级随机接入帧,则解码模块23从当前帧图像开始解码图像序列。本装置20提出了一级随机接入帧,可将一级随机接入帧编码到主码流中,融合成一路码流在产品的实现中更为易于接受,提高了应用的灵活性。
请参阅图6,图6是本申请的电子设备一实施例的框架示意图。
本申请又一实施例提供了一种电子设备30,包括相互耦接的存储器31和处理器32,处理器32用于执行存储器31中存储的程序指令,以实现上述任一实施例的帧参考方法。在一个具体的实施场景中,电子设备30可以包括但不限于:微型计算机、服务器,此外,电子设备30还可以包括笔记本电脑、平板电脑等移动设备,在此不做限定。
具体而言,处理器32用于控制其自身以及存储器31以实现上述任一实施例的帧参考方法。处理器32还可以称为CPU(Central Processing Unit,中央处理单元)。处理器32可能是一种集成电路芯片,具有信号的处理能力。处理器32还可以是通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。另外,处理器32可以由集成电路芯片共同实现。
请参阅图7,图7是本申请计算机可读存储介质一实施例的框架示意图。
本申请又一实施例提供了一种计算机可读存储介质40,其上存储有程序数据41,程序数据41被处理器执行时实现上述任一实施例的帧参考方法。
在本申请所提供的几个实施例中,应该理解到,所揭露的方法和装置,可以通过其它的方式实现。例如,以上所描述的装置实施方式仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性、机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施方式方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质40中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质40中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本申请各个实施方式方法的全部或部分步骤。而前述的存储介质40包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本申请的实施例,并非因此限制本申请的专利范围,凡是利用本申请说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本申请的专利保护范围内。
Claims (10)
1.一种帧参考方法,其特征在于,所述方法包括:
获取图像序列,所述图像序列包括连续的多帧图像;
获取当前帧图像的类型标识,通过所述类型标识判断所述当前帧图像是否为一级随机接入帧,所述一级随机接入帧可独立解码,所述一级随机接入帧包括码流标识,所述码流标识包括一路流标识或两路流标识;
若所述当前帧图像是一级随机接入帧,则从所述当前帧图像开始解码所述图像序列。
2.根据权利要求1中所述的方法,其特征在于,所述方法包括:
若所述当前帧图像不是一级随机接入帧,通过所述类型标识判断当前帧图像是否为二级随机接入帧;
若所述当前帧图像是二级随机接入帧,则获取所述二级随机接入帧所需参考的一级随机接入帧,利用所述一级随机接入帧解码当前帧图像,并解码后续所述图像序列。
3.根据权利要求1中所述的方法,其特征在于,所述类型标识采用新增句法进行类型标识,或者采用位流起始码进行类型标识。
4.根据权利要求1所述的方法,其特征在于,所述一级随机接入帧包括帧内编码帧和知识图像帧,所述帧内编码帧采用视频帧的播放顺序或者视频帧的编解码顺序进行参考索引标识,或者采用知识图像索引进行参考索引标识;
所述知识图像帧采用视频帧的播放顺序或者视频帧的编解码顺序进行参考索引标识,或者采用知识图像索引进行参考索引标识。
5.根据权利要求4中所述的方法,其特征在于,所述一级随机接入帧的所述参考索引的循环方法包括:
获取新的序列头时,所述一级随机接入帧的所述参考索引从0开始计数;和/或,
所述一级随机接入帧的所述参考索引的循环周期为第一数值,所述一级随机接入帧的所述参考索引的取值范围为0至第一数值减一,若当前所述一级随机接入帧的参考索引大于第一数值减一时,当前所述一级随机接入帧的所述参考索引从0开始计数;和/或,
所述一级随机接入帧的所述参考索引的循环周期为第一数值,当前所述一级随机接入帧的参考索引为所述一级随机接入帧的循环周期数与第一数值的乘积,与当前所述一级随机接入帧的参考索引和第一数值的余数之和。
6.根据权利要求1中所述的方法,其特征在于,所述一级随机接入帧的帧图像头定义中包括播放或不播放的显示标识;和/或所述一级随机接入帧的序列头中包括知识图像解码图像缓冲区可存储的所述一级随机接入帧帧数的最大值。
7.根据权利要求2中所述的方法,其特征在于,所述方法包括:
若所述当前帧图像不是所述二级随机接入帧;
则跳过当前帧图像,并向前或向后获取其他帧图像,直至获取所述一级随机接入帧或者所述二级随机接入帧,并开始解码。
8.根据权利要求2中所述的方法,其特征在于,所述获取所述二级随机接入帧所需参考的一级随机接入帧,利用所述一级随机接入帧解码当前帧图像,包括:
判断是否已保留或可获取所述二级随机接入帧对应的一级随机接入帧;
若是,则利用一级随机接入帧解码当前帧图像;
若否,则跳过当前帧图像,并向前或向后获取其他帧图像,直至获取一级随机接入帧或者二级随机接入帧,并尝试解码。
9.一种电子设备,其特征在于,包括相互耦接的存储器和处理器,所述处理器用于执行所述存储器中存储的程序指令,以实现权利要求1至8中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有程序数据,其特征在于,所述程序数据被处理器执行时实现权利要求1至8中任一项所述方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010712418.0A CN111988626B (zh) | 2020-07-22 | 2020-07-22 | 帧参考方法、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010712418.0A CN111988626B (zh) | 2020-07-22 | 2020-07-22 | 帧参考方法、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111988626A CN111988626A (zh) | 2020-11-24 |
CN111988626B true CN111988626B (zh) | 2023-10-27 |
Family
ID=73438788
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010712418.0A Active CN111988626B (zh) | 2020-07-22 | 2020-07-22 | 帧参考方法、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111988626B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113301341A (zh) * | 2021-05-27 | 2021-08-24 | 上海国茂数字技术有限公司 | 基于知识图像的视频编码方法、装置及可读存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101257624A (zh) * | 2007-02-27 | 2008-09-03 | 华为技术有限公司 | 实现随机访问的方法及解码器 |
CN108243339A (zh) * | 2016-12-27 | 2018-07-03 | 浙江大学 | 图像编解码方法及装置 |
CN110876083A (zh) * | 2018-08-29 | 2020-03-10 | 浙江大学 | 指定参考图像的方法及装置及处理参考图像请求的方法及装置 |
CN111405291A (zh) * | 2019-01-02 | 2020-07-10 | 浙江大学 | 视频编解码方法与装置 |
CN111416976A (zh) * | 2019-01-08 | 2020-07-14 | 华为技术有限公司 | 视频解码方法、视频编码方法、装置、设备及存储介质 |
WO2020143589A1 (zh) * | 2019-01-07 | 2020-07-16 | 华为技术有限公司 | 视频图像解码、编码方法及装置 |
-
2020
- 2020-07-22 CN CN202010712418.0A patent/CN111988626B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101257624A (zh) * | 2007-02-27 | 2008-09-03 | 华为技术有限公司 | 实现随机访问的方法及解码器 |
CN108243339A (zh) * | 2016-12-27 | 2018-07-03 | 浙江大学 | 图像编解码方法及装置 |
CN110876083A (zh) * | 2018-08-29 | 2020-03-10 | 浙江大学 | 指定参考图像的方法及装置及处理参考图像请求的方法及装置 |
CN111405291A (zh) * | 2019-01-02 | 2020-07-10 | 浙江大学 | 视频编解码方法与装置 |
WO2020143589A1 (zh) * | 2019-01-07 | 2020-07-16 | 华为技术有限公司 | 视频图像解码、编码方法及装置 |
CN111416976A (zh) * | 2019-01-08 | 2020-07-14 | 华为技术有限公司 | 视频解码方法、视频编码方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111988626A (zh) | 2020-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10484680B2 (en) | Method and apparatus of intra mode coding | |
JP7309478B2 (ja) | オーバーレイを伴うビデオを符号化するための方法およびシステム | |
US8599924B2 (en) | Method of storing motion vector information and video decoding apparatus | |
US8538181B2 (en) | Image signal encoding apparatus and image signal encoding method | |
US8208550B2 (en) | Adapting an encoded video signal to encoding complexity | |
US20090207904A1 (en) | Multi-View Video Coding Method and Device | |
US8811483B2 (en) | Video processing apparatus and method | |
CN109963176B (zh) | 视频码流处理方法、装置、网络设备和可读存储介质 | |
US20100153687A1 (en) | Streaming processor, operation method of streaming processor and processor system | |
CN106303379A (zh) | 一种视频文件逆序播放方法及*** | |
US20110058613A1 (en) | Method and apparatus for generating bitstream based on syntax element | |
JP2007507128A (ja) | 参照ピクチャのリフレッシュを遅延させて行うビデオ画像の符号化および復号化 | |
CN111988626B (zh) | 帧参考方法、设备及存储介质 | |
CN115134629A (zh) | 视频传输方法、***、设备及存储介质 | |
US9344720B2 (en) | Entropy coding techniques and protocol to support parallel processing with low latency | |
US20140092987A1 (en) | Entropy coding techniques and protocol to support parallel processing with low latency | |
EP4380155A1 (en) | Encoding and decoding method, encoder, decoder, and electronic device | |
CN112543324B (zh) | 视频解码方法、编码方法、编解码器及存储介质 | |
TWI439137B (zh) | 重建一圖像群以在該圖像群中隨機存取之方法及裝置 | |
US7130350B1 (en) | Method and system for encoding and decoding data in a video stream | |
CN112738508A (zh) | 视频编码方法、确定方法、处理方法、服务器及vr终端 | |
CN112672167B (zh) | 视频处理方法、计算机设备和存储介质 | |
JP2003179826A (ja) | 画像再生表示装置 | |
CN117082249A (zh) | 视频编码方法、视频解码方法、编码器、解码器以及介质 | |
CN117750030A (zh) | 视频编码方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |