CN111083480A - 一种基于cpu的8k超高清视频高速编码方法 - Google Patents

一种基于cpu的8k超高清视频高速编码方法 Download PDF

Info

Publication number
CN111083480A
CN111083480A CN201911262739.9A CN201911262739A CN111083480A CN 111083480 A CN111083480 A CN 111083480A CN 201911262739 A CN201911262739 A CN 201911262739A CN 111083480 A CN111083480 A CN 111083480A
Authority
CN
China
Prior art keywords
cpu
speed
coding
definition video
ultra
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201911262739.9A
Other languages
English (en)
Other versions
CN111083480B (zh
Inventor
郭超
宋小民
吴成志
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sichuan Xinshi Chuangwei Ultra High Definition Technology Co Ltd
Original Assignee
Sichuan Xinshi Chuangwei Ultra High Definition Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sichuan Xinshi Chuangwei Ultra High Definition Technology Co Ltd filed Critical Sichuan Xinshi Chuangwei Ultra High Definition Technology Co Ltd
Priority to CN201911262739.9A priority Critical patent/CN111083480B/zh
Publication of CN111083480A publication Critical patent/CN111083480A/zh
Application granted granted Critical
Publication of CN111083480B publication Critical patent/CN111083480B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

本发明公开了一种基于CPU的8K超高清视频高速编码方法,属于信息技术领域,在CPU中对8K视频流进行以下操作,首先构建视频流图像中物体的动态矢量权重表;再获取视频流中的连续场景,对所述连续场景的基础帧及后续帧进行编码;接着利用动态矢量权重表,提取物体在编码后的基础帧及后续帧中的差异区间;最后利用所述差异区间形成最小编码矩阵,并对所述最小编码矩阵进行编码;本发明能够有效提高8K超高清视频的编码效率。

Description

一种基于CPU的8K超高清视频高速编码方法
技术领域
本发明涉及信息技术领域,具体涉及一种基于CPU的8K超高清视频高速编码方法。
背景技术
高时效性是编、编码***的灵魂,如何快速将数据量惊人的8K超高清视音频信号实时编码为网络流,并通过信道传送至解码器一直是困扰超高清从业者的一大难题。传统的编码***主要依靠高性能FPGA芯片和高性能GPU阵列来进行解决巨量编码运算,但是高性能的FPGA编码芯片价格昂贵,目前能提供8K编码芯片的企业仅有SOCIONEXT一家,且不对外出售。采用GPU阵列进行8K视频编码同样面临价格问题,采用价格昂贵的单块Nvidia显卡,如RTX6000。除了价格高昂以外,其编码效率也不尽如人意。如SOCIONEXT的FPGA编码架构,其编码帧率不超过60fps,而采用GPU架构的方案效率更低,仅能满足30fps的编码帧率。
发明内容
本发明的目的在于:本发明提供了一种基于CPU的8K超高清视频高速编码方法,解决了目前的编码***编码效率低的技术问题。
本发明采用的技术方案如下:
一种基于CPU的8K超高清视频高速编码方法,在CPU中对8K视频流进行以下操作:
步骤1:构建视频流图像中物体的动态矢量权重表;
步骤2:获取视频流中的连续场景,对所述连续场景的基础帧及后续帧进行编码;
步骤3:利用动态矢量权重表,提取物体在编码后的基础帧及后续帧中的差异区间;
步骤4:利用所述差异区间形成最小编码矩阵,并对所述最小编码矩阵进行编码。
进一步的,所述步骤1中,构建动态矢量权重表的具体步骤如下:
步骤1.1对视频流图像中的物体进行识别并初步分类;
步骤1.2对初步分类后的物体,计算每个物体的权重,所述权重与物体的运动矢量正相关:
步骤1.3利用所述权重构建所述动态矢量权重表。
进一步的,所述步骤2中所述基础帧为连续场景的首帧图像,后续帧为连续场景中除基础帧外的其他帧图像。
进一步的,步骤3中,利用CPU的子程序指令,按照物体在动态矢量权重表中的顺序,依次比对该物体在基础帧和后续帧中的运动矢量,得到该物体的差异区间。
进一步的,所述差异区间按照链表的形式在高速CPU高速缓存中进行组合,得到最小编码矩阵。
进一步的,所述差异区间储存在所述高速CPU的第二级和第三级缓存中。
进一步的,所述最小编码矩阵具有编码阈值,当最小编码矩阵大于所述编码阈值时,CPU对该最小编码矩阵进行编码.反之不进行编码。
综上所述,由于采用了上述技术方案,本发明的有益效果是:
1.本发明利用多种智能技术,可对8K超高清视频中的场景进行识别、对场景中的高运动矢量目标进行分类和分析,生成动态矢量权重表,能够有效提高8K超高清视频的编码效率。
2.本发明能够有效降低由于采用GPU阵列进行网络编码所付出的高昂硬件成本,使得编码***的通用性进一步加强,其灵活性和广泛性可以为后续8K超高清视频在更多领域的应用带来新的解决方案。
3.本发明除能使用CPU单独进行编码外,还可以附带CPU+GPU的联合工作模式,为8K超高清视频编码能力的后续扩展和在更高码率上的应用带来了新的曙光,也是第一种彻底摆脱FPGA和GPU方案8K超高清视频编码方案。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本发明的整体流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明,即所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。
因此,以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围,而是仅仅表示本发明的选定实施例。基于本发明的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,术语“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以下结合实施例对本发明的特征和性能作进一步的详细描述。
实施例
CPU和GPU都是具有运算能力的芯片,CPU更像“通才”——指令运算(执行)为重加数值运算,GPU更像“专才”——图形类数值计算为核心。在不同类型的运算方面的速度也就决定了它们的能力——“擅长和不擅长”。芯片的速度主要取决于三个方面:微架构,主频和IPC(每个时钟周期执行的指令数)。
(1)从微架构上看
CPU微架构的设计是面向指令执行高效率而设计的,因而CPU是计算机中设计最复杂的芯片。和GPU相比,CPU核心的重复设计部分不多,这种复杂性不能仅以晶体管的多寡来衡量,这种复杂性来自于实现:如程序分支预测,推测执行,多重嵌套分支执行,并行执行时候的指令相关性和数据相关性,多核协同处理时候的数据一致性等等复杂逻辑。
GPU其实是由硬件实现的一组图形函数的集合,这些函数主要用于绘制各种图形所需要的运算。这些和像素,光影处理,3D坐标变换等相关的运算由GPU硬件加速来实现。图形运算的特点是大量同类型数据的密集运算——如图形数据的矩阵运算,GPU的微架构就是面向适合于矩阵类型的数值计算而设计的,大量重复设计的计算单元,这类计算可以分成众多独立的数值计算——大量数值运算的线程,而且数据之间没有像程序执行的那种逻辑关联性。
因此从微架构上看,CPU擅长的是像操作***、***软件和通用应用程序这类拥有复杂指令调度、循环、分支、逻辑判断以及执行等的程序任务。它的并行优势是程序执行层面的,程序逻辑的复杂度也限定了程序执行的指令并行性,上百个并行程序执行的线程基本看不到。GPU擅长的是图形类的或者是非图形类的高度并行数值计算,GPU可以容纳上千个没有逻辑关系的数值计算线程,它的优势是无逻辑关系数据的并行计算。
(2)从主频上看
GPU执行每个数值计算的速度并没有比CPU快,从目前主流CPU和GPU的主频就可以看出了,CPU的主频都超过了3GHz,甚至3.8GHz,而GPU的主频最高还不到2GHz,主流的也就1GHz。所以GPU在执行少量线程的数值计算时速度并不能超过CPU。
目前GPU数值计算的优势主要是浮点运算,它执行浮点运算快是靠大量并行,但是这种数值运算的并行性在面对程序的逻辑执行时毫无用处。
(3)从IPC上看
CPU和GPU无法比较,因为GPU大多数指令都是面向数值计算的,少量的控制指令也无法***作***和软件直接使用。如果比较数据指令的IPC,并行的原因GPU显然要高过CPU,但是,如果比较控制指令的IPC,自然是CPU的要高的多。
另外,目前有些GPU也能够支持比较复杂的控制指令,比如条件转移、分支、循环和子程序调用等,但是GPU程序控制这方面的增加,和支持操作***所需要的能力CPU相比还是天壤之别,而且指令执行的效率也无法和CPU相提并论。
由此可见,在8K编码运算中GPU的运算性能除了跟GPU本身的架构有关以外,还与CPU的性能息息相关。因为GPU的控制需要一套复杂的指令集,这套指令集则是由CPU驱动的。CPU更适合处理逻辑控制密集的计算任务,而GPU适合处理数据密集的计算任务。并且由于现代CPU的发展,使得CPU与计算机主存的交换速度要远远大于GPU与计算机主存的交换速度,因此GPU更适合处理SIMD(Singlelnstruction MultiData,单数据多指令)的运算,即将数据放到显存中进行多次计算的计算任务。
目前比较流行CPU+GPU的协同计算模型,在这个模型中,CPU与CPU协同工作,各司其职。CPU负责进行逻辑性强的事物处理和串行计算,GPU则专注于执行高度线程化的并行处理任务。CPU、GPU各自拥有相互独立的存储器地址空间:主机端的内存和设备端的显存。
而本发明提供一种基于CPU的8K超高清视频高速编码方法,发挥CPU在逻辑处理和指令集执行上的优势,利用CPU在逻辑处理方面的优势,预先判断图像的高动态矢量区间,利用CPU的高主频提高继发编码的效率,具体步骤如下:
在CPU中对8K视频流进行以下操作:
步骤1:通用PCle总线接口或专业12G-SDI板卡接口获得超高清8K视频数据,包括视频数据和音频数据,构建视频流图像中物体的动态矢量权重表;
步骤1.1采用人工智能方式,对视频流中的物体进行识别,再利用CPU的微架构特点,通过有序的指令集,对视频流图像中的物体进行初步分类;
步骤1.2对初步分类后的物体,计算每个物体的权重,所述权重与物体的运动矢量正相关,即运动矢量大的物体权重高,运动矢量小的物体权重低;
步骤1.3利用所述权重构建所述动态矢量权重表,其中物体与权重一一对应,并按权重大小进行排序,以备后续算法的调用和调整。
步骤2:获取视频流中的连续场景,对所述连续场景的基础帧及后续帧进行编码;
由于视频流中的前一小段可能是上一场景的后半段,因此需要对连续场景进行识别,具体为对转场帧进行识别,如果5帧之内不转场,则判断该段视频为连续场景,而连续场景的首帧图像即为基础帧,除基础帧外的其他帧图像为后续帧。
步骤3:利用动态矢量权重表,提取物体在编码后的基础帧及后续帧中的差异区间;
具体为利用CPU的子程序指令,按照物体在动态矢量权重表中的顺序,依次比对该物体在基础帧和后续帧中的运动矢量,得到该物体的差异区间,权重高的物体差异区间大,权重中等的较小,权重低的差异区间几乎不变;差异区间是用来做预测编码的,例如汽车,由于其运动矢量大,则权重高,那它的差异区间就大。由于CPU在逻辑处理能力方面独特的优势,这一过程会比在GPU中快很多,而以最小的代价进行后续编码。
步骤4:利用所述差异区间形成最小编码矩阵,并对所述最小编码矩阵进行编码;所述差异区间按照链表的形式在高速CPU高速缓存的第二级和第三级缓存中进行组合,得到最小编码矩阵。所述最小编码矩阵具有编码阈值,本实施例编码阈值设置为10MB,当最小编码矩阵的大小大于10MB时,CPU对该最小编码矩阵进行编码,反之不进行编码。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (7)

1.一种基于CPU的8K超高清视频高速编码方法,其特征在于:在CPU中对8K视频流进行以下操作:
步骤1:构建视频流图像中物体的动态矢量权重表;
步骤2:获取视频流中的连续场景,对所述连续场景的基础帧及后续帧进行编码;
步骤3:利用动态矢量权重表,提取物体在编码后的基础帧及后续帧中的差异区间;
步骤4:利用所述差异区间形成最小编码矩阵,并对所述最小编码矩阵进行编码。
2.根据权利要求1所述的一种基于CPU的8K超高清视频高速编码方法,其特征在于:所述步骤1中,构建动态矢量权重表的具体步骤如下:
步骤1.1对视频流图像中的物体进行识别并初步分类;
步骤1.2对初步分类后的物体,计算每个物体的权重,所述权重与物体的运动矢量正相关:
步骤1.3利用所述权重构建所述动态矢量权重表。
3.根据权利要求1所述的一种基于CPU的8K超高清视频高速编码方法,其特征在于:所述步骤2中所述基础帧为连续场景的首帧图像,后续帧为连续场景中除基础帧外的其他帧图像。
4.根据权利要求1所述的一种基于CPU的8K超高清视频高速编码方法,其特征在于:步骤3中,利用CPU的子程序指令,按照物体在动态矢量权重表中的顺序,依次比对该物体在基础帧和后续帧中的运动矢量,得到该物体的差异区间。
5.根据权利要求1所述的一种基于CPU的8K超高清视频高速编码方法,其特征在于:所述差异区间按照链表的形式在高速CPU高速缓存中进行组合,得到最小编码矩阵。
6.根据权利要求5所述的一种基于CPU的8K超高清视频高速编码方法,其特征在于:所述差异区间储存在所述高速CPU的第二级和第三级缓存中。
7.根据权利要求1所述的一种基于CPU的8K超高清视频高速编码方法,其特征在于:所述最小编码矩阵具有编码阈值,当最小编码矩阵大于所述编码阈值时,CPU对该最小编码矩阵进行编码,反之不进行编码。
CN201911262739.9A 2019-12-10 2019-12-10 一种基于cpu的8k超高清视频高速编码方法 Active CN111083480B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911262739.9A CN111083480B (zh) 2019-12-10 2019-12-10 一种基于cpu的8k超高清视频高速编码方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911262739.9A CN111083480B (zh) 2019-12-10 2019-12-10 一种基于cpu的8k超高清视频高速编码方法

Publications (2)

Publication Number Publication Date
CN111083480A true CN111083480A (zh) 2020-04-28
CN111083480B CN111083480B (zh) 2022-11-04

Family

ID=70313595

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911262739.9A Active CN111083480B (zh) 2019-12-10 2019-12-10 一种基于cpu的8k超高清视频高速编码方法

Country Status (1)

Country Link
CN (1) CN111083480B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115953302A (zh) * 2023-03-14 2023-04-11 四川新视创伟超高清科技有限公司 一种多矩阵顶点融合拼接方法、***、电子设备
CN117221547A (zh) * 2023-11-07 2023-12-12 四川新视创伟超高清科技有限公司 一种基于ctu级下采样的8k视频编码方法及装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106162167A (zh) * 2015-03-26 2016-11-23 中国科学院深圳先进技术研究院 基于学习的高效视频编码方法
JP6132006B1 (ja) * 2015-12-02 2017-05-24 日本電気株式会社 映像符号化装置、映像システム、映像符号化方法、及び映像符号化プログラム
CN108171651A (zh) * 2017-12-26 2018-06-15 天津大学 基于多模型几何拟合和分层单应变换的图像对齐方法
CN109547803A (zh) * 2018-11-21 2019-03-29 北京航空航天大学 一种时空域显著性检测及融合方法
CN109951707A (zh) * 2017-12-21 2019-06-28 北京金山云网络技术有限公司 一种目标运动矢量选择方法、装置、电子设备及介质
US10432970B1 (en) * 2018-06-14 2019-10-01 Telefonaktiebolaget Lm Ericsson (Publ) System and method for encoding 360° immersive video

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106162167A (zh) * 2015-03-26 2016-11-23 中国科学院深圳先进技术研究院 基于学习的高效视频编码方法
JP6132006B1 (ja) * 2015-12-02 2017-05-24 日本電気株式会社 映像符号化装置、映像システム、映像符号化方法、及び映像符号化プログラム
CN109951707A (zh) * 2017-12-21 2019-06-28 北京金山云网络技术有限公司 一种目标运动矢量选择方法、装置、电子设备及介质
CN108171651A (zh) * 2017-12-26 2018-06-15 天津大学 基于多模型几何拟合和分层单应变换的图像对齐方法
US10432970B1 (en) * 2018-06-14 2019-10-01 Telefonaktiebolaget Lm Ericsson (Publ) System and method for encoding 360° immersive video
CN109547803A (zh) * 2018-11-21 2019-03-29 北京航空航天大学 一种时空域显著性检测及融合方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
吴磊 等: "《基于多尺度残差网络的CT图像超分辨率重建》", 《液晶与显示》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115953302A (zh) * 2023-03-14 2023-04-11 四川新视创伟超高清科技有限公司 一种多矩阵顶点融合拼接方法、***、电子设备
CN117221547A (zh) * 2023-11-07 2023-12-12 四川新视创伟超高清科技有限公司 一种基于ctu级下采样的8k视频编码方法及装置
CN117221547B (zh) * 2023-11-07 2024-01-23 四川新视创伟超高清科技有限公司 一种基于ctu级下采样的8k视频编码方法及装置

Also Published As

Publication number Publication date
CN111083480B (zh) 2022-11-04

Similar Documents

Publication Publication Date Title
US11995767B2 (en) Apparatus and method for compressing ray tracing acceleration structure build data
NL2028745B1 (en) Apparatus and method for efficient graphics processing including ray tracing
US20200043220A1 (en) Point cloud operations
EP3882859A1 (en) Apparatus and method for displaced mesh compression
TWI656481B (zh) 關於序列平行化消耗的方法、電腦可讀取媒體和系統
TWI590187B (zh) 用以實現圖形處理單元(gpu)上的最近鄰居搜索之方法、裝置與機器可讀媒體
CN106095588B (zh) 基于gpgpu平台的cdvs提取过程加速方法
CN106575431A (zh) 用于高度高效的图形处理单元(gpu)执行模型的方法和装置
WO2016195877A1 (en) Graphics processor power management contexts & sequential control loops
US20210295583A1 (en) Apparatus and method for throttling a ray tracing pipeline
US20210287417A1 (en) Apparatus and method for performing non-local means filtering using motion estimation circuitry of a graphics processor
CN111083480B (zh) 一种基于cpu的8k超高清视频高速编码方法
JP2021149932A (ja) 非同期レイトレーシング用の装置及び方法
US11900498B2 (en) Apparatus and method for performing a stable and short latency sorting operation
JP2021149943A (ja) レイトラバーサルハードウェアにおいてボックスクエリを実行するための装置及び方法
CN115878278A (zh) 用于树结构数据减少的装置和方法
US20230298255A1 (en) Apparatus and method for acceleration data structure re-braiding with camera position
CN106484532B (zh) 面向sph流体模拟的gpgpu并行计算方法
CN111083488B (zh) 一种基于cpu的8k超高清视频高速解码方法
CN115861517A (zh) 用于利用着色器调用图分析进行光线追踪的装置和方法
US11989817B2 (en) Apparatus and method for high quality ray-traced level of detail transitions
US20230298126A1 (en) Node prefetching in a wide bvh traversal with a stack
Ghorbel et al. Towards a parallelization and performance optimization of Viola and Jones algorithm in heterogeneous CPU-GPU mobile system
Kehoe et al. Using graphics processor units (GPUs) for automatic video structuring
Ding et al. Ray Reordering for Hardware-Accelerated Neural Volume Rendering

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant