CN114363793A - 双声道音频转换为虚拟环绕5.1声道音频的***及方法 - Google Patents

双声道音频转换为虚拟环绕5.1声道音频的***及方法 Download PDF

Info

Publication number
CN114363793A
CN114363793A CN202210030615.3A CN202210030615A CN114363793A CN 114363793 A CN114363793 A CN 114363793A CN 202210030615 A CN202210030615 A CN 202210030615A CN 114363793 A CN114363793 A CN 114363793A
Authority
CN
China
Prior art keywords
signal
channel
sound
unit
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210030615.3A
Other languages
English (en)
Other versions
CN114363793B (zh
Inventor
鲁霖
鲁鹏飞
胡一梅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xiamenshi C Chip Co ltd
Original Assignee
Xiamenshi C Chip Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xiamenshi C Chip Co ltd filed Critical Xiamenshi C Chip Co ltd
Priority to CN202210030615.3A priority Critical patent/CN114363793B/zh
Publication of CN114363793A publication Critical patent/CN114363793A/zh
Application granted granted Critical
Publication of CN114363793B publication Critical patent/CN114363793B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S7/00Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30Control circuits for electronic adaptation of the sound field
    • H04S7/305Electronic adaptation of stereophonic audio signals to reverberation of the listening space
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04SSTEREOPHONIC SYSTEMS 
    • H04S5/00Pseudo-stereo systems, e.g. in which additional channel signals are derived from monophonic signals by means of phase shifting, time delay or reverberation 
    • H04S5/005Pseudo-stereo systems, e.g. in which additional channel signals are derived from monophonic signals by means of phase shifting, time delay or reverberation  of the pseudo five- or more-channel type, e.g. virtual surround
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/70Reducing energy consumption in communication networks in wireless communication networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Stereophonic System (AREA)

Abstract

本发明提供了一种双声道音频转换为虚拟环绕5.1声道音频的***及方法,将双声道音频声源扩展为5.1声道所产生的环绕声聆听效果,并仅用双声道设备音箱与耳机就能实现重放;可自由实现声场宽度的扩展;增加混响及低音增强单元,可优化人声及环绕感;解决了现有技术中存在的虚拟效果距离感不强、声音头中定位现象明显的问题,实现增强声音包围感、并可选择性地调控声场宽度效果,达到仅用两个扬声器就能虚拟出真实的5.1扬声器所产生的环绕声聆听的目的。

Description

双声道音频转换为虚拟环绕5.1声道音频的***及方法
技术领域
本发明涉及音频处理技术领域,特别是涉及一种双声道音频转换为虚拟环绕5.1声道音频的***及方法。
背景技术
为了较为全面地反映声场的空间信息,多数环绕声***都是多通路***,常见的环绕声***有5.1通路环绕声***、6.1通路环绕声***、7.1通路环绕声***等。虽然这些环绕声***能够再现原声场中各声源的方位信息,使听音者有一种被来自不同方向的声音包围的感觉,犹如身临其境,但是这些环绕声***一般需要5至8个扬声器,成本高且需要占据一定空间。
目前多数音频文件均为单、双声道结构存储,为此需要设计一种针对双声道声信号的音效处理***,基于双声道的三维虚拟声***虽然空间声场信息不如多声道***丰富,但对输入要求低且回放设备简单,只需两个独立的扬声器或耳机,因而有着广阔的发展空间。
虚拟环绕立体声技术主要采用的是头相关传递函数(Head-Retated TransferFunction,HRTF)及模拟房间混响的方法来虚拟空间某点声源。在杂志《电声技术》第2/2000期中,文献《虚拟环绕声信号的原理与误区》记载了SRS公司开发的SRS 3D***,该虚拟环绕声***算法简单并能够增强声音的包围感,但是其会使左右方向的声源方位往中间偏移,并且不能有效地解决头中定位的问题。
因此,亟需一种双声道音频转换为虚拟环绕5.1声道音频的***及方法,能够解决现有双声道设备没有成熟的三维音效设计方法的问题。
发明内容
本发明的目的是提供一种双声道音频转换为虚拟环绕5.1声道音频的***及方法,以解决上述现有双声道设备没有成熟的三维音效设计方法的问题。
为实现上述目的,本发明提供了如下方案:
本发明提供一种双声道音频转换为虚拟环绕5.1声道音频的***,主要包括声场展宽单元、声像定位单元、混响单元和低音增强单元,输入的左声道直达声信号和右声道直达声信号分别经所述声场展宽单元、所述声像定位单元、所述混响单元和所述低音增强单元处理后加权求和输出具有三维音效的左声道信号和具有三维音效的右声道信号。
优选地,所述声像定位单元包括HRFT_Front定位模块、HRFT_Rear定位模块和HRFT_Fc定位模块。
优选地,所述混响单元包括四个并联的梳状滤波器,四个所述梳状滤波器级联有两个全通滤波器。
优选地,所述梳状滤波器的***函数为:
Figure BDA0003466286230000021
优选地,所述全通滤波器的***函数为:
Figure BDA0003466286230000022
本发明还提供一种双声道音频转换为虚拟环绕5.1声道音频的方法,包括以下步骤:
S1.将输入的左声道直达声信号L与右声道直达声信号R求和平均得到中置Fc信号,将Fc信号经过HRTF_Fc定位模块处理后获得具有方向性的中置Fc信号;
S2.将将输入的左声道直达声信号L与右声道直达声信号R通过声场展宽单元互相引入另一声道的部分反向信号,得到展宽后的左声道信号L′和展宽后的右声道信号R;
S3.将展宽后的左声道信号L′经过HRTF_Front定位模块处理后获得具有方向性的前左FL信号,将展宽后的右声道信号R′经过HRTF_Front定位模块处理后获得具有方向性的前右FR信号;
S4.将展宽后的左声道信号L′经过HRTF_Rear定位模块处理后获得具有方向性的后左RL信号,将展宽后的右声道信号R′经过HRTF_Rear定位模块处理后获得具有方向性的后右RR信号;
S5.将左声道直达声信号L经过混响单元处理后获得左声道混响声信号,将右声道直达声信号R经过混响单元处理后获得右声道混响声信号;
S6.将左声道直达声信号L经过低音增强单元处理后获得左声道低音信号,将右声道直达声信号R经过低音增强单元处理后获得右声道低音信号;
S7.将上述所有处理后的左声道信号加权求和得到具有三维音效的左声道信号并输出,将上述所有处理后的右声道信号加权求和得到具有三维音效的右声道信号并输出。
优选地,步骤S2中,所述展宽后的左声道信号L=L-k*R,所述展宽后的右声道信号R=R-k*L,其中0<k<1。
本发明相对于现有技术取得了以下有益技术效果:
本发明提供的双声道音频转换为虚拟环绕5.1声道音频的***及方法,将双声道音频声源扩展为5.1声道所产生的环绕声聆听效果,并仅用双声道设备音箱与耳机就能实现重放;可自由实现声场宽度的扩展;增加混响及低音增强单元,可优化人声及环绕感;解决了现有技术中存在的虚拟效果距离感不强、声音头中定位现象明显的问题,实现增强声音包围感、并可选择性地调控声场宽度效果,达到仅用两个扬声器就能虚拟出真实的5.1扬声器所产生的环绕声聆听的目的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的双声道音频转换为虚拟环绕5.1声道音频的***及方法中音频处理流程图;
图2为本发明提供的双声道音频转换为虚拟环绕5.1声道音频的***及方法中声像定位单元的虚拟房间反射声概念图;
图3为本发明提供的双声道音频转换为虚拟环绕5.1声道音频的***及方法中混响单元结构图;
图中:1:声场展宽单元、2:声像定位单元、21:HRFT_Front定位模块、22:HRFT_Rear定位模块、23:HRFT_Fc定位模块、3:混响单元、31:梳状滤波器、32:全通滤波器、4:低音增强单元。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种双声道音频转换为虚拟环绕5.1声道音频的***及方法,以解决现有双声道设备没有成熟的三维音效设计方法的问题。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
实施例1:
本实施例提供一种双声道音频转换为虚拟环绕5.1声道音频的***,如图1所示,主要包括声场展宽单元1、声像定位单元2、混响单元3和低音增强单元4,输入的左声道直达声信号和右声道直达声信号分别经声场展宽单元1、声像定位单元2、混响单元3和低音增强单元4处理后加权求和输出具有三维音效的左声道信号和具有三维音效的右声道信号。
具体地,如图2所示,声像定位单元2包括HRFT_Front定位模块21、HRFT_Rear定位模块22和HRFT_Fc定位模块23;声像定位单元能再现标准5.1声道扬声器在虚拟房间中FL、FR、Fc、RL、RR这5个方向的虚拟环绕声,当声像定位单元作用时,从5.1声道虚拟扬声器输出的左声道信号被加在一起作用于输出设备的左装置,而从5.1声道虚拟扬声器输出的右声道信号被加在一起作用于输出设备的右装置。
进一步地,如图3所示,混响单元3包括四个并联的梳状滤波器31,四个梳状滤波器31级联有两个全通滤波器32;双声道设备尤其是耳机三维音效设计方法的最大的缺陷在于:耳机位于左、右耳道入口,播放的声信号没有经过空间声场作用,使声音听来一直存在于头内,即会产生“头中效应”。通过加入混响单元可以解决这一问题。
进一步地,梳状滤波器31的***函数为:
Figure BDA0003466286230000051
进一步地,全通滤波器32的***函数为:
Figure BDA0003466286230000052
采用上述***的双声道音频转换为虚拟环绕5.1声道音频的方法,如图1所示,包括以下步骤:
S1.将输入的左声道直达声信号L与右声道直达声信号R求和平均得到中置Fc信号,将Fc信号经过HRTF_Fc定位模块处理后获得具有方向性的中置Fc信号;
S2.将将输入的左声道直达声信号L与右声道直达声信号R通过声场展宽单元互相引入另一声道的部分反向信号,得到展宽后的左声道信号L′和展宽后的右声道信号R′;展宽后的左声道信号L′=L-k*R,展宽后的右声道信号R=R-k*L,其中0<k<1,调整k值可自由改变声场宽度;
S3.将展宽后的左声道信号L′经过HRTF_Front定位模块处理后获得具有方向性的前左FL信号,将展宽后的右声道信号R′经过HRTF_Front定位模块处理后获得具有方向性的前右FR信号;
S4.将展宽后的左声道信号L′经过HRTF_Rear定位模块处理后获得具有方向性的后左RL信号,将展宽后的右声道信号R′经过HRTF_Rear定位模块处理后获得具有方向性的后右RR信号;
S5.将左声道直达声信号L经过混响单元处理后获得左声道混响声信号,将右声道直达声信号R经过混响单元处理后获得右声道混响声信号;
S6.将左声道直达声信号L经过低音增强单元处理后获得左声道低音信号,将右声道直达声信号R经过低音增强单元处理后获得右声道低音信号;
S7.将上述所有处理后的左声道信号加权求和得到具有三维音效的左声道信号并输出,将上述所有处理后的右声道信号加权求和得到具有三维音效的右声道信号并输出。L_out、R_out分别表示最终获得的左、右声道信号,Fc_out表示获得中置方向的声信号,L_front、R_front分别表示定位在左前、右前的左右声信号,L_rear、R_rear分别表示定位在左后、右后的左右声信号,L_revb、R_revb分别表示左右直达声经混响单元的左、右声道信号,L_bass、R_bass分别左右直达声经低音增强单元的左、右声道信号,fc_gain、front_gain、rear_gain、revb_gain、bass_gain分别表示中置声、前方位、后方位、混响声和低音的增益(通过调整增益值可以改变不同成分的能量对比从而获得不同的音效)。最终获得的三维虚拟声表示如下:
L_out=fc_gain*Fc_out+front_gain*L_front+rear_gain*L_rear+revb_gain*L_revb+bass_gain*L_bass;
R_out=fc_gain*Fc_out+front_gain*R_front+rear_gain*R_rear+revb_gain*R_revb+bass_gain*R_bass。
本发明应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上,本说明书内容不应理解为对本发明的限制。

Claims (7)

1.双声道音频转换为虚拟环绕5.1声道音频的***,其特征在于:主要包括声场展宽单元、声像定位单元、混响单元和低音增强单元,输入的左声道直达声信号和右声道直达声信号分别经所述声场展宽单元、所述声像定位单元、所述混响单元和所述低音增强单元处理后加权求和输出具有三维音效的左声道信号和具有三维音效的右声道信号。
2.根据权利要求1所述的双声道音频转换为虚拟环绕5.1声道音频的***,其特征在于:所述声像定位单元包括HRFT_Front定位模块、HRFT_Rear定位模块和HRFT_Fc定位模块。
3.根据权利要求1所述的双声道音频转换为虚拟环绕5.1声道音频的***,其特征在于:所述混响单元包括四个并联的梳状滤波器,四个所述梳状滤波器级联有两个全通滤波器。
4.根据权利要求3所述的双声道音频转换为虚拟环绕5.1声道音频的***,其特征在于:所述梳状滤波器的***函数为:
Figure FDA0003466286220000011
5.根据权利要求3所述的双声道音频转换为虚拟环绕5.1声道音频的***,其特征在于:所述全通滤波器的***函数为:
Figure FDA0003466286220000012
6.双声道音频转换为虚拟环绕5.1声道音频的方法,其特征在于:包括以下步骤:
S1.将输入的左声道直达声信号L与右声道直达声信号R求和平均得到中置Fc信号,将Fc信号经过HRTF_Fc定位模块处理后获得具有方向性的中置Fc信号;
S2.将将输入的左声道直达声信号L与右声道直达声信号R通过声场展宽单元互相引入另一声道的部分反向信号,得到展宽后的左声道信号L和展宽后的右声道信号R;
S3.将展宽后的左声道信号L′经过HRTF_Front定位模块处理后获得具有方向性的前左FL信号,将展宽后的右声道信号R′经过HRTF_Front定位模块处理后获得具有方向性的前右FR信号;
S4.将展宽后的左声道信号L′经过HRTF_Rear定位模块处理后获得具有方向性的后左RL信号,将展宽后的右声道信号R′经过HRTF_Rear定位模块处理后获得具有方向性的后右RR信号;
S5.将左声道直达声信号L经过混响单元处理后获得左声道混响声信号,将右声道直达声信号R经过混响单元处理后获得右声道混响声信号;
S6.将左声道直达声信号L经过低音增强单元处理后获得左声道低音信号,将右声道直达声信号R经过低音增强单元处理后获得右声道低音信号;
S7.将上述所有处理后的左声道信号加权求和得到具有三维音效的左声道信号并输出,将上述所有处理后的右声道信号加权求和得到具有三维音效的右声道信号并输出。
7.根据权利要求6所述的双声道音频转换为虚拟环绕5.1声道音频的方法,其特征在于:步骤S2中,所述展宽后的左声道信号L=L-k*R,所述展宽后的右声道信号R=R-k*L,其中0<k<1。
CN202210030615.3A 2022-01-12 2022-01-12 双声道音频转换为虚拟环绕5.1声道音频的***及方法 Active CN114363793B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210030615.3A CN114363793B (zh) 2022-01-12 2022-01-12 双声道音频转换为虚拟环绕5.1声道音频的***及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210030615.3A CN114363793B (zh) 2022-01-12 2022-01-12 双声道音频转换为虚拟环绕5.1声道音频的***及方法

Publications (2)

Publication Number Publication Date
CN114363793A true CN114363793A (zh) 2022-04-15
CN114363793B CN114363793B (zh) 2024-06-11

Family

ID=81108484

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210030615.3A Active CN114363793B (zh) 2022-01-12 2022-01-12 双声道音频转换为虚拟环绕5.1声道音频的***及方法

Country Status (1)

Country Link
CN (1) CN114363793B (zh)

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1296372A (zh) * 1999-11-16 2001-05-23 林智文 音频处理电路
CN101511047A (zh) * 2009-03-16 2009-08-19 东南大学 双声道立体声分别基于音箱与耳机的三维音效处理方法
US20130182853A1 (en) * 2012-01-12 2013-07-18 National Central University Multi-Channel Down-Mixing Device
CN104145485A (zh) * 2011-06-13 2014-11-12 沙克埃尔·纳克什·班迪·P·皮亚雷然·赛义德 产生自然360度三维数字立体环绕音效(3d dssrn-360)的***
US20160295342A1 (en) * 2013-12-12 2016-10-06 Socionext Inc. Audio reproduction apparatus and game apparatus
CN106060719A (zh) * 2016-05-31 2016-10-26 维沃移动通信有限公司 一种终端音频输出的控制方法及终端
CN106572419A (zh) * 2015-10-08 2017-04-19 中国科学院声学研究所 一种立体声音效增强***
US20180184199A1 (en) * 2015-08-13 2018-06-28 Huawei Technologies Co., Ltd. Audio signal processing apparatus and a sound emission apparatus
US20210160605A1 (en) * 2018-05-24 2021-05-27 Sony Corporation Information processing device and information processing method
US20210195361A1 (en) * 2019-12-23 2021-06-24 Sennheiser Electronic Gmbh & Co. Kg Method and device for audio signal processing for binaural virtualization
CN113192486A (zh) * 2021-04-27 2021-07-30 腾讯音乐娱乐科技(深圳)有限公司 一种合唱音频的处理方法、设备及存储介质

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1296372A (zh) * 1999-11-16 2001-05-23 林智文 音频处理电路
CN101511047A (zh) * 2009-03-16 2009-08-19 东南大学 双声道立体声分别基于音箱与耳机的三维音效处理方法
CN104145485A (zh) * 2011-06-13 2014-11-12 沙克埃尔·纳克什·班迪·P·皮亚雷然·赛义德 产生自然360度三维数字立体环绕音效(3d dssrn-360)的***
US20130182853A1 (en) * 2012-01-12 2013-07-18 National Central University Multi-Channel Down-Mixing Device
US20160295342A1 (en) * 2013-12-12 2016-10-06 Socionext Inc. Audio reproduction apparatus and game apparatus
US20180184199A1 (en) * 2015-08-13 2018-06-28 Huawei Technologies Co., Ltd. Audio signal processing apparatus and a sound emission apparatus
CN106572419A (zh) * 2015-10-08 2017-04-19 中国科学院声学研究所 一种立体声音效增强***
CN106060719A (zh) * 2016-05-31 2016-10-26 维沃移动通信有限公司 一种终端音频输出的控制方法及终端
US20210160605A1 (en) * 2018-05-24 2021-05-27 Sony Corporation Information processing device and information processing method
US20210195361A1 (en) * 2019-12-23 2021-06-24 Sennheiser Electronic Gmbh & Co. Kg Method and device for audio signal processing for binaural virtualization
CN113192486A (zh) * 2021-04-27 2021-07-30 腾讯音乐娱乐科技(深圳)有限公司 一种合唱音频的处理方法、设备及存储介质

Also Published As

Publication number Publication date
CN114363793B (zh) 2024-06-11

Similar Documents

Publication Publication Date Title
JP4588945B2 (ja) 2チャネル・ステレオ・フォーマットの左及び右のチャネル入力信号を左及び右のチャネル出力信号に変換する方法及び信号処理装置
Hacihabiboglu et al. Perceptual spatial audio recording, simulation, and rendering: An overview of spatial-audio techniques based on psychoacoustics
ES2249823T3 (es) Descodificacion de audio multifuncional.
TWI489887B (zh) 用於喇叭或耳機播放之虛擬音訊處理技術
CN101040565B (zh) 用于移动立体声内容的改善的头相关传递函数
JP4364326B2 (ja) 複数の聴取者用3次元音響再生装置及びその方法
US9769589B2 (en) Method of improving externalization of virtual surround sound
KR0135850B1 (ko) 음성재생장치
KR100636252B1 (ko) 공간 스테레오 사운드 생성 방법 및 장치
EP3895451B1 (en) Method and apparatus for processing a stereo signal
CN101112120A (zh) 处理多声道音频输入信号以从其中产生至少两个声道输出信号的装置和方法、以及包括执行该方法的可执行代码的计算机可读介质
JP2000050400A (ja) 左,右両耳用のオーディオ信号を音像定位させるための処理方法
US5844993A (en) Surround signal processing apparatus
US10440495B2 (en) Virtual localization of sound
KR100849030B1 (ko) 복수 채널 스피커 환경에서 가상 스피커 기술을 사용한입체음향 재생 장치
KR100802339B1 (ko) 스테레오 스피커 환경에서 가상 스피커 기술을 사용한입체음향 재생 장치 및 방법
CN114363793B (zh) 双声道音频转换为虚拟环绕5.1声道音频的***及方法
JP2000333297A (ja) 立体音生成装置、立体音生成方法及び立体音を記録した媒体
KR100275779B1 (ko) 5채널 오디오 데이터를 2채널로 변환하여 헤드폰으로 재생하는 장치 및 방법
JP2953347B2 (ja) サラウンド信号処理装置
US20240056735A1 (en) Stereo headphone psychoacoustic sound localization system and method for reconstructing stereo psychoacoustic sound signals using same
Iwanaga et al. Embedded implementation of acoustic field enhancement for stereo sound sources
KR20050060552A (ko) 입체 음향 시스템 및 입체 음향 구현 방법
JPH02219400A (ja) 立体音響再生装置
WO2024081957A1 (en) Binaural externalization processing

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant