CN113902694A - 一种基于动静结合的目标检测方法 - Google Patents
一种基于动静结合的目标检测方法 Download PDFInfo
- Publication number
- CN113902694A CN113902694A CN202111141967.8A CN202111141967A CN113902694A CN 113902694 A CN113902694 A CN 113902694A CN 202111141967 A CN202111141967 A CN 202111141967A CN 113902694 A CN113902694 A CN 113902694A
- Authority
- CN
- China
- Prior art keywords
- target
- image
- algorithm
- dynamic
- pipeline
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 27
- 230000003068 static effect Effects 0.000 title claims abstract description 23
- 238000000034 method Methods 0.000 claims abstract description 34
- 230000011218 segmentation Effects 0.000 claims abstract description 19
- 238000001914 filtration Methods 0.000 claims abstract description 11
- 238000004364 calculation method Methods 0.000 claims abstract description 9
- 238000012545 processing Methods 0.000 claims abstract description 8
- 238000003706 image smoothing Methods 0.000 claims abstract description 4
- 230000003044 adaptive effect Effects 0.000 claims description 14
- 230000001629 suppression Effects 0.000 claims description 13
- 238000009792 diffusion process Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 claims description 6
- 230000002159 abnormal effect Effects 0.000 claims description 3
- 238000002474 experimental method Methods 0.000 claims description 3
- 238000013461 design Methods 0.000 abstract description 3
- 230000000007 visual effect Effects 0.000 abstract description 2
- 238000003384 imaging method Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004899 motility Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Quality & Reliability (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本发明的目的是提供一种基于动静结合的目标检测方法,用于实现连续图像或视频中的目标稳定跟踪,主要技术方案是首先对采集的原始图像进行滤波,实现图像平滑和目标增强;随后采用基于动态的帧间差分算法和基于静态的偏微分算法进行联合处理;接着用自适应阈值分割算法对图像进行分割,得到二值化图像;随后进行目标智能聚类和移动管道滤波算法,最终检测出真实有效的目标,并对目标进行连续稳定的跟踪,设计思路直观,计算复杂度相对较低,可应用到多个平台;算法框架模型可以针对实际使用需求对各个模块参数进行修正,能够应用于针对特定使用需求的场景特征和目标特性。
Description
技术领域
本发明属于图像处理技术领域,具体涉及一种基于动静结合的目标检测方法。
背景技术
随着科技的飞速发展和新技术的大量应用,各种高性能图像产品不断涌现在军事和民用领域。基于红外/可见光的探测成像***广泛地应用于精确制导、目标探测与跟踪、搜索与预警以及光学遥感等军事和民用领域。
相比雷达探测***的主动探测方法来说,红外/可见光成像探测***具有良好的隐蔽性、较强的抗干扰性能等优点,使得被动探测成像***在这些领域中的应用愈加广泛。因此,采取合适的目标检测算法或方法,充分发挥红外/可见光成像探测技术的优势,提高***对目标的探测跟踪能力,对于提高整个探测应用***的性能具有重要意义。
发明内容
本发明的目的是提供一种基于动静结合的目标检测方法,用于实现连续图像或视频中的目标稳定跟踪。
本发明解决其技术问题的技术方案为:一种基于动静结合的目标检测方法,其特征在于:包括以下步骤:
S1:对采集的原始图像进行滤波,实现图像平滑和目标增强;
S2:采用基于动态的帧间差分算法和基于静态的偏微分算法进行联合处理,得到差分后的残差图像和背景抑制后的图像;
S3:对步骤S2获得的图像,用自适应阈值分割算法对图像进行分割,得到二值化图像;
S4:对步骤S3获得的二值化图像进行目标智能聚类和移动管道滤波算法,最终检测出真实有效的目标,并对目标进行连续稳定的跟踪。
所述步骤S2中基于动态的帧间差分算法具体为:通过对视频图像序列的连续两帧图像做差分运算获取动目标轮廓,当监控场景中出现异常目标运动时,相邻两帧图像之间会出现较为明显的差别,两帧相减,求得图像对应位置像素值差的绝对值,判断其是否大于某一特定阈值,进而分析视频或图像序列的物体运动特性,帧间差分法的数学表达式为:
Dn(x,y)=|In(x,y)-In-k(x,y)|
式中,In(x,y)表示第n帧图像像素点(x,y)的像素值,k为预选设定的帧间隔,Dn(x,y)表示第n帧和n-k帧之间对应像素值的差值;BWn(x,y)表示二值图像,T为设置的特定阈值。
所述步骤S2中基于静态的偏微分算法具体为:根据目标信息和周边灰度背景之间的关系,对一幅静态图像进行背景抑制,从而分离出目标和背景。该算法的主要数学原理是将原始图像与一个自适应算子进行卷积计算,公式如下:
其中I(i,j)和u(i,j)分别为原始图像和背景抑制后图像,H(i,j)为局部自适应因子,其表达式如下:
式中各个因子的计算公式如下:
λE=c(Ii,j+1-Ii,j)
λW=c(Ii,j-1-Ii,j)
λN=c(Ii-1,j-Ii,j)
λS=c(Ii+1,j-Ii,j)
λΣ=λE+λW+λN+λS
其中c为扩散函数,其表达式如下:
c(t)=1-exp[-(t/k)2]
式中其中t表示灰度之差的绝对值,k是一个常数,根据不同的场景来确定。
所述步骤S3用自适应阈值分割算法对图像进行分割的过程具体为:通过分割的方法提取目标的位置坐标和数目,对于输入背景抑制图像e(x,y),定义阈值分割输出二值图像为:
式中,T’为阈值。
使用基于均值、方差的自适应阈值分割法,均值方差法来根据背景抑制图像的统计特性,利用该图像的均值和方差来确定阈值,其数学表达式为
T=(e+n*v)*k'
式中,e为图像均值,v为图像标准差,n和k'为常数,由实验选取对应的值。
所述步骤S4中目标智能聚类的过程具体为:
S4.1.1:如果两个点之间的横坐标差和纵坐标差,均小于10个像素,则将这两个点视为同一个目标上的点;
S4.1.2:获得图像上属于同一个目标的所有点后,将它们的横坐标累加除以点数,求出横坐标的平均值,即为目标的横坐标;同理求出目标的纵坐标;
S4.1.3:按照相同的方式,求出图像上所有目标的横、纵坐标。
所述步骤S4中移动管道滤波算法具体为:
S4.2.1:输入序列图像;
S4.2.2:读取并检测单帧图像;
S4.2.3:基于S4.2.2检测的单帧图像,对于满足S4.1.2条件要求的成为候选目标;
S4.2.4:判断目标是否属于线油管道,若属于,则更新现有管道发现目标次数;若不属于,则建立新管道;
S4.2.5:对每个管道进行处理,设置管道半径大小和目标在管道中出现的次数;
S4.2.6:若目标出现次数达到要求,则检测到目标并输出;若没有达到要求,则跳转至步骤S4.2.2。
本发明的有益效果为:本发明设计思路直观,计算复杂度相对较低,可应用到PC机平台,也可以应用到嵌入式***平台;本专利算法框架模型可以针对实际使用需求对各个模块参数进行修正,能够应用于针对特定使用需求的场景特征和目标特性;本专利方法可适用到红外和可见光的弱小目标检测领域,经试验验证,最小可检测目标像素大小为1×1。
附图说明
图1是本发明的流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明包括以下步骤:
S1:对采集的原始图像进行滤波,实现图像平滑和目标增强;
S2:采用基于动态的帧间差分算法和基于静态的偏微分算法进行联合处理,得到差分后的残差图像和背景抑制后的图像;
S3:对步骤S2获得的图像,用自适应阈值分割算法对图像进行分割,得到二值化图像;
S4:对步骤S3获得的二值化图像进行目标智能聚类和移动管道滤波算法,最终检测出真实有效的目标,并对目标进行连续稳定的跟踪。
所述步骤S2中基于动态的帧间差分算法具体为:通过对视频图像序列的连续两帧图像做差分运算获取动目标轮廓,当监控场景中出现异常目标运动时,相邻两帧图像之间会出现较为明显的差别,两帧相减,求得图像对应位置像素值差的绝对值,判断其是否大于某一特定阈值,进而分析视频或图像序列的物体运动特性,帧间差分法的数学表达式为:
Dn(x,y)=|In(x,y)-In-k(x,y)|
式中,In(x,y)表示第n帧图像像素点(x,y)的像素值,k为预选设定的帧间隔,Dn(x,y)表示第n帧和n-k帧之间对应像素值的差值;BWn(x,y)表示二值图像,T为设置的特定阈值。
所述步骤S2中基于静态的偏微分算法具体为:根据目标信息和周边灰度背景之间的关系,对一幅静态图像进行背景抑制,从而分离出目标和背景。该算法的主要数学原理是将原始图像与一个自适应算子进行卷积计算,公式如下:
其中I(i,j)和u(i,j)分别为原始图像和背景抑制后图像,H(i,j)为局部自适应因子,其表达式如下:
式中各个因子的计算公式如下:
λE=c(Ii,j+1-Ii,j)
λW=c(Ii,j-1-Ii,j)
λN=c(Ii-1,j-Ii,j)
λS=c(Ii+1,j-Ii,j)
λΣ=λE+λW+λN+λS
其中c为扩散函数,其表达式如下:
c(t)=1-exp[-(t/k)2]
式中其中t表示灰度之差的绝对值,k是一个常数,根据不同的场景来确定。
所述步骤S3用自适应阈值分割算法对图像进行分割的过程具体为:通过分割的方法提取目标的位置坐标和数目,对于输入背景抑制图像e(x,y),定义阈值分割输出二值图像为:
式中,T’为阈值。
使用基于均值、方差的自适应阈值分割法,均值方差法来根据背景抑制图像的统计特性,利用该图像的均值和方差来确定阈值,其数学表达式为
T=(e+n*v)*k'
式中,e为图像均值,v为图像标准差,n和k'为常数,由实验选取对应的值。
所述步骤S4中目标智能聚类的过程具体为:
S4.1.1:如果两个点之间的横坐标差和纵坐标差,均小于10个像素,则将这两个点视为同一个目标上的点;
S4.1.2:获得图像上属于同一个目标的所有点后,将它们的横坐标累加除以点数,求出横坐标的平均值,即为目标的横坐标;同理求出目标的纵坐标;
S4.1.3:按照相同的方式,求出图像上所有目标的横、纵坐标。
所述步骤S4中移动管道滤波算法具体为:
S4.2.1:输入序列图像;
S4.2.2:读取并检测单帧图像;
S4.2.3:基于S4.2.2检测的单帧图像,对于满足S4.1.2条件要求的成为候选目标;
S4.2.4:判断目标是否属于线油管道,若属于,则更新现有管道发现目标次数;若不属于,则建立新管道;
S4.2.5:对每个管道进行处理,设置管道半径大小和目标在管道中出现的次数;
S4.2.6:若目标出现次数达到要求,则检测到目标并输出;若没有达到要求,则跳转至步骤S4.2.2。
本发明最重要的关键点是技术方案中所述的基于动态的帧间差分算法、基于静态的偏微分算法、基于灰度的自适应阈值分割算法、目标智能聚类算法、移动管道滤波算法的软件实现。
专利中的场景指的是天空(有云或者无云)背景下,场景中除目标(飞机、飞行器等)外,不存在其他大面积强烈干扰目标的干扰区域;在图像中表现为非目标区域的图像统计特性分布均匀,而目标表现为较场景中的图像特性分布具有更高的对比差异性。
基于一定场景特征条件下,目标的特征从直观角度分析描述。如:根据人的经验目标是运动的,目标相对于场景分布更突出(更亮或者更暗,较高辨识度),目标是一个封闭形状的突兀区域等。通过该直观特性分析,理想的目标反映在图像上应是一个闭合的连通区域,同时应该具有以下五个基本特性:
呈现斑点状或块状;
较小的熵;
目标内部近似均匀的强度;
与其局部邻域的差异性;
具有相较于背景的一定速度运动性。
本专利中采用基于均值、方差的自适应阈值分割法,均值方差法能根据背景抑制图像的统计特性,利用该图像的均值和方差来确定阈值,于图像灰度信息得到的自适应分割阈值中参数n、k’表示控制决策阈值边界系数,通过调整这两个参数值大小可以控制图像中目标检测的“敏感性”;通常,当n、k的数值相对较大时,目标检测“敏感性”能力受抑制,当n、k的数值较小时,目标检测“敏感性”能力提高,同时会抑制噪声干扰的能力降低。这就意味着在实际使用时可以根据相应的图像使用场景进行测试修改,后续可根据场景统计特征进行参数值的自适应调整。
本发明中扩散函数c(t)选择的函数形式为:
c(t)=1-exp[-(t/k)2]
其中t表示灰度之差的绝对值,随着参数k数值的增大,参数曲线的斜率不断减小,这就意味着对应于参数更大的扩散函数曲线,对梯度变化更小的梯度绝对值能够反映的扩张能力相对更小,对参数更小的扩散函数曲线,对梯度变化更小的梯度绝对值能够反映的扩张能力相对更大。反应到实际应用场景使用时可以得到这样的结论:当场景分布灰度更广更均匀时,对应的参数曲线可以采用参数数值更小的参数曲线、对应场景分布灰度更窄的图像可以采用更大的参数函数曲线,不过在实际测试使用时,建议采用参数更小的曲线,这样能过够对微小的梯度变化更加敏感。
本发明设计思路直观,计算复杂度相对较低,可应用到PC机平台,也可以应用到嵌入式***平台;本专利算法框架模型可以针对实际使用需求对各个模块参数进行修正,能够应用于针对特定使用需求的场景特征和目标特性;本专利方法可适用到红外和可见光的弱小目标检测领域,经试验验证,最小可检测目标像素大小为1×1。
Claims (6)
1.一种基于动静结合的目标检测方法,其特征在于:包括以下步骤:
S1:对采集的原始图像进行滤波,实现图像平滑和目标增强;
S2:采用基于动态的帧间差分算法和基于静态的偏微分算法进行联合处理,得到差分后的残差图像和背景抑制后的图像;
S3:对步骤S2获得的图像,用自适应阈值分割算法对图像进行分割,得到二值化图像;
S4:对步骤S3获得的二值化图像进行目标智能聚类和移动管道滤波算法,最终检测出真实有效的目标,并对目标进行连续稳定的跟踪。
2.根据权利要求1所述的一种基于动静结合的目标检测方法,其特征在于:所述步骤S2中基于动态的帧间差分算法具体为:通过对视频图像序列的连续两帧图像做差分运算获取动目标轮廓,当监控场景中出现异常目标运动时,相邻两帧图像之间会出现较为明显的差别,两帧相减,求得图像对应位置像素值差的绝对值,判断其是否大于某一特定阈值,进而分析视频或图像序列的物体运动特性,帧间差分法的数学表达式为:
Dn(x,y)=|In(x,y)-In-k(x,y)|
式中,In(x,y)表示第n帧图像像素点(x,y)的像素值,k为预选设定的帧间隔,Dn(x,y)表示第n帧和n-k帧之间对应像素值的差值;BWn(x,y)表示二值图像,T为设置的特定阈值。
3.根据权利要求1所述的一种基于动静结合的目标检测方法,其特征在于:所述步骤S2中基于静态的偏微分算法具体为:根据目标信息和周边灰度背景之间的关系,对一幅静态图像进行背景抑制,从而分离出目标和背景。该算法的主要数学原理是将原始图像与一个自适应算子进行卷积计算,公式如下:
其中I(i,j)和u(i,j)分别为原始图像和背景抑制后图像,H(i,j)为局部自适应因子,其表达式如下:
式中各个因子的计算公式如下:
λE=c(Ii,j+1-Ii,j)
λW=c(Ii,j-1-Ii,j)
λN=c(Ii-1,j-Ii,j)
λS=c(Ii+1,j-Ii,j)
λΣ=λE+λW+λN+λS
其中c为扩散函数,其表达式如下:
c(t)=1-exp[-(t/k)2]
式中其中t表示灰度之差的绝对值,k是一个常数,根据不同的场景来确定。
5.根据权利要求1所述的一种基于动静结合的目标检测方法,其特征在于:所述步骤S4中目标智能聚类的过程具体为:
S4.1.1:如果两个点之间的横坐标差和纵坐标差,均小于10个像素,则将这两个点视为同一个目标上的点;
S4.1.2:获得图像上属于同一个目标的所有点后,将它们的横坐标累加除以点数,求出横坐标的平均值,即为目标的横坐标;同理求出目标的纵坐标;
S4.1.3:按照相同的方式,求出图像上所有目标的横、纵坐标。
6.根据权利要求1所述的一种基于动静结合的目标检测方法,其特征在于:所述步骤S4中移动管道滤波算法具体为:
S4.2.1:输入序列图像;
S4.2.2:读取并检测单帧图像;
S4.2.3:基于S4.2.2检测的单帧图像,对于满足S4.1.2条件要求的成为候选目标;
S4.2.4:判断目标是否属于线油管道,若属于,则更新现有管道发现目标次数;若不属于,则建立新管道;
S4.2.5:对每个管道进行处理,设置管道半径大小和目标在管道中出现的次数;
S4.2.6:若目标出现次数达到要求,则检测到目标并输出;若没有达到要求,则跳转至步骤S4.2.2。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111141967.8A CN113902694A (zh) | 2021-09-28 | 2021-09-28 | 一种基于动静结合的目标检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111141967.8A CN113902694A (zh) | 2021-09-28 | 2021-09-28 | 一种基于动静结合的目标检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113902694A true CN113902694A (zh) | 2022-01-07 |
Family
ID=79029872
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111141967.8A Pending CN113902694A (zh) | 2021-09-28 | 2021-09-28 | 一种基于动静结合的目标检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113902694A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114693732A (zh) * | 2022-03-07 | 2022-07-01 | 四川大学华西医院 | 一种弱小目标检测与跟踪方法 |
CN116188328A (zh) * | 2023-04-24 | 2023-05-30 | 深圳市银河通信科技有限公司 | 基于物联网的停车场感应灯联动*** |
-
2021
- 2021-09-28 CN CN202111141967.8A patent/CN113902694A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114693732A (zh) * | 2022-03-07 | 2022-07-01 | 四川大学华西医院 | 一种弱小目标检测与跟踪方法 |
CN114693732B (zh) * | 2022-03-07 | 2022-11-25 | 四川大学华西医院 | 一种弱小目标检测与跟踪方法 |
CN116188328A (zh) * | 2023-04-24 | 2023-05-30 | 深圳市银河通信科技有限公司 | 基于物联网的停车场感应灯联动*** |
CN116188328B (zh) * | 2023-04-24 | 2023-06-27 | 深圳市银河通信科技有限公司 | 基于物联网的停车场感应灯联动*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103871029B (zh) | 一种图像增强及分割方法 | |
CN103942557B (zh) | 一种煤矿井下图像预处理方法 | |
CN107301624B (zh) | 基于区域划分及浓雾预处理的卷积神经网络去雾方法 | |
CN110728697A (zh) | 基于卷积神经网络的红外弱小目标检测跟踪方法 | |
CN108876820B (zh) | 一种基于均值漂移的遮挡条件下移动目标追踪方法 | |
CN104834915B (zh) | 一种复杂云天背景下小红外目标检测方法 | |
CN113902694A (zh) | 一种基于动静结合的目标检测方法 | |
CN109919053A (zh) | 一种基于监控视频的深度学习车辆停车检测方法 | |
CN110400294B (zh) | 一种红外目标探测***及探测方法 | |
Wang et al. | A video-based traffic violation detection system | |
CN108038856B (zh) | 基于改进多尺度分形增强的红外小目标检测方法 | |
CN104796582A (zh) | 基于随机喷射retinex的视频图像去噪与增强方法及装置 | |
Lian et al. | A novel method on moving-objects detection based on background subtraction and three frames differencing | |
Zhao et al. | Principal curvature for infrared small target detection | |
CN111353496B (zh) | 一种红外弱小目标实时检测方法 | |
Silverman et al. | Temporal filtering for point target detection in staring IR imagery: II. Recursive variance filter | |
CN109903311A (zh) | 一种改进tld的矿井下视频目标跟踪方法 | |
CN111460964A (zh) | 一种广电传输机房低照度条件下运动目标检测方法 | |
CN107886526A (zh) | 基于时域滤波的序列图像弱小目标检测方法 | |
CN110728700B (zh) | 一种运动目标追踪方法、装置、计算机设备及存储介质 | |
Angelo | A novel approach on object detection and tracking using adaptive background subtraction method | |
CN113205494B (zh) | 基于自适应尺度图像块加权差测量的红外小目标检测方法和*** | |
CN106778822B (zh) | 基于漏斗变换的图像直线检测方法 | |
CN106023258B (zh) | 改进的自适应高斯混合模型运动目标检测方法 | |
CN108961293B (zh) | 一种背景减除的方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |