CN112508893B - 基于机器视觉的铁路双轨间微小异物检测方法及*** - Google Patents
基于机器视觉的铁路双轨间微小异物检测方法及*** Download PDFInfo
- Publication number
- CN112508893B CN112508893B CN202011355748.5A CN202011355748A CN112508893B CN 112508893 B CN112508893 B CN 112508893B CN 202011355748 A CN202011355748 A CN 202011355748A CN 112508893 B CN112508893 B CN 112508893B
- Authority
- CN
- China
- Prior art keywords
- target
- double
- identification
- track
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000001514 detection method Methods 0.000 claims abstract description 60
- 230000003287 optical effect Effects 0.000 claims abstract description 18
- 238000012549 training Methods 0.000 claims abstract description 16
- 238000001914 filtration Methods 0.000 claims abstract description 8
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 7
- 230000002159 abnormal effect Effects 0.000 claims abstract description 6
- 239000013598 vector Substances 0.000 claims description 13
- 238000000605 extraction Methods 0.000 claims description 7
- 230000009466 transformation Effects 0.000 claims description 7
- 238000007635 classification algorithm Methods 0.000 claims description 2
- 238000005286 illumination Methods 0.000 description 18
- 238000005516 engineering process Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 9
- 238000004422 calculation algorithm Methods 0.000 description 8
- 230000008859 change Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- WHXSMMKQMYFTQS-UHFFFAOYSA-N Lithium Chemical compound [Li] WHXSMMKQMYFTQS-UHFFFAOYSA-N 0.000 description 3
- 230000009977 dual effect Effects 0.000 description 3
- 229910052744 lithium Inorganic materials 0.000 description 3
- 230000003137 locomotive effect Effects 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 244000144972 livestock Species 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B61—RAILWAYS
- B61L—GUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
- B61L23/00—Control, warning or like safety means along the route or between vehicles or trains
- B61L23/04—Control, warning or like safety means along the route or between vehicles or trains for monitoring the mechanical state of the route
- B61L23/041—Obstacle detection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/94—Investigating contamination, e.g. dust
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24133—Distances to prototypes
- G06F18/24143—Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/94—Investigating contamination, e.g. dust
- G01N2021/945—Liquid or solid deposits of macroscopic size on surfaces, e.g. drops, films, or clustered contaminants
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30236—Traffic on road, railway or crossing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Signal Processing (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Mechanical Engineering (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Quality & Reliability (AREA)
- Train Traffic Observation, Control, And Security (AREA)
Abstract
本发明公开了基于机器视觉的铁路双轨间微小异物检测方法及***,预先采集无异物双轨图像,进行卷积神经网络训练,获取目标模型;通过探测光学设备采集连续帧铁轨图像并进行图像滤波去除噪声;提取图像特征确定双轨位置,将异物检测区域确定为轨道面区域和双轨间区域;通过目标模型对每帧待检测的目标图像双轨间区域进行推演识别,如果存在与目标模型的不符的异常情况,则认为双轨间存在异物;所述推演识别采用分层次的目标识别方法,包括粗层次目标识别和细层次目标识别。本发明基于无异物的轨道模型,进行推演识别,采用分层次的目标识别方法,确保了铁路双轨间的异物检测的可靠性;精准检测出铁路双轨间的微小异物,提高了列车运行的安全。
Description
技术领域
本发明属于机器视觉技术领域,特别是涉及到一种基于机器视觉的铁路双轨间微小异物检测方法及***。
背景技术
铁路轨道上异物的存在是对高速列车行车安全的严重威胁,以往的人工巡检并不能保证发现异物的即时性,而由于列车速度快、制动距离长,依靠司机看到异物后的紧急反应动作也很难避免事故的发生,因此需要铁路异物检测***对铁路异物尤其是微小异物进行即时检测。
目前用于铁路异物综合监测***主要包括接触式和非接触式两种技术。接触式技术为在铁路上布置电网、电缆、光缆等分布式传感器,具有技术成熟、受环境影响小等优点,但其缺点也很明显,即造价高、施工难度大、维护成本高。非接触式技术主要包括激光雷达检测技术和机器视觉检测技术。其中激光雷达200米以内的在短距离的大体积异物监测具有显著的优点,可以提供异物的距离和位置信息,同时能够获取物体的三维信息,但在长距离、微小目标的监测技术上还有待发展,而现有的应用在铁路轨道的机器视觉检测技术并不完善,铁路异物又分为铁路轨道面的异物和铁路双轨间的异物,对铁路轨道进行异物探测时对这二者需要使用不同的探测方法才能精准高效的识别异物,但现有的机器视觉检测技术并没有进行区别处理,影响检测结果。
发明内容
本发明提出一种基于机器视觉的铁路双轨间微小异物检测方法及***,能够精准检测出铁路双轨间的微小异物。
为达到上述目的,本发明的技术方案是这样实现的:
基于机器视觉的铁路双轨间微小异物检测方法,包括:
S1、预先采集批量的无异物条件下的双轨图像,进行卷积神经网络训练,获取目标模型;
S2、通过探测光学设备采集连续帧铁轨图像并进行图像滤波去除噪声;
S3、提取图像特征确定双轨位置,将异物检测区域确定为轨道面区域和双轨间区域;
S4、通过目标模型对每帧待检测的目标图像双轨间区域进行推演识别,如果存在与目标模型的不符的异常情况,则认为双轨间存在异物;所述推演识别采用分层次的目标识别方法,包括粗层次目标识别和细层次目标识别。
进一步的,步骤S2的具体方法包括:采用Hough变换提取图像中直线特征,并采用基于迭代分块模板匹配方法对直线特征进行拟合可以获取直道和弯道双侧铁轨轨道面区域,根据轨道面将异物检测区域确定为轨道面区域和双轨间区域。
进一步的,步骤S4所述粗层次目标识别的方法包括:提取有限的图像特征信息,根据经验分类器设定的先验知识、铁轨位置、以及所述有限的图像特征对目标类别进行粗略识别,所述有限的图像特征包括目标面积、移动速度。
进一步的,步骤S4所述细层次目标识别的方法包括:
S401、提取图像中目标形状特征和Hu矩特征;
S402、根据提取的形状特征和Hu矩特征,采用最近邻分类法实现目标分类识别。
本发明还提供了基于机器视觉的铁路双轨间微小异物检测***,包括:
模型建立模块,先采集批量的无异物条件下的双轨图像,进行卷积神经网络训练,获取目标模型;
采集去噪模块,用于通过探测光学设备采集连续帧铁轨图像并进行图像滤波去除噪声;
区域划分模块,用于提取图像特征将异物检测区域确定为轨道面区域和双轨间区域;
推演识别模块,通过目标模型对每帧待检测的目标图像双轨间区域进行推演识别,如果存在与目标模型的不符的异常情况,则认为双轨间存在异物;所述推演识别采用分层次的目标识别方法,包括粗层次目标识别和细层次目标识别。
进一步的,区域划分模块包括:
直线特征提取单元,采用Hough变换提取图像中直线特征;
拟合单元,采用基于迭代分块模板匹配方法对直线特征进行拟合可以获取直道和弯道双侧铁轨轨道面区域;
区域单元,根据轨道面将异物检测区域确定为轨道面区域和双轨间区域。
进一步的,所述推演识别模块包括粗层次目标识别子模块,所述粗层次目标识别子模块包括:
有限提取单元,用于提取有限的图像特征信息,所述有限的图像特征包括目标面积、移动速度;
经验分类器单元,用于使用经验分类器设定先验知识;
粗略识别单元:根据经验分类器设定的先验知识、铁轨位置、以及所述有限的图像特征对目标类别进行粗略识别。
进一步的,所述推演识别模块包括细层次目标识别子模块,所述括细层次目标识别子模块包括:
提取单元,用于提取图像中目标形状特征和Hu矩特征;
最近邻分类器单元,用于设定最近邻分类算法以及连接目标样本特征库;
精细识别单元,根据提取的形状特征和Hu矩特征,采用最近邻分类法实现目标分类识别。
与现有技术相比,本发明具有如下的有益效果:
(1)本发明基于铁路双轨间的异物在视频图像中的特性,建立无异物的轨道模型,进行推演识别,确保了铁路双轨间的异物检测的可靠性;
(2)本发明采用分层次的目标识别方法,从而能够精准检测出铁路双轨间的微小异物,提高了列车运行的安全。
附图说明
图1是本发明实施例的结构框图;
图2是本发明实施例的结构示意图;
图3是本发明实施例的检测流程图;
图4是本发明实施例的基于序列图像目标检测流程图;
图5是本发明实施例的双轨间目标识别检测图。
其中:
1、探测光学部和照明部;1-1、近景探测器;1-2、远景探测器;
1-3、激光照明光源;1-4、近景探测器视频电缆;1-5、远景探测器视频电缆;
1-6、电源线;2、显示屏;2-1、HDMI高清视频线缆;2-2、显示屏供电线缆;
3、主控部;3-1、远景探测器调焦按键;3-2、近景探测器调焦按键;
3-3、激光照明光源调焦按键;3-4、激光照明开关;3-5、电池供电开关;
3-6、电源开关;3-7、220V电源线;4、声光报警设备;4-1、12V电源线;
4-2、报警指示灯;4-3、报警蜂鸣器;4-4、解除报警按键。
具体实施方式
需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以通过具体情况理解上述术语在本发明中的具体含义。
下面以完整的铁路轨道异物检测的方案(包括轨道面检测和双轨间检测)作为本发明(双轨间检测)的具体实施例。
本发明实施例中首先提出一种基于机器视觉的铁路上小于15mm的微小异物日夜探测装置,本装置主要由探测光学部和照明部共同构成的探测光学部和照明部1、显示屏2、主控部3,声光报警设备4,本装置的功能框图如图1所示,具体实物的结构示意图如图2所示。
其中在探测光学部和照明部1中包括近景探测器1-1、远景探测器1-2、以及照明设备,近景探测器1-1可采用近景相机,远景探测器1-2可采用远景相机,照明设备采用激光照明光源1-3。
主控部3的具体实物为主控箱,主控箱中包括双路视频采集卡、视频处理单元TX2、电源,所述视频处理单元TX2上安装SD存储卡,对图像进行实时存储。所述近景探测器1-1(近景相机)和远景探测器1-2(远景相机)分别通过SDI接口连接双路视频采集卡,所述双路视频采集卡通过PCIE接口与视频处理单元TX2连接,所述视频处理单元TX2通过HDMI高清视频线缆2-1和显示屏供电线缆2-2连接显示屏2,还通过以太网连接声光报警设备4内部的报警控制板,报警控制板分别连接控制声光报警设备4的报警指示灯4-2,报警蜂鸣器4-3,解除警报按键4-4。
主控部3的电源除了供电给视频处理单元TX2,同时供电给探测光学部和照明部1的景探测器1-1(近景相机)和远景探测器1-2(远景相机)、激光照明光源1-3,还供电给显示屏2和声光报警设备4;所述电源采用双电源供电,主电源采用AC220供电,辅电源采用锂电池供电,双电源设有自动切换模块,当主电源断电时,自动切换至辅电源供电,主电源恢复时,自动切换回主电源供电。另外所述锂电池连接充电器,所述充电器连接主电源,主电源供电时同时给锂电池进行充电,解决了铁路AC220供电时出现的分相间歇断电问题。
在主控箱上还设有若干按键,包括连接远景相机调焦的远景探测器调焦按键3-1、连接近景相机调焦的近景探测器调焦按键3-2、连接激光照明光源1-3的激光照明光源调焦按键3-3。
基于上述具体结构,本发明实施例中,探测光学部和照明部1中的探测光学部实现图像的采集;照明部用于低照度条件下的照明,辅助探测光学部采集图像;主控部3实现电源控制、加载图像识别算法和图像输出;显示屏2显示探测光学部采集后由视频处理单元TX2处理后传输的图像视频;声光报警设备4接收主控部3信息实时报警,当异物消除后报警自动解除。也可通过解除警报按键4-4人工解除报警。各部分功能独立,线缆连接,可进行分布式安装。
探测光学部采集图像采用“远景+近景”结合的方式,远景探测器1-2采用410mm变焦镜头,有效像素1920x1080,负责机车前方200~500m图像的采集,可对500m处,1.5cm微小异物进行探测。近景探测器1-1采用130mm变焦镜头,有效像素1920x1080,负责机车前方200m内图像的采集。两个光学***形成互补,实现机车前方500m内高清视频采集。
夜晚模式下,采用人眼安全的激光照明光源1-3,在探测视场范围内进行补光,同时探测***自动切换到夜晚黑白模式,实现了设备全天运行。
本发明实施例中,视频处理单元TX2采用Jetson AGX Xavier平台,具有深度学习加速器DLA和视觉加速器VA,对双路视频采集卡的双路视频分别进行异物识别算法处理,再将识别结果叠加到原始视频,最后将两路视频融合到一个画面进行输出显示;视频处理单元TX2采用无线传输,具体采用以太网转4G方式,可以实现视频实时远距离无线传输。
本发明实施例中,铁轨异物检测算法首先对探测光学***拍摄的连续帧铁轨图像进行图像滤波去除噪声后,采用Hough变换提取图像中直线特征,并采用基于迭代分块模板匹配方法对直线特征进行拟合可以获取直道和弯道双侧铁轨轨道面区域,根据轨道面将异物检测区域确定为轨道面区域和双轨间区域,对两个区域分别采用不同的异物检测算法。
对轨道面区域和双轨间区域的完整的检测流程如图3所示,轨道面区域采用拉普拉斯变换获取梯度特征,梯度特征聚类拟合,然后判定轨道面是否存在异物;双轨间区域首先通过卷积神经网络训练获取无异物双轨图像的目标模型,根据目标模型和采集的图形进行推演识别,判定双轨间是否存在异物。
下面进行具体说明。
1、轨道面微小异物检测
轨道面成像特征为平整、光滑、颜色均一,当存在异物时会与正常轨道面呈现颜色差异,所以采用计算该区域对比度梯度差的方法,对该区域内图像采用拉普拉斯变换滤波获取梯度图,遍历梯度图检测是否存在梯度显著变换的小区域,如果存在某闭合小区域梯度有明显变化,则可判断轨道面存在异物。包括单帧图像的小目标检测技术和序列图像的小目标检测技术
单帧图像的小目标检测技术是由背景滤波算法可以得到目标的二值图像,可以采用基于区域生长的目标分割算法将目标分割出来,计算出目标的位置,波门大小,质心等信息。基于区域生长的目标分割的基本思想是将具有相似性质的像素集合起来构成区域,具体实现对每个分割的区域找个种子像素作为生长起点,具体说可以将白色点(目标点)作为种子,再将种子像素周围邻域中与种子像素有相同或相似性质的像素(根据事先确定的生长或相似准则来判定)合并到种子像素所在的区域中,进行区域生长。将这些新像素当做新的种子像素继续进行上面的过程,直到再没有满足条件的像素可以被包括进来,这样一个区域就长成了。
上述过程中所述的生长判定条件是按照灰度相似性来判断的,设已分割区域R的灰度均值为待测像素点灰度为y,则待测像素点与已分割区域相似性s表示为:
其中,w为非负权值,对于足够小的s,可认为待测像素与已分割区域相似,并入已分割的目标中,否则,不进行合并。同时用y更新均值,N是已生长区域的像素点个数。
序列图像的小目标检测技术是基于序列图像的目标检测,能够克服单帧图像检测中的噪声和虚假目标干扰问题,其基本原理是根据目标运动的连续性和轨迹一致性来检测目标。首先,需要建立图像平面上任意一点(x,y)的图像灰度的梯度变化与该点瞬时速度(u,v)之间的关系表达式作为其运动约束条件。如果考虑图像序列中连续的N帧图像,并假定目标的运动速度在这N帧图像里近似保持不变,则对于真正的运动目标点来说,其在连续的N帧图像里的N条运动约束直线必定在速度平面上近似相交于一点,而对于噪声点来说,由于其出现的随机性,不可能在连续图像中形成连续的运动轨迹,也不可能在速度平面上形成速度聚合点。这样就可以在候选的目标点集合中有效地去除噪声干扰点,检测出真正的运动目标。
算法是根据获得的数据对首帧目标的速度进行估计。如果估计的速度在指定的取值范围内,则生成一条暂时的轨迹,然后对后续帧中目标的位置进行预测,并以预测位置为中心,确定一个关联区域,任何落在关联区域内的点迹将生成一条新的轨迹,继续估计速度值和加速度值,并据此对下一帧中目标位置进行预测并生成关联区域。最后,对所有生成的轨迹用直线或二次曲线进行拟合,当轨迹上的点和拟合曲线的误差在一定范围内,则确认该目标轨迹,否则,删除该轨迹。
具体到本实施例中执行流程如图4所示,对首帧的所有候选目标建立目标模板;对后续帧图像中对应的候选目标与前帧的目标模板进行相关系数计算;直至相关系数大于阈值,则目标计数加1,并更新目标模板,当所有帧计算完毕,对每一个候选目标,如果目标计数大于阈值,则确认目标,对确认的目标建立轨迹。
2、双轨间异物检测
双轨间由于存在枕木,石块等多种不同种类物体,则可通过基于深度学习的目标检测算法进行异物排查。对预先采集的大量无异物条件下的双轨图像,进行卷积神经网络训练,获取目标模型,通过目标模型对每帧待检测的目标图像进行推演识别,如果存在与目标模型的不符的异常情况,则认为双轨间存在异物。
本发明实施例采用分层次的目标识别方案,流程图如图5所示。
(1)粗层次目标识别
当目标距离成像传感器较远时,目标成像面积较小,轮廓不清晰,可利用的图像特征信息十分有限,从有限的特征信息中提取目标面积、移动速度等特征,利用经验分类器预设先验知识,结合先验知识、上述提取的目标特征、以及之前获得的铁轨位置,对目标类别粗略识别。根据目标相对于铁轨的位置,可以判断出目标大致类别。如果目标较大可能是行人或牲畜;若目标较小则可能是微小异物。
(2)细层次目标识别
当目标距离成像传感器较近时,目标成像面积变大,轮廓和纹理都比较清晰时,可以提取目标上更多的特征信息,采用最近邻分类器对目标种类加以识别。
一般常用的目标特征包括形状特征和不变矩特征。形状特征可以反应目标的几何特征。如长宽比特征,即目标区域最小外接矩形的长度与宽度之比。另一种常见的形状特征是定义目标的周长与面积之比的圆形度特征。计算时,先分割出目标,然后利用轮廓计算出目标的链码表,利用链码表得到周长,再把链码表转化成线段表,计算出目标的面积。形状特征提取容易,在某些情况下(如能获取目标的侧视图)可以作为判断目标类别的依据,但是由于视点的变化,同一个目标在平面上投影的形状也不一定相同,这就需要提取目标具有不变性的特征,即这种特征对场景变换以及视点变化具有较强的不变性。比较有代表性的特征是Hu矩特征,该矩特征具有平移不变性、尺度不变性,以及旋转不变性,而且计算复杂度低,在图像处理和识别领域得到广泛应用。
根据Hu矩的定义,从二阶和三阶矩可以导出7个不变矩,这七个不变矩在连续图像条件下对平移,旋转,缩放具有保持不变的性质。
在选取了目标的图像特征后,采用最近邻分类法实现目标分类识别。假设目标类别为N,每一类训练样本数为Mi,第i类目标的第j个训练样本的第k维特征表示为首先,计算每类训练样本的特征向量平均值和标准差。
则每一类目标可由其样本平均特征向量来表示,其中,i=1,2,…Nc。
当对一个特征向量为X=[x1,x2,…,xD]的目标进行识别时,问题就转化为在N类已知目标的样本平均特征向量中寻找X的最近邻,X距离哪一类的样本平均特征向量最近,则目标X就被识别为该类型。
距离函数d(X,A(i))的定义如式。
当X满足时,目标X就属于第I类。
如上所述的最近邻分类计算后,可精细识别异物的目标类别。
本发明实施例所述方案基于铁路轨道面的异物在视频图像中的特性,通过梯度图检测梯度显著变换的小区域,从而能够精准检测出铁路轨道面上的微小异物,同时本发明基于铁路双轨间的异物在视频图像中的特性,建立无异物的轨道模型,进行推演识别,确保了铁路双轨间的异物检测的可靠性;二者相结合,能够实现铁路轨道上长距离、微小目标的精准异物检测。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (4)
1.基于机器视觉的铁路双轨间微小异物检测方法,其特征在于,包括:
S1、预先采集批量的无异物条件下的双轨图像,进行卷积神经网络训练,获取目标模型;
S2、通过探测光学设备采集连续帧铁轨图像并进行图像滤波去除噪声;
S3、提取图像特征确定双轨位置,将异物检测区域确定为轨道面区域和双轨间区域;
S4、通过目标模型对每帧待检测的目标图像双轨间区域进行推演识别,如果存在与目标模型的不符的异常情况,则认为双轨间存在异物;所述推演识别采用分层次的目标识别方法,包括粗层次目标识别和细层次目标识别;
步骤S4所述粗层次目标识别的方法包括:提取有限的图像特征信息,根据经验分类器设定的先验知识、铁轨位置、以及所述有限的图像特征对目标类别进行粗略识别,所述有限的图像特征包括目标面积、移动速度;
步骤S4所述细层次目标识别的方法包括:
S401、提取图像中目标形状特征和Hu矩特征;
S402、根据提取的形状特征和Hu矩特征,采用最近邻分类法实现目标分类识别;
所述最近邻分类法设异物目标类别为N,每一类训练样本数为Mi,第i类目标的第j个训练样本的第k维特征表示为首先,计算每类训练样本的特征向量平均值和标准差;
则每一类目标由其样本平均特征向量来表示,其中,i=1,2,…Nc;
当对一个特征向量为X=[x1,x2,…,xD]的目标进行识别时,在N类已知目标的样本平均特征向量中寻找X的最近邻;距离函数d(X,A(i))的定义如下式:
当X满足时,目标X就属于第I类异物,以此精细识别异物的目标类别。
2.根据权利要求1所述的基于机器视觉的铁路双轨间微小异物检测方法,其特征在于,步骤S2的具体方法包括:采用Hough变换提取图像中直线特征,并采用基于迭代分块模板匹配方法对直线特征进行拟合可以获取直道和弯道双侧铁轨轨道面区域,根据轨道面将异物检测区域确定为轨道面区域和双轨间区域。
3.基于机器视觉的铁路双轨间微小异物检测***,其特征在于,包括:
模型建立模块,先采集批量的无异物条件下的双轨图像,进行卷积神经网络训练,获取目标模型;
采集去噪模块,用于通过探测光学设备采集连续帧铁轨图像并进行图像滤波去除噪声;
区域划分模块,用于提取图像特征将异物检测区域确定为轨道面区域和双轨间区域;
推演识别模块,通过目标模型对每帧待检测的目标图像双轨间区域进行推演识别,如果存在与目标模型的不符的异常情况,则认为双轨间存在异物;所述推演识别采用分层次的目标识别方法,包括粗层次目标识别和细层次目标识别;
所述推演识别模块包括粗层次目标识别子模块,所述粗层次目标识别子模块包括:
有限提取单元,用于提取有限的图像特征信息,所述有限的图像特征包括目标面积、移动速度;
经验分类器单元,用于使用经验分类器设定先验知识;
粗略识别单元:根据经验分类器设定的先验知识、铁轨位置、以及所述有限的图像特征对目标类别进行粗略识别;
所述推演识别模块包括细层次目标识别子模块,所述括细层次目标识别子模块包括:
提取单元,用于提取图像中目标形状特征和Hu矩特征;
最近邻分类器单元,用于设定最近邻分类算法以及连接目标样本特征库;
精细识别单元,根据提取的形状特征和Hu矩特征,采用最近邻分类法实现目标分类识别;
精细识别单元中,设异物目标类别为N,每一类训练样本数为Mi,第i类目标的第j个训练样本的第k维特征表示为首先,计算每类训练样本的特征向量平均值和标准差;
则每一类目标由其样本平均特征向量来表示,其中,i=1,2,…Nc;
当对一个特征向量为X=[x1,x2,…,xD]的目标进行识别时,在N类已知目标的样本平均特征向量中寻找X的最近邻;距离函数d(X,A(i))的定义如下式:
当X满足时,目标X就属于第I类异物,以此精细识别异物的目标类别。
4.根据权利要求3所述的基于机器视觉的铁路双轨间微小异物检测***,其特征在于,区域划分模块包括:
直线特征提取单元,采用Hough变换提取图像中直线特征;
拟合单元,采用基于迭代分块模板匹配方法对直线特征进行拟合可以获取直道和弯道双侧铁轨轨道面区域;
区域单元,根据轨道面将异物检测区域确定为轨道面区域和双轨间区域。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011355748.5A CN112508893B (zh) | 2020-11-27 | 2020-11-27 | 基于机器视觉的铁路双轨间微小异物检测方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011355748.5A CN112508893B (zh) | 2020-11-27 | 2020-11-27 | 基于机器视觉的铁路双轨间微小异物检测方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112508893A CN112508893A (zh) | 2021-03-16 |
CN112508893B true CN112508893B (zh) | 2024-04-26 |
Family
ID=74966755
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011355748.5A Active CN112508893B (zh) | 2020-11-27 | 2020-11-27 | 基于机器视觉的铁路双轨间微小异物检测方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112508893B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113673614B (zh) * | 2021-08-25 | 2023-12-12 | 北京航空航天大学 | 基于机器视觉的地铁隧道异物入侵检测装置及方法 |
CN114457746B (zh) * | 2022-04-13 | 2022-08-16 | 中铁第四勘察设计院集团有限公司 | 基于图像处理的水射流钢轨打磨车吹吸污方法及*** |
Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0696220A (ja) * | 1992-09-16 | 1994-04-08 | Fujitsu Ltd | 階層型ニューラルネットワークを用いた物体認識方式 |
JP2002008019A (ja) * | 2000-06-21 | 2002-01-11 | Fuji Heavy Ind Ltd | 軌道認識装置及び軌道認識装置を用いた鉄道車両 |
SG140590A1 (en) * | 2004-06-11 | 2008-03-28 | Stratech Systems Ltd | Method and system for rail track scanning and foreign object detection |
CN102663352A (zh) * | 2012-03-23 | 2012-09-12 | 华南理工大学 | 一种轨道识别方法 |
CN103617435A (zh) * | 2013-12-16 | 2014-03-05 | 苏州大学 | 一种主动学习图像分类方法和*** |
CN105809679A (zh) * | 2016-03-04 | 2016-07-27 | 李云栋 | 一种基于视觉分析的山区铁路边坡落石检测方法 |
CN106845493A (zh) * | 2016-12-06 | 2017-06-13 | 西南交通大学 | 铁路轨道近景影像钢轨边缘的识别与匹配方法 |
CN108197610A (zh) * | 2018-02-02 | 2018-06-22 | 北京华纵科技有限公司 | 一种基于深度学习的轨道异物检测*** |
WO2019000653A1 (zh) * | 2017-06-30 | 2019-01-03 | 清华大学深圳研究生院 | 一种图像目标识别方法及装置 |
CN109658421A (zh) * | 2018-11-30 | 2019-04-19 | 中国农业大学 | 一种多目标图像的分割方法 |
CN110062727A (zh) * | 2016-10-20 | 2019-07-26 | 铁路视像有限公司 | 用于铁路应用的避碰中物体和障碍物检测与分类的***及方法 |
CN110232682A (zh) * | 2019-05-31 | 2019-09-13 | 宁波中车时代传感技术有限公司 | 一种基于图像的轨道异物探测方法 |
CN111582084A (zh) * | 2020-04-24 | 2020-08-25 | 北京航空航天大学 | 基于弱监督学习的空基视角下的铁轨异物检测方法及*** |
CN111626203A (zh) * | 2020-05-27 | 2020-09-04 | 北京伟杰东博信息科技有限公司 | 一种基于机器学习的铁路异物识别方法及*** |
CN111626169A (zh) * | 2020-05-20 | 2020-09-04 | 中铁二院工程集团有限责任公司 | 一种基于图像的铁路危险落石尺寸判断方法 |
-
2020
- 2020-11-27 CN CN202011355748.5A patent/CN112508893B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0696220A (ja) * | 1992-09-16 | 1994-04-08 | Fujitsu Ltd | 階層型ニューラルネットワークを用いた物体認識方式 |
JP2002008019A (ja) * | 2000-06-21 | 2002-01-11 | Fuji Heavy Ind Ltd | 軌道認識装置及び軌道認識装置を用いた鉄道車両 |
SG140590A1 (en) * | 2004-06-11 | 2008-03-28 | Stratech Systems Ltd | Method and system for rail track scanning and foreign object detection |
CN102663352A (zh) * | 2012-03-23 | 2012-09-12 | 华南理工大学 | 一种轨道识别方法 |
CN103617435A (zh) * | 2013-12-16 | 2014-03-05 | 苏州大学 | 一种主动学习图像分类方法和*** |
CN105809679A (zh) * | 2016-03-04 | 2016-07-27 | 李云栋 | 一种基于视觉分析的山区铁路边坡落石检测方法 |
CN110062727A (zh) * | 2016-10-20 | 2019-07-26 | 铁路视像有限公司 | 用于铁路应用的避碰中物体和障碍物检测与分类的***及方法 |
CN106845493A (zh) * | 2016-12-06 | 2017-06-13 | 西南交通大学 | 铁路轨道近景影像钢轨边缘的识别与匹配方法 |
WO2019000653A1 (zh) * | 2017-06-30 | 2019-01-03 | 清华大学深圳研究生院 | 一种图像目标识别方法及装置 |
CN108197610A (zh) * | 2018-02-02 | 2018-06-22 | 北京华纵科技有限公司 | 一种基于深度学习的轨道异物检测*** |
CN109658421A (zh) * | 2018-11-30 | 2019-04-19 | 中国农业大学 | 一种多目标图像的分割方法 |
CN110232682A (zh) * | 2019-05-31 | 2019-09-13 | 宁波中车时代传感技术有限公司 | 一种基于图像的轨道异物探测方法 |
CN111582084A (zh) * | 2020-04-24 | 2020-08-25 | 北京航空航天大学 | 基于弱监督学习的空基视角下的铁轨异物检测方法及*** |
CN111626169A (zh) * | 2020-05-20 | 2020-09-04 | 中铁二院工程集团有限责任公司 | 一种基于图像的铁路危险落石尺寸判断方法 |
CN111626203A (zh) * | 2020-05-27 | 2020-09-04 | 北京伟杰东博信息科技有限公司 | 一种基于机器学习的铁路异物识别方法及*** |
Non-Patent Citations (3)
Title |
---|
一种基于图像处理的铁轨自动检测方法;关鹏;顾晓东;张立明;;计算机工程;20071005(第19期);全文 * |
基于Hu不变矩特征的铁路轨道识别检测算法;董昱;郭碧;;铁道学报(第10期);全文 * |
基于分层次模型的自动目标识别方法;张正;王宏琦;孙皓;宁忠磊;;***工程与电子技术(第03期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN112508893A (zh) | 2021-03-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109878552B (zh) | 基于机器视觉的轨道交通站台门与列车间异物监测装置 | |
CN105809679B (zh) | 一种基于视觉分析的山区铁路边坡落石检测方法 | |
CN106541968B (zh) | 基于视觉分析的地铁车厢实时提示***的识别方法 | |
CN109635758B (zh) | 智慧工地基于视频的高空作业人员安全带穿戴检测方法 | |
CN103164858A (zh) | 基于超像素和图模型的粘连人群分割与跟踪方法 | |
CN112508893B (zh) | 基于机器视觉的铁路双轨间微小异物检测方法及*** | |
CN107911663A (zh) | 一种基于计算机视觉检测的电梯乘客危险行为智能识别预警*** | |
CN109948455B (zh) | 一种遗留物体检测方法及装置 | |
CN103824070A (zh) | 一种基于计算机视觉的快速行人检测方法 | |
CN109145708A (zh) | 一种基于rgb和d信息融合的人流量统计方法 | |
CN103605967A (zh) | 一种基于图像识别的地铁防逃票***及其工作方法 | |
CN110969131B (zh) | 一种基于场景流的地铁人流计数方法 | |
CN102915433A (zh) | 基于字符组合的车牌定位和识别方法 | |
CN111667655A (zh) | 基于红外图像的高速铁路安全区入侵警报装置及方法 | |
CN112132071A (zh) | 识别交通拥堵的处理方法、装置、设备及存储介质 | |
CN104517095A (zh) | 一种基于深度图像的人头分割方法 | |
CN103400113A (zh) | 基于图像处理的高速公路隧道行人检测方法 | |
CN113298059A (zh) | 受电弓异物入侵检测方法、装置、计算机设备、***及存储介质 | |
CN107909012A (zh) | 一种基于视差图的实时车辆跟踪检测方法与装置 | |
CN106851229A (zh) | 一种基于图像识别的安防智能决策的方法与*** | |
CN111523386B (zh) | 一种基于机器视觉的高速铁路站台门监测防护方法及*** | |
CN115546738A (zh) | 一种铁轨异物检测方法 | |
CN115600124A (zh) | 地铁隧道巡检***及巡检方法 | |
CN113673614B (zh) | 基于机器视觉的地铁隧道异物入侵检测装置及方法 | |
Yao et al. | Image based obstacle detection for automatic train supervision |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |