CN118072148B - 一种精密滚珠丝杠副检测***及其方法 - Google Patents
一种精密滚珠丝杠副检测***及其方法 Download PDFInfo
- Publication number
- CN118072148B CN118072148B CN202410503726.0A CN202410503726A CN118072148B CN 118072148 B CN118072148 B CN 118072148B CN 202410503726 A CN202410503726 A CN 202410503726A CN 118072148 B CN118072148 B CN 118072148B
- Authority
- CN
- China
- Prior art keywords
- target
- image
- module
- yolov
- ball screw
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 84
- 238000000034 method Methods 0.000 title claims abstract description 44
- 230000002159 abnormal effect Effects 0.000 claims abstract description 68
- 238000012937 correction Methods 0.000 claims abstract description 66
- 230000005856 abnormality Effects 0.000 claims abstract description 44
- 238000012549 training Methods 0.000 claims abstract description 35
- 230000004927 fusion Effects 0.000 claims abstract description 18
- 238000003702 image correction Methods 0.000 claims abstract description 11
- 239000013598 vector Substances 0.000 claims description 23
- 238000003384 imaging method Methods 0.000 claims description 22
- 238000012545 processing Methods 0.000 claims description 16
- 230000000007 visual effect Effects 0.000 claims description 11
- 238000013526 transfer learning Methods 0.000 claims description 6
- 238000011176 pooling Methods 0.000 claims description 4
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000002372 labelling Methods 0.000 claims description 3
- 238000009825 accumulation Methods 0.000 claims description 2
- 230000008569 process Effects 0.000 abstract description 19
- 230000015556 catabolic process Effects 0.000 abstract description 9
- 238000006731 degradation reaction Methods 0.000 abstract description 9
- 238000003745 diagnosis Methods 0.000 abstract description 9
- 230000005540 biological transmission Effects 0.000 abstract description 8
- 238000000605 extraction Methods 0.000 abstract description 8
- 230000003993 interaction Effects 0.000 abstract description 8
- 238000004891 communication Methods 0.000 description 5
- 238000012935 Averaging Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 238000007499 fusion processing Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008094 contradictory effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
Abstract
本发明涉及滚珠丝杠副检测技术领域,提供一种精密滚珠丝杠副检测***及其方法,包括精密滚珠丝杠副检测中台、双目摄像模块、图像矫正模块、区域确定模块、图像融合模块和异常检测模块;异常检测模块为目标YOLOv8模型;目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,且基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到。本发明结合Swin Transformer模块和渐近特征金字塔网络的目标YOLOv8模型对畸变矫正后图像进行异常检测,有效提升了全局信息提取能力,并避免了特征信息在传输和交互过程中的丢失或退化,进而提升了待检测精密滚珠丝杠副异常诊断的准确性和稳健性。
Description
技术领域
本发明涉及滚珠丝杠副检测技术领域,尤其涉及一种精密滚珠丝杠副检测***及其方法。
背景技术
在数控机床、机器人、印刷机械、航空航天等领域中,精密滚珠丝杠副扮演着至关重要的角色。精密滚珠丝杠副通常在高温、低温、高湿度、腐蚀性气体等工作环境下运行,长期在这样的环境下工作容易使得设备受到损耗、腐蚀、磨损,进而引发异常。因此,对精密滚珠丝杠副进行异常诊断具有重要意义。
现有的对精密滚珠丝杠副异常诊断主要有YOLO模型,YOLO模型是一种具有代表性的单阶段目标检测算法,但是,YOLO模型在处理小物体或者场景中目标密集区域时可能存在漏检测或定位不准确的问题,从而导致现有精密滚珠丝杠副检测方法对精密滚珠丝杠副小目标、低质量图像或复杂场景的处理不够鲁棒,且检测过程中存在深层特征的语义信息易丢失或退化的问题。
发明内容
本发明提供一种精密滚珠丝杠副检测***及其方法,可以有效提升了全局信息提取能力,并避免了特征信息在传输和交互过程中的丢失或退化,提升待检测精密滚珠丝杠副异常诊断的准确性和稳健性。
本发明解决上述技术问题的技术方案如下:
一种精密滚珠丝杠副检测***,包括精密滚珠丝杠副检测中台、双目摄像模块、图像矫正模块、区域确定模块、图像融合模块和异常检测模块;所述异常检测模块为目标YOLOv8模型;所述精密滚珠丝杠副检测中台分别与所述双目摄像模块、所述图像矫正模块、所述图像融合模块、所述区域确定模块和所述异常检测模块连接,对各个模块的数据进行存储和管理;
所述双目摄像模块,用于采集待检测精密滚珠丝杠副的左侧原始图像和右侧原始图像;
所述图像矫正模块,用于对所述左侧原始图像和所述右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像;
所述双目摄像模块还用于在所述待检测精密滚珠丝杠副位于所述双目摄像模块的预设位置的情况下,获取所述待检测精密滚珠丝杠副的左侧半边图像和右侧半边图像;
所述区域确定模块,用于基于所述左侧半边图像、所述右侧半边图像、所述左侧原始图像和所述右侧原始图像,确定所述双目摄像模块的重叠视野区域;
所述图像融合模块,用于基于所述左侧目标图像、所述右侧目标图像和所述重叠视野区域进行融合,得到畸变矫正后图像;
所述异常检测模块,用于将所述畸变矫正后图像输入至所述目标YOLOv8模型,获得所述目标YOLOv8模型输出的异常检测结果;
所述目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,且基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到。
本发明还提供了一种精密滚珠丝杠副检测方法,其特征在于,包括:
基于双目摄像设备采集待检测精密滚珠丝杠副的左侧原始图像和右侧原始图像;
对所述左侧原始图像和所述右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像;
在所述待检测精密滚珠丝杠副位于所述双目摄像设备的预设位置的情况下,基于所述双目摄像设备采集所述待检测精密滚珠丝杠副的左侧半边图像和右侧半边图像;
基于所述左侧半边图像、所述右侧半边图像、所述左侧原始图像和所述右侧原始图像,确定所述双目摄像设备的重叠视野区域;
基于所述左侧目标图像、所述右侧目标图像和所述重叠视野区域进行融合,得到畸变矫正后图像;
将所述畸变矫正后图像输入至目标YOLOv8模型,获得所述目标YOLOv8模型输出的异常检测结果;
所述目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,且基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到。
本发明还提供一种电子设备,包括:存储器,用于存储计算机软件程序;处理器,用于读取并执行所述计算机软件程序,进而实现如上述任一种所述精密滚珠丝杠副检测方法。
本发明还提供一种非暂态计算机可读存储介质,其特征在于,所述存储介质中存储有计算机软件程序,所述计算机软件程序被处理器执行时实现如上述任一种所述精密滚珠丝杠副检测方法。
本发明还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上述任一种所述精密滚珠丝杠副检测方法。
本发明的有益效果是:通过结合Swin Transformer模块和渐近特征金字塔网络,改进得到目标YOLOv8模型,并使用目标YOLOv8模型对待检测精密滚珠丝杠副的畸变矫正后图像进行异常检测,有效提升了全局信息提取能力,并避免了特征信息在传输和交互过程中的丢失或退化,进而提升了待检测精密滚珠丝杠副异常诊断的准确性和稳健性。
附图说明
图1是本发明提供的精密滚珠丝杠副检测***的结构示意图;
图2是本发明提供的精密滚珠丝杠副检测方法的流程示意图;
图3是本发明提供的电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明的描述中,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本发明的描述中,术语“例如”一词用来表示“用作例子、例证或说明”。本发明中被描述为“例如”的任何实施例不一定被解释为比其它实施例更优选或更具优势。为了使本领域任何技术人员能够实现和使用本发明,给出了以下描述。在以下描述中,为了解释的目的而列出了细节。应当明白的是,本领域普通技术人员可以认识到,在不使用这些特定细节的情况下也可以实现本发明。在其它实例中,不会对公知的结构和过程进行详细阐述,以避免不必要的细节使本发明的描述变得晦涩。因此,本发明并非旨在限于所示的实施例,而是与符合本发明所公开的原理和特征的最广范围相一致。
参照图1,图1是本发明提供的精密滚珠丝杠副检测***的结构示意图,精密滚珠丝杠副检测***,包括精密滚珠丝杠副检测中台、双目摄像模块、图像矫正模块、区域确定模块、图像融合模块和异常检测模块。
进一步地,异常检测模块为目标YOLOv8模型,目标YOLOv8模型包括SwinTransformer模块和渐近特征金字塔网络,且基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到。
进一步地,精密滚珠丝杠副检测中台分别与双目摄像模块、图像矫正模块、图像融合模块、区域确定模块和异常检测模块连接,对双目摄像模块、图像矫正模块、区域确定模块、图像融合模块和异常检测模块的数据进行存储和管理。
进一步地,双目摄像模块包括左目摄像模块和右目摄像模块,因此,双目摄像模块可以采集待检测精密滚珠丝杠副的左侧原始图像和右侧原始图像。
进一步地,图像矫正模块对左侧原始图像和右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像。
进一步地,在待检测精密滚珠丝杠副位于双目摄像模块的预设位置的情况下,双目摄像模块获取待检测精密滚珠丝杠副的左侧半边图像和右侧半边图像。
进一步地,区域确定模块根据左侧半边图像、右侧半边图像、左侧原始图像和右侧原始图像,确定双目摄像模块的重叠视野区域。
进一步地,图像融合模块根据左侧目标图像、右侧目标图像和重叠视野区域进行融合,得到畸变矫正后图像。
进一步地,异常检测模块将畸变矫正后图像输入至目标YOLOv8模型,获得目标YOLOv8模型输出的异常检测结果。
本发明实施例通过结合Swin Transformer模块和渐近特征金字塔网络,改进得到目标YOLOv8模型,并使用目标YOLOv8模型对待检测精密滚珠丝杠副的畸变矫正后图像进行异常检测,有效提升了全局信息提取能力,并避免了特征信息在传输和交互过程中的丢失或退化,进而提升了待检测精密滚珠丝杠副异常诊断的准确性和稳健性。
在一可选实施例中,参照图2,图2是本发明提供的精密滚珠丝杠副检测方法的流程示意图,该方法包括:
步骤10,基于双目摄像设备采集待检测精密滚珠丝杠副的左侧原始图像和右侧原始图像。
其中,左侧原始图像和右侧原始图像的数量均可以为至少2幅,每幅左侧原始图像是由双目摄像头中的左侧摄像头拍摄待检测精密滚珠丝杠副后所得的圆形图像,每幅右侧原始图像均是由双目摄像头中的右侧摄像头拍摄待检测精密滚珠丝杠副后所得的圆形图像。
待检测精密滚珠丝杠副的数量可以为1个或者为多个,当待检测精密滚珠丝杠副的数量为多个时,每相邻两个待检测精密滚珠丝杠副的直径各不相同;当待检测精密滚珠丝杠副的数量为1个时,该个待检测精密滚珠丝杠副具体为同心圆形标定板,同心圆形标定板中含有多个不同直径的同心圆,如有4个不同直径的同心圆,其直径为200mm、300mm、350mm和400mm。
具体的,当待检测精密滚珠丝杠副经由传送带到达双目摄像头的摄像范围内时,左侧摄像头会拍摄待检测精密滚珠丝杠副并得到一组左侧原始图像,再进一步将拍摄得到的一组左侧原始图像发送至电子设备;与此同时,右侧摄像头也会拍摄待检测精密滚珠丝杠副并得到一组右侧原始图像,再进一步将拍摄得到的一组右侧原始图像发送至电子设备;至此,电子设备可以获取到双目摄像模块获取的左侧原始图像和右侧原始图像。
步骤20,对左侧原始图像和右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像。
考虑到待检测精密滚珠丝杠副即使旋转通过传送带旋转进入双目摄像模块的摄像范围的情况下,双目摄像模块也均不存在纵向畸变且均存在横向畸变,因此只需矫正双目摄像模块的横向畸变。基于此,电子设备利用预先设置的横向畸变矫正算法确定双目摄像模块对应的左侧矫正系数和右侧矫正系数,并通过左侧矫正系数对左侧原始图像进行横向畸变矫正,以及通过右侧矫正系数对右侧原始图像进行横向畸变矫正,即可得到横向畸变矫正后的左侧目标图像和右侧目标图像。
在一实施例中,左侧目标图像的数量与左侧原始图像的数量相同且一一对应,右侧目标图像的数量与右侧原始图像的数量相同且一一对应。
步骤30,在待检测精密滚珠丝杠副位于双目摄像设备的预设位置的情况下,基于双目摄像设备采集待检测精密滚珠丝杠副的左侧半边图像和右侧半边图像。
其中,左侧半边图像和右侧半边图像的数量均可以为至少2幅。
示例性的,预设位置具体可以为双目摄像模块的中间位置。
具体的,在待检测精密滚珠丝杠副放置于双目摄像模块的中间位置的情况下,左侧摄像头和右侧摄像头各自的摄像范围内均会出现不完整的半边标定板,此时,左侧摄像头会拍摄对应的半边标定板并得到一组左侧半边图像,再进一步将拍摄得到的一组左侧半边图像发送至电子设备;与此同时,右侧摄像头也会拍摄对应的半边标定板并得到一组右侧半边图像,再进一步将拍摄得到的一组右侧半边图像发送至电子设备;至此,电子设备可以获取到双目摄像模块拍摄的左侧半边图像和右侧半边图像。
步骤40,基于左侧半边图像、右侧半边图像、左侧原始图像和右侧原始图像,确定双目摄像设备的重叠视野区域。
可以理解的是,由于将待检测精密滚珠丝杠副放置于双目摄像模块的中间位置进行拍摄时,双目摄像模块各自的拍摄视野不可避免地会存在重叠并分别拍摄对应的半边标定板,因此,电子设备可以结合双目摄像模块存在重叠时拍摄的左侧半边图像和右侧半边图像,以及不存在重叠时拍摄的左侧原始图像和右侧原始图像进行重叠区域标定,从而得到双目摄像模块的重叠视野区域。
示例性的,可以首先确定多幅左侧半边图像和多幅右侧半边图像各自对应的横向直径均值,再对各横向直径均值进行均值计算,然后基于均值计算结果、多幅左侧半边图像对应的不完整横向直径均值和多幅右侧半边图像对应的不完整横向直径均值进行重叠区域标定,即可得到双目摄像模块的重叠视野区域。
步骤50,基于左侧目标图像、右侧目标图像和重叠视野区域进行融合,得到畸变矫正后图像。
电子设备可以先从左侧目标图像中选取不含待检测精密滚珠丝杠副的纯色子区域,并将左侧目标图像的纯色子区域与重叠视野区域相减,然后再将相减所得区域图像与右侧目标图像进行拼接,即可得到畸变矫正后图像。
步骤60,将畸变矫正后图像输入至目标YOLOv8模型,获得目标YOLOv8模型输出的异常检测结果。在本发明实施例中,目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,且目标YOLOv8模型是基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到。
进一步地,将畸变矫正后图像输入到预先训练好的目标YOLOv8模型中,即可得到输出的异常检测结果,异常检测结果包括待检测精密滚珠丝杠副的异常位置和异常类别。需要着重说明的是,本实施例所适用的目标YOLOv8模型是通过改进原始YOLOv8模型得到的。
具体来说,在原始YOLOv8模型的基础上,将原始YOLOv8模型的骨干网络中的C2f模块替换为Swin Transformer模块,以提高对检测目标的注意力能力,以及,采用渐近特征金字塔网络加强多尺度特征融合过程,以避免特征信息在传输和交互过程中的丢失或退化。关于对原始YOLOv8模型进行改进的过程,在后文实施例中会详细展开,在此不做详述。
还需要说明的是,目标YOLOV8模型是预先训练好的,具体地,是目标YOLOv8模型基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到的。
其中,螺母异常数据集和滚珠丝杠异常数据集由螺母异常图像/待检测精密滚珠丝杠副异常图像及其对应的标签标注构成。
本发明实施例将畸变矫正后图像输入至预先训练的目标YOLOv8模型,获得目标YOLOv8模型输出的异常检测结果;其中,目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,目标YOLOv8模型基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到。该方法通过结合Swin Transformer模块和渐近特征金字塔网络,改进得到目标YOLOv8模型,并使用目标YOLOv8模型对待检测精密滚珠丝杠副的畸变矫正后图像进行异常检测,有效提升了全局信息提取能力,并避免了特征信息在传输和交互过程中的丢失或退化,进而提升了待检测精密滚珠丝杠副异常诊断的准确性和稳健性。
在一可选实施例中,步骤20对左侧原始图像和右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像,包括:
在左侧摄像头拍摄待检测精密滚珠丝杠副得到多幅左侧原始图像,以及右侧摄像头拍摄待检测精密滚珠丝杠副得到多幅右侧原始图像的情况下,确定多幅左侧原始图像对应的左侧畸变系数以及多幅右侧原始图像对应的右侧畸变系数;基于左侧畸变系数对多幅左侧原始图像分别进行纵向拉伸,确定各左侧目标图像;基于右侧畸变系数对多幅右侧原始图像分别进行纵向拉伸,确定各右侧目标图像。
需要说明的是,由于双目摄像模块均只存在横向畸变,因此,当左侧摄像头拍摄待检测精密滚珠丝杠副得到一组左侧原始图像、右侧摄像头拍摄待检测精密滚珠丝杠副得到一组右侧原始图像时,电子设备可以计算每幅左侧原始图像的左侧横向参数值、再对各左侧横向参数值求取平均值后得到左侧横向参数平均值,以及计算每幅左侧原始图像的左侧纵向参数值、再对各左侧纵向参数值求取平均值后得到左侧纵向参数平均值,并将左侧横向参数平均值与左侧纵向参数平均值的比值确定为左侧畸变系数,例如将左侧畸变系数记为a1。
同样的,电子设备还可以计算每幅右侧原始图像的右侧横向参数值、再对各右侧横向参数值求取平均值后得到右侧横向参数平均值,以及计算每幅右侧原始图像的右侧纵向参数值、再对各右侧纵向参数值求取平均值后得到右侧纵向参数平均值,并将右侧横向参数平均值与右侧纵向参数平均值的比值确定为右侧畸变系数,例如将右侧畸变系数记为a2。
此时,电子设备可以通过将每幅左侧原始图像均纵向拉伸a1倍的方式,确定每幅左侧原始图像对应的左侧目标图像;同样的,还可以通过将每幅右侧原始图像均纵向拉伸a2倍的方式,确定每幅右侧原始图像对应的右侧目标图像。这样,可以实现对左侧原始图像和右侧原始图像分别进行横向畸变矫正的目的,为后续图像融合效果提供可靠保障。
在一可选实施例中,确定多幅左侧原始图像对应的左侧畸变系数以及多幅右侧原始图像对应的右侧畸变系数,包括:
分别确定每幅左侧原始图像的左侧横向直径和左侧纵向直径,以及确定每幅右侧原始图像的右侧横向直径和右侧纵向直径;分别确定各左侧横向直径对应的左侧目标横向直径和各左侧纵向直径对应的左侧目标纵向直径,以及确定各右侧横向直径对应的右侧目标横向直径和各右侧纵向直径对应的右侧目标横向直径;将左侧目标横向直径和左侧目标纵向直径的比值确定为左侧畸变系数,以及将右侧目标横向直径和右侧目标横向直径的比值确定为右侧畸变系数。
其中,左侧目标横向直径具体可以为左侧横向直径平均值,左侧目标纵向直径具体可以为左侧纵向直径平均值,右侧目标横向直径具体可以为右侧横向直径平均值,右侧目标横向直径具体可以为右侧横向直径平均值。
示例性的,当左侧摄像头拍摄待检测精密滚珠丝杠副得到至少两幅左侧原始图像、右侧摄像头拍摄待检测精密滚珠丝杠副得到至少两幅右侧原始图像时,电子设备可以计算每幅左侧原始图像的左侧横向直径、再对各左侧横向直径求取平均值后得到左侧横向直径平均值(D_H1),以及计算每幅左侧原始图像的左侧纵向直径、再对各左侧纵向直径求取平均值后得到左侧纵向直径平均值(D_Z1),并将左侧横向直径平均值与左侧纵向直径平均值的比值确定为左侧畸变系数a1,a1=D_H1/D_Z1。
同样的,电子设备还可以计算每幅右侧原始图像的右侧横向直径、再对各右侧横向直径求取平均值后得到右侧横向直径平均值(D_H2),以及计算每幅右侧原始图像的右侧纵向直径、再对各右侧纵向直径求取平均值后得到右侧纵向直径平均值(D_Z2),并将右侧横向直径平均值与右侧纵向直径平均值的比值确定为右侧畸变系数a2,a2=D_H2/D_Z2。
在一可选实施例中,确定每幅左侧原始图像的左侧横向直径和左侧纵向直径,包括:
确定左侧原始图像的待处理外轮廓,并对待处理外轮廓内的初始轮廓内圆形图像依次进行灰度处理、二值化处理和干扰点去除处理,基于处理结果确定目标轮廓内圆形图像;确定目标轮廓内圆形图像中像素值累加结果最小的目标列像素和目标行像素;基于目标列像素确定目标列边界点,以及基于目标行像素确定目标行边界点;基于目标列边界点对应的横向直线确定左侧横向直径,以及基于目标行边界点对应的纵向直线确定左侧纵向直径。
具体的,对于各左侧原始图像中的任意一幅左侧原始图像,首先从该幅左侧原始图像含有的至少一个圆形轮廓中选取一个圆形轮廓作为待处理外轮廓,如含有3个同心圆形轮廓时可以将最大圆形轮廓作为待处理外轮廓,或者将最小圆形轮廓作为待处理外轮廓,或者将中间圆形轮廓作为待处理外轮廓;再对该待处理外轮廓内的初始轮廓内圆形图像先进行灰度化、再进行二值化,此时的二值化圆形图像中白色的像素值为1、黑色的像素值为0,此操作目的是准确提取白色区域;再通过形态学等图像处理方法,对二值化图像进行干扰点去除处理,如去除白色区域中的黑点以及黑色区域中的白点等,从而得到目标轮廓内圆形图像。
进一步地,将该目标轮廓内圆形图像分别进行逐列像素值相加以及逐行像素值相加,并根据各行像素值累加结果和各列像素值累加结果确定像素值累加结果最小的目标列像素和目标行像素。
此时,根据目标列像素中所含白色像素点的数量确定目标列像素中的列边界点,以及根据目标行像素中所含白色像素点的数量确定目标行边界点。例如,若目标列像素中含有1个白色像素点时,可以将该个白色像素点作为目标列边界点;若目标列像素中含有至少两个白色像素点时,可以取中间位置的白色像素点作为目标列边界点。这样,通过沿目标列边界点绘制横向直线的方式,确定左侧原始图像的左侧横向直径,以及通过沿目标行边界点绘制纵向直线的方式,确定左侧原始图像的左侧纵向直径,
需要说明的是,对于每幅右侧原始图像的右侧横向直径和右侧纵向直径,其确定过程可以参照每幅左侧原始图像的左侧横向直径和左侧纵向直径的具体确定过程。此处不再赘述。
进一步地,为了确保待处理外轮廓的选取更加准确,对于含有多个同心圆形轮廓的左侧原始图像可以先进行反色处理、后选取待处理外轮廓。基于此,电子设备确定左侧原始图像的待处理外轮廓,其具体实现过程可以包括:
在待检测精密滚珠丝杠副为含有多个不同直径的同心圆标定板的情况下,对左侧原始图像进行反色处理;从反色处理后所得标定板图像含有的多个圆环区域中确定目标圆环区域,并将目标圆环区域的外轮廓确定为待处理外轮廓。
示例性的,当待检测精密滚珠丝杠副是同心圆标定板时,通过左侧摄像头拍摄待检测精密滚珠丝杠副可以得到左侧原始图像,此时对左侧原始图像进行反色处理,即通过将左侧原始图像上每个像素点的像素值均作为255的减数进行减法运算的方式进行反色处理,如255-每个像素点的像素值,可以得到反色处理后所得标定板图像;从反色处理后所得标定板图像含有的多个圆环区域中选取最小圆环区域、最大圆环区域或者最小圆环区域和最大圆环区域之间的任一圆环区域,作为目标圆环区域,以便于将目标圆环区域的外轮廓确定为待处理外轮廓。这样,也能确保后续二值化效果更加,防止干扰的效果也更好。
需要说明的是,之所以将待检测精密滚珠丝杠副设置为含有多个不同直径的同心圆,是为了一次拍摄完成时可以同时得到多个不同尺寸的标定板圆形图像,这样,通过计算每幅标定板圆形图像的横向直径和纵向直径并求取平均值的方式,确保精密滚珠丝杠副检测的准确率。
在一可选实施例中,步骤40基于左侧半边图像、右侧半边图像、左侧原始图像和右侧原始图像,确定双目摄像设备的重叠视野区域,包括:
在左侧半边图像、右侧半边图像、左侧原始图像和右侧原始图像的数量分别为多幅的情况下,确定多幅左侧半边图像对应的第一目标轴向距离和多幅右侧半边图像对应的第二目标轴向距离;基于各左侧目标图像对应的左侧目标横向直径和各右侧目标图像对应的左侧目标横向直径,确定目标横向直径均值;基于第一目标轴向距离、第二目标轴向距离和目标横向直径均值,确定重叠视野区域。
具体的,将待检测精密滚珠丝杠副置于双目摄像模块的中间位置进行拍摄,左侧摄像头和右侧摄像头各自镜头下均会出现不完整的半边,拍摄得到也是一组左侧半边图像和一组右侧半边图像,此时计算每幅左侧半边图像的左侧不完整横向直径以及计算每幅右侧半边图像的右侧不完整横向直径,对各左侧不完整横向直径求平均并将所得均值作为多幅左侧半边图像对应的第一目标轴向距离(D_B1);同样的,对各右侧不完整横向直径求平均并将所得均值作为多幅右侧半边图像对应的第二目标轴向距离(D_B2)。
此时,调用前述计算的左侧横向直径平均值(D_H1)和右侧横向直径平均值(D_H2),对左侧横向直径平均值(D_H1)和右侧横向直径平均值(D_H2)求平均并将所得平均值确定为目标横向直径均值(D);以此防止误差。这样,可以得到重叠视野区域(Gap_D),Gap_D=D_B1+D_B2-D。
在一可选实施例中,步骤50基于左侧目标图像、右侧目标图像和重叠视野区域进行融合,得到畸变矫正后图像,包括:
确定左侧目标图像的预设像素值子区域与重叠视野区域之间的差值区域;对差值区域和右侧目标图像进行拼接,并基于拼接结果确定畸变矫正后图像。
示例性的,预设像素值子区域可以为左侧目标图像中像素值均为0的部分区域。具体的,电子设备对于左侧摄像头拍摄的左侧原始图像经横向畸变矫正后得到的左侧目标图像,以及右侧摄像头拍摄的右侧原始图像经横向畸变矫正后得到的右侧目标图像,可以将左侧目标图像的右半纯黑区域与重叠视野区域相减,以此去掉重叠视野区域;再将相减结果图像与右侧目标图像进行拼接,即可得到畸变矫正后图像。
在上述实施例的基础上,以下将针对改进原始YOLOv8模型得到目标YOLOv8模型的过程展开详细描述。
原始YOLOv8模型包括骨干网络(Backbone)、Neck网络(Neck)以及预测网络(Head)。其中,骨干网络包括5个卷积模块(ConvModule)、4个C2f模块(CSPLayer_2Conv)和1个空间金字塔池化模块(SPPF)。Neck网络包括3个卷积模块、4个C2f模块、2个上采样模块(Upsample)和4个连接层(Concat)。
预测网络包括6个卷积模块和6个二维卷积层(Conv2d),每个二维卷积层输出当前的训练损失,即Bbox_loss(矩形框损失)和Cls_loss(分类损失)。
根据上述可知,原始YOLOv8模型包含了多个CNN(Convolutional NeuralNetwork,卷积神经网络)层,而CNN层仅擅长于捕获局部信息。因此,原始YOLOv8模型包括骨干网络、Neck网络以及预测网络,骨干网络包括卷积模块、C2f模块和空间金字塔池化模块;基于Swin Transformer模块和渐近特征金字塔网络,对原始YOLOv8模型进行改进,包括:使用Swin Transformer模块替换骨干网络中的C2f模块;以及,使用渐近特征金字塔网络替换Neck网络。
在改进YOLOv8模型中,使用Swin Transformer模块替换了原始YOLOv8模型的骨干网络中的C2f模块;与此同时,还使用渐近特征金字塔网络替换了原始YOLOv8模型的Neck网络。另外,在整个特征融合过程中,由于层次之间的某个位置可能存在不同对象的矛盾,逐元素求和不是一种有效的方法。为了解决这个问题,本实施例利用ASFF(AdaptivelySpatial Feature Fusion,自适应空间特征融合)在多级特征融合过程中为不同级别的特征分配不同的空间权重,增强关键级别的重要性,并减轻来自不同对象的矛盾信息的影响。
在本实施例中,通过使用Swin Transformer模块替换骨干网络中的C2f模块,并使用渐近特征金字塔网络替换Neck网络,得到目标YOLOv8模型,而后,将畸变矫正后图像输入至预先训练的目标YOLOv8模型,即可获得目标YOLOv8模型输出的异常检测结果。该方法通过结合Swin Transformer模块和渐近特征金字塔网络,改进得到目标YOLOv8模型,并使用目标YOLOv8模型对待检测精密滚珠丝杠副的畸变矫正后图像进行异常检测,有效提升了全局信息提取能力,并避免了特征信息在传输和交互过程中的丢失或退化,进而提升了待检测精密滚珠丝杠副异常诊断的准确性和稳健性。
在上述实施例的基础上,以下将针对利用目标YOLOv8模型对畸变矫正后图像进行异常检测的过程展开详细描述。
将畸变矫正后图像输入至预先训练的目标YOLOv8模型,获得目标YOLOv8模型输出的异常检测结果,包括:基于改进后的骨干网络,提取畸变矫正后图像中的浅层特征向量和深层特征向量;基于渐近特征金字塔网络,对浅层特征向量执行下采样操作得到浅层特征,以及,对深层特征向量执行上采样操作得到深层特征;采用自适应空间特征融合方式逐层融合深层特征和浅层特征,得到多尺度特征;基于预测网络对多尺度特征进行预测,得到畸变矫正后图像对应的异常检测结果;其中,异常检测结果包括异常位置与异常类别。
基于改进后的骨干网络,提取畸变矫正后图像中的浅层特征向量和深层特征向量,即将畸变矫正后图像依次输入至目标YOLOv8模型中骨干网络的Conv模块、Conv模块、Swin Transformer模块、Conv模块、Swin Transformer模块、Conv模块、Swin Transformer模块、Conv模块、Swin Transformer模块、SPPF模块进行特征提取,得到畸变矫正后图像中的浅层特征向量和深层特征向量。
进一步地,对齐特征向量,也即,对浅层特征向量执行下采样操作以得到浅层特征,与此同时,对深层特征向量执行上采样操作以得到深层特征。
然后,采用自适应空间特征融合方式逐层融合深层特征和浅层特征,以得到一组多尺度特征。
最后,基于预测网络,对多尺度特征进行预测,即可得到畸变矫正后图像对应的异常检测结果。
异常检测结果包括异常位置与异常类别,异常类别包括但不限于裂纹、扣件断裂、螺栓断裂。
在本实施例中,通过基于改进后的骨干网络,提取畸变矫正后图像中的浅层特征向量和深层特征向量,基于渐近特征金字塔网络,对浅层特征向量执行下采样操作得到浅层特征,以及,对深层特征向量执行上采样操作得到深层特征,进而采用自适应空间特征融合方式逐层融合深层特征和浅层特征,得到多尺度特征,从而基于预测网络对多尺度特征进行预测,得到畸变矫正后图像对应的异常检测结果。该方法通过结合Swin Transformer模块和渐近特征金字塔网络,改进得到目标YOLOv8模型,并使用目标YOLOv8模型对待检测精密滚珠丝杠副的畸变矫正后图像进行异常检测,有效提升了全局信息提取能力,并避免了特征信息在传输和交互过程中的丢失或退化,进而提升了待检测精密滚珠丝杠副异常诊断的准确性和稳健性。
在上述实施例的基础上,以下将针对目标YOLOv8模型的训练过程如下:
采用迁移学习的方式训练目标YOLOv8模型,具体包括:构建螺母异常数据集和滚珠丝杠异常数据集;利用螺母异常数据集预训练目标YOLOv8模型,得到最优配置参数的预训练YOLOv8模型;基于预训练YOLOv8模型,利用滚珠丝杠异常数据集微调预训练YOLOv8模型的模型参数,得到预先训练的目标YOLOv8模型。
迁移学习是一种将已获得的已知领域的知识应用到目标领域的技术,可以将训练好的网络模型从一个大的数据集迁移到一个新的数据集,实现网络模型参数和权值在新数据集上的重用。针对待检测精密滚珠丝杠副异常图像样本大规模缺乏的问题,引入迁移学习方法提高模型性能。待检测精密滚珠丝杠副异常特征与螺母异常特征相似,因此使用收集的螺母异常数据集进行预训练。
构建螺母异常数据集,具体地,整理从高速铁路等处收集的预设数量的螺母异常图像,基于采集的螺母异常图像,建立原始数据特征表,标注原始数据特征表中数据的特征,训练模型前对螺母异常图像按对应类别进行标签标注,汇总数据特征表中每一列的特征值得到处理后的汇总数据表,划分处理后的汇总数据表得到训练集和测试集。
其中,预设数量可以根据实际需求进行设定,在此不作具体限定。
在训练阶段,将获取的螺母异常图像进行去噪、缺失值填充、翻转(对原始图片进行左右翻转)、缩放(对原始图片进行大小的缩放)、色域的变换(对原始图片的明亮度、饱和度、色调进行改变)、随机裁剪等数据增强操作,从而达到扩充训练样本的效果。
需要说明的是,构建滚珠丝杠异常数据集的过程同上构建螺母异常数据集的过程,在此不再赘述。而后,利用增强处理后的螺母异常数据集对目标YOLOv8模型进行预训练,获取目标YOLOv8模型的最优权重,以得到最优配置参数的预训练YOLOv8模型。进一步地,以预训练YOLOv8模型作为迁移学习的起点,选择待检测精密滚珠丝杠副异常作为目标任务,利用构建的滚珠丝杠异常数据集通过有限次训练来微调预训练YOLOv8模型的模型参数,以适应目标域的特征,得到适用于目标任务的最优模型权重,从而,得到训练好的目标YOLOv8模型。对于训练好的目标YOLOv8模型,可以直接用来对畸变矫正后图像进行异常检测。
在本实施例中,通过构建螺母异常数据集和滚珠丝杠异常数据集,并利用螺母异常数据集预训练目标YOLOv8模型,得到最优配置参数的预训练YOLOv8模型,进而基于预训练YOLOv8模型,利用滚珠丝杠异常数据集微调预训练YOLOv8模型的模型参数,得到预先训练的目标YOLOv8模型,从而,将畸变矫正后图像输入至预先训练的目标YOLOv8模型,即可获得目标YOLOv8模型输出的异常检测结果。该方法通过采用迁移学习的方式训练优化目标YOLOv8模型,进一步加快了模型收敛速度,提高了小样本情况下待检测精密滚珠丝杠副异常诊断的准确性和稳健性。
图3示例了一种电子设备的实体结构示意图,如图3所示,该电子设备可以包括:处理器(processor)310、通信接口(Communications Interface)320、存储器(memory)330和通信总线340,其中,处理器310,通信接口320,存储器330通过通信总线340完成相互间的通信。处理器310可以调用存储器330中的逻辑指令,以执行精密滚珠丝杠副检测方法,该方法包括:
基于双目摄像设备采集待检测精密滚珠丝杠副的左侧原始图像和右侧原始图像;
对左侧原始图像和右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像;
在待检测精密滚珠丝杠副位于双目摄像设备的预设位置的情况下,基于双目摄像设备采集待检测精密滚珠丝杠副的左侧半边图像和右侧半边图像;
基于左侧半边图像、右侧半边图像、左侧原始图像和右侧原始图像,确定双目摄像设备的重叠视野区域;
基于左侧目标图像、右侧目标图像和重叠视野区域进行融合,得到畸变矫正后图像;
将畸变矫正后图像输入至目标YOLOv8模型,获得目标YOLOv8模型输出的异常检测结果;
目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,且基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到。
此外,上述的存储器330中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
另一方面,本发明还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各方法所提供的精密滚珠丝杠副检测方法,该方法包括:
基于双目摄像设备采集待检测精密滚珠丝杠副的左侧原始图像和右侧原始图像;
对左侧原始图像和右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像;
在待检测精密滚珠丝杠副位于双目摄像设备的预设位置的情况下,基于双目摄像设备采集待检测精密滚珠丝杠副的左侧半边图像和右侧半边图像;
基于左侧半边图像、右侧半边图像、左侧原始图像和右侧原始图像,确定双目摄像设备的重叠视野区域;
基于左侧目标图像、右侧目标图像和重叠视野区域进行融合,得到畸变矫正后图像;
将畸变矫正后图像输入至目标YOLOv8模型,获得目标YOLOv8模型输出的异常检测结果;
目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,且基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到。
以上所描述的***实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分的方法。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (8)
1.一种精密滚珠丝杠副检测方法,其特征在于,包括:
基于双目摄像设备采集待检测精密滚珠丝杠副的左侧原始图像和右侧原始图像;
对所述左侧原始图像和所述右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像;
在所述待检测精密滚珠丝杠副位于所述双目摄像设备的预设位置的情况下,基于所述双目摄像设备采集所述待检测精密滚珠丝杠副的左侧半边图像和右侧半边图像;
基于所述左侧半边图像、所述右侧半边图像、所述左侧原始图像和所述右侧原始图像,确定所述双目摄像设备的重叠视野区域;
基于所述左侧目标图像、所述右侧目标图像和所述重叠视野区域进行融合,得到畸变矫正后图像;
将所述畸变矫正后图像输入至目标YOLOv8模型,获得所述目标YOLOv8模型输出的异常检测结果;
所述目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,且基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到;
其中,所述目标YOLOv8模型是基于所述Swin Transformer模块和所述渐近特征金字塔网络对原始YOLOv8模型得到;所述原始YOLOv8模型包括骨干网络、Neck网络以及预测网络,所述骨干网络包括卷积模块、C2f模块和空间金字塔池化模块;
相应地,基于所述Swin Transformer模块和所述渐近特征金字塔网络对原始YOLOv8模型改进得到所述目标YOLOv8模型为:使用所述Swin Transformer模块替换所述骨干网络中的C2f模块;以及,使用所述渐近特征金字塔网络替换所述Neck网络;
其中,所述将所述畸变矫正后图像输入至预先训练的目标YOLOv8模型,获得所述目标YOLOv8模型输出的异常检测结果,包括:
基于改进后的骨干网络,提取所述畸变矫正后图像中的浅层特征向量和深层特征向量;
基于所述渐近特征金字塔网络,对所述浅层特征向量执行下采样操作得到浅层特征,以及,对所述深层特征向量执行上采样操作得到深层特征;
采用自适应空间特征融合方式逐层融合所述深层特征和所述浅层特征,得到多尺度特征;
基于所述预测网络对所述多尺度特征进行预测,得到所述畸变矫正后图像对应的异常检测结果;
其中,所述异常检测结果包括异常位置与异常类别;
采用迁移学习的方式训练所述目标YOLOv8模型,具体包括:
构建所述螺母异常数据集和所述滚珠丝杠异常数据集;
利用所述螺母异常数据集预训练所述目标YOLOv8模型,得到最优配置参数的预训练YOLOv8模型;
基于所述预训练YOLOv8模型,利用所述滚珠丝杠异常数据集微调所述预训练YOLOv8模型的模型参数,得到预先训练的目标YOLOv8模型;
其中,所述构建螺母异常数据集的步骤包括:
采集预设数量的螺母异常图像;
对所述螺母异常图像按异常类别进行标签标注,并对所述螺母异常图像执行增强操作,得到所述螺母异常数据集;所述增强操作包括去噪、缺失值填充、翻转、缩放、色域变换以及随机裁剪中的一项或多项组合。
2.根据权利要求1所述的精密滚珠丝杠副检测方法,其特征在于,所述对所述左侧原始图像和所述右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像,包括:
在左侧摄像头拍摄所述待检测精密滚珠丝杠副得到多幅所述左侧原始图像,以及右侧摄像头拍摄所述待检测精密滚珠丝杠副得到多幅所述右侧原始图像的情况下,确定多幅所述左侧原始图像对应的左侧畸变系数以及多幅所述右侧原始图像对应的右侧畸变系数;
基于所述左侧畸变系数对多幅所述左侧原始图像分别进行纵向拉伸,确定各所述左侧目标图像;
基于所述右侧畸变系数对多幅所述右侧原始图像分别进行纵向拉伸,确定各所述右侧目标图像。
3.根据权利要求2所述的精密滚珠丝杠副检测方法,其特征在于,所述确定多幅所述左侧原始图像对应的左侧畸变系数以及多幅所述右侧原始图像对应的右侧畸变系数,包括:
分别确定每幅所述左侧原始图像的左侧横向直径和左侧纵向直径,以及确定每幅所述右侧原始图像的右侧横向直径和右侧纵向直径;
分别确定各所述左侧横向直径对应的左侧目标横向直径和各所述左侧纵向直径对应的左侧目标纵向直径,以及确定各所述右侧横向直径对应的右侧目标横向直径和各所述右侧纵向直径对应的右侧目标横向直径;
将所述左侧目标横向直径和所述左侧目标纵向直径的比值确定为所述左侧畸变系数,以及将所述右侧目标横向直径和所述右侧目标横向直径的比值确定为所述右侧畸变系数。
4.根据权利要求3所述的精密滚珠丝杠副检测方法,其特征在于,所述确定每幅所述左侧原始图像的左侧横向直径和左侧纵向直径,包括:
确定所述左侧原始图像的待处理外轮廓,并对所述待处理外轮廓内的初始轮廓内圆形图像依次进行灰度处理、二值化处理和干扰点去除处理,基于处理结果确定目标轮廓内圆形图像;
确定所述目标轮廓内圆形图像中像素值累加结果最小的目标列像素和目标行像素;
基于所述目标列像素确定目标列边界点,以及基于所述目标行像素确定目标行边界点;
基于所述目标列边界点对应的横向直线确定所述左侧横向直径,以及基于所述目标行边界点对应的纵向直线确定所述左侧纵向直径。
5.根据权利要求4所述的精密滚珠丝杠副检测方法,其特征在于,所述确定所述左侧原始图像的待处理外轮廓,包括:
在所述待检测精密滚珠丝杠副为含有多个不同直径的同心圆标定板的情况下,对所述左侧原始图像进行反色处理;
从反色处理后所得标定板图像含有的多个圆环区域中确定目标圆环区域,并将所述目标圆环区域的外轮廓确定为所述待处理外轮廓。
6.根据权利要求1所述的精密滚珠丝杠副检测方法,其特征在于,所述基于所述左侧目标图像、所述右侧目标图像和所述重叠视野区域进行融合,得到畸变矫正后图像,包括:
确定所述左侧目标图像的预设像素值子区域与所述重叠视野区域之间的差值区域;
对所述差值区域和所述右侧目标图像进行拼接,并基于拼接结果确定所述畸变矫正后图像。
7.根据权利要求1所述的精密滚珠丝杠副检测方法,其特征在于,所述基于所述左侧半边图像、所述右侧半边图像、所述左侧原始图像和所述右侧原始图像,确定所述双目摄像设备的重叠视野区域,包括:
在所述左侧半边图像、所述右侧半边图像、所述左侧原始图像和所述右侧原始图像的数量分别为多幅的情况下,确定多幅所述左侧半边图像对应的第一目标轴向距离和多幅所述右侧半边图像对应的第二目标轴向距离;
基于各所述左侧目标图像对应的左侧目标横向直径和各所述右侧目标图像对应的左侧目标横向直径,确定目标横向直径均值;
基于所述第一目标轴向距离、所述第二目标轴向距离和所述目标横向直径均值,确定所述重叠视野区域。
8.一种精密滚珠丝杠副检测***,用于实现权利要求1至7任一项所述的精密滚珠丝杠副检测方法,其特征在于,包括精密滚珠丝杠副检测中台、双目摄像模块、图像矫正模块、区域确定模块、图像融合模块和异常检测模块;所述异常检测模块为目标YOLOv8模型;所述精密滚珠丝杠副检测中台分别与所述双目摄像模块、所述图像矫正模块、所述图像融合模块、所述区域确定模块和所述异常检测模块连接,对各个模块的数据进行存储和管理;
所述双目摄像模块,用于采集待检测精密滚珠丝杠副的左侧原始图像和右侧原始图像;
所述图像矫正模块,用于对所述左侧原始图像和所述右侧原始图像分别进行横向畸变矫正,得到左侧目标图像和右侧目标图像;
所述双目摄像模块还用于在所述待检测精密滚珠丝杠副位于所述双目摄像模块的预设位置的情况下,获取所述待检测精密滚珠丝杠副的左侧半边图像和右侧半边图像;
所述区域确定模块,用于基于所述左侧半边图像、所述右侧半边图像、所述左侧原始图像和所述右侧原始图像,确定所述双目摄像模块的重叠视野区域;
所述图像融合模块,用于基于所述左侧目标图像、所述右侧目标图像和所述重叠视野区域进行融合,得到畸变矫正后图像;
所述异常检测模块,用于将所述畸变矫正后图像输入至所述目标YOLOv8模型,获得所述目标YOLOv8模型输出的异常检测结果;
所述目标YOLOv8模型包括Swin Transformer模块和渐近特征金字塔网络,且基于螺母异常数据集和滚珠丝杠异常数据集进行训练优化得到;
其中,所述目标YOLOv8模型是基于所述Swin Transformer模块和所述渐近特征金字塔网络对原始YOLOv8模型得到;所述原始YOLOv8模型包括骨干网络、Neck网络以及预测网络,所述骨干网络包括卷积模块、C2f模块和空间金字塔池化模块;
相应地,基于所述Swin Transformer模块和所述渐近特征金字塔网络对原始YOLOv8模型改进得到所述目标YOLOv8模型为:使用所述Swin Transformer模块替换所述骨干网络中的C2f模块;以及,使用所述渐近特征金字塔网络替换所述Neck网络;
其中,所述将所述畸变矫正后图像输入至预先训练的目标YOLOv8模型,获得所述目标YOLOv8模型输出的异常检测结果,包括:
基于改进后的骨干网络,提取所述畸变矫正后图像中的浅层特征向量和深层特征向量;
基于所述渐近特征金字塔网络,对所述浅层特征向量执行下采样操作得到浅层特征,以及,对所述深层特征向量执行上采样操作得到深层特征;
采用自适应空间特征融合方式逐层融合所述深层特征和所述浅层特征,得到多尺度特征;
基于所述预测网络对所述多尺度特征进行预测,得到所述畸变矫正后图像对应的异常检测结果;
其中,所述异常检测结果包括异常位置与异常类别;
采用迁移学习的方式训练所述目标YOLOv8模型,具体包括:
构建所述螺母异常数据集和所述滚珠丝杠异常数据集;
利用所述螺母异常数据集预训练所述目标YOLOv8模型,得到最优配置参数的预训练YOLOv8模型;
基于所述预训练YOLOv8模型,利用所述滚珠丝杠异常数据集微调所述预训练YOLOv8模型的模型参数,得到预先训练的目标YOLOv8模型;
其中,所述构建螺母异常数据集的步骤包括:
采集预设数量的螺母异常图像;
对所述螺母异常图像按异常类别进行标签标注,并对所述螺母异常图像执行增强操作,得到所述螺母异常数据集;所述增强操作包括去噪、缺失值填充、翻转、缩放、色域变换以及随机裁剪中的一项或多项组合。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410503726.0A CN118072148B (zh) | 2024-04-25 | 2024-04-25 | 一种精密滚珠丝杠副检测***及其方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202410503726.0A CN118072148B (zh) | 2024-04-25 | 2024-04-25 | 一种精密滚珠丝杠副检测***及其方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN118072148A CN118072148A (zh) | 2024-05-24 |
CN118072148B true CN118072148B (zh) | 2024-06-25 |
Family
ID=91108123
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202410503726.0A Active CN118072148B (zh) | 2024-04-25 | 2024-04-25 | 一种精密滚珠丝杠副检测***及其方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118072148B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114965489A (zh) * | 2022-04-20 | 2022-08-30 | 江苏品德机电科技有限公司 | 一种滚珠丝杠副加工用带有表面缺陷检测的输送线 |
CN116934685A (zh) * | 2023-06-07 | 2023-10-24 | 重庆理工大学 | 基于Focal模块和可变形卷积的钢材表面缺陷检测算法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106525004A (zh) * | 2016-11-09 | 2017-03-22 | 人加智能机器人技术(北京)有限公司 | 双目立体视觉***及深度测量方法 |
CN114565900A (zh) * | 2022-01-18 | 2022-05-31 | 广州软件应用技术研究院 | 基于改进YOLOv5和双目立体视觉的目标检测方法 |
US20230394806A1 (en) * | 2022-06-07 | 2023-12-07 | Hefei University Of Technology | Quickly extraction of morphology characterization parameters of recycled concrete sand particles based on deep learning technology |
CN115272694A (zh) * | 2022-07-06 | 2022-11-01 | 南京理工大学 | 基于滚道表面轮廓的滚珠丝杠副剩余使用寿命预测方法 |
CN116467575A (zh) * | 2023-03-03 | 2023-07-21 | 青岛理工大学 | 一种滚珠丝杠副***的实时数据监测***及方法设计 |
-
2024
- 2024-04-25 CN CN202410503726.0A patent/CN118072148B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114965489A (zh) * | 2022-04-20 | 2022-08-30 | 江苏品德机电科技有限公司 | 一种滚珠丝杠副加工用带有表面缺陷检测的输送线 |
CN116934685A (zh) * | 2023-06-07 | 2023-10-24 | 重庆理工大学 | 基于Focal模块和可变形卷积的钢材表面缺陷检测算法 |
Also Published As
Publication number | Publication date |
---|---|
CN118072148A (zh) | 2024-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108961217B (zh) | 一种基于正例训练的表面缺陷检测方法 | |
CN111383209B (zh) | 一种基于全卷积自编码器网络的无监督瑕疵检测方法 | |
WO2020031984A1 (ja) | 部品の検査方法及び検査システム | |
CN107833238B (zh) | 最大连通域标记方法、目标跟踪方法、增强现实/虚拟现实装置 | |
CN111652085B (zh) | 基于2d与3d特征结合的物体识别方法 | |
CN109685097B (zh) | 一种基于gan的图像检测方法及装置 | |
CN111489337B (zh) | 一种自动光学检测伪缺陷去除方法及*** | |
CN115063430B (zh) | 基于图像处理的电气管道裂纹检测方法 | |
CN113516619B (zh) | 一种基于图像处理技术的产品表面瑕疵识别方法 | |
JP2018506046A (ja) | タイヤ表面の欠陥を検出する方法 | |
CN112200790B (zh) | 布料缺陷检测方法、设备和介质 | |
CN115830004A (zh) | 表面缺陷检测方法、装置、计算机设备和存储介质 | |
CN115797314B (zh) | 零件表面缺陷检测方法、***、设备及存储介质 | |
CN113469971A (zh) | 一种图像匹配方法及检测装置、存储介质 | |
CN114565552A (zh) | 光学元件表面缺陷的检测方法、装置及电子设备 | |
CN110472640B (zh) | 一种目标检测模型预测框处理方法及装置 | |
CN117252815A (zh) | 基于2d-3d多模态图像的工业零件缺陷检测方法、***、设备及存储介质 | |
CN116205907A (zh) | 一种基于机器视觉的饰板缺陷检测方法 | |
CN115239672A (zh) | 缺陷检测方法及装置、设备、存储介质 | |
CN114187247A (zh) | 一种基于图像配准的安瓿瓶印刷字缺陷检测方法 | |
CN114359286A (zh) | 一种基于人工智能的绝缘子缺陷识别方法、设备及介质 | |
CN108021914B (zh) | 基于卷积神经网络的印刷品字符区域提取方法 | |
CN112614094B (zh) | 基于序列状态编码的绝缘子串异常定位识别方法 | |
CN118072148B (zh) | 一种精密滚珠丝杠副检测***及其方法 | |
CN117132503A (zh) | 一种图像局部高亮区域修复方法、***、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |