CN111583336B - 一种机器人及其巡检方法和装置 - Google Patents
一种机器人及其巡检方法和装置 Download PDFInfo
- Publication number
- CN111583336B CN111583336B CN202010322489.XA CN202010322489A CN111583336B CN 111583336 B CN111583336 B CN 111583336B CN 202010322489 A CN202010322489 A CN 202010322489A CN 111583336 B CN111583336 B CN 111583336B
- Authority
- CN
- China
- Prior art keywords
- pedestrian
- robot
- area
- image
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 238000007689 inspection Methods 0.000 title claims abstract description 29
- 238000001514 detection method Methods 0.000 claims description 28
- 238000004590 computer program Methods 0.000 claims description 22
- 238000011176 pooling Methods 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 11
- 238000012545 processing Methods 0.000 description 9
- 238000012549 training Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000003208 petroleum Substances 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Image Processing (AREA)
Abstract
一种机器人的巡检方法,包括:通过摄像头采集机器人周围的待测图像;识别所述待测图像中包括的行人所在的位置;当识别的行人位于预先标定的安全区域时,生成提示信息。可以使得机器人在行人较多的场景下巡检时,能够及时的发现危险情况并生成提示信息,可以有效的减少危险事故的发生,提高巡检的安全性。
Description
技术领域
本申请属于机器人领域,尤其涉及一种机器人及其巡检方法和装置。
背景技术
巡检机器人主要应用在环境非常恶劣的场景。比如如变电站、石油管道、荒漠的光伏电站。所述巡检机器人可用来代替人工进行仪表和部件故障的识别。随着近年来随着校园突发性事件的增多,巡检机器人在校园安防领域有了应用的价值。因为校园的环境多为平地,因此选用轮式机器人较为合适。
校园巡检机器人由于在校园中运行时,由于校园里面的人口密度大,而且很多低龄儿童对机器人非常好奇会近距离观察机器人,而且轮式巡检机器人行驶速度通常较快,而通过激光雷达检测障碍物时,需要较多的计算资源,而且运算速度较慢,很容易导致机器人和人相撞或发生其它意外,不利于提高机器人巡检的安全性。
发明内容
有鉴于此,本申请实施例提供了一种机器人及其巡检方法和装置,以解决现有技术中的轮式巡检机器人在校园等场景下巡检时,由于轮式机器人速度较快,容易导致人机相撞,不利于提高巡检的安全性的问题。
本申请实施例的第一方面提供了一种机器人的巡检方法,所述机器人的巡检方法包括:
通过摄像头采集机器人周围的待测图像;
识别所述待测图像中包括的行人所在的位置;
当识别的行人位于预先标定的安全区域时,生成提示信息。
结合第一方面,在第一方面的第一种可能实现方式中,所述识别所述待测图像中包括的行人所在的位置的步骤包括:
获取所采集的图像,将所采集的图像输入已训练的行人检测网络模型;
根据所述已训练的行人检测网络模型,计算行人在所述待测图像中所在的区域,根据所述行人所在的区域确定行人的位置。
结合第一方面的第一种可能实现方式,在第一方面的第二种可能实现方式中,在所述获取所采集的图像,将所采集的图像输入已训练的行人检测网络模型的步骤之前,所述方法还包括:
获取包括行人的样本图像,以及所述样本图像中的行人所在的标定区域;
将所述样本图像经过第一卷积核卷积得到第一特征图;
将所述第一特征图经过第二卷积核卷积得到第二特征图,将所述第二特征图经过第三卷积核卷积得到第三特征图;
将所述第一特征图经过池化得到第四特征图;
将所述第三特征图和第四特征图融合、经过第四卷积核卷积、全连接得到所述样本图像中的行人的识别区域,根据所述标定区域和所述识别区域的差异,优化所述行人检测网络模型的参数,直到所述差异满足预设的要求。
结合第一方面的第二种可能实现方式,在第一方面的第三种可能实现方式中,所述第一卷积核、第三卷积核的大小为3*3,所述第二卷积廖和第四卷积核的大小为1*1。
结合第一方面,在第一方面的第四种可能实现方式中,在所述当识别的行人位于预先标定的安全区域时,生成提示信息的步骤之前,所述方法还包括:
获取包括安全线的标定图像,所述标定图像中的安全线与机器人之间的距离为预设的安全距离;
根据所述安全线在所述标定图像中的位置,标定所述摄像头所采集的图像中所对应的安全区域。
结合第一方面,在第一方面的第五种可能实现方式中,当识别的行人位于预先标定的安全区域时,生成提示信息的步骤包括:
如果检测到行人进入安全区域,则生成行人进入提醒;
和/或,如果检测到行人进入安全区域的持续时长大于预定时长,则生成警告提醒。
结合第一方面,在第一方面的第六种可能实现方式中,所述通过摄像头采集机器人周围的待测图像的步骤包括:
通过摄像头组采集多组视频流,所述摄像头组包括安装在机器人前、后、左、右部位的摄像头;
根据所采集的多组视频流,解析得到待测图像。
本申请实施例的第二方面提供了一种机器人的巡检装置,所述机器人的巡检装置包括:
待测图像采集单元,用于通过摄像头采集机器人周围的待测图像;
区域识别单元,用于识别所述待测图像中包括的行人所在的位置;
提示单元,用于当识别的行人位于预先标定的安全区域时,生成提示信息。
本申请实施例的第三方面提供了一种机器人,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面任一项所述机器人的巡检方法的步骤。
本申请实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面任一项所述机器人的巡检方法的步骤。
本申请实施例与现有技术相比存在的有益效果是:通过采集机器人周围的待测图像,并识别待测图像中包括的行人所在的位置,当识别的行人所在的位置进入预先标定的安全区域时,生成提示信息,从而可以使得机器人在行人较多的场景下巡检时,能够及时的发现危险情况并生成提示信息,并且基于视觉的运算速度更快,计算资源更少,可以更为快速的检测和提醒,可以有效的减少危险事故的发生,提高巡检的安全性。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种机器人的巡检方法的实现流程示意图;
图2是本申请实施例提供的一种机器人摄像头安装示意图;
图3是本申请实施例提供的一种行人检测网络模型的训练方法的实现流程示意图;
图4是本申请实施例提供的一种行人检测网络模型的示意图;
图5是本申请实施例提供的一种安全线标定方法的实现流程示意图;
图6为本申请实施例提供的一种标定画面示意图;
图7为本申请实施例提供的一种机器人的巡检装置的示意图;
图8是本申请实施例提供的机器人的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
为了说明本申请所述的技术方案,下面通过具体实施例来进行说明。
图1为本申请实施例提供的一种机器人的巡检方法的实现流程示意图,详述如下:
在步骤S101中,通过摄像头采集机器人周围的待测图像。
具体的,本申请实施例中所述机器人,可以为轮式机器人,或者双足机器人等。
在采集所述待测图像时,可以通过设置在机器人前进方向的摄像头进行采集,也可以通过机器人四周,比如可以包括前、后、左、右四侧所设置的摄像头进行图像采集,这样可以对四周进行360度监控。比如图2所示的机器人与摄像头位置关系示意图中,机器人本体上包括四个侧面,分别为前侧面、后侧面、左侧面和右侧面,相邻两个侧面互相垂直。其中,任意一个摄像头的视角可以大于或等于90度,这样通过在机器人身上所安装的四个摄像头,采集到机器人四周的图像,减少机器人周围的视角盲区。
一种实现方式中,所述机器人为轮式机器人,机器人可以快速的在前后方向移动,在机器人周围所设置的多个摄像头中,前后方向的摄像头采集图像的频率,可以大于设置在机器人左右两侧的摄像头所采集的图像的频率,从而能够更为及时的对机器人运动方向的视图进行更为有效的采集,提高安全预警的效率。
在一种实现方式中,为了进一步减少机器人采集图像的盲区,可以将多个摄像头设置在同一中心位置处,比如可以设置在机器人头部位置,可以根据机器人的高度,调整所述摄像头的倾斜角度,从而使得所采集的图像的区域范围包括机器人周围的全部区域。
在步骤S102中,识别所述待测图像中包括的行人所在的位置。
在识别所述待测图像中包括的行人所在的位置时,可以通过预先设定的行人特征图像进行匹配,判断待测图像中是否包括行人,然后进一步确定行人所在的区域。
或者,也可以通过对标定了行人所在区域的样本图像对行人检测网络模型进行训练的方式,获得训练后的行人检测网络模型。根据已训练的行人检测网络模型,计算行人在所述待测图像中的区域,根据行人所在区域确定行人所在的位置。
所述行人所在的位置可以通过行人所在区域所对应的方框的左上角和右下角的两个顶点的坐标的形式来表示。比如,行人所在的区域的左上角和右下角的两个顶点为(X1,Y1)、(X2,Y2),即(x1,y1)代表的是行人框的左上角坐标,(x2,y2)代表的行人右下角坐标,则行人所在的位置可以表示为(x2,y2)。
在确定用于检测行人所在区域的行人检测网络模型时,可以如图3所示,包括:
在步骤S301中,获取包括行人的样本图像,以及所述样本图像中的行人所在的标定区域。
在对所述行人检测网络模型进行训练时,需要先确定机器人执行任务场景中进行样本图像。比如,当机器人用于校园场景中,可以将校园场景中所采集的图像作为训练用的样本图像。并且,为了提高行人检测网络模型的有效性,所述样本图像可以包括待巡检的场景的不同位置、不同人群、不同天气、不同时间所采集的样本图像,并可以通过人工标定的方式,确定样本图像中所包括的行人所在的区域,为简化描述,所标定的行人所在的区域称为标定区域。
在一种可能实现方式中,得到所采集的样本图像并对其进行标定前,还可以进一步对样本图像进行预处理,包括将采集的样本图像进行颜色空间变换和/或尺度空间变换。比如,将采集的样本图像转换为目标颜色制式等,将采集的样本图像压缩至预定尺寸的图像。比如,可以将采集的样本图像压缩至224*224大小的图片,可由行人检测网络模型根据相同尺寸的图像进行训练,简化训练的复杂度。
当然,在训练完成后,对待测图像进行识别时,也可以将待测图像压缩为预定尺寸的图像,以便对所述待测图像中的行人所在区域进行检测识别。
在步骤S302中,将所述样本图像经过第一卷积核卷积得到第一特征图;
得到训练样本图像后,可以预先通过第一卷积核对所述训练样本进行特征提取,得到第一卷积核所对应的第一特征图。其中,当样本图像或经过预处理后的样本图像的尺寸为224*224,所述第一卷积核大小可以为3*3,通过第一卷积核的卷积提取第一特征图,可以将所述第一特征图分成两个支路进行处理。
在步骤S303中,将所述第一特征图经过第二卷积核卷积得到第二特征图,将所述第二特征图经过第三卷积核卷积得到第三特征图。
如图4所示的行人检测网络模型结构示意图,通过第一卷积核卷积后得到的第一特征图,可以包括两条处理支路,包括:将第一特征图通过第二卷积核卷积,得到第二特征图,然后进一步通过第三卷积核进行卷积,得到第三特征图。其中,第二卷积核大小可以为1*1,第三卷积核大小可以为3*3。
在步骤S304中,将所述第一特征图经过池化得到第四特征图。
对所述第一特征图的第二处理支路为:对所述第一特征图进行池化处理。其中,在池化处理时,每次池化操作的区域范围可以为2*2,通过池化处理后,可以得到第四特征图。
在步骤S305中,将所述第三特征图和第四特征图融合、经过第四卷积核卷积、全连接得到所述样本图像中的行人的识别区域,根据所述标定区域和所述识别区域的差异,优化所述行人检测网络模型的参数,直到所述差异满足预设的要求。
将两条支路所得到的特征图,即通过第一支路的两次卷积所得到的第三特征图,以及通过池化处理得到的第四特征图进行融合,再进一步通过第四卷积核的卷积处理,以及全连接处理等,得到样本图像中的行人的识别区域。
将行为检测网络模型所计算的行人所在的识别区域,与预先标定的行人所在的标定区域进行比较,确定两者的差异。如果两者的差异不满足预设的要求,则可以根据差异进一步调整行人检测网络模型中的参数,包括第一卷积核、第二卷积核、第三卷积核、第四卷积核中的参数等,直到所述行人检测网络模型输出的识别区域,与预先设定的标定区域的差异满足预设的要求,从而得到已训练的行人检测网络模型。
通过两个支路所得到的特征图融合的方式,可以更为高效的完成行人检测模型的训练,以及对待测图像的行人区域的识别。
在步骤S103中,当识别的行人位于预先标定的安全区域时,生成提示信息。
其中,所述安全区域的设定,可以通过安全距离的大小来确定。当安全距离越大时,则所述安全区域的范围也越大。
在标定所述机器人的安全区域时,可以根据图5所示,包括:
在步骤S501中,获取包括安全线的标定图像,所述标定图像中的安全线与机器人之间的距离为预设的安全距离。
在标定所述机器人的安全区域时,可以预先将机器人设置在标定位置,并根据预先设定的安全距离,在所述标定位置四周绘制安全线,所述安全线可以通过绘制可识别的线条。
比如,当机器人的安全距离为1米时,则可以根据机器人的标定位置为中心,绘制一个半径为1米的圆。机器在所述标定位置拍摄图像,可以得到包括安全线的标定图像。当然,可以根据机器人的前进方向的不同,设置前进方向的安全距离大于其它方向的安全距离。比如可以设置为机器人前进方向的安全距离为2米,其它方向的安全距离为1米等。
在步骤S502中,根据所述安全线在所述标定图像中的位置,标定所述摄像头所采集的图像中所对应的安全区域。
当所述摄像头固定在轮式机器人上时,根据所述标定图像中包括的安全线,确定安全线以内为安全区域。根据所确定的安全线,则可以直接与待测图像的行人区域进行比较。如图6所示,如果行人所在位置进入预先设定的安全区域进,即接触到安全区域的安全线时,则表示行为与机器人之间的距离较近,可以发出提示信息,比如可以提醒行人注意安全的提示。所述提示信息包括但不限于声音提示、指示灯提示等。另外,当行人进入预先设定的安全区域后,且进入的时长大于预定时长,比如大于10秒时,还可以发出报警提醒,比如鸣笛警告等,并可以截取并保存进入所述安全区域的时长大于预定时长的行人的人脸信息。另外,当检测到的行人进入所述安全区域,可以将机器人所采集的图像传送至监控中心,并对所采集的图像中的行人所在区域、安全区域界线通过红线等标记进行标识,使得监控人员能够及时发现问题。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
图7为本申请实施例提供的一种机器人的巡检装置的示意图,详述如下:
所述机器人的巡检装置包括:
待测图像采集单元701,用于通过摄像头采集机器人周围的待测图像;
区域识别单元702,用于识别所述待测图像中包括的行人所在的位置;
提示单元703,用于当识别的行人位于预先标定的安全区域时,生成提示信息。
所述机器人的巡检装置,与机器人的巡检方法对应。
图8是本申请一实施例提供的机器人的示意图。如图8所示,该实施例的机器人8包括:处理器80、存储器81以及存储在所述存储器81中并可在所述处理器80上运行的计算机程序82,例如机器人的巡检程序。所述处理器80执行所述计算机程序82时实现上述各个机器人的巡检方法实施例中的步骤。或者,所述处理器80执行所述计算机程序82时实现上述各装置实施例中各模块/单元的功能。
示例性的,所述计算机程序82可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器81中,并由所述处理器80执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序82在所述机器人8中的执行过程。例如,所述计算机程序82可以被分割成:
待测图像采集单元,用于通过摄像头采集机器人周围的待测图像;
区域识别单元,用于识别所述待测图像中包括的行人所在的位置;
提示单元,用于当识别的行人位于预先标定的安全区域时,生成提示信息。
所述机器人可包括,但不仅限于,处理器80、存储器81。本领域技术人员可以理解,图8仅仅是机器人8的示例,并不构成对机器人8的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述机器人还可以包括输入输出设备、网络接入设备、总线等。
所称处理器80可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器81可以是所述机器人8的内部存储单元,例如机器人8的硬盘或内存。所述存储器81也可以是所述机器人8的外部存储设备,例如所述机器人8上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器81还可以既包括所述机器人8的内部存储单元也包括外部存储设备。所述存储器81用于存储所述计算机程序以及所述机器人所需的其他程序和数据。所述存储器81还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括是电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (9)
1.一种机器人的巡检方法,其特征在于,所述机器人的巡检方法包括:
通过摄像头采集机器人周围的待测图像;
识别所述待测图像中包括的行人所在的位置;
当识别的行人位于预先标定的安全区域时,生成提示信息;
所述识别所述待测图像中包括的行人所在的位置的步骤包括:
获取所采集的图像,将所采集的图像输入已训练的行人检测网络模型;
根据所述已训练的行人检测网络模型,计算行人在所述待测图像中所在的区域,确定所述行人所在区域的左上角和右下角的两个顶点(X1,Y1)、(X2,Y2),(X1,Y1)代表行人所在区域的左上角坐标,(X2,Y2)代表行人所在区域的右下角坐标,根据所述行人所在的区域的右下角坐标(X2,Y2)确定行人的位置。
2.根据权利要求1所述的机器人的巡检方法,其特征在于,在所述获取所采集的图像,将所采集的图像输入已训练的行人检测网络模型的步骤之前,所述方法还包括:
获取包括行人的样本图像,以及所述样本图像中的行人所在的标定区域;
将所述样本图像经过第一卷积核卷积得到第一特征图;
将所述第一特征图经过第二卷积核卷积得到第二特征图,将所述第二特征图经过第三卷积核卷积得到第三特征图;
将所述第一特征图经过池化得到第四特征图;
将所述第三特征图和第四特征图融合、经过第四卷积核卷积、全连接得到所述样本图像中的行人的识别区域,根据所述标定区域和所述识别区域的差异,优化所述行人检测网络模型的参数,直到所述差异满足预设的要求。
3.根据权利要求2所述的机器人的巡检方法,其特征在于,所述第一卷积核、第三卷积核的大小为3*3,所述第二卷积核和第四卷积核的大小为1*1。
4.根据权利要求1所述的机器人的巡检方法,其特征在于,在所述当识别的行人位于预先标定的安全区域时,生成提示信息的步骤之前,所述方法还包括:
获取包括安全线的标定图像,所述标定图像中的安全线与机器人之间的距离为预设的安全距离;
根据所述安全线在所述标定图像中的位置,标定所述摄像头所采集的图像中所对应的安全区域。
5.根据权利要求1所述的机器人的巡检方法,其特征在于,当识别的行人位于预先标定的安全区域时,生成提示信息的步骤包括:
如果检测到行人进入安全区域,则生成行人进入提醒;
和/或,如果检测到行人进入安全区域的持续时长大于预定时长,则生成警告提醒。
6.根据权利要求1所述的机器人的巡检方法,其特征在于,所述通过摄像头采集机器人周围的待测图像的步骤包括:
通过摄像头组采集多组视频流,所述摄像头组包括安装在机器人前、后、左、右部位的摄像头;
根据所采集的多组视频流,解析得到待测图像。
7.一种机器人的巡检装置,其特征在于,所述机器人的巡检装置包括:
待测图像采集单元,用于通过摄像头采集机器人周围的待测图像;
区域识别单元,用于识别所述待测图像中包括的行人所在的位置;
提示单元,用于当识别的行人位于预先标定的安全区域时,生成提示信息;
所述区域识别单元包括:
输入子单元,用于获取所采集的图像,将所采集的图像输入已训练的行人检测网络模型;
位置确定子单元,用于根据所述已训练的行人检测网络模型,计算行人在所述待测图像中所在的区域,确定所述行人所在区域的左上角和右下角的两个顶点(X1,Y1)、(X2,Y2),(X1,Y1)代表行人所在区域的左上角坐标,(X2,Y2)代表行人所在区域的右下角坐标,根据所述行人所在的区域的右下角坐标(X2,Y2)确定行人的位置。
8.一种机器人,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至6任一项所述机器人的巡检方法的步骤。
9.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至6任一项所述机器人的巡检方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010322489.XA CN111583336B (zh) | 2020-04-22 | 2020-04-22 | 一种机器人及其巡检方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010322489.XA CN111583336B (zh) | 2020-04-22 | 2020-04-22 | 一种机器人及其巡检方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111583336A CN111583336A (zh) | 2020-08-25 |
CN111583336B true CN111583336B (zh) | 2023-12-01 |
Family
ID=72112519
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010322489.XA Active CN111583336B (zh) | 2020-04-22 | 2020-04-22 | 一种机器人及其巡检方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111583336B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114821987B (zh) * | 2021-01-18 | 2024-04-30 | 漳州立达信光电子科技有限公司 | 提醒方法、装置及终端设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107636679A (zh) * | 2016-12-30 | 2018-01-26 | 深圳前海达闼云端智能科技有限公司 | 一种障碍物检测方法及装置 |
CN108780319A (zh) * | 2018-06-08 | 2018-11-09 | 珊口(深圳)智能科技有限公司 | 软件更新方法、***、移动机器人及服务器 |
CN109176513A (zh) * | 2018-09-04 | 2019-01-11 | 北京华开领航科技有限责任公司 | 一种智能巡检机器人的巡检方法及巡检*** |
CN109571468A (zh) * | 2018-11-27 | 2019-04-05 | 深圳市优必选科技有限公司 | 安防巡检机器人及安防巡检方法 |
CN109664301A (zh) * | 2019-01-17 | 2019-04-23 | 中国石油大学(北京) | 巡检方法、装置、设备及计算机可读存储介质 |
WO2019083291A1 (ko) * | 2017-10-25 | 2019-05-02 | 엘지전자 주식회사 | 장애물을 학습하는 인공지능 이동 로봇 및 그 제어방법 |
CN110228413A (zh) * | 2019-06-10 | 2019-09-13 | 吉林大学 | 大型车辆转弯时避免行人卷入车下的安全预警*** |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11009887B2 (en) * | 2018-07-26 | 2021-05-18 | Toyota Research Institute, Inc. | Systems and methods for remote visual inspection of a closed space |
-
2020
- 2020-04-22 CN CN202010322489.XA patent/CN111583336B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107636679A (zh) * | 2016-12-30 | 2018-01-26 | 深圳前海达闼云端智能科技有限公司 | 一种障碍物检测方法及装置 |
WO2019083291A1 (ko) * | 2017-10-25 | 2019-05-02 | 엘지전자 주식회사 | 장애물을 학습하는 인공지능 이동 로봇 및 그 제어방법 |
CN108780319A (zh) * | 2018-06-08 | 2018-11-09 | 珊口(深圳)智能科技有限公司 | 软件更新方法、***、移动机器人及服务器 |
CN109176513A (zh) * | 2018-09-04 | 2019-01-11 | 北京华开领航科技有限责任公司 | 一种智能巡检机器人的巡检方法及巡检*** |
CN109571468A (zh) * | 2018-11-27 | 2019-04-05 | 深圳市优必选科技有限公司 | 安防巡检机器人及安防巡检方法 |
CN109664301A (zh) * | 2019-01-17 | 2019-04-23 | 中国石油大学(北京) | 巡检方法、装置、设备及计算机可读存储介质 |
CN110228413A (zh) * | 2019-06-10 | 2019-09-13 | 吉林大学 | 大型车辆转弯时避免行人卷入车下的安全预警*** |
Also Published As
Publication number | Publication date |
---|---|
CN111583336A (zh) | 2020-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103279949B (zh) | 基于自定位机器人的多相机参数自动标定***运行方法 | |
JPH07250319A (ja) | 車両周辺監視装置 | |
CN109213138B (zh) | 一种避障方法、装置及*** | |
CN115171361B (zh) | 一种基于计算机视觉的危险行为智能检测预警方法 | |
CN112651359A (zh) | 障碍物检测方法、装置、电子设备和存储介质 | |
CN113408454A (zh) | 一种交通目标检测方法、装置、电子设备及检测*** | |
CN112528771A (zh) | 障碍物检测方法、装置、电子设备及存储介质 | |
CN114255405A (zh) | 一种隐患目标识别方法与装置 | |
CN113658427A (zh) | 基于视觉与雷达的路况监控方法及***、设备 | |
CN115240148A (zh) | 车辆行为的检测方法、装置、存储介质及电子装置 | |
Kim et al. | System and method for detecting potholes based on video data | |
CN113255444A (zh) | 图像识别模型的训练方法、图像识别方法和装置 | |
CN111583336B (zh) | 一种机器人及其巡检方法和装置 | |
CN115909092A (zh) | 轻量化输电通道隐患测距方法及隐患预警装置 | |
CN116863297A (zh) | 一种基于电子围栏的监控方法、装置、***、设备及介质 | |
CN115995037A (zh) | 信号灯状态检测方法、装置、设备、介质及产品 | |
CN113945219A (zh) | 动态地图生成方法、***、可读存储介质及终端设备 | |
CN113777622A (zh) | 轨道障碍物辨识的方法及装置 | |
CN113569812A (zh) | 未知障碍物的识别方法、装置和电子设备 | |
CN114724119B (zh) | 车道线提取方法、检测设备及存储介质 | |
CN113077455B (zh) | 保护架空输电线的树障检测方法、装置、电子设备及介质 | |
CN112364693B (zh) | 基于双目视觉的障碍识别方法、装置、设备及存储介质 | |
CN117897737A (zh) | 一种无人机监控方法、装置、无人机及监控设备 | |
CN114092857A (zh) | 基于闸道的集卡图像采集方法、***、设备及存储介质 | |
CN110471056B (zh) | 一种虚警信息判断方法、装置及终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |