CN114332985A - 一种基于双机械臂协同的肖像轮廓智能绘制方法 - Google Patents
一种基于双机械臂协同的肖像轮廓智能绘制方法 Download PDFInfo
- Publication number
- CN114332985A CN114332985A CN202111477658.8A CN202111477658A CN114332985A CN 114332985 A CN114332985 A CN 114332985A CN 202111477658 A CN202111477658 A CN 202111477658A CN 114332985 A CN114332985 A CN 114332985A
- Authority
- CN
- China
- Prior art keywords
- track
- arm
- image
- coordinate system
- mechanical arm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 210000000697 sensory organ Anatomy 0.000 claims abstract description 17
- 230000033001 locomotion Effects 0.000 claims abstract description 16
- 238000007781 pre-processing Methods 0.000 claims abstract description 13
- 238000010845 search algorithm Methods 0.000 claims description 19
- 230000008569 process Effects 0.000 claims description 17
- 238000013527 convolutional neural network Methods 0.000 claims description 15
- 238000012163 sequencing technique Methods 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 claims description 8
- 230000005540 biological transmission Effects 0.000 claims description 6
- 230000000877 morphologic effect Effects 0.000 claims description 6
- 230000003068 static effect Effects 0.000 claims description 5
- 239000011159 matrix material Substances 0.000 claims description 4
- 230000003044 adaptive effect Effects 0.000 claims description 3
- 230000008859 change Effects 0.000 claims description 3
- 238000010924 continuous production Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 6
- 238000013135 deep learning Methods 0.000 abstract description 5
- 230000006870 function Effects 0.000 abstract description 4
- 238000000605 extraction Methods 0.000 abstract description 2
- 238000005516 engineering process Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000010422 painting Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
Abstract
本发明公开了一种基于双机械臂协同的肖像轮廓智能绘制方法,将原始RGB彩色图像输入深度学习人脸识别模型,获得五官的像素坐标信息;进行图像预处理操作,获得二值图像;通过二值图像轮廓提取,得到轮廓图像;然后将轮廓图像分为左右两部分;对左半边轮廓图像和右半边轮廓图像进行像素点排列,形成若干段不连续的轨迹段;将像素坐标转换为机械臂工具坐标系下的坐标;对轨迹段坐标增加机械臂姿态信息,形成机械臂可识别的一系列轨迹;对轨迹进行无干涉双臂绘图运动规划;通过TCP/IP协议将不干涉的轨迹传输给两只机械臂,进行双机械臂协同肖像图绘制。本发明方法实现了双机械臂协同绘图的功能,绘制效率高且效果逼真,便于在教育教学等场合进行展示。
Description
技术领域
本发明涉及一种基于双机械臂协同的肖像轮廓智能绘制方法,属于机器人绘图技术领域。
背景技术
随着科技的进步,人工智能技术得到飞速发展,在当今时代这种高新技术也用在了越来越多的场合,尤其是与机器人的结合,使得智能机器人的应用范围也非常广泛。通过机械臂进行绘画也逐渐走进大众视野。
目前机械臂绘画多数都是通过单臂进行像素点的逐行打印,其还是不能模仿人类画家一样的绘图顺序和手法进行肖像图的绘制。双臂机器人在智能绘图方面目前应用较少,通过两只机械臂的协作配合,能够表现出比单臂机器人更优雅的姿态和绘制技巧,且绘制效率高,便于在教育教学等多种场合进行展示。
发明内容
为了解决现有技术问题,本发明的目的在于克服已有技术存在的不足,提供一种基于双机械臂协同的肖像轮廓智能绘制方法,该方法采用十四自由度的冗余双臂机器人进行绘制,每只手臂都是七自由度的冗余机械臂,可以很好地避开奇异点进行运动。利用深度学习人脸识别模型和图像预处理技术,获得肖像图五官的像素坐标和二值图像;采用轮廓提取技术获得轮廓图像,提出逆/顺时针搜索算法对轮廓中每一轨迹段的若干像素点进行排序;通过坐标系转换矩阵得到机械臂工具坐标系下的坐标信息,与机械臂姿态信息组合形成一系列可用于机械臂运动控制的轨迹点,通过TCP/IP协议实现上位机与机械臂之间的数据传输以实现肖像图轮廓绘制。该方法实现了双机械臂协同绘图的功能,绘制效率高且效果逼真,便于在教育教学等场合进行展示。
为达到上述发明创造目的,本发明采用如下技术方案:
一种基于双机械臂协同的肖像轮廓智能绘制方法,操作步骤如下:
(1)将原始RGB彩色图像输入卷积神经网络CNN,得到肖像图五官在像素坐标系——以下简称坐标系I中的坐标信息;
(2)将所述原始RGB彩色图像经过图像预处理操作得到二值图像;
(3)提取上述二值图像的轮廓,得到轮廓中的每一个像素点在坐标系I中的坐标信息(xi,yi,zi),坐标系I一般为平面坐标系,默认zi为0;
(4)利用过两只眼睛的中心位置且平行于坐标系I中Y轴的直线将轮廓图像分为左右两部分;
(5)对于左半边轮廓图像,采用逆时针搜索算法对每条轨迹中的像素点进行排序;对于右半边轮廓图像,采用顺时针搜索算法对每条轨迹中的像素点进行排序;由此,形成若干段不连续的轨迹段;
(6)将所有轨迹段像素点在坐标系I中的坐标信息转换为机械臂工具坐标系——以下简称坐标系T中的坐标信息用于轨迹绘制;
(7)对所述转换到坐标系T中的坐标信息增加机械臂姿态信息,将坐标系T中所述坐标信息与姿态信息进行组合,得到一系列可以用于机械臂运动控制的轨迹点;
(8)基于左臂优先原则的无干涉双臂绘图运动规划;以左臂当前轨迹段为基准,从右臂的所有轨迹段中找到第一条不与左臂发生干涉的轨迹段,如果找到,则左右机械臂同时绘制各自当前轨迹段;如果未找到,则右臂在安全位置等待,直到左臂完成当前轨迹段的绘制;然后,再依照上述过程进行左臂下一条轨迹段的绘制,直至完成左臂所有轨迹段的绘制;最后,将右臂剩余轨迹段绘制完毕;
(9)上位机通过TCP/IP协议获得机械臂的静态IP地址,实现数据传输,将上述所有轨迹段传输给左右机械臂的控制器进行绘制。
优选地,上述步骤1中,所述将原始RGB彩色图像输入卷积神经网络CNN得到肖像图五官的位置信息,包括:
卷积神经网络由三个级联网络组成,用于人脸识别,可以获得五官的位置信息;
五官的位置信息用(x1,y1,z1),(x2,y2,z2),,(x3,y3,z3),(x4,y4,z4),(x5,y5,z5)等坐标表示,其中(x1,y1,z1)表示左眼的中心坐标,(x2,y2,z2)表示右眼的中心坐标,(x3,y3,z3)表示鼻子的中心坐标,(x4,y4,z4)表示左边嘴角的坐标,(x5,y5,z5)表示右边嘴角的坐标。
优选地,上述步骤2中,所述将所述原始RGB彩色图像经过图像预处理操作得到二值图像,包括:
图像预处理包括背景去除、风格转换、图像灰度化、自适应阈值处理、形态学运算操作。
优选地,上述步骤4中,所述利用过两只眼睛的中心位置且平行于坐标系I中Y轴的直线将轮廓图像分为左右两部分,包括:
所述左右两部分包括左半边轮廓图像和右半边轮廓图像,它们分别由若干段不连续的轨迹段组成,每条轨迹段由若干个相邻的像素点组成,为使机器人按照轨迹段进行绘制,需将所述轨迹中的像素点进行逐个排序,形成若干条由顺序连贯像素点组成的轨迹段。
优选地,上述步骤5中,所述对于左半边轮廓图像,采用逆时针搜索算法对每条轨迹中的像素点进行排序;对于右半边轮廓图像,采用顺时针搜索算法对每条轨迹中的像素点进行排序,包括:
在对每条轨迹段中的若干个像素点进行排序的过程中,由于机械臂绘制每一条轨迹段是一个连续的过程,在轨迹段j的起始位置落笔,在轨迹段j的末端位置抬笔,再移动到第j+1条轨迹段的起始位置落笔,所以在每条轨迹段的起始位置和末端位置设置1和0标记落笔与抬笔动作;
所述逆时针搜索算法即首先遍历左半边轮廓图像中的每一行,找到第一个黑色像素点,像素值为0,以此像素点为中心点,在8邻域内从正上方开始,按照逆时针的方向去寻找下一个黑色像素点,如果找到,就将此像素点加入当前轨迹段队列;如果没找到,就继续对下一行的像素点进行搜寻,直至左半边轮廓图像的像素点全部搜索完毕,其中搜索过的像素点像素值设为255,表示已遍历。
优选地,上述步骤6中,所述将所有轨迹段像素点在坐标系I中的坐标信息转换为坐标系T中的坐标信息用于轨迹绘制,包括:
转换公式为其中表示坐标系I到坐标系T的转换矩阵,TPi表示像素点i在坐标系T中的坐标信息,具体为(TXi,TYi,TZi),IPi表示像素点i在坐标系I中的坐标信息,具体为(IXi,IYi,IZi)。
优选地,上述步骤7中,所述对所述转换到坐标系T中的坐标信息增加机械臂姿态信息,将坐标系T中所述坐标信息与姿态信息进行组合,得到一系列可用于机械臂运动的坐标点,包括:
所述方法是由十四自由度冗余双机械臂进行绘制,所以每只机械臂分别具有七个自由度,所述坐标点数据格式为(Xi,Yi,Zi,q1,q2,q3,q4),其中前三项为机械臂末端在坐标系T中的坐标信息,后四项用四元数形式表示,为机械臂姿态信息;
两只机械臂在绘图过程中始终保持笔尖垂直于纸面的姿态,即在绘图过程中只有Xi,Yi,Zi三个数值会发生变化,姿态信息q1,q2,q3,q4始终保持不变;机械臂的绘图姿态由示教得到,在示教过程中要避开一些潜在的障碍物,保持机械臂由初始姿态移动到绘图姿态的过程中平稳匀速;在初次示教完机械臂的绘图姿态之后,记录下q1,q2,q3,q4的数值,作为固定参数通过程序与Xi,Yi,Zi坐标信息进行组合,得到可用于机械臂运动控制的数据格式。
本发明与现有技术相比较,具有如下显而易见的突出实质性特点和显著优点:
1.本发明采用十四自由度冗余双臂机器人进行肖像图的绘制,可很好地避开奇异点,像人的手臂一样灵活;
2.本发明将人工智能深度学习技术与机器人进行结合,实现双机械臂的智能高效协作绘图,使得智能机器人的应用更加灵活;
3.本发明对原始RGB彩色肖像图进行背景去除,消除了后续预处理步骤中背景像素点对前景像素的干扰,使得二值图像轮廓清晰,提升了最终的轮廓绘制效果;
4.本发明提出的逆/顺时针搜索算法对像素点的排序速度快,效率高。
附图说明
图1是本发明优选实施例基于双机械臂协作的肖像轮廓智能绘制方法总体流程图。
图2是本发明优选实施例的像素坐标系示意图。
图3是本发明优选实施例的逆/顺时针搜索算法流程图。
图4-1、4-2是本发明优选实施例的轮廓点排列方法的示意图。
具体实施方式
以下结合具体的实施例子对上述方案做进一步说明,本发明的优选实施例详述如下:
实施例一:
在本实施例中,参见图1,一种基于双机械臂协同的肖像轮廓智能绘制方法,操作步骤如下:
(1)将原始RGB彩色图像输入卷积神经网络CNN,得到肖像图五官在像素坐标系——以下简称坐标系I中的坐标信息;
(2)将所述原始RGB彩色图像经过图像预处理操作得到二值图像;
(3)提取上述二值图像的轮廓,得到轮廓中的每一个像素点在坐标系I中的坐标信息(xi,yi,zi),坐标系I一般为平面坐标系,默认zi为0;
(4)利用过两只眼睛的中心位置且平行于坐标系I中Y轴的直线将轮廓图像分为左右两部分;
(5)对于左半边轮廓图像,采用逆时针搜索算法对每条轨迹中的像素点进行排序;对于右半边轮廓图像,采用顺时针搜索算法对每条轨迹中的像素点进行排序;由此,形成若干段不连续的轨迹段;
(6)将所有轨迹段像素点在坐标系I中的坐标信息转换为机械臂工具坐标系——以下简称坐标系T中的坐标信息用于轨迹绘制;
(7)对所述转换到坐标系T中的坐标信息增加机械臂姿态信息,将坐标系T中所述坐标信息与姿态信息进行组合,得到一系列可以用于机械臂运动控制的轨迹点;
(8)基于左臂优先原则的无干涉双臂绘图运动规划;以左臂当前轨迹段为基准,从右臂的所有轨迹段中找到第一条不与左臂发生干涉的轨迹段,如果找到,则左右机械臂同时绘制各自当前轨迹段;如果未找到,则右臂在安全位置等待,直到左臂完成当前轨迹段的绘制;然后,再依照上述过程进行左臂下一条轨迹段的绘制,直至完成左臂所有轨迹段的绘制;最后,将右臂剩余轨迹段绘制完毕;
(9)上位机通过TCP/IP协议获得机械臂的静态IP地址,实现数据传输,将上述所有轨迹段传输给左右机械臂的控制器进行绘制。
本实施例方法实现了双机械臂协同绘图的功能,绘制效率高且效果逼真,便于在教育教学等场合进行展示。
实施例二:
本实施例与实施例一基本相同,特别之处在于:
在本实施例中,参见图1-图4,一种基于双机械臂协同的肖像轮廓智能绘制方法,操作步骤如下:
1.将原始RGB彩色图像(520像素×390像素)输入卷积神经网络CNN,得到肖像图五官在像素坐标系——以下简称坐标系I中的坐标信息,具体方法如下:
1.1卷积神经网络由三个级联网络组成,分别用于粗略定位人脸位置、精细定位人脸位置、输出五官的坐标信息,在实际操作中,首先将所述RGB彩色图像的尺寸调整为520×390,然后将此图像输入到深度学习训练好的模型中进行预测,得到的输出即为五官在像素坐标系下的坐标信息。
1.2五官的位置信息用(x1,y1,z1),(x2,y2,z2),,(x3,y3,z3),(x4,y4,z4),(x5,y5,z5)等坐标表示,其中(x1,y1,z1)表示左眼的中心坐标,(x2,y2,z2)表示右眼的中心坐标,(x3,y3,z3)表示鼻子的中心坐标,(x4,y4,z4)表示左边嘴角的坐标,(x5,y5,z5)表示右边嘴角的坐标,由于像素坐标系一般为二位坐标系,故坐标中的z值默认为0。
2.将所述原始RGB彩色图像经过图像预处理操作得到二值图像,具体方法如下:
2.1图像预处理包括背景去除、风格转换、图像灰度化、自适应阈值处理、形态学运算等操作,其中风格转换首先将RGB图像转换到YUV颜色空间,单独对Y通道进行边缘检测,,对每一像素计算水平分量与垂直分量,接下来采用线积分卷积算法对图像进行滤波,最终得到转换后的风格图像。
形态学运算中主要采用形态学闭运算,在OpenCV中,形态学运算是作用在像素值为255的像素点,故采用闭运算可以使得黑色部分线条变细,实现图像去噪的作用。
以上步骤1和2分为两条支路并行处理。
4.利用过两只眼睛的中心位置且平行于坐标系I中Y轴的直线将轮廓图像分为左右两部分,具体方法如下:
4.1通过步骤1.1得到的坐标系I中的五官坐标信息,(x1,y1,z1)表示左眼的中心坐标,(x2,y2,z2)表示右眼的中心坐标,所以两只眼睛的中心位置表示为(xc,yc),其中xc=x1+(x2-x1)/2,yc=y1+(y2-y1)/2,以过点(xc,yc)且平行于坐标系I中Y轴的直线将轮廓图像分为两部分。
所述左右两部分包括左半边轮廓图像和右半边轮廓图像,它们分别由若干段不连续的轨迹段组成,每条轨迹段由若干个相邻的像素点组成,为使机器人按照轨迹段进行绘制,需将所述轨迹中的像素点进行逐个排序,形成若干条由顺序连贯像素点组成的轨迹段,假设一个轮廓由m段轨迹组成,每段轨迹由n个像素点组成,那么轮廓与轨迹段的具体格式如下:
轮廓格式:[[1,(x1,y1,z1),(x2,y2,z2),……,(xn,yn,zn),0]1,[1,(x1,y1,z1),(x2,y2,z2),……,(xn,yn,zn),0]2,……,[1,(x1,y1,z1),(x2,y2,z2),……,(xn,yn,zn),0]m]
轨迹段格式:[1,(x1,y1,z1),(x2,y2,z2),……,(xn,yn,zn),0]
5.对于左半边轮廓图像,采用逆时针搜索算法对每条轨迹中的像素点进行排序;对于右半边轮廓图像,采用顺时针搜索算法对每条轨迹中的像素点进行排序。由此,形成若干段不连续的轨迹段,具体方法如下:
5.1在对每条轨迹段中的若干个像素点进行排序的过程中,由于机械臂绘制每一条轨迹段是一个连续的过程,在轨迹段j的起始位置落笔,在轨迹段j的末端位置抬笔,再移动到第j+1条轨迹段的起始位置落笔,所以在每条轨迹段的起始位置和末端位置设置1和0标记落笔与抬笔动作,具体见上述轮廓格式与轨迹段格式。
5.2所述逆时针搜索算法参见图4-1,首先遍历左半边轮廓图像中的每一行,找到第一个黑色像素点,其像素值为0,像素坐标为(i,j),以此像素点为中心点,在8邻域内从正上方开始,即像素坐标为(i-1,j)的像素点,按照逆时针的方向去寻找下一个黑色像素点,如果找到,就将此像素点加入当前轨迹段队列;如果没找到,就继续对下一行的像素点进行搜寻,直至左半边轮廓图像的像素点全部搜索完毕,其中搜索过的像素点像素值设为255,表示已遍历,所述顺时针搜索算法参见图4-2,与逆时针搜索算法同理。
6.将所有轨迹段像素点在坐标系I中的坐标信息转换为机械臂工具坐标系(以下简称坐标系T)中的坐标信息用于轨迹绘制,具体方法如下:
6.1坐标系I到坐标系T的转换公式为其中表示坐标系I到坐标系T的转换矩阵,TPi表示像素点i在坐标系T中的坐标信息,具体为(TXi,TYi,TZi),IPi表示像素点i在坐标系I中的坐标信息,具体为(IXi,IYi,IZi)。
7.对所述转换到坐标系T中的坐标信息增加机械臂姿态信息,将坐标系T中所述坐标信息与姿态信息进行组合,得到一系列可以用于机械臂运动控制的轨迹点,具体方法如下:
7.1所述方法是由十四自由度冗余双机械臂进行绘制,所以每只机械臂分别具有七个自由度,即由七个参数来表示机械臂末端的位姿,其数据格式为(Xi,Yi,Zi,q1,q2,q3,q4),其中前三项为机械臂末端在坐标系T中的坐标信息,为直角坐标信息,后四项用四元数形式表示,为机械臂姿态信息。
7.2两只机械臂在绘图过程中始终保持笔尖垂直于纸面的姿态,即在绘图过程中只有Xi,Yi,Zi三个数值会发生变化,姿态信息q1,q2,q3,q4始终保持不变。机械臂的绘图姿态由示教得到,在示教过程中要避开一些潜在的障碍物,保持机械臂由初始姿态移动到绘图姿态的过程中平稳匀速。在初次示教完机械臂的绘图姿态之后,记录下q1,q2,q3,q4的数值,作为固定参数通过程序与Xi,Yi,Zi坐标信息进行组合,得到可用于机械臂运动控制的数据格式。
8.基于左臂优先原则的无干涉双臂绘图运动规划。以左臂当前轨迹段为基准,从右臂的所有轨迹段中找到第一条不与左臂发生干涉的轨迹段,如果找到,则左右机械臂同时绘制各自当前轨迹段;如果未找到,则右臂在安全位置等待,直到左臂完成当前轨迹段的绘制;然后,再依照上述过程进行左臂下一条轨迹段的绘制,直至完成左臂所有轨迹段的绘制;最后,将右臂剩余轨迹段绘制完毕。
9.上位机通过TCP/IP协议获得机械臂的静态IP地址,实现数据传输,将上述所有轨迹段传输给左右机械臂的控制器进行绘制,具体方法如下:
将上位机与机械臂控制器通过一根网线进行连接,上位机主动与机械臂建立通讯关系,获得机械臂的静态IP地址后,将此IP地址输入程序中,运行程序便可进行数据传输。
本实施例基于双机械臂协同的肖像轮廓智能绘制方法,操作步骤包括:将原始RGB彩色图像输入深度学***行于像素坐标系Y轴的直线将所述轮廓图像分为左右两部分;在像素坐标系下,分别利用逆时针搜索算法和顺时针搜索算法对左半边轮廓图像和右半边轮廓图像进行像素点排列,形成若干段不连续的轨迹段;将所述轨迹段的像素坐标转换为机械臂工具坐标系下的坐标;对所述轨迹段坐标增加机械臂姿态信息,形成机械臂可识别的一系列轨迹;对所述轨迹进行基于左臂优先原则的无干涉双臂绘图运动规划,保证两只机械臂在绘制过程中不发生干涉;通过TCP/IP协议将所述不干涉的轨迹传输给两只机械臂,进行双机械臂协同肖像图绘制。本本实施例方法实现了双机械臂协同绘图的功能,绘制效率高且效果逼真,便于在教育教学等场合进行展示。
上面对本发明实施例结合附图进行了说明,但本发明不限于上述实施例,还可以根据本发明的发明创造的目的做出多种变化,凡依据本发明技术方案的精神实质和原理下做的改变、修饰、替代、组合或简化,均应为等效的置换方式,只要符合本发明的发明目的,只要不背离本发明的技术原理和发明构思,都属于本发明的保护范围。
Claims (7)
1.一种基于双机械臂协同的肖像轮廓智能绘制方法,其特征在于,操作步骤如下:
(1)将原始RGB彩色图像输入卷积神经网络CNN,得到肖像图五官在像素坐标系——以下简称坐标系I中的坐标信息;
(2)将所述原始RGB彩色图像经过图像预处理操作得到二值图像;
(3)提取上述二值图像的轮廓,得到轮廓中的每一个像素点在坐标系I中的坐标信息(xi,yi,zi),坐标系I一般为平面坐标系,默认zi为0;
(4)利用过两只眼睛的中心位置且平行于坐标系I中Y轴的直线将轮廓图像分为左右两部分;
(5)对于左半边轮廓图像,采用逆时针搜索算法对每条轨迹中的像素点进行排序;对于右半边轮廓图像,采用顺时针搜索算法对每条轨迹中的像素点进行排序;由此,形成若干段不连续的轨迹段;
(6)将所有轨迹段像素点在坐标系I中的坐标信息转换为机械臂工具坐标系——以下简称坐标系T中的坐标信息用于轨迹绘制;
(7)对所述转换到坐标系T中的坐标信息增加机械臂姿态信息,将坐标系T中所述坐标信息与姿态信息进行组合,得到一系列可以用于机械臂运动控制的轨迹点;
(8)基于左臂优先原则的无干涉双臂绘图运动规划;以左臂当前轨迹段为基准,从右臂的所有轨迹段中找到第一条不与左臂发生干涉的轨迹段,如果找到,则左右机械臂同时绘制各自当前轨迹段;如果未找到,则右臂在安全位置等待,直到左臂完成当前轨迹段的绘制;然后,再依照上述过程进行左臂下一条轨迹段的绘制,直至完成左臂所有轨迹段的绘制;最后,将右臂剩余轨迹段绘制完毕;
(9)上位机通过TCP/IP协议获得机械臂的静态IP地址,实现数据传输,将上述所有轨迹段传输给左右机械臂的控制器进行绘制。
2.根据权利要求1所述的基于双机械臂协同的肖像轮廓智能绘制方法,其特征在于,所述将原始RGB彩色图像输入卷积神经网络CNN得到肖像图五官的位置信息,包括:
卷积神经网络由三个级联网络组成,用于人脸识别,可以获得五官的位置信息;
五官的位置信息用(x1,y1,z1),(x2,y2,z2),,(x3,y3,z3),(x4,y4,z4),(x5,y5,z5)等坐标表示,其中(x1,y1,z1)表示左眼的中心坐标,(x2,y2,z2)表示右眼的中心坐标,(x3,y3,z3)表示鼻子的中心坐标,(x4,y4,z4)表示左边嘴角的坐标,(x5,y5,z5)表示右边嘴角的坐标。
3.根据权利要求1所述的基于双机械臂协同的肖像轮廓智能绘制方法,其特征在于,所述将所述原始RGB彩色图像经过图像预处理操作得到二值图像,包括:
图像预处理包括背景去除、风格转换、图像灰度化、自适应阈值处理、形态学运算操作。
4.根据权利要求1所述的基于双机械臂协同的肖像轮廓智能绘制方法,其特征在于,所述利用过两只眼睛的中心位置且平行于坐标系I中Y轴的直线将轮廓图像分为左右两部分,包括:
所述左右两部分包括左半边轮廓图像和右半边轮廓图像,它们分别由若干段不连续的轨迹段组成,每条轨迹段由若干个相邻的像素点组成,为使机器人按照轨迹段进行绘制,需将所述轨迹中的像素点进行逐个排序,形成若干条由顺序连贯像素点组成的轨迹段。
5.根据权利要求1所述的基于双机械臂协同的肖像轮廓智能绘制方法,其特征在于,所述对于左半边轮廓图像,采用逆时针搜索算法对每条轨迹中的像素点进行排序;对于右半边轮廓图像,采用顺时针搜索算法对每条轨迹中的像素点进行排序,包括:
在对每条轨迹段中的若干个像素点进行排序的过程中,由于机械臂绘制每一条轨迹段是一个连续的过程,在轨迹段j的起始位置落笔,在轨迹段j的末端位置抬笔,再移动到第j+1条轨迹段的起始位置落笔,所以在每条轨迹段的起始位置和末端位置设置1和0标记落笔与抬笔动作;
所述逆时针搜索算法即首先遍历左半边轮廓图像中的每一行,找到第一个黑色像素点,像素值为0,以此像素点为中心点,在8邻域内从正上方开始,按照逆时针的方向去寻找下一个黑色像素点,如果找到,就将此像素点加入当前轨迹段队列;如果没找到,就继续对下一行的像素点进行搜寻,直至左半边轮廓图像的像素点全部搜索完毕,其中搜索过的像素点像素值设为255,表示已遍历。
7.根据权利要求1所述的基于双机械臂协同的肖像轮廓智能绘制方法,其特征在于,所述对所述转换到坐标系T中的坐标信息增加机械臂姿态信息,将坐标系T中所述坐标信息与姿态信息进行组合,得到一系列可用于机械臂运动的坐标点,包括:
所述方法是由十四自由度冗余双机械臂进行绘制,所以每只机械臂分别具有七个自由度,所述坐标点数据格式为(Xi,Yi,Zi,q1,q2,q3,q4),其中前三项为机械臂末端在坐标系T中的坐标信息,后四项用四元数形式表示,为机械臂姿态信息;
两只机械臂在绘图过程中始终保持笔尖垂直于纸面的姿态,即在绘图过程中只有Xi,Yi,Zi三个数值会发生变化,姿态信息q1,q2,q3,q4始终保持不变;机械臂的绘图姿态由示教得到,在示教过程中要避开一些潜在的障碍物,保持机械臂由初始姿态移动到绘图姿态的过程中平稳匀速;在初次示教完机械臂的绘图姿态之后,记录下q1,q2,q3,q4的数值,作为固定参数通过程序与Xi,Yi,Zi坐标信息进行组合,得到可用于机械臂运动控制的数据格式。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111477658.8A CN114332985B (zh) | 2021-12-06 | 2021-12-06 | 一种基于双机械臂协同的肖像轮廓智能绘制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111477658.8A CN114332985B (zh) | 2021-12-06 | 2021-12-06 | 一种基于双机械臂协同的肖像轮廓智能绘制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114332985A true CN114332985A (zh) | 2022-04-12 |
CN114332985B CN114332985B (zh) | 2024-06-18 |
Family
ID=81049335
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111477658.8A Active CN114332985B (zh) | 2021-12-06 | 2021-12-06 | 一种基于双机械臂协同的肖像轮廓智能绘制方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114332985B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105701437A (zh) * | 2014-11-11 | 2016-06-22 | 沈阳新松机器人自动化股份有限公司 | 基于机器人的肖像绘制*** |
CN107107342A (zh) * | 2014-12-26 | 2017-08-29 | 川崎重工业株式会社 | 双臂机械手的示教***及双臂机械手的示教方法 |
CN108460369A (zh) * | 2018-04-04 | 2018-08-28 | 南京阿凡达机器人科技有限公司 | 一种基于机器视觉的绘图方法及*** |
CN110405730A (zh) * | 2019-06-06 | 2019-11-05 | 大连理工大学 | 一种基于rgb-d图像的人机物交互机械臂示教*** |
CN110900581A (zh) * | 2019-12-27 | 2020-03-24 | 福州大学 | 基于RealSense相机的四自由度机械臂视觉伺服控制方法及装置 |
-
2021
- 2021-12-06 CN CN202111477658.8A patent/CN114332985B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105701437A (zh) * | 2014-11-11 | 2016-06-22 | 沈阳新松机器人自动化股份有限公司 | 基于机器人的肖像绘制*** |
CN107107342A (zh) * | 2014-12-26 | 2017-08-29 | 川崎重工业株式会社 | 双臂机械手的示教***及双臂机械手的示教方法 |
CN108460369A (zh) * | 2018-04-04 | 2018-08-28 | 南京阿凡达机器人科技有限公司 | 一种基于机器视觉的绘图方法及*** |
CN110405730A (zh) * | 2019-06-06 | 2019-11-05 | 大连理工大学 | 一种基于rgb-d图像的人机物交互机械臂示教*** |
CN110900581A (zh) * | 2019-12-27 | 2020-03-24 | 福州大学 | 基于RealSense相机的四自由度机械臂视觉伺服控制方法及装置 |
Non-Patent Citations (3)
Title |
---|
李寿杰;王艳;刘东凯;李郑;兴雷;: "悬挂式绘图机器人***设计与实现", 电子设计工程, no. 03, 5 February 2020 (2020-02-05) * |
邓宗乾;李静;沈南燕;何舟;李英杰: "基于近红外双目***的目标定位软件设计", 《工业控制计算机》, 23 September 2021 (2021-09-23) * |
黄鑫: "敏捷型辅助搏击机器人研究", 《中国优秀硕士学位论文全文数据库信息科技辑》, 30 June 2021 (2021-06-30), pages 140 - 283 * |
Also Published As
Publication number | Publication date |
---|---|
CN114332985B (zh) | 2024-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108280856B (zh) | 基于混合信息输入网络模型的未知物体抓取位姿估计方法 | |
CN106598226A (zh) | 一种基于双目视觉和深度学习的无人机人机交互方法 | |
CN109108942A (zh) | 基于视觉实时示教与自适应dmps的机械臂运动控制方法和*** | |
CN103646249B (zh) | 一种温室智能移动机器人视觉导航路径识别方法 | |
CN106909216A (zh) | 一种基于Kinect传感器的仿人机械手控制方法 | |
CN109746916B (zh) | 一种机器人书写书法的方法及*** | |
CN107351080B (zh) | 一种基于相机单元阵列的混合智能研究***及控制方法 | |
CN110321937B (zh) | 一种Faster-RCNN结合卡尔曼滤波的运动人体跟踪方法 | |
CN111890357A (zh) | 一种基于动作演示示教的智能机器人抓取方法 | |
CN110135277B (zh) | 一种基于卷积神经网络的人体行为识别方法 | |
CN114714365B (zh) | 一种基于云平台的无序工件抓取方法及其*** | |
CN110307848A (zh) | 一种移动机器人导航方法 | |
CN111216133A (zh) | 一种基于指尖识别和手部运动跟踪的机器人演示编程方法 | |
CN115861780B (zh) | 一种基于yolo-ggcnn的机械臂检测抓取方法 | |
CN110555404A (zh) | 基于人体姿态识别的飞翼无人机地面站交互装置及方法 | |
Chen et al. | Combining reinforcement learning and rule-based method to manipulate objects in clutter | |
WO2022228391A1 (zh) | 一种终端设备定位方法及其相关设备 | |
CN115147488A (zh) | 一种基于密集预测的工件位姿估计方法与抓取*** | |
CN114332985B (zh) | 一种基于双机械臂协同的肖像轮廓智能绘制方法 | |
CN111950341B (zh) | 一种基于机器视觉的实时手势识别方法及手势识别*** | |
CN113284184A (zh) | 面向机器人rgbd视觉感知的6d位姿估计方法及*** | |
CN112884799A (zh) | 一种基于孪生神经网络的复杂场景下目标跟踪方法 | |
Ouyang et al. | Robot grasp with multi-object detection based on RGB-D image | |
CN114998573A (zh) | 一种基于rgb-d特征深度融合的抓取位姿检测方法 | |
CN114612494A (zh) | 一种动态场景下的移动机器人视觉里程计设计方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |