CN103488356B - 一种基于红外摄像头三维成像的触摸识别方法 - Google Patents

一种基于红外摄像头三维成像的触摸识别方法 Download PDF

Info

Publication number
CN103488356B
CN103488356B CN201310492768.0A CN201310492768A CN103488356B CN 103488356 B CN103488356 B CN 103488356B CN 201310492768 A CN201310492768 A CN 201310492768A CN 103488356 B CN103488356 B CN 103488356B
Authority
CN
China
Prior art keywords
camera
coordinate
screen
image
touch
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201310492768.0A
Other languages
English (en)
Other versions
CN103488356A (zh
Inventor
汪志冰
何辉
李磊
李建军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wuhan Tuo Bao Science And Technology Co Ltd
Original Assignee
Wuhan Tuo Bao Science And Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wuhan Tuo Bao Science And Technology Co Ltd filed Critical Wuhan Tuo Bao Science And Technology Co Ltd
Priority to CN201310492768.0A priority Critical patent/CN103488356B/zh
Publication of CN103488356A publication Critical patent/CN103488356A/zh
Application granted granted Critical
Publication of CN103488356B publication Critical patent/CN103488356B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Position Input By Displaying (AREA)

Abstract

本发明公开了一种基于红外摄像头三维成像的触摸识别方法,包括将本发明装置的红外摄像头附着安装在屏幕的任意边框上,再通过摄像头对屏幕进行标定,通过安装在屏幕边框上的装置的摄像头采集手指或触摸笔在屏上点击、触摸、滑动等动作的图像,再由装置上的专用处理器进行图像处理,对手指或者触摸笔进行三维成像,并判断手指或者触摸笔的触摸点在屏幕上的位置和动作。本发明实现了任意屏幕上实现触摸屏的功能,本发明使用简单,定位准确,便于安装和携带。

Description

一种基于红外摄像头三维成像的触摸识别方法
技术领域
本发明属于计算机人工智能技术领域,更具体地,涉及一种基于红外摄像头三维成像的触摸识别方法。
背景技术
技术的进步使人与计算机之间的交互越来越接近自然方式的交互,也就是人们大力倡导的“自然交互”。触摸技术这种轻松的人机交互方式已经被推向了众多的领域,除了应用在个人便携式数码产品之外,它还被广泛地应用在信息家电、公共信息、电子游戏、办公室自动化设备以及工业设备等领域。利用触摸技术,用户只需要用手指轻轻触碰屏幕上的文字或图标就能够实现与计算机的交互,使得人与机器之间的交互更加直观便捷。
目前,由于种种原因,这种具有良好用户体验的交互技术还没能大规模地普及在大型显示屏或PC显示器上,其中一个很大的原因就是目前绝大多数的大型显示屏或PC显示器等都无法支持触摸,而更换带有触摸功能的显示器将花费不小的资金。与之相对应的是,现有的触摸技术有的很难将尺寸做大,有的无法应用在现有的显示器上,有的因成本过高而无法大规模应用。
发明内容
针对现有技术的以上缺陷或改进需求,本发明提供了一种基于红外摄像头三维成像的触摸识别方法,其目的在于,能够对任意具有屏幕特性的屏幕例如电脑液晶屏、普通液晶屏、投影仪屏幕、大型显示器等成为具有触摸特性的触摸屏,大大减小了触摸屏的成本,提高了实用性。
为实现上述目的,按照本发明的一个方面,提供了一种基于红外摄像头三维成像的触摸识别方法,包括以下步骤:
(1)将多个红外摄像头放置在屏幕边框的左右任意位置;
(2)对放置有红外摄像头的屏幕进行参数标定,以分别获得左、右摄像头的投影矩阵Ml和Mr;
(3)左右红外摄像头分别采集用户手指指尖或触摸笔尖触摸屏幕的图像,对采集的图像进行预处理,包括图像相减、图像去噪、边缘提取、指尖或笔尖图像识别,以获取用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F);
(4)根据用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F)、以及左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr通过以下等式获得用户的手指指尖或触摸笔尖在屏幕上的三维空间坐标(xf,yf,zf):
u 1 F v 1 F 1 = Ml x f y f z f 1 , u 2 F v 2 F 1 = Mr x f y f z f 1
(5)判断步骤(4)获得的zf是否小于阀值γ,其中γ的取值范围和屏幕的长度成正比,若zf小于γ,可以判断用户手指指尖或触摸笔尖触摸到屏幕上,通过USB接口将指尖的三维空间坐标(xf,yf,zf)输出,否则表示用户未触摸屏幕。
优选地,步骤(2)包括以下子步骤:
(2-1)以屏幕的右上角作为参考坐标原点,横向为坐标x轴,纵向为y轴,在屏幕上参考坐标为(x1,y1,0),(x2,y2,0),…,(x8,y8,0)的位置分别放置长宽高为L*L*H的标定物,并利用两个红外摄像头分别对8个标定物进行拍照,其中(xm,ym,0)分别为将屏幕划分为2*4等分后每个等分的三维参考坐标,(xm,ym,H)分别为将屏幕划分为2*4等分后每个等分的三维空间坐标,1≤m≤8;
(2-2)利用边缘提取和梯度算法获取每个标定物的左右边缘在左红外摄像头上的像素坐标u1mL、u1mR,以及上下边缘在该左红外摄像头上的像素坐标v1mL、v1mR,并获取每个标定物在该红外摄像头上的像素坐标(u1m,v1m),其中u1m=u1mL+u1mR/2,v1m=v1mL+v1mR/2,利用边缘提取和梯度算法获取每个标定物的左右边缘在右红外摄像头上的像素坐标u2mL、u2mR,以及上下边缘在该右红外摄像头上的像素坐标v2mL、v2mR,并获取每个标定物在该右红外摄像头上的像素坐标(u2m,v2m),其中u2m=u2mL+u2mR/2,v2m=v2mL+v2mR/2;
(2-3)分别根据上述获得的(xm,ym,H)以及每个标定物在左右红外摄像头上的像素坐标(u1m,v1m)、(u2m,v2m)并利用以下等式分别获得左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr:
u 1 m v 1 m 1 = Ml x m y m H 1
u 2 m v 2 m 1 = Mr x m y m H 1
最终获得的投影矩阵分别为
Ml = ml 11 ml 12 ml 13 ml 14 ml 21 ml 22 ml 23 ml 24 ml 31 ml 32 ml 33 ml 34 , Mr = mr 11 mr 12 mr 13 mr 14 mr 21 mr 22 mr 23 mr 24 mr 31 mr 32 mr 33 mr 34
优选地,步骤(3)包括以下子步骤:
(3-1)图像相减,将左摄像头采集到的图像与初始化帧的图像对应点上像素点相减组成新的图像,右摄像头的处理与上述相同;
(3-2)图像去噪,对于一个3*3的掩模 W = w 1 w 2 w 3 w 4 w 5 w 6 w 7 w 8 w 9 , 假设采集的图像上某一点的像素为aj,k,j和k表示图像上点的位置;aj,k=aj-1,k-1w1+aj-1,kw2+…+aj,kw5+…+aj+1,kw8+aj+1,k+1w9,将得到新的像素aj,k,取 W = 1 9 1 1 1 1 1 1 1 1 1 , 右摄像头的处理与上述相同;
(3-3)边缘检测,将左摄像头上的像素点做梯度变换,设SOBEL算子 S h = - 1 - 2 - 1 0 0 0 1 2 1 为横向梯度算子, S v = - 1 0 1 - 2 0 2 1 0 1 为纵向梯度算子,对采集的图像分别使用Sh和Sv来进行卷积运算,以能够获得图像在两个方向上的梯度图,右摄像头的处理与上述相同;
(3-4)图像识别,将左摄像头上的像素点进行K曲率判别。
优选地,步骤(3-4)具体为,根据(3-3)中得到的边缘检测图可以提取出手指的边缘图像,每一个边缘坐标点向量为以该点为起始点按边缘的顺时针方向数到的第K点设为按逆时针方向数到的第K点设为的K向量计算公式为当上述计算α大于0并且大于设定阀值β,则当前向量对应的像素坐标即为手指指尖在左摄像头上的成像坐标(u1F,v1F);右摄像头的处理与上述相同,得到指尖的像素坐标为(u2F,v2F)。
按照本发明的另一方面,提供了一种基于红外摄像头三维成像的触摸识别方法,包括以下步骤:
(1)将多个红外摄像头放置在屏幕边框的左右任意位置;
(2)对放置有红外摄像头的屏幕进行参数标定,以分别获得左、右摄像头的投影矩阵M1和Mr;
(3)左右红外摄像头分别采集用户手指指尖或触摸笔尖触摸屏幕的图像,对采集的图像进行预处理,包括图像相减、图像去噪、边缘提取、指尖或笔尖图像识别,以获取用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F);
(4)根据用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F)、以及左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr通过以下等式获得用户的手指指尖或触摸笔尖在屏幕上的三维空间坐标(xf,yf,zf):
u 1 F v 1 F 1 = Ml x f y f z f 1 , u 2 F v 2 F 1 = Mr x f y f z f 1
(5)获得连续D帧指尖的三维空间坐标(xf1,yf1,zf1),
(xf2,yf2,zf2)…(xfD,yfDzfD),其中D为正整数;
(6)判断zfd是否小于阀值γ,其中1≤d≤D,当zfd小于γ,可以判断手指触摸到屏幕上,此时计算上述相邻帧X轴和Y轴坐标的差,即Δxd=xf(d+1)-xfd,Δyd=yf(d+1)-yfd,然后根据计算得到的D-1组(Δxd,Δyd),得到手指指尖在屏幕上的滑动轨迹,将轨迹通过USB接口输出,从而实现手指滑动触摸的识别,当zfd大于等于γ,表示用户没有触摸屏幕。
总体而言,通过本发明所构思的以上技术方案与现有技术相比,能够取得下列有益效果:
(1)本发明实现了任意屏幕上(包括液晶屏、投影仪屏幕、电子墨水屏或其他屏幕等)实现触摸屏的功能;
(2)本发明使用简单,定位准确,便于安装和携带。
附图说明
图1是本发明基于红外摄像头三维成像的触摸识别方法的流程图。
图2是本发明基于红外摄像头三维成像的触摸识别方法所使用的装置的外形图。
图3是本发明基于红外摄像头三维成像的触摸识别方法中屏幕的正视图。
图4是本发明基于红外摄像头三维成像的触摸识别方法中屏幕的侧视图。
图5是本发明标定物示意图。
图6是本发明标定物中心点示意图。
图7是本发明标定点示意图。
图8是本发明手指触摸点击示意图。
图9是本发明手指滑动示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。此外,下面所描述的本发明各个实施方式中所涉及到的技术特征只要彼此之间未构成冲突就可以相互组合。
如图1所示,本发明基于红外摄像头三维成像的触摸识别方法,包括以下步骤:
(1)将多个红外摄像头放置在屏幕边框的左右任意位置;在本实施方式中,红外摄像头的帧率是60帧/秒、分辨率VGA以上,镜头角度在110°,屏幕为任意尺寸或形式的屏幕,包括液晶屏、投影仪屏幕、电子墨水屏或其他屏幕)摄像头被安放在屏幕边框的左右任意位置,如图2至4所示,作为示例,选取屏幕上边框的中心位置附着红外摄像头,在本实施方式中,使用两个红外摄像头,应该理解的是,本发明的摄像头数量绝不局限于此。
(2)根据双目视觉的原理对放置有红外摄像头的屏幕进行参数标定,以分别获得左、右摄像头的投影矩阵Ml和Mr;其具体实现包括以下子步骤。
(2-1)以屏幕的右上角作为参考坐标原点,横向为坐标x轴,纵向为y轴,在屏幕上参考坐标为(x1,y1,0),(x2,y2,0),…,(x8,y8,0)的位置分别放置长宽高为L*L*H的标定物,并利用两个红外摄像头分别对8个标定物进行拍照,其中L和H均为正数,且为屏幕的长度的1%至10%,(xm,ym,0)分别为将屏幕划分为2*4等分后每个等分的三维参考坐标,(xm,ym,H)分别为将屏幕划分为2*4等分后每个等分的三维空间坐标,其中1≤m≤8;如图5所示,标定物的L*L的面为黑色,其他面为白色,如图6所示,圆心为L*L面的中心,如图7所示,屏幕为XOY坐标面,垂直屏幕的轴为Z轴;
(2-2)利用边缘提取和梯度算法获取每个标定物的左右边缘在左红外摄像头上的像素坐标u1mL、u1mR,以及上下边缘在该左红外摄像头上的像素坐标v1mL、v1mR,并获取每个标定物在该红外摄像头上的像素坐标(u1m,v1m),其中u1m=u1mL+u1mR/2,v1m=v1mL+v1mR/2,利用边缘提取和梯度算法获取每个标定物的左右边缘在右红外摄像头上的像素坐标u2mL、u2mR,以及上下边缘在该右红外摄像头上的像素坐标v2mL、v2mR,并获取每个标定物在该右红外摄像头上的像素坐标(u2m,v2m),其中u2m=u2mL+u2mR/2,v2m=v2mL+v2mR/2;
(2-3)分别根据上述获得的(xm,ym,H)以及每个标定物在左右红外摄像头上的像素坐标(u1m,v1m)、(u2m,v2m)并利用以下等式分别获得左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr:
u 1 m v 1 m 1 = Ml x m y m H 1
u 2 m v 2 m 1 = Mr x m y m H 1
最终获得的投影矩阵分别为
Ml = ml 11 ml 12 ml 13 ml 14 ml 21 ml 22 ml 23 ml 24 ml 31 ml 32 ml 33 ml 34 , Mr = mr 11 mr 12 mr 13 mr 14 mr 21 mr 22 mr 23 mr 24 mr 31 mr 32 mr 33 mr 34
(3)红外摄像头分别采集用户手指指尖或触摸笔尖触摸屏幕的图像,对采集的图像进行预处理,包括图像相减、图像去噪、边缘提取、基于K曲率判别的指尖或笔尖图像识别,以获取用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F);如图8所示,其具体实现包括以下子步骤:
(3-1)图像相减,将左摄像头采集到的图像与初始化帧的图像对应点上像素点相减组成新的图像;右摄像头的处理与上述相同;
(3-2)图像去噪,对于一个3*3的掩模 W = w 1 w 2 w 3 w 4 w 5 w 6 w 7 w 8 w 9 , 假设采集的图像上某一点的像素为aj,k,j和k表示图像上点的位置;aj,k=aj-1,k-1w1+aj-1,kw2+…+aj,kw5+…+aj+1,kw8+aj+1,k+1w9,将得到新的像素aj,k,取 W = 1 9 1 1 1 1 1 1 1 1 1 ; 右摄像头的处理与上述相同;
(3-3)边缘检测,将左摄像头上的像素点做梯度变换,设SOBEL算子 S h = - 1 - 2 - 1 0 0 0 1 2 1 为横向梯度算子, S v = - 1 0 1 - 2 0 2 1 0 1 为纵向梯度算子,对采集的图像分别使用Sh和Sv来进行卷积运算,就能够获得图像在两个方向上的梯度图;右摄像头的处理与上述相同;
(3-4)图像识别,将左摄像头上的像素点进行K曲率判别,具体实现过程是根据(3-3)中得到的边缘检测图可以提取出手指的边缘图像,每一个边缘坐标点向量为以该点为起始点按边缘的顺时针方向数到的第K点设为按逆时针方向数到的第K点设为的K向量计算公式为当上述计算α大于0并且大于设定阀值β(其取值范围为0.5至1之间),则当前向量对应的像素坐标即为手指指尖在左摄像头上的成像坐标(u1F,v1F);右摄像头的处理与上述相同,得到指尖的像素坐标为(u2F,v2F);
(4)根据用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F)、以及左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr通过以下等式获得用户的手指指尖或触摸笔尖在屏幕上的三维空间坐标(xf,yf,zf):
u 1 F v 1 F 1 = Ml x f y f z f 1 , u 2 F v 2 F 1 = Mr x f y f z f 1
通过上述两个矩阵方程求解可以得到指尖的三维空间坐标(xf,yf,zf),即完成用户的手指指尖或触摸笔尖的三维成像及定位。
(5)判断步骤(4)获得的zf是否小于阀值γ,其中γ的取值范围和屏幕的长度成正比,若zf小于γ,可以判断用户手指指尖或触摸笔尖触摸到屏幕上,通过USB接口将指尖的三维空间坐标(xf,yf,zf)输出,否则表示用户未触摸屏幕。
如图9所示,当用户以滑动的方式触摸屏幕时,本发明基于红外摄像头三维成像的触摸识别方法所包括的步骤基本与上述触碰方式基本相同,唯一不同在于:
(5)获得连续D帧指尖的三维空间坐标(xf1,yf1,zf1),
(xf2,yf2,zf2)…(xfD,yfD,zfD),其中D为正整数;
(6)判断zfd是否小于阀值γ,其中1≤d≤D,当zfd小于γ,可以判断手指触摸到屏幕上,此时计算上述相邻帧X轴和Y轴坐标的差,即
Δxd=xf(d+1)-xfd,Δyd=yf(d+1)-yfd
然后根据计算得到的D-1组(Δxd,Δyd),可以得到手指指尖在屏幕上的滑动轨迹,将轨迹通过USB接口输出,从而实现手指滑动触摸的识别,当zfd大于等于γ,表示用户没有触摸屏幕。
本领域的技术人员容易理解,以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于红外摄像头三维成像的触摸识别方法,其特征在于,包括以下步骤:
(1)将多个红外摄像头放置在屏幕边框的左右任意位置;
(2)对放置有红外摄像头的屏幕进行参数标定,以分别获得左、右摄像头的投影矩阵Ml和Mr;
(3)左右红外摄像头分别采集用户手指指尖或触摸笔尖触摸屏幕的图像,对采集的图像进行预处理,包括图像相减、图像去噪、边缘提取、指尖或笔尖图像识别,以获取用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F);
(4)根据用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F)、以及左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr通过以下等式获得用户的手指指尖或触摸笔尖在屏幕上的三维空间坐标(xf,yf,zf):
u 1 F v 1 F 1 = M l x f y f z f 1 , u 2 F v 2 F 1 = M r x f y f z f 1
(5)判断步骤(4)获得的zf是否小于阀值γ,其中γ的取值范围和屏幕的长度成正比,若zf小于γ,可以判断用户手指指尖或触摸笔尖触摸到屏幕上,通过硬件通信接口将指尖的三维空间坐标(xf,yf,zf)输出,否则表示用户未触摸屏幕。
2.根据权利要求1所述的触摸识别方法,其特征在于,步骤(2)包括以下子步骤:
(2-1)以屏幕的右上角作为参考坐标原点,横向为坐标x轴,纵向为y轴,在屏幕上参考坐标为(x1,y1,0),(x2,y2,0),…,(x8,y8,0)的位置分别放置长宽高为L*L*H的标定物,并利用两个红外摄像头分别对8个标定物进行拍照,其中(xm,ym,0)分别为将屏幕划分为2*4等分后每个等分的三维参考坐标,(xm,ym,H)分别为将屏幕划分为2*4等分后每个等分的三维空间坐标,1≤m≤8;
(2-2)利用边缘提取和梯度算法获取每个标定物的左右边缘在左红外摄像头上的像素坐标u1mL、u1mR,以及上下边缘在该左红外摄像头上的像素坐标v1mL、v1mR,并获取每个标定物在该红外摄像头上的像素坐标(u1m,v1m),其中u1m=u1mL+u1mR/2,v1m=v1mL+v1mR/2,利用边缘提取和梯度算法获取每个标定物的左右边缘在右红外摄像头上的像素坐标u2mL、u2mR,以及上下边缘在该右红外摄像头上的像素坐标v2mL、v2mR,并获取每个标定物在该右红外摄像头上的像素坐标(u2m,v2m),其中u2m=u2mL+u2mR/2,v2m=v2mL+v2mR/2;
(2-3)分别根据上述获得的(xm,ym,H)以及每个标定物在左右红外摄像头上的像素坐标(u1m,v1m)、(u2m,v2m)并利用以下等式分别获得左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr:
u 1 m v 1 m 1 = M l x m y m H 1
u 2 m v 2 m 1 = M r x m y m H 1
最终获得的投影矩阵分别为
M l = ml 11 ml 12 ml 13 ml 14 ml 21 ml 22 ml 23 ml 24 ml 31 ml 32 ml 33 ml 34 , M r = mr 11 mr 12 mr 13 mr 14 mr 21 mr 22 mr 23 mr 24 mr 31 mr 32 mr 33 mr 34 .
3.根据权利要求1所述的触摸识别方法,其特征在于,步骤(3)包括以下子步骤:
(3-1)图像相减,将左摄像头采集到的图像与初始化帧的图像对应点上像素点相减组成新的图像,右摄像头的处理与上述相同;
(3-2)图像去噪,对于一个3*3的掩模 W = w 1 w 2 w 3 w 4 w 5 w 6 w 7 w 8 w 9 , 假设采集的图像上某一点的像素为aj,k,j和k表示图像上点的位置;aj,k=aj-1,k-1w1+aj-1,kw2+…+aj,kw5+…+aj+1,kw8+aj+1,k+1w9,将得到新的像素aj,k,取 W = 1 9 1 1 1 1 1 1 1 1 1 , 右摄像头的处理与上述相同;
(3-3)边缘检测,将左摄像头上的像素点做梯度变换,设SOBEL算子 S h = - 1 - 2 - 1 0 0 0 1 2 1 为横向梯度算子, S v = - 1 0 1 - 2 0 2 1 0 1 为纵向梯度算子,对采集的图像分别使用Sh和Sv来进行卷积运算,以能够获得图像在两个方向上的梯度图,右摄像头的处理与上述相同;
(3-4)图像识别,将左摄像头上的像素点进行K曲率判别。
4.根据权利要求3所述的触摸识别方法,其特征在于,步骤(3-4)具体为,根据(3-3)中得到的梯度图可以提取出手指的边缘图像,每一个边缘坐标点向量为以该点为起始点按边缘的顺时针方向数到的第K点设为按逆时针方向数到的第K点设为的K向量计算公式为当上述计算α大于0并且大于设定阀值β,则当前向量对应的像素坐标即为手指指尖在左摄像头上的成像坐标(u1F,v1F);右摄像头的处理与上述相同,得到指尖的像素坐标为(u2F,v2F)。
5.一种基于红外摄像头三维成像的触摸识别方法,其特征在于,包括以下步骤:
(1)将多个红外摄像头放置在屏幕边框的左右任意位置;
(2)对放置有红外摄像头的屏幕进行参数标定,以分别获得左、右摄像头的投影矩阵Ml和Mr;
(3)左右红外摄像头分别采集用户手指指尖或触摸笔尖触摸屏幕的图像,对采集的图像进行预处理,包括图像相减、图像去噪、边缘提取、指尖或笔尖图像识别,以获取用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F);
(4)根据用户的手指指尖或触摸笔尖在左摄像头上的成像坐标(u1F,v1F)以及在右摄像头上的成像坐标(u2F,v2F)、以及左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr通过以下等式获得用户的手指指尖或触摸笔尖在屏幕上的三维空间坐标(xf,yf,zf):
u 1 F v 1 F 1 = M l x f y f z f 1 , u 2 F v 2 F 1 = M r x f y f z f 1
(5)获得连续D帧指尖的三维空间坐标(xf1,yf1,zf1),(xf2,yf2,zf2),…,(xfD,yfD,zfD),其中D为正整数;
(6)判断zfd是否小于阀值γ,其中1≤d≤D,当zfd小于γ,可以判断手指触摸到屏幕上,此时计算上述相邻帧X轴和Y轴坐标的差,即Δxd=xf(d+1)-xfd,Δyd=yf(d+1)-yfd,然后根据计算得到的D-1组(Δxd,Δyd),得到手指指尖在屏幕上的滑动轨迹,将轨迹通过硬件通信接口输出,从而实现手指滑动触摸的识别,当zfd大于等于γ,表示用户没有触摸屏幕。
6.根据权利要求5所述的触摸识别方法,其特征在于,步骤(2)包括以下子步骤:
(2-1)以屏幕的右上角作为参考坐标原点,横向为坐标x轴,纵向为y轴,在屏幕上参考坐标为(x1,y1,0),(x2,y2,0),…,(x8,y8,0)的位置分别放置长宽高为L*L*H的标定物,并利用两个红外摄像头分别对8个标定物进行拍照,其中(xm,ym,0)分别为将屏幕划分为2*4等分后每个等分的三维参考坐标,(xm,ym,H)分别为将屏幕划分为2*4等分后每个等分的三维空间坐标,1≤m≤8;
(2-2)利用边缘提取和梯度算法获取每个标定物的左右边缘在左红外摄像头上的像素坐标u1mL、u1mR,以及上下边缘在该左红外摄像头上的像素坐标v1mL、v1mR,并获取每个标定物在该红外摄像头上的像素坐标(u1m,v1m),其中u1m=u1mL+u1mR/2,v1m=v1mL+v1mR/2,利用边缘提取和梯度算法获取每个标定物的左右边缘在右红外摄像头上的像素坐标u2mL、u2mR,以及上下边缘在该右红外摄像头上的像素坐标v2mL、v2mR,并获取每个标定物在该右红外摄像头上的像素坐标(u2m,v2m),其中u2m=u2mL+u2mR/2,v2m=v2mL+v2mR/2;
(2-3)分别根据上述获得的(xm,ym,H)以及每个标定物在左右红外摄像头上的像素坐标(u1m,v1m)、(u2m,v2m)并利用以下等式分别获得左摄像头的投影矩阵Ml和右摄像头的投影矩阵Mr:
u 1 m v 1 m 1 = M l x m y m H 1
u 2 m v 2 m 1 = M r x m y m H 1
最终获得的投影矩阵分别为
M l = ml 11 ml 12 ml 13 ml 14 ml 21 ml 22 ml 23 ml 24 ml 31 ml 32 ml 33 ml 34 , M r = mr 11 mr 12 mr 13 mr 14 mr 21 mr 22 mr 23 mr 24 mr 31 mr 32 mr 33 mr 34 .
7.根据权利要求5所述的触摸识别方法,其特征在于,步骤(3)包括以下子步骤:
(3-1)图像相减,将左摄像头采集到的图像与初始化帧的图像对应点上像素点相减组成新的图像,右摄像头的处理与上述相同;
(3-2)图像去噪,对于一个3*3的掩模 W = w 1 w 2 w 3 w 4 w 5 w 6 w 7 w 8 w 9 , 假设采集的图像上某一点的像素为aj,k,j和k表示图像上点的位置;aj,k=aj-1,k-1w1+aj-1,kw2+…+aj,kw5+…+aj+1,kw8+aj+1,k+1w9,将得到新的像素aj,k,取 W = 1 9 1 1 1 1 1 1 1 1 1 , 右摄像头的处理与上述相同;
(3-3)边缘检测,将左摄像头上的像素点做梯度变换,设SOBEL算子 S h = - 1 - 2 - 1 0 0 0 1 2 1 为横向梯度算子, S v = - 1 0 1 - 2 0 2 1 0 1 为纵向梯度算子,对采集的图像分别使用Sh和Sv来进行卷积运算,以能够获得图像在两个方向上的梯度图,右摄像头的处理与上述相同;
(3-4)图像识别,将左摄像头上的像素点进行K曲率判别。
8.根据权利要求7所述的触摸识别方法,其特征在于,步骤(3-4)具体为,根据(3-3)中得到的梯度图可以提取出手指的边缘图像,每一个边缘坐标点向量为以该点为起始点按边缘的顺时针方向数到的第K点设为按逆时针方向数到的第K点设为的K向量计算公式为当上述计算α大于0并且大于设定阀值β,则当前向量对应的像素坐标即为手指指尖在左摄像头上的成像坐标(u1F,v1F);右摄像头的处理与上述相同,得到指尖的像素坐标为(u2F,v2F)。
CN201310492768.0A 2013-10-18 2013-10-18 一种基于红外摄像头三维成像的触摸识别方法 Active CN103488356B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310492768.0A CN103488356B (zh) 2013-10-18 2013-10-18 一种基于红外摄像头三维成像的触摸识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310492768.0A CN103488356B (zh) 2013-10-18 2013-10-18 一种基于红外摄像头三维成像的触摸识别方法

Publications (2)

Publication Number Publication Date
CN103488356A CN103488356A (zh) 2014-01-01
CN103488356B true CN103488356B (zh) 2016-02-24

Family

ID=49828637

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310492768.0A Active CN103488356B (zh) 2013-10-18 2013-10-18 一种基于红外摄像头三维成像的触摸识别方法

Country Status (1)

Country Link
CN (1) CN103488356B (zh)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103793113B (zh) * 2014-03-10 2019-04-16 天津津航技术物理研究所 一种光学触摸模组的成像定位方法及光学触摸控制设备
CN104159137A (zh) * 2014-09-01 2014-11-19 深圳悠易阅科技有限公司 一种用于智能电视的触摸屏遥控器及其控制方法
CN106525004A (zh) * 2016-11-09 2017-03-22 人加智能机器人技术(北京)有限公司 双目立体视觉***及深度测量方法
CN107577376A (zh) * 2017-08-30 2018-01-12 努比亚技术有限公司 一种控制方法及终端
CN109976590B (zh) * 2017-12-27 2022-04-01 上海品奇数码科技有限公司 一种基于摄像头的触控检测方法
WO2019127349A1 (zh) 2017-12-29 2019-07-04 腾讯科技(深圳)有限公司 一种多媒体信息分享的方法、相关装置及***
CN108491066A (zh) * 2018-01-30 2018-09-04 歌尔科技有限公司 一种手势交互方法和装置
CN108874241A (zh) * 2018-07-02 2018-11-23 大连米乐宏业科技有限公司 基于幼儿教育的墙面触控***

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101038671A (zh) * 2007-04-25 2007-09-19 上海大学 基于立体视觉三维手指运动轨迹跟踪方法
CN101354623A (zh) * 2007-07-27 2009-01-28 张伟明 利用红外图像传感实现二维及三维指针的方法和***
WO2012110207A1 (de) * 2011-02-19 2012-08-23 Volkswagen Aktiengesellschaft Verfahren und vorrichtung zum bereitstellen einer benutzerschnittstelle, insbesondere in einem fahrzeug

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101038671A (zh) * 2007-04-25 2007-09-19 上海大学 基于立体视觉三维手指运动轨迹跟踪方法
CN101354623A (zh) * 2007-07-27 2009-01-28 张伟明 利用红外图像传感实现二维及三维指针的方法和***
WO2012110207A1 (de) * 2011-02-19 2012-08-23 Volkswagen Aktiengesellschaft Verfahren und vorrichtung zum bereitstellen einer benutzerschnittstelle, insbesondere in einem fahrzeug

Also Published As

Publication number Publication date
CN103488356A (zh) 2014-01-01

Similar Documents

Publication Publication Date Title
CN103488356B (zh) 一种基于红外摄像头三维成像的触摸识别方法
CN103713738B (zh) 一种基于视觉跟踪和手势识别的人机交互方法
US10685241B2 (en) Method and apparatus for indicating lane
CN104216581B (zh) 具有用于检测对象的双模电容式感测的触控面板传感器
EP2203982B1 (en) Detecting finger orientation on a touch-sensitive device
CN103279225B (zh) 投影式人机交互***及触控识别方法
CN104067209B (zh) 交互式输入***及方法
CN108256504A (zh) 一种基于深度学习的三维动态手势识别方法
CN103955316B (zh) 一种指尖触碰检测***及方法
CN105718878A (zh) 基于级联卷积神经网络的第一视角空中手写和空中交互方法
CN1639674A (zh) 为gui提供显示的方法
CN102163108B (zh) 多触摸点识别方法及装置
CN103902129B (zh) 电容屏多点触摸压力检测方法
CN103389841A (zh) 抑制低频噪声干扰的感测方法与装置
CN102999926B (zh) 一种基于底层特征融合的图像视觉显著性计算方法
US20140267131A1 (en) Proximity sensing
CN102306053B (zh) 一种基于虚拟触摸屏的人机交互方法、装置及电子设备
CN102508574A (zh) 基于投影屏幕的多点触控检测方法及多点触控***
CN103838365A (zh) 穿透型头部穿戴式显示***与互动操作方法
US20140267143A1 (en) System and method for a transcapacitive proximity sensing device
US9582127B2 (en) Large feature biometrics using capacitive touchscreens
CN103885685A (zh) 页面处理方法和装置
CN107925727A (zh) 3d相机图像中的点到点距离测量
CN104615978A (zh) 视线方向跟踪方法及装置
CN105556434A (zh) 用于传感器***的连续圆形姿势检测

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C53 Correction of patent of invention or patent application
CB02 Change of applicant information

Address after: 701, room 430075, building C2, future science and Technology City, East Lake hi tech Zone, Hubei, Wuhan, 999

Applicant after: WUHAN TURBO TECHNOLOGIES Corp.

Address before: 712, 2, 58, international headquarters, Optics Valley Road, East Lake hi tech Zone, Hubei, Wuhan, Optics Valley, 430074

Applicant before: WUHAN TURBO ELECTRONIC SYSTEM CO.,LTD.

COR Change of bibliographic data

Free format text: CORRECT: APPLICANT; FROM: WUHAN TURBO ELECTRONIC SYSTEM CO., LTD. TO: WUHAN TURBO TECHNOLOGY CO., LTD.

Free format text: CORRECT: ADDRESS; FROM: 430074 WUHAN, HUBEI PROVINCE TO: 430075 WUHAN, HUBEI PROVINCE

C14 Grant of patent or utility model
GR01 Patent grant
PE01 Entry into force of the registration of the contract for pledge of patent right
PE01 Entry into force of the registration of the contract for pledge of patent right

Denomination of invention: A Touch Recognition Method Based on Infrared Camera 3D Imaging

Effective date of registration: 20230919

Granted publication date: 20160224

Pledgee: Wuhan Guanggu Branch of Hubei Bank Co.,Ltd.

Pledgor: WUHAN TURBO TECHNOLOGIES Corp.

Registration number: Y2023980057502