CN117032492A - 触控识别方法、触控标定方法及相关装置、设备 - Google Patents
触控识别方法、触控标定方法及相关装置、设备 Download PDFInfo
- Publication number
- CN117032492A CN117032492A CN202311009820.2A CN202311009820A CN117032492A CN 117032492 A CN117032492 A CN 117032492A CN 202311009820 A CN202311009820 A CN 202311009820A CN 117032492 A CN117032492 A CN 117032492A
- Authority
- CN
- China
- Prior art keywords
- image
- touch
- identified
- target
- acquisition unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 106
- 238000006243 chemical reaction Methods 0.000 claims abstract description 65
- 230000004044 response Effects 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims description 41
- 238000005520 cutting process Methods 0.000 claims description 26
- 239000011159 matrix material Substances 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 16
- 230000008569 process Effects 0.000 claims description 15
- 238000003860 storage Methods 0.000 claims description 10
- 230000009466 transformation Effects 0.000 claims description 10
- 238000010586 diagram Methods 0.000 description 22
- 230000003287 optical effect Effects 0.000 description 13
- 230000006870 function Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 8
- 230000004927 fusion Effects 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 238000004422 calculation algorithm Methods 0.000 description 6
- 238000003384 imaging method Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 5
- 239000000872 buffer Substances 0.000 description 4
- 238000013519 translation Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 230000007613 environmental effect Effects 0.000 description 3
- 241001422033 Thestylus Species 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 102000002274 Matrix Metalloproteinases Human genes 0.000 description 1
- 108010000684 Matrix Metalloproteinases Proteins 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000006059 cover glass Substances 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000002715 modification method Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001568 sexual effect Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000009966 trimming Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0416—Control or interface arrangements specially adapted for digitisers
- G06F3/0418—Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/044—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means
- G06F3/0444—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means using a single conductive element covering the whole sensing surface, e.g. by sensing the electrical current flowing at the corners
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Position Input By Displaying (AREA)
Abstract
本说明书一个或多个实施例提供了一种触控识别方法、触控标定方法及相关装置、设备。该触控识别方法中,通过至少一个图像采集单元采集触控设备的触控区域内的图像,作为待识别图像进行处理,得到目标触控点在该待识别图像所在的图像坐标系内的第一位置信息,然后通过该图像坐标系与触控区域对应的触控坐标系之间的转换关系,可以得到目标触控点在触控坐标系中的第二位置信息,也即触控操作作用于触控区域内的实际位置信息,实现触控识别,相应的响应单元可以根据该第二位置信息进行触控响应。另外,基于上述触控识别的原理,还可以通过实际位置已知的预设标定点对图像采集单元进行触控标定,得到其图像坐标系与触控坐标系的转换关系。
Description
技术领域
本说明书一个或多个实施例涉及触控技术领域,尤其涉及一种触控识别方法、触控标定方法及相关装置、设备。
背景技术
随着智能手机、平板电脑等设备的普及,触控技术已经进入了人们日常生活、工作的方方面面,触控屏因具有易于使用、用户学习成本低等优点,为越来越多的人所接受。其中,大尺寸触控屏在办公、教育等领域的优势也逐渐被人们关注。因此,有必要提供一种低成本、高精度的触控实现方案,以满足不同场景的触控应用需求。
发明内容
为了满足不同场景的触控应用需求,提高触控精度、降低触控设备成本,本说明书一个或多个实施例提供了一种触控识别方法、触控标定方法及相关装置、设备。
第一方面,本说明书一个或多个实施例提供了一种触控识别方法,应用于触控设备,所述触控设备包括至少一个图像采集单元;所述方法包括:
获取至少一个图像采集单元采集到的待识别图像;
对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息;
获取所述待识别图像的图像坐标系与触控坐标系之间的坐标转换关系;
根据所述坐标转换关系、第一位置信息和所述图像采集单元对应的权重系数,确定所述目标触控点在所述触控坐标系中的第二位置信息。
一种可能的实现方式中,所述对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息,包括:
对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域;
从所述目标区域中确定所述目标触控点,并获取所述目标触控点对应的所述第一位置信息。
一种可能的实现方式中,所述对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,包括:
确定所述待识别图像中符合第一预设特征的第一区域;
将所述第一区域作为所述目标区域;
其中,所述第一预设特征包括以下至少一项:手型物体对应的图像特征信息、杆状物体对应的图像特征信息。
一种可能的实现方式中,所述对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,包括:
获取所述待识别图像对应的图像采集单元在预设时段内采集到的至少一个历史图像;
将所述历史图像和所述待识别图像进行对比,确定所述待识别图像中的非固定物体所在的第二区域;
将所第二区域作为所述目标区域。
一种可能的实现方式中,所述对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,包括:
获取所述触控设备当前显示的显示图像;
将所述显示图像和所述待识别图像进行对比,确定所述待识别图像中包含所述显示图像的全部或部分内容的第三区域;
从所述待识别图像中所述第三区域以外的区域中确定所述目标区域。
一种可能的实现方式中,所述从所述目标区域中确定所述目标触控点,包括以下至少一项:
识别所述目标区域中的最低点,作为所述目标触控点;
识别所述目标区域中符合第二预设特征的点,作为所述目标触控点;
其中,所述第二预设特征包括:所述目标触控物的尖锐端部对应的图像特征信息。
一种可能的实现方式中,所述触控识别方法还包括:
根据所述第二位置信息跟踪并预测所述目标触控点的运动轨迹。
第二方面,本说明书一个或多个实施例还提供了一种触控标定方法,应用于触控设备,所述触控设备包括至少一个图像采集单元;所述方法包括:
获取至少一个图像采集单元采集到的待识别图像;
对所述待识别图像进行处理,确定预设标定点在所述待识别图像中的第一位置信息;
获取所述预设标定点在所述触控设备的触控区域中的标定位置信息;
根据所述第一位置信息和所述标定位置信息,分别确定每个所述图像采集单元对应的待识别图像的图像坐标系与所述触控区域的触控坐标系之间的坐标转换关系。
一种可能的实现方式中,所述触控标定方法还包括:
确定所述图像采集单元的视场裁切参数;
所述获取至少一个图像采集单元采集到的待识别图像,包括:
根据所述视场裁切参数对所图像采集单元采集到的原始图像进行裁切,以消除所述原始图像中的畸变部分,得到所述待识别图像。
一种可能的实现方式中,所述预设标定点包括至少3个;所述预设标定点设置于所述触控设备的矩形触控区域的顶点位置。
一种可能的实现方式中,所述坐标转换关系包括:所述待识别图像中的像素点与所述触控区域中的子区域之间的一一对应关系。
一种可能的实现方式中,所述坐标转换关系包括:以所述图像采集单元的内参数和外参数表示的坐标转换矩阵。
一种可能的实现方式中,所述触控标定方法还包括:
根据每个所述图像采集单元对应的所述坐标转换关系,确定所述图像采集单元之间的相对坐标关系;
根据所述相对坐标关系确定各个所述图像采集单元对应的权重系数。
第三方面,本说明书一个或多个实施例还提供了一种触控识别装置,应用于触控设备,所述触控设备包括至少一个图像采集单元;所述装置包括:
图像获取单元,用于获取至少一个图像采集单元采集到的待识别图像;
图像识别单元,用于对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息;
位置转换单元,用于获取所述待识别图像的图像坐标系与触控坐标系之间的坐标转换关系,并根据所述坐标转换关系、第一位置信息和所述图像采集单元对应的权重系数,确定所述目标触控点在所述触控坐标系中的第二位置信息。
一种可能的实现方式中,所述图像识别单元包括:
目标区域识别模块,用于对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域;
目标点识别模块,用于从所述目标区域中确定所述目标触控点,并获取所述目标触控点对应的所述第一位置信息。
一种可能的实现方式中,所述目标区域识别模块用于对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,包括以下至少一项:
所述目标区域识别模块用于确定所述待识别图像中符合第一预设特征的第一区域,并将所述第一区域作为所述目标区域;其中,所述第一预设特征包括以下至少一项:手型物体对应的图像特征信息、杆状物体对应的图像特征信息;
所述目标区域识别模块用于获取所述待识别图像对应的图像采集单元在预设时段内采集到的至少一个历史图像,将所述历史图像和所述待识别图像进行对比,确定所述待识别图像中的非固定物体所在的第二区域,并将所第二区域作为所述目标区域;
所述目标区域识别模块用于获取所述触控设备当前显示的显示图像,将所述显示图像和所述待识别图像进行对比,确定所述待识别图像中包含所述显示图像的全部或部分内容的第三区域,并从所述待识别图像中所述第三区域以外的区域中确定所述目标区域。
一种可能的实现方式中,所述目标点识别模块用于从所述目标区域中确定所述目标触控点,包括以下至少一项:
所述目标点识别模块用于识别所述目标区域中的最低点,作为所述目标触控点;
所述目标点识别模块用于识别所述目标区域中符合第二预设特征的点,作为所述目标触控点;其中,所述第二预设特征包括:所述目标触控物的尖锐端部对应的图像特征信息。
一种可能的实现方式中,所述触控识别装置还包括:
轨迹预测模块,用于根据所述第二位置信息跟踪并预测所述目标触控点的运动轨迹。
第四方面,本说明书一个或多个实施例还提供了一种触控标定装置,应用于触控设备,所述触控设备包括至少一个图像采集单元;所述装置包括:
标定图像获取单元,用于获取至少一个图像采集单元采集到的待识别图像;
标定点识别单元,用于对所述待识别图像进行处理,确定预设标定点在所述待识别图像中的第一位置信息;
转换关系确定单元,用于获取所述预设标定点在所述触控设备的触控区域中的标定位置信息,并根据所述第一位置信息和所述标定位置信息,分别确定每个所述图像采集单元对应的待识别图像的图像坐标系与所述触控区域的触控坐标系之间的坐标转换关系。
一种可能的实现方式中,所述触控标定装置还包括以下至少一项:
裁切参数标定单元,用于确定所述图像采集单元的视场裁切参数;
权重系数标定单元,用于根据每个所述图像采集单元对应的所述坐标转换关系,确定所述图像采集单元之间的相对坐标关系,并根据所述相对坐标关系确定各个所述图像采集单元对应的权重系数;
所述标定图像获取单元用于获取至少一个图像采集单元采集到的待识别图像,包括:
所述标定图像获取单元用于根据所述视场裁切参数对所图像采集单元采集到的原始图像进行裁切,以消除所述原始图像中的畸变部分,得到所述待识别图像。
一种可能的实现方式中,所述预设标定点包括至少3个;所述预设标定点设置于所述触控设备的矩形触控区域的顶点位置;
一种可能的实现方式中,所述坐标转换关系包括:所述待识别图像中的像素点与所述触控区域中的子区域之间的一一对应关系;
一种可能的实现方式中,所述坐标转换关系包括:以所述图像采集单元的内参数和外参数表示的坐标转换矩阵。
第五方面,本说明书一个或多个实施例还提供了一种触控设备,包括:显示屏、设置于所述显示屏边缘的至少一个图像采集单元,和电路板;
所述电路板包括显示控制单元和触控控制单元;
所述触控控制单元与所述图像采集单元连接,用于执行第一方面所述的方法,得到目标触控点对应的第二位置信息并发送至所述显示控制单元,或者用于执行上述第二方面所述的方法,实现对所述图像采集单元的坐标标定;
所述显示控制单元与所述显示屏和触控控制单元连接,用于根据所述第二位置信息进行触控响应,并在所述显示屏中显示触控响应结果。
一种可能的实现方式中,所述图像采集单元包括2个,分别设置于所述显示屏的对角线的两个顶点处。
第六方面,本说明书一个或多个实施例还提供了一种电子设备,该电子设备包括存储器和处理器;所述存储器用于存储计算机程序产品;所述处理器用于执行所述存储器中存储的计算机程序产品,且所述计算机程序产品被执行时,实现上述第一方面的触控识别方法或上述第二方面的触控标定方法。
第七方面,本说明书一个或多个实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序指令,该计算机程序指令被执行时,实现上述第一方面的触控识别方法或上述第二方面的触控标定方法。
综上,为了满足不同场景的触控应用需求,提高触控精度、降低触控设备成本,本说明书一个或多个实施例提供了一种触控识别方法、触控标定方法及相关装置、设备。该方法中,利用图像采集单元基于成像原理来确定目标触控点在触控区域中的位置,实现触控识别,不需要其他成本高的硬件设备,图像采集单元本身技术成熟、成本低,受环境因素影响很小,且通过采用不同分辨率的图像采集单元,即可改变图像识别精度,从而实现不同触控精度的触控设备,满足不同触控应用场景的需求、降低设备成本。
另外,本说明书一个或多个实施例通过多个图像采集单元的识别结果进行加权融合,得到最终的目标触控点的位置信息,可以提高触控识别的准确定,避免触控识别误差。
附图说明
为了更清楚地说明本说明书一个或多个实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书一个或多个实施例的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本说明书一个或多个实施例提供的一种触控设备的结构示意图;
图2为本说明书一个或多个实施例提供的一种触控识别方法的流程示意图;
图3为本说明书一个或多个实施例提供的触控识别方法中坐标转换原理示意图;
图4为本说明书一个或多个实施例提供的一种触控标定方法的流程示意图;
图5为本说明书一个或多个实施例提供的触控标定方法中预设标定点位置示意图;
图6为本说明书一个或多个实施例提供的触控区域和像素点的对应关系示意图;
图7为本说明书一个或多个实施例提供的触控标定方法中视场裁切示意图;
图8为本说明书一个或多个实施例提供的触控识别装置的结构框图;
图9为本说明书一个或多个实施例提供的触控标定装置的结构框图;
图10为本说明书一个或多个实施例提供的一种触控设备的结构示意图;
图11为本说明书一个或多个实施例提供的一种电子设备的结构框图。
具体实施方式
下面通过附图和实施例对本说明书一个或多个实施例进一步详细说明。通过这些说明,本说明书一个或多个实施例的特点和优点将变得更为清楚明确。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
此外,下面所描述的本说明书一个或多个实施例不同实施方式中涉及的技术特征只要彼此之间未构成冲突就可以相互结合。
为了满足不同场景的触控应用需求,提高触控精度、降低触控设备成本,本说明书一个或多个实施例提供了一种触控识别方法、触控标定方法及相关装置、设备。
图1为本说明书一个或多个实施例提供的触控设备的结构示意图,参见图1,该触控设备10包括至少一个图像采集单元11和显示屏12,该图像采集单元11可以是摄像头模组、光学图像传感器等器件。该图像采集单元11设置于触控设备10的边缘,可以用于采集用户手指、触控笔等触控物在所述触控设备上进行触控操作时的图像,进而本说明书一个或多个实施例提供的触控识别方法可以根据该图像采集单元11采集的图像识别所述触控操作对应的目标触控点的位置。
图2为本说明书一个或多个实施例提供的触控识别方法的流程图,该方法可以应用于图1所示的触控设备。参见图2,该方法包括以下步骤。
步骤102,获取至少一个图像采集单元采集到的待识别图像;
上述图像采集单元能拍摄到的真实场景范围,即视场范围(Field of View,FOV),是有限的;FOV又称为视场角,包括水平FOV和垂直FOV,两个方向的FOV共同限定的区域即为该图像采集单元的立体FOV。如图1所示,由于图1为触控设备的俯视图,故图1中所示的角度θ即可视为图像采集单元11的水平FOV,即在角度θ对应的扇形区域内的物体图像可以被图像采集单元11采集到,而该扇形区域以外的物体图像则不能被图像采集单元11采集到。
在实际应用场景中,触控设备中可以设置1个、2个、3个等任意数量的图像采集单元,通过调整各个图像采集单元的位置,可以保证其FOV的集合完全覆盖触控设备的整个触控区域。如图1中,触控设备10中设置有两个图像采集单元,其中,一个图像采集单元11设置于显示屏12的左上角顶点A,另一个图像采集单元11’设置与显示屏12的右下角顶点B,图像采集单元11的光轴AA’和图像采集单元11’的光轴BB’与显示屏12的对角线AB的夹角分别为α1和α2。在一个可能的实施方式中,通过调整α1和α2,即可调整两个图像采集单元的视场范围集合,保证该视场范围集合覆盖整个触控区域,也即覆盖显示屏12的整个显示区域(通常情况下,触控设备的显示区域和触控区域是重合的,即显示区域内的每个位置都是可触控的)。
基于以上阐述,步骤102中获取到的待识别图像可以有多个,即在同一时刻,触控设备10中的每个图像采集单元都可以在各自的位置、角度采集到一幅当前场景下显示屏12的显示区域内的待识别图像,从而保证无论在触控区域的哪个位置执行触控操作,都可以被至少一个图像采集单元采集到相应图像。
步骤104,对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息;
步骤106,获取所述待识别图像的图像坐标系与触控坐标系之间的坐标转换关系;
步骤108,根据所述坐标转换关系、第一位置信息和所述图像采集单元对应的权重系数,确定所述目标触控点在所述触控坐标系中的第二位置信息。
上述步骤中,可以预先通过对图像采集单元进行标定,确定所述待识别图像的图像坐标系与触控坐标系之间的坐标转换关系。上述坐标转换关系与图像采集单元的内参数(Intrinsics)和外参数(Extrinsics)有关。
图3为图像采集单元相关的坐标系示意图。参见图3,图像采集单元的基本成像原理为小孔成像,被摄物体的实际位置与成像图像所在平面21位于图像采集单元的光心O的前后两侧,为便于理解,将成像图像所在平面21沿光轴OO’翻转平移至被摄物体所在一侧,即平面22,平面21和平面22到光心O的距离均为焦距f。
上述图像坐标系为二维坐标系,对于任一待识别图像,即图像采集单元的成像图像,如图3所示,以其一顶点为图像坐标系的原点Ox,两个坐标轴u轴和v轴分别与成像图像的两条边重合。
上述触控坐标系是三维坐标系,如图3所示,以触控设备的矩形触控区23的一顶点为原点Ow,两个坐标轴Xw轴和Yw轴分别与矩形触控区23的两条边重合,另一个坐标轴Zw轴垂直于矩形触控区23所在平面。其中,图像采集单元的光轴OO’可以与矩形触控区23所在平面平行,也可以存在一定夹角。
对于触摸型触控,可识别的触控点都在Xw轴和Yw轴所形成的平面(即矩形触控区23所在平面)上,故其在Zw轴上的坐标均可以为0;而对于悬浮触控,目标触控点到矩形触控区23所在平面的距离不同,则可能对应不同的触控指令,此时目标触控点在Zw轴上的坐标不可以统一按0处理,需要根据目标触控点的实际位置确定。
假设目标触控物触摸矩形触控区内的一点Pw,其在待识别图像中对应的目标触控点为Px。在步骤104中,通过对待识别图像进行处理,可以确定Px在待识别图像中的第一位置信息,该第一位置信息可以表示为点Px在上述图像坐标系中的坐标(ux,vx),而要响应触控操作,则应该确定点Pw在矩形触控区23中的第二位置信息,也即确定Pw在上述触控坐标系中的坐标(xw,yw,zw)。
根据图3所示可知,由图像坐标系到触控坐标系,需要经过缩放、翻转、平移等转换。表征缩放程度的转换关系可以表示为矩阵K,用于将以光心为原点的相机坐标系转换到图像坐标系;矩阵K又可以称为内参矩阵,与图像采集单元的内参数相关。例如,该内参数包括由相机坐标系相对于图像坐标系在u轴、v轴的缩放尺度因子fx和fy,相机坐标系原点(即光心O)和图像坐标系原点之间的平移坐标(u0,v0),相应的,内参矩阵另外,因图像采集单元采集的图像在边缘处容易产生畸变,故上述内参数还可以包括畸变参数,为便于理解,以下关于坐标转换原理的介绍暂不考虑图像畸变的情况。这些内参数是由图像采集单元自身决定的,可以预先通过标定过程计算得到。
表征翻转程度的转换关系可以表示为旋转矩阵R,一般为3×3的矩阵,表征平移程度的转换关系可以记为平移矢量t,一般为3×1的矢量。矩阵R和矢量t共同构成图像采集单元的外参矩阵[R t],该外参矩阵用于将触控坐标系转换到上述相机坐标系。外参矩阵由图像采集单元的位姿决定,也即由图像采集单元与触控区域的相对位置决定,同样可以在图像采集单元位置确定的情况下,预先通过标定过程计算得到。
因此,根据上述内参矩阵K和外参矩阵[R t],可以实现触控坐标系与图像坐标系之间的坐标转换,目标触控点在待识别图像中对应的点Px与目标触控点在触控区域中对应的点Pw之间的坐标转换关系可以表示为ZPx=K[R t]Pw,Z表示在沿光轴OO’的方向上点Pw到光心O的距离。
根据以上坐标转换关系,根据任一图像采集单元采集到的待识别图像都可以确定目标触控点在触控坐标系中的第二位置信息,由于物理空间为三维空间,本说明书实施例通过位于不同位置的多个图像采集单元采集到的多个待识别图像共同确定上述第二位置信息,即通过每个图像采集单元对应的权重系数将根据每个待识别图像计算得到的目标触控点在触控坐标系中的位置信息进行加权融合,得到所述第二位置信息。例如,图1所示两个图像采集单元11和11’采集到的待识别图像计算得到的目标触控点在触控坐标系中的坐标分别为(x1,y1)和(x2,y2),两个图像采集单元对应的权重系数分别为q1和q2,通过加权融合计算可以得到目标触控点的第二位置信息(xw,yw),xw=(q1x1+q2x2)/2,yw=(q1y1+q2y2)/2。
需要说明的是,上述xw和yw的加权融合计算公式采用加权平均法,是本说明书实施例的一个具体示例,在其他可能的实施方式中,还可以采样其他计算方式,如基于神经网络进行加权融合等。各个图像采集单元对应的权重系数也可以预先通过标定过程来确定。另外,触控设备中图像采集单元的位置也不仅限于图1所示,可以根据实际应用需求进行适应性配置,触控识别过程的步骤及原理都可以参考本说明书实施例。
可见,本说明书一个或多个实施例提供的触控识别方法,利用图像采集单元基于成像原理来确定目标触控点在触控区域中的位置,实现触控识别,不需要其他成本高的硬件设备,图像采集单元本身技术成熟、成本低,受环境因素影响很小,且通过采用不同分辨率的图像采集单元,即可改变图像识别精度,进而实现不同触控精度的触控设备,满足不同触控应用场景的需求、降低设备成本。另外,通过多个图像采集单元的识别结果进行加权融合,得到最终的目标触控点的位置信息,可以提高触控识别的准确定,避免触控识别误差。
一种可能的实现方式中,上述触控识别方法还可以包括以下步骤:
将所述第二位置信息发送至触控响应单元,以使触控响应单元对触控操作进行响应。
例如,触控响应单元可以是触控设备中显示屏的显示控制单元,该显示控制单元接收到包含该第二位置信息的触控指令后,可以进行触控响应,如显示内容的缩放、切换显示内容等。
一种可能的实现方式中,上述步骤104中,对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息,具体可以包括:
步骤1042,对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域;
步骤1044,从所述目标区域中确定所述目标触控点,并获取所述目标触控点对应的所述第一位置信息。
参照图3,假设目标触控物24为图示大箭头形状,其在待识别图像中不是一个点,而是对应一个区域24’,目标触控点Px为该区域中的关键点,故可以先从待识别图像中识别出目标触控物的轮廓所构成的目标区域24’,在从该目标区域24’中进一步识别出目标触控点Px,然后计算Px在待识别图像中的第一位置信息。
本说明书上述实施例中,先从待识别图像中确定目标触控物对应的目标区域,可以排除待识别图像中非目标触控物的大部分区域,再从目标区域中识别目标触控点,可以提高图像处理速度和准确度。
一种可能的实现方式中,上述步骤1042中,对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,具体方式可以包括:
确定所述待识别图像中符合第一预设特征的第一区域;
将所述第一区域作为所述目标区域;
其中,所述第一预设特征包括以下至少一项:手型物体对应的图像特征信息、杆状物体对应的图像特征信息。
本说明书实施例中,预先存储不同目标触控物对应的图像特征信息,即所述第一预设特征,从而可以基于神经网络等算法,通过特征信息比较,判断待识别图像中是否存在符合该第一预设特征的区域,如果存在,则说明待识别图像中存在目标触控物,也即在图像采集时刻,目标触控物可能正在对触控设备执行触控操作,可以进一步执行步骤1044,识别出目标触控点。当然,如果待识别图像中不存在符合第一预设特征的区域,则说明没有触控物执行触控操作。
由于实际应用场景中,目标触控物一般为用户手指、触控笔等,因此,可以预先存储不同手型物体对应的图像特征信息,或者,不同杆状物体对应的图像特征,从而可以通过特征信息比较,判断待识别图像中是否存在手型物体区域或杆状物体区域,在确定目标区域的同时,还可以确定目标触控物的类型。
在实际应用场景中,通过不同目标触控物执行同一种触控操作,可以对应不同的触控指令或不同的使用模式,因此,基于本说明书上述实施例在实现触控识别的前提下,还可以扩展触控交互的功能范围,提升用户对触控设备的使用体验。
一种可能的实现方式中,上述步骤1042中,对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,具体方式可以包括:
获取所述待识别图像对应的图像采集单元在预设时段内采集到的至少一个历史图像;
将所述历史图像和所述待识别图像进行对比,确定所述待识别图像中的非固定物体所在的第二区域;
将所第二区域作为所述目标区域。
上述历史图像可以为图像采集单元在采集所述待识别图像之前的不同采样时刻采集到的其他图像。
由于目标触控物在触控操作时是动态的,故不同时刻采集到的图像中目标触控物的位置可能不同,而环境中的其他物***置通常是固定不变的,因此本说明书实施例通过将历史图像和待识别图像进行对比,就可以确定待识别图像中是否存在位置不固定的物体区域,该非固定物体区域即可视为目标触控物对应的目标区域,即通过长时成像跟踪确定目标区域。
一种可能的实现方式中,上述步骤1042中,对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,具体方式可以包括:
获取所述触控设备当前显示的显示图像;
将所述显示图像和所述待识别图像进行对比,确定所述待识别图像中包含所述显示图像的全部或部分内容的第三区域;
从所述待识别图像中所述第三区域以外的区域中确定所述目标区域。
图像采集单元采集到的图像中,通常会包含触控设备的显示屏正在显示的显示图像,因此,本说明书实施例通过将待识别图像与显示屏的显示图像进行对比,即可从待识别图像中排除显示图像对应的区域,即上述第三区域,进而从剩余区域(即第三区域之外的区域)中确定目标区域。
以上内容阐述了本说明书实施例提供识别目标区域的几种实现方式,在其他可能的实施方式中,还可以基于其他图像识别算法从待识别图像中识别出目标区域,本说明书实施例不再赘述。
一种可能的实现方式中,上述步骤1044中,从所述目标区域中确定所述目标触控点,具体可以包括:
识别所述目标区域中的最低点,作为所述目标触控点。
仍然参照图3,目标触控物24为箭头形状,目标触控物接触触控设备的部位一般是目标触控物的最低点,如手指指尖、触控笔笔尖在触控操作状态下分别位于手指、触控笔的最低点,因此,可以将目标区域中的最低点作为目标触控点,实现简单、速度快,可以大大提高触控识别速度。
一种可能的实现方式中,上述步骤1044中,从所述目标区域中确定所述目标触控点,具体可以包括:
识别所述目标区域中符合第二预设特征的点,作为所述目标触控点;
其中,所述第二预设特征包括:所述目标触控物的尖锐端部对应的图像特征信息。
在实际应用场景中,不同的触控位置对应不同的触控响应,为保证触控精度,直接接触触控区域的目标触控点往往是目标触控物中尺寸较小的尖锐端部,如触控笔的笔尖,手指指尖也可以视为夹角较大的尖锐端部。因此,本说明书实施例通过将不同触控物体的尖锐端部对应的特征信息预先存储为第二预设特征,在通过步骤1042确定目标区域后,可以通过特征信息对比,进一步识别目标区域中符合上述第二预设特征的点或较小区域,从而得到目标触控点。
一种可能的实现方式中,所述触控识别方法还可以包括以下步骤:
根据所述第二位置信息跟踪并预测所述目标触控点的运动轨迹。
本说明书实施例中,根据不同时刻得到的第二位置信息,可以得到目标触控点的运动轨迹,从而可以实现滑动、形状选择等多种触控操作。另外,根据该运动轨迹还可以预测下一时刻目标触控点可能的位置,从而预判触控操作,减少触控响应时间、提高响应速度、提升用户使用体验。
本说明书一个或多个实施例提供的触控识别方法中,根据图像采集单元采集到的待识别图像,通过坐标转换,确定目标触控点在触控设备的触控区域中的位置信息。其中坐标转换所需的参数可以通过标定过程确定。
有鉴于此,基于同一发明构思,本说明书一个或多个实施例还提供了一种触控标定方法。
图4为本说明书一个或多个实施例提供的一种触控标定方法的流程图。参见图4,该触控标定方法包括以下步骤:
步骤202,获取至少一个图像采集单元采集到的待识别图像;
步骤204,对所述待识别图像进行处理,确定预设标定点在所述待识别图像中的第一位置信息;
上述步骤204中对待识别图像的处理方式可以参照前文实施例中步骤104。除此之外,由于预设标定点是设置于触控区域中的特殊的点,在一个可能的实施方式中,可以在触控区域的边缘、顶点等位置处放置特殊颜色的微小器件,该小器件所在的点即为作为预设标定点,可以通过粘贴、磁吸、夹持等方式固定于触控区域内。利用具有区别于环境颜色的预设颜色的微小器件,在步骤204中,可以直接从待识别图像中识别该预设颜色,快速得到预设标定点在图像坐标系中的位置信息,即预设标定点对应的第一位置信息。
步骤206,获取所述预设标定点在所述触控设备的触控区域中的标定位置信息;
步骤208,根据所述第一位置信息和所述标定位置信息,分别确定每个所述图像采集单元对应的待识别图像的图像坐标系与所述触控区域的触控坐标系之间的坐标转换关系。
预设标定点在触控区域中的标定位置信息是已知的,即预设标定点在触控坐标系中的第二位置信息是已知的,通过多个预设标定点对应的第一位置信息和标定位置信息(第二位置信息)可以计算得到前文实施例所述的坐标转换公式中的内参矩阵和外参矩阵,从而确定图像坐标系和触控坐标系之间的坐标转换关系,用于前文实施例所述的触控识别方法中。
根据以上步骤可知,本说明书一个或多个实施例提供的触控标定方法,根据触控识别方法实施例的原理,确定预设标定点对应的第一位置信息,然后根据已知的预设标定点的标定位置信息和该第一位置信息,反向计算得到坐标转换公式中的各项参数,实现触控标定,可以保证触控识别结果的准确度。
图5为本说明书一个或多个实施例提供的触控标定方法中预设标定点位置示意图。参见图5,一种可能的实施方式中,预设标定点可以为3个,即图5中的点D1、D2和D3,分别位于触控设备中显示屏12的显示区域的三个顶点处,两个图像采集单元11和11’位于显示屏12的对角线位置上;通过三个标定点可以确定一个三角形区域D1D2D3,该三角形区域在触控区域中的尺寸单位为长度单位,如mm,在待识别图像中对应尺寸单位为像素,因此,根据预设标定点的标定位置信息和第一位置信息,确定坐标转换相关参数,即可以确定待识别图像的三角形区域内每个像素点对应与触控区域中的一个可识别触控点,也就确定了图像采集单元中的每个像素点与触控区域中的实际触控点的一一对应关系。
由于物理世界中的点都是具有一定面积的较小区域,故触控设备中可识别的触控点实际为具有一定面积的区域,即触控设备可识别的最小触控区域,其决定了触控设备的触控精度。如图6所示,整个触控区域23被划分为多个网格块,任一网格区域Sp在图像采集单元采集到的图像22中都存在一个对应的像素点Px,在目标触控物执行触控操作时,触摸区域Sp内的任意位置,在触控识别过程中都被识别为像素点Px。假设图像采集单元的图像像素个数为32*32,则触控区域中可识别的触控点数量也为32*32,即1024个,即图像采集单元的图像像素个数越多,在同样大小的触控区域中可识别的触控点数量也越多。
可见,应用本说明书实施例提供的触控识别方法、触控标定方法,通过采用更高分辨率的图像采集单元,就可以轻松实现更高精度的触控应用需求,触控设备生产成本的变化主要取决于图像采集单元,生产过程不受影响,可以在保证较高的生产良率的同时,控制生产成本。
在另一种可能的实施方式中,预设标定点还可以为4个,如图5所示的点D1、D2、D3和D4。通过上述实施例所述的标定方法,可以确定该四个预设标定点构成的四边形区域对应在待识别图像中的每个像素点与触控区域中的触控点的一一对应关系,也即确定了图像采集单元中的每个像素点与触控区域中的实际触控点的一一对应关系。
需要说明的是,图5所述的预设标定点位置只是本说明书提供的一个示例,在实际应用场景中,预设标定点也可以设置在其他位置,如触控区域的中心点,本说明书实施例对预设标定点的具***置不作限定。
在一种可能的实施方式中,通过触控标定得到的坐标转换关系可以表示为参数矩阵,从而对于任意待识别图像中得到的第一位置信息,可以根据参数矩阵进行计算,得到对应的第二位置信息。在另一种可能的实施方式中,通过触控标定得到的坐标转换关系还可以表示为图像采集单元采集到的图像中的像素点和触控区域内的实际触控点的坐标对应关系表,从而对于任意待识别图像中得到的第一位置信息,可以同查找该坐标对应关系表,确定对应的第二位置信息。
当然,在其他可能的实施方式中,还可以用其他方式表示上述坐标转换关系,本说明书不再一一阐述。
一种可能的实现方式中,上述触控标定方法还可以包括以下步骤:确定所述图像采集单元的视场裁切参数。
实际应用中,图像采集单元采集到的原始图像在边缘位置往往存在图像畸变,使得图像边缘区域与实际场景中的坐标对应关系也发生改变。因此,为保证坐标转换的准确度,同时保证触控识别准确度,有必要对图像采集单元的视场范围进行裁切,去除边缘有图像畸变的部分。如图7所示的裁切前后图像采集单元11的视场范围示意图,图像采集单元11的立体FOV可以视为以图像采集单元11的光心为顶点的锥体,该锥体底面为四边形,该四边形的长和宽分别对应图像采集单元的水平FOV和垂直FOV。如图7中左侧裁切前的示意图,由于边缘图像畸变,立体FOV所形成的锥体底面四边形的边变形为曲线;如图7中右侧裁切后的示意图,通过裁切,在原来变形的四边形内截取一个矩形,即为裁切后的立体FOV所形成的锥体的底面,从而消除了畸变部分。
通过视场裁切,使得待识别图像中无图像畸变部分,在坐标转换过程中不需要考虑畸变参数的问题,简化触控识别算法。另外,通过视场裁切,还可以同时去除非触控区域的部分,从而使得实际视场范围恰好匹配整个触控区域,使得待识别图像中仅包含触控区域内的物体图像,不含触控区域外的物体图像,消除触控区域之外的无关物体的干扰,降低图像处理的复杂度,提高触控识别速度。
在一种可能的实施方式中,上述用于表征视场裁切规则的视场裁切参数,可以是长度值和宽度值,裁切时,以图像中心为基准,截取所述长度值和宽度值对应的矩形区域,即为裁切后的视场范围。在其他可能的实施方式中,视场裁切参数还可以为其他表示形式,如以图像中心为原点的极坐标函数及对应的取值范围。
基于上述视场裁切参数,上述步骤202中获取至少一个图像采集单元采集到的待识别图像,具体可以包括:
根据所述视场裁切参数对所图像采集单元采集到的原始图像进行裁切,以消除所述原始图像中的畸变部分,得到所述待识别图像。
在一个可能的实施方式中,基于上述视场裁切参数,前文所述的触控识别方法中步骤102中,也可以根据该视场裁切参数对所图像采集单元采集到的原始图像进行裁切,将裁切后的图像作为待识别图像,进行触控识别,降低图像处理的复杂度,提高触控识别速度。
在一个可能的实施方式中,上述触控标定方法还可以包括以下步骤:
根据每个所述图像采集单元对应的所述坐标转换关系,确定所述图像采集单元之间的相对坐标关系;
根据所述相对坐标关系确定各个所述图像采集单元对应的权重系数。
根据预设的加权融合算法,及每个图像采集单元对应的内参矩阵、外参矩阵等,可以确定每个图像采集单元对算法结果的影响系数,即权重系数。
另外,在其他可能的实施例中,还可以根据预设的加权融合算法,以及每个图像采集单元采集到的各个预设标定点对应的第一位置信息和标定位置信息,反向计算得到每个图像采集单元对应的权重系数。
本说明书实施例通过标定权重系数,从而在触控识别过程中,将不同的图像采集单元的识别结果进行加权融合,得到目标触控点的第二位置信息,可以提高触控识别结果的准确度,消除单一的图像采集单元导致的识别误差。
可以理解的是,上述实施例仅为示例,实际实施时可以对上述实施例进行变形,本领域技术人员可以理解,上述实施例不用付出创造性劳动的变形方法均落入本说明书一个或多个实施例的保护范围,实施例中不再赘述。
基于同一发明构思,本说明书一个或多个实施例还提供了一种触控识别装置,该装置可以应用于触控设备,所述触控设备包括至少一个图像采集单元。图8为该触控识别装置300的结构框图。参见图8,该装置300包括:
图像获取单元301,用于获取至少一个图像采集单元采集到的待识别图像;
图像识别单元302,用于对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息;
位置转换单元303,用于获取所述待识别图像的图像坐标系与触控坐标系之间的坐标转换关系,并根据所述坐标转换关系、第一位置信息和所述图像采集单元对应的权重系数,确定所述目标触控点在所述触控坐标系中的第二位置信息。
一个可能的实施方式中,上述图像识别单元302可以包括:
目标区域识别模块,用于对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域;
目标点识别模块,用于从所述目标区域中确定所述目标触控点,并获取所述目标触控点对应的所述第一位置信息。
一个可能的实施方式中,上述目标区域识别模块用于对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,具体可以包括以下至少一项:
所述目标区域识别模块用于确定所述待识别图像中符合第一预设特征的第一区域,并将所述第一区域作为所述目标区域;其中,所述第一预设特征包括以下至少一项:手型物体对应的图像特征信息、杆状物体对应的图像特征信息;
所述目标区域识别模块用于获取所述待识别图像对应的图像采集单元在预设时段内采集到的至少一个历史图像,将所述历史图像和所述待识别图像进行对比,确定所述待识别图像中的非固定物体所在的第二区域,并将所第二区域作为所述目标区域;
所述目标区域识别模块用于获取所述触控设备当前显示的显示图像,将所述显示图像和所述待识别图像进行对比,确定所述待识别图像中包含所述显示图像的全部或部分内容的第三区域,并从所述待识别图像中所述第三区域以外的区域中确定所述目标区域。
一个可能的实施方式中,上述目标点识别模块用于从所述目标区域中确定所述目标触控点,具体可以包括以下至少一项:
所述目标点识别模块用于识别所述目标区域中的最低点,作为所述目标触控点;
所述目标点识别模块用于识别所述目标区域中符合第二预设特征的点,作为所述目标触控点;其中,所述第二预设特征包括:所述目标触控物的尖锐端部对应的图像特征信息。
一个可能的实施方式中,上述触控识别装置还包括:
轨迹预测模块,用于根据所述第二位置信息跟踪并预测所述目标触控点的运动轨迹。
基于同一发明构思,本说明书一个或多个实施例还提供了一种触控标定装置,应用于触控设备,所述触控设备包括至少一个图像采集单元。图9为该触控标定装置400的结构框图。参照图9,该装置400可以包括:
标定图像获取单元401,用于获取至少一个图像采集单元采集到的待识别图像;
标定点识别单元402,用于对所述待识别图像进行处理,确定预设标定点在所述待识别图像中的第一位置信息;
转换关系确定单元403,用于获取所述预设标定点在所述触控设备的触控区域中的标定位置信息,并根据所述第一位置信息和所述标定位置信息,分别确定每个所述图像采集单元对应的待识别图像的图像坐标系与所述触控区域的触控坐标系之间的坐标转换关系。
一个可能的实施方式中,上述触控标定装置400还包括以下至少一项:
裁切参数标定单元,用于确定所述图像采集单元的视场裁切参数;
权重系数标定单元,用于根据每个所述图像采集单元对应的所述坐标转换关系,确定所述图像采集单元之间的相对坐标关系,并根据所述相对坐标关系确定各个所述图像采集单元对应的权重系数。
一个可能的实施方式中,上述标定图像获取单元401用于获取至少一个图像采集单元采集到的待识别图像,包括:
标定图像获取单元401用于根据所述视场裁切参数对所图像采集单元采集到的原始图像进行裁切,以消除所述原始图像中的畸变部分,得到所述待识别图像。
一个可能的实施方式中,所述预设标定点包括至少3个;所述预设标定点设置于所述触控设备的矩形触控区域的顶点位置。
一个可能的实施方式中,上述转换关系确定单元403确定的坐标转换关系包括:所述待识别图像中的像素点与所述触控区域中的子区域之间的一一对应关系。
一个可能的实施方式中,上述转换关系确定单元403确定的坐标转换关系包括:以所述图像采集单元的内参数和外参数表示的坐标转换矩阵。
基于同一发明构思,本说明书一个或多个实施例还提供了一种触控设备。图10为该触控设备10的结构示意图。参照图10,该触控设备10包括:
显示屏12;
设置于所述显示屏边缘的至少一个图像采集单元;
和电路板13;
其中,所述电路板13可以包括显示控制单元和触控控制单元;
所述触控控制单元与所述图像采集单元连接,用于执行上述任一实施例所述的触控识别方法,并将得到目标触控点对应的第二位置信息并发送至所述显示控制单元,或者用于执行上述任一实施例所述的触控标定方法,实现对所述图像采集单元的坐标标定;
所述显示控制单元与所述显示屏12和上述触控控制单元连接,用于根据触控控制单元发送的第二位置信息进行触控响应,并在所述显示屏12中显示触控响应结果。
一个可能的实施方式中,上述触控控制单元具体可以是通过集成在电路板13上的触控芯片,上述显示控制单元可以是集成在电路板13上的显示控制芯片;在其他实施方式中,上述触控控制单元和显示控制单元也可以集成在一个芯片中。
一个可能的实施方式中,触控设备10中可以设置两个图像采集单元11和11’,分别设置于显示屏12的对角线的两个顶点处。
一个可能的实施方式中,触控设备10还可包括盖板玻璃14、边框15,以及通信模块、电源模块、外接端口等部件。
参见图11,图11为本说明书一个或多个实施例提供的一种电子设备的结构框图。如图11所示,该电子设备500可以包括处理器501和存储器502;存储器502可以耦合到处理器501中。值得注意的是,该图11是示例性的;还可以使用其他类型的结构,来补充或代替该结构,以实现电信功能或其他功能。
一个可能的实现方式中,触控识别装置300的功能可以被集成到处理器501中。其中,处理器501可以被配置为执行如下操作:
获取至少一个图像采集单元采集到的待识别图像;
对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息;
获取所述待识别图像的图像坐标系与触控坐标系之间的坐标转换关系;
根据所述坐标转换关系、第一位置信息和所述图像采集单元对应的权重系数,确定所述目标触控点在所述触控坐标系中的第二位置信息。
在另一个可能的实现方式中,触控识别装置300可以与处理器501分开配置,例如可以将触控识别装置300配置为与处理器501连接的芯片,通过处理器501的控制来实现触控识别。
一个可能的实现方式中,触控标定装置400的功能可以被集成到处理器501中。其中,处理器501可以被配置为执行如下操作:
获取至少一个图像采集单元采集到的待识别图像;
对所述待识别图像进行处理,确定预设标定点在所述待识别图像中的第一位置信息;
获取所述预设标定点在所述触控设备的触控区域中的标定位置信息;
根据所述第一位置信息和所述标定位置信息,分别确定每个所述图像采集单元对应的待识别图像的图像坐标系与所述触控区域的触控坐标系之间的坐标转换关系。
在另一个可能的实现方式中,触控标定装置400可以与处理器501分开配置,例如可以将触控标定装置400配置为与处理器501连接的芯片,通过处理器501的控制来实现触控标定。
一个可能的实现方式中,触控识别装置300和触控标定装置400可以同时被集成到处理器501中。相应的,该处理器501可以被配置为执行如上述任一实施例中的触控识别装置300和触控标定装置400所执行的操作。
此外,在一些可选的实现方式中,该电子设备500还可以包括:通信模块、输入单元、音频处理器、显示器、电源等。值得注意的是,电子设备500也并不是必须要包括图11中所示的所有部件;此外,电子设备500还可以包括图11中没有示出的部件,可以参考现有技术。
在一些可选的实现方式中,处理器501有时也称为控制器或操作控件,可以包括微处理器或其他处理器装置和/或逻辑装置,该处理器501接收输入并控制电子设备500的各个部件的操作。
其中,存储器502,例如可以是缓存器、闪存、硬驱、可移动介质、易失性存储器、非易失性存储器或其它合适装置中的一种或更多种。可储存上述与触控识别装置300和触控标定装置400有关的信息,此外还可存储执行有关信息的程序。并且处理器501可执行该存储器502存储的该程序,以实现信息存储或处理等。
输入单元可以向处理器501提供输入。该输入单元例如为按键或触摸输入装置。电源可以用于向电子设备500提供电力。显示器可以用于进行图像和文字等显示对象的显示。该显示器例如可为LCD显示器,但并不限于此。
存储器502可以是固态存储器,例如,只读存储器(ROM)、随机存取存储器(RAM)、SIM卡等。还可以是这样的存储器,其即使在断电时也保存信息,可被选择性地擦除且设有更多数据,该存储器的示例有时被称为EPROM等。存储器502还可以是某种其它类型的装置。存储器502包括缓冲存储器(有时被称为缓冲器)。存储器502可以包括应用/功能存储部,该应用/功能存储部用于存储应用程序和功能程序或用于通过处理器501执行电子设备500的操作的流程。
存储器502还可以包括数据存储部,该数据存储部用于存储数据,例如联系人、数字数据、图片、声音和/或任何其他由电子设备使用的数据。存储器502的驱动程序存储部可以包括计算机设备的用于通信功能和/或用于执行计算机设备的其他功能(如消息传送应用、通讯录应用等)的各种驱动程序。
通信模块即为经由天线发送和接收信号的发送机/接收机。通信模块(发送机/接收机)耦合到处理器501,以提供输入信号和接收输出信号,这可以和常规移动通信终端的情况相同。
基于不同的通信技术,在同一计算机设备中,可以设置有多个通信模块,如蜂窝网络模块、蓝牙模块和/或无线局域网模块等。通信模块(发送机/接收机)还经由音频处理器耦合到扬声器和麦克风,以经由扬声器提供音频输出,并接收来自麦克风的音频输入,从而实现通常的电信功能。音频处理器可以包括任何合适的缓冲器、解码器、放大器等。另外,音频处理器还耦合到处理器501,从而使得可以通过麦克风能够在本机上录音,且使得可以通过扬声器来播放本机上存储的声音。
本说明书一个或多个实施例还提供能够实现上述实施例中的触控识别方法、触控标定方法中全部步骤的一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,该计算机程序被处理器执行时实现上述实施例中的触控识别方法或触控标定方法的全部步骤。具体步骤可参见前文实施例所述,此处不再赘述。
虽然本说明书一个或多个实施例提供了如实施例或流程图所述的方法操作步骤,但基于常规或者无创造性的劳动可以包括更多或者更少的操作步骤。实施例中列举的步骤顺序仅仅为众多步骤执行顺序中的一种方式,不代表唯一的执行顺序。在实际中的装置或客户端产品执行时,可以按照实施例或者附图所示的方法顺序执行或者并行执行(例如并行处理器或者多线程处理的环境)。
本领域技术人员应明白,本说明书的实施例可提供为方法、装置(***)或计算机程序产品。因此,本说明书实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书一个或多个实施例是参照根据本说明书一个或多个实施例的方法、装置(***)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置和***实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。本领域的普通技术人员而言,可以根据具体情况理解上述术语在本说明书一个或多个实施例中的具体含义。
需要说明的是,在不冲突的情况下,本说明书一个或多个实施例及实施例中的特征可以相互组合。本说明书一个或多个实施例并不局限于任何单一的方面,也不局限于任何单一的实施例,也不局限于这些方面和/或实施例的任意组合和/或置换。而且,可以单独使用本说明书一个或多个实施例的每个方面和/或实施例或者与一个或更多其他方面和/或其实施例结合使用。
最后应说明的是:以上各实施例仅用以说明本说明书一个或多个实施例的技术方案,而非对其限制;尽管参照前述各实施例对本说明书一个或多个实施例进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本说明书一个或多个实施例技术方案的范围,其均应涵盖在本说明书一个或多个实施例的权利要求和说明书的范围当中。
以上结合了可选的实施方式对本说明书一个或多个实施例进行了说明,不过这些实施方式仅是范例性的,仅起到说明性的作用。在此基础上,可以对本说明书一个或多个实施例进行多种替换和改进,这些均落入本说明书一个或多个实施例的保护范围内。
Claims (25)
1.一种触控识别方法,其特征在于,应用于触控设备,所述触控设备包括至少一个图像采集单元;所述方法包括:
获取至少一个图像采集单元采集到的待识别图像;
对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息;
获取所述待识别图像的图像坐标系与触控坐标系之间的坐标转换关系;
根据所述坐标转换关系、第一位置信息和所述图像采集单元对应的权重系数,确定所述目标触控点在所述触控坐标系中的第二位置信息。
2.根据权利要求1所述的方法,其特征在于,所述对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息,包括:
对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域;
从所述目标区域中确定所述目标触控点,并获取所述目标触控点对应的所述第一位置信息。
3.根据权利要求2所述的方法,其特征在于,所述对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,包括:
确定所述待识别图像中符合第一预设特征的第一区域;
将所述第一区域作为所述目标区域;
其中,所述第一预设特征包括以下至少一项:手型物体对应的图像特征信息、杆状物体对应的图像特征信息。
4.根据权利要求2所述的方法,其特征在于,所述对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,包括:
获取所述待识别图像对应的图像采集单元在预设时段内采集到的至少一个历史图像;
将所述历史图像和所述待识别图像进行对比,确定所述待识别图像中的非固定物体所在的第二区域;
将所第二区域作为所述目标区域。
5.根据权利要求2所述的方法,其特征在于,所述对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,包括:
获取所述触控设备当前显示的显示图像;
将所述显示图像和所述待识别图像进行对比,确定所述待识别图像中包含所述显示图像的全部或部分内容的第三区域;
从所述待识别图像中所述第三区域以外的区域中确定所述目标区域。
6.根据权利要求2所述的方法,其特征在于,所述从所述目标区域中确定所述目标触控点,包括以下至少一项:
识别所述目标区域中的最低点,作为所述目标触控点;
识别所述目标区域中符合第二预设特征的点,作为所述目标触控点;
其中,所述第二预设特征包括:所述目标触控物的尖锐端部对应的图像特征信息。
7.根据权利要求1所述的方法,其特征在于,还包括:
根据所述第二位置信息跟踪并预测所述目标触控点的运动轨迹。
8.一种触控标定方法,其特征在于,应用于触控设备,所述触控设备包括至少一个图像采集单元;所述方法包括:
获取至少一个图像采集单元采集到的待识别图像;
对所述待识别图像进行处理,确定预设标定点在所述待识别图像中的第一位置信息;
获取所述预设标定点在所述触控设备的触控区域中的标定位置信息;
根据所述第一位置信息和所述标定位置信息,分别确定每个所述图像采集单元对应的待识别图像的图像坐标系与所述触控区域的触控坐标系之间的坐标转换关系。
9.根据权利要求8所述的方法,其特征在于,还包括:
确定所述图像采集单元的视场裁切参数;
所述获取至少一个图像采集单元采集到的待识别图像,包括:
根据所述视场裁切参数对所图像采集单元采集到的原始图像进行裁切,以消除所述原始图像中的畸变部分,得到所述待识别图像。
10.根据权利要求8所述的方法,其特征在于,所述预设标定点包括至少3个;所述预设标定点设置于所述触控设备的矩形触控区域的顶点位置。
11.根据权利要求8所述的方法,其特征在于,所述坐标转换关系包括:所述待识别图像中的像素点与所述触控区域中的子区域之间的一一对应关系。
12.据权利要求8所述的方法,其特征在于,所述坐标转换关系包括:以所述图像采集单元的内参数和外参数表示的坐标转换矩阵。
13.据权利要求8所述的方法,其特征在于,还包括:
根据每个所述图像采集单元对应的所述坐标转换关系,确定所述图像采集单元之间的相对坐标关系;
根据所述相对坐标关系确定各个所述图像采集单元对应的权重系数。
14.一种触控识别装置,其特征在于,应用于触控设备,所述触控设备包括至少一个图像采集单元;所述装置包括:
图像获取单元,用于获取至少一个图像采集单元采集到的待识别图像;
图像识别单元,用于对所述待识别图像进行处理,确定目标触控点在所述待识别图像中的第一位置信息;
位置转换单元,用于获取所述待识别图像的图像坐标系与触控坐标系之间的坐标转换关系,并根据所述坐标转换关系、第一位置信息和所述图像采集单元对应的权重系数,确定所述目标触控点在所述触控坐标系中的第二位置信息。
15.根据权利要求14所述的装置,其特征在于,所述图像识别单元包括:
目标区域识别模块,用于对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域;
目标点识别模块,用于从所述目标区域中确定所述目标触控点,并获取所述目标触控点对应的所述第一位置信息。
16.根据权利要求15所述的装置,其特征在于,所述目标区域识别模块用于对所述待识别图像进行处理,确定目标触控物在所述待识别图像中的目标区域,包括以下至少一项:
所述目标区域识别模块用于确定所述待识别图像中符合第一预设特征的第一区域,并将所述第一区域作为所述目标区域;其中,所述第一预设特征包括以下至少一项:手型物体对应的图像特征信息、杆状物体对应的图像特征信息;
所述目标区域识别模块用于获取所述待识别图像对应的图像采集单元在预设时段内采集到的至少一个历史图像,将所述历史图像和所述待识别图像进行对比,确定所述待识别图像中的非固定物体所在的第二区域,并将所第二区域作为所述目标区域;
所述目标区域识别模块用于获取所述触控设备当前显示的显示图像,将所述显示图像和所述待识别图像进行对比,确定所述待识别图像中包含所述显示图像的全部或部分内容的第三区域,并从所述待识别图像中所述第三区域以外的区域中确定所述目标区域。
17.根据权利要求15所述的装置,其特征在于,所述目标点识别模块用于从所述目标区域中确定所述目标触控点,包括以下至少一项:
所述目标点识别模块用于识别所述目标区域中的最低点,作为所述目标触控点;
所述目标点识别模块用于识别所述目标区域中符合第二预设特征的点,作为所述目标触控点;其中,所述第二预设特征包括:所述目标触控物的尖锐端部对应的图像特征信息。
18.根据权利要求14所述的装置,其特征在于,还包括:
轨迹预测模块,用于根据所述第二位置信息跟踪并预测所述目标触控点的运动轨迹。
19.一种触控标定装置,其特征在于,应用于触控设备,所述触控设备包括至少一个图像采集单元;所述装置包括:
标定图像获取单元,用于获取至少一个图像采集单元采集到的待识别图像;
标定点识别单元,用于对所述待识别图像进行处理,确定预设标定点在所述待识别图像中的第一位置信息;
转换关系确定单元,用于获取所述预设标定点在所述触控设备的触控区域中的标定位置信息,并根据所述第一位置信息和所述标定位置信息,分别确定每个所述图像采集单元对应的待识别图像的图像坐标系与所述触控区域的触控坐标系之间的坐标转换关系。
20.根据权利要求19所述的装置,其特征在于,还包括以下至少一项:
裁切参数标定单元,用于确定所述图像采集单元的视场裁切参数;
权重系数标定单元,用于根据每个所述图像采集单元对应的所述坐标转换关系,确定所述图像采集单元之间的相对坐标关系,并根据所述相对坐标关系确定各个所述图像采集单元对应的权重系数;
所述标定图像获取单元用于获取至少一个图像采集单元采集到的待识别图像,包括:
所述标定图像获取单元用于根据所述视场裁切参数对所图像采集单元采集到的原始图像进行裁切,以消除所述原始图像中的畸变部分,得到所述待识别图像。
21.根据权利要求19所述的装置,其特征在于,所述预设标定点包括至少3个;所述预设标定点设置于所述触控设备的矩形触控区域的顶点位置;
所述转换关系确定单元得到的所述坐标转换关系包括:所述待识别图像中的像素点与所述触控区域中的子区域之间的一一对应关系;或者,所述坐标转换关系包括:以所述图像采集单元的内参数和外参数表示的坐标转换矩阵。
22.一种触控设备,其特征在于,包括:显示屏、设置于所述显示屏边缘的至少一个图像采集单元,和电路板;
所述电路板包括显示控制单元和触控控制单元;
所述触控控制单元与所述图像采集单元连接,用于执行上述权利要求1~7中任意一项所述的方法,得到目标触控点对应的第二位置信息并发送至所述显示控制单元,或者用于执行上述权利要求8~13中任意一项所述的方法,实现对所述图像采集单元的坐标标定;
所述显示控制单元与所述显示屏和触控控制单元连接,用于根据所述第二位置信息进行触控响应,并在所述显示屏中显示触控响应结果。
23.根据权利要求22所述的设备,其特征在于,所述图像采集单元包括2个,分别设置于所述显示屏的对角线的两个顶点处。
24.一种电子设备,其特征在于,所述电子设备包括:
存储器,用于存储计算机程序产品;
处理器,用于执行所述存储器中存储的计算机程序产品,且所述计算机程序产品被执行时,实现上述权利要求1-13中任意一项所述的方法。
25.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序指令,该计算机程序指令被执行时,实现上述权利要求1-13中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311009820.2A CN117032492A (zh) | 2023-08-10 | 2023-08-10 | 触控识别方法、触控标定方法及相关装置、设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311009820.2A CN117032492A (zh) | 2023-08-10 | 2023-08-10 | 触控识别方法、触控标定方法及相关装置、设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117032492A true CN117032492A (zh) | 2023-11-10 |
Family
ID=88634899
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311009820.2A Pending CN117032492A (zh) | 2023-08-10 | 2023-08-10 | 触控识别方法、触控标定方法及相关装置、设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117032492A (zh) |
-
2023
- 2023-08-10 CN CN202311009820.2A patent/CN117032492A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110574026B (zh) | 卷积引擎、电子设备和用于处理数据的方法 | |
CN111083380B (zh) | 一种视频处理方法、电子设备及存储介质 | |
CN109313799B (zh) | 图像处理方法及设备 | |
CN110637297B (zh) | 卷积引擎、数据处理方法和电子设备 | |
CN106846410B (zh) | 基于三维的行车环境成像方法及装置 | |
CN110493525B (zh) | 变焦图像确定方法及装置、存储介质、终端 | |
KR101679290B1 (ko) | 영상 처리 방법 및 장치 | |
JP2022542668A (ja) | 目標対象物マッチング方法及び装置、電子機器並びに記憶媒体 | |
CN109151442B (zh) | 一种图像拍摄方法及终端 | |
WO2020043155A1 (zh) | 图像的多尺度融合方法、装置、存储介质及终端 | |
CN107392933B (zh) | 一种图像分割的方法及移动终端 | |
CN113875220B (zh) | 拍摄防抖方法、装置、终端及存储介质 | |
CN107613208B (zh) | 一种对焦区域的调节方法及终端、计算机存储介质 | |
CN111062981A (zh) | 图像处理方法、装置及存储介质 | |
CN113076814A (zh) | 文本区域的确定方法、装置、设备及可读存储介质 | |
US20230362477A1 (en) | Photographing method and apparatus, electronic device and readable storage medium | |
CN105574834B (zh) | 图像处理方法及装置 | |
Shen et al. | Distortion-tolerant monocular depth estimation on omnidirectional images using dual-cubemap | |
CN112184722A (zh) | 图像处理方法、终端及计算机存储介质 | |
CN111290584A (zh) | 一种基于嵌入式的红外双目手势控制***及方法 | |
CN112560867A (zh) | 文本图像的矫正方法及装置、设备和介质 | |
CN111385481A (zh) | 图像处理方法及装置、电子设备及存储介质 | |
CN110942064A (zh) | 图像处理方法、装置和电子设备 | |
CN117032492A (zh) | 触控识别方法、触控标定方法及相关装置、设备 | |
CN110941327A (zh) | 虚拟对象的显示方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |