CN114245091A - 投影位置修正方法、投影定位方法及控制装置、机器人 - Google Patents
投影位置修正方法、投影定位方法及控制装置、机器人 Download PDFInfo
- Publication number
- CN114245091A CN114245091A CN202210100253.0A CN202210100253A CN114245091A CN 114245091 A CN114245091 A CN 114245091A CN 202210100253 A CN202210100253 A CN 202210100253A CN 114245091 A CN114245091 A CN 114245091A
- Authority
- CN
- China
- Prior art keywords
- wall surface
- projection
- image
- determining
- robot
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3141—Constructional details thereof
- H04N9/3173—Constructional details thereof wherein the projection device is specially adapted for enhanced portability
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J11/00—Manipulators not otherwise provided for
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B21/00—Projectors or projection-type viewers; Accessories therefor
- G03B21/14—Details
- G03B21/142—Adjusting of projection optics
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Optics & Photonics (AREA)
- General Physics & Mathematics (AREA)
- Robotics (AREA)
- Mechanical Engineering (AREA)
- Projection Apparatus (AREA)
Abstract
一种投影位置修正方法、投影定位方法及控制装置、机器人,控制运动机构行驶到投影的第一定位点后,控制图像采集装置采集墙面的图像;根据所述墙面的图像确定所述墙面是否存在可投影区域,在存在可投影区域的情况下,确定投影画面在所述墙面上的目标区域;根据所述目标区域控制所述运动机构进行投影位置修正,使得所述投影仪向所述墙面投影生成的投影画面位于所述目标区域;本公开实施例还提供了相应的控制装置和机器人,本公开实施例可以实现投影的精确定位,提高投影效果。
Description
技术领域
本公开涉及但不限于机器人领域,具体涉及一种基于机器人实现的投影位置修正方法、投影定位方法及控制装置、机器人。
背景技术
即时定位与地图构建(simultaneous localization and mapping,简称SLAM),是机器人在未知环境中从一个未知位置开始移动,在移动过程中根据位置和地图进行自身定位,同时在自身定位的基础上建造增量式地图,实现机器人的自主定位和导航。有些机器人产品设置有投影仪,可以向墙面投射要播放的画面。但机器人利用SLAM定位及运动控制来实现投影定位时,难以得到良好的投影效果。
发明内容
以下是对本文详细描述的主题的概述。本概述并非是为了限制权利要求的保护范围。
本公开一实施例提供了一种投影位置修正方法,应用于设置有投影仪的机器人,所述方法包括:
控制运动机构行驶到投影的第一定位点,控制图像采集装置采集墙面的图像;
根据所述墙面的图像确定所述墙面是否存在可投影区域,在存在可投影区域的情况下,确定投影画面在所述墙面上的目标区域;
根据所述目标区域控制所述运动机构进行投影位置修正,使得所述投影仪向所述墙面投影生成的投影画面位于所述目标区域。
本公开上述实施例能够基于墙面的图像确定投影画面的目标区域,基于所述目标区域进行投影位置修正,使得投影生成的投影画面位于所述目标区域,因而可以取得良好的投影效果。
本公开一实施例还提供了一种投影定位方法,应用于设置有投影仪的机器人,所述方法包括:
采集当前环境的图像,根据所述图像识别出至少一个墙面;
将识别出的一个墙面作为路标进行路径规划,确定投影的第一定位点;
按照本公开任一实施例所述的投影位置修正方法进行投影位置修正。
本公开上述实施例通过SLAM进行投影位置的初步定位,再在初步定位点采集墙面的图像,基于图像确定投影画面的目标区域,进而对投影位置进行修正,实现了投影位置的精准控制,可以取得良好的投影效果。
本公开一实施例还提供了一种机器人控制装置,包括处理器以及存储有计算机程序的存储器,其中,所述处理器执行所述计算机程序时能够实现如本公开任一实施例所述的投影位置修正方法,或者能够实现如本公开任一实施例所述的投影定位方法,取得上述方法的效果。
本公开一实施例还提供了一种机器人,包括机器人本体,所述机器人本体设置有运动机构,还包括设置在机器人本体上的投影仪、图像采集装置和控制装置,其中:
所述图像采集装置设置为能够采集墙面的图像;
所述投影仪设置为能够向墙面投影要播放的画面;
所述控制装置设置为能够执行如本公开任一实施例所述的投影位置修正方法,或者能够执行如本公开任一实施例所述的投影定位方法。
本公开上述实施例的机器人能够对投影位置进行修正,实现精准定位,取得良好的投影效果。
本公开一实施例还提供了一种非瞬态计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如本公开任一实施例所述的投影位置修正方法或投影定位方法。
在阅读并理解了附图和详细描述后,可以明白其他方面。
附图说明
附图用来提供对本公开实施例的理解,并且构成说明书的一部分,与本公开实施例一起用于解释本公开的技术方案,并不构成对本公开技术方案的限制。
图1是本公开一实施例投影位置修正方法的流程图;
图2是本公开一实施例确定投影画面目标区域的示意图;
图3是本公开一实施例确定根基点和法向量的示意图;
图4是本公开一实施例投影定位方法的流程图;
图5是本公开一实施例机器人控制装置的结构示意图;
图6是本公开一实施例的一次投影定位过程的流程图。
具体实施方式
本公开描述了多个实施例,但是该描述是示例性的,而不是限制性的,并且对于本领域的普通技术人员来说显而易见的是,在本公开所描述的实施例包含的范围内可以有更多的实施例和实现方案。
本公开的描述中,“示例性的”或者“例如”等词用于表示作例子、例证或说明。本公开中被描述为“示例性的”或者“例如”的任何实施例不应被解释为比其他实施例更优选或更具优势。本文中的“和/或”是对关联对象的关联关系的一种描述,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。“多个”是指两个或多于两个。另外,为了便于清楚描述本公开实施例的技术方案,使用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定,并且“第一”、“第二”等字样也并不限定一定不同。
在描述具有代表性的示例性实施例时,说明书可能已经将方法和/或过程呈现为特定的步骤序列。然而,在该方法或过程不依赖于本文所述步骤的特定顺序的程度上,该方法或过程不应限于所述的特定顺序的步骤。如本领域普通技术人员将理解的,其它的步骤顺序也是可能的。因此,说明书中阐述的步骤的特定顺序不应被解释为对权利要求的限制。此外,针对该方法和/或过程的权利要求不应限于按照所写顺序执行它们的步骤,本领域技术人员可以容易地理解,这些顺序可以变化,并且仍然保持在本公开实施例的精神和范围内。
本公开实施例涉及一种设置有投影仪的机器人,在一实施例中,该机器人包括底座、设置在底座上方的躯干、可转动伸缩设置在躯干上端的颈部和设置在颈部上的头部。底座下方设置有车轮,躯干内设置有控制装置,头部设置有图像采集装置和投影仪。颈部可以在控制装置的控制下伸缩和转动。该机器人上还设置有用于驱动车轮和颈部运动的驱动机构如电机、减速机等,这些与运动相关的构件共同构成了机器人的运动机构。通过运动机构可以实现机器人的行驶,投影仪的升降和各种方向的转动等。
控制装置可以控制图像采集装置采集图像,通过图像传感器将图像变成数字信号后传递给控制装置,控制装置可以包括多种处理器,具有图像处理和多种控制功能,例如根据采集的图像实现即时定位与地图构建(SLAM),选定路标(landmark)和路径规划,控制运动机构行驶到预定的地点,调节图像采集装置和投影仪的空间位置(包括对转动位置的调节)以及控制投影仪播放画面等等。在一个示例,图像采集装置包括3D激光雷达及视觉传感器(如单目相机)。
SLAM有很多种分类方法。按照传感器的不同,可以分为基于激光雷达的2D/3DSLAM、基于深度相机的RGBD SLAM、基于视觉传感器的SLAM等等。通过激光雷达SLAM程序,可以融合惯性传感器的信息,统一处理2D与3D SLAM。视觉传感器包括单目相机、双目相机等。视觉传感器在室内室外均可以使用。按照视觉特征的提取方式又可以分为特征法、直接法。
设置有投影仪的机器人虽然可以通过SLAM,自动定位到墙面附近进行投影,但是由于SLAM定位及运动控制精度无法做到位置和朝向的精确定位,会存在角度和位置误差,导致投影画面不正、投影画面被遮挡、投影画面超出墙面范围等各种问题,投影的效果难以令用户满意。
本公开一实施例提供了一种投影位置修正方法,应用于设置有投影仪的机器人,如图1所示,所述方法包括:
步骤110,控制运动机构行驶到投影的第一定位点,控制图像采集装置采集墙面的图像;
步骤120,根据所述墙面的图像确定所述墙面是否存在可投影区域,在存在可投影区域的情况下,执行步骤130,在不存在可投影区域的情况下,执行步骤140;
步骤130,确定投影画面在所述墙面上的目标区域,根据所述目标区域控制所述运动机构进行投影位置修正,使得所述投影仪向所述墙面投影生成的投影画面位于所述目标区域,结束。
步骤140,结束本次投影位置修正。
本公开实施例能够基于在第一定位点采集的墙面的图像确定投影画面的目标区域,基于所述目标区域进行投影位置修正,使得投影生成的投影画面位于所述目标区域,因而可以取得良好的投影效果。
在本公开一示例性的实施例中,所述根据所述墙面的图像确定所述墙面是否存在可投影区域,包括:根据所述墙面的3D图像确定所述墙面的宽度,在所述墙面的宽度小于投影所需宽度的情况下,确定所述墙面不存在可投影区域。
在本公开一示例性的实施例中,所述根据所述墙面的图像确定所述墙面是否存在可投影区域,还包括:
在所述墙面的宽度大于或等于投影所需宽度的情况下,根据所述墙面的纹理图像进行遮挡物的识别,根据识别结果确定所述墙面是否存在可容纳预设投影画面的无遮挡区域:
在存在所述无遮挡区域的情况下,确定所述墙面存在可投影区域;或者,
在不存在所述无遮挡区域的情况下,确定所述墙面不存在可投影区域,结束本次投影位置修正。
本实施例中,墙面的纹理图像可以通过控制视觉传感器拍摄墙面来生成,视觉传感器可以是单目相机、双目相机等。所述纹理图像可以是RGB图像,也可以是YUV等其他格式的包含色彩特征的图像。本实施例将雷达点云和视觉融合,进行感知及运动控制,通过雷达点云信息为输入端实现墙面的检测识别,结合视觉做二次判断,将两者融合实现定位,可以找到合适的墙面进行投影播放。
在本实施例的一个示例中,可以通过控制3D激光雷达扫描所述墙面,生成所述墙面的点云图像,通过相邻点聚类算法对所述点云图像进行处理,提取出所述墙面的两侧轮廓线,根据所述两侧轮廓线之间的距离确定所述墙面的宽度。在另一示例中,也可以使用深度相机来采集墙面的深度图像,根据深度差异来识别出墙面的两侧轮廓线,进而计算出墙面宽度。
基于激光点云图像可以进行建筑物建模或矢量信息提取,快速识别出建筑物面和棱线信息。例如可以基于相邻点聚类算法进行建筑物面和棱线的提取。提取时先计算点云中每个数据点的单位法向量和点到基准面的距离,利用基于网格的相邻点聚类算法对点云进行分类,确定建筑物面点云,然后自动判别相交平面,提取建筑物棱线。虽然通过视觉传感器如单目相机、双目相机等采集的纹理图像也可以识别墙面的轮廓线并计算墙面的宽度,但是纹理图像对于墙面轮廓线不敏感,会导致计算出的墙面宽度精度较差。例如在两个墙面的深度不同时,该两个墙面之间的轮廓线在颜色上与墙面颜色差别不大,比较难以区分出来。而通过3D激光雷达扫描生成的点云图像是一种几何图像,在一个墙面的轮廓线两侧的点通常会存有很大的深度差异,从而便于通过相邻点聚类等算法容易将墙面轮廓线两侧的点准确地区分开来,从而准确提取出墙面的轮廓线。
而对于墙面上遮挡物的识别则有所不同,墙面上的遮挡物可能是在墙面前放置的物品,如书架、桌椅、电器设备等等,还可能是贴在墙面上的一幅画,挂在墙面上的装饰物,以及墙面存在的一些污染物等等,这些遮挡物并不会导致与墙面几何形状上的明显变化,但是会严重影响投影的观看效果。此时通过3D激光雷达生成点云的方式,就不容易识别出这些遮挡物。而这些遮挡物通常在颜色上与墙面存在较大差异,通过纹理图像就很容易识别出这些遮挡物并确定这些遮挡物的形状、大小和位置。从而确定在排除这些遮挡物之后余下的无遮挡区域。这里需要说明的是,如果墙面已经被装饰成为具有彩色图案的墙面,本实施例会将其视为存在遮挡物,这种墙面本身不适于投影。如果墙面上贴有白色的壁纸、纸张之类,本实施例可能不会将其视为遮挡物,这些物品也不影响观看。在一些情况下,墙面上挂有专门用于投影的白色幕布,该幕布在形状和色彩上与适于投影的墙面相似,本公开实施例会将其识别为墙面存在的可投影区域,而不是遮挡物。本实施例通过纹理图像具有的色彩特征来识别墙面是否存在遮挡物,是合适的。
如果在墙面上呈现的投影画面太小,会影响观看的感受。因此本实施例设置了预设投影画面,该预设投影画面可以是最小投影画面即用户可以容忍的投影画面的最小尺寸,或者是具有优选画面尺寸的投影画面,或者具有其他设定尺寸的投影画面。如果无遮挡区域不能够容纳预设投影画面,则放弃在当前墙面投影。预设投影画面可以是***默认设置的,由于不同用户的观看习惯不同,该参数也可以由用户输入来配置和修改。需要说明的是,本实施例的预设投影画面不一定是最小投影画面,例如,在本公开实施例的场景下,如果用户确定室内存在可以容纳优选画面尺寸的墙面,可以将该最小投影画面设置为优选画面尺寸,如果在某一墙面找不到可以容纳优先画面尺寸的无遮挡区域时,可以离开当前墙面,到另一墙面去进行尝试。
本实施例中,投影所需宽度可以通过下式计算:D2=D1+2d,其中,D2是投影所需宽度,D1是投影画面所需宽度,d是设定的容差宽度,可以参见图3。此处的投影画面所需宽度可以是最小投影画面的宽度,也可以是优选画面尺寸的宽度,或者介于最小投影画面的宽度和优选画面尺寸的宽度之间。本公开实施例对此不做局限。设置容差宽度是因为投影总会存在一定的偏差,为了避免画面被投射到墙面之外而设置的一个裕量,可以根据使用的投影仪投影精度等参数来设置,或者设置为一个固定的值如10cm~50cm,容差宽度也可以由用户配置和修改。
在本公开一示例性的实施例中,所述投影画面为矩形,所述确定投影画面在所述墙面上的目标区域,包括:
确定所述投影画面的尺寸,使得所述投影画面能够被所述无遮挡区域所容纳且最接近于设定的画面优选尺寸;
确定所述投影画面在所述墙面的宽度方向上的位置和高度方向上的位置,使得所述投影画面能够被所述无遮挡区域所容纳。
请参见图2,是本公开实施例投影画面的目标区域确定的一个示意图。如图所示,墙面101的宽度满足投影所需宽度的要求,在墙面101上存在一些遮挡物105,除去这些遮挡物之外的其他区域为无遮挡区域。因为本实施例的投影画面是矩形的,为了判断无遮挡区域是否能够容纳最小投影画面,可以先在无遮挡区域绘制一个最大矩形103,如果矩形103可以容纳最小投影画面,则代表墙面存在可以容纳最小投影画面的无遮挡区域。在确定投影画面在墙面上的目标区域时,一方面需要确定投影画面的尺寸,另一方面需要确定投影画面在墙面上的位置。投影画面的尺寸可以根据设定的画面优选尺寸来选择,在能够被无遮挡区域容纳的前提下,选择一个最接近于画面优选尺寸的尺寸。例如,优选画面尺寸(宽×高)是2.5m×1.5m,而无遮挡区域能够绘制出的最大矩形103的尺寸(宽×高)是35m×2m,就可以确定目标区域的尺寸为2.5m×1.5m,如图2中的目标区域107。如果该矩形103的尺寸容纳优选的画面尺寸如该矩形的尺寸为2.2m×1.8m,则可以确定投影画面的目标区域107尺寸为2.2m×1.32m。
在确定投影画面在墙面的位置时,可以设定一个投影画面的下限位置,即允许的投影画面下边距离地面的最低高度,如果过低也可能影响观感。在确定投影画面在墙面高度方向上的位置时保证投影画面的下边不低于该下限位置。此外,还可以设定一个优选投影高度如1.5m~2m,可以用画面的中心点对地高度来表示,在能够被无遮挡区域容纳的情况下,将目标区域的高度设定为该优选投影高度或者最接近该优选投影高度的值。而在确定投影画面在墙面宽度方向上的位置时,可以在能够被无遮挡区域容纳的情况下,选择最靠近整个墙面在宽度方向上的中线的位置,或者靠近无遮挡区域可以绘制出的最大矩形103在宽度方向上的中线的位置。
本公开上述实施例确定是否存在可投影区域的方式是看无遮挡区域是否能够容纳预设投影画面,然后再在无遮挡区域中进行目标区域的定位。在本公开另一实施例中采用不同的判断方法,在该实施例中,在所述墙面的宽度大于或等于投影所需宽度的情况下,确定投影画面在所述墙面上的一个或多个预选区域;再根据所述墙面的纹理图像进行遮挡物的识别,在所述预选区域均存在遮挡物的情况下,确定墙面不存在可投影区域;或者,在确定至少有一个预选区域不存在遮挡物的情况下,确定墙面存在可投影区域,确定存在可投影区域的情况下,将一个预选区域确定为目标区域,如果有多个预选区域,这些预选区域可以预先设定优先级,优先选择优先级高的预先区域作为目标区域,但也可以随机选择。在一个示例中,该预选区域的中心点可以设置在墙面宽度方向的中心线上,该预选区域的宽度可以设置为预设的宽度,而高度也可以设置为一个预设的高度。通过预设宽度和高度的变化,可以得到多个预选区域。也就是说,本实施例先确定一个或多个预选区域,再看这些预选区域是否有遮挡物,而前述实施例是从无遮挡物的区域内寻找可投影的区域。两种方式都可以用于确定目标区域。
在本公开一示例性的实施例中,根据所述目标区域控制所述运动机构进行位置修正,包括:
确定所述目标区域的中心点的坐标,以所述中心点为根基点进行所述墙面的法向量的延伸;
根据所述投影仪沿所述法向量向所述墙面投影时的投影三角,确定使投影画面位于所述目标区域所需的投影距离;
根据所述中心点的坐标和所述投影距离确定投影的第二定位点,控制所述运动机构行驶到所述第二定位点。
本公开实施例对于根基点和法向量的确定,并不局限在确定了目标区域之后,也可以在目标区域之前,先根据一个预选区域确定根基点和法向量。如果确定的目标区域不是该预选区域,可以重新确定根基点和法向量。
请参见图3,图中示出了墙面和机器人的相对位置。图中线段BD对应在的是目标区域的宽度及其在墙面上的位置,目标区域的中心点用A表示,以A点为根基点引出的墙面的法向量用向量F表示。投影仪沿法向量F投影时的投影三角用BCD表示,通过对投影距离(投影仪镜头到墙面的垂直距离)的调节,可以改变投影画面在墙面上的大小,计算投影画面位于目标区域(即画面与目标区域重合或者说画面刚好覆盖目标区域)时的投影距离,图中标记为H1。由此,可以很容易地计算出第二定位点,也即图中的C点。该第二定位点是通过相对墙面的坐标直接定位得到,具有较高的精度,可以最以预期的观影效果。
第二定位点具体可用C点垂直投影到地面的坐标来表示,根据中心点坐标和投影距离计算出的坐标可以采用相对坐标的方式表示,机器人可以基于墙面为参考系建立局部坐标来确定第二定位点的坐标,用于路径规划。在本公开一示例性的实施例中,控制运动机构行驶时,可以第一定位点为起点,第二定位点为终点,进行局部路径规则;再控制运动机构依照规则的路径从当前所在的第一定位点行驶到第二定位点。该局部路径规划仅仅依赖于墙面的相对位置关系,不依赖于全局地图,对算力要求较小。
在本公开一示例性的实施例中,行驶到所述第二定位点后,对所述投影仪的位置进行调整,使得所述投影仪的投影中心线与所述法向量重合,或者使得所述投影仪的投影中心线与所述法向量的夹角最小且与所述墙面相交于所述中心点。这里的投影中心线可以用投影仪投影镜头的轴线来表示,如本公开实施例的机器人可以通过运动机构来调节投影仪的高度,在投影仪的高度允许的范围内,优先使得投影中心线与法向量重合,这样可以投影出横平竖直的画面,取得最优的观影效果。但如果投影仪的高度无法调节到法向量所在的高度位置,则可以将投影仪调节到一个位置,使得投影中心线与法向量的夹角最小与墙面相交于目标区域中心点。这个位置处于法向量所在的垂直平面上。本文中对投影仪的位置调整,包含了对投影仪的姿态调整,姿态调整也是对转动位置的调整,可以视为位置调整的一种。
本公开上述实施例依据传感器融合技术,能够针对空白墙面进行机器人自身位置的修正,弥补由于定位导航带来角度和位置误差,使得机器人身上投影仪投射出可以横平竖直的画面,使得具有最佳画面感。
本公开一实施例提供了一种投影定位方法,应用于设置有投影仪的机器人,如图4所示,包括:
步骤210,采集当前环境的图像,根据所述图像识别出至少一个墙面;
步骤220,将识别出的一个墙面作为路标进行路径规划,确定投影的第一定位点;
步骤230,按照本公开任一实施例所述的投影位置修正方法进行投影位置修正。
本公开上述实施例通过SLAM进行投影位置的初步定位,再在初步定位点采集墙面的图像,基于图像确定投影画面的目标区域,进而对投影位置进行修正,实现了投影位置的精准控制,可以取得良好的投影效果。
在本公开一示例性的实施例中,所述方法还包括:在确定所述墙面不存在可投影区域的情况下,将识别出的另一个墙面作为路标进行路径规划,重新确定投影的第一定位点并再次进行所述投影位置修正。
在选定路标(landmark)时,可以使用视觉传感器,相对来说视觉图像的信息比较丰富。可以对环境做语义标注,在图像上识别出墙面作为landmark。但是,激光扫描也可以用于识别墙面,墙面的点云图像具有显著的几何特征,会出现较大面积的平整面,通过语义识别,可以在点云中分割出墙面作为landmark。
在确定好landmark后,进行路径规划时,需要选定第一定位点,一般来说,该第一定位点可以选择在墙面宽度中心线的正前方,距离墙面设定距离的位置,但是这种初步的定位,由于视角、距离等原因其精度有限,对墙面是否存在遮挡物也难以做出准确判断,而且,此时的运动控制由于距离较远也会存在精度上的误差,因而难以达到良好的观影效果。因此本实施例结合本公开的位置修正方法,能够基于近距离采集的图像进行精确定位和判断,选择适合的目标区域进行投影,还可以可以将雷达点云和视觉融合进行精确定位,让客户具有观影的良好感受。
本公开上述实施例依据传感器融合技术,能够针对空白墙面进行机器人自身位置的修正,弥补由于定位导航带来角度和位置误差,使得机器人身上的投影仪投射出可以横平竖直的画面,具有良好的画面感。
本公开一实施例还提供了一种机器人控制装置,如图5所示,包括处理器60以及存储有计算机程序的存储器50,其中,所述处理器60执行所述计算机程序时能够实现如本公开任一实施例所述的投影位置修正方法,或者能够实现如本公开任一实施例所述的投影定位方法。本实施例的处理器可以有一个或多个,可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本公开实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
本公开一实施例还提供了一种机器人,包括机器人本体,所述机器人本体设置有运动机构,所述机器人还包括设置在机器人本体上的投影仪、图像采集装置和控制装置,其中:
所述图像采集装置设置为能够采集墙面的图像;
所述投影仪设置为能够向墙面投影要播放的画面;
所述控制装置设置为能够执行如本公开任一实施例所述的投影位置修正方法,或者能够执行如本公开任一实施例所述的投影定位方法。
在本公开一示例性的实施例中,所述图像采集装置包括:视觉传感器,设置为能够采集墙面的纹理图像;及,3D激光雷达,设置为能够扫描墙面生成点云图像。
本实施例的机器人本体可以包括底部、躯干、颈部和头部。但不局限于此,例如可以将底部更换为腿部,或者增加手部,或者将躯干和颈部集成为一个部件等等。对于机器人本体的结构本公开不做局限,只要能够承载图像采集装置、投影仪和控制装置,以及能够行驶和对投影仪进行位置调节即可。上述投影仪包括可以投射画面的任何装置或设备,不局限于特定的外形和结构。投影仪除了可以安装在机器人的头部外,也可以安装在其他部件,如手部、躯干等。
为了弥补由于定位运动带来位置误差,针对墙面寻找最佳投影点,使得机器人能够投射出预期的界面宽度和高度,达到良好的观影感受。本公开一实施例还提供了一种投影定位方法,通过对初步定位点进行相对位置修正,实现精确的投影位置调整。
本实施例的投影定位方法应用于机器人,该机器人配置有投影仪,如图6所示,本实施例的一次投影定位过程包括:
步骤310,根据路标进行初步定位,行驶到第一定位点;
步骤320,通过激光雷达扫描确定墙面宽度;
本步骤中,可以控制3D激光雷达扫描墙面得到点云图像,通过相邻点聚类算法对点云图像进行线性聚类,雷达点云信息进行线性聚类,分辨出线性墙面及其具有的宽度。
步骤330,判断墙面宽度是否满足投影需要,如果满足,执行步骤340,如果不满足,结束;
本步骤中,如果墙面宽度D2大于投影所需宽度(D1+2d),d是容差宽度,则判断墙面宽度满足投影需要。
步骤340,选定根基点并进行法向量延伸,确定投影距离;
本步骤中,可以以(D1+2d)/2处的位置作为根基点(0,0)进行法向量延伸,并且根据投影的三角形关系确定投射宽度为D2的画面,投影距离为H1。根据根基点的坐标和投影距离可以得到修正后的投影点即第二定位点的相对坐标。上述根基点可以设定为投影画面在墙面的预选区域的中心点。
步骤350,通过视觉传感采集的图像判断墙面是否存在影响观看投影画面的遮挡物,如果不存在,执行步骤360,如果存在,结束;
本步骤中,可以利用机器人头部设置的RGB相机采集墙面的纹理图像,对墙面的垂直立面进行过滤,检查是否有挂饰等物体影响观看投影画面,通过本步骤的二次确定可以避免投影画面存在遮挡物,影响投影效果。
应当说明的是,如果在本步骤发现预选区域存在遮挡物,还可以重新框定一个无遮挡物的区域作为投影画面的目标区域,根据该目标区域再重新确定根基点和法向量。也即本实施例可以先确定投影画面的预选区域,再检测预选区域内是否存在遮挡物,在存在遮挡物的情况下,再去寻找其他无遮挡物且可以投影的区域,如果能够找到,也认定是不存在影响观看投影画面的遮挡物。这些可能的变化,均在本公开实施例的范围之内。
本步骤也可以在步骤340之前执行,如果能够确定一个目标区域,再执行步骤340中的处理即选定根基点并进行法向量延伸,确定投影距离。
步骤360,根据所述根基点和法向量进行路径规划,实现投影位置修正。
本步骤中,可以进行运动控制,使得机器人行驶到由法向量和投影距离确定的第二定位点,并进行位姿调整,使得投影画面位于墙面的目标区域。本步骤的路径规划可以基于根基点作为相对坐标,不依赖绝对地图,仅仅是依赖实时点云信息进行相对目标判断,进行相对位姿调整,进而达到位置自纠正的目的。
在上述步骤中,如果结束了本次投影定位,可以进行下一个路标(landmark)信息确认,再次启动一次投影定位过程。
本实施例提供了一种基于雷达点云和视觉融合对投影画面进行自纠正控制策略,通过激光雷达获取点云图像,通过相邻点聚类算法实现墙面宽度的识别,进而确定根基点和法向量。通过视频对预选区域进行二次确认。通过立体巡视实现了精确的相对位姿调整。
本实施例通过结合雷达点云信息和单目视觉信息的融合,可以进行精确定位,找到相应的墙面得到对最佳投影点,使得投影出画面比较工整,提高用户体验。
本实施例可以基于墙面寻找最佳投影点,使得投射出界面宽度,高度能够达到最佳观影感,弥补由于定位运动感带来位姿误差,经过二次相对位置修正可以进行精确相对位姿调整确定。而且可以不依赖于全局地图,仅仅依赖墙面相对位置关系,进行局部路径规划,对算力要求较小,
在本公开上述任意一个或多个示例性实施例中,所描述的功能可以硬件、软件、固件或其任一组合来实施。如果以软件实施,那么功能可作为一个或多个指令或代码存储在计算机可读介质上或经由计算机可读介质传输,且由基于硬件的处理单元执行。计算机可读介质可包含对应于例如数据存储介质等有形介质的计算机可读存储介质,或包含促进计算机程序例如根据通信协议从一处传送到另一处的任何介质的通信介质。以此方式,计算机可读介质通常可对应于非暂时性的有形计算机可读存储介质或例如信号或载波等通信介质。数据存储介质可为可由一个或多个计算机或者一个或多个处理器存取以检索用于实施本公开中描述的技术的指令、代码和/或数据结构的任何可用介质。计算机程序产品可包含计算机可读介质。
举例来说且并非限制,此类计算机可读存储介质可包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储装置、磁盘存储装置或其它磁性存储装置、快闪存储器或可用来以指令或数据结构的形式存储所要程序代码且可由计算机存取的任何其它介质。而且,还可以将任何连接称作计算机可读介质举例来说,如果使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)或例如红外线、无线电及微波等无线技术从网站、服务器或其它远程源传输指令,则同轴电缆、光纤电缆、双纹线、DSL或例如红外线、无线电及微波等无线技术包含于介质的定义中。然而应了解,计算机可读存储介质和数据存储介质不包含连接、载波、信号或其它瞬时(瞬态)介质,而是针对非瞬时有形存储介质。如本文中所使用,磁盘及光盘包含压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)、软磁盘或蓝光光盘等,其中磁盘通常以磁性方式再生数据,而光盘使用激光以光学方式再生数据。上文的组合也应包含在计算机可读介质的范围内。
可由例如一个或多个数字信号理器(DSP)、通用微处理器、专用集成电路(ASIC)现场可编程逻辑阵列(FPGA)或其它等效集成或离散逻辑电路等一个或多个处理器来执行指令。因此,如本文中所使用的术语“处理器”可指上述结构或适合于实施本文中所描述的技术的任一其它结构中的任一者。另外,在一些方面中,本文描述的功能性可提供于经配置以用于编码和解码的专用硬件和/或软件模块内,或并入在组合式编解码器中。并且,可将所述技术完全实施于一个或多个电路或逻辑元件中。
本公开实施例的技术方案可在广泛多种装置或设备中实施,包含无线手机、集成电路(IC)或一组IC(例如,芯片组)。本公开实施例中描各种组件、模块或单元以强调经配置以执行所描述的技术的装置的功能方面,但不一定需要通过不同硬件单元来实现。而是,如上所述,各种单元可在编解码器硬件单元中组合或由互操作硬件单元(包含如上所述的一个或多个处理器)的集合结合合适软件和/或固件来提供。
Claims (12)
1.一种投影位置修正方法,应用于设置有投影仪的机器人,所述方法包括:
控制运动机构行驶到投影的第一定位点,控制图像采集装置采集墙面的图像;
根据所述墙面的图像确定所述墙面是否存在可投影区域,在存在可投影区域的情况下,确定投影画面在所述墙面上的目标区域;
根据所述目标区域控制所述运动机构进行投影位置修正,使得所述投影仪向所述墙面投影生成的投影画面位于所述目标区域。
2.如权利要求1所述的方法,其特征在于:
所述根据所述墙面的图像确定所述墙面是否存在可投影区域,包括:
根据所述墙面的3D图像确定所述墙面的宽度,在所述墙面的宽度小于投影所需宽度的情况下,确定所述墙面不存在可投影区域。
3.如权利要求2所述的方法,其特征在于:
所述根据所述墙面的图像确定所述墙面是否存在可投影区域,还包括:
在所述墙面的宽度大于或等于投影所需宽度的情况下,根据所述墙面的纹理图像进行遮挡物的识别,根据识别结果确定所述墙面是否存在可容纳预设投影画面的无遮挡区域:
在存在所述无遮挡区域的情况下,确定所述墙面存在可投影区域;或者,
在不存在所述无遮挡区域的情况下,确定所述墙面不存在可投影区域。
4.如权利要求2所述的方法,其特征在于:
所述根据所述墙面的图像确定所述墙面是否存在可投影区域,还包括:
在所述墙面的宽度大于或等于投影所需宽度的情况下,确定投影画面在所述墙面上的一个或多个预选区域;
根据所述墙面的纹理图像进行遮挡物的识别,在确定至少一个所述预选区域不存在遮挡物的情况下,确定所述墙面存在可投影区域;或者,在确定所述预选区域均存在遮挡物的情况下,确定所述墙面不存在可投影区域;
存在可投影区域的情况下,将一个所述预选区域确定为所述目标区域。
5.如权利要求3或4所述的方法,其特征在于:
所述控制图像采集装置采集墙面的图像,包括:控制3D激光雷达扫描所述墙面,生成所述墙面的点云图像;及,控制视觉传感器拍摄所述墙面,生成所述墙面的纹理图像。
6.如权利要求5所述的方法,其特征在于:
所述根据所述墙面的3D图像确定所述墙面的宽度,包括:通过相邻点聚类算法对所述点云图像进行处理,提取出所述墙面的两侧轮廓线,根据所述两侧轮廓线之间的距离确定所述墙面的宽度。
7.如权利要求3所述的方法,其特征在于:
所述投影画面为矩形,所述确定投影画面在所述墙面上的目标区域,包括:
确定所述投影画面的尺寸,使得所述投影画面能够被所述无遮挡区域所容纳且最接近于设定的画面优选尺寸;
确定所述投影画面在所述墙面的高度方向上的位置和宽度方向上的位置,使得所述投影画面能够被所述无遮挡区域所容纳。
8.如权利要求1所述的方法,其特征在于:
所述根据所述目标区域控制所述运动机构进行位置修正,包括:
确定所述目标区域的中心点的坐标,以所述中心点为根基点进行所述墙面的法向量的延伸;
根据所述投影仪沿所述法向量向所述墙面投影时的投影三角,确定使投影画面位于所述目标区域所需的投影距离;
根据所述中心点的坐标和所述投影距离确定投影的第二定位点,控制所述运动机构行驶到所述第二定位点。
9.一种投影定位方法,应用于设置有投影仪的机器人,所述方法包括:
采集当前环境的图像,根据所述图像识别出至少一个墙面;
将识别出的一个墙面作为路标进行路径规划,确定投影的第一定位点;
按照如权利要求1至8中任一所述的方法进行投影位置修正。
10.一种机器人控制装置,其特征在于,包括处理器以及存储有计算机程序的存储器,其中,所述处理器执行所述计算机程序时能够实现如权利要求1至8中任一所述的投影位置修正方法,或者能够实现如权利要求9所述的投影定位方法。
11.一种机器人,包括机器人本体,所述机器人本体设置有运动机构,其特征在于,还包括设置在机器人本体上的投影仪、图像采集装置和控制装置,其中:
所述图像采集装置设置为能够采集墙面的图像;
所述投影仪设置为能够向墙面投影要播放的画面;
所述控制装置设置为能够执行如权利要求1至8中任一所述的投影位置修正方法,或者能够执行如权利要求9所述的投影定位方法。
12.一种非瞬态计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至8中任一所述的投影位置修正方法,或者实现如权利要求9所述的投影定位方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210100253.0A CN114245091B (zh) | 2022-01-27 | 2022-01-27 | 投影位置修正方法、投影定位方法及控制装置、机器人 |
PCT/CN2022/135943 WO2023142678A1 (zh) | 2022-01-27 | 2022-12-01 | 投影位置修正方法、投影定位方法及控制装置、机器人 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210100253.0A CN114245091B (zh) | 2022-01-27 | 2022-01-27 | 投影位置修正方法、投影定位方法及控制装置、机器人 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114245091A true CN114245091A (zh) | 2022-03-25 |
CN114245091B CN114245091B (zh) | 2023-02-17 |
Family
ID=80747383
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210100253.0A Active CN114245091B (zh) | 2022-01-27 | 2022-01-27 | 投影位置修正方法、投影定位方法及控制装置、机器人 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114245091B (zh) |
WO (1) | WO2023142678A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023142678A1 (zh) * | 2022-01-27 | 2023-08-03 | 美的集团(上海)有限公司 | 投影位置修正方法、投影定位方法及控制装置、机器人 |
CN117456483A (zh) * | 2023-12-26 | 2024-01-26 | 陕西卫仕厨房灭火设备有限公司 | 一种基于图像处理的智能交通行车安全警示方法及装置 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105278759A (zh) * | 2014-07-18 | 2016-01-27 | 深圳市大疆创新科技有限公司 | 一种基于飞行器的图像投影方法、装置及飞行器 |
CN106507077A (zh) * | 2016-11-28 | 2017-03-15 | 江苏鸿信***集成有限公司 | 基于图像分析的投影仪画面矫正及遮挡避让方法 |
CN108303972A (zh) * | 2017-10-31 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 移动机器人的交互方法及装置 |
CN108965839A (zh) * | 2018-07-18 | 2018-12-07 | 成都市极米科技有限公司 | 一种自动调整投影画面的方法及模块 |
CN109996051A (zh) * | 2017-12-31 | 2019-07-09 | 广景视睿科技(深圳)有限公司 | 一种投影区域自适应的动向投影方法、装置及*** |
CN112540672A (zh) * | 2020-11-09 | 2021-03-23 | 清华大学深圳国际研究生院 | 智能投影方法、设备和存储介质 |
CN112702587A (zh) * | 2020-12-29 | 2021-04-23 | 广景视睿科技(深圳)有限公司 | 一种智能跟踪投影方法及*** |
CN112771476A (zh) * | 2018-10-10 | 2021-05-07 | 美的集团股份有限公司 | 提供远程机器人控制的方法和*** |
CN112804507A (zh) * | 2021-03-19 | 2021-05-14 | 深圳市火乐科技发展有限公司 | 投影仪校正方法、***、存储介质以及电子设备 |
CN113301317A (zh) * | 2021-02-08 | 2021-08-24 | 青岛海信激光显示股份有限公司 | 投影画面的显示方法以及激光投影设备 |
CN113840126A (zh) * | 2021-09-16 | 2021-12-24 | 广景视睿科技(深圳)有限公司 | 一种控制投影设备的方法、装置及投影设备 |
CN113973196A (zh) * | 2021-11-09 | 2022-01-25 | 北京萌特博智能机器人科技有限公司 | 移动投影机器人及其移动投影方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105676572A (zh) * | 2016-04-19 | 2016-06-15 | 深圳市神州云海智能科技有限公司 | 用于移动机器人配备的投影仪的投影校正方法和设备 |
CN106131521A (zh) * | 2016-06-28 | 2016-11-16 | 旗瀚科技股份有限公司 | 一种机器人投影方法和装置 |
CN107222732A (zh) * | 2017-07-11 | 2017-09-29 | 京东方科技集团股份有限公司 | 自动投影方法以及投影机器人 |
CN111031298B (zh) * | 2019-11-12 | 2021-12-10 | 广景视睿科技(深圳)有限公司 | 控制投影模块投影的方法、装置和投影*** |
CN114245091B (zh) * | 2022-01-27 | 2023-02-17 | 美的集团(上海)有限公司 | 投影位置修正方法、投影定位方法及控制装置、机器人 |
-
2022
- 2022-01-27 CN CN202210100253.0A patent/CN114245091B/zh active Active
- 2022-12-01 WO PCT/CN2022/135943 patent/WO2023142678A1/zh unknown
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105278759A (zh) * | 2014-07-18 | 2016-01-27 | 深圳市大疆创新科技有限公司 | 一种基于飞行器的图像投影方法、装置及飞行器 |
CN106507077A (zh) * | 2016-11-28 | 2017-03-15 | 江苏鸿信***集成有限公司 | 基于图像分析的投影仪画面矫正及遮挡避让方法 |
CN108303972A (zh) * | 2017-10-31 | 2018-07-20 | 腾讯科技(深圳)有限公司 | 移动机器人的交互方法及装置 |
CN109996051A (zh) * | 2017-12-31 | 2019-07-09 | 广景视睿科技(深圳)有限公司 | 一种投影区域自适应的动向投影方法、装置及*** |
CN108965839A (zh) * | 2018-07-18 | 2018-12-07 | 成都市极米科技有限公司 | 一种自动调整投影画面的方法及模块 |
CN112771476A (zh) * | 2018-10-10 | 2021-05-07 | 美的集团股份有限公司 | 提供远程机器人控制的方法和*** |
CN112540672A (zh) * | 2020-11-09 | 2021-03-23 | 清华大学深圳国际研究生院 | 智能投影方法、设备和存储介质 |
CN112702587A (zh) * | 2020-12-29 | 2021-04-23 | 广景视睿科技(深圳)有限公司 | 一种智能跟踪投影方法及*** |
CN113301317A (zh) * | 2021-02-08 | 2021-08-24 | 青岛海信激光显示股份有限公司 | 投影画面的显示方法以及激光投影设备 |
CN112804507A (zh) * | 2021-03-19 | 2021-05-14 | 深圳市火乐科技发展有限公司 | 投影仪校正方法、***、存储介质以及电子设备 |
CN113840126A (zh) * | 2021-09-16 | 2021-12-24 | 广景视睿科技(深圳)有限公司 | 一种控制投影设备的方法、装置及投影设备 |
CN113973196A (zh) * | 2021-11-09 | 2022-01-25 | 北京萌特博智能机器人科技有限公司 | 移动投影机器人及其移动投影方法 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023142678A1 (zh) * | 2022-01-27 | 2023-08-03 | 美的集团(上海)有限公司 | 投影位置修正方法、投影定位方法及控制装置、机器人 |
CN117456483A (zh) * | 2023-12-26 | 2024-01-26 | 陕西卫仕厨房灭火设备有限公司 | 一种基于图像处理的智能交通行车安全警示方法及装置 |
CN117456483B (zh) * | 2023-12-26 | 2024-03-08 | 陕西卫仕厨房灭火设备有限公司 | 一种基于图像处理的智能交通行车安全警示方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN114245091B (zh) | 2023-02-17 |
WO2023142678A1 (zh) | 2023-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11677920B2 (en) | Capturing and aligning panoramic image and depth data | |
CN109074083B (zh) | 移动控制方法、移动机器人及计算机存储介质 | |
CN108885459B (zh) | 导航方法、导航***、移动控制***及移动机器人 | |
US10796151B2 (en) | Mapping a space using a multi-directional camera | |
CN110801180B (zh) | 清洁机器人的运行方法及装置 | |
CN108140235B (zh) | 用于产生图像视觉显示的***和方法 | |
Scaramuzza et al. | Extrinsic self calibration of a camera and a 3d laser range finder from natural scenes | |
CN104616284B (zh) | 彩色深度相机的彩色图像到深度图像的像素级对准方法 | |
CN114245091B (zh) | 投影位置修正方法、投影定位方法及控制装置、机器人 | |
US7598976B2 (en) | Method and apparatus for a multisensor imaging and scene interpretation system to aid the visually impaired | |
AU2017300937A1 (en) | Estimating dimensions for an enclosed space using a multi-directional camera | |
WO2019128109A1 (zh) | 一种基于人脸追踪的动向投影方法、装置及电子设备 | |
US11378693B2 (en) | Floor surveying system | |
KR101819589B1 (ko) | 이동형 프로젝션 기술을 이용한 증강현실 시스템 및 그 운영 방법 | |
CN111220148A (zh) | 移动机器人的定位方法、***、装置及移动机器人 | |
WO2018140656A1 (en) | Capturing and aligning panoramic image and depth data | |
US20180192032A1 (en) | System, Method and Software for Producing Three-Dimensional Images that Appear to Project Forward of or Vertically Above a Display Medium Using a Virtual 3D Model Made from the Simultaneous Localization and Depth-Mapping of the Physical Features of Real Objects | |
Momeni-k et al. | Height estimation from a single camera view | |
JP2903964B2 (ja) | 視覚に基く三次元位置および姿勢の認識方法ならびに視覚に基く三次元位置および姿勢の認識装置 | |
CN112204345A (zh) | 移动设备的室内定位方法、移动设备及控制*** | |
TWI532619B (zh) | Dual Image Obstacle Avoidance Path Planning Navigation Control Method | |
Berenguel-Baeta et al. | Floor extraction and door detection for visually impaired guidance | |
Biber et al. | 3d modeling of indoor environments for a robotic security guard | |
CN109883393A (zh) | 基于双目立体视觉的移动机器人前方坡度预测方法 | |
Fiala et al. | Robot navigation using panoramic landmark tracking |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |