CN112837412B - 三维地图交互方法、装置、机器人及存储介质 - Google Patents

三维地图交互方法、装置、机器人及存储介质 Download PDF

Info

Publication number
CN112837412B
CN112837412B CN201911167481.4A CN201911167481A CN112837412B CN 112837412 B CN112837412 B CN 112837412B CN 201911167481 A CN201911167481 A CN 201911167481A CN 112837412 B CN112837412 B CN 112837412B
Authority
CN
China
Prior art keywords
dimensional
user
environment
display area
map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911167481.4A
Other languages
English (en)
Other versions
CN112837412A (zh
Inventor
周川艳
李婷丹
徐祥
李晓文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ecovacs Robotics Suzhou Co Ltd
Original Assignee
Ecovacs Robotics Suzhou Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ecovacs Robotics Suzhou Co Ltd filed Critical Ecovacs Robotics Suzhou Co Ltd
Priority to CN202310728464.3A priority Critical patent/CN116758233A/zh
Priority to CN201911167481.4A priority patent/CN112837412B/zh
Publication of CN112837412A publication Critical patent/CN112837412A/zh
Application granted granted Critical
Publication of CN112837412B publication Critical patent/CN112837412B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Remote Sensing (AREA)
  • Computer Graphics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本申请提供一种三维地图交互方法、装置、机器人及存储介质。在该方法中,获取所处环境中墙面和门框的三维信息;根据所述三维信息建立基础三维地图;获取所处环境中各个物体的二维信息;根据所述二维信息在所述基础三维地图的对应位置对各个物体进行显示,每一个物体在基础三维地图上以二维显示区域的方式显示;在实体图形选项中选择与某一个二维显示区域对应的至少一个实体图形替换或填充所述某一个二维显示区域,得到所述环境的三维地图。有效减轻机器人建立三维地图的工作量,并增加用户的参与度。用户通过三维地图可以清楚的看到房间的立体布局、通过实体图形表示的物体类型,有助于提升用户的观看地图的体验。

Description

三维地图交互方法、装置、机器人及存储介质
技术领域
本申请机器人技术领域,尤其涉及三维地图交互方法、装置、机器人及存储介质。
背景技术
随着人工智能技术的不断发展,各种智能机器人越来越多地进入人们的生活,比如物流机器人、扫地机器人,迎宾机器人等等。
以扫地机器人为例,扫地机器人利用传感器能够对所在环境进行检测,生成环境内部平面地图,在地图当中还可能包含各种物体标记。扫地机器人可以利用平面地图实现自主工作清扫工作,比如,若扫地机器人接收到用户的清扫指令,或者符合预约的清扫时间的时候,扫地机器人开始清扫工作,通常会按照预设的清扫顺序,对平面地图所对应的所有房间全部进行清扫。
发明内容
本申请的多个方面提供的三维地图交互方法、装置、机器人及存储介质,用以机器人实现建立房间三维地图,并可以根据需要对三维地图进行编辑。
本申请实施例提供一种三维地图交互方法,所述方法包括:
获取所处环境中墙面和门框的三维信息;
根据所述三维信息建立基础三维地图;
获取所处环境中各个物体的二维信息;
根据所述二维信息在所述基础三维地图的对应位置对各个物体进行显示,每一个物体在基础三维地图上以二维显示区域的方式显示;
在实体图形选项中选择与某一个二维显示区域对应的至少一个实体图形替换或填充所述某一个二维显示区域,得到所述环境的三维地图。
本申请实施例提供一种三维地图交互装置,该装置包括:
三维信息获取模块,用于获取所处环境中墙面和门框的三维信息;
三维地图建立模块,用于根据所述三维信息建立基础三维地图;
二维信息获取模块,用于获取所处环境中各个物体的二维信息;
二维显示模块,用于根据所述二维信息在所述基础三维地图的对应位置对各个物体进行显示,每一个物体在基础三维地图上以二维显示区域的方式显示;
地图编辑模块,用于在实体图形选项中选择与某一个二维显示区域对应的至少一个实体图形替换或填充所述某一个二维显示区域,得到所述环境的三维地图。
本申请实施例提供一种存储有计算机程序的计算机可读存储介质,当所述计算机程序被一个或多个处理器执行时,致使所述一个或多个处理器执行包括以下的动作:
获取所处环境中墙面和门框的三维信息;
根据所述三维信息建立基础三维地图;
获取所处环境中各个物体的二维信息;
根据所述二维信息在所述基础三维地图的对应位置对各个物体进行显示,每一个物体在基础三维地图上以二维显示区域的方式显示;
在实体图形选项中选择与某一个二维显示区域对应的至少一个实体图形替换或填充所述某一个二维显示区域,得到所述环境的三维地图。
本申请实施例提供一种机器人,包括:机械本体,所述机械本体上设有一个或多个处理器,以及一个或多个存储计算机程序的存储器,以及传感器;
所述一个或多个处理器,用于执行所述计算机程序,以用于:
获取所处环境中墙面和门框的三维信息;
根据所述三维信息建立基础三维地图;
获取所处环境中各个物体的二维信息;
根据所述二维信息在所述基础三维地图的对应位置对各个物体进行显示,每一个物体在基础三维地图上以二维显示区域的方式显示;
在实体图形选项中选择与某一个二维显示区域对应的至少一个实体图形替换或填充所述某一个二维显示区域,得到所述环境的三维地图。
在本申请的一些实施例中,机器人对其所处环境进行检测,获取环境中各个房间中墙面和门框的三维信息,基于三维信息在地图编辑界面当中显示环境中各个房间对应的三维地图,从而使得用户能够直观的了解到环境布局情况。进而,还可以对环境中的物体进行检测,获取到各个物体的二维信息。根据物体与各个房间的对应关系以及物体的二维信息,通过二维显示区域的形式显示在对应的三维地图当中,从而得到符合实际环境布局的三维地图。在得到三维地图之后,用户在实体图形选项中选择对应的实体图形,来替换或填充该二维显示区域,能够有效减轻机器人建立三维地图的工作量,并增加用户的参与度。用户通过该三维地图可以很清楚的看到房间的立体布局、通过实体图形表示的物体类型、实体图形在房间的相对位置、尺寸,有助于提升用户的观看地图的体验效果。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本申请实施例提供的一种三维地图交互方法的流程示意图;
图2为本申请实施例提供的一种三维房间的效果示意图;
图3为本申请实施例提供的一种三维地图交互界面的示意图;
图4为本申请实施例提供的一种房间命名方法的流程示意图;
图5为本申请实施例提供的一种房间命名过程示意图;
图6为本申请实施例提供的一种房间命名完成的效果示意图;
图7为本申请实施例提供的一种实体图形替换或填充方法的流程示意图;
图8为本申请实施例提供的一种实体图形替换或填充功能界面的示意图;
图9a为本申请实施例提供的一种实体图形替换过程示意图;
图9b为本申请实施例提供的一种实体图形填充过程示意图;
图10为本申请实施例提供的一种物体实体图形调整界面的示意图;
图11a为本申请实施例提供的一种实体图形替换的效果示意图;
图11b为本申请实施例提供的一种实体图形填充的效果示意图;
图12为本申请实施例提供的一种实体图形添加的示意图;
图13为本申请实施例提供的一种编辑后三维地图的示意图;
图14为本申请实施例提供的一种三维地图交互装置的示意图;
图15为本申请实施例提供的一种机器人的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义,“多种”一般包含至少两种,但是不排除包含至少一种的情况。
取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的商品或者***不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种商品或者***所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的商品或者***中还存在另外的相同要素。
以下结合附图,详细说明本申请各实施例提供的技术方案。
在本申请中,自移动机器人除了可以自主行走,执行相应服务功能之外,还可以具有计算、通信、上网等功能。本申请实施例自移动机器人,可以为无人机、无人车等。根据应用场景的不同,自移动机器人的基础服务功能也会有所不同。自移动机器人可以为扫地自移动机器人,跟随自移动机器人,迎宾自移动机器人等。例如,对应用于家庭、办公楼、商场等场景中的扫地自移动机器人而言,其基本服务功能是对所在场景中的地面进行清扫;对应用于家庭、办公楼、商场等场景中的擦玻璃自移动机器人而言,其基本服务功能是对所在场景中玻璃进行清洁;对跟随自移动机器人而言,其基本服务功能是跟随目标对象;对迎宾自移动机器人而言,其基本服务功能是欢迎顾客,并引导顾客到达目的地。
为了提高自移动机器人的自主工作能力,本申请提出了一种三维地图交互方法。如图1为本申请实施例提供的一种三维地图交互方法的流程示意图。该方法包括如下步骤:
101:获取所处环境中墙面和门框的三维信息。
102:根据所述三维信息建立基础三维地图。
103:获取所处环境中各个物体的二维信息。
104:根据所述二维信息在所述基础三维地图的对应位置对各个物体进行显示,每一个物体在基础三维地图上以二维显示区域的方式显示。
105:在实体图形选项中选择与某一个二维显示区域对应的至少一个实体图形替换或填充所述某一个二维显示区域,得到所述环境的三维地图。
在实际应用中,机器人上设置有至少一个飞行时间(Time of flight,TOF)模块(比如可以是TOF摄像头),该TOF模块包括TOF投射器和TOF接收器。机器人在所在当前环境中移动的过程中,通过TOF模块可以采集到一系列轮廓点,将这些轮廓点连接得到轮廓图形。具体来说,TOF模块向周围发射探测信号,该探测信号通常为激光信号,在遇到物体后会反射响应信号,TOF模块接收到响应信号后,会计算激光的飞行时间从而获取深度数据。对得到的所有深度数据进行分析生成对应的三维深度云点图。进而,利用三维深度云点图获取各个像素点的距离信息,再根据这些距离信息对应的距离值的大小,确定由多个像素点组成的房间的墙面和门框。这样,机器人就自动生成三维立体图形。
此外,机器人还需要对各个房间中所包含的物体进行检测,为了减少信息处理复杂度,减轻机器人建立三维地图的工作量,在本申请技术方案中,机器人仅需通过传感器获取各个物体的二维信息,无需获取各个物体的三维信息。这里所说的用于获取物体二维信息的传感器可以是红外传感器、超声波传感器等等。比如,通过红外传感器可以获取到各个物体在房间中的位置,以及各个物体的尺寸、投影形状等二维信息。利用这些基本信息构建二维显示区域,并将该二维显示区域显示在表示对应房间的基础三维地图当中,需要说明的是,这里所说的二维显示区域可以为二维阴影区域或者未填充的二维线框区域等平面区域。该二维显示区域的形状是根据二维信息确定的,是对应物体在三维立体地图上的投影形状。因为在房间中物体的数量多、类型多,如果要机器人自主识别出每个物体、并计算其立体形状,则需要机器人付出较多的工作量,而且识别结果也不一定准确,影响三维地图交互效率和显示效果。通过上述方式,用户能够直观的看到基础三维地图中的房间的大小、布局,可以看到立体的墙面和门框,以及各个房间中包含的用于表示物体的位置、大小和投影形状的二维显示区域。
为了使得用户能够在三维地图中更加直观的看到各个二维显示区域所表示的物体类型、大小等相关信息,可以进一步通过交互的方式将二维显示区域替换或填充为与实际物体类型相同的实体图形。这个实体图形可以是二维图形也可以是三维图形。这些实体图形通常是家用物品。当然,如果该移动机器人应用在办公室,这里所说的实体图形可以是办公用品,比如,办公桌椅、打印机等等;如果是在商场中,实体图形可以是电梯、垃圾桶、餐桌等等公共设施。通过实体图形替换或填充二维显示区域的方案将在下面具体举例说明。
为了便于理解通过上述环境中三维地图的交互过程,下面结合图2进行实例性说明,图2为本申请实施例提供的一种三维房间的效果示意图。在图2所示的界面中包含地图显示区和编辑工具区。在图2中的地图显示区可以看到,机器人所在环境包含多个房间,每个房间都包含墙面201、门框202和房间内部的二维显示区域203。墙面201在图2中通过白色框线表示,门框202通过在墙面201中的矩形框线表示,通过门框202实现将各个房间之间的连通。在各个房间中,对检测到的各个物体通过二维显示区域203表示。二维显示区域203的位置、尺寸和投影形状都是根据实际测量结果展示的,二维显示区域203的大小是根据物体与房间比例关系确定的。通过上述方案,使得用户能够更加真实、直观地看到环境布局。
为了提升显示效果,用户还可以根据需要对三维立体墙面图形和门框图形进行渲染,可以渲染为不同颜色或者不同花色,能满足用户的多样化显示需求,又有利于用户根据颜色对各个房间进行区分。
在构建完成三维立体地图之后,为了便于用户识别地图,以及便于用户更好的通过地图对机器人进行控制,还可以对地图进行进一步地编辑。比如,如
图3为本申请实施例提供的一种三维地图交互界面的示意图,在地图的右上角设置有启用地图编辑功能的地图编辑控件,若用户触发该控件,则执行用户通过地图编辑功能进入地图编辑界面。对地图的编辑,可以分为房间命名功能和二维显示区域替换或填充功能。下面针对上述两种功能分别展开说明。
图4为本申请实施例提供的一种房间命名方法的流程示意图。该方法具体步骤如下:
401:响应于用户对房间命名功能的选择操作,显示包含至少一个房间名称的房间命名选项。
402:响应于用户对某一个房间在房间命名选项中的选择操作,为所述某一个房间关联上房间名称。
在图3中可以看到地图显示区和编辑工具区。在地图显示区中每个房间都对应一个房间命名标签,每个房间命名标签都有其对应的默认名称,如图3中所示房间A、房间B等等。在下方的用于房间命名的编辑工具区中,能够看到包括很多的房间名称,比如:主卧、次卧、厨房、主卫等等。
这里所说的某一个房间可以理解为用户从当前基础三维地图当中选中的一个房间。这里所说的为某一个房间关联上房间名称,通过对编辑工具区中的名称进行选择,实现为某一个房间关联上房间名称;可选地,还可以在某一个房间对应的房间命名标签上写入房间名称。
下面举例说明如何对房间进行命名。图5为本申请实施例提供的一种房间命名过程示意图。当用户点击地图显示区中任意一个房间命名标签后,该标签显示为选中状态(比如,通过高亮或者改变颜色的方式来表示选中状态)。如果用户没有对选中的标签内容进行修改或者替换,而是点击其他房间对应的房间命名标签,则选中状态切换到最新被点击的房间,也就是,最新被点击的房间命名标签变为高亮显示或者改变了显示颜色。如果用户没有对选中的标签内容进行修改或者替换,而是点击地图中除了房间命名标签以外的其他区域,则当前房间对应的房间命名标签的选中状态将被取消。
在房间命名标签处于被选中状态下,如果用户在编辑工具区中,任意点击一个用户想要的房间名称,比如,用户点击了“次卧”这个房间名称,则在地图显示区中的房间命名标签被修改为“次卧”,并且在标签的边框上还显示一个取消按钮,若用户点击该取消按钮,则放弃此次对命名;若用户点击其他房间命名标签或者其他区域,则执行对应的操作,该房间命名标签中的内容将被保存并显示。
假设,用户完成对“次卧”的命名之后,用户又点击了另外一个房间“餐厅”的房间命名标签,则之前的“次卧”命名被保存,同时,新的房间命名标签变为选中状态。为了避免房间名称的命名出现重复,在用户完成对“次卧”房间的命名之后,该房间对应的编辑工具区中的“次卧”变为灰色不可选状态,避免被用户再次选择。
容易理解的是,用户在完成对“餐厅”的命名之后,若用户再次点击该“餐厅”标签,则“餐厅”标签变为选中状态,以便用户对房间名称进行更改,用户可以从编辑工具区选择其他可选的房间名称进行更改,也可以由用户自定义进行更改。若用户自定义的房间名称,与当前地图中已经完成命名的房间名称相同,则禁止用户此次修改,提示用户命名重复,需要用户自定义为其他房间名称。
通过上述方法,用户完成对地图中所有房间命名之后,可以得到图6所示的地图,图6为本申请实施例提供的一种房间命名完成的效果示意图。在图6中清楚的显示了三维墙面和门框构成的房间,以及各个房间的名称,并且房间与名称是一一对应的关系。用户在机器人生成的地图基础上完善房间命名,能够减少机器人自动的工作量。这样得到的地图,既能满足通过基础三维地图对机器人进行调用、控制的需求,又能满足用户对基础三维地图的查看需求。
作为一种可选地实施例,当用户向机器人发送包含房间名称的语音指令之后,将控制机器人移动至该房间名称对应的房间当中。比如,用户打开用于控制该机器人的客户端,用户说“把次卧打扫一下”,则机器人自己移动到次卧,并对地面进行清洁。如果用户家中有多个机器人,用户可以将机器人名称加入到语音指令当中,比如用户说“小A把次卧打扫一下,小B把主卧打扫一下”。通过这种方式,使得用户可以更加简便的对机器人进行更加精准的控制,提升用户交互体验。
假设,图7为本申请实施例提供的一种实体图形替换或填充方法的流程示意图。该方法具体步骤如下:
701:响应于用户触发的图形替换或填充操作,显示包含至少一个实体图形的所述实体图形选项。
702:响应于所述用户对所述某一个二维显示区域的选择操作以及对第一实体图形的选择操作,以所述第一实体图形替换或填充所述某一个二维显示区域。
如图8为本申请实施例提供的一种实体图形替换或填充功能界面的示意图。在图8中可以看到地图显示区和编辑工具区。物体在地图显示区中以二维显示区域的方式显示在对应的房间中,二维显示区域的投影形状是实际检测确定的,二维显示区域相对于对应的房间尺寸大小也是根据实际比例确定的,若将地图放大或缩小,对应的二维显示区域也根据比例关系进行放大或缩小。通过图8可以看到编辑工具区有很多表示物体实体图形的家具家电实体图形,比如,沙发、床、衣柜、餐桌、冰箱等等。在实际应用中,用户还可以根据自己的喜好,通过下载家具家电图形包的方式更新家具家电图形。比如,用户喜欢板式家具,主色调为白色简约风格,则可以直接搜索下载对应的数据包。
下面举例说明如何通过实体图形对二维显示区域进行替换或填充。
图9a为本申请实施例提供的一种实体图形替换过程示意图。当用户点击地图显示区中任意一个二维显示区域后,该二维显示区域显示为选中状态(比如,通过高亮或者改变颜色的方式来表示选中状态),然后用户再点击编辑工具区中的实体图形,则对应的二维显示区域被替换为实体图形。如果用户没有对选中的二维显示区域进行替换,而是点击其他二维显示区域,则选中状态切换到最新被点击的二维显示区域上,也就是,最新被点击的二维显示区域变为高亮显示或者改变了显示颜色。如果用户没有对选中的二维显示区域进行替换,而是点击地图中除了二维显示区域以外的其他区域,则当前二维显示区域的选中状态将被取消。
图9b为本申请实施例提供的一种实体图像填充过程示意图。当用户点击地图显示区中任意一个二维显示区域后(这里的二维显示区域为无填充的线框区域),该二维显示区域显示为选中状态,比如,通过高亮或者填充颜色的方式来表示选中状态。然后用户再点击编辑工具区中的实体图形,则将实体图形填充到对应的二维显示区域中,然后用户可以根据需要调整实体图形的大小、形状,有的还可以修改实体图形的颜色等。为了确保实体图形的填充效果,这里对实体图形的尺寸进行限定,也就是,当一个或者多个实体图形填充到二维显示区域中后,实体图形被放大后的最大尺寸也不能超出二维显示区域的线框范围。如果用户没有对选中的二维显示区域进行填充,或者已经填充完毕,并对尺寸、角度、形状等也完成了调整,然后点击其他二维显示区域,则选中状态切换到最新被点击的二维显示区域,并对此前已完成填充的结果进行保存。如果用户没有对选中的二维显示区域进行填充,而是点击地图中除了二维显示区域以外的其他区域,则当前二维显示区域的选中状态将被取消。
在二维显示区域处于被选中状态下,如果用户在编辑工具区中,任意点击一个家用物品,包括:家具、家电的实体图形,比如,用户点击了“床”的实体图形,则在地图显示区中的二维显示区域被替换或填充为“床”的实体图形。如图10为本申请实施例提供的一种物体的实体图形调整界面的示意图。当实体图形被替换或填充到对应二维显示区域所在位置之后,还可以对实体图像进行尺寸、位置、角度的调整。从图10中可以看到在图形左上角有用于控制实体图形旋转的旋转控件,用户可以根据实际需求对床的摆放方式进行旋转调整;在图形的右上角有取消控件,用户如果不想放置床可以通过触发该控件放弃本次图形替换或填充操作;在图形中的右下角有缩放控件,用户可以根据实际需求对床的大小进行缩放,但是需要说明的是,用户对床的放大是有上限的,床最大尺寸不允许超过被替换或填充的二维显示区域的尺寸。
假设,用户完成对地图中次卧的床的替换或填充操作之后,用户点击了另外一个二维显示区域,比如地图中客厅的沙发对应的二维显示区域,则之前在次卧当中替换或填充的床将被保存,同时,新的二维显示区域变为选中状态。进而,用户在编辑工具区中选择了沙发的物体实体图形,被选中的二维显示区域被替换或填充为沙发。若用户再次点击完成替换或填充的次卧中的床实体图形,则对应的实体图形变为选中状态,可以对实体图形进行缩放、替换或填充、旋转等操作。
为了便于机器人能够准确理解用户指定物体,可以在后台数据中为每个物体的实体图形关联上对应的物体的实体名称。在确定物体实体名称的时候,可以与房间名称进行关联,比如,可以将“主卧”中的床实体名称设定为“主卧床”,将“次卧”中的床实体名称设定为“次卧床”。对于当前房间中仅有一件的物体可以进行简单的命名,比如当前房间中只有一个“餐桌”位于“餐厅”中,则可以为餐桌对应的实体图形关联上实体名称为“餐桌”。这里所说的实体名称的命名方式仅作为举例说明,并不构成对本申请技术方案的限制,需要说明的是,不管采用何种对实体名称的命名方式,同一地图当中,实体图形与实体名称是一一对应的关系。
通过上述方法,用户完成对地图中所有二维显示区域的替换或填充之后,可以得到图11a和图11b所示的地图。其中,图11a为本申请实施例提供的一种实体图形替换的效果示意图。在图11a中清楚的显示了各个房间中的实体图形,并且实体图形与实体名称是一一对应的关系。用户可以很清楚的看到当前三维地图中的所有物体的信息。图11b为本申请实施例提供的一种实体图像填充的效果示意图。在图11b中清楚的显示了各个房间中的实体图形,以及实体图形与二维显示区域之间的填充关系。这里的实体图形与实体名称是一一对应的关系。用户可以很清楚的看到当前三维地图中的所有物体的信息。
作为一种可选地实施例,当用户通过客户端向机器人发送包含某个物体的实体名称的语音指令之后,将控制机器人移动至物体所在位置。比如,用户打开用于控制该机器人的客户端,用户说“把次卧床下打扫一下”,则机器人自己移动到次卧床下,并对地面进行清洁。通过这种方式,不仅可以控制机器人移动都某个房间,还能精准的控制机器人移动到某个房间中某个物体所在位置,使得用户可以更加简便的对机器人进行更加精准的控制,提升用户体验。
在实际应用中,得到的一个整体的二维显示区域可能对应多个家具家电,例如,有的用户在客厅当中,将冰箱与饮水机紧邻放置,在生成的地图中通过一个二维显示区域表示冰箱和饮水机。如图12为本申请实施例提供的一种实体图形添加的示意图,作为一种可选的实施方式,在被替换或填充的二维显示区域对应位置与所述第一实体图形关联地显示添加控件,如图12所示;若所述用户触发所述添加控件,并从实体图形选项中选择一个第二实体图形,则针对所述二维显示区域添加另一个物体的第二实体图形。
如图13为本申请实施例提供的一种编辑后三维地图的示意图。通过上述实施例,对地图中的房间名称进行命名,以及对物体对应的二维显示区域进行替换或填充,可以得到清晰可见的具有三维展示效果的地图,方便用户查看地图,以及根据三维地图对机器人进行控制。
上述实施例中实体图形可以是二维的实体图像,较佳的,也可以采用三维的实体图形。
在本申请技术方案中,通过在机器人生成的三维地图基础上,由根据实际情况对三维地图进行编辑,编辑房间名称和各个房间中物体对应的实体图形,能够有效减轻机器人识别二维显示区域的难度。
图14为本申请实施例提供的一种三维地图交互装置的示意图,该装置包括:
三维信息获取模块141,用于获取所处环境中墙面和门框的三维信息;
三维地图建立模块142,用于根据所述三维信息建立基础三维地图;
二维信息获取模块143,用于获取所处环境中各个物体的二维信息;
二维显示模块144,用于根据所述二维信息在所述基础三维地图的对应位置对各个物体进行显示,每一个物体在基础三维地图上以二维显示区域的方式显示;
地图编辑模块145,用于在实体图形选项中选择与某一个二维显示区域对应的至少一个实体图形替换或填充所述某一个二维显示区域,得到所述环境的三维地图。
可选地,所述实体图形为二维图形或三维图形。
可选地,设施实体图形的大小、方向可以调整。
可选地,所述实体图形为家用物品、办公用品、公共设施。
可选地,所述二维信息包括物体的位置、投影形状、尺寸。
可选地,三维信息获取模块141,用于获取所处环境内部的深度数据;根据所述深度数据,生成三维深度云点图;根据所述三维深度云点图中各点的距离信息,确定所处环境中墙面和门框的三维信息。
可选地,地图编辑模块145,用于响应于用户触发的房间命名操作,显示包含至少一个房间名称的房间命名选项;响应于用户对某一个房间在房间命名选项中的选择操作,为所述某一个房间关联上房间名称。
可选地,地图编辑模块145,用于将所述房间名称置于不可选状态。
可选地,还包括语音控制模块146,用于接收用户触发的第一语音指令,所述第一语音指令中包括所述房间名称;控制所述机器人移动至所述房间名称对应的所述房间中。
可选地,地图编辑模块145,用于响应于用户触发的图像替换或填充操作,显示包含至少一个实体图形的所述实体图形选项;
响应于所述用户对所述某一个二维显示区域的选择操作以及对第一实体图形的选择操作,以所述第一实体图形替换或填充所述某一个二维显示区域。
可选地,地图编辑模块145,用于所述至少一个实体图形各自关联有实体名称。
可选地,语音控制模块146,用于接收用户触发的第二语音指令,所述第二语音指令中包括实体名称;控制所述机器人移动至所述实体名称对应的物体处。
可选地,地图编辑模块145,用于与第一实体图形关联地显示添加控件;响应于所述用户对所述添加控件和所述实体图形选项中第二实体图形的选择操作,与所述第一实体图形关联地显示所述第二实体图形,以使所述第一实体图形和所述第二实体图形将所述二维显示区域替换或填充。
图15为本申请实施例提供的一种机器人的结构示意图。该机器人包括机械本体、一个或多个处理器1501、一个或多个存储计算机程序的存储器1502和传感器1503,其中传感器1503包括部署于机器人上至少一个外置传感器1503以及安装于机械本体上的用于维持自移动设备基础功能的其他传感器。除此之外,自移动设备还可以包括电源组件1504等必要组件。
至少一个外置传感器用于采集各自信号感知范围内的图形信息;
一个或多个处理器1501,用于执行计算机程序,以用于:获取所处环境中墙面和门框的三维信息;根据所述三维信息建立基础三维地图;获取所处环境中各个物体的二维信息;根据所述二维信息在所述基础三维地图的对应位置对各个物体进行显示,每一个物体在基础三维地图上以二维显示区域的方式显示;在实体图形选项中选择与某一个二维显示区域对应的至少一个实体图形替换或填充所述某一个二维显示区域,得到所述环境的三维地图。
可选地,所述实体图形为二维图形或三维图形。
可选地,设施实体图形的大小、方向可以调整。
可选地,所述实体图形为家用物品、办公用品、公共设施。
可选地,所述二维信息包括物体的位置、投影形状、尺寸。
可选地,传感器1503包括飞行时间模块,获取所处环境内部的深度数据;根据所述深度数据,生成三维深度云点图;根据所述三维深度云点图中各点的距离信息,确定所处环境中墙面和门框的三维信息。
可选地,一个或多个处理器1501,用于响应于用户触发的房间命名操作,显示包含至少一个房间名称的房间命名选项;响应于用户对某一个房间在房间命名选项中的选择操作,为所述某一个房间关联上房间名称。
可选地,一个或多个处理器1501,用于将所述房间名称置于不可选状态。
可选地,一个或多个处理器1501,用于接收用户触发的第一语音指令,所述第一语音指令中包括所述房间名称;控制所述机器人移动至所述房间名称对应的所述房间中。
可选地,一个或多个处理器1501,用于响应于用户触发的图像替换或填充操作,显示包含至少一个实体图形的所述实体图形选项;
响应于所述用户对所述某一个二维显示区域的选择操作以及对第一实体图形的选择操作,以所述第一实体图形替换或填充所述某一个二维显示区域。
可选地,一个或多个处理器1501,用于所述至少一个实体图形各自关联有实体名称。
可选地,一个或多个处理器1501,用于接收用户触发的第二语音指令,所述第二语音指令中包括实体名称;控制所述机器人移动至所述实体名称对应的物体处。
可选地,一个或多个处理器1501,用于与第一实体图形关联地显示添加控件;响应于所述用户对所述添加控件和所述实体图形选项中第二实体图形的选择操作,与所述第一实体图形关联地显示所述第二实体图形,以使所述第一实体图形和所述第二实体图形将所述二维显示区域替换或填充。
本申请实施例还提供一种存储有计算机程序的计算机可读存储介质。当计算机可读存储介质存储计算机程序,且计算机程序被一个或多个处理器执行时,致使一个或多个处理器执行相应图1至图13所示方法实施例中的各步骤。
本领域内的技术人员应明白,本发明的实施例可提供为方法、***、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪存储体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (14)

1.一种三维地图交互方法,其特征在于,所述方法包括:
机器人对其所属环境进行检测;
获取所处环境中墙面和门框的三维信息;
根据所述三维信息建立基础三维地图;
获取所处环境中各个物体的二维信息;所述二维信息包括所述物体的位置及投影形状,或位置及尺寸;
根据所述二维信息确定各个物体在所述基础三维地图的对应位置,每一个所述物体在所述基础三维地图上以二维显示区域的方式显示;
响应于用户的操作,在所述二维显示区域显示与所述物体相对应的至少一个实体图形,以得到所述环境的三维地图。
2.根据权利要求1所述的方法,其特征在于,所述实体图形为二维图形或三维图形。
3.根据权利要求1所述的方法,其特征在于,所述实体图形的大小、方向可以调整。
4.根据权利要求1所述的方法,其特征在于,所述实体图形为家用物品、办公用品、公共设施。
5.根据权利要求1所述的方法,其特征在于,所述获取所处环境中墙面和门框的三维信息,包括:
获取所处环境内部的深度数据;
根据所述深度数据,生成三维深度云点图;
根据所述三维深度云点图中各点的距离信息,确定所处环境中墙面和门框的三维信息。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于用户触发的房间命名操作,显示包含至少一个房间名称的房间命名选项;
响应于用户对某一个房间在所述房间命名选项中的选择操作,为所述某一个房间关联上所述房间名称。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
接收用户触发的第一语音指令,所述第一语音指令中包括所述房间名称;
控制所述机器人移动至所述房间名称对应的房间中。
8.根据权利要求1所述的方法,其特征在于,所述响应于用户的操作,在所述二维显示区域显示与所述物体相对应的至少一个实体图形,包括:
响应于用户触发的图形替换或填充操作,显示包含至少一个实体图形的所述实体图形选项;
响应于所述用户对所述某一个二维显示区域的选择操作以及对第一实体图形的选择操作,以所述第一实体图形替换或填充所述某一个二维显示区域。
9.根据权利要求8所述的方法,其特征在于,所述至少一个实体图形各自关联有实体名称。
10.根据权利要求9所述的方法,其特征在于,所述方法还包括:
接收用户触发的第二语音指令,所述第二语音指令中包括所述实体名称;
控制所述机器人移动至所述实体名称对应的物体处。
11.根据权利要求8所述的方法,其特征在于所述方法还包括:
与所述第一实体图形关联地显示添加控件;
响应于所述用户对所述添加控件和所述实体图形选项中第二实体图形的选择操作,与所述第一实体图形关联地显示所述第二实体图形,以使所述第一实体图形和所述第二实体图形对所述二维显示区域进行替换或填充。
12.一种三维地图交互装置,其特征在于,机器人对其所属环境进行检测后,所述装置包括:
三维信息获取模块,用于获取所处环境中墙面和门框的三维信息;
三维地图建立模块,用于根据所述三维信息建立基础三维地图;
二维信息获取模块,用于获取所处环境中各个物体的二维信息;所述二维信息包括所述物体的位置及投影形状,或位置及尺寸;
二维显示模块,用于根据所述二维信息确定各个物体在所述基础三维地图的对应位置,每一个物体在基础三维地图上以二维显示区域的方式显示;
地图编辑模块,用于响应于用户的操作,在所述二维显示区域显示与所述物体相对应的至少一个实体图形,以得到所述环境的三维地图。
13.一种存储有计算机程序的计算机可读存储介质,其特征在于,当所述计算机程序被一个或多个处理器执行时,致使所述一个或多个处理器执行包括以下的动作:
机器人对其所属环境进行检测后,获取所处环境中墙面和门框的三维信息;
根据所述三维信息建立基础三维地图;
获取所处环境中各个物体的二维信息;所述二维信息包括所述物体的位置及投影形状,或位置及尺寸;
根据所述二维信息确定各个物体在所述基础三维地图的对应位置,每一个物体在基础三维地图上以二维显示区域的方式显示;
响应于用户的操作,在所述二维显示区域显示与所述物体相对应的至少一个实体图形,以得到所述环境的三维地图。
14.一种机器人,其特征在于,包括:机械本体,所述机械本体上设有一个或多个处理器,以及一个或多个存储计算机程序的存储器;
所述一个或多个处理器执行所述计算机程序,以用于:
对所述机器人所属环境进行检测,获取所处环境中墙面和门框的三维信息;
根据所述三维信息建立基础三维地图;
获取所处环境中各个物体的二维信息;所述二维信息包括所述物体的位置及投影形状,或位置及尺寸;
根据所述二维信息确定各个物体在所述基础三维地图的对应位置,每一个物体在基础三维地图上以二维显示区域的方式显示;
响应于用户的操作,在所述二维显示区域显示与所述物体相对应的至少一个实体图形,以得到所述环境的三维地图。
CN201911167481.4A 2019-11-25 2019-11-25 三维地图交互方法、装置、机器人及存储介质 Active CN112837412B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202310728464.3A CN116758233A (zh) 2019-11-25 2019-11-25 机器人控制方法、机器人、客户端设备及存储介质
CN201911167481.4A CN112837412B (zh) 2019-11-25 2019-11-25 三维地图交互方法、装置、机器人及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911167481.4A CN112837412B (zh) 2019-11-25 2019-11-25 三维地图交互方法、装置、机器人及存储介质

Related Child Applications (1)

Application Number Title Priority Date Filing Date
CN202310728464.3A Division CN116758233A (zh) 2019-11-25 2019-11-25 机器人控制方法、机器人、客户端设备及存储介质

Publications (2)

Publication Number Publication Date
CN112837412A CN112837412A (zh) 2021-05-25
CN112837412B true CN112837412B (zh) 2023-08-04

Family

ID=75922478

Family Applications (2)

Application Number Title Priority Date Filing Date
CN201911167481.4A Active CN112837412B (zh) 2019-11-25 2019-11-25 三维地图交互方法、装置、机器人及存储介质
CN202310728464.3A Pending CN116758233A (zh) 2019-11-25 2019-11-25 机器人控制方法、机器人、客户端设备及存储介质

Family Applications After (1)

Application Number Title Priority Date Filing Date
CN202310728464.3A Pending CN116758233A (zh) 2019-11-25 2019-11-25 机器人控制方法、机器人、客户端设备及存储介质

Country Status (1)

Country Link
CN (2) CN112837412B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114610820A (zh) * 2021-12-31 2022-06-10 北京石头创新科技有限公司 三维地图显示的优化方法及装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014068832A (ja) * 2012-09-28 2014-04-21 Toshiba Corp 電気掃除機
CN105247575A (zh) * 2013-03-15 2016-01-13 谷歌公司 用于在三维场景上叠加二维地图数据的***和方法
CN106067191A (zh) * 2016-05-25 2016-11-02 深圳市寒武纪智能科技有限公司 一种家用机器人建立语义地图的方法及***
CN106780735A (zh) * 2016-12-29 2017-05-31 深圳先进技术研究院 一种语义地图构建方法、装置及一种机器人
CN107632285A (zh) * 2017-09-19 2018-01-26 北京小米移动软件有限公司 地图创建及修改方法与装置
CN108873912A (zh) * 2018-08-21 2018-11-23 深圳乐动机器人有限公司 地图管理方法、装置、计算机设备和存储介质
CN110211214A (zh) * 2019-05-07 2019-09-06 高新兴科技集团股份有限公司 三维地图的纹理叠加方法、装置和存储介质
CN110415347A (zh) * 2019-07-22 2019-11-05 高新兴科技集团股份有限公司 三维实景地图与二维平面地图融合方法、装置及电子设备

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3237845B1 (en) * 2014-12-22 2022-03-23 Robert Bosch GmbH System and methods for interactive hybrid-dimension map visualization

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014068832A (ja) * 2012-09-28 2014-04-21 Toshiba Corp 電気掃除機
CN105247575A (zh) * 2013-03-15 2016-01-13 谷歌公司 用于在三维场景上叠加二维地图数据的***和方法
CN106067191A (zh) * 2016-05-25 2016-11-02 深圳市寒武纪智能科技有限公司 一种家用机器人建立语义地图的方法及***
CN106780735A (zh) * 2016-12-29 2017-05-31 深圳先进技术研究院 一种语义地图构建方法、装置及一种机器人
CN107632285A (zh) * 2017-09-19 2018-01-26 北京小米移动软件有限公司 地图创建及修改方法与装置
CN108873912A (zh) * 2018-08-21 2018-11-23 深圳乐动机器人有限公司 地图管理方法、装置、计算机设备和存储介质
CN110211214A (zh) * 2019-05-07 2019-09-06 高新兴科技集团股份有限公司 三维地图的纹理叠加方法、装置和存储介质
CN110415347A (zh) * 2019-07-22 2019-11-05 高新兴科技集团股份有限公司 三维实景地图与二维平面地图融合方法、装置及电子设备

Also Published As

Publication number Publication date
CN116758233A (zh) 2023-09-15
CN112837412A (zh) 2021-05-25

Similar Documents

Publication Publication Date Title
US11320834B2 (en) Methods and systems for mapping, localization, navigation and control and mobile robot
AU2018264127B2 (en) Mobile cleaning robot teaming and persistent mapping
CN111542420B (zh) 移动家庭机器人及其控制方法
US9041731B2 (en) Method and a user interaction system for controlling a lighting system, a portable electronic device and a computer program product
RU2708287C1 (ru) Способ и устройство для черчения планировки комнаты
US20230324923A1 (en) Infinity smart serving robot
JP7326449B2 (ja) 移動ロボット用マッピングインターフェース
US20210221001A1 (en) Map-based framework for the integration of robots and smart devices
US11269350B2 (en) Method for creating an environment map for a processing unit
KR20130110907A (ko) 가상 현실과 증강 현실을 이용한 원격 제어 장치 및 방법
CN106323290B (zh) 地图生成***及方法
CN106201448A (zh) 信息处理方法及用户终端
CN112837412B (zh) 三维地图交互方法、装置、机器人及存储介质
KR20180096468A (ko) 지도 생성 시스템 및 방법
US11730328B2 (en) Visual fiducial for behavior control zone
CN112784664A (zh) 语义地图构建与作业方法、自主移动设备及存储介质
CN111986305A (zh) 一种家具的展示方法、装置、电子设备及存储介质
CN105701252A (zh) 一种用于提供客房信息的方法与设备
WO2022020253A1 (en) Contextual and user experience-based robot control
CN114158980A (zh) 作业方法和作业模式配置方法、设备及存储介质
JP7287509B2 (ja) 現在空間及び媒体内の品目情報を表示する方法及び装置
CN111830998B (zh) 作业方法、虚拟墙添加方法、设备及存储介质
CN114521841A (zh) 打扫区域管理方法、***、智能终端、机器人及存储介质
CN114003323A (zh) 信息展示方法、装置、设备及存储介质
US20240127552A1 (en) Augmented reality method and system enabling commands to control real-world devices

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20230614

Address after: No. 518, Songwei Road, Suzhou Creek Industrial Park, Guoxiang Street, Wuzhong District, Suzhou City, Jiangsu Province, 215104

Applicant after: Ecovacs Robotics Co.,Ltd.

Address before: 215168, No. 108 West Lake Road, Suzhou, Jiangsu, Wuzhong District

Applicant before: ECOVACS ROBOTICS Co.,Ltd.

GR01 Patent grant
GR01 Patent grant