CN113796099A - 使用增强现实寻找目标设备 - Google Patents

使用增强现实寻找目标设备 Download PDF

Info

Publication number
CN113796099A
CN113796099A CN202080028758.XA CN202080028758A CN113796099A CN 113796099 A CN113796099 A CN 113796099A CN 202080028758 A CN202080028758 A CN 202080028758A CN 113796099 A CN113796099 A CN 113796099A
Authority
CN
China
Prior art keywords
wireless
target
location
wireless communication
wireless device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080028758.XA
Other languages
English (en)
Inventor
M·N·保林
T·厄坦
B·M·李德薇娜
K·C·布鲁格
A·德里斯科尔
E·T·埃德曼
J·F·弗鲁迪格
S·哈里哈兰
E·拉兰德
M·C·拉斯特
S·洛帕廷
R·W·梅尔
S·G·莫瓦
M·K·波尼亚
T·罗切特
S·B·夏维茨
J·R·勋伯格
C·塞尔
N·D·舒鲁尼斯
Y·L·塞拉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Publication of CN113796099A publication Critical patent/CN113796099A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information
    • H04W4/023Services making use of location information using mutual or relative location information between multiple location based services [LBS] targets or of distance thresholds
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/0209Systems with very large relative bandwidth, i.e. larger than 10 %, e.g. baseband, pulse, carrier-free, ultrawideband
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/74Systems using reradiation of radio waves, e.g. secondary radar systems; Analogous systems
    • G01S13/76Systems using reradiation of radio waves, e.g. secondary radar systems; Analogous systems wherein pulse-type signals are transmitted
    • G01S13/765Systems using reradiation of radio waves, e.g. secondary radar systems; Analogous systems wherein pulse-type signals are transmitted with exchange of information between interrogator and responder
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/0009Transmission of position information to remote stations
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/02Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves
    • G01S5/0284Relative positioning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/44Program or device authentication
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S2205/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S2205/01Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S5/00Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
    • G01S5/02Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using radio waves
    • G01S5/14Determining absolute distances from a plurality of spaced points of known location
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/88Detecting or preventing theft or loss

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Telephone Function (AREA)

Abstract

本文所述的实施方案实现了针对目标无线设备执行的位置查询的接近增强。一个实施方案提供了一种方法,该方法用于:当无线通信设备在该目标无线设备的阈值距离内时,使用一个或多个无线测距操作来确定到该目标无线设备的距离和方向;生成包括该无线设备的目标位置估计的增强现实视图;以及呈现包括该无线设备的该目标位置估计的该增强现实视图。

Description

使用增强现实寻找目标设备
交叉引用
本专利申请要求2019年4月17日提交的美国临时专利申请序列号62/835,494和2019年6月1日提交的美国临时专利申请序列号62/855,963的优先权,这些专利申请中的每个专利申请据此以引用方式并入本文。
技术领域
本文所述的实施方案整体涉及定位无线设备和附件的***和方法。更具体地,实施方案涉及用于实现设备***应用程序的用户体验的接近增强的基础设施。
背景技术
手持式和便携式产品中的当前安全特征物允许在用户请求时识别产品的位置,诸如在产品丢失或被盗的情况下。如果无线设备包括定位技术,则该设备可被配置为向服务器计算机报告其最后的位置,该位置通过服务显示在呈现给用户的地图上。通常,无线设备与无法确定其自身的位置并且无法通过广域网与远程跟踪服务通信的无线附件设备一起使用。这些附件设备可包括例如无线耳塞、双耳式耳机、头戴式耳机以及利用对等通信与无线设备直接通信的其他可穿戴设备(例如,智能手表、健身手环、光学头戴式显示器)。当无法确定其位置且无法与远程跟踪服务进行通信的无线附件设备丢失或被盗时,无法通过服务跟踪那些设备。
发明内容
本文所述的实施方案提供了用于实现针对目标无线设备执行的位置查询的接近增强的***和方法。
一个实施方案提供了非暂态机器可读介质,该非暂态机器可读介质存储指令,该指令使无线通信设备的一个或多个处理器执行操作,该操作包括:当无线通信设备在目标无线设备的阈值距离(range)内时,使用一个或多个无线测距操作确定到目标无线设备的距离和方向;经由从在无线通信设备内的惯性测量单元接收的传感器数据确定该无线通信设备的姿态(pose);基于距离、方向和姿态来确定目标无线设备相对于无线通信设备的目标位置估计;生成包括无线设备的目标位置估计的增强现实视图;以及经由无线通信设备的显示器呈现增强现实视图。
一个实施方案提供了电子设备,该电子设备包括:无线控制器,该无线控制器包括测距传感器和通信无线电设备;显示设备;存储器,该存储器用于存储指令;以及一个或多个处理器,该一个或多个处理器用于执行指令。该指令使一个或多个处理器:经由无线控制器的通信无线电设备扫描信标广告;以及响应于检测到目标无线设备的信标广告,向目标无线设备传输命令以发起与电子设备的双向测距操作。该一个或多个处理器还可:在双向测距操作期间经由无线控制器的测距传感器确定到目标无线设备的距离和方向;基于到目标无线设备的距离和方向来确定目标无线设备相对于电子设备的目标位置估计;生成包括无线设备的目标位置估计的增强现实视图;以及经由显示设备呈现增强现实视图。
一个实施方案提供了方法,该方法包括在包括一个或多个处理器的无线通信设备上:当无线通信设备在目标无线设备的阈值距离内时,使用一个或多个无线测距操作确定到目标无线设备的距离和方向。该方法还包括:经由从在无线通信设备内的惯性测量单元接收的传感器数据来确定该无线通信设备的姿态;基于到目标无线设备的距离和方向来确定目标无线设备相对于无线通信设备的目标位置估计;以及生成包括无线设备的目标位置估计的增强现实视图。该方法还包括经由无线通信设备的显示器呈现增强现实视图。
以上概述不包括本公开的所有实施方案的详尽列表。所有***和方法可根据以上概述的各个方面和实施方案以及以下具体实施方式中所公开的那些的所有合适的组合来实践。
附图说明
本发明以举例的方式进行说明并且不局限于附图的图形,在附图中类似的标号指示类似的元件,并且其中:
图1是根据实施方案的用于移动设备的网络操作环境的框图;
图2示出了根据实施方案的用于定位无法访问广域网的无线附件的***;
图3示出了根据本文所述的实施方案的用于对无线附件进行配对和定位的***;
图4A至图4C是示出与本文所述的设备******一起使用的方法的流程图;
图5是示出根据实施方案的在无线附件处广播信号信标的方法的流程图;
图6A至图6B示出了根据本文所述的实施方案的可由探测器设备执行的方法的操作;
图7示出了根据实施方案的由探测器设备执行的信号和测距数据的采集;
图8示出了根据实施方案的用于定位设备和无线附件的联网***;
图9A至图9C示出了根据实施方案的设备***用户界面;
图10示出了根据实施方案的在尝试与丢失的无线附件进行配对时显示的附件配对用户界面;
图11是示出可用于本发明的一些实施方案中的示例性API架构的框图;
图12是根据实施方案的用于移动或嵌入式设备的设备架构的框图;
图13是根据实施方案的计算***的框图;
图14示出了可实现位置查询应用程序的接近增强的***;
图15A至图15C示出了根据实施方案的具有接近增强的位置查询应用程序用户界面;
图16A至图16E示出了根据实施方案的具有接近增强的附加位置查询应用程序用户界面;
图17示出了根据实施方案的实现位置查询应用程序的接近增强的***架构;
图18示出了根据实施方案的用于实现测距和姿态估计的融合以生成目标物品的目标位置估计的***;
图19示出了用于实现位置查询应用程序的接近增强用户界面的方法;
图20示出了根据实施方案的由目标无线设备执行以发信号通知运动状态的方法的流程图;以及
图21示出了根据实施方案的在移动设备上执行以指示确定设备***UI视图的方法的流程图。
具体实施方式
本文所述的实施方案提供了针对丢失或错置的无法与广域网进行通信的设备启用安全的众包***服务的技术。将参考以下论述的细节来描述各种实施方案和方面,并且附图将对各种实施方案进行说明。以下说明书和附图为例示性的,并且不应被理解为限制性的。描述了许多具体细节,以提供对各个实施方案的全面理解。然而,在某些实例中,熟知的或常规的细节并未被描述,以便提供对实施方案的简明论述。
本说明书中所使用的术语仅仅是为了描述特定实施方案并非旨在对本发明进行限制。如本发明说明书和所附权利要求中所使用的那样,单数形式的“一个”(“a”、“an”)和“该”旨在也涵盖复数形式,除非上下文清楚地另有指示。还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联地列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件,和/或其分组。
在以下讨论中,描述一种包括触敏显示器的计算设备。然而,应当理解,计算设备可包括一个或多个其他物理用户界面设备。可在设备上执行的各种应用程序可使用至少一个共用的物理用户界面设备,诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息从一个应用程序到下一个应用程序可被调节和/或变化,和/或在相应应用程序内可被调节和/或变化。这样,该设备的共用物理架构(诸如触敏表面)可利用直观且透明的用户界面来支持各种应用程序。
下面就一些顺序操作描述了一些过程。然而,应当理解,所述操作中的一些操作可以不同的顺序来执行。此外,某些操作也可并行执行而非按顺序执行。
图1是根据实施方案的用于移动设备的网络操作环境100的框图;网络操作环境100包括多个移动设备,诸如移动设备102A和移动设备102B。移动设备102A至102B可各自为能够与无线网络和一个或多个无线附件设备进行通信的任何电子设备。一些示例性移动设备包括但不限于智能电话、平板电脑、笔记本计算机、可穿戴计算机(例如,智能手表或其他可穿戴计算附件)、移动媒体播放器、个人数字助理和其他类似的设备。移动设备102A和移动设备102B中的每一者包括用户界面,诸如移动设备102B的用户界面104。移动设备102A和移动设备102B可通过一个或多个有线和/或无线网络110进行通信以执行数据通信。例如,无线网络112(例如,蜂窝网络、Wi-Fi网络)可通过使用网关116与广域网114(诸如互联网)进行通信。同样地,接入设备118,诸如移动热点无线接入设备,可提供对广域网114的通信接入。然后,网关116和接入设备118可通过有线网络和/或无线网络的组合来与广域网114进行通信。
在一些具体实施中,语音通信和数据通信均可通过无线网络112和/或接入设备118来建立。例如,移动设备102A可通过无线网络112、网关116和广域网114(例如,使用TCP/IP或UDP)拨打和接收电话呼叫(例如,使用VoIP协议),发送和接收电子邮件消息(例如,使用POP3协议),以及检索电子文档和/或流,诸如网页、照片和视频。在一些具体实施中,移动设备102A可通过接入设备118和广域网114来拨打和接收电话呼叫、发送和接收电子邮件消息以及检索电子文档。在一些具体实施中,移动设备102A或移动设备102B可使用一条或多条电缆物理地连接到接入设备118,例如,其中接入设备118为个人计算机。在该配置中,移动设备102A或移动设备102B可称为“系留”设备。在一个实施方案中,移动设备102A可经由无线对等连接120与移动设备102B进行通信。无线对等连接120可用于在设备之间同步数据。
移动设备102A或移动设备102B可与提供或实现一个或多个服务的服务提供方115进行通信。示例***包括通过一个或多个有线和/或无线网络110进行的电话服务130、即时消息服务140、媒体服务150、存储服务160和设备***服务170。例如,电话服务130可实现移动设备102A和移动设备102B之间或者移动设备和有线电话设备之间的电话通信。电话服务130可通过广域网114路由基于IP的语音(VoIP)呼叫,或者可访问蜂窝语音网络(例如,无线网络112)。即时消息服务140可例如提供电子邮件和/或其他即时消息服务。媒体服务150可例如提供对媒体文件的访问,诸如歌曲文件、有声读物、电影文件、视频剪辑和其他媒体数据。存储服务160可向移动设备102A和移动设备102B提供网络存储能力以存储文档和媒体文件。设备***服务170可使用户能够定位至少在某个点处连接到一个或多个有线和/或无线网络110的丢失或错置的设备。例如,移动设备102A可执行对移动设备102B的位置查询。设备***服务170还可经由使用探测器设备的网络实现对不具有网络连接的设备的位置查询,如以下在图2至图3中所示。还可提供其他服务,包括用于更新移动设备上的操作***软件或客户端软件的软件更新服务。在一个实施方案中,消息递送服务140、媒体服务150、存储服务160和设备***服务170可各自与云服务提供方相关联,其中经由与移动设备102A至102B相关联的云服务账户来促进各种服务。
图2示出了根据实施方案的用于定位无法访问广域网的无线附件201的***200。***200还可用于定位不能访问WAN或LAN并且因此不能传输设备位置的设备。在一个实施方案中,无线附件201包括一个或多个无线收发器,并且可通过无线网络或对等通信链路直接或间接(例如,通过另一设备或计算机)地与伴随设备(例如,移动设备102)进行通信。无线附件设备的一些示例包括但不限于无线耳塞、双耳式耳机、头戴式耳机以及其他可穿戴设备(例如,智能手表、健身手环、光学头戴式显示器)。无线附件201还可包括其他无线设备,诸如游戏控制器或遥控器。在一个实施方案中,无线附件201还包括至少暂时不能访问广域网诸如互联网(例如,如图1所示的广域网114)的智能电话、平板计算机、膝上型计算机、智能扬声器设备、电视机或电视机机顶盒。无线附件也可以是任何其他无线设备,包括可附接到其他设备以允许跟踪或定位那些设备的信标或***标签。在一个实施方案中,无线附件201可利用无线技术标准(诸如但不限于蓝牙)与移动设备102进行配对。无线附件201还可通过无线技术诸如Wi-Fi直接连接、Zigbee或类似的技术与移动设备102进行通信。尽管无线附件201与之配对的伴随设备通常被称为移动设备102,但伴随设备不限于移动设备。在一些实施方案中,配套设备还可包括膝上型电脑或台式设备,并且还可包括一些可穿戴附件,诸如但不限于智能手表设备或可穿戴显示器。
在一个实施方案中,无线附件201可周期性地传输无线信标信号。无线附件201可使用本文所述的多种无线技术(例如,蓝牙、Wi-Fi等)中的一者来传输信标信号,并且在一个实施方案中,还可使用超宽带(UWB)无线电技术来发送信标。可利用单个无线技术、多个可选无线技术中的一者、或多个同时发生的无线技术来传输信标信号。信标信号可传输信标标识符,该信标标识符包括专门识别无线附件201的信息。在一个实施方案中,信标标识符是与设备相关联的公共加密密钥。
信标信号还可传达关于无线附件201的信息,诸如信标类型、设备分类、电池电量。在一个实施方案中,信标信号还可传达设备状态,诸如丢失状态、警报状态或近所有者状态。信标信号还可包括指定电池寿命、充电状态和/或其他状态信息的信息。丢失状态可指示无线附件201已确定其自身已丢失或已被设备的所有者置于丢失状态下。警报状态可指示无线附件201置于如果设备从当前位置移动则设备应当触发警报的状态下。近所有者状态可指示无线附件201已检测到与附件的所有者相关联的移动设备102存在于附近。
信标信号可由本地靠近无线附件201的探测器设备202来检测。探测器设备202可以是与移动设备102类似的设备,并且可通过广域网114接收和传输数据,并且接收和传输是使用与无线附件201类似的无线技术(例如,蓝牙等)进行的。具体地讲,探测器设备202可使用无线协议来接收数据,信标信号通过该无线协议传输。探测器设备202可使用一个或多个位置和/或定位服务来确定位置,所述位置和/或定位服务包括但不限于卫星定位服务206或使用从无线基站205诸如Wi-Fi接入点或蜂窝电话网络的蜂窝塔发射器接收的RF信号的地面定位***。在一个实施方案中,探测器设备202周期性地存储基于一个或多个位置和/或定位服务确定的其位置。所存储的位置可与针对其确定该位置的时间戳相关联。当探测器设备202从无线附件201接收到信标信号时,探测器设备202可通过广域网114将该探测器设备的位置传输到设备***服务器203。用于确定的探测器设备202的位置的时间戳可与接收到信标信号以将地理位置与接收到的信标信号相关联的时间戳相关联。
在无线附件201在信标信号内提供公钥的情况下,探测器设备202可将所确定的位置数据加密并且通过广域网114将加密位置数据传输到设备***服务器203。在一个实施方案中,附加数据可被加密并且与位置数据一起传输,或在不加密的情况下传输到设备***服务器203。例如,信标信号的接收信号强度指示(RSSI)可与位置数据一起传输。然后,RSSI数据可用于确定无线附件201距探测器设备202的距离,并且有助于在所有者设备上的三角测量。在RSSI数据以未加密状态传输的情况下,在一个实施方案中,如果存在其他更强的信号,则服务器可使用RSSI信息以通过丢弃非常弱的信号来降低噪声。在一个实施方案中,还可提供UWB测距数据,其中此类数据是可用的。
在一个实施方案中,探测器设备202可根据由无线附件201传达的设备状态来在从无线附件201接收到信标信号时不同地表现。对于标准信标信号,探测器设备202可将加密位置数据置于队列中并且在周期性传输窗口期间向设备***服务器203传输位置数据。然而,如果无线附件201正指示警报状态,则探测器设备202可立即将位置数据传输到设备***服务器203。另外,如果无线附件201的信标信号指示附件靠近附件的所有者,则探测器设备202可不将位置数据传输到设备***服务器203。另选地,探测器设备202可延迟加密位置数据的传输。
如果无线附件201的所有者希望定位无线附件,则所有者可访问移动设备102上的设备***用户界面204。设备***用户界面204可与设备***应用程序相关联,该设备***应用程序用于定位向用户的在线账户(诸如云服务账户或另一类型的在线账户)注册的电子设备和附件。设备所有者可使用设备***UI 204来向设备***服务器203查询可能已由无线附件201的探测器设备202传输到设备***服务器的位置数据。在一个实施方案中,移动设备102可将与无线附件201相关联的公共加密密钥传输到设备***服务器203。然后,设备***服务器203可返回与公共加密密钥对应的任何存储的位置数据。返回到移动设备102的位置数据可以是由探测器设备202使用公共加密密钥进行加密的加密数据。移动设备102可使用相关联的私钥来将加密位置数据解密。然后,由移动设备102处理经解密的位置数据以确定无线附件201的最可能位置。在各种实施方案中,无线附件201的最可能位置可通过来自多个接收位置的三角测量并且使用其他数据(诸如与每个位置和时间戳相关联的信标信号RSSI或包括在该位置数据内的UWB测距数据)来确定。
图3示出了根据本文所述的实施方案的用于对无线附件进行配对和定位的***300。在一个实施方案中,无线附件201的用户的移动设备102可呈现附件配对UI 302,用户可通过该附件配对UI使移动设备102与无线附件201配对。在移动设备102和无线附件之间的初始配对(305)期间,可在移动设备和无线附件之间执行公钥交换(310)。在一个实施方案中,在公钥交换(310)期间,移动设备102和无线附件201交换由设备和附件生成的公钥对中的公钥。在一个实施方案中,公钥交换(310)是单向传送,其中移动设备102将公钥/私钥对中的公钥传输到无线附件201。除此之外或另选地,公钥交换(310)可以是迪菲-赫尔曼密钥交换,其中设备和附件在两方之间建立共享秘密。在一个实施方案中,公钥交换(310)另外使用椭圆曲线密码学来建立共享秘密。例如,椭圆曲线迪菲-赫尔曼(ECDH)可用于实现公钥对以及一个或多个共享秘密的建立。在一个实施方案中,一个或多个共享秘密包括防跟踪秘密,该防跟踪秘密可由无线附件201使用以周期性地导出附加公钥。在一个实施方案中,无线附件可广告临时身份并且随后使用基于身份的加密,而不是使用具有所广播的公钥的公钥密码。通过基于身份的加密,公钥是或来源于关于用户的身份的信息的某种唯一元素,诸如电子邮件地址。要将加密信息解密的实体可从可信中央管理机构获得解密密钥。
在无线附件201已与移动设备102配对之后,无线附件201可周期性地广播包括设备状态信息和信标标识符的信标信号301。在一个实施方案中,信标标识符是来源于在公钥交换(310)期间建立的共享秘密的公钥。另外,无线附件201可周期性地执行公钥派生(315)以生成新的公钥并开始作为信标标识符广播新的公钥。公钥是K字节密钥,其中,每M分钟生成一个新的K字节密钥。值K和M在各实施方案之间可以是变化的。在一个实施方案中,使用28字节的K值。在一个实施方案中,使用27字节的K值。值K可至少部分地基于与用于传输信标信号301的无线协议相关联的信标长度来确定。在一个实施方案中,信标信号可传输与低功耗无线电协议(诸如蓝牙低功耗)相关联的信标广告包的变体。
在一个实施方案中,值M为15分钟,使得每15分钟生成新的K字节密钥。可基于在公钥交换310期间生成的时间戳和防跟踪秘密来确定性地导出公钥。公钥导出(315)过程使无线附件201能够随时间而使用不同密钥,从而防止特定密钥与特定设备有长期关联。可基于仅移动设备102和无线附件201已知的防跟踪秘密来导出密钥,从而允许移动设备102并且仅允许移动设备确定无线附件201在任何给定时间戳处将广播哪个公钥。防跟踪秘密可与ECDH公钥一起生成并传送到无线附件201。然后,防跟踪秘密可用于使无线附件201能够生成公钥序列。在一个实施方案中,公钥序列Pi=λi·P,其定义标量或指数值λi与组元素之间的组操作,例如,椭圆曲线点P。标量或指数值λ=KDF(AT,i),其中KDF是秘钥导出函数,AT是防跟踪秘密,i是计数器或时间戳。
在一个实施方案中,可在无线附件201受损的情况下启用反向跟踪抵抗以保护防跟踪秘密。当启用反向跟踪抵抗时,将防跟踪秘密传输到无线附件201,但无线附件不保留该防跟踪秘密。相反,附件计算值λi+1=H(λi||时间),其中λ0=AT,并且H为密码散列函数。然后,无线附件201在给定时间段i内存储λi。如果无线附件201受损,则仅暴露当前和未来值i的λi,而不暴露防跟踪秘密AT。在一个实施方案中,反向跟踪抵抗通过周期性地将λi写入到无线附件201的非易失性存储器来执行。
在一个实施方案中,无线附件201可每隔两秒传输信标信号301,但是可使用其他信标速率,并且该信标速率在某些情况下可变化。例如,当处于近所有者状态下时,无线附件201可降低信标速率。信标速率也可基于加速度计触发的事件而变化。例如,当处于警报状态下时,无线附件201可增大信标速率,这可由无线附件201上的加速度计触发。
如果在传输信标信号301之后,无线附件201接收到来自与附件的用户相关联的移动设备102的回复,该回复指示移动设备102在无线附件的距离范围(range)内,则无线附件201可进入近所有者状态。另外,当无线附件处于近所有者状态下时,信标信号301所传输的数据的量可减小。在一个实施方案中,在无线附件在近所有者状态下时,生成新公钥的速率也可减小。
无线附件201可在从移动设备102接收到指示无线附件201应当进入警报状态的消息时进入警报状态。当在警报状态下时,无线附件可初始进入其中无线附件201可减少或停止传输***信标信号的警备状态,但是其他类型的无线信令可持续存在。无线附件201可保持在该警备状态下,直到移动设备102停用该状态或警报被触发。在一个实施方案中,警报可以在例如经由无线附件201内的加速度计检测到移动时被触发。在一个实施方案中,警报还可在检测到无线附件已经移出移动设备的距离范围并且不再处于近所有者状态时触发。当警报被触发时,信标信号301的速率可增大以增大可定位无线附件201的速度。
由无线附件201传输的信标信号301可由一组探测器设备303来检测,这组探测器设备是可接收由无线附件传输的信标信号并经由广域网114向设备***服务器203传输与信标信号301相关联的位置和其他数据的其他电子设备。在一个实施方案中,这组探测器设备303包括移动设备102的变体,或者可为其他类型的电子设备。这组探测器设备303可包括图2的探测器设备202的变体,并且可确定类似的位置确定技术。例如,这组探测器设备可执行操作(320)以将从无线附件201接收到的信标信号301与和探测器设备相关联的设备位置相关联。如关于图2所述,设备位置可经由卫星定位服务或使用从无线基站(例如,Wi-Fi接入点或蜂窝塔发射器)接收的RF信号的地面定位***来确定。在一个实施方案中,该组探测器设备303还可包括可接收信标信号301的固定设备,诸如智能扬声器设备、电视机或电视机机顶盒。
该组探测器设备303可用接收在信标信号301内的信标标识符(例如,公钥)加密位置数据并且将位置数据(325)发送到设备***服务器203。由该组探测器设备303发送的数据以匿名方式发送,并且探测器设备的识别信息不与探测器设备发送的数据一起储存。
设备***服务器203可将加密位置数据存储在数据存储库304中,在一个实施方案中,该数据存储库可以是具有多个节点的分布式数据库。附件的信标标识符/公钥的散列可与加密位置数据一起发送。加密位置数据可基于信标标识符的散列来存储到数据库节点。加密位置数据可由设备***服务器203使用信标标识符的散列来索引,这防止了将完整信标标识符存储到服务器。其他信息也可与位置数据一起以加密或未加密状态发送和存储。其他信息可包括信标信号301何时被接收的时间戳、所接收到的信标的RSSI信息和/或例如经由UWB测距确定的测距信息。
当无线附件201的用户或所有者希望定位附件时,用户或所有者可访问移动设备102上的设备***UI 204。设备***UI 204可与移动设备102的设备***应用程序或特征相关联。设备***UI 204还可具有可从移动设备102或另一类型的电子设备(诸如膝上型电脑或台式设备)访问的基于web的界面。在加载设备***UI 204时,移动设备102可向设备***服务器203发送用于位置数据的请求(330)。请求330可包括一组公钥散列,该组公钥散列可用于定位设备的加密位置数据。移动设备102可基于由移动设备102和无线附件201持有的秘密信息以及移动设备102希望接收位置数据的时间戳来生成该组公钥散列。在一个实施方案中,该组公钥散列是基于防跟踪秘密生成的公钥序列Pi。公钥序列Pi与匹配的私钥序列di相对应。移动设备102可生成公钥序列以及对应的公钥序列di,其中i为计数器或时间戳。在一个实施方案中,移动设备102可在请求330内生成并发送先前24小时的公钥。如果未发现24小时公钥的数据,则移动设备102可在较早的时间段内发送生成的密钥,返回到预先确定的位置数据保留限制。
在一个实施方案中,可将无线附件201置于光丢失模式下。在光丢失模式下,可为无线附件生成一组未来公钥并将其传输到设备***服务器203。然后,如果接收到与这组未来公钥中的密钥对应的任何位置数据,则设备***服务器203可通知移动设备102。在一个实施方案中,发送处于光丢失模式下的无线附件的位置的探测器设备可由设备***服务器203引导以将消息中继给无线附件201,该消息通知无线附件其处于光丢失模式下。类似的机构也可用于将消息中继给使附件置于显式丢失模式下的无线附件201。用户可经由设备***UI 204启用显式丢失模式。在显式丢失模式下,无线附件201无法与另一个设备配对,除非其被所有者解锁。
图4A至图4C是示出与本文所述的设备******一起使用的方法的流程图。图4A示出了用于将移动设备与无线附件配对的方法400。图4B示出了经由设备***服务器来确定无线附件的位置的方法410。图4C示出了经由设备***服务器来确定无线附件的位置的附加方法420。方法400、410和420的各方面同样在图2和图3中示出,如上所述。例如,以下操作的描述涉及移动设备102、无线附件201和设备***服务器203。
如图4A所示,方法400包括执行与无线附件的初始配对的操作(框401)。初始配对可以是蓝牙配对或利用其他无线电技术进行的另一种类型的配对。在初始配对期间,移动设备和无线附件可交换使得能够在移动设备或另一电子设备与无线附件之间执行无线数据交换的标识符、密钥或其他凭据。在一个实施方案中,与无线附件的初始配对可包括与针对其执行配对的无线协议相关联的凭据的交换,从而允许无线地交换的所有数据均至少具有第一加密层。
然后,移动设备可生成公钥/私钥对以及一个或多个附加共享秘密(框402)。设备然后可将公钥以及一个或多个附加共享秘密发送到无线附件(框403)。可使用多种密钥生成技术。在一个实施方案中,ECDH的变体用于生成用于加密的公钥对。在一个实施方案中,一个或多个附加共享秘密可包括防跟踪秘密,该防跟踪秘密使得无线附件能够基于现有的公钥来导出新的公钥。
在生成公钥/私钥对以及一个或多个附加共享秘密之后,移动设备可将公钥/私钥对存储到密钥库(框404)。在一个实施方案中,密钥库是基于云的密钥库,其可和与移动设备和无线附件关联到的同一云服务账户或一系列云服务账户相关联的其他设备同步。基于云的密钥库允许无线附件可被其他同步设备定位。移动设备然后可向设备管理服务器注册无线附件(框405)。向设备管理服务器注册无线附件可在无线附件和移动设备关联到的云服务账户之间形成关联。设备管理服务器可与其他基于云的服务器(诸如图2和图3的设备***服务器203)相关联,该其他基于云的服务器用于促进移动设备可访问的基于云的服务。
如图4B所示,方法410包括电子设备启动设备***UI的操作(框411)。响应于启动设备***UI,可为如本文所述的移动设备的电子设备或与和移动电子设备相同的云服务账户相关联的另一个电子设备可执行操作以生成被包括在由无线附件在第一时段期间广播的信标信号内的一组公钥(框412)。第一时间段可为例如先前的24小时。电子设备知道无线附件生成或旋转到新公钥的频率,并且使用用无线附件生成的共享秘密,可生成与由无线附件在第一时段内生成的密钥相对应的一组公钥。然后,电子设备可在对设备***服务器的请求内发送该组公钥以发送与该组公钥相对应的位置数据(框413)。在一个实施方案中,由服务器响应于请求而发送的位置数据将使用作为无线附件的信标标识符传输的公钥来加密。电子设备可使用在与无线附件的初始配对期间生成的私钥来将由服务器接收的加密位置数据解密(框414)。然后,电子设备可处理位置数据以确定无线附件的最高概率位置(框415)。
处理位置数据可包括多种不同的操作。在一个实施方案中,位置数据包括纬度和经度信息以及确定该位置的时间戳。电子设备可基于时间戳来进行三角测量并且去除噪声或异常位置。在一个实施方案中,位置数据指定检测到信标的探测器设备的位置。位置数据还可包括由探测器设备检测到的信标的UWB测距信息和/或RSSI信息。电子设备可在设备位置的上下文中分析UWB测距信息和/或RSSI信息,以得到无线附件的更准确的位置。可由探测器设备传输并且用于位置处理的数据在图10中示出并且在下文描述。
如图4C所示,方法420包括可在设备***服务器不具有要响应于请求而向电子设备提供的位置数据的情况下执行的操作。电子设备可以生成包括在由无线附件在第一时间段期间广播的信标信号内的第一组公钥(框421)。第一时间段可以是例如24小时,但是可以使用其他初始搜索时间段。电子设备可以执行后续操作以请求设备***服务器发送与第一组公钥对应的位置数据(框422)。如果该数据由服务器返回(框423,“是”),则电子设备可以使用与这组公钥对应的私钥来解密从服务器接收的位置数据(框429)。
如果服务器未返回数据(框423,“否”),则电子设备可以生成包括在由无线附件在第二时间段期间广播的信标信号内的第二组公钥(框424)。第二时间段可以是第一时间段之前的24、48或其他小时数。然后,电子设备可以请求设备***服务器发送与第二组公钥对应的数据(框425)。如果响应于该请求,服务器返回数据(框426,“是”),则方法420可以前进到框429,其中电子设备解密接收的数据。如果服务器未返回数据(框426,“否”),或者服务器发送指示数据不可用的回复,则方法420包括:电子设备可以通过连续请求更早的时间段直到达到最大时间段,来加宽搜索时间(框427)。
图5是示出根据实施方案的在无线附件处广播信号信标的方法500的流程图。方法500的方面也在图2和图3中示出。方法500包括无线附件导出公钥(框502)。可以基于共享秘密和基于无线附件的时钟或计时设备确定的时间戳来导出公钥。然后,无线附件可以第一传输间隔传输信标信号,其中信标信号包括公钥(框503)。第一传输间隔可以是变化的,并且在一个实施方案中为每隔两秒一个信标。
在传输信标信号之后,无线附件可监听来自所有者设备的响应。如果无线信号接收到来自所有者设备的响应(框504,“是”),则无线附件可进入近所有者状态(框505),并且开始以第二更慢传输间隔传输信标信号(框507)。如果无线附件没有从所有者设备接收到响应(框504,“否”),则无线附件可继续以第一传输间隔发送信标(框506)。
方法500还包括在发送信标时,无线设备每M分钟旋转公钥一次,其中M的值在实施方案间和/或基于设备状态可以是变化的。基于计时器到期、计数器或其他机制,无线附件可以确定附件是否已进入新的密钥时间段(框508)。虽然无线附件尚未进入新的密钥时间段(框508,“否”),但附件可以使用当前公钥继续发送信标(框510)。当无线附件检测到它已进入新的密钥时间段时(框508,“是”),附件可使用当前时间戳导出新的公钥(框509)。在一个实施方案中,可以使用现有公钥、时间戳和反跟踪秘密来导出新公钥。
图6A至图6B示出了根据本文所述的实施方案的可由探测器设备执行的方法600的操作。方法600的方面也在图2和图3中示出。
如图6A所示,方法600包括当探测器设备的应用处理器处于低功率模式时,探测器设备使用无线基带处理器执行周期性信标扫描(框601)。虽然也可以在应用处理器处于活动状态时执行信标扫描,但是当探测器设备空闲、不活动或其他方式处于低功率状态时,信标扫描可以由无线处理器和无线电设备接收器作为低功率操作来执行。探测器设备可以将时间戳和信标标识符存储到信标扫描缓冲器,以用于由探测器设备接收的任何信标数据(框602)。在一个实施方案中,信标标识符是由无线设备基于时间戳和利用所有者的移动设备生成的共享秘密生成的公钥。
方法600还包括在应用处理器在低功率模式下时,探测器设备使用无线处理器执行周期性Wi-Fi扫描(框603)。虽然也可以在应用处理器处于活动状态时执行Wi-Fi扫描,但是当探测器设备空闲、不活动或其他方式处于低功率状态时,Wi-Fi扫描可以由无线处理器和无线电设备接收器作为低功率操作来执行。然后,探测器设备可以将Wi-Fi服务集标识符(SSID)和扫描时间戳存储到探测器设备上的Wi-Fi扫描缓冲器(框604)。
在一个实施方案中,Wi-Fi扫描缓冲器是滚动缓冲器,其存储最近检测到的SSID,同时覆盖较早检测到的SSID。在一个实施方案中,信标扫描缓冲器可以是具有用于预先确定的数量的条目的空间的固定大小缓冲器。当信标扫描缓冲器变满时,探测器设备可以唤醒应用处理器(框605),并将那些信标扫描与Wi-Fi扫描缓冲器中最近检测到的SSID相关联。该相关性可使探测器设备能够基于Wi-Fi扫描缓冲器数据来确定与所接收到的信标相对应的一组设备位置(框606)。
方法600在图6B中继续,并且包括:如果其他位置数据可用,则探测器设备将来自Wi-Fi扫描缓冲器数据的设备位置与其他位置数据相关联(框607),以生成细化的设备位置。如果生成了细化的设备位置,则探测器设备可以可选地将信标数据与细化的设备位置组合(框608)。探测器设备还可以将信号强度(RSSI)或测距数据添加到位置数据(框609)。当探测器设备接收到信标信号时,可以收集信号强度和测距数据(例如,UWB测距数据)。然后,探测器设备可用接收在信标数据内的一个或多个公钥将位置数据加密(框610)。信号和测距数据可与位置数据一起加密,或者可与加密位置数据一起未加密地发送。探测器设备可使加密位置数据入队以传输到设备***服务器(框611)。设备***服务器可以是多个云服务服务器之一,通常以批量和节流的方式进行通信。可收集一批加密数据并且将其放置在传输队列中,直到到达传输间隔,在该传输间隔期间,探测器设备可将数据传输到云服务服务器(框612)。加密数据可和与加密位置相对应的信标标识符的散列一起发送,并且服务器将存储由信标标识符的散列索引的加密位置。
图7示出了根据实施方案的由探测器设备执行的信号和测距数据的采集。在一个实施方案中,探测器设备202可以针对跨多个位置702A至702N从无线附件201接收的信标信号301来收集信号强度信息(例如,RSSI 704A至704N)。探测器设备202还可表示多个探测器设备,诸如图3中的一组探测器设备303,其中每个探测器设备在不同位置处检测信标信号。每个探测器设备202可以发送不同的位置和信号强度,并且从多个探测器设备接收的位置和信号强度数据将由设备***服务器聚合。在一个实施方案中,在探测器设备和无线设备各自包括UWB无线电设备的情况下,如果探测器设备和无线设备在UWB传输的距离范围内,则可执行UWB测距706。UWB测距和信号强度数据可与探测器设备的位置数据一起被传输到设备***服务器。
所有者设备可从设备***服务器检索RSSI或UWB信息以及位置数据,在一个实施方案中,该位置数据以纬度和经度信息以及确定该位置的时间戳的形式提供。然后,所有者设备可使用位置数据、时间戳和信号信息来对无线附件201的最可能位置进行三角测量。
图8示出了根据实施方案的用于定位设备和无线附件的联网***800。根据一个实施方案,***800还示出了用于设备***服务器203的示例***器架构。在一个实施方案中,设备***服务器203是互连的服务器设备的集群,其可以是单个数据中心内的物理或虚拟服务器,或者跨多个数据中心和/或地理位置分布。如上所述,设备***服务器203可以通过广域网114与附件所有者或用户的移动设备102和这组探测器设备303通信。移动设备102包括由本地或web应用程序提供的UI,该UI实现无线附件的定位,并且探测器设备303从无线附件接收信标信号并且将与所接收到的信号相关联的位置数据传输到设备***服务器203。
在一个实施方案中,设备***服务器203包括***服务前端803、账户数据库825、数据库集群管理器813和一组数据库集群节点823A至823C。定位服务前端803是移动设备102和这组探测器设备303可以与之通信的前端接口。账户数据库825存储移动设备102和探测器设备303所关联的云服务提供商的账户的账户配置文件数据。数据库集群管理器813可以将数据库集群节点823A至823C配置为分布式位置数据库,该分布式位置数据库可以存储与由这组探测器设备303接收的信号信标的信标标识符相关联的位置、信号和测距数据。
在一个实施方案中,账户数据库825可以包含与每个云服务账户相关联的设备的列表。响应于定位给定设备(包括如本文所述的无线附件)的请求,账户数据库825可以验证该请求来自被授权请求给定设备的位置的设备。在一个实施方案中,当用户启动设备***UI并与***服务前端803通信时,***服务前端可以与账户数据库825通信并为与请求的用户相关联的每个设备提供当前或最后的已知位置,所述设备包括与请求的用户相关联的账户系列中的其他用户所关联的设备和/或无线附件。
在一个实施方案中,数据库集群管理器813可以基于与一组位置数据相关联的信标ID的散列来选择要存储信标数据的数据库集群节点823A至823C。每个数据库集群节点823A至823C可以与一系列散列值相关联。然后,数据库集群管理器可以将位置数据存储到对应于与给定信标ID的散列相关联的散列值距离的集群节点,其中位置数据是基于信标ID的散列索引的。尽管示出了三个数据库集群节点,但是实施方案不限于任何特定数量的节点,并且可以使用更多或更少的节点。
图9A至图9C示出了根据实施方案的设备***UI 204。图9A示出了根据一个实施方案的设备***UI 204的第一图形用户界面,其示出了用户的各种电子设备和无线附件的位置。图9B示出了根据一个实施方案的设备***UI 204的第二图形用户界面,其使得无线附件能够被设置为警报模式。图9C示出了根据一个实施方案的设备***UI 204的第三图形用户界面,其使得无线附件能够被设置为丢失模式。
如图9A所示,设备***UI 204可以显示在电子设备900上,该电子设备可以是移动设备,或者本文描述的任何其他类型的电子设备。设备***UI 204可以呈现统一的图形界面,通过该统一的图形界面可以定位多种不同类型的设备和附件,包括具有网络或蜂窝接入的无线设备和无当前或本地网络接入的无线附件。设备***UI 204可以包括具有标记902的地图901,该标记示出无线设备或附件的当前或最后已知位置。标记902可以是标识附件并传达附件的位置的图标、图像、图形或任何其他用户界面元素。设备***UI中的可选元素903可以呈现无线设备或附件的描述或名称,并且可以示出无线设备或附件与电子设备900的当前位置之间的估计距离。
如图9B所示,设备***UI 204可以呈现使得无线附件能够被设置为警报模式的第二用户界面。在一个实施方案中,第二用户界面可以响应于选择图9A中所示的可选元素903而显示。第二用户界面可以呈现表示和/或描述所考虑的无线附件的用户界面元素904,以及显示无线附件的当前或最后已知位置的地图901和标记902。在一个实施方案中,设备***UI 204可以呈现可选择元素905,诸如按钮或另一用户界面元素,其允许设备***UI 204的用户将所选无线附件置于警报模式。当处于警报模式时,无线附件可以被配置为如果该无线附件从其当前位置移动则触发对用户的通知。
在一个实施方案中,无线附件可以经由该无线附件内的加速度计或其他类型的运动传感器来检测移动。该通知可由无线附件通过设置由无线附件的信标信号传输的指示无线附件警报已经被触发的数据分组中的标志来发起。在各种实施方案中,可使用其他触发或通知模式。在一个实施方案中,警报可以可选地在检测到无线附件已经移出移动设备的距离范围并且不再处于近所有者状态时由移动设备触发。在一个实施方案中,当无线附件超出与无线附件所关联的用户账户或账户系列相关联的任何设备的距离范围之外或者不能被这些设备定位时,可以可选地触发警报。
如图9C所示,设备***UI 204可呈现使得无线附件能够被设置为丢失模式的第三图形用户界面。在一个实施方案中,当无线附件不能经由设备***UI 204定位时,地图901将不显示指示附件的位置的标记。设备***UI 204可呈现表示和/或描述所考虑的无线附件的用户界面元素904和一组可选的用户界面元素。一个可选的用户界面元素906可呈现用于在发现附件时通知用户的选项。当启用发现时通知时,在一个实施方案中,可将无线附件置于轻丢失模式。与设备***UI 204相关联的电子设备可以生成一组公钥,无线附件将在未来时间段期间(例如,接下来的24小时,接下来的48小时等)将这组公钥与信标信号一起广播。如果探测器设备使用未来密钥中的一个检测到信号,则设备***服务器可以通知与该用户相关联的一个或多个电子设备。
另一个可选的用户界面元素907可以将无线附件置于显式丢失模式。当明确置于丢失模式时,无线附件将无法与其他设备配对,直到附件被将该设备置于丢失模式的用户或所有者解锁。当发送将无线附件置于丢失模式的请求时,可以要求请求的用户输入认证信息以确保请求的用户被授权请求在丢失的附件上启动丢失模式。认证信息可以包括与用户的账户相关联的用户名或密码,诸如用户、电子设备和无线附件所关联的云服务账户。认证信息还可包括生物识别信息,诸如指纹或面部识别数据。
在一个实施方案中,可以在用户设备上显示由请求的用户提供的消息和联系人信息,以提示找到丢失的无线附件的人如何联系请求的用户。在一个实施方案中,当另一用户尝试将另一电子设备与丢失的附件配对时,可显示消息和联系人信息。
图10示出了根据实施方案的在尝试与丢失的无线附件进行配对时显示的附件配对UI 302。在一个实施方案中,当不同于图9A的电子设备900并且不与无线附件的注册用户或所有者相关联的电子设备1000尝试与丢失的无线附件配对时,该电子设备的附件配对UI可如图10所示显示。在一个实施方案中,附件配对UI 302可显示与无线附件相关联的名称或描述1001,以及在将附件置于丢失模式时由附件的用户输入的消息1002。联系人信息1004还可与使电子设备1000能够通过使用所提供的联系人信息1004联系请求用户的用户界面元素1006(诸如按钮)一起显示。
本文所述的实施方案包括环境中的一个或多个应用编程接口(API),其中调用程序代码与通过一个或多个编程接口调用的其他程序代码进行交互。各种功能调用、消息或其他类型的调用还可包括各种参数,这些调用可以经由调用程序和被调用代码之间的API而传输。此外,API可以给调用程序代码提供使用在API中定义的、并在被调用程序代码中实现的数据类型或类别的能力。
API允许API调用部件的开发者(可以是第三方开发者)利用由API实现部件提供的指定特征。可以有一个API调用部件或可以有多于一个此类部件。API可以是计算机***或程序库提供以支持来自应用程序的服务请求的源代码接口。操作***(OS)可具有多个API,以允许运行于OS上的应用程序调用那些API中的一个或多个API,并且服务(例如程序库)可具有多个API,以允许使用服务的应用程序调用那些API中的一个或多个API。可按照在构建应用程序时能够解译或编译的编程语言来指定API。
在一些实施方案中,API实现部件可提供多于一个API,每个API提供不同视图或具有不同方面,该不同方面访问由API实现部件实现的功能的不同方面。例如,API实现部件的一个API可提供第一函数集,并可暴露于第三方开发者,并且API实现部件的另一个API可被隐藏(不暴露)并提供第一函数集的子集,并且还提供另一函数集,诸如不在第一函数集中的测试或调试函数。在其他实施方案中,API实现部件本身可经由下层API调用一个或多个其它部件,因而既是API调用部件又是API实现部件。
API定义在访问和使用API实现部件的指定特征时API调用部件所使用的语言和参数。例如,API调用部件通过被API暴露的一个或多个API调用或引用(例如由函数或方法调用实现)来访问API实现部件的指定特征,并经由API调用或引用使用参数来传递数据和控制信息。API实现部件可响应于来自API调用部件的API调用而通过API返回值。尽管API定义API调用的语法和结果(例如,如何引起API调用以及API调用能干什么),但API可不揭示API调用如何完成由API调用指定的函数。经由调用(API调用部件)和API实现部件之间的一个或多个应用编程接口来传输各种API调用。传输API调用可包括发出、发起、引用、调用、接收、返回或响应函数调用或消息;换句话讲,传输能够描述API调用部件或API实现部件中的任一者的动作。API的函数调用或其它引用可通过参数列表或其它结构发送或接收一个或多个参数。参数可以是常数、键、数据结构、对象、对象类、变量、数据类型、指针、数组、列表或指向函数或方法的指针或援引要经由API传递的数据或其它项目的另一种方式。
此外,数据类型或类可由API提供并由API实现部件实现。因此,API调用部件可利用API中提供的定义来声明变量、使用指向此类类型或类的指针、使用或实例化此类类型或类的恒定值。
通常,可使用API来访问由API实现部件提供的服务或数据,或启动执行由API实现部件提供的操作或计算。以举例的方式,API实现部件和API调用部件可各自为操作***、库、设备驱动程序、API、应用程序或其它模块(应当理解,API实现部件和API调用部件可以是彼此相同或不同类型的模块)中的任一种。在一些情况下,可至少部分地在固件、微码或其它硬件逻辑部件中实现API实现部件。在一些实施方案中,API可以允许客户端程序使用由软件开发工具包(SDK)库提供的服务。在其他实施方案中,应用程序或其他客户端程序可使用由应用程序框架提供的API。在这些实施方案中,应用程序或客户端程序可将调用结合到由SDK提供和由API提供的函数或方法中,或使用SDK中定义并由API提供的数据类型或对象。在这些实施方案中,应用程序框架可为程序提供主要事件循环,其对框架定义的各种事件作出响应。API允许应用程序利用应用程序框架来指定事件和对事件的响应。在一些具体实施中,API调用能够向应用程序报告硬件设备的能力或状态,包括与诸如输入能力和状态、输出能力和状态、处理能力、电源状态、存储容量和状态、通信能力等方面相关的能力或状态,并且API可部分地由固件、微码或部分地在硬件部件上执行的其它低电平逻辑部件实现。
API调用部件可以是本地部件(即与API实现部件在同一数据处理***上)或远程部件(即在不同于API实现部件的数据处理***上),所述部件经由网络通过API与API实现部件进行通信。应当理解,API实现部件也可充当API调用部件(即,它可对被不同API实现部件暴露的API进行API调用),并且API调用部件也可通过实现暴露于不同API调用部件的API来充当API实现部件。
API可允许以不同编程语言编写的多个API调用部件与API实现部件通信(从而API可包括用于转换API实现部件和API调用部件之间的调用和返回的特征);不过,可以特定的编程语言实现API。在一个实施方案中,API调用部件可调用来自不同提供方的API,诸如来自OS提供方的一组API和来自插件提供方的另一组API,以及来自另一提供方(例如软件库的提供方)或其他组API的创建者的另一组API。
图11是示出了可用于本发明的一些实施方案中的示例性API架构的框图。如图11中所示,API架构1100包括实现API 1120的API实现组件1110(例如,操作***、库、设备驱动程序、API、应用程序、软件或其它模块)。API 1120指定可由API调用部件1130使用的API实现部件的一个或多个函数、方法、类、对象、协议、数据结构、格式和/或其他特征。API 1120可指定至少一个调用约定,该调用约定指定API实现部件中的函数如何从API调用部件接收参数以及函数如何向API调用部件返回结果。API调用组件1130(例如操作***、库、设备驱动程序、API、应用程序、软件或其它模块)通过API 1120进行API调用,以访问并使用由API1120指定的API实现组件1110的特征。API实现组件1110可响应于API调用而通过API 1120向API调用组件1130返回值。
应当理解,API实现组件1110可包括未通过API 1120指定且对于API调用组件1130不可用的附加函数、方法、类、数据结构和/或其它特征。应当理解,API调用部件1130可与API实现部件1110在同一***上,或者可远程定位并通过网络来使用API 1120访问API实现部件1110。尽管图11示出了API调用部件1130与API 1120交互,但是应当理解,可用与API调用部件1130不同的语言(或相同的语言)编写的其他API调用部件可以使用API 1120。
API实现组件1110、API 1120和API调用组件1130可以存储在机器可读介质中,其包括用于以机器(例如计算机或其他数据处理***)可读的形式存储信息的任何机构。例如,机器可读介质包括磁盘、光盘、随机存取存储器;只读存储器、闪存存储器设备等。
图12是根据实施方案的用于移动或嵌入式设备的设备架构1200的框图。设备架构1200包括存储器接口1202、一个或多个处理器1204(例如,数据处理器、图像处理器和/或图形处理器)和***设备接口1206。各种部件可通过一条或多条通信总线或信号线耦接。各种部件可以是单独的逻辑部件或设备或可以集成在一个或多个集成电路,诸如片上***集成电路。
存储器接口1202可以耦接至存储器1250,其可以包括高速随机存取存储器诸如静态随机存取存储器(SRAM)或动态随机存取存储器(DRAM)和/或非易失性存储器,诸如但不限于闪存存储器(例如,NAND闪存、NOR闪存,等等)。
传感器、设备和子***可耦接到***设备接口1206以促进多个功能。例如,包括运动传感器1211、光传感器1212和接近传感器1214的一组传感器1210可耦接到***设备接口1206以促进移动设备功能。还可存在一个或多个生物特征传感器1215,诸如用于指纹识别的指纹扫描器或用于面部识别的图像传感器。其他传感器1216也可连接至***设备接口1206,诸如定位***(例如,GPS接收器)、温度传感器、或其他感测设备以促进相关的功能。
设备架构1200还包括音频/视频***1220。可利用相机子***1221和光学传感器1222(例如,电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光学传感器)来促进相机功能,诸如照片拍摄和视频剪辑。音频子***1226可耦接到扬声器1228和麦克风1230以促进支持语音的功能,诸如声音识别、语音复制、数字记录和电话功能。在本文描述的智能媒体设备中,音频子***1226可以是包括支持虚拟环绕声的高质量音频***。
可通过一个或多个无线通信子***1224来促进通信功能,这些无线通信子***可包括射频接收器和发射器和/或光学(例如,红外)接收器和发射器。无线通信子***1224的具体设计与实现可取决于移动设备打算通过其操作的通信网络。例如,包括示出的设备架构1200的移动设备可包括设计来通过GSM网络、CDMA网络、LTE网络、Wi-Fi网络、Bluetooth网络或任何其他无线网络操作的无线通信子***1224。具体地,无线通信子***1224可提供通信机构,在该通信机构中,媒体回放应用程序可从远程媒体服务器检索资源或从远程日历或事件服务器检索调度事件。
I/O子***1240可包括触摸屏控制器1242和/或其他输入控制器1245。对于包括显示设备的计算设备,触摸屏控制器1242可耦接至触敏显示器***1246(例如,触摸屏)。触敏显示***1246和触摸屏控制器1242可例如使用多种触摸和压力感测技术的任何一种检测接触和运动或压力,触摸和压力感测技术包括但不限于电容性、电阻性、红外和表面声波技术,以及用于确定与触敏显示***1246接触的一个或多个点的其他接近传感器阵列或其他元件。触敏显示***1246的显示输出可由显示控制器1243生成。在一个实施方案中,显示控制器1243可在可变帧速率下向触敏显示***1246提供帧数据。
在一个实施方案中,包括传感器控制器1244以监测、控制和/或处理从一个或多个运动传感器1211、光传感器1212、接近传感器1214,或其他传感器1216接收的数据。传感器控制器1244可包括逻辑来解释传感器数据以通过分析来自传感器的传感器数据来确定多个运动事件或活动中的一者的发生。
在一个实施方案中,I/O子***1240包括其他输入控制器1245,可耦接到其他输入/控制设备1248,诸如一个或多个按钮、摇臂开关、拇指轮、红外线端口、USB端口和/或指针设备诸如触笔或控件/装置诸如扬声器1228和/或麦克风1230的音量控件的向上/向下按钮。
在一个实施方案中,耦接至存储器接口1202的存储器1250可存储操作***1252的指令,包括便携式操作***接口(POSIX)兼容和不兼容的操作***或嵌入式操作***。操作***1252可包括用于处理基础***服务以及用于执行硬件相关任务的指令。在一些具体实施中,操作***1252可以是内核。
存储器1250还可以存储通信指令1254以促进与一个或多个附加设备、一个或多个计算机和/或一个或多个服务器的通信,例如从远程web服务器获取web资源。存储器1250还可包括用户界面指令1256,包括图形用户界面指令以有利于图形用户界面处理。
此外,存储器1250可存储传感器处理指令1258以促进传感器相关处理和功能;促进与电话相关的过程及功能的电话指令1260;促进与电子消息处理相关的过程及功能的即时消息指令1262;促进与网页浏览相关的过程和功能的网页浏览指令1264;促进与媒体处理相关的过程和功能的媒体处理指令1266;位置服务指令包括GPS和/或导航指令1268和基于Wi-Fi的位置指令以促进基于位置的功能性;促进与相机相关的过程和功能的相机指令1270;和/或其他软件指令1272,以有利于其他过程和功能,例如安全过程和功能以及与***相关的过程和功能。存储器1250还可以存储其他软件指令,诸如促进与web视频相关的过程和功能的web视频指令;和/或促进与网络购物相关的过程和功能的网络购物指令。在一些具体实施中,媒体处理指令1266分为音频处理指令和视频处理指令,以分别用于促进与音频处理相关的过程和功能以及与视频处理相关的过程和功能。移动设备标识符,诸如国际移动设备身份(IMEI)1274或类似的硬件标识符也可存储在存储器1250中。
上面所识别的指令和应用程序中的每一者可对应于用于执行上述一个或多个功能的指令集。这些指令不需要作为独立软件程序、进程或模块来实现。存储器1250可包括附加指令或更少的指令。此外,可在硬件和/或软件中,包括在一个或多个信号处理和/或专用集成电路中,执行各种功能。
图13是根据实施方案的计算***1300的框图。示出的计算机***1300旨在表示一系列计算***(有线或无线的),包括例如台式计算机***、膝上型计算机***、平板电脑***、蜂窝电话、包括支持蜂窝的PDA的个人数字助理(PDA)、机顶盒、娱乐***或其他消费电子设备、智能电器设备、或者智能媒体回放设备的一个或多个具体实施。另选的计算***可以包括更多、更少和/或不同的部件。计算***1300可用于提供在计算设备和/或计算设备可能与之连接的服务器设备。
计算***1300包括互连器1335(例如,总线、构架)以实现在计算***1300的部件之间的通信。一个或多个处理器1310可与互连器1335耦接。计算***1300还可包括呈耦接到互连器1335的随机存取存储器(RAM)或其他动态存储设备的形式的存储器1320。存储器1320可存储可由处理器1310执行的信息和指令。在由处理器1310执行指令期间,存储器1320还可以是用于存储临时变量或其他中间信息的主存储器。
计算***1300还可包括只读存储器(ROM)1330和/或耦接到互连器1335的可存储用于处理器1310的信息和指令的其他数据存储设备1340。数据存储设备1340可以是或包括多种存储设备,诸如闪存存储器设备、磁盘或光盘,并且可经由互连器1335或经由远程***设备接口耦接到计算***1300。
计算***1300还可经由互连器1335耦接到显示设备1350以向用户显示信息。计算***1300还可包括数字字母混合输入设备1360,该设备包括数字字母键和其他键,其可耦接到互连器1335以将信息和命令选项发送到处理器1310。另一种用户输入设备包括光标控件1370设备,诸如触控板、鼠标、轨迹球、或光标方向键,用于向处理器1310传递方向信息和命令选择以及在显示设备1350上控制光标移动。计算***1300还可以经由一个或多个网络接口1380从通信地耦接的远程设备接收用户输入。
计算***1300还可以包括一个或多个网络接口1380,以提供对诸如局域网之类的网络的访问。网络接口1380可以包括,例如具有天线1385的无线网络接口,所述天线可以表示一个或多个天线。计算***1300可以包括多个无线网络接口,诸如Wi-Fi和
Figure BDA0003303327430000261
近场通信(NFC)和/或蜂窝电话接口的组合。网络接口1380也可以包括例如有线网络接口,以经由网络电缆1387与远程设备通信,该电缆可以是例如,以太网电缆、同轴电缆、光纤电缆、串行电缆或并行电缆。
在一个实施方案中,网络接口1380可以例如通过符合IEEE 802.11无线标准来提供对局域网的接入,并且/或者无线网络接口可以例如通过符合蓝牙标准提供对个人区域网络。其他无线网络接口和/或协议也可得到支持。除了经由无线LAN标准进行通信之外或代替经由无线LAN标准进行通信,网络接口1380可以使用例如时分多址(TDMA)协议、全球移动通信***(GSM)协议、码分多址(CDMA)协议、长期演进(LTE)协议和/或任何其他类型的无线通信协议来提供无线通信。
计算***1300还可包括一个或多个功率源1305和一个或多个能量测量***1345。功率源1305可包括耦接到外部电源的AC/DC适配器、一个或多个电池、一个或多个电荷存储设备、USB充电器或其他功率源。能量测量***包括至少一个电压或电流测量设备,可测量计算***1300在预先确定的时间段内消耗的能量。此外,可包括一个或多个能量测量***测量,例如,显示设备,冷却子***,Wi-Fi子***,或其他常用的或高能量消费子***所消耗的能量。
位置查询应用程序的接近增强
在本文所述的实施方案中,无线通信设备诸如智能电话、智能手表或平板计算机设备可使用一个或多个测量诸如但不限于无线测距或基于无线电信号的距离测量来定位在环境中的接近对象。接近对象可以是物理设备诸如电子设备或电子***设备,其可经由可经由增强现实显示器呈现的设备的虚拟表示定位。无线通信设备可实施用户界面技术,其中与对象相关联的标识符是无线地接收的,并且一个或多个测量是用于无线地确定对象到无线通信设备的距离和/或到对象的方向。无线通信设备可呈现指示到接近对象的距离和/或方向的信息。例如,无线通信设备可显示环境中接近区域的地图,在地图上具有表示对象的指示符。另选地,无线通信设备可显示接近区域的图像(例如,由无线通信设备的相机捕获),在图像上具有表示对象的指示符。该用户界面技术可去除与许多现有用户界面相关联的约束,改善在使用无线通信设备时的用户体验,并且因此可提高客户满意度和维系度。
图14示出了可实现位置查询应用程序的接近增强的***1400。一个实施方案提供了用于当在接近要定位的物品或设备的位置环境1408中时增强位置查询应用程序的功能的***1400。位置环境1408可包括移动设备1402(例如,智能电话、可穿戴设备、平板电脑等)。移动设备1402可与包括无线电设备1419的无线设备1420进行无线通信。移动设备1402还可包括无线设备1420中的无线电设备1419的变体。移动设备1402可以是如本文所述的移动设备102。无线设备1420还可以是移动设备102,或者可以是如本文所述的无线附件201。
这些设备可在以下情况下经由无线通信信号1405进行通信:通过扫描无线信道而检测到彼此、在无线信道上传输和接收信标或信标帧、建立连接(例如,通过传输连接请求)、和/或传输和接收分组或帧(其可包括请求和/或附加信息诸如数据作为有效载荷)。无线通信信号1405可以是符合无线通信技术(诸如但不限于Wi-Fi或蓝牙)的载波信号。除了无线通信之外,移动设备1402和无线设备1420使用无线测距信号1406来执行无线测距操作。无线测距信号可以是例如超宽带信号,该超宽带信号可用于使用本文所述的技术来确定无线设备1420与移动设备1402之间的距离和/或角度。在一个实施方案中,由无线测距信号1406提供的数据可与其他度量诸如无线通信信号1405的RSSI相关。在一个实施方案中,移动设备1402和无线设备1420的通信处理器可融合多种类型的测距,以基于多种类型的无线电数据来提供统一距离和/或角度估计。
移动设备1402可提供呈现位置环境1408的地图和/或增强现实视图的设备***UI 1404。地图和/或增强现实视图可呈现无线设备1420的虚拟表示。虚拟表示可简化由移动设备1402的用户定位无线设备1420的过程。例如,使用指向无线设备1420的检测位置的方向指示符可简化寻找无线设备1420的大致位置的过程。方向指示符可与位置环境1408的地图配对,其中地图可包括无线设备1420的虚拟表示。当移动设备1402在无线设备附近时,可呈现位置环境1408的增强现实视图,这可允许用户在无线设备1420被隐藏而不可见时识别该无线设备。
在一种场景中,无线设备1420可被物品1418隐藏。物品1418可以是例如夹克或另一种衣物制品,并且无线设备1420可以是位于物品1418的口袋中的智能电话或平板设备。物品1418和无线设备1420可各自在容器1410诸如背包、储物柜、行李物品或使依赖于无线设备1420播放可被用户听到的声音的基于音频的定位技术的效率降低的另一种物品内。
在另一种场景中,无线设备1420可以是附接到物品1418的信标***设备或***标签。为了寻找物品1418,用户可使用移动设备1402上的设备***UI 1404来寻找无线设备1420,从而使用户能够定位无线设备1420所附接到的物品1418。本文所述的接近增强可用于增强设备***UI1404,从而允许用户在物品可能被容器1410或另一种物理物品隐藏的场景中经由无线设备1420快速确定物品1418的位置。
在一个实施方案中,移动设备1402可与无线设备1420建立(例如,经由无线通信信号1405)安全无线通信连接(例如,蓝牙连接),并且命令无线设备1420例如使用可以是UWB信号的无线测距信号1406开始无线测距过程。无线测距信号1406使移动设备1402能够接收对无线设备1420的距离(range)和角度的测量。
在本文所述的实施方案中,无线测距可利用任何标准或专有测距技术、或者标准和/或专有测距技术的任何组合来执行。无线测距操作可被执行以确定设备之间(例如,发起方和响应方之间)的距离、设备之间的方向、或这两者。例如,可为设备之间的一个或多个消息确定飞行时间/到达时间(ToF/ToA),其可被用于建立距离测量。一个或多个消息可具有任何格式并且可使用任何无线协议来传输。在一些实施方案中,可使用两个或更多个消息的双向交换来确定ToF/ToA。在一些实施方案中,用于执行测距的一个或多个消息可例如通过加密或以其他方式保护内容的至少一部分来受到保护。此外,在一些实施方案中,一个或多个无线信号的来源的方向可利用诸如到达角(AoA)这样的技术来确定。例如,AoA估计可利用多个接收元件(例如,天线阵列的元件)测量信号到达的不同时间(TDOA)和/或不同相位(PDOA)来执行。附加地或另选地,在一些实施方案中,方向性可通过测量多普勒漂移以确立到达频率差(FDOA)来确定。无线测距技术可单独地或组合地应用,以执行单个测距操作。此外,无线测距技术可单独地或组合地应用,以执行持续测距操作,诸如连续或间断测距,并且测量的历史可被捕获并且在基于距离和/或方向执行操作中使用。
可处理传入测量以降低测量噪声并且稳定丢失物品的估计位置。在一个实施方案中,移动设备1402可使用依赖于多个测量流的传感器融合技术来获得对设备位置的最佳估计。例如,传入距离和/或角度测量可与移动设备1402的位置和取向测量融合。可使用视觉惯性测量(VIO)来收集位置和取向测量,该视觉惯性测量使用IMU和使用相机数据的计算机视觉来确定设备位置和取向。VIO数据使移动设备1402上的软件能够知道设备的移动和取向。将VIO数据与经由无线测距信号1406确定的距离和/或角度测量组合使得能够估计无线设备的最可能位置并且允许用户指向设备。由于多路径信号传播效应,VIO数据在距离或角度测量中的一者或多者可能不准确的场景中可能特别地有用。
用于确定丢失物品的位置的算法可经由设备***UI 1404访问。当用户意图定位物品时,用户可从注册设备列表中选择物品,并且选择经由设备***UI 1404呈现的“寻找”按钮。在各种实施方案中,可呈现多个用户界面。一些界面类似于二维罗盘状视图,其中二维箭头将用户引导至要寻找的目标物品或设备。其他界面是具有虚拟对象(包括三维箭头)的三维增强现实视图,其可将用户引导到丢失物品并突出显示该丢失物品。
图15A至图15C示出了根据实施方案的包括接近增强的位置查询应用程序用户界面。如图15A所示,在一个实施方案中,在移动设备1402上的位置查询应用程序可呈现包括地图1510的设备***UI 1404。地图1510可呈现指示符1516,该指示符示出要定位的目标无线设备(例如,无线设备1420)的位置。设备***UI 1404可呈现距离1512和方向1414,该距离和方向基于对应于指示符1516的位置和由移动设备1402确定的当前位置的相对位置来确定。在一个实施方案中,可呈现界面元素1506,该界面元素允许用户切换到可呈现位置环境的增强现实视图的“寻找”界面。
指示符1516可基于与指示符1516相关联的设备的最后观察到的位置。最后观察到的位置可以是由移动设备1402或与移动设备1402相关联的用户账户的另一设备观察到的位置。在一个实施方案中,指示符1516的位置最初可基于由设备***服务器203响应于由位置查询应用程序执行的位置查询而提供的位置。如图2所示,由设备***服务器203提供的位置可以是由观察到无线附件201的信标广告的一个或多个探测器设备202确定的位置,其中无线附件201是与指示符1516相关联的目标设备。如图7所示,一个或多个探测器设备202可使用信号和测距数据(例如,RSSI和UWB)来增强位置确定过程。信号和测距数据可提供给设备***服务器203,该设备***服务器可进一步细化用于指示符1516的位置估计。
与图7中的探测器设备202一样,一旦移动设备1402在要定位的设备附近,就可使用信号和测距数据来增强指示符1516在地图1510上的定位。信号和测距数据还可用于提供到设备的距离1512和方向1414的增强估计。
如图15B所示,移动设备1402上的设备***UI 1404还可呈现覆盖可用于将目标无线设备定位在经由移动设备1402的相机捕获的视频流内的信息的增强现实视图1508。该信息可包括例如标识符1504,诸如分配给要定位的无线设备或信标***设备的名称(例如,Alan的钥匙)。该信息还可包括方向指示符1502,该方向指示符示出朝向要定位的无线设备的相对方向。
如图15C所示,一旦要定位的附有信标的物品或无线设备在设备***UI 1404的增强现实视图1508中可见,就可呈现指示物品或设备的所检测到的位置的物品或设备的虚拟表示1526。
图16A至图16E示出了用于位置查询应用程序的附加接近增强用户界面。如图16A所示,在移动设备1402上的设备***UI 1404可呈现增强用户定位附有信标的物品或无线设备的能力的方向和距离视图。可呈现表示相对于移动设备1402的零度方位的向前方向指示符1602。可显示要定位的附有信标的物品或无线设备的虚拟指示符1601。用户可在房间中四处走动,直到虚拟指示符1601与向前方向指示符对准。此时,用户将直接地面向要定位的物品或设备。方向和距离视图还可呈现信息,诸如要定位的物品的标识符1604,该标识符可以是例如分配给附接到物品的信标***设备的名称(例如,Gemma的钥匙)。该信息还可包括位置信息1605,该位置信息可以是当前检测到的要查找的物品的感兴趣位置(例如,家)、相对于该物品的确定距离(例如,12英尺)和最后一次观察到该物品的时间(例如,现在)。设备***UI 1404还可呈现界面元素以在要定位的无线设备/信标***设备上和/或移动设备1402上执行动作。在一个实施方案中,呈现界面元素1606以使要定位的无线设备/信标***设备播放使用户能够定位设备/***设备的声音。还可呈现界面元素1607,该界面元素使得能够在位置环境黑暗或昏暗时在移动设备1402上使用照明机构(例如,手电筒)。
如果在方向确定期间,目标无线设备的运动超过阈值,则可能难以基于瞬时无线测距数据来确定到目标无线设备的特定方向。如果到达角测量不准确并且不可靠,则该困难可能成为特定问题。在这种场景中,可使用一系列距离测量来确定到目标无线设备的方向。如果在将距离测量收集到目标设备时,目标设备的运动超过阈值,则设备***UI1404的视图可改变为图16B中呈现的视图。
如图16B所示,当目标无线设备的位置估计的不确定性超过阈值时,向前方向指示符1602可呈现不确定的方向。UI元素1620可向用户呈现用于指示目标无线设备(或目标物品)正在移动和移动设备1402正在确定目标无线设备的新位置的消息。可通过收集和分析无线测距和增强现实传感器数据的融合以确定目标无线设备的新位置估计来确定新位置。当正在针对在运动中的目标无线设备确定目标无线设备的初始位置时,图16B的UI可显示为初始视图。如果与目标无线设备相关联的物品在方向确定期间发生运动,则也可显示图16B的UI。虽然向前方向指示符1602可指示不确定的位置,但是如果距离测量的准确度在准确度阈值内,则位置信息1605可基于此而继续显示所确定的距离。当确定目标无线设备的新位置时,设备***UI 1404的视图可改变为例如图16A的视图,或者可改变为其中呈现方向指示的等同视图,例如,如在图15A至图15B或如图16D中的那样。
如果在将距离测量收集到目标设备时,目标设备和移动设备1402两者的运动超过阈值,则设备***UI 1404的视图可改变为图16C中呈现的视图。
如图16C所示,向前方向指示符1602指示不确定的位置,并且UI元素1620向用户呈现指示移动设备1402和目标无线设备(或目标物品)两者正在移动和要求较少的移动来检测到该物品的方向的消息。在一些具体实施中,UI元素1620还可向用户呈现用于停止或减慢移动设备1402的移动以使得可确定目标无线设备(或目标物品)的新方向和/或位置的另外的指令。虽然向前方向指示符1602可指示不确定的位置,但是如果距离测量的准确度在准确度阈值内,则位置信息1605可基于此而继续显示所确定的距离。如果目标设备或移动设备1402的运动下降至低于阈值,则设备***UI 1404的视图可改变为图16B中呈现的视图。如果目标设备和移动设备1402两者的运动下降至低于阈值,则设备***UI 1404的视图可改变为例如图16A的视图,或者可改变为其中呈现方向指示的等同视图,例如,如在图15A至图15B或如图16D中的那样。
如图16D所示,可经由移动设备1402的设备***UI 1404呈现附加方向和距离视图。在一个实施方案中,一旦用户在无线设备的阈值距离内,就可呈现图16D的方向和距离视图,并且可使用UWB测距。所示出的方向和距离视图可包括要定位的物品或设备的虚拟指示符1601。可呈现方向指示符1612,该方向指示符指示用户应当使用来接近物品的位置的当前方位。可呈现距离指示符1614,该距离指示符指定相对于由虚拟指示符1601表示的物品的当前距离。
在一个实施方案中,在移动设备1402的用户已经将移动设备定位成基本上平行于地面或地板时,可呈现图16D的方向和距离视图,使得要定位的物品/设备不在移动设备1402的后置相机的视图内。可向用户呈现文本指令1616,该文本指令向用户指示一旦用户改变移动设备1402的角度(例如,举高)以使物品/设备进入相机的视图内,就可呈现增强现实视图。
如图16E所示,当要定位的物品/设备进入移动设备1402的后置相机的视图内时,可经由移动设备1402的设备***UI 1404呈现增强现实视图1610。用于物品/设备的虚拟指示符1601可呈现为在经由设备的后置相机捕获的视频上的覆盖物。增强现实视图还可显示距离指示符1614,该距离指示符示出相对于物品/设备的当前距离。
图17示出了根据实施方案的实现位置查询应用程序的接近增强的***架构1700。在一个实施方案中,***架构1700包括在设备(例如,移动设备1402、无线设备1420)的一个或多个应用处理器上执行的主机操作***1702。***架构1700还包括可与无线电设备和一个或多个无线天线耦接的无线控制器1730。
主机操作***1702可包括位置查询应用程序1710和附近设备守护进程1720。位置查询应用程序1710可呈现本文所述的设备***UI 1404。位置查询应用程序1710可包括与传感器融合框架1711和接近框架1712相关联的库和资源。接近框架1712呈现使位置查询应用程序能够经由进程间通信(IPC 1715)消息与附近设备守护进程1720进行通信的程序接口。附近设备守护进程1720包括控制器框架1722。控制器框架使附近设备守护进程1720能够经由实时操作***(RTOS)固件接口1725与设备上的无线控制器1730进行通信。传感器融合框架1711使从无线控制器接收的传感器数据能够与增强现实传感器数据融合。
在一个实施方案中,无线控制器1730可在控制器的一个或多个处理器1736上执行单独的实时操作***(RTOS 1732)。无线控制器1730的一个或多个处理器1736与执行主机操作***1702的应用处理器分开。在一个实施方案中,一个或多个处理器1736包括安全存储器、密码加速器和使无线控制器1730能够使用测距传感器1734执行安全测距操作的其他部件。例如,一个或多个处理器1736可包括安全处理器,诸如安全元件处理器。在一个实施方案中,处理器1736是安全处理器,诸如安全元件处理器(SEP)。
测距传感器1734可包括可传输和接收超宽带无线电信号的超宽带收发器。在一个实施方案中,无线控制器还包括无线通信无线电设备1738,该无线通信无线电设备使无线控制器能够使用一个或多个无线通信或联网协议诸如Wi-Fi、蓝牙或NFC来促进与其他设备的通信。与由无线通信无线电设备1738接收的信号相关联的度量也可用作测距过程的一个方面。
图18示出了根据实施方案的用于实现测距和姿态估计的融合以生成目标物品的目标位置估计的***1800。在一个实施方案中,***1800包括无线控制器1730、IMU 1812和在如本文所述的移动设备的应用处理器上执行的一组框架。该组框架可包括增强现实(AR)框架1810和传感器融合框架1711。无线控制器1730可将距离测量1801发送到传感器融合框架1711内的内插器逻辑1804。AR框架1810可从IMU 1812接收传感器测量1803并且生成移动设备的姿态估计1802。姿态估计1802可发送到传感器融合框架1711内的内插器逻辑1804。内插器逻辑1804可处理距离测量1801和姿态估计1802以生成具有对准姿态1805的测量。内插器逻辑1804可通过基于确定测量和估计的时间来内插并对准距离测量1801和姿态估计1802以生成具有对准姿态1805的测量。具有对准姿态1805的测量可提供给估计器逻辑1806。估计器逻辑1806然后可生成三维目标位置估计1807以供移动设备使用。该目标位置估计可由移动设备用来生成在位置环境的增强现实视图中的虚拟表示或虚拟指示符。
内插器逻辑1804和估计器逻辑1806可包括各种算法技术以克服异常数据和传感器干扰,从而增强三维目标位置估计1807的精度。在一个实施方案中,***1800可将从IMU1812收集的惯性数据与经由一个或多个相机捕获的图像融合,以执行视觉惯性量距(VIO)。VIO技术包括分析图像序列以估计在图像序列上的相机运动。使用在相同时间段内捕获的基于图像的相机运动估计和惯性测量,可估计移动设备在坐标系中的运动,从而为***1800的软件提供了估计探测器移动设备和要定位的无线设备两者在三维坐标空间内的位置的能力。
在一个实施方案中,目标位置估计可采取可使用非线性最小二乘(NLLS)批滤波器来解决的非线性最小二乘问题的形式。例如,给定r i作为在时间ti上的距离测量,并且同时,给定p(ti)作为相对于VIO坐标系的中心的姿态估计,可确定目标位置x=[x y z]T,该目标位置最小化成本函数:
Figure BDA0003303327430000351
所使用的特定姿态估计可基于或相对于在移动设备上无线测距无线电天线的位置。另选地,可应用基于卡尔曼滤波器或空间占用网格的方法。
在一个实施方案中,一旦在三维坐标空间内确定了无线设备的初始目标位置,即使在无线设备与无线附件之间不存在所更新的距离测量的情况下,也可使用增强现实数据来更新无线设备的相对目标位置。在这种场景中,无线测距操作的频率可被节流以降低无线设备和移动设备的功率消耗。
测距算法增强
可使用各种算法方法来增强距离、方位和距离计算的性能和准确度。在一种场景中,当设备描绘出朝向目标通过空间的轨迹时,该设备可在相对于目标测距时遇到多路径信号传播效应。多路径传播是导致无线电信号通过两个或更多个路径到达接收天线的现象。如果到目标的视线被环境中的障碍物遮挡,天线图案严重衰减视线信号,或者用户自身阻挡信号,则可发生多路径传播。当移动设备循着朝向目标穿过空间的轨迹时,相对于目标的测量距离连同在轨迹上行进的距离可随时间而演变。在该演变期间,可能出现异常和干扰。
有时,从传感器数据确定的测量距离可看起来跳过大于从空间行进通过的距离。在一段时间内与行进距离不同的测量距离中的突然跳跃可用于确定多路径条件何时已改变。当距离的变化是正的并且大于行进距离时,因多路径而造成的在测量上的偏差可能已增加。类似地,当距离的变化为负的并且在量值上大于行进距离时,多路径分量很可能在之前存在并且实际上已经减小。当检测到多路径传播已经减小时,可增加先前测量的不确定性以考虑潜在多干扰。在一个实施方案中,通过将与这些测量相关联的权重设定为零,可从测量历史中移除被认为是多路径测量的先前测量。当检测到多路径干扰已经增加时,可类似地对在所检测到的增加之后接收到的测量进行去加权,或者可拒绝那些测量。
在一个实施方案中,可能因时间的流逝而对距离测量进行去加权。当在设备的轨迹上收集距离测量时,目标位置的解变为超定的。距离测量可随测量年龄和/或随VIO误差累积而被去加权。在移动目标的情况下,对作为时间的函数的距离测量的分析可能特别地重要,因为距离测量的时间序列可用于确定对设备的角度测量,而不依赖于与任一个测距操作相关联的角度测量。因此,可基于时间函数来衰减与较旧测量相关联的权重。
在一个实施方案中,可因所测量的和/或所估计的到目标的距离而对距离测量进行去加权。随着测量指示进一步距离,多路径干扰的可能性增加,并且测量变得不那么有用。当形成解时,可计算到形成测量的每个位置的估计距离。基于该距离,可对测量进行重新加权。另外,测量本身是距离,并且可用于推断测量不确定性。
在一个实施方案中,当仅距离解指示目标在设备的视野中时,到达角测量可用于进一步细化目标位置。用于设备的位置解可仅使用测距测量(例如,没有角度测量)来形成。给定位置解,可计算当目标在设备的视野中时从移动设备进行角度测量中的每个角度测量的概率。如果概率满足阈值,则角度测量可用于形成新位置解。使用角度测量可解决因设备轨迹大部分在单个平面中而可能存在于距离解中、尤其是在向上方向上的模糊度。
在使用测量来形成位置解之后,可计算各个贡献测量的测量误差。在超定解中,测量误差将为非零,并且给出定位的质量的一些指示。如果发现大误差,则定位的置信度可降低。置信度阈值可用于确定该位置是否应当被显示给用户。如果发现所有测量都有些微差别,则可使用误差来增加位置的不确定性。
图19示出了用于实现位置查询应用程序的接近增强用户界面的方法1900。方法1900包括以下操作:可将由无线控制器确定的距离测量与基于来自IMU的传感器数据确定的姿态估计融合,以生成姿态对准的测量和三维目标位置估计。三维目标位置估计可用于实现包括要定位的目标设备或物品的位置环境的增强现实视图。方法1900可由如本文所述的无线通信设备(例如,移动设备1402)执行,以定位本文所述的目标无线设备(例如,无线设备1420)或无线附件(例如,无线附件201),或者与无线附件相关联的物品,诸如标记有信标或***标签的物品。
在一个实施方案中,方法1900包括在无线通信设备处接收目标无线设备的地理位置的操作(框1901)。目标无线设备的地理位置可以是由无线通信设备、共享无线通信设备的用户账户的设备或从设备***服务器接收的位置确定的位置。
然后,无线通信设备可在由无线通信设备执行的位置查询应用程序的界面上呈现针对目标无线设备的指示符(框1902)。指示符可以是示出目标无线设备在附近环境的地图上的位置的地图指示符。到目标无线设备的距离测量和相对于该目标无线设备的距离测量可与示出目标无线设备的位置的地图指示符一起呈现在地图上。然后,无线通信设备的用户可朝向目标无线设备的位置移动。
当无线通信设备在目标无线设备的阈值距离内时,无线通信设备可使用一个或多个无线测距操作来确定到目标无线设备的距离和/或方向(框1903)。一个或多个测距操作可包括连续或周期性超宽带测距操作。超宽带测距操作可结合其他距离确定技术(诸如基于RSSI的距离确定)来执行。在一个实施方案中,超宽带测距操作是安全测距操作,其中测距分组交换被加密。在一个实施方案中,可基于一个或多个测距操作来进行距离和方向确定两者。在一个实施方案中,可仅进行距离确定,并且基于对多个距离测量的分析来确定方向。在可基于瞬时无线测距信号分析来确定距离和角度测量两者的情况下,可使用距离测量历史来提高所确定的角度测量的准确度。
然后,无线通信设备可经由从无线通信设备内的惯性测量单元接收的传感器数据来确定无线通信设备的姿态(框1904)。惯性测量单元数据可由增强现实***处理,以确定无线通信设备的姿态。姿态数据可用于进一步增强基于无线测距传感器针对目标无线设备进行的方向确定。
然后,无线通信设备可基于距离、方向和姿态来确定目标无线设备的位置估计(框1905)。在一个实施方案中,基于来自无线通信设备的无线测距***和增强现实***的传感器数据的融合来确定针对目标无线设备和无线通信设备确定的特定距离、方向和姿态。位置估计可以是相对于无线通信设备的位置或在3D坐标空间内的绝对位置。然后,无线通信设备可生成并显示包括无线设备的位置估计的设备***UI(框1906)。设备***UI可以是例如如图15A至图15B、图16A所示的定向视图或例如如图15C和图16E所示的增强现实视图。增强现实视图可包括经由无线通信设备的相机捕获的视频,其中位置估计定位在视频内的针对目标无线设备确定的位置处。如果在测距操作期间,目标无线设备或无线通信设备的运动阻止方向确定,则可显示如图16B或图16C中的UI。
图20示出了根据实施方案的由目标无线设备执行以发信号通知运动状态的方法2000的流程图。方法2000可由目标无线设备(例如,无线设备1420)在与无线通信设备(例如,移动设备1402)的无线测距会话期间执行。
方法2000包括在目标无线设备处与无线通信设备建立无线测距会话的操作(框2001)。响应于建立无线测距会话,目标无线设备可启用目标无线设备上的运动传感器(框2002)。然后,目标无线设备可经由运动传感器确定目标无线设备的运动是否超过运动阈值(框2003)。如果确定运动超过运动阈值(框2004,“是”),则目标无线设备可向无线通信设备发信号通知目标设备运动已经超过运动阈值(框2005)。否则,目标无线设备可继续经由运动传感器监测其运动。目标无线设备可经由运动传感器通过周期性地轮询来自运动传感器的传感器数据来监测其运动。目标无线设备还可使运动传感器能够触发传感器处理器的中断。
在一个实施方案中,目标无线设备经由运动传感器内的加速度计例如通过跟踪设备取向的变化来确定运动状态。加速度计可以是检测设备加速度(包括由重力引起的加速度)的变化的惯性帧传感器。目标无线设备的移动将导致目标无线设备的取向发生至少轻微变化,这可经由加速度计来检测。来自其他类型的传感器(诸如陀螺仪或磁力仪)的数据也可作为加速度计的替代或与加速度计融合地用于确定设备运动。
在一个实施方案中,目标无线设备可经由例如蓝牙消息向无线通信设备发信号通知目标设备运动已经超过运动阈值。该消息可通过目标无线设备与无线通信设备之间的活动蓝牙链路传输,或者经由另一蓝牙信令方法(例如包括在蓝牙无线广告内的状态位)传输。也可使用其他无线信令方法。
图21示出了根据实施方案的在移动设备上执行以指示确定设备***UI视图的方法2100的流程图。方法2100可由目标无线设备(例如,无线设备1420)在与无线通信设备(例如,移动设备1402)的无线测距会话期间执行。
方法2100包括在无线通信设备处与目标无线设备建立无线测距会话的操作(框2101)。然后,无线通信设备可确定目标无线设备和无线通信设备的运动状态(框2102)。无线通信设备可经由从目标无线设备接收到的无线数据确定目标无线设备的运动状态。无线通信设备可经由由传感器处理器(例如,如图12中的传感器控制器1244)处理的传感器数据来确定无线通信设备的运动状态。如果无线通信设备确定两个设备都超过了运动阈值(框2103,“是”),则无线通信设备可经由用户界面显示要求更少移动来检测到目标无线设备的方向的消息(框2105)。然后,无线通信设备可继续监测运动状态(框2102)。无线通信设备和目标无线设备两者的运动状态监测可通过周期性地轮询运动状态或经由基于中断的机制来执行。
如果两个设备的运动都未超过运动阈值(框2103,“否”),则无线通信设备可基于目标无线设备的运动状态来确定要显示的UI视图。如果目标设备运动超过运动阈值(框2104,“是”),则无线通信设备可显示目标无线设备正在移动和正在确定新位置的消息(框2106)。然后,无线通信设备可继续监测运动状态(框2102)。
如果目标无线设备的运动低于运动阈值(框2104,“否”),并且当已经确定无线通信设备的运动低于运动阈值(框2103,“否”)时,无线通信设备可确定目标无线设备相对于无线通信设备的位置估计,并且在设备***UI中显示目标无线设备的位置和/或方向,如本文所述(框2107)。
在本文中对“一个实施方案”或“实施方案”的引用是指结合该实施方案描述的特定特征、结构或特性可以被包括在本发明的至少一个实施方案中。在本说明书中的各个位置出现短语“在一个实施方案中”不一定都是指同一个实施方案。随后的附图中描绘的过程可由处理逻辑执行,该处理逻辑包括硬件(例如,电路、专用逻辑)、软件(作为在非暂态机器可读存储介质上的指令)或硬件和软件的组合。现在将详细地参考各种实施方案,这些实施方案的示例在附图中示出。在下面的详细描述中给出了许多具体细节,以便提供对本发明的彻底理解。但是,对本领域技术人员将显而易见的是,本发明可在没有这些具体细节的情况下被实施。在其他情况下,没有详细地描述众所周知的方法、过程、部件、电路和网络,从而不会不必要地使实施方案的各个方面晦涩难懂。
还将理解的是,虽然术语“第一”、“第二”等可能在本文中用于描述各种元素,但是这些元素不应当被这些术语限定。这些术语只是用于将一个元件与另一元件区分开。例如,第一接触可被命名为第二接触,并且类似地,第二接触可被命名为第一接触,而不脱离本发明的范围。第一接触和第二接触两者都是接触,但是它们不是同一接触。
本文中所使用的术语仅仅是为了描述特定实施方案并非旨在对所有实施方案进行限制。如本发明说明书和所附权利要求中所使用的那样,单数形式的“一个”(“a”、“an”)和“该”旨在也涵盖复数形式,除非上下文清楚地另有指示。还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联地列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件,和/或其分组。
如本文中所用,根据上下文,术语“如果”可以被解释为意思是“当...时”或“在...时”或“响应于确定”或“响应于检测到”。类似地,根据上下文,短语“如果确定...”或“如果检测到[所陈述的条件或事件]”可被解释为是指“在确定...时”或“响应于确定...”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了计算设备、用于此类设备的用户界面和用于使用此类设备的相关联的过程。在一些实施方案中,计算设备是还包含其他功能(诸如PDA和/或音乐播放器功能)的便携式通信设备,诸如移动电话。在其中描述或示出了无线设备、无线附件或无线附件设备的本申请的描述和附图中,除非另有指出,否则所描述或示出的属性通常可应用于能够广播无线信标的任何类型的无线设备、无线附件或无线附件设备。
一个实施方案提供了非暂态机器可读介质,该非暂态机器可读介质存储指令,该指令使无线通信设备的一个或多个处理器执行操作,该操作包括:当无线通信设备在目标无线设备的阈值距离内时,使用一个或多个无线测距操作确定到目标无线设备的距离和方向;经由从在无线通信设备内的惯性测量单元接收的传感器数据确定该无线通信设备的姿态;基于距离、方向和姿态来确定目标无线设备相对于无线通信设备的目标位置估计;生成包括无线设备的目标位置估计的增强现实视图;以及经由无线通信设备的显示器呈现增强现实视图。增强现实视图可包括经由无线通信设备的相机捕获的视频。目标位置估计可定位在视频内的针对目标无线设备确定的位置处。
在前面的说明中,已经描述了本公开的示例性实施方案。显而易见的是,在不脱离本公开的更广泛的实质和范围的情况下,可对其进行各种修改。相应地,说明书和附图被视为是例示性意义而不是限定性意义。所提供的描述和示例中的具体细节可用于一个或多个实施方案中的任何地方。不同实施方案或示例的各种特征可与所包括的一些特征和排除的其他特征不同地组合,以适应多种不同的应用。示例可包括主题,诸如方法,用于执行该方法的行为的装置,包括指令的至少一种机器可读介质,所述指令在由机器执行时使得机器执行该方法的行为,或者根据本文所述的实施方案和示例执行装置或***的动作。另外,本文描述的各种部件可以是用于执行本文描述的操作或功能的装置。
一个实施方案提供了非暂态机器可读介质,该非暂态机器可读介质存储指令,该指令使无线通信设备的一个或多个处理器执行操作,该操作包括:当无线通信设备在目标无线设备的阈值距离内时,使用一个或多个无线测距操作确定到目标无线设备的距离和方向;经由从在无线通信设备内的惯性测量单元接收的传感器数据确定该无线通信设备的姿态;基于距离、方向和姿态来确定目标无线设备相对于无线通信设备的目标位置估计;生成包括无线设备的目标位置估计的增强现实视图;以及经由无线通信设备的显示器呈现增强现实视图。
一个实施方案提供了电子设备,该电子设备包括:无线控制器,该无线控制器包括测距传感器和通信无线电设备;显示设备;存储器,该存储器用于存储指令;以及一个或多个处理器,该一个或多个处理器用于执行指令。该指令使一个或多个处理器:经由无线控制器的通信无线电设备扫描信标广告;以及响应于检测到目标无线设备的信标广告,向目标无线设备传输命令以发起与电子设备的双向测距操作。该一个或多个处理器还可:在双向测距操作期间经由无线控制器的测距传感器确定到目标无线设备的距离和方向;基于到目标无线设备的距离和方向来确定目标无线设备相对于电子设备的目标位置估计;生成包括无线设备的目标位置估计的增强现实视图;以及经由显示设备呈现增强现实视图。
一个实施方案提供了方法,该方法包括在包括一个或多个处理器的无线通信设备上:当无线通信设备在目标无线设备的阈值距离内时,使用一个或多个无线测距操作确定到目标无线设备的距离和方向。该方法还包括:经由从在无线通信设备内的惯性测量单元接收的传感器数据来确定该无线通信设备的姿态;基于到目标无线设备的距离和方向来确定目标无线设备相对于无线通信设备的目标位置估计;以及生成包括无线设备的目标位置估计的增强现实视图。该方法还包括经由无线通信设备的显示器呈现增强现实视图。
一个实施方案提供了目标无线设备上的方法以向配对的无线通信设备(例如移动设备)发信号通知目标无线设备的运动已超过阈值。响应于与配对的通信设备建立无线测距会话,目标无线设备可使目标无线设备上的运动传感器能够确定目标无线设备的运动是否超过运动阈值。响应于确定运动超过运动阈值,目标无线设备可经由多种无线信令技术中的一者向无线通信设备发信号通知目标设备运动已经超过运动阈值。
一个实施方案提供了一种在无线通信设备处指示是否可确定和显示目标无线设备的位置的方法。无线通信设备可经由从目标无线设备接收到的无线数据确定目标无线设备的运动状态。无线通信设备可经由由无线通信设备的传感器处理器处理的传感器数据来确定无线通信设备的运动状态。如果无线通信设备确定两个设备都超过了运动阈值,则无线通信设备可经由用户界面显示要求更少移动来检测到目标无线设备的方向的消息。如果两个设备的运动都未超过运动阈值,则无线通信设备可基于目标无线设备的运动状态来确定要显示的UI视图,使得如果目标设备运动超过运动阈值,则无线通信设备可显示目标无线设备正在移动和正在确定新位置的消息。如果目标无线设备和无线通信设备的运动低于运动阈值,则无线通信设备可确定目标无线设备的位置估计并且在设备位置UI中显示针对目标无线设备的设备位置和/或方向。
还可提供了执行上述方法中的任何方法的操作的***和/或非暂态机器可读介质。
通过前述描述,本领域的技术人员将会知道,这些实施方案的广泛技术可以多种形式来实现。因此,虽然已经结合实施方案的特定示例描述了实施方案,但是实施方案的真实范围不应如此限制,因为在研究附图、说明书和所附权利要求书之后,其他修改对于技术人员来说将变得显而易见。

Claims (20)

1.一种非暂态机器可读介质,所述非暂态机器可读介质存储指令,所述指令用于使无线通信设备的一个或多个处理器执行操作,所述操作包括:
当所述无线通信设备在目标无线设备的阈值距离内时,使用一个或多个无线测距操作确定到所述目标无线设备的距离和方向;
基于到所述目标无线设备的所述距离和方向来确定所述目标无线设备相对于所述无线通信设备的目标位置估计;
生成增强现实视图,所述增强现实视图包括所述目标无线设备的所述目标位置估计;以及
经由所述无线通信设备的显示器呈现所述增强现实视图。
2.根据权利要求1所述的非暂态机器可读介质,其中所述增强现实视图包括经由所述无线通信设备的相机捕获的视频,并且所述目标位置估计定位在所述视频内的针对所述目标无线设备确定的位置处。
3.根据权利要求1所述的非暂态机器可读介质,所述操作还包括经由从所述无线通信设备内的惯性测量单元接收的传感器数据来确定所述无线通信设备的姿态。
4.根据权利要求3所述的非暂态机器可读介质,所述操作还包括基于到所述目标无线设备的距离和方向以及所述无线通信设备的所述姿态来确定所述目标无线设备的所述目标位置估计。
5.根据权利要求4所述的非暂态机器可读介质,所述操作还包括基于到所述目标无线设备的多个距离测量来确定到所述目标无线设备的方向。
6.根据权利要求5所述的非暂态机器可读介质,所述操作还包括响应于所述无线通信设备的所述姿态的变化而经由所述无线通信设备的所述显示器呈现所述增强现实视图。
7.根据权利要求1所述的非暂态机器可读介质,其中所述一个或多个无线测距操作包括经由超宽带无线电执行的测距操作。
8.根据权利要求7所述的非暂态机器可读介质,其中经由所述超宽带无线电执行的所述测距操作包括飞行时间测量。
9.根据权利要求1所述的非暂态机器可读介质,所述操作还包括:
呈现具有示出所述目标无线设备的位置的标记的地图,所述地图在所述无线通信设备的显示器上经由位置查询界面而被呈现;以及
经由所述地图呈现到所述目标无线设备的方向和距离,所述方向和距离经由所述一个或多个无线测距操作而被确定。
10.根据权利要求9所述的非暂态机器可读介质,所述操作还包括经由所述位置查询界面呈现界面元素,以使所述位置查询界面能够转变到所述增强现实视图。
11.一种电子设备,包括:
无线控制器,所述无线控制器包括测距传感器和通信无线电设备;
显示设备;
存储器,所述存储器用于存储指令;以及
一个或多个处理器,所述一个或多个处理器用于执行所述指令,其中所述指令使所述一个或多个处理器:
经由所述无线控制器的所述通信无线电设备扫描信标广告;
响应于检测到目标无线设备的信标广告,向所述目标无线设备传输命令以发起与所述电子设备的双向测距操作;
在所述双向测距操作期间经由所述无线控制器的所述测距传感器确定到所述目标无线设备的距离和方向;
基于到所述目标无线设备的所述距离和方向来确定所述目标无线设备相对于所述电子设备的目标位置估计;
生成增强现实视图,所述增强现实视图包括所述目标无线设备的所述目标位置估计;以及
经由所述显示设备呈现所述增强现实视图。
12.根据权利要求11所述的电子设备,其中所述增强现实视图包括经由所述电子设备的相机捕获的视频,并且所述目标位置估计定位在所述视频内的针对所述目标无线设备确定的位置处。
13.根据权利要求11所述的电子设备,其中所述指令使所述一个或多个处理器经由从所述电子设备内的惯性测量单元接收的传感器数据来确定所述电子设备的姿态。
14.根据权利要求13所述的电子设备,其中所述指令使所述一个或多个处理器基于到所述目标无线设备的距离和方向以及所述电子设备的所述姿态来确定所述目标无线设备的所述目标位置估计。
15.根据权利要求14所述的电子设备,其中所述指令使所述一个或多个处理器响应于所述电子设备的所述姿态的变化而经由所述显示设备呈现所述增强现实视图。
16.根据权利要求11所述的电子设备,其中所述指令使所述一个或多个处理器:
呈现具有示出所述目标无线设备的位置的标记的地图,所述地图在所述显示设备上经由位置查询界面而被呈现;
经由所述地图呈现到所述目标无线设备的方向和距离,所述方向和距离经由一个或多个双向测距操作而被确定;以及
经由所述位置查询界面呈现界面元素,以使所述位置查询界面能够转变到所述增强现实视图。
17.一种方法,包括:
在包括一个或多个处理器的无线通信设备上:
当所述无线通信设备在目标无线设备的阈值距离内时,使用一个或多个无线测距操作确定到所述目标无线设备的距离和方向;
经由从所述无线通信设备内的惯性测量单元接收的传感器数据确定所述无线通信设备的姿态;
基于到所述目标无线设备的所述距离和方向以及所述无线通信设备的所述姿态来确定所述目标无线设备的目标位置估计;
生成增强现实视图,所述增强现实视图包括所述目标无线设备的所述目标位置估计;以及
经由所述无线通信设备的显示器呈现所述增强现实视图。
18.根据权利要求17所述的方法,其中所述增强现实视图包括经由所述无线通信设备的相机捕获的视频,并且所述目标位置估计定位在所述视频内的针对所述目标无线设备确定的位置处。
19.根据权利要求17所述的方法,还包括响应于所述无线通信设备的所述姿态的变化而经由所述无线通信设备的所述显示器呈现所述增强现实视图。
20.根据权利要求17所述的方法,其中所述一个或多个无线测距操作包括由所述目标无线设备广播的信标广告的接收信号强度指示(RSSI)测量或经由超宽带无线电执行的测距操作。
CN202080028758.XA 2019-04-17 2020-04-15 使用增强现实寻找目标设备 Pending CN113796099A (zh)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201962835494P 2019-04-17 2019-04-17
US62/835,494 2019-04-17
US201962855963P 2019-06-01 2019-06-01
US62/855,963 2019-06-01
PCT/US2020/028326 WO2020214708A1 (en) 2019-04-17 2020-04-15 Finding a target device using augmented reality

Publications (1)

Publication Number Publication Date
CN113796099A true CN113796099A (zh) 2021-12-14

Family

ID=70614595

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080028758.XA Pending CN113796099A (zh) 2019-04-17 2020-04-15 使用增强现实寻找目标设备

Country Status (4)

Country Link
US (1) US20220201428A1 (zh)
EP (1) EP3939340A1 (zh)
CN (1) CN113796099A (zh)
WO (1) WO2020214708A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11627437B2 (en) 2020-08-05 2023-04-11 Huawei Technologies Co., Ltd. Device searching method and electronic device
WO2023179751A1 (zh) * 2022-03-24 2023-09-28 华为技术有限公司 一种物体寻找方法、***以及电子设备
WO2024045604A1 (zh) * 2022-08-31 2024-03-07 青岛海尔科技有限公司 智能设备的定位方法、存储介质及电子装置

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019164514A1 (en) * 2018-02-23 2019-08-29 Google Llc Transitioning between map view and augmented reality view
US11641563B2 (en) 2018-09-28 2023-05-02 Apple Inc. System and method for locating wireless accessories
US11863671B1 (en) 2019-04-17 2024-01-02 Apple Inc. Accessory assisted account recovery
KR20210152289A (ko) * 2020-06-08 2021-12-15 삼성전자주식회사 카메라 모듈에 배치된 안테나 모듈을 포함하는 전자 장치
US11889302B2 (en) * 2020-08-28 2024-01-30 Apple Inc. Maintenance of wireless devices
US11991586B2 (en) * 2020-09-04 2024-05-21 Apple Inc. Techniques for changing frequency of ranging based on location of mobile device
US20220201434A1 (en) * 2020-12-18 2022-06-23 Samsung Electronics Co., Ltd. Coverage extension for device localization through collaborative ranging
CN116113911A (zh) * 2020-12-30 2023-05-12 谷歌有限责任公司 利用到达角数据的设备追踪
WO2022197746A1 (en) * 2021-03-19 2022-09-22 Meta Platforms Technologies, Llc Systems and methods for automatic triggering of ranging
US11729551B2 (en) 2021-03-19 2023-08-15 Meta Platforms Technologies, Llc Systems and methods for ultra-wideband applications
US20220304084A1 (en) 2021-03-19 2022-09-22 Facebook Technologies, Llc Systems and methods for combining frames
US20220394660A1 (en) * 2021-06-04 2022-12-08 Apple Inc. Device Location Finding
US11770680B2 (en) * 2021-06-11 2023-09-26 Hand Held Products, Inc. Methods and apparatuses for automatically commissioning locators
DE102021118998A1 (de) 2021-07-22 2023-01-26 Eto Magnetic Gmbh Multifunktionstag
US11799967B1 (en) * 2021-12-22 2023-10-24 Meta Platforms, Inc. Ultra-wide band communication system for augmented reality

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107328424A (zh) * 2017-07-12 2017-11-07 三星电子(中国)研发中心 导航方法和装置
CN108520552A (zh) * 2018-03-26 2018-09-11 广东欧珀移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN108604129A (zh) * 2016-02-04 2018-09-28 苹果公司 基于无线测距来控制电子设备和显示信息
CN109596118A (zh) * 2018-11-22 2019-04-09 亮风台(上海)信息科技有限公司 一种用于获取目标对象的空间位置信息的方法与设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108604129A (zh) * 2016-02-04 2018-09-28 苹果公司 基于无线测距来控制电子设备和显示信息
CN107328424A (zh) * 2017-07-12 2017-11-07 三星电子(中国)研发中心 导航方法和装置
CN108520552A (zh) * 2018-03-26 2018-09-11 广东欧珀移动通信有限公司 图像处理方法、装置、存储介质及电子设备
CN109596118A (zh) * 2018-11-22 2019-04-09 亮风台(上海)信息科技有限公司 一种用于获取目标对象的空间位置信息的方法与设备

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11627437B2 (en) 2020-08-05 2023-04-11 Huawei Technologies Co., Ltd. Device searching method and electronic device
US11889386B2 (en) 2020-08-05 2024-01-30 Huawei Technologies Co., Ltd. Device searching method and electronic device
WO2023179751A1 (zh) * 2022-03-24 2023-09-28 华为技术有限公司 一种物体寻找方法、***以及电子设备
WO2024045604A1 (zh) * 2022-08-31 2024-03-07 青岛海尔科技有限公司 智能设备的定位方法、存储介质及电子装置

Also Published As

Publication number Publication date
US20220201428A1 (en) 2022-06-23
EP3939340A1 (en) 2022-01-19
WO2020214708A1 (en) 2020-10-22

Similar Documents

Publication Publication Date Title
US20220201428A1 (en) Proximity Enhanced Location Query
CN110972070B (zh) 用于定位无线附件的***和方法
US20220394660A1 (en) Device Location Finding
US20220301410A1 (en) Separation notifications for wireless accessories
EP4266710A1 (en) Location data harvesting and pruning for wireless accessory devices
US20220394428A1 (en) Pairing Groups of Accessories
US20240129690A1 (en) Distributed Device Location Finding
US20230379994A1 (en) Pairing Groups of Accessories

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information

Inventor after: M. N. paulin

Inventor after: M. C. RAST

Inventor after: S. Lopatine

Inventor after: R W Mel

Inventor after: S.G. Mo

Inventor after: M. K. Bonia

Inventor after: T. Rochette

Inventor after: S. B. shavitz

Inventor after: J. R. Schoenberg

Inventor after: C. Sell

Inventor after: N. D. shulunis

Inventor after: T. Ertan

Inventor after: Y. L. Sierra

Inventor after: S.A. Miles

Inventor after: T. Taubert

Inventor after: B. M. Li dewina

Inventor after: K. C. Brugg

Inventor after: A. Derrick Cole

Inventor after: E. T. Edelman

Inventor after: J. F. frodig

Inventor after: S. Hariri Haran

Inventor after: E. Rand

Inventor before: M. N. paulin

Inventor before: M. C. RAST

Inventor before: S. Lopatine

Inventor before: R W Mel

Inventor before: S.G. Mo

Inventor before: M. K. Bonia

Inventor before: T. Rochette

Inventor before: S. B. shavitz

Inventor before: J. R. Schoenberg

Inventor before: C. Sell

Inventor before: N. D. shulunis

Inventor before: T. Ertan

Inventor before: Y. L. Sierra

Inventor before: B. M. Li dewina

Inventor before: K. C. Brugg

Inventor before: A. Derrick Cole

Inventor before: E. T. Edelman

Inventor before: J. F. frodig

Inventor before: S. Hariri Haran

Inventor before: E. Rand

CB03 Change of inventor or designer information