CN108073277B - 用于工业自动化的虚拟现实和增强现实的***和方法 - Google Patents
用于工业自动化的虚拟现实和增强现实的***和方法 Download PDFInfo
- Publication number
- CN108073277B CN108073277B CN201711092322.3A CN201711092322A CN108073277B CN 108073277 B CN108073277 B CN 108073277B CN 201711092322 A CN201711092322 A CN 201711092322A CN 108073277 B CN108073277 B CN 108073277B
- Authority
- CN
- China
- Prior art keywords
- data
- presentation
- video
- industrial
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B23/00—Testing or monitoring of control systems or parts thereof
- G05B23/02—Electric testing or monitoring
- G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
- G05B23/0208—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the configuration of the monitoring system
- G05B23/0216—Human interface functionality, e.g. monitoring system providing help to the user in the selection of tests or in its configuration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/005—General purpose rendering architectures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/181—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/32—Operator till task planning
- G05B2219/32014—Augmented reality assists operator in maintenance, repair, programming, assembly, use of head mounted display with 2-D 3-D display and voice feedback, voice and gesture command
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/01—Indexing scheme relating to G06F3/01
- G06F2203/012—Walk-in-place systems for allowing a user to walk in a virtual environment while constraining him to a given position in the physical environment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/44—Event detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/06—Recognition of objects for industrial automation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/398—Synchronisation thereof; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Computer Graphics (AREA)
- Automation & Control Theory (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- User Interface Of Digital Computer (AREA)
- Testing And Monitoring For Control Systems (AREA)
Abstract
本发明公开了一种用于工业自动化的虚拟现实和增强现实。工业可视化***生成工业设施的虚拟现实(VR)和增强现实(AR)呈现并且将其传送至可穿戴器具,以便于与设施内的自动化***的远程或增强交互。VR呈现可以包括工厂设施内的位置或工厂设施的三维(3D)全息视图。***可以选择性地渲染按比例缩小的视图,其将设施渲染为3D比例模型或渲染为第一人称视图,所述第一人称视图将设施渲染为模拟用户存在于工厂地面上的全尺度演示。可以选择在VR呈现中渲染的摄像机图标,以切换至由工厂内的360度摄像机生成的实况视频流。***还可以渲染工作流呈现,该工作流呈现通过纠正检测到的维护问题的过程来指导用户。
Description
相关申请的交叉引用
本申请要求于2016年11月8日提交的题为“VIRTUAL REALITY AND AUGMENTEDREALITY FOR INDUSTRIALAUTOMATION”的美国临时申请序列第62/419,061号的优先权,其全部内容通过引用并入本文中。
技术领域
本文公开的主题一般性地涉及工业自动化***,并且更具体地涉及工业数据的可视化。
背景技术
工业自动化***通常包括一个或更多个人机界面(HMI),其使得工厂人员能够查看与自动化***相关联的遥测数据和状态数据,并且控制***操作的一些方面。HMI可以通过工厂网络与工业控制器中的一个或更多个进行通信,并且与工业控制器交换数据,以便于在一个或更多个预开发的操作者接口屏幕上使与受控工业过程相关的信息可视化。HMI还可以被配置成使得操作者能够向工业控制器的指定的数据标签或存储地址提交数据,从而为操作者提供方法以向受控***发布命令(例如,循环启动命令、装置致动命令等)、修改设定点值等。HMI 11可以生成一个或更多个显示屏,操作者通过一个或更多个显示屏与工业控制器118交互并且从而与受控过程和/或***交互。
通常,为了查看与由构成工业控制环境的机器和装置执行的工业过程有关的信息,用户必须依靠在HMI上执行的预开发的接口显示屏,或者使用便携式计算机直接连接至装置,以便查看控制编程和装置配置。
当今的工业数据可视化***的上述缺点仅旨在提供对常规***的一些问题的概述,而不旨在是详尽的。常规***的其它问题以及本文所描述的各个非限制性实施方式的相应优点在查阅以下描述后会变得更加显而易见。
发明内容
下文中给出了简要的概述,以便提供对本文中所描述的一些方面的基本理解。该概述既不是广泛综述也不意在识别关键/重要元件或者描述本文中所描述的各个方面的范围。该概述的唯一目的是以简要的形式给出一些概念,以作为随后要给出的更详细的描述的序言。
在一个或更多个实施方式中,提供了一种***,包括:装置接口部件,其被配置成从与工业设施相关联的工业装置接收工业数据;视频处理部件,其被配置成从安装在工业设施的相应位置处的视频捕获装置接收和存储视频数据;渲染部件,其被配置成生成增强现实呈现数据,所述增强现实呈现数据在可穿戴器具上渲染工业设施的增强现实呈现,其中,所述增强现实呈现包括摄像机图标,该摄像机图标被渲染在增强现实呈现内与工业设施的安装有视频捕获装置的位置对应的位置处;以及客户端接口部件,其被配置成将增强现实呈现数据发送至可穿戴器具,其中,所述渲染部件还被配置成:响应于接收到来自可穿戴器具的、指示摄像机图标中的摄像机图标经由用户输入被选择的摄像机选择数据,将增强现实呈现从工业设施的虚拟视图转换成视频呈现,所述视频呈现在可穿戴器具上渲染从视频捕获装置中与所述摄像机图标对应的视频捕获装置接收到的视频数据的子集。
而且,在一个或更多个实施方式中,提供了一种方法,包括通过包括处理器的***接收由工业设施的工业装置生成的工业数据;通过***接收由安装在工业设施内的相应位置处的视频捕获装置生成的视频数据;通过***基于工业数据在可穿戴器具上渲染工业设施的增强现实表示,其中,所述渲染包括在增强现实表示上与工业设施内的位置对应的位置处渲染摄像机图标;响应于接收到来自可穿戴器具的、识别摄像机图标中已经经由用户输入选择的摄像机图标的摄像机选择数据,通过***将增强现实表示从工业设施的虚拟视图转换成视频呈现;以及通过***将从视频捕获装置中与所述摄像机图标对应的视频捕获装置接收到的视频数据的子集作为视频呈现流传输到可穿戴器具。
此外,根据一个或更多个实施方式,提供了一种存储有指令的非暂态计算机可读介质,所述指令响应于执行使***执行操作,所述操作包括:接收由工业设施的工业装置生成的工业数据;接收由安装在工业设施内的相应位置处的视频捕获装置生成的视频数据;基于工业数据在可穿戴器具上渲染工业设施的增强现实呈现;在增强现实呈现内与工业设施内的位置对应的位置处渲染摄像机图标;并且响应于接收到由可穿戴器具生成的、识别摄像机图标中已经经由用户输入选择的摄像机图标的摄像机选择数据,将增强现实呈现从工业设施的虚拟视图转换成视频呈现,其中,所述视频呈现包括渲染由视频捕获装置中由所述摄像机图标表示的视频捕获装置生成的视频数据的子集。
为了实现前述和相关的目的,本文中结合下面的描述和附图来描述某些说明性的方面。这些方面表示可以被实践的各种方式,各种方式中的所有方式旨在涵盖于本文中。根据下面结合附图考虑时的具体实施方式,其他优点和新型特征可以变得明显。
附图说明
图1是示例工业控制环境的框图。
图2是示出了将增强或虚拟现实呈现呈现给由用户穿戴的可穿戴器具或计算装置的概念图。
图3是示例虚拟和增强现实呈现***的框图。
图4是示例可穿戴器具的框图。
图5是包括用作用于工业设施的增强和虚拟现实呈现的内容提供的VR/AR呈现***的一般性示例架构的框图。
图6A是示出了VR/AR呈现***的部件和数据流的框图。
图6B是示出了***包括单独的内容提供者和渲染***的VR/AR呈现***的部件和数据流的框图。
图7是示出了由VR/AR呈现***利用以生成虚拟和增强现实呈现的数据输入的图。
图8是示出了可以由VR/AR呈现***的渲染部件生成的工业区域的示例VR/AR现实呈现的演示。
图9是示出了工业区域的示例VR/AR现实呈现的另一个演示。
图10是示出了工业区域的示例VR/AR现实呈现的另一个演示。
图11是基于工厂模型和用户当前定向的由渲染部件生成的生产区域的示例第一人称视图。
图12是示出了VR/AR呈现***、可穿戴器具与工业控制器之间的数据流的图。
图13是示出了便利于用于生成虚拟现实或增强现实呈现的可穿戴器具与一个或更多个工业装置之间的通信的示例数据流的图。
图14A和图14B是示出了将视频信息合并到由VR/AR呈现***生成的VR呈现中的示例配置的图。
图15是包括摄像机图标的示例VR呈现的透视图。
图16是示出了用于传送交互式工作流呈现的VR/AR呈现***、工业设备与可穿戴器具之间的示例数据流的图。
图17是示出了当用户纠正停机时间问题时将实时工作流反馈传送至可穿戴器具的图。
图18是示出了正在测试的控制程序与工业设施的VR/AR模型之间的交互的一般性框图。
图19A是用于用转换成实况视频馈送的选项创建和渲染工业设施的VR/AR呈现的示例方法的第一部分的流程图。
图19B是用于用转换成实况视频馈送的选项创建和渲染工业设施的VR/AR呈现的示例方法的第二部分的流程图。
图19C是用于用转换成实况视频馈送的选项创建和渲染工业设施的VR/AR呈现的示例方法的第二部分的流程图。
图20A是用于控制工业设施的VR/AR呈现的示例方法的第一部分的流程图。
图20B是用于控制工业设施的VR/AR呈现的示例方法的第二部分的流程图。
图21是用于经由使用可穿戴器具的虚拟控制面板与工业自动化***连接的示例方法的流程图。
图22A是用于生成增强现实呈现以通过解决检测到的维护问题的过程指导工厂人员的示例方法的第一部分的流程图。
图22B是用于生成增强现实呈现以通过解决检测到的维护问题的过程指导工厂人员的示例方法的第二部分的流程图。
图23是示例计算环境。
图24是示例联网环境。
具体实施方式
现在将参照附图来描述本主题公开内容,其中贯穿全文,相同的附图标记用于指代相同的元素。在以下描述中,出于解释的目的,阐述了许多特定细节以便提供对其的彻底理解。然而,明显的是,本主题公开内容可以在没有这些特定细节的情况下进行实践。在其他实例中,公知的结构和装置以框图的形式示出以便利于对其进行描述。
如在本申请中所使用的,术语“部件”、“***”、“平台”、“层”、“控制器”、“终端”、“站”、“节点”、“接口”旨在指示计算机相关实体或者与具有一个或更多个特定功能的操作装置有关或作为其一部分的实体,其中这样的实体可以是硬件、硬件与软件的组合、软件或执行中的软件。例如,部件可以是但不限于:在处理器上运行的进程;处理器;硬盘驱动器;包括固定(例如,螺纹连接或螺栓连接)的固态存储驱动器或可拆卸地固定的固态存储驱动器的(光学或磁存储介质的)多个存储驱动器;对象;可执行文件;执行的线程;计算机可执行程序;和/或计算机。作为说明,在服务器上运行的应用和服务器二者均可以是部件。一个或更多个部件可以驻留在进程和/或执行的线程内,并且部件可以位于一个计算机上以及/或者分发在两个或更多个计算机之间。此外,本文所描述的部件可以从其上存储有各种数据结构的各种计算机可读存储介质执行。部件可以经由本地和/或远程处理例如根据具有一个或更多个数据包的信号(例如,来自经由该信号与本地***、分布式***中的另一部件和/或跨网络如因特网与其他***进行交互的一个部件的数据)进行通信。作为另一示例,部件可以是具有由下述电气或电子电路操作的机械部件提供的特定功能的装置,所述电气或电子电路由处理器执行的软件或固件应用来操作,其中处理器可以在该装置的内部或外部并且执行软件或固件应用的至少一部分。作为又一示例,部件可以是通过电子部件而不是机械部件提供特定功能的装置,该电子部件可以包括其中的处理器以执行至少部分提供电子部件的功能的软件或固件。作为又一示例,(一个或更多个)接口可以包括输入/输出(I/O)部件及其相关联的处理器、应用或应用编程接口(API)部件。尽管前述示例涉及部件的各方面,但例示方面或特征也适用于***、平台、接口、层、控制器、终端等。
如本文所使用的,术语“推断”和“推论”通常是指从如经由事件和/或数据所捕获的一组观察结果中推出或推断***、环境和/或用户的状态的过程。例如,可以采用推论来识别特定背景或动作,或者可以生成关于状态的概率分布。推论可以是概率性的,也就是说,基于事件和数据的考虑来计算关于所关注状态的概率分布。推论还可以指用于从一组事件和/或数据构成较高级别的事件所采用的技术。这样的推论导致从一组观察到的事件和/或所存储的事件数据构造出新事件或动作,无论该事件是否以紧密的时间接近度相关,以及事件和数据是否来自一个或若干个事件和数据源。
另外,术语“或”旨在意指包含性的“或”而非排他性的“或”。也就是说,除非另外指定或从上下文中清楚可见,否则短语“X采用A或B”旨在意指本质包含性的排列中的任何排列。也就是说,以下实例中的任何实例满足短语“X采用A或B”:X采用A;X采用B;或者X采用A和B二者。另外,除非另有指定或从上下文清楚可见涉及单数形式,否则在本申请和所附权利要求中所使用的冠词“一”和“一个”通常应当被解读为是指“一个或更多个”。
此外,如本文中所使用的术语“集合”不包括空集,例如,其中没有元素的集合。因此,本主题公开内容中的“集合”包括一个或更多个元素或实体。作为说明,控制器的集合包括一个或更多个控制器;数据资源的集合包括一个或更多个数据资源等。同样地,如本文所使用的术语“组”是指一个或更多个实体的集合,如一组节点是指一个或更多个节点。
将按照可以包括许多设备、部件和模块等的***来呈现各个方面或特征。要理解和领会的是,各个***可以包括另外的设备、部件、模块等,以及/或者各个***可以不包括结合附图所讨论的全部设备、部件、模块等。还可以使用这些方法的组合。
工业控制器及其相关联的I/O设备是现代自动化***的操作的中心。这些控制器与工厂地面的现场装置进行交互,以控制与如产品制造、材料处理、批量加工、监督控制以及其他这样的应用之类的目的有关的自动化过程。工业控制器存储并且执行用户定义的控制程序,以实现与受控过程有关的决策制定。这样的程序可以包括但不限于:梯形逻辑、顺序功能图、功能块图、结构化文本或其他这样的平台。
图1是示例工业控制环境100的框图。在该示例中,多个工业控制器118被部署在整个工业工厂环境中,以监视和控制与产品制造、加工、运动控制、批量处理、材料处理或其他这样的工业功能有关的相应工业***或过程。工业控制器118通常执行相应控制程序,以便于监视和控制构成受控工业***的工业装置120。一个或更多个工业控制器118还可以包括在个人计算机或其他硬件平台上执行的软控制器,或者将控制器功能与其他功能(例如可视化)组合的混合装置。由工业控制器118执行的控制程序可以包括用于处理从工业装置120读取的输入信号并且控制由工业控制器产生的输出信号的任何可想到的类型的代码,包括但不限于梯形逻辑、顺序功能图、功能框图或结构化文本。
工业装置120可以包括:输入装置,其向工业控制器118提供与受控工业***有关的数据;以及输出装置,其响应于由工业控制器118产生的控制信号来控制工业***的各个方面。示例输入装置可以包括遥测装置(例如,温度传感器、流量计、液位传感器、压力传感器等)、手动操作者控制装置(例如,按钮、选择器开关等)、安全监视装置(例如,安全垫、安全拉绳、光幕等)以及其他这样的装置。输出装置可以包括马达驱动器、气动致动器、信号装置、机器人控制输入、阀等。
工业控制器118可以通过硬连线连接或网络连接与工业装置120通信上连接。例如,工业控制器118可以配备有与工业装置120进行通信来影响对装置的控制的本地硬连线输入端和输出端。本地控制器I/O可以包括向现场装置发送离散电压信号并从现场装置接收离散电压信号的数字I/O或者向装置发送模拟电压或电流信号并从装置接收模拟电压或电流信号的模拟I/O。控制器I/O可以通过背板与控制器的处理器进行通信,使得数字信号和模拟信号可以被控制程序读入并控制。工业控制器118还可以通过使用例如通信模块或集成网络端口的网络与工业装置120进行通信。示例性网络可以包括因特网、内联网、通用工业协议(CIP)、以太网、装置网(DeviceNet)、控制网(ControlNet)、数据高速通道和数据高速通道加(DH/DH+)、远程I/O、现场总线、Modbus、Profibus、无线网络、串行协议等。工业控制器118还可以存储可以由控制程序引用并且用于控制决策的持续数据值,其包括但不限于:表示受控机器或过程的操作状态(例如,灌内液面、位置、警告等)的测量或计算的值,或者自动化***的操作期间收集的捕获的时间序列数据(例如,多个时间点的状态信息、诊断事件等)。
工业自动化***通常包括一个或更多个人机界面(HMI)114,其使得工厂人员能够查看与自动化***相关联的遥测数据和状态数据,并且控制***操作的一些方面。HMI 114可以通过工厂网络116与工业控制器118中的一个或更多个进行通信,并且与工业控制器交换数据,以便于在一个或更多个预开发的操作者接口屏幕上使与受控工业过程相关的信息可视化。HMI 114还可以被配置成使得操作者能够向工业控制器118的指定的数据标签或存储地址提交数据,从而为操作者提供方法以向受控***发布命令(例如,循环启动命令、装置致动命令等)、修改设定点值等。HMI 114可以生成一个或更多个显示屏,操作者通过一个或更多个显示屏与工业控制器118交互并且从而与受控过程和/或***交互。示例显示屏可以使用以下处理的图形表示来使工业***或它们相关联的装置的当前状态可视化:其显示计量或计算的值,使用基于状态的颜色或位置动画,呈现警报通知,或者使用用于向操作者呈现相关数据的其他这样的技术。以该方式呈现的数据由HMI 114从工业控制器118读取,并且根据由HMI开发者选择的显示格式被呈现在显示屏中一个或更多个上。
通常,为了查看与由构成工业控制环境100的机器和装置执行的工业过程有关的信息,用户必须依靠在HMI 114上执行的预开发的接口显示屏(参见用户122),或者使用便携式计算机直接连接至装置,以便查看控制编程和装置配置(参见用户124)。虽然这些数据可视化***使得用户能够查看与各种机器和装置相关联的相关数据值和警告,但是这些***的本地化特性要求用户物理地靠近HMI终端或工业控制器,以便针对给定的工业***或机器查看操作和状态数据。此外,HMI显示器和控制器编程工具在出现机器故障或其他性能问题的情况下几乎没有提供故障排除指导或分析的方式。通常,经由HMI屏幕或控制器编程工具呈现机器和装置数据的方式要求用户将呈现在屏幕上的数据与用户自己的相关机器或装置的直观视图视觉上相关联。
当诊断问题时,维护人员经常需要使用特定于正被搜索的相应数据源的几个不同的软件包来单独搜索这些信息源中的几个。此外,搜索关于特定装置或机器的信息经常需要对整个工业***的广泛了解,以便定位要搜索的数据源(例如,以便定位适当的工业控制器或HMI终端),以及以识别相关的操作者屏幕和控制程序例程。与解决***停机时间问题或其他问题结合地,单独搜索这些数据源中的每一个可能会延迟维护问题的纠正,从而导致收入损失和调度问题。此外,如果操作者或维护人员在操作或维护问题发生时不在信息源(例如HMI终端)附近,则可能不会及时通知用户该问题。
为了解决这些和其他问题,本公开内容的一个或更多个实施方式提供了一种生成增强现实(AR)或虚拟现实(VR)呈现(在此统称为“VR/AR呈现”)并经由可穿戴计算机或其他客户端装置将其传送至用户的***。由***生成的VR/AR呈现可以包括工厂设施的三维(3D)全息视图或工厂设施内的位置(例如,工作区域、生产线等)。全息视图可以被传送至可穿戴的可视化计算机,其根据用户的当前位置和/或定向来渲染3D视图。***可以渲染工厂地面区域的按比例缩小的视图,其为用户提供该区域的外部概览。该外部视图可以包括表示人类操作者的实时头像(avatar)、叠加的生产统计信息和状态数据以及其他信息。根据用户选择输入,***可以从该外部视图切换至内部视图,其从站在环境中的人的视角来渲染工厂地面区域的现实呈现。该内部视图可以包括放置在相关工业装置或控制面板的表示上或附近的叠加操作和状态数据。
呈现***302还可以被配置成与安装在工厂环境中的一个或更多个位置处的视频捕获装置(例如,360度摄像机、网络摄像头、基于旋转的IP摄像机等)共同工作。在360度摄像机与***集成的示例实现中,呈现***302可以根据请求将工厂地面的实况360度视频馈送传送至用户的可穿戴器具206。例如,上述外部视图可以包括表示能够提供实况视频馈送的360度摄像机的摄像机图标。响应于由用户执行并可由用户的可穿戴可视化装置识别的手势(或响应于可识别的自然语言口头命令),呈现***可以从外部视图切换至传送至用户的可穿戴装置的360度实况视频馈送。视频的视角可以根据用户的当前观看方向或头部定向而改变,从而向远程位置处的用户提供工厂地面的现实的实况视图。在一些实施方式中,呈现***可以利用定位在相关机器或装置的视图表示上或其附近的叠加操作或状态数据来增强或增加该实况视图,从而产生环境的增强现实视图。
对于物理上位于工厂地面的用户,VR/AR呈现***可以经由修改用户的他的或她的直接环境的视图来向用户提供自动化***数据、通知和主动指导。这样的修改可以包括例如通过用户的可穿戴计算机(或能够渲染机器或***的基本上实时的视图的其他客户端装置)将数据值或指示符叠加在用户的机器或自动化***的视图上。***可以基于用户的角色、位置、视线、可穿戴装置的类型和/或其他环境信息来定制该信息的呈现。
通常,呈现***可以经由具有至少一个图像感觉输入端的可穿戴器具获得具有至少一个对象的工业自动化装置的“真实世界”图像。***利用与工业自动化***的至少一个识别的对象相关联的虚拟或增强现实图像、数据等来补充器具上的真实世界图像。真实世界工业自动化装置或至少一个识别的对象可以与至少一个对象或真实世界工业自动化装置的虚拟/增强属性显示一起显示在器具上。虚拟或增强现实呈现可以包括但不限于:修订信息、拓扑信息、控件、固件、连接、问题、警报、训练、人机界面、控制器/设备的位置、地图、手册、指令、线图表、阶梯程序、位置、头像、过滤视图、摄像机、X射线视图、可移动视图、故障排除、操作方法(how-to’s)、防错技术(error proofing)、安全机器人、客户信息、设备信息、过滤器、视线过滤器、知识共享门户、工作流程、视图/抓取HMI、视线(包括遥远的视线)、超能视线(super power line of sight)、认证、权限控制和资产跟踪。
图2是示出了将增强或虚拟现实呈现204呈现到由用户穿戴的可穿戴器具206或计算装置的概念图。可穿戴器具206可以包括能够渲染基本上围绕用户的视野的虚拟现实或增强现实呈现的任何合适的可穿戴或便携式计算装置或器具。如将在本文中更详细地描述的,通过用户的可穿戴器具206与用作内容提供者的VR/AR呈现***之间的数据交换来便于用户与AR或VR呈现204的交互。然而,可穿戴器具206的一些实施方式还可以被配置成建立与工业装置的直接通信信道,以向这些装置发送控制指令。为此,可穿戴器具206的一个或更多个实施方式可以包括在驻留在工业网络——例如通用工业协议(CIP)网络、装置网网络、控制网网络、以太网IP网络或其他网络——上的工业***与可穿戴器具206之间建立连接的通信栈。可穿戴器具206可以包括能够渲染虚拟现实或增强现实呈现的任何合适的可穿戴或便携式计算装置或器具。
响应于例如用户确定的角色、位置、视线或其他信息的各种条件,***可以生成增强或虚拟现实呈现并且将其传送至用户的可穿戴器具206。用于填充呈现204的数据可以通过来自相关工业装置的VR/AR呈现***获得并且作为VR/AR呈现204的一部分传送。在一些场景下,可穿戴器具206还可以借助于通信栈经由工业网络直接从工业装置中获得工业数据的至少一部分,所述通信栈将可穿戴器具206连接至网络上的各种装置。这些装置可以包括例如控制器、人机界面(HMI)装置和马达驱动器的单独装置以及容纳在控制面板中或构成受控工业机器或***的装置的集合。VR/AR呈现***可以基于用户的当前环境、视线、用户正在使用的客户端装置的类型(例如,可穿戴计算机、手持装置等)和/或其他相关信息来定制呈现204,使得可以基于在工业网络上可用的数据的相关子集来生成定制的增强现实或虚拟现实呈现。
在示例场景中,当用户正在通过可穿戴计算机(或作为在用户的客户端装置上渲染的基本上实时的视频图像)来查看自动化***、机器或工业装置时,VR/AR呈现***可以监测可穿戴计算机以确定用户相对于自动化***的位置、用户的当前视线或视场、和/或指示用户与自动化***的关系的其他上下文信息。基于当前正在由用户查看的自动化***的确定身份,VR/AR呈现***可以确定构成自动化***的装置和/或机器或者正在由自动化***执行的过程的当前状态信息。然后,VR/AR呈现***可以生成增强现实或虚拟现实呈现,并且将这些呈现传送至用户的可穿戴器具;例如,作为覆盖在用户视场上的基于图形或文本的指示符,使得每个指示符定位于指示符所属的机器或装置附近。例如,如果用户的当前视图包括实际或虚拟的马达驱动输送器和控制马达的马达驱动器,则呈现***可以在如用户感觉到的马达驱动器的图像或视图附近叠加马达驱动器的当前操作状态(例如,当前速度、故障状态、操作模式等)。如果用户当前正在观看压铸炉,则呈现***可以在炉的视图附近叠加当前炉温。
在另一示例中,VR/AR呈现***的监测部件可以基于对由自动化***生成的基本上实时的***数据的分析来识别维护问题。响应于检测到这样的维护问题,呈现***可以向与合格的工厂技术员相关联的可穿戴器具或其他客户端装置传送通知。为了帮助所选择的用户定位检测到的问题的源头,VR/AR呈现***可以将图形叠加在将用户引导到问题的源头的用户的他的或她的环境的视图上。这些图形可以包括例如:将用户引导到受影响的机器或装置的箭头或其他指示符,以及将用户的注意力焦点引导到需要注意的自动化***、机器或工业装置的特定区域或部件的指示符。
图3是根据本公开内容的一个或更多个实施方式的示例虚拟和增强现实呈现***302(在此也称为VR/AR呈现***)的框图。在本公开内容中说明的***、设备或过程的各方面可以构成体现在(一个或更多个)机器内例如体现在与一个或更多个机器相关联的一个或更多个计算机可读介质(或介质)中的机器可执行部件。这些部件当由一个或更多个机器(例如(一个或更多个)计算机、(一个或更多个)计算装置、(一个或更多个)自动化装置、(一个或更多个)虚拟机等)执行时可以使(一个或更多个)机器执行描述的操作。
VR/AR呈现***302可以包括客户端接口部件304、认证部件306、渲染部件308、报告部件310、视频处理部件312、装置接口部件314、监测部件316、一个或更多个处理器320和存储器322。在各种实施方式中,客户端接口部件304、认证部件306、渲染部件308、报告部件310、视频处理部件312、装置接口部件314、监测部件316、一个或更多个处理器320和存储器322中的一个或更多个可以彼此电耦接和/或通信地耦接,以执行VR/AR呈现***302的功能中的一个或更多个。在一些实施方式中,部件304、306、308、310、312、314和316可以包括存储在存储器322上并由(一个或更多个)处理器320执行的软件指令。VR/AR呈现***302还可以与图3中未示出的其他硬件和/或软件部件交互。例如,(一个或更多个)处理器320可以与一个或更多个外部用户接口装置例如键盘、鼠标、显示监视器、触摸屏或其他这样的接口装置交互。
客户端接口部件304可以被配置成在VR/AR呈现***302与具有访问***的授权的可穿戴器具或其他客户端装置之间交换信息。例如,客户端接口部件304可以基于如下的监测来接收关于用户的上下文信息:用户的可穿戴器具或其他客户端装置、装置或机器身份信息(例如,由可穿戴器具从与装置或机器相关联的光学代码获得的信息),来自可穿戴器具的用于从呈现中添加或移除信息的请求,来自可穿戴器具的用于将呈现转换成由所选择的视频摄像机提供的实况视频馈送的命令,来自可穿戴器具的用于调用虚拟控制面板或其他虚拟或增强现实呈现的请求等。客户端接口部件304还可以将增强现实、虚拟现实或混合现实呈现传送至可穿戴器具。
认证部件306可以被配置成确认对用户接收虚拟控制面板或其他虚拟或增强现实呈现并与其交互的授权。例如,认证部件306可以被配置成将从可穿戴器具接收的用户标识信息与为所识别用户定义的控制权限信息相互对照。认证部件306还可以确定与用户标识信息相关联的定义角色,并且授予与用户角色相称的控制权限级别。由认证部件306控制的控制权限级别可以包括例如仅视图权限、完全控制权限、有限的控制权限,从而所选择的虚拟控制面板功能的子集可以被用户或其他这样的访问级别连接。
渲染部件308可以被配置成检索用于在用户的可穿戴器具上渲染的合适的虚拟现实或增强现实呈现,并且利用从一个或更多个工业装置、工厂地面的实况或历史视频馈送或其他信息中检索到的实时或历史数据来修改或增强呈现。在用户遍历工厂环境时增强现实呈现传送至用户的可穿戴器具的情况下,渲染部件308的一些实施方式可以基于从可穿戴器具接收的工业装置、自动化***、控制柜或机器的身份来生成呈现,使得在器具上显示关于用户视线内的装置、机器或控制柜的可用信息。渲染部件308还可以根据用户的控制权限(由认证部件306确定)来选择VR/AR呈现。然后,所选择的呈现可以经由客户端接口部件304发送至可穿戴器具。
报告部件310可以被配置成基于在所收集的工业数据的子集上执行的计算来生成报告数据,并且经由可穿戴器具在VR/AR呈现上以合适的格式呈现报告数据。例如,报告部件310可以被配置成基于从工厂地面上的工业装置收集的数据来计算装置、工作单元、机器或生产区域的操作统计信息。然后,渲染部件308可以在增强或虚拟现实呈现上渲染这些统计信息。视频处理部件312可以被配置成处理和存储来自安装在工厂地面上的一个或更多个摄像机的视频流数据,使得来自每个摄像机的视频数据被标记有指示由视频数据记录的位置的标识信息。渲染部件308可以响应于从用户的可穿戴器具接收的手势或口头输入,将VR/AR呈现转换成由所存储的视频数据提供的实况或历史视频馈送。
装置接口部件314可以被配置成在VR/AR呈现***302与位于一个或更多个工业工厂设施处的一个或更多个内部部署(on-premise)的工业装置(例如,工业控制器、遥测装置、马达驱动器、质量检查***、工业安全***等)、摄像机或数据收集装置(例如,工业数据史学家(data historian))之间交换信息。在一些实施方式中,装置接口部件314可以经由设备驻留的工厂网络与内部部署的装置交换数据。在一些实施方式中,装置接口部件314还可以经由例如因特网的公共网络来接收一些或全部工厂地面数据。在一些实施方式中,装置接口部件314可以经由一个或更多个公共和/或专用网络直接访问由这些内部部署的工业装置和***生成的数据。可替选地,装置接口部件314可以经由代理或网关装置访问这些内部部署的装置上的数据,所述代理或网关装置聚合来自多个工业装置的数据,以经由装置接口部件迁移到云平台。由装置接口部件314接收的数据。
监测部件316可以被配置成根据定义的监测规则来监测由装置接口部件314收集的选择的数据子集,并且响应于检测到基于监测结果的维护或性能问题来传送通知和/或工作流建议。监测部件316可以与渲染部件308共同工作,以将合适的通知和工作流传送至与适当的工厂人员相关联的可穿戴器具,使得工作流被呈现为增强现实呈现的一部分,以通过制定适当的对策的过程将人员引导到检测到的问题。除了限定定义需要通知的问题的条件之外,监测规则还可以限定响应于每种类型的检测到的性能或维护问题要通知哪些雇员。
一个或更多个处理器320可以参考所公开的***和/或方法执行本文描述的功能中的一个或更多个。存储器322可以是存储用于参考所公开的***和/或方法执行本文描述的功能的计算机可执行指令和/或信息的计算机可读存储介质。
图4是根据本公开内容的一个或更多个实施方式的示例可穿戴器具206的框图。可穿戴器具206可以包括***接口部件404、装置通信部件406、可视化部件408、位置和定向部件410、一个或更多个处理器420和存储器422。在各种实施方式中,***接口部件404、装置通信部件406、可视化部件408、位置和定向部件410、一个或更多个处理器420和存储器422中的一个或更多个可以彼此电耦接和/或通信地耦接,以执行可穿戴器具206的功能中的一个或更多个功能。在一些实施方式中,部件404、406、408和410可以包括存储在存储器422上并由(一个或更多个)处理器420执行的软件指令。可穿戴器具206还可以与图4中未示出的其他硬件和/或软件部件交互。例如,(一个或更多个)处理器420可以与一个或更多个外部用户接口装置例如键盘、鼠标、显示监视器、触摸屏或其他这样的接口装置交互。
***接口部件404可以被配置成通过无线通信信道与VR/AR呈现***302交换数据。装置通信部件406可以被配置成经由装置驻留的工业网络在可穿戴器具206与工业装置之间交换数据。在与CIP网络一起使用的示例实现中,装置通信部件406可以支持由以太网/IP承载的CIP协议。然而,本文描述的实施方式不限于这些协议。
可视化部件408可以被配置成通过VR/AR呈现***302渲染传送至可穿戴器具206的虚拟现实、增强现实、混合现实或视频呈现。示例增强现实呈现可以包括经由可穿戴器具在用户的他的或她的周围环境的视场上叠加的图形覆盖。这些图形覆盖可以包括但不限于:用户视场内的工业***或装置的操作或状态数据指示符(基于字母数字和图标的指示符),将用户指向工厂环境内的工业***或装置的位置的指示符,用于利用工业***或装置辅助用户诊断和解决所识别问题的指导指示符,或者其他这样的覆盖。示例VR/AR呈现可以包括工厂地面区域的外部按比例缩小的视图以及工厂地面的虚拟化第一人称视图两者。可视化部件408还可以在VR/AR呈现***302的指令下渲染从安装在工厂地面的选择区域处的360度摄像机(或其他类型的视频或音频捕获装置)接收的实况或预录的视频馈送。
位置和定向部件410可以被配置成确定可穿戴器具206的位置和定向。该信息可以由***接口部件404发送至VR/AR呈现***302,使得人类操作者可以被追踪并在VR呈现中被渲染,并且使得由可视化部件408渲染的VR/AR呈现反映了用户的当前位置和/或定向。
一个或更多个处理器420可以参考所公开的***和/或方法执行本文描述的功能中的一个或更多个。存储器422可以是存储用于参考所公开的***和/或方法执行本文描述的功能的计算机可执行指令和/或信息的计算机可读存储介质。
图5是包括渲染工业设施的增强和虚拟现实呈现的VR/AR呈现***302的通用示例架构的框图。图5所示的示例工业环境包括一个或更多个工业控制器504、HMI 506、马达驱动器518、工业安全***520、数据库508(例如,数据史学家、雇员数据库、库存数据库等)和装置文档库510。工业环境也可以包括图5中未示出的其他工业数据源,包括但不限于质量***(例如,视觉***或其他质量验证***)、遥测装置、存在传感器(例如,光电检测器、光学扫描仪、接近开关等)、视频摄像机和其他装置或子***。在示例环境中,这些工业装置和***可以驻留在工厂(操作技术)网络116上。在一些场景下,工业装置可以跨工厂设施内的多个工厂网络116分布。工业环境还可以包括驻留在办公室(信息技术)网络108上的装置和***,包括但不限于制造执行***(MES)526、企业资源计划(ERP)***528、商业智能***、商业级分析***或其他这样的资产。办公室网络108或工厂网络116中的一者或两者也可以访问例如因特网的外部网络514(例如,经由防火墙装置516)。
VR/AR呈现***302——其驻留在图5所示的示例架构中的工厂网络116上,但其也可以驻留在办公室网络108上、外部网络上、web服务器上、或作为基于云的服务提供商的云平台上——经由网络116从多种工业装置的集合中收集数据。在一些配置中,呈现***302还可以从办公室网络108上的一个或更多个装置或***——包括但不限于MES***526、ERP***528、商业智能***或其他这样的资产——收集所选择的工厂数据项。呈现***302将用于在虚拟和增强现实呈现中渲染的数据格式化。存储在呈现***302上的一个或更多个工厂模型524可以定义工业设施内的区域(例如,生产线或工作区域)的三维视图,并且呈现***302可以基于工厂模型524生成区域的三维虚拟或增强现实呈现,其包括机器、控制柜、输送机、工业装置等。呈现***302还可以将所收集的工业数据的选择的子集叠加在与数据相关的工业资产(例如,机器、控制柜、工业控制器等)的图形表示上或附近的虚拟或增强现实呈现上。本文将更详细地描述虚拟和增强现实呈现的其他交互特征。
还可以根据如在为***的每个用户定义的用户简档522中指定的器具206的穿戴者的定义角色来定制虚拟和增强现实呈现。可以确定如何向用户呈现VR和AR数据的示例用户角色可以包括但不限于线路操作者、维护人员、工厂经理、工厂工程师或其他角色。
呈现***302可以将这些呈现传送至由用户穿戴的可穿戴器具206,所述用户可以在工厂设施处或在相对于设施的远程位置处。在从设施外部进行远程访问的情况下,呈现***302可以经由例如因特网的外部网络由授权的可穿戴器具206进行安全的访问。在一些实施方式中,呈现***302可以在web服务器上实现,使得可穿戴器具206能够经由因特网连接来调用VR/AR呈现。呈现***302还可以经由无线网络连接在可由可穿戴器具206访问的联网的本地服务器上实现。在另一种场景下,呈现***302可以在云平台上实现,其中,搜索***作为基于云的服务执行。
图6A是更详细地示出了VR/AR呈现***302的部件的框图。VR/AR呈现***302包括从跨工业环境分布的工业装置和***608收集实况和历史工业数据的装置接口部件314。在一些实施方式中,装置接口部件314可以被配置成根据指定要收集的数据项的定义的监测规则经由网络116或108从工业装置和***608检索所选择的数据项。可以根据如下项来定义要收集的数据项:在工业控制器、HMI、数据史学家或其他工业装置上识别数据标签的数据标签名称;要收集的数据文件(例如,工作命令数据文件、装置文档文件、库存文件等)的名称和位置信息,或其他这样的数据标识符。收集的数据项可以包括:与装置或其相关联的工业自动化***的操作有关的遥测和状态信息,以及工业装置的配置信息(例如,马达驱动参数、工业控制器通信设置、安装在每个工业控制器上的I/O模块等)。从办公室网络108或外部网络514,收集的数据可以包括但不限于工作管理信息、生产线调度信息、操作者工作进度信息、产品或材料库存信息等。
对于一些工业装置,用于对装置进行配置和/或编程的装置配置或程序开发应用也可以用于定义将由VR/AR呈现***302收集装置上的哪些数据项。例如,用于在工业控制器上定义数据标签以及用于对控制器进行编程并配置控制器的I/O和通信设置的程序开发应用可以包括:用于标记控制器上定义的用于收集和通过VR/AR呈现***302渲染的数据标签的选项。在这样的实施方式中,程序开发应用可以与虚拟/增强现实配置工具集成,使得控制器的VR或AR可视化的控制器和各方面都可以使用相同的配置工具一起配置。例如,对于在工业控制器上定义的给定数据标签,程序开发应用可以使得用户能够将标签设置为要由AR/VR呈现***收集的值,并且能够定义标签可能超出控制器的范围的任何关联(例如,通过识别与数据标签相关联的任何生产区域、机器、工业过程或自动化***)。用户还可以经由程序开发应用来定义与标签相关联的可视化权限,所述程序开发应用可以由渲染部件308用于确定哪些用户角色被允许查看与数据标签相关联的数据。基于这样的配置信息,渲染部件308可以与已经分配了数据标签的虚拟化生产区域、机器、过程或***相关联地并且根据定义的基于角色的可视化权限来渲染在工业控制器(或其他工业装置)上定义的选择的数据项。
在一些实施方式中,装置接口部件314还可以被配置成发现驻留在跨环境分布的工业装置上的数据项。在一些实施方式中,装置接口部件314可以通过在网络116和/或108上部署发现代理来发现可用的数据项。这些代理(其可以是程序或自动程序(bot))可以遍历网络116和/或108,并且识别贯穿工厂正在使用的装置以及与这些装置相关联的数据项或标签、应用和配置信息。由于给定的工业环境通常包括不同类型和供应商的装置的异构集合,并且通过这些装置可用的数据可以包括许多不同的数据类型(例如,控制器标签、HMI标签、警报、通知、事件等),装置接口部件314的一些实施方式可以管理和部署被配置成从特定类型的装置或数据平台(例如,控制器、HMI等)提取和分析信息的特定于装置或特定于平台的代理。一些特定于装置的代理可以被配置成定位存储在特定装置类型上的应用项目文件(例如,工业控制器上的配置和/或程序文件、HMI上的屏幕配置文件等),并且基于对这些项目文件中包含的数据的分析来提取关于装置的相关信息。通过利用特定于装置和特定于平台的代理,装置接口部件314的实施方式可以发现和检索符合许多不同格式和平台的数据。
为了将该不同的异构数据统一在用于集体搜索的公共平台下,装置接口部件314(或特定于装置的代理)可以将收集的数据转换成渲染部件308可理解的格式以产生标准化的工厂数据610。
在一些实施方式中,装置接口部件314还可以发现和记录***608和工业装置上发现的数据项之间的(明确和推断两种)关系。在这样的实施方式中,装置接口部件314可以通过用分类标签标记发现的数据项并基于这些分类标签构建搜索索引来记录这些关系,使得相关数据项共享公共标签。分类标签可以识别例如与装置相关联的共同机器或自动化***、装置驻留的生产区域、控制柜标识符或其他这样的分类标签。在一些场景下,这些分类标签可以由***开发者明确地定义,使得装置接口部件314确定哪些预定义标签应当被应用于新发现的数据项。装置接口部件314还可以基于上下文信息自动生成用于给定数据项的分类标签,所述上下文信息包括但不限于与控制器标签相关联的梯级注释、新发现的数据项与先前发现的数据项之间的***台如何。例如,装置接口部件314可以使分别在工业控制器、HMI、数据史学家以及ERP或MES***、商业智能***等中发现的共同或相关数据项相关联。
使用这些技术中的一些或所有技术,装置接口部件314可以发现并收集与跨设施的工业自动化***的操作和健康有关的操作、状态和配置数据以及来自办公室或IT网络上的装置的高级业务数据。该收集的工厂数据610可以存储在与VR/AR呈现***302(例如,存储器322)相关联的存储器中,并且由渲染部件308使用,以用实况或历史数据来填充虚拟和增强现实呈现。
尽管图6A示出了如驻留在公共***装置上的呈现***302的部件,但是在一些实施方式中,***302的部件中的一个或更多个部件可以驻留在不同的物理装置上。图6B是示例实现的图,其中,呈现***302包括渲染***302a和内容提供者302b两个单独的***。在该示例中,内容提供者302如上所述收集工厂数据610。在该示例实现中,用户简档522和工厂模型524也可以驻留在内容提供者上。报告部件310可以被配置成结合生成的报告数据(例如,计算的KPI、效率计算等)对工厂数据执行任何分析或计算。渲染接口部件612可以将工厂数据610的选定子集、由报告部件310生成的报告数据、以及从工厂模型524和用户简档522获得的数据提供至渲染***302a,其渲染VR/AR呈现并且将呈现传送至可穿戴器具206。呈现302的部件的其他分布也在本公开内容的一个或更多个实施方式的范围内。
可穿戴器具206可以经由客户端接口部件304与VR/AR呈现***302连接,所述客户端接口部件304可以包括有线或无线网络接口、近场通信接口或适合于实现呈现***302的特定平台的其他这样的装置接口。在一些实施方式中,客户端接口部件304可以被配置成:在使得VR/AR呈现能够被传送至可穿戴器具206之前,验证对可穿戴器具206访问呈现***302的授权。客户端接口部件304可以通过如下项来认证可穿戴器具或其所有者:使用密码验证、生物特征(biometric)标识(例如,由可穿戴器具206从用户收集并提交至客户端接口部件304的视网膜扫描信息),将可穿戴器具206的标识符与已知的授权装置的集合相互对照,或其他这样的验证技术。
渲染部件308被配置成生成虚拟和增强现实呈现数据604,以供可穿戴器具206通过客户端接口部件304来传送。呈现数据604当由可穿戴器具206接收和执行时将工业区域的交互式三维虚拟现实呈现渲染在可穿戴器具的显示器上。
基于由渲染部件308接收和处理的不同信息的组合来生成VR/AR呈现。图7是示出了由VR/AR呈现***302利用以生成VR/AR呈现的数据输入的图。如上指出的,呈现***302跨工厂环境从工业装置或***702收集装置数据704。呈现***302还维护一个或更多个工厂模型524,其定义由VR呈现表示的区域的物理布局的视觉表示。例如,给定工业区域(例如,生产区域、工作单元、装配线等)的工厂模型可以定义位于该区域内的工业资产(其包括机器、输送机、控制柜和/或工业装置)的图形表示以及这些工业资产之间的物理关系。对于每个工业资产,工厂模型可以定义资产的物理尺寸和颜色以及由图形表示支持的任何动画(例如,颜色变化动画、反映资产的移动的位置动画等)。工厂模型524还定义了工业资产之间的物理关系,其包括工厂地面上的资产的相对位置和定向、在资产之间运行的导管或管道以及其他物理定义。
由渲染部件308支持的渲染引擎被配置成基于工厂模型中指定的工业资产渲染定义来生成工业区域的交互式VR/AR呈现。渲染部件308利用收集的工厂数据610的选择子集(以及基于工厂数据610的子集由报告部件310计算的生产或操作统计信息)填充该虚拟现实呈现,并且客户端接口部件304将所得到的聚合VR/AR呈现传送至可穿戴器具206作为VR/AR呈现数据604。渲染部件308可以生成呈现,使得工厂数据610的项被覆盖在与数据项相关的工业资产的图形表示上或附近。
图8是示出了可以由渲染部件308生成的工业区域的示例虚拟现实呈现的部分演示。应当理解,由于经由二维附图呈现虚拟现实呈现固有的约束,图8和本公开内容的其他附图所示的示例VR/AR呈现不能完全示出在合适的可穿戴器具上渲染的VR/AR呈现。通常,由可穿戴器具206渲染的VR/AR呈现提供包围用户的整个视场的环绕的虚拟渲染,并且随着用户的位置和定向的改变而转换它们的视线或视角。本文中的部分演示和相关联的描述旨在:在考虑到二维图示的限制的情况下传达可能程度的虚拟现实渲染和交互。
渲染部件308可以支持来自区域外的人的视角的工业区域的外部VR/AR视图以及通过渲染区域的全尺度视图来模拟用户在工业区域内的存在的区域的第一人称视图。图8中呈现的视图是根据由呈现***302传送的VR/AR呈现数据604由可穿戴器具的可视化部件408生成的工业区域的外部视图。VR/AR呈现***302可以将最新的VR/AR呈现数据604流传输至可穿戴器具206,以确保包括用户的视角和实况工业数据值的视图保持现状。呈现中渲染的包括罐818、输送机812、缸814和机器816的工业资产根据由工厂模型524中的一个或更多个定义的渲染指令由渲染部件308渲染。
在图8所示的示例视图中,生产统计图标802被渲染在生产区域上方的固定位置处。这些生产统计图标802显示渲染的生产线的生产统计信息或关键性能指标(KPI)。生产统计信息可以基于工厂数据610的选择子集由报告部件310来计算。可以经由生产统计图标802渲染的示例统计信息包括但不限于:设备综合效率(OEE)、性能或生产效率、随时间推移的机器可用性的百分比、产品质量统计信息、循环时间、总体停机时间或运行时间(例如,累积的或每个工作班次)或其他这样的统计信息。
渲染部件308还可以渲染表示生产区域中存在的人类操作者的人类图标808a和808b。暂时回到图7,在一些实施方式中,可以基于VR/AR呈现***302从与每个用户相关联的可穿戴器具206接收的位置和定向数据606来确定VR/AR呈现中的人类图标808a和808b的位置和定向。在这方面,可穿戴器具206的位置和定向部件410可以被配置成确定器具206的当前地理位置。在一些实施方式中,位置和定向部件410可以利用全球定位***(GPS)技术来确定用户的绝对位置,或者可以被配置成与位于工厂设施内的定位传感器交换数据,以便确定用户在工厂内的相对位置。位置和定向部件410还可以包括:定向感测部件,其根据器具的现场线路的方向、器具相对于水平线的角度等来测量可穿戴器具的当前定向。可以通过用于确定穿戴者的当前位置和定向的可穿戴器具206的实施方式来支持其他类型的传感器或算法,包括但不限于惯性测量单元(IMU)或视觉惯性测距(VIO)。可穿戴器具的***接口部件404可以将由位置和定向部件410生成的位置和定向信息报告给VR/AR呈现***302作为位置和定向数据606。
VR/AR呈现***302使用位置和定向数据606来控制人类图标808a和808b如何在用户的VR/AR呈现上渲染以及整体上控制VR/AR呈现的视点。例如,第一用户可能经由用户的可穿戴器具206正在观看工业区域的VR呈现(例如,图8所示的外部呈现)。渲染部件308接收由第一用户的可穿戴器具生成的位置和定向数据606,并且根据第一用户的当前位置和定向将呈现渲染在可穿戴器具上。特别地,VR呈现的观看视角的方向和角度是第一用户的位置和定向的函数。
例如,如果用户的可穿戴器具206当前正在呈现图8所示的视图,并且用户前移且稍微向左,则渲染部件308将转换成图9所示的视图。通常,由VR/AR呈现***302生成的外部视图将工业区域渲染为该区域的虚拟比例模型,并且使得用户能够围绕该区域的缩放版本移动并与之交互。随着用户围绕、朝向或远离虚拟缩放的工业区域移动,可穿戴器具206将更新的位置和定向数据606流传输至呈现***302,所述呈现***302基本上连续地更新呈现数据604,以模拟围绕生产区域的比例模型行走的效果。因此,前移且稍微向左使图8所示的呈现转换成图9所示的呈现,从而视角现在较靠近于人类图标808a和808b并且稍微在人类图标808a和808b之后。
图10是响应于用户移动绕到正在被渲染的生产区域的前方由渲染部件308生成的示例VR/AR呈现的另一透视图。
如从图8至图10可以看出的,人类图标808a和808b被渲染在与实际生产区域内的人类操作者的实际位置对应的呈现内的位置处。为了确定人类图标808a和808b的适当位置和定向,渲染部件308可以利用从人类操作者穿戴的其他可穿戴器具206接收的位置和定向数据606。可替选地,也可以使用由人类操作者携带或穿戴并能够跟踪操作者的位置和定向的其他类型的装置来向VR/AR呈现***302提供操作者位置和定向信息。渲染部件308可以基于从操作者的可穿戴器具206接收的位置信息来确定人类图标808a和808b将被放置在虚拟生产区域内的位置,而人类图标808a和808b面向的方向可以基于从可穿戴器具206接收的指示操作者的当前视线的定向信息。
在一个或更多个实施方式中,渲染部件308可以在每个人类图标808附近生成操作者信息图标804(在图8至图10中,操作者信息图标804a和804b分别放置在人类图标808a和808b附近)。正在用于查看VR/AR呈现的可穿戴器具206的穿戴者可以选择这些操作者信息图标804中的任意图标来调用关于与人类图标808对应的人类操作者的信息。在一些实施方式中,可穿戴器具206可以被配置成识别由穿戴者执行的选择手势,并且可以使用这些选择手势来选择操作者信息图标804中之一。作为示例选择手势,用户可以将他的或她的手放置在与期望的操作者信息图标804对应的位置附近的可穿戴器具206前面,并且用他的或她的拇指和食指执行捏手势。可穿戴器具206可以识别手势,并且识别呈现中手势被执行的位置。如果位置与可选图标(例如操作者信息图标804)对应,则将选择图标并执行适当的动作。在一些实施方式中,也可以使用口头命令来选择图标。
对操作者信息图标804的选择可以使操作者信息窗口被覆盖在与所选择的操作者信息图标804对应的人类图标808附近。关于每个操作者的信息可以存储在与VR/AR呈现***302相关联的存储器332上。由于每个可穿戴器具206除了位置和定向数据606之外还提供用户身份数据602,所以渲染部件308可以响应于对操作者的信息图标804的选择将所接收的用户身份数据602与所存储的操作者数据相互对照,并且在覆盖的操作者信息窗口中检索与所选择的用于呈现的操作者对应的操作者数据的子集。可以响应于操作者信息图标804显示的示例操作者数据可以包括但不限于:操作者的名称和角色(例如,机器操作者、工程师、维护人员、工厂经理等)、工作进度信息、记录的工作小时数(其也可以根据在多个生产区域中的每一个中工作的小时数进行分类)、操作者持有的认证(例如,安全培训认证或其他认证)、用于操作者的经验指示(例如,操作者已经具有操作或维护经验的机器或工业装置的类型、操作者过去已经解决的维护问题的类型)或其他这样的特定于操作者的信息。
VR/AR呈现***302的一些实施方式还可以使得VR/AR呈现的远程观看者能够打开到与用户(其对应于人类图标808中所选择的图标)相关联的可穿戴器具206的音频或视听信道。例如,响应于可由观看的用户的可穿戴器具206识别为对用于音频或视听通信的人类图标808中之一的选择的适当的手势或口头命令,渲染部件308可以在观看的用户的可穿戴器具206与对应于所选择的人类图标808的人物的可穿戴器具206之间建立音频或视听通信信道。因此,由观看者的可穿戴器具206接收的例如语音或视听信息的可听信息将被发送至所选择的用户的可穿戴器具206的视听输出部件。这使得远程用户能够向工厂地面上的选择人员提供口头指示(例如,与解决操作或维护问题有关的指导),或能够在用户之间共享视觉信息。此外,对于可穿戴器具206支持向穿戴者生成触觉反馈的一些实施方式,VR/AR呈现***302还可以使得VR/AR呈现的远程观看者能够经由与人类图标808的交互来发起指向与人类图标808对应的用户的触觉信号(例如,振动)。该特征可以用于在用户处于嘈杂环境时远程吸引用户的注意。
渲染部件308还可以将资产信息图标810(例如,810a和810b)叠加在附加信息可用的工业资产的表示上或附近。在图8至图10中,资产信息图标810a已经放置在控制柜902附近,并且另一资产信息图标810b已经放置在机器904附近。这些资产信息图标810可以使用用于选择操作者信息图标804的类似的手势或口头识别技术来选择。对资产信息图标810的选择可以使渲染部件308在与图标810对应的资产上或附近渲染信息窗口,并且利用与资产相关的信息来填充该信息窗口。渲染的资产信息中的一些或全部可以从工厂数据610的相关子集中导出,或者可以从关于先前用VR/AR呈现***302注册的资产的存储数据中导出。在控制柜的情况下,渲染的信息可以包括但不限于:由控制柜控制的柜、机器或工业过程的名称、安装在柜内的装置(例如,工业控制器、I/O模块、马达驱动器、接触器等)的标识、安装在柜内的装置的状态或其他这样的信息。在机器的情况下,可以响应于对资产信息图标810b的选择而渲染的信息可以包括但不限于:机器的当前操作模式(例如,自动、手动、半手动等)、机器的故障状态、操作速度或生产率、记录的工作小时数的总数(或自最近的维护活动以来的工作小时数)、最近对机器执行维护的日期、关于对机器执行的维护动作的信息或其他这样的信息。
生产区域的VR/AR呈现还包括许多摄像机图标806(例如,806a至806d),其使得用户能够将呈现切换至实况或历史视频馈送,如下面将更详细地描述的。
在图8至图10所示的示例外部视图中,渲染部件308渲染用户可以观看的生产区域的按比例缩小的版本,就像生产区域是动画的交互式比例模型一样。这使得用户能够从外部概览视角虚拟地围绕模型行走并查看生产区域的各方面。渲染部件308还使得用户能够切换至提供生产区域的第一人称视角的生产区域的全尺度渲染。图11是基于(一个或更多个)工厂模型524和用户的当前定向由渲染部件308生成的生产区域的示例第一人称视图。在一些实施方式中,渲染部件308可以被配置成响应于用户对转换手势或口头命令的识别而在外部视图与第一人称视图之间转换。第一人称视图使得用户能够从工厂地面上的用户的视角虚拟地遍历生产区域的渲染表示,即使用户相对于实际工厂设施处于偏远的位置。在一些实施方式中,当用户从外部视角观看VR/AR呈现时,用户可以选择用户希望开始第一人称视角的生产区域内的目标位置。响应于选择目标位置,渲染部件308可以通过将视图缩放到目标位置而从外部视角平滑地转换成第一人称视角。随着呈现被缩放,虚拟生产区域向上缩放,直到虚拟生产区域的虚拟维度基本上模拟用户在工厂地面的实际存在。以该方式平滑地转换成第一人称视角可以帮助在虚拟生产区域内定向用户。
虽然在第一人称视图中,渲染部件308可以将字母数字消息、计算的生产或机器统计信息或者工厂数据610的子集渲染为放置在与信息相关的虚拟资产(例如,控制柜例如控制柜1102、机器、控制装置、马达驱动器、阀门、罐等)上或附近的覆盖信息。例如,当用户以第一人称视图观看虚拟控制柜(例如,虚拟控制柜1102)时,渲染部件308可以渲染信息窗口1104,其显示柜内的面板安装装置以及由柜1102(例如,所示示例中的“线路4”)控制的自动化***有关的相关信息。
在一些实施方式中,渲染部件308可以基于以下项来确定工厂数据910的哪些子集与正在被观看的给定工业资产相关联,并且相应地渲染与资产相关联的该数据:数据源自工业资产(例如,存储在工业控制器的数据寄存器上的工业控制器状态信息)的确定或存储在定义数据项与工业资产之间的关联的工厂模型524上的信息。在后一种场景下,可以由用户使用配置应用在资产配置和/或VR/AR呈现期间定义数据项(例如,控制器数据标签、由马达驱动器生成的数据值、由遥测装置生成的测量值等)与工业资产之间的关联。配置应用可以是例如包括工业装置编程工具以及VR/AR配置工具两者的捆绑应用,使得可以使用相同的配置工具并行配置装置的可用数据的装置配置和可视化。例如,在使用配置应用的工业控制器的编程和配置期间,用户可以定义用于存储由与罐(例如,罐1)相关联的压力计测量的水压值(例如,罐1水压)的数据标签。工厂模型524可以出于为罐渲染VR或AR呈现的目的来定义关于罐1的信息,其包括但不限于罐在工厂设施内的位置、罐的图形表示、与罐相关联的任何动画等。在定义罐1水压数据标签之后,配置应用也可以用于指定数据标签的值与罐1实体相关联。该关联定义将被存储在工厂模型524中的一个或更多个中,并且基于该定义,渲染部件308将响应于确定器具的位置和定向将罐1(或在VR呈现的情况下的罐1的图形表示)放置在用户的视线内而将罐1水压数据值渲染在用户的可穿戴器具206上。
在一些实施方式中,渲染部件308可以被配置成:响应于确定柜1102在用户的当前视线内来显示关于柜1102(或其他机器或工业装置)的最小量的信息,并且响应于指示更详细数据的请求的用户手势或口头命令(例如,自然语言口语命令)显示关于柜的附加信息。基本信息可以包括例如与柜1102相关联的机器或生产线的名称、机器或线路的当前操作模式、例如当前产品计数或累积停机持续时间的生产统计信息、当前或历史故障信息、或其他这样的数据。可以为控制柜1102显示的更详细的信息可以包括但不限于:包含在柜中的装置的列表、用于柜中的控制装置的状态或操作信息(例如,工业控制器的运行状态、可变频率驱动器的操作统计信息、接触器开/关状态等)、对相应物理柜的访问是否需要弧闪(arc-flash)保护的指示、或其他这样的信息、柜1102内的装置的固件修订信息、网络拓扑信息、柜1102的物料清单图表或电气图表(其可以由呈现***302从装置文档库510或从其他来源检索)、柜1102中的装置的供应商和模型信息、或其他这样的信息。
对于由控制柜装置监视和控制的工业机器,也可以调用类似的信息。例如,当用户正在观看虚拟冲压机时,渲染部件308可以渲染压机(press)的当前操作模式(例如,运行、空闲、归位(homed)等)、压机的当前操作速度、当前产品计数(例如,当前班次的每日总计或总计)、压机的当前或历史警报或故障、或者其他这样的信息。如上所述,虚拟冲压机(或其他工业资产或实体)与要与压机相关联渲染的工厂数据610的子集之间的关联可以由用户使用配置应用定义并且存储在工厂模型524中。
除了响应于确定用户的位置和定向将资产放置在用户的视线内来向用户呈现资产数据之外,VR/AR呈现***的一些实施方式还可以处理请求关于工业资产的指定信息的自然语言口语查询,无论用户是否当前正在查看资产。例如,用户可以陈述对由用户的可穿戴器具402接收并被中继至VR/AR呈现***302的特定资产(例如,工业机器人、生产线、马达、冲压机等)的当前状态的请求。呈现***302可以将口语请求翻译成对关于指定资产的期望信息的查询,检索工厂数据610的相关子集,并且在用户的可穿戴器具206上将所请求的信息渲染为VR/AR呈现。
在上述控制柜和冲压机的示例中(并且在类似情况下),渲染部件308基于用户的当前位置和定向信息(如经由位置和定向数据606获得的)以及对用户在模拟工厂环境中的当前虚拟位置的确定来确定在用户的可穿戴器具上显示的相关信息的合适子集以及数据要被显示在呈现中的位置。例如,如果确定用户位于虚拟控制柜前面的虚拟位置处并且用户被定向成使得控制柜位于用户的视线内,则渲染部件308将在虚拟柜上或附近的呈现中的位置处检索和渲染与柜及其关联装置相关的信息。在一些实施方式中,渲染部件308可以基于用户的当前位置和定向(如根据位置和定向数据606确定的)与组成工业设施的工业资产的已知位置的相关性来确定哪些工业资产在观察者的视线内,其可以由(一个或更多个)工厂模型524定义。
而且,在一些实施方式中,呈现***302可以生成分层的VR视图,并且使得用户能够选择性地启用或禁用层以便定制呈现。例如,当用户正在经由可穿戴器具206观看虚拟控制柜1102或机器时,呈现***302可以渲染柜或机器的外部的表示。响应于经由来自用户的可穿戴器具206接收的输入或指令(例如,可由可穿戴器具206识别的手势或自然语言口头命令),呈现***302可以从呈现中移除层,以显露柜1102或机器的层或者内部视图,使得柜或机器的内部部件被显示。该内部呈现可以包括柜或机器内的物理部件或状况的图形表示(例如,机器内的卡住(jam)、机器内的移动部件、非移动部件等)以及数据呈现(例如,内部机器或柜部件的温度变化或温度、即将发生的过流指示等)。
因为VR/AR呈现可以从用户的可穿戴器具206可以与VR/AR呈现***302连接的任何位置调用,所以如果用户相对于物理生产区域位于远程位置(例如,在工厂内的另一位置处或工厂外部),则上述第一人称VR/AR呈现可以是有用的。如果用户物理上位于实际生产区域内,则***使得用户能够切换至AR/VR呈现,其通过用户对实际工业资产的直接查看来渲染数据、图形或虚拟化的工业资产。对于这样的VR/AR呈现,渲染部件308通过可穿戴器具206来在用户的真实环境的视图上覆盖虚拟元素。以该方式,当用户遍历生产区域时,呈现***302可以用包括由报告部件310生成的任何相关的计算统计信息以及收集的工厂数据610的相关子集的数据覆盖来增强用户的生产区域的真实世界视图。
在该VR/AR呈现中渲染的一些信息可以类似于在上述远程第一人称VR/AR呈现期间呈现的信息。例如,响应于确定用户的当前位置和定向指示用户当前正在经由可穿戴器具观看控制柜,渲染部件308可以生成并传送AR/VR呈现,其包括关于柜中的装置和/或与柜相关联的自动化***的相关信息。以该方式,VR/AR呈现***302将用户的视线信息(例如,如基于用户的位置和定向数据606确定的用户的自然视图)与应用数据(其与用户当前正在查看的控制面板、机器或自动化***相关)组合。
而且,在一些实施方式中,呈现***302可以检测用户何时通过可穿戴器具206正在观看控制柜(或虚拟控制柜),并且呈现控制柜的内容的虚拟X射线视图,其包括控制柜内的面板安装装置(例如,工业控制器、马达驱动器、接触器等)的虚拟视图。虚拟视图可以包括装置的图形表示以及与包含在柜内的装置中的一个或更多个装置相关联的相关数据(从工厂数据610获得)。在一些实施方式中,用户可以针对关于控制柜的附加信息——包括用于柜的电气图表或线图、与安装在柜内的工业控制器相关联的梯形逻辑编程、用于任何装置的诊断数据等——将请求发送至呈现***302(例如,经由可穿戴器具可识别的手势或口头命令)。响应于该请求,呈现***302将检索所请求的数据,并且通过可穿戴器具将所请求的数据渲染为用户视图上的覆盖。
在一些实施方式中,可以由用户选择性地过滤经由VR/AR呈现正在被查看的信息。例如,马达驱动器组可以生成并存储各种操作和诊断数据(例如,马达速度数据、马达电流数据、警报数据等)。当用户经由可穿戴器具正在查看马达驱动器组(或马达驱动器组的虚拟表示)时,用户可以经由可穿戴器具206可识别的手势或口头命令来请求识别哪个马达驱动器需要更换风扇(例如,基于驱动器上活跃的相应警告)的视图。用户还可以调用如下视图,其识别当前安装在相应驱动器上的固件版本,或者识别(例如,使用图形覆盖)哪个驱动器当前配置有过时的固件版本。这样的选择性数据过滤可以应用在正在被观看的装置或机器中可用的基本上任何参数。
渲染部件308还可以基于如由用户简档522定义的用户的身份或角色来过滤呈现给用户的数据。在这点上,用户简档522可以针对使得用户能够查看的每个机器或装置定义信息的集合,并且渲染部件308可以将用户可访问的数据限制为那些定义的数据集合。例如,对于具有“操作者”角色的用户,渲染部件308可以仅使得用户能够查看与机器或自动化***的操作相关的数据(例如,操作模式、警告信息、运行速度、产品计数等)。对于具有“工程”角色的用户,渲染部件308还可以使得用户能够查看控制装置的固件信息、工业控制编程(例如,梯形逻辑或其他编程)、网络统计信息或其他这样的工程数据。
除了在可穿戴器具206上渲染VR/AR呈现之外,VR/AR呈现***302的一些实施方式可以使得控制指令源于可穿戴器具206并且被传送至目标控制装置(例如,工业控制器、马达驱动器、人机界面端子或其他这样的控制装置)。在可穿戴器具206的穿戴者物理地位于工厂地面上的场景中,在一些实施方式中,这样的控制指令可以直接从可穿戴器具206传送至控制装置。图12是示出在可穿戴器具被配置成将控制指令1206引导至工业控制器1204的场景中的呈现***302、可穿戴器具206以及工业控制器1204之间的数据流的图。与图7所示的数据流类似,VR/AR呈现***302从遍及工厂设施的包括工业控制器1204的多个工业装置收集工厂数据610。如前面的示例中所描述的,VR/AR呈现***302还从可穿戴器具206获得用户身份数据602以及位置和定向数据606,以便于VR/AR呈现数据604的生成。集成到呈现中的工厂数据和VR/AR呈现的布局部分地基于工厂模型524和用户简档522。
在该示例实施方式中,可穿戴器具206的装置通信部件406支持通信栈1210,通信栈1210允许可穿戴器具206与工业控制器1204(以及其他工业装置)之间经由驻留有工业控制器1204的工业网络(有线或无线的网络)的直接通信。在用于与CIP网络一起使用的示例实现中,通信栈1210可以支持由以太网/IP携载的CIP协议。然而,本文中描述的实施方式不限于这些协议。通过可穿戴器具206与工业控制器1204(或其他自动化***、机器等)之间的该直接通信,用户可以使用与AR呈现的手势交互或可识别的口头命令来向工业控制器1204发送控制信息。
在示例场景中,当用户的视线被引导至工业控制器、控制器驻留的控制柜或正在由工业控制器1204控制的机器时,用户可以执行可以由可穿戴器具206识别的手势或说出可以由可穿戴器具206识别的口头命令,其指示用户已经选择工业控制器1204(或与其相关联的机器)作为控制指令的目标。响应于手势或口头命令,可穿戴器具206向VR/AR呈现***发送目标装置的身份作为选择数据1202。在一些实施方式中,对工业控制器1204或与其相关联的机器的选择可以使渲染部件308在VR/AR呈现上渲染可以针对选择的机器发布的可用命令的预定义列表。示例命令可以包括例如机器启动/停止命令、开关设置调整、设置点调整、警报复位命令或其他这样的注释。用户可以使用合适的可识别的手势或口头命令来从预定义命令的列表中进行选择,并且可穿戴器具206可以向工业控制器1204发布选择的命令。例如,如果命令是二进制指令——例如警报复位命令、启动命令或停止命令——则可穿戴器具206可以经由工厂网络(例如,驻留有控制器的CIP网络)将瞬时的或锁存(latching)的ON命令引导至工业控制器的数据表的适当的寄存器,使逻辑1位被写入到寄存器。在需要来自用户的数字输入的命令——例如设置点调整——的情况下,渲染部件308可以使用可识别的手势(例如,通过选择图形化的向上或向下箭头来增加或减小数值)或通过说出期望的数值来提示用户输入数值,并且可穿戴器具206可以发送输入的数值作为引导至控制器的数据表的适当的寄存器的模拟值。装置通信部件406的通信栈1210可以使用通信栈1210来经由驻留有控制器1204的有线或无线网络发送这些控制指令1206。
可以使用用于配置VR/AR呈现的方面的配置应用来预定义可以被选择并且被传送至用户视线内的给定机器的控制器的可用命令。在一些实施方式中,配置应用可以是使得工业装置及其相关联的VR/AR呈现被并行配置的捆绑软件应用。在示例配置场景中,配置应用可以用于配置表示设置点值、命令位或可以被写入到控制器的数据表作为控制指令的另一类型的命令值的工业控制器的读写数据标签。控制器的控制编程(也在配置应用上被开发)可以使用数据标签的值作为用户可调整的设置点(例如,目标填充水平、速度、温度等)、作为ON位来触发功能或子例程或者作为另一类型的命令输入。使用配置应用,用户可以将数据标签识别为能够经由VR/AR呈现被写入的可写入标签。配置应用还可以使得用户将数据标签与识别的机器、控制柜、自动化***或其他工业资产相关联。在使用配置应用在数据标签与工业资产之间定义这样的关联情况下,当确定器具的位置和定向将资产放置在穿戴者的视线内时,渲染部件508将在可穿戴器具206上渲染存储在数据标签中的数据(假设可穿戴器具与具有对数据项的观看权限的用户相关联)。如果数据标签已经被配置为用户可以经由VR/AR呈现向其写入命令的标签,则渲染部件308还可以如上所述渲染可以被发布至数据标签的可选择的命令(例如,“调整设置点”、“调整速度”、“切换至半自动模式”等)。在一些实施方式中,可以从与读写数据标签相关联的元数据中检索可用命令的文本,例如使用配置应用提供至标签的名称(例如,半自动模式打开、输送机速度等)。
支持可穿戴器具206与工业装置(例如工业控制器1204)之间的直接通信的一些实施方式也可以支持可穿戴器具206与工业装置之间的双向通信。在这样的实施方式中,除了从VR/AR呈现***302接收用于在VR/AR呈现上渲染的工厂数据610的选择的子集之外,还可以经由控制网络(例如,CIP网络)通过可穿戴器具206从工业装置直接检索实况数据并且将实况数据渲染在VR/AR呈现上。
在一些可替选实施方式中,响应于可穿戴器具对工业资产的识别,可以检索给定工业资产的VR/AR呈现并且将其呈现至用户的可穿戴器具206。图13是示出了便于可穿戴器具206与一个或更多个工业装置1304之间的通信以生成虚拟现实或增强现实呈现的示例数据流的图。在该示例中,可穿戴器具206通过扫描与待观看的工业装置或***相关联的快速响应(QR)代码1306来识别工业装置、机器、自动化***或控制面板。然后,可穿戴器具206向VR/AR呈现***302无线地发送从QR代码1306获得的装置或***标识符。此外,可穿戴器具206可以发送可以用于识别和/或认证可穿戴器具206的用户的认证信息(例如,用户身份数据602)。
基于用户正在请求以观看的装置或***的身份以及用户的身份或角色,VR/AR呈现***302可以确定用户是否被授权以接收用于装置或***的虚拟或增强现实接口,以及基于用户的身份或用户的角色而对用户授权的控制权限的程度。例如,取决于用户的身份或角色,用户可能被授予仅观看的权限,或者可能可替选地被授予全部或有限的控制权限,从而准许用户向装置或***传送控制指令1206。
一旦确定用户被授权以观看和/或虚拟地控制装置或机器,VR/AR呈现***302向可穿戴器具206发送虚拟或增强现实呈现。在示例场景中,呈现可以采取与由QR代码1306识别的装置相对应的虚拟控制面板的形式。虚拟控制面板可以是预定义的虚拟面板,相比于与装置或***相关联的实际控制面板的布局和功能,该预定义的虚拟面板具有相似的布局和功能。可替选地,虚拟控制面板可以是没有类似的物理控制面板的完全虚拟的面板。虚拟控制面板可以被存储在与VR/AR呈现***302相关联的存储器322上,并且基于装置或***的身份和发布请求的用户的控制权限而被***302选择。
一旦可穿戴器具206已经接收到增强或虚拟现实呈现,用户可以通过与虚拟控制面板的交互来远程地控制工业装置或自动化***。例如,通过可穿戴器具206与工业装置504(或其他自动化***、机器等)之间的直接通信,虚拟控制面板可以接收并且显示装置的状态信息,以及向装置发送控制信息(例如,启动/停止命令、开关设置、设置点调整、警报复位命令等)。
在图13所示的示例中,基于从QR代码获得的标识信息来确定正在被用户观看的工业装置、自动化***或机器的标识。然而,在一些实施方式中,装置或***的身份可以由VR/AR呈现***302基于用户相对于装置或***的位置以及确定的用户的可穿戴器具206的定向来确定。例如,基于位置和定向数据606,呈现***302可以推断用户的当前视线。通过将该位置和定向信息与工厂环境内的装置和***的已知的位置信息相互对照,呈现***302可以推断哪些装置或***当前在用户的视场内。然后,呈现***302可以根据用户的授权和当前正在被观看的装置和***的身份向可穿戴器具206发送合适的虚拟或增强现实呈现(例如,虚拟控制面板)。这些呈现可以包括:由正在被观看的装置或***生成的数据和由其他装置或***(例如,分析***、维护历史数据库等)生成的已经被定义为具有与正在被观看的装置或***的关联的数据或其他这样的信息。
在一些实施方式中,***302可以从分布在工厂环境各处的一个或更多个摄像机收集视频(或视听)数据,并且将该视频数据的选择的集合与VR/AR呈现集成。当使用360度摄像机时,这样的实施方式可以在远程位置处向用户提供模拟用户在工厂地面上的物理存在的工厂设施的交互式实况视频馈送。图14A是示出将视频信息并入至由VR/AR呈现***生成的VR/AR呈现中的示例配置的图。在该示例中,多个视频捕获装置1414(例如,数字视频摄像机或其他类型的视频捕获装置)被安装在整个工厂设施的各个位置处,以捕获设施的各个区域的视频。视频捕获装置1414被安装在可以访问其上实现有VR/AR呈现***302的硬件或基于云的平台的网络上。在该示例中,每个视频捕获装置1414均是360度摄像机,360度摄像机针对围绕摄像机的全360度视角生成视频数据1412。每个视频捕获装置1414将视频数据1412推送至VR/AR呈现***302作为单独的视频流。VR/AR呈现***302的视频处理部件312可以处理每个视频流并且将每个视频流存储在视频存储装置1404(其可以是存储器322的一部分或另外的数据存储装置)上,使得来自每个摄像机的视频数据1412被标记有指示源视频捕获装置1414的标识信息、指示视频数据1412的每个帧被记录的时间的时间戳信息以及可选地由视频数据1412记录的工厂设施和工作区域。
如在图8至图10所示的示例外部(按比例缩小的)VR/AR呈现中所示的,渲染部件308渲染与安装在工厂地面上的每个视频捕获装置1414相对应的摄像机图标806(例如,图8至图10中的摄像机图标806a至806d)。在一个或更多个实施方式中,生产区域或设施内的每个视频捕获装置1414的位置可以在工厂模型524中的一个或更多个中定义,工厂模型524也可以指定与每个摄像机图标806相对应的视频捕获装置1414的身份。在示例摄像机部署场景中,用户可以与具有配置应用的VR/AR呈现***交互,其中,配置应用可以渲染当前联网至VR/AR呈现***302的工业装置的可浏览视图。在视频捕获装置1414已经被安装在期望的位置处并且通信地连接至工厂网络之后,用户可以经由配置应用浏览视频捕获装置1414,并且将视频捕获装置1414添加至当前的VR/AR项目。工厂内的视频捕获装置1414的位置可以由用户经由配置工具手动输入,或者可以由装置接口部件314基于通过网络从视频捕获装置1414接收的自报告位置数据来学习。然后,该位置信息与视频捕获装置1414的身份一起可以被保存至工厂模型524中的一个或更多个,使得与在VR/AR呈现内的适当的位置处渲染相应的摄像机图标806结合地,该信息可以被渲染部件308参照。
基于在(一个或更多个)工厂模型524中定义的该摄像机定义信息,渲染部件308将摄像机图标806放置在VR呈现内的与定义的实际工厂设施内的视频捕获装置的物理位置相对应的位置处。在一些实施方式中,视频捕获装置1414可以被配置成确定其自身的地理位置(或相对于工厂内的定位装置的位置),并且向VR/AR呈现***302报告其身份和位置,VR/AR呈现***302然后可以将每个视频捕获装置1414的位置和身份记录在(一个或更多个)工厂模型524中,使得摄像机图标806可以被渲染在正确的位置处。该技术可以使新安装的视频捕获装置1314与VR/AR呈现***302的集成简化。
在示例应用中,视频捕获装置中的一个或更多个可以安装在与机器或生产线相关联的栈灯(stacklight)上,以提供机器或生产线周围的区域的升高的360度视图。图15是图8至图10所示的VR/AR呈现的提供摄像机图标806d的更近的视图的另一透视图。在该示例中,视频捕获装置1414中的一个已经被安装在物理工厂中的由虚拟栈灯1502表示的栈灯上。如在图15中所见,与该视频捕获装置1414相对应的摄像机图标806d已经被渲染在虚拟栈灯1502上。
虽然图8至图10以及图15所示的示例在外部的、按比例缩小的VR/AR呈现的背景下示出摄像机图标806,但是也可以在第一人称VR/AR呈现的背景下使摄像机图标806可见。
在图8至图10以及图15所示的示例VR/AR呈现中,摄像机图标806是具有嵌入的摄像机形状的球形“气泡”形状,以帮助标识图标的功能。在一些实施方式中,代替嵌入的摄像机形状或除了嵌入的摄像机形状之外,球形摄像机图标806可以包含针对相应的视频捕获装置1414获得的静止或实况视频图像,从而向用户提供在该位置处可用的视频的预览。当观看VR/AR呈现时,用户可以使用适当的选择手势或口头命令来选择摄像机图标806中的一个,以从生产区域的当前外部视图转换至渲染在可穿戴器具206上的实况交互视频呈现。参照图14A,响应于选择手势或口头命令,可穿戴器具206的***接口部件404向VR/AR呈现***302发送摄像机选择数据1402。摄像机选择数据1402指示被用户选择的视频捕获装置1414的身份。如图14B所示,响应于接收到选择数据1402,渲染部件308将用户的当前VR/AR呈现视图转换至由与选择的摄像机图标806相对应的视频捕获装置1414提供的实况视频呈现1408。基于从视频存储装置1404获得的特定于摄像机的视频数据1410来生成视频呈现1408,其中,特定于摄像机的视频数据1410是接收的视频数据1412的与选择的视频捕获装置1414相对应的子集。在一些实现中,可以由呈现***302经由两个单独的通信通道或网络将来自选择的视频捕获装置1414的视频和音频发送至可穿戴器具206,以满足给定网络的带宽需求。
视频呈现1408通过在用户的可穿戴器具206上渲染摄像机的生产区域的当前透视图来模拟用户在工厂地面上的实际存在。如果由360度摄像机提供视频数据,则渲染部件308可以追踪用户的可穿戴器具206的定向,并且根据用户的头部移动(向左、向右、向上或向下)转移视频呈现的观看方向。以该方式,当用户移动他或她的头时,可以改变来自用户的视线内的摄像机的可用的可用360度视频视图的片段,从而模拟在用户处于摄像机位置处的情况下的用户将经历的现实世界视图。此外,如果视频捕获装置1414被配置成捕获来自周围区域的音频以及视频,则VR/AR呈现***302可以从视频捕获装置1414一起接收音频数据与视频数据1412,并且一起提供实况音频与实况视频作为视频呈现1408的一部分。其他类型的视频捕获装置1414也可以用作视频呈现的来源,其他类型的视频捕获装置包括但不限于网络摄像机、基于旋转的IP摄像机等。
在一些实施方式中,当用户选择摄像机图标806时,渲染部件308可以经由缩放动作将用户的当前视图(如图8至图10以及图15所示的外部视图或者如图11所示的第一人称VR/AR呈现)平滑地转换至实况360度视频呈现1408。例如,当用户在可穿戴器具206上正在渲染图15所示的外部视图的同时选择摄像机图标806d时,渲染部件308将朝向选择的摄像机图标806d平滑地缩放用户的视图。该缩放动作模拟用户对摄像机的物理运输。一旦缩放动作使用户的视图被摄像机图标806d包围,则渲染部件308切换至上述实况视频馈送。以这种方式模拟用户对摄像机图标806d的运输可以帮助对虚拟生产区域内的用户进行定向,使得至视频馈送的转换将不会使用户迷失方向。
在观看视频呈现时,用户可以使用可穿戴器具206可识别的合适的手势或说出可穿戴器具206可识别的口头命令,以在需要时转换回到VR/AR呈现。
一些实施方式还可以使得用户在观看由第一视频捕获装置1414提供的视频呈现时能够将视图转换至第二视频捕获装置1414。在这样的实施方式中,当用户正在观看由第一视频捕获装置1414提供的视频呈现时,如果第二视频捕获装置1414在第一视频捕获装置1414的视场或视线内,则渲染部件308可以将摄像机图标806覆盖在视频呈现上的该第二视频捕获装置1414的位置处(即,在视频呈现内的第二视频捕获装置1414的视频图像上或附近)。在观看第一视频呈现时,用户可以使用可识别的选择手势或口头命令来选择该第二摄像机图标806。作为响应,渲染部件308将使用户的视频呈现从第一视频捕获装置1414转换至所选择的第二视频捕获装置。以该方式,用户可以在处于彼此的现场线路内的不同的摄像机视频馈送之间轻松地“跳跃”。此外,在一些实施方式中,***可以使得用户能够在安装在生产区域中的摄像机中的任何摄像机之间转换,无论摄像机是否在彼此的视线内。
可以选择360度视频捕获装置1414的安装点,以提供关键或危险区域的远程可见性。例如,在安全访问点附近或可能引起安全风险的装备附近安装一个或更多个视频捕获装置1414可能是有用的,使得这些区域可以被远程可视化地监测。视频捕获装置1414也可以被安装在通常无人工作但是可能应获得可视化检查的位置处。通过将这些360度视频捕获装置1414与VR/AR呈现***302集成,可以从可以访问VR/AR呈现***302的任何位置可视地检查这些关键区域。
虽然前面的示例已经在将实况视频馈送传送至用户的可穿戴器具206的方面进行了描述,但是一些实施方式也可以允许用户通过视频处理部件312访问存储在视频存储装置1404中的历史视频记录。在这样的实施方式中,用户可以指导可穿戴器具206向VR/AR呈现***302发送识别待观看的视频捕获装置1414以及待观看的历史视频的开始日期和时间的请求。响应于接收到请求,渲染部件308检索与所识别的视频捕获装置1414以及指示的日期和时间相对应的存储的视频数据,并且可以开始将检索到的视频数据流传输至可穿戴器具206。与实况视频馈送类似,用户可以通过向左或向右移动他或她的头部以改变视角或现场线路来与历史视频馈送进行交互。
在一些实施方式中,VR/AR呈现***302的监测部件316可以被配置成监测从视频捕获装置1414接收的可用视频数据1412,并且响应于检测到应获得工厂人员的关注的可能问题而生成警报。在这样的实施方式中,可以训练监测部件316来识别视频数据1412的每个流内的应当通知的事件。由于被认为是关键的事件通常取决于正在被监测的区域,所以可以针对视频数据1412的每个流定制该训练。例如,如果视频捕获装置1414被安装在设施的人类进入要被约束的高安全区域内,则监测部件316可以被配置成基于对从该视频捕获装置1414接收的视频数据1412的分析来识别该区域内的人的存在。在一些实施方式中,监测部件316可以被配置成对视频数据1412执行二维成像分析,并且基于成像分析的结果来识别人的存在。在不脱离一个或更多个实施方式的范围的情况下,也可以使用其他视频分析技术。
在另一示例中,视频捕获装置1414可以安装在关键机器附近的位置处,使得可以可视地和/或可听地监测该机器。监测部件316可以被训练成基于对针对机器捕获的视频数据1412的分析来识别一个或多个关键性能事件。例如,如果机器处理部件或产品并且易于卡住(例如,纸卡在由网状(web)张力***馈送的纸处理机器中、部分卡在输送带上等),则监测部件316可以被配置成基于对相应的视频数据的分析来识别这种卡住的发生。如同在人类检测的情况下,可以基于对视频数据1412的成像分析或使用其他视频分析技术来检测卡住事件。对视频数据1412的成像分析还可以用于检测不适当的机器运动(例如,过行程(over-stroking)或欠行程(under-stroking)、过度振动等)、过度的烟度的存在或指示可能的维护问题的其他事件。在另一示例应用中,多个摄像机可以被安装在从多个角度捕获关键区域的位置处,并且监测部件316可以被配置成共同分析来自各个摄像机的图像和/或音频。这样的共同分析可以用于使用三角测量技术来确定监测区域内的人、物体或车辆的位置,或者用于其他目的。
当使用支持音频捕获的视频捕获装置1414时,监测部件316还可以被训练成识别指示需要关注的事件的音频队列。例如,一些机器可能在经历过度振动时或者当机器不适当地另外运行或以次优方式运行时在可识别的特征频率处发出噪声。监测部件316可以被配置成基于对从视频捕获装置1414接收的视听数据的分析来识别这些音频队列,并且发起向适当的人员发送通知。
除了音频和视频数据之外,监测部件316的一些实施方式还可以被配置成分析从支持这样的信息的视频捕获装置1414接收的其他类型的信息。例如,视频捕获装置1414中的一个或更多个可以支持红外或紫外数据的捕获,并且提供除了视频数据1412之外的该信息或提供该信息作为视频数据1412的替代。监测部件316可以分析该信息,以确定机械部件或机器的温度是否过度。在另一示例中,视频捕获装置1414中的一个或更多个可以是针对扫描仪的视场内的物体或表面生成距离信息(例如,点云或深度映射信息)的飞行时间(TOF)光学扫描仪或传感器。在这样的实施方式中,监测部件316可以被配置成将物体识别结果与距离信息关联,并且响应于确定该关联的结果满足定义的准则而生成被引导至可穿戴器具或工业控制器的通知。
在示例TOF应用中,监测部件316可以被配置成基于对从TOF光学传感器获得的TOF距离数据的分析来检测:视频数据1412中检测到的物***于距视频捕获装置1414小于定义的安全距离的距离处。在一些实施方式中,监测部件还可以基于对从TOF光学传感器或另一图像捕获装置获得的图像数据的成像分析来确定物体的类型。如果物体的类型与不被准许处于定义的安全距离内的物体类型相对应(例如,人、车辆等)并且TOF传感器数据指示该物***于定义的安全距离内,则监测部件316可以执行定义的动作。动作可以是例如设置改变机器的操作的工业控制器内的比特或寄存器(例如,通过将机器放置在安全状态,例如停止或减缓状态)。动作也可以包括:将通知图形覆盖在由视频捕获装置生成的视频数据上以指示图像内的物体被检测到的位置,以及通知字母数字消息(其通知可能的防护或安全问题)。
响应于检测到应当通知的事件(例如在上面的示例中描述的那些),监测部件316可以指导渲染部件308向与一个或更多个用户相关联的可穿戴器具206传送通知信息。可以基于检测到的该类型问题中的一个或更多个、检测到问题的区域、对哪些用户距问题的来源在定义的距离内的识别(例如,基于对从可穿戴器具206接收到的位置和定向数据606的分析)或者其他这样的考虑来确定要通知的目标用户。当确定要通知的用户的合适的子集时,渲染部件308还可以考虑包含在用户简档522中的信息。例如,用户简档522可以定义每个用户的角色,以及每个用户被分配至工厂设施的哪些生产区域。如果问题被确定成需要维护人员的关注,则渲染部件308可以基于对用户简档522的分析来识别哪些用户被识别为维护人员并且被分配至检测到问题的生产区域。
通知可以采取以下形式:在用户的可穿戴器具206上渲染的识别问题的性质的叠加消息。在一些实施方式中,如果用户在通知时位于工厂地面上,则渲染部件308可以渲染以下VR/AR呈现,其将方向箭头叠加在用户的他或她的环境的自然视图上以将用户引导至问题的来源。方向箭头可以首先将用户指引至检测到问题的机器或区域。箭头的方向以及箭头图形在可穿戴器具206的显示器屏幕上的位置是如由位置和定向数据606确定的用户的当前位置和定向的函数。一旦位于该位置,则可以生成指示经历该问题的特定工业装置、机器或机器部件的另外的方向箭头。再次,这些箭头的方向和显示位置基于当前的位置和定向数据606。当用户改变位置和定向时,渲染部件308将根据更新的位置和定向数据606来更新箭头和其他图形指示符的方向和/或显示位置,以确保图形指示连续地沿正确的方向或朝向正确的装置或部件引导用户的关注。
如下面将更详细地讨论的,事件的检测还可以发起交互式工作流数据向通知接收者的可穿戴器具206的传送。该工作流数据可以通过经由交互式工作流呈现纠正识别问题的处理来指导用户或多个用户共同工作。
在一些实施方式中,还可以基于对工厂数据610的分析来检测应当通知的事件。在各种示例中,可以通过监测部件316来监测被收集作为工厂数据610的一部分的关键操作参数(例如温度、压力、速度、电压电平或其他这样的参数),以识别这些参数何时落在定义的可接受值范围之外。监测部件316还可以被配置成响应于在工厂数据中检测到的机器或装置警报状况而发起通知。与经由视频分析识别的事件类似,渲染部件308可以响应于基于对工厂数据610的分析而检测到问题来生成通知并且向选择的人员传送通知。
如上所述,VR/AR呈现***302的一些实施方式可以被配置成使用针对检测到的问题定制的交互式工作流呈现来帮助用户解决检测到的操作或维护问题。图16是示出用于交互式工作流呈现的传送的VR/AR呈现***302、工业装备与可穿戴器具206之间的示例数据流的图。图16所示的示例示出了以下场景,其中,***302响应于检测到的状况而动态地选择工作流呈现并且向用户的可穿戴器具206传送工作流呈现。
当装置接口部件314如上所述从工厂地面上的工业装置和***收集并且索引操作和状态数据1606时,监测部件316监测工厂数据610的选择的数据项,并且响应于确定一个或更多个数据项指示值得一个或更多个注册用户关注的自动化***或装置的问题而发起合适的工作流呈现1602的传送。例如,基于工业装置中的一个或更多个的当前状态和/或操作信息(例如,操作参数、KPI等),监测部件316可以检测工业装置或***何时已经生成报警或故障、经历停机时间状况、执行失序操作或其他这样的状况。监测部件316还可以检测何时工业处理或机器的性能度量(例如,KPI或其他类型的度量)已经偏离可接受的公差范围,这表示生产效率的下降,其可以通过用户干预来纠正。如上所述,监测部件316还可以基于对从一个或更多个视频捕获装置1414接收的视频数据1412的分析来检测需要通知的问题。
对于监测和控制工业机器或处理的操作的工业控制器,由监测部件316检测到的通知事件可能涉及控制器的内部操作(例如,控制器故障)或正在被控制的机器或处理。在后一种场景中,可以将与被控制的机器或处理相关联的警报或故障状况预定义为在工业控制器上正在被执行的控制程序的一部分。例如,可以由工业控制程序中的程序员定义处理参数设置点值、异常机器状态、处理警报状况以及其他这样的可通知状况,并且这些状况将由监测部件316检测并且用作通知触发器的基础。
其他类型的工业资产例如遥测装置、马达驱动器等可以具有将由监测部件316监测的相关联的可通知状况的不同集合。例如,在马达驱动器(例如,可用频率驱动器或其他类型的驱动器)的情况下,监测部件316可以监测内部驱动异常状况,内部驱动异常状况包括但不限于过电流或欠电流故障、超速或欠速故障、过电压或欠电压故障等。
为了便于用于帮助检测到的问题的工作流呈现的生成,VR/AR呈现***302可以存储(例如,在存储器322上)定义要被采取以纠正各种问题的动作的工作流数据1608以及用于渲染与执行这些动作有关的指导的VR/AR呈现指令。在一个或更多个实施方式中,可以与工作流涉及的事件或机器相关联地存储工作流数据1608的集合。例如,工作流数据1608的集合可以定义被确定为对于从与相关警报相关联的输送机***的特定警报状况恢复而言有效的工作流,使得可以响应于检测到相关警报,将工作流传送至用户的可穿戴器具206作为VR/AR呈现。类似地,与给定自动化***的优选操作相关联的工作流可以用相关自动化***的标识符来标记,使得工作流将被递送至与用户(其被确定当前正在操作相关***)相关联的可穿戴器具206。
响应于检测到问题(定义的工作流针对其可用),监测部件316可以向渲染部件308发送识别检测到的问题的指令1610,其发起将合适的工作流呈现1602传送至与一个或更多个用户(其被确定为能够或被授权解决检测到的问题)相关联的可穿戴器具206。由监测部件316发送的指令可以包括识别检测到的事件和/或相关工业***的工厂数据610的子集。基于该信息,渲染部件308选择与所识别的事件和/或自动化***相关联的工作流数据1608的集合,并且将工作流呈现数据1602传递至一个或更多个选择的可穿戴器具206。
如上所述,渲染部件308可以基于受影响的机器或装置和/或事件的类型来识别用于工作流呈现的一个或更多个合适的接受者。在这方面,VR/AR呈现***302可以基于存储的通知规则来识别合适的接受者。这些通知规则可以例如包括:关于哪些类型的用户或用户角色应当接收不同类别的事件的通知和工作流的规则、对可以基于用户的角色呈现至每个用户的数据类型的限制、对于数据呈现的基于位置的限制、针对每种类型的用户应该如何呈现工作流数据等。在一些实施方式中,渲染部件308可以基于当前用户环境信息来进一步缩小合适的接受者的列表,当前用户环境信息包括但不限于每个潜在的接受者的当前可用性或者相对于检测到的问题的来源的位置(如基于从用户的可穿戴器具206接收的位置和定向数据606而确定的)、关于通知涉及的特定装置或设备件的技能或训练(如基于用户简档522而确定的)等。在示例场景中,渲染部件308可以通过追踪每个用户的位置和定向数据606来确定每个潜在的接受者的当前位置,并且仅向受影响的机器或装置的定义的半径内的那些用户传送通知和工作流呈现。
在一些实施方式中,可以通过***302学习合适的接受者的标识作为工作流学习例程的一部分。例如,VR/AR呈现***302观察某些特定雇员通常聚集以解决问题(如基于针对各个雇员对可穿戴器具206的监测而确定的)的特定机器停机时间状况的多个实例,渲染部件308可以将这些识别的雇员与关联于该停机时间事件的学习的工作流链接,并且修改通知规则以反映该关联。在一些实施方式中,如果观察到各个人员解决不同的停机时间状况的发生,则渲染部件308可以进一步确定哪个人员通常相对于其他技术员以最少时间量来恢复机器。根据该确定,渲染部件308可以优先将后续停机时间通知和对应的工作流传送至该用户。
当已经识别所有合格的接受者时,渲染部件308将工作流呈现数据1602发送至每个接受者的可穿戴器具206。在示例场景中,渲染部件308可以将工作流呈现渲染为:将指令序列渲染作为用户的视场上的覆盖的增强现实呈现。这些呈现可以包括:指向或另外可视地识别在工作流的当前步骤期间用户应当关注的装置、工作站或机器部件的图形指示符覆盖;通知用户要执行的下一步骤的字母数字指令;指示何时已经正确地执行了步骤或何时用户已经偏离正确的工作流序列的反馈图形;以及其他这样的信息。工作流呈现可以包括示出工作流的某些步骤的图形指导以及字母数字指令。这些图形指导可以例如包括:示出要执行的动作的图、演示如何执行给定步骤的照片或视频数据、装置文档或其他这样的指导。
通常,工作流呈现通知用户要执行的合适的操作序列,以便最好地解决检测到的状况。在一些实施方式中,当检测到的状况正在被工作流呈现的接受者解决时,监测部件316可以连续地对实际操作者的动作与由工作流数据表示的最佳工作流进行比较,并且如果用户的动作偏离最佳工作流,则向用户提供反馈。图17是示出了当用户正在纠正停机时间问题时正在被传送至可穿戴器具206的实时工作流反馈1712的图。在诊断和纠正停机时间问题期间,当用户执行纠正问题并且恢复***的步骤时,监测部件316继续监测从自动化***接收的工厂数据610的相关子集。
同时,装置接口部件314收集用户数据1704,用户数据1704可以用于确认用户正在执行由被传送至用户的可穿戴器具206的工作流推荐的步骤。用户数据1704可以包括例如用户的身份和相对于自动化***或其部件的位置。用户的位置可以用于确认用户处于适当的位置以执行当前正在等待完成的工作流步骤(例如,在适当的控制面板、HMI、机器站或机械/电气部件的前面)。用户数据1704还可以包括指示用户与关联于自动化***的装置的交互的数据。可以基于用户相对于自动化***的位置与从自动化***的一个或更多个装置收集的状态信息的相关性来推断这些交互中的一些。例如,基于用户与控制面板的确定的接近度以及控制面板上的模式开关从第一位置转换至第二位置,监测部件316可以根据工作流的当前未决步骤确认用户已将自动化***放置在正确的模式下。
其他用户数据1704可以包括:装置定向数据,其识别用户的可穿戴器具206的当前定向,当与用户的当前位置数据组合时,该装置定向数据可以指示用户当前是否正在观看自动化***的正确区域,以完成未决的工作流步骤。在一些实施方式中,装置接口部件314还可以以多媒体(例如,音频和/或视频数据)的形式接收由用户的可穿戴器具206收集的环境数据;红外数据;热签名数据;振动数据(当用户触摸工业机器或***的振动部件时,可以通过可穿戴器具206经由用户的身体来获得振动数据);环境噪声水平;通量数据;指示用户的直接环境中的特定气体、颗粒物、烟雾或毒素的存在的数据;或其他这样的环境数据。这样的环境数据可以提供以下另外信息:所述另外信息可以由监测部件316利用来确定是否正在遵循工作流,或者由用户执行的与解决问题有关的动作是否已经产生应当通知用户的非预望的结果(例如,部件过热、释放毒素、烟雾或颗粒物的水平升高等)。
基于用户与自动化***的交互与优选的工作流的步骤的比较,渲染部件308可以响应于确定用户已经偏离工作流而生成工作流反馈数据1712并且将工作流反馈数据1712传送至用户的可穿戴器具206。这样的反馈可以包括例如纠正指令,该纠正指令意在向用户通知偏离,并且将用户引导至由工作流所指示的正确的操作序列。在一些实施方式中,监测部件316还可以基于用户的遵从工作流或偏离工作流的测量的程度来计算并且记录评估用户的工作流性能的用户的性能度量。这些性能度量可以基于这样的因素,例如检测到的偏离工作流的数目、用户完成工作流的平均速度、用户执行的工作流的数目或其他这样的因素。这些性能度量可以记录在与用户相对应的用户简档522中。管理人员可以使用这些度量来确定哪些操作者需要与解决特定的性能或维护问题相关的额外的培训。如上面结合图8至图10所描述的,每个用户的性能度量也可以被包括作为响应于对用户的操作者信息图标804的选择而渲染的操作者信息的一部分。
在多个用户正在解决检测到的问题的协同动作的情况下,渲染部件308可以将工作流呈现数据1602传送至每个接受者的可穿戴器具206,以协调接受者之间的活动。在每个用户的可穿戴器具206上显示的工作流呈现将是用户的当前位置和观看方向的函数。例如,如果第一用户处于与工作流中的步骤(例如,半自动模式中的生产线的放置,这要求用户位于生产线的控制面板的前面)相对应的位置,并且第二用户处于与工作流中的另一步骤(例如,从输送机移除工件)相对应的位置,则渲染部件308将基于用户的位置和视线在每个用户的可穿戴器具206上渲染能够被该用户执行的工作流的步骤。当一个用户完成步骤时,渲染部件308将更新被传递至其他用户的工作流呈现,以反映该步骤的完成。
为了进一步便于协调解决检测到的问题的多个用户之间的活动,VR/AR呈现***302可以允许用户彼此共享他们的个人视图。例如,机器的一侧上的第一用户可能希望与机器的另一侧上或另一位置处的第二用户共享他或她的机器的视图。响应于经由第一用户的可穿戴器具206接收到的合适的手势或口头命令,可以通过可穿戴器具206将用户的当前视图的实况馈送经由VR/AR呈现***302发送至第二用户的可穿戴器具206。第二用户可以选择第一用户的视图是被呈现为画中画视频图像还是被呈现为“全屏幕”视频(由此,第一用户的视图在第二用户的视场中被完全再现为视频流)。由于可穿戴器具206支持音频通信,所以用户可以在共享视图的同时经由可穿戴器具206交换口头通信,以便于协调用户之间的活动。
虽然前述示例结合机器停机时间事件、警报时间或其他维护动作描述了工作流以及工作流反馈的传送,但是可以使用类似的技术来将工作流传送至机器操作者,以在机器的正常运行时间期间执行特定的机器控制操作,并且评估操作者对工作流的遵从。例如,如果VR/AR呈现***302已经学习了优选的操作员工作流,以便针对给定生产线实现最佳产品吞吐量,则可以响应于确定生产线的性能度量已经偏离可接受的公差而将该工作流传送至与值班的操作者相关联的可穿戴器具206,从而向用户提供操作方法,以将性能度量带回至可接受的公差。
VR/AR呈现***的一些实施方式还可以允许各个用户定制工作流,并且将定制的工作流与其用户身份相关联地保存回到***302。例如,渲染在用户的可穿戴器具206上的VR/AR呈现可以包括使得用户隐藏或移除用户发现不必要或无用的工作流的一个或更多个步骤的控件,从而产生针对给定状况的个性化工作流。然后,用户可以将该个性化工作流保存回到呈现***302,使得当发生维护或操作问题的另一实例时,呈现***302将向用户提供工作流的经修改的个性化版本而不是默认版本。这可以给予用户对经由其个性化版本的工作流而提供的工作流信息量的一定程度的控制。用户可以根据用户在解决所识别的问题时的经验程度或舒适水平来选择隐藏工作流的某些步骤。
此外,在一些实施方式中,VR/AR呈现***302可以允许用户将虚拟笔记或信息标签与选择的工业资产相关联,以便其他用户观查看。这些虚拟笔记可以用于将有关资产的个性化信息传达至之后可能经由其可穿戴器具206观看资产的其他用户。在示例场景中,维护人员在对传送***执行维护的处理中可能希望通知将要进行后续工作轮班的操作者:输送机只应当以低速运行,直到可以执行将来的维护为止。维护人员还可能希望向随后的轮班期间进入的其他维护人员提供有关在当前轮班期间执行的工作的信息。VR/AR呈现***302可以允许用户将虚拟笔记与输送机***的控制柜相关联,并且选择准许哪些用户角色来观看每个笔记。因此,用户可以通过向可穿戴器具206说出笔记的文本并且指示渲染部件308将笔记与选择的控制柜相关联(例如,通过执行与指令相对应的手势或口头命令),来创作用于下一个轮班的操作者的笔记。用户可以进一步指示渲染部件308仅允许所有角色的用户观看笔记。因此,当渲染部件308确定另一用户的位置和定向数据606指示用户正在观看控制柜时,渲染部件308可以将笔记作为控制柜的用户的视图上或附近的覆盖渲染在用户的可穿戴器具206上。可替选地,渲染部件308可以在控制柜上或附近渲染指示虚拟笔记已经附接至控制柜的虚拟笔记图标。使用观看者的可穿戴器具206可识别的合适的手势或口头命令来选择虚拟笔记图标可以使笔记的文本被显示。
类似地,维护人员可以创作仅被引导至其他维护人员的另一虚拟笔记,其识别在当前轮班执行的维护动作以及应当在下一轮班被执行的剩下的维护动作。因此,维护人员可以创作虚拟笔记、将笔记与控制柜相关联并且指示仅允许具有维护角色的其他用户观看笔记。随后,响应于确定具有维护角色的用户正在观看控制柜,渲染部件308将在与用户相关联的可穿戴器具206上渲染笔记(或可选择的虚拟笔记图标)。
虚拟笔记可以用于在用户之间共享基本上任何类型的信息,并且可以选择性地被引导至所有用户、指定角色的用户或者指定的个人用户。可以经由虚拟笔记被传达的示例消息可以包括但不限于:要由后续轮班工作的操作者或维护人员执行的动作项目的列表;用于可视地监测已经表现不规律的机器部件的指令;或者其他这样的消息。
在一些实施方式中,由VR/AR呈现***302生成的工业工厂的VR/AR呈现可以用作工厂的数字双工(twin)的基础。在这样的实施方式中,工厂模型524不仅可以对工业资产的物理外观进行建模,还可以对这些资产的某些行为(例如,对控制输入在移动、速度、温度、流量、填充水平等方面的响应)进行建模。这可以使得VR/AR呈现用作用于测试控制程序或装置配置的模拟环境。图18是示出被测试的控制程序1802与由渲染部件308生成的工业设施的VR/AR模型1804之间的交互的一般框图。以与上述VR/AR呈现相似的方式基于工厂模型524和收集的工厂数据来生成VR/AR模型1804。在该示例中,VR/AR呈现***302的模拟部件318用作工业控制器仿真器,以对VR/AR模型1804执行控制程序1802。
VR/AR模型1804可以模拟要由控制程序1802监测和调节的物理工业***的各个方面。模拟部件318可虚拟地将控制程序1802与VR/AR模型1804连接,以交换I/O数据来模拟现实世界控制。控制程序1802可以包括用于处理读入到控制器中的输入信号并且控制来自控制器的输出信号的任何可想到的类型的代码,包括但不限于梯形逻辑、顺序功能图表、功能框图或结构化文本。控制程序1802被设计成调节通过VR/AR模型1804被建模的自动化***。VR/AR模型1804通过生成表示例如传感器输出、计量输出或与预期由正在被建模的物理***生成的数据类似的其他工厂数据的数字和模拟I/O值来在数学上对要被调节的***进行建模。可以通过工厂模型524针对每个工业资产定义这些输入和输出。该模拟输出数据1808被提供至执行控制程序1802的模拟部件318,模拟部件318接收该数据作为一个或更多个虚拟物理输入。控制程序1802根据用户定义的算法处理这些输入,并且基于该处理生成数字和/或模拟控制器输出数据1806。该输出数据1806表示将由执行控制程序1802的控制器生成并且被发送至包括自动化***的硬连线现场装置的物理输出(例如,PID回路控制输出、螺线管激励输出、马达控制输出等)。控制器输出数据1806被提供至相应地更新模拟输出数据1808的VR/AR模型的适当的输入点。该模拟技术可以用于测试和调试控制程序而不将现场装备和机器置于危险中,模拟对工厂或机器操作的修改以及这些修改如何影响某些性能或财务度量的估计,或者执行其他分析。
模拟部件318可以被配置成模拟多个控制装置的执行,其中,多个控制装置包括但不限于工业控制器、马达驱动器和其他这样的控制装置。随着更多的模拟控制装置与VR/AR模型1804集成,可以实现物理自动化***的数字双工。该数字双工可以用于测试与现实世界对应物相似的虚拟化装备上的新控制程序、执行预测分析以估计资产维护或替换进度或其他这样的功能。
在一些实施方式中,当穿戴者遍历工厂地面时,VR/AR呈现***302可以从可穿戴器具206收集数据,并且使用该收集的数据来生成工厂环境的文档。这可以包括例如创建管道和仪器(P&ID)图、装置库存数据、机器库存数据或其他这样的工厂映射。在一些实施方式中,VR/AR呈现***302可以以三维格式生成该文档。在某些场景中,***302可以从与分布在工厂环境各处的多个用户相关联的多个可穿戴器具206收集生成这些工厂映射所需要的数据,并且随着接收到更多数据来更新工厂文档。
在一些实施方式中,VR/AR呈现***302可以创建用于自动化***或工作站的虚拟控制面板,并且将该虚拟控制面板呈现至用户的可穿戴器具206。一些实施方式可以基于当用户正在观看控制面板时由可穿戴器具206收集的实际控制面板的视觉信息来生成虚拟控制面板。例如,当用户正在观看控制面板时,可穿戴器具206可以获得面板的视觉快照,识别面板上的按钮、开关或其他控制部件的位置,并且生成基本上复制实际控制面板的布局的控制面板的虚拟表示。然后,用户可以与该虚拟控制面板虚拟地交互,以对与该面板相关联的自动化***执行远程控制。
在一些实施方式中,由VR/AR呈现***302生成的呈现还可以替代或增强马达驱动器的人机接口模块(HIM)。在这样的实施方式中,当用户正在通过可穿戴器具206观看马达驱动器时,呈现***302可以在可穿戴器具206上渲染包括用于驱动器的操作和/或诊断统计信息的呈现。这样的统计信息可以包括但不限于马达速度、频率、电流、警报或故障信息(例如,过电流故障)或其他这样的信息。
此外,在一些实施方式中,结合***302工作的可穿戴器具206可以用于执行资产追踪功能。以该方式,可穿戴器具206可以用作传统的资产追踪技术的替代(例如,基于无线电频率标识的资产追踪技术)。在相关方面,呈现***302的一些实施方式可以帮助用户定位资产(例如,驱动器、传感器、控制器等)。在这样的实施方式中,用户可以说出或另外提供要被定位的资产的资产标识符,并且可穿戴器具206将向呈现***302转发资产标识符。作为响应,呈现***302可以向可穿戴器具206传送将用户指引至所请求的资产的呈现。例如,如果资产在用户的视场内,则呈现可以在资产上或附近生成高亮图形。如果资产在工厂的其他地方,则呈现可以使用适当的图形指示符(例如,箭头图形,基于文本的方向等)来将用户指引至资产。呈现***302可以接受资产标识符作为口语的或另外输入的资产标识符编号,或作为口语的或输入的资产名称。用户还可以输入对与特定资产类型相对应的所有资产进行定位的请求;例如,通过说出“呈现所有驱动器”或“呈现所有传感器”。作为响应,呈现***302将提供以下呈现:将与所请求的资产类型相对应的所有资产加亮或者将用户引导至与所请求的资产类型相对应的所有资产。
图19至图22示出了根据本申请的一个或更多个实施方式的各种方法。虽然为了简化说明的目的,将本文所示的一种或更多种方法示出并且描述为一系列动作,但是应当理解和意识到,本发明不受动作顺序的限制,因为一些动作可以根据本发明以与本文所示和描述的顺序不同的顺序发生和/或与其他动作同时发生。例如,本领域技术人员将理解和意识到的是,方法可以替代地被表示为一系列相互关联的状态或事件,例如以状态图表示。此外,并不需要所有示出的动作来实现根据本发明的方法。此外,当不同的实体演示方法的不同的部分时,(一个或更多个)交互图可以表示根据本主题公开内容的方法或方式。还进一步地,可以彼此组合地实现所公开的示例方法中的两个或更多个,以实现本文所述的一个或更多个特征或优点。
图19A是用于创建和渲染具有转换至实况视频馈送的选项的工业设施的VR/AR呈现的示例方法1900A的第一部分。最初,在1902处,从安装在工业设施处的一组工业资产接收数据。数据可以包括例如从工业控制器、马达驱动器、遥测装置、传感器或其他这样的工业装置接收的操作或状态数据。数据还可以包括用于工业装置中的一个或更多个的配置信息。
在1904处,基于在步骤1902处接收到的数据和定义工业资产的图形表示的一个或更多个工厂模型,在可穿戴器具上生成工业设施的VR/AR呈现。VR/AR呈现可以提供设施的外部视图或者第一人称视图,该设施的外部视图将设施内的工业区域渲染为可以与用户进行交互的设施的虚拟比例模型,在该第一人称视图中,工业区域被放大以模拟用户在实际设施中的存在。在1906处,接收识别安装在工业设施内的一个或更多个360度视频摄像机的位置的摄像机标识数据。在1908处,与一个或更多个360度视频摄像机相对应的一个或更多个摄像机图标被渲染在步骤1904处生成的VR/AR呈现上,其中,摄像机图标位于VR/AR呈现中与由在步骤1906处接收的摄像机标识数据识别的位置相对应的位置处。在一些实施方式中,摄像机图标可以包括虚拟球体或气泡。在一些这样的实施方式中,可以在摄像机图标的每一个内渲染来自每个摄像机的可用的视频的预览。在1910处,接收并且存储来自一个或更多个360度视频摄像机的视频数据。
方法继续图19B所示的第二部分1900B。在1912处,进行是否从可穿戴器具接收到识别一个或更多个摄像机图标中的选择的摄像机图标的选择输入的确定。如果未接收到这样的选择输入(在步骤1912处为否),则方法返回至步骤1902,并且重复步骤1902至步骤1912。可替选地,如果接收到这样的选择输入(在步骤1912处为是),则方法进行至步骤1914,在步骤1914处,将可穿戴器具上对VR/AR呈现的渲染从工业设施的当前虚拟视图朝向由在步骤1912处接收的选择输入识别的摄像机图标缩放。
在1916处,进行朝向摄像机图标的缩放是否完成的确定。当由VR/AR呈现提供的视角足够靠近摄像机图标时,认为完成缩放,其中,所述图标包含定义的用户的视图的百分比。用于确定缩放完成的其他准则也在一个或更多个实施方式的范围内。如果仍未完成缩放(在步骤1916处为否),则步骤1914继续执行缩放。可替选地,如果完成朝向图标的缩放(在步骤1916为是),则方法进行至步骤1918,在步骤1918处,将可穿戴器具上的渲染从VR/AR呈现改变成视频流呈现,该视频流呈现包括在步骤1910处从与在步骤1912处选择的摄像机图标相对应的360度视频摄像机接收到的视频数据的子集。
方法继续图19B所示的第三部分1900C。在步骤1920处,进行是否从可穿戴器具接收到转换回到VR/AR呈现的指令的确定。如果未接收到这样的指令(在步骤1920处为否),则方法进行至步骤1922,在步骤1922处,根据从360度视频摄像机接收到的新视频数据,在可穿戴器具上更新视频呈现。在1924处,进行是否从可穿戴器具接收到指示可穿戴器具已经改变定向的指示的确定。如果未接收到这样的指示(在步骤1924处为否),则方法返回至步骤1920。可替选地,如果接收到这样的指示(在步骤1924处为是),则方法进行至步骤1926,在步骤1926处,根据可穿戴器具的新定向,在可穿戴器具上更新视频呈现,以改变视频呈现的视野方向。然后,方法返回至步骤1920。
如果从可穿戴器具接收到转换回到VR/AR呈现的指令(在步骤1920处为是),则方法进行至步骤1928,在步骤1928处,可穿戴器具上的渲染从视频流呈现改变至工厂设施的VR/AR呈现。然后,方法返回至步骤1902并且重复。
图20A是用于控制工业设施的VR/AR呈现的示例方法2000A的第一部分。开始,在2002处,从安装在工业设施处的一组工业资产接收数据。数据可以包括例如从工业控制器、马达驱动器、遥测装置、传感器或其他这样的工业装置接收的操作或状态数据。数据还可以包括用于工业装置中的一个或更多个的配置信息。
在2004处,基于在步骤2002处接收到的数据和定义工业资产的图形表示的一个或更多个工厂模型,在可穿戴器具上生成工业设施的VR/AR呈现的外部视图。设施的外部视图使设施内的生产区域或设施渲染为可以与用户交互的虚拟比例模型。例如,按比例的设施的透视图或视角将与用户的位置和定向协调改变,以模拟围绕设施的物理比例模型的行走。
在2006处,在VR/AR呈现上渲染在步骤2002处接收到的数据的至少一个子集。例如,可以在虚拟现实呈现内的相关虚拟化工业资产附近渲染设施或生产区域的生产统计信息或KPI。在另一示例中,由工业控制器或HMI生成的警报信息可以在VR/AR呈现上在与该警报相关的工业资产上或附近渲染。
在2008处,进行是否从可穿戴器具接收到以第一人称模式渲染VR/AR呈现的指令的确定。如果未接收到这样的指令(在步骤2008处为否),则方法返回至步骤2002并且重复步骤2002至步骤2008。可替选地,如果接收到以第一人称模式渲染VR/AR呈现的指令(在步骤2008处为是),则方法进行至步骤2010,在步骤2010处,VR/AR呈现的外部视图被转换至第一人称视图,在第一人称视图中,虚拟比例模型被放大至模拟用户在工业设施处的存在的尺寸和视角。
方法继续图20B所示的第二部分2000B。在2012处,使用从工业装置的集合接收的新数据和从可穿戴器具接收的定向信息来更新在步骤2010处渲染的第一人称VR/AR呈现。该更新可以包括例如更新在用户视线内的虚拟化工业资产上或附近渲染的操作和状态数据的值,以及根据用户的定向的变化(例如,向前或向后移动、或向左或向右转动他或她的头部)来改变呈现的视角或视线。
在2014处,进行是否从可穿戴器具接收到将VR/AR呈现渲染为外部视图的指令的确定。如果未接收到这样的指令(在步骤2014处为否),则方法返回至步骤2012并且第一人称呈现继续更新。可替选地,如果从可穿戴器具接收到渲染外部视图的指令(在步骤2014处为是),则方法进行至步骤2016,在步骤2016中,第一人称视图被转换回到外部视图。然后,方法返回至步骤2002并且重复方法。
图21是用于使用可穿戴器具经由虚拟控制面板与工业自动化***连接的示例方法2100。开始,在2102处,将用于虚拟控制面板的请求从可穿戴器具发送至VR/AR呈现***,其中,该虚拟控制面板与正在经由可穿戴装置被观看的自动化***(或装置)相关联。在示例实施方式中,可以基于由可穿戴设备从附加至自动化***的光学代码读取的标识信息来获得自动化***或装置的标识。在另一示例性实施方式中,可以基于可穿戴器具的当前位置和定向来推断自动化***的身份,如基于由可穿戴器具自身生成的位置和定向数据而确定的。
在2104处,将用户信息从可穿戴器具发送至VR/AR呈现***。用户信息可以由器具的穿戴者提供至可穿戴器具,可以从可穿戴器具上的存储的用户标识信息读取,或者可以从穿戴者读取作为生物数据(例如,经由视网膜扫描或其它方式)。在2106处,进行在步骤2104处发送的用户信息是否识别出被授权与自动化***连接的用户的确定。如果用户信息未识别出授权用户(在步骤2106处为否),则方法结束。可替选地,如果用户信息识别出授权用户(在步骤2106处为是),则方法进行至步骤2108,在步骤2108处,基于从VR/AR呈现***接收的VR/AR呈现数据将与自动化***相关联的所请求的虚拟控制面板渲染在可穿戴计算机上。
在2110处,在可穿戴计算机与驻留有自动化***(或其装置)的工业网络之间建立通信信道。在2112处,经由与虚拟控制面板的交互跨在步骤2110处建立的通信信道与自动化***交换数据。
图22A是用于通过解决检测到的维护问题的处理生成增强现实呈现以指导工厂人员的示例性方法2200A的第一部分。开始,在2202处,从安装在工业设施处的一组工业资产接收数据。在2204处,在与用户相关联的可穿戴器具上生成增强现实呈现,其中,增强现实呈现基于以下项生成:在步骤2202处接收的工业数据和定义关于工业资产的信息(例如,资产的位置和名称、与资产相关联的设施内的自动化***或生产区域等)的一个或更多个工厂模型。
在2206处,进行是否基于对在步骤2202处接收到的数据的监测检测到维护问题的确定。可以例如基于以下项来检测维护问题:由工业控制器、HMI、马达驱动器或其他工业资产生成的警报的标识;确定被控制的机器或处理的关键性能指标已经落在允许的公差之外;基于对从安装在工业设施处的视频捕获装置接收的音频或视频数据的分析来检测可能的维护问题;或者其他这样的检测场景。
如果未检测到维护问题(在步骤2206处为否),则方法返回至步骤2202并且重复步骤2202至步骤2206。可替选地,如果检测到维护问题(在步骤2206处为是),则方法进行至步骤2208,在步骤2208处,将维护问题的通知发送至可穿戴器具。
在2210处,进行工作流是否可用于维护问题的确定。工作流可以是定义的对纠正检测到的问题已知的一系列步骤,工作流可以被记录为工作流数据,工作流数据可以便于通过工作流指导用户的增强现实呈现的生成。如果没有可用于检测到的问题的工作流(在步骤2210处为否),则方法结束。可替选地,如果用于检测到的问题的工作流可用(在步骤2210处为是),则方法进行至步骤2212,在步骤2212处,进行是否留有工作流的未完成步骤的确定。
如果仍然留有工作流的未完成步骤(在步骤2212处为是),则方法进行至图22B所示的第二部分2200B。在2214处,在可穿戴器具上渲染增强现实工作流呈现。增强现实工作流基于来自可穿戴器具的当前位置和定向数据而生成,并且图形地指示用于执行工作流的当前步骤的指令。增强现实呈现可以包括例如:覆盖在用户的视场上的图形指示符,所述图形指示符指示用户的焦点应该被引导至的位置、机器、装置或部件,以便完成工作流的当前步骤;说明当前步骤的字母数字或声音指令;演示要由用户执行的动作的视频呈现;或其他这样的呈现。增强现实呈现可以根据用户的变化的位置和定向以及正在被处理的工业资产的更新的状态信息来不断更新。
在2216处,进行当前工作流步骤是否已经完成的确定。如果工作流步骤尚未完成(在步骤2216处为否),则方法返回至步骤2214,并且继续渲染增强现实呈现。可替选地,如果当前工作流步骤已经完成(在步骤2216处为是),则方法返回至步骤2212,在步骤2212处,进行工作流的步骤是否仍未完成的另一确定。如果额外的工作流步骤仍未完成(在步骤2212处为是),则为了工作流中的下一步骤,方法再次执行步骤2214和步骤2216。当没有待完成的剩余的工作流步骤时(在步骤2212处为否),方法结束。
本文描述的实施方式、***、部件以及工业控制***和工业自动化环境(其中可以执行本说明书中阐述的各个方面)可以包括能够跨网络进行交互的计算机或网络部件,例如服务器、客户端、可编程逻辑控制器(PLC)、自动化控制器、通信模块、移动计算机、无线部件、控制部件等。计算机和服务器包括:一个或更多个处理器(采用电信号执行逻辑运算的电子集成电路),其被配置成执行存储在介质例如随机存取存储器(RAM)、只读存储器(ROM)、硬盘驱动器以及可移除存储器装置中的指令,其中,可移除存储器装置可以包括存储棒、存储卡、快闪驱动器、外部硬盘驱动器等。
类似地,如本文使用的术语PLC或自动化控制器可以包括可以跨多个部件、***和/或网络被共享的功能。作为示例,一个或更多个PLC或自动化控制器可以跨网络与各种网络装置进行通信和协作。这可以包括经由网络进行通信的基本上任何类型的控件、通信模块、计算机、输入/输出(I/O)装置、传感器、致动器、仪器以及人机界面(HMI),其包括控件、自动化和/或公共网络。PLC或自动化控制器还可以与各种其他装置进行通信并且控制各种其他装置,例如包括模拟、数字、编程/智能I/O模块的标准或安全相关的I/O模块、其他可编程控制器、通信模块、传感器、致动器、输出装置等。
网络可以包括公共网络,例如因特网、内联网以及自动化网络,自动化网络例如包括装置网、控制网以及以太网/IP的控制和信息协议(CIP)网络。其他网络包括以太网、DH/DH+、远程I/O、现场总线、Modbus、Profibus、CAN、无线网络、串行协议、近场通信(NFC)、蓝牙等。此外,网络装置可以包括各种可能性(硬件和/或软件部件)。这些包括以下部件:诸如具有虚拟局域网(VLAN)能力的交换机、LAN、WAN、代理、网关、路由器、防火墙、虚拟专用网(VPN)装置、服务器、客户端、计算机、配置工具、监测工具和/或其他装置。
为了针对公开的主题的各个方面提供背景,图23和图24以及以下讨论意在提供对可以实现公开的主题的各个方面的合适环境的简要的一般描述。
参照图23,用于实现上述主题的各个方面的示例环境2310包括计算机2312。计算机2312包括处理单元2314、***存储器2316以及***总线2318。***总线2318将包括但不限于***存储器2316的***部件耦接至处理单元2314。处理单元2314可以是各种可用处理器中的任何一种。多核微处理器和其他多处理器架构也可以用作处理单元2314。
***总线2318可以是数种类型的总线结构中的任何一种,包括使用任何各种可用总线架构的局部总线、***总线或外部总线和/或存储器总线或存储器控制器,其中,可用总线架构包括但不限于8位总线、工业标准架构(ISA)、微通道架构(MSA)、扩展ISA(EISA)、智能驱动电子(IDE)、VESA局部总线(VLB)、***部件互连(PCI)、通用串行总线(USB)、高级图形端口(AGP)、个人计算机存储卡国际协会总线(PCMCIA)以及小型计算机***接口(SCSI)。
***存储器2316包括易失性存储器2320和非易失性存储器2322。基本输入/输出***(BIOS)(其包含用于例如在启动期间在计算机2312内的元件之间传输信息的基本例程)被存储在非易失性存储器2322中。作为说明而非限制,非易失性存储器2322可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除PROM(EEPROM)或快闪存储器。易失性存储器2320包括用作外部缓冲存储器的随机存取存储器(RAM)。作为说明而非限制,RAM可用于许多形式,例如同步RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双倍数据速率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)以及直接RambusRAM(DRRAM)。
计算机2312还包括可移除/不可移除、易失性/非易失性计算机存储介质。图23示出了例如磁盘存储装置2324。磁盘存储装置2324包括但不限于诸如磁盘驱动器、软盘驱动器、磁带驱动器、Jaz驱动器、Zip驱动器、LS-100驱动器、快闪存储卡或存储棒的装置。此外,磁盘存储装置2324可以单独包括存储介质,或者包括与其他存储介质组合的存储介质,其中,其他存储介质包括但不限于光盘驱动器例如紧致盘ROM装置(CD-ROM)、CD可记录驱动器(CD-R驱动器)、CD可重写驱动器(CD-RW驱动器)或数字通用盘ROM驱动器(DVD-ROM)。为了便于磁盘存储装置2324与***总线2318的连接,通常使用可移除或不可移除的接口,例如接口2326。
应当理解,图23描述了用作用户与在合适的操作环境2310中描述的基本计算机资源之间的中介的软件。这样的软件包括操作***2328。可以存储在磁盘存储装置2324上的操作***2328用于控制和分配计算机2312的资源。***应用2330通过存储在***存储器2316中或在磁盘存储装置2324上的程序模块2332和程序数据2334来利用操作***2328对资源的管理。应当理解,可以使用各种操作***或操作***的组合来实现本主题公开内容的一个或更多个实施方式。
用户通过(一个或更多个)输入装置2336将命令或信息输入至计算机2312中。输入装置2336包括但不限于指针装置例如鼠标、轨迹球、触控笔、触摸垫、键盘、麦克风、操纵杆、游戏垫、卫星天线、扫描仪、TV调谐卡、数码摄像机、数码视频摄像机、网络摄像机等。这些和其它输入装置经由(一个或更多个)接口端口2338通过***总线2318连接至处理单元2314。(一个或更多个)接口端口2338包括例如串行端口、并行端口、游戏端口以及通用串行总线(USB)。(一个或更多个)输出装置2340使用一些与(一个或更多个)输入装置2336相同类型的端口。因此,例如,USB端口可以用于向计算机2312提供输入,并且从计算机2312向输出装置2340输出信息。提供输出适配器2342以说明在其他输出装置2340中存在需要特殊的适配器的一些输出装置2340例如监视器、扬声器和打印机。输出适配器2342包括作为说明而非限制的视频和声卡,其提供输出装置2340与***总线2318之间的连接方式。应当注意,其他装置和/或装置的***提供输入和输出能力二者,例如(一个或更多个)远程计算机2344。
计算机2312可以使用与一个或更多个远程计算机例如(一个或更多个)远程计算机2344的逻辑连接在网络环境中操作。(一个或更多个)远程计算机2344可以是个人计算机、服务器、路由器、网络PC、工作站、基于微处理器的器具、对等装置或其他公共网络节点等,并且远程计算机2344通常包括相对于计算机2312描述的许多元件或全部元件。为了简洁,仅示出了与(一个或更多个)远程计算机2344一起的存储器存储装置746。(一个或更多个)远程计算机2344通过网络接口2348逻辑地连接至计算机2312,然后经由通信连接2350物理连接。网络接口2348包括通信网络,例如局域网(LAN)和广域网(WAN)。LAN技术包括光纤分布式数据接口(FDDI)、铜分布式数据接口(CDDI)、以太网/IEEE 802.3、令牌环/IEEE802.5等。WAN技术包括但不限于点对点链路、诸如集成服务数字网络(ISDN)及其变型的电路交换网络、分组交换网络以及数字用户线路(DSL)。网络接口2348还可以包括近场通信(NFC)或蓝牙通信。
(一个或更多个)通信连接2350指用于将网络接口2348连接到***总线2318的硬件/软件。虽然为了说明的清楚在计算机2312内示出通信连接2350,但是通信连接2350也可以在计算机2312的外部。仅为了示例性目的,对于连接至网络接口2348必要的硬件/软件包括内部和外部技术,例如包括常规电话级调制解调器、电缆调制解调器以及DSL调制解调器的调制解调器、ISDN适配器以及以太网卡。
图24是可以与公开的主题交互的样本计算环境2400的示意性框图。样本计算环境2400包括一个或更多个客户端2402。(一个或更多个)客户端2402可以是硬件和/或软件(例如,线程、进程、计算装置)。样本计算环境2400还包括一个或更多个服务器2404。(一个或更多个)服务器2404还可以是硬件和/或软件(例如,线程、进程、计算装置)。例如,服务器2404可以容纳线程,以通过采用如本文描述的一个或更多个实施方式来执行变换。客户端2402与服务器2404之间的一种可能的通信可以是适于在两个或更多个计算机进程之间传输的数据包的形式。样本计算环境2400包括通信框架2406,通信框架2406可以用于便于(一个或更多个)客户端2402与(一个或更多个)服务器2404之间的通信。(一个或更多个)客户端2402可操作地连接至一个或更多个客户端数据存储器2408,客户端数据存储器2408可以用于存储(一个或更多个)客户端2402的本地信息。类似地,(一个或更多个)服务器2404可操作地连接至一个或更多个服务器数据存储器810,服务器数据存储器810可以用于存储服务器2404的本地信息。
以上所描述的内容包括本主题发明的示例。当然,为了描述所公开的主题的目的,不可能描述部件或方法的每个可想到的组合,但本领域技术人员可以认识到本主题发明的许多进一步的组合和排列是可能的。因此,所公开的主题旨在涵盖落入所附权利要求的精神和范围内的所有这样的更改、修改和变化。
特别地,并且对于由上述部件、装置、电路和***等执行的各个功能,除非另有说明,否则用于描述这样的部件的术语(包括提及“装置”)旨在与执行所描述的部件的指定功能(如功能等同物)的任何部件相对应,尽管其在结构上与所公开的结构不等同,但执行本文所示的所公开主题的示例方面中的功能。在这一点上,还将认识到,所公开的主题包括具有用于执行所公开主题的各种方法的动作和/或事件的计算机可执行指令的计算机可读介质以及***。
另外,尽管可能已经针对若干实现中的仅一个实现公开了所公开主题的特定特征,但是这样的特征可以与如对于任何给定或特定应用来说可能是期望和有利的其他实现中的一个或更多个其他特征进行组合。此外,就具体实施方式或权利要求中使用术语“包括”和“包含”及其变型来说,这些术语以与术语“含有”相类似的方式旨在是包含性的。
在本申请中,词语“示例性”用于意指用作示例、实例或说明。本文中被描述为“示例性”的任何方面或设计不一定被解释为优于或胜过其他方面或设计。相反,使用词语示例性旨在以具体形式呈现构思。
本文中所描述的各个方面或特征可以被实现为方法、设备、或使用标准编程和/或工程技术的制造的物品。如本文中所使用的术语“制造的物品”意在包括能够从任何计算机可读装置、载体或介质访问的计算机程序。例如,计算机可读介质可以包括但不限于:磁存储装置(例如,硬盘、软盘、磁条……)、光盘(例如,紧致盘(CD)、数字多功能盘(DVD)……)、智能卡和快闪存储器装置(例如,卡、条、键驱动器……)。
Claims (16)
1.一种***,包括:
存储器,其存储可执行部件;
可操作地耦接至所述存储器的处理器,其执行所述可执行部件,所述可执行部件包括:
装置接口部件,其被配置成从与工业设施相关联的工业装置接收工业数据,所述工业装置至少包括工业控制器,所述工业控制器从至少一个工业输入装置接收输入数据,并将输出数据发送至一个或更多个工业输出装置;
视频处理部件,其被配置成从安装在所述工业设施的相应位置处的视频捕获装置接收和存储视频数据;
渲染部件,其被配置成生成增强现实呈现数据,所述增强现实呈现数据在可穿戴器具上渲染所述工业设施的增强现实呈现,其中,所述增强现实呈现包括摄像机图标,所述摄像机图标被渲染在增强现实呈现内与工业设施的安装有所述视频捕获装置的位置对应的位置处;以及
客户端接口部件,其被配置成接收指示所述可穿戴器具的当前定向的定向数据,并且将所述增强现实呈现数据发送至所述可穿戴器具,
其中,所述渲染部件还被配置成:
响应于接收到来自所述可穿戴器具的、指示所述摄像机图标中的摄像机图标已经经由用户输入被选择的摄像机选择数据,将所述增强现实呈现从所述工业设施的虚拟视图转换成视频呈现,所述视频呈现在所述可穿戴器具上渲染从所述视频捕获装置中与所述摄像机图标对应的视频捕获装置接收到的视频数据的子集;以及
响应于确定所述定向数据指示所述当前定向已经改变,根据所述当前定向转移所述视频呈现的观看方向,
其中,所述可执行部件还包括:监测部件,其被配置成对所述视频数据执行分析,并且基于所述分析的结果来检测事件,
其中,所述渲染部件还被配置成:响应于由所述监测部件检测到所述事件,将通知数据发送至所述可穿戴器具,并且
其中,所述渲染部件被配置成:响应于接收到所述摄像机选择数据,通过从当前观看视角朝向摄像机图标缩放所述增强现实呈现,将所述增强现实呈现从所述虚拟视图转换成所述视频呈现,并且响应于确定摄像机图标已经填充了所述可穿戴器具的显示区域的定义的百分比,切换至所述视频呈现。
2.根据权利要求1所述的***,其中,所述视频捕获装置是360度视频摄像机。
3.根据权利要求2所述的***,其中,
所述客户端接口部件还被配置成接收位置数据,所述位置数据指示所述可穿戴器具的当前位置,并且
所述渲染部件还被配置成:响应于确定所述位置数据指示所述当前位置已经改变,根据所述当前位置转移所述视频呈现的观看方向。
4.根据权利要求1所述的***,其中,所述分析包括成像分析、红外分析、紫外分析或飞行时间分析中的至少一个。
5.根据权利要求1所述的***,其中,所述事件是限制区域内的人的存在、不正确的机器移动、过度的机器振动或烟雾的存在中的至少一个。
6.根据权利要求1所述的***,其中,所述视频数据包括视听数据,并且所述监测部件还被配置成基于确定所述视听数据满足定义的准则来检测所述事件。
7.根据权利要求1所述的***,其中,所述摄像机图标包括:球形形状,其包含由所述视频数据渲染的预览视频图像。
8.根据权利要求1所述的***,其中,
所述视频捕获装置是第一视频捕获装置,
所述摄像机图标是第一摄像机图标,
所述摄像机选择数据是第一摄像机选择数据,
所述视频呈现是第一视频呈现,
所述视频数据的子集是所述视频数据的第一子集,以及
所述渲染部件还被配置成:
在第二视频捕获装置的视频图像上或附近的第一视频呈现上渲染与所述第二视频捕获装置对应的第二摄像机图标;以及
响应于接收到来自所述可穿戴器具的、指示所述第二摄像机图标已经经由用户的另一输入被选择的第二摄像机选择数据,从所述第一视频呈现转换成第二视频呈现,所述第二视频呈现在所述可穿戴器具上渲染从所述第二视频捕获装置接收到的视频数据的第二子集。
9.根据权利要求1所述的***,其中,所述可穿戴器具是第一可穿戴器具,并且所述渲染部件还被配置成:响应于从所述第一可穿戴器具接收到指令,将所述增强现实呈现或所述视频呈现中的至少一个的副本渲染在第二可穿戴器具上。
10.根据权利要求1所述的***,其中,所述渲染部件被配置成以外部视图模式和第一人称视图选择性地渲染所述增强现实呈现,所述外部视图模式将所述工业设施渲染为比例模型,并且所述第一人称视图将所述工业设施渲染为全尺度的观看环境。
11.一种方法,包括:
通过包括处理器的***接收由工业设施的工业装置生成的工业数据,所述工业装置至少包括:工业控制器,其从至少一个工业输入装置接收输入数据,并将输出数据发送至一个或更多个工业输出装置;
通过所述***接收视频数据,所述视频数据由安装在所述工业设施内的相应位置处的视频捕获装置生成;
通过所述***基于所述工业数据在可穿戴器具上渲染所述工业设施的增强现实表示,其中,所述渲染包括:在所述增强现实表示上与所述工业设施内的位置对应的位置处渲染摄像机图标;
响应于接收到来自所述可穿戴器具的、识别所述摄像机图标中已经经由用户输入被选择的摄像机图标的摄像机选择数据,通过所述***将所述增强现实表示从所述工业设施的虚拟视图转换成视频呈现;
通过所述***使从所述视频捕获装置中与所述摄像机图标对应的视频捕获装置接收到的视频数据的子集作为所述视频呈现流传输到所述可穿戴器具;
接收指示所述可穿戴器具的当前定向的定向数据;
响应于确定所述定向数据指示所述当前定向已经改变,根据所述当前定向转移所述视频呈现的观看方向;
对所述视频数据执行分析,并且基于所述分析的结果来检测事件;以及
响应于检测到所述事件,将通知数据发送至所述可穿戴器具,并且
其中,所述转换包括:
从当前观看视角朝向摄像机图标缩放所述增强现实表示;以及
响应于确定摄像机图标包含所述可穿戴器具的观看区域的定义的百分比,发起所述流传输。
12.根据权利要求11所述的方法,其中,
接收所述视频数据包括从360度视频摄像机接收所述视频数据,并且
所述流传输包括:响应于基于由所述可穿戴器具生成的位置数据确定所述可穿戴器具的位置已经改变,根据所述可穿戴器具的当前位置重定向所述视频呈现的观看方向。
13.根据权利要求11所述的方法,其中,渲染所述摄像机图标包括将所述摄像机图标渲染为虚拟球体,所述虚拟球体显示所述视频数据的预览图像。
14.根据权利要求11所述的方法,其中,
所述视频捕获装置是第一视频捕获装置,
所述摄像机图标是第一摄像机图标,
所述摄像机选择数据是第一摄像机选择数据,
所述视频呈现是第一视频呈现,
所述视频数据的子集是所述视频数据的第一子集,以及
所述方法还包括:
通过所述***在第二视频捕获装置的视频图像上或附近的第一视频呈现上渲染与所述第二视频捕获装置对应的第二摄像机图标;
响应于接收到来自所述可穿戴器具的、指示所述第二摄像机图标已经被选择的第二摄像机选择数据,通过所述***将所述第一视频呈现转换成第二视频呈现;以及
通过所述***使从所述第二视频捕获装置接收到的视频数据的第二子集作为所述第二视频呈现流传输到所述可穿戴器具。
15.根据权利要求11所述的方法,其中,所述可穿戴器具是第一可穿戴器具,并且所述方法还包括:
响应于从所述第一可穿戴器具接收到指令,通过所述***将所述增强现实表示或所述视频呈现中的至少一个的副本渲染在第二可穿戴器具上。
16.一种存储有指令的非暂态计算机可读介质,所述指令响应于执行而使包括处理器的***执行操作,所述操作包括:
接收由工业设施的工业装置生成的工业数据;
接收视频数据,所述视频数据由安装在所述工业设施内的相应位置处的视频捕获装置生成;
基于所述工业数据在可穿戴器具上渲染所述工业设施的增强现实呈现;
在所述增强现实呈现内与所述工业设施内的位置对应的位置处渲染摄像机图标;
响应于接收到由所述可穿戴器具生成的、识别所述摄像机图标中已经经由用户输入被选择的摄像机图标的摄像机选择数据,将所述增强现实呈现从所述工业设施的虚拟视图转换成视频呈现,其中,所述视频呈现包括:渲染由所述视频捕获装置中由所述摄像机图标表示的视频捕获装置生成的视频数据的子集;
接收指示所述可穿戴器具的当前定向的定向数据;
响应于确定所述定向数据指示所述当前定向已经改变,根据所述当前定向转移所述视频呈现的观看方向;
对所述视频数据执行分析,并且基于所述分析的结果来检测事件;以及
响应于检测到所述事件,将通知数据发送至所述可穿戴器具,并且其中,所述转换包括:
从所述增强现实呈现的当前观看视角朝向摄像机图标缩放所述增强现实呈现;以及
响应于确定摄像机图标包含所述可穿戴器具的观看区域的定义的百分比,渲染所述视频数据的子集。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110844683.9A CN113703569B (zh) | 2016-11-08 | 2017-11-08 | 用于工业自动化的虚拟现实和增强现实的***和方法 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662419061P | 2016-11-08 | 2016-11-08 | |
US62/419,061 | 2016-11-08 | ||
US15/718,856 | 2017-09-28 | ||
US15/718,856 US10735691B2 (en) | 2016-11-08 | 2017-09-28 | Virtual reality and augmented reality for industrial automation |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110844683.9A Division CN113703569B (zh) | 2016-11-08 | 2017-11-08 | 用于工业自动化的虚拟现实和增强现实的***和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108073277A CN108073277A (zh) | 2018-05-25 |
CN108073277B true CN108073277B (zh) | 2021-09-14 |
Family
ID=60293803
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110844683.9A Active CN113703569B (zh) | 2016-11-08 | 2017-11-08 | 用于工业自动化的虚拟现实和增强现实的***和方法 |
CN201711092322.3A Active CN108073277B (zh) | 2016-11-08 | 2017-11-08 | 用于工业自动化的虚拟现实和增强现实的***和方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110844683.9A Active CN113703569B (zh) | 2016-11-08 | 2017-11-08 | 用于工业自动化的虚拟现实和增强现实的***和方法 |
Country Status (3)
Country | Link |
---|---|
US (3) | US10735691B2 (zh) |
EP (2) | EP3318945B1 (zh) |
CN (2) | CN113703569B (zh) |
Families Citing this family (197)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
USD789955S1 (en) * | 2014-11-04 | 2017-06-20 | Teenage Engineering Ab | Display screen or portion thereof with graphical user interface |
USD914047S1 (en) | 2014-11-04 | 2021-03-23 | Teenage Engineering Ab | Display screen or portion thereof with graphical user interface |
EP3062142B1 (en) | 2015-02-26 | 2018-10-03 | Nokia Technologies OY | Apparatus for a near-eye display |
US10079730B2 (en) * | 2015-09-30 | 2018-09-18 | Amazon Technologies, Inc. | Network based resource configuration discovery service |
US11876941B1 (en) | 2016-06-20 | 2024-01-16 | Pipbin, Inc. | Clickable augmented reality content manager, system, and network |
US11785161B1 (en) | 2016-06-20 | 2023-10-10 | Pipbin, Inc. | System for user accessibility of tagged curated augmented reality content |
US10410320B2 (en) * | 2016-09-30 | 2019-09-10 | Sony Interactive Entertainment Inc. | Course profiling and sharing |
US10620910B2 (en) | 2016-12-23 | 2020-04-14 | Realwear, Inc. | Hands-free navigation of touch-based operating systems |
US10936872B2 (en) | 2016-12-23 | 2021-03-02 | Realwear, Inc. | Hands-free contextually aware object interaction for wearable display |
US11507216B2 (en) | 2016-12-23 | 2022-11-22 | Realwear, Inc. | Customizing user interfaces of binary applications |
US11099716B2 (en) * | 2016-12-23 | 2021-08-24 | Realwear, Inc. | Context based content navigation for wearable display |
US10650552B2 (en) | 2016-12-29 | 2020-05-12 | Magic Leap, Inc. | Systems and methods for augmented reality |
EP3343267B1 (en) | 2016-12-30 | 2024-01-24 | Magic Leap, Inc. | Polychromatic light out-coupling apparatus, near-eye displays comprising the same, and method of out-coupling polychromatic light |
US10620084B2 (en) | 2017-02-22 | 2020-04-14 | Middle Chart, LLC | System for hierarchical actions based upon monitored building conditions |
US10268782B1 (en) | 2017-02-22 | 2019-04-23 | Middle Chart, LLC | System for conducting a service call with orienteering |
US11625510B2 (en) | 2017-02-22 | 2023-04-11 | Middle Chart, LLC | Method and apparatus for presentation of digital content |
US10467353B2 (en) | 2017-02-22 | 2019-11-05 | Middle Chart, LLC | Building model with capture of as built features and experiential data |
US10740503B1 (en) | 2019-01-17 | 2020-08-11 | Middle Chart, LLC | Spatial self-verifying array of nodes |
US10984146B2 (en) | 2017-02-22 | 2021-04-20 | Middle Chart, LLC | Tracking safety conditions of an area |
US11481527B2 (en) | 2017-02-22 | 2022-10-25 | Middle Chart, LLC | Apparatus for displaying information about an item of equipment in a direction of interest |
US10824774B2 (en) | 2019-01-17 | 2020-11-03 | Middle Chart, LLC | Methods and apparatus for healthcare facility optimization |
US11468209B2 (en) | 2017-02-22 | 2022-10-11 | Middle Chart, LLC | Method and apparatus for display of digital content associated with a location in a wireless communications area |
US10671767B2 (en) | 2017-02-22 | 2020-06-02 | Middle Chart, LLC | Smart construction with automated detection of adverse structure conditions and remediation |
US10831945B2 (en) | 2017-02-22 | 2020-11-10 | Middle Chart, LLC | Apparatus for operation of connected infrastructure |
US10733334B2 (en) | 2017-02-22 | 2020-08-04 | Middle Chart, LLC | Building vital conditions monitoring |
US11436389B2 (en) | 2017-02-22 | 2022-09-06 | Middle Chart, LLC | Artificial intelligence based exchange of geospatial related digital content |
US11194938B2 (en) | 2020-01-28 | 2021-12-07 | Middle Chart, LLC | Methods and apparatus for persistent location based digital content |
US10902160B2 (en) | 2017-02-22 | 2021-01-26 | Middle Chart, LLC | Cold storage environmental control and product tracking |
US10949579B2 (en) | 2017-02-22 | 2021-03-16 | Middle Chart, LLC | Method and apparatus for enhanced position and orientation determination |
US11900021B2 (en) | 2017-02-22 | 2024-02-13 | Middle Chart, LLC | Provision of digital content via a wearable eye covering |
US10762251B2 (en) | 2017-02-22 | 2020-09-01 | Middle Chart, LLC | System for conducting a service call with orienteering |
US10628617B1 (en) | 2017-02-22 | 2020-04-21 | Middle Chart, LLC | Method and apparatus for wireless determination of position and orientation of a smart device |
US10872179B2 (en) | 2017-02-22 | 2020-12-22 | Middle Chart, LLC | Method and apparatus for automated site augmentation |
US11900023B2 (en) | 2017-02-22 | 2024-02-13 | Middle Chart, LLC | Agent supportable device for pointing towards an item of interest |
US11475177B2 (en) | 2017-02-22 | 2022-10-18 | Middle Chart, LLC | Method and apparatus for improved position and orientation based information display |
WO2020068177A1 (en) | 2018-09-26 | 2020-04-02 | Middle Chart, LLC | Method and apparatus for augmented virtual models and orienteering |
US10740502B2 (en) | 2017-02-22 | 2020-08-11 | Middle Chart, LLC | Method and apparatus for position based query with augmented reality headgear |
DE102017203721A1 (de) * | 2017-03-07 | 2018-09-13 | Bitmanagement Software GmbH | Vorrichtung und Verfahren zur Darstellung eines Raumbilds von einem Objekt in einer virtuellen Umgebung |
US10395427B1 (en) * | 2017-04-11 | 2019-08-27 | Bentley Systems, Incorporated | On-site visualization and modeling using P and ID drawings and augmented reality |
US10712902B2 (en) * | 2017-07-14 | 2020-07-14 | Sst Systems, Inc. | Augmented reality system for conveyor system and method |
US10578870B2 (en) | 2017-07-26 | 2020-03-03 | Magic Leap, Inc. | Exit pupil expander |
US10788972B2 (en) * | 2017-10-02 | 2020-09-29 | Fisher-Rosemount Systems, Inc. | Systems and methods for automatically populating a display area with historized process parameters |
CN107832497B (zh) * | 2017-10-17 | 2018-08-28 | 广东工业大学 | 一种智能车间快速定制设计方法及*** |
JP6870568B2 (ja) * | 2017-10-24 | 2021-05-12 | オムロン株式会社 | 通信システム、制御装置、設定装置、設定方法およびプログラム |
US10878690B2 (en) * | 2017-11-02 | 2020-12-29 | Honeywell International Inc. | Unified status and alarm management for operations, monitoring, and maintenance of legacy and modern control systems from common user interface |
TWI647631B (zh) * | 2017-11-28 | 2019-01-11 | 承潔投資有限公司 | 工地管理系統及其穿戴裝置 |
CA3084811A1 (en) | 2017-12-10 | 2019-06-13 | Magic Leap, Inc. | Anti-reflective coatings on optical waveguides |
KR101918262B1 (ko) * | 2017-12-19 | 2018-11-13 | (주) 알큐브 | 혼합 현실 서비스 제공 방법 및 시스템 |
CN111712751B (zh) | 2017-12-20 | 2022-11-01 | 奇跃公司 | 用于增强现实观看设备的***件 |
US10706628B2 (en) * | 2018-02-28 | 2020-07-07 | Lenovo (Singapore) Pte. Ltd. | Content transfer |
US10755676B2 (en) | 2018-03-15 | 2020-08-25 | Magic Leap, Inc. | Image correction due to deformation of components of a viewing device |
US11176507B2 (en) * | 2018-05-04 | 2021-11-16 | Accenture Global Solutions Limited | Reconfigurable predictive and simulative digital platform for multi-stage processing facilities |
CN108646921A (zh) * | 2018-05-16 | 2018-10-12 | 北京小米移动软件有限公司 | 场景提醒方法及装置、电子设备、计算机可读存储介质 |
US11163999B2 (en) * | 2018-05-21 | 2021-11-02 | Ptc Inc. | Augmented reality-based capture, processing and transfer of occupational knowledge |
CN108919942A (zh) * | 2018-05-25 | 2018-11-30 | 江西博异自动化科技有限公司 | 混合型增强现实人机交互*** |
US10360735B1 (en) * | 2018-05-30 | 2019-07-23 | Noble Systems Corporation | Providing technical support in an augmented reality environment |
JP7319303B2 (ja) | 2018-05-31 | 2023-08-01 | マジック リープ, インコーポレイテッド | レーダ頭部姿勢位置特定 |
JP7369147B2 (ja) | 2018-06-05 | 2023-10-25 | マジック リープ, インコーポレイテッド | 視認システムのホモグラフィ変換行列ベースの温度較正 |
EP3579127A1 (en) * | 2018-06-07 | 2019-12-11 | Hexagon Technology Center GmbH | Method of generation of an enhanced plant model |
WO2019236127A1 (en) * | 2018-06-08 | 2019-12-12 | Halliburton Energy Services, Inc. | Virtual real time operation |
DE112019003185T5 (de) * | 2018-06-26 | 2021-04-08 | Fanuc America Corporation | Automatischer dynamischer diagnoseleitfaden mit erweiterter realität |
US11579441B2 (en) | 2018-07-02 | 2023-02-14 | Magic Leap, Inc. | Pixel intensity modulation using modifying gain values |
WO2020010226A1 (en) | 2018-07-03 | 2020-01-09 | Magic Leap, Inc. | Systems and methods for virtual and augmented reality |
US11856479B2 (en) | 2018-07-03 | 2023-12-26 | Magic Leap, Inc. | Systems and methods for virtual and augmented reality along a route with markers |
DE102018116611B4 (de) * | 2018-07-10 | 2022-02-10 | Dematic Gmbh | Verfahren und System zur Steuerung des Materialflusses von Objekten in einem realen Lager |
US10768605B2 (en) * | 2018-07-23 | 2020-09-08 | Accenture Global Solutions Limited | Augmented reality (AR) based fault detection and maintenance |
US11624929B2 (en) | 2018-07-24 | 2023-04-11 | Magic Leap, Inc. | Viewing device with dust seal integration |
WO2020023545A1 (en) | 2018-07-24 | 2020-01-30 | Magic Leap, Inc. | Temperature dependent calibration of movement detection devices |
CN109144251A (zh) * | 2018-07-31 | 2019-01-04 | 长沙拓扑陆川新材料科技有限公司 | 一种网络互连的可穿戴设备 |
US20200042793A1 (en) * | 2018-07-31 | 2020-02-06 | Ario Technologies, Inc. | Creating, managing and accessing spatially located information utilizing augmented reality and web technologies |
CN112740665A (zh) | 2018-08-02 | 2021-04-30 | 奇跃公司 | 基于头部运动的瞳孔间距离补偿的观察*** |
US20200043234A1 (en) * | 2018-08-03 | 2020-02-06 | Igt | Systems and methods for providing virtual elements based on a code provided within a mixed reality scene |
EP3830631A4 (en) | 2018-08-03 | 2021-10-27 | Magic Leap, Inc. | NON-FUSED POSE DRIFT CORRECTION OF A FUSED TOTEM IN A USER INTERACTION SYSTEM |
US20210201273A1 (en) * | 2018-08-14 | 2021-07-01 | Carrier Corporation | Ductwork and fire suppression system visualization |
CN110852143B (zh) * | 2018-08-21 | 2024-04-09 | 元平台公司 | 在增强现实环境中的交互式文本效果 |
JP7487176B2 (ja) | 2018-08-22 | 2024-05-20 | マジック リープ, インコーポレイテッド | 患者視認システム |
EP3617849A1 (en) * | 2018-08-27 | 2020-03-04 | Airbus Operations, S.L.U. | A real time virtual reality (vr) system and related methods |
US10719066B2 (en) * | 2018-08-29 | 2020-07-21 | Rockwell Automation Technologies, Inc. | Audio recognition-based industrial automation control |
DE102018122435A1 (de) * | 2018-09-13 | 2020-03-19 | Hendrik Fehlis | Virtuelle dreidimensionale Objekte in einem Livevideo |
US10942577B2 (en) | 2018-09-26 | 2021-03-09 | Rockwell Automation Technologies, Inc. | Augmented reality interaction techniques |
WO2020062168A1 (zh) * | 2018-09-29 | 2020-04-02 | 西门子股份公司 | 数据处理***及方法、存储介质和计算机程序产品 |
JP6711384B2 (ja) * | 2018-10-04 | 2020-06-17 | ダイキン工業株式会社 | 識別情報入力支援システム |
US10997415B2 (en) | 2018-10-05 | 2021-05-04 | General Electric Company | Augmented reality system for asset tracking and visualization using indoor positioning system |
US11349843B2 (en) * | 2018-10-05 | 2022-05-31 | Edutechnologic, Llc | Systems, methods and apparatuses for integrating a service application within an existing application |
US11493908B2 (en) * | 2018-11-13 | 2022-11-08 | Rockwell Automation Technologies, Inc. | Industrial safety monitoring configuration using a digital twin |
CN117111304A (zh) | 2018-11-16 | 2023-11-24 | 奇跃公司 | 用于保持图像清晰度的图像尺寸触发的澄清 |
US11087551B2 (en) * | 2018-11-21 | 2021-08-10 | Eon Reality, Inc. | Systems and methods for attaching synchronized information between physical and virtual environments |
US20200167931A1 (en) * | 2018-11-26 | 2020-05-28 | Baker Hughes, A Ge Company, Llc | Controlling components of an energy industry operation using a processing system |
DE102018130206A1 (de) * | 2018-11-28 | 2020-05-28 | Dematic Gmbh | Verfahren und System zur Steuerung des Materialflusses von Objekten in einer fördertechnischen Anlage eines realen Lagers |
JP2020091641A (ja) * | 2018-12-05 | 2020-06-11 | Juki株式会社 | 監視システム |
EP3899613A4 (en) | 2018-12-21 | 2022-09-07 | Magic Leap, Inc. | AIR POCKET STRUCTURES TO PROMOTE TOTAL INTERNAL REFLECTION IN A WAVEGUIDE |
US10963283B2 (en) * | 2018-12-27 | 2021-03-30 | Nutanix, Inc. | Configuration management for hybrid cloud |
CN109741463B (zh) * | 2019-01-02 | 2022-07-19 | 京东方科技集团股份有限公司 | 虚拟现实场景的渲染方法、装置及设备 |
US11582308B2 (en) * | 2019-01-16 | 2023-02-14 | WPR Services, LLC | System for monitoring machinery and work areas of a facility |
WO2020163218A1 (en) * | 2019-02-04 | 2020-08-13 | Beam Therapeutics Inc. | Systems and methods for implemented mixed reality in laboratory automation |
US11175728B2 (en) * | 2019-02-06 | 2021-11-16 | High Fidelity, Inc. | Enabling negative reputation submissions in manners that reduce chances of retaliation |
US11425189B2 (en) | 2019-02-06 | 2022-08-23 | Magic Leap, Inc. | Target intent-based clock speed determination and adjustment to limit total heat generated by multiple processors |
CN111612915B (zh) * | 2019-02-25 | 2023-09-15 | 苹果公司 | 渲染对象以匹配相机噪声 |
WO2020185405A1 (en) | 2019-03-12 | 2020-09-17 | Magic Leap, Inc. | Registration of local content between first and second augmented reality viewers |
US11373400B1 (en) | 2019-03-18 | 2022-06-28 | Express Scripts Strategic Development, Inc. | Methods and systems for image processing to present data in augmented reality |
EP3716037A1 (en) * | 2019-03-28 | 2020-09-30 | ABB Schweiz AG | Responsive auto-layouting of industrial process graphics |
CN113678172A (zh) * | 2019-04-01 | 2021-11-19 | Bp北美公司 | 生产设施的动态数字复制品 |
EP3953777A1 (en) * | 2019-04-10 | 2022-02-16 | 3M Innovative Properties Company | System control through a network of personal protective equipment |
US10970519B2 (en) | 2019-04-16 | 2021-04-06 | At&T Intellectual Property I, L.P. | Validating objects in volumetric video presentations |
US11012675B2 (en) | 2019-04-16 | 2021-05-18 | At&T Intellectual Property I, L.P. | Automatic selection of viewpoint characteristics and trajectories in volumetric video presentations |
US11074697B2 (en) | 2019-04-16 | 2021-07-27 | At&T Intellectual Property I, L.P. | Selecting viewpoints for rendering in volumetric video presentations |
US11153492B2 (en) | 2019-04-16 | 2021-10-19 | At&T Intellectual Property I, L.P. | Selecting spectator viewpoints in volumetric video presentations of live events |
CN110333668A (zh) * | 2019-04-29 | 2019-10-15 | 广州影子科技有限公司 | 控制方法及装置、控制***和计算机可读存储介质 |
US11445232B2 (en) * | 2019-05-01 | 2022-09-13 | Magic Leap, Inc. | Content provisioning system and method |
JP2020197835A (ja) * | 2019-05-31 | 2020-12-10 | ファナック株式会社 | 産業用機械のデータ収集設定装置 |
US11650719B2 (en) * | 2019-06-18 | 2023-05-16 | The Calany Holding S.À.R.L. | Virtual creation of real-world projects |
US11663685B2 (en) | 2019-06-18 | 2023-05-30 | The Calany Holding S. À R.L. | System and method for providing digital reality experiences and decentralized transactions of real estate projects |
JP2022542363A (ja) | 2019-07-26 | 2022-10-03 | マジック リープ, インコーポレイテッド | 拡張現実のためのシステムおよび方法 |
US11386602B2 (en) * | 2019-07-30 | 2022-07-12 | Controllogix | Animated monitor and control for automated baggage handling system and related methods |
US11507251B2 (en) * | 2019-09-17 | 2022-11-22 | Fisher-Rosemount Systems, Inc. | Guided user interface (GUI) based systems and methods for regionizing full-size process plant displays for rendering on mobile user interface devices |
DE102019125348A1 (de) * | 2019-09-20 | 2021-03-25 | 365FarmNet Group GmbH & Co. KG | Verfahren zur Unterstützung eines Benutzers bei einer landwirtschaftlichen Tätigkeit |
US11048483B2 (en) | 2019-09-24 | 2021-06-29 | Rockwell Automation Technologies, Inc. | Industrial programming development with an extensible integrated development environment (IDE) platform |
US10942710B1 (en) | 2019-09-24 | 2021-03-09 | Rockwell Automation Technologies, Inc. | Industrial automation domain-specific language programming paradigm |
US11392112B2 (en) * | 2019-09-26 | 2022-07-19 | Rockwell Automation Technologies, Inc. | Virtual design environment |
US11042362B2 (en) | 2019-09-26 | 2021-06-22 | Rockwell Automation Technologies, Inc. | Industrial programming development with a trained analytic model |
US11733687B2 (en) | 2019-09-26 | 2023-08-22 | Rockwell Automation Technologies, Inc. | Collaboration tools |
US11080176B2 (en) | 2019-09-26 | 2021-08-03 | Rockwell Automation Technologies, Inc. | Testing framework for automation objects |
US11163536B2 (en) * | 2019-09-26 | 2021-11-02 | Rockwell Automation Technologies, Inc. | Maintenance and commissioning |
US11574219B2 (en) * | 2019-09-27 | 2023-02-07 | Rockwell Automation Technologies, Inc. | System and method for industrial automation rules engine |
US11317156B2 (en) * | 2019-09-27 | 2022-04-26 | Honeywell International Inc. | Video analytics for modifying training videos for use with head-mounted displays |
US11544604B2 (en) * | 2019-10-09 | 2023-01-03 | Adobe Inc. | Adaptive model insights visualization engine for complex machine learning models |
JP2022551978A (ja) | 2019-10-15 | 2022-12-14 | オラクル・インターナショナル・コーポレイション | データセンタオペレーションまたはクラウドインフラストラクチャで仮想現実または拡張現実を使用するためのシステムおよび方法 |
US11318616B2 (en) * | 2019-11-11 | 2022-05-03 | Rockwell Automation Technologies, Inc. | Robotic digital twin control with industrial context simulation |
EP4058936A4 (en) | 2019-11-14 | 2023-05-03 | Magic Leap, Inc. | SYSTEMS AND METHODS FOR VIRTUAL AND AUGMENTED REALITY |
JP2023502927A (ja) | 2019-11-15 | 2023-01-26 | マジック リープ, インコーポレイテッド | 外科手術環境において使用するための視認システム |
US11733667B2 (en) | 2019-11-18 | 2023-08-22 | Rockwell Automation Technologies, Inc. | Remote support via visualizations of instructional procedures |
US11455300B2 (en) | 2019-11-18 | 2022-09-27 | Rockwell Automation Technologies, Inc. | Interactive industrial automation remote assistance system for components |
US11263570B2 (en) * | 2019-11-18 | 2022-03-01 | Rockwell Automation Technologies, Inc. | Generating visualizations for instructional procedures |
US11378942B2 (en) * | 2019-11-19 | 2022-07-05 | International Business Machines Corporation | Progressive guidance of digital twin model assembly |
US11638147B2 (en) * | 2019-11-22 | 2023-04-25 | International Business Machines Corporation | Privacy-preserving collaborative whiteboard using augmented reality |
US11273341B2 (en) * | 2019-11-27 | 2022-03-15 | Ready 2 Perform Technology LLC | Interactive visualization system for biomechanical assessment |
US11030819B1 (en) * | 2019-12-02 | 2021-06-08 | International Business Machines Corporation | Product build assistance and verification |
AU2020401569A1 (en) * | 2019-12-10 | 2022-06-30 | Woodside Energy Technologies Pty Ltd | An asset management system |
US11507714B2 (en) | 2020-01-28 | 2022-11-22 | Middle Chart, LLC | Methods and apparatus for secure persistent location based digital content |
US11640486B2 (en) | 2021-03-01 | 2023-05-02 | Middle Chart, LLC | Architectural drawing based exchange of geospatial related digital content |
US11526159B2 (en) * | 2020-02-14 | 2022-12-13 | Rockwell Automation Technologies, Inc. | Augmented reality human machine interface testing |
CN111310049B (zh) * | 2020-02-25 | 2023-04-07 | 腾讯科技(深圳)有限公司 | 一种信息交互方法及相关设备 |
TWI714480B (zh) * | 2020-03-19 | 2020-12-21 | 索爾智慧機械有限公司 | 拉帽安裝工具測試儀器之數據顯示方法 |
US11960651B2 (en) * | 2020-03-30 | 2024-04-16 | Snap Inc. | Gesture-based shared AR session creation |
US11308447B2 (en) | 2020-04-02 | 2022-04-19 | Rockwell Automation Technologies, Inc. | Cloud-based collaborative industrial automation design environment |
EP3904984B1 (de) * | 2020-04-27 | 2023-03-01 | Siemens Aktiengesellschaft | Verfahren für eine immersive mensch-maschine-interaktion |
US11743340B2 (en) * | 2020-06-10 | 2023-08-29 | Snap Inc. | Deep linking to augmented reality components |
US11233973B1 (en) * | 2020-07-23 | 2022-01-25 | International Business Machines Corporation | Mixed-reality teleconferencing across multiple locations |
US11270011B2 (en) * | 2020-07-28 | 2022-03-08 | 8 Bit Development Inc. | Pseudorandom object placement in higher dimensions in an augmented or virtual environment |
CN112134836A (zh) * | 2020-08-04 | 2020-12-25 | 广东希睿数字科技有限公司 | 一种基于ar技术的用于远程指导操作hmi设备的*** |
DE102020121199A1 (de) * | 2020-08-12 | 2022-02-17 | Aytec Automation Gmbh | Steuerungseinrichtung einer Betriebsanlage |
US20230324898A1 (en) * | 2020-08-14 | 2023-10-12 | Siemens Aktiengesellschaft | A Method, Device, System and Storage Medium for Fault Diagnosis and Solution Recommendation |
CN112131782B (zh) * | 2020-08-27 | 2024-05-14 | 浙江大学 | 一种多回路智能工厂边缘侧数字孪生场景耦合装置 |
US11449028B2 (en) | 2020-09-03 | 2022-09-20 | Rockwell Automation Technologies, Inc. | Industrial automation asset and control project analysis |
US11561517B2 (en) | 2020-09-09 | 2023-01-24 | Rockwell Automation Technologies, Inc. | Industrial development hub vault and design tools |
US11294360B2 (en) | 2020-09-09 | 2022-04-05 | Rockwell Automation Technologies, Inc. | Industrial automation project code development guidance and analysis |
US11415969B2 (en) | 2020-09-21 | 2022-08-16 | Rockwell Automation Technologies, Inc. | Connectivity to an industrial information hub |
US11796983B2 (en) * | 2020-09-25 | 2023-10-24 | Rockwell Automation Technologies, Inc. | Data modeling and asset management using an industrial information hub |
US11675936B2 (en) | 2020-09-28 | 2023-06-13 | Rockwell Automation Technologies, Inc. | Unifying multiple simulation models |
JP7222387B2 (ja) * | 2020-10-13 | 2023-02-15 | 横河電機株式会社 | 装置、方法およびプログラム |
EP3992741A1 (en) * | 2020-10-30 | 2022-05-04 | Asco Power Technologies, L.P. | Extended reality playback of events for manufacturing, installation, operation, maintenance and repair of infrastructure equipment |
CN112230836B (zh) * | 2020-11-02 | 2022-05-27 | 网易(杭州)网络有限公司 | 对象的移动方法、装置、存储介质和电子装置 |
CN112363619A (zh) * | 2020-11-11 | 2021-02-12 | 广东电网有限责任公司 | 一种基于终端浏览器的电力物联网远程交互方法及*** |
CN112394667B (zh) * | 2020-11-24 | 2022-05-31 | 长江勘测规划设计研究有限责任公司 | 一种基于数字孪生的施工过程安全监控方法 |
CN112486127B (zh) * | 2020-12-07 | 2021-12-21 | 北京达美盛软件股份有限公司 | 一种数字工厂的虚拟巡检*** |
WO2022162560A1 (en) * | 2021-01-26 | 2022-08-04 | Cae Inc. | Remote pointer for simulators |
JP2024509722A (ja) | 2021-02-08 | 2024-03-05 | サイトフル コンピューターズ リミテッド | エクステンデッドリアリティにおけるユーザ相互作用 |
JP2024507749A (ja) | 2021-02-08 | 2024-02-21 | サイトフル コンピューターズ リミテッド | エクステンデッドリアリティにおけるコンテンツ共有 |
KR20230144042A (ko) * | 2021-02-08 | 2023-10-13 | 사이트풀 컴퓨터스 리미티드 | 생산성을 위한 확장 현실 |
FI20215159A1 (en) * | 2021-02-17 | 2022-08-18 | Procemex Oy Ltd | Extended Virtual Tour |
US11501502B2 (en) * | 2021-03-19 | 2022-11-15 | International Business Machines Corporation | Augmented reality guided inspection |
US20220309753A1 (en) * | 2021-03-25 | 2022-09-29 | B/E Aerospace, Inc. | Virtual reality to assign operation sequencing on an assembly line |
CN113240798B (zh) | 2021-05-19 | 2022-04-22 | 郑州轻工业大学 | 基于数字孪生和ar的物料完备性智能检测与配置方法 |
US11688144B2 (en) | 2021-06-16 | 2023-06-27 | International Business Machines Corporation | Self guidance based on dimensional relationship |
US20220413433A1 (en) * | 2021-06-28 | 2022-12-29 | Meta Platforms Technologies, Llc | Holographic Calling for Artificial Reality |
US20230019745A1 (en) * | 2021-07-15 | 2023-01-19 | Microsoft Technology Licensing, Llc | Multi-modal sensor based process tracking and guidance |
WO2023009580A2 (en) | 2021-07-28 | 2023-02-02 | Multinarity Ltd | Using an extended reality appliance for productivity |
US20230089756A1 (en) * | 2021-09-22 | 2023-03-23 | Optum, Inc. | Automated Object Transformation Identification |
US11829126B2 (en) * | 2021-09-22 | 2023-11-28 | Rockwell Automation Technologies, Inc. | Systems and methods for providing context-based data for an industrial automation system based on a virtual coordinate system |
US20230092405A1 (en) * | 2021-09-22 | 2023-03-23 | Rockwell Automation Technologies, Inc. | Systems and methods for providing context-based data for an industrial automation system |
CN113963229B (zh) * | 2021-09-23 | 2023-08-18 | 西北大学 | 一种基于视频的无线信号增强与跨目标手势识别方法 |
US11934569B2 (en) * | 2021-09-24 | 2024-03-19 | Apple Inc. | Devices, methods, and graphical user interfaces for interacting with three-dimensional environments |
CN114141079B (zh) * | 2021-11-15 | 2023-12-15 | 中船舰客教育科技(北京)有限公司 | 智能产线mr虚拟训练***、方法、电子设备及存储介质 |
US11948263B1 (en) | 2023-03-14 | 2024-04-02 | Sightful Computers Ltd | Recording the complete physical and extended reality environments of a user |
US20230334795A1 (en) | 2022-01-25 | 2023-10-19 | Multinarity Ltd | Dual mode presentation of user interface elements |
EP4227743A1 (en) * | 2022-02-14 | 2023-08-16 | Basf Se | An augmented reality-based automation system |
EP4227749A1 (en) * | 2022-02-14 | 2023-08-16 | Basf Se | An augmented reality-based automation system |
EP4250031A1 (en) * | 2022-03-22 | 2023-09-27 | Basf Se | An augmented reality based automation system with a hands free selection of a virtual object |
KR20230147312A (ko) * | 2022-04-14 | 2023-10-23 | 주식회사 피아몬드 | 가상 공간에서 프라이버시 제공을 위한 방법 및 시스템 |
EP4273667A1 (en) * | 2022-05-02 | 2023-11-08 | Siemens Aktiengesellschaft | Augmented reality system |
EP4273644A1 (en) * | 2022-05-03 | 2023-11-08 | Basf Se | An augmented reality based automation system with task manager |
WO2023230678A1 (pt) * | 2022-05-31 | 2023-12-07 | Weg Equipamentos Eletricos S.A. | Método e sistema para geração de uma representação de realidade aumentada de deformações vibracionais para uma estrutura |
US11855831B1 (en) | 2022-06-10 | 2023-12-26 | T-Mobile Usa, Inc. | Enabling an operator to resolve an issue associated with a 5G wireless telecommunication network using AR glasses |
CN115174662B (zh) * | 2022-08-21 | 2024-07-23 | 南昌中展数智科技有限公司 | 基于增强现实的监管数据显示方法及显示*** |
US20240073372A1 (en) * | 2022-08-31 | 2024-02-29 | Snap Inc. | In-person participant interaction for hybrid event |
EP4339721A1 (en) * | 2022-09-15 | 2024-03-20 | SCM Group S.p.A. | Method for displaying information on a machine tool and related working plant |
CN115617234A (zh) * | 2022-12-20 | 2023-01-17 | 中科航迈数控软件(深圳)有限公司 | 一种运维指导方法及*** |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101644989A (zh) * | 2009-09-08 | 2010-02-10 | 南京师范大学 | 基于数字头盔的通用三维虚拟场景实时交互方法 |
CN105046731A (zh) * | 2015-06-25 | 2015-11-11 | 西安理工大学 | 事故现场虚拟多关注视角转换的三维动态再现方法 |
JP2016010145A (ja) * | 2014-06-23 | 2016-01-18 | パナソニックIpマネジメント株式会社 | 映像配信方法、映像受信方法、サーバ、端末装置及び映像配信システム |
CN105988367A (zh) * | 2015-03-16 | 2016-10-05 | 洛克威尔自动控制技术股份有限公司 | 云中的工业自动化环境的建模 |
Family Cites Families (188)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5168441A (en) | 1990-05-30 | 1992-12-01 | Allen-Bradley Company, Inc. | Methods for set up and programming of machine and process controllers |
IL100175A (en) * | 1991-11-27 | 1994-11-11 | State Of Isreal Ministry Of De | Vehicle collision warning device |
US5717456A (en) * | 1995-03-06 | 1998-02-10 | Champion International Corporation | System for monitoring a continuous manufacturing process |
US5777874A (en) | 1996-02-12 | 1998-07-07 | Allen-Bradley Company, Inc. | Programmable controller backup system |
US6002406A (en) | 1996-11-13 | 1999-12-14 | Silicon Graphics, Inc. | System and method for storing and accessing data representative of an object in various level-of-detail |
US6334124B1 (en) | 1997-10-06 | 2001-12-25 | Ventro Corporation | Techniques for improving index searches in a client-server environment |
US6788315B1 (en) | 1997-11-17 | 2004-09-07 | Fujitsu Limited | Platform independent computer network manager |
US7324081B2 (en) | 1999-03-02 | 2008-01-29 | Siemens Aktiengesellschaft | Augmented-reality system for situation-related support of the interaction between a user and an engineering apparatus |
DE50003361D1 (de) | 1999-03-25 | 2003-09-25 | Siemens Ag | System und verfahren zur dokumentationsverarbeitung mit mehrschichtiger strukturierung von informationen, insbesondere für technische und industrielle anwendungen |
US6583794B1 (en) | 1999-07-01 | 2003-06-24 | Smart Money | Interface system for information mapping |
US6772017B1 (en) | 2000-01-20 | 2004-08-03 | Fisher-Rosemount Systems, Inc. | Tool for configuring and managing a process control network including the use of spatial information |
JP4747410B2 (ja) | 2000-11-10 | 2011-08-17 | ソニー株式会社 | 映像切替表示装置および映像切替表示方法 |
DE10063089C1 (de) | 2000-12-18 | 2002-07-25 | Siemens Ag | Anwendergesteuerte Verknüpfung von Informationen innerhalb eines Augmented-Reality-Systems |
AU2002303082A1 (en) | 2001-01-26 | 2002-09-12 | Zaxel Systems, Inc. | Real-time virtual viewpoint in simulated reality environment |
US9565275B2 (en) | 2012-02-09 | 2017-02-07 | Rockwell Automation Technologies, Inc. | Transformation of industrial data into useful cloud information |
US20040181549A1 (en) | 2003-03-13 | 2004-09-16 | Pate James D. | Direct maintenance system for unscheduled, predictive, and preventive maintenance of critical process equipment |
AU2004262371B2 (en) | 2003-07-29 | 2010-03-11 | General Electric Company | Inspection data recording apparatus and method |
US7409400B2 (en) | 2003-10-22 | 2008-08-05 | Intel Corporation | Applications of an appliance in a data center |
US7295887B2 (en) | 2004-02-20 | 2007-11-13 | Yokogawa Electric Corporation | Machine management system and message server used for machine management |
US7073149B2 (en) | 2004-03-03 | 2006-07-04 | Xilinx, Inc. | System for representing the logical and physical information of an integrated circuit |
US9213714B1 (en) | 2004-06-22 | 2015-12-15 | Apple Inc. | Indicating hierarchy in a computer system with a graphical user interface |
DE102005061211B4 (de) | 2004-12-22 | 2023-04-06 | Abb Schweiz Ag | Verfahren zum Erzeugen einer Mensch-Maschine-Benutzer-Oberfläche |
US7337170B2 (en) | 2005-01-18 | 2008-02-26 | International Business Machines Corporation | System and method for planning and generating queries for multi-dimensional analysis using domain models and data federation |
US20060190432A1 (en) | 2005-02-22 | 2006-08-24 | Sas Institute Inc. | System and method for graphically distinguishing levels of a multidimensional database |
WO2006103541A1 (en) | 2005-04-01 | 2006-10-05 | Abb Research Ltd | Method and system for providing a user interface |
US8020110B2 (en) | 2005-05-26 | 2011-09-13 | Weisermazars Llp | Methods for defining queries, generating query results and displaying same |
US8285744B2 (en) | 2005-09-30 | 2012-10-09 | Rockwell Automation Technologies, Inc. | Indexing and searching manufacturing process related information |
US9148823B2 (en) | 2006-07-05 | 2015-09-29 | Nokia Technologies Oy | Ensuring quality of service for private short-range wireless networks |
US20080007555A1 (en) * | 2006-07-10 | 2008-01-10 | Vrba Joseph A | Dynamic plot on plot displays |
US8201107B2 (en) | 2006-09-15 | 2012-06-12 | Emc Corporation | User readability improvement for dynamic updating of search results |
US7612661B1 (en) | 2006-09-29 | 2009-11-03 | Rockwell Automation Technologies, Inc. | Dynamic messages |
US7538664B2 (en) | 2006-09-29 | 2009-05-26 | Rockwell Automation Technologies, Inc. | Customized industrial alarms |
US8732658B2 (en) | 2006-09-29 | 2014-05-20 | Rockwell Automation Technologies, Inc. | Layered interface in an industrial environment |
US9937577B2 (en) | 2006-12-20 | 2018-04-10 | Lincoln Global, Inc. | System for a welding sequencer |
JP2008201101A (ja) | 2007-02-22 | 2008-09-04 | Kyocera Mita Corp | 操作案内表示装置 |
US20080218331A1 (en) | 2007-03-08 | 2008-09-11 | Itt Manufacturing Enterprises, Inc. | Augmented reality-based system and method to show the location of personnel and sensors inside occluded structures and provide increased situation awareness |
US9244455B2 (en) | 2007-09-10 | 2016-01-26 | Fisher-Rosemount Systems, Inc. | Location dependent control access in a process control system |
US9323247B2 (en) | 2007-09-14 | 2016-04-26 | Fisher-Rosemount Systems, Inc. | Personalized plant asset data representation and search system |
US7676294B2 (en) | 2007-09-27 | 2010-03-09 | Rockwell Automation Technologies, Inc. | Visualization of workflow in an industrial automation environment |
US20090086021A1 (en) | 2007-09-27 | 2009-04-02 | Rockwell Automation Technologies, Inc. | Dynamically generating real-time visualizations in industrial automation environment as a function of contect and state information |
US7899777B2 (en) | 2007-09-27 | 2011-03-01 | Rockwell Automation Technologies, Inc. | Web-based visualization mash-ups for industrial automation |
US8026933B2 (en) | 2007-09-27 | 2011-09-27 | Rockwell Automation Technologies, Inc. | Visualization system(s) and method(s) for preserving or augmenting resolution and data associated with zooming or paning in an industrial automation environment |
US8191005B2 (en) | 2007-09-27 | 2012-05-29 | Rockwell Automation Technologies, Inc. | Dynamically generating visualizations in industrial automation environment as a function of context and state information |
US8108416B2 (en) | 2007-10-31 | 2012-01-31 | Yahoo! Inc. | System and method for updating a search results page in response to a user map interaction |
EP2058733A3 (en) | 2007-11-09 | 2009-09-02 | Avro Computing Inc. | Multi-tier interface for management of operational structured data |
EP2226712A4 (en) | 2007-12-28 | 2014-03-26 | Hitachi Ltd | INFORMATION TERMINAL DEVICE, INFORMATION PROCESSING METHOD, AND INFORMATION PROCESSING PROGRAM |
WO2009121053A2 (en) | 2008-03-28 | 2009-10-01 | On-Net Surveillance Systems, Inc. | Method and systems for video collection and analysis thereof |
US8694355B2 (en) | 2008-05-30 | 2014-04-08 | Sri International | Method and apparatus for automated assistance with task management |
US20090322671A1 (en) | 2008-06-04 | 2009-12-31 | Cybernet Systems Corporation | Touch screen augmented reality system and method |
US20090307255A1 (en) | 2008-06-06 | 2009-12-10 | Johnson Controls Technology Company | Graphical management of building devices |
US7920980B2 (en) | 2008-07-17 | 2011-04-05 | General Electric Co. | System and method for dynamically providing feedback |
JP5436559B2 (ja) * | 2008-09-02 | 2014-03-05 | エコール・ポリテクニーク・フェデラル・ドゥ・ローザンヌ(エーペーエフエル) | ポータブル・デバイス上での画像アノテーション |
US8306969B2 (en) | 2008-09-23 | 2012-11-06 | Microsoft Corporation | Linking search queries to rich media themes |
US8156468B2 (en) | 2008-09-24 | 2012-04-10 | Simio Llc | System and method for creating intelligent simulation objects using graphical process descriptions |
US8773465B2 (en) | 2009-09-11 | 2014-07-08 | Trimble Navigation Limited | Methods and apparatus for providing navigational information associated with locations of objects |
US8417447B2 (en) | 2009-10-18 | 2013-04-09 | International Business Machines Corporation | Method and system for visualizing shared route information |
US8830267B2 (en) | 2009-11-16 | 2014-09-09 | Alliance For Sustainable Energy, Llc | Augmented reality building operations tool |
US10027711B2 (en) | 2009-11-20 | 2018-07-17 | Alert Enterprise, Inc. | Situational intelligence |
CN102640098B (zh) | 2009-12-16 | 2016-09-07 | Abb股份有限公司 | 用于提供用于监视和控制过程的过程控制***中的hmi的方法和*** |
US9215735B2 (en) | 2010-03-03 | 2015-12-15 | Modena Enterprises, Llc | Systems and methods for initiating communications with contacts based on a communication specification |
US8413087B1 (en) | 2010-03-26 | 2013-04-02 | Cadence Design Systems, Inc. | Method and mechanism for implementing region query using hierarchical grids |
WO2011122610A1 (ja) | 2010-03-30 | 2011-10-06 | 新日鉄ソリューションズ株式会社 | 情報処理装置、情報処理方法及びプログラム |
DE102010017857B4 (de) | 2010-04-22 | 2019-08-08 | Sick Ag | 3D-Sicherheitsvorrichtung und Verfahren zur Absicherung und Bedienung mindestens einer Maschine |
JP4913913B2 (ja) | 2010-04-28 | 2012-04-11 | 新日鉄ソリューションズ株式会社 | 情報処理システム、情報処理方法及びプログラム |
US20110270117A1 (en) | 2010-05-03 | 2011-11-03 | GLKK, Inc. | Remote continuous seizure monitor and alarm |
US20110298579A1 (en) | 2010-06-08 | 2011-12-08 | Cedes Safety & Automation Ag | Dynamically adaptable safety zones |
US8982156B2 (en) | 2010-06-10 | 2015-03-17 | Sartorius Stedim Biotech Gmbh | Assembling method, operating method, augmented reality system and computer program product |
US8957920B2 (en) | 2010-06-25 | 2015-02-17 | Microsoft Corporation | Alternative semantics for zoom operations in a zoomable scene |
US8489641B1 (en) | 2010-07-08 | 2013-07-16 | Google Inc. | Displaying layers of search results on a map |
US9607652B2 (en) * | 2010-08-26 | 2017-03-28 | Blast Motion Inc. | Multi-sensor event detection and tagging system |
EP2625594A4 (en) | 2010-10-05 | 2014-06-11 | Eyal Weinstein | COMPUTER PROGRAM, SYSTEM, METHOD AND DEVICE FOR DISPLAYING AND SEARCHING UNITS IN A MULTI-LEVEL STRUCTURE |
US9865125B2 (en) | 2010-11-15 | 2018-01-09 | Bally Gaming, Inc. | System and method for augmented reality gaming |
US9165421B2 (en) | 2010-11-15 | 2015-10-20 | Bally Gaming, Inc. | System and method for augmented maintenance of a gaming system |
US9558612B2 (en) | 2010-11-15 | 2017-01-31 | Bally Gaming, Inc. | System and method for augmented reality gaming |
US9511291B2 (en) | 2010-11-15 | 2016-12-06 | Bally Gaming, Inc. | System and method for enhanced augmented reality tracking |
US9269219B2 (en) | 2010-11-15 | 2016-02-23 | Bally Gaming, Inc. | System and method for augmented reality with complex augmented reality video image tags |
EP2458467B1 (en) | 2010-11-26 | 2013-08-28 | ABB Research Ltd. | Method and system for monitoring an industrial system |
US8886153B2 (en) | 2010-12-22 | 2014-11-11 | Verizon Patent And Licensing Inc. | Method and apparatus for configuring a mobile device to provide emergency notification |
EP2487609A1 (en) | 2011-02-07 | 2012-08-15 | Alcatel Lucent | A cache manager for segmented multimedia and corresponding method for cache management |
US9075493B2 (en) | 2011-03-07 | 2015-07-07 | Sas Institute, Inc. | Techniques to present hierarchical information using orthographic projections |
US20120249588A1 (en) | 2011-03-22 | 2012-10-04 | Panduit Corp. | Augmented Reality Data Center Visualization |
EP3654146A1 (en) * | 2011-03-29 | 2020-05-20 | QUALCOMM Incorporated | Anchoring virtual images to real world surfaces in augmented reality systems |
US9581994B2 (en) | 2011-04-05 | 2017-02-28 | Fisher-Rosemount Systems, Inc. | Methods and apparatus to manage process control resources |
AU2011202182B1 (en) | 2011-05-11 | 2011-10-13 | Frequency Ip Holdings, Llc | Creation and presentation of selective digital content feeds |
US8972240B2 (en) | 2011-05-19 | 2015-03-03 | Microsoft Corporation | User-modifiable word lattice display for editing documents and search queries |
US8949668B2 (en) * | 2011-05-23 | 2015-02-03 | The Boeing Company | Methods and systems for use in identifying abnormal behavior in a control system including independent comparisons to user policies and an event correlation model |
US8798775B2 (en) | 2011-06-28 | 2014-08-05 | Rockwell Automation Technologies, Inc. | Binding graphic elements to controller data |
US9342928B2 (en) | 2011-06-29 | 2016-05-17 | Honeywell International Inc. | Systems and methods for presenting building information |
US9557807B2 (en) | 2011-07-26 | 2017-01-31 | Rackspace Us, Inc. | Using augmented reality to create an interface for datacenter and systems management |
US9047007B2 (en) | 2011-07-28 | 2015-06-02 | National Instruments Corporation | Semantic zoom within a diagram of a system |
US8621394B2 (en) | 2011-08-26 | 2013-12-31 | Nokia Corporation | Method, apparatus and computer program product for displaying items on multiple floors in multi-level maps |
US10120877B2 (en) | 2011-09-15 | 2018-11-06 | Stephan HEATH | Broad and alternative category clustering of the same, similar or different categories in social/geo/promo link promotional data sets for end user display of interactive ad links, coupons, mobile coupons, promotions and sale of products, goods and services integrated with 3D spatial geomapping and mobile mapping and social networking |
US8933930B2 (en) | 2011-09-30 | 2015-01-13 | Siemens Schweiz Ag | Navigation and filtering with layers and depths for building automation graphics |
US9990509B2 (en) | 2011-11-11 | 2018-06-05 | Rockwell Automation Technologies, Inc. | Systems and methods for error detection and diagnostics visualization |
US9285800B2 (en) | 2011-11-11 | 2016-03-15 | Rockwell Automation Technologies, Inc | Systems and methods for asynchronous searching and filtering of data |
US9143563B2 (en) | 2011-11-11 | 2015-09-22 | Rockwell Automation Technologies, Inc. | Integrated and scalable architecture for accessing and delivering data |
US20130124253A1 (en) | 2011-11-15 | 2013-05-16 | Rockwell Automation Technologies, Inc. | Industry-specific workflows in a manufacturing execution system |
JP5781426B2 (ja) * | 2011-12-02 | 2015-09-24 | ヤンマー株式会社 | 走行作業機械又は船舶の遠隔監視端末装置 |
US9229231B2 (en) | 2011-12-07 | 2016-01-05 | Microsoft Technology Licensing, Llc | Updating printed content with personalized virtual data |
US9069382B1 (en) | 2012-01-06 | 2015-06-30 | Google Inc. | Using visual layers to aid in initiating a visual search |
US9477936B2 (en) | 2012-02-09 | 2016-10-25 | Rockwell Automation Technologies, Inc. | Cloud-based operator interface for industrial automation |
US8626859B2 (en) | 2012-03-14 | 2014-01-07 | Robert Davis | Custom message presentation |
US9239573B2 (en) | 2012-04-16 | 2016-01-19 | Rockwell Automation Technologies, Inc. | Mapping between hierarchies in an industrial automation system |
US20130290899A1 (en) | 2012-04-30 | 2013-10-31 | Asaf AMRAN | Obtaining status data |
TWI615037B (zh) | 2012-06-27 | 2018-02-11 | 尤比奎蒂網絡公司 | 控制感應器裝置的方法和設備 |
CA2879571A1 (en) * | 2012-07-20 | 2014-01-23 | Iwatchlife Inc. | System and method for managing video analytics results |
CN104521182B (zh) | 2012-08-08 | 2016-08-24 | 英派尔科技开发有限公司 | 用于云监视的实时压缩数据收集方法及数据中心 |
US9467500B2 (en) | 2012-08-09 | 2016-10-11 | Rockwell Automation Technologies, Inc. | Remote industrial monitoring using a cloud infrastructure |
US9253054B2 (en) | 2012-08-09 | 2016-02-02 | Rockwell Automation Technologies, Inc. | Remote industrial monitoring and analytics using a cloud infrastructure |
US8539567B1 (en) | 2012-09-22 | 2013-09-17 | Nest Labs, Inc. | Multi-tiered authentication methods for facilitating communications amongst smart home devices and cloud-based servers |
DE102012217573A1 (de) * | 2012-09-27 | 2014-03-27 | Krones Ag | Bediensystem für eine Maschine |
US9167374B2 (en) | 2012-11-19 | 2015-10-20 | Verizon Patent And Licensing Inc. | Machine-to-machine rules management methods and systems |
US20140207870A1 (en) | 2013-01-22 | 2014-07-24 | Xerox Corporation | Methods and systems for compensating remote workers |
US9240164B2 (en) | 2013-02-27 | 2016-01-19 | Honeywell International Inc. | Apparatus and method for providing a pan and zoom display for a representation of a process system |
US9499114B2 (en) | 2013-02-27 | 2016-11-22 | Gentex Corporation | System and method for monitoring vehicle speed and driver notification |
US20140250377A1 (en) | 2013-03-04 | 2014-09-04 | Atigeo Llc | Method and system for searching and analyzing large numbers of electronic documents |
US10685487B2 (en) | 2013-03-06 | 2020-06-16 | Qualcomm Incorporated | Disabling augmented reality (AR) devices at speed |
US9274684B2 (en) | 2013-03-07 | 2016-03-01 | Siemens Industry, Inc. | Hierarchical navigation with related objects |
CA2845105A1 (en) | 2013-03-08 | 2014-09-08 | Bosko Loncar | Method for producing plc and hmi tag database and system |
US9383890B2 (en) | 2013-03-14 | 2016-07-05 | General Electric Company | Semantic zoom of graphical visualizations in industrial HMI systems |
US20150213465A1 (en) | 2013-03-15 | 2015-07-30 | Commerce Signals, Inc. | Systems and Methods for Identity Management |
US9709978B2 (en) | 2013-05-09 | 2017-07-18 | Rockwell Automation Technologies, Inc. | Using cloud-based data for virtualization of an industrial automation environment with information overlays |
US9786197B2 (en) | 2013-05-09 | 2017-10-10 | Rockwell Automation Technologies, Inc. | Using cloud-based data to facilitate enhancing performance in connection with an industrial automation system |
US9989958B2 (en) | 2013-05-09 | 2018-06-05 | Rockwell Automation Technologies, Inc. | Using cloud-based data for virtualization of an industrial automation environment |
US9438648B2 (en) | 2013-05-09 | 2016-09-06 | Rockwell Automation Technologies, Inc. | Industrial data analytics in a cloud platform |
US20140358256A1 (en) | 2013-05-31 | 2014-12-04 | Rockwell Automation Technologies, Inc. | Systems, methods, and software to present human machine interfaces on a mobile device |
US20150007043A1 (en) | 2013-06-28 | 2015-01-01 | Google Inc. | Secure private data models for customized map content |
US9142214B2 (en) * | 2013-07-26 | 2015-09-22 | SkyBell Technologies, Inc. | Light socket cameras |
US9424521B2 (en) | 2013-09-27 | 2016-08-23 | Transvoyant, Inc. | Computer-implemented systems and methods of analyzing spatial, temporal and contextual elements of data for predictive decision-making |
US10091276B2 (en) | 2013-09-27 | 2018-10-02 | Transvoyant, Inc. | Computer-implemented systems and methods of analyzing data in an ad-hoc network for predictive decision-making |
US9740935B2 (en) | 2013-11-26 | 2017-08-22 | Honeywell International Inc. | Maintenance assistant system |
US9471206B2 (en) * | 2013-12-12 | 2016-10-18 | Uptime Solutions | System and method for multi-dimensional modeling of an industrial facility |
KR101354133B1 (ko) | 2013-12-12 | 2014-02-05 | 한라아이엠에스 주식회사 | 증강현실을 이용한 원격관리형 선박평형수 처리장치 |
US10095202B2 (en) * | 2014-03-26 | 2018-10-09 | Rockwell Automation Technologies, Inc. | Multiple controllers configuration management interface for system connectivity |
US9923951B2 (en) | 2014-03-26 | 2018-03-20 | Sling Media L.L.C. | Placeshifting recommendations using geolocation and related systems and methods |
US9489832B2 (en) | 2014-04-04 | 2016-11-08 | Rockwell Automation Technologies, Inc. | Industrial-enabled mobile device |
US20150325047A1 (en) | 2014-05-06 | 2015-11-12 | Honeywell International Inc. | Apparatus and method for providing augmented reality for maintenance applications |
US9741169B1 (en) * | 2014-05-20 | 2017-08-22 | Leap Motion, Inc. | Wearable augmented reality devices with object detection and tracking |
JP5983677B2 (ja) | 2014-05-21 | 2016-09-06 | 横河電機株式会社 | 情報表示方法、情報表示装置、情報表示システム、情報表示プログラム、及び記録媒体 |
US9472028B2 (en) | 2014-06-23 | 2016-10-18 | GM Global Technology Operations LLC | Augmented reality based interactive troubleshooting and diagnostics for a vehicle |
EP3204893A4 (en) | 2014-10-07 | 2018-05-16 | Diversey, Inc. | Methods and apparatus for technical and customer support for industrial cleaning devices |
US20160103750A1 (en) | 2014-10-10 | 2016-04-14 | Adp, Llc | Application programming interface monitoring tool notification and escalation method and system |
US9952882B2 (en) | 2014-10-27 | 2018-04-24 | Google Llc | Integrated task items launcher user interface for selecting and presenting a subset of task items based on user activity information |
US10061486B2 (en) * | 2014-11-05 | 2018-08-28 | Northrop Grumman Systems Corporation | Area monitoring system implementing a virtual environment |
US9760635B2 (en) | 2014-11-07 | 2017-09-12 | Rockwell Automation Technologies, Inc. | Dynamic search engine for an industrial environment |
US20160132538A1 (en) | 2014-11-07 | 2016-05-12 | Rockwell Automation Technologies, Inc. | Crawler for discovering control system data in an industrial automation environment |
US20160171504A1 (en) | 2014-12-11 | 2016-06-16 | Schneider Electric Industries Sas | Blink code product registration |
US20160182309A1 (en) | 2014-12-22 | 2016-06-23 | Rockwell Automation Technologies, Inc. | Cloud-based emulation and modeling for automation systems |
US9335911B1 (en) | 2014-12-29 | 2016-05-10 | Palantir Technologies Inc. | Interactive user interface for dynamic data analysis exploration and query processing |
US10469346B2 (en) | 2015-01-30 | 2019-11-05 | Splunk Inc. | Correlating performance data of client and host to identify performance issue of a third device |
WO2016145443A1 (en) * | 2015-03-12 | 2016-09-15 | Daniel Kerzner | Virtual enhancement of security monitoring |
EP3070695B1 (en) * | 2015-03-16 | 2017-06-14 | Axis AB | Method and system for generating an event video sequence, and camera comprising such system |
US20160272112A1 (en) | 2015-03-18 | 2016-09-22 | CarEye LLC | Detection and Security System for Occupants in Vehicles |
US10503145B2 (en) * | 2015-03-25 | 2019-12-10 | Honeywell International Inc. | System and method for asset fleet monitoring and predictive diagnostics using analytics for large and varied data sources |
US10950051B2 (en) | 2015-03-27 | 2021-03-16 | Rockwell Automation Technologies, Inc. | Systems and methods for presenting an augmented reality |
US20160292895A1 (en) | 2015-03-31 | 2016-10-06 | Rockwell Automation Technologies, Inc. | Layered map presentation for industrial data |
US10044990B2 (en) | 2015-04-07 | 2018-08-07 | Vivint, Inc. | Smart surveillance systems to identify entity for accessing and notification |
US9972133B2 (en) | 2015-04-24 | 2018-05-15 | Jpw Industries Inc. | Wearable display for use with tool |
US10055888B2 (en) | 2015-04-28 | 2018-08-21 | Microsoft Technology Licensing, Llc | Producing and consuming metadata within multi-dimensional data |
US10021064B2 (en) | 2015-05-14 | 2018-07-10 | Honeywell International Inc. | Apparatus and method for translating industrial process control and automation system events into mobile notifications |
EP3096212B1 (en) | 2015-05-18 | 2020-01-01 | DreamWorks Animation LLC | Method and system for calibrating a virtual reality system |
US10360728B2 (en) | 2015-05-19 | 2019-07-23 | Hand Held Products, Inc. | Augmented reality device, system, and method for safety |
US10339382B2 (en) * | 2015-05-31 | 2019-07-02 | Fieldbit Ltd. | Feedback based remote maintenance operations |
JP6077068B1 (ja) | 2015-07-30 | 2017-02-08 | 株式会社オプティム | 拡張現実システム、および拡張現実方法 |
US10037627B2 (en) * | 2015-08-14 | 2018-07-31 | Argis Technologies Llc | Augmented visualization system for hidden structures |
US20170053445A1 (en) * | 2015-08-20 | 2017-02-23 | Microsoft Technology Licensing, Llc | Augmented Reality |
US10620778B2 (en) | 2015-08-31 | 2020-04-14 | Rockwell Automation Technologies, Inc. | Augmentable and spatially manipulable 3D modeling |
US9838844B2 (en) | 2015-09-25 | 2017-12-05 | Ca, Inc. | Using augmented reality to assist data center operators |
US10146194B2 (en) | 2015-10-14 | 2018-12-04 | Hand Held Products, Inc. | Building lighting and temperature control with an augmented reality system |
CN108140157B (zh) * | 2015-10-20 | 2023-04-14 | 克朗设备公司 | 用于评估和调节工业车辆性能的计算机执行的处理和*** |
US9855664B2 (en) | 2015-11-25 | 2018-01-02 | Denso Wave Incorporated | Robot safety system |
US10313281B2 (en) | 2016-01-04 | 2019-06-04 | Rockwell Automation Technologies, Inc. | Delivery of automated notifications by an industrial asset |
US10043238B2 (en) | 2016-01-21 | 2018-08-07 | International Business Machines Corporation | Augmented reality overlays based on an optically zoomed input |
US20170270362A1 (en) | 2016-03-18 | 2017-09-21 | Daqri, Llc | Responsive Augmented Content |
US10176641B2 (en) | 2016-03-21 | 2019-01-08 | Microsoft Technology Licensing, Llc | Displaying three-dimensional virtual objects based on field of view |
US10325155B2 (en) | 2016-04-19 | 2019-06-18 | Rockwell Automation Technologies, Inc. | Analyzing video streams in an industrial environment to identify potential problems and select recipients for a display of video streams related to the potential problems |
US20170337352A1 (en) | 2016-05-23 | 2017-11-23 | Daqri, Llc | Confidential information occlusion using augmented reality |
US10616210B2 (en) | 2016-08-19 | 2020-04-07 | Microsoft Technology Licensing, Llc | Protection feature for data stored at storage service |
CN106445332A (zh) | 2016-09-05 | 2017-02-22 | 深圳Tcl新技术有限公司 | 图标显示方法及*** |
EP3509549A4 (en) | 2016-09-06 | 2020-04-01 | Neosensory, Inc. | METHOD AND SYSTEM FOR PROVIDING ADDITIONAL SENSORY INFORMATION TO A USER |
US10600326B2 (en) | 2016-09-15 | 2020-03-24 | International Business Machines Corporation | Method for guiding an emergency vehicle using an unmanned aerial vehicle |
CN106383647B (zh) | 2016-09-20 | 2020-05-01 | 努比亚技术有限公司 | 终端界面控制装置和方法 |
US10882185B2 (en) | 2017-02-07 | 2021-01-05 | Veo Robotics, Inc. | Dynamically determining workspace safe zones with speed and separation monitoring |
JP6866773B2 (ja) | 2017-06-01 | 2021-04-28 | オムロン株式会社 | 安全制御装置、安全制御装置の制御方法、情報処理プログラム、および記録媒体 |
US10403046B2 (en) | 2017-10-20 | 2019-09-03 | Raytheon Company | Field of view (FOV) and key code limited augmented reality to enforce data capture and transmission compliance |
US10665206B2 (en) | 2018-07-30 | 2020-05-26 | Honeywell International Inc. | Method and system for user-related multi-screen solution for augmented reality for use in performing maintenance |
US20210096975A1 (en) | 2019-09-30 | 2021-04-01 | International Business Machines Corporation | Digital twin maturation tracking |
US11107377B2 (en) | 2019-10-21 | 2021-08-31 | Dell Products L.P. | Projected information display for IT equipment environments |
-
2017
- 2017-09-28 US US15/718,856 patent/US10735691B2/en active Active
- 2017-11-08 CN CN202110844683.9A patent/CN113703569B/zh active Active
- 2017-11-08 CN CN201711092322.3A patent/CN108073277B/zh active Active
- 2017-11-08 EP EP17200580.3A patent/EP3318945B1/en active Active
- 2017-11-08 EP EP19189864.2A patent/EP3582054A1/en active Pending
-
2020
- 2020-06-29 US US16/915,194 patent/US11159771B2/en active Active
- 2020-06-29 US US16/915,152 patent/US11265513B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101644989A (zh) * | 2009-09-08 | 2010-02-10 | 南京师范大学 | 基于数字头盔的通用三维虚拟场景实时交互方法 |
JP2016010145A (ja) * | 2014-06-23 | 2016-01-18 | パナソニックIpマネジメント株式会社 | 映像配信方法、映像受信方法、サーバ、端末装置及び映像配信システム |
CN105988367A (zh) * | 2015-03-16 | 2016-10-05 | 洛克威尔自动控制技术股份有限公司 | 云中的工业自动化环境的建模 |
CN105046731A (zh) * | 2015-06-25 | 2015-11-11 | 西安理工大学 | 事故现场虚拟多关注视角转换的三维动态再现方法 |
Also Published As
Publication number | Publication date |
---|---|
US11159771B2 (en) | 2021-10-26 |
US20200336707A1 (en) | 2020-10-22 |
CN113703569A (zh) | 2021-11-26 |
EP3318945A3 (en) | 2018-05-16 |
US20200336706A1 (en) | 2020-10-22 |
CN108073277A (zh) | 2018-05-25 |
US11265513B2 (en) | 2022-03-01 |
EP3318945B1 (en) | 2019-09-18 |
US20180131907A1 (en) | 2018-05-10 |
CN113703569B (zh) | 2024-07-19 |
EP3582054A1 (en) | 2019-12-18 |
US10735691B2 (en) | 2020-08-04 |
EP3318945A2 (en) | 2018-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108073277B (zh) | 用于工业自动化的虚拟现实和增强现实的***和方法 | |
CN108089696B (zh) | 用于工业自动化的虚拟现实和增强现实 | |
US10445944B2 (en) | Augmented reality safety automation zone system and method | |
US11409251B2 (en) | Modeling of an industrial automation environment in the cloud | |
US10564633B2 (en) | Using cloud-based data for virtualization of an industrial automation environment with information overlays | |
US10816960B2 (en) | Using cloud-based data for virtualization of an industrial machine environment | |
EP3300005B1 (en) | Augmented reality presentation of an industrial environment | |
US20190258863A1 (en) | Analyzing video streams in an industrial environment to identify potential problems and select recipients for a display of video streams related to the potential problems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |