CN112384970A - 用于时间要求严格的生物医学应用的增强现实*** - Google Patents

用于时间要求严格的生物医学应用的增强现实*** Download PDF

Info

Publication number
CN112384970A
CN112384970A CN201980036619.9A CN201980036619A CN112384970A CN 112384970 A CN112384970 A CN 112384970A CN 201980036619 A CN201980036619 A CN 201980036619A CN 112384970 A CN112384970 A CN 112384970A
Authority
CN
China
Prior art keywords
patient
augmented reality
sensor
user
computer processor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980036619.9A
Other languages
English (en)
Inventor
罗伯特·考尔
桑迪普·S·科利
大卫·威德曼
萨拉·罗斯-豪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cloud Diagnostics Delaware Inc
Original Assignee
Cloud Diagnostics Delaware Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cloud Diagnostics Delaware Inc filed Critical Cloud Diagnostics Delaware Inc
Publication of CN112384970A publication Critical patent/CN112384970A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/117Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6801Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be attached to or worn on the body surface
    • A61B5/6802Sensor mounted on worn items
    • A61B5/6803Head-worn items, e.g. helmets, masks, headphones or goggles
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/742Details of notification to user or communication with user or patient ; user input means using visual displays
    • A61B5/7445Display arrangements, e.g. multiple display units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H10/00ICT specially adapted for the handling or processing of patient-related medical or healthcare data
    • G16H10/60ICT specially adapted for the handling or processing of patient-related medical or healthcare data for patient-specific data, e.g. for electronic patient records
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/10ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to drugs or medications, e.g. for ensuring correct administration to patients
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/67ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for remote operation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B2027/0192Supplementary details
    • G02B2027/0196Supplementary details having transparent supporting structure for display mounting, e.g. to a window or a windshield
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Pathology (AREA)
  • General Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Software Systems (AREA)
  • Optics & Photonics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Chemical & Material Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Medicinal Chemistry (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

一种增强现实***和方法,该方法和***被配置为使用增强现实头戴式装置自动向使用者(诸如医师)提供患者实时医疗状况的实时平视视图。该***可以自动识别患者,拉取相关病历,获得来自患者的实时生物医学传感器数据并将此显示给使用者,同时还允许使用者通过头戴式装置的透明镜片直接查看患者,并解放使用者的双手以操纵患者或执行其他功能。对于重症监护室以及使用者需要几乎瞬间了解患者状况的其他紧急医学情况,该***和方法特别有用。

Description

用于时间要求严格的生物医学应用的增强现实***
相关申请的交叉引用
本申请是2018年3月28日提交的美国专利申请15/939,190的继续申请,并要求该继续申请的优先权权益。
发明背景
技术领域
本发明属于与生物医学应用有关的增强现实设备、***和方法的领域。
背景技术
近年来,已经提出了使用头戴式显示器和增强现实技术来提供医疗信息的各种方法。特别地,已经提出了诸如Google Glass、Microsoft HoloLens和其他设备等技术以用于多种不同的医学功能。
在美国专利公开2017/0357333中讨论了Microsoft HoloLens***,该美国专利公开的全部内容通过援引并入本文,该***教导了一种头戴式显示设备,该头戴式显示设备具有透视(透明或部分透明的)显示器、一个或多个计算机处理器、诸如加速度计和倾斜度传感器等传感器、以及被配置为查看外界的相机和深度相机(例如,飞行时间相机,通常被称为ToF相机)。这种类型的设备通常具有可再充电电池、以及使得HoloLens能够与外部计算机化设备和***交换信息的无线收发器(例如,Wi-Fi收发器和蓝牙收发器)。
这样的增强现实设备和方法目前普遍用于各种医学教育目的,诸如解剖学教学和其他教育情况。然而,在诸如医院、重症监护室和常规临床实践等非教育性医疗环境中使用这种技术尚未得到普及。
发明内容
本发明最初部分地受到以下见解的启发,即在某些快节奏的医疗环境(诸如重症监护室)中患者的存活率目前未达到最佳标准。该问题的部分原因在于医务人员通常需要同时监视许多患者。此外,由于不同的成员每8小时、12小时或24小时轮班轮换,因此医务人员的组成不断发生变化。在每次轮班变化时,必须将最新的患者状况信息快速地从离任班次人员传递到继任班次人员。这种对快速传递的需求加上人类记忆的局限性极大地限制了医务人员在任何给定时间在其脑海中掌握的关于任何给定患者当前(例如,实时)状况的信息量。
在重症监护情况下,这些患者可能随时会出现心力衰竭或其他紧急状况,在这种情况下,医疗响应时间相差几秒钟或几分钟会极大地影响患者的存活率。
从主治医师的角度考虑情况,在该主治医师轮班期间,该医师可能负责许多重症监护患者。在任何给定时间,这些患者之一都可能会“崩溃”。期望主治医师在几秒钟内做出有关挽救患者所需的适当手术方法或用药的决定,但该主治医师可能甚至以前从未见过该患者。同时,主治医师需要观察患者,并且通常还需要操纵患者。
现有技术的病历***不太适合这种情况。为了评估患者的当前状况并确定适当的措施,医师通常必须翻阅打印记录的文件夹,同时尝试查看可能放置在整个房间的各个位置的多种仪器,并且然后将这些与医师自己对患者的观察结果进行整合。当这正在发生的同时,关键时间正在丢失。本发明最初是受寻找帮助克服现有技术在这方面的缺陷的***和方法的潜在需求的启发。
更具体地,本发明受到的启发部分地基于以下见解,即可以通过提供改进的医疗信息***来显著提高这种情况下患者的存活率,该医疗信息***允许使用者完全自由活动(即,不会由于物理电线或电缆将使用者束缚到特定的位置)并提供免手持“平视”显示器,该显示器快速提供对最相关患者医疗信息的即时访问。同时,本发明(有时也被称为方法或***)允许医师直接观察患者,并且还继续通过医师的手来操纵患者(或其他医用材料)。
本发明受到的启发还部分地基于以下见解,即诸如Microsoft HoloLens等当前头戴式显示设备可以通过适当的硬件和软件附件、修改和扩展充当可用于这种改进的医疗信息***的平视增强现实显示***。
尽管本发明最初是受到医学重症监护问题的启发,但是本发明本身可以具有更普遍的应用。在替代性实施例中,本发明可以更普遍地被认为是一种***和方法,通过该***和方法,人类使用者(包括但不限于医师)可以快速且几乎毫不费力地获得关于人类受试者(包括但不限于人类受试者)的生理信息。例如,在一些替代性实施例中,运动教练(使用者)可以使用本发明来获得关于比赛期间各个运动队运动员(受试者)的生理状态的近乎即时的反馈,并使用该信息来确定何时更换运动员。因此,在更普遍的实施例中,本文中使用的术语“患者”可以用替代性术语“受试者”或“人类受试者”代替。类似地,尽管本发明通常提及作为医师的“使用者”,但是原则上任何人都可以使用本发明,因此术语“使用者”也不旨在是限制性的。
附图说明
图1A示出了概图,示出了本发明(***)的一些实施例的一些主要部件。
图1B示出了根据本发明的一个实施例的软件流程图。
图2示出了根据本发明的一些实施例的可以用于获得患者实时生物医学数据的单元式患者佩戴生物医学感测***的示例。
图3示出了配备有***的头戴式装置(左下方)的医师即将进入病房的场景。
图4示出了一瞬间之后的同一场景。现在医师与患者近到足以使本发明的患者接近检测器记录与患者的接近,并且***现在已经开始使用至少一些患者数据自动填充增强现实显示器。
图5示出了医师正好检查患者、同时***正在显示各种类型的实时生物医学传感器数据(诸如心率、血压、呼吸、SpO2等)的场景。
图6示出了一些增强现实数据的放大视图。
图7示出了患者某些器官(诸如心脏和肺部)的计算机动画的放大视图。
图8示出了***如何将患者数据与实时传感器数据进行整合以产生患者某些器官的更真实的计算机动画的示例。
具体实施方式
如图1A所示,在一些实施例中,本发明可以是在由诸如医师等使用者佩戴的增强现实头戴式装置(120)上自动且快速地显示患者医疗信息的***、设备或方法。增强现实头戴式装置(120)可以是可商购的头戴式装置(诸如Microsoft HoloLens,美国专利公开2017/0357333进行了例示,其全部内容通过援引并入本文)、或其他类型的增强现实头戴式装置,包括定制头戴式装置。
当使用可商购的部件时,本发明通常将至少部分地通过被配置为执行本文描述的各种功能和方法的定制软件来实施。本发明的软件方法不必单独在头戴式装置(120)上执行,而是在一些实施例中可以包括各种相互通信的软件模块,在一些实施例中,这些软件模块可以在头戴式装置处理器(120)、便携式计算机化设备处理器(122)、以及驻留在诸如(112)等本地或远程服务器上的处理器中的任一个上运行。
可以使用不同的处理器类型。例如,头戴式装置或便携式计算机化设备处理器可以包括可以作为流行的ARM架构的变体的一个或多个处理器核,而服务器处理器可以包括可以作为流行的x86或x86-64架构的变体的一个或多个处理器核,等等。本发明的软件方法可以类似地在各种操作***(诸如iOS、Android、Linux、Windows或其他操作***)上运行(例如,作为应用程序)或作为其一部分(例如,嵌入在操作***本身中)。类似地,用于本文描述的各种方法的计算机存储器不必仅位于诸如头戴式装置(120)等任一个设备上,而是也可以驻留在其他设备上,诸如驻留在头戴式装置存储器(120)、便携式计算机化设备存储器(122)、以及本地或远程服务器(112)和存储器(110)中的任一个上。
请注意,不管增强头戴式装置(120)是单独操作还是连接到便携式外部计算机化设备(122),头戴式装置(120)和可选便携式外部计算机化设备(122)的任何组合都将是自包含的,以便于使用者可以自由走动,并且(120)、或(120)和(122)的组合中的任一种与周围环境之间没有电缆、电线或其他物理连接。
以方法格式表达概念,该方法可以包括使用至少一个计算机处理器(可以并入增强现实头戴式装置(120)中,或者可替代地可以在与增强现实头戴式装置进行有线或无线通信的便携式外部计算机化设备(122,诸如智能手机)中)来确定头戴式装置(以及因此佩戴头戴式装置的使用者)何时接近特定患者(100)。在优选实施例中,这种识别可以是全自动的,然而,在替代性实施例中,这种识别可以是半自动的并且需要来自使用者的一些输入。
在优选实施例中,本发明还可以自动地使用至少一个传感器来确定患者的身份(或患者身份信息,其可以是患者代码),并且经常自动地从外部存储器(110)请求并获得与患者有关的医疗信息历史数据。然而,在替代性实施例中,这可以是半自动的并且需要来自使用者的一些输入。
可以使用各种类型的传感器来确定使用者和头戴式装置何时接近患者并对患者进行识别。在一些实施例中,患者可以配备有患者识别标签或患者附接的生物医学传感器或者可以与之相关联,这些传感器包括短程无线收发器,诸如短程BluetoothTM收发器、ZigBee收发器或其他替代性短程无线设备(102)。在其他实施例中,为了降低这种短程无线设备可能引起对其他电气设备的干扰的可能性,也可以使用替代性设备,诸如包括红外收发器或信标的患者相关联(例如,患者佩戴的)标签(102)。
实际上,在一些实施例中,当使用诸如WiFi无线方法等更常规的无线***被认为不合适(例如,由于对其他设备造成射频干扰)时,头戴式装置(120)本身可以配备有其自己的红外数据传输***,以便例如与外部计算机和网络进行通信。通常,本文描述的任何无线方法都可以可替代地通过红外数据传输方法(诸如红外数据协会(IrDA)方法)来实施。
可替代地,本发明可以跟踪使用者和/或头戴式装置的位置,并与存储或跟踪各个患者位置的患者位置数据库(例如医院数据库110)相关联地使用使用者和/或使用者头戴式装置的位置,以基于使用者的当前位置以及存储在患者位置数据库中的患者位置(106)来识别患者(100)。
在其他实施例中,头戴式装置(120)可以配备有各种麦克风,并且本发明可以使用与头戴式装置的当前位置相关联的声音、至少一个计算机处理器以及合适的声音识别和三角测量算法来识别头戴式装置的位置。
在其他实施例中,本发明可以使用头戴式装置(120)安装的摄像机、诸如飞行时间相机等深度相机、以及合适的处理器和计算机视觉算法,来识别使用者和头戴式装置的位置,并在一些情况下通过面部识别或通过对条形码或其他光学编码的患者佩戴的识别标签(诸如患者佩戴的手环)进行计算机视觉扫描来识别患者。
并非所有头戴式装置位置或专利识别方法都需要使用头戴式装置相关设备。在一些替代性实施例中,***可以使用辅助设备和传感器(诸如与使用者佩戴的智能手机(122)相关联的传感器和处理器)来识别使用者的位置和/或患者的身份。
另外,在优选实施例中,本发明通常还将使用其至少一个计算机处理器(同样经常安装在头戴式装置上,但是可以在与头戴式装置进行有线或无线通信的不同计算机化设备中)来进一步获取与该患者有关的实时生物医学传感器数据(诸如来自设备103)。在优选实施例中,这将使用生物医学传感器与头戴式装置或计算机化设备中的任一种之间的无线数据链路或红外数据链路中的任一种来完成,以使得使用者在使用头戴式装置时移动性不受限制。也就是说,至少头戴式装置(120)和任何可选计算机化设备(122)的组合是自包含的,并且不通过任何电缆、电线或其他物理链路与任何其他设备栓系在一起。在优选实施例中,本发明然后通常将自动地显示与该患者有关的该病史数据中的至少一些、以及与该患者有关的实时生物医学传感器数据中的至少一些。可替代地,如果没有可用的患者历史数据,则***可以自动通知医师没有可用的病史。(例如,患者姓名和状况未知)。
病史数据可能与患者的标识或其他标准数据(例如,姓名、年龄、性别、联系信息)一样少,或者可能与患者的完整病历(完整地包括患者的医学扫描、图像、实验室结果等)一样广泛。在一些实施例中,病史数据还可能包括各种医疗指示,诸如预先医疗指示、拒绝心肺复苏(DNR)、关于痛觉缺失、过敏、静脉水合作用、呼吸机、心肺复苏(CPR)的指令等。也可以提供关于被授权做出医疗决策的人员的联系信息。
尽管在一些实施例中该***可以被配置为在使用者远离患者时检索患者数据(例如,根据命令,诸如“向我展示约翰·多伊的当前状况”)以减少在人口密集的重症监护室中注意力分散,但是该***可以被配置为自动地或根据使用者的命令仅在增强现实头戴式装置与给定患者紧密接近(例如,约5英尺、10英尺、20英尺或30英尺内)时才显示该信息。这使医师可以快速地巡视并接收自动的患者特定的更新,而不必不断调整***。
图1A示出了概图,示出了在该***的一些实施例中可能存在的一些主要硬件部件,并且图1B示出了流程图,展示了在本发明的一些实施例中某些软件可以如何操作。在图1A中,示出了在床上的专利(100),这里假设其具有已知的位置(106)。在一些实施例中,患者可以佩戴可选的机器可读识别标签(例如,条形码、RFID标签、无线标签、红外标签102)和/或一个或多个可选的患者佩戴生物医学传感器(103)。在一些实施例中,识别标签(102)和患者佩戴生物医学传感器(103)二者可以位于同一设备上。
患者还可以连接至一个或多个其他非患者佩戴生物医学传感器(未示出)。
患者病历中的至少一些部分可以作为一条或多条电子病历以机器可读形式存储在本地或远程存储器(110)中。该存储器可以是本地(内联网)存储器(例如,各种本地设备或本地服务器)或远程(互联网)“云”服务器(112)。该患者病历中的数据在图1B中被显示为(210)。
在一些实施例中,使用者佩戴的增强现实头戴式装置可以是Hololens或类似类型的设备,其可以是商购获得(例如,现有的)类型的增强现实头戴式装置(120)。可替代地,头戴式装置可以是定制头戴式装置。增强现实头戴式装置通常将包括眼镜和护目镜中的任一种,并且在每只眼睛上方安装有透明镜片,从而允许使用者直接看到外界(例如,通过透明镜片直接看到患者100)。这里,我们将把这种直接观察外界称为接收外界的图像。
头戴式装置通常还将具有至少一个计算机显示器,该计算机显示器被配置为将附加的计算机生成的位图图形叠加在外界的直接图像上,优选地以半透明的方式进行叠加以使计算机图像不会完全遮挡外界的直接图像。然而,如果需要,叠加可以是非透明的。
在一些实施例中,增强现实头戴式装置还可以包括至少一个患者位置传感器、被配置为驱动位图图形的至少一个增强现实头戴式装置计算机处理器、以及被配置为至少从诸如服务器(112)的存储器(110)等外部源获得病史数据的至少一个通信接口(诸如无线收发器或有线计算机接口)。可替代地或附加地,头戴式装置可以从诸如智能手机或平板电脑类型的设备(122)等附加的使用者佩戴设备接收附加的计算机处理器服务、存储器以及甚至电力。图1B中所示的流程图主要集中于示出可以由这些各种计算机处理器执行的软件操作中的一些。
更具体地,在一些实施例中,病史数据可以从增强现实头戴式装置存储器(例如,作为头戴式装置(120)的一部分的存储器)、本地内联网电子病历存储器(110)、或至少一个远程互联网服务器上存储的存储器(也被显示为110)中的任一个获得。其他本地计算机化设备(诸如智能手机(122))中的存储器也可以用于存储和检索至少一些病史数据。这些存储器中的任一个都应被认为保存图1B所示的患者数据存储器(210)。
如之前讨论的,在一些实施例中,增强现实头戴式装置(120)可以配备有一个或多个患者接近传感器。这些患者接近传感器可以是无线接近传感器,这些无线接近传感器被配置为检测可选的识别标签或患者相关联的生物医学传感器(102,103)。患者接近传感器也可以是头戴式装置安装的摄像机以及相关联的配备有面部识别***的自动化视觉***。当使用者接近某些病床(106)或房间时,也可以使用其他方法,诸如将头戴式装置位置传感器配置为自动拉取与这些位置相关联的患者信息。可以使用来自这些传感器的数据以使得***软件能够确定在图1B的步骤(202)中***是否已经自动检测到患者。
为了这些目的,***可以可替代地通过语音激活。这是图1B的步骤(240)中更详细地示出的一种类型的使用者覆写的示例。在一些实施例中,***可以被配置为在没有覆写的使用者命令(使用者覆写)时自动操作,但是随后覆写该自动操作并在使用者如此决定时将该自动操作替换为特定的使用者命令。
作为半自动方法(其是一种类型的使用者覆写的示例),***还可以被配置为通过使用麦克风和在(多个)头戴式装置相关联的计算机处理器上运行的合适语音识别软件来接受来自使用者的语音输入。
在一些实施例中,增强现实头戴式装置(120)还可以(通过有线链路或无线链路)连接到使用者佩戴的计算机化设备(122),该计算机化设备可以是智能手机或其他配备有软件以实施本发明方法中的至少一些方法的便携式计算机化设备,并且可以包含实施本发明所需的一些或全部处理器。例如,在图1B中,同样可能方便的是使用作为头戴式装置(120)本身一部分的计算机处理器来执行其中的一些操作,而将其他一些操作卸载到外部处理器(例如,112、122中的处理器)。
增强现实头戴式装置(120)或使用者佩戴的计算机化设备(122)也可以(通过有线链路或无线链路)连接到附加的触觉传感器、触摸传感器(例如,触摸板、触摸屏)或运动传感器或换能器或其他使用者接口设备(诸如手戴式触觉传感器或运动传感器(124))或用于使得能够根据需要通过各种使用者手势来控制***的其他使用者接口设备。这使得使用者能够例如通过某些手势来控制(或生成使用者覆写)***,与此同时解放双手。这里,设备(124)可以包括与头戴式装置(120)或其他使用者佩戴的计算机化设备(122)通信的合适运动传感器和短程无线收发器。
因此,在优选实施例中,***可以被配置为以自动配置或几乎自动的免手持配置进行工作,以释放使用者的双手用于其他目的。然而,仍然可以使用各种使用者输入方式。例如,***(例如,增强现实电话听筒(120)或智能手机(122)和至少一个计算机处理器可以被配置为通过语音(例如,头戴式装置120或智能手机122可以具有麦克风和可选的语音识别能力)、手部运动传感器(124)和触觉或触摸(例如,触摸板或触摸屏)传感器(124)中的任一种接收来自使用者的输入。
在一些实施例中,扩展语音控制选项,可能有利于为头戴式装置配备一个或多个麦克风,并使用语音识别软件(以及位于头戴式装置120或智能手机122中的处理器)来获得来自使用者的语音命令,诸如:“显示患者2304”或“显示约翰·多伊”。在这些实施例中,这些语音命令可以可替代地用于向***通知使用者何时接近患者、患者的身份,并且还可以作为用于从存储器(110)获得该患者的病史数据和/或从传感器(102)获得实时传感器数据的命令。
***还可以被配置为容易地从自动模式转换为半自动模式或手动模式。例如,在重症监护室外部,使用者可能更喜欢恢复为半自动模式,并且对于显示哪些患者数据以及何时显示有更大的控制权。同时,在重症监护室、救护车或战斗(军事)情况中,使用者可能会发现优选的是将***置于全自动模式,从而使使用者可以将精力集中在其他事情上。例如,如果一次大规模事故导致50位患者同时进门,则自动模式可能更优选。
本技术与现有技术之间的重要区别在于,***还可以被配置为自动显示患者的实时生物医学感测数据。在一些实施例中,通常可以通过头戴式装置(120)或智能手机(122)与管理各种传感器的本地医疗信息***之间的无线通信来从标准医院或诊所传感器获得该传感器数据。可替代地,各种传感器(103)通常也可以使用无线收发器直接与头戴式装置(120)或智能手机(122)进行通信。
在紧急医学情况(诸如救护车、军事医学等)下可能特别有用的一些实施例中,可以使用单元式患者佩戴生物医学感测***(103)来获得患者实时数据中的至少一些。该生物医学传感器数据在图1B中显示为(203)。图2中示出了一种更复杂类型的单元式专利佩戴生物医学感测***的示例。
图2示出了根据本发明的一些实施例的可以用于获得患者实时生物医学数据的单元式患者佩戴生物医学感测***的示例。这对应于共同拥有和发明的美国专利申请2017/000359的图1A,该申请通过援引并入本文。
在该实施例中,患者(100)可以配备有单元式(例如,潜在地非固定患者可穿戴的)生命体征监测传感器(103),其可以包括一个或多个传感器,诸如非固定患者可穿戴的ECG传感器、脉搏血氧仪、(多个)电子听诊器和示波血压监测器。这些传感器被配置为将传感器数据(203)传输到可穿戴计算机化设备(诸如本发明的增强现实头戴式装置(120))、或本地或远程存储器(110)或其他计算机化设备。参见美国专利公开2017/000359,该专利通过援引并入本文以进行进一步讨论。
例如,在一些实施例中,单元式患者可穿戴传感器(103)可以包括具有各种生理和环境传感器的开放式前颈圈(302)。这些生理和环境传感器可以包括一个或多个机载生命体征传感器,诸如:ECG、SPO2(PPG)、热电堆传感器,以及各种环境传感器(诸如加速度计、陀螺仪和GPS传感器)。
该设备的前部可以具有朝向使用者的胸部向下延伸的两个可调节臂(304,306)。在这些臂的底端,在正对使用者皮肤的一面,可以放置卡扣式配件以容纳ECG电极,诸如湿式(粘性)ECG电极(314,312)。在一些实施例中,也可以使用干式接触引线。在该实施例中,可以使用关于胸骨对称的两条引线来捕获患者锁骨下方的ECG数据,这两条引线近似于传统ECG设备的V1(使用者胸骨右边的第4肋间隙)引线和V2(使用者胸骨左边的第4肋间隙)引线。在一些实施例中,可以根据需要将附加的引线附接到所描述的这种设备。
这种颈部安装设备可以围绕使用者的颈部和肩膀佩戴,并且在一些实施例中,这种颈部安装设备还可以具有带有可选的耳朵附接设备(310)的沿患者的(两只)耳朵向上延伸的附件(例如,电缆308)。
因此,在该实施例中,颈部安装的患者佩戴生物医学传感器可以至少包含ECG传感器、电池、可选的计算机处理器、存储器、以及用于驱动ECG传感器和其他传感器二者的电路***。可选的听筒通常还将具有PPG和热电堆传感器,这些传感器可以例如由电路***、以及颈部安装设备通过电缆(308)或通过其他方法(诸如内部听筒电池)提供的电力驱动。电路***还可以具有无线传感器或红外传感器,以将生物医学传感器数据(203)直接传输到头戴式装置(120),或者经由诸如诊所计算机***(112,110)等其他设备或诸如使用者佩戴的智能手机(122)等其他计算机化设备将该生物医学传感器数据间接地传输到头戴式装置。
因此,在一些实施例中,实时生物医学传感器数据(图1B的203)中的至少一些可以从一个或多个单元式患者可穿戴生命体征监测传感器(103)获得。这里,“单元式”是指生命体征监测传感器可以被配置为能够由非固定患者佩戴,即使该患者实际上可能不是非固定的。在这种情况下,“非固定”的替代性术语可以是“自包含的”或患者可穿戴的,而无需与外部设备的机械连接。当然,可替代地,也可以使用标准的生物医学传感器,这些标准的生物医学传感器不是被配置用于由非固定患者使用,并且可以连接到相对固定的监测器。
因此,单元式患者可穿戴传感器可以包括一个或多个非固定患者可穿戴传感器,诸如ECG传感器、脉搏血氧仪和脉搏监测器或示波血压监测器中的任一种。如先前所讨论的,这些各种可穿戴传感器可以被配置为将传感器数据直接传输到头戴式装置(120)或智能手机(122),或者经由诸如(112)等本地医疗计算机***将该传感器数据间接地传输到增强现实头戴式装置。
可替代地,如先前所讨论的,也可以使用链接到各种房间监视设备的常规的(例如,非患者佩戴的)传感器,只要该房间设备被配置为将此数据实时传输到本发明即可。
用例:
在这些示例中,假设医师先前已经触发了***以全自动模式工作,从而使得***根据本发明自动调出信息。
图3示出了配备有***的头戴式装置(120,左下方)的医师(使用者)即将进入患者房间的场景。该图的主要部分从医师(使用者)的角度显示了增强现实场景。注意,医师还没有与患者近到足以使本发明自动地用患者数据填充增强现实显示器。这对应于图1B中的以下情况:没有使用者覆写(240),并且在(202)中尚未检测到患者。
图4示出了一瞬间之后的同一场景。现在医师与患者近到足以使本发明的患者接近检测器自动记录与患者的接近,并且***现在已经开始使用至少一些患者数据自动填充增强现实显示器。注意,在一些情况(诸如大规模事故情况)下,可能没有可用的患者数据。在这种情况下,缺少患者数据本身就是患者数据的一种类型(例如,患者数据=空),因此***可以通过适当的输出(例如“患者数据---”)来报告缺少患者数据。
这对应于图1B的以下情况:现在已经检测到患者(202),并且***软件前进到步骤(204)以从存储器(210)获得患者数据,并且还获得了生物医学传感器数据(203),将其与患者病史数据进行整合(206),根据生物医学传感器数据对患者的器官进行动画处理(208),并且现在在增强现实头戴式装置(220)、(120)上显示数据。然而,没有显示临床支持信息(212)。
如之前讨论的,在该实施例中,医师(使用者)已经决定配置***将是有用的,使得只要使用者靠近患者,即使没有任何附加使用者输入,头戴式装置(120)也会自动填充患者数据。然而,如果许多患者非常接近会发生什么?
在一些情况下,(诸如拥挤的重症监护室),这可能会分散注意力,并且使用者可能只希望当使用者看向特定专利的总体方向时才看到患者数据。
为了使得能够仅当使用者看向患者时才显示患者信息,在一些实施例中,增强现实头戴式装置(120)可以被配置有使得头戴式装置能够检测查看方向的传感器(例如,方向传感器或定向传感器)。这些方向传感器或定向传感器可以包括地磁场传感器、重力场传感器、运动传感器、加速度计、基于陀螺仪(例如,三轴陀螺仪)的传感器等。图1B的软件也可以被配置有合适的覆写,以使得恰好接近患者但不足以触发该患者数据的显示。
专利(100)通常将相对于头戴式装置(120)的定向具有限定的位置(106)。例如,在图1A中,患者(100)被显示在头戴式装置的前方,如由箭头(121)所指示的那样。然而,即使当患者(100)靠近头戴式装置时,使用者也不会总是看向患者(100),并且因此,头戴式装置(121)的前方也不会总是指向患者的方向。
在一些实施例中,***可以使用其一个或多个计算机处理器以及方向传感器或定向传感器(例如,患者位置传感器)来进一步控制在增强现实头戴式装置(120)上显示的内容。例如,***可以被配置为当增强现实头戴式装置(120)的查看方向未朝向患者(100)的位置定向(121)时抑制患者的病史数据和/或实时生物医学传感器数据中的至少一些或全部的显示。
考虑两个患者非常接近的情况。在这种替代类型的自动模式下,当医师(使用者)看向患者“A”时,***将使用头戴式装置(121)和患者(100)的相对定向来自动调出患者“A”的数据。当医师看向患者“B”时,***将自动使用头戴式装置(121)和患者B的定向来自动调出患者“B”的数据。
图5示出了医师正好检查患者、同时***正在显示各种类型的实时生物医学传感器数据(203)(诸如心率、血压、呼吸、SpO2等)的场景。***还对某些患者器官(诸如心脏和肺部)的计算机表示进行动画处理,以允许医师更好地可视化生物医学传感器数据中的一些,可选地在其他患者扫描数据的背景下。图1B的(208)中示出了完成这一点的软件模块是动画。
图6示出了一些增强现实数据的放大视图。这里,***显示患者的实时心率、血压、呼吸和SpO2,并且***还相应地对患者的心脏和肺部的表示进行动画。同时,医师仍然可以通过增强现实头戴式装置的透明部分直接观察患者,并根据需要操纵其他对象。
本发明的一些实施例基于以下进一步的见解,即特别是在紧急高压情况下,与快速掌握数字相比,领会视觉效果通常更加容易。例如,考虑脉搏率和呼吸率。当充斥着大量信息时,可能不会正确注意到或领会数字。然而,在这种情况下,通常可以更快地了解心脏跳动的动画异常快或异常慢、或者肺呼吸视觉上异常。
图7示出了患者某些器官(诸如心脏和肺部)的计算机动画的放大视图。这里,***被显示为对心脏根据脉搏率跳动、并且肺部根据呼吸率进行扩张和收缩的计算机模型进行动画处理。注意,可以通过将患者的其他医疗数据和记录进行整合来进一步增强动画的保真度。例如,如果患者只有一个肺或肺萎陷,则可以相应地更新计算机动画。如果可获得器官的各种图像,则***还可以最佳地将这些图像作为纹理或其他更改应用于基础计算机模型,以便同样快速地传递其他相关医学信息。
考虑这样一种紧急情况,即患者只有一个肺,而医师以前从未见过患者。如果使用者(医师)可以立即看到患者只有一个肺,并且在这种情况下心脏动画跳动异常,则在假设患者具有两个正常肺的情况下可能认为不重要的传感器数据会呈现更多紧急性。
因此,例如,在一些实施例中,生物医学传感器数据(103,203)可以包括心血管传感器数据。***可以被配置为通过以下方式来进一步显示心血管传感器数据:使用至少一个计算机处理器(例如,在头戴式装置120或使用者佩戴的计算机化设备122中的任一个中)对患者心脏和肺部的计算机表示进行动画处理(图1B的208)以与心血管传感器数据相对应,从而产生传感器响应动画。然后,***可以在增强现实头戴式装置(120)上显示该传感器响应动画(如图7所示)。
如之前讨论的,根据需要,可以使用更加现实的技术。例如,在一些实施例中,***可以使用其至少一个计算机处理器来根据患者的病史数据修改计算机表示。这将产生病史校正的计算机表示。然后,***可以将其作为病史校正的传感器响应动画显示在增强现实头戴式装置(120)上。
因此,例如,返回到一个肺的例子,如果病史显示患者只有一个肺,则可以在动画中只显示一个肺。相应地,还可以展示已知患病的冠状动脉、肿瘤和其他大体病变,从而使得由于使用者正在看到这些问题的视觉表示而几乎瞬间深入了解了患者的医疗状况。
图8中示出了该实施例的示例。在该实施例中,假设患者100A的患者医疗数据显示左右肺解剖结构正常,而患者100B的患者数据显示患者100B在患者的左肺上经历了下肺叶切除术。***软件可以被配置为使用患者数据来修改患者心脏和肺部的基础3D计算机表示,并且然后根据实时传感器数据进一步对数据进行动画处理。在该假设性示例中,患者100A的脉搏和呼吸正常,而患者100B的脉搏加快并且呼吸异常快。***将这两组不同的数据组合在一起,并在增强现实头戴式装置上显示异常图像,从而使医师使用者立即看到出了问题。
在另外的其他实施例中,当病史数据也可以包括患者的医学图像时,***的至少一个计算机处理器可以进一步被配置为使用增强现实头戴式装置(120)和至少一个患者位置传感器来自动缩放并变换这些医学图像以创建叠加,诸如根据需要将医学图像中的至少一些以半透明方式叠加在患者解剖结构的相应部分上,或者可替代地使其在远离患者的空间中浮动。实际上,这可以为使用者提供一种“X射线视觉”(或超声波视觉或MRI视觉等)的形式。
自动化的临床决策工具
在一些实施例中,除了显示患者历史数据和患者实时传感器数据之外,***还可以被配置为自动地或根据使用者语音命令来调出各种类型的临床决策软件和参考资料。图1B的(212)和(214)中显示了该选项。
在这些实施例中,***可以使用其至少一个计算机处理器和其他因素(比如患者的身份、患者的病史(210)和/或实时生物医学传感器数据(203))以从计算机存储器(这里,在图1B中显示为存储器214,但是可以替代地使用存储器210)中检索(212)并显示各种类型的临床支持。该临床支持可以包括适合情境的临床决策算法、适合情境的替代性潜在诊断、以及适合情境的替代性医学治疗。
下面更详细地讨论这种临床决策算法、替代性潜在诊断、替代性医学治疗等的示例。
附加讨论
在一些实施例中,本发明可以用作综合的患者护理管理***。在这些实施例中,***内的增强现实元素促进了以下功能:
1.直接患者护理(下面讨论)
2.患者教育——通过信息共享可视化和信息共享。
3.患者时间管理——在虚拟日历等上创建和操纵用药管理时间的时间表、监控时间表、锻炼时间、拉伸时间等。
4.实践管理——预订患者的预约、测试和其他应用。
5.患者转诊给其他医生和保健医师。***还可以可选地被配置为将增强现实头戴式装置上显示的数据的副本发送到病历或其他个人,诸如发送到另一个医师,以获得即时建议。
6.远程医学或远程医疗。这里,***还可以被配置为允许其他人远程地可视化通过镜片或眼镜观察到的内容。在该实施例中,***可以将来自增强现实头戴式装置上的前置摄像机的视觉显示与增强现实头戴式装置上显示的数据进行组合,并且根据需要可以再次将其转发给其他***和使用者。
每个类别中的特定功能:
直接患者护理:
在一些实施例中,***可以被配置为提供在一个地方收集和显示的所有相关患者信息的基本接口,以提高效率。该接口可以通过以下方式辅助患者护理:允许临床医师以独特的方式(例如,通过放大各个区域)可视化身体;捕获图像;以及允许临床医师比较不同时间的图像以评估随时间的变化。
例如,如先前所讨论的,在一些实施例中,***可以用于提供附加的临床支持服务(图1B的212和214)。特别地,***在帮助医师判断患者外表的细微视觉变化(可以指示医疗状况)方面会非常有用。
考虑患者瞳孔大小的变化,这通常可以提供有关患者神经***状态的重要信息。这里,***可以提供几种类型的临床支持信息和服务。
·这里,***可以使用头戴式装置安装的摄像机(可选地配备有测距传感器)来帮助确定患者瞳孔的大小,并标记患者瞳孔是异常小还是异常大。
·可替代地,***可以只显示示出有瞳孔大小范围的参考图表,从而使医师同时看到患者的双眼和参考图表。
·作为第三种选项,***可以显示虹膜和瞳孔图表,该图表可以由医师通过各种命令(诸如语音命令、触觉输入等)进行调整。例如,医师可以看向患者的双眼,同时看向增强现实显示器中计算机生成的虹膜和瞳孔的表示,并发出各种命令(诸如“虹膜增大、瞳孔减小”)以使图表与患者瞳孔的外观相匹配。这使得医师能够快速产生对患者瞳孔的半自动但计算机增强的评估。
这些基本方法同样可以用于辅助评估许多其他可视患者参数。通常,***可以用于通过上述方法来促进对患者进行视觉评估。特别地,半自动方法特别有用,在这种半自动方法中,***同时显示使用者可调整的图表,允许使用者将图表调整为与患者相匹配,并且然后自动评估这些结果。这种类型的混合方法可以将人眼的出色特性与半自动计算机评估结合起来,以帮助提供比不使用这种***的医师可能获得的结果更为准确的结果。这些方法的其他应用可以包括:
·评估双眼之间的瞳孔对称性以进行诊断。
·查看皮疹——将其与数据库进行相互对照以进行诊断或在以前的时间点进行查看以评估是否有所改善或/恶化
·查看肿块——与数据库进行相互对照以找出原因,或者要求计算机处理器列出在身体该区域中的肿块、肿胀的原因。这可以再次经由简单的命令,诸如:“向我显示颈部肿块的原因列表。”
·检查面部并识别不对称性以进行诊断,例如,中风
·可视化身体特征随时间的变化以辅助护理。例如,使用***查看身体区域并且然后使用增强现实头戴式装置同时显示上一次存储的图像以评估变化。这里的示例可以包括腿部肿胀以查看腿部是否在改善或恶化,以及先前讨论的皮疹、肿块、瞳孔测量等。
用药管理***:在一些实施例中,本发明的临床支持信息***(图1B的212,214)可用于执行各种功能,诸如:
·拉出用药清单
·将该清单与在以前的时间点患者的用药清单进行比较
·显示患者已知的过敏情况,将清单与他们当前的用药清单进行相互对照
·使用基于云的数据库来查找和识别药物之间的相互作用
·评估用药剂量,例如,基于患者的体重、年龄或肾功能、肝功能等计算正确的剂量。
·向(多个)计算机处理器询问诸如“我应该使用哪种药物治疗症状X?”等问题这里,***可以被配置为显示建议列表。
·***还可以用于将专利用药管理与患者的生命体征或身体特征变化进行比较,以评估关系。这里询问的示例可能是:“患者在下午2点服用了预定药物后患者心率发生了什么变化?”
·通过智能显示信息来评估趋势——生命体征变化、血液工作变化等随时间的趋势图
***还可以用于与基于云的医学数据库***进行交互以生成诊断和/或评估改善。
在一些实施例中,本发明还可以用于访问患者的位置信息(例如,从患者相关联的GPS传感器或其他位置传感器获得的位置信息),并评估患者去了哪里或最近去过哪里。然后,可以将其与包含有关疾病出现、流行病、接触毒素、接触其他患病个体等方面的信息的数据库进行相互对照。
2.患者教育——通过信息共享可视化和信息共享。在一些实施例中,配置***的输出以使得医师可以与其他使用者共享医师正在看的增强现实头戴式装置信息是有用的。这里,可以使用各种技术来促进该过程。
关于替代性使用者输入方法的更多评论。
如先前所讨论的,可以通过各种方式来控制***使用者接口。在一些实施例中,可以将头戴式装置安装的摄像机以及合适的计算机视觉软件和***处理器用于解释各种使用者命令,包括:
·触觉或触摸板手势(参见图1A的124)
·指向由头戴式装置的增强现实显示***显示的各种虚拟按钮。
·在一些实施例中,头戴式装置(120)可以进一步配备有至少一个摄像机,该摄像机被配置为捕获使用者面部的至少一部分。在这些实施例中,当***的计算机处理器配备有合适的计算机视觉软件时,***可以可替代地接受使用者面部姿态输入,诸如眨眼、眨一只眼、面部姿态等。
这样,***的虚拟接口变得类似于生活记录,从而以全面的方式促进了患者护理和实践管理。这两种功能无缝结合,因此医生只需要一道工序即可完成他或她的工作。***可以在如医院或ER等住院/急性环境中使用,但也可以由家庭医生、或由非医生执业者、牙医、脊医、物理治疗师、护士和其他医疗保健专业人员在诊所中使用。
尽管增强现实头戴式装置被用作本发明的特定实施例,但这不是限制性的。在一些实施例中,头戴式装置可以是“交互式表面显示器”,其可以广泛地包括HoloLens、Googleglass、联网车辆中的HUD挡风玻璃显示器、用于数字信息亭的反光玻璃或反光镜、以及其他类型的显示器
在一些实施例中,本发明还可以覆盖对本发明的增强现实平台/环境中的连续度量(数据)的显示、操纵和使用。除心血管数据外,***还可以用于监测许多其他患者生理和物理参数,诸如心率(脉搏率)、血压、呼吸率、患者位置信息(例如,患者GPS坐标、走过的步数)、患者含氧量(O2饱和度)、患者体温和患者体重。

Claims (20)

1.一种在使用者佩戴的增强现实头戴式装置上自动显示患者医疗信息的方法,所述方法包括:
使用与所述增强现实头戴式装置通信的至少一个计算机处理器、以及至少一个传感器来确定
a)所述使用者何时接近所述患者;
b)确定所述患者的身份,并且
c)获得与所述患者有关的病史数据;
使用所述至少一个计算机处理器来进一步获取与所述患者有关的实时生物医学传感器数据;
当所述增强现实头戴式装置接近所述患者时,显示与所述患者有关的所述病史数据中的至少一些、以及与所述患者有关的所述实时生物医学传感器数据中的至少一些。
2.根据权利要求1所述的方法,其中,所述增强现实头戴式装置具有查看方向,并且所述患者具有位置,进一步使用所述至少一个计算机处理器和至少一个患者位置传感器来进一步控制所述增强现实头戴式装置,以便当所述增强现实头戴式装置的所述查看方向未朝向所述患者的所述位置定向时,抑制所述病史数据和实时生物医学传感器数据中的至少一些的显示。
3.根据权利要求1所述的方法,其中,所述病史数据包括所述患者的医学图像;并且
至少一个计算机处理器进一步被配置为使用所述增强现实头戴式装置和至少一个患者位置传感器来自动缩放和变换所述医学图像,以便为所述使用者创建所述医学图像中的至少一些在所述患者的解剖结构的相应部分和所述患者附近中的任一种上的叠加。
4.根据权利要求1所述的方法,其中,所述生物医学传感器数据包括心血管传感器数据;
通过使用所述至少一个计算机处理器对所述患者的心脏和肺部的计算机表示进行动画处理以与所述心血管传感器数据相对应从而产生传感器响应动画来进一步显示所述心血管传感器数据,并在所述增强现实头戴式装置上显示所述传感器响应动画。
5.根据权利要求4所述的方法,进一步使用所述至少一个计算机处理器根据所述病史数据来修改所述计算机表示,从而产生病史校正的计算机表示,并在所述增强现实头戴式装置上显示病史校正的传感器响应动画。
6.根据权利要求1所述的方法,进一步使用所述至少一个计算机处理器并使用所述患者的所述身份、与所述患者有关的所述病史数据和与所述患者有关的所述实时生物医学传感器数据中的任一者来从计算机存储器中检索并显示以下中的任一项:
a)临床决策算法;
b)替代性潜在诊断;
c)替代性医学治疗。
7.根据权利要求1所述的方法,其中,所述增强现实头戴式装置和与所述增强现实头戴式装置通信的所述至少一个计算机处理器中的任一者进一步被配置为通过语音传感器、手部运动传感器、面部姿态传感器和触觉传感器中的任一个接收来自所述使用者的输入。
8.根据权利要求1所述的方法,其中,所述病史数据是从以下中的任一个获得的:增强现实头戴式装置存储器、本地内联网电子病历存储器、或存储在至少一个远程互联网服务器上的存储器。
9.根据权利要求1所述的方法,其中,使用者佩戴的所述增强现实头戴式装置包括:眼镜和护目镜中的任一种,其中透明镜片安装在每只眼睛上方以允许所述使用者看到外界的图像;至少一个计算机显示器,被配置为将外界的所述图像叠加在计算机生成的位图图形上;至少一个患者位置传感器;至少一个增强现实头戴式装置计算机处理器,被配置为驱动所述位图图形;以及至少一个通信接口,被配置为至少从外部源获得病史数据。
10.根据权利要求1所述的方法,其中,所述实时生物医学传感器数据中的至少一些是从被配置为能够由非固定患者佩戴的单元式患者可穿戴生命体征监测***获得的,所述监测***包括:
至少一个非固定患者可穿戴传感器,所述至少一个非固定患者可穿戴传感器包括一个或多个ECG传感器、脉搏血氧仪、温度传感器、运动传感器、电子听诊器和血压监测器中的任一种;
所述至少一个非固定患者可穿戴传感器进一步被配置为直接或间接地向所述增强现实头戴式装置传输传感器数据。
11.根据权利要求1所述的方法,其中,确定以下中的任一项
a)所述使用者何时接近所述患者;
b)确定所述患者的身份,并且
c)获得与所述患者有关的病史数据;
是使用来自所述使用者的语音识别输入来完成的。
12.根据权利要求1所述的方法,其中,所述至少一个传感器包括短程无线收发器、RFID标签传感器、头戴式装置安装的摄像机、使用者位置传感器、麦克风或红外传感器中的任一种。
13.一种被配置为在被配置为由使用者佩戴的增强现实头戴式装置上自动显示患者医疗信息的***,所述***包括:
被配置为由所述使用者佩戴的增强现实头戴式装置;
至少一个传感器;
与所述增强现实头戴式装置和所述传感器通信的至少一个计算机处理器,所述至少一个计算机处理器被配置为使用来自所述至少一个传感器的数据来确定:
a)所述头戴式装置和所述使用者中的任一者何时接近所述患者;
b)确定所述患者的身份,并且
c)获得与所述患者有关的病史数据;
所述至少一个计算机处理器进一步被配置为获取与所述患者有关的实时生物医学传感器数据;
所述至少一个计算机处理器和所述增强现实头戴式装置进一步被配置为:至少当所述增强现实头戴式装置接近所述患者时,显示与所述患者有关的所述病史数据中的至少一些、以及与所述患者有关的所述实时生物医学传感器数据中的至少一些。
14.根据权利要求13所述的***,其中,所述病史数据包括所述患者的医学图像;并且
至少一个计算机处理器进一步被配置为使用所述增强现实头戴式装置和至少一个患者位置传感器来自动缩放和变换所述医学图像,以便为所述使用者创建所述医学图像中的至少一些在所述患者的解剖结构的相应部分和所述患者附近中的任一种上的叠加。
15.根据权利要求13所述的***,其中,所述生物医学传感器数据包括心血管传感器数据;
其中,所述至少一个计算机处理器进一步被配置为:通过对所述患者的心脏和肺部的计算机表示进行动画处理以与所述心血管传感器数据相对应从而产生传感器响应动画来显示所述心血管传感器数据;
所述至少一个计算机处理器进一步被配置为在所述增强现实头戴式装置上显示所述传感器响应动画。
16.根据权利要求15所述的***,其中,所述至少一个计算机处理器进一步被配置为根据所述病史数据来修改所述计算机表示,从而产生病史校正的计算机表示;
所述至少一个计算机处理器进一步被配置为在所述增强现实头戴式装置上显示所述传感器响应动画。
17.根据权利要求13所述的***,其中,所述至少一个计算机处理器进一步被配置为:使用所述患者的所述身份、与所述患者有关的所述病史数据和与所述患者有关的所述实时生物医学传感器数据中的任一者来从计算机存储器中检索并在所述增强现实头戴式装置上显示以下中的任一项:
a)临床决策算法;
b)替代性潜在诊断;
c)替代性医学治疗。
18.根据权利要求13所述的***,其中,所述增强现实头戴式装置和与所述增强现实头戴式装置通信的所述至少一个计算机处理器中的任一者进一步被配置为通过语音传感器、手部运动传感器、面部姿态传感器和触觉传感器中的任一个接收来自所述使用者的输入。
19.根据权利要求13所述的***,其中,使用者佩戴的所述增强现实头戴式装置包括:眼镜和护目镜中的任一种,其中透明镜片安装在每只眼睛上方以允许所述使用者看到外界的图像;至少一个计算机显示器,被配置为将外界的所述图像叠加在计算机生成的位图图形上;至少一个患者位置传感器;至少一个增强现实头戴式装置计算机处理器,被配置为驱动所述位图图形;以及至少一个通信接口,被配置为至少从外部源获得病史数据。
20.根据权利要求13所述的***,其中,所述至少一个计算机处理器被配置为从被配置为能够由非固定患者佩戴的单元式患者可穿戴生命体征监测***获得所述实时生物医学传感器数据中的至少一些,所述监测***包括:
至少一个非固定患者可穿戴传感器,所述至少一个非固定患者可穿戴传感器包括一个或多个ECG传感器、脉搏血氧仪、电子听诊器传感器、温度传感器、运动传感器和血压监测器中的任一种;
所述至少一个非固定患者可穿戴传感器进一步被配置为直接或间接地向所述增强现实头戴式装置传输传感器数据。
CN201980036619.9A 2018-03-28 2019-03-26 用于时间要求严格的生物医学应用的增强现实*** Pending CN112384970A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/939,190 US10642046B2 (en) 2018-03-28 2018-03-28 Augmented reality systems for time critical biomedical applications
US15/939,190 2018-03-28
PCT/US2019/024007 WO2019191047A1 (en) 2018-03-28 2019-03-26 Augmented reality systems for time critical biomedical applications

Publications (1)

Publication Number Publication Date
CN112384970A true CN112384970A (zh) 2021-02-19

Family

ID=68054248

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980036619.9A Pending CN112384970A (zh) 2018-03-28 2019-03-26 用于时间要求严格的生物医学应用的增强现实***

Country Status (6)

Country Link
US (1) US10642046B2 (zh)
EP (1) EP3769299A4 (zh)
CN (1) CN112384970A (zh)
AU (1) AU2019243420A1 (zh)
CA (1) CA3095287C (zh)
WO (1) WO2019191047A1 (zh)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11348147B2 (en) 2020-04-17 2022-05-31 At&T Intellectual Property I, L.P. Facilitation of value-based sorting of objects
US11024064B2 (en) * 2017-02-24 2021-06-01 Masimo Corporation Augmented reality system for displaying patient data
JP7159208B2 (ja) 2017-05-08 2022-10-24 マシモ・コーポレイション ドングルを使用することによって医療システムをネットワークコントローラとペアリングするためのシステム
US11599238B2 (en) * 2019-04-02 2023-03-07 Vyaire Medical, Inc. System and method for generating a virtual reality interface for displaying patient health data
US11205306B2 (en) * 2019-05-21 2021-12-21 At&T Intellectual Property I, L.P. Augmented reality medical diagnostic projection
CN110238831B (zh) * 2019-07-23 2020-09-18 青岛理工大学 基于rgb-d图像及示教器的机器人示教***及方法
US11836410B2 (en) * 2019-08-06 2023-12-05 Universal City Studios Llc Interactive headgear
US11810595B2 (en) 2020-04-16 2023-11-07 At&T Intellectual Property I, L.P. Identification of life events for virtual reality data and content collection
US11537999B2 (en) 2020-04-16 2022-12-27 At&T Intellectual Property I, L.P. Facilitation of automated property management
US11217029B2 (en) * 2020-04-16 2022-01-04 At&T Intellectual Property I, L.P. Facilitation of augmented reality-based space assessment
US11568456B2 (en) 2020-04-17 2023-01-31 At&T Intellectual Property I, L.P. Facilitation of valuation of objects
US11568987B2 (en) 2020-04-17 2023-01-31 At&T Intellectual Property I, L.P. Facilitation of conditional do not resuscitate orders
US11153707B1 (en) 2020-04-17 2021-10-19 At&T Intellectual Property I, L.P. Facilitation of audio for augmented reality
DE102021105171A1 (de) 2021-03-03 2022-09-08 Medicad Hectec Gmbh Verfahren zur Planung, Durchführung und Dokumentation einer Visite in einer Einrichtung zur Pflege und/oder Betreuung von Menschen mit einer zugehörigen Vorrichtung und einem zugehörigen System
US20230074574A1 (en) * 2021-09-04 2023-03-09 Lloyd E. Emokpae Wearable multi-modal system for remote monitoring of patients with chronic obstructive pulmonary disease
US20240045491A1 (en) * 2022-08-05 2024-02-08 Alexander Sourov Medical image overlays for augmented reality experiences

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030179308A1 (en) * 2002-03-19 2003-09-25 Lucia Zamorano Augmented tracking using video, computed data and/or sensing technologies
US8644842B2 (en) * 2007-09-04 2014-02-04 Nokia Corporation Personal augmented reality advertising
US20140145915A1 (en) * 2012-11-14 2014-05-29 Hill-Rom Services, Inc. Augmented reality system in the patient care environment
US20150242575A1 (en) * 2013-07-12 2015-08-27 Magic Leap, Inc. Method and system for facilitating rehabilitation using an augmented reality system
CN106029000A (zh) * 2014-02-21 2016-10-12 阿克伦大学 用于引导医疗干预的成像和显示***
CN106102571A (zh) * 2014-03-13 2016-11-09 皇家飞利浦有限公司 患者监控器和介入/事件时间线
CN106909771A (zh) * 2015-12-23 2017-06-30 西门子医疗有限公司 用于输出增强现实信息的方法和***
CN107645921A (zh) * 2015-03-16 2018-01-30 奇跃公司 用于诊断和治疗健康疾病的方法和***
CN107678535A (zh) * 2016-08-01 2018-02-09 三星电子株式会社 用于图像显示的方法和支持该方法的电子设备
CN107847289A (zh) * 2015-03-01 2018-03-27 阿里斯医疗诊断公司 现实增强的形态学手术

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130278631A1 (en) * 2010-02-28 2013-10-24 Osterhout Group, Inc. 3d positioning of augmented reality information
US10180572B2 (en) * 2010-02-28 2019-01-15 Microsoft Technology Licensing, Llc AR glasses with event and user action control of external applications
US9338622B2 (en) * 2012-10-04 2016-05-10 Bernt Erik Bjontegard Contextually intelligent communication systems and processes
US20170000359A1 (en) 2013-02-22 2017-01-05 Cloud Ds, Inc., a corporation of Delaware Comprehensive body vital sign monitoring system
CA3187490A1 (en) * 2013-03-15 2014-09-18 Interaxon Inc. Wearable computing apparatus and method
US10146334B2 (en) 2016-06-09 2018-12-04 Microsoft Technology Licensing, Llc Passive optical and inertial tracking in slim form-factor

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030179308A1 (en) * 2002-03-19 2003-09-25 Lucia Zamorano Augmented tracking using video, computed data and/or sensing technologies
US8644842B2 (en) * 2007-09-04 2014-02-04 Nokia Corporation Personal augmented reality advertising
US20140145915A1 (en) * 2012-11-14 2014-05-29 Hill-Rom Services, Inc. Augmented reality system in the patient care environment
US20150242575A1 (en) * 2013-07-12 2015-08-27 Magic Leap, Inc. Method and system for facilitating rehabilitation using an augmented reality system
CN106029000A (zh) * 2014-02-21 2016-10-12 阿克伦大学 用于引导医疗干预的成像和显示***
CN106102571A (zh) * 2014-03-13 2016-11-09 皇家飞利浦有限公司 患者监控器和介入/事件时间线
CN107847289A (zh) * 2015-03-01 2018-03-27 阿里斯医疗诊断公司 现实增强的形态学手术
CN107645921A (zh) * 2015-03-16 2018-01-30 奇跃公司 用于诊断和治疗健康疾病的方法和***
CN106909771A (zh) * 2015-12-23 2017-06-30 西门子医疗有限公司 用于输出增强现实信息的方法和***
CN107678535A (zh) * 2016-08-01 2018-02-09 三星电子株式会社 用于图像显示的方法和支持该方法的电子设备

Also Published As

Publication number Publication date
CA3095287C (en) 2023-03-21
EP3769299A1 (en) 2021-01-27
EP3769299A4 (en) 2021-10-27
US20190302460A1 (en) 2019-10-03
US10642046B2 (en) 2020-05-05
WO2019191047A1 (en) 2019-10-03
CA3095287A1 (en) 2019-10-03
AU2019243420A1 (en) 2020-10-15

Similar Documents

Publication Publication Date Title
CA3095287C (en) Augmented reality systems for time critical biomedical applications
US11195340B2 (en) Systems and methods for rendering immersive environments
US11819369B2 (en) Augmented reality device for providing feedback to an acute care provider
US9645785B1 (en) Heads-up displays for augmented reality network in a medical environment
US11297285B2 (en) Dental and medical loupe system for lighting control, streaming, and augmented reality assisted procedures
US9600934B2 (en) Augmented-reality range-of-motion therapy system and method of operation thereof
US9898662B2 (en) Information processing apparatus, information processing method, and information processing system
US11133096B2 (en) Method for non-invasive motion tracking to augment patient administered physical rehabilitation
US20150269324A1 (en) Facilitating user input via arm-mounted peripheral device interfacing with head-mounted display device
US20200234813A1 (en) Multi-disciplinary clinical evaluation in virtual or augmented reality
US20200371738A1 (en) Virtual and augmented reality telecommunication platforms
CN107810535A (zh) 头戴式计算设备、方法和计算机程序产品
US20240215922A1 (en) Patient positioning adaptive guidance system
EP4181789B1 (en) One-dimensional position indicator
EP4086916A1 (en) Patient positioning adaptive guidance system
US11651705B2 (en) Tracking and digital documentation of haptic manipulation data using wearable sensors
JP2022098001A (ja) 医療支援システム
Singh et al. Mobile Health: Roles of Sensors and IoT in Healthcare Technology
Reethika et al. Doctor's Assistive System Using Augmented Reality Glass

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20210219