JP6252004B2 - 情報処理装置、情報処理方法、および、情報処理システム - Google Patents

情報処理装置、情報処理方法、および、情報処理システム Download PDF

Info

Publication number
JP6252004B2
JP6252004B2 JP2013147418A JP2013147418A JP6252004B2 JP 6252004 B2 JP6252004 B2 JP 6252004B2 JP 2013147418 A JP2013147418 A JP 2013147418A JP 2013147418 A JP2013147418 A JP 2013147418A JP 6252004 B2 JP6252004 B2 JP 6252004B2
Authority
JP
Japan
Prior art keywords
information
image
unit
information processing
medical device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013147418A
Other languages
English (en)
Other versions
JP2015019678A (ja
Inventor
津田 敦也
敦也 津田
敏一 内山
敏一 内山
仁美 若宮
仁美 若宮
高野 正秀
正秀 高野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2013147418A priority Critical patent/JP6252004B2/ja
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to RU2016104876A priority patent/RU2645004C2/ru
Priority to PCT/JP2014/003696 priority patent/WO2015008469A2/en
Priority to EP14755716.9A priority patent/EP3022671B1/en
Priority to TW103124036A priority patent/TWI617279B/zh
Priority to KR1020167003626A priority patent/KR20160030994A/ko
Priority to US14/901,626 priority patent/US9898662B2/en
Priority to CN201410340080.5A priority patent/CN104298499B/zh
Publication of JP2015019678A publication Critical patent/JP2015019678A/ja
Application granted granted Critical
Publication of JP6252004B2 publication Critical patent/JP6252004B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/25User interfaces for surgical systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/50Supports for surgical instruments, e.g. articulated arms
    • A61B2090/502Headgear, e.g. helmet, spectacles
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16ZINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS, NOT OTHERWISE PROVIDED FOR
    • G16Z99/00Subject matter not provided for in other main groups of this subclass

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Optics & Photonics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Robotics (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Multimedia (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Gynecology & Obstetrics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Pathology (AREA)

Description

本発明は、情報処理装置に関する。
頭部に装着する表示装置である頭部装着型表示装置(ヘッドマウントディスプレイ(Head Mounted Display、HMD))が知られている。頭部装着型表示装置は、例えば、液晶ディスプレイと光源とを利用して画像を表す画像光を生成し、生成された画像光を投写光学系や導光板等を利用して使用者の眼に導くことにより、使用者に虚像を認識させる。
特許文献1には、このような頭部装着型表示装置を用いることで、医療環境における情報の表示を改善するためのシステムが記載されている。特許文献1に記載の技術では、クエリーに基づいて複数の情報源から情報が取得され、取得された情報は、規則に基づきフィルター処理され、眼鏡ヘッドセット式ビューアーの接眼レンズへ投影される。また、特許文献1に記載の技術では、頭部装着型表示装置の装着者の視線に基づいて、固定された大型ディスプレイの表示についての制御権や優先権が決定される。特許文献2には、医療用顔面装着型映像表示装置(頭部装着型表示装置)が記載されている。特許文献2に記載の技術では、内視鏡検査又は内視鏡手術時に内視鏡と共に使用される内視鏡周辺機器の動作状態情報が、頭部装着型表示装置に表示される。特許文献3、4には、頭部装着型表示装置において、拡張現実感技術を応用することで、歯科手術における情報の表示を行うための方法が記載されている。特許文献3、4に記載の技術では、術部の実像に対して、術前イメージやシミュレーション画像等が重畳して表示される。
特開2006−102495号公報 特開2001−104331号公報 特開2010−259497号公報 特開2013−34764号公報
医学の進歩と電子機器の進歩により、現在の医療の現場は急速な進化を遂げている。医療の現場では、例えば、心電図、心拍数計、血圧計、パルスオキシメーター、血糖値計、レントゲン、内視鏡のような、多種多様な医療用の装置(以降「医療用装置」と呼ぶ。)が使用されている。このような多種多様な医療用装置の情報を把握して、作業を行うことは、医療の現場に従事する者にとって大きな負担となる。このため、多種多様な医療用装置の情報を一元化することのできるシステムが望まれていた。特許文献1に記載された技術では、複数の情報源(医療用装置)から情報を取得することはできるものの、クエリーやフィルターの設定が困難であるという課題があった。また、特許文献2〜4に記載された技術では、対象としている医療用装置が限定されているため、多種多様な医療用装置の情報を一元化することができないという課題があった。
また、このような課題は、頭部装着型表示装置に限らず、例えば頭部装着型表示装置のような画像表示装置に表示させるための情報を生成する情報処理装置全般に共通する課題であった。このため、多種多様な医療用装置の情報を一元化すると共に、一元化されている情報から簡便に情報をフィルタリングして、画像表示装置に表示させるための情報を生成することが可能な情報処理装置が望まれていた。そのほか、情報処理装置には、汎用性の向上、利便性の向上、製造コストの低減、信頼性の向上といった、種々の要望があった。
本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。
(1)本発明の一形態によれば、情報処理装置が提供される。この情報処理装置は;複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と;前記取得部により取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と;画像を表示する画像表示装置に対して、生成された前記提示用情報を出力する提供部と、を備え;前記生成部は、少なくとも、前記画像表示装置の使用者による表示部の視認が困難な前記医療用装置により取得された前記医療用装置情報を含む前記提示用情報を生成する。この形態の情報処理装置によれば、生成部は、取得部により取得された複数の医療用装置情報の少なくとも一部を含む提示用情報を生成するため、情報処理装置に接続されている多種多様な医療用装置の情報(医療用装置情報)を一元化することができる。また、生成部は、少なくとも画像表示装置の使用者による表示部の視認が困難な医療用装置により取得された医療用装置情報を含む提示用情報を生成するため、一元化されている医療用装置情報から、画像表示装置の使用者による表示部の視認が困難な医療用装置の医療用装置情報という条件で情報を抽出して、抽出した情報を提示用情報に含めることができる。この結果、多種多様な医療用装置の情報を一元化すると共に、一元化されている情報から簡便に情報をフィルタリングして、画像表示装置に表示させるための情報を生成することが可能な情報処理装置を実現することができる。
(2)上記形態の情報処理装置において;前記提供部は、さらに、前記画像表示装置の使用者の視界方向の画像を取得し;さらに、取得された前記視界方向の画像を画像認識して、前記表示部が前記視界方向の画像に含まれない前記医療用装置を特定し、特定した前記医療用装置を前記視認が困難な医療用装置であると特定する特定部を備えてもよい。この形態の情報処理装置によれば、特定部は、画像表示装置の使用者の視界方向の画像に基づいて、使用者による表示部の視認が困難な医療用装置を特定することができる。また、特定にあたって必要な情報を、提供部を介して取得することができる。このため、情報処理装置の利用に際して使用者が事前にデーター等を準備する必要がなく、簡便である。
(3)上記形態の情報処理装置において;前記取得部は、さらに、前記情報処理装置に接続されている前記複数の医療用装置の位置情報をそれぞれ取得し;前記提供部は、さらに、前記情報処理装置に接続されている前記画像表示装置の現在位置を表す現在位置情報と、前記使用者の頭部の向きを表す方位情報とを取得し;さらに、前記取得部により取得された前記複数の前記医療用装置の前記位置情報と、前記提供部により取得された前記画像表示装置の前記現在位置情報および前記方位情報と、を用いて、前記視認が困難な医療用装置を特定する特定部を備えてもよい。この形態の情報処理装置によれば、特定部は、取得部により取得された複数の医療用装置の位置情報と、提供部により取得された画像表示装置の現在位置情報および方位情報と、を用いて、自動的に、画像表示装置の使用者による表示部の視認が困難な医療用装置を特定することができる。また、特定にあたって必要な情報を、取得部および提供部を介して取得することができる。このため、情報処理装置の利用に際して使用者が事前にデーター等を準備する必要がなく、簡便である。
(4)上記形態の情報処理装置では、さらに;前記視認が困難な医療用装置を特定するための情報を記憶する配置記憶部を備え;さらに、前記配置記憶部を用いて、前記視認が困難な医療用装置を特定する特定部を備えてもよい。この形態の情報処理装置によれば、特定部は、画像表示装置の使用者による表示部の視認が困難な医療用装置を特定するための情報を記憶する配置記憶部を用いて、自動的に、画像表示装置の使用者による表示部の視認が困難な医療用装置を特定することができる。また、特定にあたって必要な情報を、予め用意されている配置記憶部から取得することができる。このため、情報処理装置に接続されている医療用装置や画像表示装置が位置情報の検出手段や外景画像の取得手段を持たない場合においても、特定部は、画像表示装置の使用者による表示部の視認が困難な医療用装置を、自動的に特定することができる。
(5)上記形態の情報処理装置では、さらに;物体の外観に現れない情報である不可視情報を記憶する不可視情報記憶部を備え;前記生成部は、生成する前記提示用情報に対して前記不可視情報を含めてもよい。この形態の情報処理装置によれば、不可視情報記憶部を備えることによって、情報処理装置に接続されている多種多様な医療用装置の医療用装置情報に加えて、さらに、不可視情報記憶部に記憶されている不可視情報をも一元化することができる。また、生成部は、一元化されている情報から、例えば、CT画像、MRI画像、レントゲン(X線)画像、透視画像、超音波診断画像、内視鏡画像、サーモグラフィー画像等、物体の外観に現れない情報である不可視情報を抽出して、画像表示装置に表示させるための提示用情報を生成する。この結果、情報処理装置に接続される画像表示装置の使用者は、これらの不可視情報を視認することが可能となり、画像表示装置の利便性の向上に繋がる。
(6)上記形態の情報処理装置において;前記情報処理装置には、物体の外観に現れない情報である不可視情報を取得するための前記医療用装置が少なくとも1台接続され;前記生成部は、生成する前記提示用情報に対して、前記不可視情報を取得するための前記医療用装置により取得された前記医療用装置情報を含めてもよい。この形態の情報処理装置によれば、生成部は、例えば、CT画像、MRI画像、レントゲン(X線)画像、透視画像、超音波診断画像、内視鏡画像、サーモグラフィー画像等、物体の外観に現れない情報である不可視情報を取得するための医療用装置により取得された医療用装置情報を抽出して、画像表示装置に表示させるための提示用情報を生成する。この結果、情報処理装置に接続される画像表示装置の使用者は、これらの不可視情報を視認することが可能となり、画像表示装置の利便性の向上に繋がる。
(7)上記形態の情報処理装置において;前記情報処理装置には、患者の処置の画像を取得するための前記医療用装置が少なくとも1台接続され;前記生成部は、生成する前記提示用情報に対して、前記処置の画像を取得するための前記医療用装置により取得された前記医療用装置情報を含めてもよい。この形態の情報処理装置によれば、生成部は、患者の処置の画像を取得するための医療用装置により取得された医療用装置情報を抽出して、画像表示装置に表示させるための提示用情報を生成する。この結果、情報処理装置に接続される画像表示装置の使用者は、患者の処置の画像を視認することが可能となり、画像表示装置の利便性の向上に繋がる。
(8)上記形態の情報処理装置において;前記生成部は、前記提示用情報を生成する際に、前記医療用装置情報に含まれる画像の縦横比を維持したまま、前記画像を拡大または縮小してもよい。この形態の情報処理装置によれば、生成部は、医療用装置情報に含まれる画像の縦横比を維持したまま、画像を拡大または縮小するため、提示用情報が生成される際に、医療用装置により取得された医療用装置情報に予期しない歪みが生じることを抑制できる。
(9)上記形態の情報処理装置において;前記情報処理装置には、前記画像表示装置として、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置が接続されてもよい。この形態の情報処理装置によれば、多種多様な医療用装置の情報を一元化すると共に、一元化されている情報から簡便に情報をフィルタリングして、いわゆる透過型の頭部装着型表示装置に表示させるための情報を生成することが可能な情報処理装置を実現することができる。
(10)上記形態の情報処理装置において;前記提供部は、さらに;前記頭部装着型表示装置から、前記頭部装着型表示装置を装着した状態における使用者の視界方向の画像を取得し;取得された前記視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し;抽出した前記特徴に基づいて生成部により生成された前記提示用情報を補正し、補正後の前記提示用情報を出力してもよい。この形態の情報処理装置によれば、提供部は、頭部装着型表示装置の使用者の視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し、抽出した特徴に基づいて、生成された提示用情報を補正する。このため、提示用情報に、例えばCT画像、MRI画像、レントゲン画像等の不可視情報が含まれる場合において、外景に含まれる物体(例えば、患者の体等)に不可視情報を一致させることができる。この結果、頭部装着型表示装置の使用者の利便性を向上させることができる。さらに、頭部装着型表示装置は、補正後の提示用情報を受信することができるため、頭部装着型表示装置は、受信した提示用情報をそのまま表示すればよい。この結果、頭部装着型表示装置の構成をシンプルにすることができる。
(11)本発明の一形態によれば、情報処理システムが提供される。この情報処理システムは;複数の医療用装置と;情報処理装置と;使用者が虚像と外景を同時に視認可能な頭部装着型表示装置と、を備え;前記情報処理装置は;前記複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と;前記取得部により取得された前記複数の医療用装置情報の少なくとも一部を含む提示用情報を生成する生成部と;前記頭部装着型表示装置に対して、生成された前記提示用情報を出力する提供部と、を備え;前記頭部装着型表示装置は;前記情報処理装置から前記提示用情報を取得する提示用情報取得部と;取得された前記提示用情報を前記虚像として前記頭部装着型表示装置の使用者に視認させる画像表示部と、を備え;前記情報処理装置の前記生成部は、少なくとも、前記頭部装着型表示装置の使用者による表示部の視認が困難な前記医療用装置により取得された前記医療用装置情報を含む前記提示用情報を生成する。この形態の情報処理システムによれば、多種多様な医療用装置の情報(医療用装置情報)を情報処理装置に一元化すると共に、一元化されている情報から簡便に情報をフィルタリングして提示用情報を生成し、生成された提示用情報を、いわゆる透過型の頭部装着型表示装置の使用者に虚像として視認させることが可能な情報処理システムを実現することができる。
(12)本発明の一形態によれば、上記形態の情報処理装置に接続され、使用者が虚像と外景を同時に視認可能な頭部装着型表示装置が提供される。この頭部装着型表示装置は;前記頭部装着型表示装置を装着した状態における前記使用者の視界方向の画像を取得する画像取得部と;取得された前記視界方向の画像を画像認識して、前記表示部が前記視界方向の画像に含まれない前記医療用装置を特定し、特定した前記医療用装置を前記視認が困難な医療用装置であると特定する特定部と;特定された前記医療用装置を前記情報処理装置へ通知する通知部と;前記情報処理装置から前記提示用情報を取得する提示用情報取得部と;取得された前記提示用情報を前記虚像として前記使用者に視認させる画像表示部と、を備える。この形態の頭部装着型表示装置によれば、特定部を、頭部装着型表示装置に設けることができる。この結果、情報処理装置における処理負荷を低減させることができる。
上述した本発明の各形態の有する複数の構成要素は全てが必須のものではなく、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、適宜、前記複数の構成要素の一部の構成要素について、その変更、削除、新たな構成要素との差し替え、限定内容の一部削除を行うことが可能である。また、上述の課題の一部または全部を解決するため、あるいは、本明細書に記載された効果の一部または全部を達成するために、上述した本発明の一形態に含まれる技術的特徴の一部または全部を上述した本発明の他の形態に含まれる技術的特徴の一部または全部と組み合わせて、本発明の独立した一形態とすることも可能である。
例えば、本発明の一形態は、取得部と、生成部と、提供部と、の3つの要素のうちの一部または全部の要素を備えた装置として実現可能である。すなわち、この装置は、取得部を有していてもよく、有していなくてもよい。また、この装置は、生成部を有していてもよく、有していなくてもよい。また、この装置は、提供部を有していてもよく、有していなくてもよい。こうした装置は、例えば情報処理装置として実現できるが、情報処理装置以外の他の装置としても実現可能である。前述した情報処理装置の各形態の技術的特徴の一部または全部は、いずれもこの装置に適用することが可能である。
なお、本発明は、種々の態様で実現することが可能であり、例えば、情報処理装置、情報処理方法、情報処理システム、頭部装着型表示装置、頭部装着型表示装置の制御方法、頭部装着型表示システム、これらの方法、装置またはシステムの機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した記録媒体等の形態で実現することができる。
本発明の一実施形態における情報処理システムの概略構成を示す説明図である。 情報処理装置の構成を機能的に示すブロック図である。 共通映像仕様の一例を示す説明図である。 管理テーブルの一例を示す説明図である。 ヘッドマウントディスプレイの構成を機能的に示すブロック図である。 提示用情報生成処理の手順を示すフローチャートである。 医療用装置とヘッドマウントディスプレイの配置の一例を示す説明図である。 ヘッドマウントディスプレイの使用者による表示部の視認が困難な医療用装置の特定方法について説明するための説明図である。 提示用情報の生成方法について説明するための説明図である。 提示用情報の生成方法について説明するための説明図である。 提示用情報がヘッドマウントディスプレイにおいて虚像として表示されている様子を示す説明図である。 異なる位置にある複数のヘッドマウントディスプレイにおいて提示用情報が虚像として表示されている様子を示す説明図である。 提示用情報の第1の例を示す説明図である。 提示用情報の第2の例を示す説明図である。 提示用情報の第3の例を示す説明図である。 第2実施形態における情報処理装置の構成を機能的に示すブロック図である。 位置テーブルの一例を示す説明図である。 第2実施形態における提示用情報生成処理の手順を示すフローチャートである。 変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。
A.第1実施形態:
A−1.情報処理システムの構成:
図1は、本発明の一実施形態における情報処理システム1000の概略構成を示す説明図である。情報処理システム1000は、複数の医療用装置501〜50nと、情報処理装置300と、画像表示装置100と、を備えている。情報処理システム1000は、医療の現場において使用されるシステムであり、情報処理装置300は、複数の医療用装置501〜50nから情報を取得して一元化し、画像表示装置100へ表示させるための提示用情報を生成する。医療用装置501〜50nと、画像表示装置100とは、有線接続または無線接続によって、情報処理装置300と接続されている。なお、以降では「任意の複数」を表す文字として「n」を用いる。nは1以上の整数である。
本実施形態では、医療の現場として、手術室における手術現場を例示するが、情報処理システム1000は、診察室、処置室、治療室、分娩室等で使用されてもよい。また、本実施形態では、画像表示装置100として、頭部装着型表示装置を例示するが、画像表示装置100は、固定型のディスプレイ、携帯可能なディスプレイ、スマートフォン等でもよい。以降、頭部装着型表示装置100を「ヘッドマウントディスプレイ100(Head Mounted Display、HMD)」とも呼ぶ。また、図1では、1台のヘッドマウントディスプレイ100を図示しているが、後述する図2のように、複数台のヘッドマウントディスプレイ100a〜100nが情報処理装置300に接続されていてもよい。
なお、以降の説明において、ヘッドマウントディスプレイ100a〜100nを特に区別せず説明する場合は、単に「ヘッドマウントディスプレイ100」と呼ぶ。同様に、医療用装置501〜50nを特に区別せず説明する場合は、単に「医療用装置500」と呼ぶ。
医療用装置501〜50nは、医療用途で使用される種々の装置である。医療用装置501〜50nの例としては、例えば、室内外の静止画および動画を撮影するための可視光カメラ、術部の静止画および動画を撮影するための可視光カメラ、心電図検査装置、手術用タイマー、生体モニター、心拍数計、脈拍計、血圧計、超音波検査装置、パルスオキシメーター、血糖値計、CT(Computed Tomography、コンピューター断層撮影)画像撮影装置、MRI(Magnetic Resonance Imaging、核磁気共鳴画像法)画像撮影装置、レントゲン(X線)画像撮影装置、透視画像撮影装置、内視鏡画像、サーモグラフィー画像撮影装置等を使用することができる。
A−2.情報処理装置の構成:
図2は、情報処理装置300の構成を機能的に示すブロック図である。情報処理装置300は、第1の入出力部310と、ROM320と、RAM330と、通信インターフェイス340と、CPU350と、外部記憶装置380とを備え、各部はバスにより相互に接続されている。
取得部としての第1の入出力部310は、複数の第1の入出力部311〜31nを備えている。第1の入出力部311〜31nは、例えば、USB(Universal Serial Bus)、HDMI(High Definition Multimedia Interface(登録商標))、DVI(Digital Visual Interface)、VGA(Video Graphics Array)、コンポジット、RS−232C(Recommended Standard 232)、赤外線、近距離無線通信(例えばBluetooth(登録商標))、無線LAN(例えばIEEE802.11)、有線LAN(例えばIEEE802.3)などの通信規格に準拠した入出力インターフェイスである。第1の入出力部311〜31nは、接続されている医療用装置501〜50nから入力される情報をそれぞれ取得する。医療用装置から入力される情報とは、医療用装置により測定または撮像等された情報である。以降では「医療用装置情報」とも呼ぶ。
本実施形態では、第1の入出力部311はDVIに準拠し、第1の入出力部312はHDMIに準拠し、第1の入出力部313はHDMIに準拠し、第1の入出力部31nは無線LANに準拠した入出力インターフェイスである。図2において、第1の入出力部311には、医療用装置501と固定式のディスプレイ700とが接続されている。同様に、第1の入出力部312には医療用装置502が、第1の入出力部313には医療用装置503が、第1の入出力部31nには医療用装置50nが、それぞれ接続されている。このように、第1の入出力部310は、異なる種類の通信規格に準拠した第1の入出力部311〜31nにより構成されている。このため、第1の入出力部310には、様々な通信規格に準拠した医療用装置を接続することが可能となり、情報処理装置300の汎用性を向上させることができる。なお、第1の入出力部310は、入力された信号を、例えばディスプレイ700等の表示装置に対してそのまま出力することもできる。
通信インターフェイス(I/F)340は、有線LANのインターフェイスである。通信インターフェイス340は、インターネットINTの回線を通じて、外部の施設の医師PRと情報処理装置300とを通信可能に接続するほか、イントラネットを通じて院内LANに接続されているデータベースODと情報処理装置300とを通信可能に接続する。医師PRは、例えば、情報処理装置300に接続されているヘッドマウントディスプレイ100の使用者の指導に当たる医師や、外部の専門医等が想定される。データベースODには、手術等の処置の手順を表す手順情報、電子カルテシステム、電子化された学術書等が記憶されている。
CPU350は、ROM320に格納されているコンピュータープログラムをRAM330に展開して実行することにより、情報処理装置300を制御する。また、CPU350は、生成部360、第2の入出力部370の機能を実現する。生成部360は、後述の提示用情報生成処理を実行することで、ヘッドマウントディスプレイ100へ表示させるための提示用情報を生成する。本実施形態の生成部360は、ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500の医療用装置情報を含んだ提示用情報を生成する。生成部360は、特定部361を含んでいる。特定部361は、ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500を特定する。ここで、「使用者による表示部の視認が困難な医療用装置500」とは、例えば、以下のような医療用装置500の総称である。
・医療用装置500が使用者の死角にあるために、使用者から表示部(ディスプレイ等)が視認できない、または視認しづらい医療用装置500。
・医療用装置500が使用者から離れた場所にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500。
・医療用装置500は使用者の死角でなく、かつ、使用者から近い場所にあるものの、使用者の視線と表示部とが対向していないために、使用者から表示部が視認できない、または視認しづらい医療用装置500。
提供部としての第2の入出力部370は、複数の第2の入出力部371〜37nを備えている。第2の入出力部371〜37nは、第1の入出力部310と同様に、様々な通信規格に準拠した入出力インターフェイスである。詳細は第1の入出力部310と同様であるため説明を省略する。
本実施形態では、第2の入出力部371と第2の入出力部372とは無線LANに準拠し、第2の入出力部373はUSBに準拠し、第2の入出力部37nはDVIに準拠した入出力インターフェイスである。図2において、第2の入出力部371には、画像表示装置としてのヘッドマウントディスプレイ100aが接続されている。同様に、第2の入出力部372にはヘッドマウントディスプレイ100bが、第2の入出力部373にはヘッドマウントディスプレイ100cが、第2の入出力部37nにはヘッドマウントディスプレイ100nが、それぞれ接続されている。このように、第2の入出力部370は、異なる種類の通信規格に準拠した第2の入出力部371〜37nにより構成されている。このため、第2の入出力部370には、様々な通信規格に準拠したヘッドマウントディスプレイを接続することが可能となり、情報処理装置300の汎用性を向上させることができる。
外部記憶装置380は、図示しないROM、RAM、DRAM、ハードディスク、フラッシュメモリー等によって構成されている。外部記憶装置380は、共通映像仕様381と、管理テーブル382と、不可視情報記憶部としての不可視情報383と、手術の記録384とを含む。
図3は、共通映像仕様381の一例を示す説明図である。共通映像仕様381は、提示用情報の映像信号についての、標準的な仕様を規定するためのテーブルである。共通映像仕様381は、提示用情報生成処理において、生成部360が提示用情報を生成する際に使用される。
本実施形態の共通映像仕様381には、映像信号の仕様として、映像信号に含まれる画像の画素数と、縦横比と、解像度と、圧縮方法と、符号化方法とが含まれている。共通映像仕様381は、予め定められて外部記憶装置380内に記憶されている。共通映像仕様381を定める際は、第2の入出力部370に接続されているヘッドマウントディスプレイ100a〜100nにおいて採用されている映像信号の仕様を考慮することが好ましい。
図4は、管理テーブル382の一例を示す説明図である。管理テーブル382は、第2の入出力部370に接続されているヘッドマウントディスプレイ100の情報を管理するため、より具体的には、第2の入出力部371〜37nにそれぞれ接続されているヘッドマウントディスプレイ100a〜100nの情報を管理するためのテーブルである。管理テーブル382は、提示用情報生成処理において生成部360が提示用情報を生成する際に使用されるほか、第2の入出力部371〜37nがヘッドマウントディスプレイ100a〜100nに対して提示用情報を送信する際にも使用される。
本実施形態の管理テーブル382は、識別子と、役割と、映像仕様とが関連付けられて記憶されている。「識別子」には、第2の入出力部370に接続されているヘッドマウントディスプレイ100を相互に識別するための一意な識別子が格納されている。「役割」には、識別子によって識別されるヘッドマウントディスプレイ100の使用者が、医療の現場においてどのような役割を担っているかを表す文字列が格納されている。「映像仕様」には、識別子によって識別されるヘッドマウントディスプレイ100における映像信号の仕様(映像信号に含まれる画像の画素数、縦横比、解像度、圧縮方法、符号化方法等)のパターンを表す文字列が格納されている。
図4の例では、識別子「1」により識別されるヘッドマウントディスプレイ100の使用者は「執刀医」であり、当該ヘッドマウントディスプレイ100の映像仕様は「仕様A」であることがわかる(エントリE01)。同様に、識別子「n」により識別されるヘッドマウントディスプレイ100の使用者は「看護師」であり、当該ヘッドマウントディスプレイ100の映像仕様は「仕様E」であることがわかる(エントリE0n)。
管理テーブル382は、予め定められて外部記憶装置380に記憶されていてもよいし、情報処理装置300に対してヘッドマウントディスプレイ100が接続された際に、初期処理として自動的に生成されもよい。具体的には、例えば、生成部360は、第2の入出力部370に対するヘッドマウントディスプレイ100の接続を検出した際に、当該ヘッドマウントディスプレイ100に対して一意な識別子を付与すると共に、ヘッドマウントディスプレイ100から、使用者の役割と、映像仕様とを取得する。生成部360は、付与した識別子と、取得した役割と、映像仕様とを管理テーブル382に格納する。第2の入出力部370に対してヘッドマウントディスプレイ100a〜100nが接続される度に、上記のような初期処理を行うことによって、生成部360は管理テーブル382を自動的に生成することができる。
図2の不可視情報383(不可視情報記憶部)には、物体の外観に現れない情報である不可視情報が記憶されている。不可視情報は、物体の構造を表した画像や文字情報であり、物体が生体である場合、例えば、CT画像、MRI画像、レントゲン(X線)画像、透視画像、超音波診断画像、内視鏡画像、サーモグラフィー画像、および、これらに付随する文字情報である。不可視情報は、予め撮影されて、不可視情報383に記憶されている。
図2の手術の記録384は、情報処理装置300が取得した医療用装置情報と、情報処理装置300が生成した提示用情報と、取得または生成の日時と、を対応付けて記録するための記録部である。情報処理装置300が取得した医療用装置情報とは、情報処理装置300が、第1の入出力部311〜31nにそれぞれ接続されている複数の医療用装置501〜50nから取得した医療用装置情報を意味する。また、情報処理装置300が生成した提示用情報とは、提示用情報生成処理において、生成部360が生成したすべての提示用情報を意味する。情報処理装置300が取得、生成した情報の記録は、手術(診察、処置、治療)のログとほぼ同視することができる。従って、このようにすれば、手術等が終了した後において、手術のログを、手術内容の分析、研修、学術等に利用することができる。
A−3.頭部装着型表示装置の構成:
図5は、ヘッドマウントディスプレイ100aの構成を機能的に示すブロック図である。以降では、ヘッドマウントディスプレイ100の構成の一例としてヘッドマウントディスプレイ100aを例示して説明する。ヘッドマウントディスプレイ100aは、使用者が、虚像を視認すると同時に外景も直接視認可能な光学透過型の頭部装着型表示装置であって、情報処理装置300から取得した提示用情報を虚像として表示する。ヘッドマウントディスプレイ100aは、使用者の頭部に装着された状態において使用者に虚像を視認させる画像表示部20と、画像表示部20を制御する制御部10とを備えている。画像表示部20と制御部10とは、ケーブル40を介して各種信号の伝送を行う。
A−3−1.制御部の構成:
制御部10は、例えばタッチパッド、十字キー、フットスイッチ、ジェスチャー、マイクロホン等の入力デバイスに対する操作入力を取得する入力情報取得部110と、ROMやハードディスク等により構成される記憶部120と、ヘッドマウントディスプレイ100aの各部に電力を供給する電源130と、無線LANやBluetooth等の所定の無線通信規格に則って他の機器との間で無線通信を行う無線通信部132と、現在位置取得部134と、CPU140と、情報処理装置300や種々の外部機器OAを接続するためのインターフェイス180と、送信部(Tx)51、52とを備え、各部は図示しないバスにより相互に接続されている。現在位置取得部134は、GPS衛星からの信号を受信することにより、ヘッドマウントディスプレイ100aの使用者の現在位置を検出し、使用者の現在位置を表す現在位置情報を生成する。なお、現在位置取得部134は、複数の基地局の電波を受信し、受信した電波の強弱を判定することによって現在位置情報を生成してもよい。現在位置情報は、例えば緯度経度を表す座標によって実現することができる。インターフェイス180は、情報処理装置300の第1の入出力部310と同様に、様々な通信規格に準拠することができる。
CPU140は、記憶部120に格納されているコンピュータープログラムを読み出して実行することにより、オペレーティングシステム(ОS)150、画像処理部160、音声信号を右イヤホン32のスピーカーと左イヤホン34のスピーカーとに対して供給する音声処理部170、表示制御部190として機能する。画像処理部160は、提示用情報取得部としてのインターフェイス180や無線通信部132を介して入力される提示用情報の映像信号に基づいて信号を生成する。そして、画像処理部160は、生成した信号を、送信部51、52と、ケーブル40とを介して画像表示部20に供給することで、画像表示部20における表示を制御する。画像表示部20に供給するための信号は、周知のアナログ形式やディジタル形式を用いることができる。表示制御部190は、画像表示部20の右表示駆動部22および左表示駆動部24を制御する制御信号を生成し、送信部51、52を介して送信する。制御信号とは、右LCD制御部211による右LCD241の駆動ON/OFF、右バックライト制御部201による右バックライト221の駆動ON/OFF、左LCD制御部212による左LCD242の駆動ON/OFF、左バックライト制御部202による左バックライト222の駆動ON/OFFを個別に切り替えるための信号である。
A−3−2.画像表示部の構成:
画像表示部20は、使用者の頭部に装着される装着体であり、本実施形態では眼鏡形状を有している。画像表示部20は、画像を表す画像光を生成し射出する右表示駆動部22および左表示駆動部24と、画像光を使用者の両眼へ導く右光学像表示部26および左光学像表示部28(図2)と、画像取得部としてのカメラ61と、9軸センサー66とを含む。
右表示駆動部22は、受信部(Rx)53と、光源として機能する右バックライト(BL)制御部201および右バックライト(BL)221と、表示素子として機能する右LCD(Liquid Crystal Display)制御部211および右LCD241と、右投写光学系251とを含む。右バックライト制御部201は、受信部53を介して入力された制御信号に基づいて、右バックライト221を駆動する。右バックライト221は、例えば、LEDやエレクトロルミネセンス(EL)等の発光体である。右LCD制御部211は、入力された映像信号に基づいて右LCD241を駆動する。右LCD241は、複数の画素をマトリクス状に配置した透過型液晶パネルである。右LCD241は、マトリクス状に配置された各画素位置の液晶を駆動することで、右LCD241を透過する光の透過率を変化させ、右バックライト221から照射される照明光を、画像を表す有効な画像光へと変調する。右投写光学系251は、右LCD241から射出された画像光を並行状態の光束にするコリメートレンズによって構成される。左表示駆動部24は、右表示駆動部22と同様の構成を有し、右表示駆動部22と同様に動作する。
右光学像表示部26と左光学像表示部28とは、使用者が画像表示部20を装着した際に使用者の左右の眼前に位置するように配置されている(図2)。右光学像表示部26は、光透過性の樹脂材料等によって形成された右導光板261を含む。右導光板261は、右表示駆動部22から出力された画像光を、所定の光路に沿って反射させつつ使用者の右眼REへ導く。右導光板261には、回折格子を用いても良いし半透過反射膜を用いても良い。左光学像表示部28は、右光学像表示部26と同様の構成を有し、右光学像表示部26と同様に動作する。このようにして、ヘッドマウントディスプレイ100aの使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は虚像を視認することができる。本実施形態のヘッドマウントディスプレイ100aの使用者は、視野のうち虚像が表示された部分については、虚像と、虚像の背後の外景とを同時に見ることができる。また、視野のうち虚像が表示されていない部分については、左右の光学像表示部26、28を透過して、外景を直接見ることができる。
9軸センサー66は、加速度(3軸)、角速度(3軸)、地磁気(3軸)を検出するモーションセンサーである。9軸センサー66は、画像表示部20が使用者の頭部に装着されているときには、ヘッドマウントディスプレイ100aの使用者の頭部の動きを検出する動き検出部として機能する。ここで、頭部の動きとは、頭部の速度・加速度・角速度・向き・向きの変化を含む。なお、頭部の向きを「方位情報」とも呼ぶ。視界画像取得部としてのカメラ61は、使用者が画像表示部20を装着した際の使用者の眉間に対応する位置に配置されている。カメラ61は、画像表示部20の表側方向、換言すれば、ヘッドマウントディスプレイ100aを装着した状態における使用者の視界方向の外景(外部の景色)を撮像し、外景画像を取得する。カメラ61はいわゆる可視光カメラである。本実施形態におけるカメラ61は単眼カメラであるが、ステレオカメラを採用してもよい。
A−4.提示用情報生成処理:
図6は、提示用情報生成処理の手順を示すフローチャートである。提示用情報生成処理は、ヘッドマウントディスプレイ100へ表示させるための提示用情報を生成する処理であり、情報処理装置300(図2)の生成部360が実行する。提示用情報生成処理は、ステップS100〜S118から構成される初期処理と、ステップS120〜S126から構成される個別処理とに大別できる。
A−4−1.初期処理:
初期処理では、生成部360は、ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500を自動で特定し、特定された医療用装置500から取得した医療用装置情報を含む提示用情報を生成する。
図7は、医療用装置500とヘッドマウントディスプレイ100の配置の一例を示す説明図である。提示用情報生成処理(図6)のステップS100において、生成部360の特定部361は、情報処理装置300に接続されている全ての医療用装置500の位置情報と、全てのヘッドマウントディスプレイ100の現在位置情報と、を取得し、ROM320(または外部記憶装置380)に記憶させる。具体的には、特定部361は、医療用装置501〜50nに対して位置情報を要求する。特定部361は、応答と共に受信した医療用装置501〜50nの位置MP1〜MPn(図7)を表す位置情報をROM320へ記憶させる。同様に、特定部361は、ヘッドマウントディスプレイ100a〜100nに対して現在位置情報を要求する。特定部361は、応答と共に受信したヘッドマウントディスプレイ100a〜100nの現在位置UP1〜UPn(図7)を表す現在位置情報をROM320へ記憶させる。
提示用情報生成処理(図6)のステップS102において、生成部360は、提示用情報生成処理において使用する変数iに「1」をセットする。その後、生成部360の特定部361は、管理テーブル382のi番目のエントリを参照する(ステップS104)。生成部360の特定部361は、管理テーブル382のi番目のエントリに格納されているヘッドマウントディスプレイ100の「識別子」を取得する(ステップS106)。
なお、以降では、ステップS106において取得した識別子を有するヘッドマウントディスプレイ100を「ヘッドマウントディスプレイ100i」とも呼ぶ。ヘッドマウントディスプレイ100iは、初期処理において、現在処理中であるヘッドマウントディスプレイ100を指している。例えば、変数i=1である場合、ヘッドマウントディスプレイ100iは、管理テーブル382の1番目のエントリE01に格納されている、識別子が1である執刀医のヘッドマウントディスプレイ100aを指す。
提示用情報生成処理(図6)のステップS108において、生成部360の特定部361は、ヘッドマウントディスプレイ100iに対して、現在位置情報と方位情報とを要求し、応答と共に受信したヘッドマウントディスプレイ100iの現在位置情報と、方位情報とを取得する。その後、生成部360の特定部361は、ステップS100で取得した全ての医療用装置500の位置情報と、全てのヘッドマウントディスプレイ100の現在位置情報とを用いて、ヘッドマウントディスプレイ100iの使用者による表示部の視認が困難な医療用装置500を特定する(ステップS110)。
図8は、ヘッドマウントディスプレイ100iの使用者による表示部の視認が困難な医療用装置500の特定方法について説明するための説明図である。図8は、正常な人間における一般的な視野を表している。正常な人間の視野は、片眼の場合は、頭頂側に約60度、足側に約70度、耳側に約90度、鼻側に約120度であることが知られている。また、鼻を中心として水平方向に各60度の視野は、左右の眼で同時に見ることができる。以降では、両眼同時に見ることのできる視野を「両眼視野」とも呼ぶ。同様に、左眼のみで見ることのできる視野を「左眼視野」と、右眼のみで見ることのできる視野を「右眼視野」とも呼ぶ。なお、図8では、角度でのみ視野を特定しているが、角度に加えて距離を考慮してもよい。
提示用情報生成処理(図6)のステップS110において、生成部360の特定部361は、以下の手順a1〜a3に示す処理を行い、ヘッドマウントディスプレイ100iの使用者による表示部の視認が困難な医療用装置500を特定する。
(a1)特定部361は、ステップS108で取得したヘッドマウントディスプレイ100iの現在位置情報と方位情報とから、ヘッドマウントディスプレイ100iの現在位置と方位(向き)を決定する。
(a2)特定部361は、手順a1で決定した現在位置と方位を基準として、図8に示す両眼視野と、左眼視野と、右眼視野とのいずれの範囲にも入らない位置に存在する医療用装置500を「使用者による表示部の視認が困難な医療用装置500」とする。
(a3)特定部361は、ヘッドマウントディスプレイ100iの現在位置から医療用装置500の位置までの間の直線区間の近傍に、他のヘッドマウントディスプレイ100の現在位置が存在する場合、当該医療用装置500を「使用者による表示部の視認が困難な医療用装置500」とする。なお、手順a3は、手順a2の対象外となった医療用装置500に関してのみ実行する。
ステップS110の具体例を、図7を用いて説明する。ヘッドマウントディスプレイ100iがヘッドマウントディスプレイ100aである場合について説明する。特定部361は、ヘッドマウントディスプレイ100aの現在位置情報と方位情報に基づいて、現在位置UP1と方位UD1を決定する(手順a1)。特定部361は、現在位置UP1と方位UD1とを基準として、ヘッドマウントディスプレイ100aの使用者の両眼視野と、左眼視野と、右眼視野のいずれの範囲にも入らない位置MP3、MPnにある医療用装置503、50nを、ヘッドマウントディスプレイ100aの使用者による表示部の視認が困難な医療用装置500とする(手順a2)。特定部361は、ヘッドマウントディスプレイ100aの現在位置UP1から医療用装置501の位置MP1までの間の直線区間の近傍に、他のヘッドマウントディスプレイ100の現在位置が存在しないため、医療用装置501は、視認が困難な医療用装置500ではないと判定する。同様に、特定部361は、現在位置UP1から医療用装置502の位置MP2までの間、現在位置UP1から医療用装置504の位置MP4までの間、現在位置UP1から医療用装置505の位置MP5までの間、のそれぞれの直線区間の近傍に、他のヘッドマウントディスプレイ100の現在位置が存在しないため、医療用装置502、504、505は、視認が困難な医療用装置500ではないと判定する(手順a3)。これらの結果、ヘッドマウントディスプレイ100iがヘッドマウントディスプレイ100aである場合、特定部361は、医療用装置503、50nを、ヘッドマウントディスプレイ100aの使用者による表示部の視認が困難な医療用装置500であると特定する。
ヘッドマウントディスプレイ100iがヘッドマウントディスプレイ100nである場合について説明する。特定部361は、ヘッドマウントディスプレイ100nの現在位置情報と方位情報に基づいて、現在位置UPnと方位UDnを決定する(手順a1)。特定部361は、現在位置UPnと方位UDnとを基準として、ヘッドマウントディスプレイ100nの使用者の両眼視野と、左眼視野と、右眼視野のいずれの範囲にも入らない位置MPnにある医療用装置50nを、ヘッドマウントディスプレイ100nの使用者による表示部の視認が困難な医療用装置500とする(手順a2)。特定部361は、ヘッドマウントディスプレイ100nの現在位置UPnから医療用装置501の位置MP1までの間の直線区間の近傍に、他のヘッドマウントディスプレイ100bの現在位置UP2が存在するため、医療用装置501は表示部の視認が困難であると判定する。同様に、特定部361は、現在位置UPnから医療用装置502、504の位置MP2、MP4までの間の直線区間の近傍に、他のヘッドマウントディスプレイ100aの現在位置UP1が存在するため、医療用装置502、504は表示部の視認が困難であると判定する。同様に、特定部361は、現在位置UPnから医療用装置503、505の位置MP3、MP5までの間の直線区間の近傍に、他のヘッドマウントディスプレイ100の現在位置が存在しないため、医療用装置503、505は、表示部の視認が困難ではないと判定する(手順a3)。これらの結果、ヘッドマウントディスプレイ100iがヘッドマウントディスプレイ100nである場合、特定部361は、医療用装置501、502、504、50nを、ヘッドマウントディスプレイ100nの使用者による表示部の視認が困難な医療用装置500であると特定する。
このように、生成部360の特定部361は、手順a2によって、人間の一般的な視野を考慮して、ヘッドマウントディスプレイ100iの使用者による表示部の視認が困難な医療用装置500を特定することができる。さらに、生成部360の特定部361は、手順a3によって、視野の範囲内には存在するものの、他のヘッドマウントディスプレイ100の使用者の存在によって使用者による表示部の視認が困難な医療用装置500をも特定することができる。
このように、ステップS100〜S110によれば、特定部361は、ヘッドマウントディスプレイ100および医療用装置500の現在位置情報や方位情報に基づいて、表示部の視認が困難な医療用装置500を特定することができる。具体的には、特定部361は、医療用装置500が使用者の死角にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500を特定することができる。また、特定部361は、図8において角度に加えて距離を考慮することで、医療用装置500が使用者から離れた場所にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500をも特定することができる。また、特定にあたって必要な情報を、第1の入出力部310(取得部)および第2の入出力部370(提供部)を介して取得することができる。このため、情報処理装置300の利用に際して使用者が事前にデーター等を準備する必要がなく、簡便である。
生成部360の特定部361は、図6のステップS100〜S110で説明した処理に代えて、以下の手順z1〜z6を実行することによって、ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500を特定してもよい。この場合、情報処理装置300のROM320(または外部記憶装置380)には、情報処理装置300に接続されている全ての医療用装置500(医療用装置501〜50n)の表示部の画像が予め記憶されている。
(z1)生成部360は、提示用情報生成処理において使用する変数iに「1」をセットする。
(z2)特定部361は、管理テーブル382のi番目のエントリを参照する。
(z3)特定部361は、管理テーブル382のi番目のエントリに格納されているヘッドマウントディスプレイ100の「識別子」を取得する。
(z4)特定部361は、ヘッドマウントディスプレイ100iに対して、カメラ61を用いた外景画像の撮像を指示し、撮像された外景画像を取得する。
(z5)特定部361は、外景画像を画像認識することによって、ROM320に記憶されている医療用装置500(医療用装置501〜50n)の表示部の画像が、それぞれ、外景画像に含まれているか否かを判定する。
(z6)特定部361は、手順z5によって「外景画像に表示部の画像が含まれていない」と判定された医療用装置500を、ヘッドマウントディスプレイ100iの使用者による表示部の視認が困難な医療用装置500であると特定する。
このように、手順z1〜z6によれば、特定部361は、ヘッドマウントディスプレイ100iのカメラ61によって実際に取得された、使用者の視界方向の画像(外景画像)に基づいて、表示部の視認が困難な医療用装置500を特定することができる。具体的には、特定部361は、医療用装置500が使用者の死角にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500を特定することができる。また、特定部361は、手順z5における画像認識の精度を調整することで、医療用装置500が使用者から離れた場所にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500をも特定することができる。さらに、特定部361は、ヘッドマウントディスプレイ100iの使用者の実際の視界に基づいて、表示部の視認が困難な医療用装置500を特定することができる。より具体的には、特定部361は、医療用装置500は使用者の死角でなく、かつ、使用者から近い場所にあるものの、使用者の視線と表示部とが対向していない(例えば、使用者が俯いている場合や、医療用装置500の表示部が使用者の視線と同じ方向を向いている場合等)ために、使用者から表示部が視認できない、または視認しづらい医療用装置500を特定することができる。また、特定にあたって必要な情報を、第2の入出力部370(提供部)を介して取得することができる。このため、情報処理装置300の利用に際して使用者が事前にデーター等を準備する必要がなく、簡便である。
提示用情報生成処理(図6)のステップS112において、生成部360は、第1の入出力部311〜31nが取得した医療用装置501〜50nの医療用装置情報のうち、ステップS110でヘッドマウントディスプレイ100iの使用者による表示部の視認が困難であると特定された医療用装置500から取得した医療用装置情報を用いて、ヘッドマウントディスプレイ100iへ送信するための提示用情報PNiを生成する。
図9は、提示用情報の生成方法について説明するための説明図である。ヘッドマウントディスプレイ100iの使用者による表示部の視認が困難な医療用装置500が単数である場合、生成部360は、当該医療用装置500の医療用装置情報CP1に含まれる画像を、共通映像仕様381に規定されている映像信号の仕様に沿って変換することによって、提示用情報PNを生成する(図9(A))。生成部360は、この変換にあたって、特に、医療用装置情報CP1に含まれる画像の縦横比と、共通映像仕様381に規定されている画像の縦横比とが異なる場合、医療用装置情報CP1に含まれる画像の縦横比を維持したまま、画像を拡大または縮小する。すると、提示用情報PNの縦方向または横方向に画像のない余白部分(図において斜線で表す)が生じる。
生成部360は、余白部分に関して、以下のb1、b2のいずれかの手順を実行する。これにより、余白部分がヘッドマウントディスプレイ100において虚像として表示されて、使用者の視界を遮ることを抑制することができる。
(b1)生成部360は、提示用情報PNの余白部分に対して黒色のダミードットデーターを挿入する。
(b2)生成部360は、提示用情報PNの余白部分に対して、ヘッドマウントディスプレイ100の右表示駆動部22および左表示駆動部24における画像光生成の有効/無効を切り替えるための信号(Enable信号)をLo値(無効を示す値)とする。
このようにすれば、提示用情報PNに含まれる画像の縦横比が変わることがない。情報処理装置300が使用される医療の現場における画像(例えば、術部の静止画および動画、CT画像、MRI画像、レントゲン画像等)は、使用者が視認する画像の実寸感覚が損なわれないように、医療用装置500において撮影された画像の縦横比を厳密に維持することが好ましい。その点、医療用装置情報CP1に含まれる画像の縦横比を維持することとすれば、医療用装置500により測定または撮像等された医療用装置情報に予期しない歪みが生じることを抑制できる。なお、図9(B)は、医療用装置情報CP1に含まれる画像の縦横比を維持せず、共通映像仕様381に規定されている画像の縦横比に合わせて拡大した結果、情報に歪みが生じた提示用情報PNxを表している。
図10は、提示用情報の生成方法について説明するための説明図である。ヘッドマウントディスプレイ100iの使用者による表示部の視認が困難な医療用装置500が複数である場合、生成部360は、視認が困難であるとされた全ての医療用装置500の医療用装置情報(図10の例では、医療用装置情報CP2、CP3)に含まれる画像が配置された第1の画像を生成する。この際も、生成部360は、医療用装置情報に含まれる画像の縦横比を維持する。また、医療用装置情報に含まれる画像は、第1の画像の端部に配置されることが好ましい。生成部360は、生成した第1の画像を、共通映像仕様381に規定されている映像信号の仕様に沿って変換することによって、提示用情報PNを生成する(図10)。なお、生成部360は、第1の画像のうち、医療用装置情報に含まれる画像が配置されていない余白部分(図において斜線で表す)について、上述した方法b1またはb2のいずれかの手順を実行する。これにより、余白部分がヘッドマウントディスプレイ100において虚像として表示されて、使用者の視界を遮ることを抑制することができる。
提示用情報生成処理(図6)のステップS112において、生成部360は、生成した提示用情報PNiを手術の記録384に記憶させる。
ステップS114において、生成部360は、生成した提示用情報PNiを、ヘッドマウントディスプレイ100iが接続されている第2の入出力部370iへ送信する。第2の入出力部370iは、受信した提示用情報PNiに含まれる画像を、ヘッドマウントディスプレイ100iの映像信号の仕様に沿って変換する。なお、この際に、第2の入出力部370iは管理テーブル382の「映像仕様」を参照してもよい。映像仕様の変換後、第2の入出力部370iは、ヘッドマウントディスプレイ100iに対して提示用情報PNiを送信する。
図11は、提示用情報PNiがヘッドマウントディスプレイ100iにおいて虚像として表示されている様子を示す説明図である。インターフェイス180または無線通信部132から提示用情報PNiを受信したヘッドマウントディスプレイ100iでは、画像処理部160による上述の表示処理が行われる。この結果、ヘッドマウントディスプレイ100iの使用者の両眼に導かれた画像光が使用者の網膜に結像することにより、使用者は、視野VRに提示用情報PNiの虚像VIを視認することができる。また、使用者は、右光学像表示部26および左光学像表示部28を透過して、手術台に横たわる患者の様子を直接視認することができる(外景SC)。図11の例では、ヘッドマウントディスプレイ100iの使用者が視認する虚像VI(i)には、ヘッドマウントディスプレイ100iの使用者による視認が困難であるとされた医療用装置503から取得された医療用装置情報CP2と、医療用装置50nから取得された医療用装置情報CP3と、が表示されている。
図12は、異なる位置にある複数のヘッドマウントディスプレイ100において、提示用情報が虚像として表示されている様子を示す説明図である。情報処理装置300の第2の入出力部370は、図12に示すように、提示用情報に含まれる画像の向きや大きさを、外景SCに含まれる対象物体の向きや大きさと一致させるフィッティング処理を行ってもよい。対象物体とは、医療の現場においては、例えば患者の体や体の一部である。フィッティング処理を実現するために、提示用情報生成処理(図6)のステップS114において、第2の入出力部370iは、提示用情報PNiに含まれる画像をヘッドマウントディスプレイ100iの映像信号の仕様に沿って変換した後、以下の手順c1〜c5に示す処理を行う。
(c1)第2の入出力部370iは、ヘッドマウントディスプレイ100iに対して、カメラ61を用いた外景画像の撮像を指示し、撮像された外景画像を取得する。
(c2)第2の入出力部370iは、下記1、2のような画像認識の方法を用いて、外景画像に含まれる対象物体の特徴を抽出する。なお、方法1と2とは、組み合わせてもよい。
1.対象物体のエッジ(特徴)を検出する。
2.対象物体に予め付されたマーカー(特徴)を検出する。なお、物体に付すマーカーは種々の種類のマーカーを使用可能である。例えば、テープ、シール、マジック、レーザーマーカー、マジックテープ(登録商標)等を使用することができる。また、対象物体に付すマーカーの数は任意である。
(c3)第2の入出力部370iは、受信した提示用情報に含まれる画像を画像認識することで、対象物体の特徴を抽出する。この際、第2の入出力部370iは、上記1、2と同様の画像認識の方法を使用することができる。
(c4)第2の入出力部370iは、手順c2で抽出された外景画像の特徴と、手順c3で抽出された提示用情報の特徴と、の位置が一致するように、提示用情報に含まれる画像CPを補正する。具体的には、手順c2、c3において方法1を用いた場合、第2の入出力部370iは、外景画像のエッジと、提示用情報のエッジとの、輪郭や特徴的な部位の位置が一致するように、提示用情報に含まれる画像CPに対して、拡大、縮小、回転、反転、トリミング、歪みの付与、ノイズの除去の少なくともいずれかの加工を行う。ここで、特徴的な部位とは、対象物体が生体である場合、切開された皮膚の輪郭、内蔵の輪郭、関節、四肢の先端、血管、骨等である。一方、手順c2、c3において方法2を用いた場合、第2の入出力部370iは、外景画像のマーカーと、提示用情報のマーカーと、の位置が一致するように、提示用情報に含まれる画像CPに対して、拡大、縮小、回転、反転、トリミング、歪みの付与、ノイズの除去の少なくともいずれかの加工を行う。
このようにすれば、第2の入出力部370は、ヘッドマウントディスプレイ100(頭部装着型表示装置)の使用者の視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し、抽出した特徴に基づいて、生成部360により生成された提示用情報を補正する。このため、提示用情報に、例えばCT画像、MRI画像、レントゲン画像等の不可視情報が含まれる場合において、外景に含まれる物体(例えば、患者の体等)に不可視情報を一致させることができる。この結果、ヘッドマウントディスプレイ100iの使用者の利便性を向上させることができる。また、上記のフィッティング処理は、特定のヘッドマウントディスプレイ100iに接続されている第2の入出力部370iにおいて実行されるため、他のヘッドマウントディスプレイ100に接続されている第2の入出力部370に対して処理負荷をかけることがない。さらに、ヘッドマウントディスプレイ100iは、フィッティング処理が施された後の提示用情報を受信することができるため、ヘッドマウントディスプレイ100iの画像処理部160は、受信した提示用情報をそのまま表示すればよい。この結果、ヘッドマウントディスプレイ100の構成をシンプルにすることができる。
提示用情報生成処理(図6)のステップS116において、生成部360は、変数iをインクリメントする。その後、生成部360は、変数iがn以上でないかを判定する(ステップS118)。変数iがn未満である(ステップS118:NO)ということは、すなわち、第2の入出力部370に接続されているヘッドマウントディスプレイ100のうち、初期処理が終了していないヘッドマウントディスプレイ100が存在することを意味する。このため、生成部360は、処理をステップS100へ遷移させ、初期処理を継続する。一方、変数iがn以上である(ステップS118:YES)ということは、全てのヘッドマウントディスプレイ100についての初期処理が終了したことを意味する。このため、生成部360は、処理をステップS120の個別処理へ遷移させる。
A−4−2.個別処理:
個別処理では、生成部360は、ヘッドマウントディスプレイ100からの要求に基づいて、要求された医療用装置500から取得した医療用装置情報や、要求された医療用装置500以外の情報源から取得した情報を含む提示用情報を生成する。
提示用情報生成処理(図6)のステップS120において、生成部360は、ヘッドマウントディスプレイ100から情報源の選択要求を受信したか否かを判定する。ここで、情報源の選択要求とは、例えば以下d1〜d6に列挙するような要求を意味する。
(d1)医療用装置500によって取得された医療用装置情報の閲覧要求
(d2)外部の施設の医師PRとの通話要求
(d3)院内データベースODに記録されているデーターの閲覧要求
(d4)不可視情報383に記録されているデーターの閲覧要求
(d5)手術の記録384に記録されているデーターの閲覧要求
(d6)ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500の医療用装置情報の閲覧要求
要求d1の場合の情報源は医療用装置500である。同様に、要求d2の場合の情報源は医師PRであり、要求d3の場合の情報源はデータベースODであり、要求d4の場合の情報源は不可視情報383であり、要求d5の場合の情報源は手術の記録384であり、要求d6の場合の情報源は視認が困難であるとされた医療用装置500である。要求d1〜d6は、単独で発行されてもよいし、組み合わせられてもよい。情報源の選択要求は、ヘッドマウントディスプレイ100の使用者の操作に応じて適宜発行される。
ヘッドマウントディスプレイ100は、例えば、以下の手順e1〜e5によって、情報処理装置300に対して情報源の選択要求を送信することができる。
(e1)ヘッドマウントディスプレイ100の使用者は、ヘッドマウントディスプレイ100の入力デバイス(タッチパッド、十字キー、フットスイッチ、ジェスチャー、マイクロホン等)を介して、希望する情報源と、情報源内の情報を特定するための情報と、を入力する。入力方法として、マイクロホンを介した音声入力を採用すれば、使用者が手を用いて操作することが困難な医療の現場においてヘッドマウントディスプレイ100が使用される場合の、使用者の利便性を大きく向上させることができる。なお、要求d1、d6の場合、「情報源内の情報を特定するための情報」は入力不要である。
(e2)ヘッドマウントディスプレイ100の入力情報取得部110は、使用者の操作入力に応じた信号を取得し、OS150へ送信する。
(e3)ヘッドマウントディスプレイ100のOS150は、情報源の選択要求を生成する。具体的には、要求d1の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、手順e1で指定された情報源を特定するための識別子と、を含んだ情報源の選択要求を生成する。要求d2〜d5の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、手順e1で指定された情報源を特定するための識別子と、情報源内の情報を特定するための情報と、を含んだ情報源の選択要求を生成する。要求d6の場合、OS150は、ヘッドマウントディスプレイ100の識別子と、ヘッドマウントディスプレイ100の現在位置情報と、方位情報と、を含んだ情報源の選択要求を生成する。なお、この現在位置情報および方位情報は、生成部360によって、要求d6の「使用者による表示部の視認が困難な医療用装置500」を特定するために用いられる情報であり、情報源を特定するための情報に相当する。
(e4)ヘッドマウントディスプレイ100のOS150は、インターフェイス180や無線通信部132を介して接続されている情報処理装置300に対して、手順e3で生成した情報源の選択要求を送信する。
(e5)情報処理装置300の第2の入出力部370は、生成部360に対して、受信した情報源の選択要求を送信する。
提示用情報生成処理(図6)において、情報源の選択要求を受信した場合(ステップS120:あり)、ステップS122において、生成部360は、情報源の選択要求に含まれるヘッドマウントディスプレイ100iの識別子と、情報源を特定するための情報と、情報源内の情報を特定するための情報と、を取得する。さらに、生成部360は、情報源を特定するための情報として、現在位置情報および方位情報が挿入されている場合は、図6のステップS110と同様の処理を実行し、実行結果として得られた「使用者による表示部の視認が困難な医療用装置500」を特定する。ここで、ヘッドマウントディスプレイ100iとは、情報源の選択要求の発行元であるヘッドマウントディスプレイ100(すなわち、現在処理中であるヘッドマウントディスプレイ100)を指す。
ステップS124において、生成部360は、指定された情報源にアクセスして、指定された情報を取得する。そして、生成部360は、取得した情報を用いて、ヘッドマウントディスプレイ100i用の提示用情報PNiを生成し、生成した提示用情報PNiを手術の記録384に記憶させる。なお、生成部360が提示用情報を生成する方法は、図9および図10で説明した通りである。
図13は、提示用情報の第1の例を示す説明図である。図13(A)は、情報源の選択要求において、不可視情報383に記憶されている患者のレントゲン画像(CP4)が指定された場合に、生成部360によって生成される提示用情報PNの一例である。なお、情報源の選択要求において、不可視情報を取得することが可能な医療用装置500(レントゲン画像撮影装置)が指定された場合にも、図13(A)と同様の提示用情報が生成される。
図13(B)は、情報源の選択要求において、医療用装置500としての手術用タイマーと、医療用装置500としての脈拍計と、医療用装置500としての生体モニターと、が指定された場合に、生成部360によって生成される提示用情報PNの一例である。提示用情報PNの各端部には、手術用タイマーから取得された現在時刻CP5および手術開始からの経過時間CP7と、脈拍計から取得された脈拍の画像CP6と、生体モニターから取得された心拍数(HR)と、血圧(SYS/DIA)と、動脈血酸素飽和度(SpO2)との画像CP8が配置されている。なお、ヘッドマウントディスプレイ100は、図13(B)のように、複数の情報源を指定する場合、情報源の選択要求において、各情報源における情報の「配置」や「大きさ」を指定してもよい。
図14は、提示用情報の第2の例を示す説明図である。図14(A)は、情報源の選択要求において、院内データベースODに記憶されている学術書(CP9)と、院内データベースODに記憶されている手術の手順情報(CP10)と、が指定された場合に、生成部360によって生成される提示用情報PNの一例である。図14(B)は、情報源の選択要求において、医療用装置500としての術部の静止画および動画を撮影するための可視光カメラと、外部の施設の医師PRとの通話と、が指定された場合に、生成部360によって生成される提示用情報PNの一例である。
図15は、提示用情報の第3の例を示す説明図である。図15は、情報源の選択要求において、医療用装置500としての生体モニターが指定された場合に、生成部360によって生成される提示用情報PNの一例である。図15に示す生体モニターは、第1の入出力部310に接続できるインターフェイスを備えていない。しかし、情報処理装置300が可視光カメラを備える構成とした上で、可視光カメラが生体モニターの画面(CP13)を撮影することとすれば、生成部360は、第1の入出力部310に接続できるインターフェイスを持たない医療用装置からの医療用装置情報を用いて、図15のように、提示用情報PNを生成することができる。
提示用情報生成処理(図6)のステップS126において、生成部360は、ステップS124で生成した提示用情報PNiを、ヘッドマウントディスプレイ100iが接続されている第2の入出力部370iへ送信した後、処理をステップS120へ遷移させ、情報源の選択要求の受信の監視を継続する。提示用情報PNiを受信した第2の入出力部370iは、受信した提示用情報PNiに含まれる画像を、ヘッドマウントディスプレイ100iの映像信号の仕様に沿って変換する。また、この際、第2の入出力部370iは、フィッティング処理を実行してもよい。詳細は、ステップS114で説明した通りである。
インターフェイス180または無線通信部132を介して提示用情報PNiを受信したヘッドマウントディスプレイ100iでは、画像処理部160による上述の表示処理が行われる。この結果、情報源の選択要求を送信したヘッドマウントディスプレイ100iの使用者は、情報源の選択要求において指定した情報源から取得された情報が含まれた提示用情報PNiの虚像を視認することができる。
以上のように、第1実施形態の情報処理装置300によれば、生成部360は、第1の入出力部310(取得部、第1の入出力部311〜31n)により取得された複数の医療用装置情報の少なくとも一部を含む提示用情報PNを生成するため、情報処理装置300の第1の入出力部310に接続されている多種多様な医療用装置500(医療用装置501〜50n)の情報(医療用装置情報)を一元化することができる。また、生成部360は、提示用情報生成処理の初期処理において、少なくともヘッドマウントディスプレイ100(画像表示装置)の使用者による表示部の視認が困難な医療用装置500により取得された医療用装置情報を含む提示用情報PNを生成するため、一元化されている医療用装置情報から、表示部の視認が困難な医療用装置500の医療用装置情報という条件で情報を抽出して、抽出した情報を提示用情報PNに含めることができる。この結果、多種多様な医療用装置500(医療用装置501〜50n)の情報を一元化すると共に、一元化されている情報から簡便に情報をフィルタリングして、ヘッドマウントディスプレイ100に表示させるための情報を生成することが可能な情報処理装置300を実現することができる。
さらに、第1実施形態の情報処理装置300は、不可視情報383(不可視情報記憶部)を備えることによって、情報処理装置300の第1の入出力部310(第1の入出力部311〜31n)に接続されている多種多様な医療用装置500(医療用装置501〜50n)の医療用装置情報に加えて、さらに、不可視情報383に記憶されている不可視情報をも一元化することができる。また、生成部360は、一元化されている情報から、例えば、図13のように、CT画像、MRI画像、レントゲン(X線)画像、透視画像、超音波診断画像、内視鏡画像、サーモグラフィー画像等、物体の外観に現れない情報である不可視情報を抽出して、ヘッドマウントディスプレイ100(画像表示装置)に表示させるための提示用情報PNを生成することもできる。この結果、情報処理装置300に接続されるヘッドマウントディスプレイ100の使用者は、これらの不可視情報を視認することが可能となり、ヘッドマウントディスプレイ100の利便性の向上に繋がる。同様に、生成部360は、例えば、CT画像、MRI画像、レントゲン(X線)画像、透視画像、超音波診断画像、内視鏡画像、サーモグラフィー画像等、物体の外観に現れない情報である不可視情報を取得するための医療用装置500により取得された医療用装置情報を抽出して、ヘッドマウントディスプレイ100に表示させるための提示用情報PNを生成することもできる。この結果、情報処理装置300に接続されるヘッドマウントディスプレイ100の使用者は、これらの不可視情報を視認することが可能となり、ヘッドマウントディスプレイ100の利便性の向上に繋がる。
さらに、第1実施形態の情報処理装置300によれば、生成部360は、術部の静止画および動画、すなわち、患者の処置の画像を取得するための医療用装置500により取得された医療用装置情報を抽出して、ヘッドマウントディスプレイ100(画像表示装置)に表示させるための提示用情報PNを生成することもできる。この結果、情報処理装置300に接続されるヘッドマウントディスプレイ100の使用者は、患者の処置の画像を視認することが可能となり、ヘッドマウントディスプレイ100の利便性の向上に繋がる。
以上説明したように、第1実施形態の情報処理システム1000によれば、多種多様な医療用装置500(医療用装置501〜50n)の情報(医療用装置情報)を情報処理装置300に一元化すると共に、一元化されている情報から簡便に情報をフィルタリングして提示用情報PNを生成し、生成された提示用情報PNを、いわゆる透過型のヘッドマウントディスプレイ100(頭部装着型表示装置)の使用者に虚像として視認させることが可能な情報処理システム1000を実現することができる。
A−5.付加的処理:
なお、提示用情報生成処理(図6)では、さらに、以下のような付加的処理を実行してもよい。付加的処理は、単独で付加してもよいし、組み合わせて付加してもよい。
A−5−1.付加的処理1:
付加的処理1では、情報処理装置300は、提示用情報に対する色変換処理を行う。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、ヘッドマウントディスプレイ100のカメラ61に外景画像を取得させる。そして、第2の入出力部370は、取得された外景画像の明度、コントラスト、彩度、色相に応じて、提示用情報に含まれる画像の視認性を向上させるような色変換処理を実施する。例えば、第2の入出力部370は、提示用情報に含まれる画像の色相を、外景画像の色相の補色へと変換する色変換処理を行うことができる。
このように、付加的処理1によれば、ヘッドマウントディスプレイ100の使用者に対する虚像VIの視認性をより向上させることができる。
A−5−2.付加的処理2:
付加的処理2では、情報処理装置300は、ヘッドマウントディスプレイ100の使用者の頭の小さなブレに付随する虚像VIの揺れを抑制する、いわゆるスタビライザー機能を実現する。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、所定の時間ごとに、上記手順c1〜c4において説明したフィッティング処理と、提示用情報生成処理のステップS114、S126の提示用情報の送信と、を繰り返す。これにより、所定の時間ごとに、外景画像の撮影と、提示用情報に含まれる画像の補正および表示が繰り返されることとなるため、使用者の頭部の経時的な動きに追従した提示用情報を虚像VIとして表示させることができる。
しかし、ヘッドマウントディスプレイ100の使用者の頭の微小な動きやゆらぎに追従して提示用情報が度々変わることは、かえって使用者の眼精疲労を誘発するおそれや、使用者の集中力を妨げるおそれがある。そこで、第2の入出力部370は、さらに、上記手順c1と手順c2との間に、以下の手順f1、f2で示す処理を行ってもよい。
(f1)第2の入出力部370は、手順c1で撮影された外景画像と、前回実行されたフィッティング処理の手順c1で撮影された外景画像との間の、RGBヒストグラムの変化量を求める。
(f2)第2の入出力部370は、手順f1で求めた変化量が所定の閾値を超える場合、手順c2以降の処理を継続する。
このように、付加的処理2によれば、第2の入出力部370は、前回実行されたフィッティング処理における外景画像と、現在実行中のフィッティング処理における外景画像と間の変化量が小さい場合、すなわち、ヘッドマウントディスプレイ100の使用者の頭の動きが微小である場合は、提示用情報に含まれる画像の補正は行わない。この結果、ヘッドマウントディスプレイ100の使用者の頭の微小な動きやゆらぎに追従して提示用情報が度々変わることを抑制することができるため、使用者の眼精疲労や集中力低下を抑制することができる。なお、スタビライザー機能のON/OFFを使用者によって指定することが可能な構成にしてもよい。
A−5−3.付加的処理3:
付加的処理3では、情報処理装置300は、ヘッドマウントディスプレイ100の画像表示部20と、使用者の視界方向にある物体との間の距離に応じて、提示用情報に含まれる画像が虚像VIとして表示される大きさを変更する。具体的には、生成部360から提示用情報を受信した第2の入出力部370は、上記手順c1〜c4において説明したフィッティング処理に代えて、以下の手順g1〜g3に示す処理を行うことができる。なお、本処理を実施する場合、ヘッドマウントディスプレイ100には、さらに測距センサーを備える構成とする。測距センサーは、反射光によって使用者の視界方向にある物体と画像表示部20との間の距離を取得するためのセンサーであり、例えば、カメラ61の近傍に配置することができる。
(g1)第2の入出力部370は、ヘッドマウントディスプレイ100から、定期的に測距センサーの測定値を取得する。
(g2)第2の入出力部370は、取得した測距センサーの測定値に応じて拡大率(または縮小率)を決定する。
(g3)第2の入出力部370は、決定した拡大、縮小率を用いて、提示用情報に含まれる画像に対して、拡大、縮小、回転、反転、トリミング、歪みの付与、ノイズの除去の少なくともいずれかの加工を行う。
このように、付加的処理3によれば、第2の入出力部370は、ヘッドマウントディスプレイ100の使用者の視界方向にある物体と、画像表示部20との間の距離に応じて、提示用情報が虚像VIとして表示される大きさを変更することができる。このため、ヘッドマウントディスプレイ100における使用者の利便性を向上させることができる。
B.第2実施形態:
本発明の第2実施形態では、テーブルに基づいて、頭部装着型表示装置の使用者による表示部の視認が困難な医療用装置を自動で判定する構成について説明する。以下では、第1実施形態と異なる構成および動作を有する部分についてのみ説明する。なお、図中において第1実施形態と同様の構成部分については先に説明した第1実施形態と同様の符号を付し、その詳細な説明を省略する。
B−1.情報処理システムの構成:
第2実施形態における情報処理システム1000aの概略構成は、図1に示す第1実施形態とほぼ同様である。ただし、第2実施形態の情報処理システム1000aは、情報処理装置300に代えて情報処理装置300aを備える。
B−2.情報処理装置の構成:
図16は、第2実施形態における情報処理装置300aの構成を機能的に示すブロック図である。図2に示した第1実施形態との違いは、生成部360に代えて生成部360aを、特定部361に代えて特定部361をそれぞれ備える点と、外部記憶装置380に代えて外部記憶装置380aを備える点である。生成部360aと特定部361aとは、提示用情報生成処理における処理内容が第1実施形態とは異なる。詳細は後述する。外部記憶装置380aは、第1実施形態で説明した各構成に加えて、さらに配置記憶部としての位置テーブル385を備えている。
図17は、位置テーブル385の一例を示す説明図である。位置テーブル385は、ヘッドマウントディスプレイ100a〜100nの使用者による表示部の視認が困難な医療用装置500を特定するためのテーブルである。位置テーブル385は、提示用情報生成処理において使用される。
本実施形態の位置テーブル385は、識別子と、装置1と、装置2と、装置3と、装置4と、装置5とが関連付けられて記憶されている。「識別子」には、第2の入出力部370に接続されているヘッドマウントディスプレイ100を相互に識別するための一意な識別子が格納されている。「装置1」〜「装置5」には、識別子によって識別されるヘッドマウントディスプレイ100について、使用者による表示部の視認が困難な医療用装置500の識別子が格納されている。
図17の例では、識別子「1」により識別されるヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500は、医療用装置503と、医療用装置50nとであることがわかる(エントリE01)。同様に、識別子「2」により識別されるヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500は、医療用装置503と、医療用装置505と、医療用装置50nとであることがわかる(エントリE02)。
B−3.頭部装着型表示装置の構成:
第2実施形態におけるヘッドマウントディスプレイ100の概略構成は、図5に示す第1実施形態と同様である。
B−4.提示用情報生成処理:
図18は、第2実施形態における提示用情報生成処理の手順を示すフローチャートである。図6に示した第1実施形態との違いは、ステップS100を備えない点と、ステップS104〜S112に代えてステップS200〜S204を備える点であり、他のステップに関しては第1実施形態と同様である。
提示用情報生成処理(図18)のステップS200において、生成部360aの特定部361aは、位置テーブル385のi番目のエントリを参照する。生成部360aの特定部361aは、位置テーブル385のi番目のエントリに格納されているヘッドマウントディスプレイ100の「識別子」と、「装置1〜5」とを取得する(ステップS202)。
ステップS204において、生成部360aは、第1の入出力部311〜31nが取得した医療用装置501〜50nの医療用装置情報のうち、ステップS202で取得された識別子を持つ医療用装置500、すなわち、ヘッドマウントディスプレイ100iの使用者による表示部の視認が困難な医療用装置500から取得した医療用装置情報を用いて、ヘッドマウントディスプレイ100iへ送信するための提示用情報PNiを生成する。提示用情報の生成方法は、第1実施形態と同様であるため説明を省略する。
以上のように、第2実施形態の情報処理装置300aによれば、生成部360aの特定部361aは、ヘッドマウントディスプレイ100(画像表示装置)の使用者による表示部の視認が困難な医療用装置500を特定するための情報を記憶する位置テーブル385(配置記憶部)を用いて、自動的に、ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500を特定することができる。具体的には、特定部361aは、医療用装置500が使用者の死角にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500を特定することができる。また、特定部361aは、医療用装置500が使用者から離れた場所にあるために、使用者から表示部が視認できない、または視認しづらい医療用装置500をも特定することができる。さらに、特定部361aは、医療用装置500は使用者の死角でなく、かつ、使用者から近い場所にあるものの、使用者の視線と表示部とが対向していないために、使用者から表示部が視認できない、または視認しづらい医療用装置500を特定することができる。また、特定部361aは、決定にあたって必要な情報を、予め用意されている位置テーブル385から取得することができる。このため、情報処理装置300aの第1の入出力部310に接続されている医療用装置500や、情報処理装置300aの第2の入出力部370に接続されているヘッドマウントディスプレイ100が、位置情報の検出手段を持たない場合においても、特定部361aは、ヘッドマウントディスプレイ100の使用者による表示部の視認が困難な医療用装置500を特定することができる。
B−5.付加的処理:
なお、第2実施形態の提示用情報生成処理(図18)においても、「A−5−1.付加的処理1」〜「A−5−3.付加的処理3」において説明した、第1実施形態と同様の付加的処理を実行してもよい。
C.変形例:
上記実施形態において、ハードウェアによって実現されるとした構成の一部をソフトウェアに置き換えるようにしてもよく、逆に、ソフトウェアによって実現されるとした構成の一部をハードウェアに置き換えるようにしてもよい。その他、以下のような変形も可能である。
・変形例1:
上記実施形態では、情報処理システムの構成について例示した。しかし、情報処理システムの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、情報処理システムを構成する各装置の追加・削除・変換等を行うことができる。また、情報処理システムを構成する装置のネットワーク構成の変更を行うことができる。
例えば、情報処理装置の管理テーブル、不可視情報、手術の記録、位置テーブルは、院内LANに接続されているデータベースODに格納されていてもよい。また、データベースODは、院内に限らず、インターネットINTを介した外部(例えば、院外に設けられているクラウドサーバー等)に設けられていてもよい。
・変形例2:
上記実施形態では、情報処理装置の構成について例示した。しかし、情報処理装置の構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。
例えば、情報処理装置は、タッチパネル、入力ボタン、キーボード、マウス、マイク、カメラ等、種々の入力デバイスを備えていてもよい。同様に、情報処理装置は、ディスプレイ、インジケーター、手術に関する簡易なログを出力するためのプリンター等、種々の出力デバイスを備えていてもよい。
例えば、生成部、第2の入出力部(提供部)における各機能は、CPUがROMやハードディスクに格納されているコンピュータープログラムをRAMに展開して実行することにより実現されるものとして記載した。しかし、これら機能は、当該機能を実現するために設計されたASIC(Application Specific Integrated Circuit:特定用途向け集積回路)を用いて実現されてもよい。
例えば、情報処理装置において、ディスプレイと、位置情報を取得する現在位置取得部と、方位センサーとを備える構成とする。その上で、情報処理装置のCPUは、情報処理装置の位置情報と方位情報とを用いて、第1実施形態の提示用情報生成処理(図6)における初期処理と同様の処理を行って、情報処理装置の使用者による表示部の視認が困難な医療用装置を特定し、特定した医療用装置から取得された医療用装置情報を、情報処理装置のディスプレイに表示させる構成としてもよい。このようにすれば、情報処理装置の近傍に立つ利用者は、情報処理装置に備えられているディスプレイを確認することができる。このようにすれば、本発明のヘッドマウントディスプレイ(画像表示装置)を持たないスタッフにも、情報を容易に把握させることができる。
例えば、情報処理装置において、情報処理装置が向いている方向の外景画像を取得するカメラを備える構成とする。その上で、第1実施形態の提示用情報生成処理(図6)の手順z1〜z6を用いた初期処理と同様の処理を行って、情報処理装置の使用者による表示部の視認が困難な医療用装置を特定し、特定した医療用装置から取得された医療用装置情報を、情報処理装置のディスプレイに表示させる構成としてもよい。このようにすれば、情報処理装置の近傍に立つ利用者は、情報処理装置に備えられているディスプレイを確認することができる。このようにすれば、本発明のヘッドマウントディスプレイ(画像表示装置)を持たないスタッフにも、情報を容易に把握させることができる。
例えば、情報処理装置において、ディスプレイを備える構成とし、位置テーブルには、情報処理装置の使用者による表示部の視認が困難な医療用装置の識別子が格納されている構成とする。その上で、情報処理装置のCPUは、位置テーブルを用いて、第2実施形態の提示用情報生成処理(図18)における初期処理と同様の処理を行って、情報処理装置の使用者による表示部の視認が困難な医療用装置を特定し、特定した医療用装置から取得された医療用装置情報を、情報処理装置のディスプレイに表示させる構成としてもよい。このようにすれば、情報処理装置の近傍に立つ利用者は、情報処理装置に備えられているディスプレイを確認することができる。このようにすれば、本発明のヘッドマウントディスプレイ(画像表示装置)を持たないスタッフにも、情報を容易に把握させることができる。
例えば、第1実施形態の提示用情報生成処理(図6)の手順z1〜z6を用いた初期処理における提供部の機能は、ヘッドマウントディスプレイにおいて実現されてもよい。この場合、ヘッドマウントディスプレイにおいて、使用者による表示部の視認が困難な医療用装置の特定を行った後、ヘッドマウントディスプレイのインタフェース(通知部)は、特定した医療用装置の識別子を情報処理装置へ通知する。情報処理装置は、通知された識別子を有する医療用装置から取得した医療用装置情報を用いて、上記第1実施形態と同様の手順によって提示用情報を生成すればよい。このようにすれば、特定部を、ヘッドマウントディスプレイに設けることができるため、情報処理装置における処理負荷を低減させることができる。
・変形例3:
上記実施形態では、ヘッドマウントディスプレイの構成について例示した。しかし、ヘッドマウントディスプレイの構成は、本発明の要旨を逸脱しない範囲において任意に定めることが可能であり、例えば、各構成部の追加・削除・変換等を行うことができる。例えば、制御部と、画像表示部とは、無線LANや赤外線通信やBluetooth等の無線の信号伝送路を介した接続により接続されていてもよい。また、例えば、電源として、一次電池や、燃料電池、太陽電池、熱電池等を採用してもよい。
上記実施形態における、制御部と、画像表示部とに対する構成要素の割り振りは、あくまで一例であり、種々の態様を採用可能である。例えば、以下のような態様としてもよい。(i)制御部にCPUやメモリー等の処理機能を搭載、画像表示部には表示機能のみを搭載する態様、(ii)制御部と画像表示部との両方にCPUやメモリー等の処理機能を搭載する態様、(iii)制御部と画像表示部とを一体化した態様(例えば、画像表示部に制御部が含まれ眼鏡型のウェアラブルコンピューターとして機能する態様)、(iv)制御部の代わりにスマートフォンや携帯型ゲーム機を使用する態様、(v)制御部と画像表示部とを無線通信かつワイヤレス給電可能な構成とすることにより、ケーブルを廃した態様。
例えば、入力情報取得部は、上記実施形態に例示した以外の種々の方法を用いて、使用者からの操作入力を取得してもよい。例えば、フットスイッチ(使用者の足により操作するスイッチ)による操作入力を取得してもよい。また、例えば、画像表示部に赤外線センサー等の視線検知部を設けた上で、使用者の視線を検知し、視線の動きに対応付けられたコマンドによる操作入力を取得してもよい。また、例えば、カメラを用いて使用者のジェスチャーを検知し、ジェスチャーに対応付けられたコマンドによる操作入力を取得してもよい。ジェスチャー検知の際は、使用者の指先や、使用者の手に付けられた指輪や、使用者の手にする医療器具等を動き検出のための目印にすることができる。フットスイッチや視線による操作入力を取得可能とすれば、入力情報取得部は、使用者が手を離すことが困難である医療の現場においても、使用者からの操作入力を容易に取得することができる。
例えば、ヘッドマウントディスプレイは、両眼タイプの透過型ヘッドマウントディスプレイであるものとしたが、単眼タイプのヘッドマウントディスプレイとしてもよい。また、使用者がヘッドマウントディスプレイを装着した状態において外景の透過が遮断される非透過型ヘッドマウントディスプレイとして構成してもよい。上記実施形態では、画像表示部を眼鏡のように装着するヘッドマウントディスプレイであるとしているが、例えば、帽子のように装着するタイプの画像表示部等、他の形状の画像表示部を採用したヘッドマウントディスプレイとしてもよい。また、イヤホンは耳掛け型やヘッドバンド型を採用してもよく、省略してもよい。さらに、例えば、自動車や飛行機等の車両に搭載されるヘッドアップディスプレイ(HUD、Head-Up Display)として構成されてもよい。そのほか、ヘルメット等の身体防護具に内蔵されたヘッドマウントディスプレイとして構成されてもよい。
図19は、変形例におけるヘッドマウントディスプレイの外観の構成を示す説明図である。図19(A)の例の場合、画像表示部20aが、右光学像表示部26に代えて右光学像表示部26aを備え、左光学像表示部28に代えて左光学像表示部28aを備えている。右光学像表示部26aは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め上に配置されている。同様に、左光学像表示部28aは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め上に配置されている。図19(B)の例の場合、画像表示部20bが、右光学像表示部26に代えて右光学像表示部26bを備え、左光学像表示部28に代えて左光学像表示部28bを備えている。右光学像表示部26bは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の右眼の斜め下に配置されている。左光学像表示部28bは、第1実施形態の光学部材よりも小さく形成され、ヘッドマウントディスプレイの装着時における使用者の左眼の斜め下に配置されている。このように、光学像表示部は使用者の眼の近傍に配置されていれば足りる。また、光学像表示部を形成する光学部材の大きさも任意であり、光学像表示部が使用者の眼の一部分のみを覆う態様、換言すれば、光学像表示部が使用者の眼を完全に覆わない態様のヘッドマウントディスプレイとして実現することもできる。
例えば、上記実施形態では、表示駆動部は、バックライトと、バックライト制御部と、LCDと、LCD制御部と、投写光学系を用いて構成されるものとした。しかし、上記の態様はあくまで例示である。表示駆動部は、これらの構成部と共に、またはこれらの構成部に代えて、他の方式を実現するための構成部を備えていても良い。例えば、表示駆動部は、フロントライト方式や反射方式を用いて画像光を射出してもよい。また、例えば、表示駆動部は、有機EL(有機エレクトロルミネッセンス、Organic Electro-Luminescence)のディスプレイと、有機EL制御部と、投写光学系とを備える構成としても良い。また、例えば、表示駆動部は、LCDに代えてデジタル・マイクロミラー・デバイス等を用いることもできる。また、例えば、レーザー網膜投影型の頭部装着型表示装置に対して本発明を適用することも可能である。
・変形例4:
上記実施形態では、提示用情報生成処理の一例を示した。しかし、提示用情報生成処理の手順はあくまで一例であり、種々の変形が可能である。例えば、一部のステップを省略してもよいし、更なる他のステップを追加してもよい。また、実行されるステップの順序を変更してもよい。
例えば、第1実施形態の提示用情報生成処理(図6)における初期処理では、ヘッドマウントディスプレイの現在位置情報と方位情報、および、医療用装置の位置情報を用いて、ヘッドマウントディスプレイの使用者による表示部の視認が困難な医療用装置を特定した。しかし、ヘッドマウントディスプレイの9軸センサーにより得られる使用者の頭部の動き(頭部の速度・加速度・角速度・向き・向きの変化)を組み合わせて、ヘッドマウントディスプレイの使用者による表示部の視認が困難な医療用装置を特定してもよい。
例えば、第2の入出力部に接続されている複数のヘッドマウントディスプレイに関して、変数iを用いてシリアルに初期処理をおこなっているが、図6および図18で説明した初期処理は、第2の入出力部に接続されている複数のヘッドマウントディスプレイに関して、並列に実行されてもよい。
例えば、上記実施形態で説明した不可視情報は、2次元的に表現された画像を想定した。しかし、医療用装置として、3次元的な不可視画像を撮影可能な装置が接続されてもよい。また、外部記憶装置に記憶されている不可視情報は、撮像機器を用いて撮像された複数の画像から作成された3次元モデルであってもよい。3次元的に表現された不可視情報を用いる場合、生成部は、提示用情報の生成に先立って、3次元モデルのレンダリングを行う。そして、レンダリング後の画像を用いて、提示用情報を生成する。このようにすれば、様々な方向から、対象物体の外観に現れない情報を視認することができる。
例えば、提示用情報を受信したヘッドマウントディスプレイでは、使用者の要求に応じて、提示用情報に含まれる画像が虚像VIとして表示される大きさを拡大、縮小してもよい。同様に、ヘッドマウントディスプレイは、使用者の要求に応じて、提示用情報に含まれる画像を非表示としてもよく、提示用情報に含まれる画像に対して色変換を行ってもよい。また、使用者からの要求の入力方法として、マイクロホンを介した音声入力を採用すれば、使用者が手を用いて操作することが困難な医療の現場においてヘッドマウントディスプレイが使用される場合の、使用者の利便性を大きく向上させることができる。
例えば、提示用情報生成処理のうちの、初期処理と、個別処理とのうちの、いずれか一方を省略してもよい。また、初期処理は、提示用情報生成処理が開始された直後に実行されなくてもよい。初期処理と同様の処理は、使用者や他のアプリケーションからの要求に応じて、適宜実行されてもよい。
・変形例5:
上記実施形態では、共通映像仕様と、管理テーブルと、位置テーブルとの一例を示した。しかし、これらの詳細はあくまで一例であり、種々の変更が可能である。例えば、フィールド(項目)の追加、削除、変更を行うことができる。また、管理テーブルと、位置テーブルとは、複数のテーブルに分割して正規化してもよい。
例えば、管理テーブルには、ヘッドマウントディスプレイを相互に識別するための識別子に代えて、または識別子と共に、ヘッドマウントディスプレイの使用者の声紋が記憶されていてもよい。そうすれば、情報処理装置は、マイクロホンを介して取得した使用者の声紋に基づいて、当該使用者が使用するヘッドマウントディスプレイの役割や映像仕様を取得して、提示用情報生成処理を実行することができる。
例えば、管理テーブルには、ヘッドマウントディスプレイの識別子に対応付けてさらに、ヘッドマウントディスプレイと情報処理装置との通信に使用するための情報(例えば、ヘッドマウントディスプレイのIPアドレス、MACアドレス、暗号化鍵等)が記憶されていてもよい。また、管理テーブルには、映像信号の仕様のパターンを表す「映像仕様」に変えて、各ヘッドマウントディスプレイにおいて採用されている実際の映像仕様そのもの(すなわち、共通映像仕様に記憶されている項目と同様の項目)が記憶されていてもよい。
例えば、位置テーブルには、ヘッドマウントディスプレイの識別子に対応付けて、ヘッドマウントディスプレイの使用者による表示部の視認が困難である最大5つの装置の識別子が格納可能な構成であるとした。しかし、位置テーブルには、任意の数の「装置」フィールドを備えることができる。
・変形例6:
本発明は、上述の実施形態や実施例、変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態、実施例、変形例中の技術的特徴は、上述の課題の一部または全部を解決するために、あるいは、上述の効果の一部または全部を達成するために、適宜、差し替えや組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
10…制御部
20…画像表示部
22…右表示駆動部
24…左表示駆動部
26…右光学像表示部
28…左光学像表示部
32…右イヤホン
34…左イヤホン
40…ケーブル
51…送信部
52…送信部
53…受信部
54…受信部
61…カメラ(画像取得部)
110…入力情報取得部
100…ヘッドマウントディスプレイ(画像表示装置、頭部装着型表示装置)
120…記憶部
130…電源
140…CPU
160…画像処理部
170…音声処理部
180…インターフェイス(通知部)
190…表示制御部
201…右バックライト制御部
202…左バックライト制御部
211…右LCD制御部
212…左LCD制御部
221…右バックライト
222…左バックライト
241…右LCD
242…左LCD
251…右投写光学系
252…左投写光学系
261…右導光板
262…左導光板
300…情報処理装置
310…第1の入出力部
311〜31n…第1の入出力部(取得部)
320…ROM
330…RAM
340…通信インターフェイス
350…CPU
360…生成部
361…特定部
370…第2の入出力部
371〜37n…第2の入出力部(提供部)
380…外部記憶装置
381…共通映像仕様
382…管理テーブル
383…不可視情報(不可視情報記憶部)
384…手術の記録
385…位置テーブル(配置記憶部)
500…医療用装置
501〜50n…医療用装置
700…ディスプレイ
1000…情報処理システム
OA…外部機器
PC…パーソナルコンピューター
OD…データベース
VI…虚像
PN…提示用情報
VR…視野
PR…医師
MP1…位置
UP1…現在位置
CP1…医療用装置情報

Claims (11)

  1. 複数の医療用装置に接続されている情報処理装置であって、
    前記複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と、
    前記取得部により取得された前記複数の医療用装置情報の全部ではなく一部を含む提示用情報を生成する生成部と、
    画像を表示する画像表示装置であって、虚像である前記画像と外景とを使用者が同時に視認可能な透過型の頭部装着型表示装置である画像表示装置に対して、生成された前記提示用情報を出力し、前記画像表示装置の使用者の視界方向の画像を取得する提供部と、
    取得された前記視界方向の画像を画像認識して、前記複数の医療用装置のうち、表示部が前記視界方向の画像に含まれていない第1種の医療用装置を特定する特定部と、を備え、
    前記生成部は、少なくとも、前記第1種の医療用装置により取得された前記医療用装置情報を含む前記提示用情報を生成する、情報処理装置。
  2. 請求項1記載の情報処理装置であって、
    前記取得部は、さらに、前記情報処理装置に接続されている前記複数の医療用装置の位置情報をそれぞれ取得し、
    前記提供部は、さらに、前記情報処理装置に接続されている前記画像表示装置の現在位置を表す現在位置情報と、前記使用者の頭部の向きを表す方位情報とを取得し、
    さらに、前記取得部により取得された前記複数の前記医療用装置の前記位置情報と、前記提供部により取得された前記画像表示装置の前記現在位置情報および前記方位情報と、を用いて、前記第1種の医療用装置を特定する特定部を備える、情報処理装置。
  3. 請求項1から請求項2のいずれか一項記載の情報処理装置であって、さらに、
    前記第1種の医療用装置を特定するための情報を記憶する配置記憶部を備え、
    さらに、前記配置記憶部を用いて、前記第1種の医療用装置を特定する特定部を備える、情報処理装置。
  4. 請求項1から請求項3のいずれか一項に記載の情報処理装置であって、さらに、
    物体の外観に現れない情報である不可視情報を記憶する不可視情報記憶部を備え、
    前記生成部は、生成する前記提示用情報に対して前記不可視情報を含める、情報処理装置。
  5. 請求項1から請求項4のいずれか一項に記載の情報処理装置であって、
    前記情報処理装置には、物体の外観に現れない情報である不可視情報を取得するための前記医療用装置が少なくとも1台接続され、
    前記生成部は、生成する前記提示用情報に対して、前記不可視情報を取得するための前記医療用装置により取得された前記医療用装置情報を含める、情報処理装置。
  6. 請求項1から請求項5のいずれか一項に記載の情報処理装置であって、
    前記情報処理装置には、患者の処置の画像を取得するための前記医療用装置が少なくとも1台接続され、
    前記生成部は、生成する前記提示用情報に対して、前記処置の画像を取得するための前記医療用装置により取得された前記医療用装置情報を含める、情報処理装置。
  7. 請求項1から請求項6のいずれか一項に記載の情報処理装置であって、
    前記生成部は、前記提示用情報を生成する際に、前記医療用装置情報に含まれる画像の縦横比を維持したまま、前記画像を拡大または縮小する、情報処理装置。
  8. 請求項1から請求項7のいずれか一項に記載の情報処理装置であって、
    前記提供部は、さらに、
    前記頭部装着型表示装置から、前記頭部装着型表示装置を装着した状態における使用者の視界方向の画像を取得し、
    取得された前記視界方向の画像を画像認識することで外景に含まれる物体の特徴を抽出し、
    抽出した前記特徴に基づいて生成部により生成された前記提示用情報を補正し、補正後の前記提示用情報を出力する、情報処理装置。
  9. 情報処理方法であって、
    (a)複数の医療用装置から取得された情報である複数の医療用装置情報を取得する工程と、
    (b)取得された前記複数の医療用装置情報の全部ではなく一部を含む提示用情報を生成する工程と、
    (c)画像を表示する画像表示装置であって、虚像である前記画像と外景とを使用者が同時に視認可能な頭部装着型表示装置である画像表示装置に対して、生成された前記提示用情報を出力する工程と、
    (d)前記画像表示装置の使用者の視界方向の画像を取得する工程と、
    (e)取得された前記視界方向の画像を画像認識して、前記複数の医療用装置のうち、表示部が前記視界方向の画像に含まれていない第1種の医療用装置を特定する工程と、
    を備え、
    前記工程(b)は、少なくとも、前記第1種の医療用装置により取得された前記医療用装置情報を含む前記提示用情報を生成する、情報処理方法。
  10. 情報処理システムであって、
    複数の医療用装置と、
    前記複数の医療用装置に接続されている情報処理装置と、
    使用者が虚像と外景を同時に視認可能な透過型の頭部装着型表示装置と、
    を備え、
    前記情報処理装置は、
    前記複数の医療用装置から取得された情報である複数の医療用装置情報を取得する取得部と、
    前記取得部により取得された前記複数の医療用装置情報の全部ではなく一部を含む提示用情報を生成する生成部と、
    前記頭部装着型表示装置に対して、生成された前記提示用情報を出力し、前記頭部装着型表示装置の使用者の視界方向の画像を取得する提供部と、
    取得された前記視界方向の画像を画像認識して、前記複数の医療用装置のうち、表示部が前記視界方向の画像に含まれていない第1種の医療用装置を特定する特定部と、を備え、
    前記頭部装着型表示装置は、
    前記情報処理装置から前記提示用情報を取得する提示用情報取得部と、
    取得された前記提示用情報を前記虚像として前記頭部装着型表示装置の使用者に視認させる画像表示部と、
    を備え、
    前記情報処理装置の前記生成部は、少なくとも、前記第1種の医療用装置により取得された前記医療用装置情報を含む前記提示用情報を生成する、情報処理システム。
  11. 請求項1に記載の情報処理装置に接続され、使用者が虚像と外景を同時に視認可能な透過型の頭部装着型表示装置であって、
    前記頭部装着型表示装置を装着した状態における前記使用者の視界方向の画像を取得する画像取得部と、
    取得された前記視界方向の画像を画像認識して、前記第1種の医療用装置特定する特定部と、
    前記第1種の医療用装置を前記情報処理装置へ通知する通知部と、
    前記情報処理装置から前記提示用情報を取得する提示用情報取得部と、
    取得された前記提示用情報を前記虚像として前記使用者に視認させる画像表示部と、
    を備える、頭部装着型表示装置。
JP2013147418A 2013-07-16 2013-07-16 情報処理装置、情報処理方法、および、情報処理システム Active JP6252004B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2013147418A JP6252004B2 (ja) 2013-07-16 2013-07-16 情報処理装置、情報処理方法、および、情報処理システム
PCT/JP2014/003696 WO2015008469A2 (en) 2013-07-16 2014-07-11 Information processing apparatus, information processing method, and information processing system
EP14755716.9A EP3022671B1 (en) 2013-07-16 2014-07-11 Information processing apparatus, information processing method, and information processing system
TW103124036A TWI617279B (zh) 2013-07-16 2014-07-11 資訊處理裝置、資訊處理方法、及資訊處理系統
RU2016104876A RU2645004C2 (ru) 2013-07-16 2014-07-11 Устройство обработки информации, способ обработки информации и система обработки информации
KR1020167003626A KR20160030994A (ko) 2013-07-16 2014-07-11 정보 처리 장치, 정보 처리 방법 및, 정보 처리 시스템
US14/901,626 US9898662B2 (en) 2013-07-16 2014-07-11 Information processing apparatus, information processing method, and information processing system
CN201410340080.5A CN104298499B (zh) 2013-07-16 2014-07-16 信息处理装置、信息处理方法、以及信息处理***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013147418A JP6252004B2 (ja) 2013-07-16 2013-07-16 情報処理装置、情報処理方法、および、情報処理システム

Publications (2)

Publication Number Publication Date
JP2015019678A JP2015019678A (ja) 2015-02-02
JP6252004B2 true JP6252004B2 (ja) 2017-12-27

Family

ID=51399745

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013147418A Active JP6252004B2 (ja) 2013-07-16 2013-07-16 情報処理装置、情報処理方法、および、情報処理システム

Country Status (8)

Country Link
US (1) US9898662B2 (ja)
EP (1) EP3022671B1 (ja)
JP (1) JP6252004B2 (ja)
KR (1) KR20160030994A (ja)
CN (1) CN104298499B (ja)
RU (1) RU2645004C2 (ja)
TW (1) TWI617279B (ja)
WO (1) WO2015008469A2 (ja)

Families Citing this family (57)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9020854B2 (en) 2004-03-08 2015-04-28 Proxense, Llc Linked account system using personal digital key (PDK-LAS)
US8433919B2 (en) * 2005-11-30 2013-04-30 Proxense, Llc Two-level authentication for secure transactions
US11206664B2 (en) 2006-01-06 2021-12-21 Proxense, Llc Wireless network synchronization of cells and client devices on a network
US9113464B2 (en) 2006-01-06 2015-08-18 Proxense, Llc Dynamic cell size variation via wireless link parameter adjustment
WO2009062194A1 (en) 2007-11-09 2009-05-14 Proxense, Llc Proximity-sensor supporting multiple application services
US8508336B2 (en) 2008-02-14 2013-08-13 Proxense, Llc Proximity-based healthcare management system with automatic access to private information
US8918854B1 (en) 2010-07-15 2014-12-23 Proxense, Llc Proximity-based system for automatic application initialization
EP2647210A4 (en) * 2010-12-02 2014-04-16 Ultradent Products Inc SYSTEM AND METHOD FOR VISUALIZING AND TRACKING STEREOSCOPIC VIDEO IMAGES
US8857716B1 (en) 2011-02-21 2014-10-14 Proxense, Llc Implementation of a proximity-based system for object tracking and automatic application initialization
WO2013180773A1 (en) 2012-06-01 2013-12-05 Ultradent Products, Inc. Stereoscopic video imaging
WO2014183106A2 (en) 2013-05-10 2014-11-13 Proxense, Llc Secure element as a digital pocket
US20150153826A1 (en) * 2013-12-01 2015-06-04 Apx Labs, Llc Systems and methods for providing a virtual menu
KR101570857B1 (ko) * 2014-04-29 2015-11-24 큐렉소 주식회사 로봇 수술 계획 조정 장치
US10013808B2 (en) 2015-02-03 2018-07-03 Globus Medical, Inc. Surgeon head-mounted display apparatuses
EP3258876B1 (en) 2015-02-20 2023-10-18 Covidien LP Operating room and surgical site awareness
WO2017064996A1 (ja) * 2015-10-16 2017-04-20 オリンパス株式会社 内視鏡装置
JP6490001B2 (ja) * 2015-12-25 2019-03-27 ウエストユニティス株式会社 メディカルシステム
EP3397185A1 (en) * 2015-12-29 2018-11-07 Koninklijke Philips N.V. System, controller and method using virtual reality device for robotic surgery
WO2017216929A1 (ja) * 2016-06-16 2017-12-21 株式会社オプティム 医療機器情報提供システム、医療機器情報提供方法及びプログラム
US9844321B1 (en) * 2016-08-04 2017-12-19 Novartis Ag Enhanced ophthalmic surgical experience using a virtual reality head-mounted display
AU2018207068A1 (en) * 2017-01-11 2019-07-25 Magic Leap, Inc. Medical assistant
JP6828465B2 (ja) * 2017-01-30 2021-02-10 セイコーエプソン株式会社 内視鏡操作支援システム
US9892564B1 (en) * 2017-03-30 2018-02-13 Novarad Corporation Augmenting real-time views of a patient with three-dimensional data
US11069146B2 (en) * 2017-05-16 2021-07-20 Koninklijke Philips N.V. Augmented reality for collaborative interventions
CN107846458A (zh) * 2017-10-30 2018-03-27 深圳市世和丹利投资管理有限公司 生物信息检测***及其检测方法
US20190254753A1 (en) 2018-02-19 2019-08-22 Globus Medical, Inc. Augmented reality navigation systems for use with robotic surgical systems and methods of their use
US12016719B2 (en) * 2018-08-22 2024-06-25 Magic Leap, Inc. Patient viewing system
JP7325173B2 (ja) * 2018-10-06 2023-08-14 シスメックス株式会社 手術支援ロボットの遠隔支援方法、および遠隔支援システム
JP7123164B2 (ja) * 2018-11-28 2022-08-22 オリンパス株式会社 医療画像記録制御装置、医療画像記録制御システム及び医療画像記録制御方法
US11564633B2 (en) 2018-12-21 2023-01-31 Industrial Technology Research Institute State assessment system, diagnosis and treatment system, and method for operating the diagnosis and treatment system
TWI704947B (zh) * 2019-06-03 2020-09-21 大禾塑膠股份有限公司 具有雙階魔術方塊功能之指尖陀螺
RU2697733C1 (ru) * 2019-06-10 2019-08-19 Общество с ограниченной ответственностью "Медицинские Скрининг Системы" Система обработки рентгенографических изображений и вывода результата пользователю
US11992373B2 (en) 2019-12-10 2024-05-28 Globus Medical, Inc Augmented reality headset with varied opacity for navigated robotic surgery
US11464581B2 (en) 2020-01-28 2022-10-11 Globus Medical, Inc. Pose measurement chaining for extended reality surgical navigation in visible and near infrared spectrums
US11382699B2 (en) 2020-02-10 2022-07-12 Globus Medical Inc. Extended reality visualization of optical tool tracking volume for computer assisted navigation in surgery
US11207150B2 (en) 2020-02-19 2021-12-28 Globus Medical, Inc. Displaying a virtual model of a planned instrument attachment to ensure correct selection of physical instrument attachment
JP7460426B2 (ja) 2020-03-31 2024-04-02 住友重機械工業株式会社 X線ct装置
US11607277B2 (en) 2020-04-29 2023-03-21 Globus Medical, Inc. Registration of surgical tool with reference array tracked by cameras of an extended reality headset for assisted navigation during surgery
US11510750B2 (en) 2020-05-08 2022-11-29 Globus Medical, Inc. Leveraging two-dimensional digital imaging and communication in medicine imagery in three-dimensional extended reality applications
US11382700B2 (en) 2020-05-08 2022-07-12 Globus Medical Inc. Extended reality headset tool tracking and control
US11153555B1 (en) 2020-05-08 2021-10-19 Globus Medical Inc. Extended reality headset camera system for computer assisted navigation in surgery
US11737831B2 (en) 2020-09-02 2023-08-29 Globus Medical Inc. Surgical object tracking template generation for computer assisted navigation during surgical procedure
US20220108788A1 (en) * 2020-10-02 2022-04-07 Ethicon Llc Reconfiguration of display sharing
US11830602B2 (en) 2020-10-02 2023-11-28 Cilag Gmbh International Surgical hub having variable interconnectivity capabilities
US11672534B2 (en) 2020-10-02 2023-06-13 Cilag Gmbh International Communication capability of a smart stapler
US11883022B2 (en) 2020-10-02 2024-01-30 Cilag Gmbh International Shared situational awareness of the device actuator activity to prioritize certain aspects of displayed information
US11963683B2 (en) 2020-10-02 2024-04-23 Cilag Gmbh International Method for operating tiered operation modes in a surgical system
US11877897B2 (en) 2020-10-02 2024-01-23 Cilag Gmbh International Situational awareness of instruments location and individualization of users to control displays
US11748924B2 (en) 2020-10-02 2023-09-05 Cilag Gmbh International Tiered system display control based on capacity and user operation
US11992372B2 (en) 2020-10-02 2024-05-28 Cilag Gmbh International Cooperative surgical displays
WO2022154847A1 (en) 2021-01-12 2022-07-21 Emed Labs, Llc Health testing and diagnostics platform
EP4030219A1 (en) * 2021-01-13 2022-07-20 BHS Technologies GmbH Medical imaging system and method of controlling such imaging system
US11929168B2 (en) 2021-05-24 2024-03-12 Emed Labs, Llc Systems, devices, and methods for diagnostic aid kit apparatus
US11615888B2 (en) 2021-03-23 2023-03-28 Emed Labs, Llc Remote diagnostic testing and treatment
US11373756B1 (en) 2021-05-24 2022-06-28 Emed Labs, Llc Systems, devices, and methods for diagnostic aid kit apparatus
US11610682B2 (en) 2021-06-22 2023-03-21 Emed Labs, Llc Systems, methods, and devices for non-human readable diagnostic tests
US12014829B2 (en) 2021-09-01 2024-06-18 Emed Labs, Llc Image processing and presentation techniques for enhanced proctoring sessions

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5485172A (en) * 1993-05-21 1996-01-16 Sony Corporation Automatic image regulating arrangement for head-mounted image display apparatus
US5978015A (en) * 1994-10-13 1999-11-02 Minolta Co., Ltd. Stereoscopic system with convergence and dioptric power adjustments according to object distance
US6847336B1 (en) * 1996-10-02 2005-01-25 Jerome H. Lemelson Selectively controllable heads-up display system
JP2001104331A (ja) 1999-10-06 2001-04-17 Olympus Optical Co Ltd 医療用顔面装着型映像表示装置
EP1578290B1 (en) * 2002-12-06 2012-03-28 Koninklijke Philips Electronics N.V. Apparatus and method for automated positioning of a device
DE102004046430A1 (de) * 2004-09-24 2006-04-06 Siemens Ag System zur visuellen Situations-bedingten Echtzeit-basierten Unterstützung eines Chirurgen und Echtzeit-basierter Dokumentation und Archivierung der vom Chirurgen während der Operation visuell wahrgenommenen Unterstützungs-basierten Eindrücke
US7331929B2 (en) 2004-10-01 2008-02-19 General Electric Company Method and apparatus for surgical operating room information display gaze detection and user prioritization for control
WO2008026258A1 (fr) 2006-08-30 2008-03-06 Totoku Electric Co., Ltd. Dispositif d'affichage d'images et programme d'affichage d'images
EP1929976A1 (en) * 2006-12-07 2008-06-11 Swiss Medical Technology GmbH Support system and method for viewer-dependent positioning and alignment of a display unit
US8903430B2 (en) * 2008-02-21 2014-12-02 Microsoft Corporation Location based object tracking
US9147174B2 (en) * 2008-08-08 2015-09-29 Snap-On Incorporated Image-based inventory control system using advanced image recognition
JP5476036B2 (ja) 2009-04-30 2014-04-23 国立大学法人大阪大学 網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法
US20100299627A1 (en) * 2009-05-20 2010-11-25 Qualcomm Incorporated Method and apparatus for content boundary detection and scaling
KR101402622B1 (ko) * 2009-07-01 2014-06-09 삼성전자주식회사 영상표시장치 및 영상표시방법
WO2011003437A1 (de) * 2009-07-06 2011-01-13 Siemens Aktiengesellschaft Visualisierungssystem zur korrekten ausrichtung einer ausgabeeinheit zu einem benutzer sowie verfahren hierzu
US8400548B2 (en) * 2010-01-05 2013-03-19 Apple Inc. Synchronized, interactive augmented reality displays for multifunction devices
DE102010052244A1 (de) * 2010-11-23 2012-05-24 Pierre-Alain Cotte Verfahren und Vorrichtung zur Darstellung einer grafischen Benutzeroberfläche einer tragbaren Recheneinheit auf einem externen Anzeigegerät
EP2544039A1 (en) * 2011-07-04 2013-01-09 BAE Systems Plc. Display system
JP2013034764A (ja) 2011-08-10 2013-02-21 Akira Takebayashi サージカルガイド装置及びドリルの位置決め方法
US20130178257A1 (en) * 2012-01-06 2013-07-11 Augaroo, Inc. System and method for interacting with virtual objects in augmented realities
JP6299067B2 (ja) * 2013-02-14 2018-03-28 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法

Also Published As

Publication number Publication date
US20160148052A1 (en) 2016-05-26
US9898662B2 (en) 2018-02-20
JP2015019678A (ja) 2015-02-02
EP3022671B1 (en) 2018-08-15
TWI617279B (zh) 2018-03-11
KR20160030994A (ko) 2016-03-21
RU2016104876A (ru) 2017-08-21
RU2645004C2 (ru) 2018-02-15
WO2015008469A3 (en) 2015-05-14
TW201503865A (zh) 2015-02-01
WO2015008469A2 (en) 2015-01-22
EP3022671A2 (en) 2016-05-25
CN104298499A (zh) 2015-01-21
CN104298499B (zh) 2019-01-29

Similar Documents

Publication Publication Date Title
JP6252004B2 (ja) 情報処理装置、情報処理方法、および、情報処理システム
US11341726B2 (en) Information processing apparatus, information processing method, and information processing system
US10169925B2 (en) Head mounted display and control method for head mounted display
JP6299067B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP2015019679A (ja) 情報処理装置、情報処理方法、および、情報処理システム
US10197803B2 (en) Augmented reality glasses for medical applications and corresponding augmented reality system
JP6311393B2 (ja) 情報処理装置、情報処理方法、および、情報処理システム
JP6264855B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6409927B2 (ja) 頭部装着型表示装置および頭部装着型表示装置の制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160523

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160530

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170321

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171031

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171113

R150 Certificate of patent or registration of utility model

Ref document number: 6252004

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150