CN103869469B - 头戴式显示装置、该装置的控制方法以及作业支援*** - Google Patents
头戴式显示装置、该装置的控制方法以及作业支援*** Download PDFInfo
- Publication number
- CN103869469B CN103869469B CN201310674651.4A CN201310674651A CN103869469B CN 103869469 B CN103869469 B CN 103869469B CN 201310674651 A CN201310674651 A CN 201310674651A CN 103869469 B CN103869469 B CN 103869469B
- Authority
- CN
- China
- Prior art keywords
- image
- user
- information
- head
- attention
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 350
- 230000001737 promoting effect Effects 0.000 claims abstract description 14
- 230000008569 process Effects 0.000 claims description 320
- 238000012545 processing Methods 0.000 claims description 154
- 230000000007 visual effect Effects 0.000 claims description 55
- 238000012790 confirmation Methods 0.000 claims description 48
- 238000009826 distribution Methods 0.000 claims description 42
- 238000003860 storage Methods 0.000 claims description 23
- 230000000638 stimulation Effects 0.000 claims description 12
- 230000001154 acute effect Effects 0.000 claims description 7
- 238000001514 detection method Methods 0.000 claims description 6
- 230000033228 biological regulation Effects 0.000 claims description 3
- 230000005855 radiation Effects 0.000 claims 1
- 230000003287 optical effect Effects 0.000 description 51
- 235000008733 Citrus aurantifolia Nutrition 0.000 description 26
- 235000011941 Tilia x europaea Nutrition 0.000 description 26
- 239000004571 lime Substances 0.000 description 26
- 238000011282 treatment Methods 0.000 description 23
- 238000001931 thermography Methods 0.000 description 22
- 210000003128 head Anatomy 0.000 description 16
- 238000005516 engineering process Methods 0.000 description 13
- 238000000605 extraction Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 12
- 238000010191 image analysis Methods 0.000 description 12
- 230000000903 blocking effect Effects 0.000 description 8
- 231100001261 hazardous Toxicity 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 239000011521 glass Substances 0.000 description 6
- 239000004973 liquid crystal related substance Substances 0.000 description 6
- 230000003190 augmentative effect Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 3
- 238000012217 deletion Methods 0.000 description 3
- 230000037430 deletion Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000008054 signal transmission Effects 0.000 description 3
- 230000004888 barrier function Effects 0.000 description 2
- 230000036449 good health Effects 0.000 description 2
- 230000008676 import Effects 0.000 description 2
- 238000002347 injection Methods 0.000 description 2
- 239000007924 injection Substances 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012856 packing Methods 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 238000011112 process operation Methods 0.000 description 2
- 238000009738 saturating Methods 0.000 description 2
- 210000000162 simple eye Anatomy 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 230000018199 S phase Effects 0.000 description 1
- 206010053615 Thermal burn Diseases 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 229920001971 elastomer Polymers 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 229920002635 polyurethane Polymers 0.000 description 1
- 239000004814 polyurethane Substances 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000001681 protective effect Effects 0.000 description 1
- 239000011347 resin Substances 0.000 description 1
- 229920005989 resin Polymers 0.000 description 1
- 230000004270 retinal projection Effects 0.000 description 1
- 238000003756 stirring Methods 0.000 description 1
- 239000000725 suspension Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
- 239000011800 void material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/163—Wearable computers, e.g. on a belt
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Hardware Design (AREA)
- Optics & Photonics (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明提供一种使用者能够同时视认虚像与外景的头戴式显示装置,其具备:注意信息生成部,其生成作为用于促使使用者注意的图像的注意信息;以及图像显示部,其将注意信息作为虚像而使使用者视认。
Description
技术领域
本申请主张基于2012年11月2日所申请的申请号2012-272166的日本专利申请的优先权以及基于2012年11月2日所申请的申请号2012-272167的日本专利申请的优先权,且其公开的全部内容通过引用而包含于本申请。
本发明涉及头戴式显示装置。
背景技术
公知有在现实环境中使用计算机而对信息进行附加提示的被称为增强现实(AR,Augmented Reality)的技术。增强现实搭载于例如头戴式显示器(以下,称为“头戴式显示装置”)。头戴式显示装置通过摄像机拍摄外景,对拍摄得到的图像进行图像识别,生成附加提示用的信息。在佩戴头戴式显示装置的状态下使用者的视场被遮挡的非透过式的头戴式显示装置中,将使拍摄的图像与附加提示用的信息重叠的图像显示于液晶画面上。在佩戴头戴式显示装置的状态下使用者的视场不被遮挡的透过式的头戴式显示装置中,将表示附加提示用的信息的图像显示于液晶画面上。这样,使用者能够感受增强现实。
在日本特开2010-144773号公报中记载有危险回避***,其拍摄使用者的作业区域,且基于危险区域特定信息而对拍摄的图像进行图像识别,在使用者的身体的一部分存在于危险区域内的情况下使机床紧急停止。在日本特开2010-197153号公报中记载有一种技术,其在使用头戴式显示器的作业支援装置中,使用通过红外线拍摄部取得的温度分布图像与通过可见光线拍摄部取得的可见光图像而特定出部件的信息,基于存储各部件的适当温度的适当温度数据库,检测温度异常的部件,报告给使用者。在日本特开2002-23098号公报中记载有一种装置,其是能够相对于使用者经由半透半反镜而直接看见的影像使基于红外摄像机的受光信息生成的可视图像重叠而显示的面部佩戴式的可同时视认红外和可视影像的同时视认装置。在日本专利第3735086号公报以及日本特开2011-114781号公报中记载有头戴式显示装置,其能够将与使用者的进行作业相关的作业内容、作业工序作为附加提示用的信息而生成,且向使用者提示。
另外,在日本专利第3735086号公报以及日本特开2011-114781号公报中记载有头戴式显示装置,其能够将作业内容、作业工序作为附加提示用的信息而生成,且向使用者提示。在日本特开2010-144773号公报中记载有危险回避***,其基于危险区域特定信息对拍摄到的使用者的作业区域的图像进行图像识别,且在使用者的身体的一部分存在于危险区域内的情况下使机床紧急停止。在日本特开2006-146778号公报中记载有头戴式显示装置,其能够通过红外线传感器而检测使用者周边的台阶等的障碍物,生成用于使台阶等醒目的附加提示用的信息,向使用者提示。
在上述技术中,由于基于单独地预先准备的危险区域特定信息而进行图像识别,所以无法应对预想之外的危险。相同地,对于上述技术而言,由于基于分别单独地预先准备的适当温度数据库来检测温度异常的部件,所以无法应对预想之外的危险。即,上述技术存在有如下课题,即、由于为了推定危险等注意点,需要单独具体地预先准备的信息,所以注意点的推断方法缺乏通用性。上述技术存在无法对使用者通知危险等的注意点这样的课题。另外,上述技术存在如下课题,即、由于相对于使用者的视野的整个区域可视图像是重叠的,所以过度地遮挡使用者的视场。上述技术存在无法对使用者通知危险等的注意点这样的课题。因此,期望有一种头戴式显示装置,其不需要分别单独地预先准备的关于危险场所的信息,且能够推断使用者的视场方向上的危险等的注意点,并能够促使使用者注意。
并且,上述技术虽然能够支援使用者进行的作业,但一直以来都有想要通过将伴随作业的危险等注意点通知使用者,从而使事故减少这样的迫切期望。另外,上述技术存在无法支援使用者进行的作业这样的课题。因此,期望有一种头戴式显示装置,其能够支援使用者所进行的作业,并且能够将伴随该作业的危险等注意点通知使用者。
发明内容
(1)根据本发明的一个方式,提供一种使用者能够同时视认虚像与外景的头戴式显示装置。该头戴式显示装置具备;图像取得部,其取得佩戴上述头戴式显示装置的状态的上述使用者的视场方向的图像;注意信息生成部,其基于通过上述图像取得部取得的上述图像,生成作为用于促使上述使用者注意的图像的注意信息;以及图像显示部,其使上述注意信息作为上述虚像而使上述使用者视认。根据该方式的头戴式显示装置,注意信息生成部基于使用者的视场方向的图像而生成注意信息,图像显示部使生成的注意信息作为虚像而被使用者视认。因此,能够实现无需单独预先准备的关于危险场所的信息也能够推断使用者的视场方向的危险等注意点并促使使用者注意的头戴式显示装置。
(2)在上述方式的头戴式显示装置中,上述注意信息生成部也可从通过上述图像取得部取得的上述图像确定上述使用者需要注意的场所,并且生成在确定的上述场所的附近配置了规定的图像的注意信息。根据该方式的头戴式显示装置,注意信息生成部在使用者需要注意的场所的附近生成配置了规定的图像的注意信息。因此,头戴式显示装置能够在不过度遮挡使用者的视场的情况下促使使用者注意。另外,由于规定的图像配置于使用者需要注意的场所的附近,所以能够对使用者容易理解地传递应该注意的场所。
(3)在上述方式的头戴式显示装置中,上述图像取得部检测从物体放射的红外光而取得表示温度的分布的温度分布图像;上述注意信息生成部也可以在通过上述图像取得部取得的上述温度分布图像中,确定温度在第一阈值以上的场所,将该场所作为上述使用者需要注意的场所。根据该方式的头戴式显示装置,注意信息生成部通过利用温度分布图像与温度的阈值,无需单独预先准备的关于危险场所的信息便能够推断使用者的视场方向的注意点。
(4)在上述方式的头戴式显示装置中,上述图像取得部检测从物体放射的红外光而取得表示温度的分布的温度分布图像;上述注意信息生成部也可以在通过上述图像取得部取得的上述温度分布图像中,确定温度在第二阈值以下的场所,将该场所作为上述使用者需要注意的场所。根据该方式的头戴式显示装置,注意信息生成部通过利用温度分布图像与温度的阈值,无需单独预先准备的关于危险场所的信息便能够推断使用者的视场方向的注意点。
(5)在上述方式的头戴式显示装置中,上述图像取得部取得从物体放射的可见光来表示物体的形状的图像;上述注意信息生成部也可以对通过上述图像取得部取得的上述图像进行图像识别而确定与预先存储的图案一致的位置,将上述一致的位置作为上述使用者需要注意的场所。根据该方式的头戴式显示装置,注意信息生成部利用图像识别与图案比较的手法,无需单独预先准备的关于危险场所的信息便能够推断使用者的视场方向的注意点。
(6)在上述方式的头戴式显示装置中,上述图案中也可以包含锐角部。根据该方式的头戴式显示装置,注意信息生成部通过图像识别确定锐角部,因而无需单独预先准备的关于危险场所的信息便能够推断使用者的视场方向的注意点。
(7)在上述方式的头戴式显示装置中,上述规定的图像也可以是使上述使用者联想为警告的文字、图案、图形、以及由这些的组合所构成的图像。根据该方式的头戴式显示装置,由于规定的图像是使使用者联想为警告的文字、图案、图形、以及由这些的组合所构成的图像,所以能够对使用者以容易理解的方式传递应该注意的意思。
(8)在上述方式的头戴式显示装置中,上述规定的图像也可以是由具有与确定的上述场所的形状所对应的形状的图形构成的图像。根据该方式的头戴式显示装置,由于规定的图像是由具有与确定场所的形状所对应的形状的图形所构成的图像,因而能够对使用者以使其容易理解的方式传递应该注意的场所。
(9)在上述方式的头戴式显示装置中,上述规定的图像也可以是从通过上述图像取得部取得的上述温度分布图像抽出温度在上述第一阈值以上的场所或者在上述第二阈值以下的场所的图像。根据该方式的头戴式显示装置,由于规定的图像是从温度分布图像抽出的图像,所以能够对使用者以使其容易理解的方式传递应该注意的场所的温度分布、温度变化。另外,由于规定的图像是从温度分布图像抽出温度超过阈值的场所的图像,所以能够以不过度遮挡使用者的视场的方式促使使用者注意。
(10)在上述方式的头戴式显示装置中,上述注意信息生成部也可以针对通过上述图像取得部取得的上述图像中的上述虚像的显示区域与上述图像取得部的取得区域重复的重复区域而生成上述注意信息。根据该方式的头戴式显示装置,注意信息生成部针对虚像的显示区域与图像取得部的取得区域重复的重复区域而生成注意信息。因此,能够使作为在透过式的头戴式显示装置中产生的课题的“使用者在自身的视场中直接看见的像与通过图像显示部视认的虚像之间的错位”的产生减少。其结果,在将注意信息作为虚像而视认的情况下,能够减少给予使用者的不协调感。
(11)上述方式的头戴式显示装置还具备发声体,上述注意信息生成部也可以基于通过上述图像取得部取得的上述图像,从上述发声体将用于促使上述使用者注意的声音输出。根据该方式的头戴式显示装置,注意信息生成部还能够通过声音而促使使用者注意。
(12)上述方式的头戴式显示装置还具备触觉刺激部,其对上述使用者施加通过触觉的刺激,上述注意信息生成部也可以基于通过上述图像取得部取得的上述图像,使上述触觉刺激部工作,以促使上述使用者注意。根据该方式的头戴式显示装置,注意信息生成部还能够利用通过触觉的刺激而促使使用者注意。
(13)根据本发明的其他方式,提供一种使用者能够同时视认虚像与外景的头戴式显示装置。该头戴式显示装置具备:工序管理部,针对当前的工序,生成作为表示上述使用者应该实施的内容的图像的工序信息;注意信息生成部,在上述当前的工序中,生成作为用于促使上述使用者注意的图像的注意信息;以及图像显示部,其使上述工序信息与上述注意信息作为上述虚像而使上述使用者视认。根据该方式的头戴式显示装置,图像显示部使表示关于当前的工序使用者应该实施的内容的工序信息与在事故与潜在危险中的至少一方过去有产生的情况下用于促使使用者注意的注意信息的两者作为虚像被使用者视认。因此,能够实现支援使用者进行的作业、并且能够将伴随该作业的注意点通知给使用者的头戴式显示装置。
(14)在上述其他方式的头戴式显示装置中,上述注意信息生成部也可以在上述当前的工序中,在存在预先存储的注意点的数据的情况下,生成上述注意信息。根据该方式的头戴式显示装置,注意信息生成部能够在针对当前的步骤存在预先存储的注意点数据的情况下,生成注意信息。
(15)在上述其他方式的头戴式显示装置中,还具备图像取得部,其取得佩戴上述头戴式显示装置的状态的上述使用者的视场方向的图像,上述工序管理部也可以基于通过上述图像取得部取得的上述图像,从作业所包含的多个工序确定上述当前的工序。根据该方式的头戴式显示装置,工序管理部基于使用者的视场方向的图像,能够从作业所包含的多个工序中自动地确定当前的工序。
(16)在上述其他方式的头戴式显示装置中,上述工序管理部也可以利用表示上述作业所包含的上述工序的信息与表示在该工序内上述使用者应该实施的内容的信息的关联,而生成与上述当前的工序所对应的上述工序信息。根据该方式的头戴式显示装置,工序管理部利用工序与该工序内使用者应该实施的内容的关联,能够简便地生成工序信息。
(17)在上述其他方式的头戴式显示装置中,上述预先存储的注意点数据是对表示上述作业所包含的上述工序的信息、以及与该工序内的过去的事故和过去的潜在危险中的至少一个相关的信息建立关联的数据,上述注意信息生成部也可以利用上述注意点数据,生成与上述当前的工序对应的上述注意信息。根据该方式的头戴式显示装置,注意信息生成部利用工序与该工序内关于过去的事故、潜在危险的信息的关联,能够简便地生成注意信息。
(18)在上述其他方式的头戴式显示装置中,上述工序管理部也可以在生成与上述当前的工序对应的上述工序信息之后直至规定的确认处理成功,限制与下一个工序对应的上述工序信息的生成。根据该方式的头戴式显示装置,工序管理部在生成用于引导当前的工序的工序信息后直至转换至用于引导下一个工序的工序信息的生成的期间,能够进行规定的确认处理。因此,能够使工序内的作业的安全性提高。
(19)在上述其他方式的头戴式显示装置中,上述规定的确认处理也可以是来自上述使用者的确认的意思表示的取得。根据该方式的头戴式显示装置,工序管理部在当前的工序与下一个工序之间对使用者进行某个确认,且取得来自使用者的确认的意思表示,因而能够使工序内的作业的安全性提高。
(20)在上述其他方式的头戴式显示装置中,上述规定的确认处理也可以对通过上述图像取得部取得的上述图像进行图像识别,并且确认上述图像识别的结果是否满足预先确定的条件。根据该方式的头戴式显示装置,工序管理部在当前的工序与下一个工序之间对使用者的视场方向的图像进行图像识别,且确认图像识别的结果是否满足预先确定的条件,因而能够使工序内的作业的安全性提高。
(21)在上述其他方式的头戴式显示装置中,上述预先确定的条件也可以与包含上述使用者的年龄、性别、体格以及对作业的熟练度中的至少一个的上述使用者的特征对应地变动。根据该方式的头戴式显示装置,工序管理部能够与包含上述使用者的年龄、性别、体格以及对作业的熟练度中的至少一个的上述使用者的特征对应地将用于比较图像识别的结果的条件变动。因此,能够进行与使用者的特征对应的细分的确认处理。
(22)在上述其他方式的头戴式显示装置中,上述注意信息生成部也可以在上述当前的工序中在过去发生过事故的情况下与在上述当前的工序在过去发生过潜在危险的情况下,生成不同的上述注意信息。根据该方式的头戴式显示装置,注意信息生成部在当前的工序在过去发生或事故的情况下与发生过潜在危险的情况下,生成不同的注意信息。因此,使用者能够知道在当前的工序中在过去发生过的事例是事故还是潜在危险。
(23)在上述其他方式的头戴式显示装置中,上述注意信息生成部也可以与包含上述使用者的年龄、性别、体格、对作业的熟练度中的至少一个的上述使用者的特征对应地生成不同的上述注意信息。根据该方式的头戴式显示装置,注意信息生成部能够与包含上述使用者的年龄、性别、体格、对作业的熟练度中的至少一个的上述使用者的特征对应地生成不同的注意信息。因此,能够进行与使用者的特征对应的细分的注意信息的生成。
(24)在上述其他方式的头戴式显示装置中,上述工序管理部针对通过上述图像取得部取得的上述图像中的上述虚像的显示区域与上述图像取得部的取得区域重复的重复区域生成上述工序信息,上述注意信息生成部也可以针对上述重复区域生成上述注意信息。根据该方式的头戴式显示装置,工序管理部与注意信息生成部分别针对虚像的显示区域与图像取得部的取得区域重复的重复区域生成工序信息与注意信息。因此,能够使作为在透过式的头戴式显示装置所产生的课题的“使用者在自身的视场中直接看见的影像与通过图像显示部视认的虚像之间的错位”的产生减少。其结果,能够在使工序信息与注意信息作为虚像而被视认的情况下,减少给予使用者的不协调感。
(25)在上述其他方式的头戴式显示装置中,还具备发声体,上述注意信息生成部也可以基于与上述当前的工序所对应的上述过去的事故与过去的潜在危险的至少一方相关的信息,将用于促使上述使用者注意的声音从上述发声体输出。根据该方式的头戴式显示装置,注意信息生成部还能够通过声音而促使使用者注意。
(26)在上述其他方式的头戴式显示装置中,还具备触觉刺激部,其对上述使用者而施加通过触觉的刺激,上述注意信息生成部也可以基于与上述当前的工序所对应的上述过去的事故与过去的潜在危险的至少一方相关的信息,为了对上述使用者提醒注意,使上述触觉刺激部工作。根据该方式的头戴式显示装置,注意信息生成部还能够经由通过触觉的刺激,以促使使用者注意。
(26)根据本发明的其他方式,提供一种作业支援***。该作业支援***具备上述方式的头戴式显示装置与服务器,上述服务器具备第一表,其存储表示上述作业所包含的上述工序的信息与表示在该工序内上述使用者应该实施的内容的信息的关联;第二表,其存储表示上述作业所包含的上述工序的信息和与该工序内的过去的事故与过去的潜在危险中的至少一方相关的信息的关联;以及发送部,其根据来自上述头戴式显示装置的要求发送存储于上述第一表的信息与存储于上述第二表的信息中的至少一方。根据该方式的作业支援***,能够使第一表与第二表预先存储于作为与头戴式显示装置不同的装置的服务器中,且头戴式显示装置能够从服务器取得第一表以及第二表的信息。这样,能够使存储于一台的服务器的第一表以及第二表的信息在多台的头戴式显示装置中共享。其结果,与在各个头戴式显示装置中分别具备第一表以及第二表的结构比较,减少更新表所需要的劳力。
上述的本发明的各方式的具有的多个构成要素并不是全部必需的,为了解决上述的课题的一部分或者全部,或者为了实现本说明书所记载的效果的一部分或者全部,能够适当地对于上述多个构成要素的一部分的构成要素进行其变更、删除、与新的构成要素的替换、限定内容的一部分的删除。另外,为了解决上述的课题的一部分或者全部,或者为了实现本说明书所记载的效果的一部分或者全部,能够将上述的本发明的一个方式所包含的技术特征的一部分或者全部与上述的本发明的其他方式所包含的技术特征的一部分或者全部组合而成为本发明的单独的一个方式。
例如,本发明的一个方式作为具备图像取得部、注意信息生成部、图像显示部三个要素中的一部分或者全部的要素的装置而能够实现。即,该装置可以具有图像取得部,也可以没有。另外,该装置可以具有注意信息生成部,也可以不具有。另外,该装置可以具有图像显示部,也可以不具有。这样的装置例如作为头戴式显示装置而能够实现,但作为头戴式显示装置以外的其他的装置也能够实现。前述的头戴式显示装置的各方式的技术特征的一部分或者全部都能够应用于该装置。
此外,本发明能够通过各种方式实现,例如,能够通过用于实现头戴式显示装置以及头戴式显示装置的控制方法、作业支援装置以及作业支援装置的控制方法、作业支援***,这些方法、装置或者***的功能的计算机程序、记录该计算机程序的非暂时的记录介质等的方式来实现。
附图说明
图1是表示本发明的第一实施方式的头戴式显示装置的简要结构的说明图。
图2是功能性地表示头戴式显示器的结构的框图。
图3是表示通过图像光生成部而将图像光射出的情况的说明图。
图4是表示使用者所识别的虚像的一个例子的说明图。
图5是表示第一实施方式的注意唤起处理的工序的流程图。
图6是表示通过摄像机而拍摄的外景图像的一个例子的说明图。
图7是表示关于形状的注意信息的例子的说明图。
图8是表示关于温度的注意信息的例子的说明图。
图9是表示关于温度的注意信息的例子的说明图。
图10是表示使用者能够视认的像的一个例子的说明图。
图11是功能性地表示第二实施方式的头戴式显示器的结构的框图。
图12是表示工序管理表的一个例子的说明图。
图13是表示第二实施方式的工序管理处理的工序的流程图。
图14是表示关于事例的注意信息的例子的说明图。
图15是表示工序信息的例子的说明图。
图16是表示使用者能够视认的像的一个例子的说明图。
图17是用于对处理(I)进行说明的说明图。
图18是用于对处理(II)进行说明的说明图。
图19是表示变形例的头戴式显示器的外观的结构的说明图。
具体实施方式
A.第一实施方式:
A-1.头戴式显示装置的结构:
图1是表示本发明的一个实施方式的头戴式显示装置的简要结构的说明图。头戴式显示装置100是佩戴于头部的显示装置,也被称为头戴式显示器(Head MountedDisplay,HMD)。本实施方式的头戴式显示器100是使用者在视认虚像的同时也能够直接视认外景的光学透过式的头戴式显示装置。
头戴式显示器100具备:图像显示部20,其在佩戴于使用者的头部的状态下使使用者视认虚像;以及控制部(控制器)10,其对图像显示部20进行控制。
图像显示部20是佩戴于使用者的头部的佩戴体,在本实施方式中具有眼镜形状。图像显示部20包含右保持部21、右显示驱动部22、左保持部23、左显示驱动部24、右光学影像显示部26、左光学影像显示部28、摄像机61以及热成像仪62。右光学影像显示部26以及左光学影像显示部28在使用者佩戴图像显示部20时,以分别位于使用者的右以及左的眼前的方式配置。右光学影像显示部26的一端与左光学影像显示部28的一端在与使用者佩戴图像显示部20时的使用者的眉间所对应的位置上相互连接。
右保持部21是从作为右光学影像显示部26的另一端的端部ER,到与使用者佩戴图像显示部20时的使用者的头部一侧所对应的位置,延伸而设置的部件。相同地,左保持部23是从作为左光学影像显示部28的另一端的端部EL,到与使用者佩戴图像显示部20时的使用者的头部一侧所对应的位置,延伸而设置的部件。右保持部21以及左保持部23成为眼镜的眼镜腿(镜腿),将图像显示部20保持在使用者的头部。
右显示驱动部22配置于右保持部21的内侧,换言之,配置在使用者佩戴图像显示部20时与使用者的头部对置的一侧。另外,左显示驱动部24配置于左保持部23的内侧。此外,以下,也对右保持部21以及左保持部23进行总称而仅将其称为“保持部”,也将右显示驱动部22以及左显示驱动部24进行总称而仅将其称为“显示驱动部”,也将右光学影像显示部26以及左光学影像显示部28进行总称而仅将其称为“光学影像显示部”。
显示驱动部包含液晶显示器(Liquid Crystal Display,以下称为“LCD”)241、242、投影光学***251、252等(参照图2)。显示驱动部的结构的详细情况将后述。作为光学部件的光学影像显示部包含导光板261、262(参照图2)与调光板。导光板261、262由透光性的树脂材料等形成,且将从显示驱动部输出的图像光导入使用者的眼睛。调光板是薄板状的光学元件,且以覆盖图像显示部20的表侧(与使用者的眼睛的一侧相反的一侧)的方式配置。调光板保护导光板261、262,且抑制导光板261、262的损伤、污渍的附着等。另外,通过对调光板的透光率进行调整,对进入使用者的眼睛的外部光量进行调整,从而能够对虚像视认的容易程度进行调整。此外,调光板可以省略。
摄像机61与热成像仪62配置于使用者佩戴图像显示部20时与使用者的眉间所对应的位置。摄像机61对图像显示部20的表侧方向,换言之,佩戴头戴式显示器100的状态的使用者的视场方向的外景(外部的景色)进行拍摄,取得外景图像。摄像机61是所谓的可见光摄像机,通过摄像机61取得的外景图像是由从物体放射的可见光来表示物体的形状的图像。本实施方式的摄像机61是单眼摄像机,但也可以是立体摄像机。热成像仪62与摄像机61相同地,拍摄图像显示部20的表侧方向的外景,得到温度分布图像。热成像仪62是所谓的红外线热成像仪,检测从物体放射的红外线,将检测的红外线能量的量换算为温度,生成表示温度的分布的温度分布图像(红外线热图像)。摄像机61以及热成像仪62也作为“图像取得部”发挥功能。
图像显示部20还具有用于将图像显示部20连接于控制部10的连接部40。连接部40包含连接于控制部10的主体软线48、主体软线48分叉为两条的右软线42以及左软线44、以及设置于分叉点的连结部件46。右软线42从右保持部21的延伸方向的前端部AP***右保持部21的壳体内,且连接于右显示驱动部22。相同地,左软线44从左保持部23的延伸方向的前端部AP***左保持部23的壳体内,且连接于左显示驱动部24。在连结部件46上设置有用于连接耳机插头30的插孔。从耳机插头30延伸有右耳机32以及左耳机34。
图像显示部20与控制部10经由连接部40进行各种信号的传输。在主体软线48的与连结部件46相反的一侧的端部与控制部10上分别设置有相互嵌合的连接器(省略图示),通过主体软线48的连接器和控制部10的连接器的嵌合/嵌合解除,控制部10与图像显示部20连接或者分开。对于右软线42、左软线44以及主体软线48,能够采用例如金属电缆、光纤。
控制部10是用于控制头戴式显示器100的装置。控制部10包含点亮部12、触控板14、十字键16以及电源开关18。点亮部12通过其发光状态来通知头戴式显示器100的动作状态(例如,电源的ON/OFF等)。作为点亮部12能够使用例如LED(Light Emitting Diode)。触控板14检测在触控板14的操作面上的接触操作,从而输出与检测内容相对应的信号。作为触控板14能够采用静电式、压力检测式、光学式之类的各种触控板。十字键16检测朝向与上下左右方向对应的键的按下操作,从而输出与检测内容相对应的信号。电源开关18通过检测开关的滑动操作来切换头戴式显示器100的电源的状态。
图2是功能性地表示头戴式显示器100的结构的框图。控制部10具备输入信息取得部110、存储部120、电源130、无线通信部132、CPU140、接口180、以及发送部(Tx)51以及52,各部通过未图示的总线相互连接。
输入信息取得部110例如取得与对触控板14、十字键16、电源开关18的输入操作相对应的信号。存储部120由ROM、RAM、DRAM、硬盘等构成。电源130对头戴式显示器100的各部分供给电力。作为电源130能够使用例如二次电池。无线通信部132根据无线LAN、蓝牙之类的规定的无线通信标准进行与其他的机器之间的无线通信。
CPU140通过读出储存于存储部120的计算机程序并执行,而作为操作***(ОS)150、图像处理部160、声音处理部170、显示控制部190、以及注意信息生成部142发挥功能。注意信息生成部142是执行注意唤起处理的应用程序。注意唤起处理是基于通过摄像机61取得的外景图像、通过热成像仪62取得的温度分布图像,推断使用者的视场方向的注意点,对使用者唤起注意的处理。
图像处理部160基于经由接口180、无线通信部132输入的内容(影像)而生成信号。而且,图像处理部160经由连接部40将生成的信号供给至图像显示部20。用于供给至图像显示部20的信号在模拟形式与数字形式的情况下不同。在模拟形式的情况下,图像处理部160生成、发送时钟信号PCLK、垂直同步信号VSync、水平同步信号HSync以及图像数据Data。具体而言,图像处理部160取得内容中包含的图像信号。例如在取得的图像信号为动态图像的情况下,取得的图像信号通常是由每秒三十个帧图像构成的模拟信号。图像处理部160从取得的图像信号将垂直同步信号VSync、水平同步信号HSync等的同步信号分离,且与它们的周期相对应地通过PLL电路等生成时钟信号PCLK。图像处理部160使用A/D变换电路等而将被分离了同步信号的模拟图像信号转换成数字图像信号。图像处理部160将转换后的数字图像信号作为RGB数据的图像数据Data,一帧一帧地储存于存储部120内的DRAM。另一方面,在数字形式的情况下,图像处理部160生成、发送时钟信号PCLK与图像数据Data。具体而言,在内容是数字形式的情况下,由于时钟信号PCLK与图像信号同步地输出,所以不需要垂直同步信号VSync以及水平同步信号HSync的生成和模拟图像信号的A/D转换。此外,图像处理部160也可以针对储存于存储部120的图像数据Data执行分辨率变换处理、亮度以及彩度的调整之类的各种的色调修正处理、梯形失真修正处理等的图像处理。
图像处理部160经由发送部51、52而分别发送生成的时钟信号PCLK、垂直同步信号VSync、水平同步信号HSync以及储存于存储部120内的DRAM的图像数据Data。此外,将经由发送部51发送的图像数据Data称为“右眼用图像数据”,将经由发送部52发送的图像数据Data称为“左眼用图像数据”。发送部51、52作为用于控制部10与图像显示部20之间的串行传输的收发器而发挥功能。
显示控制部190生成对右显示驱动部22以及左显示驱动部24进行控制的控制信号。具体而言,显示控制部190通过控制信号,分别单独地控制由右LCD控制部211所产生的右LCD241的驱动ON/OFF和由右背光灯控制部201所产生的右背光灯221的驱动ON/OFF、由左LCD控制部212所产生的左LCD242的驱动ON/OFF和由左背光灯控制部202所产生的左背光灯222的驱动ON/OFF等,因而对由右显示驱动部22以及左显示驱动部24分别所产生的图像光的生成以及射出进行控制。例如,显示控制部190使右显示驱动部22以及左显示驱动部24两者生成图像光,或仅使一方生成图像光,或使两者都不生成图像光。另外,显示控制部190经由发送部51以及52分别发送针对右LCD控制部211与左LCD控制部212的控制信号。另外,显示控制部190分别发送针对右背光灯控制部201与左背光灯控制部202的控制信号。
声音处理部170取得内容中包含的声音信号,且对取得的声音信号进行增幅,供给至连接于连结部件46的右耳机32内的未图示扬声器以及左耳机34内的未图示的扬声器。此外,例如在采用Dolby(注册商标)***的情况下,进行对声音信号的处理,从右耳机32以及左耳机34分别输出例如改变了频率等的不同的声音。
接口180是用于相对于控制部10连接成为内容的供给源的各种外部机器OA的接口。作为外部机器ОA,例如有个人计算机PC、移动电话终端、游戏终端等。作为接口180,例如能够使用USB接口、微型USB接口、存储卡用接口等。
图像显示部20具备右显示驱动部22、左显示驱动部24、作为右光学影像显示部26的右导光板261、作为左光学影像显示部28的左导光板262以及摄像机61。
右显示驱动部22包含接收部(Rx)53、作为光源而发挥功能的右背光灯(BL)控制部201以及右背光灯(BL)221、作为显示元件而发挥功能的右LCD控制部211以及右LCD241、以及右投影光学***251。此外,也将右背光灯控制部201、右LCD控制部211、右背光灯221以及右LCD241总称而称为“图像光生成部”。
接收部53作为用于控制部10与图像显示部20之间的串行传输的接收器而发挥功能。右背光灯控制部201基于输入的控制信号而驱动右背光灯221。右背光灯221是例如LED、电致发光(EL)等的发光体。右LCD控制部211基于经由接收部53而输入的时钟信号PCLK、垂直同步信号VSync、水平同步信号HSync以及右眼用图像数据Data1来驱动右LCD241。右LCD241是将多个像素配置为矩阵状的透过式液晶面板。
右投影光学***251由使从右LCD241射出的图像光成为并行状态的光束的准直透镜构成。作为右光学影像显示部26的右导光板261,使从右投影光学***251输出的图像光沿规定的光路反射并导入使用者的右眼RE。此外,也将右投影光学***251与右导光板261总称而称为“导光部”。对于导光部而言,只要是使用图像光而在使用者的眼前形成虚像,能够采用任意的方式,例如,也可以使用衍射光栅,也可以使用半透过反射膜。
左显示驱动部24具有与右显示驱动部22相同的结构。即,左显示驱动部24包含接收部(Rx)54、作为光源而发挥功能的左背光灯(BL)控制部202以及左背光灯(BL)222、作为显示元件而发挥功能的左LCD控制部212以及左LCD242、以及左投影光学***252。省略详细的说明。
图3是表示通过图像光生成部而射出图像光的情况的说明图。右LCD241通过驱动配置为矩阵状的各像素位置的液晶来使透过右LCD241的光的透过率变化,因而将从右背光灯221照射的照明光IL向表示图像的有效图像光PL调制。左侧也相同。此外,如图3所示,在本实施方式中采用背光灯方式,但也可以采用正面光方式、反射方式而作为射出图像光的结构。
图4是表示使用者所识别的虚像的一个例子的说明图。图4举例说明使用者的视场VR。如上述那样,通过导入头戴式显示器100的使用者的两眼的图像光在使用者的网膜上成像,因而使用者视认虚像VI。另外,关于使用者的视场VR中的虚像VI所显示的部分以外,使用者透过右光学影像显示部26以及左光学影像显示部28而视认外景SC。在图4所示的例子中,外景SC是放置有台锯的工作现场的情景。此外,对于头戴式显示器100而言,关于视场VR中的与虚像VI重复的部分,使用者也能够在虚像VI的背后视认外景SC。
A-2.注意唤起处理:
图5是表示第一实施方式的注意唤起处理的工序的流程图。注意唤起处理是推断使用者的视场方向的注意点,且向使用者唤起注意的处理。能够任意地决定注意唤起处理的开始触发器。例如,可以将头戴式显示器100起动,换言之,检测电源的ON作为开始触发器。另外,例如,也可以将来自OS150或特定的应用的处理开始要求作为开始触发器。此外,在注意唤起处理从特定的应用被调出而执行的情况下,注意唤起处理作为特定的应用的子程序而运行。
注意信息生成部142从摄像机61取得外景图像(步骤S102)。具体而言,注意信息生成部142起动摄像机61,且对摄像机61指示拍摄,取得通过摄像机61而拍摄的外景图像。
图6是表示通过摄像机61而拍摄的外景图像的一个例子的说明图。在图6的例子中,外景图像是放置有台锯的工作现场的图像。在取得外景图像之后,注意信息生成部142通过对外景图像进行图像识别,推断使用者的视场方向的注意点(图5,步骤S104)。在本实施方式中,使用者的视场方向的注意点意味着存在于佩戴头戴式显示器100的状态下的使用者的视线的方向的场所中的危险的场所和预知危险的场所。在步骤S104中,具体地将以下的那样的场所作为“危险的场所和预知危险的场所”。
(a1)有可能损伤使用者的身体、衣服的锐角部。例如,台锯的锯刃、切削机械的夹具、旋转钻头的前端工具等。
(a2)有可能将使用者的身体、衣服夹入的夹入部。例如,冲压机器的垫板和滑板、加工中心的工作台和边框等。
(a3)有可能将使用者的身体、衣服卷入的卷入部。例如,圆盘锯床的辊、搅拌机的搅拌叶片等。
注意信息生成部142,对外景图像进行图像识别,从而确定与预先存储于存储部120的图案一致的位置,因而从外景图像确定与上述的场所(a1)~(a3)相当的场所。在图6的外景图像的例子中,注意信息生成部142确定作为与场所(a1)相当的场所的台锯的锯刃部分。这样,注意信息生成部142采用图像识别与图案对照的手法,确定锐角部、夹入部以及卷入部,因而不需要单独地预先准备的关于危险场所的信息,也能够推断使用者的视场方向的注意点。
推断出注意点之后,注意信息生成部142生成关于形状的注意信息(图5,步骤S106)。具体而言,注意信息生成部142通过在步骤S104确定的场所的附近配置规定的图像,而生成关于形状的注意信息。
图7是表示关于形状的注意信息CP1的例子的说明图。图7(A)表示注意信息CP1的第一例。在图7(A)的注意信息CP1中,在步骤S104所确定的场所(即,台锯的锯刃部分)的附近,配置有图标图像IC1,其由作为使使用者联想为警告的文字“!”与用于强调作为图标的意思的三角形的组合所构成。此外,在步骤S104所确定的场所有多个的情况下,对该多个场所分别配置图标图像IC1。另外,图7(A)所示的图标图像IC1毕竟只是一个例子,且作为配置于注意信息CP1的图像,只要是使使用者联想为警告的文字、图案、图形、以及由这些组合而构成的图像,采用怎样的图像都可以。例如,可以使用“注意”、“危险”等文字,也可以使用箭头等图形。另外,例如,也可以进行根据财团法人家电制品协会(AEHA,Association forElectric Home Appliances)、关于化学品的分类以及显示的全球统一***(GHS,GloballyHarmonized System of Classification and Labelling of Chemicals)等的规定的团体、标准的推荐的显示。这样,注意信息生成部142能够生成可对使用者传递容易理解为应该注意的主旨的注意信息。
图7(B)表示注意信息CP1的第二例。在图7(B)的注意信息CP1中,与步骤S104所确定的场所(即,台锯的锯刃部分)重叠地配置具有与台锯的锯刃的形状对应地弯曲的椭圆形形状的图形SB1。此外,在步骤S104所确定的场所为多个的情况下,对该多个场所,配置具有分别对应的形状的图形SB1。另外,图7(B)所示的图形SB1毕竟只是一个例子,且作为配置于注意信息CP1的图像,只要是由具有与步骤S104所确定的场所的形状对应的形状的图形所构成的图像,采用怎样的图像都可以。例如,为了更加唤起注意,也可以在图形SB1的框的内侧附上颜色。另外,图形SB1也可以不重叠显示,而配置于步骤S104所确定的场所的附近。这样,注意信息生成部142能够生成可对使用者传递使其容易地明白应该注意的场所的注意信息。
生成关于形状的注意信息之后,在图5的步骤S108中,注意信息生成部142从热成像仪62取得温度分布图像。具体而言,注意信息生成部142起动热成像仪62,且对热成像仪62指示拍摄,取得通过热成像仪62拍摄的温度分布图像。
取得温度分布图像之后,注意信息生成部142通过对温度分布图像进行图像解析,因而推断使用者的视场方向的注意点(步骤S110)。在步骤S110中,具体地使以下那样的场所作为“危险的场所和预知危险的场所”。
(b1)在温度分布图像中温度在第一阈值以上的高温部。第一阈值能够任意地规定,例如,能够将其设为人触碰后会烫伤的温度。
(b2)在温度分布图像中温度在第二阈值以下的低温部。第二阈值能够任意地规定,例如,能够将其设为人触碰后皮肤组织会坏死的温度。
如图6所示,在放置有台锯的工作现场,注意信息生成部142确定作为与场所(b1)相当的场所的台锯的马达部分。
这样,注意信息生成部142通过使用温度分布图像和与温度相关的第一、第二阈值,不需要单独地预先准备的关于危险场所的信息,便能够推断使用者的视场方向的注意点。
推断出注意点之后,注意信息生成部142生成针对温度的注意信息(图5,步骤S112)。具体而言,注意信息生成部142通过在步骤S110所确定的场所的附近配置规定的图像,生成针对温度的注意信息。
图8以及图9是表示针对温度的注意信息CP2的例子的说明图。图8(A)表示注意信息CP2的第一例。在图8(A)的注意信息CP2中,与步骤S110所确定的场所(即,台锯的马达部分)重叠地配置有从温度分布图像将温度在第一阈值以上的部分抽出的抽出图像SP2。此外,在步骤S110中,在确定与场所(b2)相当的场所的情况下,作为抽出图像SP2,使用从温度分布图像将温度在第二阈值以下的部分抽出的图像。另外,在步骤S110中确定与场所(b1)、(b2)的两者相当的场所的情况下,作为抽出图像SP2,使用从温度分布图像将温度在第一阈值以上的部分和第二阈值以下的部分两者抽出的图像。另外,图形SB2也可以不重叠显示,而是配置于步骤S110所确定的场所的附近。这样,注意信息生成部142能够生成对使用者传递可容易地明白应该注意的场所的温度分布、温度变化的注意信息。另外,由于抽出图像SP2是从温度分布图像将温度超过第一或者第二阈值的场所(第二阈值的情况下超过下限的场所)抽出的图像,所以与将温度分布图像保持原样作为注意信息而使用的情况相比较,能够在不过度遮挡使用者的视场的状态下生成能够促使使用者注意的注意信息。
图8(B)表示注意信息CP2的第二例。在图8(B)的注意信息CP2中,在步骤S110所确定的场所(即,台锯的马达部分)的附近,配置有图标图像IC2,其由使使用者联想到高温注意的警告的标记与用于强调作为图标的意思的三角形的组合所构成。此外,在步骤S110所确定的场所是多个的情况下,针对该多个场所分别配置图标图像IC2。另外,图8(B)所示的图标图像IC2毕竟只是一个例子,作为配置于注意信息CP2的图像,只要是使使用者联想到警告的文字、图案、图形以及由这些的组合所构成的图像,采用怎样的图像都可以。另外,也可以进行根据规定的团体、标准的推荐的显示。详细情况与图7(A)相同。
图9表示注意信息CP2的第三例。在图9的注意信息CP2中,与步骤S110所确定的场所(即,台锯的马达部分)重叠地配置有具有与台锯的马达的形状对应的近似椭圆形形状的图形SB2。此外,在步骤S110所确定的场所是多个的情况下,针对该多个场所配置具有分别对应的形状的图形SB2。另外,图9所示的图形SB2毕竟只是一个例子,作为配置于注意信息CP2的图像,只要是由具有与步骤S110所确定的场所的形状对应的形状的图形所构成的图像,采用怎样的图像都可以。详细情况与图7(B)相同。另外,图形SB2也可以不重叠显示,而是配置于步骤S110所确定的场所的附近。
生成关于温度的注意信息之后,在图5的步骤S114中,注意信息生成部142使注意信息显示。具体而言,注意信息生成部142对图像处理部160发送关于形状的注意信息CP1与关于温度的注意信息CP2。接收注意信息CP1、CP2的图像处理部160生成使注意信息CP1、CP2形成各自的层的合成图像,且针对生成的合成图像而执行图2所说明的显示处理。其结果,如图10所示,在头戴式显示器100的使用者的视场VR中,注意信息CP1与CP2作为虚像VI而显示。本实施方式中的头戴式显示器100是使用者能够视认虚像同时也能够视认外景的光学透过式的头戴式显示器。因此,头戴式显示器100的使用者能够视认透过右光学影像显示部26以及左光学影像显示部28而可见的外景SC中的工作现场与作为虚像VI而可见的注意信息CP1、CP2重叠的状态。
图10是表示使用者能够视认的像的一个例子的说明图。图10(A)表示使用者能够视认的像的第一例。在第一例中,在注意唤起处理的步骤S104所确定的场所(即,台锯的锯刃部分)的附近配置有用于对使用者唤起注意的图标图像IC1。并且在第一例中,与注意唤起处理的步骤S110所确定的场所(即,台锯的马达部分)重叠地配置有用于对使用者唤起注意的抽出图像SP2。图10(B)表示使用者能够视认的像的第二例。在第二例中,与步骤S104所确定的场所(即,台锯的锯刃部分)重叠地配置有用于对使用者唤起注意的图形SB1。并且在第二例中,在步骤S110所确定的场所(即,台锯的马达部分)的附近配置有用于对使用者唤起注意的图标图像IC2。
此外,也可以只执行注意唤起处理的步骤S102~S106所示的“关于形状的注意信息CP2的生成处理”与步骤S108~S112所示的“关于温度的注意信息CP2的生成处理”中的任意一个。
如上所述,在第一实施方式的注意唤起处理(图5)中,注意信息生成部142基于使用者的视场方向的图像(图6)而生成注意信息CP1、CP2,图像显示部20使生成的注意信息CP1、CP2作为虚像让使用者视认。注意信息生成部142通过外景图像的图像识别或者温度分布图像的图像解析而推断使用者的视场方向的注意点。因此,不需要单独地预先准备的与危险场所有关的信息,便能够推断出使用者的视场方向的危险等的注意点,从而能够实现能够促使使用者注意的头戴式显示器100(头戴式显示装置)。
并且,注意信息生成部142生成在使用者需要注意的场所的附近配置规定的图像(例如,图标图像IC1、图形SB1、抽出图像SP2、图标图像IC2以及图形SB2等)的注意信息CP1、CP2。因此,头戴式显示器100(头戴式显示装置)能够在不过度遮挡使用者的视场的状态下,促使使用者注意。另外,规定的图像(例如,图标图像IC1、图形SB1、抽出图像SP2、图标图像IC2以及图形SB2等)由于配置于使用者需要注意的场所的附近,所以能够将应该注意的场所容易理解地对使用者传递。
A-3.注意唤起处理的附加处理:
此外,在注意唤起处理(图5)中,还可以进行以下那样的附加处理1~3。附加处理1~3可以单独地附加,也可以组合而附加。
A-3-1.附加处理1:
在附加处理1中,进行虚像的显示区域与图像取得部(摄像机61、热成像仪62)的取得区域的校正。注意信息生成部142在注意唤起处理(图5)之前进行下述A~G所示的处理。
(A)在存储部120预先存储用于校正的引导图像的图像数据(以下也称为“引导图像数据”。)。引导图像是用于对头戴式显示器100的使用者表示虚像的显示区域的端部的图像。例如,引导图像是具有与右LCD241以及左LCD242相同的长宽比的矩形形状,是具有全白色的背景的图像,且在其四角与位于对角线的交点的部分能够使之成为具有圆形的引导标记的图像。
(B)注意信息生成部142读出储存于存储部120的引导图像数据而向图像处理部160发送引导图像数据。在接收引导图像数据的图像处理部160中,执行图2所说明的处理。其结果,在头戴式显示器100的使用者的视场VR中,引导图像作为虚像VI而显示。
(C)注意信息生成部142以按顺序指示作为虚像VI显示的引导图像的引导标记的方式对使用者进行引导。作为对使用者的引导的方法,可以使用采用对话框等的消息,也可以进行通过声音的引导。通过声音的引导能够不遮挡显示中的引导图像地进行引导,因而优选。
(D)注意信息生成部142使摄像机61拍摄外景图像。
(E)注意信息生成部142对通过摄像机61拍摄的外景图像进行图像识别而确定人的指尖的位置。注意信息生成部142取得关于各个引导标记的指尖位置的坐标,且向存储部120保存。例如,指尖位置的坐标能够定义为使外景图像的最左上部分的像素作为(0,0)点的情况下的X方向、Y方向的移动量。
(F)注意信息生成部142反复进行关于全部的引导标记的外景图像的取得、指尖位置的坐标取得、坐标的保存的一系列的处理。然后,注意信息生成部142使引导图像的显示结束。这样,注意信息生成部142预先取得摄像机61的拍摄区域与虚像VI的显示区域重复的区域。此外,将摄像机61的拍摄区域(取得区域)与虚像VI的显示区域重复的区域称为“重复区域”。
(G)注意信息生成部142在注意唤起处理(图5)的步骤S104中,对通过摄像机61拍摄的外景图像中的重复区域内的图像进行图像识别。而且,在步骤S106中生成与重复区域对应的注意信息CP1。相同地,注意信息生成部142在注意唤起处理的步骤S110中,对通过热成像仪62拍摄的温度分布图像的中的重复区域内的图像进行图像解析。而且,在步骤S112中生成与重复区域对应的注意信息CP2。
此外,在上述内容中,表示了将摄像机61的图像取得区域与热成像仪62的图像取得区域相同作为前提而仅在摄像机61进行校正的工序。然而,在摄像机61的图像取得区域与热成像仪62的图像取得区域不同的情况下,关于热成像仪62也能够进行与上述相同的处理。
这样,注意信息生成部142能够针对虚像VI的显示区域、摄像机61以及热成像仪62(图像取得部)的取得区域重叠的重复区域生成注意信息CP1、CP2。因此,能够减少作为在透过式的头戴式显示器100(头戴式显示装置)中所产生的课题的“使用者在自身的视场直接视认的像与通过图像显示部20而视认的虚像VI之间的错位”的产生。其结果,在使注意信息CP1、CP2作为虚像而被视认的情况下,能够减少给予使用者的不协调感。
A-3-2.附加处理2:
在附加处理2中,利用声音而对头戴式显示器100的使用者提醒注意。注意信息生成部142在注意唤起处理(图5)中,进行下述H~J所示的处理。
(H)注意信息生成部142在注意唤起处理(图5)的步骤S106中,除了注意信息CP1的生成,还生成唤起注意用的声音数据。优选声音数据与步骤S104中确定的场所的种类a1~a3对应地变更。例如,在步骤S104中与场所(a2)相当的场所被确定的情况下,注意信息生成部142生成“存在有可能将身体、衣服夹入的场所。请注意。”等的声音数据。
(I)注意信息生成部142在注意唤起处理的步骤S112中,除了注意信息CP2的生成,还生成唤起注意用的声音数据。优选声音数据与在步骤S110中确定的场所的种类b1、b2对应地变更。例如,在步骤S110中与场所(b1)相当的场所被确定的情况下,注意信息生成部142生成“存在高温的场所。请注意烫伤。”等的声音数据。
(J)注意信息生成部142在注意唤起处理的步骤S114中,除了注意信息,还向声音处理部170发送通过上述的处理H、I生成的声音数据。接收声音数据的声音处理部170基于取得的声音数据,对右耳机32的扬声器(发声体)与左耳机34的扬声器(发声体)供给声音信号。
这样,注意信息生成部142还能够通过声音而对头戴式显示器100的使用者提醒注意。
A-3-3.附加处理3:
在附加处理3中,利用通过触觉的刺激而对头戴式显示器100的使用者提醒注意。为了实现附加处理3,在图1所示的头戴式显示器100中,构成为在右保持部21以及左保持部23的内侧,换言之,在头戴式显示器100的佩戴时的与使用者的头部对置一侧,且头戴式显示器100的佩戴时的与使用者的头部侧方对应的位置,具备加压部与振动马达。
加压部在能够伸缩的外侧部件中内含空气。加压部通过使内含的空气量增减,能够使自身的体积增减。在头戴式显示器100佩戴于使用者的头部的状态下,通过使加压部的体积增加,对使用者的头部施加压力,换言之,能够对使用者施加通过触觉的刺激。加压部的外侧部件优选例如通过橡胶、聚氨基甲酸乙酯等的可以接触皮肤的材料形成。这样,能够增强头戴式显示器100的佩戴感。
振动马达在马达的轴上设置有用于偏芯旋转的锭子,且在工作时能够产生振动。在头戴式显示器100佩戴于使用者的头部的状态下,通过振动马达使马达工作,因而能够对使用者的头部施加振动,换言之,能够对使用者施加通过触觉的刺激。此外,也将加压部和振动马达总称而称为“触觉刺激部”。
注意信息生成部142在注意唤起处理的步骤S114中,除了注意信息的发送,还使加压部和振动马达工作。此外,此时,也可以与步骤S104以及步骤S110所确定的场所对应地使加压部的驱动等级(加压强度)与振动马达的驱动等级(振动强度、振动周期)变化。
这样,注意信息生成部142还能够利用通过触觉的刺激而对头戴式显示器100的使用者提醒注意。
B.第二实施方式:
在本发明的第二实施方式中,在头戴式显示装置中,对能够支援使用者进行的作业,并且能够将伴随该作业的危险等注意点对使用者通知的结构进行说明。以下,只对具有与第一实施方式不同的结构以及动作的部分进行说明。此外,在图中,对与第一实施方式相同的结构部分附予与之前说明的第一实施方式相同的附图标记,且省略其详细的说明。
B-1.头戴式显示装置的结构:
图11是功能性地表示第二实施方式的头戴式显示器100a的结构的框图。与图2所示的第一实施例的不同点是具备控制部10a来代替控制部10的这一点。控制部10a具备注意信息生成部142a来代替注意信息生成部142,并且具备工序管理部144、工序管理表122。注意信息生成部142a与工序管理部144通过协作来执行工序管理处理。
图12是表示工序管理表122的一个例子的说明图。工序管理表122是在后述的工序管理处理中使用的表。工序管理表122预先储存于存储部120内。工序管理表122包含作业编号、工序编号、工序名、指示内容、潜在危险事例(ヒヤリハット)、事故事例以及限制的字段(field)。
在作业编号中储存有用于唯一地视认作业的识别码。识别码由字符串构成,例如能够为英数字的组合。在工序编号以下的各字段储存有与通过作业编号特定出的作业所包含的多个工序相关的各种信息。
在工序编号中储存有用于唯一地视认工序的识别码。识别码由字符串构成,例如能够是英数字的组合。在图12的例子中,作业内的多个工序假定按照工序编号的升序进行。工序名称中储存有该工序的名称。指示内容中储存有表示在该工序中使用者应该实施的内容的信息。此外,在图12的例子中,通过对使用者的引导文的形式的文章来表现指示内容,但指示内容的文章形式能够任意地决定。另外,指示内容并不局限于文章,可以通过照片、附图(装配图、配置。图、电路图等)来表现,也可以通过组合它们来表现。
在潜在危险事例中储存有该工序中过去发生过的险些酿成事故的事例的有无。此外,潜在危险意味着虽不至于导致事故,但与事故一步之遥,换言之,即使导致事故也不觉得奇怪的事例的发现。在事故事例中储存有在该工序中过去所产生的事故事例的有无。此外,事故也包含灾害。在限制中储存有表示在从该工序转换为下一个工序之间注意信息生成部142a应该确认的事项的信息。详细情况将后述。
在图12的例子中,例如,可知由作业编号1识别的作业中包含工序编号1~27所识别的27个工序。另外,由工序编号1所识别的工序中,可知使用者应该实施的内容是“木材的准备”。并且,在工序编号1所识别的工序中,可知在过去没有潜在危险事例以及事故事例。并且,可知在从工序编号1所识别的工序转换为下一个工序,即到转换为由工序编号2所识别的工序前的期间,没有注意信息生成部142a应该确认的事项。这样,工序管理表122对工序、该工序内使用者应该实施的内容、在该工序内的与过去的事故以及潜在危险相关的信息建立联系。
B-2.工序管理处理:
图13表示第二实施方式的工序管理处理的工序的流程图。在第二实施方式中,执行图13所示的工序管理处理来代替图5所说明的注意唤起处理。工序管理处理是,支援使用者进行的作业并且将伴随该作业的危险等注意点通知使用者的处理。工序管理处理的开始触发器能够任意地决定。例如,可以将头戴式显示器100a起动作为开始触发器,也可以将来自OS150、特定的应用的处理开始要求作为开始触发器。此外,在工序管理处理从特定的应用被调出而执行的情况下,工序管理处理作为特定的应用的子程序而工作。
工序管理部144确定当前的工序(步骤S202)。具体而言,工序管理部144起动摄像机61,对摄像机61指示拍摄,且取得通过摄像机61拍摄的外景图像。工序管理部144通过对取得的外景图像进行图像识别,因而从储存于工序管理表122的多个工序中确定当前的工序。这样,工序管理部144基于通过摄像机61(图像取得部)取得的使用者的视场方向的图像(外景图像),能够自动地确定当前的工序。
注意信息生成部142a判定对于当前的工序是否存在事例(步骤S204)。具体而言,注意信息生成部142a参照工序管理表122的表示当前的工序的记录。而且,在该记录中的潜在危险事例的字段的值与事故事例的字段的值的至少一个是“有”的情况下,判定为有事例,其他情况下判定为无事例。在判定为无事例的情况下(步骤S204:否),注意信息生成部142a使处理向步骤S208转换。
在判定为有事例的情况下(步骤S204:是),注意信息生成部142a生成关于事例的注意信息(步骤S206)。具体而言,注意信息生成部142a参照工序管理表122,且利用与当前的工序关联的潜在危险事例与事故事例的有无而生成关于事例的注意信息。
图14是表示关于事例的注意信息CP3的例子的说明图。图14表示注意信息CP3的例1的例子。在图14(A)的注意信息CP3中,在右上侧的端部配置有图标图像IC3,其由作为使使用者联想为警告的文字“!”与用于强调作为图标的意思的三角形的组合所构成。此外,图14(A)所示的图标图像IC3毕竟只是一个例子,作为图标图像IC3,只要是由使使用者联想到警告的文字、图案、图形、以及这些的组合所构成的图像,采用怎样的图像都可以。例如,也可以进行根据规定的团体、标准的推荐的显示。
另外,在注意信息CP3的右侧的端部且图标图像IC3的下部,配置有作为促使使用者注意的图像的“有事故事例”这样的消息MG3。此外,作为消息MG3,只要是表示促使使用者注意的意思的图像,采用怎样的图像都可以。但是,优选在步骤S204判断为有潜在危险事例的情况下与判断为有事故事例的情况下,成为不同的图像。这样,注意信息生成部142a在当前的工序中存在过去事故的情况下与存在潜在危险的情况下,能够生成不同的注意信息CP3,所以使用者能够知道在当前的工序中过去发生的事例是事故还是潜在危险。
图14(B)表示注意信息CP3的第二例。在采用第二例的情况下,工序管理表122(图12)还预先存储使图形SB3配置的场所(坐标)和图形SB3的形状。使图形SB3配置的场所优选在过去发生了事故或者有潜在危险的场所的附近。在图14(B)的注意信息CP3中,在存储于工序管理表122的坐标上配置有存储于工序管理表122的形状的图形SB3。此外,在工序管理表122中存储有多个坐标和形状的组合的情况下,针对该多个坐标而配置分别对应的形状的图像SB3。另外,在右侧的端部配置有作为促使使用者注意的图像的“有事故事例”这样的消息MG3。关于消息MG3与图14(A)相同。
此外,图14(A)、图14(B)所说明的注意信息CP3可以有以下的变形。
(i)图标图像IC3、图像SB3以及消息MG3的配置能够任意地变更。然而,为了在不过度遮挡使用者的视场的状态下促使使用者注意,优选图标图像IC3与消息MG3配置于注意信息CP3的端部(换言之四个边的附近)。
(ii)注意信息生成部142a也可以与使用者的特征对应地生成不同的注意信息CP3。此外,使用者的特征包含年龄、性别、体格、对作业的熟练度中的至少一个。例如,注意信息生成部142a可以与使用者的年龄对应地变更图标图像IC3、图像SB3以及消息MG3的大小。例如,注意信息生成部142a在使用者对作业的熟练度低的情况下,在注意信息CP3中配置图标图像IC3和消息MG3,在使用者对作业的熟练度高的情况下也可以在注意信息CP3中只配置消息MG3。此外,使用者的特征可以预先取得而存储于存储部120内,也可以在每次开始工序管理处理之前取得。这样,注意信息生成部142a能够生成与使用者的特征对应的细分的注意信息CP3。
在生成关于事例的注意信息之后,在图13的步骤S208中工序管理部144生成工序信息。具体而言,工序管理部144参照工序管理表122,且利用与当前的工序关联的指示内容而生成工序信息。
图15是表示工序信息CP4的例子的说明图。图15(A)表示工序信息CP4的第一例。在图15(A)的工序信息CP4中,在下侧的端部配置有作为表示使用者应该实施的内容的图像的“请安装圆盘锯片NoXXX”这样的消息MG4。消息MG4是在工序管理表122中与当前的工序关联的指示内容字段的值。此外,消息MG4的配置能够任意地变更。但是,为了在不过度遮挡使用者的视场的状态下对使用者应该实施的内容进行引导,消息MG4优选配置于工序信息CP4的端部(换言之四个边的附近)。
图15(B)表示工序信息CP4的第二例。在图15(B)的工序信息CP4中,在下侧的端部配置有作为表示使用者应该实施的内容的图像的“请安装圆盘锯片NoXXX”这样的消息MG4。关于消息MG4与图15(A)相同。
另外,在工序信息CP4的左下侧的端部且消息MG4的上部,配置有绘制了使用者的当前位置与作为消息MG4所包含的工具的“圆盘锯片NoXXX”的位置的地图MP4。使用者的当前位置可以从预先存储于存储部120内的工作现场内的布局与当前的工序的关系推断,也可以在头戴式显示器100a上安装GPS(Global Positioning System)等的当前位置取得部而通过GPS的测位值来求得。此外,图15(B)所示的地图MP4毕竟只是一个例子,只要是用于辅助使用者的信息(图像),配置怎样的图像都可以。另外,地图MP4的配置能够任意地变更。为了在不过度地遮挡使用者的视场的状态下引导用于辅助使用者的信息,可以将用于使地图MP4显示的图标配置于工序信息CP4的端部(换言之四边的附近)。
在生成工序信息之后,在图13的步骤S210中,注意信息生成部142a使关于事例的注意信息显示,工序管理部144使工序信息显示。具体而言,注意信息生成部142a对图像处理部160发送关于事例的注意信息CP3,工序管理部144对图像处理部160发送工序信息CP4。接收注意信息CP3与工序信息CP4的图像处理部160生成使注意信息CP3与工序信息CP4作为各个层的合成图像,且对生成的合成图像执行图2所说明的显示处理。其结果,如图16所示,在头戴式显示器100a的使用者的视场VR中,注意信息CP3与工序信息CP4作为虚像VI而显示。本实施方式的头戴式显示器100a是使用者能够视认虚像同时也能够视认外景的光学透过式的头戴式显示器。因此,对于头戴式显示器100a的使用者而言,透过右光学影像显示部26以及左光学影像显示部28可见的外景SC中的工作现场与作为虚像VI可见的注意信息CP3和工序信息CP4能够在重叠的状态下被视认。
图16是表示使用者能够视认的影像的一个例子的说明图。图16(A)表示使用者能够视认的像的第一例。在第一例中,在虚像VI的右上侧的端部配置有用于对使用者唤起注意的图标图像IC3。相同地,在虚像VI的右侧的端部且图标图像IC3的下部,配置有用于对使用者唤起注意的消息MG3。在虚像VI的下侧的端部配置有表示使用者应该实施的内容的消息MG4。图16(B)表示使用者能够视认的像的第二例。在第二例中,在虚像VI的右侧的端部配置有用于对使用者唤起注意的消息MG3。相同地,在虚像VI的下侧的端部配置有表示使用者应该实施的内容的消息MG4。在虚像VI的左下侧的端部且消息MG4的上部,配置有用于辅助使用者的地图MP4。此外,在图16中,为了方便图示,透过消息MG3、消息MG4以及地图MP4而可见的外景部分省略记载。实际上,使用者能够透过消息的文字而视认台锯的腿部。关于地图也相同。
如上所述,在第二实施方式的工序管理处理(图13)的步骤S202~S210中,图像显示部20使表示关于当前的工序使用者应该实施的内容的工序信息CP4与用于在存在有预先存储于该工序的注意信息的情况下促使使用者注意的注意信息CP3的两者作为虚像VI而使使用者视认。因此,能够实现支援使用者进行的作业,并且能够将伴随该作业的注意点通知使用者的头戴式显示器100a(头戴式显示装置)。
并且,注意信息生成部142a利用存储工序和与该工序内的过去的事故、潜在危险相关的信息建立的关联的工序管理表122,能够简便地生成注意信息CP3。相同地,工序管理部144利用存储工序和与该工序内使用者应该实施的内容建立的关联的工序管理表122,能够简便地生成工序信息CP4。
在显示注意信息与工序信息之后,在图13的步骤S212中工序管理部144判定是否有针对向下一个工序转换的限制。具体而言,工序管理部144参照工序管理表122的表示当前的工序的记录。而且,在该记录的限制字段的值是“无”的情况下,判定为没有针对下一个工序的限制,在其他的情况下判定为有针对下一个工序的限制。在判定为没有针对下一个工序的限制的情况下(步骤S212:否),工序管理部144将处理向步骤S218转换。
在判定为有针对下一个工序的限制的情况下(步骤S212:是),工序管理部144执行确认处理(步骤S214)。确认处理是,为了确认作业的安全性,在从当前的工序转换至下一个工序前的期间执行的处理。确认处理的内容能够任意地决定,且能够采用与针对当前的工序的事后确认相当的处理或者与针对下一个工序的事前确认相当的处理。在本实施方式的确认处理中,大致区分为进行以下的两种处理。
(I)从使用者取得“确认”的意思表示的处理。
(II)对通过摄像机61(图像取得部)所取得的外景图像进行图像识别,且确认图像识别的结果是否满足预先确定的条件的处理,或者进行通过热成像仪62(图像取得部)所取得的温度分布图像的图像解析,且确认图像解析的结果是否满足预先确定的条件的处理。在步骤S214中通过工序管理表122的限制字段的值来决定工序管理部144执行上述(I)、(II)的哪一个处理。
图17是用于对处理(I)进行说明的说明图。处理(I)是从使用者取得“确认”的意思表示的处理。处理(I)在图12所示的工序管理表122的例子中,在限制字段的值是“OK操作”的情况下执行。工序管理部144生成用于从使用者取得“确认”的意思表示的确认用图像CW1,且向图像处理部160发送。确认用图像CW1包含询问“可以向下一个工序前进吗”这样的意思的消息、“可以”按钮、以及“不可以”按钮。图像处理部160生成使接收完毕的注意信息CP3、工序信息CP4、以及接收的确认用图像CW1成为各个层的合成图像,且针对生成的合成图像执行图2说明的显示处理。其结果,如图17所示,在头戴式显示器100a的使用者的视场VR中,除了注意信息CP3与工序信息CP4,还有确认用图像CW1作为虚像VI而显示。此外,在图17中,为了方便图示,关于透过消息MG3、消息MG4以及确认用图像CW1而可见的外景部分省略记载。
头戴式显示器100a的使用者对控制部10的触控板14、十字键16进行操作,按下“可以”按钮。控制部10向工序管理部144发送通过触控板14、十字键16的输入内容。工序管理部144在“可以”按钮被按下的情况下判定为确认处理成功。另一方面,工序管理部144在“不可以”按钮被按下的情况下判定为确认处理失败。
图18是用于对处理(II)进行说明的说明图。处理(II)是对通过摄像机61(图像取得部)取得的外景图像进行图像识别,且对图像识别的结果是否满足预先确定的条件进行确认的处理,或者是对通过热成像仪62(图像取得部)取得的温度分布图像进行图像解析,且对图像解析的结果是否满足预先确定的条件进行确认的处理。“预先确定的条件”根据确认处理的内容、换言之工序管理表122的限制字段的值而变动。在图12所示的工序管理表122的例子中,处理(II)在限制字段的值是“摘下手套”或者“安装有工件”的情况下执行。以下,对于限制字段的值是“摘下手套”的情况,并且作为确认处理采用了通过摄像机61的图像识别的情况进行举例说明。
图18(A)表示确认用图像CW2的一个例子。工序管理部144在通过摄像机61取得外景图像之前,生成用于对使用者给予指示的确认用图像CW2,向图像处理部160发送。确认用图像CW2中包含“请摘下手套将手举起至摄像机前”之类的指示消息。指示消息的内容根据确认处理的内容,换言之,工序管理表122的限制字段的值而变动。此外,指示消息并不局限于字符串,也可以是照片、插图。接收确认用图像CW2的图像处理部160进行与图17相同的处理。其结果,在使用者的视场VR中,注意信息CP3、工序信息CP4以及确认用图像CW2作为虚像VI而显示。此外,在图18(A)中,为了方便图示,关于透过确认用图像CW2而可见的外景部分省略记载。
头戴式显示器100a的使用者根据指示消息,将摘下手套的手举起至摄像机前。工序管理部144从发送确认用图像CW2开始起经过规定时间后,对摄像机61指示拍摄,取得通过摄像机61拍摄到的外景图像。工序管理部144通过对取得的外景图像进行图像识别来视认使用者光着手。工序管理部144在能够视认光着手的情况下判定为确认处理成功。另一方面,工序管理部144在无法视认光着手的情况下判定为确认处理失败。此外,在确认处理成功的情况下,工序管理部144也可以使图18(B)所示的确认用图像CW3显示。确认用图像CW3包含确认处理成功的意思的消息。此外,在图18(B)中,为了方便图示,关于透过确认用图像CW3而可见的外景部分省略记载。
在图13的步骤S216中,工序管理部144判定确认处理是否成功。在确认处理失败的情况下(步骤S216:否),工序管理部144使处理向步骤S214转换,再一次进行确认处理。在确认处理成功的情况下(步骤S216:是),工序管理部144使处理向步骤S218转换。
工序管理部144判定关于全部工序的处理是否结束(步骤S218)。具体而言,工序管理部144判定关于工序管理表122的具有相同的作业编号的全部的记录的步骤S202~S218的处理是否结束。在判定为全部工序的处理还未结束的情况下(步骤S218:否),工序管理部144使处理向步骤S202转换,作为“当前的工序”而确定下一个工序,反复进行上述的处理。在判定为全部工序处理结束的情况下(步骤S218:是),工序管理部144结束处理。
此外,图18所说明的处理(I)、(II)能够有以下的变形。
·工序管理部144也可以根据使用者的特征而分开使用处理(I)、(II)。此外,使用者的特征包含年龄、性别、体格、以及对作业的熟练度中的至少一个。
例如,工序管理部144也可以在使用者的熟练度高的情况下执行处理(I),在使用者的熟练度低的情况下执行处理(II)。这样,工序管理部144能够进行与使用者的特征对应的细分的确认处理。
·在处理(II)中,工序管理部144也可以利用与使用者的特征对应的不同的条件,来进行外景图像的图像识别结果的判定或者温度分布图像的图像解析结果的判定。
例如,工序管理部144也可以与使用者的熟练度对应,分别使用以下的条件,即、在能够视认双手是光着手的情况下判定为确认处理成功,在能够视认至少单手是光着手的情况下判定为确认处理成功,双手戴上手套也判定为确认处理成功等的条件。这样,工序管理部144能够进行与使用者的特征对应的细分的确认处理。
·在处理(II)中,工序管理部144也可以对通过热成像仪62取得的温度分布图像进行图像解析,且确认作业的安全性。例如,工序管理部144利用确认用图像CW2而使热成像仪62取得使用者的脚部的温度分布图像。工序管理部144可以对取得的温度分布图像进行图像解析,且通过确认脚尖部分的温度没有在规定温度以上,判定使用者有没有穿安全靴。这样,工序管理部144也能够从“温度”这样的观点执行确认处理。
如上所述,在第二实施方式的工序管理处理(图13)的步骤S212~S216中,工序管理部144在生成用于引导当前的工序的工序信息CP4之后,至转换至用于引导下一个工序的生成工序信息CP4之前的期间,进行步骤S214所说明的规定的确认处理。因此,在第二实施方式的头戴式显示器100a(头戴式显示装置)中,能够提高工序内的作业的安全性。具体而言,如果采用步骤S214的规定的确认处理中的处理(I),则工序管理部144在当前的工序与下一个工序之间进行针对使用者的某种确认,通过取得来自使用者的确认的意思表示,来提高工序内作业的安全性。如果采用步骤S214的规定的处理中的处理(II),则工序管理部144在当前的工序与下一个工序之间对使用者的视场方向的图像进行图像识别,通过确认图像识别的结果是否满足预先确定的条件,能够提高工序内的作业的安全性。
B-3.工序管理处理的附加处理:
此外,在工序管理处理(图13)中,还可以进行以下的附加处理1~3。附加处理1~3可以单独地附加,也可以组合地附加。
B-3-1.附加处理1:
在附加处理1中,进行虚像的显示区域与图像取得部(摄像机61、热成像仪62)的取得区域的校正。注意信息生成部142a与工序管理部144在工序管理处理(图13)之前,进行下述A~F、G1所示的处理。
(A)~(F)与第一实施方式相同,所以省略说明。但是,注意信息生成部142换为注意信息生成部142a。
(G1)注意信息生成部142a在工序管理处理(图13)的步骤S206中,生成与重复区域对应的注意信息CP3。工序管理部144在工序管理处理的步骤S218中,生成与重复区域对应的工序信息CP4。
这样,工序管理部144与注意信息生成部142a分别针对虚像VI的显示区域和摄像机61以及热成像仪62(图像取得部)的取得区域重复的重复区域,生成工序信息CP4与注意信息CP3。因此,能够减少作为透过式的头戴式显示器100(头戴式显示装置)所产生的课题的“使用者在自身的视场中直接看到的像与通过图像显示部20视认的虚像VI之间的错位”的产生。其结果,在使工序信息CP4与注意信息CP3作为虚像而视认的情况下,能够减少给予使用者的不协调感。
B-3-2.附加处理2:
在附加处理2中,利用声音促使头戴式显示器100a的使用者注意。注意信息生成部142a在工序管理处理(图13)中进行下述H1、J1所示的处理。
(H1)注意信息生成部142a在工序管理处理(图13)的步骤S206中,除了生成注意信息CP3还生成注意唤起用的声音数据。优选声音数据根据工序管理表122的潜在危险事例字段以及事故事例字段的值的有无而变更,例如,在潜在危险事例字段的值是“有”、事故事例字段的值是“无”的情况下,注意信息生成部142a生成“本工序过去有潜在危险事例。请注意。”等的声音数据。
(J1)注意信息生成部142a在工序管理处理的步骤S210中,除了注意信息,还将上述的处理H1所生成的声音数据向声音处理部170发送。接收声音数据的声音处理部170基于取得的声音数据,对右耳机32的扬声器(发声体)、左耳机34的扬声器(发声体)供给声音信号。
这样,注意信息生成部142a还能够通过声音促使头戴式显示器100a的使用者注意。此外,也能够附加利用工序管理部144生成的声音数据的生成。通过工序管理部144而生成的声音数据是将根据工序信息CP4引导的内容声音化的数据。
B-3-3.附加处理3:
在附加处理3中,利用通过触觉的刺激而促使头戴式显示器100a的使用者注意。为了实现附加处理3,在图11所示的头戴式显示器100a中,成为在右保持部21以及左保持部23的内侧具备加压部和振动马达的结构。详细情况与第一实施方式的“A-3-3.附加处理3”相同。注意信息生成部142a在工序管理处理(图13)的步骤S210中,除了注意信息的发送,还使加压部与振动马达工作。此外,此时,也可以与工序管理表122的潜在危险事例字段以及事故事例字段的值的有无对应地使加压部的驱动等级(加压强度)与振动马达的驱动等级(振动强度、振动周期)变化。
这样,注意信息生成部142a还能够利用通过触觉的刺激而促使头戴式显示器100a的使用者注意。
C.变形例:
在上述实施方式中,也可以将通过硬件实现的结构的一部分置换为软件,相反地,也可以将通过软件实现的结构的一部分置换为硬件。此外,还可以有以下的变形。
·变形例1:
在上述实施方式中,对头戴式显示器的结构举例说明。然而,头戴式显示器的结构在不脱离本发明的主旨的范围内能够任意地决定,例如,能够进行各构成部分的追加、删除、变换等。
上述实施方式中的针对控制部和图像显示部的构成要素的分配毕竟只是一个例子,能够采用各种方式。例如,也可以成为以下那样的方式。(i)在控制部搭载CPU、存储器等的处理功能,且在图像显示部只搭载显示功能的方式,(ii)在控制部与图像显示部的两者上搭载CPU、存储器等的处理功能的方式,(iii)使控制部与图像显示部一体化的方式(例如,图像显示部包含控制部且作为眼镜型的可佩戴的计算机而发挥功能的方式),(iv)利用智能手机、便携式游戏机来代替控制部的方式,(v)通过使控制部与图像显示部成为能够进行无线通信并且由无线电供电的结构而废除连接部(软线)的方式。
在上述实施方式中,为了方便说明,使控制部具备发送部,图像显示部具备接收部。然而,上述实施方式的发送部以及接收部都具备能够双向通信的功能,且能够作为信号收发部发挥功能。
例如,图2所示的控制部,图像显示部的结构能够任意地变更。具体而言,例如,可以成为从控制部省略触控板,且只通过十字键来操作的结构。另外,在控制部也可以具备操作用杆等的其他的操作用接口。另外,控制部作为能够连接键盘、鼠标等的设备的结构,也可以作为接受从键盘、鼠标的输入的设备。
例如,图2所示的控制部经由有线的信号传输路径而与图像显示部连接。然而,控制部与图像显示部也可以通过经由无线LAN、红外线通信、Bluetooth(登录商标)等的无线的信号传输路径的连接来连接。
例如,头戴式显示器是双眼类型的透过式头戴式显示器,但也可以成为单眼类型的头戴式显示器。另外,也可以作为在使用者佩戴头戴式显示器的状态下遮挡外景的透过的非透过式头戴式显示器而构成。
图19是表示变形例的头戴式显示器的外观的结构的说明图。在图19(A)的例子的情况下,与图1所示的头戴式显示器100的不同之处在于图像显示部20c具备右光学影像显示部26c来代替右光学影像显示部26这一点、以及具备左光学影像显示部28c来代替左光学影像显示部28这一点。右光学影像显示部26c形成为比第一实施方式的光学部件小,且配置于佩戴头戴式显示器时的使用者的右眼的斜上方。相同地,左光学影像显示部28c也形成为比第一实施方式的光学部件小,且配置于佩戴头戴式显示器时的使用者的左眼的斜上方。在图19(B)的例子的情况下,与图1所示的头戴式显示器100不同之处在于图像显示部20d具备右光学影像显示部26d来代替右光学影像显示部26这一点、以及具备左光学影像显示部28d来代替左光学影像显示部28这一点。右光学影像显示部26d形成为比第一实施方式的光学部件小,且配置于佩戴头戴式显示器时的使用者的右眼的斜下方。左光学影像显示部28d形成为比第一实施方式的光学部件小,且配置于佩戴头戴式显示器时的使用者的左眼的斜下方。这样,光学影像显示部只要配置于使用者的眼睛的附近即可。另外,形成光学影像显示部的光学部件的大小也是任意的,且可以做成光学影像显示部只覆盖使用者的眼镜的一部分的形式,换言之,可以做成光学影像显示部没有完全覆盖使用者的眼睛形式的头戴式显示器。
例如,将图像处理部、显示控制部、注意信息生成部、工序管理部以及声音处理部等的功能部作为通过CPU将储存于ROM、硬盘的计算机程序在RAM中展开而执行来实现的部分而记载。然而,这些功能部也可以利用为了实现该功能而设计的ASIC(ApplicationSpecific Integrated Circuit:专用集成电路)而构成。
例如,在上述实施方式中是将图像显示部像眼镜那样佩戴的头戴式显示器,但是图像显示部也可以是普通的平面型显示器装置(液晶显示器装置、等离子显示器装置、有机EL显示器装置等)。在这种情况下,控制部与图像显示部之间的连接可以经由有线的信号传输路径来连接,也可以经由无线的信号传输路径来连接。这样,能够将控制部作为普通的平面型显示器装置的遥控器使用。
另外,作为图像显示部,可以采用例如像帽子那样佩戴的图像显示部之类其他形状的图像显示部,来取代眼镜那样佩戴的图像显示部。另外,耳机可以采用挂耳式、头带式,也可以省略。另外,例如,也可以作为搭载于汽车、飞行机等的车辆的抬头显示器(HUD,Head-Up Display)而构成。另外,例如,也可以作为内置于头盔等的身体防护用具的头戴式显示器而构成。
例如,在上述实施方式中,作为电源使用二次电池,但作为电源并不局限于二次电池,也能够使用各种电池。例如,也可以使用一次电池、燃料电池、太阳能电池以及热电池等。
例如,在上述实施方式中,图像光生成部是采用背光灯、背光灯控制部、LCD、以及LCD控制部而构成的部分。然而,上述的方式毕竟只是举例说明。图像光生成部也可以在具备这些构成部的同时还具备或者取代这些构成部而具备用于实现其他方式的构成部。
例如,图像光生成部也可以构成为具备有机EL(有机电致发光、Organic Electro-Luminescence)的显示器与有机EL控制部。另外,例如,图像光生成部也能够利用数字微透镜器件(Digital Micromirror Device)等来代替LCD。另外,例如,对激光视网膜投影式的头戴式显示装置也能够应用本发明。
例如,头戴式显示器也可以具备红外线摄像机来代替热成像仪。在该情况下,注意信息生成部能够利用通过红外线摄像机取得的温度分布图像而进行与上述实施方式相同的处理。
例如,头戴式显示器也可以具备光学滤波器,其抑制与注意信息中所使用的符号(图标图像、图形、抽出图像)的色调相同的色调的光的透过。另外,也可以具备成为注意信息中所使用的符号的色调的补色的光学滤波器。这样,由于提高了注意信息中所使用的符号的可视性,所以能够对使用者更加容易理解地传递应该注意的场所。
·变形例2:
上述的第一实施方式表示注意唤起处理的一个例子。然而,图5所示的处理的工序毕竟只是一个例子,能够有各种变形。例如,也可以省略一部分的步骤,也可以追加更多的其他的步骤。另外,也可以变更执行的步骤的顺序。
例如,在第一实施方式中,使用者的视场方向的注意点意味着存在于使用者的视线的方向的场所中的危险的场所和预知有危险的场所。然而,作为使用者的视场方向的注意点并不局限于危险的场所和预知有危险的场所,也可以意味着没有危险但期望使用者加以注意的场所。
例如,在第一实施方式中,作为危险的场所和预知有危险的场所的一个例子,举例说明了锐角部、夹入部以及卷入部。然而,作为危险的场所和预知有危险的场所能够假定为各种场所。例如,也可以将高处、深处、高速旋转的物品的附近、产生强光的场所、事故多发的场所、药品等的危险物的附近、障碍物的附近、火、湿气的附近等作为危险的场所。
·变形例3:
上述的第二实施方式表示工序管理处理的一个例子。然而,图13所示的处理的工序毕竟只是一个例子,也能够有各种的变形。例如,也可省略以一部分的步骤,也可以追加更多的其他的步骤。另外,也可以变更执行的步骤的顺序。
例如,在工序管理处理的说明中,作为使用者进行的作业的例子而举例说明了制造业中的产品的制造作业。然而,作为使用者进行的作业能够假定各种的作业。具体而言,假定为汽车等的驾驶作业、起重机等的机床的操作作业、捆包作业、烹饪作业、医疗现场的手术(处置)作业以及电子设备(PC等)的操作作业等。在汽车等的驾驶作业的情况下,“路线”相当于上述实施方式的“工序”。在起重机等的机床的操作作业的情况下,“运转(操作)工序”相当于上述实施方式的“工序”。在捆包作业的情况下,“步骤”相当于上述实施方式的“工序”。在烹饪作业、医疗现场的手术(处置)作业、电子设备(PC等)的操作作业的情况下,“工序”或者“任务”相当于上述实施方式的“工序”。即,工序只要是作业所包含的步骤,用怎样的术语来表现都可以。
例如,在步骤S202中,通过对由摄像机取得的外景图像进行图像解析来确定当前的工序。然而,工序管理部也可以取代图像解析,而使图13所示的处理流程每进行一周而增加一个内部的变量,通过将该变量与工序管理表的工序编号字段的值比较,确定当前的工序。
例如,在步骤S206中,工序管理表中,在潜在危险事例与事故事例的至少一个为“有”的情况下,判定为有事例。然而,也可以只在事故事例是“有”的情况下,判定为有事例。另外,也可以使工序管理表构成为分别存储潜在危险事例与事故事例的件数,在存储于表的件数超过规定的件数的情况下,判定为有事例。另外,也可以将潜在危险事例与事故事例点数化,在存储于表的点数超过规定的值的情况下,作为有事例。列举点数化的具体例子。例如,在潜在危险1件1点、事故1件3点的情况下,过去潜在危险是2件、事故是1件的工序成为5点(1点×2件+3点×1件)。
例如,第二实施方式中生成的注意信息只显示潜在危险事例或者事故事例的“有无”。然而,也可以显示潜在危险事例与事故事例的具体的内容。另外,在通常的状态下,也可以显示用于与潜在危险事例和事故事例的具体的内容链接的图标。这样,如果成为能够显示具体的事例的内容(例如,事例的产生状况、产生原因、防止再发生策略等)的结构,则不只是用于支援使用者进行的作业,还能够为了预先学习使用者进行的作业与伴随该作业的危险而活用头戴式显示器。
例如,步骤S212~S216的规定的确认处理也可以省略。
·变形例4:
第二实施方式的工序管理处理(图13)是代替第一实施方式的注意唤起处理(图5)而执行的。然而,注意唤起处理(图5)与工序管理处理(图13)也可以并列地执行。
·变形例5:
在上述实施方式中,列举了注意信息CP1~CP3、工序信息CP4的一个例子而进行说明。然而,这些的图像并不局限于上述实施方式的例示,还能够有各种变形。
·变形例6:
上述实施方式表示工序管理表的一个例子。然而,工序管理表的详细情况毕竟只是一个例子,能够有各种的变更。例如,能够进行字段的追加、删除、变更。另外,工序管理表也可以分割为多个表而标准化。
例如,也可以另外设置用于存储潜在危险事例的详细情况的表(潜在危险事例表),在工序管理表的潜在危险事例字段存储成为潜在危险事例表的关键的字符串。关于事故事例也相同。
·变形例7:
在上述第二实施方式中,对于头戴式显示器中具备工序管理表与工序管理部,且不需要其他的装置而能够执行工序管理处理(图13)的例子进行了说明。然而,在具备头戴式显示器和设置于外部的服务器的作业支援***中,也能够实现相同的处理。
例如,使头戴式显示器成为具备工序管理部,服务器具备工序管理表的结构。在该情况下,头戴式显示器的工序管理部以及注意信息生成部对存储于服务器内的工序管理表进行访问,且参照工序管理表内的数据。这样,能够将存储于一台服务器的工序管理表(第一以及第二表)的信息在多台头戴式显示器(头戴式显示装置)中共享。其结果,与作为各个头戴式显示器中具备工序管理表的结构相比较,减少了更新工序管理表所需要的劳力。
·变形例8:
本发明并不局限于上述的实施方式、实施例、变形例,在不脱离其主旨的范围内能够通过各种结构来实现。例如,对于与发明的概要所记载的各形态中的技术的特征所对应的实施方式、实施例、变形例中的技术的特征而言,为了解决上述的课题的一部分或者全部,或者为了实现上述的效果的一部分或者全部,能够适当地进行调换、组合。另外,如果其技术的特征不是作为本说明书中所必需的内容而进行说明,能够适当地删除。
Claims (17)
1.一种头戴式显示装置,其特征在于,
是使用者能够同时视认虚像与外景的头戴式显示装置,
该头戴式显示装置具备:
图像取得部,其取得佩戴所述头戴式显示装置的状态的所述使用者的视场方向的图像;
注意信息生成部,其基于通过所述图像取得部取得的所述图像,生成作为用于促使所述使用者注意的图像的注意信息;
以及图像显示部,其将所述注意信息作为所述虚像而使所述使用者视认,
所述图像取得部根据从物体放射的可见光来取得表示物体的形状的图像,
所述注意信息生成部对通过所述图像取得部取得的所述图像进行图像识别而确定与预先存储的图案一致的位置,将所述一致的位置作为所述使用者需要注意的场所,
所述图案中包含锐角部、夹入部或卷入部中的任一种,
所述注意信息生成部从通过所述图像取得部取得的所述图像确定所述使用者需要注意的场所,并且生成针对场所的注意信息,所述注意信息被配置为将与所述已确定的场所对应的规定的图像重叠于已确定的所述场所,
在生成针对所述场所的注意信息之后,所述图像取得部检测从物体放射的红外光而取得表示温度的分布的温度分布图像,
所述注意信息生成部在通过所述图像取得部取得的所述温度分布图像中,确定温度在第一阈值以上的场所以及温度在第二阈值以下的场所,将所述温度在第一阈值以上的场所以及所述温度在第二阈值以下的场所作为所述使用者需要注意的场所,
所述注意信息生成部生成针对温度的注意信息,所述注意信息被配置为将与已确定的所述温度在第一阈值以上的场所以及所述温度在第二阈值以下的场所的形状对应的规定的图像重叠于已确定的所述温度在第一阈值以上的场所以及所述温度在第二阈值以下的场所。
2.根据权利要求1所述的头戴式显示装置,其特征在于,
所述注意信息生成部针对通过所述图像取得部取得的所述图像中的所述虚像的显示区域与所述图像取得部的取得区域重复的重复区域而生成所述注意信息。
3.根据权利要求1所述的头戴式显示装置,其特征在于,
还具备发声体,
所述注意信息生成部基于通过所述图像取得部取得的所述图像,使用于促使所述使用者注意的声音从所述发声体输出。
4.根据权利要求1~3中任一项所述的头戴式显示装置,其特征在于,
还具备触觉刺激部,其对所述使用者施加通过触觉的刺激,
所述注意信息生成部基于通过所述图像取得部取得的所述图像,使所述触觉刺激部工作,以促使所述使用者注意。
5.一种头戴式显示装置的控制方法,其特征在于,
该装置是使用者能够同时视认虚像与外景的头戴式显示装置,
该控制方法具备:
取得佩戴所述头戴式显示装置的状态的所述使用者的视场方向的图像的工序;
对通过所述图像取得部取得的所述图像进行图像识别而确定与预先存储的包含锐角部、夹入部或卷入部中的任一种图案一致的位置,将所述一致的位置作为所述使用者需要注意的场所,生成作为用于促使所述使用者注意的图像的针对场所的注意信息的工序,其中,所述注意信息被配置为将与所述已确定的场所对应的规定的图像重叠于已确定的所述场所;以及
检测佩戴所述头戴式显示装置的状态的所述使用者的视场方向的从物体放射的红外光而取得表示温度的分布的温度分布图像的工序,
在通过所述图像取得部取得的所述温度分布图像中,确定温度在第一阈值以上的场所以及温度在第二阈值以下的场所,将所述温度在第一阈值以上的场所以及所述温度在第二阈值以下的场所作为所述使用者需要注意的场所,生成作为用于促使所述使用者注意的图像的针对温度的注意信息的工序,其中,所述注意信息被配置为将与已确定的所述温度在第一阈值以上的场所以及所述温度在第二阈值以下的场所的形状对应的规定的图像重叠于已确定的所述温度在第一阈值以上的场所以及所述温度在第二阈值以下的场所,
将所述针对场所的注意信息以及所述针对温度的注意信息作为所述虚像让所述使用者视认的工序。
6.一种头戴式显示装置,其特征在于,
是使用者能够同时视认虚像与外景的头戴式显示装置,
该头戴式显示装置具备:
工序管理部,针对当前的工序,生成作为表示所述使用者应该实施的内容的图像的工序信息;
注意信息生成部,在所述当前的工序中,生成作为用于促使所述使用者注意的图像的注意信息;
图像显示部,其将所述工序信息与所述注意信息作为所述虚像而使所述使用者视认;
图像取得部,其取得佩戴所述头戴式显示装置的状态的所述使用者的视场方向的图像;
以及存储有工序管理表的存储部,
所述图像取得部根据从物体放射的可见光来取得表示物体的形状的图像,
所述工序管理部通过对所述取得的图像进行图像识别,根据在所述工序管理表存储的多个工序确定当前的工序,
所述注意信息生成部判断,在所述当前的工序中,是否存在与所述工序管理表中所包含的过去的事故和过去的潜在危险中的至少一个相关的事例的信息,
所述注意信息生成部在判断为存在与跟当前的工序建立关联的所述过去的事故和过去的潜在危险中的至少一个相关的事例的情况下,生成与该事例相关的注意信息,
所述注意信息生成部,在判断为在与该事例相关的注意信息中有所述过去的事故的事例的情况下、和判断为在与该事例相关的注意信息中有所述过去的潜在危险的事例的情况下,生成不同的图像。
7.根据权利要求6所述的头戴式显示装置,其特征在于,
所述工序管理部利用表示所述工序管理表中所包含的所述工序的信息与表示在该工序内所述使用者应该实施的内容的信息的关联,而生成与所述当前的工序所对应的所述工序信息。
8.根据权利要求6所述的头戴式显示装置,其特征在于,
所述工序管理部在生成与所述当前的工序对应的所述工序信息之后直至规定的确认处理成功,限制与下一个工序对应的所述工序信息的生成。
9.根据权利要求8所述的头戴式显示装置,其特征在于,
所述规定的确认处理是来自所述使用者的确认的意思表示的取得。
10.根据从属于权利要求8所述的头戴式显示装置,其特征在于,
所述规定的确认处理对通过所述图像取得部取得的所述图像进行图像识别,并且确认所述图像识别的结果是否满足预先确定的条件。
11.根据权利要求10所述的头戴式显示装置,其特征在于,
所述预先确定的条件与包含所述使用者的年龄、性别、体格以及对作业的熟练度中的至少一个的所述使用者的特征对应地变动。
12.根据权利要求6所述的头戴式显示装置,其特征在于,
所述注意信息生成部与包含所述使用者的年龄、性别、体格、对作业的熟练度中的至少一个的所述使用者的特征对应地生成不同的所述注意信息。
13.根据权利要求6所述的头戴式显示装置,其特征在于,
所述工序管理部针对通过所述图像取得部取得的所述图像中的所述虚像的显示区域与所述图像取得部的取得区域重复的重复区域生成所述工序信息,
所述注意信息生成部针对所述重复区域生成所述注意信息。
14.根据权利要求6所述的头戴式显示装置,其特征在于,
还具备发声体,
所述注意信息生成部基于与所述当前的工序对应的所述过去的事故与过去的潜在危险的至少一方相关的信息,使用于促使所述使用者注意的声音从所述发声体输出。
15.根据权利要求6~14中任一项所述的头戴式显示装置,其特征在于,
还具备触觉刺激部,其对所述使用者施加通过触觉的刺激,
所述注意信息生成部基于与所述当前的工序对应的所述过去的事故和过去的潜在危险的至少一方相关的信息,使所述触觉刺激部工作,以促使所述使用者注意。
16.一种头戴式显示装置的控制方法,其特征在于,
该装置是使用者同时能够视认虚像与外景的头戴式显示装置,
该控制方法具备:
(a)在当前的工序中,对通过图像取得部取得的根据从物体放射的可见光表示物体的形状的图像进行图像识别,由此从在存储部中存储的工序管理表所存储的多个工序中确定当前的工序,生成作为表示关于当前的工序中所述使用者应该实施的内容的图像的工序信息的工序;
(b)在当前的工序中,判断是否存在与所述工序管理表中所包含的过去的事故和过去的潜在危险中的至少一个相关的事例的信息,在判断为存在与跟当前的工序建立关联的所述过去的事故和过去的潜在危险中的至少一个相关的事例的情况下,在判断为有所述过去的事故的事例的情况下、和判断为有过去的潜在危险的事例的情况下,生成不同的图像作为该事例相关的用于促使所述使用者注意的图像的注意信息的工序;以及
(c)将所述工序信息与所述注意信息作为所述虚像而使所述使用者视认的工序。
17.一种作业支援***,其特征在于,
具备:
权利要求1~4及6中任一项所述的头戴式显示装置;
以及服务器,
所述服务器具备:
第一表,其存储表示所述作业所包含的所述工序的信息和表示在该工序内所述使用者应该实施的内容的信息的关联;
第二表,其存储表示所述作业所包含的所述工序的信息和与该工序内的过去的事故与过去的潜在危险中的至少一方相关的信息的关联;
以及发送部,其根据来自所述头戴式显示装置的要求,发送存储于所述第一表的信息与存储于所述第二表的信息中的至少一方。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012272166A JP6119228B2 (ja) | 2012-12-13 | 2012-12-13 | 頭部装着型表示装置、頭部装着型表示装置の制御方法、および、作業支援システム |
JP2012-272166 | 2012-12-13 | ||
JP2012272167A JP6155614B2 (ja) | 2012-12-13 | 2012-12-13 | 頭部装着型表示装置および頭部装着型表示装置の制御方法 |
JP2012-272167 | 2012-12-13 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103869469A CN103869469A (zh) | 2014-06-18 |
CN103869469B true CN103869469B (zh) | 2018-10-16 |
Family
ID=50908185
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201310674651.4A Active CN103869469B (zh) | 2012-12-13 | 2013-12-11 | 头戴式显示装置、该装置的控制方法以及作业支援*** |
Country Status (2)
Country | Link |
---|---|
US (1) | US9448407B2 (zh) |
CN (1) | CN103869469B (zh) |
Families Citing this family (117)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9229233B2 (en) | 2014-02-11 | 2016-01-05 | Osterhout Group, Inc. | Micro Doppler presentations in head worn computing |
US9400390B2 (en) | 2014-01-24 | 2016-07-26 | Osterhout Group, Inc. | Peripheral lighting for head worn computing |
US9965681B2 (en) | 2008-12-16 | 2018-05-08 | Osterhout Group, Inc. | Eye imaging in head worn computing |
US9298007B2 (en) | 2014-01-21 | 2016-03-29 | Osterhout Group, Inc. | Eye imaging in head worn computing |
US9715112B2 (en) | 2014-01-21 | 2017-07-25 | Osterhout Group, Inc. | Suppression of stray light in head worn computing |
US9952664B2 (en) | 2014-01-21 | 2018-04-24 | Osterhout Group, Inc. | Eye imaging in head worn computing |
US20150205111A1 (en) | 2014-01-21 | 2015-07-23 | Osterhout Group, Inc. | Optical configurations for head worn computing |
US9977496B2 (en) * | 2010-07-23 | 2018-05-22 | Telepatheye Inc. | Eye-wearable device user interface and augmented reality method |
JP6138566B2 (ja) * | 2013-04-24 | 2017-05-31 | 川崎重工業株式会社 | 部品取付作業支援システムおよび部品取付方法 |
US20150199106A1 (en) * | 2014-01-14 | 2015-07-16 | Caterpillar Inc. | Augmented Reality Display System |
US9529195B2 (en) | 2014-01-21 | 2016-12-27 | Osterhout Group, Inc. | See-through computer display systems |
US9575321B2 (en) | 2014-06-09 | 2017-02-21 | Osterhout Group, Inc. | Content presentation in head worn computing |
US10649220B2 (en) | 2014-06-09 | 2020-05-12 | Mentor Acquisition One, Llc | Content presentation in head worn computing |
US10191279B2 (en) | 2014-03-17 | 2019-01-29 | Osterhout Group, Inc. | Eye imaging in head worn computing |
US9810906B2 (en) | 2014-06-17 | 2017-11-07 | Osterhout Group, Inc. | External user interface for head worn computing |
US9299194B2 (en) | 2014-02-14 | 2016-03-29 | Osterhout Group, Inc. | Secure sharing in head worn computing |
US9448409B2 (en) | 2014-11-26 | 2016-09-20 | Osterhout Group, Inc. | See-through computer display systems |
US9671613B2 (en) | 2014-09-26 | 2017-06-06 | Osterhout Group, Inc. | See-through computer display systems |
US9594246B2 (en) | 2014-01-21 | 2017-03-14 | Osterhout Group, Inc. | See-through computer display systems |
US9939934B2 (en) | 2014-01-17 | 2018-04-10 | Osterhout Group, Inc. | External user interface for head worn computing |
US9841599B2 (en) | 2014-06-05 | 2017-12-12 | Osterhout Group, Inc. | Optical configurations for head-worn see-through displays |
US20150277118A1 (en) | 2014-03-28 | 2015-10-01 | Osterhout Group, Inc. | Sensor dependent content position in head worn computing |
US20160019715A1 (en) | 2014-07-15 | 2016-01-21 | Osterhout Group, Inc. | Content presentation in head worn computing |
US10684687B2 (en) | 2014-12-03 | 2020-06-16 | Mentor Acquisition One, Llc | See-through computer display systems |
US9746686B2 (en) | 2014-05-19 | 2017-08-29 | Osterhout Group, Inc. | Content position calibration in head worn computing |
US10254856B2 (en) | 2014-01-17 | 2019-04-09 | Osterhout Group, Inc. | External user interface for head worn computing |
US9829707B2 (en) | 2014-08-12 | 2017-11-28 | Osterhout Group, Inc. | Measuring content brightness in head worn computing |
US11227294B2 (en) | 2014-04-03 | 2022-01-18 | Mentor Acquisition One, Llc | Sight information collection in head worn computing |
US11103122B2 (en) | 2014-07-15 | 2021-08-31 | Mentor Acquisition One, Llc | Content presentation in head worn computing |
US9651788B2 (en) | 2014-01-21 | 2017-05-16 | Osterhout Group, Inc. | See-through computer display systems |
US11487110B2 (en) | 2014-01-21 | 2022-11-01 | Mentor Acquisition One, Llc | Eye imaging in head worn computing |
US9651784B2 (en) | 2014-01-21 | 2017-05-16 | Osterhout Group, Inc. | See-through computer display systems |
US9836122B2 (en) | 2014-01-21 | 2017-12-05 | Osterhout Group, Inc. | Eye glint imaging in see-through computer display systems |
US11892644B2 (en) | 2014-01-21 | 2024-02-06 | Mentor Acquisition One, Llc | See-through computer display systems |
US9753288B2 (en) | 2014-01-21 | 2017-09-05 | Osterhout Group, Inc. | See-through computer display systems |
US11737666B2 (en) | 2014-01-21 | 2023-08-29 | Mentor Acquisition One, Llc | Eye imaging in head worn computing |
US9494800B2 (en) | 2014-01-21 | 2016-11-15 | Osterhout Group, Inc. | See-through computer display systems |
US9766463B2 (en) | 2014-01-21 | 2017-09-19 | Osterhout Group, Inc. | See-through computer display systems |
US20150205135A1 (en) | 2014-01-21 | 2015-07-23 | Osterhout Group, Inc. | See-through computer display systems |
US9615742B2 (en) | 2014-01-21 | 2017-04-11 | Osterhout Group, Inc. | Eye imaging in head worn computing |
US9740280B2 (en) | 2014-01-21 | 2017-08-22 | Osterhout Group, Inc. | Eye imaging in head worn computing |
US9811153B2 (en) | 2014-01-21 | 2017-11-07 | Osterhout Group, Inc. | Eye imaging in head worn computing |
US11669163B2 (en) | 2014-01-21 | 2023-06-06 | Mentor Acquisition One, Llc | Eye glint imaging in see-through computer display systems |
US9846308B2 (en) | 2014-01-24 | 2017-12-19 | Osterhout Group, Inc. | Haptic systems for head-worn computers |
US9401540B2 (en) | 2014-02-11 | 2016-07-26 | Osterhout Group, Inc. | Spatial location presentation in head worn computing |
US20160187651A1 (en) | 2014-03-28 | 2016-06-30 | Osterhout Group, Inc. | Safety for a vehicle operator with an hmd |
US10853589B2 (en) | 2014-04-25 | 2020-12-01 | Mentor Acquisition One, Llc | Language translation with head-worn computing |
US9423842B2 (en) | 2014-09-18 | 2016-08-23 | Osterhout Group, Inc. | Thermal management for head-worn computer |
US9672210B2 (en) | 2014-04-25 | 2017-06-06 | Osterhout Group, Inc. | Language translation with head-worn computing |
US9651787B2 (en) | 2014-04-25 | 2017-05-16 | Osterhout Group, Inc. | Speaker assembly for headworn computer |
US10663740B2 (en) | 2014-06-09 | 2020-05-26 | Mentor Acquisition One, Llc | Content presentation in head worn computing |
WO2015191079A1 (en) * | 2014-06-13 | 2015-12-17 | Halliburton Energy Services, Inc. | Monitoring hydrocarbon recovery operations using wearable computer machines |
CN105445935B (zh) * | 2014-06-26 | 2017-12-29 | 联想(北京)有限公司 | 显示装置和电子设备 |
JP5777786B1 (ja) * | 2014-09-12 | 2015-09-09 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
US10140768B2 (en) | 2014-10-17 | 2018-11-27 | Seiko Epson Corporation | Head mounted display, method of controlling head mounted display, and computer program |
CN105607253B (zh) | 2014-11-17 | 2020-05-12 | 精工爱普生株式会社 | 头部佩戴型显示装置以及控制方法、显示*** |
US10664975B2 (en) * | 2014-11-18 | 2020-05-26 | Seiko Epson Corporation | Image processing apparatus, control method for image processing apparatus, and computer program for generating a virtual image corresponding to a moving target |
JP6536019B2 (ja) * | 2014-11-21 | 2019-07-03 | セイコーエプソン株式会社 | コントローラー及び画像表示システム |
US9684172B2 (en) | 2014-12-03 | 2017-06-20 | Osterhout Group, Inc. | Head worn computer display systems |
JP6582403B2 (ja) * | 2014-12-10 | 2019-10-02 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム |
USD743963S1 (en) | 2014-12-22 | 2015-11-24 | Osterhout Group, Inc. | Air mouse |
US10335677B2 (en) * | 2014-12-23 | 2019-07-02 | Matthew Daniel Fuchs | Augmented reality system with agent device for viewing persistent content and method of operation thereof |
JP6492638B2 (ja) * | 2014-12-25 | 2019-04-03 | セイコーエプソン株式会社 | 表示装置、及び、表示装置の制御方法 |
USD751552S1 (en) | 2014-12-31 | 2016-03-15 | Osterhout Group, Inc. | Computer glasses |
USD753114S1 (en) | 2015-01-05 | 2016-04-05 | Osterhout Group, Inc. | Air mouse |
US20160239985A1 (en) | 2015-02-17 | 2016-08-18 | Osterhout Group, Inc. | See-through computer display systems |
US10386953B2 (en) * | 2015-04-14 | 2019-08-20 | Tactual Labs Co. | Capacitive sensor patterns |
US9972133B2 (en) | 2015-04-24 | 2018-05-15 | Jpw Industries Inc. | Wearable display for use with tool |
CN104795017B (zh) * | 2015-04-24 | 2019-07-19 | 深圳市虚拟现实科技有限公司 | 显示控制方法和头戴式显示设备 |
US10197409B2 (en) * | 2015-06-07 | 2019-02-05 | Apple Inc. | Frequency based transit trip characterizations |
US10105573B2 (en) * | 2015-06-30 | 2018-10-23 | Lg Electronics Inc. | Watch-type mobile terminal and method for controlling same |
US10281976B2 (en) | 2015-07-07 | 2019-05-07 | Seiko Epson Corporation | Display device, control method for display device, and computer program |
PL3120741T3 (pl) * | 2015-07-24 | 2018-07-31 | Vorwerk & Co. Interholding Gmbh | Sposób eksploatacji napędzanego za pomocą silnika elektrycznego robota kuchennego oraz robot kuchenny |
JP6105180B1 (ja) * | 2015-08-25 | 2017-03-29 | 新日鉄住金ソリューションズ株式会社 | 作業支援装置、作業支援方法及びプログラム |
JP6586824B2 (ja) | 2015-08-27 | 2019-10-09 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
US9933470B2 (en) * | 2015-08-31 | 2018-04-03 | The Boeing Company | Energy spectrum visualization system |
JP6367166B2 (ja) | 2015-09-01 | 2018-08-01 | 株式会社東芝 | 電子機器及び方法 |
JP6306552B2 (ja) * | 2015-10-13 | 2018-04-04 | 株式会社タダノ | 遠隔操作装置、及び案内システム |
JP6597163B2 (ja) * | 2015-10-16 | 2019-10-30 | マックス株式会社 | 安全装置および工具 |
CN106918908B (zh) * | 2015-12-25 | 2020-09-18 | 深圳市酷浪云计算有限公司 | 一种智能作业指导眼镜 |
US9836652B2 (en) * | 2016-02-02 | 2017-12-05 | International Business Machines Corporation | Showing danger areas associated with objects using augmented-reality display techniques |
US10288883B2 (en) * | 2016-03-28 | 2019-05-14 | Kyocera Corporation | Head-mounted display |
JP2017183825A (ja) * | 2016-03-28 | 2017-10-05 | 京セラ株式会社 | ヘッドマウントディスプレイ |
JP2017183827A (ja) * | 2016-03-28 | 2017-10-05 | 京セラ株式会社 | ヘッドマウントディスプレイ |
JP2017183828A (ja) * | 2016-03-28 | 2017-10-05 | 京セラ株式会社 | ヘッドマウントディスプレイ |
DE102016004266A1 (de) | 2016-04-08 | 2017-10-12 | Liebherr-Werk Biberach Gmbh | Baumaschine, insbesondere Kran, und Verfahren zu deren Steuerung |
JP6758893B2 (ja) * | 2016-04-19 | 2020-09-23 | マクセル株式会社 | 作業支援装置及び作業支援システム |
WO2017192996A2 (en) * | 2016-05-05 | 2017-11-09 | Watson Robert D | Surgical stereoscopic visualization system with movable head mounted display |
US10303126B2 (en) * | 2016-06-21 | 2019-05-28 | International Business Machines Corporation | System, method, and recording medium for power tool accident prevention |
US10445867B2 (en) * | 2016-07-13 | 2019-10-15 | The Boeing Company | System and method for generating enhanced stereographic videos of aircraft build processes |
CN110084088A (zh) * | 2016-10-26 | 2019-08-02 | 奥康科技有限公司 | 用于分析图像和提供反馈的可佩戴设备和方法 |
US20190254759A1 (en) * | 2016-11-04 | 2019-08-22 | Intuitive Surgical Operations, Inc. | Reconfigurable display in computer-assisted tele-operated surgery |
EP3611117A4 (en) * | 2017-04-12 | 2020-11-18 | Hitachi Transport System, Ltd. | ITEM MANAGEMENT SUPPORT DEVICE, ITEM MANAGEMENT SUPPORT SYSTEM, AND ITEM MANAGEMENT SUPPORT PROCEDURE |
DE102017208009A1 (de) * | 2017-05-11 | 2018-11-15 | Homag Bohrsysteme Gmbh | System zur Bearbeitung von Werkstücken |
IL270856B2 (en) * | 2017-05-30 | 2023-12-01 | Magic Leap Inc | Power supply assembly with fan assembly for an electronic device |
TWM557588U (zh) * | 2017-08-01 | 2018-04-01 | 李燕琴 | 可熱顯像的穿戴式裝置 |
CN109725417B (zh) * | 2017-10-27 | 2024-04-09 | 江苏洪旭德生科技有限公司 | 基于光波导的深度处理数字光信号的方法及近眼显示装置 |
CN111417976A (zh) * | 2017-11-29 | 2020-07-14 | 松下知识产权经营株式会社 | 作业支援***、作业支援方法以及程序 |
CN110730939A (zh) * | 2017-11-29 | 2020-01-24 | 深圳市柔宇科技有限公司 | 用于头戴式显示器上的信息提示方法、装置和设备 |
CN107862760A (zh) * | 2017-12-22 | 2018-03-30 | 国网湖南省电力有限公司 | 用于变电检修移动巡检作业的可穿戴装备及其应用方法 |
CN108319022A (zh) * | 2018-03-22 | 2018-07-24 | 巢湖永微信息科技有限公司 | 一种带热传感功能的智能眼镜的*** |
KR102029188B1 (ko) * | 2018-05-06 | 2019-10-07 | 주식회사 스포컴 | 광 투과율 조절 아이웨어 |
CN110580672A (zh) * | 2018-06-07 | 2019-12-17 | 刘丹 | 增强现实热感智能眼镜、显示方法及计算机存储介质 |
US10607367B2 (en) | 2018-06-26 | 2020-03-31 | International Business Machines Corporation | Methods and systems for managing virtual reality sessions |
JP2018195321A (ja) * | 2018-07-03 | 2018-12-06 | 株式会社東芝 | ウェアラブル端末及び方法 |
US10748344B2 (en) | 2018-09-12 | 2020-08-18 | Seiko Epson Corporation | Methods and devices for user interaction in augmented reality |
JP2020051092A (ja) * | 2018-09-26 | 2020-04-02 | コベルコ建機株式会社 | 作業機械情報表示システム |
JP7053516B2 (ja) * | 2019-02-15 | 2022-04-12 | 株式会社日立製作所 | ウェアラブルユーザインタフェース制御システム、それを用いた情報処理システム、および、制御プログラム |
WO2020176750A1 (en) * | 2019-02-27 | 2020-09-03 | Clark Equipment Company | Display integrated into door |
JP7078568B2 (ja) * | 2019-03-19 | 2022-05-31 | 株式会社日立製作所 | 表示装置、表示制御方法、及び表示システム |
US20200302591A1 (en) * | 2019-03-22 | 2020-09-24 | Eaton Intelligent Power Limited | Equipment monitoring system |
US10832484B1 (en) * | 2019-05-09 | 2020-11-10 | International Business Machines Corporation | Virtual reality risk detection |
CN110322527B (zh) * | 2019-05-21 | 2021-04-20 | 华为技术有限公司 | 一种图案生成方法及终端 |
JP7284053B2 (ja) * | 2019-09-25 | 2023-05-30 | 京セラ株式会社 | ヘッドアップディスプレイ、ヘッドアップディスプレイシステム、移動体及びヘッドアップディスプレイの設計方法 |
CN110718043B (zh) * | 2019-10-17 | 2021-07-30 | 辽宁中航信诺科技有限公司 | 基于ar人工智能设备的危险区域的检查报警方法 |
CN112987311B (zh) * | 2021-03-04 | 2022-10-18 | 国网河南省电力公司电力科学研究院 | 一种用于全面记录的智能眼镜及其使用方法 |
CN114863650B (zh) * | 2022-03-31 | 2024-02-09 | 青岛虚拟现实研究院有限公司 | 障碍物预警方法、装置、电子设备及可读存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0949513A2 (en) * | 1998-04-08 | 1999-10-13 | Trisen Systems Inc. | Virtual reality technology |
CN101872069A (zh) * | 2009-04-02 | 2010-10-27 | 通用汽车环球科技运作公司 | 增强视觉***全挡风玻璃hud |
CN102147531A (zh) * | 2010-02-09 | 2011-08-10 | 罗伯特.博世有限公司 | 用于运行平视显示器***的方法、平视显示器*** |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1997020193A1 (en) * | 1995-11-28 | 1997-06-05 | Dornier Medical Systems, Inc. | Method and system for non-invasive temperature mapping of tissue |
JP4269482B2 (ja) * | 2000-04-27 | 2009-05-27 | コニカミノルタホールディングス株式会社 | 映像表示装置 |
JP2002023098A (ja) | 2000-07-10 | 2002-01-23 | Shikoku Res Inst Inc | 顔面装着型の赤外と可視映像の同時視認装置 |
EP1182541A3 (de) * | 2000-08-22 | 2005-11-30 | Siemens Aktiengesellschaft | System und Verfahren zum kombinierten Einsatz verschiedener Display-/Gerätetypen mit systemgesteuerter kontextabhängiger Informationsdarstellung |
JP2003281297A (ja) | 2002-03-22 | 2003-10-03 | National Institute Of Advanced Industrial & Technology | 情報提示装置および情報提示方法 |
JP3735086B2 (ja) * | 2002-06-20 | 2006-01-11 | ウエストユニティス株式会社 | 作業誘導システム |
JP4136673B2 (ja) | 2003-01-10 | 2008-08-20 | 株式会社リコー | 機器安全性検証装置、機器安全性検証方法、および記憶媒体 |
EP1779344A4 (en) * | 2004-07-29 | 2009-08-19 | Motiva Llc | SYSTEM FOR MEASURING HUMAN MOVEMENT |
DE102005061211B4 (de) * | 2004-12-22 | 2023-04-06 | Abb Schweiz Ag | Verfahren zum Erzeugen einer Mensch-Maschine-Benutzer-Oberfläche |
JP2007121654A (ja) * | 2005-10-27 | 2007-05-17 | Eastman Kodak Co | 撮像装置 |
SE0601216L (sv) * | 2006-05-31 | 2007-12-01 | Abb Technology Ltd | Virtuell arbetsplats |
JP2008146778A (ja) | 2006-12-12 | 2008-06-26 | Funai Electric Co Ltd | ディスクトレイ制御装置 |
US8390534B2 (en) * | 2007-03-08 | 2013-03-05 | Siemens Aktiengesellschaft | Method and device for generating tracking configurations for augmented reality applications |
JP2010144773A (ja) | 2008-12-17 | 2010-07-01 | Brother Ind Ltd | 危険回避システム、及びヘッドマウントディスプレイ |
JP2010197153A (ja) | 2009-02-24 | 2010-09-09 | Konica Minolta Holdings Inc | 作業支援装置及び作業支援システム |
US9773429B2 (en) * | 2009-07-08 | 2017-09-26 | Lincoln Global, Inc. | System and method for manual welder training |
US9221117B2 (en) * | 2009-07-08 | 2015-12-29 | Lincoln Global, Inc. | System for characterizing manual welding operations |
US20110006047A1 (en) * | 2009-07-08 | 2011-01-13 | Victor Matthew Penrod | Method and system for monitoring and characterizing the creation of a manual weld |
JP5141672B2 (ja) | 2009-11-30 | 2013-02-13 | ブラザー工業株式会社 | ヘッドマウントディスプレイ装置、及びヘッドマウントディスプレイ装置を用いた画像共有システム |
JP4950348B2 (ja) | 2010-03-30 | 2012-06-13 | 新日鉄ソリューションズ株式会社 | 情報提供装置、情報提供方法、及びプログラム |
EP2549352B1 (en) | 2010-03-30 | 2016-06-01 | NS Solutions Corporation | Information processing apparatus, information processing method, and program |
WO2012083415A1 (en) * | 2010-11-15 | 2012-06-28 | Tandemlaunch Technologies Inc. | System and method for interacting with and analyzing media on a display using eye gaze tracking |
US9304319B2 (en) * | 2010-11-18 | 2016-04-05 | Microsoft Technology Licensing, Llc | Automatic focus improvement for augmented reality displays |
US8593286B2 (en) * | 2010-12-01 | 2013-11-26 | At&T Intellectual Property I, L.P. | System and method for wireless monitoring of sports activities |
WO2012100082A2 (en) * | 2011-01-19 | 2012-07-26 | Panelvision, Llc | Interactive point of purchase system |
JP2012155655A (ja) | 2011-01-28 | 2012-08-16 | Sony Corp | 情報処理装置、報知方法及びプログラム |
JP2012174208A (ja) * | 2011-02-24 | 2012-09-10 | Sony Corp | 情報処理装置、情報処理方法、プログラム及び端末装置 |
DE102011012432B4 (de) * | 2011-02-25 | 2013-04-04 | salutogenesis Medizintechnik GmbH & Co. KG | ELC-Thermofolie und Verfahren zur automatischen Ermittlung einer ELC-Thermofolie für Kontaktthermographie zur Erfassung von Temperaturverteilungen an der Oberfläche, insbesondere der Brust, eines Lebewesens, insbesondere eines Menschen |
US20140074345A1 (en) * | 2012-09-13 | 2014-03-13 | Chanan Gabay | Systems, Apparatuses, Methods, Circuits and Associated Computer Executable Code for Monitoring and Assessing Vehicle Health |
-
2013
- 2013-12-03 US US14/095,827 patent/US9448407B2/en active Active
- 2013-12-11 CN CN201310674651.4A patent/CN103869469B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0949513A2 (en) * | 1998-04-08 | 1999-10-13 | Trisen Systems Inc. | Virtual reality technology |
CN101872069A (zh) * | 2009-04-02 | 2010-10-27 | 通用汽车环球科技运作公司 | 增强视觉***全挡风玻璃hud |
CN102147531A (zh) * | 2010-02-09 | 2011-08-10 | 罗伯特.博世有限公司 | 用于运行平视显示器***的方法、平视显示器*** |
Also Published As
Publication number | Publication date |
---|---|
US20140168266A1 (en) | 2014-06-19 |
CN103869469A (zh) | 2014-06-18 |
US9448407B2 (en) | 2016-09-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103869469B (zh) | 头戴式显示装置、该装置的控制方法以及作业支援*** | |
US10445579B2 (en) | Head mounted display device, image display system, and method of controlling head mounted display device | |
RU2632257C2 (ru) | Закрепляемое на голове устройство отображения и способ управления закрепляемым на голове устройством отображения | |
US9046685B2 (en) | Information processing apparatus, control method of information processing apparatus, and transmission head-mount type display device | |
US10451874B2 (en) | Image display device, method of controlling image display device, computer program, and image display system | |
US20150168729A1 (en) | Head mounted display device | |
US20150062164A1 (en) | Head mounted display, method of controlling head mounted display, computer program, image display system, and information processing apparatus | |
JP6209906B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム | |
CN108957761B (zh) | 显示装置及其控制方法、头戴式显示装置及其控制方法 | |
US20160261905A1 (en) | Video transmission and display system | |
JP6111659B2 (ja) | 表示装置、および、表示装置の制御方法 | |
CN105045375A (zh) | 头部佩戴型显示装置、其控制方法、控制***及计算机程序 | |
CN102628991A (zh) | 头戴型显示装置和头戴型显示装置的控制方法 | |
US9799144B2 (en) | Head mounted display, and control method for head mounted display | |
JP2014132719A (ja) | 表示装置、および、表示装置の制御方法 | |
US20160188283A1 (en) | Head-mounted display device, control method for head-mounted display device, and computer program | |
CN104423041A (zh) | 头部佩戴型显示装置及头部佩戴型显示装置的控制方法 | |
JP2017091433A (ja) | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム | |
CN107077363B (zh) | 信息处理装置、控制信息处理装置的方法、记录介质 | |
JP2016130985A (ja) | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、コンピュータープログラム | |
JP2017182228A (ja) | 入力装置、入力方法、コンピュータープログラム | |
JP6229381B2 (ja) | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム、情報処理装置 | |
JP6540426B2 (ja) | 表示システム、表示装置、情報表示方法、及び、プログラム | |
JP2016091348A (ja) | 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム | |
JP6394174B2 (ja) | 頭部装着型表示装置、画像表示システム、頭部装着型表示装置を制御する方法、および、コンピュータープログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |