CN108243302A - 传感器信息取得装置、传感器信息取得方法及记录介质 - Google Patents

传感器信息取得装置、传感器信息取得方法及记录介质 Download PDF

Info

Publication number
CN108243302A
CN108243302A CN201711428327.9A CN201711428327A CN108243302A CN 108243302 A CN108243302 A CN 108243302A CN 201711428327 A CN201711428327 A CN 201711428327A CN 108243302 A CN108243302 A CN 108243302A
Authority
CN
China
Prior art keywords
sensor
control unit
image
information
tracking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201711428327.9A
Other languages
English (en)
Inventor
三浦启彰
汤本健太
木村考
野中修
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of CN108243302A publication Critical patent/CN108243302A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H40/00ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices
    • G16H40/60ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices
    • G16H40/63ICT specially adapted for the management or administration of healthcare resources or facilities; ICT specially adapted for the management or operation of medical equipment or devices for the operation of medical equipment or devices for local operation
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1686Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/014Hand-worn input/output arrangements, e.g. data gloves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/02Casings; Cabinets ; Supports therefor; Mountings therein
    • H04R1/028Casings; Cabinets ; Supports therefor; Mountings therein associated with devices performing functions other than acoustics, e.g. electric candles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/34Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by using a single transducer with sound reflecting, diffracting, directing or guiding means
    • H04R1/342Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by using a single transducer with sound reflecting, diffracting, directing or guiding means for microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R29/00Monitoring arrangements; Testing arrangements
    • H04R29/004Monitoring arrangements; Testing arrangements for microphones
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R3/00Circuits for transducers, loudspeakers or microphones
    • H04R3/005Circuits for transducers, loudspeakers or microphones for combining the signals of two or more microphones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/40ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mechanical, radiation or invasive therapies, e.g. surgery, laser therapy, dialysis or acupuncture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04RLOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00Details of transducers, loudspeakers or microphones
    • H04R1/20Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/40Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers
    • H04R1/406Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only by combining a number of identical transducers microphones

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Acoustics & Sound (AREA)
  • Medical Informatics (AREA)
  • Otolaryngology (AREA)
  • Primary Health Care (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Epidemiology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Quality & Reliability (AREA)
  • Geometry (AREA)
  • User Interface Of Digital Computer (AREA)
  • Endoscopes (AREA)
  • Studio Devices (AREA)

Abstract

提供传感器信息取得装置、传感器信息取得方法及记录介质。具有:传感器;以及控制部,其在判定为所述传感器与对象物的相对关系发生变化而对象物的位置未发生变化情况,根据与安装有所述传感器的位移部的位移有关的信息而对所述传感器的信息取得方向进行控制,即使在由于作业等的影响而使传感器的位置或朝向等发生了变更的情况下,也能够始终取得与期望的对象物有关的有效的传感器信息。

Description

传感器信息取得装置、传感器信息取得方法及记录介质
技术领域
本发明涉及取得位置或朝向会发生变化的传感器(例如搭载于可穿戴设备的传感器等)的传感器信息的传感器信息取得装置、传感器信息取得方法、记录有传感器信息取得程序的记录介质以及医疗器具。
背景技术
摄影设备和录音设备通过图像传感器和麦克风等传感器而取得图像信息和声音信息等信息(以下,称作传感器信息)。出于取得传感器信息的范围的限制,有时变更传感器的配置位置或配置方向的话能够取得更有用的信息。并且,也研究出了不变更传感器的配置位置和配置方向也能够变更传感器信息的有效的取得范围的装置。
例如,也研究出了通过使用多个麦克风而具有方向性切换功能的麦克风装置,该方向性切换功能是指能够对可取得高灵敏度的方向进行切换。例如,通过用户切换方向性以指定要提高任意方向的灵敏度这一情况,无需用户改变麦克风的朝向就能够提高所期望的方向的灵敏度。
并且,关于图像传感器,视角是由使被摄体光学像入射到图像传感器的摄像面上的光学透镜的焦距和摄像面的尺寸决定的,当光学透镜的光轴方向和被摄体距离决定时,摄影范围被决定。用户能够通过改变摄影设备的朝向而变更摄影范围。此外,能够通过变焦功能和摄像区域的切换等而进行视角变更。并且,在日本特开2007-222239号公报中也提出了如下的体腔内观察装置:在使用腹腔镜装置进行临床检查时,该体腔内观察装置检测位于体腔内的处置器具的前端部的位置,以使该前端部位于监视器的图像的中心的方式对处置器具的前端部进行跟踪。
这样,以往,研究出了具有使灵敏度在用户所指定的方向上提高的方向性的麦克风和以用户所指定的方向为摄影中心的摄影设备。由此,无需由用户变更麦克风和摄影设备的配置位置或配置方向就能够取得与期望的对象物有关的传感器信息。
发明内容
本发明的一个方式的传感器信息取得装置具有:传感器;信息取得部,其取得与位移部的位移有关的信息,该位移部与所述传感器的位置关系固定;以及控制部,其在判定为所述传感器与对象物的相对关系发生变化而对象物的位置未发生变化的情况下,根据与所述位移部的位移有关的信息对所述传感器的信息取得方向进行控制。
并且,在本发明的一个方式的传感器信息取得方法中,包含以下步骤:取得与位移部的位移有关的信息,该位移部与传感器的位置关系固定;以及在判定为所述传感器与对象物的相对关系发生变化而对象物的位置未发生变化的情况下,根据所取得的与位移部的位移有关的信息对所述传感器的信息取得方向进行控制。
并且,本发明的一个方式的计算机可读的非暂时性记录介质,该记录介质记录有用于使计算机执行以下步骤的传感器信息取得程序:取得与位移部的位移有关的信息,该位移部与传感器的位置关系固定;以及在判定为所述传感器与对象物的相对关系发生变化而对象物的位置未发生变化的情况下,根据所取得的与位移部的位移有关的信息对所述传感器的信息取得方向进行控制。
通过以下参照附图的描述,本发明的上述及其他目的、特征以及优点会更加清楚。
附图说明
图1示出本发明的第一实施方式的传感器信息取得装置的框图。
图2是用于对图1中的可穿戴部10的外观进行说明的说明图。
图3是示出可穿戴部10的各部分与脸的位置关系的说明图。
图4是用于对眼镜型终端装置的视野进行说明的说明图。
图5A是用于对第一实施方式的动作进行说明的说明图。
图5B是用于对第一实施方式的动作进行说明的说明图。
图5C是用于对第一实施方式的动作进行说明的说明图。
图5D是用于对第一实施方式的动作进行说明的说明图。
图6是用于对第一实施方式的动作进行说明的流程图。
图7是用于对第一实施方式的动作进行说明的流程图。
图8是示出本发明的其他实施方式的框图。
图9是示出图8中的医疗器具70的外观的说明图。
图10是示出可穿戴部80的各部分与脸的位置关系的说明图。
图11是用于对眼镜型终端装置的视野进行说明的说明图。
图12是用于对第二实施方式的动作进行说明的流程图。
图13是用于对第二实施方式的动作进行说明的说明图。
图14是示出变形例的说明图。
具体实施方式
以下,参照附图对本发明的实施方式详细地进行说明。
(第一实施方式)
图1是示出本发明的第一实施方式的传感器信息取得装置的框图。图1示出了由外部设备20和可穿戴部10构成信息处理***的例子,其中,该可穿戴部10构成传感器信息取得装置。在本实施方式中,外部设备20不是传感器信息取得装置所必需的结构。
在本实施方式中,设定作为麦克风取得的声音信息的产生源的对象物(以下,也称作跟踪对象物),并且以该设定时的麦克风的朝向为基准,利用规定的传感器来检测从麦克风朝向该跟踪对象物的方向的变化,根据麦克风与跟踪对象物的相对的位置关系的变化而对麦克风的方向性进行控制,由此能够始终从跟踪对象物取得有效的声音信息。麦克风与对象物的位置关系根据麦克风侧的动作并且根据对象物侧的动作而改变,但本申请应对因该麦克风等是可穿戴设备而产生并且因用户的姿态或举止等而产生的相对位置关系的变化。
由此,即使在例如用户进行某些作业等的结果为使麦克风的朝向发生了变更的情况下,也能够始终进行提高跟踪对象物方向的灵敏度的方向性控制,从跟踪对象物方向效率良好地拾音。假定对象物的动作比较小的情况,由此以仅针对用户的身体的动作来校正设备性能为重点进行记载,但在对象物发生了变化的情况下也可以对该状况进行监视并根据该结果对控制进行变更。如果是能够掌握背景与对象物的关系并且它们的关系变化不大的状况,则认为动作的补偿的对象是用户的动作。并且,即使是用户的动作,由于动作根据佩戴部位而具有特征或制约,因此可以假定该部位特有的动作而进行控制麦克风的方向性这样的动作补偿控制。
在本申请中,主要攻克由于以下原因而产生的课题:对象物的动作比较少,而佩戴在用户的身体上的设备、装置根据用户的举止、作业等而在用户无意识的状态下改变朝向。眼镜型终端也根据用户的脸的动作而改变朝向,手表型终端根据手的动作而频繁地改变朝向,虽然在集中于作业等时,用户没有关注设备、装置的状态改变的情况的余裕,但在这样的状况下,持续辅助用户也很重要。也假定与因用户的身体的动作而产生的影响相比,对象物的位置变化比较小,但这不是必须条件。
可穿戴部10具有未图示的卡定部,该卡定部用于将内设有图1的电路的框架体佩戴于用户的身体的一部分,该可穿戴部10根据用户的动作而位移自如。例如,在可穿戴部10以眼镜型构成的情况下,眼镜的眼镜腿为卡定部,可穿戴部10整体根据用户的脸的动作而移动。
可穿戴部10具有控制部11。控制部11对可穿戴部10的各部分进行控制。控制部11可以由使用了CPU等的处理器构成,按照存储在未图示的存储器中的程序进行动作而对各部分进行控制,也可以使用硬件的电子电路来置换其一部分。
在控制部11中设置有显示控制部11a。显示控制部11a执行与显示有关的各种处理。显示控制部11a能够由例如视频控制器或显示器控制器等构成,也可以与控制部11分体构成。显示控制部11a对显示部13的显示进行控制。显示部13具有LCD等显示画面,对从显示控制部11a提供的图像进行显示。例如,显示控制部11a能够将来自后述的图像取得部12a的摄像图像显示在显示部13的显示画面上。
可穿戴部10具有信息取得部12。信息取得部12取得与用户希望取得信息的跟踪对象物有关的传感器信息,具有例如图像取得部12a、声音取得部12b以及姿态取得部12c。图像取得部12a能够由例如未图示的图像传感器构成,能够拍摄跟踪对象物而取得摄像图像。图像取得部12a将所取得的摄像图像作为传感器信息输出给控制部11。在本实施方式中,图像取得部12a通过采用广角透镜而能够取得广角图像。
声音取得部12b能够由例如麦克风构成,能够取得来自跟踪对象物的声音。在本实施方式中,声音取得部12b构成为能够对方向性进行控制,被控制部11控制,灵敏度最高的方向(以下,称作波束方向)被控制。即,波束方向是声音取得部12b的信息取得方向。例如,声音取得部12b能够由指向方向可变的麦克风装置构成。
作为指向方向可变的麦克风装置,例如可以由按照规定的方向排列的多个全方向性麦克风构成。例如,将特性相同的两个全方向性麦克风以规定的间隔配置。声音信号从规定的方向θ到达这些麦克风。由于声音信号与各麦克风的路径差而使声音信号以不同的传输延迟时间到达各麦克风。传输延迟时间之差能够通过麦克风彼此的间隔和到来方向θ而求取。利用延迟量可变的延迟电路而使声音信号先到达的一个麦克风的输出延迟与传输延迟时间之差相当的延迟量,由此能够使其相位与声音信号后到达的另一个麦克风的输出的相位一致。因此,通过将延迟电路的输出和另一方的麦克风的输出相加,能够取得对于到来方向θ来说最大的输出。另外,针对来自到来方向θ以外的方向的声音信号的延迟电路所输出的相位与其他麦克风的输出的相位不一致,相加结果不会成为最大的输出。即,在该情况下,在该装置中,到来方向θ为波束方向。通过对延迟电路的延迟量进行适当设定,能够得到以任意的方向为波束方向的可变方向性麦克风装置。在采用了这样的可变方向性麦克风装置作为声音取得部12b的情况下,控制部11通过在延迟电路中设定与想要指定的波束方向对应的延迟量,能够将波束方向即信息取得方向设定为所希望的方向。
在本实施方式中,信息取得部12也用于取得跟踪对象物方向的信息,该跟踪对象物方向用于决定声音取得部12b的波束方向。图像取得部12a取得视角充分大的广角图像,在由于用户改变例如脸的朝向而使图像取得部12a的视野范围发生了变化的情况下,也继续对视野范围变更前的摄像范围的一部分进行拍摄的可能性变高。图像取得部12a的摄像图像提供给控制部11的范围切换部11b。从图像取得部12a给范围切换部11b提供了视野范围变更前后的摄像图像。该范围切换部11b能够通过这些摄像图像的图像分析而在用户改变了朝向的情况下检测该角度。
例如,可以是,范围切换部11b通过图像分析而自动地设定跟踪对象物。例如,也可以是,范围切换部在通过图像分析而检测到在来自图像取得部12a的摄像图像的中央存在人物的脸或嘴的图像部分的情况下,将该脸或嘴设定为跟踪对象物。并且,例如,也可以是,范围切换部11b接受用户对跟踪对象物的指定操作而设定对象部。例如,也可以是,范围切换部11b在图像取得部12a所取得的摄像图像显示在显示部13的显示画面上的状态下根据未图示的操作部而使指针显示在图像上,在用户利用该指针而指定了图像上的部分时,将该图像部分设定为跟踪对象物。例如,也可以是,范围切换部11b在检测到对图像上的人物的指定操作时,通过摄像图像的图像分析而求取图像各部分的特征量,参照存储在未图示的存储器中的各图像的特征量的数据库来判定各图像部分是人物的脸或嘴这一情况,由此将该人物的脸或嘴的图像部分设定为跟踪对象物。
范围切换部11b通过图像分析而求取视野范围变更前的跟踪对象物在图像上的位置和视野范围变更后的该跟踪对象物在图像上的位置,从而求取给出该位置之差的视野角之差。范围切换部11b产生用于使波束方向变更所求出的视野角之差的量的控制信号,并输出给声音取得部12b。例如,范围切换部11b产生用于对上述的可变方向性麦克风装置的延迟电路的延迟量进行设定的控制信号作为控制信号。
另外,例如,在声音的产生源仅是一位人物的情况等时,可以将能够得到最大的声音输出电平的方向判定为跟踪对象物的方向。在该情况下,也能够由声音取得部12b取得跟踪对象物方向的信息。声音取得部12b被范围切换部11b控制,能够变更波束方向。范围切换部11b可以通过一边使波束方向扫描一边监视声音输出电平而将能够得到最大的声音输出电平的方向判定为声音到来方向、即跟踪对象物方向。
并且,在本实施方式中,也能够由姿态取得部12c判定跟踪对象物的方向。姿态取得部12c能够判定可穿戴部10的姿态并将判定结果输出给范围切换部11b。例如,姿态取得部12c能够由加速度传感器或陀螺仪传感器、地磁传感器等构成,能够根据这些传感器的判定结果来判定可穿戴部10的姿态。这里,由于以用户的姿态(举止等)是与对象物的相对位置变化的主要原因为前提,因此为了保证该前提,可以首先对通过来自图像取得部的图像而判定对象物在背景中处于相同的位置这一情况的结果进行确认。并且,这也可以采用以下的设计:通过使用设备的环境进行判定,如果是专用设备,则以对象物的位置几乎相同为前提。
从姿态取得部12c向范围切换部11b提供视野范围变更前的姿态的判定结果和视野范围变更后的姿态的判定结果,该范围切换部11b能够根据这些姿态的判定结果的变化而求取由于该姿态的变化而发生了变化的跟踪对象物方向的角度的变化。范围切换部11b产生用于使波束方向向原状恢复了所求出的角度的变化的量的控制信号,并输出给声音取得部12b。
在可穿戴部10中设置有通信部14。通信部14被控制部11控制,能够与外部设备20之间进行有线或无线的通信。例如,通信部14能够由对应于与外部设备20之间的传送路径的各种控制器构成。例如,在采用了LAN缆线作为传送的情况下,采用LAN控制器作为通信部14,在采用了Wifi的情况下,采用无线LAN控制器作为通信部14。并且,在传送路径是USB缆线的情况下,采用USB控制器作为通信部14,在视频缆线的情况下,采用视频控制器作为通信部14。
控制部11能够对通信部14进行控制,使其将来自图像取得部12a的摄像图像发送给外部设备20。并且,控制部11能够对通信部14进行控制,使其接收来自外部设备20的信息。
在可穿戴部10中设置有记录部16。记录部16被控制部11控制,能够将在信息取得部12中取得的图像或声音记录在未图示的存储器等记录介质中。并且,记录部16能够将记录在未图示的记录介质中的图像或声音读出并再现,并将再现的图像或声音输出给控制部11。由此,控制部11能够使例如显示部13显示由记录部16记录的图像。
并且,在可穿戴部10中内设有电池15。电池15被控制部11控制,产生提供给可穿戴部10的各部分的电力。
在本实施方式中,作为外部设备20,能够采用例如个人计算机等。外部设备20具有控制部21。控制部21对外部设备20的各部分进行控制。控制部21可以由使用了CPU等的处理器构成,按照存储在未图示的存储器中的程序进行动作而对各部分进行控制,也可以使用硬件的电子电路来替换一部分。
在外部设备20中设置有显示部23。控制部21对显示部23的显示进行控制。显示部23具有LCD等显示画面,对从控制部21提供的图像进行显示。在外部设备20中设置有操作输入部22。操作输入部22具有未图示的键盘等输入装置,产生基于用户操作的操作信号并提供给控制部21。由此,控制部21能够执行与用户操作对应的处理。
也可以在显示部23的显示画面上设置未图示的触摸面板。触摸面板能够产生与用户使用手指所指示的显示画面上的位置对应的操作信号。该操作信号提供给控制部21。由此,当用户触摸显示画面或在显示画面上滑动的情况下,控制部21能够检测出该操作。即,控制部21能够检测出用户的触摸位置、将手指闭合或分开的操作(捏合操作)、滑动操作、通过滑动操作所达到的位置、滑动方向、进行触摸的期间等各种操作,能够执行与用户操作对应的处理。
在上述的说明中,对在范围切换部11b中进行跟踪对象物的设定处理的例子进行了说明,但也可以通过外部设备20的控制部21与范围切换部11b协作而进行跟踪对象物的设定处理。例如,可以是,控制部21在将图像取得部12a所取得的摄像图像显示在显示部23的显示画面上的状态下,当通过用户的触摸面板操作而指定了图像上的部分时,将该图像部分设定为跟踪对象物。例如,也可以是,控制部21在检测出对图像上的人物的触摸操作时,通过摄像图像的图像分析而求取图像各部分的特征量,参照存储在未图示的存储器中的各图像的特征量的数据库,由此判定各图像部分是人物的脸或嘴这一情况,将该人物的脸或嘴的图像部分设定为跟踪对象物。在该情况下,控制部21将跟踪对象物的信息经由通信部24、14发送给范围切换部11b。
在外部设备20中设置有记录部25。记录部25被控制部21控制,能够将图像或声音记录在未图示的硬盘、存储器或盘介质等记录介质中。并且,记录部25能够将记录在未图示的记录介质中的图像或声音读出并再现,并将再现的图像或声音输出给控制部21。由此,控制部21能够使例如显示部23显示由记录部25记录的图像。
并且,在外部设备20中设置有通信部24。通信部24被控制部21控制,能够与可穿戴部10之间进行有线或无线的通信。例如,通信部24能够由对应于与可穿戴部10之间的传送路径的各种控制器构成。例如,在采用了LAN缆线作为传送的情况下,采用LAN控制器作为通信部24,,在采用了Wifi的情况下,采用无线LAN控制器作为通信部24。并且,在传送路径是USB缆线的情况下,采用USB控制器作为通信部24,在视频缆线的情况下,采用视频控制器作为通信部24。
控制部21在来自可穿戴部10的图像取得部12a的摄像图像经由通信部14、24传送来时,将该摄像图像提供给显示部23并显示在其显示画面上。例如,控制部21也能够将在图像取得部12a中取得的摄像图像的一部分放大显示在显示部23。
图2是用于对图1中的可穿戴部10的外观进行说明的说明图。图2示出了由眼镜型的可穿戴终端装置(眼镜型终端装置)构成可穿戴部10的例子。并且,图3是示出可穿戴部10的各部分与脸的位置关系的说明图。
在图2中,在眼镜框架18的一部分配设有电路收纳部17,该电路收纳部17收纳有构成图1的控制部11、信息取得部12、显示部13以及通信部14的一部分的各电路。在电路收纳部17的前端配设有构成图像取得部12a的摄像透镜12aa,使得能够对操作的情形进行观察。来自被摄体的光学像经由摄像透镜12aa提供给设置于电路收纳部17内的图像取得部12a的摄像元件。能够由摄像元件取得基于被摄体光学像的摄像图像。在图2的例子中,摄像透镜12aa设置于眼镜框架18的眼镜腿部分的前端,眼镜腿部分朝向与人物的脸31大致相同的朝向,因此图像取得部12a能够拍摄与人的眼睛32的观察方向相同的方向上的被摄体。由此,图像取得部12a能够取得与人进行观察的作业状态对应的图像作为摄像图像。如上所述,根据由图像取得部12a取得的摄像图像而进行声音取得部12b中的波束方向的控制。
在摄像透镜12aa的下方配设有构成声音取得部12b的两个麦克风12ba。配设于可穿戴部10的声音取得部12b的两个麦克风12ba固定在眼镜框架18上,麦克风12ba所朝的方向根据眼镜框架18的朝向(即借助眼镜框架18而佩戴在脸上的可穿戴部10的朝向)而发生变化。而且,不论该麦克风12ba所朝的方向如何,都能够通过范围切换部11b将波束方向控制成规定的方向。
在嵌入于未图示的左、右镜圈中的左、右透镜中的右侧透镜的前方侧设置有被眼镜框架18支承的导光部13b。并且,在电路收纳部17的侧面配设有朝向导光部13b的入射面射出影像光的显示面板13a。导光部13b的出射面在人将眼镜框架18佩戴于脸31上的状态下配置在右眼32的前方的、与右透镜的一部分的区域对应的位置。
收纳在电路收纳部17内的显示控制部11a将由控制部11处理后的影像信号提供给显示部13,显示部13将基于该影像信号的影像光从显示面板13a朝向导光部13b的入射面射出。影像光在导光部13b内被引导而从出射面射出。这样,能够在右眼32的视野范围的一部分内对基于来自控制部11的影像信号的图像进行视觉确认。
另外,眼镜型终端装置构成为不妨碍以透视的方式对观察对象进行直接观察,能够同时对直接观察的观察对象和可在视野范围的一部分内观察到的基于所输入的影像信号的图像进行观察。例如,佩戴了作为眼镜型终端装置的可穿戴部10的用户在各种作业时能够在对作业的状况进行直接观察的同时也对由图像取得部12a等取得的摄像图像进行观察。而且,由于可穿戴部10是免手持的设备,因此在作业和观察时手脚的动作不会被限制,因此能够无损运用双手的作业性地对由图像取得部12a取得的图像进行观察。
如图3所示,能够借助显示部13的配置在脸31的右眼32R前方的导光部13b而对图像取得部12a所取得的摄像图像进行视觉确认。图3中的分别包围右眼32R和左眼32L的虚线示出了左、右眼32R、32L的视野。
图4是用于对该视野进行说明的说明图。左视野43L表示左眼32L的视野,右视野43R表示右眼32R的视野。左视野43L是通过了未图示的左透镜(可以是透明玻璃,也可以没有玻璃)的光学眼镜视野,右视野43R是通过了未图示的右透镜(可以是透明玻璃,也可以没有玻璃)的光学眼镜视野。在右视野43R的一部分设置有导光部13b的显示区域13d。
左、右视野43L、43R的光学眼镜视野示出佩戴了可穿戴部10的作业人员实际上看到的观察对象,显示区域13d示出由可穿戴部10的图像取得部12a取得的图像。因此,佩戴了可穿戴部10的作业人员能够一边以肉眼确认作业对象等一边运用双手进行需要注意的作业,同时在显示区域13d中对该作业对象的摄像图像进行观察。
另外,示出了由眼镜型终端装置构成可穿戴部10并且该可穿戴部10佩戴于用户的头部的例子,但作为可穿戴部10,也可以采用佩戴于头部以外的部分的装置。
接下来,参照图5A~图5D、图6以及图7对这样构成的实施方式的动作进行说明。图5A~图5D是用于对第一实施方式的动作进行说明的说明图。并且,图6和图7是用于对第一实施方式的动作进行说明的流程图。
图5A~图5D示出了在医疗现场采用了本实施方式的可穿戴部10的情况的例子。图5A示出了医生51和患者52彼此面对地坐在未图示的椅子上的情形。医生51将例如图2等所示的可穿戴部10佩戴于头部。在图5A中示出了在医生51的头部的右侧配设有可穿戴部10的信息取得部12。在医生51的左手处配置有外部设备20。对医生等医务人员来说,各种各样的器具和用具、信息终端的操作以及与患者的接触很重要,使用可穿戴设备以使得能够使用双手的话,很多状况比较高效。但是,关于可穿戴设备或者用户佩戴使用的设备,也需要注意:即使用户与设备的关系性很好,其他方面(例如这里为与患者的位置关系等)根据用户的姿态、动作、举动有时也不稳定。
这里,假定医生想要通过所诊察到的部位图像对患者进行说明那样的状况,在信息取得部12中取得医生51所观察到的患者52的情形作为图像。医生51面朝患者52,例如对患者52的舌头52a进行观察,从而对患者52进行诊断。此时,虽然医生51看得见,但是患者52看不到该情形,因此不知道怎样配合才能让医生良好地查看等,另外也为了让患者52接受哪里如何不好、怎样算治愈等说明,信息的可视化很重要。
可穿戴部10的控制部11在图6的步骤S1中判定是否产生了启动可穿戴部10的特定的输入信号或输入操作,在没有产生的情况下,在步骤S12中设定为省电力模式(节能模式)并使处理返回到步骤S1。在省电力模式下,控制部11以将来自电池15的电力仅提供给可穿戴部10的一部分的方式进行控制。可穿戴设备为了减小佩戴时的负担,使电池小型并且重量轻、频繁地抑制多余的能耗的设计很重要。
另一方面,在外部设备20中,控制部21在图7的步骤S21中判定是否进行了初始操作。在进行初始操作之前,控制部21为重复进行步骤S21的判定的待机状态。在进行了初始操作时,控制部21在步骤S22中将初始画面显示在显示部23上。初始画面显示与各患者的治疗有关的各种菜单,通过输入患者ID,能够访问患者个人的信息。
控制部21在步骤S23中判定是否输入了患者ID。另外,患者ID是能够通过操作输入部的操作、对显示部23上的触摸面板的操作或者声音输入等而指定的。在该声音识别等中也是,在佩戴了可穿戴设备时,能够在用户的嘴部处清楚地判定声音,从而可知可穿戴设备的有用性。使用即使在可穿戴部10启动之前节能性也高的电路或软件,麦克风的声音取得性能即使低,也能够按照仅对特定的声音有反应那样的设计来实现能够通过该特定声音而启动的设计。在没有输入患者ID的情况下,控制部21使处理返回到步骤S21。在输入了患者ID时,控制部21从未图示的数据库中读出与由患者ID所指定的患者有关的信息并显示(步骤S24)。
接着,控制部21使处理转移到步骤S25,判定是否有启动可穿戴部10的操作(接通)或停止启动的操作(切断)。例如,能够通过外部设备20的操作输入部、触摸面板、声音输入等而对可穿戴部10的接通、切断进行控制。控制部21在没有接通操作的情况下,使处理转移到步骤S32,根据菜单操作而将病历显示在显示部23上,根据用户操作而进行药品检索(步骤S33),根据用户操作而对病历进行更新并记录到记录部中(步骤S34)。控制部21在产生了可穿戴部10的接通操作时,使处理从步骤S25转移到步骤S26,将接通可穿戴部10的信号经由通信部24、14发送给控制部11。另外,控制部21在产生了可穿戴部10的切断操作时,使处理从步骤S25转移到步骤S26,将切断可穿戴部10的信号经由通信部24、14发送给控制部11。在使用可穿戴麦克风而通过声音识别进行药品检索等的情况下,需要从各种各样的候选中筛选,提高麦克风的性能以高保真地拾音。并且,也可以对患者的应答等进行声音判定,在该情况下,如果麦克风性能(也包含噪声消除)不好的话,则无法进行正确的识别。
可穿戴部10的控制部11在步骤S1中判定为产生了启动可穿戴部10的任意输入操作时,使处理转移到步骤S2,向各部分提供来自电池15的电力以使各部分启动。另外,控制部11不仅根据外部设备20的操作,也根据对声音取得部12b的声音输入而使处理从步骤S1转移到步骤S2。不仅是使用基于可穿戴部10的麦克风拾音的声音识别的检索,也可以将麦克风放置在外部设备20的监视器的附近,但在该情况下,用户观察那边的话识别率变高,因此可穿戴设备与患者的位置关系改变,但能够提供没有问题地应对这样的状况的***。
医生51佩戴着的可穿戴部10的信息取得部12通过图像取得部12a对医生51的脸的前方进行拍摄。另外,图像取得部12a的摄影范围比较广角。由图像取得部12a取得的摄像图像被显示控制部11a提供给显示部13而显示(步骤S3)。并且,来自图像取得部12a的摄像图像也提供给范围切换部11b。范围切换部11b在步骤S3中对摄像图像进行图像分析。另外,显示控制部11a可以将由图像取得部12a取得的摄像图像提供给显示部13并使其显示,并且,也可以经由通信部14、24提供给外部设备20的控制部21而使显示部23显示。在该情况下也是,由于作为用户的医生观察那边,因此可穿戴设备与患者的位置关系改变,但能够提供没有问题地应对这样的状况的***。是认为患者的动作在该情况下较小的状况。
外部设备20的控制部21在步骤S27中判定是否接收到来自可穿戴部10的信息。在没有接收到信息的情况下,控制部21使处理从步骤S27转移到步骤S30。在接收到信息的情况下,控制部21使处理转移到步骤S28,在接收到的信息是声音的情况下,进行听写(dictation)处理,并将文本信息记录到记录部25中。并且,在接收到的信息是图像的情况下,控制部21在步骤S29中将摄像图像提供给显示部23并使其显示,并且将摄像图像提供给记录部25并使其记录。
可穿戴部10的范围切换部11b在步骤S4中进行图像分析,判定在医生51的前方是否检测到了患者52的脸。当在摄像图像的中央检测到患者52的脸时,范围切换部11b将该脸的部分或嘴的部分等设定为跟踪对象物。并且,在该情况下,范围切换部11b以使声音取得部12b的方向性与作为医生51的脸的朝向的摄像中心方向一致的方式进行控制(步骤S5)。范围切换部11b将设定跟踪对象物时的方向性的方向设定为基准方向。
信息取得部12的声音取得部12b取得周围的声音。声音取得部12b具有方向性,在图5A的状态下波束方向是患者52的脸方向,在该脸的周围具有比较高的灵敏度。在图5A中使用虚线示出了具有比较高的灵敏度的范围12bb。
信息取得部12所取得的声音提供给控制部11。控制部11能够执行听写处理,该听写处理是指通过对所输入的声音的声音识别处理而生成文本信息。通过听写处理而取得的文本信息经由通信部14、24输送给控制部21,被控制部21记录在记录部25中。另外,也可以如上所述,控制部11直接将声音经由通信部14、24输送给控制部21,在控制部21中执行听写处理。这样,通过对医生与患者的密切的交流进行文字化并以文件的形式记录下来,能够进行正确的诊断和验证。
图5B示出了在图5A的状态下由图像取得部12a取得的摄像图像61a。另外,该摄像图像61a用于声音取得部12b的方向性控制,可以显示在可穿戴部10的显示部13上,也可以不显示。并且,也可以将该摄像图像61a提供给外部设备20的显示部23,将摄像图像61a直接显示或者放大一部分进行显示。另外,在摄像图像61a的中央包含有患者52的头部附近的图像52b,在摄像图像61a的左端部包含有外部设备20的图像20a。另外,摄像图像61a中的虚线所示的圆形范围12bb示出了声音取得部12b的具有比较高的灵敏度的范围(基于方向性的拾音范围)。
在图6的例子中,跟踪对象物被自动设定为位于医生51的前方的脸部等,但控制部11或控制部21也可以根据用户操作来设定跟踪对象物。例如,也可以是,在使显示部23显示了摄像图像61a的状态下,通过医生51等对显示部23的摄像图像61a上的患者的图像52b上进行触摸操作,控制部21将该图像52b或其脸的部分、嘴的部分设定为跟踪对象物。在该情况下,控制部21将所设定的跟踪对象物的信息经由通信部24、14发送给范围切换部11b。
范围切换部11b在步骤S6中判定医生51的姿态是否发生了变化。例如,范围切换部11b通过对图像取得部12a所取得的摄像图像进行图像分析来检测医生51的姿态是否发生了变化。这里,由于以用户的姿态(举止等)是与对象物的相对位置变化的主要原因为前提,因此为了保证该前提,可以首先通过来自图像取得部的图像来判定对象物在背景中是否处于相同的位置。在该情况下,只要检测对象物的特征的部分(例如脸)并以该脸的周围的图像为背景来判定出在时间上它们的关系没有发生变化即可。并且,近年来,研究出了复眼照相机和能够进行相位差方式的距离分布判定的摄像元件,从而能够了解状况的距离分布等,因此可以据此检测出距离分布没有变化,判定出对象物没有变化或者变化小。能够通过图像或距离分布的时间变化等来掌握背景与对象物的关系,如果它们的关系变化不大,则可以认为动作的补偿的对象是用户的动作。并且,在这里,可以将用户的动作规定为仅是旋转类的动作。也可以是,根据佩戴部位或此时的假定作业、业务等而假定此时可能引发的动作,从而进行动作补偿控制。
在医生51的姿态没有变化的情况下,控制部11在步骤S13中判定有无摄影操作。另外,范围切换部11b也可以仅在医生51的姿态变化了规定的阈值角度以上的情况下判定为医生51的姿态发生了变化。当医生51通过未图示的操作部的操作或声音输入而指示摄影时,图像取得部12a进行拍摄(步骤S14),并将摄影指示时机的静止图像输出。该静止图像经由通信部14、24输送给控制部21并被控制部21记录在记录部25中。
假设现在医生51的姿态发生变化。图5C示出了该情况下的情形。图5C的例子示出了例如医生51一边对显示在外部设备20的显示部23上的图像进行观察一边对患者52进行关于诊断的说明。医生51从看着坐在医生的前方的患者52的脸的状态(图5A)下将脸的朝向向左方向改变,将脸朝向外部设备20的显示部23方向。在该情况下,图像取得部12a的摄像图像也发生变化。
图5D是出了在图5C的状态下由图像取得部12a取得的摄像图像61b。医生51的脸朝向外部设备20的方向,在摄像图像61b的中央包含有该外部设备20的图像20a。在摄像图像61b的右端部包含有患者52的头部附近的图像52b。
范围切换部11b通过摄像图像的图像分析而求取从声音取得部12b朝向跟踪对象物的当前的方向,计算从基准方向到当前的方向的角度(以下,称作跟踪角度)。例如,范围切换部11b可以根据跟踪对象物在摄像图像上的位置的变化而求取用于跟踪的角度切换的量。
当在步骤S6中判定为医生51的姿态发生了变化的情况下,范围切换部11b使处理转移到步骤S7。在该情况下,由于图像取得部12a的摄像图像没有拍摄患者52,因此切断显示在显示部13上的图像取得部12a的摄像图像、即检查结果的显示。并且,在该情况下,显示控制部11a读出在医生51的姿态变更紧前记录在记录部16中的摄像图像,经由通信部14、24提供给控制部21并使显示部23显示(步骤S8)。
这样,在该情况下,如图5C所示,在显示部23的显示画面23a上显示了患者52的喉咙和舌头的图像52c。并且,图像取得部12a对显示部23方向进行拍摄,如图5D所示,在摄像图像61b中,在外部设备20的图像20a中包含有喉咙和舌头的图像52d。
范围切换部11b在步骤S9中以将波束方向校正了跟踪角度的量以使波束方向与当前的跟踪对象物方向一致的方式产生控制信号。该控制信号提供给声音取得部12b,声音取得部12b使波束方向向当前的跟踪对象物的方向、即患者52的脸部和嘴部的方向变化。
这样,声音取得部12b能够始终使波束方向朝向跟踪对象物的方向,能够可靠地取得来自跟踪对象物方向的声音。
控制部11在步骤S10中判定是否产生了终端切断操作。如果没有终端切断操作,则控制部11使处理返回到步骤S3。在产生了终端切断操作时,控制部11停止向可穿戴部10的各部分提供电力,也切断显示部13的显示(步骤S11)。
另外,外部设备20的控制部21在步骤S30中判断是否产生了退出操作。在没有进行退出操作的情况下,控制部21使处理转移到步骤S25,在进行了退出操作的情况下,控制部21使处理转移到步骤S31,将可穿戴部10切断并且将显示部23的显示切断。
另外,上述图6和图7的流程是对在医生51改变了姿态的情况下跟踪对象物仍存在于图像取得部12a的摄像范围内的状况进行说明的。但是,根据医生51的姿态的变化量的不同,跟踪对象物也有可能脱离摄像范围。因此,在该情况下,固定成最后存在于摄像范围内的跟踪对象物的方向与基准方向相距的跟踪角度,根据该跟踪角度对声音取得部12b的方向性进行控制。而且,在(进行了捕捉使得)跟踪对象物再次存在于摄像范围内的情况下,根据该情况下的跟踪对象物的摄像图像上的位置来计算跟踪角度,对声音取得部12b的方向性进行控制。
此时,由于患者进行了动作或用户进行了动作等各种原因,两人的位置关系发生变化,可能给拾音特性带来影响,但在这里以由作为医生的用户的姿态、动作、举止(也包含环境的特性)引起问题的情况为前提。有时需要考虑是用户的动作为主导还是对象(这里为患者)的动作为主导,例如无需连患者要从房间出去都追踪。此时,有时与护士和辅助人员的会话变得重要。另外,这样,是用户的动作为主导还是对象物的动作为主导能够通过对象物和背景是不是相对地处于相同的场所来判定,这样,在对象物处于相同的场所的情况下,用户的姿态变化是能够通过跟踪图像是否从摄像图像中的某处转移到另一处来判定的。即,本发明可以判定出即使所述传感器与对象物的相对关系发生变化而对象物的位置没有变化这一情况。关于该方法,可以是,通过借助可穿戴设备的照相机检测出对象物的位置没有变化这一情况来判定,也可以是,在外部设置监视照相机或PC用照相机那样的监视照相机,通过接受判定出患者的位置没有发生变化这一情况的结果来判定,也可以是,设置像人感传感器那样判定人的动作的传感器,通过其输出没有改变这一情况来判定。并且,不仅是使用图像的判定,也可以判定距离分布等的变化。在无人机那样的装置中,根据激光的照射及其反射来判定环境的状况,也可以使用这样的技术。这样,能够提供具有如下特征的传感器信息取得装置:具有控制部,该控制部根据与安装有所述传感器的位移部的位移有关的信息,对所述传感器的信息取得方向进行控制。
这样,在本实施方式中,设定跟踪对象物,并且检测作为从声音取得部朝向该跟踪对象物的方向的变化的跟踪角度,以设定跟踪对象物时的波束方向为基准而将波束方向修正跟踪角度的量。由此,能够始终使波束方向朝向跟踪对象物,能够进行可靠的拾音。这里,使用由所佩戴的设备取得的图像的信息来判定跟踪对象,对应于佩戴可穿戴设备的用户的姿态的变化,以不受其影响的方式进行跟踪并切换声音的拾音范围。此外,也可以使用监视照相机、网络(web)照相机或信息终端内设的照相机对用户的情形进行拍摄,通过图像来判定其姿态变化。此外,作为跟踪的方法,不仅使用图像来判定用户的姿态,也可以使用加速度传感器或方位传感器、角加速度传感器等来判定用户的姿态。而且,也具有高速地切换麦克风的方向性并且选择最好的方向性那样的方法。
(第二实施方式)
图8是示出本发明的其他实施方式的框图。在图8中,对与图1相同的结构要素标注相同的标号并省略说明。
近年来,在医疗现场有时采用机械手手术。机械手手术是指,将内窥镜照相机和机械臂***到体内,医生在显示来自内窥镜照相机的图像的控制台上一边通过图像以肉眼捕捉手术范围一边通过对手边的把手进行操作而使机械臂移动以进行手术。机械手手术具有如下的优点:能够通过机械手控制而可靠地进行控制,甚至进行微细的动作。
然而,在机械手手术中,除了需要对机械手进行操作的医生以外,也需要止血人员等工作人员。因此,在接受治疗的患者的附近机械手和工作人员交错,有时彼此的动作被制约。并且,也存在医生需要对机械手操作充分熟练这一问题。
因此,在本实施方式中,采用能够安装在手术人员的指尖的医疗器具,在医疗器具中取得图像,并且以使所设定的跟踪对象物被持续显示在例如画面中央的方式进行控制,从而能够一边确认患部一边实施治疗等。由此,充分减小给其他工作人员带来的影响和从其他工作人员处受到的影响,能够效率良好地进行手术等。而且,能够以与直接使用自己的手指的手术相同的感觉进行作业,能够提高作业性并且无需为了机械手手术而进行长时间的学习。
图8示出了由医疗器具70和可穿戴部80构成了信息处理***的例子。在本实施方式中,设定照相机所取得的图像信息中的应该关注的对象物(跟踪对象物),并且利用规定的传感器来检测从照相机朝向该跟踪对象物的方向的变化,由此以使跟踪对象物例如始终显示在画面中央的方式进行显示控制。有时通过将应该关注的对象物显示在画面中央而会使应该关注的对象物的视觉确认性提高。在该情况下,在显示于画面中央的部分包含有效的信息,可以认为信息取得方向是朝向显示于画面中央的部分的方向。在本实施方式中,即使是照相机的朝向发生变化而使摄影范围发生变化的情况,通过将信息取得方向改变成跟踪对象物方向,也能够将跟踪对象物显示于画面中央,从而容易地确认跟踪对象物。即,不论照相机的朝向如何,都能够防止跟踪对象物的视觉确认性降低,从而提高作业性。
医疗器具70具有未图示的卡定部,该卡定部用于将内设有图8的电路的框架体安装于用户的身体的一部分,该医疗器具70根据用户的动作、例如手指的动作而移动自如。
医疗器具70具有控制部71。控制部71对医疗器具70的各部分进行控制。控制部71可以由使用了CPU等的处理器构成,按照存储在未图示的存储器中的程序进行动作而对各部分进行控制,也可以使用硬件的电子电路来置换一部分。
在医疗器具70中内设有电池75。电池75被控制部71控制,产生提供给医疗器具70的各部分的电力。医疗器具70也具有光源部74。光源部74被控制部71控制,通过来自电池75的电力供给而发光,从而能够对医疗器具70的周围进行照明。
医疗器具70具有信息取得部72。信息取得部72取得与用户希望拍摄的跟踪对象物有关的传感器信息,具有例如图像取得部72a和状态判定部72b。图像取得部72a能够由例如未图示的图像传感器构成,能够拍摄跟踪对象物并取得摄像图像。图像取得部72a将所取得的摄像图像作为传感器信息输出给控制部71。在本实施方式中,图像取得部72a通过采用广角透镜而能够取得广角图像。
在本实施方式中,信息取得部72也用于取得跟踪对象物的方向的信息,其中,该跟踪对象物是图像取得部72a想要取得的摄像图像的对象物。在信息取得部72中设置有状态判定部72b。状态判定部72b检测处置部73的位移,将与作为位移部的处置部73的位移有关的信息输出给控制部71的范围切换部71a。处置部73是钳子或电手术刀等用于对被检体进行处置的器具。另外,虽然在图8中省略了图示,但在采用电手术刀作为处置部73的情况下,配置有用于将来自电手术刀装置的高频电力提供给电手术刀的信号线,关于对电手术刀的电力供给,也构成为能够由控制部71控制。
范围切换部71a能够根据与处置部73的位移有关的信息来计算视野范围变更前后的摄像图像的视野范围的变化量。范围切换部71a根据所求出的视野范围的变化量的信息,以使跟踪对象物的图像部分位于画面中央的方式对图像进行移位或变焦从而生成显示图像。图像取得部72a取得视角充分大的广角图像,从而在由于医疗器具70动作而移动或改变朝向而导致图像取得部72a的视野范围发生了变化的情况下也继续对包含在视野范围变更前的摄像范围内的跟踪对象物的图像部分进行拍摄的可能性很高。因此,通过使图像移位或变焦由于医疗器具70的动作而引起的视野范围变化的量,能够将跟踪对象物的图像部分显示在画面中央。另外,范围切换部71a也可以使跟踪对象物的图像部分显示在画面中央以外的部分。
控制部71能够将由范围切换部71a生成的显示图像经由通信部76发送给可穿戴部80。
并且,范围切换部71a可以根据图像取得部72a的输出而生成与处置部73的位移对应的显示图像。图像取得部72a的摄像图像提供给控制部71的范围切换部71a。范围切换部71a可以通过摄像图像的图像分析而从视野范围变更后的摄像图像中检索包含在视野范围变更前的摄像图像内的跟踪对象物的图像部分,以使该图像部分位于画面中央的方式使摄像图像移位或变焦,从而生成显示图像。
范围切换部71a能够设定跟踪对象物。例如,范围切换部71a可以根据指定取得时机的用户操作而将来自图像取得部12a的摄像图像的中央的图像部分设定为跟踪对象物。例如,可以是,范围切换部71a将设置于处置器具的未图示的按钮***作的时机设为取得时机,并且也可以是,将处置部73的状态为规定的状态的情况设定为取得时机并设定跟踪对象物。并且,例如,也可以是,范围切换部71a接受用户对跟踪对象物的指定操作而设定对象部。例如,也可以是,范围切换部71a在使图像取得部72a所取得的摄像图像显示在可穿戴部80的后述的显示部83的显示画面上的状态下根据未图示的操作部而使指针显示在图像上,在用户利用该指针而指定了图像上的部分时,将该图像部分设定为跟踪对象物。例如,也可以是,范围切换部71a在检测到对图像上的特定部分的指定操作时,将包含所指定的图像部分在内的规定的范围的对象物设定为跟踪对象物。
在医疗器具70中设置有通信部76。通信部76被控制部71控制,能够与可穿戴部80之间进行有线或无线的通信。例如,通信部76能够由对应于与可穿戴部80之间的传送路径的各种控制器构成。例如,在采用了LAN缆线作为传送的情况下,采用LAN控制器作为通信部76,在采用了Wifi的情况下,采用无线LAN控制器作为通信部76。并且,在传送路径是USB缆线的情况下,采用USB控制器作为通信部76,在视频缆线的情况下,采用视频控制器作为通信部76。
在本实施方式中,作为可穿戴部80,能够采用眼镜型终端装置等。可穿戴部80具有控制部81。控制部81对可穿戴部80的各部分进行控制。控制部81可以由使用了CPU等的处理器构成,按照保存在未图示的存储器中的程序进行动作而对各部分进行控制,也可以使用硬件的电子电路来置换一部分。
在可穿戴部80中设置有通信部86。通信部86被控制部81控制,能够与医疗器具70之间进行有线或无线的通信。例如,通信部86能够由对应于与医疗器具70之间的传送路径的各种控制器构成。例如,在采用了LAN缆线作为传送的情况下,采用LAN控制器作为通信部86,在采用了Wifi的情况下,采用无线LAN控制器作为通信部86。并且,在传送路径是USB缆线的情况下,采用USB控制器作为通信部86,在视频缆线的情况下,采用视频控制器作为通信部86。
在控制部81中设置有显示控制部81a。显示控制部81a执行与显示有关的各种处理。显示控制部81a能够由例如视频控制器或显示器控制器等构成,也可以与控制部81分体构成。显示控制部81a对显示部83的显示进行控制。显示部83具有LCD等显示画面,对从显示控制部81a提供的图像进行显示。例如,显示控制部81a能够在来自图像取得部72a的摄像图像经由通信部76、86传送来时,将该摄像图像显示在显示部83的显示画面上。
可穿戴部80具有信息取得部82。信息取得部82取得可穿戴部80的周围的传感器信息,具有例如图像取得部82a和声音取得部82b。图像取得部82a能够由例如未图示的图像传感器构成,能够在规定的摄像范围内取得摄像图像。图像取得部82a将所取得的摄像图像作为传感器信息输出给控制部81。显示控制部81a也能够使显示部83显示来自图像取得部82a的摄像图像。
声音取得部82b能够由例如麦克风构成,能够取得周围的声音。声音取得部82b将所取得的声音提供给控制部81。控制部81能够通过听写处理来取得所取得的声音的文本信息。由此,控制部81能够对用户的声音指令进行解释,接受基于声音的操作。
在可穿戴部80中设置有记录部84。记录部84被控制部81控制,能够在未图示的存储器等记录介质中记录在信息取得部72、82中取得的图像和声音。并且,记录部84能够将记录在未图示的记录介质中的图像或声音读出并再现,并将再现的图像或声音输出给控制部81。由此,控制部81能够使例如显示部83显示由记录部84记录的图像。
并且,在可穿戴部80中内设有电池85。电池85被控制部81控制,产生提供给可穿戴部80的各部分的电力。
图9是示出图8中的医疗器具70的一例的说明图。图9的左侧示出了伸展了手指的情况下的处置部73,图9的右侧示出了弯曲手指的情况下的处置部73。
图9示出了由具有电手术刀的功能的处置器具构成了医疗器具70的例子。处置部73具有第一框架91、第二框架92。在第一框架的基端侧安装有***部90,该***部90用于供手术人员的手指***以在手指的基端侧对第一框架91进行支承。在***部90中设置有电路部89,该电路部89搭载了图8的医疗器具70内的控制部71、信息取得部72、电池75以及通信部76各部分。
并且,在第一框架的前端侧安装有驱动轴91b,在该驱动轴91b上设置有基端侧被轴支承成转动自如的第二框架92。在第二框架92的前端侧安装有电手术刀93。电手术刀93通过贯穿***于第二框架92和第一框架91内的未图示的配线与电路部89连接而被驱动。在第二框架92的前端也安装有光源部74。光源部74通过贯穿***于第二框架92和第一框架91内的未图示的配线而从电池75接受电力供给,将照明光向被检体照射。
在第一框架91的侧部设置有卡定部91a,在第二框架92的侧部设置有卡定部92a,在卡定部91a与卡定部92a之间架设有施力部件94。作为施力部件94,采用了弹簧或橡胶等弹性材料,施力部件94对卡定部92a向卡定部91a侧施力。如图9的左侧所示,借助该作用力而将第一框架91和第二框架92配置成大致直线状。另外,如后所述,也能够通过弯曲手指100的动作,抵抗着施力部件94的作用力而将第二框架92配置成相对于第一框架倾斜的状态。
在驱动轴91b上配设有未图示的旋转编码器,旋转编码器能够取得第二框架92相对于第一框架91的倾斜角度的信息。旋转编码器将所取得的倾斜角度的信息经由贯穿***于第一框架91内的未图示的配线输出给电路部89中的状态判定部72b。由此,状态判定部72b能够取得与处置部73的位移有关的信息。
并且,作为处置部73,也设置有供手术人员的手指***的嵌入部96,该嵌入部96嵌入于手指的第二关节附近位置。在嵌入部96的侧部设置有轴部件96a,在第二框架92的侧部也设置有轴部件92b。在轴部件96a、92b上设置有环状部件95,环状部件95在轴部件96a、92b部分沿着轴部件96a、92b的周面旋转自如,轴部件96a、92b之间的距离根据环状部件95的尺寸而维持固定的距离。
手术人员以如下的方式安装处置部73:将手指100从第一框架91的基端侧***于***部90中,进而也***于嵌入部96中,使嵌入部96位于第二关节附近。在该状态下,如果伸展手指100,则成为图9的左侧的状态,如果弯曲手指100,则第二框架92和电手术刀93像图9的箭头103那样移动而成为图9的右侧的状态。相应于弯曲手指100的角度,电手术刀93相对于第一框架91的角度也变化。手术人员能够通过弯曲手指100这一简单的动作而改变电手术刀93的角度。手术人员通过将手指100移动到所希望的位置、将朝向改变成所希望的方向、弯曲所希望的角度,能够自由地改变电手术刀93的位置和角度,能够容易地进行活体的切除等。
在手术人员的手指100的前端嵌入有环状的嵌合部件97,在该嵌合部件97的手指前端侧配设有图像取得部72a。如上所述,图像取得部72a能够以比较大的广角进行拍摄。在图9中使用虚线示出了图像取得部72a的视角101a、101b。
如上所述,范围切换部71a可以根据处置部73的状态为规定的状态的情况下的摄像图像来设定跟踪对象物。例如,范围切换部71a可以将指100伸展成大致直线状、即第一框架91和第二框架配置成大致直线状的情况下的图像取得部72a的摄像图像的中心部分设定为跟踪对象物。
在图9的左侧的状态下,粗线箭头102a所示的方向是视角的中心方向。在该情况下,将粗线箭头102a所示的方向的被检体部分设定为跟踪对象物。在该情况下,范围切换部71a根据来自状态判定部72b的与处置部73的位移有关的信息,生成将图像取得部72a的摄像图像中的、粗线箭头102a方向的跟踪对象物的图像部分配置在画面中央的显示图像。
例如通过手术人员从伸展着手指的状态将手指弯曲,使处置部73从图9的左侧的状态位移至图9的右侧的状态。在该情况下,图像取得部72a对视角101b的范围进行拍摄。在视角101b的范围内包含有图9的左侧的粗线箭头102a方向的被检体(跟踪对象物),图9的右侧的粗线箭头102b方向表示跟踪对象物的方向。即,图像取得部72a能够在视角101b的范围内对作为跟踪对象物的被检体进行拍摄。范围切换部71a使图像取得部72a的摄像图像中的粗线箭头102a方向的图像部分移位或变焦至画面中央而生成显示图像。
图10是示出可穿戴部80的各部分与脸的位置关系的说明图。图10示出了采用与图2相同的结构的眼镜型的可穿戴终端装置(眼镜型终端装置)作为可穿戴部80的情况的例子。
在可穿戴部80中配设有构成图像取得部82a的摄像透镜82aa。来自被摄体的光学像经由摄像透镜82aa提供给图像取得部82a的摄像元件。能够利用该摄像元件取得基于被摄体光学像的摄像图像。例如,摄像透镜82aa设置于眼镜框架的眼镜腿部分的前端,眼镜腿部分朝向与人物的脸111大致相同的朝向,因此图像取得部82a能够拍摄与人的眼睛112R、112L的观察方向相同的方向上的被摄体。由此,图像取得部82a能够取得与人进行观察的作业状态对应的图像作为摄像图像。
在摄像透镜82aa的下方配设有构成声音取得部82b的麦克风82ba。并且,在眼镜型终端装置的左、右透镜中的右侧透镜的前方侧配设有显示部83的显示面83b。显示面83b在人将眼镜框架佩戴在脸111上的状态下配置于右眼112R的前方且与右透镜的一部分区域对应的位置。
显示控制部81a将由控制部81处理后的影像信号提供给显示部83,显示部83将基于该影像信号的影像光显示在显示面83b上。这样,能够在右眼112R的视野范围的一部分对基于来自控制部81的影像信号的图像进行视觉确认。这里,能够根据需要而显示建议、状况确认、处置的OK显示、禁止、警告等的显示。为了将这样的显示表现出来,可以是,控制部81判定眼镜型终端的摄像结果,但也可以是,处置器具侧的控制部71使用基于信息取得结果(出欠或异常的动作等的判定)的判定。
另外,眼镜型终端装置构成为不妨碍以透视的方式对观察对象进行直接观察,能够同时对直接观察的观察对象和可在视野范围的一部分观察到的基于所输入的影像信号的图像进行观察。例如,佩戴了作为眼镜型终端装置的可穿戴部80的用户在各种作业时能够在对作业的状况进行直接观察的同时也对由医疗器具70的图像取得部72a等取得的摄像图像进行观察。而且,由于可穿戴部80是免手持的设备,因此在作业和观察时手脚的动作不会被限制,因此能够无损运用双手的作业性地对由图像取得部72a取得的图像进行观察。另外,拒绝产生混乱的话,则该医疗器具70也被佩戴在手指上,因此具有可穿戴设备的特征。眼镜型终端和处置器具(医疗设备)的佩戴的场所分离,但能够把它们当做一个设备,如果控制部等具有一个共同点,则也能够兼用控制部71和控制部81。
另外,图10中的分别包围右眼112R和左眼112L的虚线示出了左、眼112R、112L的视野。
图11是用于对该视野进行说明的说明图。左视野113L表示左眼112L的视野,右视野113R表示右眼112R的视野。左视野113L是通过了未图示的左透镜(可以是透明玻璃,也可以没有玻璃)的光学眼镜视野,右视野113R是通过了未图示的右透镜(可以是透明玻璃,也可以没有玻璃)的光学眼镜视野。在右视野113R的一部分设置有显示面83b的显示区域83d。该显示区域83d被设定为充分大的尺寸,使得容易对图像取得部72a的摄像图像进行观察。
左、右视野113L、113R中的光学眼镜视野示出手术人员从例如患者身体的外侧观察的观察对象,显示区域83d示出在手术人员将医疗器具70佩戴于手指100的状态下拍摄例如患者的腹腔内的患部而得到的跟踪对象物。因此,佩戴了可穿戴部80的作业人员能够一边从身体的外侧以肉眼对佩戴着医疗器具70的状态的作业状态进行确认一边运用双手进行需要注意的作业,同时在显示区域83d中对该作业对象的腹腔内的摄像图像进行观察。
接下来,参照图12和图13对这样构成的实施方式的动作进行说明。图12是用于对第二实施方式的动作进行说明的流程图。图13是用于对第二实施方式的动作进行说明的说明图。
图13示出了使用本实施方式的医疗器具70对患者进行治疗的例子。在患者体表面121上形成有能够***医疗器具70的开口。手术人员将佩戴着医疗器具70的手指100经由患者体表面121的开口***到体腔内122。通过使手指100沿着箭头131a方向移动,能够使医疗器具70的第一框架91沿着箭头131b方向移动。由于是这样的状况,因此以如下内容为前提:主要是由于医疗器具70的用户的行为(以手指的动作为例,姿态、举止)而产生各种各样的位置变化,患者大致静止。
医疗器具70的控制部71在图12的步骤S41中判定是否产生了启动医疗器具70的特定的输入信号或输入操作,在没有产生的情况下,在步骤S53中设定省电力模式(节能模式),使处理返回到步骤S41中。在省电力模式下,控制部71以仅向医疗器具70的一部分提供来自电池75的电力的方式进行控制。
控制部71在判定为产生了用于启动医疗器具70的接通操作时,使处理转移到步骤S42,向各部分提供来自电池75的电力以使各部分启动。另外,也可以是,控制部71按照对应于对可穿戴部80的声音取得部82b的声音输入而从控制部81通知的指令,使处理从步骤S41转移到步骤S42。
配置在手指100的前端的图像取得部72a以广角对体腔内122进行拍摄。该摄像图像提供给控制部71。控制部71将摄像图像直接作为显示图像或者将中心图像作为显示图像经由通信部76、86输出给医疗器具70的控制部81(步骤S43)。显示控制部81a例如将体腔内122的摄像图像显示于眼镜型的医疗器具70的显示部83。
控制部71在步骤S44中判定是否需要照明。在摄像图像不具备充分的明亮度的情况下,控制部71使光源部74发光(步骤S45)。这样,体腔内122被设置于医疗器具70的前端侧的光源部74照明,图像取得部72a的摄像图像成为视觉确认性优异的图像。另外,控制部71在步骤S44中判断为无需照明的情况下,从省电力的观点来看,不使光源部74点亮,使处理转移到步骤S46。
这样,手术人员一边对显示在医疗器具70的显示部83的显示区域83d内的体腔内112的摄像图像进行观察一边移动手指100,将医疗器具70移动到要实施治疗的目的部位123、即跟踪对象物附近。范围切换部71a将在手指100伸展而使第一框架91和第二框架92为大致直线状的情况下的图像取得部72a的摄像图像的图像中心部分设定为跟踪对象物(步骤S46),转移到步骤S47。另外,范围切换部71a也可以通过其他方法来设定跟踪对象物。例如,也可以是,范围切换部71a通过对显示在可穿戴部80的显示部83上的摄像图像中的目的部位123的图像部分进行指定的操作来设定跟踪对象物。
这里,由于以用户的手指的动作(举止等)是与对象物的相对位置变化的主要原因为前提,因此为了保证该前提,可以首先对通过来自图像取得部的图像而判定对象物在背景中处于相同的位置这一情况的结果进行确认。这里,可以加入如下的过程:通过摄像结果来判定目的部位123的图像以特定的体腔内图案为背景不移动这一情况。这里,由于以用户的姿态(举止等)是与对象物的相对位置变化的主要原因为前提,因此为了保证该前提,可以是,首先通过来自图像取得部的图像来判定对象物在背景中处于相同的位置这一情况。在该情况下,只要检测目的部位123的特征的部分(例如颜色和形状),并以该颜色和形状的周围的图像为背景来判定出时间上它们的关系没有变化即可。并且,近年来,研究出了复眼的照相机和能够进行相位差方式的距离分布判定的摄像元件,从而能够了解状况的距离分布等,因此可以据此检测出距离分布没有变化,判定出对象物没有变化或者变化小。如果是体腔内112,则通过照明光的反射的强度的分布也能够掌握背景与眼睛的部位123的关系,如果它们的关系变化不大,则可以认为动作的补偿的对象是用户的动作。并且,在这里,由于用户的动作仅是旋转类的动作,因此可以是,根据佩戴部位而假定其特有的动作,从而进行控制图像的移位或变焦这样的动作补偿控制。这样的动作的规定可以按照与安装部位有关的关节的动作的模式进行,也能够根据作业内容和设备的专门性而进行规定,但可以预先手动输入。
范围切换部71a在步骤S47中根据来自状态判定部72b的信息而判定是否开始了手指弯曲。范围切换部71a在判定为没有开始手指弯曲的情况下,使处理转移到步骤S56,判定是否指定了变焦。范围切换部71a在没有指定变焦的情况下使处理转移到步骤S51,在指定了变焦的情况下,在步骤S57中在图像中心执行变焦处理,取得显示图像,然后转移到步骤S51。另外,该显示图像在步骤S43中显示在显示部83上。
手术人员一边对显示在显示部83上的显示图像进行确认,一边移动手指100的位置,从而使医疗器具70的电手术刀93抵接于目的部位123。通过像图13所示那样使手指100按照箭头132a方向弯曲、伸展,能够使电手术刀93按照箭头132b方向倾斜。手术人员通过进行弯曲或伸展或移动手指100的操作而利用电手术刀93来切开目的部位123。关于对该电手术刀93的能量接通,可以是医生使用脚踏开关或者医生通过嘴的动作等进行,也可以使用其他手指等进行操作。这样,多是医生需要集中力的处置,确保医生的各个部位的自由度很重要,从而使用不会被设备束缚那样的可穿戴设备的解决方案变得重要。此外,该设备无需使用手指100以外的其他手指来抓住或支承处置部73,从而使其他手指具有自由度,因此能够通过使用这些手指的专用器具而进行缝合或止血等另外的作业。
由手指100的弯曲、伸展引起的第二框架92的倾斜角的变化是由状态判定部72b判定的。将状态判定部72b将所取得的倾斜角的变化的信息输出给范围切换部71a。当在步骤S47中判定为进行了手指100的弯曲、伸展时,范围切换部71a在步骤S48中根据手指弯曲而变更跟踪对象物的方向,以使图像取得部72a的摄像图像中的与跟踪对象物的方向对应的图像部分位于画面中央的方式使图像移位或变焦,从而生成显示图像。另外,这里,以用户的手指弯曲是与对象物的相对位置变化的主要原因为前提。由于是这样的专用设备,因此可以是以此为前提的设计,也可以在步骤S47中加入这样的确认的过程。
即,能够在不论手术人员是弯曲还是伸展手指100都能够使作为目的部位123的跟踪对象物始终位于显示部83的画面中央的状态下,一边在显示部83上对目的部位123进行观察,一边使用电手术刀93进行切开作业,由此,手术人员容易对目的部位123进行确认并且能够通过移动手指100这样的简单的作业而对目的部位123进行处置。这里,以用户的手指的动作是与对象物的相对位置变化的主要原因为前提,因此可以首先对通过来自图像取得部的图像来判定对象物在背景中处于相同的位置这一情况的结果进行确认。例如,可以始终通过图像而预先对目的部位与其他部位的位置关系进行确认,可以在步骤S47的分支中将此反映出来。即,可以设计成仅在目的部位静止时步骤S47判定为进行手指弯曲等,可以在这样的状况以外不发出手指弯曲OK信号。手指弯曲OK的结果显示于眼镜型终端等。
范围切换部71a在步骤S49中进行抖动判定,当判定为在图像中没有产生抖动的情况下,使处理转移到步骤S54,判定是否指定了变焦。范围切换部71a在没有指定变焦的情况下使处理转移到步骤S51,在指定了变焦的情况下,在步骤S55中在图像中心执行变焦处理而取得显示图像,然后转移到步骤S51。另外,该显示图像以使跟踪对象物的图像部分位于画面中央的方式进行图像移位或变焦而得到的,在步骤S43中显示在显示部83上。
当在步骤S49中判定为产生了抖动的情况下,范围切换部71a在接下来的步骤S50中通过图像处理对抖动进行校正,然后使处理转移到步骤S51中。
控制部71在步骤S51中判定是否产生了终端切断操作。如果没有终端切断操作,则控制部71使处理返回到步骤S43中。在产生了终端切断操作时,控制部71在步骤S52中停止对医疗器具70的各部分的电力供给,将用于切断显示部83的显示的指令经由通信部76、86发送给控制部81。由此,控制部81切断显示部83的显示。
另外,上述图12的流程对不论手指100的朝向等如何,跟踪对象物都存在于图像取得部72a的摄像范围内的情况进行了说明。但是,根据手指100的位移量的不同,跟踪对象物也有可能脱离摄像范围。因此,在该情况下,将显示图像固定成最后存在于摄像范围内的跟踪对象物的方向的对象物位于画面中央的状态。而且,在跟踪对象物再次存在于摄像范围内(进行了补充)的情况下,以使该情况下的跟踪对象物的摄像图像上的位置的图像部分位于画面中央的方式生成显示图像。
(变形例)
另外,在图9的例子中,对将包含电池75在内的电路部89配置于***部90的装置进行了说明。但是,考虑到医疗器具70的操作性,***部90的重量轻的话比较好,电池75有时难以确保充分的容量。因此,也考虑了将该电池75等配置于***部90以外的部分的结构。佩戴眼镜型终端和处置器具(医疗设备)的佩戴的场所分离,但能够把它们当做一个设备,如果控制部等有一个共同点,则也能够兼用控制部71和控制部81,各自的电源等也可以共同化。
图14是示出这样的变形例的说明图。处置部73a采用了省略电路部89而成的***部90a,该点与图9的处置部73不同。***部90a与缆线131连接,该缆线131包含有与贯穿***于第一框架91内的多根配线连接的多根配线。缆线131配线在手术人员的手130上,内部的各配线与搭载于卷在手术人员的手腕上的腕带135的电路部134和电池75连接。另外,电路部134包含医疗器具70所需的电路。
根据这样的结构,由于重量比较大的电路部134和电池75没有搭载于***部90a,因此手术人员能够比较容易地移动手指100。另外,在图14中示出了将电池75和电路部134搭载于腕带135的例子,但也可以是如下的结构:将光源配置在腕带135上,利用光导对来自光源的光进行传送并使其作为照明光射出。
这样,在本实施方式中,设定跟踪对象物并且检测朝向该跟踪对象物的方向的变化,对配置于图像中心的摄像图像的部分进行修正。由此,能够始终取得跟踪对象物显示在画面中央的显示图像。这样,即使是伴随着作业而图像取得部位移的情况,也能够进行可靠地捕捉到跟踪对象物的拍摄。
本发明不限于上述实施方式,能够在实施阶段、在不脱离其主旨的范围内对结构要素进行变形并将其具体化。并且,能够通过适当地组合上述实施方式所公开的多个结构要素而形成各种发明。例如,可以删除实施方式所示的所有结构要素中的几个结构要素。
另外,关于权利要求书、说明书以及附图中的动作流程,为了方便,使用“首先”、“接着”等进行了说明,也不意味着必须按照该顺序实施。并且,勿需赘言,也能够适当地省略构成这些动作流程的各步骤中的、不影响发明的本质的部分。
并且,关于由于多个分支等而产生的结果,这里简单地进行了说明,但勿需赘言,也可以使用更多的判断材料。近年来,关于在怎样的条件下怎样进行控制这样的情况,公知人工智能、机器学习、深层学习等是有效的,关于这里进行了说明那样的专业人员所使用的设备,是期待将这行的权威或老手等的技巧与培育后进连结起来的领域。在本发明中,运用声音和图像等信息而提高各自的信息取得特性,但如果熟练人员利用在什么时候该特性切换重要这一情况来积累良好切换时的条件数据,则能够将此作为训练数据来制作使用更容易的***。这里,也包含这样的情况在内,以使说明变得最容易的方法描述实施例而进行说明,因此勿需赘言,是能够看清该方向下的发展脉络的技术。并且,关于这里所说明的大量设备协作的技术,勿需赘言,不论哪个设备的控制部在何处都能够应对,能够进行应用设计。能够掌握用户与对象物、或者背景与对象物的关系,如果它们的关系变化不大,则能够确定动作的补偿的对象,但在上述各实施例中列举了如何判定可以认为用户的动作是主导的状况,但该判定还与状况、设备的佩戴部位、作业内容等各种变量相关,因此,勿需赘言,也可以根据人工智能等进行学习的结果而切换控制。
另外,关于这里所说明的技术中的、主要使用流程图进行了说明的控制,多能够以程序来设定,也存在收纳在半导体、其他记录介质或记录部中的情况。关于对该记录介质、记录部的记录方法,可以在产品出厂时记录,也可以使用所发布的记录介质,也可以经由网络进行下载。并且,也可以是,外部的设备根据需要而协作,从而实现几个功能或判断的替代。

Claims (12)

1.一种传感器信息取得装置,其具有:
传感器;
信息取得部,其取得与位移部的位移有关的信息,该位移部与所述传感器的位置关系固定;以及
控制部,其在判定为所述传感器与对象物的相对关系发生变化而对象物的位置未发生变化的情况下,根据与所述位移部的位移有关的信息对所述传感器的信息取得方向进行控制。
2.根据权利要求1所述的传感器信息取得装置,其中,
所述控制部将所述信息取得方向设定为跟踪对象物的方向。
3.根据权利要求2所述的传感器信息取得装置,其中,
所述控制部根据用户操作来设定所述跟踪对象物。
4.根据权利要求2所述的传感器信息取得装置,其中,
所述传感器信息取得装置具有用于跟踪所述跟踪对象物的跟踪用传感器。
5.根据权利要求4所述的传感器信息取得装置,其中,
所述控制部在所述跟踪对象物脱离了所述跟踪用传感器的可跟踪的区域的情况下,将所述信息取得方向固定成最后跟踪到所述跟踪对象物的方向。
6.根据权利要求5所述的传感器信息取得装置,其中,
所述控制部在所述跟踪对象物从脱离了所述跟踪用传感器的可跟踪的区域的状态返回到可跟踪的区域中的情况下,将所述信息取得方向设定为所述跟踪对象物的跟踪方向。
7.根据权利要求1所述的传感器信息取得装置,其中,
与所述位移部的位移有关的信息是由图像传感器、麦克风或姿态传感器取得的。
8.根据权利要求1所述的传感器信息取得装置,其中,
所述传感器由取得声音的麦克风构成,
所述控制部对构成所述传感器的麦克风的方向性进行控制。
9.根据权利要求1所述的传感器信息取得装置,其中,
所述位移部是位移自如的处置部,
所述传感器信息取得装置是医疗器具。
10.根据权利要求9所述的传感器信息取得装置,其中,
所述处置部根据手指的动作而位移,
所述传感器是安装于所述手指的图像传感器,
所述控制部将由所述图像传感器取得的摄像图像中的规定的图像部分显示在画面的规定的位置。
11.一种传感器信息取得方法,包含以下步骤:
取得与位移部的位移有关的信息,该位移部与传感器的位置关系固定;以及
在判定为所述传感器与对象物的相对关系发生变化而对象物的位置未发生变化的情况下,根据所取得的与位移部的位移有关的信息对所述传感器的信息取得方向进行控制。
12.一种计算机可读的非暂时性记录介质,该记录介质记录有用于使计算机执行以下步骤的传感器信息取得程序:
取得与位移部的位移有关的信息,该位移部与传感器的位置关系固定;以及
在判定为所述传感器与对象物的相对关系发生变化而对象物的位置未发生变化的情况下,根据所取得的与位移部的位移有关的信息对所述传感器的信息取得方向进行控制。
CN201711428327.9A 2016-12-26 2017-12-26 传感器信息取得装置、传感器信息取得方法及记录介质 Pending CN108243302A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016-251717 2016-12-26
JP2016251717A JP2018107603A (ja) 2016-12-26 2016-12-26 センサ情報取得装置、センサ情報取得方法、センサ情報取得プログラム及び医療器具

Publications (1)

Publication Number Publication Date
CN108243302A true CN108243302A (zh) 2018-07-03

Family

ID=62630440

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711428327.9A Pending CN108243302A (zh) 2016-12-26 2017-12-26 传感器信息取得装置、传感器信息取得方法及记录介质

Country Status (3)

Country Link
US (1) US10706965B2 (zh)
JP (1) JP2018107603A (zh)
CN (1) CN108243302A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109625254A (zh) * 2018-12-28 2019-04-16 浙江星米体育有限公司 竞技类无人机
CN110493690A (zh) * 2019-08-29 2019-11-22 北京搜狗科技发展有限公司 一种声音采集方法及装置
CN111586283A (zh) * 2019-02-19 2020-08-25 北京小米移动软件有限公司 变焦方法及装置
CN112336038A (zh) * 2020-10-19 2021-02-09 广州市君卓信息科技有限公司 一种自动吹头发智能方法及机器人
CN113228526A (zh) * 2018-10-16 2021-08-06 诺基亚技术有限公司 在无线通信网络中递送和处理媒体内容

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120155703A1 (en) * 2010-12-16 2012-06-21 Sony Computer Entertainment, Inc. Microphone array steering with image-based source location
CN103677259A (zh) * 2012-09-18 2014-03-26 三星电子株式会社 用于引导控制器的方法、多媒体装置及其目标跟踪装置
US20140222462A1 (en) * 2013-02-07 2014-08-07 Ian Shakil System and Method for Augmenting Healthcare Provider Performance
US20160035136A1 (en) * 2014-07-31 2016-02-04 Seiko Epson Corporation Display apparatus, method for controlling display apparatus, and program
US20160225192A1 (en) * 2015-02-03 2016-08-04 Thales USA, Inc. Surgeon head-mounted display apparatuses

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4980625B2 (ja) 2006-02-21 2012-07-18 富士フイルム株式会社 体腔内観察装置
US9274597B1 (en) * 2011-12-20 2016-03-01 Amazon Technologies, Inc. Tracking head position for rendering content
US20130326364A1 (en) * 2012-05-31 2013-12-05 Stephen G. Latta Position relative hologram interactions
EP3097448A1 (en) * 2014-01-21 2016-11-30 Trophy Method for implant surgery using augmented visualization
US9646389B2 (en) * 2014-08-26 2017-05-09 Qualcomm Incorporated Systems and methods for image scanning
US20160161589A1 (en) * 2014-12-05 2016-06-09 Stages Pcs, Llc Audio source imaging system
KR20160096422A (ko) * 2015-02-05 2016-08-16 삼성전자주식회사 화면 표시 방법 및 전자 장치
BR112017018874A2 (pt) * 2015-03-01 2018-04-17 Aris Md Inc método de facilitamento de um procedimento em relação a um domínio morfológico, sistema, e, meio legível por máquina não transitório
CN114699751A (zh) * 2016-04-26 2022-07-05 奇跃公司 使用增强现实***的电磁跟踪
US10365712B2 (en) * 2016-05-17 2019-07-30 Google Llc Object tracking in a head mounted reference frame in an augmented and/or virtual reality environment
US10134192B2 (en) * 2016-10-17 2018-11-20 Microsoft Technology Licensing, Llc Generating and displaying a computer generated image on a future pose of a real world object
US10219095B2 (en) * 2017-05-24 2019-02-26 Glen A. Norris User experience localizing binaural sound during a telephone call

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120155703A1 (en) * 2010-12-16 2012-06-21 Sony Computer Entertainment, Inc. Microphone array steering with image-based source location
CN103404169A (zh) * 2010-12-16 2013-11-20 索尼电脑娱乐公司 采用基于图像的源位置的麦克风阵列转向
CN103677259A (zh) * 2012-09-18 2014-03-26 三星电子株式会社 用于引导控制器的方法、多媒体装置及其目标跟踪装置
US20140222462A1 (en) * 2013-02-07 2014-08-07 Ian Shakil System and Method for Augmenting Healthcare Provider Performance
US20160035136A1 (en) * 2014-07-31 2016-02-04 Seiko Epson Corporation Display apparatus, method for controlling display apparatus, and program
US20160225192A1 (en) * 2015-02-03 2016-08-04 Thales USA, Inc. Surgeon head-mounted display apparatuses

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113228526A (zh) * 2018-10-16 2021-08-06 诺基亚技术有限公司 在无线通信网络中递送和处理媒体内容
CN109625254A (zh) * 2018-12-28 2019-04-16 浙江星米体育有限公司 竞技类无人机
CN111586283A (zh) * 2019-02-19 2020-08-25 北京小米移动软件有限公司 变焦方法及装置
CN110493690A (zh) * 2019-08-29 2019-11-22 北京搜狗科技发展有限公司 一种声音采集方法及装置
CN112336038A (zh) * 2020-10-19 2021-02-09 广州市君卓信息科技有限公司 一种自动吹头发智能方法及机器人

Also Published As

Publication number Publication date
US20180182486A1 (en) 2018-06-28
JP2018107603A (ja) 2018-07-05
US10706965B2 (en) 2020-07-07

Similar Documents

Publication Publication Date Title
CN108243302A (zh) 传感器信息取得装置、传感器信息取得方法及记录介质
US10915180B2 (en) Systems and methods for monitoring a user's eye
US10342428B2 (en) Monitoring pulse transmissions using radar
CN108780228B (zh) 利用映像的增强现实***和方法
CN103869468B (zh) 信息处理设备
JP6845982B2 (ja) 表情認識システム、表情認識方法及び表情認識プログラム
JP6693060B2 (ja) 表示システム、表示装置、表示装置の制御方法、及び、プログラム
JP5887026B2 (ja) ヘッドマウントシステム及びヘッドマウントシステムを用いてディジタル画像のストリームを計算しレンダリングする方法
CN109069103A (zh) 超声成像探头定位
CN108371533B (zh) 内窥镜操作辅助***
US11596301B2 (en) Device for the determination and analysis of the motor skill and the oculomotor skill of a person
KR20220126776A (ko) 머리-착용 디스플레이 디바이스들에 대한 눈 추적 시스템
US10585476B2 (en) Apparatus operation device, apparatus operation method, and electronic apparatus system
JP2017191546A (ja) 医療用ヘッドマウントディスプレイ、医療用ヘッドマウントディスプレイのプログラムおよび医療用ヘッドマウントディスプレイの制御方法
KR20190038296A (ko) 화상 표시 시스템, 화상 표시 방법 및 화상 표시 프로그램
US11328187B2 (en) Information processing apparatus and information processing method
US11998066B2 (en) Kigurumi staging support apparatus, kigurumi staging support system, and kigurumi staging support method
US11829519B1 (en) Systems, methods, and apparatuses for a wearable control device to facilitate performance of manufacturing and various motor tasks
JP2022022871A (ja) 処理装置および没入度導出方法
JP2005245791A (ja) 視線方向検出装置
US20190231472A1 (en) Wearable surgical recording camera
WO2022030142A1 (ja) 情報処理装置、プログラム、学習モデル及び学習モデルの生成方法
EP4120052A1 (en) Head-mountable display systems and methods
JP2021083015A (ja) 再生制御装置及び再生制御プログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20180703

WD01 Invention patent application deemed withdrawn after publication