WO2004001677A1 - 作業誘導システム - Google Patents

作業誘導システム Download PDF

Info

Publication number
WO2004001677A1
WO2004001677A1 PCT/JP2003/007852 JP0307852W WO2004001677A1 WO 2004001677 A1 WO2004001677 A1 WO 2004001677A1 JP 0307852 W JP0307852 W JP 0307852W WO 2004001677 A1 WO2004001677 A1 WO 2004001677A1
Authority
WO
WIPO (PCT)
Prior art keywords
virtual image
work
worker
guidance system
voice
Prior art date
Application number
PCT/JP2003/007852
Other languages
English (en)
French (fr)
Inventor
Takahito Fukuda
Original Assignee
West Unitis Co., Ltd.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by West Unitis Co., Ltd. filed Critical West Unitis Co., Ltd.
Priority to AU2003244317A priority Critical patent/AU2003244317A1/en
Priority to US10/517,487 priority patent/US20060090135A1/en
Priority to KR1020047020732A priority patent/KR100597942B1/ko
Publication of WO2004001677A1 publication Critical patent/WO2004001677A1/ja

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • G09B19/003Repetitive work cycles; Sequence of movements

Definitions

  • the present invention relates to a work guidance system that guides a worker so that a work including a plurality of steps can be performed accurately.
  • a work guidance system includes a virtual image storage unit, a display device, a virtual image reproduction unit, and a virtual image adjustment unit.
  • the virtual image storage means stores a virtual image for explaining to a worker the work content in each step with respect to the work including a plurality of steps.
  • the display device is arranged in front of the worker and displays the virtual image to the worker together with the actual work object in front of the worker.
  • the virtual image reproducing means displays the virtual image on the display device based on the order of the steps.
  • the virtual image adjustment means adjusts the virtual image such that the corresponding work object drawn in the virtual image overlaps the real work object and is displayed on the display device.
  • the worker can work on the actual work object displayed overlapping the virtual image as per the virtual image while watching the virtual image displayed on the display device. Without multiple steps, a task consisting of multiple steps can be performed accurately.
  • the work may be performed after grasping the entire work by looking at the virtual image.
  • the work object drawn in the virtual image can be displayed over the actual work object regardless of the standing position of the worker and the difference in the eye level. Work can proceed efficiently.
  • the virtual image includes a line drawing that outlines the actual work target and visual information that visually explains the work content.
  • both the real work object and the virtual work object are easy to see and further include visual information.
  • Information that can be conveyed to the worker when performing the work can be visually conveyed in an easy-to-understand manner. Can be accurately guided.
  • a visual information input means for calling the virtual image from the virtual image storage means, correcting the visual information, and Z or adding the visual information.
  • the virtual image includes a layer composed of a line drawing depicting the outline of the actual work target and another layer depicting the visual information. By doing so, the visual information can be corrected and / or added without worrying that the line drawing is not accidentally erased.
  • the virtual image reproducing means has a function of storing the virtual image in association with each of the steps and calling up the virtual image corresponding to the step designated by the operator.
  • the virtual image reproducing means stores the virtual image in association with each of the steps, and continuously reproduces the virtual images corresponding to the steps in the range designated by the operator, It is also preferable to have a function to return to the first step in the above specified range after the end of reproduction. In this case, the operator can grasp the whole work by seeing the virtual image in a necessary range, and return to the first step in the specified range after the reproduction is completed. Work with the virtual image immediately Can also.
  • the apparatus further includes a voice input unit for inputting the voice of the worker, and a voice recognition unit for recognizing the voice input to the voice input unit.
  • the virtual image reproducing means controls reproduction of the virtual image based on a voice input of an operator. In this case, the worker can control the reproduction of the virtual image while holding the tool or the like in his hand, and the working efficiency is further improved.
  • the virtual image reproducing means outputs the audio data to the audio output means in accordance with the reproduction of the virtual image.
  • the worker can obtain an explanation of the work content from the audio data in addition to the virtual image, and can grasp the work content more accurately. Information that cannot be represented by virtual images can be explained using audio data.
  • the virtual image adjusting means includes: an imaging means for imaging the actual work target; and a feature point extracting means for extracting a feature point predetermined for the work target from image data output by the imaging means.
  • the configuration used can be used. That is, the virtual image adjusting means operates so that the position of the feature point extracted by the feature point extraction means overlaps with the position of the point corresponding to the feature point in the work object drawn in the virtual image. The position and / or size of the virtual image displayed on the display device is automatically changed. According to this configuration, during playback of the virtual image, The virtual image is automatically adjusted even if the standing position of the virtual image changes, and it is possible to maintain the state where the actual work object and the virtual image work object overlap.
  • the virtual image adjusting means can be configured to include a manual controller that allows an operator to manually change the position and / or size of the virtual image displayed on the display device. In this case, it is possible to see the work target of the virtual image on the actual work target, superimposed on the manual operation of the worker. Further, in the case of this configuration, it is preferable to provide a head tracking means for detecting the movement of the worker's head. The virtual image adjusting means automatically corrects the position of the virtual image displayed on the display device based on the output of the head tracking means.
  • FIG. 1 is a block diagram of a work guidance system according to a first embodiment of the present invention.
  • 2 (a) to 2 (c) are diagrams showing an example of a virtual image used in the above.
  • Fig. 3 is a photograph replacing the drawing obtained by printing out the image showing the characteristic points of the engine as the work target in the same manner as above.
  • Figures 4 (a) and 4 (b) are photographs replacing the drawings obtained by printing out the image displayed on the display device in the same manner as above.
  • FIG. 5 is a photograph replacing a drawing obtained by printing out the image displayed on the display device by the printer in the above.
  • FIG. 6 is a photograph replacing the drawing obtained by printing out the image displayed on the display device by the printer in the above.
  • FIG. 7 is a diagram showing another configuration of the glasses unit.
  • FIG. 8 is a block diagram of the work guiding system according to the second embodiment of the present invention.
  • FIG. 9 is a photograph replacing a drawing obtained by printing out the image displayed on the display device by the printer in the above.
  • Country 10 is a photograph replacing the drawing obtained by printing out the image displayed on the display device by the printer in the above.
  • FIG. 11 is a photograph replacing the drawing obtained by printing out the image displayed on the display device by the printer in the above.
  • FIG. 1 shows a work guidance system 1 according to a second embodiment of the present invention.
  • the work guidance system 1 is applied to an engine manufacturing site, and guides the worker so that the worker can perform the engine assembly work accurately.
  • the work guidance system 1 includes a head-mounted AV device 10 and a work guidance control device 15 that is electrically connected to the AV device 10 via a cable C1.
  • the AV device ⁇ 0 includes a pair of translucent liquid crystal panels 111 as a display device, a glasses section 11 like a so-called see-through type head mounted display, and a pair of headphone speakers 1 2 1 as sound output means.
  • a virtual image which will be described later, is displayed on the liquid crystal panel 111, and a real image can be seen through the translucent liquid crystal panel 111. In other words, the virtual image can be displayed to the worker together with the real image.
  • the work guidance control device 15 includes an interface section 16, a storage section 17, a power supply section 18, and a control section 19.
  • the interface unit 16 amplifies the analog audio signal from the microphone 13 1, converts it into digital audio data, and outputs it to the control unit 19.
  • the audio input interface 16 1 and the analog image from the CCD camera 100 An image input interface 162 that converts signals to digital image data and outputs it to the control unit 19, and a DVI (Digital Visual Interface) standard virtual image output that connects between the control unit 19 and the LCD panel 1.1 Interface 163 and voice data from control unit 19
  • a sound output interface 164 that converts the sound signal into an audio signal, amplifies the signal at an amplification factor according to the position of a volume knob (not shown), and outputs the amplified signal to the headphone speaker 121.
  • the storage unit 17 is a storage device such as an eight-disk drive, and includes a virtual image storage unit 17A and a voice storage unit 17B.
  • the virtual image storage unit 17A stores a virtual image for explaining to the operator the work content in each step regarding the engine assembling work including a plurality of steps.
  • the virtual image is created based on a line drawing that outlines the work target, and adds visual information that explains the work content as needed.
  • the visual information includes, for example, a number indicating a work order, an arrow indicating a work direction, character information, and a work completion image indicated by a broken line.
  • Figure 2 shows an example of a virtual image. Fig.
  • Figure 2 is a virtual image to explain the work of assembling the engine into the cylinder block of the engine and then installing the engine cover.
  • Figure 2 (a) is a virtual image depicting the outline of the cylinder block before work
  • Figure 2 (b) is a virtual image of the step of assembling the bolt
  • Figure 2 (c) is a virtual image of the step of attaching the engine cover. It is.
  • the virtual image in Fig. 2 (b) is created by adding visual information M ⁇ ⁇ 3 consisting of number and character information based on a line drawing that outlines the engine to be worked on.
  • the visual information 11 to 1 12 indicates the order of tightening the bolts
  • I 13 indicates the tightening torque of the port.
  • the voice storage unit 17B stores the work contents at each step (for example, work procedures, information related to the PL method, Such. ) Is stored.
  • the audio data played back together with Fig. 2 (b) is: "In this step, tighten the bolts in order from 1 to 6. At this time, the tightening torque is 19.5 Sat. 2.0 N m
  • the explanation that can be heard once, such as the outline of the work is audio data
  • the explanation to be confirmed is visual information, and by using voice data and visual information properly, workers can understand the work content more easily and can work correctly.
  • the control unit 19 is composed of a CPU (Central Processing Unit) that executes a predetermined program, a main storage device, and the like, and controls the entire work guidance system 1.
  • the control section 19 has a voice recognition function 191, a feature point extraction function 192, a virtual image control function 1993, and a voice output function 1994.
  • the voice recognition function 19 1 recognizes voice data input by the microphone 13 1 and captured through the voice input interface 6 1, and according to the recognized words, a virtual image playback function 1 9 described later. Control 3 A. For example, when the word “playback start j” is recognized, the virtual image playback function ⁇ 93A starts playback of the virtual image.
  • the feature point extraction function 1992 extracts feature points determined in advance by an engine as a work target from image data captured by the CCD camera 100 and captured via the image input interface 162. For example, If the feature points of the engine are determined as P 1 and P 2 as shown in Fig. 3, the feature point extraction function 192 performs the feature points P 1 and P 2 by image processing from the captured image data. Then, the positions of the pixels of the feature points P 1 and P 2 in the image data are identified.
  • the virtual image control function 193 includes a virtual image playback function ⁇ 93 A and a virtual image adjustment function 193 B.
  • the virtual image playback function 1993A calls the virtual image from the virtual image storage unit 17A and displays it on the liquid crystal panel 111 in the same order as the engine assembly work steps.
  • the virtual image playback function 1993 A stores each step and the virtual image in association with each other, and calls the virtual image corresponding to the step called by the worker using the voice recognition function 191, It has a so-called “Jumping J function.” Furthermore, the virtual images corresponding to the steps in the range specified by the operator are continuously played back, and after the playback is completed, the first step in the specified range is performed. Return to “Specified range playback” function.
  • the virtual image adjustment function 19 3 B is displayed in the glasses section ⁇ 1 with the engine line drawing drawn in each virtual image overlapping the engine that is the actual work target viewed through the glasses section 11 Adjust each virtual image played by the virtual image playback function 1993A as described above.
  • the adjustment method will be described below.
  • a table is created in advance that associates the position of each pixel in the image data captured by the CCD camera 100 with the position of each pixel on the liquid crystal panel 111, For example, it is stored in a ROM (not shown) in the control unit 19.
  • the virtual image adjustment function 1993 B calculates the positions of the pixels in the image data of the feature points P 1 and P 2 extracted by the feature point extraction function 1 92 from the captured image data. Then, referring to the above table, it is converted into the authenticity of the pixel in the liquid crystal panel 111. Then, at the positions of the characteristic points PI and P2 on the liquid crystal panel 111, the characteristic points A1 and P2 corresponding to the characteristic points P1 and P2 in each virtual image displayed on the liquid crystal panel 111 are displayed. , Automatically change the position and / or dimensions of the virtual image so that the positions of the pixels of B overlap. FIG.
  • FIG. 4 (a) shows a display state of a real engine and a virtual image displayed on the liquid crystal panel 1 1 1 before the virtual image adjustment function 1 93 is adjusted.
  • the actual engine seen through the LCD panel 111 and the line drawing of the engine drawn in the virtual image are displayed out of alignment with the worker's standing position.
  • FIG. 4 (b) shows the display state after the virtual image adjustment function 1993 has adjusted.
  • the virtual image adjustment function 193 With the virtual image adjustment function 19 3, the engine line drawing drawn in the virtual image is displayed overlapping the real engine.
  • the adjustment of the virtual image by the virtual image adjustment function 193 is repeatedly executed in real time.
  • the audio output function 1994 stores each virtual image and each audio data stored in the audio storage unit ⁇ 7B in association with each other, and the virtual image reproduction function 1993 reproduces them.
  • the audio data corresponding to the virtual image is output to the audio output interface 164 along with the reproduction of the virtual image.
  • Step 2 J engine assembly work is assumed to be broadly classified as “Step 1 J, Step 2”, and the operator will now refer to the work named “Step 2 j".
  • Step 2 J consists of” Assembling Porto to the engine cylinder block "" Step 2 aj "and” Installing the engine cover after step 2a "" Step 2 b " It is further subdivided.
  • the worker attaches the AV device 10 and looks at the engine being assembled through the liquid crystal panel 111 as shown in FIG. Toward the microphone 131, "Speaking of step 2J, the voice recognition function 1991" recognizes the voice of step 2J, and the virtual image playback function 1993A responds "by the cue j function.”
  • the virtual image (Fig. 2 (a)) corresponding to the image before the work in step J is called on the LCD panel 1 1 1.
  • the virtual image is adjusted by the virtual image adjustment function 1993 B, As shown in b), the line drawing of the virtual image engine is superimposed on the real engine and displayed on the LCD panel 1 1 1.
  • the virtual image playback function 1 9 According to 3A, a virtual image (FIG.
  • step 2 (b)) corresponding to step 2a is reproduced based on the order of the assembly work (“step 2 aj ⁇ ” step 2 b J) (LCD panel 1
  • the display of 1 1 is as shown in Fig. 5.
  • the audio output function 1994 causes the audio explanation to flow from the headphone speaker 122.
  • the worker listens to the audio explanation while watching the LCD panel display shown in Fig. 5, and the virtual According to the image 7852
  • the virtual image playback function 1993A executes the virtual image corresponding to the next step ⁇ step 2b J (Fig. 2 (c )) (The display on the LCD panel 11 1 is as shown in Fig. 6.) The worker listens to the audio description while watching the display on the LCD panel again, and then performs the work of attaching the engine cover.
  • the operator may rewind, pause, or fast-forward the virtual image as needed.
  • the reproduction of the liquid crystal panel ⁇ 1 is the first step of the step 2
  • the voice recognition function 19 1 Even if the operator moves the head during the work, the virtual image adjustment function 1 93 B allows the virtual Image engine line drawing is heavy
  • the work guidance system 1 allows the worker to perform the work accurately even without an instructor.
  • the storage unit 17 is built in the work guidance control device 15.
  • a configuration in which a wireless or wired LAN interface is provided in the work guidance control device 15 and the storage unit 17 is stored in a server connected by LAN may be employed.
  • the storage unit 17 is not limited to a hard disk device, but may be an optical disk device, a magneto-optical disk device, a semiconductor storage device, or the like.
  • the eyeglass section 1I uses the transmissive liquid crystal panel 111, but may have a configuration using a prism 112 as shown in FIG. That is, the image of the liquid crystal panel 111 enters the prism 2 from the side and is totally reflected forward by the reflecting surface 112a provided on the rear surface of the prism 112.
  • the light is reflected backward by the half mirror 1 12b provided on the front side of the light source 2 and transmitted through the reflection surface 112a, so that the worker can see it.
  • the work itself can be seen through the optical path that passes through the prisms 111 from the front to the back.
  • set the background color to black near “0 0 0 0 0 0” or dark gray near “7 7 7 7 7” and set the line drawing part of the animation image to light blue near “0 0 FFFF”.
  • the eyeglass part 11 may be a one-eye type instead of a two-eye type. That is, the display device of the present invention only needs to display the virtual image to the worker together with the actual work object in front of the worker.
  • Virtual image adjustment with the virtual image adjustment function 19 It may be performed at a predetermined time instead of the time.
  • the “specified range playback” function can, of course, also be played back by specifying multiple steps.
  • a visual information input means (not shown) for calling a virtual image from the virtual image storage unit 17A and correcting and / or adding the visual information to the called virtual image. Equipped with visual information input means, it is possible to flexibly respond to small changes in work contents at the site level, such as changing the tightening order of bolts, so that more layered work can be performed efficiently. become. In this case, if the virtual image is created separately with a layer consisting of the line drawing depicting the outline of the actual work target and a layer depicting the above visual information, the complicated line drawing can be erased by mistake. You can modify and add or add visual information without worry.
  • the engine is exemplified as the work target.
  • the work is not limited to the engine and the like, but may be a person or an animal.
  • the work guidance system of the present invention can be used to teach a person to wear a kimono or to confirm a procedure of a human or animal operation.
  • FIG. 9 shows a work guidance system 2 according to a second embodiment of the present invention.
  • the work guidance system 2 is for manually adjusting the virtual image by the virtual image adjustment function 1993B, as compared with the work guidance system 1 of the first embodiment.
  • Work guidance system 2 has a new manual control —The hand-held mouse 20 is connected to the work guidance controller 15.
  • a head tracker 200 as head tracking means for detecting the movement of the worker's head is built in the spectacle unit 1 in place of the head camera 100.
  • the work guidance control device 15 includes a manual controller interface 16 5 connected to the hand-held mouse 20 and a head tracker interface 1 connected to the head tracker 200 in the interface section 6. 6 and 6 are newly provided, and the image input interface 16 2 is removed.
  • the control unit 19 has the feature point extraction function 192 removed.
  • the control unit 19 can switch between a virtual image playback mode and a virtual image adjustment mode by using the voice recognition function 191 or the handheld mouse 20.
  • the liquid crystal panel 111 displays, in addition to the actual work target and the virtual image, the positions of the feature points predetermined for the work target of the virtual image. For example, in the virtual image of the engine shown in Fig. 9, in addition to the real engine and the virtual image engine, the positions of the feature points A and B of the virtual image engine are displayed. It should be noted that in FIG. 9, the real engine and the virtual image engine are displayed differently.
  • the worker drags the position of the feature point A using the hand-held mouse 20, and the position of the feature point P 1 corresponding to the feature point A of the real engine seen through the LCD panel 111 is determined. Match position.
  • the virtual image adjustment function The entire image moves according to the drag operation.
  • the position of feature point A is determined (the state in Fig. 10).
  • drag the position of the feature point B is determined (the state in Fig. 10).
  • the overall size of the virtual image is changed by the virtual image adjusting function 1993 B based on the position of the feature point A.
  • the head tracker 200 In the virtual image playback mode, the head tracker 200 automatically adjusts the position even if the operator moves his / her head, so that the work target of the virtual image overlaps the real work target. You. Specifically, the virtual image adjustment function ⁇ 93B, for example, when the head tracker 200 detects that the head of the worker has moved to the left, moves the virtual image to the right. To the same amount.
  • the head tracker 200 for example, an inertial measurement device using a gyro or an accelerometer provided for a head mounted display can be used.
  • the operation method for adjusting the virtual image is not limited to the above-described operation method.
  • the mode is automatically shifted to the dimension change mode of the entire virtual image.
  • hand-held mouse 2 The dimensions of the entire virtual image may be changed based on the position of the feature point A according to the moving direction and the moving amount of 0.
  • the operator may be able to adjust the virtual image without switching between the virtual image playback mode and the virtual image adjustment mode, for example, except during the playback of the virtual image. .
  • a lever-type manual controller or various pointing devices can be applied.

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Optics & Photonics (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Controls And Circuits For Display Device (AREA)
  • General Factory Administration (AREA)

Abstract

この作業誘導システム1は、仮想イメージ記憶部17Aと、めがね部11と、仮想イメージ再生機能193Aと、仮想イメージ調節機能193Bとを備える。仮想イメージ記憶部17Aは、複数のステップからなる作業に関して、各ステップでの作業内容を作業者に説明するための仮想イメージを記憶する。めがね部11は、作業者の眼前に配置され、作業者の前にある現実の作業対象と共に上記仮想イメージを作業者に表示する。仮想イメージ再生機能193Aは、上記仮想イメージを上記各ステップの順序に基づいてめがね部11に表示する。仮想イメージ調節機能193Bは、上記現実の作業対象に上記仮想イメージに描かれた対応する作業対象が重なってめがね部11に表示されるように、上記仮想イメージを調節する。

Description

明細書
作業誘導システム 技術分野
本発明は、 複数のステップからなる作業を正確に行うことができるよ うに作業者を誘導する作業誘導システムに関するものである。
背景技術
従来、 作業者が製造現場などで作業を行う場合、 指導者から作業内容 を簡いた後に作業を行っていた。
しかしながら、 作業者が複数のステップからなる作業を行う場合、 作 業中に不明な点が生じた υ作業内容の記憶が曖昧であつたりすると、 作 業が止まったり或いは間違った作業を行ってしまう恐れがあった。 指導 者が作業者に作業内容を説明しながら作業を進める方法も考えられるが、 指導者がつきつきりになる必要があり、 非効率である。 発明の開示
本発明は上記問題点を解決するために為されたものであって、 指導者 がいなくても、 複数のステップからなる作業を正確に行うことができる ように作業者を誘導する作業誘導システムを提供することを目的とする。 本発明にかかる作業誘導システムは、 仮想イメージ記憶手段と、 表示 装置と、 仮想イメージ再生手段と、 仮想イメージ調節手段とを備える。 上記仮想イメージ記憶手段は、 複数のステップからなる作業に関して、 各ステップでの作業内容を作業者に説明するための仮想イメージを記憶 する。 上記表示装置は、 作業者の眼前に配置され、 作業者の前にある現 実の作業対象と共に上記仮想イメージを作業者に表示する。 上記仮想ィ メージ再生手段は、 上記仮想イメージを上記各ステップの順序に基づい て上記表示装置に表示する。 上記仮想イメージ調節手段は、 上記現実の 作業対象に上記仮想イメージに描かれた対応する作業対象が重なって上 記表示装置に表示されるように、 上記仮想イメージを調節する。
従って作業者は、 上記表示装置に表示された仮想イメージを見ながら、 上記仮想イメージに重なって表示されている現実の作業対象に対して、 仮想イメージ通りに作業を行っていくことで、 指導者がいなくても、 複 数のステップからなる作業を正確に行うことができる。 上記仮想ィメー ジを一通り見て作業全体を把握してから作業を行ってもよい。 上記仮想 イメージ調節手段を備えたことで、 作業者の立ち位箧ゃ目線の高さの違 いなどに係わらず、 現実の作業対象に仮想イメージに描かれた作業対象 を重ねて表示させることができ、 作業を効率的に進めることができる。 上記仮想イメージは、 上記現実の作業対象の輪郭を描いた線画と、 作 業内容を視覚的に説明する視覚情報とからなるのが好ましい。 上記仮想 ィメージを線画とすることで、 現実の作業対象と上記仮想の作業対象と を重ねて表示した時に、 上記現実の作業対象、 上記仮想の作業対象共に 見やすくなり、 さらに視覚情報を含ませることで、 作業を行う上で作業 者に伝えたい情報を、 視覚的にわかりやすく伝達することができ、 作業 者を正確に誘導できる。
また、 上記仮想イメージ記憶手段から上記仮想イメージを呼び出し、 上記視覚情報を修正および Zもしくは追加する視覚情報入力手段を備え るのが好ましい。 視覚情報入力手段を備えることで、 作業指示の変更が あった場合や、 伝えたい情報が新たに出てきた場合に、 システムの変更 に柔軟に対応できる。 この場合、 上記仮想イメージは、 上記現実の作業 対象の輪郭を描いた線画からなるレイヤーと、 上記視覚情報を描いた別 のレイヤーとからなるのが好ましい。 このようにすることで、 上記線画 を誤って消したりすること無く、 安心して、 視覚情報の修正および/も しくは追加ができる。
上記仮想イメージ再生手段は、 上記仮想イメージを上記各ステップに 対応付けて記憶しておリ、 作業者が指定したステツプに対応した上記仮 想イメージを呼び出すことができる機能を備えるのが好ましい。 上記機 能を備えることで、 多数のステップからなる作業においても、 作業者が 必要な仮想イメージをすばやく再生することができる。
また、 上記仮想イメージ再生手段は、 上記仮想イメージを上記各ステ ップに対応付けて記憶しておリ、 作業者が指定した範囲のステツプに対 応する上記仮想イメージを連続して再生し、 再生終了後、 上記指定した 範囲の最初のステップに戻る機能を備えるのも好ましい。 この場合、 作 業者が必要な範囲の上記仮想ィメ一ジを一通リ見て作業全体を把握する ことができ、 また、 再生終了後は上記指定した範囲の最初のステップに 戻っているので、 すぐに仮想イメージの再生とあわせて作業を行うこと もできる。
また、 作業者の音声を入力する音声入力手段と、 この音声入力手段に 入力された音声を認識する音声認識手段とをさらに備えのが好ましい。 上記仮想ィメ一ジ再生手段は、 作業者の音声入力に基づいて上記仮想ィ メージの再生を制御する。 この場合、 作業者は手に工具などを持ったま までも上記仮想イメージの再生を制御することができ、 作業効率がより 一層向上する。
また、 作業内容の説明を音声データで記憶する音声記憶手段と、 上記 音声データを出力する音声出力手段とを備えるのも好ましい。 上記仮想 イメージ再生手段は、 上記仮想イメージの再生に合わせて上記音声デー タを上記音声出力手段に出力する。 この場合、 作業者は上記仮想ィメー ジに加えて上記音声データからも作業内容の説明を得ることができ、 作 業内容をより正確に把握することができる。 仮想イメージでは表現でき ない情報を音声データで説明することもできる。
上記仮想イメージ調節手段は、 上記現実の作業対象を撮像する撮像手 段と、 この撮像手段によって出力される画像データから予め上記作業対 象に決められた特徴点を抽出する特徴点抽出手段とを用いた構成とする ことができる。 すなわち、 仮想イメージ調節手段は、 上記特徴点抽出手 段によって抽出された特徴点の位置に、 上記仮想イメージに描かれた上 記作業対象における上記特徴点に対応する点の位置が重なるように、 上 記表示装置に表示された仮想ィメ一ジの位置および/もしくは寸法を自 動的に変化させる。 この構成によれば、 仮想イメージの再生中に作業者 の立ち位置が変わったりしても、 自動的に仮想イメージが調節され、 現 実の作業対象と仮想ィメ一ジの作業対象とが重なつた状態を維持できる。 或いは、 上記仮想イメージ調節手段は、 上記表示装置に表示された上 記仮想イメージの位置および/もしくは寸法を作業者が手動で変化させ ることができる手動コントローラを備えた構成とすることができる。 こ の場合、 作業者の手動操作にょリ、 現実の作業対象に上記仮想イメージ の作業対象を重ねて見ることができる。 さらに、 この構成の場合、 作業 者の頭部の動きを検出するへッドトラッキング手段を備えるのが好まし い。 上記仮想イメージ調節手段は、 上記ヘッドトラッキング手段の出力 に基づいて、 上記表示装置に表示された仮想イメージの位置補正を自動 的に行う。 この構成によれば、 一度上記手動コントローラにより上記現 実の作業対象と上記仮想ィメ一ジの作業対象とを重ねる操作を行うと、 その後作業者が頭部を動かしても、 上記仮想イメージの作業対象が現実 の作業対象からずれることなく、 重なつた状態を維持できる。 図面の簡単な説明
図 1は本発明の第〗 の実施形態に係る作業誘導システムのブロック図で ある。
図 2 ( a ) 〜 (c ) は、 同上に用いられる仮想イメージの一例を示した 図である。
図 3は、 同上において作業対象としてのエンジンの特徴点を示す画像を プリン夕で印刷出力して得た図面に代わる写真である。 図 4 ( a ) 〜 ( b ) は、 同上において表示装置に表示された画像をプリ ン夕で印刷出力して得た図面に代わる写真である。
図 5は、 同上において表示装置に表示された画像をプリンタで印刷出力 して得た図面に代わる写真である。
図 6は、 同上において表示装置に表示された画像をプリンタで印刷出力 して得た図面に代わる写真である。
図 7は、 めがね部の別の構成を示す図である。
図 8は本発明の第 2の実施形態に係る作業誘導システムのプロック図で ある。
図 9は、 同上において表示装置に表示された画像をプリンタで印刷出力 して得た図面に代わる写真である。
國 1 0は、 同上において表示装置に表示された画像をプリンタで印刷出 力して得た図面に代わる写真である。
図 1 1は、 同上において表示装置に表示された画像をプリンタで印刷出 力して得た図面に代わる写真である。 発明を実施するための最良の形態
本発明を添付の図面に従って詳細に説明する。
図 1 に、 本発明の第〗の実施形態に係る作業誘導システム 1 を示す。 本実施形態では、 作業誘導システム 1をエンジンの製造現場に適用し、 作業者がエンジンの組立作業を正確に行うことができるように作業者を 誘導するものとする。 作業誘導システム 1 は、 へッドマウント型の A V装置 1 0と、 この A V装置 1 0とケーブル C 1を介して電気的に接続される作業誘導制御装 置 1 5とを備えている。
AV装置〗 0は、 表示装置として一対の透光型の液晶パネル 1 1 1を 内蔵する、 いわゆるシースルー型ヘッドマウントディスプレイのような めがね部 1 1 と、 音声出力手段として一対のヘッドフォンスピーカ 1 2 1を内蔵するへッドフォン部 1 2と、 音声入力手段として小型のマイク 口フォン 1 3 1 を内蔵するマイク部 1 3と、 作業者と同じ視線で作業対 象としてのエンジンを撮像する撮像手段としての C CDカメラ 1 00と を一体化して搆成されている。 上記めがね部 1 1 は、 後述する仮想ィメ ージを液晶パネル 1 1 1 に表示した状態で、 透光型の液晶パネル 1 1 1 を通して現実のイメージも見ることができる。 つまり、 現実のイメージ と共に仮想イメージを作業者に表示することができる。
作業誘導制御装置 1 5は、 インターフヱイス部 1 6と、 記憶部 1 7と、 電源部 1 8と、 制御部 1 9とにょリ構成されている。
インターフェイス部 1 6は、 マイクロフォン 1 3 1からのアナログ音 声信号を増幅してデジタル音声データに変換し制御部 1 9に出力する音 声入力インターフェイス 1 6 1 と、 CCDカメラ 1 00からのアナログ 画像信号をデジタル画像データに変換し制御部 1 9に出力する画像入力 インターフェイス 1 62と、 制御部 1 9から液晶パネル 1 Ί 1までの間 を接続する DV I (Digital Visual Interface) 規格の仮想イメージ 出力インターフェイス 1 63と、 制御部 1 9からの音声データをアナ口 グ音声信号に変換し、 音量つまみ (図示しない) の位置に応じた増幅率 で増幅してへッドフォンスピーカ 1 2 1 に出力する音声出力インターフ ェイス 1 6 4とを備える。
記億部 1 7は、 八ードディスク装置などの記憶装置であリ、 仮想ィメ ージ記憶部 1 7 Aと音声記憶部 1 7 Bとからなる。 仮想イメージ記憶部 1 7 Aは、 複数のステップからなるエンジンの組立作業に関して、 各ス テツプでの作業内容を作業者に説明するための仮想イメージを記憶して いる。 仮想イメージは、 作業対象の輪郭を描いた線画を基に、 作業内容 を視覚的に説明する視覚情報を必要に応じて付加して作成されている。 視覚情報としては、 例えば、 作業順序を示す番号や、 作業方向を示す矢 印、 文字情報、 破線で示した作業完了イメージ、 などがある。 仮想ィメ ージの一例を図 2に示す。 図 2は、 エンジンの組立作業のうち、 ェンジ ンのシリンダーブロックにポル卜を組み付け、 その後にエンジンカバー を取り付ける作業を説明するための仮想イメージである。 図 2 ( a ) は 作業前のシリンダーブロックの輪郭を描いた仮想イメージ、 図 2 ( b ) はボル卜を組み付けるステップの仮想イメージ、 図 2 ( c ) はエンジン カバーを取リ付けるステップの仮想イメージである。 例えば図 2 ( b ) の仮想イメージは、 作業対象であるエンジンの輪郭を描いた線画を基に、 番号と文字情報からなる視覚情報 M〜门 3を付加して作成されてい る。 視覚情報 1 1〜1 1 2は、 ボルトを締め付ける順番を示しており、 I 1 3はポルトの締付トルクを示している。 音声記憶部 1 7 Bには、 各ス テツプでの作業内容 (例えば、 作業手順や、 P L法関連の情報、 注意点 など。 ) を説明する音声データが記憶されている。 例えば、 図 2 ( b ) と共に再生される音声データは、 「このステップでは、 まる 1からまる 6の順番にボルトを締め付けます。 この時、 締付トルクは、 1 9 . 5土 2 . 0 N mとなるようにします。 J といったものである。 このように、 作業の概略など一度聞いてわかる説明は音声データとし、 作業順序や細 かい数値など、 一度聞いても覚えられない説明や何度も確認したい説明 は視覚情報とし、 音声データと視覚情報とを使い分けることで、.作業者 が作業内容をより理解しすくなり、 正確に作業を行えるようになつてい る。
制御部 1 9は、 所定のプログラムを実行する C P U (中央処理装置) および主記憶装置などにより構成され、 作業誘導システム 1全般の制御 を実行する。 制御部 1 9は、 音声認識機能 1 9 1 と、 特徴点抽出機能 1 9 2と、 仮想イメージ制御機能 1 9 3と、 音声出力機能 1 9 4とを備え ている。
音声認識機能 1 9 1 は、 マイクロフォン 1 3 1で入力され音声入カイ ンターフェイス〗 6 1を介して取り込まれた音声データを認識し、 認識 した言葉に応じて、 後述する仮想イメージ再生機能 1 9 3 Aを制御する。 例えば、 「再生開始 j という言葉を認識すると、 仮想イメージ再生機能 Ί 9 3 Aに仮想イメージの再生を開始させる。
特徴点抽出機能 1 9 2は、 C C Dカメラ 1 0 0によって撮像され画像 入力インターフェイス 1 6 2を介して取り込まれた画像データから、 予 め作業対象としてのエンジンに決められた特徴点を抽出する。 例えば、 エンジンの特徴点を、 図 3に示すように P 1, P 2に決めておくと、 特 徴点抽出機能 1 9 2は、 撮像された上記画像データから画像処理により 特徴点 P 1, P 2を抽出し、 上記画像データ内における特徴点 P 1, P 2の画素の位置を特 する。
仮想イメージ制御機能 1 9 3は、 仮想イメージ再生機能〗 9 3 Aと、 仮想イメージ調節機能 1 9 3 Bとからなる。 仮想イメージ再生機能 1 9 3 Aは、 仮想イメージ記憶部 1 7 Aから仮想イメージを呼び出し、 ェン ジン組立作業のステップの順序と同じになるように液晶パネル 1 1 1に 表示する。 また、 仮想イメージ再生機能 1 9 3 Aは、 各ステップと仮想 イメージとを対応付けて記憶しており、 作業者が音声認識機能 1 9 1を 用いて呼び出したステップに対応する仮想イメージを呼び出す、 いわゆ る 「頭出し J 機能を備えている。 さらに、 作業者が指定した範囲のステ ップに対応する上記仮想イメージを連続して再生し、 再生終了後、 上記 指定した範囲の最初のステップに戻る Γ指定範囲再生」 機能も備えてい る。 その他、 仮想イメージの再生の 「早送り J や 「巻き戻し J 、 「一時 停止」 などを行うこともできる。 仮想イメージ調節機能 1 9 3 Bは、 め がね部 1 1を通して見る現実の作業対象であるエンジンに、 各仮想ィメ ージに描かれたエンジンの線画が重なってめがね部 Ί 1 に表示されるよ うに、 上記仮想イメージ再生機能 1 9 3 Aで再生される各仮想イメージ を調節する。 調節方法について以下に説明する。 まず予め、 C C Dカメ ラ 1 0 0によって撮像される画像データにおける各画素の位置と、 液晶 パネル 1 1 1 における各画素の位置とを対応付けるテーブルを作成し、 例えば制御部 1 9における図示しない R O Mに記憶しておく。 仮想ィメ ージ調節機能 1 9 3 Bは、 撮像された上記画像データから上記特徴点抽 出機能 1 9 2によって抽出された特徴点 P 1, P 2の上記画像データに おける画素の位置を、 上記テーブルを参照して、 液晶パネル 1 1 1 にお ける画素の位贋に変換する。 そして、 その液晶パネル 1 1 1 における上 記特徴点 P I , P 2の位置に、 上記液晶パネル 1 1 1 に表示された各仮 想イメージにおける上記特徴点 P 1, P 2に対応する特徴点 A , Bの画 素の位置が重なるように、 仮想ィメ一ジの位置および/もしくは寸法を 自動的に変化させる。 図 4 ( a ) は、 仮想イメージ調節機能 1 9 3が調 節する前に、 液晶パネル 1 1 1 に表示された現実のエンジンと仮想ィメ —ジとの表示状態を示している。 作業者の立ち位置などにょリ、 液晶パ ネル 1 1 1を透過して見る現実のエンジンと、 仮想イメージに描かれた エンジンの線画とがずれて表示されている。 図 4 ( b ) は、 仮想ィメー ジ調節機能 1 9 3が調節した後の、 表示状態を示している。 仮想ィメー ジ調節機能 1 9 3により、 現実のエンジンに仮想イメージに描かれたェ ンジンの線画が重なって表示されている。 この仮想イメージ調節機能 1 9 3による仮想イメージの調節は、 リアルタイムに繰り返し実行される。 音声出力機能 1 9 4は、 各仮想イメージと音声記憶部〗 7 Bに記憶さ れた各音声データとを対応付けて記憶しておリ、 仮想ィメ一ジ再生機能 1 9 3が再生する仮想イメージに対応した音声データを、 仮想イメージ の再生にあわせて音声出力インターフェイス 1 6 4に出力する。
次に、 以上のように構成された作業誘導システム 1の使い方について 説明する。 以下では簡単のために、 エンジンの組立作業は、 「ステップ 1 J 、 「ステップ 2」 · · ·のように大きく分類されているものとし、 これから作業者が 「ステップ 2 j と名付けられた作業を行う場合につい て説明を行う。 「ステップ 2 J は、 "エンジンのシリンダーブロックに ポルトを組み付ける" 「ステップ 2 a j と、 "ステップ 2 aの後にェンジ ンカバーを取リ付ける" 「ステップ 2 b」 とにさらに細分化されている ものとする。
まず、 作業者は A V装置 1 0を装着し、 図 3のように液晶パネル 1 1 1を通して組立途中のエンジンを見る。 マイクロフォン 1 3 1 に向かつ て 「ステップ 2 J と言うと、 音声認識機能 1 9 1 によって 「ステップ 2 J の音声が認識され、 仮想イメージ再生機能 1 9 3 Aが 「頭出し j 機 能により 「ステップ 2 J の作業前のイメージに対応する仮想イメージ (図 2 ( a ) ) を液晶パネル 1 1 1 に呼び出す。 この時、 仮想イメージ 調節機能 1 9 3 Bにより仮想イメージが調節され、 図 4 ( b ) のように、 現実のエンジンに仮想イメージのエンジンの線画が重なった状態で液晶 パネル 1 1 1 に表示される。 作業者が 「再生開始」 と言うと、 仮想ィメ —ジ再生機能 1 9 3 Aによリ、 組立作業の順序 ( 「ステップ 2 a j → 「ステップ 2 b J ) に基づいて、 ステップ 2 aに対応する仮想イメージ (図 2 ( b ) ) が再生される (液晶パネル 1 1 1の表示は、 図 5のよう になる。 ) 。 この時、 音声出力機能 1 9 4によリ、 音声による説明がへ ッドフォンスピーカ 1 2 1から流れる。 作業者は、 図 5に示した液晶パ ネルの表示を見ながら音声による説明を聞き、 仮想イメージ通りにェン 7852
13 ジンのシリンダーブロックにポルトを組み付けていく。 組み付けが終わ ると、 作業者は、 「次の作業」 という。 音声認識機能 1 9 1 によって 「次の作業」 の音声が認識されると、 仮想イメージ再生機能 1 9 3 Aが、 次のステップである Γステップ 2 b J に対応する仮想イメージ (図 2 ( c ) ) を再生する (液晶パネル 1 1 1の表示は、 図 6のようにな る。 ) 。 作業者は、 再び液晶パネルの表示を見ながら音声による説明を 聞いて、 エンジンカバーを取り付ける作業を行う。
作業者は、 必要に応じて、 仮想イメージを巻き戻してみたリ、 一時停 止したり、 早送りしたりしてもよい。 或いは、 上述した 「指定範囲再 生」 機能を用いて、 「ステップ 2 J に対応する仮想イメージ (すなわち、 図 2 ( a )から図 2 ( c ) ) を連続して再生し、 アニメーションを見るよ うに作業全体を一通リ見て全体を把握してから、 作業を行っても良い。 この場合、 全体を一通り見た後は、 液晶パネル〗 〗 1の再生がステップ 2の最初のステップである図 2 ( a ) に戻っているので、 図 2 ( a ) の 仮想イメージから再び再生を始めて、 仮想イメージとあわせて作業を行 うことも容易にできる。 上述したような仮想イメージの再生の制御は、 音声認識機能 1 9 1 により手に工具を持ったままでも行うことができる。 作業途中に作業者が頭部を動かしても、 仮想イメージ調節機能 1 9 3 B により、 現実のエンジンに仮想イメージのエンジンの線画が重なるよう に自動的に補正される。 以上のように、 本作業誘導システム 1 により、 作業者は、 指導者がいなくても正確に作業を行うことができる。
本実施形態では、 記憶部 1 7は作業誘導制御装置 1 5内に内蔵されて いたが、 作業誘導制御装置 1 5に無線または有線の L A Nインターフエ イスを設け、 L A Nで接続されたサーバーに記憶部 1 7が格納されてい る構成でもよい。 また、 記憶部 1 7は、 ハードディスク装置に限らず、 光ディスク装置や、 光磁気ディスク装置、 半導体記憶装置などでもよい。 めがね部 1 I は、 透光型の液晶パネル 1 1 1 を用いていたが、 図 7に 示すようなプリズム 1 1 2を用いた構成でもよい。 すなわち、 液晶パネ ル 1 1 1の画像は、 プリズム〗 〗 2に側方から入射してプリズム 1 1 2 の後面に設けられた反射面 1 1 2 aで前方に全反射した後に、 プリズム 1 1 2の前面側に設けられたハーフミラー 1 1 2 bで後方に反射して、 反射面 1 1 2 aを透過することにより、 作業者が見ることができる。 一 方、 作業対象そのものは、 プリズム 1 1 2を前方から後方に透過する光 路によって見ることができる。 この場合、 背景色を 「0 0 0 0 0 0」 近 辺の黒または 「 7 7 7 7 7 7」 近辺の濃いグレーに設定し、 アニメーシ ヨン画像の線画部分を 「0 0 F F F F」 近辺の水色に設定したとき、 作 業対象物そのものに対するアニメーション画像の見栄えが非常に良かつ た。 文字や記号などは、 Γ 0 0 F F F F」 近辺の水色や 「F F F F 0 0 J 近辺の黄色が見やすかった (ただし、 上記括弧 ( 「」 ) 内の文字は ウェブセーフカラーの値を示す。 ) 。 また、 めがね部 1 1は両目タイプ ではなく、 片目タイプでもよい。 つまり、 本発明の表示装置は、 作業者 の眼前の現実の作業対象と共に上記仮想イメージを作業者に表示するも のであればよい。
仮想イメージ調節機能 1 9 3による仮想イメージの調節は、 リアル夕 ィ厶ではなく、 所定の時間毎に行うようにしてもよい。
「指定範囲再生」 機能は、 もちろん複数にわたるステップを措定して 再生することもできる。
また、 仮想イメージ記憶部 1 7 Aから仮想イメージを呼び出し、 呼び 出した仮想イメージに上記視覚情報を修正および もしくは追加できる 視覚情報入力手段 (図示せず) を備えるのも好ましい。 視覚情報入力手 段を備えることで、 ボルトの締め付け順序の変更など、 現場レベルでの 細かい作業内容の変更に柔軟に対応することができ、 よリー層作業を効 率的に進めることができるようになる。 この場合、 仮想イメージを上記 現実の作業対象の輪郭を描いた線画からなるレイヤーと、 上記視覚情報 を描いたレイヤーとに分けて別々に作成しておけば、 複雑な上記線画を 誤って消したりすることなく、 安心して、 視覚情報の修正およびノもし くは追加ができる。
本実施形態では、 作業対象としてエンジンを例示したが、 エンジンな どの物に限らず、 人や動物などであってもよい。 例えば、 着物の着付け を人に教えたり、 人や動物の手術の手順を確認するのに本発明の作業誘 導システムを用いることもできる。 図 9は、 本発明の第 2の実施形態に係る作業誘導システム 2を示す。 この作業誘導システム 2は、 第 1の実施形態の作業誘導システム 1 と比 較して、 仮想イメージ調節機能 1 9 3 Bによる仮想イメージの調節を手 動で行うものである。 作業誘導システム 2には、 新たに、 手動コント口 —ラとしての手持ち式マウス 2 0が作業誘導制御装置 1 5と接続されて いる。 A V装置 1 0は、 〇じりカメラ 1 0 0の替わりに作業者の頭部の 動きを検出するへッドトラヅキング手段としてのへッド卜ラッカー 2 0 0がめがね部 Ί 1 に内蔵されている。 作業誘導制御装置 1 5は、 インタ 一フェイス部 Ί 6に、 手持ち式マウス 2 0と接続される手動コントロー ラインターフェイス 1 6 5と、 ヘッド卜ラッカー 2 0 0と接続されるへ ッドトラッカ Γンターフェイス 1 6 6とが新たに設けられ、 画像入力 インターフェイス 1 6 2が取り除かれている。 制御部 1 9は、 特徴点抽 出機能 1 9 2が取り除かれている。
仮想イメージ調節機能 1 9 3 Bによる仮想イメージの調節方法につい て説明する。 制御部 1 9は、 音声認識機能 1 9 1 もしくは手持ち式マウ ス 2 0により、 仮想イメージ再生モードと仮想イメージ調節モードとを 切り替えることができる。 上記仮想イメージ調節モードにおいては、 液 晶パネル 1 1 1 に、 現実の作業対象と仮想イメージとに加えて、 仮想ィ メージの作業対象に予め決められた特徴点の位置が表示される。 例えば、 図 9に示したエンジンの仮想イメージでは、 現実のエンジンと仮想ィメ —ジのエンジンに加えて、 仮想イメージのエンジンの特徴点 A, Bの位 置が表示される。 なお、 図 9では、 現実のエンジンと仮想イメージのェ ンジンとがずれて表示されている。 このような状態から、 作業者は手持 ち式マウス 2 0を用いて特徴点 Aの位置をドラッグし、 液晶パネル 1 1 1を通して見える現実のエンジンの、 特徴点 Aに対応する特徴点 P 1の 位置に一致させる。 この時、 仮想イメージ調節機能〗 9 3 Bにより、 仮 想ィメージ全体が上記ドラッグ操作に応じて移動する。 ドラッグを解除 すると、 特徴点 Aの位置が確定される (図 1 0の状態。 ) 。 次に、 特徴 点 Bの位置を |ドラッグし、 対応する現実のエンジンの特徴点 P 2の位置 に一致させる。 この時、 仮想イメージ調節機能 1 9 3 Bにより、 上記仮 想イメージは、 上記特徴点 Aの位置を基準として全体の寸法が変更され る。 以上の操作を終えると、 図 1 1のように、 現実のエンジンと、 仮想 イメージのエンジンとが一致して表示される。
仮想イメージ調節モードで行われた調節は、 記憶部 1 7に記憶されて いる全ての仮想イメージに適用されるため、 一度仮想イメージ調節モー ドで調節を行えば、 その後の仮想イメージ再生モードでは、 仮想ィメー ジが変わる毎に調節は行わなくても良い。
また、 仮想イメージ再生モードではへッドトラッカー 2 0 0により、 作業者が頭部を動かしても自動的に位置補整が行われ、 現実の作業対象 に上記仮想イメージの作業対象が重なった状態が維持される。 具体的に は、 仮想イメージ調節機能 Ί 9 3 Bは、 例えばへッド卜ラッカー 2 0 0 が作業者の頭部が左方向に移動したと検知すれば、 仮想ィメ一ジを右方 向に同じ移動量だけ移動させる。 ヘッド卜ラッカー 2 0 0には、 例えば、 ヘッドマウントディスプレイ用に設けられているジャイロや加速度計を 応用した慣性計測装置が使用可能である。
なお、 仮想イメージを調節するための操作方法は上述した操作方法に 限定されるものではなく、 例えば、 特徴点 Aの位置を確定した後は、 自 動的に仮想イメージ全体の寸法変更モードに移行し、 手持ち式マウス 2 0の移動方向および移動量に応じて仮想イメージ全体の寸法を特徴点 A の位置を基準に変更するようにしてもよい。 また、 仮想イメージ再生モ ードと仮想イメージ調節モードとを作業者が切り替えずに、 例えば、 仮 想ィメ一ジの再生中以外はすべて、 仮想ィメ一ジを調節できるようにし てもよい。
また、 手持ち式マウス 2 0の代わりに、 レバー式の手動コントローラ や、 各種のポインティングデバイスが適用可能である。

Claims

請求の範囲
1 . 以下の構成を備える作業誘導システム:
仮想イメージ記憶手段: この仮想イメージ記憶手段は、 複数の ステップからなる作業に関して、 各ステップでの作業内容を作業者に説 明するための仮想イメージを記憶する;
表示装置: この表示装置は、 作業者の眼前に配置され、 作業者 の前にある現実の作業対象と共に上記仮想イメージを作業者に表示す る;
仮想イメージ再生手段: この仮想イメージ再生手段は、 上記仮 想イメージを上記各ステップの順序に基づいて上記表示装置に表示す る;
仮想イメージ調節手段: この仮想イメージ調節手段は、 上記現 実の作業対象に上記仮想イメージに描かれた対応する作業対象が重なつ て上記表示装置に表示されるように、 上記仮想イメージを調節する。
2 . 請求項 1に記載の作業誘導システムにおいて、
上記仮想イメ -ジは、 上記現実の作業対象の輪郭を描いた線画と、 作業 内容を視党的に説明する視覚情報とからなる。
3 . 請求項 2に記載の作業誘導システムにおいて、
上記仮想ィメ一ジ記憶手段から上記仮想ィメ一ジを呼び出し、 上記視覚 情報を修正および Zもしくは追加する視覚情報入力手段を備える。
4 . 請求項 3に記載の作業誘導システムにおいて、
上記仮想イメージは、 上記現実の作業対象の輪郭を描いた線画からなる レイヤーと、 上記視覚情報を描いたレイヤーとからなる。
5 . 請求項 1 に記載の作業誘導システムにおいて、
上記仮想ィメ -ジ再生手段は、 上記仮想ィメ一ジを上記各ステップに対 応付けて記憶してぉリ、 作業者が指定したステップに対応した上記仮想 イメージを呼び出すことができる機能を備える。
6 . 請求項 1 に記載の作業誘導システムにおいて、
上記仮想ィメ一ジ再生手段は、 上記仮想ィメ一ジを上記各ステップに対 応付けて記憶しており、 作業者が指定した範囲のステップに対応する上 記仮想イメージを連続して再生し、 再生終了後、 上記指定した範囲の最 初のステップに戻る機能を備える。
7 . 請求項 1 に記載の作業誘導システムにおいて、
作業者の音声を入力する音声入力手段と、 この音声入力手段に入力され た音声を認識する音声認識手段とをさらに備え、
上記仮想ィメ -ジ再生手段は、 作業者の音声入力に基づいて上記仮想ィ メージの再生を制御する。
8 . 請求項 1 に記載の作業誘導システムにおいて、
作業内容の説明を音声データで記憶する音声記憶手段と、 上記音声デー 夕を出力する昔声出力手段とをさらに備え、
上記仮想ィメ一ジ再生手段は、 上記仮想ィメージの再生に合わせて上記 音声データを上記音声出力手段に出力する。
9 . 請求項 1 に記載の作業誘導システムにおいて、
上記現実の作業対象を撮像する撮像手段と、 この撮像手段によって出力 される画像デ一夕から予め上記作業対象に決められた特徴点を抽出する 特徴点抽出手段とを更に備え、
上記仮想ィメ一ジ調節手段は、 上記特徴点抽出手段によって抽出された 特徴点の位置に、 上記仮想イメージに描かれた上記作業対象における上 記特徴点に対応する点の位置が重なるように、 上記表示装置に表示され た仮想イメージの位置および/もしくは寸法を自動的に変化させる。
1 0 . 請求項〗 に記載の作業誘導システムにおいて、
上記仮想イメージ調節手段は、 上記表示装置に表示された上記仮想ィメ ージの位置および/もしくは寸法を作業者が手動で変化させることがで きる手動コントローラを備える。
1 1 . 請求項 1 0に記載の作業誘導システムにおいて、
上記作業者の頭部の動きを検出するへッドトラッキング手段をさらに備 え、
上記仮想ィメ一ジ調節手段は、 上記へッドトラッキング手段の出力に基 づいて、 上記表示装置に表示された仮想イメージの位置補正を自動的に 行う。
PCT/JP2003/007852 2002-06-20 2003-06-20 作業誘導システム WO2004001677A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
AU2003244317A AU2003244317A1 (en) 2002-06-20 2003-06-20 Job guiding system
US10/517,487 US20060090135A1 (en) 2002-06-20 2003-06-20 Job guiding system
KR1020047020732A KR100597942B1 (ko) 2002-06-20 2003-06-20 작업 유도 시스템

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2002180260A JP3735086B2 (ja) 2002-06-20 2002-06-20 作業誘導システム
JP2002-180260 2002-06-20

Publications (1)

Publication Number Publication Date
WO2004001677A1 true WO2004001677A1 (ja) 2003-12-31

Family

ID=29996600

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2003/007852 WO2004001677A1 (ja) 2002-06-20 2003-06-20 作業誘導システム

Country Status (6)

Country Link
US (1) US20060090135A1 (ja)
JP (1) JP3735086B2 (ja)
KR (1) KR100597942B1 (ja)
CN (1) CN1313980C (ja)
AU (1) AU2003244317A1 (ja)
WO (1) WO2004001677A1 (ja)

Families Citing this family (61)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4493383B2 (ja) * 2004-04-01 2010-06-30 オリンパス株式会社 手技支援システム
JP2006276748A (ja) * 2005-03-30 2006-10-12 Olympus Corp 情報呈示装置、情報呈示方法、及びコンピュータプログラム
DE102006005044B4 (de) * 2006-02-03 2011-01-27 Metaio Gmbh Verfahren und System zur Bestimmung eines Datenmodells zur Überlagerung mit einem realen Objekt in einem Verfahren zur Objektverfolgung
JP5391675B2 (ja) * 2008-12-11 2014-01-15 株式会社ジェイテクト 工作機械用制御装置
JP5168161B2 (ja) * 2009-01-16 2013-03-21 ブラザー工業株式会社 ヘッドマウントディスプレイ
US8970690B2 (en) * 2009-02-13 2015-03-03 Metaio Gmbh Methods and systems for determining the pose of a camera with respect to at least one object of a real environment
JP2010211623A (ja) * 2009-03-11 2010-09-24 Brother Ind Ltd 作業支援システム
JP5062774B2 (ja) * 2009-05-21 2012-10-31 トヨタ自動車東日本株式会社 作業訓練システム及び作業訓練方法並びに該作業訓練方法を記録した記録媒体
JP5402293B2 (ja) * 2009-06-22 2014-01-29 ソニー株式会社 頭部装着型ディスプレイ、及び、頭部装着型ディスプレイにおける画像表示方法
JP5218354B2 (ja) * 2009-09-16 2013-06-26 ブラザー工業株式会社 ヘッドマウントディスプレイ
JP5375481B2 (ja) * 2009-09-24 2013-12-25 ブラザー工業株式会社 ヘッドマウントディスプレイ
JP5282709B2 (ja) 2009-09-25 2013-09-04 ブラザー工業株式会社 ヘッドマウントディスプレイを含む撮像データ利用システム
JP5348004B2 (ja) * 2010-02-13 2013-11-20 ブラザー工業株式会社 ストライクゾーン提示システム
JP5574854B2 (ja) * 2010-06-30 2014-08-20 キヤノン株式会社 情報処理システム、情報処理装置、情報処理方法及びプログラム
CN102446048B (zh) * 2010-09-30 2014-04-02 联想(北京)有限公司 信息处理设备以及信息处理方法
US9256711B2 (en) * 2011-07-05 2016-02-09 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for providing health information to employees via augmented reality display
US9962083B2 (en) 2011-07-05 2018-05-08 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for monitoring and improving biomechanical health of employees
US9492120B2 (en) 2011-07-05 2016-11-15 Saudi Arabian Oil Company Workstation for monitoring and improving health and productivity of employees
US10108783B2 (en) 2011-07-05 2018-10-23 Saudi Arabian Oil Company Systems, computer medium and computer-implemented methods for monitoring health of employees using mobile devices
US10307104B2 (en) 2011-07-05 2019-06-04 Saudi Arabian Oil Company Chair pad system and associated, computer medium and computer-implemented methods for monitoring and improving health and productivity of employees
US8941560B2 (en) * 2011-09-21 2015-01-27 Google Inc. Wearable computer with superimposed controls and instructions for external device
US8990682B1 (en) 2011-10-05 2015-03-24 Google Inc. Methods and devices for rendering interactions between virtual and physical objects on a substantially transparent display
US9081177B2 (en) 2011-10-07 2015-07-14 Google Inc. Wearable computer with nearby object response
US9547406B1 (en) 2011-10-31 2017-01-17 Google Inc. Velocity-based triggering
JP6060512B2 (ja) * 2012-04-02 2017-01-18 セイコーエプソン株式会社 頭部装着型表示装置
AR086047A1 (es) * 2012-04-24 2013-11-13 Sergio Martin Carabajal Anteojo con computadora incorporada
JP5970243B2 (ja) * 2012-06-04 2016-08-17 東邦瓦斯株式会社 疑似ガス漏洩箇所検査システム
JP6015250B2 (ja) 2012-08-31 2016-10-26 富士通株式会社 画像処理装置、画像処理方法及び画像処理プログラム
EP2926338B8 (en) * 2012-11-29 2020-03-04 SoundSight IP, LLC Video headphones, system, platform, methods, apparatuses and media
US9448407B2 (en) 2012-12-13 2016-09-20 Seiko Epson Corporation Head-mounted display device, control method for head-mounted display device, and work supporting system
JP6179412B2 (ja) * 2013-01-31 2017-08-16 株式会社Jvcケンウッド 入力表示装置
JP2014164537A (ja) * 2013-02-26 2014-09-08 Yasuaki Iwai 仮想現実サービス提供システム、仮想現実サービス提供方法
JP6107276B2 (ja) 2013-03-22 2017-04-05 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
JP6138566B2 (ja) * 2013-04-24 2017-05-31 川崎重工業株式会社 部品取付作業支援システムおよび部品取付方法
DE102014222048A1 (de) * 2013-10-31 2015-04-30 Ford Global Technologies, Llc Anhängerzielplatzierungsassistiersystem und -verfahren
US20150199106A1 (en) * 2014-01-14 2015-07-16 Caterpillar Inc. Augmented Reality Display System
CN105096539A (zh) * 2014-04-28 2015-11-25 鸿富锦精密电子(郑州)有限公司 规范化操作训练***及方法
JP5932889B2 (ja) * 2014-06-09 2016-06-08 富士フイルム株式会社 ヘッドマウント型拡張現実映像提示装置及び仮想表示物操作方法
CN104661015A (zh) * 2015-02-06 2015-05-27 武汉也琪工业设计有限公司 一种3d实景的虚拟现实模拟显示设备
JP6272249B2 (ja) * 2015-02-09 2018-01-31 株式会社日立製作所 組立ナビゲーションシステム及び組立ナビゲーション方法
JP6534292B2 (ja) 2015-04-24 2019-06-26 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America ヘッドマウントディスプレイ、及び、ヘッドマウントディスプレイの制御方法
DE102015006632A1 (de) 2015-05-21 2016-11-24 Audi Ag Verfahren zum Betreiben eines Diagnosesystems und Diagnosesystem für ein Kraftfahrzeug
US10642955B2 (en) 2015-12-04 2020-05-05 Saudi Arabian Oil Company Devices, methods, and computer medium to provide real time 3D visualization bio-feedback
US10475351B2 (en) 2015-12-04 2019-11-12 Saudi Arabian Oil Company Systems, computer medium and methods for management training systems
KR101834447B1 (ko) * 2015-12-04 2018-03-06 삼성중공업(주) 작업 지시 장치
US10628770B2 (en) 2015-12-14 2020-04-21 Saudi Arabian Oil Company Systems and methods for acquiring and employing resiliency data for leadership development
CA3011154A1 (en) 2016-01-08 2017-07-13 Illinois Tool Works Inc. Systems and methods to provide weld training
MX2018008462A (es) 2016-01-08 2018-11-09 Illinois Tool Works Sistemas y metodos para proporcionar capacitacion en soldadura.
JP2017162102A (ja) 2016-03-08 2017-09-14 株式会社東芝 保守支援方法、保守支援システム、及び保守支援プログラム
JP2016154044A (ja) * 2016-04-28 2016-08-25 富士フイルム株式会社 ヘッドマウント型拡張現実映像提示装置及びその仮想表示物操作方法
JP2018067119A (ja) * 2016-10-19 2018-04-26 住友電装株式会社 作業指示装置
JP2019032728A (ja) * 2017-08-09 2019-02-28 アズビル株式会社 表示装置および表示方法
US20190057180A1 (en) * 2017-08-18 2019-02-21 International Business Machines Corporation System and method for design optimization using augmented reality
US10824132B2 (en) 2017-12-07 2020-11-03 Saudi Arabian Oil Company Intelligent personal protective equipment
KR102044856B1 (ko) * 2017-12-28 2019-11-14 광운대학교 산학협력단 가상현실 기반으로 오토마타를 조립하고 시뮬레이션하는 장치 및 방법
CN109078334B (zh) * 2018-06-21 2020-04-14 广州市世平计算机科技有限公司 一种基于虚拟机器人的vr操作引导及陪练方法和***
US11521512B2 (en) 2019-02-19 2022-12-06 Illinois Tool Works Inc. Systems for simulating joining operations using mobile devices
US11450233B2 (en) 2019-02-19 2022-09-20 Illinois Tool Works Inc. Systems for simulating joining operations using mobile devices
JP6835187B2 (ja) * 2019-11-20 2021-02-24 富士ゼロックス株式会社 情報処理装置、情報処理方法、情報処理システム及びプログラム
US11721231B2 (en) 2019-11-25 2023-08-08 Illinois Tool Works Inc. Weld training simulations using mobile devices, modular workpieces, and simulated welding equipment
US11322037B2 (en) 2019-11-25 2022-05-03 Illinois Tool Works Inc. Weld training simulations using mobile devices, modular workpieces, and simulated welding equipment

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0922453A (ja) * 1993-12-16 1997-01-21 Chintai Ri 手の立体形状入力方式
JPH11136706A (ja) * 1997-09-01 1999-05-21 Mr System Kenkyusho:Kk 位置姿勢検出装置、位置姿勢検出方法、複合現実感提示装置、ゲーム装置、複合現実感提示方法および記憶媒体
JP2000155855A (ja) * 1998-06-30 2000-06-06 Tobishima Corp 仮想現実感を利用した施工支援情報システム。
JP2000259233A (ja) * 1999-03-11 2000-09-22 Ishikawajima Harima Heavy Ind Co Ltd プラント運転監視支援装置

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4001643B2 (ja) * 1993-10-05 2007-10-31 スナップ−オン・テクノロジイズ・インク 両手解放型自動車整備装置
US6625299B1 (en) * 1998-04-08 2003-09-23 Jeffrey Meisner Augmented reality technology
JP4269482B2 (ja) * 2000-04-27 2009-05-27 コニカミノルタホールディングス株式会社 映像表示装置
EP1182541A3 (de) * 2000-08-22 2005-11-30 Siemens Aktiengesellschaft System und Verfahren zum kombinierten Einsatz verschiedener Display-/Gerätetypen mit systemgesteuerter kontextabhängiger Informationsdarstellung
WO2002029700A2 (en) * 2000-10-05 2002-04-11 Siemens Corporate Research, Inc. Intra-operative image-guided neurosurgery with augmented reality visualization

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0922453A (ja) * 1993-12-16 1997-01-21 Chintai Ri 手の立体形状入力方式
JPH11136706A (ja) * 1997-09-01 1999-05-21 Mr System Kenkyusho:Kk 位置姿勢検出装置、位置姿勢検出方法、複合現実感提示装置、ゲーム装置、複合現実感提示方法および記憶媒体
JP2000155855A (ja) * 1998-06-30 2000-06-06 Tobishima Corp 仮想現実感を利用した施工支援情報システム。
JP2000259233A (ja) * 1999-03-11 2000-09-22 Ishikawajima Harima Heavy Ind Co Ltd プラント運転監視支援装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
HIDEO FUJIMOTO ET AL.: "Virtual factory no tameno IT digital tool katsuyo no jissai/multimedia shujutsu shien system", AUTOMATION, vol. 46, no. 9, 1 September 2001 (2001-09-01), pages 54 - 61, XP002974163 *
KAZUHIKO KOBAYASHI ET AL.: "Fukugo genjitsukan ni yoru nakaguri senban sagyo no simulation", THE VIRTUAL REALITY SOCIETY OF JAPAN RONBUNSHI, vol. 4, no. 4, 31 December 1999 (1999-12-31), pages 685 - 690, XP002974162 *

Also Published As

Publication number Publication date
US20060090135A1 (en) 2006-04-27
KR100597942B1 (ko) 2006-07-06
CN1313980C (zh) 2007-05-02
AU2003244317A1 (en) 2004-01-06
CN1662934A (zh) 2005-08-31
JP3735086B2 (ja) 2006-01-11
JP2004021931A (ja) 2004-01-22
KR20050021996A (ko) 2005-03-07

Similar Documents

Publication Publication Date Title
WO2004001677A1 (ja) 作業誘導システム
US11231897B2 (en) Display system, display device, information display method, and program
US11301034B2 (en) Display device, control method for display device, and computer program
CN108957761B (zh) 显示装置及其控制方法、头戴式显示装置及其控制方法
US11536964B2 (en) Head-mounted display apparatus, display control method, and computer program
US20170277257A1 (en) Gaze-based sound selection
JP6155622B2 (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、および、頭部装着型表示装置の制御方法
JP4013100B2 (ja) 電子カメラ
US20160140728A1 (en) Head mounted display, display system, control method of head mounted display, and computer program
US20170090851A1 (en) Display system, display device, information display method, and program
JP4449082B2 (ja) 電子カメラ
KR20180101201A (ko) 헤드 업 디스플레이 및 음성 명령이 지원되는 용접 헬멧
US20160188283A1 (en) Head-mounted display device, control method for head-mounted display device, and computer program
JP4203863B2 (ja) 電子カメラ
JP6590050B2 (ja) 表示装置、表示システム、表示装置の制御方法、及び、プログラム
US20210240250A1 (en) Head-mounted display apparatus and power saving control program for head-mounted display apparatus
JP2017116562A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP2017134575A (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP6364735B2 (ja) 表示装置、頭部装着型表示装置、表示装置の制御方法、および、頭部装着型表示装置の制御方法
US8443279B1 (en) Voice-responsive annotation of video generated by an endoscopic camera
JP6540426B2 (ja) 表示システム、表示装置、情報表示方法、及び、プログラム
JP2018042004A (ja) 表示装置、頭部装着型表示装置、及び、表示装置の制御方法
JP2017037212A (ja) 音声認識装置、制御方法、及び、コンピュータープログラム
JP2018018315A (ja) 表示システム、表示装置、情報表示方法、及び、プログラム
JP2017183857A (ja) 頭部装着型表示装置、頭部装着型表示装置の制御方法、コンピュータープログラム

Legal Events

Date Code Title Description
AK Designated states

Kind code of ref document: A1

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BR BY BZ CA CH CN CO CR CU CZ DE DK DM DZ EC EE ES FI GB GD GE GH GM HR HU ID IL IN IS KE KG KP KR KZ LC LK LR LS LT LU LV MA MD MG MK MN MW MX MZ NI NO NZ OM PG PH PL PT RO RU SC SD SE SG SK SL TJ TM TN TR TT TZ UA UG US UZ VC VN YU ZA ZM ZW

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): GH GM KE LS MW MZ SD SL SZ TZ UG ZM ZW AM AZ BY KG KZ MD RU TJ TM AT BE BG CH CY CZ DE DK EE ES FI FR GB GR HU IE IT LU MC NL PT RO SE SI SK TR BF BJ CF CG CI CM GA GN GQ GW ML MR NE SN TD TG

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 20038143763

Country of ref document: CN

Ref document number: 1020047020732

Country of ref document: KR

WWP Wipo information: published in national office

Ref document number: 1020047020732

Country of ref document: KR

ENP Entry into the national phase

Ref document number: 2006090135

Country of ref document: US

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 10517487

Country of ref document: US

122 Ep: pct application non-entry in european phase
WWG Wipo information: grant in national office

Ref document number: 1020047020732

Country of ref document: KR

WWP Wipo information: published in national office

Ref document number: 10517487

Country of ref document: US