WO2016125732A1 - 光学端末装置及びスキャンプログラム - Google Patents

光学端末装置及びスキャンプログラム Download PDF

Info

Publication number
WO2016125732A1
WO2016125732A1 PCT/JP2016/052895 JP2016052895W WO2016125732A1 WO 2016125732 A1 WO2016125732 A1 WO 2016125732A1 JP 2016052895 W JP2016052895 W JP 2016052895W WO 2016125732 A1 WO2016125732 A1 WO 2016125732A1
Authority
WO
WIPO (PCT)
Prior art keywords
unit
image
image data
position information
terminal device
Prior art date
Application number
PCT/JP2016/052895
Other languages
English (en)
French (fr)
Inventor
光雄 中山
弘之 末高
英樹 本山
Original Assignee
光雄 中山
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 光雄 中山 filed Critical 光雄 中山
Priority to US15/547,485 priority Critical patent/US20180018025A1/en
Priority to CN201680008054.XA priority patent/CN107251538A/zh
Priority to EP16746563.2A priority patent/EP3255870A4/en
Priority to JP2016573347A priority patent/JP6245671B2/ja
Publication of WO2016125732A1 publication Critical patent/WO2016125732A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • G06F3/0317Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface
    • G06F3/0321Detection arrangements using opto-electronic means in co-operation with a patterned surface, e.g. absolute position or relative movement detection for an optical mouse or pen positioned with respect to a coded surface by optically sensing the absolute position with respect to a regularly patterned surface forming a passive digitiser, e.g. pen optically detecting position indicative tags printed on a paper sheet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/04Scanning arrangements, i.e. arrangements for the displacement of active reading or reproducing elements relative to the original or reproducing medium, or vice versa
    • H04N1/10Scanning arrangements, i.e. arrangements for the displacement of active reading or reproducing elements relative to the original or reproducing medium, or vice versa using flat picture-bearing surfaces
    • H04N1/107Scanning arrangements, i.e. arrangements for the displacement of active reading or reproducing elements relative to the original or reproducing medium, or vice versa using flat picture-bearing surfaces with manual scanning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Definitions

  • the present invention relates to an optical terminal device that scans an object and acquires image data in a predetermined range, and a scan program that is executed on the optical terminal device.
  • a scanner is used to acquire a predetermined area on a document such as a printed material as digital image data.
  • a scanner for example, as in a copier, a document is fixed to a platen glass, light is applied from below, a scanning device is scanned to scan the image, and an image is acquired while automatically feeding the document.
  • a sheet feed scanner for discharging a document.
  • a mouse scanner is a device in which a scanner function is mounted on a mouse used with a computer.
  • FIG. 10 is a block diagram of the mouse scanner, where (a) is a top view and (b) is a bottom view.
  • the mouse scanner has a built-in camera 111 and acquires an image on a scan target such as a document through a transparent window 112 provided on the bottom surface.
  • two position sensors 120 which are optical sensors, are provided on the bottom surface of the mouse scanner, and the position coordinates of the mouse are acquired by these. That is, the mouse scanner is moved on the scan target, and images of a plurality of areas and position coordinates of the areas are acquired. An image of the entire area is generated based on these images and their position coordinates.
  • the angle of the captured image may be shifted by not sliding in parallel during the movement.
  • an image of the entire scanned object is generated by combining the captured unit images, for example, but as shown in FIG. If they are pasted together in some cases, the accuracy of the entire image obtained will deteriorate. Therefore, in order to correct this shift, the conventional mouse scanner is provided with two position sensors 120 on the bottom surface, for example, diagonally as shown in FIG. 10B.
  • two position coordinates are obtained by the two position sensors 120, and a line segment connecting the position coordinates between the two position sensors is obtained.
  • the angle ⁇ formed by the line segment is an angle shift, and the angle correction of the unit image is performed based on the change in the angle.
  • the two position sensors need to be spaced apart from each other in order to ensure the accuracy of angle change detection. It was. For this reason, when attempting to image the end portion of the target range to be scanned, one of the position sensors cannot exceed the target range and perform position measurement. Therefore, it was necessary to operate carefully so as not to exceed the target range.
  • the mouse scanner floats unintentionally during scanning, and at least one of the position sensors cannot move away from the scanning target, such as a document, and position coordinates cannot be acquired, and there is a problem that an accurate scanned image cannot be obtained. . For this reason, the operation has to be performed with an excessive awareness, which is inconvenient.
  • the problem with respect to such an operation is not limited to a mouse scanner, and is a problem that applies to all optical terminal devices that are moved by a user operation and scanned by an imaging means such as a camera.
  • the present invention has been made to solve the above-described problems, and an object thereof is to provide an optical terminal device and a scanning program with high operability that do not require excessive consciousness.
  • An optical terminal device of the present invention is an optical terminal device for acquiring an entire image of a scan target range, is configured to include an image sensor, images each region in the scan target range, and a unit of each region
  • An image capture unit that acquires image data, a position information acquisition unit that acquires image position information corresponding to the unit image data, and an image that generates a whole image of the scan target range by combining a plurality of unit image data
  • the position information acquisition unit is provided in the apparatus body, and calculates image position information of the unit image data based on the acceleration and the angular velocity based on a six-dimensional sensor that detects the acceleration and the angular velocity.
  • an arithmetic unit that performs the processing.
  • the 6-dimensional sensor may be provided behind the image capture unit.
  • the calculation unit may calculate posture information of the unit image data based on the angular velocity.
  • a control unit that controls shooting of the image sensor; the calculation unit calculates a height displacement as one of the image position information; and the control unit determines whether the height displacement is a predetermined height displacement.
  • the calculation unit calculates a height displacement as one of the image position information
  • the image processing unit includes a determination unit that determines whether the height displacement is within a predetermined height displacement range. Then, the determination unit may discard the unit image data determined not to be within the predetermined height displacement range.
  • An image processing unit that associates the image position information with the unit image data to obtain package unit image data may be provided.
  • a display unit for displaying an image may be provided, and the display unit may display the unit image or the entire image during execution of scanning.
  • the present invention is an optical terminal device for acquiring an entire image of a scan target range, is configured to include an imaging device, images each region in the scan target range, and unit image data of each region
  • An image capture unit that acquires image position information
  • a position information acquisition unit that acquires image position information corresponding to the unit image data
  • an output unit that outputs the unit image data and the image position information
  • a pointing unit a pointing unit.
  • the position information acquisition unit includes a six-dimensional sensor that is provided in the apparatus main body and detects acceleration and angular velocity, and a calculation unit that calculates image position information of the unit image data based on the acceleration and angular velocity.
  • the output unit is connected to an external computer or server and outputs to a predetermined location designated by the pointing unit. It may be.
  • the present invention can also be understood from the viewpoint of a scan program. That is, the present invention is configured to include an image sensor, and is provided in an image capture unit that captures each region within a scan target range and acquires unit image data of each region, and detects acceleration and angular velocity.
  • a scan program executed on an optical terminal device including a six-dimensional sensor and a computer, the computer calculating image position information corresponding to the unit image data based on the acceleration and the angular velocity
  • a scan program for functioning as an image synthesizing unit that synthesizes the plurality of unit image data and generates an entire image of the scan target range.
  • an optical terminal device and a scan program with high operability that do not require excessive consciousness can be obtained.
  • the optical terminal device of this embodiment is a device for acquiring an entire image of a scan target range in a scan target.
  • the apparatus captures a part of the target range with an image sensor such as a camera to acquire unit image data, and sets the unit image data and its image position information as one set. Further, based on the image position information, image synthesis is performed by combining unit image data, and an entire image to be scanned is generated.
  • the optical terminal device includes a memory in which a program is stored and a microcomputer including a CPU.
  • the program is appropriately expanded in a RAM and processed by the CPU, thereby calculating position information and the position information and unit image data. Processing such as association and generation of the entire image is performed.
  • optical terminal device The configuration of the optical terminal device will be described in more detail.
  • Examples of the optical terminal device include terminal devices such as a mouse scanner having a scanner function, a smartphone, and a tablet.
  • a mouse scanner will be described as an example.
  • FIG. 1 is a functional block diagram of the optical terminal device according to the present embodiment.
  • FIG. 2A is a top view of the optical terminal device (mouse scanner) according to the present embodiment
  • FIG. 2B is a side sectional view thereof.
  • the mouse scanner includes an image capture unit 10, a position information acquisition unit 20, and an image processing unit 30.
  • the image capture unit 10 is configured to include the image sensor 11, images each area within the scan target range of the scan object, and acquires unit image data of each area.
  • the image pickup device 11 is a camera such as a CCD or CMOS, and is provided in the internal space of the mouse scanner housing with the image pickup surface facing the bottom surface side of the mouse scanner.
  • a capture start button 13 provided on the screen, an image of a scanning object such as a paper surface is imaged through a transparent plate 12 provided on the bottom surface.
  • a capture end button 14 provided on the mouse scanner is pressed.
  • the number of times the button is pressed may be counted, the odd number may be the start of capture, the even number may be the end of capture, the button may be held down during the start and scan, and released at the end.
  • a proximity sensor that detects whether the mouse scanner is in close contact with the scan target may be provided, or a light such as an LED that illuminates the imaging target, or an optical system such as a mirror or a lens may be provided.
  • the position information acquisition unit 20 detects information about the height of the image capture unit 10 and acquires image position information corresponding to the unit image data.
  • the image position information refers to information related to unit image data such as coordinates and angle changes of unit image data when unit image data is pasted as will be described later.
  • the position information acquisition unit 20 detects a position and orientation information including the height of the image capture unit 10 and a calculation for calculating image position information of the unit image data based on the information detected by the sensor 21. And part 22.
  • the sensor 21 is built in the mouse scanner in the present embodiment, and the relative positional relationship with the image capture unit 10 (imaging device 11) is fixed and provided behind the sensor 21. If the relative positional relationship with the image sensor 11 is fixed, it may be mounted outside the housing of the mouse scanner.
  • the sensor 21 is a six-dimensional sensor (6-axis sensor), and includes an acceleration sensor 21 a that detects the three-dimensional accelerations ax, ay, and az of the image capture unit 10, and 3 of the image capture unit 10.
  • a three-dimensional gyro sensor that detects the dimensional angular velocities ⁇ x, ⁇ y, and ⁇ z.
  • the three-dimensional gyro sensor includes three gyro sensors 21b to 21d, and the gyro sensors 21b to 21d are respectively arranged on the x, y, and z axes orthogonal to each other, and detect angular velocities around the respective axes.
  • the six-dimensional sensor may be assembled by providing three acceleration sensors and three gyro sensors, one for each of the orthogonal x-axis, y-axis, and z-axis, or three acceleration sensors and three gyro sensors.
  • a 6-axis sensor in which the sensor is packaged may be used.
  • acceleration sensor 21a and the gyro sensors 21b to 21d various known ones such as those using MEMS (Micro Electro Mechanical System) technology can be used.
  • MEMS Micro Electro Mechanical System
  • examples of the acceleration sensor 21a include piezoresistive type, capacitance type, and piezoelectric element type
  • examples of the gyro sensors 21b to 21d include ring laser gyro and optical fiber gyro. However, it is not limited to these enumerated sensors.
  • the calculation unit 22 is mainly configured to include a CPU, and obtains image position information including a change in position and orientation based on acceleration or angular velocity from the acceleration sensor 21a and the gyro sensors 21b to 21d by calculation such as integration. .
  • image position information including a change in position and orientation based on acceleration or angular velocity from the acceleration sensor 21a and the gyro sensors 21b to 21d by calculation such as integration.
  • the relative position and relative angle of the unit image data captured this time with respect to the unit image data captured last time can be obtained.
  • the amount of change in the angle and orientation obtained by the calculation unit 22 can be used for correction at the time of image composition in an image composition process described later.
  • the calculating part 22 calculates the relative displacement of the image capture part 10, and makes the said relative displacement the displacement of a unit image.
  • the displacement of the unit image may be calculated based on a predetermined relationship.
  • the arithmetic unit 22 can trace the relative position in the three-dimensional space.
  • the image processing unit 30 is connected to the image capture unit 10 and the position information acquisition unit 20, unit image data is input from the image capture unit 10, and image position information of unit image data from the position information acquisition unit 20. Is entered.
  • the image processing unit 30 associates the unit image data obtained by the image capture unit 10 with the image position information obtained by the position information acquisition unit 20 to obtain package unit image data.
  • the association referred to here is a process of unit image data and corresponding image position information as one set. Thereby, in the image synthesis, the pasting position coordinates of the unit image data, the angle correction, and the like are related. In this association, order information is added when each data and information is output from the image capture unit 10 and the position information acquisition unit 20 so that the correspondence relationship can be understood, and those in the same order are associated. For example, press a time stamp.
  • the mouse scanner that is the optical terminal device of the present embodiment includes an image composition unit 40 that performs composition processing on a plurality of package unit image data from the image processing unit 30 and generates an entire image of the scan target range. Based on the image position information included in the package unit image data, the image composition unit 40 combines the package unit image data, performs a process such as correction, and combines them.
  • the operation unit 22 attaches the next unit image data I2 to the past position P2 as (0, 0, 0), for example. Then, since it is understood that the position is the position where the horizontal change amount ( ⁇ x, ⁇ y, 0) is moved from the position, both unit images can be pasted. At this time, since the calculation unit 22 knows that the mouse scanner MS has an angle ⁇ around the z-axis, angle correction is also performed at the time of attachment.
  • one overlapping portion may be deleted by pattern matching using an image pattern or the like.
  • a well-known method can be used for the synthesis of the unit image data.
  • the mouse scanner of the present embodiment includes a control unit 50 that instructs or stops imaging of the image capture unit 10 based on image position information from the position information acquisition unit 20. That is, the control unit 50 determines whether the height displacement from the scan object of the mouse scanner is within a predetermined height displacement range, and the determination unit 51 is within the predetermined height displacement range. And an imaging control unit 52 that outputs an imaging command to the imaging device 11 when it is determined that the image sensor 11 is present.
  • An example of the movement within the range of the predetermined height displacement is a horizontal movement of the image capture unit 10.
  • the range within the predetermined height displacement may be set in advance as an absolute value, or a plane or curved surface in which the scanning object in the three-dimensional space expands is calculated from the change in height, and the range from the plane or curved surface is calculated. You may make it variably set as a range which does not deviate.
  • Scanning is started by setting the bottom surface of the mouse scanner to a predetermined area of the scanning target range on the paper surface and pressing the capture start button 13 in a state of being in close contact with the paper surface (step S01).
  • the unit image data of the predetermined area is acquired by the image capture unit 10 (step S02), and the unit image data is pasted (step S03).
  • the position coordinates (x0, y0, 0) of the unit image data are set as the initial position.
  • step S04 when the capture end button 14 is pressed (Yes in step S04), the scan is terminated.
  • the position information is acquired from the position information acquisition unit 20 (step S05), and the determination unit 51 moves the height direction component from the position information. That is, it is determined whether or not the vertical component has moved with respect to the page (step S06).
  • the determination unit 51 determines whether there is a movement in the horizontal direction (step S07).
  • the process returns to step S04. This is to confirm the user's intention to end the scan.
  • step S07 when there is a movement in the horizontal direction (Yes in step S07), an imaging command is output from the imaging control unit 52, the inside of the predetermined area is imaged by the imaging element 11, and unit image data is acquired (step S08). ). Further, the unit image is pasted to the position after the movement (step S09), and the operations of steps S04 to S09 are repeated. If it is determined that there has been a vertical movement (Yes in step S06), it means that the mouse scanner has left the page. In this case, the determination unit 51 continues to acquire position information from the position information acquisition unit 20 (step S10), and determines whether the height is 0 (step S11).
  • step S11 when it is determined that the height has become 0 (Yes in step S11), it indicates that the bottom surface of the mouse scanner is in close contact with the paper surface. In this case, the process proceeds to step S07, proceeds directly or indirectly to step S04, and when the capture end button is pressed (Yes in step S04), the scan is terminated.
  • the optical terminal device is an optical terminal device for acquiring an entire image of a scan target range, is configured to include the image sensor 11, images each region in the scan target range, An image capture unit 10 that acquires unit image data of each region, a position information acquisition unit 20 that acquires image position information corresponding to the unit image data, and a plurality of the unit image data are combined to form the entire scan target range.
  • An image composition unit 40 for generating an image is provided.
  • the position information acquisition unit 20 is provided in the apparatus main body, and includes a six-dimensional sensor 21 that detects acceleration and angular velocity, and an image of unit image data based on the acceleration and angular velocity. And a calculation unit 22 for calculating position information.
  • the 6-dimensional sensor can detect the acceleration and the angular velocity of the image capture unit 10 regardless of the position where the sensor is provided, the operability can be improved. That is, unlike the conventional optical terminal device, there is no restriction on the imaging range by providing two position sensors apart from each other. Therefore, scanning is possible even at the end of the scan target, and the imaging range is No need to worry about. Therefore, the user does not have to be excessively aware and high operability can be realized.
  • the 6-dimensional sensor 21 is provided behind the image capture unit 10. Thereby, a restriction
  • the calculation unit 22 calculates the posture information of the unit image data based on the angular velocity. Thereby, it is possible to acquire a scanned image even on a curved two-dimensional surface. That is, three-dimensional data of a three-dimensional surface can be acquired by performing a combining process for connecting unit image data on a curved two-dimensional surface. For example, a three-dimensional spherical surface can be scanned, and three-dimensional data used for a three-dimensional printer can be easily obtained.
  • a control unit 50 that controls photographing of the image sensor 11 is provided.
  • the calculation unit 22 calculates a height displacement as one piece of image position information, and the control unit 50 determines that the height displacement is a predetermined height.
  • a determination unit 51 that determines whether the image is within the range of displacement, and an imaging control unit 52 that commands or stops imaging of the imaging element 11 based on a determination result by the determination unit 51.
  • the image processing unit 30 is provided with the image position information and the unit image data as package unit image data. Thereby, the shift
  • FIG. 6 is a functional block diagram of the optical terminal device according to the second embodiment.
  • the image processing unit 30 includes a determination unit 31 instead of the control unit 50 being provided.
  • the image sensor 11 is not controlled based on the moving direction, and the image sensor 11 captures images at predetermined time intervals.
  • the determination unit 31 of the image processing unit 30 determines that the height displacement of the image capture unit 10 when captured to obtain the data is a predetermined height. It is determined whether the displacement is within the range of displacement.
  • the determination unit 31 does not output the package unit image data to the image composition unit 40 unless it is within the range. For example, the data is discarded. Thereby, only the unit image data when the mouse scanner in the case where the height is 0 is in contact with the paper surface can be used for the image composition, so that the accuracy of the entire image can be improved.
  • the present embodiment is not limited to the mouse scanner, and in the case of a mobile terminal such as a mobile phone, a smartphone, or a tablet, the image may be taken without being in close contact with the scan target.
  • a range of a predetermined height displacement may be set, and unit image data outside the range may not be used for image composition processing.
  • This predetermined height displacement range may be set in advance as 10 cm, 3 cm, etc. as an absolute reference, the height at the start of scanning is memorized, and the range from the transition of height is determined based on that height. May be set.
  • the calculation unit 22 calculates a height displacement as one piece of image position information, and the image processing unit 30 determines whether the height displacement is within a predetermined height displacement range.
  • a determination unit 31 is included, and the determination unit 31 discards the package unit image data determined not to be within a predetermined height range. Thereby, it can be determined whether or not the mouse scanner is separated from the scan target. That is, since unit images with low accuracy can be automatically selected and image synthesis can be performed with unit image data with high accuracy, the operability is high and the accuracy of the entire image from which the scan target range can be obtained can be improved.
  • a third embodiment will be described with reference to FIG.
  • the third embodiment is applicable to the first embodiment or the second embodiment.
  • the basic configuration is the same as in the second embodiment. Therefore, only a different point from 2nd Embodiment is demonstrated, the same code
  • FIG. 7 is a functional block diagram including the optical terminal device according to the third embodiment.
  • the mouse scanner is not provided with the image composition unit 40, and instead includes an output unit 60 connected to the image processing unit 30.
  • the output unit 60 is connected to an external computer or server by a wired or wireless communication means such as USB, Bluetooth (registered trademark), or an Internet line.
  • a wired or wireless communication means such as USB, Bluetooth (registered trademark), or an Internet line.
  • the package unit image data generated by the image processing unit 30 is output to the computer.
  • This computer is provided with an image composition unit 40. That is, the program stored in the HDD, SSD, or the like of the computer may be executed to cause the computer to realize the function as the image synthesizing unit 40, and the entire image in the scan target range may be synthesized.
  • the mouse scanner is provided with the input unit 70, receives the input of the entire image generated by the external computer, and causes the display unit 80 to display the entire image.
  • a combined scan image may be displayed, or a unit image obtained during scanning may be displayed. That is, by displaying in real time, if the user determines that an image in the scan target range is not obtained, the scan can be immediately stopped and restarted.
  • the unit image or the entire image may be displayed on the display connected to the computer during the scan execution.
  • the external computer includes, for example, a personal computer, a smart phone, a tablet terminal, and the like.
  • a fourth embodiment will be described with reference to FIG.
  • the third embodiment is applicable to the first embodiment or the second embodiment.
  • the basic configuration is the same as in the second embodiment. Therefore, only a different point from 2nd Embodiment is demonstrated, the same code
  • FIG. 8 is a functional block diagram including the optical terminal device according to the fourth embodiment.
  • a character recognition unit 90 and an output unit 60b are provided.
  • the character recognition unit 90 extracts a character string from the entire image sent from the image composition unit 40 and converts it into character data.
  • the output unit 60b is connected to an external computer or server by wire or wireless, and outputs character data to these.
  • the mouse scanner according to the present embodiment has a pointing function, is connected to the external computer C by the output unit 60b, and can be used as a pointing device. That is, the output destination of the character data can be specified by the cursor P of the mouse via the display DIS connected to the external computer C.
  • the character recognizing unit 90 may function as an image recognizing unit that recognizes a bar code, a QR code, or the like instead of the character string from the entire image sent from the image synthesizing unit 40.
  • a fifth embodiment will be described with reference to FIG.
  • the fifth embodiment is a combination of the third embodiment and the fourth embodiment.
  • the basic configuration is the same as that of the third embodiment, and only points different from the third embodiment will be described.
  • the same parts as those of the third embodiment are denoted by the same reference numerals, and detailed description thereof will be omitted. Similarly, the description of the same parts as those in the fourth embodiment is omitted as appropriate.
  • FIG. 9 is a functional block diagram including the optical terminal device according to the fifth embodiment.
  • image synthesis and character recognition in the fourth embodiment are not performed by the optical terminal device, but by an external computer or server. That is, the output unit 60 in the optical terminal device outputs the package unit image data generated by the image processing unit 30 to an external computer or server.
  • an external computer is connected to the output unit 60.
  • This computer is provided with an image composition unit 40 and a character recognition unit 90. That is, by executing a program stored in an HDD, SSD, or the like of a computer, the computer functions as the image synthesis unit 40 and the character recognition unit 90, and performs synthesis processing and character recognition of the entire image in the scan target range. Do.
  • the entire image and character data obtained by the external computer are displayed on the display DIS.
  • the character recognition unit 90 may extract character strings from the entire image into character data, or may extract character strings from package unit image data and convert them into character data.
  • character data may be input to a predetermined input destination by the pointer function of the mouse scanner according to the present embodiment.
  • the whole image data may be input to a predetermined input destination, for example, a search window of image search software by the pointer function. Thereby, an image search can be performed by image search software installed in the computer.
  • the entire image can be generated by an external computer having a relatively high processing capability. And character recognition. For this reason, even when the data amount of the package unit image data is large, it can be dealt with.
  • the present invention is not limited to the first to fifth embodiments, and includes other embodiments described below.
  • the present invention also includes a combination of at least any two of the first to fifth embodiments and the following other embodiments.
  • the height-related determination is away from the scan target only by the coordinate in the z-axis direction.
  • the scan target is not a plane but bent, It may be determined whether or not the object has been separated from the scan target based on not only the coordinates in the z-axis direction but also the rotational coordinates around other axes.
  • the 6-dimensional sensor is used as the position information acquisition sensor, but an optical sensor may be provided in addition to the 6-dimensional sensor.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Input (AREA)
  • Facsimile Scanning Arrangements (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)

Abstract

 過度な意識を必要としない操作性の高い光学端末装置及びスキャンプログラムを提供する。スキャン対象範囲の全体画像を取得するための光学端末装置であって、撮像素子11を含み構成され、スキャン対象範囲内の各領域を撮影し、前記各領域の単位画像データを取得するイメージキャプチャ部10と、単位画像データに対応するイメージ位置情報を取得する位置情報取得部20と、複数の前記単位画像データを合成し、前記スキャン対象範囲の全体画像を生成する画像合成部40を備え、位置情報取得部20は、装置本体に設けられ、加速度及び角速度を検出する6次元センサ21と、前記加速度及び前記角速度に基づいて、単位画像データのイメージ位置情報を算出する演算部22と、を有する。

Description

光学端末装置及びスキャンプログラム
 本発明は、対象物をスキャンし、所定範囲の画像データを取得する光学端末装置及び光学端末装置上で実行されるスキャンプログラムに関する。
 印刷物等の原稿上の所定領域をデジタル画像データとして取得するために、スキャナが用いられている。スキャナとしては、例えば、コピー機のように原稿をプラテンガラスに固定し、下から光を当てて読取装置を走査させ画像を読み取るフラットベッドスキャナや、原稿を自動的に給紙しながら画像の取得及び原稿排出を行うシートフィードスキャナがある。これらのスキャナは、紙面全体の画像しか得られず、紙面内の所定の限られた領域の画像を取得するのには向いていない。
 一方、ユーザが原稿の画像を得たい領域上を移動させることで画像を取得するハンディータイプのスキャナがある。この種のスキャナとしては、マウススキャナがある。マウススキャナは、コンピュータとともに用いられるマウスに、スキャナ機能を搭載した装置である。
 図10は、マウススキャナの構成図であり、(a)は上面図、(b)は底面図である。図10に示すように、マウススキャナは、カメラ111が内蔵されており、その底面に設けられた透明な窓112を介して書類等のスキャン対象物上の画像を取得する。また、マウススキャナの底面には、光学センサである2つの位置センサ120が設けられており、これらによりマウスの位置座標を取得する。すなわち、マウススキャナをスキャン対象物上で移動させるとともに、複数領域の画像及びその領域の位置座標を取得する。これらの画像及びその位置座標に基づいて全体領域の画像を生成する。
 図11(a)に示すように、ユーザの操作によりマウススキャナ100を移動させてスキャンする場合には、移動の際平行にスライドしないことにより、撮影した画像の角度がずれる場合がある。スキャン対象の画像を得るためには、撮像した単位画像を貼り合わせするなど合成してスキャン対象全体の画像を生成するが、図11(b)に示すように、撮影した画像の角度にずれがある場合にそのまま貼り合わせると、得られる全体画像の精度が悪化する。そこで、このずれを補正するために、従来のマウススキャナには、図10(b)に示すように、その底面に2つの位置センサ120を例えば対角になるように設けていた。
 すなわち、2つの位置センサ120により、2つの位置座標が得られると共に、両位置センサ間の位置座標を結ぶ線分が得られる。図11(c)に示すように、2つの単位画像において、前記線分間の成す角Δθが角度のずれであり、この角度変化に基づいて単位画像の角度補正を行っている。
特開2010-153984号公報
 しかし、マウススキャナなどユーザの操作によりカメラを移動させてスキャンする場合には、2つの位置センサは、角度変化検出の精度を確保するため、一定の間隔が必要であり、互いに離して設けられていた。そのため、スキャンしたい対象範囲の端部分を撮像しようとすると、位置センサの1つが当該対象範囲を超えて位置測定ができない。そのため、対象範囲を超えないように慎重に操作する必要があった。
 また、スキャン中に無意識にマウススキャナを浮かしてしまい、位置センサの少なくとも1つが書類などスキャン対象から離れて位置座標の取得ができなくなり、正確にスキャニングされた画像を得ることができない問題があった。そのため、過度に意識して操作をしなければならず、不便さがあった。
 こうした操作に対する問題は、マウススキャナに限らず、ユーザの操作により装置を移動させカメラなどの撮像手段でスキャンする光学端末装置全般に当てはまる問題である。
 本発明は、上記のような課題を解決するためになされたものであり、その目的は、過度な意識を必要としない操作性の高い光学端末装置及びスキャンプログラムを提供することにある。
 本発明の光学端末装置は、スキャン対象範囲の全体画像を取得するための光学端末装置であって、撮像素子を含み構成され、前記スキャン対象範囲内の各領域を撮影し、前記各領域の単位画像データを取得するイメージキャプチャ部と、前記単位画像データに対応するイメージ位置情報を取得する位置情報取得部と、複数の前記単位画像データを合成し、前記スキャン対象範囲の全体画像を生成する画像合成部と、を備え、前記位置情報取得部は、装置本体に設けられ、加速度及び角速度を検出する6次元センサと、前記加速度及び前記角速度に基づいて、前記単位画像データのイメージ位置情報を算出する演算部と、を有すること、を特徴する。
 前記6次元センサは、前記イメージキャプチャ部の背後に設けられていても良い。前記演算部は、前記角速度に基づいて、前記単位画像データの姿勢情報を算出しても良い。
 前記撮像素子の撮影を制御する制御部を備え、前記演算部は、前記イメージ位置情報の一つとして高さ変位を算出し、前記制御部は、前記高さ変位が、所定の高さ変位の範囲内にあるかを判定する判定部と、前記判定部による判定結果に基づいて、前記撮像素子の撮影を指令又は停止させる撮像制御部と、を有していても良い。
 前記演算部は、前記イメージ位置情報の一つとして高さ変位を算出し、前記画像処理部は、前記高さ変位が、所定の高さ変位の範囲内にあるかを判定する判定部を有し、前記判定部は、前記所定の高さ変位の範囲内にないと判定した前記単位画像データを破棄するようにしても良い。
 前記イメージ位置情報と前記単位画像データとを関連付けてパッケージ単位画像データとする画像処理部を備えるようにしても良い。
 画像を表示させる表示部を備え、前記表示部は、スキャン実行中に前記単位画像又は前記全体画像を表示させるようにしても良い。
 また、本発明は、スキャン対象範囲の全体画像を取得するための光学端末装置であって、撮像素子を含み構成され、前記スキャン対象範囲内の各領域を撮影し、前記各領域の単位画像データを取得するイメージキャプチャ部と、前記単位画像データに対応するイメージ位置情報を取得する位置情報取得部と、前記単位画像データ及び前記イメージ位置情報を出力する出力部と、ポインティング部と、を備え、前記位置情報取得部は、装置本体に設けられ、加速度及び角速度を検出する6次元センサと、前記加速度及び前記角速度に基づいて、前記単位画像データのイメージ位置情報を算出する演算部と、を有し、前記出力部は、外部のコンピュータ又はサーバに接続され、前記ポインティング部により指定された所定の場所に出力するようにしても良い。
 また、本発明は、スキャンプログラムの観点からも捉えることができる。すなわち、本発明は、撮像素子を含み構成され、スキャン対象範囲内の各領域を撮影し、前記各領域の単位画像データを取得するイメージキャプチャ部と、装置本体に設けられ、加速度及び角速度を検出する6次元センサと、コンピュータとを備えた光学端末装置上で実行されるスキャンプログラムであって、前記コンピュータを、前記加速度及び前記角速度に基づいて、前記単位画像データに対応するイメージ位置情報を算出する演算手段と、複数の前記単位画像データを合成し、前記スキャン対象範囲の全体画像を生成する画像合成手段として、機能させるためのスキャンプログラムであっても良い。
 本発明によれば、過度な意識を必要としない操作性の高い光学端末装置及びスキャンプログラムを得ることができる。
第1の実施形態に係る光学端末装置の機能ブロック図である。 第1の実施形態に係る光学端末装置(マウススキャナ)構成図であって、(a)は上面図、(b)は側断面図である。 第1の実施形態に係る光学端末装置に用いられるセンサを説明するための図である。 画像の貼り付けについて説明するための図である。 第1の実施形態に係る光学端末装置の動作を示すフローチャートである。 第2の実施形態に係る光学端末装置の機能ブロック図である。 第3の実施形態に係る光学端末装置を含む機能ブロック図である。 第4の実施形態に係る光学端末装置を含む機能ブロック図である。 第5の実施形態に係る光学端末装置を含む機能ブロック図である。 従来のマウススキャナの構成図であり、(a)はその上面図、(b)はその底面図である。 従来の角度補正技術を説明するための図である。
 以下、図面を参照して、本発明の実施形態の光学端末装置及びスキャンプログラムについて説明する。
[1.第1の実施形態]
[1-1.構成]
 本実施形態の光学端末装置は、スキャン対象物におけるスキャン対象範囲の全体画像を取得するための装置である。当該装置は、カメラなどの撮像素子により対象範囲内の一部を撮影して単位画像データを取得し、当該単位画像データとそのイメージ位置情報とを一つのセットとする。また、イメージ位置情報に基づいて、単位画像データを貼り合わせる画像合成を行い、スキャン対象の全体画像を生成する。
 光学端末装置には、プログラムが記憶されたメモリ、及びCPUを含むマイコンが搭載され、プログラムをRAMに適宜展開し、CPUで処理することにより、位置情報の算出、その位置情報と単位画像データの関連付け、及び全体画像の生成などの処理を行う。
 光学端末装置の構成について、より詳細に説明する。本光学端末装置としては、スキャナ機能を有するマウススキャナ、スマートフォン、タブレットなどの端末装置が挙げられるが、本実施形態ではマウススキャナを例に説明する。
 図1は、本実施形態に係る光学端末装置の機能ブロック図である。図2(a)は、本実施形態に係る光学端末装置(マウススキャナ)の上面図、図2(b)はその側断面図である。
 図1及び図2に示すように、マウススキャナは、イメージキャプチャ部10と、位置情報取得部20と、画像処理部30とを備える。イメージキャプチャ部10は、撮像素子11を含み構成され、スキャン対象物におけるスキャン対象範囲内の各領域を撮影し、当該各領域の単位画像データを取得する。
 具体的には、撮像素子11は、CCDやCMOS等のカメラであり、マウススキャナの筐体の内部空間にマウススキャナの底面側に撮像面を向けて設けられており、図2に示すマウススキャナに設けられた取り込み開始ボタン13を押下することで、底面に設けられた透明な板12を介して紙面などスキャン対象物を撮像する。スキャン終了は、マウススキャナに設けられた取り込み終了ボタン14を押下する。
 なお、一つの取り込みボタンとしても良い。この場合、ボタン押下回数をカウントしておき、奇数番目を取り込み開始とし、偶数番目を取り込み終了としても良いし、スキャン開始及びスキャン中はボタンを押したままにし、終了時に離すようにしても良い。また、マウススキャナがスキャン対象物と密着しているかどうかを検出する近接センサを設けても良いし、撮像対象を照らすLED等のライトや、ミラー、レンズなどの光学系を設けても良い。
 位置情報取得部20は、イメージキャプチャ部10の高さに関する情報を検出し、単位画像データに対応するイメージ位置情報を取得する。イメージ位置情報とは、後述するように単位画像データを貼付ける際の単位画像データの座標や角度変化など、単位画像データに関する情報をいう。位置情報取得部20は、イメージキャプチャ部10の高さを含む位置及び姿勢に関する情報を検出するセンサ21と、当該センサ21が検出した情報に基づいて、単位画像データのイメージ位置情報を算出する演算部22と、を含み構成される。
 センサ21は、図2に示すように、本実施形態ではマウススキャナに内蔵され、イメージキャプチャ部10(撮像素子11)との相対位置関係が固定されてその背後に設けられている。撮像素子11との相対位置関係が固定であれば、マウススキャナの筐体外部に装着されていても良い。
 図3に示すように、このセンサ21は、6次元センサ(6軸センサ)であり、イメージキャプチャ部10の3次元加速度ax,ay,azを検出する加速度センサ21aと、イメージキャプチャ部10の3次元角速度ωx,ωy,ωzを検出する3次元ジャイロセンサとを有する。3次元ジャイロセンサは、3つのジャイロセンサ21b~21dからなり、ジャイロセンサ21b~21dが互いに直交するx、y、z軸にそれぞれ配備され、各軸周りの角速度を検出する。6次元センサは、3個の加速度センサと3個のジャイロセンサを直交するx軸、y軸、z軸にそれぞれ一つずつ設けて組み立てても良いし、3個の加速度センサと3個のジャイロセンサがパッケージ化された6軸センサを用いても良い。
 加速度センサ21a及びジャイロセンサ21b~21dとしては、MEMS(Micro Electro Mechanical System)技術を用いたもの等、種々の公知のものを用いることができる。その他、加速度センサ21aとしては、例えば、ピエゾ抵抗型、静電容量型及び圧電素子型のものが挙げられ、ジャイロセンサ21b~21dとしては、リング・レーザ・ジャイロ、光ファイバ・ジャイロが挙げられる。但し、これら列挙されたセンサに限定されない。
 演算部22は、主にCPUを含み構成され、加速度センサ21a及びジャイロセンサ21b~21dからの加速度又は角速度に基づいて、位置及び姿勢の変化量を含むイメージ位置情報を、積分などの演算により求める。これにより、例えば、前回撮影された単位画像データに対する今回撮影された単位画像データの相対位置、相対角度等を得ることができる。なお、前回分との相対位置、相対角度だけでなく、前々回など過去複数回分との相対位置、相対角度を求めても良い。演算部22により求められた角度や姿勢の変化量は、後述の画像合成処理において、画像合成する際の補正に用いることができる。このように、演算部22は、イメージキャプチャ部10の相対変位を算出し、当該相対変位を単位画像の変位とする。或いは、所定の関係に基づいて単位画像の変位を算出しても良い。演算部22により、3次元空間の相対位置をトレースすることができる。
 画像処理部30は、イメージキャプチャ部10と位置情報取得部20とに接続されており、イメージキャプチャ部10からは単位画像データが入力され、位置情報取得部20からは単位画像データのイメージ位置情報が入力される。
 画像処理部30は、イメージキャプチャ部10で得られた単位画像データと、位置情報取得部20で得られたイメージ位置情報とを関連付け、パッケージ単位画像データとする。ここにいう関連付けとは、単位画像データとこれに対応するイメージ位置情報とを1つのセットにする処理である。これにより、画像合成において、単位画像データの貼付け位置座標、角度補正等が関係づく。なお、この関連付けにおいては、対応関係が分かるように、イメージキャプチャ部10及び位置情報取得部20から各データ、情報が出力される際に順番情報を付加し、同じ順番のものを関連付ける。例えば、タイムスタンプを押す。
 また、本実施形態の光学端末装置であるマウススキャナは、画像処理部30からの複数のパッケージ単位画像データを合成処理し、スキャン対象範囲の全体画像を生成する画像合成部40を備える。画像合成部40は、パッケージ単位画像データに含まれるイメージ位置情報に基づいて、各パッケージ単位画像データを貼り合わせ、補正等の処理を行い、合成する。
 例えば、図4に示すように、水平に置かれた紙面D上をスキャンする場合において、マウススキャナMSを水平方向に斜め、且つ鉛直方向であるz軸周りに回転させながら移動させた場合、最初及びその次のパッケージ単位画像データI1、I2を貼り合わせる際、演算部22により当該次の単位画像データI2の貼り付け位置P2は、最初の貼り付け位置P1を例えば(0,0,0)とすると、その位置から水平方向の変化量(Δx、Δy、0)を移動させた位置であることが分かるので、両単位画像を貼り付けることができる。このとき、演算部22によりマウススキャナMSはz軸周りに角度θだけしていることが分かるため、その分貼り付けの際に角度補正も行う。
 なお、近接している単位画像データを貼り付ける場合には、画像の模様等を利用したパターンマッチングにより重複する一方の部分を削除するなどしても良い。単位画像データの合成は公知の手法を用いることができる。
 本実施形態のマウススキャナは、位置情報取得部20からのイメージ位置情報に基づいて、イメージキャプチャ部10の撮像を指令又は停止する制御部50を備える。すなわち、制御部50は、マウススキャナのスキャン対象物からの高さ変位が、所定の高さの変位範囲内にあるかを判定する判定部51と、判定部51が所定の高さ変位範囲内にあると判定した場合に撮像素子11に対して撮像命令を出力する撮像制御部52と、を有する。所定の高さ変位の範囲内の移動は、例えば、イメージキャプチャ部10の水平方向の移動が挙げられる。所定の高さ変位の範囲内とは、絶対的数値として予め設定しても良いし、高さの変遷から3次元空間におけるスキャン対象物が拡がる平面又は曲面を算出し、その平面又は曲面からの逸脱しない範囲として可変設定するようにしても良い。
[1-2.作用]
 本実施形態の光学端末装置であるマウススキャナの動作について、図5を用いて説明する。簡単のため、スキャン対象物は紙面とし、3次元座標において、水平面上に配置されているとする。すなわち、高さが一定であり、紙面上の任意の座標点は(x、y、0)で表すことができるものとする。
 スキャンは、マウススキャナの底面を紙面のスキャン対象範囲の所定領域にセットし、紙面に密着させた状態で取り込み開始ボタン13を押すことにより開始する(ステップS01)。次に、イメージキャプチャ部10により、当該所定領域の単位画像データを取得し(ステップS02)、当該単位画像データを貼り付ける(ステップS03)。この単位画像データの位置座標(x0,y0,0)を初期位置とする。
 ここで、取り込み終了ボタン14が押されたら(ステップS04のYes)、スキャンを終了する。一方、取り込み終了ボタン14が押されていない場合は(ステップS04のNo)、位置情報取得部20から位置情報を取得し(ステップS05)、判定部51により位置情報から高さ方向成分の移動、すなわち紙面に対して垂直方向成分の移動があったかを判定する(ステップS06)。垂直方向の移動がなかったと判定した場合は(ステップS06のNo)、判定部51により、水平方向の移動があったかを判定する(ステップS07)。水平方向の移動がなかった場合(ステップS07のNo)はステップS04に戻る。スキャン終了のユーザの意思を確認するためである。
 一方、水平方向の移動があった場合は(ステップS07のYes)、撮像制御部52から撮像指令を出力し、撮像素子11により、所定領域内を撮像し、単位画像データを取得する(ステップS08)。さらに、移動後の位置に単位画像を貼り付け(ステップS09)、ステップS04~S09の動作を繰り返す。垂直方向の移動があったと判定した場合は(ステップS06のYes)、マウススキャナが紙面から離れたことを意味する。この場合、判定部51は位置情報取得部20から位置情報取得を継続し(ステップS10)、高さが0となったかを判定する(ステップS11)。すなわち、高さが0となったと判定する場合は(ステップS11のYes)、マウススキャナの底面が紙面に密着していることを示す。この場合、ステップS07に進み、ステップS04に直接又は間接に進み、取り込み終了ボタンが押されたら(ステップS04のYes)、スキャンを終了する。
[1-3.効果]
(1)本実施形態の光学端末装置は、スキャン対象範囲の全体画像を取得するための光学端末装置であって、撮像素子11を含み構成され、スキャン対象範囲内の各領域を撮影し、前記各領域の単位画像データを取得するイメージキャプチャ部10と、単位画像データに対応するイメージ位置情報を取得する位置情報取得部20と、複数の前記単位画像データを合成し、前記スキャン対象範囲の全体画像を生成する画像合成部40を備え、位置情報取得部20は、装置本体に設けられ、加速度及び角速度を検出する6次元センサ21と、前記加速度及び前記角速度に基づいて、単位画像データのイメージ位置情報を算出する演算部22と、を有するようにした。
 これにより、6次元センサは、当該センサが設けられる位置に依らずにイメージキャプチャ部10の加速度及び角速度を検出できるので、操作性を向上させることができる。すなわち、従来の光学端末装置のように、2つの位置センサを離して設けることによる撮像範囲の制約を受けることがないので、スキャン対象物の端の方であってもスキャン可能であり、撮像範囲を気にする必要がなくなる。従って、ユーザが過度な意識をせずともよくなり、高い操作性を実現することができる。
(2)6次元センサ21は、イメージキャプチャ部10の背後に設けるようにした。これにより、センサ21による撮像素子11の撮影範囲に制約をなくすことができる。撮影範囲を広くとれるので、素早く所望の範囲の画像を得ることができる。
(3)演算部22は、前記角速度に基づいて、前記単位画像データの姿勢情報を算出するようにした。これにより、湾曲した2次元面上であっても、スキャン画像の取得が可能である。すなわち、湾曲した2次元面上の単位画像データをつなぎ合わせる合成処理を行うことで、立体表面の3次元データを取得することができる。たとえば、3次元球面をスキャンすることができ、3次元プリンタに用いられるような3次元データを簡単に取得することができる。
(4)撮像素子11の撮影を制御する制御部50を備え、演算部22は、イメージ位置情報の一つとして高さ変位を算出し、制御部50は、前記高さ変位が、所定の高さ変位の範囲内にあるかを判定する判定部51と、判定部51による判定結果に基づいて、撮像素子11の撮影を指令又は停止させる撮像制御部52と、を有するようにした。これにより、所定の高さ変位の範囲内にない場合には、撮像を停止するため、画像合成処理を簡略化することができる。また、スキャン対象物(例えばドキュメント面)から離れた画像が処理に使われないため、言い換えると精度の高い単位画像データのみを画像合成に使用できるので、精度の高い全体画像を得ることができる。
(5)イメージ位置情報と単位画像データとを関連付けてパッケージ単位画像データとする画像処理部30を備えるようにした。これにより、取得した画像とイメージ位置情報とのずれを防止でき、正確なスキャンを実現することができる。
[2.第2の実施形態]
[2-1.構成]
 第2の実施形態について、図6を用いて説明する。第2の実施形態は、第1の実施形態と基本構成は同じである。よって、第1の実施形態と異なる点のみを説明し、第1の実施形態と同じ部分については同じ符号を付して詳細な説明は省略する。
 図6は、第2の実施形態に係る光学端末装置の機能ブロック図である。図6に示すように、第2の実施形態は、制御部50が設けられていない代わりに、画像処理部30が判定部31を有する。
 すなわち、移動方向に基づいた撮像素子11の制御は行わず、撮像素子11は所定時間間隔で撮像する。画像処理部30の判定部31は、演算部22により算出されたパッケージ単位画像データのイメージ位置情報から、当該データを得るために撮像された時のイメージキャプチャ部10の高さ変位が所定の高さ変位の範囲内にあるかを判定する。
 判定部31は、当該範囲内になければ、そのパッケージ単位画像データを画像合成部40に出力しないようにする。例えば、そのデータを破棄する。これにより、高さが0の場合のマウススキャナが紙面に接している時の単位画像データのみを画像合成に用いることができるので、全体画像の精度を向上させることができる。
 本実施形態はマウススキャナに限らず、携帯電話、スマートフォン、タブレットなどの携帯端末の場合は、必ずしもスキャン対象物に密着させずに撮影しても良い。この場合、所定の高さ変位の範囲を設定し、当該範囲外にある単位画像データは画像合成処理に用いないようにしても良い。この所定の高さ変位範囲を絶対的な基準として予め10cm、3cm等と設定しても良いし、スキャン開始時の高さを記憶し、その高さを基準にし、高さの変遷から範囲を設定しても良い。
[2-2.作用効果]
 本実施形態では、演算部22は、イメージ位置情報の一つとして高さ変位を算出し、画像処理部30は、前記高さ変位が、所定の高さ変位の範囲内にあるかを判定する判定部31を有し、判定部31は、所定の高さの範囲内にないと判定したパッケージ単位画像データを破棄するようにした。これにより、スキャン対象物からマウススキャナが離れたかどうかが判別できる。すなわち、自動的に精度の低い単位画像を選別でき、精度の高い単位画像データにより画像合成を行えるので、操作性が高く、しかもスキャン対象範囲の得られる全体画像の精度を向上させることができる。
[3.第3の実施形態]
 第3の実施形態について、図7を用いて説明する。第3の実施形態は、第1の実施形態又は第2の実施形態に適用可能である。ここでは、基本構成は第2の実施形態と同じとする。よって、第2の実施形態と異なる点のみを説明し、第2の実施形態と同じ部分については同じ符号を付して詳細な説明は省略する。
 図7は、第3の実施形態に係る光学端末装置を含めた機能ブロック図である。第3の実施形態では、マウススキャナに画像合成部40が設けられておらず、代わりに画像処理部30に接続された出力部60を備える。出力部60は、外部のコンピュータやサーバとUSB又はBluetooth(登録商標)、インターネット回線など有線又は無線の通信手段で接続される。例えば、コンピュータに接続される場合、画像処理部30により生成されたパッケージ単位画像データをコンピュータに出力する。
 このコンピュータには画像合成部40が設けられる。すなわち、コンピュータのHDDやSSD等に記憶されたプログラムを実行させることによりコンピュータに画像合成部40としての機能を実現させて、スキャン対象範囲の全体画像の合成処理を行ってもよい。この場合は、マウススキャナに入力部70を設け、外部コンピュータで生成した全体画像の入力を受け、当該全体画像を表示部80に表示させる。
 表示部80の使用例としては、合成処理したスキャン画像を表示するようにしても良いし、スキャン中に得られた単位画像を表示させても良い。すなわち、リアルタイムで表示させることにより、スキャン対象範囲の画像が得られていないとユーザが判断すれば、即座にスキャンを中止し、やり直すことができる。或いは、コンピュータに接続されたディスプレイにスキャン実行中に単位画像又は全体画像を表示させても良い。なお、外部のコンピュータには、例えばパーソナルコンピュータ、スマートホン、タブレット端末などが含まれる。
[4.第4の実施形態]
 第4の実施形態について、図8を用いて説明する。第3の実施形態は、第1の実施形態又は第2の実施形態に適用可能である。ここでは、基本構成は第2の実施形態と同じとする。よって、第2の実施形態と異なる点のみを説明し、第2の実施形態と同じ部分については同じ符号を付して詳細な説明は省略する。
 図8は、第4の実施形態に係る光学端末装置を含む機能ブロック図である。第4の実施形態は、文字認識部90と、出力部60bが設けられている。文字認識部90は、画像合成部40から送られた全体画像から文字列を抽出し、文字データにする。出力部60bは、有線又は無線により外部のコンピュータやサーバと接続され、これらに文字データを出力する。
 本実施形態に係るマウススキャナは、ポインティング機能を備え、出力部60bにより外部コンピュータCと接続され、ポインティングデバイスとして使用できる。すなわち、外部コンピュータCに接続されたディスプレイDISを介して、マウスのカーソルPによって、文字データの出力先を指定することができる。
 例えば、書類に記載されたURLや不明な漢字など、キーボードで入力することが面倒又は不能である場合がある。このような場合であっても、マウススキャナに文字認識ソフトを搭載することで、書類に記載された文字列を読み取って文字データとし、当該文字データを、ディスプレイDISに表示されたワープロソフトや表計算ソフト、ブラウザの検索窓等の所定の入力先にコピーすることができる。なお、文字認識部90は、画像合成部40から送られた全体画像から文字列に代えて、バーコード、QRコードなどを認識する画像認識部として機能させるようにしても良い。
[5.第5の実施形態]
 第5の実施形態について、図9を用いて説明する。第5の実施形態は、第3の実施形態と第4の実施形態の組み合わせである。基本構成は第3の実施形態と同様であり、第3の実施形態と異なる点のみを説明し、第3の実施形態と同じ部分については同じ符号を付して詳細な説明は省略する。また、第4の実施形態と同じ部分についても同様に適宜説明を省略する。
 図9は、第5の実施形態に係る光学端末装置を含む機能ブロック図である。第5の実施形態では、第4の実施形態の画像合成及び文字認識は本光学端末装置で行わず、外部のコンピュータ又はサーバで行う。すなわち、本光学端末装置内の出力部60は、画像処理部30で生成したパッケージ単位画像データを外部のコンピュータ又はサーバに出力する。ここでは、出力部60に外部のコンピュータが接続されている。
 このコンピュータには画像合成部40、文字認識部90が設けられる。すなわち、コンピュータのHDDやSSD等に記憶されたプログラムを実行させることによりコンピュータに画像合成部40及び文字認識部90としての機能を実現させて、スキャン対象範囲の全体画像の合成処理と文字認識を行う。外部のコンピュータで得られた全体画像と文字データは、ディスプレイDISに表示される。なお、文字認識部90は、全体画像から文字列を抽出して文字データにしても良いし、パッケージ単位画像データから文字列を抽出し、文字データにしても良い。また、第4の実施形態と同様に、本実施形態に係るマウススキャナのポインタ機能により、所定の入力先に文字データを入力しても良い。また、当該ポインタ機能により、所定の入力先、例えば画像検索ソフトの検索窓に全体画像のデータを入力するようにしても良い。これにより、コンピュータに搭載された画像検索ソフトによって、画像検索することができる。
 以上のように、パッケージ単位画像データを外部に出力することで、本光学端末装置のCPU等の処理能力が低い場合であっても、比較的処理能力の高い外部のコンピュータ等で全体画像の生成及び文字認識を行うことができる。このため、パッケージ単位画像データのデータ量が多い場合であっても対応することができる。
[6.他の実施形態]
 本発明は、第1乃至第5の実施形態に限定されるものではなく、下記に示す他の実施形態も包含する。また、本発明は、第1乃至第5の実施形態及び下記の他の実施形態の少なくともいずれか2つを組み合わせた形態も包含する。
 第1乃至第5の実施形態では、高さに関する判定をz軸方向の座標のみでスキャン対象物から離れているかどうかを判定したが、スキャン対象物が平面ではなく、曲がっている場合には、z軸方向の座標だけでなく、他の軸周りの回転座標に基づいてスキャン対象物から離れたかどうかを判定しても良い。
 第1乃至第5の実施形態では、位置情報取得のセンサとして、6次元センサのみを用いたが、6次元センサに加えて光学センサを設けてもよい。
10      イメージキャプチャ部
11      撮像素子
12      透明な板
13      取り込み開始ボタン
14      取り込み終了ボタン
20      位置情報取得部
21      センサ(6次元センサ)
21a     3次元加速度センサ
21b~21d ジャイロセンサ
22      演算部
30      画像処理部
31      判定部
40      画像合成部
50      制御部
51      判定部
52      撮像制御部
60、60b  出力部
70      入力部
80      表示部
90      文字認識部
C       コンピュータ
D       紙面
DIS     ディスプレイ
MS      マウススキャナ
I1      最初のパッケージ単位画像データ
I2      次のパッケージ単位画像データ
P       マウスのカーソル
P1      最初のパッケージ単位画像データの貼り付け位置
P2      次のパッケージ単位画像データの貼り付け位置
Δθ      z軸周りの回転角

Claims (11)

  1.  スキャン対象範囲の全体画像を取得するための光学端末装置であって、
     撮像素子を含み構成され、前記スキャン対象範囲内の各領域を撮影し、前記各領域の単位画像データを取得するイメージキャプチャ部と、
     前記単位画像データに対応するイメージ位置情報を取得する位置情報取得部と、
     複数の前記単位画像データを合成し、前記スキャン対象範囲の全体画像を生成する画像合成部と、
     を備え、
     前記位置情報取得部は、
     装置本体に設けられ、加速度及び角速度を検出する6次元センサと、
     前記加速度及び前記角速度に基づいて、前記単位画像データのイメージ位置情報を算出する演算部と、を有すること、
     を特徴とする光学端末装置。
  2.  前記6次元センサは、前記イメージキャプチャ部の背後に設けられていること、
     を特徴とする請求項1に記載の光学端末装置。
  3.  前記演算部は、前記角速度に基づいて、前記単位画像データの姿勢情報を算出すること、
     を特徴とする請求項1又は2に記載の光学端末装置。
  4.  前記撮像素子の撮影を制御する制御部を備え、
     前記演算部は、前記イメージ位置情報の一つとして高さ変位を算出し、
     前記制御部は、前記高さ変位が、所定の高さ変位の範囲内にあるかを判定する判定部と、
     前記判定部による判定結果に基づいて、前記撮像素子の撮影を指令又は停止させる撮像制御部と、
     を有すること、
     を特徴とする請求項1~3の何れかに記載の光学端末装置。
  5.  前記演算部は、前記イメージ位置情報の一つとして高さ変位を算出し、
     前記画像処理部は、前記高さ変位が、所定の高さ変位の範囲内にあるかを判定する判定部を有し、
     前記判定部は、前記所定の高さ変位の範囲内にないと判定した前記単位画像データを破棄すること、
     を特徴とする請求項1~3の何れかに記載の光学端末装置。
  6.  前記イメージ位置情報と前記単位画像データとを関連付けてパッケージ単位画像データとする画像処理部を備えること、
     を特徴とする請求項1~5の何れかに記載の光学端末装置。
  7.  画像を表示させる表示部を備え、
     前記表示部は、スキャン実行中に単位画像又は前記全体画像を表示させること、
     を特徴とする請求項1~6の何れかに記載の光学端末装置。
  8.  スキャン対象範囲の全体画像を取得するための光学端末装置であって、
     撮像素子を含み構成され、前記スキャン対象範囲内の各領域を撮影し、前記各領域の単位画像データを取得するイメージキャプチャ部と、
     前記単位画像データに対応するイメージ位置情報を取得する位置情報取得部と、
     前記単位画像データ及び前記イメージ位置情報を出力する出力部と、
     ポインティング部と、
     を備え、
     前記位置情報取得部は、
     装置本体に設けられ、加速度及び角速度を検出する6次元センサと、
     前記加速度及び前記角速度に基づいて、前記単位画像データのイメージ位置情報を算出する演算部と、を有し、
     前記出力部は、外部のコンピュータ又はサーバに接続され、前記ポインティング部により指定された所定の場所に出力すること、
     を特徴とする光学端末装置。
  9.  撮像素子を含み構成され、スキャン対象範囲内の各領域を撮影し、前記各領域の単位画像データを取得するイメージキャプチャ部と、装置本体に設けられ、加速度及び角速度を検出する6次元センサと、コンピュータとを備えた光学端末装置上で実行されるスキャンプログラムであって、
     前記コンピュータを、
     前記加速度及び前記角速度に基づいて、前記単位画像データに対応するイメージ位置情報を算出する演算手段と、
     複数の前記単位画像データを合成し、前記スキャン対象範囲の全体画像を生成する画像合成手段として、機能させるためのスキャンプログラム。
  10.  前記コンピュータを、
     前記イメージ位置情報の一つとして高さ変位を算出する演算手段と、
     前記高さ変位が、所定の高さ変位の範囲内にあるかを判定する判定手段と、
     前記判定手段による判定結果に基づいて、前記撮像素子の撮影を指令又は停止させる撮像制御手段、
     として機能させること、
     を特徴とする請求項9に記載のスキャンプログラム。
  11.  前記コンピュータを、
     前記イメージ位置情報の一つとして高さ変位を算出する演算手段と、
     前記高さ変位が、所定の高さ変位の範囲内にあるかを判定する判定手段と、
     前記所定の高さ変位の範囲内にないと判定した前記単位画像データを破棄する破棄手段、
     として機能させること、
     を特徴とする請求項9に記載のスキャンプログラム。
PCT/JP2016/052895 2015-02-02 2016-02-01 光学端末装置及びスキャンプログラム WO2016125732A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US15/547,485 US20180018025A1 (en) 2015-02-02 2016-02-01 Optical terminal device and scan program
CN201680008054.XA CN107251538A (zh) 2015-02-02 2016-02-01 光学终端装置及扫描程序
EP16746563.2A EP3255870A4 (en) 2015-02-02 2016-02-01 Optical terminal device and scan program
JP2016573347A JP6245671B2 (ja) 2015-02-02 2016-02-01 光学端末装置及びスキャンプログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2015018891 2015-02-02
JP2015-018891 2015-02-02

Publications (1)

Publication Number Publication Date
WO2016125732A1 true WO2016125732A1 (ja) 2016-08-11

Family

ID=56564077

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2016/052895 WO2016125732A1 (ja) 2015-02-02 2016-02-01 光学端末装置及びスキャンプログラム

Country Status (5)

Country Link
US (1) US20180018025A1 (ja)
EP (1) EP3255870A4 (ja)
JP (2) JP6245671B2 (ja)
CN (1) CN107251538A (ja)
WO (1) WO2016125732A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3293654A1 (de) * 2016-09-08 2018-03-14 Schneider Electric Industries SAS Verfahren zur interaktion zwischen einem datenverarbeitungsgerät und einem mobilen gerät sowie anordnung zur durchführung des verfahrens

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003023530A (ja) * 2001-07-09 2003-01-24 Matsushita Electric Ind Co Ltd 画像処理装置
JP2007166465A (ja) * 2005-12-16 2007-06-28 Seiko Epson Corp 画像読取装置
JP2008146619A (ja) * 2006-12-12 2008-06-26 Ind Technol Res Inst 六軸の検知能力を具えた慣性の入力装置とその操作方法
JP2010153984A (ja) * 2008-12-24 2010-07-08 Seiko Epson Corp 原稿読み取り装置

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3177746B2 (ja) * 1991-03-20 2001-06-18 株式会社日立製作所 デ−タ処理システム及び方法
JPH09261520A (ja) * 1996-03-25 1997-10-03 Sharp Corp 画像入力装置
JPH09312739A (ja) * 1996-05-23 1997-12-02 Matsushita Electric Ind Co Ltd 画像読み取り装置
JP3655065B2 (ja) * 1997-08-20 2005-06-02 株式会社リコー 位置・姿勢検出装置と位置・姿勢検出方法と3次元形状復元装置及び3次元形状復元方法
JP3732335B2 (ja) * 1998-02-18 2006-01-05 株式会社リコー 画像入力装置及び画像入力方法
JP4007899B2 (ja) * 2002-11-07 2007-11-14 オリンパス株式会社 運動検出装置
KR100543701B1 (ko) * 2003-06-17 2006-01-20 삼성전자주식회사 공간형 입력 장치 및 방법
JP4479195B2 (ja) * 2003-09-02 2010-06-09 ソニー株式会社 光学式マウス及び情報装置システム
JP2007184694A (ja) * 2006-01-05 2007-07-19 Seiko Epson Corp 画像読取装置
DE102007060263A1 (de) * 2007-08-16 2009-02-26 Steinbichler Optotechnik Gmbh Vorrichtung zur Ermittlung der 3D-Koordinaten eines Objekts, insbesondere eines Zahns
JP5163409B2 (ja) * 2008-10-03 2013-03-13 ソニー株式会社 撮像装置、撮像方法、およびプログラム
JP4962460B2 (ja) * 2008-10-03 2012-06-27 ソニー株式会社 撮像装置、撮像方法、およびプログラム
US8384947B2 (en) * 2008-11-17 2013-02-26 Image Trends, Inc. Handheld scanner and system comprising same
JP2010136302A (ja) * 2008-12-08 2010-06-17 Sony Corp 撮像装置、撮像方法、およびプログラム
US8441696B2 (en) * 2009-05-20 2013-05-14 Dacuda Ag Continuous scanning with a handheld scanner
KR101027306B1 (ko) * 2009-12-14 2011-04-06 이명술 핸디 스캐너 장치 및 그 제어방법
JP4991887B2 (ja) * 2010-01-13 2012-08-01 シャープ株式会社 撮像画像処理システム、撮像画像処理システムの制御方法、プログラムおよび記録媒体
EP2400261A1 (de) * 2010-06-21 2011-12-28 Leica Geosystems AG Optisches Messverfahren und Messsystem zum Bestimmen von 3D-Koordinaten auf einer Messobjekt-Oberfläche
EP2656790A4 (en) * 2010-12-24 2017-07-05 Konica Minolta, Inc. Ultrasound image-generating apparatus and image-generating method
JP5780865B2 (ja) * 2011-07-14 2015-09-16 キヤノン株式会社 画像処理装置、撮像システム、画像処理システム
US9113053B2 (en) * 2012-08-10 2015-08-18 Lg Electronics Inc. Input apparatus and method for acquiring a scan image
CN102905079B (zh) * 2012-10-16 2015-08-19 小米科技有限责任公司 用于全景拍摄的方法、装置及移动终端
JP5769755B2 (ja) * 2013-04-24 2015-08-26 キヤノン株式会社 画像処理システム、画像処理装置及び画像処理方法
US9124734B2 (en) * 2013-07-05 2015-09-01 Lg Electronics Inc. Mouse having scanning function
CN103763470A (zh) * 2014-01-10 2014-04-30 重庆路威科技发展有限公司 一种便携式场景拍照装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003023530A (ja) * 2001-07-09 2003-01-24 Matsushita Electric Ind Co Ltd 画像処理装置
JP2007166465A (ja) * 2005-12-16 2007-06-28 Seiko Epson Corp 画像読取装置
JP2008146619A (ja) * 2006-12-12 2008-06-26 Ind Technol Res Inst 六軸の検知能力を具えた慣性の入力装置とその操作方法
JP2010153984A (ja) * 2008-12-24 2010-07-08 Seiko Epson Corp 原稿読み取り装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3255870A4 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3293654A1 (de) * 2016-09-08 2018-03-14 Schneider Electric Industries SAS Verfahren zur interaktion zwischen einem datenverarbeitungsgerät und einem mobilen gerät sowie anordnung zur durchführung des verfahrens
US10268851B2 (en) 2016-09-08 2019-04-23 Schneider Electric Industries Sas Method for interaction between a data processing device and a mobile device, and arrangement for carrying out the method

Also Published As

Publication number Publication date
US20180018025A1 (en) 2018-01-18
EP3255870A4 (en) 2018-09-12
JPWO2016125732A1 (ja) 2017-06-08
CN107251538A (zh) 2017-10-13
EP3255870A1 (en) 2017-12-13
JP6891094B2 (ja) 2021-06-18
JP2018057010A (ja) 2018-04-05
JP6245671B2 (ja) 2017-12-13

Similar Documents

Publication Publication Date Title
US10225428B2 (en) Image processing for handheld scanner
US8339467B2 (en) Synchronization of navigation and image information for handheld scanner
EP2571257B1 (en) Projector device and operation detecting method
US8582182B2 (en) Automatic sizing of images acquired by a handheld scanner
KR102472156B1 (ko) 전자 장치 및 그 깊이 정보 생성 방법
KR20180121259A (ko) 카메라 탑재형 컴퓨터의 거리검출장치 및 그 방법
JP2013207344A (ja) 検出装置、撮像装置、及びプログラム
TW201225641A (en) Imaging inspection device of 3D camera module and imaging inspection method, imaging inspection control program, imaging correction method, imaging correction control program, readable recording medium, and electronic information apparatus thereof
JP2017117373A (ja) 操作装置とその制御方法、及びプログラム
JP6746419B2 (ja) 情報処理装置、及びその制御方法ならびにコンピュータプログラム
JP6245671B2 (ja) 光学端末装置及びスキャンプログラム
JP6687103B2 (ja) 画像処理システム、画像処理方法及びプログラム
WO2018167971A1 (ja) 画像処理装置、制御方法及び制御プログラム
US11400363B2 (en) Information processing apparatus, information processing system, controller device, information processing method, and program
US10116809B2 (en) Image processing apparatus, control method, and computer-readable storage medium, which obtains calibration image information with which to correct image data
KR20170059889A (ko) 전자 장치 및 이의 제어 방법
JP5939469B2 (ja) 閲覧装置及び閲覧システム
JP2017067737A (ja) 寸法計測装置、寸法計測方法およびプログラム
WO2018209902A1 (zh) 操作动作在显示屏上的执行方法和操作动作执行装置
JP6614500B2 (ja) 画像読取装置、携帯端末、画像読取方法及び画像読取プログラム
JP6679430B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
EP3383025A1 (en) Device and method for generating super resolution photos
JP6624861B2 (ja) 画像処理装置、制御方法およびプログラム
JP6514889B2 (ja) 情報処理装置、情報処理プログラム、情報処理システム、および情報処理方法
JP2017033389A (ja) 画像処理装置、画像読取方法、コンピュータプログラム、及び記憶媒体

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16746563

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2016573347

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 15547485

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

REEP Request for entry into the european phase

Ref document number: 2016746563

Country of ref document: EP