WO2021010038A1 - 情報表示装置、方法及びプログラム - Google Patents

情報表示装置、方法及びプログラム Download PDF

Info

Publication number
WO2021010038A1
WO2021010038A1 PCT/JP2020/021598 JP2020021598W WO2021010038A1 WO 2021010038 A1 WO2021010038 A1 WO 2021010038A1 JP 2020021598 W JP2020021598 W JP 2020021598W WO 2021010038 A1 WO2021010038 A1 WO 2021010038A1
Authority
WO
WIPO (PCT)
Prior art keywords
display
unit
dimensional model
information
management
Prior art date
Application number
PCT/JP2020/021598
Other languages
English (en)
French (fr)
Inventor
與那覇 誠
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to JP2021532715A priority Critical patent/JP7413383B2/ja
Publication of WO2021010038A1 publication Critical patent/WO2021010038A1/ja
Priority to US17/572,704 priority patent/US20220130030A1/en
Priority to JP2023189514A priority patent/JP2024012527A/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/04Texture mapping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/9515Objects of complex shape, e.g. examined with use of a surface follower device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2016Rotation, translation, scaling

Definitions

  • the present invention relates to an information display device, a method and a program, and particularly to a technique for supporting inspection of a structure.
  • Structures such as bridges need to be inspected regularly in order to maintain and repair the structures.
  • the inspection of the structure is carried out in units of the management division of the structure, and the degree of damage is evaluated and the appearance property is recorded for each management division according to the inspection evaluation standard set by the national government and local governments.
  • Patent Document 1 an image processing method has been proposed that makes it possible to easily list information associated with a position specified on a three-dimensional model of a target object such as a structure.
  • Patent Document 1 generates a three-dimensional model of a target object from a plurality of captured images (two-dimensional images) obtained by photographing the target object, and generates a three-dimensional mesh that approximates the three-dimensional model. Then, a two-dimensional development view (panoramic image) of each partial plane of the generated three-dimensional mesh is generated.
  • a panoramic image selected by the user as a viewing target among the panoramic images for each partial plane of the three-dimensional mesh is displayed in the panoramic image display area of the display unit, and the panoramic image is specified by the user.
  • An inspection image (photographed image) corresponding to the designated position is displayed in the inspection image display area of the display unit, and contents such as a crack image are superimposed and displayed on the inspection image as an annotation.
  • the image processing method described in Patent Document 1 generates a panoramic image of each partial plane of the three-dimensional mesh from a three-dimensional mesh representing the surface of an object object such as a structure, and appropriately selects from the panoramic images of each partial plane.
  • the panoramic image is displayed in the panoramic image display area of the display unit, and the captured image, which is an inspection image corresponding to the position specified on the panoramic image, is displayed in the inspection image display area of the display unit and is displayed three-dimensionally. It does not display the inspection image corresponding to the position specified on the 3D model.
  • the inspection image is a photographed image or an annotation such as a cracked image superimposed on the photographed image, and is not management information for each management category of the structure.
  • the present invention has been made in view of such circumstances, and an information display device, a method, and a program capable of easily confirming management information for each management category of a structure by using a three-dimensional model of the structure.
  • the purpose is to provide.
  • the information display device is stored in a storage unit that stores a three-dimensional model of the structure and management information for each management category of the structure, and a storage unit.
  • the first operation unit that accepts a view operation including at least enlargement of the 3D model to be displayed on the display unit, and the 3D model stored in the storage unit are read out and displayed on the display unit.
  • a first display control unit that displays and at least enlarges the 3D model based on the view operation, and a second operation that receives position information indicating the position on the 3D model that is enlarged and displayed on the display unit according to the user operation.
  • the management category identification unit that specifies the 3D position on the 3D model based on the department and the received position information and specifies the management category including the specified 3D position, and the management information corresponding to the specified management category. Is provided from the storage unit, and a second display control unit is provided which displays the read management information on the display unit.
  • a desired position of the structure can be obtained while looking down at the structure. Can be easily specified.
  • the desired position of the structure is specified, the three-dimensional position on the three-dimensional model corresponding to the position is specified, and the management division of the structure including the specified three-dimensional position is specified.
  • the management category of the structure is specified, the desired management information can be easily confirmed by reading the management information corresponding to the specified management category from the storage unit and displaying it on the display unit.
  • the management information includes an ortho image corresponding to the management classification of the structure, an ortho image on which damage information is superimposed, a damage diagram, a damage quantity table, a repair diagram, and a repair quantity. It is preferably 1 or more in the table.
  • the management classification is the classification of the inspection unit of the parts and members constituting the structure.
  • the first operation unit accepts a view operation for enlarging, reducing, translating, or rotating the three-dimensional model to be displayed on the display unit, and the first display control unit. Is preferably to enlarge, reduce, translate, or rotate the three-dimensional model to be displayed on the display unit based on the view operation received by the first operation unit.
  • the three-dimensional model is represented by a three-dimensional point group consisting of three-dimensional information of a large number of points on the surface of the structure, and is based on the three-dimensional point group. It is a collection of polygonal polygons representing the surface of the structure, or a texture-mapped image of the structure photographed on the polygonal polygons.
  • the first display control unit superimposes an index on the position indicated by the position information received by the second operation unit on the three-dimensional model enlarged and displayed on the display unit. It is preferable to display it.
  • the first display control unit displays the three-dimensional model in the first display area of the display unit
  • the second display control unit displays the second display area of the display unit. It is preferable to display the management information on the screen.
  • the information display device may include a display switching unit that switches between the display of the three-dimensional model by the first display control unit and the display of management information by the second display control unit. preferable.
  • the information display method includes a step of preparing a storage unit for storing a three-dimensional model of the structure and management information for each management division of the structure, and a three-dimensional storage unit stored in the storage unit.
  • the first operation unit accepts a view operation including at least enlargement of the three-dimensional model to be displayed on the display unit, and the first display control unit stores the three-dimensional model in the storage unit.
  • the first display step of reading out and displaying on the display unit the first display step of at least enlarging and displaying the three-dimensional model based on the view operation received by the first operation unit, and the second operation unit are user operations.
  • the step of specifying the three-dimensional position and specifying the management division including the specified three-dimensional position, and the second display control unit reads the management information corresponding to the specified management division from the storage unit and reads the read management information. Includes a second display step to be displayed on the display unit.
  • the management information includes an ortho image corresponding to the management classification of the structure, an ortho image on which damage information is superimposed, a damage diagram, a damage quantity table, a repair diagram, and repair. It is preferably 1 or more in the quantity table.
  • the management classification is a classification of inspection units of parts and members constituting the structure.
  • the step of accepting the view operation accepts the view operation of enlarging, reducing, translating, or rotating the three-dimensional model to be displayed on the display unit, and the first display step. Is preferably to enlarge, reduce, translate, or rotate the three-dimensional model to be displayed on the display unit based on the view operation received by the first operation unit.
  • the three-dimensional model is represented by a three-dimensional point group consisting of three-dimensional information of a large number of points on the surface of the structure, and is based on the three-dimensional point group. It is a collection of polygonal polygons representing the surface of the structure, or a texture-mapped image of the structure photographed on the polygonal polygons.
  • the invention according to still another aspect is an information display program installed in a computer that can access a storage unit that stores a three-dimensional model of the structure and management information for each management division of the structure, and is stored in the storage unit.
  • the function of accepting the view operation including at least enlargement of the 3D model to be displayed on the display unit and the function of reading the 3D model stored in the storage unit and displaying it on the display unit.
  • the function of specifying the 3D position on the 3D model based on the above and specifying the management category including the specified 3D position, and the management information corresponding to the specified management category are read from the storage unit and the read management information. It is an information display program that realizes a function to display on the display unit and a computer.
  • the invention according to still another aspect is a case where a storage unit that stores a three-dimensional model of the structure and management information for each management category of the structure and a three-dimensional model stored in the storage unit are displayed on the display unit.
  • the position information indicating the position on the 3D model enlarged and displayed on the display unit according to the user operation is received, the 3D position on the 3D model is specified based on the received position information, and the specified 3D position is specified.
  • the present invention by displaying a three-dimensional model of a structure on a display unit and performing a view operation for magnifying and displaying at least the three-dimensional model, it is easy to obtain a desired position of the structure while looking down at the structure.
  • the management division of the structure including the 3D position on the 3D model corresponding to the position is specified, and the management division corresponding to the specified management division is specified.
  • FIG. 1 is a block diagram showing an example of the hardware configuration of the information display device according to the present invention.
  • FIG. 2 is a flowchart showing an embodiment of the information display method according to the present invention.
  • FIG. 3 is a diagram showing an example of a screen of a display unit on which a three-dimensional model showing a panoramic view of the bridge is displayed.
  • FIG. 4 is a diagram showing an example of a screen of a display unit displaying a three-dimensional model of a bridge that has been three-dimensionally moved by a view operation such as enlargement.
  • FIG. 5 is a diagram showing an example of an ortho image corresponding to a coffer, which is one of the management divisions of a bridge.
  • FIG. 6 is a diagram showing an example of a damage diagram corresponding to a coffer.
  • FIG. 7 is a diagram showing an example of an ortho image on which a damage diagram corresponding to a coffer is superimposed.
  • FIG. 8 is a chart showing an example of the damage quantity table corresponding to the coffer.
  • FIG. 9 is a diagram showing an example of a repair diagram corresponding to the coffer.
  • FIG. 10 is a chart showing an example of the repair quantity table corresponding to the coffer.
  • FIG. 11 is a diagram showing an example of a screen of the display unit in which the three-dimensional model and the management information are displayed at the same time.
  • FIG. 1 is a block diagram showing an example of the hardware configuration of the information display device according to the present invention.
  • the information display device 10 shown in FIG. 1 a personal computer or a workstation can be used.
  • the information display device 10 of this example mainly includes an image acquisition unit 12, an image database 14, a storage unit 16, an operation unit 18, a CPU (Central Processing Unit) 20, a RAM (Random Access Memory) 22, and a ROM. It is composed of (Read Only Memory) 24 and a display control unit 26.
  • the image acquisition unit 12 corresponds to an input / output interface, and in this example, acquires a photographed image or the like of a structure to be inspected.
  • the structures to be inspected include, for example, structures such as bridges and tunnels.
  • the image acquired by the image acquisition unit 12 is, for example, a large number of images (photographed image group) obtained by photographing a structure with a drone (unmanned aerial vehicle) equipped with a camera. It is preferable that the captured image group covers the entire structure, and the adjacent captured images have overlapping images within a range of about 80%.
  • the captured image group acquired by the image acquisition unit 12 is stored in the image database 14.
  • the storage unit 16 is a storage unit composed of a hard disk device, a flash memory, etc., and includes an operating system, an information display program, a three-dimensional model of a structure, management information for each management division of the structure, and a three-dimensional model. Stores information associated with management information.
  • the three-dimensional model extracts feature points between the captured images that overlap each other in the captured image group stored in the image database 14, and based on the extracted feature points, the position of the camera mounted on the drone and the position of the camera mounted on the drone.
  • Structure from Motion which tracks the movement of many feature points from a group of captured images in which the shooting position of the camera is moved by the drone, and simultaneously estimates the three-dimensional structure (Structure) and camera posture (Motion) of the structure.
  • SfM three-dimensional structure
  • bundle adjustment has been developed, and it has become possible to output with high accuracy.
  • the absolute scale cannot be obtained by the SfM method, for example, the absolute scale (three-dimensional position) can be obtained by instructing a known size (distance between two points, etc.) of the structure. You can ask.
  • the three-dimensional model is represented by a three-dimensional point cloud of a large number of points on the surface of the structure, and is a structure consisting of a collection of polygonal polygons (for example, a triangular patch) based on the three-dimensional point cloud. It is conceivable that the surface of the object is represented, or a photographed image (texture) obtained by photographing a structure on a polygonal polygon is texture-mapped. In the three-dimensional model of the structure of this example, it is assumed that the captured image is texture-mapped to the polygon of the polygon.
  • FIG. 4 shows an example of the screen 30A of the display unit 30 on which (a part of) the three-dimensional model of the bridge 1 is displayed.
  • the bridge 1 displayed on the screen 30A is provided with the main girder 2 passed between the piers 7 and the cross girder 3 provided in the direction orthogonal to the main girder 2 and connecting the main girders, wind, earthquake, etc. It is composed of various members including an anti-tilt structure 4 and a horizontal structure 5 that connect the main girders 2 to each other in order to resist the lateral load of the above.
  • a floor slab 6 for vehicles and the like is placed on the upper part of the main girder and the like.
  • the floor slab 6 is generally made of reinforced concrete.
  • the basic unit of the floor slab 6 is usually a rectangular coffer defined by the main girder 2 and the cross girder 3, and when inspecting damage to the floor slab (cracks, concrete peeling, etc.), the coffer It is done in units of intervals.
  • each coffer of the floor slab is one of the management divisions of the inspection unit of the parts and members that make up the structure (bridge).
  • the parts / members that make up the structure that can be the management division of the bridge are the parts / members that make up the structure (main girder 2, horizontal girder 3, anti-tilt structure 4). , Horizontal structure 5, bridge pier 7 (column / wall, beam, corner / joint), etc.
  • the management information for each management category of the structure stored in the storage unit 16 includes an ortho image corresponding to the management category of the structure, an ortho image on which damage information is superimposed, a damage diagram, a damage quantity table, and a repair diagram. Alternatively, a repair quantity table or the like can be considered. These management information were created when the structure was inspected or repaired, and the details will be described later.
  • the operation unit 18 includes a UI (User Interface) such as a keyboard and a mouse that are connected to the computer by wire or wirelessly.
  • a UI User Interface
  • the keyboard, mouse, and the like function as an operation unit that accepts normal operation input of the computer, and also receives a view operation including at least enlargement of the three-dimensional model displayed on the screen of the display unit 30. It functions as a unit, and also functions as a second operation unit that receives position information indicating a position on a three-dimensional model enlarged and displayed on the display unit 30 according to a user operation.
  • the CPU 20 receives inputs from the first operation unit and the second operation unit, and performs various processes. Specifically, the CPU 20 reads various programs stored in the storage unit 16 or the ROM 24 or the like, controls each unit in an integrated manner, and executes various processes such as a process of generating a three-dimensional model and management information. Further, the CPU 20 functions as a management division specifying unit that specifies the management division of the structure as described later.
  • the RAM 22 is used as a work area of the CPU 20, and is used as a storage unit for temporarily storing the read program and various data.
  • the display control unit 26 is composed of a GPU (Graphics Processing Unit) or the like, creates display data to be displayed on the display unit 30, and outputs the display data to the display unit 30.
  • the display control unit 26 reads out the three-dimensional model stored in the storage unit 16 and causes the display unit 30 to display an image showing the three-dimensional model, and based on the view operation of the three-dimensional model by the operation unit 18, 3 It functions as a first display control unit that at least enlarges the dimensional model. Further, it functions as a second display control unit that reads out the management information corresponding to the management division specified by the management division specifying unit (CPU 20) from the storage unit 16 and displays the read management information on the display unit 30.
  • the display control unit 26 may be realized by the CPU 20 instead of the GPU described above.
  • Various monitors such as a liquid crystal monitor that can be connected to a computer are used for the display unit 30, and various information such as a three-dimensional model and management information are displayed and operated by display data input from the display control unit 26. Used as part of the user interface with section 18.
  • the CPU 20 reads the program stored in the storage unit 16 or the ROM 24 by inputting an instruction from the operation unit 18, and executes the program, so that various types of information display devices 10 can be operated according to the operation by the operation unit 18. Information is displayed on the display unit 30.
  • FIG. 2 is a flowchart showing an embodiment of the information display method according to the present invention.
  • FIG. 2 the information display method according to the present invention will be described while explaining the operation of each part of the information display device 10 shown in FIG.
  • the storage unit 16 of the information display device 10 stores a three-dimensional model of the structure (bridge in this example) and management information for each management category of the structure.
  • the storage unit 16 is prepared in advance.
  • the display control unit 26 of the information display device 10 first reads out the three-dimensional model stored in the storage unit 16 and displays the three-dimensional model on the display unit 30 (step S10, first display step).
  • the display control unit 26 first displays the three-dimensional model on the display unit 30
  • the display control unit 26 shows a panoramic view of the bridge so that the entire bridge 1 which is a structure can be grasped as shown in FIG.
  • the dimensional model is displayed on the screen 30A of the display unit 30.
  • the CPU 20 or the display control unit 26 determines whether or not a view operation including at least enlargement has been performed on the three-dimensional model displayed on the screen 30A by the user (step S12).
  • the view operation is an operation for enlarging, reducing, translating, or rotating a three-dimensional model expressed in 3D (three dimensions) on the screen 30A, and the operation unit 18 functioning as the first operation unit is displayed.
  • a 3D mouse is suitable as the first operation unit that accepts the user's view operation, but a normal mouse or the like can also be used.
  • step S12 When it is determined in step S12 that the view operation has been performed (in the case of "Yes"), the CPU 20 or the display control unit 26 either causes the view operation to enlarge or reduce the three-dimensional model, or translates the three-dimensional model. It is determined whether the operation is to make the operation or the operation to rotate (step S14, step S16).
  • the display control unit 26 functioning as the first display control unit expands the three-dimensional model in response to an instruction for enlargement or reduction by the view operation.
  • display data to be reduced is created and output to the display unit 30 (step S18).
  • the display control unit 26 creates display data for moving the three-dimensional model in parallel in response to an instruction for translation by the view operation.
  • step S20 Output to the display unit 30 (step S20), and when the operation unit 18 performs a view operation for rotating and moving the three-dimensional model, the display unit rotates and moves the three-dimensional model in response to an instruction for rotational movement by the view operation. Data is created and output to the display unit 30 (step S22).
  • step S12 when it is determined that the view operation has not been performed (in the case of "No"), or when the processing of steps S18, S20, and S22 is completed, the transition to step S23 is performed.
  • step S23 the CPU 20 determines whether or not there is an instruction input for the end of the information display from the operation unit 18, and if there is no instruction input for the end (in the case of "No"), the process proceeds to step S24. If there is an end instruction input (in the case of "Yes"), the process related to this information display is terminated.
  • the CPU 20 determines whether or not the position information indicating the position on the three-dimensional model enlarged and displayed on the display unit 30 has been received in response to the user operation on the operation unit 18 functioning as the second operation unit. (Step S24).
  • step S10 If the position information indicating the position on the 3D model is not accepted (in the case of "No"), the process proceeds to step S10, and the display control unit 26 continues to display the 3D model on the display unit 30.
  • the view operation is performed, and the display data for enlarging or reducing the three-dimensional model or the display data for rotating the three-dimensional model or the display data for rotating the three-dimensional model in steps S18, S20 or S22 is obtained.
  • a three-dimensional model that has been enlarged / reduced, parallel-moved, or rotated (three-dimensionally moved) is displayed on the display unit 30 based on the latest display data.
  • FIG. 4 is a diagram showing an example of the screen 30A of the display unit 30 displaying a three-dimensional model of a bridge that has been three-dimensionally moved by a view operation such as enlargement.
  • the three-dimensional model of the bridge 1 to be displayed on the screen 30A of the display unit 30 by the user's view operation is enlarged and moved as shown in FIG. 4 from the three-dimensional model showing the entire view of the bridge 1 shown in FIG. And it is possible to transition to a rotated 3D model.
  • the view operation is performed in order to make it easier to see the points requiring inspection while grasping the space of the entire bridge with the three-dimensional model.
  • 32 is a cursor indicating an input position of the display unit 30 on the screen 30A, and the cursor 32 can be moved on the screen 30A by operating the operation unit 18 (pointing device such as a mouse).
  • operation unit 18 pointing device such as a mouse
  • the user wants to confirm the management information of the desired management division of the bridge, the user moves the three-dimensional model three-dimensionally while grasping the entire bridge in space with the three-dimensional model, and displays the desired management division on the screen 30A of the display unit 30. Search with. Then, on the screen 30A of the display unit 30, the cursor 32 is moved within the desired management category, and a click operation with the mouse or an input operation with the execution key is performed. As a result, the operation unit 18 can specify the position on the three-dimensional model displayed on the screen 30A of the display unit 30, and can receive the position information indicating the designated position.
  • the position of the cursor 32 is located within a specific coffer (management division) included in the floor slab 6 of the bridge 1.
  • the display control unit 26 functioning as the first display control unit sets an index 34 on the three-dimensional model indicating that the selection instruction of the desired management category has been performed. It is preferable to superimpose the display on the position indicated by the cursor 32.
  • step S24 when it is determined in step S24 that the position information indicating the position on the three-dimensional model enlarged and displayed on the display unit 30 has been received (in the case of “Yes”), the process proceeds to step S26.
  • the management division specifying unit specifies the three-dimensional position on the three-dimensional model based on the position information of the position indicated by the cursor 32 on the screen 30A (displayed on the three-dimensional model) of the display unit 30.
  • the position information of the position indicated by the cursor 32 on the screen 30A of the display unit 30 can be acquired as the coordinate information on the screen 30A.
  • the three-dimensional model displayed on the screen 30A of the display unit 30 is enlarged, translated, and rotated by the view operation.
  • the three-dimensional position on the three-dimensional model can be specified by the information on the amount of rotational movement.
  • the management classification identification unit specifies the management classification of the bridge including the 3D position based on the specified 3D position on the 3D model.
  • each management category has three-dimensional information for each management category.
  • the 3D information for each management category is, for example, a 3D point cloud on the management category (part, member), or a feature point of the management category (for example, in the case of a coffer, four feature points at the four corners of the coffer). ) Can be three-dimensional information.
  • the management division identification unit manages the management division having the same or closest 3D information as the 3D position of the bridge including the 3D position. It can be specified as a category.
  • the display control unit 26 functioning as the second display control unit reads the management information corresponding to the specified management division from the storage unit 16, and the read management information. Is displayed on the display unit 30 (step S28, second display step).
  • the management information of the management category specified by the instructed position can be displayed on the display unit 30.
  • Desired management information can be easily confirmed.
  • the CPU 20 functioning as the display switching unit switches the function of the display control unit 26 from the first display control unit to the second display control unit when the display unit 30 displays the management information.
  • the display switching from the three-dimensional model to the management information by the display switching unit can be automatically switched when the management division of the bridge is specified and the management information corresponding to the specified management division can be displayed.
  • an ortho image corresponding to coffers can be considered.
  • FIG. 5 is a diagram showing an example of an ortho image corresponding to the coffer of the bridge.
  • the ortho image is an image obtained by projecting a photographed image of the subject (coffer) onto the surface of the coffer.
  • the ortho image of one case is an image obtained by extracting a plurality of captured images corresponding to the captured image from a group of captured images stored in the image database 14, panoramic combining the extracted plurality of captured images, and panoramic combining the images.
  • it can be created by projecting and transforming the panoramic composite image so that the image is projected normally on the surface of the space.
  • panorama composition of a plurality of captured images can be performed by image processing in which a plurality of feature points in an overlapping region between captured images that overlap each other are extracted and the extracted plurality of feature points are matched with each other.
  • the normal projection of the panoramic composite image on the coffer surface is a projection that matches the positions corresponding to the four corners of the coffer in the panoramic composite image with the three-dimensional positions of the four corners of the coffer. It can be done by conversion.
  • the 3D model of this example is a texture-mapped image of a captured image on a polygon
  • the surface properties of the bridge (coffer) can be confirmed to some extent by enlarging the 3D model. be able to.
  • small damage for example, cracks with a width of 0.1 mm
  • a damage diagram corresponding to coffers can be considered.
  • FIG. 6 is a diagram showing an example of a damage diagram corresponding to a coffer.
  • the damage diagram shown in FIG. 6 five cracks C1 to C5 and concrete peeling H1 are shown.
  • the damage diagram should be generated by manually tracing the damage such as cracks and peeling visually recognized on the ortho image, or performing image processing to automatically detect the damage from the ortho image and manually correcting it if necessary. Can be done.
  • an ortho image in which a damage diagram corresponding to coffers is superimposed can be considered.
  • FIG. 7 is a diagram showing an example of an ortho image on which a damage diagram corresponding to a coffer is superimposed.
  • the ortho image on which the damage diagram shown in FIG. 7 is superimposed can be created by superimposing the damage diagram shown in FIG. 6 on the ortho image shown in FIG.
  • the damage diagram is created with the damaged part colored in a conspicuous color such as red, and the damaged part can be easily visually recognized by superimposing the damage diagram on the ortho image.
  • a damage quantity table corresponding to coffers can be considered.
  • FIG. 8 is a chart showing an example of the damage quantity table corresponding to the coffer.
  • the damage quantity table shown in FIG. 8 has items of damage ID (identification), damage type, size (width), size (length), and size (area), and information corresponding to each item is described for each damage. Has been done.
  • a repair diagram corresponding to coffers can be considered.
  • FIG. 9 is a diagram showing an example of a repair diagram corresponding to the coffer.
  • FIG. 9 two crack repair works A1 and A2 and a cross-section repair work D1 are shown.
  • the crack repair works A1 and A2 show the repair work for the cracks C2 and C5 shown in FIG. 6, and the cross-section repair work D1 shows the repair work for the concrete peeling H1 shown in FIG.
  • the repair result of the coffer can be confirmed by displaying the repair diagram of the coffer as the management information of the coffer.
  • a repair quantity table corresponding to coffers can be considered.
  • FIG. 10 is a chart showing an example of the repair quantity table corresponding to the coffer.
  • the repair quantity table shown in FIG. 10 has items of repair ID, repair method type, size (width), size (length), and size (area), and information corresponding to each item is described for each repair location. ing.
  • the crack repair work includes a crack filling work in which concrete is cut along the crack and the repair material is filled in the part, and a crack injection work in which the repair material is injected at a predetermined injection pressure using a special jig. There is.
  • a crack filling work in which concrete is cut along the crack and the repair material is filled in the part
  • a crack injection work in which the repair material is injected at a predetermined injection pressure using a special jig. There is.
  • the repair method type which method was applied as the crack repair work is described.
  • the cross-section repair work includes a formwork injection method in which a formwork is installed and an injection material is injected, a plastering method in which the cross-section repair material is applied, and a spraying method in which the cross-section repair material is sprayed using compressed air.
  • the type of construction method describes which construction method was applied as the cross-section restoration work.
  • the management information of the first to sixth examples shown in FIGS. 5 to 10 can be displayed on the screen 30A of the display unit 30 in combination of any one or two or more, and any management information can be displayed. The user may appropriately select whether to display the information. Furthermore, the management information is not limited to the above, for example, “cause of damage”, “evaluation of damage”, “event caused by damage” (for example, water leakage, rust juice, free lime, rebar exposure, etc.). Can be used as management information.
  • the CPU 20 subsequently determines whether or not to switch the display on the display unit 30 from the management information to the three-dimensional model (step S30).
  • the determination of switching from the management information to the three-dimensional model can be performed based on the user operation on the operation unit 18. For example, when the user wants to confirm the management information of different management categories, the operation unit 18 can perform an operation of switching from the management information to the three-dimensional model.
  • step S30 when switching from the management information to the display of the three-dimensional model (in the case of "Yes"), the CPU 20 transitions to step S10.
  • the display unit 30 can display a three-dimensional model showing the entire view of the bridge.
  • the CPU 20, which functions as a display switching unit, can switch the function of the display control unit 26 from the second display control unit to the first display control unit when the display unit 30 displays the three-dimensional model.
  • the CPU 20 may transition to step S12 when switching from the management information to the display of the three-dimensional model (in the case of "Yes"). This makes it possible to display the latest 3D model when the display is switched from the 3D model to the management information, which is suitable when it is desired to confirm the management information of the management category close to the previous management category.
  • step S30 determines whether the display is not switched from the management information to the three-dimensional model (in the case of "No). If it is determined in step S30 that the display is not switched from the management information to the three-dimensional model (in the case of "No"), the process proceeds to step S32.
  • step S32 the CPU 20 determines whether or not there is an instruction input for the end of this information display from the operation unit 18, and if there is no instruction input for the end (in the case of "No"), the CPU 20 returns to step S28 and continues to manage. The information is displayed on the display unit 30. On the other hand, if there is an end instruction input (in the case of "Yes"), the process related to this information display is terminated.
  • the display of the 3D model on the display unit 30 and the display of the management information are switched based on the user operation or the like, but the 3D model and the management information are displayed on the display unit 30 at the same time. You may.
  • FIG. 11 is a diagram showing an example of the screen 30A of the display unit 30 in which the three-dimensional model and the management information are displayed at the same time.
  • the three-dimensional model is displayed in the first display area 30L on the left side of the screen 30A of the display unit 30, and the ortho image in which the damage diagram is superimposed as management information is displayed in the second display area 30R on the right side. Has been done.
  • the user can three-dimensionally move the three-dimensional model of the bridge displayed in the first display area 30L by a view operation including enlargement of the three-dimensional model.
  • the ortho image corresponding to the management division of the bridge including the designated position can be displayed in the second display area 30R. Can be done.
  • the user can compare the three-dimensional model displayed in parallel on the screen 30A of the display unit 30 with the ortho image, and can easily confirm the desired management information.
  • the three-dimensional model of the structure and the management information for each management category of the structure stored in the storage unit 16 are not limited to those generated by the information display device 10, but may be generated by an external device. In this case, the three-dimensional model generated by the external device and the management information for each management category of the structure are stored in the storage unit 16.
  • the three-dimensional model is not limited to the one generated by the SfM method by using the photographed image group obtained by photographing the structure, and can be generated by various methods.
  • the hardware that realizes the information display device according to the present invention can be configured by various processors.
  • Various processors include CPUs (Central Processing Units) and FPGAs (Field Programmable Gate Arrays), which are general-purpose processors that execute programs and function as various processing units, and whose circuit configurations can be changed after manufacturing. Includes a dedicated electric circuit, which is a processor having a circuit configuration specially designed for executing a specific process such as a programmable logic device (PLD) and an ASIC (Application Specific Integrated Circuit).
  • PLD programmable logic device
  • ASIC Application Specific Integrated Circuit
  • one processing unit may be composed of a plurality of FPGAs or a combination of a CPU and an FPGA.
  • a plurality of processing units may be configured by one processor.
  • one processor is configured by a combination of one or more CPUs and software, as represented by a computer such as a client or a server.
  • the processor functions as a plurality of processing units.
  • SoC System On Chip
  • the various processing units are configured by using one or more of the above-mentioned various processors as a hardware structure.
  • the hardware structure of these various processors is, more specifically, an electric circuit (circuitry) in which circuit elements such as semiconductor elements are combined.
  • the present invention can be used as an information display device according to the present invention by being installed in a computer that can access a storage unit that stores a three-dimensional model of the structure and management information for each management category of the structure. Includes an information display program to function and a storage medium on which this information display program is recorded.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Quality & Reliability (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Architecture (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)
  • Bridges Or Land Bridges (AREA)

Abstract

構造物の3次元モデルを使用して構造物の管理区分毎に管理情報を容易に確認することができる情報表示装置、方法及びプログラムを提供する。情報表示装置10は、記憶部14に記憶された構造物の3次元モデルを表示部30に表示させる場合に、操作部18から3次元モデルの拡大等を含むビュー操作を受け付け、少なくもと3次元モデルを拡大表示させる。ユーザ操作に応じて表示部30に拡大表示された3次元モデル上の所望の位置が指定されると、その位置に対応する3次元モデル上の3次元位置を特定し、特定した3次元位置により構造物の点検単位である管理区分を特定する。このようにして管理区分が特定されると、特定された管理区分に対応する管理情報を記憶部14から読み出し、表示部30に表示させる。

Description

情報表示装置、方法及びプログラム
 本発明は情報表示装置、方法及びプログラムに係り、特に構造物の点検を支援する技術に関する。
 橋梁などの構造物は、構造物の維持管理及び補修を行うために定期点検する必要がある。
 構造物の点検は、構造物の管理区分の単位で行われ、国や自治体などで定めた点検評価基準にしたがって管理区分毎に損傷程度の評価、外観性状の記録などが行われる。
 従来、構造物等の対象物体の3次元モデル上で指定された位置に関連付けられた情報が容易に一覧可能にする画像処理方法が提案されている(特許文献1)。
 特許文献1に記載の画像処理方法は、対象物体を撮影した複数の撮影画像(2次元画像)から対象物体の3次元モデルを生成し、3次元モデルに近似する3次元メッシュを生成する。そして、生成した3次元メッシュの各部分平面の2次元展開図(パノラマ画像)を生成する。
 この画像処理方法は、3次元メッシュの各部分平面毎のパノラマ画像のうちの閲覧対象としてユーザが選択したパノラマ画像を表示部のパノラマ画像表示領域に表示し、このパノラマ画像に対してユーザにより指定された位置に対応する点検画像(撮影画像)を表示部の点検画像表示領域に表示し、更に点検画像には、注釈としてひび画像などのコンテンツを重畳表示している。
特開2017-168077号公報
 特許文献1に記載の画像処理方法は、構造物等の対象物体の表面を表す3次元メッシュから3次元メッシュの各部分平面のパノラマ画像を生成し、部分平面毎のパノラマ画像から、適宜選択したパノラマ画像を表示部のパノラマ画像表示領域に表示し、パノラマ画像上で指定した位置に対応する点検画像である撮影画像を、表示部の点検画像表示領域に表示しており、立体的に表示される3次元モデル上で指定した位置に対応する点検画像を表示するものではない。
 また、点検画像は、撮影画像又は撮影画像にひび画像等の注釈が重畳されたものであり、構造物の管理区分毎の管理情報ではない。
 本発明はこのような事情に鑑みてなされたもので、構造物の3次元モデルを使用して構造物の管理区分毎に管理情報を容易に確認することができる情報表示装置、方法及びプログラムを提供することを目的とする。
 上記目的を達成するために本発明の一の態様に係る情報表示装置は、構造物の3次元モデルと構造物の管理区分毎の管理情報とを記憶する記憶部と、記憶部に記憶された3次元モデルを表示部に表示させる場合に、表示部に表示させる3次元モデルの少なくとも拡大を含むビュー操作を受け付ける第1操作部と、記憶部に記憶された3次元モデルを読み出して表示部に表示させ、ビュー操作に基づいて3次元モデルを少なくとも拡大表示させる第1表示制御部と、ユーザ操作に応じて表示部に拡大表示された3次元モデル上の位置を示す位置情報を受け付ける第2操作部と、受け付けた位置情報に基づいて3次元モデル上の3次元位置を特定し、特定した3次元位置を含む管理区分を特定する管理区分特定部と、特定された管理区分に対応する管理情報を記憶部から読み出し、読み出した管理情報を表示部に表示させる第2表示制御部と、を備える。
 本発明の一の態様によれば、構造物の3次元モデルを表示部に表示させ、少なくとも3次元モデルを拡大表示させるビュー操作を行うことで、構造物を俯瞰しながら構造物の所望の位置を容易に指定することができる。構造物の所望の位置が指定されると、その位置に対応する3次元モデル上の3次元位置を特定し、特定した3次元位置を含む構造物の管理区分を特定する。構造物の管理区分が特定されると、その特定した管理区分に対応する管理情報を記憶部から読み出し、表示部に表示させることで、所望の管理情報を容易に確認することができる。
 本発明の他の態様に係る情報表示装置において、管理情報は、構造物の管理区分に対応するオルソ画像、損傷情報が重畳されたオルソ画像、損傷図、損傷数量表、補修図、及び補修数量表のうちの1以上であることが好ましい。
 本発明の更に他の態様に係る情報表示装置において、管理区分は、構造物を構成する部位及び部材の点検単位の区分であることが好ましい。
 本発明の更に他の態様に係る情報表示装置において、第1操作部は、表示部に表示させる3次元モデルを拡大、縮小、平行移動、又は回転移動させるビュー操作を受け付け、第1表示制御部は、第1操作部が受け付けたビュー操作に基づいて表示部に表示させる3次元モデルを拡大表示、縮小表示、平行移動、又は回転移動させることが好ましい。
 本発明の更に他の態様に係る情報表示装置において、3次元モデルは、構造物の表面上の多数の点の3次元情報からなる3次元点群で表したもの、3次元点群に基づいて多角形のポリゴンの集合体で構造物の表面を表したもの、又は多角形のポリゴンに構造物を撮影した撮影画像をテクスチャーマッピングしたものである。
 本発明の更に他の態様に係る情報表示装置において、第1表示制御部は、表示部に拡大表示させた3次元モデル上の、第2操作部が受け付けた位置情報が示す位置に指標を重畳表示させることが好ましい。
 本発明の更に他の態様に係る情報表示装置において、第1表示制御部は、表示部の第1表示領域に3次元モデルを表示させ、第2表示制御部は、表示部の第2表示領域に管理情報を表示させることが好ましい。
 本発明の更に他の態様に係る情報表示装置において、表示部における第1表示制御部による3次元モデルの表示と、第2表示制御部による管理情報の表示とを切り替える表示切替部を備えることが好ましい。
 本発明の更に他の態様に係る情報表示方法は、構造物の3次元モデルと構造物の管理区分毎の管理情報とを記憶する記憶部を準備するステップと、記憶部に記憶された3次元モデルを表示部に表示させる場合に第1操作部が、表示部に表示させる3次元モデルの少なくとも拡大を含むビュー操作を受け付けるステップと、第1表示制御部が記憶部に記憶された3次元モデルを読み出して表示部に表示させる第1表示ステップであって、第1操作部が受け付けたビュー操作に基づいて3次元モデルを少なくとも拡大表示させる第1表示ステップと、第2操作部が、ユーザ操作に応じて表示部に拡大表示された3次元モデル上の位置を示す位置情報を受け付けるステップと、管理区分特定部が、第2操作部が受け付けた位置の指示入力に基づいて3次元モデル上の3次元位置を特定し、特定した3次元位置を含む管理区分を特定するステップと、第2表示制御部が、特定された管理区分に対応する管理情報を記憶部から読み出し、読み出した管理情報を表示部に表示させる第2表示ステップと、を含む。
 本発明の更に他の態様に係る情報表示方法において、管理情報は、構造物の管理区分に対応するオルソ画像、損傷情報が重畳されたオルソ画像、損傷図、損傷数量表、補修図、及び補修数量表のうちの1以上であることが好ましい。
 本発明の更に他の態様に係る情報表示方法において、管理区分は、構造物を構成する部位及び部材の点検単位の区分であることが好ましい。
 本発明の更に他の態様に係る情報表示方法において、ビュー操作を受け付けるステップは、表示部に表示させる3次元モデルを拡大、縮小、平行移動、又は回転移動させるビュー操作を受け付け、第1表示ステップは、第1操作部が受け付けたビュー操作に基づいて表示部に表示させる3次元モデルを拡大表示、縮小表示、平行移動、又は回転移動させることが好ましい。
 本発明の更に他の態様に係る情報表示方法において、3次元モデルは、構造物の表面上の多数の点の3次元情報からなる3次元点群で表したもの、3次元点群に基づいて多角形のポリゴンの集合体で構造物の表面を表したもの、又は多角形のポリゴンに構造物を撮影した撮影画像をテクスチャーマッピングしたものである。
 更に他の態様に係る発明は、構造物の3次元モデルと構造物の管理区分毎の管理情報とを記憶する記憶部にアクセス可能なコンピュータにインストールされる情報表示プログラムであって、記憶部に記憶された3次元モデルを表示部に表示させる場合に、表示部に表示させる3次元モデルの少なくとも拡大を含むビュー操作を受け付ける機能と、記憶部に記憶された3次元モデルを読み出して表示部に表示させ、ビュー操作に基づいて3次元モデルを少なくとも拡大表示させる機能と、ユーザ操作に応じて表示部に拡大表示された3次元モデル上の位置を示す位置情報を受け付ける機能と、受け付けた位置情報に基づいて3次元モデル上の3次元位置を特定し、特定した3次元位置を含む管理区分を特定する機能と、特定された管理区分に対応する管理情報を記憶部から読み出し、読み出した管理情報を表示部に表示させる機能と、をコンピュータに実現させる情報表示プログラムである。
更に他の態様に係る発明は、構造物の3次元モデルと構造物の管理区分毎の管理情報とを記憶する記憶部と、記憶部に記憶された3次元モデルを表示部に表示させる場合に、表示部に表示させる3次元モデルの少なくとも拡大を含むビュー操作を受け付け、記憶部に記憶された3次元モデルを読み出して表示部に表示させ、ビュー操作に基づいて3次元モデルを少なくとも拡大表示させ、ユーザ操作に応じて表示部に拡大表示された3次元モデル上の位置を示す位置情報を受け付け、受け付けた位置情報に基づいて3次元モデル上の3次元位置を特定し、特定した3次元位置を含む管理区分を特定し、特定された管理区分に対応する管理情報を記憶部から読み出し、読み出した管理情報を表示部に表示させるプロセッサと、を備える情報表示装置である。
 本発明によれば、構造物の3次元モデルを表示部に表示させ、少なくもと3次元モデルを拡大表示させるビュー操作を行うことで、構造物を俯瞰しながら構造物の所望の位置を容易に指定することができ、構造物の所望の位置が指定されると、その位置に対応する3次元モデル上の3次元位置を含む構造物の管理区分を特定し、その特定した管理区分に対応する管理情報を表示部に表示させることで、所望の管理情報を容易に確認することができる。
図1は、本発明に係る情報表示装置のハードウエア構成の一例を示すブロック図である。 図2は、本発明に係る情報表示方法の実施形態を示すフローチャートである。 図3は、橋梁の全景を示す3次元モデルが表示された表示部の画面の一例を示す図である。 図4は、拡大等のビュー操作により立体的に動かされた橋梁の3次元モデルを表示した、表示部の画面の一例を示す図である。 図5は、橋梁の管理区分の1つである格間に対応するオルソ画像の一例を示す図である。 図6は、格間に対応する損傷図の一例を示す図である。 図7は、格間に対応する損傷図が重畳されたオルソ画像の一例を示す図である。 図8は、格間に対応する損傷数量表の一例を示す図表である。 図9は、格間に対応する補修図の一例を示す図である。 図10は、格間に対応する補修数量表の一例を示す図表である。 図11は、3次元モデルと管理情報とが同時に表示された表示部の画面の一例を示す図である。
 以下、添付図面に従って本発明に係る情報表示装置、方法及びプログラムの好ましい実施形態について説明する。
 [情報表示装置のハードウエア構成]
 図1は、本発明に係る情報表示装置のハードウエア構成の一例を示すブロック図である。
 図1に示す情報表示装置10としては、パーソナルコンピュータ又はワークステーションを使用することができる。本例の情報表示装置10は、主として画像取得部12と、画像データベース14と、記憶部16と、操作部18と、CPU(Central Processing Unit)20と、RAM(Random Access Memory)22と、ROM(Read Only Memory)24と、表示制御部26とから構成されている。
 画像取得部12は、入出力インターフェースに相当し、本例では点検対象の構造物を撮影した撮影画像等を取得する。点検対象の構造物は、例えば、橋梁、トンネル等の構造物を含む。
 画像取得部12が取得する画像は、例えば、カメラを搭載したドローン(無人飛行体)により構造物を撮影した多数の画像(撮影画像群)である。撮影画像群は、構造物の全体を網羅するものであり、かつ隣接する各撮影画像は、8割程度の範囲で画像が重複していることが好ましい。
 画像取得部12により取得した撮影画像群は、画像データベース14に格納される。
 記憶部16は、ハードディスク装置、フラッシュメモリ等から構成される記憶部であり、オペレーティングシステム、情報表示プログラムの他、構造物の3次元モデル、構造物の管理区分毎の管理情報、3次元モデルと管理情報とを関連付ける情報等を記憶する。
 ここで、3次元モデルは、画像データベース14に格納された撮影画像群の、互いに重複する撮影画像間の特徴点を抽出し、抽出した特徴点に基づいて、ドローンに搭載されたカメラの位置及び姿勢を推定した3次元点群を含む。また、カメラの位置及び姿勢の推定結果から同時に特徴点の3次元位置を推定した3次元点群を含む。
 ドローンによりカメラの撮影位置が動いていく撮影画像群の中から、多数の特徴点の動きをトラッキングし、構造物の3次元構造(Structure)とカメラ姿勢(Motion)とを同時に推定するStructure from Motion(SfM)手法がある。近年、bundle adjustmentという最適化計算法が開発され、高精度な出力を出せるようになっている。
 尚、SfM手法を適用する場合に必要なカメラのパラメータ(焦点距離、イメージセンサの画像サイズ、画素ピッチ等)は、記憶部16に記憶させたものを使用することができる。また、SfM手法では、絶対的なスケールは求めることができないため、例えば、構造物の既知の大きさ(2点間の距離等)を指示することで、絶対的なスケール(3次元位置)を求めることができる。
 ここで、3次元モデルは、構造物の表面上の多数の点の3次元点群で表したもの、3次元点群に基づいて多角形のポリゴン(例えば、三角パッチ)の集合体で構造物の表面を表したもの、又は多角形のポリゴンに構造物を撮影した撮影画像(テクスチャ)をテクスチャーマッピングしたものが考えられる。本例の構造物の3次元モデルは、多角形のポリゴンに撮影画像をテクスチャーマッピングしたものとする。
 また、構造物の定期点検は、構造物を構成する部位及び部材の点検単位の区分である、管理区分毎に行われる。
 以下、構造物として橋梁を例に説明する。
 図4は、橋梁1の3次元モデル(の一部)が表示された、表示部30の画面30Aの一例を示す。
 画面30Aに表示されている橋梁1は、橋脚7の間に渡された主桁2と、主桁2と直交する方向に設けられ、主桁間を連結する横桁3と、風、地震等の横荷重に抵抗するために主桁2を相互に連結する対傾構4及び横構5とを含む各種の部材から構成されている。そして、主桁等の上部には、車輌等が走行するための床版6が打設されている。床版6は、鉄筋コンクリート製のものが一般的である。
 床版6は、通常、主桁2と横桁3とにより画成された矩形形状の格間が基本単位となっており、床版の損傷(ひび割れ、コンクリート剥離など)を点検する場合、格間単位で行われる。
 したがって、床版の各格間は、構造物(橋梁)を構成する部位及び部材の点検単位の管理区分の一つである。尚、橋梁の管理区分となり得る構造物を構成する部位・部材区分は、床版(格間)の他に、構造物を構成する部位・部材区分(主桁2、横桁3、対傾構4、横構5、橋脚7(柱部・壁部、梁部、隅角部・接合部))などがある。
 また、記憶部16に記憶される構造物の管理区分毎の管理情報は、構造物の管理区分に対応するオルソ画像、損傷情報が重畳されたオルソ画像、損傷図、損傷数量表、補修図、又は補修数量表などが考えられる。これらの管理情報は、構造物の点検が行われた時や補修時に作成されたものであるが、その詳細については後述する。
 操作部18は、コンピュータに有線接続又は無線接続されるキーボード及びマウス等のUI(User Interface)を含む。かかるキーボード及びマウス等は、本例では、コンピュータの通常の操作入力を受け付ける操作部として機能する他に、表示部30の画面に表示させる3次元モデルの少なくとも拡大を含むビュー操作を受け付ける第1操作部として機能し、また、ユーザ操作に応じて表示部30に拡大表示された3次元モデル上の位置を示す位置情報を受け付ける第2操作部として機能する。 
 CPU20は第1操作部及び第2操作部からの入力を受付け、各種処理を行う。具体的には、CPU20は、記憶部16又はROM24等に記憶された各種のプログラムを読み出し、各部を統括制御するとともに、3次元モデル及び管理情報を生成する処理等の各種の処理を実行する。また、CPU20は、後述するように構造物の管理区分を特定する管理区分特定部として機能する。
 RAM22は、CPU20の作業領域として使用され、読み出されたプログラムや各種のデータを一時的に記憶する記憶部として用いられる。
 表示制御部26は、GPU(Graphics Processing Unit)等により構成され、表示部30に表示させる表示用データを作成し、表示部30に出力する。表示制御部26は、本例では記憶部16に記憶された3次元モデルを読み出して表示部30に3次元モデルを示す画像を表示させ、操作部18による3次元モデルのビュー操作に基づいて3次元モデルを少なくとも拡大表示させる第1表示制御部として機能する。また、管理区分特定部(CPU20)により特定された管理区分に対応する管理情報を記憶部16から読み出し、読み出した管理情報を表示部30に表示させる第2表示制御部として機能する。なお、表示制御部26は、上述のGPUではなくCPU20により実現されてもよい。
 表示部30は、コンピュータに接続可能な液晶モニタ等の各種のモニタが用いられ、表示制御部26から入力する表示用データにより3次元モデル、管理情報等の各種の情報を表示し、また、操作部18とともにユーザインターフェースの一部として使用される。
 上記構成の情報表示装置10は、操作部18からの指示入力によりCPU20が、記憶部16又はROM24に記憶されているプログラムを読み出し、プログラムを実行することにより、操作部18による操作に応じて各種の情報を表示部30に表示させる。
 [情報表示方法]
 図2は、本発明に係る情報表示方法の実施形態を示すフローチャートである。
 図2において、図1に示した情報表示装置10の各部の動作を説明しつつ、本発明に係る情報表示方法を説明する。
 情報表示装置10の記憶部16には、構造物(本例では橋梁)の3次元モデルと構造物の管理区分毎の管理情報とが記憶されている。本例の情報表示方法を実施する場合、かかる記憶部16を予め準備しておく。
 情報表示装置10の表示制御部26は、まず、記憶部16に記憶された3次元モデルを読み出して3次元モデルを表示部30に表示させる(ステップS10、第1表示ステップ)。ここで、表示制御部26は、3次元モデルを表示部30に最初に表示させる場合には、図3に示すように構造物である橋梁1の全体が把握できるように橋梁の全景を示す3次元モデルを表示部30の画面30Aに表示させる。
 続いて、CPU20又は表示制御部26は、ユーザにより画面30Aに表示されている3次元モデルに対し、少なくとも拡大を含むビュー操作が行われたか否かを判別する(ステップS12)。ビュー操作は、画面30Aに3D(three dimensions)で表現された3次元モデルを拡大表示、縮小表示、平行移動、又は回転移動させるための操作であり、第1操作部として機能する操作部18を使用して行われる。この場合、ユーザのビュー操作を受け付ける第1操作部としては、3Dマウスが好適であるが、通常のマウス等も使用可能である。
 ステップS12において、ビュー操作が行われたと判別されると(「Yes」の場合)、CPU20又は表示制御部26は、ビュー操作が3次元モデルを拡大又は縮小させる操作か、3次元モデルを平行移動させる操作か、又は回転移動させる操作かを判別する(ステップS14、ステップS16)。
 第1表示制御部として機能する表示制御部26は、3次元モデルを拡大又は縮小させるビュー操作が操作部18により行われると、そのビュー操作による拡大又は縮小の指示に応じて3次元モデルを拡大又は縮小させる表示用データを作成し、表示部30に出力する(ステップS18)。また、表示制御部26は、3次元モデルを平行移動させるビュー操作が操作部18により行われると、そのビュー操作による平行移動の指示に応じて3次元モデルを平行移動させる表示用データを作成し、表示部30に出力し(ステップS20)、3次元モデルを回転移動させるビュー操作が操作部18により行われると、そのビュー操作による回転移動の指示に応じて3次元モデルを回転移動させる表示用データを作成し、表示部30に出力する(ステップS22)。
 ステップS12において、ビュー操作が行われていないと判別されると(「No」の場合)、又はステップS18、S20、S22の処理が終了すると、ステップS23に遷移させる。
 ステップS23において、CPU20は、操作部18からの本情報表示の終了の指示入力の有無を判別し、終了の指示入力がない場合(「No」の場合)には、ステップS24に遷移させる。終了の指示入力がある場合(「Yes」の場合)には、本情報表示に係る処理を終了させる。
 次に、CPU20は、第2操作部として機能する操作部18でのユーザ操作に応じて、表示部30に拡大表示された3次元モデル上の位置を示す位置情報を受け付けたか否かを判別する(ステップS24)。
 3次元モデル上の位置を示す位置情報を受け付けていない場合(「No」の場合)には、ステップS10に遷移し、表示制御部26は、引き続き3次元モデルを表示部30に表示させる。尚、ビュー操作が行われ、ステップS18、S20又はS22により3次元モデルを拡大又は縮小させる表示用データ、3次元モデルを平行移動させる表示用データ、又は3次元モデルを回転移動させる表示用データが作成された場合には、最新の表示用データに基づいて、拡大縮小、平行移動、又は回転移動した(立体的に動かされた)3次元モデルが表示部30に表示される。
 図4は、拡大等のビュー操作により立体的に動かされた橋梁の3次元モデルを表示した、表示部30の画面30Aの一例を示す図である。
 即ち、ユーザのビュー操作により、表示部30の画面30Aに表示させる橋梁1の3次元モデルを、図3に示した橋梁1の全景を示す3次元モデルから、図4に示すように拡大、移動及び回転させた3次元モデルに遷移させることができる。尚、ビュー操作は、3次元モデルで橋梁全体を空間把握しながら、要点検箇所を見やすくするために行われる。
 図4において、32は、表示部30の画面30Aでの入力位置を示すカーソルであり、カーソル32は、操作部18(マウス等のポインティングデバイス)の操作により画面30A上を移動することができる。
 ユーザは、橋梁の所望の管理区分の管理情報を確認したい場合、3次元モデルで橋梁全体を空間把握しながら3次元モデルを立体的に動かして、所望の管理区分を表示部30の画面30A上で探索する。そして、表示部30の画面30Aにおいて、所望の管理区分内にカーソル32を移動させ、マウスによるクリック操作や実行キーによる入力操作を行う。これにより、操作部18は、表示部30の画面30Aに表示された3次元モデル上の位置を指定することができ、指定した位置を示す位置情報を受け付けることができる。
 図4において、カーソル32の位置は、橋梁1の床版6に含まれる特定の格間(管理区分)内に位置している。ここで、マウスによるクリック操作等が行われると、第1表示制御部として機能する表示制御部26は、所望の管理区分の選択指示が行われたことを示す指標34を、3次元モデル上のカーソル32が示す位置に重畳表示させることが好ましい。
 図2に戻って、ステップS24において、表示部30に拡大表示された3次元モデル上の位置を示す位置情報を受け付けたと判別されると(「Yes」の場合)、ステップS26に遷移し、ここで管理区分特定部として機能するCPU20は、橋梁の管理区分を特定する。
 管理区分特定部は、まず、表示部30の画面30A(に表示された3次元モデル)上のカーソル32が示す位置の位置情報に基づいて3次元モデル上の3次元位置を特定する。表示部30の画面30A上のカーソル32が示す位置の位置情報は、画面30A上の座標情報として取得することができる。一方、表示部30の画面30Aに表示されている3次元モデルは、ビュー操作により拡大、平行移動、及び回転移動している。
 したがって、拡大等のビュー操作が行われて表示部30の画面30Aに表示されている3次元モデル上の位置情報(座標情報)と、ビュー操作による3次元モデルの拡大率、平行移動量、及び回転移動量の情報とにより、3次元モデル上の3次元位置を特定することができる。
 管理区分特定部は、3次元モデル上の特定した3次元位置に基づいて、その3次元位置を含む橋梁の管理区分を特定する。ここで、各管理区分は、管理区分毎の3次元情報を有するものとする。管理区分毎の3次元情報は、例えば、管理区分(部位、部材)上の3次元点群、あるいは管理区分の特徴点(例えば、格間の場合には格間の4隅の4つ特徴点)の3次元情報とすることができる。
 したがって、管理区分特定部は、3次元モデル上の特定した3次元位置に基づいて、その3次元位置と同一又は最も近接した3次元情報を有する管理区分を、その3次元位置を含む橋梁の管理区分として特定することができる。
 管理区分特定部により橋梁の管理区分が特定されると、第2表示制御部として機能する表示制御部26は、特定された管理区分に対応する管理情報を記憶部16から読み出し、読み出した管理情報を表示部30に表示させる(ステップS28、第2表示ステップ)。
 これにより、ビュー操作により立体的に動かした橋梁の3次元モデル上で、要点検箇所の位置を指示すると、指示した位置により特定された管理区分の管理情報を表示部30に表示させることができ、所望の管理情報を容易に確認することができる。
 本例では、表示切替部として機能するCPU20は、表示部30に管理情報を表示させる場合には、表示制御部26の機能を第1表示制御部から第2表示制御部に切り替える。表示切替部による3次元モデルから管理情報への表示の切り替えは、橋梁の管理区分が特定され、特定された管理区分に対応する管理情報の表示が可能になると、自動的に切り替えることができる。
 [管理情報]
 次に、橋梁の管理区分の管理情報について説明する。
 以下、橋梁の管理区分の1つとして、橋梁1の床版6を構成する或る格間が特定された場合について説明する。
 格間の管理情報の第1例として、格間に対応するオルソ画像が考えられる。
 図5は、橋梁の格間に対応するオルソ画像の一例を示す図である。
 オルソ画像は、被写体(格間)の撮影画像を、格間の面に正射影された画像である。1つの格間のオルソ画像は、画像データベース14に格納された撮影画像群から、その格間に対応する複数の撮影画像を抽出し、抽出した複数の撮影画像をパノラマ合成し、パノラマ合成した画像が、格間の面に正射影された画像になるように、パノラマ合成した画像を射影変換することにより作成することができる。
 複数の撮影画像のパノラマ合成は、互いに重複する撮影画像間の重複領域の複数の特徴点を抽出し、抽出した複数の特徴点をそれぞれ一致させる画像処理により行うことができる。また、パノラマ合成された画像の格間の面への正射影は、パノラマ合成された画像内の格間の4隅に対応する位置と、格間の4隅の3次元位置とを一致させる射影変換により行うことができる。
 ところで、本例の3次元モデルは、多角形のポリゴンに撮影画像をテクスチャーマッピングしたものであるため、3次元モデルを拡大表示させることで、ある程度、橋梁(格間)の表面の性状を確認することができる。しかし、小さな損傷(例えば、0.1mm幅のひび割れなど)を確認することはできない。3次元モデルのデータ量には限界があり、3次元モデルを拡大させても、オリジナルの撮影画像又はそれに相当する画像として視認することができないからである。
 これに対して、橋梁全体に対して小さい管理区分のオルソ画像を表示することで、管理区分の損傷等を確認することができる。
 格間の管理情報の第2例として、格間に対応する損傷図が考えられる。
 図6は、格間に対応する損傷図の一例を示す図である。
 図6に示す損傷図には、5本のひび割れC1~C5、コンクリートの剥離H1が図示されている。損傷図は、オルソ画像上で視認したひび割れ、剥離等の損傷を手動でトレースしたり、オルソ画像から自動で損傷を検出する画像処理を行い、必要に応じて手動で補正することで生成することができる。
 格間の管理情報の第3例として、格間に対応する損傷図が重畳されたオルソ画像が考えられる。
 図7は、格間に対応する損傷図が重畳されたオルソ画像の一例を示す図である。
 図7に示す損傷図が重畳されたオルソ画像は、図5に示したオルソ画像に図6に示した損傷図を重畳することで作成することができる。
 損傷図は、損傷箇所が赤色等の目立つ色が付されて作成されており、オルソ画像に損傷図を重畳することで、損傷箇所を容易に視認することができる。
 格間の管理情報の第4例として、格間に対応する損傷数量表が考えられる。
 図8は、格間に対応する損傷数量表の一例を示す図表である。
 図8に示す損傷数量表では、損傷ID(identification)、損傷種類、サイズ(幅)、サイズ(長さ)、サイズ(面積)の項目を有し、損傷毎に各項目に対応する情報が記載されている。
 尚、管理情報として損傷数量表を表示する場合には、損傷図も合せて表示することが好ましい。
 格間の管理情報の第5例として、格間に対応する補修図が考えられる。
 図9は、格間に対応する補修図の一例を示す図である。
 図9に示す補修図には、2本のひび割れ補修工A1、A2、断面補修工D1が図示されている。ひび割れ補修工A1、A2は、図6に示したひび割れC2、C5に対する補修工を示し、断面補修工D1は、図6に示したコンクリートの剥離H1に対する補修工を示している。
 格間の管理情報として、格間の補修図を表示することで格間の補修結果を確認することができる。
 格間の管理情報の第6例として、格間に対応する補修数量表が考えられる。
 図10は、格間に対応する補修数量表の一例を示す図表である。
 図10に示す補修数量表では、補修ID、補修工法種類、サイズ(幅)、サイズ(長さ)、サイズ(面積)の項目を有し、補修箇所毎に各項目に対応する情報が記載されている。
 ひび割れ補修工には、ひび割れに沿ってコンクリートをカットし、その部分に補修材を充填するひび割れ充填工、補修材を専用の治具を用いて所定の注入圧力で注入するひび割れ注入工などの工法がある。補修工法種類には、ひび割れ補修工としていずれの工法が適用されたかが記載されている。
 また、断面修復工には、型枠を設置して注入材を注入する型枠注入工法、断面修復材を塗りつける左官工法、断面修復材を圧縮空気などを用いて吹き付ける吹付工法などがあり、補修工法種類には、断面修復工としていずれの工法が適用されたかが記載されている。
 尚、管理情報として補修数量表を表示する場合には、補修図も合せて表示することが好ましい。
 図5から図10に示した第1例から第6例の管理情報は、いずれか1つ又は2以上を組み合わせて表示部30の画面30Aに表示することができ、また、いずれの管理情報を表示させるかをユーザが適宜選択できるようにしてもよい。更に、管理情報は、上記のものに限らず、例えば、「損傷の原因」、「損傷の評価」、「損傷が原因で起きる事象」(例えば、漏水、さび汁、遊離石灰、鉄筋露出等)を管理情報とすることができる。
 図2に戻って、管理情報が表示部30に表示されると、続いてCPU20は、表示部30での表示を、管理情報から3次元モデルに切り替えるか否かを判別する(ステップS30)。管理情報から3次元モデルへの切り替えの判別は、操作部18でのユーザ操作に基づいて行うことができる。例えば、ユーザは、異なる管理区分の管理情報を確認したい場合に、操作部18により管理情報から3次元モデルに切り替える操作を行うことができる。
 ステップS30において、管理情報から3次元モデルの表示に切り替える場合(「Yes」の場合)、CPU20は、ステップS10に遷移させる。
 これにより、橋梁の全景を示す3次元モデルを表示部30に表示させることができる。表示切替部として機能するCPU20は、表示部30に3次元モデルを表示させる場合には、表示制御部26の機能を第2表示制御部から第1表示制御部に切り替えることができる。
 尚、CPU20は、管理情報から3次元モデルの表示に切り替える場合(「Yes」の場合)、ステップS12に遷移させてもよい。これにより、3次元モデルから管理情報に表示を切り替えたときの、直近の3次元モデルを表示させることができ、前回の管理区分に近い管理区分の管理情報を確認したい場合に好適である。
 一方、ステップS30において、管理情報から3次元モデルへの表示に切り替えないと判別されると(「No」の場合)、ステップS32に遷移する。
 ステップS32において、CPU20は、操作部18からの本情報表示の終了の指示入力の有無を判別し、終了の指示入力がない場合(「No」の場合)には、ステップS28に戻り、引き続き管理情報を表示部30に表示させる。一方、終了の指示入力がある場合(「Yes」の場合)には、本情報表示に係る処理を終了させる。
 本例では、表示部30での3次元モデルの表示と管理情報の表示とをユーザ操作等に基づいて切り替えるようにしたが、3次元モデルと管理情報とを表示部30に同時に表示するようにしてもよい。
 図11は、3次元モデルと管理情報とが同時に表示された表示部30の画面30Aの一例を示す図である。
 図11に示す例では、表示部30の画面30Aの左側の第1表示領域30Lに3次元モデルが表示され、右側の第2表示領域30Rに管理情報として損傷図が重畳されたオルソ画像が表示されている。
 ユーザは、3次元モデルの拡大を含むビュー操作により第1表示領域30Lに表示される橋梁の3次元モデルを立体的に動かすことができる。また、第1表示領域30Lに拡大表示された3次元モデル上の位置をマウスカーソルで指定することで、指定位置を含む橋梁の管理区分に対応するオルソ画像を第2表示領域30Rに表示させることができる。
 ユーザは、表示部30の画面30Aに並列に表示された3次元モデルとオルソ画像とを見比べることができ、所望の管理情報を容易に確認することができる。
 [その他]
 記憶部16に記憶される構造物の3次元モデルと構造物の管理区分毎の管理情報とは、情報表示装置10により生成されたものに限らず、外部装置により生成されたものでもよい。この場合、外部装置により生成された3次元モデルと構造物の管理区分毎の管理情報とが記憶部16に記憶されることになる。
 また、3次元モデルは、構造物を撮影した撮影画像群を使用し、SfM手法により生成されたものに限らず、種々の方法により生成することができる。
 例えば、二眼カメラにより撮影された2枚の視差画像から構造物の3次元情報を取得し、取得した3次元情報を使用して構造物の3次元モデルを生成することができる。また、タイム・オブ・フライト式カメラにより構造物の撮影画像を取得するとともに、撮影画像上の各画素に対応する構造物の3次元座標を取得して3次元モデルを生成することができる。更に、カメラとしての機能を備えたレーザースキャナを含み、レーザースキャナが取得した構造物の3次元情報に基づいて構造物の3次元モデルを生成することができる。
 本発明に係る情報表示装置を実現するハードウエアは、各種のプロセッサ(processor)で構成できる。各種プロセッサには、プログラムを実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device;PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。情報表示装置を構成する1つの処理部は、上記各種プロセッサのうちの1つで構成されていてもよいし、同種又は異種の2つ以上のプロセッサで構成されてもよい。例えば、1つの処理部は、複数のFPGA、あるいは、CPUとFPGAの組み合わせによって構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip;SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウエア的な構造として、上記各種プロセッサを1つ以上用いて構成される。更に、これらの各種のプロセッサのハードウエア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
 また、本発明は、構造物の3次元モデルと構造物の管理区分毎の管理情報とを記憶する記憶部にアクセス可能なコンピュータにインストールされることにより、コンピュータを本発明に係る情報表示装置として機能させる情報表示プログラム、及びこの情報表示プログラムが記録された記憶媒体を含む。
 更にまた、本発明は上述した実施形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1 橋梁
2 主桁
3 横桁
4 対傾構
5 横構
6 床版
7 橋脚
10 情報表示装置
12 画像取得部
14 画像データベース
16 記憶部
18 操作部
20 CPU
22 RAM
24 ROM
26 表示制御部
30 表示部
30A 画面
30L 第1表示領域
30R 第2表示領域
32 カーソル
34 指標
S10~S32 ステップ

Claims (14)

  1.  構造物の3次元モデルと前記構造物の管理区分毎の管理情報とを記憶する記憶部と、 前記記憶部に記憶された前記3次元モデルを表示部に表示させる場合に、前記表示部に表示させる前記3次元モデルの少なくとも拡大を含むビュー操作を受け付ける第1操作部と、
     前記記憶部に記憶された前記3次元モデルを読み出して前記表示部に表示させ、前記ビュー操作に基づいて前記3次元モデルを少なくとも拡大表示させる第1表示制御部と、 ユーザ操作に応じて前記表示部に拡大表示された前記3次元モデル上の位置を示す位置情報を受け付ける第2操作部と、
     前記受け付けた位置情報に基づいて前記3次元モデル上の3次元位置を特定し、特定した3次元位置を含む前記管理区分を特定する管理区分特定部と、
     前記特定された管理区分に対応する管理情報を前記記憶部から読み出し、読み出した前記管理情報を前記表示部に表示させる第2表示制御部と、
     を備えた情報表示装置。
  2.  前記管理情報は、前記構造物の管理区分に対応するオルソ画像、損傷情報が重畳されたオルソ画像、損傷図、損傷数量表、補修図、及び補修数量表のうちの1以上である請求項1に記載の情報表示装置。
  3.  前記管理区分は、前記構造物を構成する部位及び部材の点検単位の区分である請求項1又は2に記載の情報表示装置。
  4.  前記第1操作部は、前記表示部に表示させる前記3次元モデルを拡大、縮小、平行移動、又は回転移動させるビュー操作を受け付け、
     前記第1表示制御部は、前記第1操作部が受け付けたビュー操作に基づいて前記表示部に表示させる前記3次元モデルを拡大表示、縮小表示、平行移動、又は回転移動させる請求項1から3のいずれか1項に記載の情報表示装置。
  5.  前記3次元モデルは、前記構造物の表面上の多数の点の3次元情報からなる3次元点群で表したもの、前記3次元点群に基づいて多角形のポリゴンの集合体で前記構造物の表面を表したもの、又は前記多角形のポリゴンに前記構造物を撮影した撮影画像をテクスチャーマッピングしたものである請求項1から4のいずれか1項に記載の情報表示装置。
  6.  前記第1表示制御部は、前記表示部に拡大表示させた3次元モデル上の、前記第2操作部が受け付けた位置情報が示す位置に指標を重畳表示させる請求項1から5のいずれか1項に記載の情報表示装置。
  7.  前記第1表示制御部は、前記表示部の第1表示領域に前記3次元モデルを表示させ、 前記第2表示制御部は、前記表示部の第2表示領域に前記管理情報を表示させる請求項1から6のいずれか1項に記載の情報表示装置。
  8.  前記表示部における前記第1表示制御部による前記3次元モデルの表示と、前記第2表示制御部による前記管理情報の表示とを切り替える表示切替部を備えた請求項1から6のいずれか1項に記載の情報表示装置。
  9.  構造物の3次元モデルと前記構造物の管理区分毎の管理情報とを記憶する記憶部を準備するステップと、
     前記記憶部に記憶された前記3次元モデルを表示部に表示させる場合に第1操作部が、前記表示部に表示させる前記3次元モデルの少なくとも拡大を含むビュー操作を受け付けるステップと、
     第1表示制御部が前記記憶部に記憶された前記3次元モデルを読み出して前記表示部に表示させる第1表示ステップであって、前記第1操作部が受け付けたビュー操作に基づいて前記3次元モデルを少なくとも拡大表示させる第1表示ステップと、
     第2操作部が、ユーザ操作に応じて前記表示部に拡大表示された前記3次元モデル上の位置を示す位置情報を受け付けるステップと、
     管理区分特定部が、前記第2操作部が受け付けた位置の指示入力に基づいて前記3次元モデル上の3次元位置を特定し、特定した3次元位置を含む前記管理区分を特定するステップと、
     第2表示制御部が、前記特定された管理区分に対応する管理情報を前記記憶部から読み出し、読み出した前記管理情報を前記表示部に表示させる第2表示ステップと、
     を含む情報表示方法。
  10.  前記管理情報は、前記構造物の管理区分に対応するオルソ画像、損傷情報が重畳されたオルソ画像、損傷図、損傷数量表、補修図、及び補修数量表のうちの1以上である請求項9に記載の情報表示方法。
  11.  前記管理区分は、前記構造物を構成する部位及び部材の点検単位の区分である請求項9又は10に記載の情報表示方法。
  12.  前記ビュー操作を受け付けるステップは、前記表示部に表示させる前記3次元モデルを拡大、縮小、平行移動、又は回転移動させるビュー操作を受け付け、
     前記第1表示ステップは、前記第1操作部が受け付けたビュー操作に基づいて前記表示部に表示させる前記3次元モデルを拡大表示、縮小表示、平行移動、又は回転移動させる請求項9から11のいずれか1項に記載の情報表示方法。
  13.  前記3次元モデルは、前記構造物の表面上の多数の点の3次元情報からなる3次元点群で表したもの、前記3次元点群に基づいて多角形のポリゴンの集合体で前記構造物の表面を表したもの、又は前記多角形のポリゴンに前記構造物を撮影した撮影画像をテクスチャーマッピングしたものである請求項9から12のいずれか1項に記載の情報表示方法。
  14.  構造物の3次元モデルと前記構造物の管理区分毎の管理情報とを記憶する記憶部にアクセス可能なコンピュータにインストールされる情報表示プログラムであって、
     前記記憶部に記憶された前記3次元モデルを表示部に表示させる場合に、前記表示部に表示させる前記3次元モデルの少なくとも拡大を含むビュー操作を受け付ける機能と、 前記記憶部に記憶された前記3次元モデルを読み出して前記表示部に表示させ、前記ビュー操作に基づいて前記3次元モデルを少なくとも拡大表示させる機能と、
     ユーザ操作に応じて前記表示部に拡大表示された前記3次元モデル上の位置を示す位置情報を受け付ける機能と、
     前記受け付けた位置情報に基づいて前記3次元モデル上の3次元位置を特定し、特定した3次元位置を含む前記管理区分を特定する機能と、
     前記特定された管理区分に対応する管理情報を前記記憶部から読み出し、読み出した前記管理情報を前記表示部に表示させる機能と、
     を前記コンピュータに実現させる情報表示プログラム。
PCT/JP2020/021598 2019-07-18 2020-06-01 情報表示装置、方法及びプログラム WO2021010038A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021532715A JP7413383B2 (ja) 2019-07-18 2020-06-01 情報表示装置、方法及びプログラム
US17/572,704 US20220130030A1 (en) 2019-07-18 2022-01-11 Information display apparatus, information display method, and information display program
JP2023189514A JP2024012527A (ja) 2019-07-18 2023-11-06 情報表示装置、方法及びプログラム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019132789 2019-07-18
JP2019-132789 2019-07-18

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/572,704 Continuation US20220130030A1 (en) 2019-07-18 2022-01-11 Information display apparatus, information display method, and information display program

Publications (1)

Publication Number Publication Date
WO2021010038A1 true WO2021010038A1 (ja) 2021-01-21

Family

ID=74210540

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2020/021598 WO2021010038A1 (ja) 2019-07-18 2020-06-01 情報表示装置、方法及びプログラム

Country Status (3)

Country Link
US (1) US20220130030A1 (ja)
JP (2) JP7413383B2 (ja)
WO (1) WO2021010038A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115062393A (zh) * 2022-07-19 2022-09-16 北京云庐科技有限公司 一种桥梁施工监测方法、装置、电子设备及介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017168077A (ja) * 2016-03-09 2017-09-21 株式会社リコー 画像処理方法、表示装置および点検システム
JP2017182695A (ja) * 2016-03-31 2017-10-05 富士通株式会社 情報処理プログラム、情報処理方法および情報処理装置
JP2018151964A (ja) * 2017-03-14 2018-09-27 朝日航洋株式会社 桟橋上部工下面の検査装置、桟橋上部工下面の検査システムおよび桟橋上部工下面の検査方法
JP2019049951A (ja) * 2017-09-12 2019-03-28 西日本旅客鉄道株式会社 構造物管理装置、構造物管理方法、及び構造物管理プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017168077A (ja) * 2016-03-09 2017-09-21 株式会社リコー 画像処理方法、表示装置および点検システム
JP2017182695A (ja) * 2016-03-31 2017-10-05 富士通株式会社 情報処理プログラム、情報処理方法および情報処理装置
JP2018151964A (ja) * 2017-03-14 2018-09-27 朝日航洋株式会社 桟橋上部工下面の検査装置、桟橋上部工下面の検査システムおよび桟橋上部工下面の検査方法
JP2019049951A (ja) * 2017-09-12 2019-03-28 西日本旅客鉄道株式会社 構造物管理装置、構造物管理方法、及び構造物管理プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115062393A (zh) * 2022-07-19 2022-09-16 北京云庐科技有限公司 一种桥梁施工监测方法、装置、电子设备及介质

Also Published As

Publication number Publication date
US20220130030A1 (en) 2022-04-28
JP7413383B2 (ja) 2024-01-15
JP2024012527A (ja) 2024-01-30
JPWO2021010038A1 (ja) 2021-01-21

Similar Documents

Publication Publication Date Title
Alsadik et al. Automated camera network design for 3D modeling of cultural heritage objects
US11189009B2 (en) Image processing apparatus and image processing method
JP6874096B2 (ja) 損傷図編集装置及びプログラム
US20220141441A1 (en) Image display apparatus, image display method, and image display program
WO2021014807A1 (ja) 情報処理装置及び情報処理方法及びプログラム
JP2024012527A (ja) 情報表示装置、方法及びプログラム
JP2021047197A (ja) 損傷データ編集装置、損傷データ編集方法、およびプログラム
US20220405878A1 (en) Image processing apparatus, image processing method, and image processing program
KR101875047B1 (ko) 사진측량을 이용한 3d 모델링 시스템 및 방법
JP2023168548A (ja) 点検支援装置、方法及びプログラム
JP7058585B2 (ja) 画像処理装置およびその制御方法
US20220406018A1 (en) Three-dimensional display device, three-dimensional display method, and three-dimensional display program
US20220130029A1 (en) Image display apparatus, image display method, and image display program
WO2022070734A1 (ja) 構造物の点検支援装置、構造物の点検支援方法、及びプログラム
JP6564738B2 (ja) 図面作成装置及び図面作成方法
JP2022089879A (ja) 画像処理装置およびその制御方法
Szolomicki Application of 3D laser scanning to computer model of historic buildings
JP6779368B2 (ja) 画像処理装置、画像処理方法、およびプログラム
WO2021014758A1 (ja) 情報表示装置、情報表示方法、及び情報表示プログラム
JP2004252815A (ja) 画像表示装置、画像表示方法およびプログラム
Cheng et al. Digital archiving in cultural heritage preservation
Sonet Post-Pandemic COVID-19 Virtual Documentation Through 3D Laser Scanning and 3D Photogrammetry for Site and Building Assessment
JP2023077282A (ja) 検査システム、検査方法、及びプログラム
Silvestre et al. Edition-Oriented 3D Model Rebuilt from Photography

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20840248

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021532715

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20840248

Country of ref document: EP

Kind code of ref document: A1