WO2019189888A1 - 建設機械の運転支援システム、建設機械 - Google Patents

建設機械の運転支援システム、建設機械 Download PDF

Info

Publication number
WO2019189888A1
WO2019189888A1 PCT/JP2019/014344 JP2019014344W WO2019189888A1 WO 2019189888 A1 WO2019189888 A1 WO 2019189888A1 JP 2019014344 W JP2019014344 W JP 2019014344W WO 2019189888 A1 WO2019189888 A1 WO 2019189888A1
Authority
WO
WIPO (PCT)
Prior art keywords
work
unit
setup
excavator
pattern
Prior art date
Application number
PCT/JP2019/014344
Other languages
English (en)
French (fr)
Inventor
蒙萌 李
正樹 小川
文乃 階戸
Original Assignee
住友重機械工業株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 住友重機械工業株式会社 filed Critical 住友重機械工業株式会社
Priority to EP19776777.5A priority Critical patent/EP3779071B1/en
Priority to KR1020207028645A priority patent/KR102602383B1/ko
Priority to JP2020509360A priority patent/JP7328212B2/ja
Priority to CN201980024274.5A priority patent/CN112004975A/zh
Publication of WO2019189888A1 publication Critical patent/WO2019189888A1/ja
Priority to US17/036,325 priority patent/US20210012163A1/en

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/36Component parts
    • E02F3/42Drives for dippers, buckets, dipper-arms or bucket-arms
    • E02F3/43Control of dipper or bucket position; Control of sequence of drive operations
    • E02F3/431Control of dipper or bucket position; Control of sequence of drive operations for bucket-arms, front-end loaders, dumpers or the like
    • E02F3/434Control of dipper or bucket position; Control of sequence of drive operations for bucket-arms, front-end loaders, dumpers or the like providing automatic sequences of movements, e.g. automatic dumping or loading, automatic return-to-dig
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/36Component parts
    • E02F3/42Drives for dippers, buckets, dipper-arms or bucket-arms
    • E02F3/43Control of dipper or bucket position; Control of sequence of drive operations
    • E02F3/435Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
    • E02F3/437Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like providing automatic sequences of movements, e.g. linear excavation, keeping dipper angle constant
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/36Component parts
    • E02F3/42Drives for dippers, buckets, dipper-arms or bucket-arms
    • E02F3/43Control of dipper or bucket position; Control of sequence of drive operations
    • E02F3/435Control of dipper or bucket position; Control of sequence of drive operations for dipper-arms, backhoes or the like
    • E02F3/438Memorising movements for repetition, e.g. play-back capability
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/2045Guiding machines along a predetermined path
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/2054Fleet management
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2148Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the process organisation or structure, e.g. boosting cascade
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217Validation; Performance evaluation; Active pattern learning techniques
    • G06F18/2178Validation; Performance evaluation; Active pattern learning techniques based on feedback of a supervisor
    • G06F18/2185Validation; Performance evaluation; Active pattern learning techniques based on feedback of a supervisor the supervisor being an automated module, e.g. intelligent oracle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/778Active pattern-learning, e.g. online learning of image or video features
    • G06V10/7784Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors
    • G06V10/7788Active pattern-learning, e.g. online learning of image or video features based on feedback from supervisors the supervisor being a human, e.g. interactive learning with a human teacher
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/17Terrestrial scenes taken from planes or by drones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/004Artificial life, i.e. computing arrangements simulating life
    • G06N3/006Artificial life, i.e. computing arrangements simulating life based on simulated virtual individual or collective life forms, e.g. social simulations or particle swarm optimisation [PSO]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00Computing arrangements based on specific mathematical models
    • G06N7/01Probabilistic graphical models, e.g. probabilistic networks

Definitions

  • the present invention relates to a construction machine operation support system and the like.
  • Patent Document 1 an operation support system that supports an operator of a construction machine using operation data with high work quality among operation data of past work machines is known (see, for example, Patent Document 1).
  • an object of the present invention is to provide an operation support system for a construction machine and the like that can output support data having a higher evaluation regarding a target index.
  • a generation unit that generates a plurality of work patterns or setup patterns of the construction machine so that the evaluation regarding the predetermined target index is relatively high;
  • An environmental information acquisition unit for acquiring environmental information of construction machinery to be supported;
  • the evaluation on the target index of the work of the construction machine to be supported is relatively high in an environment corresponding to the environmental information acquired by the environment information acquisition unit.
  • An output unit that outputs a work pattern or a setup pattern such as A construction machine operation support system is provided.
  • a generation unit that generates a plurality of work patterns or setup patterns of the own machine so that the evaluation regarding the predetermined target index is relatively high;
  • An environmental information acquisition unit that acquires environmental information around the aircraft;
  • a control unit for controlling the operation of the own machine based on the work pattern or the setup pattern output by the output unit, Construction machinery is provided.
  • FIG. 1 is a schematic diagram showing an example of a driving support system SYS.
  • the driving support system SYS includes a plurality of excavators 100, an aircraft 200, and a management device 300.
  • the driving support system SYS includes record information (hereinafter referred to as “work pattern record information”) regarding a work pattern of a predetermined type of work (for example, repetitive work such as excavation work, loading work, and rolling work) from the plurality of excavators 100. , Collecting performance information related to environmental conditions during work (hereinafter, “environmental condition performance information”).
  • the work pattern indicates a type of a series of operations of the excavator 100 when performing a predetermined type of work.
  • the work pattern includes an operation trajectory at the time of work of operation elements such as the lower traveling body 1, the upper swing body 3, the boom 4, the arm 5, and the bucket 6.
  • the work pattern performance information is, specifically, detection information of various sensors representing the work pattern performance of the excavator 100 when the excavator 100 actually performs a predetermined type of work.
  • the environmental conditions include external environmental conditions such as conditions related to the surrounding environment of the excavator 100, and specifications of the excavator 100 that affect the operation of the excavator 100 (for example, the length of the arm, the type of bucket, etc.). ) And other internal environmental conditions.
  • the driving support system SYS performs a plurality of optimum work patterns (optimum work patterns) when the excavator 100 performs a predetermined type of work by performing machine learning based on the collected work pattern record information and environmental condition record information. Generate for each environmental condition.
  • the optimum work pattern is a work pattern that is generated so that the evaluation regarding a predetermined target index is relatively high.
  • the target index includes, for example, speed of work, good fuel efficiency, long life of the attachment, low frequency of impact load, large amount of loading in loading work, cracks to attachment, etc. This includes the slowness of crack growth after initiation.
  • the driving support system SYS outputs the optimum work pattern under the current environmental conditions of the shovel 100 to be supported based on the generated plurality of work patterns so that the shovel 100 operates along the optimum work pattern. In addition, the operation of the operator is supported.
  • the driving support system SYS may include other types of construction machines (for example, asphalt finisher, bulldozer, etc.) instead of or in addition to the excavator 100.
  • the flying object 200 may be deployed for each of a plurality of sites. That is, the driving support system SYS may include a plurality of flying bodies 200.
  • the excavator 100 (an example of a construction machine) includes a lower traveling body 1, an upper revolving body 3 that is mounted on the lower traveling body 1 so as to be able to swivel via a turning mechanism 2, a boom 4 as an attachment (working device), and an arm 5 and a bucket 6 and a cabin 10.
  • the lower traveling body 1 includes, for example, a pair of left and right crawlers, and each crawler is self-propelled by being hydraulically driven by traveling hydraulic motors 1A and 1B (see FIG. 2).
  • the upper swing body 3 rotates with respect to the lower traveling body 1 by being driven by a swing hydraulic motor 2A (see FIG. 2).
  • the boom 4 is pivotally attached to the center of the front part of the upper swing body 3 so that the boom 4 can be raised and lowered.
  • An arm 5 is pivotally attached to the tip of the boom 4 and a bucket 6 is vertically attached to the tip of the arm 5. It is pivotally attached so that it can rotate.
  • the boom 4, the arm 5, and the bucket 6 are hydraulically driven by the boom cylinder 7, the arm cylinder 8, and the bucket cylinder 9, respectively.
  • the cabin 10 is a cockpit where an operator boardes, and is mounted on the front left side of the upper swing body 3.
  • the excavator 100 can communicate with the management apparatus 300 through a predetermined communication network NW including, for example, a mobile communication network having a base station as a terminal, a satellite communication network using a communication satellite in the sky, and the Internet. It can. Thereby, the excavator 100 can transmit (upload) various types of information including the above-described work pattern record information and environmental condition record information to the management apparatus 300. Details will be described later.
  • NW a mobile communication network having a base station as a terminal, a satellite communication network using a communication satellite in the sky, and the Internet.
  • the flying object 200 flies over the work site where the excavator 100 works. At this time, the flying object 200 may fly according to an operation command from a remote controller possessed by an operator on the ground of the work site, or automatically fly according to a predetermined flight route or the like. Also good.
  • the flying object 200 is equipped with a camera 240 and acquires a captured image of a work site (hereinafter, “work site image”).
  • the flying object 200 can communicate with the management device 300 through the communication network NW.
  • the flying object 200 indicates the work site image captured by the camera 240, information indicating the orientation of the flying object when the work site image is captured (hereinafter referred to as "aircraft direction information”), and the position.
  • Aircraft position information can be transmitted (uploaded). Details will be described later.
  • the management device 300 is a terminal device installed at a position geographically separated from the excavator 100.
  • the management device 300 is a server device that is installed in a management center or the like provided outside the work site where the excavator 100 works, and is configured by one or more server computers or the like.
  • the server device may be a company server operated by a business operator who operates the driving support system SYS or a related business operator related to the business operator, or may be a so-called cloud server.
  • the management device 300 can communicate with each of the excavator 100 and the flying object 200 through the communication network NW.
  • the management apparatus 300 receives work pattern record information and environmental condition record information uploaded from the excavator 100, a work site image uploaded from the flying object 200, and the like, and based on these pieces of information, the excavator 100 to be supported. An optimal work pattern can be generated. Details will be described later.
  • FIG. 2 is a configuration diagram showing an example of the configuration of the driving support system SYS.
  • the mechanical power line is indicated by a double line
  • the high-pressure hydraulic line is indicated by a thick solid line
  • the pilot line is indicated by a broken line
  • the electric drive / control line is indicated by a thin solid line.
  • the hydraulic drive system that hydraulically drives the hydraulic actuator of the excavator 100 according to the present embodiment includes an engine 11, a main pump 14, a regulator 14 a, and a control valve 17.
  • the hydraulic drive system of the excavator 100 according to the present embodiment includes the traveling hydraulic motors 1A and 1B that hydraulically drive the lower traveling body 1, the upper swing body 3, the boom 4, the arm 5, and the bucket 6 as described above.
  • hydraulic actuators such as the swing hydraulic motor 2A, the boom cylinder 7, the arm cylinder 8, and the bucket cylinder 9.
  • the engine 11 is a main power source in the hydraulic drive system, and is mounted, for example, at the rear part of the upper swing body 3. Specifically, the engine 11 rotates at a constant target rotation speed and drives the main pump 14 and the pilot pump 15 under the control of an engine control unit (ECU: Engine Control Unit) 74 described later.
  • the engine 11 is, for example, a diesel engine that uses light oil as fuel.
  • the regulator 14a controls the discharge amount of the main pump 14. For example, the regulator 14 a adjusts the angle (tilt angle) of the swash plate of the main pump 14 in accordance with a control command from the controller 30.
  • the main pump 14 is mounted at the rear part of the upper swing body 3, for example, like the engine 11, and supplies hydraulic oil to the control valve 17 through the high-pressure hydraulic line 16.
  • the main pump 14 is driven by the engine 11 as described above.
  • the main pump 14 is, for example, a variable displacement hydraulic pump.
  • the piston stroke length is adjusted by adjusting the tilt angle of the swash plate by the regulator 14a under the control of the controller 30, and the discharge is performed.
  • the flow rate (discharge pressure) can be controlled.
  • the control valve 17 is, for example, a hydraulic control device that is mounted at the center of the upper swing body 3 and controls the hydraulic drive system in accordance with the operation of the operation device 26 by the operator. As described above, the control valve 17 is connected to the main pump 14 via the high-pressure hydraulic line 16, and the hydraulic oil supplied from the main pump 14 is supplied to the hydraulic actuator (travel hydraulic motor) according to the operating state of the operating device 26. 1A, 1B, swing hydraulic motor 2A, boom cylinder 7, arm cylinder 8, and bucket cylinder 9) are selectively supplied. Specifically, the control valve 17 includes a plurality of control valves that control the flow rate and flow direction of the hydraulic oil supplied from the main pump 14 to each of the hydraulic actuators.
  • the control valve 17 includes a control valve 175 corresponding to the boom 4 (boom cylinder 7) (see FIG. 9). Further, for example, the control valve 17 includes a control valve 176 corresponding to the arm 5 (arm cylinder 8) (see FIG. 9). Further, for example, the control valve 17 includes a control valve 174 corresponding to the bucket 6 (bucket cylinder 9) (see FIG. 9). Further, for example, the control valve 17 includes a control valve 173 corresponding to the upper swing body 3 (the swing hydraulic motor 2A) (see FIG. 9). For example, the control valve 17 includes a right traveling control valve and a left traveling control valve corresponding to each of the right crawler and the left crawler of the lower traveling body 1.
  • the operation system of the excavator 100 includes a pilot pump 15, an operation device 26, and an operation valve 31.
  • the pilot pump 15 is mounted, for example, at the rear part of the upper swing body 3 and supplies pilot pressure to the operating device 26 and the operating valve 31 via the pilot line 25.
  • the pilot pump 15 is, for example, a fixed displacement hydraulic pump, and is driven by the engine 11 as described above.
  • the operation device 26 is provided in the vicinity of the cockpit of the cabin 10, and an operation input means for an operator to operate various operation elements (the lower traveling body 1, the upper swing body 3, the boom 4, the arm 5, the bucket 6 and the like). It is.
  • the operating device 26 operates the hydraulic actuators (that is, the traveling hydraulic motors 1A and 1B, the swing hydraulic motor 2A, the boom cylinder 7, the arm cylinder 8, the bucket cylinder 9 and the like) that the operator drives each operating element. It is an operation input means for performing.
  • the operating device 26 has a secondary pilot line connected to the control valve 17. Thereby, the pilot pressure according to the operation state of the lower traveling body 1, the upper swing body 3, the boom 4, the arm 5, the bucket 6 and the like in the operating device 26 can be input to the control valve 17. Therefore, the control valve 17 can drive each hydraulic actuator according to the operation state in the operation device 26.
  • the operation valve 31 adjusts the flow path area of the pilot line 25 according to a control command (for example, control current) from the controller 30. Thereby, the operation valve 31 can output the pilot pressure corresponding to the control command to the secondary pilot line using the primary pilot pressure supplied from the pilot pump 15 as a source pressure.
  • the operation valve 31 has a secondary port connected to the left and right pilot ports of the control valve corresponding to the respective hydraulic actuators of the control valve 17, and pilot pressure corresponding to the control command from the controller 30 is applied to the pilot valve of the control valve. Act on the port.
  • the controller 30 allows the hydraulic oil discharged from the pilot pump 15 to flow through the operation valve 31 to the corresponding control valve in the control valve 17 even when the operation device 26 is not operated by the operator. It is possible to operate the hydraulic actuator by supplying it to the pilot port.
  • an electromagnetic relief valve for relieving excessive hydraulic pressure generated in the hydraulic actuator to the hydraulic oil tank may be provided.
  • an electromagnetic relief valve that relieves the hydraulic oil tank of excessive pressures in the bottom side oil chamber and the rod side oil chamber of the boom cylinder 7, arm cylinder 8, and bucket cylinder 9.
  • the control system of the shovel 100 includes a controller 30, an ECU 74, a discharge pressure sensor 14b, an operation pressure sensor 15a, a display device 40, an input device 42, an imaging device 80, and a state detection device S1. And a communication device T1.
  • the controller 30 performs drive control of the excavator 100.
  • the function of the controller 30 may be realized by arbitrary hardware, software, or a combination thereof.
  • the controller 30 includes a processor such as a CPU (Central Processing Unit), a memory device such as a RAM (Random Access Memory), a nonvolatile auxiliary storage device such as a ROM (Read Only Memory), and various input / output devices. It is mainly configured by a computer including an interface device.
  • the controller 30 realizes various functions by executing various programs installed in the auxiliary storage device on the CPU.
  • the ECU 74 the control device 210 of the flying object 200
  • the control device 310 of the management device 300 which will be described later.
  • the controller 30 sets the target rotation speed based on a work mode or the like set in advance by a predetermined operation by an operator or the like, and outputs a control command to the ECU 74, thereby rotating the engine 11 at a constant speed via the ECU 74. Drive control is performed.
  • the controller 30 performs so-called total horsepower control or negative control by changing a discharge amount of the main pump 14 by outputting a control command to the regulator 14a as necessary.
  • the controller 30 has a function of uploading various information related to the excavator 100 to the management apparatus 300 (hereinafter referred to as “upload function”). Specifically, the controller 30 may transmit (upload) work pattern record information and environmental condition record information during a predetermined type of work of the excavator 100 to the management apparatus 300 through the communication device T1.
  • the controller 30 includes, for example, an information transmission unit 301 as a functional unit related to an upload function realized by executing one or more programs installed in an auxiliary storage device or the like on the CPU.
  • the controller 30 performs control related to a machine guidance function that guides manual operation of the excavator 100 through the operation device 26 by the operator.
  • the controller 30 may perform control related to a machine control function that automatically supports manual operation of the excavator 100 through the operation device 26 by the operator.
  • the controller 30 includes, for example, a work pattern acquisition unit 302 and a machine as functional units related to a machine guidance function and a machine control function, which are realized by executing one or more programs installed in an auxiliary storage device or the like on the CPU.
  • a guidance unit 303 is included.
  • controller 30 may be realized by another controller (control device). That is, the function of the controller 30 may be realized in a manner distributed by a plurality of controllers.
  • the machine guidance function and the machine control function described above may be realized by a dedicated controller (control device).
  • the ECU 74 controls various actuators (for example, a fuel injection device, etc.) of the engine 11 in accordance with a control command from the controller 30, and makes the engine 11 rotate at a set target rotation speed (set rotation speed) (constant rotation). Rotation control). At this time, the ECU 74 performs constant rotation control of the engine 11 based on the rotation speed of the engine 11 detected by the engine rotation speed sensor 11a.
  • various actuators for example, a fuel injection device, etc.
  • the discharge pressure sensor 14b detects the discharge pressure of the main pump 14. A detection signal corresponding to the discharge pressure detected by the discharge pressure sensor 14 b is taken into the controller 30.
  • the operation pressure sensor 15a detects the pilot pressure on the secondary side of the operation device 26, that is, the pilot pressure corresponding to the operation state of each operation element (hydraulic actuator) in the operation device 26. Pilot pressure detection signals corresponding to the operating states of the lower traveling body 1, the upper swing body 3, the boom 4, the arm 5, the bucket 6 and the like in the operating device 26 by the operating pressure sensor 15a are taken into the controller 30.
  • the display device 40 is connected to the controller 30 and is provided at a position that is easily visible from a seated operator in the cabin 10 under the control of the controller 30 and displays various information images.
  • the display device 40 is, for example, a liquid crystal display or an organic EL (Electroluminescence) display.
  • the input device 42 is provided in a range that can be reached by an operator seated in the cabin 10, receives various operations by the operator, and outputs a signal corresponding to the operation content.
  • the input device 42 is integrated with the display device 40. Further, the input device 42 may be provided separately from the display device 40.
  • the input device 42 includes a touch panel mounted on the display of the display device 40, a knob switch provided at the tip of a lever included in the operation device 26, a button switch installed around the display device 40, a lever, a toggle, and the like. A signal corresponding to the operation content on the input device 42 is taken into the controller 30.
  • the imaging device 80 images the periphery of the excavator 100.
  • the imaging device 80 includes a camera 80F that images the front side of the excavator 100, a camera 80L that images the left side of the excavator 100, a camera 80R that images the right side of the excavator 100, and a camera 80B that images the rear side of the excavator 100. .
  • the camera 80F is attached to the ceiling of the cabin 10, that is, the cabin 10, for example.
  • the camera 80F may be attached to the outside of the cabin 10, such as the roof of the cabin 10 or the side surface of the boom 4.
  • the camera 80 ⁇ / b> L is attached to the upper left end of the upper swing body 3
  • the camera 80 ⁇ / b> R is attached to the upper right end of the upper swing body 3
  • the camera 80 ⁇ / b> B is attached to the upper rear end of the upper swing body 3.
  • the imaging device 80 (cameras 80F, 80B, 80L, 80R) is, for example, a monocular wide-angle camera having a very wide angle of view. Further, the imaging device 80 may be a stereo camera, a distance image camera, or the like. A captured image (hereinafter, “peripheral image”) around the excavator 100 by the imaging device 80 is captured by the controller 30.
  • the state detection device S1 outputs detection information regarding various states of the excavator 100. Detection information output from the state detection device S1 is taken into the controller 30.
  • the state detection device S1 detects the posture state and operation state of the attachment. Specifically, the state detection device S1 may detect the elevation angle of the boom 4, the arm 5, and the bucket 6 (hereinafter, “boom angle”, “arm angle”, and “bucket angle”, respectively). That is, the state detection device S1 may include a boom angle sensor S11, an arm angle sensor S12, and a bucket angle sensor S13 that detect each of a boom angle, an arm angle, and a bucket angle (see FIG. 9). Further, the state detection device S1 may detect acceleration, angular acceleration, and the like of the boom 4, the arm 5, and the bucket 6.
  • the state detection device S1 may detect acceleration, angular acceleration, and the like of the boom 4, the arm 5, and the bucket 6.
  • the state detection device S1 is, for example, a rotary encoder, an acceleration sensor, an angular acceleration sensor, a six-axis sensor, an IMU (Inertial Measurement Unit), which is attached to each of the boom 4, the arm 5, and the bucket 6. ) And the like.
  • the state detection device S1 is a cylinder sensor that detects the cylinder position, speed, acceleration, and the like of the boom cylinder 7, the arm cylinder 8, and the bucket cylinder 9 that drive the boom 4, the arm 5, and the bucket 6, respectively. May be included.
  • the state detection device S1 detects the posture state of the airframe, that is, the lower traveling body 1 and the upper swing body 3. Specifically, the state detection device S1 may detect the inclination state of the aircraft with respect to the horizontal plane. In this case, for example, the state detection device S1 is attached to the upper swing body 3, and the tilt angle of the upper swing body 3 around two axes in the front-rear direction and the left-right direction (hereinafter referred to as “front-rear tilt angle” and “left-right tilt angle”). ) May be included.
  • the state detection device S1 detects the turning state of the upper turning body 3. Specifically, the state detection device S1 detects the turning angular velocity and the turning angle of the upper turning body 3.
  • the state detection device S1 can include, for example, a gyro sensor, a resolver, a rotary encoder, and the like attached to the upper swing body 3. That is, the state detection device S1 may include a turning angle sensor S15 that detects a turning angle of the upper turning body 3 and the like.
  • the state detection device S1 detects the action state of the force acting on the excavator 100 through the attachment.
  • the state detection device S1 may detect the operating pressure (cylinder pressure) of the hydraulic actuator.
  • the state detection device S1 can include pressure sensors that detect the pressures of the rod-side oil chamber and the bottom-side oil chamber of the boom cylinder 7, the arm cylinder 8, and the bucket cylinder 9, respectively.
  • the state detection device S1 may include a sensor that detects the displacement of the spool of the control valve in the control valve 17.
  • the state detection device S ⁇ b> 1 may include a boom spool displacement sensor S ⁇ b> 16 that detects the displacement of the boom spool that constitutes the control valve 175.
  • the state detection device S1 may include an arm spool displacement sensor S17 that detects the displacement of the arm spool constituting the control valve 176.
  • the state detection device S1 may include a bucket spool displacement sensor S18 that detects the displacement of the bucket spool that constitutes the control valve 174.
  • the state detection device S1 may include a swing spool displacement sensor S19 that detects the displacement of the swing spool constituting the control valve 173. Further, the state detection device S1 may include a right traveling spool displacement sensor and a left traveling spool displacement sensor that detect displacement of the right traveling spool and the left traveling spool that constitute the right traveling control valve and the left traveling control valve, respectively.
  • the state detection device S1 detects the position of the excavator 100, the orientation of the upper swing body 3, and the like.
  • the state detection device S1 may include, for example, a GNSS (Global Navigation Satellite System) compass, a GNSS sensor, an orientation sensor, and the like attached to the upper swing body 3.
  • GNSS Global Navigation Satellite System
  • the communication device T1 communicates with an external device through the communication network NW.
  • the communication device T1 is, for example, a mobile communication module corresponding to a mobile communication standard such as LTE (Long Evolution), 4G (4th Generation), 5G (5th ⁇ Generation), or satellite communication for connecting to a satellite communication network. Modules.
  • LTE Long Evolution
  • 4G 4th Generation
  • 5G 5th ⁇ Generation
  • satellite communication for connecting to a satellite communication network.
  • the information transmission unit 301 transmits work pattern record information and environmental condition record information at the time of a predetermined type of work of the excavator 100 to the management apparatus 300 through the communication device T1.
  • the work pattern record information transmitted by the information transmission unit 301 includes, for example, various detection information input from the state detection device S1.
  • the environmental condition result information transmitted by the information transmission unit 301 includes, for example, a peripheral image of the excavator 100 input from the imaging device 80.
  • the environmental condition result information transmitted by the information transmission unit 301 includes information on the internal environmental conditions of the excavator 100, for example, variable specifications such as a large capacity bucket specification, a long arm specification, a quick coupling specification, and the like. May be.
  • the information transmission unit 301 sequentially determines whether or not a work of a target type specified in advance is being performed, and determines that the work of the target type is being performed, the work is being performed.
  • the work pattern performance information of the period that is, various detection information input from the state detection device S1
  • the environmental condition information that is, the peripheral image of the excavator 100 input from the imaging device 80
  • the date and time information related to the start and end of the work of the target type, and the position information of the excavator 100 at the time of the work are further linked to the set of work pattern record information and environmental condition record information. May be stored in the internal memory.
  • the management apparatus 300 can extract the work site image corresponding to the set of the work pattern result information and the environmental condition result information transmitted from the excavator 100 from the work site image uploaded from the flying object 200. it can.
  • the date and time information can be acquired from, for example, a predetermined time measuring means (for example, RTC (Real Time Clock)) inside the controller 30.
  • the information transmission unit 301 transmits the set of the recorded work pattern record information and environmental condition record information to the management apparatus 300 through the communication device T1 at a predetermined timing such as when the excavator 100 is keyed off (when stopped). To do.
  • the information transmission unit 301 transmits a set of recorded work pattern result information and environmental condition result information to the management apparatus 300 through the communication device T1. May be.
  • the environmental condition performance information may include detection information detected by another sensor mounted on the excavator 100 instead of or in addition to the imaging device 80.
  • the excavator 100 may be mounted with other sensors such as millimeter wave radar, LIDAR (Light Detecting and Ranging), and the environmental condition performance information may include detection information of these distance sensors. .
  • the environmental condition performance information may include weather information.
  • the weather information can include, for example, detection information such as a raindrop detection sensor and an illuminance sensor that can be included in the state detection device S1.
  • the information transmission unit 301 may transmit only the work pattern record information to the management apparatus 300.
  • the management apparatus 300 generates environmental condition result information corresponding to the work pattern result information transmitted from the excavator 100 based on the captured image captured by the flying object 200 flying over the work site of the excavator 100. be able to.
  • the information transmission part 301 may upload the detection information of state detection apparatus S1, and the peripheral image of the shovel 100 by the imaging device 80 to the management apparatus 300 sequentially via the communication apparatus T1.
  • the management apparatus 300 may extract information when a target type of work is performed from information uploaded from the excavator 100, and generate work pattern record information and environment information.
  • the work pattern acquisition unit 302 acquires a work pattern (optimal work pattern) that is optimal for the current environmental conditions related to a predetermined target index from the management apparatus 300 when performing a predetermined type of work.
  • the work pattern acquisition unit 302 receives information on the current environmental conditions of the excavator 100 (hereinafter, “current environmental condition information”) in response to a predetermined operation (hereinafter, “acquisition request operation”) by the operator on the input device 42.
  • acquisition request operation a predetermined operation for requesting acquisition of the work pattern is transmitted to the management apparatus 300 through the communication device T1.
  • the management apparatus 300 can provide the shovel 100 with an optimal work pattern that matches the current environmental conditions of the shovel 100.
  • the current environment condition information includes, for example, the latest peripheral image of the excavator 100 by the imaging device 80.
  • the current environmental condition information may include information on internal environmental conditions of the excavator 100, for example, variable specifications such as a large capacity bucket specification, a long arm specification, and a quick coupling specification.
  • the current environmental condition information may include detection information such as a raindrop sensor or an illuminance sensor that can be included in the state detection device S1, that is, weather information.
  • the work pattern acquisition part 302 acquires the information regarding the work pattern transmitted from the management apparatus 300 according to an acquisition request signal, and received by communication apparatus T1.
  • the work pattern acquisition unit 302 may not transmit the current environment condition information to the management apparatus 300 in conjunction with the transmission of the acquisition request signal.
  • the management apparatus 300 can determine the current environmental condition (external environmental condition) of the excavator 100 based on the work site image corresponding to the work site of the target excavator 100 uploaded from the flying object 200. it can. Further, the management apparatus 300 may acquire weather information as an environmental condition of the excavator 100 on the basis of the flying object position information uploaded from the flying object 200 from a server or website related to the weather information.
  • the machine guidance unit 303 performs control related to the machine guidance function and the machine control function. That is, the machine guidance unit 303 supports the operation of various operation elements (attachment including the lower traveling body 1, the upper swing body 3, the boom 4, the arm 5, and the bucket 6) through the operation device 26 by the operator.
  • the machine guidance unit 303 and a target design surface (hereinafter simply referred to as “design surface”) defined in advance and the tip of the bucket 6 may be automatically operated so that the toe and the back surface coincide with each other.
  • the machine guidance unit 303 may automatically operate the arm 5 regardless of the operation state of the operation device 26 that operates the arm 5.
  • the machine guidance unit 303 may cause the attachment to perform a predetermined operation using the operation of the operation device 26 by the operator as a trigger.
  • the machine guidance unit 303 acquires various types of information from the state detection device S1, the imaging device 80, the communication device T1, the input device 42, and the like. Moreover, the machine guidance part 303 calculates the distance between the bucket 6 and a design surface based on the acquired information, for example.
  • the machine guidance unit 303 appropriately controls the operation valve 31 according to the calculated distance between the bucket 6 and the design surface, etc., and individually and automatically controls the pilot pressure acting on the control valve corresponding to the hydraulic actuator. By adjusting, each hydraulic actuator can be automatically operated.
  • the operation valve 31 includes, for example, a boom proportional valve 31A corresponding to the boom 4 (boom cylinder 7) (see FIG. 9).
  • the operation valve 31 includes, for example, an arm proportional valve 31B corresponding to the arm 5 (arm cylinder 8) (see FIG. 9).
  • the operation valve 31 includes, for example, a bucket proportional valve 31C corresponding to the bucket 6 (bucket cylinder 9) (see FIG. 9).
  • the operation valve 31 includes, for example, a swing proportional valve 31D corresponding to the upper swing body 3 (the swing hydraulic motor 2A) (see FIG. 9).
  • the operation valve 31 includes, for example, a right travel proportional valve and a left travel proportional valve corresponding to each of the right crawler and the left crawler of the lower traveling body 1.
  • the machine guidance unit 303 automatically expands and contracts at least one of the boom cylinder 7, the arm cylinder 8, and the bucket cylinder 9 according to the opening / closing operation of the arm 5 with respect to the operation device 26. You may let me.
  • the excavation work is an operation of excavating the ground with the tip of the bucket 6 along the design surface.
  • the machine guidance unit 303 includes the boom cylinder 7 and the bucket cylinder 9. Automatically stretch or contract at least one of the
  • the machine guidance unit 303 automatically expands and contracts at least one of the boom cylinder 7, the arm cylinder 8, and the bucket cylinder 9 in order to support, for example, a finishing operation (rolling operation) on a slope or a horizontal surface. May be.
  • the rolling operation is an operation of pulling the bucket 6 forward along the design surface while pressing the back surface of the bucket 6 against the ground.
  • the machine guidance unit 303 automatically expands and contracts at least one of the boom cylinder 7 and the bucket cylinder 9 when the operator manually performs an arm closing operation on the operation device 26, for example. Thereby, the bucket 6 can be moved along the design surface which is the completed slope or horizontal plane while pressing the back surface of the bucket 6 against the slope (slope) or horizontal plane before completion with a predetermined pressing force.
  • the machine guidance unit 303 may automatically rotate the swing hydraulic motor 2A in order to make the upper swing body 3 face the design surface.
  • the machine guidance unit 303 may cause the upper swing body 3 to face the design surface by operating a predetermined switch included in the input device 42. Further, the machine guidance unit 303 may start the machine control function by causing the upper swing body 3 to face the design surface only by operating a predetermined switch.
  • the machine guidance unit 303 performs attachment, Control is performed so that the operations of at least a part of the upper swing body 3 and the lower traveling body 1 are matched with the work pattern (optimum work pattern) acquired by the work pattern acquisition unit 302.
  • the operator can manage the operation of the excavator 100 regardless of the proficiency level regarding the operation of the excavator 100 so that the evaluation of a predetermined target index, for example, the speed of work becomes relatively high. It is possible to match the work pattern that is output from the optimal control unit 3103) and that is optimal for the current environmental conditions of the excavator 100.
  • the machine guidance unit 303 may cause the operator to display the operation of the shovel 100 corresponding to the optimum work pattern on the display device 40 while controlling the operation of the shovel 100 based on the optimum work pattern.
  • the machine guidance unit 303 causes the display device 40 to display a simulation result video by a simulator unit 3102D described later corresponding to the optimal work pattern. . Thereby, the operator can proceed with the work while confirming the contents of the actual work pattern with the moving image of the display device 40.
  • the flying object 200 is an autonomous flying object that can be operated by remote control or automatic control, and may include, for example, a multicopter, an airship, and the like. In the present embodiment, as shown in FIG. 1, the flying body 200 is a quadcopter.
  • the flying object 200 includes a control device 210, a communication device 220, an autonomous navigation device 230, a camera 240, and a positioning device 250.
  • the control device 210 performs various controls relating to the flying object 200.
  • the control device 210 transmits work site images sequentially input from the camera 240 to the management device 300 through the communication device 220.
  • the control device 210 may transmit the work site image input from the camera 240 to the management device 300 through the communication device 220.
  • the control device 210 may transmit the work site images buffered for a certain period of time to the management device 300 through the communication device 220 at a predetermined timing.
  • the control apparatus 210 may also transmit the position information and date / time information corresponding to each captured image to the management apparatus 300. At this time, the date and time information can be acquired from, for example, a predetermined time measuring means (for example, RTC) inside the control device 210.
  • a predetermined time measuring means for example, RTC
  • the communication device 220 communicates with an external device through the communication network NW. Specifically, the communication device 220 performs communication with the management device 300 under the control of the control device 210. The communication device 220 is connected to the control device 210, and various information received from the outside is taken into the control device 210.
  • the autonomous navigation device 230 is a device for realizing autonomous navigation of the flying object 200.
  • the autonomous navigation device 230 includes, for example, a flight control device, an electric motor, a battery, and the like. Further, the flying object 200 may be equipped with a GNSS receiver in order to uniquely determine the position of the flying object 200. When a ground external power source is used via a wired connection instead of a battery, a converter that performs voltage conversion may be mounted. The flying object 200 may be equipped with a solar panel.
  • the flight control device includes various sensors such as a gyro sensor, an acceleration sensor, an atmospheric pressure sensor, and an ultrasonic sensor, and realizes an attitude maintenance function, an altitude maintenance function, and the like.
  • the electric motor receives power supplied from the battery and rotates the propeller.
  • the autonomous navigation device 230 controls the rotational speeds of the four propellers separately, and maintains the attitude and altitude of the aircraft 200 while the aircraft 200 is in the target flight. Move to position.
  • the information regarding the target flight position is, for example, the latitude, longitude, and altitude of the target flight position.
  • the control device 210 acquires information regarding the target flight position from the outside through the communication device 220.
  • Autonomous navigation device 230 may change the orientation of flying object 200 when information about the target orientation is received from control device 210.
  • the camera 240 images the state of the work site under the flying area of the flying object 200.
  • the camera 240 may be attached to the lower surface of the flying object 200 or the like so that an image of the vertically lower part of the flying object 200 can be captured.
  • a captured image (work site image) captured by the camera 240 is captured by the control device 210.
  • the positioning device 250 detects the position and orientation of the flying object 200.
  • the positioning device 250 can include a GNSS compass, a GNSS sensor, an orientation sensor (geomagnetic sensor), and the like. Information detected by the positioning device 250 is taken into the control device 210.
  • the positioning device 250 may be incorporated in the autonomous navigation device 230 (flight control device).
  • the management device 300 includes a control device 310, a communication device 320, an operation input device 330, and a display device 340.
  • the control device 310 performs various controls of the management device 300.
  • control device 310 performs optimum learning when the excavator 100 performs a predetermined type of work by performing machine learning (supervised learning and reinforcement learning) based on the collected work pattern record information and environmental condition record information.
  • Machine learning function a function for generating a work pattern (optimal work pattern) for each of a plurality of environmental conditions.
  • control device 310 performs control related to a function (hereinafter, “driving support function”) that outputs an optimal work pattern under the current environmental conditions of the shovel 100 to be supported based on the generated plurality of work patterns.
  • the control device 310 includes, for example, an information acquisition unit 3101 as a function unit related to a machine learning function and a driving support function realized by executing one or more programs installed in an auxiliary storage device or the like on the CPU.
  • the control device 310 also includes a storage unit 3100 as a storage area related to the machine learning function and the driving support function, which is defined in a nonvolatile storage device inside the control device 310. Details of the configuration related to the machine learning function and the driving support function in the management apparatus 300 will be described later (see FIG. 3).
  • the storage unit 3100 may be provided outside the control device 310.
  • the communication device 320 communicates with external devices, that is, the excavator 100 and the flying object 200 through the communication network NW.
  • the communication device 320 is connected to the control device 310, and various information received from the outside is taken into the control device 310.
  • the operation input device 330 accepts an operation input by an operator or administrator of the management device 300, and outputs a signal corresponding to the content of the accepted operation input.
  • the operation input device 330 is connected to the control device 310, and a signal corresponding to the content of the operation input is taken into the control device 310.
  • the display device 340 is, for example, a liquid crystal display or an organic EL display, and displays various information images under the control of the control device 310.
  • FIG. 3 is a functional block diagram illustrating an example of a functional configuration related to the machine learning function and the driving support function in the driving support system SYS. Specifically, FIG. 3 is a functional block diagram illustrating an example of a functional configuration related to the machine learning function and the driving support function in the management apparatus 300 (control apparatus 310).
  • An information acquisition unit 3101 acquires work pattern result information and environmental condition result information from one or more excavators 100 and upload data such as work site images from one or more aircraft 200. To do. Then, the information acquisition unit 3101 arranges work patterns in the excavator work related information DB (Data Base) 3100A of the storage unit 3100, which is arranged in a mode in which data can be extracted for each work of the excavator 100 and for each type of work. Results information, environmental condition results information, and work site images are stored.
  • DB Data Base
  • the information acquisition unit 3101 extracts only the work site image acquired at the same date and time as the work pattern result information and the environmental condition result information uploaded from the corresponding excavator 100 of the work site from the work site image.
  • the work site image extracted in the environmental condition performance information may be incorporated.
  • the information acquisition unit 3101 accesses a server or website related to weather information through the communication device 320, acquires the weather information of the same date and time as the work pattern performance information and the environmental condition information uploaded from the excavator 100, and the environmental condition It may be an aspect that is incorporated into the performance information.
  • a set of work pattern record information and environmental condition record information for each work stored in the shovel work related information DB 3100A will be referred to as “excavator work related information” for convenience.
  • the work pattern generation unit 3102 (an example of a generation unit) is based on the work pattern record information and the environmental condition record information for each work stored in the excavator work related information DB 3100A. For each target target index, an evaluation regarding the target index is relatively high, in other words, an optimal work pattern for each different environmental condition in which the evaluation is maximized is generated.
  • the work pattern generation unit 3102 includes a work evaluation unit 3102A, a supervised learning unit 3102B, a reinforcement learning unit 3102C, and a simulator unit 3102D.
  • the work evaluation unit 3102A has a relatively high evaluation regarding the target index for each target index that is the target among the excavator work related information for each work stored in the excavator work related information DB 3100A.
  • excavator work related information that exceeds a predetermined standard is extracted.
  • a feature quantity related to the evaluation is defined for each target target index, and the work evaluation unit 3102A extracts the feature quantity from the excavator work-related information, and each feature quantity is extracted from the extracted feature quantity. Evaluate excavator work related information.
  • the characteristic amount when the speed of work in loading work is set as a target index, the characteristic amount includes a turning speed, a loading amount, an excavation trajectory (depth, position, length), an angle in the middle of excavation, a boom raising position, a bucket Tracks (when lifting, lowering, earthing, hanging), engine speed, pump horsepower, etc. can be included.
  • the feature amount may include the penetration angle of the toe of the bucket 6, the magnitude of the excavation force, and the like.
  • the work evaluation unit 3102A stores the extracted excavator work-related information as teacher data for supervised learning in a teacher DB 3100B in which data is arranged so that data can be extracted for each work type and for each target index.
  • the supervised learning unit 3102B performs known machine learning (supervised learning) for each work type and for each target index based on the teacher data stored in the teacher DB 3100B, and the evaluation regarding the target index is relatively high.
  • a work pattern for each of a plurality of different environmental conditions (hereinafter referred to as “supervised learning work pattern”) is generated.
  • the part that evaluates the target index may be an aspect that uses the function of the work evaluation unit 3102A.
  • the plurality of supervised learning work patterns generated are stored in a supervised learning work pattern DB 3100C in which data is arranged so as to be extracted for each environmental condition.
  • the reinforcement learning unit 3102C performs reinforcement learning for each work type and each target index based on a predetermined evaluation condition, starting from a supervised learning work pattern for each of a plurality of different environmental conditions in the supervised learning work pattern DB 3100C. Do. Then, the reinforcement learning unit 3102C generates a work pattern (optimum work pattern) for each of a plurality of different environmental conditions having a higher target index. Specifically, the reinforcement learning unit 3102C causes the simulator unit 3102D to repeatedly try the simulation of the target type of work, so that the so-called reward increases autonomously, that is, the work pattern in which the evaluation regarding the target target index is high. Finally, an optimal work pattern under certain environmental conditions is generated.
  • the reinforcement learning unit 3102C can generate an optimum work pattern under environmental conditions that are not included in the supervised learning work pattern by using the simulator unit 3102D.
  • the generated plurality of optimum work patterns are stored in an optimum work pattern DB 3100D in which data is arranged so that it can be extracted for each work type and each environmental condition.
  • the simulator unit 3102D can perform an operation simulation included in the work pattern of the excavator 100 based on input conditions such as an input environmental condition, work condition, and work pattern for each work type. Thereby, the simulator unit 3102D can generate a work pattern. Therefore, the reinforcement learning unit 3102C performs not only reinforcement learning based on past work patterns (work pattern performance information) acquired by the information acquisition unit 3101 but also reinforcement based on information on new work patterns generated by the simulator unit 3102D. Can learn.
  • FIG. 4 is a diagram illustrating an example of an operation simulation of the excavator 100 in excavation work by the simulator unit 3102D.
  • the simulator unit 3102D causes the excavator 100 to ground the bucket 6 and pull the bucket 6 forward while pulling the bucket 6 forward based on the input conditions. Simulates a series of operations for carrying loads such as earth and sand inside.
  • the simulator unit 3102D sets the operation of the toe angle (penetration angle, angle in the middle of excavation), excavation trajectory (depth, position, length), boom raising position, engine speed, pump horsepower, etc. To generate a plurality of operation setting conditions and perform simulation. As a result, the simulator unit 3102D obtains a feature amount and a target index for each operation setting condition. In this way, the simulator unit 3102D can generate virtual work pattern information (hereinafter, “work pattern virtual information”). And simulator part 3102D inputs work pattern virtual information to reinforcement learning part 3102C, and reinforcement learning part 3102C can obtain an optimal work pattern.
  • work pattern virtual information hereinafter, “work pattern virtual information”.
  • simulator part 3102D inputs work pattern virtual information to reinforcement learning part 3102C, and reinforcement learning part 3102C can obtain an optimal work pattern.
  • the work pattern generation unit 3102 can acquire an optimal work pattern based only on the work pattern virtual information generated by the simulator unit 3102D.
  • the optimum control unit 3103 determines the current type of work specified by the acquisition request signal according to the acquisition request signal received from the excavator 100 through the communication device 320. Under the environmental conditions of the excavator 100, an optimal work pattern in which the target index of interest is relatively high (maximized) is output.
  • the target index of interest may be defined in advance or may be specified by an acquisition request signal transmitted from the excavator 100.
  • the optimum control unit 3103 outputs the optimum work pattern under the current environmental conditions of the excavator 100 based on the optimum work pattern for each of a plurality of different environmental conditions stored in the optimum work pattern DB 3100D.
  • the optimal control unit 3103 selects the optimal work pattern that matches the current environmental condition of the excavator 100 (specifically, the environmental condition corresponding to the current environmental condition information included in the acquisition request signal) from the optimal work pattern DB 3100D. Is extracted and output. Further, when the optimum work pattern DB 3100D does not have the optimum work pattern that matches the current environmental condition of the excavator 100, the optimum control unit 3103 selects the optimum work pattern corresponding to the environmental condition that is relatively close to the current environmental condition of the excavator 100. One or more may be extracted.
  • the optimal control unit 3103 performs a predetermined correction on the extracted one or more optimal work patterns based on the difference between the environmental conditions corresponding to the extracted optimal work patterns and the current environmental conditions of the excavator 100.
  • an optimum work pattern corresponding to the current environmental conditions of the excavator 100 may be output.
  • the optimal control unit 3103 uses the same method (algorithm) as the reinforcement learning unit 3102C and uses the simulator unit 3102D to autonomously operate based on a plurality of optimal work patterns stored in the optimal work pattern DB 3100D.
  • the optimal work pattern that maximizes the target index of the excavator 100 under the current environment may be uniquely output. That is, the optimum control unit 3103 maximizes the target index of the excavator 100 under the current environment autonomously while using the simulator unit 3102D based on the plurality of optimum work patterns stored in the optimum work pattern DB 3100D.
  • Artificial intelligence AI: Artificial Intelligence
  • that outputs an optimal work pattern to be performed may be mainly configured.
  • the optimum control unit 3103 can further increase the target index without using a correction method even when there is no optimum work pattern corresponding to the current environment of the excavator 100 in the optimum work pattern DB 3100D. It is possible to output the optimal work pattern with high evaluation.
  • the optimal control unit 3103 transmits the output optimal work pattern to the excavator 100 that is the transmission source of the acquisition request signal through the communication device 320.
  • the optimum control unit 3103 feeds back the added optimum work pattern to the optimum work pattern DB 3100D, that is, adds it, and updates the optimum work pattern DB 3100D.
  • a work pattern corresponding to a new environmental condition is added to the optimum work pattern DB 3100D, or the work pattern in the optimum work pattern DB 3100D is updated to a work pattern having a higher evaluation regarding the target index. Therefore, the optimum control unit 3103 can output an optimum work pattern having a higher evaluation regarding the target index in accordance with the update of the optimum work pattern DB 3100D.
  • the above-described series of operations of the work pattern generation unit 3102 is repeatedly executed as new information is acquired from the excavator 100 or the like by the information acquisition unit 3101 and the excavator work related information DB 3100A is updated. Therefore, the optimum work pattern DB 3100D is also updated by a series of operations of the work pattern generation unit 3102. Therefore, the optimum control unit 3103 can output an optimum work pattern having a higher evaluation regarding the target index in accordance with the update of the optimum work pattern DB 3100D.
  • FIG. 5 is a diagram for explaining the operation of the driving support system SYS. Specifically, FIG. 5 shows an attachment when the excavator 100 is caused to work by the machine control function using the optimum work pattern output from the driving support system SYS (management device 300) according to the present embodiment. It is a figure which compares a lifetime and the lifetime of an attachment when an operator (beginner operator and a skilled operator) makes the shovel 100 work manually.
  • the length of the vertical bar indicates the variation range
  • the black circle indicates the average value
  • the driving support system SYS (management device 300) outputs an optimum work pattern with a relatively high (maximized) evaluation regarding the target index under the current environmental conditions of the excavator 100, and the excavator. 100 driving assistance is provided.
  • the driving support system SYS (management device 300) outputs an optimum work pattern in the loading work by the excavator 100, with the embankment at the realization site as the current environmental condition and the speed of work as the target index.
  • the excavator 100 can execute an optimal series of operations from holding the earth and sand, turning the upper revolving structure 3 to discharging the earth.
  • the driving support system SYS (management device 300) according to the present embodiment gives the excavator 100 a work pattern with a relatively high evaluation regarding the target index of interest in a certain type of work regardless of the operator's skill level. Can be done. Therefore, the driving support system SYS can improve the excavator work efficiency, energy efficiency (fuel consumption), durability, and the like. In addition, the driving support system SYS can support an operator's operation in a work that involves repetitive operations such as excavation work, loading work, and rolling work.
  • the driving support system SYS uses the slowness of the crack generated in the attachment of the excavator 100 as a target index, it can slow down the crack as much as possible and earn time. For the purpose of grasping and repairing the situation, it is possible to suppress the situation where the actual work on site stops.
  • the target index is the length of the specification life of the attachment as an example
  • the service life of the attachment is short and the variation is large.
  • the average service life of the attachments Both the value and the maximum value are longer than when the supervised learning work pattern is used.
  • the driving support system SYS (management device 300) updates the optimum work pattern DB 3100D as described above.
  • the service life of the attachment is more improved than before the update.
  • the average value can be further increased and the variation can be further reduced.
  • FIG. 6 is a functional block diagram showing another example of the functional configuration related to the machine learning function and the driving support function in the driving support system SYS. Specifically, FIG. 6 is a functional block diagram illustrating another example of a functional configuration related to the machine learning function and the driving support function in the management apparatus 300 (control apparatus 310).
  • the management device 300 (control device 310) generates an optimal setup pattern in addition to the optimal work pattern.
  • “Setup” means a combination of work contents (work patterns), and “work contents” means a combination of operation patterns.
  • setup includes, for example, the order of construction at the construction site (excavation position, excavation amount, temporary placement position, temporary placement amount, slope position, etc.), dump truck turning position, dump truck turning count, dump truck This is a combination of work patterns that take into account the number of units, the number of construction machines (excavators, etc.), soil quality, presence / absence of buried objects, and location.
  • the management apparatus 300 (control apparatus 310) generates an optimal work pattern corresponding to each work pattern included in the optimal setup pattern and the optimal setup pattern.
  • the “setup pattern” and the “work pattern” are collectively referred to as a “setup / work pattern”.
  • the control device 310 includes an information acquisition unit 3101X, a setup / work pattern generation unit 3102X, and an optimal control unit 3103X as functional units.
  • the control device 310 uses the storage unit 3100X.
  • the storage unit 3100X includes an excavator setup / work related information DB 3100AX, a teacher DB 3100BX, a supervised learning setup / work pattern DB 3100CX, and an optimum setup / work pattern DB 3100DX.
  • the information acquisition unit 3101X acquires upload data such as work pattern record information and environmental condition record information from one or more excavators 100 and work site images from one or more flying objects 200. Further, the information acquisition unit 3101X generates performance information related to setup (hereinafter, “setup performance information”) from the acquired work pattern performance information group. Further, the information acquisition unit 3101X may acquire setup result information from one or a plurality of excavators 100. Then, the information acquisition unit 3101X stores (registers) the work pattern information, the environmental condition result information, the setup result information, and the work site image in the excavator setup / work related information DB constructed in the storage unit 3100X.
  • setup performance information performance information related to setup
  • the excavator setup / work-related information DB is organized in such a manner that data can be extracted for each setup constituted by a series of work contents of the excavator 100 and for each combination (type) of work contents constituting the setup.
  • Work pattern result information, environmental condition result information, and work site images are stored in the excavator setup / work related information DB (Data (Base) 3100AX of the storage unit 3100X.
  • Data (Base) 3100AX of the storage unit 3100X.
  • a set of setup result information and environmental condition result information for each setup stored in the excavator setup / work related information DB 3100AX will be referred to as “excavator setup related information” for convenience.
  • the setup / work pattern generation unit 3102X is based on the shovel setup / related information stored in the excavator setup / work related information DB 3100AX, for each combination (type) of the target work content, and for each target index.
  • An optimal setup pattern is generated for each different environmental condition in which the evaluation regarding the target index is relatively high, in other words, the evaluation is maximized.
  • the setup / work pattern generation unit 3102X includes a setup / work evaluation unit 3102AX, a supervised learning unit 3102BX, a reinforcement learning unit 3102CX, and a simulator unit 3102DX.
  • the setup / work evaluation unit 3102AX has a relatively high evaluation regarding the target index for each target index targeted from the excavator setup / related information stored in the excavator setup / work related information DB 3100AX.
  • the excavator setup related information exceeding a predetermined standard is extracted.
  • a feature quantity related to the evaluation is defined for each target index, and the setup / work evaluation unit 3102AX extracts the feature quantity from the excavator setup related information, and from the extracted feature quantity Evaluate each excavator setup related information.
  • the target indicators related to setup may include working time (shortness), working personnel (lowness), required fuel (lowness), CO2 emission amount (lowness), and the like.
  • the feature amount related to setup may include the number of excavations, the number of turns, the turning angle, the amount of soil for each excavation, the amount of soil for each loading, and the like.
  • the setup / work evaluation unit 3102AX stores the extracted excavator setup-related information in the teacher DB 3100BX as teacher data for supervised learning.
  • teacher data (excavator setup-related information) is organized so that data can be extracted for each combination (type) of work content and for each target index.
  • the supervised learning unit 3102BX performs known machine learning (supervised learning) for each combination (type) of work content and for each target index based on the teacher data stored in the teacher DB 3100BX. Then, as a result of supervised learning, the supervised learning unit 3102BX generates a setup pattern for each of a plurality of different environmental conditions (hereinafter, “supervised learning setup pattern”) that has a relatively high evaluation regarding the target index. At this time, the part that evaluates the target index may be in a mode of using the function of the setup / work evaluation unit 3102AX. The same applies to the reinforcement learning unit 3102CX.
  • the plurality of supervised learning setup patterns generated are stored in a supervised learning setup / work pattern DB 3100CX in which data is arranged so that it can be extracted for each environmental condition.
  • the reinforcement learning unit 3102CX uses the supervised learning setup / work pattern DB 3100CX as a starting point for supervised learning setup patterns for each of different environmental conditions, and performs reinforcement learning for each combination (type) of work content and for each target index.
  • a work pattern optimal work pattern
  • the reinforcement learning unit 3102CX causes the simulator unit 3102DX to repeatedly perform a simulation related to the setup of the target combination, and autonomously increases the so-called reward, that is, the work pattern that increases the evaluation regarding the target target index.
  • an optimal work pattern under certain environmental conditions is generated.
  • the reinforcement learning unit 3102CX can generate an optimal work pattern under environmental conditions that are not included in the supervised learning setup pattern by using the simulator unit 3102DX.
  • the generated plurality of optimum work patterns are stored in the optimum setup / work pattern DB 3100DX in which data is arranged so that it can be extracted for each combination (type) of work contents and for each environmental condition.
  • the simulator unit 3102DX can perform an operation simulation related to the setup of the excavator 100 based on input conditions such as environmental conditions, construction conditions, setup patterns, and the like, for each combination (type) of work contents. Thereby, the simulator unit 3102DX can generate a setup pattern. Therefore, the reinforcement learning unit 3102CX not only performs reinforcement learning based on the past setup pattern (setup result information) acquired by the information acquisition unit 3101X, but also uses reinforcement learning based on information about a new setup pattern generated by the simulator unit 3102DX. It can be performed.
  • FIG. 7 is a diagram for explaining an example of the operation simulation of the excavator 100 related to the construction site setup by the simulator unit 3102DX.
  • a slope SL for carrying out sediment to the general road 720 is formed, and the dump truck DT enters the work site 710 for carrying out the sediment.
  • an excavation range 711 is set in the work site 710, and temporary storage areas 712 and 713 are set around the excavation range 711.
  • another excavation range 714 is set in the work site 710, and a temporary sediment storage area 715 is set around the excavation range 714.
  • the simulator unit 3102DX performs the excavation work related to the excavation range 711, the earth discharging work to the temporary storage areas 712 and 713, and the temporary storage areas 712 and 713 of the dump truck DT under this construction condition. Simulate the setup corresponding to the combination with sediment loading work. Further, the simulator unit 3102DX performs the excavation work related to the excavation range 714, the earth discharging work to the temporary storage area 715, and the work of loading the earth and sand in the temporary storage area 715 to the dump truck DT under the same construction conditions. Simulate the setup corresponding to the combination.
  • the simulator unit 3102DX generates, for example, a plurality of different operation setting conditions such as the position, orientation, movement path, and work order of the excavator 100, and performs simulation. As a result, the simulator unit 3102DX obtains a feature amount and a target index for each operation setting condition. In this manner, the simulator unit 3102DX can generate virtual setup pattern information (hereinafter, “setup pattern virtual information”). Then, the simulator unit 3102DX inputs the setup pattern virtual information to the reinforcement learning unit 3102CX, and the reinforcement learning unit 3102CX can obtain the optimum setup pattern. Further, when the simulation is performed, the position and the like of the general road 720 are set as non-changeable elements, the temporary placement areas 712 and 713, the excavation range 714, and the like are set as changeable elements.
  • setup pattern virtual information virtual setup pattern information
  • the setup / work pattern generation unit 3102X can acquire the optimal setup pattern based only on the setup pattern virtual information generated by the simulator unit 3102DX.
  • the optimal control unit 3103X In response to the acquisition request signal received from the excavator 100 through the communication device 320, the optimal control unit 3103X performs a combination of work contents of the type specified by the acquisition request signal under the current environmental conditions of the excavator 100. An optimal setup pattern in which the target index of interest is relatively high (maximized) is output. The target index of interest may be defined in advance or may be specified by an acquisition request signal transmitted from the excavator 100. Specifically, the optimum control unit 3103X outputs the optimum work pattern under the current environmental conditions of the excavator 100 based on the optimum work pattern for each of a plurality of different environmental conditions stored in the optimum setup / work pattern DB 3100DX. .
  • the optimum control unit 3103X selects an optimum that matches the current environmental condition of the excavator 100 (specifically, the environmental condition corresponding to the current environmental condition information included in the acquisition request signal) from the optimum setup / work pattern DB 3100DX.
  • a setup pattern is extracted and output.
  • the optimum control unit 3103X when the optimum setup pattern that matches the environmental condition of the current excavator 100 is not in the optimum setup / work pattern DB 3100DX, the optimum setup corresponding to the environmental condition relatively close to the current environmental condition of the excavator 100.
  • One or more patterns may be extracted.
  • the optimum control unit 3103X performs a predetermined correction on the extracted one or more optimum setup patterns based on the difference between the environmental condition corresponding to the extracted optimum setup pattern and the current environmental condition of the excavator 100.
  • an optimal setup pattern corresponding to the current environmental conditions of the excavator 100 may be output.
  • the optimal control unit 3103X uses the same method (algorithm) as the reinforcement learning unit 3102CX and uses the simulator unit 3102DX, based on a plurality of optimal setup patterns stored in the optimal setup / work pattern DB 3100DX.
  • the optimum setup pattern that maximizes the target index of the excavator 100 in the current environment may be uniquely output autonomously. That is, the optimal control unit 3103X autonomously uses the simulator unit 3102DX based on a plurality of optimal setup patterns stored in the optimal setup / work pattern DB 3100DX, and automatically sets the target index in the current environment of the excavator 100. It may be configured around artificial intelligence that outputs an optimal setup pattern to be maximized.
  • the optimal control unit 3103X can perform the correction without using a method such as correction even when there is no optimal setup pattern corresponding to the current environment of the excavator 100 in the optimal setup / work pattern DB 3100DX. It is possible to output the optimal setup pattern with high evaluation regarding the target index.
  • the optimal control unit 3103X transmits the output optimal setup pattern to the excavator 100, which is the transmission source of the acquisition request signal, through the communication device 320.
  • the optimum control unit 3103X feeds back, ie adds, the output optimum setup pattern to the optimum setup / work pattern DB 3100DX, and updates the optimum setup / work pattern DB 3100DX.
  • a work pattern corresponding to a new environmental condition is added to the optimum setup / work pattern DB 3100DX, or the work pattern in the optimum setup / work pattern DB 3100DX is updated to a work pattern having a higher evaluation regarding the target index. Therefore, the optimum control unit 3103X can output an optimum setup pattern with higher evaluation regarding the target index in accordance with the update of the optimum setup / work pattern DB 3100DX.
  • the series of operations described above of the setup / work pattern generation unit 3102X is repeated as new information is acquired from the excavator 100 or the like by the information acquisition unit 3101X and the excavator setup / work related information DB 3100AX is updated. Executed. Therefore, the optimum setup / work pattern DB 3100DX is also updated by a series of operations of the setup / work pattern generation unit 3102X. Therefore, the optimum control unit 3103X can output an optimum setup pattern with higher evaluation regarding the target index in accordance with the update of the optimum setup / work pattern DB 3100DX.
  • FIG. 8 and 9 are functional block diagrams showing still another example of the functional configuration related to the machine learning function and the driving support function in the driving support system SYS.
  • FIG. 8 is a functional block diagram illustrating a configuration of the driving support system SYS according to the present example
  • FIG. 9 illustrates an excavator that is not illustrated in FIG. 8 among the configurations of the driving support system SYS according to the present example.
  • FIG. 2 is a functional block diagram showing 100 components.
  • the machine learning function and the driving support function are mounted on the excavator 100.
  • the description will be focused on the parts specific to this example, and redundant description may be omitted.
  • the controller 30 of the excavator 100 compares the current terrain shape acquisition unit F1 and the target terrain shape acquisition unit F2 as functional units realized by executing one or more programs installed in the auxiliary storage device on the CPU.
  • a Department F 41, and the turning spool displacement amount calculating section F 42 including the turning angle calculation unit F 43.
  • the current terrain shape acquisition unit F1 (an example of the environment information acquisition unit) is based on the captured image of the imaging device 80 and information (for example, three-dimensional) about the current terrain shape around the excavator 100 (hereinafter, “current terrain shape”). 3D data such as point cloud and surface).
  • the target terrain shape acquisition unit F2 acquires a target terrain shape (for example, a target construction surface) (hereinafter, “target terrain shape”) at the construction site.
  • a target terrain shape for example, a target construction surface
  • the comparison unit F3 compares the current terrain shape with the target terrain shape, and outputs information regarding the difference (hereinafter, “difference information”) to the learning unit F100.
  • the work start determination unit F4 determines the start of work according to a command received from the management apparatus 300 through the communication device T1.
  • the setup / work setting unit F5 sets the content of the work included in the setup and setup at the work site in accordance with a command received from the management apparatus 300 through the communication device T1.
  • the contents of the setup and work to be set are input to the learning unit F100 and the operation content determination unit F6.
  • the operation content determination unit F6 determines the operation content according to the setup and work content set by the setup / work setting unit F5 in response to a command from the learning unit F100. Further, the determined operation content is input to the learning unit F100 and the operation command generation unit F7.
  • the operation command generation unit F7 (an example of a control unit) is a command from the learning unit F100, the operation content determined by the operation content determination unit F6, and the work part of the bucket 6 calculated by the bucket current position calculation unit F10 (for example,
  • the operation command of the excavator 100 that is, the operation command of the actuator that drives the driven element of the excavator 100 is generated according to the current position (hereinafter referred to as “bucket current position”) of the toe and the back surface.
  • the generated operation command is input to the learning unit F100 and the operation limiting unit F8.
  • the operation restriction unit F8 restricts the operation of the excavator 100 corresponding to the operation command generated by the operation command generation unit F7 according to a predetermined operation restriction condition (including a case where the operation is stopped).
  • the operation restriction condition may include, for example, “a part other than the work site of the excavator 100 may come into contact with a surrounding object due to the operation of the excavator 100 corresponding to the operation command”. Further, the operation restriction condition may include, for example, “departing from the allowable range of the angular velocity of the operation axis of the attachment by the operation of the excavator 100 corresponding to the operation command”.
  • the operation restriction unit F8 when the operation restriction condition is satisfied, provides a corrected operation command obtained by correcting the operation command generated by the operation command generation unit F7 so that the operation of the excavator 100 is restricted. It outputs to the calculation part F9.
  • the operation restriction unit F8 when the operation restriction condition is not satisfied, the operation restriction unit F8 outputs the operation command generated by the operation command generation unit F7 to the command value calculation unit F9 as it is.
  • the command value calculation unit F9 is based on the operation command or the correction operation command input from the operation limiting unit F8, and each driven element (the boom 4, the arm 5, the bucket 6, the upper swing body 3, and the left and right sides of the lower traveling body 1) Command value for crawler) is output.
  • the command value calculation unit F9 includes a boom command value ⁇ * for the boom 4, an arm command value ⁇ * for the arm 5, a bucket command value ⁇ * for the bucket 6, a turning command value ⁇ * for the upper swing body 3, A right travel command value ⁇ 1 * for the right crawler and a left travel command value ⁇ 2 * for the left crawler are output.
  • the bucket current position calculation unit F10 calculates the current position (bucket current position) of the work part of the bucket 6. Specifically, boom angle ⁇ , arm angle ⁇ , bucket angle ⁇ , right drive wheel rotation angle fed back from boom angle calculation unit F13, arm angle calculation unit F23, bucket angle calculation unit F33, turning angle calculation unit F43, and the like. Based on ⁇ 1 and the left drive wheel rotation angle ⁇ 2, the bucket current position is calculated.
  • the boom current command generation unit F11 outputs a boom current command to the boom proportional valve 31A.
  • the boom spool displacement amount calculation unit F12 calculates the displacement amount of the boom spool constituting the control valve 175 corresponding to the boom cylinder 7 based on the output of the boom spool displacement sensor S16.
  • the boom angle calculation unit F13 calculates the boom angle ⁇ based on the output of the boom angle sensor S11.
  • the boom current command generation unit F11 basically controls the boom proportional valve so that the difference between the boom command value ⁇ * generated by the command value calculation unit F9 and the boom angle ⁇ calculated by the boom angle calculation unit F13 becomes zero.
  • a boom current command for 31A is generated.
  • the boom current command generation unit F11 sets the boom current command so that the difference between the target boom spool displacement amount derived from the boom current command and the boom spool displacement amount calculated by the boom spool displacement amount calculation unit F12 becomes zero. Adjust. Then, the boom current command generation unit F11 outputs the adjusted boom current command to the boom proportional valve 31A.
  • the boom proportional valve 31A changes the opening area according to the boom current command, and causes the pilot pressure corresponding to the magnitude of the boom command current to act on the pilot port of the control valve 175.
  • the control valve 175 moves the boom spool according to the pilot pressure, and causes the hydraulic oil to flow into the boom cylinder 7.
  • the boom spool displacement sensor S16 detects the displacement of the boom spool and feeds back the detection result to the boom spool displacement amount calculation unit F12 of the controller 30.
  • the boom cylinder 7 expands and contracts in response to the inflow of hydraulic oil, and moves the boom 4 up and down.
  • the boom angle sensor S11 detects the rotation angle of the boom 4 that moves up and down, and feeds back the detection result to the boom angle calculation unit F13 of the controller 30.
  • the boom angle calculation unit F13 feeds back the calculated boom angle ⁇ to the bucket current position calculation unit F10.
  • the arm current command generation unit F21 outputs an arm current command to the arm proportional valve 31B.
  • the arm spool displacement amount calculation unit F22 calculates the displacement amount of the arm spool constituting the control valve 176 corresponding to the arm cylinder 8 based on the output of the arm spool displacement sensor S17.
  • the arm angle calculation unit F23 calculates the arm angle ⁇ based on the output of the arm angle sensor S12.
  • the arm current command generation unit F21 basically includes an arm proportional valve so that the difference between the arm command value ⁇ * generated by the command value calculation unit F9 and the arm angle ⁇ calculated by the arm angle calculation unit F23 becomes zero. An arm current command for 31B is generated. At this time, the arm current command generation unit F21 determines that the difference between the target arm spool displacement amount derived from the arm current command and the arm spool displacement amount calculated by the arm spool displacement amount calculation unit F22 is zero. Adjust. The arm current command generation unit F21 outputs the adjusted arm current command to the arm proportional valve 31B.
  • the arm proportional valve 31B changes the opening area in accordance with the arm current command, and causes the pilot pressure corresponding to the magnitude of the arm command current to act on the pilot port of the control valve 176.
  • the control valve 176 moves the arm spool according to the pilot pressure and causes the hydraulic oil to flow into the arm cylinder 8.
  • the arm spool displacement sensor S17 detects the displacement of the arm spool and feeds back the detection result to the arm spool displacement amount calculation unit F22 of the controller 30.
  • the arm cylinder 8 expands and contracts according to the inflow of hydraulic oil, and opens and closes the arm 5.
  • the arm angle sensor S12 detects the rotation angle of the arm 5 to be opened and closed, and feeds back the detection result to the arm angle calculation unit F23 of the controller 30.
  • the arm angle calculation unit F23 feeds back the calculated arm angle ⁇ to the bucket current position calculation unit F10.
  • the bucket current command generator F31 outputs a bucket current command to the bucket proportional valve 31C.
  • the bucket spool displacement amount calculation unit F32 calculates the displacement amount of the bucket spool constituting the control valve 174 corresponding to the bucket cylinder 9 based on the output of the bucket spool displacement sensor S18.
  • the bucket angle calculation unit F33 calculates the bucket angle ⁇ based on the output of the bucket angle sensor S13.
  • the bucket current command generation unit F31 basically includes a bucket proportional valve so that the difference between the bucket command value ⁇ * generated by the command value calculation unit F9 and the bucket angle ⁇ calculated by the bucket angle calculation unit F33 becomes zero.
  • a bucket current command for 31C is generated.
  • the bucket current command generation unit F31 determines that the difference between the target bucket spool displacement amount derived from the bucket current command and the bucket spool displacement amount calculated by the bucket spool displacement amount calculation unit F32 is zero. Adjust. Then, the bucket current command generation unit F31 outputs the adjusted bucket current command to the bucket proportional valve 31C.
  • the bucket proportional valve 31C changes the opening area in accordance with the bucket current command, and causes the pilot pressure corresponding to the magnitude of the bucket command current to act on the pilot port of the control valve 174.
  • the control valve 174 moves the bucket spool according to the pilot pressure, and causes the hydraulic oil to flow into the bucket cylinder 9.
  • the bucket spool displacement sensor S18 detects the displacement of the bucket spool and feeds back the detection result to the bucket spool displacement amount calculation unit F32 of the controller 30.
  • the bucket cylinder 9 expands and contracts according to the inflow of hydraulic oil, and opens and closes the bucket 6.
  • the bucket angle sensor S13 detects the rotation angle of the bucket 6 that opens and closes, and feeds back the detection result to the bucket angle calculation unit F33 of the controller 30.
  • the bucket angle calculation unit F33 feeds back the calculated bucket angle ⁇ to the bucket current position calculation unit F10.
  • the turning current command generator F41 outputs a turning current command to the turning proportional valve 31D.
  • the swing spool displacement amount calculation unit F42 calculates the displacement amount of the swing spool constituting the control valve 173 corresponding to the swing hydraulic motor 2A based on the output of the swing spool displacement sensor S19.
  • the turning angle calculation unit F43 calculates the turning angle ⁇ based on the output of the turning angle sensor S15.
  • the swing current command generation unit F41 is basically a swing proportional valve so that the difference between the swing command value ⁇ * generated by the command value calculation unit F9 and the swing angle ⁇ calculated by the swing angle calculation unit F43 becomes zero. A turning current command for 31D is generated. At this time, the swing current command generation unit F41 determines that the difference between the target swing spool displacement amount derived from the swing current command and the swing spool displacement amount calculated by the swing spool displacement amount calculation unit F42 is zero. Adjust. Then, the swing current command generation unit F41 outputs the adjusted swing current command to the swing proportional valve 31D.
  • the swing proportional valve 31D changes the opening area according to the swing current command, and applies a pilot pressure corresponding to the magnitude of the swing command current to the pilot port of the control valve 173.
  • the control valve 173 moves the swing spool in accordance with the pilot pressure, and causes hydraulic oil to flow into the swing hydraulic motor 2A.
  • the orbiting spool displacement sensor S19 detects the displacement of the orbiting spool and feeds back the detection result to the orbiting spool displacement amount calculation unit F42 of the controller 30.
  • the turning hydraulic motor 2 ⁇ / b> A rotates in response to the inflow of hydraulic oil, and turns the upper turning body 3.
  • the turning angle sensor S15 detects the turning angle of the upper turning body 3 that turns, and feeds back the detection result to the turning angle calculation unit F43 of the controller 30.
  • the turning angle calculation unit F43 feeds back the calculated turning angle ⁇ to the bucket current position calculation unit F10.
  • the right crawler and the left crawler of the lower traveling body 1 have feedback loops similar to those of other driven elements (working bodies) such as the boom 4, the arm 5, the bucket 6, and the upper swing body 3. That is, a feedback loop based on the input of the right travel command value ⁇ 1 * and the left travel command value ⁇ 2 * generated by the command value calculation unit F9 is configured. From the feedback loop, the right drive wheel rotation angle ⁇ 1 and the left drive wheel rotation angle ⁇ 2 representing the rotation positions (rotation angles) of the drive wheels of the right crawler and the left crawler are fed back to the bucket current position calculation unit F10.
  • the controller 30 constitutes a three-stage feedback loop for each driven element (working body). That is, the controller 30 constitutes a feedback loop related to the spool displacement amount, a feedback loop related to the rotation angle of the driven element (working body), and a feedback loop related to the position of the working part of the bucket 6 (for example, the position of the toe). . Thereby, the controller 30 can control the movement of the working part of the bucket 6 with high accuracy during automatic control.
  • the learning unit F100 (an example of the result information acquisition unit, the generation unit, and the output unit) realizes a machine learning function and a driving support function. That is, the learning unit F100 has the same functions as the information acquisition unit 3101X, the setup / work pattern generation unit 3102X, and the optimal control unit 3103X of the management device 300 (control device 310) described above.
  • the learning unit F100 is based on the actual information acquired during the actual work and setup while allowing the own machine (the excavator 100) to perform the actual work and setup. , Do reinforcement learning.
  • the performance information includes performance information regarding the setup, work, and operation of the excavator 100 fed back from the setup / work setting unit F5, the operation content determination unit F6, and the operation command generation unit F7.
  • the track record information includes track record information related to environmental conditions such as the current terrain shape information around the excavator 100 input from the current terrain shape acquisition unit F1 via the comparison unit F3.
  • the performance information includes performance information related to results of the excavator 100 such as difference information from the comparison unit F3, such as setup, work, and operation.
  • the learning unit F100 has a work pattern (optimum work pattern) that makes the target index relatively high starting from the performance information for each work type or combination of work contents (type) and for each environmental condition.
  • a setup pattern (optimal setup pattern) can be generated.
  • the learning unit F100 sets a command corresponding to the optimum work pattern and the optimum setup pattern under the current environmental conditions (that is, the current terrain shape).
  • F5 the operation content determination unit F6, and the operation command generation unit F7.
  • the controller 30 (operation command generation part F7) can control an own machine (excavator 100) automatically or semi-automatically based on the optimal work pattern and the optimal setup pattern.
  • FIG. 10 is a diagram for explaining the operation of the driving support system SYS. Specifically, it is a diagram for explaining the operation of the driving support system SYS (the learning unit F100 mounted on the excavator 100) shown in FIGS.
  • the excavator 100 performs an operation of constructing a slope (target construction surface 1001) by embankment.
  • the slope is constructed continuously toward the depth with respect to the paper surface.
  • the construction area is divided into a plurality of sections in the traveling direction of the excavator 100. Then, in one section, when construction is completed from the butt to the shoulder or from the butt, the construction moves to the next adjacent section, and the construction of the next section is started.
  • the excavator 100 discharges the earth and sand contained in the bucket 6 along the slope in order to fill the difference between the target construction surface 1001 and the current slope shape.
  • the discharged earth and sand collapses on the heel side of the slope, resulting in a different shape (actual shape 1003) from the assumed shape 1002.
  • a difference in earth and sand characteristics, a change in weather, and the like are considered.
  • the learning unit F100 of the excavator 100 performs reinforcement learning using the current operation content, work content, setup, and the result (actual shape 1003) as performance information.
  • the learning unit F100 of the excavator 100 updates the optimum work pattern and the optimum setup pattern in the form of adding a scooping operation during the earthing work under the same environmental conditions.
  • a scooping operation for return is performed, and the earth and sand shape is formed into the assumed shape 1002.
  • a work pattern having a high reward is extracted in environmental information such as a difference in similar sediment characteristics and weather, and the construction work is continued based on the extracted work pattern. Therefore, even in the return operation, the return can be quickly performed by reinforcement learning by the learning unit F100.
  • the performance in one section can be used in the next section.
  • the excavator 100 performs the scooping operation at the time of earth removal under the control of the controller 30 (learning unit F100) under the same environmental conditions. Therefore, the excavator 100 (controller 30) can autonomously improve the work of the own machine so that the target index (for example, work efficiency) becomes relatively high.
  • the target index for example, work efficiency
  • the operation device 26 is a hydraulic type that outputs a pilot pressure according to an operation state by an operator, but may be an electric type that outputs an electric signal.
  • the control valve 17 may include an electromagnetic pilot control valve.
  • the controller 30 can perform control related to the machine guidance function or the machine control function while directly grasping the operation state from the electric signal input from the electric operation device.
  • the excavator 100 uploads work pattern performance information and the like to the management apparatus 300, acquires the optimum work pattern from the management apparatus 300, and controls the machine control function based on the optimum work pattern.
  • the present invention is not limited to this mode.
  • an excavator that uploads work pattern record information or the like to the management apparatus 300 may be different from an excavator that is a target of driving support by the driving support system SYS (management apparatus 300).
  • the excavator that uploads work pattern record information and the like to the management apparatus 300 does not need to have a machine guidance function or a machine control function.
  • the work pattern record information, the environmental condition record information, the work site image, and the like are uploaded from the excavator 100 and the flying object 200 to the management device 300, but the present invention is not limited to this mode.
  • work pattern record information, environmental condition record information, work site images, and the like recorded on the excavator 100 and the flying object 200 are read out to a storage device outside the excavator 100 and the flying object 200 by a predetermined method. .
  • a mode in which a service person or the like visits a facility corresponding to the management apparatus 300 and transfers data such as work pattern record information, environmental condition record information, and work site image from the storage apparatus to the management apparatus 300 may be possible. .
  • the work pattern record information is configured based on the detection information output from the state detection device S1 mounted on the excavator 100, but is not limited to this aspect.
  • the work pattern performance information may be configured based on detection information of a sensor (for example, a camera, a LIDAR, a millimeter wave radar, or the like) that observes the work of the excavator 100 from the outside.
  • the detection information of the sensor may be uploaded or recorded in a predetermined storage device, and data may be transferred to the management device 300 by an operator or the like visiting a facility corresponding to the management device 300.
  • the function of the optimum control unit 3103 is provided in the management device 300, but may be provided in the excavator 100.
  • a data set corresponding to the optimum work pattern DB 3100D is distributed in advance from the management apparatus 300 to the excavator 100.
  • the optimum work pattern DB 3100D is updated by the management apparatus 300, an updated version of the data set is distributed from the management apparatus 300 to the excavator 100.
  • the excavator 100 is configured to hydraulically drive all the various operating elements such as the lower traveling body 1, the upper swing body 3, the boom 4, the arm 5, and the bucket 6. A part of the configuration may be electrically driven. That is, the configuration disclosed in the above-described embodiment may be applied to a hybrid excavator, an electric excavator, or the like.
  • controller 31 operation valve 40 display device 42 input device 80 imaging device 80B, 80F, 80L, 80R camera 100 excavator (construction machine) DESCRIPTION OF SYMBOLS 200 Aircraft 300 Management apparatus 301 Information transmission part 302 Work pattern acquisition part 303 Machine guidance part 310 Control apparatus 320 Communication apparatus 330 Operation input apparatus 340 Display apparatus 3100 Storage part 3100A Excavator work related information DB 3100B Teacher DB 3100C Supervised learning work pattern DB 3100D Optimal work pattern DB 3101, 3101X Information acquisition unit (result information acquisition unit) 3102 Work pattern generation unit (generation unit) 3102A Work evaluation unit 3102AX Setup / work evaluation unit 3102B, 3102BX Supervised learning unit 3102C, 3102CX Reinforcement learning unit 3102D, 3102DX Simulator unit 3102X Setup / work pattern generation unit (generation unit) 3103, 3103X Optimal control unit (environmental condition acquisition unit, output unit) F1 Current topography acquisition unit (

Abstract

目標指標に関する評価がより高い支援データを出力することが可能な建設機械の運転支援システムを提供する。本発明の一実施形態に係る建設機械の運転支援システムは、所定の目標指標に関する評価が相対的に高くなるように、建設機械の複数の作業パターン又は段取りパターンを生成する生成部と、支援対象の建設機械の環境情報を取得する環境情報取得部と、生成部により生成される複数の作業パターン又は段取りパターンに基づき、環境情報取得部により取得される環境情報に対応する環境下において、支援対象の建設機械の作業の目標指標に関する評価が相対的に高くなるような作業パターン又は段取りパターンを出力する出力部と、を備える。

Description

建設機械の運転支援システム、建設機械
 本発明は、建設機械の運転支援システム等に関する。
 例えば、過去の作業機械の操作データのうちの作業品質の高い操作データを用いて、建設機械の操作者の支援を行う操作支援システムが知られている(例えば、特許文献1等参照)。
特開2016-210816号公報
 しかしながら、過去の実績データのうちの作業品質の高い実績データを用いる手法では、ある目標指標(例えば、作業の速さ等)に関する評価が過去の実績を超える支援データを出力することができない。よって、目標指標に関する評価を最適化(最大化)させる観点において、改善の余地がある。
 そこで、上記課題に鑑み、目標指標に関する評価がより高い支援データを出力することが可能な建設機械の運転支援システム等を提供することを目的とする。
 上記目的を達成するため、本発明の一実施形態では、
 所定の目標指標に関する評価が相対的に高くなるように、建設機械の複数の作業パターン又は段取りパターンを生成する生成部と、
 支援対象の建設機械の環境情報を取得する環境情報取得部と、
 前記生成部により生成される複数の作業パターンに基づき、前記環境情報取得部により取得される環境情報に対応する環境下において、支援対象の建設機械の作業の前記目標指標に関する評価が相対的に高くなるような作業パターン又は段取りパターンを出力する出力部と、を備える、
 建設機械の運転支援システムが提供される。
 また、本発明の他の実施形態では、
 所定の目標指標に関する評価が相対的に高くなるように、自機の複数の作業パターン又は段取りパターンを生成する生成部と、
 自機の周囲の環境情報を取得する環境情報取得部と、
 前記生成部により生成される複数の作業パターン又は段取りパターンに基づき、前記環境情報取得部により取得される環境情報に対応する環境下において、前記目標指標に関する評価が相対的に高くなるような作業パターン又は段取りパターンを出力する出力部と、
 前記出力部により出力される作業パターン又は段取りパターンに基づき、自機の動作を制御する制御部と、を備える、
 建設機械が提供される。
 上述の実施形態によれば、目標指標に関する評価がより高い支援データを出力することが可能な建設機械の運転支援システム等を提供することができる。
運転支援システムの一例を示す概要図である。 運転支援システムの構成の一例を示す構成図である。 運転支援システムにおける機械学習機能及び運転支援機能に関する機能構成の一例を示す機能ブロック図である。 シミュレータ部による作業パターンに関するショベルの動作シミュレーションの一例を説明する図である。 運転支援システムの作用を説明する図である。 運転支援システムにおける機械学習機能及び運転支援機能に関する機能構成の他の例を示す機能ブロック図である。 シミュレータ部による段取りに関する動作シミュレーションの一例を説明する図である。 運転支援システムにおける機械学習機能及び運転支援機能に関する機能構成の更に他の例を示す機能ブロック図である。 運転支援システムにおける機械学習機能及び運転支援機能に関する機能構成の更に他の例を示す機能ブロック図である。 運転支援システムの作用を説明する図である。
 以下、図面を参照して発明を実施するための形態について説明する。
 [運転支援システムの概要]
 まず、図1を参照して、運転支援システムSYSの概要について説明する。
 図1は、運転支援システムSYSの一例を示す概要図である。
 運転支援システムSYSは、複数のショベル100と、飛行体200と、管理装置300を含む。
 運転支援システムSYSは、複数のショベル100から所定の種別の作業(例えば、掘削作業、積込み作業、転圧作業等の繰り返し作業)の作業パターンに関する実績情報(以下、「作業パターン実績情報」)と、作業時の環境条件に関する実績情報(以下、「環境条件実績情報」)とを収集する。作業パターンとは、所定の種別の作業を行う際のショベル100の一連の動作の型を示す。例えば、作業パターンには、下部走行体1、上部旋回体3、ブーム4、アーム5、及び、バケット6等の動作要素の作業時の動作軌跡等が含まれる。また、作業パターン実績情報は、具体的に、ショベル100が実際に所定の種別の作業を行った際の当該ショベル100の作業パターンの実績を表す各種センサの検出情報等である。また、環境条件には、ショベル100の周辺環境に関する条件等の外的環境条件の他、ショベル100の動作に影響を与えるショベル100の可変される仕様(例えば、アームの長さ、バケットの種類等)等の内的環境条件が含まれうる。運転支援システムSYSは、収集した作業パターン実績情報及び環境条件実績情報に基づき、機械学習を行うことにより、ショベル100が所定の種別の作業を行う際の最適な作業パターン(最適作業パターン)を複数の環境条件ごとに生成する。最適作業パターンとは、所定の目標指標に関する評価が相対的に高くなるように生成される作業パターンである。このとき、目標指標には、例えば、作業の速さ、燃費の良さ、アタッチメントの寿命の長さ、衝撃荷重の発生頻度の少なさ、積込み作業における積込み量の多さ、アタッチメント等へのき裂発生後のき裂進展の遅さ等が含まれる。そして、運転支援システムSYSは、生成した当該複数の作業パターンに基づき、支援対象のショベル100の現在の環境条件下における最適作業パターンを出力し、当該最適作業パターンに沿ってショベル100が動作するように、オペレータの操作を支援する。
 尚、運転支援システムSYSは、ショベル100に代えて、或いは、加えて、他の種類の建設機械(例えば、アスファルトフィニッシャ、ブルドーザ等)を含んでもよい。また、飛行体200は、複数の現場ごとに、配備されてもよい。つまり、運転支援システムSYSは、複数の飛行体200を含んでもよい。
  <ショベルの概要>
 ショベル100(建設機械の一例)は、下部走行体1と、旋回機構2を介して旋回可能に下部走行体1に搭載される上部旋回体3と、アタッチメント(作業装置)としてのブーム4、アーム5、及び、バケット6と、キャビン10を備える。
 下部走行体1は、例えば、左右一対のクローラを含み、それぞれのクローラが走行油圧モータ1A,1B(図2参照)で油圧駆動されることにより、自走する。
 上部旋回体3は、旋回油圧モータ2A(図2参照)で駆動されることにより、下部走行体1に対して旋回する。
 ブーム4は、上部旋回体3の前部中央に俯仰可能に枢着され、ブーム4の先端には、アーム5が上下回動可能に枢着され、アーム5の先端には、バケット6が上下回動可能に枢着される。ブーム4、アーム5、及び、バケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、及び、バケットシリンダ9により油圧駆動される。
 キャビン10は、オペレータが搭乗する操縦室であり、上部旋回体3の前部左側に搭載される。
 ショベル100は、例えば、基地局を末端とする移動体通信網、上空の通信衛星を利用する衛星通信網、インターネット等を含む所定の通信ネットワークNWを通じて、管理装置300と相互に通信を行うことができる。これにより、ショベル100は、上述の作業パターン実績情報及び環境条件実績情報を含む各種情報を管理装置300に送信(アップロード)することができる。詳細は、後述する。
  <飛行体の概要>
 飛行体200は、ショベル100が作業する作業現場の上空を飛行する。このとき、飛行体200は、作業現場の地上にいる操作者が所持するリモコンからの操作指令に応じて、飛行してもよいし、予め規定された飛行ルート等に従い、自動的に飛行してもよい。
 飛行体200は、後述の如く、カメラ240を搭載し、作業現場の撮像画像(以下、「作業現場画像」を取得する。
 また、飛行体200は、通信ネットワークNWを通じて、管理装置300と相互に通信を行うことができる。これにより、飛行体200は、カメラ240により撮像された作業現場画像や、当該作業現場画像が撮像されたときの飛行体の向きを示す情報(以下、「飛行体向き情報」)及び位置を示す情報(「飛行***置情報」)を送信(アップロード)することができる。以下、詳細は、後述する。
  <管理装置の概要>
 管理装置300は、ショベル100と地理的に離れた位置に設置される端末装置である。管理装置300は、例えば、ショベル100が作業する作業現場外に設けられる管理センタ等に設置され、一又は複数のサーバコンピュータ等を中心に構成されるサーバ装置である。この場合、サーバ装置は、運転支援システムSYSを運用する事業者或いは当該事業者に関連する関連事業者が運営する自社サーバであってもよいし、いわゆるクラウドサーバであってもよい。
 管理装置300は、上述の如く、通信ネットワークNWを通じて、ショベル100及び飛行体200のそれぞれと相互に通信を行うことができる。これにより、管理装置300は、ショベル100からアップロードされる作業パターン実績情報及び環境条件実績情報や飛行体200からアップロードされる作業現場画像等を受信し、これらの情報に基づき、支援対象のショベル100に最適な作業パターンを生成することができる。詳細は、後述する。
 [運転支援システムの構成]
 次に、図1に加えて、図2を参照して、運転支援システムSYSの構成について説明する。
 図2は、運転支援システムSYSの構成の一例を示す構成図である。
 尚、図中において、機械的動力ラインは二重線、高圧油圧ラインは太い実線、パイロットラインは破線、電気駆動・制御ラインは細い実線でそれぞれ示される。
  <ショベルの構成>
 本実施形態に係るショベル100の油圧アクチュエータを油圧駆動する油圧駆動系は、エンジン11と、メインポンプ14と、レギュレータ14aと、コントロールバルブ17を含む。また、本実施形態に係るショベル100の油圧駆動系は、上述の如く、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6のそれぞれを油圧駆動する走行油圧モータ1A,1B、旋回油圧モータ2A、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9等の油圧アクチュエータを含む。
 エンジン11は、油圧駆動系におけるメイン動力源であり、例えば、上部旋回体3の後部に搭載される。具体的には、エンジン11は、後述するエンジン制御装置(ECU:Engine Control Unit)74による制御下で、予め設定される目標回転数で一定回転し、メインポンプ14及びパイロットポンプ15を駆動する。エンジン11は、例えば、軽油を燃料とするディーゼルエンジンである。
 レギュレータ14aは、メインポンプ14の吐出量を制御する。例えば、レギュレータ14aは、コントローラ30からの制御指令に応じて、メインポンプ14の斜板の角度(傾転角)を調節する。
 メインポンプ14は、例えば、エンジン11と同様、上部旋回体3の後部に搭載され、高圧油圧ライン16を通じてコントロールバルブ17に作動油を供給する。メインポンプ14は、上述の如く、エンジン11により駆動される。メインポンプ14は、例えば、可変容量式油圧ポンプであり、上述の如く、コントローラ30による制御の下、レギュレータ14aにより斜板の傾転角が調節されることでピストンのストローク長が調整され、吐出流量(吐出圧)が制御されうる。
 コントロールバルブ17は、例えば、上部旋回体3の中央部に搭載され、オペレータによる操作装置26に対する操作に応じて、油圧駆動系の制御を行う油圧制御装置である。コントロールバルブ17は、上述の如く、高圧油圧ライン16を介してメインポンプ14と接続され、メインポンプ14から供給される作動油を、操作装置26の操作状態に応じて、油圧アクチュエータ(走行油圧モータ1A,1B、旋回油圧モータ2A、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9)に選択的に供給する。具体的には、コントロールバルブ17は、メインポンプ14から油圧アクチュエータのそれぞれに供給される作動油の流量と流れる方向を制御する複数の制御弁を含む。例えば、コントロールバルブ17は、ブーム4(ブームシリンダ7)に対応する制御弁175を含む(図9参照)。また、例えば、コントロールバルブ17は、アーム5(アームシリンダ8)に対応する制御弁176を含む(図9参照)。また、例えば、コントロールバルブ17は、バケット6(バケットシリンダ9)に対応する制御弁174を含む(図9参照)。また、例えば、コントロールバルブ17は、上部旋回体3(旋回油圧モータ2A)に対応する制御弁173を含む(図9参照)。また、例えば、コントロールバルブ17には、下部走行体1の右側のクローラ及び左側のクローラのそれぞれに対応する右走行制御弁及び左走行制御弁が含まれる。
 本実施形態に係るショベル100の操作系は、パイロットポンプ15と、操作装置26と、操作バルブ31を含む。
 パイロットポンプ15は、例えば、上部旋回体3の後部に搭載され、パイロットライン25を介して操作装置26及び操作バルブ31にパイロット圧を供給する。パイロットポンプ15は、例えば、固定容量式油圧ポンプであり、上述の如く、エンジン11により駆動される。
 操作装置26は、キャビン10の操縦席付近に設けられ、オペレータが各種動作要素(下部走行体1、上部旋回体3、ブーム4、アーム5、バケット6等)の操作を行うための操作入力手段である。換言すれば、操作装置26は、オペレータがそれぞれの動作要素を駆動する油圧アクチュエータ(即ち、走行油圧モータ1A,1B、旋回油圧モータ2A、ブームシリンダ7、アームシリンダ8、バケットシリンダ9等)の操作を行うための操作入力手段である。操作装置26は、その二次側のパイロットラインがコントロールバルブ17にそれぞれ接続される。これにより、コントロールバルブ17には、操作装置26における下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の操作状態に応じたパイロット圧が入力されうる。そのため、コントロールバルブ17は、操作装置26における操作状態に応じて、それぞれの油圧アクチュエータを駆動することができる。
 操作バルブ31は、コントローラ30からの制御指令(例えば、制御電流)に応じて、パイロットライン25の流路面積を調整する。これにより、操作バルブ31は、パイロットポンプ15から供給される一次側のパイロット圧を元圧として、二次側のパイロットラインに制御指令に対応するパイロット圧を出力することができる。操作バルブ31は、その二次側ポートが、コントロールバルブ17のそれぞれの油圧アクチュエータに対応する制御弁の左右のパイロットポートに接続され、コントローラ30からの制御指令に応じたパイロット圧を制御弁のパイロットポートに作用させる。これにより、コントローラ30は、オペレータにより操作装置26が操作されていない場合であっても、パイロットポンプ15から吐出される作動油を、操作バルブ31を介して、コントロールバルブ17内の対応する制御弁のパイロットポートに供給させ、油圧アクチュエータを動作させることができる。
 尚、操作バルブ31に加えて、油圧アクチュエータ内に発生する過剰な油圧を作動油タンクにリリーフする電磁リリーフ弁が設けられてもよい。これにより、オペレータによる操作装置26に対する操作量が過剰な場合等において、積極的に、油圧アクチュエータの動作を抑制させることができる。例えば、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9のボトム側油室及びロッド側油室のそれぞれの過剰な圧力を作動油タンクにリリーフする電磁リリーフ弁が設けられてよい。
 本実施形態に係るショベル100の制御系は、コントローラ30と、ECU74と、吐出圧センサ14bと、操作圧センサ15aと、表示装置40と、入力装置42と、撮像装置80と、状態検出装置S1と、通信機器T1を含む。
 コントローラ30は、ショベル100の駆動制御を行う。コントローラ30は、その機能が任意のハードウェア、ソフトウェア、或いは、その組み合わせにより実現されてよい。例えば、コントローラ30は、CPU(Central Processing Unit)等のプロセッサと、RAM(Random Access Memory)等のメモリ装置と、ROM(Read Only Memory)等の不揮発性の補助記憶装置と、各種入出力用のインタフェース装置等を含むコンピュータを中心に構成される。コントローラ30は、例えば、補助記憶装置にインストールされる各種プログラムをCPU上で実行することにより各種機能を実現する。以下、後述するECU74、飛行体200の制御装置210、及び、管理装置300の制御装置310についても同様である。
 例えば、コントローラ30は、オペレータ等の所定操作により予め設定される作業モード等に基づき、目標回転数を設定し、ECU74に制御指令を出力することより、ECU74を介して、エンジン11を一定回転させる駆動制御を行う。
 また、例えば、コントローラ30は、必要に応じてレギュレータ14aに対して制御指令を出力し、メインポンプ14の吐出量を変化させることにより、いわゆる全馬力制御やネガコン制御を行う。
 また、例えば、コントローラ30は、ショベル100に関する各種情報を管理装置300にアップロードする機能(以下、「アップロード機能」)。具体的には、コントローラ30は、ショベル100の所定の種別の作業時における作業パターン実績情報及び環境条件実績情報を、通信機器T1を通じて、管理装置300に送信(アップロード)してよい。コントローラ30は、例えば、補助記憶装置等にインストールされる一以上のプログラムをCPU上で実行することにより実現される、アップロード機能に関する機能部として、情報送信部301を含む。
 また、例えば、コントローラ30は、オペレータによる操作装置26を通じたショベル100の手動操作をガイド(案内)するマシンガイダンス機能に関する制御を行う。また、コントローラ30は、オペレータによる操作装置26を通じたショベル100の手動操作を自動的に支援するマシンコントロール機能に関する制御を行ってよい。コントローラ30は、例えば、補助記憶装置等にインストールされる一以上のプログラムをCPU上で実行することにより実現される、マシンガイダンス機能及びマシンコントロール機能に関する機能部として、作業パターン取得部302と、マシンガイダンス部303を含む。
 尚、コントローラ30の機能の一部は、他のコントローラ(制御装置)により実現されてもよい。即ち、コントローラ30の機能は、複数のコントローラにより分散される態様で実現されてもよい。例えば、上述したマシンガイダンス機能及びマシンコントロール機能は、専用のコントローラ(制御装置)により実現されてもよい。
 ECU74は、コントローラ30からの制御指令に応じて、エンジン11の各種アクチュエータ(例えば、燃料噴射装置等)を制御し、エンジン11を設定された目標回転数(設定回転数)で定回転させる(定回転制御)。このとき、ECU74は、エンジン回転数センサ11aにより検出されるエンジン11の回転数に基づき、エンジン11の定回転制御を行う。
 吐出圧センサ14bは、メインポンプ14の吐出圧を検出する。吐出圧センサ14bにより検出された吐出圧に対応する検出信号は、コントローラ30に取り込まれる。
 操作圧センサ15aは、上述の如く、操作装置26の二次側のパイロット圧、即ち、操作装置26におけるそれぞれの動作要素(油圧アクチュエータ)の操作状態に対応するパイロット圧を検出する。操作圧センサ15aによる操作装置26における下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の操作状態に対応するパイロット圧の検出信号は、コントローラ30に取り込まれる。
 表示装置40は、コントローラ30と接続され、コントローラ30による制御下で、キャビン10内の着座したオペレータから視認し易い位置に設けられ、各種情報画像を表示する。表示装置40は、例えば、液晶ディスプレイや有機EL(Electroluminescence)ディスプレイ等である。
 入力装置42は、キャビン10内の着座したオペレータから手が届く範囲に設けられ、オペレータによる各種操作を受け付け、操作内容に対応する信号を出力する。例えば、入力装置42は、表示装置40と一体化される。また、入力装置42は、表示装置40と別に設けられてもよい。入力装置42は、表示装置40のディスプレイに実装されるタッチパネル、操作装置26に含まれるレバーの先端に設けられるノブスイッチ、表示装置40の周囲に設置されるボタンスイッチ、レバー、トグル等を含む。入力装置42に対する操作内容に対応する信号は、コントローラ30に取り込まれる。
 撮像装置80は、ショベル100の周辺を撮像する。撮像装置80は、ショベル100の前方を撮像するカメラ80F、ショベル100の左方を撮像するカメラ80L、ショベル100の右方を撮像するカメラ80R、及び、ショベル100の後方を撮像するカメラ80Bを含む。
 カメラ80Fは、例えば、キャビン10の天井、即ち、キャビン10の内部に取り付けられている。また、カメラ80Fは、キャビン10の屋根、ブーム4の側面等、キャビン10の外部に取り付けられていてもよい。カメラ80Lは、上部旋回体3の上面左端に取り付けられ、カメラ80Rは、上部旋回体3の上面右端に取り付けられ、カメラ80Bは、上部旋回体3の上面後端に取り付けられている。
 撮像装置80(カメラ80F,80B,80L,80R)は、それぞれ、例えば、非常に広い画角を有する単眼の広角カメラである。また、撮像装置80は、ステレオカメラや距離画像カメラ等であってもよい。撮像装置80によるショベル100の周辺の撮像画像(以下、「周辺画像」)は、コントローラ30に取り込まれる。
 状態検出装置S1は、ショベル100の各種状態に関する検出情報を出力する。状態検出装置S1から出力される検出情報は、コントローラ30に取り込まれる。
 例えば、状態検出装置S1は、アタッチメントの姿勢状態や動作状態を検出する。具体的には、状態検出装置S1は、ブーム4、アーム5、及び、バケット6の俯仰角度(以下、それぞれ、「ブーム角度」、「アーム角度」、「バケット角度」)を検出してよい。つまり、状態検出装置S1は、ブーム角度、アーム角度、及びバケット角度のそれぞれを検出するブーム角度センサS11、アーム角度センサS12、及びバケット角度センサS13を含んでよい(図9参照)。また、状態検出装置S1は、ブーム4、アーム5、及び、バケット6の加速度、角加速度等を検出してよい。この場合、状態検出装置S1は、例えば、ブーム4、アーム5、及び、バケット6のそれぞれに取付けられる、ロータリエンコーダ、加速度センサ、角加速度センサ、6軸センサ、IMU(Inertial Measurement Unit:慣性計測装置)等を含みうる。また、状態検出装置S1は、ブーム4、アーム5、及び、バケット6のそれぞれを駆動するブームシリンダ7、アームシリンダ8、及び、バケットシリンダ9のシリンダ位置、速度、加速度等を検出するシリンダセンサを含みうる。
 また、例えば、状態検出装置S1は、機体、つまり、下部走行体1及び上部旋回体3の姿勢状態を検出する。具体的には、状態検出装置S1は、水平面に対する機体の傾斜状態を検出してよい。この場合、状態検出装置S1は、例えば、上部旋回体3に取り付けられ、上部旋回体3の前後方向及び左右方向の2軸回りの傾斜角度(以下、「前後傾斜角」及び「左右傾斜角」)を検出する傾斜センサを含みうる。
 また、例えば、状態検出装置S1は、上部旋回体3の旋回状態を検出する。具体的には、状態検出装置S1は、上部旋回体3の旋回角速度や旋回角度を検出する。この場合、状態検出装置S1は、例えば、上部旋回体3に取り付けられるジャイロセンサ、レゾルバ、ロータリエンコーダ等を含みうる。つまり、状態検出装置S1は、上部旋回体3の旋回角度等を検出する旋回角度センサS15を含んでよい。
 また、例えば、状態検出装置S1は、アタッチメントを通じてショベル100に作用する力の作用状態を検出する。具体的には、状態検出装置S1は、油圧アクチュエータの作動圧(シリンダ圧)を検出してよい。この場合、状態検出装置S1は、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9のそれぞれのロッド側油室及びボトム側油室の圧力を検出する圧力センサを含みうる。
 また、例えば、状態検出装置S1は、コントロールバルブ17内の制御弁のスプールの変位を検出するセンサを含んでよい。具体的には、状態検出装置S1は、制御弁175を構成するブームスプールの変位を検出するブームスプール変位センサS16を含んでよい。また、状態検出装置S1は、制御弁176を構成するアームスプールの変位を検出するアームスプール変位センサS17を含んでよい。また、状態検出装置S1は、制御弁174を構成するバケットスプールの変位を検出するバケットスプール変位センサS18を含んでよい。また、状態検出装置S1は、制御弁173を構成する旋回スプールの変位を検出する旋回スプール変位センサS19を含んでよい。また、状態検出装置S1は、右走行制御弁及び左走行制御弁のそれぞれを構成する右走行スプール及び左走行スプールの変位を検出する右走行スプール変位センサ及び左走行スプール変位センサを含んでよい。
 また、例えば、状態検出装置S1は、ショベル100の位置や上部旋回体3の向き等を検出する。この場合、状態検出装置S1は、例えば、上部旋回体3に取り付けられるGNSS(Global Navigation Satellite System)コンパス、GNSSセンサ、方位センサ等を含みうる。
 通信機器T1は、通信ネットワークNWを通じて外部機器と通信を行う。通信機器T1は、例えば、LTE(Long Term Evolution)、4G(4th Generation)、5G(5th Generation)等の移動体通信規格に対応する移動体通信モジュールや、衛星通信網に接続するための衛星通信モジュール等である。以下、飛行体200の通信機器220についても同様である。
 情報送信部301は、ショベル100の所定の種別の作業時における作業パターン実績情報及び環境条件実績情報を、通信機器T1を通じて、管理装置300に送信する。情報送信部301により送信される作業パターン実績情報には、例えば、状態検出装置S1から入力される各種検出情報が含まれる。また、情報送信部301により送信される環境条件実績情報には、例えば、撮像装置80から入力されるショベル100の周辺画像が含まれる。また、情報送信部301により送信される環境条件実績情報には、ショベル100の内的環境条件、例えば、大容量バケット仕様、ロングアーム仕様、クイックカップリング仕様等の可変される仕様に関する情報が含まれてもよい。情報送信部301は、例えば、予め規定される対象の種別の作業が行われているか否かを逐次判定し、対象の種別の作業が行われていると判定すると、当該作業が行われている期間の作業パターン実績情報(つまり、状態検出装置S1から入力される各種検出情報)及び環境条件情報(つまり、撮像装置80から入力されるショベル100の周辺画像)を紐付けて、内部メモリ等に記録する。このとき、併せて、対象の種別の作業の開始及び終了に関する日時情報、並びに、当該作業時のショベル100の位置情報が、作業パターン実績情報及び環境条件実績情報のセットに更に紐付けられる態様で、内部メモリに保存されてもよい。これにより、管理装置300は、飛行体200からアップロードされる作業現場画像の中から、ショベル100から送信された作業パターン実績情報及び環境条件実績情報のセットに対応する作業現場画像を抽出することができる。このとき、日時情報は、例えば、コントローラ30内部の所定の計時手段(例えば、RTC(Real Time Clock))から取得されうる。そして、情報送信部301は、ショベル100のキーオフ時(停止時)等の所定のタイミングにおいて、記録された作業パターン実績情報及び環境条件実績情報のセットを、通信機器T1を通じて、管理装置300に送信する。また、情報送信部301は、対象の種別の作業が行われるたびに、その終了後、記録された作業パターン実績情報及び環境条件実績情報のセットを、通信機器T1を通じて、管理装置300に送信してもよい。
 尚、環境条件実績情報には、撮像装置80に代えて、或いは、加えて、ショベル100に搭載される他のセンサにより検出される検出情報が含まれてよい。例えば、ショベル100には、ミリ波レーダ、LIDAR(Light Detecting and Ranging)等の他のセンサが搭載され、環境条件実績情報には、これらの距離センサの検出情報が含まれる態様であってもよい。以下、後述する現環境条件情報についても同様である。また、環境条件実績情報には、天候情報が含まれてもよい。天候情報は、例えば、状態検出装置S1に含まれうる雨滴感知センサ、照度センサ等の検出情報が含まれうる。また、情報送信部301は、作業パターン実績情報だけを管理装置300に送信してもよい。この場合、管理装置300は、ショベル100の作業現場の上空を飛行する飛行体200により撮像された撮像画像に基づき、ショベル100から送信された作業パターン実績情報に対応する環境条件実績情報を生成することができる。また、情報送信部301は、状態検出装置S1の検出情報や撮像装置80によるショベル100の周辺画像を、通信機器T1を通じて、逐次、管理装置300にアップロードしてもよい。この場合、管理装置300は、ショベル100からアップロードされる情報の中から対象の種別の作業が行われたときの情報を抽出し、作業パターン実績情報及び環境情報を生成してよい。
 作業パターン取得部302は、所定の種別の作業を行う場合に、所定の目標指標に関する現在の環境条件に最適の作業パターン(最適作業パターン)を管理装置300から取得する。例えば、作業パターン取得部302は、オペレータによる入力装置42に対する所定操作(以下、「取得要求操作」)に応じて、ショベル100の現在の環境条件に関する情報(以下、「現環境条件情報」)を含む、作業パターンの取得を要求する信号(取得要求信号)を、通信機器T1を通じて、管理装置300に送信する。これにより、管理装置300は、ショベル100の現在の環境条件に合わせた最適な作業パターンをショベル100に提供できる。現環境条件情報には、例えば、撮像装置80によるショベル100の最新の周辺画像が含まれる。また、現環境条件情報には、ショベル100の内的環境条件、例えば、大容量バケット仕様、ロングアーム仕様、クイックカップリング仕様等の可変される仕様に関する情報が含まれてもよい。また、現環境条件情報には、状態検出装置S1に含まれうる雨滴感知センサや照度センサ等の検出情報、つまり、天候情報が含まれてもよい。そして、作業パターン取得部302は、取得要求信号に応じて管理装置300から送信され、通信機器T1により受信される作業パターンに関する情報を取得する。
 尚、作業パターン取得部302は、取得要求信号の送信に併せて、現環境条件情報を管理装置300に送信しなくてもよい。この場合、管理装置300は、飛行体200からアップロードされる、対象のショベル100の作業現場に対応する作業現場画像に基づき、ショベル100の現在の環境条件(外的環境条件)を判断することができる。また、管理装置300は、飛行体200からアップロードされる飛行***置情報等に基づき、ショベル100の現場の環境条件としての天候情報を、気象情報に関するサーバやウェブサイトから取得してもよい。
 マシンガイダンス部303は、マシンガイダンス機能及びマシンコントロール機能に関する制御を行う。つまり、マシンガイダンス部303は、オペレータによる操作装置26を通じた各種動作要素(下部走行体1、上部旋回体3、並びに、ブーム4、アーム5、及びバケット6を含むアタッチメント)の操作を支援する。
 例えば、マシンガイダンス部303は、オペレータにより操作装置26を通じてアーム5の操作が行われている場合に、予め規定される目標設計面(以下、単に「設計面」)とバケット6の先端部(例えば、爪先や背面)とが一致するように、ブーム4及びバケット6の少なくとも一つを自動的に動作させてよい。また、マシンガイダンス部303は、併せて、アーム5を操作する操作装置26の操作状態に依らず、アーム5を自動的に動作させてもよい。つまり、マシンガイダンス部303は、オペレータによる操作装置26の操作をトリガにして、予め規定された動作をアタッチメントに行わせてよい。
 より具体的には、マシンガイダンス部303は、状態検出装置S1、撮像装置80、通信機器T1、及び入力装置42等から各種情報を取得する。また、マシンガイダンス部303は、例えば、取得した情報に基づいてバケット6と設計面との間の距離を算出する。そして、マシンガイダンス部303は、算出したバケット6と設計面との距離等に応じて、操作バルブ31を適宜制御し、油圧アクチュエータに対応する制御弁に作用するパイロット圧を個別に且つ自動的に調整することにより、それぞれの油圧アクチュエータを自動的に動作させることができる。操作バルブ31には、例えば、ブーム4(ブームシリンダ7)に対応するブーム比例弁31Aが含まれる(図9参照)。また、操作バルブ31には、例えば、アーム5(アームシリンダ8)に対応するアーム比例弁31Bが含まれる(図9参照)。また、操作バルブ31には、例えば、バケット6(バケットシリンダ9)に対応するバケット比例弁31Cが含まれる(図9参照)。また、操作バルブ31には、例えば、上部旋回体3(旋回油圧モータ2A)に対応する旋回比例弁31Dが含まれる(図9参照)。また、操作バルブ31には、例えば、下部走行体1の右側のクローラ及び左側のクローラのそれぞれに対応する右走行比例弁及び左走行比例弁が含まれる。
 マシンガイダンス部303は、例えば、掘削作業を支援するために、操作装置26に対するアーム5の開閉操作に応じて、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9の少なくとも一つを自動的に伸縮させてよい。掘削作業は、設計面に沿ってバケット6の爪先で地面を掘削する作業である。マシンガイダンス部303は、例えば、オペレータが操作装置26に対して手動でアーム5の閉じ方向の操作(以下、「アーム閉じ操作」)を行っている場合に、ブームシリンダ7及びバケットシリンダ9のうちの少なくとも一つを自動的に伸縮させる。
 また、マシンガイダンス部303は、例えば、法面や水平面の仕上げ作業(転圧作業)を支援するためにブームシリンダ7、アームシリンダ8、及び、バケットシリンダ9の少なくとも一つを自動的に伸縮させてもよい。転圧作業は、バケット6の背面を地面に押さえ付けながら設計面に沿ってバケット6を手前に引く作業である。マシンガイダンス部303は、例えば、オペレータが操作装置26に対して手動でアーム閉じ操作を行っている場合に、ブームシリンダ7及びバケットシリンダ9の少なくとも一つを自動的に伸縮させる。これにより、所定の押し付け力でバケット6の背面を完成前の斜面(法面)或いは水平面に押し付けながら、完成後の法面或いは水平面である設計面に沿ってバケット6を移動させることができる。
 また、マシンガイダンス部303は、上部旋回体3を設計面に正対させるために旋回油圧モータ2Aを自動的に回転させてもよい。この場合、マシンガイダンス部303は、入力装置42に含まれる所定のスイッチが操作されることにより、上部旋回体3を設計面に正対させてよい。また、マシンガイダンス部303は、所定のスイッチが操作されるだけで、上部旋回体3を設計面に正対させ且つマシンコントロール機能を開始させてもよい。
 また、例えば、マシンガイダンス部303は、所定の種別の作業(例えば、掘削作業、積込み作業、転圧作業等)が行われている場合に、オペレータによる操作装置26に対する操作に応じて、アタッチメント、上部旋回体3、及び、下部走行体1の少なくとも一部の動作を、作業パターン取得部302により取得された作業パターン(最適作業パターン)に合わせるように制御する。これにより、オペレータは、ショベル100の操縦に関する習熟度に依らず、ショベル100の動作を、所定の目標指標、例えば、作業の速さの評価が相対的に高くなるように管理装置300(後述する最適制御部3103)から出力される、現在のショベル100の環境条件に最適な作業パターンに合わせることができる。
 また、マシンガイダンス部303は、最適作業パターンに基づき、ショベル100の動作の制御を行いながら、オペレータに対して、当該最適作業パターンに対応するショベル100の動作を表示装置40に表示させてもよい。例えば、マシンガイダンス部303は、最適作業パターンに基づき、ショベル100の動作の制御を行っている場合、最適作業パターンに対応する、後述のシミュレータ部3102Dによるシミュレーション結果の動画を表示装置40に表示させる。これにより、オペレータは、実際の作業パターンの内容を表示装置40の動画で確認しながら、作業を進めることができる。
  <飛行体の構成>
 飛行体200は、遠隔操作又は自動操縦により飛行させることができる自律式飛行体であり、例えば、マルチコプタ、飛行船等を含みうる。本実施形態では、図1に示すように、飛行体200は、クワッドコプタである。
 飛行体200は、制御装置210と、通信機器220と、自律航行装置230と、カメラ240と、測位装置250を含む。
 制御装置210は、飛行体200に関する各種制御を行う。
 例えば、制御装置210は、カメラ240から逐次入力される作業現場画像を、通信機器220を通じて、管理装置300に送信する。また、制御装置210は、管理装置300から作業現場画像の送信要求があった場合に、通信機器220を通じて、カメラ240から入力された作業現場画像を管理装置300に送信してもよい。また、制御装置210は、ある程度の期間、バッファリングされる作業現場画像を、所定のタイミングで、まとめて、通信機器220を通じて、管理装置300に送信してもよい。また、制御装置210は、作業現場画像を管理装置300に送信する際、それぞれの撮像画像に対応する位置情報や日時情報を併せて、管理装置300に送信してもよい。このとき、日時情報は、例えば、制御装置210の内部の所定の計時手段(例えば、RTC)から取得されうる。
 通信機器220は、通信ネットワークNWを通じて、外部機器と通信を行う。具体的には、通信機器220は、制御装置210による制御下で、管理装置300との間で通信を行う。通信機器220は、制御装置210と接続され、外部から受信される各種情報は、制御装置210に取り込まれる。
 自律航行装置230は、飛行体200の自律航行を実現するためのデバイスである。自律航行装置230は、例えば、飛行制御装置、電動モータ、及び、バッテリ等を含む。また、飛行体200は、飛行体200の位置を独自に判断するためにGNSS受信機を搭載していてもよい。また、バッテリではなく、有線接続を介して地上の外部電源を用いる場合には、電圧変換を行うコンバータを搭載していてもよい。また、飛行体200はソーラーパネルを搭載していてもよい。飛行制御装置は、ジャイロセンサ、加速度センサ、気圧センサ、超音波センサ等の各種センサを含み、姿勢維持機能、高度維持機能等を実現する。電動モータは、バッテリから電力の供給を受けてプロペラを回転させる。自律航行装置230は、例えば、制御装置210から目標飛行位置に関する情報を受け付けると、4つのプロペラの回転速度を別々に制御し、飛行体200の姿勢及び高度を維持しながら飛行体200を目標飛行位置に移動させる。目標飛行位置に関する情報は、例えば、目標飛行位置の緯度、経度、及び、高度である。制御装置210は、通信機器220を通じて、目標飛行位置に関する情報を外部から取得する。自律航行装置230は、制御装置210から目標向きに関する情報を受け付けると、飛行体200の向きを変化させてもよい。
 カメラ240は、飛行体200の飛行領域の下にある作業現場の様子を撮像する。カメラ240は、例えば、飛行体200の鉛直下方を撮像できるように、飛行体200の下面等に取り付けられてよい。カメラ240により撮像された撮像画像(作業現場画像)は、制御装置210に取り込まれる。
 測位装置250は、飛行体200の位置や向き等を検出する。例えば、測位装置250は、GNSSコンパス、GNSSセンサ、方位センサ(地磁気センサ)等を含みうる。測位装置250による検出情報は、制御装置210に取り込まれる。
 尚、測位装置250は、自律航行装置230(飛行制御装置)に内蔵されてもよい。
  <管理装置の構成>
 管理装置300は、制御装置310と、通信機器320と、操作入力装置330と、表示装置340を含む。
 制御装置310は、管理装置300の各種制御を行う。
 例えば、制御装置310は、収集した作業パターン実績情報及び環境条件実績情報に基づき、機械学習(教師あり学習及び強化学習)を行うことにより、ショベル100が所定の種別の作業を行う際の最適な作業パターン(最適作業パターン)を複数の環境条件ごとに生成する機能(以下、「機械学習機能」)に関する制御を行う。また、制御装置310は、生成した当該複数の作業パターンに基づき、支援対象のショベル100の現在の環境条件下における最適作業パターンを出力する機能(以下、「運転支援機能」)に関する制御を行う。
 制御装置310は、例えば、補助記憶装置等にインストールされる一以上のプログラムをCPU上で実行することにより実現される、機械学習機能及び運転支援機能に関連する機能部として、情報取得部3101と、作業パターン生成部3102と、最適制御部3103とを含む。また、制御装置310は、制御装置310の内部の不揮発性の記憶装置に規定される、機械学習機能及び運転支援機能に関連する記憶領域としての記憶部3100を含む。管理装置300における機械学習機能及び運転支援機能に関連する構成の詳細については、後述する(図3参照)。
 尚、記憶部3100は、制御装置310の外部に設けられてもよい。
 通信機器320は、通信ネットワークNWを通じて、外部機器、つまり、ショベル100及び飛行体200と相互に通信を行う。通信機器320は、制御装置310と接続され、外部から受信される各種情報は、制御装置310に取り込まれる。
 操作入力装置330は、管理装置300の作業者や管理者等による操作入力を受け付け、受け付けた操作入力の内容に対応する信号を出力する。操作入力装置330は、制御装置310に接続され、操作入力の内容に対応する信号は、制御装置310に取り込まれる。
 表示装置340は、例えば、液晶ディスプレイや有機ELディスプレイ等であり、制御装置310による制御下で、各種情報画像を表示する。
 [機械学習機能及び運転支援機能の一例]
 次に、図3、図4を参照して、運転支援システムSYSにおける機械学習機能及び運転支援機能の一例について説明する。
 図3は、運転支援システムSYSにおける機械学習機能及び運転支援機能に関する機能構成の一例を示す機能ブロック図である。具体的には、図3は、管理装置300(制御装置310)における機械学習機能及び運転支援機能に関する機能的な構成の一例を示す機能ブロック図である。
 情報取得部3101(実績情報取得部の一例)は、一又は複数のショベル100からの作業パターン実績情報及び環境条件実績情報や一又は複数の飛行体200からの作業現場画像等のアップロードデータを取得する。そして、情報取得部3101は、1回のショベル100の作業ごと且つ作業の種別ごとに、データ抽出可能な態様に整理される、記憶部3100のショベル作業関連情報DB(Data Base)3100Aに作業パターン実績情報、環境条件実績情報、及び、作業現場画像を格納する。このとき、情報取得部3101は、作業現場画像の中から対応する作業現場のショベル100からアップロードされた作業パターン実績情報及び環境条件実績情報と同じ日時近辺で取得された作業現場画像だけを抽出し、環境条件実績情報の中に抽出した作業現場画像を組み込む態様であってよい。また、情報取得部3101は、通信機器320を通じて、気象情報に関するサーバやウェブサイトにアクセスし、ショベル100からアップロードされた作業パターン実績情報及び環境条件情報と同じ日時の天候情報を取得し、環境条件実績情報に組み込む態様であってもよい。以下、ショベル作業関連情報DB3100Aに格納される1回の作業ごとの作業パターン実績情報及び環境条件実績情報等のセットを便宜的に「ショベル作業関連情報」と称する。
 作業パターン生成部3102(生成部の一例)は、ショベル作業関連情報DB3100Aに格納される、1回の作業ごとの作業パターン実績情報及び環境条件実績情報等に基づき、対象となる作業種別ごと、且つ、対象となる目標指標ごとに、目標指標に関する評価が相対的に高い、換言すれば、当該評価が最大化された、異なる環境条件ごとの最適作業パターンを生成する。
 作業パターン生成部3102は、作業評価部3102Aと、教師あり学習部3102Bと、強化学習部3102Cと、シミュレータ部3102Dを含む。
 作業評価部3102Aは、ショベル作業関連情報DB3100Aの中に格納される1回の作業ごとのショベル作業関連情報の中から対象となる目標指標ごとに、目標指標に関する評価が相対的に高い、具体的には、所定基準以上のショベル作業関連情報を抽出する。
具体的には、対象となる目標指標ごとに評価に関連する特徴量が規定されており、作業評価部3102Aは、ショベル作業関連情報の中から特徴量を抽出し、抽出した特徴量からそれぞれのショベル作業関連情報を評価する。例えば、積込み作業における作業の速さを目標指標とする場合、特徴量には、旋回速度、積込み量、掘削軌道(深さ、位置、長さ)、掘削中間での角度、ブーム上げ位置、バケット軌道(持ち上げ旋回時、下げ旋回時、排土時、吊り移動時)、エンジン回転数、ポンプ馬力等が含まれうる。また、掘削作業におけるアタッチメントの寿命の長さを目標指標とする場合、特徴量には、バケット6の爪先の貫入角度、掘削力の大きさ等が含まれうる。作業評価部3102Aは、抽出したショベル作業関連情報を教師あり学習の教師データとして、作業種別ごと、且つ、対象の目標指標ごとにデータ抽出可能にデータが整理された教師DB3100Bに格納する。
 教師あり学習部3102Bは、教師DB3100Bに格納される教師データに基づき、作業種別ごと、且つ、目標指標ごとに、既知の機械学習(教師あり学習)を行い、目標指標に関する評価が相対的に高い、複数の異なる環境条件ごとの作業パターン(以下、「教師あり学習作業パターン」)を生成する。このとき、目標指標に関する評価を行う部分については、作業評価部3102Aの機能を利用する態様であってよい。以下、強化学習部3102Cの場合についても同様である。生成された複数の教師あり学習作業パターンは、環境条件ごとに抽出可能にデータが整理された教師あり学習作業パターンDB3100Cに格納される。
 強化学習部3102Cは、教師あり学習作業パターンDB3100Cの複数の異なる環境条件ごとの教師あり学習作業パターンを起点として、所定の評価条件に基づき、作業種別ごと、且つ、目標指標ごとに、強化学習を行う。そして、強化学習部3102Cは、目標指標が更に高い、複数の異なる環境条件ごとの作業パターン(最適作業パターン)を生成する。具体的には、強化学習部3102Cは、シミュレータ部3102Dに対象の種別の作業のシミュレーションを繰り返し試行させ、自律的に、いわゆる報酬が多くなる、つまり、対象の目標指標に関する評価が高くなる作業パターンを選択しながら、最終的に、ある環境条件下での最適作業パターンを生成する。また、強化学習部3102Cは、シミュレータ部3102Dを利用することにより、教師あり学習作業パターンには含まれない環境条件下での最適作業パターンを生成することもできる。生成された複数の最適作業パターンは、作業種別ごと且つ環境条件ごとに抽出可能にデータが整理された最適作業パターンDB3100Dに格納される。
 シミュレータ部3102Dは、作業種別ごとに、入力される環境条件、作業条件、作業パターン等の入力条件に基づき、ショベル100の作業パターンに含まれる動作シミュレーションを行うことができる。これにより、シミュレータ部3102Dは、作業パターンを生成することができる。そのため、強化学習部3102Cは、情報取得部3101により取得される過去の作業パターン(作業パターン実績情報)に基づく強化学習だけでなく、シミュレータ部3102Dにより生成される新たな作業パターンに関する情報に基づく強化学習を行うことができる。
 例えば、図4は、シミュレータ部3102Dによる掘削作業におけるショベル100の動作シミュレーションの一例を説明する図である。
 図4(A)~(D)に示すように、掘削作業における動作シミュレーションでは、シミュレータ部3102Dは、入力条件に基づき、ショベル100がバケット6を接地させ、バケット6を手前に引きながら、バケット6内に土砂等の積載物を抱え込む一連の動作をシミュレーションする。
 この場合、シミュレータ部3102Dは、バケット6の爪先角度(貫入角度、掘削中間での角度)、掘削軌道(深さ、位置、長さ)、ブーム上げ位置、エンジン回転数、ポンプ馬力等の動作設定を変更して複数の動作設定条件を生成し、シミュレーションを行う。その結果、シミュレータ部3102Dは、動作設定条件ごとの特徴量、目標指標を得る。このようにして、シミュレータ部3102Dは、仮想的な作業パターン情報(以下、「作業パターン仮想情報」)を生成することができる。そして、シミュレータ部3102Dは、作業パターン仮想情報を強化学習部3102Cへ入力し、強化学習部3102Cは、最適作業パターンを得ることができる。
 尚、本実施形態では、情報取得部3101からの作業パターン実績情報を用いる事例も含まれるが、必ずしも作業パターン実績情報を用いる必要はない。つまり、作業パターン生成部3102は、シミュレータ部3102Dで生成される作業パターン仮想情報だけに基づき最適作業パターンが取得することもできる。
 最適制御部3103(環境情報取得部及び出力部の一例)は、通信機器320を通じて、ショベル100から受信される取得要求信号に応じて、当該取得要求信号で指定される種別の作業について、現在のショベル100の環境条件下で、対象の目標指標が相対的に高くなる(最大化する)最適作業パターンを出力する。対象の目標指標は、予め規定されていてもよいし、ショベル100から送信される取得要求信号で指定されていてもよい。具体的には、最適制御部3103は、最適作業パターンDB3100Dに格納される複数の異なる環境条件ごとの最適作業パターンに基づき、現在のショベル100の環境条件下での最適作業パターンを出力する。
 例えば、最適制御部3103は、最適作業パターンDB3100Dの中から現在のショベル100の環境条件(具体的には、取得要求信号に含まれる現環境条件情報に対応する環境条件)と一致する最適作業パターンを抽出し、出力する。また、最適制御部3103は、現在のショベル100の環境条件と一致する最適作業パターンが最適作業パターンDB3100Dにない場合、現在のショベル100の環境条件に比較的近い環境条件に対応する最適作業パターンを一又は複数抽出してよい。そして、最適制御部3103は、抽出した最適作業パターンに対応する環境条件と、現在のショベル100の環境条件との差異に基づき、抽出した一又は複数の最適作業パターンに対して所定の補正を施すことにより、現在のショベル100の環境条件に対応する最適作業パターンを出力してよい。
 また、例えば、最適制御部3103は、強化学習部3102Cと同様の手法(アルゴリズム)を用いて、シミュレータ部3102Dを利用しながら、最適作業パターンDB3100Dに格納される複数の最適作業パターンに基づき、自律的に、ショベル100の現在の環境下での目標指標が最大化する最適作業パターンを一意的に出力してもよい。つまり、最適制御部3103は、最適作業パターンDB3100Dに格納される複数の最適作業パターンに基づき、シミュレータ部3102Dを利用しながら、自律的に、ショベル100の現在の環境下での目標指標が最大化する最適作業パターンを出力する人工知能(AI:Artificial Intelligence)を中心に構成されてもよい。これにより、最適制御部3103は、最適作業パターンDB3100Dの中に、ショベル100の現在の環境下に対応する最適作業パターンが無い場合であっても、補正等の手法を用いることなく、より目標指標に関する評価の高い最適作業パターンを出力できる。
 最適制御部3103は、通信機器320を通じて、出力した最適作業パターンを取得要求信号の送信元であるショベル100に送信する。
 また、最適制御部3103は、出力した最適作業パターンを最適作業パターンDB3100Dにフィードバック、つまり、追加し、最適作業パターンDB3100Dを更新させる。これにより、新たな環境条件に対応する作業パターンが最適作業パターンDB3100Dに追加されたり、最適作業パターンDB3100Dの作業パターンが目標指標に関する評価が更に高い作業パターンに更新されたりする。よって、最適制御部3103は、最適作業パターンDB3100Dの更新に応じて、目標指標に関する評価が更に高い最適作業パターンを出力できるようになる。
 また、作業パターン生成部3102の上述した一連の動作も、情報取得部3101によるショベル100等から新たな情報が取得され、ショベル作業関連情報DB3100Aが更新されるのに応じて、繰り返し実行される。そのため、作業パターン生成部3102の一連の動作によっても、最適作業パターンDB3100Dが更新される。よって、最適制御部3103は、最適作業パターンDB3100Dの更新に応じて、目標指標に関する評価が更に高い最適作業パターンを出力できるようになる。
 [運転支援システムの作用]
 次に、図5を参照して、本実施形態に係る運転支援システムSYS(具体的には、図2、図3に示す運転支援システムSYS)の作用について説明する。
 図5は、運転支援システムSYSの作用を説明する図である。具体的には、図5は、本実施形態に係る運転支援システムSYS(管理装置300)から出力される最適作業パターンを利用して、マシンコントロール機能によりショベル100に作業をさせた場合のアタッチメントの寿命と、オペレータ(初心者オペレータ及び熟練オペレータ)が手動でショベル100に作業をさせた場合のアタッチメントの寿命とを比較する図である。
 尚、図中にて、縦棒の長さは、ばらつき範囲を示し、黒丸は、平均値を示す。
 運転支援システムSYS(管理装置300)は、上述の如く、ショベル100の現在の環境条件下で、対象の目標指標に関する評価が相対的に高い(最大化された)最適作業パターンを出力し、ショベル100の運転支援を行う。例えば、運転支援システムSYS(管理装置300)は、ショベル100による積込み作業において、実現場での盛り土を現在の環境条件とし、作業の速さを目標指標とする、最適作業パターンを出力することにより、土砂の抱え込み、上部旋回体3の旋回、そして、排土までの最適な一連の動作をショベル100に実行させることができる。また、例えば、既に、アタッチメント等にき裂が発見されているショベル100に対して、き裂進展が遅くなるような作業パターンを出力することにより、ショベル100でのき裂進展を遅くすることができる。つまり、本実施形態に係る運転支援システムSYS(管理装置300)は、オペレータの操作熟練度に依らず、ある種別の作業において、対象の目標指標に関する評価が相対的に高い作業パターンをショベル100に行わせることができる。よって、運転支援システムSYSは、ショベルの作業効率、エネルギ効率(燃費)、耐久性等を向上させることができる。また、運転支援システムSYSは、掘削作業、積込み作業、転圧作業等の繰り返し操作を伴う作業におけるオペレータの操作を支援できる。よって、オペレータの疲労を緩和することができる。また、運転支援システムSYSは、ショベル100のアタッチメント等に発生したき裂の進展の遅さを目標指標にする場合、当該き裂の進展をなるべく遅くし、時間を稼ぐことができるため、き裂の状況把握や補修のために、現場の実作業が停止してしまうような事態を抑制できる。
 具体的には、図5に示すように、目標指標がアタッチメントの仕様寿命の長さの場合を例にすると、初心者オペレータの場合、アタッチメントの使用寿命が短く、且つ、ばらつきが大きい。
 また、熟練オペレータの場合、アタッチメントの使用寿命が初心者オペレータより長くなり、ばらつきも初心者より小さくなる。しかしながら、手動での作業であるため、ある程度のばらつきが生じ得る。
 また、教師あり学習作業パターンを利用して、マシンコントロール機能によりショベル100に作業を行わせる場合、アタッチメントの使用寿命の平均値は上昇し、ばらつきもかなり小さくなる。しかしながら、教師データが過去の実績であるため、熟練オペレータの場合の使用寿命の最大値を超えることができない。
 これに対して、本実施形態に係る運転支援システムSYS(管理装置300)により出力される最適作業パターンを利用して、マシンコントロール機能によりショベル100に作業を行わせる場合、アタッチメントの使用寿命の平均値及び最大値ともに教師あり学習作業パターンを利用する場合よりも長くなる。
 また、運転支援システムSYS(管理装置300)は、上述の如く、最適作業パターンDB3100Dを更新する。これにより、図5に示すように、更新された最適作業パターンDBに基づく最適作業パターンを利用して、マシンコントロール機能によりショベル100に作業を行わせる場合、更新前よりも、アタッチメントの使用寿命の平均値を更に長くすることができると共に、ばらつきを更に小さくすることができる。
 [機械学習機能及び運転支援機能の他の例]
 次に、図6、図7を参照して、運転支援システムSYSにおける機械学習機能及び運転支援機能の他の例について説明する。
 図6は、運転支援システムSYSにおける機械学習機能及び運転支援機能に関する機能構成の他の例を示す機能ブロック図である。具体的には、図6は、管理装置300(制御装置310)における機械学習機能及び運転支援機能に関する機能的な構成の他の例を示す機能ブロック図である。
 本例では、管理装置300(制御装置310)は、最適作業パターンに加えて、最適段取りパターンを生成する。「段取り」は、作業内容(作業パターン)の組み合わせを意味し、「作業内容」は、動作パターンの組み合わせを意味する。具体的には、「段取り」は、例えば、施工現場における施工順番(掘削位置、掘削量、仮置き位置、仮置き量、スロープ位置等)、ダンプトラックの切返し位置、ダンプトラックの切返し回数、ダンプ台数、建設機械(ショベル等)の台数、土質、埋設物の有無や位置等を考慮した作業パターンの組み合わせである。つまり、管理装置300(制御装置310)は、最適段取りパターン、及び最適段取りパターンに含まれる各作業パターンに対応する最適作業パターンを生成する。以下、「段取りパターン」及び「作業パターン」を総括的に「段取り・作業パターン」と称する。また、本例では、段取りパターンや最適段取りパターンを中心に言及し、作業パターン及び最適作業パターン等の重複する記載を省略する場合がある。
 制御装置310は、機能部として、情報取得部3101Xと、段取り・作業パターン生成部3102Xと、最適制御部3103Xを含む。また、制御装置310は、記憶部3100Xを利用する。記憶部3100Xには、ショベル段取り・作業関連情報DB3100AXと、教師DB3100BXと、教師あり学習段取り・作業パターンDB3100CXと、最適段取り・作業パターンDB3100DXが含まれる。
 情報取得部3101Xは、一又は複数のショベル100からの作業パターン実績情報及び環境条件実績情報や一又は複数の飛行体200からの作業現場画像等のアップロードデータを取得する。また、情報取得部3101Xは、取得した作業パターン実績情報群から段取りに関する実績情報(以下、「段取り実績情報」)を生成する。また、情報取得部3101Xは、一又は複数のショベル100から段取り実績情報を取得してもよい。そして、情報取得部3101Xは、作業パターン情報、環境条件実績情報、段取り実績情報、及び作業現場画像を記憶部3100Xに構築されるショベル段取り・作業関連情報DBに格納(登録)する。ショベル段取り・作業関連情報DBは、ショベル100の一連の作業内容で構成される段取りごとに、且つ、段取りを構成する作業内容の組み合わせ(の種別)ごとにデータ抽出可能な態様に整理される。記憶部3100Xのショベル段取り・作業関連情報DB(Data Base)3100AXに作業パターン実績情報、環境条件実績情報、及び、作業現場画像を格納する。以下、ショベル段取り・作業関連情報DB3100AXに格納される1回の段取りごとの段取り実績情報及び環境条件実績情報等のセットを便宜的に「ショベル段取り関連情報」と称する。
 段取り・作業パターン生成部3102Xは、ショベル段取り・作業関連情報DB3100AXに格納されるショベル段取り関連情報に基づき、対象となる作業内容の組み合わせ(の種別)ごと、且つ、対象となる目標指標ごとに、目標指標に関する評価が相対的に高い、換言すれば、当該評価が最大化された、異なる環境条件ごとの最適段取りパターンを生成する。
 段取り・作業パターン生成部3102Xは、段取り・作業評価部3102AXと、教師あり学習部3102BXと、強化学習部3102CXと、シミュレータ部3102DXを含む。
 段取り・作業評価部3102AXは、ショベル段取り・作業関連情報DB3100AXの中に格納されるショベル段取り関連情報の中から対象となる目標指標ごとに、目標指標に関する評価が相対的に高い、具体的には、所定基準以上のショベル段取り関連情報を抽出する。具体的には、対象となる目標指標ごとに評価に関連する特徴量が規定されており、段取り・作業評価部3102AXは、ショベル段取り関連情報の中から特徴量を抽出し、抽出した特徴量からそれぞれのショベル段取り関連情報を評価する。例えば、段取りに関する目標指標には、作業時間(の短さ)、作業人員(の少なさ)、必要燃料(の少なさ)、CO2排出量(の少なさ)等が含まれうる。また、段取りに関する特徴量には、掘削回数、旋回回数、旋回角度、掘削ごとの土量、積込みごとの土量等が含まれうる。段取り・作業評価部3102AXは、抽出したショベル段取り関連情報を教師あり学習の教師データとして、教師DB3100BXに格納する。教師DB3100BXは、作業内容の組み合わせ(の種別)ごと、且つ、対象の目標指標ごとに、データ抽出可能に教師データ(ショベル段取り関連情報)が整理される。
 教師あり学習部3102BXは、教師DB3100BXに格納される教師データに基づき、作業内容の組み合わせ(の種別)ごと、且つ、目標指標ごとに、既知の機械学習(教師あり学習)を行う。そして、教師あり学習部3102BXは、教師あり学習の結果として、目標指標に関する評価が相対的に高い、複数の異なる環境条件ごとの段取りパターン(以下、「教師あり学習段取りパターン」)を生成する。このとき、目標指標に関する評価を行う部分については、段取り・作業評価部3102AXの機能を利用する態様であってよい。以下、強化学習部3102CXの場合についても同様である。生成された複数の教師あり学習段取りパターンは、環境条件ごとに抽出可能にデータが整理された教師あり学習段取り・作業パターンDB3100CXに格納される。
 強化学習部3102CXは、教師あり学習段取り・作業パターンDB3100CXの複数の異なる環境条件ごとの教師あり学習段取りパターンを起点として、作業内容の組み合わせ(の種別)ごと、且つ、目標指標ごとに、強化学習を行い、目標指標が更に高い、複数の異なる環境条件ごとの作業パターン(最適作業パターン)を生成する。具体的には、強化学習部3102CXは、シミュレータ部3102DXに対象の組み合わせの段取りに関するシミュレーションを繰り返し試行させ、自律的に、いわゆる報酬が多くなる、つまり、対象の目標指標に関する評価が高くなる作業パターンを選択しながら、最終的に、ある環境条件下での最適作業パターンを生成する。また、強化学習部3102CXは、シミュレータ部3102DXを利用することにより、教師あり学習段取りパターンには含まれない環境条件下での最適作業パターンを生成することもできる。生成された複数の最適作業パターンは、作業内容の組み合わせ(の種別)ごと且つ環境条件ごとに抽出可能にデータが整理された最適段取り・作業パターンDB3100DXに格納される。
 シミュレータ部3102DXは、作業内容の組み合わせ(の種別)ごとに、入力される環境条件、施工条件、段取りパターン等の入力条件に基づき、ショベル100の段取りに関する動作シミュレーションを行うことができる。これにより、シミュレータ部3102DXは、段取りパターンを生成することができる。そのため、強化学習部3102CXは、情報取得部3101Xにより取得される過去の段取りパターン(段取り実績情報)に基づく強化学習だけでなく、シミュレータ部3102DXにより生成される新たな段取りパターンに関する情報に基づく強化学習を行うことができる。
 例えば、図7は、シミュレータ部3102DXによる施工現場の段取りに関するショベル100の動作シミュレーションの一例を説明する図である。
 図7に示すように、本例では、一般道路720沿いの作業現場710でのショベル100による段取りに関するシミュレーションが行われる。
 作業現場710には、一般道路720への土砂搬出用のスロープSLが形成され、ダンプトラックDTが土砂の搬出のために作業現場710に入場する。また、作業現場710には、掘削範囲711が設定されると共に、その周辺に土砂の仮置き領域712,713が設定される。また、作業現場710には、もう一箇所の掘削範囲714が設定されると共に、その周辺に土砂の仮置き領域715が設定される。
 本例では、シミュレータ部3102DXは、この施工条件下で、掘削範囲711に関する掘削作業と、土砂の仮置き領域712,713への排土作業と、ダンプトラックDTへの仮置き領域712,713の土砂の積み込み作業との組み合わせに対応する段取りをシミュレーションする。また、シミュレータ部3102DXは、同じ施工条件下で、掘削範囲714に関する掘削作業と、土砂の仮置き領域715への排土作業と、ダンプトラックDTへの仮置き領域715の土砂の積み込み作業との組み合わせに対応する段取りをシミュレーションする。
 この場合、シミュレータ部3102DXは、例えば、ショベル100の位置、向き、移動経路、作業の順番等の異なる複数の動作設定条件を生成し、シミュレーションを行う。その結果、シミュレータ部3102DXは、動作設定条件ごとの特徴量、目標指標を得る。このようにして、シミュレータ部3102DXは、仮想的な段取りパターン情報(以下、「段取りパターン仮想情報」)を生成することができる。そして、シミュレータ部3102DXは、段取りパターン仮想情報を強化学習部3102CXへ入力し、強化学習部3102CXは、最適段取りパターンを得ることができる。また、シミュレーションが行われる際には、一般道路720の位置等は変更不可要素、仮置き領域712、713、掘削範囲714等は変更可能要素として設定される。
 尚、本実施形態では、情報取得部3101Xにより取得される情報に基づく段取りパターン実績情報を用いる事例も含まれるが、必ずしも段取りパターン実績情報を用いる必要はない。つまり、段取り・作業パターン生成部3102Xは、シミュレータ部3102DXで生成される段取りパターン仮想情報だけに基づき最適段取りパターンが取得することもできる。
 最適制御部3103Xは、通信機器320を通じて、ショベル100から受信される取得要求信号に応じて、当該取得要求信号で指定される種別の作業内容の組み合わせについて、現在のショベル100の環境条件下で、対象の目標指標が相対的に高くなる(最大化する)最適段取りパターンを出力する。対象の目標指標は、予め規定されていてもよいし、ショベル100から送信される取得要求信号で指定されていてもよい。具体的には、最適制御部3103Xは、最適段取り・作業パターンDB3100DXに格納される複数の異なる環境条件ごとの最適作業パターンに基づき、現在のショベル100の環境条件下での最適作業パターンを出力する。
 例えば、最適制御部3103Xは、最適段取り・作業パターンDB3100DXの中から現在のショベル100の環境条件(具体的には、取得要求信号に含まれる現環境条件情報に対応する環境条件)と一致する最適段取りパターンを抽出し、出力する。また、最適制御部3103Xは、現在のショベル100の環境条件と一致する最適段取りパターンが最適段取り・作業パターンDB3100DXにない場合、現在のショベル100の環境条件に比較的近い環境条件に対応する最適段取りパターンを一又は複数抽出してよい。そして、最適制御部3103Xは、抽出した最適段取りパターンに対応する環境条件と、現在のショベル100の環境条件との差異に基づき、抽出した一又は複数の最適段取りパターンに対して所定の補正を施すことにより、現在のショベル100の環境条件に対応する最適段取りパターンを出力してよい。
 また、例えば、最適制御部3103Xは、強化学習部3102CXと同様の手法(アルゴリズム)を用いて、シミュレータ部3102DXを利用しながら、最適段取り・作業パターンDB3100DXに格納される複数の最適段取りパターンに基づき、自律的に、ショベル100の現在の環境下での目標指標が最大化する最適段取りパターンを一意的に出力してもよい。つまり、最適制御部3103Xは、最適段取り・作業パターンDB3100DXに格納される複数の最適段取りパターンに基づき、シミュレータ部3102DXを利用しながら、自律的に、ショベル100の現在の環境下での目標指標が最大化する最適段取りパターンを出力する人工知能を中心に構成されてもよい。これにより、最適制御部3103Xは、最適段取り・作業パターンDB3100DXの中に、ショベル100の現在の環境下に対応する最適段取りパターンが無い場合であっても、補正等の手法を用いることなく、より目標指標に関する評価の高い最適段取りパターンを出力できる。
 最適制御部3103Xは、通信機器320を通じて、出力した最適段取りパターンを取得要求信号の送信元であるショベル100に送信する。
 また、最適制御部3103Xは、出力した最適段取りパターンを最適段取り・作業パターンDB3100DXにフィードバック、つまり、追加し、最適段取り・作業パターンDB3100DXを更新させる。これにより、新たな環境条件に対応する作業パターンが最適段取り・作業パターンDB3100DXに追加されたり、最適段取り・作業パターンDB3100DXの作業パターンが目標指標に関する評価が更に高い作業パターンに更新されたりする。よって、最適制御部3103Xは、最適段取り・作業パターンDB3100DXの更新に応じて、目標指標に関する評価が更に高い最適段取りパターンを出力できるようになる。
 また、段取り・作業パターン生成部3102Xの上述した一連の動作も、情報取得部3101Xによるショベル100等から新たな情報が取得され、ショベル段取り・作業関連情報DB3100AXが更新されるのに応じて、繰り返し実行される。そのため、段取り・作業パターン生成部3102Xの一連の動作によっても、最適段取り・作業パターンDB3100DXが更新される。よって、最適制御部3103Xは、最適段取り・作業パターンDB3100DXの更新に応じて、目標指標に関する評価が更に高い最適段取りパターンを出力できるようになる。
 [機械学習機能及び運転支援機能の更に他の例]
 次に、図8、図9を参照して、運転支援システムSYSにおける機械学習機能及び運転支援機能の更に他の例について説明する。
 図8、図9は、運転支援システムSYSにおける機械学習機能及び運転支援機能に関する機能構成の更に他の例を示す機能ブロック図である。具体的には、図8は、本例に係る運転支援システムSYSの構成を示す機能ブロック図であり、図9は、本例に係る運転支援システムSYSの構成のうち、図8に記載されないショベル100の構成部分を示す機能ブロック図である。
 本例では、機械学習機能及び運転支援機能がショベル100に搭載される。以下、本例に特有の部分を中心に説明し、重複する説明を省略する場合がある。
 ショベル100のコントローラ30は、補助記憶装置にインストールされる一以上のプログラムをCPU上で実行することにより実現される機能部として、現在地形形状取得部F1と、目標地形形状取得部F2と、比較部F3と、作業開始判別部F4と、段取り・作業設定部F5と、動作内容判定部F6と、動作指令生成部F7と、動作制限部F8と、指令値算出部F9と、バケット現在位置算出部F10と、ブーム電流指令生成部F11と、ブームスプール変位量算出部F12と、ブーム角度算出部F13と、アーム電流指令生成部F21と、アームスプール変位量算出部F22と、アーム角度算出部F23と、バケット電流指令生成部F31と、バケットスプール変位量算出部F32と、バケット角度算出部F33と、旋回電流指令生成部F41と、旋回スプール変位量算出部F42と、旋回角度算出部F43を含む。
 現在地形形状取得部F1(環境情報取得部の一例)は、撮像装置80の撮像画像に基づき、ショベル100の周囲の現在の地形形状(以下、「現在地形形状」)に関する情報(例えば、三次元の点群やサーフェス等の三次元データ)を取得する。
 目標地形形状取得部F2は、施工現場における目標となる地形形状(例えば、目標施工面)(以下、「目標地形形状」)を取得する。
 比較部F3は、現在地形形状と目標地形形状とを比較し、その差分に関する情報(以下、「差分情報」)を学習部F100に出力する。
 作業開始判別部F4は、通信機器T1を通じて管理装置300から受信される指令に応じて、作業開始を判別する。
 段取り・作業設定部F5は、通信機器T1を通じて管理装置300から受信される指令に応じて、作業現場での段取り及び段取りに含まれる作業の内容を設定する。設定される段取り及び作業の内容は、学習部F100及び動作内容判定部F6に入力される。
 動作内容判定部F6は、学習部F100から指令に応じて、段取り・作業設定部F5により設定される段取り及び作業内容に沿った動作内容を判定する。また、判定される動作内容は、学習部F100及び動作指令生成部F7に入力される。
 動作指令生成部F7(制御部の一例)は、学習部F100からの指令、動作内容判定部F6により判定された動作内容、及びバケット現在位置算出部F10により算出されるバケット6の作業部位(例えば、爪先や背面等)の現在位置(以下、「バケット現在位置」)に応じて、ショベル100の動作指令、つまり、ショベル100の被駆動要素を駆動するアクチュエータの動作指令を生成する。生成される動作指令は、学習部F100及び動作制限部F8に入力される。
 動作制限部F8は、所定の動作制限条件に応じて、動作指令生成部F7により生成される動作指令に対応するショベル100の動作を制限する(動作を停止する場合を含む)。動作制限条件には、例えば、"動作指令に対応するショベル100の動作によって、ショベル100の作業部位以外の部分が周囲の物体と当接する可能性があること"を含まれてよい。また、動作制限条件には、例えば、"動作指令に対応するショベル100の動作によって、アタッチメントの動作軸の角速度の許容範囲を逸脱すること"が含まれてもよい。具体的には、動作制限部F8は、動作制限条件が成立する場合、動作指令生成部F7により生成される動作指令を、ショベル100の動作が制限されるように補正した補正動作指令を指令値算出部F9に出力する。一方、動作制限部F8は、動作制限条件が成立しない場合、動作指令生成部F7により生成される動作指令をそのまま指令値算出部F9に出力する。
 指令値算出部F9は、動作制限部F8から入力される動作指令或いは補正動作指令に基づき、各被駆動要素(ブーム4、アーム5、バケット6、上部旋回体3、下部走行体1の左右のクローラ)に対する指令値を出力する。具体的には、指令値算出部F9は、ブーム4に対するブーム指令値α*、アーム5に対するアーム指令値β*、バケット6に対するバケット指令値γ*、上部旋回体3に対する旋回指令値δ*、右側のクローラに対する右走行指令値ε1*、左側のクローラに対する左走行指令値ε2*を出力する。
 バケット現在位置算出部F10は、バケット6の作業部位の現在位置(バケット現在位置)を算出する。具体的には、ブーム角度算出部F13、アーム角度算出部F23、バケット角度算出部F33、旋回角度算出部F43等からフィードバックされるブーム角度α、アーム角度β、バケット角度γ、右駆動輪回転角度ε1、及び左駆動輪回転角度ε2に基き、バケット現在位置を算出する。
 ブーム電流指令生成部F11は、ブーム比例弁31Aに対してブーム電流指令を出力する。
 ブームスプール変位量算出部F12は、ブームスプール変位センサS16の出力に基づき、ブームシリンダ7に対応する制御弁175を構成するブームスプールの変位量を算出する。
 ブーム角度算出部F13は、ブーム角度センサS11の出力に基づき、ブーム角度αを算出する。
 ブーム電流指令生成部F11は、基本的に、指令値算出部F9が生成したブーム指令値α*とブーム角度算出部F13が算出したブーム角度αとの差がゼロになるように、ブーム比例弁31Aに対するブーム電流指令を生成する。その際、ブーム電流指令生成部F11は、ブーム電流指令から導き出される目標ブームスプール変位量とブームスプール変位量算出部F12が算出したブームスプール変位量との差がゼロになるように、ブーム電流指令を調節する。そして、ブーム電流指令生成部F11は、その調節後のブーム電流指令をブーム比例弁31Aに対して出力する。
 ブーム比例弁31Aは、ブーム電流指令に応じて開口面積を変化させ、ブーム指令電流の大きさに対応するパイロット圧を制御弁175のパイロットポートに作用させる。制御弁175は、パイロット圧に応じてブームスプールを移動させ、ブームシリンダ7に作動油を流入させる。ブームスプール変位センサS16は、ブームスプールの変位を検出し、その検出結果をコントローラ30のブームスプール変位量算出部F12にフィードバックする。ブームシリンダ7は、作動油の流入に応じて伸縮し、ブーム4を上下動させる。ブーム角度センサS11は、上下動するブーム4の回動角度を検出し、その検出結果をコントローラ30のブーム角度算出部F13にフィードバックする。ブーム角度算出部F13は、算出したブーム角度αをバケット現在位置算出部F10にフィードバックする。
 アーム電流指令生成部F21は、アーム比例弁31Bに対してアーム電流指令を出力する。
 アームスプール変位量算出部F22は、アームスプール変位センサS17の出力に基づき、アームシリンダ8に対応する制御弁176を構成するアームスプールの変位量を算出する。
 アーム角度算出部F23は、アーム角度センサS12の出力に基づき、アーム角度βを算出する。
 アーム電流指令生成部F21は、基本的に、指令値算出部F9が生成したアーム指令値β*とアーム角度算出部F23が算出したアーム角度βとの差がゼロになるように、アーム比例弁31Bに対するアーム電流指令を生成する。その際、アーム電流指令生成部F21は、アーム電流指令から導き出される目標アームスプール変位量とアームスプール変位量算出部F22が算出したアームスプール変位量との差がゼロになるように、アーム電流指令を調節する。そして、アーム電流指令生成部F21は、その調節後のアーム電流指令をアーム比例弁31Bに対して出力する。
 アーム比例弁31Bは、アーム電流指令に応じて開口面積を変化させ、アーム指令電流の大きさに対応するパイロット圧を制御弁176のパイロットポートに作用させる。制御弁176は、パイロット圧に応じてアームスプールを移動させ、アームシリンダ8に作動油を流入させる。アームスプール変位センサS17は、アームスプールの変位を検出し、その検出結果をコントローラ30のアームスプール変位量算出部F22にフィードバックする。アームシリンダ8は、作動油の流入に応じて伸縮し、アーム5を開閉させる。アーム角度センサS12は、開閉するアーム5の回動角度を検出し、その検出結果をコントローラ30のアーム角度算出部F23にフィードバックする。アーム角度算出部F23は、算出したアーム角度βをバケット現在位置算出部F10にフィードバックする。
 バケット電流指令生成部F31は、バケット比例弁31Cに対してバケット電流指令を出力する。
 バケットスプール変位量算出部F32は、バケットスプール変位センサS18の出力に基づき、バケットシリンダ9に対応する制御弁174を構成するバケットスプールの変位量を算出する。
 バケット角度算出部F33は、バケット角度センサS13の出力に基づき、バケット角度γを算出する。
 バケット電流指令生成部F31は、基本的に、指令値算出部F9が生成したバケット指令値γ*とバケット角度算出部F33が算出したバケット角度γとの差がゼロになるように、バケット比例弁31Cに対するバケット電流指令を生成する。その際、バケット電流指令生成部F31は、バケット電流指令から導き出される目標バケットスプール変位量とバケットスプール変位量算出部F32が算出したバケットスプール変位量との差がゼロになるように、バケット電流指令を調節する。そして、バケット電流指令生成部F31は、その調節後のバケット電流指令をバケット比例弁31Cに対して出力する。
 バケット比例弁31Cは、バケット電流指令に応じて開口面積を変化させ、バケット指令電流の大きさに対応するパイロット圧を制御弁174のパイロットポートに作用させる。制御弁174は、パイロット圧に応じてバケットスプールを移動させ、バケットシリンダ9に作動油を流入させる。バケットスプール変位センサS18は、バケットスプールの変位を検出し、その検出結果をコントローラ30のバケットスプール変位量算出部F32にフィードバックする。バケットシリンダ9は、作動油の流入に応じて伸縮し、バケット6を開閉させる。バケット角度センサS13は、開閉するバケット6の回動角度を検出し、その検出結果をコントローラ30のバケット角度算出部F33にフィードバックする。バケット角度算出部F33は、算出したバケット角度γをバケット現在位置算出部F10にフィードバックする。
 旋回電流指令生成部F41は、旋回比例弁31Dに対して旋回電流指令を出力する。
 旋回スプール変位量算出部F42は、旋回スプール変位センサS19の出力に基づき、旋回油圧モータ2Aに対応する制御弁173を構成する旋回スプールの変位量を算出する。
 旋回角度算出部F43は、旋回角度センサS15の出力に基づき、旋回角度δを算出する。
 旋回電流指令生成部F41は、基本的に、指令値算出部F9が生成した旋回指令値δ*と旋回角度算出部F43が算出した旋回角度δとの差がゼロになるように、旋回比例弁31Dに対する旋回電流指令を生成する。その際、旋回電流指令生成部F41は、旋回電流指令から導き出される目標旋回スプール変位量と旋回スプール変位量算出部F42が算出した旋回スプール変位量との差がゼロになるように、旋回電流指令を調節する。そして、旋回電流指令生成部F41は、その調節後の旋回電流指令を旋回比例弁31Dに対して出力する。
 旋回比例弁31Dは、旋回電流指令に応じて開口面積を変化させ、旋回指令電流の大きさに対応するパイロット圧を制御弁173のパイロットポートに作用させる。制御弁173は、パイロット圧に応じて旋回スプールを移動させ、旋回油圧モータ2Aに作動油を流入させる。旋回スプール変位センサS19は、旋回スプールの変位を検出し、その検出結果をコントローラ30の旋回スプール変位量算出部F42にフィードバックする。旋回油圧モータ2Aは、作動油の流入に応じて回転し、上部旋回体3を旋回させる。旋回角度センサS15は、旋回する上部旋回体3の旋回角度を検出し、その検出結果をコントローラ30の旋回角度算出部F43にフィードバックする。旋回角度算出部F43は、算出した旋回角度δをバケット現在位置算出部F10にフィードバックする。
 また、下部走行体1の右クローラ及び左クローラについても、ブーム4、アーム5、バケット6、及び上部旋回体3等の他の被駆動要素(作業体)と同様のフィードバックループを有する。つまり、指令値算出部F9が生成した右走行指令値ε1*及び左走行指令値ε2*の入力に基づくフィードバックループが構成される。当該フィードバックループからは、右側のクローラ及び左側のクローラの駆動輪の回転位置(回転角度)を表す右駆動輪回転角度ε1及び左駆動輪回転角度ε2がバケット現在位置算出部F10にフィードバックされる。
 このように、コントローラ30は、被駆動要素(作業体)ごとに、3段のフィードバックループを構成する。即ち、コントローラ30は、スプール変位量に関するフィードバックループ、被駆動要素(作業体)の回動角度に関するフィードバックループ、及び、バケット6の作業部位の位置(例えば、爪先の位置)に関するフィードバックループを構成する。これにより、コントローラ30は、自動制御の際に、バケット6の作業部位の動きを高精度に制御できる。
 学習部F100(実績情報取得部、生成部、及び出力部の一例)は、機械学習機能及び運転支援機能を実現する。つまり、学習部F100は、上述の管理装置300(制御装置310)の情報取得部3101X、段取り・作業パターン生成部3102X、及び最適制御部3103Xと同様の機能を有する。
 具体的には、学習部F100は、上述の管理装置300と異なり、自機(ショベル100)に実際の作業及び段取りを行わせながら、実際の作業及び段取りの中で取得される実績情報に基づき、強化学習を行う。当該実績情報には、段取り・作業設定部F5、動作内容判定部F6、及び動作指令生成部F7からフィードバックされるショベル100の段取り、作業、及び動作に関する実績情報が含まれる。また、実績情報には、比較部F3を介して現在地形形状取得部F1から入力されるショベル100の周囲の現在地形形状情報等の環境条件に関する実績情報が含まれる。また、実績情報には、比較部F3から差分情報等のショベル100の段取り、作業、及び動作等の結果に関する実績情報が含まれる。これにより、学習部F100は、作業種別或いは作業内容の組み合わせごと(の種別)且つ環境条件ごとに、実績情報を起点として、目標指標が相対的に高くなるような作業パターン(最適作業パターン)や段取りパターン(最適段取りパターン)を生成することができる。そして、学習部F100は、比較部F3から入力される差分情報に基づき、現在の環境条件(即ち、現在地形形状)下での最適作業パターンや最適段取りパターンに対応する指令を段取り・作業設定部F5、動作内容判定部F6、及び動作指令生成部F7に出力する。これにより、コントローラ30(動作指令生成部F7)は、最適作業パターンや最適段取りパターンに基づき、自機(ショベル100)を自動或いは半自動で制御することができる。
 [運転支援システムの作用]
 次に、図10を参照して、本実施形態に係る運転支援システムSYS(具体的には、図8、図9に示す運転支援システムSYS)の作用について説明する。
 図10は、運転支援システムSYSの作用を説明する図である。具体的には、図8、図9に示す運転支援システムSYS(ショベル100に搭載される学習部F100)の作用を説明する図である。
 本例では、ショベル100が盛土により法面(目標施工面1001)を施工する作業を行っている。通常、法面の施工は、紙面に対して奥行きへ向かって連続的に施工される。このため、施工領域は、ショベル100の進行方向に向かって複数の区間に分けられる。そして、一の区間において、法尻から法肩、或いは、法尻から法肩を施工が完了すると、隣接する次の区間へ走行移動し、次の区間の施工が開始される。
 ショベル100は、目標施工面1001と現在の斜面の形状との差分を埋めるため、バケット6に収容した土砂を斜面に沿って排土している。
 しかしながら、本例では、排土された土砂が斜面の麓側に崩落してしまい、想定形状1002とは異なる態様の形状(実際形状1003)になってしまっている。この要因として、例えば、土砂特性の相違や天候の変化等が考えられる。
 ここで、ショベル100の学習部F100は、今回の動作内容、作業内容、及び段取りと、その結果(実際形状1003)とを実績情報として強化学習を行う。
 例えば、ショベル100の学習部F100は、同様の環境条件下での排土作業時において、掬い上げ動作を追加する形で、最適作業パターン及び最適段取りパターンを更新する。これにより、復帰のための掬い上げ動作を行われ、土砂形状が想定形状1002に形成される。その後、次の区間における施工を開始する際には、類似する土砂特性の相違や天候等の環境情報において報酬が高い作業パターンが抽出され、抽出された作業パターンに基づき施工作業が継続される。よって、復帰作業においても学習部F100による強化学習により復帰を迅速に行うことができる。更に、一の区間における実績を次の区間において用いることができる。
 このように、ショベル100は、同様の環境条件下の作業において、コントローラ30(学習部F100)の制御下で、排土時に掬い上げ動作を同時に行うようになる。そのため、ショベル100(コントローラ30)は、自律的に、目標指標(例えば、作業効率)が相対的に高くなるように自機の作業を改善していくことができる。
 [変形・改良]
 以上、本発明を実施するための形態について詳述したが、本発明はかかる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
 例えば、上述した実施形態では、操作装置26は、オペレータによる操作状態に応じたパイロット圧を出力する油圧式であったが、電気信号を出力する電気式であってもよい。この場合、コントロールバルブ17は、電磁パイロット方式の制御弁を含む態様であってよい。また、コントローラ30は、電気式の操作装置から入力される電気信号から操作状態を直接的に把握しながら、マシンガイダンス機能或いはマシンコントロール機能に関する制御を行うことができる。
 また、上述した実施形態及び変形例では、ショベル100は、作業パターン実績情報等を管理装置300にアップロードすると共に、管理装置300から最適作業パターンを取得し、最適作業パターンに基づくマシンコントロール機能に関する制御が実行されるが、当該態様には、限定されない。例えば、作業パターン実績情報等を管理装置300にアップロードするショベルと、運転支援システムSYS(管理装置300)による運転支援の対象であるショベルとは、別であってもよい。この場合、作業パターン実績情報等を管理装置300にアップロードするショベルは、マシンガイダンス機能やマシンコントロール機能を有している必要がない。
 また、上述した実施形態及び変形例では、作業パターン実績情報及び環境条件実績情報や作業現場画像等は、ショベル100や飛行体200から管理装置300にアップロードされるが、当該態様には限定されない。例えば、ショベル100や飛行体200に記録された作業パターン実績情報及び環境条件実績情報や作業現場画像等を、サービスマン等が所定の方法で、ショベル100や飛行体200の外部の記憶装置に読み出す。そして、サービスマン等が管理装置300に対応する施設に出向いて、当該記憶装置から管理装置300に作業パターン実績情報及び環境条件実績情報や作業現場画像等のデータを転送させる態様であってもよい。
 また、上述した実施形態及び変形例では、ショベル100に搭載される状態検出装置S1から出力される検出情報等に基づき、作業パターン実績情報が構成されるが、当該態様には限定されない。例えば、ショベル100の作業を外部から観測するセンサ(例えば、カメラ、LIDAR、ミリ波レーダ等)の検出情報等に基づき、作業パターン実績情報が構成されてもよい。この場合、当該センサの検出情報は、アップロードされたり、所定の記憶装置に記録され、管理装置300に対応する施設に出向いた作業者等により、管理装置300にデータ転送されたりしてよい。
 また、上述した実施形態及び変形例では、最適制御部3103の機能が管理装置300に設けられるが、ショベル100に設けられてもよい。この場合、管理装置300からショベル100に、最適作業パターンDB3100Dに相当するデータセットが予め配信される。また、管理装置300で最適作業パターンDB3100Dが更新されると、上記データセットの更新版が管理装置300からショベル100に配信される。
 また、上述した実施形態及び変形例では、ショベル100は、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の各種動作要素を全て油圧駆動する構成であったが、その一部が電気駆動される構成であってもよい。つまり、上述した実施形態で開示される構成等は、ハイブリッドショベルや電動ショベル等に適用されてもよい。
 尚、本願は、2018年3月30日に出願した日本国特許出願2018-070359号に基づく優先権を主張するものであり、これらの日本国特許出願の全内容を本願に参照により援用する。
 30 コントローラ
 31 操作バルブ
 40 表示装置
 42 入力装置
 80 撮像装置
 80B,80F,80L,80R カメラ
 100 ショベル(建設機械)
 200 飛行体
 300 管理装置
 301 情報送信部
 302 作業パターン取得部
 303 マシンガイダンス部
 310 制御装置
 320 通信機器
 330 操作入力装置
 340 表示装置
 3100 記憶部
 3100A ショベル作業関連情報DB
 3100B 教師DB
 3100C 教師あり学習作業パターンDB
 3100D 最適作業パターンDB
 3101,3101X 情報取得部(実績情報取得部)
 3102 作業パターン生成部(生成部)
 3102A 作業評価部
 3102AX 段取り・作業評価部
 3102B,3102BX 教師あり学習部
 3102C,3102CX 強化学習部
 3102D,3102DX シミュレータ部
 3102X 段取り・作業パターン生成部(生成部)
 3103,3103X 最適制御部(環境条件取得部、出力部)
 F1 現在地形形状取得部(環境条件取得部)
 F7 動作指令生成部(制御部)
 F100 学習部(実績情報取得部、生成部、出力部)
 S1 状態検出装置
 SYS 運転支援システム
 T1 通信機器

Claims (4)

  1.  所定の目標指標に関する評価が相対的に高くなるように、建設機械の複数の作業パターン又は段取りパターンを生成する生成部と、
     支援対象の建設機械の環境情報を取得する環境情報取得部と、
     前記生成部により生成される複数の作業パターン又は段取りパターンに基づき、前記環境情報取得部により取得される環境情報に対応する環境下において、支援対象の建設機械の作業の前記目標指標に関する評価が相対的に高くなるような作業パターン又は段取りパターンを出力する出力部と、を備える、
     建設機械の運転支援システム。
  2.  建設機械の過去の作業実績又は段取り実績に関する実績情報を取得する実績情報取得部を更に備え、
     前記生成部は、前記実績情報取得部により取得される実績情報のうちの前記目標指標に関する評価が相対的に高い実績情報に基づき、前記複数の作業パターン又は段取りパターンを生成する、
     請求項1に記載の建設機械の運転支援システム。
  3.  前記生成部は、前記生成部により生成され、支援対象の作業機械で用いられた作業パターン又は段取りパターンに基づき、前記複数の作業パターン又は段取りパターンを更新する、
     請求項1に記載の建設機械の運転支援システム。
  4.  所定の目標指標に関する評価が相対的に高くなるように、自機の複数の作業パターン又は段取りパターンを生成する生成部と、
     自機の周囲の環境情報を取得する環境情報取得部と、
     前記生成部により生成される複数の作業パターン又は段取りパターンに基づき、前記環境情報取得部により取得される環境情報に対応する環境下において、前記目標指標に関する評価が相対的に高くなるような作業パターン又は段取りパターンを出力する出力部と、
     前記出力部により出力される作業パターン又は段取りパターンに基づき、自機の動作を制御する制御部と、を備える、
     建設機械。
PCT/JP2019/014344 2018-03-30 2019-03-29 建設機械の運転支援システム、建設機械 WO2019189888A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP19776777.5A EP3779071B1 (en) 2018-03-30 2019-03-29 Construction machine operation assistance system, and construction machine
KR1020207028645A KR102602383B1 (ko) 2018-03-30 2019-03-29 건설기계의 운전지원시스템, 건설기계
JP2020509360A JP7328212B2 (ja) 2018-03-30 2019-03-29 建設機械の運転支援システム、建設機械
CN201980024274.5A CN112004975A (zh) 2018-03-30 2019-03-29 施工机械的驾驶支援***、施工机械
US17/036,325 US20210012163A1 (en) 2018-03-30 2020-09-29 Operation support system for construction machine and construction machine

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018070359 2018-03-30
JP2018-070359 2018-03-30

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/036,325 Continuation US20210012163A1 (en) 2018-03-30 2020-09-29 Operation support system for construction machine and construction machine

Publications (1)

Publication Number Publication Date
WO2019189888A1 true WO2019189888A1 (ja) 2019-10-03

Family

ID=68060209

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/014344 WO2019189888A1 (ja) 2018-03-30 2019-03-29 建設機械の運転支援システム、建設機械

Country Status (6)

Country Link
US (1) US20210012163A1 (ja)
EP (1) EP3779071B1 (ja)
JP (1) JP7328212B2 (ja)
KR (1) KR102602383B1 (ja)
CN (1) CN112004975A (ja)
WO (1) WO2019189888A1 (ja)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020241419A1 (ja) * 2019-05-24 2020-12-03 川崎重工業株式会社 学習機能付き建設機械
JP2021095718A (ja) * 2019-12-16 2021-06-24 住友重機械工業株式会社 ショベル、情報処理装置
WO2021187290A1 (ja) * 2020-03-16 2021-09-23 日立建機株式会社 作業機械
JP2021156086A (ja) * 2020-03-30 2021-10-07 住友重機械工業株式会社 ショベルの管理装置
WO2021241258A1 (ja) * 2020-05-29 2021-12-02 株式会社小松製作所 掘削計画作成装置、作業機械および掘削計画作成方法
WO2022097499A1 (ja) * 2020-11-09 2022-05-12 国立大学法人広島大学 作業機械の自動運転装置
WO2022244632A1 (ja) * 2021-05-20 2022-11-24 株式会社小松製作所 表示システム、作業機械、及び表示方法
EP4118591A1 (en) * 2020-03-09 2023-01-18 Danfoss A/S System and method for control of heavy machinery
US11774959B2 (en) 2020-07-30 2023-10-03 Caterpillar Paving Products Inc. Systems and methods for providing machine configuration recommendations
WO2024005182A1 (ja) * 2022-06-30 2024-01-04 株式会社小松製作所 作業車両の経路計画生成システム、作業車両の経路計画生成方法
EP4219839A4 (en) * 2020-09-28 2024-03-13 Kobelco Constr Mach Co Ltd WORK ZONE ADJUSTMENT SYSTEM AND WORK OBJECT DETECTION SYSTEM
JP7481908B2 (ja) 2020-05-29 2024-05-13 株式会社小松製作所 掘削計画作成装置、作業機械および掘削計画作成方法

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7088691B2 (ja) * 2018-02-28 2022-06-21 株式会社小松製作所 積込機械の制御装置、制御方法および遠隔操作システム
US11709495B2 (en) * 2019-03-29 2023-07-25 SafeAI, Inc. Systems and methods for transfer of material using autonomous machines with reinforcement learning and visual servo control
US20220195704A1 (en) * 2019-04-04 2022-06-23 Komatsu Ltd. System including work machine, computer implemented method, method for producing trained posture estimation model, and training data
US11440680B2 (en) * 2019-07-09 2022-09-13 United States Of America As Represented By The Secretary Of The Navy Tether management system for a tethered UAV
KR102649503B1 (ko) * 2020-03-17 2024-03-21 히다찌 겐끼 가부시키가이샤 작업 차량
IT202200000293A1 (it) * 2022-01-11 2023-07-11 Cnh Ind Italia Spa Veicolo da lavoro
US11906981B2 (en) * 2022-02-08 2024-02-20 Caterpillar Inc. System and method for updating virtual worksite
WO2024090618A1 (ko) * 2022-10-28 2024-05-02 볼보 컨스트럭션 이큅먼트 에이비 학습 정보를 이용하여 굴착기의 동작 패턴을 결정하는 방법 및 디바이스

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11315556A (ja) * 1997-12-19 1999-11-16 Carnegie Mellon Univ 土工機械の自律制御を最適化する学習システムおよび方法
JP2016156193A (ja) * 2015-02-25 2016-09-01 株式会社日立製作所 操作支援システムおよび操作支援システムを備えた作業機械
JP2016210816A (ja) 2008-10-22 2016-12-15 アレイ バイオファーマ、インコーポレイテッド TRKキナーゼ阻害剤としての置換ピラゾロ[1,5−a]ピリミジン化合物
WO2017170968A1 (ja) * 2016-03-30 2017-10-05 株式会社小松製作所 シミュレーションシステム及びシミュレーション方法
JP2018070359A (ja) 2016-11-02 2018-05-10 株式会社京都製作所 振分け装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6076030A (en) * 1998-10-14 2000-06-13 Carnegie Mellon University Learning system and method for optimizing control of autonomous earthmoving machinery
CN1564995A (zh) * 2002-06-12 2005-01-12 日立建机株式会社 工程机械的信息提供***以及工程机械的信息提供方法
KR101799101B1 (ko) * 2010-08-23 2017-11-20 두산인프라코어 주식회사 건설기계의 작업 패턴 인식 장치 및 작업 패턴 인식 방법
US10248133B2 (en) * 2011-06-27 2019-04-02 Caterpillar Inc. Method and system for mapping terrain and operating autonomous machines using machine parameters
US9624650B2 (en) * 2015-05-05 2017-04-18 Caterpillar Inc. System and method for implement control
US20160349733A1 (en) * 2015-05-29 2016-12-01 Caterpillar Inc. Machine Performance Evaluation and Feedback System
JP6397135B2 (ja) * 2016-03-31 2018-09-26 日立建機株式会社 建設機械の出力特性変更システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11315556A (ja) * 1997-12-19 1999-11-16 Carnegie Mellon Univ 土工機械の自律制御を最適化する学習システムおよび方法
JP2016210816A (ja) 2008-10-22 2016-12-15 アレイ バイオファーマ、インコーポレイテッド TRKキナーゼ阻害剤としての置換ピラゾロ[1,5−a]ピリミジン化合物
JP2016156193A (ja) * 2015-02-25 2016-09-01 株式会社日立製作所 操作支援システムおよび操作支援システムを備えた作業機械
WO2017170968A1 (ja) * 2016-03-30 2017-10-05 株式会社小松製作所 シミュレーションシステム及びシミュレーション方法
JP2018070359A (ja) 2016-11-02 2018-05-10 株式会社京都製作所 振分け装置

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7079896B2 (ja) 2019-05-24 2022-06-02 川崎重工業株式会社 学習機能付き建設機械
WO2020241419A1 (ja) * 2019-05-24 2020-12-03 川崎重工業株式会社 学習機能付き建設機械
JPWO2020241419A1 (ja) * 2019-05-24 2021-11-18 川崎重工業株式会社 学習機能付き建設機械
JP2021095718A (ja) * 2019-12-16 2021-06-24 住友重機械工業株式会社 ショベル、情報処理装置
EP4118591A4 (en) * 2020-03-09 2024-05-08 Danfoss As SYSTEM AND METHOD FOR CONTROLLING HEAVY DUTY MACHINERY
EP4118591A1 (en) * 2020-03-09 2023-01-18 Danfoss A/S System and method for control of heavy machinery
CN114746611A (zh) * 2020-03-16 2022-07-12 日立建机株式会社 作业机械
JP2021147775A (ja) * 2020-03-16 2021-09-27 日立建機株式会社 作業機械
WO2021187290A1 (ja) * 2020-03-16 2021-09-23 日立建機株式会社 作業機械
EP4123093A4 (en) * 2020-03-16 2024-04-24 Hitachi Construction Mach Co WORKING MACHINE
JP6997823B2 (ja) 2020-03-16 2022-01-18 日立建機株式会社 作業機械
CN114746611B (zh) * 2020-03-16 2023-09-12 日立建机株式会社 作业机械
JP2021156086A (ja) * 2020-03-30 2021-10-07 住友重機械工業株式会社 ショベルの管理装置
CN115667636A (zh) * 2020-05-29 2023-01-31 株式会社小松制作所 挖掘计划制作装置、作业机械以及挖掘计划制作方法
WO2021241258A1 (ja) * 2020-05-29 2021-12-02 株式会社小松製作所 掘削計画作成装置、作業機械および掘削計画作成方法
JP7481908B2 (ja) 2020-05-29 2024-05-13 株式会社小松製作所 掘削計画作成装置、作業機械および掘削計画作成方法
US11774959B2 (en) 2020-07-30 2023-10-03 Caterpillar Paving Products Inc. Systems and methods for providing machine configuration recommendations
EP4219839A4 (en) * 2020-09-28 2024-03-13 Kobelco Constr Mach Co Ltd WORK ZONE ADJUSTMENT SYSTEM AND WORK OBJECT DETECTION SYSTEM
WO2022097499A1 (ja) * 2020-11-09 2022-05-12 国立大学法人広島大学 作業機械の自動運転装置
WO2022244633A1 (ja) * 2021-05-20 2022-11-24 株式会社小松製作所 表示装置
WO2022244632A1 (ja) * 2021-05-20 2022-11-24 株式会社小松製作所 表示システム、作業機械、及び表示方法
WO2024005182A1 (ja) * 2022-06-30 2024-01-04 株式会社小松製作所 作業車両の経路計画生成システム、作業車両の経路計画生成方法

Also Published As

Publication number Publication date
KR20200130376A (ko) 2020-11-18
EP3779071A4 (en) 2021-10-20
US20210012163A1 (en) 2021-01-14
EP3779071A1 (en) 2021-02-17
CN112004975A (zh) 2020-11-27
JPWO2019189888A1 (ja) 2021-03-25
EP3779071B1 (en) 2024-02-21
KR102602383B1 (ko) 2023-11-14
JP7328212B2 (ja) 2023-08-16

Similar Documents

Publication Publication Date Title
WO2019189888A1 (ja) 建設機械の運転支援システム、建設機械
US10968597B2 (en) Shovel and control method thereof
EP3974586B1 (en) Work support system for a construction machine
KR102659077B1 (ko) 쇼벨
US20200165799A1 (en) Excavator
EP3521515B1 (en) Grading control system using machine linkages
WO2020080538A1 (ja) ショベル
EP3112967B1 (en) Site management system, in-flight detection method, and nontransitory computer readable medium storing program of site management system
JPWO2019189935A1 (ja) ショベル
EP3904612B1 (en) Method and system for generating earthmoving prescriptions
WO2021241716A1 (ja) ショベル用の施工支援システム
WO2019117166A1 (ja) ショベル
JP7289701B2 (ja) ショベル
US20230009234A1 (en) Information communications system for construction machine and machine learning apparatus
US20210148085A1 (en) Method and system for controlling construction machinery
CN113445555A (zh) 施工支援***及施工机械
US20240011252A1 (en) Shovel and shovel control device
JP2022154722A (ja) ショベル
JP2022157635A (ja) 建設機械の管理システム
JP2024005692A (ja) ショベル、及び、ショベルの制御システム

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19776777

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020509360

Country of ref document: JP

Kind code of ref document: A

ENP Entry into the national phase

Ref document number: 20207028645

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 2019776777

Country of ref document: EP