JP7443947B2 - Work vehicle contact suppression device and work vehicle equipped with a boom having a work vehicle contact suppression device - Google Patents

Work vehicle contact suppression device and work vehicle equipped with a boom having a work vehicle contact suppression device Download PDF

Info

Publication number
JP7443947B2
JP7443947B2 JP2020101276A JP2020101276A JP7443947B2 JP 7443947 B2 JP7443947 B2 JP 7443947B2 JP 2020101276 A JP2020101276 A JP 2020101276A JP 2020101276 A JP2020101276 A JP 2020101276A JP 7443947 B2 JP7443947 B2 JP 7443947B2
Authority
JP
Japan
Prior art keywords
image
boom
crane
image processing
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020101276A
Other languages
Japanese (ja)
Other versions
JP2021195196A (en
Inventor
浩平 元木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tadano Ltd
Original Assignee
Tadano Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tadano Ltd filed Critical Tadano Ltd
Priority to JP2020101276A priority Critical patent/JP7443947B2/en
Publication of JP2021195196A publication Critical patent/JP2021195196A/en
Application granted granted Critical
Publication of JP7443947B2 publication Critical patent/JP7443947B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Component Parts Of Construction Machinery (AREA)
  • Jib Cranes (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、作業車両の接触抑制装置および作業車両の接触抑制装置を有するブームを備えた作業車両に関する。 The present invention relates to a work vehicle contact suppression device and a work vehicle equipped with a boom having the work vehicle contact suppression device.

従来、大規模な建築現場等においては、建築作業の効率化を図るために建築現場内にブームを備えた作業車両である複数のクレーンを配置し、複数の箇所で荷物の搬送作業が行われる。この際、建築現場内に配置されているクレーンは、互いの作業可能範囲が重複するように配置されている場合がある。つまり、クレーンは、搬送タイミング、作業姿勢によってクレーン同士が接触する可能性がある位置に配置されている。各クレーンの操縦者は、無線等によって他の操縦者と連絡を密にとりながらクレーン同士の接触を回避しつつ搬送作業を行っている。そこで、衝突の可能性が生じた場合に警報装置等によって操縦者に報知するとともにクレーンを自動的に停止させるクレーン近接警報装置が知られている。例えば、特許文献1の如くである。 Traditionally, at large-scale construction sites, multiple cranes, which are work vehicles equipped with booms, are placed on the construction site to improve the efficiency of construction work, and cargo is transported at multiple locations. . At this time, cranes placed within the construction site may be placed such that their workable ranges overlap with each other. In other words, the cranes are placed in positions where there is a possibility that the cranes may come into contact with each other depending on the transport timing and working posture. The operator of each crane performs transportation work while avoiding contact between cranes while maintaining close communication with other operators via radio or other means. Therefore, a crane proximity warning device is known which notifies the operator using an alarm device or the like when a possibility of a collision occurs and also automatically stops the crane. For example, as in Patent Document 1.

特許文献1に記載のクレーン近接警報装置は、自機(クレーン)の制御装置と複数の相手機(クレーン)の制御装置とが無線通信等により接続されている。クレーン近接警報装置は、それぞれの制御装置が制御情報等の各種情報を互いに取得し、制御信号を送信することができる。クレーン近接警報装置は、取得した各クレーンの情報に基づいて、各クレーンのシミュレーションモデルを作成して衝突をシミュレーションする。クレーン近接警報装置は、クレーン同士が衝突すると判定した場合、操縦者に報知するとともに近接が継続されるとクレーンを停止させる。 In the crane proximity warning device described in Patent Document 1, the control device of the own machine (crane) and the control devices of a plurality of partner machines (cranes) are connected by wireless communication or the like. In the crane proximity warning device, each control device can mutually acquire various information such as control information and transmit control signals. The crane proximity warning device creates a simulation model for each crane based on the acquired information about each crane and simulates a collision. The crane proximity warning device notifies the operator when it is determined that the cranes will collide with each other, and stops the cranes if the proximity continues.

特許文献1に記載のクレーン近接警報装置は、自機の制御装置と相手機の制御装置との間で制御情報等の各種情報を互いに取得できることが前提となる。しかし、大規模な建築現場等には、様々なクレーンメーカーのクレーンが配置されることが多い。このため、前記クレーン近接警報装置は、相手機が通信機能を有していない、通信フォーマットが一致しない等、クレーンメーカー等が異なることで相手機の制御情報等の各種情報を取得できない場合があった。 The crane proximity warning device described in Patent Document 1 is based on the premise that various information such as control information can be mutually acquired between the control device of the own machine and the control device of the partner machine. However, at large-scale construction sites, cranes from various crane manufacturers are often installed. Therefore, the crane proximity warning device may not be able to obtain various information such as control information of the other machine because the other machine does not have a communication function, the communication format does not match, or the crane manufacturer is different. Ta.

特開2003-118981号公報Japanese Patent Application Publication No. 2003-118981

本発明の目的は、通信によってブームを備えた複数の作業車両から各種情報を取得することなく複数の前記作業車両のブーム同士の接触を抑制することができる作業車両の接触抑制装置および作業車両の接触抑制装置を有するブームを備えた作業車両の提供を目的とする。 SUMMARY OF THE INVENTION An object of the present invention is to provide a contact suppression device for a work vehicle that can suppress contact between booms of a plurality of work vehicles without acquiring various information from a plurality of work vehicles equipped with booms through communication, and a work vehicle contact suppression device that can suppress contact between booms of a plurality of work vehicles. An object of the present invention is to provide a work vehicle equipped with a boom having a contact suppression device.

本発明の解決しようとする課題は以上の如くであり、次にこの課題を解決するための手段を説明する。 The problem to be solved by the present invention is as described above, and next, means for solving this problem will be explained.

即ち、第1の発明は、ブームを備えた作業車両を上方から撮影する撮影部と、前記撮影部が撮影した画像を表示する表示部と、前記撮影部が撮影した前記ブームを備えた作業車両の画像から前記ブームを検出する画像処理部と、を備えた作業車両の接触抑制装置である。前記画像処理部は、前記画像から検出した複数の前記作業車両のブーム毎に前記作業車両の作業領域とブーム先端の移動方向とを算出し、算出した前記作業車両の作業領域とブーム先端の移動方向とのうち少なくとも一つを前記表示部に表示させる。 That is, a first invention provides a photographing section for photographing a working vehicle equipped with a boom from above, a display section displaying an image photographed by the photographing section, and a working vehicle equipped with the boom photographed by the photographing section. and an image processing unit that detects the boom from an image of the boom. The image processing unit calculates a working area of the working vehicle and a moving direction of the boom tip for each of the booms of the plurality of working vehicles detected from the image, and calculates the working area of the working vehicle and the movement direction of the boom tip of the working vehicle. At least one of the directions is displayed on the display section.

第2の発明は、記画像処理部は、前記作業車両の作業領域とブーム先端の移動方向とのうち少なくとも一つを前記撮影部が撮影した前記作業車両の画像に対応するように重畳表示させる。 In a second invention, the image processing unit displays at least one of the work area of the work vehicle and the movement direction of the boom tip in a superimposed manner so as to correspond to the image of the work vehicle photographed by the photographing unit. .

第3の発明は、前記撮影部は、無人飛行体と、前記無人飛行体に設けられているカメラとから構成される接触抑制装置である。 A third invention is a contact suppression device in which the photographing unit includes an unmanned flying vehicle and a camera provided on the unmanned flying vehicle.

第4の発明は、前記画像処理部は、前記画像において複数の前記作業車両のブームの間隔が所定値未満である場合、前記表示装置に接触の可能性を報知する表示を行う。 In a fourth aspect of the present invention, the image processing unit displays, on the display device, a display notifying the possibility of contact when the interval between the booms of the plurality of work vehicles is less than a predetermined value in the image.

第5の発明は、前記画像処理部は、前記画像において複数の前記作業車両のブーム間の間隔が所定値未満である場合、前記ブーム間の間隔が所定値未満である複数の前記作業車両のうち少なくとも一つに所定の制御信号を送信する。 According to a fifth aspect of the present invention, when the interval between the booms of the plurality of work vehicles is less than a predetermined value in the image, the image processing unit is configured to control the number of the plurality of work vehicles whose interval between the booms is less than the predetermined value. A predetermined control signal is transmitted to at least one of them.

第6の発明は、第1の発明から第5の発明のいずれか一項に記載の作業車両の接触抑制装置を有するブームを備えた作業車両である。 A sixth invention is a work vehicle including a boom having the contact suppression device for a work vehicle according to any one of the first to fifth inventions.

本発明は、以下に示すような効果を奏する。 The present invention has the following effects.

第1の発明および第6の発明において、接触抑制装置の画像処理部は、複数のブームを備えた作業車両が含まれる最新の画像と単位時間以前の画像とから検出した各ブームの大きさおよび位置に基づいて前記複数の作業車両の作業領域と各作業車両のブーム先端の移動方向とを算出する。前記画像処理部は、前記複数の作業車両の作業領域と前記ブーム先端の移動方向とを表示部に表示させる。これにより、前記接触抑制装置および前記接触抑制装置を備える作業車両は、通信によって複数の前記移動式クレーンから各種情報を取得することなく前記複数の作業車両のブーム同士の接触を抑制することができる。 In the first invention and the sixth invention, the image processing unit of the contact suppression device detects the size of each boom and the size of each boom detected from the latest image including a work vehicle equipped with a plurality of booms and an image before a unit time. A working area of the plurality of work vehicles and a moving direction of a boom tip of each work vehicle are calculated based on the positions. The image processing section causes the display section to display the work areas of the plurality of work vehicles and the moving direction of the boom tip. Thereby, the contact suppression device and the work vehicle equipped with the contact suppression device can suppress contact between the booms of the plurality of work vehicles without acquiring various information from the plurality of mobile cranes through communication. .

第2の発明において、接触抑制装置の画像処理部は、複数の作業車両の画像に、各作業車両の作業領域と各ブームの移動方向を示す画像を重畳表示させた拡張現実(AR)を生成することができる。これにより、前記接触抑制装置は、通信によって前記複数の作業車両から各種情報を取得することなく前記複数の作業車両のブーム同士の接触を抑制することができる。 In the second invention, the image processing unit of the contact suppression device generates augmented reality (AR) in which images of the plurality of work vehicles are superimposed with images showing the work area of each work vehicle and the movement direction of each boom. can do. Thereby, the contact suppression device can suppress contact between the booms of the plurality of work vehicles without acquiring various information from the plurality of work vehicles through communication.

第3の発明において、接触抑制装置は、無人飛行体に設けられたカメラによって複数の作業車両の俯瞰画像を撮影するので前記複数の作業車両の各ブームの相対位置を容易に把握することができる。これにより、前記接触抑制装置は、通信によって前記複数の作業車両から各種情報を取得することなく前記複数の作業車両のブーム同士の接触を抑制することができる。 In the third invention, the contact suppression device captures bird's-eye images of the plurality of work vehicles using a camera provided on the unmanned flying vehicle, so that the relative positions of the respective booms of the plurality of work vehicles can be easily grasped. . Thereby, the contact suppression device can suppress contact between the booms of the plurality of work vehicles without acquiring various information from the plurality of work vehicles through communication.

第4の発明において、接触抑制装置の画像処理部は、複数の作業車両の画像における各ブームの間隔が所定値未満である場合、前記各ブーム同士が接触する可能性が高いと判定する。前記画像処理部は、色、図形、文字等を表示部に表示することで接触の可能性を報知する。これにより、前記接触抑制装置は、通信によって前記複数の作業車両から各種情報を取得することなく前記複数の作業車両のブーム同士の接触を抑制することができる。 In the fourth invention, the image processing unit of the contact prevention device determines that the booms are likely to contact each other when the interval between the booms in the images of the plurality of work vehicles is less than a predetermined value. The image processing unit notifies the possibility of contact by displaying colors, graphics, characters, etc. on the display unit. Thereby, the contact suppression device can suppress contact between the booms of the plurality of work vehicles without acquiring various information from the plurality of work vehicles through communication.

第5の発明において、接触抑制装置の画像処理部は、複数の作業車両の画像における各ブームの間隔が所定値未満である場合、前記各ブーム同士が接触する可能性が高いと判定し、前記各ブームの間隔が所定値未満である複数の作業車両のうち少なくとも一つに警報信号、停止信号等の所定の制御信号を送信する。これにより、前記接触抑制装置は、通信によって前記複数の作業車両から各種情報を取得することなく前記複数の作業車両のブーム同士の接触を抑制することができる。 In the fifth invention, the image processing unit of the contact prevention device determines that there is a high possibility that the booms will contact each other when the interval between the booms in the images of the plurality of work vehicles is less than a predetermined value; A predetermined control signal such as an alarm signal or a stop signal is transmitted to at least one of the plurality of work vehicles in which the interval between each boom is less than a predetermined value. Thereby, the contact suppression device can suppress contact between the booms of the plurality of work vehicles without acquiring various information from the plurality of work vehicles through communication.

本発明に係る接触抑制装置の全体構成を示すブロック図。FIG. 1 is a block diagram showing the overall configuration of a contact suppression device according to the present invention. 本発明に係る接触抑制装置によるクレーンの位置関係を取得する状態を示す模式図。FIG. 3 is a schematic diagram showing a state in which the positional relationship of cranes is acquired by the contact suppression device according to the present invention. 複数のクレーンのブームが検出され、ブームの情報が算出された画像を示す概略図。FIG. 2 is a schematic diagram showing an image in which the booms of multiple cranes are detected and information about the booms is calculated. 複数のクレーンのブームの移動方向と作業領域とが算出された画像を示す概略図。FIG. 3 is a schematic diagram showing an image in which the moving directions and work areas of the booms of multiple cranes are calculated. 複数のクレーンのブーム間の距離が算出された画像を示す概略図。The schematic diagram which shows the image in which the distance between the booms of several cranes was calculated. 接触抑制制御の制御態様を示すフローチャート。5 is a flowchart showing a control mode of contact suppression control. 接触抑制制御における距離判定制御の制御態様を示すフローチャート。5 is a flowchart showing a control mode of distance determination control in contact suppression control. 接触抑制制御における領域判定制御の制御態様を示すフローチャート。5 is a flowchart showing a control mode of area determination control in contact suppression control. 本発明に係る接触抑制装置を備えたクレーンの示す側面図。FIG. 1 is a side view of a crane equipped with a contact suppression device according to the present invention. 本発明に係る接触抑制装置を備えたクレーンの制御構成を示すブロック図。FIG. 1 is a block diagram showing a control configuration of a crane equipped with a contact suppression device according to the present invention.

以下に、図1と図2とを用いて、本発明の第一実施形態に係る接触抑制装置1について説明する。なお、以下の実施形態において、作業車両は、移動式クレーンであるラフテレーンクレーンとして説明を行うが、オールテレーンクレーンでもよい。また、作業車両は、高所作業車等のブームを備える作業車両であればよい。 A contact suppression device 1 according to a first embodiment of the present invention will be described below with reference to FIGS. 1 and 2. In the following embodiments, the work vehicle will be described as a rough terrain crane that is a mobile crane, but it may be an all-terrain crane. Further, the work vehicle may be any work vehicle provided with a boom such as an aerial work vehicle.

図1に示すように、接触抑制装置1は、複数の作業車両である移動式クレーンの作動状態を画像から検出し、各移動式クレーンのブーム同士の接触を抑制する装置である。接触抑制装置1は、撮影部を構成する無人飛行体2、カメラ4および遠隔操作端末5、表示部である表示装置6および画像処理部である画像処理装置7を具備する。 As shown in FIG. 1, the contact suppression device 1 is a device that detects the operating states of mobile cranes, which are a plurality of work vehicles, from images and suppresses contact between the booms of the mobile cranes. The contact suppression device 1 includes an unmanned aerial vehicle 2, a camera 4, and a remote control terminal 5 that constitute a photographing section, a display device 6 that is a display section, and an image processing device 7 that is an image processing section.

カメラ4は、複数の移動式クレーンを撮影する。撮影部は、無人飛行体2、カメラ4、遠隔操作端末5を備える。 Camera 4 photographs a plurality of mobile cranes. The photographing unit includes an unmanned flying vehicle 2, a camera 4, and a remote control terminal 5.

無人飛行体2は、制御信号によって遠隔操作および自立飛行可能な自立型無人飛行体(ドローン)である。無人飛行体2は、例えば、複数のプロペラを有するマルチコプターである。無人飛行体2は、遠隔操作端末5と制御信号等を送受信可能に構成されている。これにより、無人飛行体2は、遠隔操作端末5によって任意の位置に移動可能に構成されている。また、無人飛行体2は、GNSS受信機3を有している。GNSS受信機3は、全球測位衛星システム(Global Navigation Satellite System)を構成する受信機であって、衛星から測距電波を受信し、受信機の位置座標である緯度、経度、標高を算出するものである。無人飛行体2は、指定された位置座標でホバリング可能に構成されている。なお、無人飛行体2は、移動式クレーンのブーム18等に取り付けられたビーコン、画像処理装置7が検出したクレーンのブーム画像、ブーム18に設けられたARタグ等に追従するように構成されていてもよい。 The unmanned flying object 2 is a self-supporting unmanned flying object (drone) that can be remotely controlled and autonomously flown by control signals. The unmanned aerial vehicle 2 is, for example, a multicopter having multiple propellers. The unmanned flying object 2 is configured to be able to transmit and receive control signals and the like to and from the remote control terminal 5. Thereby, the unmanned flying object 2 is configured to be movable to any position using the remote control terminal 5. Moreover, the unmanned aerial vehicle 2 has a GNSS receiver 3. The GNSS receiver 3 is a receiver that constitutes the Global Navigation Satellite System, and receives ranging radio waves from a satellite and calculates the latitude, longitude, and altitude, which are the position coordinates of the receiver. It is. The unmanned aerial vehicle 2 is configured to be able to hover at specified position coordinates. The unmanned aerial vehicle 2 is configured to follow a beacon attached to the boom 18 of a mobile crane, a boom image of the crane detected by the image processing device 7, an AR tag attached to the boom 18, etc. It's okay.

カメラ4は、複数の移動式クレーンを撮影する。カメラ4は、無人飛行体2に設けられている。カメラ4は、遠隔操作端末5からの制御信号等を取得可能に構成されている。また、カメラ4は、遠隔操作端末5に撮影した画像データを送信可能に構成されている。これにより、カメラ4は、遠隔操作端末5によって、撮影の開始、停止、撮影方向の決定、ズーム等の操作を行うことができる。 Camera 4 photographs a plurality of mobile cranes. The camera 4 is provided on the unmanned flying vehicle 2. The camera 4 is configured to be able to acquire control signals and the like from the remote control terminal 5. Furthermore, the camera 4 is configured to be able to transmit captured image data to the remote control terminal 5. Thereby, the camera 4 can perform operations such as starting and stopping photography, determining the photography direction, and zooming using the remote control terminal 5.

遠隔操作端末5は、無人飛行体2およびカメラ4の操作を行う操作端末である。遠隔操作端末5は、携帯可能な筐体に無人飛行体2の操作具およびカメラ4の操作具が設けられている。遠隔操作端末5は、操作具の操作によって無人飛行体2をクレーンの上方に配置し、任意の位置でホバリングさせることができる。遠隔操作端末5は、無人飛行体2およびカメラ4に制御信号を送受信可能に構成されている。また、遠隔操作端末5には、表示部である表示装置6が設けられている。 The remote control terminal 5 is an operating terminal that operates the unmanned aerial vehicle 2 and the camera 4. The remote control terminal 5 is provided with operating tools for the unmanned flying vehicle 2 and the operating tool for the camera 4 in a portable housing. The remote control terminal 5 can place the unmanned flying object 2 above the crane and hover it at any position by operating the operating tool. The remote control terminal 5 is configured to be able to send and receive control signals to and from the unmanned flying vehicle 2 and the camera 4. Further, the remote control terminal 5 is provided with a display device 6 that is a display section.

表示部である表示装置6は、カメラ4が撮影した画像を表示する。表示装置6は、液晶モニタ等から構成されている。表示装置6は、移動式クレーンの操縦者が視認可能な位置に配置されている。本実施形態において、表示装置6は、遠隔操作端末5に設けられている。つまり、表示装置6を有する遠隔操作端末5は、移動式クレーンの操縦席近傍に配置されている。表示装置6には、カメラ4が撮影した画像、およびカメラ4が撮影した画像に基づいて算出された複数の移動式クレーンに関する情報が表示される。 A display device 6, which is a display section, displays images taken by the camera 4. The display device 6 includes a liquid crystal monitor and the like. The display device 6 is arranged at a position where it can be viewed by the operator of the mobile crane. In this embodiment, the display device 6 is provided in the remote control terminal 5. That is, the remote control terminal 5 having the display device 6 is placed near the operator's seat of the mobile crane. The display device 6 displays images taken by the camera 4 and information regarding a plurality of mobile cranes calculated based on the images taken by the camera 4.

画像処理部である画像処理装置7は、カメラ4が撮影した画像を処理するコンピュータの一部である。画像処理装置7は、実体的には、CPU、ROM、RAM、HDD等がバスで接続される構成であってもよく、あるいはワンチップのLSI等からなる構成であってもよい。本実施形態において、画像処理装置7は、遠隔操作端末5に設けられている。画像処理装置7は、カメラ4が撮影した画像から移動式クレーンのブーム18を検出する。画像処理装置7は、カメラ4が撮影した画像を既知の手法でベクトル化し、特徴量を算出する。また、画像処理装置7は、カメラ4が撮影した画像を記憶する記憶部7aを有する。 The image processing device 7, which is an image processing section, is a part of a computer that processes images taken by the camera 4. The image processing device 7 may actually have a configuration in which a CPU, ROM, RAM, HDD, etc. are connected via a bus, or it may have a configuration consisting of a one-chip LSI or the like. In this embodiment, the image processing device 7 is provided in the remote control terminal 5. The image processing device 7 detects the boom 18 of the mobile crane from the image taken by the camera 4. The image processing device 7 vectorizes the image taken by the camera 4 using a known method and calculates the feature amount. The image processing device 7 also includes a storage unit 7a that stores images taken by the camera 4.

画像処理装置7は、本実施形態において、画像のカラーヒストグラムによるベクトル化、オートエンコーダによるベクトル化および局所特徴量によるベクトル化等を併用してそれぞれのベクトル化による特徴量の算出を行う。カラーヒストグラムによるベクトル化は、色の強度と出現頻度を特徴量としてベクトル化する手法である。オートエンコーダによるベクトル化は、オートエンコーダの中間層を、画像を代表する特徴量とする手法である。オートエンコーダは、3層ニューラルネットにおいて、入力層と出力層に同じデータを用いて教師あり学習をさせたものである。局所特徴量によるベクトル化は、KAZE局所特徴量を用いて画像をベクトル化する手法である。 In this embodiment, the image processing device 7 uses vectorization using a color histogram of an image, vectorization using an autoencoder, vectorization using a local feature amount, etc., and calculates a feature amount by each vectorization. Vectorization using a color histogram is a method of vectorizing color intensity and appearance frequency as feature quantities. Vectorization using an autoencoder is a method in which the intermediate layer of the autoencoder is used as a feature representing the image. The autoencoder is a three-layer neural network that performs supervised learning using the same data in the input and output layers. Vectorization using local features is a method of vectorizing an image using KAZE local features.

画像処理装置7は、画像のカラーヒストグラムによるベクトル化、オートエンコーダによるベクトル化および局所特徴量によるベクトル化により、3つの特徴量を算出する。なお、特徴量としては、画像に含まれる輝度値、エッジのヒストグラム、色とエッジの相関関数等でもよい。また、HOG(Histogram of Oriented Gradients)、SIFT(Scale Invariant Feature Transform)等の画像の局所特徴量を算出するようにしてもよい。 The image processing device 7 calculates three feature amounts by vectorizing the image using a color histogram, vectorizing using an autoencoder, and vectorizing using a local feature amount. Note that the feature amount may be a brightness value included in the image, a histogram of edges, a correlation function between colors and edges, or the like. Further, local feature amounts of the image such as HOG (Histogram of Oriented Gradients) and SIFT (Scale Invariant Feature Transform) may be calculated.

以下に、図2と図3とを用いて、画像処理装置7による画像処理について説明する。なお、カメラ4が撮影する画像には、複数の移動式クレーンが含まれている。本実施形態において複数の移動式クレーンは、接触抑制装置1が設けられている自機である第1クレーン11と他機である第2クレーン41とを含む。 Image processing by the image processing device 7 will be described below with reference to FIGS. 2 and 3. Note that the image taken by the camera 4 includes a plurality of mobile cranes. In this embodiment, the plurality of mobile cranes include a first crane 11 that is the own machine and a second crane 41 that is another machine that is provided with the contact suppression device 1.

図2に示すように、作業車両である第1クレーン11は、車両12、クレーン装置15を有する。クレーン装置15は、荷物Wをワイヤロープによって吊り上げる装置である。クレーン装置15は、旋回台16、ブーム18、キャビン29等を具備する。 As shown in FIG. 2, the first crane 11, which is a work vehicle, includes a vehicle 12 and a crane device 15. The crane device 15 is a device that lifts the cargo W using a wire rope. The crane device 15 includes a rotating base 16, a boom 18, a cabin 29, and the like.

作業車両である第2クレーン41は、車両42、作業装置であるクレーン装置45を有する。クレーン装置45は、旋回台46、ブーム48、キャビン59等を具備する。 The second crane 41, which is a working vehicle, has a vehicle 42 and a crane device 45, which is a working device. The crane device 45 includes a rotating base 46, a boom 48, a cabin 59, and the like.

第1クレーン11と第2クレーン41とは、第1クレーン11の作業領域である第1作業領域BR1と第2クレーン41の作業領域である第2作業領域BR2とが重複する状態で配置されている。また、第1クレーン11と第2クレーン41とは、互いに通信によって情報を共有できない状態であるものとする。 The first crane 11 and the second crane 41 are arranged such that the first working area BR1, which is the working area of the first crane 11, and the second working area BR2, which is the working area of the second crane 41, overlap. There is. Further, it is assumed that the first crane 11 and the second crane 41 are unable to share information with each other through communication.

画像処理装置7は、カメラ4が撮影した最新の画像Pから第1クレーン11の第1ブーム画像Bb1と第2クレーン41の第2ブーム画像Bb2とを検出する。画像処理装置7には、様々なクレーンのブーム画像からCNN(Convolutional Neural Network)を用いて検出されたクレーンのブーム画像のブーム特徴マップMが予め格納されている(図1参照)。 The image processing device 7 detects the first boom image Bb1 of the first crane 11 and the second boom image Bb2 of the second crane 41 from the latest image P captured by the camera 4. The image processing device 7 stores in advance a boom characteristic map M of a crane boom image detected from various crane boom images using CNN (Convolutional Neural Network) (see FIG. 1).

図3に示すように、画像処理装置7は、ブーム特徴マップMに基づいてCNNを用いた画像分類により、最新の画像Pから第1ブーム画像Bb1と第2ブーム画像Bb2とを検出する。画像処理装置7は、検出した第1ブーム画像Bb1の軸線上の両端部を示す画像上の先端位置座標Tb1と基端位置座標Ab1とを取得する。同様に、画像処理装置7は、第2ブーム画像Bb2との軸線上の両端部を示す画像上の先端位置座標Tb2と基端位置座標Ab2とを取得する。 As shown in FIG. 3, the image processing device 7 detects the first boom image Bb1 and the second boom image Bb2 from the latest image P by image classification using CNN based on the boom feature map M. The image processing device 7 acquires a tip position coordinate Tb1 and a base position coordinate Ab1 on the image indicating both ends on the axis of the detected first boom image Bb1. Similarly, the image processing device 7 acquires a tip position coordinate Tb2 and a base position coordinate Ab2 on the image indicating both ends on the axis line with the second boom image Bb2.

画像処理装置7は、第1ブーム画像Bb1と第2ブーム画像Bb2とを検出した最新の画像Pを記憶部7aに記憶する。以下の説明において、第1ブーム画像Bb1と第2ブーム画像Bb2とを検出した最新の画像Pを「最新検出画像Pb」と記す。画像処理装置7は、最新検出画像Pbを単位時間毎に時系列で記憶する。記憶部7aは、記憶した最新検出画像Pbを所定期間経過するまで保持する。以下の説明において、記憶部7aに記憶されている最新検出画像Pbよりも単位時間以前に記憶された過去の最新検出画像Pbを「過去検出画像Pa」と記す。 The image processing device 7 stores the latest image P in which the first boom image Bb1 and the second boom image Bb2 are detected in the storage unit 7a. In the following description, the latest image P in which the first boom image Bb1 and the second boom image Bb2 are detected will be referred to as the "latest detected image Pb." The image processing device 7 stores the latest detected images Pb in time series for each unit time. The storage unit 7a retains the stored latest detected image Pb until a predetermined period of time has elapsed. In the following description, a past latest detected image Pb stored a unit time before the latest detected image Pb stored in the storage unit 7a will be referred to as a "past detected image Pa."

画像処理装置7は、単位時間前の過去検出画像Paにおいて、最新検出画像Pbに含まれる第1ブーム画像Bb1と第2ブーム画像Bb2とに一致している部分をそれぞれ検出する。画像処理装置7は、画像のカラーヒストグラムによるベクトル化、オートエンコーダによるベクトル化および局所特徴量によるベクトル化によって算出した最新検出画像Pbにおける第1ブーム画像Bb1の特徴量Fb1および第2ブーム画像Bb2の特徴量Fb2と、過去検出画像Paにおける第1ブーム画像Ba1の特徴量Fa1および第2ブーム画像Ba2の特徴量Fa2とを比較する。 The image processing device 7 detects portions of the past detection image Pa from a unit time ago that match the first boom image Bb1 and the second boom image Bb2 included in the latest detection image Pb. The image processing device 7 calculates the feature amount Fb1 of the first boom image Bb1 and the feature amount Fb2 of the second boom image Bb2 in the latest detected image Pb calculated by vectorization using the color histogram of the image, vectorization using the autoencoder, and vectorization using the local feature amount. The feature amount Fb2 is compared with the feature amount Fa1 of the first boom image Ba1 and the feature amount Fa2 of the second boom image Ba2 in the past detected image Pa.

画像処理装置7は、特徴量Fb1と特徴量Fa1との差異が所定範囲内である場合、第1ブーム画像Bb1の単位時間前の画像が第1ブーム画像Ba1であるとして第1ブーム画像Ba1を検出する。同様に、画像処理装置7は、特徴量Fb2と特徴量Fa2との差異が所定範囲内である場合、第2ブーム画像Bb2の単位時間前の画像が第2ブーム画像Ba2であるとして第2ブーム画像Ba2を検出する。 When the difference between the feature amount Fb1 and the feature amount Fa1 is within a predetermined range, the image processing device 7 determines that the image taken a unit time before the first boom image Bb1 is the first boom image Ba1, and converts the first boom image Ba1 into the first boom image Ba1. To detect. Similarly, when the difference between the feature amount Fb2 and the feature amount Fa2 is within a predetermined range, the image processing device 7 determines that the image from the unit time before the second boom image Bb2 is the second boom image Ba2, Image Ba2 is detected.

画像処理装置7は、第1ブーム画像Bb1の先端位置座標Tb1および基端位置座標Ab1と第1ブーム画像Ba1の先端位置座標Ta1および基端位置座標Aa1から、最新検出画像Pbに含まれる第1ブーム画像Bb1の第1ブーム長さBL1および第1旋回中心BC1を算出する。なお、第1ブーム長さBL1は、最新検出画像Pbにおける第1旋回中心BC1から先端位置座標Ta1までの長さとする。同様に、画像処理装置7は、第2ブーム画像Bb2の先端位置座標Tb2および基端位置座標Ab2と第2ブーム画像Ba2の先端位置座標Ta2および基端位置座標Aa2から、最新検出画像Pbに含まれる第2ブーム画像Bb2の第2ブーム長さBL2、第2旋回中心BC2を算出する。なお、第1ブーム長さBL1は、最新検出画像Pbにおける第2旋回中心BC2から先端位置座標Ta2までの長さとする。 The image processing device 7 calculates the first image included in the latest detected image Pb from the tip position coordinate Tb1 and the base position coordinate Ab1 of the first boom image Bb1 and the tip position coordinate Ta1 and the base position coordinate Aa1 of the first boom image Ba1. A first boom length BL1 and a first turning center BC1 of the boom image Bb1 are calculated. Note that the first boom length BL1 is the length from the first turning center BC1 to the tip position coordinate Ta1 in the latest detected image Pb. Similarly, the image processing device 7 calculates the information contained in the latest detected image Pb based on the tip position coordinate Tb2 and the base position coordinate Ab2 of the second boom image Bb2 and the tip position coordinate Ta2 and the base position coordinate Aa2 of the second boom image Ba2. The second boom length BL2 and the second turning center BC2 of the second boom image Bb2 are calculated. Note that the first boom length BL1 is the length from the second turning center BC2 to the tip position coordinate Ta2 in the latest detected image Pb.

図4に示すように、画像処理装置7は、算出した第1ブーム長さBL1および第1旋回中心BC1から最新検出画像Pbにおける第1クレーン11の第1作業領域BR1およびブーム18の第1移動方向BM1を算出する。同様に、画像処理装置7は、算出した第2ブーム長さBL2および第2旋回中心BC2から最新検出画像Pbにおける第2クレーン41の第2作業領域BR2およびブーム48の第2移動方向BM2を算出する。 As shown in FIG. 4, the image processing device 7 calculates the first working area BR1 of the first crane 11 and the first movement of the boom 18 in the latest detected image Pb from the calculated first boom length BL1 and first turning center BC1. Direction BM1 is calculated. Similarly, the image processing device 7 calculates the second working area BR2 of the second crane 41 and the second moving direction BM2 of the boom 48 in the latest detected image Pb from the calculated second boom length BL2 and second turning center BC2. do.

画像処理装置7は、表示装置6に最新検出画像Pbを表示させる。更に、画像処理装置7は、表示装置6に第1クレーン11の画像に第1作業領域BR1を示す画像と第1ブーム画像Bb1のブーム先端の第1移動方向BM1を示す画像とのうち少なくとも一つを表示させる。本実施形態において、画像処理装置7は、第1作業領域BR1を示す円形図形とブーム先端の第1移動方向BM1を示す矢印とのうち少なくとも一つを第1クレーン11の画像に重畳表示させる。つまり、画像処理装置7は、第1クレーン11の実画像である最新検出画像Pbに、第1クレーン11の作動状態に関する情報を仮想の画像として重畳表示させた拡張現実(Augmented Reality)を生成する。同様に、画像処理装置7は、第2作業領域BR2を示す円形図形とブーム先端の第2移動方向BM2を示す矢印とのうち少なくとも一つを第2クレーン41の画像に重畳表示させる。 The image processing device 7 causes the display device 6 to display the latest detected image Pb. Further, the image processing device 7 displays at least one of the image of the first crane 11 on the display device 6, an image showing the first work area BR1, and an image showing the first moving direction BM1 of the boom tip of the first boom image Bb1. Display one. In the present embodiment, the image processing device 7 superimposes and displays at least one of a circular figure indicating the first work area BR1 and an arrow indicating the first moving direction BM1 of the boom tip on the image of the first crane 11. That is, the image processing device 7 generates augmented reality in which information regarding the operating state of the first crane 11 is superimposed and displayed as a virtual image on the latest detected image Pb, which is a real image of the first crane 11. . Similarly, the image processing device 7 superimposes and displays at least one of a circular figure indicating the second work area BR2 and an arrow indicating the second moving direction BM2 of the boom tip on the image of the second crane 41.

画像処理装置7は、単位時間経過後に、カメラ4が撮影した最新の画像Pから第1クレーン11の第1作業領域BR1および第2クレーン41の第2作業領域BR2と、第1ブーム画像Bb1のブーム先端の第1移動方向BM1および第2ブーム画像Bb2のブーム先端の第2移動方向BM2を算出する。画像処理装置7は、表示装置6に最新検出画像Pbを表示させるとともに、第1クレーン11の画像に第1作業領域BR1を示す画像と第1ブーム画像Bb1の第1移動方向BM1を示す画像とを重畳表示させる。同様に、画像処理装置7は、第2クレーン41の画像に第2作業領域BR2を示す画像と第2ブーム画像Bb2の第2移動方向BM2を示す画像とを重畳表示させる。なお、画像処理装置7は、最新検出画像Pbに作業領域と移動方向とのうちいずれか一方を選択して表示する構成でもよい。 After a unit time has elapsed, the image processing device 7 calculates the first working area BR1 of the first crane 11, the second working area BR2 of the second crane 41, and the first boom image Bb1 from the latest image P taken by the camera 4. A first moving direction BM1 of the boom tip and a second moving direction BM2 of the boom tip of the second boom image Bb2 are calculated. The image processing device 7 causes the display device 6 to display the latest detected image Pb, and also displays an image of the first crane 11 including an image showing the first work area BR1 and an image showing the first moving direction BM1 of the first boom image Bb1. to be displayed superimposed. Similarly, the image processing device 7 causes an image showing the second work area BR2 and an image showing the second moving direction BM2 of the second boom image Bb2 to be displayed superimposed on the image of the second crane 41. Note that the image processing device 7 may be configured to select and display either the work area or the movement direction on the latest detected image Pb.

このように構成される接触抑制装置1の画像処理装置7は、第1クレーン11および第2クレーン41が含まれる最新検出画像Pbから検出した第1ブーム画像Bb1の画像上の位置座標である先端位置座標Tb1および基端位置座標Ab1と、単位時間以前の過去検出画像Paから検出した第1ブーム画像Ba1の画像上の位置座標である先端位置座標Ta1および基端位置座標Aa1とから第1クレーン11の第1作業領域BR1とブーム先端の第1移動方向BM1とを算出する。同様に、画像処理装置7は、第2クレーン41の第2作業領域BR2とブーム先端の第2移動方向BM2とを算出する。画像処理装置7は、第1クレーン11の第1作業領域BR1を示す画像と第1移動方向BM1を示す画像および第2クレーン41の第2作業領域BR2を示す画像と第2移動方向BM2を示す画像とを最新検出画像Pbに重畳表示させる。 The image processing device 7 of the contact suppression device 1 configured as described above is configured to detect the tip end which is the position coordinate on the image of the first boom image Bb1 detected from the latest detection image Pb including the first crane 11 and the second crane 41. The first crane is determined based on the position coordinate Tb1, the base position coordinate Ab1, and the tip position coordinate Ta1 and the base position coordinate Aa1, which are the position coordinates on the image of the first boom image Ba1 detected from the past detection image Pa before the unit time. The first working area BR1 of No. 11 and the first moving direction BM1 of the boom tip are calculated. Similarly, the image processing device 7 calculates the second working area BR2 of the second crane 41 and the second moving direction BM2 of the boom tip. The image processing device 7 shows an image showing the first working area BR1 of the first crane 11, an image showing the first moving direction BM1, an image showing the second working area BR2 of the second crane 41, and a second moving direction BM2. image is displayed superimposed on the latest detected image Pb.

これにより、接触抑制装置1は、通信によって第1クレーン11と第2クレーン41とから各種情報を取得することなく第1クレーン11の第1作業領域BR1と第2クレーン41の第2作業領域BR2との相対的位置関係と第1クレーン11と第2クレーン41との相対的移動方向とを視覚的に表示することができる。つまり、接触抑制装置1は、第1クレーン11と第2クレーン41とが通信不能な状態でも第1クレーン11のブーム18と第2クレーン41のブーム48との接触を抑制することができる。 Thereby, the contact suppression device 1 can operate the first working area BR1 of the first crane 11 and the second working area BR2 of the second crane 41 without acquiring various information from the first crane 11 and the second crane 41 through communication. The relative positional relationship between the first crane 11 and the second crane 41 and the relative movement direction between the first crane 11 and the second crane 41 can be visually displayed. That is, the contact suppression device 1 can suppress contact between the boom 18 of the first crane 11 and the boom 48 of the second crane 41 even when the first crane 11 and the second crane 41 are unable to communicate.

更に、画像処理装置7は、第1クレーン11のブーム18と第2クレーン41のブーム48との距離に基づいた距離判定制御を行ってもよい。なお、画像処理装置7は、画面上の距離を実際の距離に換算する縮尺情報を保持しているものとする。 Furthermore, the image processing device 7 may perform distance determination control based on the distance between the boom 18 of the first crane 11 and the boom 48 of the second crane 41. It is assumed that the image processing device 7 holds scale information for converting distances on the screen into actual distances.

図5に示すように、画像処理装置7は、最新検出画像Pbから検出した第1ブーム画像Bb1の画像上の位置座標である先端位置座標Tb1および基端位置座標Ab1と、第2ブーム画像Bb2の画像上の位置座標である先端位置座標Tb2および基端位置座標Ab2とから第1ブーム画像Bb1と第2ブーム画像Bb2との実距離Lbを算出する。更に、画像処理装置7は、単位時間前に算出した過去検出画像Paにおける第1ブーム画像Ba1と第2ブーム画像Ba2との実距離Laに対する実距離Lbの変化量DLを算出する。 As shown in FIG. 5, the image processing device 7 calculates the tip position coordinate Tb1 and the base position coordinate Ab1, which are the position coordinates on the image of the first boom image Bb1 detected from the latest detection image Pb, and the second boom image Bb2. The actual distance Lb between the first boom image Bb1 and the second boom image Bb2 is calculated from the tip position coordinate Tb2 and the base position coordinate Ab2, which are the position coordinates on the image. Furthermore, the image processing device 7 calculates the amount of change DL of the actual distance Lb with respect to the actual distance La between the first boom image Ba1 and the second boom image Ba2 in the past detection image Pa calculated a unit time ago.

画像処理装置7は、算出した実距離Lbが所定値Ls未満であるか否か判定する。画像処理装置7は、実距離Lbが所定値Ls未満である場合、算出した実距離Laに対する実距離Lbの変化量DLがマイナスか否か判定する。すなわち、画像処理装置7は、実距離Lbが単位時間前の実距離Laよりも減少し、第1クレーン11のブーム18と第2クレーン41のブーム48とが近づいているか否か判定する。画像処理装置7は、変化量DLがマイナスであると判定した場合、第1クレーン11のブーム18と第2クレーン41のブーム48とのブーム間の間隔が所定値未満の間隔で配置され、且つブーム18とブーム48とが近づいているとして、表示装置6に接触の可能性を作業者に報知する。 The image processing device 7 determines whether the calculated actual distance Lb is less than a predetermined value Ls. When the actual distance Lb is less than the predetermined value Ls, the image processing device 7 determines whether the amount of change DL of the actual distance Lb with respect to the calculated actual distance La is negative. That is, the image processing device 7 determines whether the actual distance Lb is smaller than the actual distance La a unit time ago, and the boom 18 of the first crane 11 and the boom 48 of the second crane 41 are approaching each other. If the image processing device 7 determines that the amount of change DL is negative, the boom 18 of the first crane 11 and the boom 48 of the second crane 41 are arranged with an interval less than a predetermined value, and Assuming that the boom 18 and the boom 48 are approaching, the operator is notified on the display device 6 of the possibility of contact.

また、画像処理装置7は、実距離Lbが所定値Ls未満、且つ変化量DLが減少している場合、少なくとも第1クレーン11にブームの移動を停止させる制御信号、警報を発報させる制御信号等の所定の制御信号を送信してもよい。 Further, when the actual distance Lb is less than the predetermined value Ls and the amount of change DL is decreasing, the image processing device 7 sends at least a control signal to the first crane 11 to stop the movement of the boom, and a control signal to issue an alarm. Alternatively, a predetermined control signal such as the following may be transmitted.

更に、画像処理装置7は、距離判定制御に代えて、第1クレーン11の第1作業領域BR1と第2クレーン41の第2作業領域BR2とに基づいた領域判定制御を行ってもよい。 Furthermore, the image processing device 7 may perform area determination control based on the first work area BR1 of the first crane 11 and the second work area BR2 of the second crane 41 instead of the distance determination control.

画像処理装置7は、最新検出画像Pbから検出した第1クレーン11の第1作業領域BR1と第2クレーン41の第2作業領域BR2が重複している領域を算出する。すなわち、画像処理装置7は、第1クレーン11のブーム18と第2クレーン41のブーム48とが接触する可能性がある接触領域C(図4、図5の薄墨部分)を算出する。 The image processing device 7 calculates an area where the first working area BR1 of the first crane 11 and the second working area BR2 of the second crane 41 overlap, which are detected from the latest detected image Pb. That is, the image processing device 7 calculates a contact area C (light black portion in FIGS. 4 and 5) where the boom 18 of the first crane 11 and the boom 48 of the second crane 41 may come into contact.

画像処理装置7は、第1クレーン11の第1ブーム画像Bb1と第2クレーン41の第2ブーム画像Bb2とのうち一方のブーム画像が接触領域C内に含まれ、第1ブーム画像Bb1と第2ブーム画像Bb2との間の実距離Laに対する実距離Lbの変化量DLがマイナスである場合、少なくとも第1クレーン11にブーム18を停止させる制御信号を送信する。また、画像処理装置7は、第1ブーム画像Bb1と第2ブーム画像Bb2とが接触領域Cに含まれている場合、少なくとも第1クレーン11にブーム18を停止させる制御信号を送信する。なお、画像処理装置7は、第2クレーン41の作業者に警報等によって接触の可能性を放置するように構成されていてもよい。 The image processing device 7 is configured such that one of the first boom image Bb1 of the first crane 11 and the second boom image Bb2 of the second crane 41 is included in the contact area C, and the first boom image Bb1 and the second boom image Bb2 are When the amount of change DL of the actual distance Lb with respect to the actual distance La with respect to the second boom image Bb2 is negative, a control signal for stopping the boom 18 is transmitted to at least the first crane 11. Further, when the first boom image Bb1 and the second boom image Bb2 are included in the contact area C, the image processing device 7 transmits a control signal to at least the first crane 11 to stop the boom 18. Note that the image processing device 7 may be configured to warn the operator of the second crane 41 of the possibility of contact.

以下に、図6から図8を用いて、接触抑制装置1による第1クレーン11と第2クレーン41との接触抑制制御について説明する。本実施形態において、接触抑制装置1は、カメラ4を構成しているカメラ4を備えた無人飛行体2が所定の位置にホバリングしながら下方の第1クレーン11と第2クレーン41とを撮影しているものとする。 Contact suppression control between the first crane 11 and the second crane 41 by the contact suppression device 1 will be described below with reference to FIGS. 6 to 8. In the present embodiment, the contact suppression device 1 allows the unmanned flying vehicle 2 including the camera 4 to take pictures of the first crane 11 and the second crane 41 below while hovering at a predetermined position. It is assumed that

図6に示すように、接触抑制制御のステップS110において、画像処理装置7は、カメラ4が撮影した最新の画像Pを取得する。画像処理装置7は、ステップをステップS120に移行させる。 As shown in FIG. 6, in step S110 of contact suppression control, the image processing device 7 acquires the latest image P captured by the camera 4. The image processing device 7 moves the step to step S120.

ステップS120において、画像処理装置7は、取得した最新の画像PからCNNを用いた画像分類により、第1クレーン11の第1ブーム画像Bb1と第2クレーン41の第2ブーム画像Bb2とを検出する。画像処理装置7は、ステップをステップS130に移行させる。 In step S120, the image processing device 7 detects the first boom image Bb1 of the first crane 11 and the second boom image Bb2 of the second crane 41 from the acquired latest image P by image classification using CNN. . The image processing device 7 moves the step to step S130.

ステップS130において、画像処理装置7は、検出した第1ブーム画像Bb1の軸線上の両端部を示す画像上の先端位置座標Tb1と基端位置座標Ab1、および第2ブーム画像Bb2の軸線上の両端部を示す画像上の先端位置座標Tb2と基端位置座標Ab2とを取得する。画像処理装置7は、ステップをステップS140に移行させる。 In step S130, the image processing device 7 calculates a tip position coordinate Tb1 and a base position coordinate Ab1 on the image indicating both ends on the axis of the detected first boom image Bb1, and both ends on the axis of the second boom image Bb2. The distal end position coordinate Tb2 and the proximal end position coordinate Ab2 on the image indicating the part are acquired. The image processing device 7 moves the step to step S140.

ステップS140において、画像処理装置7は、第1ブーム画像Bb1の特徴量Fb1と第2ブーム画像Bb2の特徴量Fb2とを用いて過去検出画像Paから第1ブーム画像Bb1の単位時間前の画像である第1ブーム画像Ba1と、第2ブーム画像Bb2の単位時間前の画像である第2ブーム画像Ba2と、を検出する。画像処理装置7は、ステップをS150に移行させる。 In step S140, the image processing device 7 uses the feature amount Fb1 of the first boom image Bb1 and the feature amount Fb2 of the second boom image Bb2 to convert the past detected image Pa into an image of the first boom image Bb1 a unit time ago. A certain first boom image Ba1 and a second boom image Ba2, which is an image taken a unit time before the second boom image Bb2, are detected. The image processing device 7 moves the step to S150.

ステップS150において、画像処理装置7は、第1ブーム画像Bb1の先端位置座標Tb1および基端位置座標Ab1と第1ブーム画像Ba1の先端位置座標Ta1および基端位置座標Aa1から、第1ブーム画像Bb1の第1ブーム長さBL1および第1旋回中心BC1およびブーム先端の第1移動方向BM1を算出する。同様に、画像処理装置7は、第2ブーム画像Bb2の先端位置座標Tb2および基端位置座標Ab2と第2ブーム画像Ba2の先端位置座標Ta2および基端位置座標Aa2から、第2ブーム画像Bb2の第2ブーム長さBL2、第2旋回中心BC2およびブーム先端の第2移動方向BM2を算出する。画像処理装置7は、ステップをステップS160に移行させる。 In step S150, the image processing device 7 calculates the first boom image Bb1 from the tip position coordinate Tb1 and the base position coordinate Ab1 of the first boom image Bb1 and the tip position coordinate Ta1 and the base position coordinate Aa1 of the first boom image Ba1. A first boom length BL1, a first turning center BC1, and a first moving direction BM1 of the boom tip are calculated. Similarly, the image processing device 7 generates the second boom image Bb2 from the tip position coordinate Tb2 and the base position coordinate Ab2 of the second boom image Bb2 and the tip position coordinate Ta2 and the base position coordinate Aa2 of the second boom image Ba2. A second boom length BL2, a second turning center BC2, and a second moving direction BM2 of the boom tip are calculated. The image processing device 7 moves the step to step S160.

ステップS160において、画像処理装置7は、算出した第1ブーム画像Bb1の第1ブーム長さBL1および第1旋回中心BC1から第1作業領域BR1を算出する。同様に、画像処理装置7は、第2ブーム画像Bb2の第2ブーム長さBL2および第2旋回中心BC2から第2作業領域BR2を算出する。画像処理装置7は、ステップをステップS170に移行させる。 In step S160, the image processing device 7 calculates the first work area BR1 from the first boom length BL1 and the first turning center BC1 of the calculated first boom image Bb1. Similarly, the image processing device 7 calculates the second work area BR2 from the second boom length BL2 and the second turning center BC2 of the second boom image Bb2. The image processing device 7 moves the step to step S170.

ステップS170において、画像処理装置7は、表示装置6に最新検出画像Pbを表示する。更に、表示装置6は、第1作業領域BR1を示す画像と第1ブーム画像Bb1のブーム先端の第1移動方向BM1を示す画像を重畳表示させる。同様に、表示装置6は、第2作業領域BR2を示す画像と第2ブーム画像Bb2のブーム先端の第2移動方向BM2を示す画像を重畳表示させる。画像処理装置7は、ステップをステップS200に移行させる。 In step S170, the image processing device 7 displays the latest detected image Pb on the display device 6. Further, the display device 6 displays an image showing the first work area BR1 and an image showing the first moving direction BM1 of the boom tip of the first boom image Bb1 in a superimposed manner. Similarly, the display device 6 displays an image showing the second work area BR2 and an image showing the second moving direction BM2 of the boom tip of the second boom image Bb2 in a superimposed manner. The image processing device 7 moves the step to step S200.

ステップS200において、画像処理装置7は、距離判定制御Aを開始し、ステップをステップS210に移行させる(図7参照)。画像処理装置7は、距離判定制御Aが終了するとステップをステップS110に移行させる(図6参照)。 In step S200, the image processing device 7 starts distance determination control A, and moves the step to step S210 (see FIG. 7). When the distance determination control A ends, the image processing device 7 moves the step to step S110 (see FIG. 6).

図7に示すように、距離判定制御AのステップS210において、画像処理装置7は、第1ブーム画像Bb1の画像上の位置座標である先端位置座標Tb1および基端位置座標Ab1と、第2ブーム画像Bb2の画像上の位置座標である先端位置座標Tb2および基端位置座標Ab2とから第1ブーム画像Bb1と第2ブーム画像Bb2との最新検出画像Pb上の実距離Lbを算出する。画像処理装置7は、ステップをステップS220に移行させる。 As shown in FIG. 7, in step S210 of distance determination control A, the image processing device 7 calculates the tip position coordinate Tb1 and the base position coordinate Ab1, which are the position coordinates on the first boom image Bb1, and the second boom image Bb1. The actual distance Lb between the first boom image Bb1 and the second boom image Bb2 on the latest detected image Pb is calculated from the tip position coordinate Tb2 and the base position coordinate Ab2, which are the position coordinates on the image Bb2. The image processing device 7 moves the step to step S220.

ステップS220において、画像処理装置7は、単位時間前に算出した過去検出画像Paにおける第1ブーム画像Ba1と第2ブーム画像Ba2との実距離Laに対する実距離Lbの変化量DLを算出する。画像処理装置7は、ステップをステップS230に移行させる。 In step S220, the image processing device 7 calculates the amount of change DL of the actual distance Lb with respect to the actual distance La between the first boom image Ba1 and the second boom image Ba2 in the past detection image Pa calculated a unit time ago. The image processing device 7 moves the step to step S230.

ステップS230において、画像処理装置7は、算出した実距離Lbが所定値Ls未満であるか否か判定する。
その結果、実距離Lbが所定値Ls未満である場合、画像処理装置7はステップをステップS240に移行させる。
一方、実距離Lbが所定値Ls未満でない場合、画像処理装置7は距離判定制御Aを終了する。画像処理装置7は、ステップをステップS110に移行させる(図6参照)。
In step S230, the image processing device 7 determines whether the calculated actual distance Lb is less than a predetermined value Ls.
As a result, if the actual distance Lb is less than the predetermined value Ls, the image processing device 7 moves the step to step S240.
On the other hand, if the actual distance Lb is not less than the predetermined value Ls, the image processing device 7 ends the distance determination control A. The image processing device 7 moves the step to step S110 (see FIG. 6).

ステップS240において、画像処理装置7は、算出した実距離Laに対する実距離Lbの変化量DLがマイナスか否か判定する。
その結果、実距離Laに対する実距離Lbの変化量DLがマイナスである場合、画像処理装置7はステップをステップS250に移行させる。
一方、実距離Laに対する実距離Lbの変化量DLがゼロ以上である場合、画像処理装置7は距離判定制御Aを終了する。画像処理装置7は、ステップをステップS110に移行させる(図6参照)。
In step S240, the image processing device 7 determines whether the amount of change DL of the actual distance Lb with respect to the calculated actual distance La is negative.
As a result, if the amount of change DL of the actual distance Lb with respect to the actual distance La is negative, the image processing device 7 moves the step to step S250.
On the other hand, if the amount of change DL of the actual distance Lb with respect to the actual distance La is greater than or equal to zero, the image processing device 7 ends the distance determination control A. The image processing device 7 moves the step to step S110 (see FIG. 6).

ステップS250において、画像処理装置7は、他機である第2クレーン41のブーム48が近接しているとして、表示装置6に自機である第1クレーン11のブーム18と第2クレーン41のブーム48との接触の可能性を報知する文字、図形、色、発光等の表示を所定時間継続して行う。画像処理装置7は、ステップをステップS260に移行させる。 In step S250, the image processing device 7 displays the boom 18 of the first crane 11 and the boom of the second crane 41 on the display device 6, assuming that the boom 48 of the second crane 41, which is another device, is close to each other. Display of characters, figures, colors, light emission, etc. to notify the possibility of contact with 48 continues for a predetermined period of time. The image processing device 7 moves the step to step S260.

ステップS260において、画像処理装置7は、第1クレーン11のブーム18を停止させる制御信号を第1クレーン11の制御装置37(図10参照)に送信する。画像処理装置7は距離判定制御Aを終了する。画像処理装置7は、ステップをステップS110に移行させる(図6参照)。 In step S260, the image processing device 7 transmits a control signal for stopping the boom 18 of the first crane 11 to the control device 37 of the first crane 11 (see FIG. 10). The image processing device 7 ends the distance determination control A. The image processing device 7 moves the step to step S110 (see FIG. 6).

なお、接触抑制制御の別実施形態として、接触抑制装置1は、接触抑制制御における距離判定制御Aに代えて、領域判定制御Bを実施してもよい。 Note that, as another embodiment of contact prevention control, the contact prevention device 1 may perform area determination control B instead of distance determination control A in contact prevention control.

接触抑制制御における接触抑制装置1の画像処理装置7は、表示装置6に最新検出画像Pb、第1作業領域BR1を示す画像、第1ブーム画像Bb1のブーム先端の第1移動方向BM1を示す画像、第2作業領域BR2を示す画像および第2ブーム画像Bb2のブーム先端の第2移動方向BM2を示す画像を重畳表示させた後(図の接触抑制制御におけるステップS170参照)、領域判定制御Bを開始する。画像処理装置7は、ステップをステップS310に移行させる(図8参照)。 The image processing device 7 of the contact suppression device 1 in the contact suppression control displays on the display device 6 the latest detected image Pb, an image showing the first work area BR1, and an image showing the first moving direction BM1 of the boom tip of the first boom image Bb1. , after superimposing and displaying the image showing the second work area BR2 and the image showing the second moving direction BM2 of the boom tip of the second boom image Bb2 (see step S170 in the contact suppression control in the figure), area determination control B is performed. Start. The image processing device 7 moves the step to step S310 (see FIG. 8).

図8に示すように、領域判定制御BのステップS310において、画像処理装置7は、最新検出画像Pbから検出した第1クレーン11の第1作業領域BR1と第2クレーン41の第2作業領域BR2が重複している接触領域Cを算出する。画像処理装置7は、ステップをステップS320に移行させる。 As shown in FIG. 8, in step S310 of area determination control B, the image processing device 7 selects the first working area BR1 of the first crane 11 and the second working area BR2 of the second crane 41 detected from the latest detected image Pb. The contact area C where the two overlap is calculated. The image processing device 7 moves the step to step S320.

ステップS320において、画像処理装置7は、第1クレーン11の第1ブーム画像Bb1と第2クレーン41の第2ブーム画像Bb2とのうち少なくとも一方のブーム画像が接触領域C内に含まれているか否か判定する。
その結果、第1ブーム画像Bb1と第2ブーム画像Bb2とのうち少なくとも一方のブーム画像が接触領域C内に含まれている場合、画像処理装置7はステップをステップS330に移行させる。
一方、第1ブーム画像Bb1と第2ブーム画像Bb2とが接触領域C内に含まれていない場合、画像処理装置7は領域判定制御Bを終了する。画像処理装置7は、ステップをステップS110に移行させる(図6参照)。
In step S320, the image processing device 7 determines whether at least one of the first boom image Bb1 of the first crane 11 and the second boom image Bb2 of the second crane 41 is included in the contact area C. Determine whether
As a result, if at least one of the first boom image Bb1 and the second boom image Bb2 is included in the contact area C, the image processing device 7 moves the step to step S330.
On the other hand, if the first boom image Bb1 and the second boom image Bb2 are not included in the contact area C, the image processing device 7 ends the area determination control B. The image processing device 7 moves the step to step S110 (see FIG. 6).

ステップS330において、画像処理装置7は、第1ブーム画像Bb1または第2ブーム画像Bb2のいずれか一方が接触領域C内に含まれているか否か判定する。
その結果、第1ブーム画像Bb1または第2ブーム画像Bb2のいずれか一方が接触領域C内に含まれている場合、画像処理装置7はステップをステップS340に移行させる。
一方、第1ブーム画像Bb1および第2ブーム画像Bb2が接触領域C内に含まれている場合、画像処理装置7はステップをステップS350に移行させる。
In step S330, the image processing device 7 determines whether either the first boom image Bb1 or the second boom image Bb2 is included in the contact area C.
As a result, if either the first boom image Bb1 or the second boom image Bb2 is included in the contact area C, the image processing device 7 moves the step to step S340.
On the other hand, if the first boom image Bb1 and the second boom image Bb2 are included in the contact area C, the image processing device 7 moves the step to step S350.

ステップS340において、画像処理装置7は、第1ブーム画像Bb1と第2ブーム画像Bb2との間の実距離Laに対する実距離Lbの変化量DLがマイナスか否か判定する。
その結果、実距離Laに対する実距離Lbの変化量DLがマイナスである場合、画像処理装置7はステップをステップS350に移行させる。
一方、実距離Laに対する実距離Lbの変化量DLがマイナスでない場合、画像処理装置7は領域判定制御Bを終了する。画像処理装置7は、ステップをステップS110に移行させる(図参照)。
In step S340, the image processing device 7 determines whether the amount of change DL of the actual distance Lb with respect to the actual distance La between the first boom image Bb1 and the second boom image Bb2 is negative.
As a result, if the amount of change DL of the actual distance Lb with respect to the actual distance La is negative, the image processing device 7 moves the step to step S350.
On the other hand, if the amount of change DL of the actual distance Lb with respect to the actual distance La is not negative, the image processing device 7 ends the area determination control B. The image processing device 7 moves the step to step S110 (see the figure).

ステップS350において、画像処理装置7は、自機である第1クレーン11のブーム18と他機である第2クレーン41のブーム48とが接触する可能性が高いとして、ブーム18とブーム48との接触の可能性を報知する文字、図形、色、発光等の表示を表示装置6に表示するとともに、少なくとも第1クレーン11にブーム18を停止させる制御信号を送信する。画像処理装置7は領域判定制御Bを終了する。画像処理装置7は、ステップをステップS110に移行させる(図6参照)。 In step S350, the image processing device 7 determines that there is a high possibility that the boom 18 of the first crane 11, which is the self-machine, and the boom 48 of the second crane 41, which is the other machine, will come into contact with each other. Displays on the display device 6 include characters, figures, colors, luminescence, etc. that notify the possibility of contact, and at the same time transmits a control signal to stop the boom 18 to at least the first crane 11. The image processing device 7 ends the area determination control B. The image processing device 7 moves the step to step S110 (see FIG. 6).

このように構成することで、接触抑制装置1は、無人飛行体2に設けられたカメラ4によって第1クレーン11と第2クレーン41とを俯瞰画像として撮影するので第1クレーン11と第2クレーン41との各ブームの相対位置を容易に把握することができる。加えて、接触抑制装置1の画像処理装置7は、第1クレーン11と第2クレーン41とが含まれる俯瞰画像である最新検出画像Pbに、第1クレーン11の第1作業領域BR1を示す画像と第1移動方向BM1を示す画像および第2クレーン41の第2作業領域BR2を示す画像と第2移動方向BM2を示す画像を重畳表示させた拡張現実(AR)を生成することができる。 With this configuration, the contact suppression device 1 photographs the first crane 11 and the second crane 41 as an overhead image using the camera 4 installed on the unmanned flying vehicle 2, so 41, the relative position of each boom can be easily grasped. In addition, the image processing device 7 of the contact suppression device 1 adds an image showing the first work area BR1 of the first crane 11 to the latest detected image Pb, which is an overhead image including the first crane 11 and the second crane 41. Augmented reality (AR) can be generated in which an image showing the first moving direction BM1, an image showing the second work area BR2 of the second crane 41, and an image showing the second moving direction BM2 are displayed in a superimposed manner.

また、接触抑制装置1の画像処理装置7は、最新検出画像Pbにおける第1クレーン11のブーム18と第2クレーン41のブーム48とのブーム間の間隔が所定値Ls未満である場合、ブーム18とブーム48とが接触する可能性が高いと判定し、接触の可能性を報知する色、図形、文字等を用いて所定の態様で表示装置6に表示する。更に、画像処理装置7は、第1クレーン11に警報信号、停止信号等の所定の制御信号を送信する。 Further, the image processing device 7 of the contact suppression device 1 detects the boom 18 when the interval between the boom 18 of the first crane 11 and the boom 48 of the second crane 41 in the latest detection image Pb is less than the predetermined value Ls. It is determined that there is a high possibility that the boom 48 will come into contact with the boom 48, and is displayed on the display device 6 in a predetermined manner using colors, figures, characters, etc. that indicate the possibility of contact. Furthermore, the image processing device 7 transmits predetermined control signals such as an alarm signal and a stop signal to the first crane 11.

また、画像処理装置7は、第1クレーン11の第1作業領域BR1と第2クレーン41の第2作業領域BR2が重複している接触領域Cにブーム18とブーム48との少なくとも一方が含まれ、且つ近づいている場合、第1クレーン11にブーム18を停止させる制御信号を送信してもよい。これにより、接触抑制装置1は、通信によって第1クレーン11と第2クレーン41とから各種情報を取得することなく第1クレーン11のブーム18と第2クレーン41のブーム48との接触を抑制することができる。 The image processing device 7 also detects that at least one of the boom 18 and the boom 48 is included in a contact area C where the first working area BR1 of the first crane 11 and the second working area BR2 of the second crane 41 overlap. , and is approaching, a control signal may be sent to the first crane 11 to stop the boom 18. Thereby, the contact suppression device 1 suppresses contact between the boom 18 of the first crane 11 and the boom 48 of the second crane 41 without acquiring various information from the first crane 11 and the second crane 41 through communication. be able to.

本実施形態において、接触抑制装置1は、第1クレーン11のブーム18と第2クレーン41のブーム48との接触を抑制しているが、これに限定するものではない。接触抑制装置1は、ブームを備えた作業車両として高所作業車同士の接触、または移動式クレーンのブームと高所作業車のブームまたはバケットとの接触を抑制する構成でもよい。接触抑制装置1は、画像認識を用いた拡張現実を利用することで、メーカーが異なる作業車両同士だけでなく、機種が異なる作業車両同士の接触を抑制することができる。 In this embodiment, the contact suppression device 1 suppresses contact between the boom 18 of the first crane 11 and the boom 48 of the second crane 41, but the contact suppression device 1 is not limited to this. The contact suppression device 1 may be configured to suppress contact between high-altitude working vehicles as work vehicles equipped with booms, or contact between a boom of a mobile crane and a boom or a bucket of the high-altitude working vehicle. By utilizing augmented reality using image recognition, the contact suppression device 1 can suppress contact not only between work vehicles of different manufacturers but also between work vehicles of different models.

次に、図9と図10とを用いて、本発明の第2実施形態に係る接触抑制装置1を備えた作業車両である移動式クレーンについて説明する。なお、以下の実施形態に係る接触抑制装置1を備えた移動式クレーンは、図1から図10に示す接触抑制装置1が適用されるものとして、その説明で用いた名称、図番、符号を用いることで、同じものを指す。よって、以下の実施形態において、既に説明した実施形態と同様の点に関してはその具体的説明を省略し、相違する部分を中心に説明する。なお、本実施形態においては、ラフテレーンクレーンついて説明を行うが、作業車両として、オールテレーンクレーン、トラッククレーン、積載型トラッククレーン、高所作業車等でもよい。 Next, a mobile crane that is a work vehicle equipped with a contact suppression device 1 according to a second embodiment of the present invention will be described using FIGS. 9 and 10. Note that the mobile crane equipped with the contact suppression device 1 according to the following embodiments is applicable to the contact suppression device 1 shown in FIGS. 1 to 10, and the names, drawing numbers, and symbols used in the description are When used, they refer to the same thing. Therefore, in the following embodiments, specific explanations of the same points as those of the already described embodiments will be omitted, and the explanation will focus on the different parts. In the present embodiment, a rough terrain crane will be described, but the work vehicle may be an all-terrain crane, a truck crane, a loading truck crane, an aerial work vehicle, or the like.

図9に示すように、第1クレーン11は、不特定の場所に移動可能な移動式クレーンである。第1クレーン11は、車両12、作業装置であるクレーン装置15を有する。 As shown in FIG. 9, the first crane 11 is a mobile crane that can be moved to an unspecified location. The first crane 11 includes a vehicle 12 and a crane device 15 that is a working device.

車両12は、クレーン装置15を搬送する走行体である。車両12は、複数の車輪12aを有し、エンジン13を動力源として走行する。車両12には、アウトリガ14が設けられている。アウトリガ14は、車両12の幅方向両側に油圧によって延伸可能な張り出しビームと地面に垂直な方向に延伸可能な油圧式のジャッキシリンダとから構成されている。車両12は、アウトリガ14を車両12の幅方向に延伸させるとともにジャッキシリンダを接地させることにより、クレーン1の作業可能範囲を広げることができる。 The vehicle 12 is a traveling body that transports the crane device 15. The vehicle 12 has a plurality of wheels 12a and runs using an engine 13 as a power source. The vehicle 12 is provided with an outrigger 14. The outrigger 14 includes an overhang beam that can be hydraulically extended to both sides in the width direction of the vehicle 12 and a hydraulic jack cylinder that can be extended in a direction perpendicular to the ground. The vehicle 12 can extend the workable range of the crane 1 by extending the outriggers 14 in the width direction of the vehicle 12 and grounding the jack cylinder.

クレーン装置15は、荷物Wをワイヤロープによって吊り上げる装置である。クレーン装置15は、旋回台16、ブーム18、ジブ18a、起伏用油圧シリンダ20、メインフックブロック21、メインワイヤロープ22、サブフックブロック23、サブワイヤロープ24、メインウインチ25、サブウインチ27、キャビン29、接触抑制装置1(図10参照)等を具備する。 The crane device 15 is a device that lifts the cargo W using a wire rope. The crane device 15 includes a swivel base 16, a boom 18, a jib 18a, a luffing hydraulic cylinder 20, a main hook block 21, a main wire rope 22, a sub hook block 23, a sub wire rope 24, a main winch 25, a sub winch 27, and a cabin. 29, a contact suppression device 1 (see FIG. 10), etc.

旋回台16は、クレーン装置15を旋回可能に構成する構造体である。旋回台16は、円環状の軸受を介して車両12のフレーム上に設けられる。旋回台16は、円環状の軸受の中心を回転中心として回転自在に構成されている。旋回台16には、アクチュエータである油圧式の旋回用油圧モータ17が設けられている。旋回台16は、旋回用油圧モータ17によって一方向と他方向とに旋回可能に構成されている。 The swivel base 16 is a structure that allows the crane device 15 to rotate. The swivel base 16 is provided on the frame of the vehicle 12 via an annular bearing. The swivel base 16 is configured to be rotatable about the center of an annular bearing. The turning base 16 is provided with a hydraulic turning hydraulic motor 17 which is an actuator. The turning table 16 is configured to be able to turn in one direction and the other direction by a turning hydraulic motor 17.

旋回用油圧モータ17は、電磁比例切換バルブである旋回用バルブ32(図10参照)によって回転操作される。旋回用バルブ32は、旋回用油圧モータ17に供給される作動油の流量を任意の流量に制御することができる。 The swing hydraulic motor 17 is rotated by a swing valve 32 (see FIG. 10), which is an electromagnetic proportional switching valve. The swing valve 32 can control the flow rate of the hydraulic oil supplied to the swing hydraulic motor 17 to an arbitrary flow rate.

ブーム18は、荷物Wを吊り上げ可能な状態にワイヤロープを支持する構造体である。ブーム18は、複数のブーム部材から構成されている。ブーム18は、ベースブーム部材の基端が旋回台16の略中央に揺動可能に設けられている。ブーム18は、各ブーム部材を伸縮用油圧シリンダ19(図10参照)で移動させることで軸方向に伸縮自在に構成されている。また、ブーム18は、起伏用油圧シリンダ20で移動させることで起伏自在に構成されている。ブーム18には、ジブ18aが設けられている。 The boom 18 is a structure that supports a wire rope so that it can lift the load W. The boom 18 is composed of a plurality of boom members. The boom 18 is swingably provided with the proximal end of the base boom member substantially in the center of the swivel base 16 . The boom 18 is configured to be extendable and retractable in the axial direction by moving each boom member using an extendable hydraulic cylinder 19 (see FIG. 10). Further, the boom 18 is configured to be able to be raised and lowered by being moved by a hydraulic cylinder 20 for raising and lowering. The boom 18 is provided with a jib 18a.

伸縮用油圧シリンダ19は、電磁比例切換バルブである伸縮用バルブ33(図10参照)によって伸縮操作される。伸縮用バルブ33は、伸縮用油圧シリンダ19に供給される作動油の流量を任意の流量に制御することができる。 The telescoping hydraulic cylinder 19 is telescopically operated by a telescoping valve 33 (see FIG. 10), which is an electromagnetic proportional switching valve. The telescopic valve 33 can control the flow rate of the hydraulic oil supplied to the telescopic hydraulic cylinder 19 to an arbitrary flow rate.

起伏用油圧シリンダ20は、ブーム18を起立および倒伏させ、ブーム18の姿勢を保持するアクチュエータである。起伏用油圧シリンダ20は、シリンダ部の端部が旋回台16に揺動自在に連結され、ロッド部の端部がブーム18のベースブーム部材に揺動自在に連結されている。起伏用油圧シリンダ20は、電磁比例切換バルブである起伏用バルブ34(図10参照)によって伸縮操作される。起伏用バルブ34は、起伏用油圧シリンダ20に供給される作動油の流量を任意の流量に制御することができる。 The lifting hydraulic cylinder 20 is an actuator that raises and lowers the boom 18 and maintains the attitude of the boom 18. In the luffing hydraulic cylinder 20, the end of the cylinder part is swingably connected to the swivel base 16, and the end of the rod part is swingably connected to the base boom member of the boom 18. The undulation hydraulic cylinder 20 is expanded and contracted by a levitation valve 34 (see FIG. 10), which is an electromagnetic proportional switching valve. The undulation valve 34 can control the flow rate of the hydraulic oil supplied to the undulation hydraulic cylinder 20 to an arbitrary flow rate.

メインフックブロック21とサブフックブロック23とは、荷物Wを吊る部材である。メインフックブロック21には、メインワイヤロープ22が巻き掛けられる複数のフックシーブと、荷物Wを吊るメインフック21aとが設けられている。サブフックブロック23には、荷物Wを吊るサブフック23aが設けられている。 The main hook block 21 and the sub hook block 23 are members for hanging the luggage W. The main hook block 21 is provided with a plurality of hook sheaves around which the main wire rope 22 is wound, and a main hook 21a on which the cargo W is hung. The sub-hook block 23 is provided with a sub-hook 23a for hanging the luggage W.

メインウインチ25は、メイン用油圧モータ26(図10参照)によってメインドラムを回転させ、メインワイヤロープ22の繰り入れ、繰り出しを行う。サブウインチ27は、サブ用油圧モータ28(図10参照)によってサブドラムを回転させ、サブワイヤロープ24の繰り入れ、繰り出しを行う。 The main winch 25 rotates a main drum by a main hydraulic motor 26 (see FIG. 10), and takes in and lets out the main wire rope 22. The sub winch 27 rotates a sub drum by a sub hydraulic motor 28 (see FIG. 10), and takes in and lets out the sub wire rope 24.

メイン用油圧モータ26は、電磁比例切換バルブであるメイン用バルブ35(図10参照)によって回転操作される。サブ用油圧モータ28は、電磁比例切換バルブであるサブ用バルブ36(図10参照)によって回転操作される。 The main hydraulic motor 26 is rotated by a main valve 35 (see FIG. 10), which is an electromagnetic proportional switching valve. The sub-hydraulic motor 28 is rotated by a sub-valve 36 (see FIG. 10), which is an electromagnetic proportional switching valve.

キャビン29は、操縦席を覆う構造体である。キャビン29は、旋回台16に搭載されている。図示しない操縦席が設けられている。操縦席には、車両12を走行操作するための走行用操作具30(図10参照)、クレーン装置15を操作するための作業装置用操作具31(図10参照)等が設けられている。また、作業装置用操作具31は、旋回用油圧モータ17、伸縮用油圧シリンダ19、起伏用油圧シリンダ20、メイン用油圧モータ26、サブ用油圧モータ28等を操作することができる。 The cabin 29 is a structure that covers the cockpit. The cabin 29 is mounted on the swivel base 16. A cockpit (not shown) is provided. The driver's seat is provided with a travel operating tool 30 (see FIG. 10) for operating the vehicle 12, a working device operating tool 31 (see FIG. 10) for operating the crane device 15, and the like. Further, the working device operating tool 31 can operate the swing hydraulic motor 17, the telescopic hydraulic cylinder 19, the luffing hydraulic cylinder 20, the main hydraulic motor 26, the sub hydraulic motor 28, and the like.

第1クレーン11の制御装置37(図10参照)は、キャビン29内に設けられている。制御装置37は、実体的には、CPU、ROM、RAM、HDD等がバスで接続される構成であってもよく、あるいはワンチップのLSI等からなる構成であってもよい。制御装置37は、各アクチュエータ、切換えバルブ、センサ等の動作を制御するために種々のプログラム、データが格納されている。 A control device 37 (see FIG. 10) for the first crane 11 is provided within the cabin 29. The control device 37 may actually have a configuration in which a CPU, ROM, RAM, HDD, etc. are connected via a bus, or it may have a configuration consisting of a one-chip LSI or the like. The control device 37 stores various programs and data for controlling the operations of each actuator, switching valve, sensor, etc.

図10に示すように、制御装置37は、走行用操作具30および作業装置用操作具31に接続され、走行用操作具30および作業装置用操作具31のそれぞれの操作量を取得することができる。 As shown in FIG. 10, the control device 37 is connected to the travel operating tool 30 and the working device operating tool 31, and is capable of acquiring the operation amounts of the traveling operating tool 30 and the working device operating tool 31. can.

制御装置37は、旋回用バルブ32、伸縮用バルブ33、起伏用バルブ34、メイン用バルブ35およびサブ用バルブ36に接続され、旋回用バルブ32、伸縮用バルブ33、起伏用バルブ34、メイン用バルブ35およびサブ用バルブ36に制御信号を伝達することができる。 The control device 37 is connected to the swing valve 32, the telescopic valve 33, the undulating valve 34, the main valve 35, and the sub-valve 36, and is connected to the swivel valve 32, the telescopic valve 33, the undulating valve 34, and the main A control signal can be transmitted to the valve 35 and the sub-valve 36.

制御装置37は、走行用操作具30および作業装置用操作具31の操作量に基づいて各操作具に対応した制御信号を生成することができる。 The control device 37 can generate a control signal corresponding to each operating tool based on the amount of operation of the traveling operating tool 30 and the working device operating tool 31.

制御装置37は、接触抑制装置1の画像処理装置7に接続され、画像処理装置7からの制御信号を取得することができる。 The control device 37 is connected to the image processing device 7 of the contact suppression device 1 and can acquire control signals from the image processing device 7.

このように構成される第1クレーン11は、車両12を走行させることで任意の位置にクレーン装置15を移動させることができる。また、クレーン1は、作業装置用操作具31の操作によって起伏用油圧シリンダ20でブーム18を任意の起伏角度に起立させて、ブーム18を任意のブーム長さに延伸させたりすることでクレーン装置15の揚程、作業領域を拡大することができる。また、第1クレーン11は、メインウインチ25またはサブウインチ27を回転させて荷物Wを吊り上げおよび吊り下げることができる。また、第1クレーン11は、旋回台16を旋回させることで荷物Wを搬送することができる。また、第1クレーン11は、接触抑制装置1からの制御信号によって、ブーム18の起伏、伸縮、旋回動作を停止させることができる。 The first crane 11 configured as described above can move the crane device 15 to an arbitrary position by driving the vehicle 12. In addition, the crane 1 can be operated by operating the operating tool 31 for the working equipment to raise the boom 18 to an arbitrary angle using the hydraulic cylinder 20 for hoisting, and extend the boom 18 to an arbitrary boom length. 15 lift height, the working area can be expanded. Further, the first crane 11 can lift and hang the cargo W by rotating the main winch 25 or the sub winch 27. Further, the first crane 11 can transport the cargo W by rotating the swivel base 16. Further, the first crane 11 can stop the raising/lowering, extending/contracting, and turning operations of the boom 18 in response to a control signal from the contact suppression device 1 .

また、第1クレーン11は、接触抑制装置1によって自機である第1クレーン11の画像と他機である第2クレーン41の画像に各クレーンの作業領域と移動方向とが表示された拡張現実で第1クレーン11の作動状態だけでなく第2クレーン41の作動状態を操縦者に視覚的に伝達することができる。 In addition, the first crane 11 is provided with an augmented reality in which the work area and movement direction of each crane are displayed on the image of the first crane 11, which is the own machine, and the image of the second crane 41, which is another machine, by the contact suppression device 1. In this way, not only the operating state of the first crane 11 but also the operating state of the second crane 41 can be visually communicated to the operator.

第1クレーン11は、第2クレーン41と近接した場合、接触抑制装置1の表示装置6を介して操縦者に第2クレーン41との近接を報知する。また、第1クレーン11は、接触抑制装置1からブーム18を停止させる制御信号を取得すると、ブーム18を停止させる(図6および図7参照)。このように、第1クレーン11は、接触抑制装置1のカメラ4が撮影した画像に基づいて、第1クレーン11と第2クレーン41との作業領域およびブーム18の先端の移動方向を算出する。これにより、接触抑制装置1を備える第1クレーン11は、通信によって第2クレーン41を含む複数の移動式クレーンから作動状態に関する各種情報を取得することなく前記複数の移動式クレーンのブーム同士の接触を抑制することができる。 When the first crane 11 approaches the second crane 41 , the first crane 11 notifies the operator of the proximity to the second crane 41 via the display device 6 of the contact prevention device 1 . Further, when the first crane 11 acquires a control signal for stopping the boom 18 from the contact suppression device 1, the first crane 11 stops the boom 18 (see FIGS. 6 and 7). In this way, the first crane 11 calculates the working area of the first crane 11 and the second crane 41 and the movement direction of the tip of the boom 18 based on the image taken by the camera 4 of the contact prevention device 1. As a result, the first crane 11 equipped with the contact suppression device 1 can avoid contact between the booms of the plurality of mobile cranes without acquiring various information regarding the operating state from the plurality of mobile cranes including the second crane 41 through communication. can be suppressed.

また、第1クレーン11は、接触抑制装置1の遠隔操作端末5によって、ブーム18の制御を行うように構成されていてもよい。これにより、第1クレーン11の操縦者は、表示装置6に表示される第2クレーン41の作動状態等を視覚的に監視しながら、第1クレーン11の操作を行うことができる。 Further, the first crane 11 may be configured to control the boom 18 using the remote control terminal 5 of the contact suppression device 1 . Thereby, the operator of the first crane 11 can operate the first crane 11 while visually monitoring the operating state of the second crane 41 displayed on the display device 6.

上述の実施形態は、代表的な形態を示したに過ぎず、一実施形態の骨子を逸脱しない範囲で種々変形して実施することができる。さらに種々なる形態で実施し得ることは勿論のことであり、本発明の範囲は、特許請求の範囲の記載によって示され、さらに特許請求の範囲に記載の均等の意味、および範囲内のすべての変更を含む。 The above-described embodiment merely shows a typical form, and various modifications can be made without departing from the gist of the embodiment. Furthermore, it goes without saying that the present invention can be implemented in various forms, and the scope of the present invention is indicated by the description of the claims, and furthermore, the meaning of equivalents described in the claims and all the equivalents within the scope are Including changes.

1 接触抑制装置
4 カメラ
6 表示装置
7 画像処理装置
11 第1クレーン
41 第2クレーン
BR1 第1作業領域
BR2 第2作業領域
BM1 第1移動方向
BM2 第2移動方向
1 Contact suppression device 4 Camera 6 Display device 7 Image processing device 11 First crane 41 Second crane BR1 First working area BR2 Second working area BM1 First moving direction BM2 Second moving direction

Claims (6)

ブームを備えた作業車両を上方から撮影する撮影部と、
前記撮影部が撮影した画像を表示する表示部と、
前記撮影部が撮影した前記ブームを備えた作業車両の画像から前記ブームを検出する画像処理部と、を備え、
前記画像処理部は、
前記画像から検出した複数の前記作業車両のブーム毎に前記作業車両の作業領域とブーム先端の移動方向とを算出し、算出した前記作業車両の作業領域とブーム先端の移動方向とのうち少なくとも一つを前記表示部に表示させる作業車両の接触抑制装置。
A photography department that photographs a work vehicle equipped with a boom from above;
a display section that displays an image taken by the photographing section;
an image processing unit that detects the boom from an image of a work vehicle equipped with the boom taken by the photography unit;
The image processing unit includes:
A working area of the working vehicle and a moving direction of the boom tip are calculated for each of the plurality of booms of the working vehicles detected from the image, and at least one of the calculated working area of the working vehicle and the moving direction of the boom tip is calculated. A contact suppression device for a work vehicle that displays one on the display section.
前記画像処理部は、
前記作業車両の作業領域とブーム先端の移動方向とのうち少なくとも一つを前記撮影部が撮影した前記作業車両の画像に対応するように重畳表示させる請求項1に記載の作業車両の接触抑制装置。
The image processing unit includes:
The contact prevention device for a work vehicle according to claim 1, wherein at least one of a work area of the work vehicle and a moving direction of a boom tip is displayed in a superimposed manner so as to correspond to an image of the work vehicle photographed by the photographing unit. .
前記撮影部は、
無人飛行体と、前記無人飛行体に設けられているカメラとから構成される請求項1または請求項2に記載の作業車両の接触抑制装置。
The photography department is
The contact suppression device for a work vehicle according to claim 1 or 2, comprising an unmanned flying vehicle and a camera provided on the unmanned flying vehicle.
前記画像処理部は、
前記画像において複数の前記作業車両のブームの間隔が所定値未満である場合、前記表示部に接触の可能性を報知する表示を行う請求項1から請求項3のいずれか一項に記載の作業車両の接触抑制装置。
The image processing unit includes:
The work according to any one of claims 1 to 3, wherein when the interval between the booms of the plurality of work vehicles is less than a predetermined value in the image, a display is displayed on the display unit to notify the possibility of contact. Vehicle contact suppression device.
前記画像処理部は、
前記画像において複数の前記作業車両のブーム間の間隔が所定値未満である場合、前記ブーム間の間隔が所定値未満である複数の前記作業車両のうち少なくとも一つに所定の制御信号を送信する請求項1から請求項4のいずれか一項に記載の作業車両の接触抑制装置。
The image processing unit includes:
If the distance between the booms of the plurality of work vehicles is less than a predetermined value in the image, a predetermined control signal is transmitted to at least one of the plurality of work vehicles in which the distance between the booms is less than the predetermined value. A contact suppression device for a work vehicle according to any one of claims 1 to 4.
請求項1から請求項5のいずれか一項に記載の作業車両の接触抑制装置を有するブームを備えた作業車両。 A work vehicle comprising a boom having the contact suppression device for a work vehicle according to any one of claims 1 to 5.
JP2020101276A 2020-06-10 2020-06-10 Work vehicle contact suppression device and work vehicle equipped with a boom having a work vehicle contact suppression device Active JP7443947B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020101276A JP7443947B2 (en) 2020-06-10 2020-06-10 Work vehicle contact suppression device and work vehicle equipped with a boom having a work vehicle contact suppression device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020101276A JP7443947B2 (en) 2020-06-10 2020-06-10 Work vehicle contact suppression device and work vehicle equipped with a boom having a work vehicle contact suppression device

Publications (2)

Publication Number Publication Date
JP2021195196A JP2021195196A (en) 2021-12-27
JP7443947B2 true JP7443947B2 (en) 2024-03-06

Family

ID=79197111

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020101276A Active JP7443947B2 (en) 2020-06-10 2020-06-10 Work vehicle contact suppression device and work vehicle equipped with a boom having a work vehicle contact suppression device

Country Status (1)

Country Link
JP (1) JP7443947B2 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000313588A (en) 1999-04-28 2000-11-14 Kyoritsu Denshi Kogyo Kk Crane controller
JP2018095364A (en) 2016-12-09 2018-06-21 株式会社タダノ Crane contact monitoring system
JP2018095376A (en) 2016-12-09 2018-06-21 株式会社タダノ Crane
US20190016569A1 (en) 2016-04-08 2019-01-17 Michael PALBERG Method and apparatus for controlling a crane, an excavator, a crawler-type vehicle or a similar construction machine
WO2020067201A1 (en) 2018-09-25 2020-04-02 株式会社タダノ Work machine and contact monitoring system for work machines

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000313588A (en) 1999-04-28 2000-11-14 Kyoritsu Denshi Kogyo Kk Crane controller
US20190016569A1 (en) 2016-04-08 2019-01-17 Michael PALBERG Method and apparatus for controlling a crane, an excavator, a crawler-type vehicle or a similar construction machine
JP2018095364A (en) 2016-12-09 2018-06-21 株式会社タダノ Crane contact monitoring system
JP2018095376A (en) 2016-12-09 2018-06-21 株式会社タダノ Crane
WO2020067201A1 (en) 2018-09-25 2020-04-02 株式会社タダノ Work machine and contact monitoring system for work machines

Also Published As

Publication number Publication date
JP2021195196A (en) 2021-12-27

Similar Documents

Publication Publication Date Title
JP6801421B2 (en) crane
JP6776861B2 (en) Co-suspension control system for mobile cranes
JP7416063B2 (en) Mobile crane with remote control terminal and remote control terminal
US11691855B2 (en) Crane
US11905145B2 (en) Remote control terminal and work vehicle
JP7091729B2 (en) Work vehicle equipped with a remote control terminal and a remote control terminal
CN113329966A (en) Crane with a movable crane
JP7443947B2 (en) Work vehicle contact suppression device and work vehicle equipped with a boom having a work vehicle contact suppression device
JP7255601B2 (en) Work machine and work machine contact monitoring system
JP7172199B2 (en) Remote control terminal and work vehicle
WO2020080434A1 (en) Crane device
JP7380685B2 (en) Mobile crane with remote control terminal and remote control terminal
US11905146B2 (en) Movable range display system and crane equipped with movable range display system
JP7501176B2 (en) Mobile Crane
JP7351231B2 (en) Hanging load monitoring device, crane, hanging load monitoring method and program
JP7167469B2 (en) Remote control terminal and work vehicle equipped with remote control terminal
JP7379990B2 (en) An information display system, an aerial work vehicle equipped with the information display system, and a mobile crane equipped with the information display system.
JP7167464B2 (en) Remote control terminal and work vehicle equipped with remote control terminal
JP2022081069A (en) Work vehicle
JP7505292B2 (en) Mobile Crane
JP2021038086A (en) Mobile crane and remote terminal device
JP2022015237A (en) Work machine interference determination device, work machine interference determination system, and work machine interference determination method
JP7443710B2 (en) Work vehicle coordination system and aerial work vehicle
US20230192455A1 (en) Crane and transportation destination presentation method
US20220340398A1 (en) Crane information display system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230324

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240123

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240205

R150 Certificate of patent or registration of utility model

Ref document number: 7443947

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150