JP2024018536A - Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle - Google Patents

Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle Download PDF

Info

Publication number
JP2024018536A
JP2024018536A JP2022121928A JP2022121928A JP2024018536A JP 2024018536 A JP2024018536 A JP 2024018536A JP 2022121928 A JP2022121928 A JP 2022121928A JP 2022121928 A JP2022121928 A JP 2022121928A JP 2024018536 A JP2024018536 A JP 2024018536A
Authority
JP
Japan
Prior art keywords
cargo handling
handling vehicle
forklift
target
search range
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022121928A
Other languages
Japanese (ja)
Inventor
圭弘 岩永
Yoshihiro IWANAGA
学 山代
Manabu Yamashiro
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2022121928A priority Critical patent/JP2024018536A/en
Publication of JP2024018536A publication Critical patent/JP2024018536A/en
Pending legal-status Critical Current

Links

Images

Landscapes

  • Forklifts And Lifting Vehicles (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a cargo handling vehicle, a control method of a cargo handling vehicle, and a control system of a cargo handling vehicle, which can appropriately identify an object of a cargo handling operation.
SOLUTION: A system for controlling a fork lift 1 includes a three-dimensional sensor 51 which is mounted on the fork lift 1 and detects an object existing in the periphery of the fork lift 1, and a controller 60. The controller 60 includes an identification part 66 for identifying a target, on the basis of object detection data from the three-dimensional sensor 51, a reception part 64 for receiving a direction signal for specifying a direction of identifying the target, and a determination part 65 for determining the direction of identifying the target, on the basis of the direction signal received by the reception part 64. The identification part 66 identifies the target from an object existing in the direction determined by the determination part 65.
SELECTED DRAWING: Figure 3
COPYRIGHT: (C)2024,JPO&INPIT

Description

本開示は、荷役車両、荷役車両の制御方法、及び荷役車両の制御システムに関する。 The present disclosure relates to a cargo handling vehicle, a cargo handling vehicle control method, and a cargo handling vehicle control system.

荷役車両に係る技術分野において、特許文献1に開示されているような無人フォークリフトが知られている。 In the technical field related to cargo handling vehicles, an unmanned forklift as disclosed in Patent Document 1 is known.

特開2015-225450号公報JP2015-225450A

荷役車両が行う荷役作業には、車両に配置されたフォークで運搬物を取り上げる荷取り作業と、取り上げた運搬物を所定の位置に置く荷置き作業とがある。荷取り作業を行う際に目標とする対象は、運搬物である。一方、荷置き作業を行う際に目標とする対象は、運搬物を荷置きする荷置きスペースである。しかしながら、荷役作業の種別に関わらず検出範囲内に存在する全ての対象を識別した場合、処理の負荷が増加する。このため、荷役作業を行う際に目標とする対象を適切に識別することが望まれる。 Cargo handling operations carried out by a cargo handling vehicle include a loading operation in which the transported object is picked up by a fork disposed on the vehicle, and a loading operation in which the picked up transported object is placed in a predetermined position. The target object when carrying out cargo picking work is the cargo to be transported. On the other hand, when carrying out cargo storage work, the target is a storage space where the transported items are stored. However, if all objects within the detection range are identified regardless of the type of cargo handling work, the processing load will increase. Therefore, it is desirable to appropriately identify the target when carrying out cargo handling work.

本開示の態様は、荷役作業の対象を適切に識別可能な荷役車両、荷役車両の制御方法、及び荷役車両の制御システムを提供することを目的とする。 An object of the present disclosure is to provide a cargo handling vehicle, a cargo handling vehicle control method, and a cargo handling vehicle control system that can appropriately identify the target of cargo handling work.

本開示の態様に従えば、荷役車両に取り付けられ、荷役車両の周辺に存在する物体を検出する物体検出センサと、コントローラとを備える荷役車両が提供される。コントローラは、物体検出センサからの物体検出データに基づいて、対象を識別する識別部と、対象を識別する方向を特定する方向信号を受信する受信部と、受信部が受信した方向信号に基づいて、対象を識別する方向を決定する決定部と、を備える。識別部は、決定部によって決定された方向に存在する物体から対象を識別する。 According to an aspect of the present disclosure, a cargo handling vehicle is provided that includes an object detection sensor that is attached to the cargo handling vehicle and detects objects existing around the cargo handling vehicle, and a controller. The controller includes an identification section that identifies an object based on object detection data from the object detection sensor, a reception section that receives a direction signal that specifies a direction for identifying the object, and an identification section that receives a direction signal that identifies the direction of the object based on the direction signal received by the reception section. , a determining unit that determines a direction for identifying a target. The identification unit identifies a target from objects existing in the direction determined by the determination unit.

本開示の態様に従えば、荷役車両に取り付けられ、荷役車両の周辺に存在する物体を検出する物体検出センサと、コントローラとを備えた荷役車両の制御方法が提供される。第1のステップは、受信した方向信号に基づいて、対象を識別する方向を決定する。第2のステップは、物体検出センサからの物体検出データに基づいて、決定された方向に存在する物体から対象を識別する方法が提供される。 According to an aspect of the present disclosure, there is provided a method for controlling a cargo handling vehicle, which includes an object detection sensor that is attached to the cargo handling vehicle and detects objects existing around the cargo handling vehicle, and a controller. The first step is to determine a direction to identify the object based on the received direction signal. In the second step, a method is provided for identifying a target from objects present in a determined direction based on object detection data from an object detection sensor.

本開示の態様に従えば、荷役車両に取り付けられ、荷役車両の周辺に存在する物体を検出する物体検出センサと、コントローラとを備える荷役車両の制御システムが提供される。コントローラは、物体検出センサからの物体検出データに基づいて、対象を識別する識別部と、対象を識別する方向を特定する方向信号を受信する受信部と、受信部が受信した方向信号に基づいて、対象を識別する方向を決定する決定部と、を備える。識別部は、決定部によって決定された方向に存在する物体から対象を識別する。 According to an aspect of the present disclosure, there is provided a control system for a cargo handling vehicle that includes an object detection sensor that is attached to the cargo handling vehicle and detects objects existing around the cargo handling vehicle, and a controller. The controller includes an identification section that identifies an object based on object detection data from the object detection sensor, a reception section that receives a direction signal that specifies a direction for identifying the object, and an identification section that receives a direction signal that identifies the direction of the object based on the direction signal received by the reception section. , a determining unit that determines a direction for identifying a target. The identification unit identifies a target from objects existing in the direction determined by the determination unit.

本開示の態様によれば、荷役作業の対象を適切に識別可能な荷役車両、荷役車両の制御方法、及び荷役車両の制御システムが提供される。 According to aspects of the present disclosure, there are provided a cargo handling vehicle, a cargo handling vehicle control method, and a cargo handling vehicle control system that can appropriately identify a target of cargo handling work.

図1は、実施形態に係るフォークリフトを左前方斜め上側から見た斜視図である。FIG. 1 is a perspective view of a forklift according to an embodiment, viewed diagonally from the upper left front side. 図2は、実施形態に係る3次元センサの取付位置及び指向方向を示す概略図である。FIG. 2 is a schematic diagram showing the mounting position and pointing direction of the three-dimensional sensor according to the embodiment. 図3は、実施形態に係るフォークリフトの構成の一例を示す機能ブロック図である。FIG. 3 is a functional block diagram showing an example of the configuration of the forklift according to the embodiment. 図4は、実施形態に係るコンピュータシステムの一例を示すブロック図である。FIG. 4 is a block diagram illustrating an example of a computer system according to an embodiment. 図5は、実施形態に係る対象を探索する第1探索範囲を示す模式図である。FIG. 5 is a schematic diagram showing a first search range for searching for a target according to the embodiment. 図6は、実施形態に係る対象を探索する第2探索範囲を示す模式図である。FIG. 6 is a schematic diagram showing a second search range for searching for a target according to the embodiment. 図7は、実施形態に係る対象を識別する方向を示す概略図である。FIG. 7 is a schematic diagram showing directions for identifying objects according to the embodiment. 図8は、実施形態に係る運搬物を識別する方法の一例を示す概略図である。FIG. 8 is a schematic diagram illustrating an example of a method for identifying a transported object according to an embodiment. 図9は、実施形態に係る運搬物の周囲に存在する荷置きスペースの位置を示す模式図である。FIG. 9 is a schematic diagram showing the positions of storage spaces that exist around the transported object according to the embodiment. 図10-1は、実施形態に係る、対象を識別した場合における、表示装置の表示の一例を示す模式図である。FIG. 10-1 is a schematic diagram showing an example of a display on a display device when a target is identified, according to the embodiment. 図10-2は、実施形態に係る、対象を識別した場合における、表示装置の表示の他の例を示す模式図である。FIG. 10-2 is a schematic diagram showing another example of the display on the display device when a target is identified, according to the embodiment. 図11は、実施形態に係るフォークリフトの制御方法の処理の一例を示すフローチャートである。FIG. 11 is a flowchart illustrating an example of processing of the forklift control method according to the embodiment. 図12は、変形例に係る遠隔で操作されるフォークリフトの構成の一例を示す機能ブロック図である。FIG. 12 is a functional block diagram showing an example of the configuration of a remotely operated forklift according to a modification.

以下、本開示に係る実施形態について図面を参照しながら説明するが、本開示はこれに限定されない。以下で説明する各実施形態の構成要素は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。 Hereinafter, embodiments according to the present disclosure will be described with reference to the drawings, but the present disclosure is not limited thereto. The components of each embodiment described below can be combined as appropriate. Furthermore, some components may not be used.

実施形態においては、左、右、前、後、上、及び下の用語を用いて各部の位置関係について説明する。これらの用語は、荷役車両に規定された車体座標系の原点を基準とする相対位置又は方向を示す。 In the embodiment, the positional relationship of each part will be described using terms such as left, right, front, rear, upper, and lower. These terms indicate a relative position or direction with respect to the origin of the vehicle body coordinate system defined for the cargo handling vehicle.

<荷役車両>
荷役車両1は、荷役車両1の作業現場において、荷役車両1の周辺に存在する物体から対象を識別する。本実施形態においては、荷役車両1を適宜、フォークリフト1、と称する。なお、荷役車両は特に限定されるものではなく、例えば、フォークアタッチメントを取り付け可能なホイールローダであってもよい。
<Cargo handling vehicle>
The cargo handling vehicle 1 identifies a target from objects existing around the cargo handling vehicle 1 at the work site of the cargo handling vehicle 1. In this embodiment, the cargo handling vehicle 1 is appropriately referred to as a forklift 1. Note that the cargo handling vehicle is not particularly limited, and may be, for example, a wheel loader to which a fork attachment can be attached.

フォークリフト1は、運搬物の荷取り作業及び荷置き作業等の荷役作業を行う。フォークリフト1は、例えば、地面上に置かれた運搬物を取り上げる荷取り作業を行う。フォークリフト1は、例えば、他の運搬物の上段に積まれた運搬物を取り上げる荷取り作業を行う。フォークリフト1は、例えば、フォーク13で取り上げた運搬物を荷置きスペースに取りおろす荷置き作業を行う。フォークリフト1は、例えば、フォーク13で取り上げた運搬物を貨物車両の荷台上に取りおろす荷置き作業を行う。フォークリフト1は、例えば、フォーク13で取り上げた運搬物を地面上に置かれた他の運搬物の上段に取りおろす荷置き作業を行う。 The forklift 1 performs cargo handling operations such as loading and unloading of transported objects. For example, the forklift 1 performs a loading operation of picking up a cargo placed on the ground. For example, the forklift 1 performs a loading operation of picking up a cargo loaded on top of another cargo. For example, the forklift 1 performs a loading operation of unloading an article picked up by the fork 13 into a loading space. For example, the forklift 1 performs a loading operation of unloading an object picked up by the fork 13 onto the loading platform of a cargo vehicle. For example, the forklift 1 performs a loading operation in which an object picked up by the fork 13 is placed on top of other objects placed on the ground.

対象とは、フォークリフト1の荷役対象である。本実施形態では、対象は、例えば、運搬物、運搬物を載置可能な荷置きスペース、又は、貨物車両の荷台である。 The object is the object to be handled by the forklift 1. In this embodiment, the target is, for example, an object to be transported, a storage space where the object can be placed, or a loading platform of a freight vehicle.

本実施形態では、運搬物は、荷物を積載する荷役台や容器である。運搬物は、例えば、パレットやスキッド、コンテナである。運搬物は、フォーク挿し込み穴を備える。 In this embodiment, the transported object is a loading platform or a container on which cargo is loaded. The conveyed object is, for example, a pallet, a skid, or a container. The conveyed object is equipped with a fork insertion hole.

フォークリフト1は、荷取り作業及び荷置き作業の際に、対象(運搬物、荷置きスペース、又は、貨物車両の荷台)を識別して、フォークリフト1を当該対象に対して自動で正対するように操舵制御が行われる(自動制御機能)。 The forklift 1 is configured to identify an object (carried object, cargo storage space, or loading platform of a freight vehicle) and automatically orient the forklift 1 directly toward the object during loading and unloading operations. Steering control is performed (automatic control function).

自動制御機能では、フォークリフト1のステアリング操作又は作業機操作の少なくともいずれか一方が自動制御される。本実施形態では、オペレータは、フォークリフト1のアクセル操作を行う。本実施形態では、自動制御開始エリアまで、言い換えると、対象が識別されるまでは、フォークリフト1は、オペレータの操作によりマニュアルで移動する。 In the automatic control function, at least either the steering operation of the forklift 1 or the operation of the working machine is automatically controlled. In this embodiment, the operator operates the accelerator of the forklift 1. In this embodiment, the forklift 1 is manually moved by the operator's operation until it reaches the automatic control start area, in other words, until the object is identified.

<フォークリフトの全体構成>
図1は、実施形態に係るフォークリフト1を左前方斜め上側から見た斜視図である。フォークリフト1は、車体10と、動力源21と、車体10の前方に配置される作業機2と、車体10を支持する走行装置と、運転室20とを備える。動力源21は、図示しない油圧ポンプを駆動する。動力源21は、例えば、エンジンである。
<Overall configuration of forklift>
FIG. 1 is a perspective view of a forklift 1 according to an embodiment, viewed diagonally from the upper left front side. The forklift 1 includes a vehicle body 10, a power source 21, a working machine 2 disposed in front of the vehicle body 10, a traveling device that supports the vehicle body 10, and a driver's cab 20. The power source 21 drives a hydraulic pump (not shown). The power source 21 is, for example, an engine.

車体10の前方には、運搬物を取り上げるための作業機2が設置されている。作業機2は、マスト14と、支持部131と、フォーク13と、リフトシリンダ15と、チルトシリンダ16と、サイドシフトシリンダ17とを有する。マスト14は、左右軸回りに回転可能に車体10の前方に取り付けられている。マスト14は、車体10に対して前傾姿勢又は後傾姿勢をとることが可能である。支持部131は、マスト14に支持される。支持部131は、マスト14に沿って上下方向に移動可能である。フォーク13は、支持部131を介してマスト14に支持される。フォーク13は、マスト14に沿って昇降する。 A working machine 2 is installed in front of the vehicle body 10 for picking up objects to be transported. The work machine 2 includes a mast 14 , a support portion 131 , a fork 13 , a lift cylinder 15 , a tilt cylinder 16 , and a side shift cylinder 17 . The mast 14 is attached to the front of the vehicle body 10 so as to be rotatable around the left and right axis. The mast 14 can be tilted forward or backward with respect to the vehicle body 10. The support part 131 is supported by the mast 14. The support part 131 is movable in the vertical direction along the mast 14. The fork 13 is supported by the mast 14 via a support portion 131. The fork 13 moves up and down along the mast 14.

リフトシリンダ15は、車体10に対してフォーク13を上下方向に移動させる。チルトシリンダ16は、車体10に対してマスト14を前後方向に傾斜させる。サイドシフトシリンダ17は、車体10に対してフォーク13を左右方向に移動させる。 The lift cylinder 15 moves the fork 13 vertically relative to the vehicle body 10. The tilt cylinder 16 tilts the mast 14 in the longitudinal direction with respect to the vehicle body 10. The side shift cylinder 17 moves the fork 13 in the left-right direction with respect to the vehicle body 10.

リフトシリンダ15は、マスト14と支持部131との間に配置される。リフトシリンダ15は、支持部131を上下方向に移動することにより、フォーク13を上下方向に移動させる。支持部131とフォーク13とは、上下方向に一緒に移動する。支持部131とフォーク13とは、マスト14に沿って上下方向に移動する。チルトシリンダ16は、車体10とマスト14との間に配置される。チルトシリンダ16は、マスト14を前後方向に傾斜させることにより、フォーク13を前後方向に傾斜させる。 Lift cylinder 15 is arranged between mast 14 and support part 131. The lift cylinder 15 moves the fork 13 in the vertical direction by moving the support part 131 in the vertical direction. The support portion 131 and the fork 13 move together in the vertical direction. The support portion 131 and the fork 13 move in the vertical direction along the mast 14. The tilt cylinder 16 is arranged between the vehicle body 10 and the mast 14. The tilt cylinder 16 tilts the mast 14 in the front-back direction, thereby tilting the fork 13 in the front-back direction.

走行装置は、フォークリフト1を走行させる。走行装置は、フォークリフト1の進行、制動、及び操舵を行う。進行とは、フォークリフト1が前進又は後進することをいう。制動とは、フォークリフト1が減速又は停止することをいう。操舵とは、フォークリフト1の走行方向が変更されることをいう。走行装置は、前輪11と、後輪12と、走行モータ22と、図示しないブレーキ装置と、ステアリングシリンダ18とを有する。 The traveling device causes the forklift 1 to travel. The traveling device moves, brakes, and steers the forklift 1. Advancing means that the forklift 1 moves forward or backward. Braking means that the forklift 1 decelerates or stops. Steering refers to changing the traveling direction of the forklift 1. The traveling device includes a front wheel 11, a rear wheel 12, a traveling motor 22, a brake device (not shown), and a steering cylinder 18.

前輪11及び後輪12のそれぞれは、車体10を支持する。前輪11の少なくとも一部は、車体10よりも下方に配置される。後輪12の少なくとも一部は、車体10よりも下方に配置される。前輪11は、後輪12よりも前方に配置される。前輪11は、車体10の左側及び右側のそれぞれに配置される。後輪12は、車体10の左側及び右側のそれぞれに配置される。前輪11及び後輪12のそれぞれは、回転軸を中心に回転可能である。 Each of the front wheels 11 and the rear wheels 12 supports the vehicle body 10. At least a portion of the front wheel 11 is arranged below the vehicle body 10. At least a portion of the rear wheel 12 is arranged below the vehicle body 10. The front wheel 11 is arranged further forward than the rear wheel 12. The front wheels 11 are arranged on the left and right sides of the vehicle body 10, respectively. The rear wheels 12 are arranged on the left and right sides of the vehicle body 10, respectively. Each of the front wheel 11 and the rear wheel 12 is rotatable around a rotation axis.

走行モータ22は、フォークリフト1を進行させるための駆動力を発生する。走行モータ22は、前輪11を回転させることによって、フォークリフト1を前進又は後進させる。走行モータ22は、図示しない油圧ポンプから吐出される作動油によって駆動する。前輪11は、走行モータ22が発生する回転力により回転する駆動輪である。ブレーキ装置は、フォークリフト1を制動させる。 The travel motor 22 generates driving force for moving the forklift 1. The travel motor 22 rotates the front wheels 11 to move the forklift 1 forward or backward. The travel motor 22 is driven by hydraulic oil discharged from a hydraulic pump (not shown). The front wheel 11 is a drive wheel that rotates by the rotational force generated by the travel motor 22. The brake device brakes the forklift 1.

ステアリングシリンダ18は、フォークリフト1を操舵する。ステアリングシリンダ18は、後輪12を操舵することによって、フォークリフト1の走行方向を変更させる。後輪12は、ステアリングシリンダ18により操舵される操舵輪である。ステアリングシリンダ18は、ステアリング制御弁24を介して供給される作動油によって動作する。 The steering cylinder 18 steers the forklift 1. The steering cylinder 18 changes the running direction of the forklift 1 by steering the rear wheels 12. The rear wheel 12 is a steered wheel that is steered by a steering cylinder 18. The steering cylinder 18 is operated by hydraulic oil supplied through the steering control valve 24.

表示装置26は、運転室20に配置されている。表示装置26は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。表示装置26は、コントローラ60から送信された画像を表示する。 The display device 26 is arranged in the driver's cab 20. The display device 26 includes a flat panel display such as a liquid crystal display (LCD) or an organic electroluminescence display (OELD). The display device 26 displays the image transmitted from the controller 60.

操作部27は、フォークリフト1のオペレータによって操作される。操作部27は、運転室20の運転席の周辺に配置される。操作部27は、例えば、自動制御機能の開始(有効)及び終了(無効)を切り替える操作を受け付ける。操作部27は、後述する識別部66によって対象が識別された場合、対象を自動制御機能の対象として決定する操作を受け付ける。操作部27に対して行われた操作は、操作信号(オペレータ指令)としてコントローラ60によって取得される。操作部27は、例えば、複数のボタン、レバー、スイッチ等である。 The operating unit 27 is operated by the operator of the forklift 1. The operation unit 27 is arranged around the driver's seat in the driver's cab 20. The operation unit 27 receives, for example, an operation for switching between starting (enabled) and ending (disabled) the automatic control function. When a target is identified by the identification unit 66, which will be described later, the operation unit 27 accepts an operation for determining the target as a target of the automatic control function. The operation performed on the operation unit 27 is acquired by the controller 60 as an operation signal (operator command). The operation unit 27 is, for example, a plurality of buttons, levers, switches, etc.

操作部27は、対象を識別する方向を特定する操作を受け付ける。操作部27は、例えば、フォークリフト1の進行方向の前方に対して右方又は左方のどちらの方向の対象物を識別するかを選択する操作を受け付ける。本実施形態では、操作部27は、記憶部63に記憶された、複数の探索範囲からいずれか1つの探索範囲を選択する操作を受け付ける。操作部27は、例えば、右方又は左方を選択可能なボタン、レバー、スイッチ等である。 The operation unit 27 accepts an operation for specifying a direction in which to identify an object. The operation unit 27 accepts, for example, an operation for selecting whether an object is to be identified, to the right or to the left with respect to the front in the traveling direction of the forklift 1. In this embodiment, the operation unit 27 accepts an operation for selecting any one search range from a plurality of search ranges stored in the storage unit 63. The operation unit 27 is, for example, a button, a lever, a switch, etc. that can select the right side or the left side.

運転室20の前方には、ステアリングホイール31が配置される。オペレータは、手でステアリングホイール31を操作して、フォークリフト1を操舵する。 A steering wheel 31 is arranged in front of the driver's cab 20. The operator manually operates the steering wheel 31 to steer the forklift 1.

フォークリフト1は、作業機レバー32、前後進切替レバー33、アクセルペダル34、車速センサ35、ステアリング角センサ36、及び、作業機負荷センサ37を備える。作業機レバー32は、フォークリフト1のフォーク13を操作するための操作用の部材である。前後進切替レバー33は、フォークリフト1の進行方向を前方又は後方のいずれか一方に切り替えるための操作用の部材である。アクセルペダル34は、フォークリフト1の走行速度を変更するための操作用の部材である。 The forklift 1 includes a work machine lever 32, a forward/reverse switching lever 33, an accelerator pedal 34, a vehicle speed sensor 35, a steering angle sensor 36, and a work machine load sensor 37. The work machine lever 32 is an operating member for operating the fork 13 of the forklift 1. The forward/backward switching lever 33 is an operating member for switching the traveling direction of the forklift 1 to either the forward direction or the backward direction. The accelerator pedal 34 is an operating member for changing the traveling speed of the forklift 1.

車速センサ35は、フォークリフト1の車速を検出する。車速センサ35は、検出した車速データをコントローラ60へ送信する。 Vehicle speed sensor 35 detects the vehicle speed of forklift 1. Vehicle speed sensor 35 transmits detected vehicle speed data to controller 60.

ステアリング角センサ36は、フォークリフト1のステアリング角を検出する。ステアリング角センサ36は、検出したステアリング角度データをコントローラ60へ送信する。 The steering angle sensor 36 detects the steering angle of the forklift 1. Steering angle sensor 36 transmits detected steering angle data to controller 60.

作業機負荷センサ37は、作業機2にかかる負荷を検出する。作業機負荷センサ37は、例えば、作業機2の少なくとも一部に配置された歪ゲージやロードセル等の荷重測定デバイスである。作業機負荷センサ37により検出された負荷データは、コントローラ60へ出力される。なお、作業機2にかかる負荷は、例えば、リフトシリンダ15を駆動させる圧油の圧力を検出する油圧センサを用いて検出してもよい。この場合、運搬物がフォーク13によって支持されている状態と支持されていない状態とで、作業機2に掛かる負荷が変化する。作業機負荷センサ37は、作業機2に掛かる負荷の変化を検出する。 The work machine load sensor 37 detects the load on the work machine 2. The work machine load sensor 37 is, for example, a load measuring device such as a strain gauge or a load cell disposed on at least a portion of the work machine 2. Load data detected by the work machine load sensor 37 is output to the controller 60. Note that the load applied to the working machine 2 may be detected using, for example, a hydraulic sensor that detects the pressure of pressure oil that drives the lift cylinder 15. In this case, the load applied to the working machine 2 changes depending on whether the transported object is supported by the fork 13 or not. The work machine load sensor 37 detects changes in the load applied to the work machine 2.

<3次元センサ及びカメラ>
フォークリフト1は、3次元センサ51、カメラ52及びコントローラ60を備える。3次元センサ51、カメラ52及びコントローラ60は、無線又は有線によりデータを通信可能に接続されている。
<3D sensor and camera>
The forklift 1 includes a three-dimensional sensor 51, a camera 52, and a controller 60. The three-dimensional sensor 51, camera 52, and controller 60 are connected to be able to communicate data wirelessly or by wire.

3次元センサ51及びカメラ52は、1組としてフォークリフト1に取り付けられている。本実施形態では、フォークリフト1には、4組の3次元センサ51及びカメラ52が配置されている。なお、3次元センサ51及びカメラ52の数は特に限定されるものではなく、例えば、フォークリフト1に2つの3次元センサ51が配置されていてもよいし、4つ以上のカメラ52が配置されていてもよい。 The three-dimensional sensor 51 and camera 52 are attached to the forklift 1 as a set. In this embodiment, four sets of three-dimensional sensors 51 and cameras 52 are arranged on the forklift 1. Note that the number of three-dimensional sensors 51 and cameras 52 is not particularly limited; for example, two three-dimensional sensors 51 may be disposed on the forklift 1, or four or more cameras 52 may be disposed on the forklift 1. You can.

3次元センサ51は、物体の3次元データを取得する。物体の3次元データは、物体の表面に規定される複数の検出点からなる点群を含む。点群は、3次元センサ51と物体の表面に規定される複数の検出点のそれぞれとの相対距離及び相対位置を示す。3次元センサ51として、レーザ光を射出することにより物体を検出するレーザセンサ(LiDAR:Light Detection and Ranging)が例示される。なお、3次元センサ51は、赤外光を射出することにより物体を検出する赤外線センサ又は電波を射出することにより物体を検出するレーダセンサ(RADAR:Radio Detection and Ranging)でもよい。 The three-dimensional sensor 51 acquires three-dimensional data of an object. The three-dimensional data of an object includes a point group consisting of a plurality of detection points defined on the surface of the object. The point group indicates the relative distance and position between the three-dimensional sensor 51 and each of the plurality of detection points defined on the surface of the object. As the three-dimensional sensor 51, a laser sensor (LiDAR: Light Detection and Ranging) that detects an object by emitting laser light is exemplified. Note that the three-dimensional sensor 51 may be an infrared sensor that detects objects by emitting infrared light or a radar sensor (RADAR: Radio Detection and Ranging) that detects objects by emitting radio waves.

3次元センサ51は、フォークリフト1の周辺に存在する物体を検出する物体検出センサである。3次元センサ51は、フォークリフト1の周辺の対象を検出可能である。3次元センサ51は、検出した物体検出データをコントローラ60へ送信する。3次元センサ51は、例えば、数10[m]程度の範囲を検出可能である。3次元センサ51は、フォークリフト1に複数が配置されている。3次元センサ51の少なくとも1つは、運搬物を識別するために運搬物のフォーク挿し込み穴と近い高さに配置されている。3次元センサ51の少なくとも1つは、例えば、地面上又は貨物車両の荷台上に配置された運搬物のフォーク挿し込み穴と近い高さに配置される。本実施形態では、3次元センサ51は、3次元センサ51、3次元センサ51、3次元センサ51、及び3次元センサ51を備える。3次元センサ51、3次元センサ51、3次元センサ51、及び3次元センサ51の区別を特に要しない場合、単に3次元センサ51という。3次元センサ51は、検出した物体検出データをコントローラ60へ送信する。 The three-dimensional sensor 51 is an object detection sensor that detects objects existing around the forklift 1. The three-dimensional sensor 51 can detect objects around the forklift 1. The three-dimensional sensor 51 transmits detected object detection data to the controller 60. The three-dimensional sensor 51 can detect a range of, for example, several tens of meters. A plurality of three-dimensional sensors 51 are arranged on the forklift 1. At least one of the three-dimensional sensors 51 is disposed at a height close to the fork insertion hole of the transported object in order to identify the transported object. At least one of the three-dimensional sensors 51 is arranged, for example, at a height close to a fork insertion hole of a transported item arranged on the ground or on the loading platform of a freight vehicle. In this embodiment, the three-dimensional sensor 51 includes a three-dimensional sensor 51 1 , a three-dimensional sensor 51 2 , a three-dimensional sensor 51 3 , and a three-dimensional sensor 51 4 . The three-dimensional sensor 51 1 , the three-dimensional sensor 51 2 , the three-dimensional sensor 51 3 , and the three-dimensional sensor 51 4 are simply referred to as the three-dimensional sensor 51 when there is no particular need to distinguish them. The three-dimensional sensor 51 transmits detected object detection data to the controller 60.

3次元センサ51は、フォークリフト1の前方の右側方を検出する。3次元センサ51は、前輪11の上方に位置するフェンダ19Rより上方に配置されている。3次元センサ51は、運転室20の前下方の右側方に配置されている。本実施形態では、3次元センサ51は、カメラ52の下方に配置されている。 The three-dimensional sensor 511 detects the front right side of the forklift 1. The three-dimensional sensor 511 is arranged above the fender 19R, which is located above the front wheel 11. The three-dimensional sensor 511 is disposed on the lower front right side of the driver's cab 20. In this embodiment, the three-dimensional sensor 51 1 is placed below the camera 52 1 .

3次元センサ51は、フォークリフト1の前方の左側方を検出する。3次元センサ51は、前輪11の上方に位置するフェンダ19Lより上方に配置されている。3次元センサ51は、運転室20の前下方の左側方に配置されている。本実施形態では、3次元センサ51は、カメラ52の下方に配置されている。 The three-dimensional sensor 512 detects the front left side of the forklift 1. The three-dimensional sensor 512 is arranged above the fender 19L located above the front wheel 11. The three-dimensional sensor 512 is arranged on the left side of the lower front of the driver's cab 20. In this embodiment, the three-dimensional sensor 51 2 is placed below the camera 52 2 .

3次元センサ51は、フォークリフト1の積荷時に、フォークリフト1の前方を検出する。3次元センサ51は、フォークリフト1の積荷時に、フォーク13上の積荷によって前方の検出範囲が遮られない位置に配置されている。3次元センサ51は、前輪11の上方に位置するフェンダ19L上に配置されている。本実施形態では、3次元センサ51は、カメラ52の下方に配置されている。 The three-dimensional sensor 513 detects the front of the forklift 1 when the forklift 1 is loaded. The three-dimensional sensor 513 is arranged at a position where the front detection range is not blocked by the load on the fork 13 when the forklift 1 is loaded. The three-dimensional sensor 513 is arranged on the fender 19L located above the front wheel 11. In this embodiment, the three-dimensional sensor 51 3 is placed below the camera 52 3 .

3次元センサ51は、フォークリフト1の空荷時に、フォークリフト1の前方中央の下方を検出する。3次元センサ51は、フォークリフト1の空荷時に、フォーク13によって前方の検出範囲が遮られない位置に配置されている。3次元センサ51は、フォークリフト1の空荷時に、地面等に置かれた運搬物のフォーク挿し込み穴、又は、他の運搬物の上段に積まれた運搬物のフォーク挿し込み穴を検出可能な位置に配置されている。3次元センサ51は、車体10の前方中央部の下方に配置されている。3次元センサ51は、フォーク13の後部に配置され車体10に対してフォーク13を支持する支持部131の中央部の下方に配置されている。3次元センサ51は、フォーク13とともに昇降する。本実施形態では、3次元センサ51は、カメラ52の下方に配置されている。 The three-dimensional sensor 514 detects the lower part of the front center of the forklift 1 when the forklift 1 is empty. The three-dimensional sensor 514 is arranged at a position where the front detection range is not blocked by the fork 13 when the forklift 1 is empty. The three-dimensional sensor 514 is capable of detecting the fork insertion hole of a transported object placed on the ground or the like, or the fork insertion hole of a transported object loaded on the upper stage of another transported object, when the forklift 1 is empty. It is placed in a certain position. The three-dimensional sensor 514 is arranged below the front central part of the vehicle body 10. The three-dimensional sensor 514 is disposed below the center of a support portion 131 that is disposed at the rear of the fork 13 and supports the fork 13 with respect to the vehicle body 10. The three-dimensional sensor 514 moves up and down together with the fork 13. In this embodiment, the three-dimensional sensor 51 4 is placed below the camera 52 4 .

図2は、実施形態に係る3次元センサの取付位置及び指向方向を示す概略図である。図2に示す例では、フォークリフト1の右側に、フォークリフト1から近い順に運搬物201R、運搬物202R及び運搬物203Rが配置されている。フォークリフト1の左側に、フォークリフト1から近い順に運搬物201L、運搬物202L及び運搬物203Lが配置されている。符号101は、3次元センサ51の指向方向及び検出範囲を模式的に示す。符号102は、3次元センサ51の指向方向及び検出範囲を模式的に示す。符号103は、3次元センサ51の指向方向及び検出範囲を模式的に示す。符号104は、3次元センサ51の指向方向及び検出範囲を模式的に示す。フォークリフト1は、3次元センサ51は、3次元センサ51、3次元センサ51、3次元センサ51、及び3次元センサ51によりフォークリフト1の前方の全方位を検出可能である。 FIG. 2 is a schematic diagram showing the mounting position and pointing direction of the three-dimensional sensor according to the embodiment. In the example shown in FIG. 2, a transported object 201R, a transported object 202R, and a transported object 203R are arranged on the right side of the forklift 1 in the order of distance from the forklift 1. On the left side of the forklift 1, a transported object 201L, a transported object 202L, and a transported object 203L are arranged in order of distance from the forklift 1. Reference numeral 101 schematically indicates the pointing direction and detection range of the three-dimensional sensor 511 . Reference numeral 102 schematically indicates the pointing direction and detection range of the three-dimensional sensor 512 . Reference numeral 103 schematically indicates the pointing direction and detection range of the three-dimensional sensor 513 . Reference numeral 104 schematically indicates the pointing direction and detection range of the three-dimensional sensor 514 . The forklift 1 can detect all directions in front of the forklift 1 using the three-dimensional sensor 51 , the three-dimensional sensor 51 1 , the three-dimensional sensor 51 2 , the three-dimensional sensor 51 3 , and the three-dimensional sensor 51 4 .

カメラ52は、フォークリフト1の周辺に存在する物体を撮像する。本実施形態では、カメラ52は、単眼のカメラである。カメラ52は、光学系と、イメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。カメラ52によって撮像された画像は、フレームレートに応じて、単位時間あたりに複数の画像を含む。 The camera 52 images objects around the forklift 1. In this embodiment, the camera 52 is a monocular camera. Camera 52 has an optical system and an image sensor. The image sensor includes a CCD (Couple Charged Device) image sensor or a CMOS (Complementary Metal Oxide Semiconductor) image sensor. The images captured by the camera 52 include a plurality of images per unit time depending on the frame rate.

カメラ52は、フォークリフト1の周辺の画像を撮像可能である。カメラ52は、例えば、数10[m]程度の範囲を撮像可能である。カメラ52は、フォークリフト1に複数が配置されている。カメラ52の少なくとも1つは、運搬物を識別するために運搬物のフォーク挿し込み穴と近い高さに配置されている。カメラ52の少なくとも1つは、例えば、地面上又は貨物車両の荷台上に配置された運搬物のフォーク挿し込み穴と近い高さに配置される。本実施形態では、カメラ52は、カメラ52、カメラ52、カメラ52、及びカメラ52を備える。カメラ52、カメラ52、カメラ52、及びカメラ52の区別を特に要しない場合、単にカメラ52という。カメラ52は、撮像した画像データを物体検出データとしてコントローラ60へ送信する。 The camera 52 is capable of capturing images around the forklift 1. The camera 52 is capable of capturing an image in a range of, for example, several tens of meters. A plurality of cameras 52 are arranged on the forklift 1. At least one of the cameras 52 is positioned at a height close to the fork insertion hole of the conveyance for identification of the conveyance. At least one of the cameras 52 is placed, for example, at a height close to a fork insertion hole of a conveyance placed on the ground or on the bed of a cargo vehicle. In this embodiment, the cameras 52 include a camera 52 1 , a camera 52 2 , a camera 52 3 , and a camera 52 4 . Camera 52 1 , camera 52 2 , camera 52 3 , and camera 52 4 are simply referred to as cameras 52 unless they need to be distinguished. The camera 52 transmits captured image data to the controller 60 as object detection data.

カメラ52は、フォークリフト1の前方の右側方を撮像する。カメラ52は、フェンダ19Rより上方に配置されている。カメラ52は、運転室20の前下方の右側方に配置されている。本実施形態では、カメラ52は、3次元センサ51の上方に配置されている。 The camera 521 images the front right side of the forklift 1. The camera 521 is arranged above the fender 19R. The camera 521 is disposed on the lower front right side of the driver's cab 20. In this embodiment, the camera 52 1 is placed above the three-dimensional sensor 51 1 .

カメラ52は、フォークリフト1の前方の左側方を撮像する。カメラ52は、フェンダ19Lより上方に配置されている。カメラ52は、運転室20の前下方の左側方に配置されている。本実施形態では、カメラ52は、3次元センサ51の上方に配置されている。 The camera 522 images the front left side of the forklift 1. The camera 522 is placed above the fender 19L. The camera 522 is placed on the left side of the lower front of the driver's cab 20. In this embodiment, the camera 52 2 is placed above the three-dimensional sensor 51 2 .

カメラ52は、フォークリフト1の積荷時に、フォークリフト1の前方を撮像する。カメラ52は、フォークリフト1の積荷時に、フォーク13上の積荷によって前方の撮像範囲が遮られない位置に配置されている。カメラ52は、フェンダ19L上に配置されている。本実施形態では、カメラ52は、3次元センサ51の上方に配置されている。 The camera 523 images the front of the forklift 1 when the forklift 1 is loaded. The camera 523 is arranged at a position where the front imaging range is not obstructed by the load on the fork 13 when the forklift 1 is loaded. The camera 523 is placed on the fender 19L. In this embodiment, the camera 52 3 is placed above the three-dimensional sensor 51 3 .

カメラ52は、フォークリフト1の空荷時に、フォークリフト1の前方中央の下方を撮像する。カメラ52は、フォークリフト1の空荷時に、フォーク13によって前方の撮像範囲が遮られない位置に配置されている。カメラ52は、フォークリフト1の空荷時に、地面等に置かれた運搬物のフォーク挿し込み穴、又は、他の運搬物の上段に積まれた運搬物のフォーク挿し込み穴を撮像可能な位置に配置されている。カメラ52は、車体10の前方中央部の下方に配置されている。カメラ52は、フォーク13の後部に配置され車体10に対してフォーク13を固定し支持する支持部131の中央部の下方に配置されている。カメラ52は、フォーク13とともに昇降する。本実施形態では、カメラ52は、3次元センサ51の上方に配置されている。 The camera 524 images the lower part of the front center of the forklift 1 when the forklift 1 is empty. The camera 524 is arranged at a position where the front imaging range is not blocked by the fork 13 when the forklift 1 is empty. The camera 524 is located at a position where it can image the fork insertion hole of a transported object placed on the ground or the like or the fork insertion hole of a transported object loaded on top of another transported object when the forklift 1 is empty. It is located in The camera 524 is disposed below the front central portion of the vehicle body 10. The camera 524 is disposed below the central portion of a support portion 131 that is disposed at the rear of the fork 13 and fixes and supports the fork 13 with respect to the vehicle body 10. The camera 524 moves up and down together with the fork 13. In this embodiment, the camera 52 4 is placed above the three-dimensional sensor 51 4 .

<フォークリフトの制御系>
図3は、実施形態に係るフォークリフトの構成の一例を示す機能ブロック図である。フォークリフト1の制御システム70は、3次元センサ51と、コントローラ60とを備える。コントローラ60は、フォークリフト1の周辺の探索範囲内に存在する物体から対象を識別する。コントローラ60は、物体検出センサとしての3次元センサ51から物体検出データを取得可能である。コントローラ60は、CPU(Central Processing Unit)のような数値演算装置(プロセッサ)を含む。
<Forklift control system>
FIG. 3 is a functional block diagram showing an example of the configuration of the forklift according to the embodiment. The control system 70 for the forklift 1 includes a three-dimensional sensor 51 and a controller 60. The controller 60 identifies a target from objects existing within a search range around the forklift 1. The controller 60 can acquire object detection data from the three-dimensional sensor 51 as an object detection sensor. The controller 60 includes a numerical calculation device (processor) such as a CPU (Central Processing Unit).

図4は、実施形態に係るコンピュータシステムの一例を示すブロック図である。コントローラ60は、コンピュータシステム1000を含む。コンピュータシステム1000は、CPUのようなプロセッサ1001と、ROMのような不揮発性メモリ及びRAMのような揮発性メモリを含むメインメモリ1002と、ストレージ1003と、入出力回路を含むインターフェース1004とを有する。上述のコントローラ60の機能は、プログラムとしてストレージ1003に記憶されている。プロセッサ1001は、プログラムをストレージ1003から読み出してメインメモリ1002に展開し、プログラムに従って上述の処理を実行する。なお、プログラムは、ネットワークを介してコンピュータシステム1000に配信されてもよい。 FIG. 4 is a block diagram illustrating an example of a computer system according to an embodiment. Controller 60 includes computer system 1000. The computer system 1000 has a processor 1001 such as a CPU, a main memory 1002 including a nonvolatile memory such as a ROM and a volatile memory such as a RAM, a storage 1003, and an interface 1004 including an input/output circuit. The functions of the controller 60 described above are stored in the storage 1003 as a program. The processor 1001 reads the program from the storage 1003, expands it into the main memory 1002, and executes the above-described processing according to the program. Note that the program may be distributed to the computer system 1000 via a network.

本実施形態では、コントローラ60は、センサデータ取得部61と、画像取得部62と、記憶部63と、受信部64と、決定部65と、識別部66と、探索部67と、表示制御部69とを備える。 In the present embodiment, the controller 60 includes a sensor data acquisition section 61, an image acquisition section 62, a storage section 63, a reception section 64, a determination section 65, an identification section 66, a search section 67, and a display control section. 69.

センサデータ取得部61は、3次元センサ51から物体検出データを取得する。センサデータ取得部61が取得した物体検出データは、例えば、複数の検出点からなる点群である。 The sensor data acquisition unit 61 acquires object detection data from the three-dimensional sensor 51. The object detection data acquired by the sensor data acquisition unit 61 is, for example, a point group consisting of a plurality of detection points.

画像取得部62は、カメラ52が撮像した画像の画像データを取得する。画像取得部62が取得した画像データは、フレームごとの画像データである。 The image acquisition unit 62 acquires image data of an image captured by the camera 52. The image data acquired by the image acquisition unit 62 is image data for each frame.

記憶部63は、RAM、ROM、フラッシュメモリ、及びハードディスクドライブの少なくとも一つを含む。記憶部63は、コントローラ60の処理で使用するデータ等を記憶する。 The storage unit 63 includes at least one of RAM, ROM, flash memory, and hard disk drive. The storage unit 63 stores data and the like used in processing by the controller 60.

記憶部63は、対象を識別するための対象辞書データ、及びフォークリフト1の車体座標系を基準とした探索範囲を記憶する。本実施形態では、記憶部63は、第1探索範囲と、第1探索範囲と異なる第2探索範囲とを記憶する。第1探索範囲と第2探索範囲との区別を特に要しない場合、単に探索範囲という。 The storage unit 63 stores object dictionary data for identifying objects and a search range based on the vehicle body coordinate system of the forklift 1. In this embodiment, the storage unit 63 stores a first search range and a second search range different from the first search range. When there is no particular need to distinguish between the first search range and the second search range, they are simply referred to as search ranges.

第1探索範囲は、フォークリフト1の進行方向前方に対する右方に存在する物体を検出する範囲である。第2探索範囲は、フォークリフト1の進行方向前方に対する左方に存在する物体を検出する範囲である。 The first search range is a range in which objects present on the right side of the front of the forklift 1 in the traveling direction are detected. The second search range is a range in which objects existing to the left of the front of the forklift 1 in the traveling direction are detected.

探索範囲について説明する。フォークリフト1は、対象に正対するための自動操舵制御を行う場合、フォークリフト1の最大曲率等に応じて、切り返しなしで正対できる範囲が限定される。このため、3次元センサ51で検出できる範囲内の全ての対象を識別した場合、切り返しなしで正対ができない対象が含まれることがあり、自動操舵制御を開始しても正対が困難なおそれがある。また、自動制御機能の実行時、複数の対象が識別された場合、オペレータは、複数の対象から正対したい対象を選択する手間が増える。このように、3次元センサ51で検出できる範囲内の対象を全て識別することは、処理負荷の増大だけでなく、利便性の低下を招く。そこで、フォークリフト1が対象に対して切り返しなしで正対可能な範囲に応じて探索範囲を限定する。これにより、自動制御機能の実行時の処理負荷の増加を防ぎ、正対できない対象や複数の対象をオペレータに提示しないようにできる。 The search range will be explained. When the forklift 1 performs automatic steering control to directly face an object, the range in which the forklift 1 can face directly without turning back is limited depending on the maximum curvature of the forklift 1 and the like. Therefore, when all objects within the range that can be detected by the three-dimensional sensor 51 are identified, some objects may be included that cannot be directly faced without turning back, and it may be difficult to face directly even if automatic steering control is started. There is. Furthermore, when a plurality of objects are identified during execution of the automatic control function, the operator has to spend more time selecting the object he or she wants to face directly from among the plurality of objects. In this way, identifying all objects within the range that can be detected by the three-dimensional sensor 51 not only increases processing load but also reduces convenience. Therefore, the search range is limited according to the range in which the forklift 1 can directly face the target without turning back. This prevents an increase in the processing load during execution of the automatic control function, and prevents the operator from being presented with an object that cannot be directly faced or a plurality of objects.

図5は、実施形態に係る対象を探索する第1探索範囲110を示す模式図である。第1探索範囲110は、フォークリフト1の空荷時に、運搬物200を探索する探索範囲である。第1探索範囲110は、矩形形状である。第1探索範囲110は、前後方向と平行な第1辺110aと、左右方向と平行な第2辺110bを有する。第1探索範囲110の第1辺110aの長さは、Lyである。第1探索範囲110の第2辺110bの長さは、Lxである。 FIG. 5 is a schematic diagram showing a first search range 110 for searching for a target according to the embodiment. The first search range 110 is a search range for searching for the transported object 200 when the forklift 1 is empty. The first search range 110 has a rectangular shape. The first search range 110 has a first side 110a parallel to the front-rear direction and a second side 110b parallel to the left-right direction. The length of the first side 110a of the first search range 110 is Ly. The length of the second side 110b of the first search range 110 is Lx.

第1探索範囲110は、フォークリフト1が対象に対して切り返しなしで正対できる位置に設定される。本実施形態では、第1探索範囲110は、フォークリフト1の車体座標の原点を基準にして、左右方向(図5では左方)に距離Rx離間した位置に設定される。第1探索範囲110は、フォークリフト1の車体座標の原点を基準にして、第1辺110aの中点が前方に距離Ry離間した位置に設定される。第1探索範囲110は、フォークリフト1の車体座標の原点から距離Rx及び距離Ry離間した位置と、フォークリフト1近傍側(図5では右側)の第1辺110aと第1辺110aの垂直二等分線との交点の位置とが一致するように設定される。フォークリフト1の車体座標系の原点とは、例えば、前輪11の回転軸と車体10の幅方向中心を通る軸の交点である。フォークリフト1は、車体座標系の原点から左右方向に距離Rx以上、かつ、車体座標の原点から前方に距離Ry以上離間して位置する対象に対して、切り返しなしで正対可能である。 The first search range 110 is set at a position where the forklift 1 can face the target without turning back. In this embodiment, the first search range 110 is set at a position separated by a distance Rx in the left-right direction (leftward in FIG. 5) with respect to the origin of the vehicle body coordinates of the forklift 1. The first search range 110 is set at a position where the midpoint of the first side 110a is spaced forward by a distance Ry with respect to the origin of the vehicle body coordinates of the forklift 1. The first search range 110 is a position separated by a distance Rx and a distance Ry from the origin of the vehicle body coordinates of the forklift 1, and the first side 110a on the side near the forklift 1 (the right side in FIG. 5), which is perpendicularly bisected by the first side 110a. The position of the intersection with the line is set to match. The origin of the vehicle body coordinate system of the forklift 1 is, for example, the intersection of the rotation axis of the front wheels 11 and the axis passing through the center of the vehicle body 10 in the width direction. The forklift 1 can directly face an object located at least a distance Rx in the left-right direction from the origin of the vehicle body coordinate system and at least a distance Ry forward from the origin of the vehicle body coordinate system without turning back.

本実施形態においては、第1探索範囲110の第1辺110aの長さは、対象である運搬物の正面の幅寸法と等しい。運搬物の正面とは、フォークリフト1が運搬物を取り上げる際に正対する面である。第1探索範囲110の第1辺の長さLyを運搬物の幅と同じとすることで、前後方向に並んだ複数の運搬物のうち1つの運搬物のみが第1探索範囲に入る。このため、複数の運搬物から1つの運搬物のみを識別することができる。本実施形態においては、第1探索範囲110の第2辺110bの長さは、第1辺よりも長く、第1探索範囲110は、長方形状である。 In this embodiment, the length of the first side 110a of the first search range 110 is equal to the width of the front of the object to be transported. The front surface of the transported object is the surface directly facing the forklift 1 when picking up the transported object. By setting the length Ly of the first side of the first search range 110 to be the same as the width of the transported object, only one transported object among the plurality of transported objects lined up in the front-rear direction enters the first search range. Therefore, only one conveyed object can be identified from a plurality of conveyed objects. In this embodiment, the length of the second side 110b of the first search range 110 is longer than the first side, and the first search range 110 has a rectangular shape.

図6は、実施形態に係る対象を探索する第2探索範囲111を示す模式図である。第2探索範囲111は、フォークリフト1の積荷時に、荷置きスペースを探索する探索範囲である。第2探索範囲111は、矩形形状である。第2探索範囲111は、前後方向と平行な第1辺111aと、左右方向と平行な第2辺111bを有する。第2探索範囲111の第1辺111aの長さは、3Ly+2Cyである。第2探索範囲111の第2辺111bの長さは、Lxである。 FIG. 6 is a schematic diagram showing a second search range 111 for searching for a target according to the embodiment. The second search range 111 is a search range for searching for a storage space when the forklift 1 is loaded. The second search range 111 has a rectangular shape. The second search range 111 has a first side 111a parallel to the front-rear direction and a second side 111b parallel to the left-right direction. The length of the first side 111a of the second search range 111 is 3Ly+2Cy. The length of the second side 111b of the second search range 111 is Lx.

第2探索範囲111は、フォークリフト1が対象に対して切り返しなしで正対できる位置に設定される。本実施形態では、第2探索範囲111は、フォークリフト1の車体座標の原点を基準にして、左右方向(図6では左方)に距離Rx離間した位置に設定される。第2探索範囲111は、フォークリフト1の車体座標の原点を基準にして、第1辺111aの中点が前方に距離Ry離間した位置に設定される。第2探索範囲111は、フォークリフト1の車体座標の原点から距離Rx及び距離Ry離間した位置と、フォークリフト1近傍側(図6では右側)の第1辺111aと第1辺111aの垂直二等分線との交点の位置とが一致するように設定される。 The second search range 111 is set at a position where the forklift 1 can face the target without turning back. In this embodiment, the second search range 111 is set at a position separated by a distance Rx in the left-right direction (leftward in FIG. 6) with respect to the origin of the vehicle body coordinates of the forklift 1. The second search range 111 is set at a position where the midpoint of the first side 111a is spaced forward by a distance Ry with respect to the origin of the vehicle body coordinates of the forklift 1. The second search range 111 is a position separated by a distance Rx and a distance Ry from the origin of the vehicle body coordinates of the forklift 1, and a perpendicular bisection of the first side 111a on the side near the forklift 1 (the right side in FIG. 6) and the first side 111a. The position of the intersection with the line is set to match.

本実施形態においては、第2探索範囲111の第1辺111aの長さは、第1探索範囲110の第1辺110aの長さよりも長い。図6に示す例では、第2探索範囲111は、領域C、領域F、及び領域Bを含む。領域C、領域F、及び領域Bの前後方向の長さは、Lyである。領域C、領域F、及び領域Bのそれぞれの前後方向の長さは、第1探索範囲110の第1辺110aの長さと等しい。領域Cと領域Fとの間隔、及び領域Fと領域Bとの間隔は、Cyである。Cyは、例えば、運搬物を隣接して載置する場合に必要な間隔である。領域Cは、図6に示す位置のフォークリフト1が切り返しなしで正対可能な範囲である。領域Bは、図6に示す位置のフォークリフト1が切り返しなしで正対可能な範囲よりも前方に位置する。領域Bは、領域Cよりも前方に位置する。領域Fは、図6に示す位置のフォークリフト1が切り返しなしで正対可能な範囲よりも後方に位置する。領域Fは、領域Cよりも後方に位置する。本実施形態においては、第2探索範囲111の第1辺111aの長さは、第2辺111bよりも長く、第2探索範囲111は、長方形状である。 In this embodiment, the length of the first side 111a of the second search range 111 is longer than the length of the first side 110a of the first search range 110. In the example shown in FIG. 6, the second search range 111 includes area C, area F, and area B. The lengths of region C, region F, and region B in the front-rear direction are Ly. The length of each of the regions C, F, and B in the front-rear direction is equal to the length of the first side 110a of the first search range 110. The distance between region C and region F and the distance between region F and region B are Cy. Cy is, for example, the distance required when objects to be transported are placed adjacent to each other. Region C is a range in which the forklift 1 in the position shown in FIG. 6 can face directly without turning back. Region B is located further forward than the range in which the forklift 1 in the position shown in FIG. 6 can face directly without turning back. Region B is located further forward than region C. Region F is located further back than the range in which the forklift 1 in the position shown in FIG. 6 can face directly without turning back. Region F is located further back than region C. In this embodiment, the length of the first side 111a of the second search range 111 is longer than the second side 111b, and the second search range 111 has a rectangular shape.

フォークリフト1に搭載されている全ての3次元センサ51からの物体検出データを用いて対象を識別した場合、処理負荷が増大する。自動制御機能の実行時に、例えば、進行方向の左右両方に存在する物体が識別された場合、オペレータは、複数の対象から正対したい対象を選択する手間が増える。このように、フォークリフト1に搭載されている全ての3次元センサ51からの物体検出データを用いて対象を識別することは、処理負荷の増大だけでなく、利便性の低下を招く。そこで、コントローラ60は、対象を識別する方向を決定し、決定された方向に存在する物体から対象を識別する。これにより、自動制御機能の実行時の処理負荷の増加を防ぎ、オペレータが対象を選択する手間を削減することができる。 If a target is identified using object detection data from all three-dimensional sensors 51 mounted on the forklift 1, the processing load will increase. When the automatic control function is executed, for example, if objects existing on both the left and right sides of the traveling direction are identified, the operator will have to spend more time selecting the object he or she wants to face directly from among a plurality of objects. In this way, identifying a target using object detection data from all three-dimensional sensors 51 mounted on the forklift 1 not only increases the processing load but also reduces convenience. Therefore, the controller 60 determines the direction in which to identify the object, and identifies the object from objects existing in the determined direction. This prevents an increase in processing load during execution of the automatic control function, and reduces the effort required by the operator to select a target.

図7は、対象の識別する方向を示す概略図である。図7は、第1探索範囲110における右側探索範囲110R及び第1探索範囲110における左側探索範囲110Lを示す。図7に示すように、対象を識別する方向は、フォークリフト1の進行方向の前方に対する右方又は左方である。 FIG. 7 is a schematic diagram showing the direction of object identification. FIG. 7 shows a right side search range 110R in the first search range 110 and a left side search range 110L in the first search range 110. As shown in FIG. 7, the direction in which the object is identified is to the right or to the left with respect to the front in the traveling direction of the forklift 1.

受信部64は、対象を識別する方向を特定する方向信号を受信する。本実施形態では、受信部64は、操作部27から対象を識別する方向を特定する操作信号を受信する。 The receiving unit 64 receives a direction signal specifying a direction for identifying a target. In this embodiment, the receiving unit 64 receives an operation signal from the operation unit 27 that specifies a direction for identifying a target.

決定部65は、受信部64からの方向信号に基づいて、対象を識別する方向を決定する。決定部65は、受信部64が右方を選択する方向信号を受信した場合、フォークリフト1の進行方向の前方に対して右方を、対象を識別する方向として決定する。決定部65は、受信部64が左方を選択する方向信号を受信した場合、フォークリフト1の進行方向の前方に対して左方を、対象を識別する方向として決定する。 The determining unit 65 determines the direction in which the target is to be identified, based on the direction signal from the receiving unit 64. When the receiving unit 64 receives a direction signal that selects the right direction, the determining unit 65 determines the right side with respect to the front in the traveling direction of the forklift 1 as the direction in which the object is to be identified. When the receiving unit 64 receives the direction signal selecting the left side, the determining unit 65 determines the left side with respect to the front in the traveling direction of the forklift 1 as the direction in which the object is to be identified.

本実施形態では、決定部65は、受信部64が受信した操作部27からの操作信号に基づいて、フォークリフト1の進行方向の前方に対して右方又は左方を、対象を識別する方向として決定する。決定部65は、操作部27からの操作信号に基づいて、複数の探索範囲からいずれか1つの探索範囲を決定してもよい。決定部65は、操作部27からの操作信号に基づいて、右方を選択する操作がされた場合、図7に示す第1探索範囲110における右側探索範囲110Rを探索範囲として決定してもよい。決定部65は、操作部27からの操作信号に基づいて、左方を選択する操作がされた場合、図7に示す第1探索範囲110における左側探索範囲110Lを探索範囲として決定してもよい。 In the present embodiment, the determining unit 65 selects the right or left side with respect to the front in the traveling direction of the forklift 1 as the direction for identifying the target, based on the operation signal from the operation unit 27 received by the receiving unit 64. decide. The determining unit 65 may determine any one search range from a plurality of search ranges based on the operation signal from the operation unit 27. The determining unit 65 may determine the right side search range 110R in the first search range 110 shown in FIG. 7 as the search range when an operation to select the right side is performed based on the operation signal from the operation unit 27. . The determining unit 65 may determine the left side search range 110L in the first search range 110 shown in FIG. 7 as the search range when an operation to select the left side is performed based on the operation signal from the operation unit 27. .

識別部66は、物体検出センサとしての3次元センサ51からの物体検出データに基づいて、探索範囲内に存在する物体から対象を識別する。識別部66は、決定部65によって決定された方向に存在する物体から荷役対象となる物体を識別する。識別部66は、探索範囲内の対象のみを識別してもよい。 The identification unit 66 identifies a target from objects existing within the search range based on object detection data from the three-dimensional sensor 51 as an object detection sensor. The identification unit 66 identifies objects to be handled from objects existing in the direction determined by the determination unit 65. The identification unit 66 may identify only objects within the search range.

識別部66は、例えば、決定された方向を検出範囲とする3次元センサ51からの物体検出データに基づいて、決定された方向の探索範囲内に存在する物体から対象を識別する。識別部66は、決定された方向と反対方向を検出範囲とする3次元センサ51からの物体検出データはマスクしてもよい。識別部66は、例えば、決定された方向が右方である場合、3次元センサ51からの物体検出データに基づいて、決定された方向の探索範囲内に存在する物体から対象を識別する。この場合、3次元センサ51以外からの物体検出データはマスクする。識別部66は、例えば、決定された方向が左方である場合、3次元センサ51からの物体検出データに基づいて、決定された方向の探索範囲内に存在する物体から対象を識別する。この場合、3次元センサ51以外からの物体検出データはマスクする。 The identification unit 66 identifies a target from objects existing within the search range in the determined direction, for example, based on object detection data from the three-dimensional sensor 51 whose detection range is in the determined direction. The identification unit 66 may mask object detection data from the three-dimensional sensor 51 whose detection range is in a direction opposite to the determined direction. For example, when the determined direction is to the right, the identification unit 66 identifies the target from objects existing within the search range in the determined direction based on the object detection data from the three-dimensional sensor 511 . In this case, object detection data from sources other than the three-dimensional sensor 511 is masked. For example, when the determined direction is to the left, the identification unit 66 identifies the target from objects existing within the search range in the determined direction based on the object detection data from the three-dimensional sensor 512 . In this case, object detection data from sources other than the three-dimensional sensor 512 is masked.

本実施形態では、識別部66は、例えば、決定された方向を検出範囲とする、3次元センサ51からの物体検出データのみに基づいて、決定された方向の探索範囲内に存在する物体から対象を識別してもよい。識別部66は、例えば、決定された方向が右方である場合、3次元センサ51からの物体検出データのみに基づいて、探索範囲内に存在する物体から対象を識別する。言い換えると、識別部66は、例えば、決定された方向が右方である場合、3次元センサ51以外からの物体検出データをキャンセルして、探索範囲内に存在する物体から対象を識別する。 In the present embodiment, the identification unit 66 selects objects existing within the search range in the determined direction based only on object detection data from the three-dimensional sensor 51 whose detection range is the determined direction. may be identified. For example, when the determined direction is to the right, the identification unit 66 identifies the target from objects existing within the search range based only on the object detection data from the three-dimensional sensor 511 . In other words, if the determined direction is to the right, for example, the identification unit 66 cancels object detection data from sources other than the three-dimensional sensor 511 and identifies the target from objects existing within the search range.

本実施形態では、識別部66は、物体検出センサとしての3次元センサ51からの物体検出データに基づいて、決定部65が決定した探索範囲内に存在する物体から対象を識別してもよい。識別部66は、例えば、物体検出センサとしての3次元センサ51からの物体検出データに基づいて、決定部65が決定した第1探索範囲内又は第2探索範囲内に存在する物体から対象を識別してもよい。 In this embodiment, the identification unit 66 may identify a target from objects existing within the search range determined by the determination unit 65 based on object detection data from the three-dimensional sensor 51 as an object detection sensor. The identification unit 66 identifies a target from objects existing within the first search range or the second search range determined by the determination unit 65, for example, based on object detection data from the three-dimensional sensor 51 as an object detection sensor. You may.

図8は、実施形態に係る運搬物を識別する方法の一例を示す概略図である。図8に示す運搬物は、例えば、箱形状のパレットである。(a1)は、運搬物に3次元センサ51からレーザ光を照射して得られた物体検出データである点群を示す。(a2)は、(a1)の点群から推定した平面を網掛けして示す。平面は、点群が示す、3次元センサ72と物体の表面に規定される複数の検出点のそれぞれとの相対位置に基づいて推定される。推定された平面は、フォークリフト1が運搬物を取り上げる際にフォークリフト1と正対する面である。(a3)は、(a2)を上下方向視(平面視)に視点を変換した図である。(a3)において、(a2)で推定した平面を破線で示す。(a3)では、(a2)で推定した平面より左方に点群が表れている。楕円で囲んだ点群は、(a2)で推定した平面を通過した点群を示す。言い換えると、楕円で囲んだ点群は、運搬物のフォーク挿し込み穴を通過した点群である。(a4)は、推定した平面と、平面を通過した点群と3次元センサ51の座標系基準とを結ぶ直線との交点を求めた図である。(a5)は、(a4)で求めた交点の位置に点群を補完した図である。(a6)は、推定した平面を正面から見た二値画像に変換した図である。四角で囲んだ部分は、(a5)で補完した点群を示す。識別部66は、記憶部63に記憶された対象辞書データを参照して、補完した点群がフォーク挿し込み穴を示す特徴部であるか否かを判定し、運搬物を識別する。 FIG. 8 is a schematic diagram illustrating an example of a method for identifying a transported object according to an embodiment. The conveyed object shown in FIG. 8 is, for example, a box-shaped pallet. (a1) shows a point group that is object detection data obtained by irradiating a transported object with a laser beam from the three-dimensional sensor 51. (a2) shows the plane estimated from the point group of (a1) by hatching. The plane is estimated based on the relative positions of the three-dimensional sensor 72 and each of the plurality of detection points defined on the surface of the object, which are indicated by the point group. The estimated plane is a plane that directly faces the forklift 1 when the forklift 1 picks up the object. (a3) is a diagram obtained by converting the viewpoint of (a2) into an upward/downward view (planar view). In (a3), the plane estimated in (a2) is shown by a broken line. In (a3), a point group appears to the left of the plane estimated in (a2). The point group surrounded by an ellipse indicates the point group that passed through the plane estimated in (a2). In other words, the point group surrounded by an ellipse is the point group that has passed through the fork insertion hole of the transported object. (a4) is a diagram showing the intersection points of the estimated plane and a straight line connecting the point group passing through the plane and the coordinate system reference of the three-dimensional sensor 51. (a5) is a diagram in which the point group is complemented at the position of the intersection found in (a4). (a6) is a diagram in which the estimated plane is converted into a binary image viewed from the front. The boxed area shows the point group interpolated in (a5). The identification unit 66 refers to the target dictionary data stored in the storage unit 63, determines whether or not the supplemented point group is a feature indicating a fork insertion hole, and identifies the object to be transported.

例えば、運搬物を一時保管しておく施設では、運搬物が隣接して載置されている。このため、3次元センサ51の物体検出データである点群から、各運搬物を独立した物体として識別することが難しい。しかしながら、各運搬物に設けられたフォーク挿し込み穴を識別することにより、隣接した運搬物群から1つの運搬物を識別することが可能である。 For example, in a facility where transported items are temporarily stored, the transported items are placed adjacent to each other. For this reason, it is difficult to identify each conveyance object as an independent object from the point cloud that is the object detection data of the three-dimensional sensor 51. However, by identifying the fork insertion holes provided in each conveyance, it is possible to identify one conveyance from a group of adjacent conveyances.

次に、識別部66による荷置きスペースの識別について説明する。識別部66は、物体検出センサとしての3次元センサ51からの物体検出データから、識別された対象を基準として、基準から所定範囲内に存在する所定の大きさの空間を探索し、荷置きスペースを識別する。本実施形態では、識別部66は、物体検出データから、探索範囲内に存在する運搬物に基づいて、フォークリフト1が取り上げた運搬物を載置可能な荷置きスペースを識別する。より詳しくは、まず、識別部66は、探索範囲内に存在する運搬物を識別する。そして、識別部66は、識別した運搬物を基準として、基準の運搬物の周囲に存在する、所定の大きさの空間を探索する。言い換えると、探索部67は、識別した運搬物の周囲から、他の運搬物を載置可能な大きさの空間を探索する。 Next, identification of cargo storage spaces by the identification unit 66 will be explained. The identification unit 66 searches for a space of a predetermined size existing within a predetermined range from the reference based on the object detection data from the three-dimensional sensor 51 as an object detection sensor, using the identified object as a reference, and searches for a space of a predetermined size within a predetermined range from the reference. identify. In this embodiment, the identification unit 66 identifies a storage space in which the object picked up by the forklift 1 can be placed, based on the object detection data and the object existing within the search range. More specifically, first, the identification unit 66 identifies objects to be transported that are present within the search range. Then, the identification unit 66 uses the identified transported object as a reference to search for a space of a predetermined size that exists around the reference transported object. In other words, the search unit 67 searches around the identified transport object for a space large enough to accommodate another transport object.

図9は、実施形態に係る運搬物200の周囲に存在する荷置きスペースの位置を示す模式図である。運搬物の周囲とは、その運搬物に隣接する位置のことである。図9に示すように、運搬物200の周囲は、運搬物200の前方、運搬物200の後方、運搬物200の右方、及び運搬物200の上方である。所定の大きさの空間とは、例えば、運搬物の寸法以上の大きさを有する空間である。識別部66は、探索範囲内の運搬物を識別し、識別した運搬物の周囲に存在する所定の大きさの空間に基づいて、荷置きスペース140を識別する。識別部66は、第2探索範囲111に位置する運搬物200を基準の運搬物として、第2探索範囲111から基準の運搬物200の周囲に存在する、他の運搬物を載置可能な大きさの空間を探索する。 FIG. 9 is a schematic diagram showing the positions of cargo storage spaces that exist around the transported object 200 according to the embodiment. The area around the conveyed object refers to the position adjacent to the conveyed object. As shown in FIG. 9, the periphery of the transported object 200 is the front of the transported object 200, the rear of the transported object 200, the right side of the transported object 200, and the upper side of the transported object 200. The space having a predetermined size is, for example, a space having a size larger than the size of the object to be transported. The identification unit 66 identifies the cargo within the search range, and identifies the storage space 140 based on a space of a predetermined size existing around the identified cargo. The identification unit 66 sets the transported object 200 located in the second search range 111 as a reference transported object, and identifies other transported objects that are large enough to place other transported objects that exist around the reference transported object 200 from the second search range 111. Explore the space.

本実施形態では、識別部66は、3次元センサ51からの物体検出データを用いて対象の識別を行うが、これに限られない。例えば、他の実施形態においては、識別部66は、カメラ52が撮像した撮像画像から特徴量を抽出し、抽出した特徴量と対象辞書データとに基づいて、撮像画像から対象を識別してもよい。対象の識別方法は、例えば、パターンマッチング、機械学習に基づく識別処理を行ってもよい。 In the present embodiment, the identification unit 66 identifies objects using object detection data from the three-dimensional sensor 51, but the invention is not limited thereto. For example, in another embodiment, the identification unit 66 may extract a feature amount from an image captured by the camera 52 and identify a target from the captured image based on the extracted feature amount and target dictionary data. good. The target identification method may be, for example, pattern matching or identification processing based on machine learning.

表示制御部69は、表示装置26に画像を表示させる画像信号を出力する。本実施形態では、表示制御部69は、識別部66によって識別された対象を、カメラ52によって撮像された撮像画像に重畳して表示させる画像信号を出力する。より詳しくは、表示制御部69は、識別部66の識別結果に基づいて、カメラ52によって撮像された撮像画像に、識別した対象の位置に対象の形状を示す想像線を重畳して表示装置26に表示させる画像信号を出力する。 The display control unit 69 outputs an image signal that causes the display device 26 to display an image. In the present embodiment, the display control unit 69 outputs an image signal that causes the object identified by the identification unit 66 to be displayed superimposed on the captured image captured by the camera 52. More specifically, based on the identification result of the identification unit 66, the display control unit 69 superimposes an imaginary line indicating the shape of the object at the position of the identified object on the image taken by the camera 52, and displays the image on the display device 26. Outputs an image signal to be displayed on.

表示制御部69は、例えは、カメラ52によって撮像された撮像画像に、識別した運搬物を示す枠線を重畳して表示装置26に表示させる画像信号を出力する。表示制御部69は、例えは、カメラ52によって撮像された撮像画像に、識別した荷置きスペースに載置される運搬物を示す枠線を重畳して表示装置26に表示させる画像信号を出力する。 For example, the display control unit 69 outputs an image signal that causes the display device 26 to display the captured image captured by the camera 52 with a frame line indicating the identified transported object superimposed thereon. For example, the display control unit 69 outputs an image signal that causes the display device 26 to display the captured image captured by the camera 52 by superimposing a frame line indicating the cargo to be placed in the identified storage space. .

図10-1は、実施形態に係る、対象を識別した場合における、表示装置26の表示の一例を示す模式図である。図10-2は、実施形態に係る、対象を識別した場合における、表示装置26の表示の他の例を示す模式図である。図10-1及び図10-2に示すように、表示装置26の表示部160には、カメラ52によって撮像された画像が表示される。 FIG. 10-1 is a schematic diagram showing an example of a display on the display device 26 when a target is identified, according to the embodiment. FIG. 10-2 is a schematic diagram showing another example of the display on the display device 26 when a target is identified, according to the embodiment. As shown in FIGS. 10-1 and 10-2, an image captured by the camera 52 is displayed on the display unit 160 of the display device 26.

図10-1は、フォークリフト1の進行方向の前方に対して右方を、対象を識別する方向として決定し、且つ、対象として運搬物を識別した場合における、表示装置26の表示を示す。図10-2は、フォークリフト1の進行方向の前方に対して左方を、対象を識別する方向として決定し、且つ、対象として運搬物を識別した場合における、表示装置26の表示を示す。表示装置26の表示部160には、カメラ52によって撮像された画像に、識別部66によって識別された運搬物を示す枠線151、152を重畳させた画像が表示される。図10-1及び図10-2に示すように、撮像画像の識別された運搬物の位置に枠線151、152を重畳表示させることにより、オペレータは識別された運搬物を認識できる。 FIG. 10-1 shows the display on the display device 26 when the right side with respect to the front in the traveling direction of the forklift 1 is determined as the direction for identifying the object, and the transported object is identified as the object. FIG. 10-2 shows the display on the display device 26 when the left side with respect to the front in the traveling direction of the forklift 1 is determined as the direction for identifying the object, and the transported object is identified as the object. The display unit 160 of the display device 26 displays an image in which frame lines 151 and 152 indicating the transported object identified by the identification unit 66 are superimposed on the image captured by the camera 52. As shown in FIGS. 10-1 and 10-2, by superimposing frame lines 151 and 152 on the position of the identified transported object in the captured image, the operator can recognize the identified transported object.

本実施形態では、表示制御部69は、表示装置26への出力を制御する。表示制御部69は、表示制御部69は、図示しないネットワークを介して、表示装置26へ画像を配信するように制御してもよい。 In this embodiment, the display control unit 69 controls output to the display device 26. The display control unit 69 may control the display control unit 69 to distribute images to the display device 26 via a network (not shown).

<基本処理>
図11は、実施形態に係るフォークリフトの制御方法の処理の一例を示すフローチャートである。
<Basic processing>
FIG. 11 is a flowchart illustrating an example of processing of the forklift control method according to the embodiment.

コントローラ60は、対象を識別する方向を特定する方向信号を受信する(ステップST11)。より詳しくは、コントローラ60は、受信部64によって、操作部27から対象を識別する方向を特定する操作信号を受信する。コントローラ60は、ステップST12へ進む。 The controller 60 receives a direction signal specifying a direction for identifying a target (step ST11). More specifically, the controller 60 receives, through the receiving unit 64, an operation signal from the operation unit 27 that specifies the direction in which the object is to be identified. The controller 60 proceeds to step ST12.

コントローラ60は、対象を識別する方向を決定する(ステップST12)。より詳しくは、コントローラ60は、決定部65によって、受信部64が受信した方向信号に基づいて、対象を識別する方向を決定する。コントローラ60は、ステップST13へ進む。 The controller 60 determines the direction in which the object is to be identified (step ST12). More specifically, in the controller 60, the determining unit 65 determines the direction in which the target is to be identified, based on the direction signal received by the receiving unit 64. The controller 60 proceeds to step ST13.

コントローラ60は、選択された方向の対象を探索する(ステップST13)。より詳しくは、コントローラ60は、識別部66によって、物体検出センサとしての3次元センサ51からの物体検出データに基づいて、選択された方向の探索範囲内に存在する物体から対象を識別する。本実施形態では、探索範囲内から探索する対象は、運搬物、荷置きスペース又は貨物車両の荷台である。コントローラ60は、ステップST14へ進む。 The controller 60 searches for an object in the selected direction (step ST13). More specifically, the controller 60 uses the identification unit 66 to identify the target from objects existing within the search range in the selected direction, based on object detection data from the three-dimensional sensor 51 as an object detection sensor. In the present embodiment, the object to be searched within the search range is a cargo to be transported, a storage space, or a loading platform of a cargo vehicle. The controller 60 proceeds to step ST14.

コントローラ60は、選択された方向の探索範囲内に対象が識別されたか否かを判定する(ステップST14)。より詳しくは、コントローラ60は、識別部66によって、物体検出データから、選択された方向の探索範囲内に存在する運搬物、荷置きスペース又は貨物車両の荷台が識別されたか否かを判定する。コントローラ60は、識別部66によって、選択された方向の探索範囲内に存在する物体から対象が識別された場合(ステップST14でYes)、ステップST15へ進む。コントローラ60は、識別部66によって、選択された方向の探索範囲内に存在する物体から対象が識別されていない場合(ステップST14でNo)、ステップST13の処理を再度実行する。 The controller 60 determines whether an object is identified within the search range in the selected direction (step ST14). More specifically, the controller 60 determines whether the identification unit 66 has identified, from the object detection data, an object to be transported, a storage space, or a loading platform of a freight vehicle that exists within the search range in the selected direction. When the identification unit 66 identifies the target from objects existing within the search range in the selected direction (Yes in step ST14), the controller 60 proceeds to step ST15. If the identification unit 66 does not identify the target from the objects existing within the search range in the selected direction (No in step ST14), the controller 60 executes the process in step ST13 again.

コントローラ60は、識別した対象をオペレータが選択したか否かを判定する(ステップST15)。より詳しくは、コントローラ60は、操作部27からの選択操作を受信したか否かを判定する。コントローラ60は、操作部27からの選択操作を受信した場合(ステップST15でYes)、ステップST16へ進む。コントローラ60は、操作部27からの選択操作を受信しなかった場合(ステップST15でNo)、ステップST13の処理を再度実行する。 The controller 60 determines whether the operator has selected the identified object (step ST15). More specifically, controller 60 determines whether a selection operation from operation unit 27 has been received. When the controller 60 receives the selection operation from the operation unit 27 (Yes in step ST15), the controller 60 proceeds to step ST16. If the controller 60 does not receive the selection operation from the operation unit 27 (No in step ST15), it executes the process in step ST13 again.

コントローラ60は、選択した対象を、荷役作業を行う目標として特定する(ステップST16)。より詳しくは、コントローラ60は、操作部27からの選択操作に基づいて、オペレータが選択した対象を、荷役作業を行う目標として特定する。コントローラ60は、ステップST17へ進む。 The controller 60 specifies the selected object as a target for cargo handling work (step ST16). More specifically, based on the selection operation from the operation unit 27, the controller 60 specifies the object selected by the operator as the target for cargo handling work. The controller 60 proceeds to step ST17.

コントローラ60は、車体座標系の原点から目標までの距離を検出する(ステップST17)。コントローラ60は、ステップST18へ進む。 The controller 60 detects the distance from the origin of the vehicle body coordinate system to the target (step ST17). The controller 60 proceeds to step ST18.

コントローラ60は、目標までの経路を生成する(ステップST18)。コントローラ60は、ステップST19へ進む。 The controller 60 generates a route to the target (step ST18). The controller 60 proceeds to step ST19.

コントローラ60は、経路を追従するように制御する(ステップST19)。より詳しくは、コントローラ60は、経路を追従して走行するようにフォークリフト1を制御する。コントローラ60は、走行装置を制御する。本実施形態では、コントローラ60は、ステアリング制御弁24を介して、ステアリングシリンダ18を制御する。コントローラ60は、ステップST18へ進む。 The controller 60 performs control to follow the route (step ST19). More specifically, the controller 60 controls the forklift 1 to follow a route. Controller 60 controls the traveling device. In this embodiment, the controller 60 controls the steering cylinder 18 via the steering control valve 24. The controller 60 proceeds to step ST18.

コントローラ60は、車両と目標とが正対したか否かを判定する(ステップST20)。コントローラ60は、車両と目標とが正対したと判定する場合(ステップST20でYes)、処理を終了する。コントローラ60は、車両と目標とが正対したと判定しない場合(ステップST20でNo)、ステップST19の処理を再度実行する。 The controller 60 determines whether the vehicle and the target are directly facing each other (step ST20). When the controller 60 determines that the vehicle and the target are directly facing each other (Yes in step ST20), the process ends. When the controller 60 does not determine that the vehicle and the target are directly facing each other (No in step ST20), the controller 60 executes the process in step ST19 again.

<効果>
以上説明したように、本実施形態では、受信部64が受信した対象を識別する方向を特定する方向信号に基づいて、対象を識別する方向を決定する。本実施形態では、決定された方向を検出範囲に含む、3次元センサ51からの物体検出データに基づいて、探索範囲内に存在する物体から対象を識別する。本実施形態によれば、決定された方向の探索範囲内に限定して識別処理を行うことにより、処理負荷を軽減することができる。
<Effect>
As described above, in this embodiment, the direction for identifying the target is determined based on the direction signal for identifying the direction for identifying the target, which is received by the receiving unit 64. In this embodiment, a target is identified from objects existing within the search range based on object detection data from the three-dimensional sensor 51 whose detection range includes the determined direction. According to this embodiment, the processing load can be reduced by performing the identification process only within the search range in the determined direction.

本実施形態では、受信部64が受信した方向信号に基づいて、進行方向に対する右方又は左方のどちらの方向から対象を識別するかを決定することができる。本実施形態によれば、オペレータが荷役作業を所望する方向と異なる方向に存在する物体から対象が識別されることを避け、オペレータが荷役作業を所望する方向のみに存在する物体から対象を識別することができる。本実施形態によれば、オペレータが対象を選択する手間を削減することができる。 In this embodiment, based on the direction signal received by the receiving unit 64, it is possible to determine from which direction the object should be identified, the right or the left with respect to the direction of travel. According to the present embodiment, an object is prevented from being identified from objects existing in a direction different from the direction in which the operator desires cargo handling work, and a target is identified from objects existing only in the direction in which the operator desires cargo handling work. be able to. According to this embodiment, it is possible to reduce the effort required by the operator to select a target.

本実施形態では、決定された方向に存在する物体から対象を識別する。本実施形態によれば、決定された方向に存在する物体から対象を識別することにより、処理負荷を軽減することができる。 In this embodiment, a target is identified from objects existing in a determined direction. According to this embodiment, the processing load can be reduced by identifying a target from objects existing in a determined direction.

本実施形態では、操作部27からの操作信号に基づいて、右側探索範囲110Rと左側探索範囲110Lから1つの探索範囲を決定する。本実施形態では、決定した右側探索範囲110R又は左側探索範囲110L内に存在する物体から対象を識別する。本実施形態によれば、決定された方向の探索範囲内に限定して識別処理を行うことにより、処理負荷を軽減することができる。 In this embodiment, one search range is determined from the right search range 110R and the left search range 110L based on the operation signal from the operation unit 27. In this embodiment, a target is identified from objects existing within the determined right side search range 110R or left side search range 110L. According to this embodiment, the processing load can be reduced by performing the identification process only within the search range in the determined direction.

本実施形態では、受信部64は、操作部27から出力される方向信号を受信する。本実施形態によれば、オペレータによって操作された操作信号(オペレータ指令)を適切に受信することができる。 In this embodiment, the receiving section 64 receives the direction signal output from the operating section 27. According to this embodiment, an operation signal (operator command) operated by an operator can be appropriately received.

<変形例>
図12は、変形例に係る遠隔で操作されるフォークリフトの構成の一例を示す機能ブロック図である。上述の実施形態においては、表示装置26及び操作部27は、運転室20に配置されているものとして説明したが、これに限定されない。図12に示すように、表示装置26及び操作部27は、例えば、フォークリフト1から離れた、遠隔に位置する監視室等に配置された遠隔操作装置71及び遠隔表示装置72であってもよい。
<Modified example>
FIG. 12 is a functional block diagram showing an example of the configuration of a remotely operated forklift according to a modification. In the above-described embodiment, the display device 26 and the operation unit 27 have been described as being disposed in the driver's cab 20, but the present invention is not limited thereto. As shown in FIG. 12, the display device 26 and the operation unit 27 may be, for example, a remote control device 71 and a remote display device 72 that are disposed in a monitoring room or the like that is located remotely away from the forklift 1.

上述の実施形態においては、自動制御機能では、オペレータは、フォークリフト1のアクセル操作を行うこととしたが、これに限定されない。自動制御機能では、コントローラ60は、フォークリフト1の進行及び制動を制御してもよい。 In the above-described embodiment, the automatic control function requires the operator to operate the accelerator of the forklift 1, but the present invention is not limited to this. In the automatic control function, the controller 60 may control the advancement and braking of the forklift 1.

上述の実施形態においては、自動制御開始エリアまで、言い換えると、対象が識別されるまでは、フォークリフト1は、オペレータの操作によりマニュアルで移動するとしたが、これに限定されない。例えば、フォークリフト1は、自車位置を検出するために衛星測位システム(GNSS:Global Navigation Satellite System)等を備え、対象の位置情報を含む地図データと自車位置とを参照しながら目的の対象まで自動で走行してもよい。 In the above-described embodiment, the forklift 1 is manually moved by the operator's operation until it reaches the automatic control start area, in other words, until the target is identified, but the forklift 1 is not limited to this. For example, the forklift 1 is equipped with a global navigation satellite system (GNSS) or the like in order to detect its own vehicle position, and uses the map data that includes the target location information and the own vehicle position to refer to the vehicle's position and drive it to the target object. It may run automatically.

上述の実施形態においては、受信部64は、操作部27から対象を識別する方向を特定する操作信号を受信するとしたが、これに限定されない。コントローラ60は、例えば、対象の位置情報を含む地図データと、自車位置及び方位とに基づいて、対象を識別する方向を特定する方向信号を生成し、受信部64が当該方向信号を受信してもよい。 In the above-described embodiment, the reception unit 64 receives the operation signal specifying the direction in which the object is to be identified from the operation unit 27, but the present invention is not limited thereto. For example, the controller 60 generates a direction signal that specifies the direction for identifying the target based on map data including position information of the target and the own vehicle position and direction, and the receiving unit 64 receives the direction signal. You can.

1…フォークリフト(荷役車両)、10…車体、11…前輪、12…後輪、13…フォーク、14…マスト、15…リフトシリンダ、16…チルトシリンダ、17…サイドシフトシリンダ、18…ステアリングシリンダ、20…運転室、21…動力源、22…走行モータ、23…作業機制御弁、24…ステアリング制御弁、26…表示装置、27…操作部、31…ステアリングホイール、32…作業機レバー、33…前後進切替レバー、34…アクセルペダル、35…車速センサ、36…ステアリング角センサ、37…作業機負荷センサ(積荷検出センサ)、51…3次元センサ(物体検出センサ)、52…カメラ、60…コントローラ、61…センサデータ取得部、62…画像取得部、63…記憶部、64…受信部、65…決定部、66…識別部、67…探索部、69…表示制御部。 1... Forklift (cargo handling vehicle), 10... Vehicle body, 11... Front wheel, 12... Rear wheel, 13... Fork, 14... Mast, 15... Lift cylinder, 16... Tilt cylinder, 17... Side shift cylinder, 18... Steering cylinder, 20... Driver's cab, 21... Power source, 22... Travel motor, 23... Work equipment control valve, 24... Steering control valve, 26... Display device, 27... Operating unit, 31... Steering wheel, 32... Work equipment lever, 33 ... Forward/forward switching lever, 34... Accelerator pedal, 35... Vehicle speed sensor, 36... Steering angle sensor, 37... Work equipment load sensor (load detection sensor), 51... Three-dimensional sensor (object detection sensor), 52... Camera, 60 ...Controller, 61...Sensor data acquisition section, 62...Image acquisition section, 63...Storage section, 64...Receiving section, 65...Determination section, 66...Identification section, 67...Searching section, 69...Display control section.

Claims (6)

荷役車両に取り付けられ、前記荷役車両の周辺に存在する物体を検出する物体検出センサと、
コントローラと、
を備え、
前記コントローラは、
前記物体検出センサからの物体検出データに基づいて、対象を識別する識別部と、
前記対象を識別する方向を特定する方向信号を受信する受信部と、
前記受信部が受信した方向信号に基づいて、対象を識別する方向を決定する決定部と、
を備え、
前記識別部は、前記決定部によって決定された前記方向に存在する物体から前記対象を識別する、荷役車両。
an object detection sensor that is attached to a cargo handling vehicle and detects objects existing around the cargo handling vehicle;
controller and
Equipped with
The controller includes:
an identification unit that identifies a target based on object detection data from the object detection sensor;
a receiving unit that receives a direction signal that specifies a direction for identifying the target;
a determining unit that determines a direction for identifying a target based on a direction signal received by the receiving unit;
Equipped with
In the cargo handling vehicle, the identification unit identifies the object from objects existing in the direction determined by the determination unit.
前記対象を識別する方向は、前記荷役車両の進行方向に対する右方又は左方である、
請求項1に記載の荷役車両。
The direction in which the object is identified is to the right or to the left with respect to the traveling direction of the cargo handling vehicle,
The cargo handling vehicle according to claim 1.
前記コントローラは、
前記荷役車両の車体座標系を基準とした複数の探索範囲を記憶する記憶部を備え、
前記複数の探索範囲は、前記荷役車両の進行方向に対する右方に存在する物体を検出する右側探索範囲と、前記荷役車両の進行方向に対する左方に存在する物体を検出する左側探索範囲とを含み、
前記決定部は、前記方向信号に基づいて、前記複数の探索範囲からいずれか1つの探索範囲を決定し、
前記識別部は、前記物体検出データに基づいて、前記決定部が決定した探索範囲内に存在する物体から対象を識別する、
請求項1に記載の荷役車両。
The controller includes:
comprising a storage unit that stores a plurality of search ranges based on the vehicle body coordinate system of the cargo handling vehicle,
The plurality of search ranges include a right side search range for detecting an object existing on the right side with respect to the traveling direction of the cargo handling vehicle, and a left side search range for detecting an object existing on the left side with respect to the traveling direction of the cargo handling vehicle. ,
The determining unit determines any one search range from the plurality of search ranges based on the direction signal,
The identification unit identifies a target from objects existing within the search range determined by the determination unit based on the object detection data.
The cargo handling vehicle according to claim 1.
オペレータによって操作される操作部を備え、
前記受信部は、前記操作部から出力される前記方向信号を受信する
請求項1に記載の荷役車両。
Equipped with an operation section operated by an operator,
The cargo handling vehicle according to claim 1, wherein the receiving section receives the direction signal output from the operating section.
荷役車両に取り付けられ、前記荷役車両の周辺に存在する物体を検出する物体検出センサと、
コントローラと、
を備えた荷役車両の制御方法であって、
受信した方向信号に基づいて、対象を識別する方向を決定し、
前記物体検出センサからの物体検出データに基づいて、決定された前記方向に存在する物体から前記対象を識別する
荷役車両の制御方法。
an object detection sensor that is attached to a cargo handling vehicle and detects objects existing around the cargo handling vehicle;
controller and
A method for controlling a cargo handling vehicle, comprising:
determining a direction for identifying a target based on the received direction signal;
A method for controlling a cargo handling vehicle, wherein the target is identified from objects existing in the determined direction based on object detection data from the object detection sensor.
荷役車両に取り付けられ、前記荷役車両の周辺に存在する物体を検出する物体検出センサと、
コントローラと、
を備え、
前記コントローラは、
前記物体検出センサからの物体検出データに基づいて、対象を識別する識別部と、
前記対象を識別する方向を特定する方向信号を受信する受信部と、
前記受信部が受信した方向信号に基づいて、対象を識別する方向を決定する決定部と、
を備え、
前記識別部は、前記決定部によって決定された前記方向に存在する物体から前記対象を識別する、荷役車両の制御システム。
an object detection sensor that is attached to a cargo handling vehicle and detects objects existing around the cargo handling vehicle;
controller and
Equipped with
The controller includes:
an identification unit that identifies a target based on object detection data from the object detection sensor;
a receiving unit that receives a direction signal that specifies a direction for identifying the target;
a determining unit that determines a direction for identifying a target based on a direction signal received by the receiving unit;
Equipped with
The identification unit is a control system for a cargo handling vehicle that identifies the object from objects existing in the direction determined by the determination unit.
JP2022121928A 2022-07-29 2022-07-29 Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle Pending JP2024018536A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022121928A JP2024018536A (en) 2022-07-29 2022-07-29 Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022121928A JP2024018536A (en) 2022-07-29 2022-07-29 Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle

Publications (1)

Publication Number Publication Date
JP2024018536A true JP2024018536A (en) 2024-02-08

Family

ID=89807864

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022121928A Pending JP2024018536A (en) 2022-07-29 2022-07-29 Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle

Country Status (1)

Country Link
JP (1) JP2024018536A (en)

Similar Documents

Publication Publication Date Title
US9828223B2 (en) Fork-lift truck and method for operating a fork-lift truck
US8108090B2 (en) Straddle carrier with automatic steering
WO2016051526A1 (en) Traveling controlling method and system for unmanned transportation vehicle
JP6529595B2 (en) Control system for transport vehicle, transport vehicle, and control method for transport vehicle
JP2018116609A (en) Work vehicle
US20210333791A1 (en) Terminal, control system, control method, and program
JP7215394B2 (en) Operation support device for cargo handling vehicle
JP7426881B2 (en) Cargo handling support system
US11299376B2 (en) Method for the positionally accurate receiving and depositing of a container using a gantry stacker and gantry stacker for this purpose
JP2024018536A (en) Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle
JP7216582B2 (en) Vehicle cruise control system
CN112978632A (en) Operator vehicle with auxiliary centering device
JP2024018510A (en) Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle
JP2024033761A (en) System and method for controlling cargo handling vehicle and cargo handling vehicle
JP2024018535A (en) Cargo handling vehicle, control method of cargo handling vehicle, and control system of cargo handling vehicle
JP7453954B2 (en) automatic driving system
JP7135883B2 (en) Mobile body running system
JP2023154902A (en) Obstacle detection device and traveling control device
JP2024034407A (en) System and method to control cargo handling vehicle
JP2024033370A (en) System and method for controlling cargo handling vehicle
JP2024034406A (en) System and method to control cargo handling vehicle
JP2024033377A (en) System and method for controlling cargo handling vehicle
CN114859768A (en) System and method for remote operation of a work machine including an implement
EP4317049A1 (en) Industrial truck autonomous or assisted driving using marker detection
JP2023176620A (en) cargo handling vehicle