JP6909641B2 - 表示システム - Google Patents

表示システム Download PDF

Info

Publication number
JP6909641B2
JP6909641B2 JP2017108823A JP2017108823A JP6909641B2 JP 6909641 B2 JP6909641 B2 JP 6909641B2 JP 2017108823 A JP2017108823 A JP 2017108823A JP 2017108823 A JP2017108823 A JP 2017108823A JP 6909641 B2 JP6909641 B2 JP 6909641B2
Authority
JP
Japan
Prior art keywords
image
display screen
swivel
display
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017108823A
Other languages
English (en)
Other versions
JP2018207244A (ja
Inventor
一尋 畠
一尋 畠
幸紀 松村
幸紀 松村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2017108823A priority Critical patent/JP6909641B2/ja
Priority to US16/487,466 priority patent/US11447928B2/en
Priority to PCT/JP2018/006777 priority patent/WO2018220914A1/ja
Priority to AU2018275936A priority patent/AU2018275936B2/en
Priority to CA3054631A priority patent/CA3054631A1/en
Publication of JP2018207244A publication Critical patent/JP2018207244A/ja
Application granted granted Critical
Publication of JP6909641B2 publication Critical patent/JP6909641B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0038Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by providing the operator with simple or augmented images from one or more cameras located onboard the vehicle, e.g. tele-operation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/24Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view in front of the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/25Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the sides of the vehicle
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2004Control mechanisms, e.g. control levers
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/205Remotely operated machines, e.g. unmanned vehicles
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M11/00Telephonic communication systems specially adapted for combination with other electrical systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q9/00Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/207Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using multi-purpose displays, e.g. camera image and navigation or video on same display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/30Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom
    • E02F3/32Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom working downwardly and towards the machine, e.g. with backhoes

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Mechanical Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Selective Calling Equipment (AREA)
  • Telephonic Communication Services (AREA)
  • Operation Control Of Excavators (AREA)

Description

本発明は、表示システに関する。
特許文献1に開示されているように、作業機械を遠隔操作する技術が知られている。作業機械を遠隔操作する場合、作業機械に搭載されているカメラによって作業現場が撮影される。カメラで撮影された作業現場の画像は、遠隔操作施設に設けられている表示装置に表示される。操作者は、表示装置に表示される作業現場の画像を見ながら、遠隔操作装置を操作する。
特開2013−168776号公報
油圧ショベルのような旋回体及び旋回体に支持される作業機を有する作業機械で掘削作業及び積込作業を実施する場合、一般に、旋回体の前方向に掘削対象が位置付けられ、旋回体の横方向にダンプトラックのような運搬車両が位置付けられる。作業機械は、旋回体の前方向に存在する掘削対象を作業機で掘削した後、旋回体を実質的に90度旋回させて、運搬車両に掘削物を積み込む。このような作業機械の動作は、90度旋回掘削積込作業と称される。遠隔操作により90度旋回掘削積込作業を実施する場合において、旋回体の前方向に掘削対象が位置付けられているときに運搬車両の画像が表示装置に表示されず、旋回体の旋回の開始後に運搬車両の画像が表示装置に急に現れると、操作者は、違和感を抱く可能性がある。また、旋回体の前方向に掘削対象が位置付けられているときに運搬車両の画像が表示装置に表示されないと、旋回体の旋回における目標停止位置である運搬車両の位置を認識しないまま旋回動作を開始することとなり、操作者は、旋回体を旋回させることに不安感を抱く可能性がある。操作者が違和感又は不安感を抱くと、旋回体を低速で旋回させるように遠隔操作装置が操作される可能性が高くなる。旋回体の旋回が低速になると、作業効率の低下がもたらされる。
本発明の態様は、操作者が作業機械を快適に遠隔操作することができ、作業効率の低下を抑制することができる技術を提供することを目的とする。
本発明の態様に従えば、旋回軸を中心に旋回する旋回体及び前記旋回体に支持される作業機を有する作業機械に搭載された撮像装置で撮影された、前記旋回軸に対して前方向の画像を少なくとも含むフロント画像と、前記前方向と直交し前記旋回軸に対して横方向の画像を少なくとも含むサイド画像とを前記撮像装置から取得する画像データ取得部と、前記画像データ取得部で取得された前記フロント画像及び前記サイド画像を、前記作業機械の外部に存在する表示装置に表示させる表示制御部と、を備える表示システムが提供される。
本発明の態様によれば、操作者が作業機械を快適に遠隔操作することができ、作業効率の低下を抑制することができる技術が提供される。
図1は、第1実施形態に係る作業機械の遠隔操作システムの一例を模式的に示す図である。 図2は、第1実施形態に係る作業機械の一例を模式的に示す斜視図である。 図3は、第1実施形態に係るカメラの一例を示す斜視図である。 図4は、第1実施形態に係るカメラの撮影領域を説明するための模式図である。 図5は、第1実施形態に係る遠隔操作施設に設けられている遠隔操作室の一例を模式的に示す図である。 図6は、第1実施形態に係る表示システムの一例を示す機能ブロック図である。 図7は、第1実施形態に係る表示システムによる表示方法の一例を示すフローチャートである。 図8は、第1実施形態に係る作業機械の動作の一例を説明するための模式図である。 図9は、第1実施形態に係る表示システムの評価試験の結果を示す図である。 図10は、第2実施形態に係るカメラの撮影領域を説明するための模式図である。
以下、本発明に係る実施形態について図面を参照しながら説明するが、本発明はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
第1実施形態.
[遠隔操作システム]
図1は、本実施形態に係る作業機械1の遠隔操作システム100の一例を模式的に示す図である。本実施形態においては、作業機械1が油圧ショベルであることとする。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
油圧ショベル1は、走行体2と、走行体2に旋回可能に支持される旋回体3と、旋回体3に支持される作業機4とを有する。油圧ショベル1は、作業現場に存在し、作業現場で作業する。
遠隔操作システム100は、油圧ショベル1の外部に存在する遠隔操作施設に設けられる遠隔操作装置40を有する。油圧ショベル1は、遠隔操作装置40によって遠隔操作される。
遠隔操作システム100は、作業現場に存在する対象の画像を遠隔操作施設において表示させる表示システム200を有する。表示システム200は、油圧ショベル1の外部に存在する表示装置50と、油圧ショベル1の外部に存在し、油圧ショベル1と通信可能な制御装置60とを備える。遠隔操作装置40、表示装置50、及び制御装置60のそれぞれは、遠隔操作施設に配置される。遠隔操作装置40、表示装置50、及び制御装置60のそれぞれは、油圧ショベル1とは別体で設けられる。
また、表示システム200は、油圧ショベル1に搭載され、作業現場に存在する対象を撮影する撮像装置30を備える。撮像装置30は、旋回体3に搭載される。撮像装置30によって撮影される対象は、作業現場において施工される施工対象を含む。施工対象は、油圧ショベル1の作業機4で掘削される掘削対象を含む。なお、施工対象は、油圧ショベル1とは別の作業機械によって施工される施工対象でもよいし、作業者によって施工される施工対象でもよい。また、施工対象は、施工前の施工対象、施工中の施工対象、及び施工後の施工対象を含む概念である。
また、撮像装置30によって撮影される対象は、油圧ショベル1の少なくとも一部を含む。撮像装置30によって撮影される対象である油圧ショベル1は、作業機4の少なくとも一部を含む。撮像装置30によって撮影される対象である作業機4は、掘削動作している状態の作業機4でもよいし、掘削動作していない状態の作業機4でもよい。また、撮像装置30によって撮影される対象である油圧ショベル1は、走行体2の少なくとも一部でもよい。
また、撮像装置30によって撮影される対象は、遠隔操作される油圧ショベル1の周囲に配置される作業機械を含む。撮像装置30によって撮影される対象である作業機械は、運搬車両であるダンプトラックを含む。なお、撮像装置30によって撮影される対象である作業機械は、遠隔操作される油圧ショベル1とは別の油圧ショベルでもよい。
油圧ショベル1は、制御装置300を搭載する。制御装置300と制御装置60とは、通信システム400を介して通信する。通信システム400は、油圧ショベル1に搭載される無線通信機401を有する。通信システム400は、インターネット(internet)、ローカルエリアネットワーク(LAN:Local Area Network)、携帯電話通信網、及び衛星通信網の少なくとも一つを含む。
遠隔操作装置40は、油圧ショベル1の作業機4及び旋回体3を遠隔操作する作業レバーと、走行体2を遠隔操作する走行レバーとを含む。操作者は、遠隔操作施設において遠隔操作装置40を操作する。遠隔操作装置40が操作されることにより生成された操作信号は、通信システム400を介して制御装置300に送信される。制御装置300は、コンピュータシステムを含む。制御装置300は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置と、RAM(Random Access Memory)のような揮発性メモリ及びROM(Read Only Memory)のような不揮発性メモリを含む記憶装置と、入出力インターフェースとを有する。制御装置300は、操作信号に基づいて、作業機4、旋回体3、及び走行体2を制御する制御信号を出力する。これにより、油圧ショベル1は遠隔操作される。
表示装置50は、撮像装置30で撮影された作業現場に存在する対象を表示する。図5を参照して後述するように、表示装置50は、互いに隣接する複数の表示画面(フロント表示画面51S、第1サイド表示画面52S、第2サイド表示画面53S、アップサイド表示画面54S、ローサイド表示画面55S)を有する。遠隔操作施設に存在する操作者が油圧ショベル1の運転席に実際に搭乗している感覚を得られるように、表示装置50の複数の表示画面は、遠隔操作施設に設けられている操縦シート45に着座した操作者を囲むように配置される。複数の表示画面のそれぞれには、油圧ショベル1の運転席に実際に搭乗したときの操作者の視界に相当する画像が表示される。フロント表示画面51Sには、油圧ショベル1の運転席に実際に搭乗したときの操作者の前方向の視界に相当するフロント画像が表示される。第1サイド表示画面52Sには、油圧ショベル1の運転席に実際に搭乗したときの操作者の左方向の視界に相当する第1サイド画像が表示される。第2サイド表示画面53Sには、油圧ショベル1の運転席に実際に搭乗したときの操作者の右方向の視界に相当する第2サイド画像が表示される。アップサイド表示画面54Sには、油圧ショベル1の運転席に実際に搭乗したときの操作者の前方向の斜め上方向の視界に相当するアップサイド画像が表示される。ローサイド表示画面55Sには、油圧ショベル1の運転席に実際に搭乗したときの操作者の前方向の斜め下方向の視界に相当するローサイド画像が表示される。操作者の前方向の視界、左方向の視界、右方向の視界、前方向の斜め上方向の視界、及び前方向の斜め下方向の視界のそれぞれに相当する画像が表示装置50に表示されることにより、遠隔操作施設に存在する操作者は、油圧ショベル1の運転席に実際に搭乗している感覚を得ることができる。これにより、遠隔操作の操作性が向上する。
[油圧ショベル]
図2は、本実施形態に係る油圧ショベル1の一例を模式的に示す斜視図である。以下の説明においては、3次元の車体座標系(Xm,Ym,Zm)を規定して、各部の位置関係について説明する。車体座標系は、油圧ショベル1の旋回体3に規定された原点を基準とする所定面のXm軸と、所定面においてXm軸と直交するYm軸と、所定面と直交するZm軸とによって規定される。Xm軸と平行な方向をXm軸方向とし、Ym軸と平行な方向をYm軸方向とし、Zm軸方向と平行な方向をZm軸方向とする。Xm軸方向は旋回体3の前後方向であり、Ym軸方向は旋回体3の左右方向(横方向)であり、Zm軸方向は旋回体3の上下方向である。
油圧ショベル1は、走行体2と、走行体2に旋回可能に支持される旋回体3と、旋回体3に支持される作業機4とを有する。
走行体2は、履帯2A,2Bを有する。履帯2A,2Bが回転することにより、油圧ショベル1が走行する。車体座標系のZm軸は、履帯2A,2Bの接地面と直交する。車体座標系の+Zm方向は、旋回体3の上方向であり、履帯2A,2Bの接地面から離れる方向である。車体座標系の−Zm方向は、旋回体3の下方向であり、+Zm方向とは反対の方向である。
旋回体3は、旋回軸Zrを中心に旋回可能である。旋回軸Zrは、車体座標系のZm軸と平行である。車体座標系の原点は、旋回体3のスイングサークルの中心に規定される。スイングサークルの中心は、旋回体3の旋回軸Zrに位置する。
作業機4は、旋回体3に連結される。車体座標系において、作業機4の少なくとも一部は、旋回体3よりも+Xm方向に配置される。車体座標系の+Xm方向は、旋回体3の前方向であり、旋回体3を基準として作業機4の先端部が存在する方向である。作業機4の先端部は、バケット8を含む。車体座標系の−Xm方向は、旋回体3の後方向であり、+Xm方向とは反対の方向である。
作業機4は、旋回体3に連結されるブーム6と、ブーム6に連結されるアーム7と、アーム7に連結されるバケット8と、ブーム6を駆動するブームシリンダ10と、アーム7を駆動するアームシリンダ11と、バケット8を駆動するバケットシリンダ12とを有する。ブームシリンダ10、アームシリンダ11、及びバケットシリンダ12はそれぞれ、油圧によって駆動される油圧シリンダである。
ブーム6は、回転軸AX1を中心に旋回体3に回転可能に連結される。アーム7は、回転軸AX2を中心にブーム6の先端部に回転可能に連結される。バケット8は、回転軸AX3を中心にアーム7の先端部に回転可能に連結される。ブーム6の回転軸AX1、アーム7の回転軸AX2、及びバケット8の回転軸AX3は、車体座標系のYm軸と平行である。車体座標系の+Ym方向は、旋回体3の第1横方向であり、旋回体3の左方向である。車体座標系の−Ym方向は、旋回体3の第2横方向であり、+Ym方向とは反対の方向であり、旋回体3の右方向である。
[カメラ]
図3は、本実施形態に係る撮像装置30の一例を示す斜視図である。図3に示すように、油圧ショベル1は、撮像装置30を有する。撮像装置30は、旋回体3の前部に設けられる。
撮像装置30は、光学系と、光学系を通過した光を受光するイメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。
撮像装置30は、作業現場の対象の画像を取得する。本実施形態において、撮像装置30は、作業現場に存在する対象の映像を取得する。
撮像装置30は、旋回体3の前方向(+Xm方向)のフロント画像と、旋回体3の旋回軸Zrと直交する所定面において+Xm方向と直交する旋回体3の横方向(Ym軸方向)のサイド画像とを同時に撮影する。横方向(Ym軸方向)は、一方の第1横方向(+Ym方向)と、第1横方向とは反対方向の第2横方向(−Ym方向)とを含む。サイド画像は、旋回体3の第1横方向の第1サイド画像と、旋回体3の第2横方向の第2サイド画像とを含む。撮像装置30は、フロント画像、第1サイド画像、及び第2サイド画像を同時に撮影する。
本実施形態において、撮像装置30は、旋回体3の前方向を撮影するフロントカメラ31と、旋回体3の横方向を撮影するサイドカメラ323とを含む。サイドカメラ323は、旋回体3の第1横方向を撮影する第1サイドカメラ32と、旋回体3の第2横方向を撮影する第2サイドカメラ33とを含む。
また、本実施形態において、撮像装置30は、旋回体3の前方向の斜め上方向を撮影するアップサイドカメラ34と、旋回体3の前方の斜め下方向を撮影するローサイドカメラ35とを含む。
フロントカメラ31と、第1サイドカメラ32と、第2サイドカメラ33と、アップサイドカメラ34と、ローサイドカメラ35とは、作業現場に存在する対象を同時に撮影する。すなわち、フロントカメラ31による旋回体3の前方向の撮影と、第1サイドカメラ32による旋回体3の左方向の撮影と、第2サイドカメラ33による旋回体3の右方向の撮影と、アップサイドカメラ34による旋回体3の前方向の斜め上方向の撮影と、ローサイドカメラ35による前回体3の前方向の斜め下方向の撮影とは、同時に行われる。
フロントカメラ31は、旋回体3の前部且つ上部に設けられる。フロントカメラ31によって撮影されるフロント画像は、作業機4の先端部を含む旋回体3の前方向のフロント空間FSの画像である。
第1サイドカメラ32は、旋回体3の前部且つ上部に設けられる。第1サイドカメラ32は、フロントカメラ31よりも左側(+Ym側)に設けられる。第1サイドカメラ32は、フロントカメラ31と間隔をあけて配置される。Zm軸方向において、フロントカメラ31と第1サイドカメラ32とは、実質的に同一の位置に配置される。第1サイドカメラ32によって撮影される第1サイド画像は、作業機4を含まない旋回体3の左方向の第1サイド空間SS1の画像である。
第2サイドカメラ33は、旋回体3の前部且つ上部に設けられる。第2サイドカメラ33は、フロントカメラ31よりも右側(−Ym側)に設けられる。第2サイドカメラ33は、フロントカメラ31と間隔をあけて配置される。Zm軸方向において、フロントカメラ31と第2サイドカメラ33とは、実質的に同一の位置に配置される。第2サイドカメラ33によって撮影される第2サイド画像は、作業機4の基端部を含む旋回体3の右方向の第2サイド空間SS2の画像である。作業機4の基端部は、ブーム6を含む。
アップサイドカメラ34は、旋回体3の前部且つ上部に設けられる。アップサイドカメラ34によって撮影されるアップサイド画像は、作業機4の少なくとも一部を含む旋回体3の前方向の斜め上方向のアップサイド空間の画像である。
ローサイドカメラ35は、旋回体3の前部且つ上部に設けられる。ローサイドカメラ35によって撮影されるローサイド画像は、走行体2の少なくとも一部を含む旋回体3の前方向の斜め下方向のローサイド空間の画像である。
[カメラの撮影領域]
図4は、本実施形態に係る撮像装置30の撮影領域を説明するための模式図である。図4は、油圧ショベル1を上方向から見た模式図であり、フロントカメラ31、第1サイドカメラ32、及び第2サイドカメラ33のそれぞれの撮影領域を示す。なお、図4は、便宜上、フロントカメラ31、第1サイドカメラ32、及び第2サイドカメラ33が同一位置に設けられている状態を模式的に示す。
図4に示すように、フロントカメラ31は、作業機4の先端部を含む旋回体3の前方向(+Xm方向)のフロント空間FSの画像であるフロント画像を撮影する。フロントカメラ31の光学系の光軸D1は、Xm軸と実質的に平行である。
第1サイドカメラ32は、作業機4を含まない旋回体3の第1横方向(+Ym方向)の第1サイド空間SS1の画像である第1サイド画像を撮影する。第1サイドカメラ32の光学系の光軸D2は、Ym軸と実質的に平行である。
第2サイドカメラ33は、作業機4の基端部を含む旋回体3の第2横方向(−Ym方向)の第2サイド空間SS2の画像である第2サイド画像を撮影する。第2サイドカメラ33の光学系の光軸D3は、Ym軸と実質的に平行である。
フロント画像は、旋回体3の旋回軸Zrに対して前方向(+Xm方向)の局所フロント空間FSLの画像を少なくとも含む。局所フロント空間FSLは、旋回軸Zrを含み、旋回軸Zrから+Xm方向に延在する空間である。フロントカメラ31の光学系の撮影領域(視野領域)に少なくとも局所フロント空間FSLが配置されるように、旋回体3に対するフロントカメラ31の設置状態及びフロントカメラ31の光学系の視野角θ1が規定される。
サイド画像は、前方向(+Xm方向)と直交し、旋回体3の旋回軸Zrに対して横方向(Ym軸方向)の局所サイド空間の画像を少なくとも含む。
サイド画像のうち、第1横方向(+Ym方向)の第1サイド画像は、前方向(+Xm方向)と直交し、旋回体3の旋回軸Zrに対して第1横方向(+Ym方向)の第1局所サイド空間SS1Lの画像を少なくとも含む。第1局所サイド空間SS1Lは、旋回軸Zrを含み、旋回軸Zrから+Ym方向に延在する空間である。第1サイドカメラ32の光学系の撮影領域(視野領域)に少なくとも第1局所サイド空間SS1Lが配置されるように、旋回体3に対する第1サイドカメラ32の設置状態及び第1サイドカメラ32の光学系の視野角θ2が規定される。
サイド画像のうち、第2横方向(−Ym方向)の第2サイド画像は、前方向(+Xm方向)と直交し、旋回体3の旋回軸Zrに対して第2横方向(−Ym方向)の第2局所サイド空間SS2Lの画像を少なくとも含む。第2局所サイド空間SS2Lは、旋回軸Zrを含み、旋回軸Zrから−Ym方向に延在する空間である。第2サイドカメラ33の光学系の撮影領域(視野領域)に少なくとも第2局所サイド空間SS2Lが配置されるように、旋回体3に対する第2サイドカメラ33の設置状態及び第2サイドカメラ33の光学系の視野角θ3が規定される。
なお、視野角とは、撮像装置30で撮影される対象の範囲を角度で示したものであって、イメージセンサに写る範囲を角度で表わしたものをいう。視野角は、画角(angle of view)とも呼ばれる。視野角は、旋回体3の旋回軸Zrと直交する所定面内における画角(水平画角)を含む。視野角が大きいと写る範囲が広くなり、視野角が小さいと写る範囲が狭くなる。また、撮像装置30の光学系の焦点距離が変化すると視野角が変化する。焦点距離が短い光学系ほど視野角は大きくなり、焦点距離が長い光学系ほど視野角は小さくなる。本実施形態において、撮像装置30の光学系の焦点距離は固定されている。すなわち、本実施形態において、撮像装置30の光学系は、固定焦点レンズであり、撮像装置30は、固定焦点カメラである。
図5を参照して後述するように、表示装置50は、互いに隣接する複数の表示画面(フロント表示画面51S、第1サイド表示画面52S、第2サイド表示画面53S、アップサイド表示画面54S、ローサイド表示画面55S)を有する。遠隔操作施設に存在する操作者が油圧ショベル1の運転席に実際に搭乗している感覚を得られるように、フロント表示画面51Sには、旋回体3の前方向のフロント画像が表示され、第1サイド表示画面52Sには、旋回体3の第1横方向(左方向)の第1サイド画像が表示され、第2サイド表示画面53Sには、旋回体3の第2横方向(右方向)の第2サイド画像が表示される。フロント画像が少なくとも局所フロント空間FSLの画像を含み、第1サイド画像が少なくとも第1局所サイド空間SS1Lの画像を含み、第2サイド画像が少なくとも第2局所サイド空間SS2Lの画像を含むことにより、表示システム200は、遠隔操作施設に存在する操作者に、油圧ショベル1の運転席に実際に搭乗している感覚を与えることができる。
また、第1サイド画像が少なくとも第1局所サイド空間SS1Lの画像を含むことにより、遠隔操作の操作性が向上する。油圧ショベル1の運転席に実際に操作者が搭乗する場合、操作者は、頭の向きを変えるだけで、第1局所サイド空間SS1Lを視認することができる。一方、遠隔操作施設に操作者が存在する場合、操作者は、第1局所サイド空間SS1Lの画像が表示装置50に表示されていないと、たとえ頭の向きを変えたとしても、第1局所サイド空間SS1Lを視認することはできない。本実施形態においては、第1局所サイド空間SS1Lの画像を少なくとも含む第1サイド画像が表示装置50に表示される。そのため、操作者は、表示装置50を見ることにより、第1局所サイド空間SS1Lを視認することができる。第2局所サイド空間SS2Lについても同様である。
本実施形態において、旋回体3の旋回軸Zrと直交する所定面内において、フロントカメラ31の光学系の光軸D1と、第1サイドカメラ32の光学系の光軸D2とは直交する。旋回体3の旋回軸Zrと直交する所定面内において、フロントカメラ31の光学系の光軸D1と、第2サイドカメラ33の光学系の光軸D3とは直交する。
フロントカメラ31の光学系、第1サイドカメラ32の光学系、及び第2サイドカメラ33の光学系のそれぞれは、広角レンズを含む。フロントカメラ31の光学系の視野角θ1、第1サイドカメラ32の光学系の視野角θ2、及び第2サイドカメラ33の光学系の視野角θ3のそれぞれは、70度以上100度以下である。
本実施形態において、フロントカメラ31の光学系の視野角θ1は、90度である。第1サイドカメラ32の光学系の視野角θ2は、90度である。第2サイドカメラ33の光学系の視野角θ3は、90度である。
フロントカメラ31は、フロント空間FSに存在する対象のうち、視野角θ1に基づいて規定される撮影領域に配置される対象の画像を示すフロント画像を撮影する。
第1サイドカメラ32は、第1サイド空間SS1に存在する対象のうち、視野角θ2に基づいて規定される撮影領域に配置される対象の画像を示す第1サイド画像を撮影する。
第2サイドカメラ33は、第2サイド空間SS2に存在する対象のうち、視野角θ3に基づいて規定される撮影領域に配置される対象の画像を示す第2サイド画像を撮影する。
[遠隔操作施設]
図5は、本実施形態に係る遠隔操作施設に設けられている遠隔操作室の一例を模式的に示す図である。図5に示すように、遠隔操作システム100は、油圧ショベル1を遠隔操作する遠隔操作装置40と、表示装置50とを備える。遠隔操作装置40及び表示装置50は、遠隔操作室に配置される。
遠隔操作装置40は、操縦シート45に着座した操作者によって操作される。操作者は、表示装置50の表示画面と正対するように操縦シート45に着座する。操作者は、表示装置50の表示画面を見ながら、遠隔操作装置40を操作する。
遠隔操作装置40が操作されることにより生成された操作信号は、制御装置60及び通信システム400を介して油圧ショベル1の制御装置300に送信される。制御装置300は、通信システム400を介して取得した操作信号に基づいて、油圧ショベル1を作動する。油圧ショベル1の作動は、走行体2の作動、旋回体3の作動、及び作業機4の作動の少なくとも一つを含む。
走行体2の作動は、履帯2Aの前進動作及び後進動作の少なくとも一方を含む。また、走行体2の作動は、履帯2Bの前進動作及び後進動作の少なくとも一方を含む。
旋回体3の作動は、旋回体3の左旋回及び右旋回の少なくとも一方を含む。
作業機4の作動は、ブーム6の上げ動作及び下げ動作の少なくとも一方を含む。また、作業機4の作動は、アーム7のダンプ動作及び掘削動作の少なくとも一方を含む。また、作業機4の作動は、バケット8の掘削動作及びダンプ動作の少なくとも一方を含む。
遠隔操作装置40は、旋回体3及び作業機4の作動のために操作される左作業レバー41及び右作業レバー42と、走行体2の作動のために操作される左走行レバー43及び右走行レバー44とを含む。
左作業レバー41は、操縦シート45の左方に配置される。右作業レバー42は、操縦シート42の右方に配置される。左作業レバー41が前後方向に操作されることにより、アーム7がダンプ動作又は掘削動作する。左作業レバー41が左右方向に操作されることにより、旋回体3が左旋回又は右旋回する。右作業レバー42が左右方向に操作されることにより、バケット8が掘削動作又はダンプ動作する。右作業レバー42が前後方向に操作されることにより、ブーム6が下げ動作又は上げ動作する。なお、左操作レバー41が前後方向に操作されたときに旋回体3が右旋回又は左旋回し、左操作レバー41が左右方向に操作されたときにアーム7がダンプ動作又は掘削動作してもよい。
左走行レバー43及び右走行レバー44は、操縦シート45の前方に配置される。左走行レバー43は、右走行レバー44の左方に配置される。左走行レバー43が前後方向に操作されることにより、走行体2の履帯2Aが前進動作又は後進動作する。右走行レバー44が前後方向に操作されることにより、走行体2の履帯2Bが前進動作又は後進動作する。
表示装置50は、撮像装置30で撮影された作業現場に存在する対象の画像を表示する。複数の撮像装置30で同時に撮影された画像を示す画像データは、制御装置300及び通信システム400を介して遠隔操作システム100の制御装置60に同時に送信される。制御装置60は、通信システム400を介して取得した複数の画像データを表示装置50に同時に表示させる。上述のように、撮像装置30で撮影される画像は、映像を含む。制御装置60は、複数の撮像装置30で同時に撮影された作業現場の対象の映像を表示装置50に同時に表示させる。
表示装置50は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。本実施形態において、表示装置50は、組み合わされた複数のフラットパネルディスプレイを含む。複数のフラットパネルディスプレイのそれぞれは、撮像装置30で撮影された作業現場に存在する対象の映像を表示する表示画面を有する。本実施形態において、表示装置50は、隣接して配置された5つのフラットパネルディスプレイを含む。表示装置50は、中央フラットパネルディスプレイ51と、中央フラットパネルディスプレイ51の左側に配置される左フラットパネルディスプレイ52と、中央フラットパネルディスプレイ51の右側に配置される右フラットパネルディスプレイ53と、中央フラットパネルディスプレイ51の上側に配置される上フラットパネルディスプレイ54と、中央フラットパネルディスプレイ51の下側に配置される下フラットパネルディスプレイ55とを含む。
本実施形態において、フロントカメラ31で撮影されたフロント画像が中央フラットパネルディスプレイ51の表示画面51Sに表示される。第1サイドカメラ32で撮影された第1サイド画像が左フラットパネルディスプレイ52の表示画面52Sに表示される。第2サイドカメラ33で撮影された第2サイド画像が右フラットパネルディスプレイ53の表示画面53Sに表示される。アップサイドカメラ34で撮影されたアップサイド画像が上フラットパネルディスプレイ54の表示画面54Sに表示される。ローサイドカメラ35で撮影されたローサイド画像が下フラットパネルディスプレイ55の表示画面55Sに表示される。
以下の説明においては、フロントカメラ31で撮影されたフロント画像が表示される中央フラットパネルディスプレイ51の表示画面51Sを適宜、フロント表示画面51S、と称し、第1サイドカメラ32で撮影された第1サイド画像が表示される左フラットパネルディスプレイ52の表示画面52Sを適宜、第1サイド表示画面52S、と称し、第2サイドカメラ33で撮影された第2サイド画像が表示される右フラットパネルディスプレイ53の表示画面53Sを適宜、第2サイド表示画面53S、と称する。
また、以下の説明においては、アップサイドカメラ34で撮影されたアップサイド画像が表示される上フラットパネルディスプレイ54の表示画面54Sを適宜、アップサイド表示画面54S、と称し、ローサイドカメラ35で撮影されたローサイド画像が表示される下フラットパネルディスプレイ55の表示画面55Sを適宜、ローサイド表示画面55S、と称する。
また、第1サイド画像が表示される第1サイド表示画面52S及び第2サイド画像が表示される第2サイド表示画面53Sを適宜、サイドカメラ323で撮影されたサイド画像が表示されるサイド表示画面523S、と総称する。サイド表示画面523Sは、フロント表示画面51Sの右側の一端部及び左側の他端部のそれぞれに並んで設けられている。
図5に示すように、第1サイド表示画面52Sは、フロント表示画面51Sの左側の一端部に隣接する。第2サイド表示画面53Sは、フロント表示画面51Sの右側の他端部に並んで設けられている。
図5に示すように、アップサイド表示画面54Sは、フロント表示画面51Sの上側の一端部に隣接する。ローサイド表示画面55Sは、フロント表示画面51Sの下側の他端部に並んで設けられている。
フロント表示画面51Sと第1サイド表示画面52Sとがなす角度は、90度よりも大きく180度よりも小さい。すなわち、第1サイド表示画面52Sは、操縦シート45に着座した操作者に向けられている。同様に、フロント表示画面51Sと第2サイド表示画面53Sとがなす角度は、90度よりも大きく180度よりも小さく、第2サイド表示画面53Sは、操縦シート45に着座した操作者に向けられている。
また、フロント表示画面51Sとアップサイド表示画面54Sとがなす角度は、90度よりも大きく180度よりも小さい。すなわち、アップサイド表示画面54Sは、操縦シート45に着座した操作者に向けられている。同様に、フロント表示画面51Sとローサイド表示画面55Sとがなす角度は、90度よりも大きく180度よりも小さく、ローサイド表示画面55Sは、操縦シート45に着座した操作者に向けられている。
このように、表示装置50のフロント表示画面51S、第1サイド表示画面52S、第2サイド表示画面53S、アップサイド表示画面54S、及びローサイド表示画面55Sが、遠隔操作施設において操作者が着座する操縦シート45を囲むように配置される。そのため、遠隔操作施設に存在する操作者は、表示装置50に表示される画像を見て、油圧ショベル1の運転席に実際に搭乗している感覚を得ることができる。
また、フロント表示画面51Sに表示されるフロント画像は、油圧ショベル1の運転席に実際に搭乗したときの操作者の前方向の視界に相当する。第1サイド表示画面51Sに表示される第1サイド画像は、油圧ショベル1の運転席に実際に搭乗したときの操作者の左方向の視界に相当する。第2サイド表示画面52Sに表示される第2サイド画像は、油圧ショベル1の運転席に実際に搭乗したときの操作者の右方向の視界に相当する。アップサイド表示画面54Sに表示されるアップサイド画像は、油圧ショベル1の運転席に実際に搭乗したときの操作者の前方向の斜め上方向の視界に相当する。ローサイド表示画面55Sに表示されるローサイド画像は、油圧ショベル1の運転席に実際に搭乗したときの操作者の前方向の斜め下方向の視界に相当する。操作者の前方向の視界、左方向の視界、右方向の視界、前方向の斜め上方向の視界、及び前方向の斜め下方向の視界のそれぞれに相当する画像が表示装置50に表示されることにより、遠隔操作施設に存在する操作者は、油圧ショベル1の運転席に実際に搭乗している感覚を得ることができる。これにより、遠隔操作の操作性が向上する。
図5に示すように、フロント表示画面51Sに表示されるフロント画像は、作業機4のアーム7及び掘削対象を掘削する作業機4のバケット8を含む。操作者は、フロント表示画面51Sに表示されるフロント画像を見ることによって、バケット8による掘削状況、及びアーム7の作動状況を認識することができる。
また、図5に示すように、旋回体3の前方向に掘削対象500が位置付けられ、フロント画像として掘削対象500及びバケット8がフロント表示画面51Sに表示されている状態で、第1サイド表示画面52Sには、第1サイド画像として、作業機4により掘削された掘削物が積み込まれる運搬車両であるダンプトラック70が表示される。操作者は、第1サイド表示画面52Sに表示される第1サイド画像を見ることによって、作業機4による掘削動作を実施しながら、ダンプトラック70の存在を認識することができる。また、操作者は、フロント表示画面51Sに掘削対象500が表示されている状態で掘削動作が終了した後、旋回体3を左旋回させる前に、第1サイド表示画面52Sを見て、ダンプトラック70の存在を認識することができる。
90度旋回掘削積込作業においては、掘削対象500が局所フロント空間FSLに位置付けられた状態で、ダンプトラック70が第1局所サイド空間SS1Lに位置付けられる場合が多い。図5に示すように、第1サイド表示画面52Sに表示される第1サイド画像は、旋回軸Zrに対して第1横方向(+Ym方向)の第1局所サイド空間SS1Lの画像を少なくとも含む。そのため、操作者は、第1サイド表示画面52Sに表示される第1サイド画像を見ることによって、作業機4による掘削動作を実施しながら、第1局所サイド空間SS1Lに位置付けられているダンプトラック70の存在を認識することができる。
また、図5に示すように、第2サイド表示画面53Sに表示される第2サイド画像は、作業機4のブーム6を含む。操作者は、第2サイド表示画面53Sに表示される第2サイド画像を見ることによって、ブーム6の作動状況を認識することができる。また、操作者は、フロント表示画面51Sに表示されるフロント画像及び第2サイド表示画面53Sに表示される第2サイド画像を見ることによって、バケット8とアーム7とブーム6との相対位置を認識することができる。
また、旋回体3の前方向にダンプトラック70が位置付けられ、フロント画像としてダンプトラック70がフロント表示画面51Sに表示されている状態で、第2サイド表示画面53Sには、第2サイド画像として、掘削対象500が表示される。操作者は、第2サイド表示画面53Sに表示される第2サイド画像を見ることによって、作業機4による積込動作を実施しながら、掘削対象500を認識することができる。また、操作者は、フロント表示画面51Sにダンプトラック70が表示されている状態で積込動作が終了した後、旋回体3を右旋回させる前に、第2サイド表示画面53Sを見て、掘削対象500を認識することができる。
また、図5に示すように、アップサイド表示画面54Sに表示されるアップサイド画像は、作業機4の上端部を含む。操作者は、アップサイド表示画面54Sに表示されるアップサイド画像を見ることによって、作業機4の上端部の位置を認識することができる。作業機4の上端部を含むアップサイド空間の状況を認識することによって、アップサイド空間に障害物が存在する場合、操作者は、作業機4と障害物とが接触しないように、作業機4を操作することができる。
また、図5に示すように、ローサイド表示画面55Sに表示されるローサイド画像は、掘削対象を掘削する作業機4のバケット8と走行体2との間の地面、及び走行体2の一部を含む。操作者は、ローサイド表示画面55Sに表示されるローサイド画像を見ることによって、バケット8と走行体2との間の地面の状況を認識することができる。地面を含むローサイド空間の状況を認識することによって、ローサイド空間に障害物が存在する場合、操作者は、走行体2と障害物とが接触しないように、走行体2を操作することができる。
[表示システム]
図6は、本実施形態に係る表示システム200の一例を示す機能ブロック図である。図6に示すように、表示システム200は、遠隔操作施設に設けられた表示装置50と、制御装置60とを有する。
制御装置60は、コンピュータシステムを含む。制御装置60は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置と、RAM(Random Access Memory)のような揮発性メモリ及びROM(Read Only Memory)のような不揮発性メモリを含む記憶装置と、入出力インターフェースとを有する。
撮像装置30で撮影された作業現場の画像は、通信システム400を介して制御装置60に送信される。
制御装置60は、画像データ取得部61と、表示制御部62と、記憶部63と、入出力部64とを有する。
画像データ取得部61は、油圧ショベル1に搭載された撮像装置30で同時に撮影された、旋回軸Zrに対して前方向の局所フロント空間FSLの画像を少なくとも含む旋回体3の前方向のフロント画像と、旋回軸Zrに対して前方向と直交する横方向の局所サイド空間の画像を少なくとも含む旋回体3の横方向のサイド画像とを、通信システム400を介して撮像装置30から取得する。
フロントカメラ31及びサイドカメラ323を含む撮像装置30で同時に撮影されたフロント画像及びサイド画像が撮像装置30から通信システム400を介して画像データ取得部61に同時に送信される。フロント画像及びサイド画像は、規定のサンプリング周期で画像データ取得部61に送信される。画像データ取得部61は、同時に撮影され、規定のサンプリング周期で同期して撮像装置30から送信されるフロント画像及びサイド画像を同時に取得する。
本実施形態において、画像データ取得部61は、旋回軸Zrに対して前方向の局所フロント空間FSLの画像を少なくとも含む旋回体3の前方向のフロント画像と、前方向と直交し旋回軸Zrに対して第1横方向の第1局所サイド空間SS1Lの画像を少なくとも含む旋回体3の第1横方向の第1サイド画像と、前方向と直交し旋回軸Zrに対して第1横方向とは反対の第2横方向の第2局所サイド空間SS2Lの画像を少なくとも含む旋回体3の第2横方向の第2サイド画像と、旋回体3の前方向の斜め上方向のアップサイド画像と、旋回体3の前方の斜め下方向のローサイド画像とを同時に取得する。
表示制御部62は、画像データ取得部61で同時に取得されたフロント画像及びサイド画像を、表示装置50のフロント表示画面51S及びサイド表示画面523Sに同時に表示させる。
本実施形態において、表示制御部62は、画像データ取得部61で取得されたフロント画像、第1サイド画像、第2サイド画像、アップサイド画像、及びローサイド画像を、表示装置50に同時に表示させる。
表示制御部62は、フロントカメラ31で撮影されたフロント画像をフロント表示画面51Sに表示させ、第1サイドカメラ32で撮影された第1サイド画像を第1サイド表示画面52Sに表示させ、第2サイドカメラ33で撮影された第2サイド画像を第2サイド表示画面53Sに表示させる。
また、表示制御部62は、アップサイドカメラ34で撮影されたアップサイド画像をアップサイド表示画面54Sに表示させ、ローサイドカメラ35で撮影されたローサイド画像をローサイド表示画面55Sに表示させる。
表示制御部62は、画像データ取得部61で取得されたフロント画像、第1サイド画像、第2サイド画像、アップサイド画像、及びローサイド画像を、表示装置50のフロント表示画面51S、フロント表示画面51Sの一端部に隣接する表示装置50の第1サイド表示画面52S、フロント表示画面51Sの他端部に隣接する表示装置50の第2サイド表示画面53S、フロント表示画面51Sの上端部に隣接する表示装置50のアップサイド表示画面54S、及びフロント表示画面51Sの下端部に隣接する表示装置50のローサイド表示画面55Sに同時に表示させる。
[表示方法]
図7は、本実施形態に係る表示システム200による表示方法の一例を示すフローチャートである。図7に示す表示方法の処理は、規定のサンプリング周期で実施される。
撮像装置30及び油圧ショベル1が起動され、表示システム200を含む遠隔操作システム100が起動されると、複数の撮像装置30(31,32,33,34,35)は、作業現場に存在する対象を同時に撮影する(ステップSP1)。
油圧ショベル1の制御装置300は、複数の撮像装置30のそれぞれで撮影された複数の画像(フロント画像、第1サイド画像、第2サイド画像、アップサイド画像、ローサイド画像)を、通信システム400を介して、表示システム200の制御装置60に同時に送信する(ステップSP2)。
制御装置60の画像データ取得部61は、油圧ショベル1から送信された複数の画像を同時に取得する(ステップSP3)。
表示制御部62は、画像データ取得部61で取得された複数の画像を表示装置50に同時に表示させる(ステップSP4)。表示制御部62は、フロントカメラ31から送信されたフロント画像をフロント表示画面51Sに表示させる処理と、第1サイドカメラ32から送信された第1サイド画像を第1サイド表示画面52Sに表示させる処理と、第2サイドカメラ33から送信された第3サイド画像を第3サイド表示画面53Sに表示させる処理と、アップサイドカメラ34から送信されたアップサイド画像をアップサイド表示画面54Sに表示させる処理と、ローサイドカメラ35から送信されたローサイド画像をローサイド表示画面55Sに表示させる処理と、を同時に実施する。
[90度旋回掘削積込作業]
次に、本実施形態に係る油圧ショベル1の動作の一例について説明する。図8は、本実施形態に係る油圧ショベル1の動作の一例を説明するための模式図である。図8は、油圧ショベル1を上方向から見た模式図である。図4を参照して説明したように、フロントカメラ31は、視野角θ1に基づいて規定される撮影領域を撮影する。第1サイドカメラ32は、視野角θ2に基づいて規定される撮影領域を撮影する。第2サイドカメラ33は、視野角θ3に基づいて規定される撮影領域を撮影する。
図8は、油圧ショベル1が90度旋回掘削積込作業を実施する例を示す。90度旋回掘削積込作業とは、旋回体3の前方向に存在する掘削対象500を作業機4で掘削してバケット8で掘削物を保持した後、旋回軸Zrを中心に旋回体3を規定方向に実質的に90度旋回させて、バケット8に保持されている掘削物を運搬車両であるダンプトラック70の荷台に積み込む作業をいう。掘削物がダンプトラック70の荷台に積み込まれた後、旋回体3の前方向に掘削対象が位置付けられるように旋回軸Zrを中心に旋回体3を規定方向の逆方向に実質的に90度旋回させ、掘削対象500を作業機4で掘削する作業が再度実施される。本実施形態において、規定方向の旋回体3の旋回は、左旋回であり、規定方向の逆方向の旋回体3の旋回は、右旋回である。旋回体3は、旋回を停止した状態から左旋回又は右旋回を開始する。
例えばダンプトラック70の荷台が満載になるまで、掘削対象500を作業機4で掘削する動作、旋回体3を規定方向に90度旋回(左旋回)させる動作、掘削物をダンプトラック70の荷台に積み込む動作、及び旋回体3を逆方向に90度旋回(右旋回)させる動作が繰り返される。90度旋回掘削積込作業においては、走行体2は実質的に作動せず、作業機4及び旋回体3が作動する。なお、例えば掘削位置の調整のために、90度旋回掘削積込作業の一部において走行体2が作動してもよい。
図8に示すように、90度旋回掘削積込作業においては、旋回体3の旋回軸Zrに対して前方向(+Xm方向)に掘削対象500が位置付けられ、旋回体3の旋回軸Zrに対して第1横方向(+Ym方向)にダンプトラック70が位置付けられる。旋回体3の旋回軸Zrに対して前方向(+Xm方向)に掘削対象500が位置付けられた状態で、掘削対象500の掘削位置Paにバケット8が位置付けられる。油圧ショベル1は、掘削対象500の掘削位置Paにおいて作業機4のバケット8を用いて掘削対象500を掘削する。掘削対象500の掘削位置Paにおいて作業機4が掘削対象500を掘削した後、旋回体3は、掘削位置Paで掘削した作業機4がダンプトラック70の荷台に規定されている積込位置Pbに配置されるように、規定方向に90度旋回(左旋回)する。作業機4のバケット8が積込位置Pbに位置付けられた後、油圧ショベル1は、積込位置Pbにおいてバケット8に保持されている掘削物をバケット8からダンプする。これにより、積込位置Pbに掘削物が積み込まれる。
積込位置Pbは、掘削動作の終了後、左旋回する旋回体3を停止させる目標位置を示す目標停止位置を含む。掘削位置Paは、積込動作の終了後、右旋回する旋回体3を停止させる目標位置を示す目標停止位置を含む。
図8に示すように、規定方向への旋回体3の旋回(左旋回)が開始される前の旋回体3が停止した状態において、掘削位置Paが旋回体3の旋回軸Zrに対して前方向(+Xm方向)に位置するとき、積込位置Pbは旋回体3の旋回軸Zrに対して第1横方向(+Ym方向)に位置する。すなわち、掘削対象500が旋回軸Zrに対して前方向の局所フロント空間FSLに位置付けられるとき、旋回軸Zrに対して第1横方向の第1局所サイド空間SS1Lに規定される積込位置Pbにダンプトラック70が位置付けられる。これにより、90度旋回掘削積込作業は円滑に実施される。
図5に示すように、旋回軸Zrに対して前方向の掘削位置Paにおいて作業機4による掘削動作が実施されているとき、表示装置50のフロント表示画面51Sには、フロント画像として、掘削位置Paにおいて掘削動作を実施する作業機4が表示される。また、掘削位置Paにおいて作業機4による掘削動作が実施されているとき、表示装置50の第1サイド表示画面52Sには、第1サイド画像として、旋回軸Zrに対して第1横方向の積込位置Pbに配置されているダンプトラック70が表示される。すなわち、掘削位置Paが旋回体3の旋回軸Zrに対して前方向に位置付けられ、旋回体3が停止した状態において、第1サイド画像として、旋回体3の左旋回における目標停止位置である積込位置Pbが表示装置50に表示される。
遠隔操作により90度旋回掘削積込作業を実施する場合において、旋回体3の旋回軸Zrに対して前方向に掘削対象500の掘削位置Paが位置付けられているときに、旋回体3の旋回軸Zrに対して第1横方向の積込位置Pbに位置付けられているダンプトラック70の画像が表示装置50に表示されず、旋回体3の旋回の開始後に、積込位置Pbに位置付けられているダンプトラック2の画像が表示装置50に急に現れると、操作者は、違和感を抱く可能性がある。また、旋回体3の旋回軸Zrに対して前方向に掘削対象500の掘削位置Paが位置付けられているときに、旋回体3の旋回軸Zrに対して第1横方向の積込位置Pbに位置付けられているダンプトラック70の画像が表示装置50に表示されないと、旋回体3の旋回における目標停止位置が分からないため、操作者は、旋回体3を旋回させることに不安感を抱く可能性がある。操作者が違和感又は不安感を抱くと、旋回体3を低速で旋回させるように遠隔操作装置40が操作される可能性が高くなる。旋回体3の旋回が低速になると、作業効率の低下がもたらされる。
本実施形態においては、旋回体3の旋回軸Zrに対して前方向の画像を少なくとも含むフロント画像及び旋回体3の旋回軸Zrに対して第1横方向の画像を少なくとも含む第1サイド画像が撮像装置30によって同時に撮影される。また、撮像装置30によって撮影されたフロント画像及び旋回体3の左旋回における目標停止位置を含む第1サイド画像が表示装置50に同時に表示される。これにより、旋回体3の旋回軸Zrに対して前方向に掘削対象500の掘削位置Paが位置付けられているときに、旋回体3の旋回軸Zrに対して第1横方向に規定される積込位置Pbに位置付けられているダンプトラック70の画像が表示装置50に表示される。したがって、操作者は、旋回体3の旋回における目標停止位置を視認することができるため、違和感又は不安感を抱くことなく、油圧ショベル1を快適に遠隔操作することができる。掘削位置Paと積込位置Pbとが同時に表示装置50に表示され、違和感又は不安感を抱くことが抑制されるため、操作者は、掘削位置Paにおける掘削動作が終了した後、旋回体3が高速で旋回するように、遠隔操作装置40を操作することができる。したがって、作業効率の低下が抑制される。
[評価試験]
図9は、本実施形態に係る表示システム200の評価試験の結果を示す図である。評価試験において、異なる3つの作業条件で90度旋回掘削積込作業を実施した。
第1の作業条件は、油圧ショベル1の運転室に搭乗した操作者が油圧ショベル1の運転室に設けられている操作装置を操作して、90度旋回掘削積込作業を実施する作業条件である。すなわち、第1の作業条件においては、油圧ショベル1は遠隔操作されない。
第2の作業条件は、油圧ショベル1が遠隔操作されるものの、遠隔操作室の表示装置50には掘削位置Paと積込位置Pbとが同時に表示されない作業条件である。すなわち、第2の作業条件においては、旋回体3の旋回軸Zrに対して前方向に掘削対象500の掘削位置Paが位置付けられているときに、ダンプトラック70の画像が表示装置50に表示されない。第2の作業条件で使用される旋回体3に対する撮像装置30の設置状態は、上述の実施形態で説明した撮像装置30の設置状態と同様であり、フロントカメラ31の光学系の光軸D1がXm軸と平行であり、第1サイドカメラ32の光学系の光軸D2がYm軸と平行であり、第2サイドカメラ33の光学系の光軸D3がYm軸と平行である。第2の作業条件で使用された撮像装置30(フロントカメラ31、第1サイドカメラ32、第2サイドカメラ33)の光学系の視野角はそれぞれ、60度である。
第3の作業条件は、本実施形態に係る作業条件である。すなわち、油圧ショベル1の遠隔操作において、遠隔操作施設に存在する表示装置50には掘削位置Paと積込位置Pbとが同時に表示される。第3の作業条件においては、旋回体3の旋回軸Zrに対して前方向に掘削対象500の掘削位置Paが位置付けられているときに、旋回体3の旋回軸Zrに対して第1横方向に規定される積込位置Pbに位置付けられているダンプトラック70の画像が表示装置50に表示される。第3の作業条件で使用された撮像装置30の視野角は、90度である。
3つの作業条件のそれぞれにおいて、90度旋回掘削積込作業を開始してからダンプトラック70の荷台が満載になるまでに要した作業時間を計測した。図9は、3つの作業条件のそれぞれにおいて要した作業時間を示すヒストグラムである。図9に示すように、第3の作業条件に基づく作業時間は、第2の作業条件に基づく作業時間よりも短いことが確認できた。上述のように、旋回体3の前方向に掘削対象500の掘削位置Paが位置付けられているときに、ダンプトラック70の画像が表示装置50に表示されることにより、操作者は、旋回体3が高速で左旋回するように、遠隔操作装置40を操作することができる。旋回体3が高速で左旋回されるため、第3の作業条件に基づく作業時間は、第2の作業条件に基づく作業時間よりも短くなることが確認できる。本評価試験においては、第2の作業条件に基づく作業時間に比べて、第3の作業条件に基づく作業時間は、第1の作業条件に基づく作業時間と第2の作業条件に基づく作業時間との差の約30[%]低減される効果を得ることができた。
[効果]
以上説明したように、本実施形態によれば、油圧ショベル1に搭載された撮像装置30で同時に撮影されたフロント画像及びサイド画像が油圧ショベル1の外部に存在する表示装置50に同時に表示させる。したがって、油圧ショベル1を遠隔操作する操作者は、違和感又は不安感を抱くことなく、油圧ショベル1を快適に遠隔操作することができる。したがって、作業効率の低下が抑制される。
また、本実施形態によれば、旋回体3は、掘削位置Paで掘削した作業機4が積込位置Pbに配置されるように左旋回し、旋回体3が停止した状態において、掘削位置Paが旋回軸Zrに対して前方向に位置するとき、積込位置Pbは旋回軸Zrに対して第1横方向に位置する。90度掘削旋回積込作業においては、旋回軸Zrに対して前方向の局所フロント空間FSLに掘削対象500の積込位置Paが位置付けられた状態において、旋回軸Zrに対して第1横方向に規定される積込位置Pbにダンプトラック70が位置付けられる場合が多い。本実施形態においては、90度旋回掘削積込作業において、旋回軸Zrに対して前方向に位置付けられる掘削位置Pa(掘削対象500)と旋回軸Zrに対して第1横方向に位置付けられる積込位置Pb(ダンプトラック700)とが同時に表示装置50に表示される。そのため、操作者が違和感又は不安感を抱くことが抑制される。
左旋回の開始時に、掘削位置Paと旋回体3の左旋回における目標停止位置である積込位置Pbとが表示装置50に同時に表示され、旋回体3の左旋回における目標停止位置を視認することができるので、操作者は、掘削位置Paにおける掘削動作を終了した後、旋回体3が高速で左旋回するように、遠隔操作装置40を操作することができる。したがって、作業効率の低下が抑制される。
また、本実施形態によれば、旋回軸Zrに対して前方向の局所フロント空間FSLの画像を少なくとも含むフロント画像がフロント表示画面51Sに表示され、旋回軸Zrに対して第1横方向の第1局所サイド空間SS1Lの画像を少なくとも含む第1サイド画像が第1サイド表示画面52Sに表示される。これにより、遠隔操作施設に存在する操作者は、油圧ショベル1の運転席に実際に搭乗している感覚を得ることができる。フロント表示画面51Sに表示されるフロント画像は、油圧ショベル1の運転席に実際に搭乗したときの操作者の前方向の視界に相当する。第1サイド表示画面52Sに表示される第1サイド画像は、油圧ショベル1の運転席に実際に搭乗したときの操作者の左方向の視界に相当する。油圧ショベル1の運転席に実際に搭乗した操作者の前方向の視界及び左方向の視界のそれぞれに相当する画像が表示装置50に表示されることにより、遠隔操作施設に存在する操作者は、油圧ショベル1の運転席に実際に搭乗している感覚を得ることができる。これにより、遠隔操作の操作性が向上する。
また、本実施形態によれば、第1サイド画像が旋回軸Zrに対して第1横方向の第1局所サイド空間SS1Lの画像を少なくとも含むことにより、遠隔操作の操作性が向上する。油圧ショベル1の運転席に実際に操作者が搭乗する場合、旋回軸Zrに対して前方向に掘削対象500が存在する状態で、操作者は、頭の向きを変えるだけで、旋回軸Zrに対して第1横方向に存在するダンプトラック70を視認することができる。一方、遠隔操作施設に操作者が存在する場合、操作者は、第1局所サイド空間SS1Lの画像が表示装置50に表示されていないと、たとえ頭の向きを変えたとしても、旋回軸Zrに対して第1横方向の第1局所サイド空間SS1Lに存在するダンプトラック70を視認することはできない。
本実施形態においては、第1サイドカメラ32の光学系の撮影領域に少なくとも第1局所サイド空間SS1Lが配置されるように、旋回体3に対する第1サイドカメラ32の設置状態及び第1サイドカメラ32の光学系の視野角θ2が規定され、第1局所サイド空間SS1Lの画像を少なくとも含む第1サイド画像が表示装置50に表示される。そのため、操作者は、表示装置50を見ることにより、旋回軸Zrに対して第1横方向の第1局所サイド空間SS1Lに存在するダンプトラック70を視認することができる。これにより、遠隔操作の操作性が向上する。
また、本実施形態においては、フロント画像は、作業機4の先端部を含む旋回体3のフロント空間の画像である。そのため、操作者は、フロント画像を見て、作業機4の先端部に設けられているバケット8による掘削状況を認識することができる。また、第1サイド画像は、作業機4を含まない旋回体3の第1サイド空間の画像である。そのため、第1サイド空間にダンプトラック70が存在する場合、操作者は、第1サイド画像を見て、作業機4に遮られることなく、ダンプトラック70の存在を円滑に認識することができる。
また、本実施形態によれば、画像データ取得部61は、旋回軸Zrに対して第1横方向とは反対の旋回体3の第2横方向の第2サイド画像を撮像装置30から取得する。表示制御部62は、画像データ取得部61で取得されたフロント画像、第1サイド画像、及び第2サイド画像を表示装置50に同時に表示させる。フロント画像と第2サイド画像とが表示装置50に同時に表示されることにより、90度旋回掘削積込作業において、操作者が違和感又は不安感を抱くことがより一層抑制される。90度掘削旋回積込作業においては、旋回軸Zrに対して前方向の局所フロント空間FSLにダンプトラック70が位置付けられた状態において、旋回軸Zrに対して第2横方向の第2局所サイド空間SS2Lに掘削対象500が位置付けられる。すなわち、積込位置Pbが旋回体3の旋回軸Zrに対して前方向に位置付けられ、旋回体3が停止した状態において、第2サイド画像として、旋回体3の右旋回における目標停止位置である掘削位置Paが表示装置50に表示される。
本実施形態においては、90度旋回掘削積込作業において、旋回軸Zrに対して前方向に位置付けられるダンプトラック70(積込位置Pb)と旋回軸Zrに対して第2横方向に位置付けられる掘削対象500(掘削位置Pa)とが同時に表示装置50に表示される。そのため、操作者は、旋回軸Zrの前方向にダンプトラック70が位置付けられた状態で積込動作を終了した後、旋回体3を右旋回させる前に、表示装置50を見て掘削対象500を視認することができる。
右旋回の開始時に、積込位置Pbと旋回体3の右旋回における目標停止位置である掘削位置Paとが表示装置50に同時に表示され、旋回体3の右旋回における目標停止位置を視認することができるので、操作者は、違和感又は不安感を抱くことなく、旋回体3の旋回軸Zrに対して前方向に掘削位置Paが位置付けられるように、遠隔操作装置40を操作して、旋回体3を高速で右旋回させることができる。したがって、作業効率の低下が抑制される。
また、本実施形態によれば、旋回軸Zrに対して前方向の局所フロント空間FSLの画像を少なくとも含むフロント画像がフロント表示画面51Sに表示され、旋回軸Zrに対して第2横方向の第2局所サイド空間SS2Lの画像を少なくとも含む第2サイド画像が第2サイド表示画面53Sに表示される。これにより、遠隔操作施設に存在する操作者は、油圧ショベル1の運転席に実際に搭乗している感覚を得ることができる。第2サイド表示画面53Sに表示される第2サイド画像は、油圧ショベル1の運転席に実際に搭乗したときの操作者の右方向の視界に相当する。油圧ショベル1の運転席に実際に搭乗した操作者の前方向の視界、左方向の視界、及び右方向の視界のそれぞれに相当する画像が表示装置50に表示されることにより、遠隔操作施設に存在する操作者は、油圧ショベル1の運転席に実際に搭乗している感覚を得ることができる。これにより、遠隔操作の操作性が向上する。
また、第2サイド画像は、作業機4の基端部を含む旋回体3の第2サイド空間の画像である。これにより、操作者は、第2サイド画像を見て、ブーム6の作動状況を認識することができる。また、操作者は、フロント画像及び第2サイド画像を見て、バケット8とアーム7とブーム6との相対位置を認識することができる。
また、本実施形態によれば、撮像装置30は、前方向を撮影するフロントカメラ31と、横方向を撮影するサイドカメラ323と、を含む。表示装置50は、フロント表示画面51Sと、フロント表示画面51Sの端部に隣接するサイド表示画面523Sと、を含む。表示制御部62は、フロントカメラ31で撮影されたフロント画像をフロント表示画面51Sに表示させ、サイドカメラ323で撮影されたサイド画像をサイド表示画面523Sに表示させる。これにより、高度な画像処理を実施することなく、作業現場の状況を示す画像を表示装置50に表示させることができる。
また、本実施形態によれば、旋回体3の旋回軸Zrと直交する所定面内において、フロントカメラ31の光学系の光軸D1と第1サイドカメラ32の光学系の光軸D2とは直交する。また、旋回体3の旋回軸Zrと直交する所定面内において、フロントカメラ31の光学系の光軸D1と第2サイドカメラ33の光学系の光軸D3とは直交する。これにより、サイドカメラ323は、旋回体3の旋回軸Zrに対して斜め後方向の画像を取得することができる。表示装置50は、広範囲に亘って、油圧ショベル1の周囲の状況を表示することができる。
また、本実施形態によれば、フロントカメラ31の光学系の視野角θ1、第1サイドカメラ32の光学系の視野角θ2、及び第2サイドカメラ33の光学系の視野角θ3のそれぞれは、70度以上100度以下である。70度より狭いと、たとえば第1サイド画像が第1局所サイド空間SS1Lをカバーできない可能性があり、つまり積込位置であるダンプトラックを視認することができない可能性がある。また、100度より広いと、たとえば第1サイド画像が広範囲を表示するため、縮小して表示するため見にくくなったり大きなディスプレイが必要になったりしてしまう。フロントカメラ31の光学系及びサイドカメラ323の光学系として、広角レンズが採用されることにより、表示装置50は、広範囲に亘って、油圧ショベル1の周囲の状況を表示することができる。
第2実施形態.
第2実施形態について説明する。以下の説明において、上述の実施形態と同一又は同等の構成要素については同一の符号を付し、その説明を簡略又は省略する。
上述の実施形態においては、旋回軸Zrと直交する所定面内において、光軸D1と光軸D2とが直交し、光軸D1と光軸D3とが直交することとした。旋回軸Zrと直交する所定面内において、光軸D1と光軸D2とは直交しなくてもよいし、光軸D1と光軸D3とは直交しなくてもよい。また、視野角θ1、視野角θ2、及び視野角θ3の少なくとも一つが90度よりも小さくてもよいし、90度よりも大きくてもよい。
図10は、本実施形態に係る撮像装置30の撮影領域を説明するための模式図である。
フロント画像が旋回体3の旋回軸Zrに対して前方向(+Xm方向)の局所フロント空間FSLの画像を少なくとも含むように、旋回体3に対するフロントカメラ31の設置状態及びフロントカメラ31の光学系の視野角θ1が規定される。
また、第1サイド画像が旋回体3の旋回軸Zrに対して第1横方向(+Ym方向)の第1局所サイド空間SS1Lの画像を少なくとも含むように、旋回体3に対する第1サイドカメラ32の設置状態及び第1サイドカメラ32の光学系の視野角θ2が規定される。
また、第2サイド画像が旋回体3の旋回軸Zrに対して第2横方向(−Ym方向)の第2局所サイド空間SS2Lの画像を少なくとも含むように、旋回体3に対する第2サイドカメラ33の設置状態及び第2サイドカメラ33の光学系の視野角θ3が規定される。
図10に示す例において、フロントカメラ31の視野角θ1、第1サイドカメラ32の視野角θ2、及び第2サイドカメラ32の視野角θ3のそれぞれは、90度よりも小さい。視野角θ1、視野角θ2、及びθ3のそれぞれは、例えば70度である。
フロントカメラ31の光学系の光軸D1は、Xm軸と実質的に平行である。Zm軸と直交する所定面内において、フロントカメラ31の光学系の光軸D1と第1サイドカメラ32の光学系の光軸D2とがなす角度は、90度よりも小さい。Zm軸と直交する所定面内において、フロントカメラ31の光学系の光軸D1と第2サイドカメラ33の光学系の光軸D3とがなす角度は、90度よりも小さい。光軸D1と光軸D2とがなす角度は、例えば67度である。光軸D1と光軸D3とがなす角度は、例えば67度である。
フロントカメラ31の撮影領域と第1サイドカメラ32の撮影領域の一部とは、角度θ4の範囲において重複する。フロントカメラ31の撮影領域と第2サイドカメラ32の撮影領域の一部とは、角度θ5の範囲において重複する。角度θ4及び角度θ5は、例えば3度である。
フロントカメラ31で撮影されたフロント画像は、フロント表示画面51Sに表示される。第1サイドカメラ32で撮影された第1サイド画像は、第1サイド表示画面52Sに表示される。第2サイドカメラ33で撮影された第2サイド画像は、第2サイド表示画面53Sに表示される。
本実施形態においても、作業機4が掘削位置Paに位置付けられているときに、第1サイド画像は、ダンプトラック70が位置付けられる第1局所サイド空間SS1Lの画像を少なくとも含む。したがって、90度旋回掘削積込作業において、操作者は、掘削位置Paにおける掘削動作が終了した後、旋回体3が高速で左旋回するように、遠隔操作装置40を操作することができる。
また、本実施形態においても、作業機4が積込位置Pbに位置付けられているときに、第2サイド画像は、掘削対象500が位置付けられる第2局所サイド空間SS2Lの画像を少なくとも含む。したがって、90度旋回掘削積込作業において、操作者は、積込位置Pbにおける積込動作が終了した後、旋回体3が高速で右旋回するように、遠隔操作装置40を操作することができる。
また、本実施形態においては、フロントカメラ31の撮影領域と第1サイドカメラ32の撮影領域の一部とが重複し、フロントカメラ31の撮影領域と第2サイドカメラ32の撮影領域の一部とが重複する。そのため、油圧ショベル1の周囲の空間のうち、第1局所サイド空間SS1L及び第2局所サイド空間SS2Lよりも前方向の空間において、撮像装置30によって撮影されない非撮影空間が生じることが抑制される。
非撮影空間は、表示装置50に表示されない空間であり、遠隔操作施設に存在する操作者が見ることができない死角の空間である。フロントカメラ31の撮影領域と第1サイドカメラ32の撮影領域とが離れていて、非撮影空間が生じてしまうと、表示装置50に表示されるフロント画像と第1サイド画像との間に不連続部分が生じることとなる。同様に、フロントカメラ31の撮影領域と第2サイドカメラ33の撮影領域とが離れていて、非撮影空間が生じてしまうと、表示装置50に表示されるフロント画像と第2サイド画像との間に不連続部分が生じることとなる。その結果、旋回体3が旋回しているときに表示装置50を見ている操作者は違和感を覚える可能性がある。
本実施形態においては、フロントカメラ31の撮影領域と第1サイドカメラ32の撮影領域の一部とが重複する。そのため、表示装置50に表示されるフロント画像と第1サイド画像との間に不連続部分が生じることが抑制される。同様に、フロントカメラ31の撮影領域と第2サイドカメラ32の撮影領域の一部とが重複する。そのため、表示装置50に表示されるフロント画像と第2サイド画像との間に不連続部分が生じることが抑制される。したがって、旋回体3が旋回しているときに表示装置50を見ている操作者が違和感を覚えることが抑制される。
なお、上述の各実施形態においては、フロント画像がフロントカメラ31によって取得され、サイド画像がサイドカメラ323によって取得されることとした。撮像装置30は、旋回体3の前方向の光学像と旋回体3の第1横方向の光学像とを一括して取得可能な光学系を有してもよい。例えば、光学系として、超広角レンズ又は魚眼レンズが採用されることにより、撮像装置30は、旋回体3の前方向の光学像と旋回体3の横方向の光学像とを一括して取得可能である。表示制御部62は、撮像装置30で撮影された画像を画像処理してフロント画像とサイド画像とに分割して、フロント画像をフロント表示画面51Sに表示させ、サイド画像をサイド表示画面523Sに表示させてもよい。これにより、油圧ショベル1に搭載する撮像装置30の台数を低減することができる。
なお、上述の各実施形態においては、フロント画像、第1サイド画像、及び第2サイド画像が取得されることとした。第2サイド画像は取得されなくてもよい。旋回体3が規定方向に90度旋回する動作と逆方向に90度旋回する動作とを繰り返して掘削動作と積込み動作とを実施する、所謂、片側積込み方式で作業を実施する場合、第2サイド画像の取得は省略可能である。第2サイド画像が表示装置50に表示されない場合、操作者は、旋回軸Zrの前方向にダンプトラック70(積込位置Pb)が位置付けられた状態で積込動作を終了した後、旋回体3を右旋回させる前に表示装置50を見ても、掘削対象500(掘削位置Pa)を視認することができない。しかし、掘削対象500が例えば地山である場合、旋回体3を勢いよく右旋回させてバケット8と掘削対象500とがぶつかったとしても、バケット8及び掘削対象500に及ぼす影響は小さい。そのため、第2サイド画像が表示装置50に表示されず、旋回体3を右旋回させる前に掘削対象500が表示装置50に表示されなくても、操作者は、遠隔操作装置40を操作して、旋回体3を高速で右旋回させることができる。したがって、作業効率の低下が抑制される。
一方、第1サイド画像が表示装置50に表示されない場合、操作者は、旋回軸Zrの前方向に掘削対象500(掘削位置Pa)が位置付けられた状態で掘削動作を終了した後、旋回体3を左旋回させる前に表示装置50を見ても、ダンプトラック70(積込位置Pb)を視認することができない。旋回体3を左旋回させる前に表示装置50を見てもダンプトラック70を視認できない場合、旋回体3を勢いよく左旋回させてバケット8とダンプトラック70とがぶつかってしまうと、作業機4及びダンプトラック70の少なくとも一方が破損してしまう可能性がある。そのため、第1サイド画像が表示装置50に表示されない場合、操作者は、旋回体3が低速で左旋回するように遠隔操作装置40を操作してしまう。この場合、作業効率の低下がもたらされる。本実施形態によれば、第1サイド画像が表示装置50に表示されることにより、操作者は、掘削動作を終了した後、作業機4とダンプトラック70との接触を抑制しつつ、旋回体3を高速で左旋回させることができる。したがって、作業効率の低下が抑制される。
一方、第2サイド画像が表示装置50に表示されることにより、積込動作が終了した後、旋回体3を右旋回させる前に、操作者は、表示装置50を見て掘削対象500(掘削位置Pa)を視認することができる。操作者は、第2サイド画像を見ることにより、積込動作を終了した後、違和感又は不安感を抱くことなく、遠隔操作装置40を操作して旋回体3を高速で右旋回させることができる。したがって、作業効率の低下が抑制される。
また、第1サイド画像及び第2サイド画像の両方が表示装置50に表示されることにより、操作者は、所謂、両側積込み方式の作業を快適に実施することができる。なお、両側積込み方式の作業とは、旋回体3の前方向に掘削対象500が位置付けられ、旋回体3の第1横方向に第1ダンプトラックが位置付けられ、旋回体2の第2横方向に第2ダンプトラックが位置付けられた状態で、1台の油圧ショベル1を使って、掘削対象400を掘削する動作と、旋回体3を左旋回させて第1ダンプトラックに掘削物を積み込む動作と、旋回体3を右旋回させて第2ダンプトラックに掘削物を積み込む動作と、を順次繰り返す作業をいう。両側積込み方式で作業を実施する場合において、フロント画像及び第1サイド画像のみならず、第2サイド画像も表示装置50に表示されることにより、旋回体3の前方向に掘削対象500の掘削位置Paが位置付けられているときに、第1ダンプトラックの画像及び第2ダンプトラックの画像の両方表示装置50に表示される。これにより、操作者は、表示装置50を見て、快適に両側積込み方式で作業を実施することができる。
なお、上述の各実施形態において、フロント画像及び第2サイド画像が取得され、第1サイド画像が取得されなくてもよい。作業機械1の構造によっては、掘削位置Paが旋回軸Zrに対して前方向に位置付けられた状態で、積込位置Pbが旋回軸Zrに対して第2横方向に位置付けられる可能性がある。その場合、フロント画像及び第2サイド画像が表示装置50に表示されることにより、操作者は、違和感又は不安感を抱くことなく、遠隔操作装置40を操作して旋回体3を高速で旋回させることができる。
なお、上述の各実施形態において、サイド表示画面523Sは、フロント表示画面51Sの端部に隣接することとした。フロント表示画面51Sとサイド表示画面523Sとは離れていてもよい。
なお、上述の各実施形態においては、表示装置50が複数画面の例で説明した。表示装置50は、例えば一つの曲面画面にフロント画像やサイド画像を表示するように構成してもよい。
なお、上述の各実施形態においては、作業機械1が油圧ショベルであることとした。作業機械1は、旋回体及び旋回体に支持される作業機を備えていればよく、油圧ショベルに限定されない。
1…油圧ショベル(作業機械)、2…走行体、2A…履帯、2B…履帯、3…旋回体、4…作業機、6…ブーム、7…アーム、8…バケット、10…ブームシリンダ、11…アームシリンダ、12…バケットシリンダ、30…撮像装置、31…フロントカメラ、32…第1サイドカメラ、33…第2サイドカメラ、34…アップサイドカメラ、35…ローサイドカメラ、40…遠隔操作装置、41…左作業レバー、42…右作業レバー、43…左走行レバー、44…右走行レバー、45…操縦シート、50…表示装置、51…中央フラットパネルディスプレイ、51S…フロント表示画面、52…左フラットパネルディスプレイ、52S…第1サイド表示画面、53…右フラットパネルディスプレイ、53S…第2サイド表示画面、54…上フラットパネルディスプレイ、54S…アップサイド表示画面、55…下フラットパネルディスプレイ、55S…ローサイド表示画面、60…制御装置、61…画像データ取得部、62…表示制御部、63…記憶部、64…入出力部、70…ダンプトラック、100…遠隔操作システム、200…表示システム、300…制御装置、400…通信システム、401…無線通信機、500…掘削対象、Pa…掘削位置、Pb…積込位置、FS…フロント空間、FSL…局所フロント空間、SS1…第1サイド空間、SS1L…第1局所サイド空間、SS2…第2サイド空間、SS2L…第2局所サイド空間、θ1…視野角、θ2…視野角、θ3…視野角。

Claims (7)

  1. 走行体に旋回軸を中心に旋回可能に支持される旋回体及び前記旋回体に支持される作業機を有する作業機械に搭載された撮像装置のフロントカメラで撮影された、前記旋回軸に対して前方向の画像を少なくとも含むフロント画像と、前記撮像装置のサイドカメラで撮影された、前記前方向と直交し前記旋回軸に対して横方向の画像を少なくとも含むサイド画像とを前記撮像装置から取得する画像データ取得部と、
    前記作業機械の外部に存在する表示装置と、
    前記作業機械の外部に存在し、操縦シートに着座した操作者に操作される遠隔操作装置と、
    記画像データ取得部で取得された前記フロント画像及び前記サイド画像を表示装置表示画面に表示させる表示制御部と、を有し、
    前記作業機械は、掘削対象を前記作業機で掘削する掘削作業の後に前記作業機と前記旋回体を作動させて積込対象に掘削物を積み込む旋回掘削積込作業を実施し、
    前記旋回掘削積込作業において、前記サイド画像は前記作業機械の旋回方向の撮像画像と旋回方向とは反対方向の撮像画像を含み、
    前記表示制御部は、前記フロント画像とともに前記サイド画像を前記表示装置に表示させる、
    表示システム。
  2. 前記サイドカメラは、前記旋回体の左方向を撮影する第1サイドカメラと、前記旋回体の右方向を撮影する第2サイドカメラとを含む、
    請求項1に記載の表示システム。
  3. 前記第2サイドカメラで撮影される第2サイド画像は、前記作業機の画像を含む、
    請求項に記載の表示システム。
  4. 前記フロントカメラの光学系の光軸と前記サイドカメラの光学系の光軸とは、共通の所定面内に配置される、
    請求項1又は請求項3に記載の表示システム。
  5. 前記表示装置の表示画面は、フロント表示画面と、第1サイド表示画面と、第2サイド表示画面と、を含み、
    前記フロント表示画面と第1サイド表示画面と第2サイド表示画面とは、前記操縦シートを囲むように配置される、
    請求項1から請求項4のいずれか一項に記載の表示システム。
  6. 前記フロント表示画面と前記第1サイド表示画面とがなす角度は、90度よりも大きく180度よりも小さく、
    前記フロント表示画面と前記第2サイド表示画面とがなす角度は、90度よりも大きく180度よりも小さい、
    請求項に記載の表示システム。
  7. 前記表示装置の表示画面に表示される画像は、前記旋回体を支持する前記作業機械の走行体の画像を含む、
    請求項1から請求項6のいずれか一項に記載の表示システム。
JP2017108823A 2017-05-31 2017-05-31 表示システム Active JP6909641B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2017108823A JP6909641B2 (ja) 2017-05-31 2017-05-31 表示システム
US16/487,466 US11447928B2 (en) 2017-05-31 2018-02-23 Display system, display method, and remote control system
PCT/JP2018/006777 WO2018220914A1 (ja) 2017-05-31 2018-02-23 表示システム、表示方法、及び遠隔操作システム
AU2018275936A AU2018275936B2 (en) 2017-05-31 2018-02-23 Display system, display method, and remote control system
CA3054631A CA3054631A1 (en) 2017-05-31 2018-02-23 Display system, display method, and remote control system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017108823A JP6909641B2 (ja) 2017-05-31 2017-05-31 表示システム

Publications (2)

Publication Number Publication Date
JP2018207244A JP2018207244A (ja) 2018-12-27
JP6909641B2 true JP6909641B2 (ja) 2021-07-28

Family

ID=64456424

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017108823A Active JP6909641B2 (ja) 2017-05-31 2017-05-31 表示システム

Country Status (5)

Country Link
US (1) US11447928B2 (ja)
JP (1) JP6909641B2 (ja)
AU (1) AU2018275936B2 (ja)
CA (1) CA3054631A1 (ja)
WO (1) WO2018220914A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2573509B (en) * 2018-04-26 2020-09-02 Caterpillar Inc Method and system for providing display redundancy on a machine
CN113169954B (zh) * 2018-11-30 2023-06-09 丹佛斯动力***公司 用于远程机器控制的方法与***
WO2021010489A1 (ja) * 2019-07-17 2021-01-21 住友建機株式会社 作業機械及び作業機械による作業を支援する支援装置
JP7351478B2 (ja) 2019-07-26 2023-09-27 株式会社小松製作所 表示システム、遠隔操作システム、及び表示方法
US11567492B2 (en) * 2020-01-17 2023-01-31 Zimeno, Inc. Vehicle control by a remote operator
JP7363560B2 (ja) * 2020-02-18 2023-10-18 コベルコ建機株式会社 遠隔操作装置、遠隔操作支援サーバ、遠隔操作支援システムおよび遠隔操作支援方法
KR20220140610A (ko) * 2020-05-29 2022-10-18 히다찌 겐끼 가부시키가이샤 작업 기계
JP2022121138A (ja) * 2021-02-08 2022-08-19 コベルコ建機株式会社 遠隔操作支援システム、遠隔操作支援方法および遠隔操作支援複合システム
JP2022143729A (ja) * 2021-03-18 2022-10-03 コベルコ建機株式会社 遠隔操作システム
JP2022144495A (ja) 2021-03-19 2022-10-03 コベルコ建機株式会社 遠隔操作支援システムおよび遠隔操作支援方法
US11993209B2 (en) 2021-03-24 2024-05-28 Deere & Company Work vehicle vision system with contextual task icons
JP2024065932A (ja) * 2022-10-31 2024-05-15 株式会社小松製作所 表示システム、遠隔運転装置および表示制御方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08192987A (ja) * 1995-01-17 1996-07-30 Fujita Corp タワークレーンの遠隔操作用表示システム
JP2000013521A (ja) * 1998-06-25 2000-01-14 Toshiba Corp マルチメディア通信装置
JP2006219894A (ja) * 2005-02-10 2006-08-24 Shin Caterpillar Mitsubishi Ltd 建設機械の遠隔操作におけるカメラ制御装置
JP4921262B2 (ja) * 2007-07-09 2012-04-25 株式会社日立製作所 プレイリスト生成装置およびプレイリスト再生装置
JP5337658B2 (ja) 2009-10-02 2013-11-06 株式会社トプコン 広角撮像装置及び測定システム
JP2012252675A (ja) * 2011-06-07 2012-12-20 Komatsu Ltd ダンプトラック
JP2013116773A (ja) * 2011-12-01 2013-06-13 Shimizu Corp タワークレーンの遠隔操作システム
JP2013168776A (ja) 2012-02-15 2013-08-29 Fujita Corp 遠隔操作システム
CN104969544B (zh) * 2013-02-08 2018-02-27 日立建机株式会社 回转式作业机械的周围监视装置
JP6071786B2 (ja) 2013-07-17 2017-02-01 日立建機株式会社 作業機械の周囲監視装置
JP5957050B2 (ja) * 2014-08-29 2016-07-27 シャープ株式会社 放送信号受信装置、テレビジョン受像機、制御プログラム、および記録媒体
WO2016157463A1 (ja) * 2015-03-31 2016-10-06 株式会社小松製作所 作業機械の周辺監視装置
JP2016194237A (ja) * 2015-03-31 2016-11-17 株式会社小松製作所 作業機械
WO2017056268A1 (ja) * 2015-09-30 2017-04-06 株式会社小松製作所 作業車両
JP6456806B2 (ja) * 2015-11-17 2019-01-23 日立建機株式会社 遠隔操縦用建設機械の映像伝送システム
CN106661859A (zh) * 2016-09-09 2017-05-10 株式会社小松制作所 推土机

Also Published As

Publication number Publication date
AU2018275936A1 (en) 2019-09-19
WO2018220914A1 (ja) 2018-12-06
JP2018207244A (ja) 2018-12-27
AU2018275936B2 (en) 2021-05-27
US11447928B2 (en) 2022-09-20
CA3054631A1 (en) 2018-12-06
US20200063397A1 (en) 2020-02-27

Similar Documents

Publication Publication Date Title
JP6909641B2 (ja) 表示システム
CN107406035B (zh) 工程作业机械
KR101843382B1 (ko) 크롤러식 작업 기계의 주변 감시 장치
JP6204884B2 (ja) 旋回式作業機の周囲表示装置
JP5775283B2 (ja) 作業機械のモニタ装置
JP4740890B2 (ja) 建設機械および建設機械の後進移動ガイダンス方法
AU2016224354B2 (en) Evaluation apparatus and evaluation method
CN111868335B (zh) 远程操作***以及主操作装置
JP6106754B2 (ja) 作業機械の周囲監視装置
JP2013253402A (ja) 作業機械の周囲監視装置
JP6337126B2 (ja) 評価装置及びコンピュータプログラム
JP5066198B2 (ja) 作業機械のモニタ装置
WO2019181159A1 (ja) 建設機械
WO2020250557A1 (ja) 遠隔操作システムおよび遠隔操作サーバ
WO2021020292A1 (ja) 表示システム、遠隔操作システム、及び表示方法
WO2022070606A1 (ja) アタッチメントの目標軌跡設定システム
JP7253740B2 (ja) カメラの制御システム
JP2022024406A (ja) 遠隔操縦用作業カメラ及び該作業カメラを用いた遠隔操縦に用いる画面の表示方法
WO2023136070A1 (ja) 遠隔操作支援システムおよび遠隔操作支援方法
US20240141616A1 (en) Remote operation assistance server and remote operation asistance system
AU2020212836B2 (en) System and method for work machine
US12043982B2 (en) Remote operation support system and remote operation support method
WO2022049987A1 (ja) アタッチメントの目標軌跡設定システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201006

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20201207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210622

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210705

R150 Certificate of patent or registration of utility model

Ref document number: 6909641

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250