JP6940907B1 - 作業機械の周辺監視装置 - Google Patents
作業機械の周辺監視装置 Download PDFInfo
- Publication number
- JP6940907B1 JP6940907B1 JP2021055106A JP2021055106A JP6940907B1 JP 6940907 B1 JP6940907 B1 JP 6940907B1 JP 2021055106 A JP2021055106 A JP 2021055106A JP 2021055106 A JP2021055106 A JP 2021055106A JP 6940907 B1 JP6940907 B1 JP 6940907B1
- Authority
- JP
- Japan
- Prior art keywords
- work machine
- person
- image data
- predetermined
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000002093 peripheral effect Effects 0.000 title claims abstract description 68
- 238000012806 monitoring device Methods 0.000 title claims abstract description 64
- 238000012545 processing Methods 0.000 claims abstract description 123
- 238000009434 installation Methods 0.000 claims abstract description 23
- 239000000284 extract Substances 0.000 claims abstract description 10
- 238000000034 method Methods 0.000 claims description 86
- 238000000605 extraction Methods 0.000 claims description 53
- 238000005259 measurement Methods 0.000 claims description 49
- 230000003287 optical effect Effects 0.000 claims description 24
- 238000003707 image sharpening Methods 0.000 claims description 6
- 238000003384 imaging method Methods 0.000 claims description 5
- 238000003062 neural network model Methods 0.000 claims description 3
- 230000002194 synthesizing effect Effects 0.000 claims description 3
- 238000012549 training Methods 0.000 claims description 2
- 238000006243 chemical reaction Methods 0.000 claims 1
- 238000010586 diagram Methods 0.000 abstract description 12
- 238000012544 monitoring process Methods 0.000 abstract description 9
- 238000012986 modification Methods 0.000 description 15
- 230000004048 modification Effects 0.000 description 15
- 230000006870 function Effects 0.000 description 12
- 210000002569 neuron Anatomy 0.000 description 8
- 238000012937 correction Methods 0.000 description 7
- 239000000463 material Substances 0.000 description 6
- 238000010276 construction Methods 0.000 description 5
- 239000000203 mixture Substances 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 240000004050 Pentaglottis sempervirens Species 0.000 description 3
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 239000010426 asphalt Substances 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000009194 climbing Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000007717 exclusion Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
- Component Parts Of Construction Machinery (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
Description
第1実施形態における作業機械の周辺監視装置の概要について、図1を参照しながら説明する。図1は、本実施形態における作業機械の周辺監視装置の概略構成を示す図である。本実施形態に係る作業機械の周辺監視装置100は、作業機械10に設置され、該作業機械10の周辺を監視するための装置である。ここで、作業機械10とは、ショベル等の建設機械や、作業機を備えた機械(フォークリフト等)である。そして、周辺監視装置100は、撮影装置200と、画像処理装置300と、発報装置400と、を備える。
次に、抽出処理部3032が実行する抽出処理の詳細について説明する。本実施形態の抽出処理では、事前学習モデルに撮影画像データが入力されることで、人物画像が抽出される。そして、事前学習モデルは、人物を表す画像を含んだデータを用いて学習を行うことにより構築される。
次に、測距処理部3033が実行する測距処理の詳細について説明する。本実施形態の測距処理では、抽出処理によって抽出された人物画像と、撮影装置200の設置パラメータと、に基づいて、作業機械10とその周囲の人物との距離が測定される。そして、このような測距処理について、本実施形態では、人物画像の足元の画像に基づいて測距する足元測距と、人物画像の頭の画像に基づいて測距する頭測距と、が用いられる。本実施形態では、これら測距方法のうちのいずれかの方法が用いられてもよいし、これら測距方法の両方が用いられてもよい。足元測距および頭測距について、以下に詳しく説明する。
h:撮影装置200の設置高さ(mm)
θ:足元角度(degree)
x:足元座標のx座標(pixel)
y:足元座標のy座標(pixel)
xcen:センサ上の光軸のx座標(pixel)
ycen:センサ上の光軸のy座標(pixel)
なお、センサ上の光軸の座標(xcen、ycen)は、カメラの内部パラメータとして予め定められる。
f:レンズの焦点距離(mm)
dist:足元座標の光軸からの距離(pixel)
N:カメラの画素サイズ(mm/pixel)
Dref:基準距離(mm)
Nref:基準距離での縦画素数(pixel)
Nhead:頭の画像の縦画素数(pixel)
なお、基準距離Drefおよび該基準距離での縦画素数Nrefは、予め定められる。そして、このように予め定められた基準と、撮影画像データから取得したの頭の画像の縦画素数Nheadと、を比較することで、周囲人物との距離D´が算出される。
D:足元測距により算出される周囲人物との距離(mm)
D´:頭測距により算出される周囲人物との距離(mm)
w:ブレンド係数
ここで、ブレンド係数wは、下記式6および下記式7に基づいて算出される。
上記第1実施形態の変形例1について説明する。上述した第1実施形態では、作業機械10とその周囲の人物との距離が所定値以下となった場合に、発報装置400から警告灯や警告音が出力される。これにより、作業機械10の周囲の人物に対して、該作業機械10との接触を回避するための警告を行うことができる。また、作業機械10のオペレータは、発報装置400からの発報の出力を認知すると、作業機械10とその周囲の人物との接触を回避するための運転動作を行うことができる。ここで、オペレータによる運転動作によらずに作業機械10の回避動作を行うことができれば、作業機械10とその周囲の人物との接触をより好適に回避することができる。
上記第1実施形態の変形例2について説明する。上述した第1実施形態では、周辺監視装置100の電源が入れられると、上記図2に示したフローが実行される。これに対して、本変形例では、周辺監視装置100の電源が入れられると、以下に説明する図9に示すフローが実行される。
第2実施形態について説明する。本実施形態では、制御部303が画像鮮明化処理を更に実行する。詳しくは、制御部303は、撮影画像データに含まれる画素値の頻度を示す撮影画像ヒストグラムを生成する。そして、撮影画像ヒストグラムを平滑化した平滑化ヒストグラムに基づいて取得される平滑化画像データと、撮影画像データと、を所定の比率で合成することで撮影画像データの鮮明化を行う。これについて、図11に基づいて説明する。
第3実施形態について説明する。本実施形態の撮影装置200は、被写体の輝度に応じて半天球カメラ220の露出を所定の基準値に自動制御する装置である。半天球カメラ220の露出を自動制御するに際しては、半天球カメラ220の周囲に空や街灯が写った場合、それらの明るさが、車体の周辺に存在する人物や障害物に影響しないような露出制御を行うことを目的とする。そして、このような撮影装置200は、更に、作業機械10の周囲の地面の輝度を取得し、その地面の輝度が所定の第1輝度以上の場合には、半天球カメラ220の露出が上記の基準値よりも大きくなるように補正する。一方で、地面の輝度が上記の第1輝度よりも低い所定の第2輝度以下の場合には、半天球カメラ220の露出が上記の基準値よりも小さくなるように補正する。
上記の実施形態はあくまでも一例であって、本開示はその要旨を逸脱しない範囲内で適宜変更して実施しうる。例えば、本開示において説明した処理や手段は、技術的な矛盾が生じない限りにおいて、自由に組み合わせて実施することができる。
100・・・周辺監視装置
200・・・撮影装置
220・・・半天球カメラ
300・・・画像処理装置
303・・・制御部
400・・・発報装置
Claims (9)
- 作業機械に設置され、該作業機械の周囲を撮影する撮影装置と、
前記撮影装置によって撮影された前記作業機械の周囲画像を表す撮影画像データを取得し、該撮影画像データに基づいて所定の処理を実行するプロセッサと、
所定の警報信号又は/及び所定の発報を出力する発報装置と、
を備え、
前記撮影装置は、1以上の半天球カメラを含み、該半天球カメラの光軸が地面に対して所定の角度で配置されるように構成され、
前記プロセッサは、
前記撮影画像データから人物画像を抽出する抽出処理と、
抽出された前記人物画像と、前記撮影装置の設置パラメータと、に基づいて、前記作業機械とその周囲の人物との距離を測定する測距処理と、
前記測距処理によって測定された前記作業機械とその周囲の人物との距離に基づいて、前記発報装置による前記警報信号又は/及び前記発報の出力を制御する発報制御処理と、を実行し、
前記測距処理において、前記プロセッサは、
前記撮影画像データにおける前記人物画像の足元の二次元座標である足元座標を取得するとともに、該足元座標の前記半天球カメラの光軸からの距離と、前記半天球カメラのレンズの焦点距離と、に基づいて、前記作業機械の周囲の人物の足元と前記撮影装置との間の所定の角度である足元角度を算出し、
算出された前記足元角度と、前記撮影装置の設置高さと、に基づいて、前記作業機械とその周囲の人物との距離を測定する、
作業機械の周辺監視装置。 - 作業機械に設置され、該作業機械の周囲を撮影する撮影装置と、
前記撮影装置によって撮影された前記作業機械の周囲画像を表す撮影画像データを取得し、該撮影画像データに基づいて所定の処理を実行するプロセッサと、
所定の警報信号又は/及び所定の発報を出力する発報装置と、
を備え、
前記撮影装置は、1以上の半天球カメラを含み、該半天球カメラの光軸が地面に対して所定の角度で配置されるように構成され、
前記プロセッサは、
前記撮影画像データから人物画像を抽出する抽出処理と、
抽出された前記人物画像と、前記撮影装置の設置パラメータと、に基づいて、前記作業機械とその周囲の人物との距離を測定する測距処理と、
前記測距処理によって測定された前記作業機械とその周囲の人物との距離に基づいて、前記発報装置による前記警報信号又は/及び前記発報の出力を制御する発報制御処理と、を実行し、
前記測距処理において、前記プロセッサは、
前記撮影画像データにおける前記人物画像の頭の画像を取得するとともに、該頭の画像の画素数に基づいて、前記作業機械とその周囲の人物との距離を測定する、
作業機械の周辺監視装置。 - 前記発報制御処理において、前記プロセッサは、
前記作業機械とその周囲の人物との距離が所定値以下となった場合に、前記発報装置から、該作業機械とその周囲の人物との接触を回避するための所定の回避動作を指令する信号を出力させる、
請求項1又は請求項2に記載の作業機械の周辺監視装置。 - 前記抽出処理において、前記プロセッサは、
所定の画像データの入力を受け付ける入力層と、入力された該画像データから人物を表す特徴量を抽出する中間層と、該特徴量に基づく識別結果を出力する出力層と、を有するニューラルネットワークモデルであって、人物を表す画像を含んだデータを用いて学習を行うことにより構築された事前学習モデルに、前記撮影画像データを入力することで、前記人物画像を抽出する、
請求項1から請求項3の何れか1項に記載の作業機械の周辺監視装置。 - 前記撮影装置によって撮影された前記撮影画像データ又は/及び該撮影画像データに基づく処理により取得された所定のデータを表示可能に構成された表示装置を、更に備える、
請求項1から請求項4の何れか1項に記載の作業機械の周辺監視装置。 - 前記プロセッサは、
前記周辺監視装置の電源が入れられてから所定時間経過するまでは、前記抽出処理及び前記測距処理により取得され得るデータを前記表示装置に出力せず、前記撮影画像データのみを前記表示装置に出力する処理を実行する、
請求項5に記載の作業機械の周辺監視装置。 - 前記プロセッサは、
前記撮影画像データに含まれる画素値の頻度を示す撮影画像ヒストグラムを生成し、
前記撮影画像ヒストグラムを平滑化した平滑化ヒストグラムに基づいて取得される平滑化画像データと、前記撮影画像データと、を所定の比率で合成することで前記撮影画像データの鮮明化を行う、画像鮮明化処理を更に実行する、
請求項1から請求項6の何れか1項に記載の作業機械の周辺監視装置。 - 前記プロセッサは、前記作業機械に設置された集積回路に実装される、
請求項1から請求項7の何れか1項に記載の作業機械の周辺監視装置。 - 前記撮影装置は、
被写体の輝度に応じて前記半天球カメラの露出を所定の基準値に自動制御する装置であって、
更に、
前記作業機械の周囲の地面の輝度を取得し、前記地面の輝度が所定の第1輝度以上の場合には、前記半天球カメラの露出が前記基準値よりも大きくなるように補正し、前記地面の輝度が前記第1輝度よりも低い所定の第2輝度以下の場合には、前記半天球カメラの露出が前記基準値よりも小さくなるように補正し、前記地面の輝度が前記第2輝度よりも高くて前記第1輝度よりも低い場合には、前記半天球カメラの露出を補正しない、
請求項1から請求項8の何れか1項に記載の作業機械の周辺監視装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021055106A JP6940907B1 (ja) | 2021-03-29 | 2021-03-29 | 作業機械の周辺監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021055106A JP6940907B1 (ja) | 2021-03-29 | 2021-03-29 | 作業機械の周辺監視装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6940907B1 true JP6940907B1 (ja) | 2021-09-29 |
JP2022152363A JP2022152363A (ja) | 2022-10-12 |
Family
ID=77846984
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021055106A Active JP6940907B1 (ja) | 2021-03-29 | 2021-03-29 | 作業機械の周辺監視装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6940907B1 (ja) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012164712A1 (ja) * | 2011-06-02 | 2012-12-06 | 日立建機株式会社 | 作業機械の周囲監視装置 |
WO2016159012A1 (ja) * | 2015-03-31 | 2016-10-06 | 株式会社小松製作所 | 作業機械の周辺監視装置 |
WO2016158255A1 (ja) * | 2015-03-31 | 2016-10-06 | 株式会社小松製作所 | 作業機械の周辺監視装置 |
WO2018151280A1 (ja) * | 2017-02-17 | 2018-08-23 | 住友重機械工業株式会社 | 作業機械用周辺監視システム |
JP2019186597A (ja) * | 2018-04-02 | 2019-10-24 | 株式会社ザクティ | 移動体の周辺確認システム |
JP2020127217A (ja) * | 2018-08-07 | 2020-08-20 | 住友建機株式会社 | ショベル |
-
2021
- 2021-03-29 JP JP2021055106A patent/JP6940907B1/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012164712A1 (ja) * | 2011-06-02 | 2012-12-06 | 日立建機株式会社 | 作業機械の周囲監視装置 |
WO2016159012A1 (ja) * | 2015-03-31 | 2016-10-06 | 株式会社小松製作所 | 作業機械の周辺監視装置 |
WO2016158255A1 (ja) * | 2015-03-31 | 2016-10-06 | 株式会社小松製作所 | 作業機械の周辺監視装置 |
WO2018151280A1 (ja) * | 2017-02-17 | 2018-08-23 | 住友重機械工業株式会社 | 作業機械用周辺監視システム |
JP2019186597A (ja) * | 2018-04-02 | 2019-10-24 | 株式会社ザクティ | 移動体の周辺確認システム |
JP2020127217A (ja) * | 2018-08-07 | 2020-08-20 | 住友建機株式会社 | ショベル |
Also Published As
Publication number | Publication date |
---|---|
JP2022152363A (ja) | 2022-10-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104954664B (zh) | 图像处理装置和图像处理方法 | |
JP5071198B2 (ja) | 信号機認識装置,信号機認識方法および信号機認識プログラム | |
US8134614B2 (en) | Image processing apparatus for detecting an image using object recognition | |
JP4780455B2 (ja) | 映像監視装置及び方法 | |
JP6729572B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP2009157581A (ja) | 歩行者検出装置 | |
JP6265602B2 (ja) | 監視カメラシステム、撮像装置及び撮像方法 | |
JP6940906B1 (ja) | 作業機械の周辺監視装置 | |
JP2019061303A (ja) | 車両の周辺監視装置と周辺監視方法 | |
JP6991045B2 (ja) | 画像処理装置、画像処理装置の制御方法 | |
JP4412929B2 (ja) | 顔検知装置 | |
JP7104452B1 (ja) | 作業機械の周辺監視装置 | |
JP2014142832A (ja) | 画像処理装置、画像処理装置の制御方法、およびプログラム | |
JP6940907B1 (ja) | 作業機械の周辺監視装置 | |
JP7504688B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP4741019B2 (ja) | インターホン装置 | |
JP4765113B2 (ja) | 車両周辺監視装置、車両、車両周辺監視用プログラム、車両周辺監視方法 | |
WO2016121406A1 (ja) | 画像処理装置、画像処理システム、車両、撮像装置、および画像処理方法 | |
CN115526897A (zh) | 特高压换流站消防机器人火焰定位方法及*** | |
KR101531313B1 (ko) | 차량 하부의 물체 탐지장치 및 방법 | |
US9865070B2 (en) | Panoramic stitched image memory texture writing | |
US20220148208A1 (en) | Image processing apparatus, image processing method, program, and storage medium | |
JP6587253B2 (ja) | 画像処理装置、及び画像処理方法 | |
WO2023002776A1 (ja) | 画像処理装置、画像処理システム、画像処理方法、及び画像処理プログラム | |
WO2023042604A1 (ja) | 寸法計測装置、寸法計測方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210406 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210406 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210707 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210720 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210825 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210827 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6940907 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |