JP2021184163A - 学習装置、クラック検出装置、学習方法、クラック検出方法 - Google Patents
学習装置、クラック検出装置、学習方法、クラック検出方法 Download PDFInfo
- Publication number
- JP2021184163A JP2021184163A JP2020089124A JP2020089124A JP2021184163A JP 2021184163 A JP2021184163 A JP 2021184163A JP 2020089124 A JP2020089124 A JP 2020089124A JP 2020089124 A JP2020089124 A JP 2020089124A JP 2021184163 A JP2021184163 A JP 2021184163A
- Authority
- JP
- Japan
- Prior art keywords
- crack
- image
- face image
- face
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 57
- 238000000034 method Methods 0.000 title claims description 9
- 239000011378 shotcrete Substances 0.000 claims abstract description 40
- 230000015572 biosynthetic process Effects 0.000 claims 1
- 238000003786 synthesis reaction Methods 0.000 claims 1
- 230000011218 segmentation Effects 0.000 abstract description 10
- 239000004567 concrete Substances 0.000 abstract description 9
- 238000003384 imaging method Methods 0.000 abstract description 2
- 239000002131 composite material Substances 0.000 description 18
- 238000012545 processing Methods 0.000 description 13
- 238000010276 construction Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 238000012544 monitoring process Methods 0.000 description 6
- 238000009412 basement excavation Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 238000013473 artificial intelligence Methods 0.000 description 4
- 206010040844 Skin exfoliation Diseases 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 239000011435 rock Substances 0.000 description 2
- 239000007921 spray Substances 0.000 description 2
- 238000011410 subtraction method Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】カメラ画像からクラックの発生を精度良く検出することができる学習装置を提供する。【解決手段】吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習した学習済みモデルに対し、判定対象である切羽画像を入力し、前記判定対象の切羽画像に対してセグメンテーションすることでクラックに対応する領域があるか否かを検出する検出部と、前記検出部によってクラックがあると検出された場合に、アラート情報を出力する出力部と、を有する。【選択図】図1
Description
本発明は、学習装置、クラック検出装置、学習方法、クラック検出方法に関する。
山岳トンネル工事では、露出した地山が自然的要因・人為的要因等によって剥離・脱落する「肌落ち」が生じることがある。肌落ちが切羽(掘削面)での掘削作業中に発生した場合、重大災害に繋がる可能性があるため、これを予防する必要がある。肌落ちを予防するために多くの現場では、切羽にコンクリートを数cm程度の厚みとなるように吹付ける「鏡吹付けコンクリート」を施工することがある。しかし、この施工を行ったとしても、完全に崩落を防止することはできるわけではない。
切羽における岩塊の崩壊は、瞬時に発生するために、岩塊の移動を目視で確認してから避難することは困難である。そのため、切羽崩壊の予兆を早い段階で検知し、作業員が避難する時間を確保する必要がある。
鏡吹付けコンクリートが施工されている切羽では、崩落の予兆として幅数mm程度のクラックが吹付け面に生じ、その数分後にクラックに沿って崩壊することが知られている。したがって、吹付け面に発生するクラックをリアルタイムに監視できれば、崩落現象に移行する前に作業員に注意喚起し、早期避難の可能性を飛躍的に向上させることが期待できる。
切羽周辺にカメラを設置し、切羽を監視するシステムも開示されている(例えば、特許文献1)。
切羽における岩塊の崩壊は、瞬時に発生するために、岩塊の移動を目視で確認してから避難することは困難である。そのため、切羽崩壊の予兆を早い段階で検知し、作業員が避難する時間を確保する必要がある。
鏡吹付けコンクリートが施工されている切羽では、崩落の予兆として幅数mm程度のクラックが吹付け面に生じ、その数分後にクラックに沿って崩壊することが知られている。したがって、吹付け面に発生するクラックをリアルタイムに監視できれば、崩落現象に移行する前に作業員に注意喚起し、早期避難の可能性を飛躍的に向上させることが期待できる。
切羽周辺にカメラを設置し、切羽を監視するシステムも開示されている(例えば、特許文献1)。
しかしながら、施工中の切羽周辺に監視カメラを設置して、クラックを動画等の画像から検知するには、作業員や重機の移動、照明等の変化による画像上の色彩の変化等のノイズが多いため、従来技術ではカメラ画像からクラックの発生を精度良く検出することは困難であった。
本発明は、上記の問題点を解決するために、カメラ画像からクラックの発生を精度良く検出することができる学習装置、クラック検出装置、学習方法、クラック検出方法を提供することにある。
上述した課題を解決するために、本発明の一態様は、吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習する学習部を有する。
また、本発明の一態様は、吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習した学習済みモデルに対し、判定対象である切羽画像を入力し、前記判定対象の切羽画像に対してセグメンテーションすることでクラックに対応する領域があるか否かを検出する検出部と、前記検出部によってクラックがあると検出された場合に、アラート情報を出力する出力部と、を有する。
また、本発明の一態様は、コンピュータである学習装置が学習する学習方法であって、前記コンピュータの学習部が、吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習する学習方法である。
また、本発明の一態様は、クラック検出装置の検出部が、吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習した学習済みモデルに対し、判定対象である切羽画像を入力し、前記判定対象の切羽画像に対してセグメンテーションすることでクラックに対応する領域があるか否かを検出し、前記クラック検出装置の出力部が、前記検出部によってクラックがあると検出された場合に、アラート情報を出力するクラック検出方法である。
以上説明したように、この発明によれば、カメラ画像からクラックの発生を精度良く検出することができる。
以下、本発明の一実施形態によるクラック検出装置を用いた切羽監視システムについて図面を参照して説明する。
図1は、この発明の一実施形態による切羽監視システム1の構成を示す概略ブロック図である。
切羽監視システム1は、カメラ10と、端末装置20(端末装置20a、端末装置20b)と、操作端末30と、クラック検出装置40とを有する。
図1は、この発明の一実施形態による切羽監視システム1の構成を示す概略ブロック図である。
切羽監視システム1は、カメラ10と、端末装置20(端末装置20a、端末装置20b)と、操作端末30と、クラック検出装置40とを有する。
カメラ10は、トンネルの切羽よりも後方側に所定の距離(例えば10メートル程度)の位置におけるトンネルの側壁に設置され、切羽Fを撮像する。カメラ10は、撮像結果を切羽画像としてクラック検出装置40に出力する。カメラ10は、1秒間に数フレームから十数フレーム程度となるタイミングで撮像し、順次クラック検出装置40に切羽画像を出力する。
ここで、切羽Fは、トンネルの掘削が行われることによって露出する地山に対して、厚みが数cm(センチメートル)程度となるようにコンクリートが吹付けられる「鏡吹付けコンクリート」が施工される。
カメラ10は、鏡吹付けコンクリートが施工された切羽を撮像し、切羽画像を出力する。
ここで、切羽Fは、トンネルの掘削が行われることによって露出する地山に対して、厚みが数cm(センチメートル)程度となるようにコンクリートが吹付けられる「鏡吹付けコンクリート」が施工される。
カメラ10は、鏡吹付けコンクリートが施工された切羽を撮像し、切羽画像を出力する。
端末装置20は、切羽に対する掘削施工する現場において複数台(例えば、端末装置20a、端末装置20b等。特に識別しない場合には単に端末装置20と称する。)用いられる。この端末装置20としては、例えば、スマートフォンやタブレット等のいずれかを用いることができる。端末装置20は、掘削等の作業を行う作業者に携帯される。端末装置20は、クラック検出装置40に対し、無線または有線によって接続され、クラック検出装置40と通信を行う機能を有する。また、端末装置20は、スピーカやタッチパネル等を備える。
なお、ここでは端末装置20が2台(端末装置20a、端末装置20b)である場合について説明するが、1台のみであってもよいし、3台以上であってもよい。
なお、ここでは端末装置20が2台(端末装置20a、端末装置20b)である場合について説明するが、1台のみであってもよいし、3台以上であってもよい。
操作端末30は、マウスやキーボード等の入力装置と、ディスプレイ等の表示装置を有する。技術者等のユーザから各種操作を受け付けることができる。この操作端末30としては、コンピュータを用いてもよい。
クラック検出装置40は、データ加工部401と、付与部402と、教師データ生成部403と、学習部404と、記憶部405と、検出部406と、出力部407とを有する。
ここで、クラック検出装置40において、教師データは大きく分けて2種類ある。第1の教師データは、鏡吹付けコンクリートの施工がなされた切羽においてクラックが発生した状態を撮影した画像を用いた教師データであり、第2の教師データは、鏡吹付けコンクリートの施工がなされた切羽を撮像した画像において、クラックが発生していない箇所に対して、クラックを表す画像であるクラック画像が合成された合成画像を用いた教師データである。このようなクラックの形状は、概ね線状である。
第1の教師データは、実際に切羽の施工現場において鏡吹付けコンクリートにクラックが発生している切羽を撮像した切羽画像を用いることができる。
図2は、鏡吹付けコンクリートに実際にクラックが発生している切羽を撮像した切羽画像の一例を示す図である。
第2の教師データは、鏡吹付けコンクリートの施工がなされた切羽を撮像した画像に対して、クラックが発生した場合にはどのような状態であるかを、経験や知識をもとに、技術者によって、クラック画像を操作端末30が操作されることで切羽画像に描画された合成画像を用いることができる。
図3は、鏡吹付けコンクリートの施工がなされた切羽を撮像した切羽画像にクラック画像を合成した場合の一例を示す図である。ここでは、符号300のようなクラック画像が合成される。
図2は、鏡吹付けコンクリートに実際にクラックが発生している切羽を撮像した切羽画像の一例を示す図である。
第2の教師データは、鏡吹付けコンクリートの施工がなされた切羽を撮像した画像に対して、クラックが発生した場合にはどのような状態であるかを、経験や知識をもとに、技術者によって、クラック画像を操作端末30が操作されることで切羽画像に描画された合成画像を用いることができる。
図3は、鏡吹付けコンクリートの施工がなされた切羽を撮像した切羽画像にクラック画像を合成した場合の一例を示す図である。ここでは、符号300のようなクラック画像が合成される。
第1の教師データを用いる場合、鏡吹付けコンクリートに実際に発生したクラックを撮像した画像を用いるため、学習によって得られる学習済みモデルによるクラック判定の精度が高いというメリットがある。一方で、学習に必要な枚数の画像を準備することが容易ではない場合がある。
第2の教師データを用いる場合、実際に発生したクラックを撮像した画像ではないものの、種々のクラックのパターンを描画することができ、学習に必要な枚数の画像を準備しやすいメリットがある。ここでは、合成画像におけるクラック画像は、技術者の経験や知識を反映させた上で描画されるため、実際に発生したクラックを高い精度で再現するように描画することも可能である。また、クラックを表す画像は、鏡吹付けコンクリートの施工がなされた切羽が撮像された画像に対し、操作端末30から技術者によって操作入力されることで描画される。クラック画像は、切羽の状態や施工現場の環境を考慮して形状や色味等によって表現される。
第2の教師データを用いる場合、実際に発生したクラックを撮像した画像ではないものの、種々のクラックのパターンを描画することができ、学習に必要な枚数の画像を準備しやすいメリットがある。ここでは、合成画像におけるクラック画像は、技術者の経験や知識を反映させた上で描画されるため、実際に発生したクラックを高い精度で再現するように描画することも可能である。また、クラックを表す画像は、鏡吹付けコンクリートの施工がなされた切羽が撮像された画像に対し、操作端末30から技術者によって操作入力されることで描画される。クラック画像は、切羽の状態や施工現場の環境を考慮して形状や色味等によって表現される。
データ加工部401は、学習部404において学習を行うために必要なデータの加工を行う。例えば、データ加工部401は、切羽画像に対してクラックを表す画像を操作端末30のキーボードやマウス等からの操作内容に応じて合成する。ここで、切羽画像に対してクラック画像を合成する場合、切羽画像におけるクラックに対応する領域に含まれる画素の画素値(RGB画像の場合にはRGBの各値)を書き換えることで合成画像を生成するようにしてもよいし、切羽画像のレイヤとは別のレイヤにクラック画像を描画し、これらのレイヤを重ね合わせることで合成画像を生成するようにしてもよい。ここで、クラック画像が切羽画像とは別のレイヤとして生成されている場合には、クラック画像に対応するレイヤに基づいて、クラックである領域を示す座標データも関連付けすることができる。
付与部402は、合成された画像に基づいて、クラック画像に対応する画素についてクラックを表すラベル(アノテーション)を付与する。
例えば、付与部402は、合成画像のうち、クラック画像に該当する画素のそれぞれに対して、「クラック」を表すラベルを付与する。
ここで、合成画像については、切羽画像に対して合成されたクラック画像を対象とし、このクラック画像に該当する画素のそれぞれに対して「クラック」を表すラベルを付与する。例えば、合成画像においては、技術者がクラック画像として描画された領域内における画素に対して、「クラック」を表すラベルが付与される。
一方、鏡吹付けコンクリートに実際にクラックが発生した切羽を撮像した切羽画像については、どの部分がクラック画像であるかを特定する必要がある。ここでは、例えば、技術者が操作端末30を操作することで、切羽画像のうちクラックに対応する箇所に対して、クラックであることを指定することで、クラック画像が特定される。
図4は、切羽画像において、実際に発生したクラックに対してクラック画像とする領域が指定された場合の画像の一例を示す図である。この図においては、符号400に示す線状の画像部分がクラック画像の領域として指定された場合が図示されている。クラックに該当する画素を指定する場合、技術者によってクラックに相当する領域を指定してもらうようにしてもよいし、クラックに相当する画素を指定してもらうようにしてもよい。
例えば、付与部402は、合成画像のうち、クラック画像に該当する画素のそれぞれに対して、「クラック」を表すラベルを付与する。
ここで、合成画像については、切羽画像に対して合成されたクラック画像を対象とし、このクラック画像に該当する画素のそれぞれに対して「クラック」を表すラベルを付与する。例えば、合成画像においては、技術者がクラック画像として描画された領域内における画素に対して、「クラック」を表すラベルが付与される。
一方、鏡吹付けコンクリートに実際にクラックが発生した切羽を撮像した切羽画像については、どの部分がクラック画像であるかを特定する必要がある。ここでは、例えば、技術者が操作端末30を操作することで、切羽画像のうちクラックに対応する箇所に対して、クラックであることを指定することで、クラック画像が特定される。
図4は、切羽画像において、実際に発生したクラックに対してクラック画像とする領域が指定された場合の画像の一例を示す図である。この図においては、符号400に示す線状の画像部分がクラック画像の領域として指定された場合が図示されている。クラックに該当する画素を指定する場合、技術者によってクラックに相当する領域を指定してもらうようにしてもよいし、クラックに相当する画素を指定してもらうようにしてもよい。
このようにクラック画像として領域が定められると、付与部402は、このクラック画像の領域に含まれる画素のそれぞれに対して、「クラック」を表すラベルを付与する。
また、付与部402は、切羽画像または合成画像において、クラック画像の領域以外における画素については、「クラック」以外のラベル(例えば、コンクリート、重機、作業員、照明等)を付与する。
このように、付与部402が「クラック」を示すラベルを画素毎に付与することで、切羽画像や合成画像において、「クラック」を示すラベルが付与された画素が隣接している画像の領域をクラックが存在する領域として特定することが可能となる。
また、付与部402は、切羽画像または合成画像において、クラック画像の領域以外における画素については、「クラック」以外のラベル(例えば、コンクリート、重機、作業員、照明等)を付与する。
このように、付与部402が「クラック」を示すラベルを画素毎に付与することで、切羽画像や合成画像において、「クラック」を示すラベルが付与された画素が隣接している画像の領域をクラックが存在する領域として特定することが可能となる。
教師データ生成部403は、合成された画像に対して付与部402によって画素にラベルが付与されたデータを教師データとして得る。例えば、教師データ生成部403は、ラベルが付与された切羽画像または合成画像を教師データとして得ることで、教師データを生成する。
学習部404は、鏡吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習する。
この学習には、AI(artificial intelligence:人工知能)技術を用いる。例えば、この学習には、セマンティックセグメンテーション(Semantic Segmentation)を用いる。セマンティックセグメンテーション(Semantic Segmentation)は、画像内の全画素にそれぞれラベルを付与するディープラーニング(Deep Learning)を用いたアルゴリズムである。
このセマンティックセグメンテーションでは、対象物を画素単位で検出できることから、線状に多数発生するクラックに対しても認識分解能が高く、また、施工時の作業員や重機の移動によって生じる画像の変化であるノイズに対しても高い識別性能を持っている。そのため、施工中の切羽をカメラ10によって動画撮影をするような条件下であっても効率的にクラックを識別することが可能となる。
セマンティックセグメンテーションでは、例えば、クラックに対応する画素の情報と、その画素の周辺の画素の情報との関係を学習する。
学習部404は、学習を行うことで、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習した学習済モデルを生成する。
この学習には、AI(artificial intelligence:人工知能)技術を用いる。例えば、この学習には、セマンティックセグメンテーション(Semantic Segmentation)を用いる。セマンティックセグメンテーション(Semantic Segmentation)は、画像内の全画素にそれぞれラベルを付与するディープラーニング(Deep Learning)を用いたアルゴリズムである。
このセマンティックセグメンテーションでは、対象物を画素単位で検出できることから、線状に多数発生するクラックに対しても認識分解能が高く、また、施工時の作業員や重機の移動によって生じる画像の変化であるノイズに対しても高い識別性能を持っている。そのため、施工中の切羽をカメラ10によって動画撮影をするような条件下であっても効率的にクラックを識別することが可能となる。
セマンティックセグメンテーションでは、例えば、クラックに対応する画素の情報と、その画素の周辺の画素の情報との関係を学習する。
学習部404は、学習を行うことで、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習した学習済モデルを生成する。
記憶部405は、学習部404によって得られた学習済みモデルを記憶する。記憶部405は、記憶媒体、例えば、HDD(Hard Disk Drive)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory)、RAM(Random Access read/write Memory)、ROM(Read Only Memory)、またはこれらの記憶媒体の任意の組み合わせによって構成される。
この記憶部405は、例えば、不揮発性メモリを用いることができる。
この記憶部405は、例えば、不揮発性メモリを用いることができる。
検出部406は、吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習した学習済みモデルに対し、判定対象である切羽画像を入力し、判定対象の切羽画像に対してセグメンテーションすることでクラックに対応する領域があるか否かを検出する。
検出部406は、切羽画像にクラックに対応する領域があることを検出した場合には、出力部407に、クラックが検出されたことを示す情報を出力する。
検出部406は、切羽画像にクラックに対応する領域があることを検出した場合には、出力部407に、クラックが検出されたことを示す情報を出力する。
出力部407は、検出部406によってクラックがあると検出された場合に、アラート情報を端末装置20に出力する。出力部407は、クラックがあると検出された時にアラート情報を端末装置20に送信することで、切羽崩落発生前に作業員に対して避難を促すことができる。
このクラック検出装置40において、データ加工部401、付与部402、教師データ生成部403、学習部404、検出部406、出力部407は、例えばCPU(中央処理装置)等の処理装置若しくは専用の電子回路で構成されてよい。
次に、クラック検出装置40における動作を説明する。
≪学習フェーズ≫
図5は、学習フェーズにおけるクラック検出装置40の動作を説明するフローチャートである。
学習フェーズにおいて、データ加工部401は、切羽画像を入力する(ステップS101)。この入力は、カメラ10から得るようにしてもよいし、既に撮像された切羽画像が外部または内部の記憶装置に記憶されている場合には、その記憶装置から切羽画像を読み出すことで入力するようにしてもよい。ここでは鏡吹付けコンクリートに実際にクラックが発生した切羽が撮像された切羽画像を入力してもよいし、切羽画像に対してクラック画像が合成された合成画像を切羽画像として入力してもよいし、これらの両方を入力してもよい。
≪学習フェーズ≫
図5は、学習フェーズにおけるクラック検出装置40の動作を説明するフローチャートである。
学習フェーズにおいて、データ加工部401は、切羽画像を入力する(ステップS101)。この入力は、カメラ10から得るようにしてもよいし、既に撮像された切羽画像が外部または内部の記憶装置に記憶されている場合には、その記憶装置から切羽画像を読み出すことで入力するようにしてもよい。ここでは鏡吹付けコンクリートに実際にクラックが発生した切羽が撮像された切羽画像を入力してもよいし、切羽画像に対してクラック画像が合成された合成画像を切羽画像として入力してもよいし、これらの両方を入力してもよい。
次に、データ加工部401は、入力された切羽画像についてクラック画像を特定する(ステップS102)。
このクラック画像の特定は、鏡吹付けコンクリートに実際にクラックが発生した切羽を撮像した切羽画像である場合には、操作端末30から技術者によって指定されるクラックに該当する画素が指定されることで、この指定された画素に基づいてクラック画像が特定される。
また、切羽画像が合成画像である場合には、切羽画像においてクラック画像として加工された領域をクラック画像として特定することができる。
また、鏡吹付けコンクリートにクラックが発生していない切羽が撮像された切羽画像をステップS101において入力しておき、このステップS102において、操作端末30から技術者によってクラック画像が入力されることで合成画像を生成するようにしてもよい。そして生成された合成画像に対し、クラック画像を特定するようにしてもよい。
このクラック画像の特定は、鏡吹付けコンクリートに実際にクラックが発生した切羽を撮像した切羽画像である場合には、操作端末30から技術者によって指定されるクラックに該当する画素が指定されることで、この指定された画素に基づいてクラック画像が特定される。
また、切羽画像が合成画像である場合には、切羽画像においてクラック画像として加工された領域をクラック画像として特定することができる。
また、鏡吹付けコンクリートにクラックが発生していない切羽が撮像された切羽画像をステップS101において入力しておき、このステップS102において、操作端末30から技術者によってクラック画像が入力されることで合成画像を生成するようにしてもよい。そして生成された合成画像に対し、クラック画像を特定するようにしてもよい。
次に、付与部402は、データ加工部401によって切羽画像において特定されたクラック画像に基づいて、当該クラック画像に該当する画素に対して「クラック」のラベルを付与する(ステップS103)。また、付与部402は、切羽画像のうちクラック画像ではない領域については、その領域における画素の情報に応じて、「クラック」以外のラベル(コンクリート、重機、作業員、照明等)を付与する。
ラベルの付与がなされると、教師データ生成部403は、ラベルが付与された切羽画像を教師データとして生成し、学習部404に入力する。
ラベルの付与がなされると、教師データ生成部403は、ラベルが付与された切羽画像を教師データとして生成し、学習部404に入力する。
学習部404は、入力される教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習する(ステップS104)。学習部404は、学習を行うと、学習済モデルを記憶部405に書き込む。
≪実行フェーズ≫
次に、実行フェーズについて説明する。
図6は、実行フェーズにおけるクラック検出装置40の動作を説明するフローチャートである。
実行フェーズにおいて、カメラ10は、監視対象の切羽を撮像する(ステップS201)。ここで撮像される切羽は、鏡吹付けコンクリートの施工が行われた後の切羽であり、クラックが発生していないかを監視する対象の切羽である。カメラ10は、切羽を撮像した撮像結果を切羽画像としてクラック検出装置40に出力する。ここでは、カメラ10は、継続的に切羽を撮像する。例えば、1秒間に所定のフレーム数となるような間隔で撮像を行い、順次、切羽画像をクラック検出装置40に出力する。
次に、実行フェーズについて説明する。
図6は、実行フェーズにおけるクラック検出装置40の動作を説明するフローチャートである。
実行フェーズにおいて、カメラ10は、監視対象の切羽を撮像する(ステップS201)。ここで撮像される切羽は、鏡吹付けコンクリートの施工が行われた後の切羽であり、クラックが発生していないかを監視する対象の切羽である。カメラ10は、切羽を撮像した撮像結果を切羽画像としてクラック検出装置40に出力する。ここでは、カメラ10は、継続的に切羽を撮像する。例えば、1秒間に所定のフレーム数となるような間隔で撮像を行い、順次、切羽画像をクラック検出装置40に出力する。
クラック検出装置40の検出部406は、記憶部405に記憶された学習済モデルを読み出しておき、カメラ10から切羽画像が得られると(ステップS202)、得られた切羽画像を、学習済モデルに入力することで、入力された切羽画像にクラックに該当する領域が検出されたか否かを判定することで、鏡吹付けコンクリートにクラックが発生しているか否かを判定する(ステップS203)。
検出部406は、切羽画像にクラックに該当する領域が検出されなかった場合(ステップS204−NO)、ステップS201に移行する。これにより、継続的に切羽を監視することができる。
検出部406は、切羽画像にクラックに該当する領域が検出されなかった場合(ステップS204−NO)、ステップS201に移行する。これにより、継続的に切羽を監視することができる。
一方、検出部406は、切羽画像にクラックに該当する領域が検出された場合(ステップS204−YES)、出力部407に対し、クラックが検出されたことを出力する。
出力部407は、検出部406によってクラックがあると検出された場合には、端末装置20(端末装置20a、端末装置20b)に対して、クラックが検出されたことを表すアラート情報を出力する(ステップS205)。
これにより、各端末装置20の表示画面には、「切羽にクラックが検出されました。避難して下さい」等のメッセージが表示されるとともに、各端末装置20のスピーカからアラート音が放音される。このようなアラートが出力されることで、作業員は、クラックが発生した事を早い段階で認識し、避難等の必要な対応をすることができる。
このように、クラックの発生を検出すると、端末装置から警告することができるので、切羽において肌落ちが発生する予兆を検知して、作業員に対し、避難等の必要な対応を促すことができる。また、リアルタイムで検知することができるため、即時性がある。
出力部407は、検出部406によってクラックがあると検出された場合には、端末装置20(端末装置20a、端末装置20b)に対して、クラックが検出されたことを表すアラート情報を出力する(ステップS205)。
これにより、各端末装置20の表示画面には、「切羽にクラックが検出されました。避難して下さい」等のメッセージが表示されるとともに、各端末装置20のスピーカからアラート音が放音される。このようなアラートが出力されることで、作業員は、クラックが発生した事を早い段階で認識し、避難等の必要な対応をすることができる。
このように、クラックの発生を検出すると、端末装置から警告することができるので、切羽において肌落ちが発生する予兆を検知して、作業員に対し、避難等の必要な対応を促すことができる。また、リアルタイムで検知することができるため、即時性がある。
以上説明した実施形態によれば、セグメンテーションによって、カメラから得られる切羽画像の画素毎に、クラックに該当する画素であるか否か等の意味づけが行われ、クラックに該当する領域が検出されたか否かに基づいて、クラックの発生状況を検出することができる。
また、本実施形態によれば、切羽画像におけるクラック画像について画素単位で「クラック」を示すラベルを付与した上で、ディープラーニングを用いてアルゴリズムであるセマンティックセグメンテーションによって学習するようにしたので、線状に発生するクラックに対しても画素単位での検知が可能な学習済モデルを得ることができ、また、得られた学習済モデルを用い、セグメンテーションによりクラックに相当する領域を切羽画像から検出するようにしたので、クラックの検出精度が向上する。
また、本実施形態によれば、切羽画像におけるクラック画像について画素単位で「クラック」を示すラベルを付与した上で、ディープラーニングを用いてアルゴリズムであるセマンティックセグメンテーションによって学習するようにしたので、線状に発生するクラックに対しても画素単位での検知が可能な学習済モデルを得ることができ、また、得られた学習済モデルを用い、セグメンテーションによりクラックに相当する領域を切羽画像から検出するようにしたので、クラックの検出精度が向上する。
また、従来において用いられていた背景差分法では、画像全体について、フレーム間の差分をとり、差分に基づいて対象物が検出されたか否かを検出するため、例えば、カメラ画像に作業員や重機が映り込んだ場合や、照明の当たり方に変化があった場合には、その変化によって生じる画像上の色彩等の変化が生じ、フレーム間における差分が生じる。この場合、クラックが写ったことによる差分が検出されたか、作業員や重機が写ったことによる差分が検出されたかを識別することが困難であるため、誤検知が生じる可能性が高い。
これに対し、この実施形態によれば、上述したように、セグメンテーションによって画素毎に意味が与えられるため、カメラ画像に作業員や重機が写りこんだとしても、画素毎に基づく領域を検出することができるため、検出された領域がクラックであるか否かを識別することができる。そのため、背景差分法のようにフレーム間の差分を判定に用いないため、ノイズに強く、誤判定を低減することができる。また、リアルタイムに検出することもできるため、即応性がある。
これに対し、この実施形態によれば、上述したように、セグメンテーションによって画素毎に意味が与えられるため、カメラ画像に作業員や重機が写りこんだとしても、画素毎に基づく領域を検出することができるため、検出された領域がクラックであるか否かを識別することができる。そのため、背景差分法のようにフレーム間の差分を判定に用いないため、ノイズに強く、誤判定を低減することができる。また、リアルタイムに検出することもできるため、即応性がある。
また、上述した実施形態によれば、監視対象の切羽を撮像した切羽画像において、ノイズデータを含んだ状態の切羽画像が入力された場合であっても、クラックの認識が可能な学習済みAIを搭載した監視カメラ(ウェアラブルカメラ)あるは監視システムを使い、肌落ちの前兆現象であるクラックの発生をリアルタイムで監視させ、肌落ちのリスクを速やかに作業員に知らせることが可能となる。これにより、鏡吹付けコンクリート崩壊の前兆現象であるクラックを検知し、迅速に切羽作業員間で情報共有することで、崩落発生前に安全な場所に退避することが可能となる。
上述した実施形態において、データ加工部401は、切羽画像にクラック画像を加えることで合成画像を生成するようにしたが、切羽画像に対して、ノイズとなり得る画像(重機が撮像された場合や、作業員が撮像された場合、照明の当たり方に変化があった場合等の画像)をノイズパターン画像として加えた合成画像を生成し、このノイズパターン画像については「ノイズ」としてラベルと付与することで教師データを生成するようにしてもよい。これにより、学習部404は、切羽画像と当該切羽画像に含まれるノイズパターンに該当する画素との関係を学習することも可能となり、クラックがあるか否かの判定をする際に、ノイズパターンに該当する領域であるか否かを検出することもでき、よりノイズに対する強さをより向上させることができる。
また、本実施形態においては、鏡吹付けコンクリートにクラックが発生した切羽を撮像した切羽画像だけではなく、切羽画像に対してクラック画像を合成した合成画像も用いるようにした。実際のトンネル切羽において、鏡吹付けコンクリートにクラックが発生する頻度は低く、また実験によって得られるクラックパターンは限られている。そのため、実際にクラックが発生した切羽の画像を大量に準備することが容易ではないが、本実施形態によれば、写真合成等によって人為的にクラックを表現した合成画像を用いるようにしたので、大量のクラックパターンやノイズパターンを学習用データとして作成することができ、AIの学習効率および判定精度の向上を実現することが可能となる。
また、以上説明した実施形態において、クラック検出装置40が、データ加工部401、付与部402、教師データ生成部403、学習部404を有する場合について説明したが、これらのデータ加工部401、付与部402、教師データ生成部403、学習部404の機能を、クラック検出装置40とは別の装置に設け、当該別の装置を学習装置として構成するようにしてもよい。そして学習装置において学習することで得られた学習済モデルをクラック検出装置40の記憶部405に書き込むようにしてもよい。
また、学習済モデルを、切羽施工の現場に設置されたコンピュータに記憶させ、検出部406、出力部407の機能を実現するためのプログラムを当該コンピュータにおいて実行するようにしてもよい。これにより、カメラ10において撮像された切羽画像をインターネットを経由してコンピュータに送信し、このコンピュータにおいてクラックの有無を検出し、端末装置20に結果を送信するといった、インターネットを経由することなく、クラックを検知し警告することができるようになり、これにより、インターネットの経由によって生じる遅延の影響を受けることがなく、即時性を持たせることができる。
上述した実施形態におけるデータ加工部401、付与部402、教師データ生成部403、学習部404の機能を学習装置としてコンピュータで実現するようにしてもよい。また、上述した実施形態における検出部406、出力部407機能をクラック検知装置としてコンピュータで実現するようにしてもよい。その場合、これらの機能を実現するためのそれぞれのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA(Field Programmable Gate Array)等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
1…切羽監視システム、10…カメラ、20,20a,20b…端末装置、30…操作端末、40…クラック検出装置、401…データ加工部、402…付与部、403…教師データ生成部、404…学習部、405…記憶部、406…検出部、407…出力部
Claims (6)
- 吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習する学習部
を有する学習装置。 - 前記切羽画像に対してクラックを表す画像を合成する合成部と、
前記合成された画像に基づいて、前記クラックを表す画像に対応する画素についてクラックを表すラベルを付与部と、
前記合成された画像に対して前記ラベルが付与されることで教師データを得る教師データ生成部と、
を有する請求項1に記載の学習装置。 - 吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習した学習済みモデルに対し、判定対象である切羽画像を入力し、前記判定対象の切羽画像に対してセグメンテーションすることでクラックに対応する領域があるか否かを検出する検出部と、
前記検出部によってクラックがあると検出された場合に、アラート情報を出力する出力部と、
を有するクラック検出装置。 - コンピュータである学習装置が学習する学習方法であって、
前記コンピュータの学習部が、吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習する
学習方法。 - 合成部が、前記切羽画像に対してクラックを表す画像を合成し、
付与部が、前記合成された画像に基づいて、前記クラックを表す画像に対応する画素についてクラックを表すラベルを付与し、
前記学習部が、前記合成部によって合成された画像に対して前記付与部によってラベルが付与された教師データを用いて切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習する請求項4に記載の学習方法。 - クラック検出装置の検出部が、
吹付けコンクリートが施工された切羽が撮像された切羽画像における画素のうち、前記吹付けコンクリートに存在するクラックに対応する画素に対してクラックを表すラベルが付与された教師データを用いて、切羽画像と当該切羽画像に含まれるクラックに対応する画素との関係を学習した学習済みモデルに対し、判定対象である切羽画像を入力し、前記判定対象の切羽画像に対してセグメンテーションすることでクラックに対応する領域があるか否かを検出し、
前記クラック検出装置の出力部が、
前記検出部によってクラックがあると検出された場合に、アラート情報を出力する
クラック検出方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020089124A JP2021184163A (ja) | 2020-05-21 | 2020-05-21 | 学習装置、クラック検出装置、学習方法、クラック検出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020089124A JP2021184163A (ja) | 2020-05-21 | 2020-05-21 | 学習装置、クラック検出装置、学習方法、クラック検出方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021184163A true JP2021184163A (ja) | 2021-12-02 |
Family
ID=78767410
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020089124A Pending JP2021184163A (ja) | 2020-05-21 | 2020-05-21 | 学習装置、クラック検出装置、学習方法、クラック検出方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021184163A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7217570B1 (ja) * | 2022-08-04 | 2023-02-03 | 株式会社センシンロボティクス | 情報処理システム及びプログラム、情報処理方法、サーバ |
-
2020
- 2020-05-21 JP JP2020089124A patent/JP2021184163A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7217570B1 (ja) * | 2022-08-04 | 2023-02-03 | 株式会社センシンロボティクス | 情報処理システム及びプログラム、情報処理方法、サーバ |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2019186915A1 (ja) | 異常検査装置および異常検査方法 | |
US20140226857A1 (en) | Information processing system, information processing method and program | |
US20200334801A1 (en) | Learning device, inspection system, learning method, inspection method, and program | |
CN114860182A (zh) | 显示信息的处理方法及装置、存储介质、电子设备 | |
JP2021184163A (ja) | 学習装置、クラック検出装置、学習方法、クラック検出方法 | |
CN114359383A (zh) | 一种图像定位方法、装置、设备以及存储介质 | |
JP7078295B2 (ja) | 変状検出装置、変状検出方法、及びプログラム | |
CN109886864A (zh) | 隐私遮蔽处理方法及装置 | |
JP2010271921A (ja) | 皮膚領域抽出方法、皮膚領域抽出装置、および皮膚領域抽出プログラム | |
JP7214437B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN114792354B (zh) | 模型处理方法、装置、存储介质及电子设备 | |
US11922659B2 (en) | Coordinate calculation apparatus, coordinate calculation method, and computer-readable recording medium | |
JP7453848B2 (ja) | 切羽画像加工装置、切羽画像加工方法 | |
JP2020095017A (ja) | 情報処理装置、その制御方法、プログラム、及び記憶媒体 | |
CN114693955A (zh) | 比对图像相似度的方法与装置及电子设备 | |
JP2008269264A (ja) | 画像処理による多導体電線の追跡方法、装置及びプログラム並びにこれを用いた多導体電線の異常検出方法、装置及びプログラム | |
US20240062389A1 (en) | Monitoring apparatus, monitoring system, monitoring method, and computer-readable storage medium | |
CN112288774B (zh) | 移动侦测方法、装置、电子设备及存储介质 | |
JP2012147161A (ja) | 情報処理装置およびプログラム | |
US20230202030A1 (en) | Work system, machine learning device, and machine learning method | |
US20240169552A1 (en) | Image processing apparatus, image processing method, and storage medium | |
WO2023152810A1 (ja) | 画像処理装置、画像処理方法およびプログラム | |
US20240078720A1 (en) | Image processing apparatus, image processing method, and non-transitory computer readable storage medium | |
WO2023188292A1 (ja) | 検出装置、検出システム、検出方法及び非一時的なコンピュータ可読媒体 | |
JP2011151743A (ja) | 監視プログラム及び監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230309 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240123 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240206 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240401 |