JP7438220B2 - 鉄筋判定装置および鉄筋判定方法 - Google Patents

鉄筋判定装置および鉄筋判定方法 Download PDF

Info

Publication number
JP7438220B2
JP7438220B2 JP2021537556A JP2021537556A JP7438220B2 JP 7438220 B2 JP7438220 B2 JP 7438220B2 JP 2021537556 A JP2021537556 A JP 2021537556A JP 2021537556 A JP2021537556 A JP 2021537556A JP 7438220 B2 JP7438220 B2 JP 7438220B2
Authority
JP
Japan
Prior art keywords
reinforcing bar
image
sample
bar image
reinforcing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021537556A
Other languages
English (en)
Other versions
JPWO2021024499A5 (ja
JPWO2021024499A1 (ja
Inventor
幸人 古橋
健二 猪瀬
進 深道
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kajima Corp
Original Assignee
Kajima Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kajima Corp filed Critical Kajima Corp
Publication of JPWO2021024499A1 publication Critical patent/JPWO2021024499A1/ja
Publication of JPWO2021024499A5 publication Critical patent/JPWO2021024499A5/ja
Application granted granted Critical
Publication of JP7438220B2 publication Critical patent/JP7438220B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E04BUILDING
    • E04GSCAFFOLDING; FORMS; SHUTTERING; BUILDING IMPLEMENTS OR AIDS, OR THEIR USE; HANDLING BUILDING MATERIALS ON THE SITE; REPAIRING, BREAKING-UP OR OTHER WORK ON EXISTING BUILDINGS
    • E04G21/00Preparing, conveying, or working-up building materials or building elements in situ; Other devices or measures for constructional work
    • E04G21/12Mounting of reinforcing inserts; Prestressing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Architecture (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Civil Engineering (AREA)
  • Structural Engineering (AREA)
  • Image Analysis (AREA)

Description

本発明は、鉄筋判定装置および鉄筋判定方法に関する。
建築土木現場では、建築物や土木構造物等の構造物の施工検査が行われている。例えば、鉄筋コンクリート造の建築物等の工事では、コンクリートを打設する前に、配筋図に従って配筋の検査が行われる。配筋検査では、例えば、使用された鉄筋の径および本数、並びに鉄筋間の間隔などを特定し、配筋図に従って鉄筋が設置されているかなどの検査が行われる。
また、配筋検査を支援するために、配筋を撮影した画像から工事で使用された鉄筋に関する情報を収集する技術が開発されている。例えば、検査対象とする鉄筋の径を特定することに関連する技術が知られている(例えば、特許文献1)。
特開2015-001146号公報
しかしながら、配筋検査で収集される鉄筋の情報には、高い精度が求められることがある。例えば、構造物の強度を検査するうえで、鉄筋の径は、構造強度を決める重要なパラメータであり、配筋検査において正確な計測が求められる。そのため、配筋を撮影した画像から鉄筋に関する情報を高い精度で特定することのできる技術の提供が望まれている。
1つの側面では、本発明は、鉄筋の写る画像からの鉄筋に関する情報の特定精度を向上させることを目的とする。
本発明の一つの態様の鉄筋判定装置は、鉄筋が写るサンプル鉄筋画像およびサンプル鉄筋画像から抽出された特徴情報の少なくとも一方と、サンプル鉄筋画像に写る鉄筋の種別を示す種別情報とを対応づけた情報を含む鉄筋情報を記憶する記憶部と、判定対象の鉄筋が写る鉄筋画像の入力を受け付ける入力部と、鉄筋情報に基づいて、サンプル鉄筋画像と鉄筋画像との類似度を評価する評価部と、類似度の評価結果に基づいて、鉄筋画像とサンプル鉄筋画像とが所定の条件を満たして類似している場合に、サンプル鉄筋画像と対応する種別情報を出力する出力部と、を備え、種別情報は、鉄筋の径に基づいて分類された種別を含み、評価部は、サンプル鉄筋画像および鉄筋画像を鉄筋の画素値を鉄筋の長手方向にフーリエ変換して得られる周波数スペクトルの所定の周波数範囲の波形の類似度と前記周波数スペクトルに含まれる複数のピークの周波数の類似度により前記サンプル鉄筋画像と前記鉄筋画像との類似度を評価することを特徴とする。
一つの態様によれば、鉄筋の写る画像からの鉄筋に関する情報の特定精度を向上させることができる。
実施形態に係る施工済みの鉄筋の撮影を例示する図である。 実施形態に係る鉄筋判定システムを例示する図である。 実施形態に係る鉄筋判定装置のブロック構成を例示する図である。 実施形態に係る鉄筋判定処理を説明する図である。 実施形態に係る画像からの鉄筋に関する情報の収集を例示する図である。 実施形態に係る学習済みモデルの生成を例示する図である。 例示的な正対変換を示す図である。 鉄筋の写る画像の回転を例示する図である。 第1の実施形態に係る鉄筋情報を例示する図である。 第1の実施形態に係る種別判定処理の動作フローを例示する図である。 回転角に応じた鉄筋の異なる形状を例示する図である。 第2の実施形態に係る鉄筋情報を例示する図である。 第3の実施形態に係る鉄筋情報を例示する図である。 多段階での画像を用いた種別の判定を例示する図である。 第5の実施形態に係る検査情報を例示する図である。 鉄筋画像の表面の塗料に起因する周波数スペクトルにおけるノイズを説明する図である。 第7の実施形態に係る鉄筋の種別判定を例示する図である。 実施形態に係る鉄筋判定装置を実現するためのコンピュータのハードウェア構成を例示する図である。
以下、図面を参照しながら、本発明のいくつかの実施形態について詳細に説明する。なお、複数の図面において対応する要素には同一の符号を付す。
上述のように、配筋を撮影した画像から工事で使用された鉄筋に関する情報を収集する技術の開発が進められている。
ここで、JIS(日本規格協会)規格では、鉄筋の径に対して鉄筋の節間隔の最大値を定めている。そのため、配筋を撮影した画像から、工事で使用された鉄筋に関する情報を特定する一つの手法として、例えば、径の異なる複数の鉄筋について、鉄筋の径と節間隔とを対応づけた情報を用意する。そして、画像から鉄筋の節間隔を特定し、特定した節間隔と対応づけられた鉄筋の径を、画像に写る鉄筋の径として推定することが考えられる。
しかしながら、鉄筋の節間隔は、ロットの違いによってばらつきがあり、あるいは、同じ鉄筋を撮影した画像であっても、撮影条件によって画像から検出される鉄筋の節間隔に差が生じ得る。
また、上述のように、JIS(日本規格協会)規格で定められているのは、鉄筋の径に対して鉄筋の節間隔の最大値であり、上限を定めているだけであるため、同じ径の鉄筋であっても、メーカが異なれば節間隔が異なっていることがある。また、異形鉄筋には、さまざまな種類があり、例えば、竹節の鉄筋と、ねじ節の鉄筋では、節間隔が同じであっても径が異なることがある。このように鉄筋の節の間隔が類似していても、異なる鉄筋種別であることがあり、節間隔に基づいて鉄筋の情報を正確に取得することが難しいことがある。そのため、配筋を撮影した画像から鉄筋の種別をより正確に特定することのできる技術の提供が望まれている。
以下で述べる実施形態では、サンプル鉄筋画像と、そのサンプル鉄筋画像に写っている鉄筋の種別を示す種別情報とを対応づけた情報が予め記憶装置に記憶される。そして、配筋検査などにおいて種別を判定する対象の鉄筋が写る画像が入力された場合に、その画像から判定対象の鉄筋の写る領域を抽出した鉄筋画像を作成し、その鉄筋画像と、サンプル鉄筋画像との類似度を評価する。そして、類似度の評価結果に基づいて、判定対象の鉄筋画像とサンプル鉄筋画像とが所定の条件を満たして類似している場合に、サンプル鉄筋画像に対応づけられている種別情報を、鉄筋画像に写る鉄筋の種別として出力する。
このように、実施形態によれば画像の類似度を評価することで、判定対象の鉄筋画像と類似するサンプル鉄筋画像を特定し、それによって判定対象の鉄筋画像に写る鉄筋の種別を判定する。そのため、画像から抽出することが可能なさまざまな特徴情報を、類似度の評価に利用することができ、高い精度で判定対象の鉄筋画像に写る鉄筋の種別を判定することが可能である。以下、実施形態を更に詳細に説明する。
図1は、実施形態に係る施工済みの鉄筋の撮影を例示する図である。図1に示す様に、ユーザは、工事現場で、検査対象となる鉄筋101を、撮影装置102を用いて撮影する。撮影装置102は、例えば、単眼のカメラであっても、またはステレオカメラであってよい。
図2は、実施形態に係る鉄筋判定システム200を例示する図である。鉄筋判定システム200は、例えば、撮影装置102および鉄筋判定装置201を含む。撮影装置102と鉄筋判定装置201は、例えば、ネットワーク205を経由して接続されてよい。ネットワーク205は、例えば、LAN(Local Area Network)およびインターネットである。また、別の実施形態では、撮影装置102および鉄筋判定装置201は、近距離無線通信または有線で接続されていてよく、或いは、撮影装置102および鉄筋判定装置201は一体の装置として統合されていてもよい。
鉄筋判定装置201は、例えば、演算機能を備えるコンピュータであり、一例では、パーソナルコンピュータ(PC)、ノートPC、およびタブレット端末である。鉄筋判定装置201は、例えば、撮影装置102で撮影された配筋の画像を取得し、画像に写る配筋を解析して、配筋に使用されている鉄筋の情報を収集してよい。
図3は、実施形態に係る鉄筋判定装置201のブロック構成を例示する図である。鉄筋判定装置201は、例えば、制御部301、記憶部302、表示部303、および通信部304を含む。制御部301は、例えば、鉄筋判定装置201の各部を制御する。例えば、制御部301は、入力部311、評価部312、出力部313、および判定部314として動作する。記憶部302は、例えば、撮影装置102で撮影された画像、後述する鉄筋情報、サンプル鉄筋画像、サンプル鉄筋画像から抽出された特徴情報などを記憶していてよい。表示部303は、例えば、液晶ディスプレイなどの表示装置である。表示部303は、制御部301の指示に従って表示画面に情報を表示する。通信部304は、例えば、制御部301の指示に従って撮影装置102と通信する。これらの各部の詳細および記憶部302に格納されている情報の詳細については後述する。
図4は、実施形態に係る鉄筋判定処理を説明する図である。図4に示すように、鉄筋判定装置201の記憶部302には、鉄筋情報401が記憶されている。図4の鉄筋情報401の例では、種別情報として鉄筋径を示すD41、D25などの鉄筋の種別と、その種別の鉄筋を撮影したサンプル鉄筋画像とが、鉄筋の異なる複数の種別ごとに対応づけて登録されている。
また、図4には、例えば、ユーザが配筋検査の際などに施工済みの鉄筋を撮影することで得られる鉄筋を写した画像403が示されている。そして、制御部301は、例えば、画像403から種別の判定対象の鉄筋の写る画像領域を抽出して鉄筋画像404を作成する。そして、制御部301は、鉄筋画像404と、鉄筋情報401に登録されているそれぞれのサンプル鉄筋画像との類似度を評価する。続いて、制御部301は、類似度の評価結果に基づいて、判定対象の鉄筋画像404と類似するサンプル鉄筋画像を特定し、そのサンプル鉄筋画像と対応づけられている種別情報を判定対象の鉄筋の種別として出力する。例えば、図4では、D41の鉄筋が最も類似度の高い鉄筋として評価されており、判定対象の鉄筋の径がD41であることが特定できる。そして、画像間の類似度は、画像から抽出した様々な特徴情報を用いて評価することができるため、評価精度の高い特徴情報を用いて類似度を評価したり、または、複数の特徴情報を用いて類似度を評価したりすることで、種別の判定精度を高めることが可能である。以下、類似度の評価についていくつかの例を説明する。
[類似度の評価例]
(評価例1)
評価例1では、画像から鉄筋の節間隔と幅に関連する情報を収集する。図5は、実施形態に係る画像からの鉄筋に関する情報の収集を例示する図である。図5(a)に示すように、制御部301は、例えば、画像の画素値を鉄筋の長手方向にフーリエ変換し、直流成分を除いて最大ピークの周波数の情報を取得してよい。鉄筋の長手方向の画素値の周波数成分のうちで、直流成分を除いた最大のピークの周波数は、節間隔と対応していることが推定される。そのため、制御部301は、例えば、鉄筋の長手方向にフーリエ変換した周波数スペクトルにおいて直流成分を除いて最大のピークの周波数を特定する。最大のピークの周波数は、一例では、周波数スペクトルにおいて最大強度の極大値の周波数として特定されてよい。なお、画素値は、画像の画素に関する値であってよく、例えば、輝度値および色値である。
また、図5(a)に示すように、制御部301は、画像に写る鉄筋の長手方向と略平行に延びる鉄筋のエッジを検出する。一例では、制御部301は、画像に対してエッジ検出の処理をかけて、鉄筋の長手方向に対して直交する方向に、鉄筋の長手方向と略平行なエッジの探索を行い、鉄筋のエッジを検出してよい。エッジ検出は、例えば、Sobelフィルタなどを用いる手法などの既存の様々な手法を用いて実施することができる。そして、制御部301は、検出した鉄筋の長手方向に略平行な両端のエッジ間の距離を、画像に写る鉄筋の幅として特定してよい。
そして、制御部301は、特定した最大ピークの周波数の情報と、エッジ間の距離の情報とを判定対象の鉄筋画像と、サンプル鉄筋画像との間で比較し、2つの画像の類似度を評価する。一例では、制御部301は、2つの画像の最大ピークの周波数の差分の大きさと、2つの画像のエッジ間の距離の差分との合算値(例えば、重み付き加算)を類似度の評価の指標として用いてよい。即ち、この場合、制御部301は、合算値が小さいほど、サンプル鉄筋画像と、判定対象の鉄筋画像との類似度が高いと評価してよい。
以上で述べたように、評価例1では、画像から抽出した最大ピークの周波数と、エッジ間の距離との2つを特徴情報として用いて、判定対象の鉄筋画像と、サンプル鉄筋画像との類似度を評価している。そのため、例えば、節間隔が似ている鉄筋であっても、幅方向の情報をもとに区別することができ、より正確に類似度を評価して、判定対象の鉄筋の種別を判定することができる。
(評価例2)
評価例2では、画像の画素値を鉄筋の長手方向にフーリエ変換して得た周波数スペクトルの直流成分を除いたピークのうちで、複数のピークの周波数の情報を取得する。図5(b)は、実施形態に係る周波数スペクトルから複数の周波数の情報を特徴情報として収集する例を示している。図5(b)に示すように、制御部301は、最大ピーク以外のピークの周波数も収集して類似度の評価に用いてよい。複数の周波数の情報を用いて比較を行うことで、節間隔以外の例えばメーカや同一メーカのロットごとの節の形状の微細な違いなどに応じた周波数成分の比較を実行することができる。その結果、より正確に判定対象の鉄筋画像と、サンプル鉄筋画像との類似度を評価することができる。
なお、比較対象とする複数の周波数成分は様々な方法で決定することができる。例えば、画像の画素値を鉄筋の長手方向にフーリエ変換して得られる周波数スペクトルの複数の周波数成分のうち、ピーク強度が上位の所定の数のピークを抽出してもよく、または、低周波数側から所定の閾値以上の強度を有する所定数のピークを抽出してもよい。また、制御部301は、判定対象の鉄筋画像と、サンプル鉄筋画像との間でのピークの比較を、低周波数側から順に比較するなどピークを抽出した順序が同じピーク同士を比較してよく、別の実施形態では、最も近い周波数のピーク同士で比較を実行してもよい。そして、制御部301は、例えば、比較を行ったピークの周波数の差分の大きさを積算して、その合計値を類似度の評価の指標として用いてよい。即ち、この場合、制御部301は、合計値が小さいほど、サンプル鉄筋画像と、判定対象の鉄筋画像との類似度が高いと評価してよい。
(評価例3)
鉄筋の長手方向に画像の画素値をフーリエ変換した波形同士を、判定対象の鉄筋画像と、サンプル鉄筋画像との間で比較して類似度を評価してもよい。一例として、波形の類似度の評価に積率相関係数を用いることができる。例えば、xおよびyを組みとするn組のデータ(x1, y1),(x2, y2),…,(xn, yn)があるとする。この場合に、組となったxおよびyの間の相関は、以下のピアソンの積率相関係数rxyの式を用いて計算することができる。
Figure 0007438220000001
ここで、上記の式において、オーバーライン(上線)が付されたxおよびyは、それぞれxおよびyの平均値を表す。また、式においてsxはxの標準偏差、syはyの標準偏差、sxyはxとyの共分散を表す。そして、例えば、ある鉄筋種別のサンプル鉄筋画像に写る鉄筋の長手方向の画素値をフーリエ変換して得られた周波数スペクトルの波形の周波数と対応する強度を、上記式のxで表現されるパラメータとする。また、判定対象の鉄筋画像に写る鉄筋の長手方向の画素値をフーリエ変換して得られた周波数スペクトルの波形の周波数と対応する強度を上記式のyで表現されるパラメータとする。この場合に、2つの画像から得られた周波数スペクトルにおいて同じ周波数における強度を組みとして上記の式に入力することで、相関係数rxyを求めることができ、得られたrxyを類似度の評価の指標として用いることができる。
このように、フーリエ変換した波形同士を比較することで、より多くの情報を用いることができるため、節間隔以外の例えばメーカごとや同一メーカのロットごとの節の形状の微細な違いに応じた周波数成分の比較を実行することができる。その結果、より正確に判定対象の鉄筋画像と、サンプル鉄筋画像との類似度を評価することができる。
(評価例4)
画像内に写る鉄筋の長手方向の画素値の周波数の情報に加えて、鉄筋の長手方向に直交する鉄筋の幅方向の画素値の周波数の情報を類似度の評価に用いてもよい。図5(c)は、幅方向の画素値の周波数スペクトルを例示する図である。なお、図5(c)では、画像内の鉄筋の長手方向の異なる位置で複数の幅方向の画素値を取得し、それらを合成して幅方向の周波数スペクトルの生成に用いている。それにより、1つの位置で幅方向の画素値の特徴を収集するよりも鉄筋の幅方向の特徴を多く取得でき、鉄筋の種別の判定精度を向上させることが可能である。なお、合成は、様々な方法で実行することができ、例えば、複数の位置における幅方向の画素値を1つにつなぎ合わせることで実行されてもよく、また、画素値の平均をとることで実行されてもよい。しかしながら、実施形態は、1つの位置で幅方向の画素値の特徴を収集してもよい。
そして、制御部301は、鉄筋の長手方向の画素値の周波数スペクトルと、幅方向の画素値の周波数スペクトルとを用いて、判定対象の鉄筋画像と、サンプル鉄筋画像との類似度を評価してよい。周波数スペクトルの類似度の評価は、例えば、上述のように、判定対象の鉄筋画像とサンプル鉄筋画像との2つの画像から取得された周波数スペクトルにおいて対応するピークの周波数の差分の合算値や平均値を指標として用いることで実行することができる。或いは、周波数スペクトルの周波数に対する強度を入力として積率相関係数を用いて類似度を評価してもよい。
また、長手方向の画素値の周波数スペクトルと、幅方向の画素値の周波数スペクトルとは、一例では、1つの類似度の評価に用いられてよい。また、別の例では、まず、長手方向の画素値の周波数スペクトルを用いた類似度の評価で上位の所定の数のサンプル鉄筋画像を特定する。その後、幅方向の画素値の周波数スペクトルを用いた類似度の評価で更に最も似ているサンプル鉄筋画像を特定するというように、個別に類似度の評価を実行し、多段階で類似するサンプル鉄筋画像を特定してもよい。
(評価例5)
画像に写る鉄筋の長手方向の画素値の波形をそのまま、判定対象の鉄筋画像と、サンプル鉄筋画像との類似度の評価に用いてもよい。なお、この場合、画像の上辺または下辺など、軸方向の画素値の一方の端部から最初に検出されるピークの位置で、判定対象の鉄筋画像から得られた波形と、サンプル鉄筋画像から得られた波形とを位置合わせした後で、波形を用いた類似度の評価が行われてよい。類似度の評価は、例えば、画素値の波形におけるピークの周期を取得して比較を行ってもよいし、波形の軸方向の座標に対する画素値を入力として積率相関係数を用いて行ってもよい。
(評価例6)
判定対象の鉄筋画像と、サンプル鉄筋画像とで局所特徴量のマッチングを行い、類似度を評価してもよい。局所特徴量としては、例えば、SIFT(Scale-Invariant Feature Transform)、SURF(Speeded-Up Robust Features)などの種々の局所特徴量を用いることができる。
(評価例7)
フーリエ変換の結果から位相の情報を収集して類似度の評価に用いてもよい。例えば、判定対象の鉄筋画像と、サンプル鉄筋画像とに2次元フーリエ変換を行った結果から位相情報を取得し、位相画像を生成することが考えられる。位相画像では、鉄筋の輪郭の情報などが強調される。例えば、輝度画像では、鉄筋に光が上からあたっているか、下からあたっているかの違いで、画像中で鉄筋の明るく写る領域が変わることがある。しかしながら、位相画像では外形が強調されるため、撮影の際の鉄筋に対する光の照射角などの影響を受けにくい。そのため、位相画像を比較に用いることで類似度の評価精度を高めることが可能である。判定対象の鉄筋画像から得た位相画像と、サンプル鉄筋画像から得た位相画像との類似度の評価は、一例では、局所特徴量を用いたマッチングにより実行されてよい。
また、位相情報を用いて、例えば、位相限定相関法または回転不変位相限定相関法を実行し、判定対象の鉄筋画像とサンプル鉄筋画像との類似度を評価してもよい。
以上で、いくつかの類似度の評価法について例示した。なお、上述の評価例1から評価例7では、例えば、フーリエ変換の結果、周波数スペクトル、周波数、エッジ間の距離、波形、位相の情報、局所特徴量などを特徴情報として用いて類似度を評価している。これらの特徴情報は、いずれも鉄筋の画像から得られた情報であるため、これらの特徴情報を用いた類似度の評価により、鉄筋の画像の類似度を評価することができる。しかしながら、実施形態にかかる類似度の評価は上記に限定されるものではなく、上記の手法を組み合わせて用いても、またはその他の手法で類似度が評価されてもよい。
例えば、別の実施形態では、深層学習などの機械学習を用いて画像間の類似度を評価し、画像に写る鉄筋の種別を表す種別情報を出力することもできる。以下の評価例8では、機械学習を用いる場合について例示する。
(評価例8)
深層学習などの機械学習を行い得られた学習済みモデルを用いて、判定対象の鉄筋画像に写る鉄筋の種別を特定してもよい。図6は、実施形態に係る学習済みモデルの生成を例示する図である。例えば、鉄筋を写したサンプル鉄筋画像と、そのサンプル鉄筋画像に写る鉄筋の種別を示す種別情報と対応づけた複数の情報を学習の教師データとして用いる(図6(a))。そして、例えば、入力層に入力されたサンプル鉄筋画像に対して、そのサンプル鉄筋画像に写る鉄筋の種別情報を出力層から出力するように、ニューラルネットワークの重み付けを学習することで学習済みモデルが生成されてよい(図6(b))。制御部301は、得られた学習済みモデルに、判定対象の鉄筋画像を入力することで、学習済みモデルから鉄筋画像と対応する鉄筋の種別情報の出力を受けることができる(図6(c))。また、一例として、シャムネットワーク(Siamese Network)を用いて学習が実行されてもよい。シャムネットワークは、例えば、2つの画像を入力として、その画像どうしが似ているか似ていないかの距離を算出するのに適したネットワークである。また、機械学習手法としては、深層学習に限られるものではなく、サポートベクターマシン(support vector machine:SVM)等を用いてもよい。
なお、学習済みモデルは、例えば、利用の段階で、学習済みモデルに鉄筋画像を入力し、鉄筋画像に写る鉄筋の種別を判定し終わった場合、その鉄筋画像と判定結果の種別情報とを教師データとして、更なる学習が実行されてもよい。
例えば、以上で述べたように、判定対象の鉄筋画像とサンプル鉄筋画像との類似度は、様々な手法を用いて評価することができる。
[鉄筋画像の正規化]
続いて、鉄筋画像の正規化について説明する。例えば、施工検査の現場で撮影された画像に写る判定対象の鉄筋画像と、サンプル鉄筋画像との類似度の評価は、2つの画像に写る鉄筋の撮影条件ができるだけ揃っていた方が、類似度の評価精度が向上する。例えば、判定対象の鉄筋画像とサンプル鉄筋画像とで、画像に写る鉄筋の向きはおおよそ揃っている方が類似度の比較において好ましい。また、画像に写る鉄筋のサイズも、実際の鉄筋のサイズに対して同じ比率で拡大または縮小されて写っている方が、画像間での鉄筋のサイズの比較が可能となるため、好ましい。
そのため、例えば、施工検査の現場で判定対象の鉄筋を撮影するユーザは、判定対象の鉄筋を撮影する向き、距離、および焦点距離などの撮影条件が、サンプル鉄筋画像の撮影の際に用いた撮影条件と所定の誤差範囲内で一致するように撮影を行ってよい。それにより、判定対象の鉄筋画像とサンプル鉄筋画像との類似度の評価精度を向上させることができる。
しかしながら、例えば、撮影方向、撮影距離、および焦点距離などの撮影条件が異なる条件で撮影された画像があったとする。この場合でも、撮影方向を揃えたり、2つの画像に写る鉄筋のサイズが、実際の鉄筋のサイズでの比を反映するように変更したりなど、画像を正規化することが可能である。そのため、制御部301は、例えば、鉄筋の写る画像を撮影した撮影装置と、鉄筋画像に写る鉄筋との相対的な位置姿勢に関する情報に基づいて、撮影装置と鉄筋画像に写る鉄筋との相対的な位置姿勢が所定の関係となるように鉄筋の写る画像を正規化してよい。鉄筋の写る画像を撮影した撮影装置と、鉄筋画像に写る鉄筋との相対的な位置姿勢に関する情報は、一例では、記憶部302に記憶されていてよい。以下、画像の正規化の例として、まず、撮影方向の正対化について説明する。
(撮影方向の正対化)
制御部301は、例えば、類似度の評価に用いる鉄筋を撮影して得られた画像内での鉄筋の向きを、所定の向きに変換する処理を実行してよい。一例では、制御部301は、画像に写る鉄筋が、撮影装置の光軸に対して正対するように画像内での鉄筋の向きを変更してよい。なお、正対するとは、例えば、鉄筋が含まれる平面の法線方向と、撮影装置の撮影方向(例えば、光軸)とが略平行になる位置姿勢の関係であってよい。施工検査の現場では、撮影環境の制限などによって判定対象の鉄筋に正対した位置から撮影することが難しいことがある。この場合に、制御部301は、画像に写る判定対象の鉄筋の向きを、正対する位置から撮影した際の鉄筋の向きとなるように画像変換する処理を実行してよい。なお、画像内に略平行に配置された複数の判定対象の鉄筋ある場合には、制御部301は、例えば、複数の判定対象の鉄筋が含まれる平面の法線方向と、撮影装置の撮影方向とが略平行になるように、画像を正対変換する処理を実行してよい。
図7は、例示的な正対変換を示す図である。図7(a)では、撮影装置102の撮影方向に対して判定対象の複数の鉄筋を含む平面が傾いている状態が例示されており、画像において鉄筋が斜めの向きで撮影されている。また、図7(b)は、正対変換後の状態を示しており、判定対象の鉄筋群を含む平面の法線方向に対して、撮影装置102の撮影方向が略平行になるように、鉄筋群を含む平面が回転されている。
なお、正対変換は、例えば、以下のように実行することができる。例えば、図7(a)に示すように複数の鉄筋101を含む平面に対して斜めから撮影された画像において、制御部301は、格子状に組まれた鉄筋が形成する矩形の四隅の指定をユーザから受け付けてよい。そして、制御部301は、指定された四隅の点で示される矩形の平面を正対させるようにホモグラフィ行列を決定し、決定したホモグラフィ行列を用いて、画像全体の正対変換を実行してよい。
また、例えば、判定対象の複数の鉄筋が写る鉄筋画像がステレオカメラで撮影されているとする。この場合、制御部301は、例えば、ステレオ画像の左視点画像と右視点画像とでステレオマッチングを実行することで、画素と対応する3次元データを生成することができる。そして、制御部301は、得られた3次元データで表される判定対象の鉄筋群を含む平面の法線ベクトルと、撮影装置102の撮影方向とが略平行になるように平面の3次元データを回転させる行列を特定する。そして、制御部301は、その求めた行列の情報に基づいて、ステレオ画像の左視点画像または右視点画像を正対した向きに変換するホモグラフィ行列を特定し、特定したホモグラフィ行列を用いて正対画像を生成してもよい。
(鉄筋の長手方向の向きの正規化)
判定対象の鉄筋画像における鉄筋の長手方向の向きと、サンプル鉄筋画像に写る鉄筋の長手方向の向きとは、略平行となる向きで類似度の判定を実行することが好ましい。そのため、制御部301は、判定対象の鉄筋画像と、サンプル鉄筋画像とで画像に写る鉄筋の長手方向の向きが略平行になるように、画像を回転させる正規化を行ってもよい。
図8は、鉄筋の写る画像の回転を例示する図である。図8では、画像に写る鉄筋の長手方向の向きを、縦方向に合わせるように回転させる場合を例示している。図8に示すように、画像に写る鉄筋の長手方向の向きを、縦方向など所定の向きに揃えるように回転させることで、サンプル鉄筋画像に写る鉄筋の長手方向と、判定対象の鉄筋画像に写る鉄筋の長手方向とを略平行にすることができる。それによって、類似度の評価精度を向上させることができる。
(画像サイズの正規化)
画像サイズについても、例えば、類似度を評価する2つの画像において鉄筋上の所定の長さが、実空間における鉄筋の同じ長さを表すように、正規化されることが望ましい。なお、画像サイズの正規化は、例えば、以下のように実施することができる。
例えば、画像がステレオカメラで撮影されている場合には、制御部301は、ステレオマッチングにより画素と対応する3次元データを取得することができる。そして、制御部301は、画像内の鉄筋上での所定の長さが、その鉄筋の3次元データにおける実寸でどのくらいの長さと対応しているのかを特定することができる。そのため、例えば、これらの情報を用いて、制御部301は、画像に写る鉄筋上の所定の長さが、実空間における鉄筋上で所定の実寸の長さと対応づくように、画像サイズを正規化することができる。
また、例えば、単眼のカメラで撮影された画像であっても、撮影に用いられた撮影装置102の焦点距離と、撮影装置から被写体までの距離とが分かれば、画像上のサイズと対応する実寸を求めることが可能である。そのため、これらの情報を用いて、画像に写る鉄筋上の所定の長さが、実空間における鉄筋上で所定の実寸の長さと対応づくように、画像サイズを正規化してもよい。
そして、以上のように、画像サイズを正規化することで、画像に写る鉄筋のサイズを比較することで、実際の鉄筋のサイズの類似度を評価することが可能になる。
なお、例えば、3次元データや、画像の撮影に用いられた撮影装置102の焦点距離および撮影装置102から被写体までの距離の情報などの正規化処理に用いられる撮影装置と被写体との間の位置姿勢に関する情報は記憶部302に記憶されていてよい。また別の実施形態では、制御部301は、例えば、ユーザに入力させてこれらの情報を取得してもよい。或いは、制御部301は、レーザスキャナで鉄筋をスキャンしたデータに基づいて3次元データや、撮影距離の情報を取得してもよい。更には、制御部301は、所定のスケール等を種別の判定対象の鉄筋の付近に設置して画像の撮影を行い、実空間における寸法の情報を画像から取得してもよい。
以上で述べたように、類似度の評価に用いる鉄筋画像に適切な正規化を行うことで、類似度の評価精度を高めることができる。なお、画像の正規化は、さまざまなタイミングで実行されてよい。例えば、制御部301は、サンプル鉄筋画像の正規化を、鉄筋情報401へのサンプル鉄筋画像の登録時に実行してもよく、或いは、判定対象の鉄筋の画像との類似度の評価の際に実行してもよく、その両方のタイミングで実行してもよい。
ところで、上述の図4に示す例では、画像403から種別の判定対象の鉄筋の写る画像領域を抽出して鉄筋画像404を作成している。鉄筋画像404の作成は、例えば、ユーザに判定対象の鉄筋の写る画像領域を選択させて実行してもよいし、別の実施形態では、制御部301が自動で判定対象の鉄筋の写る画像領域を検出し実行してもよい。また、制御部301は、上述の正対変換、鉄筋の長手方向の向きの正規化、および画像サイズの正規化についても、ユーザからの情報の入力を受けて実行しても、自動で実行してもよい。そして、例えば、これらの正規化の処理に、上述の特許文献1に記載される技術や、国際公開第2018/180442号に記載される技術が利用されてもよい。
(第1の実施形態)
続いて、図9および図10を参照して、第1の実施形態を説明する。図9は、第1の実施形態に係る鉄筋情報900を例示する図である。鉄筋情報900は、上述の鉄筋情報401の一例である。鉄筋情報900には、例えば、種別情報と、サンプル鉄筋画像情報とが対応づけられたレコードが登録されている。図9の例では、種別情報は、メーカ、径、節の種別の情報を含んでいる。メーカは、レコードのサンプル鉄筋画像に写る鉄筋の製造メーカを識別するための情報である。径は、例えば、レコードのサンプル鉄筋画像に写る鉄筋の径を示す情報である。節の種別は、例えば、レコードのサンプル鉄筋画像に写る鉄筋の節の種別を示す情報であり、一例では、竹節またはネジ節の情報が登録されていてよい。また、サンプル鉄筋画像情報には、例えば、サンプル鉄筋画像の画像データまたは記憶部302におけるサンプル鉄筋画像の保存場所などを示す情報が登録されていてよい。制御部301は、鉄筋情報900を参照することで、判定対象の鉄筋画像との類似度の評価に用いるサンプル鉄筋画像の情報を取得することができる。
続いて、第1の実施形態に係る種別判定処理を説明する。図10は、第1の実施形態に係る種別判定処理の動作フローを例示する図である。鉄筋判定装置201の制御部301は、例えば、種別の判定対象の鉄筋画像の入力を受け付け、入力されると、図10の動作フローを開始してよい。なお、判定対象の鉄筋画像は、例えば、撮影装置102から制御部301に入力されてもよいし、記憶部302からユーザにより指定された鉄筋画像を読み出すことで制御部301に入力されてもよい。
ステップ1001(以降、ステップを“S”と記載し、例えば、S1001と表記する)において鉄筋判定装置201の制御部301は、鉄筋情報900を参照し、複数のサンプル鉄筋画像を読み出す。例えば、制御部301は、鉄筋情報900に登録されている全てのレコードと対応するサンプル鉄筋画像を読み出してよい。
S1002において制御部301は、入力された判定対象の鉄筋画像と、読み出した複数のサンプル鉄筋画像との類似度を評価する。画像の類似度の評価は、様々な手法を用いて実行することができ、制御部301は、例えば、上述の評価例1から評価例7の手法を用いて、または組み合わせて類似度を評価してよい。
S1003において制御部301は、類似度の評価結果に基づいて、読み出した複数のサンプル鉄筋画像のうちで、所定の条件を満たして類似しているサンプル鉄筋画像を特定する。所定の条件は、一例では、類似度の評価結果に基づいて、読み出したサンプル鉄筋画像のうちで最も類似していると評価されることであってよい。また、別の実施形態では、例えば、類似度の評価に用いた指標が高いほど類似していることを示す場合には、所定の条件は、類似度の評価に用いた指標が所定の閾値以上であることであってよい。一方、例えば、類似度の評価に用いた指標が低いほど類似していることを示す場合には、所定の条件は、類似度の評価に用いた指標が所定の閾値以下であることであってよい。類似の評価に用いた指標は、例えば、評価例1で述べた差分の合算値、評価例2で述べた差分の大きさを積算した合計値、積率相関係数、局所特徴量のマッチングの結果、位相限定相関法および回転不変位相限定相関法の実行結果などを含んでよい。
S1004において制御部301は、所定の条件を満たして類似しているサンプル鉄筋画像と鉄筋情報401において対応づけられる種別情報を特定する。そして、S1005において制御部301は、特定した種別情報を出力して本動作フローは終了する。なお、例えば、判定対象の鉄筋画像と所定の条件を満たして類似しているサンプル鉄筋画像が複数あるとする。この場合、制御部301は、その複数のサンプル鉄筋画像のそれぞれと対応する鉄筋の種別情報を全て出力してもよいし、それらのうちで径のサイズが最も小さい鉄筋の種別情報を出力してもよい。径のサイズが最も小さい鉄筋の種別情報を出力することで、例え判定された鉄筋の種別が誤っていたとしても、その種別を用いて計算される構造物が最低限有する強度を見積もることができる。
(第2の実施形態)
続いて、第2の実施形態について説明する。異形鉄筋にはリブや節などが形成されており、その形状は様々である。例えば、鉄筋の長手方向の軸を回転軸として鉄筋を回転させて、長手方向の軸に直交する定位置から観察すると、図11に示すように、回転角によって鉄筋が異なる形状をしていることがある。例えば、図11(a)では、鉄筋の全体に節が示されているが、図11(b)では、軸方向に一部において節が形成されていない。そして、このように、異なる形状をしている回転角で撮影された画像で類似度を評価すると、同じ種別の鉄筋の鉄筋画像同士で類似度を評価しても、類似度が低くなってしまうことがある。その結果、鉄筋の種別の判定精度が低下することがある。
そこで、第2の実施形態では、図12に例示するように、1つの種別に対して、複数の角度から撮影した鉄筋画像の情報が鉄筋情報1200のサンプル鉄筋画像情報に登録される。例えば、1つの種別の鉄筋に対し、鉄筋に正対した位置から鉄筋の長手方向を回転軸として回転させて複数のサンプル鉄筋画像を撮影する。そして、鉄筋情報1200には、1つの種別情報で識別されるレコードのサンプル鉄筋画像情報に、鉄筋を様々な角度から撮影した複数の鉄筋画像の情報が登録されてよい。
そして、例えば、上述のS1002の処理では、制御部301は、判定対象の鉄筋画像に対して、鉄筋情報1200において1つのレコードと対応する複数のサンプル鉄筋画像のそれぞれとの類似度を評価する。そして、S1003において制御部301は、その複数の類似度の評価結果に基づいて、鉄筋画像と所定の条件を満たして類似しているサンプル鉄筋画像のレコードを特定してよい。なお、一例では、制御部301はS1002において評価した複数のサンプル鉄筋画像のそれぞれとの類似度の指標の中から最も似ていると評価される指標の値を、そのレコードの種別のサンプル鉄筋画像との類似度の指標として用いてよい。
例えば、このように、様々な角度から撮影したサンプル鉄筋画像を用いて判定対象の鉄筋画像との類似度を評価し、種別を判定することで、見る角度によって形状の異なる鉄筋であっても類似度を適切に評価することができる。そのため、鉄筋の種別の判定精度を向上させることができる。
また、上記ではサンプル鉄筋画像を複数登録する例を述べているが、実施形態はこれに限定されるものではない。別の実施形態では、制御部301は、判定対象の複数の鉄筋画像の入力を受け付けてよく、S1002において複数の鉄筋画像のそれぞれとサンプル鉄筋画像との類似度を評価してよい。そして、S1003において制御部301は、その複数の類似度の評価結果に基づいて、複数の鉄筋画像と所定の条件を満たして類似しているサンプル鉄筋画像を特定してよい。一例では、制御部301はS1002において評価した複数の鉄筋画像のそれぞれとサンプル鉄筋画像との複数の類似度の指標の中から最も似ていると評価される指標の値を、そのレコードの種別のサンプル鉄筋画像との類似度の指標として用いてよい。
なお、入力される判定対象の複数の鉄筋画像は、上述のように異なる角度から撮影された鉄筋画像であってもよいし、別の例では、ほぼ同じ位置で撮影された複数の鉄筋画像であってもよい。この場合にも、例えば、撮影者の撮影の際の動きに起因する手振れなどの影響の出方が画像によって異なることがあり、また、照明の光の揺らぎなどに起因して異なる画像が撮影され得る。そのため、鉄筋の種別の判定精度を向上させることができる。なお、入力される複数の鉄筋画像は、例えば、連射撮影および動画撮影などにより撮影された複数の画像であってもよい。
(第3の実施形態)
上述の実施形態では、例えば、図9に示すように、記憶部302の鉄筋情報900のサンプル鉄筋画像情報には、サンプル鉄筋画像の情報が登録され、記憶部302にはサンプル鉄筋画像が保存されている場合の例を説明した。しかしながら、実施形態はこれに限定されるものではない。例えば、鉄筋情報900のサンプル鉄筋画像情報には、サンプル鉄筋画像の情報の代わりに、類似度の評価に用いるサンプル鉄筋画像から抽出された特徴情報が登録されてもよい。
図13は、第3の実施形態に係る鉄筋情報1300を例示する図である。図13の例では、鉄筋情報1300のサンプル鉄筋画像情報には、サンプル鉄筋画像に写る鉄筋の長手方向の画素値をフーリエ変換して得られた周波数スペクトルが格納されている。
そして、例えば、上述のS1001の処理では、制御部301は、鉄筋情報1300のサンプル鉄筋画像情報から周波数スペクトルを読み出し、S1002において入力された判定対象の鉄筋画像から得られた周波数スペクトルとの類似度を評価してよい。サンプル鉄筋画像から予め類似度の評価に用いる特徴情報を取得して鉄筋情報1300に登録しておくことで、類似度の評価のたびにサンプル鉄筋画像から特徴情報を取得する処理を削減することができる。また、記憶部302に、サンプル鉄筋画像を保存する必要がない。
なお、鉄筋情報1300のサンプル鉄筋画像情報に登録される特徴情報は、周波数スペクトルに限定されるものではなく、例えば、上述の評価例1~評価例7で類似度の評価に用いたその他の情報が登録されてもよい。例えば、サンプル鉄筋画像情報に登録される特徴情報は、サンプル鉄筋画像をフーリエ変換した結果、フーリエ変換の結果から得られた周波数スペクトル、周波数スペクトルのピークの周波数、フーリエ変換の結果から抽出した位相情報、サンプル鉄筋画像またはその位相画像から抽出した局所特徴量、ならびに鉄筋の軸に略平行な両端のエッジ間の距離などの少なくとも1つの情報が登録されもよい。
(第4の実施形態)
画像を用いた種別の判定を多段階で実行してもよい。例えば、図14に例示するように、制御部301は、まず竹節であるか、またはネジ節であるかなどの仕分種別を先に判定する。続いて、竹節であると判定された場合には、2段階目で、制御部301は、竹節に属する鉄筋のみが登録された鉄筋情報1401を参照して図10の動作フローを実行し、更なる種別判定を行ってよい。また、同様に、例えば、ネジ節であると判定された場合には、2段階目で、制御部301は、ネジ節に属する鉄筋のみが登録された鉄筋情報1402を参照して図10の動作フローを実行し、更なる種別判定を行ってよい。
このように、仕分種別を用いて多段階で種別を判定することで、個々の種別の判定に適した評価法を用いて種別を判定することができ、例えば、上述の複数の評価法を多段階で組み合わせて利用して最終的な種別を判定することも可能である。一例として、ネジ節と竹節を判定するための局所特徴量を抽出したり、または機械学習によりこの2つの種別を判定するように作成した学習モデルを用いたりなど、節の形状に関する判定に効果的な評価法を用いて、ネジ節か竹節かをまず特定することが考えられる。そして、2段階目で、節間隔の判定に効果的な例えば、画像に写る鉄筋の長手方向の画素値の周波数スペクトルを用いて判定を行い、鉄筋の種別を判定することが考えられる。
なお、最終的な鉄筋の種別判定の前に事前に仕分けを行うための仕分種別としては、鉄筋の様々な種別を用いることができ、別の例では、鉄筋の節に形成されているメーカのロゴなどを評価してメーカごとに仕分ける処理が実行されてもよい。また、異なる種類の仕分種別による仕分けを組み合わせて、仕分けを多段階で複数回行ってもよい。
(第5の実施形態)
上述の実施形態の図10のS1005において、種別情報を出力する出力先は、一例では表示部303の表示画面であってよいし、別の例では、配筋検査の検査結果を記録する帳票などの検査情報1500あってもよい。
図15は、第5の実施形態に係る配筋検査の検査結果を記録する帳票などの検査情報1500を例示する図である。検査情報1500には、例えば、工事現場における或るエリアの工事に関する設計図と対応する情報が登録されていてよく、例えば、工事識別情報1511および検査対象情報1512を含む。
工事識別情報1511は、例えば、工事の場所および工事の概要を示す情報を含む。図15の例では、工事識別情報1511は、番号、工事名、工事種、構造物番号、部材名などの情報を含む。番号は、例えば、検査情報1500に付与された識別のための情報である。工事名は、例えば、工事の名称であってよい。工種は、例えば、工事の場所を示す情報であり、例えば、図15の工種:橋台躯体工は、橋脚を支える土台部分の工事であることを示している。構造物番号は、例えば、工種内の工事の対象となる構造物を指定する情報である。例えば、図15に示される構造物番号:A01は、どの橋脚の橋台躯体工であるかを示している。部材名は、例えば、構造物内の工事の対象となる領域を示す情報である。例えば、図15に示される部材名:フーチングは、橋台躯体工内の基礎部分であるフーチングの工事であることを示している。作業者は、例えば、検査情報1500の工事識別情報1511の情報を参照することで、検査情報1500がどこの工事についての情報を記載した検査情報1500であるかを把握することができる。
また、検査対象情報1512には、例えば、検査対象と、検査項目の情報とを対応づけるレコードが登録されている。検査対象は、例えば、検査情報1500に示される工事で行われる配筋検査の検査対象(例えば、鉄筋)を指定する情報である。図15の例では、検査対象情報1512の検査対象は、位置1、位置2、および鉄筋番号の情報を含んでいる。位置1および位置2は、例えば、工事の設計図において検査対象が配置されるエリアを示す情報であってよい。なお、位置2は、例えば、位置1内での更なる詳細なエリアを指定する情報であってよい。鉄筋番号は、位置の情報で指定されるエリア内で使用されている鉄筋、または鉄筋のグループに割り振られた番号である。
また、検査項目は、例えば、検査対象情報1512の検査対象に対して実行する検査の項目を示す情報である。図15の例では、検査対象情報1512の検査項目は、検査項目1および検査項目2を含んでいる。また、検査項目1に示すように、検査項目は、例えば、設計値、および計測値を含んでよい。設計値は、検査項目に対する設計図上での値である。計測値には、例えば、配筋検査で計測された計測結果が登録される。検査項目は、例えば、検査対象の鉄筋の径、位置、配置の平均間隔、かぶり厚さ、および本数などを含んでよい。
そして、第5の実施形態では制御部301は、上述のS1005の処理で判定した種別の情報を、検査情報1500の計測値に出力してよい。例えば、制御部301は、判定対象の鉄筋画像の種別に基づいて、鉄筋情報900から鉄筋の径の情報を取得し、図15の枠1501で示すように検査項目の計測値に、取得した径の情報を登録してよい。また、制御部301は、図15の枠1502で示すように、計測値の特定に用いた判定対象の鉄筋画像を識別する識別情報を検査情報1500に登録してよい。なお、別の実施形態では、識別情報は、判定対象の鉄筋画像から抽出された周波数スペクトルなどの特徴情報を識別する情報であってもよい。識別情報は、一例では、判定対象の鉄筋画像または判定対象の鉄筋画像から抽出された特徴情報にアクセスするために用いるパスやファイル名であってよい。
配筋の検査では、検査結果が何者かによって改ざんされていないかなどの確認などが必要となることがある。そのため、制御部301は、例えば、上述のように、検査項目に登録する検査結果と対応づけて、検査に用いた判定対象の鉄筋画像または鉄筋画像から抽出された特徴情報を識別するための識別情報を、検査情報1500に記録する。このように、検査結果と関連づけて、検査に用いた判定対象の鉄筋画像または鉄筋画像から抽出された特徴情報を識別するための識別情報を記録することで、制御部301は、後に図10の動作フローを再度実行して計測値を求めなおすことが可能となる。その結果、検査結果の改ざんの有無を検証することが可能である。
(第6の実施形態)
上述の実施形態において、例えば、判定対象の鉄筋画像からフーリエ変換により取得した周波数スペクトルに、鉄筋の表面にマーカとしてつけられた塗料などに起因する低周波のノイズが含まれてしまうことがある。
図16は、鉄筋画像の表面の塗料に起因する周波数スペクトルにおけるノイズを説明する図である。例えば、図16(a)では、鉄筋に塗料1601が塗られている状態が示されており、その周波数スペクトルにおいて塗料1601に起因するノイズ1602が表れている。
そして、この様にノイズ1602を含む図16(a)の周波数スペクトルと、図16(b)に示すサンプル鉄筋画像の周波数スペクトルとの類似度を評価しても、ノイズ1602に起因して類似度が低く評価されてしまい、種別の判定精度が低下してしまうことがある。
そこで、第6の実施形態では制御部301は、周波数スペクトルから評価対象の周波数範囲の周波数成分を抽出し、抽出した範囲において類似度の評価を行ってよい。例えば、図16に示すように、評価対象の周波数範囲において類似度の評価を行うことで、ノイズ1602の影響を排除することができ、ノイズ1602に起因して類似度を低く評価してしまうことを抑制することができる。
なお、評価対象の周波数範囲は、サンプル鉄筋画像から得られた周波数スペクトルのピークの位置に基づいて決定することができる。例えば、制御部301は、類似度の評価に用いるサンプル鉄筋画像において直流成分を除いた最大ピークの周波数の位置を基準とする所定の周波数範囲を評価対象の周波数範囲として設定してよい。
(第7の実施形態)
また、上述のように、例えば、種別の判定対象の鉄筋画像と、サンプル鉄筋画像との類似度の評価は、2つの画像に写る鉄筋の撮影条件ができるだけ揃っていた方が、類似度の評価精度が向上する。そのため、第7の実施形態では、種別の判定対象の鉄筋の写る鉄筋画像の一部を抽出し、抽出した領域をサンプル鉄筋画像として用いて鉄筋の種別判定を実行する。
図17は、第7の実施形態に係る鉄筋の種別判定を例示する図である。図17に示すように、制御部301は、まず画像403のうちから、一部の画像領域の指定を受け付け、指定された領域をサンプル鉄筋画像として抽出する(図17の(1))。
続いて、制御部301は、抽出した領域のサンプル鉄筋画像を、種別情報と対応づけて記憶部302に記憶する(図17の(2))。一例では、制御部301は、ユーザからサンプル鉄筋画像の種別を示す種別情報の入力を受け付けて、受け付けた種別情報と、サンプル鉄筋画像とを対応づけてよい。図17の例では、種別情報として鉄筋の径を示すD25がサンプル鉄筋画像と対応づけられている。
続いて、制御部301は、画像403に写る他の鉄筋の写る画像領域を、判定対象の鉄筋画像として、サンプル鉄筋画像との類似度を評価する。そして、制御部301は、類似度の評価結果に基づいて、所定の条件を満たしてサンプル鉄筋画像と、判定対象の鉄筋画像が類似している場合に、その判定対象の鉄筋画像の種別として、サンプル鉄筋画像の種別情報を出力してよい(図17の(3))。なお、ここで鉄筋の種別が同じと判定するために用いる所定の条件は、例えば、類似度の評価に用いた指標が、値が高いほど類似していることを表す場合には、類似度の評価に用いた指標が閾値以上であることであってよい。また、例えば、類似度の評価に用いた指標が、値が低いほど類似していることを表す場合には、所定の条件は、類似度の評価に用いた指標が閾値以下であることであってよい。判定に用いる閾値は、例えば、サンプル鉄筋画像に写る鉄筋と、判定対象の鉄筋画像に写る鉄筋とが同じ種別の鉄筋であるか否かを判定できるように、経験則などに基づいて設定されてよい。
以上で述べたように、判定対象の鉄筋の写る画像403の一部の領域の鉄筋画像を、サンプル鉄筋画像として用いて鉄筋の種別を判定することが可能である。そして、第7の実施形態では、種別の判定対象の鉄筋画像と、サンプル鉄筋画像との撮影条件が近い条件で鉄筋の種別を判定することができるため、類似度の評価精度を向上させることができる。一例として、照明の条件などの外乱が類似度の評価に与える影響を抑えることが可能である。
また、以上の第7の実施形態によれば、事前にサンプル鉄筋画像を用意していなくても、種別判定の際に撮影した判定対象の鉄筋の写る画像403から、その場でサンプル鉄筋画像を生成して種別を判定することができる。
更には、画角をずらして画像403を複数枚撮影し、配筋検査などに用いることがある。この場合に、1つの画像403の一部からサンプル鉄筋画像を抽出し、抽出したサンプル鉄筋画像を他の画像403に写る鉄筋の種別判定に用いてもよい。この場合にも、照明の条件などの撮影条件を近い条件で類似度を評価することができるため、類似度の評価精度を向上させることができる。そして、類似度の評価精度を向上させることで、鉄筋の種別の判定精度を向上させることができる。
なお、図17の例では、ユーザが画像403のうちから、鉄筋の写る領域を指定する例を示しているが、実施形態はこれに限定されるものではない。例えば、別の実施形態では、制御部301は、画像403から鉄筋を検出するアルゴリズムを実行して画像403に写る複数の鉄筋を検出してよい。そして、制御部301は、検出された複数の鉄筋のうちからのユーザによる鉄筋の選択を受け付け、ユーザによって選択された鉄筋と、ユーザから入力された種別情報とを対応づけてサンプル鉄筋画像として用いてもよい。
また、別の実施形態では、1つの鉄筋の種別に対して撮影画像から複数箇所を選択してサンプル鉄筋画像として用いてもよい。例えば、制御部301は、1つの鉄筋の種別に対して撮影画像403のうちから鉄筋の写る領域を複数箇所抽出して、複数のサンプル鉄筋画像として登録してもよい。上述のように、異形鉄筋では同一の種類の鉄筋であっても向きによって形状が異なっていることがあり、そのような鉄筋が施工の際にリブや節が異なる向きで設置されることもある。そのため、撮影画像403のうちから鉄筋の写る領域を複数箇所抽出して、リブや節の向きが異なる複数の鉄筋の状態を写したサンプル鉄筋画像を取得することで、リブや節の向きや更に照明の条件などの外乱が類似度の評価に与える影響を抑えることができる。なお、複数のサンプル鉄筋画像は、例えば、或るエリアに設置された配筋に対して画角をずらして撮影された複数の画像403から抽出されてもよい。
以上において、実施形態を例示したが、実施形態はこれに限定されるものではない。例えば、上述の動作フローは例示であり、実施形態はこれに限定されるものではない。可能な場合には、動作フローは、処理の順番を変更して実行されてもよく、別に更なる処理を含んでもよく、または、一部の処理が省略されてもよい。
また、上述の実施形態では、判定対象の鉄筋画像404を画像403から抽出して処理する例を述べたが、実施形態はこれに限定されるものではなく、例えば、別の実施形態では画像403を対象にサンプル鉄筋画像との類似度の評価が実行されてもよい。一例として、回転不変位相限定相関法では、画像面の法線方向を軸とした回転を扱って類似度を評価することができる。そのため、制御部301は、例えば、画像403に上述の正対化の処理を行った後、判定対象の鉄筋画像404を生成せずに、画像403とサンプル鉄筋画像との類似度を回転不変位相限定相関法で評価してもよい。この場合、制御部301は、類似度の評価とともに、画像403上でサンプル鉄筋画像と類似度が高いと評価された鉄筋の位置の特定も行うことができる。
また、上述の実施形態では、種別の例として径の情報を判定する例を述べているが、実施形態はこれに限定されるものではない。例えば、鉄筋情報401に鉄筋の種別に関する様々な情報(例えば、製造メーカ、節間隔、節の種類など)を登録しておくことで、それらの情報を入力された鉄筋画像とサンプル鉄筋画像との類似度を評価することで取得することができる。
また、上述の実施形態では、鉄筋判定装置201が、例えば、鉄筋情報900,1200,1300,1401,1402などの鉄筋情報を記憶している例を述べているが、実施形態はこれに限定されるものではない。例えば、別の実施形態では、鉄筋情報は、鉄筋判定装置201とは別のデータベースサーバに記憶されていてもよい。この場合、鉄筋判定装置201は、データベースサーバにアクセスして鉄筋情報から情報を取得してもよい。
なお、上述の実施形態において、例えば、図10の動作フローの開始時では、制御部301は、入力部311として動作する。また、例えば、図10のS1002では、制御部301は、評価部312として動作する。例えば、図10のS1003からS1005では、制御部301は、出力部313として動作する。例えば、図14の仕分け処理において、制御部301は、判定部314として動作する。
図18は、実施形態に係る鉄筋判定装置201を実現するためのコンピュータ1800のハードウェア構成を例示する図である。図18のハードウェア構成は、例えば、プロセッサ1801、メモリ1802、記憶装置1803、通信インタフェース1804、外部インタフェース1805、表示装置1806、および入力装置1807を備える。プロセッサ1801は、例えば、バスなどを経由して、メモリ1802、記憶装置1803、通信インタフェース1804、外部インタフェース1805、表示装置1806、および入力装置1807と通信可能に接続されていてよい。
プロセッサ1801は、例えば、シングルプロセッサであっても、マルチプロセッサおよびマルチコアであってもよい。プロセッサ1801は、メモリ1802を利用して例えば上述の動作フローの手順を記述したプログラムを実行することにより、上述した制御部301の一部または全部の機能を提供する。例えば、プロセッサ1801は、記憶装置1803に格納されているプログラムをメモリ1802に読み出して実行することで、入力部311、評価部312、出力部313、および判定部314として動作する。
メモリ1802は、例えば半導体メモリであり、RAM領域およびROM領域を含んでいてよい。記憶装置1803は、例えばハードディスク、フラッシュメモリ等の半導体メモリ、または外部記憶装置である。なお、RAMは、Random Access Memoryの略称である。また、ROMは、Read Only Memoryの略称である。上述の記憶部302は、例えば、メモリ1802および記憶装置1803を含んでよい。
通信インタフェース1804は、例えば、プロセッサ1801の指示に従ってネットワークに接続し、データを送受信する通信機器である。外部インタフェース1805は、例えば、外部装置とのインタフェースであってよい。一実施形態においては、鉄筋判定装置201は、外部インタフェース1805を経由して撮影装置102と接続してよい。なお、別の実施形態では、鉄筋判定装置201は、Wi-Fi(登録商標)通信機器、およびBluetooth(登録商標)通信機器などの通信インタフェース1804を備えてよく、ネットワークを経由してまたは近距離無線通信で撮影装置102と接続されていてもよい。通信インタフェース1804および外部インタフェース1805は、上述の通信部304の一例である。
表示装置1806は、例えば、液晶ディスプレイなどの表示機能を備える装置である。表示装置1806は、上述の表示部303の一例である。入力装置1807は、例えば、キーボードおよびタッチパネルなどのユーザからの入力を受け付ける装置である。
上述の実施形態に係る各プログラムは、例えば、以下の形態で鉄筋判定装置201に提供されてよい。
(1)記憶部302に予めインストールされている。
(2)プログラムサーバなどのサーバから提供される。
また、図18を参照して述べた鉄筋判定装置201を実現するためのハードウェア構成は、例示であり、実施形態はこれに限定されるものではない。例えば、上述の制御部301の一部または全部の機能がFPGAおよびSoCなどの専用の回路によるハードウェアとして実装されてもよい。なお、FPGAは、Field Programmable Gate Arrayの略称である。SoCは、System-on-a-chipの略称である。一例として、上述の制御部301は、入力画像に対して、上述の実施形態に係る類似度の評価に従って種別情報を出力する回路であってもよい。また、上述の入力部311、評価部312、出力部313、および判定部314は、それぞれ個別に入力回路、評価回路、出力回路、および判定回路などの回路として実装されてもよい。また、これらの全部または一部が統合された回路として実装されてもよい。
以上において、いくつかの実施形態が説明される。しかしながら、実施形態は上記の実施形態に限定されるものではなく、上述の実施形態の各種変形形態および代替形態を包含するものとして理解されるべきである。例えば、各種実施形態は、その趣旨および範囲を逸脱しない範囲で構成要素を変形して具体化できることが理解されよう。また、前述した実施形態に開示されている複数の構成要素を適宜組み合わせることにより、種々の実施形態が実施され得ることが理解されよう。更には、実施形態に示される全構成要素からいくつかの構成要素を削除してまたは置換して、或いは実施形態に示される構成要素にいくつかの構成要素を追加して種々の実施形態が実施され得ることが当業者には理解されよう。
101 :鉄筋
102 :撮影装置
200 :鉄筋判定システム
201 :鉄筋判定装置
205 :ネットワーク
301 :制御部
302 :記憶部
303 :表示部
304 :通信部
311 :入力部
312 :評価部
313 :出力部
314 :判定部
1800 :コンピュータ
1801 :プロセッサ
1802 :メモリ
1803 :記憶装置
1804 :通信インタフェース
1805 :外部インタフェース
1806 :表示装置
1807 :入力装置

Claims (8)

  1. 鉄筋が写るサンプル鉄筋画像および前記サンプル鉄筋画像から抽出された特徴情報の少なくとも一方と、前記サンプル鉄筋画像に写る鉄筋の種別を示す種別情報とを対応づけた情報を含む鉄筋情報を記憶する記憶部と、
    判定対象の鉄筋が写る鉄筋画像の入力を受け付ける入力部と、
    前記鉄筋情報に基づいて、前記サンプル鉄筋画像と前記鉄筋画像との類似度を評価する評価部と、
    前記類似度の評価結果に基づいて、前記鉄筋画像と前記サンプル鉄筋画像とが所定の条件を満たして類似している場合に、前記サンプル鉄筋画像と対応する前記種別情報を出力する出力部と、
    を備え、
    前記種別情報は、前記鉄筋の径に基づいて分類された種別を含み、
    前記評価部は、前記サンプル鉄筋画像および前記鉄筋画像を鉄筋の画素値を鉄筋の長手方向にフーリエ変換して得られる周波数スペクトルの所定の周波数範囲の波形の類似度と前記周波数スペクトルに含まれる複数のピークの周波数の類似度により前記サンプル鉄筋画像と前記鉄筋画像との類似度を評価することを特徴とする鉄筋判定装置。
  2. 前記評価部は、前記サンプル鉄筋画像および前記鉄筋画像を鉄筋の画素値を鉄筋の長手方向にフーリエ変換して得られる周波数スペクトルの所定の周波数範囲の波形の類似度と前記周波数スペクトルの前記周波数範囲に含まれる複数のピークの周波数の類似度により前記サンプル鉄筋画像と前記鉄筋画像との類似度を評価することを特徴とする請求項1に記載の鉄筋判定装置。
  3. 前記サンプル鉄筋画像から抽出された特徴情報は、前記サンプル鉄筋画像をフーリエ変換した周波数スペクトル、前記周波数スペクトルのピークの周波数、前記フーリエ変換の結果から抽出した位相情報、前記サンプル鉄筋画像から抽出した局所特徴量、ならびに前記サンプル鉄筋画像に写る鉄筋の長手方向に略平行な鉄筋のエッジ間の距離のうちの少なくとも1つを含む、請求項1に記載の鉄筋判定装置。
  4. 前記評価部は、更に、前記鉄筋画像を撮影した撮影装置と、前記鉄筋画像に写る鉄筋との相対的な位置姿勢に関する情報に基づいて、前記撮影装置と前記鉄筋画像に写る鉄筋との相対的な位置姿勢が所定の関係となるように前記鉄筋画像を正規化した後、前記類似度の評価を実行することを特徴とする請求項1に記載の鉄筋判定装置。
  5. 前記評価部は、更に、前記サンプル鉄筋画像を撮影した撮影装置と、前記サンプル鉄筋画像に写る鉄筋との相対的な位置姿勢に関する情報に基づいて、前記撮影装置と前記サンプル鉄筋画像に写る鉄筋との相対的な位置姿勢が所定の関係となるように前記サンプル鉄筋画像を正規化した後、前記類似度の評価を実行することを特徴とする請求項1に記載の鉄筋判定装置。
  6. 前記記憶部は、前記鉄筋情報を、異なる複数の種別ごとに複数記憶しており、
    前記所定の条件は、前記類似度の評価結果に基づいて、前記鉄筋画像と最も類似していると評価されることである、請求項1に記載の鉄筋判定装置。
  7. 判定対象の鉄筋が写る鉄筋画像の入力を受け付け、
    鉄筋が写るサンプル鉄筋画像および前記サンプル鉄筋画像から抽出された特徴情報の少なくとも一方と、前記サンプル鉄筋画像に写る鉄筋の種別を示す種別情報とを対応づけた情報を含む鉄筋情報に基づいて、前記サンプル鉄筋画像と前記鉄筋画像との類似度を評価し、
    前記類似度の評価結果に基づいて、前記鉄筋画像と前記サンプル鉄筋画像とが所定の条件を満たして類似している場合に、前記サンプル鉄筋画像と対応する前記種別情報を出力する、ことを含み、
    前記種別情報は、前記鉄筋の径に基づいて分類された種別を含み
    前記サンプル鉄筋画像および前記鉄筋画像を鉄筋の画素値を鉄筋の長手方向にフーリエ変換して得られる周波数スペクトルの所定の周波数範囲の波形の類似度と前記周波数スペクトルに含まれる複数のピークの周波数の類似度により前記サンプル鉄筋画像と前記鉄筋画像との類似度を評価する鉄筋判定方法。
  8. 前記サンプル鉄筋画像および前記鉄筋画像を鉄筋の画素値を鉄筋の長手方向にフーリエ変換して得られる周波数スペクトルの所定の周波数範囲の波形の類似度と前記周波数スペクトルの前記周波数範囲に含まれる複数のピークの周波数の類似度により前記サンプル鉄筋画像と前記鉄筋画像との類似度を評価することを特徴とする請求項7に記載の鉄筋判定方法。
JP2021537556A 2019-08-08 2019-08-08 鉄筋判定装置および鉄筋判定方法 Active JP7438220B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/031535 WO2021024499A1 (ja) 2019-08-08 2019-08-08 鉄筋判定装置および鉄筋判定方法

Publications (3)

Publication Number Publication Date
JPWO2021024499A1 JPWO2021024499A1 (ja) 2021-02-11
JPWO2021024499A5 JPWO2021024499A5 (ja) 2022-05-09
JP7438220B2 true JP7438220B2 (ja) 2024-02-26

Family

ID=74503389

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021537556A Active JP7438220B2 (ja) 2019-08-08 2019-08-08 鉄筋判定装置および鉄筋判定方法

Country Status (2)

Country Link
JP (1) JP7438220B2 (ja)
WO (1) WO2021024499A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7186821B2 (ja) * 2021-04-19 2022-12-09 三菱電機エンジニアリング株式会社 配筋検査装置、配筋検査方法およびプログラム
WO2022254715A1 (ja) * 2021-06-04 2022-12-08 日本電信電話株式会社 劣化判定装置、劣化判定方法、及びプログラム
JP7214023B1 (ja) 2022-02-07 2023-01-27 三菱電機エンジニアリング株式会社 配筋検査装置、配筋検査方法およびプログラム
CN114565540B (zh) * 2022-04-30 2022-07-22 深圳市巨力方视觉技术有限公司 基于多路对照图像去噪用机器视觉集成***
JP7283849B1 (ja) 2022-10-18 2023-05-30 コムシス情報システム株式会社 配筋検査システムおよび配筋検査方法。
WO2024084673A1 (ja) * 2022-10-21 2024-04-25 三菱電機株式会社 配筋検査装置、学習装置、配筋検査システムおよび配筋検査方法
JP7494341B1 (ja) 2023-02-22 2024-06-03 戸田建設株式会社 鉄筋検査方法及び鉄筋検査装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001292314A (ja) 2000-04-06 2001-10-19 Canon Inc 画像処理装置及び画像処理方法並びに記憶媒体
JP2013040549A (ja) 2011-07-15 2013-02-28 Ohbayashi Corp 鉄筋規格判別装置及び鉄筋規格情報作成装置
JP2014002536A (ja) 2012-06-18 2014-01-09 Ohbayashi Corp 配筋検査システム
JP2015087801A (ja) 2013-10-28 2015-05-07 セイコーエプソン株式会社 画像処理装置、ロボットシステム、画像処理方法、および画像処理プログラム
JP2016003981A (ja) 2014-06-18 2016-01-12 株式会社大林組 配筋検査システム、配筋検査用のプログラム、及び配筋検査方法
WO2017094456A1 (ja) 2015-12-02 2017-06-08 富士フイルム株式会社 物体検査装置及び物体検査方法
JP2018173277A (ja) 2017-03-31 2018-11-08 オリンパス株式会社 情報処理装置、情報処理方法、及び、プログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2830459B2 (ja) * 1990-11-13 1998-12-02 松下電器産業株式会社 電子部品の品種判別方法
JP3110167B2 (ja) * 1992-09-16 2000-11-20 富士通株式会社 階層型ニューラルネットワークを用いた物体認識方式

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001292314A (ja) 2000-04-06 2001-10-19 Canon Inc 画像処理装置及び画像処理方法並びに記憶媒体
JP2013040549A (ja) 2011-07-15 2013-02-28 Ohbayashi Corp 鉄筋規格判別装置及び鉄筋規格情報作成装置
JP2014002536A (ja) 2012-06-18 2014-01-09 Ohbayashi Corp 配筋検査システム
JP2015087801A (ja) 2013-10-28 2015-05-07 セイコーエプソン株式会社 画像処理装置、ロボットシステム、画像処理方法、および画像処理プログラム
JP2016003981A (ja) 2014-06-18 2016-01-12 株式会社大林組 配筋検査システム、配筋検査用のプログラム、及び配筋検査方法
WO2017094456A1 (ja) 2015-12-02 2017-06-08 富士フイルム株式会社 物体検査装置及び物体検査方法
JP2018173277A (ja) 2017-03-31 2018-11-08 オリンパス株式会社 情報処理装置、情報処理方法、及び、プログラム

Also Published As

Publication number Publication date
WO2021024499A1 (ja) 2021-02-11
JPWO2021024499A1 (ja) 2021-02-11

Similar Documents

Publication Publication Date Title
JP7438220B2 (ja) 鉄筋判定装置および鉄筋判定方法
Prasanna et al. Automated crack detection on concrete bridges
Zhu et al. Detection of large-scale concrete columns for automated bridge inspection
KR102256181B1 (ko) 강구조물의 도막 상태 검사 및 평가 방법과 이를 위한 시스템
Hoang et al. Metaheuristic optimized edge detection for recognition of concrete wall cracks: a comparative study on the performances of roberts, prewitt, canny, and sobel algorithms
US9235902B2 (en) Image-based crack quantification
US8019164B2 (en) Apparatus, method and program product for matching with a template
JP2017053819A (ja) コンクリートのひび割れ検出方法及び検出プログラム
US9805443B2 (en) Image processing method, image processing apparatus, program, storage medium, production apparatus, and method of producing assembly
JP2016524334A (ja) 自由形態の保護領域を使用するウエハ検査
CN105718931B (zh) 用于确定采集图像中的杂斑的***和方法
Adhikari et al. Tracking of defects in reinforced concrete bridges using digital images
JP7387261B2 (ja) 情報処理装置、情報処理方法及びプログラム
KR20160034928A (ko) 주요지점 식별
JP2003216931A (ja) 特定パターン認識方法、特定パターン認識プログラム、特定パターン認識プログラム記録媒体および特定パターン認識装置
Calderón et al. Crack detection in concrete elements from RGB pictures using modified line detection kernels
CN110532725B (zh) 基于数字图像的工程结构力学参数识别方法及***
CA2731385C (en) Image analysis system and method
JP6516384B2 (ja) 情報処理装置、情報処理システム、情報処理方法、及び情報処理プログラム
JP4894747B2 (ja) 部分領域検出装置、対象物識別装置、及びプログラム
EP3582179B1 (en) Image processing apparatus, image processing method, and image processing program
Shao et al. Damage Detection of the RC Building in TLS Point Clouds Using 3D Deep Neural Network PointNet++
JP2004240909A (ja) 画像処理装置及び画像処理方法
Petty et al. Improved image analysis methodology for detecting changes in evidence positioning at crime scenes
JP2009265998A (ja) 画像処理システム、画像処理方法及び画像処理プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220201

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220622

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230801

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231124

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240213

R150 Certificate of patent or registration of utility model

Ref document number: 7438220

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150