JP2012083157A - 屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体 - Google Patents

屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体 Download PDF

Info

Publication number
JP2012083157A
JP2012083157A JP2010228418A JP2010228418A JP2012083157A JP 2012083157 A JP2012083157 A JP 2012083157A JP 2010228418 A JP2010228418 A JP 2010228418A JP 2010228418 A JP2010228418 A JP 2010228418A JP 2012083157 A JP2012083157 A JP 2012083157A
Authority
JP
Japan
Prior art keywords
feature
point
image
region
outdoor
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010228418A
Other languages
English (en)
Other versions
JP5535025B2 (ja
Inventor
Yosuke Ishiwatari
要介 石渡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2010228418A priority Critical patent/JP5535025B2/ja
Publication of JP2012083157A publication Critical patent/JP2012083157A/ja
Application granted granted Critical
Publication of JP5535025B2 publication Critical patent/JP5535025B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】レーザ測量結果である点群と、指定された1枚のカメラ画像とに基づいて、対象となる地物に含まれる点群を特定し、特定した点群から地物の位置と大きさを検知する。
【解決手段】対象となる地物周辺の画像を格納するカメラ画像データ格納部(31)と、対象となる地物周辺のレーザ測量結果を点群として格納する点群データ格納部(32)と、対象となる地物周辺の画像をモニタ上に表示させる画面描画部(21)と、対象となる地物周辺の画像の中から地物の領域内に含まれる少なくとも1点を指定する点指定部(12)と、少なくとも1点に基づいて画像上の地物の領域を決定し、決定した領域に含まれる点群を点群データ格納部から抽出し、点群間の距離が一定距離以下のもの同士をグルーピングすることで地物に対応する点群を分離し、地物領域の位置と大きさを検知する地物検知処理部(22〜25)とを備える。
【選択図】図3

Description

本発明は、レーザ点群とカメラ画像を用いて屋外の地物検知を行う屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体に関するものである。
近年、GPS衛星やジャイロ・レーザ等を搭載した車両を利用したモービルマッピングシステム技術が発展してきている。このモービルマッピングシステムは、車両が走行した周辺の情報を連続的に取得することができるため、高精度地図作成等の技術への適用が主に期待されている。
ここで、高精度地図作成への応用には、モービルマッピングシステムによって取得した情報から、屋外の建物、広告といった地物を検知し、必要な情報を抜き出す必要がある。
レーザ測量は、車両からの距離を主に求めるものであり、そこから位置(点)を求める。このようにして求めた点のみでは、「レーザが何に当ったか」の判別ができないため、他の情報によって点がどの物体にあたっているかを判別する必要がある。
点群(レーザ測量によって得られた点の集合)と物体との関係を特定するためには、カメラ画像が使われることが多い。具体的には、カメラ画像によって検知される物体(地物)の画像上での位置と、カメラ画像撮影位置と点群との関係から、地物に当っている点群候補を見つけ出すことができる。
一方で、このような点群候補だけでは、地物に当る点群を絞り込むには不十分である。図15は、画像上の地物(看板)の範囲に含まれる点群の緯度・経度をプロットしたグラフである。図15に示すようなプロットには、目的の看板の前後の地物(例えば、建物の壁、電柱、電線等)も含まれるため、これらの除去処理が必要である。
特定の地物の点群を選び出す手法として、2つのカメラ画像による点群候補から選び出す手法がある(例えば、特許文献1参照)。この特許文献1では、同一の地物に対して2枚の画像を使い、それぞれから点群候補を抽出し、両者に含まれる点群の中で一致度の高いものを、対象の地物の点群とみなすものである。
特開2009−76096号公報
しかしながら、従来技術には、以下のような課題がある。
この特許文献1に記載されたような手法のように、2枚の画像における点群の重なりから、対象の地物の点群を求める場合には、画像を取得した位置関係により重なりの範囲が異なる。図16および図17は、2枚の画像を取得した位置関係により、重なりの範囲が異なる場合を示す説明図である。
モービルマッピングシステムの走行方向を、図16、図17中の矢印で示した向きとする。ここで、図16のように、2枚の画像を撮影した間隔が短い場合には、2枚の画像における点群の重なりが大きくなり、単純に重なるだけでは目的の地物以外のものに当った点群を拾う可能性がある。その逆に、図17のように、2枚の画像を撮影した距離が離れた場合には、2枚の画像における点群の重なりは小さくなるが、地物周辺のものに当った点群も含めて選ぶ可能性が高い。
また、特許文献1では、地物の大きさによるグルーピングも行われている。しかしながら、このようなグルーピングを行うためには、あらかじめ地物の大きさを知る必要があり、大きさのわからない地物については、グルーピングできない問題もある。
本発明は、前記のような課題を解決するためになされたものであり、レーザ測量結果である点群と、指定された1枚のカメラ画像とに基づいて、対象となる地物に含まれる点群を特定し、特定した点群から地物の位置と大きさを検知することのできる屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体を得ることを目的とする。
本発明に係る屋外地物検知システムは、レーザ測量結果である点群とカメラ画像とを用いて屋外地物の検知を行なう屋外地物検知システムにおいて、対象となる地物周辺の画像を格納するカメラ画像データ格納部と、対象となる地物周辺のレーザ測量結果を点群として格納する点群データ格納部と、カメラ画像データ格納部に格納された対象となる地物周辺の画像をモニタ上に表示させる画面描画部と、モニタ上に表示された対象となる地物周辺の画像の中から地物の領域内に含まれる少なくとも1点を指定する点指定部と、点指定部で指定された少なくとも1点に基づいて、画像上の地物の領域を決定し、決定した領域に含まれる点群を点群データ格納部から抽出し、点群間の距離が一定距離以下のもの同士をグルーピングすることで地物に対応する点群を分離し、分離した点群の位置と範囲から点指定部で指定された少なくとも1点を含む地物の領域の位置と大きさを検知する地物検知処理部とを備えるものである。
また、本発明に係る屋外地物検知システム用プログラムは、コンピュータを、カメラ画像データ格納部に格納された対象となる地物周辺の画像をモニタ上に表示させる画面描画手段と、モニタ上に表示された対象となる地物周辺の画像の中から地物の領域内に含まれる少なくとも1点を指定する点指定手段と、点指定手段で指定された少なくとも1点に基づいて、画像上の地物の領域を決定し、決定した領域に含まれる点群を、対象となる地物周辺のレーザ測量結果を点群として格納する点群データ格納部から抽出し、点群間の距離が一定距離以下のもの同士をグルーピングすることで地物に対応する点群を分離し、分離した点群の位置と範囲から点指定手段で指定された少なくとも1点を含む地物の領域の位置と大きさを検知する地物検知処理手段として機能させるためのものである。
さらに、本発明に係る屋外地物検知システム用プログラムの記録媒体は、屋外地物検知システム用プログラムが記録されたコンピュータで読み取り可能な記録媒体であって、コンピュータに、カメラ画像データ格納部に格納された対象となる地物周辺の画像をモニタ上に表示させる画面描画ステップと、モニタ上に表示された対象となる地物周辺の画像の中から地物の領域内に含まれる少なくとも1点を指定する点指定ステップと、点指定ステップで指定された少なくとも1点に基づいて、画像上の地物の領域を決定し、決定した領域に含まれる点群を、対象となる地物周辺のレーザ測量結果を点群として格納する点群データ格納部から抽出し、点群間の距離が一定距離以下のもの同士をグルーピングすることで地物に対応する点群を分離し、分離した点群の位置と範囲から点指定ステップで指定された少なくとも1点を含む地物の領域の位置と大きさを検知する地物検知処理ステップとを含む処理を実行させるためのコンピュータで読み取り可能な屋外地物検知システム用プログラムの記録媒体である。
本発明に係る屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体によれば、指定入力されたポイントに基づいて決定された画像上の地物領域に含まれる点群を抽出し、点群間の距離が一定距離以下のもの同士をグルーピングすることで地物に対応する点群を特定することにより、レーザ測量結果である点群と、指定された1枚のカメラ画像とに基づいて、対象となる地物に含まれる点群を特定し、特定した点群から地物の位置と大きさを検知することのできる屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体を得ることができる。
本発明の実施の形態1における屋外地物検知システムの画面例である。 本発明の実施の形態1における屋外地物検知システムで点群を取得する一例の説明図である。 本発明の実施の形態1における屋外地物検知システムの構成図である。 本発明の実施の形態1における点群抽出部の入力、処理、出力の一連動作を示したフローチャートである。 本発明の実施の形態1における図4のステップS400の具体的な処理を示したフローチャートである。 本発明の実施の形態1における点群抽出部による点群の画像上の位置の算出方法に関する説明図である。 本発明の実施の形態1における図4のステップS500の具体的な処理を示したフローチャートである。 本発明の実施の形態1における図7のステップS510の具体的な処理を示したフローチャートである。 本発明の実施の形態1における図7のステップS520の具体的な処理を示したフローチャートである。 本発明の実施の形態1における図9のステップS5220の具体的な処理を示したフローチャートである。 本発明の実施の形態1における図10のステップS5221の具体的な処理を示したフローチャートである。 本発明の実施の形態1における点群抽出部で算出した点群の外形の一例を示す説明図である。 本発明の実施の形態1における点群抽出部の処理により、電線等の影響を除去するための説明図である。 本発明の実施の形態1における点群抽出部で抽出した電柱および電線の点群をプロットした説明図である。 画像上の地物(看板)の範囲に含まれる点群の緯度・経度をプロットしたグラフである。 2枚の画像を取得した位置関係により、重なりの範囲が異なる場合を示す説明図である。 2枚の画像を取得した位置関係により、重なりの範囲が異なる場合を示す説明図である。
以下、本発明の屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体の好適な実施の形態につき図面を用いて説明する。本発明に係る屋外地物検知システムは、カメラ画像内の所望の地物の位置を特定する指定入力に基づいて、所望の地物に対応するレーザ点群を抽出することで、当該所望の地物の領域を求め、地物の位置および大きさを検知することを技術的特徴とする。
また、本発明の屋外地物検知システム用プログラムは、上述した本発明の屋外地物検知システムに必要とされる機能をコンピュータで実行するためのプログラムである。また、屋外地物検知システム用プログラムの記録媒体は、当該プログラムが記録されたコンピュータで読み取り可能な記録媒体である。
実施の形態1.
まず始めに、本願発明における「点群を選び出す手法」の概略を、図1、図2を用いて説明する。図1は、本発明の実施の形態1における屋外地物検知システムの画面例である。本発明では、「システム利用者が画面上にある地物を指定(ここでは、標識を指定)」することで、所望の地物の位置、大きさを指定する、というものである。
この際、指定手段は、「利用者が地物の領域を指定する」方法でも構わないし、「利用者の指定した位置を利用した画像認識によって領域を判定する」方法でも構わない。
そして、本発明では、「システム利用者が画面上にある地物を指定」することに基づいて、「システム利用者から画面上の所望の地物が認識されている」ことに着目する。すなわち、本発明は、多少他の地物に隠れるようなこともあるが、システム利用者からは、地物があること、および大きさの程度が認識し得る、という前提を考慮している。
そこで、このような前提を、点群を選び出す手法に適用することを考える。点群を何らかの形でグルーピングすることで、「地物別の点群」をまとめ、それらの点群とモービルマッピングシステムの位置関係を考えるとする。このとき、前述の「システム利用者が対象の地物を認識」できる状況であるという前提を鑑みると、「地物はモービルマッピングシステムで検出すべき所望の地物に最も近い」ものであると考えられる。
しかしながら、この際に、地物の手前に障害物がある場合の除去が必要である。このような除去処理にあたっては、システム利用者が地物を認識できていることから、「障害物の大きさが(地物領域に比して)小さく、地物認識の障害にならない」ことを利用する。すなわち、点群を画面上にマッピングした時に、地物領域をどの程度覆うかを判別し、閾値以下ならば地物ではない、と判断することができ、その結果、障害物の除去が可能となる。
また、点群のグルーピングに関しては、同じ地物に当った点群ならば近くに存在するということを利用するなどによって可能である。具体的には、例えば、点群間の距離が一定距離以下のもの同士をすべてまとめる、などである。
また、図2は、本発明の実施の形態1における屋外地物検知システムで点群を取得する一例の説明図である。図2に示すように、「あるタイミングでは手前の地物によって点群が取得できない」場合でも、レーザの送出頻度が高いため、別のタイミングで取得できることから、障害物による影響は少ない。すなわち、図2の例では、カメラでは、地物2が邪魔なために地物1の一部の場所が映らない場合にも、別の場所からのレーザ送出により、カメラでは取得できなかった場所の点群を取得できることとなる。
上述した一連の処理により、特定の地物に当った点群を選び出すことができる。さらに、もしも地物の大きさが事前にわかっているならば、得られた点群を利用して大きさを計算し、条件に合うかどうかの検算を行うこともできる。ただし、点群が必ずしも地物の端点を覆うとは限らないため、計算した大きさには誤差が乗ることには注意しなければならない。
次に、上述した「点群を選び出す手法」を実現するための、本願発明の屋外地物検知システムの具体的な構成および動作について、図3〜図14を用いて、以下に詳細に説明する。
図3は、本発明の実施の形態1における屋外地物検知システムの構成図である。本実施の形態1における屋外地物検知システムは、指定入力手段10、処理手段20、およびデータ記憶手段30で構成されている。
指定入力手段10は、オペレータにより指定される入力データを受け付ける部分であり、画像指定部11、および点指定部12を有している。また、処理手段20は、受け付けた入力データ、およびデータ記憶手段30に保持されたデータに基づいて、データ処理を行う部分であり、画面描画部21、画像領域決定部22、点群抽出部23、実平面算出部24、および領域算出部25を有している。ここで、画像領域決定部22、点群抽出部23、実平面算出部24、および領域算出部25は、地物検知処理部に相当する。
さらに、データ記憶手段30は、入出力データが蓄積された記憶部であり、カメラ画像データ格納部31、点群データ格納部32、車両・カメラパラメータ格納部33、および領域出力結果格納部34を有している。
次に、各構成要素の機能について、詳細に説明する。
まず始めに、指定入力手段10内の機能について説明する。画像指定部11は、カメラ画像データ格納部31内の各画像の中から、表示する画像を指定する手段である。具体的には、この画像指定部11としては、例えば、先の図1に示したように、カメラ画像データ格納部31内の各画像のサムネイルを画面上の一部に表示させ、その中から所望のものを選んで等倍表示させる、等が行われ得る。
点指定部12は、画像指定部11で指定された画像上の1点を指定する手段であり、この点が画像上の地物内に含まれているものとする。具体的には、画面上に選択表示された画像上の1点を、マウス等によるポインティング操作により指定することで行われ得る。
次に、データ記憶手段30内に格納されているデータについて説明する。
カメラ画像データ格納部31は、車両から撮影したカメラ画像が収められている記憶部である。この際、各画像とともに撮影時の時刻が格納されている。
点群データ格納部32は、車両から測量したレーザ測量データが収められている記憶部である。測量データは、各点群の座標値とともにレーザ測量を行った時刻が格納されている。なお、この各点群の座標系は、平面直角座標系(x、y、z座標)を用い、x座標が緯度方向、y座標が経度方向の原点からの距離、そしてz座標が標高をそれぞれ表す(例えば、非特許文献1:国土地理院、平面直角座標系(平成十四年国土交通省告示第九号)、http://www.gsi.go.jp/LAW/heimencho.html参照)。
車両・カメラパラメータ格納部33は、カメラ画像データ格納部31内のカメラ画像データおよび点群データ格納部32内の点群データを取得した際の車両パラメータおよびカメラパラメータが収められている記憶部である。具体的には、カメラ撮影時の車両の位置・向きや、車両上のカメラの配置・カメラ焦点距離等のデータが格納されている。
領域出力結果格納部34は、後述する領域算出部25によって算出された地物の位置・大きさが収められている記憶部である。
次に、処理手段20内の機能について説明する。画面描画部21は、画像指定部11による画像指定に伴う一連の表示、点指定部12による点指定に伴う一連の表示、および領域算出部25で算出された領域等の表示を行う。
画像領域決定部22は、点指定部12で指定された1点から、地物の画像上での領域を決定する手段である。この決定手段としては、例えば、Adaboost等の学習を利用した手法を利用する(例えば、非特許文献2:Yoav Freund and Robert E.Schapire. “A decision−theoretic generalization of on−line learning and an application to boosting”.Journal of Computer and System Sciences、 55(1):119−139、August 1997参照)。
点群抽出部23は、画像指定部11で指定された画像、画像領域決定部22で決定した地物領域、点群データ格納部32に格納されている点群データ、および車両・カメラパラメータ格納部33に格納されている車両・カメラパラメータを用いて、後段の実平面算出部24での処理に必要な点群を抽出する(詳細は、後述する)。
実平面算出部24は、点群抽出部23によって抽出された点群から、地物を含む実平面を算出する。本算出によって、地物と実在の位置(点群)が結び付けられる。
そして、領域算出部25は、実平面算出部24によって算出された実平面上において、対象地物の範囲を求める。範囲計算の結果により、地物の幅、高さが算出できる。
次に、本実施の形態1における屋外地物検知システムの一連の動作について説明する。
画像指定部11によって、カメラ画像データ格納部31内の所望の画像を指定することで、画像およびその画像撮影時刻を一意に定める。画面描画部21は、この情報および領域算出部25で算出された範囲を、画面上に重ねて表示する。画像の外に領域の範囲がまたがる場合には、画面描画部21は、画像内に収まる範囲のみ描画する。
なお、領域算出部25による領域計算が行われていない場合には、領域は表示されない。また、画像指定部11によって、領域を表示する/しないの指定を行ってもよい。なお、領域を表示しない指定となっている場合には、領域計算が行われた後でも、画面描画部21は、画像のみを表示する。
画面描画部21により画面上に画像が表示された後、オペレータは、点指定部12を介して、画像上の1点を指定する。
次に、画像領域決定部22は、点指定部12で指定された画像上の1点に基づいて、画像上の地物の領域(地物を覆う最小の矩形形状の4頂点)を決定する。なお、画像領域決定部22は、指定された点を含む範囲に地物が存在しないと判断した場合には、以降の処理は行わず、点指定部12からの入力を待つ。
次に、点群抽出部23は、画像領域決定部22により決定された地物の領域に基づいて、地物の点群を抽出する。図4は、本発明の実施の形態1における点群抽出部23の入力、処理、出力の一連動作を示したフローチャートである。
まず始めに、点群抽出部23は、目的の点群以外を含む点群(入力1に相当)、領域の範囲R(入力2に相当)、およびその面積S(入力3に相当)を入力する。そして、ステップS400において、点群抽出部23は、範囲R内の点群を求める。
図5は、本発明の実施の形態1における図4のステップS400の具体的な処理を示したフローチャートである。まず、ステップS410において、点群抽出部23は、カメラ画像の撮影時刻tcから、一定時間範囲内に測定された点群データのみを、点群データ格納部32から抽出する。この際、主に使うデータは、カメラ撮影時刻近傍の点である。
次に、ステップS420において、点群抽出部23は、抽出した各点群をカメラ画像上にマッピングした場合の位置計算を行う。具体的には、点群抽出部23は、点群の画像上の位置を算出するにあたり、まず、車両・カメラパラメータ格納部33内のデータに基づいて、点群内の各点のカメラ位置からの相対位置(x、y、z)を、カメラ画像撮影時の車両位置・向きと車両上のカメラ位置・向きから算出する。その後、カメラ焦点距離f、カメラの1画素あたりの距離p、およびカメラの光軸中心座標(xc、yc)を用いて、点群の画像上の位置を算出する。
図6は、本発明の実施の形態1における点群抽出部23による点群の画像上の位置の算出方法に関する説明図である。図6に示すように、画像上の位置(x、y)は、下式(1)により算出することができる。
(x、y)=(xc+dx、yc−dy)
=(xc+(f・z)/(p・x
、yc−(f・y)/(p・x)) (1)
次に、ステップS430において、点群抽出部23は、先のステップS420で算出した点群の画像上の位置の中から、画像領域決定部22によって決定された領域内に含まれるものを抽出する。これにより、目的の地物に当った可能性のある点群が得られることとなり、ここから、絞込みを行うこととなる。
先の図4に戻り、ステップS500において、点群抽出部23は、さらに点群限定を行い、その結果を出力する。図7は、本発明の実施の形態1における図4のステップS500の具体的な処理を示したフローチャートである。まず、ステップS510において、点群抽出部23は、入力点群をグルーピングし、「点群分離」を行う。
図8は、本発明の実施の形態1における図7のステップS510の具体的な処理を示したフローチャートである。点群抽出部23は、入力された点群を、点群の位置と、「画像撮影時のモービルマッピングシステムの位置」との距離によってソートし(ステップS5101)、最も近い点から、それぞれ近傍にある点群同士を1グループとする(ステップS5102〜ステップS5108)。
具体的な処理としては、モービルマッピングシステムに最も近い1点に対して、閾値α(例えば、28cm)以下の距離にある点群をすべて選び出し(ステップS5103)、選び出した各点について、α以下の距離にある点群を選び出していく(ステップS5106)。処理を続け、点が増えなくなった時点で、得られたグループを1グループとする(ステップS5105)。
次に、グループに入らなかった点について同じ処理を行い、すべての入力点群に対して処理を行うまで続ける(ステップS5102〜ステップS5109)。最後に、このようにして得られたグループを、得られたグループ順にナンバリングする(ステップS5110)。このような一連処理により、先のステップS510における「点群分離」が完了する。
次に、先の図7に戻り、ステップS520において、点群抽出部23は、「点群分離」処理によりグルーピングされた点群から地物を選び出す「各グループから最適なグループ選択」を行う。すなわち、点群抽出部23は、グルーピングされた点群について、それらが目的の地物かどうかの判定を行う。
図9は、本発明の実施の形態1における図7のステップS520の具体的な処理を示したフローチャートである。「各グループから最適なグループ選択」を行うために、点群抽出部23は、モービルマッピングシステムに最も近い点群グループを1つ選び出し(ステップS5210)、その点群が、画像領域決定部22によって決定された領域のどの程度を占めるかを計算し(ステップS5220)、その値が閾値β(例えば0.9)以上であれば(ステップS5230)、その点群グループが目的の地物と判定する(ステップS5240)。
ただし、点群は単なる位置情報であるため、先のステップS5220における点群の占める範囲S’の計算として、点群抽出部23は、「点群の構成する外形の輪郭線」によって得られる面積を用いる。図10は、本発明の実施の形態1における図9のステップS5220の具体的な処理を示したフローチャートである。
図10では、まず、アウトライン点群を取得することで、点群によって得られる外形を求める(ステップS5221)。図11は、本発明の実施の形態1における図10のステップS5221の具体的な処理を示したフローチャートである。
図11に示したステップS1101〜ステップS1114までの一連処理を行うことで、点群の外周をできる限り取る形で点群を選択した上で、点群の外形を得ることができる。
また、図12は、本発明の実施の形態1における点群抽出部23で算出した点群の外形の一例を示す説明図である。この図12において、黒点(◆)が画像上にマッピングした点群であり、白抜き点(□)が、黒点(◆)から計算した点群の外形である。図11に示した一連処理を行うことで、点群抽出部23は、図12に白抜き点(□)として示したような外形を抽出することができる。
先の図10に戻り、点群抽出部23は、次に、ステップS5222において、入力点群から、先のステップS5221で得られた外形を構成する点群を除去する。さらに、点群抽出部23は、ステップS5223において、先のステップS5221と同様の処理により、残った点群から外形を計算する。
このステップS5223による外形計算は、電線等の影響を除去するために有効である。図13は、本発明の実施の形態1における点群抽出部23の処理により、電線等の影響を除去するための説明図である。図13の左側に示した画像においては、所望の地物である看板の手前に、電柱と電線が存在している状況を示している。
図13の右上に示した点群は、電柱および電線に対応するものであり、図13の右下に示した点群は、看板に対応するものである。この図13から分かるように、電線等は、所望の地物である看板の領域を広く覆う一方で、中央部に点群が存在しないものとなっている。
図14は、本発明の実施の形態1における点群抽出部23で抽出した電柱および電線の点群をプロットした説明図であり、図13の右上の図に対応するものである。図14に示すように、「作成した外形で覆う範囲」に比べて、実際に点群の量が少なく見えるが、これは電線のように細いものが領域の上下部を覆う形で検知されているために起こるものである。一方、この電線のような細いものに対応する点群は、高々一列程度になるため、外形を作った後に、その点群を抜くことで、電線の影響を取り除くことができる。
再び先の図10に戻り、点群抽出部23は、ステップS5224において、先のステップS5221〜ステップS5223の処理結果として得られた外形の面積を計算する。このような一連の処理により、点群抽出部23は、点群で覆われた範囲の面積計算を行うことができる。
そして、点群抽出部23は、上述したように、先の図9におけるステップS5230、ステップS5240の処理を行い、画像領域決定部22によって決定された領域の面積(S)と、先のステップS5220で求めた面積(S’)との比を求めることで、対象となる点群のグループを決定することができる。
点群抽出部23によって得られた点が3点未満の場合は、エラーとして以降の処理は行わず、画像指定部11による画像指定に戻る。一方、点群抽出部23によって点が3点以上得られた場合には、実平面算出部24により、得られた点を含む平面を算出する(先の図3参照)。
実際には、得られた点には誤差が乗るため、すべての点が乗るような平面を算出できることは少ない。そのため、実平面算出部24は、最小二乗法等を用いて、最も近い平面を算出する。この得られた平面が、指定した地物を含む平面となる。
実平面算出部24によって平面を得た後、領域算出部25は、対象の範囲を決定する(先の図3参照)。そのためには、実平面算出部24で得られた平面と、画像領域決定部22で決定した地物領域を規定する矩形の頂点4点を利用して、「得られた平面で、4点がマッピングされる位置」を計算する。
本計算は上式(1)、および算出する点の位置(x、y、z)が、実平面算出部24で得られる平面の式を満たすことから、一意に定まる。
先の図3に示すように、領域算出部25による領域計算後は、画面描画部21に戻り、画像の上に領域を描画し、画像指定部11からの画像選択を待つ。また、領域算出部25は、領域出力結果格納部34に、地物の幅、高さおよび矩形の頂点4点を格納する。
以上のように、実施の形態1によれば、カメラ画像とレーザ点群とに基づいて、地物の位置・大きさを算出することができる。さらに、特定された地物の領域を、画像上に描画することで、人の目による確認も同時に行うことができる。
さらに、画像指定部によって別の画像が指定された場合には、前述の通り、領域が指定された画像の上に再描画される。領域を計算した画像以外の、地物が映っている画像に、計算した領域を重ねることで、計算した領域の正しさが確認できる。
これにより、「複数の画像で映っている地物に関しては、それぞれで計算を行い、別の画像に重ね合わせる」処理を行い、人が「最もよく重ね合っているもの」を判断することで、正確な地物の位置・大きさを選び出すことができる。このようにすることで、計算だけでは拾いきれない誤差を、画面による目視確認を通じて吸収することができる。
実施の形態2.
先の実施の形態1では、画像上の1点を指定入力することで地物の検知を行う場合について説明した。これに対して、本実施の形態2では、指定入力する点を、1点ではなく2点にして地物検知を行う場合について説明する。
本実施の形態2においては、システム利用者は、求める地物を覆う矩形の対角2点を指定入力する。これにより、画像領域決定部22は、この対角の2点に基づいて決定する範囲を限定することができ、誤検知を減らすことができる。このとき、領域算出部25で算出する位置のうち、2点は、利用者によって入力された位置であり、残り2点が、画像領域決定部22で決定した位置となる。
以上のように、実施の形態2によれば、地物を特定するために指定入力する点を2点とすることで、先の実施の形態1の効果に加え、地物の画像上での領域を決定する際の誤検知を減らすことができ、性能をさらに向上させることができる。
なお、上述した実施の形態1、2によって、地物の位置が検知され、画像内の地物の範囲が求められた際に、先の図1に示すように、画像から地物の範囲を切り出して、別途保存しても構わない。このようにして、位置と画像を別途表示することにより、地物検知状況をオペレータが確認しやすくなる利点が加わる。
10 指定入力手段、11 画像指定部、12 点指定部、20 処理手段、21 画面描画部、22 画像領域決定部、23 点群抽出部、24 実平面算出部、25 領域算出部、30 データ記憶手段、31 カメラ画像データ格納部、32 点群データ格納部、33 車両・カメラパラメータ格納部、34 領域出力結果格納部。

Claims (6)

  1. レーザ測量結果である点群とカメラ画像とを用いて屋外地物の検知を行なう屋外地物検知システムにおいて、
    対象となる地物周辺の画像を格納するカメラ画像データ格納部と、
    対象となる地物周辺のレーザ測量結果を点群として格納する点群データ格納部と、
    前記カメラ画像データ格納部に格納された前記対象となる地物周辺の画像をモニタ上に表示させる画面描画部と、
    前記モニタ上に表示された前記対象となる地物周辺の画像の中から前記地物の領域内に含まれる少なくとも1点を指定する点指定部と、
    前記点指定部で指定された前記少なくとも1点に基づいて、画像上の地物の領域を決定し、決定した前記領域に含まれる点群を点群データ格納部から抽出し、点群間の距離が一定距離以下のもの同士をグルーピングすることで前記地物に対応する点群を分離し、分離した前記点群の位置と範囲から前記点指定部で指定された前記少なくとも1点を含む地物の領域の位置と大きさを検知する地物検知処理部と
    を備えることを特徴とする屋外地物検知システム。
  2. 請求項1に記載の屋外地物検知システムにおいて、
    前記地物検知処理部は、グルーピングした各点群に対して外形を算出し、算出した前記外形から面積を算出し、前記少なくとも1点に基づいて決定した前記画像上の地物の領域に占める前記面積の割合が所定閾値以上である点群を、対象の地物に含まれる点群として特定する
    ことを特徴とする屋外地物検知システム。
  3. 請求項1または2に記載の屋外地物検知システムにおいて、
    前記地物検知処理部による検知結果を格納する領域出力結果格納部をさらに備え、
    前記地物検知処理部は、前記対象となる地物周辺の画像の中から、検知した地物の位置と大きさに対応する画像を切り出し、前記領域出力結果格納部に記憶させる
    ことを特徴とする屋外地物検知システム。
  4. 請求項3に記載の屋外地物検知システムにおいて、
    前記画面描画部は、前記領域出力結果格納部に格納された前記地物検知処理部による検知結果を、前記カメラ画像データ格納部に格納された別の画像に重ね合わせて前記モニタ上に表示させる
    ことを特徴とする屋外地物検知システム。
  5. 屋外地物検知システム用プログラムであって、
    コンピュータを、
    カメラ画像データ格納部に格納された対象となる地物周辺の画像をモニタ上に表示させる画面描画手段と、
    前記モニタ上に表示された前記対象となる地物周辺の画像の中から地物の領域内に含まれる少なくとも1点を指定する点指定手段と、
    前記点指定手段で指定された前記少なくとも1点に基づいて、画像上の地物の領域を決定し、決定した前記領域に含まれる点群を、対象となる地物周辺のレーザ測量結果を点群として格納する点群データ格納部から抽出し、点群間の距離が一定距離以下のもの同士をグルーピングすることで前記地物に対応する点群を分離し、分離した前記点群の位置と範囲から前記点指定手段で指定された前記少なくとも1点を含む地物の領域の位置と大きさを検知する地物検知処理手段と
    して機能させるための屋外地物検知システム用プログラム。
  6. 屋外地物検知システム用プログラムが記録されたコンピュータで読み取り可能な記録媒体であって、
    コンピュータに、
    カメラ画像データ格納部に格納された対象となる地物周辺の画像をモニタ上に表示させる画面描画ステップと、
    前記モニタ上に表示された前記対象となる地物周辺の画像の中から地物の領域内に含まれる少なくとも1点を指定する点指定ステップと、
    前記点指定手段で指定された前記少なくとも1点に基づいて、画像上の地物の領域を決定し、決定した前記領域に含まれる点群を、対象となる地物周辺のレーザ測量結果を点群として格納する点群データ格納部から抽出し、点群間の距離が一定距離以下のもの同士をグルーピングすることで前記地物に対応する点群を分離し、分離した前記点群の位置と範囲から前記点指定手段で指定された前記少なくとも1点を含む地物の領域の位置と大きさを検知する地物検知処理ステップと
    を含む処理を実行させるためのコンピュータで読み取り可能な屋外地物検知システム用プログラムの記録媒体。
JP2010228418A 2010-10-08 2010-10-08 屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体 Expired - Fee Related JP5535025B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010228418A JP5535025B2 (ja) 2010-10-08 2010-10-08 屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010228418A JP5535025B2 (ja) 2010-10-08 2010-10-08 屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体

Publications (2)

Publication Number Publication Date
JP2012083157A true JP2012083157A (ja) 2012-04-26
JP5535025B2 JP5535025B2 (ja) 2014-07-02

Family

ID=46242185

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010228418A Expired - Fee Related JP5535025B2 (ja) 2010-10-08 2010-10-08 屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体

Country Status (1)

Country Link
JP (1) JP5535025B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015176412A (ja) * 2014-03-17 2015-10-05 アジア航測株式会社 レーザ点群色付方法及びレーザ点群色付プログラム
JP2017191605A (ja) * 2016-04-13 2017-10-19 ジック インクSICK Inc. 対象物体の寸法を計測するための方法及びシステム
WO2020045057A1 (ja) * 2018-08-31 2020-03-05 パイオニア株式会社 姿勢推定装置、制御方法、プログラム及び記憶媒体
JP2020042790A (ja) * 2018-09-07 2020-03-19 バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド 実データ拡張方法、装置及び端末
JP2020098188A (ja) * 2018-09-27 2020-06-25 バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド 障害物検出方法、障害物検出装置、電子機器、車両及び記憶媒体
WO2021112809A1 (en) * 2019-12-07 2021-06-10 Ozturk Deniz Point designation system in 3-dimensional space with using multiple laser beams
WO2021166381A1 (ja) 2020-02-18 2021-08-26 富士フイルム株式会社 点群データ処理装置、点群データ処理方法及びプログラム
WO2021199822A1 (ja) 2020-03-30 2021-10-07 富士フイルム株式会社 点群データ処理装置、点群データ処理方法、及びプログラム
JP2021177136A (ja) * 2020-05-07 2021-11-11 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP7080402B1 (ja) * 2020-11-10 2022-06-03 三菱電機株式会社 情報管理システムおよび情報管理方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009053059A (ja) * 2007-08-27 2009-03-12 Mitsubishi Electric Corp 対象特定装置、対象特定方法および対象特定プログラム
JP2009075117A (ja) * 2007-02-16 2009-04-09 Mitsubishi Electric Corp 道路地物計測装置、地物識別装置、道路地物計測方法、道路地物計測プログラム、計測装置、計測方法、計測プログラム、計測位置データ、計測端末装置、計測サーバ装置、作図装置、作図方法、作図プログラムおよび作図データ
JP2009076096A (ja) * 2008-11-27 2009-04-09 Mitsubishi Electric Corp 対象特定装置
JP2011185777A (ja) * 2010-03-09 2011-09-22 Mitsubishi Electric Corp 地物検出システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009075117A (ja) * 2007-02-16 2009-04-09 Mitsubishi Electric Corp 道路地物計測装置、地物識別装置、道路地物計測方法、道路地物計測プログラム、計測装置、計測方法、計測プログラム、計測位置データ、計測端末装置、計測サーバ装置、作図装置、作図方法、作図プログラムおよび作図データ
JP2009204615A (ja) * 2007-02-16 2009-09-10 Mitsubishi Electric Corp 道路地物計測装置、地物識別装置、道路地物計測方法、道路地物計測プログラム、計測装置、計測方法、計測端末装置、計測サーバ装置、作図装置、作図方法、作図プログラムおよび作図データ
JP2009053059A (ja) * 2007-08-27 2009-03-12 Mitsubishi Electric Corp 対象特定装置、対象特定方法および対象特定プログラム
JP2009076096A (ja) * 2008-11-27 2009-04-09 Mitsubishi Electric Corp 対象特定装置
JP2011185777A (ja) * 2010-03-09 2011-09-22 Mitsubishi Electric Corp 地物検出システム

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015176412A (ja) * 2014-03-17 2015-10-05 アジア航測株式会社 レーザ点群色付方法及びレーザ点群色付プログラム
JP2017191605A (ja) * 2016-04-13 2017-10-19 ジック インクSICK Inc. 対象物体の寸法を計測するための方法及びシステム
CN107289855A (zh) * 2016-04-13 2017-10-24 西克股份有限公司 用于测量目标对象的尺寸的方法和***
US10262222B2 (en) 2016-04-13 2019-04-16 Sick Inc. Method and system for measuring dimensions of a target object
WO2020045057A1 (ja) * 2018-08-31 2020-03-05 パイオニア株式会社 姿勢推定装置、制御方法、プログラム及び記憶媒体
US11205289B2 (en) 2018-09-07 2021-12-21 Baidu Online Network Technology (Beijing) Co., Ltd. Method, device and terminal for data augmentation
JP2020042790A (ja) * 2018-09-07 2020-03-19 バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド 実データ拡張方法、装置及び端末
JP2020098188A (ja) * 2018-09-27 2020-06-25 バイドゥ オンライン ネットワーク テクノロジー (ベイジン) カンパニー リミテッド 障害物検出方法、障害物検出装置、電子機器、車両及び記憶媒体
US11393219B2 (en) 2018-09-27 2022-07-19 Apollo Intelligent Driving Technology (Beijing) Co., Ltd. Method and apparatus for detecting obstacle, electronic device, vehicle and storage medium
WO2021112809A1 (en) * 2019-12-07 2021-06-10 Ozturk Deniz Point designation system in 3-dimensional space with using multiple laser beams
WO2021166381A1 (ja) 2020-02-18 2021-08-26 富士フイルム株式会社 点群データ処理装置、点群データ処理方法及びプログラム
JPWO2021166381A1 (ja) * 2020-02-18 2021-08-26
WO2021199822A1 (ja) 2020-03-30 2021-10-07 富士フイルム株式会社 点群データ処理装置、点群データ処理方法、及びプログラム
JP2021177136A (ja) * 2020-05-07 2021-11-11 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP7417466B2 (ja) 2020-05-07 2024-01-18 株式会社トヨタマップマスター 情報処理装置、情報処理方法及び情報処理プログラム
JP7080402B1 (ja) * 2020-11-10 2022-06-03 三菱電機株式会社 情報管理システムおよび情報管理方法

Also Published As

Publication number Publication date
JP5535025B2 (ja) 2014-07-02

Similar Documents

Publication Publication Date Title
JP5535025B2 (ja) 屋外地物検知システム、屋外地物検知システム用プログラム、および屋外地物検知システム用プログラムの記録媒体
CN105512646B (zh) 一种数据处理方法、装置及终端
JP6484228B2 (ja) 視覚強化ナビゲーション
CN107015724B (zh) 信息处理装置、信息处理方法及存储程序的非临时性计算机可读存储介质
US9361731B2 (en) Method and apparatus for displaying video on 3D map
KR102200299B1 (ko) 3d-vr 멀티센서 시스템 기반의 도로 시설물 관리 솔루션을 구현하는 시스템 및 그 방법
CN110794955B (zh) 定位跟踪方法、装置、终端设备及计算机可读取存储介质
EP3413266B1 (en) Image processing device, image processing method, and image processing program
JP7156515B2 (ja) 点群アノテーション装置、方法、及びプログラム
EP3306565A1 (en) Entity visualization method
KR20070057561A (ko) 정보 매핑 장치, 시스템, 및 방법
CN110428372B (zh) 深度数据与2d激光数据融合方法及装置、存储介质
JP2011170599A (ja) 屋外構造物計測装置及び屋外構造物計測方法
US20130135446A1 (en) Street view creating system and method thereof
US9418284B1 (en) Method, system and computer program for locating mobile devices based on imaging
TWI682361B (zh) 路面影像重建與載具定位之方法與系統
EP3825804A1 (en) Map construction method, apparatus, storage medium and electronic device
WO2014112909A1 (en) Method and system for geo-referencing at least one sensor image
US20210201522A1 (en) System and method of selecting a complementary image from a plurality of images for 3d geometry extraction
JP5276032B2 (ja) 対象物の位置を算出するための装置
JP5473683B2 (ja) 地物検出システム
CN113032499B (zh) 辅助显示、地物信息的辅助标注方法、装置、设备和介质
KR101463906B1 (ko) 영상 부가정보를 이용한 위치보정 방법
JP6546898B2 (ja) 3次元空間特定装置、方法、及びプログラム
KR20220062709A (ko) 모바일 디바이스 영상에 기반한 공간 정보 클러스터링에 의한 재난 상황 인지 시스템 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130729

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140325

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140422

R150 Certificate of patent or registration of utility model

Ref document number: 5535025

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees