JP2022008108A - 道路領域確定装置及び方法、電子機器 - Google Patents
道路領域確定装置及び方法、電子機器 Download PDFInfo
- Publication number
- JP2022008108A JP2022008108A JP2021086239A JP2021086239A JP2022008108A JP 2022008108 A JP2022008108 A JP 2022008108A JP 2021086239 A JP2021086239 A JP 2021086239A JP 2021086239 A JP2021086239 A JP 2021086239A JP 2022008108 A JP2022008108 A JP 2022008108A
- Authority
- JP
- Japan
- Prior art keywords
- road area
- road
- fitting
- segmentation
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】本発明は、道路領域確定装置及び方法、電子機器を提供する。
【解決手段】かかる方法は、セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定し;多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得する;並びに、フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行うこと、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいて前記フィッティング後の道路領域のセグメンテーションを行うことを含む。
【選択図】図18
【解決手段】かかる方法は、セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定し;多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得する;並びに、フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行うこと、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいて前記フィッティング後の道路領域のセグメンテーションを行うことを含む。
【選択図】図18
Description
本発明は、情報技術分野に関する。
交通ビデオ監視や自動運転では、道路領域の抽出が重要で困難な作業であり、それは、道路を走行する車両、道路間の緑地帯、セマンティックセグメンテーション(Semantic Segmentation)の正確さなどの多くの要因の影響を受ける可能性がある。
道路領域の抽出について言えば、良く用いられている方法の1つとして、エッジ検出及び数学的形態学に基づく方法がある。該方法では、数学的形態学における拡張及び腐食操作によって道路のエッジを特定し、最終的に正確な道路を選択することができる。
また、平均車両軌迹に基づく道路抽出方法も提案されている。この方法は、主に、各フレームにおいて取得された車両位置を追跡し、これらの位置の中心点を平均軌迹としてフィッティングし;ビデオフレームのうちから1つの適切なフレームを背景として選択し、形態学的処理を行い、両側の天空又は風景などの影響有りのノイズ点を除去し、そして、更なる処理によりバイナリ背景を取得し;及び、平均軌迹とバイナリ背景とのマッチングにより道路を抽出するステップを含む。
さらに、深層学習に基づく道路抽出方法が提案されている。該方法では、高解像度ダイナミックビジョンセンサー(dynamic vision sensor、DVS)道路線抽出データセット(DET)(即ち、高分解能DVSデータセット)及びダイナミックビジョンセンサー(DVS)を導入することによって道路抽出タスクを処理することができる。
エッジ検出及び数学的形態学に基づく方法の場合、この方法は、ノイズ点が少なく、且つ道路が明晰(クリア)な背景画像について、成功率が比較的高い。しかし、実際の交通ビデオでは、ノイズ点の除去が難しく、且つ道路そのものが複雑性及び可変性を有する。よって、該方法は、ノイズ点の影響を受けやすく、複数の道路の検出に適しない。また、該方法は、各道路の位置を提供することができない。
平均車両軌迹に基づく道路抽出方法の場合、該方法は、各道路領域の特定の座標を確定することができないので、制限がある。また、該方法はもう1つの制限もあり、即ち、各道路上の車両の走行方向を確定することができない。
深層学習に基づく道路抽出方法の場合、この方法は、手動で注釈をつけてデータセットを形成する必要がある。また、該方法は、各道路領域の具体的な座標及び各道路上の車両の走行方向を確定することができない。
上述の問題のうちの少なくとも1つを解決するために、本発明の実施例は、道路領域確定装置及び方法、電子機器を提供し、これにより、本発明は、干渉物有りのリアルなシナリオに適応し、複数の道路の抽出に適用し、また、各道路の座標を確定することもできる。
本発明の実施例の第一側面によれば、道路領域確定装置が提供され、前記装置は、
第一確定ユニットであって、セマンティックセグメンテーションに基づいて、入力画像のうちから道路領域を予備抽出し、予備道路領域を確定する、もの;
第二確定ユニットであって、予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定する、もの;
フィッティング(fitting)ユニットであって、多辺形(多角形)を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得する、もの;並びに
フィッティング後の道路領域内の凹みのサーチ(search(捜索))を行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行う第一セグメンテーションユニット、及び/又は、前記フィッティング後の道路領域内のオプティカルフロー(optical flow)に基づいて、前記フィッティング後の道路領域のセグメンテーションを行う第二セグメンテーションユニットを含む。
第一確定ユニットであって、セマンティックセグメンテーションに基づいて、入力画像のうちから道路領域を予備抽出し、予備道路領域を確定する、もの;
第二確定ユニットであって、予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定する、もの;
フィッティング(fitting)ユニットであって、多辺形(多角形)を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得する、もの;並びに
フィッティング後の道路領域内の凹みのサーチ(search(捜索))を行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行う第一セグメンテーションユニット、及び/又は、前記フィッティング後の道路領域内のオプティカルフロー(optical flow)に基づいて、前記フィッティング後の道路領域のセグメンテーションを行う第二セグメンテーションユニットを含む。
本発明の実施例の第二側面によれば、電子機器が提供され、前記電子機器は本発明の実施例の第一側面に記載の道路領域確定装置を含む。
本発明の実施例の第三側面によれば、道路領域確定方法が提供され、前記方法は、
セマンティックセグメンテーションに基づいて、入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;
予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定し;
多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに
フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行うこと、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいて、前記フィッティング後の道路領域のセグメンテーションを行うことを含む。
セマンティックセグメンテーションに基づいて、入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;
予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定し;
多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに
フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行うこと、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいて、前記フィッティング後の道路領域のセグメンテーションを行うことを含む。
本発明の実施例の有利な効果は次のとおりであり、即ち、フィッティング後の道路領域に対して凹みのサーチを行うことで道路領域のセグメンテーションを行い及び/又はフィッティング後の道路領域内のオプティカルフローに基づいて道路領域のセグメンテーションを行うことにより、本発明は、干渉物有りのリアルなシナリオに適応し、複数の道路の抽出に適用し、また、各道路の座標を確定することもできる。
さらに、道路領域内のオプティカルフローに基づいて道路上の車両の走行方向を確定することができる。
以下、添付した図面を参照しながら、本発明を実施するための好ましい実施例について詳細に説明する。
本発明の実施例は道路領域確定装置を提供する。図1は本発明の実施例1における道路領域確定装置を示す図である。
図1に示すように、道路領域確定装置100は以下のものを含む。
第一確定ユニット101:セマンティックセグメンテーションに基づいて、入力画像のうちから道路領域を予備(初歩的に)抽出し、予備道路領域を確定し;
第二確定ユニット102:予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、該2値化画像に基づいて道路輪郭を確定し;
フィッティングユニット103:多辺形を用いて該道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに
第一セグメンテーションユニット104:フィッティング後の道路領域内の凹みのサーチを行い、該道路領域内に凹みが存在するときに、該凹みに基づいてフィッティング後の道路領域に対してセグメンテーションを行い;及び/又は
第二セグメンテーションユニット105:フィッティング後の道路領域内のオプティカルフローに基づいて、フィッティング後の道路領域に対してセグメンテーションを行う。
第二確定ユニット102:予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、該2値化画像に基づいて道路輪郭を確定し;
フィッティングユニット103:多辺形を用いて該道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに
第一セグメンテーションユニット104:フィッティング後の道路領域内の凹みのサーチを行い、該道路領域内に凹みが存在するときに、該凹みに基づいてフィッティング後の道路領域に対してセグメンテーションを行い;及び/又は
第二セグメンテーションユニット105:フィッティング後の道路領域内のオプティカルフローに基づいて、フィッティング後の道路領域に対してセグメンテーションを行う。
上述の実施例から分かるように、フィッティング後の道路領域に対して凹みのサーチを行うことで道路領域のセグメンテーションを行い及び/又はフィッティング後の道路領域内のオプティカルフローに基づいて道路領域のセグメンテーションを行うことにより、本発明は、干渉物有りのリアルなシナリオに適応し、複数の道路の抽出に適用し、また、各道路の座標を確定することもできる。
さらに、道路領域内のオプティカルフローに基づいて道路上の車両の走行方向を確定することができる。
本発明の実施例では、道路領域確定装置100が処理する入力画像は、道路の所在する領域を撮影するカメラ装置から得たものであっても良く、例えば、道路の上方に設置される監視カメラヘッドにより取得することができる。
本発明の実施例では、道路領域確定装置100は、監視カメラヘッドが得た監視ビデオの少なくとも1つのフレームに対して処理を行うことができ、例えば、監視ビデオの不連続フレームに対して処理を行っても良い。
本発明の実施例では、不連続フレームとは、2つのフレームの間に少なくとも1つのフレームで区切られた複数のフレームを指し、即ち、連続したフレームではない。このように、移動物体と不移動物体(静止物体)を明確に区別することができるため、予備道路領域の確定に有利である。
図2は本発明の実施例1における第一確定ユニットを示す図である。図2に示すように、第一確定ユニット101は以下のものを含む。
セグメンテーションユニット201:事前設定の数(所定の数)の不連続フレームに対してそれぞれセマンティックセグメンテーションを行い、事前設定の数の不連続フレームのセマンティックセグメンテーション結果を取得し;及び
第三確定ユニット202:各フレームの中のすべての画素について1つずつ該画素の類型を確定し、そのうち、事前設定の数の不連続フレームにおける該画素のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を該画素の類型とする。
第三確定ユニット202:各フレームの中のすべての画素について1つずつ該画素の類型を確定し、そのうち、事前設定の数の不連続フレームにおける該画素のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を該画素の類型とする。
本発明の実施例では、セグメンテーションユニット201は、事前設定の数の不連続フレームに対してセマンティックセグメンテーションを行い、該事前設定の数は実際のニーズに応じて確定することができ、例えば、該事前設定の数は10であっても良い。
本発明の実施例では、セグメンテーションユニット201は、深層学習ネットワークに基づいてセマンティックセグメンテーションを行うことができ、例えば、DeepLab V3ネットワークに基づいてセマンティックセグメンテーションを行っても良い。セマンティックセグメンテーションを行うときに、干渉物、例えば、緑化帯(グリーンベルト)、広告看板及び電柱などについて、これらの干渉物を道路と同一類別のものと見なすことで、これらの干渉物による干渉を除去することができる。また、移動物体、例えば、車両について、それを道路とは異なる類別のものと見なし、このようにして、車両のサイズが大き過ぎて道路境界がブロッキング(blocking)されるときに2つの隣接する道路領域がつながることを回避し得る。
図3は本発明の実施例1におけるセマンティックセグメンテーション結果を示す図である。図3に示すように、入力画像としての1フレームに対してセマンティックセグメンテーションを行い、緑化帯、広告看板及び電柱などの干渉物及び道路は同一類別としてセグメンテーションされ、車両は道路とは異なる類別としてセグメンテーションされる。車両が道路表面の一部をブロッキングしているから、取得された道路領域は不完全であり、その中には穴が現れることがある。よって、セマンティックセグメンテーション結果に対して修正(correction)を行う必要がある。
第三確定ユニット202は、各フレームの中のすべての画素について1つずつ該画素の類型を確定し、そのうち、事前設定の数の不連続フレームにおける該画素のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を該画素の類型とする。このように、道路に属する領域に対して補充を行って完全なものにすることで、完全な予備道路領域を得ることができる。
例えば、10個の不連続フレームに対してそれぞれセマンティックセグメンテーションを行った後、各フレームの中の各画素の類型を確定することができ、例えば、該画素は道路に属し、又は、該画素は車両に属する。或る画素について、それが道路に属すると確定されるフレームの数が、10個の不連続フレームのうち、8であり、車両に属すると確定されるフレームの数が、10個の不連続フレームのうち、2である場合、該画素の類型を道路と決定する。
図4は本発明の実施例1における第三確定ユニットがすべての画素の類型を確定した後の様子を示す図である。図4に示すように、第三確定ユニット202による修正の後、完全な予備道路領域を取得しており、つまり、幾つかのフレームの中で車両としてセグメンテーションされた領域を道路領域に修正している。
本発明の実施例では、第二確定ユニット102は、予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、そして、該2値化画像に基づいて道路輪郭を確定する。
図5は本発明の実施例1における第二確定ユニットを示す図である。図5に示すように、第二確定ユニット102は以下のものを含む。
2値化処理ユニット501:予備道路領域が確定された入力画像に対して2値化処理を行い、2値化画像を取得し;
第一サーチユニット502:該2値化画像内の一番外側の輪郭のサーチを行い、該2値化画像内の輪郭を取得し;及び
選択ユニット503:サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、該道路の輪郭を取得する。
第一サーチユニット502:該2値化画像内の一番外側の輪郭のサーチを行い、該2値化画像内の輪郭を取得し;及び
選択ユニット503:サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、該道路の輪郭を取得する。
本発明の実施例では、2値化処理ユニット501は、予備道路領域が確定された入力画像に対して2値化処理を行い、例えば、道路領域の画素値を1とし、他の領域の画素値を0とすることで、2値化画像を取得することができる。
第一サーチユニット502は該2値化画像内の一番外側の輪郭のサーチを行い、該2値化画像内の輪郭を取得する。
図6は本発明の実施例1における2値化画像内の輪郭を示す図である。図6に示すように、該2値化画像内の一番外側の輪郭のサーチを行い、外側の輪郭に含まれる内側の輪郭を無視することで、道路領域の輪郭を大雑把に把握することができる。
選択ユニット503は、サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、道路の輪郭を取得する。例えば、面積が比較的に小さい輪郭を除去し、例えば、面積が事前設定の値(所定の値)よりも小さい輪郭を除去する。
図7は図6における輪郭に対して選択を行うことで得られた道路領域を示す図である。図7に示すように、比較的に小さい輪郭を除去した後、道路領域の輪郭、即ち、道路輪郭を得ることができる。
道路輪郭を得た後に、フィッティングユニット103は多辺形を用いて該道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得する。例えば、多辺形を用いて近似法により道路輪郭のフィッティングを行い、フィッティング後の道路領域を取得することができる。
図8は本発明の実施例1におけるフィッティング後の道路領域を示す図である。図8に示すように、多辺形によりフィッティング後の道路領域を表すことができる。
幾つかの場合、セマンティックセグメンテーション結果が完璧なものではないので、隣接する道路領域はつながることがある。このような場合は、本発明の実施例は、凹みのサーチを行う方式で処理を行う。
本発明の実施例では、第一セグメンテーションユニット104及び第二セグメンテーションユニット105は、異なる状況に対して、異なる方法を用いて道路領域のセグメンテーションを行うことができる。装置100は、実際の状況に応じて、第一セグメンテーションユニット104及び第二セグメンテーションユニット105のうちの少なくとも1つを含んでも良い。また、装置100が第一セグメンテーションユニット104及び第二セグメンテーションユニット105の両方を含む場合、第一セグメンテーションユニット104及び第二セグメンテーションユニット105のうちの1つを用いて車道領域のセグメンテーションを行っても良い。
第一セグメンテーションユニット104は、フィッティング後の道路領域内の凹みのサーチを行い、該道路領域内に凹みが存在するときに、該凹みに基づいてフィッティング後の道路領域に対してセグメンテーションを行う。
以下、第一セグメンテーションユニット104が凹みのサーチを行って凹みに基づいてセグメンテーションを行う方法について例示的に説明する。
図9は本発明の実施例1における第一セグメンテーションユニットを示す図である。図9に示すように、第一セグメンテーションユニット104は以下のものを含む。
第四確定ユニット901:該フィッティング後の道路領域の中で、凹みの角度が第一閾値よりも小さく、且つ凹みの深さが第二閾値よりも大きいときに、該フィッティング後の該道路領域内に凹みが存在すると確定する。
このように、本当の隣接する車道により形成される凹みを選択し、他の凹み形状による干渉を除外することができる。
本発明の実施例では、第一閾値及び第二閾値は実際のニーズに応じて確定され得る。
本発明の実施例では、例えば、凹みの角度とは、凹みを形成する2つの辺の夾角を指し、凹みの深さとは、凹みの底辺から凹みの頂点までの距離を指す。
図10は本発明の実施例1において確定された凹みを示す図である。図10に示すように、第四確定ユニット901により、隣接する道路領域の間に凹み1000が存在すると確定されている。
本発明の実施例では、図9に示すように、第一セグメンテーションユニット104はさらに以下のものを含んでも良い。
第五確定ユニット902:該凹みの頂点を確定し;
第六確定ユニット903:該凹みの底部の2つの端点の中心点を確定し;及び
第七確定ユニット904:該頂点及び該中心点に基づいて、隣接する2つの道路領域の第一セグメンテーション線を確定することで、該フィッティング後の道路領域に対してセグメンテーションを行う。
第六確定ユニット903:該凹みの底部の2つの端点の中心点を確定し;及び
第七確定ユニット904:該頂点及び該中心点に基づいて、隣接する2つの道路領域の第一セグメンテーション線を確定することで、該フィッティング後の道路領域に対してセグメンテーションを行う。
図11は本発明の実施例1における凹みに対しての処理を示す図である。図11に示すように、該凹みの頂点1001及び底部の2つの端点1002、1003を確定し、そして、端点1002、1003に基づいて中心点1004、即ち、端点1002、1003の接続線(端点1002、1003を両端とする線分)の中点を確定する。頂点1001と中心点1004を接続し、該接続線の延長線の道路領域内に位置する部分は、隣接する2つ道路領域のセグメンテーション線と見なすことができ、即ち、図11の中のセグメンテーション線1005である。
幾つかの場合、道路領域の間に凹みが無く、又は、確定された1つの道路領域に2つの方向に沿って延伸する道路、即ち、走行方向が異なる道路が含まれる。これらの場合、装置100は、第二セグメンテーションユニット105を用いて道路領域のセグメンテーションを行うことができる。第二セグメンテーションユニット105は、フィッティング後の道路領域内のオプティカルフローに基づいて、該フィッティング後の道路領域に対してセグメンテーションを行う。
例えば、該フィッティング後の道路領域内の順方向オプティカルフローベクトルと逆方向オプティカルフローベクトルの比が第三閾値よりも大きく且つ第四閾値よりも小さく、且つすべてのオプティカルフローベクトルの平均長さが第五閾値よりも大きいときに、該フィッティング後の道路領域には2つの方向に沿って延伸する道路、即ち、走行方向が異なる道路が含まれることを表す。このときに、第二セグメンテーションユニット105は、該フィッティング後の道路領域内のオプティカルフローに基づいて、該フィッティング後の道路領域に対してセグメンテーションを行う。
また、本発明の実施例では、第一セグメンテーションユニット104を用いてセグメンテーションを行った後の道路領域にさらに2つの方向に沿って延伸する道路、即ち、走行方向が異なる道路が含まれるときに、第二セグメンテーションユニット104により該道路領域に対して更なるセグメンテーションを行っても良い。
本発明の実施例では、該第三閾値、第四閾値及び第五閾値の具体的な数値については実際のニーズに応じて設定することができる。
以下、第二セグメンテーションユニット105がオプティカルフローに基づいてセグメンテーションを行う方法について例示的に説明する。
図12は本発明の実施例1における第二セグメンテーションユニットを示す図である。図12に示すように、第二セグメンテーションユニット105は以下のものを含む。
計算ユニット1201:事前設定の数(所定の数)の不連続フレームに基づいて、該フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算し;
第八確定ユニット1202:それぞれ該フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定し;
第九確定ユニット1203:該順方向オプティカルフローベクトルの中心点及び該逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定し;
第十確定ユニット1204:該フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定し;及び
第十一確定ユニット1205:該オプティカルフローベクトル全体の該中心点及び該消失点に基づいて、隣接する2つ道路領域の第二セグメンテーション線を確定することで、該フィッティング後の道路領域に対してセグメンテーションを行う。
第八確定ユニット1202:それぞれ該フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定し;
第九確定ユニット1203:該順方向オプティカルフローベクトルの中心点及び該逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定し;
第十確定ユニット1204:該フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定し;及び
第十一確定ユニット1205:該オプティカルフローベクトル全体の該中心点及び該消失点に基づいて、隣接する2つ道路領域の第二セグメンテーション線を確定することで、該フィッティング後の道路領域に対してセグメンテーションを行う。
本発明の実施例では、計算ユニット1201は様々な方法で順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算することができる。例えば、計算ユニット101はピラミッドL-Kオプティカルフロー(Pyramidal LK Optical Flow)法を用いて順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算する。
そのうち、Ixはx方向上の偏導関数を示し、Iyはy方向上の偏導関数を示し、δIk(x,y)は不連続フレームの間の対応点のグレースケール誤差を表す。
第八確定ユニット1202は、それぞれ、該フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定する。例えば、第八確定ユニット1202は、該フィッティング後の道路領域内のすべての順方向オプティカルフローベクトルの画素点の平均座標を計算し、該平均座標の所在する画素点を順方向オプティカルフローベクトルの中心点として確定し、同様に、該フィッティング後の道路領域内のすべての逆方向オプティカルフローベクトルの画素点の平均座標を計算し、該平均座標の所在する画素点を逆方向オプティカルフローベクトルの中心点としても良い。
第九確定ユニット1203は、順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定する。例えば、第九確定ユニット1203は、順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点の平均座標を計算し、該平均座標の所在する画素点をオプティカルフローベクトル全体の中心点として確定しても良い。
第十確定ユニット1204は、該フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定する。例えば、第十確定ユニット1204は、各1対の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルの延長線の交点を1つの消失点として確定し、各1対の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて複数の消失点を確定した後に、各消失点の平均座標の所在する画素点を車両走行軌迹の消失点として確定しても良い。
第十一確定ユニット1205は、該オプティカルフローベクトル全体の該中心点及び該消失点に基づいて、隣接する2つ道路領域の第二セグメンテーション線を確定することで、該フィッティング後の道路領域に対してセグメンテーションを行う。例えば、第十一確定ユニット1205は、該中心点と該消失点を接続し、その接続線の該フィッティング後の道路領域内の部分は、第二セグメンテーション線を構成することができる。
本発明の実施例では、図1に示すように、装置100はさらに以下のものを含んでも良い。
第十二確定ユニット106:セグメンテーション後の道路領域内のオプティカルフローベクトルの方向に基づいて、各道路領域の車両走行方向を確定する。
例えば、オプティカルフローベクトルの方向が車両の走行方向を示すため、セグメンテーション後の各道路領域内のオプティカルフローベクトルの方向に基づいて、対応する道路領域内の車両走行方向を確定することができ、そして、道路の方向を確定することができる。
図13は本発明の実施例1における2つの方向の道路を含む道路領域を示す図である。図14は本発明の実施例1における道路上のオプティカルフローを示す図である。図15は本発明の実施例1における第二セグメンテーションユニットがオプティカルフローに基づいてセグメンテーションを行った後の道路領域を示す図である。図15に示すように、オプティカルフローに基づいて確定された中心点1501及び消失点1502に基づいてセグメンテーション線1503を確定し、そして、2つの走行方向が異なる道路領域に対してセグメンテーションを行うことができる。
上述の実施例から分かるように、フィッティング後の道路領域に対して凹みのサーチを行うことで道路領域のセグメンテーションを行い及び/又はフィッティング後の道路領域内のオプティカルフローに基づいて道路領域のセグメンテーションを行うことにより、本発明は、干渉物有りのリアルなシナリオに適応し、複数の道路の抽出に適用し、また、各道路の座標を確定することもできる。
本発明の実施例はさらに電子機器を提供する、図16は本発明の実施例2における電子機器を示す図である。図16に示すように、電子機器1600は道路領域確定装置1601を含み、道路領域確定装置1601の構造及び機能が実施例1の中の記載と同じであるため、ここではその詳しい説明を省略する。
本発明の実施例の1つの実施方式において、電子機器1600は各種の類型の電子機器、例えば、車載端末、移動端末又はコンピュータであっても良い。
図17は本発明の実施例2における電子機器のシステム構成を示すブロック図である。図17に示すように、電子機器1700は処理器1701及び記憶器1702を含んでも良く、該記憶器1702は該処理器1701に接続される。なお、該図は例示に過ぎず、さらに他の類型の構造を用いて該構造に対して補充又は代替を行うことで、電気通信機能又は他の機能を実現することができる。
図17に示すように、電子機器1700はさらに入力ユニット1703、表示器1704、電源1705などを含んでも良い。
本発明の実施例の1つの実施方式において、実施例1に記載の道路領域確定装置の機能は処理器1701に統合することができる。そのうち、処理器1701は次のように構成されても良く、即ち、セマンティックセグメンテーションに基づいて、入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、該2値化画像に基づいて道路輪郭を確定し;多辺形を用いて該道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに、フィッティング後の道路領域内の凹みのサーチを行い、該道路領域内に凹みが存在するときに、該凹みに基づいて該フィッティング後の道路領域に対してセグメンテーションを行い、及び/又は、該フィッティング後の道路領域内のオプティカルフローに基づいて、該フィッティング後の道路領域に対してセグメンテーションを行う。
例えば、該セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出することは、事前設定の数の不連続フレームに対してそれぞれセマンティックセグメンテーションを行い、事前設定の数の不連続フレームのセマンティックセグメンテーション結果を取得し;及び、各フレームの中のすべての画素について1つずつ該画素の類型を確定し、そのうち、事前設定の数の不連続フレームにおける該画素のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を該画素の類型とすることを含む。
例えば、該予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、該2値化画像に基づいて道路輪郭を確定することは、予備道路領域が確定された入力画像に対して2値化処理を行い、2値化画像を取得し;該2値化画像内の一番外側の輪郭のサーチを行い、該2値化画像内の輪郭を取得し;及び、サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、該道路輪郭を取得することを含む。
例えば、該フィッティング後の道路領域内の凹みのサーチは、該フィッティング後の道路領域内の凹みの角度が第一閾値よりも小さく、且つ凹みの深さが第二閾値よりも大きいときに、該フィッティング後の該道路領域に凹みが存在すると確定することを含む。
例えば、該凹みに基づいて該フィッティング後の道路領域に対してセグメンテーションを行うことは、さらに、該凹みの頂点を確定し;該凹みの底部の2つの端点の中心点を確定し;及び、該頂点及び該中心点に基づいて、隣接する2つ道路領域の第一セグメンテーション線を確定することで、該フィッティング後の道路領域のセグメンテーションを行うことを含む。
例えば、該フィッティング後の道路領域内の順方向オプティカルフローベクトルと逆方向オプティカルフローベクトルの比が第三閾値よりも大きく且つ第四閾値よりも小さく、且つすべてのオプティカルフローベクトルの平均長さが第五閾値よりも大きいときに、該フィッティング後の道路領域内のオプティカルフローに基づいて該フィッティング後の道路領域に対してセグメンテーションを行うことを含む。
例えば、該フィッティング後の道路領域内のオプティカルフローに基づいてフィッティング後の道路領域に対してセグメンテーションを行うことは、事前設定の数の不連続フレームに基づいて、前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算し;それぞれ該フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定し;該順方向オプティカルフローベクトル及び該逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定し;前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定し;及び、該オプティカルフローベクトル全体の該中心点及び該消失点に基づいて、隣接する2つの道路領域の第二セグメンテーション線を確定することで、該フィッティング後の道路領域のセグメンテーションを行うことを含む。
例えば、処理器1701はさらに次のように構成されても良く、即ち、セグメンテーション後の道路領域内のオプティカルフローベクトルの方向に基づいて各道路領域の車両走行方向を確定する。
本発明の実施例のもう1つの実施方式において、実施例1に記載の道路領域確定装置は該処理器1701と別々で配置されても良く、例えば、該道路領域確定装置を、処理器1701に接続されるチップとして構成し、処理器1701の制御によって該道路領域確定装置の機能を実現しても良い。
なお、本発明の実施例の1つの実施方式において、電子機器1700は図17に示すすべての部品を含む必要がない。
図17に示すように、処理器1701は制御器又は操作コントローラと称される場合があり、マイクロプロセッサ又は他の処理器装置及び/又は論理装置を含んでも良く、処理器1701は入力を受信して電子機器1700の各部品の操作を制御することができる。
記憶器1702は、例えば、バッファ、フレッシュメモリ、HDD、可移動媒体、揮発性記憶器、不揮発性記憶器又は他の適切な装置の1つ又は複数であっても良い。また、処理器1701は、該記憶器1702に記憶されている該プログラムを実行して情報の記憶又は処理などを実現することもできる。なお、他の部品の機能が従来と同様であるため、ここではその詳しい説明を省略する。また、電子機器1700の各部品は専用ハードウェア、ファームウェア、ソフトウェア又はその組み合わせにより実現されても良いが、そのすべては本発明の範囲内に属する。
上述の実施例から分かるように、フィッティング後の道路領域に対して凹みのサーチを行うことで道路領域のセグメンテーションを行い及び/又はフィッティング後の道路領域内のオプティカルフローに基づいて道路領域のセグメンテーションを行うことにより、本発明は、干渉物有りのリアルなシナリオに適応し、複数の道路の抽出に適用し、また、各道路の座標を確定することもできる。
本発明の実施例はさらに道路領域確定方法を提供する、該方法は実施例1における道路領域確定装置に対応する。図18は本発明の実施例3における道路領域確定方法を示す図である。図18に示すように、該方法は以下のステップを含む。
ステップ1801:セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;
ステップ1802:予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、該2値化画像に基づいて道路輪郭を確定し;
ステップ1803:多辺形を用いて該道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに、
ステップ1804:フィッティング後の道路領域内の凹みのサーチを行い、該道路領域内に凹みが存在するときに、該凹みに基づいて該フィッティング後の道路領域に対してセグメンテーションを行い;及び/又は
ステップ1805:該フィッティング後の道路領域内のオプティカルフローに基づいて該フィッティング後の道路領域に対してセグメンテーションを行う。
ステップ1802:予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、該2値化画像に基づいて道路輪郭を確定し;
ステップ1803:多辺形を用いて該道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに、
ステップ1804:フィッティング後の道路領域内の凹みのサーチを行い、該道路領域内に凹みが存在するときに、該凹みに基づいて該フィッティング後の道路領域に対してセグメンテーションを行い;及び/又は
ステップ1805:該フィッティング後の道路領域内のオプティカルフローに基づいて該フィッティング後の道路領域に対してセグメンテーションを行う。
本発明の実施例では、該方法はステップ1804及びステップ1805のうちの少なくとも1つを含んでも良い。
本発明の実施例の1つの実施方式において、上述の各ステップの具体的な実現方法は実施例1の中の記載と同じであるため、ここではその詳しい説明を省略する。
上述の実施例から分かるように、フィッティング後の道路領域に対して凹みのサーチを行うことで道路領域のセグメンテーションを行い及び/又はフィッティング後の道路領域内のオプティカルフローに基づいて道路領域のセグメンテーションを行うことにより、本発明は、干渉物有りのリアルなシナリオに適応し、複数の道路の抽出に適用し、また、各道路の座標を確定することもできる。
本発明の実施例はさらにコンピュータ可読プログラムを提供し、そのうち、道路領域確定装置又は電子機器中で前記プログラムを実行するときに、前記プログラムはコンピュータに、前記道路領域確定装置又は電子機器中で実施例3に記載の道路領域確定方法を実行させる。
本発明の実施例はさらにコンピュータ可読プログラムが記憶された記憶媒体を提供し、そのうち、前記コンピュータ可読プログラムはコンピュータに、道路領域確定装置又は電子機器中で実施例3に記載の道路領域確定方法を実行させる。
また、本発明の実施例において説明した前記方法、装置などは、ハードウェア、処理器により実行されるソフトウェアモジュール、又は両者の組み合わせにより実現することができる。例えば、機能ブロック図における1つ又は複数の機能及び/又は機能ブロック図における1つ又は複数の機能の組み合わせは、コンピュータプログラムにおける各ソフトウェアモジュールに対応しても良く、各ハードウェアモジュールに対応しても良い。また、これらのソフトウェアモジュールは、それぞれ、方法を示す図に示す各ステップに対応することができる。これらのハードウェアモジュールは、例えば、FPGA(field-programmable gate array)を用いてこれらのソフトウェアモジュールを固化して実現することができる。
また、本発明の実施例による装置、方法などは、ソフトウェアにより実現されても良く、ハードェアにより実現されてもよく、ハードェア及びソフトウェアの組み合わせにより実現されても良い。本発明は、このようなコンピュータ可読プログラムにも関し、即ち、前記プログラムは、ロジック部品により実行されるときに、前記ロジック部品に、上述の装置又は構成要素を実現させることができ、又は、前記ロジック部品に、上述の方法又はそのステップを実現させることができる。さらに、本発明は、上述のプログラムを記憶した記憶媒体、例えば、ハードディスク、磁気ディスク、光ディスク、DVD、フレッシュメモリなどにも関する。
また、以上の実施例などに関し、さらに以下の付記を開示する。
(付記1)
道路領域確定装置であって、
セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定する第一確定ユニット;
予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定する第二確定ユニット;
多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得するフィッティングユニット;並びに
フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行う第一セグメンテーションユニット、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいて、前記フィッティング後の道路領域のセグメンテーションを行う第二セグメンテーションユニットを含む、装置。
道路領域確定装置であって、
セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定する第一確定ユニット;
予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定する第二確定ユニット;
多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得するフィッティングユニット;並びに
フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行う第一セグメンテーションユニット、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいて、前記フィッティング後の道路領域のセグメンテーションを行う第二セグメンテーションユニットを含む、装置。
(付記2)
付記1に記載の装置であって、
前記第一確定ユニットは、
事前設定の数の不連続フレームに対してそれぞれセマンティックセグメンテーションを行い、事前設定の数の不連続フレームのセマンティックセグメンテーション結果を得るセグメンテーションユニット;及び
各フレームの中のすべての画素について1つずつ前記画素の類型を確定する第三確定ユニットであって、事前設定の数の不連続フレームにおける前記画素のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を前記画素の類型とする、第三確定ユニットを含む、装置。
付記1に記載の装置であって、
前記第一確定ユニットは、
事前設定の数の不連続フレームに対してそれぞれセマンティックセグメンテーションを行い、事前設定の数の不連続フレームのセマンティックセグメンテーション結果を得るセグメンテーションユニット;及び
各フレームの中のすべての画素について1つずつ前記画素の類型を確定する第三確定ユニットであって、事前設定の数の不連続フレームにおける前記画素のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を前記画素の類型とする、第三確定ユニットを含む、装置。
(付記3)
付記1に記載の装置であって、
前記第二確定ユニットは、
予備道路領域が確定された入力画像に対して2値化処理を行い、2値化画像を得る2値化処理ユニット;
前記2値化画像内の一番外側の輪郭に対してのサーチを行い、前記2値化画像内の輪郭を得る第一サーチユニット;及び
サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、前記道路輪郭を得る選択ユニットを含む、装置。
付記1に記載の装置であって、
前記第二確定ユニットは、
予備道路領域が確定された入力画像に対して2値化処理を行い、2値化画像を得る2値化処理ユニット;
前記2値化画像内の一番外側の輪郭に対してのサーチを行い、前記2値化画像内の輪郭を得る第一サーチユニット;及び
サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、前記道路輪郭を得る選択ユニットを含む、装置。
(付記4)
付記1に記載の装置であって、
前記第一セグメンテーションユニットは、
前記フィッティング後の道路領域における凹みの角度が第一閾値よりも小さく、且つ凹みの深さが第二閾値よりも大きいときに、前記フィッティング後の前記道路領域内に凹みが存在すると確定する第四確定ユニットを含む、装置。
付記1に記載の装置であって、
前記第一セグメンテーションユニットは、
前記フィッティング後の道路領域における凹みの角度が第一閾値よりも小さく、且つ凹みの深さが第二閾値よりも大きいときに、前記フィッティング後の前記道路領域内に凹みが存在すると確定する第四確定ユニットを含む、装置。
(付記5)
付記4に記載の装置であって、
前記第一セグメンテーションユニットは、さらに、
前記凹みの頂点を確定する第五確定ユニット;
前記凹みの底部の2つの端点の中心点を確定する第六確定ユニット;及び
前記頂点及び前記中心点に基づいて、隣接する2つ道路領域の第一セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行う第七確定ユニットを含む、装置。
付記4に記載の装置であって、
前記第一セグメンテーションユニットは、さらに、
前記凹みの頂点を確定する第五確定ユニット;
前記凹みの底部の2つの端点の中心点を確定する第六確定ユニット;及び
前記頂点及び前記中心点に基づいて、隣接する2つ道路領域の第一セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行う第七確定ユニットを含む、装置。
(付記6)
付記1に記載の装置であって、
前記第二セグメンテーションユニットは、
前記フィッティング後の道路領域内の順方向オプティカルフローベクトルと逆方向オプティカルフローベクトルの比が第三閾値よりも大きく且つ第四閾値よりも小さく、且つすべてのオプティカルフローベクトルの平均長さが第五閾値よりも大きいときに、前記フィッティング後の道路領域内のオプティカルフローに基づいて前記フィッティング後の道路領域のセグメンテーションを行う、装置。
付記1に記載の装置であって、
前記第二セグメンテーションユニットは、
前記フィッティング後の道路領域内の順方向オプティカルフローベクトルと逆方向オプティカルフローベクトルの比が第三閾値よりも大きく且つ第四閾値よりも小さく、且つすべてのオプティカルフローベクトルの平均長さが第五閾値よりも大きいときに、前記フィッティング後の道路領域内のオプティカルフローに基づいて前記フィッティング後の道路領域のセグメンテーションを行う、装置。
(付記7)
付記1に記載の装置であって、
前記第二セグメンテーションユニットは、
事前設定の数の不連続フレームに基づいて、前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算する計算ユニット;
それぞれ前記フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定する第八確定ユニット;
前記順方向オプティカルフローベクトル及び前記逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定する第九確定ユニット;
前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定する第十確定ユニット;及び
前記オプティカルフローベクトル全体の前記中心点及び前記消失点に基づいて、隣接する2つ道路領域の第二セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行う第十一確定ユニットを含む、装置。
付記1に記載の装置であって、
前記第二セグメンテーションユニットは、
事前設定の数の不連続フレームに基づいて、前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算する計算ユニット;
それぞれ前記フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定する第八確定ユニット;
前記順方向オプティカルフローベクトル及び前記逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定する第九確定ユニット;
前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定する第十確定ユニット;及び
前記オプティカルフローベクトル全体の前記中心点及び前記消失点に基づいて、隣接する2つ道路領域の第二セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行う第十一確定ユニットを含む、装置。
(付記8)
付記1に記載の装置であって、さらに、
セグメンテーション後の道路領域内のオプティカルフローベクトルの方向に基づいて各道路領域の車両走行方向を確定する第十二確定ユニットを含む、装置。
付記1に記載の装置であって、さらに、
セグメンテーション後の道路領域内のオプティカルフローベクトルの方向に基づいて各道路領域の車両走行方向を確定する第十二確定ユニットを含む、装置。
(付記9)
付記1乃至8の任意の1つに記載の道路領域確定装置を含む電子機器。
付記1乃至8の任意の1つに記載の道路領域確定装置を含む電子機器。
(付記10)
道路領域確定方法であって、
セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;
予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定し;
多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに
フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行い、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいてフィッティング後の道路領域のセグメンテーションを行うことを含む、方法。
道路領域確定方法であって、
セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;
予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定し;
多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに
フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行い、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいてフィッティング後の道路領域のセグメンテーションを行うことを含む、方法。
(付記11)
付記10に記載の方法であって、
前記セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出することは、
事前設定の数の不連続フレームに対してそれぞれセマンティックセグメンテーションを行い、事前設定の数の不連続フレームのセマンティックセグメンテーション結果を取得し;及び
各フレームの中のすべての画素について1つずつ前記画素の類型を確定し、そのうち、事前設定の数の不連続フレームにおける前記画像のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を前記画素の類型とする、方法。
付記10に記載の方法であって、
前記セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出することは、
事前設定の数の不連続フレームに対してそれぞれセマンティックセグメンテーションを行い、事前設定の数の不連続フレームのセマンティックセグメンテーション結果を取得し;及び
各フレームの中のすべての画素について1つずつ前記画素の類型を確定し、そのうち、事前設定の数の不連続フレームにおける前記画像のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を前記画素の類型とする、方法。
(付記12)
付記10に記載の方法であって、
前記予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定することは、
予備道路領域が確定された入力画像に対して2値化処理を行い、2値化画像を取得し;
前記2値化画像内の一番外側の輪郭に対してのサーチを行い、前記2値化画像内の輪郭を取得し;及び
サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、前記道路輪郭を得ることを含む、方法。
付記10に記載の方法であって、
前記予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定することは、
予備道路領域が確定された入力画像に対して2値化処理を行い、2値化画像を取得し;
前記2値化画像内の一番外側の輪郭に対してのサーチを行い、前記2値化画像内の輪郭を取得し;及び
サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、前記道路輪郭を得ることを含む、方法。
(付記13)
付記10に記載の方法であって、
前記フィッティング後の道路領域内の凹みのサーチを行うことは、
前記フィッティング後の道路領域における凹みの角度が第一閾値よりも小さく、且つ凹みの深さが第二閾値よりも大きいときに、前記フィッティング後の前記道路領域内に凹みがあると確定することを含む、方法。
付記10に記載の方法であって、
前記フィッティング後の道路領域内の凹みのサーチを行うことは、
前記フィッティング後の道路領域における凹みの角度が第一閾値よりも小さく、且つ凹みの深さが第二閾値よりも大きいときに、前記フィッティング後の前記道路領域内に凹みがあると確定することを含む、方法。
(付記14)
付記13に記載の方法であって、
前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行うことは、さらに、
前記凹みの頂点を確定し;
前記凹みの底部の2つの端点の中心点を確定し;及び
前記頂点及び前記中心点に基づいて、隣接する2つ道路領域の第一セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行うことを含む、方法。
付記13に記載の方法であって、
前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行うことは、さらに、
前記凹みの頂点を確定し;
前記凹みの底部の2つの端点の中心点を確定し;及び
前記頂点及び前記中心点に基づいて、隣接する2つ道路領域の第一セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行うことを含む、方法。
(付記15)
付記10に記載の方法であって、
前記フィッティング後の道路領域内の順方向オプティカルフローベクトルと逆方向オプティカルフローベクトルの比が第三閾値よりも大きく且つ第四閾値よりも小さく、且つすべてのオプティカルフローベクトルの平均長さが第五閾値よりも大きいときに、前記フィッティング後の道路領域内のオプティカルフローに基づいて前記フィッティング後の道路領域のセグメンテーションを行う、方法。
付記10に記載の方法であって、
前記フィッティング後の道路領域内の順方向オプティカルフローベクトルと逆方向オプティカルフローベクトルの比が第三閾値よりも大きく且つ第四閾値よりも小さく、且つすべてのオプティカルフローベクトルの平均長さが第五閾値よりも大きいときに、前記フィッティング後の道路領域内のオプティカルフローに基づいて前記フィッティング後の道路領域のセグメンテーションを行う、方法。
(付記16)
付記15に記載の方法であって、
前記フィッティング後の道路領域内のオプティカルフローに基づいてフィッティング後の道路領域に対してセグメンテーションを行うことは、
事前設定の数の不連続フレームに基づいて、前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算し;
それぞれ前記フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定し;
前記順方向オプティカルフローベクトル及び前記逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定し;
前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定し;及び
前記オプティカルフローベクトル全体の前記中心点及び前記消失点に基づいて、隣接する2つ道路領域の第二セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行うことを含む、方法。
付記15に記載の方法であって、
前記フィッティング後の道路領域内のオプティカルフローに基づいてフィッティング後の道路領域に対してセグメンテーションを行うことは、
事前設定の数の不連続フレームに基づいて、前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算し;
それぞれ前記フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定し;
前記順方向オプティカルフローベクトル及び前記逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定し;
前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定し;及び
前記オプティカルフローベクトル全体の前記中心点及び前記消失点に基づいて、隣接する2つ道路領域の第二セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行うことを含む、方法。
(付記17)
付記10に記載の方法であって、さらに、
セグメンテーション後の道路領域内のオプティカルフローベクトルの方向に基づいて各道路領域の車両走行方向を確定する、方法。
付記10に記載の方法であって、さらに、
セグメンテーション後の道路領域内のオプティカルフローベクトルの方向に基づいて各道路領域の車両走行方向を確定する、方法。
以上、本発明の好ましい実施形態を説明したが、本発明はこの実施形態に限定されず、本発明の趣旨を離脱しない限り、本発明に対するあらゆる変更は本発明の技術的範囲に属する。
Claims (10)
- 道路領域確定装置であって、
セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定する第一確定ユニット;
予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定する第二確定ユニット;
多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得するフィッティングユニット;並びに
フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行う第一セグメンテーションユニット、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいて前記フィッティング後の道路領域のセグメンテーションを行う第二セグメンテーションユニットを含む、道路領域確定装置。 - 請求項1に記載の道路領域確定装置であって、
前記第一確定ユニットは、
所定の数の不連続フレームに対してそれぞれセマンティックセグメンテーションを行い、所定の数の不連続フレームのセマンティックセグメンテーション結果を得るセグメンテーションユニット;及び
各フレームの中のすべての画素について1つずつ前記画素の類型を確定する第三確定ユニットであって、所定の数の不連続フレームにおける前記画素のセマンティックセグメンテーション結果の中で出現頻度が最も高い類型を前記画素の類型とする、第三確定ユニットを含む、道路領域確定装置。 - 請求項1に記載の道路領域確定装置であって、
前記第二確定ユニットは、
予備道路領域が確定された入力画像に対して2値化処理を行い、2値化画像を得る2値化処理ユニット;
前記2値化画像内の一番外側の輪郭に対してのサーチを行い、前記2値化画像内の輪郭を得る第一サーチユニット;及び
サーチにより得られた輪郭のうちから輪郭内の面積に基づいて選択を行い、前記道路輪郭を得る選択ユニットを含む、道路領域確定装置。 - 請求項1に記載の道路領域確定装置であって、
前記第一セグメンテーションユニットは、
前記フィッティング後の道路領域における凹みの角度が第一閾値よりも小さく、且つ凹みの深さが第二閾値よりも大きいときに、前記フィッティング後の前記道路領域内に凹みが存在すると確定する第四確定ユニットを含む、道路領域確定装置。 - 請求項4に記載の道路領域確定装置であって、
前記第一セグメンテーションユニットは、
前記凹みの頂点を確定する第五確定ユニット;
前記凹みの底部の2つの端点の中心点を確定する第六確定ユニット;及び
前記頂点及び前記中心点に基づいて、隣接する2つ道路領域の第一セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行う第七確定ユニットをさらに含む、道路領域確定装置。 - 請求項1に記載の道路領域確定装置であって、
前記第二セグメンテーションユニットは、前記フィッティング後の道路領域内の順方向オプティカルフローベクトルと逆方向オプティカルフローベクトルの比が第三閾値よりも大きく且つ第四閾値よりも小さく、且つすべてのオプティカルフローベクトルの平均長さが第五閾値よりも大きいときに、前記フィッティング後の道路領域内のオプティカルフローに基づいて前記フィッティング後の道路領域のセグメンテーションを行う、道路領域確定装置。 - 請求項1に記載の道路領域確定装置であって、
前記第二セグメンテーションユニットは、
所定の数の不連続フレームに基づいて、前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルを計算する計算ユニット;
それぞれ前記フィッティング後の道路領域内の順方向オプティカルフローベクトルの中心点及び逆方向オプティカルフローベクトルの中心点を確定する第八確定ユニット;
前記順方向オプティカルフローベクトルの中心点及び前記逆方向オプティカルフローベクトルの中心点に基づいて、オプティカルフローベクトル全体の中心点を確定する第九確定ユニット;
前記フィッティング後の道路領域内の順方向オプティカルフローベクトル及び逆方向オプティカルフローベクトルに基づいて、車両走行軌迹の消失点を確定する第十確定ユニット;及び
前記オプティカルフローベクトル全体の前記中心点と前記消失点とに基づいて、隣接する2つ道路領域の第二セグメンテーション線を確定し、前記フィッティング後の道路領域のセグメンテーションを行う第十一確定ユニットを含む、道路領域確定装置。 - 請求項1に記載の道路領域確定装置であって、
前記セグメンテーション後の道路領域内のオプティカルフローベクトルの方向に基づいて各道路領域の車両走行方向を確定する第十二確定ユニットをさらに含む、道路領域確定装置。 - 請求項1乃至8のうちの何れか1項に記載の道路領域確定装置を含む電子機器。
- 道路領域確定方法であって、
セマンティックセグメンテーションに基づいて入力画像のうちから道路領域を予備抽出し、予備道路領域を確定し;
予備道路領域が確定された入力画像に対して2値化処理を行って2値化画像を取得し、前記2値化画像に基づいて道路輪郭を確定し;
多辺形を用いて前記道路輪郭に対してフィッティングを行い、フィッティング後の道路領域を取得し;並びに
フィッティング後の道路領域内の凹みのサーチを行い、前記道路領域内に凹みが存在するときに、前記凹みに基づいて前記フィッティング後の道路領域のセグメンテーションを行うこと、及び/又は、前記フィッティング後の道路領域内のオプティカルフローに基づいてフィッティング後の道路領域のセグメンテーションを行うことを含む、道路領域確定方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010585524.7A CN113836978A (zh) | 2020-06-24 | 2020-06-24 | 道路区域确定装置及方法、电子设备 |
CN202010585524.7 | 2020-06-24 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022008108A true JP2022008108A (ja) | 2022-01-13 |
Family
ID=78964469
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021086239A Pending JP2022008108A (ja) | 2020-06-24 | 2021-05-21 | 道路領域確定装置及び方法、電子機器 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2022008108A (ja) |
CN (1) | CN113836978A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023188793A1 (ja) * | 2022-03-30 | 2023-10-05 | パナソニックIpマネジメント株式会社 | 表示システム、および表示方法 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103295004B (zh) * | 2012-02-29 | 2016-11-23 | 阿里巴巴集团控股有限公司 | 确定区域结构复杂度、定位文字区域的方法及装置 |
JP5820774B2 (ja) * | 2012-06-21 | 2015-11-24 | 株式会社豊田中央研究所 | 路面境界推定装置及びプログラム |
US8933818B2 (en) * | 2013-03-13 | 2015-01-13 | Iteris, Inc. | Bicycle presence detection in a roadway using video data analytics |
JP6046666B2 (ja) * | 2014-06-24 | 2016-12-21 | トヨタ自動車株式会社 | 走路境界推定装置及び走路境界推定方法 |
CN105005771B (zh) * | 2015-07-13 | 2018-04-10 | 西安理工大学 | 一种基于光流点轨迹统计的车道线实线的检测方法 |
CN106997466B (zh) * | 2017-04-12 | 2021-05-04 | 百度在线网络技术(北京)有限公司 | 用于检测道路的方法和装置 |
CN107169464B (zh) * | 2017-05-25 | 2019-04-09 | 中国农业科学院农业资源与农业区划研究所 | 一种基于激光点云的道路边界检测方法 |
CN108052880B (zh) * | 2017-11-29 | 2021-09-28 | 南京大学 | 交通监控场景虚实车道线检测方法 |
CN110659539B (zh) * | 2018-06-28 | 2022-11-25 | 杭州海康威视数字技术股份有限公司 | 一种信息处理方法、装置及机器可读存储介质 |
CN108985247B (zh) * | 2018-07-26 | 2021-12-21 | 北方工业大学 | 多光谱图像城市道路识别方法 |
CN111047908B (zh) * | 2018-10-12 | 2021-11-02 | 富士通株式会社 | 跨线车辆的检测装置、方法及视频监控设备 |
-
2020
- 2020-06-24 CN CN202010585524.7A patent/CN113836978A/zh active Pending
-
2021
- 2021-05-21 JP JP2021086239A patent/JP2022008108A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023188793A1 (ja) * | 2022-03-30 | 2023-10-05 | パナソニックIpマネジメント株式会社 | 表示システム、および表示方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113836978A (zh) | 2021-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yuan et al. | Robust lane detection for complicated road environment based on normal map | |
US9390329B2 (en) | Method and system for automatically locating static occlusions | |
JP4157620B2 (ja) | 移動物体検出装置及びその方法 | |
EP3690707B1 (en) | Post-processing method and device for detecting lanes to plan drive path of autonomous vehicle by using segmentation score map and clustering map | |
WO2015010451A1 (zh) | 一种从单幅图像检测道路的方法 | |
Daigavane et al. | Road lane detection with improved canny edges using ant colony optimization | |
CN105488492B (zh) | 一种彩色图像预处理方法、道路识别方法及相关装置 | |
JP2003228711A (ja) | レーンマーク認識方法 | |
CN111209770A (zh) | 一种车道线识别方法及装置 | |
US10249046B2 (en) | Method and apparatus for object tracking and segmentation via background tracking | |
CN105809149A (zh) | 基于最大长度直线的车道线检测方法 | |
Ye et al. | A two-stage real-time YOLOv2-based road marking detector with lightweight spatial transformation-invariant classification | |
US11164012B2 (en) | Advanced driver assistance system and method | |
US20230005278A1 (en) | Lane extraction method using projection transformation of three-dimensional point cloud map | |
JP3800785B2 (ja) | 白線認識装置 | |
Duong et al. | Near real-time ego-lane detection in highway and urban streets | |
Quach et al. | Real-time lane marker detection using template matching with RGB-D camera | |
JP2022008108A (ja) | 道路領域確定装置及び方法、電子機器 | |
Vajak et al. | A rethinking of real-time computer vision-based lane detection | |
JP2002175534A (ja) | 道路の白線検出方法 | |
CN111860084B (zh) | 图像特征的匹配、定位方法及装置、定位*** | |
JP2021174346A (ja) | 道路形状判定方法及び道路形状判定プログラム | |
Zhu et al. | Moment-based multi-lane detection and tracking | |
CN105069410A (zh) | 基于非结构化的道路识别方法及装置 | |
KR101910256B1 (ko) | 카메라 기반 도로 곡률 추정을 위한 차선 검출 방법 및 시스템 |