JP2019533875A - 道路の合成トップビュー画像を生成するための方法およびシステム - Google Patents

道路の合成トップビュー画像を生成するための方法およびシステム Download PDF

Info

Publication number
JP2019533875A
JP2019533875A JP2019544949A JP2019544949A JP2019533875A JP 2019533875 A JP2019533875 A JP 2019533875A JP 2019544949 A JP2019544949 A JP 2019544949A JP 2019544949 A JP2019544949 A JP 2019544949A JP 2019533875 A JP2019533875 A JP 2019533875A
Authority
JP
Japan
Prior art keywords
image
vehicle
region
top view
road
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019544949A
Other languages
English (en)
Other versions
JP6910454B2 (ja
Inventor
ガオ ビンタオ
ガオ ビンタオ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Continental Automotive GmbH
Original Assignee
Continental Automotive GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Continental Automotive GmbH filed Critical Continental Automotive GmbH
Publication of JP2019533875A publication Critical patent/JP2019533875A/ja
Application granted granted Critical
Publication of JP6910454B2 publication Critical patent/JP6910454B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

車両が移動している路面に対して垂直でない視点から、前方を向いた車載カメラによって撮影された少なくとも2つの画像から、道路の少なくとも一部の合成トップビュー画像が合成される。車両が移動している間に、3次元空間の各主軸におけるかつ/または各主軸周りの車両の速度および/または加速度、および/または3次元空間内での車両の向きが記録されると共に、少なくとも2つの画像のシーケンスが記録される。少なくとも2つの画像のシーケンスから、さらなる処理のために第1の画像が選択され、選択された第1の画像内において第1の被選択領域が選択される。第1の被選択領域は、画像のうちの、カメラ光学系による歪みが最小であるゾーン内に配置される。選択された第1の画像よりも後に捕捉された第2の画像が、さらなる処理のために少なくとも2つの画像のシーケンスから選択される。第2の画像は、選択された第2の画像内において第2の領域が選択可能となるように選択され、第2の被選択領域は、画像のうちの、カメラ光学系による歪みが最小であるゾーン内に配置され、第2の領域は、第2の領域の下側境界に示される画像内容が、選択された第1の画像内における第1の被選択領域の上側境界に示される画像内容に隣接するように配置される。第1の被選択領域および第2の被選択領域がトップビュー視点に変換され、変換された第1の被選択領域および第2の被選択領域が一緒にスティッチングされて、1つの合成トップビュー画像が生成される。

Description

本発明は、道路の少なくとも一部を、特にその道路上を走行している間に車両によって捕捉された複数の画像を一緒にスティッチングすることによってマッピングまたはスキャニングすることに関する。
高度運転者支援システムおよび自律走行車は、車両が走行可能な道路または他の領域の非常に精確なマップを必要とする。道路の車線内における道路上の車両の位置を数センチメートルの精度で特定することは、従来の衛星ナビゲーションシステム、例えばGPS、ガリレオ、GLONASS、または三角測量等のような他の公知の測位技術を使用して達成することができない。しかしながら、特に自動運転車両が、複数の車線を備える道路上を移動する場合には、車線内における自動運転車両の横方向および縦方向の位置を精確に特定する必要がある。車両の位置を特定するための1つの公知の方法は、道路標示の画像を捕捉する1つまたは複数のカメラを用い、捕捉された画像内における道路標示の固有の特徴を、データベース内の対応するエントリおよびそれらのそれぞれの位置と比較することを含む。この位置特定方法は、データベースが非常に精確な位置データを提供する場合であって、かつ定期的にまたは適切な間隔で更新される場合にのみ、十分に精確な結果を提供する。道路標示は、走行中に道路の画像を捕捉する特別な目的の車両によって捕捉および登録されてもよいし、または航空写真または衛星画像から抽出されてもよい。垂直ビューまたはトップビュー画像は、実質的に平坦な路面上の道路標示および他の特徴の歪みを殆ど示さないので、後者の選択肢が有利であるとみなすことができる。しかしながら、航空写真および衛星画像は、道路標示および他の道路特徴の非常に精確な地図を生成するのに十分な細部を提供しない場合がある。
本発明の課題は、道路の少なくとも一部のトップビュー画像を生成または合成するための改善された方法およびシステムを提供することである。上記の課題ならびに変形形態およびその発展形態は、添付の特許請求の範囲において請求される方法およびシステムによって達成される。
本発明の1つの態様によれば、車両が移動している路面に対して垂直でない視点から、前方を向いた車載カメラによって撮影された少なくとも2つの画像から、道路の少なくとも一部の合成トップビュー画像を生成する方法は、3次元空間の各主軸におけるかつ/または各主軸周りの車両の速度および/または加速度を記録することを含む。これに代えてまたはこれに加えて、3次元空間内での車両の向きおよび/または走行距離が記録される。
本方法はさらに、車両が移動している間に、少なくとも2つの画像のシーケンスを記録することを含む。カメラのフレーム周波数が固定されている場合には、それぞれの記録された画像に、対応するタイムスタンプが追加される。これにより、車両速度と組み合わせることで、画像のシーケンスから道路の少なくとも一部のトップビュー画像を提供する生成プロセスまたは合成プロセスにおいて使用されるべき画像を選択することが可能となる。カメラのフレーム周波数が固定されていない場合には、図面を参照しながら後述するように、それぞれの画像は、車両の速度、走行距離、横軸周りの車両の回転運動、垂直軸に沿った車両の並進移動、またはそれらの組み合わせ、のうちの1つまたは複数に関して決定された時点で捕捉される。
本方法はさらに、少なくとも2つの画像のシーケンスから、さらなる処理のために第1の画像を選択することと、選択された第1の画像内において第1の被選択領域を選択することとを含む。第1の被選択領域は、画像のうちの、カメラ光学系による歪みが最小であるゾーン内に配置される。
本方法はさらに、少なくとも2つの画像のシーケンスから、さらなる処理のために第2の画像を選択することを含み、第2の画像は、選択された第1の画像よりも後に捕捉される。第2の画像は、選択された第2の画像内において第2の領域が選択可能となるように選択され、第2の被選択領域は、画像のうちの、カメラ光学系による歪みが最小であるゾーン内に配置される。さらに、第2の領域は、第2の領域の下側境界に示される画像内容が、選択された第1の画像内における第1の被選択領域の上側境界に示される画像内容に隣接するように配置される。
本明細書の文脈における画像内容とは、画像のシーン内における可視のオブジェクトまたは特徴を指す。第2の領域の下側境界に示される画像内容が、第1の領域の上側境界に示される画像内容に隣接するとは、特徴またはオブジェクトを部分的に表している第1の画像の第1の被選択領域内の画素と、第2の画像の第2の被選択領域内の画素とを、これらの第1の被選択領域の画素と第2の被選択領域の画素とが一緒になって特徴またはオブジェクトの1つのより大きな一貫した部分を表すように処理することができるということを意味する。換言すれば、処理後には、第1の領域と第2の領域とを組み合わせて、第1の領域または第2の領域の各々が個々に示すよりも大きい特徴またはオブジェクトの部分を、それらの間に隙間を形成することなく示すことができる。前述の定義に照らして、隣接するとは、第1の被選択領域と第2の被選択領域とが部分的に重なっていることを含むことができる。
第1の被選択領域および第2の被選択領域は、選択された第1の画像および第2の画像内における同じ位置に位置することができる。「上側」および「下側」という用語は、二次元画像に関するそれぞれの境界の位置を表しており、この二次元画像では、水平軸またはx軸が、画像の左側から画像の右側へと延在しており、垂直軸またはy軸が、画像の下側から上に向かう方向に画像の上側へと延在している。被選択領域に関する「選択された画像内における位置」という表現は、x位置およびy位置の範囲をカバーするか、または基準点ならびにx方向およびy方向への領域の拡張を使用することによる、x位置およびy位置における被選択領域の場所を表している。第1の被選択領域および第2の被選択領域の境界は、必ずしも画像のx方向およびy方向と直交して整列される必要はない。むしろ、第1の被選択領域および第2の被選択領域は、x方向およびy方向に対して所定の角度で位置することもできる。また、各被選択領域は、必ずしも同じ大きさを有する必要はない。一般に、被選択領域は、台形または長方形を含む、少なくとも2つの対向する辺同士が互いに平行である四辺形形状を有する。被選択領域をトップビューに変換することによって長方形形状が提供されるように、カメラの視点に応じて形状を選択することができる。車両の動きに起因したカメラの視点の変化を補償するために、領域を、画像が捕捉された時点における前後軸周りの車両の回転運動に応じて選択することができる。
カメラのフレームレートが固定されている場合には、各画像を、車両の速度と、前後軸周りの車両の回転運動と、横軸周りの車両の回転運動と、垂直軸に沿った並進運動と、のうちの1つまたは複数に応じて選択することができ、このことは、以前に選択された画像内における被選択領域の画像内容に隣接する画像内容を示す領域を、現在選択されている画像内における歪みが最小であるゾーン内において選択可能にすることを目標としている。この場合には、必ずしも画像のシーケンスの全ての画像が選択されるわけではなく、車両の速度が一定であると仮定した場合にも、その後に選択される2つの画像の間において使用されない画像の数は、必ずしも固定ではない。これによって、カメラが堅固に取り付けられている車両の、例えばスピードバンプ、窪み、または道路路面のその他の変形によって引き起こされる不均一な動きを補償することが可能となる。このような不均一な動きは、カメラによって捕捉されるシーン、ひいてはカメラの歪みが最小であるゾーンをシフトさせるおそれがあるものである。
カメラのフレームレートが固定されていない場合には、各画像を、車両の速度と、前後軸周りの車両の回転運動と、横軸周りの車両の回転運動と、垂直軸に沿った車両の並進運動と、のうちの1つまたは複数に応じて捕捉のトリガを制御することによって捕捉することができ、前述の例のように、このことは、以前に選択された画像内における被選択領域の画像内容に隣接する画像内容を示す領域を、現在選択されている画像内における歪みが最小であるゾーン内において選択可能にすることを目標としている。このことによっても、カメラが堅固に取り付けられている車両の、例えばスピードバンプまたは窪みによって引き起こされる不均一な動きを補償することが可能となる。このような不均一な動きは、カメラによって捕捉されるシーン、ひいてはカメラの歪みが最小であるゾーンをシフトさせるおそれがあるものである。しかしながら、画像を捕捉する時点が制御されるので、この場合には、捕捉された全ての画像が、本方法によるさらなる処理のために使用される。両方の場合とも、本方法によるさらなる処理に供される画像の数を最小限に減らす。
本方法はさらに、第1の被選択領域および第2の被選択領域をトップビュー視点に変換することと、変換された第1の被選択領域および第2の被選択領域を一緒にスティッチングして、1つの合成トップビュー画像を生成することとを含む。変換は、特に回転、ズーミング、ストレッチングを含むだけでなく、バレル、ピンクッション、キーストーン、または視点の歪みを修正するための操作も含む。
道路特徴および/または道路要素を識別するために、合成トップビュー画像をオブジェクト認識に供することができる。それぞれの識別される道路特徴に対して、車両速度および車両加速度、カメラの光学特性、トップビュー画像を生成するために適用された変換の特性を表している記録されたデータと、合成画像内において識別された、非常に精確に把握された位置または場所を有する基準特徴とから、位置を特定することができる。基準特徴は、データベースにアクセスすることによって取得することができる。認識された特徴および要素を、例えばこれらの特徴および要素の写真表現として、道路のデジタル表現に追加することができるか、またはデジタル表現で、例えば3D−CADベクトルまたはワイヤフレームモデルとして追加することができる。
本方法を実施するシステムは、画像を捕捉するカメラと、車両の動きおよび/または位置および/または向きを検出するためのセンサと、画像の選択、領域の選択、所望のトップビュー画像の変換および/または合成または生成を実施する1つまたは複数の処理ユニットとを含む。1つまたは複数の処理ユニットは、それぞれの機能を実施するように適合された複数のモジュールを含むことができ、これらのモジュールは、ソフトウェアモジュールもしくはハードウェアモジュール、またはこれらの組み合わせとすることができる。
以下の章では、添付の図面を参照しながら本発明を説明する。
図1a〜1eは、本発明の第1の態様による、カメラによって捕捉された第1の簡略化されたシーンと、領域の選択および連結とを示す図である。 図2a〜2cは、本発明の第2の態様による、カメラによって捕捉された第2の簡略化されたシーンと、領域の選択とを示す図である。 図3a〜3cは、本発明の第3の態様による、カメラによって捕捉された第3の簡略化されたシーンと、領域の選択とを示す図である。 本発明の1つの態様による方法の例示的な概略フローチャートを示す図である。 本発明の1つまたは複数の態様によるシステムの例示的な概略ブロック図である。
各図面における同一または類似の要素は、同一の参照符号によって示されている。
図1aは、車載カメラによって捕捉されるような第1の簡略化されたシーンを示す。2車線の道路106のそれぞれ左右に位置する2つの建物102,104が、シーン内において見て取れる。一点鎖線108は、カメラ光学系による歪みが最小であるゾーンを示している。破線で示されている第1の領域110aが、さらなる処理のために選択される。この選択は、道路106の特徴、すなわちこの例では左側の車道外側線112および車線境界線114が、第1の領域110内に位置するように実施される。
車両が前方に移動すると、シーン内の特徴は、車両に向かって移動して最終的には車両を通過し、カメラによって補足されたシーンから退出する。図1bでは、車両が、特定の距離だけ前方に移動しており、建物は、今や車両のより近傍に位置しているので、図1aの場合よりも大きく見える。シーンのうちの、第1の被選択領域110a内に位置していた部分は、今や画像の下側境界のより近傍に位置しており、すなわちその殆どが、カメラ光学系による歪みが最小であるゾーンの外側に位置している。しかしながら、このことは重要ではない。なぜなら、この部分は、図1aにおいて捕捉されており、この部分の内容は、さらに処理されているか、またはさらなる処理のために保存されているからである。点線で示されている第2の領域110bは、第1の領域と1つの境界を共有するように選択され、すなわち、第1の被選択領域110aの上側境界における道路106の特徴が、第2の被選択領域110bの下側境界における同一の特徴に継ぎ目なく隣接するべきである。このプロセスが繰り返し実施されて、多数の被選択領域が選択され、これらの多数の被選択領域は、一列に配列または連結されると、道路の一区間または一部分に沿って道路特徴の隙間のない画像を提供する。
カメラは、前方を向くように車両に取り付けられているので、道路上の平行な構造体が透視図で表れる。すなわち、平行線が遠方の一点で合流するように見える。道路特徴のトップビュー画像の生成を可能にするために、第1の被選択領域および第2の被選択領域は、これらの被選択領域の仮想トップビューを生成するための変換に供される。変換についての概略的な説明が、図1cおよび1dに示されている。図1cは、図1aおよび図1bからの被選択領域110aまたは110bの画像内容を示す。図1dは、図1cの変換された画像内容を示しており、ここでは、収束する線112および114が、上方の視点から撮影されたトップビュー画像内で下向きに見えるように、今や互いに平行に整列されている。変換によって、被選択領域の形状は、今や台形になっている。
図1eに示されるように、変換された各画像は、道路の一部分または一区間に沿って、被選択領域内に位置する道路特徴の仮想トップビュー画像を形成するように、一列に配列および整列されている。
図1b〜1eを結んでいる細い実線は、各図にまたがって特徴を追跡するための視覚支援の役割をしているに過ぎず、処理の一部を形成しているわけではない。
図2a〜2cは、本発明の第2の態様による、カメラによって捕捉された第2の簡略化されたシーンと、領域の選択とを示す。図2aに示されたシーンは、図1aに示されたシーンに対応している。第1の被選択領域110aは、画像の下側境界から距離d1をおいて、カメラ光学系による歪みが最小であるゾーン108の下側境界の真上に位置している。
図2bでは、車両は、新しい画像の捕捉を要求するのに十分な距離だけ前方に移動しているが、スピードバンプまたは道路路面のその他の変形(図面には図示せず)によって車両のフロント部の方がリア部よりも低くなっている。カメラは、車両に堅固に取り付けられているので、捕捉されるシーンは、それに応じて図2bに示されるようにシフトされる。車両位置の変化、ひいてはカメラ位置の変化は、横軸周りの車両の回転運動として、かつ/または垂直軸に沿った並進運動として記述することが可能である。参考のために、第1の被選択領域110aが図面に示されている。第2の領域が、画像の境界に関して第1の被選択領域と同様の場所にくるように選択されたとすれば、この第2の領域は、点線の領域110bによって示される位置に位置するであろう。しかしながら、このことによって、第1の被選択領域110aの上側境界に示される画像内容が、第2の被選択領域110bの下側境界に示される画像内容に隣接するように、第1の被選択領域と第2の被選択領域との間に隙間のない接続が提供されるわけではない。実際には、図2bの第2の被選択領域110bは、より前の時点で既に捕捉された画像内容を部分的にカバーすることとなるだろう。
車両およびカメラの動きを補償するために、第2の被選択領域を、本発明の方法の要件に従って、第1の領域と第2の領域との間に隙間のない接続が提供される場所にシフトさせることができ、またはこの画像を破棄することができる。図2cは、第2の被選択領域110cを示しており、この第2の被選択領域110cは、第2の被選択領域110cの下側境界における画像内容が、第1の被選択領域110aの上側境界における内容に継ぎ目なく隣接するように配置されるようにシフトされている。第2の被選択領域110cは、今や画像の下側境界から距離d2をおいて配置されており、それと同時に、カメラ光学系による歪みが最小であるゾーン108内に依然として配置されている。車両の動きは、加速度計およびジャイロスコープなどの搭載センサを使用して検出することができるが、画像認識技術または他の適切な手段を使用することによっても検出することができる。
図3a〜3cは、本発明の第3の態様による、カメラによって捕捉された第3の簡略化されたシーンと、領域の選択とを示す。図3aに示されたシーンは、図1aまたは2aに示されたシーンに対応している。
前述の例と同様に、図3bでは、車両は、新しい画像の捕捉を要求するのに十分な距離だけ前方に移動しているが、車両は、例えば道路路面の変形(図面には図示せず)に起因して、今や前後軸の周りに回転している。カメラは、車両に堅固に取り付けられているので、捕捉されるシーンは、それに応じて回転または傾斜される。参考のために、第1の被選択領域110aが図面に示されている。
第2の領域110bが、画像の境界に関して第1の被選択領域と同様の場所にくるように選択されたとすれば、この第2の領域110bは、点線の領域110bによって示される位置に位置するであろう。しかしながら、このことによって、第1の被選択領域110aの上側境界に示される画像内容が、第2の被選択領域110bの下側境界に示される画像内容に隣接するように、第1の被選択領域と第2の被選択領域との間に隙間のない接続が提供されるわけではない。実際には、図3bの第2の被選択領域110bは、より前の時点で既に捕捉された画像内容を部分的にカバーすることとなり、そして部分的に隙間を残すこととなるだろう。
車両およびカメラの動きを補償するために、第2の被選択領域を、所定の角度で回転させることができ、必要に応じて、本発明の方法の要件に従って、第1の領域と第2の領域との間に隙間のない接続が提供される場所に回転させることができる。図3cは、第2の被選択領域110cを示しており、この第2の被選択領域110cは、第2の被選択領域110cの下側境界における画像内容が、第1の被選択領域110aの上側境界における内容に継ぎ目なく隣接するように配置されるように回転されている。第2の被選択領域110cは、依然として、カメラ光学系による歪みが最小であるゾーン108内に配置されている。車両の動きは、加速度計およびジャイロスコープなどの搭載センサを使用して検出することができるが、画像認識技術または他の適切な手段を使用することによっても検出することができる。
図4は、本発明の1つの態様による方法の例示的な概略フローチャートを示す。ステップ402において、3次元空間の各主軸におけるかつ/または各主軸周りの車両の速度および/または加速度、および/または3次元空間内での車両の向きが記録される。ステップ404において、車両が移動している間に、少なくとも2つの画像のシーケンスが記録される。ステップ402および404は、繰り返し実施され、また、ステップ402および404を並行して実施してもよい。ステップ406において、ステップ402および404において記録されたデータが少なくとも一時的に保存される。ステップ408において、少なくとも2つの画像のシーケンスからの第1の画像が、さらなる処理のために選択され、ステップ410において、選択された第1の画像内において第1の被選択領域が選択される。第1の被選択領域は、画像のうちの、カメラ光学系による歪みが最小であるゾーン内に配置される。ステップ412において、少なくとも2つの画像のシーケンスからの第2の画像が、さらなる処理のために選択される。第2の画像は、選択された第1の画像よりも後に捕捉され、第2の画像は、ステップ414において、選択された第2の画像内において第2の領域が選択可能となるように選択され、この第2の被選択領域は、画像のうちの、カメラ光学系による歪みが最小であるゾーン内に配置され、この第2の領域は、第2の領域の下側境界に示される画像内容が、選択された第1の画像内における第1の被選択領域の上側境界に示される画像内容に隣接するように配置される。ステップ416において、第1の被選択領域および第2の被選択領域がトップビュー視点に変換され、ステップ418において、変換された第1の被選択領域および第2の被選択領域が一緒にスティッチングされて、1つの合成トップビュー画像が生成される。
図5は、本発明の1つまたは複数の態様によるシステム500の例示的な概略ブロック図を示す。カメラ502と、1つまたは複数のセンサ504と、画像を選択するための第1のモジュール506と、画像内において領域を選択するための第2のモジュール508と、被選択領域をそのトップビュー表現に変換するための第3のモジュール510と、変換された各被選択領域を合成して1つの合成トップビュー画像にするための第4のモジュール512とが、1つまたは複数のバスシステム514を介して通信可能に接続されている。
1つまたは複数のセンサ504は、車両の動きおよび/または位置および/または向きを検出するように適合されている。第1のモジュール506は、選択された第2の画像内におけるカメラ光学系による歪みが最小であるゾーンが、第2のモジュール508による、第2の画像のゾーン内での第2の被選択領域の選択を可能にするように、第1の画像および第2の画像を選択するように適合されている。第2の被選択領域は、第2の領域の下側境界に示される画像内容が、選択された第1の画像内における歪みが最小である対応するゾーン内で選択された第1の被選択領域の上側境界に示される画像内容に隣接するように配置される。第3のモジュール510は、対応する画像変換関数を適用することによって、被選択領域の画像内容をトップビューに変換するように適合されている。第4のモジュール512は、2つ以上の被選択領域にまたがっている道路特徴および/または道路要素が隙間および歪みなく表示されるように、変換された各被選択領域の画像内容を一緒にして1つのトップビュー画像にまとめるように適合されている。
第1〜第4のモジュールは、1つまたは複数のマイクロプロセッサと、ランダムアクセスメモリと、不揮発性メモリと、ソフトウェアおよび/またはハードウェア通信インターフェースとを含むことができる。不揮発性メモリは、コンピュータプログラム命令を保存することができ、このコンピュータプログラム命令は、1つまたは複数のマイクロプロセッサによって実行されるとランダムアクセスメモリと協働して、前述したような方法の1つまたは複数の処理ステップを実行する。

Claims (10)

  1. 車両が移動している路面に対して垂直でない視点から、前方を向いた車載カメラによって撮影された少なくとも2つの画像から、道路の少なくとも一部の合成トップビュー画像を生成する方法であって、
    前記車両が移動している間に、3次元空間の各主軸におけるかつ/または各主軸周りの前記車両の速度および/または加速度、および/または3次元空間内での前記車両の向きを記録することと、
    前記車両が移動している間に、少なくとも2つの画像のシーケンスを記録することと、
    前記少なくとも2つの画像のシーケンスから、さらなる処理のために第1の画像を選択することと、
    選択された前記第1の画像内において第1の被選択領域を選択することと、
    を含み、前記第1の被選択領域は、前記画像のうちの、カメラ光学系による歪みが最小であるゾーン内に配置されており、
    さらに、
    前記少なくとも2つの画像のシーケンスから、さらなる処理のために第2の画像を選択することを含み、前記第2の画像は、選択された前記第1の画像よりも後に捕捉され、前記第2の画像は、選択された該第2の画像内において第2の被選択領域が選択可能となるように選択され、前記第2の被選択領域は、前記画像のうちの、前記カメラ光学系による歪みが最小であるゾーン内に配置され、前記第2の被選択領域は、該第2の被選択領域の下側境界に示される画像内容が、選択された前記第1の画像内における前記第1の被選択領域の上側境界に示される画像内容に隣接するように配置されており、
    さらに、
    前記第1の被選択領域および前記第2の被選択領域をトップビュー視点に変換することと、
    変換された前記第1の被選択領域および前記第2の被選択領域を一緒にスティッチングして、1つの合成トップビュー画像を生成することと、
    を含む方法。
  2. さらなる処理のための前記少なくとも2つの画像のシーケンスからの各画像を、前記車両の速度と、前後軸、横軸および/または垂直軸周りの前記車両の回転運動と、垂直軸に沿った前記車両の並進運動と、のうちの1つまたは複数に応じて選択する、請求項1記載の方法。
  3. それぞれの画像に対して、前記捕捉のトリガを、前記車両の速度と、前後軸、横軸および/または垂直軸周りの前記車両の回転運動と、垂直軸に沿った前記車両の並進運動と、のうちの1つまたは複数に応じて選択する、請求項1記載の方法。
  4. 前記被選択領域は、少なくとも2つの対向する辺同士が互いに平行である四辺形形状を有する、請求項1記載の方法。
  5. 前記四辺形形状は、該四辺形形状の高さよりも大きい幅を有する、請求項4記載の方法。
  6. それぞれの画像に対して、前記領域を、前記画像が捕捉された時点における前後軸周りの前記車両の回転運動に応じて選択する、請求項4または5記載の方法。
  7. 道路特徴を識別するために、前記合成トップビュー画像をオブジェクト認識に供することをさらに含む、請求項1記載の方法。
  8. それぞれの識別される道路特徴に対して、車両速度および車両加速度、前記カメラの光学特性、前記トップビュー画像を生成するために適用された前記変換の特性を表している記録されたデータと、前記合成画像内において識別された基準特徴とから、位置を特定する、請求項7記載の方法。
  9. 位置が特定される、それぞれの識別される道路特徴に対して、そのデジタル表現を3次元ベクトル形式で決定することをさらに含む、請求項8記載の方法。
  10. 車両が移動している路面に対して垂直でない視点から、前方を向いた車載カメラによって撮影された少なくとも2つの画像から、合成トップビュー画像を生成するためのシステムであって、
    前記車両が移動している間に、少なくとも2つの画像のシーケンスを記録するように適合されたカメラと、
    前記車両の動きおよび/または位置および/または向きを検出するためのセンサと、
    前記センサのデータと前記カメラの画像とを記録するためのストレージと、
    を備え、
    前記システムはさらに、
    第1の画像および第2の画像を選択するように適合された第1のモジュールと、
    前記第1の画像内において第1の被選択領域を選択し、前記第2の画像内において第2の被選択領域を選択するように適合された第2のモジュールと、
    を備え、
    前記第1のモジュールは、選択された前記第2の画像内におけるカメラ光学系による歪みが最小であるゾーンが、前記第2のモジュールによる、前記第2の画像の前記ゾーン内での第2の被選択領域の選択を可能にするように、前記第2の画像を選択し、前記第2の被選択領域は、該第2の被選択領域の下側境界に示される画像内容が、選択された前記第1の画像内における歪みが最小である対応するゾーン内において選択された前記第1の被選択領域の上側境界に示される画像内容に隣接するように配置されており、
    前記システムはさらに、
    対応する画像変換関数を適用することによって前記被選択領域の画像内容をトップビューに変換するように適合された第3のモジュールと、
    2つ以上の被選択領域にまたがっている道路特徴および/または道路要素が隙間および歪みなく表示されるように、変換された各前記被選択領域の画像内容を一緒にして1つの合成トップビュー画像にまとめるように適合された第4のモジュールと、
    を備えるシステム。
JP2019544949A 2016-10-26 2016-10-26 道路の合成トップビュー画像を生成するための方法およびシステム Active JP6910454B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2016/103353 WO2018076196A1 (en) 2016-10-26 2016-10-26 Method and system for generating a composed top-view image of a road

Publications (2)

Publication Number Publication Date
JP2019533875A true JP2019533875A (ja) 2019-11-21
JP6910454B2 JP6910454B2 (ja) 2021-07-28

Family

ID=62024218

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019544949A Active JP6910454B2 (ja) 2016-10-26 2016-10-26 道路の合成トップビュー画像を生成するための方法およびシステム

Country Status (5)

Country Link
US (1) US10863111B2 (ja)
EP (1) EP3533026A4 (ja)
JP (1) JP6910454B2 (ja)
CN (1) CN110023988B (ja)
WO (1) WO2018076196A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11373067B2 (en) * 2018-08-10 2022-06-28 Nec Corporation Parametric top-view representation of scenes
US11244500B2 (en) 2019-12-31 2022-02-08 Woven Planet North America, Inc. Map feature extraction using overhead view images
US11037328B1 (en) 2019-12-31 2021-06-15 Lyft, Inc. Overhead view image generation
US11288522B2 (en) 2019-12-31 2022-03-29 Woven Planet North America, Inc. Generating training data from overhead view images
US11558550B1 (en) 2021-06-28 2023-01-17 International Business Machines Corporation Privacy-protecting multi-pass street-view photo-stitch

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007099261A (ja) * 2005-09-12 2007-04-19 Aisin Aw Co Ltd 駐車支援方法及び駐車支援装置
WO2009057410A1 (ja) * 2007-10-30 2009-05-07 Nec Corporation 路面標示画像処理装置,路面標示画像処理方法及びプログラム
JP2009205403A (ja) * 2008-02-27 2009-09-10 Hitachi Ltd 道路標示認識装置、および道路標示認識方法

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4108314B2 (ja) * 2001-10-31 2008-06-25 トヨタ自動車株式会社 車両用周辺監視装置
JP3607994B2 (ja) * 2001-11-12 2005-01-05 トヨタ自動車株式会社 車両用周辺監視装置
US7084904B2 (en) * 2002-09-30 2006-08-01 Microsoft Corporation Foveated wide-angle imaging system and method for capturing and viewing wide-angle images in real time
US8723951B2 (en) * 2005-11-23 2014-05-13 Grandeye, Ltd. Interactive wide-angle video server
DE102006003538B3 (de) * 2006-01-24 2007-07-19 Daimlerchrysler Ag Verfahren zum Zusammenfügen mehrerer Bildaufnahmen zu einem Gesamtbild in der Vogelperspektive
US20080253685A1 (en) * 2007-02-23 2008-10-16 Intellivision Technologies Corporation Image and video stitching and viewing method and system
JP2008187564A (ja) * 2007-01-31 2008-08-14 Sanyo Electric Co Ltd カメラ校正装置及び方法並びに車両
RU2009148504A (ru) * 2007-06-08 2011-07-20 Теле Атлас Б.В. (NL) Способ и устройство для создания панорамы с множественными точками наблюдения
US7978928B2 (en) * 2007-09-18 2011-07-12 Seiko Epson Corporation View projection for dynamic configurations
US10793067B2 (en) * 2011-07-26 2020-10-06 Magna Electronics Inc. Imaging system for vehicle
TWI478833B (zh) * 2011-08-31 2015-04-01 Autoequips Tech Co Ltd 調校車用影像裝置之方法及其系統
FR2985350B1 (fr) * 2012-01-04 2014-01-24 Peugeot Citroen Automobiles Sa Procede de traitement d'image d'une camera embarquee sur un vehicule et dispositif de traitement correspondant
CN103377470A (zh) * 2013-07-03 2013-10-30 奇瑞汽车股份有限公司 一种车载全景视频***的图像拼接方法
CN104680501B (zh) * 2013-12-03 2018-12-07 华为技术有限公司 图像拼接的方法及装置
US10313656B2 (en) * 2014-09-22 2019-06-04 Samsung Electronics Company Ltd. Image stitching for three-dimensional video
EP3035664B1 (en) * 2014-12-19 2017-06-21 Axis AB Method for processing a video stream
US9818201B2 (en) * 2014-12-22 2017-11-14 Lucasfilm Entertainment Company Ltd. Efficient lens re-distortion
US9852348B2 (en) * 2015-04-17 2017-12-26 Google Llc Document scanner
WO2016203282A1 (en) * 2015-06-18 2016-12-22 The Nielsen Company (Us), Llc Methods and apparatus to capture photographs using mobile devices
US20170061686A1 (en) * 2015-08-28 2017-03-02 Hai Yu Stage view presentation method and system
US9699380B2 (en) * 2015-11-03 2017-07-04 Intel Corporation Fusion of panoramic background images using color and depth data
CN105957010A (zh) * 2016-05-19 2016-09-21 沈祥明 一种车载图像拼接***

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007099261A (ja) * 2005-09-12 2007-04-19 Aisin Aw Co Ltd 駐車支援方法及び駐車支援装置
WO2009057410A1 (ja) * 2007-10-30 2009-05-07 Nec Corporation 路面標示画像処理装置,路面標示画像処理方法及びプログラム
JP2009205403A (ja) * 2008-02-27 2009-09-10 Hitachi Ltd 道路標示認識装置、および道路標示認識方法

Also Published As

Publication number Publication date
WO2018076196A1 (en) 2018-05-03
EP3533026A1 (en) 2019-09-04
EP3533026A4 (en) 2021-01-27
CN110023988B (zh) 2023-02-28
JP6910454B2 (ja) 2021-07-28
US20190289224A1 (en) 2019-09-19
CN110023988A (zh) 2019-07-16
US10863111B2 (en) 2020-12-08

Similar Documents

Publication Publication Date Title
US11474247B2 (en) Methods and systems for color point cloud generation
JP6910454B2 (ja) 道路の合成トップビュー画像を生成するための方法およびシステム
JP2016057108A (ja) 演算装置、演算システム、演算方法およびプログラム
US11430199B2 (en) Feature recognition assisted super-resolution method
JP5214355B2 (ja) 車両走行軌跡観測システム、車両走行軌跡観測方法、およびそのプログラム
US20230138487A1 (en) An Environment Model Using Cross-Sensor Feature Point Referencing
CN108603933A (zh) 用于融合具有不同分辨率的传感器输出的***和方法
JP2964402B1 (ja) 三次元地図データベースの作成方法及び装置
JP5762320B2 (ja) 走行制御システム及び走行制御方法
JP4773794B2 (ja) 新旧映像座標統合装置
JP7337617B2 (ja) 推定装置、推定方法及びプログラム
CN114503044A (zh) 用于在3d点云中自动标记对象的***和方法
WO2020118619A1 (en) Method for detecting and modeling of object on surface of road
WO2022133986A1 (en) Accuracy estimation method and system
AU2018102199A4 (en) Methods and systems for color point cloud generation
CN113011212A (zh) 图像识别方法、装置及车辆
US20240137477A1 (en) Method and apparatus for generating 3d image by recording digital content
US20220390252A1 (en) Use of predefined (pre-built) graphical representations of roads for autonomous driving of vehicles and display of route planning
Trusheim et al. Cooperative Image Orientation with Dynamic Objects

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190522

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190820

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190820

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200729

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20201022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210706

R150 Certificate of patent or registration of utility model

Ref document number: 6910454

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150