JPWO2019167238A1 - 画像処理装置および画像処理方法 - Google Patents
画像処理装置および画像処理方法 Download PDFInfo
- Publication number
- JPWO2019167238A1 JPWO2019167238A1 JP2018532181A JP2018532181A JPWO2019167238A1 JP WO2019167238 A1 JPWO2019167238 A1 JP WO2019167238A1 JP 2018532181 A JP2018532181 A JP 2018532181A JP 2018532181 A JP2018532181 A JP 2018532181A JP WO2019167238 A1 JPWO2019167238 A1 JP WO2019167238A1
- Authority
- JP
- Japan
- Prior art keywords
- road
- unit
- sign
- target image
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 99
- 238000003672 processing method Methods 0.000 title claims description 10
- 238000003708 edge detection Methods 0.000 claims description 58
- 238000001514 detection method Methods 0.000 claims description 52
- 238000012937 correction Methods 0.000 claims description 44
- 238000010586 diagram Methods 0.000 description 24
- 238000000034 method Methods 0.000 description 19
- 230000006870 function Effects 0.000 description 18
- 239000000284 extract Substances 0.000 description 14
- 230000011218 segmentation Effects 0.000 description 5
- 238000003909 pattern recognition Methods 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/09—Arrangements for giving variable traffic instructions
- G08G1/0962—Arrangements for giving variable traffic instructions having an indicator mounted inside the vehicle, e.g. giving voice messages
- G08G1/09623—Systems involving the acquisition of information from passive traffic signs by means mounted on the vehicle
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/60—Rotation of whole images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30256—Lane; Road marking
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Geometry (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Traffic Control Systems (AREA)
Abstract
Description
例えば、非特許文献1には、複数の角度で道路標示が撮影された画像を用いて道路標示を自動で認識する技術が記載されている。
実施の形態1.
図1は、この発明の実施の形態1に係る画像処理装置1の構成を示すブロック図である。画像処理装置1は、車両に搭載され、撮影装置2によって道路標示が撮影された画像を画像処理して認識用の画像を生成し、標示モデルデータベース(以下、標示モデルDBと記載する)3の内容と認識用画像に基づいて道路標示の種類を認識する。図1に示すように、画像処理装置1は、標示検出部10、道路端検出部11、道路方位推定部12、画像回転部13、歪補正部14および標示認識部15を備える。
認識モデルの学習には、サポートベクターマシン(以下、SVMと記載する)あるいは畳み込みニューラルネットワーク(以下、CNNと記載する)を用いてもよい。
例えば、標示検出部10は、撮影装置2から入力した画像に対して、道路標示に関するパターン認識を施し、パターン認識の結果に基づいて検出された道路標示を含む画像範囲を特定する。上記画像範囲を示すデータおよび上記対象画像は、標示検出部10から道路端検出部11に出力される。
また、回転後の対象画像中の道路標示は、標示モデルDB3に登録された認識モデルの学習に使用された道路標示と同じ方向であることが望ましい。
そこで、認識モデルが、上下方向の直線道路に描画された道路標示を用いて学習された場合、画像回転部13は、対象画像中の道路が上下方向に沿ってみえるように、道路の方位を示す角度に応じて対象画像を回転させる。この回転処理により、回転前の対象画像で傾いて見えていた道路標示が、回転後の対象画像では上下方向に沿ってみえるように補正される。
このように、画像処理装置1は、道路標示が複数の角度で撮影された画像を用いなくても、道路標示が一定の方向(例えば、上下方向)に沿ってみえる対象画像を用いて、道路標示を自動で認識することができる。
図2は、実施の形態1に係る画像処理方法を示すフローチャートであり、対象画像から道路標示を検出してから道路標示を認識するまでの一連の処理を示している。
まず、標示検出部10は、撮影装置2によって撮影された画像を入力し、入力した画像から道路標示を検出する(ステップST1)。例えば、標示検出部10は、入力した画像に対して道路標示に関するパターン認識を施して、道路標示を含む画像範囲を特定する。このように道路標示が検出された画像が対象画像であり、この対象画像、および上記画像範囲を示すデータは、標示検出部10から道路端検出部11に出力される。
標示検出部10は、対象画像20に対して道路標示に関するパターン認識を施し、認識結果から道路標示21を含む画像範囲を特定する。
例えば、標示検出部10は、対象画像20における道路標示21の上端のY座標A1と道路標示21の下端のY座標A2を特定する。Y座標A1,A2は、道路標示21を含む画像範囲を示すデータである。
次に、道路方位推定部12は、道路端のエッジの傾きに基づいて、道路領域における道路の方位を示す角度を推定する(ステップST4)。
例えば、道路方位推定部12は、小領域の画素ごとに画素値の勾配強度および勾配方向を求め、画素値の勾配強度に対して勾配方向をヒストグラム化したHOG(Histogram of Oriented Gradients)特徴を求める。道路方位推定部12は、HOG特徴を用いて、線分である小領域のエッジを抽出し、エッジの角度(線分の角度)を特定する。この処理は、領域群24a,24bに含まれる全ての小領域について実施される。
実施の形態2では、白線が描画されていない道路の道路端を検出する処理について説明する。図4は、実施の形態2に係る画像処理装置1Aの構成を示すブロック図である。
画像処理装置1Aは、車両に搭載され、撮影装置2によって道路標示が撮影された画像を画像処理して認識用の画像を生成し、標示モデルDB3の内容と認識用の画像に基づいて道路標示の種類を認識する。図4に示すように、画像処理装置1Aは、標示検出部10、道路端検出部11A、道路方位推定部12、画像回転部13、歪補正部14および標示認識部15を備えて構成される。なお、図4において、図1と同一の構成要素には同一の符号を付して説明を省略する。
図5は、実施の形態2に係る画像処理方法を示すフローチャートであり、対象画像から道路標示を検出してから道路標示を認識するまでの一連の処理を示している。
まず、標示検出部10は、撮影装置2によって撮影された画像を入力し、入力した画像から道路標示を検出する(ステップST1a)。図6Aは、標示検出処理の概要を示す図である。標示検出部10は、実施の形態1と同様の手順で、対象画像20における道路標示21の上端のY座標A1と道路標示21の下端のY座標A2を特定する。
路面セグメンテーション処理とは、対象画像の画素ごとに属性を判定し、属性の判定結果から道路の画像領域を推定する、いわゆるセマンティックセグメンテーションである。
続いて、道路方位推定部12は、道路端のエッジの傾きに基づいて、道路領域における道路の方位を示す角度を推定する(ステップST6a)。
この処理を行うことにより、道路端検出部11Aは、白線が描画されていない道路であっても、道路標示を含む道路領域の道路端を的確に検出することができる。
また、画像処理装置1Aは、実施の形態1と同様に、道路標示が複数の角度で撮影された画像を用いなくても、道路標示が一定の方向(例えば、上下方向)に沿ってみえる対象画像を用いて、道路標示を自動で認識することができる。
画像処理装置1における、標示検出部10、道路端検出部11、道路方位推定部12、画像回転部13、歪補正部14および標示認識部15の機能は、処理回路により実現される。すなわち、画像処理装置1は、図2に示したステップST1からステップST7までの処理を実行するための処理回路を備える。同様に、画像処理装置1Aにおける、標示検出部10、道路端検出部11A、道路方位推定部12、画像回転部13、歪補正部14および標示認識部15の機能は、処理回路により実現され、この処理回路は、図5に示したステップST1aからステップST9aまでの処理を実行するためのものである。これらの処理回路は、専用のハードウェアであってもよいが、メモリに記憶されたプログラムを実行するCPU(Central Processing Unit)であってもよい。
画像処理装置1における、標示検出部10、道路端検出部11、道路方位推定部12、画像回転部13、歪補正部14および標示認識部15の機能を別々の処理回路で実現してもよいし、これらの機能をまとめて1つの処理回路で実現してもよい。
また、画像処理装置1Aにおける、標示検出部10、道路端検出部11A、道路方位推定部12、画像回転部13、歪補正部14および標示認識部15の機能を別々の処理回路で実現してもよいし、これらの機能をまとめて1つの処理回路で実現してもよい。
すなわち、画像処理装置1は、プロセッサ103によって実行されるとき、図2に示したステップST1からステップST7までの処理が結果的に実行されるプログラムを記憶するためのメモリ104を備えている。これらのプログラムは、標示検出部10、道路端検出部11、道路方位推定部12、画像回転部13、歪補正部14および標示認識部15の手順または方法をコンピュータに実行させる。
メモリ104は、コンピュータを、標示検出部10、道路端検出部11、道路方位推定部12、画像回転部13、歪補正部14、および標示認識部15として機能させるためのプログラムが記憶されたコンピュータ可読記憶媒体であってもよい。
これは、画像処理装置1Aにおいても同様である。
例えば、標示検出部10、道路端検出部11および道路方位推定部12は、専用のハードウェアである処理回路で機能を実現する。また、画像回転部13、歪補正部14および標示認識部15は、プロセッサ103がメモリ104に記憶されたプログラムを読み出して実行することによって機能を実現する。これは、画像処理装置1Aにおいても同様である。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせにより上記機能を実現することができる。
さらに、道路端検出部は、道路領域の白線を対象画像から検出し、道路方位推定部は、白線を道路端とみなして、白線のエッジの傾きに基づいて道路領域における道路の方位を示す角度を推定する。道路端検出部は、対象画像から白線が検出されない場合、対象画像の画素ごとに属性を判定し、道路の属性の画素から構成された領域と道路の属性ではない画素から構成された領域との境界を道路端として検出する。道路方位推定部は、道路端検出部によって検出された道路端のエッジの傾きに基づいて、道路領域における道路の方位を示す角度を推定する。
Claims (8)
- 道路に描画された道路標示が撮影された対象画像から前記道路標示を検出する標示検出部と、
前記標示検出部によって検出された前記道路標示を含む道路領域の道路端を、前記対象画像から検出する道路端検出部と、
前記道路端検出部によって検出された前記道路端のエッジの傾きに基づいて、前記道路領域における道路の方位を示す角度を推定する道路方位推定部と、
前記道路方位推定部によって推定された道路の方位を示す角度に応じて前記対象画像を回転させる画像回転部と、
前記画像回転部によって回転された前記対象画像の歪みを補正する歪補正部と、
前記歪補正部によって補正された前記対象画像を用いて前記道路標示を認識する標示認識部とを備えたこと
を特徴とする画像処理装置。 - 前記道路端検出部は、前記道路領域の白線を前記対象画像から検出し、
前記道路方位推定部は、前記白線を前記道路端とみなして、前記白線のエッジの傾きに基づいて前記道路領域における道路の方位を示す角度を推定すること
を特徴とする請求項1記載の画像処理装置。 - 前記道路端検出部は、前記対象画像の画素ごとに属性を判定し、画素ごとの属性の判定結果に基づいて前記対象画像における前記道路領域を推定し、推定した前記道路領域の前記道路端を検出すること
を特徴とする請求項1記載の画像処理装置。 - 前記道路方位推定部は、前記道路端に沿った複数の線分のエッジの傾きの統計値に基づいて道路の方位を示す角度を推定すること
を特徴とする請求項1から請求項3のいずれか1項記載の画像処理装置。 - 標示検出部が、道路に描画された道路標示が撮影された対象画像から前記道路標示を検出するステップと、
道路端検出部が、前記標示検出部によって検出された前記道路標示を含む道路領域の道路端を、前記対象画像から検出するステップと、
道路方位推定部が、前記道路端検出部によって検出された前記道路端のエッジの傾きに基づいて、前記道路領域における道路の方位を示す角度を推定するステップと、
画像回転部が、前記道路方位推定部によって推定された道路の方位を示す角度に応じて前記対象画像を回転させるステップと、
歪補正部が、前記画像回転部によって回転された前記対象画像の歪みを補正するステップと、
標示認識部が、前記歪補正部によって補正された前記対象画像を用いて前記道路標示を認識するステップとを備えたこと
を特徴とする画像処理方法。 - 前記道路端検出部は、前記道路領域の白線を前記対象画像から検出し、
前記道路方位推定部は、前記白線を前記道路端とみなして、前記白線のエッジの傾きに基づいて前記道路領域における道路の方位を示す角度を推定すること
を特徴とする請求項5記載の画像処理方法。 - 前記道路端検出部は、前記対象画像の画素ごとの属性に基づいて前記対象画像における前記道路領域を推定し、推定した前記道路領域の前記道路端を前記対象画像から検出すること
を特徴とする請求項5記載の画像処理方法。 - 前記道路方位推定部は、前記道路端に沿った複数の線分のエッジの傾きの統計値に基づいて道路の方位を示す角度を推定すること
を特徴とする請求項5から請求項7のいずれか1項記載の画像処理方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2018/007862 WO2019167238A1 (ja) | 2018-03-01 | 2018-03-01 | 画像処理装置および画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6466038B1 JP6466038B1 (ja) | 2019-02-06 |
JPWO2019167238A1 true JPWO2019167238A1 (ja) | 2020-04-09 |
Family
ID=65270613
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018532181A Active JP6466038B1 (ja) | 2018-03-01 | 2018-03-01 | 画像処理装置および画像処理方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20210042536A1 (ja) |
JP (1) | JP6466038B1 (ja) |
DE (1) | DE112018006996B4 (ja) |
WO (1) | WO2019167238A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020201649A (ja) | 2019-06-07 | 2020-12-17 | トヨタ自動車株式会社 | 地図生成装置、地図生成方法及び地図生成用コンピュータプログラム |
CN110737266B (zh) * | 2019-09-17 | 2022-11-18 | 中国第一汽车股份有限公司 | 一种自动驾驶控制方法、装置、车辆和存储介质 |
CN114419338B (zh) * | 2022-03-28 | 2022-07-01 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、计算机设备和存储介质 |
JP7483790B2 (ja) * | 2022-05-19 | 2024-05-15 | キヤノン株式会社 | 画像処理装置、画像処理方法、移動体、及びコンピュータプログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3463858B2 (ja) | 1998-08-27 | 2003-11-05 | 矢崎総業株式会社 | 周辺監視装置及び方法 |
JP2008034981A (ja) * | 2006-07-26 | 2008-02-14 | Fujitsu Ten Ltd | 画像認識装置、画像認識方法、歩行者認識装置および車両制御装置 |
WO2008130219A1 (en) * | 2007-04-19 | 2008-10-30 | Tele Atlas B.V. | Method of and apparatus for producing road information |
JP5151472B2 (ja) * | 2007-12-27 | 2013-02-27 | 株式会社豊田中央研究所 | 距離画像生成装置、環境認識装置、及びプログラム |
JP2009223817A (ja) * | 2008-03-18 | 2009-10-01 | Zenrin Co Ltd | 路面標示地図生成方法 |
EP3287940A1 (en) | 2016-08-23 | 2018-02-28 | Continental Automotive GmbH | Intersection detection system for a vehicle |
-
2018
- 2018-03-01 WO PCT/JP2018/007862 patent/WO2019167238A1/ja active Application Filing
- 2018-03-01 JP JP2018532181A patent/JP6466038B1/ja active Active
- 2018-03-01 DE DE112018006996.6T patent/DE112018006996B4/de active Active
- 2018-03-01 US US16/976,302 patent/US20210042536A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
DE112018006996B4 (de) | 2022-11-03 |
WO2019167238A1 (ja) | 2019-09-06 |
DE112018006996T5 (de) | 2020-10-15 |
JP6466038B1 (ja) | 2019-02-06 |
US20210042536A1 (en) | 2021-02-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6395759B2 (ja) | レーン検出 | |
JP6466038B1 (ja) | 画像処理装置および画像処理方法 | |
WO2018219054A1 (zh) | 一种车牌识别方法、装置及*** | |
JP6230751B1 (ja) | 物体検出装置および物体検出方法 | |
CN108229475B (zh) | 车辆跟踪方法、***、计算机设备及可读存储介质 | |
CN111191611B (zh) | 基于深度学习的交通标志标号识别方法 | |
US11164012B2 (en) | Advanced driver assistance system and method | |
US9508000B2 (en) | Object recognition apparatus | |
US20150178573A1 (en) | Ground plane detection | |
WO2020087322A1 (zh) | 车道线识别方法和装置、车辆 | |
WO2019085929A1 (zh) | 图像处理方法及其装置、安全驾驶方法 | |
US8681221B2 (en) | Vehicular image processing device and vehicular image processing program | |
CN111191482B (zh) | 一种刹车灯识别方法、装置及电子设备 | |
CN107992788B (zh) | 识别交通灯的方法、装置及车辆 | |
CN110832851B (zh) | 图像处理装置、图像变换方法 | |
CN107992789B (zh) | 识别交通灯的方法、装置及车辆 | |
WO2022056875A1 (zh) | 一种铭牌图像的分割方法、装置和计算机可读存储介质 | |
JP6492603B2 (ja) | 画像処理装置、システム、画像処理方法、およびプログラム | |
CN114037977A (zh) | 道路灭点的检测方法、装置、设备及存储介质 | |
JP6688091B2 (ja) | 車両距離導出装置および車両距離導出方法 | |
US20240202887A1 (en) | Method for detecting vehicle deviation, electronic device, and storage medium | |
KR102590863B1 (ko) | 차량의 조향각 계산 방법 및 장치 | |
JP7142131B1 (ja) | 車線検出装置、車線検出方法および車線検出プログラム | |
KR102681321B1 (ko) | 듀얼 카메라를 이용하여 거리를 계산하는 고속도로 주행지원 시스템의 성능 평가 장치와 그 방법 | |
US20240203133A1 (en) | Lane line recognition method, electronic device and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180618 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180618 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20180618 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20180725 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180807 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180927 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181211 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190108 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6466038 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |