JP4572826B2 - Road marking line detection device - Google Patents

Road marking line detection device Download PDF

Info

Publication number
JP4572826B2
JP4572826B2 JP2005352517A JP2005352517A JP4572826B2 JP 4572826 B2 JP4572826 B2 JP 4572826B2 JP 2005352517 A JP2005352517 A JP 2005352517A JP 2005352517 A JP2005352517 A JP 2005352517A JP 4572826 B2 JP4572826 B2 JP 4572826B2
Authority
JP
Japan
Prior art keywords
line
feature point
road
edge
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005352517A
Other languages
Japanese (ja)
Other versions
JP2007156919A5 (en
JP2007156919A (en
Inventor
伸 小池
誠 西田
友康 玉置
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2005352517A priority Critical patent/JP4572826B2/en
Publication of JP2007156919A publication Critical patent/JP2007156919A/en
Publication of JP2007156919A5 publication Critical patent/JP2007156919A5/ja
Application granted granted Critical
Publication of JP4572826B2 publication Critical patent/JP4572826B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、道路区画線検出装置に係り、特に、車両に搭載され、車両周辺の路面を撮像する撮像手段により撮像された撮像画像に基づいて、路面上に描かれ又は設置される複数種類の道路区画線を検出することが可能な道路区画線検出装置に関する。   The present invention relates to a road marking line detection device, and more particularly, a plurality of types of images drawn or installed on a road surface based on captured images that are mounted on a vehicle and captured by an imaging unit that images a road surface around the vehicle. The present invention relates to a road marking line detection device capable of detecting a road marking line.

従来から、路面上に描かれた車両の走行する車線を区切る白線などの道路区画線を検出する装置が知られている(例えば、特許文献1参照)。この装置は、自車両に搭載された車両前方領域を撮影するCCDカメラを備えており、そのCCDカメラにより撮像された撮像画像を処理することにより道路区画線を検出する。具体的には、白線などの道路区画線が含まれる撮像画像から道路区画線と道路との輝度変化が所定値以上に大きい部分をエッジ点として抽出し、それら複数のエッジ点についてハフ変換を施して直線近似線を求め、道路区画線の形状を検出する。   2. Description of the Related Art Conventionally, an apparatus that detects road marking lines such as white lines that divide a lane in which a vehicle drawn on a road runs is known (for example, see Patent Document 1). This apparatus includes a CCD camera that captures a vehicle front area mounted on the host vehicle, and detects a road marking line by processing a captured image captured by the CCD camera. Specifically, a portion where the luminance change between the road lane marking and the road is larger than a predetermined value is extracted as an edge point from the captured image including the road lane marking such as a white line, and Hough transformation is performed on the plurality of edge points. Thus, a straight line approximation line is obtained, and the shape of the road marking line is detected.

ところで、車線を区切る道路区画線を構成する物標としては、道路上に進行方向に向かって隙間なく実線状に描かれ或いは隙間を空けて破線状に描かれる白線などの他に、道路上に進行方向に向かって所定間隔をあけて間欠的に描かれ或いは配置されて互いに隣り合うもの同士を結ぶことにより仮想的に線状となる点列状のボッツドッツ(直径10cm程度の点)やキャッツアイ(反射板)などが存在する。   By the way, as a target constituting the road lane marking that divides the lane, in addition to the white line drawn on the road in a solid line shape with no gap in the traveling direction or drawn in a broken line shape with a gap, on the road A dot-bottom bots dot (a point having a diameter of about 10 cm) or a cat's eye that is drawn or arranged intermittently at predetermined intervals in the direction of travel and is connected to each other and is virtually linear. (Reflector) etc. exist.

上記した実線状や破線状の道路区画線は、カメラ撮像画像内に少なくとも連続して隙間なく映し出される部分が存在する線である。この点、上記した特許文献1記載の装置によれば、抽出したエッジ点にノイズによるものが含まれていても、その線状の道路区画線を表したエッジ点は線状に並ぶこととなるので、検出エッジ点に基づいて道路区画線を正確に検出することは容易となる。一方、上記した間欠的な点列状の物標の大きさは線状の道路区画線を構成する物標の大きさに比して小さいので、間欠的な物標に対して、線状の道路区画線を構成する物標と同様の手法によりエッジ点抽出を施すものとすると、ノイズによる影響を受け易くなり、その結果、道路区画線を正確に検出することが困難となることがある。   The above-mentioned solid line-like or broken line-like road dividing line is a line in which there is a portion that is projected at least continuously without a gap in the camera-captured image. In this regard, according to the apparatus described in Patent Document 1 described above, even if the extracted edge point includes noise, the edge point representing the linear road demarcation line is arranged in a line. Therefore, it is easy to accurately detect the road marking line based on the detected edge point. On the other hand, since the size of the above-mentioned intermittent point-sequence target is smaller than the size of the target constituting the linear road lane marking, If edge points are extracted by a method similar to that for a target constituting a road lane marking, it is likely to be affected by noise, and as a result, it may be difficult to accurately detect the road lane marking.

そこで、線状の道路区画線に対してエッジ点を抽出する手法と、間欠的な点列状の道路区画線に対してエッジ点を抽出する手法と、を互いに異ならせることが考えられる(例えば、特許文献2参照)。
特許第3400643号公報 特開2003−228711号公報
Therefore, it is conceivable that the method for extracting edge points for linear road lane markings and the method for extracting edge points for intermittent point lane markings are different from each other (for example, , See Patent Document 2).
Japanese Patent No. 3400643 JP 2003-228711 A

しかしながら、上記した特許文献2には、線状の道路区画線に対してエッジ点を抽出する手法と、点列状の道路区画線に対してエッジ点を抽出する手法と、を切り替える条件は何ら記載されていない。従って、路面上に描かれ或いは設置された道路区画線について線状のものと点列状のものとが混在する道路においては、カメラ撮像画像から複数種類の道路区画線をそれぞれ検出するのに、その道路区画線検出が適切に行われないおそれがある。   However, in Patent Document 2 described above, there is no condition for switching between a method for extracting edge points for a linear road lane marking and a method for extracting edge points for a point-like road lane marking. Not listed. Therefore, on roads in which linear and dotted lines of road lane markings drawn or installed on the road surface are mixed, to detect each of a plurality of types of road lane markings from a camera captured image, The road lane marking may not be detected properly.

本発明は、上述の点に鑑みてなされたものであり、路面上の複数種類の道路区画線をできるだけ正確に検出できる道路区画線検出装置を提供することを目的とする。   The present invention has been made in view of the above-described points, and an object of the present invention is to provide a road marking line detection device that can detect a plurality of types of road marking lines on a road surface as accurately as possible.

上記の目的は、車両周辺の路面を撮像する撮像手段と、前記撮像手段により撮像された撮像画像から、路面上の道路区画線を表す特徴点を抽出する特徴点抽出手段と、を備え、前記特徴点抽出手段により抽出された前記特徴点に基づいて、路面上の複数種類の道路区画線を検出可能な道路区画線検出装置であって、前記特徴点抽出手段が、前記撮像手段により撮像された撮像画像から前記特徴点を抽出するうえで、主に路面上に点列状に描かれ又は設置された道路区画線を表す特徴点を抽出するのに適した第1の特徴点抽出手段と、前記撮像手段により撮像された撮像画像から前記特徴点を抽出するうえで、主に路面上に線状に描かれ又は設置された道路区画線を表す特徴点を抽出するのに適した、前記第1の特徴点抽出手段とは異なる第2の特徴点抽出手段と、を有すると共に、前記第1の特徴点抽出手段及び前記第2の特徴点抽出手段により抽出された前記特徴点からのエッジ線の生成が成功するか否かを判別するエッジ線生成可否判別手段と、前記エッジ線生成可否判別手段によりエッジ線の生成が成功すると判別された場合に、該生成されたすべてのエッジ線に対して、前記第1の特徴点抽出手段及び前記第2の特徴点抽出手段により抽出された前記特徴点による投票を行う投票手段と、前記投票手段により投票された結果として所定しきい値以上の得票数を獲得したエッジ線を道路区画線の候補線として設定する候補線設定手段と、前記候補線設定手段により設定された道路区画線の候補線のうちから所定条件に合致するものを道路区画線として検出する検出手段と、道路区画線の検出に用いる前記特徴点の抽出が前記第1の特徴点抽出手段により行われている状況において、前記エッジ線生成可否判別手段により該第1の特徴点抽出手段により抽出された前記特徴点からのエッジ線の生成が成功すると判別され、かつ、該生成されたエッジ線に基づいて前記検出手段により前記所定条件に合致する道路区画線の候補線が道路区画線として検出された場合、該道路区画線として検出された候補線であるエッジ線が前記投票手段による投票の結果として獲得していた得票数が、前記所定しきい値よりも大きな所定数以上であるか否かを判別する得票数判別手段と、前記得票数判別手段により肯定判定がなされる場合に、道路区画線の検出に用いる前記特徴点の抽出を、前記第1の特徴点抽出手段によるものから前記第2の特徴点抽出手段によるものへ切り替える第1の切替手段と、を備える道路区画線検出装置により達成される。 The above object includes: an imaging unit that images a road surface around a vehicle; and a feature point extraction unit that extracts a feature point representing a road marking line on a road surface from a captured image captured by the imaging unit, A road marking line detection device capable of detecting a plurality of types of road marking lines on a road surface based on the feature points extracted by the feature point extraction means, wherein the feature point extraction means is imaged by the imaging means. First feature point extraction means suitable for extracting feature points representing road lane markings drawn or installed mainly on a road surface when extracting the feature points from the captured image In extracting the feature points from the picked-up image picked up by the image pickup means, it is suitable for extracting feature points representing road lane markings mainly drawn or installed in a line on the road surface, Second different from the first feature point extraction means And having a characteristic point extracting means, the edge that determines whether generation of edge line from the feature points extracted by the first feature point extraction means and the second feature point extraction means is successful When it is determined that the generation of the edge line is successful by the line generation availability determination unit and the edge line generation availability determination unit, for all the generated edge lines, the first feature point extraction unit and the Voting means for voting based on the feature points extracted by the second feature point extracting means, and edge lines that have obtained a vote count equal to or greater than a predetermined threshold as a result of voting by the voting means as road lane line candidates a candidate line setting means for setting as a line, a detection means for detecting that satisfies a predetermined condition from among the candidate stripes of the road lane lines set by the candidate line setting means as a road lane lines, road In situations where the extraction of the feature points used for the detection of a lane mark is being performed by said first feature point extraction unit, the features extracted by the first feature point extraction means by the edge line generating permission determining means When it is determined that the generation of the edge line from the point is successful, and the candidate line of the road lane line that matches the predetermined condition is detected as the road lane line by the detection unit based on the generated edge line, It is determined whether or not the number of votes obtained as a result of voting by the voting means on the edge line that is a candidate line detected as the road marking line is equal to or greater than a predetermined number greater than the predetermined threshold value. When the affirmative determination is made by the vote number discriminating means and the vote number discriminating means , the extraction of the feature points used for the detection of road lane markings is performed by the first feature point extracting means from the above A first switching means for switching to one of the second feature point extraction means is accomplished by road segment ray detection device comprising a.

この態様の発明においては、道路区画線の検出に用いる特徴点の抽出が、点列状の道路区画線を表す特徴点を抽出するのに適した第1の特徴点抽出手段を用いて行われている状況において、その抽出された特徴点に基づいて実際に検出された道路区画線を構成した特徴点に関するパラメータが、線状の道路区画線であることを示す所定の要件を満たした場合に、以後の道路区画線の検出に用いる特徴点の抽出が、線状の道路区画線を表す特徴点を抽出するのに適した第2の特徴点抽出手段を用いたものへ切り替わる。かかる構成によれば、路面上に線状及び点列状などの複数種類の道路区画線が混在してその道路区画線が点列状のものから線状のものへ移行する状況においても、それら複数種類の道路区画線をそれぞれできるだけ正確に検出することが可能となる。

In the invention of this aspect, the feature points used for detecting the road lane markings are extracted using the first feature point extracting means suitable for extracting the feature points representing the point-like road lane markings. When the parameters related to the feature points constituting the road lane markings actually detected based on the extracted feature points satisfy the predetermined requirements indicating that they are linear road lane markings Then, the extraction of the feature points used for the detection of the road lane markings is switched to that using the second feature point extracting means suitable for extracting the feature points representing the linear road lane markings. According to such a configuration, even in a situation where a plurality of types of road lane markings such as lines and dot trains are mixed on the road surface, and the road lane markings shift from a dot train to a linear one, A plurality of types of road lane markings can be detected as accurately as possible.

尚、上記した道路区画線検出装置において、前記第1の切替手段は、前記得票数判別手段により肯定判定がなされる状態が第1所定時間継続した或いは第1所定フレーム数連続した場合に、道路区画線の検出に用いる前記特徴点の抽出を、前記第1の特徴点抽出手段によるものから前記第2の特徴点抽出手段によるものへ切り替えることとしてもよい。 In the road lane marking detection device described above, the first switching unit may be configured to switch the road when the affirmative determination by the vote number determination unit continues for the first predetermined time period or the first predetermined frame number continues. The extraction of the feature points used for the detection of the lane markings may be switched from that by the first feature point extraction unit to that by the second feature point extraction unit.

また、上記した道路区画線検出装置において、道路区画線の検出に用いる前記特徴点の抽出が前記第2の特徴点抽出手段により行われている状況において、該抽出された前記特徴点に基づく前記検出手段による道路区画線の検出が成功するか否かを判別する検出可否判別手段と、前記検出可否判別手段により否定判定がなされる場合に、道路区画線の検出に用いる前記特徴点の抽出を、前記第2の特徴点抽出手段によるものから前記第1の特徴点抽出手段によるものへ切り替える第2の切替手段と、を備えることとすれば、道路区画線が線状のものから点列状のものへ移行する状況においても、それら複数種類の道路区画線をそれぞれできるだけ正確に検出することが可能となる。
また、上記した道路区画線検出装置において、前記第2の切替手段は、前記検出可否判別手段により否定判定がなされる状態が第2所定時間継続した或いは第2所定フレーム数連続した場合に、道路区画線の検出に用いる前記特徴点の抽出を、前記第2の特徴点抽出手段によるものから前記第1の特徴点抽出手段によるものへ切り替えることとしてもよい。
また、上記した道路区画線検出装置において、前記投票手段による投票は、一特徴点が一エッジ線に対して行う投票の数が、特徴点がエッジ線に近い位置にあるほど高くなり、特徴点がエッジ線から離れた位置にあるほど低くなるように行われることとしてもよい。
Further, in the above road marking line detection device, in the situation where the extraction of the feature points used for detection of road marking lines is performed by the second feature point extraction means, the feature points based on the extracted feature points Detection capability determining means for determining whether or not the detection of road lane markings by the detection means is successful , and extraction of the feature points used for detection of road lane markings when a negative determination is made by the detection capability determination means the second switching means for switching to by the first feature point extraction means from those of the second feature point extraction unit, if it comprises a point rows from those road segment line is linear Even in the situation of shifting to a vehicle, it is possible to detect the plurality of types of road lane markings as accurately as possible.
Further, in the road marking line detection device described above, the second switching unit is configured to perform a road operation when the negative determination by the detection possibility determination unit continues for a second predetermined time or the second predetermined number of frames. The extraction of the feature points used for detection of the lane markings may be switched from that by the second feature point extraction unit to that by the first feature point extraction unit.
In the road marking line detection device described above, the number of votes that one feature point performs for one edge line increases as the feature point is closer to the edge line. It is good also as performing so that it may become so low that it exists in the position far from an edge line.

尚、上記した道路区画線検出装置において、前記第1の特徴点抽出手段は、前記撮像手段により撮像された撮像画像から、輝度をモルフォロジ演算して得られた輝度演算値が所定範囲にある部分を前記特徴点として抽出することとしてもよく、また、前記第2の特徴点抽出手段は、前記撮像手段により撮像された撮像画像から、輝度を微分演算して得られた輝度微分値が所定値以上である部分を前記特徴点として抽出することとしてもよい。   In the road marking line detection device described above, the first feature point extraction unit includes a portion in which a luminance calculation value obtained by performing a morphological calculation on luminance from a captured image captured by the imaging unit is within a predetermined range. May be extracted as the feature point, and the second feature point extracting unit may obtain a predetermined value of the luminance differential value obtained by differentiating the luminance from the captured image captured by the imaging unit. It is good also as extracting the part which is the above as the said feature point.

本発明によれば、路面上に線状及び点列状などの複数種類の道路区画線が混在する状況においても、それら複数種類の道路区画線をそれぞれできるだけ正確に検出することができる。   According to the present invention, even in a situation where a plurality of types of road lane markings such as lines and dot trains are mixed on the road surface, the plurality of types of road lane markings can be detected as accurately as possible.

図1は、本発明の一実施例である車両に搭載される道路区画線検出装置10を備えるシステムの構成図を示す。本実施例の道路区画線検出装置10は、カメラ12及び画像処理部14を備えている。カメラ12は、車体前部のバンパやグリルに或いは車室内前部のアウタービューミラーのステイに配設されている。カメラ12は、車両前方の進行方向に向いた光軸を有し、車両前方領域を撮影する例えばCCDカメラである。   FIG. 1 shows a configuration diagram of a system including a road marking line detection device 10 mounted on a vehicle according to an embodiment of the present invention. The road lane marking detection apparatus 10 according to the present embodiment includes a camera 12 and an image processing unit 14. The camera 12 is disposed on a bumper and a grill at the front part of the vehicle body, or at a stay of an outer view mirror in the front part of the vehicle interior. The camera 12 is, for example, a CCD camera that has an optical axis directed in the traveling direction in front of the vehicle and photographs a vehicle front area.

カメラ12には、画像処理部14が接続されている。カメラ12が撮影した結果得られた撮像画像は、映像信号として画像処理部14に供給される。画像処理部14は、後に詳述する如く、カメラ12から送られてくる映像信号に基づいて、道路上に描かれ或いは配置されている車両の走行する車線の両側を区切る実線状や破線状の白線や点列状などの物標(ボッツドッツ,キャッツアイなど)を検出し、その物標により構成される道路区画線を検出・推定する。そして、道路区画線検出装置10は、その画像処理部14において検出・推定した道路区画線に対する自車両の横位置を算出する。   An image processing unit 14 is connected to the camera 12. A captured image obtained as a result of photographing by the camera 12 is supplied to the image processing unit 14 as a video signal. As will be described in detail later, the image processing unit 14 has a solid line shape or a broken line shape that separates both sides of the lane in which the vehicle drawn or arranged on the road travels based on the video signal sent from the camera 12. It detects targets (bottsdots, cat's eyes, etc.) such as white lines and dot sequences, and detects and estimates road marking lines composed of these targets. Then, the road marking line detection device 10 calculates the lateral position of the own vehicle with respect to the road marking line detected and estimated by the image processing unit 14.

本実施例のシステムは、上記した道路区画線検出装置10に接続する自動操舵制御装置16を備えている。自動操舵制御装置16は、電子制御ユニット(以下、操舵ECUと称す)18を備えている。操舵ECU18には、操舵モータ20及び車速センサ22が接続されている。操舵モータ20は、操舵ECU18から供給される指令信号に従って車両を操舵させるためのトルクを発生する。車速センサ22は、車両の速度に応じた信号を出力する。操舵ECU18は、車速センサ22の出力信号に基づいて車速を検出する。また、操舵ECU18には、道路区画線検出装置10の算出した自車両の横位置情報が供給される。操舵ECU18は、自車両の横位置から例えば自車両が道路区画線から逸脱しそうになったときに、逸脱回避のための車速に応じた車両の自動操舵を実現すべく操舵モータ20に対して指令信号を供給する(逸脱回避制御)。   The system of the present embodiment includes an automatic steering control device 16 connected to the road marking line detection device 10 described above. The automatic steering control device 16 includes an electronic control unit (hereinafter referred to as a steering ECU) 18. A steering motor 20 and a vehicle speed sensor 22 are connected to the steering ECU 18. The steering motor 20 generates torque for steering the vehicle in accordance with a command signal supplied from the steering ECU 18. The vehicle speed sensor 22 outputs a signal corresponding to the speed of the vehicle. The steering ECU 18 detects the vehicle speed based on the output signal of the vehicle speed sensor 22. Further, the lateral position information of the host vehicle calculated by the road marking line detection device 10 is supplied to the steering ECU 18. The steering ECU 18 instructs the steering motor 20 to realize automatic steering of the vehicle according to the vehicle speed for avoiding the departure when the own vehicle is about to depart from the road marking line from the lateral position of the own vehicle. A signal is supplied (deviation avoidance control).

以下、本実施例の道路区画線検出装置10の具体的な動作について説明する。   Hereinafter, a specific operation of the road marking line detection apparatus 10 of the present embodiment will be described.

図2は、車両の走行する車線を区切る道路区画線の種類を表した図を示す。尚、図2には、道路区画線を構成する物標として、(A)白線が用いられている道路、及び、(B)ボッツドッツ(Botts Dots)が用いられている道路を、車両に搭載されたカメラ12を用いて撮影した際の撮像画像がそれぞれ示されている。   FIG. 2 is a diagram showing the types of road lane markings that divide the lane in which the vehicle travels. In FIG. 2, (A) a road where a white line is used and (B) a road where Botts Dots are used are mounted on a vehicle as targets constituting a road marking line. The captured images when captured using the camera 12 are shown.

車両の走行する路面上に描かれ或いは設置される道路区画線としては、一般的に日本や北米など世界中で使用されている、図2(A)に示す如く進行方向へ向けて隙間のない実線状に延びた白線や黄線のみで構成される道路区画線や、進行方向へ向けて隙間の空いた破線状の白線等のみで構成される道路区画線がある(何れも幅20cm程度)。また、主に北米などで使用されている、図2(B)に示す如きボッツドッツで構成される道路区画線がある。このボッツドッツは、直径10cm程度の円盤状のセラミックスなどで構成された部材であり、道路に所定間隔(例えば1メートル)をあけて埋め込まれている。更に、日本ではカーブ路で北米では直線路でも使用されている、キャッツアイ(Cats Eye)で構成される道路区画線がある。このキャッツアイは、入射光を反射させる反射体で構成された部材であり、道路に所定間隔(例えば1メートル)をあけて埋め込まれている。   As road marking lines drawn or installed on the road surface on which the vehicle travels, there are no gaps in the direction of travel as shown in FIG. There are road lane markings that consist only of white lines and yellow lines that extend in a solid line, and road lane markings that consist only of dashed white lines with gaps in the direction of travel (both are about 20 cm wide). . In addition, there is a road lane marking composed of botsdots as shown in FIG. 2B, which is mainly used in North America and the like. The botsdots are members made of disk-shaped ceramics having a diameter of about 10 cm, and are embedded in the road with a predetermined interval (for example, 1 meter). In addition, there is a road lane marking consisting of Cats Eye, which is also used for curved roads in Japan and straight roads in North America. The cat's eye is a member made of a reflector that reflects incident light, and is embedded in the road with a predetermined interval (for example, 1 meter).

道路は一般にアスファルトで舗装されていることが多いので、取得した撮像画像には道路路面が輝度(明るさ)の低い黒色で映し出される。一方、白線やボッツドッツなどの道路区画線は、比較的高い輝度で描かれ或いは設置されるので、取得した撮像画像には道路区画線が輝度の高い色(白色や黄色)で映し出される。従って、道路と道路区画線を構成する物標との輝度の違いを利用してカメラ撮像画像から線状や点列状の物標を抽出することが可能である。   Since roads are generally paved with asphalt, the road surface of the road is displayed in black with low luminance (brightness) in the acquired captured image. On the other hand, road lane markings such as white lines and botsdots are drawn or installed with a relatively high luminance, so that the road lane markings are displayed in a high luminance color (white or yellow) in the acquired captured image. Therefore, it is possible to extract a line-shaped or point-sequence-shaped target from a camera-captured image using the difference in luminance between the road and the target constituting the road lane marking.

図3は、本実施例の道路区画線検出装置10の有する画像処理部14の要部構成図を示す。本実施例の道路区画線検出装置10において、画像処理部14は、定期的にカメラ12の撮像した撮像画像を取得する。そして、撮像画像を1フレーム取得するごとに、まず、その1フレームの撮像画像全体を所定間隔で左右方向に走査することにより、画素ごとの輝度値を測定した画像データを生成する。   FIG. 3 is a block diagram of the main part of the image processing unit 14 included in the road marking line detection device 10 according to the present embodiment. In the road marking line detection apparatus 10 of the present embodiment, the image processing unit 14 periodically acquires a captured image captured by the camera 12. Then, every time one frame of the captured image is acquired, first, the entire captured image of the one frame is scanned in the left-right direction at a predetermined interval, thereby generating image data in which the luminance value for each pixel is measured.

画像処理部14は、図3に示す如く、カメラ12からの入力画像データが入力される、主に実線状や破線状の道路区画線を表す特徴点を抽出するのに適したライン検出フィルタ30と、主にボッツドッツなどの点列状の道路区画線を表す特徴点を抽出するのに適した点列検出フィルタ32と、を有している。尚、これらのフィルタ30,32によるエッジ点の抽出は、撮像画像全体のうち道路区画線を構成する物標が存在する可能性が高い領域のみについて行うこととすれば、処理時間を短縮するうえで好適であるが、撮像画像全体についてそのエッジ点抽出を行った後に、道路区画線を構成する物標が存在する可能性が高い領域のみをフィルタ処理することとしても、同様の効果を得ることができる。   As shown in FIG. 3, the image processing unit 14 is a line detection filter 30 that is suitable for extracting feature points that mainly represent a solid line or a broken-line road partition line to which input image data from the camera 12 is input. And a point sequence detection filter 32 suitable for extracting feature points that mainly represent a point sequence road demarcation line such as botsdots. In addition, if the extraction of the edge points by these filters 30 and 32 is performed only in the region where there is a high possibility that the target constituting the road marking line exists in the entire captured image, the processing time is shortened. However, after extracting the edge points of the entire captured image, it is possible to obtain the same effect by filtering only the area where there is a high possibility that the target constituting the road marking line exists. Can do.

ライン検出フィルタ30は、入力画像データの画素ごとの輝度について微分演算を施すことにより、カメラ撮像画像から輝度変化(コントラスト)が所定閾値を超えて大きい画素部分のみを通過させるフィルタである。画像処理部14は、取得した1フレームの撮像画像から、ライン検出フィルタ30を用いて、画像左側から右側へ向けて輝度が所定閾値を超えて高く変化する画素部分を上がりエッジ点として抽出し、また、画像左側から右側へ向けて輝度が所定閾値を超えて低く変化する画素部分を下がりエッジ点として抽出する。   The line detection filter 30 is a filter that passes only a pixel portion in which the luminance change (contrast) exceeds a predetermined threshold and is large from the camera-captured image by performing a differentiation operation on the luminance of each pixel of the input image data. The image processing unit 14 uses the line detection filter 30 to extract, from the acquired image of one frame as a rising edge point, a pixel portion whose luminance changes to a high level from the left side of the image to the right side. Also, a pixel portion whose luminance changes low from the left side to the right side of the image is extracted as a falling edge point.

また、点列検出フィルタ32は、入力画像データの輝度についてモルフォロジ演算を施すことにより、輝度が所定値を超えて高い部分のうち、ボッツドッツやキャッツアイなどの点列状の道路区画線を構成する一物標と同程度の大きさ(横幅)を有するものを構成する画素部分のみを通過させるフィルタである。画像処理部14は、取得した1フレームの撮像画像から、点列検出フィルタ32を用いて、点列状の道路区画線を構成する一物標と同程度の大きさを有する物標を構成する輝度が所定値を超えて高い画素部分すべてを特徴点であるエッジ点として抽出する。   Further, the point sequence detection filter 32 performs a morphological operation on the luminance of the input image data, thereby configuring a point sequence road lane marking such as botsdots or cat's eye in a portion where the luminance exceeds a predetermined value. It is a filter that passes only the pixel portion that constitutes the same size (horizontal width) as a single target. The image processing unit 14 configures a target having the same size as one target configuring a point-string-like road marking line from the acquired captured image of one frame using the point-sequence detection filter 32. All pixel portions whose luminance exceeds a predetermined value and is high are extracted as edge points that are feature points.

画像処理部14は、また、カメラ12からの入力画像データが入力されるフィルタを上記のライン検出フィルタ30と上記の点列検出フィルタ32とで切り替えるための切替スイッチ34を有している。切替スイッチ34は、後に詳述する如く、所定の切替条件に従って、ライン検出フィルタ30及び点列検出フィルタ32の何れか一方が選択的に入力画像データのフィルタ処理を行うように制御される。ライン検出フィルタ30及び点列検出フィルタ32はそれぞれ、切替スイッチ34の切替状態に応じて選択的に、1フレームの撮像画像からエッジ点を抽出してそのエッジ点情報を出力する。   The image processing unit 14 also includes a changeover switch 34 for switching a filter to which input image data from the camera 12 is input between the line detection filter 30 and the point sequence detection filter 32. As will be described later in detail, the changeover switch 34 is controlled so that either one of the line detection filter 30 and the point sequence detection filter 32 selectively filters the input image data in accordance with a predetermined changeover condition. Each of the line detection filter 30 and the point sequence detection filter 32 selectively extracts an edge point from a captured image of one frame according to the switching state of the changeover switch 34 and outputs the edge point information.

画像処理部14は、ライン検出フィルタ30又は点列フィルタ32からのエッジ点についてハフ変換を施し、線状のエッジ線の生成を試みる。道路区画線を構成する物標が実線状や破線状の白線などであるときは、抽出されるエッジ点が1フレーム内にほとんど隙間なく現れる部分が存在するので、その1フレームの撮像画像からその道路区画線に沿ったエッジ線を生成することは比較的容易である。また、道路区画線を構成する物標がボッツドッツなどであるときは、抽出されるエッジ点が1フレーム内に仮想的に線を示す点列となって現れるので、その1フレームの撮像画像からその道路区画線に沿ったエッジ線を生成することは可能である。   The image processing unit 14 performs Hough transform on the edge points from the line detection filter 30 or the point sequence filter 32 and tries to generate a linear edge line. When the target constituting the road marking line is a solid line or a white line with a broken line, there is a portion where the extracted edge points appear almost without gaps in one frame. It is relatively easy to generate edge lines along the road marking lines. In addition, when the target constituting the road demarcation line is botsdots or the like, the extracted edge points appear as a point sequence that virtually shows a line within one frame. It is possible to generate edge lines along road marking lines.

画像処理部14は、上記処理の結果、エッジ線の生成に成功したときは、生成されたすべてのエッジ線に対して抽出エッジ点による投票を行い、各エッジ線の得票数をそれぞれ算出する。尚、エッジ線に対して投票を行うエッジ点は、そのエッジ線の位置から隣接する画素までの間に存在するエッジ点であって、また、一エッジ点が一エッジ線に対して行う投票の数は、エッジ点がエッジ線に近い位置にあるほど高くなり、エッジ線から離れた位置にあるほど低くなることとする。この場合、エッジ線の得票数は、そのエッジ線に近接するエッジ点の数が多いほど多くなり、また、そのエッジ線に対してエッジ点が近いほど多くなる。   As a result of the above processing, when the generation of the edge line is successful, the image processing unit 14 performs voting based on the extracted edge points on all the generated edge lines, and calculates the number of votes for each edge line. Note that an edge point for voting on an edge line is an edge point existing between the position of the edge line and an adjacent pixel, and a voting point that one edge point performs for one edge line. The number is higher as the edge point is closer to the edge line, and lower as the edge point is farther from the edge line. In this case, the number of votes obtained for an edge line increases as the number of edge points close to the edge line increases, and increases as the edge point is closer to the edge line.

道路路面上に描かれ或いは設置された真の道路区画線は画像処理部14によりカメラ撮像画像から多数のエッジ点の集まりとして抽出される筈であるので、抽出エッジ点に基づいて生成されたエッジ線が道路路面上に描かれ或いは設置された真の道路区画線を表すものであれば、そのエッジ線の得票数は多くなる傾向にある。   Since the true road lane marking drawn or installed on the road surface should be extracted as a collection of a large number of edge points from the camera captured image by the image processing unit 14, the edge generated based on the extracted edge points If the line represents a true road division line drawn or installed on the road surface, the number of votes for the edge line tends to increase.

画像処理部14は、生成したすべてのエッジ線について得票数を算出した後、所定しきい値以上の得票数を獲得したエッジ線を道路区画線の候補線として定める。そして、その候補線のうちに、例えば車線両側左右にある道路区画線同士の間隔程度の距離だけ離れた位置を中心にした所定範囲内に対となる候補線が存在することや前回検出・推定された道路区画線の前回撮像画像上での位置からその位置を中心にして所定範囲内にあることなどの、道路区画線としての所定条件に合致するものが存在するか否かを判別し、肯定判定がなされた場合に、その所定条件に合致する候補線を車線両側の左右それぞれの境界に対応する道路区画線として検出・推定する。   After calculating the number of votes for all the generated edge lines, the image processing unit 14 determines an edge line that has obtained a number of votes equal to or greater than a predetermined threshold value as a candidate line for a road lane line. Among the candidate lines, for example, there is a pair of candidate lines within a predetermined range centered at a position that is about a distance between the road marking lines on the left and right sides of the lane, and the previous detection / estimation Discriminating whether or not there is a road lane line that meets a predetermined condition, such as being within a predetermined range centered on that position from the position on the previous captured image of the road lane line, If an affirmative determination is made, candidate lines that meet the predetermined condition are detected and estimated as road lane markings corresponding to the left and right boundaries on both sides of the lane.

図4は、入力画像データが入力されるフィルタを設定すべく、本実施例の道路区画線検出装置10において画像処理部14が実行する制御ルーチンの一例のフローチャートを示す。図4に示すルーチンは、所定時間ごとに繰り返し実行されるルーチンである。図4に示すルーチンが起動されると、まずステップ100の処理が実行される。   FIG. 4 shows a flowchart of an example of a control routine executed by the image processing unit 14 in the road marking line detection apparatus 10 of the present embodiment in order to set a filter to which input image data is input. The routine shown in FIG. 4 is a routine that is repeatedly executed every predetermined time. When the routine shown in FIG. 4 is started, first, the process of step 100 is executed.

ステップ100では、現状においてカメラ12からの入力画像データが入力されて撮像画像からエッジ点を抽出するのに用いているフィルタが、ライン検出フィルタ30であるか点列検出フィルタ32であるかを判定する処理が実行される。その結果、ライン検出フィルタ30であると判定されるときは、次にステップ102の処理が実行され、一方、点列検出フィルタ32であるときは、次にステップ110の処理が実行される。   In step 100, it is determined whether the filter currently used to extract the edge points from the captured image when the input image data from the camera 12 is input is the line detection filter 30 or the point sequence detection filter 32. Is executed. As a result, when it is determined that the line detection filter 30 is used, the process of step 102 is executed next. On the other hand, when it is the point sequence detection filter 32, the process of step 110 is executed next.

ステップ102では、エッジ点抽出にライン検出フィルタ30を用いた結果として、抽出したエッジ点に基づいて所定条件に合致する候補線が存在することにより道路区画線の検出・推定が成功したか否かが判別される。その結果、道路区画線の検出・推定が成功したと判別された場合は、以後、フィルタ切替を行うことなく今回のルーチンは終了される。一方、道路区画線の検出・推定が、所定しきい値以上の得票数を獲得したエッジ線がない或いは所定条件に合致するエッジ線がないことなどに起因して成功しなかったと判別された場合は、次にステップ104の処理が実行される。   In step 102, as a result of using the line detection filter 30 for edge point extraction, whether or not a road lane line has been successfully detected / estimated due to the presence of a candidate line that matches a predetermined condition based on the extracted edge point. Is determined. As a result, when it is determined that the road lane marking has been detected and estimated successfully, the current routine is terminated without performing filter switching. On the other hand, when it is determined that the road lane line detection / estimation has not succeeded due to the absence of an edge line that has acquired a vote count equal to or greater than a predetermined threshold value or the absence of an edge line that meets a predetermined condition Next, the process of step 104 is executed.

ステップ104では、エッジ点抽出にライン検出フィルタ30を用いた結果として道路区画線の検出・推定が成功しない状態の継続時間T1が所定時間T10(少なくとも複数フレームの撮像画像が取得できる時間であり、例えば2秒など)以上であるか否かが判別される。その結果、T1≧T10が成立しないと判別された場合は、次にステップ106においてその継続時間T1をインクリメントする処理が実行される。一方、T1≧T10が成立すると判別された場合は、次にステップ108の処理が実行される。   In step 104, as a result of using the line detection filter 30 for edge point extraction, the duration T1 in a state where the detection / estimation of road lane markings is not successful is a predetermined time T10 (a time during which at least a plurality of frames of captured images can be acquired, It is determined whether or not it is 2 seconds or more. As a result, if it is determined that T1 ≧ T10 does not hold, then in step 106, a process of incrementing the duration T1 is executed. On the other hand, if it is determined that T1 ≧ T10 holds, the process of step 108 is performed next.

ステップ108では、切替スイッチ34の切替状態を変化させることにより、カメラ12からの入力画像データが入力されて撮像画像からエッジ点を抽出するのに用いるフィルタを、ライン検出フィルタ30から点列検出フィルタ32へ切り替えると共に、上記の継続時間T1をゼロにクリアする処理が実行される。本ステップ108の処理が実行されると、以後、カメラ12の撮像画像からエッジ点を抽出するのに点列検出フィルタ32が利用されることとなる。   In step 108, a filter used to extract edge points from the captured image when input image data from the camera 12 is input by changing the switching state of the changeover switch 34 is changed from the line detection filter 30 to the point sequence detection filter. At the same time, the process of clearing the above duration time T1 to zero is executed. After the processing of step 108 is executed, the point sequence detection filter 32 is used to extract edge points from the captured image of the camera 12 thereafter.

また、ステップ110では、エッジ点抽出に点列検出フィルタ32を用いた結果として、抽出したエッジ点に基づいて所定条件に合致する候補線が存在することにより道路区画線の検出・推定が成功したか否かが判別される。その結果、道路区画線の検出・推定が成功しなかったと判別された場合は、以後、フィルタ切替を行うことなく今回のルーチンは終了される。一方、道路区画線の検出・推定が成功したと判別された場合は、次にステップ112の処理が実行される。   Further, in step 110, as a result of using the point sequence detection filter 32 for edge point extraction, the detection / estimation of the road lane marking line succeeds because there exists a candidate line that matches a predetermined condition based on the extracted edge point. Is determined. As a result, if it is determined that the detection / estimation of the road lane marking has not been successful, the current routine is terminated without performing filter switching. On the other hand, if it is determined that the road lane marking has been successfully detected and estimated, the process of step 112 is executed next.

ステップ112では、上記ステップ110で道路区画線として検出・推定が成功したと判別されたエッジ線が獲得していた得票数Nが所定数N0以上であるか否かが判別される。尚、この所定数N0は、エッジ線を道路区画線の候補線として定める際に用いる上記の所定しきい値よりも大きな数であり、通常はボッツドッツなどの点列状の道路区画線では獲得することがなくかつ実線状や破線状の道路区画線では獲得する可能性の高い数に設定されている。その結果、N≧N0が成立しないと判別された場合は、以後もエッジ点抽出に用いるフィルタを点列検出フィルタ32に維持すべく、今回のルーチンは終了される。一方、N≧N0が成立すると判別された場合は、次にステップ114の処理が実行される。   In step 112, it is determined whether or not the number N of votes obtained by the edge line determined to have been successfully detected and estimated as a road lane line in step 110 is equal to or greater than a predetermined number N0. The predetermined number N0 is larger than the predetermined threshold value used when the edge line is determined as a candidate line for the road lane line, and is usually obtained for a point-string road lane line such as Botsdots. This is set to a number that is highly likely to be obtained for road lane lines with no solid lines or broken lines. As a result, if it is determined that N ≧ N0 does not hold, the current routine is terminated in order to maintain the filter used for edge point extraction in the point sequence detection filter 32 thereafter. On the other hand, if it is determined that N ≧ N0 is established, the process of step 114 is performed next.

ステップ114では、エッジ点抽出に点列検出フィルタ32を用いた結果として道路区画線の検出・推定が成功する一方で、N≧N0が成立する状態の継続時間T2が所定時間T20(少なくとも複数フレームの撮像画像が取得できる時間であり、例えば2秒など)以上であるか否かが判別される。その結果、T2≧T20が成立しないと判別された場合は、次にステップ116においてその継続時間T2をインクリメントする処理が実行される。一方、T2≧T20が成立すると判別された場合は、次にステップ118の処理が実行される。   In step 114, as a result of using the point sequence detection filter 32 for edge point extraction, the road lane marking is successfully detected and estimated, while the duration T2 in which N ≧ N0 is satisfied is a predetermined time T20 (at least a plurality of frames). It is determined whether or not the captured image can be acquired, for example, 2 seconds or more. As a result, if it is determined that T2 ≧ T20 is not established, next, in step 116, processing for incrementing the duration T2 is executed. On the other hand, if it is determined that T2 ≧ T20 is established, the process of step 118 is executed next.

ステップ118では、切替スイッチ34の切替状態を変化させることにより、カメラ12からの入力画像データが入力されて撮像画像からエッジ点を抽出するのに用いるフィルタを、点列検出フィルタ32からライン検出フィルタ30へ切り替えると共に、上記の継続時間T2をゼロにクリアする処理が実行される。本ステップ118の処理が実行されると、以後、カメラ12の撮像画像からエッジ点を抽出するのにライン検出フィルタ30が利用されることとなる。   In step 118, by changing the switching state of the changeover switch 34, the filter used to extract the edge point from the captured image when the input image data from the camera 12 is input is changed from the point sequence detection filter 32 to the line detection filter. At the same time as switching to 30, the process of clearing the above duration T2 to zero is executed. When the process of step 118 is executed, the line detection filter 30 is used to extract edge points from the captured image of the camera 12 thereafter.

上記図4に示すルーチンによれば、道路区画線検出に用いるエッジ点の抽出がライン検出フィルタ30を用いて行われている状況において、道路区画線が検出・推定されなくなった場合に、エッジ点抽出をライン検出フィルタ30から点列検出フィルタ32へ切り替え、一方、道路区画線検出に用いるエッジ点の抽出が点列検出フィルタ32を用いて行われている状況において、道路区画線として検出・推定されたエッジ線が獲得していた得票数Nが所定数N0以上である場合に、エッジ点抽出を点列検出フィルタ32からライン検出フィルタ30へ切り替えることができる。   According to the routine shown in FIG. 4 described above, when a road lane line is no longer detected / estimated in the situation where an edge point used for road lane line detection is extracted using the line detection filter 30, an edge point is detected. The extraction is switched from the line detection filter 30 to the point sequence detection filter 32. On the other hand, in the situation where the extraction of edge points used for road lane marking detection is performed using the point sequence detection filter 32, detection / estimation as a road lane marking is performed. Edge point extraction can be switched from the point sequence detection filter 32 to the line detection filter 30 when the number of votes N acquired by the edge line is equal to or greater than the predetermined number N0.

カメラ撮像画像からエッジ点を抽出する手法が線状の道路区画線を表すエッジ点を抽出するのに適したライン検出フィルタ30を用いたものであるときは、路面上に描かれ或いは設置された道路区画線について実線状のものや破線状のもの,ボッツドッツなどの点列状のものが混在する道路上の、道路区画線が線状のものから点列状のものへ変化するシーンにおいて、その前後を通じて撮像画像から抽出される上がりエッジ点及び下がりエッジ点の数が極端に減少することで、その後、1フレームの撮像画像からその点列に沿った所定しきい値以上の得票数を獲得するエッジ線を生成することが困難となり、点列状の道路区画線が検出・推定されなくなる事態が生じ得る。   When the method for extracting the edge point from the camera-captured image uses the line detection filter 30 suitable for extracting the edge point representing the linear road marking line, it is drawn or installed on the road surface In a scene where the road lane marking changes from a linear shape to a point-like shape on a road that has a solid line, a broken line, or a dotted line such as botsdots. The number of rising edge points and falling edge points extracted from the captured image through the front and back is extremely reduced, and thereafter, the number of votes equal to or greater than a predetermined threshold along the point sequence is obtained from the captured image of one frame. It may be difficult to generate an edge line, and a situation may occur in which a row of road lane markings is not detected or estimated.

これに対して、本実施例において、ライン検出フィルタ30を用いた道路区画線検出が成功しなくなった場合、上述の如く、以後、道路区画線検出に用いるエッジ点の抽出が点列状の道路区画線を表すエッジ点を抽出するのに適した点列検出フィルタ32を用いたものへ切り替わるため、点列状の道路区画線を表すエッジ点が適切に抽出されることとなり、所定しきい値以上の得票数を獲得するエッジ線を生成し難くなるのは回避される。従って、本実施例の道路区画線検出装置10によれば、路面上の道路区画線が線状のものから点列状のものへ移行する状況において、それら複数種類の道路区画線をそれぞれできるだけ正確に検出することが可能となっている。   On the other hand, in this embodiment, when the road lane marking detection using the line detection filter 30 is not successful, as described above, the extraction of the edge points used for the road lane marking detection is subsequently performed as a point-string road. Since switching to the one using the point sequence detection filter 32 suitable for extracting the edge points representing the lane markings, the edge points representing the point lane-like road lane markings are appropriately extracted, and the predetermined threshold value is obtained. It is avoided that it is difficult to generate an edge line that obtains the number of votes obtained. Therefore, according to the road lane marking detection device 10 of the present embodiment, in the situation where the road lane marking on the road surface changes from a linear one to a point sequence, these multiple types of road lane markings are respectively as accurate as possible. It is possible to detect.

また、カメラ撮像画像からエッジ点を抽出する手法が点列状の道路区画線を表すエッジ点を抽出するのに適した点列検出フィルタ32を用いたものであるときは、路面上に描かれ或いは設置された道路区画線について実線状のものや破線状のもの,ボッツドッツなどの点列状のものが混在する道路上の、道路区画線が点列状のものから線状のものへ変化するシーンにおいて、その前後を通じて撮像画像から道路区画線として検出・推定されるエッジ線の得票数が極端に上昇する事態は生じ得るが、線状の道路区画線及び点列状の道路区画線を共に正常に検出・推定することは可能である。しかし、モルフォロジ演算を施す点列検出フィルタ32は、微分演算を施すライン検出フィルタ30に比べて、演算量の多い演算負荷が高いフィルタであるため、点列検出フィルタ32を用いたエッジ点抽出では、そのエッジ点抽出のための処理時間が長くなるなどの不都合が生じ得る。   Further, when the method of extracting edge points from the camera-captured image uses a point sequence detection filter 32 suitable for extracting edge points representing a point sequence of road lane markings, it is drawn on the road surface. Or, the road marking line changes from a dot-string-shaped one to a linear one on a road that has a solid line, a broken-line one, or a point-string-like one such as botsdots. In the scene, there may occur a situation where the number of votes of edge lines detected / estimated as road lane markings from the captured image before and after the scene increases extremely, but both linear road lane markings and point-string road lane markings It is possible to detect and estimate normally. However, since the point sequence detection filter 32 that performs the morphological calculation is a filter that has a large calculation load compared to the line detection filter 30 that performs the differential calculation, in the edge point extraction using the point sequence detection filter 32, Inconveniences such as a longer processing time for the edge point extraction may occur.

これに対して、本実施例において、点列検出フィルタ32を用いた道路区画線検出によって道路区画線として検出・推定されたエッジ線の得票数が、通常の点列状の道路区画線では獲得することのないほどに多くなった場合、上述の如く、以後、道路区画線検出に用いるエッジ点の抽出が線状の道路区画線を表すエッジ点を抽出するのに適したライン検出フィルタ30を用いたものへ切り替わるため、線状の道路区画線を表すエッジ点が大きな演算負荷を強いることなく適切に抽出されることとなる。従って、本実施例の道路区画線検出装置10によれば、路面上の道路区画線が点列状のものから線状のものへ移行する状況において、それら複数種類の道路区画線をそれぞれできるだけ演算負荷の軽減を図りつつ正確に検出することが可能となっている。
On the other hand, in the present embodiment, the number of votes of edge lines detected and estimated as road lane markings by road lane marking detection using the point string detection filter 32 is obtained for ordinary road lane marking lines. In the case where the number of points is increased so as not to be detected, as described above, the line detection filter 30 suitable for extracting the edge points for which the extraction of the edge points used for the detection of the road lane markings represents the linear road lane markings is provided. Since it switches to what was used, the edge point showing a linear road division line will be extracted appropriately, without imposing big calculation load. Therefore, according to the road lane mark detection device 10 of the present embodiment, in a situation in which the road lane lines on the road surface shifts to those from that of the point rows of linear, possible plurality types of road lane lines each operation It is possible to accurately detect the load while reducing the load.

このため、本実施例のシステムによれば、誤った道路区画線に対する自車両の横位置が算出される事態や点列状の道路区画線に対する自車両の横位置が全く算出されない事態を抑止することができ、自動操舵制御装置16による自車両の道路区画線からの逸脱を回避させる逸脱回避制御を、正確な検出道路区画線を用いて適切かつ確実に実行することが可能となっている。   For this reason, according to the system of the present embodiment, the situation in which the lateral position of the own vehicle with respect to the wrong road lane marking is calculated or the situation in which the lateral position of the own vehicle with respect to the dotted road lane marking is not calculated at all is suppressed. Therefore, the departure avoidance control for avoiding the departure of the own vehicle from the road lane line by the automatic steering control device 16 can be appropriately and reliably executed using the accurate detected road lane line.

尚、本実施例において、ライン検出フィルタ30から点列検出フィルタ32へのフィルタ切替は、ライン検出フィルタ30を用いた道路区画線検出が成功しない状態が所定時間T10だけ継続した場合に行われ、また、点列検出フィルタ32からライン検出フィルタ30へのフィルタ切替は、点列検出フィルタ32を用いた道路区画線検出によって道路区画線として検出・推定されたエッジ線の各エッジ点による得票数Nが所定数N0以上である状態が所定時間T20だけ継続した場合に行われる。この点、各フィルタ切替は、その切替条件が複数フレームの撮像画像にわたって連続する場合にのみ行われることとなる。複数フレームに亘って同じ状態が連続すれば、実際にその状態が実現されている可能性は高くなる。従って、本実施例の道路区画線検出装置10によれば、道路区画線が線状のものと点列状のものとで変化するシーンでない状況において、フィルタ切替が誤って行われるのを抑制することが可能であり、正確な道路区画線検出を実現することが可能となっている。   In the present embodiment, the filter switching from the line detection filter 30 to the point sequence detection filter 32 is performed when the road lane marking detection using the line detection filter 30 does not succeed for a predetermined time T10. Further, the filter switching from the point sequence detection filter 32 to the line detection filter 30 is performed by the number N of votes obtained by each edge point of the edge line detected and estimated as a road lane line by road lane line detection using the point sequence detection filter 32. Is performed when the state where the number is equal to or greater than the predetermined number N0 continues for a predetermined time T20. In this regard, each filter switching is performed only when the switching condition is continuous over a plurality of frames of captured images. If the same state continues over a plurality of frames, there is a high possibility that the state is actually realized. Therefore, according to the road lane marking detection apparatus 10 of the present embodiment, filter switching is prevented from being erroneously performed in a situation where the road lane marking is not a scene in which the road lane marking changes between a linear shape and a dotted line shape. It is possible to realize accurate road marking detection.

ところで、上記の実施例においては、カメラ12が特許請求の範囲に記載した「撮像手段」に、エッジ点が特許請求の範囲に記載した「特徴点」に、点列検出フィルタ32が特許請求の範囲に記載した「第1のフィルタ」に、ライン検出フィルタ30が特許請求の範囲に記載した「第2のフィルタ」に、エッジ点に基づいて道路区画線として検出・推定されたエッジ線の獲得した得票数Nが特許請求の範囲に記載した「特徴点に関するパラメータ」に、それぞれ相当している。   By the way, in the above-described embodiment, the camera 12 claims the “imaging means” recited in the claims, the edge points the “feature points” recited in the claims, and the point sequence detection filter 32 claims In the “first filter” described in the range, the line detection filter 30 acquires the edge line detected and estimated as the road marking line based on the edge point in the “second filter” described in the claims. The obtained number N of votes corresponds to the “parameter regarding feature points” described in the claims.

また、上記の実施例においては、画像処理部14が、点列検出フィルタ32を用いてエッジ点を抽出することにより特許請求の範囲に記載した「特徴点抽出手段」及び「第1の特徴点抽出手段」が、ライン検出フィルタ30を用いてエッジ点を抽出することにより特許請求の範囲に記載した「特徴点抽出手段」及び「第2の特徴点抽出手段」が、図4に示すルーチン中ステップ118の処理を実行することにより特許請求の範囲に記載した「第1の切替手段」が、ステップ108の処理を実行することにより特許請求の範囲に記載した「第2の切替手段」が、それぞれ実現されている。   In the above-described embodiment, the image processing unit 14 extracts the edge points using the point sequence detection filter 32 to extract the “feature point extraction unit” and the “first feature point” recited in the claims. The “extracting means” extracts edge points using the line detection filter 30 so that the “feature point extracting means” and the “second feature point extracting means” described in the claims are included in the routine shown in FIG. By executing the processing of step 118, the “first switching means” described in the claims is executed, and by executing the processing of step 108, the “second switching means” described in the claims is: Each is realized.

尚、上記の実施例においては、道路区画線として検出・推定されるエッジ線を、各エッジ点による得票数Nが所定しきい値以上になるものとし、点列検出フィルタ32からライン検出フィルタ30へのフィルタ切替を、点列検出フィルタ32を用いた道路区画線検出によって道路区画線として検出・推定されたエッジ線の得票数Nが上記の所定しきい値よりも大きい所定数N0以上である場合に行うこととしているが、本発明はこれに限定されるものではなく、単に、道路区画線として検出・推定されるエッジ線をそのエッジ線を構成するエッジ点の数が所定しきい値以上になるものとし、点列検出フィルタ32からライン検出フィルタ30へのフィルタ切替を、点列検出フィルタ32を用いた道路区画線検出によって道路区画線として検出・推定されたエッジ線を構成するエッジ点の数が上記の所定しきい値よりも大きな所定数以上である場合に行うこととしてもよい。   In the above embodiment, the edge line detected / estimated as a road lane marking is such that the number N of votes obtained from each edge point is equal to or greater than a predetermined threshold value, and the point detection filter 32 to the line detection filter 30. The number of votes N of edge lines detected and estimated as road lane markings by road lane marking detection using the point sequence detection filter 32 is greater than or equal to a predetermined number N0 that is greater than the predetermined threshold. However, the present invention is not limited to this, and the number of edge points constituting the edge line of the edge line detected / estimated as a road marking line is not less than a predetermined threshold value. The filter switching from the point sequence detection filter 32 to the line detection filter 30 is detected as a road lane line by road lane line detection using the point sequence detection filter 32. The number of edge points constituting the estimated edge line may be performed when it is larger than the predetermined number than the predetermined threshold.

また、上記の実施例においては、ライン検出フィルタ30から点列検出フィルタ32へのフィルタ切替を、ライン検出フィルタ30を用いた道路区画線検出が成功しない状態が所定時間T10だけ継続した場合に行い、また、点列検出フィルタ32からライン検出フィルタ30へのフィルタ切替を、点列検出フィルタ32を用いた道路区画線検出によって道路区画線として検出・推定されたエッジ線の各エッジ点による得票数Nが所定数N0以上である状態が所定時間T20だけ継続した場合に行うこととしているが、これは、各フィルタ切替を所定の状態が所定フレーム数連続した場合に行うこととしても等価である。   Further, in the above-described embodiment, the filter switching from the line detection filter 30 to the point sequence detection filter 32 is performed when the road lane marking detection using the line detection filter 30 is not successful for a predetermined time T10. In addition, the number of votes obtained by each edge point of the edge line detected / estimated as a road lane line by the road lane line detection using the point sequence detection filter 32 for the filter switching from the point sequence detection filter 32 to the line detection filter 30 This is performed when the state where N is equal to or greater than the predetermined number N0 continues for a predetermined time T20, but this is equivalent to performing each filter switching when the predetermined state continues for a predetermined number of frames.

また、上記の実施例においては、カメラ12の撮像画像から道路上の白線やボッツドッツ,キャッツアイ等の道路区画線を検出する手法として、輝度の微分演算を利用したライン検出フィルタ30によるエッジ点検出、及び、輝度のモルフォロジ演算を利用した点列検出フィルタ32によるエッジ点検出を用いることとしているが、本発明はこれに限定されるものではなく、例えば、円形検出フィルタやパターンマッチング,トップハット変換などを用いて道路区画線の示す特徴量を抽出することとしてもよい。   Further, in the above embodiment, as a method for detecting road marking lines such as white lines on the road, botsdots, cat's eyes, etc., from the captured image of the camera 12, edge point detection by the line detection filter 30 using the differential operation of luminance is performed. In addition, edge point detection by the point sequence detection filter 32 using luminance morphology calculation is used. However, the present invention is not limited to this. For example, a circular detection filter, pattern matching, and top hat conversion are used. For example, the feature amount indicated by the road lane marking may be extracted.

また、上記の実施例においては、検出・推定した道路区画線を、自車両の横位置を算出する基準とし、自車両が道路区画線から逸脱しそうになったときにおける逸脱回避のための車両の自動操舵に用いることとしているが、本発明はこれに限定されるものではなく、自車両が道路区画線から逸脱しそうになったときにおける車両運転者へのスピーカ出力や表示出力を行う警報・警告制御に用いるものであってもよく、また、走行中に道路区画線に沿ってヘッドライトを点灯させるべくその点灯方向を切り替える制御に用いるものであってもよい。   In the above embodiment, the detected / estimated road lane marking is used as a reference for calculating the lateral position of the host vehicle, and the vehicle is designed to avoid the departure when the host vehicle is about to depart from the road lane marking. Although the present invention is used for automatic steering, the present invention is not limited to this, and an alarm / warning that performs speaker output or display output to the vehicle driver when the vehicle is about to depart from the road marking line. It may be used for control, or may be used for control for switching the lighting direction so that the headlight is turned on along the road marking line during traveling.

本発明の一実施例である道路区画線検出装置を備えるシステムの構成図である。BRIEF DESCRIPTION OF THE DRAWINGS It is a block diagram of a system provided with the road marking line detection apparatus which is one Example of this invention. 車両の走行する車線を区切る道路区画線の種類を表した図である。It is a figure showing the kind of road lane marking which divides the lane which vehicles run. 本実施例の道路区画線検出装置の有する画像処理部の要部構成図である。It is a principal part block diagram of the image processing part which the road marking line detection apparatus of a present Example has. 本実施例の道路区画線検出装置において実行される制御ルーチンの一例のフローチャートである。It is a flowchart of an example of the control routine performed in the road marking line detection apparatus of a present Example.

符号の説明Explanation of symbols

10 道路区画線検出装置
12 カメラ
14 画像処理部
N 得票数
10 Road Marking Line Detection Device 12 Camera 14 Image Processing Unit N Number of Votes

Claims (7)

車両周辺の路面を撮像する撮像手段と、前記撮像手段により撮像された撮像画像から、路面上の道路区画線を表す特徴点を抽出する特徴点抽出手段と、を備え、前記特徴点抽出手段により抽出された前記特徴点に基づいて、路面上の複数種類の道路区画線を検出可能な道路区画線検出装置であって、
前記特徴点抽出手段が、前記撮像手段により撮像された撮像画像から前記特徴点を抽出するうえで、主に路面上に点列状に描かれ又は設置された道路区画線を表す特徴点を抽出するのに適した第1の特徴点抽出手段と、前記撮像手段により撮像された撮像画像から前記特徴点を抽出するうえで、主に路面上に線状に描かれ又は設置された道路区画線を表す特徴点を抽出するのに適した、前記第1の特徴点抽出手段とは異なる第2の特徴点抽出手段と、を有すると共に、
前記第1の特徴点抽出手段及び前記第2の特徴点抽出手段により抽出された前記特徴点からのエッジ線の生成が成功するか否かを判別するエッジ線生成可否判別手段と、
前記エッジ線生成可否判別手段によりエッジ線の生成が成功すると判別された場合に、該生成されたすべてのエッジ線に対して、前記第1の特徴点抽出手段及び前記第2の特徴点抽出手段により抽出された前記特徴点による投票を行う投票手段と、
前記投票手段により投票された結果として所定しきい値以上の得票数を獲得したエッジ線を道路区画線の候補線として設定する候補線設定手段と、
前記候補線設定手段により設定された道路区画線の候補線のうちから所定条件に合致するものを道路区画線として検出する検出手段と、
道路区画線の検出に用いる前記特徴点の抽出が前記第1の特徴点抽出手段により行われている状況において、前記エッジ線生成可否判別手段により該第1の特徴点抽出手段により抽出された前記特徴点からのエッジ線の生成が成功すると判別され、かつ、該生成されたエッジ線に基づいて前記検出手段により前記所定条件に合致する道路区画線の候補線が道路区画線として検出された場合、該道路区画線として検出された候補線であるエッジ線が前記投票手段による投票の結果として獲得していた得票数が、前記所定しきい値よりも大きな所定数以上であるか否かを判別する得票数判別手段と、
前記得票数判別手段により肯定判定がなされる場合に、道路区画線の検出に用いる前記特徴点の抽出を、前記第1の特徴点抽出手段によるものから前記第2の特徴点抽出手段によるものへ切り替える第1の切替手段と、
を備えることを特徴とする道路区画線検出装置。
Image pickup means for picking up a road surface around the vehicle, and feature point extraction means for extracting a feature point representing a road marking line on the road surface from a picked-up image picked up by the image pickup means, and the feature point extraction means A road marking line detection device capable of detecting a plurality of types of road marking lines on a road surface based on the extracted feature points,
When the feature point extraction unit extracts the feature point from the captured image captured by the imaging unit, the feature point extraction unit mainly extracts a feature point that represents a road lane marking drawn or installed on the road surface. A first feature point extraction unit suitable for performing the operation, and a road marking line drawn or installed mainly on a road surface when extracting the feature point from the captured image captured by the imaging unit And a second feature point extraction means different from the first feature point extraction means, suitable for extracting feature points representing
Edge line generation availability determination means for determining whether or not the generation of edge lines from the feature points extracted by the first feature point extraction means and the second feature point extraction means is successful;
When it is determined by the edge line generation availability determination means that the generation of the edge line is successful, the first feature point extraction means and the second feature point extraction means for all the generated edge lines Voting means for voting based on the feature points extracted by
Candidate line setting means for setting an edge line that has acquired a vote count equal to or greater than a predetermined threshold as a result of voting by the voting means as a candidate line for a road lane line;
Detecting means for detecting a road lane line that matches a predetermined condition from among road lane line candidate lines set by the candidate line setting means;
In a situation where extraction of the feature points used for detection of road marking lines is performed by the first feature point extraction means, the edge feature generation possibility determination means extracts the feature points extracted by the first feature point extraction means. When it is determined that the generation of the edge line from the feature point is successful, and the candidate line of the road lane line that matches the predetermined condition is detected as the road lane line by the detection unit based on the generated edge line And determining whether or not the number of votes obtained as a result of voting by the voting means on the edge line which is a candidate line detected as the road marking line is equal to or greater than a predetermined number greater than the predetermined threshold value. Means for determining the number of votes to be obtained;
When the affirmative determination is made by the vote number determining means, the feature points used for detection of road marking lines are extracted from those by the first feature point extracting means to those by the second feature point extracting means. A first switching means for switching ;
A road marking line detection apparatus comprising:
前記第1の切替手段は、前記得票数判別手段により肯定判定がなされる状態が第1所定時間継続した或いは第1所定フレーム数連続した場合に、道路区画線の検出に用いる前記特徴点の抽出を、前記第1の特徴点抽出手段によるものから前記第2の特徴点抽出手段によるものへ切り替えることを特徴とする請求項1記載の道路区画線検出装置。 The first switching means extracts the feature points used for detection of road lane markings when the affirmative determination by the vote number determination means continues for a first predetermined time or continues for a first predetermined number of frames. 2. The road marking line detecting apparatus according to claim 1, wherein the first feature point extracting unit switches from the first feature point extracting unit to the one using the second feature point extracting unit. 道路区画線の検出に用いる前記特徴点の抽出が前記第2の特徴点抽出手段により行われている状況において、該抽出された前記特徴点に基づく前記検出手段による道路区画線の検出が成功するか否かを判別する検出可否判別手段と、
前記検出可否判別手段により否定判定がなされる場合に、道路区画線の検出に用いる前記特徴点の抽出を、前記第2の特徴点抽出手段によるものから前記第1の特徴点抽出手段によるものへ切り替える第2の切替手段と、
を備えることを特徴とする請求項1又は2記載の道路区画線検出装置。
In the situation where the feature points used for detection of road lane markings are extracted by the second feature point extraction means, detection of road lane markings by the detection means based on the extracted feature points succeeds. Detectability determination means for determining whether or not,
When the negative determination is made by the detection possibility determination means, the extraction of the feature points used for the detection of road marking lines is changed from that by the second feature point extraction means to that by the first feature point extraction means. A second switching means for switching ;
Road segment ray detecting device according to claim 1, wherein further comprising a.
前記第2の切替手段は、前記検出可否判別手段により否定判定がなされる状態が第2所定時間継続した或いは第2所定フレーム数連続した場合に、道路区画線の検出に用いる前記特徴点の抽出を、前記第2の特徴点抽出手段によるものから前記第1の特徴点抽出手段によるものへ切り替えることを特徴とする請求項3記載の道路区画線検出装置。  The second switching means extracts the feature points used for detection of road lane markings when the negative determination by the detectability determination means continues for a second predetermined time or for a second predetermined number of frames. 4. The road marking line detection device according to claim 3, wherein the second feature point extraction means is switched to that by the first feature point extraction means. 前記投票手段による投票は、一特徴点が一エッジ線に対して行う投票の数が、特徴点がエッジ線に近い位置にあるほど高くなり、特徴点がエッジ線から離れた位置にあるほど低くなるように行われることを特徴とする請求項1乃至4の何れか一項記載の道路区画線検出装置。  In the voting by the voting means, the number of votes that one feature point performs for one edge line becomes higher as the feature point is closer to the edge line, and lower as the feature point is farther from the edge line. The road marking line detection device according to claim 1, wherein the road marking line detection device is performed as follows. 前記第1の特徴点抽出手段は、前記撮像手段により撮像された撮像画像から、輝度をモルフォロジ演算して得られた輝度演算値が所定範囲にある部分を前記特徴点として抽出することを特徴とする請求項1乃至の何れか一項記載の道路区画線検出装置。 The first feature point extracting unit extracts, as the feature point, a portion in which a luminance calculation value obtained by performing a morphological calculation on luminance is within a predetermined range from a captured image captured by the imaging unit. The road marking line detection device according to any one of claims 1 to 5 . 前記第2の特徴点抽出手段は、前記撮像手段により撮像された撮像画像から、輝度を微分演算して得られた輝度微分値が所定値以上である部分を前記特徴点として抽出することを特徴とする請求項1乃至の何れか一項記載の道路区画線検出装置。 The second feature point extracting unit extracts, as the feature point, a portion where a luminance differential value obtained by performing a differential operation on luminance is a predetermined value or more from the captured image captured by the imaging unit. The road marking line detection device according to any one of claims 1 to 6 .
JP2005352517A 2005-12-06 2005-12-06 Road marking line detection device Expired - Fee Related JP4572826B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005352517A JP4572826B2 (en) 2005-12-06 2005-12-06 Road marking line detection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005352517A JP4572826B2 (en) 2005-12-06 2005-12-06 Road marking line detection device

Publications (3)

Publication Number Publication Date
JP2007156919A JP2007156919A (en) 2007-06-21
JP2007156919A5 JP2007156919A5 (en) 2009-01-15
JP4572826B2 true JP4572826B2 (en) 2010-11-04

Family

ID=38241191

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005352517A Expired - Fee Related JP4572826B2 (en) 2005-12-06 2005-12-06 Road marking line detection device

Country Status (1)

Country Link
JP (1) JP4572826B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010165194A (en) * 2009-01-16 2010-07-29 Nippon Telegr & Teleph Corp <Ntt> Edge detection device, edge detection method, and edge detection program
JP5819420B2 (en) * 2010-06-15 2015-11-24 コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミットベシュレンクテル ハフツングConti Temic microelectronic GmbH A method for integrating an automobile traffic sign recognition system and a lane recognition system.
JP6130325B2 (en) * 2014-04-24 2017-05-17 本田技研工業株式会社 Road environment recognition device

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08320997A (en) * 1995-05-24 1996-12-03 Nissan Motor Co Ltd Vehicle travel lane recognition device, and obstacle detector and road deviation reporting device
JPH09319873A (en) * 1996-05-28 1997-12-12 Mitsubishi Electric Corp On-vehicle image processor
JPH10320549A (en) * 1997-05-15 1998-12-04 Mitsubishi Electric Corp Image filter
JP2003228711A (en) * 2001-11-30 2003-08-15 Hitachi Ltd Lane mark recognition method
JP2003317106A (en) * 2002-04-26 2003-11-07 Nissan Motor Co Ltd Travel path recognition device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08320997A (en) * 1995-05-24 1996-12-03 Nissan Motor Co Ltd Vehicle travel lane recognition device, and obstacle detector and road deviation reporting device
JPH09319873A (en) * 1996-05-28 1997-12-12 Mitsubishi Electric Corp On-vehicle image processor
JPH10320549A (en) * 1997-05-15 1998-12-04 Mitsubishi Electric Corp Image filter
JP2003228711A (en) * 2001-11-30 2003-08-15 Hitachi Ltd Lane mark recognition method
JP2003317106A (en) * 2002-04-26 2003-11-07 Nissan Motor Co Ltd Travel path recognition device

Also Published As

Publication number Publication date
JP2007156919A (en) 2007-06-21

Similar Documents

Publication Publication Date Title
JP4603970B2 (en) Road marking line detection device
JP4248558B2 (en) Road marking line detection device
JP5679461B2 (en) Method and apparatus for determining valid lane markings
JP4962581B2 (en) Lane marking detector
US9098751B2 (en) System and method for periodic lane marker identification and tracking
JP6649738B2 (en) Parking lot recognition device, parking lot recognition method
EP2669844B1 (en) Level Difference Recognition System Installed in Vehicle and Recognition Method executed by the Level Difference Recognition System
JP2014013449A (en) On-vehicle device
JP5686281B2 (en) Three-dimensional object identification device, and mobile object control device and information providing device provided with the same
JP2011175468A (en) Boundary line detection device
JP5136071B2 (en) Vehicle rear monitoring device and vehicle rear monitoring method
JP5680436B2 (en) Foreign matter adhesion determination device for in-vehicle camera lens
JP5233696B2 (en) Lane boundary detection device, boundary detection program, and departure warning device
JP2009187169A (en) Traveling lane detection device
JP2011150687A (en) Three-dimensional object identifying apparatus, moving body control apparatus equipped with the same, and information providing apparatus
CN111931547A (en) Driving lane recognition device, driving lane recognition method, and program
JP4532372B2 (en) Road marking line detection device
JP4572826B2 (en) Road marking line detection device
JP3930268B2 (en) Image processing device for detecting approaching vehicle and lane position
JP4798576B2 (en) Attachment detection device
JP3930366B2 (en) White line recognition device
JP4614826B2 (en) Road marking line detection device
JP2008165610A (en) Road section line recognition device
JP2007018451A (en) Road boundary line detecting device
JP4821348B2 (en) Road section line detection apparatus and method, and program

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081126

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100511

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100625

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100720

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100802

R151 Written notification of patent or utility model registration

Ref document number: 4572826

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130827

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees