WO2005029441A1 - 路面走行レーン検出装置 - Google Patents

路面走行レーン検出装置 Download PDF

Info

Publication number
WO2005029441A1
WO2005029441A1 PCT/JP2004/013803 JP2004013803W WO2005029441A1 WO 2005029441 A1 WO2005029441 A1 WO 2005029441A1 JP 2004013803 W JP2004013803 W JP 2004013803W WO 2005029441 A1 WO2005029441 A1 WO 2005029441A1
Authority
WO
WIPO (PCT)
Prior art keywords
edge
lane
detecting
block
vertical
Prior art date
Application number
PCT/JP2004/013803
Other languages
English (en)
French (fr)
Inventor
Toshiaki Kakinami
Takashi Hiramaki
Tokihiko Akita
Original Assignee
Aisin Seiki Kabushiki Kaisha
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Kabushiki Kaisha filed Critical Aisin Seiki Kabushiki Kaisha
Priority to EP04787986A priority Critical patent/EP1667086B1/en
Priority to US10/572,957 priority patent/US7583816B2/en
Priority to DE602004032450T priority patent/DE602004032450D1/de
Publication of WO2005029441A1 publication Critical patent/WO2005029441A1/ja

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507Summing image-intensity values; Histogram projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/753Transform-based matching, e.g. Hough transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Definitions

  • the present invention relates to a traveling lane detecting device on a road surface, and more particularly to a traveling lane detecting device for detecting a traveling lane from an image of a road surface in front of a vehicle continuously imaged.
  • marking lines are painted on the road surface for various purposes, including lane boundaries that identify the boundaries of driving lanes (lanes), and marking lines in different forms such as solid lines, broken lines, or blocks. Also, there is a mixture of marking lines of different colors such as white or yellow, and a combination of these marking lines also exists.
  • FIG. 3 is an example of an image DS including a marking line on a two-lane road surface near a tunnel entrance.
  • a lane boundary line LB indicating a left boundary of the driving lane DL
  • a white or yellow solid line is used as the driving guide line LG.
  • a white or yellow dashed marking line is used as the lane boundary line RB indicating the right boundary of the driving lane DL
  • a white block-shaped marking line painted on the inside thereof is used as the driving guide line RG. Used.
  • the width of these marking lines is set to 20 cm, and the length of the dashed marking line is set to 8 m, and the length of the blank space between the painting parts is set to 12 m.
  • the width of the block-shaped marking line is set to 30cm, the length of the painted part is set to 2-3m, and the length of the blank part between the painted parts is set to 2-3m.
  • a lane boundary line or a driving guidance line means a sign indicating the function, and a white line or a yellow line on the road surface is referred to as a lane mark.
  • Patent Document 1 discloses the device.
  • the vehicle is configured as follows. That is, the image captured by the camera also detects the marking lines drawn on the road surface of the road, and extracts the marking lines that should be a pair of white lines separating the driving lane from the detection lines. Then, an interval between a pair of marking lines extracted as a white line is detected.
  • Patent Document 2 proposes a lane boundary detection device configured as described below for the purpose of stably detecting a lane boundary. That is, the sensitivity to the spatial density change of the image data is set to be relatively high, the first contour information detecting means for extracting the first contour information from the image data, and the first contour information detecting means for the spatial density change of the image data.
  • the second contour information detecting means for setting the sensitivity to be relatively low and extracting the second contour information from the image data, and extracting the outermost contour information of the white line group from the first and second contour information.
  • a contour extracting means is provided, and a lane boundary position is set based on the outermost contour information.
  • Patent Document 3 proposes a lane boundary detection device configured as follows for the same purpose as described above.
  • the outermost contour extraction unit (reference numeral 15 in Patent Document 3; the same applies hereinafter) converts the original image data stored in the frame buffer unit (13) and the position information of the edge detected by the edge detection unit (14).
  • the outermost contour information of the white line group is extracted based on the contour data including.
  • the outermost contour extraction unit (15) determines whether or not the edge corresponds to a gap generated between the white lines constituting the white line group based on the outline data including the position information of the extracted edge of the original image data. Is described, and the edge corresponding to the gap is also deleted from the contour data force.
  • Patent Document 4 also discloses a lane boundary constructed as follows for the same purpose as described above. Detection devices have been proposed. That is, the traveling lane of the moving object including the lane in the predetermined area is imaged by the imaging means to obtain image data. A density histogram is created based on the obtained image data, and a group of histograms is detected to perform grouping. Then, a first center position, which is the center of each histogram, is detected from the grouped histograms, and based on the first center position, the center is set in the group of histograms grouped together. Detect the second center position.
  • the center of the lane mark or the lane mark group having a plurality of lane marks is detected, and the lane mark boundary position is determined.
  • the document states that the creation of a histogram enables stable detection of lane mark boundary positions.
  • Hough transform is widely known as a straight line detection method, and is described, for example, in Non-Patent Document 1 below.
  • Such a Hough transform is known as a method of detecting a line that is robust to noise.
  • the curve on the coordinate system is characterized by crossing at one point.
  • RANSAC Random Sample Consensus
  • Patent Document 1 Japanese Patent Application Laid-Open No. 2003-168198
  • Patent Document 2 Japanese Patent Application Laid-Open No. 2003-187227
  • Patent Document 3 Japanese Patent Application Laid-Open No. 2003-187252
  • Patent Document 4 JP 2003-178399 A
  • Non-Patent Document 1 Hideyuki Tamura, ⁇ Introduction to Computer Image Processing '', Soken Shuppan, March 10, 1985, 1st edition, 1st edition, p. 127 and p. 128
  • Non-Patent Document 2 Random Sample by Martin A. Fischero and Robert C. Bolles
  • Consensus A Paradigm for Model Fitting with Applications to Image Analysis and Automated Cartography, Graphics and Image Processing, vol. 24 (6), pages 381—395. Published in 1981 Non-Patent Document 3: "Multiple View Geometry in Computer Vision” by Richard Hartley and Andrew Zisserman, Cambridge University Press. August 2000, pp. 101-107.
  • Patent Document 1 discloses that when a plurality of sign lines adjacent to each other on at least one side are detected as lane boundary lines of a road, the distance between a pair of sign lines detected at that time is determined. It is stated that a pair of marking lines that best match the interval will be extracted as a white line based on, and it is assumed that the interval between the lane boundary lines on both sides is constant. Further, it is not easy to specify a reference line from a plurality of marking lines, and further improvement is desired.
  • the outermost contour position is specified by lowering the sensitivity in the gap between a plurality of marking lines by using two types of contour detection methods having different sensitivities to spatial density changes. Therefore, even if the contrast between the marking line and the gap is insufficient due to lighting conditions, etc., or if the image is saturated and saturated, the position of the outermost contour can be specified stably. It is extremely difficult to detect the marking line at the position of the lane boundary line.
  • the edge interval is narrow, and the density difference force at both edge positions is regarded as a gap between a plurality of marking lines, and the data is not adopted.
  • the position of the outermost contour can be stably specified in the same way as described above, but this also involves detecting the marking line at the original lane boundary position. Is difficult.
  • the lane width (lane Width) is slightly smaller than the actual lane width by lm, and in some cases, smooth running control becomes difficult. Therefore, it is necessary to be able to reliably distinguish the block-shaped marking line from the boundary of the driving lane.
  • the present invention can stably identify the position of the boundary of the traveling lane in a road traveling lane detection device that detects a traveling lane from an image of a road surface in front of a vehicle that is continuously imaged. It is an object to provide a road surface traveling lane detecting device.
  • the present invention provides a road surface traveling lane detection device that detects a traveling lane from an image captured continuously of a road surface by an imaging unit.
  • Edge point detecting means for detecting the edge points of the plurality of edge points
  • edge histogram creating means for creating a vertical edge histogram for the horizontal components of the plurality of edge points detected by the edge point detecting means
  • edge histogram creating means for creating a vertical edge histogram for the horizontal components of the plurality of edge points detected by the edge point detecting means.
  • a block that determines the presence or absence of a block-shaped sign line based on a combination of the periodicity of the distribution and the distribution of the plus edge and the minus edge in the created vertical edge histogram, and specifies the existence range of the block-like sign line.
  • a marking line determining means and a center of the traveling lane in a range of existence of the block-shaped marking line specified by the block marking line determining means.
  • a lane boundary edge detecting means for detecting a vertical edge point existing outside of the traveling lane, and a position of a curve which matches the vertical edge point detected by the lane boundary edge detecting means.
  • a lane boundary line position specifying means for specifying the position of the boundary line of the lane. Note that the above curves include those that are substantially curved by a plurality of straight lines.
  • the present invention relates to a road surface traveling lane detection device that detects a traveling lane from an image captured continuously of a road surface by an imaging means, and an edge inspection that detects a plurality of edge points in an image.
  • Output means edge histogram creating means for creating a horizontal edge histogram for the vertical components of the plurality of edge points detected by the edge point detecting means, and a period of the distribution in the horizontal edge histogram created by the edge histogram creating means.
  • the presence / absence of a block-shaped sign line is determined based on the combination of the characteristics and the distribution of the plus edge and the minus edge, and a block for specifying the range of existence of the block-like sign line is determined.
  • a lane boundary edge detecting means for detecting a vertical edge point outside the center of the traveling lane in the range of the block-shaped marking line specified by the lock marking line determining means and the block marking line determining means.
  • Means, and lane boundary position specifying means for specifying, as the position of the boundary line of the traveling lane, the position of a curve conforming to the vertical edge point detected by the lane boundary edge detecting means. It can be.
  • the present invention relates to a road surface traveling lane detecting device for detecting a traveling lane from an image of a road surface continuously captured by an image capturing device, wherein the edge point detecting device detects a plurality of edge points in the image.
  • Vertical edge histogram creating means for creating a vertical edge histogram for the horizontal components of the plurality of edge points detected by the edge point detecting means; and vertical edge histogram creating means for creating the vertical edge histogram.
  • Block marking line determining means for determining the presence or absence of a block-shaped marking line based on a combination of the periodicity of the distribution in the stogram and the distribution of the positive and negative edges, and a plurality of edge points detected by the edge point detecting means.
  • Horizontal edge histogram creating means for creating a horizontal edge histogram for the vertical component of
  • the vertical edge histogram created by the vertical edge histogram creating means changes periodically according to the traveling of the vehicle, and With respect to a plurality of vertical edge points determined to be closest to the center of the traveling lane based on the horizontal edge histogram created by the horizontal edge histogram creating means, a plurality of edge points existing outside the center of the traveling lane.
  • a lane boundary position specifying means for specifying the position of the curve conforming to the edge point of the traveling lane as the position of the boundary line of the traveling lane.
  • the edge point detecting means detects the plurality of edge points on the image picked up by the image pick-up means, and then projects the coordinate values of the plurality of edge points back to three-dimensional road surface coordinates. It may be configured to output as a plurality of edge points.
  • the present invention has the following effects because it is configured as described above. That is, the block-shaped marking line is clearly distinguished from the traveling lane boundary line by each edge histogram, and is reliably excluded, so that the position of the traveling lane boundary line can be stably specified. [0020] With the above-described configuration, the edge point detection means can appropriately detect and process a plurality of edge points.
  • FIG. 1 is a block diagram showing a main configuration of a road lane device according to an embodiment of the present invention.
  • FIG. 2 is a block diagram showing a hardware configuration of a road surface traveling lane device according to one embodiment of the present invention.
  • FIG. 3 is a front view showing an example of an image captured in one embodiment of the present invention.
  • FIG. 4 is a plan view showing an example of creating a vertical edge histogram from a plurality of edge points projected on road surface coordinates in one embodiment of the present invention.
  • FIG. 5 is a plan view showing another example of creating a vertical edge histogram from a plurality of edge points projected on road surface coordinates in one embodiment of the present invention.
  • FIG. 6 is a plan view showing an example of determining a composite line section using a vertical edge histogram and a horizontal edge histogram in another embodiment of the present invention.
  • FIG. 1 shows an embodiment of a road surface traveling lane detecting device, which is configured to continuously capture an image of a road surface by an imaging means VD and detect the captured image traveling lane.
  • an edge point detecting means ED for detecting a plurality of edge points from a contour line in an image, and a vertical edge histogram is created for the horizontal components of the plurality of edge points detected by the edge point detecting means ED.
  • Histogram creating means HD that determines the presence / absence of block-shaped marking lines based on a combination of the periodicity of distribution and the distribution of plus and minus edges in the vertical edge histogram created by this edge histogram creating means HD
  • the block marking line determining means BD for specifying the range of existence of the block-shaped marking line, and the block marking line determining means BD being located outside the center of the traveling lane in the range of existence of the block-shaped marking line.
  • a lane boundary edge detecting means MD for detecting an existing vertical edge point is provided.
  • the lane boundary position specifying means LD is configured to specify the position of the curve that matches the vertical edge point detected by the lane boundary edge detecting means MD as the position of the boundary line of the traveling lane.
  • the edge histogram is called a derivative histogram.
  • the edge histogram creating means HD creates a horizontal edge histogram for the vertical components of a plurality of edge points detected by the edge point detecting means ED.
  • the block marking line determination means BD uses the edge histogram creation means HD to determine the presence or absence of block marking lines based on the combination of the periodicity of the distribution in the horizontal edge histogram created by HD and the distribution of positive and negative edges.
  • the present invention can be configured to specify the existence range of the block-shaped sign line.
  • the road surface traveling lane detecting device of FIG. 1 has the hardware configuration shown in FIG.
  • a CCD camera (hereinafter simply referred to as a camera) CM is mounted as an image pickup means VD in front of a vehicle (not shown), and a field of view in front of the vehicle including a road surface is continuously imaged.
  • the video signal of camera CM is converted to AZD via video input buffer circuit VB and sync separation circuit SY and stored in frame memory FM.
  • the image data stored in the frame memory FM is processed by the image processing unit VC.
  • the image processing unit VC includes an image data control unit VP, an edge point detection unit EP, an edge histogram creation unit HP, a block marking line determination unit BP, a lane boundary edge detection unit MP, and a lane boundary line position identification unit LP. .
  • the edge point detection unit EP, the edge histogram creation unit HP, the block marking line determination unit BP, the lane boundary edge detection unit MP, and the lane boundary line position identification unit LP are respectively provided with the edge point detection means ED in FIG. It corresponds to the edge histogram creating means HD, the block marking line judging means BD, the lane boundary edge detecting means MD and the lane boundary line position specifying means LD.
  • the data addressed by the image data control unit VP is called from the image data in the frame memory FM and sent to the edge point detection unit EP, where a plurality of edge points are detected. Is detected.
  • a vertical edge histogram is created for the horizontal component of the edge point data detected in this embodiment by the edge histogram creating unit HP.
  • the presence / absence of the block-shaped marking line is determined by the block marking line determination unit BP, and the The existence range is specified.
  • the lane boundary edge detection unit MP detects a vertical edge point outside the existence range of the block-shaped marking line (ie, outside the center of the traveling lane), and detects the lane boundary line.
  • the curve is fitted by the position identification means LD. That is, the position force of the curve that matches the vertical edge point detected by the lane boundary edge detection unit MP is specified as the position of the boundary line of the traveling lane.
  • the position of the boundary line of the driving lane specified in this way is further determined by the system control, if necessary, together with the detection results of the driving lane width, the curvature of the road, the position with the own vehicle, the attitude angle, and the like. It is supplied to the SC (computer) and output to external system equipment (not shown) via the output interface circuit OU.
  • SC computer
  • CL, PW, and IN in FIG. 2 are clock circuits, respectively.
  • edge point detection unit EP a plurality of edge points are detected from an image DS captured by the camera CM as shown in FIG. 3, and a three-dimensional road surface is obtained from an image plane (not shown) of the plurality of edge points.
  • Back projection to coordinates is performed. That is, based on the plurality of edge points detected on the image plane and the parameters of the camera CM, the coordinate values of the plurality of edge points are converted into the three-dimensional road surface coordinate points as shown in FIGS. Backprojected as a group
  • edge histogram creating unit HP a plurality of edge points (contour portions such as white lines RB as lane marks in Figs. 4 and 5) back-projected on the road surface are shown in Figs. Then, as shown on the left side of FIG. 5, a vertical edge histogram is created for the horizontal component. Note that, on the right side of FIGS. 4 and 5, a straight line of a contour such as a white line RB represents an edge point group.
  • the vertical direction between the positive edge and the negative edge that is, between the positive (+) edge histogram peak and the negative (one) edge histogram peak in FIGS. Since the area in the vertical direction in FIGS.
  • the edge of the lane boundary line (within the dashed circle in FIGS. 4 and 5) at the gap between the block lines. Can be detected.
  • the edge points of the block-shaped marking lines are excluded.
  • the edge point detected for the first time is the edge point of the marking line indicating the lane boundary.
  • the lane boundary edge detection unit MP detects a vertical edge point existing outside (with respect to the center of the traveling lane) the existence range of the block-shaped marking line.
  • a curve is applied to the vertical edge points detected by the lane boundary edge detection unit MP in the lane boundary position identification unit LP, and the curve is identified as the position of the boundary line of the traveling lane.
  • a curve including a plurality of straight lines is fitted by the above-mentioned RANSAC, and curve fitting is performed.
  • the above-described Hough transform may be used, or for example, the least square method may be applied. Can also be used.
  • edge points may be grouped based on a predetermined attribute, and then curve fitting may be performed!
  • the force for specifying the existence range of the block-shaped sign line based on the combination of the periodicity of the distribution in the vertical edge histogram and the distribution of the plus edge and the minus edge is as described above.
  • the existence range of the block-shaped sign line can be specified.
  • An example of the edge histogram is shown below.
  • a vertical edge histogram and a horizontal edge histogram are created for the detected edge point group, and the appearance status of these edge histograms is generated. Based on this, it is possible to determine the presence or absence of a block-shaped sign line.
  • back projection from an image plane (not shown) of a plurality of edge points to a three-dimensional road coordinate is performed. Then, an area that can include a plurality of lane marks (composite lines) is set on the road surface coordinates.
  • the horizontal distance is set to 50 cm for the inner part of the driving lane, which is closer to the center of the driving lane, with a block width of 30 cm, a gap of 5 cm and a margin of 15 cm, and a white line width for the outer part. It is set to 70cm by adding 20cm, block width 30cm, gap 5cm and margin 15cm.
  • the distance in the vertical direction (vertical direction in FIG. 6), that is, the traveling direction of the vehicle, is set to 5 m as a range in which the white line (lane mark) is treated as a straight line even when cornering.
  • the lane boundary edge detection unit MP in FIG. 2 is not provided. Instead, the edge histogram creation unit HP replaces the horizontal component of the edge point group with the horizontal component as shown in FIG. A vertical edge histogram is created, and a horizontal edge histogram is created for the vertical component as shown in the lower part of FIG.
  • the edge histograms for these edge points are in the vehicle traveling direction. On the other hand, it changes periodically in the vertical and horizontal directions. Such a periodic change can be detected even when the white line (LB, LG, RB, RG in Fig. 3) as a lane mark becomes thin or dirty.
  • both the vertical edge histogram and the horizontal edge histogram periodically change, it is possible to determine that there are a plurality of lane marks and that they are between compound line segments. If the appearance cycle of the edge histogram is within a predetermined range, it is determined that the line is a composite line. Then, if the peak inside the traveling lane periodically appears in each screen including the past screen in the horizontal edge histogram, it is determined that the block-shaped marking line exists inside the traveling lane. When the block line is identified as a block line in this way, the lane boundary line position identification unit LP removes the line as a candidate for the boundary line of the traveling lane, and the block line is located at the center of the lane. The marking line outside is the boundary of the driving lane.
  • the lane boundary line position identification unit LP periodically updates the vertical edge histogram according to the traveling of the vehicle. For multiple vertical edge points that have changed and are determined to be closest to the center of the driving lane based on the horizontal edge histogram, match multiple edge points that exist outside the center of the driving lane.
  • the position of the curved line is specified as the position of the boundary of the driving lane.
  • the marking line indicating the lane boundary provided on the traveling road surface is not only a simple solid line and a broken line, but also a plurality of lines formed by a combination of the simple marking line and the block-like marking line. Therefore, in the conventional apparatus, it is difficult to stably identify the position of the marking line (lane boundary line) to be detected as the lane boundary. The position of the line can be specified stably. As a result, it is possible to recognize the boundary line that satisfies the high reliability expected from the alarm system and the control system.
  • the road surface traveling lane detection device can stably specify the position of the boundary of the traveling lane as described above, and is applied to, for example, various warning systems and control systems in vehicles and the like. be able to.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

走行レーンの境界線の位置を安定的に特定し得る路面走行レーン検出装置を提供する。 エッジ点検出手段EDにて画像中の輪郭線から複数のエッジ点を検出し、そのエッジ点の水平成分に対し垂直方向エッジヒストグラムを作成するエッジヒストグラム作成手段HDと、垂直方向エッジヒストグラムにおける分布の周期性とプラスエッジ及びマイナスエッジの分布の組み合わせに基づきブロック状の標示線の有無を判定するブロック標示線判定手段BDと、ブロック状の標示線の存在範囲の(走行レーン中心に対して)外側に存在する垂直方向のエッジ点を検出するレーン境界エッジ検出手段MDとを備えている。そして、レーン境界線位置特定手段LDにて、垂直方向のエッジ点に適合する曲線の位置を、走行レーンの境界線の位置として特定する。

Description

明 細 書
路面走行レーン検出装置
技術分野
[0001] 本発明は、路面上の走行レーン検出装置に関し、特に車両前方の路面を連続して 撮像した画像カゝら走行レーンを検出する路面走行レーン検出装置に係る。
背景技術
[0002] 自動車の自動制御や運転者の運転支援等にお!ヽては、カメラで撮像した画像から 路面上の走行レーンを適切且つ安定的に検出することが重要となる。通常、路面上 には、走行レーン (車線)の境界を識別するレーン境界線をはじめ種々の目的に応じ て標示線が塗装されており、実線又は破線もしくはブロック状というように異なる形態 の標示線や、白色あるいは黄色というように異なる色彩の標示線が混在し、更には、 これらの標示線が複合されたものも存在する。
[0003] 例えば、図 3はトンネルの入口近傍の 2車線の路面における標示線を含む画像 DS の一例であるが、走行レーン DLの左側の境界を示すレーン境界線 LBとして、白色 又は黄色で実線の標示線が用いられ、その内側に塗装された白色でブロック状の標 示線が走行誘導線 LGとして用いられている。また、走行レーン DLの右側の境界を 示すレーン境界線 RBとしては、白色又は黄色で破線の標示線が用いられ、その内 側に塗装された白色でブロック状の標示線が走行誘導線 RGとして用いられて 、る。 通常、これらの標示線の幅は 20cmに設定され、破線の標示線は塗装部の長さが 8 m、塗装部間の空白部分の長さが 12mに設定されている。また、ブロック状の標示線 の幅は 30cmに設定され、塗装部の長さが 2— 3mで、塗装部間の空白部分の長さが 2— 3mに設定されている。尚、本願においては、レーン境界線あるいは走行誘導線 は機能力 みた標示線を意味し、路面上の白線又は黄線そのものを指すときはレー ンマークという。
[0004] 上記のように種々の標示線によって識別された路面上の走行レーンを検出する装 置については、従来力も種々提案されており、例えば特許文献 1に開示されている。 同公報においては、車両用走路判定装置および車両制御装置に関し、検出された 互いに隣接する複数の標示線力 車両における所定の基準線を適切に設定するこ とを目的として、次のように構成されている。即ち、カメラによる撮像画像力も道路の 路面上に描かれた標示線を検出し、その中から走行レーンを区切る一対の白線とな るべき標示線を抽出する。そして、白線として抽出された一対の標示線の間隔を検出 する。白線として抽出された一対の標示線の間隔が検出されて 、る状況下において 、カメラによる撮像画像力 道路の少なくとも一方側にお 、て互 、に隣接する複数の 標示線が検出された場合、その時点で検出されている白線としての一対の標示線の 間隔に基づいて、その間隔に最も合致する一対の標示線を白線として抽出する旨記 載されている。
[0005] また、特許文献 2には、車線境界を安定に検出することを目的とし、以下のように構 成された車線境界検出装置が提案されている。即ち、画像データの空間的な濃度変 化に対する感度が比較的高く設定され、画像データから第一の輪郭線情報を抽出 する第一の輪郭情報検出手段と、画像データの空間的な濃度変化に対する感度が 比較的低く設定され、画像データから第二の輪郭線情報を抽出する第二の輪郭情 報検出手段と、第一及び第二の輪郭線情報から白線群の最外輪郭情報を抽出する 輪郭抽出手段が備えられ、該最外輪郭情報に基づ ヽて車線境界位置が設定される 。従って、濃度変化に対する感度が高く設定されることで一方には白線間の隙間に 対応するエッジの情報が含まれ、他方にはそれが含まれないので、その隙間に対応 するエッジの情報の削除が容易になる旨記載されて 、る。
[0006] 更に、特許文献 3にも、上記と同様の目的で、以下のように構成された車線境界検 出装置が提案されている。即ち、最外輪郭抽出部 (特許文献 3における符号 15。以 下同様)は、フレームバッファ部(13)に記憶された原画像データとエッジ検出部(14 )にて検出されたエッジの位置情報を含む輪郭データに基づいて白線群の最外輪郭 情報を抽出する。最外輪郭抽出部(15)は、原画像データ力 抽出されたエッジの位 置情報を含む輪郭データに基づいて、該エッジが白線群を構成する白線の間に生じ た隙間に対応する力否かを判定し、該隙間に対応するエッジを輪郭データ力も削除 する旨記載されている。
[0007] そして、特許文献 4にも、上記と同様の目的で、以下のように構成された車線境界 検出装置が提案されている。即ち、撮像手段により所定領域の車線を含む移動体の 走行レーンを撮像して、画像データを得る。この得られた画像データに基づき、濃度 ヒストグラムを作成し、ヒストグラムの集まりを検出してグループィ匕を行う。そして、ダル ープ化されたヒストグラムの中で、個々のヒストグラムの中央となる第 1中央位置を検 出し、第 1中央位置に基づき、グループィ匕されたヒストグラムの集まりの中で中央とな る第 2中央位置を検出する。更に、異なるグループのヒストグラム間どうしの第 2中央 位置に基づき、レーンマークまたはレーンマークが複数存在するレーンマーク群の中 央を検出し、レーンマーク境界位置を決めるようにしたので、画像データに基づくヒス トグラムの作成により、安定したレーンマーク境界位置の検出が行える旨記載されて いる。
[0008] 一方、画像処理技術に関し、直線検出方法として Hough変換が広く知られており、 例えば、下記の非特許文献 1に解説されている。このような Hough変換はノイズにロバ ストな直線検出方法として知られ、(X, y)座標系の点を , Θ )極座標系上の曲線 に変換する過程で、(X, y)座標系で同一の直線上にあった特徴点による , Θ )座 標系上の曲線は 1点で交差することを特徴としている。更に、近年コンピュータビジョ ンにおいて、ロバスト法の一種である RANSAC (Random Sample Consensus)が注目さ れており、下記の非特許文献 2に詳細に解説されている。また、下記の非特許文献 3 にも、 RANSACが解説されている
[0009] 特許文献 1:特開 2003—168198号公報
特許文献 2:特開 2003— 187227号公報
特許文献 3:特開 2003— 187252号公報
特許文献 4 :特開 2003— 178399号公報
非特許文献 1 :田村秀行監修「コンピュータ画像処理入門」、総研出版、昭和 60年 3 月 10日第 1版第 1刷発行、 127頁及び 128頁
非特許文献 2 : Martin A. Fischero及び Robert C. Bolles著「Random Sample
Consensus : A Paradigm for Model Fitting with Applications to Image Analysis and Automated Cartography」、 Graphics and Image Processing, vol.24(6)の page 381— 395。 1981年発行 非特許文献 3: Richard Hartley及び Andrew Zisserman著「Multiple View Geometry in Computer Vision] , Cambridge University Press. 2000年 8月発行、 101頁乃至 107 頁
発明の開示
発明が解決しょうとする課題
[0010] 前掲の特許文献 1には、道路のレーン境界線として少なくとも一方側において互い に隣接する複数の標示線が検出されたときに、その時点で検出されている一対の標 示線の間隔に基づ 、て、その間隔に最も合致する一対の標示線を白線として抽出 すると記載されており、両側のレーン境界線の間隔が一定であることを前提としてい る。また、複数の標示線の中から基準線を特定することは容易ではなぐ更なる改良 が望まれる。
[0011] また、前掲の特許文献 2においては、空間的な濃度変化に対する感度の異なる 2 種類の輪郭検出方法により、複数標示線の隙間には感度を低くして最外輪郭位置を 特定することとされており、照明条件等に起因して標示線と隙間のコントラストが不十 分であったり、飽和して画像がつぶれても安定的に最外輪郭の位置を特定すること はできる力 本来のレーン境界線の位置にある標示線を検出することは至難である。
[0012] 更に、特許文献 3に記載の装置においては、エッジの間隔が狭くまた両エッジ位置 の濃度差力 、さい場合には複数の標示線の隙間と捉え、そのデータを採用しないよ うにして最外輪郭位置を抽出することとしており、上記と同様、安定的に最外輪郭の 位置を特定することはできるが、これも、本来のレーン境界線の位置にある標示線を 検出することは至難である。
[0013] そして、特許文献 4に記載の装置にぉ ヽては、画像を微分して得られるエッジのヒス トグラムを作成してグループ化し、個々の標示線の中央位置やグループとしての中央 位置を検出し、標示線の数等によって、中央位置や最も内側の位置を基準線として 採用するようにして 、るが、レーン境界線の位置を安定的に特定すると 、う要請に充 分応えているとは言い難い。特に、図 3に示すブロック状の標示線は幅が 30cmと広 V、ので、仮にこのブロック状の標示線が走行レーンの両側でレーン境界線として認識 されると、ブロック状の標示線と実際のレーン境界線との間隔も含め、レーン幅(車線 幅)が実際のレーン幅に比し lm弱狭くなることになり、場合によっては円滑な走行制 御等が困難となる。従って、ブロック状の標示線を、走行レーンの境界線に対し確実 に峻別し得ることが必要である。
[0014] そこで、本発明は、車両前方の路面を連続して撮像した画像カゝら走行レーンを検 出する路面走行レーン検出装置において、走行レーンの境界線の位置を安定的に 特定し得る路面走行レーン検出装置を提供することを課題とする。
課題を解決するための手段
[0015] 上記の課題を達成するため、本発明は、撮像手段によって路面を連続して撮像し た画像カゝら走行レーンを検出する路面走行レーン検出装置において、画像中の輪 郭線力 複数のエッジ点を検出するエッジ点検出手段と、該エッジ点検出手段で検 出した複数のエッジ点の水平成分に対し垂直方向エッジヒストグラムを作成するエツ ジヒストグラム作成手段と、該エッジヒストグラム作成手段が作成した垂直方向エッジヒ ストグラムにおける分布の周期性とプラスエッジ及びマイナスエッジの分布の組み合 わせに基づきブロック状の標示線の有無を判定すると共に、該ブロック状の標示線の 存在範囲を特定するブロック標示線判定手段と、該ブロック標示線判定手段が特定 したブロック状の標示線の存在範囲の、前記走行レーンの中心に対して外側に存在 する垂直方向のエッジ点を検出するレーン境界エッジ検出手段と、該レーン境界ェ ッジ検出手段が検出した垂直方向のエッジ点に適合する曲線の位置を、前記走行レ ーンの境界線の位置として特定するレーン境界線位置特定手段とを備えることとした ものである。尚、上記の曲線には複数の直線によって実質的に曲線となるものを含む
[0016] また、本発明は、撮像手段によって路面を連続して撮像した画像カゝら走行レーンを 検出する路面走行レーン検出装置において、画像中の輪郭線力 複数のエッジ点 を検出するエッジ点検出手段と、該エッジ点検出手段で検出した複数のエッジ点の 垂直成分に対し水平方向エッジヒストグラムを作成するエッジヒストグラム作成手段と 、該エッジヒストグラム作成手段が作成した水平方向エッジヒストグラムにおける分布 の周期性とプラスエッジ及びマイナスエッジの分布の組み合わせに基づきブロック状 の標示線の有無を判定すると共に、該ブロック状の標示線の存在範囲を特定するブ ロック標示線判定手段と、該ブロック標示線判定手段が特定したブロック状の標示線 の存在範囲の、前記走行レーンの中心に対して外側に存在する垂直方向のエッジ 点を検出するレーン境界エッジ検出手段と、該レーン境界エッジ検出手段が検出し た垂直方向のエッジ点に適合する曲線の位置を、前記走行レーンの境界線の位置と して特定するレーン境界線位置特定手段とを備えたものとすることができる。
[0017] 更に、本発明は、撮像手段によって路面を連続して撮像した画像から走行レーンを 検出する路面走行レーン検出装置において、画像中の輪郭線力 複数のエッジ点 を検出するエッジ点検出手段と、該エッジ点検出手段で検出した複数のエッジ点の 水平成分に対して、垂直方向エッジヒストグラムを作成する垂直方向エッジヒストグラ ム作成手段と、該垂直方向エッジヒストグラム作成手段が作成した垂直方向エッジヒ ストグラムにおける分布の周期性とプラスエッジ及びマイナスエッジの分布の組み合 わせに基づきブロック状の標示線の有無を判定するブロック標示線判定手段と、前 記エッジ点検出手段で検出した複数のエッジ点の垂直成分に対して、水平方向エツ ジヒストグラムを作成する水平方向エッジヒストグラム作成手段と、前記ブロック標示線 判定手段が前記ブロック状の標示線有と判定したときに、前記垂直方向エッジヒスト グラム作成手段が作成した垂直方向エッジヒストグラムが車両の走行に応じて周期的 に変化し、且つ前記水平方向エッジヒストグラム作成手段が作成した水平方向エッジ ヒストグラムに基づき前記走行レーンの中心に最も近接すると判定した垂直方向の複 数のエッジ点に対し、前記走行レーンの中心に対して外側に存在する複数のエッジ 点に適合する曲線の位置を、前記走行レーンの境界線の位置として特定するレーン 境界線位置特定手段とを備えたものとしてもよい。
[0018] 尚、前記エッジ点検出手段は、前記撮像手段によって撮像した画像上で前記複数 のエッジ点を検出した後、前記複数のエッジ点の座標値を 3次元路面座標に逆投影 して前記複数のエッジ点として出力するように構成するとよ 、。
発明の効果
[0019] 本発明は上述のように構成されているので以下の効果を奏する。即ち、各エッジヒ ストグラムによって、ブロック状の標示線は走行レーンの境界線とは峻別され、確実に 除外されるので、走行レーンの境界線の位置を安定的に特定することができる。 [0020] 前記エッジ点検出手段は、上記のように構成することにより、複数のエッジ点の検出 及び処理を適切に行うことができる。
図面の簡単な説明
[0021] [図 1]本発明の一実施形態に係る路面走行レーン装置の主要構成を示すブロック図 である。
[図 2]本発明の一実施形態に係る路面走行レーン装置のハード構成を示すブロック 図である。
[図 3]本発明の一実施形態において撮像された画像の一例を示す正面図である。
[図 4]本発明の一実施形態において路面座標に投影された複数のエッジ点から垂直 方向エッジヒストグラムを作成する一例を示す平面図である。
[図 5]本発明の一実施形態において路面座標に投影された複数のエッジ点から垂直 方向エッジヒストグラムを作成する他の例を示す平面図である。
[図 6]本発明の他の実施形態において垂直方向エッジヒストグラム及び水平方向エツ ジヒストグラムを用いて複合線区間を判定する例を示す平面図である。
符号の説明
[0022] VD 撮像手段
ED エッジ点検出手段
HD エッジヒストグラム作成手段
BD ブロック標示線判定手段
MD レーン境界エッジ検出手段
LD レーン境界線位置特定手段
CM カメラ
VB ビデオ入力バッファ回路
SY 同期分離回路
FM フレームメモリ
VC 画像処理部
VP 画像データ制御部
EP エッジ点検出部 HP エッジヒストグラム作成部
BP ブロック標示線判定部
MP レーン境界エッジ検出部
LP レーン境界線位置特定部
発明を実施するための最良の形態
[0023] 上記の構成になる本発明の路面走行レーン検出装置の具体的一態様について、 以下に図面を参照して説明する。図 1は路面走行レーン検出装置の一実施形態を 示すもので、撮像手段 VDによって路面を連続して撮像し、撮像した画像力 走行レ ーンを検出するように構成されている。本実施形態では、画像中の輪郭線から複数 のエッジ点を検出するエッジ点検出手段 EDと、このエッジ点検出手段 EDで検出し た複数のエッジ点の水平成分に対し垂直方向エッジヒストグラムを作成するエッジヒス トグラム作成手段 HDと、このエッジヒストグラム作成手段 HDが作成した垂直方向ェ ッジヒストグラムにおける分布の周期性とプラスエッジ及びマイナスエッジの分布の組 み合わせに基づきブロック状の標示線の有無を判定すると共に、ブロック状の標示線 の存在範囲を特定するブロック標示線判定手段 BDと、このブロック標示線判定手段 BDが特定したブロック状の標示線の存在範囲の、走行レーンの中心に対して外側 に存在する垂直方向のエッジ点を検出するレーン境界エッジ検出手段 MDとを備え ている。そして、レーン境界線位置特定手段 LDにて、レーン境界エッジ検出手段 M Dが検出した垂直方向のエッジ点に適合する曲線の位置を、走行レーンの境界線の 位置として特定するように構成されている。尚、エッジヒストグラムは微分ヒストグラムと ち呼ばれる。
[0024] 上記図 1に記載の路面走行レーン検出装置において、エッジヒストグラム作成手段 HDとしては、エッジ点検出手段 EDで検出した複数のエッジ点の垂直成分に対し水 平方向エッジヒストグラムを作成するように構成し、ブロック標示線判定手段 BDにて、 エッジヒストグラム作成手段 HDが作成した水平方向エッジヒストグラムにおける分布 の周期性とプラスエッジ及びマイナスエッジの分布の組み合わせに基づきブロック状 の標示線の有無を判定すると共に、ブロック状の標示線の存在範囲を特定するよう に構成することちできる。 [0025] 上記図 1の路面走行レーン検出装置は、図 2に示すハード構成を有する。即ち、図 示しない車両の前方に、撮像手段 VDとして例えば CCDカメラ(以下、単にカメラとい う) CMが装着されており、路面を含む車両前方の視界が連続して撮像される。カメラ CMの映像信号は、ビデオ入力バッファ回路 VB、同期分離回路 SYを経て AZD変 換されフレームメモリ FMに格納される。このフレームメモリ FMに格納された画像デ ータは、画像処理部 VCで処理される。画像処理部 VCは、画像データ制御部 VP、 エッジ点検出部 EP、エッジヒストグラム作成部 HP、ブロック標示線判定部 BP、レーン 境界エッジ検出部 MP及びレーン境界線位置特定部 LPで構成されている。尚、エツ ジ点検出部 EP、エッジヒストグラム作成部 HP、ブロック標示線判定部 BP、レーン境 界エッジ検出部 MP及びレーン境界線位置特定部 LPは、夫々、図 1のエッジ点検出 手段 ED、エッジヒストグラム作成手段 HD、ブロック標示線判定手段 BD、レーン境界 エッジ検出手段 MD及びレーン境界線位置特定手段 LDに対応している。
[0026] 画像処理部 VCにおいては、フレームメモリ FM内の画像データから、画像データ 制御部 VPでアドレス指定されたデータが呼び出されてエッジ点検出部 EPに送られ 、ここで複数のエッジ点が検出される。このように検出されたエッジ点データに対し、 本実施形態では、エッジヒストグラム作成部 HPにて、その水平成分に対し垂直方向 エッジヒストグラムが作成される。この垂直方向エッジヒストグラムにおける分布の周期 性とプラスエッジ及びマイナスエッジの分布の組み合わせに基づき、ブロック標示線 判定部 BPにてブロック状の標示線の有無が判定されると共に、ブロック状の標示線 の存在範囲が特定される。更に、レーン境界エッジ検出部 MPにて、ブロック状の標 示線の存在範囲の外側(即ち、走行レーンの中心に対して外側)に存在する垂直方 向のエッジ点が検出され、レーン境界線位置特定手段 LDにて、曲線があてはめら れる。即ち、レーン境界エッジ検出部 MPで検出された垂直方向のエッジ点に適合 する曲線の位置力 走行レーンの境界線の位置として特定される。
[0027] このように特定された走行レーンの境界線の位置は、更に必要に応じて、走行レー ンの幅、道路の曲率、自車との位置、姿勢角等の検出結果と共に、システム制御部 S C (コンピュータ)に供給され、出力インターフェース回路 OUを介して外部のシステム 機器(図示せず)〖こ出力される。尚、図 2における CL、 PW、 INは夫々クロック回路、 電源回路及び入力インターフェース回路である。
[0028] 以下、上記エッジ点検出部 EP、エッジヒストグラム作成部 HP、ブロック標示線判定 部 BP、レーン境界エッジ検出部 MP及びレーン境界線位置特定部 LPの各部におけ る処理を説明する。先ず、エッジ点検出部 EPにおいては、図 3に示すようにカメラ C Mによって撮像された画像 DSから複数のエッジ点が検出され、複数のエッジ点の画 像面(図示せず)から 3次元路面座標への逆投影が行われる。即ち、画像面上で検 出された複数のエッジ点及びカメラ CMのパラメータに基づ 、て、これら複数のエッジ 点の座標値が、図 4及び図 5に示すように 3次元路面座標の点群として逆投影される
[0029] エッジヒストグラム作成部 HPにお 、ては、路面上に逆投影された複数のエッジ点( 図 4及び図 5におけるレーンマークとしての白線 RB等の輪郭部分)に対して、図 4及 び図 5の左側に示すように、その水平成分に対し垂直方向エッジヒストグラムが作成 される。尚、図 4及び図 5の右側において、白線 RB等の輪郭部分の直線はエッジ点 群を表している。この垂直方向エッジヒストグラムにおいて、プラスエッジとマイナスェ ッジとの間、即ち図 4及び図 5のプラス(+ )方向のエッジヒストグラムピークとマイナス (一)方向のエッジヒストグラムピークとの間の垂直方向(図 4及び図 5の上下方向)の 領域は、各ブロック線間の隙間に相当するので、各ブロック線間の隙間にてレーン境 界線のエッジ(図 4及び図 5の破線の円枠内)が検出され得る。換言すれば、走行レ ーンの内側力も外側に向力つて(図 4では右方、図 5では左方に向力つて)走査され たときに、各ブロック状の標示線のエッジ点を除き、初めて検出されたエッジ点がレー ン境界を示す標示線のエッジ点とされる。而して、レーン境界エッジ検出部 MPにお いて、ブロック状の標示線の存在範囲の(走行レーンの中心に対して)外側に存在す る垂直方向のエッジ点が検出される。
[0030] 上記のようにレーン境界エッジ検出部 MPにて検出された垂直方向のエッジ点群に 対し、レーン境界線位置特定部 LPにおいて曲線があてはめられ、走行レーンの境 界線の位置として特定される。例えば前述の RANSACによって複数の直線を含む曲 線があてはめられ、曲線フィッティングが行われる。この曲線のあてはめ(曲線フイツ ティング)に関しては、前述の Hough変換を用いてもよいし、例えば最小自乗法を適 用することもできる。また、エッジ点群に対して所定の属性に基づいてグループ化し てお 、て曲線フィッティングを行なうこととしてもよ!/、。
[0031] 上記の実施形態においては、垂直方向エッジヒストグラムにおける分布の周期性と プラスエッジ及びマイナスエッジの分布の組み合わせに基づき、ブロック状の標示線 の存在範囲を特定することとしている力 前述のように、水平方向エッジヒストグラムに おける分布の周期性とプラスエッジ及びマイナスエッジの分布の組み合わせに基づ き、ブロック状の標示線の存在範囲を特定することができ、図 6の下方に水平方向ェ ッジヒストグラムの一例を示して 、る。
[0032] 更に、本発明の他の実施形態として、図 6に示すように、検出されたエッジ点群に 対して垂直方向エッジヒストグラム及び水平方向エッジヒストグラムを作成し、これらの エッジヒストグラムの出現状況に基づ 、てブロック状の標示線の有無を判定すること ができる。先ず、前述のように複数のエッジ点の画像面(図示せず)から 3次元路面座 標への逆投影が行われる。そして、この路面座標上に複数のレーンマーク (複合線) を包含し得る領域が設定される。例えば、水平方向の距離は、走行レーン中心に近 い走行レーンの内側部分に対し、ブロックの幅 30cmに隙間 5cm及びマージン 15c mをカ卩えて 50cmに設定され、外側部分に対し、白線の幅 20cm及びブロックの幅 30 cmに隙間 5cm及びマージン 15cmをカ卩えて 70cmに設定される。そして、両者の垂 直方向(図 6の上下方向)即ち車両進行方向の距離は、コーナリング時にも白線 (レ ーンマーク)を直線として扱 、得る範囲として、 5mに設定される。
[0033] 本実施形態においては、図 2のレーン境界エッジ検出部 MPは備えておらず、代わ つて、エッジヒストグラム作成部 HPにおいて、図 6の左右に示すようにエッジ点群の 水平成分に対し垂直方向エッジヒストグラムが作成されると共に、図 6の下方に示す ように垂直成分に対し水平方向エッジヒストグラムが作成される。車両が登坂車線を 走行して 、る場合のように、ブロック線や破線の標示線間のレーンを走行して 、ると きには、これらのエッジ点群に対するエッジヒストグラムは、車両進行方向に対して垂 直方向及び水平方向に周期的に変化する。このような周期的な変化は、レーンマー クとしての白線(図 3の LB, LG, RB, RG)が薄くなつたり汚れている場合でも、検出 可能である。 [0034] ここで、本実施形態においては垂直方向エッジヒストグラム及び水平方向エッジヒス トグラムの両者が周期的に変化するときには、複数のレーンマークが存在し複合線区 間にあると判定することができるので、エッジヒストグラムの出現周期が所定範囲にあ る場合には複合線と判定される。そして、水平方向エッジヒストグラムにおいて走行レ ーンの内側のピークが過去の画面を含む各画面で周期的に出現しておれば、走行 レーンの内側に存在するブロック状の標示線と判定される。このようにブロック状の標 示線であると特定されたときには、レーン境界線位置特定部 LPにおいて、その標示 線は走行レーンの境界線の候補力 外され、レーン中心に対しブロック状の標示線 の外側の標示線が走行レーンの境界線とされる。
[0035] 而して、ブロック標示線判定部 BPにてブロック状の標示線有と判定されたときには 、レーン境界線位置特定部 LPにおいて、垂直方向エッジヒストグラムが車両の走行 に応じて周期的に変化し、且つ水平方向エッジヒストグラムに基づき走行レーンの中 心に最も近接すると判定された垂直方向の複数のエッジ点に対し、走行レーンの中 心に対して外側に存在する複数のエッジ点に適合する曲線の位置が、走行レーンの 境界線の位置として特定される。
[0036] 以上のように、走行路面上に設けられた車線境界を示す標示線には、単純な実線 や破線の他に、その単純な標示線とブロック状の標示線との組合せによる複数線が 存在するので、従来装置においては、レーン境界として検出したい標示線 (レーン境 界線)の位置を安定的に特定することが困難であった力 本願の上記何れの実施形 態においても、レーン境界線の位置を安定的に特定することができる。而して、警報 システムや制御システム力 期待される高い信頼性を充足する境界線認識が可能と なる。
産業上の利用可能性
[0037] 本発明に係る路面走行レーン検出装置は、上記のように走行レーンの境界線の位 置を安定的に特定し得るので、例えば、車両等における種々の警報システムや制御 システムに適用することができる。

Claims

請求の範囲
[1] 撮像手段によって路面を連続して撮像した画像から走行レーンを検出する路面走 行レーン検出装置において、画像中の輪郭線力 複数のエッジ点を検出するエッジ 点検出手段と、該エッジ点検出手段で検出した複数のエッジ点の水平成分に対し垂 直方向エッジヒストグラムを作成するエッジヒストグラム作成手段と、該エッジヒストグラ ム作成手段が作成した垂直方向エッジヒストグラムにおける分布の周期性とプラスェ ッジ及びマイナスエッジの分布の組み合わせに基づきブロック状の標示線の有無を 判定すると共に、該ブロック状の標示線の存在範囲を特定するブロック標示線判定 手段と、該ブロック標示線判定手段が特定したブロック状の標示線の存在範囲の、前 記走行レーンの中心に対して外側に存在する垂直方向のエッジ点を検出するレーン 境界エッジ検出手段と、該レーン境界エッジ検出手段が検出した垂直方向のエッジ 点に適合する曲線の位置を、前記走行レーンの境界線の位置として特定するレーン 境界線位置特定手段とを備えたことを特徴とする路面走行レーン検出装置。
[2] 前記エッジ点検出手段は、前記撮像手段によって撮像した画像上で前記複数のェ ッジ点を検出した後、前記複数のエッジ点の座標値を 3次元路面座標に逆投影して 前記複数のエッジ点として出力するように構成したことを特徴とする請求項 1記載の 路面走行レーン検出装置。
[3] 前記レーン境界エッジ検出手段は、前記エッジヒストグラム作成手段が作成した前 記垂直方向エッジヒストグラムにお 、て、プラスエッジヒストグラムピークとマイナスエツ ジヒストグラムピークとの間の垂直方向の領域力 各ブロック線間の隙間に相当するこ とに基づき、各ブロック線間の隙間にてレーン境界線のエッジを検出するように構成 したことを特徴とする請求項 1記載の路面走行レーン検出装置。
[4] 前記レーン境界線位置特定手段は、前記レーン境界エッジ検出手段が検出した垂 直方向のエッジ点に対し複数の直線を含む曲線をあてはめて、曲線フィッティングを 行うように構成したことを特徴とする請求項 1記載の路面走行レーン検出装置。
[5] 前記レーン境界線位置特定手段は、 RANSAC, Hough変換、及び最小自乗法の 何れかを用いて前記曲線フィッティングを行うように構成したことを特徴とする請求項 4記載の路面走行レーン検出装置。
[6] 撮像手段によって路面を連続して撮像した画像から走行レーンを検出する路面走 行レーン検出装置において、画像中の輪郭線力 複数のエッジ点を検出するエッジ 点検出手段と、該エッジ点検出手段で検出した複数のエッジ点の垂直成分に対し水 平方向エッジヒストグラムを作成するエッジヒストグラム作成手段と、該エッジヒストグラ ム作成手段が作成した水平方向エッジヒストグラムにおける分布の周期性とプラスェ ッジ及びマイナスエッジの分布の組み合わせに基づきブロック状の標示線の有無を 判定すると共に、該ブロック状の標示線の存在範囲を特定するブロック標示線判定 手段と、該ブロック標示線判定手段が特定したブロック状の標示線の存在範囲の、前 記走行レーンの中心に対して外側に存在する垂直方向のエッジ点を検出するレーン 境界エッジ検出手段と、該レーン境界エッジ検出手段が検出した垂直方向のエッジ 点に適合する曲線の位置を、前記走行レーンの境界線の位置として特定するレーン 境界線位置特定手段とを備えたことを特徴とする路面走行レーン検出装置。
[7] 前記エッジ点検出手段は、前記撮像手段によって撮像した画像上で前記複数のェ ッジ点を検出した後、前記複数のエッジ点の座標値を 3次元路面座標に逆投影して 前記複数のエッジ点として出力するように構成したことを特徴とする請求項 6記載の 路面走行レーン検出装置。
[8] 前記レーン境界線位置特定手段は、前記レーン境界エッジ検出手段が検出した垂 直方向のエッジ点に対し複数の直線を含む曲線をあてはめて、曲線フィッティングを 行うように構成したことを特徴とする請求項 6記載の路面走行レーン検出装置。
[9] 前記レーン境界線位置特定手段は、 RANSAC, Hough変換、及び最小自乗法の 何れかを用いて前記曲線フィッティングを行うように構成したことを特徴とする請求項 8記載の路面走行レーン検出装置。
[10] 撮像手段によって路面を連続して撮像した画像から走行レーンを検出する路面走 行レーン検出装置において、画像中の輪郭線力 複数のエッジ点を検出するエッジ 点検出手段と、該エッジ点検出手段で検出した複数のエッジ点の水平成分に対して 、垂直方向エッジヒストグラムを作成する垂直方向エッジヒストグラム作成手段と、該 垂直方向エッジヒストグラム作成手段が作成した垂直方向エッジヒストグラムにおける 分布の周期性とプラスエッジ及びマイナスエッジの分布の組み合わせに基づきブロッ ク状の標示線の有無を判定するブロック標示線判定手段と、前記エッジ点検出手段 で検出した複数のエッジ点の垂直成分に対して、水平方向エッジヒストグラムを作成 する水平方向エッジヒストグラム作成手段と、前記ブロック標示線判定手段が前記ブ ロック状の標示線有と判定したときに、前記垂直方向エッジヒストグラム作成手段が作 成した垂直方向エッジヒストグラムが車両の走行に応じて周期的に変化し、且つ前記 水平方向エッジヒストグラム作成手段が作成した水平方向エッジヒストグラムに基づき 前記走行レーンの中心に最も近接すると判定した垂直方向の複数のエッジ点に対し 、前記走行レーンの中心に対して外側に存在する複数のエッジ点に適合する曲線の 位置を、前記走行レーンの境界線の位置として特定するレーン境界線位置特定手 段とを備えたことを特徴とする路面走行レーン検出装置。
[11] 前記エッジ点検出手段は、前記撮像手段によって撮像した画像上で前記複数のェ ッジ点を検出した後、前記複数のエッジ点の座標値を 3次元路面座標に逆投影して 前記複数のエッジ点として出力するように構成したことを特徴とする請求項 10記載の 路面走行レーン検出装置。
[12] 前記レーン境界線位置特定手段は、前記垂直方向の複数のエッジ点に対し複数 の直線を含む曲線をあてはめて、曲線フィッティングを行うように構成したことを特徴 とする請求項 10記載の路面走行レーン検出装置。
[13] 前記レーン境界線位置特定手段は、 RANSAC, Hough変換、及び最小自乗法の 何れかを用いて前記曲線フィッティングを行うように構成したことを特徴とする請求項
12記載の路面走行レーン検出装置。
PCT/JP2004/013803 2003-09-24 2004-09-22 路面走行レーン検出装置 WO2005029441A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP04787986A EP1667086B1 (en) 2003-09-24 2004-09-22 Device for detecting road traveling lane
US10/572,957 US7583816B2 (en) 2003-09-24 2004-09-22 Device for detecting a road traveling lane using an edge histogram
DE602004032450T DE602004032450D1 (de) 2003-09-24 2004-09-22 Einrichtung zur erkennung der strassenreise

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2003-331357 2003-09-24
JP2003331357A JP3864945B2 (ja) 2003-09-24 2003-09-24 路面走行レーン検出装置

Publications (1)

Publication Number Publication Date
WO2005029441A1 true WO2005029441A1 (ja) 2005-03-31

Family

ID=34373040

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2004/013803 WO2005029441A1 (ja) 2003-09-24 2004-09-22 路面走行レーン検出装置

Country Status (7)

Country Link
US (1) US7583816B2 (ja)
EP (1) EP1667086B1 (ja)
JP (1) JP3864945B2 (ja)
KR (1) KR100741739B1 (ja)
CN (1) CN100424724C (ja)
DE (1) DE602004032450D1 (ja)
WO (1) WO2005029441A1 (ja)

Families Citing this family (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005044979A1 (de) * 2005-09-20 2007-03-22 Adc Automotive Distance Control Systems Gmbh Verfahren zur Erkennung von Fahrspurmarkierungen
JP4607193B2 (ja) * 2005-12-28 2011-01-05 本田技研工業株式会社 車両及びレーンマーク検出装置
FR2906914B1 (fr) * 2006-10-09 2009-01-23 Renault Sas Procede de detection de la position des marquages sur route et systeme correspondant
JP4240107B2 (ja) * 2006-10-27 2009-03-18 コニカミノルタビジネステクノロジーズ株式会社 領域判定方法、領域判定装置、画像処理装置、およびコンピュータプログラム
US8050458B2 (en) * 2007-06-18 2011-11-01 Honda Elesys Co., Ltd. Frontal view imaging and control device installed on movable object
JP4506790B2 (ja) * 2007-07-05 2010-07-21 アイシン・エィ・ダブリュ株式会社 道路情報生成装置、道路情報生成方法および道路情報生成プログラム
JP4710981B2 (ja) * 2009-01-23 2011-06-29 トヨタ自動車株式会社 区画線認識装置、及び当該装置で用いられる区画線認識方法
DE102009003697A1 (de) * 2009-03-30 2010-10-07 Conti Temic Microelectronic Gmbh Verfahren und Vorrichtung zur Fahrspurerkennung
CN101567086B (zh) * 2009-06-03 2014-01-08 北京中星微电子有限公司 一种车道线检测方法及其设备
EP2316705B1 (en) * 2009-10-28 2012-06-20 Honda Research Institute Europe GmbH Behavior-based learning of visual characteristics from real-world traffic scenes for driver assistance systems
JP5716671B2 (ja) * 2009-11-25 2015-05-13 日本電気株式会社 走路認識装置、車両、走路認識方法及び走路認識プログラム
KR101178507B1 (ko) * 2010-08-16 2012-09-07 포항공과대학교 산학협력단 도로 표식 인식 시스템 및 방법
JP5258859B2 (ja) 2010-09-24 2013-08-07 株式会社豊田中央研究所 走路推定装置及びプログラム
JP5716443B2 (ja) * 2011-02-16 2015-05-13 日産自動車株式会社 車線境界検出装置及び車線境界検出方法
RU2549595C2 (ru) * 2011-02-21 2015-04-27 Ниссан Мотор Ко., Лтд. Система обнаружения периодических стационарных объектов и способ обнаружения периодических стационарных объектов
JP5677900B2 (ja) * 2011-06-29 2015-02-25 株式会社日本自動車部品総合研究所 車載白線認識装置
US9098751B2 (en) * 2011-07-27 2015-08-04 Gentex Corporation System and method for periodic lane marker identification and tracking
JP5920647B2 (ja) * 2011-10-26 2016-05-18 いすゞ自動車株式会社 車線判別装置
KR101392850B1 (ko) * 2012-04-04 2014-05-09 모본주식회사 영상인식 기반의 차선 이탈 감지 방법 및 시스템
JP2013228944A (ja) 2012-04-26 2013-11-07 Nippon Soken Inc 走行区画線認識装置
CN102968770A (zh) * 2012-11-30 2013-03-13 华为技术有限公司 噪声消除方法及装置
CN104424808B (zh) * 2013-08-27 2016-12-28 上海博泰悦臻电子设备制造有限公司 一种导航提示方法及装置、导航***
DE102014210411A1 (de) * 2013-09-06 2015-03-12 Robert Bosch Gmbh Verfahren und Steuer- und Erfassungseinrichtung zum Plausibilisieren einer Falschfahrt eines Kraftfahrzeugs
JP6163453B2 (ja) * 2014-05-19 2017-07-12 本田技研工業株式会社 物体検出装置、運転支援装置、物体検出方法、および物体検出プログラム
US9417154B2 (en) * 2014-05-20 2016-08-16 Trimble Navigation Limited Monitoring a response of a bridge based on a position of a vehicle crossing the bridge
JP6483446B2 (ja) * 2015-01-15 2019-03-13 トヨタ自動車株式会社 複合線判定装置及び複合線判定方法
CN108885831B (zh) * 2016-03-24 2020-04-14 日产自动车株式会社 行进路检测方法及行进路检测装置
CN105957182B (zh) * 2016-04-21 2018-08-03 深圳市元征科技股份有限公司 一种修正指示车辆行驶的直线方向的方法及装置
JP6776717B2 (ja) * 2016-08-12 2020-10-28 トヨタ自動車株式会社 道路区画線検出装置
CN106407893B (zh) * 2016-08-29 2019-11-22 东软集团股份有限公司 一种检测车道线的方法、装置和设备
JP6547969B2 (ja) * 2016-11-30 2019-07-24 トヨタ自動車株式会社 車両運転支援装置
IT201600132670A1 (it) 2016-12-30 2018-06-30 St Microelectronics Srl Procedimento per generare un avvertimento di abbandono corsia in un veicolo, relativo sistema e prodotto informatico
CN108248506A (zh) * 2018-01-26 2018-07-06 浙江力邦合信智能制动***股份有限公司 一种汽车主动安全***、中央控制单元及控制方法
US10614320B2 (en) 2018-04-03 2020-04-07 Honda Motor Co., Ltd. System and method for advanced highway lane detection
EP3819897B1 (en) * 2018-07-02 2023-05-10 Nissan Motor Co., Ltd. Driving support method and driving support device
CN110414385B (zh) * 2019-07-12 2021-06-25 淮阴工学院 一种基于单应性变换和特征窗口的车道线检测方法及***

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08249597A (ja) * 1995-03-15 1996-09-27 Nissan Motor Co Ltd 道路形状検出装置
JPH1185999A (ja) * 1997-09-13 1999-03-30 Honda Motor Co Ltd 車両用白線検出装置
JP2003030626A (ja) * 2001-07-18 2003-01-31 Toshiba Corp 画像処理装置及びその方法
JP2003228711A (ja) * 2001-11-30 2003-08-15 Hitachi Ltd レーンマーク認識方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01185999A (ja) * 1988-01-21 1989-07-25 Mitsubishi Electric Corp 部品供給装置用スティックローダ
US5359666A (en) * 1988-09-28 1994-10-25 Honda Giken Kogyo Kabushiki Kaisha Driving way judging device and method
JP3169483B2 (ja) * 1993-06-25 2001-05-28 富士通株式会社 道路環境認識装置
EP0740163B1 (en) 1995-04-25 2005-12-14 Matsushita Electric Industrial Co., Ltd. Local positioning apparatus for detecting a local position of an automobile on a road
JP3993259B2 (ja) * 1996-07-31 2007-10-17 アイシン精機株式会社 画像処理装置
US5991427A (en) * 1996-07-31 1999-11-23 Aisin Seiki Kabushiki Kaisha Method and apparatus for detecting a lane on a road
JPH1067252A (ja) * 1996-08-29 1998-03-10 Aisin Seiki Co Ltd 車両走行状態検出装置
JP3373773B2 (ja) * 1998-01-27 2003-02-04 株式会社デンソー レーンマーク認識装置、車両走行制御装置および記録媒体
JP3463858B2 (ja) * 1998-08-27 2003-11-05 矢崎総業株式会社 周辺監視装置及び方法
JP2001101415A (ja) * 1999-09-29 2001-04-13 Fujitsu Ten Ltd 画像認識装置および画像処理装置
JP2001134772A (ja) * 1999-11-04 2001-05-18 Honda Motor Co Ltd 対象物認識装置
JP2001134769A (ja) * 1999-11-04 2001-05-18 Honda Motor Co Ltd 対象物認識装置
JP4205825B2 (ja) * 1999-11-04 2009-01-07 本田技研工業株式会社 対象物認識装置
CN1351317A (zh) * 2000-10-27 2002-05-29 新鼎***股份有限公司 图像检测***与方法
JP2002140696A (ja) 2000-11-06 2002-05-17 Toyota Central Res & Dev Lab Inc 撮像及び画像変換装置
JP3818641B2 (ja) 2001-11-30 2006-09-06 トヨタ自動車株式会社 車両用走路判定装置および車両制御装置
JP4032727B2 (ja) 2001-12-12 2008-01-16 アイシン精機株式会社 車線境界検出装置
JP3854143B2 (ja) 2001-12-18 2006-12-06 アイシン精機株式会社 車線境界検出装置
JP3662218B2 (ja) 2001-12-18 2005-06-22 アイシン精機株式会社 車線境界検出装置
JP3861781B2 (ja) * 2002-09-17 2006-12-20 日産自動車株式会社 前方車両追跡システムおよび前方車両追跡方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08249597A (ja) * 1995-03-15 1996-09-27 Nissan Motor Co Ltd 道路形状検出装置
JPH1185999A (ja) * 1997-09-13 1999-03-30 Honda Motor Co Ltd 車両用白線検出装置
JP2003030626A (ja) * 2001-07-18 2003-01-31 Toshiba Corp 画像処理装置及びその方法
JP2003228711A (ja) * 2001-11-30 2003-08-15 Hitachi Ltd レーンマーク認識方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP1667086A4 *

Also Published As

Publication number Publication date
KR20060057005A (ko) 2006-05-25
JP3864945B2 (ja) 2007-01-10
CN1836267A (zh) 2006-09-20
KR100741739B1 (ko) 2007-07-24
EP1667086A4 (en) 2007-02-07
CN100424724C (zh) 2008-10-08
DE602004032450D1 (de) 2011-06-09
US7583816B2 (en) 2009-09-01
EP1667086B1 (en) 2011-04-27
EP1667086A1 (en) 2006-06-07
JP2005100001A (ja) 2005-04-14
US20070107965A1 (en) 2007-05-17

Similar Documents

Publication Publication Date Title
WO2005029441A1 (ja) 路面走行レーン検出装置
JP3956926B2 (ja) 路面走行レーン検出装置
JP4650079B2 (ja) 物体検出装置、および方法
US7046822B1 (en) Method of detecting objects within a wide range of a road vehicle
CN109997148B (zh) 信息处理装置、成像装置、设备控制***、移动对象、信息处理方法和计算机可读记录介质
US20100110193A1 (en) Lane recognition device, vehicle, lane recognition method, and lane recognition program
JP2006268097A (ja) 車載物体検出装置、および物体検出方法
KR102491527B1 (ko) 카메라 영상에서 대상의 감지
JP2002024986A (ja) 歩行者検出装置
JPH11351862A (ja) 前方車両検出方法及び装置
JP2003051015A (ja) 環境認識装置
JP3629935B2 (ja) 移動体の速度計測方法およびその方法を用いた速度計測装置
JP3586938B2 (ja) 車載用距離測定装置
JP2002008019A (ja) 軌道認識装置及び軌道認識装置を用いた鉄道車両
JPH1011585A (ja) 物体検出装置
JP4106163B2 (ja) 障害物検出装置及びその方法
JP6143176B2 (ja) 停止線検出装置、移動体制御装置及び停止線検出用プログラム
JP2018088234A (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、及びプログラム
JP2003322522A (ja) 車間距離検出装置及び検出方法
JP2008249517A (ja) 障害物検知装置
Liu et al. An improved vision-based lane departure warning system under high speed driving condition
US20230094672A1 (en) Three-dimensional-object detection device, on-vehicle system, and three-dimensional-object detection method
JPH09240397A (ja) 後側方車両の報知装置
KR20240081060A (ko) 영상속 객체의 시각적 표지를 보정하는 방법 및 그 장치
JP2003317105A (ja) 走行路認識装置

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200480023596.1

Country of ref document: CN

AK Designated states

Kind code of ref document: A1

Designated state(s): AE AG AL AM AT AU AZ BA BB BG BW BY BZ CA CH CN CO CR CU CZ DK DM DZ EC EE EG ES FI GB GD GE GM HR HU ID IL IN IS KE KG KP KR LC LK LR LS LT LU LV MA MD MG MN MW MX MZ NA NI NO NZ OM PG PL PT RO RU SC SD SE SG SK SL SY TM TN TR TT TZ UA UG US UZ VC YU ZA ZM

AL Designated countries for regional patents

Kind code of ref document: A1

Designated state(s): BW GH GM KE LS MW MZ NA SD SZ TZ UG ZM ZW AM AZ BY KG MD RU TJ TM AT BE BG CH CY DE DK EE ES FI FR GB GR HU IE IT MC NL PL PT RO SE SI SK TR BF CF CG CI CM GA GN GQ GW ML MR SN TD TG

121 Ep: the epo has been informed by wipo that ep was designated in this application
WWE Wipo information: entry into national phase

Ref document number: 2004787986

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 1020067004537

Country of ref document: KR

WWE Wipo information: entry into national phase

Ref document number: 2007107965

Country of ref document: US

Ref document number: 10572957

Country of ref document: US

WWP Wipo information: published in national office

Ref document number: 1020067004537

Country of ref document: KR

WWP Wipo information: published in national office

Ref document number: 2004787986

Country of ref document: EP

WWP Wipo information: published in national office

Ref document number: 10572957

Country of ref document: US