JP4753053B2 - Object type determination apparatus, object type determination method, and object type determination program - Google Patents
Object type determination apparatus, object type determination method, and object type determination program Download PDFInfo
- Publication number
- JP4753053B2 JP4753053B2 JP2008035079A JP2008035079A JP4753053B2 JP 4753053 B2 JP4753053 B2 JP 4753053B2 JP 2008035079 A JP2008035079 A JP 2008035079A JP 2008035079 A JP2008035079 A JP 2008035079A JP 4753053 B2 JP4753053 B2 JP 4753053B2
- Authority
- JP
- Japan
- Prior art keywords
- sequence data
- point sequence
- detection
- extracted
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Traffic Control Systems (AREA)
- Radar Systems Or Details Thereof (AREA)
Description
本発明は、レーダによる検出結果に基づいて物体の種別を判定する装置、方法、及びその装置の処理をコンピュータに実行させるためのプログラムに関する。 The present invention relates to an apparatus and method for determining the type of an object based on a detection result by a radar, and a program for causing a computer to execute processing of the apparatus.
近年、レーダによる検出結果に基づいて、例えば車両が走行する道路上及びその周囲に存在する物体を認識し、その認識結果に応じて、運転者への情報提示や車両の走行制御を行う技術が知られている(例えば、特許文献1を参照)。 In recent years, based on detection results by radar, for example, a technology for recognizing an object existing on and around a road on which a vehicle travels and performing information presentation to a driver and vehicle travel control according to the recognition result. It is known (see, for example, Patent Document 1).
特許文献1の物体種別判別装置は車両に搭載され、車両前方に電磁波を走査させ、その反射電磁波をもとに物体を複数の検出点の点列として検出する物体検出手段(スキャンニングレーザレーダ)による検出結果に、撮像手段(カメラ)により撮像された画像にエッジ検出処理を行った処理結果を組み合わせることで、物体の種別を判別している。具体的には、この物体種別判別装置では、物体検出手段により検出される点列で示される物体について、エッジ画像から得られる当該物体に対応するエッジが、車両の高さに相当する高さ位置よりも上方にある場合に、当該物体を車両の走行の妨げにならない物体と判別する。このとき、車両の高さは、カメラの取り付け位置、角度、光学系の倍率等のカメラパラメータに基づいて算出される。
しかしながら、特許文献1の種別判別装置では、画像上に様々な物体が撮像されている場合や画像のコントラストが低い場合には、エッジ検出処理により物体のエッジが適切に得られず、レーダで検出された物体の種別の判別が適切に行われない可能性がある。 However, in the type discrimination device of Patent Document 1, when various objects are captured on the image or when the contrast of the image is low, the edge of the object cannot be obtained properly by the edge detection process, and is detected by the radar. There is a possibility that the type of the selected object is not properly determined.
また、特許文献1では、カメラの姿勢が既知であることを仮定して車両の高さを算出しているが、車両等の移動体にカメラが搭載されている場合、ピッチング等によりカメラの姿勢が変化することとなるため、高さが精度良く算出されず、レーダで検出された物体の種別の判別が適切に行われないという問題がある。 In Patent Document 1, the height of the vehicle is calculated on the assumption that the posture of the camera is known. However, when the camera is mounted on a moving body such as a vehicle, the posture of the camera is determined by pitching or the like. Therefore, there is a problem that the height is not accurately calculated, and the type of the object detected by the radar is not properly determined.
本発明は、かかる背景に鑑みてなされたものであり、レーダによる検出結果に基づいて、車両等の物体の種別を適切に判定することができる物体種別判定装置、物体種別判定方法、及び該物体種別判定装置の処理をコンピュータに実行させる物体種別判定用プログラムを提供することを目的とする。 The present invention has been made in view of such a background, and an object type determination device, an object type determination method, and the object that can appropriately determine the type of an object such as a vehicle based on a detection result by a radar. It is an object of the present invention to provide an object type determination program that causes a computer to execute processing of a type determination device.
本発明は、レーダにより周辺領域に電磁波を照射して該電磁波の反射波を受信し、該反射波による該周辺領域に存在する物体の検出結果に基づいて、該物体の種別を判定する物体種別判定装置において、前記レーダにより複数の方位角に電磁波を照射し、それぞれの方位角における物体の検出点を取得する検出点取得手段と、前記取得された複数の検出点のうち、同一の物体についての検出点であると想定される検出点をグループ化して、点列データとして抽出する点列データ抽出手段と、前記点列データ抽出手段により抽出された点列データが、前記方位角が増加又は減少するに従って、前記検出点の前記レーダからの距離が直線的に減少する第1の状態から直線的に増加する第2の状態に切り替わる変位特性を有するか否かを認識する変位特性認識手段と、前記変位特性認識手段による認識結果に応じて、前記点列データが抽出された物体の種別を判断する種別判断手段とを備え、
前記検出点取得手段は、前記検出点の位置を、前記レーダの前後方向と該前後方向に直交する水平方向とで定まる座標平面に変換して取得し、前記変位特性認識手段は、前記座標平面上で、前記点列データ抽出手段により抽出された点列データから直線成分を抽出し、該直線成分が2以上抽出された場合に、該抽出された2つの直線成分が交点を有するとき、前記点列データが前記変位特性を有すると認識することを特徴とする(第1発明)。
The present invention relates to an object type that radiates an electromagnetic wave to a peripheral region by a radar, receives a reflected wave of the electromagnetic wave, and determines the type of the object based on a detection result of the object existing in the peripheral region by the reflected wave In the determination apparatus, a detection point acquisition unit that irradiates electromagnetic waves to a plurality of azimuth angles by the radar and acquires detection points of objects at the respective azimuth angles, and the same object among the plurality of acquired detection points The detection points that are assumed to be detection points are grouped and extracted as point sequence data, and the point sequence data extracted by the point sequence data extraction unit increases the azimuth angle or As the distance decreases, it is recognized whether the detection point has a displacement characteristic that switches from a first state in which the distance from the radar linearly decreases to a second state in which the distance increases linearly. A characteristic recognizing section, in accordance with the recognition result of the displacement characteristic recognizing section, a type determination means for determining a type of an object the point sequence data has been extracted,
The detection point acquisition unit converts the position of the detection point into a coordinate plane determined by a front-rear direction of the radar and a horizontal direction orthogonal to the front-rear direction, and acquires the displacement characteristic recognition unit. In the above, when a linear component is extracted from the point sequence data extracted by the point sequence data extraction means, and two or more linear components are extracted, when the two extracted linear components have intersections, It is recognized that the point sequence data has the displacement characteristic (first invention).
第1発明の物体種別判定装置では、レーダから照射された電磁波が周辺に存在する物体で反射し、この反射波により物体のレーダからの距離と方位角とが検出される。このとき、レーダにより複数の方位角に電磁波を照射し、検出点取得手段は、それぞれの方位角における物体の検出点を取得する。そして、点列データ抽出手段は、この検出点のうち、同一の物体についての検出点であると想定される検出点をグループ化して、点列データとして抽出する。物体には、例えば、人、車両、建築物等の様々な種別のものが含まれる。このとき、人等の生体は、一般に複雑な曲面体形状で構成されるのに対して、車両等の人工構造物は、複数の頂点を結ぶ直線の辺と、その辺に囲まれた面によって構成される多面体形状(特に、直方体形状)で構成されることが多い。 In the object type determination apparatus according to the first aspect of the invention, the electromagnetic wave emitted from the radar is reflected by an object existing in the vicinity, and the distance and azimuth angle of the object from the radar are detected by the reflected wave. At this time, the radar irradiates electromagnetic waves to a plurality of azimuth angles, and the detection point acquisition means acquires the detection points of the objects at the respective azimuth angles. Then, the point sequence data extraction unit groups detection points that are assumed to be detection points for the same object among the detection points, and extracts them as point sequence data. Examples of the object include various types such as a person, a vehicle, and a building. At this time, a living body such as a human is generally configured with a complicated curved body shape, whereas an artificial structure such as a vehicle has a straight side connecting a plurality of vertices and a surface surrounded by the side. It is often configured with a polyhedral shape (particularly a rectangular parallelepiped shape).
そこで、変位特性認識手段により、点列データが、方位角が増加又は減少するに従って、検出点のレーダからの距離が直線的に減少する第1の状態から直線的に増加する第2の状態に切り替わる変位特性を有するか否かを認識する。すなわち、この変位特性を有することにより、点列データが抽出された物体の形状が、複数の直線とその頂点とを有することが把握される。したがって、このような変位特性を有する場合は、物体の表面形状が多面体形状であることを示すので、物体の種別が車両等の人工構造物の可能性が高い。よって、変位特性認識手段による認識結果に応じて、種別判断手段により、点列データが抽出された物体の種別を判断することができる。 Therefore, the displacement characteristic recognition means changes the point sequence data from the first state in which the distance from the radar to the detection point linearly decreases to the second state in which the distance from the radar increases linearly as the azimuth angle increases or decreases. It recognizes whether or not it has a displacement characteristic to be switched. That is, by having this displacement characteristic, it is understood that the shape of the object from which the point sequence data is extracted has a plurality of straight lines and their vertices. Therefore, since it has such a displacement characteristic, it indicates that the surface shape of the object is a polyhedron shape, and therefore the possibility that the object type is an artificial structure such as a vehicle is high. Therefore, the type of the object from which the point sequence data is extracted can be determined by the type determination unit according to the recognition result by the displacement characteristic recognition unit.
また、検出点の位置を座標変換して処理し、点列データから抽出された2つの直線成分が交点(直線成分を両辺とする頂点)を有するか否かに応じて、点列データが前記変位特性を有するか否かを簡易な処理で判断することができる。 In addition , the coordinate of the position of the detection point is processed, and depending on whether or not the two linear components extracted from the point sequence data have intersections (vertices having the linear component as both sides), the point sequence data is Whether or not it has a displacement characteristic can be determined by a simple process.
上記第1発明の物体種別判定装置において、前記種別判断手段は、前記変位特性認識手段により前記点列データが前記変位特性を有すると認識された場合に、該点列データが抽出された物体が人工構造物であると判断することが好ましい(第2発明)。 In the object type determination device according to the first aspect of the present invention, the type determination unit determines whether the object from which the point sequence data is extracted when the displacement characteristic recognition unit recognizes that the point sequence data has the displacement characteristic. It is preferable to determine that the structure is an artificial structure ( second invention).
第2発明によれば、車両等の人工構造物は直方体形状で構成されることが多いことから、種別判断手段は、点列データが前記変位特性を有すると認識された場合に、点列データが抽出された物体の種別が人工構造物であると判断することができる。 According to the second invention, an artificial structure such as a vehicle is often formed in a rectangular parallelepiped shape. Therefore, the type determining means can detect the point sequence data when the point sequence data is recognized as having the displacement characteristic. It can be determined that the type of the object from which is extracted is an artificial structure.
また、第1又は第2発明の物体種別判定装置において、赤外線撮像手段と、前記赤外線撮像手段により撮像された赤外線画像から、前記変位特性を有する点列データにおいて、前記第1の状態から前記第2の状態に切り替わる検出点に対応する画像領域を特定する画像領域特定手段と、前記画像領域特定手段により特定された画像領域の輝度値が所定値以上か否かを判断する輝度情報判断手段とを備え、前記種別判断手段は、前記輝度情報判断手段の判断結果に基づいて、前記点列データが抽出された物体の種別を判断することが好ましい(第3発明)。 Further, in the object type determination device according to the first or second invention, in the point image data having the displacement characteristics from the infrared imaging unit and the infrared image captured by the infrared imaging unit, the first state from the first state Image area specifying means for specifying an image area corresponding to a detection point that switches to the state of 2, and luminance information determining means for determining whether or not the luminance value of the image area specified by the image area specifying means is equal to or greater than a predetermined value; Preferably, the type determination means determines the type of the object from which the point sequence data is extracted based on the determination result of the luminance information determination means (third invention).
第3発明によれば、赤外線画像から、前記変位特性を有する点列データにおいて、第1の状態から第2の状態に切り替わる検出点(頂点)に対応する画像領域が特定される。このとき、例えば物体の種別が車両である場合、車両の四隅の近傍にはテールライト又はヘッドライトが配置されており、この車両の四隅は点列データから抽出される頂点近傍となる。そして、テールライトやヘッドライトの部分は温度が高いので、赤外線画像上でこれらのライトに対応する画像領域は輝度値が高くなる。そこで、輝度情報判断手段により、この画像領域の輝度値が所定値以上か否かを判断し、この判断結果に基づいて、種別判断手段により、点列データが抽出された物体の種別を判断することができる。 According to the third invention, an image region corresponding to a detection point (vertex) that switches from the first state to the second state is specified from the infrared image in the point sequence data having the displacement characteristics. At this time, for example, when the type of the object is a vehicle, tail lights or headlights are arranged in the vicinity of the four corners of the vehicle, and the four corners of the vehicle are in the vicinity of the vertex extracted from the point sequence data. And since the temperature of the taillight and headlight is high, the luminance value of the image area corresponding to these lights on the infrared image is high. Therefore, the luminance information determining means determines whether the luminance value of the image area is equal to or greater than a predetermined value, and based on the determination result, the type determining means determines the type of the object from which the point sequence data is extracted. be able to.
また、第3発明の物体種別判定装置において、前記種別判断手段は、前記輝度情報判断手段により前記画像領域の輝度値が所定値以上と判断された場合に、前記点列データが抽出された物体が車両であると判断することが好ましい(第4発明)。 In the object type determination device according to the third aspect of the present invention , the type determination unit is configured to extract the point sequence data when the luminance information determination unit determines that the luminance value of the image area is equal to or greater than a predetermined value. Is preferably a vehicle ( fourth invention).
第4発明において、物体の種別が車両である場合、車両の四隅の近傍にはテールライト又はヘッドライトが配置されており、赤外線画像上でこれらのライトに対応する画像領域は輝度値が高くなることから、種別判断手段は、輝度情報判断手段により画像領域の輝度値が所定値以上と判断された場合に、点列データが抽出された物体の種別が車両であると判断することができる。 In the fourth invention, when the type of the object is a vehicle, tail lights or headlights are arranged in the vicinity of the four corners of the vehicle, and the image area corresponding to these lights on the infrared image has a high luminance value. Therefore, the type determining unit can determine that the type of the object from which the point sequence data is extracted is a vehicle when the luminance information determining unit determines that the luminance value of the image area is equal to or greater than a predetermined value.
また、第1〜第4発明のうちいずれかの物体種別判定装置において、前記変位特性を有する点列データにおいて、前記第1の状態から前記第2の状態に切り替わる検出点での前記反射波の強度と、それ以外の検出点での該反射波の強度との差が所定レベル以上か否かを比較する反射強度比較手段を備え、前記種別判断手段は、前記反射強度比較手段による比較結果に基づいて、前記点列データが抽出された物体の種別を判断することが好ましい(第5発明)。 Further, in the object type determination device according to any one of the first to fourth inventions, in the point sequence data having the displacement characteristic, the reflected wave at the detection point at which the first state is switched to the second state. Reflection intensity comparison means for comparing whether or not the difference between the intensity and the intensity of the reflected wave at other detection points is equal to or higher than a predetermined level, and the type determination means includes a comparison result by the reflection intensity comparison means. It is preferable that the type of the object from which the point sequence data is extracted is determined based on the fifth aspect .
第5発明によれば、例えば物体の種別が車両である場合、車両の四隅の近傍にはテールライト又はヘッドライトが配置されており、この車両の四隅は前記変位特性を有する点列データにおいて、第1状態から第2状態に切り替わる検出点(頂点)近傍となる。そして、テールライトやヘッドライトの部分と、他の部分とでは、反射強度が異なる。そこで、反射強度比較手段により、頂点でのレーダの反射強度と、それ以外の検出点でのレーダの反射強度との差が所定レベル以上であるか否かを比較し、この比較結果に基づいて、種別判断手段により、点列データが抽出された物体の種別を判断することができる。 According to the fifth invention, for example, when the type of the object is a vehicle, tail lights or headlights are arranged in the vicinity of the four corners of the vehicle, and the four corners of the vehicle are in the point sequence data having the displacement characteristics, It is near the detection point (vertex) where the first state is switched to the second state. The reflection intensity is different between the taillight or headlight portion and the other portions. Therefore, the reflection intensity comparison means compares whether or not the difference between the radar reflection intensity at the apex and the radar reflection intensity at other detection points is equal to or higher than a predetermined level, and based on this comparison result. The type determination means can determine the type of the object from which the point sequence data is extracted.
また、第5発明の物体種別判定装置において、前記種別判断手段は、前記反射強度比較手段による比較の結果、前記差が所定レベル以上と判断された場合に、前記点列データが抽出された物体が車両であると判断することが好ましい(第6発明)。 Further, in the object type determination device according to the fifth aspect of the present invention, the type determination unit is configured to extract the point sequence data when the difference is determined to be equal to or higher than a predetermined level as a result of comparison by the reflection intensity comparison unit. Is preferably a vehicle (a sixth invention).
第6発明において、物体の種別が車両である場合、車両の四隅の近傍にはテールライト又はヘッドライトが配置されており、テールライトやヘッドライトの部分と、他の部分とでは、反射強度が異なることから、種別判断手段は、比較の結果、頂点での反射強度と、それ以外の検出点での反射強度との差が所定レベル以上と判断された場合に、点列データが抽出された物体の種別が車両であると判断することができる。 In the sixth invention, when the type of the object is a vehicle, a taillight or a headlight is arranged in the vicinity of the four corners of the vehicle, and the reflection intensity is reduced between the taillight and the headlight portion and other portions. As a result of the comparison, the type determination means extracted the point sequence data when it is determined that the difference between the reflection intensity at the vertex and the reflection intensity at the other detection points is equal to or higher than a predetermined level. It can be determined that the type of the object is a vehicle.
また、第1〜第6発明のうちいずれかの物体種別判定装置において、異なる時刻で前記検出点取得手段により取得される複数の検出点を参照して、該異なる時刻間で同一の物体であると想定される検出点についてオプティカルフローを算出するオプティカルフロー算出手段を備え、前記点列データ抽出手段は、前記オプティカルフロー算出手段により算出されたオプティカルフローに基づいて、同じ方向に同じ量だけ移動している検出点を、同一の物体であると想定される検出点として、前記点列データを抽出することが好ましい(第7発明)。 In the object type determination device according to any one of the first to sixth inventions, the plurality of detection points acquired by the detection point acquisition unit at different times are referred to and the same object between the different times. An optical flow calculating means for calculating an optical flow for a detection point assumed to be, and the point sequence data extracting means moves by the same amount in the same direction based on the optical flow calculated by the optical flow calculating means. It is preferable to extract the point sequence data as detection points that are assumed to be the same object ( seventh invention).
第7発明によれば、物体の種別が例えば車両等の人工構造物である場合、歩行者等である場合に比べて、物体の局所的な運動は少なく、物体は一体的に移動すると想定される。よって、同一の物体についての検出点は、それぞれ、この物体の重心移動と同じ方向に同じ量だけ移動すると考えられる。よって、点列データ抽出手段は、異なる時刻間で同一の物体であると想定される検出点について算出されるオプティカルフローに基づいて、同じ方向に同じ量だけ移動している検出点を、同一の物体のものであるとして点列データを抽出することができる。 According to the seventh invention, when the type of the object is an artificial structure such as a vehicle, for example, the local movement of the object is less than that in the case of a pedestrian or the like, and the object is assumed to move integrally. The Therefore, the detection points for the same object are considered to move by the same amount in the same direction as the movement of the center of gravity of the object. Therefore, the point sequence data extraction means uses the same amount of detection points that have moved in the same direction based on the optical flow calculated for detection points that are assumed to be the same object at different times. Point sequence data can be extracted assuming that the object belongs.
また、第1〜第7発明のうちいずれかの物体種別判定装置において、車両に搭載され、該車両の周辺に存在する物体の種別を判定することが好ましい(第8発明)。 In the object type determination device according to any one of the first to seventh inventions, it is preferable to determine the type of an object mounted on a vehicle and existing around the vehicle ( eighth invention).
第8発明によれば、物体種別判定装置は車両に搭載され、レーダにより車両の周辺の物体を検出し、検出結果に基づいて、車両周辺の他車両等の人工構造物の種別を判定することができる。これにより、車両周辺の物体から他車両等の人工構造物を除外して歩行者等を検出し、その検出結果を、運転者への情報の提示や車両の制御に用いることができる。 According to the eighth invention, the object type determination device is mounted on a vehicle, detects an object around the vehicle by a radar, and determines the type of an artificial structure such as another vehicle around the vehicle based on the detection result. Can do. Thereby, pedestrians and the like can be detected by excluding artificial structures such as other vehicles from objects around the vehicle, and the detection result can be used for presenting information to the driver and controlling the vehicle.
次に、本発明の物体種別判定方法は、レーダにより周辺領域に電磁波を照射して該電磁波の反射波を受信し、該反射波による該周辺領域に存在する物体の検出結果に基づいて、該物体の種別を判定する物体種別判定方法であって、
前記レーダにより複数の方位角に電磁波を照射し、それぞれの方位角における物体の検出点を取得する検出点取得ステップと、前記取得された複数の検出点のうち、同一の物体についての検出点であると想定される検出点をグループ化して、点列データとして抽出する点列データ抽出ステップと、前記点列データ抽出ステップにより抽出された点列データが、前記方位角が増加又は減少するに従って、前記検出点の前記レーダからの距離が直線的に減少する第1の状態から直線的に増加する第2の状態に切り替わる変位特性を有するか否かを認識する変位特性認識ステップと、前記変位特性認識ステップによる認識結果に応じて、前記点列データが抽出された物体の種別を判断する種別判断ステップとを備え、
前記検出点取得ステップでは、前記検出点の位置を、前記レーダの前後方向と該前後方向に直交する水平方向とで定まる座標平面に変換して取得し、
前記変位特性認識ステップでは、前記座標平面上で、前記点列データ抽出手段により抽出された点列データから直線成分を抽出し、該直線成分が2以上抽出された場合に、該抽出された2つの直線成分が交点を有するとき、前記点列データが前記変位特性を有すると認識することを特徴とする(第9発明)。
Next, the object type determination method of the present invention receives a reflected wave of the electromagnetic wave by radiating an electromagnetic wave to the peripheral area by a radar, and based on the detection result of the object existing in the peripheral area by the reflected wave, An object type determination method for determining an object type,
A detection point acquisition step of irradiating electromagnetic waves to a plurality of azimuth angles by the radar and acquiring detection points of objects at the respective azimuth angles, and detection points for the same object among the plurality of acquired detection points. By grouping detection points assumed to be present and extracting them as point sequence data, and the point sequence data extracted by the point sequence data extraction step, as the azimuth increases or decreases, A displacement characteristic recognition step for recognizing whether or not the detection point has a displacement characteristic for switching from a first state in which the distance from the radar linearly decreases to a second state in which the distance increases linearly; A type determining step for determining the type of the object from which the point sequence data is extracted according to the recognition result of the recognition step ;
In the detection point acquisition step, the position of the detection point is acquired by converting into a coordinate plane determined by a front-rear direction of the radar and a horizontal direction orthogonal to the front-rear direction,
In the displacement characteristic recognition step, a linear component is extracted from the point sequence data extracted by the point sequence data extraction means on the coordinate plane, and when two or more linear components are extracted, the extracted 2 When the two linear components have intersections, the point sequence data is recognized as having the displacement characteristics ( the ninth invention).
第9発明の物体種別判定方法によれば、第1発明の物体種別判定装置に関して説明したように、変位特性認識ステップで、点列データから変位特性の有無を認識することで、物体の表面形状の特徴が把握できる。よって、変位特性認識ステップによる認識結果に応じて、種別判断ステップにより物体の種別を判断することで、レーダの検出結果から、車両等の物体の種別を適切に判断することができる。また、検出点の位置を座標変換して処理し、点列データから抽出された2つの直線成分が交点(直線成分を両辺とする頂点)を有するか否かに応じて、点列データが前記変位特性を有するか否かを簡易な処理で判断することができる。 According to the object type determination method of the ninth invention, as described with respect to the object type determination device of the first invention, the surface shape of the object is recognized by recognizing the presence or absence of the displacement characteristic from the point sequence data in the displacement characteristic recognition step. The characteristics of can be grasped. Therefore, by determining the type of the object in the type determination step in accordance with the recognition result in the displacement characteristic recognition step, the type of the object such as a vehicle can be appropriately determined from the radar detection result. In addition, the coordinate of the position of the detection point is processed, and depending on whether or not the two linear components extracted from the point sequence data have intersections (vertices having the linear component as both sides), the point sequence data is Whether or not it has a displacement characteristic can be determined by a simple process.
次に、本発明の物体種別判定用プログラムは、レーダにより周辺領域に電磁波を照射して該電磁波の反射波を受信し、該反射波による該周辺領域に存在する物体の検出結果に基づいて、該物体の種別を判定する処理をコンピュータに実行させる物体種別判定用プログラムであって、
前記レーダにより複数の方位角に電磁波を照射し、それぞれの方位角における物体の検出点を取得する検出点取得処理と、前記取得された複数の検出点のうち、同一の物体についての検出点であると想定される検出点をグループ化して、点列データとして抽出する点列データ抽出処理と、前記点列データ抽出手段により抽出された点列データが、前記方位角が増加又は減少するに従って、前記検出点の前記レーダからの距離が直線的に減少する第1の状態から直線的に増加する第2の状態に切り替わる変位特性を有するか否かを認識する変位特性認識処理と、前記変位特性認識手段による認識結果に応じて、前記点列データが抽出された物体の種別を判断する種別判断処理とを前記コンピュータに実行させる機能を有し、
前記検出点取得処理では、前記検出点の位置を、前記レーダの前後方向と該前後方向に直交する水平方向とで定まる座標平面に変換して取得し、
前記変位特性認識処理では、前記座標平面上で、前記点列データ抽出手段により抽出された点列データから直線成分を抽出し、該直線成分が2以上抽出された場合に、該抽出された2つの直線成分が交点を有するとき、前記点列データが前記変位特性を有すると認識することを特徴とする(第10発明)。
Next, the object type determination program of the present invention receives a reflected wave of the electromagnetic wave by radiating an electromagnetic wave to the peripheral area by radar, and based on the detection result of the object existing in the peripheral area by the reflected wave, An object type determination program for causing a computer to execute processing for determining the type of the object,
A detection point acquisition process for irradiating an electromagnetic wave to a plurality of azimuth angles by the radar and acquiring a detection point of an object at each azimuth angle, and a detection point for the same object among the plurality of acquired detection points. By grouping detection points assumed to be present and extracting them as point sequence data, and the point sequence data extracted by the point sequence data extraction means, as the azimuth increases or decreases, A displacement characteristic recognition process for recognizing whether the detection point has a displacement characteristic for switching from a first state in which the distance from the radar linearly decreases to a second state in which the distance increases linearly; depending on the recognition result by the recognition unit, and a type determination process that determines the type of object that the point sequence data are extracted have a function for causing the computer to execute,
In the detection point acquisition process, the position of the detection point is acquired by converting into a coordinate plane determined by a front-rear direction of the radar and a horizontal direction orthogonal to the front-rear direction,
In the displacement characteristic recognition process, a linear component is extracted from the point sequence data extracted by the point sequence data extraction unit on the coordinate plane, and when two or more linear components are extracted, the extracted 2 When the two linear components have intersections, the point sequence data is recognized as having the displacement characteristic ( the tenth invention).
第10発明の物体種別判定用プログラムによれば、第1発明に関して説明した効果を奏し得る処理をコンピュータに実行させることができる。
According to the object type determination program of the tenth aspect of the invention, it is possible to cause a computer to execute a process that can achieve the effects described in regard to the first aspect of the invention.
本発明の一実施形態を、図1〜図5を参照して説明する。図1は、本実施形態による物体種別判定装置の機能ブロック図であり、図2は、図1の物体種別判定装置に備えたミリ波レーダ装置が送信するミリ波のビームを平面視で示す図であり、図3は、図1の物体種別判定装置における物体種別判定処理を示すフローチャートであり、図4は、図3の物体種別判定処理におけるレーダの検出結果に関する説明図であり、図5は、図3の物体種別判定処理におけるレーダの検出結果と処理画像の例である。 An embodiment of the present invention will be described with reference to FIGS. FIG. 1 is a functional block diagram of the object type determination apparatus according to the present embodiment, and FIG. 2 is a diagram showing a plane view of a millimeter wave beam transmitted by the millimeter wave radar apparatus included in the object type determination apparatus of FIG. 3 is a flowchart showing the object type determination process in the object type determination apparatus of FIG. 1, FIG. 4 is an explanatory diagram regarding the radar detection result in the object type determination process of FIG. 3, and FIG. FIG. 4 is an example of a radar detection result and a processed image in the object type determination process of FIG. 3.
図1を参照して、本実施形態の物体種別判定装置は、CPU(中央演算装置)を備えた電子ユニットである画像処理ユニット1を有する。この画像処理ユニット1には、車両の前方の画像を撮像する撮像装置としての赤外線カメラ2と、ミリ波レーダ装置20とが接続されている。また、画像処理ユニット1には、音声などによる聴覚的な注意喚起情報を出力するためのスピーカ6と、赤外線カメラ2により撮像された画像や視覚的な注意喚起情報を表示するための表示装置7とが接続されている。 Referring to FIG. 1, the object type determination device of the present embodiment includes an image processing unit 1 that is an electronic unit including a CPU (Central Processing Unit). The image processing unit 1 is connected to an infrared camera 2 as an imaging device that captures an image ahead of the vehicle and a millimeter wave radar device 20. The image processing unit 1 also includes a speaker 6 for outputting auditory alert information such as voice, and a display device 7 for displaying an image captured by the infrared camera 2 and visual alert information. And are connected.
赤外線カメラ2は、自車両10の前方を撮像するために、自車両10の前部に取り付けられている。赤外線カメラ2は、遠赤外線を検出可能なカメラであり、物体の温度が高いほど、その出力信号レベルが高くなる(輝度が増加する)特性を有している。赤外線カメラ2は、本発明の赤外線撮像手段に相当する。 The infrared camera 2 is attached to the front portion of the host vehicle 10 in order to image the front of the host vehicle 10. The infrared camera 2 is a camera that can detect far-infrared rays, and has a characteristic that an output signal level increases (brightness increases) as an object temperature increases. The infrared camera 2 corresponds to the infrared imaging means of the present invention.
また、ミリ波レーダ装置20は、自車両10の前部で、赤外線カメラ2の上側に取り付けられている。ミリ波レーダ装置20は、ミリ波のビームを自車両10の前方に送信し、このミリ波の反射波(自車両10の前方に存在する物体で反射されたミリ波)を受信する。そして、その受信した反射波を基に、自車両10の前方に存在する物体を検出する。ミリ波レーダ装置20は本発明のレーダに相当する。 The millimeter wave radar device 20 is attached to the front side of the host vehicle 10 and above the infrared camera 2. The millimeter wave radar device 20 transmits a millimeter wave beam in front of the host vehicle 10 and receives a reflected wave of the millimeter wave (a millimeter wave reflected by an object existing in front of the host vehicle 10). And the object which exists ahead of the own vehicle 10 is detected based on the received reflected wave. The millimeter wave radar device 20 corresponds to the radar of the present invention.
図2は、ミリ波レーダ装置20が送信するミリ波のビームを平面視で示している。図2を参照して、本実施形態におけるミリ波レーダ装置20は、走査型のレーダ装置であり、図示のように、自車両10の前方に送信するミリ波のビームBMを自車両10の左右方向に走査する(ビームBMの方位角を一定角度づつ、自車両10の左右方向に動かす)。なお、送信するミリ波のビームBMの強度は所定の一定強度である。 FIG. 2 shows a millimeter wave beam transmitted by the millimeter wave radar device 20 in a plan view. Referring to FIG. 2, the millimeter wave radar device 20 in the present embodiment is a scanning radar device, and as shown in the drawing, a millimeter wave beam BM transmitted in front of the host vehicle 10 is transmitted to the left and right sides of the host vehicle 10. Scan in the direction (the azimuth angle of the beam BM is moved in the left-right direction of the host vehicle 10 by a fixed angle). The intensity of the millimeter-wave beam BM to be transmitted is a predetermined constant intensity.
ここで、図2に示すラインL1,L2は、赤外線カメラ2の視野角(水平方向の視野角)の境界線を示しており、これらのラインL1,L2の間の領域が赤外線カメラ2の撮像領域である。そして、ビームBMの幅は、撮像領域よりも小さいが、その走査範囲はこの撮像領域を含むように設定されている。なお、ビームBMの上下方向の幅は、赤外線カメラ2の上下方向の視野角の範囲を含むように設定されている。 Here, lines L1 and L2 shown in FIG. 2 indicate boundaries of the viewing angle (horizontal viewing angle) of the infrared camera 2, and the area between these lines L1 and L2 is the image of the infrared camera 2. It is an area. The width of the beam BM is smaller than the imaging area, but the scanning range is set to include this imaging area. The vertical width of the beam BM is set so as to include the range of the vertical viewing angle of the infrared camera 2.
そして、ミリ波レーダ装置20は、ビームBMを走査しながら(ビームBMの方位角を一定角度ずつ動かしながら)、各方位角へのビームBMの送信時に、上下方向に配列された図示しない複数の受信アンテナでミリ波の反射波を受信し、その受信した反射波のうちの所定の強度以上の反射波を基に、ビームBMの送信方向に存在する物体を検出する。この場合、ミリ波レーダ装置20は、送信波(送信したミリ波)と受信波(受信したミリ波)との時間差を基に、ミリ波を反射した物体の自車両10からの距離(ミリ波レーダ装置20からの距離)を検出し、また、反射波を受信したときのビームBMの方位角を基に、物体の自車両10に対する方位角を検出する。なお、ミリ波レーダ装置20による、物体の距離や方位角の検出手法の詳細は公知であるので、本明細書での詳細な説明は省略する。 Then, the millimeter wave radar device 20 scans the beam BM (moving the azimuth angle of the beam BM by a fixed angle) and transmits a plurality of beams (not shown) arranged in the vertical direction when transmitting the beam BM to each azimuth angle. A millimeter-wave reflected wave is received by the receiving antenna, and an object present in the transmission direction of the beam BM is detected based on a reflected wave having a predetermined intensity or more among the received reflected waves. In this case, the millimeter wave radar device 20 determines the distance (millimeter wave) of the object reflecting the millimeter wave from the host vehicle 10 based on the time difference between the transmitted wave (transmitted millimeter wave) and the received wave (received millimeter wave). The distance from the radar device 20) is detected, and the azimuth of the object relative to the host vehicle 10 is detected based on the azimuth of the beam BM when the reflected wave is received. The details of the method for detecting the distance and azimuth of the object by the millimeter wave radar device 20 are known, and detailed description thereof will be omitted.
ミリ波レーダ装置20は、上記の如く検出した物体の自車両10からの距離を示すデータと、該物体の方位角を示すデータとを画像処理ユニット1に出力する。 The millimeter wave radar device 20 outputs data indicating the distance of the object detected as described above from the host vehicle 10 and data indicating the azimuth angle of the object to the image processing unit 1.
画像処理ユニット1は、詳細の図示は省略するが、A/D変換回路、CPU、RAM、ROM、画像メモリ等を含む電子回路により構成され、赤外線カメラ2の出力(アナログ信号)が入力され、A/D変換回路を介してデジタル信号に変換されると共に、ミリ波レーダ装置20の検出データも入力される。そして、画像処理ユニット1は、所定の演算処理周期毎に、入力されたデータを基に、歩行者等の物体を検出する処理や、その検出した物体に関してスピーカ6や表示装置7を介して運転者に注意喚起(物体に対する運転者の注意の喚起)を行う処理等を実行する。これらの処理は、画像処理ユニット1のROMに予め実装されたプログラムを画像処理ユニット1により実行することにより実現され、そのプログラムは、本発明の物体種別判定用プログラムを含んでいる。 The image processing unit 1 is configured by an electronic circuit including an A / D conversion circuit, a CPU, a RAM, a ROM, an image memory, etc., although details are not shown, and an output (analog signal) of the infrared camera 2 is input. While being converted into a digital signal via the A / D conversion circuit, detection data of the millimeter wave radar device 20 is also inputted. Then, the image processing unit 1 performs processing for detecting an object such as a pedestrian based on the input data and driving the detected object via the speaker 6 and the display device 7 for each predetermined arithmetic processing cycle. A process for alerting the driver (calling the driver's attention to the object) is executed. These processes are realized by causing the image processing unit 1 to execute a program pre-installed in the ROM of the image processing unit 1, and the program includes the object type determination program of the present invention.
より詳しくは、画像処理ユニット1は、上記プログラムにより処理を実行させる機能として、検出点取得手段11と、点列データ抽出手段12と、変位特性認識手段13と、種別判断手段14と、画像領域特定手段15と、輝度情報判断手段16と、反射強度比較手段17と、オプティカルフロー算出手段18とを備える。各機能の詳細については以下で説明する。 More specifically, the image processing unit 1 includes a detection point acquisition unit 11, a point sequence data extraction unit 12, a displacement characteristic recognition unit 13, a type determination unit 14, The identification unit 15, the luminance information determination unit 16, the reflection intensity comparison unit 17, and the optical flow calculation unit 18 are provided. Details of each function will be described below.
次に、本実施形態の物体種別判定装置による作動(物体種別判定処理)を、図3に示したフローチャートに従って説明する。図3を参照して、画像処理ユニット1は、所定の演算処理周期毎に、STEP1〜12の処理を繰り返して、物体種別判定処理を実行する。 Next, the operation (object type determination process) performed by the object type determination device of this embodiment will be described with reference to the flowchart shown in FIG. With reference to FIG. 3, the image processing unit 1 executes the object type determination process by repeating the processes of STEPs 1 to 12 for each predetermined calculation processing cycle.
まず、STEP1で、画像処理ユニット1は、ミリ波レーダ装置20の出力データを読み込む。この場合、読み込まれる出力データは、ミリ波レーダ装置20で各ビームBMに対応して検出された物体の自車両10からの距離と、自車両10に対する方位角との検出データである。 First, in STEP 1, the image processing unit 1 reads output data of the millimeter wave radar device 20. In this case, the read output data is detection data of the distance of the object detected by the millimeter wave radar device 20 corresponding to each beam BM from the host vehicle 10 and the azimuth angle with respect to the host vehicle 10.
次に、STEP2で、画像処理ユニット1の検出点取得手段11は、ミリ波レーダ装置20による検出結果として、電磁波が照射されたそれぞれの方位角における物体の検出点を取得する。詳細には、検出点取得手段11は、検出点の位置として、ミリ波レーダ装置20により検出される物体の、自車両10からの距離と、自車両10に対する方位角との検出データとを、ミリ波レーダ装置20の前後方向(自車両10の前後方向)をZ軸、該前後方向に直交する水平方向(自車両10の車幅方向)をX軸とするXZ平面座標に座標変換して取得する。 Next, in STEP 2, the detection point acquisition means 11 of the image processing unit 1 acquires the detection points of the objects at the respective azimuth angles irradiated with the electromagnetic waves as detection results by the millimeter wave radar device 20. Specifically, the detection point acquisition unit 11 uses, as the position of the detection point, detection data of the distance of the object detected by the millimeter wave radar device 20 from the host vehicle 10 and the azimuth angle with respect to the host vehicle 10. The millimeter wave radar device 20 is coordinate-converted into XZ plane coordinates with the front-rear direction (front-rear direction of the host vehicle 10) as the Z-axis and the horizontal direction (vehicle width direction of the host vehicle 10) orthogonal to the front-rear direction as the X-axis get.
ここで、図4に、ミリ波レーダ装置20による検出結果から取得された検出点のデータを例示する。図4(a)に、自車両10から前方を見た図を模式的に示す。図4(a)に示すように、自車両10の前方には、他車両Aと電柱Bと塀Cが存在する。このとき、ミリ波レーダ装置20により検出された距離及び方位角から、図4(b)に示すように、自車両10の前後方向をZ軸、自車両10の車幅方向をX軸としたXZ平面上で、物体の検出点P1〜P10が取得される。検出点P1〜P5は他車両A、検出点P6は電柱B、検出点P7〜P10は塀Cで、送信したビームBMが反射した反射波の強度を基に検出された距離及び方位角から得られる検出点である。なお、図中の点線は、物体A,B,CでのビームBMの反射点と座標平面上の検出点P1〜P10との関係を示している。 Here, FIG. 4 illustrates data of detection points acquired from detection results by the millimeter wave radar device 20. FIG. 4A schematically shows a front view of the host vehicle 10. As shown to Fig.4 (a), the other vehicle A, the utility pole B, and the eaves C exist ahead of the own vehicle 10. FIG. At this time, from the distance and azimuth angle detected by the millimeter wave radar device 20, as shown in FIG. Object detection points P 1 to P 10 are acquired on the XZ plane. The detection points P 1 to P 5 are the other vehicle A, the detection point P 6 is the utility pole B, the detection points P 7 to P 10 are 塀 C, and the distance detected based on the intensity of the reflected wave reflected by the transmitted beam BM. And a detection point obtained from the azimuth angle. The dotted line in the figure indicates the object A, B, the relationship between the detection point P 1 to P 10 on the reflection point and the coordinate plane of the beam BM in C.
次に、STEP3で、画像処理ユニット1のオプティカルフロー算出手段18は、異なる時刻で取得された複数の検出点を参照して、該異なる時刻間で同一の物体についての検出点と想定される検出点についてオプティカルフローを算出する。これにより、検出点P1〜P10について、それぞれ、図4(b)の矢印で示すように、各検出点P1〜P10の動きベクトルを示すオプティカルフローが算出される。 Next, in STEP 3, the optical flow calculation means 18 of the image processing unit 1 refers to a plurality of detection points acquired at different times, and is assumed to be detection points for the same object between the different times. Calculate the optical flow for the points. Accordingly, the detection point P 1 to P 10, respectively, as indicated by the arrows in FIG. 4 (b), the optical flow indicating the motion vector of each detecting point P 1 to P 10 is calculated.
次に、STEP4で、画像処理ユニット1の点列データ抽出手段12は、算出されたオプティカルフローに基づいて、同一の物体についての検出点であると想定される検出点を抽出する。具体的には、算出されたベクトルの向きと大きさが同じ検出点を、同一の物体のものである検出点と判定する。なお、向きと大きさが「同じ」とは、検出誤差等を考慮して、向きと大きさが同じとみなせる所定範囲を指す。これにより、図5(b)に示したように、検出点P1〜P5が同一の物体についての検出点であると想定される。そして、点列データ抽出手段12は、同一の物体についての検出点と想定された検出点P1〜P5をグループ化し、点列データQ1として抽出する。 Next, in STEP 4, the point sequence data extraction unit 12 of the image processing unit 1 extracts detection points that are assumed to be detection points for the same object, based on the calculated optical flow. Specifically, detection points having the same direction and size as the calculated vector are determined as detection points belonging to the same object. Note that “the same direction and size” refers to a predetermined range in which the direction and size can be considered the same in consideration of detection errors and the like. Thus, as shown in FIG. 5 (b), the detection point P 1 to P 5 are assumed to be the detection point for the same object. Then, the point sequence data extraction unit 12 groups the detection points P 1 to P 5 that are assumed to be detection points for the same object, and extracts them as point sequence data Q 1 .
次に、STEP5で、画像処理ユニット1の変位特性認識手段13は、点列データの変位特性を算出する。以下では、図5に示す例を用いて説明する。図5には、自車両10の前方に前走車Dが走行している場合を示す。図5(a)に示すように、STEP1のミリ波レーダ装置20による検出結果から、STEP2で検出点P11〜P17が取得されている。そして、この検出点P11〜P17について、STEP3で、図5(a)中に矢印で示すように、オプティカルフローが算出され、検出点P11〜P17が同じ向きと大きさであり、同一の物体のものである点列データQ2として抽出されている。 Next, in STEP 5, the displacement characteristic recognition means 13 of the image processing unit 1 calculates the displacement characteristic of the point sequence data. Below, it demonstrates using the example shown in FIG. FIG. 5 shows a case where the preceding vehicle D is traveling ahead of the host vehicle 10. As shown in FIG. 5A, detection points P 11 to P 17 are acquired in STEP 2 from the detection result of the millimeter wave radar device 20 in STEP 1. Then, with respect to the detection points P 11 to P 17 , an optical flow is calculated in STEP 3 as indicated by an arrow in FIG. 5A, and the detection points P 11 to P 17 have the same direction and size. It is extracted as point sequence data Q 2 belonging to the same object.
このとき、点列データQ2について、変位特性認識手段13は、図5(a)に示すように、まず、点列データQ2の幅Wを算出する。また、変位特性認識手段13は、点列データQ2から直線成分を抽出する。なお、点列データから直線成分を抽出する手法としては、ハフ変換や、最小2乗法による直線の当てはめ等の手法を用いることができる。これにより、点列データQ2から、検出点P11〜P14から直線成分S1が抽出され、検出点P14〜P17から直線成分S2が抽出される。そして、変位特性認識手段13は、2つの直線成分S1,S2が抽出されているので、抽出された直線成分S1,S2の成す角度θを算出する。 At this time, for the point sequence data Q 2 , the displacement characteristic recognizing means 13 first calculates the width W of the point sequence data Q 2 as shown in FIG. The displacement characteristic recognizing section 13 extracts a linear component from the point sequence data Q 2. As a method for extracting a straight line component from point sequence data, a method such as a Hough transform or a straight line fitting by a least square method can be used. Thus, from the point sequence data Q 2, linear components S 1 is extracted from the detection point P 11 to P 14, the linear component S 2 is extracted from the detection point P 14 to P 17. Then, since the two linear components S 1 and S 2 are extracted, the displacement characteristic recognizing means 13 calculates the angle θ formed by the extracted linear components S 1 and S 2 .
次に、STEP6で、変位特性認識手段13は、STEP5で算出された点列データQ2の変位特性から、点列データQ2が所定の変位特性を有するか否かを認識する。ここで、所定の変位特性は、点列データQ2が、方位角が増加又は減少するに従って、検出点のミリ波レーダ装置20からの距離が直線的に減少する第1の状態から直線的に増加する第2の状態に切り替わる特性である。具体的には、変位特性認識手段13は、点列データの幅Wが所定値Wth以上で、点列データから2以上の直線成分が抽出されて交点を有し、その角度θが所定値θth以上であるときに、点列データが所定の変位特性を有すると認識する。所定の変位特性を有することで、点列データが抽出された物体の表面が直方体形状を有することが把握される。また、所定値Wth,θthは、物体の種別が車両である場合に取り得る値から定められる。例えば、所定値Wthは、車幅(例えば1[m]70〜80[cm]程度)と車両の全長(例えば4〜5[m])が取り得る値を含むように定められる。また、例えば、所定値θthは、車両の四隅の頂点(例えば60〜120[°])が取り得る値を含むように定められる。 Then, in STEP6, displacement characteristic recognizing section 13, the displacement characteristics of the column data Q 2 points calculated in STEP5, the point sequence data Q 2 recognizes whether a predetermined displacement characteristic. Here, the predetermined displacement characteristic is such that the point sequence data Q 2 is linearly changed from the first state in which the distance from the millimeter wave radar device 20 of the detection point decreases linearly as the azimuth angle increases or decreases. This is a characteristic of switching to the increasing second state. Specifically, the displacement characteristic recognizing means 13 has the intersection W by extracting two or more straight line components from the point sequence data when the width W of the point sequence data is equal to or larger than a predetermined value W th and the angle θ is a predetermined value. When it is equal to or greater than θth, it is recognized that the point sequence data has a predetermined displacement characteristic. By having a predetermined displacement characteristic, it is understood that the surface of the object from which the point sequence data is extracted has a rectangular parallelepiped shape. The predetermined values W th and θ th are determined from values that can be taken when the type of the object is a vehicle. For example, the predetermined value W th is determined so as to include values that the vehicle width (for example, about 1 [m] 70 to 80 [cm]) and the total length of the vehicle (for example, 4 to 5 [m]) can take. Further, for example, the predetermined value θ th is determined so as to include values that can be taken by the apexes (for example, 60 to 120 [°]) of the four corners of the vehicle.
STEP6の判断結果がNO(点列データが所定の変位特性を有さない)の場合、STEP12に進み、画像処理ユニット1の種別判断手段14は、点列データが抽出された物体の種別が車両でないと判断する。 If the determination result in STEP 6 is NO (the point sequence data does not have a predetermined displacement characteristic), the process proceeds to STEP 12, and the type determination unit 14 of the image processing unit 1 determines that the type of the object from which the point sequence data is extracted is the vehicle. Judge that it is not.
一方、STEP6の判断結果がYES(点列データが所定の変位特性を有する)の場合、点列データが抽出された物体の表面が直方体形状を有するので、物体の種別が車両である可能性がある。この場合、STEP7に進み、画像処理ユニット1は、赤外線カメラ2の出力信号である赤外線画像を取得する。取得された画像は、A/D変換され、グレースケール画像として画像メモリに格納される。図5(b)に、赤外線カメラ2により撮像された赤外線画像I1の例を示す。 On the other hand, if the determination result in STEP 6 is YES (the point sequence data has a predetermined displacement characteristic), the surface of the object from which the point sequence data is extracted has a rectangular parallelepiped shape, and therefore the type of the object may be a vehicle. is there. In this case, proceeding to STEP 7, the image processing unit 1 acquires an infrared image that is an output signal of the infrared camera 2. The acquired image is A / D converted and stored in the image memory as a grayscale image. FIG. 5B shows an example of an infrared image I 1 captured by the infrared camera 2.
次に、STEP8で、画像処理ユニット1の画像領域特定手段15は、赤外線カメラ2により撮像された赤外線画像から、STEP6で認識された変位特性を有する点列データにおいて、第1の状態から第2の状態に切り替わる検出点(頂点)に対応する画像領域を特定する。図5(a)に示す例では、検出点P14が頂点であり、この検出点P14に対応する画像領域として、図5(b)に示すRが特定される。 Next, in STEP 8, the image region specifying means 15 of the image processing unit 1 starts from the first state to the second point sequence data having the displacement characteristics recognized in STEP 6 from the infrared image captured by the infrared camera 2. An image region corresponding to a detection point (vertex) that switches to the state of is identified. In the example shown in FIG. 5 (a), the detection point P 14 is the apex, as an image area corresponding to the detection point P 14, the R shown in FIG. 5 (b) are identified.
次に、STEP9で、画像処理ユニット1の輝度情報判断手段16は、STEP8で特定された画像領域の輝度値Iが所定値Ith以上であるか否かを判断する。具体的には、輝度情報判断手段16は、画像領域における各画素の輝度値の平均値、又は最大値が所定値Ith以上であるか否かを判断する。また、所定値Ithは、車両のテールライトやヘッドライトの部分の輝度値が取り得る値から定められる。 Next, in STEP 9, the luminance information determination unit 16 of the image processing unit 1, the luminance values I of the specified image area in STEP8 is equal to or a predetermined value I th or more. Specifically, the luminance information determination unit 16, the average value of the luminance value of each pixel in the image area, or the maximum value is equal to or a predetermined value I th or more. The predetermined value I th is determined from the luminance values can take a value of the portion of the tail lights and headlights of the vehicle.
STEP9の判断結果がYES(輝度値Iが所定値Ith以上である)の場合、頂点に対応する画像領域の輝度値が高いことから、車両のテールライトやヘッドライトの部分である可能性が高い。よって、この場合、STEP11に進み、種別判断手段14は、点列データが抽出された物体の種別が車両であると判断する。 If the determination result in STEP 9 is YES (the luminance value I is greater than or equal to the predetermined value I th ), the luminance value of the image area corresponding to the vertex is high, so there is a possibility that it is a part of the vehicle taillight or headlight high. Therefore, in this case, the process proceeds to STEP 11 and the type determination unit 14 determines that the type of the object from which the point sequence data is extracted is a vehicle.
STEP9の判断結果がNO(輝度値Iが所定値Ith未満である)の場合、STEP10に進み、画像処理ユニット1の反射強度比較手段17は、頂点での反射強度とその他の検出点での反射強度との差ΔKが所定レベルKth以上であるか否かを判断する。なお、所定レベルKthは、車両のテールライトやヘッドライトとその他の部分との反射強度の差が取り得る値から定められる。 If the determination result in STEP 9 is NO (the luminance value I is less than the predetermined value I th ), the process proceeds to STEP 10 where the reflection intensity comparison means 17 of the image processing unit 1 determines the reflection intensity at the apex and the other detection points. the difference ΔK between the reflection intensity is equal to or a predetermined level K th or more. The predetermined level K th is determined from a value that can be taken by a difference in reflection intensity between the taillight or headlight of the vehicle and other portions.
STEP10の判断結果がYES(反射強度の差ΔKが所定レベルKth以上)の場合、頂点とその他の検出点との反射強度の差が大きいことから、頂点が車両のテールライトやヘッドライトの部分である可能性が高い。よって、この場合、STEP11に進み、種別判断手段14は、種別判断手段14は、点列データが抽出された物体の種別が車両であると判断する。 If the determination result in STEP 10 is YES (the difference ΔK in reflection intensity is equal to or greater than a predetermined level K th ), the difference in reflection intensity between the vertex and the other detection points is large. Is likely. Therefore, in this case, the process proceeds to STEP 11, and the type determination unit 14 determines that the type of the object from which the point sequence data is extracted is a vehicle.
STEP10の判断結果がNO(反射強度の差ΔKが所定レベルKth未満)の場合、STEP12に進み、種別判断手段14は、点列データが抽出された物体の種別が車両でないと判断する。 If the determination result in STEP 10 is NO (the reflection intensity difference ΔK is less than the predetermined level K th ), the process proceeds to STEP 12 and the type determination unit 14 determines that the type of the object from which the point sequence data is extracted is not a vehicle.
以上が、本実施形態の物体種別判定装置の画像処理ユニット1における物体種別判定処理である。この処理の結果、自車両の周辺に存在する物体が車両でないと判定された場合、例えば、画像処理ユニット1は、さらに、物体が歩行者であるか否かを判定して、歩行者であると判定された場合、スピーカ6と表示装置7とによる注意喚起を自車両の運転者に対して行う注意喚起処理を実行する。この注意喚起処理では、例えば表示装置7に基準画像を表示すると共に、その基準画像中の歩行者の画像を強調的に表示する。さらに、歩行者が存在することをスピーカ6から運転者に音声案内する。 The above is the object type determination process in the image processing unit 1 of the object type determination apparatus of the present embodiment. As a result of this processing, when it is determined that the object existing around the host vehicle is not a vehicle, for example, the image processing unit 1 further determines whether the object is a pedestrian and is a pedestrian. If it is determined, the alerting process is performed for alerting the driver of the host vehicle with the speaker 6 and the display device 7. In this alerting process, for example, a reference image is displayed on the display device 7 and an image of a pedestrian in the reference image is highlighted. Furthermore, a voice guidance is provided from the speaker 6 to the driver that there is a pedestrian.
本実施形態によれば、ミリ波レーダ装置20による検出結果に基づいて、車両Dの種別を適切に判定することができる。そして、この判定結果を用いて、運転者への情報の提示や車両の制御等を適切に行うことができる。 According to the present embodiment, the type of the vehicle D can be appropriately determined based on the detection result by the millimeter wave radar device 20. And using this determination result, presentation of information to a driver, control of a vehicle, etc. can be performed appropriately.
なお、本実施形態では、STEP6の変位特性による判断、STEP9の画像領域の輝度値による判断、STEP10の反射強度の差による判断の3つの判断結果を組み合わせて物体の種別を判断するものとしたが、これらの3つの判断のうち1つ又は任意の2つの組み合わせにより、物体の種別を判断するものとしてもよい。 In this embodiment, the object type is determined by combining the three determination results of the determination based on the displacement characteristics in STEP 6, the determination based on the brightness value of the image area in STEP 9, and the determination based on the difference in reflection intensity in STEP 10. The type of the object may be determined by one of these three determinations or a combination of any two.
また、本実施形態では、検出点取得手段11により検出点の位置を座標変換し、この変換されたデータを処理して物体の種別を判定するものとしたが、座標変換せず、物体の距離と方位角との検出データをそのまま用いて物体の種別を判定するものとしてもよい。 In the present embodiment, the position of the detection point is coordinate-converted by the detection point acquisition means 11 and the converted data is processed to determine the type of the object. It is also possible to determine the type of the object using the detection data of the angle and the azimuth as they are.
また、本実施形態では、レーダとしてミリ波レーダ装置20を用いるとしたが、これ以外に、例えば超音波レーダやレーザレーダ等を用いるものとしてもよい。 In the present embodiment, the millimeter wave radar device 20 is used as a radar. However, for example, an ultrasonic radar, a laser radar, or the like may be used.
2…赤外線カメラ(赤外線撮像手段)、10…車両、11…検出点取得手段、12…点列データ抽出手段、13…変位特性認識手段、14…種別判断手段、15…画像領域特定手段、16…輝度情報判断手段、17…反射強度比較手段、18…オプティカルフロー算出手段、20…ミリ波レーダ装置(レーダ)。 DESCRIPTION OF SYMBOLS 2 ... Infrared camera (infrared imaging means), 10 ... Vehicle, 11 ... Detection point acquisition means, 12 ... Point sequence data extraction means, 13 ... Displacement characteristic recognition means, 14 ... Type judgment means, 15 ... Image area specification means, 16 ... luminance information determination means, 17 ... reflection intensity comparison means, 18 ... optical flow calculation means, 20 ... millimeter wave radar device (radar).
Claims (10)
前記レーダにより複数の方位角に電磁波を照射し、それぞれの方位角における物体の検出点を取得する検出点取得手段と、
前記取得された複数の検出点のうち、同一の物体についての検出点であると想定される検出点をグループ化して、点列データとして抽出する点列データ抽出手段と、
前記点列データ抽出手段により抽出された点列データが、前記方位角が増加又は減少するに従って、前記検出点の前記レーダからの距離が直線的に減少する第1の状態から直線的に増加する第2の状態に切り替わる変位特性を有するか否かを認識する変位特性認識手段と、
前記変位特性認識手段による認識結果に応じて、前記点列データが抽出された物体の種別を判断する種別判断手段とを備え、
前記検出点取得手段は、前記検出点の位置を、前記レーダの前後方向と該前後方向に直交する水平方向とで定まる座標平面に変換して取得し、
前記変位特性認識手段は、前記座標平面上で、前記点列データ抽出手段により抽出された点列データから直線成分を抽出し、該直線成分が2以上抽出された場合に、該抽出された2つの直線成分が交点を有するとき、前記点列データが前記変位特性を有すると認識することを特徴とする物体種別判定装置。 In an object type determination device that irradiates an electromagnetic wave to a peripheral region by a radar and receives a reflected wave of the electromagnetic wave, and determines a type of the object based on a detection result of an object existing in the peripheral region by the reflected wave.
A detection point acquiring means for irradiating electromagnetic waves to a plurality of azimuth angles by the radar and acquiring a detection point of an object at each azimuth angle;
Point sequence data extraction means for grouping detection points that are assumed to be detection points for the same object among the plurality of acquired detection points, and extracting them as point sequence data;
The point sequence data extracted by the point sequence data extraction means increases linearly from the first state in which the distance of the detection point from the radar decreases linearly as the azimuth increases or decreases. A displacement characteristic recognizing means for recognizing whether or not the displacement characteristic is switched to the second state;
According to a recognition result by the displacement characteristic recognition unit, a type determination unit that determines a type of an object from which the point sequence data is extracted ,
The detection point acquisition means converts the position of the detection point into a coordinate plane determined by a front-rear direction of the radar and a horizontal direction orthogonal to the front-rear direction, and acquires the position.
The displacement characteristic recognizing unit extracts a linear component from the point sequence data extracted by the point sequence data extracting unit on the coordinate plane, and when two or more linear components are extracted, the extracted 2 An object type determination apparatus characterized by recognizing that the point sequence data has the displacement characteristic when two linear components have intersections .
前記種別判断手段は、前記変位特性認識手段により前記点列データが前記変位特性を有すると認識された場合に、該点列データが抽出された物体が人工構造物であると判断することを特徴とする物体種別判定装置。 The object type determination apparatus according to claim 1 ,
The type determining means determines that the object from which the point sequence data is extracted is an artificial structure when the point sequence data is recognized as having the displacement characteristics by the displacement characteristic recognition unit. An object type determination device.
赤外線撮像手段と、
前記赤外線撮像手段により撮像された赤外線画像から、前記変位特性を有する点列データにおいて、前記第1の状態から前記第2の状態に切り替わる検出点に対応する画像領域を特定する画像領域特定手段と、
前記画像領域特定手段により特定された画像領域の輝度値が所定値以上か否かを判断する輝度情報判断手段とを備え、
前記種別判断手段は、前記輝度情報判断手段の判断結果に基づいて、前記点列データが抽出された物体の種別を判断することを特徴とする物体種別判定装置。 In the object classification judging device according to claim 1 or 2 ,
Infrared imaging means;
Image area specifying means for specifying an image area corresponding to a detection point that switches from the first state to the second state in the point sequence data having the displacement characteristics from the infrared image captured by the infrared imaging means; ,
Luminance information determining means for determining whether or not the luminance value of the image area specified by the image area specifying means is a predetermined value or more,
The object type determining device, wherein the type determining means determines the type of the object from which the point sequence data is extracted based on the determination result of the luminance information determining means.
前記種別判断手段は、前記輝度情報判断手段により前記画像領域の輝度値が所定値以上と判断された場合に、前記点列データが抽出された物体が車両であると判断することを特徴とする物体種別判定装置。 In the object classification judging device according to claim 3 ,
The type determining unit determines that the object from which the point sequence data is extracted is a vehicle when the luminance information determining unit determines that the luminance value of the image area is equal to or greater than a predetermined value. Object type determination device.
前記変位特性を有する点列データにおいて、前記第1の状態から前記第2の状態に切り替わる検出点での前記反射波の強度と、それ以外の検出点での該反射波の強度との差が所定レベル以上か否かを比較する反射強度比較手段を備え、
前記種別判断手段は、前記反射強度比較手段による比較結果に基づいて、前記点列データが抽出された物体の種別を判断することを特徴とする物体種別判定装置。 In the object classification judging device according to any one of claims 1 to 4 ,
In the point sequence data having the displacement characteristics, the difference between the intensity of the reflected wave at the detection point where the first state is switched to the second state and the intensity of the reflected wave at other detection points is obtained. A reflection intensity comparing means for comparing whether or not a predetermined level or more;
The type determining unit determines a type of an object from which the point sequence data is extracted based on a comparison result by the reflection intensity comparing unit.
前記種別判断手段は、前記反射強度比較手段による比較の結果、前記差が所定レベル以上と判断された場合に、前記点列データが抽出された物体が車両であると判断することを特徴とする物体種別判定装置。 In the object classification judging device according to claim 5 ,
The type determining unit determines that the object from which the point sequence data is extracted is a vehicle when the difference is determined to be a predetermined level or more as a result of the comparison by the reflection intensity comparing unit. Object type determination device.
異なる時刻で前記検出点取得手段により取得される複数の検出点を参照して、該異なる時刻間で同一の物体であると想定される検出点についてオプティカルフローを算出するオプティカルフロー算出手段を備え、
前記点列データ抽出手段は、前記オプティカルフロー算出手段により算出されたオプティカルフローに基づいて、同じ方向に同じ量だけ移動している検出点を、同一の物体であると想定される検出点として、前記点列データを抽出することを特徴とする物体種別判定装置。 In the object classification judging device according to any one of claims 1 to 6 ,
Optical flow calculation means for calculating an optical flow for detection points that are assumed to be the same object at different times with reference to a plurality of detection points acquired by the detection point acquisition means at different times,
The point sequence data extraction means, based on the optical flow calculated by the optical flow calculation means, detection points that are moving by the same amount in the same direction as detection points assumed to be the same object, An object type determination apparatus that extracts the point sequence data.
車両に搭載され、該車両の周辺に存在する物体の種別を判定することを特徴とする物体種別判定装置。 In the object classification judging device according to any one of claims 1 to 7 ,
An object type determination apparatus characterized by determining a type of an object mounted on a vehicle and existing around the vehicle.
前記レーダにより複数の方位角に電磁波を照射し、それぞれの方位角における物体の検出点を取得する検出点取得ステップと、
前記取得された複数の検出点のうち、同一の物体についての検出点であると想定される検出点をグループ化して、点列データとして抽出する点列データ抽出ステップと、
前記点列データ抽出ステップにより抽出された点列データが、前記方位角が増加又は減少するに従って、前記検出点の前記レーダからの距離が直線的に減少する第1の状態から直線的に増加する第2の状態に切り替わる変位特性を有するか否かを認識する変位特性認識ステップと、
前記変位特性認識ステップによる認識結果に応じて、前記点列データが抽出された物体の種別を判断する種別判断ステップとを備え、
前記検出点取得ステップでは、前記検出点の位置を、前記レーダの前後方向と該前後方向に直交する水平方向とで定まる座標平面に変換して取得し、
前記変位特性認識ステップでは、前記座標平面上で、前記点列データ抽出手段により抽出された点列データから直線成分を抽出し、該直線成分が2以上抽出された場合に、該抽出された2つの直線成分が交点を有するとき、前記点列データが前記変位特性を有すると認識することを特徴とする物体種別判定方法。 An object type determination method for irradiating a surrounding area with an electromagnetic wave by a radar, receiving a reflected wave of the electromagnetic wave, and determining the type of the object based on a detection result of an object existing in the surrounding area by the reflected wave. And
A detection point acquisition step of irradiating electromagnetic waves to a plurality of azimuth angles by the radar and acquiring a detection point of an object at each azimuth angle;
A point sequence data extraction step of grouping detection points that are assumed to be detection points for the same object among the plurality of acquired detection points, and extracting as point sequence data;
The point sequence data extracted by the point sequence data extraction step increases linearly from the first state in which the distance of the detection point from the radar decreases linearly as the azimuth increases or decreases. A displacement characteristic recognition step for recognizing whether or not it has a displacement characteristic for switching to the second state;
A type determining step for determining the type of the object from which the point sequence data is extracted according to the recognition result of the displacement characteristic recognizing step ;
In the detection point acquisition step, the position of the detection point is acquired by converting into a coordinate plane determined by a front-rear direction of the radar and a horizontal direction orthogonal to the front-rear direction,
In the displacement characteristic recognition step, a linear component is extracted from the point sequence data extracted by the point sequence data extraction means on the coordinate plane, and when two or more linear components are extracted, the extracted 2 An object type determination method characterized by recognizing that the point sequence data has the displacement characteristic when two linear components have intersections .
前記レーダにより複数の方位角に電磁波を照射し、それぞれの方位角における物体の検出点を取得する検出点取得処理と、
前記取得された複数の検出点のうち、同一の物体についての検出点であると想定される検出点をグループ化して、点列データとして抽出する点列データ抽出処理と、
前記点列データ抽出手段により抽出された点列データが、前記方位角が増加又は減少するに従って、前記検出点の前記レーダからの距離が直線的に減少する第1の状態から直線的に増加する第2の状態に切り替わる変位特性を有するか否かを認識する変位特性認識処理と、
前記変位特性認識手段による認識結果に応じて、前記点列データが抽出された物体の種別を判断する種別判断処理とを前記コンピュータに実行させる機能を有し、
前記検出点取得処理では、前記検出点の位置を、前記レーダの前後方向と該前後方向に直交する水平方向とで定まる座標平面に変換して取得し、
前記変位特性認識処理では、前記座標平面上で、前記点列データ抽出手段により抽出された点列データから直線成分を抽出し、該直線成分が2以上抽出された場合に、該抽出された2つの直線成分が交点を有するとき、前記点列データが前記変位特性を有すると認識することを特徴とする物体種別判定用プログラム。 A radar irradiates the surrounding area with an electromagnetic wave, receives a reflected wave of the electromagnetic wave, and causes the computer to execute a process of determining the type of the object based on the detection result of the object existing in the surrounding area by the reflected wave An object type determination program,
A detection point acquisition process for irradiating electromagnetic waves to a plurality of azimuth angles by the radar and acquiring a detection point of an object at each azimuth angle;
Point sequence data extraction processing for grouping detection points that are assumed to be detection points for the same object among the plurality of acquired detection points, and extracting as point sequence data;
The point sequence data extracted by the point sequence data extraction means increases linearly from the first state in which the distance of the detection point from the radar decreases linearly as the azimuth increases or decreases. A displacement characteristic recognition process for recognizing whether or not the displacement characteristic is switched to the second state;
In response to said recognition result by the displacement characteristic recognizing section, and a type determination process that determines the type of object that the point sequence data are extracted have a function for causing the computer to execute,
In the detection point acquisition process, the position of the detection point is acquired by converting into a coordinate plane determined by a front-rear direction of the radar and a horizontal direction orthogonal to the front-rear direction,
In the displacement characteristic recognition process, a linear component is extracted from the point sequence data extracted by the point sequence data extraction unit on the coordinate plane, and when two or more linear components are extracted, the extracted 2 An object type determination program characterized by recognizing that the point sequence data has the displacement characteristic when two linear components have intersections .
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008035079A JP4753053B2 (en) | 2008-02-15 | 2008-02-15 | Object type determination apparatus, object type determination method, and object type determination program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008035079A JP4753053B2 (en) | 2008-02-15 | 2008-02-15 | Object type determination apparatus, object type determination method, and object type determination program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009192430A JP2009192430A (en) | 2009-08-27 |
JP4753053B2 true JP4753053B2 (en) | 2011-08-17 |
Family
ID=41074565
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008035079A Expired - Fee Related JP4753053B2 (en) | 2008-02-15 | 2008-02-15 | Object type determination apparatus, object type determination method, and object type determination program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4753053B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3260878A1 (en) | 2016-05-31 | 2017-12-27 | Panasonic Intellectual Property Management Co., Ltd. | Moving object detection device, program, and recording medium |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010030404A (en) * | 2008-07-28 | 2010-02-12 | Visteon Global Technologies Inc | Position detection method and position detection apparatus for preceding vehicle and data filtering method |
JP5664252B2 (en) * | 2011-01-12 | 2015-02-04 | トヨタ自動車株式会社 | Pedestrian detection device |
DE102018200755A1 (en) * | 2018-01-18 | 2019-07-18 | Robert Bosch Gmbh | Method and device for plausibility of a transverse movement |
JP7028085B2 (en) * | 2018-07-02 | 2022-03-02 | 株式会社デンソー | Distance measuring device |
CN112327308B (en) * | 2019-07-19 | 2024-07-16 | 浙江菜鸟供应链管理有限公司 | Object detection method, device, system and equipment |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002099906A (en) * | 2000-09-22 | 2002-04-05 | Mazda Motor Corp | Object-recognizing device |
JP2006189393A (en) * | 2005-01-07 | 2006-07-20 | Toyota Motor Corp | Peripheral object information acquiring device, and parking support device using same |
JP2006234493A (en) * | 2005-02-23 | 2006-09-07 | Aisin Seiki Co Ltd | Object recognizing device, and object recognition method |
JP2007114056A (en) * | 2005-10-20 | 2007-05-10 | Aisin Seiki Co Ltd | Object recognition device |
JP2007248057A (en) * | 2006-03-13 | 2007-09-27 | Omron Corp | Radar device |
JP2007315814A (en) * | 2006-05-23 | 2007-12-06 | Nissan Motor Co Ltd | Object detection method and object detecting device |
-
2008
- 2008-02-15 JP JP2008035079A patent/JP4753053B2/en not_active Expired - Fee Related
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002099906A (en) * | 2000-09-22 | 2002-04-05 | Mazda Motor Corp | Object-recognizing device |
JP2006189393A (en) * | 2005-01-07 | 2006-07-20 | Toyota Motor Corp | Peripheral object information acquiring device, and parking support device using same |
JP2006234493A (en) * | 2005-02-23 | 2006-09-07 | Aisin Seiki Co Ltd | Object recognizing device, and object recognition method |
JP2007114056A (en) * | 2005-10-20 | 2007-05-10 | Aisin Seiki Co Ltd | Object recognition device |
JP2007248057A (en) * | 2006-03-13 | 2007-09-27 | Omron Corp | Radar device |
JP2007315814A (en) * | 2006-05-23 | 2007-12-06 | Nissan Motor Co Ltd | Object detection method and object detecting device |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3260878A1 (en) | 2016-05-31 | 2017-12-27 | Panasonic Intellectual Property Management Co., Ltd. | Moving object detection device, program, and recording medium |
Also Published As
Publication number | Publication date |
---|---|
JP2009192430A (en) | 2009-08-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4171501B2 (en) | Vehicle periphery monitoring device | |
EP2889641B1 (en) | Image processing apparatus, image processing method, program and image processing system | |
JP2007304033A (en) | Monitoring device for vehicle periphery, vehicle, vehicle peripheral monitoring method, and program for vehicle peripheral monitoring | |
US8810653B2 (en) | Vehicle surroundings monitoring apparatus | |
JP4173901B2 (en) | Vehicle periphery monitoring device | |
JP5012718B2 (en) | Image processing device | |
US10192122B2 (en) | Driving assist apparatus, driving assist method, and non-transitory computer readable recording medium storing program | |
JP5470886B2 (en) | Object detection device | |
JP6459659B2 (en) | Image processing apparatus, image processing method, driving support system, program | |
JP4753053B2 (en) | Object type determination apparatus, object type determination method, and object type determination program | |
JP4173902B2 (en) | Vehicle periphery monitoring device | |
KR102374211B1 (en) | Object recognition method and object recognition device performing the same | |
US20120294482A1 (en) | Environment recognition device and environment recognition method | |
JP2007255977A (en) | Object detection method and object detector | |
JP2010128919A (en) | Object detection apparatus | |
US20230040994A1 (en) | Information processing apparatus, information processing system, information processing program, and information processing method | |
JP2011048485A (en) | Device and method for detecting target | |
CN114746894A (en) | Image processing apparatus, image processing method, and image processing program | |
JP4857909B2 (en) | Object detection method and object detection apparatus | |
JP4340000B2 (en) | Object recognition device | |
JP2005156199A (en) | Vehicle detection method and vehicle detector | |
JP4804202B2 (en) | Stereo monitoring device | |
JP2006258507A (en) | Apparatus for recognizing object in front | |
JP4716294B2 (en) | Vehicle periphery monitoring device, vehicle, vehicle periphery monitoring program | |
JP2013171390A (en) | Driving support device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110209 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110222 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110406 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110426 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110510 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140603 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |