JP2000168475A - Parking support device - Google Patents

Parking support device

Info

Publication number
JP2000168475A
JP2000168475A JP10361910A JP36191098A JP2000168475A JP 2000168475 A JP2000168475 A JP 2000168475A JP 10361910 A JP10361910 A JP 10361910A JP 36191098 A JP36191098 A JP 36191098A JP 2000168475 A JP2000168475 A JP 2000168475A
Authority
JP
Japan
Prior art keywords
vehicle
parking
image
control device
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10361910A
Other languages
Japanese (ja)
Other versions
JP4061757B2 (en
Inventor
Nobuaki Miki
修昭 三木
Seiji Sakakibara
聖治 榊原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin AW Co Ltd
Original Assignee
Aisin AW Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin AW Co Ltd filed Critical Aisin AW Co Ltd
Priority to JP36191098A priority Critical patent/JP4061757B2/en
Publication of JP2000168475A publication Critical patent/JP2000168475A/en
Application granted granted Critical
Publication of JP4061757B2 publication Critical patent/JP4061757B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To preliminarily confirm the propriety and impropriety of a backing- out start position by providing an image composing means for superimposing the parking allowable range demarcated by either one closer side of lateral sides of a parking required space including a tolerance space required for the lateral sides of a vehicle. SOLUTION: This parking support device comprises an image pickup device set on a vehicle to read the outside information, a control device for processing the image taken by the image pickup device, and a monitor for displaying the image processed by the control device. The control device is provided with an input device for inputting the information for selecting the forward and backward advance of the vehicle, and the reachable range in the backing of the vehicle is displayed on the monitor image having the parking space projected thereon. Accordingly, selection of the initial vehicle stop position that is the most difficult in parking operation can be effectively supported by the comparison of the parking space on the taken image with the composed and displayed reachable range.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、運転者の死角とな
る車両周辺の情報を撮像装置で取込み、取込み画像を車
室内モニターで表示して、運転者の視界を補完するとと
もに、駐車操作の助けとなる補助情報をスーパーインポ
ーズする支援装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention captures information about a driver's blind spot around a vehicle with an imaging device, displays the captured image on a monitor in the vehicle compartment, complements the driver's field of view, and performs parking operation. The present invention relates to a support device that superimposes auxiliary information that helps.

【0002】[0002]

【従来の技術】自動車は運転者の四囲を囲む車体を持つ
ことから、運転者の視界が窓部を除く車体部により遮ら
れる死角部分を生じることは避け難いが、狭い道路上で
の特に背の低い障害物の回避や、移動する障害物に対す
る安全の確保上、死角の解消が望ましい。そこで、こう
した死角部分の情報が間接的に得られるように、車両に
は、従来から、大型車両のアンダーミラーに代表される
ような、死角解消手段が設置されている。また、近時の
映像機器の高性能化と小型化に伴って、これを利用した
装置も種々提案されている。こうした提案の中で、カメ
ラで撮影した後方視界を運転席近傍のモニター画面に表
示することで死角範囲をカバーし、かつ、ハンドル舵角
に対応した後進予想軌跡をモニター画面に重畳して表示
する軌跡表示手段を備えるものがある。そして、こうし
たものにおいて、更に、上記後進予想軌跡を、車体後部
の上方部付近の後進軌跡とすることで、障害物に対する
回避識別を一層容易にしたものとして、特開平1−16
8538号公報に開示の技術がある。
2. Description of the Related Art Since a motor vehicle has a vehicle body surrounding four surroundings of a driver, it is inevitable that a driver's view will be blind spots which are obstructed by the vehicle body except for a window. It is desirable to eliminate blind spots in order to avoid obstacles with low height and to secure safety against moving obstacles. Therefore, in order to obtain such blind spot information indirectly, a vehicle is conventionally provided with blind spot elimination means typified by an under mirror of a large vehicle. Also, with the recent improvement in performance and miniaturization of video equipment, various devices utilizing the same have been proposed. In such proposals, the rear view taken by the camera is displayed on the monitor screen near the driver's seat to cover the blind spot range, and the expected backward trajectory corresponding to the steering angle is superimposed and displayed on the monitor screen. Some include trajectory display means. In such a vehicle, the above-described predicted backward trajectory is further defined as a backward trajectory near the upper portion of the rear portion of the vehicle body, thereby making it easier to avoid obstacles.
There is a technique disclosed in Japanese Patent No. 8538.

【0003】[0003]

【発明が解決しようとする課題】ところで、上記提案の
技術は、予想軌跡をハンドル舵角に対応して変化させる
ものであるため、ハンドルを一定量切った後の舵角の修
正には有効に機能すると考えられるが、ハンドルを切る
前や、途中でハンドルの切返しを伴うような操作での進
路予測には役立たず、表示上の予想軌跡の変化が却って
煩わしいものとなる場合がある。
The above-mentioned proposed technique changes the expected trajectory in accordance with the steering angle of the steering wheel. Therefore, it is effective for correcting the steering angle after the steering wheel is turned by a certain amount. Although it is considered to function, it is not useful for predicting the course by an operation involving turning of the steering wheel before or during turning of the steering wheel, and the change of the predicted trajectory on the display may become rather troublesome.

【0004】こうした操作の典型例として、後進による
駐車操作がある。この操作の場合、一般に、運転者は、
目標とする駐車スペースを確認しながら、一旦駐車スペ
ースを横に見て、その前を通過し、所定距離過ぎた所で
車両を停車させ、その位置から車両を後退させながら駐
車スペースのある側にハンドルを切って、駐車スペース
内に導く操作となる。そのため、後進操作に入る前の、
最少回転半径が得られる舵角あるいはそれ以下の舵角に
より車両が目標とする駐車スペースに収まるか否かの予
想を最も得たい前進状態又は停車状態では、ハンドルは
通常操舵角上の中立位置にあり、この場合、表示される
予想軌跡は直線となってしまって、進路予測に役立たな
い。もっとも、この停車状態で、敢えてハンドルを最大
舵角あるいはその付近まで切ってみて、そのときの予想
軌跡を表示させる方法もないではないが、こうした方法
は、煩わしいばかりでなく、操舵装置にかかる負荷を考
えると、車両の保安上好ましい操作とは言えない。
[0004] A typical example of such an operation is a parking operation by reversing. In this operation, generally, the driver
While checking the target parking space, look at the parking space sideways, pass in front of it, stop the vehicle at a place after a predetermined distance, retreat the vehicle from that position to the side with the parking space It is an operation to turn the steering wheel and lead it into the parking space. Therefore, before entering reverse operation,
In the forward or stopped state where it is best to predict whether the vehicle will fit into the target parking space with the steering angle at which the minimum turning radius is obtained or less, the steering wheel is normally in the neutral position above the steering angle. In this case, the displayed expected trajectory is a straight line, which is not useful for the course prediction. However, in this stopped state, there is no way to dare to turn the steering wheel to or near the maximum steering angle and display the expected trajectory at that time, but such a method is not only cumbersome, but also a burden on the steering device. Considering this, it is not a favorable operation for vehicle security.

【0005】見方を変えて、一連の駐車操作の流れを見
ると、こうした後退駐車操作においては、実際に後退さ
せるときの舵角修正による所定駐車位置への車両の誘導
よりも、むしろ、それに先立つ当初の停車位置の採り方
の方がはるかに重要かつ経験による判断を要する困難な
操作であって、この位置を適切に採ることさえできれ
ば、後進時の舵角修正は、むしろ殆ど不要と言える程度
の簡単な操作となる。したがって、こうした意味でも、
予想軌跡をハンドル舵角に対応して変化させる表示方法
は、駐車操作における最も困難な操作の判断のための支
援には役立たず、操作の実情に合致しているとは言い難
い。
Looking at the flow of a series of parking operations from a different point of view, in such a backward parking operation, rather than guiding the vehicle to a predetermined parking position by correcting a steering angle when actually making a reverse movement, it precedes it. It is far more important to take the initial stop position and it is a difficult operation that requires judgment based on experience, and if this position can be taken properly, steering angle correction when reversing is almost unnecessary. Simple operation. Therefore, in this sense,
The display method of changing the expected trajectory in accordance with the steering angle of the steering wheel does not help in determining the most difficult operation in the parking operation, and it is hard to say that it matches the actual situation of the operation.

【0006】本発明は、こうした事情に鑑みなされたも
のであり、駐車スペースを写し込んだモニター画像上
に、自車が後進したときの到達可能範囲を表示すること
で、撮像上の駐車スペースと合成表示された到達可能範
囲との対比により、予め後進開始位置の適不適を確認す
ることができる駐車支援装置を提供することを主たる目
的とする。
The present invention has been made in view of such circumstances, and displays a reachable range when the vehicle moves backward on a monitor image on which the parking space is photographed, so that the parking space on the imaging can be reduced. A main object of the present invention is to provide a parking assist device capable of confirming in advance whether or not a reverse start position is appropriate based on a comparison with a reachable range displayed in a synthesized manner.

【0007】[0007]

【課題を解決するための手段】上記の目的を達成するた
め、本発明は、車両に設置され、外界の情報を取り込む
撮像装置と、該撮像装置が取り込む画像を処理する制御
装置と、該制御装置により処理される画像を表示するモ
ニターとを備える運転支援装置において、前記制御装置
に車両の前後進を選択する情報を入力する入力装置を備
え、前記制御装置は、入力装置による前進の情報の入力
時に、撮像装置により取り込まれる画像のモニター上の
表示に、ハンドルを最大舵角にしての後進により到達し
た場合に車両左右に必要とする余裕スペース分を含む駐
車所要スペースの左右側のうちのいずれか近い側を境と
する駐車可能範囲をスーパーインポーズする画像合成手
段を備えることを特徴とする。
SUMMARY OF THE INVENTION In order to achieve the above object, the present invention provides an image pickup apparatus installed in a vehicle for taking in information of the outside world, a control apparatus for processing an image taken by the image pickup apparatus, A driving support device comprising a monitor for displaying an image processed by the device; and an input device for inputting information for selecting forward / backward movement of the vehicle to the control device, wherein the control device is configured to output information on forward movement by the input device. At the time of input, the display on the monitor of the image captured by the imaging device is displayed on the monitor on the left and right sides of the required parking space including the extra space required on the left and right of the vehicle when the steering wheel reaches the maximum steering angle and arrives by the reverse drive. It is characterized by comprising an image synthesizing means for superimposing a parkable range bounded on any closer side.

【0008】更に、前記制御装置は、入力装置により後
進の情報が入力されたとき、前記駐車可能範囲に代え
て、車両最外側ラインを地面に投影して車両後方に延長
した最外側延長ラインをスーパーインポーズする画像合
成手段を備える構成とするのが有効である。
Further, the control device, when the reverse information is input by the input device, projects the outermost line of the vehicle on the ground and extends the outermost extension line extended rearward of the vehicle instead of the parking area. It is effective to adopt a configuration including an image synthesizing means for superimposing.

【0009】あるいは、前記制御装置は、入力装置によ
り後進の情報が入力されたとき、前記駐車可能範囲に代
えて、ハンドル舵角に対応した車両角部の後進予測軌跡
をスーパーインポーズする画像合成手段を備える構成と
してもよい。
[0009] Alternatively, the control device superimposes a backward predicted trajectory of a vehicle corner corresponding to a steering angle in place of the parkable range when reverse information is input by an input device. It is good also as a structure provided with a means.

【0010】また、前記制御装置は、更に、車両を正確
に駐車した場合の駐車スペース形状を模した目標駐車枠
基準線をスーパーインポーズする画像合成手段を備える
構成とするのも有効である。
[0010] It is also effective that the control device further comprises image synthesizing means for superimposing a target parking frame reference line imitating the shape of the parking space when the vehicle is correctly parked.

【0011】[0011]

【発明の作用及び効果】上記請求項1記載の構成では、
側方に駐車スペースを見ながら駐車操作に入るときに、
モニター画面を参照して、駐車スペースが駐車可能範囲
の中に収まる位置で車両を停止させれば、その後は、ハ
ンドルの切り加減で、確実に駐車スペースに車両を導く
ことができるので、駐車スペースを確認する段階で、車
両をどの位置に停止させればよいかの判断を容易に行う
ことができる。したがって、この構成によれば、駐車操
作において最も困難とされる当初の車両停止位置の選択
を有効に支援することができる。
According to the structure of the first aspect,
When entering the parking operation while looking at the parking space to the side,
Referring to the monitor screen, stop the vehicle at a position where the parking space is within the parking area, and then turn the steering wheel to guide the vehicle to the parking space without fail. Can be easily determined at which stage the vehicle should be stopped. Therefore, according to this configuration, it is possible to effectively support the selection of the initial vehicle stop position which is most difficult in the parking operation.

【0012】次に、請求項2記載の構成では、停止位置
を定めて車両を停止させた後、実際の後進操作に入る際
には、その段階での車両誘導の助けとなる最外側延長ラ
インが、駐車可能範囲に代わって表示されるため、操作
段階に応じた適切な補助情報が得られることになり、駐
車スパースに対する自車の車幅を確認しながら、後進操
作をスムーズに行うことができる。
Next, in the configuration according to the second aspect, when the vehicle is stopped after the stop position is determined and the actual reverse operation is started, the outermost extension line which assists vehicle guidance at that stage. Is displayed instead of the available parking range, so that appropriate auxiliary information according to the operation stage can be obtained, and the reverse operation can be performed smoothly while checking the vehicle width of the parking sparse. it can.

【0013】また、請求項3記載の構成では、停止位置
を定めて車両を停止させた後、実際の後進操作に入る際
には、その段階での車両誘導の助けとなるハンドル舵角
に対応した後進予測軌跡が、駐車可能範囲に代わって表
示されるため、操作段階に応じた適切な補助情報が得ら
れることになり、後進予測軌跡を参照しながら、駐車ス
パースに合わせた舵角の修正で、後進操作をスムーズに
行うことができる。
According to the third aspect of the present invention, when the vehicle is stopped after the stop position is determined and the actual reverse operation is started, the steering angle corresponding to the steering angle which assists the vehicle at that stage is supported. Since the predicted reverse trajectory is displayed instead of the parking range, appropriate auxiliary information according to the operation stage can be obtained, and the steering angle is adjusted to the parking sparse while referring to the predicted reverse trajectory. Thus, the reverse operation can be performed smoothly.

【0014】そして、請求項4記載の構成では、駐車操
作の後半の段階で、目標駐車枠基準線に駐車スペースを
合わせるようにハンドル操作及びブレーキ操作を行うこ
とで、最終的に駐車スペースに対する車両の左右間隔及
び前後位置を正確に合わせることができるので、駐車終
了時に駐車スペースに対して整った位置に車両を停車さ
せることができる。
According to the fourth aspect of the present invention, in the latter half of the parking operation, the steering wheel operation and the brake operation are performed so as to match the parking space with the target parking frame reference line, so that the vehicle with respect to the parking space finally ends. Since the left-right distance and the front-rear position of the vehicle can be accurately adjusted, the vehicle can be stopped at a position appropriate for the parking space at the end of parking.

【0015】[0015]

【発明の実施の形態】以下、図面に沿い、本発明の実施
形態を説明する。本発明の主題とする駐車支援装置を包
含する運転支援装置の概要を、図2及び図3に示す。図
2にシステム構成をブロックで示すように、この装置
は、制御装置1を主体として、制御に必要な各種情報を
取り込む入力装置2と、運転者が運転操作のために必要
とする情報を適宜選択する選択スイッチ3とから構成さ
れ、更に、ナビゲーション装置との情報交換が可能なよ
うに、データベース4とディスプレー5とを具備するナ
ビゲーション装置のナビECU6に接続されている。こ
れにより、本形態では、ディスプレー5を本装置の情報
表示のためのモニターに利用している。なお、図中の選
択スイッチ3については、本装置に専用のものを設けて
もよいが、ナビゲーション装置のディスプレー5を利用
したタッチパネル方式や音声認識装置を用いた音声入力
方式としてもよい。
Embodiments of the present invention will be described below with reference to the drawings. FIGS. 2 and 3 show an outline of a driving assistance device including a parking assistance device as a subject of the present invention. As shown in the block diagram of the system configuration in FIG. 2, this device mainly includes a control device 1 and an input device 2 for taking in various information necessary for control, and an information device required by the driver for driving operation. And a selection switch 3 for selection. The navigation switch 6 is further connected to a navigation ECU 6 of a navigation device having a database 4 and a display 5 so that information can be exchanged with the navigation device. Thus, in this embodiment, the display 5 is used as a monitor for displaying information of the apparatus. The selection switch 3 in the figure may be provided exclusively for this apparatus, but may be a touch panel type using a display 5 of a navigation device or a voice input type using a voice recognition device.

【0016】図3に配置を示すように、入力装置の1つ
を構成する撮像装置として、図に○印で示すCCDカメ
ラ21(以下、カメラと略記し、個々のカメラを区別す
るとき、符号に代えて位置を表す添字付きの略号C
F L , F R , R L , R R ,M L , M R を付
す)が、車両の4箇所の角部と左右両側の中央に設置さ
れ、また、△印で示す距離検出装置としての障害物検出
センサー28(同様に、略号SF L , F R , R L ,
R R , M L , M R ,SF M , R M を付す)が、
カメラ21と同様の位置に設置されている他、前後端部
の中央にも設置されている。これら距離検出装置28
は、超音波センサーやレーザー、ミリ波レーダー等の距
離を直接検出する既知の装置とすることも、上記複数の
カメラ21の取込み画像を制御装置1内で画像処理する
ことにより間接的に距離を求める演算手段とすることも
できる。
As shown in FIG. 3, as an image pickup device constituting one of the input devices, a CCD camera 21 (hereinafter abbreviated as a camera) indicated by a circle in the drawing is referred to as a camera when distinguishing individual cameras. Abbreviation C with a subscript indicating the position in place of
FL, C FR, C RL, C RR, C ML, C MR ) are installed at the four corners of the vehicle and at the center on both the left and right sides. The detection sensor 28 (similarly, abbreviations S FL, S FR, S RL,
S RR, S ML, S MR , S FM, S RM )
In addition to being installed at the same position as the camera 21, it is also installed at the center of the front and rear ends. These distance detecting devices 28
May be a known device such as an ultrasonic sensor, a laser, a millimeter wave radar, or the like which directly detects a distance, or may indirectly detect a distance by processing images captured by the plurality of cameras 21 in the control device 1. The calculating means can also be used.

【0017】本発明の主題とする駐車操作を含む運転上
の各種操作を行うときに必要な画像情報は、運転者が運
転席に座っている状態での視界感覚に一致させるように
提供することが、装置の実用性を高める上で必須であ
る。そこで、この装置では、その実現のために、撮像装
置について、カメラ21の取付け方法、より詳しくは、
設置姿勢と設置位置が工夫され、制御装置については、
画像の表示方法と表示タイミングに工夫が加えてある。
これらの点について、まず、カメラ21の設置姿勢から
順次説明する。
The image information necessary for performing various driving operations including the parking operation, which is the subject of the present invention, is provided so as to match the sense of vision when the driver is sitting in the driver's seat. However, it is indispensable to enhance the practicality of the device. Therefore, in this device, in order to realize this, for the imaging device, a method of mounting the camera 21, more specifically,
The installation posture and installation position have been devised.
The display method and display timing of the image are devised.
First, these points will be described sequentially from the installation posture of the camera 21.

【0018】(撮像装置の設置姿勢)図1に示すよう
に、運転席に座った運転者から物理的に見えない死角範
囲は、点DF L ,DF R ,DR R ,DR L に囲まれる図
に斜線を付した範囲となる。ただし、ドアの窓枠や屋根
を支えるピラーにより見えない部分は図示を省略してい
る。これに対して、この見えない範囲をカバーし、しか
も得られる画像情報を運転者の感覚に一致させるため
に、設置姿勢の第1の工夫として、各カメラ21は、そ
の取込み画像上の上側を車両の前方に向け、かつ垂直下
方に光軸を向けた姿勢を基準とし、車両に対する配設位
置の前後左右に応じ、基準の姿勢に対して前後左右方向
に傾斜を付し、少なくとも車両の縁部、すなわち前後に
ついては前後の端部、左右については左右側端部を写し
込む姿勢で設置する。
(Mounting Position of Imaging Device) As shown in FIG. 1, the blind spot range that is not physically seen by the driver sitting in the driver's seat is surrounded by points D FL , D FR , D RR , and D RL . Is the range hatched. However, parts that cannot be seen by the pillars supporting the window frame and the roof of the door are not shown. On the other hand, in order to cover this invisible range and to match the obtained image information with the driver's sense, as a first contrivance of the installation posture, each camera 21 moves the upper side on the captured image. With reference to the attitude of the optical axis directed forward and vertically downward of the vehicle, depending on the front, rear, left and right of the arrangement position with respect to the vehicle, the front and rear sides are inclined with respect to the reference attitude, and at least the edge of the vehicle Parts, ie, the front and rear ends of the front and rear, and the left and right ends of the left and right are installed in such a posture as to capture them.

【0019】この趣旨に沿い、車両角部に設置する各カ
メラ21については、その設置位置に対応する車両の縁
部としての自車体の角部と、その近傍を含む車両周辺
と、無限遠方を同時に俯瞰するような方向になるように
設置する。この車両の角部について、特に近時の乗用車
等においては、デザイン上の工夫から丸みを持たせてあ
るため、必ずしも判然としないが、本発明に言う車両の
角部とは、自車両を平面で見たときの縁部すなわち最外
縁を含むその近傍を意味し、より具体的には、車両の前
端及び側端又は後端及び側端が延在する方向が推測でき
る形状になる範囲、例えば角部をバンパーとする場合、
バンパーの角の丸みがほぼ直線に近い曲率まで小さくな
ることで、バンパーの前縁及び側縁又は後縁及び側縁の
延びる方向から、車両の前端及び側端又は後端及び側端
がどのへんの位置となるかを推測できる範囲を言う。そ
のため、図4に各角部のカメラの画像例PF L ,
F R , R L , R R を示すように、各々車体の前後
端、左右端の延長が推測できる形状になる範囲まで画像
に含むように、各カメラCF L , F R , R L ,
R R の姿勢を設定する。図において、略号WL L ,W
L R は路面の白線、W’L L ,W’L R は映像上の白
線、符号90’は映像上の自車角部としてのバンパーを
示す。この場合、カメラ21の取付け位置については、
後に詳述するが、概括的には、車体の各必要箇所におい
て、可能な限り高い所に設置し、広い視界を確保するよ
うにする。
To this effect, the cameras 21 installed at the corners of the vehicle include a corner of the vehicle body as an edge of the vehicle corresponding to the installation position, a periphery of the vehicle including the vicinity thereof, and an infinite distance. At the same time, it is installed so that it is in a direction to look down. The corners of the vehicle, particularly in recent passenger cars and the like, are not always clear because they are rounded due to design ingenuity. Means the vicinity including the outer edge, ie, the outermost edge, and more specifically, a range in which the direction in which the front end and the side end or the rear end and the side end of the vehicle extend can be estimated, for example, If the corners are bumpers,
By reducing the roundness of the corner of the bumper to a curvature that is almost linear, the front end and the side edge or the rear edge and the rear end and the side edge of the vehicle can be changed from the direction in which the front edge and the side edge or the rear edge and the side edge of the bumper extend. Means the range in which the position can be estimated. Therefore, FIG. 4 shows an example of images P FL, P
Each of the cameras C FL, C FR, C RL, and C FL is included in the image so that the front and rear ends and the left and right ends of the vehicle body extend to a shape that can be estimated, as shown by FR, P RL, and P RR.
Set the RR attitude. In the figure, the abbreviations W LL , W
LR indicates a white line on the road surface, W ' LL and W' LR indicate white lines on the image, and reference numeral 90 'indicates a bumper as a vehicle corner on the image. In this case, regarding the mounting position of the camera 21,
As will be described in detail later, generally, the vehicle body is installed at as high a position as possible at each required position to secure a wide field of view.

【0020】設置姿勢の第2の工夫として、カメラ21
の水平方向の向きは、図1に示すように運転者が運転席
に座って、その必要方向を見るときの視線の方向と概略
一致するような方向、すなわち、光軸Xが、運転者とカ
メラ21を結ぶ直線を含む垂直面の方向と実質上同様の
方向を向く姿勢に設置され、前記第1の工夫による姿勢
との関係で、光軸Xが地面と交わる点は、図中で点A
F L , F R , R L ,R R となる。これにより、各
々のカメラ21のカバーする上下方向の画角範囲を
αF ,αR 、横方向の画角範囲をαF L ,αF R ,α
R L , αR R で示す。なお、上記の運転者とカメラ21
を結ぶ直線は、運転者の体格や好みの姿勢によりシート
のスライド位置やリクライニングの傾きが異なり、更に
は各時々の姿勢の変化によっても異なるため、厳密に
は、それらに伴って向きが変動し、上記直線を含む垂直
面の向きも変動することになるが、本発明にいう垂直面
の方向と実質上同様の方向とは、こうした運転者の位置
のずれや姿勢の変化に伴う方向のずれを許容する範囲で
の同方向であればよく、例えば、こうした全ての要素を
加味した標準的な位置を統計的に割り出して運転者の位
置を決定する等の手法で、それに合わせて方向を設定す
ればよい。
As a second contrivance of the installation posture, the camera 21
The direction of the horizontal direction is substantially the same as the direction of the line of sight when the driver sits in the driver's seat and looks at the required direction as shown in FIG. The point where the optical axis X intersects with the ground is set in a position substantially perpendicular to the direction of the vertical plane including the straight line connecting the cameras 21, and the position where the optical axis X intersects with the ground according to the position of the first device. A
FL, AFR, ARL, and ARR . Thus, the vertical angle of view range covered by each camera 21 is α F , α R , and the horizontal angle of view range is α FL , α FR , α.
RL and α RR . The driver and the camera 21
Is different depending on the physique and favorite posture of the driver, the sliding position of the seat and the inclination of the reclining differ depending on the change of the posture from time to time.Strictly speaking, the direction fluctuates with them. Although the direction of the vertical plane including the straight line also varies, the direction substantially the same as the direction of the vertical plane according to the present invention refers to the deviation in the direction due to such a deviation in the position of the driver or the change in the posture. The direction may be set in accordance with the direction, for example, by statistically calculating the standard position taking all these factors into consideration and determining the position of the driver. do it.

【0021】そして、このままカメラ21の映像上の横
軸が水平になるように設置したのでは、図4を参照し
て、自車のバンパー角部90’は、例えばカメラCF L
について、画面の中央下方に位置することになり、自車
両と並行する路面の白線WL Lが画面を左下(又は右
下)から右上(又は左上)方向に対角線状に横切る映像
となってしまう。そこで、更に設置姿勢の第3の工夫と
して、カメラ21を光軸X周りに傾斜を付した姿勢に設
置する。例えば、車両に対して左側のカメラについて
は、光軸周りに右に捩じることで右回り傾斜を付す。こ
れにより画面は、図4に示すように前進方向が運転者の
感覚に合うような向きとなる。具体的には、画像PF L
は左前角部に設置のカメラCF L の画像であり、右下隅
に左前角部90’が写し込まれ、前進方向への直線状の
白線W’L L が画面中央下方から斜め右上方向へ、概ね
直線で写り、運転席から実際に自車の左側白線WL L
見たときの角度と遠近感に実感が合うようになる。更に
言えば、この画像は、例えば、前左の画像PF L と前右
の画像PF R を同時に画面の左右に配置した場合に、そ
のときの画像PF L 上の自車線左側白線W’L L と、画
像PF R 上の自車線右側白線W’L R が、あたかも一つ
のカメラで前方を撮影したときのように、無限遠方で交
わるように見える配置である。このように画面に与える
傾斜は、右側及び後ろ左右についても同様である。
[0021] Then, the horizontal axis was set to be horizontal on the image of the left camera 21, with reference to FIG. 4, the vehicle bumper corner 90 ', for example a camera C FL
For, will be located in the center bottom of the screen, the white line W LL of road surface running parallel with the own vehicle becomes the image across the screen from the lower left (or right) in the upper right (or upper left) diagonally in the direction. Therefore, as a third contrivance of the installation posture, the camera 21 is installed in a posture inclined around the optical axis X. For example, the camera on the left side of the vehicle is tilted clockwise by twisting it to the right around the optical axis. As a result, the screen is oriented such that the forward direction matches the driver's sense as shown in FIG. Specifically, the image P FL
Is an image of the camera C FL installed at the left front corner, a left front corner 90 ′ is captured at the lower right corner, and a straight white line W ′ LL in the forward direction is generally from the lower center of the screen to the diagonally upper right direction. Ballmer in a straight line, so actually feel the angle and perspective when viewing the left side white line W LL of the vehicle is fit from the driver's seat. Furthermore, for example, when the front left image P FL and the front right image P FR are simultaneously arranged on the left and right sides of the screen, this image is the same as the own lane left white line W ′ LL on the image P FL at that time. In this arrangement, the white line W ' LR on the right side of the own lane on the image P FR appears to intersect at infinity as if the front line was photographed by one camera. The inclination given to the screen in this manner is the same for the right side and the rear left and right.

【0022】(撮像装置の設置位置)次に、撮像装置の
設置位置について、図5及び図6に左前角部へのカメラ
FL の取付け例を示し、詳細に説明する。本例ではカ
メラCF L は、図に示すように前照灯91と一体構成さ
れたサイドランプ92に組み込む構成となっており、こ
の構造により既存の車両にも僅かな改変で安価に取り付
け可能としている。当然のことながら、ランプを小さく
して、その余ったスペースに組み込んだり、ランプ以外
の外板に組み込んだり、車体表面に直接取り付けること
も可能である。これによって、前記のようにカメラC
F L 直下の自車体左前角部最外縁(図では前バンパーの
左角部)90と同時に車両周辺及び無限遠方を取り込む
わけであるが、上記の諸条件を満足するように、できる
だけ広い範囲を取り込むためには、車種によっても異な
るが、上下方向の画角αF について概ね90°程度から
それより若干大きく、左右方向の画角αF L についても
概ね90°程度からそれより若干大きいて程度を確保で
きる広角レンズのカメラCF L が必要となる。しかしな
がら、あまり画角を広くすると、運転者の見る実体の距
離感とのずれが大きくなるので、自ずと限界がある。そ
のため、本実施形態では、一例として、上下方向の画角
αF を97°、左右方向の画角αF L を125°とした
カメラCF L を使用している。
Next (installation position of the imaging device), the installation position of the imaging device, shows the mounting of the camera C FL to the left front corner in FIG. 5 and FIG. 6, will be described in detail. In this example, the camera C FL is configured to be incorporated into a side lamp 92 integrally formed with the headlight 91 as shown in the figure. I have. Of course, it is also possible to make the lamp smaller and install it in the extra space, to install it on an outer panel other than the lamp, or to mount it directly on the body surface. Thereby, as described above, the camera C
At the same time as the outermost edge (left corner of the front bumper in the figure) 90 of the vehicle body immediately below the FL, the periphery and infinity of the vehicle are taken in at the same time, but the widest possible range is taken in so as to satisfy the above conditions. For this purpose, the vertical angle of view α F is about 90 ° to slightly larger than it, and the horizontal angle of view α FL is about 90 ° to slightly larger than about 90 °. A wide-angle lens camera CFL is required. However, if the angle of view is too wide, the deviation from the sense of distance of the entity seen by the driver becomes large, and there is naturally a limit. Therefore, in this embodiment, as an example, 97 ° the angle alpha F in the vertical direction, and the angle alpha FL of the right and left directions using the camera C FL which was 125 °.

【0023】このような設置姿勢と設置位置により本発
明の狙いとする自然な画像が得られる。図7に自車前左
角部のカメラCF L の画像PF L の詳細例を示す。図で
は、路面上に描いた進行方向の白線WL L と、それに直
交する白線WL C の交点の垂直上方に自車の左前角部を
合わせた場合の画像の見え方を表している。この画面で
は、自車のバンパー角部90’を基準にして、自車の進
行方向の右側白線W’L R を含めた自車走行車線
L’1 、左隣の車線L’2 、更に直交する白線W’LC
左側方向までの広い範囲を見渡し、無限遠方(図に破線
で示す)を、画面の左右幅全体に写すことが可能となっ
ている。そして、このように左右幅全体に写る無限遠方
の中に、車両の正面、すなわち車両の前後方向中心軸の
延長上の無限遠方が含まれ、この正面の無限遠方は、モ
ニター上で自車両のバンパー角部90’の上方に、水平
に表示される。
With such an installation posture and an installation position, a natural image aimed at by the present invention can be obtained. FIG. 7 shows a detailed example of the image P FL of the camera C FL at the left front corner of the vehicle. In the figure, it represents the white line W LL traveling direction drawn on the road surface, the appearance of an image when combined left front corner vertically above the vehicle at the intersection of the white lines W LC orthogonal thereto. In this screen, 'based on the right white line W in the traveling direction of the vehicle' vehicle bumper corner 90 the host vehicle traveling lane L, including LR '1, lane L to the left' 2, further orthogonal White line W ' LC
Overlooking a wide range up to the left side, the infinity (indicated by a broken line in the figure) can be taken over the entire left and right width of the screen. The front of the vehicle, that is, the infinity on the extension of the center axis in the front-rear direction of the vehicle, is included in the infinity that is reflected in the entire left-right width in this manner. It is displayed horizontally above the bumper corner 90 '.

【0024】(制御装置の画像表示方法)次に、表示手
段としてのモニターは、本形態では、ナビゲーション装
置のディスプレー5を用いている。こうしたモニター
は、運転者の正面のインストゥルメントパネル近辺に設
置されている。そして、運転者がこの画面を覗くときの
感覚は、画面上方を物理学的な上と捉えると同時に、道
路上の交通標識や案内図等が全て表示面の上方が前方を
示す表記とされているように、進行方向の前方と自ずと
認識することになる。画面下方が物理学的な下と捉える
と同時に、後方と認識されることもまた自然である。そ
こで、本発明の画面表示は、こうした認識を原則として
なされている。
(Image Display Method of Control Apparatus) Next, in this embodiment, a display 5 of a navigation apparatus is used as a monitor as a display means. These monitors are located near the instrument panel in front of the driver. The driver's feeling when looking into the screen is that the upper part of the screen is regarded as a physical upper part, and at the same time, all traffic signs, guide maps, etc. on the road are written in such a way that the upper part of the display surface indicates the front. As a result, the person naturally recognizes that he is ahead of the traveling direction. It is natural that the lower part of the screen is regarded as a physical lower part and at the same time is recognized as a rear part. Therefore, the screen display of the present invention is based on such recognition in principle.

【0025】実際の方法は、図4に示す各画像が得られ
るようにカメラ21の姿勢を設定する。具体的には車両
後方のカメラCR L ,CR R の向きは、いわゆる上下逆
さに取り付ける。即ち、図1に示すように、まず、運転
者が運転席に座った状態の垂直線に光軸を合わせ、車体
前方が画面上方となるようにして真下を俯瞰するカメラ
O を仮想して、その状態から光軸を前方かつ左方に傾
け、更に光軸回りに右に傾けたのがカメラCF L であ
り、同様に光軸を前方かつ右方に傾け、更に光軸回りに
左に傾けたのがカメラCF R である。また、同様にし
て、光軸を後方かつ左右に傾け、更に光軸回りに左右に
捩じったのがカメラCR L , R R である。ただし、図
には前後方向の傾き及び左右方向の傾きが示され、光軸
回りの捩じりは示されていない。このような姿勢に設定
すると、ディスプレー5にはそのまま表示するだけで所
望の画面が得られる。この点に関して、後方をカメラで
撮影し、その画像情報を左右反転処理してモニターに表
示するという、いわゆるバックミラーで覗くような鏡像
とすることも考えられるが、システムが複雑化する割に
感覚的には合わないので、本装置ではこうした形態は採
らない。こうして得られる画像は、図4に示すように、
画面上の左右の白線W’L L ,W’L R が運転者の位置
から見た実際の白線WL L ,WL R の向きに合致するよ
うになる。
In an actual method, the attitude of the camera 21 is set so that each image shown in FIG. 4 is obtained. More specifically, the cameras C RL , C RR at the rear of the vehicle are mounted upside down. That is, as shown in FIG. 1, first, the optical axis is aligned with the vertical line in a state where the driver is sitting in the driver's seat, and a camera C O that looks down directly below the vehicle so that the front of the vehicle body is at the top of the screen. , tilted from the state of the optical axis in front and left, a further camera C FL that inclined to the right to the optical axis, similarly tilted optical axis forward and rightward, further to the left to the optical axis The camera C FR was tilted. Similarly, the cameras C RL and C RR tilt the optical axis backward and left and right, and twist the optical axis left and right around the optical axis. However, the figure shows the inclination in the front-back direction and the inclination in the left-right direction, and does not show the twist around the optical axis. When the posture is set as described above, a desired screen can be obtained simply by displaying the image on the display 5 as it is. In this regard, it is conceivable to take a so-called rearview mirror image, in which the back is taken by a camera, and the image information is displayed on the monitor after inverting the image information left and right. This form is not adopted in the present apparatus because it does not fit the purpose. The image thus obtained is, as shown in FIG.
The left and right white lines W ' LL and W' LR on the screen match the directions of the actual white lines W LL and W LR as viewed from the driver's position.

【0026】こうして得られる画像情報は、その表示を
運転者の要求に応じた必要最小限に留めることを基本原
則として、場所、状況等に応じて選択して運転者に提供
するものとしている。この趣旨に沿って構成されたシス
テム全体の処理フローを図8に示す。このシステムは基
本的に、運転操作の種類に沿って分けられ、図上で○印
を付した符号Aで示す縁寄せ操作、同じくBで示す障害
物回避操作、以下同様にCで示す駐車操作、Dで示すブ
ラインドコーナー操作、Eの後方死角確認、及びFの白
線確認をそれぞれ支援する意図で構成されている。
The image information obtained in this way is selected and provided to the driver according to the location, situation, etc., based on the basic principle that the display is kept to the minimum necessary according to the driver's request. FIG. 8 shows a processing flow of the entire system configured in accordance with this purpose. This system is basically divided according to the type of driving operation, and the rimming operation indicated by the symbol A marked with a circle in the figure, the obstacle avoidance operation also indicated by B, and the parking operation indicated by C in the same manner , D, the rear blind spot confirmation of E, and the white line confirmation of F are respectively supported.

【0027】上記のA〜Fの支援内容を実現すべく、最
初のステップS−1では、図2のシステムを構成する入
力装置2と選択SW(スイッチ)3からデータ読込みを
行う。そして、次のステップS−2で、速度域により安
全性、必要性を考慮して、作動する機能を分ける。すな
わち、車速センサー25の入力から低車速域の判断が成
立するときは、次のステップS−3で、選択SWのオン
判断を行い、これが成立するときには、Aの縁寄せ操
作、Bの障害物回避操作、Cの駐車操作又はDのブライ
ンドコーナー操作の選択に応じた画面表示を行う。一
方、ステップS−2の低車速域の判断が不成立の中高車
速域のときは、Eの後方死角確認、Fの白線確認の表示
処理を行う。なお、詳細な速度域については、それぞれ
の機能毎に異なる基準が必要であるが、それらの具体的
な設定は試験評価等により、個別に設定すればよい。
In order to realize the support contents of A to F, data is read from the input device 2 and the selection SW (switch) 3 constituting the system of FIG. Then, in the next step S-2, the functions to be operated are divided according to the speed range in consideration of safety and necessity. That is, when the determination of the low vehicle speed range is established from the input of the vehicle speed sensor 25, the ON determination of the selection SW is performed in the next step S-3, and when the determination is established, the rimping operation of A and the obstacle of B are performed. A screen display is performed according to the selection of the avoidance operation, the parking operation of C, or the blind corner operation of D. On the other hand, if the determination of the low vehicle speed region in step S-2 is not satisfied, the display process is performed to confirm the rear blind spot in E and confirm the white line in F. It should be noted that, for a detailed speed range, different criteria are required for each function, but specific settings thereof may be individually set by test evaluation or the like.

【0028】次に、低車速の場合にA〜Dの何れかのス
イッチ選択がなされたときに、その選択SWに対応した
機能が作動する。これらの機能は、基本的には独立した
別目的の機能なので、複数選択はできないように構成し
ている。なお、スイッチが選択されてない場合でも、B
の障害物回避操作とDのブラインドコーナー操作の表示
機能については安全性を考慮して、自動的に作動するよ
うにシステムを構成している。これらについて、図中に
○印を付した符号B’、D’で示している。また、中高
速域の場合には、Fの白線確認の機能からEの後方死角
確認の機能に繋がって行く。以下にこれら個別の機能に
ついて、本発明の主題に係る駐車操作を主として説明
し、一部駐車操作時と同様の表示方法を採る他の操作に
ついては概略を説明する。
Next, when one of the switches A to D is selected at a low vehicle speed, the function corresponding to the selected SW is activated. Since these functions are basically independent functions for different purposes, they are configured so that multiple selections cannot be made. Even if the switch is not selected, B
The display function of the obstacle avoidance operation of D and the blind corner operation of D is configured to operate automatically in consideration of safety. These are indicated by reference signs B 'and D' with a circle in the figure. Further, in the case of the middle and high speed range, the function of confirming the white line of F is connected to the function of confirming the rear blind spot of E. In the following, with respect to these individual functions, the parking operation according to the subject of the present invention will be mainly described, and other operations that adopt the same display method as the partial parking operation will be briefly described.

【0029】(縁寄せ操作)縁寄せ操作における表示方
法は、図9に示すように、車両の最外側ラインWBL
B R を地面に垂直に投影し、そのラインを車両前後方
向に延長した最外側延長ライン(車両中心軸に平行)L
B L ,LB R を画面上に重ねて表示することを基本とす
る。この場合、最外側延長ラインLB L ,LB R の代わ
りにタイヤの外側延長ラインを表示してもよい。更に、
これら外側延長ラインは、必ずしも厳密な車両の最外側
あるいはタイヤの最外側に合わせる必要はなく、それら
の最外側から20cmぐらいまでのマージンを持たせた
ラインとすることも可能である。別の方法として、図1
0に示すようにステアリング舵角量に対応し車両の最外
側予測軌跡又はタイヤの外側ラインの予測軌跡LB S
T S を図の(1)又は(2)に示すように表示する方
法も考えられる。この予測軌跡を表示する方法について
は、障害物回避操作のところで詳細に説明する。
(Edge Alignment Operation) As shown in FIG. 9, the display method in the edge alignment operation is the outermost line W BL ,
W BR projected perpendicularly to the ground, (parallel to the vehicle center axis) and the line outermost extension line that extends in the vehicle longitudinal direction L
Basically, BL and LBR are superimposed and displayed on the screen. In this case, an outer extension line of the tire may be displayed instead of the outermost extension lines L BL and L BR . Furthermore,
These outer extension lines do not necessarily have to be strictly adjusted to the outermost sides of the vehicle or the outermost sides of the tires, and may be lines having a margin of about 20 cm from the outermost side. Alternatively, FIG.
Estimated track L BS outermost estimated track or tire outer line of a corresponding vehicle steering angle quantity as shown in 0,
A method of displaying the LTS as shown in (1) or (2) of the figure is also conceivable. A method of displaying the predicted trajectory will be described in detail in the description of the obstacle avoidance operation.

【0030】次に表示を行う条件は、図2に示す選択S
Wにより、運転者が縁寄せを選択することを条件とす
る。この選択による処理フローを図11に示す。縁寄せ
操作は低車速のみとし、高車速では作動させない。何故
なら、高速走行時はこのような縁寄せ操作は危険であ
り、また、画像情報そのものが運転者の注意力を分散さ
せる可能性があるからである。まず、前進走行中に左側
にある溝にできるだけ寄せて停車することを意図する場
合、運転者は左寄せSWを選択する。この選択は、ステ
ップSA−1で判定される。その状態であらかじめ設定
した車速以下になると、ステップSA−2の判断により
前進走行中が成立するので、ステップSA−4の処理画
像PF L が表示される。そこで、運転者は画面上の溝を
目標に、スーパーインポーズされる自車の最左外側延長
ラインLB L を合わせるように運転操作することで、容
易に縁寄せができる。縁寄せが終わり、シフトレバーを
“P”レンジポジションに入れれば、それによるポジシ
ョンSW(スイッチ)23の入力がステップSA−11
で判断されて、ステップSA−12で選択SWが解除さ
れ、縁寄せ支援は完了する。この解除条件は、他に、シ
フトレバーが“N”レンジポジションで車両停止一定時
間以上、ブレーキSW(スイッチ)オンで車両停止一定
時間以上、あるいは、エンジン停止等も考えられる。縁
寄せ操作の途中、状況により後進する必要がある場合に
は、シフトレバーを“R”レンジポジションにすると、
ポジションSW23の入力によるステップSA−2の判
断で、ステップSA−5により画像がPR L に代わり、
後進支援画面となる。特に、後進の場合は、車両の前左
角部が左右に振れるので、図11の右上に示すように画
像PF L 、PR L を同時に表示する表示方法を採るのが
有効である。なお、以上の説明は、一般的な前輪ステア
リング機構を前提にしているが、一部の車に採用されて
いる4輪ステアリング機構の場合には、前進時にも、図
11右上に示すように2画像同時表示とするのが有効で
ある。
The condition for the next display is the selection S shown in FIG.
W requires that the driver selects rimming. FIG. 11 shows a processing flow based on this selection. The rim-adjustment operation is performed only at a low vehicle speed, and is not performed at a high vehicle speed. This is because such rimping operation is dangerous during high-speed running, and the image information itself may disperse the driver's attention. First, when the driver intends to stop as much as possible in the groove on the left side while traveling forward, the driver selects the left-adjustment SW. This selection is determined in step SA-1. If the vehicle speed becomes equal to or lower than the preset vehicle speed in this state, forward traveling is established by the determination in step SA-2, and the processed image P FL in step SA-4 is displayed. Therefore, the driver can easily perform the rimping by performing the driving operation so as to match the leftmost outer extension line LBL of the vehicle to be superimposed with the groove on the screen as a target. When the rimming is completed and the shift lever is moved to the “P” range position, the input of the position SW (switch) 23 due to this is made in step SA-11.
In step SA-12, the selection switch is released, and the framing support is completed. Other possible conditions for this release include a certain time period during which the vehicle is stopped when the shift lever is in the "N" range position, a certain time period during which the vehicle is stopped when the brake SW (switch) is turned on, or an engine stop. If it is necessary to move backward during the rimping operation depending on the situation, set the shift lever to the “R” range position.
At the judgment of step SA-2 based on the input of the position SW23, the image is replaced with the URL by step SA-5.
The reverse support screen is displayed. In particular, in the case of reverse travel, the front left corner of the vehicle swings left and right, so it is effective to adopt a display method of simultaneously displaying the images P FL and P RL as shown in the upper right of FIG. Note that the above description is based on a general front wheel steering mechanism. However, in the case of a four-wheel steering mechanism employed in some vehicles, even when moving forward, as shown in the upper right of FIG. It is effective to display images simultaneously.

【0031】一方、状況により、車両を右側に寄せたい
場合には、右寄せSWの選択によりステップSA−1の
右寄せ判断が成立し、ステップSA−3の前後進判断に
応じてステップSA−6又はステップSA−7の画面表
示となる。また、狭い道ですれ違う時や障害物等で狭く
なっている所を通過するとき等は、縁寄せ中央SWを選
択すれば、ステップSA−1、ステップSA−8による
判断で、前・後進いずれかの左右画像をステップSA−
9又はステップSA−10により一画面に同時に表示す
ることができ、運転操作に合った支援を行うことができ
る。なお、図11における左縁寄せ画面以外は、取込み
画像を一部省略して画面を簡略化して示したもので、実
際の表示画面は、左縁寄せ画面と同様に撮像画像を含む
ものとなる。
On the other hand, if it is desired to move the vehicle to the right side depending on the situation, the right shift determination is made in step SA-1 by selecting the right shift SW, and step SA-6 or step SA-6 is performed according to the forward / reverse determination in step SA-3. The screen display of step SA-7 is displayed. In addition, when passing on a narrow road or when passing through a place narrowed by obstacles, etc., if the rimming center SW is selected, whether the vehicle is moving forward or backward is determined by steps SA-1 and SA-8. Step SA-
9 or step SA-10, the information can be displayed simultaneously on one screen, and support suitable for the driving operation can be performed. Note that, except for the left-aligned screen in FIG. 11, the captured image is partially omitted and the screen is simplified, and the actual display screen includes a captured image, similarly to the left-aligned screen. .

【0032】(障害物回避操作)障害物回避操作の場合
の表示方法は、図12(左前コーナーの画像で前に駐車
中の車を避ける例)に示すように、ステアリング舵角に
応じた左前角部の通過予測軌跡LB S を表示する。当然
のことながら、前進時の予測軌跡LB S F と後進時の予
測軌跡LB S R とで区別して表示する。この場合の予測
軌跡LB S は、縁寄せ操作の場合のような地面上の想定
線ではなく、左角部最外側を基点としてラインを表示す
る。この理由は、図12に示すように障害物N’を避け
るのが目的であり、運転者に分かり易くするためであ
る。この画面の場合、車外が暗い場合、自車体の色が暗
色系の場合、逆に太陽や照明灯の光で、路面に自車体や
他物体の影が映る場合等々には、自車体の輪郭を判別す
ることが困難になる場合がある。このような場合のため
に、図12に示すように、自車体90’の最外縁に重ね
て、自車体の輪郭線(自車の最外縁線)LP F を画面上
にスーパーインポーズすると非常に解りやすくなる。こ
れは他の機能の場合も同様である。
(Obstacle Avoidance Operation) In the case of an obstacle avoidance operation, as shown in FIG. 12 (an example of avoiding a car parked ahead in the image of the left front corner), a left front according to the steering angle is determined. to display the predicted passing locus L BS corner. It will be appreciated that, to display distinguished by the predicted trajectory L BSF during forward and backward at the time of the predicted locus L BSR. The estimated track L BS in this case, rather than the ground on assumptions lines as in the case of edge shifting operation, to display the line as a starting point the outermost left corner. The purpose of this is to avoid the obstacle N ′ as shown in FIG. 12, and to make it easier for the driver to understand. In the case of this screen, when the outside of the vehicle is dark, when the color of the vehicle body is dark, on the contrary, when the shadow of the vehicle body or other objects is reflected on the road surface by the sun or the light of the lighting, the outline of the vehicle body May be difficult to determine. For such a case, as shown in FIG. 12, when the contour (outermost edge line of the own vehicle) LPF of the own vehicle body is superimposed on the outermost edge of the own vehicle body 90 ′ on the screen, it is very It becomes easy to understand. This is the same for other functions.

【0033】この場合の表示を行う条件は、図13に示
す処理フローに従い、縁寄せ操作の場合と同じく低車速
時に限定する。運転者が図2に示す選択SW(例えば前
左等)を操作した場合は、それに応じたステップSB−
1の判断で、ステップSB−2により対応する角部の画
像(例えば図12)を表示する。その時にステアリング
舵角センサー26の入力を基に、ステアリング舵角、前
後進に対応した車体角部の予測軌跡LB S F ,LB S R
を併せて表示する。この表示は、ステップSB−3の判
断により距離センサー28の検出距離が全て基準値以上
となったときに、ステップSB−4による全ての角部S
Wの解除処理により終了させる。また、スイッチが選択
されない場合には、ステップSB−1の判断でB’に進
み、ステップSB−5の判断で各角部の距離センサー2
8の検出距離が一つ以上基準値以下になり、ステップS
B−6の判断で更にその距離が近付きつつある場合に、
ステップSB−7により、該当する角部の画像を表示す
るとともにステップSB−8により運転者に警告する。
その場合の表示画面の一例を図14に示す。図では前左
角部を例に取り、自車の絵MI の前左角部を警戒色で表
示したり、点滅させて該当する位置に前左角部の画像P
F L を表示する。警告は更に、音声、音で行ってもよ
い。当然のことながら該当する角部は、複数の場合もあ
るので、その場合は図14の画面中に複数の画像及び警
告を加えればよい。
The display condition in this case is limited to a low vehicle speed in the same manner as in the case of the bordering operation in accordance with the processing flow shown in FIG. If the driver operates the selection SW (for example, front left) shown in FIG.
With the judgment of 1, the image of the corresponding corner (for example, FIG. 12) is displayed in step SB-2. At that time, based on the input from the steering angle sensor 26, the predicted trajectories L BSF , L BSR of the vehicle body corner corresponding to the steering angle and the forward / reverse travel.
Is also displayed. This display indicates that all the corners S in step SB-4 have been set when the detection distances of the distance sensors 28 have all become equal to or greater than the reference value as determined in step SB-3.
The processing is terminated by the release processing of W. When the switch is not selected, the process proceeds to B ′ in the judgment of step SB-1, and the distance sensor 2 of each corner is judged in the judgment of step SB-5.
8 is less than or equal to the reference value, and step S
If the distance is approaching further in the judgment of B-6,
In step SB-7, an image of the corresponding corner is displayed, and a warning is issued to the driver in step SB-8.
FIG. 14 shows an example of the display screen in that case. Taking as an example the front left corner in the figure, viewing or warning color the front left corner of the vehicle painting M I, the image P of the front-left corner to the appropriate position by blinking
Display FL . The warning may be further given by sound or sound. Needless to say, there may be a plurality of corresponding corners, and in such a case, a plurality of images and a warning may be added to the screen of FIG.

【0034】(駐車操作)ここでは図15を参照して、
駐車操作で最も難しいといわれる後退駐車の場合を例と
して説明する。この操作では、の位置で目標とする駐
車スペースを確認し、の駐車操作開始位置まで前進
し、後進によりの位置を経て、の駐車位置に停止す
ることになる。このときに手際よく駐車するポイント
は、の駐車操作開始位置をどう判断するかということ
と、の過程で何を目標にするかということである。原
則的にはの位置で、その車両の最小回転半径Rよりも
目標とする駐車スペースUが内側(図上で上方)に入り
込んでいると、一度で駐車することができず、切り返し
操作が必要となる。一般的な目安としては、通常の乗用
車の最小回転半径が5m前後なので、駐車スペースの2
台隣の車L−2(なければ想定した位置)を目標にする
等の方法が使われている。大半の運転者は慣れと感に頼
っての位置を決めており、切返し操作なしでの位置
に納めることは難しい。
(Parking operation) Here, referring to FIG.
The case of backward parking, which is said to be the most difficult in the parking operation, will be described as an example. In this operation, the target parking space is confirmed at the position, the vehicle moves forward to the parking operation start position, the vehicle moves backward, and stops at the parking position. At this time, the points at which parking is performed skillfully are how to determine the parking operation start position and what to target in the process. In principle, if the target parking space U is inward (upward in the figure) beyond the minimum turning radius R of the vehicle at the position, the vehicle cannot be parked at once, and a switching operation is required. Becomes As a general guide, the minimum turning radius of a normal car is around 5 m, so that 2
For example, a method is used in which a target is a vehicle L-2 (an assumed position if there is no adjacent vehicle). Most drivers rely on familiarity and feeling to determine the position, and it is difficult to place the driver without turning back.

【0035】そこで、この場合の表示方法は、カメラ2
1により取り込まれる画像のモニター上の表示に、ハン
ドルを最大舵角にしての後進により到達した場合に車両
左右に必要とする余裕スペース分を含む駐車所要スペー
スの左右側のうちのいずれか近い側(左後方への後退駐
車の場合は車両から見て左側、右後方への後退駐車の場
合は車両から見て右側)を境とする駐車可能範囲をスー
パーインポーズする。これを左後方への後退駐車の場合
について具体的に説明すると、駐車操作開始位置で
は、図16に示すように左後画像に駐車可能範囲ZI
表示する。この駐車可能範囲ZI は、上記のように、図
15の目標駐車スペースUに、駐車操作開始位置から
ステアリングを最大に切っての姿勢(に対して直角
の姿勢)に納めたときに、車両左右に余裕を持たせるこ
とが可能な領域として設定するもので、図16に示す横
方向の境界線は車両側面に対して所定のマージンを持っ
た左側限界(この限界の概念を、仮に実際の表示の位置
から車両後退開始時の位置まで逆上って表した場合、図
に想像線で示すようになる。)、縦方向の境界線はの
姿勢になって車両前方に所定のマージンを取り得る限界
を示すものとする。具体的には、図17に示すように画
面に映る目標駐車スペースU’(これ自体、駐車位置に
おいて車両の前後左右に所定の間隙を残すように設定さ
れている)の白線W’P を基準に表示形状が合うように
設定する。設定方法は実験によるか、車両諸元や駐車場
の設計基準等から計算によるものとする。実際の運転で
は、駐車操作開始位置で画面を見たときに、図16に
示すように駐車可能範囲ZI に目標駐車スペースU’が
余裕を持って入れば、運転操作も余裕を持ってできるこ
とになり、図17に示すように白線W’P の縦横に対し
て駐車可能範囲ZI の縦横境界がほぼ一致していれば、
ステアリングを最大に切っての後進で、辛うじて所定の
位置及び傾きのない姿勢に納められることになる。した
がって、図17に示す位置からの駐車可能範囲ZI の下
方へのずれは、駐車操作開始位置が後方過ぎることを
表し、左方へのずれは、駐車操作開始位置が左側に寄り
過ぎていることを表す。
Therefore, the display method in this case is the camera 2
The left or right side of the required parking space, including the extra space required on the left and right of the vehicle when the vehicle reaches the rear on the monitor with the steering wheel at the maximum steering angle, on the monitor display of the image captured by 1 A superimposed parking area is defined as a boundary between the left and right rear views of the vehicle in the case of backward rearward parking, and the right side of the vehicle in the case of right rearward reverse parking. Specifically described case this retraction parking to the left rear, in the parking operation starting position, and displays the parking range Z I in the left rear image as shown in FIG. 16. The parking range Z I, as described above, when placed in the target parking space U in FIG. 15, the orientation of the parking operation starting position off the steering to the maximum (perpendicular orientation with respect to) the vehicle The horizontal boundary line shown in FIG. 16 is set as a left margin having a predetermined margin with respect to the side of the vehicle. When the vehicle is shown upside down from the displayed position to the position at which the vehicle starts retreating, it will be as shown by the imaginary line in the figure.) It shall indicate the limit to obtain. Specifically, based on the P 'white lines W (which itself is set so as to leave a predetermined gap around the left and right sides of the vehicle at the parking position)' target parking space U which in reflected in the screen as shown in FIG. 17 Is set so that the display shape matches. The setting method is based on experiments or calculation based on vehicle specifications, parking lot design standards, and the like. In actual operation, when a screen is viewed in the parking operation starting position, if put with the target parking space U 'is a margin in the parking range Z I as shown in FIG. 16, it can also have a margin driving operation to be, if the substantially match the aspect boundaries of the parking range Z I against vertical and horizontal white lines W 'P as shown in FIG. 17,
By turning the steering wheel to the maximum, the vehicle can barely be set in a predetermined position and a posture without inclination. Therefore, displacement of the lower parking range Z I from the position shown in FIG. 17 indicates that the parking operation starting position has passed the rear, the deviation to the left, the parking operation starting position is too far to the left It represents that.

【0036】次に、駐車操作開始位置から、途中の
位置を経て、駐車位置に至るときは、図18に示すよ
うに後方左右の画像を一画面に同時に写す。図のように
左側には左後方の画像PR L 、右側には右後方の画像P
R R を配置し、各々に図9の画面PF R 、PR R と同様
に最外側延長ラインLB L ,LB R を表示する。このラ
インはステアリング舵角に応じて予測軌跡LB S R を表
示するようにしても良い。左右の画像の表示間隔は運転
者に実感が沸くように設定するが、試験評価して決めれ
ばよい。図18に示す画像の並べ方は、画像PR L ,
R R は、それぞれ独立な画像であるが、各々が自車体角
部と無限遠方を俯瞰するという広角レンズを持っている
ため、図1のRで示す範囲を重ねて見ることができる。
したがって、二つの画像の間隙をとるか、または内側を
カットして並べる等の極めて簡単な処理により、後方の
疑似合成画像を構成することができる。実際の例を図1
9に示す。
Next, when the vehicle reaches the parking position from the parking operation start position through an intermediate position, the rear left and right images are simultaneously displayed on one screen as shown in FIG. As shown in the figure, the left rear image P RL is on the left, and the right rear image P RL is on the right.
The RR is arranged, the screen of FIG. 9 in each P FR, P RR similar to the outermost extension line L BL, displays the L BR. This line may display the predicted trajectory LBSR according to the steering angle. The display intervals of the left and right images are set so that the driver feels real, but may be determined by test evaluation. Arrangement of the image shown in FIG. 18, the image P RL, P
The RRs are independent images, but each has a wide-angle lens that looks down at the corner of the vehicle body and infinity, so that the range indicated by R in FIG.
Therefore, the rear pseudo-synthesized image can be formed by a very simple process such as forming a gap between the two images or cutting and lining the inside. Figure 1 shows an actual example
It is shown in FIG.

【0037】また、図18に示すように目標駐車枠基準
線WI を表示することにより解りやすくなる。この枠基
準線WI は車両を標準的な駐車スペースに、整然と駐車
した場合の駐車スペース形状を模して画面上にスーパー
インポーズしたものである。すなわち、図19に示すよ
うに駐車操作中に目標駐車スペースUに目標駐車枠基準
線WI を合わせるように操作すれば、駐車操作完了時に
自車体の目標駐車スペースUに対して、左右の間隙、前
後の位置、及び傾きが明確に把握でき、未熟な運転者で
も、整然とした駐車が可能となる。運転者はこの枠基準
線WI を画面上に写っている目標駐車スペースU’に合
わせるように運転操作をする。また、これらの表示に加
えて、図3に示す車両の前後左右の障害物センサー28
とカメラ21により、接触しそうな場合に、Bの障害物
回避操作の場合と同様に、警報を発し、画像表示するよ
うにすれば、より安全性を高めることができる。この駐
車操作支援技術は、縦列駐車、突っ込み駐車の場合にも
同様に適用できるが、ここでは説明を省略する。
Further, it becomes easy to understand by displaying a target parking frame reference line W I as shown in FIG. 18. In the frame reference line W I is a standard parking space vehicles, in which superimposed on the screen to simulate the parking space shape when parked orderly. That is, if the operation to match the target parking frame reference line W I to the target parking space U into the parking operation as illustrated in FIG. 19, with respect to the own vehicle target parking space U when the parking operation completion, the left and right of the gap , Front and rear positions and inclinations can be clearly grasped, and even an inexperienced driver can orderly park. Driver to a driving operation so as to match the target parking space U 'that is reflected to the frame reference line W I on the screen. Further, in addition to these displays, the obstacle sensors 28 at the front, rear, left and right of the vehicle shown in FIG.
If the camera 21 and the camera 21 are likely to come into contact with each other, an alarm is issued and an image is displayed as in the case of the obstacle avoidance operation B, whereby safety can be further improved. This parking operation assisting technology can be similarly applied to the case of parallel parking and rush parking, but the description is omitted here.

【0038】この場合の表示を行う条件は、図20に示
す操作の処理フローに従う。この場合も前記2操作と同
様に低車速時のみ支援するものとする。このフローは、
図4に示す駐車SWを運転者が選択することで開始す
る。図16に示す左後ろ駐車の場合は、運転者はSWP
L を、また右後ろ駐車の場合はSWPR を選択すること
になる。この選択に応じたステップSC−1の判断によ
り左後ろ駐車の場合で説明すると、ステップSC−2の
判断が入力装置としてのポジションSW23による前進
の情報の入力時は、ステップSC−4により左後ろ画像
R L に図18で説明した駐車可能範囲ZI をスーパー
インポーズし、運転者がこの範囲ZI に実際の目標駐車
スペースU’が入るように運転操作すると、図16で説
明したように、好適な駐車操作開始位置に車両を停止
させることができる。運転者がこの状態を確認して後進
にシフトレバーを入れると、ポジションSW23による
後進情報の入力で、ステップSC−5により後ろの二つ
の画像PR L 、PR R を同時に画面表示し、各々の角部
にステアリング舵角に応じた予測軌跡線LB S R をスー
パーインポーズする。運転者はこれを参考にして、画面
に映っている実際の目標駐車スペースU’に入るように
運転操作をする。この過程を図19に示す。図中、
、は図16に対応している。このフローは、ステッ
プSC−8のパーキングレンジへのシフト判断によるス
テップSC−9のスイッチ解除で終了させる。
The display conditions in this case follow the processing flow of the operation shown in FIG. Also in this case, it is assumed that assistance is provided only at a low vehicle speed, as in the case of the two operations. This flow is
The process starts when the driver selects the parking SW shown in FIG. In the case of rear left parking shown in FIG.
The L, also in the case of the right rear parking will select the SWP R. In the case of the left rear parking based on the determination of step SC-1 corresponding to this selection, when the determination of step SC-2 is that the forward information is input by the position SW 23 as the input device, the left rear is determined by step SC-4. parking range Z I described in FIG. 18 to the image P RL superimposes, when the driver driving operation such that the actual target parking space U 'in the range Z I fall, as explained in FIG. 16 The vehicle can be stopped at a suitable parking operation start position. When the driver confirms this state and puts the shift lever in reverse, the reverse two images P RL and P RR are simultaneously displayed on the screen in step SC-5 by inputting the reverse information by the position SW23, and each corner is displayed. A superimposed predictive trajectory line LBSR corresponding to the steering angle is steered in the section. With reference to this, the driver performs a driving operation so as to enter the actual target parking space U ′ shown on the screen. This process is shown in FIG. In the figure,
, Correspond to FIG. This flow ends when the switch is released in step SC-9 based on the shift determination to the parking range in step SC-8.

【0039】(ブラインドコーナー)ブラインドコーナ
ーの場合の表示方法は、図21(前方左方向ブラインド
の場合の画像PF L 例)に示すように、ブラインド部の
画像を写し、その上に自車からの地面上の目安距離目盛
りを距離線LK として表示する。前右、後ろ左右も同様
である。この場合、図22の画面(1)又は(2)に示
すように、前後進に応じて左右の画像を同時に表示して
もよい。そして、こうように左右画像の同時表示の場合
の左右の対称性を考慮して、当初に説明したカメラの姿
勢に関して、若干の変更を加え、カメラ21の光軸Xに
関して、運転者とカメラ21を結ぶ直線を含む垂直面内
に含まれる姿勢に設置された車両の左右一方の角部のカ
メラ21(例えば、CF L )に対して、左右他方の角部
のカメラ21(例えば、CF R )を、車両の中心軸に対
して面対称の姿勢に設置するのも一法である。そのとき
の画面中央に前後に対応するように自車の絵MI をスー
パーインポーズすると、一層解りやすくなる。
The display method in the case of (blind corner) blind corner, as shown in FIG. 21 (image P FL example for front left blind), copy an image of the blind section, from the vehicle thereon to display the approximate distance scale on the ground as the distance line L K. The same applies to the front right, rear right and left. In this case, as shown in the screen (1) or (2) of FIG. 22, the left and right images may be displayed simultaneously according to the forward / backward movement. Then, in consideration of the left-right symmetry in the case of simultaneous display of the left and right images, a slight change is made to the posture of the camera described earlier, and the driver and the camera 21 are changed with respect to the optical axis X of the camera 21. The camera 21 at one of the left and right corners (for example, C FL ) and the camera 21 at the other left and right corner (for example, C FR ) of the vehicle installed in a posture included in a vertical plane including a straight line connecting Is installed in an attitude symmetrical with respect to the center axis of the vehicle. If you superimpose the vehicle of the picture M I so as to correspond to the back and forth in the center of the screen at that time, it is easy to understand even more.

【0040】この場合の表示を行う条件は、図22に示
すブラインドコーナー表示の概略処理フローに従う。こ
のフローは、前記メインフローで説明したように、低車
速時のみ作動するものとする。そして運転者がブレーキ
を踏み、ブレーキスイッチ24の入力によるステップS
D−1の判断で、図2に示すブラインドSW(前左、前
右、後左、後右)が選択されていることを条件として、
ステップSD−2のポジションスイッチ23の入力判断
による前・後進に応じて、図21に示す片側画面若しく
は図の画面(1)又は(2)を表示する。画面(1)の
場合で説明すると、前左画像PF L と前右画像PF R
自車の絵MI と対応させる位置に配置し、図22のよう
に距離標LK をスーパーインポーズする。そして、この
距離標LK は運転者の注視方向をも示しており、注視時
のポイントが解りやすくなっている。なお、図において
符号N’は視界障害物を示す。
The conditions for performing the display in this case follow the schematic processing flow of the blind corner display shown in FIG. This flow operates only at a low vehicle speed, as described in the main flow. Then, the driver steps on the brake, and the brake switch 24 is input to step S.
In the judgment of D-1, on condition that the blind SW (front left, front right, rear left, rear right) shown in FIG. 2 is selected,
The one-side screen shown in FIG. 21 or the screen (1) or (2) shown in FIG. 21 is displayed according to the forward / reverse movement determined by the input of the position switch 23 in step SD-2. To describe the case of the screen (1), before the left image P FL and the front right image P FR disposed at a position to correspond with the picture M I of the vehicle, superimposes the distance mark L K as shown in FIG. 22 . The distance mark L K also indicates the gaze direction of the driver, and the point at which the driver gazes can be easily understood. Note that, in the figure, reference numeral N ′ indicates a visual obstacle.

【0041】(後方死角確認)図23に後方死角確認の
表示の流れを示す。この表示は、設定車速以上で、ナビ
情報から解るステップSE−1の判断で片側2車線以
上、更にステップSE−2の判断で交差点近くでない所
で走行中に、ステップSE−3によるウィンカー操作が
判断された場合に、追い越し、又は割り込みと判断する
ことで実行し、該当する後方画像をステップSE−4又
はステップSE−5で表示する。運転者はこの画像を参
考にして運転操作をする。車線判断に関しては、後に述
べる白線検出技術を用いて、走行している道路の車線
数、自車の走行している車線等は容易に解る。また、主
要道路に設置されている光ビーコンの信号を用いても、
同じ事が容易に可能となる。これらの情報を用いるだけ
でもウィンカー操作と組み合わせて追い越し又は割り込
みの判断は容易にできる。勿論、ナビ情報と組み合わせ
れば、更に情報精度が高まるのは当然である。
(Confirmation of Back Blind Spot) FIG. 23 shows the flow of display for confirming the back blind spot. This display indicates that the blinker operation in step SE-3 is performed while the vehicle is running at a speed equal to or higher than the set vehicle speed, two lanes on one side according to the determination in step SE-1 obtained from the navigation information, and not near the intersection according to the determination in step SE-2. If it is determined, the process is executed by determining that it is overtaking or interrupting, and the corresponding rear image is displayed in step SE-4 or step SE-5. The driver performs a driving operation with reference to this image. As for the lane determination, the number of lanes on the road on which the vehicle is traveling, the lane on which the vehicle is traveling, and the like can be easily determined by using the white line detection technology described later. Also, using the signal of the optical beacon installed on the main road,
The same is easily possible. Just using these pieces of information can easily determine whether to pass or interrupt in combination with the blinker operation. Of course, when combined with navigation information, it is natural that the information accuracy is further improved.

【0042】(白線確認)図24に白線確認の処理フロ
ーを示す。条件としては、ある一定車速以上で、ステッ
プSF−1によるヘッドライト点灯判断が成立し、ステ
ップSF−2によるワイパー作動判断が成り立つ時を夜
間、雨の中を走行中と判断し、ステップSF−4により
サイドランプを点灯し、左側面から前方の路面を照射
し、ステップSF−5により図24の画面を表示する。
なお、上記のフローにおいて、夜間、雨中の判断が不成
立のときは、前記後方死角確認の処理フローに移り、上
記両判断が成立のときでも、ウィンカー作動時は、後方
死角確認のフローの判断要件を跳ばして後方死角画面を
表示することになる。また、サイドランプ点灯は、必ず
しも必要条件ではない。それは、対向車等の前照灯の方
向に対して、前左右のカメラCF L , F R の光軸方向
は大きく異なるため、対向車の光が水膜に鏡面反射して
きても、カメラのCCDには入らず、眩惑されることは
なく、白線からの反射光は乱反射であるため、CCDで
捉えることが可能であるためである。したがって、対向
車や後続の車、隣の車、更には自車等の照明を使って自
車の横から、やや前方まで充分に検出可能である。この
ように、サイドランプ点灯は更に見えやすくするための
ものである。
(Confirmation of White Line) FIG. 24 shows a processing flow of confirmation of the white line. As a condition, at a certain vehicle speed or more, the headlight lighting determination in step SF-1 is established, and when the wiper operation determination in step SF-2 is satisfied, it is determined that the vehicle is running in the rain at night, and step SF- The side lamp is turned on by 4 and the road surface ahead is illuminated from the left side, and the screen of FIG. 24 is displayed by step SF-5.
In the above flow, at night, when the determination in the rain is not established, the process proceeds to the processing flow of the rear blind spot confirmation. Even when both of the above determinations are established, when the blinker is activated, the determination requirements of the flow of the rear blind spot confirmation flow are required. To display the rear blind spot screen. In addition, lighting of the side lamp is not always a necessary condition. This is because the optical axis directions of the front and left cameras C FL and C FR are greatly different from the headlight direction of an oncoming vehicle or the like. This is because the reflected light from the white line is irregularly reflected and can be captured by the CCD. Therefore, it is possible to sufficiently detect from the side of the own vehicle to slightly ahead using the lighting of the oncoming vehicle, the following vehicle, the adjacent vehicle, and even the own vehicle. As described above, the side lamp lighting is for making it easier to see.

【0043】表示画面としては、図24に示すように同
一ディスプレー上に前左角部のカメラCF L と前右角部
のカメラCF R の画像を写す。このとき運転者に実感が
わくように左右の白線W’L L ,W’L R の相対関係が
一つのカメラで撮影したときと同じになるように設定す
るのが望ましい。また、自車体の色が暗い場合には、画
像内の自車体が見えにくくなるので、自車の輪郭線L
P F をスーパーポーズしておくと、路面との判別が容易
になる。
[0043] As the display screen, copy the image of the camera C FR of the camera C FL and the front right corner portion of the front left corner on the same display as shown in FIG. 24. At this time, it is desirable to set the relative relationship between the left and right white lines W ′ LL and W ′ LR to be the same as when photographing with one camera so that the driver can feel the real feeling. Further, when the color of the own vehicle is dark, the own vehicle in the image becomes difficult to see.
If the PF is super-paused, it will be easy to distinguish it from the road.

【0044】(白線の検出)なお、本実施形態の運転支
援装置は、白線の検出にも使用することができる。白線
検出の具体的手法については、周知であるので説明を省
略するが、それらの多くは、カメラを車室内のフロント
ガラス近辺に専用に設置している。それに対して、本装
置では、前記のように死角検出用に設けた車両前左右角
部の二つのカメラを用いて白線検出を行わせることがで
きる。こうすることによって、本運転支援装置の特徴で
ある横方向の視界の広さを利用した自車近辺の横の白線
の検出で、自車体との相対位置関係を精度良く検出でき
るとともに、前記の白線の表示で説明したように、夜間
降雨時や霧の時にも検出可能である等の利点が得られ
る。しかも、他の機能と兼用のため安価となる。
(Detection of White Line) The driving support device of this embodiment can be used for detection of a white line. Since the specific method of white line detection is well known, a description thereof will be omitted, but most of them are provided with a camera exclusively for the vicinity of a windshield in a vehicle cabin. On the other hand, in the present apparatus, white line detection can be performed using the two cameras at the left and right corners in front of the vehicle provided for the blind spot detection as described above. By doing so, it is possible to accurately detect the relative positional relationship with the vehicle body by detecting the horizontal white line near the vehicle using the wide field of view in the lateral direction, which is a feature of the driving support device, and As described in the display of the white line, advantages such as detection at the time of night rain or fog can be obtained. Moreover, it is inexpensive because it is shared with other functions.

【0045】以上、本発明の技術思想の理解の便宜のた
めに、一実施形態を基に若干の変形例を挙げて説明した
が、本発明は、例示の実施形態や変形例に限定されるも
のではなく、特許請求の範囲の個々の請求項に記載の事
項の範囲内で、種々に具体的な構成を変更して実施する
ことができるものである。
As described above, for convenience of understanding of the technical idea of the present invention, a description has been given of some modified examples based on one embodiment. However, the present invention is limited to the illustrated embodiments and modified examples. Instead, the present invention can be embodied with various specific configurations changed within the scope of the items described in the individual claims.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の駐車支援装置の内包する運転支援装置
の一実施形態における撮像装置の設置姿勢を示す説明図
である。
FIG. 1 is an explanatory diagram showing an installation posture of an imaging device in an embodiment of a driving assistance device included in a parking assistance device of the present invention.

【図2】運転支援装置のシステム構成を示すブロック図
である。
FIG. 2 is a block diagram illustrating a system configuration of the driving support device.

【図3】運転支援装置の撮像装置と距離検出装置の車両
への配置を模式化して示す平面図である。
FIG. 3 is a plan view schematically showing the arrangement of the imaging device and the distance detection device of the driving support device on a vehicle.

【図4】車両の各角部に設置した撮像装置の方向とモニ
ター表示画面の関係を示す説明図である。
FIG. 4 is an explanatory diagram showing a relationship between a direction of an imaging device installed at each corner of a vehicle and a monitor display screen.

【図5】車両角部に対する撮像装置の具体的配設位置と
設置姿勢を模式化して例示する断面図である。
FIG. 5 is a cross-sectional view schematically illustrating a specific arrangement position and an installation posture of the imaging device with respect to a vehicle corner.

【図6】撮像装置の具体的設置位置を例示する車両正面
図である。
FIG. 6 is a vehicle front view illustrating a specific installation position of the imaging device.

【図7】自車左前角部を表示するモニター表示画面を例
示する画面説明図である。
FIG. 7 is a screen explanatory view exemplifying a monitor display screen displaying a left front corner of the own vehicle;

【図8】運転支援装置のシステム全体の処理フロー示す
フローチャートである。
FIG. 8 is a flowchart showing a processing flow of the entire system of the driving support device.

【図9】縁寄せ操作時のモニター表示画面を車両各部と
の位置関係と併せて示す説明図である。
FIG. 9 is an explanatory diagram showing a monitor display screen at the time of a rimping operation together with a positional relationship with each part of the vehicle.

【図10】予測軌跡表示の図形例を対比して示すイメー
ジ図である。
FIG. 10 is an image diagram showing a graphic example of predicted trajectory display in comparison.

【図11】縁寄せ操作時の処理フローを示すフローチャ
ートである。
FIG. 11 is a flowchart illustrating a processing flow at the time of an edge-aligning operation.

【図12】障害物回避操作時のモニター表示画面を詳細
に示す画面構成図である。
FIG. 12 is a screen configuration diagram showing in detail a monitor display screen at the time of an obstacle avoidance operation.

【図13】障害物回避操作時の処理フローを示すフロー
チャートである。
FIG. 13 is a flowchart illustrating a processing flow at the time of an obstacle avoidance operation.

【図14】障害物回避操作時の警告表示画面の一例を示
す画面構成図である。
FIG. 14 is a screen configuration diagram illustrating an example of a warning display screen during an obstacle avoidance operation.

【図15】駐車操作時の各時点における車両の位置を示
す見取り図である。
FIG. 15 is a sketch showing the position of the vehicle at each time during a parking operation.

【図16】駐車操作時の目標駐車スペースのモニター表
示画面を示す画面構成図である。
FIG. 16 is a screen configuration diagram showing a monitor display screen of a target parking space during a parking operation.

【図17】駐車操作時の目標駐車スペースの位置ずれに
よるモニター表示画面の相違を示す画面構成図である。
FIG. 17 is a screen configuration diagram illustrating a difference in a monitor display screen due to a positional shift of a target parking space during a parking operation.

【図18】駐車操作時の2画像同時表示画面を示す画面
構成図である。
FIG. 18 is a screen configuration diagram illustrating a two-image simultaneous display screen during a parking operation.

【図19】駐車操作時の実際の画面変化を示す説明図で
ある。
FIG. 19 is an explanatory diagram showing an actual screen change during a parking operation.

【図20】駐車操作時の処理フローを示すフローチャー
トである。
FIG. 20 is a flowchart showing a processing flow at the time of a parking operation.

【図21】ブラインドコーナー表示におけるモニター表
示画面を示す画面構成図である。
FIG. 21 is a screen configuration diagram showing a monitor display screen in blind corner display.

【図22】ブラインドコーナー表示の処理フローを示す
フローチャートである。
FIG. 22 is a flowchart showing a processing flow of a blind corner display.

【図23】後方死角表示の処理フロー示すフローヂャー
トである。
FIG. 23 is a flowchart showing a processing flow of rear blind spot display.

【図24】白線表示時の処理フローを示すフローチャー
トである。
FIG. 24 is a flowchart showing a processing flow when displaying a white line.

【符号の説明】[Explanation of symbols]

1 制御装置(画像合成手段) 5 ディスプレー(モニター) 9 車両 21 CCDカメラ(撮像装置) 23 ポジションSW(入力装置) LB L ,LB R 最外側延長ライン LB S R 後進予測軌跡 WB L 車両最外側ライン WI 目標駐車枠基準線 ZI 駐車可能範囲REFERENCE SIGNS LIST 1 control device (image synthesizing means) 5 display (monitor) 9 vehicle 21 CCD camera (imaging device) 23 position SW (input device) L BL , L BR outermost extension line L BSR reverse predicted trajectory W BL vehicle outermost line W I Target parking frame reference line Z I Parking available range

─────────────────────────────────────────────────────
────────────────────────────────────────────────── ───

【手続補正書】[Procedure amendment]

【提出日】平成11年4月23日(1999.4.2
3)
[Submission date] April 23, 1999 (1999.4.2
3)

【手続補正1】[Procedure amendment 1]

【補正対象書類名】図面[Document name to be amended] Drawing

【補正対象項目名】全図[Correction target item name] All figures

【補正方法】変更[Correction method] Change

【補正内容】[Correction contents]

【図5】 FIG. 5

【図6】 FIG. 6

【図10】 FIG. 10

【図18】 FIG.

【図1】 FIG.

【図2】 FIG. 2

【図3】 FIG. 3

【図14】 FIG. 14

【図16】 FIG. 16

【図4】 FIG. 4

【図7】 FIG. 7

【図8】 FIG. 8

【図17】 FIG.

【図9】 FIG. 9

【図11】 FIG. 11

【図12】 FIG.

【図13】 FIG. 13

【図15】 FIG.

【図19】 FIG.

【図20】 FIG.

【図21】 FIG. 21

【図22】 FIG.

【図23】 FIG. 23

【図24】 FIG. 24

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.7 識別記号 FI テーマコート゛(参考) // B62D 113:00 B60R 21/00 621C 621M 622F 622T 626G Fターム(参考) 3D032 CC20 CC21 CC48 CC50 DA03 DA22 DA23 DA76 DA88 DA90 DA91 DA93 DA95 DB03 DB07 DC33 DC38 EB04 GG01 5C054 FE13 FE14 FE26 HA30 5H180 CC04 FF13 LL02 LL08 LL09──────────────────────────────────────────────────続 き Continued on the front page (51) Int.Cl. 7 Identification symbol FI Theme coat ゛ (Reference) // B62D 113: 00 B60R 21/00 621C 621M 622F 622T 622T 626G F-term (Reference) 3D032 CC20 CC21 CC48 CC50 DA03 DA22 DA23 DA76 DA88 DA90 DA91 DA93 DA95 DB03 DB07 DC33 DC38 EB04 GG01 5C054 FE13 FE14 FE26 HA30 5H180 CC04 FF13 LL02 LL08 LL09

Claims (4)

【特許請求の範囲】[Claims] 【請求項1】 車両に設置され、外界の情報を取り込む
撮像装置と、該撮像装置が取り込む画像を処理する制御
装置と、該制御装置により処理される画像を表示するモ
ニターとを備える運転支援装置において、 前記制御装置に車両の前後進を選択する情報を入力する
入力装置を備え、 前記制御装置は、入力装置による前進の情報の入力時
に、撮像装置により取り込まれる画像のモニター上の表
示に、ハンドルを最大舵角にしての後進により到達した
場合に車両左右に必要とする余裕スペース分を含む駐車
所要スペースの左右側のうちのいずれか近い側を境とす
る駐車可能範囲をスーパーインポーズする画像合成手段
を備えることを特徴とする駐車支援装置。
1. A driving assistance device, which is installed in a vehicle and captures information of the outside world, a control device that processes an image captured by the imaging device, and a monitor that displays an image processed by the control device. An input device for inputting information for selecting forward and backward traveling of the vehicle to the control device, the control device, upon input of forward information by the input device, display on a monitor of an image captured by the imaging device, When the steering wheel is set to the maximum steering angle and the vehicle reaches the reverse position, the vehicle is superimposed on the available parking area on the left or right side of the required parking space including the extra space required on the left and right of the vehicle. A parking assistance device comprising an image synthesizing unit.
【請求項2】 前記制御装置は、入力装置により後進の
情報が入力されたとき、前記駐車可能範囲に代えて、車
両最外側ラインを地面に投影して車両後方に延長した最
外側延長ラインをスーパーインポーズする画像合成手段
を備える、請求項1記載の駐車支援装置。
2. The control device according to claim 1, wherein, when information on reverse travel is input by an input device, an outermost extended line extended to the rear of the vehicle by projecting an outermost line of the vehicle onto the ground instead of the parkable range. The parking assist device according to claim 1, further comprising an image synthesizing unit that performs superimposition.
【請求項3】 前記制御装置は、入力装置により後進の
情報が入力されたとき、前記駐車可能範囲に代えて、ハ
ンドル舵角に対応した車両角部の後進予測軌跡をスーパ
ーインポーズする画像合成手段を備える、請求項1記載
の駐車支援装置。
3. The image synthesizer according to claim 1, wherein the control device superimposes a backward predicted trajectory of a vehicle corner corresponding to a steering angle instead of the parking range when reverse information is input by an input device. The parking assist device according to claim 1, further comprising a means.
【請求項4】 前記制御装置は、更に、車両を正確に駐
車した場合の駐車スペース形状を模した目標駐車枠基準
線をスーパーインポーズする画像合成手段を備える、請
求項2又は3記載の駐車支援装置。
4. The parking system according to claim 2, wherein said control device further comprises image combining means for superimposing a target parking frame reference line imitating a parking space shape when the vehicle is parked correctly. Support equipment.
JP36191098A 1998-12-03 1998-12-03 Parking assistance device Expired - Fee Related JP4061757B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP36191098A JP4061757B2 (en) 1998-12-03 1998-12-03 Parking assistance device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP36191098A JP4061757B2 (en) 1998-12-03 1998-12-03 Parking assistance device

Publications (2)

Publication Number Publication Date
JP2000168475A true JP2000168475A (en) 2000-06-20
JP4061757B2 JP4061757B2 (en) 2008-03-19

Family

ID=18475267

Family Applications (1)

Application Number Title Priority Date Filing Date
JP36191098A Expired - Fee Related JP4061757B2 (en) 1998-12-03 1998-12-03 Parking assistance device

Country Status (1)

Country Link
JP (1) JP4061757B2 (en)

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002007443A1 (en) * 2000-07-19 2002-01-24 Matsushita Electric Industrial Co., Ltd. Monitoring system
JP2002087191A (en) * 2000-06-30 2002-03-26 Matsushita Electric Ind Co Ltd Driving supporting system
JP2002160597A (en) * 2000-11-28 2002-06-04 Mitsubishi Motors Corp Parking support device
EP1253065A2 (en) 2001-04-24 2002-10-30 Matsushita Electric Industrial Co., Ltd. Parking assistance apparatus
WO2002089485A1 (en) * 2001-04-24 2002-11-07 Matsushita Electric Industrial Co., Ltd. Method and apparatus for displaying pickup image of camera installed in vehicle
JP2003104055A (en) * 2001-09-27 2003-04-09 Equos Research Co Ltd Opening support device of vehicle door
JP2003205808A (en) * 2002-01-11 2003-07-22 Toyota Motor Corp Parking support device
JP2003205806A (en) * 2002-01-10 2003-07-22 Toyota Motor Corp Parking supporting device
JP2003335196A (en) * 2002-05-21 2003-11-25 Toyota Motor Corp Parking support device
KR100481248B1 (en) * 2001-02-09 2005-04-08 마쯔시다덴기산교 가부시키가이샤 Picture synthesizing apparatus for presenting circumferencial images to driver, and display apparatus, warning apparatus and position recognition apparatus using it
JP2005223524A (en) * 2004-02-04 2005-08-18 Nissan Motor Co Ltd Supervisory apparatus for surrounding of vehicle
JP2006338603A (en) * 2005-06-06 2006-12-14 Matsushita Electric Ind Co Ltd Curve rendering device, curve rendering method, parking support system and vehicle
JP2006344009A (en) * 2005-06-09 2006-12-21 Xanavi Informatics Corp Method and system for monitoring periphery of vehicle
JP2007223395A (en) * 2006-02-22 2007-09-06 Mazda Motor Corp Obstruction detection device of vehicle
JP2008037320A (en) * 2006-08-08 2008-02-21 Suzuki Motor Corp Parking assistant device, parking assistant method and parking assistant program
JP2008114691A (en) * 2006-11-02 2008-05-22 Mitsubishi Electric Corp Vehicular periphery monitoring device, and vehicular periphery monitoring image display method
JP2008114628A (en) * 2006-11-01 2008-05-22 Suzuki Motor Corp Parking support system
JP2008179253A (en) * 2007-01-24 2008-08-07 Nissan Motor Co Ltd Parking assisting device and parking assisting method
US7734417B2 (en) 2005-05-20 2010-06-08 Nissan Motor., Ltd. Image processing device and method for parking support
EP2272730A1 (en) * 2009-07-07 2011-01-12 HI-KEY Limited Method and apparatus for displaying distance data in a parking distance control system
JP2011025874A (en) * 2009-07-28 2011-02-10 Hitachi Automotive Systems Ltd On-vehicle image display device
KR200463011Y1 (en) 2010-01-07 2012-10-16 쓰리에이치비젼주식회사 parking guide line device
JP2012232610A (en) * 2011-04-28 2012-11-29 Toshiba Alpine Automotive Technology Corp Parking support system
JP2014004904A (en) * 2012-06-22 2014-01-16 Toyota Motor Corp Parking support device
US8872919B2 (en) 2005-02-24 2014-10-28 Aisin Seiki Kabushiki Kaisha Vehicle surrounding monitoring device
CN107545775A (en) * 2016-06-27 2018-01-05 现代自动车株式会社 Apparatus and method for showing parking area
CN109263575A (en) * 2018-11-19 2019-01-25 北京远特科技股份有限公司 Reversing channelizing line scaling method, reversing channelizing line caliberating device and electronic equipment
JP7471021B2 (en) 2018-12-25 2024-04-19 株式会社ユピテル Systems and programs

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101727754B (en) * 2008-10-28 2013-12-18 财团法人车辆研究测试中心 Parking guiding system and guiding method thereof

Cited By (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002087191A (en) * 2000-06-30 2002-03-26 Matsushita Electric Ind Co Ltd Driving supporting system
JP4493885B2 (en) * 2000-06-30 2010-06-30 パナソニック株式会社 Driving support system
US7266219B2 (en) 2000-07-19 2007-09-04 Matsushita Electric Industrial Co., Ltd. Monitoring system
WO2002007443A1 (en) * 2000-07-19 2002-01-24 Matsushita Electric Industrial Co., Ltd. Monitoring system
JP2002160597A (en) * 2000-11-28 2002-06-04 Mitsubishi Motors Corp Parking support device
KR100481248B1 (en) * 2001-02-09 2005-04-08 마쯔시다덴기산교 가부시키가이샤 Picture synthesizing apparatus for presenting circumferencial images to driver, and display apparatus, warning apparatus and position recognition apparatus using it
US7012549B2 (en) 2001-04-24 2006-03-14 Matsushita Electric Industrial Co., Ltd. Parking assistance apparatus
EP1253065A3 (en) * 2001-04-24 2004-01-07 Matsushita Electric Industrial Co., Ltd. Parking assistance apparatus
EP1253065A2 (en) 2001-04-24 2002-10-30 Matsushita Electric Industrial Co., Ltd. Parking assistance apparatus
WO2002089485A1 (en) * 2001-04-24 2002-11-07 Matsushita Electric Industrial Co., Ltd. Method and apparatus for displaying pickup image of camera installed in vehicle
JP2003104055A (en) * 2001-09-27 2003-04-09 Equos Research Co Ltd Opening support device of vehicle door
JP2003205806A (en) * 2002-01-10 2003-07-22 Toyota Motor Corp Parking supporting device
JP2003205808A (en) * 2002-01-11 2003-07-22 Toyota Motor Corp Parking support device
JP2003335196A (en) * 2002-05-21 2003-11-25 Toyota Motor Corp Parking support device
JP2005223524A (en) * 2004-02-04 2005-08-18 Nissan Motor Co Ltd Supervisory apparatus for surrounding of vehicle
US8872919B2 (en) 2005-02-24 2014-10-28 Aisin Seiki Kabushiki Kaisha Vehicle surrounding monitoring device
US7734417B2 (en) 2005-05-20 2010-06-08 Nissan Motor., Ltd. Image processing device and method for parking support
JP4727304B2 (en) * 2005-06-06 2011-07-20 パナソニック株式会社 Curve drawing device, curve drawing method, parking support device, and vehicle
JP2006338603A (en) * 2005-06-06 2006-12-14 Matsushita Electric Ind Co Ltd Curve rendering device, curve rendering method, parking support system and vehicle
JP2006344009A (en) * 2005-06-09 2006-12-21 Xanavi Informatics Corp Method and system for monitoring periphery of vehicle
JP2007223395A (en) * 2006-02-22 2007-09-06 Mazda Motor Corp Obstruction detection device of vehicle
JP2008037320A (en) * 2006-08-08 2008-02-21 Suzuki Motor Corp Parking assistant device, parking assistant method and parking assistant program
JP2008114628A (en) * 2006-11-01 2008-05-22 Suzuki Motor Corp Parking support system
JP2008114691A (en) * 2006-11-02 2008-05-22 Mitsubishi Electric Corp Vehicular periphery monitoring device, and vehicular periphery monitoring image display method
JP2008179253A (en) * 2007-01-24 2008-08-07 Nissan Motor Co Ltd Parking assisting device and parking assisting method
EP2272730A1 (en) * 2009-07-07 2011-01-12 HI-KEY Limited Method and apparatus for displaying distance data in a parking distance control system
JP2011025874A (en) * 2009-07-28 2011-02-10 Hitachi Automotive Systems Ltd On-vehicle image display device
US8421863B2 (en) 2009-07-28 2013-04-16 Hitachi, Ltd. In-vehicle image display device
KR200463011Y1 (en) 2010-01-07 2012-10-16 쓰리에이치비젼주식회사 parking guide line device
JP2012232610A (en) * 2011-04-28 2012-11-29 Toshiba Alpine Automotive Technology Corp Parking support system
JP2014004904A (en) * 2012-06-22 2014-01-16 Toyota Motor Corp Parking support device
CN107545775A (en) * 2016-06-27 2018-01-05 现代自动车株式会社 Apparatus and method for showing parking area
CN109263575A (en) * 2018-11-19 2019-01-25 北京远特科技股份有限公司 Reversing channelizing line scaling method, reversing channelizing line caliberating device and electronic equipment
JP7471021B2 (en) 2018-12-25 2024-04-19 株式会社ユピテル Systems and programs

Also Published As

Publication number Publication date
JP4061757B2 (en) 2008-03-19

Similar Documents

Publication Publication Date Title
JP4061757B2 (en) Parking assistance device
JP4114292B2 (en) Driving support device
JP2000238594A (en) Driving support system
CN107444263B (en) Display device for vehicle
US7423521B2 (en) Vehicular visual assistance system
JP4914458B2 (en) Vehicle periphery display device
JP4723703B2 (en) Vehicle driving support device
JPH10257482A (en) Vehicle surrounding condition display device
US11601621B2 (en) Vehicular display system
JP6361988B2 (en) Vehicle display device
JP4207298B2 (en) Driving assistance image synthesizer
JP4258048B2 (en) Driving assistance device
JP4207299B2 (en) Driving assistance device
JP4999651B2 (en) Vehicle lamp control system
JP2006163756A (en) Vehicular view supporting device
JP4055686B2 (en) Night vision system for vehicles linked to headlights for curved roads
JP6361987B2 (en) Vehicle display device
JP2021154888A (en) Display device for vehicle
US20220086368A1 (en) Vehicular display system
JP2021077976A (en) On-vehicle display system
JP6459071B2 (en) Vehicle display device
JP4615980B2 (en) Vehicle visibility assist device
JP3849487B2 (en) Parking assistance device
JP7383529B2 (en) Vehicle display device
JP3362953B2 (en) Vehicle display device

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20041221

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051020

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070928

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071217

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110111

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110111

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120111

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140111

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150111

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees