JP6488628B2 - Video processing apparatus and in-vehicle video processing system - Google Patents

Video processing apparatus and in-vehicle video processing system Download PDF

Info

Publication number
JP6488628B2
JP6488628B2 JP2014210000A JP2014210000A JP6488628B2 JP 6488628 B2 JP6488628 B2 JP 6488628B2 JP 2014210000 A JP2014210000 A JP 2014210000A JP 2014210000 A JP2014210000 A JP 2014210000A JP 6488628 B2 JP6488628 B2 JP 6488628B2
Authority
JP
Japan
Prior art keywords
video processing
video
vehicle
camera
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014210000A
Other languages
Japanese (ja)
Other versions
JP2016082329A (en
JP2016082329A5 (en
Inventor
勝之 福田
勝之 福田
川島 毅
毅 川島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2014210000A priority Critical patent/JP6488628B2/en
Priority to PCT/JP2015/005037 priority patent/WO2016059765A1/en
Publication of JP2016082329A publication Critical patent/JP2016082329A/en
Publication of JP2016082329A5 publication Critical patent/JP2016082329A5/ja
Application granted granted Critical
Publication of JP6488628B2 publication Critical patent/JP6488628B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、映像処理装置、及び車載映像処理システムに関する。   The present invention relates to a video processing device and an in-vehicle video processing system.

車両の後側方をカメラで撮影して、その映像を車両内部の表示部に表示する車両用周辺監視装置が知られている(例えば、特許文献1参照。)。特許文献1に記載の車両用周辺監視装置の場合、カメラは、ドアミラーよりも車両の前方側となる位置に配設されている。カメラによる撮影範囲は、ドアミラーの視野とドアミラーの死角とを包含する。表示部に表示される映像には、ドアミラーの輪郭を示す画像が重ねて表示される。   2. Description of the Related Art A vehicle periphery monitoring device that captures a rear side of a vehicle with a camera and displays the image on a display unit inside the vehicle is known (for example, see Patent Document 1). In the case of the vehicle periphery monitoring device described in Patent Document 1, the camera is disposed at a position on the front side of the vehicle with respect to the door mirror. The shooting range by the camera includes the field of view of the door mirror and the blind spot of the door mirror. On the video displayed on the display unit, an image showing the outline of the door mirror is superimposed and displayed.

特許第3876761号公報Japanese Patent No. 3877761

しかし、上述のような表示部に表示される映像と、ドアミラーに映る鏡像とでは、視点の違いや立体感の違いから、距離感が把握しづらいという問題がある。特に、車両から近距離にある対象物(例えば、表示部において車両の後側方に見える駐車枠など。)については、対象物までの距離感や自車両との平行度を認識、判断することが難しい、という問題があった。   However, there is a problem that it is difficult to grasp the sense of distance between the video displayed on the display unit as described above and the mirror image reflected on the door mirror due to a difference in viewpoint and a difference in stereoscopic effect. In particular, for an object at a short distance from the vehicle (for example, a parking frame that is visible on the rear side of the vehicle on the display unit), recognize and judge the sense of distance to the object and parallelism with the host vehicle. There was a problem that was difficult.

以上のような事情から、対象物までの距離感や自車両との平行度をより容易に認識できる画像を表示可能な映像処理装置、及び車載映像処理システムを提供することが望ましい。   In view of the above circumstances, it is desirable to provide a video processing apparatus and an in-vehicle video processing system that can display an image that can more easily recognize a sense of distance to an object and parallelism with the host vehicle.

以下に説明する映像処理装置は、映像入力部と、映像処理部と、映像出力部とを備える。映像入力部は、車両の後側方を撮影可能に構成されたカメラで撮影された一次映像を入力する。映像処理部は、映像入力部によって入力された一次映像に対して所定の映像処理を施す。映像処理としては、カメラから入力される一次映像が正像である場合は、一次映像の左右を反転させる処理を施すことにより、一次映像の鏡像化が行われる。なお、カメラから入力される一次映像が鏡像である場合は、その一次映像がそのまま利用される。そして、これらいずれかの手法で得られる鏡像映像に重ねて、車両の車体側方への最大突出箇所の位置を表す補助線を描画する処理が実行される。映像出力部は、映像処理部によって映像処理が施された二次映像を車室内に配設された表示装置へと出力する。   A video processing apparatus described below includes a video input unit, a video processing unit, and a video output unit. The video input unit inputs a primary video captured by a camera configured to capture the rear side of the vehicle. The video processing unit performs predetermined video processing on the primary video input by the video input unit. As the video processing, when the primary video input from the camera is a normal image, the primary video is mirrored by performing a process of inverting the left and right of the primary video. If the primary video input from the camera is a mirror image, the primary video is used as it is. And the process which draws the auxiliary line showing the position of the largest protrusion location to the vehicle body side of a vehicle is performed on the mirror image image | video obtained by either of these methods. The video output unit outputs the secondary video subjected to the video processing by the video processing unit to a display device disposed in the vehicle interior.

このように構成された映像処理装置によれば、上述のような鏡像映像に対して補助線が重ねて描画された二次映像を、表示装置の画面上に表示することができる。そのため、車両の運転者は、表示装置の画面上に表示された補助線を参考にして、車両の真後ろに相当する範囲と車両の真後ろよりも側方にある範囲を適切に把握できる。したがって、上述のような補助線が表示されない場合に比べ、対象物までの距離感や自車両との平行度を、車両の運転者がより容易に認識できるようになる。   According to the video processing apparatus configured as described above, it is possible to display on the screen of the display device a secondary video in which auxiliary lines are drawn on the mirror image as described above. Therefore, the driver of the vehicle can appropriately grasp the range corresponding to just behind the vehicle and the range located on the side of the vehicle behind the vehicle with reference to the auxiliary line displayed on the screen of the display device. Therefore, the driver of the vehicle can more easily recognize the sense of distance to the object and the degree of parallelism with the host vehicle as compared with the case where the auxiliary line as described above is not displayed.

また、以下に説明する車載映像処理システムは、カメラと、表示装置と、映像処理装置とを備える。映像処理装置は、上述した通りの映像入力部と、映像処理部と、映像出力部とを備える。したがって、上述の映像処理装置について述べた通りの作用、効果を奏する。   An in-vehicle video processing system described below includes a camera, a display device, and a video processing device. The video processing apparatus includes a video input unit, a video processing unit, and a video output unit as described above. Therefore, the operation and effect as described for the above-described video processing apparatus are achieved.

なお、特許請求の範囲には、後述する実施形態中で示される符号を括弧書きで併記した。ただし、特許請求の範囲に併記した符号は、特許請求の範囲と後述する実施形態との対応関係をわかりやすくするために記載したものであり、本発明の技術的範囲が後述する実施形態に限定されるという主旨ではない。   In addition, the code | symbol shown in embodiment mentioned later was written together in the claim in the claim. However, the reference numerals written in the claims are described for easy understanding of the correspondence between the claims and the embodiments described later, and the technical scope of the present invention is limited to the embodiments described later. It is not the purpose of being.

図1は車載映像処理システムの構成を示すブロック図である。FIG. 1 is a block diagram showing a configuration of an in-vehicle video processing system. 図2は第一実施形態の映像処理を示すフローチャートである。FIG. 2 is a flowchart showing video processing according to the first embodiment. 図3は第一実施形態における一次映像を例示した説明図である。FIG. 3 is an explanatory diagram illustrating a primary video in the first embodiment. 図4は第一実施形態における二次映像を例示した説明図である。FIG. 4 is an explanatory diagram illustrating a secondary video in the first embodiment. 図5は第二実施形態の映像処理を示すフローチャートである。FIG. 5 is a flowchart showing video processing according to the second embodiment. 図6は第二実施形態における一次映像を例示した説明図である。FIG. 6 is an explanatory diagram illustrating a primary video in the second embodiment. 図7は第二実施形態における二次映像を例示した説明図である。FIG. 7 is an explanatory diagram illustrating a secondary video in the second embodiment. 図8は第三実施形態の映像処理を示すフローチャートである。FIG. 8 is a flowchart showing video processing according to the third embodiment. 図9は第三実施形態における視点変換に関する説明図である。FIG. 9 is an explanatory diagram regarding viewpoint conversion in the third embodiment. 図10は第三実施形態における視点変換後の映像を例示した説明図である。FIG. 10 is an explanatory view illustrating an image after viewpoint conversion in the third embodiment. 図11は第三実施形態における二次映像を例示した説明図である。FIG. 11 is an explanatory diagram illustrating a secondary video in the third embodiment.

次に、上述の映像処理装置、及び車載映像処理システムについて、例示的な実施形態を挙げて説明する。
(1)第一実施形態
[映像処理装置の構成]
以下に説明する車載映像処理システムは、図1に示すように、上述の映像処理装置として機能する電子制御装置1(Electronic Control Unit;以下、ECU1と略称する。)を中心に構成される。ECU1の他には、左カメラ3、右カメラ4、左モニタ5、右モニタ6、及び車両信号取得部7などを備える。
Next, the above-described video processing device and in-vehicle video processing system will be described with reference to exemplary embodiments.
(1) First embodiment [Configuration of video processing apparatus]
As shown in FIG. 1, an in-vehicle video processing system described below is mainly configured by an electronic control unit 1 (Electronic Control Unit; hereinafter abbreviated as ECU 1) that functions as the video processing device described above. In addition to the ECU 1, a left camera 3, a right camera 4, a left monitor 5, a right monitor 6, and a vehicle signal acquisition unit 7 are provided.

左カメラ3は、車両の左側にあるドアミラー(本明細書でいう車体外後写鏡の一例に相当。)の取付位置相当の箇所に取り付けられ、車両左側の後側方を撮影可能に構成されている。右カメラ4は、車両の右側にあるドアミラーの取付位置相当の箇所に取り付けられ、車両右側の後側方を撮影可能に構成されている。左カメラ3及び右カメラ4は、双方とも一般的なドアミラーを通して見える範囲よりも広い範囲を撮影可能に構成されている。   The left camera 3 is mounted at a position corresponding to the mounting position of a door mirror (corresponding to an example of a rear-view mirror outside the vehicle body) on the left side of the vehicle, and is configured to be able to photograph the rear side of the left side of the vehicle. ing. The right camera 4 is attached to a position corresponding to the attachment position of the door mirror on the right side of the vehicle, and is configured to be able to photograph the rear side of the right side of the vehicle. Both the left camera 3 and the right camera 4 are configured to be able to photograph a range wider than a range that can be seen through a general door mirror.

左モニタ5及び右モニタ6は、例えば液晶ディスプレイ装置などによって構成され、それぞれが車室内に配設されている。本実施形態の場合、左モニタ5は、運転席から見て左斜め前方となる位置に設置され、主に左カメラ3で撮影された映像が左モニタ5に表示される。右モニタ6は、運転席から見て右斜め前方となる位置に設置され、主に右カメラ4で撮影された映像が右モニタ6に表示される。   The left monitor 5 and the right monitor 6 are constituted by, for example, a liquid crystal display device or the like, and each is disposed in the vehicle interior. In the case of the present embodiment, the left monitor 5 is installed at a position that is diagonally forward left when viewed from the driver's seat, and images that are mainly captured by the left camera 3 are displayed on the left monitor 5. The right monitor 6 is installed at a position that is diagonally forward to the right when viewed from the driver's seat, and an image captured mainly by the right camera 4 is displayed on the right monitor 6.

ただし、左モニタ5及び右モニタ6の配設位置は、上述の配設位置には限定されない、また、左モニタ5及び右モニタ6は、上述のように、それぞれに対応する表示装置で構成してもよいが、単一の表示装置で構成してもよい。例えば、単一のセンターディスプレイを、ダッシュボードの中央付近(例えば、センターコンソール等、運転席と助手席との間となる位置に対向する箇所。)に配設し、左モニタ5及び右モニタ6に相当する表示領域を、センターディスプレイの画面上に設けてもよい。   However, the arrangement positions of the left monitor 5 and the right monitor 6 are not limited to the above-described arrangement positions, and the left monitor 5 and the right monitor 6 are configured by display devices corresponding to the respective positions as described above. However, it may be composed of a single display device. For example, a single center display is disposed in the vicinity of the center of the dashboard (for example, a location facing the position between the driver seat and the passenger seat, such as a center console), and the left monitor 5 and the right monitor 6. May be provided on the screen of the center display.

車両信号取得部7は、車両各部の状態(例えば、車速、アクセル開度、ステアリング操舵角、及びシフトポジション等)を検知可能なセンサ類(図示略。)から、検知した状態を表す信号を、車載ネットワーク経由で取得可能に構成されている。車両信号取得部7において取得された信号は、車両信号取得部7からECU1に入力される。   The vehicle signal acquisition unit 7 outputs a signal indicating the detected state from sensors (not shown) that can detect the state of each part of the vehicle (for example, vehicle speed, accelerator opening, steering angle, and shift position). It is configured so that it can be acquired via the in-vehicle network. The signal acquired by the vehicle signal acquisition unit 7 is input from the vehicle signal acquisition unit 7 to the ECU 1.

ECU1は、映像入力部11、映像処理部12、映像出力部13、及び記憶部14などを備える。映像入力部11は、左カメラ3及び右カメラ4のそれぞれによって撮影された一次映像を入力する。映像処理部12は、映像入力部11によって入力された一次映像(左カメラ3で撮影された一次映像、及び右カメラ4で撮影された一次映像。)それぞれに対して映像処理を施して二次映像を生成する。なお、映像処理部12において実行される映像処理の詳細については後述する。   The ECU 1 includes a video input unit 11, a video processing unit 12, a video output unit 13, a storage unit 14, and the like. The video input unit 11 inputs a primary video shot by each of the left camera 3 and the right camera 4. The video processing unit 12 performs video processing on each of the primary video (the primary video captured by the left camera 3 and the primary video captured by the right camera 4) input by the video input unit 11, and performs secondary processing. Generate video. Details of the video processing executed in the video processing unit 12 will be described later.

映像出力部13は、映像処理部12によって生成された二次映像のうち、左カメラ3で撮影された一次映像に基づいて生成された二次映像を左モニタ5へと出力し、右カメラ4で撮影された一次映像に基づいて生成された二次映像を右モニタ6へと出力する。これにより、運転者は、車両の後退時、あるいは車線変更等を実施する際に、左モニタ5及び右モニタ6に映し出される映像を見て、車両の後側方の状況を把握することができる。記憶部14には、映像処理部12において映像処理を実行する際に必要となる各種データが記憶されている。   The video output unit 13 outputs the secondary video generated based on the primary video captured by the left camera 3 among the secondary videos generated by the video processing unit 12 to the left monitor 5, and the right camera 4. The secondary video generated based on the primary video imaged in step 1 is output to the right monitor 6. As a result, the driver can grasp the situation on the rear side of the vehicle by looking at the images displayed on the left monitor 5 and the right monitor 6 when the vehicle moves backward or when changing lanes. . The storage unit 14 stores various types of data required when the video processing unit 12 executes video processing.

なお、本実施形態の場合、車両にはドアミラーそのもの(すなわち、鏡に映る鏡像によって車両の後側方を確認可能に構成されたもの。)は取り付けられていない。その代わりに、ドアミラーの取付位置相当の箇所には、上述の左カメラ3及び右カメラ4が取り付けられている。運転者は、ドアミラーを見る代わりに、左モニタ5及び右モニタ6を見ることにより、車両の後側方の状況を確認することができる。   In the case of the present embodiment, the door mirror itself (that is, a configuration in which the rear side of the vehicle can be confirmed by a mirror image reflected in the mirror) is not attached to the vehicle. Instead, the left camera 3 and the right camera 4 described above are attached at a position corresponding to the attachment position of the door mirror. The driver can check the situation on the rear side of the vehicle by looking at the left monitor 5 and the right monitor 6 instead of looking at the door mirror.

ただし、本実施形態において説明する車載映像処理システムは、ドアミラーが取り付けられている車両において、ドアミラーと併用される構成として採用されてもかまわない。例えば、車両の左右両側それぞれにドアミラーが取り付けられ、それらのドアミラーに対して左カメラ3及び右カメラ4が取り付けられていてもよい。この場合、左モニタ5及び右モニタ6は、ドアミラーと併用して車両の後側方を確認するために利用することができる。   However, the in-vehicle image processing system described in the present embodiment may be adopted as a configuration used in combination with a door mirror in a vehicle to which a door mirror is attached. For example, door mirrors may be attached to the left and right sides of the vehicle, and the left camera 3 and the right camera 4 may be attached to the door mirrors. In this case, the left monitor 5 and the right monitor 6 can be used in combination with a door mirror to check the rear side of the vehicle.

[ECUにおいて実行される処理の詳細]
次に、ECU1において実行される処理について、図2に示すフローチャートに基づいて説明する。以下に説明する処理は、車両の始動に伴って開始され、以降は車両が停止するまで繰り返し実行される処理である。
[Details of processing executed in ECU]
Next, processing executed in the ECU 1 will be described based on the flowchart shown in FIG. The process described below is a process that is started with the start of the vehicle and is repeatedly executed thereafter until the vehicle stops.

この処理を開始すると、ECU1は、左カメラ3及び右カメラ4のそれぞれによって撮影された一次映像を取得する(S10)。本実施形態の場合、左カメラ3及び右カメラ4としては、撮影対象の左右を反転させて鏡像として映像を出力するカメラを採用している。そのため、S10では、特に追加の映像処理を施さなくても鏡像化済みの一次映像を取得することができる。ただし、左カメラ3及び右カメラ4としては、撮影対象の左右を反転させることなく正像として映像を出力するカメラを採用することもできる。この場合は、ECU1が、S10又はその後の処理ステップにおいて、正像として取得した映像の左右を反転させて鏡像に変換する映像処理を施せばよい。   When this process is started, the ECU 1 acquires primary images captured by the left camera 3 and the right camera 4 (S10). In the case of the present embodiment, as the left camera 3 and the right camera 4, cameras that output a video image as a mirror image by inverting the left and right of the subject to be photographed are employed. Therefore, in S10, it is possible to obtain a mirrored primary video without particularly performing additional video processing. However, as the left camera 3 and the right camera 4, a camera that outputs a video as a normal image without reversing the left and right of the subject to be photographed can be adopted. In this case, the ECU 1 may perform video processing that inverts the left and right of the video acquired as a normal image and converts it into a mirror image in S10 or a subsequent processing step.

こうして得られる鏡像映像は、例えば右カメラ4によって撮影される映像を例に挙げると、図3に例示するような映像となる。図3に例示した鏡像映像20は、路面に駐車枠21(白線)が描かれている映像であり、映像の左端には、車体23の一部が映っている。なお、左カメラ3は撮影対象が車体左側の後側方となる点で右カメラ4とは相違するが、図2に示す処理を理解する上で重要な事項ではないので、左カメラ3によって撮影される映像についての図示は省略する。   The mirror image obtained in this way is, for example, an image illustrated in FIG. 3 when an image taken by the right camera 4 is taken as an example. The mirror image 20 illustrated in FIG. 3 is an image in which a parking frame 21 (white line) is drawn on the road surface, and a part of the vehicle body 23 is shown at the left end of the image. Although the left camera 3 is different from the right camera 4 in that the object to be photographed is the rear side of the left side of the vehicle body, it is not an important matter for understanding the processing shown in FIG. Illustration of the video to be performed is omitted.

ちなみに、左カメラ3及び右カメラ4によって撮影可能な画角は、一般的なドアミラーを利用して運転者が目視可能な画角よりも、広い画角となっている。そのため、図3に例示した鏡像映像20で言えば、主に映像中の右側にはドアミラーには映り込まない範囲も映っていて、ドアミラーよりも広範囲(ドアミラーを通して目視可能な範囲よりも右方にある範囲)の映像を見ることができる。   Incidentally, the angle of view that can be taken by the left camera 3 and the right camera 4 is wider than the angle of view that can be viewed by the driver using a general door mirror. Therefore, in the mirror image 20 illustrated in FIG. 3, a range that is not reflected on the door mirror is mainly reflected on the right side of the image, which is wider than the door mirror (to the right of the range that can be viewed through the door mirror). A certain range of images can be viewed.

さて、S10において上述のような鏡像映像を取得したら、ECU1は、一次映像に基づく鏡像映像に対し補助線の画像を重ねて描画する(S20)。S20で描画される補助線は、車両の車体側方への最大突出箇所の位置を表す線である。より具体的には、本実施形態の場合、上述の最大突出箇所に接する位置に、車幅方向に対して垂直な仮想平面を仮想し、その仮想平面と路面との交線相当の位置に、上述の補助線を描画する。   Now, if the above mirror image image | video is acquired in S10, ECU1 will draw and draw the image of an auxiliary line on the mirror image image | video based on a primary image | video (S20). The auxiliary line drawn in S20 is a line that represents the position of the maximum projecting portion on the side of the vehicle body. More specifically, in the case of the present embodiment, a virtual plane perpendicular to the vehicle width direction is virtualized at a position in contact with the above-described maximum protruding portion, and at a position corresponding to the intersection line of the virtual plane and the road surface, The above auxiliary line is drawn.

仮想平面の位置は、上述の最大突出箇所に接する位置の他、上述の最大突出箇所に接する位置に対して所定のマージンを加えた位置であってもよい。例えば10cmのマージンを加える場合であれば、上述の最大突出箇所から車幅方向へ10cm離れた位置に仮想平面が想定され、補助線もマージンが0cmの場合に描画される位置から10cm離れた位置に描画される。なお、マージンを何cmとするかは任意であり、上述の10cm以外でもよいことはもちろんである。また、上述のようなマージンは固定値であってもよいが、運転者が所定の数値範囲内(例えば0〜15cm等。)で任意又は二段階以上の可変設定ができるように構成されていてもよい。   The position of the imaginary plane may be a position obtained by adding a predetermined margin to the position in contact with the above-described maximum protruding portion, in addition to the position in contact with the above-described maximum protruding portion. For example, if a margin of 10 cm is added, a virtual plane is assumed at a position 10 cm away from the above-mentioned maximum protruding portion in the vehicle width direction, and the auxiliary line is also a position 10 cm away from the position drawn when the margin is 0 cm. Drawn on. It should be noted that how many cm the margin is set is arbitrary, and it is needless to say that the margin may be other than 10 cm described above. In addition, the margin as described above may be a fixed value, but is configured so that the driver can arbitrarily or variably set two or more steps within a predetermined numerical range (for example, 0 to 15 cm, etc.). Also good.

このような補助線が鏡像映像に重ねて描画された場合、例えば右カメラ4によって撮影される映像を例に挙げると、図4に例示するような映像が生成される。図4に例示した映像の場合、図3に例示した駐車枠21や車体23が映る鏡像映像20に重ねて補助線25が描画されている。なお、左カメラ3によって撮影される鏡像映像に対しても、同様の補助線が重ねて描画される(図示は省略。)。   When such an auxiliary line is drawn so as to be superimposed on the mirror image image, for example, when an image photographed by the right camera 4 is taken as an example, an image as illustrated in FIG. 4 is generated. In the case of the image illustrated in FIG. 4, the auxiliary line 25 is drawn on the mirror image 20 in which the parking frame 21 and the vehicle body 23 illustrated in FIG. 3 are reflected. Note that the same auxiliary line is also drawn on the mirror image captured by the left camera 3 (not shown).

S20において補助線を描画したら、ECU1は、鏡像映像及び補助線を含む二次映像を左モニタ5及び右モニタ6に表示する(S30)。S30を実行すると、例えば右モニタ6には、図4に例示したような映像が表示される。なお、左モニタ5にも、同様の補助線及び鏡像映像が表示される(図示は省略。)。以上のような処理は、例えば毎秒30−120回程度の処理速度で繰り返し実行され、これにより、左モニタ5及び右モニタ6には、フレームレート30−120fps程度の動画で車両の後側方の映像が表示される。   When the auxiliary line is drawn in S20, the ECU 1 displays the secondary image including the mirror image and the auxiliary line on the left monitor 5 and the right monitor 6 (S30). When S30 is executed, for example, the right monitor 6 displays an image as illustrated in FIG. Note that the same auxiliary line and mirror image are also displayed on the left monitor 5 (not shown). The above processing is repeatedly executed at a processing speed of, for example, about 30 to 120 times per second. As a result, the left monitor 5 and the right monitor 6 are animated on the rear side of the vehicle with a frame rate of about 30 to 120 fps. An image is displayed.

[効果]
以上説明したように、上記車載映像処理システムによれば、ECU1において、左カメラ3及び右カメラ4によって撮影された鏡像映像(又は左カメラ3及び右カメラ4によって撮影された正像の左右を反転させて鏡像化された鏡像映像。)に対して補助線(例えば図4に例示する補助線25。)が重ねて描画される。そして、それら鏡像映像及び補助線を含む二次映像が、左モニタ5及び右モニタ6の画面上に表示される。
[effect]
As described above, according to the on-vehicle video processing system, the ECU 1 inverts the left and right of the mirror image captured by the left camera 3 and the right camera 4 (or the right and left of the normal image captured by the left camera 3 and the right camera 4). An auxiliary line (for example, auxiliary line 25 illustrated in FIG. 4) is superimposed on the mirror image. The secondary image including the mirror image and the auxiliary line is displayed on the screens of the left monitor 5 and the right monitor 6.

そのため、車両の運転者は、左モニタ5及び右モニタ6の画面上に表示された補助線を参考にして、車両の真後ろに相当する範囲と車両の真後ろよりも側方にある範囲を適切に把握できる。したがって、上述のような補助線が表示されない場合に比べ、対象物までの距離感や自車両との平行度を、車両の運転者がより容易に認識できるようになる。   For this reason, the driver of the vehicle appropriately sets the range corresponding to the rear of the vehicle and the range that is lateral to the rear of the vehicle by referring to the auxiliary lines displayed on the screens of the left monitor 5 and the right monitor 6. I can grasp. Therefore, the driver of the vehicle can more easily recognize the sense of distance to the object and the degree of parallelism with the host vehicle as compared with the case where the auxiliary line as described above is not displayed.

(2)第二実施形態
次に、第二実施形態について説明する。なお、第二実施形態以降の実施形態は、第一実施形態と共通部分が多いので、第一実施形態との相違点を中心に詳述し、共通部分に関しては、第一実施形態と同じ符号を付すだけにとどめ、その詳細な説明を省略する。
(2) Second Embodiment Next, a second embodiment will be described. Since the second and subsequent embodiments have many common parts with the first embodiment, the differences from the first embodiment will be described in detail, and the common parts will be denoted by the same reference numerals as the first embodiment. The detailed description will be omitted.

[ECUにおいて実行される処理の詳細]
第二実施形態は、ハードウェア等の構成は第一実施形態と同様であり、ECU1において実行される処理が第一実施形態とは相違する。以下、ECU1において実行される処理について、図5に示すフローチャートに基づいて説明する。以下に説明する処理は、車両の始動に伴って開始され、以降は車両が停止するまで繰り返し実行される処理であり、この点は第一実施形態と同様である。
[Details of processing executed in ECU]
In the second embodiment, the configuration of hardware and the like is the same as that of the first embodiment, and the processing executed in the ECU 1 is different from that of the first embodiment. Hereinafter, the process performed in ECU1 is demonstrated based on the flowchart shown in FIG. The process described below is a process that starts with the start of the vehicle and is repeatedly executed thereafter until the vehicle stops. This point is the same as in the first embodiment.

この処理を開始すると、ECU1は、左カメラ3及び右カメラ4のそれぞれによって撮影された映像を、一次映像として取得する(S110)。S110は、第一実施形態のS10と同様な処理ステップである。S110において鏡像映像を取得したら、ECU1は、車両信号に応じて一次映像及び補助線の選択又は加工を行う(S120)。   When this process is started, the ECU 1 acquires videos taken by the left camera 3 and the right camera 4 as primary videos (S110). S110 is a processing step similar to S10 of the first embodiment. If a mirror image image is acquired in S110, ECU1 will select or process a primary image and an auxiliary line according to a vehicle signal (S120).

S120において、車両信号は、車両信号取得部7において取得されて、車両信号取得部7からECU1に対して提供される信号である。車両信号としては、例えば、車速、アクセル開度、ステアリング操舵角、シフトポジション等の情報を示す信号を利用し得る。S120において実行される一次映像及び補助線の選択又は加工については、様々な具体的手法を考え得るが、その一例として、本実施形態では、シフトポジションがリバース(後退)となった場合に、図6中に破線で示すような範囲27を図7に示すように拡大表示する例を挙げる。   In S120, the vehicle signal is a signal acquired by the vehicle signal acquisition unit 7 and provided to the ECU 1 from the vehicle signal acquisition unit 7. As the vehicle signal, for example, a signal indicating information such as a vehicle speed, an accelerator opening, a steering angle, and a shift position can be used. Various specific methods can be considered for the selection or processing of the primary image and the auxiliary line executed in S120. As an example, in the present embodiment, when the shift position is reversed (reverse), FIG. An example in which a range 27 as indicated by a broken line in FIG. 6 is enlarged and displayed as shown in FIG.

この場合、S120では鏡像映像の所定範囲(範囲27)を右モニタ6の画面サイズまで拡大する加工と、拡大された鏡像映像に対応するサイズの補助線を選択する処理が実行される。一方、シフトポジションがリバース(後退)以外の場合、S120では、上述のような鏡像映像の拡大を実行せず、拡大されていない鏡像映像に対応するサイズの補助線を選択する処理が実行される。   In this case, in S120, processing for enlarging a predetermined range (range 27) of the mirror image to the screen size of the right monitor 6 and processing for selecting an auxiliary line having a size corresponding to the enlarged mirror image are executed. On the other hand, when the shift position is other than reverse (reverse), in S120, the above-described enlargement of the mirror image is not executed, and a process of selecting an auxiliary line having a size corresponding to the unenlarged mirror image is executed. .

続いて、ECU1は、S120において選択された補助線の画像を、S120において拡大された鏡像映像に重ねて描画する(S130)。S130は、S120において鏡像映像が拡大されていることと、その拡大に合わせて補助線が選択されていること以外は、第一実施形態のS20と同様な処理ステップである。S130において補助線を描画したら、ECU1は、鏡像映像及び補助線を含む二次映像を左モニタ5及び右モニタ6に表示する(S140)。これにより、例えば右カメラ4によって撮影される映像を例に挙げると、図7に例示するような映像が右モニタ6に表示されることになる。   Subsequently, the ECU 1 draws the image of the auxiliary line selected in S120 so as to overlap the mirror image enlarged in S120 (S130). S130 is a processing step similar to S20 of the first embodiment except that the mirror image is enlarged in S120 and an auxiliary line is selected in accordance with the enlargement. After drawing the auxiliary line in S130, the ECU 1 displays the secondary image including the mirror image and the auxiliary line on the left monitor 5 and the right monitor 6 (S140). Thus, for example, when an image taken by the right camera 4 is taken as an example, an image as illustrated in FIG. 7 is displayed on the right monitor 6.

以上のような処理により、第二実施形態においては、シフトポジションがリバース(後退)以外の場合、左モニタ5及び右モニタ6には、第一実施形態と同様な映像(例えば右モニタ6の場合は図4に例示したような映像。)が表示される。一方、シフトポジションがリバース(後退)の場合、左モニタ5及び右モニタ6には、通常よりも拡大された映像(例えば右モニタ6の場合は図7に例示したような映像。)が表示される。   Through the above processing, in the second embodiment, when the shift position is other than reverse (reverse), the left monitor 5 and the right monitor 6 have the same images as the first embodiment (for example, in the case of the right monitor 6). Is displayed as shown in FIG. On the other hand, when the shift position is reverse (reverse), the left monitor 5 and the right monitor 6 display an enlarged image (for example, the image illustrated in FIG. 7 in the case of the right monitor 6). The

[効果]
以上説明したような第二実施形態の車載映像処理システムでも、第一実施形態と同様な作用、効果を奏し、補助線が表示されない場合に比べ、対象物までの距離感や自車両との平行度を、車両の運転者がより容易に認識できるようになる。
[effect]
Even in the in-vehicle video processing system of the second embodiment as described above, the same operations and effects as the first embodiment are achieved, and compared to the case where the auxiliary line is not displayed, the sense of distance to the target object and the parallelness with the host vehicle. The degree can be recognized more easily by the driver of the vehicle.

また、第二実施形態の場合は、シフトポジションに応じて画像の拡大率が変わる。そのため、例えば、車両の前進時には、後退時よりも、左モニタ5及び右モニタ6に表示される範囲を広範囲にすることができる。換言すれば、車両の前進時には、後退時よりも、左モニタ5及び右モニタ6に表示される画角が大きくなる。したがって、より側方に存在する他車両であっても左モニタ5及び右モニタ6に表示されるようになるので、例えば車線変更等の際には容易に安全確認ができるようになる。   In the second embodiment, the enlargement ratio of the image changes according to the shift position. Therefore, for example, when the vehicle moves forward, the range displayed on the left monitor 5 and the right monitor 6 can be made wider than when the vehicle moves backward. In other words, when the vehicle moves forward, the angle of view displayed on the left monitor 5 and the right monitor 6 becomes larger than when the vehicle moves backward. Therefore, even if the other vehicle is present on the side, the vehicle is displayed on the left monitor 5 and the right monitor 6, so that it is possible to easily check the safety when changing the lane, for example.

一方、車両の後退時には、前進時よりも、左モニタ5及び右モニタ6に表示される範囲を、車両後方付近の狭い範囲に限定することができる。換言すれば、車両の後退時には、前進時よりも、左モニタ5及び右モニタ6に表示される画角が狭くなる。また、その画角の中心線が向けられる方向も、前進時よりも後方に向けられることになる。更に、このような鏡像映像の変換に合わせて、補助線の位置や傾きも適切に変更される。したがって、このような映像処理を実施すれば、車両後方付近に存在する表示対象物を拡大表示でき、車両後方に存在する障害物等を視認しやすくすることができる。   On the other hand, the range displayed on the left monitor 5 and the right monitor 6 can be limited to a narrow range near the rear of the vehicle when the vehicle is moving backward than when the vehicle is moving forward. In other words, when the vehicle moves backward, the angle of view displayed on the left monitor 5 and the right monitor 6 becomes narrower than when the vehicle moves forward. In addition, the direction in which the center line of the angle of view is directed is also directed rearward than during forward movement. Furthermore, the position and inclination of the auxiliary line are also appropriately changed in accordance with such conversion of the mirror image. Therefore, by performing such video processing, it is possible to enlarge and display a display object existing in the vicinity of the rear of the vehicle and make it easy to visually recognize an obstacle or the like existing in the rear of the vehicle.

[変形例等]
上述の例では、車両信号として、シフトポジションの情報を入力する例を示したが、S120では、他の車両信号も利用し得る。例えば、車速やアクセル開度を入力して、高速走行中には補助線の表示を行わず、低速走行中には補助線の表示を行う、といった構成にしてもよい。このような構成にすれば、駐車場等で低速走行をしている際には補助線を表示し、一般道や自動車専用道路などで高速走行をしている際には補助線の表示を中止することが可能となる。よって、駐車時用に補助線の表示を行いたい場合は、このような構成が好適である。
[Modifications, etc.]
In the example described above, an example in which shift position information is input as a vehicle signal has been described. However, in S120, other vehicle signals can also be used. For example, the vehicle speed and the accelerator opening may be input, and the auxiliary line may not be displayed during high speed travel, and the auxiliary line may be displayed during low speed travel. With this configuration, an auxiliary line is displayed when driving at a low speed in a parking lot or the like, and an auxiliary line is not displayed when driving at a high speed on a general road or an automobile road. It becomes possible to do. Therefore, when it is desired to display an auxiliary line for parking, such a configuration is suitable.

逆に、高速走行時には補助線を表示し、低速走行時には補助線の表示を中止する、といった構成にしてもよい。このような構成は、レーンチェンジ等を行うときに補助線を表示したい場合に好適な構成である。低速走行時に補助線を表示するのか、高速走行時に補助線を表示するのかは、いずれか一方の構成を択一的に採用してもよいが、双方を同時に採用してもよい。   Conversely, an auxiliary line may be displayed during high-speed traveling, and the auxiliary line display may be stopped during low-speed traveling. Such a configuration is suitable for displaying an auxiliary line when performing a lane change or the like. Either the auxiliary line is displayed during low-speed traveling or the auxiliary line is displayed during high-speed traveling, either one of the configurations may be adopted alternatively, or both may be employed simultaneously.

双方を同時に採用する場合、例えば、低速走行時には上述したマージンを小さめに設定し、高速走行時には上述したマージンを大きめに設定する、といった構成を併用してもよい。このようにすれば、駐車時には、補助線を参考にして幅寄せ等の運転操作を行うことが容易になり、レーンチェンジの際には、補助線を参考にして十分に安全な間隔を確保することが容易になる。   When both are employed simultaneously, for example, the above-described margin may be set smaller when traveling at a low speed, and the above-described margin may be set larger when traveling at a high speed. In this way, when parking, it becomes easy to perform driving operations such as width adjustment with reference to the auxiliary line, and at the time of lane change, ensure a sufficiently safe interval with reference to the auxiliary line. It becomes easy.

また、ステアリング操舵角やウインカーの状態を入力して、右左折時やレーンチェンジの際に、進行先となる左右いずれか一方の側について、補助線を表示するように構成してもよい。   Alternatively, the steering steering angle and the blinker state may be input, and an auxiliary line may be displayed on either the left or right side of the travel destination when making a right / left turn or a lane change.

(3)第三実施形態
次に、第三実施形態について説明する。
[ECUにおいて実行される処理の詳細]
第三実施形態も、ハードウェア等の構成は第一実施形態、及び第二実施形態と同様であり、ECU1において実行される処理が第一実施形態、及び第二実施形態とは相違する。以下、ECU1において実行される処理について、図8に示すフローチャートに基づいて説明する。以下に説明する処理は、車両の始動に伴って開始され、以降は車両が停止するまで繰り返し実行される処理であり、この点は第一実施形態と同様である。
(3) Third Embodiment Next, a third embodiment will be described.
[Details of processing executed in ECU]
In the third embodiment, the configuration of hardware and the like is the same as that of the first embodiment and the second embodiment, and the processing executed in the ECU 1 is different from that of the first embodiment and the second embodiment. Hereinafter, the process performed in ECU1 is demonstrated based on the flowchart shown in FIG. The process described below is a process that starts with the start of the vehicle and is repeatedly executed thereafter until the vehicle stops. This point is the same as in the first embodiment.

この処理を開始すると、ECU1は、左カメラ3及び右カメラ4のそれぞれによって撮影された映像を、一次映像として取得する(S210)。S210は、第一実施形態のS10と同様な処理ステップである。S210において鏡像映像を取得したら、ECU1は、一次映像に対する視点変換処理を行う(S220)。   When this process is started, the ECU 1 acquires videos taken by the left camera 3 and the right camera 4 as primary videos (S210). S210 is a processing step similar to S10 of the first embodiment. If a mirror image image is acquired in S210, ECU1 will perform the viewpoint conversion process with respect to a primary image (S220).

本実施形態の場合、S220では、左カメラ3及び右カメラ4のそれぞれによって撮影された映像の視点位置を、左カメラ3及び右カメラ4の配設位置よりも車両の前方側となる位置へ仮想的に変更する処理を実行する。   In the case of the present embodiment, in S220, the viewpoint position of the video captured by each of the left camera 3 and the right camera 4 is virtually set to a position that is on the front side of the vehicle relative to the arrangement position of the left camera 3 and the right camera 4. Process to change automatically.

以下、右カメラ4の場合を例に挙げて具体的に説明すると、図9に示すように、一般的なドアミラーが取り付けられている車両の場合、運転者は車両の運転席Sに着座して視点位置P1からドアミラーMを目視する。この場合、ドアミラーMに映る鏡像には画角A1の範囲内が映っている。   Hereinafter, the case of the right camera 4 will be specifically described as an example. As shown in FIG. 9, in the case of a vehicle with a general door mirror attached, the driver sits on the driver's seat S of the vehicle. The door mirror M is viewed from the viewpoint position P1. In this case, the mirror image reflected on the door mirror M shows the range of the angle of view A1.

一方、左カメラ3及び右カメラ4の取付位置は、車両デザインの制約などから、ドアミラーMの取付位置相当の箇所にするのが好適である。ここで、ドアミラーMの取付位置相当の箇所に右カメラ4が取り付けられている場合、右カメラ4は、視点位置P2から車両の後側方を撮影することになる。この場合、右カメラ4には画角A2の範囲内が映っている。   On the other hand, it is preferable that the attachment positions of the left camera 3 and the right camera 4 are set to locations corresponding to the attachment positions of the door mirror M due to vehicle design restrictions and the like. Here, when the right camera 4 is mounted at a position corresponding to the mounting position of the door mirror M, the right camera 4 captures the rear side of the vehicle from the viewpoint position P2. In this case, the right camera 4 shows the range of the angle of view A2.

しかし、上述の視点位置P1と視点位置P2とでは、それぞれから同一対象物を見ても、各視点位置から対象物までの距離が異なる。そのため、右カメラ4で撮影された鏡像をそのまま表示すると、運転者にとってはドアミラーMに映る鏡像とは微妙に異なる鏡像に感じられ、距離感を把握しにくくなることがある。   However, the distance from each viewpoint position to the object differs between the above-described viewpoint position P1 and viewpoint position P2 even if the same object is viewed from each. Therefore, if the mirror image captured by the right camera 4 is displayed as it is, the driver may feel that the mirror image is slightly different from the mirror image reflected on the door mirror M, making it difficult to grasp the sense of distance.

そこで、S220では、右カメラ4によって視点位置P2から撮影された映像について、その視点位置を仮想的に視点位置P3へ視点変換する処理を実行する。視点位置P3は、左カメラ3及び右カメラ4の配設位置(すなわち、視点位置P2。)よりも車両の前方側となる位置にある。より詳しくは、視点位置P3は、ドアミラーMを透過して画角A1の範囲内を見るような視点位置であり、これは、運転者の視点位置P1と等価な位置である。   Therefore, in S220, a process of virtually converting the viewpoint position to the viewpoint position P3 for the video imaged from the viewpoint position P2 by the right camera 4 is executed. The viewpoint position P3 is located on the front side of the vehicle with respect to the arrangement positions of the left camera 3 and the right camera 4 (that is, the viewpoint position P2). More specifically, the viewpoint position P3 is a viewpoint position that passes through the door mirror M and looks in the range of the angle of view A1, and is equivalent to the driver's viewpoint position P1.

なお、図9において、視点位置P1からドアミラーMまでの距離と、視点位置P3からドアミラーMまでの距離とが異なっているのは、ドアミラーMが凸面鏡を採用していることに起因する。仮にドアミラーMが平面鏡を採用しているとすれば、視点位置P1からドアミラーMまでの距離と、視点位置P3からドアミラーMまでの距離は等しくなる。   In FIG. 9, the distance from the viewpoint position P1 to the door mirror M is different from the distance from the viewpoint position P3 to the door mirror M because the door mirror M employs a convex mirror. If the door mirror M employs a plane mirror, the distance from the viewpoint position P1 to the door mirror M is equal to the distance from the viewpoint position P3 to the door mirror M.

S220で上述のような視点変換を行った場合、変換後の映像は、例えば図10に例示するような映像となる。車両の後側方にある同一範囲を見る場合、変換後の映像は、変化前の映像よりも、視点位置が遠ざかることになる。そのため、上述の同一範囲に対応する画角は、変換後の映像の方がいくらか狭くなり、その画角の範囲内においては、車両の前後方向に平行な平行線の平行度が視点変換前よりも高くなる。ただし、このような視点変換を行うと、映像の端に映り込んでいる車体の一部に関しては、いくらか歪な形状になることがある。   When the viewpoint conversion as described above is performed in S220, the converted video is, for example, a video as illustrated in FIG. When viewing the same range on the rear side of the vehicle, the converted image has a farther viewpoint position than the image before the change. Therefore, the angle of view corresponding to the same range described above is somewhat narrower in the image after conversion, and within the range of angle of view, the parallelism of parallel lines parallel to the front-rear direction of the vehicle is greater than that before viewpoint conversion. Also gets higher. However, when such viewpoint conversion is performed, a part of the vehicle body reflected at the end of the image may have a somewhat distorted shape.

そこで、S220において上述のような視点変換を実行したら、ECU1は、視点変換済みの鏡像映像に対し、補助線及び車体画像を重ねて描画する(S230)。S230で描画される補助線は、視点変換が行われていることを考慮した位置及び傾きで描画される。また、車体画像は、上述のような視点変換に伴って歪な形状になる車体の一部をマスクするための画像であり、あらかじめ用意された車体画像が記憶部14に記憶されている。   Therefore, when the viewpoint conversion as described above is executed in S220, the ECU 1 draws the auxiliary line and the vehicle body image so as to overlap the mirror image image after the viewpoint conversion (S230). The auxiliary line drawn in S230 is drawn at a position and an inclination considering that the viewpoint conversion is performed. The vehicle body image is an image for masking a part of the vehicle body that becomes distorted with the viewpoint conversion as described above, and a vehicle body image prepared in advance is stored in the storage unit 14.

例えば図10に示すような視点変換済みの鏡像映像20に対し、S230による処理が実行されると、図11に示すように、補助線25及び車体画像29が鏡像映像20に重ねて描画されることになる。これにより、視点変換に伴って歪な形状になっていた車体23の映像は、あらかじめ用意された車体画像29によってマスクされ、運転者は違和感のない映像を見ることができる。   For example, when the process of S230 is executed on the mirror image 20 that has undergone viewpoint conversion as shown in FIG. 10, the auxiliary line 25 and the vehicle body image 29 are drawn over the mirror image 20 as shown in FIG. It will be. As a result, the image of the vehicle body 23 that has become distorted due to the viewpoint conversion is masked by the vehicle body image 29 prepared in advance, so that the driver can view an image without a sense of incongruity.

なお、このような車体画像29としては、運転者が違和感を覚えないようなアングルで撮影された実車両の画像を、あらかじめ記憶部14に記憶しておいて、その画像を記憶部14から読み込んで利用すればよい。あるいは、そのような画像と同等な画像を生成するために必要なデータ(例えばポリゴンデータ。)などを、あらかじめ記憶部14に記憶しておいて、そのようなデータに基づいて実車両相当の画像を生成して利用してもよい。   In addition, as such a vehicle body image 29, an image of an actual vehicle photographed at an angle that does not make the driver feel uncomfortable is stored in advance in the storage unit 14, and the image is read from the storage unit 14. You can use it. Alternatively, data (for example, polygon data) necessary for generating an image equivalent to such an image is stored in the storage unit 14 in advance, and an image corresponding to an actual vehicle is based on such data. May be generated and used.

[効果]
以上説明したような第三実施形態の車載映像処理システムでも、第一実施形態、及び第二実施形態と同様な作用、効果を奏し、補助線が表示されない場合に比べ、対象物までの距離感や自車両との平行度を、車両の運転者がより容易に認識できるようになる。
[effect]
Even in the in-vehicle video processing system of the third embodiment as described above, the same effects and advantages as in the first embodiment and the second embodiment are achieved, and the sense of distance to the object is compared to the case where the auxiliary line is not displayed. And the parallelism with the host vehicle can be more easily recognized by the driver of the vehicle.

また、第三実施形態の場合は、上述のような視点変換を実施しているので、一般的なドアミラーに映る鏡像により近い映像を表示することができる。そのため、そのような視点変換を行わない場合に比べ、対象物までの距離感や自車両との平行度を、車両の運転者が更に容易に認識できるようになる。しかも、視点変換に伴って歪な形状になる車体の一部については、歪みのない車体の画像でマスクしているので、これにより、運転者が感じる違和感を低減することができる。   In the case of the third embodiment, since the viewpoint conversion as described above is performed, it is possible to display an image closer to a mirror image reflected on a general door mirror. Therefore, compared to the case where such viewpoint conversion is not performed, the driver of the vehicle can more easily recognize the sense of distance to the object and the parallelism with the own vehicle. In addition, since a part of the vehicle body that becomes distorted with the viewpoint conversion is masked with an image of the vehicle body that is not distorted, it is possible to reduce the uncomfortable feeling felt by the driver.

(4)他の実施形態
以上、映像処理装置、及び車載映像処理システムについて、例示的な実施形態を挙げて説明したが、上述の実施形態は本発明の一態様として例示されるものに過ぎない。すなわち、本発明は、上述の例示的な実施形態に限定されるものではなく、本発明の技術的思想を逸脱しない範囲内において、様々な形態で実施することができる。
(4) Other Embodiments While the video processing device and the in-vehicle video processing system have been described with reference to exemplary embodiments, the above-described embodiments are merely examples of the present invention. . That is, the present invention is not limited to the exemplary embodiments described above, and can be implemented in various forms without departing from the technical idea of the present invention.

例えば、上記実施形態では、図示の都合上、便宜的に記憶部14をECU1が備える構成として図示してあるが、記憶部14はECU1がアクセス可能なメモリであれば、ECU1の外部にあってもよい。   For example, in the above embodiment, for convenience of illustration, the storage unit 14 is illustrated as a configuration provided in the ECU 1 for convenience. However, the storage unit 14 is located outside the ECU 1 as long as the memory is accessible by the ECU 1. Also good.

また、上記実施形態において、一つの構成要素で実現していた所定の機能を、複数の構成要素が協働して実現するように構成してあってもよい。あるいは、上記実施形態では、複数の構成要素それぞれが有していた複数の機能や、複数の構成要素が協働して実現していた所定の機能を、一つの構成要素が実現するように構成してあってもよい。また、上記実施形態の構成の少なくとも一部を、同様の機能を有する公知の構成に置き換えてもよい。また、上記実施形態の構成の一部を省略してもよい。また、上記実施形態の構成の少なくとも一部を、他の上記実施形態の構成に対して付加又は置換してもよい。なお、特許請求の範囲に記載した文言のみによって特定される技術思想に含まれるあらゆる態様が本発明の実施形態である。   In the above embodiment, a predetermined function realized by one component may be configured so that a plurality of components cooperate to realize it. Or in the said embodiment, it is comprised so that one component may implement | achieve the several function which each of several component each had, and the predetermined function which the plurality of component realized in cooperation It may be. In addition, at least a part of the configuration of the above embodiment may be replaced with a known configuration having a similar function. Moreover, you may abbreviate | omit a part of structure of the said embodiment. In addition, at least a part of the configuration of the above embodiment may be added to or replaced with the configuration of the other embodiment. In addition, all the aspects included in the technical idea specified only by the wording described in the claim are embodiment of this invention.

また、上述した映像処理装置、及び車載映像処理システムの他、当該映像処理装置としてコンピュータを機能させるためのプログラム、このプログラムを記録した媒体など、種々の形態で本発明を実現することもできる。   In addition to the above-described video processing device and in-vehicle video processing system, the present invention can also be realized in various forms such as a program for causing a computer to function as the video processing device and a medium storing the program.

1…電子制御装置(ECU)、3…左カメラ、4…右カメラ、5…左モニタ、6…右モニタ、7…車両信号取得部、11…映像入力部、12…映像処理部、13…映像出力部、14…記憶部、20…鏡像映像、21…駐車枠、23…車体、25…補助線、27…拡大対象の範囲、29…車体画像。   DESCRIPTION OF SYMBOLS 1 ... Electronic control unit (ECU), 3 ... Left camera, 4 ... Right camera, 5 ... Left monitor, 6 ... Right monitor, 7 ... Vehicle signal acquisition part, 11 ... Video input part, 12 ... Video processing part, 13 ... Image output unit, 14 ... storage unit, 20 ... mirror image, 21 ... parking frame, 23 ... vehicle body, 25 ... auxiliary line, 27 ... range to be enlarged, 29 ... vehicle body image.

Claims (5)

車両の後側方を撮影可能に構成されたカメラ(3,4)から、当該カメラで撮影された一次映像を入力可能な映像入力部(11,S10,S110,S210)と、
前記映像入力部によって入力された前記一次映像に対して所定の映像処理を施すことによって二次映像に変換可能な映像処理部(12,S20,S120−S130,S220−S230)と、
前記映像処理部によって前記映像処理が施された二次映像を車室内に配設された表示装置(5,6)へと出力する映像出力部(13,S30,S140,S240)と
を備え、
前記映像処理部は、前記映像処理として、前記カメラから正像として入力される前記一次映像に対して左右を反転させる処理を施すことによって得られる映像、及び前記カメラから鏡像として入力される前記一次映像のうちの、いずれか一方である鏡像映像(20)を描画する処理を実行可能に構成されており、
前記映像処理部は、前記映像処理として、前記鏡像映像に対応する視点位置(P3)を、前記カメラの配設位置(P1)よりも前記車両の前方側となる位置へ仮想的に変更する視点変換処理(S220)を実行可能に構成され
前記映像処理部は、前記鏡像映像(20)に重ねて、前記車両の車体側方への最大突出箇所の位置を表す補助線(25)を描画する処理(S20,S130,S230)を実行可能に構成され、
さらに、前記映像処理部は、前記映像処理として、前記鏡像映像に対応する画角の中心線が向けられる方向を二以上の異なる方向へ仮想的に変更する処理(S120)を実行可能に構成され、前記補助線を描画する際には、前記補助線の位置及び傾きを、前記中心線が向けられる方向に応じて変更するように構成されている
映像処理装置(1)。
A video input unit (11, S10, S110, S210) capable of inputting a primary video captured by the camera from a camera (3, 4) configured to capture the rear side of the vehicle;
A video processing unit (12, S20, S120-S130, S220-S230) capable of converting into a secondary video by performing predetermined video processing on the primary video input by the video input unit;
A video output unit (13, S30, S140, S240) for outputting the secondary video processed by the video processing unit to a display device (5, 6) disposed in a vehicle interior;
The video processing unit, as the video processing, a video obtained by performing a process of inverting left and right with respect to the primary video input as a normal image from the camera, and the primary input as a mirror image from the camera It is configured to be able to execute a process of drawing a mirror image (20) that is one of the images,
The video processing unit, as the video processing, virtually changes the viewpoint position (P3) corresponding to the mirror image to a position on the front side of the vehicle with respect to the camera installation position (P1). The conversion process (S220) is configured to be executable ,
The video processing unit can execute a process (S20, S130, S230) for drawing an auxiliary line (25) representing the position of the maximum protruding portion of the vehicle on the side of the vehicle body, superimposed on the mirror image (20). Composed of
Furthermore, the video processing unit is configured to be capable of executing, as the video processing, a process (S120) of virtually changing the direction in which the center line of the angle of view corresponding to the mirror image video is directed to two or more different directions. The video processing device (1) configured to change the position and inclination of the auxiliary line according to the direction in which the center line is directed when the auxiliary line is drawn .
請求項に記載の映像処理装置において、
前記補助線は、前記最大突出箇所に接する位置又は当該位置に対して所定のマージンを加えた位置に仮想される、車幅方向に対して垂直な仮想平面と路面との交線である
映像処理装置。
The video processing apparatus according to claim 1 ,
The auxiliary line is an intersection of a virtual plane perpendicular to the vehicle width direction and a road surface, which is virtually assumed at a position in contact with the maximum projecting portion or a position with a predetermined margin added to the position. apparatus.
請求項1又は請求項に記載の映像処理装置において、
前記映像処理部は、前記映像処理として、車体の一部の鏡像に相当する車体画像(29)を、記憶部(14)から読み出すか記憶部に記憶されたデータに基づいて生成して、当該車体画像を前記鏡像映像に重ねて描画する処理(S230)を実行可能に構成されている
映像処理装置。
In the video processing device according to claim 1 or 2 ,
The video processing unit generates, as the video processing, a vehicle body image (29) corresponding to a mirror image of a part of the vehicle body from the storage unit (14) or based on data stored in the storage unit, A video processing apparatus configured to execute a process (S230) of drawing a vehicle body image on the mirror image.
請求項1−請求項のいずれか一項に記載の映像処理装置において、
前記カメラは、前記車両における車体外後写鏡(M)の取付位置相当の箇所(P2)に配設されたカメラである
映像処理装置。
In the video processing device according to any one of claims 1 to 3 ,
The said camera is a camera arrange | positioned in the location (P2) equivalent to the attachment position of the vehicle body rear-view mirror (M) in the said vehicle.
車両の後側方を撮影可能に構成されたカメラ(3,4)と、
前記カメラで撮影された映像に対して所定の映像処理を施すように構成された映像処理装置(1)と
車室内に配設され、前記映像処理装置によって前記映像処理が施された映像を表示可能な表示装置(5,6)と
を備え、
前記映像処理装置は、
前記カメラから、当該カメラで撮影された一次映像を入力可能な映像入力部(11,S10,S110,S210)と、
前記映像入力部によって入力された前記一次映像に対して所定の映像処理を施すことによって二次映像に変換可能な映像処理部(13,S30,S140,S240)と、
前記映像処理部によって前記映像処理が施された二次映像を前記表示装置へと出力する映像出力部(13,S30,S140,S240)と
を備え、
前記映像処理部は、前記映像処理として、前記カメラから正像として入力される前記一次映像に対して左右を反転させる処理を施すことによって得られる映像、及び前記カメラから鏡像として入力される前記一次映像のうちの、いずれか一方である鏡像映像(20)を描画する処理を実行可能に構成されており、
前記映像処理部は、前記映像処理として、前記鏡像映像に対応する視点位置(P3)を、前記カメラの配設位置(P1)よりも前記車両の前方側となる位置へ仮想的に変更する視点変換処理(S220)を実行可能に構成され
前記映像処理部は、前記鏡像映像(20)に重ねて、前記車両の車体側方への最大突出箇所の位置を表す補助線(25)を描画する処理(S20,S130,S230)を実行可能に構成され、
さらに、前記映像処理部は、前記映像処理として、前記鏡像映像に対応する画角の中心線が向けられる方向を二以上の異なる方向へ仮想的に変更する処理(S120)を実行可能に構成され、前記補助線を描画する際には、前記補助線の位置及び傾きを、前記中心線が向けられる方向に応じて変更するように構成されている
車載映像処理システム。
A camera (3, 4) configured to capture the rear side of the vehicle;
A video processing device (1) configured to perform predetermined video processing on the video captured by the camera and a vehicle that is disposed in a vehicle interior and that has been subjected to the video processing by the video processing device is displayed. A possible display device (5, 6),
The video processing device includes:
A video input unit (11, S10, S110, S210) capable of inputting a primary video shot by the camera from the camera;
A video processing unit (13, S30, S140, S240) capable of converting into a secondary video by performing predetermined video processing on the primary video input by the video input unit;
A video output unit (13, S30, S140, S240) that outputs the secondary video processed by the video processing unit to the display device;
The video processing unit, as the video processing, a video obtained by performing a process of inverting left and right with respect to the primary video input as a normal image from the camera, and the primary input as a mirror image from the camera It is configured to be able to execute a process of drawing a mirror image (20) that is one of the images,
The video processing unit, as the video processing, virtually changes the viewpoint position (P3) corresponding to the mirror image to a position on the front side of the vehicle with respect to the camera installation position (P1). The conversion process (S220) is configured to be executable ,
The video processing unit can execute a process (S20, S130, S230) for drawing an auxiliary line (25) representing the position of the maximum protruding portion of the vehicle on the side of the vehicle body, superimposed on the mirror image (20). Composed of
Furthermore, the video processing unit is configured to be capable of executing, as the video processing, a process (S120) of virtually changing the direction in which the center line of the angle of view corresponding to the mirror image video is directed to two or more different directions. An in- vehicle video processing system configured to change the position and inclination of the auxiliary line according to the direction in which the center line is directed when the auxiliary line is drawn .
JP2014210000A 2014-10-14 2014-10-14 Video processing apparatus and in-vehicle video processing system Active JP6488628B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014210000A JP6488628B2 (en) 2014-10-14 2014-10-14 Video processing apparatus and in-vehicle video processing system
PCT/JP2015/005037 WO2016059765A1 (en) 2014-10-14 2015-10-02 Video processing device and in-vehicle video processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014210000A JP6488628B2 (en) 2014-10-14 2014-10-14 Video processing apparatus and in-vehicle video processing system

Publications (3)

Publication Number Publication Date
JP2016082329A JP2016082329A (en) 2016-05-16
JP2016082329A5 JP2016082329A5 (en) 2016-09-01
JP6488628B2 true JP6488628B2 (en) 2019-03-27

Family

ID=55746327

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014210000A Active JP6488628B2 (en) 2014-10-14 2014-10-14 Video processing apparatus and in-vehicle video processing system

Country Status (2)

Country Link
JP (1) JP6488628B2 (en)
WO (1) WO2016059765A1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7201315B2 (en) * 2017-11-08 2023-01-10 トヨタ自動車株式会社 Electronic mirror device
JP7419741B2 (en) * 2019-10-15 2024-01-23 株式会社アイシン parking assist device

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007124097A (en) * 2005-10-26 2007-05-17 Auto Network Gijutsu Kenkyusho:Kk Apparatus for visually recognizing surrounding of vehicle
JP2009253571A (en) * 2008-04-04 2009-10-29 Clarion Co Ltd Monitor video image generation device for vehicle
JP5813944B2 (en) * 2010-12-06 2015-11-17 富士通テン株式会社 Image display system, image processing apparatus, and image display method
JP5681569B2 (en) * 2011-05-31 2015-03-11 富士通テン株式会社 Information processing system, server device, and in-vehicle device
JP5495071B2 (en) * 2011-06-16 2014-05-21 アイシン精機株式会社 Vehicle periphery monitoring device
JP2013168063A (en) * 2012-02-16 2013-08-29 Fujitsu Ten Ltd Image processing device, image display system, and image processing method

Also Published As

Publication number Publication date
JP2016082329A (en) 2016-05-16
WO2016059765A1 (en) 2016-04-21

Similar Documents

Publication Publication Date Title
US11528413B2 (en) Image processing apparatus and image processing method to generate and display an image based on a vehicle movement
JP5099451B2 (en) Vehicle periphery confirmation device
JP5087051B2 (en) Image generating apparatus and image display system
JP5316550B2 (en) Rear view support system
CN109314765B (en) Display control device for vehicle, display system, display control method, and program
JP2010208359A (en) Display device for vehicle
JPWO2019216087A1 (en) Image processors, mobile devices, and methods, and programs
US20180056870A1 (en) Viewing device for vehicle and method of displaying viewed image for vehicle
JP6439436B2 (en) Video processing apparatus and in-vehicle video processing system
JP6488628B2 (en) Video processing apparatus and in-vehicle video processing system
CN110884426A (en) Display control device
JP2018107573A (en) Visual confirmation device for vehicle
WO2017208688A1 (en) Display control device and display control method
CN107534757B (en) Vehicle display device and vehicle display method
JP2019202584A (en) Image processing apparatus and image processing method
JP2018076019A (en) Image processing device
JP2009214790A (en) Apparatus and method for imaging, and apparatus and method for processing image
JP5466743B2 (en) Image generating apparatus and image display system
JP6575668B2 (en) Video processing device
JP2019074850A (en) Image processing apparatus
BR102017020574A2 (en) IMAGE AND DISPLAY GENERATION DEVICE FOR VEHICLE AND MEDIA
JP4893421B2 (en) Blind spot image display device for vehicles
JP2012179958A (en) Display device for vehicle
JP7117577B2 (en) Display system, display control device, display control method
JP6618045B2 (en) Vehicle display device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160714

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170629

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180919

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190211

R151 Written notification of patent or utility model registration

Ref document number: 6488628

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250