JP2006221339A - Vehicle control system - Google Patents

Vehicle control system Download PDF

Info

Publication number
JP2006221339A
JP2006221339A JP2005033038A JP2005033038A JP2006221339A JP 2006221339 A JP2006221339 A JP 2006221339A JP 2005033038 A JP2005033038 A JP 2005033038A JP 2005033038 A JP2005033038 A JP 2005033038A JP 2006221339 A JP2006221339 A JP 2006221339A
Authority
JP
Japan
Prior art keywords
vehicle
display
control device
image
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005033038A
Other languages
Japanese (ja)
Other versions
JP4522880B2 (en
Inventor
Naoki Osawa
直樹 大澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2005033038A priority Critical patent/JP4522880B2/en
Publication of JP2006221339A publication Critical patent/JP2006221339A/en
Application granted granted Critical
Publication of JP4522880B2 publication Critical patent/JP4522880B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Steering Control In Accordance With Driving Conditions (AREA)
  • Traffic Control Systems (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To display a proper image obtained by picking up the image of the external world of a vehicle on the display picture of a remote controller for remotely controlling a vehicle. <P>SOLUTION: A display control part 64 sets the display priority of a plurality of image data on the basis of the data of vehicle status quantity received from a vehicle controller 10a through a communication device 61, and sets the display configurations of the image data at a display device 66 according to the number of regions of an image data display region where the image data are displayable in a display device 66. The display configurations of the image data at the display device 66 is set. The display control part 64 issues reminder or warning on the display picture of a remote controller 10b according to a decision result corresponding to a time difference (Tb-Ta) between an image pickup side time Ta and a display side time Tb from a time deciding part 63. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

この発明は、車両操縦システムに関するものである。   The present invention relates to a vehicle steering system.

従来、例えば、車両を遠隔操作するリモートコントローラの表示画面上に、車載カメラによる撮影画像を表示する装置が知られている(例えば、特許文献1参照)。
特開平9−136660号公報
2. Description of the Related Art Conventionally, for example, an apparatus that displays an image captured by an in-vehicle camera on a display screen of a remote controller that remotely operates a vehicle is known (see, for example, Patent Document 1).
JP-A-9-136660

ところで、上記従来技術に係る装置においては、操作者はリモートコントローラの表示画面上に表示された撮影画像に基づき、車両を遠隔操作することから、表示画面上に適切な撮影画像を表示することが望まれている。
本発明は上記事情に鑑みてなされたもので、車両を遠隔操作する遠隔操作装置の表示画面に車両の外界を撮像して得た適切な画像を表示することが可能な車両操縦システムを提供することを目的としている。
By the way, in the apparatus according to the above prior art, since the operator remotely operates the vehicle based on the photographed image displayed on the display screen of the remote controller, an appropriate photographed image can be displayed on the display screen. It is desired.
The present invention has been made in view of the above circumstances, and provides a vehicle control system capable of displaying an appropriate image obtained by imaging the outside world of a vehicle on a display screen of a remote control device that remotely controls the vehicle. The purpose is that.

上記課題を解決して係る目的を達成するために、請求項1に記載の本発明の車両操縦システムは、遠隔操作装置(例えば、実施の形態での遠隔操作装置10b)と、該遠隔操作装置から発信される制御信号を受信して車両を運転可能な運転制御装置(例えば、実施の形態での車両制御装置10a)とを備える車両操縦システムであって、車両に搭載されて車両の外界を撮像する撮像手段(例えば、実施の形態での第1〜第n撮像装置22,…,22)により撮像された撮像画像を、前記遠隔操作装置の表示画面上に表示する表示手段(例えば、実施の形態での表示制御部64)と、車両の状態に係る車両状態量を検出する車両状態量検出手段(例えば、実施の形態での車両状態量センサ23)とを備え、前記表示手段は、車両に搭載された複数の前記撮像手段により撮像された撮像画像のうちから、前記車両状態量検出手段により検出された車両状態量に応じた所定の前記撮像手段により撮像された撮像画像を選択し、選択した前記撮像画像を前記遠隔操作装置の表示画面上に表示させることを特徴としている。 In order to solve the above-described problems and achieve the object, a vehicle control system according to the present invention includes a remote control device (for example, the remote control device 10b in the embodiment) and the remote control device. A vehicle control system including a driving control device (for example, the vehicle control device 10a in the embodiment) that can receive a control signal transmitted from the vehicle and that can drive the vehicle, Display means (for example, display the picked-up image picked up by the image pickup means (for example, the first to n-th image pickup devices 22 1 ,..., 22 n in the embodiment) on the display screen of the remote control device. Display control unit 64) in the embodiment, and vehicle state quantity detection means (for example, vehicle state quantity sensor 23 in the embodiment) for detecting a vehicle state quantity related to the state of the vehicle, the display means Mounted on the vehicle The captured image captured by the predetermined imaging unit corresponding to the vehicle state quantity detected by the vehicle state quantity detection unit is selected from the plurality of captured images captured by the imaging unit and selected. The captured image is displayed on a display screen of the remote control device.

上記の車両操縦システムによれば、複数の撮像装置は車両から見た複数の所定方向の外界を撮像する。遠隔操作装置の制御により車両が運転される際に、車両の状態(例えば、速度や操舵角や進行方向等)に応じて、遠隔操作装置の表示画面上に表示される撮像画像が選択されることにより、操作者は撮像画像に基づき車両が所望の運転状態となるように適切に運転することができる。   According to the above vehicle control system, the plurality of imaging devices capture images of the external world in a plurality of predetermined directions viewed from the vehicle. When the vehicle is driven by the control of the remote operation device, a captured image displayed on the display screen of the remote operation device is selected according to the state of the vehicle (for example, speed, steering angle, traveling direction, etc.). Thereby, the operator can drive appropriately so that a vehicle may be in a desired driving state based on a captured image.

さらに、請求項2に記載の本発明の車両操縦システムでは、前記複数の撮像手段は、少なくとも車両の左側方および右側方の各外界を撮像し、前記表示手段は、前記車両状態量検出手段により検出された車両状態量(例えば、実施の形態での速度V、シフトポジション)に基づき車両が走行停止状態であることを検知した場合に、前記撮像手段により撮像された車両の左側方および右側方の外界の撮像画像を前記遠隔操作装置の表示画面上に表示することを特徴としている。   Furthermore, in the vehicle steering system according to the second aspect of the present invention, the plurality of imaging units capture at least the left and right external worlds of the vehicle, and the display unit includes the vehicle state quantity detection unit. When it is detected that the vehicle is in a travel stop state based on the detected vehicle state quantity (for example, speed V and shift position in the embodiment), the left side and the right side of the vehicle imaged by the imaging unit The captured image of the outside world is displayed on the display screen of the remote control device.

上記の車両操縦システムによれば、車両の速度が所定速度未満となって走行停止状態であると判定される状態では、左側方および右側方の外界の撮像画像を遠隔操作装置の表示画面上に表示することにより、操作者は撮像画像に基づき車両に対する左右確認を適切に行うことができる。   According to the vehicle steering system described above, when the vehicle speed is less than the predetermined speed and it is determined that the vehicle is in the travel stop state, the left and right external images are displayed on the display screen of the remote control device. By displaying, the operator can appropriately check the left and right of the vehicle based on the captured image.

さらに、請求項3に記載の本発明の車両操縦システムでは、前記複数の撮像手段は、少なくとも車両の進行方向の外界を撮像し、前記表示手段は、前記車両状態量検出手段により検出された車両状態量(例えば、実施の形態での速度V、シフトポジション)に基づき車両が走行状態であることを検知した場合に、前記撮像手段により撮像された車両の進行方向の外界の撮像画像を前記遠隔操作装置の表示画面上に表示することを特徴としている。   Furthermore, in the vehicle steering system according to the third aspect of the present invention, the plurality of imaging means image at least the outside in the traveling direction of the vehicle, and the display means is a vehicle detected by the vehicle state quantity detection means. When it is detected that the vehicle is in a running state based on the state quantity (for example, the speed V and the shift position in the embodiment), the captured image of the outside world in the traveling direction of the vehicle imaged by the imaging unit is It is characterized by being displayed on the display screen of the operating device.

上記の車両操縦システムによれば、車両の速度が所定速度以上となって走行状態であると判定される状態では、進行方向の外界の撮像画像を遠隔操作装置の表示画面上に表示することにより、操作者は撮像画像に基づき車両を適切に走行させることができる。   According to the above vehicle control system, in a state where the vehicle speed is determined to be equal to or higher than the predetermined speed and the vehicle is determined to be in the traveling state, the captured image of the outside world in the traveling direction is displayed on the display screen of the remote control device. The operator can appropriately drive the vehicle based on the captured image.

さらに、請求項4に記載の本発明の車両操縦システムでは、前記複数の撮像手段は、少なくとも車両の転舵方向の外界を撮像し、前記表示手段は、前記車両状態量検出手段により検出された車両状態量(例えば、実施の形態での操舵角)に基づき車両が転舵状態であることを検知した場合に、前記撮像手段により撮像された車両の転舵方向の外界の撮像画像を前記遠隔操作装置の表示画面上に表示することを特徴としている。   Furthermore, in the vehicle steering system according to the fourth aspect of the present invention, the plurality of imaging means image at least the outside in the steering direction of the vehicle, and the display means is detected by the vehicle state quantity detection means. When it is detected that the vehicle is in a steered state based on a vehicle state quantity (for example, a steering angle in the embodiment), an externally captured image of the steered direction of the vehicle imaged by the imaging unit is It is characterized by being displayed on the display screen of the operating device.

上記の車両操縦システムによれば、車両が転舵状態であると判定される状態では、転舵方向の外界の撮像画像を遠隔操作装置の表示画面上に表示することにより、操作者は撮像画像に基づき車両を適切に走行させることができる。   According to the vehicle steering system described above, in a state where the vehicle is determined to be in the steered state, the operator can display the captured image of the outside world in the steered direction on the display screen of the remote control device. The vehicle can be appropriately driven based on the above.

さらに、請求項5に記載の本発明の車両操縦システムでは、前記撮像手段による撮像動作の実行時刻(例えば、実施の形態での撮像側時刻Ta)と、前記撮像により得られた撮像画像を表示する前記表示手段による表示動作の実行時刻(例えば、実施の形態での表示側時刻Tb)との間の時間差(例えば、実施の形態での時間差(Tb−Ta))を検知する時間差検知手段(例えば、実施の形態での時刻判定部63)と、前記時間差検知手段により検知された時間差が所定時間(例えば、実施の形態での所定の第2時間遅れ#T2)よりも長い場合に前記遠隔操作装置の表示画面上に警報を表示する警報手段(例えば、実施の形態での表示制御部64)とを備えることを特徴としている。   Furthermore, in the vehicle steering system according to the fifth aspect of the present invention, the execution time of the imaging operation by the imaging unit (for example, the imaging side time Ta in the embodiment) and the captured image obtained by the imaging are displayed. A time difference detecting means for detecting a time difference (for example, a time difference (Tb−Ta) in the embodiment) from a display operation execution time by the display means (for example, a display side time Tb in the embodiment). For example, when the time difference detected by the time determination unit 63) in the embodiment and the time difference detection means is longer than a predetermined time (for example, the predetermined second time delay # T2 in the embodiment), the remote An alarm means (for example, the display control unit 64 in the embodiment) for displaying an alarm on the display screen of the operating device is provided.

上記の車両操縦システムによれば、撮像動作の実行時刻と表示動作の実行時刻との間の時間差が所定時間よりも長い場合には、表示画面上に表示される撮像画像と実際の車両の外界の状態との間に過剰な差異が生じている虞があると判断して警報を表示することにより、操作者に注意を促すことができる。   According to the above vehicle control system, when the time difference between the execution time of the imaging operation and the execution time of the display operation is longer than a predetermined time, the captured image displayed on the display screen and the actual external environment of the vehicle The operator can be alerted by determining that there is a possibility that an excessive difference has occurred between the two states and displaying an alarm.

さらに、請求項6に記載の本発明の車両操縦システムでは、前記撮像手段による撮像動作の実行時刻(例えば、実施の形態での撮像側時刻Ta)と、前記撮像により得られた撮像画像を表示する前記表示手段による表示動作の実行時刻(例えば、実施の形態での表示側時刻Tb)との間の時間差(例えば、実施の形態での時間差(Tb−Ta))を検知する時間差検知手段(例えば、実施の形態での時刻判定部63)を備え、前記運転制御装置は、前記時間差検知手段により検知された時間差が所定時間(例えば、実施の形態での所定の第2時間遅れ#T2)よりも長い場合に前記遠隔操作装置から発信される制御信号に応じた車両の運転を停止することを特徴としている。   Furthermore, in the vehicle control system according to the sixth aspect of the present invention, the execution time of the imaging operation by the imaging unit (for example, the imaging side time Ta in the embodiment) and the captured image obtained by the imaging are displayed. A time difference detecting means for detecting a time difference (for example, a time difference (Tb−Ta) in the embodiment) from a display operation execution time by the display means (for example, a display side time Tb in the embodiment). For example, the time determination unit 63) in the embodiment is provided, and the operation control device is configured such that the time difference detected by the time difference detection unit is a predetermined time (for example, a predetermined second time delay # T2 in the embodiment). If the vehicle is longer than the vehicle, the vehicle operation is stopped according to the control signal transmitted from the remote control device.

上記の車両操縦システムによれば、撮像動作の実行時刻と表示動作の実行時刻との間の時間差が所定時間よりも長い場合には、表示画面上に表示される撮像画像と実際の車両の外界の状態との間に過剰な差異が生じている虞があると判断して、遠隔操作による車両の運転を停止することにより、不適切に車両が運転されてしまうことを防止することができる。   According to the above vehicle control system, when the time difference between the execution time of the imaging operation and the execution time of the display operation is longer than a predetermined time, the captured image displayed on the display screen and the actual external environment of the vehicle It is possible to prevent the vehicle from being inappropriately driven by determining that there is a possibility that an excessive difference may occur between the two states and stopping the vehicle operation by remote control.

以上説明したように、本発明の車両操縦システムによれば、操作者は撮像画像に基づき車両が所望の運転状態となるように適切に運転することができる。
さらに、請求項2に記載の本発明の車両操縦システムによれば、操作者は撮像画像に基づき車両に対する左右確認を適切に行うことができる。
さらに、請求項5に記載の本発明の車両操縦システムによれば、表示画面上に表示される撮像画像と実際の車両の外界の状態との間に過剰な差異が生じる虞があることを操作者に報知することができる。
さらに、請求項6に記載の本発明の車両操縦システムによれば、不適切に車両が運転されてしまうことを防止することができる。
As described above, according to the vehicle steering system of the present invention, the operator can appropriately drive the vehicle based on the captured image so that the vehicle is in a desired driving state.
Furthermore, according to the vehicle control system of the present invention as set forth in claim 2, the operator can appropriately check the left and right of the vehicle based on the captured image.
Further, according to the vehicle steering system of the present invention as set forth in claim 5, there is a possibility that an excessive difference may occur between the captured image displayed on the display screen and the actual state of the external environment of the vehicle. The person can be notified.
Furthermore, according to the vehicle steering system of the present invention described in claim 6, it is possible to prevent the vehicle from being driven inappropriately.

以下、本発明の一実施形態に係る車両操縦システムについて添付図面を参照しながら説明する。   Hereinafter, a vehicle control system according to an embodiment of the present invention will be described with reference to the accompanying drawings.

図1に示すように、本実施の形態による車両操縦システム10は、例えば、内燃機関(ENG)の駆動力を、オートマチックトランスミッション(AT)あるいは無段自動変速機(CVT)等のトランスミッション(T/M)を介して駆動輪に伝達する車両に搭載された車両制御装置10aと、通信により車両制御装置10aを操作する遠隔操作装置10bとを備えて構成されている。   As shown in FIG. 1, the vehicle steering system 10 according to the present embodiment uses, for example, a driving force of an internal combustion engine (ENG) as a transmission (T / T) such as an automatic transmission (AT) or a continuously variable automatic transmission (CVT). The vehicle control device 10a mounted on the vehicle that transmits to the drive wheels via M) and the remote control device 10b that operates the vehicle control device 10a by communication are configured.

車両制御装置10aは、例えば遠隔操作装置10bと通信可能な通信装置21と、複数の第1〜第n撮像装置22,…,22と、車両状態量センサ23と、電子制御ユニット(ECU)24と、EPSアクチュエータ25と、ブレーキアクチュエータ26とを備えて構成されている。
各撮像装置22,…,22は、例えば可視光領域や赤外線領域にて撮像可能なCCDカメラやCMOSカメラ等からなる複数の第1〜第nカメラ31,…,31および画像処理部32,…,32を備えて構成され、各カメラ31,…,31は車両から見た所定方向の外界(例えば、前方と、右側方と、左側方と、後方等)を撮像する。各画像処理部32,…,32は、各カメラ31,…,31の撮像により得られた画像に対して、例えばフィルタリングや二値化処理、さらに、データ削減やデータ圧縮等の所定の画像処理を行うと共に、撮像時刻(撮像側時刻Ta)のデータを付加して画像データを生成し、電子制御ユニット(ECU)24へ出力する。
The vehicle control device 10a includes, for example, a communication device 21 capable of communicating with the remote control device 10b, a plurality of first to n-th imaging devices 22 1 ,..., 22 n , a vehicle state quantity sensor 23, and an electronic control unit (ECU). ) 24, an EPS actuator 25, and a brake actuator 26.
The imaging devices 22 1, ..., 22 n, for example first to n cameras 31 1 more consisting imageable CCD camera or a CMOS camera or the like in a visible light region and the infrared region, ..., 31 n and imaging part 32 1, ..., it is configured with a 32 n, each of the cameras 31 1, ..., 31 n is in a predetermined direction as viewed from the vehicle outside (e.g., a front, and right side, and left side, rear, etc.) Take an image. Each image processing unit 32 1, ..., 32 n, each camera 31 1, ..., with respect to 31 n image obtained by imaging, for example, filtering and binarization processing, further, data reduction, data compression, etc. Predetermined image processing is performed, and image data is generated by adding data of an imaging time (imaging side time Ta) and output to an electronic control unit (ECU) 24.

車両状態量センサ23は、車両の走行状態や運転状態に係る状態量を検出する各種のセンサ(例えば、車速センサや操舵角センサやジャイロセンサ等)や各種のスイッチ(例えば、方向指示器スイッチやブレーキスイッチやワイパースイッチ等)等を備えて構成され、各種のセンサから出力される検出信号や各種のスイッチから出力されるオン/オフ信号を車両状態量として電子制御ユニット(ECU)24へ出力する。
ここで、車速センサは車両の速度(車速)を検出し、操舵角センサはステアリングホイールの回転角度であるハンドル角(操舵角)の方向と大きさを検出し、ジャイロセンサは水平面内での自車両の向きや鉛直方向に対する傾斜角度(例えば、車両の前後方向軸の鉛直方向に対する傾斜角度や車両重心の上下方向軸回りの回転角であるヨー角等)および傾斜角度の変化量(例えば、ヨーレート等)を検出する。
また、方向指示器スイッチは運転者による方向指示器の操作の有無に係るオン/オフ信号を出力し、ブレーキスイッチは運転者によるブレーキ操作の有無に係るオン/オフ信号を出力し、ワイパースイッチは降雨や降雪等の天候状態に応じたワイパー作動の有無に係るオン/オフ信号を出力する。
The vehicle state quantity sensor 23 includes various sensors (for example, a vehicle speed sensor, a steering angle sensor, a gyro sensor, and the like) that detect state quantities related to the running state and driving state of the vehicle, and various switches (for example, a direction indicator switch, Brake signals, wiper switches, and the like), and output detection signals output from various sensors and on / off signals output from the various switches to the electronic control unit (ECU) 24 as vehicle state quantities. .
Here, the vehicle speed sensor detects the speed of the vehicle (vehicle speed), the steering angle sensor detects the direction and magnitude of the steering wheel angle (steering angle), which is the rotation angle of the steering wheel, and the gyro sensor detects itself in a horizontal plane. The direction of the vehicle and the inclination angle with respect to the vertical direction (for example, the inclination angle of the vehicle longitudinal axis with respect to the vertical direction and the yaw angle that is the rotation angle of the vehicle center of gravity about the vertical axis) and the amount of change in the inclination angle (for example, the yaw rate) Etc.).
The direction indicator switch outputs an on / off signal related to whether or not the driver has operated the direction indicator, the brake switch outputs an on / off signal related to whether or not the driver has operated the brake, and the wiper switch An on / off signal related to the presence / absence of the wiper operation according to the weather condition such as rain or snow is output.

電子制御ユニット(ECU)24は、例えば、データ出力部41と、制御信号受信部42と、走行制御部43と、エンジン制御部44と、変速制御部45と、ブレーキ制御部46とを備えて構成され、さらに、走行制御部43は、速度制御部51と、操向制御部52とを備えて構成されている。   The electronic control unit (ECU) 24 includes, for example, a data output unit 41, a control signal receiving unit 42, a travel control unit 43, an engine control unit 44, a shift control unit 45, and a brake control unit 46. Further, the travel control unit 43 includes a speed control unit 51 and a steering control unit 52.

データ出力部41は、遠隔操作装置10bから送信される制御信号に応じて、各撮像装置22,…,22から入力される画像データと、車両状態量センサ23により検知された各種の車両状態量(例えば、車速および操舵角等)および各種の制御信号により指示される各種の車両状態量(例えば、シフトポジション等)のデータを、通信装置21を介して遠隔操作装置10bに発信する。
制御信号受信部42は、遠隔操作装置10bから発信される制御信号を受信し、データ出力部41および走行制御部43に入力する。
The data output unit 41 receives image data input from each of the imaging devices 22 1 ,..., 22 n and various vehicles detected by the vehicle state quantity sensor 23 in accordance with a control signal transmitted from the remote operation device 10 b. Data of state quantities (for example, vehicle speed and steering angle) and various vehicle state quantities (for example, shift position) indicated by various control signals are transmitted to the remote control device 10b via the communication device 21.
The control signal receiving unit 42 receives a control signal transmitted from the remote operation device 10 b and inputs it to the data output unit 41 and the travel control unit 43.

走行制御部43の速度制御部51は、遠隔操作装置10bから発信される制御信号に応じて車両を走行させる際の車速が所定車速と同等になるようにして、内燃機関の駆動力を制御するエンジン制御部44およびトランスミッションの変速動作を制御する変速制御部45およびブレーキアクチュエータ26の減速動作を制御するブレーキ制御部46に制御信号を出力する。
また、走行制御部43の操向制御部52は、遠隔操作装置10bから発信される制御信号に応じて車両を走行させるために必要とされる操舵トルクを算出する。そして、この操舵トルクをEPSアクチュエータ25から出力させるためのトルク指令を出力し、EPSアクチュエータ25を駆動する。
The speed control unit 51 of the travel control unit 43 controls the driving force of the internal combustion engine so that the vehicle speed when the vehicle travels is equal to a predetermined vehicle speed in accordance with a control signal transmitted from the remote control device 10b. A control signal is output to the engine control unit 44, the transmission control unit 45 that controls the transmission operation of the transmission, and the brake control unit 46 that controls the deceleration operation of the brake actuator 26.
In addition, the steering control unit 52 of the travel control unit 43 calculates a steering torque required to travel the vehicle in accordance with a control signal transmitted from the remote operation device 10b. And the torque command for outputting this steering torque from the EPS actuator 25 is output, and the EPS actuator 25 is driven.

そして、例えば図2に示す遠隔操作装置10bは、例えば通信装置61と、データ取得部62と、時刻判定部63と、表示制御部64と、画像記憶部65と、表示装置66と、操作入力部67と、制御信号出力部68とを備えて構成されている。   For example, the remote operation device 10b illustrated in FIG. 2 includes a communication device 61, a data acquisition unit 62, a time determination unit 63, a display control unit 64, an image storage unit 65, a display device 66, and an operation input. A unit 67 and a control signal output unit 68 are provided.

データ取得部62は、車両制御装置10aから発信された画像データおよび車両状態量のデータを、通信装置61を介して受信し、時刻判定部63および表示制御部64へ出力する。
時刻判定部63は、通信装置61を介して受信した画像データから撮像側時刻Taを抽出すると共に、遠隔操作装置10bでの現在時刻(表示側時刻Tb)を取得し、撮像側時刻Taと表示側時刻Tbとの時間差(Tb−Ta)を検知する。そして、検知した時間差(Tb−Ta)が所定の第1時間遅れ#T1(例えば、0.2s等)または第2時間遅れ#T2(例えば、0.5s等)以下であるか否かを判定し、この判定結果を表示制御部64および制御信号出力部68に出力する。
The data acquisition unit 62 receives image data and vehicle state quantity data transmitted from the vehicle control device 10 a via the communication device 61, and outputs them to the time determination unit 63 and the display control unit 64.
The time determination unit 63 extracts the imaging side time Ta from the image data received via the communication device 61, acquires the current time (display side time Tb) in the remote operation device 10b, and displays the imaging side time Ta. A time difference (Tb−Ta) from the side time Tb is detected. Then, it is determined whether or not the detected time difference (Tb−Ta) is equal to or smaller than a predetermined first time delay # T1 (for example, 0.2 s) or second time delay # T2 (for example, 0.5 s). The determination result is output to the display control unit 64 and the control signal output unit 68.

表示制御部64は、通信装置61を介して受信した画像データの表示装置66での表示形態を、時刻判定部63による判定結果に応じて設定する。
例えば時間差(Tb−Ta)が所定の第1時間遅れ#T1以下である場合には、図3(a)に示すように、時間差(Tb−Ta)の大きさが許容範囲内であることを示す青色枠Faにより画像データGを表示するように設定する。
また、時間差(Tb−Ta)が所定の第1時間遅れ#T1よりも大きく、かつ、所定の第2時間遅れ#T2以下である場合には、図3(b)に示すように、所定の注意喚起画像Gaを画像記憶部65から取得して画像データGに付加し、黄色枠Fbにより画像データGを表示するように設定する。
また、時間差(Tb−Ta)が所定の第2時間遅れ#T2よりも大きい場合には、図3(c)に示すように、所定の警告画像Gbを画像記憶部65から取得して画像データGに付加し、赤色枠Fcにより画像データGを表示するように設定する。
さらに、表示制御部64は、通信装置61を介して受信した車両状態量のデータに基づき複数の画像データの表示優先度を設定し、表示装置66において画像データを表示可能な画像データ表示領域の領域数に応じて、画像データの表示装置66での表示形態を設定する。
The display control unit 64 sets the display form of the image data received via the communication device 61 on the display device 66 according to the determination result by the time determination unit 63.
For example, when the time difference (Tb−Ta) is equal to or less than a predetermined first time delay # T1, the time difference (Tb−Ta) is within an allowable range as shown in FIG. The image data G is set to be displayed by the blue frame Fa shown.
Further, when the time difference (Tb−Ta) is larger than the predetermined first time delay # T1 and equal to or smaller than the predetermined second time delay # T2, as shown in FIG. The alert image Ga is acquired from the image storage unit 65 and added to the image data G, and the image data G is set to be displayed by the yellow frame Fb.
When the time difference (Tb−Ta) is larger than the predetermined second time delay # T2, as shown in FIG. 3C, a predetermined warning image Gb is acquired from the image storage unit 65 and image data is acquired. In addition to G, the image data G is set to be displayed with a red frame Fc.
Further, the display control unit 64 sets display priorities of a plurality of image data based on the vehicle state quantity data received via the communication device 61, and displays an image data display area in which image data can be displayed on the display device 66. The display form of the image data on the display device 66 is set according to the number of areas.

表示装置66は、例えば図2に示すように、表示画面D上の2つの画像データ表示領域Da,Dbに画像データを表示可能であり、表示制御部64により設定された表示形態に応じて所定の画像データ、例えば図3(a)〜(c)に示す各画像データG等を表示する。
さらに、表示画面D上には、車両の走行挙動に係る文字情報を表示する文字情報表示領域Deが設定されている。
また、表示画面D上には、例えば、操作入力部67を構成する非常停止指示スイッチDcおよび車両操作スイッチDdが設けられ、例えば操作者が表示画面D上の非常停止指示スイッチDcを指先での接触等により選択すると、車両の走行停止を指示する制御信号が通信装置61を介して車両制御装置10aに発信されるようになっている。また、車両操作スイッチDdは、例えば車両の複数の移動状態(例えば、前進、後退、前進右折、前進左折、後退右折、後退左折等)を指示する複数のスイッチを備え、例えば操作者が車両操作スイッチDdの適宜のスイッチを指先での接触等により選択すると、選択されたスイッチに応じた車両の移動を指示する制御信号が通信装置61を介して車両制御装置10aに発信されるようになっている。
For example, as shown in FIG. 2, the display device 66 can display image data in two image data display areas Da and Db on the display screen D, and is predetermined according to the display form set by the display control unit 64. For example, the image data G shown in FIGS. 3A to 3C are displayed.
Furthermore, on the display screen D, a character information display area De for displaying character information related to the traveling behavior of the vehicle is set.
Further, on the display screen D, for example, an emergency stop instruction switch Dc and a vehicle operation switch Dd that constitute the operation input unit 67 are provided. For example, the operator operates the emergency stop instruction switch Dc on the display screen D with a fingertip. When selected by contact or the like, a control signal for instructing to stop traveling of the vehicle is transmitted to the vehicle control device 10a via the communication device 61. Further, the vehicle operation switch Dd includes, for example, a plurality of switches for instructing a plurality of movement states of the vehicle (for example, forward, backward, forward right turn, forward left turn, reverse right turn, reverse left turn, etc.). When an appropriate switch of the switch Dd is selected by contact with a fingertip or the like, a control signal instructing movement of the vehicle according to the selected switch is transmitted to the vehicle control device 10a via the communication device 61. Yes.

操作入力部67は、操作者による操作入力を制御信号出力部68に出力する。
制御信号出力部68は、操作者による操作入力に応じた制御信号および時刻判定部63による判定結果に応じた制御信号、例えば時間差(Tb−Ta)が所定の第2時間遅れ#T2よりも大きい場合に車両の走行停止を指示する制御信号等を、通信装置61を介して車両制御装置10aに発信する。
The operation input unit 67 outputs an operation input by the operator to the control signal output unit 68.
The control signal output unit 68 has a control signal according to the operation input by the operator and a control signal according to the determination result by the time determination unit 63, for example, a time difference (Tb−Ta) larger than a predetermined second time delay # T2. In this case, a control signal or the like for instructing the vehicle to stop traveling is transmitted to the vehicle control device 10a via the communication device 61.

本実施の形態による車両操縦システム10は上記構成を備えており、次に、この車両操縦システム10の動作について添付図面を参照しながら説明する。   The vehicle steering system 10 according to the present embodiment has the above-described configuration. Next, the operation of the vehicle steering system 10 will be described with reference to the accompanying drawings.

以下に、撮像側処理について説明する。なお、この撮像側処理は、例えば各撮像装置22,…,22の画像取込タイミングつまり画像の各フレームの撮像周期と同等周期で実行される。
先ず、図4に示すステップS01においては、各撮像装置22,…,22の撮像により得られた画像を取得する。
次に、ステップS02においては、取得した画像に対して、例えばフィルタリングや二値化処理、さらに、データ削減やデータ圧縮等の所定の画像処理を行う。
次に、ステップS03においては、画像に撮像時刻(撮像側時刻Ta)のデータを付加して画像データを生成する。
そして、ステップS04においては、生成した画像データを出力し、一連の処理を終了する。
Hereinafter, the imaging side processing will be described. Incidentally, the imaging-side processing, for example the imaging devices 22 1, ..., it is executed in the imaging period equivalent period of each frame of the 22 n image pickup timing clogging images.
First, in step S01 shown in FIG. 4, images obtained by imaging of the imaging devices 22 1 ,..., 22 n are acquired.
Next, in step S02, the obtained image is subjected to predetermined image processing such as filtering and binarization processing, and further data reduction and data compression.
Next, in step S03, image data is generated by adding data of an imaging time (imaging side time Ta) to the image.
In step S04, the generated image data is output, and a series of processing ends.

以下に、表示側処理について説明する。なお、この表示側処理は、例えば撮像側処理の実行周期の少なくとも1/2以下の周期で実行される。
先ず、図5に示すステップS11においては、通信により車両制御装置10aから画像データを取得し、取得した画像データに付加されている撮像側時刻Taを抽出する。
次に、ステップS12においては、遠隔操作装置10bでの現在時刻(表示側時刻Tb)を取得する。
そして、ステップS13においては、撮像側時刻Taと表示側時刻Tbとの時間差(Tb−Ta)が所定の第1時間遅れ#T1(例えば、0.2s等)以下であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS15に進む。
一方、この判定結果が「YES」の場合には、ステップS14に進む。
そして、ステップS14においては、例えば図3(a)に示すように、時間差(Tb−Ta)の大きさが許容範囲内であることを示す青色枠Faにより画像データGを通常表示するように設定する。
そして、ステップS15においては、表示設定に応じて画像データを表示し、一連の処理を終了する。
The display side process will be described below. Note that this display-side processing is executed, for example, at a cycle that is at least half or less than the execution cycle of the imaging-side processing.
First, in step S11 shown in FIG. 5, the image data is acquired from the vehicle control device 10a by communication, and the imaging side time Ta added to the acquired image data is extracted.
Next, in step S12, the current time (display side time Tb) at the remote operation device 10b is acquired.
In step S13, it is determined whether or not the time difference (Tb−Ta) between the imaging side time Ta and the display side time Tb is equal to or less than a predetermined first time delay # T1 (eg, 0.2 s). .
If this determination is “NO”, the flow proceeds to step S 15 described later.
On the other hand, if the determination is “YES”, the flow proceeds to step S14.
In step S14, for example, as shown in FIG. 3A, the image data G is normally displayed with a blue frame Fa indicating that the time difference (Tb−Ta) is within the allowable range. To do.
In step S15, the image data is displayed according to the display setting, and the series of processes is terminated.

そして、ステップS16においては、撮像側時刻Taと表示側時刻Tbとの時間差(Tb−Ta)が、所定の第1時間遅れ#T1よりも長い所定の第2時間遅れ#T2(例えば、0.5s等)以下であるか否かを判定する。
この判定結果が「YES」の場合には、ステップS17に進み、このステップS17においては、図3(b)に示すように、所定の注意喚起画像Gaを画像記憶部65から取得して画像データGに付加し、黄色枠Fbにより画像データGを表示するように設定し、上述したステップS15に進む。
一方、この判定結果が「NO」の場合には、ステップS18に進み、このステップS18においては、図3(c)に示すように、所定の警告画像Gbを画像記憶部65から取得して画像データGに付加し、赤色枠Fcにより画像データGを表示するように設定し、上述したステップS15に進む。
In step S16, the time difference (Tb−Ta) between the imaging side time Ta and the display side time Tb is a predetermined second time delay # T2 (for example, 0. 0) that is longer than the predetermined first time delay # T1. 5s or the like).
If this determination is “YES”, the flow proceeds to step S 17, and in this step S 17, as shown in FIG. 3B, a predetermined alert image Ga is acquired from the image storage unit 65 and image data is acquired. The image data G is set to be displayed by the yellow frame Fb, and the process proceeds to step S15 described above.
On the other hand, if this determination is “NO”, the flow proceeds to step S 18, and in this step S 18, a predetermined warning image Gb is acquired from the image storage unit 65 as shown in FIG. The setting is made so that the image data G is displayed with the red frame Fc added to the data G, and the process proceeds to step S15 described above.

以下に、例えば車両から見た4つの所定方向(前方と、右側方と、左側方と、後方)の外界を撮像する各撮像装置22,…,22により得られた4つの画像を、表示装置66の2つの画像データ表示領域Da,Dbに表示させる表示切替処理について説明する。なお、この表示切替処理は、例えば表示側処理の実行周期と同等の周期で実行される。
先ず、図6に示すステップS21においては、通信により車両制御装置10aから車両状態量のデータを取得する。
次に、ステップS22においては、車両の速度Vが所定速度#Vよりも大きいか否かを判定する。
この判定結果が「YES」の場合には、後述するステップS26に進む。
一方、この判定結果が「NO」の場合には、ステップS23に進む。
Below, for example, four images obtained by the respective imaging devices 22 1 ,..., 22 4 that capture the external world in four predetermined directions (front, right side, left side, and rear) as viewed from the vehicle, A display switching process to be displayed in the two image data display areas Da and Db of the display device 66 will be described. In addition, this display switching process is performed with the period equivalent to the execution period of a display side process, for example.
First, in step S21 shown in FIG. 6, vehicle state quantity data is acquired from the vehicle control device 10a by communication.
Next, in step S22, it is determined whether or not the vehicle speed V is greater than a predetermined speed #V.
If this determination is “YES”, the flow proceeds to step S 26 described later.
On the other hand, if this determination is “NO”, the flow proceeds to step S23.

そして、ステップS23においては、シフトポジションがP(停止)またはN(ニュートラル)であるか否かを判定する。
この判定結果が「NO」の場合には、後述するステップS27に進む。
一方、この判定結果が「YES」の場合には、ステップS24に進む。
そして、ステップS24においては、車両から見て前方と後方とを撮像する各撮像装置22,22により得られる2つの画像の表示優先度を示す各カメラ値C_F,C_Bに対して、最も優先度が低い値である「0」を設定する。
そして、ステップS25においては、右側方と左側方とを撮像する各撮像装置22,22により得られる2つの画像の表示優先度を示す各カメラ値C_R,C_Lに対して、優先度が中程度の値である「1」を設定し、後述するステップS36に進む。
In step S23, it is determined whether the shift position is P (stop) or N (neutral).
If this determination is “NO”, the flow proceeds to step S 27 described later.
On the other hand, if this determination is “YES”, the flow proceeds to step S24.
In step S24, the highest priority is given to the camera values C_F and C_B indicating the display priorities of the two images obtained by the imaging devices 22 1 and 22 2 that capture the front and rear as viewed from the vehicle. “0” which is a low value is set.
Then, in step S25, the right side and the left side and the imaging devices 22 3 for imaging a 22 each camera value indicating the display priority of the two images obtained by the 4 C_R, relative C_L, medium priority The degree value “1” is set, and the process proceeds to step S36 described later.

また、ステップS26においては、車両の進行方向が前方であるか否かを判定する。
この判定結果が「NO」の場合、つまり車両が後退している場合には、後述するステップS33に進む。
一方、この判定結果が「YES」の場合、つまり車両が前進している場合には、後述するステップS28に進む。
また、ステップS27においては、シフトポジションがR(リバース)であるか否かを判定する。
ステップS27の判定結果が「NO」の場合、つまりシフトポジションがD(ドライブ)であって、車両が前進している場合には、ステップS28に進む。
一方、ステップS27の判定結果が「YES」の場合、つまり車両が後退している場合には、後述するステップS33に進む。
Moreover, in step S26, it is determined whether the advancing direction of a vehicle is ahead.
If this determination is “NO”, that is, if the vehicle is moving backward, the process proceeds to step S 33 described later.
On the other hand, if this determination is “YES”, that is, if the vehicle is moving forward, the flow proceeds to step S 28 described later.
In step S27, it is determined whether or not the shift position is R (reverse).
If the determination result in step S27 is “NO”, that is, if the shift position is D (drive) and the vehicle is moving forward, the process proceeds to step S28.
On the other hand, if the determination result in step S27 is “YES”, that is, if the vehicle is moving backward, the process proceeds to step S33 described later.

そして、ステップS28においては、前方カメラ値C_Fに対して、最も優先度が高い値である「2」を設定し、後方カメラ値C_Bに対して、最も優先度が低い値である「0」を設定する。
そして、ステップS29においては、操舵方向が中立状態つまりステアリングホイールの回転角度であるハンドル角(操舵角)が所定の中点近傍の値であって、実質的に操舵量がゼロであると判定される状態であるか否かを判定する。
この判定結果が「YES」の場合には、上述したステップS25に進む。
一方、この判定結果が「NO」の場合には、ステップS30に進む。
そして、ステップS30においては、操舵方向が右方向であるか否かを判定する。
ステップS30の判定結果が「YES」の場合には、ステップS31に進み、このステップS31においては、右側方カメラ値C_Rに対して、優先度が中程度の値である「1」を設定し、左側方カメラ値C_Lに対して、最も優先度が低い値である「0」を設定し、後述するステップS36に進む。
一方、ステップS30の判定結果が「NO」の場合には、ステップS32に進み、このステップS32においては、右側方カメラ値C_Rに対して、最も優先度が低い値である「0」を設定し、左側方カメラ値C_Lに対して、優先度が中程度の値である「1」を設定し、後述するステップS36に進む。
In step S28, “2” that is the highest priority value is set for the front camera value C_F, and “0” that is the lowest priority value is set for the rear camera value C_B. Set.
In step S29, it is determined that the steering angle is in a neutral state, that is, the steering wheel angle (steering angle), which is the rotation angle of the steering wheel, is a value near a predetermined midpoint, and the steering amount is substantially zero. It is determined whether or not
If this determination is “YES”, the flow proceeds to step S 25 described above.
On the other hand, if this determination is “NO”, the flow proceeds to step S30.
In step S30, it is determined whether or not the steering direction is the right direction.
If the determination result in step S30 is “YES”, the process proceeds to step S31, and in this step S31, “1” having a medium priority is set for the right-side camera value C_R. For the left-side camera value C_L, “0”, which is the lowest priority value, is set, and the process proceeds to step S36 described later.
On the other hand, if the determination result in step S30 is “NO”, the process proceeds to step S32, and in this step S32, “0” that is the lowest priority value is set for the right-side camera value C_R. Then, “1” having a medium priority is set for the left-side camera value C_L, and the process proceeds to step S36 described later.

そして、ステップS33においては、前方カメラ値C_Fに対して、最も優先度が低い値である「0」を設定し、後方カメラ値C_Bに対して、最も優先度が高い値である「2」を設定する。
そして、ステップS34においては、操舵方向が中立状態であるか否かを判定する。
この判定結果が「YES」の場合には、上述したステップS25に進む。
一方、この判定結果が「NO」の場合には、ステップS35に進む。
そして、ステップS35においては、操舵方向が右方向であるか否かを判定する。
ステップS35の判定結果が「YES」の場合には、上述したステップS32に進む。
一方、ステップS35の判定結果が「NO」の場合には、上述したステップS31に進む。
In step S33, “0” which is the lowest priority value is set for the front camera value C_F, and “2” which is the highest priority value is set for the rear camera value C_B. Set.
In step S34, it is determined whether or not the steering direction is in a neutral state.
If this determination is “YES”, the flow proceeds to step S 25 described above.
On the other hand, if this determination is “NO”, the flow proceeds to step S35.
In step S35, it is determined whether or not the steering direction is the right direction.
If the determination result of step S35 is “YES”, the process proceeds to step S 32 described above.
On the other hand, when the determination result of step S35 is “NO”, the process proceeds to step S31 described above.

そして、ステップS36においては、表示可能な画像データ表示領域が1つであるか否かを判定する。
この判定結果が「YES」の場合には、後述するステップS41に進む。
一方、この判定結果が「NO」の場合には、ステップS37に進む。
そして、ステップS37においては、各カメラ値C_F,C_B,C_R,C_Lにおいて、最も優先度が高い値である「2」が設定されているカメラ値が存在するか否かを判定する。
ステップS37の判定結果が「NO」の場合には、ステップS38に進み、このステップS38においては、優先度が中程度の値である「1」が設定されているカメラ値に対応する2つの画像データを2つの画像データ表示領域に表示するように設定し、一連の処理を終了する。
一方、ステップS37の判定結果が「YES」の場合には、ステップS39に進む。
In step S36, it is determined whether or not there is one displayable image data display area.
If this determination is “YES”, the flow proceeds to step S 41 described later.
On the other hand, if this determination is “NO”, the flow proceeds to step S 37.
In step S37, it is determined whether or not there is a camera value for which “2”, which is the highest priority value, is set in each of the camera values C_F, C_B, C_R, and C_L.
If the determination result in step S37 is “NO”, the process proceeds to step S38, and in this step S38, two images corresponding to the camera value for which “1”, which is a medium priority, is set. The data is set to be displayed in the two image data display areas, and the series of processes is completed.
On the other hand, if the determination result of step S37 is “YES”, the process proceeds to step S39.

そして、ステップS39においては、最も優先度が高い値である「2」が設定されているカメラ値に対応する1つの画像データを、2つの画像データ表示領域の何れか一方に表示するように設定する。
そして、ステップS40においては、優先度が中程度の値である「1」が設定されているカメラ値に対応する画像データを2つの画像データ表示領域の他方に表示するように設定し、一連の処理を終了する。なお、優先度が中程度の値である「1」が設定されているカメラ値に対応する複数の画像データが存在する場合には、例えば複数の画像データを所定時間毎に交互に表示(時分割表示)するように設定したり、例えば複数の画像データを適宜に縮小して同時に画像データ表示領域に表示(領域分割表示)するように設定する。
In step S39, one image data corresponding to the camera value for which “2”, which is the highest priority value, is set is displayed in one of the two image data display areas. To do.
In step S40, the image data corresponding to the camera value for which “1” having a medium priority is set is set to be displayed in the other of the two image data display areas. The process ends. In addition, when there are a plurality of image data corresponding to a camera value for which “1” having a medium priority is set, for example, the plurality of image data are alternately displayed every predetermined time (hours). For example, it is set so that a plurality of image data is appropriately reduced and simultaneously displayed in an image data display area (area division display).

また、ステップS41においては、各カメラ値C_F,C_B,C_R,C_Lにおいて、最も優先度が高い値である「2」が設定されているカメラ値が存在するか否かを判定する。
この判定結果が「YES」の場合には、ステップS42に進み、このステップS42においては、最も優先度が高い値である「2」が設定されているカメラ値に対応する画像データを、表示可能な1つの画像データ表示領域に単独で表示するように設定し、一連の処理を終了する。
一方、この判定結果が「NO」の場合には、ステップS43に進み、このステップS43においては、優先度が中程度の値である「1」が設定されているカメラ値に対応する画像データを、表示可能な1つの画像データ表示領域に表示するように設定し、一連の処理を終了する。なお、優先度が中程度の値である「1」が設定されているカメラ値に対応する複数の画像データが存在する場合には、時分割表示あるいは領域分割表示を行う。
In step S41, it is determined whether or not there is a camera value for which “2”, which is the highest priority value, is set in each of the camera values C_F, C_B, C_R, and C_L.
If this determination is “YES”, the flow proceeds to step S 42, and in this step S 42, image data corresponding to the camera value for which “2”, which is the highest priority value, is set can be displayed. A single image data display area is set to be displayed alone, and a series of processing ends.
On the other hand, if this determination is “NO”, the flow proceeds to step S 43, and in this step S 43, image data corresponding to the camera value for which “1”, which is a medium priority, is set. The display is set to be displayed in one displayable image data display area, and a series of processing ends. In addition, when there are a plurality of image data corresponding to the camera value for which “1” having a medium priority is set, time-division display or area-division display is performed.

上述したように、本実施の形態による車両操縦システム10によれば、車両から見た複数の所定方向の外界の画像データに対して、車両状態量のデータに応じて表示優先度を設定することから、適切な画像データを遠隔操作装置10bの表示画面上に表示することことができ、操作者は表示画面上の画像データのみに基づき、適切に車両を運転することができる。
また、撮像側時刻Taと表示側時刻Tbとの時間差(Tb−Ta)に応じて、遠隔操作装置10bの表示画面上で注意喚起や警告を行うことにより、画像データと実際の車両の外界の状態との間に過剰な差異が生じている虞がある場合に不適切に車両が運転されてしまうことを抑制することができる。
As described above, according to the vehicle control system 10 according to the present embodiment, the display priority is set according to the data of the vehicle state quantity for the image data of the external world in a plurality of predetermined directions viewed from the vehicle. Therefore, appropriate image data can be displayed on the display screen of the remote control device 10b, and the operator can drive the vehicle appropriately based only on the image data on the display screen.
In addition, according to the time difference (Tb−Ta) between the imaging side time Ta and the display side time Tb, a warning or warning is given on the display screen of the remote control device 10b, so that the image data and the actual external environment of the vehicle are It is possible to prevent the vehicle from being improperly driven when there is a possibility that an excessive difference has occurred with the state.

なお、上述した実施の形態においては、遠隔操作装置10bの表示制御部64が、車両状態量のデータに基づき複数の画像データの表示優先度を設定するとしたが、これに限定されず、例えば図7に示す変形例のように、車両制御装置10aに表示切替部47を備え、この表示切替部47が車両状態量のデータに基づき複数の画像データの表示優先度を設定し、遠隔操作装置10bの表示装置66において画像データを表示可能な画像データ表示領域の領域数に応じて、画像データの表示装置66での表示形態を設定するようにしてもよい。   In the above-described embodiment, the display control unit 64 of the remote operation device 10b sets the display priority of a plurality of image data based on the vehicle state quantity data. However, the present invention is not limited to this. As shown in FIG. 7, the vehicle control device 10a includes a display switching unit 47. The display switching unit 47 sets display priorities of a plurality of image data based on the vehicle state quantity data, and the remote control device 10b. The display form of the image data on the display device 66 may be set according to the number of image data display areas in which the image data can be displayed on the display device 66.

本発明の一実施形態に係る車両操縦システムの構成を示す機能ブロック図である。It is a functional block diagram which shows the structure of the vehicle control system which concerns on one Embodiment of this invention. 本発明の一実施形態に係る遠隔操作装置の表示画面の一例を示す図である。It is a figure which shows an example of the display screen of the remote control apparatus which concerns on one Embodiment of this invention. 図3(a)は遠隔操作装置の表示画面上に通常状態で表示される画像データGの一例を示す図であり、図3(b)は遠隔操作装置の表示画面上に注意喚起状態で表示される画像データGの一例を示す図であり、図3(c)は遠隔操作装置の表示画面上に警告状態で表示される画像データGの一例を示す図である。FIG. 3A is a diagram showing an example of image data G displayed in a normal state on the display screen of the remote control device, and FIG. 3B is displayed in a warning state on the display screen of the remote control device. FIG. 3C is a diagram showing an example of the image data G displayed in a warning state on the display screen of the remote control device. 撮像側処理を示すフローチャートである。It is a flowchart which shows an imaging side process. 表示側処理を示すフローチャートである。It is a flowchart which shows a display side process. 表示切替処理を示すフローチャートである。It is a flowchart which shows a display switching process. 本発明の一実施形態の変形例に係る車両操縦システムの構成を示す機能ブロック図である。It is a functional block diagram which shows the structure of the vehicle control system which concerns on the modification of one Embodiment of this invention.

符号の説明Explanation of symbols

10 車両操縦システム
10a 車両制御装置(運転制御装置)
10b 遠隔操作装置
11 撮像装置(撮像手段)
22,…,22 第1〜第n撮像装置(撮像手段)
23 車両状態量センサ(車両状態量検出手段)
63 時刻判定部(時間差検知手段)
64 表示制御部(表示手段、警報手段)

10 Vehicle Maneuvering System 10a Vehicle Control Device (Operation Control Device)
10b Remote control device 11 Imaging device (imaging means)
22 1 ,..., 22 n 1st to n-th imaging devices (imaging means)
23 vehicle state quantity sensor (vehicle state quantity detection means)
63 Time determination unit (time difference detection means)
64 Display control unit (display means, alarm means)

Claims (6)

遠隔操作装置と、該遠隔操作装置から発信される制御信号を受信して車両を運転可能な運転制御装置とを備える車両操縦システムであって、
車両に搭載されて車両の外界を撮像する撮像手段により撮像された撮像画像を、前記遠隔操作装置の表示画面上に表示する表示手段と、
車両の状態に係る車両状態量を検出する車両状態量検出手段とを備え、
前記表示手段は、車両に搭載された複数の前記撮像手段により撮像された撮像画像のうちから、前記車両状態量検出手段により検出された車両状態量に応じた所定の前記撮像手段により撮像された撮像画像を選択し、選択した前記撮像画像を前記遠隔操作装置の表示画面上に表示させることを特徴とする車両操縦システム。
A vehicle control system comprising a remote control device and a driving control device capable of receiving a control signal transmitted from the remote control device and driving the vehicle,
Display means for displaying on the display screen of the remote control device a picked-up image picked up by an image pickup means mounted on the vehicle and picking up the outside of the vehicle;
Vehicle state quantity detecting means for detecting a vehicle state quantity relating to the state of the vehicle,
The display means is picked up by the predetermined image pickup means corresponding to the vehicle state quantity detected by the vehicle state quantity detection means from among the picked-up images picked up by the plurality of image pickup means mounted on the vehicle. A vehicle control system, wherein a captured image is selected and the selected captured image is displayed on a display screen of the remote control device.
前記複数の撮像手段は、少なくとも車両の左側方および右側方の各外界を撮像し、
前記表示手段は、前記車両状態量検出手段により検出された車両状態量に基づき車両が走行停止状態であることを検知した場合に、前記撮像手段により撮像された車両の左側方および右側方の外界の撮像画像を前記遠隔操作装置の表示画面上に表示することを特徴とする請求項1に記載の車両操縦システム。
The plurality of imaging means image at least the external world on the left side and the right side of the vehicle,
When the display means detects that the vehicle is in a travel stop state based on the vehicle state quantity detected by the vehicle state quantity detection means, the left and right externals of the vehicle imaged by the imaging means The vehicle operation system according to claim 1, wherein the captured image is displayed on a display screen of the remote control device.
前記複数の撮像手段は、少なくとも車両の進行方向の外界を撮像し、
前記表示手段は、前記車両状態量検出手段により検出された車両状態量に基づき車両が走行状態であることを検知した場合に、前記撮像手段により撮像された車両の進行方向の外界の撮像画像を前記遠隔操作装置の表示画面上に表示することを特徴とする請求項1に記載の車両操縦システム。
The plurality of imaging means image at least the outside in the traveling direction of the vehicle,
When the display means detects that the vehicle is in a running state based on the vehicle state quantity detected by the vehicle state quantity detection means, the display means displays a captured image of the outside world in the traveling direction of the vehicle imaged by the imaging means. The vehicle control system according to claim 1, wherein the vehicle operation system is displayed on a display screen of the remote control device.
前記複数の撮像手段は、少なくとも車両の転舵方向の外界を撮像し、
前記表示手段は、前記車両状態量検出手段により検出された車両状態量に基づき車両が転舵状態であることを検知した場合に、前記撮像手段により撮像された車両の転舵方向の外界の撮像画像を前記遠隔操作装置の表示画面上に表示することを特徴とする請求項1に記載の車両操縦システム。
The plurality of imaging means image at least the outside of the steering direction of the vehicle,
When the display means detects that the vehicle is in a steering state based on the vehicle state quantity detected by the vehicle state quantity detection means, the imaging of the outside world in the turning direction of the vehicle imaged by the imaging means The vehicle control system according to claim 1, wherein an image is displayed on a display screen of the remote control device.
前記撮像手段による撮像動作の実行時刻と、前記撮像により得られた撮像画像を表示する前記表示手段による表示動作の実行時刻との間の時間差を検知する時間差検知手段と、
前記時間差検知手段により検知された時間差が所定時間よりも長い場合に前記遠隔操作装置の表示画面上に警報を表示する警報手段と
を備えることを特徴とする請求項1から請求項4の何れかひとつに記載の車両操縦システム。
A time difference detecting means for detecting a time difference between an execution time of the image pickup operation by the image pickup means and an execution time of the display operation by the display means for displaying the picked-up image obtained by the image pickup;
5. The apparatus according to claim 1, further comprising an alarm unit that displays an alarm on a display screen of the remote control device when the time difference detected by the time difference detection unit is longer than a predetermined time. The vehicle steering system as described in one.
前記撮像手段による撮像動作の実行時刻と、前記撮像により得られた撮像画像を表示する前記表示手段による表示動作の実行時刻との間の時間差を検知する時間差検知手段を備え、
前記運転制御装置は、前記時間差検知手段により検知された時間差が所定時間よりも長い場合に前記遠隔操作装置から発信される制御信号に応じた車両の運転を停止することを特徴とする請求項1から請求項4の何れかひとつに記載の車両操縦システム。

A time difference detection means for detecting a time difference between the execution time of the imaging operation by the imaging means and the execution time of the display operation by the display means for displaying the captured image obtained by the imaging;
2. The driving control device according to claim 1, wherein when the time difference detected by the time difference detecting means is longer than a predetermined time, the driving control device stops driving the vehicle according to a control signal transmitted from the remote control device. The vehicle steering system according to claim 4.

JP2005033038A 2005-02-09 2005-02-09 Vehicle steering system Expired - Fee Related JP4522880B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005033038A JP4522880B2 (en) 2005-02-09 2005-02-09 Vehicle steering system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005033038A JP4522880B2 (en) 2005-02-09 2005-02-09 Vehicle steering system

Publications (2)

Publication Number Publication Date
JP2006221339A true JP2006221339A (en) 2006-08-24
JP4522880B2 JP4522880B2 (en) 2010-08-11

Family

ID=36983646

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005033038A Expired - Fee Related JP4522880B2 (en) 2005-02-09 2005-02-09 Vehicle steering system

Country Status (1)

Country Link
JP (1) JP4522880B2 (en)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7880602B2 (en) 2007-03-01 2011-02-01 Fujitsu Ten Limited Image display control apparatus
EP2295281A1 (en) * 2009-09-15 2011-03-16 Valeo Schalter und Sensoren GmbH Driver assistance device for a motor vehicle and method for supporting a driver when monitoring an autonomous parking procedure of a motor vehicle
WO2012101021A1 (en) * 2011-01-27 2012-08-02 Robert Bosch Gmbh Method for automatically carrying out a driving manoeuvre
WO2016017367A1 (en) * 2014-07-30 2016-02-04 ヤンマー株式会社 Remote control apparatus
JP2017123627A (en) * 2016-01-06 2017-07-13 シャープ株式会社 Image processing apparatus, image processing system, mobile, image processing method, and image processing program
JP2018014554A (en) * 2016-07-19 2018-01-25 株式会社クボタ Work vehicle
WO2019230483A1 (en) * 2018-05-30 2019-12-05 株式会社豊田自動織機 Remote operation system for industrial vehicle
WO2020071222A1 (en) * 2018-10-05 2020-04-09 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ Information processing method, and information processing system
JP2020161039A (en) * 2019-03-28 2020-10-01 日産自動車株式会社 Display method for remote operation image and remote operation device
JP2021170786A (en) * 2019-12-06 2021-10-28 ヤンマーパワーテクノロジー株式会社 Remote control system and autonomous traveling work system
KR102384404B1 (en) * 2020-10-29 2022-04-08 주식회사 아이에이 Vehicle driving information control system based camera and method of control ling vehicle driving information based camera
JP7438017B2 (en) 2020-05-11 2024-02-26 Go株式会社 Computer program, remote control device, and remote control method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11202937A (en) * 1998-01-14 1999-07-30 Sugino Mach Ltd Omnidirectional mobile robot
JP2003195941A (en) * 2001-12-26 2003-07-11 Matsushita Electric Ind Co Ltd Method for providing service for moving mobile object
JP2004021514A (en) * 2002-06-14 2004-01-22 Matsushita Electric Ind Co Ltd Traffic information display system, pick-up image transmitter, and onboard information display device and storage medium
JP2004265046A (en) * 2003-02-28 2004-09-24 Denso Corp Information communication system and information output device
JP2004295360A (en) * 2003-03-26 2004-10-21 Denso Corp Vehicle remote operating device and vehicle remote operating method

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11202937A (en) * 1998-01-14 1999-07-30 Sugino Mach Ltd Omnidirectional mobile robot
JP2003195941A (en) * 2001-12-26 2003-07-11 Matsushita Electric Ind Co Ltd Method for providing service for moving mobile object
JP2004021514A (en) * 2002-06-14 2004-01-22 Matsushita Electric Ind Co Ltd Traffic information display system, pick-up image transmitter, and onboard information display device and storage medium
JP2004265046A (en) * 2003-02-28 2004-09-24 Denso Corp Information communication system and information output device
JP2004295360A (en) * 2003-03-26 2004-10-21 Denso Corp Vehicle remote operating device and vehicle remote operating method

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7880602B2 (en) 2007-03-01 2011-02-01 Fujitsu Ten Limited Image display control apparatus
EP2295281A1 (en) * 2009-09-15 2011-03-16 Valeo Schalter und Sensoren GmbH Driver assistance device for a motor vehicle and method for supporting a driver when monitoring an autonomous parking procedure of a motor vehicle
WO2012101021A1 (en) * 2011-01-27 2012-08-02 Robert Bosch Gmbh Method for automatically carrying out a driving manoeuvre
EP3175693A4 (en) * 2014-07-30 2017-08-09 Yanmar Co., Ltd. Remote control apparatus
US10324461B2 (en) 2014-07-30 2019-06-18 Yanmar Co., Ltd. Remote control apparatus
CN106572630A (en) * 2014-07-30 2017-04-19 洋马株式会社 Remote control apparatus
JPWO2016017367A1 (en) * 2014-07-30 2017-04-27 ヤンマー株式会社 Remote control device
WO2016017367A1 (en) * 2014-07-30 2016-02-04 ヤンマー株式会社 Remote control apparatus
CN111480407A (en) * 2014-07-30 2020-08-04 洋马动力科技有限公司 Remote operation system
CN111480407B (en) * 2014-07-30 2022-07-12 洋马动力科技有限公司 Remote operation system
KR20170037985A (en) * 2014-07-30 2017-04-05 얀마 가부시키가이샤 Remote control apparatus
KR102394962B1 (en) * 2014-07-30 2022-05-04 얀마 파워 테크놀로지 가부시키가이샤 Remote control apparatus
KR20210063448A (en) * 2014-07-30 2021-06-01 얀마 파워 테크놀로지 가부시키가이샤 Remote control apparatus
KR102257303B1 (en) * 2014-07-30 2021-05-31 얀마 파워 테크놀로지 가부시키가이샤 Remote control apparatus
CN106572630B (en) * 2014-07-30 2020-05-15 洋马株式会社 Remote operation device
KR102121554B1 (en) * 2014-07-30 2020-06-10 얀마 파워 테크놀로지 가부시키가이샤 Remote control apparatus
KR20200067947A (en) * 2014-07-30 2020-06-12 얀마 파워 테크놀로지 가부시키가이샤 Remote control apparatus
JP2017123627A (en) * 2016-01-06 2017-07-13 シャープ株式会社 Image processing apparatus, image processing system, mobile, image processing method, and image processing program
JP2018014554A (en) * 2016-07-19 2018-01-25 株式会社クボタ Work vehicle
JP2019208176A (en) * 2018-05-30 2019-12-05 株式会社豊田自動織機 Remote control system for industrial vehicle
WO2019230483A1 (en) * 2018-05-30 2019-12-05 株式会社豊田自動織機 Remote operation system for industrial vehicle
WO2020071222A1 (en) * 2018-10-05 2020-04-09 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ Information processing method, and information processing system
JP2020161039A (en) * 2019-03-28 2020-10-01 日産自動車株式会社 Display method for remote operation image and remote operation device
JP7350500B2 (en) 2019-03-28 2023-09-26 日産自動車株式会社 Display method of images for remote control and remote control device
JP2021170786A (en) * 2019-12-06 2021-10-28 ヤンマーパワーテクノロジー株式会社 Remote control system and autonomous traveling work system
JP7250849B2 (en) 2019-12-06 2023-04-03 ヤンマーパワーテクノロジー株式会社 Remote control system and autonomous working system
JP7438017B2 (en) 2020-05-11 2024-02-26 Go株式会社 Computer program, remote control device, and remote control method
KR102384404B1 (en) * 2020-10-29 2022-04-08 주식회사 아이에이 Vehicle driving information control system based camera and method of control ling vehicle driving information based camera

Also Published As

Publication number Publication date
JP4522880B2 (en) 2010-08-11

Similar Documents

Publication Publication Date Title
JP4522880B2 (en) Vehicle steering system
US11508160B2 (en) Vehicular vision system
US11125198B2 (en) Camera based vehicle start-stop feature
US8896687B2 (en) Lane departure prevention support apparatus, method of displaying a lane boundary line and program
JP6447886B2 (en) Automotive electronic mirror
EP2794353B1 (en) Vehicle rear monitoring system
WO2013015021A1 (en) Driving assistance apparatus for vehicle
CN108886602B (en) Information processing apparatus
CN102149573A (en) Display apparatus
EP2687408B1 (en) Vehicle periphery monitoring device
JP2007221200A (en) Vehicle periphery monitoring system
JP6597415B2 (en) Information processing apparatus and program
KR101394740B1 (en) Display device for vehicle and method for controlling the same
JP4566822B2 (en) Image display device for vehicle
JP2007081932A (en) Visual recognition device for vehicle periphery
US20220105941A1 (en) Vehicular contol system with enhanced vehicle passing maneuvering
JP2009147906A (en) Vehicle periphery monitoring device
JP2004051063A (en) Device for visual recognition around vehicle
JP2006218954A (en) Parking assist system for vehicle
JP4585191B2 (en) Nose view system
JP2007283862A (en) Vehicle periphery monitoring device
JP2014126918A (en) Camera module, camera system and image display method
US20220410916A1 (en) Vehicular driving assist system using forward viewing camera
JP6970910B2 (en) Mobile detection system for vehicles
JP2023032982A (en) Remote operation system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071129

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100518

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100526

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130604

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130604

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140604

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees