CN116801099A - 控制装置、控制方法以及计算机能够读取的记录介质 - Google Patents
控制装置、控制方法以及计算机能够读取的记录介质 Download PDFInfo
- Publication number
- CN116801099A CN116801099A CN202310209323.0A CN202310209323A CN116801099A CN 116801099 A CN116801099 A CN 116801099A CN 202310209323 A CN202310209323 A CN 202310209323A CN 116801099 A CN116801099 A CN 116801099A
- Authority
- CN
- China
- Prior art keywords
- data
- data amount
- remote operator
- cameras
- vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 61
- 238000004891 communication Methods 0.000 claims abstract description 97
- 230000005540 biological transmission Effects 0.000 claims abstract description 64
- 230000009467 reduction Effects 0.000 claims abstract description 27
- 230000008569 process Effects 0.000 claims description 45
- 238000010586 diagram Methods 0.000 description 20
- 230000007423 decrease Effects 0.000 description 9
- 230000003247 decreasing effect Effects 0.000 description 6
- 230000007704 transition Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000010295 mobile communication Methods 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
- G05D1/0038—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by providing the operator with simple or augmented images from one or more cameras located onboard the vehicle, e.g. tele-operation
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
- G05D1/0016—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement characterised by the operator's input device
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
- G05D1/0022—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement characterised by the communication link
-
- G—PHYSICS
- G08—SIGNALLING
- G08C—TRANSMISSION SYSTEMS FOR MEASURED VALUES, CONTROL OR SIMILAR SIGNALS
- G08C17/00—Arrangements for transmitting signals characterised by the use of a wireless electrical link
- G08C17/02—Arrangements for transmitting signals characterised by the use of a wireless electrical link using a radio link
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- General Physics & Mathematics (AREA)
- Automation & Control Theory (AREA)
- Aviation & Aerospace Engineering (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Traffic Control Systems (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
一种控制装置、控制方法以及计算机能够读取的记录介质,在由远程操作员进行的移动体的远程操作中,抑制从移动体发送的影像数据的传送延迟。移动体是远程操作员的远程操作的对象,并且具备多个摄像头。控制移动体的控制装置取得由多个摄像头分别得到的多个影像数据作为向远程操作员侧的远程操作员终端发送的发送对象数据。控制装置取得从移动体到远程操作员终端的通信的通信速度的信息。控制装置判定是否需要进行数据削减以将多个影像数据的每秒的总数据量抑制为通信速度以下。在判定为需要进行数据削减的情况下,控制装置执行以将总数据量抑制为通信速度以下的方式减少多个影像数据中的至少一个的发送数据量的数据量调整处理。
Description
技术领域
本公开涉及远程操作员对移动体的远程操作。尤其是,本公开涉及对来自作为远程操作的对象的移动体的影像数据的发送进行控制的技术。
背景技术
专利文献1公开了车载通信装置。车载通信装置对应于移动通信方式和WiFi通信方式这两者。在检测到车辆的异常的情况下,车载通信装置将表示车辆行驶状况的数值数据和图像数据向指定服务器发送。此时,车载通信装置通过移动通信方式发送数值数据,通过WiFi通信方式发送图像数据。
此外,作为与由摄像头拍摄到的图像的通信相关的技术,已知有专利文献2和专利文献3。
现有技术文献
专利文献
专利文献1:日本特开2018-120443号公报
专利文献2:日本特开2005-222307号公报
专利文献3:日本特开平10-112861号公报
发明内容
发明所要解决的课题
考虑远程操作员对移动体(例如车辆、机器人)的远程操作。在移动体的远程操作中,通过搭载于移动体的摄像头得到的影像数据被发送到远程操作员侧的远程操作员终端。此时,若通信速度降低,则影像数据的传送延迟有可能增大。影像数据的传送延迟的增大会导致远程操作员的判断、操作的延迟,成为远程操作的精度降低的原因。
本公开的目的之一在于,提供能够在远程操作员对移动体的远程操作中,抑制从移动体发送的影像数据的传送延迟的技术。
用于解决课题的技术方案
第1观点涉及控制移动体的控制装置。
移动体是远程操作员的远程操作的对象,并且具备多个摄像头。
控制装置具备1个或多个处理器。
1个或多个处理器取得由多个摄像头分别得到的多个影像数据作为向远程操作员侧的远程操作员终端发送的发送对象数据。
1个或多个处理器取得从移动体到远程操作员终端的通信的通信速度的信息。
1个或多个处理器判定是否需要进行数据削减以将多个影像数据的每秒的总数据量抑制为通信速度以下。
在判定为需要进行数据削减的情况下,1个或多个处理器执行以将总数据量抑制为通信速度以下的方式减少多个影像数据中的至少一个的发送数据量的数据量调整处理。
第2观点涉及控制移动体的控制方法。
移动体是远程操作员的远程操作的对象,并且具备多个摄像头。
控制方法包括:
取得由多个摄像头分别得到的多个影像数据作为向远程操作员侧的远程操作员终端发送的发送对象数据的处理;
取得从移动体到远程操作员终端的通信的通信速度的信息的处理;
判定是否需要进行数据削减以将多个影像数据的每秒的总数据量抑制为通信速度以下的处理;以及
在判定为需要进行数据削减的情况下,以将总数据量抑制为通信速度以下的方式减少多个影像数据中的至少一个的发送数据量的数据量调整处理。
第3观点涉及由计算机执行,对移动体进行控制的控制程序。
移动体是远程操作员的远程操作的对象,并且具备多个摄像头。
控制程序使计算机执行以下处理:
取得由多个摄像头分别得到的多个影像数据作为向远程操作员侧的远程操作员终端发送的发送对象数据的处理;
取得从移动体到远程操作员终端的通信的通信速度的信息的处理;
判定是否需要进行数据削减以将多个影像数据的每秒的总数据量抑制为通信速度以下的处理;以及
在判定为需要进行数据削减的情况下,以将总数据量抑制为通信速度以下的方式减少多个影像数据中的至少一个的发送数据量的数据量调整处理。
发明效果
根据本公开,考虑了从移动体到远程操作员终端的通信的通信速度。并且,以将多个影像数据的每秒的总数据量抑制为通信速度以下的方式进行数据量调整处理。通过该数据量调整处理,能够抑制从移动体发送的影像数据的传送延迟。由于影像数据的传送延迟被抑制,因此远程操作员的判断、操作的延迟也被抑制。即,能够抑制起因于传送延迟的远程操作的精度降低。从移动体的远程操作的安全性提高的观点出发,这是优选的。
附图说明
图1是示出本公开的实施方式的远程操作***的构成例的概略图。
图2是示出与本公开的实施方式的数据量调整处理相关的功能构成例的框图。
图3是示出与本公开的实施方式的数据量调整处理相关的处理的流程图。
图4是用于说明将本公开的实施方式的摄像头优先级考虑在内的数据量调整处理的框图。
图5是用于说明本公开的实施方式的摄像头优先级的动态设定例的概念图。
图6是用于说明将本公开的实施方式的摄像头优先级考虑在内的数据量调整处理的例子的概念图。
图7是用于说明将本公开的实施方式的摄像头优先级考虑在内的数据量调整处理的其他例的概念图。
图8是用于说明本公开的实施方式的Fix等级的设定例的概念图。
图9是示出与本公开的实施方式的Fix等级相关的功能构成例的框图。
图10是用于说明本公开的实施方式的Fix等级的转变例的概念图。
图11是示出本公开的实施方式的车辆的构成例的框图。
附图标记说明
1远程操作***
100车辆
101通信部
102影像数据取得部
103通信状态取得部
104判定部
104A等级判定部
104B等级转变调整部
105数据量调整部
105P优先级设定部
110通信装置
120传感器组
130行驶装置
150控制装置
160处理器
170存储装置
200远程操作员终端
300管理装置
C1~Cn摄像头
DIR行进方向信息
FL Fix等级
IMG图像
OPE远程操作信息
POL优先级策略信息
RES判定结果信息
S1~Sn影像数据
VCL车辆信息
具体实施方式
参照附图对本公开的实施方式进行说明。
1.远程操作***的概要
考虑移动体的远程操作(远程驾驶)。作为远程操作的对象的移动体,可例示车辆、机器人、飞行体等。车辆既可以是自动驾驶车辆,也可以是由驾驶员驾驶的车辆。作为机器人,可例示物流机器人、作业机器人等。作为飞行体,可例示飞行器、无人机等。
作为一例,在以下的说明中,考虑作为远程操作的对象的移动体是车辆的情况。在一般化的情况下,将以下的说明中的“车辆”替换为“移动体”。
图1是示出本实施方式的远程操作***1的构成例的概略图。远程操作***1包括车辆100、远程操作员终端200及管理装置300。车辆100是远程操作的对象。远程操作员终端200是远程操作员O对车辆100进行远程操作时所使用的终端装置。也可以将远程操作员终端200称为远程操作HMI(Human Machine Interface:人机接口)。管理装置300进行远程操作***1的管理。远程操作***1的管理例如包括对远程操作所需的车辆100分配远程操作员O。管理装置300能够经由通信网络与车辆100及远程操作员终端200进行通信。典型而言,管理装置300是云端上的管理服务器。管理服务器也可以由进行分散处理的多个服务器构成。
在车辆100搭载有包括摄像头C的各种传感器。摄像头C对车辆100的周围的状况进行拍摄,取得表示车辆100的周围的状况的图像IMG。车辆信息VCL是由各种传感器得到的信息,包括由摄像头C得到的图像IMG。车辆100经由管理装置300将车辆信息VCL向远程操作员终端200发送。也就是说,车辆100将车辆信息VCL向管理装置300发送,管理装置300将接收到的车辆信息VCL向远程操作员终端200转发。
远程操作员终端200接收从车辆100发送来的车辆信息VCL。远程操作员终端200向远程操作员O提示车辆信息VCL。具体而言,远程操作员终端200具备显示装置,将图像IMG等显示于显示装置。远程操作员O通过观看所显示的信息,识别车辆100的周围的状况,进行车辆100的远程操作。远程操作信息OPE是与远程操作员O进行的远程操作相关的信息。例如,远程操作信息OPE包括远程操作员O的操作量。远程操作员终端200经由管理装置300将远程操作信息OPE向车辆100发送。也就是说,远程操作员终端200将远程操作信息OPE向管理装置300发送,管理装置300将接收到的远程操作信息OPE向车辆100转发。
车辆100接收从远程操作员终端200发送来的远程操作信息OPE。车辆100按照接收到的远程操作信息OPE进行车辆行驶控制。这样一来,实现了车辆100的远程操作。
2.数据量调整处理的概要
以下,作为由搭载于车辆100的摄像头C拍摄的图像IMG,考虑影像数据(影像流数据)S。在车辆100具备多个摄像头C1~Cn(n为2以上的整数)的情况下,通过这多个摄像头C1~Cn分别得到多个影像数据S1~Sn。车辆100将多个影像数据S1~Sn向远程操作员终端200并行发送。远程操作员终端200将多个影像数据S1~Sn并行接收,将这多个影像数据S1~Sn显示于显示装置。远程操作员O通过观看所显示的影像数据S,识别车辆100的周围的状况,进行车辆100的远程操作。
当从车辆100到远程操作员终端200的通信的通信速度(通信频带)降低时,影像数据S1~Sn的传送延迟有可能增大。影像数据S1~Sn的传送延迟的增大会导致远程操作员O的判断、操作的延迟,成为远程操作的精度降低的原因。因此,期望能够抑制从车辆100发送的影像数据S1~Sn的传送延迟的技术。根据本实施方式,为了抑制从车辆100发送的影像数据S1~Sn的传送延迟,根据需要进行以下说明的“数据量调整处理”。
图2是示出与本实施方式的数据量调整处理相关的功能构成例的框图。车辆100包括通信部101、影像数据取得部102、通信状态取得部103、判定部104以及数据量调整部105作为功能块。
通信部101经由管理装置300与远程操作员终端200进行通信。
影像数据取得部102取得由搭载于车辆100的多个摄像头C1~Cn分别得到的多个影像数据(影像流数据)S1~Sn。多个影像数据S1~Sn是被从车辆100向远程操作员终端200并行发送的发送对象数据。
通信状态取得部103对通信部101与远程操作员终端200的通信进行监视。并且,通信状态取得部103基于通信部101与远程操作员终端200的通信结果,取得与远程操作员终端200的通信的通信速度(通信频带)的信息。尤其是,通信状态取得部103取得从车辆100到远程操作员终端200的通信的通信速度Z的信息。此处的通信速度Z例如是吞吐量。例如,通信状态取得部103能够基于向远程操作员终端200发送的发送数据量和来自远程操作员终端200的反馈,测定通信速度Z(吞吐量)。另外,作为通信速度、吞吐量的测定方法提出过各种方法,在本实施方式中其推定方法没有特别限定。
通信速度Z随时间而变动。在通信速度Z降低了的状况下,影像数据S1~Sn的传送延迟有可能增大。尤其是,当通信速度Z低于多个影像数据S1~Sn的每秒的总数据量Y时,传送延迟会增大。
判定部104对多个影像数据S1~Sn的每秒的总数据量Y是否超过了通信速度Z进行判定。换言之,判定部104判定是否需要进行数据削减以将多个影像数据S1~Sn的每秒的总数据量Y抑制为通信速度Z以下。
例如,多个影像数据S1~Sn的每秒的总数据量Y的默认值Y0作为已知信息被给出。各影像数据Si(i=1~n)的每秒的数据量的默认值Y0_i按“每帧的数据量的默认值F0_i”ד帧率的默认值R0_i”被给出。关于多个影像数据S1~Sn的默认值Y0_1~Y0_n的总和为多个影像数据S1~Sn的每秒的总数据量Y的默认值Y0。该总数据量Y的默认值Y0从通信速度Z起的数据超过量X由下式(1)表示。
式(1):X[bps]=Y0[bps]-Z[bps]
判定部104将总数据量Y的默认值Y0与变动的通信速度Z进行对比。并且,在总数据量Y的默认值Y0超过了通信速度Z的情况下,判定部104判定为需要进行数据削减。换言之,在变动的通信速度Z低于总数据量Y的默认值Y0的情况下,判定部104判定为需要进行数据削减。进一步换言之,在由上述式(1)表示的数据超过量X为正值的情况下,判定部104判定为需要进行数据削减。
判定部104输出表示判定结果的判定结果信息RES。判定结果信息RES也可以包括由上述式(1)表示的数据超过量X。
数据量调整部105接收多个影像数据S1~Sn和判定结果信息RES。在判定结果信息RES表示需要进行数据削减的情况下,数据量调整部105进行数据量调整处理。具体而言,数据量调整部105以将多个影像数据S1~Sn的每秒的总数据量Y抑制为通信速度Z以下的方式,减少多个影像数据S1~Sn中的至少一个的发送数据量。此时的发送数据量的总减少量为由上述式(1)表示的数据超过量X以上。
作为减少某个影像数据Sj(j=1~n中的任一个)的发送数据量的方法,可以考虑各种方法。例如,将影像数据Sj的每帧的数据量设定为比默认值F0_j小的值。例如,将影像数据Sj的分辨率(像素数)设定为比默认值低的值。例如,在影像数据Sj的分辨率的默认值为1080p的情况下,使分辨率降低至360p。由此,影像数据Sj的发送数据量成为约1/9。
为了进一步减少影像数据Sj的发送数据量,也可以停止影像数据Sj的发送。也就是说,也可以将影像数据Sj的发送数据量设定为0。
通信部101将包括多个影像数据S1~Sn的车辆信息VCL向远程操作员终端200发送。另外,在进行了数据量调整处理的情况下,某个影像数据Sj的发送数据量也有可能成为0。
图3是概略示出与数据量调整处理相关的处理的流程图。
在步骤S102中,车辆100取得由多个摄像头C1~Cn分别得到的多个影像数据S1~Sn作为发送对象数据。
在步骤S103中,车辆100基于与远程操作员终端200的通信结果,取得从车辆100到远程操作员终端200的通信的通信速度Z的信息。
在步骤S104中,车辆100判定是否需要进行数据削减以将多个影像数据S1~Sn的每秒的总数据量Y抑制为通信速度Z以下。在需要进行数据削减的情况下(步骤S104:是),处理进入步骤S105。另一方面,在不需要进行数据削减的情况下(步骤S104:否),处理进入步骤S106。
在步骤S105中,车辆100执行数据量调整处理。具体而言,以将多个影像数据S1~Sn的每秒的总数据量Y抑制为通信速度Z以下的方式,减少多个影像数据S1~Sn中的至少一个的发送数据量。
在步骤S106中,车辆100将包括多个影像数据S1~Sn的车辆信息VCL向远程操作员终端200发送。
如以上所说明,根据本实施方式,考虑从车辆100到远程操作员终端200的通信的通信速度Z。并且,以将多个影像数据S1~Sn的每秒的总数据量Y抑制为通信速度Z以下的方式进行数据量调整处理。通过该数据量调整处理,能够抑制从车辆100发送的影像数据S1~Sn的传送延迟。由于影像数据S1~Sn的传送延迟被抑制,因此,远程操作员O的判断、操作的延迟也得到抑制。即,根据本实施方式,能够抑制起因于传送延迟的远程操作的精度降低。从车辆100的远程操作的安全性提高的观点出发,这是优选的。
3.将摄像头优先级考虑在内的数据量调整处理
在数据量调整处理中也可以考虑摄像头C1~Cn的优先级。具体而言,也可以以使由优先级更高的摄像头得到的影像数据S的发送数据量更多的方式,进行数据量调整处理。
图4是用于说明将摄像头C1~Cn的优先级考虑在内的数据量调整处理的框图。数据量调整部105包括优先级设定部105P。优先级设定部105P设定多个摄像头C1~Cn的优先级。更详细而言,优先级设定部105P保持有表示多个摄像头C1~Cn的优先级的设定策略的优先级策略信息POL。优先级设定部105P基于优先级策略信息POL,设定多个摄像头C1~Cn的优先级。并且,数据量调整部105以使由优先级更高的摄像头C得到的影像数据S的发送数据量更多的方式,执行数据量调整处理。也就是说,数据量调整部105在抑制影像数据S1~Sn的总数据量Y的同时,对由优先级高的摄像头C得到的影像数据S尽可能确保发送数据量。
一般化如下。第1摄像头Ci的优先级比第2摄像头Cj的优先级高,第2摄像头Cj的优先级比第1摄像头Ci的优先级低。第1影像数据Si是由优先级高的第1摄像头Ci得到的影像数据S。第2影像数据Sj是由优先级低的第2摄像头Cj得到的影像数据S。数据量调整部105以使第1影像数据Si的发送数据量比第2影像数据Sj的发送数据量多的方式,执行数据量调整处理。例如,数据量调整部105不减少第1影像数据Si的发送数据量,而是使第2影像数据Sj的分辨率比默认值低。作为其他例子,数据量调整部105发送第1影像数据Si,停止第2影像数据Sj的发送。这样,数据量调整部105以使由优先级高的第1摄像头Ci得到的第1影像数据Si的发送数据量更多的方式,执行数据量调整处理。
多个摄像头C1~Cn的优先级既可以是固定的,也可以动态变更。
图5是用于说明摄像头C1~Cn的优先级的动态设定例的概念图。在图5所示的例子中,车辆100具备前方摄像头C1、左前方摄像头C2、右前方摄像头C3以及后方摄像头C4。摄像头C1~C4的优先级取决于车辆100的行进方向。也就是说,具有距行进方向较近的视野方向的摄像头C的优先级被设定为比具有距行进方向较远的视野方向的摄像头C的优先级高。图5中的带圈数字表示优先级。
具体而言,在车辆100直行的情况下,车辆100的行进方向为前方向。在该情况下,前方摄像头C1的优先级最高,后方摄像头C4的优先级最低。左前方摄像头C2和右前方摄像头C3的优先级比前方摄像头C1低且比后方摄像头C4高。
在车辆100左转的情况下,车辆100的行进方向为左方向。在该情况下,左前方摄像头C2的优先级比右前方摄像头C3的优先级高。前方摄像头C1的优先级比左前方摄像头C2低且比右前方摄像头C3高。后方摄像头C4的优先级最低。
在车辆100右转的情况下,车辆100的行进方向为右方向。在该情况下,右前方摄像头C3的优先级比左前方摄像头C2的优先级高。前方摄像头C1的优先级比右前方摄像头C3低且比左前方摄像头C2高。后方摄像头C4的优先级最低。
图6是用于说明将摄像头C1~C4的优先级考虑在内的数据量调整处理的例子的概念图。
在车辆100直行的情况下,数据量调整部105将由优先级最高的前方摄像头C1得到的影像数据S1的分辨率维持为默认值。也就是说,数据量调整部105不降低由优先级最高的前方摄像头C1得到的影像数据S1的发送数据量而是进行维持。另一方面,数据量调整部105使由优先级较低的摄像头C2~C4得到的影像数据S2~S4的分辨率低于默认值。例如,分辨率从作为默认值的1080p降低到360p。
在车辆100左转的情况下,数据量调整部105将由优先级较高的摄像头C1、C2得到的影像数据S1、S2的分辨率维持为默认值。也就是说,数据量调整部105不降低由优先级较高的摄像头C1、C2得到的影像数据S1、S2的发送数据量而是进行维持。另一方面,数据量调整部105使由优先级较低的右前方摄像头C3得到的影像数据S3的分辨率低于默认值。而且,数据量调整部105停止由优先级最低的后方摄像头C4得到的影像数据S4的发送。
在车辆100右转的情况下,数据量调整部105将由优先级较高的摄像头C1、C3得到的影像数据S1、S3的分辨率维持为默认值。也就是说,数据量调整部105不降低由优先级较高的摄像头C1、C3得到的影像数据S1、S3的发送数据量而是进行维持。另一方面,数据量调整部105使由优先级较低的左前方摄像头C2得到的影像数据S2的分辨率低于默认值。而且,数据量调整部105停止由优先级最低的后方摄像头C4得到的影像数据S4的发送。
图7是用于说明将摄像头C1~C4的优先级考虑在内的数据量调整处理的其他例子的概念图。在图7所示的例子中,数据削减量比图6所示的例子的情况多。
在车辆100直行的情况下,数据量调整部105将由优先级最高的摄像头C1得到的影像数据S1的分辨率维持为默认值。也就是说,数据量调整部105不降低由优先级最高的前方摄像头C1得到的影像数据S1的发送数据量而是进行维持。另一方面,数据量调整部105停止由优先级较低的摄像头C2~C4得到的影像数据S2~S4的发送。
在车辆100左转的情况下,数据量调整部105使由优先级较高的摄像头C1、C2得到的影像数据S1、S2的分辨率低于默认值。而且,数据量调整部105停止由优先级较低的摄像头C3、C4得到的影像数据S3、S4的发送。
在车辆100右转的情况下,数据量调整部105使由优先级较高的摄像头C1、C3得到的影像数据S1、S3的分辨率低于默认值。而且,数据量调整部105停止由优先级较低的摄像头C2、C4得到的影像数据S2、S4的发送。
车辆100的行进方向能够根据车辆100的舵角、方向指示灯状态、挡位等车辆状态信息而得到。或者,车辆100的行进方向也可以基于车辆100的目标路线来取得。行进方向信息DIR是表示车辆100的行进方向的信息。优先级策略信息POL表示如图5中所例示那样的优先级的动态设定策略。优先级设定部105P取得行进方向信息DIR,基于行进方向信息DIR和优先级策略信息POL来设定多个摄像头C1~Cn的优先级(参照图4)。然后,数据量调整部105考虑所设定的优先级而执行数据量调整处理。
这样,以使由优先级更高的摄像头C得到的影像数据S的发送数据量更多的方式,执行数据量调整处理。也就是说,能够在抑制影像数据S1~Sn的总数据量Y的同时,对由优先级高的摄像头C得到的影像数据S尽可能确保发送数据量。即,能够在尽量确保由远程操作员O进行的车辆100的远程操作的精度的同时,抑制影像数据S1~Sn的传送延迟。
4.基于FIX等级的数据量调整处理
如上所述,多个影像数据S1~Sn的数据超过量X由式(1)表示。判定部104按照式(1)算出数据超过量X。数据超过量X越增加,则在数据量调整处理中应削减的发送数据量也越增加。在此,应削减的发送数据量、即数据量调整处理的内容也可以阶段性地切换。为此,引入“Fix等级FL”这一概念。
图8是用于说明Fix等级的设定例的概念图。在数据超过量X为正值的情况下,通信速度Z降低,数据量调整处理的必要性高。另一方面,在数据超过量X为负值的情况下,通信速度Z高,数据量调整处理的必要性低。从这样的观点出发,数据超过量X被分类为多个Fix等级FL。
例如,考虑与数据超过量X相关的3个阈值X0、XN、XP。阈值XN为负值,阈值XP为正值。阈值X0比XN大且比XP小(XP>X0>XN)。阈值X0也可以是零。在数据超过量X处于XN~X0的范围的情况下,Fix等级FL被设定为默认值“0”。在数据超过量X处于X0~XP的范围的情况下,Fix等级FL被设定为“-1”。在数据超过量X为XP以上的情况下,Fix等级FL被设定为“-2”。另一方面,在数据超过量X为XN以下的情况下,Fix等级FL被设定为“+1”。
在Fix等级FL为默认值“0”的情况下,不进行数据量调整处理。在Fix等级FL为“-1”或“-2”的情况下,进行数据量调整处理。尤其是,Fix等级FL为“-2”的情况下的数据削减量被设定为比Fix等级FL为“-1”的情况多。例如,在Fix等级FL为“-1”的情况下进行图6所示那样的数据量调整处理,在Fix等级FL为“-2”的情况下进行图7所示那样的数据量调整处理。这样,数据量调整处理的内容能够根据Fix等级FL而阶段性地切换。
图9是示出与Fix等级FL相关的功能构成例的框图。判定部104包括等级判定部104A。等级判定部104A判定数据超过量X属于多个Fix等级FL中的哪一个。表示判定部104的判定结果的判定结果信息RES包括数据超过量X所属的Fix等级FL。
数据量调整部105根据数据超过量X所属的Fix等级FL来切换数据量调整处理的内容。例如,在Fix等级FL为“-1”的情况下,数据量调整部105进行图6所示那样的数据量调整处理。在Fix等级FL为“-2”的情况下,数据量调整部105进行图7所示那样的数据量调整处理。
另外,在Fix等级为“+1”的情况下,通信速度Z具有相当大的余裕。因此,数据量调整部105也可以使多个影像数据S1~Sn中的至少一个的分辨率与默认值相比有所增加。例如,数据量调整部105使由优先级最高的摄像头C得到的影像数据S的分辨率与默认值相比所有增加。由此,影像数据S的视认性进一步提高。
判定部104也可以还包括等级转变调整部104B。等级转变调整部104B在数据超过量X所属的Fix等级FL发生转变(变化)时,调整Fix等级FL的斜率(变化率)。
图10是用于说明Fix等级FL的转变例的概念图。在第1例中,Fix等级FL大幅减少。在该情况下,考虑安全性,等级转变调整部104B使Fix等级FL立即减少。
在第2例中,Fix等级FL的减少幅度较小。在该情况下,等级转变调整部104B也可以使Fix等级FL缓慢地减少。在Fix等级FL缓慢地减少的情况下,影像数据S的分辨率也缓慢地降低。
在第3例中,Fix等级FL增加。当影像数据S的分辨率急剧提高时,远程操作员O也有可能会感到违和感。因此,等级转变调整部104B也可以使Fix等级FL缓慢地增加。在Fix等级FL缓慢地增加的情况下,影像数据S的分辨率也缓慢地增加。
这样,数据量调整处理的内容根据Fix等级FL而切换。由于数据量调整处理的内容被预先设定,因此能够有效地进行数据量调整处理。
5.车辆的例子
5-1.构成例
图11是示出车辆100的构成例的框图。车辆100具备通信装置110、传感器组120、行驶装置130以及控制装置150。
通信装置110与车辆100的外部进行通信。例如,通信装置110与远程操作员终端200、管理装置300进行通信。该通信装置110相当于图2所示的通信部101。
传感器组120包括识别传感器、车辆状态传感器、位置传感器等。识别传感器对车辆100的周边的状况进行识别(检测)。作为识别传感器,可例示摄像头C(C1~Cn)、LIDAR(Laser Imaging Detection and Ranging:激光成像探测或测距)、雷达等。车辆状态传感器检测车辆100的状态。车辆状态传感器包括速度传感器、加速度传感器、偏航率传感器、舵角传感器等。位置传感器检测车辆100的位置和方位。例如,位置传感器包括GNSS(GlobalNavigation Satellite System:全球定位***)。
行驶装置130包括操舵装置、驱动装置以及制动装置。操舵装置使车轮转舵。例如,操舵装置包括动力转向(EPS:Electric Power Steering)装置。驱动装置是产生驱动力的动力源。作为驱动装置,可例示发动机、电动机、轮内电动机等。制动装置产生制动力。
控制装置150是控制车辆100的计算机。控制装置150包括1个或多个处理器160(以下,简单称为处理器160)和1个或多个存储装置170(以下,简单称为存储装置170)。处理器160执行各种处理。例如,处理器160包括CPU(Central Processing Unit:中央处理单元)。存储装置170保存由处理器160进行的处理所需的各种信息。作为存储装置170,可例示易失性存储器、非易失性存储器、HDD(Hard Disk Drive:硬盘驱动器)、SSD(Solid StateDrive:固态驱动器)等。控制装置150也可以包括1个或多个ECU(Electronic ControlUnit:电子控制单元)。
车辆控制程序PROG1是由处理器160执行的计算机程序。通过处理器160执行车辆控制程序PROG1,从而实现控制装置150的功能。车辆控制程序PROG1保存于存储装置170。或者,车辆控制程序PROG1也可以被记录于计算机能够读取的记录介质。
5-2.驾驶环境信息
控制装置150使用传感器组120,取得表示车辆100的驾驶环境的驾驶环境信息ENV。驾驶环境信息ENV保存于存储装置170。
驾驶环境信息ENV包括表示识别传感器的识别结果的周边状况信息。例如,周边状况信息包括由摄像头C拍摄的图像IMG(影像数据S1~Sn)。周边状况信息也可以包括与车辆100的周边的物体相关的物体信息。作为车辆100的周边的物体,可例示行人、其他车辆(先行车辆、停止车辆等)、白线、信号、标识、路侧构造物等。物体信息表示物体相对于车辆100的相对位置和相对速度。
另外,驾驶环境信息ENV包括表示由车辆状态传感器检测的车辆状态的车辆状态信息。
驾驶环境信息ENV还包括表示车辆100的位置和方位的车辆位置信息。车辆位置信息能够通过位置传感器而得到。也可以通过使用了地图信息和周边状况信息(物体信息)的自身位置推定处理(Localization),来取得高精度的车辆位置信息。
5-3.车辆行驶控制
控制装置150执行控制车辆100的行驶的车辆行驶控制。车辆行驶控制包括操舵控制、驱动控制以及制动控制。控制装置150通过控制行驶装置130(操舵装置、驱动装置以及制动装置)来执行车辆行驶控制。
控制装置150也可以基于驾驶环境信息ENV来进行自动驾驶控制。更详细而言,控制装置150基于驾驶环境信息ENV,生成车辆100的行驶计划。而且,控制装置150基于驾驶环境信息ENV,生成车辆100按照行驶计划进行行驶所需的目标轨迹。目标轨迹包括目标位置和目标速度。并且,控制装置150以使车辆100跟随目标轨迹的方式进行车辆行驶控制。
5-4.与远程操作相关的处理
以下,对进行车辆100的远程操作的情况进行说明。控制装置150经由通信装置110,与远程操作员终端200进行通信。
控制装置150将车辆信息VCL向远程操作员终端200发送。车辆信息VCL是远程操作员O进行远程操作所需的信息,包括上述的驾驶环境信息ENV的至少一部分。例如,车辆信息VCL包括周边状况信息(尤其是图像IMG)。车辆信息VCL也可以还包括车辆状态信息、车辆位置信息。
另外,控制装置150从远程操作员终端200接收远程操作信息OPE。远程操作信息OPE是与远程操作员O进行的远程操作相关的信息。例如,远程操作信息OPE包括远程操作员O的操作量。控制装置150按照接收到的远程操作信息OPE进行车辆行驶控制。
而且,控制装置150具备上述的影像数据取得部102、通信状态取得部103、判定部104以及数据量调整部105的功能(参照图2、图4、图8)。优先级策略信息POL被预先生成并保存于存储装置170。行进方向信息DIR能够根据车辆状态信息(例如:舵角、方向指示灯状态、挡位)而得到。行进方向信息DIR也可以基于车辆100的目标路线来取得。控制装置150执行图3所示的处理,根据需要执行数据量调整处理。
Claims (9)
1.一种控制装置,是对移动体进行控制的控制装置,所述移动体是远程操作员的远程操作的对象,并且具备多个摄像头,所述控制装置具备:
1个或多个处理器,
所述1个或多个处理器构成为执行以下处理:
取得由所述多个摄像头分别得到的多个影像数据作为向所述远程操作员侧的远程操作员终端发送的发送对象数据的处理;
取得从所述移动体向所述远程操作员终端的通信的通信速度的信息的处理;
判定是否需要进行数据削减以将所述多个影像数据的每秒的总数据量抑制为所述通信速度以下的处理;以及
在判定为需要进行所述数据削减的情况下,以将所述总数据量抑制为所述通信速度以下的方式减少所述多个影像数据中的至少一个的发送数据量的数据量调整处理。
2.根据权利要求1所述的控制装置,还具备:
1个或多个存储装置,其保存表示所述多个摄像头的优先级的设定策略的优先级策略信息,
所述1个或多个处理器基于所述优先级策略信息,以使由所述优先级更高的摄像头得到的影像数据的所述发送数据量更多的方式执行所述数据量调整处理。
3.根据权利要求2所述的控制装置,
所述多个摄像头包括第1摄像头、和优先级比所述第1摄像头低的第2摄像头,
所述多个影像数据包括由所述第1摄像头得到的第1影像数据、和由所述第2摄像头得到的第2影像数据,
在所述数据量调整处理中,所述1个或多个处理器不减少所述第1影像数据的所述发送数据量地使所述第2影像数据的分辨率比默认值低。
4.根据权利要求2所述的控制装置,
所述多个摄像头包括第1摄像头、和优先级比所述第1摄像头低的第2摄像头,
所述多个影像数据包括由所述第1摄像头得到的第1影像数据、和由所述第2摄像头得到的第2影像数据,
在所述数据量调整处理中,所述1个或多个处理器发送所述第1影像数据,停止所述第2影像数据的发送。
5.根据权利要求2~4中任一项所述的控制装置,
所述多个摄像头的所述优先级取决于所述移动体的行进方向,
具有距所述行进方向较近的视野方向的摄像头的所述优先级比具有距所述行进方向较远的视野方向的摄像头的所述优先级高,
在所述数据量调整处理中,所述1个或多个处理器取得包括所述移动体的所述行进方向的信息,基于所述行进方向和所述优先级策略信息来设定所述多个摄像头的所述优先级。
6.根据权利要求1~5中任一项所述的控制装置,
所述1个或多个处理器,
将所述多个影像数据的每秒的所述总数据量的默认值与所述通信速度进行对比,
在所述总数据量的所述默认值超过了所述通信速度的情况下,判定为需要进行所述数据削减。
7.根据权利要求6所述的控制装置,
所述1个或多个处理器,
算出所述多个影像数据的每秒的所述总数据量的所述默认值从所述通信速度的数据超过量,
判定所述数据超过量属于多个等级中的哪一个,
根据所述数据超过量所属的等级来切换所述数据量调整处理的内容。
8.一种控制方法,是对移动体进行控制的控制方法,所述移动体是远程操作员的远程操作的对象,并且具备多个摄像头,所述控制方法包括:
取得由所述多个摄像头分别得到的多个影像数据作为向所述远程操作员侧的远程操作员终端发送的发送对象数据的处理;
取得从所述移动体向所述远程操作员终端的通信的通信速度的信息的处理;
判定是否需要进行数据削减以将所述多个影像数据的每秒的总数据量抑制为所述通信速度以下的处理;以及
在判定为需要进行所述数据削减的情况下,以将所述总数据量抑制为所述通信速度以下的方式减少所述多个影像数据中的至少一个影像数据的发送数据量的数据量调整处理。
9.一种计算机能够读取的记录介质,记录有对移动体进行控制的控制程序,
所述移动体是远程操作员的远程操作的对象,并且具备多个摄像头,
所述控制程序由计算机执行,所述控制程序使所述计算机执行以下处理:
取得由所述多个摄像头分别得到的多个影像数据作为向所述远程操作员侧的远程操作员终端发送的发送对象数据的处理;
取得从所述移动体向所述远程操作员终端的通信的通信速度的信息的处理;
判定是否需要进行数据削减以将所述多个影像数据的每秒的总数据量抑制为所述通信速度以下的处理;以及
在判定为需要进行所述数据削减的情况下,以将所述总数据量抑制为所述通信速度以下的方式减少所述多个影像数据中的至少一个的发送数据量的数据量调整处理。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022-039383 | 2022-03-14 | ||
JP2022039383A JP2023134050A (ja) | 2022-03-14 | 2022-03-14 | 制御装置、制御方法、及び制御プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116801099A true CN116801099A (zh) | 2023-09-22 |
Family
ID=87931716
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310209323.0A Pending CN116801099A (zh) | 2022-03-14 | 2023-03-07 | 控制装置、控制方法以及计算机能够读取的记录介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230288926A1 (zh) |
JP (1) | JP2023134050A (zh) |
CN (1) | CN116801099A (zh) |
-
2022
- 2022-03-14 JP JP2022039383A patent/JP2023134050A/ja active Pending
-
2023
- 2023-01-17 US US18/155,149 patent/US20230288926A1/en active Pending
- 2023-03-07 CN CN202310209323.0A patent/CN116801099A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
US20230288926A1 (en) | 2023-09-14 |
JP2023134050A (ja) | 2023-09-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7177862B2 (ja) | 位置決定装置 | |
JP7048353B2 (ja) | 走行制御装置、走行制御方法およびプログラム | |
US10406917B2 (en) | Systems and methods for vehicle cruise control smoothness adaptation | |
US20130049988A1 (en) | Device and method for traffic sign recognition | |
US9610942B2 (en) | Device and method for operating a vehicle | |
CN101970273A (zh) | 车辆行驶辅助装置、车辆、车辆行驶辅助程序 | |
US12024179B2 (en) | Ascertaining an input variable of a vehicle actuator using a model-based predictive control | |
CN112660153B (zh) | 车辆控制*** | |
US11548530B2 (en) | Vehicle control system | |
US20200307625A1 (en) | Automated driving system | |
US20210179115A1 (en) | Method and apparatus for monitoring a yaw sensor | |
CN113705272A (zh) | 可行驶区域检测方法、装置、设备及存储介质 | |
CN116801099A (zh) | 控制装置、控制方法以及计算机能够读取的记录介质 | |
US20230176572A1 (en) | Remote operation system and remote operation control method | |
US20230168671A1 (en) | Control method, control device, and storage medium | |
US20240231369A9 (en) | Remote operation control method, remote operation system, and moving body | |
GB2579194A (en) | Torque modification request | |
US20230398865A1 (en) | Remote driving system and control method for vehicle | |
US20220390937A1 (en) | Remote traveling vehicle, remote traveling system, and meander traveling suppression method | |
US20240096143A1 (en) | Information processing device, vehicle, and information processing method | |
US12047710B2 (en) | Remote monitoring device, remote monitoring system, and remote monitoring method | |
US11975719B2 (en) | Traveling control apparatus | |
US20230376027A1 (en) | Remote operation system and remote operation support method | |
US20230251649A1 (en) | Remote operation system, remote operation control method, and remote operator terminal | |
US20240208529A1 (en) | Sensor data transfer with self adaptive configurations for autonomous driving vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |