CN112640445A - 影像生成装置及影像生成方法 - Google Patents
影像生成装置及影像生成方法 Download PDFInfo
- Publication number
- CN112640445A CN112640445A CN201980056677.8A CN201980056677A CN112640445A CN 112640445 A CN112640445 A CN 112640445A CN 201980056677 A CN201980056677 A CN 201980056677A CN 112640445 A CN112640445 A CN 112640445A
- Authority
- CN
- China
- Prior art keywords
- information
- display
- target object
- image
- detailed information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G3/00—Traffic control systems for marine craft
- G08G3/02—Anti-collision systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/695—Control of camera direction for changing a field of view, e.g. pan, tilt or based on tracking of objects
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B63—SHIPS OR OTHER WATERBORNE VESSELS; RELATED EQUIPMENT
- B63B—SHIPS OR OTHER WATERBORNE VESSELS; EQUIPMENT FOR SHIPPING
- B63B49/00—Arrangements of nautical instruments or navigational aids
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
- G06T2219/004—Annotating, labelling
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Ocean & Marine Engineering (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Traffic Control Systems (AREA)
- Navigation (AREA)
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Processing Or Creating Images (AREA)
Abstract
影像生成装置(1)具备设置于船舶(4)上的摄像头(3),用于获取与物标有关的物标信息的船舶设备,在由摄像头(3)拍摄的拍摄影像上生成显示有船舶设备获取的物标信息的AR影像的AR影像生成部(20),将用于用户选择物标的标记与AR影像中的物标的显示位置对应移动地显示的标记显示手段,为了用于确定标记被选择了的确定区域不重叠移动至少一个显示位置的标记移动手段。
Description
技术领域
本发明涉及生成物标影像的影像生成装置。
背景技术
已公开一种对来自摄像头的图像流进行影像配准的影像生成装置。例如,存在一种影像生成装置,其接收船舶的摄像头拍摄的流图像数据,获取船舶周围物标(其他船等)的位置,后生成显示于显示屏的影像。(参考专利文件1)。
但是,船舶航行,需要获取关于船舶周围的物标(例如,水上移动体)的各种信息。因此,如果将航行所需的所有信息简单地叠加在船舶摄像头拍摄的影像上并显示在显示屏上,则所显示的信息变得难以理解。因此,这种影像的效用性降低。
【先行技术文件】
【专利文件】
【专利文件1】美国专利申请公开第2015/0350552号说明书。
发明内容
本发明的目的在于提供一种在舶舶拍摄的影像上显示信息,以提高影像作用性的影像生成装置。
根据本发明的观点的影像生成装置包括:设置于水上移动体的拍摄手段;获取与物标有关的物标信息的物标信息获取手段;生成使通过所述物标信息获取手段获取的所述物标信息显示于通过所述拍摄手段拍摄的拍摄影像上的增强影像的增强影像生成手段;使用户选择所述物标用标记对应所述增强影像中所述物标的显示位置移动地显示的显示标记手段;为了使被选择了的所述标记的确定区域不重叠,移动所述标记的至少一个显示位置的标记移动装置。
附图说明
图1为根据本发明实施例的影像生成装置的结构框架图。
图2是根据实施例的船舶的侧面的侧视图。
图3是根据实施例的船舶的周围情况的示例的概念图。
图4是根据实施例的三维虚拟空间的概念图。
图5是根据实施例的摄像头拍摄的影像示意图。
图6是根据实施例的从数据合成部输出的AR影像的示意图。
图7是在图4的状态下船舶在俯仰方向和侧倾方向上摆动时的概念图。
图8是在图7的状态下的AR影像示意图。
图9是根据本实施例的AR影像上显示方位、刻度信息的示意图。
图10是根据本实施例的AR影像上显示方位、随船体倾斜的刻度信息的示意图。
图11是根据本实施例的AR影像上显示详细信息示意图。
图12是根据本实施例的AR影像上显示详细信息的过程的简要流程图。
图13是根据本实施例的AR影像上的基本的标记显示方法示意图。
图14是根据本实施例的连接至第1水上移动体的标记的对应线长度变化的示例曲线图。
图15是根据本实施例的AR影像上显示主信息的过程的流程图。
图16是根据本实施例的AR影像上设置有用于显示主信息的4个显示栏的示意图。
图17是在图11所示的状态下经过船舶4时间后的AR影像示意图。
具体实施方式
实施例
图1是根据本发明实施例的影像生成装置1的结构框架图。图2是根据本实施例的船舶4的侧面侧视图。附图中的相同部分由相同的附图标记表示,并且适当省略重复的描述。
影像生成装置1安装在在水上移动的水上移动体船舶4上。船舶4只要可以在诸如大海、湖泊或河流等的水上航行,可以是任何水上移动体。影像生成装置1通过在由摄像头(摄影装置)3拍摄的影像上显示详细信息,来生成增强船舶4的周围状况并显示的增强现实(AR)影像。在下文中,将以AR影像进行描述,但是只要拍摄的影像附加有信息可以是任何影像。
显示屏2显示由影像生成装置1生成的AR影像。例如,显示屏2作为操纵船舶4的操作者参考的船舶操纵支持装置而设置。显示屏2可以是由船舶操纵助手携带的用于监视船舶4周围情况的便携式计算机显示屏,供乘客在船舶4的机舱中观看的显示屏,或由乘客佩戴的可穿戴终端显示屏。
下面,将描述连接到影像生成装置1的各种设备。图2是根据本实施例的设置有船舶4的各种设备的侧视图。
摄像头3是拍摄船舶4周围的广角摄像头。摄像头3具有实时输出功能,实时生成作为拍像结果的运动图像数据(影像数据或流数据等)后输出至影像生成装置1。摄像头3安装在船舶4上并使得拍摄方向相对于船体水平向前。摄像头3包括执行诸如平移或倾斜之类的旋转操作的旋转机构。摄像头3基于影像生成装置1输入的指示旋转操作的信号,以船舶4的船体为基准可以在预定角度范围内改变拍摄方向。船舶4的高度和姿势根据波浪等自然环境而变化。随之,摄像头3的高度和姿势(拍摄方向)也发生三维变化。
除了摄像头3之外,影像生成装置1还与作为船舶设备的GNSS(全球导航卫星***)罗盘5,角速度传感器6,GNSS接收机7,加速度传感器8,AIS(自动识别***)接收机9以及ECDIS(电子海图显示和信息***)10,绘图仪11,雷达12和声纳13相连。船舶设备是详细信息的来源。GNSS罗盘5包含角速度传感器6,GNSS接收机7和加速度传感器8。角速度传感器6,GNSS接收机7和加速度传感器8的全部或一部分可以独立于GNSS罗盘5设置。此外,船舶设备不限于在此描述的设备,可以是任何设备。
GNSS罗盘5具有方位传感器和姿势传感器的功能。GNSS罗盘5包括固定于船舶4的多个GNSS天线(定位天线)。GNSS罗盘5基于从定位卫星接收到的电波来计算各GNSS天线的位置关系。特别地,GNSS罗盘5基于各个GNSS天线接收的电波的载波相位的相位差来获得GNSS天线的位置关系。可以将已知的处理方法应用于获取GNSS天线的位置关系。由此,GNSS罗盘5获取船舶4的船首方位。
GNSS罗盘5可获取船舶4的三维姿势。具体地,GNSS罗盘5不仅检测船首方向(即,船舶4的偏航角),而且还检测船舶4的侧倾角和俯仰角。由GNSS罗盘5获取的船舶4的姿势信息输出到姿势获取部25和其他船舶设备。
角速度传感器6例如由振动陀螺仪传感器构成。角速度传感器6以比GNSS罗盘5检测姿势信息的检测间隔(例如1秒)短的周期检测船舶4的偏航角速度,侧倾角速度和俯仰角速度。通过组合使用由GNSS罗盘5检测到的角度和由角速度传感器6检测到的角速度的积分值,可以较仅使用GNSS罗盘5下的时间间隔更短的时间间隔获取船舶4的姿势。此外,当来自GNSS定位卫星的无线电波被诸如桥梁的障碍物阻挡,GNSS罗盘5无法检测到姿势时,角速度传感器6发挥获取姿势信息的替代手段作用。
GNSS接收机7基于GNSS天线从定位卫星接收的无线电波来确定船舶4的位置。船舶4的位置例如是GNSS天线的纬度,经度和高度。GNSS接收机7将获得的位置信息输出到位置获取部24及其他船舶设备。
加速度传感器8例如是静电电容检测型传感器。其以较GNSS接收机7检测位置信息的检测间隔(例如1秒)更短的周期检测船舶4的偏航轴,侧倾轴和俯仰轴上的加速度。通过组合使用由GNSS接收机7检测到的位置信息和由加速度传感器8检测到的加速度的双重积分值,可以较仅使用GNSS接收机7时的时间间隔更短的时间间隔获取船舶4的位置。此外,当来自GNSS定位卫星的无线电波被阻挡,GNSS接收机7无法检测到位置时,加速度传感器8用作获取位置信息的替代手段。
AIS接收机9是用于接收从其他船舶,陆地站等发送的AIS信息的设备。AIS信息包括在船舶4周围航行的其他船舶的信息以及地标位置和识别信息等各种信息。其他船舶信息例如包括位置(纬度/经度)、船体长度、船体宽度、船型、识别信息、船速、航向和目的地等。
ECDIS 10从GNSS接收机7获取船舶4的位置信息的同时,基于预先存储的电子海图信息将船舶4的周围信息输出到影像生成装置1。
绘图仪11从GNSS接收机7连续获取船舶4的位置,以生成关于船舶4的航行轨迹的信息。此外,绘图仪11通过使用户设置多个航路点(预定船舶4通过的点),依次连接这些航路点来生成预定航路。
雷达12用于检测在船舶4周围存在的如其他船等的物标。另外,雷达12具有能够拍摄和跟踪物标的目标跟踪功能(TT)。雷达12通过该TT获得物标的位置和速度矢量(TT信息)。雷达12将获取的TT信息输出到影像生成装置1。
声纳13通过将超声波发送到水中并在诸如鱼群等的物标处接收由超声波反射的反射波来检测目标。声纳13将检测到的检测信息输出到影像生成装置1。
影像生成装置1与供用户输入信息的输入设备14相连。输入设备14是键盘或鼠标等。输入设备14可以是通过触摸显示屏2来输入信息的触摸面板或操纵杆,并且可以是任何其他设备,只要它可以输入信息即可。
用户通过使用输入设备14下达关于AR影像的各种指令。用户例如针对改变摄像头3的姿势的操作、设置是否显示各种信息,或设置AR影像的视点等下达指令。
下面,将描述影像生成装置1的结构。
影像生成装置1包括AR影像生成部20、拍摄影像输入部21、拍摄位置设定部22、天线位置设定部23、位置获取部24、姿势获取部25、详细信息获取部26和存储部27、视点设定部28和显示设定部29。
影像生成装置1主要由计算机组成。计算机例如包括算术处理部和存储部。算术处理部是用于高速执行CPU(中央处理部)或三维图像处理的GPU(图形处理部)。存储部是各种类型的存储器或HDD(硬盘驱动器)等。可以以任何方式配置计算机。影像生成装置1通过执行用于实现各种功能的软件(程序等)来运转。
从摄像头3输出的影像数据以例如每秒30帧的速度输入到拍摄影像输入部21。拍摄影像输入部21将输入的影像数据输出到AR影像生成部20。
拍摄位置设定部22设定在船舶4上的摄像头3的位置(拍摄位置)。例如,拍摄位置是在船体的长度方向上的位置,船体的宽度方向上的位置以及在上下方向上的位置(高度)。摄像头3的高度例如是距船舶4通常吃水线的高度,但也可以是距船底的高度,或者以其他为基准。此外,可以通过由输入设备14输入由用户实际测量的针对摄像头3的位置的测量值,来设定在拍摄位置设定部22上的拍摄位置。拍摄位置设定部22将所设定的拍摄位置输出到AR影像生成部20。
天线位置设定部23设定船舶4上GNSS天线的位置(天线位置)。天线位置例如以图2所示的船舶4的基准点4a为基准由船体的长度方向、宽度方向以及上下方向来表示位置。基准点4a是控制基准点。在本实施例中,基准点4a位于船体的中央且与通常假定的吃水线相同的高度,但是也可以以任何方式确定。例如,可以通过用户以与上述拍摄位置相同的方式输入实际测量值来执行天线位置的设定。天线位置设定部23将所设定的天线位置输出到AR影像生成部20。
位置获取部24基于GNSS接收机7和加速度传感器8的检测结果实时获取船舶4的当前位置。位置获取部24将获取的船舶4的当前位置信息输出到AR影像生成部20。
姿势获取部25基于GNSS罗盘5和角速度传感器6的检测结果实时获取船舶4的当前姿势。姿势获取部25将获取的船舶4的当前姿势信息输出到AR影像生成部20。
详细信息获取部26基于从AIS接收机9、ECDIS 10、绘图仪11、雷达12、声纳13等获取的信息,获取要添加到由摄像头3拍摄的图像上的详细信息。详细信息从这些船舶设备实时输入到影像生成装置1。详细信息获取部26将获取的详细信息输出到AR影像生成部20。详细信息获取部26可以将唯一的特定管理的识别信息(例如识别号)添加到各详细信息中。
存储部27被配置为用于存储各种信息的存储器。存储部27例如可以将表达各种详细信息的虚拟现实对象的三维形状作为模版为存储。存储在存储部27中的三维形状模版例如是小船、大船、浮标、或灯塔等,但不限于此。存储部27将存储的信息输出到AR影像生成部20。
视点设定部28由用户使用输入设备14设定由AR影像生成部20生成的AR影像的视点。视点设定部28将关于AR影像的视点的设置信息输出到AR影像生成部20。
显示设定部29由用户使用输入设备14设定由AR影像生成部20生成的AR影像中的关于详细信息的显示。显示设定部29将与详细信息的显示有关的设置信息输出到AR影像生成部20。
AR影像生成部20通过将3D计算机图形合成到拍摄影像输入部21输入的摄像头3的拍摄影像中来生成表现增强现实的AR影像。
AR影像生成部20包括详细信息生成部31、三维场景生成部32、屏幕信息生成部33和数据合成部34。
详细信息生成部31基于从详细信息获取部26输入的详细信息来生成用于显示于AR影像上的详细信息。详细信息包括由文字表示的文字信息和由图形表示的图形信息。详细信息生成部31将所生成的详细信息输出到三维场景生成部32或屏幕信息生成部33。详细信息可以是用户需要的任何信息。例如,详细信息可以基于影像生成装置1的目的或功能来确定,也可以是船舶4的航行所必需的信息。
例如,关于水上移动体等的物标的详细信息是名称(船名)、位置(船舶位置)、方位(船首方位)、航向、距离、速度、转弯角速度、目的地、国籍(船籍)、类型(船只类型)、大小(长度、宽度和高度等)、状态(航行状态)、识别码、DCPA(最接近点距离)、TCPA(最接近点时间)、BCT(过船头时间)、BCR(过船头距离)等。在此,DCPA是距另一船的最小距离。TCPA是到另一船的距离最小时的时间。BCT是另一艘船越过本船船首的时间。BCR是另一艘船穿过本船船首的距离。
除此之外,根据AIS信息,可以将诸如浮标或虚拟浮标的位置等的信息作为详细信息。虚拟浮标是由于诸如安装困难之类的原因而没有在海上实际安装的虚拟(非实体性)浮标,但在导航装置的屏幕上显示标记。作为包含在ECDIS 10的电子海图中的信息,可以是危险海域、航海禁止区域、灯塔、或浮标等的详细信息。作为基于绘图仪11的信息,可以是记录的船舶4的轨迹、预定航路、航路点、到达区域、停靠区域等的详细信息。作为基于雷达12的信息,可以是检测到的物标的位置或速度等的详细信息。作为基于声纳13的信息,可以是检测到的鱼群的位置等的详细信息。
图3是根据本实施例的船舶4周围的情况的示例示意图。
在海面上(水面上)上,示出了多个航路点41和表示到达目的地的预定航路的折线状路线42。在路线42附近示出了多边形(矩形)停靠区域43。通过用户操作绘图仪11来设置航路点41、路线42和停靠区域43。
另一艘船舶44在船舶4前方稍远的地点正驶向船舶4的右方。在船舶4的左斜前方附近有一个虚拟浮标45。这些信息通过AIS信息检测出。
详细信息包括详细信息的对象物设置在海面(水面)上的位置(纬度和经度)信息。例如,路线42的详细信息包括两个变化点(折线的弯折点)的地理位置信息。在此,两个变化点的位置与两个航路点41的位置一致。停靠区域43的详细信息包括多边形的顶点的每个点的地理位置信息。
图4是根据本实施例的三维虚拟空间40的示意图。图4示出了与图3所示的船舶4周围的情况相对应的三维虚拟空间40。此外,图3中所示的航路点41、路线42、停靠区域43、另一艘船舶44和虚拟浮标45分别对应于图3中所示的虚拟现实对象41v,42v,43v,44v,45v。
如图4所示,3D场景生成部32用于在3D虚拟空间40中生成虚拟现实的3D场景数据(3D显示数据)48。3D场景生成部32基于显示设定部29中设定的设置信息,使由详细信息生成部31生成的详细信息显示于已生成的3D场景中从而更新3D块景数据。当详细信息是图形信息时,3D场景生成部32生成与该详细信息相对应的虚拟现实对象,并将其添加到3D场景数据48中。此时,可以使用存储在存储部27中的虚拟现实对象的模版。
生成虚拟现实对象的图形信息例如是虚拟浮标、危险海域、航海禁止区域、船舶4的轨迹、预定航路、航路点、到达区或停靠区域等非映射在摄像头3的拍摄影像中的物标。此外,三维场景生成部32可以将如另一艘船等的可见物标作为图形信息来生成虚拟现实对象。在这种情况下,可以将所生成的虚拟现实对象重叠和由摄像头3拍摄的影像中映射的该实际物标重叠显示。
屏幕信息生成部33除了摄像头3的拍摄影像和三维场景数据48之外,还生成其他必要的屏幕信息。例如,屏幕信息是显示于显示屏2的AR影像屏幕中的影像生成装置1的各种设定或操作所必需的信息,使可操作性或可视性提高的信息,或用于显示表示距离或方位的信息等。此外,屏幕信息生成部33可以生成以船舶4为中心的周围情况的俯视画面(例如,雷达影像)的屏幕信息,以便掌握其他船舶等的状况。由此,即使船舶4的周围状况在AR影像的范围之外(船舶4的侧面或后方),也可以掌握船舶4周围的情况。
数据合成部34将由三维场景生成部32生成的三维场景数据48绘制在从拍摄影像输入部21输入的摄像头3的拍摄影像上,并添加屏幕信息生成部33生成的屏幕信息以生成AR影像。数据合成部34将所生成的AR影像输出到显示屏2。由此,显示屏2显示AR影像。
下面,将描述构造三维虚拟空间40的方法。
如图4所示,设置有虚拟现实对象41v~45v的三维虚拟空间40由以船舶4的基准位置(例如,上述参考点4a)为原点的直交坐标系组成,水平面xz平面模拟海面(水面)。在图4的示例中,设置坐标轴使得+z方向总是与船首方位一致,+x方向是向右方向,+y方向是向上方向。三维虚拟空间40中的每个点(坐标)被设置为与船舶4周围的实际位置相对应。
虚拟现实对象41v~45v设置成以船首方位为基准与xz平面相接触,以反映出与船舶4的相对位置。为了确定虚拟现实对象41v~45v的配置位置,使用由天线位置设定部23设定的GNSS的天线位置进行计算。
例如,生成虚拟现实对象41v~45v如下。
表示其他船舶44的虚拟现实对象44v利用以大型船舶为模型的船舶形状模版来表示。虚拟现实对象44v的朝向为通过AIS信息获取的其他船舶44的朝向。表示虚拟浮标45的虚拟现实对象45v利用浮标模型形状的模版来表示。
航路点41的虚拟现实对象41v由薄圆盘状的三维形状来表示。路线42的虚拟现实对象42v由具有一定厚度及宽度的细长板以折线状弯曲的三维形状来表示。停靠区域43的虚拟现实对象43v由具有停靠区域43的轮廓和一定厚度的板状三维形状来表示。这些虚拟现实对象41v至45v可以不使用模版每当用到时制作。
在图4中,以船舶4的位置为原点的方位基准来设置虚拟现实对象41v~45v。因此,当船舶4的位置从图3所示的状态沿东西方向或南北方向改变,或者由于船舶4的船首方向转弯等而改变时,三维场景数据48更新为虚拟现实对象41v~45v重新设置的新三维场景。此外,当诸如另一船舶44从图3的状态移动等的详细信息的内容改变时,三维场景数据48被更新为反映最新详细信息。
数据合成部34将确定摄像头3拍摄的影像的投射位置和范围的投影屏幕51设置于三维虚拟空间40中。视点摄像头55的位置和方向被设置为使得投影屏幕51和虚拟现实对象41v~45v都包括在视野中。
数据合成部34将安装在船舶4上的摄像头3的位置和方向模拟于三维虚拟空间40中,并使投影屏幕51设置成正对摄像头3。在模拟摄像头3的位置时,基于拍摄位置设定部22设定的拍摄位置来确定摄像头3相对于船体的位置。
在模拟摄像头3的位置和方向时,考虑了由于诸如摄像头3的平移或倾斜之类的动作而引起的姿势变化。此外,在该模拟中反映了,基于由位置获取部24获取的位置信息和姿势获取部25获取的姿势信息,随船舶4的姿势和高度的改变而改变的摄像头3的位置和方向。为了应对摄像头3的位置和方向的改变,数据合成部34使设置于三维虚拟空间40中的投影屏蔽51的位置和方向随之改变。
数据合成部34通过对三维场景数据48和投影屏幕51执行渲染处理来生成二维图像。具体地,数据合成部34将作为虚拟摄像头的视点摄像头55布置在三维虚拟空间40中,并且设定用于确定渲染对象范围的视锥台56。视锥台56被设定为以视点摄像头55为顶点,将从视点摄像头55的视线方向作为中心轴。
数据合成部34通过透视投影在构成虚拟现实对象41v~45v及投影屏幕51的多边形中,位于视锥台56内部的多边形的顶点坐标将其转换成二维虚拟屏幕坐标。该虚拟屏幕相当于在显示屏2上的AR影像的显示区域。数据合成部34基于布置于虚拟屏幕上的顶点坐标,通过执行诸如像素生成及加工等的处理生成预定分辨率的二维图像。
下面参照图5和图6描述由摄像头3拍摄的图像和AR影像之间的关系。图5是摄像头3拍摄的图像的示例示意图。图6是从数据合成部34输出的AR影像示意图。
图5示出了在图3所示的情况下由船舶4的摄像头3拍摄的影像。该拍摄影像显示了另一艘漂浮在海面上的船舶44r。另外,在拍摄影像的下部中央示出了船舶4的船首部分。
由于虚拟浮标45是虚拟的,因此它不出现在拍摄影像中。由于航路点41、路线42和停靠区域43也是由绘图仪11创建的,因此它们也不出现在拍摄影像中。
图6所示的AR影像是图5所示的拍摄影像通过图4的三维场景数据48的渲染合成的二维图像。在图6的AR影像中,表示详细信息的图形41f,42f,43f,44f和45f,与图5所示的拍摄影像重叠布置。这里,在图6中,由摄像头3拍摄的影像部分由虚线表示,以便将其与其他部分区分开(图8至图10同样如此)。图形41f~45f分别对应于虚拟现实对象41v~45v。表示其他船舶的图形44f被布置为与其他船舶44r在拍摄影像中的位置基本重叠。
图形41f~45f是在与摄像头3的位置和方向相同的视点下绘制构成图4所示的三维场景数据48的虚拟现实对象41v~45v的三维形状生成的结果。因此,即使将图形41f~45f叠加在摄像头3所拍摄的真实影像上,在外观上也几乎没有违和感。
如图6所示,虚拟地表示详细信息的图形41f~45f被布置在AR影像上,如被放置在拍摄影像的水面上。换言之,虚拟地表示详细信息的图形41f~45f沿拍摄影像的水面布置。
该布置如下。图4中所示的虚拟现实对象41v~45v以拍摄位置设定部22设定的高度计算出的距离设置于摄像头3下方并xz平面接触。进一步地,考虑摄像头3的位置和方向来正确地布置投影屏幕51的位置。由此,实现了图形41f~45f在水面上的布置。
关于与船舶4航海相关的信息(本船航海信息)的物标,可以将该物标的信息(名称或位置等)显示于从该物标的上方延伸的线端,关于其他物标可以将该物标的信息显示于从该物标的下方延伸的线端。通过如上述显示,可以容易地区分本船航海信息和其他信息。例如,本船航海信息为航路点、路线和停靠区域等。
下面将说明由于船舶4的晃动而导致的AR影像的变化。图7是从图4的状态下船舶4在俯仰方向和侧倾方向上摆动时的示意图。图8是图7的状态下AR影像示意图。
由于摄像头3安装在船舶4上,因此其位置和方向随着船舶4的姿势因波浪等的倾斜或船舶4的乘浪而发生变化。当船舶4发生摇晃(纵摇、横摇和垂荡)时,数据合成部34模拟姿势获取部25获取的船舶4的姿势的变化以及位置获取部24获取的船舶4的位置的上下方向的变化,变更三维虚拟空间40中的摄像头3的位置和方向。投影屏幕51的位置随之改变。
在图7的示例中,船舶4向前下降和向左下降地倾斜,摄像头3的位置和方向改变以反映该倾斜。与此连动地,投影屏幕51移动以面对位置和方向已经改变的摄像头3。
在该示例中,通过视点跟踪模式,视点摄像头55的位置和方向跟随位置和方向已经改变的摄像头3而改变。由于船舶4的晃动摄像头3的位置和方向发生变化,投影屏幕51的位置和方向也相应地发生变化,并且透视三维场景的视点摄像头55的位置和方向也发生变化。由此,如图8所示,AR影像生成部20连续地生成AR影像而没有违和感。
在视点跟踪模式下,每当俯仰角或侧倾角由于船舶4的晃动而变化大于预定值时,数据合成部34中的三维场景数据48的绘制就被更新,生成基于最新视点的图形41f~45f。通过该绘制的更新,显示的图形41f~45f相对于由于海面的倾斜船舶4的摇晃而变化的摄像头的3的拍摄影像,在维持放置在海面上的状态下变化。
由此,由于虚拟现实图形看起来漂浮于海面上,因此AR影像成为自然且高度逼真的影像。此外,用户通过眺望映射到显示屏2上的AR影像的海面,可以全面地看到代表虚拟现实对象41v~45v的图形41f~45f,因此可以不遗漏地获得必要的信息。
参考图9和图10,将描述在由AR影像生成部20生成的AR影像上表示方位、刻度信息91的结构。另外,刻度信息91可以不显示,也可以选择显示或不显示。
详细信息生成部31,为了显示刻度信息91,从船舶设备等收集必要信息。详细信息生成部31将收集的信息输出到屏幕信息生成部33。
屏幕信息生成部33基于从详细信息生成部31接收的信息,生成显示于AR影像上的刻度信息91图像。屏幕信息生成部33将所生成的刻度信息91输出到数据合成部34。
数据合成部34在将三维场景生成部32生成的三维场景数据48合成到摄像头3的拍摄影像上时,也将由屏幕信息生成部33生成的刻度信息91图像合成到其上。
刻度信息91例如如图9所示显示于AR影像的上部或下部等的预定位置处。如图10所示,刻度信息91的位置可以自动移动或变更,但不与图形41f~45f等的详细信息重叠。此外,如图10所示,可以根据船舶4的船体的倾斜度而倾斜显示详细信息91以使刻度信息91始终与水平线保持平行。通过以这种显示方式,刻度信息91可以始终指示正确的方位。
参照图11和图12对AR影像中的物标的详细信息的表示方法进行说明。图11是显示了详细信息D1,D2和D20的AR影像示意图。图12是AR影像上依次显示详细信息D1,D2,D20的过程的简要流程图。
在此,以假设AR影像中船舶4的前方有三个水上移动体S1,S2,S3进行说明。另外,虽然使用作为物标的水上移动体S1~S3进行主要说明,但同样地,水上移动体S1~S3以外的其他任意物标(包括无形物体)也可以显示详细信息。
影像生成装置1所有的详细信息分为3种:主信息(相当于第1详细信息),子信息(相当于第2详细信息)和非显示信息。主信息显示于第1空间SP1中。子信息显示于第2空间SP2中。非显示信息不显示在AR影像中。用户通过输入设备14任意设定分别符合主信息,子信息和非显示信息的详细信息(项目)。例如,在AR影像中显示项目列表,并且以下拉形式选择符合主信息,子信息和非显示信息的项目。
当通过诸如AIS接收机9或雷达12等的船舶设备检测到物标水上移动体S1~S3时(步骤ST101),显示与AR影像中的各水上移动体S1~S3相对应的用于选择的标记M1,M2,M3(步骤ST102)。对应线L1,L2,L3分别从相对应的水上移动体S1~S3向下延伸,标记M1,M2,M3通过代表对应关系的对应线L1,L2,L3与水上移动体S1~S3连接。
标记M1至M3的形状可以根据检测到的船舶设备的类型而不同。例如,由AIS接收机9检测到的物标,可以使标记的形状为菱形,由雷达12检测到的物标,可以使标记的形状为圆形。此外,物标也可以由诸如ECDIS 10或声纳13等的船舶设备检测到的物标。进一步地,当多个船舶装置检测到一个物标时,可以显示分别与检测到一个物标的多个船舶装置相对应的M1~M3,也可以仅显示任意选择的标记,也可以显示总括为一个的标记。
当用户想要显示较水上移动体S1~S3更详细的详细信息时,选择(例如单击)与想显示详细信息的水上移动体S1~S3相连的标记M1~M3(步骤ST103)。当标记M1~M3被选择时,可以改变颜色反转等的显示。
当标记M1~M3被选中时,与选中的标记M1~M3相对应的物标的主信息显示于AR影像的预定位置(步骤ST104)。在图11中,两个水上移动体S1和S2的各标记M1被选中,并且示出了水上移动体S1和S2的主信息D1和D2被显示在作为预定位置的AR影像下部的第1空间SP1中的状态。例如,主信息D1和D2为到本船(船舶4)的距离、速度、DCPA和TCPA。为了以易于理解的方式显示水上移动体S1、S2与主信息D1和D2之间的对应关系,通过延伸对应线L1,L2的对应线L11,L12分别连接标记M1,M2和主信息D1,D2。
关于水上移动体S1,当用户想要显示除了主信息D1外的子信息时,选择显示有主信息D1的显示栏(步骤ST105)。当选择了主信息D1的显示栏时,如图11所示,在第1空间SP1下的第2空间SP2显示所选择的主信息D1的子信息D20(步骤ST106)。子信息D20通过表示与第1空间SP1中的主信息D1相对应的对应线L20与主信息D1相连
用户可以选择显示还是隐藏子信息D20。当子信息被隐藏时,第2空间SP2消失,并且显示主信息D1和D2的第1空间SP1移动到AR影像的下侧。当不需要子信息D20时,通过消除第2空间SP2来扩展AR影像中的摄像头3的拍摄影像部分。第2空间SP2可以总是保留的,也可以在当选择主信息D1和D2的显示栏中的任何一个时出现。
尽管这里已经描述了显示一个子信息D20的情况,但是可以显示两个或更多个子信息,也可以没有子信息。
下面参考图6对AR影像中的标记M1,M2的基本显示方法进行说明。
这里,在船舶4的前方,对当其他第2水上移动体S2从屏幕的右边驶向左边经过横向几乎呈停止状态的第1水上移动体S1的旁边时的情况进行说明。
围绕各标记M1和M2的外侧用虚线表示的的一圈稍大的四边形表示接触确定区域R1,R2。接触确定区域R1和R2是用于判定标记M1,M2是否已经接触的区域。
例如,当输入设备14是触摸面板时,如果手指等在接触确定区域R1和R2内触摸,则认定标记M1和M2被触摸(即,被选择)。当输入设备14是鼠标时,如果在光标位于接触确定区域R1和R2内的状态下执行了诸如点击之类的预定操作,则认定已经触摸了标记M1和M2。由于接触确定区域R1和R2比标记M1和M2大一圈,即使触摸稍微偏离标记M1和M2,也可以认定标记M1和M2被触摸。这改善了用户可操作性。
初始位置的第2水上移动体S2与第1水上移动体S1充分分离。此时,连接到两个水上移动体S1和S2的对应线L1和L2a具有最短的初始设定长度。此后,第1水上移动体S1的对应线L1的长度将保持不变。另外初始设定的长度不必最短。
t秒钟之后的第2水上移动体S2从初始位置越来越靠近第1水上移动体S1。在这种状态下,如果两个水上移动体S1和S2的对应线L1和L2b均为初始设定的长度,则两个水上移动体S1和S2的接触确定区域R1和R2的一部分重合。因此,第2水上移动体S2的对应线L2b慢慢向下延伸至接触确定区域R2不与第1水上移动体S1的接触确定区域R1重叠。以这种方式,通过逐渐改变对应线L2b的长度,移动标记M2以使其在视觉上连续。这使得用户更容易在视觉上跟踪移动着的标记M2。在第2水上移动体S2的对应线L2b的长度在变化的过程中,两个接触确定区域R1和R2可以暂时重叠。
由于第2水上移动体S2靠近第1水上移动体S1状态后又t秒后与第1水上移动体S1再次充分分离,因此无论对应线L2c的长度如何,两个接触确定区域R1,R2都不会重合。因此,第2水上移动体S2的对应线L2c收缩直到达到作为最短长度的初始设定状态。
为了使两个接触确定区域R1和R2不重叠,水上移动体S1和S2的各自对应线L1,L2a~L2c的长度通过上述方式进行伸缩变化。
这里,已经描述了移动中的第2水上移动体S2的对应线L2a~L2c的长度改变的情况,但是静止的第1水上移动体S1的对应线L1的长度也可以改变。
将参照图14对连接第1水上移动体S1和标记M1的对应线L1的长度变化的示例进行说明。在图14中,横轴表示经过时间,纵轴表示在AR影像中沿垂直方向变化的对应线L1的长度。
在时刻t0,第1水上移动体S1的对应线L1的长度a1为初始设定的最短长度。
在时刻t1,当第1水上移动体S1的接触确定区域R1与另一个水上移动体(第2水上移动体)的接触确定区域接触时,屏幕信息生成部33计算两个接触确定区域不重叠时对应线L1的长度a2。两个接触确定区域之间空多少都行。
另外,屏幕信息生成部33不限于两个接触确定区域彼此接触之后,也可以在它们彼此接触之前开始计算。此外,两个接触确定区域接触与否不限于直接检测两个接触确定区域的各位置,也可以基于水上移动体、标记、或对应线等的位置来确定。
屏幕信息生成部33用于改变(绘制)对应线L1,以使对应线L1的长度a1逐渐变为计算出的长度a2。由此,第1水上移动体S1的对应线L1变为目标长度a2。
例如,屏幕信息生成部33使对应线L1的长度如图14所示的曲线Cr进行变化。曲线Cr表示随着对应线L1的长度接近目标长度a2,变化速度逐渐减慢。这使得用户更容易在视觉上追踪标记M1。另外,关于逐渐改变对应线L1的长度a1的绘制方法,可以应用在图形或动画等中使用的现有方法。
在时刻t2,第1水上移动体S1的接触确定区域R1还和另一个水上移动体(第3水上移动体)的接触确定区域在第1水上移动体S1的对应线L1保持延伸的长度a2状态下接触。屏幕信息生成部33计算长度a3计算第1水上移动体S1的接触确定区域R1不与新的已接触的第3水上移动体的接触确定区域重叠时的长度a3。与时刻t1时相同,屏幕信息生成部33将对应线L1从当前的长度a2逐渐变化为计算出的长度a3。由此,第1水上移动体S1的对应线L1变为目标长度a3。
在时刻t3,当第2水上移动体和第3水上移动体在第1水上移动体S1附近消失时,屏幕信息生成部33改变对应对线L1的长度,以使对应线L1的长度a3为慢慢收缩至初始设定的长度a4。对应线L1的长度收缩时和伸长时相同,通过如绘制曲线Cr般改变对应线L1的长度,慢慢改变对应线L1的长度。由此,第1水上移动体S1的对应线L1恢复至初始设定的长度a4。
在时刻t4,当第1水上移动体S1的接触确定区域R1与另一个水上移动体(第四水上移动体)的接触确定区域相接触时,与时刻t1,t2时相同,屏幕信息生成部计算目标对应线L1的长度a5。由此,第1水上移动体S1的对应线L1变为目标长度a5。
在时刻t5,当第4水上移动体在第1水上移动体S1附近消失时,与时刻t3时相同,屏幕信息生成部33开始将对应线L1恢复到初始设定长度。
在时刻t6,在对应线L1达到初始设定长度之前,第1水上移动体S1的接触确定区域R1与另一个水上移动体(第5水上移动体)的接触确定区域接触。屏幕信息生成部33计算目标对应线L1的长度a6并使对应线L1收缩到初始设定长度的中途状态开始慢慢伸长至目标长度a6。由此,第1水上移动体S1的对应线L1变为目标长度a6。
在时刻t7,当第5水上移动体在第1水上移动体S1附近消失时,与时间t3和t5的情况一样,屏幕信息生成部33使对应线L1开始恢复至初始设定长度。由此,第1水上移动体S1的对应线L1变为初始设定长度a7。
由此,通过改变对应线L1的长度,使第1水上移动体S1的接触确定区域R1不与其他水上移动体的接触确定区域重叠,用户可以容易地选择各水上移动体的标记。
这里,为了便于说明,关注第1水上移动体S1来改变对应线L1,但是实际上,每个水上移动体与第1水上移动体S1的情况一样,可以改变连接到标记的对应线的长度,使得各个接触确定区域不重叠。
当多个水上移动体的接触确定区域重叠时,根据由各个水上移动体或各个标记确定的优先顺序来确定改变哪个对应线的线长。优先顺序可以事先分配给各水上移动体或各标记。优先顺序可以按标记的显示顺序(新顺序或旧顺序),也可以按各水上移动体或各标记的位置(屏幕的上下或左右)来确定。例如,标记的位置越在屏幕的底部,越优先改变对应线的长度。延伸位于下方的标记对应线比延伸位于上方的标记对应线的延伸长度要短。另外,可以基于各对应线的当前长度等来确定要改变的对应线。
参考图11和15对主信息D1和D2的显示方法进行说明。图15是AR影像上显示主信息D1和D2的过程的流程图。
在图11的第1空间SP1中,除了显示主信息D1和D2的部分之外,还具有实际上没有任何显示的用虚线表示的用于显示主信息的显示栏Dh。显示栏Dh如下确定。
用户通过输入设备14选择作为主信息D1和D2显示的项目(步骤ST201)。图11示出了AR影像的一示例,将到本船的距离、速度、DCPA和TCPA的项目作为主信息D1和D2显示。
屏幕信息生成部33基于作为主信息D1和D2选择的项目来确定显示栏Dh的大小(步骤ST202)。显示栏的高度是根据所选项目的数量确定的。显示栏的宽度是根据选择的各个项目中保留的文字数中最多的文字数来确定的。仅由位置、距离、速度或时间等的数字和单位表示的项目保留的文字数基本较少。显示专有名词(船名或地名等)或显示句子的项目保留的文字数基本较多。
屏幕信息生成部33基于所确定的显示栏Dh的大小来确定显示栏Dh的数目(步骤ST203)。例如,如果第1空间SP1的宽度除以显示栏Dh的宽度,则可知晓横向排列的显示栏Dh的数量。显示栏Dh的大小和数量之间的对应关系可以预先存储为表格数据。尽管图11示出了一行一段显示的显示栏Dh示例,但也可以将一行作为一段,堆叠为上下2段或2段以上。在这种情况下,基于第1空间SP1的高度和显示栏Dh的高度,可以和横向排列的显示栏的数量相同地,确定显示栏Dh上下堆叠的段数。
屏幕信息生成部33基于所确定的显示栏Dh的数量来确定每个显示栏Dh在第1空间SP1中的布置(步骤ST204)。图11示出了当显示栏Dh的数量为六个时的AR影像。当显示栏Dh的数量为4时,变为如图16所示的AR影像。在图16所示的AR影像中,由于选择了船名作为主信息D1和D2的项目,因此一个显示栏Dh的宽度较宽。因此,并排布置的显示栏Dh的数量减少到四个。
每当在步骤ST201中主信息D1和D2的项目改变时,重复执行步骤ST202~ST204。
当用户选择水上移动体S1和S2的标记M1和M2时,屏幕信息生成部33决定显示水上移动体S1和S2的主信息D1和D2的显示栏Dh(步骤ST205)。
具体地,将从水上移动体S1和S2的宽度方向的中心沿垂直方向的正下方的下降的线与第1空间SP1相接触的地方离该地方最近的显示栏Dh作为显示水上移动体S1,S2的主信息D1,D2的显示栏Dh。即,在AR影像的屏幕上,当将横向作为x轴时,将离水上移动体S1和S2的x坐标最近的x坐标的显示栏Dh作为水上移动体S1和S2的显示栏Dh。此外,当其他水上移动体的主信息已经显示在如上所述选择的显示栏Dh中时,选择下一个合适的显示栏Dh(例如下一个靠近x坐标的显示栏Dh)。
另外,当所有显示栏Dh中均显示了主信息时,隐藏一个已经显示的主信息的信息栏,现生成可以显示新的主信息的显示栏Dh。例如,要隐藏的主信息可以是最早(即最旧)显示的主信息,也可以是危险最小的物标的主信息,也可以是通过其他方法确定的信息。另外,为了使得特定的主信息不会被自动隐藏,用户可以执行诸如固定显示之类的操作。
例如,风险程度是根据DCPA、TCPA、BCT或BCR的任意组合确定的。如果这些要素中的事先确定的各组合要素均高于事先设定的阙值,则判断为高风险。要素的组合是DCPA和TCPA,或BCT和BCR等。
屏幕信息生成部33在已确定的显示栏Dh中显示水上移动体S1和S2的主信息D1和D2(步骤ST206)。
当存在高风险的水上移动体S1和S2时,或通过使水上移动体S1,S2,标记M1,M2或主信息D1和D2的显示栏Dh等呈醒目的颜色,或通过改变闪烁等显示形式,使其在视觉上十分明显的方式,以使用户易于发现高风险的物标。
以船舶4的时间间隔重复执行(更新)图15所示的步骤ST205、ST206。
图17示出了从图11所示的AR影像的状态经过预定时间之后的AR影像。
图17所示的第1水上移动体S1从图11所示的第1水上移动体S1的位置向AR影像的画面的左下方移动。图17所示的第2水上移动体S2从图11所示的第2水上移动体S2的位置向AR影像的画面的右侧移动。
由于第1水上移动体S1已经移动到屏幕的左下,因此第1水上移动体S1的主信息D1从屏幕左起第2个向最左边的显示栏Dh移动。由于第2水上移动体S2向屏幕右边移动,因此第2水上移动体S2的主信息D2在从屏幕左起第4个向第5个显示栏Dh移动的途中。
当切换主信息D1和D2的显示栏Dh时,主信息D1和D2的显示在两个显示栏Dh之间慢慢移动。在这种情况下,如图17的主信息D2所示,在切换显示栏Dh的途中,不限于事先配置的显示栏Dh的位置,即使在两个显示栏Dh之间也可以显示主信息D2。
以这种方式,通过慢慢移动主信息D1和D2的显示,以使其的移动在视觉上连续。由此,用户可以边在视觉上跟随主信息D1和D2,边确认移动后显示栏Dh的位置。因此,通过切换显示栏Dh,可以防止用户看不到主信息D1和D2的显示位置,或误识别为其他水上移动体S1和D2的主信息D1和D2。使得主信息D1和D2的显示逐渐移动的绘制方法可以与使得对应线L1的长度逐渐改变的绘制方法相同。
此外,本实施例可以进行如下修改。
数据合成部34不必同时渲染三维场景数据48和投影屏幕51。即,数据合成部34可以分开制作作为三维场景数据48的渲染结果的二维影像(诸如图形41f~45f等的影像)和作为投影屏幕51的渲染结果的二维影像(由安装在投影屏幕51上的摄像头3的拍摄影像)。之后,通过合成分开制作的这些二维影像来生成AR影像。在这种情况下,三维场景数据48的渲染处理可以根据船舶4的移动随时执行,投影屏幕51的渲染处理也可以根据摄像头3的影像的帧率在短时间间隔下执行。
摄像头3可以具有固定的拍摄方向,而不具有诸如平移或倾斜之类的旋转操作的功能。在这种情况下,可以将拍摄方向固定为前、后或其他方向中的任何一个。此外,摄像头3可以被配置为能够在360度全方位同时拍摄船舶4的周围。此外,当用户执行改变视点摄像头55的方向的操作时,摄像头3可以自动执行旋转操作以跟随该操作。
根据三维场景生成部32的三维场景数据48的生成,已如图4所示描述了以船舶4的位置为原点以船头为基准布置虚拟现实对象41v~45v,但不限于此。虚拟现实对象41v~45v也可以设置成不以船首为基准,而以+z方向为正北的以正北为基准来布置。在这种情况下,当由于船舶4的旋转而船首方向改变时,使三维虚拟空间40中的船舶4的方向变成偏摆,而不是重新布置虚拟现实对象41v~45v。此时的摄像头3的位置和方向的变化在三维虚拟空间40中被模拟,并且与之相连地改变视点摄像头55的位置和方向以进行渲染。由此,可以得到和以船首为基准的情况相同的渲染结果。
三维虚拟空间40的坐标系可以使用地球上任意选择的固定点作为原点,而不是以船舶4为原点,以+z方向为正北,+x方向为正东,坐标轴和方位之间的关系可以是固定的。在这种情况下,三维虚拟空间40的坐标系固定在地球上,并且船舶4的位置和方向的布置基于位置信息和姿势信息而改变。与该变化相伴的摄像头3的位置和方向的变化模拟在三维虚拟空间40中。
影像生成装置1可以执行减轻由于船舶4的晃动而引起的AR影像的晃动的处理。作为这样的处理,例如,即使船舶4晃动,三维场景生成部32也可以抑制视点摄像头55的位置和方向的变动。
根据本实施例,可以获得以下效果。
通过改变连接物标和标记的对应线的长度,使得两个或更多个标记的接触确定区域不重叠,可以提高用户选择标记的可操作性。
通过将用于显示详细信息的标记显示于水上移动体(物标)的垂直方向(向上或向下)上,可以容易地看到AR影像中的标记。如果将标记显示于水上移动体的水平方向(向右或向左)上,由于在AR影像中,水上移动体可能在水平方向上密集地堆积,因此或标记之间重叠,或标记和水上移动体的显示重叠,标记很难看清。
通过根据识别物标的船舶设备(AIS接收机9或雷达12等)使标记的显示形态(例如形状)各异,用户可以仅看标记知晓主信息的信息源。
通过使用于确定是否触摸了标记的接触确定区域大于包括标记的区域,可以提高用户在选择标记时的可操作性。
通过将显示各物标的主信息的位置事先固定于AR影像的预定位置(例如,屏幕的底部),可以在AR影像中容易看到地布置主信息。此外,通过根据AR影像中物标的位置的移动来移动对应的主信息的显示位置,可以容易地理解物标和主信息之间的对应关系。
当判断某个物标具有高风险时,通过使该物标的主信息的显示明显,可以在视觉上将高风险物标或其主信息告知用户。
标记显示方法和主信息显示方法可以分开地独立地执行,即使实施了其中的任何一方时,也可以接收所执行的显示方法的作用和效果。此外,当两者都进行时,可以通过组合获得进一步的效果。
本发明不限于上述实施例,并且可以删除、添加、改变构成要素等。此外,可以通过组合或交换多个实施例的构成要素来获得新的实施例。即使这样的实施例与上述实施例直接不同,但与本发明的主旨相同的事项当作为本发明的实施例说明的事项,省略其说明。
Claims (18)
1.一种影像生成装置,其特征在于,具备
物标信息获取手段,用于获取与物标相关的物标信息,
增强影像生成手段,使所述物标信息获取手段获取的所述物标信息显示于由所述拍摄手段拍摄的拍摄影像上,生成增强影像,
标记显示手段,用于将用户选择所述物标用的标记与所述增强影像中的所述物标的显示位置对应移动地显示,
标记移动手段,为了使判定所述标记被选择了的确定区域不重叠,移动所述标记中的至少一个标记的显示位置。
2.根据权利要求1所述的影像生成装置,其特征在于,具备第1对应线显示手段,所述第1对应线显示手段用于显示表示所述物标和所述标记的对应关系的第1对应线。
3.根据权利要求2所述的影像生成装置,其特征在于,所述第1对应线从所述物标的显示位置沿垂直方向延伸。
4.根据权利要求2所述的影像生成装置,其特征在于,所述标记移动手段用于移动所述标记的显示位置以改变所述第1对应线的长度。
5.根据权利要求1所述的影像生成装置,其特征在于,所述标记移动手段视觉上连续地移动所述标记。
6.根据权利要求2所述的影像生成装置,其特征在于,所述标记移动手段使所述标记的所述第1对应线的长度为不与其他所述标记的所述确定区域重叠的长度,并且当不与其他所述标记的所述确定区域重叠时,所述标记的所述第1对应线的长度为事先设定所述第1对应线的长度。
7.根据权利要求1所述的影像生成装置,其特征在于,具备
第1详细信息显示手段,所述第1详细信息显示手段用于基于由所述物标信息获取手段获取的所述物标信息,显示与所述用户选择的所述标记相对应的所述物标的第1详细信息,
所述标记显示手段根据获取由所述第1详细信息显示手段显示的所述第1详细信息的所述物标信息获取手段的种类,所述标记的显示形态各异。
8.根据权利要求1所述的影像生成装置,其特征在于,所述确定区域比所述标记的面积大。
9.根据权利要求1所述的影像生成装置,其特征在于,具备危险物标检测手段,用于检测危险物标,
危险物标显示手段,用于突出显示由所述危险物标检测手段检测的所述危险物标或与所述危险物标相对应的所述物标信息。
10.根据权利要求1所述的影像生成装置,其特征在于,具备
第1详细信息显示手段,所述第1详细信息显示手段基于由所述物标信息获取手段获取的所述物标信息,将与所述用户选择的所述标记相对应的所述物标的第1详细信息显示于用于显示所述增强影像的屏幕的事先确定的第1空间。
11.根据权利要求10所述的影像生成装置,其特征在于,具备
第2对应线显示手段,所述第2对应线显示手段用于显示表示所述标记和所述第1详细信息的对应关系的第2对应线。
12.根据权利要求1所述的影像生成装置,其特征在于,具备
第1详细信息项目选择手段,所述第1详细信息项目选择手段用于从由所述物标信息获取手段获取的所述物标信息中所述用户选择作为所述第1详细信息的项目。
13.根据权利要求12所述的影像生成装置,其特征在于,具备
第1显示栏数量确定手段,所述第1显示栏数量确定手段基于由所述第1详细信息项目选择手段选择的所述项目,确定显示所述第1详细信息的第1显示栏的数量。
14.根据权利要求10所述的影像生成装置,其特征在于,具备
第1显示栏布置确定手段,所述第1显示栏布置确定手段用于确定表示所述第1详细信息的多个第1显示栏在所述第1空间中的布置。
15.根据权利要求14所述的影像生成装置,其特征在于,所述第1详细信息显示手段,对应于所述增强影像中的所述物标的显示位置的移动,将所述第1详细信息的显示移动至不同配置的所述第1显示栏。
16.根据权利要求15所述的影像生成装置,其特征在于,所述第1详细信息显示手段视觉上连续地移动所述第1详细信息的显示。
17.根据权利要求10所述的影像生成装置,其特征在于,具备
第1详细信息选择手段,所述第1详细信息选择手段用于从多个所述第1详细信息中所述用户选择至少一个所述第1详细信息,
第2详细信息显示手段,所述第2详细信息显示手段基于由所述物标信息获取手段获取的所述物标信息,将与所述第1详细信息选择手段选择的所述第1详细信息相同的所述物标的作为第2详细信息的不同信息显示于与所述第1空间不同的第2空间中。
18.一种影像生成方法,其特征在于,包括
通过设置于水上移动体的拍摄手段拍段,
获取与物标相关的物标信息,
在由所述拍摄手段拍摄的拍摄影像上生成显示有已获取的所述物标信息的增强影像,
使所述用户选择所述物标用的标记与所述增强影像中的所述物标的显示位置对应地移动显示,
为了使用于确定所述标记被选择了的确定区域不重叠,移动所述标记中的至少一个的显示位置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018161563A JP7191595B2 (ja) | 2018-08-30 | 2018-08-30 | 映像生成装置及び映像生成方法 |
JP2018-161563 | 2018-08-30 | ||
PCT/JP2019/034028 WO2020045601A1 (ja) | 2018-08-30 | 2019-08-29 | 映像生成装置及び映像生成方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112640445A true CN112640445A (zh) | 2021-04-09 |
CN112640445B CN112640445B (zh) | 2023-06-20 |
Family
ID=69642814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980056677.8A Active CN112640445B (zh) | 2018-08-30 | 2019-08-29 | 影像生成装置及影像生成方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11729492B2 (zh) |
EP (1) | EP3846457A4 (zh) |
JP (1) | JP7191595B2 (zh) |
CN (1) | CN112640445B (zh) |
WO (1) | WO2020045601A1 (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7107304B2 (ja) | 2017-04-21 | 2022-07-27 | 凸版印刷株式会社 | ホットスタンピング箔および積層光学装飾体付印刷体 |
US20220404833A1 (en) | 2020-03-11 | 2022-12-22 | Boundary Layer Technologies Inc. | Lift from vessel formation |
EP4173942A4 (en) * | 2020-06-24 | 2024-05-01 | Mapsea Corp. | NAVIGATION ASSISTANCE DEVICE USING AUGMENTED REALITY AND 3D IMAGES |
WO2021261307A1 (ja) * | 2020-06-26 | 2021-12-30 | ソニーグループ株式会社 | 制御装置、画像表示システム、画像表示方法、及び移動体 |
US11852476B2 (en) | 2021-02-19 | 2023-12-26 | Furuno Electric Co., Ltd. | Tidal current information display apparatus and method |
EP4047313B1 (en) * | 2021-02-19 | 2024-06-05 | Furuno Electric Co., Ltd. | Tidal current information display device |
EP4086573A1 (en) * | 2021-05-05 | 2022-11-09 | Furuno Electric Co., Ltd. | Tidal information display device |
EP4086575A1 (en) | 2021-05-07 | 2022-11-09 | Furuno Electric Co., Ltd. | Tidal current information display device |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001281331A (ja) * | 2000-03-28 | 2001-10-10 | Japan Radio Co Ltd | 船舶情報表示装置 |
JP2005061893A (ja) * | 2003-08-08 | 2005-03-10 | Toshima Imazu | 船舶航行支援装置 |
WO2006137526A1 (ja) * | 2005-06-23 | 2006-12-28 | Furuno Electric Co., Ltd. | 他船ターゲット表示装置 |
CN101038168A (zh) * | 2001-08-03 | 2007-09-19 | 古野电气株式会社 | 移动体显示装置 |
JP2008281504A (ja) * | 2007-05-14 | 2008-11-20 | Furuno Electric Co Ltd | 航法援助装置 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3045625B2 (ja) * | 1993-04-16 | 2000-05-29 | 川崎重工業株式会社 | 船舶の航行支援装置 |
US7131060B1 (en) * | 2000-09-29 | 2006-10-31 | Raytheon Company | System and method for automatic placement of labels for interactive graphics applications |
JP2002243495A (ja) | 2001-02-16 | 2002-08-28 | Koden Electronics Co Ltd | 複合航法装置 |
US7772996B2 (en) * | 2007-05-25 | 2010-08-10 | Spot Devices, Inc. | Alert and warning system and method |
US20090118998A1 (en) * | 2007-11-07 | 2009-05-07 | Flightview Inc. | Flight Tracking Display Systems and Methods |
US8265866B2 (en) * | 2010-12-15 | 2012-09-11 | The Boeing Company | Methods and systems for augmented navigation |
KR101072395B1 (ko) | 2011-07-21 | 2011-10-11 | 한국해양연구원 | 천정 이동형 투명 디스플레이를 이용한 선박용 증강현실 시스템 및 그 구현 방법 |
JP6286772B2 (ja) | 2014-02-28 | 2018-03-07 | 日本無線株式会社 | 情報配信装置、情報配信システム及び情報配信方法 |
US9826164B2 (en) | 2014-05-30 | 2017-11-21 | Furuno Electric Co., Ltd. | Marine environment display device |
JP6301897B2 (ja) | 2015-11-18 | 2018-03-28 | ファナック株式会社 | クーラントを循環させるための循環路を備える光ファイバ中継ユニット |
WO2017141829A1 (ja) | 2016-02-18 | 2017-08-24 | 株式会社リコー | 情報提供装置 |
JP6834537B2 (ja) | 2017-01-30 | 2021-02-24 | 株式会社リコー | 表示装置、移動体装置、表示装置の製造方法及び表示方法。 |
JP6857546B2 (ja) | 2017-05-24 | 2021-04-14 | 古野電気株式会社 | 映像生成装置及び映像生成方法 |
-
2018
- 2018-08-30 JP JP2018161563A patent/JP7191595B2/ja active Active
-
2019
- 2019-08-29 EP EP19854541.0A patent/EP3846457A4/en active Pending
- 2019-08-29 WO PCT/JP2019/034028 patent/WO2020045601A1/ja unknown
- 2019-08-29 CN CN201980056677.8A patent/CN112640445B/zh active Active
-
2021
- 2021-02-26 US US17/186,211 patent/US11729492B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001281331A (ja) * | 2000-03-28 | 2001-10-10 | Japan Radio Co Ltd | 船舶情報表示装置 |
CN101038168A (zh) * | 2001-08-03 | 2007-09-19 | 古野电气株式会社 | 移动体显示装置 |
JP2005061893A (ja) * | 2003-08-08 | 2005-03-10 | Toshima Imazu | 船舶航行支援装置 |
WO2006137526A1 (ja) * | 2005-06-23 | 2006-12-28 | Furuno Electric Co., Ltd. | 他船ターゲット表示装置 |
JP2008281504A (ja) * | 2007-05-14 | 2008-11-20 | Furuno Electric Co Ltd | 航法援助装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2020045601A1 (ja) | 2020-03-05 |
US11729492B2 (en) | 2023-08-15 |
EP3846457A1 (en) | 2021-07-07 |
EP3846457A4 (en) | 2022-05-04 |
JP2020036201A (ja) | 2020-03-05 |
US20210185238A1 (en) | 2021-06-17 |
CN112640445B (zh) | 2023-06-20 |
JP7191595B2 (ja) | 2022-12-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112640445B (zh) | 影像生成装置及影像生成方法 | |
JP7225324B2 (ja) | 映像生成装置、および、映像生成方法 | |
CN110574366B (zh) | 影像生成装置 | |
CN110998672B (zh) | 影像生成装置以及影像生成方法 | |
JP7214402B2 (ja) | 映像生成装置及び映像生成方法 | |
JP7021259B2 (ja) | 映像生成装置及び映像生成方法 | |
JP6720409B2 (ja) | 映像生成装置 | |
WO2023276307A1 (ja) | 画像生成装置、船舶情報表示方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |