CN106101610A - 图像显示***、信息处理设备和图像显示方法 - Google Patents

图像显示***、信息处理设备和图像显示方法 Download PDF

Info

Publication number
CN106101610A
CN106101610A CN201610270077.XA CN201610270077A CN106101610A CN 106101610 A CN106101610 A CN 106101610A CN 201610270077 A CN201610270077 A CN 201610270077A CN 106101610 A CN106101610 A CN 106101610A
Authority
CN
China
Prior art keywords
unit
region
image
wide angle
angle picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201610270077.XA
Other languages
English (en)
Other versions
CN106101610B (zh
Inventor
藤田阳平
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of CN106101610A publication Critical patent/CN106101610A/zh
Application granted granted Critical
Publication of CN106101610B publication Critical patent/CN106101610B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

提供一种图像显示***,该图像显示***包括信息处理设备和从所述信息处理设备接收广角图像的终端设备。所述信息处理设备包括确定所述广角图像中比所述广角图像的其它区域较少被观看的区域的区域确定单元,从所述广角图像中删除由所述区域确定单元确定的较少被观看的所述区域以生成减少的广角图像的减少单元,和传输由所述减少单元生成的所述减少的广角图像到所述终端设备的第一传输单元。所述终端设备包括从所述信息处理设备接收所述减少的广角图像的接收单元,和在显示装置上显示所述减少的广角图像的图像显示单元。本发明还包括图像显示方法。

Description

图像显示***、信息处理设备和图像显示方法
技术领域
本发明涉及图像显示***,信息处理设备,和图像显示方法。
背景技术
已知的所谓球面图像或全景图像是景物的360度全景的图像(以下简称“全景图像”)。通过使用具有特殊的光学***的专用成像设备,用户能够一次对焦而拍摄到全景图像。用户也可以使用拍摄矩形图像的正常成像设备通过拼接多个图像来获得全景图像。如上所述,全景图像是基本上没有死角的360度图像,并且用户可以在显示器等上选择性的显示/观看全景图像的给定区域(角度)。
同意,如果因特网等等提供全景图像,用户例如可以使用PC(个人计算机)下载和观看全景图像。然而,全景图像的数据量往往是相当大的,因为其拍摄360度的视野。因此,例如当用户希望通过因特网观看全景图像时,也许要花费一段时间来下载全景图像,使得显示全景图像需要的等待时间往往会很长。
已知的用于缩小图像数据下载的下载时间的技术涉及让服务器传递渐进的图像到终端等等(例如,日本特开第2008-022488号公报)。更具体地说,日本特开第2008-022488号公报描述的服务器通过传输低分辨率的小数据量的图像而开始,然后逐渐传输较大数据量的较高分辨率的图像。
然而,在涉及让服务器传输渐进的图像的技术中,用户最初在PC上显示的图像是低分辨率图像,在显示适当的高分辨率图像之前,用户仍不得不等待很长时间。因此,例如,因为最初呈现给用户低分辨率图像,所以用户可能不会对下载图像的网站形成好感,或者用户可能受到网站提供的实际图像的图像质量是低质量的误解的影响。
发明内容
本发明的一方面提供能够缩小传递广角图像所需时间的图像显示***。
根据本发明的一个实施例,被提供的图像显示***包括信息处理设备和从信息处理设备接收广角图像的终端设备。信息处理设备包括,确定与其它广角图像区域比不常被观看的广角图像区域的区域确定单元,从广角图像删除通过区域确定单元确定的不常被观看的区域来生成减少的广角图像的减少单元,和传输由减少单元生成的减少的广角图像到终端设备的第一传输单元。终端设备包括从信息处理设备接收减少的广角图像的接收单元,和在显示装置上显示减少的广角图像的图像显示单元。
附图说明
图1是示意性地图示根据本发明实施例通过图像显示***100实现图像处理过程的实例的图;
图2是示意地图示内容注册人8注册全景图像的操作实例的图;
图3是示意地图示根据本实施例的图像显示***100的实例配置的图;
图4是示出图像处理服务器10的硬件配置的实例的框图;
图5是示出图像显示终端30的硬件配置实例的框图;
图6为显示图像处理服务器10和图像显示终端30的功能配置实例的框图;
图7是显示图像显示***100的操作过程实例的时序图;
图8A-8C是示意地图示全景图像的每个单元格已被观看过的次数的表格;
图9A和9B是显示由数据删除确定单元14实现的确定要删除的单元格的实例过程的流程图;
图10是显示通过图像显示终端30实现的用于显示单元格被删除后的内容的实例过程的流程图;
图11是示出根据本发明另一个实施例的图像处理服务器和图像显示终端的功能配置实例框图;
图12是显示从全景图像删除预定区域的实例的图;
图13是显示通过数据删除确定单元实现的从全景图像删除天空区域和地面区域的过程实例流程图;
图14是示意地显示全景图像的多个图像拍摄位置的图;
图15是显示删除全景图像的移动方向相反的后方范围的实例的图;
图16是显示通过数据删除确定单元实现删除全景图像的移动方向相反的后方范围的过程实例流程图;
图17是显示全景图像的视野区域的实例的图;
图18是显示通过数据删除确定单元实现从全景图像删除视野区域以外区域的过程实例的流程图;
图19是显示成像设备的布置和建筑物的布局的实例的图;
图20显示用户在图像显示终端上显示的观看屏的实例;
图21是显示通过图像处理服务器实现注册关于每个时间间隙的单元格已被观看过的次数的过程实例的流程图;
图22是显示通过数据删除确定单元实现确定关于每个时间间隙要删除的单元格的过程实例的流程图;
图23是显示能够使用户指定任意观看区域的用户界面的实例的图;
图24A和24B是显示通过数据删除确定单元实现的确定关于每个用户要删除的单元格的程序实例的流程图;和
图25A-25C是示意地显示在观看区域管理数据库中对应于观看区域或任意观看区域的单元格的实例的图。
具体实施方式
在下文中,参考附图描述本发明的实施例。
[第一实施例]
<通过图像显示***的图像处理>
图1示意性地图示根据本发明实施例的通过图像显示***100实现的图像图像处理过程的实例。图像显示***100包括经由网络N连接的图像处理服务器10和图像显示终端30。以下是根据本实施例的用于传递全景图像的传递处理的原理图描述。
(1)操作图像显示终端30的用户2从图像处理服务器10下载全部全景图像,并显示用户希望观看的全景图像的区域(此区域以下称为“观看区域”或“显示区域”)。图1中,用户正在图像显示终端30上显示全景图像的观看区域5。
(2)图像显示终端30传输观看区域信息到图像处理服务器10,该观看区域信息指定被用户观看的观看区域5。
(3)在图像处理服务器10中,全景图像预先被划分成单元格。注意,每个单元格左上角表示的数字代表相应单元格的单元格编号。每当观看区域信息被传输到图像处理服务器10,图像处理服务器10就将关于已被用户观看过的每个单元格而存储的观看次数加1。图1的全景图像中,观看区域5包括单元格2、3、6和7,因而,关于单元格2、3、6和7而存储的观看次数加1。当全景图像被至少若干用户2(或被至少若干次)观看、并且观看区域信息每当被传输到图像处理服务器10时,图像处理服务器10能够识别出不常被观看的单元格。
(4)图像处理服务器10保留和其他单元格相比常被观看的单元格(即,观看次数较多的单元格),并且删去很少被观看的单元格(观看次数较少的单元格)的图像数据。在图1的实例中,单元格2-8被保留而其他单元格的图像数据被删除。注意,已经被删除的单元格在图1中用斜线表示。然后,下一次用户发送对于全景图像的请求时,图像处理服务器10仅传输单元格2-8的图像数据到图像显示终端30。用这种方法,在不用降低全景图像的画质的情况下,可减少下载全景图像所需要的时间。
<术语>
在下文中,定义了本说明书使用的某些术语。
“内容”指的是至少一幅全景图像。内容同样可包含例如示出全景图像被拍摄的地点的地图。此外,当全景图像为视频图像时,内容可包含例如表示全景图像的图像拍摄地点在路线上的地图。并且,内容可包含例如在图像拍摄地点收集的音频数据。
“全景图像”是拍摄基本上360度视野的图像。但是注意,全景图像不必是完全拍摄360度视野的图像,只要拍摄基本上360度视野的图像。即,全景图像有至少比正常图像更宽的视角。全景图像也包括通过诸如鱼眼镜头的广角镜头拍摄的被拼接在一起的图像。注意,本发明的实施例可同样适用于例如180度视野的图像。即,全景图像是例如可以被划分为多个分区并被部分地传输的广角图像的一种形式。
<图像处理服务器中的全景图像的注册>
静态图像和视频图像可在图像处理服务器10中被注册。在图像处理服务器10中注册内容的用户(以下简称“内容注册人8”)正在注册静止图像的情况下,内容注册人8可将在特定地点拍摄的全景图像传输到图像处理服务器10。全景图像具有附加的位置信息,图像处理服务器10可基于此位置信息来识别全景图像的图像拍摄位置。
内容注册人8也可例如按以下方式注册视频图像。注意,在以下说明中,为方便解释,内容注册人8和拍摄全景图像的人被假定为同一个人。然而,内容注册人8可与拍摄全景图像的人不同。
图2是示意地图示内容注册人8注册全景图像的操作实例的图。
(1)内容注册人8步行的同时手持能够拍摄全景图像的成像设备7。成像设备7可配置成例如以固定的时间间隔或固定的距离间隔拍摄图像,并且存储被拍摄的全景图像和相关的图像拍摄位置。用这种方法,可获得沿着内容注册人8遵循的路线被拍摄的图像。注意,本实施例的应用并不局限于内容注册人8步行的情况。在其他实例中,成像设备7可放入机动车辆中,以拍摄行驶路线的视频图像等等。
(2)一旦内容注册人8达到期望的目的地并且拍摄路线的全景视频图像的操作完成,内容注册人8就经由无线站设备9,诸如基站或接入点,传输拍摄的全景视频图像到图像处理服务器10。
(3)图像处理服务器10生成内容并存储生成的内容,该内容使用内容注册人8所遵循路线的地图和全景视频图像。注意,在成像设备7没有通信功能的情形中,已经从成像设备7接收到全景视频图像的装置,例如智能手机,可将全景视频图像传输到图像处理服务器10。同样地,在成像设备7没有用于获得图像拍摄位置的位置信息的位置检测功能,诸如GPS(全球导航***)的情形中,由诸如智能手机的装置的GPS接收机获取的位置信息例如可附加在全景视频图像上。
此外,在如上所述跟图2相关的实例中,假设成像设备7能够拍摄全景图像。然而,在其他实例中,正常的成像设备可被用于拍摄矩形区域的图像。这样的话,例如,内容注册人8可通过将多个矩形区域的图像拼接在一起来生成全景图像。
<***配置>
图3示出根据本实施例的图像显示***100的实例配置示意图。图像显示***100包括图像处理服务器10和至少一个图像显示终端30,它们可经由网络N互相通信。
网络N例如可通过图像显示终端30所在的公司等的设施内的LAN、将LAN连接到因特网的供应商的供应商网络、以及由电信操作员提供的电话线等等被配置。网络N可包含因特网。网络N可通过例如有线或无线网络,或有线和无线网络的组合被配置。并且,注意,在图像显示终端30被直接连接到电话线或移动电话网络的情形中,图像显示终端可在不被连接到LAN的情况下被连接到供应商网络。
图像处理服务器10是可进行传递全景图像和减少全景图像的数据量的处理的信息处理设备。注意,在一些实施例中,例如可提供单独的服务器用于传递全景图像,而图像处理服务器10可主要进行减少全景图像的数据量的处理。
图像显示终端30是用户使用的信息处理设备,该设备作为用来下载和观看全景图像的终端设备。更准确地说,例如,图像显示终端30可以是PC(个人计算机)、智能手机、平板设备、蜂窝电话、汽车导航终端、可穿戴计算机(例如,头戴显示器、智能手表)、相机、数字白板、投影仪、游戏机、MFP(多功能***设备),等等。
<<硬件配置>>
图4示出图像处理服务器10的硬件配置的实例。注意,图4所示的图像处理服务器10的硬件配置不是必须要设置在单个设备的单个外壳中。在一些实施例中,例如为了基于负载等适当地分配资源,图像处理服务器10的配置可由云计算来确定。
图4中,图像处理服务器10包括连接到总线310的CPU(中央处理单元)301、ROM(只读存储器)302、RAM(随机存取存储器)303、HDD(硬盘驱动器)305、显示器308、网络I/F(接口)309、键盘311、鼠标312、介质驱动器307和光驱动器314。CPU 301执行存储在HD(硬盘)304中的图像图像处理程序,并控制图像处理服务器10的总体操作。ROM 302存储程序,例如被用来驱动CPU 301的IPL(初始程序导入)。RAM 303是主存储装置,用作CPU 301的工作区。HD 304是包括非易失性存储器的存储装置。
HDD 305在CPU 301的控制之下,控制与HD 304相关的各种数据的读或写。显示器(显示装置)308显示各种信息项,例如光标、菜单、窗口、文本及/或图像。网络I/F 309是与网络N的接口。
键盘311和鼠标312是输入/输出装置。键盘311包括用于输入字母、数字和/或各种指令的多个键,并接受通过这些键的各种输入。鼠标312例如接受处理对象的选择,各种指令的选择和执行,以及鼠标指针的移动。
介质驱动器307控制介质306,例如闪速存储器,相关的数据的读或写(存储)。光驱动器314控制可移动记录介质,例如CD(光盘)313,相关的各种数据的读或写。
注意,图像图像处理程序例如作为可安装格式或可执行格式的文件被存储在计算机可读记录介质中,例如介质306或CD 313中,并以这种状态被分配。另外,图像图像处理程序例如可从作为服务器的任何类型的信息处理设备中被下载。
图5示出图像显示终端30的硬件配置实例。注意,尽管图5示出了图像显示终端30由智能手机或平板设备实现的实例,但图像显示终端30的硬件配置不局限于本实例。
图5中,图像显示终端30包括连接到总线210的CPU 201、ROM 202、RAM 203、闪速存储器204、CMOS(互补金属氧化物半导体)传感器205、加速度/方向传感器206、介质驱动器208、音频输入单元211、音频输出单元212、通信装置213、GPS接收机214、显示器215、触板216。总线210例如是用于电连接上述单元的地址总线或数据总线。
CPU 201通过执行存储在闪速存储器204中的程序来控制图像显示终端30的总体操作。ROM 202存储IPL或基本输入/输出程序。RAM 203是主存储器,用作CPU 201执行程序时的工作区。闪速存储器204是非易失性存储器装置,用于存储图像显示终端30要执行的程序和各种数据。例如,闪速存储器204可存储操作***和图像显示终端30要执行的终端程序。
CMOS传感器205是成像元件,其通过在CPU 201控制下拍摄对象的图像而获取图像数据。注意,在一些实施例中,CCD传感器可代替CMOS传感器205被使用。加速度/方向传感器206例如包含用于检测地磁的电磁罗盘功能、陀螺仪传感器、和加速度传感器。介质驱动器208控制与诸如闪速存储器的记录介质207相关的数据的读或写(存储)。记录介质207是移动存储装置,可从记录介质207读取(检索)其上记录的数据,或在介质驱动器208的控制之下,可在记录介质207上写入(存储)新数据。
音频输入单元211是将音频转换为音频信号的麦克风。音频输出单元212是将音频信号转换为音频的扬声器。通信装置213可使用天线213a与最近的无线站设备9交换无线通信信号。另外,通信装置213可包含连接到LAN的LAN卡。GPS接收机214使用GPS卫星或作为室内GPS的IMES(室内发消息***)来检测和计算图像显示终端30的位置信息(纬度、经度和高度)。
显示器(显示设备)215在CPU 201控制之下显示各种图像和对象。例如,显示器215可显示全景图像和/或使用户能够操作图像显示终端30的各种菜单和图标。触板216例如可整体地重叠在显示器215上,并检测手指或触控笔在显示器215上的触摸位置(坐标)。
终端程序例如可以是浏览软件或具有类似功能的应用软件。终端程序例如作为可安装格式或可执行格式的文件被存储在计算机可读记录介质中,例如记录介质207中,并以这种状态被分配。另外,终端程序例如可从作为服务器的任何类型的信息处理设备中被下载。
<功能配置>
在下文中,参考图6描述图像处理服务器10和图像显示终端30的功能配置。图6为显示图像处理服务器10和图像显示终端30的功能配置实例的框图。注意,图6中,为方便解释只显示了一个图像显示终端30。
<<图像处理服务器10>>
图像处理服务器10包括通信单元11、全景图像提供单元12、观看区域管理单元13、数据删除确定单元14、图像编辑单元15和读/写单元19。
注意,图像处理服务器10的上述功能元件例如可通过图4所示的图像处理服务器10的一个或多个硬件元件实现,这些元件基于来自CPU 301的指令而进行操作,CPU 301执行从HD 304载入RAM 303的图像图像处理程序1100。
图像处理服务器10同样包括可由图4的HD 304、ROM 302和RAM 303中的至少一个配置的存储单元1000。存储单元1000存储图像图像处理程序1100。在下文中,描述存储在存储单元1000中的数据库(DB)。
内容ID 内容名称 URI 位置信息
C001 内容ABC ftp://xxx.co.jp/picture/ABC.jpg (X,Y,Z)
C002 内容DEF ftp://xxx.co.jp/picture/DEF.jpg (X,Y,Z)
[表1]全景图像管理表
存储单元1000存储全景图像管理DB 1001,其可由如上表1所示的全景图像管理表来配置。在表1代表的全景图像管理表中,注册了与内容ID关联的内容名称、URI(统一资源标识符)和位置信息。内容ID是用于唯一识别注册在图像处理服务器10中的内容的识别信息。为了让用户能够识别内容,内容名称可包含字符、符号和/或数字。注意,内容名称不是必须为图像处理服务器10中的唯一名称。URI表示内容被存储或管理的存储地点。位置信息代表包含在内容中的全景图像的图像拍摄位置。注意,尽管位置信息实际是根据包含在图像文件中的图像数据的数据格式在图像文件中被描述,但为方便描述,位置信息显示在表1中。并且,注意,在内容包括视频图像的情形中,位置信息被附加在组成视频图像的每个帧上。
内容ID=C001 观看者的数量=15
单元格编号 坐标信息 观看次数
1 (X,Y)(X,Y) 0
2 (X,Y)(X,Y) 2
3 (X,Y)(X,Y) 1
4 (X,Y)(X,Y) 2
[表2]观看区域管理表
存储单元1000同样存储观看区域管理DB 1002,其可由例如以上表2所示的观看区域管理表来配置。在表2代表的观看区域管理表中,对于含有全景图像的内容的每个内容ID,单元格编号、坐标信息和观看次数互相关联地被注册在表中。并且,观看区域管理表记录到目前为止已观看过内容的观看者的数量。单元格编号是用于识别被划分为多个单元格区域的全景图像的每个分隔区域(单元格)的识别信息。坐标信息例如通过单元格左上角上的坐标和右下角的坐标来指定单元格。观看次数例如是从全景图像变得可观看时开始,单元格已被观看过的次数。注意,在一些实施例中,单元格在过去预定时期(例如,1周、1个月或1年)内已被观看过的次数可被记录为观看次数。这样的话,观看者的数量也可是在过去预定时期内已观看过内容的观看者的数量。
单元格的尺寸没有特别的限制,并且可基于应用程序做最佳设计。例如,单元格可设计成VGA(视频图形阵列:480×640)的二分之一到十分之一。注意,当单元格很小时,因为可调整的最小单位更小,所以通过单元格的删除,变得更容易准确地反映出用户的观看区域。另一方面,当单元格太小时,图像处理服务器10的处理负荷增加。因此,单元格可基于图像处理服务器10的处理能力等等被设计。
(图像处理服务器功能)
图像处理服务器10的通信单元11例如可通过网络I/F 309和图4所示的CPU 301发出的命令来实现。通信单元11经由网络N向图像显示终端30传输或从图像显示终端30接收各种类型的数据。
全景图像提供单元12将存储在全景图像管理DB 1001中的内容提供到图像显示终端30。图像显示终端30例如可响应用户操作而接入网站,并且当用户选择网站上的按钮或图像时,例如通过向图像处理服务器10发送HTTP请求,图像显示终端30可请求链接到选择的按钮或图像的内容。
观看区域管理单元13例如可通过图4所示的CPU 301发出的命令来实现。观看区域管理单元13从图像显示终端30获得观看区域信息,并更新存储在观看区域管理表中的观看次数。即,基于观看区域信息,观看区域管理单元13确定构成正被用户观看的全景图像的观看区域的、一个或多个单元格的单元格编号,增加与相应单元格编号关联存储的观看次数。注意,将在下文中详细描述观看区域信息。
数据删除确定单元14例如可通过来自图4所示CPU 301的命令实现。数据删除确定单元14参照观看区域管理表,并确定删除不常被观看的全景图像的单元格。如以下详细描述的,当多个用户观看相同的全景图像时,某些单元格可能与其他单元格相比更常被观看,同时某些其它的单元格可能与其它单元格相比更少被观看,从而产生单元格被观看次数的差异。因此,数据删除确定单元14可决定删除观看次数少于预定阈值的单元格。
图像编辑单元15可例如通过来自图4所示的CPU 301的命令实现。图像编辑单元15删除已被数据删除确定单元14确定要从全景图像中删除的单元格。注意,原始的全景图像的副本会在删除一个或多个单元格之前被创建,而没有任何单元格被删除的原始全景图像同样存储在图像处理服务器10中。
读/写单元19例如可通过HDD 305和来自图4所示CPU 301的命令实现。读/写单元19在存储单元1000中存储各种数据,并读取存储在存储单元1000中的各种数据。
<<图像显示终端30>>
图像显示终端30包括通信单元31、图像显示单元32、操作输入接受单元33、图像旋转单元34、观看区域记录单元35和读/写单元39。
注意,图像显示终端30的上述功能元件例如可以通过图5所示的图像显示终端的一个或多个硬件元件实现,这些功能元件基于来自CPU 201的命令而进行操作,CPU 201执行从闪速存储器204装载到RAM 203中的终端程序3100。并且,一个或多个上述功能元件可以通过从图像处理服务器10传送的网页(例如,HTML数据、XML数据和用JavaScript(注册商标)编写的程序)被实现,而不是终端程序3100。
图像显示终端30同样包括存储单元3000,该存储单元3000可由图5中的闪速存储器204、ROM 202、和RAM 203中的至少一个配置。存储单元3000存储终端程序3100。在下文中,描述配置在存储单元3000中的各种数据库。
静态图像
[表3A]观看区域记录表(静态图像)
视频
[表3B]观看区域记录表(视频图像)
[表3C]观看区域记录表(视频图像)
存储单元3000存储观看区域记录DB 3001,观看区域记录DB 3001例如可通过如表3A-3C所示的观看区域记录表被配置。表3A显示了用于包含全景图像的内容的观看区域记录表的实例,该全景图像是静态图像。表3A所示的内容ID对应于包含有当前图像显示终端30显示的全景图像的内容的内容ID。并且,指定由用户观看的观看区域的两组坐标(例如,观看区域的左上角和右下角的坐标)被记录在表3A中。注意,尽管三个观看区域被记录在表3A中,但观看区域记录表中可能没有记录观看区域,或记录了两个、四个或更多的观看区域。并且,在本实例中,指定观看区域的两组坐标对应于观看区域信息(显示区域信息)。注意,然而,观看区域信息可以是指定特定区域的任何信息。因此,例如,观看区域信息可包含观看区域的中心的坐标和观看区域包含的像素的数量,或观看区域信息可以是观看区域自身的图像。
表3B和表3C显示了用于包含全景图像的内容的观看区域记录表的实例,该全景图像是视频图像。在内容包含全景视频图像的情形中,两种不同的方法(以下称为“连续记录方法”和“逐帧记录方法”)中的一种可以用于记录内容的观看区域。连续记录方法类似于记录静态图像的观看区域的方法,并涉及记录当视频图像被播放时至少显示(观看)一次的区域(表3B)。即,不管视频图像中包含的帧的数量,为该视频图像创建一个观看区域记录表。逐帧记录方法涉及记录关于组成视频图像的每个帧已被显示(观看)的观看区域(表3C)。即,表3C包括分配有帧号的多个观看区域记录表,使得已被显示(观看)的观看区域可以关于每个帧被记录。
(图像显示终端功能)
图像显示终端30的通信单元31例如可通过通信装置213和来自图5所示的CPU 201的命令实现。通信单元31经由网络N向图像处理服务器10传输或从图像处理服务器10接收各种类型的数据。
图像显示单元32例如可通过来自图5所示的CPU 201的命令实现。图像显示单元32在显示器215上显示全景图像,该全景图像包含在已从图像处理服务器10下载的内容中。
操作输入接受单元33例如可通过触板216和来自图5所示的CPU 201的命令实现。操作输入接受单元33接受用户输入到图像显示终端30的各种用户操作。例如,操作输入接受单元33可从用户接受用于改变全景图像的观看区域的操作。并且,如果全景视频图像正被用户观看,那么除了接受用于改变观看区域的操作,操作输入接受单元33例如同样可以接受用于冻结(暂停)、播放和/或选择帧(图像拍摄位置)的操作。
图像旋转单元34例如可通过来自图5所示的CPU 201的命令实现。图像旋转单元34响应用户操作而旋转由显示器215显示的全景图像,并且在显示器215上显示用户选择的全景图像的观看区域。
观看区域记录单元35例如可通过来自图5所示的CPU 201的命令实现。在静态图像的情况中,在从图像旋转单元34终止旋转全景图像时起经过预定时期后,观看区域记录单元35例如可在观看区域记录DB 3001中注册当前在显示器215上显示的观看区域的坐标。注意,观看区域不是必须要和显示器215上显示的区域完全匹配。即,例如可提供余量,使得观看区域可依照要求被稍微放大或缩小。
在视频图像被显示(观看)并且实现连续记录方法的情形中,每当图像旋转单元34改变观看区域,观看区域的坐标就被记录。注意,这样的话,如同记录静态图像的观看区域的情形,观看区域可在从图像旋转单元34终止旋转全景图像时起经过预定时期之后被记录下来。在实现逐帧记录方法来记录视频图像的观看区域的情形中,每当帧被切换到另一个帧时,在显示器215上显示的观看区域的坐标被记录。注意,观看区域记录单元35将指定记录在观看区域记录表中的观看区域的坐标发送到图像处理服务器10。
读/写单元39例如可通过闪速存储器204和来自图5所示CPU 201的命令实现。读/写单元39在存储单元3000中存储各种类型的数据,并读取(检索)存储在存储单元3000中的各种数据。
<操作过程>
图7是显示图像显示***100的操作过程实例的时序图。图7的操作由图像显示终端30向图像处理服务器10发送内容请求开始。
步骤S1中,图像处理服务器10的读/写单元19从全景图像管理DB 1001中读取(检索)请求的内容,并发送内容到通信单元11。
步骤S2中,图像处理服务器10的通信单元11传输内容到图像显示终端30的通信单元31。用这种方法,图像显示终端30获得内容。
步骤S3中,已接收到内容的图像显示终端30的通信单元31将内容发送到图像显示单元32。用这种方法,图像显示单元32在显示器215上显示包含在内容中的全景图像。
步骤S4中,用户通过操作图像显示终端30来旋转全景图像,以在显示器215上显示期望的观看区域。随后,图像旋转单元34旋转在显示器215上显示的全景图像。
步骤S5中,在全景图像被显示在显示器215上的同时,观看区域记录单元35监控从图像旋转单元34旋转全景图像开始是否已经经过至少预定时期(例如,3秒钟)。即,观看区域记录单元35判定观看区域是否已在显示器215上至少连续显示了预定时期。一旦判定观看区域已至少连续显示了预定时期,观看区域记录单元35在观看区域记录DB3001中记录观看区域。注意,在用户观看内容的同时,步骤S5的处理被重复进行(S5’)。
步骤S6中,当用户结束显示全景图像、关闭浏览器或明确地向图像显示终端30输入操作来停止观看全景图像时,图像显示单元32(或操作输入接受单元33)发送显示结束信号到通信单元31。
步骤S7中,通信单元31将已从观看区域记录DB 3001读取(检索)的观看区域信息传输到图像处理服务器10。
步骤S8,图像处理服务器10的通信单元11接收观看区域信息并发送观看区域信息到观看区域管理单元13。
步骤S9中,观看区域管理单元13例如将指定观看区域的观看区域信息转换为构成观看区域的一个或多个单元格的一个或多个单元格编号,并将与观看区域管理DB 1002中的对应单元格编号关联存储的观看次数加一。并且,将记录在观看区域管理DB 1002中的对于内容观看者的数量加一。注意,在关于观看者的数量的信息从图像显示终端30被传送的情形中,例如,相应的数量可以被添加到记录在观看区域管理DB 1002中的观看者的数量。
步骤S10中,数据删除确定单元14从观看区域管理DB 1002中读取(检索)对于每个单元格编号的观看次数和观看者的数量,以确定要被删除的单元格。注意,参考图8A-9B,以下具体描述确定要被删除单元格的处理。
步骤S11中,数据删除确定单元14发送确定要被删除的单元格的单元格编号到图像编辑单元15。
步骤S12中,图像编辑单元15从全景图像中删除要被删除的单元格,并在全景图像管理DB 1001中存储编辑完作为结果的全景图像(减少的全景图像)。
如上所描述的,每当用户观看全景图像,图像处理服务器10可确定要被删除的单元格并从全景图像中删除这个单元格,这样,图像处理服务器10可仅传输全景图像中经常被观看的区域。在这种方法中,用户下载全景图像所需的等待时间可被减少。注意,从全景图像中删除单元格的删除时机并非必须为每当用户观看全景图像或每当图像处理服务器10接收观看区域信息的时候。例如,可在某些数量的用户已观看过全景图像后、以诸如每天一次的固定的时间间隔、或响应外部处理请求而执行删除。
<<要被删除单元格的确定>>
(基于观看次数与观看者的数量的比率的删除确定)
下文中,参考图8A描述在图7的步骤S10中由数据删除确定单元14进行的确定要被删除的单元格的处理。注意,尽管用于确定要被删除的单元格的处理可与静态图像和视频图像都基本上相同,但为方便解释,下文将首先描述关于静态图像进行的确定处理。
图8是示意地图示全景图像的每个单元格被观看过的次数的表格。图8A中,分配给单元格整数,该整数的值从单元格左上角到右下角依次加一。这些整数对应于单元格的单元格编号。并且,在单元格的单元格编号旁边表示的括号中的数字对应于单元格已经被观看过的次数(观看次数)。注意,图8A对应于与以上表2不同的方式所表示的观看区域管理表。
图9A是显示由删除确定单元14实现的确定要删除的单元格的实例过程的流程图。
步骤S21中,数据删除确定单元14从观看区域管理DB 1002中读取(检索)观看者的数量和每个单元格的观看次数。
然后,在步骤S22中,数据删除确定单元14对于每个单元格计算观看次数与观看者的数量的比率。注意,因为每当从图像显示终端30接收观看区域信息时,观看者的数量将加一,因此同样可以基于每个单元格的观看数量和已经接收的观看区域信息的次数(观看区域信息的接收的数量)来计算上述比率。
然后,在步骤S23中,数据删除确定单元14决定删除上述计算出的比率低于阈值的单元格。阈值可以是预先设置的预定值。例如,在阈值被设置为50%的情形中,因为在图8A中观看者的数量是15,所以数据删除确定单元14可决定删除观看数量小于或等于7的单元格。在这个情形中,如图8B所示,除了单元格编号13-24以外的其他的单元格可被删除。
注意,在上述删除方法中,被删除的单元格的数量不是固定的,而且依据设定的阈值和观看者的观看倾向而变化。换句话说,如果阈值被设置地高或经常被观看的单元格和不常被观看的单元格之间存在很大的差值,则大量的单元格可能会被删除。另一方面,如果阈值被设置地低或每个单元格的观看次数的差值相对小,则大量的单元格可能被保留。
注意,阈值并不必是固定的,而且例如可由内容注册人设置。并且,对应于天空或地面的区域例如可由相关图像处理所检测,并且可基于检测到的区域的面积来改变阈值。
另外,在一些实施例中,内容注册人等可预先指定不要删除的单元格。例如,用户最初要在显示器上显示的从图像处理服务器10传输的全景图像的区域被预先确定。所以,包括该区域的至少一部分的单元格最好不要被删除。因此,这样的单元格例如可作为不能被删除的单元格被注册在观看区域管理DB 1002内。同样,拍摄重要信息的图像的单元格可作为不能被删除的单元格被注册。进一步地,在一些实施例中,观看区域记录单元35可配置为记录最初在显示器215上显示的观看区域,而不管该观看区域是否被连续显示。这样,可防止表示最初被显示的观看区域的一个或多个单元格被删除。
下文中,描述当全景图像为视频图像时,确定要删除的单元格的处理。在已经使用连续记录方法记录了视频图像的观看区域的情形中,确定要删除的单元格的处理基本上和关于静态图像进行的处理类似。注意,在这种情况下,数据删除确定单元14确定要删除的单元格,并且图像处理服务器10的图像编辑单元15从构成全景图像的所有帧中删除要删除的单元格。上述方法适合在视频图像的变化相对较小的情况下实现,以使大部分用户不太可能改变观看区域。这样,图像显示终端30在删除单元格时的处理负载可以降低。
在已经逐帧记录方法来记录视频图像的观看区域的情形中,确定要删除的单元格的处理也基本上和关于静态图像进行的处理类似。然而,在这种情况下,数据删除确定单元14对于构成全景图像的每个帧确定要删除的单元格。然后,图像处理服务器10的图像编辑单元15对于构成全景图像的每个帧删除要删除的单元格。注意,如果视频图像包含实质的变化,那么多个用户观看的观看区域例如可能会逐帧变化。因此,上述方法可为用户提供逐帧适当地删除单元格的全景视频图像。
(固定数量的单元格的保留和其它单元格的删除)
在一些实施例中,例如通过执行如图9B所示的过程,数据删除确定单元14可确定要被删除的固定数量的单元格。注意图9B的步骤S31和S32的处理分别与图9A的步骤S21和S22的处理相同。然而,如下所述,图9B的步骤S33的处理不同于图9A的步骤S23。
在图9B的实例中,数据删除确定单元14预先确定了要被删除的单元格的数量。例如,数据删除确定单元14可以被设置为将单元格的数量减少到单元格总数的一半。这样的话,步骤S33中,数据删除确定单元14可决定保留比率在上半部范围内的一半单元格(例如,图8A的实例中30个单元格中的15个单元格),并且决定删除另外一半单元格。注意,在上述实例中,可在不用对于每个单元格计算比率的情况下,确定要被删除的单元格。即,可通过确定和保留观看次数在上半部范围中的一半单元格来获得相同的结果。
在单元格的总数的一半要从图8A的全景图像被删除的情形中,例如,数据删除确定单元14可决定保留单元格编号为13-24、11、27和28的单元格,并决定删除其他单元格,如图8C所示。如此可以理解为,在图9B的实例中,要被删除的单元格的数量是预先确定的,并且同样地,固定数量的单元格可始终被保留下来。并且,通过将要被删除的单元格的数量设置为相对大的数,可以减少图像处理服务器10传输全景图像到图像显示终端30所需的时间。同样,通过将要被删除的单元格的数量设置为相对小的数,图像处理服务器10能够将包含用户有可能观看的更多数量单元格的全景图像传输到图像显示终端30。
(基于内容属性的删除)
同样,在一些实施例中,如果内容注册人8在观看区域管理表中注册内容的属性,则可基于属性来调整阈值或要被删除的单元格的数量。内容属性的实例包括内容是否对应在户外拍摄的图像或内容是否对应在室内拍摄的图像。时常地,代表天空和路面的图像区域占据户外拍摄的全景图像的大部分,而这些天空和路面的区域是不太可能被观看的。因此,在从户外拍摄的全景图像中删除单元格的情况下,例如,阈值(用于删除低于此阈值的单元格)可被设置地相对高,或要被删除的单元格的数量可被设置为相对大的数量。
另一方面,对于在室内,诸如公寓的内部,拍摄的全景图像,,一些用户可能希望观看房间的结构或窗外的风景,而一些用户可能希望观看天花板或地板的形状和颜色。因此,在从室内拍摄的全景图像中删除单元格的情况下,例如阈值(用于删除低于阈值的单元格)可被设置地相对低,或要被删除的单元格的数量可被设置为相对小的数量。
用这种方法,数据删除确定单元14可以依据全景图像中拍摄的景物的类型来控制和调整要被删除的单元格的数量。同样,在一些实施例中,内容注册人8可对于注册在观看区域管理表中的每条内容来设置阈值或要被删除的单元格的数量。因为内容注册人8可以预知全景图像的哪些单元格可能被观看,所以内容注册人8例如可以为每个全景图像设置适当的阈值或要被删除的单元格的适当的数量。
(基于带宽的删除)
同样,在一些实施例中,数据删除确定单元14可基于图像处理服务器10和图像显示终端30之间的带宽来确定阈值或要被删除的单元格的数量。即,如果图像处理服务器10和图像显示终端30之间保证有足够的带宽,那么图像处理服务器10能以微小的延迟传输大量的单元格。因此,在此情况下,例如可将阈值设置地相对低些,或将要被删除的单元格的数量设置为相对小的数量。另一方面,如果图像处理服务器10和图像显示终端30之间的带宽不足,那么图像处理服务器10应该被设置为传输少量单元格。因此,在此情况下,例如可将阈值设置地更高或将要被删除的单元格的数量设置为更大的数量。注意,例如可通过让图像处理服务器10传输预定的数据量来测量图像处理服务器10和图像显示终端30之间的带宽。同样,在一些实施例中,数据删除确定单元14例如可被配置成从图像显示终端30获取网络信息(例如,关于图像显示终端30是否使用移动式网络或有线LAN的信息)。数据删除确定单元14可以用类似于带宽信息的方式使用这种网络信息。即,数据删除确定单元14例如可基于图像显示终端30使用的网络的类型来调整阈值或要被删除的单元格的数量。
注意,在图8A-8C所示的实例中,单元格的观看次数被安排为每当单元格被观看时被增加。然而,在其他实例中,例如,每当单元格不被包含在内容的观看区域中时,单元格被排除(没有被观看)的次数可被增加。这样的话,图像处理服务器10可以计算单元格被排除(没有被观看)的次数与内容的观看者的数量的比率,并且例如,如果计算后的比率大于或等于阈值,则删除该单元格。同样,在保留固定数量的单元格的情况中,数据删除确定单元14例如可以确定被排除过最少次数的固定数量的单元格,并决定保留这些单元。
<观看删除单元格后的内容>
图10显示通过图像显示终端30实现的用于显示删除一个或多个单元格的内容(已经历单元格删除处理的内容)的实例过程的流程图。图10的处理可在图像显示终端30接收要显示的内容时启动。注意,图像显示终端例如可经过类似于图7的步骤S1和S2的处理来接收内容。
(静态图像)
在下文中,为解释方便起见,首先描述显示全景图像为静态图像的处理。
当图像显示终端30的通信单元31接收内容时,图像显示单元32在显示器215上显示包含在内容中的全景图像(步骤S41)。
其次,操作输入接受单元33判定用于旋转图像(改变当前观看区域)的图像旋转操作是否已被输入(步骤S42)。如果没有图像旋转操作已被输入(步骤S42中的否),则全景图像的显示继续。
如果图像旋转操作已被输入(S42中的是),则图像显示单元32判定全景图像的旋转目标区域的图像数据是否可用(步骤S43)。因为图像显示单元32可以识别要显示的旋转目标区域(即,响应图像旋转操作,要在显示器215上显示的观看区域),所以图像显示单元32可以判定旋转目标区域的全部图像数据是否被包含在从图像处理服务器10接收的全景图像中。
如果旋转目标区域的图像数据被判定为可用(步骤S43中的否),则图像显示单元32在显示器215上显示已从存储单元3000检索到的旋转目标区域的相应的图像数据(步骤S46)。
如果旋转目标区域的图像数据被判定为不可用(步骤S43中的是),则操作输入接受单元33判定用户是否已经进行了特定的操作(步骤S44)。特定的操作指的是用户输入操作明确地指示用户期望观看一个或多个已被删除的单元格。注意,用户可能提前知道将要进行的特定操作或将要被进行的特定操作可能以不妨碍全景图像的显示(观看)的方式被显示在显示器215上。例如,特定操作可以涉及在一定时段内进行至少一定次数的图像旋转操作(例如,一秒之内3次以上)。
如果用户已进行了特定的操作(步骤S44中的是),则图像显示单元32将用于全景图像的剩余图像数据的请求发送到图像处理服务器10(步骤S45)。即,图像显示单元32请求图像处理服务器10发送已从全景图像中被删除的单元格。注意,有些情况中,仅仅可以从已被删除的单元格中请求用户试图观看的单元格,而在其它情况下,可以请求所有已被删除的单元格。任何一种情况中,图像处理服务器10传输与用户试图观看的区域的图像数据和信息。用这种方法,图像显示终端30可以迅速地显示用户将要观看的全景图像的区域。因为图像处理服务器10可以清楚地识别已被删除的单元格,所以图像处理服务器10可以从存储在图像处理服务器10中的原始全景图像(没有任何单元格被删除的完整全景图像)中检索被删除的单元格,并传输已检索到的被删除的单元格到图像显示终端30。然后,图像显示单元32将从图像处理服务器10接收到的单元格和已提前接收到的全景图像进行组合,来重建单个全景图像,并在显示器215上显示用户经过特定操作而指定的作为期望观看区域的区域的图像。注意,在一些实施例中,图像显示单元32可以请求图像处理服务器10发送完整的全景图像。
用这种方法,即使当图像显示终端30接收一个或多个单元格被删除的全景图像,用户仍能够在显示器215上显示全景图像的任何区域。
并且注意,已在显示器215上显示的用户要观看的观看区域作为观看区域信息被传输到图像处理服务器10。用这种方法,例如可以更新记录在观看区域管理表中的观看次数,并通过如上所述的单元格删除确定处理来确定新的要被删除的单元格。
(视频图像)
在下文中,描述显示全景图像为视频图像的处理。这种处理与显示静态图像的处理的类似之处在于,图像显示终端30检测特定操作(例如,用户在一定时段内进行至少一定次数的图像旋转操作)作为已被删除的一个或多个单元格的显示请求.注意,在使用连续记录方法来记录全景视频图像的观看区域的情形中,关于构成全景视频图像的每个帧,相同的单元格被删除,同样的,检测特定操作的处理可基本上类似于关于静态图像进行的处理。
另一方面,在使用逐帧记录方法来记录全景视频图像的观看区域的情形中,被删除的单元格依每个帧而变化。因此,例如,到特定操作(例如,在一定时段内进行一定数量的图像旋转操作)被检测到时,图像显示终端30可能已经播放(显示)视频图像的下一个帧。因此,在这种情况下,例如,图像显示单元32可以以及在步骤S42中第一个图像旋转操作被检测到时显示的帧,来判定旋转目标区域的图像数据是否可用。用这种方法,可以准确地确定被请求的图像数据(相当于用户试图观看的区域)。并且,在一些实施例中,可以基于在特定操作被检测到(例如,在一定时段内已经进行一定次数的图像旋转操作之后)时显示的帧,来识别过去几个已显示的帧,而且图像显示单元32可以判定旋转目标区域的图像数据是否对几个帧中的甚至一个都不可用。如果图像数据对已识别的帧中的甚至一个都不可用,则可安排图像显示单元32接收已从图像处理服务器10上删除的单元格。这样的安排对于显示视频图像来说是理想的。即,因为视频回放涉及逐一连续地显示帧,所以如果旋转目标区域的图像数据对几个帧中的甚至一个都不可用,则这很可能损害用户的观看经历。
注意,不管使用连续记录方法还是逐帧记录方法,例如可安排图像显示终端30请求图像处理服务器10发送在当前被显示的帧之后的全景图像帧(只有已被删除单元格或没有任何单元格被删除的完整的全景图像帧)。用这种方法,用户能以基本上与观看全景静态图像相同的方式观看全景视频图像。
如上所述,在根据本实施例的图像显示***100中,基于与被多个用户显示的观看区域(显示区域)有关的统计信息,删除最不可能被观看的单元格。用这种方法,可能被用户观看的全景图像的一部分可以被传输到图像显示终端30。因此,可以减少传输全景图像的传输时间,并且用户不太可能感受到下载全景图像用了太长时间。
[第二实施例]
在下文中,描述根据本发明的第二实施例的图像显示***100。在根据第二实施例的图像处理***100中,当内容包括全景视频图像时,通过删除与天空和地面相对应的图像区域来减少全景视频图像的数据量,使得全景视频图像的下载时间得以减少。
图11是示出根据本实施例的图像显示***100的图像处理服务器10和图像显示终端30的功能配置实例的框图。注意,图11中所示的基本与图6中所示那些相同的特征和元件被给予相同的参考数字符号,并且它们的说明可以省略。以下说明主要涉及本实施例与上述第一实施例不同的特征。
在本实施例中,图像处理服务器10没有记录已被多个用户观看过的全景图像的观看区域。因此,根据本实施例的图像处理服务器10和图像显示终端30不必包含与记录观看区域有关的功能。此外,根据本实施例的数据删除确定单元14具有与第一实施例的数据删除确定单元14不同的功能特征。
<数据删除确定>
根据本实施例的数据删除确定单元14从存储在全景图像管理DB 1001中的全景图像中识别内容注册人8在移动方向上移动时拍摄的视频图像。在全景图像对应于在移动中拍摄的视频图像的情形中,表示天空和地面的图像的区域不太可能引起观看者的兴趣,因此,在本实施例中,将删除对应天空和地面的图像区域(以下简称“天空区域”和“地面区域”)。注意,移动中拍摄的视频图像可以通过根据帧的顺序追踪构成视频图像的帧的位置信息(例如,经度和纬度)来被检测。即,例如,如果位置信息指示视频图像的图像拍摄位置逐渐地以线性或曲线移动,则视频图像可识别为在移动中拍摄。
图12是解释数据删除范围的图。图12中,显示了三个连续的帧。成像设备7包括检测成像设备7相对于地面的倾斜的加速度传感器。成像设备7受到倾斜校正,使得被拍摄的全景图像的竖直方向可以垂直于地面。因此,假定图12中X方向表示全景图像的水平方向,Y方向表示全景图像的垂直方向,在Y坐标值小的区域中拍摄天空,而在Y坐标值大的区域中拍摄地面。因此,例如,天空区域51可能占据从Y坐标值为零开始的全景图像的高度的10-15%,而地面区域52可能占据从Y坐标值为其最大值开始的全景图像的高度的10-15%。
注意,天空区域51和地面区域52的宽度不是必需为常数,同样地,可以通过图像处理来检测天空区域51和地面区域52。例如,天空区域51可能会是天空色(淡蓝、蓝色、灰色、白色等等),并包含很少的锐利边缘。因此,例如,可以通过检测每个预定像素块的颜色并将在连续的天空色中的像素块识别为天空区域51的候选,来检测天空区域51。并且,通过检测每个像素块中高于预定值的锐利边缘,并将边缘密度低于预定值的连续像素块识别为天空区域51的候选,可以计算每个预定像素块的边缘密度。然后,基于天空区域51的两个候选,两个候选的相交或集合可被识别为天空区域51。
注意,例如,对于检测拍摄到路面的地面区域52可以进行类似的图像处理。然而,在检测道路图像的情形中,例如,可以检测道路颜色(灰色、棕色等等),而不是天空色。同天空的情况一样,道路通常包括很少的锐利边缘。然而,道路例如可能包含白线或路边石。在这方面,例如,在检测地面区域52的候选中,即使在像素块中检测到边缘,当确定这个边缘是直线时,这也可能表示道路上的一条线或路边石,同样地,该像素块仍可被认为是地面区域52的候选。注意,使用适当的技术,例如霍夫变换,可以检测出直线,。
用这种方法,例如,如图12所示,全景图像的顶部10%高度的部分可以被识别为天空区域51,而全景图像的底部15%高度的部分可以被识别为地面区域52。因此,数据删除确定单元14可以决定从全景图像中删除被识别出的天空区域51和地面区域52。
图13是示出根据本实施例的数据删除确定单元14从全景图像删除天空区域51和地面区域52的实例过程的流程图。注意,图13的处理可在图7中所示步骤S10的数据删除确定处理启动时启动。
步骤S51中,读/写单元19从全景图像管理DB 1001中读取(检索)包括全景图像的内容。
然后,在步骤S52中,数据删除确定单元14判定检索到的全景图像是否为视频图像。注意,例如,如果指示全景图像是否为视频图像或静态图像的信息被附加在存储于全景图像管理DB 1001的内容上,则可安排读写单元19只检索含有视频图像的内容。如果全景图像不是视频图像,则处理结束。
如果全景图像是视频图像(步骤S52中的是),则处理进行到步骤S53,在此数据删除确定单元14判定该全景图像是否为在移动中拍摄到的。如果全景图像尚未在移动中被拍摄,则处理结束。
如果全景图像已在移动中被拍摄到(步骤S53中的是),则处理进行到步骤S54,在此数据删除确定单元14检测该全景图像的天空区域51和地面区域52并决定从全景图像中删除检测到的天空区域51和地面区域52。
如上所述,在根据本实施例的图像显示***100中,当全景图像是在移动中拍摄的视频图像时,全景图像中不太可能被观看的天空区域51和地面区域52被删除,并且更可能被观看的全景图像被优先传输。
[第三实施例]
在下文中,描述根据本发明的第三实施例的图像显示***100。在根据本实施例的图像处理***100中,当内容包括移动中拍摄的全景视频图像时,通过删除与移动方向相反的区域来减少全景视频图像的数据量,以便减少全景视频图像的下载时间。
注意,根据本实施例的图像显示***100的图像处理服务器10和图像显示终端30的功能配置基本上与图11中所示的第二实施例中的相同。然而,在本实施例中,数据删除确定单元14具有与第二实施例的数据删除确定单元14不同的功能特征。
在下文中,参考图14描述根据本实施例的数据删除确定单元14的功能特征。图14是示意地显示多个全景图像41-43的图像拍摄位置的图。例如,在全景图像41、42和43以上述列举顺序被拍摄的情形中,可以检测到图14中如箭头指示的移动方向44。注意,例如,方位信息(诸如北、南、东和西)可以被附加到全景图像,并且基于这种方位信息可以检测移动方向44。在下文中,为解释方便起见,在平行于地面的参考面上指向北的方向被设置为0度作为参考方向,而且从参考方向顺时针测量的正角度表示移动方向44。
以全景图像41为例,全景图像41的移动方向44大约是315度,而相对于移动方向44的相反方向大约是135程度。因此。数据删除确定单元14可以将从135度起的预定角度内的角度范围确定为全景图像41的后方范围45。例如,如果预定角度是45度,则后方范围45可以是90度和180度之间的角度范围。然后数据删除确定单元14决定从全景图像41删除这个后方范围45。注意,全景图像42和43的后方范围45可以按类似方式被删除。
图15示出从全景图像删除与移动方向44相反的后方范围45的实例。图15中示出三个连续帧。如上参考图14所述,由数据删除确定单元14识别的后方范围45从三个帧的每一个中被删除。注意,在图15的实例中,要从每个帧中删除的后方范围45是相同的。如同在这个实例中,当移动方向44在可被认为是基本上相同的范围内(例如,移动方向44的变化在10度以内)时,要被删除的后方范围45可以保持相同。
图16是示出由数据删除确定单元14实现的从全景图像中删除在相对于移动方向44的相反方向上的后方范围45的过程实例的流程图。注意,图16的步骤S61-S63的处理基本上与图13的步骤S51-S53的处理相同。因此,以下描述步骤S64的处理。
步骤S64中,数据删除确定单元14决定删除在相对于移动方向44的相反方向上的后方范围45。
如上所述,在根据本实施例的图像显示***100中,当全景图像是在移动中拍摄的视频图像时,全景图像中不可能被观看的后方范围45被删除,并且移动方向44周围的全景图像被优先传输。
注意,例如,本实施例也可与第二实施例组合实现。即,例如,在从全景图像中删除后方范围45之后,也可以从由此产生的全景图像中删除天空区域51和地面区域52。用这种方法,要从图像处理服务器10被传输到图像显示终端30的全景图像的数据量可以被进一步地减少。
[第四实施例]
在下文中,描述根据本发明的第四实施例的图像显示***100。在根据本实施例的图像处理***100中,在内容包括移动中拍摄的全景视频图像的情形中,通过删除以全景图像的移动方向为中心的周围的视野(FOV)区域之外的区域来减少全景图像的数据量,从而减少全景图像的下载时间。
注意,根据本实施例的图像显示***100的图像处理服务器10和图像显示终端30的功能配置基本上与图11中所示的第二实施例相同。然而,在本实施例中,数据删除确定单元14具有与第二实施例和第三实施例的数据删除确定单元14不同的功能特征。如上关于第三实施例参考图14所述的,数据删除确定单元14能够确定拍摄全景图像的内容注册人8(用户)的移动方向44。在数据删除确定单元14确定移动方向44之后,数据删除确定单元14将以移动方向44为中心的周围的某个区域(例如,在经度方向上从移动方向44起-30度和+30度之间的范围和在纬度方向上从移动方向44的参考面起-30度和+30度之间的范围)识别作为用户(内容注册人8)的视野(FOV)区域。在图14的实例中,从表示全景图像41的球体的中心开始315度的方向被确定为移动方向44。这个方向对应于纵向,并且FOV区域在纬度方向上可在从315度的移动方向44起-30度和+30度之间的范围。并且,在纬度方向上,FOV区域可在从在315度的移动方向44的路面(参考面)起-30度和+30度之间的范围(即,垂直于路面的方向)。在本实施例中,数据删除确定单元14识别这种FOV区域,并确定删除全景图像中除了已识别的FOV区域之外的区域。
图17示出全景图像的FOV区域53的实例。图17中,示出三个连续的帧。数据删除确定单元14可以识别每个帧的FOV区域53,并确定除了FOV区域53之外的要从全景图像中被删除的区域。
图18是示出通过数据删除确定单元14实现的从全景图像中删除除了视野区域53之外的区域的过程实例的流程图。注意,图18的步骤S71-S73的处理可基本上与图13的步骤S51-S53的处理相同。下文中,描述图18的步骤S74的处理。
步骤S74中,数据删除确定单元14识别FOV区域53,并决定从全景图像中删除除了FOV区域53以外的区域。
因此,根据本实施例的图像显示***100中,全景图像中只有可能被观看的视野区域被保留,使得全景图像可以被高效地传输。
[第五实施例]
在下文中,描述根据本发明的第五实施例的图像显示***100。根据本实施例的图像显示***100使用户能够随着时间的推移而监控或观看由成像装置7拍摄的全景图像,该成像装置7在至少一定时段内被固定在适当的地方。使用固定在适当的地方的成像装置的观察方法被称为“定点观察”。虽然成像装置7一般可被用户手持拍摄全景图像,但成像装置7例如也可用作被安装在建筑物中或户外的定点摄像机。
图19示出建筑物布局连同成像装置7的排列的实例。例如,通过如图19所示排列成像装置7,成像装置7可在商店或其它的类型的企业中被用于消费者的行为分析。例如,安装在商店/企业中的成像装置7可定期拍摄全景图像,并将拍摄到的全景图像存储在图像处理服务器10。用这种方法,实施行为分析的用户(例如,商店经营者)能够从图像处理服务器10接收作为时序数据的全景图像。因此,用户能够分析访问商店的消费者如何购买(或不购买)物品,职员如何照顾消费者,等等。用户然后例如可以利用开发销售计划等中的分析结果。
在诸如商店经营者的用户使用在定点拍摄的时间序列的全景图像的情形中,要分析的观看点是受限的。此外,也有能够对固定观看点进行分析的需求。在这方面,例如,可通过如上结合第一实施例所述的记录全景图像的每个单元格的观看次数并存储观看次数多的单元格,来能够实现定点的分析。
另一方面,要分析的观看点例如可以依据分析全景图像的商店经营者(用户)的职位的类型及/或职责而变化。在这方面,例如为了基于他/她的职位和职责来提供拍摄与每个用户相关的观看点范围的全景图像,图像处理服务器10可配置成存储和管理每个用户相关的观看区域管理表。
此外,要分析的观看点例如可以依据时间间隙而变化,时间间隙例如是营业之前、营业期间、打烊之后、高峰时间期间和非高峰时间期间。在这方面,例如,为了能够分析每个时间间隙,图像处理服务器10可以配置成存储和管理与每个时间间隙有关的观看区域信息。
注意,根据本实施例的图像显示***100的图像处理服务器10和图像显示终端30的功能配置可基本上与图6中所示的第一实施例的那些相同。并且,根据本实施例的图像显示***100的总体操作过程基本上与图7中所示的操作过程类似。
<对于不同时间间隙的观看区域管理>
在下文中,参考图20,描述包含在成像装置7拍摄的全景图像中的用户观看的观看区域5。图20示出用户在图像显示终端30上显示的观看屏501的实例。观看屏501包括布局领域502和视频领域503。图20的布局领域502显示图19中所示的布局,并使用户能够选择已拍摄用户要观看的全景图像的成像装置7。注意,例如,已被用户选择的成像装置7可由箭头502a指示。视频领域503显示被选择的成像装置7拍摄的全景图像。更具体地说,视频领域503显示全景图像的观看区域5。
如图20所示,用户观看过的观看区域5通过XY坐标识别。当用户输入改变观看区域5的操作时,操作输入接受单元33接受这个用户操作,然后图像旋转单元34旋转全景图像。观看区域记录单元35记录已至少连续显示一定时段的全景图像的观看区域5。
注意,在本实施例中,全景图像的图像拍摄时间信息被附加在全景图像。因此,例如,基于图像拍摄时间信息,图像显示终端30的观看区域记录单元35可以每30分钟的时间间隙记录观看区域5的观看区域信息。然后不同时间间隙的观看区域信息被传输到图像处理服务器10。用这种方法,例如可以对于每个时间间隙来存储和管理每个单元格的观看次数。
注意,在本实施例中,图像处理服务器10可以实现基本上与第一实施例中实现的那个相同的数据删除确定处理。然而,在本实施例中,数据删除确定单元14对于每个时间间隙确定要被删除的数据。
<<记录观看次数>>
图21是示出通过本实施例的图像处理服务器10实现的记录每个单元格的观看次数的过程实例的流程图。注意,对于每个成像装置7都可执行图21的处理。并且,每当观看区域信息被传输到图像处理服务器10时执行图21的处理。
例如,图像显示终端30可以将内容ID和不同时间间隙的观看区域信息传输到图像处理服务器10。随后,步骤S81中,图像处理服务器10的通信单元11接收观看区域信息。注意,如果内容包括静态图像,那么图像显示终端30的观看区域记录单元35可以基于静态图像的图像拍摄时间信息来确定观看区域信息的相关时间间隙。另外地,图像显示终端30可以传输图像拍摄时间信息和观看区域信息到图像处理服务器10。注意,在前面描述的实施例中,连续记录方法或逐帧记录方法是用来记录视频图像的观看区域。在本实施例中,至少对于每个时间间隙,记录每个单元格的观看次数。例如,图像显示终端30的观看区域记录单元35可以基于每个帧的图像拍摄时间信息来确定构成视频图像的每个帧的相关时间间隙,并且传输视频图像的观看区域信息和时间间隙信息。
然后,在步骤S82中,图像处理服务器10的观看区域管理单元13对于不同的时间间隙计算每个单元格观看次数。即,基于不同时间间隙的观看区域信息,观看区域管理单元13将每个时间间隙的观看区域5的观看区域信息转换为表示观看区域5的单元格的单元格编号。
然后在步骤S83中,观看区域管理单元13将对于每个时间间隙记录在观看区域管理数据库1002中的相关单元格编号的观看次数加一。观看区域管理单元13同样将记录在观看区域管理数据库1002中的观看者的数量加一。用这种方法,相对于每个时间间隙,每个单元格的观看次数可以被记录下来。
<<观看区域管理表>>
在下文中,描述根据本实施例的在观看区域管理DB 1002中存储和管理的观看区域管理表的实例。
[表4A]观看区域管理表
上述表4A示意地图示根据本实施例的观看区域管理表的实例。注意,表4A所示的观看区域管理表是为每个成像装置7创建。并且,注意,以下描述主要涉及表4A的观看区域管理表与表2中不同的特征。在本实施例中,观看区域管理表例如可以对于每个30分钟的时间间隙(时间间隔)而被创建。注意,时间间隙也可分隔为一小时、几小时、乃至更长的一段时间。并且,例如可以限定商店特有的时间间隙,例如营业前的数小时、营业后的数小时、午餐时间、晚间时间和打烊后的数小时。
并且,图像处理服务器10的观看区域管理单元13例如可基于全景图像的日历和日期/时间信息来确定成像装置7在星期几拍摄的全景图像。用这种方法,如表4B所示,可以对于一周的每天创建观看区域管理表。
[表4B]观看区域管理表
上述表4B示出为一周的每天创建的观看区域管理表的实例。基于上述信息,例如,在用户希望依据星期几来监控不同区域的情形中,图像处理服务器10可以适当地确定要被删除的单元格。
此外,例如,可以组合使用表4A和表4B以创建用于存储每个时间间隙和一周的每天的观看区域管理表。另外,观看区域管理表例如可以根据不同的天气条件(例如,晴朗、多云、降雨、降雪,等等)来被创建。
<<单元格删除确定>>
图22是示出通过本实施例的数据删除确定单元14实现的确定要被删除的单元格的过程实例的流程图。注意,以下描述主要涉及图22中与图9A的处理步骤不同的处理步骤。并且,注意,对于每个成像设备7,图22的处理都被进行。
步骤S91中,本实施例的数据删除确定单元14从观看区域管理DB 1002中读取(检索)不同时间间隙的每个单元格观看者的数量和观看次数。注意,步骤S92的处理可以基本上与图9A的步骤22的处理相同。
然后,在步骤S93中,数据删除确定单元14对于每个时间间隙识别观看次数与观看者数量的比率低于阈值的单元格,并决定从全景图像中删除这种单元格。图像编辑单元15参考全景图像的图像拍摄时间信息来确定相关的时间间隙,并从全景图像中删除步骤S93中识别的单元格。用这种方法,例如,可以获得对于不同时间间隙删除不同单元格的视频内容。即,在本实施例中,例如,依据给定帧的图像拍摄时间可以从一个视频内容中删除不同单元格。在静态图像的情形中,要被删除的单元格可以基于静态图像的图像拍摄时间来确定。
注意,尽管参考图9A已描述图22的处理,但如图9B所示的涉及保留固定数量的具有比其他单元格更高比率的单元格的单元格删除确定方法例如可以应用于本实施例。
通过如上所述对于每个时间间隙删除不同的单元格,可以基于相关时间间隙来减少具有大数据量的全景图像(静态图像或视频图像)的尺寸,使得在相关时间间隙中经常被观看的区域可以被传输到图像显示终端30。用这种方法,用户能够几乎没有延迟地观看全景图像中期望的区域。
并且,注意,即便对于每个时间间隙创建了观看区域管理表,数据删除确定单元14例如也可以聚集不同时间间隙的观看区域管理表,以确定一个或多个要被删除的单元格。用这种方法,如果用户对给定区域有兴趣,即便给定区域在给定时间间隙没被用户观看,也可以防止对应于该区域的单元格的删除。为了实现这种处理,用户例如可以操作图像显示终端30,以发送相关请求到图像处理服务器10。
<对于不同用户的观看区域管理>
如上所述,全景图像中有兴趣的区域会依据每个用户而经常变化。例如,如果用户被允许选择全景图像中的期望区域作为观看区域,则可以创建用户特定的观看区域管理表。
图23示出为了使用户能够指定全景图像中的期望区域作为观看区域的用户界面的实例。图23的用户界面包括观看屏501’,观看屏501’显示与图20的观看屏501上显示的基本上类似的信息。观看屏501’显示布局领域502’、视频领域503’、注册按钮505和取消按钮506。例如,视频领域503显示包括用户从图像处理服务器10获取的全景图像的内容。操作输入接受单元33经由触板216接受用户输入的用户操作。用这种方法,用户可以进行操作,诸如旋转、放大、和/或缩小在视频领域503’中显示的全景图像。并且,用户可以经由触板216指定全景图像内的任何期望区域(例如,用户希望监控的区域),以创建任意的观看区域504。当任意的观看区域504被显示在视频领域503’上并且用户按压注册按钮505时,包括观看区域504的坐标信息和用户的用户ID的任意的观看区域信息可以被传输到图像处理服务器10。用户ID是唯一识别用户的用户识别信息。注意,用户ID也可以称为“用户信息”或“用户特定的信息”,而且可以是可以识别用户的任何类型的信息。这种信息的具体实例包括但不限于,员工编号、姓名、电子邮件地址,等等。
图像处理服务器10例如能够通过要求用户在观看全景图像前登录来识别用户ID。另外地,用户可以在图像显示终端30中仅仅键入他/她的用户ID,然后图像显示终端30可以传输用户ID和任意观看区域信息到图像处理服务器10。
如上所述,用户可以经由用户界面注册任何期望的区域,诸如用户希望监控的区域,作为任意的观看区域504。因为任意的观看区域504是明确由用户任意指定的,所以用户有兴趣的图像数据可以被轻易地识别,并且对用户说来不重要的图像数据则可被删除。
注意,在本实例中,为每个用户创建观看区域管理表。并且,注意,当注册任意观看区域504时,一个或多个对应于任意观看区域504的单元格将在图像处理服务器10中被认为已观看过一次,并且对应的单元格的观看次数可被记录在观看区域管理DB 1002中。此外,当用户再次注册相同或不同的任意观看区域504时,和先前注册的任意观看区域504重叠的单元格的观看次数被加一。
在全景图像的观看区域管理表已被创建时,图像编辑单元15可以编辑全景图像(即,删除单元格)。然而,在为每个用户创建已经过单元格删除处理的减少后的全景图像情形中,可能要求存储单元1000的大量存储空间。因此,当从图像显示终端30接收观看要求时,可编辑全景图像。例如,当用户向图像处理服务器10提供用户ID请求观看内容数据时,图像编辑单元15可以基于这个用户的观看区域管理表,从内容数据中删除单元格。用这种方法,图像显示终端30可以接收并显示这个特定用户可能要观看的区域。
在上面描述的图23的实例中,用户能够将全景图像的期望的区域注册为任意观看区域504,而且图像处理服务器10基于用户注册的任意观看区域504的任意观看区域信息,为每个用户创建观看区域管理表。然而,图像处理服务器10例如可以基于用户观看过的观看区域5的观看区域信息,类似地为每个用户创建观看区域管理表,像上面与第一实施例有关的描述一样。即,通过使得图像显示终端30将用户的ID与观看区域信息一起传输到图像处理服务器10,图像处理服务器10能以类似于用户经由用户界面注册任意观看区域504的方式,为每个用户创建观看区域管理表。
<<单元格删除确定>>
图24A是示出通过数据删除确定单元14实现的确定关于每个用户确定的要从全景图像中删除的单元格的过程实例的流程图。图24A的处理是在基于用户经由用户界面注册的任意观看区域504的任意观看区域信息而为每个用户创建观看区域管理表的情况下被实现的。
步骤S101中,本实施例的数据删除确定单元14识别与从图像显示终端30传输来的用户ID关联的观看区域管理表。
然后,步骤S102中,数据删除确定单元14决定删除观看次数小于一的单元格(即,观看次数为零的单元格)。即,如上所述,当用户传输(注册)指定任意观看区域504的任意观看区域信息时,在对于这个用户的观看区域管理表中,表示任意观看区域504的单元格的观看至少被设置为一。用户指定的任意观看区域504将持续为这个用户显示,同样地,数据删除确定单元14可以决定删除观看次数小于一的其他单元格(即,观看次数为零的单元格)。
图24B是示出在基于用户观看的观看区域5的观看区域信息,为每个用户创建观看区域管理表的情况下,通过数据删除确定单元14实现的确定要被删除的单元格的过程实例的流程图。
注意,图24B的步骤S111处理与图24A的步骤S101相同,并且步骤S112和S113的处理分别与图9A的步骤S22和S23相同。注意,然而,步骤112中用于计算比率的观看者的数量相当于相同用户观看过相同内容的次数。
如上所述,通过将每个用户特定的观看区域5的观看区域信息或任意观看区域504的任意观看区域信息传输到图像处理服务器10,图像显示终端30例如能够根据他/她的职位和职责,显示与每个特定用户有关的全景图像的区域。
注意,在一些实施例中,确定要从某个成像设备7拍摄的全景图像中被删除的单元格时,例如图像处理服务器10的数据删除确定单元14可以被安排为基于为除了对应与当前观看者的用户之外的用户创建观看区域管理表,来确定一个或多个要被删除的单元格。即,例如当用户被转移到新的商店等等时,可以安排数据删除确定单元14基于用户先前的观看历史来删除单元格。用这种方法,例如可以简化接管操作,而且***可以平稳地实现。并且,例如为了有效利用这种为每个特定用户存储和管理的观看区域管理表,图像显示***100的管理员可以将与给定观看区域管理表关联的用户ID改变为识别另一个用户的另一个用户ID(例如,上面描述的商店继承者的实例)。
<观看单元格删除后的内容>
如参考图10如上所述的,在从全景图像(内容)中删除一个或多个单元格的情形中,从全景图像中删除的单元格可以通过检测用户进行的特定操作(例如,在一定时限内进行若干次图像旋转操作)而被恢复。在下文中,将更详细地描述这种特定操作。
图25A-25C是存储在观看区域管理DB 1002中的观看区域管理表中注册的全景图像的观看区域或任意观看区域的俯视示意图。注意,在图25A-25C中,由注册的观看次数(观看区域管理表中的)大于或等于阈值的单元格形成的区域被表示为注册的观看区域A和B。即,除了对应于注册的区域A和B的单元格之外的单元格被删除。注意,图像编辑单元15可以使用两个方法中的一个从全景图像中删除单元格,两个方法称为方法Ⅰ和方法Ⅱ,如下所述。
方法Ⅰ涉及实际消除除了对应于注册的观看区域A和B的单元格之外的单元格。这样的话,可以***全景图像并且将注册观看区域A和B作为个体图像分别地显示在图像显示终端30上。图25B示意地显示在这种情况下注册的观看区域A和B如何被显示在图像显示终端30上。即,当用户在注册观看区域A被显示的同时旋转屏幕时,屏幕可以立即切换到显示注册观看区域B。类似地,当用户在注册观看区域B被显示的同时旋转屏幕时,屏幕可以立即切换到显示注册观看区域A。换言之,已删除的单元格被完全消除。
方法Ⅱ涉及将除了注册的观看区域A和B的单元格之外的单元格替换为黑色像素等等。这样的话,包括注册观看区域A和B的全景图像和黑色像素可以显示在图像显示终端30上。图25C示意地显示在这种情况下注册观看区域A和B如何被显示在图像显示终端30上。更具体地说,在图25C中,在方框510内的全景图像的区域被显示在图像显示终端30上。当用户在注册观看区域A被显示的同时旋转屏幕时,可以在黑色像素被显示后显示注册观看区域B。相同的方式适用于从注册观看区域B切换显示注册观看区域A。即,用户不能在不显示黑色像素的情况下交替显示注册观看区域A和B。
在使用方法Ⅰ的情况中,尽管注册观看区域A和B可以立即显示,但是对于用户确定全景图像中注册观看区域A和B的地点可能会有困难。在使用方法Ⅱ的情况中,用户可以容易地确定全景图像中注册观看区域A和B的地点,但是在注册观看区域A和B之间进行切换时不可避免地显示黑色像素。考虑到上述方法Ⅰ和二Ⅱ的优缺点,用户最好被允许选择要使用的单元格删除方法。
注意,在使用方法Ⅰ删除单元格的情形中,请求已被删除的单元格的特定操作可能是,例如,在给定一段时限内至少若干次交替显示注册观看区域A和B的操作。在使用方法Ⅱ删除单元格的情形中,特定操作可能是一段时限内至少若干次交替显示注册观看区域A(或注册观看区域B)和黑色像素的操作。并且,使用方法Ⅱ的情形中,特定操作可能是用户在一定时限内连续显示黑色区域(黑色像素)的操作。
并且,在本实施例中,图像显示终端30例如可以配置成从已删除的单元格中只获取与用户希望观看的区域相对应的单元格,或者图像显示终端30可以获取全部已删除的单元格。同样,图像显示终端30可以请求图像处理服务器10发送完整的全景图像。例如,在商店布局已基本上被改动的情形中,图像显示终端30可以请求图像处理服务器11发送完整的全景图像。这样的话,图像显示终端30也可以请求图像处理服务器10删除全景图像的观看区域管理表。用这种方法,图像处理服务器10例如可以创建适用于商店新的布局的观看区域管理表。
如上所述,根据本实施例的一方面,当成像设备7被用来定点观测时,可以指定全景图像中用户有兴趣的区域,使得在全景图像被传输到图像显示终端30时,图像显示终端30可以迅速地显示这个区域。并且,图像显示终端30例如依据时间及/或用户可以显示适当的区域。
注意,例如,成像设备不局限于安装在建筑物等等内,并且还可以被安装在户外。同样,除了安装在商店中之外,成像设备7可以被安装在办公室内、走廊、通道、公共机构的前台、商业区、十字路口、车站,等等。
<其它的应用>
尽管以上已参考说明性的实施例描述了本发明,但本发明不局限于这些实施例和在本发明范畴内的众多变型和替换。
例如,第一实施例,图像处理服务器10传输已经过单元格删除处理的全景图像到图像显示终端30。然而,图像处理服务器10也可以被配置为显示存储在全景图像管理DB1001中的全景图像。并且,在一些实施例中,可以在图像显示终端30中提供全景图像管理DB1001,并且图像显示终端30可以配置成从全景图像管理DB 1001中读取(检索)全景图像,然后在显示器215上显示检索到的全景图像。
并且,如图6所示图像处理服务器10和图像显示终端30的功能配置等等仅仅是为了便于理解图像处理服务器10和图像显示终端30的处理而提供的说明实例。例如,在一些实施例中,多个图像处理服务器10可以配置成协作实现如上所述本发明实施例的处理。图像处理服务器10的存储单元1000并不必须设置在图像处理服务器10内,只要图像处理服务器10能够访问存储单元1000,以从存储单元1000读取数据/在存储单元1000上写入数据。
并且,尽管图像处理服务器10和图像显示终端30的功能特征已在上文通过划分为几个处理单元被描述,但本发明不局限于上述处理单元的安排和划分。例如,图像处理服务器10及/或图像显示终端30的一个或多个处理单元可以进一步地被划分为处理单元,或者例如两个或更多的处理单元可以组合成单个处理单元。
注意,如上所述的图像编辑单元15是减少单元的实例,通信单元31是接收单元和第二传输单元的实例,操作输入接受单元33是操作接受单元的实例,观看区域管理单元13是计数单元的实例,图像显示单元32是图像显示单元的实例,观看区域记录单元35是显示区域记录单元的实例,通信单元11是第一传输单元的实例,数据删除确定单元14是区域确定单元的实例。并且,由根据上述本发明的上述实施例的图像显示***100执行的处理过程是根据本发明的图像显示方法的实例。
本发明是基于并要求2015年5月1日提交的第2015-094225号日本专利申请以及2016年2月16日提交的第2016-026816号日本专利申请的优先权的权益,其全部内容通过引用被结合在这里。

Claims (17)

1.一种图像显示***,其特征在于,包含:
信息处理设备;和
从所述信息处理设备接收广角图像的终端设备;
其中,所述信息处理设备包括
区域确定单元,所述区域确定单元被配置成确定比所述广角图像的其他区域较少被观看的所述广角图像的区域;
减少单元,所述减少单元被配置成从所述广角图像中删除由所述区域确定单元确定的较少观看的区域,以生成减少的广角图像;和
第一传输单元,所述第一传输单元被配置成将由所述减少单元生成的所述减少的广角图像传输到所述终端设备;并且
其中,所述终端设备包括
接收单元,所述接收单元被配置成从所述信息处理设备接收所述减少的广角图像;和
图像显示单元,所述图像显示单元被配置成在显示装置上显示所述减少的广角图像。
2.如权利要求1所述的图像显示***,其特征在于,
所述终端设备进一步地包括
显示区域记录单元,所述显示区域记录单元被配置成记录被显示在所述显示装置上的所述广角图像的显示区域;和
第二传输单元,所述第二传输单元被配置成将由所述显示区域记录单元记录的指定所述显示区域的显示区域信息传输到所述信息处理设备;并且
所述信息处理设备的所述区域确定单元基于所述显示区域信息来确定所述广角图像中比所述其它区域较少被观看的区域;和
所述减少单元从所述广角图像中删除由所述区域确定单元确定的所述区域,以生成所述减少的广角图像。
3.如权利要求2所述的图像显示***,其特征在于,
所述信息处理设备预先将所述广角图像划分为多个划分区域;
所述信息处理设备进一步地包括计数单元,所述计数单元被配置成基于从所述终端设备接收的所述显示区域信息来识别对应于所述显示区域的所述多个划分区域的一个划分区域,并增加与被识别的划分区域关联存储的观看次数;和
所述区域确定单元对于所述多个划分区域的每一个划分区域,计算观看次数与所述显示信息的接收次数的比率,并将计算的比率低于阈值的划分区域确定为所述广角图像中比所述其它区域较少被观看的所述区域。
4.如权利要求2所述的图像显示***,其特征在于,
所述信息处理设备预先将所述广角图像划分为多个划分区域;
所述信息处理设备进一步地包括计数单元,所述计数单元被配置成基于从所述终端设备接收的所述显示区域信息来识别对应于所述显示区域的所述多个划分区域中的一个划分区域,并增加与被识别的划分区域关联存储的观看次数;和
所述区域确定单元从所述多个划分区域中识别规定数量的划分区域,并将被识别的所述规定数量的划分区域确定为所述广角图像中比所述其它区域较少被观看的所述区域,所述规定数量的划分区域具有比其它划分区域多的观看次数,或者观看次数与所述显示信息的接收次数的比率高于所述其它划分区域。
5.如权利要求2所述的图像显示***,其特征在于,
所述终端设备的第二传输单元将所述显示区域信息连同与所述终端设备的用户相关的用户信息一起传输到所述信息处理设备;
所述信息处理设备的所述区域确定单元基于从所述终端设备接收的所述显示区域信息和所述用户信息,关于每个用户,确定所述广角图像中比所述其它区域较少被观看的所述区域;和
所述减少单元从所述广角图像中删除由所述区域确定单元确定的所述区域,以关于每个用户生成所述减少的广角图像。
6.如权利要求5所述的图像显示***,其特征在于,
所述区域确定单元基于已经由除了正在观看所述广角图像的观看用户之外的不同用户传输的所述显示区域信息,来确定所述广角图像中比所述其它区域较少被观看的所述区域。
7.如权利要求2-6中任一项所述的图像显示***,其特征在于,
所述终端设备进一步地包括
操作接受单元,所述操作接受单元被配置成接受用于使所述显示装置显示由所述减少单元从所述广角图像中删除的所述区域的操作;并且
当所述操作接受单元接受所述操作时,所述图像显示单元请求所述信息处理设备至少传输从所述广角图像中删除的所述区域。
8.如权利要求7所述的图像显示***,其特征在于,
使所述显示装置显示从所述广角图像中删除的所述区域的操作包括控制所述显示装置至少在预定时段连续地显示与从所述广角图像中删除的所述区域相对应的所述减少的广域图像的区域。
9.如权利要求7所述的图像显示***,其特征在于,
使所述显示装置显示从所述广角图像中删除的所述区域的操作包括控制所述显示装置在预定时段内以至少预定的次数交替地显示由所述删除的区域分割的所述减少的广角图像的多个区域中的一个区域。
10.如权利要求7所述的图像显示***,其特征在于,
所述操作接受单元接受指定操作,所述指定操作指定在所述显示装置上显示的所述广角图像的区域,
所述第二传输单元将与所述指定区域相关的信息传输到所述信息处理设备,由所述操作接受单元接受所述指定操作指定的所述指定区域;和
所述信息处理设备的所述减少单元基于与所述指定区域有关的所述信息,从所述广角图像中删除所述指定区域。
11.如权利要求4所述的图像显示***,其特征在于,
所述区域确定单元基于所述信息处理设备和所述终端设备之间的带宽,来改变所述规定数量。
12.如权利要求1所述的图像显示***,其特征在于,
所述广角图像是全景图像;
所述区域确定单元判定所述全景图像是否是在改变图像拍摄位置的同时被拍摄的多个所述全景图像中的一个全景图像;和
当所述全景图像是多个全景图像中的一个全景图像时,
所述区域确定单元将所述全景图像的天空区域和地面区域、所述全景图像中与所述图像拍摄位置的移动方向相反的后方范围、或者所述全景图像中在离开所述图像拍摄位置的所述移动方向预定范围内的视野区域以外的区域,确定为要从所述全景图像中被删除的区域;和
所述减少单元从所述全景图像中删除由所述区域确定单元确定的要被删除的区域。
13.如权利要求2所述的图像显示***,其特征在于,
所述显示区域记录单元记录与所述广角图像的图像拍摄时间有关的图像拍摄时间信息,以及所述广角图像中被显示在所述显示装置上的所述显示区域;
所述第二传输单元将由所述显示区域记录单元记录的所述图像拍摄时间信息和所述显示区域信息传输到所述信息处理设备;
所述信息处理设备的所述区域确定单元通过从所述广角图像的所述图像拍摄时间信息所属于的多个时间间隙中确定相关的时间间隙,关于所述多个时间间隙中的每个时间间隙,确定所述广角图像中比所述其它区域较少被观看的所述区域;和
所述减少单元关于每个时间间隙,从所述广角图像中删除由所述区域确定单元确定的所述区域。
14.如权利要求13所述的图像显示***,其特征在于,
所述区域确定单元聚集与所述多个时间间隙中的两个以上的不同时间间隙关联的所述显示区域信息,并基于聚集的显示区域信息来确定所述广角图像中比所述其他区域较少被观看的所述区域。
15.如权利要求2所述的图像显示***,其特征在于,
所述显示区域记录单元记录与所述广角图像被拍摄日有关的星期几信息,以及所述广角图像中被显示在所述显示装置上的所述显示区域。
所述第二传输单元传输由所述显示区域记录单元记录的所述星期几信息和所述显示区域信息到所述信息处理设备;
所述信息处理设备的所述区域确定单元基于从所述第二传输单元接收的所述星期几信息,通过确定所述广角图像被拍摄日,对于一周中的每一天确定所述广角图像中比所述其它区域较少被观看的所述区域;和
所述减少单元对于一周中的每一天,从所述广角图像中删除由所述区域确定单元确定的所述区域。
16.一种信息处理设备,其特征在于,包含:
读取单元,所述读取单元被配置成从存储广角图像的存储装置所述检索广角图像;
区域确定单元,所述区域确定单元被配置成确定所述广角图像中比其它区域较少被观看的区域;和
减少单元,所述减少单元被配置成从所述广角图像中删除由所述区域确定单元确定的所述区域,以生成减少的广角图像,并在所述存储装置中存储所述减少的广角图像;
其中,所述读取单元从所述存储装置检索由所述减少单元生成的所述减少的广角图像。
17.一种由信息处理***实现的图像显示方法,所述信息处理***包括信息处理设备和终端设备,其特征在于,所述图像显示方法包含:
由所述信息处理设备实现的确定步骤,所述确定步骤用于确定广角图像中比所述广角图像的其它区域较少被观看的区域;
由所述信息处理设备实现的减少步骤,所述减少步骤用于从所述广角图像中删除所述广角图像中被确定为较少被观看的所述区域,以生成减少的广角图像;
由所述信息处理设备实现的传输步骤,所述传输步骤用于将所述减少的广角图像传输到所述终端设备;
由所述终端设备实现的接收步骤,所述接收步骤用于接收从所述信息处理设备传输的所述减少的广角图像;和
由所述终端设备实现的显示步骤,所述显示步骤用于在显示装置上显示所述减少的广角图像。
CN201610270077.XA 2015-05-01 2016-04-27 图像显示***、信息处理设备和图像显示方法 Active CN106101610B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2015-094225 2015-05-01
JP2015094225 2015-05-01
JP2016026816A JP2016213810A (ja) 2015-05-01 2016-02-16 画像表示システム、情報処理装置、プログラム、画像表示方法
JP2016-026816 2016-02-16

Publications (2)

Publication Number Publication Date
CN106101610A true CN106101610A (zh) 2016-11-09
CN106101610B CN106101610B (zh) 2019-09-13

Family

ID=57549867

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610270077.XA Active CN106101610B (zh) 2015-05-01 2016-04-27 图像显示***、信息处理设备和图像显示方法

Country Status (2)

Country Link
JP (1) JP2016213810A (zh)
CN (1) CN106101610B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106791886A (zh) * 2016-11-16 2017-05-31 深圳百科信息技术有限公司 一种基于视觉特性的全景视频分发方法和***
CN106878611A (zh) * 2016-12-29 2017-06-20 北京空间机电研究所 一种智能侦察监视光电***
CN110169077A (zh) * 2017-01-06 2019-08-23 索尼公司 信息处理装置和信息处理方法
CN110324574A (zh) * 2018-03-29 2019-10-11 京瓷办公信息***株式会社 监控***
CN110832873A (zh) * 2017-07-06 2020-02-21 夏普株式会社 用于针对虚拟现实应用程序发送信号通知视图信息的***和方法
CN110945873A (zh) * 2017-06-02 2020-03-31 Vid拓展公司 下一代网络上的360度视频递送
CN116916050A (zh) * 2022-12-20 2023-10-20 哈尔滨商业大学 一种将道路监控图像发送到终端的方法及装置

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106851212B (zh) * 2017-03-03 2020-03-17 深圳市梦网百科信息技术有限公司 一种基于用户特性的全景视频分发方法和***
JP2020035086A (ja) * 2018-08-28 2020-03-05 富士ゼロックス株式会社 情報処理システム、情報処理装置およびプログラム
JP6718937B2 (ja) * 2018-09-26 2020-07-08 株式会社コロプラ プログラム、情報処理装置、および方法
CN112307393A (zh) * 2019-09-04 2021-02-02 福建皮皮跳动科技有限公司 信息发布方法、装置和电子设备

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102186065A (zh) * 2011-06-01 2011-09-14 广州市晶华光学电子有限公司 一种具有360度视场角的监控相机
CN102985789A (zh) * 2010-07-07 2013-03-20 莱卡地球***公开股份有限公司 目标点识别方法和测量仪器
US20130322844A1 (en) * 2012-06-01 2013-12-05 Hal Laboratory, Inc. Storage medium storing information processing program, information processing device, information processing system, and panoramic video display method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102985789A (zh) * 2010-07-07 2013-03-20 莱卡地球***公开股份有限公司 目标点识别方法和测量仪器
CN102186065A (zh) * 2011-06-01 2011-09-14 广州市晶华光学电子有限公司 一种具有360度视场角的监控相机
US20130322844A1 (en) * 2012-06-01 2013-12-05 Hal Laboratory, Inc. Storage medium storing information processing program, information processing device, information processing system, and panoramic video display method

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106791886A (zh) * 2016-11-16 2017-05-31 深圳百科信息技术有限公司 一种基于视觉特性的全景视频分发方法和***
CN106791886B (zh) * 2016-11-16 2020-03-17 深圳市梦网百科信息技术有限公司 一种基于视觉特性的全景视频分发方法和***
CN106878611A (zh) * 2016-12-29 2017-06-20 北京空间机电研究所 一种智能侦察监视光电***
CN110169077A (zh) * 2017-01-06 2019-08-23 索尼公司 信息处理装置和信息处理方法
CN110945873A (zh) * 2017-06-02 2020-03-31 Vid拓展公司 下一代网络上的360度视频递送
US11770594B2 (en) 2017-06-02 2023-09-26 Vid Scale, Inc. 360-degree video delivery over next generation network
CN110832873A (zh) * 2017-07-06 2020-02-21 夏普株式会社 用于针对虚拟现实应用程序发送信号通知视图信息的***和方法
CN110324574A (zh) * 2018-03-29 2019-10-11 京瓷办公信息***株式会社 监控***
CN110324574B (zh) * 2018-03-29 2021-06-22 京瓷办公信息***株式会社 监控***
CN116916050A (zh) * 2022-12-20 2023-10-20 哈尔滨商业大学 一种将道路监控图像发送到终端的方法及装置
CN116916050B (zh) * 2022-12-20 2024-03-19 哈尔滨商业大学 一种将道路监控图像发送到终端的方法及装置

Also Published As

Publication number Publication date
CN106101610B (zh) 2019-09-13
JP2016213810A (ja) 2016-12-15

Similar Documents

Publication Publication Date Title
CN106101610B (zh) 图像显示***、信息处理设备和图像显示方法
US9996895B2 (en) Image display system, information processing apparatus, and image display method
JP7192923B2 (ja) 装置、方法、プログラム、システム
CN1835569B (zh) 时移图像分配***,时移图像分配方法,时移图像请求装置及图像服务器
US8254727B2 (en) Method and apparatus for providing picture file
JP5184217B2 (ja) 画像撮影装置、付加情報提供サーバ及び付加情報フィルタリングシステム
US10191635B1 (en) System and method of generating a view for a point of interest
JP4637889B2 (ja) 仮想空間放送装置
US20150153933A1 (en) Navigating Discrete Photos and Panoramas
CN101304466B (zh) 信息处理装置及图象显示方法
CN102300205A (zh) 基于位置和上下文的移动应用程序的宣传和传递
JPH1056609A (ja) 画像記録方法、通信方法、画像記録装置、通信装置及び媒体
JP6046874B1 (ja) 情報処理装置、情報処理方法、プログラム
JP6555026B2 (ja) 情報提供システム
EP3388958A1 (en) Method and system for managing viewability of location-based spatial object
KR101038940B1 (ko) 촬영영상에서 추출된 촬영객체를 이용한 영상정보 관리 시스템 및 그 방법
JP5072464B2 (ja) 画像提供装置、画像提供方法、画像提供プログラムおよびそのプログラムを記録したコンピュータ読み取り可能な記録媒体
US20150156460A1 (en) System and method of filling in gaps in image data
JP6617547B2 (ja) 画像管理システム、画像管理方法、プログラム
US10986394B2 (en) Camera system
US9832249B2 (en) Systems and methods for streaming media content
CN103546677A (zh) 互动***及互动方法
JP2002189412A (ja) 地図作成システム及び地図作成方法
JP2016143269A (ja) コンテンツ検索装置、コンテンツ検索方法、コンテンツ格納装置およびコンテンツ格納方法
JP2018174516A (ja) ビデオコンテンツの交換のための方法、装置及びシステム

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant