JP2011205574A

JP2011205574A - Control device, camera system, and program

Info

Publication number: JP2011205574A
Application number: JP2010073233A
Authority: JP
Inventors: Toshihiro Ezoe; 利広江副; Kazunori Sakaki; 和則坂木
Original assignee: Sony Corp
Current assignee: Sony Corp
Priority date: 2010-03-26
Filing date: 2010-03-26
Publication date: 2011-10-13

Abstract

PROBLEM TO BE SOLVED: To surely recognize whether a camera corresponding to a displayed image is controllable and to surely recognize at which range of the whole image the displayed image is located.SOLUTION: A center server 300 is provided, including: a display processing portion 305 which performs control so that a panoramic image display region for displaying a panoramic image captured by a camera terminal 200, and an enlarged image display region for enlarging a region corresponding to a position specified on the panoramic image and displaying the enlarged image, are displayed; and a control portion 310 that performs control so that the region corresponding to the position specified on the panoramic image is captured by the camera terminal 200. The display control portion 305 changes a displayed state of the whole image corresponding to whether control by the control portion 310 is possible.

Description

本発明は、制御装置、カメラシステム及びプログラムに関する。 The present invention relates to a control device, a camera system, and a program.

従来、例えば下記の特許文献１に記載されているように、カメラを複数のユーザが操作できる場合に、複数のユーザからの操作が衝突することを防ぐため、操作したいユーザに一定期間、カメラの制御権を与えるカメラ制御システムが知られている。特許文献１には、カメラ制御権を有する場合に、操作部を表示し、カメラ制御権を有さない場合に、操作部を表示しないように制御していることが記載されている。また、下記の特許文献１に記載されているように、複数のカメラからの映像を一覧表示し、操作可能な場合と操作不可の場合に表示状態を変えるカメラ制御システムが知られている。特許文献２には、操作不可の場合、操作部をグレー表示するように制御していることが記載されている。 Conventionally, as described in, for example, Patent Document 1 below, when a plurality of users can operate a camera, in order to prevent operations from a plurality of users from colliding with each other, Camera control systems that give control rights are known. Japanese Patent Application Laid-Open No. 2004-228561 describes that the operation unit is displayed when the right to control the camera is displayed, and the operation unit is not displayed when the right to control the camera is not displayed. Also, as described in Patent Document 1 below, a camera control system that displays a list of videos from a plurality of cameras and changes the display state when operation is possible and when operation is not possible is known. Patent Document 2 describes that when an operation is impossible, the operation unit is controlled to be displayed in gray.

特開２００４−１９４２１７号公報JP 2004-194217 A 特開平９−２１４８１１号公報Japanese Patent Laid-Open No. 9-214811

しかしながら、上記文献に記載された技術では、表示画面を操作可能であるかをユーザが認識することができるが、表示画面と連携して操作可能であるか否かが表示されるものではないため、ユーザが操作可能であるか否かを直に認識することができなかった。また、表示画面には、現在撮影されているライブ映像のみが表示されるため、撮影されているライブ映像を超えた範囲を撮影するように直感的に操作することができなかった。更には、複数の画像を一覧表示している場合には、どのカメラを操作すれば、所望箇所を撮影できるかを認識することが困難であった。 However, in the technique described in the above document, the user can recognize whether or not the display screen can be operated, but it does not display whether or not the display screen can be operated in cooperation with the display screen. It was impossible to directly recognize whether or not the user can operate. Further, since only the live video currently being captured is displayed on the display screen, it has not been possible to intuitively operate to capture a range beyond the live video being captured. Furthermore, when a plurality of images are displayed in a list, it is difficult to recognize which camera can be operated to capture a desired portion.

そこで、本発明は、上記課題に鑑みてなされたものであり、本発明の目的とするところは、表示されている画像に対応するカメラが制御可能であるかを確実に認識できるとともに、表示されている画像が全体画像のどの範囲に位置するかを確実に認識することが可能な、新規かつ改良された制御装置、カメラシステム及びプログラムを提供することにある。 Therefore, the present invention has been made in view of the above problems, and an object of the present invention is to reliably recognize whether or not the camera corresponding to the displayed image can be controlled and to display the camera. It is an object of the present invention to provide a new and improved control device, camera system, and program capable of reliably recognizing in which range of an entire image an image is located.

上記課題を解決するために、本発明のある観点によれば、カメラで撮像された全体画像を表示する全体画像表示領域と、前記全体画像で指定された位置に対応する領域を拡大して拡大画像を表示する拡大画像表示領域と、を表示するように制御する表示制御部と、前記全体画像上で指定された位置に対応する領域を変化させるように制御する制御部と、を有し、前記表示制御部は、前記制御部による制御が可能か否かに応じて前記全体画像の表示状態を変更する、制御装置が提供される。 In order to solve the above problem, according to an aspect of the present invention, an entire image display area for displaying an entire image captured by a camera and an area corresponding to a position specified by the entire image are enlarged and enlarged. An enlarged image display area for displaying an image, a display control unit that controls to display an image, and a control unit that controls to change an area corresponding to a position specified on the entire image, The display control unit is provided with a control device that changes a display state of the entire image according to whether or not the control by the control unit is possible.

また、前記制御部は、前記全体画像上で指定された位置に対応する領域を前記カメラで撮像するように制御するものであってもよい。 Further, the control unit may control to capture an area corresponding to a position designated on the entire image with the camera.

また、前記表示制御部は、複数の前記カメラで撮影された前記拡大画像を一覧表示するものであってもよい。 In addition, the display control unit may display a list of the enlarged images taken by a plurality of the cameras.

また、前記表示制御部は、前記制御部による制御が可能な場合は前記全体画像をポップアップ表示し、前記制御部による制御が可能でない場合は前記全体画像をハーフトーン表示又は非表示とするものであってもよい。 The display control unit pops up the entire image when control by the control unit is possible, and displays the whole image as a halftone display or non-display when control by the control unit is not possible. There may be.

また、前記表示制御部は、前記制御部により制御が行われた場合に前記全体画像に対応する前記拡大画像の表示状態を変更するものであってもよい。 The display control unit may change a display state of the enlarged image corresponding to the entire image when the control is performed by the control unit.

また、上記課題を解決するために、本発明の別の観点によれば、画像を撮像するカメラと、前記カメラを制御する制御装置とを有するカメラシステムであって、前記制御装置は、カメラで撮像された全体画像を表示する全体画像表示領域と、前記全体画像で指定された位置に対応する領域を拡大して拡大画像を表示する拡大画像表示領域と、を表示するように制御する表示制御部と、前記全体画像上で指定された位置に対応する領域を変化させるように制御する制御部と、を有し、前記表示制御部は、前記制御部による制御が可能か否かに応じて前記パノラマ画像の表示状態を変更する、カメラシステムが提供される。 In order to solve the above problem, according to another aspect of the present invention, there is provided a camera system including a camera that captures an image and a control device that controls the camera, wherein the control device is a camera. Display control for controlling to display an entire image display area for displaying a captured entire image and an enlarged image display area for displaying an enlarged image by enlarging an area corresponding to a position specified in the entire image. And a control unit that controls to change a region corresponding to the position designated on the entire image, and the display control unit is configured to control whether the control by the control unit is possible or not. A camera system for changing the display state of the panoramic image is provided.

また、上記課題を解決するために、本発明の別の観点によれば、カメラで撮像された全体画像を表示する全体画像表示領域と、前記全体画像で指定された位置に対応する領域を拡大して拡大画像を表示する拡大画像表示領域と、を表示するように制御する手段、前記全体画像上で指定された位置に対応する領域を変化させるように制御する手段、前記カメラの制御が可能か否かに応じて前記全体画像の表示状態を変更する手段、としてコンピュータを機能させるためのプログラムが提供される。 In order to solve the above problem, according to another aspect of the present invention, an entire image display area for displaying an entire image captured by a camera and an area corresponding to a position designated by the entire image are enlarged. And a means for controlling to display an enlarged image display area for displaying an enlarged image, a means for controlling to change an area corresponding to a specified position on the whole image, and control of the camera There is provided a program for causing a computer to function as means for changing the display state of the entire image depending on whether or not.

本発明によれば、表示されている画像に対応するカメラが制御可能であるかを確実に認識できるとともに、表示されている画像が全体画像のどの範囲に位置するかを確実に認識することが可能となる。 According to the present invention, it is possible to reliably recognize whether the camera corresponding to the displayed image is controllable and to reliably recognize in which range of the entire image the displayed image is located. It becomes possible.

本発明の一実施形態に係る撮像システムの全体構成を示す模式図である。1 is a schematic diagram illustrating an overall configuration of an imaging system according to an embodiment of the present invention. 図１のシステムにおいて、カメラ端末装置とセンターサーバーの構成を詳細に示す模式図である。FIG. 2 is a schematic diagram illustrating in detail the configuration of a camera terminal device and a center server in the system of FIG. 1. カメラ端末装置２００のパン動作、チルト動作を説明するための模式図である。6 is a schematic diagram for explaining a pan operation and a tilt operation of the camera terminal device 200. FIG. パノラマ画と俯瞰画の表示状態を示す模式図である。It is a schematic diagram which shows the display state of a panoramic image and a bird's-eye view image. 俯瞰画信号ＤＦを生成する処理を説明するための模式図である。It is a schematic diagram for demonstrating the process which produces | generates the bird's-eye view image signal DF. 俯瞰画信号ＤＦを生成する処理を説明するための模式図である。It is a schematic diagram for demonstrating the process which produces | generates the bird's-eye view image signal DF. 俯瞰画信号ＤＦを生成する処理を説明するための模式図である。It is a schematic diagram for demonstrating the process which produces | generates the bird's-eye view image signal DF. 俯瞰画信号ＤＦを生成する処理を説明するための模式図である。It is a schematic diagram for demonstrating the process which produces | generates the bird's-eye view image signal DF. モニターの表示画面を示す模式図である。It is a schematic diagram which shows the display screen of a monitor. 操作パネルによる操作を説明するための模式図である。It is a schematic diagram for demonstrating operation by an operation panel. パネル“View”をクリックした場合に“Screen Mode”、“View Size” “Image Codec”、“Frame Rate”などのメニューが表示された状態を示す模式図である。FIG. 10 is a schematic diagram showing a state in which menus such as “Screen Mode”, “View Size”, “Image Codec”, and “Frame Rate” are displayed when the panel “View” is clicked. パネル“Camera”をクリックした場合に表示されるメニューを示す模式図である。It is a schematic diagram showing a menu displayed when the panel “Camera” is clicked. “Presetposition”、“Trigger”、“Other”、“information”をクリックした場合に表示される各メニューを示す模式図である。It is a schematic diagram which shows each menu displayed when "Presetposition", "Trigger", "Other", and "information" are clicked. 俯瞰画像の表示について説明するための模式図である。It is a schematic diagram for demonstrating the display of a bird's-eye view image. 俯瞰画像の表示について説明するための模式図である。It is a schematic diagram for demonstrating the display of a bird's-eye view image. 俯瞰画像の表示について説明するための模式図である。It is a schematic diagram for demonstrating the display of a bird's-eye view image. 俯瞰画像の表示について説明するための模式図である。It is a schematic diagram for demonstrating the display of a bird's-eye view image. 俯瞰画像の表示について説明するための模式図である。It is a schematic diagram for demonstrating the display of a bird's-eye view image. 複数のカメラ端末装置のそれぞれで撮像されたライブ映像をモニタに表示している様子を示す模式図である。It is a schematic diagram which shows a mode that the live image imaged by each of several camera terminal devices is displayed on a monitor. パノラマ画のポップアップ表示を画面の下部にまとめて表示する例を示す模式図である。It is a schematic diagram which shows the example which displays the pop-up display of a panoramic image collectively on the lower part of a screen.

以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。 Exemplary embodiments of the present invention will be described below in detail with reference to the accompanying drawings. In addition, in this specification and drawing, about the component which has the substantially same function structure, duplication description is abbreviate | omitted by attaching | subjecting the same code | symbol.

なお、説明は以下の順序で行うものとする。
１．第１の実施の形態（カメラ端末装置とサーバーからなる撮像システムの例）
（１）撮像システムの構成例
（２）カメラ端末装置とセンターサーバーの構成例
（３）第１のパノラマ画像及び第２のパノラマ画像の表示動作について
（４）第１のパノラマ画像を生成する処理について
（５）ＧＵＩについて
（６）第１のパノラマ画像上での撮影方向の指定
（７）ポップアップ表示による制御 The description will be made in the following order.
1. First embodiment (an example of an imaging system including a camera terminal device and a server)
(1) Configuration example of imaging system (2) Configuration example of camera terminal device and center server (3) Display operation of first panorama image and second panorama image (4) Processing to generate first panorama image (5) GUI (6) Specification of shooting direction on first panoramic image (7) Control by pop-up display

＜１．第１の実施形態＞
（１）撮像システムの構成例
図１は、本発明の一実施形態に係る撮像システムの全体構成を示す模式図である。撮像システム１００は、カメラ端末装置（ＩＰカメラ）２００、センターサーバー３００、クライアント４００を有しており、複数のカメラ端末装置２００、センターサーバー３００及びクライアント４００は、ネットワーク５００を介して接続されている。また、ネットワーク５００には、プロキシサーバー６００が接続されており、プロキシサーバー６００には複数のカメラ端末装置２００が接続されている。また、センターサーバー３００にはモニター３２０が接続されている。本実施形態において、カメラ端末装置２００は、例えば屋内又は屋外に設置される監視カメラであって、カメラ端末装置２００で取得した画像をセンターサーバー３００のモニタ３２０に表示することで、カメラ端末装置２００が設置された領域を監視できる。クライアント４００は、ネットワーク５００を介してカメラ端末装置２００、センターサーバー３００、またはプロキシサーバー６００と接続される。また、クライアント４００は、後述するセンターサーバ３００の機能とモニタ３２０の機能を備えるものであっても良い。カメラ端末装置２００で撮影された映像は、ネットワーク５００を介してクライアント４００に送られ、クライアント４００の表示画面には後述するライブ映像とともに第１のパノラマ画像、第２のパノラマ画像が表示される。なお、カメラ端末装置２００の例として、IPカメラをあげているが、これに限定されず、アナログカメラであってもよい。
パノラマ画像（全景画像、全体画像）は、カメラ端末装置２００で撮像可能な範囲を示している。パノラマ画像には、様々な形状があり、例えば、図４のように、円形のパノラマ画像や長方形のパノラマ画像、円筒面上に投射したような輪っか状のパノラマ画像などがある。以下、実施形態において、第１のパノラマ画像及び第２のパノラマ画像の例として、それぞれ円形のパノラマ画像及び長方形のパノラマ画像をあげて説明する。 <1. First Embodiment>
(1) Configuration Example of Imaging System FIG. 1 is a schematic diagram illustrating an overall configuration of an imaging system according to an embodiment of the present invention. The imaging system 100 includes a camera terminal device (IP camera) 200, a center server 300, and a client 400. The plurality of camera terminal devices 200, the center server 300, and the client 400 are connected via a network 500. . Further, a proxy server 600 is connected to the network 500, and a plurality of camera terminal devices 200 are connected to the proxy server 600. A monitor 320 is connected to the center server 300. In the present embodiment, the camera terminal device 200 is a surveillance camera installed indoors or outdoors, for example, and displays an image acquired by the camera terminal device 200 on the monitor 320 of the center server 300, whereby the camera terminal device 200. You can monitor the area where is installed. The client 400 is connected to the camera terminal device 200, the center server 300, or the proxy server 600 via the network 500. Further, the client 400 may have a function of the center server 300 and a function of the monitor 320 described later. Video captured by the camera terminal device 200 is sent to the client 400 via the network 500, and a first panoramic image and a second panoramic image are displayed on the display screen of the client 400 together with a live video described later. In addition, although the IP camera is mentioned as an example of the camera terminal apparatus 200, it is not limited to this, An analog camera may be sufficient.
The panoramic image (entire view image, entire image) indicates a range that can be captured by the camera terminal device 200. The panorama image has various shapes, such as a circular panorama image, a rectangular panorama image, and a ring-shaped panorama image projected onto a cylindrical surface, as shown in FIG. Hereinafter, in the embodiment, a circular panorama image and a rectangular panorama image will be described as examples of the first panorama image and the second panorama image, respectively.

（２）カメラ端末装置とセンターサーバーの構成例
図２は、図１のシステムにおいて、カメラ端末装置２００とセンターサーバー３００の構成を詳細に示す模式図である。図２に示すカメラ端末装置２００またはセンターサーバー３００の各構成要素は、ハードウェア（回路など）または、ＣＰＵなどの演算処理装置とこれを機能させるためのソフトウェア（プログラム）によって構成することができる。カメラ端末装置２００のカメラ部２０１は、撮像光学系を含み、後述する端末制御部２１０から供給された撮像制御信号ＣＴaに基づいて撮像動作を行い、映像信号Ｄcamを生成する。また、カメラ部２０１は、生成した映像信号Ｄcamを、バス２２０を介して信号処理部２０２に供給する。なお、バス２２０には、メモリ部２０３、撮像方向制御部２０４、ネットワークインタフェース部２０６、記憶部２０７、端末制御部２１０も接続されている。 (2) Configuration Example of Camera Terminal Device and Center Server FIG. 2 is a schematic diagram showing in detail the configuration of the camera terminal device 200 and the center server 300 in the system of FIG. Each component of the camera terminal device 200 or the center server 300 shown in FIG. 2 can be configured by hardware (circuit or the like) or an arithmetic processing device such as a CPU and software (program) for causing it to function. The camera unit 201 of the camera terminal device 200 includes an imaging optical system, performs an imaging operation based on an imaging control signal CTa supplied from a terminal control unit 210 described later, and generates a video signal Dcam. In addition, the camera unit 201 supplies the generated video signal Dcam to the signal processing unit 202 via the bus 220. Note that a memory unit 203, an imaging direction control unit 204, a network interface unit 206, a storage unit 207, and a terminal control unit 210 are also connected to the bus 220.

信号処理部２０２は、映像信号Ｄcamの圧縮処理を行い、得られた映像符号化信号ＤＶをメモリ部２０３に記憶させる。また、カメラ部２０１の撮像方向を順次移動して得られた映像信号Ｄcamを用いて第１のパノラマ画の映像信号（以下「第１のパノラマ画信号という」ＤＦ及び第２のパノラマ画の映像信号（以下「第２のパノラマ画信号」という）ＤＰを生成して、記憶部２０７に記憶させる。なお、映像信号Ｄcamの圧縮処理や、第１のパノラマ画信号ＤＦまたは第２のパノラマ画信号ＤＰの生成は、後述する端末制御部２１０から供給された信号処理制御信号ＣＴbに基づいて行う。 The signal processing unit 202 performs compression processing of the video signal Dcam, and stores the obtained video encoded signal DV in the memory unit 203. Also, the video signal of the first panorama image (hereinafter referred to as “first panorama image signal” DF and the image of the second panorama image is used by using the video signal Dcam obtained by sequentially moving the imaging direction of the camera unit 201. A signal DP (hereinafter referred to as “second panorama image signal”) DP is generated and stored in the storage unit 207. Note that the compression processing of the video signal Dcam, the first panorama image signal DF, or the second panorama image signal is performed. The DP is generated based on a signal processing control signal CTb supplied from the terminal control unit 210 described later.

撮像方向制御部２０４は、カメラ部２０１の撮像方向を、後述する端末制御部２１０から供給された方向制御信号ＣＴcによって指示された方向に移動させるため、撮像方向を移動する際の速度や加速度の計算を行う。また、計算結果に基づきパン動作を行うための駆動信号ＭＤpやチルト動作を行うための駆動信号ＭＤtを生成して、撮像方向調整部２０５に供給する。また、撮像方向制御部２０４は、カメラ部２０１の撮像方向がいずれの方向であるかを示すカメラ位置情報信号ＰＭを生成して、端末制御部２１０に供給する。 The imaging direction control unit 204 moves the imaging direction of the camera unit 201 in a direction instructed by a direction control signal CTc supplied from the terminal control unit 210 to be described later. Perform the calculation. Further, a drive signal MDp for performing a pan operation and a drive signal MDt for performing a tilt operation are generated based on the calculation result, and supplied to the imaging direction adjustment unit 205. In addition, the imaging direction control unit 204 generates a camera position information signal PM indicating which direction the imaging direction of the camera unit 201 is, and supplies the camera position information signal PM to the terminal control unit 210.

撮像方向調整部２０５は、カメラ部２０１を左右方向に移動させるパン動作モータと、カメラ部２０１を上下方向に移動させるチルト動作モータを有している。撮像方向調整部２０５は、駆動信号ＭＤpによってパン動作モータ、駆動信号ＭＤtによってチルト動作モータをそれぞれ駆動して、カメラ部２０１の撮像方向を方向制御信号ＣＴcによって指示された方向に調整する。また、撮像方向調整部２０５は、動作範囲が制限されることなくエンドレスにパン動作を行うものとする。 The imaging direction adjustment unit 205 includes a pan operation motor that moves the camera unit 201 in the left-right direction and a tilt operation motor that moves the camera unit 201 in the up-down direction. The imaging direction adjustment unit 205 adjusts the imaging direction of the camera unit 201 to the direction instructed by the direction control signal CTc by driving the pan operation motor by the drive signal MDp and the tilt operation motor by the drive signal MDt, respectively. In addition, the imaging direction adjustment unit 205 performs an endless pan operation without limiting the operation range.

図３は、カメラ端末装置２００のパン動作、チルト動作を説明するための模式図であって、カメラ端末装置２００を天井などに装着した場合を示している。ここで、図３（Ｂ）は、本実施形態に係るカメラ端末装置２００のパン・チルト動作を示している。一方、図３（Ａ）は、比較のため、一般的なカメラ端末装置のパン・チルト動作を示している。図３（Ａ）に示すように、一般的なカメラ端末装置では、パン動作を３６０°のエンドレスで行い、チルト動作については、鉛直方向から水平方向までの９０°の範囲で行う。これに対し、本実施形態に係るカメラ端末装置２００は、パン動作を３６０°のエンドレスで行うとともに、チルト動作については、鉛直方向を中心として２２０°の範囲で行うことができる。従って、後述する手法により第１のパノラマ画の映像信号ＤＦを生成して記憶部２０７に記憶することができる。後述の第１のパノラマ画像は、円形のパノラマ画像であり、円の中央付近を中心をまたいで、撮像方向を操作する場合に、本実施形態に係るカメラ端末装置２００は、目的撮像方向まで最短でメカ的にも移動することができる。一方、一般的なカメラ端末装置では、円の中心をまたぐようにはカメラ撮像方位をメカ的に移動させることができない。 FIG. 3 is a schematic diagram for explaining the pan operation and tilt operation of the camera terminal apparatus 200, and shows a case where the camera terminal apparatus 200 is mounted on a ceiling or the like. Here, FIG. 3B shows a pan / tilt operation of the camera terminal device 200 according to the present embodiment. On the other hand, FIG. 3A shows a pan / tilt operation of a general camera terminal device for comparison. As shown in FIG. 3A, in a general camera terminal device, pan operation is performed endlessly at 360 °, and tilt operation is performed in a range of 90 ° from the vertical direction to the horizontal direction. On the other hand, the camera terminal device 200 according to the present embodiment can perform the pan operation endlessly at 360 °, and can perform the tilt operation within a range of 220 ° centering on the vertical direction. Therefore, the video signal DF of the first panoramic image can be generated and stored in the storage unit 207 by a method described later. A first panoramic image to be described later is a circular panoramic image, and when operating the imaging direction across the center of the circle, the camera terminal device 200 according to the present embodiment is the shortest to the target imaging direction. Can be moved mechanically. On the other hand, in a general camera terminal device, the camera imaging direction cannot be mechanically moved so as to cross the center of a circle.

ネットワークインタフェース部２０６は、カメラ端末装置２００とセンターサーバー３００との間で、ネットワーク５００を介して通信を行うためのインタフェースである。 The network interface unit 206 is an interface for performing communication between the camera terminal device 200 and the center server 300 via the network 500.

端末制御部２１０は、撮像制御信号ＣＴaによってカメラ部２０１を制御し、信号処理制御信号ＣＴbによって信号処理部２０２を制御し、方向制御信号ＣＴcによって撮像方向制御部２０４を制御して、撮像方向を順次移動しながら撮像を行う。そして、端末制御部２１０は、得られた映像信号Ｄcamに基づいて第１のパノラマ画信号ＤＦ及び第２のパノラマ画信号ＤＰを生成させて記憶部２０７に記憶させる。 The terminal control unit 210 controls the camera unit 201 by the imaging control signal CTa, controls the signal processing unit 202 by the signal processing control signal CTb, controls the imaging direction control unit 204 by the direction control signal CTc, and sets the imaging direction. Imaging is performed while sequentially moving. Then, the terminal control unit 210 generates the first panorama image signal DF and the second panorama image signal DP based on the obtained video signal Dcam and stores them in the storage unit 207.

本実施形態に係る撮像システム１００は、映像信号Ｄcamによるライブ映像と、第１のパノラマ画信号ＤＦまたは第２のパノラマ画信号ＤＰによる第１のパノラマ画または第２のパノラマ画を共にカメラ端末装置２００からセンターサーバー３００に送信し、モニター３２０に表示することができる。尚、本明細書において、第１のパノラマ画像及び第２のパノラマ画像を全体画像と称する場合がある。図４は、第２のパノラマ画と第１のパノラマ画の表示状態を示す模式図である。センターサーバー３００は、ユーザの選択に応じて、第１のパノラマ画または第２のパノラマ画の一方をモニター３２０にライブ映像とともに表示することができる。また、センターサーバー３００は、第１のパノラマ画及び第２のパノラマ画の双方をライブ映像とともに表示するように構成されていても良い。なお、図４の右図では、中央付近の画像が欠けた円形のパノラマ画像を第１のパノラマ画像としているが、これに限定されず、中央付近の画像が欠けていない円形のパノラマ画像を第１のパノラマ画像としてもよい。 The imaging system 100 according to the present embodiment includes a camera terminal device that includes both a live video based on the video signal Dcam and the first panorama image or the second panorama image based on the first panorama image signal DF or the second panorama image signal DP. 200 can be transmitted to the center server 300 and displayed on the monitor 320. In the present specification, the first panorama image and the second panorama image may be referred to as an entire image. FIG. 4 is a schematic diagram illustrating a display state of the second panorama image and the first panorama image. The center server 300 can display either the first panorama image or the second panorama image together with the live video on the monitor 320 according to the user's selection. The center server 300 may be configured to display both the first panorama image and the second panorama image together with the live video. In the right diagram in FIG. 4, a circular panoramic image lacking an image near the center is used as the first panorama image. However, the present invention is not limited to this. One panoramic image may be used.

カメラ端末装置２００は、天井などに設置され、カメラ端末装置２００の下方向の画像を表示する。このため、図４に示すように、第１のパノラマ画は、カメラ端末装置２００から下向きに延在する鉛直線を中心として、パン３６０°、チルト２２０°の範囲で取得され、その輪郭は円形となる。 The camera terminal device 200 is installed on a ceiling or the like, and displays a downward image of the camera terminal device 200. Therefore, as shown in FIG. 4, the first panoramic image is acquired in a range of pan 360 ° and tilt 220 ° with a vertical line extending downward from the camera terminal device 200 as a center, and its outline is circular. It becomes.

また、撮像方向調整部２０５は、上述のようにエンドレスにパン動作を行うことができるように構成されている。したがって、記憶部２０７に記憶する第２のパノラマ画像は、例えば図４に示すように、画像が重複しないように、一方の端部が基準方向から「＋１８０°」の角度差、他方の端部が基準方向から「−１８０°」の角度差を有するものとする。また、パン動作の動作範囲が制限されないので、例えば動作範囲が制限されている場合のように、動作範囲の中央位置を基準方向とすることができない。したがって、基準方向を予め設定しておき、この基準方向が第２のパノラマ画像の中央位置となるように第２のパノラマ画信号ＤＰを生成する。また、撮像方向制御部２０４は、カメラ位置情報信号ＰＭとして、予め設定された基準方向に対する撮像方向の例えば角度差を示す信号を生成する。 Further, the imaging direction adjustment unit 205 is configured to be able to perform an endless pan operation as described above. Accordingly, the second panoramic image stored in the storage unit 207 is, for example, as illustrated in FIG. 4, so that one end portion has an angle difference of “+ 180 °” from the reference direction and the other end portion so that the images do not overlap. Is assumed to have an angle difference of “−180 °” from the reference direction. Further, since the operation range of the pan operation is not limited, the center position of the operation range cannot be set as the reference direction as in the case where the operation range is limited, for example. Accordingly, a reference direction is set in advance, and the second panorama image signal DP is generated so that the reference direction becomes the center position of the second panorama image. Further, the imaging direction control unit 204 generates, as the camera position information signal PM, a signal indicating, for example, an angle difference between the imaging directions with respect to a preset reference direction.

このように基準方向を予め設定しておくものとすれば、第２のパノラマ画像がいずれの方向を基準とした撮像動作によって生成された画像であるかを判別する必要がない。また、カメラ位置情報信号ＰＭによって、基準方向に対する撮像方向の角度差を示すものとすれば、第２のパノラマ画像上におけるカメラ位置情報信号ＰＭに基づく撮像方向の位置を容易に判別できる。 In this way, if the reference direction is set in advance, it is not necessary to determine which direction the second panoramic image is generated by the imaging operation based on which direction. If the camera position information signal PM indicates an angle difference between the image capturing direction and the reference direction, the position in the image capturing direction based on the camera position information signal PM on the second panoramic image can be easily determined.

チルト動作においても、予め基準方向を設定しておき、カメラ位置情報信号ＰＭによって、基準方向に対する撮像方向の角度差を示すものとする。これにより、第１のパノラマ画像、第２のパノラマ画像の双方において、カメラ位置情報信号ＰＭに基づく撮像方向の位置を容易に判別できる。なお、チルト動作については、カメラ端末装置２００が天井に設置されている場合、鉛直方向を基準方向とすることができる。 Also in the tilt operation, a reference direction is set in advance, and the angle difference between the imaging direction and the reference direction is indicated by the camera position information signal PM. Thereby, the position in the imaging direction based on the camera position information signal PM can be easily determined in both the first panorama image and the second panorama image. Regarding the tilting operation, when the camera terminal device 200 is installed on the ceiling, the vertical direction can be set as the reference direction.

端末制御部２１０は、ネットワークインタフェース部２０６を介してセンターサーバー３００から供給されたコマンド信号ＣＭを解析して、撮像制御信号ＣＴaや信号処理制御信号ＣＴb，方向制御信号ＣＴcの生成を行う。また、メモリ部２０３に記憶されている映像符号化信号ＤＶや、記憶部２０７に記憶されている第１のパノラマ画信号ＤＦ、第２のパノラマ画信号ＤＰ、および撮像方向制御部２０４から供給されたカメラ位置情報信号ＰＭをセンターサーバー３００に送出する処理等を行う。 The terminal control unit 210 analyzes the command signal CM supplied from the center server 300 via the network interface unit 206, and generates an imaging control signal CTa, a signal processing control signal CTb, and a direction control signal CTc. In addition, the video encoded signal DV stored in the memory unit 203, the first panorama image signal DF, the second panorama image signal DP, and the imaging direction control unit 204 stored in the storage unit 207 are supplied. The camera position information signal PM is sent to the center server 300.

センターサーバー３００のネットワークインタフェース部３０１は、カメラ端末装置２００とセンターサーバー３００とで、ネットワーク５００を介して通信を行うためのインタフェースである。ネットワークインタフェース部３０１は、カメラ端末装置２００から供給された映像符号化信号ＤＶを伸長処理部３０２に供給する。また、ネットワークインタフェース部３０１は、カメラ位置情報信号ＰＭを位置判別処理部３０３に供給し、第１のパノラマ画信号ＤＦ及び第２のパノラマ画信号ＤＰを画像処理部３０４に供給する。 The network interface unit 301 of the center server 300 is an interface for performing communication between the camera terminal device 200 and the center server 300 via the network 500. The network interface unit 301 supplies the video encoded signal DV supplied from the camera terminal device 200 to the decompression processing unit 302. The network interface unit 301 supplies the camera position information signal PM to the position determination processing unit 303 and supplies the first panorama image signal DF and the second panorama image signal DP to the image processing unit 304.

伸長処理部３０２は、映像符号化信号ＤＶの伸長処理を行い、得られた映像信号Ｄcamを表示処理部３０５に供給する。 The decompression processing unit 302 performs decompression processing of the video encoded signal DV and supplies the obtained video signal Dcam to the display processing unit 305.

位置判別処理部３０３は、カメラ位置情報信号ＰＭで示された撮像方向が第１のパノラマ画像または第２のパノラマ画像のいずれの位置に対応するか判別して、位置判別結果ＫＰを画像処理部３０４に供給する。ここで、カメラ位置情報信号ＰＭは、上述のように予め設定した基準方向がパン動作、チルト動作の中央位置となるように第１のパノラマ画信号ＤＦまたは第２のパノラマ画信号ＤＰを生成し、カメラ位置情報信号ＰＭは基準方向と現在の撮像方向の角度差を示すものとすれば、カメラ位置情報信号ＰＭに基づき、現在の撮像方向が俯瞰画像または第２のパノラマ画像のいずれの位置に対応するか容易に判別できる。 The position determination processing unit 303 determines whether the imaging direction indicated by the camera position information signal PM corresponds to the position of the first panorama image or the second panorama image, and uses the position determination result KP as the image processing unit. 304 is supplied. Here, the camera position information signal PM generates the first panorama image signal DF or the second panorama image signal DP so that the preset reference direction is the center position of the pan operation and tilt operation as described above. Assuming that the camera position information signal PM indicates an angle difference between the reference direction and the current imaging direction, the current imaging direction is at either the overhead image or the second panoramic image based on the camera position information signal PM. It can be easily determined whether it corresponds.

画像処理部３０４は、位置判別結果ＫＰに基づいて画像処理を行い、第１のパノラマ画像の第１のパノラマ画信号ＤＦＣ、及び第２のパノラマ画像の第２のパノラマ画信号ＤＰＣを生成する。第２のパノラマ画信号ＤＰＣについては、位置判別結果ＫＰにより判別された位置が中央位置とされた第２のパノラマ画信号ＤＰＣを生成することができる。この場合、画像処理部３０４では、判別された位置と第２のパノラマ画像の中心位置との差分量を判別して、この判別した差分量に基づいて、判別された位置が画像の中央位置となるように第２のパノラマ画像を処理する。すなわち、判別された位置を中央位置として「±１８０°」の第２のパノラマ画像表示画枠を設定して、第２のパノラマ画像表示画枠から外れる差分量分の領域の第２のパノラマ画像を、画像の無い領域に貼り付けることで、判別された位置を中央位置とした第２のパノラマ画像の第２のパノラマ画信号ＤＰＣを生成する。第１のパノラマ画信号ＤＦＣの場合においても、後述する「第１のパノラマ画像を回転させるモード」の場合は、第２のパノラマ画信号ＤＰＣと同様に、判別された位置と第１のパノラマ画のパン方向の基準位置との差分量を判別して、この判別した差分量に基づいて、判別された位置が画像の上に位置するように第１のパノラマ画像を処理する。また、画像処理部３０４は、第１のパノラマ画信号ＤＦＣ及び第２のパノラマ画信号ＤＰＣのそれぞれにおいて、位置判別結果ＫＰに基づく位置（カメラ部２０１の撮像光学系の光軸が向いている位置）を表示する。さらに、画像処理部３０４は、画像処理を行うことにより生成した第１のパノラマ画信号ＤＦＣ及び第２のパノラマ画信号ＤＰＣを表示処理部３０５に供給する。 The image processing unit 304 performs image processing based on the position determination result KP, and generates a first panorama image signal DFC of the first panorama image and a second panorama image signal DPC of the second panorama image. As for the second panorama image signal DPC, the second panorama image signal DPC in which the position determined by the position determination result KP is the center position can be generated. In this case, the image processing unit 304 determines a difference amount between the determined position and the center position of the second panoramic image, and based on the determined difference amount, the determined position becomes the center position of the image. The second panoramic image is processed so that That is, the second panorama image display image frame of “± 180 °” is set with the determined position as the center position, and the second panorama image in the region corresponding to the difference amount deviating from the second panorama image display image frame is set. Is pasted into a region without an image to generate a second panoramic image signal DPC of the second panoramic image with the determined position as the center position. Even in the case of the first panorama image signal DFC, in the case of a “first panorama image rotation mode” to be described later, as in the case of the second panorama image signal DPC, the determined position and the first panorama image are detected. A difference amount from the reference position in the pan direction is determined, and the first panoramic image is processed based on the determined difference amount so that the determined position is positioned on the image. In addition, the image processing unit 304 determines the position based on the position determination result KP (the position where the optical axis of the imaging optical system of the camera unit 201 faces) in each of the first panorama image signal DFC and the second panorama image signal DPC. ) Is displayed. Further, the image processing unit 304 supplies the first panorama image signal DFC and the second panorama image signal DPC generated by performing image processing to the display processing unit 305.

表示処理部３０５は、伸長処理部３０２から供給された映像信号Ｄcamや、画像処理部３０４から供給された第１のパノラマ画信号ＤＦＣ及び第２のパノラマ画信号ＤＰＣを用いて表示駆動信号ＨＤを生成してモニター３２０に供給する。また、表示処理部３０５は、後述する制御部３１０から供給されたＧＵＩ表示制御信号ＣＴgに基づいて生成したＧＵＩ用映像信号を用いて、表示駆動信号ＨＤを生成してモニター３２０に供給する。表示処理部３０５は、複数のカメラ端末装置２００から送られたライブ映像とパノラマ画をモニター３２０上に一覧表示するように制御することができる。 The display processing unit 305 uses the video signal Dcam supplied from the decompression processing unit 302 and the first panorama image signal DFC and the second panorama image signal DPC supplied from the image processing unit 304 to generate the display drive signal HD. Generated and supplied to the monitor 320. In addition, the display processing unit 305 generates a display drive signal HD using a GUI video signal generated based on a GUI display control signal CTg supplied from the control unit 310 described later, and supplies the display drive signal HD to the monitor 320. The display processing unit 305 can control to display a list of live images and panorama images sent from the plurality of camera terminal devices 200 on the monitor 320.

モニター３２０は、表示駆動信号ＨＤに基づいて、表示素子例えば液晶表示素子やプラズマ表示素子あるいは陰極線管等を駆動して、第１のパノラマ画像、撮像方向を中央位置とした第２のパノラマ画像やカメラ部２０１の撮像画像（ライブ映像）、ＧＵＩ画像等を画面上に表示する。 The monitor 320 drives a display element such as a liquid crystal display element, a plasma display element, or a cathode ray tube based on the display drive signal HD, and the first panorama image, the second panorama image with the imaging direction as the center position, A captured image (live video) of the camera unit 201, a GUI image, and the like are displayed on the screen.

ユーザインタフェース部３１５は、ＧＵＩが用いられており、モニター３２０を用いてユーザに対する情報の提示を行い、提示された情報に基づき操作入力手段であるポインティングデバイスやキーボード等でユーザ操作が行われたとき、ユーザ操作に応じた操作信号ＵＳを制御部３１０に供給して所望の動作等を行わせる。 The user interface unit 315 uses a GUI, presents information to the user using the monitor 320, and when a user operation is performed with a pointing device, a keyboard, or the like that is an operation input unit based on the presented information Then, an operation signal US corresponding to a user operation is supplied to the control unit 310 to perform a desired operation or the like.

制御部３１０は、操作信号ＵＳとモニター３２０の表示状態に基づき、ユーザがどのような処理の選択やどのような処理の実行を要求したか判別して、判別結果に基づき制御信号ＣＴmを生成して各部に供給し、センターサーバー３００の動作を制御する。また、判別結果に基づきコマンド信号ＣＭを生成して、ネットワークインタフェース部３０１を介してカメラ端末装置２００に供給し、カメラ端末装置２０の動作を制御する。さらに、制御部３１０は、ＧＵＩ表示制御信号ＣＴgを生成して表示処理部３０５に供給する。 Based on the operation signal US and the display state of the monitor 320, the control unit 310 determines what type of processing the user has requested to select and what type of processing is executed, and generates a control signal CTm based on the determination result. To control the operation of the center server 300. Further, a command signal CM is generated based on the determination result, supplied to the camera terminal device 200 via the network interface unit 301, and the operation of the camera terminal device 20 is controlled. Further, the control unit 310 generates a GUI display control signal CTg and supplies it to the display processing unit 305.

なお、上述した例では、カメラ端末装置２００が映像信号Ｄcamから第１のパノラマ画の映像信号ＤＦ及び第２のパノラマ画の映像信号ＤＰを生成したが、センターサーバー３００またはクライアント４００が第１のパノラマ画の映像信号ＤＦ及び第２のパノラマ画の映像信号ＤＰを生成しても良い。この場合、カメラ端末装置２００のネットワークインタフェース部２０６は、カメラブロック２０１から出力された映像信号Ｄcamをセンターサーバー３００またはクライアント４００へ送る。センターサーバー３００またはクライアント４００は、カメラ端末装置２００と同様の信号処理部を備えることで、第１のパノラマ画の映像信号ＤＦ及び第２のパノラマ画の映像信号ＤＰを生成することができる。第１のパノラマ画の映像信号ＤＦ及び第２のパノラマ画の映像信号ＤＰは、センターサーバー３００またはクライアント４００が備えるハードディスク等のメモリに記憶される。 In the above-described example, the camera terminal device 200 generates the first panorama image signal DF and the second panorama image signal DP from the image signal Dcam. However, the center server 300 or the client 400 performs the first panorama image signal DP. The panoramic image video signal DF and the second panoramic image video signal DP may be generated. In this case, the network interface unit 206 of the camera terminal device 200 sends the video signal Dcam output from the camera block 201 to the center server 300 or the client 400. The center server 300 or the client 400 includes a signal processing unit similar to that of the camera terminal device 200, and can generate the video signal DF of the first panoramic image and the video signal DP of the second panoramic image. The video signal DF of the first panorama image and the video signal DP of the second panorama image are stored in a memory such as a hard disk provided in the center server 300 or the client 400.

（３）第１のパノラマ画像及び第２のパノラマ画像の表示動作について
次に、第１のパノラマ画像及び第２のパノラマ画像表示動作について説明する。制御部３１０は、動作開始時に、カメラ端末装置２００に対して、第１のパノラマ画信号ＤＦ及び第２のパノラマ画信号ＤＰとカメラ位置情報信号ＰＭおよび映像符号化信号ＤＶを要求するコマンド信号ＣＭを送信する。カメラ端末装置２００は、記憶部２０７に第１のパノラマ画信号ＤＦ、第２のパノラマ画信号ＤＰを記憶しているとき、この第１のパノラマ画信号ＤＦ、第２のパノラマ画信号ＤＰを読み出してセンターサーバー３００に送信する。また、カメラ端末装置２００は、画記憶部２０７に第１のパノラマ画信号ＤＦまたは第２のパノラマ画信号ＤＰが記憶されていないとき、カメラ部２０１や信号処理部２０２および撮像方向制御部２０４を制御して、撮像方向を移動しながら撮像動作を行い、第１のパノラマ画信号ＤＦ及び第２のパノラマ画信号ＤＰを生成してセンターサーバー３００に送信する。なお、カメラ端末装置２００は、生成した第１のパノラマ画信号ＤＦ及び第２のパノラマ画信号ＤＰは、記憶部２０７に記憶させる。 (3) Display Operation of First Panorama Image and Second Panorama Image Next, the first panorama image and second panorama image display operation will be described. At the start of operation, the control unit 310 requests the camera terminal apparatus 200 for the first panorama image signal DF, the second panorama image signal DP, the camera position information signal PM, and the video encoding signal DV. Send. When the first panorama image signal DF and the second panorama image signal DP are stored in the storage unit 207, the camera terminal device 200 reads out the first panorama image signal DF and the second panorama image signal DP. To the center server 300. In addition, when the first panorama image signal DF or the second panorama image signal DP is not stored in the image storage unit 207, the camera terminal device 200 controls the camera unit 201, the signal processing unit 202, and the imaging direction control unit 204. The image pickup operation is performed while moving the image pickup direction, and the first panorama image signal DF and the second panorama image signal DP are generated and transmitted to the center server 300. The camera terminal device 200 stores the generated first panorama image signal DF and second panorama image signal DP in the storage unit 207.

カメラ端末装置２００は、撮像方向制御部２０４で生成したカメラ位置情報信号ＰＭをセンターサーバー３００に供給する。また、カメラ端末装置２００は、カメラ部２０１の撮像動作を開始して、得られた映像信号Ｄcamを信号処理部２０２で圧縮し映像符号化信号ＤＶをメモリ部２０３に記憶させる。さらに、メモリ部２０３に記憶されている映像符号化信号ＤＶをセンターサーバー３００に供給する。なお、図１に示すように、カメラ端末装置２００とネットワーク５００とがプロキシサーバ６００を介して接続されている場合、カメラ端末装置２００とセンターサーバー３００との間の情報のやり取りは、プロキシサーバ６００を経由して行われる。 The camera terminal apparatus 200 supplies the camera position information signal PM generated by the imaging direction control unit 204 to the center server 300. In addition, the camera terminal device 200 starts an imaging operation of the camera unit 201, compresses the obtained video signal Dcam by the signal processing unit 202, and stores the video encoded signal DV in the memory unit 203. Further, the encoded video signal DV stored in the memory unit 203 is supplied to the center server 300. As shown in FIG. 1, when the camera terminal device 200 and the network 500 are connected via a proxy server 600, information exchange between the camera terminal device 200 and the center server 300 is performed by the proxy server 600. Is done via.

センターサーバー３００の位置判別処理部３０３は、カメラ位置情報信号ＰＭで示された撮像方向が第１のパノラマ画像または第２のパノラマ画像のいずれの位置に対応するか判別して、位置判別結果ＫＰを画像処理部３０４に供給する。第２のパノラマ画を例に挙げると、例えばカメラ位置情報信号ＰＭで示す角度差が「０°」であるとき、撮像方向は基準方向に設定されていることから、撮像方向の位置は第２のパノラマ画像の中央位置となっている。 The position determination processing unit 303 of the center server 300 determines whether the imaging direction indicated by the camera position information signal PM corresponds to the position of the first panorama image or the second panorama image, and the position determination result KP. Is supplied to the image processing unit 304. Taking the second panoramic image as an example, for example, when the angle difference indicated by the camera position information signal PM is “0 °”, the imaging direction is set to the reference direction, so the position in the imaging direction is the second. This is the center position of the panoramic image.

画像処理部３０４は、位置判別結果ＫＰに基づいて画像処理を行う。ここで、位置判別結果ＫＰによって、撮像方向の位置が第２のパノラマ画像の中央位置であることが示されたときは、撮像方向の画像が第２のパノラマ画像の中央となっていることから、第２のパノラマ画像処理を行うことなく、第２のパノラマ画信号ＤＰを第２のパノラマ画信号ＤＰＣとして表示処理部３０５に供給する。一方、撮像方向の位置が第２のパノラマ画像の中央位置でない場合は、判別された撮像方向の位置と第２のパノラマ画像の中心位置との差分量を判別して、この判別した差分量に基づいて、判別された位置が画像の中央位置となるように第２のパノラマ画像を処理し、第２のパノラマ画信号ＤＰＣを生成する。 The image processing unit 304 performs image processing based on the position determination result KP. Here, when the position determination result KP indicates that the position in the imaging direction is the center position of the second panoramic image, the image in the imaging direction is the center of the second panoramic image. The second panorama image signal DP is supplied to the display processing unit 305 as the second panorama image signal DPC without performing the second panorama image processing. On the other hand, when the position in the imaging direction is not the center position of the second panoramic image, the difference amount between the determined position in the imaging direction and the center position of the second panoramic image is determined, and the determined difference amount is Based on this, the second panorama image is processed so that the determined position becomes the center position of the image, and the second panorama image signal DPC is generated.

このため、第２のパノラマ画像においては、例えばカメラ位置情報信号ＰＭで示す角度差が「０°」であるとき、表示処理部３０５からの表示駆動信号ＨＤによって駆動されるモニター３２０の画面上には、カメラ部２０１で撮影された撮像画像と、基準方向が中央位置とされている第２のパノラマ画像、およびＧＵＩに関する画像が表示される。 For this reason, in the second panoramic image, for example, when the angle difference indicated by the camera position information signal PM is “0 °”, it is displayed on the screen of the monitor 320 driven by the display drive signal HD from the display processing unit 305. Displays a captured image captured by the camera unit 201, a second panoramic image whose reference direction is the center position, and an image related to the GUI.

第１のパノラマ画像の場合、後述する「第１のパノラマ画像を回転させるモード」の場合は、第２のパノラマ画信号ＤＰＣと同様に、判別された位置と第１のパノラマ画像のパン方向の基準位置との差分量を判別して、この判別した差分量に基づいて、判別された位置が画像の下（後述する直線Ｌ上）に位置するように第１のパノラマ画像を回転させ、第１のパノラマ画信号ＤＦＣを生成する。また、画像処理部３０４は、第１のパノラマ画信号ＤＦＣ及び第２のパノラマ画信号ＤＰＣのそれぞれにおいて、位置判別結果ＫＰに基づく撮像方向の位置（カメラ部２０１の撮像光学系の光軸が向いている位置）を表示する。 In the case of the first panorama image, in the case of a “first panorama image rotation mode” to be described later, as in the case of the second panorama image signal DPC, the determined position and the pan direction of the first panorama image are changed. A difference amount from the reference position is determined, and based on the determined difference amount, the first panoramic image is rotated so that the determined position is positioned below the image (on a straight line L described later), 1 panoramic image signal DFC is generated. The image processing unit 304 also determines the position in the imaging direction based on the position determination result KP (the optical axis of the imaging optical system of the camera unit 201 is oriented) in each of the first panorama image signal DFC and the second panorama image signal DPC. Display position).

第１のパノラマ画像及び第２のパノラマ画像のいずれにおいても、予め設定された基準位置を中心位置として固定して表示することもできる。この場合、位置判別結果ＫＰによって判別された位置と予め設定された基準位置との差分量を判別して、この判別された差分量に基づいて、中心位置から差分量だけ離れた位置にカメラの撮像方向（カメラブロックが有する光学系の光軸の方向）が向いていることを示すカーソル、または枠などを第１または第２のパノラマ画像中に表示する。 In both the first panorama image and the second panorama image, a preset reference position can be fixed and displayed as the center position. In this case, a difference amount between the position determined by the position determination result KP and a preset reference position is determined, and the camera is positioned at a position away from the center position by the difference amount based on the determined difference amount. A cursor or a frame indicating that the imaging direction (the direction of the optical axis of the optical system of the camera block) is oriented is displayed in the first or second panoramic image.

伸長処理部３０２は、映像符号化信号ＤＶを伸長して、得られた映像信号Ｄcamを表示処理部３０５に供給する。また、制御部３１０は、ＧＵＩ表示を行うためのＧＵＩ表示制御信号ＣＴgを表示処理部３０５に供給する。 The decompression processing unit 302 decompresses the video encoded signal DV and supplies the obtained video signal Dcam to the display processing unit 305. Further, the control unit 310 supplies a GUI display control signal CTg for performing GUI display to the display processing unit 305.

（４）第１のパノラマ画像を生成する処理について
次に、第１のパノラマ画信号ＤＦを生成する処理について、図５〜図８に基づいて説明する。第１のパノラマ画像信号ＤＦを生成する際には、第１のパノラマ画像の領域毎に画像を取得する。先ず、図５に示すように、カメラ端末装置２００のズームを固定して、ある任意の間隔でパン、チルトを行い、静止画を取得する。図５中に示す数字は、画像取得の順番を示している。 (4) Processing for Generating First Panorama Image Next, processing for generating the first panorama image signal DF will be described with reference to FIGS. When generating the first panorama image signal DF, an image is acquired for each region of the first panorama image. First, as shown in FIG. 5, the zoom of the camera terminal device 200 is fixed, panning and tilting are performed at certain arbitrary intervals, and a still image is acquired. The numbers shown in FIG. 5 indicate the order of image acquisition.

次に、以下の［１］〜［３］の手順により、静止画像座標系の座標変換を行う。ここでは、図６に示すように、静止画像の各点を、カメラ端末装置２００の回転中心から見た相対位置(x,y,z)に変換する。
［１］水平画角thh[degree]、アスペクト比aのカメラの視点を原点に置き、-z方向に向ける。距離Lの位置に被写体平面(x, y, -L)を考えると、見える範囲は 2Lx × 2Ly の長方形になる。ここで、Lx=L・tan(thh/2)、Ly=Lx/aの関係が成立する。
［２］カメラの姿勢は本来(x, y,
z, p, q, r)であるが、視点の位置が原点に固定されていると考えると、x=y=z=0であり、ここでは(p, q, r) （p: Pan(y軸回転), q: Tilt(x軸回転), r: roll(z軸回転)）のみを考える。
［３］ (2Lx)×(2Ly)の長方形内の点(j, i)を用いると下記の式が成り立つ。
x=Lx × (j-Lx)/Lx
y = Ly × (i - Ly) / Ly
z = -L
［４］ (x, y, z)を用いて以下のRoll変換、Tilt変換、Pan変換式を適用する。 Next, coordinate conversion of the still image coordinate system is performed by the following procedures [1] to [3]. Here, as shown in FIG. 6, each point of the still image is converted into a relative position (x, y, z) viewed from the rotation center of the camera terminal device 200.
[1] A camera with a horizontal angle of view thh [degree] and an aspect ratio of a is set at the origin, and is directed in the -z direction. Considering the object plane (x, y, -L) at the position of distance L, the visible range is a rectangle of 2Lx × 2Ly. Here, the relationship of Lx = L · tan (thh / 2) and Ly = Lx / a is established.
[2] The camera's posture is originally (x, y,
z, p, q, r), but assuming that the viewpoint position is fixed at the origin, x = y = z = 0, where (p, q, r) (p: Pan ( (y-axis rotation), q: Tilt (x-axis rotation), r: roll (z-axis rotation)) only.
[3] When a point (j, i) in a rectangle of (2Lx) × (2Ly) is used, the following equation is established.
x = Lx × (j-Lx) / Lx
y = Ly × (i-Ly) / Ly
z = -L
[4] The following roll conversion, tilt conversion, and pan conversion formula are applied using (x, y, z).

ここで得られた(x3,y3,z3)が、静止画像のある点（x,y,z)をカメラの回転中心から見た座標系で表した値となる。 The obtained (x3, y3, z3) is a value represented by a coordinate system when a point (x, y, z) in the still image is viewed from the rotation center of the camera.

次に、相対位置を緯度、経度に変換する。ここでは、図７に示すように、上記で得られた(x3,y3,z3)を緯度、経度に変換する。(x3, y3, z3)の方向が-zの方向に対して水平方向となす角度が経度であり、またx-z平面となす角度が緯度になり、以下の式で求めることができる。
・緯度(Latitude)
La = tan^-1
( y3 / ::sqrt( x3 * x3 + z3 * z3))
・経度(Lo)
0.0 < z3のとき
0.0 < x3の場合 Lo = 90.0 + La
0.0≧x3の場合 Lo = -90.0 - La
0.0 ≧ z3のとき
Lo =
tan^-1( x3 / z3) / RAD
ただし、
RAD = π/ 180 (π:円周率) Next, the relative position is converted into latitude and longitude. Here, as shown in FIG. 7, (x3, y3, z3) obtained above is converted into latitude and longitude. The angle formed by the (x3, y3, z3) direction with respect to the -z direction is the longitude, and the angle formed with the xz plane is the latitude.
・ Latitude
La = tan ^-1
(y3 / :: sqrt (x3 * x3 + z3 * z3))
・ Longitude (Lo)
When 0.0 <z3
If 0.0 <x3 Lo = 90.0 + La
When 0.0 ≧ x3 Lo = -90.0-La
When 0.0 ≥ z3
Lo =
tan ^-1 (x3 / z3) / RAD
However,
RAD = π / 180 (π: Pi ratio)

次に、第１のパノラマ画像への変換を行う。ここでは、図８に示すように、得られた緯度、経度（La,Lo）を、緯度を半径の軸、経度を円周方向の座標系で表す。 Next, conversion into a first panoramic image is performed. Here, as shown in FIG. 8, the obtained latitude and longitude (La, Lo) are represented by a latitude axis and a longitude coordinate system in the circumferential direction.

以上のようにして、第１のパノラマ画信号ＤＦを生成することができる。 As described above, the first panorama image signal DF can be generated.

（５）ＧＵＩについて
次に、ＧＵＩについて説明する。図９は、モニター３２０の表示画面を示す模式図である。図９では、通常の画面と全画面表示の双方を示しており、いずれの場合においても、画面左側に操作パネル（コントロールパネル）が表示され、画面右側にライブ映像が表示されている。操作パネルの“Screen Mode”を“Full”にすると全画面表示となる。 (5) GUI Next, the GUI will be described. FIG. 9 is a schematic diagram showing a display screen of the monitor 320. FIG. 9 shows both a normal screen and a full screen display. In either case, an operation panel (control panel) is displayed on the left side of the screen and a live image is displayed on the right side of the screen. When “Screen Mode” on the operation panel is set to “Full”, the full screen is displayed.

図１０は、操作パネルによる操作を説明するための模式図である。操作パネル内は機能毎のパネルとなっており、各パネルを折り畳んで格納することができる。パネルの分類は以下の通りである。
・View
表示に関する設定
・Camera control
カメラ操作に関する設定
・Panorama
パノラマ表示
・Preset position
プリセットに関する設定
・Trigger
トリガーに関する設定
・Other
その他の設定 FIG. 10 is a schematic diagram for explaining an operation by the operation panel. The operation panel is a panel for each function, and each panel can be folded and stored. The panel classification is as follows.
・ View
Display settingsCamera control
Settings related to camera operationPanorama
Panorama display / Preset position
Settings related to presets ・ Trigger
Trigger settings-Other
Other settings

各パネルをクリックすると、そのパネルが開くように構成されている。図１０（Ａ）は、“View”をクリックした状態を示しており、“View”欄の下にメニューが表示される。一方、図１０（Ｂ）は、“Camera control”をクリックした状態を示しており、“Camera control”欄の下にメニューが表示される。また、図１０（Ｃ）はパネル“Camera control”をドラッグした状態を示しており、ドラッグすることによりパネル“Camera control”をフローティングウィンドウにすることができる。 Clicking on each panel opens the panel. FIG. 10A shows a state where “View” is clicked, and a menu is displayed under the “View” column. On the other hand, FIG. 10B shows a state where “Camera control” is clicked, and a menu is displayed under the “Camera control” field. FIG. 10C shows a state where the panel “Camera control” is dragged, and the panel “Camera control” can be made a floating window by dragging.

図１１は、パネル“View”をクリックした場合に“Screen Mode”、“View Size” “Image Codec”、“Frame Rate”などのメニューが表示された状態を示している。“Screen Mode”メニューでは、表示モードをノーマルとフルスクリーンに変更できる。“View Size”では、画像の1/4,1/2,等倍,Fitモードを指定できる。Fitモードは現在の表示エリアの大きさに合わせて画像を表示する。“Image Codec” メニューでは、Codecの変更を行うことができる。“Frame Rate”メニューでは、JPEGのフレームレートを変更することができる。動画保存ボタンは動画の保存に、静止画保存ボタンは静止画の保存のために用いる。その他、マイクボリュームスライダー、マイクミュートオン/オフボタン、音声ボリュームスライダー、音声ミュートオン/オフボタン等が設けられている。 FIG. 11 shows a state where menus such as “Screen Mode”, “View Size”, “Image Codec”, and “Frame Rate” are displayed when the panel “View” is clicked. The “Screen Mode” menu allows you to change the display mode between normal and full screen. In “View Size”, you can specify 1/4, 1/2, same size, Fit mode of the image. Fit mode displays images according to the size of the current display area. In “Image Codec” menu, Codec can be changed. In the “Frame Rate” menu, the JPEG frame rate can be changed. The movie save button is used for saving a movie, and the still image save button is used for saving a still image. In addition, a microphone volume slider, a microphone mute on / off button, an audio volume slider, an audio mute on / off button, and the like are provided.

図１２は、パネル“Camera”をクリックした場合に表示されるメニューを示している。“Operation Mode”メニューでは、画像上での操作モード切替を行うことができる。パン、チルト制御ボタンでは、矢印方向のボタンを操作することにより、パン、チルト方向を指定することができる。パン、チルト制御ボタンの真中に位置するボタンは、ホームポジションボタンである。ズームボタンは、カメラ端末装置２００のズームを指定するボタンであって、光学ズームとデジタルズームの境界が分かるように構成されている。ズームボタンの「W」、「T」を押し続けるとズーム操作が継続して行われる。また、フォーカスボタンは、フォーカスを「遠距離」、「近距離」に設定するために用いられる。その他、ＯＮＥＰＵＳＨＡＵＴＯＦＯＣＵＳボタン、排他制御の制御権獲得ボタン等の各種ボタンが設けられている。 FIG. 12 shows a menu displayed when the panel “Camera” is clicked. In the “Operation Mode” menu, the operation mode on the image can be switched. With the pan / tilt control buttons, the pan / tilt direction can be specified by operating the buttons in the arrow direction. The button located in the middle of the pan and tilt control buttons is a home position button. The zoom button is a button for designating the zoom of the camera terminal device 200, and is configured so that the boundary between the optical zoom and the digital zoom can be seen. If you continue to hold down the “W” and “T” zoom buttons, the zoom operation will continue. The focus button is used to set the focus to “far” or “near”. In addition, various buttons such as a ONE PUSH AUTO FOCUS button and an exclusive control right acquisition button are provided.

図１３は、“Preset
position”、“Trigger”、“Other”、“information”をクリックした場合に表示される各メニューを示している。“Preset
position”は、予め定められた複数の撮影方向の画像をサムネイル表示したもので、サムネイル画像の１つをクリックして選択することにより、カメラ端末装置２００を選択したサムネイル画像の方向に向けることができる。 FIG. 13 shows “Preset
Each menu displayed when clicking “position”, “Trigger”, “Other”, “information” is shown.
“position” is a thumbnail display of images in a plurality of predetermined shooting directions. By clicking and selecting one of the thumbnail images, the camera terminal device 200 can be directed in the direction of the selected thumbnail image. it can.

（６）第１のパノラマ画像上での撮影方向の指定
次に、図１４〜図１８に基づいて、第１のパノラマ画像の表示について説明する。図１４は、モニター３２０の表示画面において、操作パネルの“Preset position”をクリックして第１のパノラマ画像を表示した状態を示す模式図である。なお、操作パネルの右側にはライブ映像が表示されている。上述したように、“Preset position”欄をドラッグして移動することにより、図１５に示すように、第１のパノラマ画像が表示されたサブパネルを操作パネルの外に配置することができる。また、第１のパノラマ画像が表示されたサブパネルは表示画面内で移動することができる。 (6) Specification of shooting direction on first panorama image Next, display of the first panorama image will be described with reference to FIGS. FIG. 14 is a schematic diagram showing a state where the first panoramic image is displayed by clicking “Preset position” on the operation panel on the display screen of the monitor 320. A live image is displayed on the right side of the operation panel. As described above, by dragging and moving the “Preset position” column, the sub-panel on which the first panoramic image is displayed can be arranged outside the operation panel as shown in FIG. Further, the sub-panel on which the first panoramic image is displayed can be moved within the display screen.

図１６は、第１のパノラマ画像が表示されたサブパネルを詳細に示す模式図である。第１のパノラマ画像には、右側のライブ映像で表示されている画像の方向（カメラ端末装置２００の撮像光学系の光軸の向き）が、＋印によって示されている。また、図１６に示すように、第１のパノラマ画像の右上のパノラマ切替釦をクリックすることにより、第１のパノラマ画像を第２のパノラマ画像に切換えることができる。 FIG. 16 is a schematic diagram showing in detail the sub-panel on which the first panoramic image is displayed. In the first panoramic image, the direction of the image displayed in the live video on the right side (the direction of the optical axis of the imaging optical system of the camera terminal device 200) is indicated by +. Also, as shown in FIG. 16, the first panorama image can be switched to the second panorama image by clicking the panorama switching button at the upper right of the first panorama image.

図１７は、第１のパノラマ画像を用いてライブ映像の方向を変更する操作を示している。カメラ端末装置２００のパン・チルト方向を変更する場合、上述したパン、チルト制御ボタンによって行うことができるが、第１のパノラマ画像中の任意の点を指定することによっても行うことができる。図１７の状態では、＋印の方向にカメラ端末装置２００の撮像光学系の光軸が向けられ、その方向のライブ映像が表示されている。この状態で図１７の第１のパノラマ画像に示す●印の部分をクリックすると、ユーザ操作に応じた操作信号ＵＳが制御部３１０に送られて、これに基づいてカメラ端末装置２００の撮像方向制御部２０４が制御されることにより、●印の方向にカメラ端末装置２００の撮像光学系の光軸が向けられる。従って、操作パネルの右側に表示されるライブ映像は、●印の方向の映像に切り換わる。 FIG. 17 shows an operation of changing the direction of the live video using the first panoramic image. The pan / tilt direction of the camera terminal device 200 can be changed using the pan / tilt control buttons described above, but can also be performed by designating an arbitrary point in the first panoramic image. In the state of FIG. 17, the optical axis of the imaging optical system of the camera terminal device 200 is directed in the direction of the + mark, and a live image in that direction is displayed. In this state, when the portion marked with ● shown in the first panoramic image of FIG. 17 is clicked, an operation signal US corresponding to the user operation is sent to the control unit 310, and based on this, the imaging direction control of the camera terminal device 200 is performed. By controlling the unit 204, the optical axis of the imaging optical system of the camera terminal device 200 is directed in the direction of the mark ●. Accordingly, the live image displayed on the right side of the operation panel is switched to the image in the direction of the mark ●.

これにより、ユーザは、第１のパノラマ画像中の任意の点を指定することにより、カメラ端末装置２００のパン・チルト方向を指定することができる。第１のパノラマ画像には、カメラ端末装置２００が撮影可能なパン・チルト方向の映像が全て含まれていることから、ユーザは、第１のパノラマ画像上でカメラ端末装置２００の方向を指定することで、所望の方向のライブ映像を表示することができる。なお、クリックする位置を示す＋印の代わりに、所定範囲を囲む枠で領域指定して光軸の向きを制御するようにしても良い。 Thereby, the user can designate the pan / tilt direction of the camera terminal device 200 by designating an arbitrary point in the first panoramic image. Since the first panoramic image includes all videos in the pan / tilt direction that the camera terminal device 200 can shoot, the user designates the direction of the camera terminal device 200 on the first panoramic image. Thus, a live image in a desired direction can be displayed. In addition, instead of the + mark indicating the clicked position, the direction of the optical axis may be controlled by specifying an area with a frame surrounding a predetermined range.

第１のパノラマ画像上でカメラ端末装置２００の方向を指定した場合に、第１のパノラマ画像の表示状態は変わらずにライブ映像のみが切り換わるモードと、第１のパノラマ画像が回転するモードがある。第１のパノラマ画像が回転するモードでは、図１８に示すように、現在ライブ映像が表示されている位置（＋印）は第１のパノラマ画像の中心から上方に向かう直線Ｌ上に位置するように第１のパノラマ画像の角度位置が設定される。次に第１のパノラマ画像上で●印をクリックすると、操作パネルの右側に表示されるライブ映像は、●印の方向の映像に切り換わり、同時に第１のパノラマ画像において●印の位置が直線Ｌ上に位置するように第１のパノラマ画像が回転する。従って、ユーザは、第１のパノラマ画像を見ることで、ライブ映像の方向が第１のパノラマ画像の直線Ｌ上であることを即座に認識することができる。 When the direction of the camera terminal device 200 is designated on the first panorama image, there are a mode in which only the live video is switched without changing the display state of the first panorama image, and a mode in which the first panorama image is rotated. is there. In the mode in which the first panoramic image is rotated, as shown in FIG. 18, the position (+ mark) where the live video is currently displayed is positioned on the straight line L upward from the center of the first panoramic image. Is set to the angular position of the first panoramic image. Next, when you click the ● mark on the first panorama image, the live image displayed on the right side of the operation panel switches to the image in the direction of the ● mark. At the same time, the position of the ● mark in the first panorama image The first panoramic image is rotated so as to be positioned on L. Therefore, the user can immediately recognize that the direction of the live video is on the straight line L of the first panoramic image by viewing the first panoramic image.

第２のパノラマ画像においても同様に、ユーザは、第２のパノラマ画像中の任意の点を指定することにより、カメラ端末装置２００のパン方向を指定することができ、これに基づいてライブ映像の方向を切換えることができる。 Similarly, in the second panorama image, the user can designate the pan direction of the camera terminal device 200 by designating an arbitrary point in the second panorama image, and based on this, the live video can be designated. The direction can be switched.

（７）ポップアップ表示による制御
次に、本実施形態のシステムにおいて、ポップアップ表示による制御について説明する。上述したように、本実施形態のシステムでは、ネットワーク５００を介して、複数のカメラ端末装置２００にセンターサーバー３００、及びクライアント４００が接続されている。このため、センターサーバー３００またはクライアント４００では、複数のカメラ端末装置２００のそれぞれで撮像されたライブ映像を表示することができる。 (7) Control by Pop-up Display Next, control by pop-up display in the system of this embodiment will be described. As described above, in the system according to the present embodiment, the center server 300 and the client 400 are connected to the plurality of camera terminal devices 200 via the network 500. Therefore, the center server 300 or the client 400 can display live images captured by each of the plurality of camera terminal devices 200.

図１９は、複数のカメラ端末装置２００のそれぞれで撮像されたライブ映像をモニタ３２０に表示している様子を示す模式図である。ここでは、４つのカメラ端末装置２００で撮像された４つのライブ映像（ライブ映像１〜４）を表示している様子を示している。 FIG. 19 is a schematic diagram illustrating a state in which live video captured by each of the plurality of camera terminal devices 200 is displayed on the monitor 320. Here, a state is shown in which four live images (live images 1 to 4) captured by the four camera terminal devices 200 are displayed.

図１９に示すように、４つのライブ映像１〜４の下方には、第２のパノラマ画が表示されている。図１７で説明した手法と同様にして、第２のパノラマ画上で任意の位置をクリックすることにより、４つのカメラ端末装置２００の撮像方向を制御することができる。この際、任意の１つのライブ映像を撮像する１つのカメラ端末装置２００を選択して撮像方向を制御することができる。 As shown in FIG. 19, a second panoramic image is displayed below the four live videos 1 to 4. In the same manner as the method described in FIG. 17, the imaging directions of the four camera terminal devices 200 can be controlled by clicking an arbitrary position on the second panorama image. At this time, it is possible to select one camera terminal device 200 that captures any one live video and control the imaging direction.

一方、システムサーバー３００が複数備えられており、複数のユーザが各カメラ端末装置２００を制御する場合、または１つのシステムサーバー３００と複数のクライアント４００により複数のユーザが各カメラ端末装置２００を制御する場合が考えられる。この場合、複数のユーザが各ライブ映像１〜４に対応するカメラ端末装置２００の撮像方向を制御しようとするため、各ユーザによる特定のカメラ端末装置２００への制御の指示が競合してしまう場合が想定される。このような場合、複数のユーザが同時に１つのカメラ端末装置２００の撮像方向を制御することはできない。このため、本実施形態では、表示されている各ライブ映像について、各ユーザによる制御の指示が競合していない場合は、各ライブ映像１〜４に対応するパノラマ画をポップアップ表示して、そのライブ映像に対応するカメラ端末装置２００の制御が可能であることをユーザに示すようにする。これにより、ユーザは、パノラマ画像がポップアップ表示されたライブ映像については、撮像方向などの各種制御が可能であると認識することができ、パノラマ画を用いて図１７と同様に撮像方向を制御することができる。 On the other hand, when a plurality of system servers 300 are provided and a plurality of users control each camera terminal device 200, or a plurality of users control each camera terminal device 200 using one system server 300 and a plurality of clients 400. There are cases. In this case, since a plurality of users try to control the imaging direction of the camera terminal device 200 corresponding to each of the live videos 1 to 4, there is a conflict between the control instructions given to the specific camera terminal device 200 by each user. Is assumed. In such a case, a plurality of users cannot control the imaging direction of one camera terminal device 200 at the same time. For this reason, in the present embodiment, when each user's control instruction does not compete for each displayed live video, a panorama image corresponding to each live video 1 to 4 is displayed in a pop-up and the live video is displayed. The user is shown to be able to control the camera terminal device 200 corresponding to the video. As a result, the user can recognize that the live image on which the panoramic image is popped up can be controlled in various ways such as the imaging direction, and controls the imaging direction using the panoramic image in the same manner as in FIG. be able to.

図１９の例では、ライブ映像４の下部にライブ映像４に対応するパノラマ画がポップアップ表示されているため、ユーザは、パノラマ画上で任意の点をクリックすることで、ライブ映像４に対応するカメラ端末装置２００の撮像方向を制御することができる。 In the example of FIG. 19, a panorama image corresponding to the live image 4 is displayed in a pop-up below the live image 4, so that the user clicks an arbitrary point on the panorama image to correspond to the live image 4. The imaging direction of the camera terminal device 200 can be controlled.

一方、ライブ映像１〜３については、対応するパノラマ画がポップアップ表示されていないため、ユーザは、図１９の状態では、ライブ映像１〜３に対応するカメラ端末装置２００を制御することはできない。この場合、システムが備える他のシステムサーバ３００、クライアント２００のいずれかのモニタ上ではライブ映像１〜３に対応するパノラマ画がポップアップ表示されている。従って、他のシステムサーバ３００またはクライアントを利用しているユーザは、ライブ映像１〜３に対応するカメラ端末装置２００をの撮像方向を制御することができる。ここで、複数存在するシステムサーバ３００、クライアント２００では、所定時間毎にライブ映像１〜４に対応するパノラマ画を交代でポップアップ表示するものとすることができる。これにより、ユーザは自身が操作する装置（クライアント２００またはセンターサーバ３００）において、所定時間毎にパノラマ画がポップアップされた際に対応するカメラ端末装置２００の撮像方向を制御することができる。 On the other hand, since the corresponding panoramic images are not pop-up displayed for the live videos 1 to 3, the user cannot control the camera terminal device 200 corresponding to the live videos 1 to 3 in the state of FIG. In this case, a panorama image corresponding to the live images 1 to 3 is displayed as a pop-up on the monitor of any of the other system server 300 and client 200 provided in the system. Therefore, a user using another system server 300 or a client can control the imaging direction of the camera terminal device 200 corresponding to the live videos 1 to 3. Here, a plurality of system servers 300 and clients 200 can alternately display panoramic images corresponding to live videos 1 to 4 at predetermined intervals. As a result, the user can control the imaging direction of the camera terminal device 200 corresponding to the panorama image popped up every predetermined time on the device (client 200 or center server 300) operated by the user.

図２０は、パノラマ画のポップアップ表示を画面の下部にまとめて表示する例を示している。図２０の例では、ライブ映像３に対応するパノラマ画とライブ映像４に対応するパノラマ画がポップアップ表示されている。このため、ユーザは、ライブ映像３に対応するパノラマ画とライブ映像４に対応するパノラマ画の一方において、任意の点をクリックすることで、図１７と同様にカメラ端末装置２００の撮像方向を制御することができる。図２０に示すように、ユーザがライブ映像４に対応するパノラマ画上で撮像方向を操作した場合は、ライブ映像４の輪郭が太線で表示されて、現在撮像方向が操作されているライブ映像が「ライブ映像４」であることが示される。これにより、ユーザは複数のライブ映像のうち、撮像方向を操作しているライブ映像を視覚的に認識することができる。なお、ポップアップ表示されるパノラマ画が３つ以上になった場合は、ライブ映像の下方に重ねて表示することで、全てのパノラマ画像を表示することが可能である。 FIG. 20 shows an example in which pop-up displays of panoramic images are displayed together at the bottom of the screen. In the example of FIG. 20, a panoramic image corresponding to the live video 3 and a panoramic image corresponding to the live video 4 are displayed in a pop-up manner. Therefore, the user clicks an arbitrary point on one of the panorama image corresponding to the live video 3 and the panorama image corresponding to the live video 4 to control the imaging direction of the camera terminal device 200 as in FIG. can do. As shown in FIG. 20, when the user operates the imaging direction on the panorama image corresponding to the live video 4, the outline of the live video 4 is displayed with a bold line, and the live video whose current imaging direction is being operated is displayed. “Live video 4” is indicated. Thereby, the user can visually recognize the live video in which the imaging direction is operated among the plurality of live videos. When there are three or more panoramic images that are pop-up displayed, it is possible to display all the panoramic images by displaying them in a superimposed manner below the live video.

この場合、複数のユーザによる操作指示の競合を避けるために、センターサーバー３００が、ネットワーク５００を介して特定のカメラ端末装置２００の制御が可能である旨を示す信号を生成する。センターサーバー３１０の制御部３１０は、複数のライブ映像１〜４のうち、カメラ端末装置２００を制御可能なライブ映像についてはパノラマ画をポップアップ表示する旨の指令を表示処理部３０５に送る。表示処理部３０５では、パノラマ画をライブ映像とともにポップアップ表示するようにモニタ３２０を動作させる。これにより、センターサーバー３００を操作しているユーザには、ポップアップ表示されたパノラマ画に対応するカメラ端末装置２００が制御可能であることが認識される。また、制御部３１０は、上述のようにコマンド信号ＣＭを生成して、ネットワークインタフェース部３０１を介してカメラ端末装置２００に供給し、カメラ端末装置２０の動作を制御する。この際、制御部３１０は、ポップアップ表示をしていないライブ映像に対応するカメラ端末装置２００に対しては、その動作を制御するためのコマンド信号を生成しないことで、そのカメラ端末装置２００が制御できないようにする。更に、制御部３１０は、いずれかのライブ映像に対応するカメラ端末装置２００が制御された場合は、対応するライブ映像を認識させるため、図２０に示すような太線の輪郭を表示する旨の指令を表示制御部３０５へ送る。クライアント４００の処理についても同様であり、クライアントは、センターサーバー３００から特定のカメラ端末装置２００の制御が可能である旨を示す信号を受信した場合は、制御部３１０から表示処理部３０５へ、複数のライブ映像１〜４のうちカメラ端末装置２００を制御可能なライブ映像についてはパノラマ画をポップアップ表示する旨の指令を送る。これにより、クライアント４００においても、ポップアップ表示されたパノラマ画に対応するカメラ端末装置２００が制御可能であることを表示することができる。 In this case, the center server 300 generates a signal indicating that the specific camera terminal device 200 can be controlled via the network 500 in order to avoid conflict of operation instructions by a plurality of users. The control unit 310 of the center server 310 sends to the display processing unit 305 a command to pop up a panoramic image for a live video that can control the camera terminal device 200 among the plurality of live videos 1 to 4. In the display processing unit 305, the monitor 320 is operated so that a panoramic image is displayed in a pop-up together with a live video. Accordingly, it is recognized that the user operating the center server 300 can control the camera terminal device 200 corresponding to the panoramic image displayed as a pop-up. Further, the control unit 310 generates the command signal CM as described above, supplies the command signal CM to the camera terminal device 200 via the network interface unit 301, and controls the operation of the camera terminal device 20. At this time, the control unit 310 does not generate a command signal for controlling the operation of the camera terminal device 200 corresponding to the live video that is not displayed in the pop-up display. I can't do it. Further, when the camera terminal device 200 corresponding to any live video is controlled, the control unit 310 instructs to display a bold outline as shown in FIG. 20 in order to recognize the corresponding live video. Is sent to the display control unit 305. The same applies to the processing of the client 400. When the client receives a signal indicating that the specific camera terminal apparatus 200 can be controlled from the center server 300, the client 400 sends a plurality of signals to the display processing unit 305. Among the live videos 1 to 4, for live video that can control the camera terminal device 200, a command to pop up a panoramic image is sent. As a result, the client 400 can also display that the camera terminal device 200 corresponding to the panoramic image displayed as a pop-up can be controlled.

なお、上述の例では、制御可能なカメラ端末装置２００に対応するパノラマ画をポップアップ表示とすることで、ユーザに対してそのカメラ端末装置２００の制御が可能であることを認識させるようにしたが、他の手法を用いてもよい。例えば、一覧表示されたライブ映像に対応するパノラマ画像を全て表示し、制御できないカメラ端末装置２００に対応するパノラマ画をハーフトーン表示したり、制御可能なカメラ端末装置２００に対応するパノラマ画の輪郭を太線で強調して表示するようにしても良い。 In the above example, the panorama image corresponding to the controllable camera terminal device 200 is displayed as a pop-up so that the user can recognize that the camera terminal device 200 can be controlled. Other methods may be used. For example, all panorama images corresponding to live images displayed in a list are displayed, and a panorama image corresponding to a camera terminal device 200 that cannot be controlled is displayed in halftone, or an outline of a panorama image corresponding to a controllable camera terminal device 200 is displayed. May be displayed with a bold line.

以上説明したように本実施形態によれば、全体画像（パノラマ画像）の表示状態をみれば、対応するカメラ端末装置２００を操作可能であるかどうかを即座に認識することができる。また、パノラマ画像上の任意の点をクリックすることで撮像方向を制御できるため、現在表示されているライブ画像の範囲外にも直感的にカメラ操作を迅速に行うことが可能である。また、複数のカメラで撮影された画像を一覧表示している場合、対応する全体画像（パノラマ画像）の表示状態を見れば、どのカメラが操作可能であるかすぐに分かり、かつ、直感的に操作可能である。更に、一覧表示されている画像には表示されていない箇所を撮影したい場合に、どのカメラかを意識することなく、全体画像上で指示することにより、容易に撮影位置を指定可能である。 As described above, according to the present embodiment, it is possible to immediately recognize whether or not the corresponding camera terminal device 200 can be operated by looking at the display state of the entire image (panoramic image). In addition, since the imaging direction can be controlled by clicking an arbitrary point on the panoramic image, it is possible to quickly and intuitively operate the camera outside the range of the currently displayed live image. In addition, when a list of images taken by multiple cameras is displayed, you can immediately know which camera can be operated and intuitively by looking at the display status of the corresponding whole image (panoramic image). It is possible to operate. Furthermore, when it is desired to shoot a portion that is not displayed in the list-displayed image, the shooting position can be easily specified by giving an instruction on the entire image without being conscious of which camera.

従って、複数のカメラ端末装置２００がシステムサーバ３００、クライアント２００に接続されており、かつ、現に撮影されている画像では所望箇所が撮影されていないときに、全体画像をみれば、どのカメラを制御すれば所望箇所を撮影可能かどうか把握でき、かつ、迅速に操作可能である。 Therefore, when a plurality of camera terminal devices 200 are connected to the system server 300 and the client 200 and a desired part is not photographed in the currently photographed image, which camera is controlled if the entire image is viewed. By doing so, it is possible to grasp whether or not a desired portion can be photographed and to operate quickly.

なお、上述した説明では、複数のユーザが各カメラ端末装置２００の撮像方向を制御する場合について説明したが、各カメラ端末装置２００の撮像方向が固定されており、全体画像の中からユーザの指示に応じた領域の画像のみを切り出して表示するシステム（デジタル的にパン、チルトの制御を行うシステム）への適用も可能である。このシステムは、例えば、システムサーバ３００の制御部３１０がユーザによる撮像方向の操作入力に応じて、全体画像の中から切り出す範囲を指定して表示処理部３０５による表示制御を行うことで実現される。この場合においても、各ユーザによる特定のカメラ端末装置２００への制御の指示が競合することが想定されるが、上述したポップアップ表示を行うことにより、ユーザはデジタル的なパン、チルトの制御が可能か否かを認識することができ、ライブ映像の撮像範囲をデジタル的に制御することができる。以上のように、本システムは、メカ的に撮像方向を制御するシステムのみならず、デジタル的に撮像方向を制御するシステムへの適用が可能である。 In the above description, the case where a plurality of users control the imaging direction of each camera terminal apparatus 200 has been described. However, the imaging direction of each camera terminal apparatus 200 is fixed, and the user's instruction is displayed from the entire image. The present invention can also be applied to a system (a system that digitally controls pan and tilt) by cutting out and displaying only an image of a region corresponding to the above. This system is realized, for example, when the control unit 310 of the system server 300 performs display control by the display processing unit 305 by designating a range to be cut out from the entire image in response to an operation input in the imaging direction by the user. . Even in this case, it is assumed that control instructions from each user to a specific camera terminal device 200 compete, but by performing the pop-up display described above, the user can control digital pan and tilt. Whether or not it is possible to digitally control the imaging range of the live video. As described above, the present system can be applied not only to a system that mechanically controls the imaging direction but also to a system that digitally controls the imaging direction.

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。 The preferred embodiments of the present invention have been described in detail above with reference to the accompanying drawings, but the present invention is not limited to such examples. It is obvious that a person having ordinary knowledge in the technical field to which the present invention pertains can come up with various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also belong to the technical scope of the present invention.

１００撮像システム
２００カメラ端末装置
３００センターサーバー
３０１ネットワークインターフェース部
３０５表示処理部
３１０制御部
５００ネットワーク
DESCRIPTION OF SYMBOLS 100 Imaging system 200 Camera terminal device 300 Center server 301 Network interface part 305 Display processing part 310 Control part 500 Network

Claims

カメラで撮像された全体画像を表示する全体画像表示領域と、前記全体画像で指定された位置に対応する領域を拡大して拡大画像を表示する拡大画像表示領域と、を表示するように制御する表示制御部と、
前記全体画像上で指定された位置に対応する領域を変化させるように制御する制御部と、を有し、
前記表示制御部は、前記制御部による制御が可能か否かに応じて前記全体画像の表示状態を変更する、制御装置。 Control is performed to display an entire image display area for displaying an entire image captured by the camera, and an enlarged image display area for displaying an enlarged image by enlarging an area corresponding to a position specified by the entire image. A display control unit;
A control unit that controls to change a region corresponding to a position designated on the entire image,
The control device, wherein the display control unit changes a display state of the whole image according to whether control by the control unit is possible.

前記制御部は、前記全体画像上で指定された位置に対応する領域を前記カメラで撮像するように制御する、請求項１に記載の制御装置。 The control device according to claim 1, wherein the control unit performs control so that an area corresponding to a position designated on the entire image is captured by the camera.

前記表示制御部は、複数の前記カメラで撮影された前記拡大画像を一覧表示する、請求項２に記載の制御装置。 The control device according to claim 2, wherein the display control unit displays a list of the enlarged images taken by a plurality of the cameras.

前記表示制御部は、前記制御部による制御が可能な場合は前記全体画像をポップアップ表示し、前記制御部による制御が可能でない場合は前記全体画像をハーフトーン表示又は非表示とする、請求項２に記載の制御装置。 The display control unit displays the whole image in a pop-up when the control by the control unit is possible, and displays the whole image as a halftone display or non-display when the control by the control unit is not possible. The control device described in 1.

前記表示制御部は、前記制御部により制御が行われた場合に前記全体画像に対応する前記拡大画像の表示状態を変更する、請求項２に記載の制御装置。 The control device according to claim 2, wherein the display control unit changes a display state of the enlarged image corresponding to the entire image when the control is performed by the control unit.

画像を撮像するカメラと、前記カメラを制御する制御装置とを有するカメラシステムであって、
前記制御装置は、
カメラで撮像された全体画像を表示する全体画像表示領域と、前記全体画像で指定された位置に対応する領域を拡大して拡大画像を表示する拡大画像表示領域と、を表示するように制御する表示制御部と、
前記全体画像上で指定された位置に対応する領域を変化させるように制御する制御部と、を有し、
前記表示制御部は、前記制御部による制御が可能か否かに応じて前記パノラマ画像の表示状態を変更する、カメラシステム。 A camera system having a camera that captures an image and a control device that controls the camera,
The controller is
Control is performed to display an entire image display area for displaying an entire image captured by the camera, and an enlarged image display area for displaying an enlarged image by enlarging an area corresponding to a position specified by the entire image. A display control unit;
A control unit that controls to change a region corresponding to a position designated on the entire image,
The display control unit is a camera system that changes a display state of the panoramic image according to whether control by the control unit is possible.

前記制御部は、前記全体画像上で指定された位置に対応する領域を前記カメラで撮像するように制御する、請求項６に記載のカメラシステム。 The camera system according to claim 6, wherein the control unit performs control so that an area corresponding to a position designated on the entire image is captured by the camera.

前記表示制御部は、複数の前記カメラで撮影された前記拡大画像を一覧表示する、請求項７に記載のカメラシステム。 The camera system according to claim 7, wherein the display control unit displays a list of the enlarged images taken by a plurality of the cameras.

前記表示制御部は、前記制御部による制御が可能な場合は前記全体画像をポップアップ表示し、前記制御部による制御が可能でない場合は前記全体画像をハーフトーン表示又は非表示とする、請求項７に記載のカメラシステム。 The display control unit displays the whole image in a pop-up when the control by the control unit is possible, and displays the whole image as a halftone display or non-display when the control by the control unit is not possible. The camera system described in.

前記表示制御部は、前記制御部により制御が行われた場合に前記全体画像に対応する前記拡大画像の表示状態を変更する、請求項７に記載のカメラシステム。 The camera system according to claim 7, wherein the display control unit changes a display state of the enlarged image corresponding to the entire image when the control is performed by the control unit.

カメラで撮像された全体画像を表示する全体画像表示領域と、前記全体画像で指定された位置に対応する領域を拡大して拡大画像を表示する拡大画像表示領域と、を表示するように制御する手段、
前記全体画像上で指定された位置に対応する領域を変化させるように制御する手段、
前記カメラの制御が可能か否かに応じて前記全体画像の表示状態を変更する手段、
としてコンピュータを機能させるためのプログラム。 Control is performed to display an entire image display area for displaying an entire image captured by the camera, and an enlarged image display area for displaying an enlarged image by enlarging an area corresponding to a position specified by the entire image. means,
Means for controlling to change an area corresponding to a designated position on the entire image;
Means for changing a display state of the whole image according to whether or not the control of the camera is possible;
As a program to make the computer function as.