JP2009033348A - Video conference application server, and video conference method, and program - Google Patents

Video conference application server, and video conference method, and program Download PDF

Info

Publication number
JP2009033348A
JP2009033348A JP2007193659A JP2007193659A JP2009033348A JP 2009033348 A JP2009033348 A JP 2009033348A JP 2007193659 A JP2007193659 A JP 2007193659A JP 2007193659 A JP2007193659 A JP 2007193659A JP 2009033348 A JP2009033348 A JP 2009033348A
Authority
JP
Japan
Prior art keywords
video stream
display terminal
video
gui
video conference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007193659A
Other languages
Japanese (ja)
Inventor
Kensuke Horiuchi
内 健 介 堀
Mika Minematsu
松 美 佳 峰
Masataka Goto
藤 真 孝 後
Shinya Murai
井 信 哉 村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2007193659A priority Critical patent/JP2009033348A/en
Publication of JP2009033348A publication Critical patent/JP2009033348A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an appropriate GUI corresponding to the video processing capability of a display terminal. <P>SOLUTION: Video streams transmitted from a camera and a plurality of video conference terminals through a network are received, information of the number of video streams representing the number of video streams processable by a display terminal is acquired from the display terminal, video streams equal to or less than the number of video streams shown in the information of the number of video streams are selected from the received video streams, the selected video streams are transferred to the display device and a video stream received from the camera is transferred to the plurality of video conference terminals, a GUI (Graphical User Interface) image for controlling video streams to be displayed in the display device is generated according to the number of the video streams shown in the information of the number of video streams, and the generated GUI image is transmitted to the display terminal. <P>COPYRIGHT: (C)2009,JPO&INPIT

Description

本発明は、例えばIP(Internet Protocol)ネットワークを介して表示端末およびネットワークカメラと接続されるビデオ会議アプリケーションサーバ、ビデオ会議方法およびプログラムに関連する。   The present invention relates to a video conference application server, a video conference method, and a program connected to a display terminal and a network camera via, for example, an IP (Internet Protocol) network.

ネットワークを介して接続されたビデオ会議端末間でビデオ会議を行うビデオ会議システムがある。このビデオ会議システムでは、一方のビデオ会議端末で自らのカメラが撮影する映像をエンコードして相手側のビデオ会議端末に送信するとともに、相手ビデオ会議端末より映像ストリームを受信しデコードし表示する。このようなシステムでは、自分の顔がカメラのフレームに収まっているかどうかを確認するために自映像表示機能を備えたビデオ会議端末の存在が一般に知られている。   There is a video conference system that performs a video conference between video conference terminals connected via a network. In this video conference system, one video conference terminal encodes video captured by its own camera and transmits it to the other video conference terminal, and also receives, decodes and displays a video stream from the other video conference terminal. In such a system, it is generally known that there is a video conference terminal having a self-image display function in order to check whether or not his / her face is within the frame of the camera.

ビデオ会議にて扱われるデータを単一のビデオ会議端末で処理する場合には、GUI(Graphical User Interface)の処理、相手映像の受信とデコードと表示の処理、自映像のエンコードと送信と表示の処理を行う必要があるために、処理負荷が重くなり、映像の品質を高めることが難しい。   When processing data handled in a video conference with a single video conference terminal, the GUI (Graphical User Interface) processing, the other video reception and decoding and display processing, the self video encoding and transmission and display processing Since it is necessary to perform processing, the processing load becomes heavy and it is difficult to improve the quality of video.

そこで、ビデオ会議アプリケーションサーバを用意し、別に用意する表示端末では相手映像ストリームの受信とデコードと表示の処理のみを行い、その他の処理を上記サーバで行うようにしたビデオ会議システムがある。このビデオ会議システムでは、表示端末の処理負荷が軽くなり、ビデオ会議の映像の品質を高めることが可能である。   Therefore, there is a video conference system in which a video conference application server is prepared, and a separate display terminal performs only the process of receiving, decoding and displaying the partner video stream, and the other server performs other processes. In this video conference system, the processing load on the display terminal is reduced, and the video quality of the video conference can be improved.

このようなビデオ会議システムでは、ユーザに提供するGUIとして、ビデオ会議アプリケーションサーバは、表示端末の映像処理能力に応じた適切なGUIを提供する必要がある。   In such a video conference system, the video conference application server needs to provide an appropriate GUI corresponding to the video processing capability of the display terminal as a GUI provided to the user.

ここでGUIの生成に関連して、特許文献1に記載の方法がある。この方法によれば、携帯電話端末に接続される複合機に、画像フォーマット変換機能の実現を目的とする制御ユニットが搭載され、この制御ユニットが、携帯電話端末が表示処理することのできる複数の画像フォーマットリストを取得する。そして、複合機が所有する画像をあるフォーマットへと変換する際には、この制御ユニットが、この取得したリストに従い、変換後のフォーマットを携帯電話端末にてユーザが選択するためのGUIを自動生成してユーザに提供する。
特開2006−245661公報
Here, there is a method described in Patent Document 1 related to generation of a GUI. According to this method, a control unit for the purpose of realizing an image format conversion function is mounted on a multi-function peripheral connected to a mobile phone terminal, and the control unit has a plurality of display processes that can be displayed by the mobile phone terminal. Get the image format list. When converting images owned by the MFP to a certain format, this control unit automatically generates a GUI for the user to select the converted format on the mobile phone terminal according to the acquired list. And provide it to the user.
JP 2006-245661 A

上記特許文献1の手法を上述のビデオ会議システムに適用した場合、たとえば初期設定のために表示端末が表示可能な映像ストリームのコーデックのリストをビデオ会議アプリケーションサーバへ伝達するためのGUIを提供することはできるが、表示端末の映像処理能力に応じた適切なGUIを提供することはできない。   When the method of Patent Document 1 is applied to the video conference system described above, for example, to provide a GUI for transmitting a video stream codec list that can be displayed on a display terminal to a video conference application server for initial setting. However, it is not possible to provide an appropriate GUI according to the video processing capability of the display terminal.

本発明は、表示端末の映像処理能力に応じた適切なGUIを提供することを可能としたビデオ会議アプリケーションサーバ、ビデオ会議方法およびプログラムを提供する。   The present invention provides a video conference application server, a video conference method, and a program capable of providing an appropriate GUI corresponding to the video processing capability of a display terminal.

本発明の一態様としてのビデオ会議アプリケーションサーバは、
ネットワークを介して接続された、映像を撮像するカメラおよび映像を表示する表示端末を用いて、複数のビデオ会議端末と前記ネットワークを介してビデオ会議を行うビデオ会議アプリケーションサーバであって、
前記カメラおよび前記複数のビデオ会議端末から前記ネットワークを介して送られてくる映像ストリームを受信する映像ストリーム受信手段と、
前記表示端末により処理可能な映像ストリームの数を表す映像ストリーム数情報を前記表示端末から取得する映像ストリーム数取得手段と、
前記映像ストリーム数情報に示される前記映像ストリーム数以下の映像ストリームを、前記映像ストリーム受信手段によって受信された映像ストリームから選択する映像ストリーム選択手段と、
前記映像ストリーム選択手段により選択された映像ストリームを前記表示端末に転送し、また前記映像ストリーム受信手段によって前記カメラから受信された映像ストリームを前記複数のビデオ会議端末に転送する映像ストリーム転送手段と、
前記映像ストリーム数情報に示される前記映像ストリーム数にしたがって、前記表示端末において表示される映像ストリームを制御するためのGUI(Graphical User Interface)画像を生成するGUI画像生成手段と、
前記GUI画像生成手段により生成されたGUI画像を前記表示端末に送信するGUI画像送信手段と、
を備える。
The video conference application server as one aspect of the present invention includes:
A video conferencing application server that performs video conferencing with a plurality of video conferencing terminals via the network using a camera that captures video and a display terminal that displays video connected via a network,
Video stream receiving means for receiving video streams sent from the camera and the plurality of video conference terminals via the network;
Video stream number acquisition means for acquiring video stream number information representing the number of video streams that can be processed by the display terminal from the display terminal;
Video stream selection means for selecting a video stream equal to or less than the number of video streams indicated in the video stream number information from the video stream received by the video stream reception means;
Video stream transfer means for transferring the video stream selected by the video stream selection means to the display terminal, and transferring the video stream received from the camera by the video stream reception means to the plurality of video conference terminals;
GUI image generating means for generating a GUI (Graphical User Interface) image for controlling the video stream displayed on the display terminal according to the video stream number indicated in the video stream number information;
GUI image transmitting means for transmitting the GUI image generated by the GUI image generating means to the display terminal;
Is provided.

本発明の一態様としてのビデオ会議方法は、
ネットワーク上に存在する映像を撮像するカメラおよび映像を表示する表示端末を用いて、複数のビデオ会議端末と前記ネットワークを介してビデオ会議を行うビデオ会議方法であって、
前記カメラおよび前記複数のビデオ会議端末から前記ネットワークを介して送られてくる映像ストリームを受信する映像ストリーム受信ステップと、
前記表示端末により処理可能な映像ストリームの数を表す映像ストリーム数情報を前記表示端末から取得する映像ストリーム数取得ステップと、
前記映像ストリーム数情報に示される前記映像ストリーム数以下の映像ストリームを、前記映像ストリーム受信ステップにより受信された映像ストリームから選択する映像ストリーム選択ステップと、
前記映像ストリーム選択ステップにより選択された映像ストリームを前記表示端末に転送し、前記映像ストリーム受信ステップにおいて前記カメラから受信された映像ストリームを前記複数のビデオ会議端末に転送する映像ストリーム転送ステップと、
前記映像ストリーム数情報に示される前記映像ストリーム数にしたがって、前記表示端末において表示される映像ストリームを制御するためのGUI(Graphical User Interface)画像を生成するGUI画像生成ステップと、
前記GUI画像生成ステップにより生成されたGUI画像を前記表示端末に送信するGUI画像送信ステップと、
を備える。
A video conference method according to an aspect of the present invention includes:
A video conferencing method for performing video conferencing with a plurality of video conferencing terminals via the network using a camera that captures images existing on a network and a display terminal that displays images,
A video stream receiving step of receiving a video stream sent from the camera and the plurality of video conference terminals via the network;
Video stream number acquisition step for acquiring video stream number information representing the number of video streams that can be processed by the display terminal from the display terminal;
A video stream selection step of selecting video streams equal to or less than the number of video streams indicated in the video stream number information from the video streams received by the video stream reception step;
Transferring the video stream selected in the video stream selecting step to the display terminal, and transferring the video stream received from the camera in the video stream receiving step to the plurality of video conference terminals;
A GUI image generating step for generating a GUI (Graphical User Interface) image for controlling the video stream displayed on the display terminal according to the video stream number indicated in the video stream number information;
A GUI image transmission step of transmitting the GUI image generated by the GUI image generation step to the display terminal;
Is provided.

本発明の一態様としてプログラムは、
ネットワーク上に存在する映像を撮像するカメラおよび映像を表示する表示端末を用いて、複数のビデオ会議端末と前記ネットワークを介してビデオ会議を行うコンピュータに、
前記カメラおよび前記複数のビデオ会議端末から前記ネットワークを介して送られてくる映像ストリームを受信する映像ストリーム受信ステップと、
前記表示端末により処理可能な映像ストリームの数を表す映像ストリーム数情報を前記表示端末から取得する映像ストリーム数取得ステップと、
前記映像ストリーム数情報に示される映像ストリーム数以下の映像ストリームを、前記映像ストリーム受信ステップにより受信された映像ストリームから選択する映像ストリーム選択ステップと、
前記映像ストリーム選択ステップにより選択された映像ストリームを前記表示端末に転送し、また前記映像ストリーム受信ステップにおいて前記カメラから受信された映像ストリームを前記複数のビデオ会議端末に転送する映像ストリーム転送ステップと、
前記映像ストリーム数情報に示される前記映像ストリーム数にしたがって、前記表示端末において表示される映像ストリームを制御するためのGUI(Graphical User Interface)画像を生成するGUI画像生成ステップと、
前記GUI画像生成ステップにより生成されたGUI画像を前記表示端末に送信するGUI画像送信ステップと、
を実行させる。
As one aspect of the present invention, a program
Using a camera that captures an image on a network and a display terminal that displays the image, a computer that performs a video conference via the network with a plurality of video conference terminals,
A video stream receiving step of receiving a video stream sent from the camera and the plurality of video conference terminals via the network;
Video stream number acquisition step for acquiring video stream number information representing the number of video streams that can be processed by the display terminal from the display terminal;
A video stream selection step of selecting a video stream equal to or less than the number of video streams indicated in the video stream number information from the video stream received by the video stream reception step;
Transferring the video stream selected in the video stream selection step to the display terminal, and transferring the video stream received from the camera in the video stream receiving step to the plurality of video conference terminals;
A GUI image generating step for generating a GUI (Graphical User Interface) image for controlling the video stream displayed on the display terminal according to the video stream number indicated in the video stream number information;
A GUI image transmission step of transmitting the GUI image generated by the GUI image generation step to the display terminal;
Is executed.

本発明により、表示端末の映像処理能力に応じた適切なGUIを提供することが可能となる。   According to the present invention, it is possible to provide an appropriate GUI corresponding to the video processing capability of the display terminal.

以下、図面を参照しながら本発明の実施の形態について詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

<実施形態1>
図1は、本発明の実施形態に係るビデオ会議論理端末を示している。このビデオ会議論理端末は、ビデオ会議アプリケーションサーバ11とネットワークカメラ12と表示端末13とから成る。各々はIP(Internet Protocol)ネットワーク14により接続されているが、データのやりとりが可能であればATM(Asynchronous Transfer Mode)ネットワークなど、他の接続方式によって接続されても良い。ネットワークカメラ12は、IPネットワーク14を介して接続された機器(本実施形態ではビデオ会議アプリケーションサーバ11を想定する)とデータ交換を行う機能を備える。ネットワークカメラ12は例えばUPnP(Universal Plug and Play)に対応するものであってもよい。なお、同図には1台のビデオ会議アプリケーションサーバと1台のネットワークカメラと1台の表示端末が示されているが、ネットワークカメラと表示端末は複数であってもよい。
<Embodiment 1>
FIG. 1 shows a video conference logical terminal according to an embodiment of the present invention. This video conference logical terminal includes a video conference application server 11, a network camera 12, and a display terminal 13. Each is connected by an IP (Internet Protocol) network 14, but may be connected by other connection methods such as an ATM (Asynchronous Transfer Mode) network as long as data exchange is possible. The network camera 12 has a function of exchanging data with a device (in this embodiment, the video conference application server 11 is assumed) connected via the IP network 14. The network camera 12 may correspond to, for example, UPnP (Universal Plug and Play). In the figure, one video conference application server, one network camera, and one display terminal are shown, but there may be a plurality of network cameras and display terminals.

図2は、図1のビデオ会議アプリケーションサーバ11の詳細構成を示すブロック図である。   FIG. 2 is a block diagram showing a detailed configuration of the video conference application server 11 of FIG.

通信部21は、ビデオ会議を行う相手側の端末(以下、相手ビデオ会議端末と称する)、ネットワークカメラ12および表示端末13とIPネットワーク14を介してデータの交換を行う。たとえば通信部21は相手ビデオ会議端末から送られてくる映像ストリームを受信し、またネットワークカメラ12から送られてくる映像ストリームを受信する。通信部21はたとえば映像ストリーム受信手段、GUI画像送信手段を有している。相手ビデオ会議端末は、本発明にかかわるビデオ会議倫理端末でもよいし、既知のビデオ会議端末でもよい。既知のビデオ会議端末である場合、この既知のビデオ会議端末は、たとえば、カメラと、表示手段(表示端末)と、ビデオ会議アプリケーションとを搭載している。   The communication unit 21 exchanges data with a partner terminal (hereinafter referred to as a partner video conference terminal) that performs a video conference, the network camera 12 and the display terminal 13 via the IP network 14. For example, the communication unit 21 receives a video stream sent from the partner video conference terminal and receives a video stream sent from the network camera 12. The communication unit 21 includes, for example, a video stream receiving unit and a GUI image transmitting unit. The partner video conference terminal may be a video conference ethics terminal according to the present invention or a known video conference terminal. In the case of a known video conference terminal, the known video conference terminal includes, for example, a camera, a display unit (display terminal), and a video conference application.

セッション制御部22は、相手ビデオ会議端末とのビデオ会議セッションを管理する。たとえばビデオ会議セッションの開始および終了を制御する。   The session control unit 22 manages a video conference session with the partner video conference terminal. For example, controlling the start and end of a video conference session.

セッション情報記憶部23は、ビデオ会議セッションの状態(たとえば現在ビデオ会議を行っている相手ビデオ会議端末のリスト、セッションIDなどのセッション情報)を記憶する。またセッション情報記憶部23は、ビデオ会議セッションを開始する際にユーザに提供する、接続相手となる相手ビデオ会議端末候補の情報を記憶してもよい。   The session information storage unit 23 stores the state of a video conference session (for example, a list of partner video conference terminals that are currently conducting a video conference, session information such as a session ID). In addition, the session information storage unit 23 may store information on a partner video conference terminal candidate to be a connection partner provided to the user when starting a video conference session.

機器情報記憶部24は、IPネットワーク14に接続されている使用可能な表示端末と該表示端末の処理能力情報とを含む表示端末リストと、IPネットワーク14に接続されている使用可能なネットワークカメラと該ネットワークカメラの処理能力情報とを含むカメラリストと、表示端末とネットワークカメラとのマッピング情報とを記憶する。   The device information storage unit 24 includes a display terminal list including usable display terminals connected to the IP network 14 and processing capacity information of the display terminals, and usable network cameras connected to the IP network 14. A camera list including the processing capability information of the network camera and mapping information between the display terminal and the network camera are stored.

機器情報管理部25は、IPネットワーク14上の各機器(ネットワークカメラ、表示端末)を、機器情報記憶部24内の情報に基づき管理する。機器情報管理部25はたとえばIPネットワーク14上に存在する表示端末(たとえば表示端末13、および表示端末13と異なる他の表示端末)を検出する表示端末検出手段を有している。   The device information management unit 25 manages each device (network camera, display terminal) on the IP network 14 based on information in the device information storage unit 24. The device information management unit 25 has display terminal detection means for detecting display terminals (for example, the display terminal 13 and other display terminals different from the display terminal 13) existing on the IP network 14, for example.

GUI管理部26は、表示端末13が操作し得るビデオ会議アプリケーションの機能を適切に選定してGUI(Graphical User Interface)画像(あるいは単にGUIと称することもある)をGUI生成部27を用いて生成して表示端末13に提供し、またGUIに対して行われた表示端末13の指示に応じて実行すべき処理の制御を行う。GUI管理部26はたとえば映像ストリーム数取得手段、映像ストリーム選択手段を有している。   The GUI management unit 26 generates a GUI (Graphical User Interface) image (or may be simply referred to as a GUI) using the GUI generation unit 27 by appropriately selecting a video conference application function that can be operated by the display terminal 13. Then, it controls the processing to be provided to the display terminal 13 and executed according to the instruction of the display terminal 13 performed on the GUI. The GUI management unit 26 includes, for example, a video stream number acquisition unit and a video stream selection unit.

GUI生成部27は、表示端末13に提供するGUIをGUI管理部26の指示により生成する。GUI生成部27はたとえばGUI画像生成手段に相当する。   The GUI generation unit 27 generates a GUI to be provided to the display terminal 13 according to an instruction from the GUI management unit 26. The GUI generation unit 27 corresponds to, for example, GUI image generation means.

GUI情報記憶部28は、表示端末13に提供中のGUI画像上の各座標領域と、各座標領域に対応してビデオ会議アプリケーションサーバ11にて行う処理との対応付けを保持する。   The GUI information storage unit 28 holds a correspondence between each coordinate area on the GUI image being provided to the display terminal 13 and processing performed in the video conference application server 11 corresponding to each coordinate area.

受信映像ストリーム転送部29は、相手ビデオ会議端末およびネットワークカメラ12から送信される映像ストリームを表示端末13に転送し、またネットワークカメラ12から送信される映像ストリームを相手ビデオ会議端末に転送する。受信映像ストリーム転送部29はたとえば映像ストリーム転送手段に相当する。   The received video stream transfer unit 29 transfers the video stream transmitted from the partner video conference terminal and the network camera 12 to the display terminal 13, and transfers the video stream transmitted from the network camera 12 to the partner video conference terminal. The received video stream transfer unit 29 corresponds to, for example, video stream transfer means.

図3は、図1の表示端末13の構成を示すブロック図である。   FIG. 3 is a block diagram showing a configuration of the display terminal 13 of FIG.

通信部31は、IPネットワーク14を介して接続された機器(本実施形態ではビデオ会議アプリケーションサーバを想定する)とデータ交換を行う。   The communication unit 31 exchanges data with a device (a video conference application server is assumed in this embodiment) connected via the IP network 14.

画面表示部32は、例えば液晶表示装置により構成される画面表示部であり、画像表示を行う。   The screen display unit 32 is a screen display unit configured by a liquid crystal display device, for example, and performs image display.

映像ストリームデコード部33は、映像ストリームをデコードし、デコードした映像ストリームを画面表示部32の適切な位置に表示する。   The video stream decoding unit 33 decodes the video stream and displays the decoded video stream at an appropriate position on the screen display unit 32.

GUI画像デコード部34は、ビデオ会議アプリケーションサーバ11より受信したGUI画像をデコードし、デコードしたGUI画像を画面表示部32に表示する。   The GUI image decoding unit 34 decodes the GUI image received from the video conference application server 11 and displays the decoded GUI image on the screen display unit 32.

ユーザ入力部35は、画面表示部32に表示されるGUI画像上のある領域をユーザが指示した際、その指示した領域を表す座標情報を取得する。ユーザの指示は、例えばタッチペン入力により行うことができる。   When the user designates a certain region on the GUI image displayed on the screen display unit 32, the user input unit 35 acquires coordinate information representing the designated region. The user's instruction can be given by touch pen input, for example.

処理能力記憶部36は、表示端末13の処理能力を保持する。処理能力としては、たとえば映像ストリームデコード部33がデコード可能な映像ストリームの本数、および画面表示部32の画面サイズなどがある。   The processing capacity storage unit 36 holds the processing capacity of the display terminal 13. The processing capability includes, for example, the number of video streams that can be decoded by the video stream decoding unit 33 and the screen size of the screen display unit 32.

処理能力管理部37は、ビデオ会議アプリケーションサーバ11へ表示端末13の処理能力を表す情報を伝達する。たとえば映像ストリームデコード部33が同時にデコード可能な映像ストリームの本数を表す映像ストリーム数情報を伝達する。   The processing capability management unit 37 transmits information representing the processing capability of the display terminal 13 to the video conference application server 11. For example, the video stream decoding unit 33 transmits video stream number information indicating the number of video streams that can be decoded simultaneously.

以下では、まず図1に示される、ビデオ会議アプリケーションサーバ11と表示端末13とネットワークカメラ12とによってビデオ会議論理端末が構成される過程を示し、次に、構成されたビデオ会議相手が相手ビデオ会議端末とビデオ会議のセッションを構築する手順を説明し、最後に、本実施形態の大きな特徴の1つである、ビデオ会議論理端末のユーザに提供するGUIの生成方法について説明する。   In the following, first, a process of configuring a video conference logical terminal by the video conference application server 11, the display terminal 13, and the network camera 12 shown in FIG. 1 will be described. Next, the configured video conference partner is the partner video conference. A procedure for constructing a video conference session with a terminal will be described. Finally, a method for generating a GUI provided to a user of a video conference logical terminal, which is one of the major features of this embodiment, will be described.

以下、図4〜図7を用いてビデオ会議論理端末が構成される過程について説明する。   Hereinafter, a process of configuring a video conference logical terminal will be described with reference to FIGS.

図4は、ビデオ会議アプリケーションサーバ11がネットワークカメラ12の情報を取得し、そのカメラを使用可能である場合に機器情報記憶部24のリストに加える手順の一例を示す。例えばUPnPに対応したネットワークカメラはその存在を定期的にIPネットワーク14上にマルチキャストを用いて通知する(S101)。ビデオ会議アプリケーションサーバ11はネットワークカメラが送信する情報を受信し(S102)、該ネットワークカメラのIPアドレスおよび処理可能な映像フォーマットを含む情報を機器情報管理部25により適切なフォーマットに変換して機器情報記憶部24に保持する(S103)。これにより使用可能なネットワークカメラのリストが構築される。ここで、ビデオ会議アプリケーションサーバ11がネットワークカメラを探す手順において能動的な働きをしても良い。   FIG. 4 shows an example of a procedure in which the video conference application server 11 acquires information of the network camera 12 and adds the information to the list in the device information storage unit 24 when the camera can be used. For example, a network camera compatible with UPnP periodically notifies its presence on the IP network 14 using multicast (S101). The video conference application server 11 receives the information transmitted by the network camera (S102), and converts the information including the IP address of the network camera and the video format that can be processed into an appropriate format by the device information management unit 25 to obtain device information. The data is stored in the storage unit 24 (S103). As a result, a list of available network cameras is constructed. Here, the video conference application server 11 may play an active role in the procedure for searching for a network camera.

図5は、表示端末13がビデオ会議アプリケーションサーバ11とデータの交換をして、該ビデオ会議アプリケーションサーバ11とネットワークカメラ12とともに、ビデオ会議論理端末を構築する手順を示す。表示端末13はあらかじめDHCP(Dynamic Host Configuration Protocol)などのプロトコルを用いることでビデオ会議アプリケーションサーバ11とIPネットワーク14を介して通信可能である。表示端末13はビデオ会議アプリケーションサーバ11を使用するため、自端末13のIPアドレス、処理可能な映像フォーマット、デコード可能な映像ストリームの本数および自端末13の画面サイズ(例えばピクセル単位)を含む処理能力情報を処理能力記憶部36から取り出して、ビデオ会議アプリケーションサーバ11へ送信する(S111)。なお、この処理能力情報の送信はビデオ会議アプリケーションサーバ11から表示端末13へのリクエストにより行われても良い。ビデオ会議アプリケーションサーバ11は表示端末13からの処理能力情報を通信部21において受信し(S112)、機器情報管理部25がこの処理能力情報を機器情報記憶部24に保持することで表示端末のリストを構築する。続いてGUI管理部26は、表示端末13が使用可能なネットワークカメラのリストを機器情報管理部25より取得し、そのリストを元にGUI生成部27に表示端末13の処理能力に応じた適切なGUIを生成させ、生成させたGUI画像を表示端末13に送信する(S114)。表示端末13はGUI画像を受信し(S115)、GUI画像デコード部34を介して画面表示部32に表示し、表示端末13を使用するユーザにGUIを提供する。ここではGUIとして、ユーザには、ビデオ会議を行う際に相手ビデオ会議端末に自映像を送信するために使用が可能であるカメラのリストを含む図6のGUIが示される(なお図1には1台のネットワークカメラのみが表示されているが、ここでは少なくとも表示端末13によって使用可能な4台のネットワークカメラがIPネットワークに接続されている)(S116)。ユーザは示されたリストから、使用するカメラをペン入力などにより指示し、表示端末13におけるユーザ入力部35はユーザにより指示された指示領域を表す座標情報をビデオ会議アプリケーションサーバ11へ送信する(S117)。ビデオ会議アプリケーションサーバ11におけるGUI管理部26は、表示端末13より受信した指示領域をもとにユーザが指定したネットワークカメラを特定して機器情報管理部25に通知し(S118)、機器情報管理部25は、GUI管理部26から通知されたネットワークカメラを表示端末13とマッピング(関連付け)し、ビデオ会議を行う際に両者が連動して動作するようにマッピング情報を機器情報記憶部24に保持する(S119)。このマッピング情報は例えばSIP URIなどのIDの下で管理される。以上の手順により、IPネットワーク上に散在していた各機器(ネットワークカメラ、表示端末、ビデオ会議アプリケーションサーバ)を用いて、1つのビデオ会議論理端末が構築される。   FIG. 5 shows a procedure in which the display terminal 13 exchanges data with the video conference application server 11 to construct a video conference logical terminal together with the video conference application server 11 and the network camera 12. The display terminal 13 can communicate with the video conference application server 11 via the IP network 14 by using a protocol such as DHCP (Dynamic Host Configuration Protocol) in advance. Since the display terminal 13 uses the video conference application server 11, the processing capability including the IP address of the terminal 13, the processable video format, the number of video streams that can be decoded, and the screen size (for example, in pixels) of the terminal 13 The information is extracted from the processing capacity storage unit 36 and transmitted to the video conference application server 11 (S111). The processing capability information may be transmitted by a request from the video conference application server 11 to the display terminal 13. The video conference application server 11 receives the processing capability information from the display terminal 13 in the communication unit 21 (S112), and the device information management unit 25 stores the processing capability information in the device information storage unit 24, thereby displaying a list of display terminals. Build up. Subsequently, the GUI management unit 26 acquires a list of network cameras that can be used by the display terminal 13 from the device information management unit 25, and based on the list, the GUI generation unit 27 selects an appropriate one according to the processing capability of the display terminal 13. A GUI is generated, and the generated GUI image is transmitted to the display terminal 13 (S114). The display terminal 13 receives the GUI image (S115), displays it on the screen display unit 32 via the GUI image decoding unit 34, and provides the GUI to the user who uses the display terminal 13. Here, as the GUI, the user is shown the GUI of FIG. 6 including a list of cameras that can be used to transmit the self-video to the other video conference terminal when the video conference is performed (note that FIG. 1 shows the GUI). Only one network camera is displayed, but here at least four network cameras that can be used by the display terminal 13 are connected to the IP network) (S116). The user designates a camera to be used from the displayed list by pen input or the like, and the user input unit 35 in the display terminal 13 transmits coordinate information indicating the designated area designated by the user to the video conference application server 11 (S117). ). The GUI management unit 26 in the video conference application server 11 identifies the network camera designated by the user based on the instruction area received from the display terminal 13 and notifies the device information management unit 25 (S118). 25 maps (associates) the network camera notified from the GUI management unit 26 with the display terminal 13 and holds the mapping information in the device information storage unit 24 so that the two operate in conjunction with each other when a video conference is performed. (S119). This mapping information is managed under an ID such as a SIP URI. Through the above procedure, one video conference logical terminal is constructed using each device (network camera, display terminal, video conference application server) scattered on the IP network.

上記図5の手順においては、ビデオ会議アプリケーションサーバ11の機器情報記憶部24に表示端末のリストを保持した後にネットワークカメラとのマッピングを行ってビデオ会議論理端末を構築したが、使用可能な表示端末13を単に把握する場合は、ビデオ会議論理端末を構築せず、表示端末のリストを保持する処理のみを行ってもよい。   In the procedure of FIG. 5 described above, a list of display terminals is held in the device information storage unit 24 of the video conference application server 11 and then mapping with a network camera is performed to construct a video conference logical terminal. When only 13 is grasped, the video conference logical terminal may not be constructed, and only the process of holding the list of display terminals may be performed.

ここで、上記S118ではユーザにより指示された領域をもとにユーザが指定したネットワークカメラを特定することを説明したが、このように、ビデオ会議アプリケーションサーバのGUI管理部26が、表示端末においてユーザが行った指示をどのように理解するか、その手順を説明する。GUI管理部26はGUIを表示端末13に提供する前に、表示端末13の画面サイズ情報を機器情報管理部25を介して機器情報記憶部24より取得する。そして、GUI管理部26は、GUI生成部27にて生成させたGUI画像上の特定の座標領域と、ビデオ会議アプリケーションサーバ11にて行う処理との対応付けを、GUI情報記憶部28に保持する。表示端末13におけるユーザの指示はユーザ入力部35において、表示端末13上の座標情報に変換され、ビデオ会議アプリケーションサーバ11へ送信される。GUI管理部26は表示端末13より受信した座標情報と、あらかじめ保持している上記対応付けとにより、ビデオ会議アプリケーションサーバ11が行う処理を決定する。   Here, in S118, it has been described that the network camera specified by the user is specified based on the area designated by the user. In this way, the GUI management unit 26 of the video conference application server performs the user operation on the display terminal. Explain how to understand the instructions given by. The GUI management unit 26 acquires the screen size information of the display terminal 13 from the device information storage unit 24 via the device information management unit 25 before providing the GUI to the display terminal 13. Then, the GUI management unit 26 holds, in the GUI information storage unit 28, the correspondence between the specific coordinate area on the GUI image generated by the GUI generation unit 27 and the processing performed by the video conference application server 11. . A user instruction on the display terminal 13 is converted into coordinate information on the display terminal 13 by the user input unit 35 and transmitted to the video conference application server 11. The GUI management unit 26 determines a process to be performed by the video conference application server 11 based on the coordinate information received from the display terminal 13 and the above-described association stored in advance.

上述のGUI管理部26の処理を、図6のネットワークカメラ選択画面を例に取り、図7を用いて解説する。図6にて示したGUIの各ボタンを図7に示すように領域A〜領域Eと名づける。ユーザがネットワークカメラBを指示する場合、表示端末13からビデオ会議アプリケーションサーバ11へは、表示端末13上でのペン入力がユーザ入力部35にて領域Bの座標情報に変換され、送信される。座標情報を受信したビデオ会議アプリケーションサーバ11はGUI管理部26がGUI情報記憶部28にてあらかじめ保持してある対応付けに基づき、処理を行う。いま、図7の右側に示す対応付けが保持されていれば、ネットワークカメラBを候補として特定し、領域BがハイライトされたGUIを生成するようにGUI生成部27に指示し、そのGUIを表示端末13に送信することで表示端末13はGUIを更新する。この後に、ユーザは表示端末13上で「決定」ボタン領域を指示すると、同様に「決定」ボタンの座標情報が、表示端末13よりビデオ会議アプリケーションサーバ11へ送信され、GUI情報記憶部28の情報に基づき、対応するビデオ会議アプリケーションサーバ11の処理である「指定されたネットワークカメラと表示端末をマッピング」をGUI管理部26の指示により機器情報管理部25が行う。   The processing of the GUI management unit 26 will be described with reference to FIG. 7, taking the network camera selection screen of FIG. 6 as an example. The buttons of the GUI shown in FIG. 6 are named area A to area E as shown in FIG. When the user instructs the network camera B, the pen input on the display terminal 13 is converted into the coordinate information of the area B by the user input unit 35 and transmitted from the display terminal 13 to the video conference application server 11. The video conference application server 11 that has received the coordinate information performs processing based on the association previously held in the GUI information storage unit 28 by the GUI management unit 26. If the association shown on the right side of FIG. 7 is held, the network camera B is identified as a candidate, and the GUI generation unit 27 is instructed to generate a GUI with the region B highlighted. By transmitting to the display terminal 13, the display terminal 13 updates the GUI. Thereafter, when the user designates the “decision” button area on the display terminal 13, the coordinate information of the “decision” button is similarly transmitted from the display terminal 13 to the video conference application server 11, and information in the GUI information storage unit 28 is obtained. Based on the above, the device information management unit 25 performs “mapping the specified network camera and display terminal”, which is a process of the corresponding video conference application server 11, according to an instruction from the GUI management unit 26.

次に、構築されたビデオ会議論理端末が相手ビデオ会議端末とビデオ会議セッションを構築する手順を説明する。   Next, a procedure in which the constructed video conference logical terminal constructs a video conference session with the other video conference terminal will be described.

ビデオ会議アプリケーションサーバ11において、機器情報管理部25は表示端末13とネットワークカメラとのマッピングが完了するとただちに、完了した旨を表す情報をGUI管理部26に送り、GUI管理部26はGUI生成部27にマッピングの完了を示すGUIを生成させ、ユーザは表示端末13に表示されるそのGUIにより、マッピングの完了を確認する。   In the video conference application server 11, as soon as the mapping between the display terminal 13 and the network camera is completed, the device information management unit 25 sends information indicating the completion to the GUI management unit 26, and the GUI management unit 26 performs the GUI generation unit 27. Then, a GUI indicating the completion of mapping is generated, and the user confirms the completion of mapping using the GUI displayed on the display terminal 13.

続いて、GUI管理部26はビデオ会議セッションを開始するためのGUIをGUI生成部27に生成させ、生成させたGUIを表示端末13に送信する。このGUIにはビデオ会議セッションの開始にあたり必要となる、接続相手先の情報を入力するようなフォームまたはあらかじめ登録された接続相手先候補が含まれても良い。入力フォームが提供される場合には、ビデオ会議アプリケーションサーバ11が表示端末13上に擬似的に提供するソフトウェアキーボード等により、ユーザは入力を行ってもよい。   Subsequently, the GUI management unit 26 causes the GUI generation unit 27 to generate a GUI for starting a video conference session, and transmits the generated GUI to the display terminal 13. This GUI may include a form for inputting information of a connection partner required for starting a video conference session or a connection partner candidate registered in advance. When the input form is provided, the user may perform input using a software keyboard or the like that the video conference application server 11 provides on the display terminal 13 in a pseudo manner.

ユーザはGUIを介してビデオ会議セッションの接続先相手情報を入力または指示した後にセッションの開始を指示する。表示端末13はユーザ入力部35を介してユーザの指示をビデオ会議アプリケーションサーバ11へ送信する。ビデオ会議アプリケーションサーバ11はGUI管理部26を介してセッション制御部22にビデオ会議セッションの開始を指示し、セッション制御部22は指定された相手先ビデオ会議端末とビデオ会議セッションを張るとともに、セッションの状態をセッション情報記憶部23に保持する。   The user instructs the start of the session after inputting or instructing the destination information of the video conference session via the GUI. The display terminal 13 transmits a user instruction to the video conference application server 11 via the user input unit 35. The video conference application server 11 instructs the session control unit 22 to start a video conference session via the GUI management unit 26, and the session control unit 22 establishes a video conference session with the designated destination video conference terminal and The state is held in the session information storage unit 23.

ここで、ビデオ会議セッションを張るためにはSIP(Session Initiation Protocol)またはH.323が用いられる場合が多いが、他の手段を用いてもよい。セッション制御部22は機器情報記憶部24にて保持される各機器(ネットワークカメラ、表示端末)の情報とビデオ会議セッションとを直接関連付けて管理することはなく、例えばSIP URIなどのIDと関連付けてビデオ会議セッションを管理する。ビデオ会議セッションにおいて交換される映像コーデックおよびそのパラメータを含む情報は、例えばSDP(Session Description Protocol)を用いて決定される。上記パラメータを含む情報は、あらかじめ機器情報記憶部24に保持された情報を、機器情報管理部25を介してセッション制御部22に渡すことで作成される。   Here, in order to establish a video conference session, SIP (Session Initiation Protocol) or H.264 is used. Although H.323 is often used, other means may be used. The session control unit 22 does not directly manage the information of each device (network camera, display terminal) held in the device information storage unit 24 and the video conference session, but associates the information with an ID such as a SIP URI. Manage video conference sessions. Information including the video codec exchanged in the video conference session and its parameters is determined using, for example, SDP (Session Description Protocol). The information including the parameters is created by passing information held in advance in the device information storage unit 24 to the session control unit 22 via the device information management unit 25.

ビデオ会議セッションが張られた後は、相手ビデオ会議端末は前述のSDPで得た情報により、ビデオ会議アプリケーションサーバ11へ適切な方式で映像ストリームを送信し、ビデオ会議アプリケーションサーバ11は受信した映像ストリームを受信映像ストリーム転送部29により、デコードすることなく表示端末13へ転送する。   After the video conference session is established, the partner video conference terminal transmits a video stream to the video conference application server 11 in an appropriate manner based on the information obtained by the SDP, and the video conference application server 11 receives the received video stream. Is transferred to the display terminal 13 by the received video stream transfer unit 29 without being decoded.

また、ビデオ会議アプリケーションサーバ11は、セッションが開始されるとただちに、表示端末13とマッピングされているネットワークカメラに、映像ストリームをビデオ会議アプリケーションサーバ11へ送信するよう指示し、ビデオ会議アプリケーションサーバ11はネットワークカメラより受信した映像ストリームをデコードすることなく、相手ビデオ会議端末へと転送する。   Further, as soon as the session is started, the video conference application server 11 instructs the network camera mapped with the display terminal 13 to transmit the video stream to the video conference application server 11, and the video conference application server 11 The video stream received from the network camera is transferred to the partner video conference terminal without being decoded.

これらの映像ストリームは一般にRTP(Realtime Transport Protocol)により送信されることが多いが、必ずしもRTPを用いる必要はない。   In general, these video streams are often transmitted by RTP (Realtime Transport Protocol), but it is not always necessary to use RTP.

以上により、ビデオ会議論理端末と相手ビデオ会議端末との間でビデオ会議が実現され、図9に示されるようなデータの流れができる。図9ではビデオ会議論理端末が相手ビデオ会議端末A、B、Cとビデオ会議を行っている様子が示されている。各相手ビデオ会議端末A、B、Cはそれぞれカメラ41A、41B、41Cと、表示手段(表示端末)と、ビデオ会議アプリケーションとを有している。   As described above, the video conference is realized between the video conference logical terminal and the partner video conference terminal, and the data flow as shown in FIG. 9 can be performed. FIG. 9 shows a state in which the video conference logical terminal has a video conference with the partner video conference terminals A, B, and C. Each partner video conference terminal A, B, C has cameras 41A, 41B, 41C, display means (display terminals), and a video conference application, respectively.

ここで、ビデオ会議アプリケーションサーバ11の受信映像ストリーム転送部29について説明を加える。本実施形態によるビデオ会議論理端末とビデオ会議セッションを共にする相手ビデオ会議端末が映像ストリームをビデオ会議アプリケーションサーバ11へ送信すると、全ての映像ストリームは受信映像ストリーム転送部29が受信する(S121)。受信映像ストリーム転送部29は、GUI管理部26により指定された映像ストリームに、その映像が表示端末13の画面表示部内のどの領域に配置されるかを指定する映像ストリーム表示領域指定情報を付加して(S122のYES、S123)、表示端末13へ転送する(S124)。受信映像ストリーム転送部29は、転送するよう指定されていない映像ストリームについては破棄する(S122のNO、S125)。GUI管理部26が受信映像ストリーム転送部29へ指示する映像ストリームの転送先は当該ビデオ会議セッションに関わるSIP URIなどのIDの下で管理された表示端末13のIPアドレスを、機器情報管理部25を介して機器情報記憶部24から得ることにより、決定される。   Here, the received video stream transfer unit 29 of the video conference application server 11 will be described. When the partner video conference terminal that shares the video conference session with the video conference logical terminal according to the present embodiment transmits the video stream to the video conference application server 11, the received video stream transfer unit 29 receives all the video streams (S121). The received video stream transfer unit 29 adds video stream display area designation information for designating which area in the screen display unit of the display terminal 13 the video is designated to the video stream designated by the GUI management unit 26. (YES in S122, S123) and transfer to the display terminal 13 (S124). The received video stream transfer unit 29 discards the video stream not designated for transfer (NO in S122, S125). The transfer destination of the video stream instructed by the GUI management unit 26 to the received video stream transfer unit 29 is the IP address of the display terminal 13 managed under the ID such as SIP URI related to the video conference session, and the device information management unit 25. It is determined by obtaining from the device information storage unit 24 via

以上により、ビデオ会議論理端末と他のビデオ会議端末との間にビデオ会議セッションが構築される。次に図9のようにビデオ会議論理端末が相手ビデオ会議端末A、BおよびCとビデオ会議セッションを構築している場合において、表示端末13の映像処理能力と表示端末13に提供している(表示されている)GUIの状況とに応じて、ビデオ会議アプリケーションサーバが次に表示端末に提供するGUIを決定する方法について説明する。   As described above, a video conference session is established between the video conference logical terminal and another video conference terminal. Next, when the video conference logical terminal constructs a video conference session with the other video conference terminals A, B and C as shown in FIG. 9, the video processing capability of the display terminal 13 and the display terminal 13 are provided ( A method of determining the GUI that the video conference application server next provides to the display terminal in accordance with the GUI status (displayed) will be described.

より詳しくは、ビデオ会議セッション中に表示端末13にビデオ会議アプリケーションサーバ11が転送する映像ストリームをユーザが選択するために、表示端末13に提供するGUIを決定する方法について説明する。表示端末13の映像処理能力により場合分けを行い、まず、1本の映像ストリームのみデコード可能な表示端末に提供するGUIについて説明し、次に複数の映像ストリームをデコード可能な表示端末に提供するGUIについて説明する。なお、表示端末に提供されるGUIは、あらかじめ表示端末を操作するユーザが決定するのではなく、表示端末が持つ処理能力(デコード可能な映像ストリーム本数等)をビデオ会議アプリケーションサーバ11が判断することで決定される。   More specifically, a method for determining a GUI to be provided to the display terminal 13 so that the user can select a video stream to be transferred by the video conference application server 11 to the display terminal 13 during the video conference session. The GUI for providing a display terminal capable of decoding only one video stream will be described according to the video processing capability of the display terminal 13. First, a GUI for providing a display terminal capable of decoding a plurality of video streams will be described. Will be described. Note that the GUI provided to the display terminal is not determined by the user operating the display terminal in advance, but the video conference application server 11 determines the processing capability of the display terminal (such as the number of video streams that can be decoded). Determined by

1本の映像ストリームのみをデコード可能な表示端末の場合に、ビデオ会議アプリケーションサーバ11が提供するGUIの一例を、図10に示す。ビデオ会議セッションが開始された直後に表示端末13には、ネットワークカメラ12より送られてきた自映像またはある相手ビデオ会議端末より送られてきた相手映像が表示されている。この状態において表示される映像の送信元は、セッション開始時にユーザが選択するための機能をビデオ会議アプリケーションサーバ11が提供しても良い。   FIG. 10 shows an example of a GUI provided by the video conference application server 11 in the case of a display terminal capable of decoding only one video stream. Immediately after the start of the video conference session, the display terminal 13 displays a self-video sent from the network camera 12 or a partner video sent from a partner video conference terminal. The video conference application server 11 may provide a function for the user to select the transmission source of the video displayed in this state at the start of the session.

セッション開始直後にビデオ会議アプリケーションサーバ11より提供されるGUIは、たとえば図10(a)に示されるように、相手ビデオ会議端末Aより送信される映像ストリームをデコードした映像が表示される領域と、ビデオ会議アプリケーションサーバ11より転送される映像ストリームを変更する機能を実現するための「映像切替」ボタン(GUI)とを含む。   The GUI provided from the video conference application server 11 immediately after the start of the session is, for example, as shown in FIG. 10 (a), an area for displaying a video obtained by decoding a video stream transmitted from the partner video conference terminal A, And a “video switching” button (GUI) for realizing a function of changing a video stream transferred from the video conference application server 11.

ユーザが他の映像ストリームを表示端末13に表示させたいと望み、「映像切替」ボタン領域を指示すると、表示端末13のユーザ入力部35がその指示を検知し、ビデオ会議アプリケーションサーバ11へ「映像切替」ボタンの座標情報を送信する。ビデオ会議アプリケーションサーバ11にておいて、GUI管理部26は、表示端末13より受信した座標情報から、転送する映像ストリームを変更する処理を実行する。すなわち、GUI管理部26は受信映像ストリーム転送部29へ、表示端末13に転送する映像ストリームを、例えばビデオ会議端末Aより受信したものからビデオ会議端末Bより受信したものへと変更するよう指示を送る。受信映像ストリーム転送部29は表示端末13に転送する映像ストリームをビデオ会議端末Bより受信したものへと切り替える。GUI管理部26はGUI情報記憶部28へ、ユーザに提供しているビデオ会議アプリケーション11の状態の変更を記録する。ユーザに提供されるGUIは図10(b)に示されるように、相手ビデオ会議端末Bより受信する映像ストリームをデコードした映像が表示される領域と、表示させる映像を切り替える機能を実現するための「映像切替」ボタンを含む。   When the user desires to display another video stream on the display terminal 13 and designates the “video switching” button area, the user input unit 35 of the display terminal 13 detects the instruction and sends it to the video conference application server 11. The coordinate information of the “Switch” button is transmitted. In the video conference application server 11, the GUI management unit 26 executes a process of changing the video stream to be transferred from the coordinate information received from the display terminal 13. That is, the GUI management unit 26 instructs the received video stream transfer unit 29 to change the video stream to be transferred to the display terminal 13 from, for example, one received from the video conference terminal A to one received from the video conference terminal B. send. The received video stream transfer unit 29 switches the video stream to be transferred to the display terminal 13 to one received from the video conference terminal B. The GUI management unit 26 records the change in the state of the video conference application 11 provided to the user in the GUI information storage unit 28. As shown in FIG. 10 (b), the GUI provided to the user is for realizing a function for switching an area where a video obtained by decoding a video stream received from the partner video conference terminal B is displayed and a video to be displayed. Includes a “video switch” button.

表示端末13にて確認されるこれら一連の切り替えは、「ビデオ会議端末Aより送信される映像が表示された状態」と「ビデオ会議端末B(や、その他の端末)より送信される映像が表示された状態」が、ビデオ会議アプリケーションサーバ11において対等な処理関係(転送する映像ストリームの切り替え)にあることから、図10(b)に示される状態から図10(c)および図10(d)に示される状態へと切り替えが起こる場合も、前述と同様の手順が踏まれる。以後、「映像切替」ボタン領域をユーザが指示する度に、ビデオ会議アプリケーションサーバ11が表示端末13に転送する映像ストリームが所定の順序で切り替わり、ネットワークカメラ12より受信した自映像である映像ストリームもこの中に含まれる。なお、図10では、明示されていないが、表示端末13を使用するユーザが表示端末13上に表示されている相手先を認識できるようなテキストメッセージまたはアイコンを含むGUIがビデオ会議アプリケーションサーバ11より適時、提供されても良い。また、前述の「映像切替」ボタンではなく、図11に示されるような、ユーザが表示させる映像を選択的に決定できるようなボタンを含むGUIが用いられてもよい。   These series of switchings confirmed on the display terminal 13 are “displaying the video transmitted from the video conference terminal A” and “displaying the video transmitted from the video conference terminal B (and other terminals). 10 (c) and FIG. 10 (d) from the state shown in FIG. 10 (b), since the “combined state” is in an equal processing relationship (switching of the video stream to be transferred) in the video conference application server 11. The same procedure as described above is also performed when switching to the state shown in FIG. Thereafter, every time the user designates the “video switching” button area, the video stream transferred from the video conference application server 11 to the display terminal 13 is switched in a predetermined order, and the video stream that is the own video received from the network camera 12 is also displayed. Included in this. Although not explicitly shown in FIG. 10, a GUI including a text message or an icon that allows the user using the display terminal 13 to recognize the other party displayed on the display terminal 13 is displayed from the video conference application server 11. May be provided in a timely manner. Further, instead of the above-described “video switching” button, a GUI including a button for selectively determining a video to be displayed by the user as shown in FIG. 11 may be used.

複数の映像ストリームをデコード可能な表示端末の場合、ビデオ会議アプリケーションサーバ11が提供するGUIは、たとえば図12のようになる。ここでは、ビデオ会議論理端末は、相手ビデオ会議端末として、ビデオ会議端末A、BおよびCの3台とビデオ会議セッションを構築する。ビデオ会議論理端末が複数のビデオ会議端末とビデオ会議セッションを持つ場合には、表示端末13においてユーザが映像表示のオン(ON)とオフ(OFF)を決定するボタン領域を指示する度に、ビデオ会議アプリケーションサーバ11では、GUI管理部26が表示端末13によって選択された映像ストリームの転送のONとOFFを受信映像ストリーム転送部29へ指示し、切り替えを実現する。   In the case of a display terminal capable of decoding a plurality of video streams, a GUI provided by the video conference application server 11 is, for example, as shown in FIG. Here, the video conference logical terminal constructs a video conference session with the three video conference terminals A, B, and C as counterpart video conference terminals. When the video conferencing logical terminal has a video conferencing session with a plurality of video conferencing terminals, the video is displayed every time the user designates a button area for determining whether video display is on (ON) or off (OFF) on the display terminal 13. In the conference application server 11, the GUI management unit 26 instructs the received video stream transfer unit 29 to turn on and off the transfer of the video stream selected by the display terminal 13 and realizes switching.

図12(a)に示すように表示端末13にビデオ会議端末Aの映像、ビデオ会議端末Bの映像、ビデオ会議端末Cの映像およびネットワークカメラより得る自映像が表示されている。ここで、ユーザがビデオ会議端末Cの映像を表示させないよう望むとする。表示端末13上の「ビデオ会議端末C映像OFF」ボタン領域をユーザが指示すると、ビデオ会議アプリケーションサーバ11のGUI管理部26が受信映像ストリーム転送部29へビデオ会議端末Cから受信した映像ストリームの表示端末13への転送を中断するよう指示する。GUI生成部27は図12(a)の「ビデオ会議端末C映像OFF」ボタンに該当する部分を「ビデオ会議端末C映像ON」ボタンに変更したGUIを生成し、GUI管理部26が表示端末13へこれを送信する。表示端末13はビデオ会議アプリケーションサーバ11より受信したGUI画像を用い、GUIを更新する。表示端末13ではビデオ会議端末Cの映像ストリームの提供が停止し、たとえば図12(b)に示す画面が表示される。   As shown in FIG. 12A, the video of the video conference terminal A, the video of the video conference terminal B, the video of the video conference terminal C, and the own video obtained from the network camera are displayed on the display terminal 13. Here, it is assumed that the user does not want to display the video of the video conference terminal C. When the user instructs the “video conference terminal C video OFF” button area on the display terminal 13, the GUI management unit 26 of the video conference application server 11 displays the video stream received from the video conference terminal C to the received video stream transfer unit 29. An instruction is given to interrupt the transfer to the terminal 13. The GUI generation unit 27 generates a GUI in which the portion corresponding to the “video conference terminal C video OFF” button in FIG. 12A is changed to the “video conference terminal C video ON” button, and the GUI management unit 26 displays the display terminal 13. Send this to. The display terminal 13 updates the GUI using the GUI image received from the video conference application server 11. The display terminal 13 stops providing the video stream of the video conference terminal C, and for example, the screen shown in FIG. 12B is displayed.

図12(b)では、ビデオ会議端末Cの映像が表示されていた領域が黒画像になっているが、必ずしも黒画像でなくてもよく、ビデオ会議端末Cの映像ストリームの最後の1フレーム(つまり、静止画像)が表示されてもよいし、ビデオ会議端末Cを代表するアイコンや文字列または意味のある画像が表示されてもよい。   In FIG. 12 (b), the area where the video of the video conference terminal C was displayed is a black image, but it is not necessarily a black image, and the last frame of the video stream of the video conference terminal C ( That is, a still image) may be displayed, or an icon, a character string, or a meaningful image representing the video conference terminal C may be displayed.

また、GUIのレイアウトを変更し、「ビデオ会議端末C映像ON」ボタンのみを残した図13に示すような形式で新たにGUIが提供されても良い。この際に、GUI管理部26は受信映像ストリーム転送部29により転送される映像ストリームに付加される、表示端末13に指定する映像表示領域情報も適切に変更する。図示の例では、自映像の映像ストリームに付加される映像表示領域情報が変更されている。   Further, the GUI layout may be changed and a new GUI may be provided in the format shown in FIG. 13 in which only the “video conference terminal C video ON” button is left. At this time, the GUI management unit 26 also appropriately changes the video display area information designated to the display terminal 13 added to the video stream transferred by the received video stream transfer unit 29. In the illustrated example, the video display area information added to the video stream of the own video is changed.

また図12のGUIと図11のGUIとを組み合わせたGUIを生成してもよい。すなわち表示端末13が複数の映像ストリームを同時にデコードし表示可能な場合、映像ストリームの表示領域ごとに、それぞれ表示すべき映像ストリームを選択するためのGUIを生成してもよい。これによれば、たとえば映像ストリーム数が4本あり、表示端末13が2本の映像ストリームを同時にデコードし表示可能な場合は、4本のうち2本の映像ストリームを選択して同時に表示可能である。   Moreover, you may produce | generate GUI which combined GUI of FIG. 12, and GUI of FIG. That is, when the display terminal 13 can simultaneously decode and display a plurality of video streams, a GUI for selecting a video stream to be displayed may be generated for each display area of the video stream. According to this, for example, when there are four video streams and the display terminal 13 can decode and display two video streams simultaneously, two video streams out of the four video streams can be selected and displayed simultaneously. is there.

以上のように、本実施形態によれば、ビデオ会議アプリケーションサーバが表示端末がデコード可能な映像ストリームの本数に応じたGUIを生成し表示端末に提供することにより、ユーザが特別な設定をすることなく、表示端末ごとに適切な操作を行うことが可能になる。   As described above, according to the present embodiment, the video conference application server generates a GUI according to the number of video streams that can be decoded by the display terminal, and provides the display terminal with the GUI, so that the user makes a special setting. Therefore, it is possible to perform an appropriate operation for each display terminal.

<実施形態2>
本実施形態に係わるビデオ会議アプリケーションサーバ11は、ビデオ会議アプリケーションサーバ11と表示端末13との間の使用可能帯域幅がユーザの希望するビデオ会議の映像品質を保つために十分でない場合に、ユーザの使用感を高めるため、相手ビデオ会議端末またはネットワークカメラ12より受信した映像ストリームの表示端末13への転送の制御を行うデータ調整手段をGUI管理部26において備えることを特徴とする。
<Embodiment 2>
When the available bandwidth between the video conference application server 11 and the display terminal 13 is not sufficient to maintain the video quality of the video conference desired by the user, the video conference application server 11 according to the present embodiment In order to enhance the usability, the GUI management unit 26 includes data adjustment means for controlling transfer of the video stream received from the partner video conference terminal or the network camera 12 to the display terminal 13.

ビデオ会議アプリケーションサーバ11が、表示端末13との間における、IPネットワーク14の使用可能帯域幅を測定する使用帯域幅測定手段を持つ場合、上記データ調整手段は、表示端末13を使用してビデオ会議を行うユーザに不快感を与えない目的で、転送する映像ストリームの使用帯域幅を使用可能帯域幅内に収まるように変化させる。ここで、使用可能帯域幅測定手段としては、例えば表示端末13とビデオ会議アプリケーションサーバ11がRTCP(RTP Control Protocol)を実装することにより測定する手段や、ユーザに直接品質の指定を行わせる手段、その他の独自実装による測定手段が考えられるが、どのような手段を用いても良い。   When the video conference application server 11 has a usable bandwidth measuring unit that measures the usable bandwidth of the IP network 14 with the display terminal 13, the data adjusting unit uses the display terminal 13 to perform the video conference. For the purpose of not discomforting the user who performs the operation, the used bandwidth of the video stream to be transferred is changed so as to be within the usable bandwidth. Here, as usable bandwidth measuring means, for example, means for measuring the display terminal 13 and the video conference application server 11 by implementing RTCP (RTP Control Protocol), means for allowing the user to directly specify quality, Other measuring means based on original mounting can be considered, but any means may be used.

表示端末13を操作するユーザが、転送される複数の各映像ストリームに対して、使用帯域の優先度を決定する場合を考える。本実施形態において、ビデオ会議アプリケーションサーバ11が表示端末13に提供するGUIは、たとえば図14に示す品質優先映像選択欄51を含む。複数の映像ストリームを同一のIPネットワークにて送信すると、帯域幅が不足し、映像にノイズが生じることもあり得るが、上記データ調整手段を備えるビデオ会議アプリケーションサーバ11では、限られたIPネットワークの帯域幅内でユーザにとって利用品質の高いサービスを提供することができる。図14に示したGUIにおいて、ユーザが品質優先映像選択欄51内より、ビデオ会議端末Bの映像を優先させるために該当ボタン領域51Bを指示し、表示端末13のユーザ入力部35がこの領域51Bを表す座標情報をビデオ会議アプリケーションサーバ11へ送信する。ビデオ会議アプリケーションサーバ11のGUI管理部26はビデオ会議端末Bの映像を優先する指示を受信すると、上記データ調整手段により、受信映像ストリーム転送部29へビデオ会議端末Bの映像品質を優先させるよう指示を送るとともに、GUI生成部27に、ビデオ会議端末Bの映像を優先して転送することを受け付けたことを示す図15のGUIの生成を指示する。GUI管理部26は生成されたGUIを表示端末13に送信し、表示端末13はGUIを更新する。   Consider a case where the user operating the display terminal 13 determines the priority of the bandwidth to be used for each of a plurality of transferred video streams. In the present embodiment, the GUI provided by the video conference application server 11 to the display terminal 13 includes, for example, a quality priority video selection column 51 shown in FIG. When a plurality of video streams are transmitted through the same IP network, the bandwidth may be insufficient and noise may occur in the video. However, in the video conference application server 11 including the data adjustment unit, a limited IP network is required. It is possible to provide a service with high use quality for the user within the bandwidth. In the GUI shown in FIG. 14, the user instructs the corresponding button area 51B in order to prioritize the video of the video conference terminal B from the quality priority video selection column 51, and the user input unit 35 of the display terminal 13 displays this area 51B. Is transmitted to the video conference application server 11. When the GUI management unit 26 of the video conference application server 11 receives an instruction to prioritize the video of the video conference terminal B, the data adjustment unit instructs the received video stream transfer unit 29 to prioritize the video quality of the video conference terminal B. 15 and instructs the GUI generation unit 27 to generate the GUI shown in FIG. 15 indicating that the video transfer from the video conference terminal B has been accepted. The GUI management unit 26 transmits the generated GUI to the display terminal 13, and the display terminal 13 updates the GUI.

上記データ調整手段によりビデオ会議端末Bの映像品質を優先させた場合における各ビデオ会議端末の映像ストリームに対する扱いを図16と図17を用いて説明する。ビデオ会議アプリケーションサーバ11が受信する映像ストリームは全て同じ帯域幅を使用するものとするが、この前提は本実施形態の機能を制限するものではない。ユーザが図15で示されるようにビデオ会議端末Bの映像を優先するようビデオ会議アプリケーションサーバ11へGUIを介して指示したとする。ビデオ会議アプリケーションサーバ11と表示端末13との間の使用可能帯域幅が映像ストリーム2本分である場合、GUI管理部26のデータ調整手段は図16のように端末Bの映像ストリームに1本分の帯域を使用し、ビデオ会議端末A、ビデオ会議端末Cおよびネットワークカメラ12より受信する映像ストリームを時分割により表示端末13へ提供するよう、受信映像ストリーム転送部29へ随時、転送する映像ストリームの切り替え指示を行う。また、使用可能帯域幅が映像ストリーム3本分である場合では、図17のように、時分割でビデオ会議端末B以外からの映像ストリームを表示端末13に転送するよう切り替え指示を行う。上述の例では使用可能帯域幅が映像ストリーム2本分以上であったが、1本以下であっても類似の実装により、ビデオ会議アプリケーションサーバ11はその状況においてユーザが快適にビデオ会議を行えるよう機能を提供可能である。   The handling of the video stream of each video conference terminal when priority is given to the video quality of the video conference terminal B by the data adjusting means will be described with reference to FIGS. The video streams received by the video conference application server 11 all use the same bandwidth, but this premise does not limit the functions of this embodiment. Assume that the user instructs the video conference application server 11 via the GUI to give priority to the video of the video conference terminal B as shown in FIG. When the usable bandwidth between the video conference application server 11 and the display terminal 13 is two video streams, the data adjustment means of the GUI management unit 26 is equivalent to one video stream of the terminal B as shown in FIG. Of the video stream to be transferred to the received video stream transfer unit 29 at any time so as to provide the video terminal received from the video conference terminal A, the video conference terminal C and the network camera 12 to the display terminal 13 by time division. Instruct switching. When the usable bandwidth is for three video streams, a switching instruction is given to transfer video streams from other than the video conference terminal B to the display terminal 13 in a time division manner as shown in FIG. In the above example, the usable bandwidth is more than two video streams. Even if the usable bandwidth is less than one, the video conferencing application server 11 can perform a video conference comfortably in the situation by the similar implementation. Capability can be provided.

図15においては、ユーザはビデオ会議端末Bの映像のみを優先させる指示をしたが、ビデオ会議アプリケーションサーバ11はユーザに複数の映像を優先させる機能を提供しても良く、この場合にGUI管理部26はデータ調整手段により受信映像ストリーム転送部29に最適な映像ストリームの切り替え指示を行えば良い。また、ユーザに優先する映像ストリームの順位付けを決定する機能を提供しても良いし、例えば自映像のような特定の映像を優先させない機能を提供してもよい。   In FIG. 15, the user gives an instruction to prioritize only the video of the video conference terminal B. However, the video conference application server 11 may provide a function of prioritizing a plurality of videos to the user. 26, the data adjustment means may instruct the received video stream transfer unit 29 to switch the optimal video stream. In addition, a function for determining the ranking of video streams prioritized by the user may be provided, or a function for not giving priority to a specific video such as a self video may be provided.

<実施形態3>
本実施形態は、ビデオ会議セッション中にユーザが使用する表示端末を切り替えることを可能にしたことを特徴とする。以下本実施形態について詳細に説明する。
<Embodiment 3>
The present embodiment is characterized in that the display terminal used by the user can be switched during the video conference session. Hereinafter, this embodiment will be described in detail.

図18は、ビデオ会議セッション中にユーザが使用する表示端末を切り替える様子を示す。ユーザは既に開始されたビデオ会議を表示端末Aを用いて行っている。ユーザが表示端末Aの代わりに、表示端末Aより映像処理能力が高い表示端末Bを使用したいと望むとする。この場合、たとえばユーザは一度ビデオ会議セッションを終了し、表示端末Bを用いて、再び<実施形態1>にて示した手順を行えば同一の相手ビデオ会議端末とビデオ会議セッションを張ることができる。しかし、ユーザの手間が増える上、相手ビデオ会議端末に再びビデオ会議セッションを構築するよう依頼する必要がある。そこで、本実施形態にかかわるビデオ会議アプリケーションサーバ11は、ビデオ会議セッションを維持したままユーザが使用する表示端末を表示端末Aより表示端末Bへと変更する機能を提供する。   FIG. 18 shows how the display terminal used by the user is switched during the video conference session. The user has already started a video conference using the display terminal A. Assume that the user wants to use display terminal B having higher video processing capability than display terminal A instead of display terminal A. In this case, for example, the user once ends the video conference session, and can perform a video conference session with the same partner video conference terminal by using the display terminal B and performing the procedure described in <Embodiment 1> again. . However, in addition to the time and effort of the user, it is necessary to request the other video conference terminal to construct a video conference session again. Therefore, the video conference application server 11 according to the present embodiment provides a function of changing the display terminal used by the user from the display terminal A to the display terminal B while maintaining the video conference session.

図23は、本実施形態にかかわるビデオ会議アプリケーションサーバ11により、使用する表示端末を変更する処理を行う際のGUI管理部の手順フローを示すフローチャートである。   FIG. 23 is a flowchart illustrating a procedure flow of the GUI management unit when the video conference application server 11 according to the present embodiment performs a process of changing the display terminal to be used.

ビデオ会議アプリケーションサーバ11は、ユーザが使用する表示端末13をビデオ会議セッション中に変更することを可能にする機能を提供するため、図19に示す「使用表示端末変更」ボタン61を含むGUIを提供する。ユーザが「使用表示端末変更」ボタン61の領域を指示すると、指示された領域の座標情報が表示端末Aよりビデオ会議アプリケーションサーバ11へ送信され、ビデオ会議アプリケーションサーバ11のGUI管理部26は、機器情報管理部25が保持する表示端末リストに基づきGUI生成部27に、ユーザが切り替え先として使用可能な表示端末のリストを含む図20に示すGUI(第2のGUI画像)を生成させ、生成させたGUIを表示端末Aに提供する。ここで例えば、切り替え先として使用可能な表示端末が、表示端末B、CおよびDであり、ユーザが切り替え先として表示端末Bを選択する場合、その選択を表す情報をビデオ会議アプリケーションサーバ11は受信する(S131)。ここで図20のGUIにおいては、同時に処理可能な映像ストリーム数が高い表示端末ほど上位(たとえば上側)に、同時に処理可能な映像ストリーム数が低い表示端末ほど下位(たとえば下側)に位置するようなGUIを生成し、表示端末Aに表示するようにしてもよい。また、図20のGUIにおいて、各表示端末を選択するボタンに加えて、各表示端末の同時に処理可能な映像ストリーム数を表す情報を併記したGUIを生成し、表示端末Aに表示するようにしてもよい。   The video conference application server 11 provides a GUI including a “use display terminal change” button 61 shown in FIG. 19 in order to provide a function that allows the display terminal 13 used by the user to be changed during the video conference session. To do. When the user designates the area of the “use display terminal change” button 61, the coordinate information of the designated area is transmitted from the display terminal A to the video conference application server 11, and the GUI management unit 26 of the video conference application server 11 Based on the display terminal list held by the information management unit 25, the GUI generation unit 27 generates and generates the GUI (second GUI image) shown in FIG. 20 including a list of display terminals that can be used as a switching destination by the user. The display GUI is provided to the display terminal A. Here, for example, when the display terminals that can be used as the switching destination are the display terminals B, C, and D, and the user selects the display terminal B as the switching destination, the video conference application server 11 receives information representing the selection. (S131). Here, in the GUI of FIG. 20, a display terminal with a higher number of video streams that can be processed simultaneously is positioned higher (for example, the upper side), and a display terminal with a lower number of video streams that can be processed simultaneously is positioned lower (for example, the lower side). A simple GUI may be generated and displayed on the display terminal A. In addition to the button for selecting each display terminal in the GUI of FIG. 20, a GUI that includes information indicating the number of video streams that can be simultaneously processed by each display terminal is generated and displayed on the display terminal A. Also good.

ビデオ会議アプリケーションサーバ11は既述した手順により、該当部分(「表示端末B」ボタン)がハイライトされた図20に示すGUIを表示端末Aに提供するとともに、GUI管理部26がセッション制御部22へ、表示端末Bが使用可能であるかの問い合わせを再度行い、返答を得る(S132)。表示端末Bが使用不可能である場合に(S132のNO)、GUI管理部26は、図21に示すエラーメッセージを含むGUIを表示端末Aに提供して(S133)、ビデオ会議セッションを継続させる(S134)。表示端末Bが使用可能である場合に(S132のYES)GUI管理部26は、図22に示す表示端末の変更をユーザに確認させるためのGUIを変更先表示端末である表示端末Bへ提供する(S135)。   The video conference application server 11 provides the GUI shown in FIG. 20 with the corresponding portion (“display terminal B” button) highlighted to the display terminal A according to the procedure described above, and the GUI management unit 26 uses the session control unit 22. The inquiry about whether the display terminal B is usable is made again, and a response is obtained (S132). When the display terminal B is not usable (NO in S132), the GUI management unit 26 provides the GUI including the error message shown in FIG. 21 to the display terminal A (S133), and continues the video conference session. (S134). When the display terminal B is usable (YES in S132), the GUI management unit 26 provides a GUI for allowing the user to confirm the change of the display terminal shown in FIG. (S135).

図22においてユーザが「キャンセル」ボタン領域を表示端末Bに対して指示すると(S136のNO)、GUI管理部26は上述の表示端末Bが使用不可能である場合と同様に図21に示すエラーメッセージを含むGUIを表示端末Aに提供し(S133)、表示端末Aを用いたビデオ会議セッションを継続させる(S134)。   In FIG. 22, when the user instructs the “cancel” button area to the display terminal B (NO in S136), the GUI management unit 26 displays the error shown in FIG. 21 as in the case where the display terminal B cannot be used. A GUI including a message is provided to display terminal A (S133), and the video conference session using display terminal A is continued (S134).

図22においてユーザが「OK」ボタン領域を指示すると(S136のYES)、GUI管理部26は機器情報記憶部24が保持するマッピング情報の更新を機器情報管理部25に指示するとともに、機器情報管理部25を介して、表示端末Bがデコード可能な映像ストリームの本数を含む処理能力の情報を取得する(S137)。表示端末Bがデコード可能な映像ストリームの本数が1本のときは(S137のNO)、GUI管理部26は表示端末Bの画面サイズと転送する映像ストリームの本数(1本)に応じて生成されたGUIを端末Bに提供し(S138)、さらに表示端末Aへの映像ストリームの転送を停止するとともにビデオ会議アプリケーションサーバ11が受信する映像ストリームのうちのある1本のストリームを表示端末Bに転送するように受信映像ストリーム転送部29に指示する(S139)。そしてビデオ会議セッションを表示端末Bにて継続する(S140)。   In FIG. 22, when the user designates the “OK” button area (YES in S136), the GUI management unit 26 instructs the device information management unit 25 to update the mapping information held in the device information storage unit 24, and also manages the device information management. Through the unit 25, information on the processing capability including the number of video streams that can be decoded by the display terminal B is acquired (S137). When the number of video streams that can be decoded by the display terminal B is one (NO in S137), the GUI management unit 26 is generated according to the screen size of the display terminal B and the number of video streams to be transferred (one). The terminal B is provided to the terminal B (S138), and the transfer of the video stream to the display terminal A is stopped, and one of the video streams received by the video conference application server 11 is transferred to the display terminal B. The received video stream transfer unit 29 is instructed to do so (S139). Then, the video conference session is continued on the display terminal B (S140).

一方、表示端末Bがデコード可能な映像ストリームの本数が複数本のときは(S137のYES)、GUI管理部26は表示端末Bの画面サイズと転送する映像ストリームの本数(複数本)に応じて生成されたGUIを端末Bに提供し(S141)、さらに表示端末Aへの映像ストリームの転送を停止するとともにビデオ会議アプリケーションサーバ11が受信する映像ストリームのうち全て若しくは複数の映像ストリームを表示端末Bに転送するように受信映像ストリーム転送部29に指示する(S139)。そしてビデオ会議セッションを表示端末Bにて継続する(S143)。   On the other hand, when the number of video streams that can be decoded by the display terminal B is plural (YES in S137), the GUI management unit 26 depends on the screen size of the display terminal B and the number (multiple) of video streams to be transferred. The generated GUI is provided to the terminal B (S141), the transfer of the video stream to the display terminal A is stopped, and all or a plurality of video streams among the video streams received by the video conference application server 11 are displayed on the display terminal B. The received video stream transfer unit 29 is instructed to transfer to (S139). Then, the video conference session is continued on the display terminal B (S143).

なお、上記では、表示端末を変更する際に、表示端末Bにてユーザの確認を行ったが、表示端末Bが使用可能な状態であればこの確認手順は省略することもある。   In the above description, when the display terminal is changed, the user is confirmed on the display terminal B. However, if the display terminal B is usable, this confirmation procedure may be omitted.

また、上記では、説明の便宜上、変更元の表示端末Aよりも変更先の表示端末Bの方が映像処理能力が高いとしたが、変更する際にこのような制限は必要なく、ユーザはビデオ会議アプリケーションサーバ11の機器情報記憶部24にて使用可能であるとされていれば任意の表示端末を変更先の表示端末として選択することができる。   Further, in the above, for convenience of explanation, it is assumed that the display terminal B as the change destination has higher video processing capability than the display terminal A as the change source. If it can be used in the device information storage unit 24 of the conference application server 11, an arbitrary display terminal can be selected as the display terminal to be changed.

以上のように本実施形態によれば、ビデオ会議の最中にビデオ会議セッションを再構築することなく、かつユーザが特別な設定をすることなく、複数の処理能力が異なる表示端末間で、使用する表示端末を変更することが可能となる。   As described above, according to the present embodiment, a video conference session is not reconstructed during a video conference, and a user does not make any special settings between display terminals having different processing capabilities. The display terminal to be changed can be changed.

<実施形態4>
図24は、1つのビデオ会議アプリケーションサーバ71と、1つのネットワークカメラ12と、複数台の表示端末M、S1、S2より構成されたビデオ会議論理端末が、複数の相手ビデオ会議端末(相手ビデオ会議端末A、BおよびC)とビデオ会議を行っている様子を示す。本実施形態では、このように、複数台の表示端末を使用してビデオ会議論理端末を構築することにより、それぞれの表示端末が1本の映像ストリームのみをデコード可能である場合も、表示端末の数が十分であれば、相手ビデオ会議端末が複数の場合に「映像切替」ボタン等を用いることなく全ての相手ビデオ会議端末の映像をユーザが確認することができる。また、表示端末が複数の映像ストリームをデコード可能である場合も、1つの表示端末のみで複数の映像ストリームを表示させる場合に比べ、各映像が大きく表示され、ユーザに提供するビデオ会議の使用感を高めることができる。
<Embodiment 4>
FIG. 24 shows a video conference logical terminal composed of one video conference application server 71, one network camera 12, and a plurality of display terminals M, S1, and S2. A state in which a video conference is performed with the terminals A, B, and C) is shown. In this embodiment, by constructing a video conference logical terminal using a plurality of display terminals as described above, even when each display terminal can decode only one video stream, If the number is sufficient, when there are a plurality of partner video conference terminals, the user can check the videos of all the partner video conference terminals without using the “video switching” button or the like. Also, when the display terminal can decode a plurality of video streams, each video is displayed larger than when only a single display terminal displays a plurality of video streams, and the usability of the video conference provided to the user is displayed. Can be increased.

以下、本実施形態について詳細に説明する。ただし本実施形態にかかわるビデオ会議アプリケーションサーバ71の説明においては図2に示したビデオ会議アプリケーションサーバ11のブロック図を利用する。   Hereinafter, this embodiment will be described in detail. However, in the description of the video conference application server 71 according to this embodiment, the block diagram of the video conference application server 11 shown in FIG. 2 is used.

まず、<実施形態1>に示された手順により、ビデオ会議アプリケーションサーバ71と、ネットワークカメラ12と、表示端末Mとによりビデオ会議論理端末を構成し、構成したビデオ会議論理端末と複数の相手ビデオ会議端末(相手ビデオ会議端末A、BおよびC)との間にビデオ会議セッションを張る。複数の表示端末を用いて1つのビデオ会議論理端末を構築する機能を持つビデオ会議アプリケーションサーバ71は、図25に示す、ユーザが同じセッションにて使用する表示端末を追加するための「使用表示端末追加」ボタン72を含むGUIを表示端末Mに提供する。ユーザが「使用表示端末追加」ボタン72の領域を指示すると、指示された領域を示す座標情報が表示端末Mよりビデオ会議アプリケーションサーバ71へ送信され、ビデオ会議アプリケーションサーバ71のGUI管理部26は、機器情報管理部25が保持する表示端末リストに基づきGUI生成部27に対して、ユーザが切り替え先として使用可能な表示端末のリストを含むGUI(第3のGUI画像)を生成させ、生成させたGUIを表示端末Mに提供する。表示端末Mに表示されるGUIの一例を図26に示す。図26においてユーザが、追加して使用する表示端末として、GUI73における表示端末S1を選択すると、ユーザが選択した表示端末を表す情報がビデオ会議アプリケーションサーバ71へ送信される。該当部分(「表示端末S1」ボタン)がハイライトされたGUIが提供されるとともに、図29のフローチャートに示す動作がビデオ会議アプリケーションサーバ71において行われる。   First, according to the procedure shown in <Embodiment 1>, a video conference logical terminal is configured by the video conference application server 71, the network camera 12, and the display terminal M, and the configured video conference logical terminal and a plurality of partner videos are configured. A video conference session is established between the conference terminals (the partner video conference terminals A, B, and C). The video conference application server 71 having a function of constructing one video conference logical terminal using a plurality of display terminals is shown in FIG. 25 as “use display terminal for adding a display terminal used by the user in the same session. A GUI including an “add” button 72 is provided to the display terminal M. When the user designates the area of the “use display terminal addition” button 72, coordinate information indicating the designated area is transmitted from the display terminal M to the video conference application server 71, and the GUI management unit 26 of the video conference application server 71 Based on the display terminal list held by the device information management unit 25, the GUI generation unit 27 generates and generates a GUI (third GUI image) including a list of display terminals that can be used as a switching destination by the user. A GUI is provided to the display terminal M. An example of the GUI displayed on the display terminal M is shown in FIG. In FIG. 26, when the user selects the display terminal S1 in the GUI 73 as a display terminal to be used additionally, information representing the display terminal selected by the user is transmitted to the video conference application server 71. A GUI with the corresponding part (“display terminal S1” button) highlighted is provided, and the operation shown in the flowchart of FIG. 29 is performed in the video conference application server 71.

ビデオ会議アプリケーションサーバ71が表示端末Mよりユーザの選択情報を受信すると(S151)、選択されたボタンをハイライトしたGUIを返すとともに、GUI管理部26が機器情報管理部25へ、表示端末S1が使用可能であるかの問い合わせを行い、返答を得る(S152)。表示端末S1が使用不可能である場合に(S152のNO)GUI管理部26は、例えば図27に示すようなエラーメッセージを含むGUIを表示端末Mに提供し(S153)、表示端末Mのみを用いたビデオ会議セッションを継続させる(S154)。   When the video conference application server 71 receives the user selection information from the display terminal M (S151), the GUI that highlights the selected button is returned, the GUI management unit 26 returns to the device information management unit 25, and the display terminal S1 An inquiry is made as to whether it can be used, and a response is obtained (S152). When the display terminal S1 is not usable (NO in S152), the GUI management unit 26 provides the display terminal M with a GUI including an error message as shown in FIG. 27, for example (S153), and only the display terminal M is displayed. The used video conference session is continued (S154).

表示端末S1が使用可能である場合に(S152のYES)GUI管理部26は、図28に示す、表示端末の追加をユーザに確認させるためのGUIを追加先表示端末である表示端末S1へ提供する(S155)。図28においてユーザが「キャンセル」ボタン領域を指示すると(S156のNO)、GUI管理部26は上述の表示端末S1が使用不可能な場合と同様の手順を踏み、表示端末Mのみを用いたビデオ会議セッションを継続させる(S153、S154)。   When the display terminal S1 is usable (YES in S152), the GUI management unit 26 provides the display terminal S1, which is the addition destination display terminal, with the GUI shown in FIG. 28 for allowing the user to confirm the addition of the display terminal. (S155). In FIG. 28, when the user designates the “cancel” button area (NO in S156), the GUI management unit 26 follows the same procedure as when the display terminal S1 cannot be used, and a video using only the display terminal M. The conference session is continued (S153, S154).

図28においてユーザが「OK」ボタン領域を指示すると(S156のYES)、GUI管理部26は機器情報記憶部24が保持するマッピング情報の更新を機器情報管理部25に指示するとともに、あらかじめ機器情報記憶部24が記憶する、表示端末S1がデコード可能な映像ストリームの本数を含む処理能力情報を取得する(S157)。   In FIG. 28, when the user designates the “OK” button area (YES in S156), the GUI management unit 26 instructs the device information management unit 25 to update the mapping information held in the device information storage unit 24, and in advance the device information. The processing capability information including the number of video streams that can be decoded by the display terminal S1 and stored in the storage unit 24 is acquired (S157).

表示端末S1が1本の映像ストリームのみをデコード可能な場合には(S157のNO)、表示端末S1の画面サイズと転送する映像ストリームの本数(1本)に応じたGUIを生成して表示端末S1に提供するとともに(S158)、ビデオ会議アプリケーションサーバが受信する映像ストリームのうちのある1本のストリームを表示端末S1に転送するよう受信映像ストリーム転送部29に指示する(S159)。つまりGUI管理部26は受信映像ストリーム転送部29へ表示端末Mのみでなく表示端末S1にも映像ストリームを転送するよう指示する。そしてビデオ会議セッションを表示端末Mと表示端末S1にて継続する(S160)。   When the display terminal S1 can decode only one video stream (NO in S157), a GUI is generated and displayed according to the screen size of the display terminal S1 and the number of video streams to be transferred (one). In addition to providing to S1 (S158), the received video stream transfer unit 29 is instructed to transfer one of the video streams received by the video conference application server to the display terminal S1 (S159). That is, the GUI management unit 26 instructs the received video stream transfer unit 29 to transfer the video stream not only to the display terminal M but also to the display terminal S1. Then, the video conference session is continued on the display terminal M and the display terminal S1 (S160).

一方、表示端末S1が複数の映像ストリームをデコード可能な場合には(S157のYES)、表示端末S1の画面サイズと転送する映像ストリームの本数(複数本)に応じたGUIを生成して表示端末S1に提供するとともに(S161)、ビデオ会議アプリケーションサーバが受信する映像ストリームのうちの全て若しくは複数の映像ストリームを表示端末S1へ転送するよう受信映像ストリーム転送部29に指示する(S162)。つまりGUI管理部26は受信映像ストリーム転送部29へ表示端末Mのみでなく表示端末S1にも映像ストリームを転送するよう指示する。そして、ビデオ会議セッションを表示端末Mと表示端末S1にて継続する(S163)。   On the other hand, if the display terminal S1 can decode a plurality of video streams (YES in S157), the display terminal S1 generates a GUI corresponding to the screen size of the display terminal S1 and the number of video streams to be transferred (multiple). In addition to providing to S1 (S161), the received video stream transfer unit 29 is instructed to transfer all or a plurality of video streams received by the video conference application server to the display terminal S1 (S162). That is, the GUI management unit 26 instructs the received video stream transfer unit 29 to transfer the video stream not only to the display terminal M but also to the display terminal S1. Then, the video conference session is continued on the display terminal M and the display terminal S1 (S163).

前述の手順を表示端末S2に対しても実施することにより、表示端末S2が追加され、表示端末S2は表示端末S1と同様にビデオ会議アプリケーションサーバ71より映像ストリームを受信して表示することができる。   By performing the above-described procedure for the display terminal S2, the display terminal S2 is added, and the display terminal S2 can receive and display the video stream from the video conference application server 71 in the same manner as the display terminal S1. .

上記説明では、説明の便宜上、表示端末Mより上述の手順をすべて行う例を示したが、たとえばユーザが使用中の表示端末が2台(表示端末MおよびS1)のときに表示端末S2を追加する機能を、表示端末M上でなく表示端末S1上から用いても良い。また表示端末S1上からはこの追加する機能を使用できないようにする実装も考えられる。   In the above description, for the sake of convenience of explanation, an example in which the above-described procedure is all performed from the display terminal M has been shown. However, for example, when there are two display terminals (display terminals M and S1) in use by the user, a display terminal S2 is added. The function to be used may be used not from the display terminal M but from the display terminal S1. In addition, it is possible to implement such that the added function cannot be used from the display terminal S1.

また上記説明では、使用する表示端末の数を増加させる例を示したが、表示端末の数を減少させる機能をビデオ会議アプリケーションサーバに備えさせることも当然可能であり、これは表示端末を増加させる手順と類似の手順で実現できる。例えば、「使用表示端末削除」ボタンを含むGUIを提供し、ユーザがある表示端末をビデオ会議論理端末より削除するよう指示する場合、ビデオ会議アプリケーションサーバ71のGUI管理部26は該表示端末への、映像ストリームの転送を停止するよう受信映像ストリーム転送部29に指示し、受信映像ストリーム転送部29は該表示端末への映像ストリームの転送を停止する。同時にGUI管理部26は該表示端末へのGUIの提供を停止するとともに、機器情報記憶部24が記憶するマッピング情報から該表示端末を削除するよう機器情報管理部25に指示する。   In the above description, the example of increasing the number of display terminals to be used has been shown. However, it is naturally possible to provide the video conference application server with a function of decreasing the number of display terminals, which increases the number of display terminals. It can be realized by a procedure similar to the procedure. For example, when a GUI including a “use display terminal deletion” button is provided and the user instructs to delete a certain display terminal from the video conference logical terminal, the GUI management unit 26 of the video conference application server 71 sends the display terminal to the display terminal. Then, the received video stream transfer unit 29 is instructed to stop the transfer of the video stream, and the received video stream transfer unit 29 stops the transfer of the video stream to the display terminal. At the same time, the GUI management unit 26 stops providing the GUI to the display terminal and instructs the device information management unit 25 to delete the display terminal from the mapping information stored in the device information storage unit 24.

以上のように本実施形態によれば、ビデオ会議の最中にビデオ会議セッションを再構築することなく、かつユーザが特別な設定をすることなく、使用する表示端末の増加および減少が可能となる。   As described above, according to the present embodiment, it is possible to increase and decrease the number of display terminals to be used without reconstructing the video conference session during the video conference and without the user performing special settings. .

ここで、上記ビデオ会議アプリケーションサーバ71は、受信した映像ストリームの転送先を表示端末ごとに選定する機能も有していてもよい。たとえば図32に示すようにビデオ会議アプリケーションサーバ71は、前述した表示端末を追加する機能に加えて、各表示端末に転送するべき映像ストリームを、表示端末ごとに個別に決定する機能をも有していてもよい。以下この機能について詳細に説明する。   Here, the video conference application server 71 may also have a function of selecting a transfer destination of the received video stream for each display terminal. For example, as shown in FIG. 32, the video conference application server 71 has a function of individually determining a video stream to be transferred to each display terminal in addition to the above-described function of adding a display terminal. It may be. This function will be described in detail below.

図30はビデオ会議アプリケーション71が表示端末Mに提供するGUIの例を示す。このGUIは前述した「使用表示端末追加」ボタン72に加えて、映像ストリームの転送先を表示端末ごとに配分する機能を提供するための「映像ストリーム配分設定」ボタン82を含む。ユーザが「映像ストリーム配分設定」ボタン82の領域を指示すると、指示された領域を表す座標情報が表示端末Mよりビデオ会議アプリケーションサーバ71へ送信され、ビデオ会議アプリケーションサーバ71のGUI管理部26が、GUI生成部27に図31に示すような形式をもつGUI(第4のGUI画像)の生成を指示し、生成されたGUIを表示端末Mに提供する。このGUIを介して、ユーザが各表示端末に転送される映像ストリームの配分を指定する。   FIG. 30 shows an example of a GUI provided to the display terminal M by the video conference application 71. The GUI includes a “video stream distribution setting” button 82 for providing a function of distributing the transfer destination of the video stream for each display terminal in addition to the “use display terminal addition” button 72 described above. When the user designates the area of the “video stream distribution setting” button 82, coordinate information representing the designated area is transmitted from the display terminal M to the video conference application server 71, and the GUI management unit 26 of the video conference application server 71 The GUI generation unit 27 is instructed to generate a GUI (fourth GUI image) having a format as shown in FIG. 31, and the generated GUI is provided to the display terminal M. Via this GUI, the user designates the distribution of the video stream to be transferred to each display terminal.

ユーザは、このGUIを介して、表示端末M、S1およびS2に対して転送する映像ストリームを個別に選択することが可能であり、図31では転送される映像ストリームがハイライトされる。本例では、表示端末Mには相手ビデオ会議端末Aの映像が、表示端末S1には相手ビデオ会議端末Bの映像とネットワークカメラより得られる自映像が、表示端末S2には相手ビデオ会議端末Cの映像とネットワークカメラより得られる自映像が表示されるよう選択されている。ただし、ここで表示端末Mが1本の映像ストリームのみをデコード可能な表示端末であり、表示端末S1、S2が複数の映像ストリームをデコード可能な表示端末であるとする。   The user can individually select a video stream to be transferred to the display terminals M, S1, and S2 via the GUI, and the transferred video stream is highlighted in FIG. In this example, the video of the partner video conference terminal A is displayed on the display terminal M, the video of the partner video conference terminal B and the own video obtained from the network camera are displayed on the display terminal S1, and the partner video conference terminal C is displayed on the display terminal S2. And the self-image obtained from the network camera are selected to be displayed. Here, it is assumed that the display terminal M is a display terminal that can decode only one video stream, and the display terminals S1 and S2 are display terminals that can decode a plurality of video streams.

図31の状態からユーザが、表示端末Mに相手ビデオ会議端末Bの映像ストリームを配分するよう指示すると、その指示を受けたビデオ会議アプリケーションサーバ71のGUI管理部26は機器情報管理部25より取得した表示端末Mの処理能力情報から表示端末Mが映像ストリームを1本のみ表示できることを判断し、「相手ビデオ会議端末A」ボタンのハイライトを停止し、「相手ビデオ会議端末B」ボタンがハイライトされたGUIを表示端末Mに提供する。   When the user instructs the display terminal M to distribute the video stream of the partner video conference terminal B from the state of FIG. 31, the GUI management unit 26 of the video conference application server 71 that has received the instruction obtains from the device information management unit 25. It is determined from the processing capability information of the display terminal M that the display terminal M can display only one video stream, the highlight of the “other party video conference terminal A” button is stopped, and the “other party video conference terminal B” button is highlighted. Provide the written GUI to the display terminal M.

一方、図31の状態からユーザが、表示端末S1に相手ビデオ会議端末Aの映像ストリームを配分するよう指示すると、指示を受けたビデオ会議アプリケーションサーバ71のGUI管理部26は同様に表示端末S1の処理能力情報から表示端末S1が新たな映像ストリームを追加的に表示できることを判断し、「相手ビデオ会議端末A」ボタンが新たにハイライトされたGUIを表示端末Mに提供する。   On the other hand, when the user instructs the display terminal S1 to distribute the video stream of the partner video conference terminal A from the state of FIG. 31, the GUI management unit 26 of the video conference application server 71 that has received the instruction similarly displays the display terminal S1. Based on the processing capability information, it is determined that the display terminal S1 can additionally display a new video stream, and a GUI in which the “other party video conference terminal A” button is newly highlighted is provided to the display terminal M.

ここでは図31に示すハイライトの状態で、ユーザが「決定」ボタン領域を指示したとする。この場合、指示された「決定」ボタンの領域を表す座標情報が表示端末Mよりビデオ会議アプリケーションサーバ71へ送信され、ビデオ会議アプリケーションサーバ71のGUI管理部26が、図32に示すように、受信した映像ストリームを各表示端末に転送するよう、受信映像ストリーム転送部29へ指示し、受信映像ストリーム転送部29は指示された転送を行う。   Here, it is assumed that the user has designated the “OK” button area in the highlighted state shown in FIG. In this case, coordinate information indicating the area of the designated “decision” button is transmitted from the display terminal M to the video conference application server 71, and the GUI management unit 26 of the video conference application server 71 receives the information as shown in FIG. The received video stream transfer unit 29 is instructed to transfer the received video stream to each display terminal, and the received video stream transfer unit 29 performs the instructed transfer.

なお、前述した各実施形態にかかわるビデオ会議アプリケーションサーバは、例えば、汎用のコンピュータ装置を基本ハードウェアとして用いることでも実現することが可能である。すなわち、通信部、セッション制御部、機器情報管理部、GUI管理部、GUI生成部、受信映像ストリーム転送部は、上記のコンピュータ装置に搭載されたプロセッサにプログラムを実行させることにより実現することができる。このとき、ビデオ会議アプリケーションサーバは、上記のプログラムをコンピュータ装置にあらかじめインストールすることで実現してもよいし、CD−ROMなどの記憶媒体に記憶して、あるいはネットワークを介して上記のプログラムを配布して、このプログラムをコンピュータ装置に適宜インストールすることで実現してもよい。また、機器情報記憶部、セッション情報記憶部、GUI情報記憶部は、上記のコンピュータ装置に内蔵あるいは外付けされたメモリ、ハードディスクもしくはCD−R、CD−RW、DVD−RAM、DVD−Rなどの記憶媒体などを適宜利用して実現することができる。   Note that the video conference application server according to each embodiment described above can also be realized by using, for example, a general-purpose computer device as basic hardware. That is, the communication unit, the session control unit, the device information management unit, the GUI management unit, the GUI generation unit, and the received video stream transfer unit can be realized by causing the processor mounted on the computer device to execute the program. . At this time, the video conference application server may be realized by installing the above-described program in a computer device in advance, or may be stored in a storage medium such as a CD-ROM or distributed through the network. Then, this program may be realized by appropriately installing it in a computer device. In addition, the device information storage unit, session information storage unit, GUI information storage unit includes a memory, a hard disk or a CD-R, a CD-RW, a DVD-RAM, a DVD-R, etc. incorporated in or external to the computer device. It can be realized by appropriately using a storage medium or the like.

本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。   The present invention is not limited to the above-described embodiments as they are, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. In addition, various inventions can be formed by appropriately combining a plurality of components disclosed in the embodiment. For example, some components may be deleted from all the components shown in the embodiment. Furthermore, constituent elements over different embodiments may be appropriately combined.

ビデオ会議論理端末の概略構成図。The schematic block diagram of a video conference logical terminal. ビデオ会議アプリケーションサーバの詳細構成図。The detailed block diagram of a video conference application server. 表示端末の詳細構成図。The detailed block diagram of a display terminal. ビデオ会議アプリケーションサーバがネットワークカメラをリストに加えるまでの流れを示す図。The figure which shows the flow until a video conference application server adds a network camera to a list. ネットワークビデオ会議端末が構成されるまでの流れを示す図。The figure which shows the flow until a network video conference terminal is comprised. 使用可能なカメラのリストを示し、ユーザに選択させるGUIを示す図。The figure which shows the list | wrist of a camera which can be used, and shows GUI which makes a user select. GUI画像領域とビデオ会議アプリケーションサーバの処理との対応付けを示す図。The figure which shows matching with a GUI image area | region and the process of a video conference application server. 受信映像ストリーム転送部における転送処理の流れを示すフローチャート。The flowchart which shows the flow of the transfer process in a received video stream transfer part. ビデオ会議論理端末と複数の相手ビデオ会議端末との間でビデオ会議を行っている様子を示す図。The figure which shows a mode that the video conference is performed between a video conference logical terminal and several other party video conference terminals. 同時に1本の映像ストリームのみデコード可能な表示端末に提供するGUIの一例を示す図。The figure which shows an example of GUI provided to the display terminal which can decode only one video stream simultaneously. 同時に1本の映像ストリームのみデコード可能な表示端末に提供するGUIの他の例を示す図。The figure which shows the other example of GUI provided to the display terminal which can decode only one video stream simultaneously. 同時に複数の映像ストリームをデコード可能な表示端末に提供するGUIの一例を示す図。The figure which shows an example of GUI provided to the display terminal which can decode a some video stream simultaneously. 同時に複数の映像ストリームをデコード可能な表示端末に提供するGUIの他の例を示す図。The figure which shows the other example of GUI provided to the display terminal which can decode a some video stream simultaneously. 実施形態2にかかわる同時に複数の映像ストリームをデコード可能な表示端末に提供するGUIの一例を示す図。FIG. 10 is a diagram illustrating an example of a GUI provided to a display terminal capable of decoding a plurality of video streams simultaneously according to the second embodiment. 実施形態2にかかわる同時に複数の映像ストリームをデコード可能な表示端末に提供するGUIの他の例を示す図。FIG. 10 is a diagram illustrating another example of a GUI provided to a display terminal that can decode a plurality of video streams simultaneously according to the second embodiment. 使用可能帯域が映像ストリーム2本分の場合の転送例を示す図。The figure which shows the example of a transfer when an available zone | band is for two video streams. 使用可能帯域が映像ストリーム3本分の場合の転送例を示す図。The figure which shows the example of a transfer when an available zone | band is for 3 video streams. ビデオ会議セッション中に、使用する表示端末を切り替える例を示す図。The figure which shows the example which switches the display terminal to be used during a video conference session. 使用する表示端末を変更する際に変更元表示端末へ提供するGUIの一例を示す図。The figure which shows an example of GUI provided to a change origin display terminal when changing the display terminal to be used. 使用する表示端末を変更する際に変更元表示端末へ提供するGUIの一例を示す図。The figure which shows an example of GUI provided to a change origin display terminal when changing the display terminal to be used. 使用する表示端末を変更する際に変更元表示端末へ提供するGUIの一例を示す図。The figure which shows an example of GUI provided to a change origin display terminal when changing the display terminal to be used. 使用する表示端末を変更する際に変更先表示端末へ提供するGUIの一例を示す図。The figure which shows an example of GUI provided to a change destination display terminal when changing the display terminal to be used. 使用表示端末変更処理時に行われるGUI管理部の処理の流れを示すフローチャート。The flowchart which shows the flow of a process of the GUI management part performed at the time of a use display terminal change process. 複数の表示端末を使用する例を示す図。The figure which shows the example which uses a some display terminal. 表示端末追加処理時に追加元表示端末へ提供するGUIの一例を示す図。The figure which shows an example of GUI provided to an addition source display terminal at the time of a display terminal addition process. 表示端末追加処理時に追加元表示端末へ提供するGUIの一例を示す図。The figure which shows an example of GUI provided to an addition source display terminal at the time of a display terminal addition process. 表示端末追加処理時に追加元表示端末へ提供するGUIの一例を示す図。The figure which shows an example of GUI provided to an addition source display terminal at the time of a display terminal addition process. 表示端末追加処理時に追加先表示端末へ提供するGUIの一例を示す図。The figure which shows an example of GUI provided to an addition destination display terminal at the time of a display terminal addition process. 表示端末追加処理時に行われるGUI管理部の処理の流れを示すフローチャート。The flowchart which shows the flow of a process of the GUI management part performed at the time of a display terminal addition process. 映像ストリームを表示端末ごとに配分するために提供するGUIの一例を示す図。The figure which shows an example of GUI provided in order to distribute a video stream for every display terminal. 映像ストリームを表示端末ごとに配分するために提供するGUIの一例を示す図。The figure which shows an example of GUI provided in order to distribute a video stream for every display terminal. 表示端末からの指示に応じて複数の表示端末へ映像ストリームを配分する例を示す図。The figure which shows the example which distributes a video stream to several display terminals according to the instruction | indication from a display terminal.

符号の説明Explanation of symbols

11、71:ビデオ会議アプリケーションサーバ
12:ネットワークカメラ
13:表示端末
14:IPネットワーク
21:通信部
22:セッション制御部
23:セッション情報記憶部
24:機器情報記憶部
25:機器情報管理部
26:GUI管理部
27:GUI生成部
28:GUI情報記憶部
29:受信映像ストリーム転送部
31:通信部
32:画面表示部
33:映像ストリームデコード部
34:GUI画像デコード部
35:ユーザ入力部
36:処理能力記憶部
37:処理能力管理部
11, 71: Video conference application server 12: Network camera 13: Display terminal 14: IP network 21: Communication unit 22: Session control unit 23: Session information storage unit 24: Device information storage unit 25: Device information management unit 26: GUI Management unit 27: GUI generation unit 28: GUI information storage unit 29: Received video stream transfer unit 31: Communication unit 32: Screen display unit 33: Video stream decoding unit 34: GUI image decoding unit 35: User input unit 36: Processing capability Storage unit 37: processing capacity management unit

Claims (10)

ネットワークを介して接続された、映像を撮像するカメラおよび映像を表示する表示端末を用いて、複数のビデオ会議端末と前記ネットワークを介してビデオ会議を行うビデオ会議アプリケーションサーバであって、
前記カメラおよび前記複数のビデオ会議端末から前記ネットワークを介して送られてくる映像ストリームを受信する映像ストリーム受信手段と、
前記表示端末により処理可能な映像ストリームの数を表す映像ストリーム数情報を前記表示端末から取得する映像ストリーム数取得手段と、
前記映像ストリーム数情報に示される前記映像ストリーム数以下の映像ストリームを、前記映像ストリーム受信手段によって受信された映像ストリームから選択する映像ストリーム選択手段と、
前記映像ストリーム選択手段により選択された映像ストリームを前記表示端末に転送し、また前記映像ストリーム受信手段によって前記カメラから受信された映像ストリームを前記複数のビデオ会議端末に転送する映像ストリーム転送手段と、
前記映像ストリーム数情報に示される前記映像ストリーム数にしたがって、前記表示端末において表示される映像ストリームを制御するためのGUI(Graphical User Interface)画像を生成するGUI画像生成手段と、
前記GUI画像生成手段により生成されたGUI画像を前記表示端末に送信するGUI画像送信手段と、
を備えたビデオ会議アプリケーションサーバ。
A video conferencing application server that performs video conferencing with a plurality of video conferencing terminals via the network using a camera that captures video and a display terminal that displays video connected via a network,
Video stream receiving means for receiving video streams sent from the camera and the plurality of video conference terminals via the network;
Video stream number acquisition means for acquiring video stream number information representing the number of video streams that can be processed by the display terminal from the display terminal;
Video stream selection means for selecting a video stream equal to or less than the number of video streams indicated in the video stream number information from the video stream received by the video stream reception means;
Video stream transfer means for transferring the video stream selected by the video stream selection means to the display terminal, and transferring the video stream received from the camera by the video stream reception means to the plurality of video conference terminals;
GUI image generating means for generating a GUI (Graphical User Interface) image for controlling the video stream displayed on the display terminal according to the video stream number indicated in the video stream number information;
GUI image transmitting means for transmitting the GUI image generated by the GUI image generating means to the display terminal;
Video conferencing application server with
前記GUI画像生成手段は、前記映像ストリーム転送手段により前記表示端末に転送すべき映像ストリームを前記映像ストリーム数情報に示される数以下の範囲で前記表示端末において選択するためのGUI画像を生成し、
前記映像ストリーム選択手段は、前記表示端末において選択された映像ストリームを特定する特定情報を前記表示端末から取得し、取得した特定情報に示される映像ストリームを前記映像ストリーム受信手段によって受信された映像ストリームから選択する、
ことを特徴とする請求項1に記載のビデオ会議アプリケーションサーバ。
The GUI image generation means generates a GUI image for selecting in the display terminal a video stream to be transferred to the display terminal by the video stream transfer means within a range equal to or less than the number indicated in the video stream number information,
The video stream selection means acquires specific information for specifying the video stream selected on the display terminal from the display terminal, and the video stream indicated by the acquired specific information is received by the video stream reception means. Select from
The video conference application server according to claim 1.
前記GUI画像生成手段は、前記映像ストリーム転送手段により前記表示端末に転送する映像ストリームを他の映像ストリームに切り替えることを前記表示端末において指示するためのGUI画像を生成し、
前記映像ストリーム選択手段は、前記表示端末において前記他の映像ストリームへの切り替えが指示されことを示す切り替え情報を前記表示端末から取得し、取得した切り替え情報によって指示される映像ストリームに前記表示端末に転送する映像ストリームを切り替えることを前記映像ストリーム転送手段に指示し、
前記映像ストリーム転送手段は、前記表示端末に転送する映像ストリームを前記映像ストリーム選択手段により指示された映像ストリームに切り替える、
ことを特徴とする請求項1に記載のビデオ会議アプリケーションサーバ。
The GUI image generation means generates a GUI image for instructing the display terminal to switch the video stream transferred to the display terminal by the video stream transfer means to another video stream,
The video stream selection unit acquires switching information indicating that switching to the other video stream is instructed in the display terminal from the display terminal, and adds the video stream indicated by the acquired switching information to the display terminal. Instructing the video stream transfer means to switch the video stream to be transferred,
The video stream transfer means switches the video stream to be transferred to the display terminal to the video stream instructed by the video stream selection means.
The video conference application server according to claim 1.
前記GUI画像生成手段は、前記映像ストリーム転送手段によって転送される映像ストリームの各々ごとに転送のオンおよびオフを前記表示端末において指示するためのGUI画像を生成し、
前記映像ストリーム選択手段は、前記各映像ストリームに対応する転送のオンおよびオフを指示する指示情報を前記表示端末から取得し、取得した指示情報に基づいて前記表示端末への各映像ストリームの転送のオンおよびオフを前記映像ストリーム転送手段に指示し、
前記映像ストリーム転送手段は、前記映像ストリーム選択手段により転送をオンおよびオフにすることを指示された映像ストリームの転送を開始または中止する、
ことを特徴とする請求項1に記載のビデオ会議アプリケーションサーバ。
The GUI image generation means generates a GUI image for instructing the display terminal to turn on and off the transfer for each of the video streams transferred by the video stream transfer means,
The video stream selection means acquires instruction information for instructing on and off of transfer corresponding to each video stream from the display terminal, and transfers each video stream to the display terminal based on the acquired instruction information. Instructing the video stream transfer means to turn on and off;
The video stream transfer means starts or stops the transfer of the video stream instructed to turn on and off the transfer by the video stream selection means;
The video conference application server according to claim 1.
前記GUI画像生成手段は、前記映像ストリーム転送手段によって転送される映像ストリームのうち高い品質で表示されるべき映像ストリームを前記表示端末において選択するためのGUI画像を生成し、
前記映像ストリーム選択手段は、前記表示端末において高い品質で表示するように選択された映像ストリームを特定する情報を前記表示端末から取得し、前記表示端末から取得した情報により特定される映像ストリームを高い帯域幅を用いて転送することを前記映像ストリーム転送手段に指示し、
前記映像ストリーム転送手段は、前記映像ストリーム選択手段から指示された映像ストリームを前記高い帯域幅を用いて転送する、
ことを特徴とする請求項1に記載のビデオ会議アプリケーションサーバ。
The GUI image generation means generates a GUI image for selecting a video stream to be displayed with high quality among the video streams transferred by the video stream transfer means on the display terminal,
The video stream selection means acquires information specifying the video stream selected to be displayed with high quality on the display terminal from the display terminal, and the video stream specified by the information acquired from the display terminal is high. Instructing the video stream transfer means to transfer using bandwidth,
The video stream transfer means transfers the video stream instructed from the video stream selection means using the high bandwidth.
The video conference application server according to claim 1.
前記ネットワーク上に存在する、前記表示端末と異なる他の表示端末を検出する表示端末検出手段をさらに備え、
前記GUI画像生成手段は、前記表示端末検出手段により検出された前記他の表示端末のうちのいずれか1つを前記表示端末において選択するための第2のGUI画像を生成し、
前記GUI画像送信手段は、前記GUI画像生成手段により生成された第2のGUI画像を前記表示端末に送信し、
前記映像ストリーム選択手段は、前記表示端末において選択された他の表示端末を特定する端末特定情報を前記表示端末から取得し、
前記映像ストリーム数取得手段は、前記端末特定情報により特定される特定表示端末により処理可能な映像ストリームの数を表す映像ストリーム数情報を前記特定表示端末から取得し、
前記映像ストリーム選択手段は、前記表示端末へ転送されていた前記映像ストリームの転送の停止を前記映像ストリーム転送手段に指示し、また、前記特定表示端末から取得された映像ストリーム数情報に示される映像ストリーム数以下の映像ストリームを前記映像ストリーム受信手段によって受信される映像ストリームから選択し、
前記映像ストリーム転送手段は、前記表示端末へ転送していた前記映像ストリームの転送を停止し、前記映像ストリーム選択手段により前記特定表示端末に対して選択された映像ストリームを前記特定表示端末に転送する、
ことを特徴とする請求項1ないし5のいずれか一項に記載のビデオ会議アプリケーションサーバ。
A display terminal detecting means for detecting another display terminal different from the display terminal present on the network;
The GUI image generation means generates a second GUI image for selecting any one of the other display terminals detected by the display terminal detection means on the display terminal,
The GUI image transmitting means transmits the second GUI image generated by the GUI image generating means to the display terminal,
The video stream selection means acquires terminal specifying information for specifying another display terminal selected in the display terminal from the display terminal,
The video stream number acquisition means acquires, from the specific display terminal, video stream number information representing the number of video streams that can be processed by the specific display terminal specified by the terminal specifying information,
The video stream selection unit instructs the video stream transfer unit to stop the transfer of the video stream that has been transferred to the display terminal, and the video stream number information acquired from the specific display terminal A video stream equal to or less than the number of streams is selected from the video streams received by the video stream receiving means;
The video stream transfer unit stops the transfer of the video stream transferred to the display terminal, and transfers the video stream selected for the specific display terminal by the video stream selection unit to the specific display terminal. ,
The video conference application server according to any one of claims 1 to 5, wherein
前記ネットワーク上に存在する、前記表示端末と異なる他の表示端末を検出する表示端末検出手段をさらに備え、
前記GUI画像生成手段は、前記表示端末検出手段により検出された前記他の表示端末のうち少なくとも1つを前記表示端末において選択するための第3のGUI画像を生成し、
前記GUI画像送信手段は、前記GUI画像生成手段により生成された第3のGUI画像を前記表示端末に送信し、
前記映像ストリーム選択手段は、前記表示端末において選択された他の表示端末を特定する端末特定情報を前記表示端末から取得し、
前記映像ストリーム数取得手段は、前記端末特定情報によって特定される特定表示端末により処理可能な映像ストリームの数を表す映像ストリーム数情報を前記特定表示端末から取得し、
前記映像ストリーム選択手段は、前記特定表示端末から取得された映像ストリーム数情報に示される映像ストリーム数以下の映像ストリームを、前記映像ストリーム受信手段によって受信される映像ストリームから選択し、
前記映像ストリーム転送手段は、前記映像ストリーム選択手段によって前記特定表示端末に対して選択された映像ストリームを前記特定表示端末に転送する、
ことを特徴とする請求項1ないし5のいずれか一項に記載のビデオ会議アプリケーションサーバ。
A display terminal detecting means for detecting another display terminal different from the display terminal present on the network;
The GUI image generation means generates a third GUI image for selecting at least one of the other display terminals detected by the display terminal detection means on the display terminal,
The GUI image transmitting means transmits a third GUI image generated by the GUI image generating means to the display terminal,
The video stream selection means acquires terminal specifying information for specifying another display terminal selected in the display terminal from the display terminal,
The video stream number acquisition means acquires, from the specific display terminal, video stream number information representing the number of video streams that can be processed by the specific display terminal specified by the terminal specifying information,
The video stream selection means selects a video stream equal to or less than the number of video streams indicated in the video stream number information acquired from the specific display terminal from the video streams received by the video stream reception means,
The video stream transfer means transfers the video stream selected for the specific display terminal by the video stream selection means to the specific display terminal;
The video conference application server according to any one of claims 1 to 5, wherein
前記GUI画像生成手段は、前記表示端末および前記特定表示端末にそれぞれ転送するべき映像ストリームを、前記表示端末および前記特定表示端末の各々から取得された映像ストリーム数情報に示される映像ストリーム数以下の範囲内で選択するための第4のGUI画像を生成し、
前記GUI画像送信手段は、前記GUI画像生成手段により生成された第4のGUI画像を、前記表示端末または前記特定表示端末のうちの1つの端末に送信し、
前記映像ストリーム選択手段は、前記1つの端末において、前記表示端末および前記特定表示端末にそれぞれ転送するよう選択された映像ストリームを表す端末別ストリーム情報を前記1つの端末から取得し、取得した端末別ストリーム情報に基づいて前記表示端末および前記特定表示端末にそれぞれ転送する映像ストリームを選択する、
ことを特徴とする請求項7に記載のビデオ会議アプリケーションサーバ。
The GUI image generation means has a video stream to be transferred to the display terminal and the specific display terminal, which is equal to or less than the number of video streams indicated in the video stream number information acquired from each of the display terminal and the specific display terminal. Generate a fourth GUI image to select within the range,
The GUI image transmitting unit transmits the fourth GUI image generated by the GUI image generating unit to one of the display terminal and the specific display terminal,
The video stream selection unit acquires, from the one terminal, terminal-specific stream information representing a video stream selected to be transferred to the display terminal and the specific display terminal, respectively. Selecting video streams to be respectively transferred to the display terminal and the specific display terminal based on stream information;
The video conferencing application server according to claim 7.
ネットワーク上に存在する映像を撮像するカメラおよび映像を表示する表示端末を用いて、複数のビデオ会議端末とネットワークを介してビデオ会議を行うビデオ会議方法であって、
前記カメラおよび前記複数のビデオ会議端末から前記ネットワークを介して送られてくる映像ストリームを受信する映像ストリーム受信ステップと、
前記表示端末により処理可能な映像ストリームの数を表す映像ストリーム数情報を前記表示端末から取得する映像ストリーム数取得ステップと、
前記映像ストリーム数情報に示される前記映像ストリーム数以下の映像ストリームを、前記映像ストリーム受信ステップにより受信された映像ストリームから選択する映像ストリーム選択ステップと、
前記映像ストリーム選択ステップにより選択された映像ストリームを前記表示端末に転送し、前記映像ストリーム受信ステップにおいて前記カメラから受信された映像ストリームを前記複数のビデオ会議端末に転送する映像ストリーム転送ステップと、
前記映像ストリーム数情報に示される前記映像ストリーム数にしたがって、前記表示端末において表示される映像ストリームを制御するためのGUI(Graphical User Interface)画像を生成するGUI画像生成ステップと、
前記GUI画像生成ステップにより生成されたGUI画像を前記表示端末に送信するGUI画像送信ステップと、
を備えたビデオ会議方法。
A video conferencing method for performing a video conference via a network with a plurality of video conferencing terminals using a camera that captures images existing on a network and a display terminal that displays the images,
A video stream receiving step of receiving a video stream sent from the camera and the plurality of video conference terminals via the network;
Video stream number acquisition step for acquiring video stream number information representing the number of video streams that can be processed by the display terminal from the display terminal;
A video stream selection step of selecting video streams equal to or less than the number of video streams indicated in the video stream number information from the video streams received by the video stream reception step;
Transferring the video stream selected in the video stream selecting step to the display terminal, and transferring the video stream received from the camera in the video stream receiving step to the plurality of video conference terminals;
A GUI image generating step for generating a GUI (Graphical User Interface) image for controlling the video stream displayed on the display terminal according to the video stream number indicated in the video stream number information;
A GUI image transmission step of transmitting the GUI image generated by the GUI image generation step to the display terminal;
Video conferencing method.
ネットワーク上に存在する映像を撮像するカメラおよび映像を表示する表示端末を用いて、複数のビデオ会議端末と前記ネットワークを介してビデオ会議を行うコンピュータに、
前記カメラおよび前記複数のビデオ会議端末から前記ネットワークを介して送られてくる映像ストリームを受信する映像ストリーム受信ステップと、
前記表示端末により処理可能な映像ストリームの数を表す映像ストリーム数情報を前記表示端末から取得する映像ストリーム数取得ステップと、
前記映像ストリーム数情報に示される映像ストリーム数以下の映像ストリームを、前記映像ストリーム受信ステップにより受信された映像ストリームから選択する映像ストリーム選択ステップと、
前記映像ストリーム選択ステップにより選択された映像ストリームを前記表示端末に転送し、また前記映像ストリーム受信ステップにおいて前記カメラから受信された映像ストリームを前記複数のビデオ会議端末に転送する映像ストリーム転送ステップと、
前記映像ストリーム数情報に示される前記映像ストリーム数にしたがって、前記表示端末において表示される映像ストリームを制御するためのGUI(Graphical User Interface)画像を生成するGUI画像生成ステップと、
前記GUI画像生成ステップにより生成されたGUI画像を前記表示端末に送信するGUI画像送信ステップと、
を実行させるためのプログラム。
Using a camera that captures an image on a network and a display terminal that displays the image, a computer that performs a video conference via the network with a plurality of video conference terminals,
A video stream receiving step of receiving a video stream sent from the camera and the plurality of video conference terminals via the network;
Video stream number acquisition step for acquiring video stream number information representing the number of video streams that can be processed by the display terminal from the display terminal;
A video stream selection step of selecting a video stream equal to or less than the number of video streams indicated in the video stream number information from the video stream received by the video stream reception step;
Transferring the video stream selected in the video stream selection step to the display terminal, and transferring the video stream received from the camera in the video stream receiving step to the plurality of video conference terminals;
A GUI image generating step for generating a GUI (Graphical User Interface) image for controlling the video stream displayed on the display terminal according to the video stream number indicated in the video stream number information;
A GUI image transmission step of transmitting the GUI image generated by the GUI image generation step to the display terminal;
A program for running
JP2007193659A 2007-07-25 2007-07-25 Video conference application server, and video conference method, and program Pending JP2009033348A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007193659A JP2009033348A (en) 2007-07-25 2007-07-25 Video conference application server, and video conference method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007193659A JP2009033348A (en) 2007-07-25 2007-07-25 Video conference application server, and video conference method, and program

Publications (1)

Publication Number Publication Date
JP2009033348A true JP2009033348A (en) 2009-02-12

Family

ID=40403381

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007193659A Pending JP2009033348A (en) 2007-07-25 2007-07-25 Video conference application server, and video conference method, and program

Country Status (1)

Country Link
JP (1) JP2009033348A (en)

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101933337B (en) * 2009-02-19 2012-10-31 松下电器产业株式会社 Reproduction device and recording method
JP2014503877A (en) * 2010-11-19 2014-02-13 クアルコム,インコーポレイテッド Selective formatting of media during group communication sessions
JP2014508995A (en) * 2011-01-21 2014-04-10 クゥアルコム・インコーポレイテッド User input back channel for wireless display
US8964783B2 (en) 2011-01-21 2015-02-24 Qualcomm Incorporated User input back channel for wireless displays
US9065876B2 (en) 2011-01-21 2015-06-23 Qualcomm Incorporated User input back channel from a wireless sink device to a wireless source device for multi-touch gesture wireless displays
US9198084B2 (en) 2006-05-26 2015-11-24 Qualcomm Incorporated Wireless architecture for a traditional wire-based protocol
US9264248B2 (en) 2009-07-02 2016-02-16 Qualcomm Incorporated System and method for avoiding and resolving conflicts in a wireless mobile display digital interface multicast environment
JP2016057714A (en) * 2014-09-05 2016-04-21 村田機械株式会社 Electronic conference system
US9398089B2 (en) 2008-12-11 2016-07-19 Qualcomm Incorporated Dynamic resource sharing among multiple wireless devices
JP2016134902A (en) * 2015-01-22 2016-07-25 株式会社リコー Transmission management system, communication method, and program
US9413803B2 (en) 2011-01-21 2016-08-09 Qualcomm Incorporated User input back channel for wireless displays
US9503771B2 (en) 2011-02-04 2016-11-22 Qualcomm Incorporated Low latency wireless display for graphics
US9525998B2 (en) 2012-01-06 2016-12-20 Qualcomm Incorporated Wireless display with multiscreen service
US9582238B2 (en) 2009-12-14 2017-02-28 Qualcomm Incorporated Decomposed multi-stream (DMS) techniques for video display systems
US9582239B2 (en) 2011-01-21 2017-02-28 Qualcomm Incorporated User input back channel for wireless displays
WO2017163513A1 (en) * 2016-03-23 2017-09-28 日本電気株式会社 Information processing terminal, wristwatch terminal, and control method and control program for said information processing terminal and said wristwatch terminal
US9787725B2 (en) 2011-01-21 2017-10-10 Qualcomm Incorporated User input back channel for wireless displays
JP2017228843A (en) * 2016-06-20 2017-12-28 株式会社リコー Communication terminal, communication system, communication control method, and program
US10108386B2 (en) 2011-02-04 2018-10-23 Qualcomm Incorporated Content provisioning for wireless back channel
US10135900B2 (en) 2011-01-21 2018-11-20 Qualcomm Incorporated User input back channel for wireless displays
JP2019110603A (en) * 2014-03-31 2019-07-04 株式会社リコー Transmission terminal, program, transmission method, and transmission system
WO2023011408A1 (en) * 2021-08-03 2023-02-09 华为技术有限公司 Multi-window video communication method, device and system

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9198084B2 (en) 2006-05-26 2015-11-24 Qualcomm Incorporated Wireless architecture for a traditional wire-based protocol
US9398089B2 (en) 2008-12-11 2016-07-19 Qualcomm Incorporated Dynamic resource sharing among multiple wireless devices
CN101933337B (en) * 2009-02-19 2012-10-31 松下电器产业株式会社 Reproduction device and recording method
US9264248B2 (en) 2009-07-02 2016-02-16 Qualcomm Incorporated System and method for avoiding and resolving conflicts in a wireless mobile display digital interface multicast environment
US9582238B2 (en) 2009-12-14 2017-02-28 Qualcomm Incorporated Decomposed multi-stream (DMS) techniques for video display systems
JP2014503877A (en) * 2010-11-19 2014-02-13 クアルコム,インコーポレイテッド Selective formatting of media during group communication sessions
US9084079B2 (en) 2010-11-19 2015-07-14 Qualcomm Incorporated Selectively formatting media during a group communication session
US9787725B2 (en) 2011-01-21 2017-10-10 Qualcomm Incorporated User input back channel for wireless displays
JP2014508995A (en) * 2011-01-21 2014-04-10 クゥアルコム・インコーポレイテッド User input back channel for wireless display
US9065876B2 (en) 2011-01-21 2015-06-23 Qualcomm Incorporated User input back channel from a wireless sink device to a wireless source device for multi-touch gesture wireless displays
US10911498B2 (en) 2011-01-21 2021-02-02 Qualcomm Incorporated User input back channel for wireless displays
US9413803B2 (en) 2011-01-21 2016-08-09 Qualcomm Incorporated User input back channel for wireless displays
US10382494B2 (en) 2011-01-21 2019-08-13 Qualcomm Incorporated User input back channel for wireless displays
US10135900B2 (en) 2011-01-21 2018-11-20 Qualcomm Incorporated User input back channel for wireless displays
US8964783B2 (en) 2011-01-21 2015-02-24 Qualcomm Incorporated User input back channel for wireless displays
US9582239B2 (en) 2011-01-21 2017-02-28 Qualcomm Incorporated User input back channel for wireless displays
US9723359B2 (en) 2011-02-04 2017-08-01 Qualcomm Incorporated Low latency wireless display for graphics
US10108386B2 (en) 2011-02-04 2018-10-23 Qualcomm Incorporated Content provisioning for wireless back channel
US9503771B2 (en) 2011-02-04 2016-11-22 Qualcomm Incorporated Low latency wireless display for graphics
US9525998B2 (en) 2012-01-06 2016-12-20 Qualcomm Incorporated Wireless display with multiscreen service
JP2019110603A (en) * 2014-03-31 2019-07-04 株式会社リコー Transmission terminal, program, transmission method, and transmission system
JP2016057714A (en) * 2014-09-05 2016-04-21 村田機械株式会社 Electronic conference system
JP2016134902A (en) * 2015-01-22 2016-07-25 株式会社リコー Transmission management system, communication method, and program
WO2017163513A1 (en) * 2016-03-23 2017-09-28 日本電気株式会社 Information processing terminal, wristwatch terminal, and control method and control program for said information processing terminal and said wristwatch terminal
JP2017228843A (en) * 2016-06-20 2017-12-28 株式会社リコー Communication terminal, communication system, communication control method, and program
WO2023011408A1 (en) * 2021-08-03 2023-02-09 华为技术有限公司 Multi-window video communication method, device and system

Similar Documents

Publication Publication Date Title
JP2009033348A (en) Video conference application server, and video conference method, and program
TWI536855B (en) Content sharing method and device
JP5903835B2 (en) Transmission terminal, image display control method, image display control program, recording medium, and transmission system
JP5887756B2 (en) External input device, communication terminal, display data sharing system, program
US9596431B2 (en) Transmission system and program
JP6111753B2 (en) Information processing device, transmission system, program
US8717399B2 (en) Processing video communication data
JP2014179878A (en) Transmitter, receiver, communication system and program
EP3253066B1 (en) Information processing device
WO2018084033A1 (en) Shared device, operation control program, and operation control method
JP4807927B2 (en) Communication relay device
JP2015095686A (en) Imaging apparatus, imaging system, control method of imaging apparatus, control method of imaging system and program
JP2016167657A (en) Transmission management system, transmission system, transmission management method and program
JP2010056966A (en) Server for transmitting image content, image display device, method of transmitting image content, and method of displaying image
EP3038391B1 (en) Communication management system, communication terminal, communication system, communication control method, and carrier means
JP6515436B2 (en) Transmission system, transmission terminal, and program
JP4628305B2 (en) Display device selection method, display device selection system, and display device selection program
JP2012194703A (en) Output control system, terminal device, output control method, and output control program
JP2005277593A (en) Radio terminal unit, and service search method
JP2016143954A (en) Radio communication device and radio communication method
JP2011077583A (en) Communication apparatus, communication method, and communication program
JP4814637B2 (en) Network system and communication destination distribution device
JP2004318207A (en) Information processor, information processing program, and recording medium
JP6269781B2 (en) Transmission system
JP2017038251A (en) Transmission management system, transmission system, relay device determination method, and program