JP2004343175A - 映像中継装置 - Google Patents
映像中継装置 Download PDFInfo
- Publication number
- JP2004343175A JP2004343175A JP2003134021A JP2003134021A JP2004343175A JP 2004343175 A JP2004343175 A JP 2004343175A JP 2003134021 A JP2003134021 A JP 2003134021A JP 2003134021 A JP2003134021 A JP 2003134021A JP 2004343175 A JP2004343175 A JP 2004343175A
- Authority
- JP
- Japan
- Prior art keywords
- video
- server
- camera
- mobile phone
- phone terminal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Telephonic Communication Services (AREA)
- Studio Devices (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
【課題】ネットワーク上からソース映像データを取得し、携帯電話端末等の携帯情報端末向けに適切に提供可能とする。
【解決手段】ネットワーク9上に配置されたカメラサーバ1から送られるライブ映像を、映像変換サーバ5を介して携帯電話端末7向けに変換して中継する映像通信システムにあって、映像変換サーバ5が携帯電話端末7から映像クリップを要求される際に、併せてカメラサーバ1に接続されたカメラ装置(撮像装置)の操作(パン、チルト、ズーム、逆光補正、プリセット指定等)を指示するカメラ制御シーケンスを受取るとともに、そのPTZシーケンスに従って、カメラサーバ1を操作して取得した映像情報を携帯電話端末7向けに変換して、その変換後の映像情報を適切な映像クリップに分割した上で、携帯電話端末7向けに提供する。
【選択図】 図1
【解決手段】ネットワーク9上に配置されたカメラサーバ1から送られるライブ映像を、映像変換サーバ5を介して携帯電話端末7向けに変換して中継する映像通信システムにあって、映像変換サーバ5が携帯電話端末7から映像クリップを要求される際に、併せてカメラサーバ1に接続されたカメラ装置(撮像装置)の操作(パン、チルト、ズーム、逆光補正、プリセット指定等)を指示するカメラ制御シーケンスを受取るとともに、そのPTZシーケンスに従って、カメラサーバ1を操作して取得した映像情報を携帯電話端末7向けに変換して、その変換後の映像情報を適切な映像クリップに分割した上で、携帯電話端末7向けに提供する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、例えばインターネット上のカメラサーバからソース映像データを取得して、携帯電話端末等の携帯情報端末向けに配信するのに好適な映像中継装置に関する。
【0002】
【従来の技術】
映像データを配信する既存の映像配信技術としては、以下に述べるようなものが知られている。
[ライブ映像通信システム]
撮影したライブ映像を、インターネット等の通信インフラストラクチャを使って配信するとともに、撮影のためのカメラ設定やカメラ操作等を指示する技術が確立され、製品が販売されている。例えば、キヤノン社の映像配信システムWebView/Livescope、及び、同社のライブネットワークカメラサーバVB101、サーバ内蔵型ネットワークカメラVB−C10等である。
【0003】
キヤノン社の映像配信システムWebView/Livescope、及び、同社のライブネットワークカメラサーバVB101等では、映像配信に加えて、パン、チルト、ズーム、逆光補正といったカメラ制御をネットワークを介して提供可能となっている。また、カメラ制御による可視範囲に相当するパノラマ画像を生成する機能を備えている。これらの技術は、特許文献1、2等に開示されている。
【0004】
[第三世代携帯電話技術]
従来の携帯電話サービスよりも高い電波利用効率と通信帯域を備えた携帯電話サービスとして、第三世代(3G)の携帯電話サービスが提供されるようになっている。例えば、NTTドコモ社の第三世代(3G)携帯電話サービスFOMA(R)が知られている。第三世代(3G)の携帯電話では、電話通話しながらインターネットアクセス等のデータ通信が可能である、例えばインターネット上の画像データにアクセスしながら通話することができる。NTTドコモ社によるFOMA(R)サービスでは、マルチアクセスと呼ばれる接続形態を用意しており、これを利用することで、ウェブブラウジング等のデータ通信を行いながら電話通話を可能にしている。
【0005】
さらに、第三世代携帯電話端末では、端末自体の処理能力も強化されており、これまでパーソナルコンピュータ等で行っていた作業を携帯電話端末で処理可能になっている。例えば、メールやウェブブラウジング及び映像送受信等の機能を実装している携帯電話端末が提供されている。
【0006】
また、3G−PP(Third Generation Partnership Project)では、第三世代携帯電話向けの映像伝送規格として、3G−324M(回線交換用)等を策定して、携帯電話向け映像伝送技術の標準化を図っている。
【0007】
[MPEG−4コーデック]
移動体通信網に接続する携帯情報端末から広帯域インターネットに接続するパーソナルコンピュータまでの映像送受信端末の広がりを受けて、数十kpbsから数十Mbpsの広いビットレートをカバーする高圧縮符号化効率、及び、無線やインターネット等の伝送路誤りに対する強い耐性等を備えた動画像圧縮符号化方式として、ISOで1999年にMPEG−4が制定されている。
【0008】
また、MPEG−4を用いた映像配信サービスが、個人情報端末PDAや携帯電話端末向けに提供されている。例えば、NTTドコモ社の第三世代(3G)携帯電話サービスFOMA(R)では、携帯電話端末(ビジュアル端末)間でMPEG−4を用いて相互に映像を送受信するサービスを提供している。
【0009】
[RTP/RTCP]
ネットワーク上で、リアルタイムに情報(特に映像や音声等を想定している)を受渡しするアプリケーションのための伝送用プロトコルとして、RTP(Real−time Transport Protocol)が、IETFによってRFC1889 ”RTP: ATransport Protocol for Real−Time Applications”として勧告されている。RTPでは、情報を受渡しする端末のタイムスタンプを使って、通信路の状態を観察し、適切な状態で情報を受渡しできるよう調整する仕組みが盛り込まれている。
【0010】
[RTSP]
RTSP(Real−time Streaming Protocol)が、IETFによってRFC2326”Real Time Streaming Protocol (RTSP)”として勧告されている。リアルタイムに情報を伝送するに際して、RTPがサーバからクライアントへ一方向にブロードキャスト(或いはマルチキャスト)することを想定しているのに対して、RTSPではサーバとクライアント間でユニキャストかつ双方向の伝送を想定している。つまり、RTSPでは、ビューアがサーバと交信し、映像コンテンツ等を巻き戻したり、別のチャプタへスキップしたりすること等が可能となっている。
【0011】
さらに、RTSPでは、伝送レイヤーでRTP等を利用してリアルタイムに情報(特に映像や音声等を想定している)を受渡しするアプリケーションのための制御用プロトコルとして利用されることもある。
【0012】
[携帯電話向け映像クリップサービス]
携帯電話端末に映像クリップ(ファイル)を表示する技術が提供されるようになってきている。例えば、NTTドコモ社のiモーション(R)やKDDI社のezmovie(R)等がある。これらのサービスでは、MPEG−4コーデック等で圧縮符号化された映像データをサーバに保存し、携帯電話端末に内蔵するデータ通信機能を使ってサーバからダウンロードした上で、同じく携帯電話端末に内蔵するデコーダを使って映像を携帯電話端末の画面に表示する。なお、これらのサービスでは、いずれも映像クリップの上限が決められており、例えばKDDI社のezmovie(R)の場合、240kbytesが上限となっている。
【0013】
【特許文献1】
特開平10−42185号公報
【特許文献2】
特開2001−218194号公報
【0014】
【発明が解決しようとする課題】
しかしながら、携帯電話端末を使ったライブ映像通信システムのカメラ操作は、携帯電話端末の入力デバイスの制約から自由度が少ないという問題がある。
【0015】
さらに、携帯電話向け映像クリップサービスでは、ダウンロード可能な映像クリップサイズに上限が設けられているという問題がある。
【0016】
さらに、携帯電話端末を利用したデータ通信では、通信セッションのオーバヘッドが大きいため、細かい通信セッションの多用は通信全体のコストを引き上げるという問題がある。
【0017】
本発明は上記のような問題に鑑みなされたものであり、ネットワーク上からソース映像データを取得し、携帯電話端末等の携帯情報端末向けに適切に提供可能とすることを目的とする。
【0018】
【課題を解決するための手段】
本発明の映像中継装置は、ネットワークに接続される映像中継装置であって、上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手段と、上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換手段と、上記変換後の映像データを送信する映像送信手段とを備える点に特徴を有する。
【0019】
【発明の実施の形態】
以下、図面を参照して、本発明の実施の形態を説明する。
(第1の実施形態)
図1は、本実施形態によるライブ映像通信システムの全体構成を示す。同図において、1はカメラサーバ、3はビューワがインストールされたパーソナルコンピュータPC、4は中継サーバ、5は映像変換サーバ、6はネットワーク9と携帯電話回線網10とを仲介するゲートウェイ、7はビューワが搭載された携帯電話端末である。また、9はネットワーク、10は携帯電話回線網であり、これらネットワーク9に接続された各機器1〜5と携帯電話回線網10を利用する携帯電話端末7とはゲートウェイ6を介して通信可能となる。
【0020】
PC3のビューワからネットワーク9を介してリクエストがカメラサーバ1へ送られ、これが受け入れられると、カメラサーバ1からPC3のビューワへ映像データが配送され、カメラ映像を表示することが可能となる。また、PC3のビューワからカメラ制御コマンドがカメラサーバ1へ送られ、カメラ装置のズーム、パン、チルト等の操作が可能となる。ネットワーク9上の中継サーバ4は、PC3のビューワとカメラサーバ1との通信を中継することがある。
【0021】
また、映像変換サーバ5は、カメラサーバ1が提供する映像データを携帯電話端末向けに変換した上で、携帯電話端末7向けに中継する。なお、携帯電話端末7上のビューワプログラムは、典型的には工場出荷時にインストールされるが、Java(R)プログラムのように実行時(利用時)にダウンロードされて実行される形態であっても良い。
【0022】
ネットワーク9は、企業や組織内で運用されるイントラネットである場合もあり、広く世界をつないでいるインターネットである場合もある。また、中継サーバ4や映像変換サーバ5は、典型的にはインターネットイクスチェンジ(IX)やデータセンター(IDC : Internet Data Center)に配置され、通信負荷の軽減を図るよう設計される。
【0023】
このようにしたライブ映像通信システムでは、ネットワーク9上に配置されたカメラサーバ1から送られるライブ映像を、映像変換サーバ5を介して携帯電話端末7向けに変換して中継することができる。映像の変換と中継を行う映像変換サーバ5が携帯電話端末7から映像クリップを要求される際に、(1)併せてカメラサーバ1に接続されたカメラ装置(撮像装置)の操作(パン、チルト、ズーム、逆光補正、プリセット指定等)を指示するカメラ制御シーケンス(以下、「PTZシーケンス」と称する)を受取る点、及び、(2)そのPTZシーケンスに従って、カメラサーバ1を操作して取得した映像情報を携帯電話端末7向けに変換して、その変換後の映像情報を適切な映像クリップに分割した上で、携帯電話端末7向けに提供する点に特徴がある。
【0024】
図2は映像変換サーバ5のハードウェア構成の一例を示すものであり、サーバ向けコンピュータ、より詳細にはプログラムやデータを格納する記憶装置、ネットワーク9と接続するためのネットワークI/F201、プログラムによる各種の処理を実行するCPU202等により構成される。記憶装置は、主記憶装置となるRAM203、フラッシュメモリやHD装置等からなる二次記憶装置204、及びプログラムを媒体からロードするためのFD装置205等により構成される。また、図示しないが、設定等を行うための入出力装置、具体的にはディスプレイを接続する表示装置、キーボードやマウス等のコントローラ等を備えることもある。
【0025】
図3はカメラサーバ1のハードウェア構成の一例を示すものであり、実際に撮像を行うカメラ装置301と、コンピュータ、より詳細にはプログラムやデータを格納する記憶装置、映像データを取り込むための映像キャプチャボード302、カメラ装置301にコマンドを送るためのシリアルI/F303、ネットワーク9と接続するためのネットワークI/F304、プログラムによる各種の処理を実行するCPU305等により構成される。記憶装置は、主記憶装置となるRAM306、フラッシュメモリやHD装置等からなる二次記憶装置307、及びプログラムを媒体からロードするためのFD装置308等により構成される。また、図示しないが、設定等を行うための入出力装置、具体的にはディスプレイを接続する表示装置、キーボードやマウス等のコントローラ等を備えることもある。なお、図示しないが、カメラサーバ1は、カメラ装置301とコンピュータとが一体化されたサーバ内蔵型ネットワークカメラで構成されても良い。
【0026】
図4はビューワを動作させる携帯電話端末7のハードウェア構成の一例を示すものであり、より詳細にはプログラムやデータを格納する記憶装置401、携帯電話回線網10と接続するための無線通信I/F402、プログラムによる各種の処理を実行するCPU403、周辺装置、及び周辺装置のコントローラ404、405等により構成される。記憶装置は、主記憶装置となるRAM、フラッシュメモリ等からなる。また、周辺装置は、携帯電話端末上に配置されたボタン類406やスイッチ類407等の入力装置、ディスプレイ等の表示出力装置408、及びマイクロフォンやスピーカ等の音声入出力装置409を含む。
【0027】
図5はプログラムの構成する部分を模式化した図であり、カメラサーバ1には、カメラ装置の制御をつかさどるカメラ制御サーバ501と、映像の配送をつかさどる映像サーバ502の2つのモジュールを含む。また、携帯電話端末7上で動作するビューワには、PTZシーケンスからなるカメラ制御コマンドの発行やカメラ状態通知に対応するカメラ制御部503、映像クリップの表示を担当する映像表示部504を含む。さらに、映像変換サーバ5には、PTZシーケンスからなるカメラ制御コマンド列を解釈し、カメラサーバ1にカメラ制御命令を発行するカメラ制御部505、カメラサーバ1から映像を取得し、携帯電話端末向けに変換し、さらに、それを携帯電話網向け映像クリップに編集するモジュール(映像取得部506、映像変換部507、映像送信部508)がそれぞれ含まれる。
【0028】
図6は携帯電話端末7上のビューワによる処理動作の流れを示すフローチャートである。ステップS601では、まず映像変換サーバ5の識別子を入手する。これは、ユーザが直接キー操作により識別子を入力するものであっても良いし、メールやウェブページに含まれる識別子を選択するのであっても良い。また、この場合の識別子は、典型的には映像変換サーバ5を識別するURLである。
【0029】
ステップS602では、映像変換サーバ5が接続すべきカメラサーバ1の識別子、及び、そのカメラサーバ1に指示するカメラ制御用のPTZシーケンスを入手する。カメラサーバ識別子やPTZシーケンスは、ユーザが直接キー操作によりカメラ制御コマンドを構成するよう入力するものであっても良いし、メールやウェブページに含まれるカメラサーバ識別子やPTZシーケンスを選択するものであっても良い。また、PTZシーケンスは空であっても構わない。この場合、カメラ制御を伴わないカメラサーバ1の現状の映像クリップを意味する。
【0030】
ステップS603では、ゲートウェイ6を経由して、上記ステップSにて入手した映像変換サーバ5の識別子に基づき映像変換サーバ5の映像送信部508に接続する。
【0031】
さらにステップS604では、映像変換サーバ5に映像クリップを要求する。この要求は、要求する映像クリップの作成方法の指定等を含み、典型的にはHTTPプロトコルに則り送信される。この際、上記ステップS602にてPTZシーケンスを入手している場合には、そのPTZシーケンスを映像変換サーバ5に送信する。この要求及びPTZシーケンスの送信は、HTTP接続のGETメソッドでURLに組み込んでも良いし、HTTP接続のPOSTメソッドで送信されても良い。ここでは、POSTメソッドで送信される場合について説明する。例えば、以下の通りである。なお、実際には、URLエンコードが適用されるが、以下では、説明の都合上URLエンコードを適用していない部分もある。
POST /getvideoclip/ HTTP/1.1
Host: 202.28.30.208:8080
User−Agent: MobilePhone/2.0 C2101V(c100)
Pragma: no−cache
videoencodeparam=QCIF:fps15.0:bps64000:intraframe5:me8
cameraservers=webview://vb101_4.x−zone.canon.co.jp:34560+34561+34562
PTZ=HZ15_30S3_40S4_40P−10_20
moviesizemax=240kbytes
notifyto=mailto:riyousha3@mailserver.usersite.co.jp
【0032】
ただし、『videoencodeparam=』に続く部分は、映像変換サーバ5がカメラサーバ1から受取ったソース映像を携帯電話向けにエンコードする際のパラメータ情報を指示するものである。また、『cameraservers=』に続く部分は、映像変換サーバ5が接続するカメラサーバ1を指定している。また、『PTZ=』に続く部分は、映像変換サーバ5がカメラサーバ1に関して実行すべきカメラ制御のコマンドを並べたPTZシーケンスを指定している。また、『moviesizemax=』に続く部分は、携帯電話端末7或いは携帯電話網10が規定する映像クリップの最大サイズを指定している。また、『notifyto=』に続く部分は、映像クリップ作成時に通知すべき連絡先であり、典型的には携帯電話端末ユーザのメールアドレスを指定する。
【0033】
この中で、PTZシーケンスの構成要素は、以下のような意味を持つ。nは数値データ(正負あり)である。
Pn パン(水平方向カメラ制御)指定
Tn チルト(垂直方向カメラ制御)指定
Zn ズーム指定
Bn 逆光補正(逆光補正のON/OFF)
H ホームポジション指定
Sn プリセット位置指定(n番目のプリセット位置)
Cn カメラサーバ接続切換え指定(n番目のカメラサーバ)
Kn カメラサーバ内カメラ切換え指定(n番目のカメラ)
n 時間経過指定(0.1秒単位)
【0034】
ステップS605では、映像変換サーバ5からのレスポンスを待つ。ステップS606では、映像変換サーバ5から受取ったレスポンスを解釈して携帯電話端末7の表示装置に表示する。例えば、図15(a)に示す通りである。もし、映像変換サーバ5からのレスポンスが、何らかの理由からすぐに映像を生成できないことを示す内容であった場合には、ステップS607に進む。逆に、すぐに映像を生成できたことを示す内容であった場合には、ステップS608に進む。
【0035】
ステップS607では、映像変換サーバ5からのメール通知を待受ける。メール通知は、例えばSMTP(Simple Mail Transfer Protocol)によるが、SMS(Short Message Service)であってもよい。メール通知を受取った場合には、その内容を映像変換サーバ5からのレスポンスとして表示し、ステップS608に進む。例えば、図15(b)に示す通りである。
【0036】
ステップS608では、レスポンスに含まれる映像クリップの一つを選択し、ダウンロードして再生表示する。例えば、図15(c)に示す通りである。ここでは、ダウンロードしているが、映像クリップの再生表示処理は、ダウンロードの終了を待たず、再生表示処理を開始しても良い。
【0037】
図7はカメラサーバ1内のカメラ制御サーバ501による処理動作の流れを示すフローチャートである。カメラ制御サーバ501は、まず起動時にステップS701で特定のファイル(OSによってはレジストリ等のシステムデータベース)からカメラ制御サーバの動作設定情報を読み出して、それに基づき動作を開始する。ここで、クライアントであるビューワプログラムや映像変換サーバ5からのリクエストを受け付けるポートを開き、続いてステップS702のリクエスト受付状態に入る。
【0038】
リクエスト(接続リクエストもしくは操作コマンドリクエスト)が受け付けられたら、ステップS702を抜け、接続リクエストならばステップS703で接続の可否の判定を行う。否ならば接続拒否のエラーコードを返し、ステップS702に戻る。可ならば、ステップS704で接続処理として、クライアントからのコマンドの受付処理を行うスレッドを生成し、クライアントの登録を行ってから、ステップS702に戻る。
【0039】
生成されたスレッドでは、ステップS707で対応するクライアントからのコマンドの受付を行う。コマンドが届いたならば、それを受け付け、カメラ操作を行う主プログラムへ受け渡す。主プログラムはステップS702でこれを受け、操作コマンドに対してはステップS705へ進み、カメラ操作を行って、その結果(操作が成功か失敗かを示すコード等)をカメラ操作要求を受け付けたクライアント対応のスレッドへ伝える。このクライアント対応のスレッドはステップS708で結果をクライアントへ送り返す。
【0040】
主プログラム部分では、ステップS706でカメラの操作により変化した状態(例えば、パン・チルト・ズームの値)をすべてのクライアント対応のスレッドに伝える。各クライアント対応のスレッドはステップS709でカメラ制御状態の変化をクライアントへ通達する。クライアント対応のスレッドはクライアントから接続終了のコマンドを受けたならば、それを主プログラムへ通達し、さらにステップS710で自身のスレッドを終了する。
【0041】
なお、操作コマンドの扱いにおいては、具体的な操作コマンドの発行の前に、カメラ操作権の割り当て要求を必要とすることも可能である。これは複数の人間がカメラの操作を要求するような状況での混乱を無くす。この場合、まず、クライアントからはカメラ操作権獲得の要求コマンドが発行され、これに対して、カメラ制御サーバは現在のカメラ制御権の割り当て状態から、拒絶・割り当て・順番待ちを選びクライアントへ返答する。カメラ制御権は前もって定められた特定の時間か、クライアントが接続を終了するまでの短いほうの時間で剥奪され、次の順番待ちの人に割り当てられる。順番待ち人数はやはり前もって定められた人数(例えば5人)に制限され、それ以上のリクエストは拒絶される。クライアントはカメラ制御権が獲得されてから剥奪されるまでの間だけ、操作コマンドを発行する。カメラ制御サーバ501はカメラ制御権が付与されているクライアントからの操作コマンドのみを受け付ける。
【0042】
図8はカメラサーバ1内の映像サーバ502による処理動作の流れを示すフローチャートである。映像サーバ502は、まず起動時にステップS801で特定のファイル(OSによってはレジストリ等のシステムデータベース)から映像サーバの動作設定情報を読み出して、それに基づき動作を開始する。ここで、映像の獲得と符号化と蓄積を行うスレッドを生成し(最初このスレッドは休止状態)、クライアントであるビューワプログラムや映像変換サーバ5からのリクエストを受け付けるポートを開き、続いてステップS802のリクエスト受付状態に入る。
【0043】
リクエスト(接続リクエストもしくはコマンドリクエスト)が受け付けられたら、ステップS802を抜け、接続リクエストならばステップS803で接続の可否の判定を行う。否ならば接続拒否のエラーコードを返し、ステップS802に戻る。可ならば、ステップS804で接続処理として、クライアントごとのセッションを識別するためのセッション識別子を生成し、クライアントからのコマンドの受付処理を行うスレッドを生成し、クライアントの登録を行い、ステップS802に戻る。この際、リクエスト内容がライブ映像への接続であり、かつ、映像の獲得と符号化を行うスレッドが休止状態ならば、ステップS802に戻る前に、動作開始を指示する。
【0044】
生成されたクライアント対応のスレッドでは、ステップS807で対応するクライアントからのコマンドの受付を行う。コマンドが届いたならば、それを受け付け、映像処理を行う主プログラムへ受け渡す。主プログラムはステップS802でこれを受け、操作コマンドに対してはステップS805へ進み、映像の獲得や符号化・送信等に関する設定の変更操作を行って、その結果(操作の成功か失敗を示すコード)をコマンド要求を受け付けたクライアント対応のスレッドへ伝える。クライアント対応のスレッドはステップS808で、この結果をクライアントへ送り返す。
【0045】
主プログラム部分では、ステップS804からの映像の獲得と符号化を行うスレッドへの動作開始の指示により、ステップS806では前もって設定された時間間隔で映像データを映像キャプチャボード302を使って獲得し、これを圧縮データに変換する。さらにこの圧縮データを、ライブ映像に接続しているすべてのクライアント対応のスレッドに伝える。各クライアント対応のスレッドはステップS809でクライアントからの次映像フレーム送信要求の有無を判定し、要求があるならば、圧縮データをクライアントへ配送する。ライブ映像に接続しているクライアント対応のスレッドが、クライアントからの次映像フレーム送信要求(これはクライアントでの圧縮映像データの受取り完了に対して、送り返されるのが一般的である)を受取った場合には映像フレーム送信要求のフラグを設定する。また、クライアントから接続終了のコマンドを受けたならば、それを主プログラムへ通達し、さらにステップS810で自身のスレッドを終了する。
【0046】
図9はPTZシーケンスを作成する時の携帯電話端末7の状態を例示した図である。PTZシーケンスを作成する際には、携帯電話端末のキーに図示のように、パン(カメラの横振り)、チルト(カメラの縦振り)、ズーム(拡大倍率変更)、逆光補正等の機能が割り当てられる。なお、この画面は図6のフローチャートで説明したPTZシーケンス入手操作を行うためのユーザインタフェースであり、ここで作成されたPTZシーケンスはステップS602での処理に用いられる。
【0047】
ここで、図16を参照して、PTZシーケンスの作成の流れについて述べる。まず、ステップS901で、事前に取得したカメラサーバの識別子を使って、カメラサーバのカメラ制御によって可視範囲に入る画像を合成したパノラマ画像、事前にカメラサーバに設定されているカメラ制御情報(プリセット情報)、及び、現在のカメラ状態パラメータ(パン角、チルト角、ズーム値等)を、カメラサーバ1から取得する。
【0048】
次に、ステップS902で、PTZシーケンスの初期値として空データを設定し、また、表示用カメラ状態パラメータ及び設定用カメラ状態パラメータとして取得した現在のカメラ状態パラメータを設定する。
【0049】
次に、ステップS903で、表示用カメラ状態パラメータに従って可視領域を計算し、可視領域に相当する画像をパノラマ画像から切り出して携帯電話端末7の画面に表示する。
【0050】
次に、ステップS904で、ユーザからのキー入力を受取る。キー入力が、カーソルキーによる可視領域の変更、或いは、プリセット位置への移動の指示であった場合には、ステップS905で、表示用カメラ状態パラメータを変更し、ステップS903に進む。キー入力が、PTZシーケンスを追加/修正等の編集指示であった場合には、ステップS906で、PTZシーケンスの値を変更し、ステップS903に進む。PTZシーケンス追加の場合には、その時点の表示用カメラ状態パラメータと設定用カメラ状態パラメータとの差分から制御すべきカメラ制御値を計算し、そのカメラ制御値をPTZシーケンスに追加する。そして、表示用カメラ状態パラメータを設定用カメラ状態パラメータの新しい値とする。キー入力が、PTZシーケンス作成の終了を指示する場合には、ステップS907に進んだ上で、決定やキャンセルを判定し、決定である場合には、PTZシーケンスをステップS602へ送り、処理を終了する。
【0051】
図10はカメラサーバ1の用いる設定値、すなわち、カメラ制御サーバ501や映像サーバ502が読み出す動作設定情報を特定のファイル(OSによってはレジストリ等のシステムデータベース)に設定するカメラサーバ設定プログラムの表示画面の一例を示す図であり、カメラ制御サーバ501、映像サーバ502、動画品質、接続制限事項等に関する各種のパラメータ(後述)を設定できるようになっている。OKボタンを押すと設定した値が特定のファイル或いはレジストリに書き込まれ、キャンセルすると書き込まれずに終了する。
【0052】
図11はカメラサーバ1の設定プログラムによる処理動作の流れを示すフローチャートである。設定プログラムは、まず起動時にステップS1101でカメラ制御サーバ及び映像サーバに関する設定情報を格納した特定のファイル(OSによってはレジストリ等のシステムデータベース)から設定情報を読み出し、内部データに設定する。以降、ユーザの操作入力を受取り、実施するループを繰り返す。
【0053】
ステップS1102でユーザの操作入力を待ち、入力があればそれを受取り、続いてステップS1103で入力された値が適正範囲内であるか否かを判定し、適正でなければステップS1104でエラーメッセージを出力して、値を戻して、ユーザの入力待ちステップS1102へ戻る。適正範囲内であるならば、内部データを更新して、ステップS1102に戻る。ここで設定できる値としては、カメラ制御の通信用のTCPポート番号、カメラと接続するCOM(シリアル)ポート、シャッタースピード、カメラ制御関連のログ情報の有無とログファイル名、映像関連の通信用のTCPポート番号、ログ情報の有無とログファイル名、映像をキャプチャする時間間隔を規定するフレームレートと圧縮の品質を決めるQ−Factor、圧縮の元データの画面サイズ、1つのクライアントビューワの最大接続時間、カメラ制御に関する制御権の順番待ち人数、1つのビューワの制御権保持占有時間、映像とカメラ制御に関する接続可能な最大クライアント数等の項目がある。
【0054】
ユーザからの入力がOKボタンの場合には、ステップS1102からステップS1105に進み、更新された内部データをカメラ制御サーバ501及び映像サーバ502に関する設定情報を格納する特定のファイル等へ書き出し、ステップS1106で変更を反映するためにカメラサーバ1を再起動するかを尋ねるパネルを出す。再起動する場合にはステップS1107でカメラ制御サーバ501や映像サーバ502等を再起動して、ステップS1108で設定プログラムを終了する。再起動しない場合にはステップS1106から直接ステップS1108に進み、終了する。
【0055】
また、ステップS1102でのユーザの入力がキャンセルボタンである場合には、ステップS1102から直接ステップS1108に進み、終了する。
【0056】
図12は映像変換サーバ5における映像データの大まかな流れを模式化した図である。カメラサーバ1から送信されたソース映像データ(Motion JPEG、QVGAサイズ320x240)は、映像変換サーバ5のカメラサーバ向け通信スタックを経由して受信され、JPEGデコーダに渡され、続いて、携帯電話端末向けに設定されたMPEG−4エンコーダに渡され、携帯電話向け映像データ(MPEG−4 simpleprofile、QCIFサイズ176x144、64Kbps)に加工された上で、映像クリップとして、携帯電話網10向けの通信スタックを経由して、携帯電話端末7のビューワへと送信される。
【0057】
図13は映像変換サーバ5での処理動作の流れを示すフローチャートである。映像変換サーバ5は、まず起動時にステップS1301で特定のファイル(OSによってはレジストリ等のシステムデータベース)から映像変換サーバの動作設定情報を読み出して、それに基づき動作を開始する。ここで、クライアントである携帯電話ビューワプログラムからのリクエストを受け付ける通信ポートを開き、続いてステップS1302のリクエスト受付状態に入る。
【0058】
リクエスト(HTTPリクエストのメッセージ等)が受け付けられたら、ステップS1302を抜け、ステップS1303で接続の可否の判定を行う。否ならば接続拒否のエラーコードを返し、ステップS1302に戻る。可ならば、ステップS1304で接続処理として、クライアントとの情報の受渡しを行うクライアント対応スレッドを生成し、クライアントの登録を行い、ステップS1302に戻る。
【0059】
生成されたクライアント対応スレッドでは、ステップS1311で対応するクライアントからのリクエストを読み込み、内容を解析する。リクエストは、典型的にはHTTPリクエストとして、映像変換サーバ5に渡される。なお、HTTPリクエストには、POSTメソッドが使われる場合もあり、GETメソッドが利用される場合もある。
【0060】
次に、ステップS1312で、リクエスト内容からエンコードパラメータ情報(映像変換パラメータ)、カメラサーバ1への接続情報(ソース映像情報)、PTZシーケンス、映像クリップの最大サイズ(映像クリップ上限値)、及び、通知先情報(通知先アドレス)を取り出す。これらは、それぞれ『videoencodeparam=』『cameraservers=』『PTZ=』『moviesizemax=』『notifyto=』の値として指示されている。
【0061】
映像変換パラメータは、変換用コーデックの選択やそのコーデックへのパラメータ、及び、コーデック入力用/出力用のデータ形式等を記述している。ソース映像情報とは、例えばライブ映像を提供するカメラサーバ1のネットワークアドレスとポート番号等の通信属性情報である。通知先アドレスとは、典型的にはユーザの携帯電話端末7を指定したメールアドレスである。
【0062】
次に、ステップS1313で、HTTPリクエストに対するHTTPレスポンスとして、『すぐに映像を生成できないので、しばらくしてメール連絡します』との旨を示す情報を返す。
【0063】
次に、ステップS1314で、ソース映像情報に従って、映像取得部506を初期化する。具体的には、ソース映像を提供するカメラサーバ1に接続し、ソース映像取得を開始する。
【0064】
そして、ステップS1315に進み、映像変換パラメータに従って映像変換部507を初期化する。この映像変換部507は、MPEG−4エンコーダ等から構成される。そして、ステップS1316に進み、映像送信部508を初期化する。この際、映像送信部508に映像クリップ上限値、及び、通知先アドレスを指示する。さらに、ステップS1317に進み、映像取得部506から映像変換部507へ、映像変換部507から映像送信部508へとそれぞれの処理データが受渡しされるように相互の関連付けを行った上で、カメラ制御部505がPTZシーケンスに従ってカメラサーバ1のカメラ制御を行う。
【0065】
そして、ステップS1318に進み、映像取得部506、映像変換部507、映像送信部508の後処理を行う。そして、ステップS1319に進み、クライアント対応スレッドを終了する。
【0066】
次に、映像変換サーバ5の中で機能している映像取得部506、映像変換部507、映像送信部508、カメラ制御部505について順次説明する。映像取得部505は、まず初期化時に受取ったソース映像情報に従ってライブ映像を提供するカメラサーバ1に接続する。そして、カメラサーバ1から映像データを取得し、取得時のタイムスタンプを付与して映像データを映像変換部507へ渡す。本実施形態におけるカメラサーバ1は、映像データをMotion JPEG形式で提供するので、タイムスタンプが付与されるのは個々のJPEGデータである。
【0067】
映像変換部507では、まず初期化時に受取ったコーデックへのパラメータ、及び、コーデック入力用/出力用のデータ形式等をMPEG−4エンコーダに設定する。そして、映像取得部506から受取ったソース映像データを、コーデック入力用のデータ形式及び画像サイズに整えてからMPEG−4エンコーダに入力し、その処理結果を映像送信部508へ渡す。本実施形態における映像変換部507では、JPEG形式のソース映像データを、予めQCIFサイズかつYUV411形式に整えてからMPEG−4コーデックへ入力し、生成されたMPEG−4データ(I−frame又はP−frame)を映像送信部508へ受け渡す。この際、映像取得部506で付与されたタイムスタンプも併せてMPEG−4コーデックへ入力される。
【0068】
映像送信部508では、まず初期化時に受取った映像クリップ上限値に従ってメモリ領域を確保する。そして、映像変換部507が生成した携帯電話向け映像データを受取り、確保したメモリ領域に保持する。映像送信部508では、カメラ制御部505から得られるPTZシーケンスの指示内容等から現在得られている映像データの評価値(優先度)を計算し、メモリ領域の利用率をも加味して、映像クリップの分割点を決定する。そして、分割点と判断した場合には、メモリ領域に保持している映像クリップをファイルとして保存し、メモリ領域を再利用する。これによって、映像クリップが複数のファイルに分割保存される。そして、カメラ制御部505からPTZシーケンスの終了を通知された時点で、メモリ領域に保持している映像クリップの残りを同様にファイルとして保存した上で、それまでに保存している複数の映像クリップへのリンク情報を埋め込んだ携帯電話端末7への通知情報を作成し、初期化時に受取った通知先アドレスへ通知する。これによって、通知情報を受取った携帯電話端末7から各映像クリップへのダウンロード要求を可能とする。なお、映像送信部508はHTTPサーバ機能を備えており、携帯電話端末7からのHTTP利用の映像クリップのダウンロード要求に対応する。
【0069】
また、映像送信部508における優先度の計算は、映像変換部507から映像データを取得した時点で行われ、例えば次のように計算される。その結果、時間経過に対して、図14に示すように変化する優先度が得られる。
(0) 映像変換部507から得られた一つ前の映像データの優先度をpriとする。なお、priの初期値は0とする。
(1) もしもカメラ制御部505からプリセット指定(ホームポジション指定を含む)或いはカメラサーバ切換えを意味する指示内容が通知されているならば、priに3を加える。
(2) もしもカメラ制御部505から(カメラサーバ内の)カメラ切換えを意味する指示内容が通知されているならば、priに2を加える。
(3) もしもカメラ制御部505からパン/チルト/ズームを意味する指示内容が通知されているならば、priに1を加える。
(4) もしもカメラ制御部505からの通知がないならば、priに0.9を掛ける。
(5) ただし、計算の結果が3を越える場合には、優先度を3とする。
【0070】
次に、カメラ制御部505では、PTZシーケンスを解釈して、カメラサーバ1に送るべきカメラ制御コマンドを作成し、PTZシーケンスに指示されたタイミングで作成したカメラ制御コマンドをカメラサーバ1に送信することで、カメラサーバ1のカメラ制御を行う。
【0071】
また、PTZシーケンスの解釈に際して、プリセット位置への移動や変動量の多いパン/チルト/ズーム(例えば、制御可能量の20%以上の変動)等を検出した場合には、分割可能ポイントを映像送信部508に伝える。そして、PTZシーケンスを解釈し終えた時点で、PTZシーケンスの終了を映像送信部508に通知する。
【0072】
以上述べたように、携帯電話端末7上に実装された映像クリップビューワを使うユーザは、カメラ制御のためのPTZシーケンスを指定した上で、映像変換サーバ5に映像クリップを要求することができる。そして、映像変換サーバ5の機能により、ネットワーク9上に配置された複数のカメラサーバ1について、PTZシーケンスによる制御の結果得られるソース映像内容を携帯電話端末7で処理可能な映像クリップとして受取ることができる。これにより、ネットワーク9上に配置されたカメラサーバ1から送られるライブ映像を、携帯電話端末7向けに変換して中継することができる。特に、本実施形態の映像変換サーバ5では、カメラサーバ1を制御するPTZシーケンスを指定して映像クリップを生成する点と、携帯電話端末7向けに適切な映像クリップに分割して提供する点とに特徴がある。
【0073】
なお、本実施形態では、携帯電話網10とネットワーク9とを結ぶゲートウェイ6とは独立にネットワーク10上に映像変換サーバ5が実装される例について説明したが、映像変換サーバ5がゲートウェイ6の一部として実装されても良い。また、映像変換サーバ5とゲートウェイ6とが、VPN(Virtual Private Network)等も含めて専用線で接続されるような接続形態も可能である。
【0074】
本実施形態では、すべての携帯電話端末ユーザに同一の映像サービスを提供する例について説明しているが、ユーザの契約状況や課金の有無、或いは、携帯電話端末の性能等に応じて、異なった映像サービス適用するように映像変換サーバを設計しても良い。
【0075】
本実施形態では、映像変換サーバ5が接続するカメラサーバ1を一つ指定しているが、複数のカメラサーバ1の指定も含めてPTZシーケンスを構成しても良い。例えば、次のようなPTZシーケンスが考えられる。ただし、PTZシーケンスに含まれる『Cn』は、n番目のカメラサーバへの接続切換えを指定している。
cameraservers=(webview://cam1.univ.ac.jp:34560+34561+34562)(webview://cam2.univ.ac.jp:34560+34561+34562)(webview://cam3.univ.ac.jp:34560+34561+34562)
PTZ=C1HZ15_30C2S3_40C3S4_40P−10_20
【0076】
さらに、例えば次の通り、カメラサーバ1の指定をもPTZシーケンスに織り込む実装も可能である。ただし、PTZシーケンスに含まれる『C(x)』は、xで記述されるカメラサーバ1への接続切換えを指定している。
cameraservers=
PTZ=C(webview://cam1.univ.ac.jp:34560+34561+34562)HZ15_30C(webview://cam2.univ.ac.jp:34560+34561+34562)S3_40C(webview://cam3.univ.ac.jp:34560+34561+34562)S4_40P−10_20
【0077】
本実施形態では、映像変換サーバ5がステップS1313でHTTPレスポンスとして『すぐに映像を生成できないので、しばらくしてメール連絡します』旨を示すレスポンスに返しているが、PTZシーケンスを指定されなかった場合(空だった場合)には、定期的に作成しておいた映像クリップを添付してHTTPレスポンスを返すことも考えられる。
【0078】
本実施形態では、カメラ制御部から通知されるPTZシーケンスの指示内容に基づいて映像クリップの分割点を判断しているが、これは、カメラサーバ1から通知されるカメラ状態パラメータに基づいて分割を判断する方式であっても良い。また、カメラ制御権が取得できない場合や、カメラ制御中に映像データにブラー(パン/チルト時の画像の乱れ)が発生した場合には、一時的に優先度を下げるようにしても良い。
【0079】
また、カメラ制御権が一定時間以上取得できない場合には、映像クリップの作成を断念し、その旨、携帯電話端末7に通知することも考えられる。逆に、本実施形態の映像変換サーバ5からカメラサーバ1への接続については、特権接続を適用して、常に要求した時点でカメラ制御権を取得するよう実装することも考えられる。
【0080】
(第2の実施形態)
第2の実施形態では、上記第1の実施形態と同様、インターネット上に配置されたカメラサーバ1から送られるライブ映像を、携帯電話端末7向けに変換して中継する例について説明する。特に、第2の実施形態では、映像変換サーバ5が、映像クリップの分割を携帯電話端末7からの映像クリップのダウンロード要求がある時点まで遅らせる点に特徴がある。なお、システム全体の構成、各装置の構成等については上記第1の実施形態で説明したものと同様であり、図13で示した映像変換サーバ5での処理動作の一部が相違する。以下では上記第1の実施形態との相違点を中心について説明する。
【0081】
第2の実施形態の映像送信部508では、まず映像変換部507で生成される映像データを保存する映像ファイルvfile及び映像ファイルに関するインデックスファイルifileを用意する。そして、映像変換部507が生成した携帯電話向け映像データを受取り、順次映像ファイルvfileに追加保存してゆく。
【0082】
同時に、映像送信部508では、カメラ制御部505からの得られるPTZシーケンスの指示内容等から現在得られている映像データの重要度(優先度)を計算し、映像ファイルの書き込み位置と優先度とからなるインデックス情報を順次インデックスファイルifileに追加保存してゆく。つまり、本実施形態の映像送信部508では、この時点での映像クリップの分割を行わない。
【0083】
そして、カメラ制御部505からPTZシーケンスの終了を通知された時点で、インデックスファイルifileをスキャンして、優先度の変化状況及び映像クリップ上限値とを加味して、映像クリップの分割点を決定する。そして、その分割に応じた複数の映像クリップへのリンク情報を埋め込んだ携帯電話端末への通知情報を作成し、初期化時に受取った通知先アドレスへ通知する。
【0084】
さらに、映像送信部508に備えるHTTPサーバ機能では、上述の映像クリップへのダウンロード要求を、通常のファイルダウンロードとは区別し、携帯電話端末7からの映像クリップのダウンロード要求を受取った時点で、上記分割点に相当する映像クリップを映像ファイルvfileから切り出し、携帯電話端末7へ送信する。
【0085】
以上述べたように、インターネット上に配置されたカメラサーバ1から送られるライブ映像を、携帯電話端末7向けに変換して中継することができる。特に、本実施形態の映像変換サーバ5では、映像クリップの分割を、携帯電話端末7からの映像クリップのダウンロード要求がある時点まで遅らせる点に特徴がある。
【0086】
本実施形態では、サイズの上限値を制約された映像クリップとして携帯電話端末7にカメラサーバ1の映像を提供する実装について説明しているが、必要なユーザに対しては、作成した映像ファイルvfileの全体をストリーミング配送する実装も考えられる。
【0087】
(その他の実施形態)
【0088】
なお、本発明の目的は、上記実施形態のいずれかの装置又はシステムの機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、装置又はシステムに供給し、その装置又はシステムのコンピュータ(CPU又はMPU等)が記憶媒体に格納されたプログラムコードを読み出して実行することによっても、達成されることは言うまでもない。
【0089】
この場合、記憶媒体から読み出されたプログラムコード自体が上記実施形態で説明した機能を実現することとなり、そのプログラムコードを記憶した記憶媒体及び当該プログラムコードは本発明を構成することとなる。
【0090】
プログラムコードを供給するための記憶媒体としては、ROM、フロッピー(R)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード等を用いることができる。
【0091】
また、コンピュータが読み出したプログラムコードを実行することにより、上記実施形態で説明した機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS等を利用して実際の処理の一部又は全部が行われ、その処理によって上記実施形態で説明した機能が実現される場合も本発明の実施の態様に含まれることは言うまでもない。
【0092】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって上記実施形態で説明した機能が実現される場合も本発明の実施の態様に含まれることは言うまでもない。
【0093】
このようなプログラム又は当該プログラムを格納した記憶媒体に本発明が適用される場合、当該プログラムは、例えば、上述したフローチャートに対応したプログラムコードから構成される。
【0094】
なお、上記実施形態において示した各部の形状及び構造は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその精神、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【0095】
以下、本発明の実施態様の例を列挙する。
(実施態様1) ネットワークに接続される映像中継装置であって、
上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手段と、
上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換手段と、
上記変換後の映像データを送信する映像送信手段とを備えることを特徴とする映像中継装置。
【0096】
(実施態様2) 上記映像変換手段は、上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを携帯情報端末向けに変換し、上記映像送信手段は、携帯情報端末を通信相手として上記変換後の映像データを送信することを特徴とする実施態様1に記載の映像中継装置。
【0097】
(実施態様3) 上記映像送信手段は、複数の映像データを取りまとめた映像ファイルを単位として送信する映像ファイル送信手段により構成されることを特徴とする実施態様1又は2に記載の映像中継装置。
【0098】
(実施態様4) 上記映像ファイル送信手段は、標準化されているHTTPを使って映像ファイルを送信することを特徴とする実施態様3に記載の映像中継装置。
【0099】
(実施態様5) クライアントからの要求に応じて映像ファイルを分割する映像ファイル分割手段を更に備え、
上記映像ファイル送信手段は、映像ファイルを分割した上で、分割後の映像ファイルの個別のダウンロード要求に応えることを特徴とする実施態様3又は4に記載の映像中継装置。
【0100】
(実施態様6) 上記映像変換手段が生成する個々の映像データごとに優先度を計算する優先度評価手段を更に備え、
上記映像ファイル分割手段は、上記優先度評価手段の算出する優先度に基づいて映像ファイルを分割することを特徴とする実施態様5に記載の映像中継装置。
【0101】
(実施態様7) クライアントからの映像要求にはカメラ制御情報及びカメラサーバ切換え情報が含まれており、上記優先度評価手段は、上記カメラ制御情報及びカメラサーバ切換え情報に基づいて優先度を計算することを特徴とする実施態様6に記載の映像中継装置。
【0102】
(実施態様8) 上記優先度評価手段は、上記カメラサーバに対して要求したカメラ制御権が取得できなかった場合には、優先度を低く評価することを特徴とする実施態様6に記載の映像中継装置。
【0103】
(実施態様9) クライアントからの映像要求にはクライアントが受取り可能な映像ファイルの上限サイズが含まれており、上記優先度評価手段は、それまでに生成された映像ファイルのサイズとその上限サイズに基づいて優先度を計算することを特徴とする実施態様6に記載の映像中継装置。
【0104】
(実施態様10) 上記カメラサーバの映像送出パラメータ及び撮像パラメータを制御するカメラ制御手段を更に備え、
上記映像受信手段は、上記ネットワーク上のカメラ制御可能なカメラサーバの映像をソース映像として受信することを特徴とする実施態様1〜9のいずれか1項に記載の映像中継装置。
【0105】
(実施態様11) クライアントからの映像要求には、カメラ制御情報及びカメラサーバ切換え情報が含まれていることを特徴とする実施態様1〜10のいずれか1項に記載の映像中継装置。
【0106】
(実施態様12) 上記映像送信手段は、分割前の映像ファイルをストリーミングすることを特徴とする実施態様1〜11のいずれか1項に記載の映像中継装置。
【0107】
(実施態様13) 上記映像送信手段は、映像データを送信可能になった時点でクライアントにメール通知することを特徴とする実施態様1〜12のいずれか1項に記載の映像中継装置。
【0108】
(実施態様14) 携帯電話回線網とインターネットとを仲介するゲートウェイに実装されることを特徴とする実施態様1に記載の映像中継装置。
【0109】
(実施態様15) 映像中継装置が接続されるネットワークと携帯情報端末が接続される携帯情報端末通信網とが仲介されている映像通信システムであって、上記映像中継装置は、上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手段と、上記取得した映像データを上記携帯情報端末向けに変換する映像変換手段と、上記変換後の映像データを上記携帯情報端末に送信する映像送信手段とを備えることを特徴とする映像通信システム。
【0110】
(実施態様16) ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手順と、
上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換手順と、
上記変換後の映像データを送信する映像送信手順とを有することを特徴とする映像中継方法。
【0111】
(実施態様17) ネットワークに接続される映像中継装置を制御するためのコンピュータプログラムであって、
上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信処理と、
上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換処理と、
上記変換後の映像データを送信する映像送信とを実行させることを特徴とするコンピュータ読み取り可能な記憶媒体。
【0112】
(実施態様18) 実施態様17に記載のコンピュータプログラムを格納したことを特徴とするコンピュータ読み取り可能な記憶媒体。
【0113】
【発明の効果】
以上述べたように本発明によれば、ネットワーク上のカメラサーバからソース映像データを取得し、その取得した映像データを携帯情報端末向けに変換するようにしたので、ネットワーク上から取得した映像データを携帯電話端末等の携帯情報端末向けに適切に提供することができる。
【図面の簡単な説明】
【図1】本実施形態によるライブ映像通信システムの全体構成を示す図である。
【図2】映像変換サーバ5のハードウェア構成の一例を示す図である。
【図3】カメラサーバ1のハードウェア構成の一例を示す図である。
【図4】携帯電話端末7のハードウェア構成の一例を示す図である。
【図5】カメラサーバ1、映像変換サーバ5、携帯電話端末7上のプログラムの構成する部分を模式化した図である。
【図6】携帯電話端末7上のビューワによる処理動作の流れを示すフローチャートである。
【図7】カメラサーバ1内のカメラ制御サーバ501による処理動作の流れを示すフローチャートである。
【図8】カメラサーバ1内の映像サーバ502による処理動作の流れを示すフローチャートである。
【図9】PTZシーケンスを作成する時の携帯電話端末7の状態を例示した図である。
【図10】カメラサーバ設定プログラムの表示画面の一例を示す図である。
【図11】カメラサーバ1の設定プログラムによる処理動作の流れを示すフローチャートである。
【図12】映像変換サーバ5における映像データの大まかな流れを模式化した図である。
【図13】映像変換サーバ5での処理動作の流れを示すフローチャートである。
【図14】映像変換サーバ5における映像データの優先度の推移について説明するための図である。
【図15】携帯電話端末7での画面表示例を示す図である。
【図16】PTZシーケンスの作成の流れを示すフローチャートである。
【符号の説明】
1 カメラサーバ
3 パーソナルコンピュータ
4 中継サーバ
5 映像変換サーバ
6 ゲートウェイ
7 携帯電話端末
9 ネットワーク
10 携帯電話回線網
505 カメラ制御部
506 映像取得部
507 映像変換部
508 映像送信部
【発明の属する技術分野】
本発明は、例えばインターネット上のカメラサーバからソース映像データを取得して、携帯電話端末等の携帯情報端末向けに配信するのに好適な映像中継装置に関する。
【0002】
【従来の技術】
映像データを配信する既存の映像配信技術としては、以下に述べるようなものが知られている。
[ライブ映像通信システム]
撮影したライブ映像を、インターネット等の通信インフラストラクチャを使って配信するとともに、撮影のためのカメラ設定やカメラ操作等を指示する技術が確立され、製品が販売されている。例えば、キヤノン社の映像配信システムWebView/Livescope、及び、同社のライブネットワークカメラサーバVB101、サーバ内蔵型ネットワークカメラVB−C10等である。
【0003】
キヤノン社の映像配信システムWebView/Livescope、及び、同社のライブネットワークカメラサーバVB101等では、映像配信に加えて、パン、チルト、ズーム、逆光補正といったカメラ制御をネットワークを介して提供可能となっている。また、カメラ制御による可視範囲に相当するパノラマ画像を生成する機能を備えている。これらの技術は、特許文献1、2等に開示されている。
【0004】
[第三世代携帯電話技術]
従来の携帯電話サービスよりも高い電波利用効率と通信帯域を備えた携帯電話サービスとして、第三世代(3G)の携帯電話サービスが提供されるようになっている。例えば、NTTドコモ社の第三世代(3G)携帯電話サービスFOMA(R)が知られている。第三世代(3G)の携帯電話では、電話通話しながらインターネットアクセス等のデータ通信が可能である、例えばインターネット上の画像データにアクセスしながら通話することができる。NTTドコモ社によるFOMA(R)サービスでは、マルチアクセスと呼ばれる接続形態を用意しており、これを利用することで、ウェブブラウジング等のデータ通信を行いながら電話通話を可能にしている。
【0005】
さらに、第三世代携帯電話端末では、端末自体の処理能力も強化されており、これまでパーソナルコンピュータ等で行っていた作業を携帯電話端末で処理可能になっている。例えば、メールやウェブブラウジング及び映像送受信等の機能を実装している携帯電話端末が提供されている。
【0006】
また、3G−PP(Third Generation Partnership Project)では、第三世代携帯電話向けの映像伝送規格として、3G−324M(回線交換用)等を策定して、携帯電話向け映像伝送技術の標準化を図っている。
【0007】
[MPEG−4コーデック]
移動体通信網に接続する携帯情報端末から広帯域インターネットに接続するパーソナルコンピュータまでの映像送受信端末の広がりを受けて、数十kpbsから数十Mbpsの広いビットレートをカバーする高圧縮符号化効率、及び、無線やインターネット等の伝送路誤りに対する強い耐性等を備えた動画像圧縮符号化方式として、ISOで1999年にMPEG−4が制定されている。
【0008】
また、MPEG−4を用いた映像配信サービスが、個人情報端末PDAや携帯電話端末向けに提供されている。例えば、NTTドコモ社の第三世代(3G)携帯電話サービスFOMA(R)では、携帯電話端末(ビジュアル端末)間でMPEG−4を用いて相互に映像を送受信するサービスを提供している。
【0009】
[RTP/RTCP]
ネットワーク上で、リアルタイムに情報(特に映像や音声等を想定している)を受渡しするアプリケーションのための伝送用プロトコルとして、RTP(Real−time Transport Protocol)が、IETFによってRFC1889 ”RTP: ATransport Protocol for Real−Time Applications”として勧告されている。RTPでは、情報を受渡しする端末のタイムスタンプを使って、通信路の状態を観察し、適切な状態で情報を受渡しできるよう調整する仕組みが盛り込まれている。
【0010】
[RTSP]
RTSP(Real−time Streaming Protocol)が、IETFによってRFC2326”Real Time Streaming Protocol (RTSP)”として勧告されている。リアルタイムに情報を伝送するに際して、RTPがサーバからクライアントへ一方向にブロードキャスト(或いはマルチキャスト)することを想定しているのに対して、RTSPではサーバとクライアント間でユニキャストかつ双方向の伝送を想定している。つまり、RTSPでは、ビューアがサーバと交信し、映像コンテンツ等を巻き戻したり、別のチャプタへスキップしたりすること等が可能となっている。
【0011】
さらに、RTSPでは、伝送レイヤーでRTP等を利用してリアルタイムに情報(特に映像や音声等を想定している)を受渡しするアプリケーションのための制御用プロトコルとして利用されることもある。
【0012】
[携帯電話向け映像クリップサービス]
携帯電話端末に映像クリップ(ファイル)を表示する技術が提供されるようになってきている。例えば、NTTドコモ社のiモーション(R)やKDDI社のezmovie(R)等がある。これらのサービスでは、MPEG−4コーデック等で圧縮符号化された映像データをサーバに保存し、携帯電話端末に内蔵するデータ通信機能を使ってサーバからダウンロードした上で、同じく携帯電話端末に内蔵するデコーダを使って映像を携帯電話端末の画面に表示する。なお、これらのサービスでは、いずれも映像クリップの上限が決められており、例えばKDDI社のezmovie(R)の場合、240kbytesが上限となっている。
【0013】
【特許文献1】
特開平10−42185号公報
【特許文献2】
特開2001−218194号公報
【0014】
【発明が解決しようとする課題】
しかしながら、携帯電話端末を使ったライブ映像通信システムのカメラ操作は、携帯電話端末の入力デバイスの制約から自由度が少ないという問題がある。
【0015】
さらに、携帯電話向け映像クリップサービスでは、ダウンロード可能な映像クリップサイズに上限が設けられているという問題がある。
【0016】
さらに、携帯電話端末を利用したデータ通信では、通信セッションのオーバヘッドが大きいため、細かい通信セッションの多用は通信全体のコストを引き上げるという問題がある。
【0017】
本発明は上記のような問題に鑑みなされたものであり、ネットワーク上からソース映像データを取得し、携帯電話端末等の携帯情報端末向けに適切に提供可能とすることを目的とする。
【0018】
【課題を解決するための手段】
本発明の映像中継装置は、ネットワークに接続される映像中継装置であって、上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手段と、上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換手段と、上記変換後の映像データを送信する映像送信手段とを備える点に特徴を有する。
【0019】
【発明の実施の形態】
以下、図面を参照して、本発明の実施の形態を説明する。
(第1の実施形態)
図1は、本実施形態によるライブ映像通信システムの全体構成を示す。同図において、1はカメラサーバ、3はビューワがインストールされたパーソナルコンピュータPC、4は中継サーバ、5は映像変換サーバ、6はネットワーク9と携帯電話回線網10とを仲介するゲートウェイ、7はビューワが搭載された携帯電話端末である。また、9はネットワーク、10は携帯電話回線網であり、これらネットワーク9に接続された各機器1〜5と携帯電話回線網10を利用する携帯電話端末7とはゲートウェイ6を介して通信可能となる。
【0020】
PC3のビューワからネットワーク9を介してリクエストがカメラサーバ1へ送られ、これが受け入れられると、カメラサーバ1からPC3のビューワへ映像データが配送され、カメラ映像を表示することが可能となる。また、PC3のビューワからカメラ制御コマンドがカメラサーバ1へ送られ、カメラ装置のズーム、パン、チルト等の操作が可能となる。ネットワーク9上の中継サーバ4は、PC3のビューワとカメラサーバ1との通信を中継することがある。
【0021】
また、映像変換サーバ5は、カメラサーバ1が提供する映像データを携帯電話端末向けに変換した上で、携帯電話端末7向けに中継する。なお、携帯電話端末7上のビューワプログラムは、典型的には工場出荷時にインストールされるが、Java(R)プログラムのように実行時(利用時)にダウンロードされて実行される形態であっても良い。
【0022】
ネットワーク9は、企業や組織内で運用されるイントラネットである場合もあり、広く世界をつないでいるインターネットである場合もある。また、中継サーバ4や映像変換サーバ5は、典型的にはインターネットイクスチェンジ(IX)やデータセンター(IDC : Internet Data Center)に配置され、通信負荷の軽減を図るよう設計される。
【0023】
このようにしたライブ映像通信システムでは、ネットワーク9上に配置されたカメラサーバ1から送られるライブ映像を、映像変換サーバ5を介して携帯電話端末7向けに変換して中継することができる。映像の変換と中継を行う映像変換サーバ5が携帯電話端末7から映像クリップを要求される際に、(1)併せてカメラサーバ1に接続されたカメラ装置(撮像装置)の操作(パン、チルト、ズーム、逆光補正、プリセット指定等)を指示するカメラ制御シーケンス(以下、「PTZシーケンス」と称する)を受取る点、及び、(2)そのPTZシーケンスに従って、カメラサーバ1を操作して取得した映像情報を携帯電話端末7向けに変換して、その変換後の映像情報を適切な映像クリップに分割した上で、携帯電話端末7向けに提供する点に特徴がある。
【0024】
図2は映像変換サーバ5のハードウェア構成の一例を示すものであり、サーバ向けコンピュータ、より詳細にはプログラムやデータを格納する記憶装置、ネットワーク9と接続するためのネットワークI/F201、プログラムによる各種の処理を実行するCPU202等により構成される。記憶装置は、主記憶装置となるRAM203、フラッシュメモリやHD装置等からなる二次記憶装置204、及びプログラムを媒体からロードするためのFD装置205等により構成される。また、図示しないが、設定等を行うための入出力装置、具体的にはディスプレイを接続する表示装置、キーボードやマウス等のコントローラ等を備えることもある。
【0025】
図3はカメラサーバ1のハードウェア構成の一例を示すものであり、実際に撮像を行うカメラ装置301と、コンピュータ、より詳細にはプログラムやデータを格納する記憶装置、映像データを取り込むための映像キャプチャボード302、カメラ装置301にコマンドを送るためのシリアルI/F303、ネットワーク9と接続するためのネットワークI/F304、プログラムによる各種の処理を実行するCPU305等により構成される。記憶装置は、主記憶装置となるRAM306、フラッシュメモリやHD装置等からなる二次記憶装置307、及びプログラムを媒体からロードするためのFD装置308等により構成される。また、図示しないが、設定等を行うための入出力装置、具体的にはディスプレイを接続する表示装置、キーボードやマウス等のコントローラ等を備えることもある。なお、図示しないが、カメラサーバ1は、カメラ装置301とコンピュータとが一体化されたサーバ内蔵型ネットワークカメラで構成されても良い。
【0026】
図4はビューワを動作させる携帯電話端末7のハードウェア構成の一例を示すものであり、より詳細にはプログラムやデータを格納する記憶装置401、携帯電話回線網10と接続するための無線通信I/F402、プログラムによる各種の処理を実行するCPU403、周辺装置、及び周辺装置のコントローラ404、405等により構成される。記憶装置は、主記憶装置となるRAM、フラッシュメモリ等からなる。また、周辺装置は、携帯電話端末上に配置されたボタン類406やスイッチ類407等の入力装置、ディスプレイ等の表示出力装置408、及びマイクロフォンやスピーカ等の音声入出力装置409を含む。
【0027】
図5はプログラムの構成する部分を模式化した図であり、カメラサーバ1には、カメラ装置の制御をつかさどるカメラ制御サーバ501と、映像の配送をつかさどる映像サーバ502の2つのモジュールを含む。また、携帯電話端末7上で動作するビューワには、PTZシーケンスからなるカメラ制御コマンドの発行やカメラ状態通知に対応するカメラ制御部503、映像クリップの表示を担当する映像表示部504を含む。さらに、映像変換サーバ5には、PTZシーケンスからなるカメラ制御コマンド列を解釈し、カメラサーバ1にカメラ制御命令を発行するカメラ制御部505、カメラサーバ1から映像を取得し、携帯電話端末向けに変換し、さらに、それを携帯電話網向け映像クリップに編集するモジュール(映像取得部506、映像変換部507、映像送信部508)がそれぞれ含まれる。
【0028】
図6は携帯電話端末7上のビューワによる処理動作の流れを示すフローチャートである。ステップS601では、まず映像変換サーバ5の識別子を入手する。これは、ユーザが直接キー操作により識別子を入力するものであっても良いし、メールやウェブページに含まれる識別子を選択するのであっても良い。また、この場合の識別子は、典型的には映像変換サーバ5を識別するURLである。
【0029】
ステップS602では、映像変換サーバ5が接続すべきカメラサーバ1の識別子、及び、そのカメラサーバ1に指示するカメラ制御用のPTZシーケンスを入手する。カメラサーバ識別子やPTZシーケンスは、ユーザが直接キー操作によりカメラ制御コマンドを構成するよう入力するものであっても良いし、メールやウェブページに含まれるカメラサーバ識別子やPTZシーケンスを選択するものであっても良い。また、PTZシーケンスは空であっても構わない。この場合、カメラ制御を伴わないカメラサーバ1の現状の映像クリップを意味する。
【0030】
ステップS603では、ゲートウェイ6を経由して、上記ステップSにて入手した映像変換サーバ5の識別子に基づき映像変換サーバ5の映像送信部508に接続する。
【0031】
さらにステップS604では、映像変換サーバ5に映像クリップを要求する。この要求は、要求する映像クリップの作成方法の指定等を含み、典型的にはHTTPプロトコルに則り送信される。この際、上記ステップS602にてPTZシーケンスを入手している場合には、そのPTZシーケンスを映像変換サーバ5に送信する。この要求及びPTZシーケンスの送信は、HTTP接続のGETメソッドでURLに組み込んでも良いし、HTTP接続のPOSTメソッドで送信されても良い。ここでは、POSTメソッドで送信される場合について説明する。例えば、以下の通りである。なお、実際には、URLエンコードが適用されるが、以下では、説明の都合上URLエンコードを適用していない部分もある。
POST /getvideoclip/ HTTP/1.1
Host: 202.28.30.208:8080
User−Agent: MobilePhone/2.0 C2101V(c100)
Pragma: no−cache
videoencodeparam=QCIF:fps15.0:bps64000:intraframe5:me8
cameraservers=webview://vb101_4.x−zone.canon.co.jp:34560+34561+34562
PTZ=HZ15_30S3_40S4_40P−10_20
moviesizemax=240kbytes
notifyto=mailto:riyousha3@mailserver.usersite.co.jp
【0032】
ただし、『videoencodeparam=』に続く部分は、映像変換サーバ5がカメラサーバ1から受取ったソース映像を携帯電話向けにエンコードする際のパラメータ情報を指示するものである。また、『cameraservers=』に続く部分は、映像変換サーバ5が接続するカメラサーバ1を指定している。また、『PTZ=』に続く部分は、映像変換サーバ5がカメラサーバ1に関して実行すべきカメラ制御のコマンドを並べたPTZシーケンスを指定している。また、『moviesizemax=』に続く部分は、携帯電話端末7或いは携帯電話網10が規定する映像クリップの最大サイズを指定している。また、『notifyto=』に続く部分は、映像クリップ作成時に通知すべき連絡先であり、典型的には携帯電話端末ユーザのメールアドレスを指定する。
【0033】
この中で、PTZシーケンスの構成要素は、以下のような意味を持つ。nは数値データ(正負あり)である。
Pn パン(水平方向カメラ制御)指定
Tn チルト(垂直方向カメラ制御)指定
Zn ズーム指定
Bn 逆光補正(逆光補正のON/OFF)
H ホームポジション指定
Sn プリセット位置指定(n番目のプリセット位置)
Cn カメラサーバ接続切換え指定(n番目のカメラサーバ)
Kn カメラサーバ内カメラ切換え指定(n番目のカメラ)
n 時間経過指定(0.1秒単位)
【0034】
ステップS605では、映像変換サーバ5からのレスポンスを待つ。ステップS606では、映像変換サーバ5から受取ったレスポンスを解釈して携帯電話端末7の表示装置に表示する。例えば、図15(a)に示す通りである。もし、映像変換サーバ5からのレスポンスが、何らかの理由からすぐに映像を生成できないことを示す内容であった場合には、ステップS607に進む。逆に、すぐに映像を生成できたことを示す内容であった場合には、ステップS608に進む。
【0035】
ステップS607では、映像変換サーバ5からのメール通知を待受ける。メール通知は、例えばSMTP(Simple Mail Transfer Protocol)によるが、SMS(Short Message Service)であってもよい。メール通知を受取った場合には、その内容を映像変換サーバ5からのレスポンスとして表示し、ステップS608に進む。例えば、図15(b)に示す通りである。
【0036】
ステップS608では、レスポンスに含まれる映像クリップの一つを選択し、ダウンロードして再生表示する。例えば、図15(c)に示す通りである。ここでは、ダウンロードしているが、映像クリップの再生表示処理は、ダウンロードの終了を待たず、再生表示処理を開始しても良い。
【0037】
図7はカメラサーバ1内のカメラ制御サーバ501による処理動作の流れを示すフローチャートである。カメラ制御サーバ501は、まず起動時にステップS701で特定のファイル(OSによってはレジストリ等のシステムデータベース)からカメラ制御サーバの動作設定情報を読み出して、それに基づき動作を開始する。ここで、クライアントであるビューワプログラムや映像変換サーバ5からのリクエストを受け付けるポートを開き、続いてステップS702のリクエスト受付状態に入る。
【0038】
リクエスト(接続リクエストもしくは操作コマンドリクエスト)が受け付けられたら、ステップS702を抜け、接続リクエストならばステップS703で接続の可否の判定を行う。否ならば接続拒否のエラーコードを返し、ステップS702に戻る。可ならば、ステップS704で接続処理として、クライアントからのコマンドの受付処理を行うスレッドを生成し、クライアントの登録を行ってから、ステップS702に戻る。
【0039】
生成されたスレッドでは、ステップS707で対応するクライアントからのコマンドの受付を行う。コマンドが届いたならば、それを受け付け、カメラ操作を行う主プログラムへ受け渡す。主プログラムはステップS702でこれを受け、操作コマンドに対してはステップS705へ進み、カメラ操作を行って、その結果(操作が成功か失敗かを示すコード等)をカメラ操作要求を受け付けたクライアント対応のスレッドへ伝える。このクライアント対応のスレッドはステップS708で結果をクライアントへ送り返す。
【0040】
主プログラム部分では、ステップS706でカメラの操作により変化した状態(例えば、パン・チルト・ズームの値)をすべてのクライアント対応のスレッドに伝える。各クライアント対応のスレッドはステップS709でカメラ制御状態の変化をクライアントへ通達する。クライアント対応のスレッドはクライアントから接続終了のコマンドを受けたならば、それを主プログラムへ通達し、さらにステップS710で自身のスレッドを終了する。
【0041】
なお、操作コマンドの扱いにおいては、具体的な操作コマンドの発行の前に、カメラ操作権の割り当て要求を必要とすることも可能である。これは複数の人間がカメラの操作を要求するような状況での混乱を無くす。この場合、まず、クライアントからはカメラ操作権獲得の要求コマンドが発行され、これに対して、カメラ制御サーバは現在のカメラ制御権の割り当て状態から、拒絶・割り当て・順番待ちを選びクライアントへ返答する。カメラ制御権は前もって定められた特定の時間か、クライアントが接続を終了するまでの短いほうの時間で剥奪され、次の順番待ちの人に割り当てられる。順番待ち人数はやはり前もって定められた人数(例えば5人)に制限され、それ以上のリクエストは拒絶される。クライアントはカメラ制御権が獲得されてから剥奪されるまでの間だけ、操作コマンドを発行する。カメラ制御サーバ501はカメラ制御権が付与されているクライアントからの操作コマンドのみを受け付ける。
【0042】
図8はカメラサーバ1内の映像サーバ502による処理動作の流れを示すフローチャートである。映像サーバ502は、まず起動時にステップS801で特定のファイル(OSによってはレジストリ等のシステムデータベース)から映像サーバの動作設定情報を読み出して、それに基づき動作を開始する。ここで、映像の獲得と符号化と蓄積を行うスレッドを生成し(最初このスレッドは休止状態)、クライアントであるビューワプログラムや映像変換サーバ5からのリクエストを受け付けるポートを開き、続いてステップS802のリクエスト受付状態に入る。
【0043】
リクエスト(接続リクエストもしくはコマンドリクエスト)が受け付けられたら、ステップS802を抜け、接続リクエストならばステップS803で接続の可否の判定を行う。否ならば接続拒否のエラーコードを返し、ステップS802に戻る。可ならば、ステップS804で接続処理として、クライアントごとのセッションを識別するためのセッション識別子を生成し、クライアントからのコマンドの受付処理を行うスレッドを生成し、クライアントの登録を行い、ステップS802に戻る。この際、リクエスト内容がライブ映像への接続であり、かつ、映像の獲得と符号化を行うスレッドが休止状態ならば、ステップS802に戻る前に、動作開始を指示する。
【0044】
生成されたクライアント対応のスレッドでは、ステップS807で対応するクライアントからのコマンドの受付を行う。コマンドが届いたならば、それを受け付け、映像処理を行う主プログラムへ受け渡す。主プログラムはステップS802でこれを受け、操作コマンドに対してはステップS805へ進み、映像の獲得や符号化・送信等に関する設定の変更操作を行って、その結果(操作の成功か失敗を示すコード)をコマンド要求を受け付けたクライアント対応のスレッドへ伝える。クライアント対応のスレッドはステップS808で、この結果をクライアントへ送り返す。
【0045】
主プログラム部分では、ステップS804からの映像の獲得と符号化を行うスレッドへの動作開始の指示により、ステップS806では前もって設定された時間間隔で映像データを映像キャプチャボード302を使って獲得し、これを圧縮データに変換する。さらにこの圧縮データを、ライブ映像に接続しているすべてのクライアント対応のスレッドに伝える。各クライアント対応のスレッドはステップS809でクライアントからの次映像フレーム送信要求の有無を判定し、要求があるならば、圧縮データをクライアントへ配送する。ライブ映像に接続しているクライアント対応のスレッドが、クライアントからの次映像フレーム送信要求(これはクライアントでの圧縮映像データの受取り完了に対して、送り返されるのが一般的である)を受取った場合には映像フレーム送信要求のフラグを設定する。また、クライアントから接続終了のコマンドを受けたならば、それを主プログラムへ通達し、さらにステップS810で自身のスレッドを終了する。
【0046】
図9はPTZシーケンスを作成する時の携帯電話端末7の状態を例示した図である。PTZシーケンスを作成する際には、携帯電話端末のキーに図示のように、パン(カメラの横振り)、チルト(カメラの縦振り)、ズーム(拡大倍率変更)、逆光補正等の機能が割り当てられる。なお、この画面は図6のフローチャートで説明したPTZシーケンス入手操作を行うためのユーザインタフェースであり、ここで作成されたPTZシーケンスはステップS602での処理に用いられる。
【0047】
ここで、図16を参照して、PTZシーケンスの作成の流れについて述べる。まず、ステップS901で、事前に取得したカメラサーバの識別子を使って、カメラサーバのカメラ制御によって可視範囲に入る画像を合成したパノラマ画像、事前にカメラサーバに設定されているカメラ制御情報(プリセット情報)、及び、現在のカメラ状態パラメータ(パン角、チルト角、ズーム値等)を、カメラサーバ1から取得する。
【0048】
次に、ステップS902で、PTZシーケンスの初期値として空データを設定し、また、表示用カメラ状態パラメータ及び設定用カメラ状態パラメータとして取得した現在のカメラ状態パラメータを設定する。
【0049】
次に、ステップS903で、表示用カメラ状態パラメータに従って可視領域を計算し、可視領域に相当する画像をパノラマ画像から切り出して携帯電話端末7の画面に表示する。
【0050】
次に、ステップS904で、ユーザからのキー入力を受取る。キー入力が、カーソルキーによる可視領域の変更、或いは、プリセット位置への移動の指示であった場合には、ステップS905で、表示用カメラ状態パラメータを変更し、ステップS903に進む。キー入力が、PTZシーケンスを追加/修正等の編集指示であった場合には、ステップS906で、PTZシーケンスの値を変更し、ステップS903に進む。PTZシーケンス追加の場合には、その時点の表示用カメラ状態パラメータと設定用カメラ状態パラメータとの差分から制御すべきカメラ制御値を計算し、そのカメラ制御値をPTZシーケンスに追加する。そして、表示用カメラ状態パラメータを設定用カメラ状態パラメータの新しい値とする。キー入力が、PTZシーケンス作成の終了を指示する場合には、ステップS907に進んだ上で、決定やキャンセルを判定し、決定である場合には、PTZシーケンスをステップS602へ送り、処理を終了する。
【0051】
図10はカメラサーバ1の用いる設定値、すなわち、カメラ制御サーバ501や映像サーバ502が読み出す動作設定情報を特定のファイル(OSによってはレジストリ等のシステムデータベース)に設定するカメラサーバ設定プログラムの表示画面の一例を示す図であり、カメラ制御サーバ501、映像サーバ502、動画品質、接続制限事項等に関する各種のパラメータ(後述)を設定できるようになっている。OKボタンを押すと設定した値が特定のファイル或いはレジストリに書き込まれ、キャンセルすると書き込まれずに終了する。
【0052】
図11はカメラサーバ1の設定プログラムによる処理動作の流れを示すフローチャートである。設定プログラムは、まず起動時にステップS1101でカメラ制御サーバ及び映像サーバに関する設定情報を格納した特定のファイル(OSによってはレジストリ等のシステムデータベース)から設定情報を読み出し、内部データに設定する。以降、ユーザの操作入力を受取り、実施するループを繰り返す。
【0053】
ステップS1102でユーザの操作入力を待ち、入力があればそれを受取り、続いてステップS1103で入力された値が適正範囲内であるか否かを判定し、適正でなければステップS1104でエラーメッセージを出力して、値を戻して、ユーザの入力待ちステップS1102へ戻る。適正範囲内であるならば、内部データを更新して、ステップS1102に戻る。ここで設定できる値としては、カメラ制御の通信用のTCPポート番号、カメラと接続するCOM(シリアル)ポート、シャッタースピード、カメラ制御関連のログ情報の有無とログファイル名、映像関連の通信用のTCPポート番号、ログ情報の有無とログファイル名、映像をキャプチャする時間間隔を規定するフレームレートと圧縮の品質を決めるQ−Factor、圧縮の元データの画面サイズ、1つのクライアントビューワの最大接続時間、カメラ制御に関する制御権の順番待ち人数、1つのビューワの制御権保持占有時間、映像とカメラ制御に関する接続可能な最大クライアント数等の項目がある。
【0054】
ユーザからの入力がOKボタンの場合には、ステップS1102からステップS1105に進み、更新された内部データをカメラ制御サーバ501及び映像サーバ502に関する設定情報を格納する特定のファイル等へ書き出し、ステップS1106で変更を反映するためにカメラサーバ1を再起動するかを尋ねるパネルを出す。再起動する場合にはステップS1107でカメラ制御サーバ501や映像サーバ502等を再起動して、ステップS1108で設定プログラムを終了する。再起動しない場合にはステップS1106から直接ステップS1108に進み、終了する。
【0055】
また、ステップS1102でのユーザの入力がキャンセルボタンである場合には、ステップS1102から直接ステップS1108に進み、終了する。
【0056】
図12は映像変換サーバ5における映像データの大まかな流れを模式化した図である。カメラサーバ1から送信されたソース映像データ(Motion JPEG、QVGAサイズ320x240)は、映像変換サーバ5のカメラサーバ向け通信スタックを経由して受信され、JPEGデコーダに渡され、続いて、携帯電話端末向けに設定されたMPEG−4エンコーダに渡され、携帯電話向け映像データ(MPEG−4 simpleprofile、QCIFサイズ176x144、64Kbps)に加工された上で、映像クリップとして、携帯電話網10向けの通信スタックを経由して、携帯電話端末7のビューワへと送信される。
【0057】
図13は映像変換サーバ5での処理動作の流れを示すフローチャートである。映像変換サーバ5は、まず起動時にステップS1301で特定のファイル(OSによってはレジストリ等のシステムデータベース)から映像変換サーバの動作設定情報を読み出して、それに基づき動作を開始する。ここで、クライアントである携帯電話ビューワプログラムからのリクエストを受け付ける通信ポートを開き、続いてステップS1302のリクエスト受付状態に入る。
【0058】
リクエスト(HTTPリクエストのメッセージ等)が受け付けられたら、ステップS1302を抜け、ステップS1303で接続の可否の判定を行う。否ならば接続拒否のエラーコードを返し、ステップS1302に戻る。可ならば、ステップS1304で接続処理として、クライアントとの情報の受渡しを行うクライアント対応スレッドを生成し、クライアントの登録を行い、ステップS1302に戻る。
【0059】
生成されたクライアント対応スレッドでは、ステップS1311で対応するクライアントからのリクエストを読み込み、内容を解析する。リクエストは、典型的にはHTTPリクエストとして、映像変換サーバ5に渡される。なお、HTTPリクエストには、POSTメソッドが使われる場合もあり、GETメソッドが利用される場合もある。
【0060】
次に、ステップS1312で、リクエスト内容からエンコードパラメータ情報(映像変換パラメータ)、カメラサーバ1への接続情報(ソース映像情報)、PTZシーケンス、映像クリップの最大サイズ(映像クリップ上限値)、及び、通知先情報(通知先アドレス)を取り出す。これらは、それぞれ『videoencodeparam=』『cameraservers=』『PTZ=』『moviesizemax=』『notifyto=』の値として指示されている。
【0061】
映像変換パラメータは、変換用コーデックの選択やそのコーデックへのパラメータ、及び、コーデック入力用/出力用のデータ形式等を記述している。ソース映像情報とは、例えばライブ映像を提供するカメラサーバ1のネットワークアドレスとポート番号等の通信属性情報である。通知先アドレスとは、典型的にはユーザの携帯電話端末7を指定したメールアドレスである。
【0062】
次に、ステップS1313で、HTTPリクエストに対するHTTPレスポンスとして、『すぐに映像を生成できないので、しばらくしてメール連絡します』との旨を示す情報を返す。
【0063】
次に、ステップS1314で、ソース映像情報に従って、映像取得部506を初期化する。具体的には、ソース映像を提供するカメラサーバ1に接続し、ソース映像取得を開始する。
【0064】
そして、ステップS1315に進み、映像変換パラメータに従って映像変換部507を初期化する。この映像変換部507は、MPEG−4エンコーダ等から構成される。そして、ステップS1316に進み、映像送信部508を初期化する。この際、映像送信部508に映像クリップ上限値、及び、通知先アドレスを指示する。さらに、ステップS1317に進み、映像取得部506から映像変換部507へ、映像変換部507から映像送信部508へとそれぞれの処理データが受渡しされるように相互の関連付けを行った上で、カメラ制御部505がPTZシーケンスに従ってカメラサーバ1のカメラ制御を行う。
【0065】
そして、ステップS1318に進み、映像取得部506、映像変換部507、映像送信部508の後処理を行う。そして、ステップS1319に進み、クライアント対応スレッドを終了する。
【0066】
次に、映像変換サーバ5の中で機能している映像取得部506、映像変換部507、映像送信部508、カメラ制御部505について順次説明する。映像取得部505は、まず初期化時に受取ったソース映像情報に従ってライブ映像を提供するカメラサーバ1に接続する。そして、カメラサーバ1から映像データを取得し、取得時のタイムスタンプを付与して映像データを映像変換部507へ渡す。本実施形態におけるカメラサーバ1は、映像データをMotion JPEG形式で提供するので、タイムスタンプが付与されるのは個々のJPEGデータである。
【0067】
映像変換部507では、まず初期化時に受取ったコーデックへのパラメータ、及び、コーデック入力用/出力用のデータ形式等をMPEG−4エンコーダに設定する。そして、映像取得部506から受取ったソース映像データを、コーデック入力用のデータ形式及び画像サイズに整えてからMPEG−4エンコーダに入力し、その処理結果を映像送信部508へ渡す。本実施形態における映像変換部507では、JPEG形式のソース映像データを、予めQCIFサイズかつYUV411形式に整えてからMPEG−4コーデックへ入力し、生成されたMPEG−4データ(I−frame又はP−frame)を映像送信部508へ受け渡す。この際、映像取得部506で付与されたタイムスタンプも併せてMPEG−4コーデックへ入力される。
【0068】
映像送信部508では、まず初期化時に受取った映像クリップ上限値に従ってメモリ領域を確保する。そして、映像変換部507が生成した携帯電話向け映像データを受取り、確保したメモリ領域に保持する。映像送信部508では、カメラ制御部505から得られるPTZシーケンスの指示内容等から現在得られている映像データの評価値(優先度)を計算し、メモリ領域の利用率をも加味して、映像クリップの分割点を決定する。そして、分割点と判断した場合には、メモリ領域に保持している映像クリップをファイルとして保存し、メモリ領域を再利用する。これによって、映像クリップが複数のファイルに分割保存される。そして、カメラ制御部505からPTZシーケンスの終了を通知された時点で、メモリ領域に保持している映像クリップの残りを同様にファイルとして保存した上で、それまでに保存している複数の映像クリップへのリンク情報を埋め込んだ携帯電話端末7への通知情報を作成し、初期化時に受取った通知先アドレスへ通知する。これによって、通知情報を受取った携帯電話端末7から各映像クリップへのダウンロード要求を可能とする。なお、映像送信部508はHTTPサーバ機能を備えており、携帯電話端末7からのHTTP利用の映像クリップのダウンロード要求に対応する。
【0069】
また、映像送信部508における優先度の計算は、映像変換部507から映像データを取得した時点で行われ、例えば次のように計算される。その結果、時間経過に対して、図14に示すように変化する優先度が得られる。
(0) 映像変換部507から得られた一つ前の映像データの優先度をpriとする。なお、priの初期値は0とする。
(1) もしもカメラ制御部505からプリセット指定(ホームポジション指定を含む)或いはカメラサーバ切換えを意味する指示内容が通知されているならば、priに3を加える。
(2) もしもカメラ制御部505から(カメラサーバ内の)カメラ切換えを意味する指示内容が通知されているならば、priに2を加える。
(3) もしもカメラ制御部505からパン/チルト/ズームを意味する指示内容が通知されているならば、priに1を加える。
(4) もしもカメラ制御部505からの通知がないならば、priに0.9を掛ける。
(5) ただし、計算の結果が3を越える場合には、優先度を3とする。
【0070】
次に、カメラ制御部505では、PTZシーケンスを解釈して、カメラサーバ1に送るべきカメラ制御コマンドを作成し、PTZシーケンスに指示されたタイミングで作成したカメラ制御コマンドをカメラサーバ1に送信することで、カメラサーバ1のカメラ制御を行う。
【0071】
また、PTZシーケンスの解釈に際して、プリセット位置への移動や変動量の多いパン/チルト/ズーム(例えば、制御可能量の20%以上の変動)等を検出した場合には、分割可能ポイントを映像送信部508に伝える。そして、PTZシーケンスを解釈し終えた時点で、PTZシーケンスの終了を映像送信部508に通知する。
【0072】
以上述べたように、携帯電話端末7上に実装された映像クリップビューワを使うユーザは、カメラ制御のためのPTZシーケンスを指定した上で、映像変換サーバ5に映像クリップを要求することができる。そして、映像変換サーバ5の機能により、ネットワーク9上に配置された複数のカメラサーバ1について、PTZシーケンスによる制御の結果得られるソース映像内容を携帯電話端末7で処理可能な映像クリップとして受取ることができる。これにより、ネットワーク9上に配置されたカメラサーバ1から送られるライブ映像を、携帯電話端末7向けに変換して中継することができる。特に、本実施形態の映像変換サーバ5では、カメラサーバ1を制御するPTZシーケンスを指定して映像クリップを生成する点と、携帯電話端末7向けに適切な映像クリップに分割して提供する点とに特徴がある。
【0073】
なお、本実施形態では、携帯電話網10とネットワーク9とを結ぶゲートウェイ6とは独立にネットワーク10上に映像変換サーバ5が実装される例について説明したが、映像変換サーバ5がゲートウェイ6の一部として実装されても良い。また、映像変換サーバ5とゲートウェイ6とが、VPN(Virtual Private Network)等も含めて専用線で接続されるような接続形態も可能である。
【0074】
本実施形態では、すべての携帯電話端末ユーザに同一の映像サービスを提供する例について説明しているが、ユーザの契約状況や課金の有無、或いは、携帯電話端末の性能等に応じて、異なった映像サービス適用するように映像変換サーバを設計しても良い。
【0075】
本実施形態では、映像変換サーバ5が接続するカメラサーバ1を一つ指定しているが、複数のカメラサーバ1の指定も含めてPTZシーケンスを構成しても良い。例えば、次のようなPTZシーケンスが考えられる。ただし、PTZシーケンスに含まれる『Cn』は、n番目のカメラサーバへの接続切換えを指定している。
cameraservers=(webview://cam1.univ.ac.jp:34560+34561+34562)(webview://cam2.univ.ac.jp:34560+34561+34562)(webview://cam3.univ.ac.jp:34560+34561+34562)
PTZ=C1HZ15_30C2S3_40C3S4_40P−10_20
【0076】
さらに、例えば次の通り、カメラサーバ1の指定をもPTZシーケンスに織り込む実装も可能である。ただし、PTZシーケンスに含まれる『C(x)』は、xで記述されるカメラサーバ1への接続切換えを指定している。
cameraservers=
PTZ=C(webview://cam1.univ.ac.jp:34560+34561+34562)HZ15_30C(webview://cam2.univ.ac.jp:34560+34561+34562)S3_40C(webview://cam3.univ.ac.jp:34560+34561+34562)S4_40P−10_20
【0077】
本実施形態では、映像変換サーバ5がステップS1313でHTTPレスポンスとして『すぐに映像を生成できないので、しばらくしてメール連絡します』旨を示すレスポンスに返しているが、PTZシーケンスを指定されなかった場合(空だった場合)には、定期的に作成しておいた映像クリップを添付してHTTPレスポンスを返すことも考えられる。
【0078】
本実施形態では、カメラ制御部から通知されるPTZシーケンスの指示内容に基づいて映像クリップの分割点を判断しているが、これは、カメラサーバ1から通知されるカメラ状態パラメータに基づいて分割を判断する方式であっても良い。また、カメラ制御権が取得できない場合や、カメラ制御中に映像データにブラー(パン/チルト時の画像の乱れ)が発生した場合には、一時的に優先度を下げるようにしても良い。
【0079】
また、カメラ制御権が一定時間以上取得できない場合には、映像クリップの作成を断念し、その旨、携帯電話端末7に通知することも考えられる。逆に、本実施形態の映像変換サーバ5からカメラサーバ1への接続については、特権接続を適用して、常に要求した時点でカメラ制御権を取得するよう実装することも考えられる。
【0080】
(第2の実施形態)
第2の実施形態では、上記第1の実施形態と同様、インターネット上に配置されたカメラサーバ1から送られるライブ映像を、携帯電話端末7向けに変換して中継する例について説明する。特に、第2の実施形態では、映像変換サーバ5が、映像クリップの分割を携帯電話端末7からの映像クリップのダウンロード要求がある時点まで遅らせる点に特徴がある。なお、システム全体の構成、各装置の構成等については上記第1の実施形態で説明したものと同様であり、図13で示した映像変換サーバ5での処理動作の一部が相違する。以下では上記第1の実施形態との相違点を中心について説明する。
【0081】
第2の実施形態の映像送信部508では、まず映像変換部507で生成される映像データを保存する映像ファイルvfile及び映像ファイルに関するインデックスファイルifileを用意する。そして、映像変換部507が生成した携帯電話向け映像データを受取り、順次映像ファイルvfileに追加保存してゆく。
【0082】
同時に、映像送信部508では、カメラ制御部505からの得られるPTZシーケンスの指示内容等から現在得られている映像データの重要度(優先度)を計算し、映像ファイルの書き込み位置と優先度とからなるインデックス情報を順次インデックスファイルifileに追加保存してゆく。つまり、本実施形態の映像送信部508では、この時点での映像クリップの分割を行わない。
【0083】
そして、カメラ制御部505からPTZシーケンスの終了を通知された時点で、インデックスファイルifileをスキャンして、優先度の変化状況及び映像クリップ上限値とを加味して、映像クリップの分割点を決定する。そして、その分割に応じた複数の映像クリップへのリンク情報を埋め込んだ携帯電話端末への通知情報を作成し、初期化時に受取った通知先アドレスへ通知する。
【0084】
さらに、映像送信部508に備えるHTTPサーバ機能では、上述の映像クリップへのダウンロード要求を、通常のファイルダウンロードとは区別し、携帯電話端末7からの映像クリップのダウンロード要求を受取った時点で、上記分割点に相当する映像クリップを映像ファイルvfileから切り出し、携帯電話端末7へ送信する。
【0085】
以上述べたように、インターネット上に配置されたカメラサーバ1から送られるライブ映像を、携帯電話端末7向けに変換して中継することができる。特に、本実施形態の映像変換サーバ5では、映像クリップの分割を、携帯電話端末7からの映像クリップのダウンロード要求がある時点まで遅らせる点に特徴がある。
【0086】
本実施形態では、サイズの上限値を制約された映像クリップとして携帯電話端末7にカメラサーバ1の映像を提供する実装について説明しているが、必要なユーザに対しては、作成した映像ファイルvfileの全体をストリーミング配送する実装も考えられる。
【0087】
(その他の実施形態)
【0088】
なお、本発明の目的は、上記実施形態のいずれかの装置又はシステムの機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、装置又はシステムに供給し、その装置又はシステムのコンピュータ(CPU又はMPU等)が記憶媒体に格納されたプログラムコードを読み出して実行することによっても、達成されることは言うまでもない。
【0089】
この場合、記憶媒体から読み出されたプログラムコード自体が上記実施形態で説明した機能を実現することとなり、そのプログラムコードを記憶した記憶媒体及び当該プログラムコードは本発明を構成することとなる。
【0090】
プログラムコードを供給するための記憶媒体としては、ROM、フロッピー(R)ディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード等を用いることができる。
【0091】
また、コンピュータが読み出したプログラムコードを実行することにより、上記実施形態で説明した機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS等を利用して実際の処理の一部又は全部が行われ、その処理によって上記実施形態で説明した機能が実現される場合も本発明の実施の態様に含まれることは言うまでもない。
【0092】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行い、その処理によって上記実施形態で説明した機能が実現される場合も本発明の実施の態様に含まれることは言うまでもない。
【0093】
このようなプログラム又は当該プログラムを格納した記憶媒体に本発明が適用される場合、当該プログラムは、例えば、上述したフローチャートに対応したプログラムコードから構成される。
【0094】
なお、上記実施形態において示した各部の形状及び構造は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその精神、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
【0095】
以下、本発明の実施態様の例を列挙する。
(実施態様1) ネットワークに接続される映像中継装置であって、
上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手段と、
上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換手段と、
上記変換後の映像データを送信する映像送信手段とを備えることを特徴とする映像中継装置。
【0096】
(実施態様2) 上記映像変換手段は、上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを携帯情報端末向けに変換し、上記映像送信手段は、携帯情報端末を通信相手として上記変換後の映像データを送信することを特徴とする実施態様1に記載の映像中継装置。
【0097】
(実施態様3) 上記映像送信手段は、複数の映像データを取りまとめた映像ファイルを単位として送信する映像ファイル送信手段により構成されることを特徴とする実施態様1又は2に記載の映像中継装置。
【0098】
(実施態様4) 上記映像ファイル送信手段は、標準化されているHTTPを使って映像ファイルを送信することを特徴とする実施態様3に記載の映像中継装置。
【0099】
(実施態様5) クライアントからの要求に応じて映像ファイルを分割する映像ファイル分割手段を更に備え、
上記映像ファイル送信手段は、映像ファイルを分割した上で、分割後の映像ファイルの個別のダウンロード要求に応えることを特徴とする実施態様3又は4に記載の映像中継装置。
【0100】
(実施態様6) 上記映像変換手段が生成する個々の映像データごとに優先度を計算する優先度評価手段を更に備え、
上記映像ファイル分割手段は、上記優先度評価手段の算出する優先度に基づいて映像ファイルを分割することを特徴とする実施態様5に記載の映像中継装置。
【0101】
(実施態様7) クライアントからの映像要求にはカメラ制御情報及びカメラサーバ切換え情報が含まれており、上記優先度評価手段は、上記カメラ制御情報及びカメラサーバ切換え情報に基づいて優先度を計算することを特徴とする実施態様6に記載の映像中継装置。
【0102】
(実施態様8) 上記優先度評価手段は、上記カメラサーバに対して要求したカメラ制御権が取得できなかった場合には、優先度を低く評価することを特徴とする実施態様6に記載の映像中継装置。
【0103】
(実施態様9) クライアントからの映像要求にはクライアントが受取り可能な映像ファイルの上限サイズが含まれており、上記優先度評価手段は、それまでに生成された映像ファイルのサイズとその上限サイズに基づいて優先度を計算することを特徴とする実施態様6に記載の映像中継装置。
【0104】
(実施態様10) 上記カメラサーバの映像送出パラメータ及び撮像パラメータを制御するカメラ制御手段を更に備え、
上記映像受信手段は、上記ネットワーク上のカメラ制御可能なカメラサーバの映像をソース映像として受信することを特徴とする実施態様1〜9のいずれか1項に記載の映像中継装置。
【0105】
(実施態様11) クライアントからの映像要求には、カメラ制御情報及びカメラサーバ切換え情報が含まれていることを特徴とする実施態様1〜10のいずれか1項に記載の映像中継装置。
【0106】
(実施態様12) 上記映像送信手段は、分割前の映像ファイルをストリーミングすることを特徴とする実施態様1〜11のいずれか1項に記載の映像中継装置。
【0107】
(実施態様13) 上記映像送信手段は、映像データを送信可能になった時点でクライアントにメール通知することを特徴とする実施態様1〜12のいずれか1項に記載の映像中継装置。
【0108】
(実施態様14) 携帯電話回線網とインターネットとを仲介するゲートウェイに実装されることを特徴とする実施態様1に記載の映像中継装置。
【0109】
(実施態様15) 映像中継装置が接続されるネットワークと携帯情報端末が接続される携帯情報端末通信網とが仲介されている映像通信システムであって、上記映像中継装置は、上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手段と、上記取得した映像データを上記携帯情報端末向けに変換する映像変換手段と、上記変換後の映像データを上記携帯情報端末に送信する映像送信手段とを備えることを特徴とする映像通信システム。
【0110】
(実施態様16) ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手順と、
上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換手順と、
上記変換後の映像データを送信する映像送信手順とを有することを特徴とする映像中継方法。
【0111】
(実施態様17) ネットワークに接続される映像中継装置を制御するためのコンピュータプログラムであって、
上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信処理と、
上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換処理と、
上記変換後の映像データを送信する映像送信とを実行させることを特徴とするコンピュータ読み取り可能な記憶媒体。
【0112】
(実施態様18) 実施態様17に記載のコンピュータプログラムを格納したことを特徴とするコンピュータ読み取り可能な記憶媒体。
【0113】
【発明の効果】
以上述べたように本発明によれば、ネットワーク上のカメラサーバからソース映像データを取得し、その取得した映像データを携帯情報端末向けに変換するようにしたので、ネットワーク上から取得した映像データを携帯電話端末等の携帯情報端末向けに適切に提供することができる。
【図面の簡単な説明】
【図1】本実施形態によるライブ映像通信システムの全体構成を示す図である。
【図2】映像変換サーバ5のハードウェア構成の一例を示す図である。
【図3】カメラサーバ1のハードウェア構成の一例を示す図である。
【図4】携帯電話端末7のハードウェア構成の一例を示す図である。
【図5】カメラサーバ1、映像変換サーバ5、携帯電話端末7上のプログラムの構成する部分を模式化した図である。
【図6】携帯電話端末7上のビューワによる処理動作の流れを示すフローチャートである。
【図7】カメラサーバ1内のカメラ制御サーバ501による処理動作の流れを示すフローチャートである。
【図8】カメラサーバ1内の映像サーバ502による処理動作の流れを示すフローチャートである。
【図9】PTZシーケンスを作成する時の携帯電話端末7の状態を例示した図である。
【図10】カメラサーバ設定プログラムの表示画面の一例を示す図である。
【図11】カメラサーバ1の設定プログラムによる処理動作の流れを示すフローチャートである。
【図12】映像変換サーバ5における映像データの大まかな流れを模式化した図である。
【図13】映像変換サーバ5での処理動作の流れを示すフローチャートである。
【図14】映像変換サーバ5における映像データの優先度の推移について説明するための図である。
【図15】携帯電話端末7での画面表示例を示す図である。
【図16】PTZシーケンスの作成の流れを示すフローチャートである。
【符号の説明】
1 カメラサーバ
3 パーソナルコンピュータ
4 中継サーバ
5 映像変換サーバ
6 ゲートウェイ
7 携帯電話端末
9 ネットワーク
10 携帯電話回線網
505 カメラ制御部
506 映像取得部
507 映像変換部
508 映像送信部
Claims (1)
- ネットワークに接続される映像中継装置であって、
上記ネットワーク上のカメラサーバからソース映像データを取得するための映像受信手段と、
上記取得した映像データの形式、画像サイズ、コーデックの少なくともいずれかを変換する映像変換手段と、
上記変換後の映像データを送信する映像送信手段とを備えることを特徴とする映像中継装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003134021A JP2004343175A (ja) | 2003-05-13 | 2003-05-13 | 映像中継装置 |
US10/810,703 US20040189871A1 (en) | 2003-03-31 | 2004-03-29 | Method of generating moving picture information |
CNB2004100306047A CN100493177C (zh) | 2003-03-31 | 2004-03-30 | 动图像信息的生成方法及分发设备 |
US13/329,432 US8692897B2 (en) | 2003-03-31 | 2011-12-19 | Method of generating moving picture information |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003134021A JP2004343175A (ja) | 2003-05-13 | 2003-05-13 | 映像中継装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004343175A true JP2004343175A (ja) | 2004-12-02 |
Family
ID=33524685
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003134021A Pending JP2004343175A (ja) | 2003-03-31 | 2003-05-13 | 映像中継装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004343175A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008523718A (ja) * | 2004-12-06 | 2008-07-03 | ヒューレット−パッカード デベロップメント カンパニー エル.ピー. | 音声・映像コンテンツのダウンロード及び再生を同時に行う方法及びシステム |
US7742068B2 (en) * | 2005-09-14 | 2010-06-22 | Sorenson Communications, Inc. | Method and system for auto configuration in a video phone system |
US7746984B2 (en) | 2005-09-14 | 2010-06-29 | Sorenson Communications, Inc. | Method and system for call initiation in a video relay service |
US7746985B2 (en) | 2005-09-14 | 2010-06-29 | Sorenson Communications, Inc. | Method, system and device for relay call transfer service |
US7873974B2 (en) * | 2005-09-19 | 2011-01-18 | Sony Corporation | Identification of television programming using a portable wireless device |
JP2011124852A (ja) * | 2009-12-11 | 2011-06-23 | Canon Inc | 再生装置及び制御方法 |
-
2003
- 2003-05-13 JP JP2003134021A patent/JP2004343175A/ja active Pending
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008523718A (ja) * | 2004-12-06 | 2008-07-03 | ヒューレット−パッカード デベロップメント カンパニー エル.ピー. | 音声・映像コンテンツのダウンロード及び再生を同時に行う方法及びシステム |
US7742068B2 (en) * | 2005-09-14 | 2010-06-22 | Sorenson Communications, Inc. | Method and system for auto configuration in a video phone system |
US7746984B2 (en) | 2005-09-14 | 2010-06-29 | Sorenson Communications, Inc. | Method and system for call initiation in a video relay service |
US7746985B2 (en) | 2005-09-14 | 2010-06-29 | Sorenson Communications, Inc. | Method, system and device for relay call transfer service |
US7873974B2 (en) * | 2005-09-19 | 2011-01-18 | Sony Corporation | Identification of television programming using a portable wireless device |
JP2011124852A (ja) * | 2009-12-11 | 2011-06-23 | Canon Inc | 再生装置及び制御方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8692897B2 (en) | Method of generating moving picture information | |
JP4546202B2 (ja) | 映像受信装置とその制御方法とプログラム及び記憶媒体 | |
US6646677B2 (en) | Image sensing control method and apparatus, image transmission control method, apparatus, and system, and storage means storing program that implements the method | |
US20090070840A1 (en) | Terminal-Cooperated System, Terminal, Server and Method for Uninterrupted Reception of Contents | |
KR100654783B1 (ko) | 화상배신방법 | |
US7508413B2 (en) | Video conference data transmission device and data transmission method adapted for small display of mobile terminals | |
JP3659528B2 (ja) | テレビ会議システム | |
JP2007208458A (ja) | 通信システム、通信端末および通信方法 | |
JP2004193979A (ja) | 映像配信システム | |
JP4878487B2 (ja) | 情報配信装置、情報配信システム、情報処理方法、およびプログラム | |
US10542213B2 (en) | Imaging apparatus | |
JP2004343175A (ja) | 映像中継装置 | |
JP4401672B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2004282762A (ja) | 遠隔映像処理回路の制御方法およびそのシステム | |
JP4261934B2 (ja) | 映像クリップ生成装置、映像クリップ生成方法、プログラム及び記憶媒体 | |
JP4510519B2 (ja) | 映像通信装置、映像通信方法及びコンピュータプログラム | |
JP4181789B2 (ja) | 映像変換装置およびその方法 | |
JPH10136246A (ja) | カメラ制御システム、及び該システムにおけるカメラ管理装置及び方法、及びカメラ操作装置及び方法、及び記憶媒体 | |
JP4250449B2 (ja) | 映像通信システム、映像通信装置、端末及び端末のカメラ制御方法 | |
JP2005117566A (ja) | 画像提供サービスシステム | |
JPH11196404A (ja) | 映像発信装置及び映像受信装置及びその制御方法及び記憶媒体 | |
JP4791213B2 (ja) | 通信装置、通信方法及びプログラム | |
JP2007243605A (ja) | 通信装置、通信方法及びプログラム | |
JP2006211524A (ja) | 映像表示装置、映像処理装置の制御方法、プログラム、及び記憶媒体 | |
KR101492007B1 (ko) | Sip 기반의 통화와 디지털멀티미디어 공유를 지원하는 iptv를 이용한 정보 공유 방법 및 시스템 |