JP2002058002A - テレビ電話装置 - Google Patents

テレビ電話装置

Info

Publication number
JP2002058002A
JP2002058002A JP2000247943A JP2000247943A JP2002058002A JP 2002058002 A JP2002058002 A JP 2002058002A JP 2000247943 A JP2000247943 A JP 2000247943A JP 2000247943 A JP2000247943 A JP 2000247943A JP 2002058002 A JP2002058002 A JP 2002058002A
Authority
JP
Japan
Prior art keywords
moving image
data
jitter
image data
network
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2000247943A
Other languages
English (en)
Other versions
JP3707369B2 (ja
Inventor
Mikio Sugiyama
実輝雄 杉山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2000247943A priority Critical patent/JP3707369B2/ja
Publication of JP2002058002A publication Critical patent/JP2002058002A/ja
Application granted granted Critical
Publication of JP3707369B2 publication Critical patent/JP3707369B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Communication Control (AREA)
  • Telephonic Communication Services (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【課題】 ネットワークにジッタが発生した後に連続し
てパケットデータが到達した場合であっても受信バッフ
ァがオーバーフローしにくく、このように通常のタイミ
ングよりも遅れて到達したパケットデータを表示するこ
とで生じる表示画像の遅延を防止し、またジッタにより
受信バッファが空となった後に受信した動画像データを
破棄することなく正常に表示可能なテレビ電話装置を提
供する。 【解決手段】 ネットワークにジッタが発生しているか
判定するジッタ判定手段と、ネットワークにジッタが発
生している場合、符号化ビットレートを所定のレートに
下げるビットレート制御手段と、を有する。また、ネッ
トワークにジッタが発生している場合、入力されたパケ
ットデータから作製した動画像データの出力を行わない
動画像データ出力制御手段と、をさらに有する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、IP(internet p
rotocol )ネットワークを利用したテレビ電話装置に関
し、特に、ネットワークにジッタが発生した後に連続し
てパケットデータが到達した場合であっても受信バッフ
ァがオーバーフローしにくく、このように通常のタイミ
ングよりも遅れて到達したパケットデータを表示するこ
とで生じる表示画像の遅延を防止し、またジッタにより
受信バッファが空となった後に受信した動画像データを
破棄することなく正常に表示可能なテレビ電話装置に関
する。
【0002】
【従来の技術】近年、IPネットワークを利用するテレ
ビ電話装置(システム)が普及してきている。しかし、
IPネットワークにジッタが発生し、パケットデータが
ネットワークに滞留すると、ジッタ解消後、ネットワー
クにたまっていたパケットデータは、受信側テレビ電話
装置の受信バッファに通常のタイミングよりも遅れて入
力される。すなわち、ネットワークにジッタ(ゆらぎ)
が発生したことで、ジッタが発生していた期間中に正常
(通常)のタイミングで到達するはずであったパケット
データがジッタ解消後にまとめて、通常の受信タイミン
グよりも短い間隔で到達してしまう。
【0003】このようにジッタ解消後にパケットが連続
して到達するため、従来のテレビ電話装置では、受信バ
ッファがオーバーフローをおこしてしまうということが
指摘されている。
【0004】また、受信側テレビ電話装置の動画像デー
タの表示間隔時間と送信側テレビ電話装置の動画像デー
タの取込時間とが同じである場合、ジッタ発生により一
旦受信バッファの容量が空となり、正常なタイミングで
画像表示装置での動画像(表示)データの更新がされな
い期間があると、ジッタが解消してパケットデータが到
達して動画像データの表示を再開しても、この表示がさ
れなかった期間分の表示遅延、すなわちジッタ遅延によ
る動画像データの表示遅延が解消されなくなってしま
う。これについて、図6、図2(a)〜(c)を参照し
ながら説明する。
【0005】以下の説明においては、テレビ電話装置6
00は、ネットワークに接続された他のテレビ電話装置
と呼接続が正常に行われ、音声データ、および動画像デ
ータの通信を開始したものとする。上記他のテレビ電話
装置の構成は、テレビ電話装置600と同様のものとす
る。
【0006】ここでは、フロー制御装置114は、呼接
続の際に、各端末が使用する音声データおよび動画像デ
ータの符号化方式、および復号化方式の情報を取得した
ものとする。また、送信側テレビ電話装置600の動画
像データを取り込む間隔と、受信側テレビ電話装置60
0の動画像データを表示する間隔とが同じであり、か
つ、動画データ1フレームを1パケットデータとして送
信しているものとする。例えば、送信側の動画像入力装
置103が30フレーム毎秒の動画像取り込み能力を有
し、1パケットに1フレームのデータをパケット化して
送信し、受信側の動画像表示装置も30フレーム毎秒の
動画像表示能力を有している場合等である。
【0007】図6は、従来のテレビ電話装置の内部構成
図である。図6によれば、テレビ電話装置600は、音
声入力装置102と、動画像入力装置103と、符号化
装置106と、パケット化装置108と、送信バッファ
111と、通信制御装置113と、受信バッファ112
と、ストリーム化装置109と、復号化装置107と、
音声出力装置104と、動画像バッファ105と、を有
し、通信回線116を介して上記他のテレビ電話装置と
接続する。
【0008】送信側テレビ電話装置101の送信バッフ
ァ111には、動画像入力装置102から入力され符号
が装置106で符号化されパケット化装置108でパケ
ット化された動画像データが格納される。このパケット
データは、通信制御装置113を介して通信回線116
に送出され、受信側テレビ電話装置101に入力され
る。受信側テレビ電話装置101の通信制御装置113
を介して受信バッファ112に格納されたパケットデー
タは、ストリーム化装置109で上記パケット化の際に
付加されたデータが削除され動画像データとなり、復号
化装置107で復号化され、動画像バッファ105に出
力される。この動画像データは、画像表示装置に送出さ
れ、画像が表示される。
【0009】図2(a)は、送信側のテレビ電話装置6
00の送信バッファ111が通信制御装置113を介し
て通信回線116へパケットデータを送出するタイミン
グの一例を示す図である。図2(a)に示すように、送
信バッファ111は、一定のタイミングでパケットデー
タを送出する。図2(b)は、受信側のテレビ電話装置
600の受信バッファ112が通信制御装置113を介
して受信したパケットデータを示す。なお、図2は、左
側から右側へ時間軸がとられている。
【0010】図2(a)、および(b)に示すパケット
に付された数字が同じ数である場合、これらのパケット
は、同一のものであることを示す。すなわち、図2
(a)に「1」と付されたパケットは、図2(b)に
「1」と付されたパケットと同一である。つまり、図2
(a)、および(b)は、送信側のテレビ電話装置60
0の送信バッファ111から通信制御装置113を介し
て通信回線116へ送出されたパケット「1」が受信側
のテレビ電話装置600の通信制御装置113を介して
受信バッファ112に格納されたことを示している。こ
の際、送信バッファ111から送信されてから受信バッ
ファ112に受信されるまでには時間を要するため、図
2(b)における「1」と付されたパケットデータは、
図2(a)に「1」と付されたパケットデータよりも右
側に記されている。
【0011】図2に示す例では、(b)に「J1」と示
す期間中、通信回線116上でジッタが発生していたも
のとする。すなわち、IPネットワーク上でジッタが発
生していたものとする。そのため、パケットデータ
「2」以降のパケットデータは、送信側のテレビ電話装
置600の送信バッファ111から出力されているにも
関わらず、この「J1」期間中には、受信側のテレビ電
話装置600の受信バッファ112には入力されない。
このようにジッタが発生すると、受信側テレビ電話装置
の受信バッファ112には送信側テレビ電話装置の送信
バッファ111から出力されたパケットが到達しない期
間が生じてしまう。
【0012】そして、このジッタが解消すると、図2
(b)に「J2」と示す期間にあるように、パケットが
連続して到達する。すなわち、ネットワークにたまって
いたパケットデータは、送信バッファ111による送信
間隔、すなわち正常なパケット受信間隔よりもよりも短
い間隔で連続して受信バッファ112に到達する。図2
(b)に示すように、パケットデータ「8」の到達以
降、上記ジッタによるパケットデータ到達の遅れは解消
し、通常のタイミングによりパケットデータが到達する
ものとする。
【0013】図2(c)には、画像バッファ105の動
画像データの更新状況の一例を示す。なお、受信側のテ
レビ電話装置600の画像バッファ105が画像表示装
置に表示する表示データ(動画像データ)を更新する間
隔は、前記したように、送信側のテレビ電話装置600
が動画像入力装置103から動画像データを取り込む間
隔と同じとしている。図2(c)は、(b)に示す受信
バッファ112で受信したパケットデータが復号された
動画像データの更新を示す。また、図2(c)も、図2
(a)、(b)と同様に時間軸が左側から右側にとら
れ、「1」と付された動画像データは、「1」と付され
たパケットデータと同じデータ(動画像データ)を含む
ものとする。すなわち、受信バッファ112に入力され
たパケットデータ「1」は、ストリーム化装置1でスト
リーム化され復号化装置107で復号された動画像デー
タ「1」となり動画像バッファ105に入力されたもの
とする。
【0014】図2(b)の「J1」期間では、ネットワ
ークにおいてジッタが発生しているため、画像バッファ
105は、データが更新されない。すなわち、受信バッ
ファ112には、パケットデータ「2」以降のパケット
データがないため、画像バッファ105を更新すること
ができない。従って、この間、画像表示装置にはジッタ
が発生する前の動画像データ、すなわちパケット番号
「1」の動画像データが表示される。
【0015】図2(b)の「J2」期間では、受信バッ
ファ112は、連続してパケットデータを受信する。従
って、画像バッファ105は、動画像データが順次更新
される。すなわち、パケット番号「2」の動画像データ
は、ジッタ解消後の正常ではないタイミングで画像表示
装置に表示される。
【0016】前記したように、受信側テレビ電話装置6
00は、画像表示装置に表示する表示データ(動画像デ
ータ)を更新する間隔が、送信側テレビ電話装置600
が動画像入力装置103から動画像データを取り込む間
隔が同じである。そのため、「J1」期間において一度
ジッタが生じると、画像表示装置に表示される表示デー
タが更新される間隔は、正常なタイミングに戻ることが
なくなってしまう。すなわち、連続して到達したパケッ
トデータを復号し画像バッファ205を更新しても、受
信バッファ212が一度空になってしまった場合、図2
(c)に示す「2」と付した表示データ以降の表示デー
タのように、表示画像に遅延が発生してしまう。
【0017】言い換えれば、前記したように送信側テレ
ビ電話装置600の動画像入力装置の動画像取り込み能
力と受信側テレビ電話装置600の動画像表示能力とが
同じである場合、受信側テレビ電話装置の画像表示が1
コマでも遅れると、この後の画像表示もすべて遅延して
しまうのである。この表示画像の遅延は、ネットワーク
でパケットロスが発生し送信された動画像データがなく
なるか、または受信バッファ112が正常なタイミング
に戻るように動画像データを破棄しない限り、解消され
ずに蓄積されてしまう。このように、ネットワークにジ
ッタが発生した場合、表示遅延が蓄積してしまうという
ことが指摘されている。
【0018】さらに、受信側テレビ電話装置600は、
動画像データの表示間隔時間が送信側テレビ電話装置の
動画像データの取込時間よりも短い場合には、ジッタ発
生により一旦受信バッファ112の容量が空になると、
ジッタが解消してパケットが到達し始めてから動画像デ
ータが正常(通常)のタイミングで表示されるようにな
るまでに長い時間を必要としてしまうということが指摘
されている。以下、これについて、図1、図2(a)、
(b)、(d)を参照しながら説明する。なお、図2
(d)も、図2(a)、(b)と同様に時間軸が左側か
ら右側にとられ、図2(c)と同様に「1」と付された
動画像データは、「1」と付されたパケットデータと同
じデータを含むものとする。
【0019】図2(d)は、受信側テレビ電話装置60
0が画像表示装置に表示データを表示する更新間隔が送
信側テレビ電話装置600が動画像入力装置103から
動画像データを取り込む間隔よりも短い場合であること
を除き、図2(c)と同じ条件である。例えば、送信側
の動画像入力装置103が10フレーム毎秒の動画像取
込能力を有し、1パケットに1フレームのデータをパケ
ット化し送信するのに対し、受信側の動画像表示装置
は、30フレーム毎秒の動画像表示能力を有し、受信す
るパケット間隔より短い間隔で表示することができる場
合である。
【0020】図2(d)に示すように、ジッタが発生し
ている期間「J1」に対応する期間においては、表示画
像が「1」と付された表示データのまま更新されない。
「J2」に対応する期間においては受信バッファ112
に連続して入力されたパケットデータが、送信側の動画
像入力装置103の動画像取込能力よりも短い間隔で動
画像を表示している。「8」と付された動画像データ
は、通常のタイミングで画像バッファ205に格納され
るようになる。このように、正常のタイミングで動画像
データが表示されるようになるまで、すなわち画像バッ
ファ105の更新間隔が送信側のテレビ電話装置の送出
間隔と同じになるまで、ある程度の時間(図2の場合、
動画像データ「8」が表示されるまでの期間)を要して
しまうということが指摘されている。
【0021】これに対し、特許第2947302号に
は、入力信号の符号化データを階層化して、画質に与え
る影響の大きい成分から先にパケットに伝送するか、ま
たは、入力信号を帯域分割し、帯域に応じた符号化を行
い、低域成分の符号化データから先にパケット伝送する
第1の従来技術が開示されている。
【0022】また、特開平11−177623号公報に
は、受信側装置がジッタを監視し、このジッタと受信デ
ータのバッファリング量とを制御して、再生データを再
生するための調整を行う第2の従来技術が開示されてい
る。より詳しくは、この第2の従来技術は、送信パケッ
トを受信するためのバッファリング量をできる限り小さ
くして頭出しを早くすることと、再生の途切れをなくす
ためにバッファリング量を増やすという両課題を解決す
べく、会話における無音部分をカットしたり、捨ててい
いデータを捨てる等、ネットワーク状態の長期的な変化
を示す伝送ジッタ算出部からの出力に対しては受信側の
バッファリング量を緩やかに変化させ、短期的な変化に
対しては受信側のバッファリング量を急激に変化させ、
短期的な劣化状態が解消されたら元のバッファリング量
に戻し、遅延量の時間的推移に対してバッファリング量
を最適に設定するよう制御する。
【0023】
【発明が解決しようとする課題】しかしながら、上記第
1の従来技術によれば、高速パケット網にジッタ遅延が
生じた場合に、受信局がもつ映像フレーム同期内に受信
したパケットから得られるデータを用いて画像の復号を
行っても、画像形成に影響の大きいデータの欠落がな
く、リアルタイム性を損なうことなく、乱れのない画像
を復号することを可能とするが、ジッタ発生後に連続し
て到達するパケットにより受信バッファがオーバーフロ
ーすることや、表示遅延が蓄積されてしまうこと、正常
な表示タイミングに戻るまで時間を要してしまうという
こと等については何ら対応策を示しているとはいえな
い。
【0024】また、上記第2の従来技術によれば、通常
の大きさのパケットデータが送られてくるため、ジッタ
解消後パケットデータを通常のタイミングで受信するま
でには非常に多くの時間を要してしまう。従って、表示
遅延が蓄積されてしまうことや、正常な表示タイミング
に戻るまで時間を要してしまうということ等について、
有効な対応策を示しているとはいえない。
【0025】本発明は、上記問題点に鑑みなされたもの
であり、ネットワークにジッタが発生した場合、送信側
テレビ電話装置が動画像データの符号化ビットレートを
下げることにより、受信側テレビ電話装置の受信バッフ
ァの見かけ上の容量を増やし、ジッタ発生後に連続して
到達するパケットによる受信バッファのオーバーフロー
を防止するテレビ電話装置を提供することを目的とす
る。
【0026】本発明の他の目的は、受信側テレビ電話装
置の動画像データの表示間隔時間と送信側テレビ電話装
置の動画像データの取込時間とが同じで、ネットワーク
上にバッファ発生が発生した場合に、受信側テレビ電話
装置がパケットを正常のタイミングで受信するまで動画
像データの表示を更新せず、正常なタイミングで受信し
た後に表示を更新することにより、動画像データの表示
遅延が蓄積してしまうことを防止するテレビ電話装置を
提供することである。
【0027】本発明の他の目的は、受信側テレビ電話装
置の動画像データの表示間隔時間よりも送信側テレビ電
話装置の動画像データの取込時間の方が長く、ネットワ
ーク上にバッファ発生した場合に、送信側テレビ電話装
置が動画像データの符号化ビットレートを下げること
で、受信側テレビ電話装置がパケットを正常のタイミン
グで表示し始めるまでに要する時間を短くするテレビ電
話装置を提供することである。
【0028】本発明の他の目的は、ジッタが発生した
後、動画像データを正常なタイミングで表示可能となる
までの間に、フレームデータである符号化データを表示
することにより、表示を再開するまでの時間を短縮し、
かつ高品質な画像を表示することが可能となるテレビ電
話装置を提供することである。
【0029】本発明の他の目的は、ジッタが発生した
後、動画像データを正常なタイミングで表示可能となる
までの間に、特にジッタが発生している最中に到達した
動画像データの表示を更新することを可能とするテレビ
電話装置を提供することである。
【0030】
【課題を解決するための手段】かかる目的を達成するた
めに、請求項1記載のテレビ電話装置の発明によれば、
ネットワークにジッタが発生しているか判定するジッタ
判定手段と、ネットワークにジッタが発生している場
合、符号化ビットレートを所定のレートに下げるビット
レート制御手段と、を有することを特徴としている。
【0031】請求項2記載の発明によれば、請求項1の
テレビ電話装置において、ジッタ判定手段は、パケット
データが呼接続時に決定したタイミングで入力されなか
った場合にネットワークにジッタが発生していると判定
することを特徴としている。
【0032】請求項3記載の発明によれば、請求項2の
テレビ電話装置において、ジッタ判定手段は、入力され
たパケットデータに順次インクリメントされ付加された
シーケンス番号からタイミングでパケットデータが入力
されたか否かを判定することを特徴としている。
【0033】請求項4記載の発明によれば、請求項2の
テレビ電話装置において、ジッタ判定手段は、入力され
た動画像データに付加されたタイムスタンプ情報からタ
イミングでパケットデータが入力されたか否かを判定す
ることを特徴としている。
【0034】請求項5記載の発明によれば、請求項2の
テレビ電話装置において、ジッタ判定手段は、入力され
た音声データに付加されたタイムスタンプ情報からタイ
ミングでパケットデータが入力されたか否かを判定する
ことを特徴としている。
【0035】請求項6記載の発明によれば、請求項1の
テレビ電話装置において、ジッタ判定手段は、受信バッ
ファに入力されたパケットデータの容量がしきい値以下
である場合にネットワークにジッタが発生していると判
定することを特徴としている。
【0036】請求項7記載の発明によれば、請求項1か
ら6のいずれか1のテレビ電話装置において、ビットレ
ート制御手段は、動画像データの符号化ビットレートを
下げることを特徴としている。
【0037】請求項8記載の発明によれば、請求項1か
ら7のいずれか1のテレビ電話装置において、ネットワ
ークにジッタが発生している場合、入力されたパケット
データから作製した動画像データの出力を行わない動画
像データ出力制御手段と、をさらに有することを特徴と
している。
【0038】請求項9記載の発明によれば、請求項8の
テレビ電話装置において、動画像データ出力制御手段
は、動画像データを画像表示装置へ出力する間隔が送信
側テレビ電話装置の動画像取り込み間隔よりも短い間隔
である場合にはネットワークにジッタが発生しても動画
像データの出力を行うことを特徴としている。
【0039】請求項10記載の発明によれば、請求項8
のテレビ電話装置において、動画像データ出力制御手段
は、動画像データがフレーム内符号化されたデータであ
る場合にはネットワークにジッタが発生しても動画像デ
ータの出力を行うことを特徴としている。
【0040】請求項11記載の発明によれば、請求項8
または10のテレビ電話装置において、ネットワークが
ジッタに発生している場合、入力されたパケットデータ
から作製した動画像データを記憶する動画像復号データ
バッファと、をさらに有し、動画像データ出力制御手段
は、動画像符号データバッファに記憶された動画像デー
タよりも最新の動画像データが作製されていない場合、
動画像符号データバッファに記憶された動画像データを
出力することを特徴としている。
【0041】請求項12記載のテレビ電話装置の発明に
よれば、ネットワークにジッタが発生しているか判定す
るジッタ判定手段と、ネットワークにジッタが発生して
いる場合、送信側テレビ電話装置に符号化ビットレート
を所定のレートに下げさせるビットレート変更手段と、
を有することを特徴としている。
【0042】請求項13記載の発明によれば、請求項1
2のテレビ電話装置において、動画像データ出力制御手
段は、動画像データを画像表示装置へ出力する間隔が送
信側テレビ電話装置の動画像取り込み間隔よりも短い間
隔である場合にはネットワークにジッタが発生しても動
画像データの出力を行うことを特徴としている。
【0043】請求項14記載の発明によれば、請求項1
2のテレビ電話装置において、動画像データ出力制御手
段は、動画像データがフレーム内符号化されたデータで
ある場合にはネットワークにジッタが発生しても動画像
データの出力を行うことを特徴としている。
【0044】請求項15記載の発明によれば、請求項1
2または14のテレビ電話装置において、ネットワーク
がジッタに発生している場合、入力されたパケットデー
タから作製した動画像データを記憶する動画像復号デー
タバッファと、をさらに有し、動画像データ出力制御手
段は、動画像符号データバッファに記憶された動画像デ
ータよりも最新の動画像データが作製されていない場
合、動画像符号データバッファに記憶された動画像デー
タを出力することを特徴としている。
【0045】
【発明の実施の形態】以下、本発明の実施の形態を添付
図面を参照しながら詳細に説明する。
【0046】以下には、本発明によるテレビ電話装置に
ついて説明する。また、本発明によるテレビ電話装置を
複数有するテレビ電話システムは、このテレビ電話装置
が複数、IPネットワークに接続されたものである。こ
のテレビ電話装置は、ネットワークにジッタが発生して
いるか判定し、ネットワークにジッタが発生している場
合、符号化ビットレートを所定のレートに下げる。ま
た、ネットワークにジッタが発生している場合、入力さ
れたパケットデータから作製した動画像データの出力を
行わない。なお、動画像データを画像表示装置へ出力す
る間隔が送信側テレビ電話装置の動画像取り込み間隔よ
りも短い間隔である場合にはネットワークにジッタが発
生しても動画像データの出力を行うようにしてもよい。
また、動画像データがフレーム内符号化されたデータで
ある場合にはネットワークにジッタが発生しても動画像
データの出力を行うようにしてもよい。また、ネットワ
ークがジッタに発生している場合、入力されたパケット
データから作製した動画像データを記憶する動画像復号
データバッファをさらに有し、動画像符号データバッフ
ァに記憶された動画像データよりも最新の動画像データ
が作製されていない場合、動画像符号データバッファに
記憶された動画像データを出力するようにしてもよい。
以下に詳述する。
【0047】<第1のテレビ電話装置の構成>図1は、
本発明による第1のテレビ電話装置の構成を示す構成図
である。テレビ電話装置101は、通信回線116を介
してネットワークに接続された図示しないテレビ電話装
置と接続し、このテレビ電話装置と音声データ、および
動画像データ等の通信を行う回路装置である。
【0048】音声入力装置102は、音声の入力、すな
わち音声を音声信号(データ)に変換し装置に入力する
もので、例えばマイクロフォン等を用いることができ
る。動画像入力装置103は、テレビ電話装置に取り込
む動画像キャプチャ装置等の動画像を動画像データに変
換し装置に入力するもので、例えばCCD(chargecoup
led device )カメラやNTSC(national television
system committee)カメラ等を用いることができる。
【0049】符号化装置106は、音声入力装置10
2、および動画像入力装置103と接続し、入力された
音声データ、および動画像データの符号化を行い符号化
データを作製し、この符号化データをパケット化装置1
08へ出力する。パケット化装置108は、上記符号化
データを通信制御装置113を介して通信回線116で
通信を行うためのデータ形式である所定のパケットに変
換し、パケットデータを作製する。
【0050】送信バッファ111は、パケット化装置1
08から入力されたパケットデータを格納するバッファ
メモリである。このパケットデータは、通信制御装置1
13からの指示により通信制御装置113、通信回線1
16を介して相手方のテレビ電話装置へ送出される。通
信制御装置113は、通信回線116を介し、送信バッ
ファ111に蓄えられたパケットデータを相手方のテレ
ビ電話装置へ送信する。また、相手方のテレビ電話装置
から通信回線116を介し送信されてきた(音声デー
タ、動画像データが符号化され、パケット化された)パ
ケットデータを受信し、これを受信バッファ112に入
力する。受信バッファ112は、通信制御装置113を
介して通信回線116から受信したパケットデータを一
時的に格納するバッファメモリである。
【0051】ストリーム化装置109は、パケット化時
に付加されたパケットヘッダ情報等を削除し、受信バッ
ファ112に蓄えられたパケットデータを音声データ、
および動画像データに分割し、ストリーム形式のデータ
とする。復号化装置107は、ストリーム化装置109
から入力されたデータを復号し、音声データ、および動
画像データを作製する。この音声データは、音声出力装
置104へ出力され、動画像データは、動画像バッファ
105へ出力される。
【0052】音声出力装置104は、音声の出力、すな
わち音声信号を音声に変換し出力するもので、例えばス
ピーカやヘッドフォン等を用いることができる。動画像
バッファ105は、図示しない画像表示装置(LCD
(liquid crystaldisplay)装置、ディスプレイ等)で
再生される動画像データを格納するバッファであり、こ
の動画像データを上記画像表示装置へ送出する。なお、
画像表示装置は、テレビ電話装置101の内部にあって
もよく、また外部にあってもよい。
【0053】データ制御装置110は、相手方のテレビ
電話装置との呼接続や、ストリーム通信中における符号
化装置106、復号化装置107等の制御等の各種制御
を行う。フロー制御装置114は、通信制御装置113
を介して通信相手から送られてくるネットワークのジッ
タ情報、パケットロス情報、ラウンドトリップタイム情
報等のネットワーク状況の情報、自端末のCPU性能、
および通信開始時の相手端末の音声・動画像の符号化・
復号化能力等に基づき、符号化装置106、および通信
制御装置113の制御を行う(符号化制御、送出制
御)。
【0054】データ入出力装置115は、ユーザからテ
レビ電話装置101への指示が入力され、この指示をデ
ータ制御装置110へ通知する。また、ユーザへ相手端
末からの着信を示す情報、自端末の情報、データ制御装
置110から入力された情報等の所定の情報が報知す
る。例えば、テンキーやキーボタン等の入力手段を有
し、通信先番号が入力され、またLED(light emitti
ng diode)ランプやLCD等の報知手段を有し、自端末
の状態をユーザに報知したり、データ制御装置110か
ら入力された情報を表示する。
【0055】<第1の動作>以下、本発明による送信側
テレビ電話装置の動画像取り込み間隔と同じ間隔で動画
像データを画像表示装置へ出力するテレビ電話装置のネ
ットワークにジッタが発生した場合の動作(第1の動
作)を、図1、および図3を参照しながら説明する。な
お、この説明では、送信側テレビ電話装置101の動画
像データの取込間隔と、受信側テレビ電話装置101の
動画像データの表示間隔とが同じものとする。すなわ
ち、図2(c)に示す従来技術の説明と同様の条件であ
る。また、この送信側と受信側テレビ電話装置101の
それぞれのパケットデータ送信間隔は同じものとする。
【0056】テレビ電話装置101は、受信バッファ1
12に入力されるパケットデータのタイミングに基づ
き、ネットワークにジッタが発生しているか判断し、ネ
ットワークにジッタが発生している場合、動画像データ
の符号化のビットレートを下げ、小さな符号化データを
作製するようにする。以下に詳述する。
【0057】図3は、図2と同様に左側から右側へ時間
軸をとる。また、図3(a)には、送信側テレビ電話装
置101の受信バッファ112に入力されたパケットデ
ータを示す。図3(b)には、送信側テレビ電話装置1
01の送信バッファ111から送信されたパケットデー
タを示し、(c)には、受信側テレビ電話装置101の
受信バッファ112に入力されたパケットデータ、
(d)には、このパケットデータから受信側テレビ電話
装置101の動画像バッファ105に展開された動画像
データを示す。図3(b)〜(d)に付された番号は、
すべて同一の動画像データを有していることを示す。す
なわち、図3(a)におけるパケットデータと、図3
(b)〜(d)のパケットデータ・動画像データとは、
同一の番号が付されていても異なるものである。
【0058】テレビ電話装置101は、通信相手先のテ
レビ電話装置101への呼接続時に、パケットデータを
受信するタイミングを取得する。これは、例えば、各端
末が使用する音声データ・動画像データの符号化・復号
化方式の情報を交換しあった後に決定した動画像データ
の符号化・復号化方式から計算することができる。この
計算により得られた(パケット)データの受信間隔は、
データ制御装置110に登録されるようにしてもよい。
【0059】図3(a)は、送信側テレビ電話装置10
1における受信バッファ112に入力されるパケットデ
ータの説明のための一例を示す。図3(a)に示すよう
に、パケットデータ「1」が入力された後、ネットワー
クにジッタが発生し、パケットデータ「2」は、所定
(正常、通常)のタイミングに入力されていない。ま
た、ジッタ解消後、パケットデータ「2」からパケット
データ「7」までのパケットデータは、受信バッファ1
12に連続して入力される。パケットデータ「8」以降
のパケットデータは、所定(正常、通常)のタイミング
で入力される。
【0060】受信バッファ112は、常時、受信バッフ
ァ112におけるパケットデータの受信タイミングを監
視する。この受信タイミングの監視は、前記したような
あらかじめ決定されている(パケット)データの受信間
隔通りにパケットデータが受信されているか監視するこ
とにより行うようにしてもよい。すなわち、パケットデ
ータには、送信時、順次インクリメントされたシーケン
ス番号が付加されているため、上記呼接続時に決定した
パケットデータの受信タイミングとロスした(到達して
いない)パケットデータとを比較することで、ロスした
パケットデータ(通常のタイミングに入力されなかった
パケットデータ)を把握することが可能となる。すなわ
ち、受信バッファ112は、呼接続時に決定した受信タ
イミングから計算した判断時点で到達しているはずのパ
ケット数と入力されたパケットデータに付加されたシー
ケンス番号との一致を見ることでパケットロスの発生状
況を監視する。なお、動画像データに付加されているタ
イムスタンプ情報等を用いて、上記受信間隔通りにパケ
ットデータが受信されているか判断するようにしてもよ
い。また、音声パケット(音声データ)に付加されたタ
イムスタンプ情報等を用いて、正常なタイミングにパケ
ットデータが入力されているか把握するようにしてもよ
い。
【0061】このようにパケットデータが所定のタイミ
ングに到達しなかった場合、受信バッファ112は、ネ
ットワークにジッタが発生したと判断し、これをフロー
制御装置114へ通知する。この通知を受けたフロー制
御装置114は、動画像データの符号化における(符号
化)ビットレートを下げるようにデータ制御装置110
を介して符号化装置116に指示する。
【0062】図3(a)に示すように、送信側テレビ電
話装置101の受信バッファ112は、パケットデータ
「2」が所定のタイミングで入力されていない。従っ
て、受信バッファ112は、ネットワーク(通信回線1
16)にジッタが発生したものと判断し、これをフロー
制御装置114へ通知する。フロー制御装置114は、
前記したように、符号化装置106に符号化ビットレー
トを下げるように通知する。
【0063】上記通知をうけた送信側テレビ電話装置1
01の符号化装置106は、(符号化)ビットレートを
下げる。これにより、符号化装置106は、符号化する
際に符号量制御を行い、通常の符号化データに比べ、小
さいデータ量の符号化データを作製し、パケット化装置
108を介して送信バッファ111に格納する。従っ
て、ビットレートが下げられた後に送信バッファ111
に格納されるパケットデータは、通常のパケットデータ
(図3(b)に示すパケットデータ「1」〜「3」)の
データ量と比べ、小さなデータ量(図3(b)に示すパ
ケットデータ「4」以降)となる。なお、このビットレ
ートは、所定のレートとしてもよく、ジッタの状況によ
り任意のレートとしてもよい。
【0064】通信制御装置113は、ネットワークにジ
ッタが発生しているか否かに関わらず、送信バッファ1
11に格納されているパケットデータを、通常のタイミ
ングで通信回線116へ送信する。すなわち、ビットレ
ートが下がる前の(「1」〜「3」と付された)パケッ
トデータも、ビットレートが下がった後の(「4」と付
されたもの以降の)パケットデータも、順番通り、所定
のタイミングで通信回線116に送出される。
【0065】図3(c)は、受信側テレビ電話装置10
1の受信バッファ112に入力されたパケットデータの
受信タイミングを示す。図3(c)に示すように、「J
1」と示す期間には、前記したようにジッタが発生して
いるため、パケットデータは到達しない。次いで、「J
2」と示す期間には、ジッタが解消し、ネットワークに
たまっていたパケットデータが連続して到達する。
「7」と記すパケットデータ以降は、通常のタイミング
にパケットデータが到達している。なお、「4」と付さ
れたパケットデータ以降のパケットデータは、前記した
ようにビットレートが下げられて符号化されているた
め、図3(c)には、小さく描かれている。
【0066】受信側テレビ電話装置101の受信バッフ
ァ112は、前記した送信側テレビ電話装置101と同
様に、パケットデータの受信タイミングを監視し、ジッ
タが発生したか、ジッタにより生じたパケットデータの
受信タイミングの遅延が解消され、正常のタイミングに
パケットを受信しているか監視する。この監視方法とし
ては、どのような方法を用いてもよいが、前記したよう
にパケットデータに付加されたシーケンス番号と呼接続
時に決定された情報に基づき計算したパケットデータの
受信タイミングとを比較することで行うようにしてもよ
い。また、動画像データに含まれるタイムスタンプ情報
に基づき正常な受信タイミングであるか判断するように
してもよく、音声パケットに含まれるタイムスタンプ情
報に基づき正常な受信タイミングであるか判断するよう
にしてもよい。
【0067】受信バッファ112は、ネットワーク(通
信回線116)にジッタが発生したことを検知した場
合、これをフロー制御装置114に通知する。この通知
をうけたフロー制御装置114は、動画像データを動画
像バッファ105へ出力しないよう、データ制御装置を
介して復号化装置107に指示する。この指示を受けた
符号化装置107は、作製した動画像データを動画像バ
ッファ105へ出力しない。すなわち、図3(c)の
「J2」期間に示すように、パケットデータ(「2」〜
「6」のパケットデータ)が受信バッファ112に到達
していても、動画像バッファ105には、この指示が出
されている間、動画像データが入力されない。従って、
この間の(「2」〜「6」の)動画像データは、画像表
示部に表示されない。
【0068】受信バッファ112にパケットデータが到
達するタイミングが正常に戻ると、受信バッファ112
は、フロー制御装置114にこれを通知する。フロー制
御装置114は、符号化装置107に、符号化した動画
像データを動画像バッファ105へ出力するようにデー
タ制御装置110を介して通知する。この通知を受けた
符号化装置107は、符号化を行った動画像データを動
画像バッファ105へ出力する。すなわち、動画像バッ
ファ105は、図3(d)に示すように(「7」と示
す)動画像データが入力され、これを画像表示部に出力
する。なお、パケットデータが受信バッファ112に入
力されるタイミングが正常なタイミングであるか判断す
る方法としては、例えば、前記したようにパケットデー
タに付加されたシーケンス番号に基づき判断するように
してもよく、動画像データに含まれるタイムスタンプ情
報に基づき判断するようにしてもよく、音声データに含
まれるタイムスタンプ情報に基づき判断するようにして
もよい。
【0069】すなわち、画像バッファ105は、ネット
ワーク(通信回線116)にジッタが発生した後、ジッ
タによる(パケットデータの)到達遅延が発生している
間、到達遅延発生前のデータを画像表示装置に表示し続
ける。図3(d)に示す場合、ジッタによる到達遅延が
発生している間、到達遅延発生前のデータである「1」
と付された動画像データが表示され続ける。画像表示装
置の表示が更新されるのは、受信バッファ112にパケ
ットデータが通常のタイミングで到達し始めてからとな
る。従って、図3(d)に示す場合、「7」と示す動画
像データが復号化装置107で復号化され、動画像バッ
ファ105に格納された後、画像表示装置の表示が更新
される。このように、ネットワークにジッタが発生した
場合であっても、画像表示装置の表示遅延を防止するこ
とを可能としている。
【0070】通信側テレビ電話装置101は、符号化装
置106において下げた符号化のビットレートを所定の
タイミングにもとのビットレートに戻す。例えば、この
所定のタイミングは、受信バッファ112にパケットデ
ータが連続して到着したパケット数と到着しなかったパ
ケット数とを比較して、両者が一致していると判断した
場合としてもよい。すなわち、通信側テレビ電話装置1
01の受信バッファ112に入力されるパケットデータ
のタイミングが正常に戻った後に符号化ビットレートを
もとに戻すようにする。また、ジッタ発生後、受信バッ
ファにパケットデータが到達した後としてもよく、受信
バッファに入力されるパケットデータのタイミングと上
記通常時のタイミングとのずれが所定の差以下になった
場合、もとに戻すようにしてもよい。
【0071】なお、パケットデータが入力されるタイミ
ングが上記所定のタイミングであるか否かは、上述のご
とくタイムスタンプ情報等に基づき行うようにしてもよ
く、また音声パケットを用いて行うようにしてもよい。
このように、この所定のタイミングは、受信側テレビ電
話装置101の受信バッファ112にパケットデータが
格納されるタイミングとは無関係のタイミングとしても
よい。
【0072】上記実施の形態によれば、ネットワークに
ジッタが発生した場合に、送信側のテレビ電話装置が符
号化ビットレートを下げることで、受信側テレビ電話装
置におけるパケット遅延の蓄積を防止することが可能と
なる。また、ジッタ解消後に連続してパケットデータが
到達した場合であっても、受信側テレビ電話装置の受信
バッファのオーバーフローを符号化ビットレートが下げ
られていない場合に比して遅らせることが可能となる。
すなわち、ビットレートを下げたことにより、この受信
バッファの見かけ上の容量、つまり格納可能なパケット
数が多くなる。そのため、ネットワークのジッタ解消後
に連続してパケットデータが到達しても、多くのパケッ
トデータを格納することが可能となる。
【0073】なお、前記したように復号化装置107
は、復号化した動画像データを動画像バッファ105へ
出力するのを中止してから再開するまでの間、所定のデ
ータのみ動画像バッファ105に出力するようにしても
よい。これにより、ジッタ遅延解消まで、動画像(表
示)データの更新が一切行われないということはなくな
る。例えば、上記所定のデータは、フレーム内符号化さ
れたデータとすると、フレーム間で差分がとられ符号化
されたデータ(Intra Frame/Intra Block )は、動画像
バッファ105に出力されず、画像表示装置に表示され
なくなる。これにより、表示遅延を防止しながらも、表
示データの更新が一切行われないということがなくな
る。
【0074】また、上記ビットレートの変更は、受信バ
ッファ112の容量に基づき変更するようにしてもよ
い。すなわち、受信バッファ112の容量が第1のしき
い値以下になった場合にビットレートを下げ、受信バッ
ファ112の容量が第2のしきい値(第1のしきい値と
同じ値としてもよい)を超えた場合にビットレートをも
とに戻すようにしてもよい。すなわち、パケットロスや
ジッタが発生した場合、受信バッファ112に入力され
るパケットデータが少なくなるため、受信バッファ11
2に格納されたデータの量(容量)が上記しきい値以下
になった場合、ネットワークにジッタが発生したものと
判断するようにしてもよい。
【0075】<第2の動作>以下、図4を参照しなが
ら、受信側テレビ電話装置101が画像表示装置に動画
像(表示)データを表示する間隔が、送信側テレビ電話
装置101の動画像入力装置103が動画像データを取
り込む間隔よりも短い場合におけるテレビ電話装置の動
作(第2の動作)を説明する。図4(a)〜(d)は、
図3(a)〜(d)と上記条件のみ異なる場合を示す。
すなわち、受信側テレビ電話装置101の画像表示装置
に動画像(表示)データを表示する間隔が図3の条件よ
りも短い点のみ異なることから、図3(a)〜(c)と
図4(a)〜(c)は同一であり、図3(d)と図4
(d)のみが異なっている。
【0076】前記したように送信側テレビ電話装置10
1の符号化装置106のビットレートが下げられたた場
合、受信側テレビ電話装置101の受信バッファ112
には、図4(c)に示すように、ネットワークにジッタ
が発生した「J1」期間後、ジッタが解消した「J2」
期間において通常のビットレートで符号化されたパケッ
トデータ「2」「3」が到着し、次いでビットレートが
下げられ符号化されたパケットデータ「4」以降のパケ
ットデータが到達する。
【0077】ここで、ビットレートの設定は、上記第1
の動作と同様に行うものとする。すなわち、送信側テレ
ビ電話装置101の受信バッファ112の受信タイミン
グ、または格納されているデータ量を監視することでジ
ッタの発生、および解消を確認し、符号化ビットレート
を変更するものとする。
【0078】この場合、前記した第1の動作とは異な
り、フロー制御装置114は、復号化装置107に復号
化した動画像データを動画像バッファ105に出力す
る。すなわち、図4(d)に示すように、動画像データ
「2」以降の動画像データは、動画像バッファ105に
出力され、画像表示装置に表示されるそして、「7」と
付された動画像データからは、通常のタイミングで画像
バッファ105に格納され、画像表示装置に表示され
る。
【0079】このように、ネットワークにジッタが発生
した場合、ビットレートを下げることにより、動画像
(表示)データが画像表示装置に表示されるタイミング
が、より早く正常に戻ることとなる。また、前記したよ
うに、符号化ビットレートが下げられていることによ
り、受信バッファのオーバーフローを防止することが可
能となる。
【0080】なお、テレビ電話装置101は、上記第1
の動作を行うか上記第2の動作を行うかの判断を、画像
表示装置の表示能力と、呼接続時に決定した使用する符
号化方式をもとに計算した受信バッファ112のパケッ
トデータ受信間隔と、を比較することで行うようにして
もよい。すなわち、この比較の結果が前記した第1の動
作における条件を満たす場合、動画像データを画像バッ
ファ105へ出力しない上記第1の動作を行い、上記第
2の動作における条件を満たす場合、動画像データを画
像バッファ105へ出力するよう制御可能なようにして
よい。
【0081】<第2のテレビ電話装置の構成>以下、本
発明による第2のテレビ電話装置について説明する。図
5は、本発明による第2のテレビ電話装置の内部構成を
示す構成図である。図5に示すテレビ電話装置501
は、動画像復号データバッファ517をさらに有する点
が、図1に示すテレビ電話装置101と異なる。
【0082】復号化装置507から出力された動画像デ
ータは、ネットワークにおいてジッタが発生する前に
は、上記第1のテレビ電話装置と同様に動画像バッファ
505に格納される。この第2のテレビ電話装置は、ネ
ットワークにおいてジッタが発生し、受信バッファ51
2の容量が空になった場合、またはあらかじめ設定され
たしきい値以下の容量になった場合、復号化装置507
で作製した動画像データを動画像復号データバッファ5
17に格納する。この動作を受信バッファ512が正常
(通常)のタイミングでパケットデータを受信するまで
行う。パケットデータが通常のタイミングで入力された
か否かは、前記したように判断することができる。
【0083】動画像復号データバッファ517は、例え
ば1フレーム等の表示単位毎に動画像データを格納する
ことができるものとする。このように表示単位毎に動画
像データが格納されると、動画像復号データバッファ5
17は、受信バッファ112にこのデータの次の表示単
位分の動画像データが格納されていない場合、この動画
像データを動画像バッファ505に出力する。
【0084】このように、ネットワークにおけるジッタ
が大きく、受信バッファ512に正常なタイミングでパ
ケットデータが到達するまでに長い時間を要した場合で
あっても、動画像データの表示を更新することが可能と
なる。
【0085】なお、受信バッファ112は、前記したよ
うな方法によりネットワークにジッタが発生したことを
検知した場合、通信制御装置113を介して相手方(送
信側)テレビ電話装置に符号化ビットレートを下げるよ
うに通知し、この通知を受信した送信側テレビ電話装置
が符号化ビットレートを下げるようにしてもよい。
【0086】
【発明の効果】以上の説明から明らかなように、本発明
によれば、IPネットワークを使ったテレビ電話装置に
おいて、パケットの到着時間が変化するネットワークの
ジッタ(ゆらぎ)が発生した場合に、送信側装置の受信
したパケットデータを格納する受信バッファの受信タイ
ミングを監視し、受信するタイミングにパケットを受信
しなかった場合や、あらかじめ定めたしきい値より受信
バッファの容量が下がった場合をトリガにして送信する
動画像データのビットレートを下げて符号化したパケッ
トデータを送信することで、受信側装置でジッタが発生
した後に連続してデータが到着しても受信バッファのオ
ーバーフローを防ぐことが可能となる。
【0087】また、受信側装置で動画像データの受信中
にジッタが発生し動画像データを格納している受信バッ
ファが空になった後に受信した動画像データを破棄する
ことなく正常に表示を再開することが可能となる。
【0088】また、速度優先・画質優先等の通常の制御
パラメータの他にジッタ情報を制御パラメータとして有
し、これにより符号量制御を行う動画像符号化装置を有
することで、ネットワークにジッタが発生したことをト
リガとして送信側の符号化ビットレートを下げることが
可能となり、その結果、受信側テレビ電話装置の受信バ
ッファにより多くのパケットを格納することが可能とな
り、オーバーフローがおこりにくくなる。
【0089】また、動画像データの受信バッファの受信
タイミングを監視し、受信するタイミングにパケットデ
ータを受信できなかった場合にビットレートを下げて動
画像データの符号化を行うことで、パケットデータの到
達タイミングをチェックするという単純な動作を行い、
正常なタイミングで到着しなかったことを検知した場
合、これをトリガとして送信側テレビ電話装置は、符号
化ビットレートを下げることが可能となる。従って、受
信側テレビ電話装置は、見かけ上の容量が大きくなるた
め、ジッタ解消後に連続してパケットデータが入力され
ても、オーバーフローしにくくなる。
【0090】また、あらかじめ動画像データの受信バッ
ファにしきい値を設定し、この値以下のバッファ容量と
なった場合にビットレートを下げて動画像データの復号
化を行うことで、受信バッファに格納されたパケットデ
ータの量をチェックするという単純な動作でネットワー
クにジッタが発生したか判断することが可能となり、パ
ケットデータが所定値以下の格納量となったことをトリ
ガにして符号化ビットレートを下げることが可能とな
る。従って、受信側テレビ電話装置は、より多くのパケ
ットデータを格納可能となり、ジッタ解消後に連続して
パケットデータが入力されてもオーバーフローしにくく
なる。
【0091】また、音声パケットの受信バッファの受信
タイミングを監視し、受信するタイミングにパケットを
受信できなかった場合にビットレートを下げて動画像デ
ータの符号化を行うことで、受信側のテレビ電話装置
は、ネットワークのジッタ解消後に連続してパケットデ
ータが入力されてもオーバーフローをおこしにくくな
る。
【0092】また、あらかじめ音声データを受信する受
信バッファにしきい値を設定し、設定したバッファ容量
以下になった場合にビットレートを下げて動画像データ
の符号化を行うことで、受信側のテレビ電話装置は、ネ
ットワークのジッタ解消後に連続してパケットデータが
入力されてもオーバーフローをおこしにくくなる。
【0093】また、ジッタが発生しパケット受信が遅れ
た場合にビットレートを下げて符号化した動画像データ
を送信することで、受信側テレビ電話装置の受信バッフ
ァの見かけ上の容量を増やし、ジッタ解消後のオーバー
フローを防止することが可能となる。
【0094】また、ジッタが発生しパケット受信が遅れ
た場合に相手端末に対し動画像データの符号化ビットレ
ートを下げるように要求することで、ジッタ解消後に通
常のビットレートで作製されたパケットが入力される場
合に比し、受信バッファのオーバーフローをおこしにく
くすることを可能とする。
【0095】また、ジッタが発生した際にビットレート
を下げて動画像データの符号化を行い、動画像データの
受信バッファにデータが到着するとビットレートをもと
に戻して動画像データの符号化を行うことで、ジッタ解
消後に連続して到達する動画像データをすべて再生する
場合に生じる動画像データの表示遅延を防止する。
【0096】また、ジッタが発生した際にビットレート
を下げて動画像データの符号化を行っている最中に、音
声データの受信バッファにデータが到着するとビットレ
ートをもとに戻すことで、ネットワークにジッタが発生
した場合のみ符号化ビットレートを下げることが可能と
なる。
【0097】ジッタが発生した際にビットレートを下げ
て符号化を行っている最中に、ジッタが発生した後に受
け取る動画像データのジッタの影響がなくなり正常なタ
イミングで受信し始めるとビットレートをもとに戻すこ
とで、ネットワーク上にジッタが発生した場合のみ符号
化ビットレートを下げることが可能となる。
【0098】ジッタが発生した際にビットレートを下げ
て動画像データの符号化を行っている最中に、ジッタが
発生した後に受け取る音声データがジッタの影響がなく
なり正常なタイミングで受信し始めるとビットレートを
元に戻すことで、ネットワーク上にジッタが発生した場
合のみ符号化ビットレートを下げることを可能とする。
【0099】ジッタが発生し動画像データの受信バッフ
ァが空になった後は、受信した動画像データを復号して
も表示を行うための画像バッファに出力しないことで、
ジッタ発生後に生じる表示遅延を防止することが可能と
なる。
【0100】ジッタが発生し動画像データの受信バッフ
ァが空になった後、受信した動画像データを復号し、フ
レーム復号化で復号化されたデータを復号したデータだ
けを画像バッファに出力し表示を行うことで、ジッタ発
生後に生じる表示遅延を防止するとともに、この表示遅
延防止のために動画像データの表示が一切行われなくな
ってしまうということを防止することが可能となる。
【0101】ジッタが発生し動画像データの受信バッフ
ァが空になった後に、受信した動画像データを復号しバ
ッファに蓄え、受信データを格納する受信バッファの受
信状態を判定し、バッファに蓄えられた復号データを画
像バッファに出力し表示を行うことで、ジッタ発生後に
生じる表示遅延を防止するとともに、この表示遅延防止
のために動画像データの表示が一切行われなくなってし
まうということを防止することが可能となる。
【図面の簡単な説明】
【図1】本発明によるテレビ電話装置の内部構成を示す
第1の内部構成図である。
【図2】従来技術によるテレビ電話装置のパケットデー
タ送受信、および動画像データ表示タイミングを説明す
るタイミング図である。
【図3】本発明によるテレビ電話装置のパケットデータ
送受信、および動画像データ表示タイミングを説明する
ための第1のタイミング図である。
【図4】本発明によるテレビ電話装置のパケットデータ
送受信、および動画像データ表示タイミングを説明する
ための第2のタイミング図である。
【図5】本発明によるテレビ電話装置の内部構成を示す
第2の内部構成図である。
【図6】従来技術によるテレビ電話装置の内部構成図で
ある。
【符号の説明】
101 テレビ電話装置 102 音声入力装置 103 動画像入力装置 104 音声出力装置 105 動画像バッファ 106 符号化装置 107 復号化装置 108 パケット化装置 109 ストリーム化装置 110 データ制御装置 111 送信バッファ 112 受信バッファ 113 通信制御装置 114 フロー制御装置 115 データ入出力装置 116 通信装置 501 テレビ電話装置 502 音声入力装置 503 動画像入力装置 504 音声出力装置 505 動画像バッファ 506 符号化装置 507 復号化装置 508 パケット化装置 509 ストリーム化装置 510 データ制御装置 511 送信バッファ 512 受信バッファ 513 通信制御装置 514 フロー制御装置 515 データ入出力装置 516 通信回線 517 動画像復号データバッファ 600 テレビ電話装置
フロントページの続き Fターム(参考) 5C059 KK34 KK35 PP04 RB02 RC04 SS07 SS08 SS30 TA60 TC20 TC21 TD12 UA02 UA05 UA38 5C061 BB03 CC03 5C064 AA01 AB04 AC01 AD06 AD14 BA07 BB05 BC16 BD02 BD05 BD08 BD13 5K034 AA02 CC02 CC05 EE11 MM08 5K101 KK04 NN22 SS07

Claims (15)

    【特許請求の範囲】
  1. 【請求項1】 ネットワークにジッタが発生しているか
    判定するジッタ判定手段と、 ネットワークにジッタが発生している場合、符号化ビッ
    トレートを下げるビットレート制御手段と、 を有することを特徴とするテレビ電話装置。
  2. 【請求項2】 前記ジッタ判定手段は、 パケットデータが呼接続時に決定したタイミングで入力
    されなかった場合にネットワークにジッタが発生してい
    ると判定することを特徴とする請求項1記載のテレビ電
    話装置。
  3. 【請求項3】 前記ジッタ判定手段は、 入力されたパケットデータに順次インクリメントされ付
    加されたシーケンス番号から前記タイミングでパケット
    データが入力されたか否かを判定することを特徴とする
    請求項2記載のテレビ電話装置。
  4. 【請求項4】 前記ジッタ判定手段は、 入力された動画像データに付加されたタイムスタンプ情
    報から前記タイミングでパケットデータが入力されたか
    否かを判定することを特徴とする請求項2記載のテレビ
    電話装置。
  5. 【請求項5】 前記ジッタ判定手段は、 入力された音声データに付加されたタイムスタンプ情報
    から前記タイミングでパケットデータが入力されたか否
    かを判定することを特徴とする請求項2記載のテレビ電
    話装置。
  6. 【請求項6】 前記ジッタ判定手段は、 受信バッファに入力されたパケットデータの容量がしき
    い値以下である場合にネットワークにジッタが発生して
    いると判定することを特徴とする請求項1記載のテレビ
    電話装置。
  7. 【請求項7】 前記ビットレート制御手段は、 動画像データの符号化ビットレートを下げることを特徴
    とする請求項1から6のいずれか1項に記載のテレビ電
    話装置。
  8. 【請求項8】 ネットワークにジッタが発生している場
    合、入力されたパケットデータから作製した動画像デー
    タの出力を行わない動画像データ出力制御手段と、 をさらに有することを特徴とする請求項1から7のいず
    れか1項に記載のテレビ電話装置。
  9. 【請求項9】 前記動画像データ出力制御手段は、 動画像データを画像表示装置へ出力する間隔が送信側テ
    レビ電話装置の動画像取り込み間隔よりも短い間隔であ
    る場合にはネットワークにジッタが発生しても動画像デ
    ータの出力を行うことを特徴とする請求項8記載のテレ
    ビ電話装置。
  10. 【請求項10】 前記動画像データ出力制御手段は、 動画像データがフレーム内符号化されたデータである場
    合にはネットワークにジッタが発生しても動画像データ
    の出力を行うことを特徴とする請求項8記載のテレビ電
    話装置。
  11. 【請求項11】 ネットワークがジッタに発生している
    場合、入力されたパケットデータから作製した動画像デ
    ータを記憶する動画像復号データバッファと、 をさらに有し、 前記動画像データ出力制御手段は、 前記動画像符号データバッファに記憶された動画像デー
    タよりも最新の動画像データが作製されていない場合、
    該動画像符号データバッファに記憶された動画像データ
    を出力することを特徴とする請求項8または10に記載
    のテレビ電話装置。
  12. 【請求項12】 ネットワークにジッタが発生している
    か判定するジッタ判定手段と、 ネットワークにジッタが発生している場合、送信側テレ
    ビ電話装置に符号化ビットレートを所定のレートに下げ
    させるビットレート変更手段と、 を有することを特徴とするテレビ電話装置。
  13. 【請求項13】 前記動画像データ出力制御手段は、 動画像データを画像表示装置へ出力する間隔が送信側テ
    レビ電話装置の動画像取り込み間隔よりも短い間隔であ
    る場合にはネットワークにジッタが発生しても動画像デ
    ータの出力を行うことを特徴とする請求項12記載のテ
    レビ電話装置。
  14. 【請求項14】 前記動画像データ出力制御手段は、 動画像データがフレーム内符号化されたデータである場
    合にはネットワークにジッタが発生しても動画像データ
    の出力を行うことを特徴とする請求項12記載のテレビ
    電話装置。
  15. 【請求項15】 ネットワークがジッタに発生している
    場合、入力されたパケットデータから作製した動画像デ
    ータを記憶する動画像復号データバッファと、 をさらに有し、 前記動画像データ出力制御手段は、 前記動画像符号データバッファに記憶された動画像デー
    タよりも最新の動画像データが作製されていない場合、
    該動画像符号データバッファに記憶された動画像データ
    を出力することを特徴とする請求項12または14に記
    載のテレビ電話装置。
JP2000247943A 2000-08-10 2000-08-10 テレビ電話装置 Expired - Fee Related JP3707369B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000247943A JP3707369B2 (ja) 2000-08-10 2000-08-10 テレビ電話装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000247943A JP3707369B2 (ja) 2000-08-10 2000-08-10 テレビ電話装置

Publications (2)

Publication Number Publication Date
JP2002058002A true JP2002058002A (ja) 2002-02-22
JP3707369B2 JP3707369B2 (ja) 2005-10-19

Family

ID=18737940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000247943A Expired - Fee Related JP3707369B2 (ja) 2000-08-10 2000-08-10 テレビ電話装置

Country Status (1)

Country Link
JP (1) JP3707369B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004312130A (ja) * 2003-04-03 2004-11-04 Matsushita Electric Ind Co Ltd Ipテレビ電話機
JP2006217167A (ja) * 2005-02-02 2006-08-17 Sharp Corp Ip電話装置およびipアダプタ装置
US7274740B2 (en) 2003-06-25 2007-09-25 Sharp Laboratories Of America, Inc. Wireless video transmission system
KR100880179B1 (ko) 2007-04-09 2009-01-28 (주)디티브이인터랙티브 Iptv 네트워크 품질 측정방법 및 장치, 그리고,iptv 네트워크 품질측정시스템
US7652994B2 (en) 2006-03-31 2010-01-26 Sharp Laboratories Of America, Inc. Accelerated media coding for robust low-delay video streaming over time-varying and bandwidth limited channels
US7784076B2 (en) 2004-10-30 2010-08-24 Sharp Laboratories Of America, Inc. Sender-side bandwidth estimation for video transmission with receiver packet buffer
US7797723B2 (en) 2004-10-30 2010-09-14 Sharp Laboratories Of America, Inc. Packet scheduling for video transmission with sender queue control
US8018850B2 (en) 2004-02-23 2011-09-13 Sharp Laboratories Of America, Inc. Wireless video transmission system
JP2012119784A (ja) * 2010-11-29 2012-06-21 Sony Corp 映像表示装置、映像表示システム、映像表示方法およびプログラム
US8861597B2 (en) 2006-09-18 2014-10-14 Sharp Laboratories Of America, Inc. Distributed channel time allocation for video streaming over wireless networks
JPWO2013042758A1 (ja) * 2011-09-21 2015-03-26 日本電気株式会社 コンテンツ配信システム、キャッシュサーバおよびコンテンツ配信方法
US9325998B2 (en) 2003-09-30 2016-04-26 Sharp Laboratories Of America, Inc. Wireless video transmission system
US9544602B2 (en) 2005-12-30 2017-01-10 Sharp Laboratories Of America, Inc. Wireless video transmission system
JP2017028648A (ja) * 2015-07-28 2017-02-02 株式会社日立システムズ 音声品質劣化防止システム及び音声品質劣化防止方法
JP2017188820A (ja) * 2016-04-07 2017-10-12 富士通株式会社 情報処理端末、情報処理方法、及びプログラム

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4524996B2 (ja) * 2003-04-03 2010-08-18 パナソニック株式会社 テレビ電話機
JP2004312130A (ja) * 2003-04-03 2004-11-04 Matsushita Electric Ind Co Ltd Ipテレビ電話機
US7274740B2 (en) 2003-06-25 2007-09-25 Sharp Laboratories Of America, Inc. Wireless video transmission system
US9325998B2 (en) 2003-09-30 2016-04-26 Sharp Laboratories Of America, Inc. Wireless video transmission system
US8018850B2 (en) 2004-02-23 2011-09-13 Sharp Laboratories Of America, Inc. Wireless video transmission system
US7784076B2 (en) 2004-10-30 2010-08-24 Sharp Laboratories Of America, Inc. Sender-side bandwidth estimation for video transmission with receiver packet buffer
US7797723B2 (en) 2004-10-30 2010-09-14 Sharp Laboratories Of America, Inc. Packet scheduling for video transmission with sender queue control
JP2006217167A (ja) * 2005-02-02 2006-08-17 Sharp Corp Ip電話装置およびipアダプタ装置
US9544602B2 (en) 2005-12-30 2017-01-10 Sharp Laboratories Of America, Inc. Wireless video transmission system
US7652994B2 (en) 2006-03-31 2010-01-26 Sharp Laboratories Of America, Inc. Accelerated media coding for robust low-delay video streaming over time-varying and bandwidth limited channels
US8861597B2 (en) 2006-09-18 2014-10-14 Sharp Laboratories Of America, Inc. Distributed channel time allocation for video streaming over wireless networks
KR100880179B1 (ko) 2007-04-09 2009-01-28 (주)디티브이인터랙티브 Iptv 네트워크 품질 측정방법 및 장치, 그리고,iptv 네트워크 품질측정시스템
JP2012119784A (ja) * 2010-11-29 2012-06-21 Sony Corp 映像表示装置、映像表示システム、映像表示方法およびプログラム
JPWO2013042758A1 (ja) * 2011-09-21 2015-03-26 日本電気株式会社 コンテンツ配信システム、キャッシュサーバおよびコンテンツ配信方法
JP2017028648A (ja) * 2015-07-28 2017-02-02 株式会社日立システムズ 音声品質劣化防止システム及び音声品質劣化防止方法
JP2017188820A (ja) * 2016-04-07 2017-10-12 富士通株式会社 情報処理端末、情報処理方法、及びプログラム

Also Published As

Publication number Publication date
JP3707369B2 (ja) 2005-10-19

Similar Documents

Publication Publication Date Title
US8239901B2 (en) Buffer control method, relay apparatus, and communication system
US8089502B2 (en) Adaptive video telephone system
US8089514B2 (en) Moving image communication device, moving image communication system and semiconductor integrated circuit used for communication of moving image
US20090240826A1 (en) Using RTCP Statistics For Media System Control
US10177899B2 (en) Adapting a jitter buffer
JP2002058002A (ja) テレビ電話装置
KR20060111036A (ko) 약전계 상황을 고려한 이동 통신 단말기에서의 화상 통화서비스 제공 방법
JP2009512265A (ja) ネットワーク上の動画データ伝送制御システムとその方法
JP2006140984A (ja) 特定メディアデータの破棄を制御する送信装置及び送信プログラム
WO2011022977A1 (zh) 可视电话的视频数据接收和发送***、视频数据处理方法
JPWO2005039180A1 (ja) メディア信号の送信方法と受信方法ならびに送受信方法及び装置
JP4699947B2 (ja) 通信端末装置
JP4076981B2 (ja) 通信端末装置およびバッファ制御方法
JP2008005392A (ja) 通信端末装置およびバッファ制御方法
WO2007080788A1 (ja) Tv会議制御装置およびtv会議制御方法
US20180175957A1 (en) Data processing
CN114979080B (zh) 一种融合局域网和广域网的sip对讲方法、***、存储装置
CN115102927B (zh) 一种保持视频清晰的sip对讲方法、***、存储装置
JP2008113226A (ja) 通信装置および通信方法
JP2005210160A (ja) 通信状態表示を有する映像受信端末
JP2007116283A (ja) パケット送受信システム、パケット送受信装置および経過時間測定方法
GB2529455A (en) A telecommunication network
JP3669660B2 (ja) 通話システム
WO2023206910A1 (zh) 基于局域网和广域网的sip对讲方法、***及存储介质
US20050175028A1 (en) Method for improving the quality of playback in the packet-oriented transmission of audio/video data

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20040108

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040120

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040810

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041012

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050725

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080812

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090812

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090812

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100812

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110812

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110812

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120812

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120812

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120812

Year of fee payment: 7

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120812

Year of fee payment: 7

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120812

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120812

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120812

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130812

Year of fee payment: 8

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees