JP2019092051A - 映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラム - Google Patents

映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラム Download PDF

Info

Publication number
JP2019092051A
JP2019092051A JP2017219593A JP2017219593A JP2019092051A JP 2019092051 A JP2019092051 A JP 2019092051A JP 2017219593 A JP2017219593 A JP 2017219593A JP 2017219593 A JP2017219593 A JP 2017219593A JP 2019092051 A JP2019092051 A JP 2019092051A
Authority
JP
Japan
Prior art keywords
video
video data
data
unit
thinning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017219593A
Other languages
English (en)
Other versions
JP6988394B2 (ja
Inventor
前田 直樹
Naoki Maeda
直樹 前田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric Industries Ltd filed Critical Sumitomo Electric Industries Ltd
Priority to JP2017219593A priority Critical patent/JP6988394B2/ja
Publication of JP2019092051A publication Critical patent/JP2019092051A/ja
Application granted granted Critical
Publication of JP6988394B2 publication Critical patent/JP6988394B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

【課題】所定の映像データを高画質で伝送し、かつ複数の映像データを低遅延で伝送することのできる映像伝送システムを提供する。【解決手段】映像伝送システムは、複数の映像データに対して、所定の映像データのフレームレートよりも所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行し、間引き処理後の複数の映像データを送信する映像送信装置と、映像送信装置から受信した間引き処理後の複数の映像データを表示装置に表示する映像受信装置とを備える。【選択図】図1

Description

本発明は、映像データを処理する映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラムに関する。
放送等では、8K UHDTV(Ultra High Definition Television)(以下、「8K」と略記する。)のような超高解像度の高精細な映像データを伝送するための技術が開発されている(例えば、非特許文献1参照)。
超高解像度映像は、その表現力ゆえ、監視用途、防犯用途、建物などの外観検査用途などのあらゆる分野で用いられることが今後急増するものと考えられる。その一方、その表現力のために、例えば、伝送レートが数十Gbps(gigabits per second)以上に達するため、映像データを伝送するために高速な通信路が必要となる。
"ウィキペディア"、[online]、[平成29年10月24日検索]、インターネット〈URL:https://ja.wikipedia.org/wiki/4320p〉
例えば、重機、ドローン、自動車等の操作対象に設置された8Kの映像データを撮影可能なカメラ(以下、「8Kカメラ」と言う。)で撮影された映像データを映像送信装置から映像受信装置に送信し、遠隔地において操作対象を操作するといった利用方法も考えられる。
しかしながら、現時点で規格化が進行中の「第5世代移動通信システム」(以下、「5G」(5th Generation)と略記する。)の無線通信の伝送能力は、数Gbps程度である。一方、8Kのデュアルグリーン方式の映像データを伝送するには、24Gbps程度の伝送能力を要する。このため、8Kの映像データをそのままの形式で5Gの無線通信を利用して送信することは困難である。なお、8Kの映像データを10ギガビット・イーサネット(登録商標)のネットワークプロトコルを利用して送信する場合においても同様の問題が生じる。
放送等で用いられるH.265(ISO/IEC 23008−2 HEVC)などの方式を用いて映像データを圧縮して伝送することも考えられるが、圧縮処理および伸長処理に数秒程度の時間を要するため、映像の遅延が生じる。よって、上述の操作対象の遠隔操作においては、操作に映像が追い付かず、いわゆる映像酔いと呼ばれる現象が生じる。また、映像上での操作対象の位置と、実際の操作対象の位置との間にずれが生じるため、操作精度が低下するなどの問題も生じる。
特に、複数のカメラで撮影された複数の映像データを伝送する場合には映像データ数に応じて伝送量が増加するため、伝送路の伝送能力による制限をさらに受けやすくなる。
本発明はこのような事情に鑑みてなされたものであり、所定の映像データを高画質で伝送し、かつ複数の映像データを低遅延で伝送することのできる映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラムを提供することを目的とする。
(1)上記目的を達成するために、本発明の一実施態様に係る映像伝送システムは、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行し、前記間引き処理後の前記複数の映像データを送信する映像送信装置と、前記映像送信装置から受信した前記間引き処理後の前記複数の映像データを表示装置に表示する映像受信装置とを備える。
(12)本発明の他の実施態様に係る映像送信装置は、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行する間引き処理部と、前記間引き処理後の前記複数の映像データを送信する送信部とを備える。
(13)本発明の他の実施態様に係る映像受信装置は、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信する受信部と、前記受信部が受信した前記間引き処理後の前記複数の映像データを表示装置に表示する表示制御部とを備える。
(14)本発明の他の実施態様に係る映像送信方法は、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行するステップと、前記間引き処理後の前記複数の映像データを送信するステップとを含む。
(15)本発明の他の実施態様に係る映像受信方法は、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信するステップと、受信した前記間引き処理後の前記複数の映像データを表示装置に表示するステップとを含む。
(16)本発明の他の実施態様に係るコンピュータプログラムは、コンピュータを、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行する間引き処理部と、前記間引き処理後の前記複数の映像データを送信する送信部として機能させる。
(17)本発明の他の実施態様に係るコンピュータプログラムは、コンピュータを、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信する受信部と、前記受信部が受信した前記間引き処理後の前記複数の映像データを表示装置に表示する表示制御部として機能させる。
なお、本発明は、映像送信装置または映像受信装置の一部または全部を実現する半導体集積回路として実現することもできる。
本発明によると、所定の映像データを高画質で伝送し、かつ複数の映像データを低遅延で伝送することができる。
本発明の実施の形態1に係る映像伝送システムの構成を示す図である。 本発明の実施の形態1に係るカメラの設置位置の一例を示す図である。 本発明の実施の形態1に係る表示装置の設置位置の一例を示す図である。 本発明の実施の形態1に係る映像送信装置の構成を示すブロック図である。 本発明の実施の形態1に係る映像送信装置による間引き処理および多重化処理について説明するための図である。 本発明の実施の形態1に係る映像圧縮部の詳細な構成を示すブロック図である。 本発明の実施の形態1に係る映像受信装置の構成を示すブロック図である。 本発明の実施の形態1に係る映像伸長部による間引きフレームについての伸長処理を説明するための図である。 本発明の実施の形態1に係る映像伸長部による間引きフレームについての伸長処理を説明するための図である。 本発明の実施の形態1に係る映像伸長部の詳細な構成を示すブロック図である。 本発明の実施の形態1に係る映像伝送システムが実行する処理のシーケンスを示す図である。 本発明の実施の形態1に係る映像送信装置が映像データにおける1画面の圧縮処理を行う際の動作手順を定めたフローチャートである。 本発明の実施の形態1に係る映像受信装置が映像データにおける1画面の伸長処理を行う際の動作手順を定めたフローチャートである。 本発明の実施の形態2に係る映像送信装置による間引き処理および多重化処理について説明するための図である。 本発明の実施の形態3に係る映像送信装置の構成を示すブロック図である。 本発明の実施の形態3に係る映像受信装置の構成を示すブロック図である。
[本願発明の実施形態の概要]
最初に本発明の実施形態の概要を列記して説明する。
(1)本発明の一実施形態に係る映像伝送システムは、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行し、前記間引き処理後の前記複数の映像データを送信する映像送信装置と、前記映像送信装置から受信した前記間引き処理後の前記複数の映像データを表示装置に表示する映像受信装置とを備える。
この構成によると、映像送信装置は、所定の映像データのフレームレートよりも他の映像データのフレームレートが低くなるように間引き処理を行った後、複数の映像データを映像受信装置に送信する。映像受信装置は、間引き処理後の複数の映像データを表示装置に表示することができる。このような間引き処理を行うことにより、間引き処理を行わない場合に比べて複数の映像データの伝送量を減少させることができるため、複数の映像データを低遅延で伝送することができる。また、所定の映像データは、他の映像データに比べ高フレームレートであるため、所定の映像データを操作対象の操作に必要な映像データとすることにより、操作対象の操作に必要な映像データを高画質で伝送することができる。
(2)好ましくは、前記映像送信装置は、前記所定の映像データに対するフレームの間引き処理を実行しない。
この構成によると、所定の映像データのフレームレートを、カメラによる撮影時のフレームレートと同じにすることができる。このため、所定の映像データを高画質で伝送し、表示装置に表示することができる。これにより、ユーザは、所定の映像データを高画質な状態で見ることができる。
(3)また、前記映像送信装置は、前記他の映像データに含まれる映像データ間で画面データの抽出を開始するフレームである開始フレームをずらした前記間引き処理を実行してもよい。
この構成によると、他の映像データに含まれる映像データ間で開始フレームが重複しないように間引き処理を行うことができる。これにより、あるフレームに送信対象の画面データが集中することを防ぎ、フレーム間で送信対象の画面データを分散させることができる。よって、複数の映像データを低遅延で伝送することができる。
(4)また、前記映像送信装置は、前記他の映像データの数に基づくフレームレートに従って前記他の映像データの間引き処理を実行してもよい。
例えば、他の映像データの数をnとし、nフレームに1枚の画面データが選択されるように間引き処理を行うことにより、全てのフレームにおいて、フレームごとに1枚の画面データを、所定の映像データの画面データとともに送信することができる。これにより、送信する映像データのフレーム間での偏りを軽減することができる。
(5)また、前記映像送信装置は、前記間引き処理後の前記他の映像データに含まれる各画面データを、複数のフレームに亘り時分割で送信してもよい。
この構成によると、間引き処理後の各画面データを時分割で送信することにより、フレーム間で伝送量を平準化することができる。これにより、映像データ伝送時の伝送レートを低く抑えることができる。
(6)また、前記映像送信装置は、前記間引き処理後の前記複数の映像データに対して圧縮処理を実行し、前記圧縮処理済みの前記複数の映像データを送信し、前記映像受信装置は、前記映像送信装置から受信した前記圧縮処理済みの前記複数の映像データに対して伸長処理を実行し、伸長処理後の前記複数の映像データを表示装置に表示してもよい。
この構成によると、間引き処理後の複数の映像データを圧縮して、映像受信装置に配信することができる。これにより、複数の映像データを圧縮した後に間引き処理する場合に比べて映像送信装置の処理量を減少させることができるため、複数の映像データを低遅延で伝送することができる。
(7)また、前記映像送信装置は、前記複数の映像データの各々について、1画面を複数のブロックに分割し、前記ブロックごとに画像データの圧縮処理を実行し、前記映像受信装置は、前記映像送信装置から受信した前記圧縮処理済みの前記複数の映像データの各々について、前記ブロックごとに画像データの伸長処理を実行し、前記圧縮処理において、可逆圧縮のアルゴリズムおよび不可逆圧縮のアルゴリズムを前記ブロックごとに選択可能であり、前記伸長処理において、可逆伸長のアルゴリズムおよび不可逆伸長のアルゴリズムを前記ブロックごとに選択可能であってもよい。
この構成によると、可逆圧縮のアルゴリズムを適用したブロックについては、圧縮処理負荷を軽くするとともに、オリジナル映像に対する同一性を保持した画像データを映像受信装置において復元することができる。また、非可逆圧縮のアルゴリズムを適用したブロックについては、伝送時のデータサイズを小さくするとともに、オリジナル映像に近い画像データを映像受信装置において復元することができる。また、画面内の画像データを用いて圧縮処理を行うことで、画面間の画像データを用いて圧縮処理を行わないようにしてもよいので、処理負荷を軽減することができる。すなわち、映像送信装置および映像受信装置間のデータ伝送能力と、より多くのオリジナル映像データを送信する目的とのバランスを考慮しながら、可逆圧縮または非可逆圧縮の別をブロックごとに適宜選択し、ブロックごとの圧縮処理を施した画像データを伝送することができる。したがって、オリジナル映像との同一性および伝送レートを考慮した適切な映像伝送を実現することができる。
(8)また、前記映像受信装置は、前記所定の映像データを指定してもよい。
この構成によると、映像受信装置が所定の映像データを指定することができる。このため、映像送信装置は、映像受信装置が所望する所定の映像データを高画質で送信することができる。また、映像受信装置は所定の映像データを高画質で表示することができる。
(9)また、前記映像受信装置は、ユーザ操作に基づいて前記所定の映像データを指定してもよい。
この構成によると、ユーザがユーザ操作により指定した映像データを所定の映像データとして指定することができる。このため、映像送信装置は、ユーザが指定した映像データを高画質で映像受信装置に送信することができ、映像受信装置は、ユーザが指定した映像データを高画質で表示することができる。また、映像送信装置は、ユーザが指定した映像データ以外の他の映像データをフレームレートが相対的に低くなるように間引いて、映像受信装置に送信することができる。これにより、複数の映像データを低遅延で伝送することができる。
(10)また、前記映像受信装置は、ユーザの視線の検知結果に基づいて前記所定の映像データを指定してもよい。
この構成によると、表示装置に表示された複数の映像データのうち、ユーザが視線を向けて見ている映像データを所定の映像データとして指定することができる。このため、映像送信装置はユーザが注視している映像データを高画質で映像受信装置に送信し、ユーザが注視していない他の映像データをフレームレートが相対的に低くなるように間引いて、映像受信装置に送信することができる。これにより、複数の映像データを低遅延で伝送することができる。
(11)また、前記映像データの解像度は、8K UHDTVであってもよい。
この構成によると、8Kの所定の映像データを高画質で伝送し、かつ複数の8Kの映像データを低遅延で伝送することができる。
(12)本発明の他の実施形態に係る映像送信装置は、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行する間引き処理部と、前記間引き処理後の前記複数の映像データを送信する送信部とを備える。
この構成によると、映像送信装置は、所定の映像データのフレームレートよりも他の映像データのフレームレートが低くなるように間引き処理を行った後、複数の映像データを送信する。よって、映像送信装置から複数の映像データを受信した映像受信装置は、間引き処理後の複数の映像データを表示装置に表示することができる。このような間引き処理を行うことにより、間引き処理を行わない場合に比べて複数の映像データの伝送量を減少させることができるため、複数の映像データを低遅延で伝送することができる。また、所定の映像データは、他の映像データに比べ高フレームレートであるため、所定の映像データを操作対象の操作に必要な映像データとすることにより、操作対象の操作に必要な映像データを高画質で伝送することができる。
(13)本発明の他の実施形態に係る映像受信装置は、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信する受信部と、前記受信部が受信した前記間引き処理後の前記複数の映像データを表示装置に表示する表示制御部とを備える。
この構成によると、映像受信装置は、所定の映像データのフレームレートよりも他の映像データのフレームレートが低くなるように間引き処理が行われた後の複数の映像データを映像送信装置から受信し、受信した複数の映像データを表示装置に表示することができる。映像送信装置においてこのような間引き処理を行うことにより、間引き処理を行わない場合に比べて複数の映像データの伝送量を減少させることができるため、複数の映像データを低遅延で伝送することができる。また、所定の映像データは、他の映像データに比べ高フレームレートであるため、所定の映像データを操作対象の操作に必要な映像データとすることにより、操作対象の操作に必要な映像データを高画質で伝送することができる。
(14)本発明の他の実施形態に係る映像送信方法は、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行するステップと、前記間引き処理後の前記複数の映像データを送信するステップとを含む。
この構成は、上述の映像送信装置が備える特徴的な処理部に対応するステップを含む。このため、上述の映像送信装置と同様の作用および効果を奏することができる。
(15)本発明の他の実施形態に係る映像受信方法は、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信するステップと、受信した前記間引き処理後の前記複数の映像データを表示装置に表示するステップとを含む。
この構成は、上述の映像受信装置が備える特徴的な処理部に対応するステップを含む。このため、上述の映像受信装置と同様の作用および効果を奏することができる。
(16)本発明の他の実施形態に係るコンピュータプログラムは、コンピュータを、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行する間引き処理部と、前記間引き処理後の前記複数の映像データを送信する送信部として機能させる。
この構成によると、コンピュータを上述の映像送信装置として機能させることができる。このため、上述の映像送信装置と同様の作用および効果を奏することができる。
(17)本発明の他の実施形態に係るコンピュータプログラムは、コンピュータを、映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信する受信部と、前記受信部が受信した前記間引き処理後の前記複数の映像データを表示装置に表示する表示制御部として機能させる。
この構成によると、コンピュータを上述の映像受信装置として機能させることができる。このため、上述の映像送信装置と同様の作用および効果を奏することができる。
[本願発明の実施形態の詳細]
以下、本発明の実施の形態について、図面を用いて詳細に説明する。なお、以下で説明する実施の形態は、いずれも本発明の好ましい一具体例を示すものである。以下の実施の形態で示される数値、形状、構成要素、構成要素の配置位置および接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。本発明は、特許請求の範囲によって特定される。よって、以下の実施の形態における構成要素のうち、本発明の最上位概念を示す独立請求項に記載されていない構成要素については、本発明の課題を達成するのに必ずしも必要ではないが、より好ましい形態を構成するものとして説明される。
また、同一の構成要素には同一の符号を付す。それらの機能および名称も同様であるため、それらの説明は適宜省略する。
(実施の形態1)
<映像伝送システムの全体構成>
図1は、本発明の実施の形態1に係る映像伝送システムの構成を示す図である。
図1を参照して、映像伝送システム1は、映像送信装置10と、映像受信装置20と、複数のカメラ30A〜30H(以下、カメラ30A〜30Hを区別しない場合には、「カメラ30」と称する。)と、複数の表示装置40A〜40H(以下、表示装置40A〜40Hを区別しない場合には、「表示装置40」と称する。)と、入力装置50とを備える。映像送信装置10と映像受信装置20とは、ネットワーク60を介して相互に接続される。カメラ30A〜30Hは、映像送信装置10に接続される。表示装置40A〜40Hおよび入力装置50は、映像受信装置20に接続される。なお、カメラ30および表示装置40の台数は8に限定されるものではない。
映像送信装置10は、カメラ30A〜30Hが撮影対象を撮影した映像データを、ネットワーク60を介して映像受信装置20に送信する。
映像受信装置20は、映像送信装置10から映像データを受信し、受信した映像データを表示装置40A〜40Hに表示する。
カメラ30A〜30Hおよび映像送信装置10は、例えば、自動車などの車両、フォークリフトに代表される産業車両、油圧ショベルなどの車両系建設機械、ドローンなど、ユーザによる遠隔からの操作対象に設置される。
図2は、本発明の実施の形態1に係るカメラの設置位置の一例を示す図である。
図2を参照して、操作対象としての車両2には、例えば、車両2の周囲360°を監視するために、45°間隔で8台のカメラ30A〜30Hが設置される。
カメラ30A〜30Hは、撮影対象の高精細映像を撮影する。映像には複数の画面が含まれる。例えば、60fps(frame per second)の映像データには、1秒当たり60枚の画面が含まれる。
より詳細には、カメラ30A〜30Hは、例えば、デュアルグリーン方式または4:2:2方式等に従って、8K UHDTVの解像度を有する撮影対象物の映像データを生成する。この映像データには、画面ごとの画面データが含まれる。
デュアルグリーン方式に従って生成された60fpsの映像データの伝送レートは、例えば23.89Gbpsまたは19.91Gbpsである。また、4:2:2方式に従って生成された映像データの伝送レートは、例えば47.78Gbpsまたは39.81Gbpsである。
再び図1を参照して、映像受信装置20、表示装置40A〜40Hおよび入力装置50は、カメラ30A〜30Hおよび映像送信装置10とは離れた場所に設置される。
図3は、本発明の実施の形態1に係る表示装置の設置位置の一例を示す図である。
図3を参照して、ユーザ3を取り囲むようにユーザ3の周囲に表示装置40A〜40Hが設置される。各表示装置は、ユーザ3の側に表示画面が来るように配置される。表示装置40Aには、カメラ30Aが撮影した映像データが表示され、表示装置40Bには、カメラ30Bが撮影した映像データが表示される。表示装置40C〜40Hについても、同様に、それぞれ、カメラ30C〜30Hが撮影した映像データが表示される。
表示装置40A〜40Hの中心に位置するユーザ3が、各表示装置に表示された映像データを見ることにより、車両2に搭乗しているのと同様の映像を見ることができる。これにより、ユーザ3は、車両2の制御装置を操作することにより、遠隔地から車両2を操作することが可能となる。
<映像送信装置10の構成>
図4は、本発明の実施の形態1に係る映像送信装置の構成を示すブロック図である。
図4を参照して、映像送信装置10は、同期処理部11と、間引き処理部12A〜12H(以下、間引き処理部12A〜12Hを区別しない場合には、「間引き処理部12」と称する。)と、間引き制御部13と、映像圧縮部14A〜14H(以下、映像圧縮部14A〜14Hを区別しない場合には、「映像圧縮部14」と称する。)と、多重化部15と、符号化部16と、送信部17と、受信部18と、映像指定情報伝送部19とを備える。なお、間引き処理部12および映像圧縮部14の数は8に限定されるものではない。
映像送信装置10の一部または全部は、ASIC(Application Specific Integrated Circuit)またはFPGA(Field-Programmable Gate Array)等の集積回路等を含むハードウェアにより実現される。
なお、映像送信装置10は、CPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Memory)等を備えるコンピュータにより実現することもできる。CPU等の演算処理装置上でコンピュータプログラムを実行することにより、各処理部は機能的な構成要素として実現される。
同期処理部11は、カメラ30A〜30Hがそれぞれ撮影した映像データA〜Hを受け、映像データA〜Hの時刻同期を行う処理部である。同期処理部11は、例えば、同期信号発生回路が発生する時刻同期信号に基づいて、フレームごとに、映像データA〜Hの各フレームの時刻が一致するように、フレーム時刻を調整する。または、同期処理部11は、映像データA〜Hのうちのいずれか1つの映像データのフレーム時刻に他の映像データのフレーム時刻が一致するように、他の映像データのフレーム時刻を調整してもよい。
間引き処理部12A〜12Hは、それぞれ、映像データA〜Hのフレームレートを低下させるために、映像データの中から一定のフレーム間隔で画面データを抽出し、抽出されなかった画面データを間引く間引き処理を実行する。例えば、画面データをnフレーム間隔で抽出する間引き処理を行うことにより、当該映像データのフレームレートを1/nに変更することができる。間引き処理部12A〜12Hは、間引き処理後の映像データA〜Hを、映像圧縮部14A〜14Hにそれぞれ出力する。
間引き制御部13は、間引き処理部12A〜12Hにおける間引きを制御する。具体的には、間引き制御部13は、間引き処理部12A〜12Hにおいて間引きを行うか否かを決定する。つまり、間引き制御部13は、後述する映像指定情報伝送部19が映像受信装置20から受信した映像指定情報に基づいて、映像指定情報で指定された映像データについては間引き処理を実行せずに、それ以外の映像データについては間引き処理を実行するように、間引き処理部12を制御する。ここで、映像指定情報は、映像受信装置20または映像受信装置20のユーザが注目している映像データを示す情報である。
また、間引き制御部13は、間引き処理部12において間引き処理を行う際のフレーム間隔を制御するとともに、間引き処理を開始するフレームを決定する。間引き処理のフレーム間隔および開始フレームについては後述する。
映像圧縮部14A〜14Hは、間引き処理が実行された後の映像データA〜Hを、それぞれ、画面データごとに圧縮し、圧縮画面データを含む映像データA〜Hを、多重化部15に出力する。圧縮処理については後述する。
多重化部15は、フレームごとに、映像圧縮部14A〜14Hから圧縮処理済みの映像データA〜Hを受け、当該映像データA〜Hを多重化した多重化データを生成する。多重化部15は、生成した多重化データを符号化部16に出力する。
符号化部16は、多重化部15から、フレームごとに、多重化データを受け、当該多重化データを符号化する。符号化部16は、符号化された多重化データを送信部17へ出力する。
送信部17は、通信インタフェースを含んで構成され、符号化部16から、符号化された多重化データを受け、当該多重化データを、ネットワーク60を介して、映像受信装置20に送信する。
受信部18は、通信インタフェースを含んで構成され、映像指定情報を、ネットワーク60を介して映像受信装置20から受信する。受信部18は、受信した映像指定情報を映像指定情報伝送部19に出力する。
映像指定情報伝送部19は、受信部18から映像指定情報を受け、当該映像指定情報を間引き制御部13へ出力する。
ここで、映像指定情報は、上述したように、映像受信装置20または映像受信装置20を利用するユーザが注目している映像データを示す情報である。例えば、映像受信装置20のユーザが映像データAに注目している場合には、映像指定情報には、映像データAの識別子が含まれる。このため、間引き制御部13は、映像データAに対する間引き処理を実行しないように間引き処理部12Aを制御し、映像データB〜Hに対する間引き処理を実行するように間引き処理部12B〜12Hを制御する。
図5は、本発明の実施の形態1に係る映像送信装置による間引き処理および多重化処理について説明するための図である。図5を参照して、映像指定情報に映像データAの識別子が含まれる場合の各処理について説明する。
間引き制御部13は、映像データAに対する間引き処理を実行しないように間引き処理部12Aを制御する。このため、図5の(A)に示すように、間引き処理部12Aは、映像データAについて、間引き処理を実行せずに、全てのフレームの画面データが揃った映像データを出力する。
また、間引き制御部13は、映像データB〜Hに対する間引き処理を実行するように間引き処理部12B〜12Hを制御する。つまり、間引き制御部13は、映像データB〜Hから7フレーム間隔で画面データを抽出するように、間引き処理部12B〜12Hをそれぞれ制御する。また、間引き制御部13は、映像データB〜H間で、抽出される画面データを1フレームずつずらすように間引き処理部12B〜12Hをそれぞれ制御する。
つまり、図5の(A)に示すように、間引き処理部12B〜12Hは、それぞれ、映像データB〜Hについて、間引き処理を実行する。ここで、間引かれたフレームの画面データは破線で示している。
具体的には、間引き処理部12Bは、映像データBについて、第1フレームを開始フレームとして、7フレーム間隔で画面データを抽出し、抽出されなかった画面データを間引く。これにより、第1フレームから第11フレームのうち、第1フレームと第8フレームの画面データが抽出され、それ以外のフレーム画面データは間引かれる。
間引き処理部12Cは、映像データCについて、第2フレームを開始フレームとして、7フレーム間隔で画面データを抽出し、抽出されなかった画面データを間引く。これにより、第1フレームから第11フレームのうち、第2フレームと第9フレームの画面データが抽出され、それ以外のフレーム画面データは間引かれる。
以下同様に、間引き処理部12D〜12Hは、開始フレームを1フレームずつずらして、映像データD〜Hを、映像データBまたはCと同様に間引く。
このように開始フレームを1フレームずつずらして間引き処理を行うことにより、映像データ間で開始フレームが重複しないように間引き処理を行うことができる。これにより、あるフレームに送信対象の画面データが集中することを防ぎ、フレーム間で送信対象の画面データを分散させることができる。
多重化部15は、フレームごとに、間引き処理部12A〜12Hで間引き処理され、映像圧縮部14A〜14Hで圧縮処理された後の映像データA〜Hを多重化する。つまり、図5の(B)に示すように、フレームごとに、映像データAに含まれる画面データと、間引き処理部12B〜12Hの間引き処理により映像データB〜Hから抽出された画面データとを、多重化する。例えば、多重化部15は、映像データAに含まれる画面データの次に、映像データB〜Hから抽出された画面データを結合することにより多重化を行うこととする。
例えば、多重化部15は、映像データAに含まれる第1フレームの画面データと、映像データBから抽出された第1フレームの画面データとを多重化したデータを、第1フレームの多重化データとして出力する。また、多重化部15は、映像データBに含まれる第2フレームの画面データと、映像データCから抽出された第2フレームの画面データとを多重化したデータを、第2フレームの多重化データとして出力する。同様に、多重化部15は、第3フレーム以降についても、映像データAに含まれる画面データと、映像データB〜Hから抽出された1枚の画面データとを多重化したデータを、当該フレームの多重化データとして出力する。
図5の(A)に示すように、間引き処理対象の映像データB〜Hのフレーム抽出間隔を、映像データB〜Hの数と同じ7フレームとすることにより、多重化部15が出力する全てのフレームの多重化データに、同数(2枚)の画面データを含めることができる。これにより、送信する多重化データのフレーム間での偏りを軽減することができる。
<映像圧縮部14の構成>
図6は、本発明の実施の形態1に係る映像圧縮部の詳細な構成を示すブロック図である。
図6を参照して、映像圧縮部14は、ブロック分割部141と、データ分配部142と、可逆圧縮部143と、非可逆圧縮部144と、方式選択部145とを含む。
映像圧縮部14は、間引き処理部12から出力された映像データにおいて、当該映像データを構成する画像の1つである1画面ごとに圧縮処理を行う。より詳細には、映像圧縮部14は、当該映像データにおいて、1画面を複数のブロックに分割し、ブロックごとに画像データの圧縮処理を行う。また、映像圧縮部14は、可逆圧縮のアルゴリズムおよび非可逆圧縮のアルゴリズムをブロックごとに選択可能である。
たとえば、映像圧縮部14は、ブロックの画像データの圧縮率が所定値A1となるように圧縮処理を行う。詳細には、映像圧縮部14は、たとえば、圧縮率が所定値A1となるように可逆圧縮のアルゴリズムおよび非可逆圧縮のアルゴリズムのいずれか一方を選択する。ここで、圧縮率は、圧縮後のデータサイズを圧縮前のデータサイズで除した値と定義する。また、所定値A1は、ユーザまたは映像圧縮部14により設定変更可能である。
より詳細には、映像圧縮部14におけるブロック分割部141は、間引き処理部12から映像データを受けて1画面分の画面データを確保すると、確保した画面データの示す1画面を複数のブロックに分割する。
具体的には、ブロック分割部141は、画面データの示す画面を、同じ形状および同じ大きさを有する複数のブロックに分割する。より具体的には、ブロック分割部141は、画面を1または複数の行ごとにスライスしたブロックに分割したり、1または複数の列ごとにスライスしたブロックに分割したり、縦n個×横m個(ここで、n,mは正の整数。)の画素を有するブロックに分割したりする。
なお、各ブロックの形状は任意の形状でよい。また、各ブロックの大きさは任意の大きさでよい。しかしながら、各ブロックの形状および大きさを統一すると、利便性が高まるので好ましい。また、ブロックのサイズが大きくなるほど圧縮率を高めることが可能となるが、処理負荷、処理回路、処理に要するメモリ容量および処理時間が増大するので、適正なサイズにすることが好ましい。
ブロック分割部141は、ブロックにおける画像データ(以下、「ブロックデータ」とも称する。)をブロックの画面における位置順にデータ分配部142へ出力する。
データ分配部142は、ブロック分割部141から受けるブロックデータを分配する。より詳細には、データ分配部142は、各ブロックデータを先頭から順に、後段の可逆圧縮部143において並列処理可能な数ごとに可逆圧縮部143へ出力する。
可逆圧縮部143は、たとえば複数の可逆的な圧縮処理を並列して行うことが可能である。可逆圧縮部143において用いられる可逆圧縮のアルゴリズムは、たとえば専用の半導体集積回路により実装される。ここで、可逆的な圧縮とは、圧縮後のブロックデータを圧縮前のブロックデータに戻すことが可能なように圧縮することであり、一般に圧縮率が低く、画像により圧縮率が大きく変動する。具体的には、雑音に近い画像の圧縮率は低い。一方、シャープな画像の圧縮率は高い。
より詳細には、可逆圧縮部143は、データ分配部142から複数のブロックデータを受けると、受けたブロックデータを並列に可逆的に圧縮し、圧縮後のブロックデータ(以下、「可逆ブロックデータ」とも称する。)を方式選択部145へ出力する。
映像圧縮部14は、たとえば、アルゴリズムの選択結果を示す選択情報を作成する。より詳細には、映像圧縮部14における方式選択部145は、可逆圧縮部143から可逆ブロックデータを受けると、受けた可逆ブロックデータのサイズに基づいて、可逆ブロックデータの圧縮率を確認する。
具体的には、方式選択部145は、可逆ブロックデータのサイズと所定サイズBSとの比を算出することにより可逆ブロックデータの圧縮率を確認する。ここで、所定サイズBSは、たとえばブロックデータを所定値A1の圧縮率で圧縮したときのサイズである。
方式選択部145は、確認した圧縮率が所定値A1である場合、すなわち、可逆ブロックデータのサイズが所定サイズBSである場合、可逆圧縮を行ったことを示す選択情報および圧縮方法を含む圧縮情報Rを可逆ブロックデータに付加する。圧縮情報は、たとえばフラグビットにより表される。
また、方式選択部145は、可逆ブロックデータのサイズが所定サイズBSより小さい場合、可逆ブロックデータにパディングを施すことにより可逆ブロックデータのサイズを所定サイズBSにした後、圧縮情報Rを可逆ブロックデータに付加する。
また、方式選択部145は、可逆ブロックデータのサイズが所定サイズBSより大きい場合、可逆ブロックデータを破棄するとともに、当該可逆ブロックデータの順番をデータ分配部142へ通知する。
データ分配部142は、方式選択部145から順番の通知を受けると、通知された順番のブロックデータを非可逆圧縮部144へ出力する。
非可逆圧縮部144は、たとえば、圧縮後のサイズを設定することが可能な、Visually Lossless CompressionまたはVisually Reversible Compressionと呼ばれるアルゴリズムを用いてブロックデータを非可逆的に圧縮する。非可逆圧縮部144において用いられる非可逆圧縮のアルゴリズムは、たとえば専用の半導体集積回路に実装される。ここで、非可逆的な圧縮とは、圧縮後のブロックデータを圧縮前のブロックデータに戻すことが不可能なように圧縮することである。ただし、Visually Lossless CompressionまたはVisually Reversible Compressionと呼ばれるアルゴリズムは、視覚的な可逆性を有する圧縮方法である。
具体的には、非可逆圧縮部144は、データ分配部142から受けるブロックデータを、圧縮後のサイズが所定サイズBSになるように非可逆的に圧縮し、圧縮後のブロックデータ(以下、「非可逆ブロックデータ」とも称する。)を方式選択部145へ出力する。
方式選択部145は、非可逆圧縮部144から非可逆ブロックデータを受けると、受けた非可逆ブロックデータに、非可逆圧縮を行ったことを示す選択情報と圧縮方法および圧縮パラメータとを含む圧縮情報Iを非可逆ブロックデータに付加する。
以下、可逆ブロックデータおよび非可逆ブロックデータの各々を、「圧縮ブロックデータ」とも称する。方式選択部145は、圧縮ブロックデータを位置順に多重化部15へ出力する。
<映像受信装置20の構成>
図7は、本発明の実施の形態1に係る映像受信装置の構成を示すブロック図である。
図7を参照して、映像受信装置20は、受信部21と、復号化部22と、映像分離部23と、映像メモリ24A〜24H(以下、映像メモリ24A〜24Hを区別しない場合には、「映像メモリ24」と称する。)と、映像伸長部25A〜25H(以下、映像伸長部25A〜25Hを区別しない場合には、「映像伸長部25」と称する。)と、入力受付部26と、注目映像決定部27と、映像指定情報伝送部28と、送信部29とを備える。なお、映像メモリ24および映像伸長部25の数は、8に限定されるものではない。
映像受信装置20の一部または全部は、ASICまたはFPGA等の集積回路等を含むハードウェアにより実現される。
なお、映像受信装置20は、CPU、RAMおよびROM等を備えるコンピュータにより実現することもできる。CPU等の演算処理装置上でコンピュータプログラムを実行することにより、各処理部は機能的な構成要素として実現される。
受信部21は、通信インタフェースを含んで構成される。受信部21は、ネットワーク60を介して映像送信装置10から、フレームごとに、符号化された多重化データを受信する。受信部21は、受信した符号化された多重化データを復号化部22に出力する。
復号化部22は、フレームごとに、受信部21から符号化された多重化データを受け、当該多重化データを復号化する。復号化部22は、復号化した多重化データを映像分離部23に出力する。
映像分離部23は、フレームごとに、映像分離部23から多重化データを受ける。また、映像分離部23は、後述する注目映像決定部27から、映像指定情報を受ける。映像分離部23は、映像指定情報に基づいて、多重化データを複数の圧縮画面データに分離する。例えば、映像分離部23は、図5の(B)に示すような多重化データをフレームごとに受けたとする。また、映像指定情報は映像データAの識別子を含んでいるものとする。この場合、映像分離部23は、多重化データの先頭から半分のデータを、映像指定情報が示す映像データAの圧縮画面データとして分離する。また、映像分離部23は、多重化データの半分から終了までのデータを、映像データB〜Hから抽出され圧縮された圧縮画面データとして分離する。
なお、映像分離部23は、フレームごとに、多重化データにどの映像データB〜Hの圧縮画面データが含まれているかを事前に知っているものとする。つまり、映像分離部23は、映像送信装置10の間引き制御部13による間引きのルールを、事前に知っているものとする。これにより、映像分離部23は、フレームごとに、多重化データにどの映像データの圧縮画面データが含まれるかを知ることができる。例えば、映像指定情報が映像データAの場合には、映像データB、C、D、E、F、G、Hの順に間引き処理が行われるという間引きのルールを、映像分離部23と間引き制御部13との間で共有している。
映像分離部23は、さらに、分離した映像データA〜Hの圧縮画面データを、それぞれ、映像メモリ24A〜24Hに出力する。
映像メモリ24A〜24Hは、それぞれ、映像分離部23から受けた映像データA〜Hの圧縮画面データを記憶する。映像メモリ24A〜24Hは、DRAM等のメモリにより構成される。
映像伸長部25A〜25Hは、それぞれ、映像メモリ24A〜24Hから、映像メモリ24A〜24Hに記憶された圧縮画面データをそれぞれ読み出し、読み出した圧縮画面データを伸長する。伸長処理については後述する。映像伸長部25A〜25Hは、表示制御部として機能し、伸長処理後の画面データを、表示装置40A〜40Hにそれぞれ表示する。
なお、上述の例では、映像データA以外の映像データB〜Hに対して間引き処理が施されている。このため、映像伸長部25B〜25Hは、画面データが間引かれたフレームについては、映像メモリ24B〜24Hに記憶されている最新の圧縮画面データを読み出して、伸長処理を行う。
図8および図9は、本発明の実施の形態1に係る映像伸長部による間引きフレームについての伸長処理を説明するための図である。
例えば、図8に示すように、映像データBについて、第2〜第7フレームの画面データと、第9〜第14フレームの画面データが間引かれているとする。このため、図9に示すように、映像伸長部25Bは、第1〜第7フレームにおいて、第1フレームの圧縮画面データを繰り返し読み出して伸長処理を行い、第8〜第14フレームにおいて、第8フレームの圧縮画面データを繰り返し読み出して伸長処理を行う。
このような処理により、表示装置40B〜40Hは、フレームが間引かれた映像データをコマ落ちさせることなく再生することができる。ただし、画面データは7フレームごとにしか更新されないため、いわゆるカクカクした動きの映像が再生される。
入力受付部26は、ユーザ3が入力装置50を操作して指定した、ユーザが注目している映像データの情報を受け付け、受け付けた情報を注目映像決定部27に出力する。
注目映像決定部27は、受け付けた情報から、ユーザが注目している映像データの識別子を含む映像指定情報を作成し、作成した映像指定情報を映像分離部23および映像指定情報伝送部28に出力する。
例えば、入力装置50は、キーボードやマウス等である。ユーザは、表示装置40A〜40Hに表示されている映像データA〜Hの中から、注目している映像データの識別子を、入力装置50を操作して入力する。入力受付部26は、ユーザが入力した映像データの識別子を、ユーザが注目している映像データの情報として受け付ける。注目映像決定部27は、入力受付部26が受け付けた映像データの識別子を含む映像指定情報を作成する。
なお、入力装置50は、ユーザの視線を検知する視線検知装置であってもよい。例えば、入力装置50は、ユーザの目元を撮影した映像データからユーザの視線方向を検知する。入力受付部26は、入力装置50が検知したユーザの視線方向の情報を受け付け、当該情報を注目映像決定部27に出力する。注目映像決定部27は、入力受付部26から受け付けた視線方向の情報に基づいて、ユーザがどの表示装置40を見ているかを判断する。注目映像決定部27は、ユーザの視線の先にある表示装置40に表示されている映像データの識別子を、ユーザが注目している映像データの情報として、当該識別子を含む映像指定情報を作成する。
映像指定情報伝送部28は、注目映像決定部27から映像指定情報を受け、当該映像指定情報を送信部29に出力する。
送信部29は、通信インタフェースを含んで構成され、映像指定情報伝送部28から映像指定情報を受け、当該映像指定情報をネットワーク60を介して映像送信装置10に送信する。
<映像伸長部25の構成>
図10は、本発明の実施の形態1に係る映像伸長部の詳細な構成を示すブロック図である。
図10を参照して、映像伸長部25は、伸長部251と、ブロック合成部253とを含む。
映像伸長部25は、映像メモリ24に記憶されている圧縮画面データにおいて、ブロックごとにデータの伸長処理を行う。また、映像伸長部25は、可逆伸長のアルゴリズムおよび非可逆伸長のアルゴリズムをブロックごとに選択可能である。
たとえば、映像伸長部25は、映像送信装置10から受信した選択情報を用いて伸長処理を行う。
より詳細には、映像伸長部25における伸長部251は、映像メモリ24に記憶されている圧縮画面データから圧縮ブロックデータを位置順に読み出し、読み出した圧縮ブロックデータから圧縮情報Rまたは圧縮情報Iを取得する。
伸長部251は、取得した圧縮情報が圧縮情報Rである場合には、圧縮情報Rから選択情報および圧縮方法を取得する。伸長部251は、取得した選択情報に基づいて、読み出した圧縮ブロックデータが可逆ブロックデータであることを認識し、圧縮情報Rを取り除いた可逆ブロックデータを、取得した圧縮方法に従って伸長する。
一方、伸長部251は、取得した圧縮情報が圧縮情報Iである場合には、圧縮情報Iから選択情報、圧縮方法および圧縮パラメータを取得する。伸長部251は、取得した選択情報に基づいて、読み出した圧縮ブロックデータが非可逆ブロックデータであることを認識し、圧縮情報Iを取り除いた非可逆ブロックデータを、取得した圧縮方法に従って、取得した圧縮パラメータを用いて伸長する。
伸長部251において用いられる可逆伸縮のアルゴリズムおよび非可逆伸縮のアルゴリズムは、たとえば専用の半導体集積回路に実装される。
伸長部251は、伸長後のブロックデータを位置順にブロック合成部253へ出力する。
ブロック合成部253は、伸長部251から受けるブロックデータから画面の一部を生成し、生成した画面の一部を伸長部251から受けた順番に並べることにより1画面を完成させる。ブロック合成部253は、完成させた1画面を示す画面情報を表示装置40へ出力する。
<映像伝送システム1の処理シーケンス>
図11は、本発明の実施の形態1に係る映像伝送システムが実行する処理のシーケンスを示す図である。
映像伝送システム1は、図11に示すシーケンス処理を、フレームごとに繰り返し実行する。
映像受信装置20の注目映像決定部27は、ユーザ3が注目している映像データを決定する(S1)。
映像受信装置20の映像指定情報伝送部28および送信部29は、ユーザ3が注目している映像データの識別子を含む映像指定情報を、映像送信装置10に送信する(S2)。映像送信装置10の受信部18は、映像指定情報を受信し、映像送信装置10の映像指定情報伝送部19は、受信部18が受信した映像指定情報を間引き制御部13に出力する。なお、映像受信装置20は、フレームごとに映像指定情報を映像送信装置10に送信するようにしてもよいし、映像指定情報の変更があった場合のみ映像指定情報を送信するようにしてもよい。
映像送信装置10の同期処理部11は、カメラ30A〜30Hがそれぞれ撮影した映像データA〜Hを取得する(S3)。
同期処理部11は、映像データA〜Hの同期処理を行う(S4)。
映像送信装置10の間引き制御部13および間引き処理部12A〜12Hは、映像データA〜Hのうち、映像指定情報が示す映像データを除く映像データに対して、フレームの間引き処理を行う(S5)。
映像送信装置10の映像圧縮部14A〜14Hは、間引き処理後の映像データA〜Hを、それぞれ、画面データごとに圧縮する(S6)。映像圧縮処理の詳細については後述する。
映像送信装置10の多重化部15は、圧縮処理済みの映像データA〜Hを多重化する(S7)。
映像送信装置10の符号化部16は、多重化データを符号化する(S8)。
送信部17は、符号化済みの多重化データを映像受信装置20に送信する(S9)。映像受信装置20の受信部21は、符号化済みの多重化データを受信する。
映像受信装置20の復号化部22は、符号化済みの多重化データを復号化する(S10)。
映像受信装置20の映像分離部23は、復号化された多重化データを複数の圧縮画面データに分離し、各圧縮画面データを、当該圧縮画面データの映像データに対応する映像メモリ24に書き込む(S11)。
映像伸長部25A〜25Hは、映像メモリ24A〜24Hから、最新フレームの圧縮画面データを読み出し、読み出した圧縮画面データを伸長する(S12)。映像伸長処理の詳細については後述する(S12)。
映像伸長部25A〜25Hは、伸長後の画面データを表示装置40A〜40Hにそれぞれ出力する。これにより、表示装置40A〜40Hは、映像データA〜Hの画面データをそれぞれ表示する(S13)。
<映像圧縮処理の処理シーケンス>
図12は、本発明の実施の形態1に係る映像送信装置が映像データにおける1画面の圧縮処理を行う際の動作手順を定めたフローチャートである。
図12を参照して、ブロック分割部141は、間引き処理部12から1画面分の映像データを取得する。ブロック分割部141は、取得した1画面分の映像データの示す画面を複数のブロックに分割する(S104)。
データ分配部142は、分割した複数のブロックのブロックデータの中からブロックデータを選択し、選択したブロックデータを可逆圧縮部143に分配する。可逆圧縮部143は、分配されたブロックデータを可逆圧縮処理する(S106)。
方式選択部145は、圧縮ブロックデータのデータサイズが、圧縮率が所定値A1に相当するサイズすなわち所定サイズBSより大きい場合(S108でYES)、可逆ブロックデータを破棄するとともに、当該可逆ブロックデータの順番をデータ分配部142へ通知する。データ分配部142は、当該ブロックデータを非可逆圧縮部144に分配し、非可逆圧縮部144は、当該ブロックデータを非可逆圧縮処理する(S120)。
非可逆圧縮部144は、非可逆圧縮処理後の圧縮ブロックデータに圧縮情報Iを付加する(S122)。
一方、可逆圧縮部143は、圧縮ブロックデータのデータサイズが所定サイズBSより小さい場合(S108でNOおよびS110でYES)、圧縮ブロックデータのデータサイズが所定サイズBSとなるように圧縮ブロックデータにパディングを施す(S112)。
可逆圧縮部143は、圧縮ブロックデータのデータサイズが所定サイズBSであるか(S108でNOおよびS110でNO)、または圧縮ブロックデータにパディングを施すと(S112)、圧縮ブロックデータに圧縮情報Rを付加する(S114)。
データ分配部142は、圧縮ブロックデータに圧縮情報Iを付加するか(S122)、または圧縮ブロックデータに圧縮情報Rを付加すると(S114)、すべてのブロックデータを選択したか否かを確認する(S116)。
データ分配部142は、すべてのブロックデータを選択していないことを確認すると(S116でNO)、分割した複数のブロックのブロックデータの中から新たなブロックデータを選択し、選択したブロックデータを可逆圧縮部143に分配する。可逆圧縮部143は、分配されたブロックデータを可逆圧縮処理する(S106)。
データ分配部142がすべてのブロックデータを選択したことを確認すると(S116でYES)、方式選択部145は、圧縮ブロックデータを位置順に多重化部15へ送信する(S118)。
なお、映像圧縮部14は、ブロックデータを可逆圧縮処理してから(S106)、圧縮ブロックデータのデータサイズが所定サイズBSより大きいブロックの画像データを非可逆圧縮処理したが(S108でYESおよびS120)、これに限定するものではない。映像圧縮部14は、ブロックデータを非可逆圧縮処理してから、当該ブロックデータを可逆圧縮処理してもよいし、非可逆圧縮処理および可逆圧縮処理を並行して行ってもよい。
また、映像圧縮部14は、ブロックデータを可逆圧縮処理してから(S106)、圧縮ブロックデータのデータサイズが所定サイズBSより大きいか否かを判定したが(S108)、これに限定するものではない。映像圧縮部14は、ブロックデータの可逆圧縮処理の途中において、圧縮処理後のデータサイズが所定サイズBSより大きくなることが明らかになったとき、当該可逆圧縮処理を中断して非可逆圧縮処理を開始してもよい。
映像圧縮部14が、1画面分の映像データを間引き処理部12から取得するごとに上記ステップS104〜S122の動作を行うことにより、複数の画面の画面データを含む映像データの圧縮処理が行われる。
<映像伸長処理の処理シーケンス>
図13は、本発明の実施の形態1に係る映像受信装置が映像データにおける1画面の伸長処理を行う際の動作手順を定めたフローチャートである。
図13を参照して、伸長部251は、映像メモリ24に記憶されている圧縮画面データから圧縮ブロックデータを取得する(S202)。
伸長部251は、圧縮ブロックデータに付加された圧縮情報Rまたは圧縮情報Iに基づいて、当該圧縮ブロックデータが可逆圧縮されたか否かを判定する(S204)。
伸長部251は、当該圧縮ブロックデータが可逆圧縮されたと判定すると(S204でYES)、圧縮情報Rに基づいて、当該圧縮ブロックデータすなわち可逆ブロックデータを伸長する(S206)。
一方、伸長部251は、当該圧縮ブロックデータが非可逆圧縮されたと判定すると(S204でNO)、圧縮情報Iに基づいて、当該圧縮ブロックデータすなわち非可逆ブロックデータを伸長する(S214)。
次に、映像伸長部25は、可逆ブロックデータを伸長するか(S206)、または非可逆ブロックデータを伸長すると(S214)、1画面分のブロックデータが蓄積されたか否かを判定する(S208)。
映像伸長部25は、1画面分のブロックデータが蓄積されていないと判定すると(S208でNO)、映像メモリ24に記憶されている圧縮画面データから新たな圧縮ブロックデータを取得する(S202)。
一方、映像伸長部25が1画面分のブロックデータが蓄積されたと判定すると(S208でYES)、ブロック合成部253は、蓄積したブロックデータを用いて1画面を生成する(S210)。
ブロック合成部253は、生成した1画面を所定のフレーム周期で表示装置40に表示する制御を行う(S212)。
映像伸長部25が、1画面分のブロックデータを蓄積し、蓄積したブロックデータを用いて生成した1画面を表示装置40に表示する上記ステップS202〜S212の動作を繰り返し行うことにより、複数の画面の画面データを含む映像データの伸長処理が行われる。
<実施の形態1の効果等>
以上説明したように、本発明の実施の形態1によると、映像送信装置10は、映像指定情報で指定された所定の映像データのフレームレートよりも指定されなかった他の映像データのフレームレートが低くなるように間引き処理を行った後、複数の映像データを映像受信装置20に送信する。映像受信装置20は、間引き処理後の複数の映像データを表示装置40に表示することができる。このような間引き処理を行うことにより、間引き処理を行わない場合に比べて複数の映像データの伝送量を減少させることができるため、複数の映像データを低遅延で伝送することができる。また、所定の映像データは、他の映像データに比べ高フレームレートであるため、所定の映像データを操作対象(例えば、車両2)の操作に必要な映像データとすることにより、操作対象の操作に必要な映像データを高画質で伝送することができる。
また、映像送信装置10は、映像指定情報で指定された所定の映像データを間引かないことしている。このため、所定の映像データを高画質で伝送し、表示装置40に表示することができる。これにより、ユーザは、所定の映像データを高画質な状態で見ることができる。
また、映像送信装置10は、間引き処理後の複数の映像データを圧縮して、映像受信装置20に配信している。これにより、複数の映像データをさらに低遅延で伝送することができる。
また、映像送信装置10は、映像データの1画面を複数のブロックに分割し、ブロックごとに画像データの圧縮処理を実行している。圧縮処理の際、可逆圧縮のアルゴリズムおよび不可逆圧縮のアルゴリズムをブロックごとに選択可能である。このため、可逆圧縮のアルゴリズムを適用したブロックについては、圧縮処理負荷を軽くするとともに、オリジナル映像に対する同一性を保持した画像データを映像受信装置20において復元することができる。また、非可逆圧縮のアルゴリズムを適用したブロックについては、伝送時のデータサイズを小さくするとともに、オリジナル映像に近い画像データを映像受信装置20において復元することができる。また、画面内の画像データを用いて圧縮処理を行うことで、画面間の画像データを用いて圧縮処理を行わないようにしてもよいので、処理負荷を軽減することができる。すなわち、映像送信装置10および映像受信装置20間のデータ伝送能力と、より多くのオリジナル映像データを送信する目的とのバランスを考慮しながら、可逆圧縮または非可逆圧縮の別をブロックごとに適宜選択し、ブロックごとの圧縮処理を施した画像データを伝送することができる。したがって、オリジナル映像との同一性および伝送レートを考慮した適切な映像伝送を実現することができる。
また、映像受信装置20は、車両2などの操作対象の操作に必要な映像データを指定することができる。このため、映像送信装置10は、映像受信装置20が所望する所定の映像データを高画質で送信することができる。また、映像受信装置20は所定の映像データを高画質で表示することができる。
なお、映像受信装置20のユーザは、車両2などの操作対象の操作に必要な映像データを指定することができる。このため、映像送信装置は、ユーザが指定した映像データを高画質で映像受信装置に送信することができ、映像受信装置は、ユーザが指定した映像データを高画質で表示することができる。また、映像送信装置は、ユーザが指定した映像データ以外の他の映像データをフレームレートが相対的に低くなるように間引いて、映像受信装置に送信することができる。これにより、複数の映像データを低遅延で伝送することができる。
なお、映像受信装置20は、入力装置50が検知したユーザの視線方向の情報に基づいて、ユーザが所望する映像データを指定することもできる。つまり、表示装置40A〜40Hに表示された複数の映像データのうち、ユーザが視線を向けて見ている映像データをユーザが所望する映像データとして指定することができる。このため、映像送信装置10はユーザが注視している映像データを高画質で映像受信装置20に送信し、ユーザが注視していない他の映像データをフレームレートが相対的に低くなるように間引いて、映像受信装置20に送信することができる。これにより、複数の映像データを低遅延で伝送することができる。
つまり、5Gの無線通信などの伝送能力が限定された通信環境においては、高精細な複数の映像データを伝送することは困難であるが、実施の形態1によると、ユーザが注視していない表示装置40には間引き処理された映像が表示され、ユーザが注視する表示装置40には毀損の無い映像が表示される。このため、ユーザにとって実用的な映像を表示することができる。
なお、本発明の実施の形態1に係る映像送信装置10では、映像圧縮部14は、ブロックデータの圧縮率が所定値A1となるように圧縮処理を行う構成であるとしたが、これに限定するものではない。映像圧縮部14は、当該圧縮率が所定範囲となるように圧縮処理を行う構成であってもよい。たとえば、映像圧縮部14は、ブロックデータを可逆圧縮したときのデータサイズが、圧縮率の所定範囲における上限値に相当するサイズより大きい場合、当該サイズ以下を目標として当該ブロックデータを非可逆圧縮する。一方、映像圧縮部14は、ブロックデータを可逆圧縮したときのデータサイズが、圧縮率の所定範囲における下限値に相当するサイズより小さい場合、データサイズが当該サイズになるようにパディングを施す。
また、本発明の実施の形態1に係る映像受信装置20では、映像伸長部25は、映像送信装置10から受信した選択情報を用いて伸長処理を行う構成であるとしたが、これに限定するものではない。映像伸長部25は、選択情報を用いず伸長処理を行う構成であってもよい。具体的には、たとえば、映像伸長部25は、ブロックごとの画像データを可逆伸長することを試みる。映像伸長部25は、可逆伸長処理に成功すると、伸長後の画像データを採用し、可逆伸長処理に失敗すると、当該画像データを非可逆伸長する。
また、本発明の実施の形態1では、映像指定情報で指定される映像データは1つとしたが、複数であってもよい。映像指定情報で複数の映像データが指定された場合には、指定された映像データのうち少なくとも一部のデータに対して間引き処理を施すようにしてもよい。例えば、互いに隣接する位置に配置された3つの表示装置40へ表示される3つの映像データが映像指定情報で指定された場合には、中心の表示装置40に表示される映像データは間引かずに、左右の表示装置40に表示される映像データを間引くようにしてもよい。なお、その間引き間隔は、映像指定情報で指定されなかった間引き対象とされる映像データの間引き間隔よりも小さくするのが好ましい。
(実施の形態2)
実施の形態1では、映像送信装置10が映像受信装置20に映像データを送信する際に、1フレーム分の画面データを1フレームに収めて送信することとしたが、実施の形態2では、1フレーム分の画面データを複数フレームに亘って送信する例について説明する。
映像伝送システム1の構成は実施の形態1と同様である。このため、その詳細な説明はここでは繰り返さない。
なお、本実施の形態では、例えば、映像送信装置10において、同期処理部11は、映像データA〜Cを受けるものとする。また、映像送信装置10が映像受信装置20から受け取る映像指定情報において、映像データAが指定されているものとする。
図14は、本発明の実施の形態2に係る映像送信装置による間引き処理および多重化処理について説明するための図である。図14を参照して、映像指定情報に映像データAの識別子が含まれる場合の各処理について説明する。
間引き制御部13は、映像データAに対する間引き処理を実行しないように間引き処理部12Aを制御する。このため、図14の(A)に示すように、間引き処理部12Aは、映像データAについて、間引き処理を実行せずに、全てのフレームの画面データが揃った映像データを出力する。
また、間引き制御部13は、映像データBおよびCに対する間引き処理を実行するように間引き処理部12Bおよび12Cを制御する。例えば、間引き制御部13は、映像データBおよびCから7フレーム間隔で画面データを抽出するように、間引き処理部12Bおよび12Cをそれぞれ制御する。
つまり、図14の(A)に示すように、間引き処理部12Bおよび12Cは、それぞれ、映像データBおよびCについて、間引き処理を実行する。ここで、間引かれたフレームの画面データは破線で示している。
具体的には、間引き処理部12Bは、映像データBおよび映像データCの各々について、第1フレームを開始フレームとして、7フレーム間隔で画面データを抽出し、抽出されなかった画面データを間引く。これにより、第1フレームから第11フレームのうち、第1フレームと第8フレームの画面データが抽出され、それ以外のフレーム画面データは間引かれる。
多重化部15は、フレームごとに、間引き処理部12A〜12Cで間引き処理され、映像圧縮部14A〜14Cで圧縮処理された後の映像データA〜Cを多重化する。その際、多重化部15は、間引き処理後の映像データBおよびCに含まれる各画面データを時分割し、複数のフレームに亘り多重化する。つまり、図14の(B)に示すように、フレームごとに、映像データAに含まれる画面データと、間引き処理部12Bおよび12Cの間引き処理により映像データBおよびCから抽出された画面データとを、多重化する。例えば、多重化部15は、映像データAに含まれる画面データの次に、映像データBおよびCから抽出され、時分割された画面データを結合することにより多重化を行うこととする。
具体的には、多重化部15は、映像データに含まれる第1フレームの画面データと、映像データBから抽出された第1フレームの画面データを7分割したデータのうち1番目のデータと、映像データCから抽出された第1フレームの画面データを7分割したデータのうち1番目のデータとを多重化したデータを、第1フレームの多重化データとして出力する。
また、多重化部15は、映像データに含まれる第2フレームの画面データと、映像データBから抽出された第1フレームの画面データを7分割したデータのうち2番目のデータと、映像データCから抽出された第1フレームの画面データを7分割したデータのうち2番目のデータとを多重化したデータを、第2フレームの多重化データとして出力する。
以下同様の処理を行うことで、多重化部15は、7フレームかけて映像データBおよびCの第1フレームの画面データを多重化する。
映像データBおよびCの第2フレームの画面データについても、同様の処理を繰り返すことにより、多重化される。
映像受信装置20の映像分離部23は、フレームごとに、映像分離部23から多重化データを受ける。また、映像分離部23は、後述する注目映像決定部27から、映像指定情報を受ける。映像分離部23は、映像指定情報に基づいて、多重化データを複数の圧縮画面データに分離する。例えば、映像分離部23は、図14の(B)に示すような多重化データをフレームごとに受けたとする。また、映像指定情報は映像データAの識別子を含んでいるものとする。この場合、映像分離部23は、多重化データの先頭から第1所定サイズのデータを、映像指定情報が示す映像データAの圧縮画面データとして分離する。また、映像分離部23は、多重化データの残りのデータのうち第2所定サイズのデータを、映像データBから抽出され圧縮された圧縮画面データの部分データとして分離する。さらに、映像分離部23は、多重化データの残りのデータを、映像データCから抽出され圧縮された圧縮画面データの部分データとして分離する。
なお、映像送信装置10の映像圧縮部14においては、各ブロックデータのサイズが所定サイズBSとなるように圧縮処理が行われる。このため、第1所定サイズおよび第2所定サイズは固定サイズとすることができる。
7フレーム分の部分データが映像メモリ24Bおよび24Cに記憶された段階で、1フレーム分の圧縮画面データが揃うことになる。映像伸長部25Bおよび25Cは、1フレーム分の圧縮画面データがそろった段階で、当該圧縮画面データを伸長する。映像伸長部25Bおよび25Cは、次の圧縮画面データが揃うまでの間、同じ圧縮画面データを毎フレーム伸長する。これにより、映像伸長部25Bおよび25Cは、それぞれ同じ画面データを7フレームに亘り表示装置40Bおよび40Cに表示する。
一方、映像伸長部25Aは、毎フレーム、映像データAの圧縮画面データを伸長し、表示装置40Aに表示する。
以上説明したように、実施の形態2によると、間引き処理後の各画面データを時分割で送信することにより、フレーム間で伝送量を平準化することができる。これにより、映像データ伝送時の伝送レートを低く抑えることができる。
例えば、図14に示した例において、間引き処理後の各画面データを時分割送信しない場合には、第1フレームにおいて、3枚の画面データを伝送し、第2〜第7フレームにおいて1枚の画面データを伝送する必要がある。このため、フレームごとに伝送量が異なるが、実施の形態2によると、フレーム間の伝送量を平準化することができる。
(実施の形態3)
実施の形態3では、映像送信装置および映像受信装置を低コストで構成する例について説明する。実施の形態1および2に示した映像送信装置および映像受信装置は、FPGAにより実現可能である。しかし、映像データの取り扱いには大容量のメモリを要する。FPGAには有限容量の内蔵メモリを備えるものがあるが、映像データを記憶するには容量不足であることが多い。また、大容量のメモリを内蔵するFPGAは高価である。
そこで、実施の形態3では、FPGAとは別に汎用品の外付けメモリを用いて映像送信装置および映像受信装置を実現する例について説明する。
図15は、本発明の実施の形態3に係る映像送信装置の構成を示すブロック図である。
図15を参照して、映像送信装置10Aは、入力I/F部71と、FPGA72と、外付けメモリ73と、送信部17と、受信部18とを備える。
入力I/F部71は、カメラ30とFPGA72とを接続するためのインタフェースである。入力I/F部71は、カメラ30が撮影した映像データを取得し、取得した映像データをFPGA72に出力する。
FPGA72は、入力I/F部71を介してカメラ30から取得した映像データに対して、間引き処理、映像圧縮処理、多重化処理および符号化処理を施す集積回路である。
FPGA72は、同期処理部11と、間引き処理部12A〜12Hと、間引き制御部13と、映像圧縮部14A〜14H、メモリI/F部74と、多重化部15と、符号化部16と、映像指定情報伝送部19とを含む。メモリI/F部74以外の各処理部は、実施の形態1で説明したものと同様である。
メモリI/F部74は、外付けメモリ73とFPGA72を接続するためのインタフェースである。メモリI/F部74は、映像圧縮部14A〜14Hから出力される圧縮画面データを、外付けメモリ73に書き込む。また、メモリI/F部74は、外付けメモリ73から圧縮画像データを読み出して、多重化部15に出力する。
外付けメモリ73は、FPGA72の処理過程で生じるデータを一時的に記憶する記憶装置であり、例えば、DDR3 SDRAM(Double-Data-Rate3 Synchronous Dynamic Random Access Memory)やDDR4 SDRAM(Double-Data-Rate4 Synchronous Dynamic Random Access Memory)などのDRAMにより構成される。
送信部17は、実施の形態1に示したものと同様であり、通信インタフェースを含んで構成され、FPGA72から、符号化された多重化データを受け、当該多重化データを、ネットワーク60を介して、映像受信装置20に送信する。
受信部18は、実施の形態1に示したものと同様であり、通信インタフェースを含んで構成され、映像指定情報を、ネットワーク60を介して映像受信装置20から受信する。受信部18は、受信した映像指定情報を、FPGA72の映像指定情報伝送部19に出力する。
図16は、本発明の実施の形態3に係る映像受信装置の構成を示すブロック図である。
図16を参照して、映像受信装置20Aは、受信部21と、送信部29と、FPGA81と、外付けメモリ82とを備える。
受信部21は、実施の形態1に示したものと同様であり、通信インタフェースを含んで構成される。受信部21は、ネットワーク60を介して映像送信装置10Aから、フレームごとに、符号化された多重化データを受信する。受信部21は、受信した符号化された多重化データを、FPGA81の復号化部22に出力する。
送信部29は、実施の形態1に示したものと同様であり、通信インタフェースを含んで構成され、FPGA81の映像指定情報伝送部28から映像指定情報を受け、当該映像指定情報をネットワーク60を介して映像送信装置10Aに送信する。
FPGA81は、受信部21が受信した符号化された多重化データに対して、復号化処理、映像分離処理および映像伸長処理を施す集積回路である。
FPGA81は、復号化部22と、映像分離部23と、メモリI/F部83と、映像伸長部25A〜25Hと、入力受付部26と、注目映像決定部27と、映像指定情報伝送部28とを含む。メモリI/F部83以外の各処理部は、実施の形態1で説明したものと同様である。
メモリI/F部83は、外付けメモリ82とFPGA81を接続するためのインタフェースである。メモリI/F部83は、映像分離部23で分離された圧縮画面データを、外付けメモリ73に書き込む。また、メモリI/F部83は、外付けメモリ82から圧縮画像データを読み出して、映像伸長部25A〜25Hに出力する。
以上説明したように、実施の形態3に係る映像送信装置10Aおよび映像受信装置20Aは、FPGAと外付けメモリとを組み合わせて構成され、処理の途中で発生する映像データを外付けメモリに記憶させる。外付けメモリとして、汎用のDRAM等を用いることができる。このため、低コストで映像送信装置10Aおよび映像受信装置20Aを構成することができる。
また、8Kのデュアルグリーン方式の映像データの伝送レートは24Gbps程度であるため、そのままの形で映像データを外付けメモリに格納し、リアルタイム再生を行うのは、メモリアクセス速度の点から困難である。これに対し、実施の形態3では、間引き処理および圧縮処理を行った後の映像データを外付けメモリに格納しているため、メモリへ格納されるデータ容量を減らすことができ、これに伴いデータアクセス時間を短縮することができる。よって、リアルタイム再生も可能となる。このように、外付けメモリを利用して映像送信装置10Aおよび映像受信装置20Aを構成することができる。
なお、上記実施の形態の少なくとも一部を任意に組み合わせるとしてもよい。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 映像伝送システム
2 車両
3 ユーザ
10、10A 映像送信装置
11 同期処理部
12、12A〜12H 間引き処理部
13 間引き制御部
14、14A〜14H 映像圧縮部
15 多重化部
16 符号化部
17 送信部
18 受信部
19 映像指定情報伝送部
20、20A 映像受信装置
21 受信部
22 復号化部
23 映像分離部
24、24A〜24H 映像メモリ
25、25A〜25H 映像伸長部
26 入力受付部
27 注目映像決定部
28 映像指定情報伝送部
29 送信部
30、30A〜30H カメラ
40、40A〜40H 表示装置
50 入力装置
60 ネットワーク
71 入力I/F部
72、81 FPGA
73、82 外付けメモリ
74、83 メモリI/F部
141 ブロック分割部
142 データ分配部
143 可逆圧縮部
144 非可逆圧縮部
145 方式選択部
251 伸長部
253 ブロック合成部

Claims (17)

  1. 複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行し、前記間引き処理後の前記複数の映像データを送信する映像送信装置と、
    前記映像送信装置から受信した前記間引き処理後の前記複数の映像データを表示装置に表示する映像受信装置とを備える、映像伝送システム。
  2. 前記映像送信装置は、前記所定の映像データに対するフレームの間引き処理を実行しない、請求項1に記載の映像伝送システム。
  3. 前記映像送信装置は、前記他の映像データに含まれる映像データ間で画面データの抽出を開始するフレームである開始フレームをずらした前記間引き処理を実行する、請求項1または請求項2に記載の映像伝送システム。
  4. 前記映像送信装置は、前記他の映像データの数に基づくフレームレートに従って前記他の映像データの間引き処理を実行する、請求項3に記載の映像伝送システム。
  5. 前記映像送信装置は、前記間引き処理後の前記他の映像データに含まれる各画面データを、複数のフレームに亘り時分割で送信する、請求項1〜請求項4のいずれか1項に記載の映像伝送システム。
  6. 前記映像送信装置は、前記間引き処理後の前記複数の映像データに対して圧縮処理を実行し、前記圧縮処理済みの前記複数の映像データを送信し、
    前記映像受信装置は、前記映像送信装置から受信した前記圧縮処理済みの前記複数の映像データに対して伸長処理を実行し、伸長処理後の前記複数の映像データを表示装置に表示する、請求項1〜請求項5のいずれか1項に記載の映像伝送システム。
  7. 前記映像送信装置は、前記複数の映像データの各々について、1画面を複数のブロックに分割し、前記ブロックごとに画像データの圧縮処理を実行し、
    前記映像受信装置は、前記映像送信装置から受信した前記圧縮処理済みの前記複数の映像データの各々について、前記ブロックごとに画像データの伸長処理を実行し、
    前記圧縮処理において、可逆圧縮のアルゴリズムおよび不可逆圧縮のアルゴリズムを前記ブロックごとに選択可能であり、
    前記伸長処理において、可逆伸長のアルゴリズムおよび不可逆伸長のアルゴリズムを前記ブロックごとに選択可能である、請求項6に記載の映像伝送システム。
  8. 前記映像受信装置は、前記所定の映像データを指定する、請求項1〜請求項7のいずれか1項に記載の映像伝送システム。
  9. 前記映像受信装置は、ユーザ操作に基づいて前記所定の映像データを指定する、請求項8に記載の映像伝送システム。
  10. 前記映像受信装置は、ユーザの視線の検知結果に基づいて前記所定の映像データを指定する、請求項8に記載の映像伝送システム。
  11. 前記映像データの解像度は、8K UHDTVである、請求項1〜請求項10のいずれか1項に記載の映像伝送システム。
  12. 複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行する間引き処理部と、
    前記間引き処理後の前記複数の映像データを送信する送信部とを備える、映像送信装置。
  13. 映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信する受信部と、
    前記受信部が受信した前記間引き処理後の前記複数の映像データを表示装置に表示する表示制御部とを備える、映像受信装置。
  14. 複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行するステップと、
    前記間引き処理後の前記複数の映像データを送信するステップとを含む、映像送信方法。
  15. 映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信するステップと、
    受信した前記間引き処理後の前記複数の映像データを表示装置に表示するステップとを含む、映像受信方法。
  16. コンピュータを、
    複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理を実行する間引き処理部と、
    前記間引き処理後の前記複数の映像データを送信する送信部として機能させるための、コンピュータプログラム。
  17. コンピュータを、
    映像送信装置から、複数の映像データに対して、所定の映像データのフレームレートよりも前記所定の映像データを除く少なくとも1つの他の映像データのフレームレートを低くするフレームの間引き処理が実行された後の、前記複数の映像データを受信する受信部と、
    前記受信部が受信した前記間引き処理後の前記複数の映像データを表示装置に表示する表示制御部として機能させるための、コンピュータプログラム。
JP2017219593A 2017-11-15 2017-11-15 映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラム Active JP6988394B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017219593A JP6988394B2 (ja) 2017-11-15 2017-11-15 映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017219593A JP6988394B2 (ja) 2017-11-15 2017-11-15 映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2019092051A true JP2019092051A (ja) 2019-06-13
JP6988394B2 JP6988394B2 (ja) 2022-01-05

Family

ID=66836727

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017219593A Active JP6988394B2 (ja) 2017-11-15 2017-11-15 映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラム

Country Status (1)

Country Link
JP (1) JP6988394B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021019950A1 (ja) * 2019-07-29 2021-02-04 コベルコ建機株式会社 建設機械のデータ処理システム
US20220182242A1 (en) * 2020-12-03 2022-06-09 International Business Machines Corporation Implementing opportunistic authentication of encrypted data
CN115037727A (zh) * 2022-08-10 2022-09-09 深圳海卫通网络科技有限公司 一种船载卫星通信视频传输的宽带阻塞处理方法及装置
WO2023002681A1 (ja) * 2021-07-20 2023-01-26 コニカミノルタ株式会社 情報処理システムおよび情報処理プログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60217781A (ja) * 1984-04-13 1985-10-31 Toshiba Corp 遠隔マルチビデオ装置
JP2007201816A (ja) * 2006-01-26 2007-08-09 Mitsubishi Electric Corp 映像表示システム及び映像受信装置
JP2009260977A (ja) * 2008-04-15 2009-11-05 Sony Corp 不可逆圧縮及び可逆圧縮を組み合わせて用いたビデオデータ圧縮
JP2017062279A (ja) * 2015-09-24 2017-03-30 キヤノン株式会社 画像処理装置および画像処理方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS60217781A (ja) * 1984-04-13 1985-10-31 Toshiba Corp 遠隔マルチビデオ装置
JP2007201816A (ja) * 2006-01-26 2007-08-09 Mitsubishi Electric Corp 映像表示システム及び映像受信装置
JP2009260977A (ja) * 2008-04-15 2009-11-05 Sony Corp 不可逆圧縮及び可逆圧縮を組み合わせて用いたビデオデータ圧縮
JP2017062279A (ja) * 2015-09-24 2017-03-30 キヤノン株式会社 画像処理装置および画像処理方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021019950A1 (ja) * 2019-07-29 2021-02-04 コベルコ建機株式会社 建設機械のデータ処理システム
US20220182242A1 (en) * 2020-12-03 2022-06-09 International Business Machines Corporation Implementing opportunistic authentication of encrypted data
US11917072B2 (en) * 2020-12-03 2024-02-27 International Business Machines Corporation Implementing opportunistic authentication of encrypted data
WO2023002681A1 (ja) * 2021-07-20 2023-01-26 コニカミノルタ株式会社 情報処理システムおよび情報処理プログラム
CN115037727A (zh) * 2022-08-10 2022-09-09 深圳海卫通网络科技有限公司 一种船载卫星通信视频传输的宽带阻塞处理方法及装置
CN115037727B (zh) * 2022-08-10 2022-11-11 深圳海卫通网络科技有限公司 一种船载卫星通信视频传输的宽带阻塞处理方法及装置

Also Published As

Publication number Publication date
JP6988394B2 (ja) 2022-01-05

Similar Documents

Publication Publication Date Title
JP6988394B2 (ja) 映像伝送システム、映像送信装置、映像受信装置、映像送信方法、映像受信方法およびコンピュータプログラム
JP6823151B2 (ja) 符号化装置および符号化方法
JP4345829B2 (ja) 画像表示システム、画像表示装置、画像表示方法およびプログラム
US7697768B2 (en) Method and apparatus for encoding an image
US20200020134A1 (en) Image processing apparatus and method
US10880566B2 (en) Method and device for image encoding and image decoding
JP2019029746A (ja) 映像伝送システム、映像送信装置、映像受信装置、コンピュータプログラム、映像配信方法、映像送信方法および映像受信方法
US8724912B2 (en) Method, apparatus, and program for compressing images, and method, apparatus, and program for decompressing images
KR100741721B1 (ko) 정지영상을 함께 출력하는 보안감시시스템
US20170149856A1 (en) Wireless video transmission device, video playing device and method, and system
US10917604B2 (en) Captured image display device, captured image display method, and captured image display program
KR100746005B1 (ko) 다중 목적의 비디오 스트림을 처리하는 장치 및 방법
US20120007951A1 (en) System and format for encoding data and three-dimensional rendering
JP2010062792A (ja) 画像圧縮装置、画像伸張装置、画像圧縮プログラムおよび画像伸張プログラム
EP2312859A2 (en) Method and system for communicating 3D video via a wireless communication link
KR101551915B1 (ko) 영상압축방법 및 영상압축장치
WO2020241269A1 (ja) 映像伝送システム、映像送信装置、映像受信装置、映像配信方法、映像送信方法、映像受信方法およびコンピュータプログラム
KR101280443B1 (ko) 영역 영상을 처리하는 장치 및 그 제어방법
JP2007215073A (ja) 画像圧縮装置、画像圧縮プログラム及び画像圧縮方法、hdr画像生成装置、hdr画像生成プログラム及びhdr画像生成方法、並びに画像処理システム、画像処理プログラム及び画像処理方法
JP2013128260A (ja) 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法
US8798379B2 (en) Image processing method, encoding device, decoding device, and image processing apparatus
JP4325596B2 (ja) ネットワーク監視カメラシステム
KR101804702B1 (ko) 전송 영상의 해상도 결정 방법 및 장치
JP2017225021A (ja) 映像伝送システム、映像送信装置、映像受信装置および映像処理プログラム
JP6545205B2 (ja) データ配信システム及びデータ配信方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200521

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210525

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210707

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211102

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211115

R150 Certificate of patent or registration of utility model

Ref document number: 6988394

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150