JP2006054500A - 動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置 - Google Patents

動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置 Download PDF

Info

Publication number
JP2006054500A
JP2006054500A JP2004216384A JP2004216384A JP2006054500A JP 2006054500 A JP2006054500 A JP 2006054500A JP 2004216384 A JP2004216384 A JP 2004216384A JP 2004216384 A JP2004216384 A JP 2004216384A JP 2006054500 A JP2006054500 A JP 2006054500A
Authority
JP
Japan
Prior art keywords
information
stereo
field
decoding
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004216384A
Other languages
English (en)
Other versions
JP4361435B2 (ja
Inventor
Yoshinori Suzuki
芳典 鈴木
Chunsen Bun
チュンセン ブン
Tsutomu Horikoshi
力 堀越
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Docomo Inc
Original Assignee
NTT Docomo Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NTT Docomo Inc filed Critical NTT Docomo Inc
Priority to JP2004216384A priority Critical patent/JP4361435B2/ja
Priority to TW94123576A priority patent/TWI277349B/zh
Priority to US11/178,417 priority patent/US8811471B2/en
Priority to EP20050015229 priority patent/EP1628485A3/en
Priority to EP12159229.9A priority patent/EP2477410B8/en
Priority to CN2005100819748A priority patent/CN1741619B/zh
Priority to KR20050063748A priority patent/KR100676099B1/ko
Priority to CN2012100849194A priority patent/CN102638691A/zh
Publication of JP2006054500A publication Critical patent/JP2006054500A/ja
Application granted granted Critical
Publication of JP4361435B2 publication Critical patent/JP4361435B2/ja
Priority to US13/242,351 priority patent/US20120013717A1/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/139Format conversion, e.g. of frame-rate or size
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Library & Information Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】 符号化されたステレオ映像の左右画像を同時に出力する。
【解決手段】 動画像復号方法は、Top fieldとBottom fieldとを含む飛び越し走査画像の符号化データを復号する動画像復号方法であって、Top fieldとBottom fieldとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得ステップと、符号化データから互いに対応する2つのフィールドとを復号し、2つの復号フィールドを生成する復号ステップと、2つの復号フィールドとを出力する出力ステップとを含み、出力ステップにおいて、ステレオ情報を参照し2つの復号フィールドを同時に出力する。
【選択図】 図3

Description

本発明は、動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置に関する。
動画像符号化方式であるH.264拡張方式のドラフト規格では、ステレオ映像における左眼用に用意された画像(左目画像)及び右眼用に用意された画像(右目画像)各々をインタレース信号(飛び越し走査画像)における奇数ラインフィールド及び偶数ラインフィールドの何れかとして符号化することが可能である。また、符号化された動画像データがステレオ映像に係るものであるか否かを示す識別情報としてステレオビデオフィールドメッセージ(ステレオ情報)が定義されている。符号化された動画像データに含まれるステレオビデオフィールドメッセージのデータを参照することにより、動画像データを復号するデコーダは復号された各フィールドがステレオ映像の左眼あるいは右眼画像であることを認識できる(例えば、下記非特許文献1参照)。なお、ここでいうフィールドとは、動画像を構成する画像のことであり、1枚の画像たるフレームにおける奇数ラインの走査線により形成された画像(奇数ラインフィールド)及び偶数ラインの走査線により形成された画像(偶数ラインフィールド)の何れかを表す。
一方、H.264方式では、動画像の再生の単位である再生ピクチャ(ピクチャとはフレーム、フィールド及び2つのフィールドのペア(以下、2フィールドペアと呼ぶ)の総称である)の出力時刻の相対関係をPicture order count(POC)という情報で定義しており、更にTop fieldとBottom filedのPOCをTop POC、Bottom POCと定義している。なお、Top fieldとBottom fieldを同じフレームあるいは2フィールドペアとする場合(2つのフィールドに同じフレーム番号を与える)には、Top POCとBottom POCのうち小さい値をPOCと定義する。そのため、2つのフィールドのPOC値が同じ値となる。Top fieldとBottom fieldを個別のフィールドとする場合(2つのフィールドに異なるフレーム番号を与える)には、2フィールドのPOC値は異なる。この情報は、各ピクチャ間の時間方向の相対関係を示しており、画像間の予測処理などに用いられる。また、H.264方式では、再生ピクチャのタイムスタンプの符号化が規定されている。H.264方式の上記タイムスタンプの情報を保持するピクチャタイミングメッセージにおいては、ピクチャタイプ情報(picture_struct)にて、符号化するタイムスタンプの数(フレームは1個、フィールドは1個、2フィールドペアは2個など)が指定できる。なお、映像及び音声を統合するシステムデータにて時刻情報を定義する場合もある。
Text of ISO/IEC 14496-10:2003/FPDAM1 (AVC Professional Extensions),2004年3月
上記のように符号化された動画像データを再生するタイミングについて規定されているものの、上記の規格ではステレオ映像を含んで符号化された動画像データについてはステレオ映像として再生し出力されることが考慮されていない。従って、ステレオ映像を再生しようとすると、左右画像が異なる時刻でずれて出力され、ステレオ画像として見えなくなるという課題があった。
本発明は、上記課題を解決するために成されたものであり、符号化されたステレオ映像の左右画像を同時に出力することを可能とする動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置を提供することを目的とする。
上記目的を達成するために、本発明に係る動画像復号方法は、飛び越し走査画像の符号化データを復号する動画像復号方法であって、飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を取得するステレオ情報取得ステップと、符号化データからステレオ画像として互いに対応する第1のピクチャと第2のピクチャとを復号し、第1復号ピクチャと第2復号ピクチャとを生成する復号ステップと、復号ステップにおいて復号された第1復号ピクチャと第2復号ピクチャとを出力する出力ステップとを含み、出力ステップにおいて、ステレオ情報取得ステップにおいて取得されたステレオ情報を参照し第1復号ピクチャと第2復号ピクチャとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、第1復号ピクチャと第2復号ピクチャとをステレオ画像として対応させて出力することを特徴とする。
上記動画像復号方法によれば、取得したステレオ情報に基づき各ピクチャの出力を同時に行うことができるので、符号化されたステレオ映像の左右画像を同時に出力することができる。
また、動画像復号プログラムは、コンピュータに、飛び越し走査画像の符号化データを復号させる動画像復号プログラムであって、飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得処理と、符号化データからステレオ画像として互いに対応する第1のピクチャと第2のピクチャとを復号し、第1復号ピクチャと第2復号ピクチャとを生成する復号処理と、復号処理により復号された第1復号ピクチャと第2復号ピクチャとを出力する出力処理とを実行させ、出力処理は、ステレオ情報取得処理により取得されたステレオ情報を参照し第1復号ピクチャと第2復号ピクチャとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、第1復号ピクチャと第2復号ピクチャとをステレオ画像として対応させて出力することを特徴とする。
また、動画像復号装置は、飛び越し走査画像の符号化データを入力する入力手段と、飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得手段と、符号化データからステレオ画像として互いに対応する第1のピクチャと第2のピクチャとを復号し、第1復号ピクチャと第2復号ピクチャとを生成する復号手段と、復号手段により復号された第1復号ピクチャと第2復号ピクチャとを出力する出力処理とを備え、出力手段は、ステレオ情報取得手段により取得されたステレオ情報を参照し第1復号ピクチャと第2復号ピクチャとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、第1復号ピクチャと第2復号ピクチャとをステレオ画像として対応させて出力することを特徴とする。
また、動画像符号化方法は、飛び越し走査画像を符号化して符号化データを生成する動画像符号化方法であって、飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加ステップと、ピクチャをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又はピクチャをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、符号化データに付加する出力情報付加ステップと、を含むことを特徴とする。
また、動画像符号化プログラムは、コンピュータに、飛び越し走査画像を符号化して符号化データを生成させる動画像符号化プログラムであって、飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加処理と、ピクチャをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又はピクチャをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、符号化データに付加する出力情報付加処理と、を実行させることを特徴とする。
また、動画像符号化装置は、飛び越し走査画像を符号化して符号化データを生成する動画像符号化装置であって、飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加手段と、ピクチャをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又はピクチャをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、符号化データに付加する出力情報付加手段と、を備えることを特徴とする。
上記目的を達成するために、本発明に係る動画像復号方法は、第1フィールドと第2フィールドとを含む飛び越し走査画像の符号化データを復号する動画像復号方法であって、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得ステップと、符号化データから互いに対応する第1フィールドと第2フィールドとを復号し、第1復号フィールドと第2復号フィールドとを生成する復号ステップと、復号ステップにおいて復号された第1復号フィールドと第2復号フィールドとを出力する出力ステップとを含み、出力ステップにおいて、ステレオ情報取得ステップにおいて取得されたステレオ情報を参照し第1フィールドと第2フィールドとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、第1復号フィールドと第2復号フィールドとを同時に出力することを特徴とする。なお、出力ステップにおける判断には、ステレオ情報取得ステップにおけるステレオ情報の取得において、ステレオ情報の取得がなされたか否かに基づいて、ステレオ画像を構成するか否かを判断することも含む。
上記動画像復号方法によれば、取得したステレオ情報に基づき各フィールドの出力を同時に行うことができるので、符号化されたステレオ映像の左右画像を同時に出力することができる。
また、動画像復号プログラムは、コンピュータに、第1フィールドと第2フィールドとからなる飛び越し走査画像の符号化データを復号させる動画像復号プログラムであって、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得処理と、符号化データから互いに対応する第1フィールドと第2フィールドとを復号し、第1復号フィールドと第2復号フィールドとを生成する復号処理と、復号処理により復号された第1復号フィールドと第2復号フィールドとを出力する出力処理とを実行させ、出力処理は、ステレオ情報取得処理により取得されたステレオ情報を参照し第1フィールドと第2フィールドとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、第1復号フィールドと第2復号フィールドとを同時に出力することを特徴とする。
また、動画像復号装置は、第1フィールドと第2フィールドとを含む飛び越し走査画像の符号化データを入力する入力手段と、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得手段と、符号化データから互いに対応する第1フィールドと第2フィールドとを復号し、第1復号フィールドと第2復号フィールドとを生成する復号手段と、復号手段により復号された第1復号フィールドと第2復号フィールドとを出力する出力手段とを備え、出力手段は、ステレオ情報取得手段により取得されたステレオ情報を参照し第1フィールドと第2フィールドとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、第1復号フィールドと第2復号フィールドとを同時に出力することを特徴とする。
また、出力ステップにおいて、第1フィールドと第2フィールドとがステレオ画像を構成しないと判断した場合、第1復号フィールドと第2復号フィールドとを異なる時刻に出力することとするのが望ましい。
また、動画像符号化方法は、第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化方法であって、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加ステップと、第1フィールドと第2フィールドとを出力するタイミングに関する情報を保持した出力タイミング情報を符号化して、符号化データに付加する出力タイミング情報付加ステップと、を含むことを特徴とする。なお、「符号化データに付加する」ということには、符号化したフィールド等とステレオ情報とを多重化して符号化データを生成することをも含む。
また、動画像符号化方法は、第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化方法であって、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加ステップと、第1フィールドと第2フィールドとを同時に出力する時刻に関する出力時刻情報を符号化して、符号化データに付加する出力時刻情報付加ステップと、を含むことを特徴とする。
また、動画像復号方法は、第1フィールドと第2フィールドとを出力するタイミングに関する情報を保持した出力タイミング情報を符号化データから復号して取得する出力タイミング情報取得ステップを更に含み、出力ステップにおいて、出力タイミング情報取得ステップにおいて取得された出力タイミング情報に基づき第1復号フィールドと第2復号フィールドとを出力することとするのが望ましい。
また、動画像復号方法は、第1フィールドと第2フィールドとを同時に出力する時刻に関する出力時刻情報を符号化データから復号して取得する出力時刻情報取得ステップを更に含み、出力ステップにおいて、出力時刻情報取得ステップにおいて取得された出力時刻情報に基づき第1復号フィールドと第2復号フィールドとを出力することが望ましい。
また、出力タイミング情報は、符号化データに含まれる、第1フィールド及び第2フィールドの何れかの出力時刻の情報に対応した時刻を出力時刻とする旨の情報であることが望ましい。
また、出力タイミング情報は、符号化データに含まれる、第1フィールド及び第2フィールドに割り当てられた出力順序を示す番号の大小関係を示す情報であることが望ましい。
また、動画像符号化プログラムは、コンピュータに、第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成させる動画像符号化プログラムであって、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加処理と、第1フィールドと第2フィールドとを出力するタイミングに関する情報を保持した出力タイミング情報を符号化して、符号化データに付加する出力タイミング情報付加処理と、を実行させることを特徴とする。
また、動画像符号化プログラムは、コンピュータに、第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成させる動画像符号化プログラムであって、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加処理と、第1フィールドと第2フィールドとを同時に出力する時刻に関する出力時刻情報を符号化して、符号化データに付加する出力時刻情報付加処理と、を実行させることを特徴とする。
また、動画像符号化装置は、第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化装置であって、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加手段と、第1フィールドと第2フィールドとを出力するタイミングに関する情報を保持した出力タイミング情報を符号化して、符号化データに付加する出力タイミング情報付加手段と、を備えることを特徴とする。
また、動画像符号化装置は、第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化装置であって、第1フィールドと第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加手段と、第1フィールドと第2フィールドとを同時に出力する時刻に関する出力時刻情報を符号化して、符号化データに付加する出力時刻情報付加手段と、を備えることを特徴とする。
また、動画像復号方法は、フレームを含む飛び越し走査画像の符号化データを復号する動画像復号方法であって、フレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得ステップと、符号化データからステレオ画像として互いに対応する第1のフレームと第2のフレームとを復号し、第1復号フレームと第2復号フレームとを生成する復号ステップと、復号ステップにおいて復号された第1復号フレームと第2復号フレームとを出力する出力ステップとを含み、出力ステップにおいて、ステレオ情報取得ステップにおいて取得されたステレオ情報を参照しフレームがステレオ画像を構成するものであるか否か判断し、ステレオ画像を構成すると判断した場合、第1復号フレームと第2復号フレームとをステレオ画像として対応させて出力することを特徴とする。
また、動画像復号方法は、符号化データに含まれるフレームのステレオ画像としての対応関係に関する対応関係情報を復号する対応情報復号ステップを更に含み、出力ステップにおいて、対応情報復号ステップにおいて復号された対応関係情報を参照して、第1復号フレームと第2復号フレームとをステレオ画像として対応させて出力する、こととするのが望ましい。
また、動画像復号プログラムは、コンピュータに、フレームを含む飛び越し走査画像の符号化データを復号させる動画像復号プログラムであって、フレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得処理と、符号化データからステレオ画像として互いに対応する第1のフレームと第2のフレームとを復号し、第1復号フレームと第2復号フレームとを生成する復号処理と、復号処理により復号された第1復号フレームと第2復号フレームとを出力する出力処理とを実行させ、出力処理は、ステレオ情報取得処理により取得されたステレオ情報を参照しフレームがステレオ画像を構成するものであるか否か判断し、ステレオ画像を構成すると判断した場合、第1復号フレームと第2復号フレームとをステレオ画像として対応させて出力することを特徴とする。
また、動画像復号装置は、フレームを含む飛び越し走査画像の符号化データを入力する入力手段と、フレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化データから取得するステレオ情報取得手段と、符号化データからステレオ画像として互いに対応する第1のフレームと第2のフレームとを復号し、第1復号フレームと第2復号フレームとを生成する復号手段と、復号手段により復号された第1復号フレームと第2復号フレームとを出力する出力手段とを備え、出力手段は、ステレオ情報取得手段により取得されたステレオ情報を参照しフレームがステレオ画像を構成するものであるか否か判断し、ステレオ画像を構成すると判断した場合、第1復号フレームと第2復号フレームとをステレオ画像として対応させて出力することを特徴とする。
また、動画像符号化方法は、フレームを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化方法であって、飛び越し走査画像に含まれるフレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加ステップと、フレームをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又はフレームをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、符号化データに付加する出力情報付加ステップと、を含むことを特徴とする。
また、動画像符号化方法は、フレームのステレオ画像としての対応関係に関する対応関係情報を符号化して、符号化データに付加する対応情報付加ステップを更に含むことが望ましい。
また、動画像符号化プログラムは、コンピュータに、フレームを含む飛び越し走査画像を符号化して符号化データを生成させる動画像符号化プログラムであって、飛び越し走査画像に含まれるフレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加処理と、フレームをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又はフレームをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、符号化データに付加する出力情報付加処理と、を実行させることを特徴とする。
また、動画像符号化装置は、フレームを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化装置であって、飛び越し走査画像に含まれるフレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、符号化データに付加するステレオ情報付加手段と、フレームをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又はフレームをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、符号化データに付加する出力情報付加手段と、を備えることを特徴とする。
本発明によれば、取得したステレオ情報に基づき各ピクチャ(フレームあるいはフィールド)の出力を同時に行うことができるので、符号化されたステレオ映像の左右画像を同時に出力することができる。
以下、図面を参照しながら、本発明の実施形態について説明する。
H.264拡張方式のデータ構造、すなわち、ステレオビデオフィールドメッセージ(以下ではステレオ情報)及びピクチャタイミングメッセージ(以下では時刻情報)とH.264拡張方式の符号化方法(フレーム/フィールド/フレーム・フィールド適応)をベースとした例で、本発明の出力タイミング情報、出力時刻情報の符号化及び復号処理ならびにそれを実現する符号化及び復号装置の構成について説明する。なお、出力タイミング情報とは、第1フィールドと第2フィールドとを出力するタイミングを保持した情報である。具体的には後述する。
[第1実施形態]
符号化及び復号処理の第1の実施形態として出力タイミング情報を用いたステレオ映像の符号化及び復号処理を説明する。本実施形態ではコンピュータによるプログラム処理を例として符号化及び復号処理を説明する。
図1に、出力タイミング情報を用いたステレオ映像の符号化処理のフローを示す。この実施形態では、左眼画像と右眼画像とに対応する2フィールドペアを出力処理するタイミングを2つのフィールドそれぞれの出力時刻から選択するための指示情報(出力タイミング情報)を用意する。この指示情報をステレオ映像に含めて符号化することとすれば、ステレオ情報の符号化手順のみの追加により、他の符号化処理を変更せずにステレオ映像の符号化が可能となる。
符号化処理開始プログラムが、動画像符号化装置で呼び出されること等により処理が開始される(S301)。符号化プログラムは、動画像符号化装置に対してメモリの確保等の符号化準備を行わせる(図示せず)と共に、ステレオ情報11を生成させる(S302、ステレオ情報付加ステップ)。図2(a)に示すように、ステレオ情報11は符号化されたデータ10に含まれる情報である。図2(b)にステレオ情報11のフォーマットを示す。ステレオ情報タイプ21はステレオ情報の開始を表すシグナリング情報であり、データ復号時にはこの情報の検出により、ステレオ情報の存在を認識できる。フィールド構成情報22は、左眼画像と右眼画像を互いに対応するTop field(第1のフィールド)及びBottom field(第2のフィールド)のいずれのフィールドとして符号化しているかを示す情報である。制限情報23は、Top fieldとBottom fieldの符号化方法に制限を与えるフラグであり、Top fieldとBottom field間の参照を禁止し、片眼画像を単独で復号することも可能とさせるものである。出力タイミング情報24は、互いに対応する2つのフィールドを同時に出力処理するための情報である。復号処理では例えば、この情報が“Top field”を示す場合には互いに対応する2つのフィールドをTop fieldの出力時刻に同時に出力処理し(あるいはTop POCを基準として出力処理し)、“Bottom field”を示す場合には互いに対応する2つのフィールドはBottom filedの出力時刻に出力処理する(あるいはBottom POCを基準として出力処理する)こととする。本実施形態では、S302では、フィールド構成22にて、左眼画像と右眼画像をそれぞれTop fieldとBottom fieldに割り当て、また出力タイミング情報24にてTop fieldを出力タイミングに指定したことを仮定する(Top POCを出力時刻の基準値とする)。次に、符号化プログラムは、ステレオ画像1枚を入力させ(S303)、これを符号化対象の2つのフィールドに入力できるように変換させる(S304)。
さらに、符号化プログラムはフィールドの符号化方式を選択させる(S305)。H.264方式では、フレーム符号化、フィールド符号化、フレーム/フィールド適応符号化の3種類の符号化方式があるが、本願のポイントである時刻情報に関しては、フレーム符号化とフレーム/フィールド適応符号化では同様に処理されるため、本願ではフレーム符号化とフィールド符号化のみを考える。符号化方式の選択は、オペレータによりキーボードまたは予め用意された符号化条件のGUIが用いられることにより行われる。また、選択手段を自動化することもできる。例えば、フィールドを2種類の方法で符号化し符号化効率の高い方法を選択する方法、フィールド間の統計的な相関を計算し閾値処理により選択する方法などがある。
次に、符号化プログラムは選択した符号化条件にて、各ピクチャを符号化させる。ここで、ピクチャとはフレームとフィールドの総称である。フィールド符号化では、符号化プログラムは、まず、Top fieldの出力時刻tを設定させ、これを符号化させる(S311、出力タイミング情報付加ステップ)。このように符号化された時刻情報は、各ピクチャデータに対応している。例えば、図2(a)に示すように、時刻情報12はピクチャデータ13に、時刻情報14はピクチャデータ15にそれぞれ対応している。図2(c)に時刻情報のフォーマットを示す。時刻情報の開始を示すシグナリングする時刻情報タイプ31から始まり、ピクチャタイプ32、タイムスタンプ33と続く。ピクチャタイプは、そのピクチャの構造を示す情報であり、その構造には、フレーム、フィールド(Top field/Bottom field)、フィールドペア(2つのフィールドをフレーム符号化あるいはフレーム/フィールド適応符号化にて処理)などがある。タイムスタンプは、出力時刻を示す情報であり、ピクチャタイプがフレームあるいはフィールドの場合は1個、フィールドペアの場合は2個(各フィールドの出力時刻)の出力時刻情報(タイムスタンプ)を符号化する。本実施例では、符号化プログラムは、ピクチャタイプ32をフィールドとして符号化し、タイムスタンプの形式でtを符号化する。
次に、符号化プログラムはTop fieldの符号化処理を実施させる(S312、出力タイミング情報付加ステップ)。同様に、符号化プログラムは、Bottom fieldの出力時刻t(t=t+1/60秒)の符号化(S313、出力タイミング情報付加ステップ)、及びBottom fieldの符号化処理を続いて行わせる(S314、出力タイミング情報付加ステップ)。なお、H.264では、この際、2つのフィールドに同じフレーム番号を与えておくと、POC値が同じ値となり、復号処理にとって有効である。POC値が同じ2つのフィールドの復号画像は、復号側では同じフレームのデータとして管理されるため、同時出力が容易となる。このように、2つのフィールドが同じフレームメモリに保存されるような仕組みをもつ符号化方式では、左右画像を構成する2つのフィールドが同じフレームメモリに保存されるように符号化データを生成することで、復号処理における同時出力処理が容易となる。本実施形態は、左右画像を構成する2つのフィールドが復号処理にて同じフレームメモリに保存されるように、2つのフィールドに同じピクチャ番号を与える符号化方法を含む。
一方、フレーム符号化では、符号プログラムは、まず、2つのフィールドの出力時刻tとtを符号化させる(S321)。ピクチャタイプ32をフレームとして、2個の出力時刻を2個のタイムスタンプ33で符号化させる。そして、2フィールドペアをフレーム符号化する(S322)。
次に符号化プログラムは、符号化した各要素データを多重化してビットストリームを構成させる(S306、ステレオ情報付加ステップ、出力タイミング情報付加ステップ)。図2(a)はビットストリーム(符号化データ10)の例を示す。ビットストリームは、シーケンスヘッダなどのシーケンス全体の特徴を示す情報から始まり(図示せず)、各ピクチャの情報が続く。ステレオ情報11は、シーケンス全体に関わる情報であるため、ビットストリームの最初のピクチャよりも前に配置する。また、ビットストリームの途中から復号する場合なども考慮し、ランダムアクセス単位の先頭部にも随時配置する(図示せず)。時刻情報12、14は、基本的に各ピクチャデータ13、15の前に配置する。なお、ステレオ情報や時刻情報は、ビデオデータとオーディオデータを取りまとめるシステムデータとして定義されてもよい。その場合にも、復号順序の位置関係は同じである。以下、符号化プログラムは、S303からS306までの処理を繰り返し処理させ、入力ピクチャが終了した時点(S307)で、符号化処理を終了させる(S308)。
引き続いて、ステレオ映像の復号処理を説明する。図3に、本発明の出力タイミング情報を用いたステレオ映像の復号処理のフローを示す。復号処理開始プログラムが、動画像復号装置で呼び出されると(S401)、復号プログラムは、動画像復号装置に対し、入力符号化データの先頭部からシーケンス全体の処理に関わる情報を復号し、メモリの確保等の符号化準備を行う(図示せず)。この際にステレオ情報を取得し、参照させ(S402、ステレオ情報取得ステップ)、復号画像がステレオデータであるか否かを判断させる(S403、出力ステップ)。なお、S403における判断は、S402においてステレオ情報が取得された場合にはステレオ画像を構成する、S402においてステレオ情報が取得されなかった場合にはステレオ画像を構成しない、という判断でもよい。符号化データがステレオデータの場合には、ステレオ情報の要素データを復号し、復号した出力タイミング情報24(図2(b)参照)にて指定されるフェーズのフィールドを出力タイミング基準として設定させる(S450、出力タイミング情報取得ステップ)。本実施形態では、Top fieldの出力時刻と同時に2つのフィールドを出力させる旨の情報が出力タイミング情報24には含まれており、そのように設定する(Top POCを出力時刻の基準値とする)。
次に、復号プログラムは、次に出力するピクチャの時刻情報を復号させ(S404)、ピクチャタイプによりフレームかフィールドかを判定させる(S405)。そして、ピクチャタイプがフレームの場合には、タイムスタンプとして復号した時刻tとtと(数値は復号順)をそれぞれtとtとし(S408、出力ステップ)、対応するフレームデータを復号して復号フレームを取得させる(S452、出力ステップ)。ピクチャタイプがフィールドの場合には、タイムスタンプとして復号したtをtとした上で(S406、出力ステップ)、ピクチャデータを復号させ、復号Top field(復号フィールド)を取得させる(S451、復号ステップ)。さらに、時刻情報を復号させ(S404、出力ステップ)、タイムスタンプとして復号させたtをtとすると共に(S407、出力ステップ)、ピクチャデータを復号させて復号Bottom field(復号フィールド)を取得させる(S451、復号ステップ)。
次に、復号プログラムは、S450にて出力タイミングに設定したフィールドフェーズの情報に応じて、出力時刻を修正させる。具体的には、出力タイミング設定がTop fieldかBottom fieldかを判定し(S453、出力ステップ)、Top fieldの場合にはtの値をtに書き換え(S454、出力ステップ)、Bottom fieldの場合にはtの値をtに書き換えさせる(S455、出力ステップ)。本実施形態では、出力タイミングをtop fieldに設定しているので、t=tとなり、その結果、左眼画像と右眼画像とに対応する2つのフィールドの出力時刻設定が同時刻となる。その後、復号プログラムは、復号フレームと出力時刻(この実施例では、t)とフィールド構成22とを表示処理に受け渡させ、上記の時刻に基づき各フィールドを同時刻で出力させる。(S410、出力ステップ)。ここで、表示処理の具体例としては、左右画像を表示バッファ(表示装置に出力する前の表示画像を保存するバッファ)やプレゼンテーションバッファ(表示処理用のバッファ(ソフトウェア的に実現されるものも含む))に同時出力する方法が考えられる。H.264方式では、同じPOC値を持つ2つのフィールドは同じフレームメモリ(復号処理部内のバッファ)に記録される。そのため、符号化処理にて、左右画像を構成する2つのフィールドが同じPOC値を持つように、左右画像に対応する2つのフィールドに同じフレーム番号を与えておくと良い。また、別の具体例としては、左右画像をバッファに別々のタイミングで出力し、表示装置での実際の表示を行う際に左右画像を同時に表示させる方法が考えられる。以下、S404からS410までの処理を符号化データが終了するまで繰り返し(S411)、符号化データをすべて復号した時点で、復号処理を終了する。
一方、S403にて符号化データがステレオデータではないと判断される場合には、まず、復号プログラムは、次ピクチャの時刻情報を復号させ(S404)、ピクチャタイプがフレームかフィールドかを判定させる(S405)。そして、ピクチャタイプがフレームの場合には、タイムスタンプとして復号した時刻tとtと(数値は復号順)をそれぞれtとtとさせる(S408)。ピクチャタイプがフィールドの場合には、さらにTop fieldかBottom fieldかをピクチャタイプにて判定させ(S405)、Top fieldの場合にはタイムスタンプとして復号したtをtとさせ(S406)、Bottom fieldの場合にはタイムスタンプとして復号したtをtとさせる(S407)。時刻情報の復号ならびに出力時刻の設定後、1枚のピクチャデータを復号させ、復号フレームあるいは復号フィールドを取得させる(S409)。その後、復号プログラムは、復号ピクチャと出力時刻とを表示処理に受け渡させる(S410)。以下、S404からS410までの処理を符号化データが終了するまで繰り返し(S411)、符号化データをすべて復号した時点で、復号処理を終了する。なお、符号化データがステレオデータではない場合は、S404から411までの処理がなくてもよい。または別の処理で置き換えてもよい。
上記の説明では、時刻情報を各ピクチャに付加しているが、毎ピクチャに必ず指定されているとは限らない。時刻情報の指定がないピクチャでは、時刻情報が付加されているピクチャのタイムリファレンス(H.264ではPOC)と時刻情報が付加されていないピクチャのタイムリファレンスとの関係から、入力画像のリフレッシュレートに基づいてタイムスタンプを決定する。本実施形態のような出力タイミング情報を利用したステレオ符号化の場合には、さらに互いに対応する2つのフィールドに対して1個の出力時刻情報を決定する必要がある。その場合には、ステレオ情報の出力タイミングを出力時刻の換算を行うための基準フィールドとして利用する。たとえば、基準フィールドがTop fieldの場合には、時刻情報tが付加されているTop fieldのTop POCと、時刻情報が付加されていないフィールドペアにおけるTop POCとの関係からtを計算し、これをステレオ画像の出力時刻とすればよい。更に、POCのようなピクチャ番号と復号処理部のフレームバッファとを用いて表示処理を行う復号方法もある。この場合には、復号処理にて規定されるフレームバッファの管理法則に基づき、ピクチャ番号の順番にフレームバッファ内のフレームメモリのデータが表示バッファ(あるいはプレゼンテーションバッファ)に出力され表示処理される。この際、同じピクチャ番号を持つ2フィールドペアは、同じフレームメモリに記録されるため、同時に表示バッファに出力される。
上記のように本実施形態によれば、符号化されたステレオ映像の左右画像を同時に出力することができる。
[第2実施形態]
符号化及び復号処理の第2の実施形態として出力時刻情報を用いたステレオ映像の符号化及び復号処理を説明する。第1実施形態と同様、本実施形態ではコンピュータによるプログラム処理を例として符号化及び復号処理を説明する。
図4に、本実施形態の出力時刻情報を用いたステレオ映像の符号化処理のフローを示す。第1実施形態の出力タイミング情報を用いた方法との相違点は、符号化方法がフィールド符号化であるかフレーム符号化であるかにかかわらず、2つのフィールドのペア、すなわち左眼画像と右眼画像とを同時に出力処理する時刻として1個のタイムスタンプtFRを符号化する点である。本実施形態では、符号化及び復号方法における時刻情報の手順に変更を加える必要があるが、第1実施形態のフローと比較(図1と図4、図3と図5)すると分かるように、処理工数が第1実施形態よりも少ないという利点がある。以下、第1実施形態(図1)との相違点について説明する。本実施形態(図4)では、第1実施形態における、S311、S313及びS321の代わりに、判定分岐処理(S305)の前にS309を実施する。S309において、符号化プログラムは、両眼画像の時刻情報として、フレームを単位としたタイムスタンプtFRを符号化する。具体的には、ステレオ情報にてステレオデータであることを識別する場合についてのみ、時刻情報のピクチャタイプをフレームとし、1個のタイムスタンプを符号化できるものと規定する。この処理により、符号化処理において、タイムリファレンス(H.264ではTop POCやBottom POC)が異なる2つのフィールドを同時に出力処理するための出力時刻が指定できる。
なお、図4で示す符号化処理では、出力時刻情報の符号化(S309)を分岐判断(S305)の前で実施しているが、変形例として、これを各ピクチャの符号化(S312,S314,S322)の前でそれぞれ出力時刻情報の符号化(S309)を実施する場合が考えられる。この場合には、各ピクチャデータの前に必ず時刻情報が存在するため、復号処理後の表示処理において、左右画像を構成する2つのフィールドの関係がより明確となる。特に、H.264方式のように2つのフィールドに同じピクチャ番号(POC値)を割り当てることができる方式では、同じPOC値を持つ2つのフィールドを、復号処理後、同じフレームメモリに記録するように規定できる。そのため、左右画像を構成する2つのフィールドに同じPOC値を割り当て、さらに、2つのフィールドに同じ時刻情報を割り当てておくことにより、復号処理部は、同じフレームメモリに記録された左右画像を同時に表示処理部に出力できる。さらに、H.264のように2つのフィールドに同じピクチャ番号(POC値)を割り当てることができる方式では、左右画像を構成する2つのフィールドに同じフレーム番号を割り当てることで2つのフィールドのPOC値が同じ値となるため、時刻情報をピクチャデータ内のフレーム番号に置き換えて考えることも可能である。本実施形態においては、上記のフレーム番号のように実質的にフィールドを出力する時刻を特定する情報も出力時刻情報に含む。
図5は、本実施形態の出力時刻情報を用いたステレオ映像の復号処理のフローを示している。第1実施形態(図3)と同様に、復号処理開始プログラムが呼び出されると(S401)、復号プログラムは動画像復号装置に、入力符号化データの先頭部からシーケンス全体の処理に関わる情報を復号させ、メモリの確保等の符号化準備を行わせる(図示せず)。この際に、ステレオ情報を参照させ(S402)、復号画像がステレオデータであるか否かを判断させる(S403)。なお、S403における判断は、S402においてステレオ情報が取得された場合にはステレオ画像を構成する、S402においてステレオ情報が取得されなかった場合にはステレオ画像を構成しない、という判断でもよい。ステレオデータでない場合については、第1実施形態と同様の処理となるため、説明を割愛する。ステレオデータの場合には、ステレオ情報を復号し、復号した出力タイミング情報にて指定されているフェーズのフィールドを出力タイミング基準に設定する(S450)。この出力タイミングは、第1実施形態で説明したように、時刻情報を持たないフレーム(2つのフィールドのペア)の出力時刻を換算する際の基準フィールドとして利用する。次に、復号プログラムは、次フレームの時刻情報tを復号し(S404)、タイムスタンプとして復号したtをtFRとすると共に(S456)、ピクチャデータを復号させる(S409)。そして、復号したピクチャがフレームかフィールドかを判定し(S405)、フィールドの場合には、さらに上記のS409にて復号したtop fieldと同時に出力するフィールドを同じくS409にて復号する。その後、復号プログラムは、復号フレームと出力時刻tFRを表示処理に受け渡す(S410)。以下は第1実施形態と同様である。上記のように本実施形態によっても、符号化されたステレオ映像の左右画像を同時に出力することができる。
なお、第1実施形態と同様に、表示処理の具体例としては、左右画像を表示バッファ(表示装置に出力する前に表示データが保存されるバッファ)やプレゼンテーションバッファ(表示処理用のバッファ)に同時出力する場合が考えられる。H.264方式では、同じPOC値を持つ2つのフィールドは同じフレームメモリ(復号処理部内のバッファ)に記録される。従って、符号化処理にて、左右画像を構成する2つのフィールドが同じPOC値を持つように、左右画像に対応する2つのフィールドに同じフレーム番号を与えておくと良い。また、図5で示す復号処理では、出力時刻情報の復号及び設定(S404,S456)を最初のピクチャの復号(最初のS409)の前のみで実施しているが、上述した2つのフィールドに同じ時刻情報が割り当てられている場合には、第2の復号(第2のS409)の前でも、そのフィールドに対応した出力時刻情報の復号及び設定(S404,S456)が実施される。さらに上述した時刻情報をフレーム番号と置き換える場合には、S404及びS456の処理はS409の処理において取得されるフレーム番号を時刻情報に置き換えることで代替される。
[装置構成]
引き続いて、出力タイミング情報、出力時刻情報を用いてステレオ映像の符号化及び復号処理を実施する動画像符号化装置200及び動画像復号装置100の構成について説明する。処理については、符号化処理ならびに復号処理として説明済みのため、ここでは、装置を構成する各処理部の役割について述べる。
図6に動画像符号化装置200の処理ブロック図を示す。まず、入力ステレオ画像がデータパス201を通してフレームメモリ211に一時保存される。入力デバイス212では、各実施形態にて説明したようなステレオ情報ならびに時刻情報を生成し、データパス204を通して、データ多重化部214に出力する。さらに入力デバイス212は、データパス205を通して入力ステレオ画像を読み込み、これを符号化処理部213が対象とする画像フォーマット(ここでは、図3等のS304に示した左右画像から2つのフィールドへの変換)の被符号化画像に変換した後、データパス202を通して符号化処理部213に出力する。この入力デバイスでの変換処理には、さらに入力RGB信号からYUVコンポーネント信号への変換や画像を符号化に適した雑音の少ない画像に変換するフィルタ処理なども含まれる。符号化処理部213(ステレオ情報付加手段、出力時刻情報付加手段)は、入力した被符号化画像を符号化し、ビデオデータを生成する。データ多重化部214(ステレオ情報付加手段、出力時刻情報付加手段)は、データパス203を通して取得したビデオデータとデータパス204を通して取得したステレオ情報や時刻情報などのコンフィギュレーションデータを合成し、符号化データを生成する。このように、入力デバイスとデータ多重化部にステレオ情報や時刻情報に対応した処理機能を追加することにより、符号化処理部を変更せずにステレオ画像の符号化に対応できる。
図7に動画像復号装置の処理ブロック図を示す。まず、データパス101を通してパーサ111(入力手段)に入力された符号化データを、コンフィギュレーションデータとビデオデータとに分離する。そして、ビデオデータはデータパス102を通してデコード処理部112(ステレオ情報取得手段、復号手段、出力手段)に、ステレオ情報や時刻情報はデータパス104を通して表示デバイスに渡される。デコード処理部112は、ビデオデータを復号してピクチャを再生し、データパス103を通して、フレームメモリ113に一時保存する(デコード処理部112は通常リングバッファにより複数の復号画像を管理するため、復号画像のフレームメモリ113もデコード処理部の内部に含まれる場合が多い)。表示デバイス114は、復号したステレオ情報と時刻情報を用いてデータパス105を通して入力される復号ピクチャを内部の表示バッファに保存し、これを表示装置115の形式に対応した表示画像に変換して、データパス106を通して表示装置115にて表示する。この表示デバイスでの変換処理には、YUVコンポーネント信号からRGB信号への変換や表示装置115のカラーフィルタなどに対応した映像整形処理が含まれる。このように、パーサと表示デバイスの処理にステレオ情報と時刻情報に対応した機能をのみの変更により、デコード処理部を変更せずにステレオ画像の復号処理が実施できる。より具体的には、表示デバイスは、左眼画像と右眼画像の復号画像を表示バッファに取り込み、2画像を表示装置のフォーマットに合成する。なおこの際、上述した左右画像を構成する2フィールドが同じPOC値を持つ場合には、左眼画像と右眼画像の復号画像を構成する2つのフィールドが同時に表示バッファに出力される。また一方、表示バッファに別々のタイミングで出力される場合は、表示装置での実際の表示を行う際に左右画像を同時に表示させる。合成画像の出力時刻は、出力タイミング情報と時刻情報とから各実施形態で説明した処理方法にて設定する。
[変形例]
上述した実施形態は以下のように変形して実施されてもよい。
上述した実施形態では、H.264方式をベースに説明しているが、本発明の出力タイミング情報や出力時刻情報はビデオデータと切り離して扱うことができるため、その適用は特定の符号化方式に限定されない。また、H.264のフレーム符号化、フィールド符号化、フレーム/フィールド適応符号化のいずれかが用意されていない符号化方式やさらなるフィールド画像の符号化方法が用意されている符号化方式においても、2つのフィールドを異なる時刻に出力する符号化方式であれば、本発明は適用できる。
本実施形態の出力タイミング情報は、左右画像に対応する2つのフィールドのうち、いずれのフィールドの出力タイミングで2つのフィールドを同時出力するかを指示するための情報である。従って、その目的を満たす形式であれば、図2のステレオ情報11のフォーマットに限定されるものではない。上述した実施形態では、出力タイミング情報の要素をTop field、Bottom fieldとしているが、別の方法であっても選択する方法が規定されていれば出力時刻は一意に分かるため、これに限定されない。例えば、2つのフィールドを識別する値(たとえば、POC)の大小を出力タイミング情報の要素とする方法なども本発明に含まれる。
また、予め出力タイミングの要素を一つに決めておけば出力タイミング情報は必ずしも必要としない。但し、この場合には、ステレオ情報のセマンティックスにて予め定めた出力タイミングの情報を規定しておく必要がある。例えば、POC及びPOCに対応する出力時刻などが出力タイミングの情報として利用できる。図8を用いて説明する。S420にて復号されたピクチャはフレームメモリに保存される(S423)。フレームメモリに保存した復号ピクチャを表示装置に出力する際には、復号ピクチャがステレオ画像であるか否かをステレオ情報から判定し(S403)、ステレオデータの場合には、2つのフィールドを同時に表示装置に出力し(S421)、ステレオデータでない場合には、インタレース画像として、フィールド毎に表示装置に出力する(S422)。この場合にも、デコーダ(フレームメモリ)から出力されるステレオ画像の出力先は、表示装置ではなく表示デバイス内の表示バッファとしても良い。
上述した実施形態では、出力時刻の情報をピクチャデータとは別に符号化しているが、ピクチャデータ内で符号化する場合でも、第1及び第2実施形態に示す出力タイミング情報による出力時刻の指定処理は実現できる。但し、この場合には、時刻情報におけるピクチャタイプ情報32は、ピクチャデータのピクチャヘッダにて符号化するため、通常は省略する。また、第2実施形態で説明した時刻情報も単純な符号化順序の入れ替えにてピクチャデータとして符号化することは可能であり、本発明に含まれる。
上述した実施形態では、時刻情報をビデオの符号化データ内にて扱っているが、音声の符号化データとビデオの符号化データを取りまとめるシステムデータの時刻情報でも同様のことができる。この際、時刻情報を符号化及び復号するためのピクチャタイプは、データとして明示しなくてもステレオ情報の有無にて示すことができるため、省略できる。なお、ステレオ情報も同様にシステムデータにて扱うことも可能である。
上述した実施形態では、時刻情報をタイムスタンプの形式としているが、本発明は時刻の表示形式には影響を受けないため、他の時刻表示形式の場合でも本発明に含まれる。
図6に示す動画像符号化装置200では、フレームメモリ、入力デバイスならびにデータ多重化部を符号化処理部とは異なる処理要素としているが、その一部が符号化処理部に含まれた符号化装置も本発明の符号化処理方法が実現できる場合には本発明に含まれる。同じく、図7に示す動画像復号装置100では、パーサ、フレームメモリならびに表示デバイスをデコード処理部とは異なる処理要素としているが、その一部がデコード処理部に含まれた復号装置も本発明の復号処理方法が実現できる場合には本発明に含まれる。
第2実施形態の説明では、ステレオ情報が存在するときの時刻情報のピクチャタイプをフレームとしているが、2つのフィールドに対してタイムスタンプを1個と規定することができればその限りではない。たとえば、ピクチャタイプの候補に符号化するタイムスタンプの数を1個と規定する「ステレオ」を追加する場合なども本発明に含まれる。
上述した実施形態では、Top fieldをBottom fieldよりも先に符号化及び復号処理する例を示しているが、本願の特徴はTop fieldとBottom fieldの符号化及び復号処理順序には影響しないため、Bottom fieldを先に符号化及び復号処理する場合も本発明に含まれる。また、ステレオ画像の左眼画像と右眼画像をTop fieldとBottom fieldのいずれに割り当てた場合においても本発明は適用できる。従って、この割り当てに関して本発明の権利範囲は限定されない。
上述した実施形態では、インタレース符号化を前提として説明したが、左右眼の画像を異なる時刻でプログレッシブ符号化する場合においても、本発明は適用できる。たとえば、左右眼の画像を交互にプログレッシブ符号化する場合には、左右眼画像の出力時刻が異なる。この場合、出力タイミング情報として、奇数フレームと偶数フレームのいずれかを出力時刻として設定する方法や、時刻情報のピクチャタイプに2つのフレームを同時に出力するタイプを設ける方法などが本願の応用として考えられる。
上述した実施形態では、左右2眼のステレオ画像のインタレース符号化を例に説明したが、N眼の場合に適用できる。同様にN眼画像を異なるフレームとしてプログレッシブ符号化する場合にも適用できる。ここで、N眼画像とは、例えば左右2眼だけでなく、上下2眼によっても立体視が可能なステレオ画像(この場合は、上下及び左右であるので4眼画像)、あるいは角度により異なる立体視が可能なステレオ画像等を指す。
この場合には、N眼画像を構成する復号フレームを連続してデコーダから表示バッファ(あるいはプレゼンテーションバッファ)に出力する。そのため、デコード処理部とフレームメモリは、連続するN眼画像の組み合わせを識別する必要がある。その方法の具体例としては、ピクチャ番号(H.264方式ではPOC)をNで割ったとき、その小数点以下を切り捨てた除算値が同値となるフレームの組み合わせをN眼画像とする方法がある。また上記の演算で、ピクチャ番号からオフセット値(例えば、任意フレームのピクチャ番号)を引いた値をNで割ることとしてもよい。また、N眼画像を構成するフレームの組み合わせを判断する方法は、上記の値を入力とした別の演算を用いたもの、あるいは符号化方式が定める基準値等を用いたものでもよい。組み合わせの識別はランダムアクセス可能なフレームから始める。H.264では、ランダムアクセス可能なデータ単位は2種類ある。第1には、予測参照関係を持たない特別なピクチャタイプを持つピクチャであり、このピクチャにてPOCのカウントは0にリセットされる。第2には、フレームメモリの管理をリセットしたピクチャである。ピクチャ間の予測関係が断ち切れるためランダムアクセスピクチャとして識別できる。なお、符号化方式で規定されていれば、任意のフレームから組み合わせの識別を行うことも可能である。また、Nの値は、例えば左右画像の2のように予め決めておけばステレオ情報の存在により規定できるが、Nの値を固定しない符号化方式では、その値を組み合わせ識別情報(対応関係情報の例)として図2のステレオ情報11にて明示的に符号化する方法も考えられる。この組み合わせ識別情報も他のステレオ情報11の要素データや時刻情報と同様に、別の通信手段にて伝送する場合やシステムデータとして扱うも考えられる。また、フレームがN眼画像を構成するどの画像に対応するかの復号処理における判断は、上述したフィールド構成をフレーム構成に置き換えることにより実現することができ、例えばその情報を図2(b)に示すステレオ情報11のフィールド構成22に対応する部分に情報を保持させておくこととするのがよい。また、上述したように、Nフレームのピクチャデータの前に同じ時刻情報を符号化することで、デコーダならびにシステムはNフレームの再生画像がN眼画像を構成するものとして表示バッファあるいはプレゼンテーションバッファに連続して出力され同じ時刻に表示されるべき画像であることを認識できる。
上述した実施形態では、ステレオ情報や時刻情報、組み合わせ識別情報等を符号化データとしているが、別の通信手段にて伝送する場合も、符号化及び復号処理は同じであるため本発明に含まれる。
ところで、上述した一連の処理を実行させるための動画像符号化プログラム及び動画像復号プログラムは以下のような構成をとる。図9に示すように、動画像符号化プログラム241は、動画像符号化装置200内の記録媒体240に形成されたプログラム格納領域240a内に格納されている。また、図10に示すように、動画像復号プログラム141は、動画像符号化装置100内の記録媒体140に形成されたプログラム格納領域140a内に格納されている。
動画像符号化プログラム241は、動画像符号化処理を統括的に制御するメインモジュール241aと、ステレオ情報を符号化して符号化データに付加するステレオ情報付加モジュール241bと、出力タイミング情報を符号化して符号化データに付加する出力タイミング情報付加モジュール241cとを備えて構成される。また、出力時刻情報が符号化データに付加される処理がなされる場合は、出力時刻情報付加モジュール241d(図示せず)をも備える。これらのモジュールを実行することにより上述した処理がなされる。また、動画像復号プログラム141は、動画像復号処理を統括的に制御するメインモジュール141aと、ステレオ情報を取得するステレオ情報取得モジュール141bと、各フィールドを復号する復号モジュール141cと、復号フィールドを出力する出力モジュール141dを備えて構成される。これらのモジュールを実行することにより上述した処理がなされる。また、出力タイミング情報を取得する処理がなされる場合は、出力タイミング情報取得モジュール141e(図示せず)を、出力時刻情報が符号化データを取得する処理がなされる場合は、出力時刻情報取得モジュール141f(図示せず)をも備える。
第1実施形態における動画像の符号化の処理を示したフローチャートである。 符号化された動画像(ステレオ映像)の構成を示す図である。 第1実施形態における動画像の復号の処理を示したフローチャートである。 第1実施形態における動画像の符号化の処理を示したフローチャートである。 第2実施形態における動画像の復号の処理を示したフローチャートである。 実施形態における動画像符号化装置の構成を示した図である。 実施形態における動画像復号装置の構成を示した図である。 実施形態における動画像の復号の処理の変形例を示したフローチャートである。 本発明に係る動画像符号化プログラムの構成を示す図である。 本発明に係る動画像復号プログラムの構成を示す図である。
符号の説明
10…符号化データ、11…ステレオ情報、12,14…時刻情報、13,15…ピクチャデータ、21…ステレオ情報タイプ情報、22…フィールド構成情報、23…制限情報、24…出力タイミング情報、31…時刻情報タイプ情報、32…ピクチャタイプ情報、33…タイムスタンプ、100…動画像復号装置、111…パーサ、112…デコード処理部、113…フレームメモリ、114…表示デバイス、115…表示装置、141…動画像復号プログラム、141a…メインモジュール、141b…ステレオ情報取得モジュール、141c…復号モジュール、141d…出力モジュール、141e…出力タイミング情報取得モジュール、241f…出力時刻情報取得モジュール、200…動画像符号化装置、211…フレームメモリ、212…入力デバイス、213…符号化処理部、214…データ多重化部、241…動画像符号化プログラム、241a…メインモジュール、241b…ステレオ情報付加モジュール、241c…出力タイミング情報付加モジュール、241d…出力時刻情報付加モジュール。

Claims (30)

  1. 飛び越し走査画像の符号化データを復号する動画像復号方法であって、
    前記飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を取得するステレオ情報取得ステップと、
    前記符号化データからステレオ画像として互いに対応する第1の前記ピクチャと第2の前記ピクチャとを復号し、第1復号ピクチャと第2復号ピクチャとを生成する復号ステップと、
    前記復号ステップにおいて復号された第1復号ピクチャと第2復号ピクチャとを出力する出力ステップとを含み、
    前記出力ステップにおいて、前記ステレオ情報取得ステップにおいて取得されたステレオ情報を参照し第1復号ピクチャと第2復号ピクチャとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号ピクチャと前記第2復号ピクチャとをステレオ画像として対応させて出力することを特徴とする動画像復号方法。
  2. コンピュータに、飛び越し走査画像の符号化データを復号させる動画像復号プログラムであって、
    前記飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を前記符号化データから取得するステレオ情報取得処理と、
    前記符号化データからステレオ画像として互いに対応する第1の前記ピクチャと第2の前記ピクチャとを復号し、第1復号ピクチャと第2復号ピクチャとを生成する復号処理と、
    前記復号処理により復号された第1復号ピクチャと第2復号ピクチャとを出力する出力処理とを実行させ、
    前記出力処理は、前記ステレオ情報取得処理により取得されたステレオ情報を参照し第1復号ピクチャと第2復号ピクチャとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号ピクチャと前記第2復号ピクチャとをステレオ画像として対応させて出力することを特徴とする動画像復号プログラム。
  3. 飛び越し走査画像の符号化データを入力する入力手段と、
    前記飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を前記符号化データから取得するステレオ情報取得手段と、
    前記符号化データからステレオ画像として互いに対応する第1の前記ピクチャと第2の前記ピクチャとを復号し、第1復号ピクチャと第2復号ピクチャとを生成する復号手段と、
    前記復号手段により復号された第1復号ピクチャと第2復号ピクチャとを出力する出力処理とを備え、
    前記出力手段は、前記ステレオ情報取得手段により取得されたステレオ情報を参照し第1復号ピクチャと第2復号ピクチャとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号ピクチャと前記第2復号ピクチャとをステレオ画像として対応させて出力することを特徴とする動画像復号装置。
  4. 飛び越し走査画像を符号化して符号化データを生成する動画像符号化方法であって、
    前記飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加ステップと、
    前記ピクチャをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又は前記ピクチャをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、前記符号化データに付加する出力情報付加ステップと、
    を含む動画像符号化方法。
  5. コンピュータに、飛び越し走査画像を符号化して符号化データを生成させる動画像符号化プログラムであって、
    前記飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加処理と、
    前記ピクチャをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又は前記ピクチャをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、前記符号化データに付加する出力情報付加処理と、
    を実行させる動画像符号化プログラム。
  6. 飛び越し走査画像を符号化して符号化データを生成する動画像符号化装置であって、
    前記飛び越し走査画像に含まれるピクチャがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加手段と、
    前記ピクチャをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又は前記ピクチャをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、前記符号化データに付加する出力情報付加手段と、
    を備える動画像符号化装置。
  7. 第1フィールドと第2フィールドとを含む飛び越し走査画像の符号化データを復号する動画像復号方法であって、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を前記符号化データから取得するステレオ情報取得ステップと、
    前記符号化データから互いに対応する前記第1フィールドと前記第2フィールドとを復号し、第1復号フィールドと第2復号フィールドとを生成する復号ステップと、
    前記復号ステップにおいて復号された第1復号フィールドと第2復号フィールドとを出力する出力ステップとを含み、
    前記出力ステップにおいて、前記ステレオ情報取得ステップにおいて取得されたステレオ情報を参照し前記第1フィールドと前記第2フィールドとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号フィールドと前記第2復号フィールドとを同時に出力することを特徴とする動画像復号方法。
  8. コンピュータに、第1フィールドと第2フィールドとからなる飛び越し走査画像の符号化データを復号させる動画像復号プログラムであって、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を前記符号化データから取得するステレオ情報取得処理と、
    前記符号化データから互いに対応する前記第1フィールドと前記第2フィールドとを復号し、第1復号フィールドと第2復号フィールドとを生成する復号処理と、
    前記復号処理により復号された第1復号フィールドと第2復号フィールドとを出力する出力処理とを実行させ、
    前記出力処理は、前記ステレオ情報取得処理により取得されたステレオ情報を参照し前記第1フィールドと前記第2フィールドとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号フィールドと前記第2復号フィールドとを同時に出力することを特徴とする動画像復号プログラム。
  9. 第1フィールドと第2フィールドとを含む飛び越し走査画像の符号化データを入力する入力手段と、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を前記符号化データから取得するステレオ情報取得手段と、
    前記符号化データから互いに対応する前記第1フィールドと前記第2フィールドとを復号し、第1復号フィールドと第2復号フィールドとを生成する復号手段と、
    前記復号手段により復号された第1復号フィールドと第2復号フィールドとを出力する出力手段とを備え、
    前記出力手段は、前記ステレオ情報取得手段により取得されたステレオ情報を参照し前記第1フィールドと前記第2フィールドとがステレオ画像を構成するか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号フィールドと前記第2復号フィールドとを同時に出力することを特徴とする動画像復号装置。
  10. 前記出力ステップにおいて、前記第1フィールドと前記第2フィールドとがステレオ画像を構成しないと判断した場合、前記第1復号フィールドと前記第2復号フィールドとを異なる時刻に出力することを特徴とする請求項1に記載の動画像復号方法。
  11. 第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化方法であって、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加ステップと、
    前記第1フィールドと前記第2フィールドとを出力するタイミングに関する情報を保持した出力タイミング情報を符号化して、前記符号化データに付加する出力タイミング情報付加ステップと、
    を含む動画像符号化方法。
  12. 第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化方法であって、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加ステップと、
    前記第1フィールドと前記第2フィールドとを同時に出力する時刻に関する出力時刻情報を符号化して、前記符号化データに付加する出力時刻情報付加ステップと、
    を含む動画像符号化方法。
  13. 前記第1フィールドと前記第2フィールドとを出力するタイミングに関する情報を保持した出力タイミング情報を前記符号化データから復号して取得する出力タイミング情報取得ステップを更に含み、
    前記出力ステップにおいて、前記出力タイミング情報取得ステップにおいて取得された出力タイミング情報に基づき前記第1復号フィールドと前記第2復号フィールドとを出力することを特徴とする請求項7に記載の動画像復号方法。
  14. 前記第1フィールドと前記第2フィールドとを同時に出力する時刻に関する出力時刻情報を前記符号化データから復号して取得する出力時刻情報取得ステップを更に含み、
    前記出力ステップにおいて、前記出力時刻情報取得ステップにおいて取得された出力時刻情報に基づき前記第1復号フィールドと前記第2復号フィールドとを出力することを特徴とする請求項7に記載の動画像復号方法。
  15. 前記出力タイミング情報は、前記符号化データに含まれる、前記第1フィールド及び前記第2フィールドの何れかの出力時刻の情報に対応した時刻を出力時刻とする旨の情報であることを特徴とする請求項11に記載の動画像符号化方法。
  16. 前記出力タイミング情報は、前記符号化データに含まれる、前記第1フィールド及び前記第2フィールドに割り当てられた出力順序を示す番号の大小関係を示す情報であることを特徴とする請求項11に記載の動画像符号化方法。
  17. 前記出力タイミング情報は、前記符号化データに含まれる、前記第1フィールド及び前記第2フィールドの何れかの出力時刻の情報に対応した時刻を出力時刻とする旨の情報であることを特徴とする請求項13に記載の動画像復号方法。
  18. 前記出力タイミング情報は、前記符号化データに含まれる、前記第1フィールド及び前記第2フィールドに割り当てられた出力順序を示す番号の大小関係を示す情報であることを特徴とする請求項13に記載の動画像復号方法。
  19. コンピュータに、第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成させる動画像符号化プログラムであって、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加処理と、
    前記第1フィールドと前記第2フィールドとを出力するタイミングに関する情報を保持した出力タイミング情報を符号化して、前記符号化データに付加する出力タイミング情報付加処理と、
    を実行させる動画像符号化プログラム。
  20. コンピュータに、第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成させる動画像符号化プログラムであって、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加処理と、
    前記第1フィールドと前記第2フィールドとを同時に出力する時刻に関する出力時刻情報を符号化して、前記符号化データに付加する出力時刻情報付加処理と、
    を実行させる動画像符号化プログラム。
  21. 第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化装置であって、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加手段と、
    前記第1フィールドと前記第2フィールドとを出力するタイミングに関する情報を保持した出力タイミング情報を符号化して、前記符号化データに付加する出力タイミング情報付加手段と、
    を備える動画像符号化装置。
  22. 第1フィールドと第2フィールドとを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化装置であって、
    前記第1フィールドと前記第2フィールドとがステレオ画像を構成する2枚の画像であるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加手段と、
    前記第1フィールドと前記第2フィールドとを同時に出力する時刻に関する出力時刻情報を符号化して、前記符号化データに付加する出力時刻情報付加手段と、
    を備える動画像符号化装置。
  23. フレームを含む飛び越し走査画像の符号化データを復号する動画像復号方法であって、
    前記フレームがステレオ画像を構成するものであるか否かを示すステレオ情報を前記符号化データから取得するステレオ情報取得ステップと、
    前記符号化データからステレオ画像として互いに対応する第1の前記フレームと第2の前記フレームとを復号し、第1復号フレームと第2復号フレームとを生成する復号ステップと、
    前記復号ステップにおいて復号された第1復号フレームと第2復号フレームとを出力する出力ステップとを含み、
    前記出力ステップにおいて、前記ステレオ情報取得ステップにおいて取得されたステレオ情報を参照し前記フレームがステレオ画像を構成するものであるか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号フレームと前記第2復号フレームとをステレオ画像として対応させて出力することを特徴とする動画像復号方法。
  24. 前記符号化データに含まれる前記フレームのステレオ画像としての対応関係に関する対応関係情報を復号する対応情報復号ステップを更に含み、
    前記出力ステップにおいて、前記対応情報復号ステップにおいて復号された対応関係情報を参照して、前記第1復号フレームと前記第2復号フレームとをステレオ画像として対応させて出力する、
    ことを特徴とする請求項23に記載の動画像復号方法。
  25. コンピュータに、フレームを含む飛び越し走査画像の符号化データを復号させる動画像復号プログラムであって、
    前記フレームがステレオ画像を構成するものであるか否かを示すステレオ情報を前記符号化データから取得するステレオ情報取得処理と、
    前記符号化データからステレオ画像として互いに対応する第1の前記フレームと第2の前記フレームとを復号し、第1復号フレームと第2復号フレームとを生成する復号処理と、
    前記復号処理により復号された第1復号フレームと第2復号フレームとを出力する出力処理とを実行させ、
    前記出力処理は、前記ステレオ情報取得処理により取得されたステレオ情報を参照し前記フレームがステレオ画像を構成するものであるか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号フレームと前記第2復号フレームとをステレオ画像として対応させて出力することを特徴とする動画像復号プログラム。
  26. フレームを含む飛び越し走査画像の符号化データを入力する入力手段と、
    前記フレームがステレオ画像を構成するものであるか否かを示すステレオ情報を前記符号化データから取得するステレオ情報取得手段と、
    前記符号化データからステレオ画像として互いに対応する第1の前記フレームと第2の前記フレームとを復号し、第1復号フレームと第2復号フレームとを生成する復号手段と、
    前記復号手段により復号された第1復号フレームと第2復号フレームとを出力する出力手段とを備え、
    前記出力手段は、前記ステレオ情報取得手段により取得されたステレオ情報を参照し前記フレームがステレオ画像を構成するものであるか否か判断し、ステレオ画像を構成すると判断した場合、前記第1復号フレームと前記第2復号フレームとをステレオ画像として対応させて出力することを特徴とする動画像復号装置。
  27. フレームを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化方法であって、
    前記飛び越し走査画像に含まれるフレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加ステップと、
    前記フレームをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又は前記フレームをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、前記符号化データに付加する出力情報付加ステップと、
    を含む動画像符号化方法。
  28. 前記フレームのステレオ画像としての対応関係に関する対応関係情報を符号化して、前記符号化データに付加する対応情報付加ステップを更に含む請求項27に記載の動画像符号化方法。
  29. コンピュータに、フレームを含む飛び越し走査画像を符号化して符号化データを生成させる動画像符号化プログラムであって、
    前記飛び越し走査画像に含まれるフレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加処理と、
    前記フレームをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又は前記フレームをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、前記符号化データに付加する出力情報付加処理と、
    を実行させる動画像符号化プログラム。
  30. フレームを含む飛び越し走査画像を符号化して符号化データを生成する動画像符号化装置であって、
    前記飛び越し走査画像に含まれるフレームがステレオ画像を構成するものであるか否かを示すステレオ情報を符号化して、前記符号化データに付加するステレオ情報付加手段と、
    前記フレームをステレオ画像として出力するタイミングに関する情報を保持した出力タイミング情報、又は前記フレームをステレオ画像として出力する時刻に関する情報を保持した出力時刻情報を符号化して、前記符号化データに付加する出力情報付加手段と、
    を備える動画像符号化装置。
JP2004216384A 2004-07-14 2004-07-23 動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置 Expired - Lifetime JP4361435B2 (ja)

Priority Applications (9)

Application Number Priority Date Filing Date Title
JP2004216384A JP4361435B2 (ja) 2004-07-14 2004-07-23 動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置
US11/178,417 US8811471B2 (en) 2004-07-14 2005-07-12 Moving picture decoding method, moving picture decoding program, moving picture decoding apparatus, moving picture encoding method, moving picture encoding program, and moving picture encoding apparatus
TW94123576A TWI277349B (en) 2004-07-14 2005-07-12 Animation image decoding method, animation image decoding program, animation image decoder, animation image encoding method, animation image encoding program, and animation image encoder
EP12159229.9A EP2477410B8 (en) 2004-07-14 2005-07-13 Moving stereo picture encoding method and apparatus, moving stereo picture decoding method and apparatus
EP20050015229 EP1628485A3 (en) 2004-07-14 2005-07-13 Encoding method and decoding method for a moving picture
CN2005100819748A CN1741619B (zh) 2004-07-14 2005-07-14 动画图像解码方法和装置、 动画图像编码方法和装置
KR20050063748A KR100676099B1 (ko) 2004-07-14 2005-07-14 동화상 복호방법, 동화상 복호 프로그램이 기록된 저장매체, 동화상 복호장치, 동화상 부호화방법, 동화상 부호화 프로그램이 기록된 저장매체 및 동화상 부호화장치
CN2012100849194A CN102638691A (zh) 2004-07-14 2005-07-14 动画图像解码方法和装置、动画图像编码方法和装置
US13/242,351 US20120013717A1 (en) 2004-07-14 2011-09-23 Moving picture decoding method, moving picture decoding program, moving picture decoding apparatus, moving picture encoding method, moving picture encoding program, and moving picture encoding apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004207790 2004-07-14
JP2004216384A JP4361435B2 (ja) 2004-07-14 2004-07-23 動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置

Publications (2)

Publication Number Publication Date
JP2006054500A true JP2006054500A (ja) 2006-02-23
JP4361435B2 JP4361435B2 (ja) 2009-11-11

Family

ID=35464100

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004216384A Expired - Lifetime JP4361435B2 (ja) 2004-07-14 2004-07-23 動画像復号方法、動画像復号プログラム、動画像復号装置、動画像符号化方法、動画像符号化プログラム及び動画像符号化装置

Country Status (6)

Country Link
US (2) US8811471B2 (ja)
EP (2) EP2477410B8 (ja)
JP (1) JP4361435B2 (ja)
KR (1) KR100676099B1 (ja)
CN (2) CN102638691A (ja)
TW (1) TWI277349B (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009004939A (ja) * 2007-06-20 2009-01-08 Victor Co Of Japan Ltd 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム
JP2009004940A (ja) * 2007-06-20 2009-01-08 Victor Co Of Japan Ltd 多視点画像符号化方法、多視点画像符号化装置及び多視点画像符号化プログラム
JP2010516102A (ja) * 2007-01-04 2010-05-13 トムソン ライセンシング マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置
WO2010113770A1 (ja) * 2009-04-03 2010-10-07 ソニー株式会社 画像信号復号装置、画像信号復号方法、画像信号符号化装置、画像信号符号化方法、およびプログラム
JP2010233246A (ja) * 2009-01-19 2010-10-14 Panasonic Corp 符号化方法及び符号化装置
JP2011259294A (ja) * 2010-06-10 2011-12-22 Ntt Electornics Corp 映像伝送システム
JP2012034138A (ja) * 2010-07-29 2012-02-16 Toshiba Corp 信号処理装置及び信号処理方法
WO2012157394A1 (ja) * 2011-05-19 2012-11-22 ソニー株式会社 画像データ送信装置、画像データ送信方法および画像データ受信装置

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008023917A1 (en) * 2006-08-25 2008-02-28 Enhanced Chip Technology Inc. Method and apparatus for encoding/decoding stereoscopic images/videos
WO2008140190A1 (en) * 2007-05-14 2008-11-20 Samsung Electronics Co, . Ltd. Method and apparatus for encoding and decoding multi-view image
JP2011119906A (ja) * 2009-12-02 2011-06-16 Sony Corp 画像処理装置および画像処理方法
US8860716B2 (en) * 2010-10-13 2014-10-14 3D Nuri Co., Ltd. 3D image processing method and portable 3D display apparatus implementing the same
KR101090981B1 (ko) * 2011-05-09 2011-12-08 주식회사 쓰리디누리 3차원 영상신호 처리방법 및 이를 구현하는 휴대형 3차원 디스플레이 장치
KR102113985B1 (ko) * 2012-01-19 2020-05-22 미쓰비시덴키 가부시키가이샤 화상 복호 장치, 화상 부호화 장치, 화상 복호 방법, 화상 부호화 방법 및 기억 매체
JP5727398B2 (ja) 2012-01-26 2015-06-03 日本電信電話株式会社 動画像符号化方法,動画像符号化装置および動画像符号化プログラム
EP3058733B1 (en) * 2013-10-14 2017-01-04 Telefonaktiebolaget LM Ericsson (publ) Picture order count alignment in scalble video
US9605373B2 (en) * 2013-11-12 2017-03-28 Dongbu Daewoo Electronics Corporation Water supply valve and water supply valve assembly for wall mounted drum type washing machine
CN113473221B (zh) * 2020-04-27 2023-02-03 海信集团有限公司 一种智能设备、视频播放方法及视频处理方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4851901A (en) * 1986-09-03 1989-07-25 Kabushiki Kaisha Toshiba Stereoscopic television apparatus
DE59407817D1 (de) * 1993-12-29 1999-03-25 Leica Mikroskopie Sys Ag Verfahren und vorrichtung zur aufzeichnung und wiedergabe von stereoskopischen videobildern
KR0180026B1 (ko) * 1994-05-13 1999-05-01 마츠모도 세이야 입체표시방법 및 장치
US6088006A (en) * 1995-12-20 2000-07-11 Olympus Optical Co., Ltd. Stereoscopic image generating system for substantially matching visual range with vergence distance
US6055012A (en) * 1995-12-29 2000-04-25 Lucent Technologies Inc. Digital multi-view video compression with complexity and compatibility constraints
WO1997032437A1 (en) * 1996-02-28 1997-09-04 Matsushita Electric Industrial Co., Ltd. High-resolution optical disk for recording stereoscopic video, optical disk reproducing device, and optical disk recording device
JPH09289655A (ja) * 1996-04-22 1997-11-04 Fujitsu Ltd 立体画像表示方法及び多視画像入力方法及び多視画像処理方法及び立体画像表示装置及び多視画像入力装置及び多視画像処理装置
EP0944269B1 (en) * 1996-12-04 2002-11-13 Matsushita Electric Industrial Co., Ltd. Optical disc for high resolution and three-dimensional image recording, optical disc reproducing device, and optical disc recording device
JPH10243419A (ja) 1997-02-26 1998-09-11 Toshiba Corp 立体視画像符号化・復号化方法及び装置
JP4319268B2 (ja) * 1998-08-07 2009-08-26 富士通株式会社 動画像復号方法及び装置
JP2000092519A (ja) 1998-09-10 2000-03-31 Toshiba Corp 立体画像受信装置及び立体画像表示システム
JP3789794B2 (ja) 2001-09-26 2006-06-28 三洋電機株式会社 立体画像処理方法、装置、およびシステム
KR100397511B1 (ko) * 2001-11-21 2003-09-13 한국전자통신연구원 양안식/다시점 3차원 동영상 처리 시스템 및 그 방법
US7319720B2 (en) * 2002-01-28 2008-01-15 Microsoft Corporation Stereoscopic video
CN1254773C (zh) * 2002-05-27 2006-05-03 矽统科技股份有限公司 交错式立体影像的产生装置及方法
JP2004040455A (ja) 2002-07-03 2004-02-05 Nippon Television Network Corp 伝送再生方法、伝送方法、及びそのシステム
KR100488804B1 (ko) * 2002-10-07 2005-05-12 한국전자통신연구원 Mpeg-4 기반의 양안식 3차원 동영상 데이터 처리시스템 및 그 방법

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010516102A (ja) * 2007-01-04 2010-05-13 トムソン ライセンシング マルチビュー符号化ビデオにおいてビデオ・エラー補正を行う方法および装置
JP2009004940A (ja) * 2007-06-20 2009-01-08 Victor Co Of Japan Ltd 多視点画像符号化方法、多視点画像符号化装置及び多視点画像符号化プログラム
JP2009004939A (ja) * 2007-06-20 2009-01-08 Victor Co Of Japan Ltd 多視点画像復号方法、多視点画像復号装置及び多視点画像復号プログラム
US8451890B2 (en) 2009-01-19 2013-05-28 Panasonic Corporation Coding method, decoding method, coding apparatus, decoding apparatus, program, and integrated circuit
US8553761B2 (en) 2009-01-19 2013-10-08 Panasonic Corporation Coding method, decoding method, coding apparatus, decoding apparatus, program, and integrated circuit
JP2010233246A (ja) * 2009-01-19 2010-10-14 Panasonic Corp 符号化方法及び符号化装置
JP2010268501A (ja) * 2009-01-19 2010-11-25 Panasonic Corp 符号化方法及び符号化装置
JP4628490B2 (ja) * 2009-01-19 2011-02-09 パナソニック株式会社 符号化方法及び符号化装置
JP4628493B2 (ja) * 2009-01-19 2011-02-09 パナソニック株式会社 符号化方法及び符号化装置
US8548040B2 (en) 2009-01-19 2013-10-01 Panasonic Corporation Coding method, decoding method, coding apparatus, decoding apparatus, program, and integrated circuit
US8472731B2 (en) 2009-04-03 2013-06-25 Sony Corporation Image signal decoding apparatus, image signal decoding method, image signal encoding apparatus, image signal encoding method, and program
US8503804B2 (en) 2009-04-03 2013-08-06 Sony Corporation Image signal decoding apparatus and image signal decoding method
US8538181B2 (en) 2009-04-03 2013-09-17 Sony Corporation Image signal encoding apparatus and image signal encoding method
WO2010113770A1 (ja) * 2009-04-03 2010-10-07 ソニー株式会社 画像信号復号装置、画像信号復号方法、画像信号符号化装置、画像信号符号化方法、およびプログラム
US9036930B2 (en) 2009-04-03 2015-05-19 Sony Corporation Image signal decoding apparatus and image signal decoding method
US9426480B2 (en) 2009-04-03 2016-08-23 Sony Corporation Image signal decoding apparatus and image signal decoding method
JP2011259294A (ja) * 2010-06-10 2011-12-22 Ntt Electornics Corp 映像伝送システム
JP2012034138A (ja) * 2010-07-29 2012-02-16 Toshiba Corp 信号処理装置及び信号処理方法
WO2012157394A1 (ja) * 2011-05-19 2012-11-22 ソニー株式会社 画像データ送信装置、画像データ送信方法および画像データ受信装置

Also Published As

Publication number Publication date
CN102638691A (zh) 2012-08-15
EP1628485A3 (en) 2009-07-15
KR100676099B1 (ko) 2007-02-02
US20120013717A1 (en) 2012-01-19
JP4361435B2 (ja) 2009-11-11
CN1741619A (zh) 2006-03-01
US20060013297A1 (en) 2006-01-19
TW200607360A (en) 2006-02-16
KR20060050172A (ko) 2006-05-19
TWI277349B (en) 2007-03-21
US8811471B2 (en) 2014-08-19
EP2477410B1 (en) 2018-09-12
EP2477410A1 (en) 2012-07-18
CN1741619B (zh) 2012-05-16
EP1628485A2 (en) 2006-02-22
EP2477410B8 (en) 2019-03-06

Similar Documents

Publication Publication Date Title
KR100676099B1 (ko) 동화상 복호방법, 동화상 복호 프로그램이 기록된 저장매체, 동화상 복호장치, 동화상 부호화방법, 동화상 부호화 프로그램이 기록된 저장매체 및 동화상 부호화장치
US7391811B2 (en) Stereoscopic image encoding and decoding device multiplexing high resolution added images
JP5127633B2 (ja) コンテンツ再生装置および方法
TWI539790B (zh) 用於產生及重建一視訊串流之裝置、方法與軟體產品
JP2009296144A (ja) デジタル映像データ送信装置、デジタル映像データ受信装置、デジタル映像データ伝送システム、デジタル映像データ送信方法、デジタル映像データ受信方法、およびデジタル映像データ伝送方法
WO2013031156A1 (ja) 映像処理システム、送信装置、受信装置、送信方法、受信方法及びコンピュータプログラム
US20130250054A1 (en) Image data transmitting apparatus, image data transmitting method, image data receiving apparatus, and image data receiving method
KR20140057242A (ko) 부호화 장치 및 부호화 방법과 복호 장치 및 복호 방법
JP5238528B2 (ja) 符号化装置および方法、ならびに、復号装置および方法
US20110242291A1 (en) Information processing apparatus, information processing method, reproduction apparatus, reproduction method, and program
US20130070051A1 (en) Video encoding method and apparatus for encoding video data inputs including at least one three-dimensional anaglyph video, and related video decoding method and apparatus
KR20120019751A (ko) 초고화질 영상을 위한 실시간 3d 포맷팅 모듈 및 이를 이용한 실시간 3d 포맷팅 시스템
US7970056B2 (en) Method and/or apparatus for decoding an intra-only MPEG-2 stream composed of two separate fields encoded as a special frame picture
US20120050465A1 (en) Image processing apparatus and method using 3D image format
US8896663B2 (en) Transmitting device, receiving device, communication system and program
JP2003319417A (ja) 立体画像作成装置、立体画像表示装置およびそれらの方法
JP6221820B2 (ja) 符号化装置、符号化方法および符号化プログラム
JP2001339722A (ja) マルチチャネル画像符号化装置、復号化表示装置、符号化方法および復号化表示方法
KR20120026013A (ko) 통신 시스템에서 데이터 송수신 장치 및 방법
US20130114740A1 (en) Image coding method, image coding apparatus, image decoding method, image decoding apparatus, and storage medium
JP2006339857A (ja) 復号化装置
KR101336820B1 (ko) 다채널 트릭 모드에 특화된 복호화 장치 및 방법
JP5250158B2 (ja) 符号化装置・方法
JP2012222426A (ja) 映像配信システム、映像送信装置、及び映像再生装置
JP2013168982A (ja) 符号化装置および方法、ならびに、復号装置および方法

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20051207

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20051213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060207

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060516

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060718

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20060728

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20060908

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090812

R150 Certificate of patent or registration of utility model

Ref document number: 4361435

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120821

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120821

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130821

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250