JP2013009110A - Moving picture decoder and moving picture decoding method - Google Patents

Moving picture decoder and moving picture decoding method Download PDF

Info

Publication number
JP2013009110A
JP2013009110A JP2011139803A JP2011139803A JP2013009110A JP 2013009110 A JP2013009110 A JP 2013009110A JP 2011139803 A JP2011139803 A JP 2011139803A JP 2011139803 A JP2011139803 A JP 2011139803A JP 2013009110 A JP2013009110 A JP 2013009110A
Authority
JP
Japan
Prior art keywords
picture
macroblock
decoded
error
interpolation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011139803A
Other languages
Japanese (ja)
Other versions
JP5058362B1 (en
Inventor
Yuji Kawashima
裕司 川島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2011139803A priority Critical patent/JP5058362B1/en
Priority to US13/370,152 priority patent/US20120328017A1/en
Application granted granted Critical
Publication of JP5058362B1 publication Critical patent/JP5058362B1/en
Publication of JP2013009110A publication Critical patent/JP2013009110A/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To reduce picture disturbance in concealment when stream data including a moving picture with a plurality of viewpoints is decoded.SOLUTION: A moving picture decoder of an embodiment includes: detecting means for detecting an error of a macro block included in the stream data including the moving picture with the plurality of viewpoints; and interpolation means for performing interpolation using the macro block included in the picture of the same viewpoint in the case of a slice to be decoded by referring to the picture of the same viewpoint on the slice including the macro block where the error is detected and performing the interpolation using the macro block included in the picture of the other viewpoint in the case of the slice to be decoded by referring to the picture of the other viewpoint.

Description

本発明の実施形態は、動画像復号装置及び動画像復号方法に関する。   Embodiments described herein relate generally to a moving picture decoding apparatus and a moving picture decoding method.

従来、H.264/AVC(Advanced Video Coding)を複数の視点(ビュー)の動画像に拡張したH.264/MVC(Multiview Video Coding)のストリームデータを復号する動画像復号装置では、あるビューのピクチャに含まれるマクロブロックに誤りが混入し、そのマクロブロックを含むスライスが損傷を受けた場合、損傷を受けたスライスと関連する同一ビュー内のピクチャに含まれる他のマクロブロックの情報をもとに、損傷を受けたスライスを補間して復元するコンシールメント(欠落情報補間)が行われている。   Conventionally, H.M. H.264 / AVC (Advanced Video Coding) is extended to a moving image of a plurality of viewpoints (views). In a moving picture decoding apparatus that decodes H.264 / MVC (Multiview Video Coding) stream data, if an error is mixed in a macroblock included in a picture of a view and a slice including the macroblock is damaged, the damage is damaged. Concealment (missing information interpolation) for interpolating and restoring a damaged slice is performed based on information of other macroblocks included in a picture in the same view related to the received slice.

特表2010−516102号公報Special table 2010-516102 gazette

しかしながら、上述した従来技術では、同一ビューにおいて時間方向で異なるピクチャに含まれるマクロブロックでコンシールメントが行われるため、コンシールメント後の画像に多少の乱れが生じることがあった。特に、H.264/MVCのストリームデータにおいて、H.264/AVCに準拠したベースビュー以外の他のビューについては、同一ビューのピクチャによる予測から復号を行うだけでなく、異なるビュー間の予測からの復号も行われる。このため、ビュー間の予測から復号するマクロブロックが多いピクチャは、時間方向での相関性が弱く、従来のコンシールメントでは画像の乱れが生じ易かった。   However, in the above-described conventional technology, since concealment is performed with macroblocks included in different pictures in the time direction in the same view, there may be some disturbance in the image after concealment. In particular, H.C. H.264 / MVC stream data, For views other than the base view compliant with H.264 / AVC, decoding is performed not only from prediction using pictures in the same view but also from prediction between different views. For this reason, a picture with many macroblocks decoded from prediction between views has a weak correlation in the time direction, and image confusion easily occurs in the conventional concealment.

本発明は、上記に鑑みてなされたものであって、複数の視点の動画像を含むストリームデータを復号する際のコンシールメントでの画像乱れを低減することを可能とする動画像復号装置及び動画像復号方法を提供することを目的とする。   The present invention has been made in view of the above, and a moving image decoding apparatus and a moving image that can reduce image disturbance in concealment when decoding stream data including moving images of a plurality of viewpoints An object is to provide an image decoding method.

上述した課題を解決し、目的を達成するために、実施形態の動画像復号装置は、複数の視点の動画像を含むストリームデータに含まれるマクロブロックの誤りを検出する検出手段と、誤りが検出されたマクロブロックを含むスライスについて、同一視点のピクチャを参照して復号する視点のスライスである場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行い、他の視点のピクチャを参照して復号する視点のスライスである場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行う補間手段とを備える。   In order to solve the above-described problems and achieve the object, the moving image decoding apparatus according to the embodiment includes a detecting unit that detects an error in a macroblock included in stream data including moving images of a plurality of viewpoints, and an error is detected. If the slice including a macroblock is a viewpoint slice that is decoded with reference to a picture of the same viewpoint, interpolation using a macroblock included in the picture of the same viewpoint is performed, and a picture of another viewpoint is selected. In the case of a viewpoint slice to be referenced and decoded, an interpolation unit that performs interpolation using a macroblock included in the picture of the other viewpoint is provided.

また、実施形態の動画像復号方法は、検出手段が、複数の視点の動画像を含むストリームデータに含まれるマクロブロックの誤りを検出する工程と、補間手段が、誤りが検出されたマクロブロックを含むスライスについて、同一視点のピクチャを参照して復号する視点のスライスである場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行い、他の視点のピクチャを参照して復号する視点のスライスである場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行う工程とを含む。   In the moving picture decoding method of the embodiment, the detecting means detects a macroblock error included in stream data including moving pictures of a plurality of viewpoints, and the interpolating means detects the macroblock in which the error is detected. If the included slice is a viewpoint slice that is decoded with reference to a picture of the same viewpoint, interpolation is performed using a macroblock included in the picture of the same viewpoint, and decoding is performed with reference to a picture of another viewpoint. If the slice is a viewpoint slice, an interpolation process using a macroblock included in the picture of the other viewpoint is included.

図1は、複数の視点(ビュー)を含む動画像の一例を示す概念図である。FIG. 1 is a conceptual diagram illustrating an example of a moving image including a plurality of viewpoints (views). 図2は、エラー検出ブロックを含むピクチャの一例を示す概念図である。FIG. 2 is a conceptual diagram illustrating an example of a picture including an error detection block. 図3は、従来のコンシールメントを例示する概念図である。FIG. 3 is a conceptual diagram illustrating a conventional concealment. 図4は、実施形態にかかるコンシールメントを例示する概念図である。FIG. 4 is a conceptual diagram illustrating the concealment according to the embodiment. 図5は、実施形態にかかる動画像復号装置の構成を例示するブロック図である。FIG. 5 is a block diagram illustrating the configuration of the video decoding device according to the embodiment. 図6は、コンシールメント処理の一例を示すフローチャートである。FIG. 6 is a flowchart showing an example of concealment processing. 図7は、補間方法の選択の一例を示すフローチャートである。FIG. 7 is a flowchart illustrating an example of selecting an interpolation method. 図8は、誤りが検出されたエラー検出ブロックを含むピクチャを例示する概念図である。FIG. 8 is a conceptual diagram illustrating a picture including an error detection block in which an error is detected. 図9は、誤りが検出されたエラー検出ブロックを含むピクチャの復号順序で前のピクチャを例示する概念図である。FIG. 9 is a conceptual diagram illustrating a previous picture in the decoding order of a picture including an error detection block in which an error is detected. 図10は、補間方法の選択の一例を示すフローチャートである。FIG. 10 is a flowchart illustrating an example of selecting an interpolation method. 図11は、誤りが検出されたエラー検出ブロックを含むピクチャを例示する概念図である。FIG. 11 is a conceptual diagram illustrating a picture including an error detection block in which an error is detected. 図12は、誤りが検出されたエラー検出ブロックを含むピクチャの復号順序で前のピクチャを例示する概念図である。FIG. 12 is a conceptual diagram illustrating a previous picture in the decoding order of a picture including an error detection block in which an error is detected. 図13は、映像再生装置の構成を例示するブロック図である。FIG. 13 is a block diagram illustrating the configuration of the video playback apparatus.

以下、添付図面を参照して実施形態の動画像復号装置及び動画像復号方法を詳細に説明する。先ず、図1〜4を参照して実施形態の概要を説明する。図1は、複数の視点(ビュー)を含む動画像の一例を示す概念図である。図2は、エラー検出ブロックB20を含むピクチャP22の一例を示す概念図である。図3は、従来のコンシールメントを例示する概念図である。図4は、実施形態にかかるコンシールメントを例示する概念図である。   Hereinafter, a moving picture decoding apparatus and a moving picture decoding method according to embodiments will be described in detail with reference to the accompanying drawings. First, the outline of the embodiment will be described with reference to FIGS. FIG. 1 is a conceptual diagram illustrating an example of a moving image including a plurality of viewpoints (views). FIG. 2 is a conceptual diagram illustrating an example of a picture P22 including an error detection block B20. FIG. 3 is a conceptual diagram illustrating a conventional concealment. FIG. 4 is a conceptual diagram illustrating the concealment according to the embodiment.

H.264/MVC等の複数のビューを含む動画像のストリームデータは、図1に示すように、H.264/AVC符号化方式に準拠したベースビューV0と、H.264/AVC符号化方式に加えてビュー間の予測符号化が行われるノンベースビューV1、V2とを含む構成である。なお、図示した「I」、「P」、「B」はフレームピクチャのタイプを示しており、「I」はIピクチャを、「P」はPピクチャを、「B」はBピクチャを示す。また、実施形態における動画像のストリームデータは、H.264/MVCに準拠するものとする。   H. As shown in FIG. 1, moving image stream data including a plurality of views such as H.264 / MVC is H.264 / MVC. H.264 / AVC encoding system base view V0, H.264 In addition to the H.264 / AVC encoding scheme, the configuration includes non-base views V1 and V2 in which predictive encoding between views is performed. In the figure, “I”, “P”, and “B” indicate frame picture types, “I” indicates an I picture, “P” indicates a P picture, and “B” indicates a B picture. Also, moving image stream data in the embodiment is H.264. It shall conform to H.264 / MVC.

具体的には、ベースビューV0は、時刻t0〜t4のピクチャP00〜P04において、実線の矢印で示したように、同一ビューであるベースビューV0のピクチャを参照しての画面間(フレーム間)予測符号化が行われている。例えば、PピクチャであるピクチャP02は前にあるIピクチャのピクチャP00を参照して符号化が行われ、BピクチャであるピクチャP01は前後のピクチャP00、P02を参照して符号化が行われる。ノンベースビューV1は、時刻t0〜t4のピクチャP10〜P14において、実線の矢印で示した同一ビュー内の画面間予測符号化に加えて、点線の矢印で示した異なるビュー間での予測符号化(インタービュー予測符号化)が行われる。以後の説明では、同一ビューのピクチャを参照した予測符号化(実線の矢印)を同一フレーム内も含め単にフレーム間予測符号化と呼び、異なるビュー間でのピクチャを参照した予測符号化(点線の矢印)をインタービュー予測符号化と呼んで区別する。   Specifically, in the pictures P00 to P04 at times t0 to t4, the base view V0 is between screens (between frames) with reference to the picture of the base view V0 that is the same view, as indicated by solid arrows. Predictive coding is performed. For example, a picture P02 that is a P picture is encoded with reference to a previous picture P00 of an I picture, and a picture P01 that is a B picture is encoded with reference to the preceding and following pictures P00 and P02. In the non-base view V1, in the pictures P10 to P14 at the times t0 to t4, in addition to the inter-picture prediction encoding in the same view indicated by the solid arrow, the prediction encoding between different views indicated by the dotted arrow is performed. (Interview predictive coding) is performed. In the following description, predictive coding (solid arrow) referring to a picture of the same view is simply referred to as interframe predictive coding including the same frame, and predictive coding (dotted line) referring to pictures between different views. An arrow) is called inter-view predictive coding for distinction.

なお、各ピクチャにおける符号化・復号化は、複数のマクロブロックで構成されるスライス単位で行われる。このスライス単位で符号化・復号化する際に参照するピクチャ、すなわちフレーム間予測符号化で参照するピクチャやインタービュー予測符号化で参照するピクチャ等の情報は、付加情報としてストリームデータに含まれている。したがって、ストリームデータから動画像を復号する際には、付加情報をもとに、実線の矢印又は点線の矢印で示したピクチャを参照することで、予測符号化された画像データの復号が行われる。   Note that encoding / decoding in each picture is performed in units of slices composed of a plurality of macroblocks. Information such as a picture to be referred to when encoding / decoding in units of slices, that is, a picture to be referred to by inter-frame prediction encoding or a picture to be referred to by inter-view prediction encoding, is included in the stream data as additional information. Yes. Accordingly, when decoding a moving image from stream data, predictive-encoded image data is decoded by referring to a picture indicated by a solid arrow or a dotted arrow based on additional information. .

ここで、図1に示すように、ピクチャP22に含まれるマクロブロックに誤りが混入したものとする。このマクロブロックにおける誤りの混入は、ストリームデータを通信する際のノイズなどで生じる。そして、マクロブロックにおける誤り混入の検出は、マクロブロックのCBP(Coded Block Pattern)数が突如大きな値になった場合などを検出して行われる。   Here, as shown in FIG. 1, it is assumed that an error is mixed in the macroblock included in the picture P22. The mixing of errors in the macro block is caused by noise or the like when communicating stream data. Error detection in the macroblock is performed by detecting a case where the number of CBP (Coded Block Pattern) of the macroblock suddenly becomes large.

具体的には、図2に示すように、ピクチャP22ではラスタ順に復号が行われており、エラー検出ブロックB20が誤り混入が検出されたマクロブロックである。なお、復号されるマクロブロックの順序は、図示したラスタ順だけでなく、インターリーブやワイプなどであってもよい。ピクチャP22において、ブロックB10は誤り混入が検出されずに復号されたブロック、ブロックB11はブロックB10の中でインタービュー予測符号化についての復号が行われたブロックである。また、補間対象ブロックB21はエラー検出ブロックB20の検出によりコンシールメントの対象となる、エラー検出ブロックB20を含むブロックである。エラー検出ブロックB20を含む補間対象ブロックB21は、誤りの混入により損傷を受けているため、予測符号化についての復号できないことから、他のマクロブロックの情報をもとに、損傷を受けたスライスを補間して復元するコンシールメントが行われることとなる。なお、図示例では、エラー検出ブロックB20を含む補間対象ブロックB21について、ピクチャP22の最後までを一つのスライスとする構成を例示しているが、さらに複数のスライスで分割されてもよいことは言うまでもないことである。   Specifically, as shown in FIG. 2, decoding is performed in raster order in the picture P22, and the error detection block B20 is a macroblock in which error mixing is detected. Note that the order of macroblocks to be decoded is not limited to the illustrated raster order, but may be interleaving, wiping, or the like. In the picture P22, the block B10 is a block that is decoded without detecting error mixing, and the block B11 is a block that has been decoded for inter-view prediction coding in the block B10. Further, the interpolation target block B21 is a block including the error detection block B20 that is a target of concealment by the detection of the error detection block B20. Since the interpolation target block B21 including the error detection block B20 is damaged due to the mixing of errors and cannot be decoded for predictive coding, the damaged slice is determined based on the information of other macroblocks. Concealment to be restored by interpolation is performed. In the illustrated example, the interpolation target block B21 including the error detection block B20 is illustrated as having a single slice up to the end of the picture P22. However, it goes without saying that it may be further divided into a plurality of slices. That is.

従来、エラー検出ブロックB20を含む補間対象ブロックB21についてのコンシールメントは、図3に示すように、同一ビュー内のピクチャに含まれるマクロブロックを参照して行われていた。具体的には、ピクチャP22の補間対象ブロックB21については、フレーム間予測符号化で参照される同一ビューV2のピクチャP21のマクロブロックで補間されていた。これに対し、実施形態のコンシールメントでは、異なるビュー間でのピクチャを参照して復号するブロックについては、異なるビュー間のピクチャであり、インタービュー予測符号化で参照されるピクチャのマクロブロックでの補間を行う。   Conventionally, concealment for the interpolation target block B21 including the error detection block B20 has been performed with reference to macroblocks included in pictures in the same view, as shown in FIG. Specifically, the interpolation target block B21 of the picture P22 is interpolated with the macroblock of the picture P21 of the same view V2 that is referred to in inter-frame predictive coding. On the other hand, in the concealment of the embodiment, a block to be decoded with reference to pictures between different views is a picture between different views, and is a macroblock of a picture referred to in inter-view predictive coding. Interpolate.

具体的には、図4に示すように、ピクチャP22の補間対象ブロックB21については、インタービュー予測符号化で参照される異なるビューV1のピクチャP12のマクロブロックでの補間を行う。このように、異なるビュー間のピクチャP12を参照して復号する補間対象ブロックB21については、インタービュー予測符号化で参照されるピクチャP12のマクロブロックでの補間を行うことで、コンシールメントで補間されるマクロブロックの相関性がより強くなることから、画像乱れが生じにくくなる。なお、H.264/AVC符号化方式に準拠したベースビューV0で誤りの混入が検出されたマクロブロックを含むスライスについては、インタービュー予測符号化が行われないことから、従来どおりの同一ビュー内のピクチャに含まれるマクロブロックを参照して補間を行う。   Specifically, as illustrated in FIG. 4, with respect to the interpolation target block B21 of the picture P22, interpolation is performed with the macroblock of the picture P12 of the different view V1 referred to in the inter-view prediction encoding. In this way, the interpolation target block B21 to be decoded with reference to the picture P12 between different views is interpolated by concealment by performing interpolation with the macroblock of the picture P12 referred to in the inter-view prediction encoding. Since the correlation of the macroblocks becomes stronger, image disturbance is less likely to occur. H. Since a slice including a macroblock in which an error is detected in the base view V0 conforming to the H.264 / AVC coding scheme is not subjected to inter-view predictive coding, it is included in a picture in the same view as before. Interpolation is performed with reference to the macroblock.

次に、上述したコンシールメントを行う、実施形態にかかる動画像復号装置を説明する。図5は、実施形態にかかる動画像復号装置1の構成を例示するブロック図である。   Next, the video decoding device according to the embodiment that performs the above-described concealment will be described. FIG. 5 is a block diagram illustrating the configuration of the video decoding device 1 according to the embodiment.

図5に示すように、動画像復号装置1は、DSP(Digital Signal Processor)などであり、H.264/MVCのストリームデータを復号して再生画像データを出力する。具体的には、動画像復号装置1は、H.264/MVCのストリームデータを受け付けて再生画像データを出力する復号部10と、復号部10の制御を行う復号制御部20とを備える。復号部10は、シンタックス解析部11と、復号情報バッファ12と、信号処理部13と、コンシールメント処理部14と、フレームバッファ15とを備える。   As shown in FIG. 5, the moving image decoding apparatus 1 is a DSP (Digital Signal Processor) or the like. H.264 / MVC stream data is decoded and reproduced image data is output. Specifically, the moving image decoding apparatus 1 is an H.264 filer. A decoding unit that receives H.264 / MVC stream data and outputs reproduced image data; and a decoding control unit that controls the decoding unit. The decoding unit 10 includes a syntax analysis unit 11, a decoding information buffer 12, a signal processing unit 13, a concealment processing unit 14, and a frame buffer 15.

シンタックス解析部11は、H.264/MVCのストリームデータの入力を受け付けて、所定の方式(実施形態ではH.264/MVCに準拠した方式)にしたがってストリームデータを解析し、復号情報を生成する。この復号情報は、具体的にはストリームデータのVCL(Video Coding Layer)やNAL(Network Abstraction Layer)などに含まれる画像の符号化データ、その符号化データの復号のための付加情報などである。生成した復号情報は復号情報バッファ12に出力されて記憶される。   The syntax analysis unit 11 is an H.264 format. In response to the input of H.264 / MVC stream data, the stream data is analyzed according to a predetermined method (in the embodiment, a method compliant with H.264 / MVC) to generate decoding information. Specifically, the decoding information is encoded data of an image included in VCL (Video Coding Layer) or NAL (Network Abstraction Layer) of stream data, additional information for decoding the encoded data, and the like. The generated decoded information is output to and stored in the decoded information buffer 12.

また、シンタックス解析部11は、復号情報の符号化データに含まれるマクロブロックのCBP数をチェックするなどして、マクロブロックの誤りの有無を検出する。シンタックス解析部11によりマクロブロックの誤りが検出された場合は、そのマクロブロックに誤りがあることを、ピクチャ内におけるマクロブロックの位置を示す情報とともに復号制御部20に通知する。なお、マクロブロックの誤り検出については、CBP数のチェックだけでなく、いずれの検出方法であってもよい。例えば、各マクロブロックの先頭に挿入されているスキップランの長さが予め設定される上限長を超えるか否かをもとに誤り検出を行ってもよい。   In addition, the syntax analysis unit 11 detects the presence or absence of an error in the macroblock by, for example, checking the number of CBPs in the macroblock included in the encoded data of the decoding information. When an error in the macroblock is detected by the syntax analysis unit 11, the decoding control unit 20 is notified of the error in the macroblock together with information indicating the position of the macroblock in the picture. It should be noted that the macroblock error detection may be any detection method other than checking the number of CBPs. For example, error detection may be performed based on whether or not the length of the skip run inserted at the head of each macroblock exceeds a preset upper limit length.

復号情報バッファ12は、シンタックス解析部11より出力された復号情報を一時記憶する。復号情報バッファ12がスタックした復号情報は、復号制御部20の制御のもと、信号処理部13又はコンシールメント処理部14へ出力される。信号処理部13は、復号情報バッファ12からの復号情報の入力を受け付けて、受け付けた復号情報をもとに、所定の方式(実施形態ではH.264/MVCに準拠した方式)に従って符号化データを復号する信号処理を行う。復号されたデータ、すなわち復号されたスライスはフレームバッファ15に出力されて記憶される。   The decoding information buffer 12 temporarily stores the decoding information output from the syntax analysis unit 11. The decoding information stacked in the decoding information buffer 12 is output to the signal processing unit 13 or the concealment processing unit 14 under the control of the decoding control unit 20. The signal processing unit 13 receives input of decoding information from the decoding information buffer 12, and based on the received decoding information, encodes data according to a predetermined method (in the embodiment, a method compliant with H.264 / MVC). Signal processing for decoding is performed. The decoded data, that is, the decoded slice is output to the frame buffer 15 and stored.

コンシールメント処理部14は、復号制御部20の制御のもと、誤りが検出されたマクロブロックを含むスライスのコンシールメント処理を行う(詳細は後述する)。コンシールメント処理により補間されたスライスはフレームバッファ15に出力されて記憶される。フレームバッファ15は、信号処理部13及びコンシールメント処理部14より出力されたスライスで構築されるフレーム画像のデータを一時記憶する。フレームバッファ15が一時記憶するフレーム画像は、例えばIDR(Instantaneous Decoder Refresh)ピクチャの復号を契機とする復号制御部20の制御をもとに、再生画像データとして出力される。この再生画像データの出力に従い、復号情報バッファ12、フレームバッファ15に一時記憶されたデータは消去される。   Under the control of the decoding control unit 20, the concealment processing unit 14 performs concealment processing for a slice including a macroblock in which an error is detected (details will be described later). The slice interpolated by the concealment process is output to the frame buffer 15 and stored. The frame buffer 15 temporarily stores frame image data constructed by slices output from the signal processing unit 13 and the concealment processing unit 14. The frame image temporarily stored in the frame buffer 15 is output as reproduced image data under the control of the decoding control unit 20 triggered by, for example, decoding of an IDR (Instantaneous Decoder Refresh) picture. In accordance with the output of the reproduced image data, the data temporarily stored in the decoding information buffer 12 and the frame buffer 15 are deleted.

復号制御部20は、復号情報バッファ12に一時記憶される復号情報や、シンタックス解析部11より通知されるマクロブロックの誤りに関する情報を参照して、復号部10におけるストリームデータの復号を制御する。具体的には、復号制御部20は、誤りが検出されたマクロブロックの位置を示す情報をもとに、復号を行うスライス内のマクロブロックが誤りを含むか否かを確認する。誤りを含まない場合、復号制御部20は、復号を行うスライスに該当する復号情報を復号情報バッファ12より読み出して信号処理部13へ出力する。また、誤りを含む場合、復号制御部20は、コンシールメント処理部14を起動して、その誤りが検出されたマクロブロックを含むスライスに該当する復号情報をコンシールメント処理部14へ出力する。   The decoding control unit 20 controls the decoding of the stream data in the decoding unit 10 with reference to the decoding information temporarily stored in the decoding information buffer 12 and the information regarding the macroblock error notified from the syntax analysis unit 11. . Specifically, the decoding control unit 20 confirms whether or not the macroblock in the slice to be decoded contains an error based on information indicating the position of the macroblock in which the error is detected. If no error is included, the decoding control unit 20 reads the decoding information corresponding to the slice to be decoded from the decoding information buffer 12 and outputs it to the signal processing unit 13. When the error is included, the decoding control unit 20 activates the concealment processing unit 14 and outputs the decoding information corresponding to the slice including the macroblock in which the error is detected to the concealment processing unit 14.

ここで、コンシールメント処理部14が行うコンシールメント処理の詳細を説明する。図6は、コンシールメント処理の一例を示すフローチャートである。   Here, the detail of the concealment process which the concealment process part 14 performs is demonstrated. FIG. 6 is a flowchart showing an example of concealment processing.

図6に示すように、復号制御部20により起動されて、コンシールメント処理部14によるコンシールメント処理が開始されると、コンシールメント処理部14は、誤りが検出されたマクロブロックを含むスライスに該当する復号情報をもとに、補間方法を選択する(S1)。具体的には、復号情報に含まれる付加情報を参照し、誤りが検出されたマクロブロックを含むスライスがフレーム間予測符号化で符号化されており、フレーム間予測で復号するスライスである場合には、同一ビュー内のピクチャに含まれるマクロブロックを参照した補間方法、すなわちH.264/AVC符号化方式に準拠した従来の補間方法(同一ビュー内補間)を選択する。また、誤りが検出されたマクロブロックを含むスライスがインタービュー予測符号化で符号化されており、インタービュー予測で復号するスライスである場合には、異なるビュー間のピクチャに含まれるマクロブロックを参照した補間方法(ビュー間補間)を選択する。次いで、コンシールメント処理部14は、選択した補間方法で、誤りが検出されたマクロブロックを含むスライスを補間する補間処理を行う(S2)。   As shown in FIG. 6, when the concealment processing unit 14 is started by the decoding control unit 20 and the concealment processing unit 14 is started, the concealment processing unit 14 corresponds to a slice including a macroblock in which an error is detected. An interpolation method is selected based on the decoding information to be performed (S1). Specifically, referring to the additional information included in the decoding information, when a slice including a macroblock in which an error is detected is encoded by inter-frame prediction encoding and is a slice to be decoded by inter-frame prediction. Are interpolation methods that refer to macroblocks included in pictures in the same view, ie, H.264. A conventional interpolation method (intra-view interpolation) conforming to the H.264 / AVC encoding method is selected. In addition, when a slice including a macroblock in which an error is detected is encoded by inter-view prediction encoding and is a slice to be decoded by inter-view prediction, the macro block included in a picture between different views is referred to. Selected interpolation method (inter-view interpolation). Next, the concealment processing unit 14 performs an interpolation process for interpolating a slice including a macroblock in which an error is detected using the selected interpolation method (S2).

なお、S1における補間方法の選択は、誤りが検出されたマクロブロックよりも前、すなわち過去に復号されたマクロブロックの予測方法に応じて行ってもよい。具体的には、過去に復号されたマクロブロックの予測方法がインタービュー予測であるマクロブロックの数が多い場合に、異なるビュー間のピクチャに含まれるマクロブロックを参照した補間方法を選択してよい。   The selection of the interpolation method in S1 may be performed according to the prediction method of the macroblock decoded before the macroblock in which an error is detected, that is, in the past. Specifically, when there are a large number of macroblocks whose interblock prediction is used as a prediction method for macroblocks decoded in the past, an interpolation method that refers to macroblocks included in pictures between different views may be selected. .

図7は、補間方法の選択の一例を示すフローチャートである。図7に示すように、復号制御部20は、復号情報バッファ12に一時記憶された付加情報を参照して、過去に復号されたブロックの予測方法を取得する(S11)。次いで、復号制御部20は、異なるビュー間で予測したインタービュー予測のマクロブロックの数が多く、その数が所定数を上回るか否かを判定する(S12)。インタービュー予測のマクロブロックの数が所定数を上回る場合(S12:YES)、復号制御部20は、ビュー間補間を選択し、コンシールメント処理部14にビュー間補間を行わせる(S13)。なお、インタービュー予測のマクロブロックの数が所定数を上回らない場合(S12:NO)、復号制御部20は、同一ビュー内補間を選択し、コンシールメント処理部14に同一ビュー内補間を行わせる(S14)。   FIG. 7 is a flowchart illustrating an example of selecting an interpolation method. As illustrated in FIG. 7, the decoding control unit 20 refers to the additional information temporarily stored in the decoding information buffer 12 and acquires a prediction method for blocks decoded in the past (S11). Next, the decoding control unit 20 determines whether or not the number of macroblocks for inter-view prediction predicted between different views is large and the number exceeds a predetermined number (S12). When the number of macroblocks for inter-view prediction exceeds a predetermined number (S12: YES), the decoding control unit 20 selects inter-view interpolation, and causes the concealment processing unit 14 to perform inter-view interpolation (S13). When the number of macroblocks for inter-view prediction does not exceed the predetermined number (S12: NO), the decoding control unit 20 selects the same intra-view interpolation and causes the concealment processing unit 14 to perform the same intra-view interpolation. (S14).

このように、過去に復号されたマクロブロックにおいて、インタービュー予測で復号されたマクロブロックの数が所定数より多い場合は、異なるビュー間のピクチャとの相関性が強くなることから、異なるビュー間のピクチャに含まれるマクロブロックを参照した補間方法を選択することで、コンシールメント処理部14におけるコンシールメント処理による画像乱れが生じにくくなる。   In this way, in the macroblocks decoded in the past, when the number of macroblocks decoded in the inter-view prediction is larger than the predetermined number, the correlation between pictures between different views becomes stronger, so that By selecting an interpolation method that refers to a macroblock included in the picture, the image disturbance due to the concealment processing in the concealment processing unit 14 is less likely to occur.

なお、付加情報により参照する、過去に復号されたマクロブロックの範囲は、直近のIDRピクチャにより復号情報バッファ12のデータが消去された直後のマクロブロックまでであってもよいが、誤りが検出されたマクロブロックとの相関性が強いマクロブロックを選択したものであってもよい。具体的には、図8に示すように、誤りが検出されたエラー検出ブロックB20を含むピクチャPNにおいて、誤りが検出されたエラー検出ブロックB20の近傍にある復号済みの隣接ブロックB12、誤りが検出されたエラー検出ブロックB20を含むピクチャPNにおいて復号済みであるブロックB10であってよい。   Note that the range of the previously decoded macroblock referenced by the additional information may be up to the macroblock immediately after the data in the decoding information buffer 12 is erased by the latest IDR picture, but an error is detected. Alternatively, a macroblock having a strong correlation with the macroblock may be selected. Specifically, as shown in FIG. 8, in a picture PN including an error detection block B20 in which an error is detected, a decoded adjacent block B12 in the vicinity of the error detection block B20 in which an error is detected, an error is detected. It may be a block B10 that has been decoded in the picture PN including the error detection block B20.

また、図9に示すように、誤りが検出されたエラー検出ブロックB20を含むピクチャPNよりも前に復号されたピクチャPN−1において、エラー検出ブロックB20の位置に対応したブロックB30、ブロックB30よりも前のスライスであるブロックB31、ブロックB30を含むスライスであるブロックB32及びピクチャPN−1の全てのマクロブロック(ブロックB31及びブロックB32)のいずれであってもよい。   Further, as shown in FIG. 9, in the picture PN-1 decoded before the picture PN including the error detection block B20 in which the error is detected, from the block B30 and the block B30 corresponding to the position of the error detection block B20 The block B31 which is the previous slice, the block B32 which is the slice including the block B30, and all the macroblocks (block B31 and block B32) of the picture PN-1 may be used.

また、S1における補間方法の選択は、誤りが検出されたマクロブロックよりも前、すなわち過去に復号されたマクロブロックにおいて、インタービュー予測で復号されたマクロブロックの動きベクトルをもとにして求められた、動き補償の大きさ示す動き補償残差信号が予め設定された値よりも小さい場合に、異なるビュー間のピクチャに含まれるマクロブロックを参照した補間方法を選択してよい。この動きベクトルや動き補償残差信号は、信号処理部13において符号化データ(マクロブロック)を復号する信号処理を行う際に算出されて、マクロブロックの位置を示すインデックスとともにフレームバッファ15に一時記憶される。   Further, the selection of the interpolation method in S1 is obtained based on the motion vector of the macroblock decoded by the inter-view prediction in the macroblock decoded before the macroblock in which the error is detected, that is, in the past. In addition, when the motion compensation residual signal indicating the magnitude of motion compensation is smaller than a preset value, an interpolation method referring to macroblocks included in pictures between different views may be selected. The motion vector and motion compensation residual signal are calculated when the signal processing unit 13 performs signal processing for decoding the encoded data (macroblock) and are temporarily stored in the frame buffer 15 together with an index indicating the position of the macroblock. Is done.

図10は、補間方法の選択の一例を示すフローチャートである。図10に示すように、復号制御部20は、インタービュー予測のマクロブロックの数が所定数を上回る場合(S12:YES)、それらのマクロブロックについてフレームバッファ15に一時記憶された動き補償残差信号が予め設定された値よりも小さいか否かを判定する(S12a)。動き補償残差信号が予め設定された値よりも小さい場合(S12a:YES)、復号制御部20は、ビュー間補間を選択し、コンシールメント処理部14にビュー間補間を行わせる(S13)。なお、動き補償残差信号が予め設定された値よりも小さくない場合(S12a:NO)、復号制御部20は、同一ビュー内補間を選択し、コンシールメント処理部14に同一ビュー内補間を行わせる(S14)。   FIG. 10 is a flowchart illustrating an example of selecting an interpolation method. As illustrated in FIG. 10, when the number of macroblocks for inter-view prediction exceeds a predetermined number (S12: YES), the decoding control unit 20 temporarily stores motion compensation residuals in the frame buffer 15 for these macroblocks. It is determined whether or not the signal is smaller than a preset value (S12a). When the motion compensation residual signal is smaller than a preset value (S12a: YES), the decoding control unit 20 selects inter-view interpolation and causes the concealment processing unit 14 to perform inter-view interpolation (S13). When the motion compensation residual signal is not smaller than a preset value (S12a: NO), the decoding control unit 20 selects the same view interpolation and performs the same view interpolation on the concealment processing unit 14. (S14).

このように、過去に復号されたマクロブロックにおいて、インタービュー予測で復号されたマクロブロックの動き補償の大きさが小さい場合は、異なるビュー間のピクチャとの相関性が強くなることから、異なるビュー間のピクチャに含まれるマクロブロックを参照した補間方法を選択することで、コンシールメント処理部14におけるコンシールメント処理による画像乱れが生じにくくなる。   In this way, in the macroblock decoded in the past, when the magnitude of motion compensation of the macroblock decoded by the inter-view prediction is small, the correlation between the pictures between different views becomes strong, so that different views By selecting an interpolation method that refers to a macroblock included in an intermediate picture, image disturbance due to concealment processing in the concealment processing unit 14 is less likely to occur.

次に、誤りが検出されたマクロブロックを含むスライスを補間するコンシールメント処理部14の補間処理について説明する。なお、同一ビュー内補間についてはH.264/AVC符号化方式に準拠した従来の補間方法で行われることから、以下では、ビュー間補間についての補間処理を図11、12を参照して説明する。図11は、誤りが検出されたエラー検出ブロックB20を含むピクチャPNを例示する概念図である。図12は、誤りが検出されたエラー検出ブロックB20を含むピクチャPNの復号順序で前のピクチャPN−1を例示する概念図である。   Next, an interpolation process of the concealment processing unit 14 that interpolates a slice including a macroblock in which an error is detected will be described. In addition, H. Since the interpolation is performed by a conventional interpolation method compliant with the H.264 / AVC encoding method, an interpolation process for inter-view interpolation will be described below with reference to FIGS. FIG. 11 is a conceptual diagram illustrating a picture PN including an error detection block B20 in which an error is detected. FIG. 12 is a conceptual diagram illustrating the previous picture PN-1 in the decoding order of the picture PN including the error detection block B20 in which an error is detected.

コンシールメント処理部14は、ビュー間補間を行う場合、補間対象ブロックに含まれるすべてのマクロブロックにおける動きベクトルを決定し、その決定した動きベクトルに対応するマクロブロックを参照して、補間対象ブロックの補間を行う。図11に示すように、誤りが検出されたエラー検出ブロックB20(と同時に補間対象ブロックである)の動きベクトルをMV[k]、インタービュー予測で復号されたブロックB11の動きベクトルをMV[j]とする。また、図12に示すように、ピクチャPN−1において、エラー検出ブロックB20の位置に対応したブロックB30の動きベクトルをMV[k_col]、ブロックB11の位置に対応したブロックB33の動きベクトルをMV[j_col]とする。   When performing inter-view interpolation, the concealment processing unit 14 determines motion vectors in all macroblocks included in the interpolation target block, refers to the macroblock corresponding to the determined motion vector, and determines the interpolation target block. Interpolate. As shown in FIG. 11, the motion vector of the error detection block B20 (which is an interpolation target block) in which an error is detected is MV [k], and the motion vector of the block B11 decoded by inter-view prediction is MV [j ]. As shown in FIG. 12, in the picture PN-1, the motion vector of the block B30 corresponding to the position of the error detection block B20 is MV [k_col], and the motion vector of the block B33 corresponding to the position of the block B11 is MV [ j_col].

ここで、コンシールメント処理部14は、ピクチャPN−1において、エラー検出ブロックB20の位置に対応したブロックB30の動きベクトルMV[k_col](第1の動き補償情報)の値をフレームバッファ15より読み出して、エラー検出ブロックB20の動きベクトルMV[k]として用いてよい。具体的には、MV[k]=MV[k_col]の式(A)として算出してよい。この場合は、動きベクトルMV[k]との相関性が強いと見込まれるMV[k_col]を用いることで、補間による画像乱れが生じにくくなる。   Here, the concealment processing unit 14 reads the value of the motion vector MV [k_col] (first motion compensation information) of the block B30 corresponding to the position of the error detection block B20 in the picture PN-1 from the frame buffer 15. Thus, it may be used as the motion vector MV [k] of the error detection block B20. Specifically, it may be calculated as an equation (A) of MV [k] = MV [k_col]. In this case, by using MV [k_col] that is expected to have a strong correlation with the motion vector MV [k], image disturbance due to interpolation is less likely to occur.

また、コンシールメント処理部14は、誤りが検出されたエラー検出ブロックB20を含むピクチャPNにおいて復号済みであるブロックB11の動きベクトルMV[j](第2の動き補償情報)の値と、ピクチャPN−1においてブロックB11の位置に対応したブロックB33の動きベクトルMV[j_col](第3の動き補償情報)の値とでMV[k_col]をフレームバッファ15より読み出し、スケーリング(補正)したものを、エラー検出ブロックB20の動きベクトルMV[k]として用いてよい。具体的には、MV[k]=MV[k_col]*MV[j]/MV[j_col]の式(B)として算出してよい。この場合は、エラー検出ブロックB20の動きベクトルMV[k]とする値の精度をより高めることが可能となる。   The concealment processing unit 14 also determines the value of the motion vector MV [j] (second motion compensation information) of the block B11 that has been decoded in the picture PN including the error detection block B20 in which the error is detected, and the picture PN. In −1, MV [k_col] is read from the frame buffer 15 with the value of the motion vector MV [j_col] (third motion compensation information) of the block B33 corresponding to the position of the block B11, and scaled (corrected). It may be used as the motion vector MV [k] of the error detection block B20. Specifically, it may be calculated as an equation (B) of MV [k] = MV [k_col] * MV [j] / MV [j_col]. In this case, it is possible to further increase the accuracy of the value used as the motion vector MV [k] of the error detection block B20.

なお、式(A)のMV[k]をMVA、式(B)のMV[k]をMVBとして、MV[k]=(1−α)*MVA+α*MVBとして算出してもよい。ここで、αは0から1までの値をとる。αは、MV[k_col]のブロックB30と、MV[j_col]のブロックB33の動き補償における残差信号(それぞれR[k_col]、R[j_col])の大きさの比R[k_col]/R[j_col]としてよい。   Note that MV [k] = (1−α) * MVA + α * MVB may be calculated by setting MV [k] in Expression (A) as MVA and MV [k] in Expression (B) as MVB. Here, α takes a value from 0 to 1. α is a ratio R [k_col] / R [of the magnitudes of residual signals (R [k_col] and R [j_col], respectively) in motion compensation between the block B30 of MV [k_col] and the block B33 of MV [j_col]. j_col].

次に、動画像復号装置1を用いる電子機器の一例としての映像再生装置を説明する。図13は、映像再生装置100の構成を例示するブロック図である。   Next, a video reproduction device as an example of an electronic device using the moving image decoding device 1 will be described. FIG. 13 is a block diagram illustrating the configuration of the video playback device 100.

図13に示すように、映像再生装置100は、動画像復号装置1としての処理を行うデータプロセッサ部110を備える構成である。具体的には、映像再生装置100は、光ディスク等の記録媒体203が用いられ、記録媒体203に記録されているデジタル形式の映像コンテンツデータ(映画、ドラマなどの映像コンテンツを再生するためのデータ)を読み取って映像コンテンツおよびインタラクティブデータ(映像コンテンツに関連して再生されるメニューデータ、アニメーションデータ、効果音データ、映像コンテンツの解説等のコンテンツ解説データ、クイズの問題などを含むデータ)を再生することができ、また、インターネット202を介してネットワークストレージ204に接続し、ネットワークストレージ204からも映像コンテンツデータを取得して映像コンテンツおよびインタラクティブデータを再生可能な構成を有している。   As illustrated in FIG. 13, the video reproduction device 100 includes a data processor unit 110 that performs processing as the moving image decoding device 1. Specifically, the video playback device 100 uses a recording medium 203 such as an optical disk, and digital video content data recorded on the recording medium 203 (data for playing back video content such as movies and dramas). To play video content and interactive data (menu data, animation data, sound effect data, content commentary data such as commentary on video content, data including quiz problems, etc.) It is also possible to connect to the network storage 204 via the Internet 202, acquire video content data from the network storage 204, and reproduce video content and interactive data.

映像再生装置100は、ハードディスクドライブ102、フラッシュメモリ(Flash Memory)103、ディスクドライブ104およびネットワークコントローラ105を有し、いずれもバス119に接続されている。ハードディスクドライブ102は、高速回転する磁気ディスクに映像コンテンツデータ等のデジタルデータを記録して、デジタルデータの読み書きを行う。フラッシュメモリ103には、映像コンテンツデータ等のデジタルデータが記憶されてデジタルデータの読み書きが行われる。ディスクドライブ104は記録媒体203から映像コンテンツデータ等のデジタルデータを読み取り、再生信号を出力する機能を有している。ネットワークコントローラ105は、インターネット202を介してネットワークストレージ204との間で行われる映像コンテンツデータ等のデジタルデータの読み書きを制御する。   The video reproduction apparatus 100 includes a hard disk drive 102, a flash memory (Flash Memory) 103, a disk drive 104, and a network controller 105, all of which are connected to a bus 119. The hard disk drive 102 records digital data such as video content data on a magnetic disk rotating at high speed, and reads and writes the digital data. The flash memory 103 stores digital data such as video content data, and the digital data is read and written. The disk drive 104 has a function of reading digital data such as video content data from the recording medium 203 and outputting a reproduction signal. The network controller 105 controls reading and writing of digital data such as video content data performed with the network storage 204 via the Internet 202.

また、映像再生装置100は、MPU(Micro Processing Unit)106、メモリ部107、ROM部108およびビデオメモリ部109を有し、いずれもバス119に接続されている。MPU106は、ROM部108からメモリ部107に読み出された起動プログラムにしたがい起動され、また、プレイヤプログラムをROM部108からメモリ部107に読み出し、そのプレイヤプログラムにしたがってシステム初期化、システム終了などを制御し、システムマイコン116の処理を制御する。さらに、MPU106は、後述するデータプロセッサ部110に対して、記録媒体203、ネットワークストレージ204、ハードディスクドライブ102およびフラッシュメモリ103のいずれかから読み出される映像コンテンツデータから映像および音声を再生するように指示する。メモリ部107には、MPU106が作動する際に用いるデータやプログラムが記憶される。ROM部108には、起動プログラム、プレイヤプログラムといったMPU106が実行するプログラムや、データプロセッサ部110が実行するプログラム(例えば、映像コンテンツデータ等の圧縮符号化されている動画音声データをデコードし、映像および音声を再生するための映像再生プログラム)、恒久的なデータなどが記憶されている。ビデオメモリ部109には、後述する復号された再生画像データが順次書き込まれる。   The video playback apparatus 100 includes an MPU (Micro Processing Unit) 106, a memory unit 107, a ROM unit 108, and a video memory unit 109, all of which are connected to the bus 119. The MPU 106 is activated in accordance with the activation program read from the ROM unit 108 to the memory unit 107. The MPU 106 reads the player program from the ROM unit 108 to the memory unit 107, and performs system initialization, system termination, and the like according to the player program. To control the processing of the system microcomputer 116. Further, the MPU 106 instructs the data processor unit 110 (to be described later) to reproduce video and audio from video content data read from any of the recording medium 203, the network storage 204, the hard disk drive 102, and the flash memory 103. . The memory unit 107 stores data and programs used when the MPU 106 operates. The ROM unit 108 decodes a program executed by the MPU 106 such as an activation program and a player program, and a program executed by the data processor unit 110 (for example, video and audio data compressed and encoded such as video content data, Video reproduction program for reproducing sound), permanent data, and the like are stored. Decoded reproduced image data, which will be described later, is sequentially written in the video memory unit 109.

データプロセッサ部110は映像再生プログラムにしたがい作動して、圧縮符号化されている動画音声データを動画像データと音声データに分離してそれぞれをデコードし、映像および音声を再生する。システムマイコン116は、映像コンテンツの再生情報を表示パネル117へ表示させ、ユーザ入力装置118(リモコンまたは映像再生装置100に備えられた操作ボタン等の操作入力可能な装置)から入力される操作入力信号をバス119を介してMPU106に入力する。表示パネル117は、液晶表示パネルを有し、システムマイコン116の指示にしたがい、映像コンテンツおよびインタラクティブデータの再生に関する様々な情報を液晶表示パネルに表示する。   The data processor unit 110 operates in accordance with a video reproduction program, separates the compressed and encoded moving image / sound data into moving image data and audio data, decodes them, and reproduces video and audio. The system microcomputer 116 displays the reproduction information of the video content on the display panel 117, and an operation input signal input from the user input device 118 (a device that can be operated by operation such as an operation button provided in the remote control or the video playback device 100). Is input to the MPU 106 via the bus 119. The display panel 117 has a liquid crystal display panel, and displays various information related to reproduction of video content and interactive data on the liquid crystal display panel according to instructions from the system microcomputer 116.

なお、実施形態の動画像復号装置1で実行されるプログラムは、ROM等に予め組み込まれて提供される。実施形態の動画像復号装置1で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録して提供するように構成してもよい。   Note that the program executed by the video decoding device 1 of the embodiment is provided by being incorporated in advance in a ROM or the like. A program executed by the moving picture decoding apparatus 1 according to the embodiment is a file in an installable format or an executable format, and is a computer such as a CD-ROM, a flexible disk (FD), a CD-R, or a DVD (Digital Versatile Disk). The information may be provided by being recorded on a recording medium that can be read by the user.

さらに、実施形態の動画像復号装置1で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、実施形態の動画像復号装置1で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。   Furthermore, the program executed by the video decoding device 1 of the embodiment may be provided by being stored on a computer connected to a network such as the Internet and downloaded via the network. The program executed by the video decoding device 1 of the embodiment may be provided or distributed via a network such as the Internet.

実施形態の動画像復号装置1で実行されるプログラムは、上述した各部を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上記ROMからプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、主記憶装置上に生成されるようになっている。   The program executed by the moving picture decoding apparatus 1 according to the embodiment has a module configuration including the above-described units. As actual hardware, the CPU (processor) reads the program from the ROM and executes the program. Each unit is loaded on the main storage device and generated on the main storage device.

なお、本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化することができる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成することができる。例えば、実施形態に示される全構成要素からいくつかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせても良い。   Note that the present invention is not limited to the above-described embodiment as it is, and can be embodied by modifying the constituent elements without departing from the scope of the invention in the implementation stage. Moreover, various inventions can be formed by appropriately combining a plurality of constituent elements disclosed in the embodiment. For example, some components may be deleted from all the components shown in the embodiment. Furthermore, the constituent elements over different embodiments may be appropriately combined.

1…動画像復号装置、10…復号部、11…シンタックス解析部、12…復号情報バッファ、13…信号処理部、14…コンシールメント処理部、15…フレームバッファ、20…復号制御部、100…映像再生装置、102…ハードディスクドライブ、103…フラッシュメモリ、104…ディスクドライブ、105…ネットワークコントローラ、106…MPU、107…メモリ部、108…ROM部、109…ビデオメモリ部、110…データプロセッサ部、116…システムマイコン、117…表示パネル、118…ユーザ入力装置、119…バス、203…記録媒体、202…インターネット、204…ネットワークストレージ、B10、B11、B30〜B33…ブロック、B12…隣接ブロック、B20…エラー検出ブロック、B21…補間対象ブロック、P00〜P24、PN、PN−1…ピクチャ、t0〜t4…時刻、V0…ベースビュー、V1…ノンベースビュー、V2…ノンベースビュー   DESCRIPTION OF SYMBOLS 1 ... Moving image decoding apparatus, 10 ... Decoding part, 11 ... Syntax analysis part, 12 ... Decoding information buffer, 13 ... Signal processing part, 14 ... Concealment processing part, 15 ... Frame buffer, 20 ... Decoding control part, 100 DESCRIPTION OF SYMBOLS ... Video reproduction apparatus, 102 ... Hard disk drive, 103 ... Flash memory, 104 ... Disk drive, 105 ... Network controller, 106 ... MPU, 107 ... Memory part, 108 ... ROM part, 109 ... Video memory part, 110 ... Data processor part 116: System microcomputer, 117 ... Display panel, 118 ... User input device, 119 ... Bus, 203 ... Recording medium, 202 ... Internet, 204 ... Network storage, B10, B11, B30 to B33 ... Block, B12 ... Adjacent block, B20: Error detection block B21 ... interpolated block, P00~P24, PN, PN-1 ... picture, t0 to t4 ... time, V0 ... base view, V1 ... non-base view, V2 ... non-base view

上述した課題を解決し、目的を達成するために、実施形態の動画像復号装置は、複数の視点の動画像を含むストリームデータに含まれるマクロブロックの誤りを検出する検出手段と、誤りが検出されたマクロブロックを含むスライスについて、同一視点のピクチャを参照して復号するスライスである場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行い、他の視点のピクチャを参照して復号するスライスである場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行い、前記誤りが検出されたマクロブロックよりも前に復号されたマクロブロックにおいて、他の視点のピクチャを参照して復号されたマクロブロックの数が予め設定された所定数を上回る場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行い、前記他の視点のピクチャを参照して復号されたマクロブロックの数が予め設定された所定数を上回らない場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行う補間手段とを備えるIn order to solve the above-described problems and achieve the object, the moving image decoding apparatus according to the embodiment includes a detecting unit that detects an error in a macroblock included in stream data including moving images of a plurality of viewpoints, and an error is detected. If the slice including the macroblock is a slice that is decoded with reference to a picture of the same viewpoint, interpolation is performed using the macroblock included in the picture of the same viewpoint, and the picture of another viewpoint is referred to. If the slice is a slice to be decoded, interpolation is performed using a macroblock included in the picture of the other viewpoint, and in the macroblock decoded before the macroblock in which the error is detected, If the number of macroblocks decoded with reference to a picture exceeds a predetermined number, it is included in the picture of the other viewpoint If the number of macroblocks decoded with reference to the picture of the other viewpoint does not exceed a predetermined number, the macroblock included in the picture of the same viewpoint Interpolating means for performing interpolation using .

また、実施形態の動画像復号方法は、検出手段が、複数の視点の動画像を含むストリームデータに含まれるマクロブロックの誤りを検出する工程と、補間手段が、誤りが検出されたマクロブロックを含むスライスについて、同一視点のピクチャを参照して復号するスライスである場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行い、他の視点のピクチャを参照して復号するスライスである場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行い、前記誤りが検出されたマクロブロックよりも前に復号されたマクロブロックにおいて、他の視点のピクチャを参照して復号されたマクロブロックの数が予め設定された所定数を上回る場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行い、前記他の視点のピクチャを参照して復号されたマクロブロックの数が予め設定された所定数を上回らない場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行う工程とを含むIn the moving picture decoding method of the embodiment, the detecting means detects a macroblock error included in stream data including moving pictures of a plurality of viewpoints, and the interpolating means detects the macroblock in which the error is detected. If the included slice is a slice that is decoded with reference to a picture at the same viewpoint, interpolation is performed using a macroblock included in the picture at the same viewpoint, and the slice that is decoded with reference to a picture at another viewpoint is used. In some cases, interpolation is performed using a macroblock included in the picture of the other viewpoint, and the macroblock decoded before the macroblock in which the error is detected refers to the picture of the other viewpoint. If the number of decoded macroblocks exceeds a predetermined number, the macroblocks included in the other view picture If the number of macroblocks decoded with reference to the picture of the other viewpoint does not exceed a predetermined number, the interpolation using the macroblock included in the picture of the same viewpoint is performed. And a step of performing .

Claims (7)

複数の視点の動画像を含むストリームデータに含まれるマクロブロックの誤りを検出する検出手段と、
誤りが検出されたマクロブロックを含むスライスについて、同一視点のピクチャを参照して復号するスライスである場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行い、他の視点のピクチャを参照して復号するスライスである場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行う補間手段と、
を備える動画像復号装置。
Detecting means for detecting an error of a macroblock included in stream data including moving images of a plurality of viewpoints;
When a slice including a macroblock in which an error is detected is a slice to be decoded with reference to a picture at the same viewpoint, interpolation using a macroblock included in the picture at the same viewpoint is performed, and a picture at another viewpoint is performed. If the slice is to be decoded with reference to, interpolation means for performing interpolation using a macroblock included in the picture of the other viewpoint,
A video decoding device comprising:
前記補間手段は、前記誤りが検出されたマクロブロックよりも前に復号されたマクロブロックにおいて、他の視点のピクチャを参照して復号されたマクロブロックの数が予め設定された所定数を上回る場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行い、
前記他の視点のピクチャを参照して復号されたマクロブロックの数が予め設定された所定数を上回らない場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行う、
請求項1に記載の動画像復号装置。
In the macroblock decoded prior to the macroblock in which the error is detected, the interpolation means refers to a case where the number of macroblocks decoded with reference to a picture of another viewpoint exceeds a predetermined number Performs interpolation using a macroblock included in the picture of the other viewpoint,
When the number of macroblocks decoded with reference to the picture of the other viewpoint does not exceed a predetermined number set in advance, interpolation using a macroblock included in the picture of the same viewpoint is performed.
The moving picture decoding apparatus according to claim 1.
前記補間手段は、前記誤りが検出されたマクロブロックよりも前に復号されたマクロブロックにおいて、他の視点のピクチャを参照して復号されたマクロブロックの動き補償の大きさを示す値が予め設定された値より小さい場合に、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行う、
請求項1又は2に記載の動画像復号装置。
The interpolation means sets in advance a value indicating the magnitude of motion compensation of a macroblock decoded with reference to a picture of another viewpoint in a macroblock decoded before the macroblock in which the error is detected If the value is smaller than the calculated value, interpolation is performed using a macroblock included in the picture of the other viewpoint.
The moving image decoding apparatus according to claim 1 or 2.
前記誤りが検出されたマクロブロックよりも前に復号されたマクロブロックは、前記誤りが検出されたマクロブロックの近傍にある復号済みのマクロブロック、前記誤りが検出されたマクロブロックを含むピクチャにおいて復号済みであるマクロブロック、前記誤りが検出されたマクロブロックを含むピクチャよりも前に復号されたピクチャにおいて、当該誤りが検出されたマクロブロックの位置に対応したマクロブロック、前記誤りが検出されたマクロブロックを含むピクチャよりも前に復号されたピクチャの全てのマクロブロックの少なくともいずれか一つである、
請求項2又は3に記載の動画像復号装置。
A macroblock decoded before the macroblock in which the error is detected is decoded in a decoded macroblock in the vicinity of the macroblock in which the error is detected and a picture including the macroblock in which the error is detected. A macroblock corresponding to the position of the macroblock in which the error is detected in a picture decoded before the picture including the macroblock in which the error is detected, and the macro in which the error is detected Is at least one of all macroblocks of a picture decoded before the picture containing the block,
The moving image decoding apparatus according to claim 2 or 3.
前記補間手段は、前記誤りが検出されたマクロブロックを含むピクチャよりも前に復号されたピクチャにおいて、当該誤りが検出されたマクロブロックの位置に対応したマクロブロックの動き補償を示す第1の動き補償情報をもとに、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行う、
請求項1乃至4のいずれか一項に記載の動画像復号装置。
In the picture decoded before the picture including the macroblock in which the error is detected, the interpolation means performs a first motion indicating motion compensation of the macroblock corresponding to the position of the macroblock in which the error is detected. Based on compensation information, interpolation is performed using a macroblock included in the picture of the other viewpoint.
The moving image decoding apparatus according to any one of claims 1 to 4.
前記補間手段は、前記誤りが検出されたマクロブロックを含むピクチャにおいて復号済みであるマクロブロックの動き補償を示す第2の動き補償情報と、当該ピクチャよりも前に復号されたピクチャにおいて前記復号済みであるマクロブロックの位置に対応したマクロブロックの動き補償を示す第3の動き補償情報とをもとに、前記第1の動き補償情報を補正する、
請求項5に記載の動画像復号装置。
The interpolation means includes second motion compensation information indicating motion compensation of a macroblock that has been decoded in a picture including a macroblock in which the error is detected, and the decoded information in a picture decoded before the picture. Correcting the first motion compensation information based on the third motion compensation information indicating the motion compensation of the macroblock corresponding to the position of the macroblock,
The moving picture decoding apparatus according to claim 5.
動画像復号装置における動画像復号方法であって、
検出手段が、複数の視点の動画像を含むストリームデータに含まれるマクロブロックの誤りを検出する工程と、
補間手段が、誤りが検出されたマクロブロックを含むスライスについて、同一視点のピクチャを参照して復号するスライスである場合は、前記同一視点のピクチャに含まれるマクロブロックを用いた補間を行い、他の視点のピクチャを参照して復号するスライスである場合は、前記他の視点のピクチャに含まれるマクロブロックを用いた補間を行う工程と、
を含む動画像復号方法。
A moving picture decoding method in a moving picture decoding apparatus, comprising:
A step of detecting a macroblock error included in stream data including moving images of a plurality of viewpoints;
When a slice including a macroblock in which an error is detected is a slice that is decoded with reference to a picture of the same viewpoint, the interpolation means performs interpolation using the macroblock included in the picture of the same viewpoint, If the slice is to be decoded with reference to a picture of the other viewpoint, a step of performing interpolation using a macroblock included in the picture of the other viewpoint;
A video decoding method including:
JP2011139803A 2011-06-23 2011-06-23 Moving picture decoding apparatus and moving picture decoding method Expired - Fee Related JP5058362B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011139803A JP5058362B1 (en) 2011-06-23 2011-06-23 Moving picture decoding apparatus and moving picture decoding method
US13/370,152 US20120328017A1 (en) 2011-06-23 2012-02-09 Video decoder and video decoding method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011139803A JP5058362B1 (en) 2011-06-23 2011-06-23 Moving picture decoding apparatus and moving picture decoding method

Publications (2)

Publication Number Publication Date
JP5058362B1 JP5058362B1 (en) 2012-10-24
JP2013009110A true JP2013009110A (en) 2013-01-10

Family

ID=47189546

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011139803A Expired - Fee Related JP5058362B1 (en) 2011-06-23 2011-06-23 Moving picture decoding apparatus and moving picture decoding method

Country Status (2)

Country Link
US (1) US20120328017A1 (en)
JP (1) JP5058362B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013106273A (en) * 2011-11-15 2013-05-30 Fujitsu Semiconductor Ltd Image processing device and image processing method

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102060857B1 (en) * 2013-07-24 2019-12-30 퀄컴 인코포레이티드 Simplified advanced motion prediction for 3d-hevc
WO2015131387A1 (en) 2014-03-07 2015-09-11 Qualcomm Incorporated Simplified sub-prediction unit (sub-pu) motion parameter inheritence (mpi)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003319419A (en) * 2002-04-25 2003-11-07 Sharp Corp Data decoding device
JP2010525637A (en) * 2007-04-17 2010-07-22 ▲ホア▼▲ウェイ▼技術有限公司 Multi-view encoding and decoding method and apparatus

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7394855B2 (en) * 2003-11-20 2008-07-01 Mitsubishi Electric Research Laboratories, Inc. Error concealing decoding method of intra-frames of compressed videos
KR20100058471A (en) * 2007-08-15 2010-06-03 톰슨 라이센싱 Method and apparatus for error concealment in multi-view coded video
TWI382770B (en) * 2008-12-11 2013-01-11 Univ Nat Taiwan An efficient adaptive mode selection technique for h.264/avc-coded video delivery in burst-packet-loss networks

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003319419A (en) * 2002-04-25 2003-11-07 Sharp Corp Data decoding device
JP2010525637A (en) * 2007-04-17 2010-07-22 ▲ホア▼▲ウェイ▼技術有限公司 Multi-view encoding and decoding method and apparatus

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JPN6012020245; Xinguang Xiang, Debin Zhao, Qiang Wang, Xiangyang Ji, Wen Gao: 'A Novel Error Concealment Method for Stereoscopic Video Coding' IEEE International Conference on Image Processing, 2007 (ICIP 2007) , 20070916, pp.V-101〜V-104 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013106273A (en) * 2011-11-15 2013-05-30 Fujitsu Semiconductor Ltd Image processing device and image processing method

Also Published As

Publication number Publication date
JP5058362B1 (en) 2012-10-24
US20120328017A1 (en) 2012-12-27

Similar Documents

Publication Publication Date Title
RU2537800C2 (en) Method and device for overlaying three-dimensional graphics on three-dimensional video
US8711942B2 (en) Moving picture decoding device and moving picture decoding method
JP2007208476A (en) Moving picture decoding apparatus and moving picture decoding method
EP2642764B1 (en) Transcoding a video stream to facilitate accurate display
JP5058362B1 (en) Moving picture decoding apparatus and moving picture decoding method
JP2007336275A (en) Moving image reproducing device
US20110280318A1 (en) Multiview video decoding apparatus and multiview video decoding method
KR101417338B1 (en) Video server and control method for video server
KR101528269B1 (en) A method for playing a moving picture
WO2006016418A1 (en) Encoded stream recording medium, image encoding apparatus, and image decoding apparatus
JP5159927B2 (en) Moving picture decoding apparatus and moving picture decoding method
JP2007318615A (en) Moving image reproducing device, moving image reproduction method and program
JP6221820B2 (en) Encoding apparatus, encoding method, and encoding program
JP5248583B2 (en) Moving picture decoding apparatus and moving picture decoding method
US8923689B2 (en) Image processing apparatus and method
JP2005236386A (en) Image processing apparatus
US20150172619A1 (en) Storage medium, reproducing apparatus and method for recording and playing image data
US8249432B2 (en) Video and audio playback apparatus and video and audio playback method
JP2009194591A (en) Reencoding apparatus, video recording apparatus, integrated circuit, and reencoding method
JPH08265751A (en) Picture reproducing device by mpeg system
JP2009060502A (en) Electronic device, output method and program
US20070058954A1 (en) Recording apparatus
JP2001359048A (en) Video signal reproducing method
JPWO2005101829A1 (en) Encoded data decoding / reproducing apparatus
JPH03209998A (en) Dynamic image decoding device

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120731

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150810

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150810

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees