JP6208993B2 - 画像復号装置及び画像復号装置の復号処理方法 - Google Patents

画像復号装置及び画像復号装置の復号処理方法 Download PDF

Info

Publication number
JP6208993B2
JP6208993B2 JP2013135755A JP2013135755A JP6208993B2 JP 6208993 B2 JP6208993 B2 JP 6208993B2 JP 2013135755 A JP2013135755 A JP 2013135755A JP 2013135755 A JP2013135755 A JP 2013135755A JP 6208993 B2 JP6208993 B2 JP 6208993B2
Authority
JP
Japan
Prior art keywords
image
unit
buffer
data
tile
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013135755A
Other languages
English (en)
Other versions
JP2015012410A (ja
Inventor
亮司 橋本
亮司 橋本
俊之 加谷
俊之 加谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Renesas Electronics Corp
Original Assignee
Renesas Electronics Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Renesas Electronics Corp filed Critical Renesas Electronics Corp
Priority to JP2013135755A priority Critical patent/JP6208993B2/ja
Priority to EP14171167.1A priority patent/EP2819415B1/en
Priority to US14/304,943 priority patent/US9800874B2/en
Priority to CN201410302932.1A priority patent/CN104253992B/zh
Publication of JP2015012410A publication Critical patent/JP2015012410A/ja
Application granted granted Critical
Publication of JP6208993B2 publication Critical patent/JP6208993B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167Position within a video image, e.g. region of interest [ROI]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/423Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation characterised by memory arrangements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/467Embedding additional information in the video signal during the compression process characterised by the embedded information being invisible, e.g. watermarking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像復号装置に関し、特にH.265(HEVC: High Efficiency Video Coding)に準拠しTileを用いて符号化されたビットストリームを受信する、画像復号装置に好適に利用できるものである。
画像符号化方式の標準化規格であるH.264(MPEG-4 AVC: Advanced Video Coding)に続く次世代の標準化規格として、H.265/HEVCが国際電気通信連合(ITU: International Telecommunication Union)によって承認され、標準化作業が進んでいる。H.265/HEVCにおいて、符号化ツールの一種としてタイルを用いた符号化が採用されている。H.265/HEVCでは、符号化と復号の単位である、CTB(Coding Tree Block)と呼ばれる正方形の画素領域が規定されている。タイルを用いた符号化では、1枚(1フレーム)の画像を、それぞれ複数のCTBからなる複数の矩形の領域(この領域は、タイル(Tile)または、「ブロック」と呼ばれる。)に分割し、それぞれの領域(タイル)で独立に符号化を行い、その結果を1本のビットストリームにまとめて出力する。ビットストリームが入力される復号側では、逆に、それぞれの領域(タイル)で独立に復号を行い、その結果をまとめて1フレームの画像を復元する。タイルの境界部分においては、境界線が視認されるような画質劣化を抑えるため、フィルタ処理が施される。
タイルを用いた符号化・復号処理は、並列処理に適している。その理由は、タイル毎に独立して符号化し、タイル毎に独立して復号することができるからである。複数のCPU(Central Processing Unit)が並列化された、マルチコアによるソフトウェア復号においては、各タイルを各CPUに割り当てて復号することで、コア数分の並列処理が可能となる。その際、タイルの復号で得られた情報は全てメモリに格納される。全てのタイルを復号した後に、メモリに格納された情報を用いてタイル境界におけるフィルタ処理を実施することで、1枚(1フレーム)の画像の復号が完了する。
タイルを用いて符号化され、送出されたビットストリームは、必ずタイルを用いて復号する必要がある。しかし、符号化を行う送信側が、タイルを用いて符号化するのに適した並列ハードウェアを備えていたとしても、復号を行う受信側が同様の並列ハードウェアを備えているとは限らない。また、符号化装置側の符号化アルゴリズムを特定することができない復号装置は、如何なる符号化アルゴリズムで符号化されたビットストリームでも復号することができるように構成する必要がある。例えばタイルを使用して符号化されたビットストリームでも、タイルを使用しないで符号化されたビットストリームでも、復号することができるように構成する必要がある。復号装置にマルチコアを採用した場合、符号化側との並列度の違いを吸収するために制御が複雑化してしまったり、極端な場合には、1フレームを1タイルで符号化されたビットストリームの復号に複数のCPUの中の1個のCPUしか有効に動作させることができないなどの問題が生じる。そのため、復号装置は、並列化されていない単一のハードウェアを備えて、複数のタイルの復号処理を、タイル毎に順次実行するように構成される場合が多い。
特許文献1と特許文献2には、H.265/HEVC方式の画像符号化装置・方法と画像復号装置・方法が開示されている。特許文献1に記載される技術では、ブロック(タイル)内の量子化係数の走査順序が複数存在する場合に、量子化マトリクスを最適化する。特許文献2に記載される技術では、ブロック(タイル)の形状が正方形以外であっても、量子化マトリクスを最適化する。いずれも、ブロック分割部によって分割されたブロック(タイル)毎に、符号化処理や復号処理を行う。
一方、1枚(1フレーム)の画像をタイルなどの複数の領域に分割して符号化・復号処理を行った場合、タイルの境界線が不自然な直線として視認され、画質の劣化として認識されるという問題がある。
特許文献3と特許文献4には、タイル境界線の顕在化を緩和する画像処理技術が開示されている。特許文献3に記載される画像圧縮・伸長装置では、複数のコンポーネントを持つ静止画像の処理において、コンポーネント毎のタイル境界の位置を変えることにより、重ね合せたときに境界線を目立たないようにする。特許文献4に記載される動画像処理装置では、フレーム毎のタイル境界の位置を変えることにより、重ね合せたときに境界線を目立たないようにする。
特開2013−012887号公報 特開2013−038758号公報 特開2002−354501号公報 特開2004−032799号公報
特許文献1、2、3及び4について本発明者が検討した結果、以下のような新たな課題があることがわかった。
1フレームの画像を複数のタイルに分割して符号化・復号処理を行った場合、タイルの境界線が不自然な直線として視認され、画質の劣化として認識される問題に対しては、上記特許文献3と特許文献4に開示される技術の他、復号後のタイルの境界部分に対して、フィルタ処理を施す方法が採用される。フィルタ処理は、H.265/HEVCの規格にも採用されている一般的な方法であり、上記特許文献3と特許文献4に開示される技術のような複雑な制御を必要としない。
フィルタ処理には、入力として隣接する画像データが必要である。1フレームの画像が複数のタイルに分割されている場合には、タイルの境界部分で、隣接するタイルについての復号処理が終わるのを待って、フィルタ処理が行われる。タイルの境界部分では、先に復号が行われたタイルの画像出力データは、隣接するタイルの復号が終わるまで、何らかの方法で保持されなければならない。この保持の方法として、2つの方法が考えられる。1つの方法は、各タイルの復号処理結果の復号データを、タイルの境界分を含めて全てをフレームメモリに格納し、フィルタ処理では必要な、タイルの境界部分の復号データを読み出して、フィルタ処理を施してフレームメモリに書き戻す。もう1つの方法は、各タイルの復号処理結果の復号データのうち、後のフィルタ処理で必要な、タイル境界の復号データを保持するバッファを設ける方法である。
並列化されていない単一のハードウェアを備えて、複数のタイルの復号処理を、タイル毎に順次実行するように構成された復号装置では、フィルタ処理のための、フレームメモリのタイル境界の復号データに対するアクセス頻度を抑え、または、タイル境界の復号データを保持するバッファの回路規模を抑える、という課題がある。
このような課題を解決するための手段を以下に説明するが、その他の課題と新規な特徴は、本明細書の記述及び添付図面から明らかになるであろう。
一実施の形態によれば、下記の通りである。
すなわち、タイルのサイズや位置関係によらず、画面全体をラスタスキャンの順序で、復号処理およびフィルタ処理を行う。
前記一実施の形態によって得られる効果を簡単に説明すれば下記のとおりである。
すなわち、フィルタ処理のための、フレームメモリのタイル境界の復号データのアクセス頻度を抑え、または、タイル境界の復号データを保持するバッファの回路規模を抑えることができる。
図1は、実施形態1に係る画像復号装置の構成を示すブロック図である。 図2は、1フレームの画像におけるタイルとCTBの配置を示す説明図である。 図3は、ビットストリームにおけるタイルとCTBの配置を示す説明図である。 図4は、ビットストリームにおけるタイルとCTBの配置を示す、より詳細な説明図である。 図5は、実施形態1(他の実施形態も同様に妥当する)に係る画像復号装置におけるタイルとCTBの処理順序を示す説明図である。 図6は、実施形態1(他の実施形態も同様に妥当する)に係る画像復号装置におけるタイルとCTBの処理順序を示す、より詳細な説明図である。 図7は、実施形態2に係る画像復号装置の構成例を示すブロック図である。 図8は、図7の画像復号装置において特に画像復元部の詳細な構成例を示すブロック図である。 図9は、実施形態3に係る画像復号装置の別の構成例を示すブロック図である。 図10は、図9の画像復号装置において特に画像復元部の詳細な構成例を示すブロック図である。 図11は、実施形態4に係る画像復号装置の別の構成例を示すブロック図である。 図12は、図11の画像復号装置において特に画像復元部の詳細な構成例を示すブロック図である。 図13は、実施形態5に係る画像復号装置の別の構成例を示すブロック図である。 図14は、図13の画像復号装置において特に画像復元部の詳細な構成例を示すブロック図である。
1.実施の形態の概要
先ず、本願において開示される代表的な実施の形態について概要を説明する。代表的な実施の形態についての概要説明で括弧を付して参照する図面中の参照符号はそれが付された構成要素の概念に含まれるものを例示するに過ぎない。
〔1〕<タイル境界に関わらず画像全体をラスタスキャン順で復号+フィルタ>
ヘッダ情報と符号化された画像データを含むビットストリームが入力されるビットストリーム解析部(11)と、前記ビットストリーム解析部から供給される前記符号化された画像データに対して復号処理を施し、前記復号処理の結果である復号データにフィルタ処理を施す、画像復元部(12)とを備える画像復号装置(10)であって、以下のように構成される。
前記符号化された画像データは、1フレームの原画像が矩形領域である複数のタイルに分割され、前記タイル毎に符号化された画像データであり、前記複数のタイルのそれぞれは、前記符号化の単位である符号化ブロック(CTB)を行列状に1個以上含む。
前記ビットストリームは、前記1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序で、タイル毎の前記符号化された画像データを含み、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、符号化ブロック毎の前記符号化された画像データを含む。
前記ヘッダ情報は、前記各タイルのサイズ情報を含む。
前記画像復元部は、前記1フレーム内のタイル境界の有無に関わらず、前記1フレーム内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、復号処理と、左右で隣接するタイル間の境界がある場合のタイル境界部のフィルタ処理と、を順次実行する。
これにより、左右で隣接するタイル間のタイル境界部のフィルタ処理において、左のタイルの復号処理結果を、右のタイルのフィルタ処理が開始されるまで保持するための、タイル境界フィルタ用バッファを不要とすることができる。
〔2〕<ビットストリーム解析部+解析用データ>
項1において、前記画像復号装置は、前記ビットストリーム解析部からアクセス可能な解析用データバッファ(2)をさらに備える。
前記ビットストリーム解析部は、前記ヘッダ情報に基づいて、前記画像復元部による復元処理の対象行の、各タイルの先頭に配置される符号化ブロックが格納される、前記ビットストリーム内の位置を算出して、前記解析用データバッファに保持する。
前記ビットストリーム解析部は、前記解析用データバッファに保持される、前記画像復元部による復元処理の対象行の、対応する画像データを前記ビットストリームから読み出して、前記画像復元部に供給する。前記ビットストリーム解析部は、各タイルの先頭に配置される符号化ブロックが格納される、前記ビットストリーム内の前記位置に基づいて、前記読み出しを行う。
これにより、前記タイル境界フィルタ用バッファが不要となるため、代わりに必要とされる前記解析用データバッファの大きさを、前記タイル境界フィルタ用バッファの数分の1以下に抑えることができる。
〔3〕<項2の画像復元部の構成>
項2において、前記画像復号装置は、前記画像復元部から出力される復号画像を格納するフレームバッファ(7)をさらに備える。
前記画像復元部は、予測画像生成部(13)と差分画像生成部(14)と加算部(15)とフィルタ処理部(16)と第1バッファ(5)と第2バッファ(6)とを含む。
前記第1バッファは、前記予測画像生成部から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、上方向フィルタ前画素情報を保持する。
前記予測画像生成部は、前記ビットストリーム解析部から供給される前記画像データを構成する予測データと、前記第1バッファに保持される前記上方向フィルタ前画素情報と、前記フレームバッファに格納される復号済みの画素情報とに基づいて、予測画像を生成する。
前記差分画像生成部は、前記ビットストリーム解析部から供給される前記画像データを構成する残差データに基づいて、差分画像を生成する。
前記加算部は、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成する。
前記第2バッファは、前記フィルタ処理部から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、上方向フィルタ後画素情報を保持する。
前記フィルタ処理部は、前記加算部から供給される前記フィルタ前復号画像と、前記第2バッファに保持される前記上方向フィルタ後画素情報とに基づいて、復号画像を生成し、前記画像復元部から出力する。
これにより、項2の画像復元部を、好適に構成することができる。
〔4〕<画像復元部の入力部にバッファ+タイル毎のデータサイズ>
項1において、前記画像復号装置は、前記ビットストリーム解析部から出力される、前記符号化された画像データを一時的に格納して、前記画像復元部に供給する、画像データバッファ(3)をさらに備える。
前記ビットストリーム解析部は、前記ビットストリーム内に格納される通りの順序で、前記画像データを前記画像データバッファに出力し、前記ヘッダ情報に基づいて、タイル毎のデータサイズを算出して、前記画像復元部に出力する。
前記画像復元部は、前記タイル毎のデータサイズに基づいて、復号処理の対象である画像データが格納されるアドレスを算出し、前記画像データバッファから前記画像データを読み出して前記復号処理を施す。
これにより、画像復元部からの画像データの読み出し順序を項1記載の処理順序に適合させ、項2と項3の解析用データバッファ(2)に代えることができる。
〔5〕<項4の画像復元部の構成>
項4において、前記画像復号装置は、前記画像復元部から出力される復号画像を格納するフレームバッファ(7)をさらに備える。
前記画像復元部は、データ読み出し部(17)とバッファ位置情報格納部(18)と予測画像生成部(13)と差分画像生成部(14)と加算部(15)とフィルタ処理部(16)と第1バッファ(5)と第2バッファ(6)とを含む。
前記バッファ位置情報格納部は、前記タイル毎のデータサイズに基づいて、復号処理の対象である画像データが格納される前記アドレスを保持する。
前記データ読み出し部は、前記バッファ位置情報格納部に格納される前記アドレスに基づいて、前記画像データバッファから画像データを読み出し、読み出した前記画像データを構成する予測データを前記予測画像生成部に供給し、読み出した前記画像データを構成する残差データを前記差分画像生成部に供給する。
前記第1バッファは、前記予測画像生成部から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、上方向フィルタ前画素情報を保持する。
前記予測画像生成部は、前記データ読み出し部から供給される前記予測データと、前記第1バッファに保持される前記上方向フィルタ前画素情報と、前記フレームバッファに格納される復号済みの画素情報とに基づいて、予測画像を生成する。
前記差分画像生成部は、前記データ読み出し部から供給される前記残差データに基づいて、差分画像を生成する。
前記加算部は、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成する。
前記第2バッファは、前記フィルタ処理部から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、上方向フィルタ後画素情報を保持する。
前記フィルタ処理部は、前記加算部から供給される前記フィルタ前復号画像と、前記第2バッファに保持される前記上方向フィルタ後画素情報とに基づいて、復号画像を生成し、前記画像復元部から出力する。
これにより、項4の画像復元部を、好適に構成することができる。
〔6〕<画像復元部の入力部にタイル毎のバッファ>
項1において、前記画像復号装置は、前記ビットストリーム解析部から出力される、前記符号化された画像データを一時的に格納する、複数の画像データバッファ(4_1、4_2、4_3、…)をさらに備える。
前記複数の画像バッファは、前記復号処理対象の複数のタイルに対応付けられる。
前記ビットストリーム解析部は、前記画像データを対応する前記画像データバッファに出力する。
前記画像復元部は、復号処理の対象である画像データが格納される、前記画像データバッファから前記画像データを読み出して前記復号処理を施す。
これにより、画像復元部からの画像データの読み出し順序を、項1記載の処理順序に適合させることができる。
〔7〕<項6の画像復元部の構成>
項6において、前記画像復号装置は、前記画像復元部から出力される復号画像を格納するフレームバッファ(7)をさらに備える。
前記画像復元部は、データ読み出し部(17)とバッファ位置情報格納部(18)と予測画像生成部(13)と差分画像生成部(14)と加算部(15)とフィルタ処理部(16)と第1バッファ(5)と第2バッファ(6)とを含む。
前記バッファ位置情報格納部は、前記タイル毎に、既に読み出した画像データの量に基づいて、復号処理の対象である次の画像データが格納されるアドレスを保持する。
前記データ読み出し部は、復号処理対象の画像データの属するタイルに対応する前記画像データバッファから、前記バッファ位置情報格納部に格納される前記アドレスに基づいて、画像データを読み出し、読み出した前記画像データを構成する予測データを前記予測画像生成部に供給し、読み出した前記画像データを構成する残差データを前記差分画像生成部に供給する。
前記第1バッファは、前記予測画像生成部から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、上方向フィルタ前画素情報を保持する。
前記予測画像生成部は、前記データ読み出し部から供給される前記予測データと、前記第1バッファに保持される前記上方向フィルタ前画素情報と、前記フレームバッファに格納される復号済みの画素情報とに基づいて、予測画像を生成する。
前記差分画像生成部は、前記データ読み出し部から供給される前記残差データに基づいて、差分画像を生成する。
前記加算部は、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成する。
前記第2バッファは、前記フィルタ処理部から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、上方向フィルタ後画素情報を保持する。
前記フィルタ処理部は、前記加算部から供給される前記フィルタ前復号画像と、前記第2バッファに保持される前記上方向フィルタ後画素情報とに基づいて、復号画像を生成し、前記画像復元部から出力する。
これにより、項6の画像復元部を、好適に構成することができる。
〔8〕<画像復元部の入力部に固定長データを格納するバッファ>
項1において、前記画像復号装置は、前記ビットストリーム解析部から出力される、前記符号化された画像データを一時的に格納して、前記画像復元部に供給する、画像データバッファ(3)をさらに備える。
前記ビットストリーム解析部は、前記ビットストリーム内に格納される通りの順序で、前記画像データをタイル毎のデータサイズを所定の固定長データサイズに変換して、前記画像データバッファに出力する。
前記画像復元部は、前記所定の固定長データサイズに基づいて、復号処理の対象である画像データが格納されるアドレスを算出し、前記画像データバッファから前記アドレスにもとづいて前記画像データを読み出して前記復号処理を施す。
これにより、画像復元部からの画像データの読み出し順序を項1記載の処理順序に適合させ、項2と3の解析用データバッファ(2)に代えることができる。
〔9〕<項8の画像復元部の構成>
項8において、前記画像復号装置は、前記画像復元部から出力される復号画像を格納するフレームバッファ(7)をさらに備える。
前記画像復元部は、データ読み出し部(17)とバッファ位置情報算出部(19)と予測画像生成部(13)と差分画像生成部(14)と加算部(15)とフィルタ処理部(16)と第1バッファ(5)と第2バッファ(6)とを含む。
前記バッファ位置情報算出部は、前記所定の固定長データサイズに基づいて、復号処理の対象である画像データが格納されるアドレスを算出する。
前記データ読み出し部は、前記バッファ位置情報算出部で算出された前記アドレスに基づいて、前記画像データバッファから画像データを読み出し、読み出した前記画像データを構成する予測データを前記予測画像生成部に供給し、読み出した前記画像データを構成する残差データを前記差分画像生成部に供給する。
前記第1バッファは、前記予測画像生成部から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、上方向フィルタ前画素情報を保持する。
前記予測画像生成部は、前記データ読み出し部から供給される前記予測データと、前記第1バッファに保持される前記上方向フィルタ前画素情報と、前記フレームバッファに格納される復号済みの画素情報とに基づいて、予測画像を生成する。
前記差分画像生成部は、前記データ読み出し部から供給される前記残差データに基づいて、差分画像を生成する。
前記加算部は、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成する。
前記第2バッファは、前記フィルタ処理部から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、上方向フィルタ後画素情報を保持する。
前記フィルタ処理部は、前記加算部から供給される前記フィルタ前復号画像と、前記第2バッファに保持される前記上方向フィルタ後画素情報とに基づいて、復号画像を出力する。
これにより、項8の画像復元部を、好適に構成することができる。
〔10〕<タイル境界に関わらず画像全体をラスタスキャン順で復号+フィルタ>
符号化された画像データを含むビットストリームが入力され、前記符号化された画像データに対して復号処理を施し、前記復号処理の結果である復号データにフィルタ処理を施す、画像復号装置(10)であって、以下のように構成される。
前記符号化された画像データは、1フレームの原画像が矩形領域である複数のタイルに分割され、前記タイル毎に符号化された画像データであり、前記複数のタイルのそれぞれは、前記符号化の単位である符号化ブロック(CTB)を行列状に1個以上含む。
前記ビットストリームは、前記1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序で、タイル毎の前記符号化された画像データを含み、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、符号化ブロック毎の前記符号化された画像データを含む。
前記画像復号装置は、前記1フレーム内のタイル境界の有無に関わらず、前記1フレーム内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、復号処理と、左右で隣接するタイル間の境界がある場合のタイル境界部のフィルタ処理と、を順次実行する。
これにより、左右で隣接するタイル間のタイル境界部のフィルタ処理において、左のタイルの復号処理結果を、右のタイルのフィルタ処理が開始されるまで保持する、タイル境界フィルタ用バッファを不要とすることができる。
2.実施の形態の詳細
実施の形態について更に詳述する。
〔実施形態1〕<タイル境界に関わらず画像全体をラスタスキャン順で復号+フィルタ>
図1は、実施形態1に係る画像復号装置の構成を示すブロック図である。
画像復号装置10は、ビットストリーム解析部11と画像復元部12とを含んで構成される。ビットストリーム解析部11と画像復元部12とは、並列化されていないそれぞれ単一のハードウェアによる信号処理回路であり、特に制限されないが、例えば、クロックに同期して動作する、パイプライン構成のディジタル論理回路で構成される。また、特に制限されないが、例えば、公知のCMOS(Complementary Metal-Oxide-Semiconductor field effect transistor)LSI(Large Scale Integrated circuit)の製造技術を用いて、シリコンなどの単一半導体基板上に形成される。
ビットストリーム解析部11には、特に制限されないが、例えば、H.265/HEVCの規格に従う、ヘッダ情報と符号化された画像データを含む、ビットストリームが入力される。画像復元部12は、ビットストリーム解析部11から供給される符号化された画像データに対して復号処理を施し、復号処理の結果である復号データにフィルタ処理を施す。
図2は、1フレームの画像におけるタイルとCTBの配置を示す説明図であり、図3は、ビットストリームにおけるタイルとCTBの配置を示す説明図である。さらに図4は、ビットストリームにおけるタイルとCTBの配置を示す、より詳細な説明図である。上側にはビットストリーム内のタイルの配置、下側にはさらに、ビットストリーム内の各タイルにおけるCTBの配置が示される。
H.265/HEVCの規格に従えば、符号化された画像データは、1フレームの原画像が矩形領域である複数のタイルに分割され、タイル毎に符号化された画像データであり、複数のタイルのそれぞれは、符号化の単位である符号化ブロック(CTB)を行列状に1個以上含む。図2に示すように、1フレームの画像が、m列n行のタイルに分割されており、各タイルは複数のCTBで構成されている。X1〜Xmは各タイルが列方向に含むCTBの数を表し、Y1〜Ynは各タイルが行方向に含むCTBの数を表している。例えば左上端のタイルTile[1,1]は、X1列Y1行のCTBで構成されている。ここで、m、n、X1〜Xm、Y1〜Ynはそれぞれ1以上の整数である。列方向に1列のタイルのみで構成され縦方向のタイル境界がない場合、また、行方向に1行のタイルのみで構成され横方向のタイル境界がない場合、さらには、1フレームが1個のタイルのみで構成される場合が含まれる。
ビットストリームは、1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序で、タイル毎に符号化された画像データを含み、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、符号化ブロック毎の前記符号化された画像データを含む。ビットストリームを構成する符号化された画像データは、図3に示すように、複数のタイルはフレーム内をラスタスキャンする順序で構成されている。即ち、左上端のTile[1,1]から右方向に、Tile[2,1]、…を経て1フレームの右端のTile[m,1]まで進み、次に下の段の、Tile[1,2]からTile[m,2]に進む。各タイル内は、さらにラスタスキャンする順序で構成されている。より詳細には、図4に示すように、左上端のTile[1,1]の左上端のCTB1,1[1,1]から右方向にTile[1,1]の右端のCTB1,1[X1,1]まで進み、その後同じTile[1,1]の次の行のCTB1,1[1,2]から右方向に右端のCTB1,1[X1,2]へ進む。Tile[1,1]について下端のCTB1,1[1,Y1]〜CTB1,1[X1,Y1]が終わると、次に、右側のTile[2,1]に進む。Tile[2,1]内はラスタスキャンの順序で、CTB2,1[1,1]〜CTB2,1[X1,Y1]へ進む。以降順に右端のTile[m,1]まで進むと、その次は、下の行のTile[1,2]〜Tile[m,2]に進む。これを繰り返して1フレームの下端の行のTile[1,n]〜Tile[m,n]に進む。
CTB毎に符号化された画像データは可変長である。ビットストリームは、上記のように符号化された画像データを含み、さらにヘッダ情報を含む。ヘッダ情報は、各タイルのサイズ情報を含む。
図5は、実施形態1(他の実施形態も同様に妥当する)に係る画像復号装置におけるタイルとCTBの処理順序を示す説明図であり、図6は、実施形態1(他の実施形態も同様に妥当する)に係る画像復号装置におけるタイルとCTBの処理順序を示す、より詳細な説明図である。
画像復元部12は、1フレーム内にタイル境界があるかないかに関わらず、1フレーム内の左上の符号化ブロック(CTB)から順次右の符号化ブロック(CTB)を経て順次下の符号化ブロック(CTB)に至る順序で、復号処理と、左右で隣接するタイル間の境界がある場合のタイル境界部のフィルタ処理と、を順次実行する。
ビットストリームが、上述のように、タイル内ではそれぞれのタイルの範囲内でのラスタスキャンの順序で、符号化された画像データを含むのに対し、復号処理は、図5に示すように、タイル境界を無視して、1フレームの画面全体をラスタスキャンの順序で処理する。画像復元部12の処理は、符号化された画像データに対する復号処理と、その復号結果に対するフィルタ処理である。復号処理の結果は、外部のフレームバッファなどに転送されることなく、そのままフィルタ処理を施される。Tile[1,1]の1行目、Tile[2,1]の1行目から1フレームの右端のTile[m,1]の1行目までのCTBに対して、復号処理とフィルタ処理を行う。次に下の行のTile[1,1]の2行目、Tile[2,1]の2行目から1フレームの右端のTile[m,1]の2行目までの処理を行い、1行ずつ順次Tile[1,1] 、Tile[2,1]からTile[m,1]の各Y1行目までの処理を行う。その後、Tile[1,2]、Tile[2,2]〜Tile[m,2]のそれぞれの1行目からY2行目までの処理、Tile[1,3]、Tile[2,3]〜Tile[m,3]のそれぞれの1行目からY3行目までの処理を1行ずつ順次行う。その後さらに、1フレームの画面の最下段のタイルである、Tile[1,n]、Tile[2,n]〜Tile[m,n]のそれぞれの1行目からYn行目までの処理を1行ずつ順次行う。より詳細には、図6に示すように、左上端のTile[1,1]の左上端のCTB1,1[1,1]から右方向にTile[1,1]の右端のCTB1,1[X1,1]まで進み、その後右隣のTile[2,1]の左上端のCTB2,1[1,1]から右方向にTile[2,1]の右端のCTB1,1[X2,1]まで進む。Tile[1,1]の右端のCTB1,1[X1,1]と右隣のTile[2,1]の左上端のCTB2,1[1,1]とに対しては、連続して画像復元部12によって、符号化された画像データに対する復号処理と、その復号結果に対するフィルタ処理とが施される。その後さらに、1フレームの画面の1行目の処理を進めて、右上端のTile[m,1]の右端のCTB1,1[Xm,1]まで進んだ後、2行目の処理に移行する。2行目も同様に、Tile[1,1]の左端のCTB1,1[1,2]から右方向に右端のCTB1,1[X1,2]、Tile[2,1]の2行目のCTB2,1[1,2]〜CTB2,1[X2,2]、さらに右端のCTBm,1[Xm,2]まで進む。その後最上段のタイルの処理を順次1行ずつ進めた後、2段目の処理に移る。2段目以降タイルについても同様に、タイル境界の有無に関わりなく、CTBを1行ずつ順次処理する。2段目のタイルTile[1,2]、Tile[2,2]〜Tile[m,2]の、1行目CTB1,2[1,1]〜CTB1,2[X1,1]、CTB2,2[1,1]〜CTB2,2[X2,1]からCTBm,2[1,1]〜CTBm,2[Xm,1]まで進む。次に2行目CTB1,2[1,2]〜CTB1,2[X1,2]、CTB2,2[1,2]〜CTB2,2[X2,2]からCTBm,2[1,2]〜CTBm,2[Xm,2]まで進む。さらに順次1行毎に、Y2行目の最下行CTB1,2[1,Y2]〜CTB1,2[X1,Y2]、CTB2,2[1,Y2]〜CTB2,2[X2,Y2]からCTBm,2[1,Y2]〜CTBm,2[Xm,Y2]まで進む。その後さらに最下段のタイルTile[1,n]、Tile[2,n]〜Tile[m,n]の、1行目CTB1,n[1,1]〜CTB1,n[X1,1]、CTB2,n[1,1]〜CTB2,n[X2,1]、CTBm,n[1,1]〜CTBm,n[Xm,1]に進む。さらに次の2行目CTB1,n[1,2]〜CTB1,n[X1,2]、CTB2,n[1,2]〜CTB2,n[X2,2]、CTBm,n[1,2]〜CTBm,n[Xm,2]から、1行ずつ順次、最終行CTB1,n[1,Yn]〜CTB1,n[X1,Yn]、CTB2,n[1,Yn]〜CTB2,n[X2,Yn]、CTBm,n[1,Yn]〜CTBm,n[Xm,Yn]まで進む。
復号処理は、符号化ブロック単位で行われるが、フィルタ処理は、隣接する画素のデータを必要とする。タイル境界におけるフィルタ処理では、隣接するタイルでの復号処理の結果を必要とする。タイルが左右で隣接するときには、先に処理される左のタイルの右端の復号された画像データが、右側のタイルの左端の画素のためのフィルタ処理の際に使われる。タイルが上下で隣接するときには、先に処理される上側のタイルの下端の復号された画像データが、下側のタイルの上端の画素のためのフィルタ処理の際に使われる。左右または上下に隣接するタイルでのフィルタ処理に使われる復号された画像データは、タイルの端(右端または下端)の1画素分には限られず、フィルタのタップ数により、複数画素であってもよい。
復号処理を、ビットストリームの画像データの並びと同じ順序で進める、従来の方式では、左上端のタイルTile[1,1]の1行目から順次Y1行目までの復号処理を行い、その後、右側のTile[2,1]の復号処理に進む。フィルタ処理は、Tile[1,1]の1行目から順次Y1行目まで実行した後、右側のTile[2,1]におけるフィルタ処理に移る。Tile[1,1]の1行目から順次Y1行目までの右端の復号データは、右側のTile[2,1]におけるフィルタ処理が始まるまで、保持されなければならない。したがって、従来技術による画像復元部には、左右で隣接するタイル間のタイル境界部のフィルタ処理において、左のタイルの復号処理結果を、右のタイルのフィルタ処理が開始されるまで保持されることとなり、タイル境界フィルタ用バッファが必要となる。これを避けるためには、左のタイルの復号処理結果を例えば外付けのフレームバッファに一旦格納し、右のタイルのフィルタ処理が開始されたときに再度読み出す必要がある。いずれにしても、右のタイルのフィルタ処理が開始されるまで、何らかの方法で左のタイルの復号処理結果を保持しておく必要がある。
一方、本実施形態によれば、タイル境界の有無に関わらず、1行の復号処理とフィルタ処理を連続して処理するため、タイル境界においても、左のタイルの復号処理結果を、右のタイルのフィルタ処理に直接受け渡すことができるため、上記のようなタイル境界フィルタ用バッファを必要としない。なお、上下タイル境界におけるタイル境界フィルタ用バッファは、従来技術と本実施形態で、どちらも同様に必要である。また、本実施形態によれば、タイル境界の処理に必要なデータの転送量を減らすことができる。さらに、フィルタ処理を復号のパイプラインに組み込むことができるので、性能の向上を図ることができる。
〔実施形態2〕<ビットストリーム解析部+解析用データ>
図7は、実施形態2に係る画像復号装置10の構成例を示すブロック図である。
本実施形態2に係る画像復号装置10は、ビットストリーム解析部11と画像復元部12とを含み、さらに、ビットストリーム解析部11からアクセス可能な解析用データバッファ2と画像復元部12からアクセス可能なフレームバッファ7とを含んで構成される。フレームバッファ7は、外部メモリであってもよいし、画像復号装置10を構成するビットストリーム解析部11や画像復元部12と同一チップ上に構成されても良い。
ビットストリーム解析部11には、ヘッダ情報と符号化された画像データを含むビットストリームが入力される。ビットストリーム解析部11は、ビットストリーム内のヘッダ情報に基づいて、画像復元部12による復元処理の対象行の、ビットストリーム内の位置を算出して、解析用データバッファ2に保持する。ビットストリーム内の位置とは、各タイルの先頭に配置される符号化ブロックが格納される位置である。ビットストリーム解析部11は、解析用データバッファ2に保持される、復元処理対象の符号化ブロックが格納される位置に基づいて、対応する画像データをビットストリームから読み出して、画像復元部12に供給する。
これにより、前記タイル境界フィルタ用バッファを不要とすることができる。そのために、代わりに必要とされる、解析用データバッファの大きさは、前記タイル境界フィルタ用バッファの数分の1以下である。
タイル境界フィルタ用バッファの大きさは、1フレームの画面の縦幅即ち縦方向のライン数から算出される。例えば、1ライン当たり、画素情報16バイトとフィルタ情報2バイトが必要であるとすると、1000ラインで18,000バイトとなる。これに対し、解析用データは、横方向のタイル数(1フレームの画面の水平方向に分割されたタイルの数)×4バイトでよい。例えば、横方向に3分割されているとき、必要な解析用データは、12バイトとなる。解析用データバッファの大きさは、横方向のタイル数について想定される最大値を考慮して、決められる。1フレームの画面の横幅を2048画素とし、CTBを8画素×8画素で構成し、1CTBで1タイルを構成したと仮定しても、横方向のタイル数は256であり、必要な解析用データは、1024バイトとなる。上述の例による、タイル境界フィルタ用バッファの大きさ18,000バイトの約1/18である。以上のように、解析用データバッファの大きさは、タイル境界フィルタ用バッファの数分の1以下に抑えることができる。
図8は、図7の画像復号装置10において特に画像復元部12の詳細な構成例を示すブロック図である。
画像復元部12は、予測画像生成部13と差分画像生成部14と加算部15とフィルタ処理部16とバッファA(5)とバッファB(6)とを含んで構成される。バッファA(5)は、予測画像生成部13から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、フィルタ処理前の上方向画素情報を保持する。
H.265/HEVCの規格に従えば、ビットストリーム解析部11から供給される画像データは、予測データと残差データで構成される。予測画像生成部13は、ビットストリーム解析部11から供給される画像データを構成する予測データと、バッファA(5)に保持されるフィルタ処理前の上方向画素情報と、フレームバッファ7に格納される復号済みの画素情報とに基づいて、予測画像を生成する。差分画像生成部14は、ビットストリーム解析部11から供給される画像データを構成する残差データに基づいて、差分画像を生成する。加算部15は、予測画像と差分画像を加算して、フィルタ前復号画像を生成する。
バッファB(6)は、フィルタ処理部16から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、フィルタ処理後の上方向画素情報を保持する。フィルタ処理部16は、加算部15から供給されるフィルタ前復号画像と、バッファB(6)に保持されるフィルタ処理後の上方向画素情報とに基づいて、復号画像を生成し、画像復元部12からフレームバッファ7に出力する。
これにより、画像復元部12を、好適に構成することができる。フィルタ処理部15には、フィルタ処理後の上方向画素情報を格納するためのバッファB(6)が接続されるが、左方向画素情報を格納するためのバッファは不要である。加算部15から供給される復号画像が直接フィルタ処理部16に入力されるように構成されており、画像復元部12の処理は、1フレーム内にタイル境界があるかないかに関わらず、ラスタスキャンの順序で進められるので、左のタイルの復号画像が直後に処理される右側のタイルのフィルタ処理16に入力されるためである。また、パイプライン構成も、復号とフィルタ処理を一括して最適化することができるので、性能の向上を図ることができる。
〔実施形態3〕<画像復元部の入力部にバッファ+タイル毎のデータサイズ>
図9は、実施形態3に係る画像復号装置10の別の構成例を示すブロック図である。
本実施形態3に係る画像復号装置10は、ビットストリーム解析部11と画像復元部12とを含み、さらに、ビットストリーム解析部11から出力される符号化された画像データを一時的に格納する、画像データバッファ3と、画像復元部12らアクセス可能なフレームバッファ7とを含んで構成される。ビットストリーム解析部11には、ヘッダ情報と符号化された画像データを含むビットストリームが入力される。ビットストリーム解析部11は、ビットストリーム内に格納される通りの順序で、画像データを画像データバッファ3に出力し、ビットストリーム内のヘッダ情報に基づいて、タイル毎のデータサイズを算出して、画像復元部12に出力する。ビットストリーム内に格納される通りの順序とは、タイルをラスタスキャンの順序で、タイル内ではそれぞれのタイルの範囲内でのラスタスキャンの順序である。画像復元部12は、ビットストリーム解析部11から入力されるタイル毎のデータサイズに基づいて、復号処理の対象である画像データが格納される、画像データバッファ3におけるアドレスを算出し、画像データバッファ3からそのアドレスに基づいて画像データを読み出して復号処理を施す。
これにより、画像復元部12への画像データの読み出し順序を実施形態1に記載の処理順序に適合させ、実施形態2の解析用データバッファ2を不要とすることができる。また、ビットストリーム解析部11は、入力されたビットストリームを先頭から順に処理するので、一旦メモリ上に退避し、処理に際して再度読み出すようなデータ転送を不要とすることができる。
図10は、図9の画像復号装置10において特に画像復元部12の詳細な構成例を示すブロック図である。
画像復元部12は、データ読み出し部17とバッファ位置情報格納部18と予測画像生成部13と差分画像生成部14と加算部15とフィルタ処理部16とバッファA(5)とバッファB(6)とを含んで構成される。
バッファ位置情報格納部18は、ビットストリーム解析部11から入力されるタイル毎のデータサイズに基づいて、復号処理の対象である画像データが格納される、画像データバッファ3におけるアドレスを保持する。データ読み出し部17は、バッファ位置情報格納部18に格納される前記アドレスに基づいて、画像データバッファ3から画像データを読み出し、読み出した画像データを構成する予測データを予測画像生成部13に供給し、読み出した画像データを構成する残差データを差分画像生成部14に供給する。
バッファA(5)は、予測画像生成部13から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、フィルタ処理前の上方向画素情報を保持する。予測画像生成部13は、データ読み出し部17から供給される予測データと、バッファA(5)に保持されるフィルタ処理前の上方向画素情報と、フレームバッファ7に格納される復号済みの画素情報とに基づいて、予測画像を生成する。差分画像生成部12は、データ読み出し部17から供給される残差データに基づいて、差分画像を生成する。加算部15は、予測画像と差分画像を加算して、フィルタ前復号画像を生成する。
バッファB(6)は、フィルタ処理部16から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、フィルタ処理後の上方向画素情報を保持する。フィルタ処理部16は、加算部15から供給されるフィルタ前復号画像と、バッファB(6)に保持される、フィルタ処理後の上方向画素情報とに基づいて、復号画像を生成し、画像復元部12からフレームバッファ7に出力する。
これにより、実施形態2と同様に、画像復元部12を、好適に構成することができる。フィルタ処理部15には、フィルタ処理後の上方向画素情報を格納するためのバッファB(6)が接続されるが、左方向画素情報を格納するためのバッファは不要である。加算部15から供給される復号画像が直接フィルタ処理部16に入力されるように構成されており、画像復元部12の処理は、1フレーム内にタイル境界があるかないかに関わらず、ラスタスキャンの順序で進められるので、左のタイルの復号画像が直後に処理される右側のタイルのフィルタ処理16に入力されるためである。また、パイプライン構成も、復号とフィルタ処理を一括して最適化することができるので、性能の向上を図ることができる。
〔実施形態4〕<画像復元部の入力部にタイル毎のバッファ>
図11は、実施形態4に係る画像復号装置10の別の構成例を示すブロック図である。
本実施形態4に係る画像復号装置10は、ビットストリーム解析部11と画像復元部12とを含み、さらに、ビットストリーム解析部11から出力される、符号化された画像データを一時的に格納して、画像復元部12に供給する、複数の画像データバッファ(4_1、4_2、4_3、…)と、画像復元部12からアクセス可能なフレームバッファ7とを含んで構成される。複数の画像データバッファ(4_1、4_2、4_3、…)は、前記復号処理対象の複数のタイルにそれぞれ対応付けられている。ビットストリーム解析部11は、画像データを複数の画像データバッファ(4_1、4_2、4_3、…)のうち対応するいずれかに出力する。画像復元部12は、復号処理の対象である画像データが格納される、画像データバッファ(4_1、4_2、4_3、…のいずれか)から画像データを読み出して復号処理を施す。
これにより、画像復元部からの画像データの読み出し順序を実施形態1に記載の処理順序に適合させ、実施形態2の解析用データバッファ2を不要とすることができる。また、ビットストリーム解析部11は、入力されたビットストリームを先頭から順に処理するので、一旦メモリ上に退避し、処理に際して再度読み出すようなデータ転送を不要とすることができる。
図12は、図11の画像復号装置10において特に画像復元部12の詳細な構成例を示すブロック図である。
画像復元部12は、データ読み出し部17とバッファ位置情報格納部18と予測画像生成部13と差分画像生成部14と加算部15とフィルタ処理部16とバッファA(5)とバッファB(6)とを含んで構成される。
バッファ位置情報格納部18は、タイル毎に、画像データバッファ(4_1、4_2、4_3、…)から既に読み出した画像データの量に基づいて、復号処理の対象である次の画像データが格納されるアドレスを保持する。
データ読み出し部17は、復号処理対象の画像データの属するタイルに対応する画像データバッファ(4_1、4_2、4_3、…のいずれか)から、バッファ位置情報格納部18に格納されるアドレスに基づいて、画像データを読み出し、読み出した画像データを構成する予測データと残差データを、それぞれ予測画像生成部13と差分画像生成部14に供給する。
バッファA(5)は、予測画像生成部13から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、フィルタ処理前の上方向画素情報を保持する。
予測画像生成部13は、データ読み出し部17から供給される予測データと、バッファA(5)に保持されるフィルタ処理前の上方向画素情報と、フレームバッファ7に格納される復号済みの画素情報とに基づいて、予測画像を生成する。差分画像生成部14は、データ読み出し部17から供給される残差データに基づいて、差分画像を生成する。加算部15は、予測画像と差分画像を加算して、フィルタ前復号画像を生成する。
バッファB(6)は、フィルタ処理部16から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、フィルタ処理後の上方向画素情報を保持する。フィルタ処理部16は、加算部15から供給されるフィルタ前復号画像と、バッファB(6)に保持されるフィルタ処理後の上方向画素情報とに基づいて、復号画像を生成し、画像復元部12からフレームバッファ7に出力する。
これにより、実施形態2と同様に、画像復元部12を、好適に構成することができる。フィルタ処理部15には、フィルタ処理後の上方向画素情報を格納するためのバッファB(6)が接続されるが、左方向画素情報を格納するためのバッファは不要である。加算部15から供給される復号画像が直接フィルタ処理部16に入力されるように構成されており、画像復元部12の処理は、1フレーム内にタイル境界があるかないかに関わらず、ラスタスキャンの順序で進められるので、左のタイルの復号画像が直後に処理される右側のタイルのフィルタ処理16に入力されるためである。また、パイプライン構成も、復号とフィルタ処理を一括して最適化することができるので、性能の向上を図ることができる。
〔実施形態5〕<画像復元部の入力部に固定長データを格納するバッファ>
図13は、実施形態5に係る画像復号装置10の別の構成例を示すブロック図である。
本実施形態3に係る画像復号装置10は、ビットストリーム解析部11と画像復元部12とを含み、さらに、ビットストリーム解析部11から出力される、符号化された画像データを一時的に格納して、画像復元部12に供給する、画像データバッファ3と、画像復元部12らアクセス可能なフレームバッファ7とを含んで構成される。
ビットストリーム解析部11は、ビットストリーム内に格納される通りの順序で、画像データをタイル毎のデータサイズを所定の固定長データサイズに変換して、画像データバッファ3に出力する。画像復元部12は、前記所定の固定長データサイズに基づいて、復号処理の対象である画像データが格納されるアドレスを算出し、画像データバッファ3から画像データを読み出して復号処理を施す。
実施形態2では、ビットストリーム解析部11は、画像データをタイル毎のデータサイズをビットストリーム内に格納される通りの可変長のまま、画像データバッファ3に出力する。そのため、各タイルの各行の先頭にある画像データが格納されているアドレスを算出するためには、各タイルのサイズを知る必要がある。そのため、ビットストリーム解析部11は、ビットストリームのヘッダ情報からタイル毎のデータサイズを求め、画像復元部12に供給している。
一方、本実施形態5においては、画像データをタイル毎のデータサイズを所定の固定長データサイズに変換して、画像データバッファ3に出力する。このため、画像復元部12は、ビットストリームにおけるタイル毎のデータサイズを個別に知らなくても、上記所定の固定長データサイズに基づいて、各タイルの各行の先頭にある画像データが格納されているアドレスを算出することができる。
以上のように、ビットストリーム解析部11から画像復元部12に、タイル毎のデータサイズを供給することなく、画像復元部からの画像データの読み出し順序を実施形態1に記載の処理順序に適合させ、実施形態2の解析用データバッファ2を不要とすることができる。また、ビットストリーム解析部11は、入力されたビットストリームを先頭から順に処理するので、一旦メモリ上に退避し、処理に際して再度読み出すようなデータ転送を不要とすることができる。
図14は、図13の画像復号装置10において特に画像復元部12の詳細な構成例を示すブロック図である。
画像復元部12は、データ読み出し部17とバッファ位置情報算出部19と予測画像生成部13と差分画像生成部14と加算部15とフィルタ処理部16とバッファA(5)とバッファB(6)とを含んで構成される。
バッファ位置情報算出部19は、前記所定の固定長データサイズに基づいて、復号処理の対象である画像データが格納される、画像データバッファ3におけるアドレスを算出する。データ読み出し部17は、バッファ位置情報算出部19で算出されたアドレスに基づいて、画像データバッファ3から画像データを読み出し、読み出した画像データを構成する予測データを予測画像生成部13に供給し、読み出した画像データを構成する残差データを差分画像生成部14に供給する。
バッファA(5)は、予測画像生成部13から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、フィルタ処理前の上方向画素情報を保持する。予測画像生成部13は、データ読み出し部17から供給される予測データと、バッファA(5)に保持されるフィルタ処理前の上方向画素情報と、フレームバッファ7に格納される復号済みの画素情報とに基づいて、予測画像を生成する。差分画像生成部14は、データ読み出し部17から供給される残差データに基づいて、差分画像を生成する。加算部15は、予測画像と差分画像を加算して、フィルタ前復号画像を生成する。
バッファB(6)は、フィルタ処理部16から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、フィルタ処理後の上方向画素情報を保持する。フィルタ処理部16は、加算部15から供給されるフィルタ前復号画像と、バッファB(6)に保持されるフィルタ処理後の上方向画素情報とに基づいて、復号画像を生成し、画像復元部12からフレームバッファ7に出力する。
これにより、実施形態2と同様に、画像復元部12を、好適に構成することができる。フィルタ処理部15には、フィルタ処理後の上方向画素情報を格納するためのバッファB(6)が接続されるが、左方向画素情報を格納するためのバッファは不要である。加算部15から供給される復号画像が直接フィルタ処理部16に入力されるように構成されており、画像復元部12の処理は、1フレーム内にタイル境界があるかないかに関わらず、ラスタスキャンの順序で進められるので、左のタイルの復号画像が直後に処理される右側のタイルのフィルタ処理16に入力されるためである。また、パイプライン構成も、復号とフィルタ処理を一括して最適化することができるので、性能の向上を図ることができる。また、実施形態2で必要とされた、ビットストリーム解析部11から画像復元部12へのタイル毎のデータサイズの供給を不要とすることができる。
以上本発明者によってなされた発明を実施形態に基づいて具体的に説明したが、本発明はそれに限定されるものではなく、その要旨を逸脱しない範囲において種々変更可能であることは言うまでもない。
1 バッファ
2 ビットストリーム解析用データバッファ
3 画像データ(予測データ・残差データ)用バッファ
4 画像データ(予測データ・残差データ)用バッファ(タイル毎)
5 予測画像生成用バッファ(バッファA)
6 フィルタ処理用バッファ(バッファB)
7 フレームバッファ(外部メモリ)
10 画像復号装置
11 ビットストリーム解析部
12 画像復元部
13 予測画像生成部
14 差分画像生成部
15 加算部
16 フィルタ処理部
17 データ読み出し部
18 バッファ位置情報保持部
19 バッファ位置情報算出部

Claims (14)

  1. ヘッダ情報と符号化された画像データを含むビットストリームが入力されるビットストリーム解析部と、前記ビットストリーム解析部から供給される前記符号化された画像データに対して復号処理を施し、前記復号処理の結果である復号データにフィルタ処理を施す、画像復元部とを備える画像復号装置であって、
    前記符号化された画像データは、1フレームの原画像が矩形領域である複数のタイルに分割され、前記タイル毎に符号化された画像データであり、前記複数のタイルのそれぞれは、前記符号化の単位である符号化ブロックを行列状に1個以上含み、
    前記ビットストリームは、前記1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序で、タイル毎の前記符号化された画像データを含み、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、符号化ブロック毎の前記符号化された画像データを含み、
    前記ヘッダ情報は、前記各タイルのサイズ情報を含み、
    前記画像復元部は、前記1フレーム内のタイル境界の有無に関わらず、前記1フレーム内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、前記復号処理と、左右で隣接するタイル間の境界がある場合のタイル境界部の前記フィルタ処理と、を順次実行し、
    前記画像復号装置は、前記ビットストリーム解析部からアクセス可能な解析用データバッファをさらに備え、
    前記ビットストリーム解析部は、前記ヘッダ情報に基づいて、前記画像復元部による復元処理の対象行の、各タイルの先頭に配置される符号化ブロックが格納される、前記ビットストリーム内の位置を算出して、前記解析用データバッファに保持し、
    前記ビットストリーム解析部は、前記解析用データバッファに保持される、前記画像復元部による復元処理の対象行の、各タイルの先頭に配置される符号化ブロックが格納される、前記ビットストリーム内の前記位置に基づいて、対応する画像データを前記ビットストリームから読み出して、前記画像復元部に供給する、画像復号装置。
  2. 請求項1において、前記画像復号装置は、前記画像復元部から出力される復号画像を格納するフレームバッファをさらに備え、
    前記画像復元部は、予測画像生成部と差分画像生成部と加算部とフィルタ処理部と第1バッファと第2バッファとを含み、
    前記第1バッファは、前記予測画像生成部から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、上方向フィルタ前画素情報を保持し、
    前記予測画像生成部は、前記ビットストリーム解析部から供給される前記画像データを構成する予測データと、前記第1バッファに保持される前記上方向フィルタ前画素情報と、前記フレームバッファに格納される復号済みの画素情報とに基づいて、予測画像を生成し、
    前記差分画像生成部は、前記ビットストリーム解析部から供給される前記画像データを構成する残差データに基づいて、差分画像を生成し、
    前記加算部は、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成し、
    前記第2バッファは、前記フィルタ処理部から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、上方向フィルタ後画素情報を保持し、
    前記フィルタ処理部は、前記加算部から供給される前記フィルタ前復号画像と、前記第2バッファに保持される前記上方向フィルタ後画素情報とに基づいて、復号画像を生成し、前記画像復元部から出力する、画像復号装置。
  3. ヘッダ情報と符号化された画像データを含むビットストリームが入力されるビットストリーム解析部と、前記ビットストリーム解析部から供給される前記符号化された画像データに対して復号処理を施し、前記復号処理の結果である復号データにフィルタ処理を施す、画像復元部とを備える画像復号装置であって、
    前記符号化された画像データは、1フレームの原画像が矩形領域である複数のタイルに分割され、前記タイル毎に符号化された画像データであり、前記複数のタイルのそれぞれは、前記符号化の単位である符号化ブロックを行列状に1個以上含み、
    前記ビットストリームは、前記1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序で、タイル毎の前記符号化された画像データを含み、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、符号化ブロック毎の前記符号化された画像データを含み、
    前記ヘッダ情報は、前記各タイルのサイズ情報を含み、
    前記画像復元部は、前記1フレーム内のタイル境界の有無に関わらず、前記1フレーム内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、前記復号処理と、左右で隣接するタイル間の境界がある場合のタイル境界部の前記フィルタ処理と、を順次実行し、
    前記画像復号装置は、前記ビットストリーム解析部から出力される、前記符号化された画像データを一時的に格納して、前記画像復元部に供給する、画像データバッファをさらに備え、
    前記ビットストリーム解析部は、前記ビットストリーム内に格納される通りの順序で、前記画像データを前記画像データバッファに出力し、前記ヘッダ情報に基づいて、タイル毎のデータサイズを算出して、前記画像復元部に出力し、
    前記画像復元部は、前記タイル毎のデータサイズに基づいて、復号処理の対象である画像データが格納されるアドレスを算出し、前記画像データバッファから前記画像データを読み出して前記復号処理を施す、画像復号装置。
  4. 請求項3において、前記画像復号装置は、前記画像復元部から出力される復号画像を格納するフレームバッファをさらに備え、
    前記画像復元部は、データ読み出し部とバッファ位置情報格納部と予測画像生成部と差分画像生成部と加算部とフィルタ処理部と第1バッファと第2バッファとを含み、
    前記バッファ位置情報格納部は、前記タイル毎のデータサイズに基づいて、復号処理の対象である画像データが格納される前記アドレスを保持し、
    前記データ読み出し部は、前記バッファ位置情報格納部に格納される前記アドレスに基づいて、前記画像データバッファから画像データを読み出し、読み出した前記画像データを構成する予測データを前記予測画像生成部に供給し、読み出した前記画像データを構成する残差データを前記差分画像生成部に供給し、
    前記第1バッファは、前記予測画像生成部から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、上方向フィルタ前画素情報を保持し、
    前記予測画像生成部は、前記データ読み出し部から供給される前記予測データと、前記第1バッファに保持される前記上方向フィルタ前画素情報と、前記フレームバッファに格納される復号済みの画素情報とに基づいて、予測画像を生成し、
    前記差分画像生成部は、前記データ読み出し部から供給される前記残差データに基づいて、差分画像を生成し、
    前記加算部は、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成し、
    前記第2バッファは、前記フィルタ処理部から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、上方向フィルタ後画素情報を保持し、
    前記フィルタ処理部は、前記加算部から供給される前記フィルタ前復号画像と、前記第2バッファに保持される前記上方向フィルタ後画素情報とに基づいて、復号画像を生成し、前記画像復元部から出力する、画像復号装置。
  5. ヘッダ情報と符号化された画像データを含むビットストリームが入力されるビットストリーム解析部と、前記ビットストリーム解析部から供給される前記符号化された画像データに対して復号処理を施し、前記復号処理の結果である復号データにフィルタ処理を施す、画像復元部とを備える画像復号装置であって、
    前記符号化された画像データは、1フレームの原画像が矩形領域である複数のタイルに分割され、前記タイル毎に符号化された画像データであり、前記複数のタイルのそれぞれは、前記符号化の単位である符号化ブロックを行列状に1個以上含み、
    前記ビットストリームは、前記1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序で、タイル毎の前記符号化された画像データを含み、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、符号化ブロック毎の前記符号化された画像データを含み、
    前記ヘッダ情報は、前記各タイルのサイズ情報を含み、
    前記画像復元部は、前記1フレーム内のタイル境界の有無に関わらず、前記1フレーム内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、前記復号処理と、左右で隣接するタイル間の境界がある場合のタイル境界部の前記フィルタ処理と、を順次実行し、
    前記画像復号装置は、前記ビットストリーム解析部から出力される、前記符号化された画像データを一時的に格納して、前記画像復元部に供給する、複数の画像データバッファをさらに備え、
    前記複数の画像データバッファは、前記復号処理対象の複数のタイルに対応付けられ、
    前記ビットストリーム解析部は、前記画像データを対応する前記画像データバッファに出力し、
    前記画像復元部は、復号処理の対象である画像データが格納される、前記画像データバッファから前記画像データを読み出して前記復号処理を施す、画像復号装置。
  6. 請求項5において、前記画像復号装置は、前記画像復元部から出力される復号画像を格納するフレームバッファをさらに備え、
    前記画像復元部は、データ読み出し部とバッファ位置情報格納部と予測画像生成部と差分画像生成部と加算部とフィルタ処理部と第1バッファと第2バッファとを含み、
    前記バッファ位置情報格納部は、前記タイル毎に、既に読み出した画像データの量に基づいて、復号処理の対象である次の画像データが格納されるアドレスを保持し、
    前記データ読み出し部は、復号処理対象の画像データの属するタイルに対応する前記画像データバッファから、前記バッファ位置情報格納部に格納される前記アドレスに基づいて、画像データを読み出し、読み出した前記画像データを構成する予測データを前記予測画像生成部に供給し、読み出した前記画像データを構成する残差データを前記差分画像生成部に供給し、
    前記第1バッファは、前記予測画像生成部から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、上方向フィルタ前画素情報を保持し、
    前記予測画像生成部は、前記データ読み出し部から供給される前記予測データと、前記第1バッファに保持される前記上方向フィルタ前画素情報と、前記フレームバッファに格納される復号済みの画素情報とに基づいて、予測画像を生成し、
    前記差分画像生成部は、前記データ読み出し部から供給される前記残差データに基づいて、差分画像を生成し、
    前記加算部は、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成し、
    前記第2バッファは、前記フィルタ処理部から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、上方向フィルタ後画素情報を保持し、
    前記フィルタ処理部は、前記加算部から供給される前記フィルタ前復号画像と、前記第2バッファに保持される前記上方向フィルタ後画素情報とに基づいて、復号画像を生成し、前記画像復元部から出力する、画像復号装置。
  7. ヘッダ情報と符号化された画像データを含むビットストリームが入力されるビットストリーム解析部と、前記ビットストリーム解析部から供給される前記符号化された画像データに対して復号処理を施し、前記復号処理の結果である復号データにフィルタ処理を施す、画像復元部とを備える画像復号装置であって、
    前記符号化された画像データは、1フレームの原画像が矩形領域である複数のタイルに分割され、前記タイル毎に符号化された画像データであり、前記複数のタイルのそれぞれは、前記符号化の単位である符号化ブロックを行列状に1個以上含み、
    前記ビットストリームは、前記1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序で、タイル毎の前記符号化された画像データを含み、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、符号化ブロック毎の前記符号化された画像データを含み、
    前記ヘッダ情報は、前記各タイルのサイズ情報を含み、
    前記画像復元部は、前記1フレーム内のタイル境界の有無に関わらず、前記1フレーム内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、前記復号処理と、左右で隣接するタイル間の境界がある場合のタイル境界部の前記フィルタ処理と、を順次実行し、
    前記画像復号装置は、前記ビットストリーム解析部から出力される、前記符号化された画像データを一時的に格納して、前記画像復元部に供給する、画像データバッファをさらに備え、
    前記ビットストリーム解析部は、前記ビットストリーム内に格納される通りの順序で、前記画像データをタイル毎のデータサイズを所定の固定長データサイズに変換して、前記画像データバッファに出力し、
    前記画像復元部は、前記所定の固定長データサイズに基づいて、復号処理の対象である画像データが格納されるアドレスを算出し、前記画像データバッファから前記アドレスに基づいて前記画像データを読み出して前記復号処理を施す、画像復号装置。
  8. 請求項7において、前記画像復号装置は、前記画像復元部から出力される復号画像を格納するフレームバッファをさらに備え、
    前記画像復元部は、データ読み出し部とバッファ位置情報算出部と予測画像生成部と差分画像生成部と加算部とフィルタ処理部と第1バッファと第2バッファとを含み、
    前記バッファ位置情報算出部は、前記所定の固定長データサイズに基づいて、復号処理の対象である画像データが格納されるアドレスを算出し、
    前記データ読み出し部は、前記バッファ位置情報算出部で算出された前記アドレスに基づいて、前記画像データバッファから画像データを読み出し、読み出した前記画像データを構成する予測データを前記予測画像生成部に供給し、読み出した前記画像データを構成する残差データを前記差分画像生成部に供給し、
    前記第1バッファは、前記予測画像生成部から出力される予測画像情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要な、上方向フィルタ前画素情報を保持し、
    前記予測画像生成部は、前記データ読み出し部から供給される前記予測データと、前記第1バッファに保持される前記上方向フィルタ前画素情報と、前記フレームバッファに格納される復号済みの画素情報とに基づいて、予測画像を生成し、
    前記差分画像生成部は、前記データ読み出し部から供給される前記残差データに基づいて、差分画像を生成し、
    前記加算部は、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成し、
    前記第2バッファは、前記フィルタ処理部から出力される復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要な、上方向フィルタ後画素情報を保持し、
    前記フィルタ処理部は、前記加算部から供給される前記フィルタ前復号画像と、前記第2バッファに保持される前記上方向フィルタ後画素情報とに基づいて、復号画像を出力する、画像復号装置。
  9. 1フレームの原画像が矩形領域である複数のタイルに分割され、前記複数のタイルのそれぞれが符号化の単位である符号化ブロックを行列状に1個以上含む符号化された画像データに対して復号処理を実行し、前記復号処理の結果である復号データにフィルタ処理を実行する画像復号装置であって、
    前記1フレーム内の各タイルのサイズ情報と、前記1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序でタイル毎に符号化され、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で符号化ブロック毎に符号化された画像データと、を含むビットストリームを入力するビットストリーム解析部と、
    前記ビットストリーム解析部に接続され、前記ビットストリームに格納された通りの順序で前記符号化された画像データを保持する画像データバッファと、
    前記ビットストリーム解析部及び前記画像データバッファに接続され、前記1フレーム内のタイル境界の有無に関わらず、前記1フレーム内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、前記各タイルのサイズ情報から算出したアドレスに基づいて前記画像データバッファから復号処理の対象である符号化された画像データを読み出して、前記復号処理を実行し、左右で隣接するタイル間の境界がある場合の復号された画像データに対して前記フィルタ処理を実行する画像復元部と、を備え、
    前記画像復元部は、1行の符号化ブロックに対する前記復号処理と前記フィルタ処理を連続して実行し、前記左右で隣接するタイル間の境界がある場合の左のタイルの前記復号処理の結果を直後に処理される右のタイルの前記フィルタ処理に使用する、画像復号装置。
  10. 請求項9において、前記画像復元部は、
    前記アドレスを保持するバッファ位置情報格納部と、
    前記画像データバッファ及び前記バッファ位置情報格納部に接続され、前記アドレスに基づいて前記画像データバッファから前記復号処理の対象である符号化された画像データを読み出して、前記読み出した画像データに含まれる予測データ及び残差データを出力するデータ読み出し部と、
    上方向フィルタ前画素情報を保持する第1のバッファと、
    前記データ読み出し部及び前記第1のバッファに接続され、前記予測データ及び前記上方向フィルタ前画素情報に基づいて予測画像を生成する予測画像生成部と、
    前記データ読み出し部に接続され、前記残差データに基づいて差分画像を生成する差分画像生成部と、
    前記予測画像生成部及び前記差分画像生成部に接続され、前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成する加算部と、
    上方向フィルタ後画素情報を保持する第2のバッファと、
    前記加算部及び前記第2のバッファに接続され、前記フィルタ前復号画像と前記上方向フィルタ後画素情報に基づいて、復号画像を生成するフィルタ処理部と、
    を備え、
    前記上方向フィルタ前画素情報は、前記予測画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要とされるものであり、
    前記上方向フィルタ後画素情報は、前記復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要とされるものである、画像復号装置。
  11. 請求項10において、前記画像復号装置は、前記画像復元部に接続され、前記復号画像を格納するフレームバッファをさらに備え、
    前記予測画像生成部は、前記予測データ、前記上方向フィルタ前画素情報、及び、前記フレームバッファに格納される前記復号画像の画素情報に基づいて前記予測画像を生成する、画像復号装置。
  12. 1フレームの原画像が矩形領域である複数のタイルに分割され、前記複数のタイルのそれぞれが符号化の単位である符号化ブロックを行列状に1個以上含む符号化された画像データに対して復号処理を実行し、前記復号処理の結果である復号データにフィルタ処理を実行する画像復号装置の復号処理方法であって、
    前記1フレーム内の各タイルのサイズ情報と、前記1フレーム内の左上のタイルから順次右のタイルを経て順次下のタイルに至る順序でタイル毎に符号化され、それぞれのタイル内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で符号化ブロック毎に符号化された画像データと、を含むビットストリームを入力し、
    前記ビットストリームに格納された通りの順序で前記符号化された画像データを画像データバッファに保持し、
    前記各タイルのサイズ情報に基づいて、前記画像データバッファから復号処理の対象である符号化された画像データを読み出すためのアドレスを算出し、
    前記1フレーム内のタイル境界の有無に関わらず、前記1フレーム内の左上の符号化ブロックから順次右の符号化ブロックを経て順次下の符号化ブロックに至る順序で、前記アドレスに基づいて前記画像データバッファから前記復号処理の対象である符号化された画像データを読み出し、
    前記読み出した画像データに対して前記復号処理を実行し、
    左右で隣接するタイル間の境界がある場合の復号された画像データに対して前記フィルタ処理を実行し、
    1行の符号化ブロックに対する前記復号処理と前記フィルタ処理は、連続して実行され、
    前記左右で隣接するタイル間の境界がある場合の左のタイルの前記復号処理の結果は、直後に処理される右のタイルの前記フィルタ処理に使用される、画像復号装置の復号処理方法。
  13. 請求項12において、前記復号処理を実行するステップは、
    前記画像データバッファから読み出した前記復号処理の対象である符号化された画像データに含まれる予測データ及び上方向フィルタ前画素情報に基づいて予測画像を生成し、
    前記画像データバッファから読み出した前記復号処理の対象である符号化された画像データに含まれる残差データに基づいて差分画像を生成し、
    前記予測画像と前記差分画像を加算して、フィルタ前復号画像を生成する、
    ステップを含み、
    前記フィルタ処理を実行するステップは、前記フィルタ前復号画像と上方向フィルタ後画素情報に基づいて、復号画像を生成する、ステップを含み、
    前記上方向フィルタ前画素情報は、前記予測画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対する予測画像生成処理に必要とされるものであり、
    前記上方向フィルタ後画素情報は、前記復号画像の画素情報のうち、処理対象の符号化ブロックの下側に隣接する符号化ブロックに対するフィルタ処理に必要とされるものである、画像復号装置の復号処理方法。
  14. 請求項13において、画像復号装置の復号処理方法は、前記復号画像をフレームバッファに格納する、ステップをさらに有し、
    前記予測画像を生成するステップは、前記予測データ、前記上方向フィルタ前画素情報、及び、前記フレームバッファに格納される前記復号画像の画素情報に基づいて前記予測画像を生成する、ステップを含む、画像復号装置の復号処理方法。
JP2013135755A 2013-06-28 2013-06-28 画像復号装置及び画像復号装置の復号処理方法 Active JP6208993B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013135755A JP6208993B2 (ja) 2013-06-28 2013-06-28 画像復号装置及び画像復号装置の復号処理方法
EP14171167.1A EP2819415B1 (en) 2013-06-28 2014-06-04 Image decoding apparatus
US14/304,943 US9800874B2 (en) 2013-06-28 2014-06-15 Image decoding apparatus executing successive tile decoding and filtering around tile boundary
CN201410302932.1A CN104253992B (zh) 2013-06-28 2014-06-27 图像解码装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013135755A JP6208993B2 (ja) 2013-06-28 2013-06-28 画像復号装置及び画像復号装置の復号処理方法

Publications (2)

Publication Number Publication Date
JP2015012410A JP2015012410A (ja) 2015-01-19
JP6208993B2 true JP6208993B2 (ja) 2017-10-04

Family

ID=50884750

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013135755A Active JP6208993B2 (ja) 2013-06-28 2013-06-28 画像復号装置及び画像復号装置の復号処理方法

Country Status (4)

Country Link
US (1) US9800874B2 (ja)
EP (1) EP2819415B1 (ja)
JP (1) JP6208993B2 (ja)
CN (1) CN104253992B (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104980788B (zh) * 2015-02-11 2018-08-07 腾讯科技(深圳)有限公司 视频解码方法及装置
US10600753B2 (en) * 2015-08-28 2020-03-24 Texas Instruments Incorporated Flip chip backside mechanical die grounding techniques
JP2017050766A (ja) * 2015-09-03 2017-03-09 Nttエレクトロニクス株式会社 映像処理装置及び映像処理方法
TWI762260B (zh) 2016-02-09 2022-04-21 弗勞恩霍夫爾協會 用於圖像/視訊資料串流而允許有效可縮減性或有效隨機存取之技術
KR101895294B1 (ko) 2017-03-03 2018-09-05 주식회사 칩스앤미디어 프리 스캔을 이용한 블록 기반 동영상 복호화 방법 및 그 장치
US20180278948A1 (en) * 2017-03-23 2018-09-27 Qualcomm Incorporated Tile-based processing for video coding
US10672098B1 (en) * 2018-04-05 2020-06-02 Xilinx, Inc. Synchronizing access to buffered data in a shared buffer
US20240205434A1 (en) * 2022-12-15 2024-06-20 Qualcomm Incorporated Enhanced video decoder using tile-to-raster reordering

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5208875A (en) * 1989-03-07 1993-05-04 Sony Corporation Digital picture signal processing apparatus
JP2001061066A (ja) 1999-08-19 2001-03-06 Sony Corp 画像符号化器および画像復号化器ならびにその方法
JP4293740B2 (ja) 2001-05-29 2009-07-08 株式会社リコー 画像圧縮装置
EP1631057A4 (en) * 2003-05-27 2007-01-17 Nikon Corp IMAGE PROCESSING DEVICE AND PICTURE PROCESSING PROGRAM
JP2004032799A (ja) 2003-07-28 2004-01-29 Ricoh Co Ltd 動画像処理装置および動画像処理方法
CN101080008B (zh) * 2007-05-24 2010-04-14 北京交通大学 一种基于迭代函数***的多描述编码及解码方法
JP2011217082A (ja) * 2010-03-31 2011-10-27 Jvc Kenwood Corp 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法及び画像復号プログラム
US9300976B2 (en) * 2011-01-14 2016-03-29 Cisco Technology, Inc. Video encoder/decoder, method and computer program product that process tiles of video data
US8990435B2 (en) * 2011-01-17 2015-03-24 Mediatek Inc. Method and apparatus for accessing data of multi-tile encoded picture stored in buffering apparatus
US9325999B2 (en) * 2011-03-10 2016-04-26 Sharp Kabushiki Kaisha Video decoder for slices
JP2013012887A (ja) 2011-06-29 2013-01-17 Canon Inc 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP2013038758A (ja) 2011-07-13 2013-02-21 Canon Inc 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム
JP5760953B2 (ja) * 2011-10-31 2015-08-12 富士通株式会社 動画像復号装置、動画像符号化装置、動画像復号方法、及び動画像符号化方法
CN104025594A (zh) * 2011-11-08 2014-09-03 瑞典爱立信有限公司 视频编码中的瓦片大小
US9270994B2 (en) * 2012-06-29 2016-02-23 Cisco Technology, Inc. Video encoder/decoder, method and computer program product that process tiles of video data
US9438911B2 (en) * 2012-08-03 2016-09-06 Mediatek Inc. Video processing system with shared/configurable in-loop filter data buffer architecture and related video processing method thereof
US9930353B2 (en) 2013-03-29 2018-03-27 Sony Corporation Image decoding device and method

Also Published As

Publication number Publication date
CN104253992B (zh) 2018-10-26
US9800874B2 (en) 2017-10-24
EP2819415A1 (en) 2014-12-31
EP2819415B1 (en) 2017-08-30
CN104253992A (zh) 2014-12-31
US20150003513A1 (en) 2015-01-01
JP2015012410A (ja) 2015-01-19

Similar Documents

Publication Publication Date Title
JP6208993B2 (ja) 画像復号装置及び画像復号装置の復号処理方法
JP2006197521A (ja) 画像復号装置及び方法
JP2009290498A (ja) 画像符号化装置及び画像符号化方法
JP2010098352A (ja) 画像情報符号化装置
US20180131936A1 (en) Conversion buffer to decouple normative and implementation data path interleaving of video coefficients
JP2015050584A (ja) 画像符号化装置及びその制御方法
JP2009081726A (ja) エントロピー符号化装置、エントロピー符号化方法およびコンピュータプログラム
TWI832449B (zh) 視訊編解碼方法及裝置
TW202101998A (zh) 圖像編碼裝置、圖像解碼裝置、圖像編碼方法、圖像解碼方法
JP6187826B2 (ja) 動画像符号化装置及び動画像符号化方法
JP2014078891A (ja) 画像処理装置、画像処理方法
KR101811774B1 (ko) 그래픽 처리 장치 및 방법
KR102668065B1 (ko) 화상 부호화 장치, 화상 복호 장치, 화상 부호화 방법, 화상 복호 방법, 컴퓨터 프로그램을 저장한 비일시적 컴퓨터-판독가능 저장 매체
TWI795635B (zh) 圖像解碼裝置、圖像解碼方法及程式
JP2006340211A (ja) 動き補償予測装置
JP6221820B2 (ja) 符号化装置、符号化方法および符号化プログラム
US9426434B1 (en) Two-dimensional transformation with minimum buffering
JP4109151B2 (ja) 画像処理装置
JP2011109364A (ja) 画像処理装置
JP2007013864A (ja) 動画像符号化装置、動画像符号化方法、および動画像符号化用プログラム
JP2006165699A (ja) 画像符号化装置および画像符号化方法
JP2007036468A (ja) 動画像符号化装置
TW202002635A (zh) 影像編碼裝置、影像解碼裝置、其等之控制方法及程式
JP6308409B2 (ja) 動画像符号化装置及び動画像符号化方法
JP7451131B2 (ja) 画像符号化装置、画像符号化方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161215

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170209

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170330

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20170511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170815

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170908

R150 Certificate of patent or registration of utility model

Ref document number: 6208993

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150