JP4174728B2 - 情報処理装置および情報処理方法、記録媒体、並びに、プログラム - Google Patents

情報処理装置および情報処理方法、記録媒体、並びに、プログラム Download PDF

Info

Publication number
JP4174728B2
JP4174728B2 JP2004245375A JP2004245375A JP4174728B2 JP 4174728 B2 JP4174728 B2 JP 4174728B2 JP 2004245375 A JP2004245375 A JP 2004245375A JP 2004245375 A JP2004245375 A JP 2004245375A JP 4174728 B2 JP4174728 B2 JP 4174728B2
Authority
JP
Japan
Prior art keywords
picture
encoded stream
encoding
encoded
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004245375A
Other languages
English (en)
Other versions
JP2006067096A (ja
Inventor
孝明 渕江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004245375A priority Critical patent/JP4174728B2/ja
Priority to US11/207,826 priority patent/US7558465B2/en
Publication of JP2006067096A publication Critical patent/JP2006067096A/ja
Application granted granted Critical
Publication of JP4174728B2 publication Critical patent/JP4174728B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142Detection of scene cut or scene change
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Television Signal Processing For Recording (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、情報処理装置および情報処理方法、記録媒体、並びに、プログラムに関し特に、双方向のフレーム間予測を用いて圧縮した映像データを編集する場合に用いて好適な、情報処理装置および情報処理方法、記録媒体、並びに、プログラムに関する。
MPEG(Moving Picture Coding Experts Group/Moving Picture Experts Group)ストリームを編集するために、従来、編集点(スプライス点)近傍のピクチャを一旦デコードし、非圧縮の画像信号を編集点でつなぎあわせた後、再エンコードする技術が用いられている(例えば、特許文献1)。
国際公開番号WO99/05864号公報
MPEGにおいて、Iピクチャ(I-Picture)、Pピクチャ(P-Picture)、および、Bピクチャ(B-Picture)から構成される、双方向のフレーム間予測を用いた圧縮符号化方式は、Long GOP(Group of Picture)方式の圧縮と呼ばれる。
Iピクチャとは、フレーム内(Intra)符号化画像のことであり、他の画面とは独立に符号化されるピクチャであり、この情報のみで画像を復号することができるものである。Pピクチャとは、フレーム間(inter)順方向予測符号化画像のことであり、時間的に前(順方向)のフレームからの差分によって表現される前方向予測符号化ピクチャである。Bピクチャとは、双方向予測符号化画像のことであり、時間的に前(順方向)、または後(逆方向)、または前後(双方向)のピクチャを利用して動き補償フレーム間予測により符号化されるピクチャである。
PピクチャやBピクチャは、データ量がIピクチャに比べて小さいため、GOPを長くすれば(すなわち、Long GOPを構成するピクチャ数を増加させれば)、映像の圧縮率を高くすることができるので、デジタル放送やDVD(Digital Versatile Disk)ビデオでの利用に適している。しかしながら、GOPが長すぎると、フレーム精度での編集コントロールが困難となり、特に、業務用用途での編集では、運用上の問題が発生する。
従来、広く用いられているエンコーダのブロック図を図1に示す。
エンコーダ1の画像並べ替え部11は、順次入力される画像データの各フレーム画像を、必要に応じて、並べ替えたり、画像データの各フレーム画像を、16画素×16ラインの輝度信号、および輝度信号に対応する色差信号によって構成されるマクロブロックに分割したマクロブロックデータを生成して、演算部13、および、動き検出部12に供給する。
動き検出部12は、マクロブロックデータの入力を受け、各マクロブロックの動きベクトルを算出し、動きベクトルデータとして、動き補償部20に送出する。
演算部13は、画像並べ替え部11から供給されたマクロブロックデータについて、各マクロブロックの画像タイプに基づいた動き補償を行う。具体的には、演算部13は、Iピクチャに対してはイントラモードで動き補償を行い、Pピクチャに対しては、順方向予測モードで動き補償を行い、Bピクチャに対しては、双方向予測モードで動き補償を行うようになされている。
ここでイントラモードとは、符号化対象となるフレーム画像をそのまま伝送データとする方法であり、順方向予測モードとは、符号化対象となるフレーム画像と過去参照画像との予測残差を伝送データとする方法であり、双方向予測モードとは、符号化対象となるフレーム画像と、過去と将来の参照画像との予測残差を伝送データとする方法である。
まず、マクロブロックデータがIピクチャであった場合、マクロブロックデータはイントラモードで処理される。すなわち、演算部13は、入力されたマクロブロックデータのマクロブロックを、そのまま演算データとしてDCT(Discrete Cosine Transform :離散コサイン変換)部14に送出する。DCT部14は、入力された演算データに対しDCT変換処理を行うことによりDCT係数化し、これをDCT係数データとして、量子化部15に送出する。
量子化部15は、入力されたDCT係数データに対して量子化処理を行い、量子化DCT係数データとしてVLC(Variable Length Code;可変長符号化)部16および逆量子化部17に送出する。
逆量子化部17に送出された量子化DCT係数データは、量子化部15と同じ量子化ステップサイズによる逆量子化処理を受け、DCT係数データとして、逆DCT部18に送出される。逆DCT部18は、供給されたDCT係数データに逆DCT処理を施し、演算部19に送出する。
そして、演算部13は、マクロブロックデータがPピクチャであった場合、マクロブロックデータについて、順方向予測モードよる動き補償処理を行い、Bピクチャであった場合、マクロブロックデータについて、双方向予測モードによる動き補償処理を行う。
順方向予測モードにおいて、動き補償部20は、動き検出部12から供給される動きベクトルデータに応じて動き補償し、順方向予測画像データ、または、双方向予測画像データを算出する。演算部13は、マクロブロックデータについて、動き補償部20より供給される順方向予測画像データ、または、双方向予測画像データを用いて減算処理を実行する。
すなわち、順方向予測モードにおいて、動き補償部20は、順方向予測画像データを演算部13および演算部19に供給する。演算部13は、供給されたマクロブロックデータから、順方向予測画像データを減算して、予測残差としての差分データを得る。そして、演算部13は、差分データをDCT部14に送出する。
演算部19には、動き補償部20より順方向予測画像データが供給されており、演算部19は、逆DCT部から供給された演算データに、順方向予測画像データを加算することにより、参照画像データを局部再生する。
また、双方向予測モードにおいて、動き補償部20は、双方向予測画像データを演算部13および演算部19に供給する。演算部13は、供給されたマクロブロックデータから、双方向予測画像データを減算して、予測残差としての差分データを得る。そして、演算部13は、差分データをDCT部14に送出する。
演算部19には、動き補償部20より双方向予測画像データが供給されており、演算部19は、逆DCT部から供給された演算データに、双方向予測画像データを加算することにより、参照画像データを局部再生する。
かくして、エンコーダ1に入力された画像データは、動き補償予測処理、DCT処理および量子化処理を受け、量子化DCT係数データとして、VLC部16に供給される。VLC部16は、量子化DCT係数データに対し、所定の変換テーブルに基づく可変長符号化処理を行い、その結果得られる可変長符号化データをバッファ21に送出する。バッファ21は、供給された可変長符号化データをバッファリングした後、出力する。
次に、Long GOP方式で圧縮された2つの映像データを所定の編集点で接続することにより編集する処理について、図2を用いて説明する。
まず、編集対象圧縮映像データ1および編集対象圧縮映像データ2のそれぞれにおいて、編集点近傍の部分的なデコードが行われ、部分的な非圧縮の映像信号1および映像信号2が得られる。そして、非圧縮の映像信号1および映像信号2が編集点で接続されて、必要に応じて編集点付近にエフェクト(Effect)が施されて、再エンコードが行われる。そして、再エンコードされた圧縮映像データが、デコードおよび再エンコードされていない(部分的なデコードが行われた編集点近傍以外の)圧縮映像データと結合される。
図2を用いて説明した方法は、圧縮された編集素材の映像データを全てデコードしてから、映像信号を編集点でつなぎ、再び全ての映像信号を再エンコードして編集済みの圧縮映像データを得る方法と比較して、再エンコードによる画質劣化を局所的に抑えることができるとともに、編集処理時間を大幅に短縮することができるなどの利点がある。
しかしながら、図1を用いて説明した一般的なエンコーダ1を用いて、図2を用いて説明したような方法で編集と再エンコードを行うと、再エンコードを行った部分と行っていない部分のつなぎ目において、画像を参照することができないという問題が発生する。
この問題に対して、フレーム間で予測符号化が行われている(Long GOP)方式で圧縮する場合、編集を比較的簡単に実現する方法として、フレーム間予測に制限を加え、GOP内のみで画像を参照し、GOPをまたいで画像を参照しないClosed GOP構造をとるよううに、フレーム間予測に制限を加える方法が知られている。
フレーム間予測に制限を加える場合について、図3を用いて説明する。図3においては、フレーム間予測と編集との関係を示すために、編集対象である圧縮素材映像1および圧縮素材映像2、部分再エンコードされた編集後の編集点付近の圧縮映像のデータ、並びに、再エンコードしない部分の圧縮映像のデータについて、それぞれ、display order(ディスプレイオーダ)でのピクチャの並びを示している。図中の矢印は、画像の参照方向を示している(以下、同様)。図3においては、ディスプレイオーダのBBIBBPBBPBBPBBPの15のピクチャが1GOPとされ、画像の参照は、GOP内のみとされている。この方法は、GOPをまたぐ予測を禁止することで、GOP間に予測による圧縮データの関連をなくし、GOP単位での圧縮データのつなぎ替え(再エンコードを行う範囲の決定)を可能にする。
すなわち、編集対象である圧縮素材映像1のデータおよび圧縮素材映像2のデータは、それぞれ、編集点を含む1GOP単位で、再エンコード範囲が決定され、1GOP単位で決定された再エンコード範囲の編集対象である圧縮素材映像1のデータおよび圧縮素材映像2のデータがデコードされて、非圧縮の素材映像1の信号および素材映像2の信号が生成される。そして、カット(Cut)編集点において接続されて、接続された素材映像1および素材映像2が部分再エンコードされて、圧縮映像データが生成され、再エンコードしない部分の圧縮映像データと接続されて、圧縮された編集映像データが生成される。
また、Closed GOP構造ではないLong GOP構造、すなわち、GOPをまたいで画像を参照する場合のLong GOP構造は、Open GOPと称される。
しかしながら、図3を用いて説明したように、GOPをまたぐ予測を禁止するClosed GOP構造を利用する編集方法では、GOPの開始部で予測方向に制限を加えることになり、通常用いられるClosed GOP構造ではない圧縮方式であるOpen GOPと比較して、映像信号の圧縮効率が低下する。
したがって、映像信号の圧縮効率を向上させるためには、Open GOP構造を利用して編集を行うほうが好適である。Open GOPで再エンコードを行う場合、再エンコードが行われる部分と再エンコードしない部分との結合部のピクチャの予測のための参照画、すなわち、再エンコードが行われる部分と再エンコードしない部分との結合部付近のBピクチャをエンコードするために参照される、再エンコードが行われない部分のIピクチャまたはPピクチャが必要になる。
図4は、参照画入力が可能なようになされているエンコーダ31の構成を示すブロック図である。なお、図4においては、図1における場合と同様の部分には同一の符号を付してあり、その説明は適宜省略する。すなわち、図4のエンコーダ31は、スイッチ41が新たに備えられている以外は、図1を用いて説明したエンコーダ1と同様の構成を有するものである。
スイッチ41は、参照画として、画像並べ替え部11に供給される非圧縮の映像信号と同一の映像信号の供給を受けるとともに、演算部19から出力される参照画像データの供給を受け、エンコードされる信号が参照するべきデータを選択して、動き補償部20に供給する。
このように、図4に示されるエンコーダ31は、図1を用いて説明したエンコーダ1と比較して、参照画を取得するためのデータの経路が追加されているので、Long GOPのOpen GOP構造の圧縮映像データの編集における再エンコードを実行することが可能である。
例えば、HD(High Definition)信号のように、高精細で情報量の多い映像信号が取り扱われる場合、HDの映像信号を符号化するには、非常に多くの処理が必要となるため、リアルタイムの符号化を実現するために、符号化用のLSIが使用される。しかしながら、通常、符号化用LSIは、図1で示したような構成をしており、図1を用いて説明した通常のエンコーダ1には、参照画入力の機能がないため、Open Long GOP構造の圧縮映像データを編集することができない。これに対して、Open GOP構造の圧縮映像データを編集するために、図3を用いて説明したような、参照画入力が可能なようになされている構成をしたLSIを新規に作るためには、非常にコストや時間がかかってしまう。
本発明はこのような状況に鑑みてなされたものであり、参照画入力の無いエンコーダを用いて再エンコードを行うことにより、Long GOPのOpen GOP構造の圧縮映像データの編集を実現することができるようにするものである。
本発明の第1の情報処理装置は、第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する情報処理装置において、上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成するデコード手段と、上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成するエンコード手段と、上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記エンコード手段の再エンコードを制御する制御手段と、上記第1の符号化ストリーム及び上記第2の符号化ストリームと上記エンコード手段により生成された上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する編集手段とを備える。
上記制御手段には、上記第3の画像データを対象としてディスプレイオーダで上記第1の切換点の直後に位置するピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御させることができる。
上記制御手段には、レート制御で割り当てられる量子化値よりも小さな量子化値で、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御させることができる。
上記編集手段には、上記第1の符号化ストリームに設定された第1の編集点に対して、ディスプレイオーダにおいて過去のピクチャを出力するとともに、上記第2の符号化ストリームに設定された第2の編集点に対して、ディスプレイオーダにおいて未来のピクチャを出力することにより、上記編集符号化ストリームを生成させることができる。
上記制御手段には、上記第1の符号化ストリーム又は第2の符号化ストリームのビットレートが閾値よりも低い場合に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記エンコード手段の再エンコードを制御させることができる。
上記制御手段には、上記第1の符号化ストリーム又は第2の符号化ストリームのビットレートが閾値よりも高い場合に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャからの参照予測をなくすように予測方向を限定して、上記第3の画像データのピクチャをBピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御させることができる。
上記第1の符号化ストリームにおける第1の編集点及び上記第2の符号化ストリームにおける第2の編集点を設定する編集点設定手段を更に設けることができる。
上記第1の符号化ストリームにおける第1の切換点及び上記第2の符号化ストリームにおける第2の切換点を設定する切換点設定手段を更に設けることができる。
上記第1の編集点を含む第1の区間及び上記第2の編集点を含む第2の区間を設定する区間設定手段を更に設けることができる。
上記エンコード手段には、MPEG方式でエンコードを行わせることができる。
上記エンコード手段には、Open GOP構造のLong GOP方式でエンコードを行わせることができる。
本発明の第1の情報処理方法、プログラム、および記録媒体に記録されているプログラムは、第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成し、上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成し、上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードを制御し、上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成した上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成するステップを含む。
本発明の第2の情報処理装置は、第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する情報処理装置において、上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成するデコード手段と、上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成するエンコード手段と、上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後のピクチャをIピクチャ又はPピクチャとしてエンコードし、エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記エンコード手段の再エンコードを制御する制御手段と、上記第1の符号化ストリーム及び上記第2の符号化ストリームと上記エンコード手段により生成された上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する編集手段とを備える。
上記制御手段には、上記第3の画像データを対象としてディスプレイオーダで上記第2の切換点の直前に位置するピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後に位置するピクチャをIピクチャ又はPピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御させることができる。
上記制御手段には、レート制御で割り当てられる量子化値よりも小さな量子化値で、ディスプレイオーダで上記第2の切換点よりも後に位置するピクチャをIピクチャ又はPピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御させることができる。
上記編集手段には、上記第1の符号化ストリームに設定された第1の編集点に対して、ディスプレイオーダにおいて過去のピクチャを出力するとともに、上記第2の符号化ストリームに設定された第2の編集点に対して、ディスプレイオーダにおいて未来のピクチャを出力することにより、上記編集符号化ストリームを生成させることができる。
上記制御手段には、上記第1の符号化ストリーム又は第2の符号化ストリームのビットレートが閾値よりも低い場合に、ディスプレイオーダで上記第2の切換点よりも後に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記エンコード手段の再エンコードを制御させることができる。
上記制御手段には、上記第1の符号化ストリーム又は第2の符号化ストリームのビットレートが閾値よりも高い場合に、ディスプレイオーダで上記第2の切換点よりも後に位置するピクチャからの参照予測をなくすように予測方向を限定して、上記第3の画像データのピクチャをBピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御させることができる。
上記第1の符号化ストリームにおける第1の編集点及び上記第2の符号化ストリームにおける第2の編集点を設定する編集点設定手段を更に設けることができる。
上記第1の符号化ストリームにおける第1の切換点及び上記第2の符号化ストリームにおける第2の切換点を設定する切換点設定手段を更に設けることができる。
上記第1の編集点を含む第1の区間及び上記第2の編集点を含む第2の区間を設定する区間設定手段を更に設けることができる。
上記エンコード手段には、MPEG方式でエンコードを行わせることができる。
上記エンコード手段には、Open GOP構造のLong GOP方式でエンコードを行わせることができる。
本発明の第2の情報処理方法、プログラム、および記録媒体に記録されているプログラムは、第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成し、第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成し、第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後のピクチャをIピクチャ又はPピクチャとしてエンコードし、エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードを制御し、上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成した上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成するステップを含む。
本発明の第1の情報処理装置、情報処理方法、プログラム、および記録媒体に記録されているプログラムにおいては、第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データが生成されると共に、第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データが生成される。また、上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームが生成される。上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャがIピクチャ又はPピクチャとして再エンコードされ、再エンコードされたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードが制御される。上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成された上記再符号化ストリームとが、上記第1の切換点及び第2の切換点で切り換えて出力されることによって、編集された編集符号化ストリームが生成される。
本発明の第2の情報処理装置、情報処理方法、プログラム、および記録媒体に記録されているプログラムにおいては、第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データが生成されると共に、第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データが生成される。また、第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームが生成される。第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後のピクチャがIピクチャ又はPピクチャとしてエンコードされ、エンコードされたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードが制御される。上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成された上記再符号化ストリームとが、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームが生成される。
本発明によれば、参照画入力の無いエンコーダを用いて再エンコードを行うことができる。
以下、図を参照して、本発明の実施の形態について説明する。
図5は本発明を適用した編集装置51のハードウェア構成を示すブロック図である。
CPU(Central Processing Unit)61は、ノースブリッジ62に接続され、例えば、HDD(Hard disk Drive)66に記憶されているデータの読み出しなどの処理を制御したり、CPU70が実行する編集処理を制御するためのコマンドを生成し、出力する。ノースブリッジ62は、PCIバス(Peripheral Component Interconnect/Interface)64に接続され、例えば、CPU61の制御に基づいて、サウスブリッジ65を介して、HDD66に記憶されているデータの供給を受けて、PCIバス64、PCIブリッジ67を介して、メモリ68に供給する。また、ノースブリッジ62は、メモリ63とも接続されており、CPU61の処理に必要なデータを授受する。
メモリ63は、CPU61が実行する処理に必要なデータを保存する。サウスブリッジ65は、HDD66のデータの書き込みおよび読み出しを制御する。HDD66には、圧縮符号化された編集用の素材が記憶されている。
PCIブリッジ67は、メモリ68のデータの書き込みおよび読み出しを制御したり、デコーダ72乃至74、または、ストリームスプライサ75への圧縮符号化データの供給を制御するとともに、PCIバス64およびコントロールバス69のデータの授受を制御する。メモリ68は、PCIブリッジ67の制御に基づいて、HDD66により読み出された、編集用素材である圧縮符号化データや、ストリームスプライサ75から供給される編集後の圧縮符号化データを記憶する。
CPU70は、ノースブリッジ62、PCIバス64、PCIブリッジ67、および、コントロールバス69を介して、CPU61から供給されたコマンドにしたがって、PCIブリッジ67、デコーダ72乃至74、ストリームスプライサ75、エフェクト/スイッチ76、および、エンコーダ77が実行する処理を制御する。メモリ71は、CPU70の処理に必要なデータを記憶する。
デコーダ72乃至デコーダ74は、CPU70の制御に基づいて、供給された圧縮符号化データをデコードし、非圧縮の映像信号を出力する。ストリームスプライサ75は、CPU70の制御に基づいて、供給された圧縮映像データを、所定のフレームで結合する。また、デコーダ72乃至デコーダ74は、編集装置1に含まれない独立した装置として設けられていても良い。例えば、デコーダ74が、独立した装置として設けられている場合、デコーダ74は、後述する処理により編集されて生成された圧縮編集映像データの供給を受け、復号し、出力することができるようになされる。
エフェクト/スイッチ76は、CPU70の制御に基づいて、デコーダ72またはデコーダ73から供給される、非圧縮の映像信号出力を切り替える、すなわち、供給された非圧縮の映像信号を所定のフレームで結合するとともに、必要に応じて、所定の範囲にエフェクトを施して、エンコーダ77に供給する。エンコーダ77は、図1を用いて説明したエンコーダ1と同様の内部構成を有している。すなわち、エンコーダ77は、参照画の入力を受けることができないようになされている。そして、エンコーダ77は、CPU70の制御に基づいて、供給された非圧縮の映像信号をエンコードして、圧縮符号化された圧縮映像データを、ストリームスプライサ75に出力する。
次に、編集装置51の動作について説明する。
HDD66には、Long GOPのOpen GOP方式で圧縮された圧縮素材映像1および圧縮素材映像2のデータが記憶されている。
CPU61は、サウスブリッジ65を制御して、図示しない操作入力部から供給されたユーザの操作入力を基に、HDD66から、編集する素材となる、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータを読み出させ、ノースブリッジ62、PCIバス64、および、PCIブリッジ67を介して、メモリ68に供給させて記憶させるとともに、編集点を示す情報と、編集開始を示すコマンドを、ノースブリッジ62、PCIバス64、PCIブリッジ67、および、コントロールバス69を介して、CPU70に供給する。
ここでは、圧縮素材映像1のデータの所定の編集点に続いて、圧縮素材映像2の所定の編集点以降の映像がつなげられるように(すなわち、編集点より時間的に前に圧縮素材映像1、時間的に後ろに圧縮素材映像2が接続されるように)編集が行われるものとして説明する。
CPU70は、CPU61から供給された編集点を示す情報を基に、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータのうち、再エンコードを行う範囲を決定する。そして、CPU70は、PCIブリッジ67を制御して、メモリ68に記憶されている圧縮符号化された圧縮素材映像1のデータのうち、再エンコードを行うために必要なピクチャに対応する圧縮素材映像1のデータをデコーダ72に供給させるとともに、圧縮素材映像2のデータのうち、再エンコードを行うために必要なピクチャに対応する圧縮素材映像2のデータをデコーダ73に供給させる。
また、このとき、CPU70は、PCIブリッジ67を制御して、メモリ68に記憶されている圧縮符号化された圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲のピクチャを、ストリームスプライサ75に供給させる。
CPU70は、デコーダ72およびデコーダ73を制御して、供給された圧縮符号化されたデータをデコードさせる。
デコーダ72およびデコーダ73は、CPU70の制御に基づいて、供給されたデータをデコードし、復号されて得られた圧縮素材映像1および圧縮素材映像2の信号をエフェクト/スイッチ76に供給する。エフェクト/スイッチ76は、CPU70の制御に基づいて、所定のカット(Cut)編集点(スプライス点とも称される)で、非圧縮の復号素材映像1と復号素材映像2の信号を接続して、必要に応じて、エフェクトを施し、再エンコード用の非圧縮の編集映像信号を生成し、エンコーダ77に供給する。
エンコーダ77は、CPU70の制御に基づいて、エフェクト/スイッチ76から供給された、再エンコード用の非圧縮の編集映像信号をエンコードする。
そして、エンコーダ77において再エンコードされた映像データは、ストリームスプライサ75に供給される。ストリームスプライサ75は、CPU70の制御に基づいて、PCIブリッジ67から供給された、圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲の圧縮素材映像1および圧縮素材映像2のデータと、エンコーダ77から供給されたエンコードされた映像データとを接続し、圧縮編集映像データを生成する。
そして、ストリームスプライサ75は、CPU70の制御に基づいて、作成した圧縮編集映像データをPCIブリッジ67に供給して、メモリ68に保存させるとともに、デコーダ74に供給してデコードさせ、編集結果確認用のモニタなどに出力させて表示させたり、デコードされて生成されたベースバンド信号を、他の装置に出力させる。デコーダ74が、独立した装置として構成されている場合、デコーダ74に対応する装置は、上述した処理により生成された編集後の圧縮映像データの供給を受けてこれをデコードし、デコードされて生成されたベースバンド信号を出力することができるようになされる。
図示しない操作入力部から、編集により生成された圧縮編集映像データの保存が指令された場合、CPU61は、PCIブリッジ67を制御して、メモリ68に保存されている圧縮編集映像データを読み出させ、PCIバス64およびノースブリッジ62を介して、サウスブリッジ65に供給させるとともに、サウスブリッジ65を制御して、供給された圧縮編集映像データをHDD66に供給させて保存させる。
次に、図6のフローチャートを参照して、編集装置51が実行する編集処理について説明する。
ステップS1において、CPU61は、図示しない操作入力部から、編集開始を指令するユーザからの操作入力を受け、サウスブリッジ65を制御して、図示しない操作入力部から供給されたユーザの操作入力を基に、HDD66から、圧縮符号化された2つの編集対象となる素材映像のデータを読み出させ、ノースブリッジ62、PCIバス64、および、PCIブリッジ67を介して、メモリ68に供給させて記憶させるとともに、編集点を示す情報と、編集開始を示すコマンドを、ノースブリッジ62、PCIバス64、PCIブリッジ67、および、コントロールバス69を介して、CPU70に供給する。
ステップS2において、メモリ68は、圧縮符号化された2つの編集素材データを取得する。
ステップS3において、CPU70は、CPU61から供給された、編集点を示す情報と、編集開始を示すコマンドを基に、圧縮符号化された編集素材データのデコード範囲を決定する。
ステップS4において、CPU70は、PCIブリッジ67を制御して、メモリ68に記憶されている圧縮符号化された2つの編集素材データから、決定されたデコード範囲のデータをデコードおよび再エンコードするために必要なデータを抽出させ、デコーダ72およびデコーダ73にそれぞれ供給させる。また、このとき、CPU70は、PCIブリッジ67を制御して、再エンコードされない部分の圧縮符号化された編集素材データを、ストリームスプライサ75に供給させる。PCIブリッジ67は、CPU70の制御に基づいて、メモリ68に記憶されている圧縮符号化された2つの編集素材データから、決定されたデコード範囲のデータをデコードおよび再エンコードするために必要なデータを抽出し、デコーダ72およびデコーダ73にそれぞれ供給するとともに、再エンコードされない部分の圧縮符号化された編集素材データを、ストリームスプライサ75に供給する。
ステップS5において、CPU70は、デコーダ72およびデコーダ73を制御して、決定されたデコード範囲のデータをデコードさせる。デコーダ72およびデコーダ73は、CPU70の制御に基づいて、供給された圧縮符号化された編集素材データをデコードして、エフェクト/スイッチ76に供給する。
ステップS6において、CPU70は、エフェクト/スイッチ76を制御して、デコードされたデータを編集点で接続させて、必要に応じて、エフェクトをかけさせる。エフェクト/スイッチ76は、CPU70の制御に基づいて、供給された非圧縮の復号映像素材を編集点で接続して、必要に応じて、エフェクトをかけ、エンコーダ77に供給する。
ステップS6においてエンコーダ77に供給されるデータは、参照画像入力なしで再エンコードを行うために実行されるエンコーダ77のエンコード処理の方法によって異なる。エンコーダ77に供給される、参照画像入力なしで再エンコードするために必要なデータについては後述する。
ステップS7において、CPU70は、エンコーダ77を制御して、編集点で接続された非圧縮の復号映像素材を、後述する3つの方法のうちのいずれかの方法で、参照画像の入力を受けることなく再エンコードさせる。エンコーダ77は、CPU70の制御に基づいて、編集点で接続された非圧縮の復号映像素材の再エンコードを行い、再エンコードされて生成された圧縮符号化された映像データを、ストリームスプライサ75に供給する。
なお、ステップS7において、参照画像入力なしで再エンコードを行うための方法には、3つの方法がある。この3つの方法の詳細については、後述する。
ステップS8において、CPU70は、ストリームスプライサ75を制御して、再エンコードされて生成された圧縮符号化された映像データと、再エンコードされていない、圧縮符号化された2つの編集対象となる素材映像のデータとを接続させる。ストリームスプライサ75は、再エンコードされて生成された、圧縮符号化された映像データと、再エンコードされていない、圧縮符号化された2つの編集対象となる素材映像のデータとを接続して、CPU70の制御に基づいて、再エンコードされて生成された、圧縮符号化された映像データと、再エンコードされていない、圧縮符号化された2つの編集対象となる素材映像のデータとを接続して、圧縮編集映像データを生成するとともに、作成した圧縮編集映像データをPCIブリッジ67に供給して、メモリ68に保存させるとともに、デコーダ74に供給してデコードさせ、編集結果確認用のモニタなどに出力させて表示させる。
なお、ステップS7において、いずれの方法で再エンコードが行われるかによって、ステップS8において実行されるデータの接続方法が異なる。再エンコードの方法と、それに対応するデータの接続方法については、後述する。ステップS8の処理の終了後、処理は終了される。
このような処理により、Long GOPのOpen GOP構造の圧縮映像データの編集点付近を部分的にデコードし、デコードされた非圧縮の映像信号を所定の編集点で接続して、参照画入力の無いエンコーダで再エンコードを行い、デコードおよび再エンコードされていない部分の圧縮映像データと接続することにより、Long GOPのOpen GOP構造の圧縮映像データの編集を実現することができるので、参照画入力機能を有するエンコーダのLSIを、コストと時間をかけて新たに製造する必要がなくなる。
参照画像入力なしで再エンコードを行うための方法には、3つの方法がある。
参照画像入力なしで再エンコードを行うための第1の方法は、再エンコードする際、再エンコードしない圧縮映像データとの結合部の予測方向を限定することで、再エンコードしない圧縮映像データからの予測を無くすものである。
すなわち、再エンコードを行うとき、再エンコード開始部のBピクチャの予測方向をBackward限定とするとともに、再エンコード終了部のBピクチャの予測方向をForward限定にする。これにより、再エンコードしない圧縮映像データからの予測がなくなり、参照画をエンコーダ77へ入力することなく、Long GOPのOpen GOP構造の圧縮映像データの編集を実現することができる。
第1の方法を実行する場合の編集装置51の処理について、図7を用いて説明する。
HDD66には、図7に示されるLong GOPのOpen GOP方式で圧縮された圧縮素材映像1および圧縮素材映像2のデータが記憶されている。図7において、圧縮された圧縮素材映像1および圧縮素材映像2は、表示されるピクチャ順(display order)で記載されている。
CPU61は、サウスブリッジ65を制御して、図示しない操作入力部から供給されたユーザの操作入力を基に、HDD66から、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータを読み出させ、ノースブリッジ62、PCIバス64、および、PCIブリッジ67を介して、メモリ68に供給させて記憶させるとともに、編集点を示す情報と、編集開始を示すコマンドを、ノースブリッジ62、PCIバス64、PCIブリッジ67、および、コントロールバス69を介して、CPU70に供給する。
CPU70は、CPU61から供給された編集点を示す情報を基に、圧縮符号化された圧縮素材映像1のデータの再エンコードを行わない範囲の最後のピクチャがIまたはPピクチャとなるように、圧縮素材映像2の再エンコードを行わない範囲の最後のピクチャがIピクチャとなるように、再エンコードを行う範囲を決定する。そして、CPU70は、PCIブリッジ67を制御して、メモリ68に記憶されている圧縮符号化された圧縮素材映像1のデータのうち、再エンコードを行う範囲のピクチャと、参照する必要があるピクチャに対応する圧縮素材映像1のデータをデコーダ72に供給させるとともに、圧縮素材映像2のデータのうち、再エンコードを行う範囲のピクチャと、参照する必要があるピクチャに対応する圧縮素材映像2のデータをデコーダ73に供給させる。
すなわち、この時、圧縮素材映像1のうち、Bピクチャ86およびBピクチャ87が再エンコードを行う範囲に含まれている場合、Bピクチャ86およびBピクチャ87をデコードするために、Iピクチャ81、および、Pピクチャ82乃至Pピクチャ85もデコードされる。また、同様に、圧縮素材映像2のうち、Bピクチャ89およびBピクチャ90が再エンコードを行う範囲に含まれている場合、Bピクチャ89およびBピクチャ90をデコードするために、Iピクチャ91もデコードされる。Bピクチャ89およびBピクチャ90は、Pピクチャ88とIピクチャ91が参照されることによりデコードされる。
また、このとき、CPU70は、PCIブリッジ67を制御して、メモリ68に記憶されている圧縮符号化された圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲のピクチャを、ストリームスプライサ75に供給させる。
CPU70は、デコーダ72およびデコーダ73を制御して、供給された圧縮符号化されたデータをデコードさせる。
デコーダ72およびデコーダ73は、CPU70の制御に基づいて、供給されたデータをデコードし、復号されて得られた素材映像1および素材映像2の信号をエフェクト/スイッチ76に供給する。エフェクト/スイッチ76は、CPU70の制御に基づいて、所定のカット(Cut)編集点(スプライス点)で、非圧縮の復号素材映像1と復号素材映像2の信号を接続して、必要に応じて、エフェクトを施し、再エンコード用の非圧縮の編集映像信号を生成し、再エンコードされるピクチャに対応する部分のデータを、エンコーダ77に供給する。
エンコーダ77は、CPU70の制御に基づいて、エフェクト/スイッチ76から供給された、再エンコード用の非圧縮の編集映像信号をエンコードする。
そのとき、エンコーダ77は、参照画の入力の機能を有していないので、図7に示されるように、双方向予測符号化を行うBピクチャ92およびBピクチャ93をエンコードするために、参照画として、一つ前のPピクチャまたはIピクチャを用いることができない。また、エンコーダ77は、同様に、双方向予測符号化を行うBピクチャ95およびBピクチャ96をエンコードするために、参照画として、一つうしろのPピクチャまたはIピクチャを用いることができない。したがって、CPU70は、エンコーダ70を制御して、これらのBピクチャのエンコードにおける参照の方向を制限する。
換言すれば、再エンコードする範囲の先頭および最後の部分に連続するBピクチャの予測方向を制御して再エンコードを行うようにすることにより、編集用の圧縮素材映像データがOpenGOPであっても、再エンコードされる範囲の前後のピクチャをエンコードのための参照画として用いる必要がなくなる。
そして、エンコーダ77において再エンコードされた映像データは、ストリームスプライサ75に供給される。ストリームスプライサ75は、CPU70の制御に基づいて、PCIブリッジ67から供給された、圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲の圧縮素材映像1および圧縮素材映像2と、エンコーダ77から供給されたエンコードされた映像データとを接続し、圧縮編集映像データを生成する。
具体的には、ストリームスプライサ75は、CPU70の制御に基づいて、PCIブリッジ67から供給された、圧縮素材映像1のPピクチャ97と、エンコーダ77から供給されたエンコードされた映像データのBピクチャ92とがディスプレイオーダで連続するように接続され、エンコーダ77から供給されたエンコードされた映像データのBピクチャ96と、PCIブリッジ67から供給された、圧縮素材映像2のIピクチャ98とがディスプレイオーダで連続するように接続されるように、ストリームをつなぎ合わせる。
そして、ストリームスプライサ75は、CPU70の制御に基づいて、作成した圧縮編集映像データをPCIブリッジ67に供給して、メモリ68に保存させるとともに、デコーダ74に供給してデコードさせ、編集結果確認用のモニタなどに出力させて表示させたり、デコードされて生成されたベースバンド信号を、他の装置に出力させる。デコーダ74が、独立した装置として構成されている場合、デコーダ74に対応する装置は、上述した処理により生成された編集後の圧縮映像データの供給を受けてこれをデコードし、デコードされて生成されたベースバンド信号を出力することができるようになされる。
図示しない操作入力部から、編集されて生成された圧縮編集映像データの保存が指令された場合、CPU61は、PCIブリッジ67を制御して、メモリ68に保存されている圧縮編集映像データを読み出させ、PCIバス64およびノースブリッジ62を介して、サウスブリッジ65に供給させるとともに、サウスブリッジ65を制御して、供給された圧縮編集映像データをHDD66に供給させて保存させる。
次に、図8のフローチャートを参照して、第1の方法でエンコードが行われる場合に実行される予測方向制御処理について説明する。
ステップS31において、CPU70は、エフェクト/スイッチ76を制御して、再エンコードが行われる部分のピクチャのみを、エンコーダ77に供給させる。エフェクト/スイッチ76は、CPU70の制御に基づいて、再エンコードが行われる部分のピクチャのみを、エンコーダ77に供給する。エンコーダ77は、CPU70の制御に基づいて、供給されたデータのエンコードを開始する。
ステップS32において、エンコーダ77は、エンコードを実行するピクチャが、ディスプレイオーダで、再エンコード開始から、1つ目のIピクチャまたはPピクチャの前のBピクチャ、すなわち、図7のBピクチャ92またはBピクチャ93に対応するBピクチャであるか否かを判断する。
ステップS32において、エンコードを実行するピクチャが、ディスプレイオーダで、再エンコード開始から、1つ目のIピクチャまたはPピクチャの前のBピクチャであると判断された場合、ステップS33において、エンコーダ77は、対応するピクチャの予測方向を、バックワードに限定して、エンコードを行い、処理は、後述するステップS37に進む。
ステップS32において、エンコードを実行するピクチャが、ディスプレイオーダで、再エンコード開始から、1つ目のIピクチャまたはPピクチャの前のBピクチャではないと判断された場合、ステップS34において、エンコーダ77は、エンコードを実行するピクチャが、ディスプレイオーダで、再エンコード終了位置の直前のIピクチャまたはPピクチャの後のBピクチャ、すなわち、図7のBピクチャ95またはBピクチャ96に対応するBピクチャであるか否かを判断する。
ステップS34において、エンコードを実行するピクチャが、ディスプレイオーダで、再エンコード終了位置の直前のIピクチャまたはPピクチャの後のBピクチャではない、すなわち、図7のBピクチャ93の次のIピクチャからPピクチャ94までのいずれかのピクチャに対応するピクチャであると判断された場合、ステップS35において、エンコーダ77は、通常のアルゴリズムに基づいた予測方向で、エンコードを行い、処理は、後述するステップS37に進む。
ステップS34において、エンコードを実行するピクチャが、ディスプレイオーダで、再エンコード終了位置の直前のIピクチャまたはPピクチャの後のBピクチャであると判断された場合、ステップS36において、エンコーダ77は、対応するピクチャの予測方向を、フォワードに限定して、エンコードを行う。
ステップS33、ステップS35、または、ステップS36の処理の終了後、ステップS37において、エンコーダ77は、最後のピクチャの処理が終了したか否かを判断する。
ステップS37において、最後のピクチャの処理が終了していないと判断された場合、処理は、ステップS32に戻り、それ以降の処理が繰り返される。ステップS37において、最後のピクチャの処理が終了したと判断された場合、処理が終了される。
このような処理により、再エンコードする範囲の先頭および最後の部分に連続するBピクチャの予測方向を制御して再エンコードを行うようにすることができるので、編集用の圧縮素材映像データがOpenGOPであっても、再エンコードされる範囲の前後のピクチャをエンコードのための参照画として用いる必要がなくなる。
次に、参照画像入力なしで再エンコードを行うための第2の方法について説明する。
参照画像入力なしで再エンコードを行うための第2の方法は、再エンコードする際、再エンコードしない圧縮映像データとの接続点付近で使用する参照画に対応するデータもエンコードし、そのエンコードされたデータをエンコーダ内部でローカルデコードしたものを、参照画として代用する方法である。
すなわち、エンコーダ77に入力された参照画に対応するピクチャは、エンコーダ77で、DCTおよび量子化された後、逆量子化および逆DCTされて、参照画として利用される。そして、参照画として利用されたピクチャは、編集には利用されない(再エンコードされない部分の圧縮素材映像データとは接続されずに破棄される)。
また、この参照画は、編集済みの圧縮映像データをデコードする時に使用される参照画に対して、DCT、量子化、逆量子化、逆DCTの処理を一回多く行ったものである。したがって、この参照画は、DCT、量子化、逆量子化、逆DCTの処理が一回多い分、画質が劣化してしまっている。本来使用すべき参照画より劣化してしまった画を参照画として使用し、その差分を符号化してしまうと、編集済みの圧縮映像データの画質が劣化してしまう。そこで、エンコーダ77においては、編集済みの圧縮映像データの画質の劣化を防ぐために、参照画として利用するためにエンコードするピクチャの量子化値を小さくするようにエンコード時の量子化値を制御するものとする。
参照画として利用するためにエンコードされるピクチャは、編集に利用されずに破棄されるので、エンコード時に、ビットレートや、VBVバッファの制約を考慮しなくてよい。したがって、参照画として利用されるピクチャのエンコードにおいては、発生符号量の上限を考慮する必要がない。そこで、第2の方法においては、参照画として利用するためにエンコードするピクチャの量子化値を、少なくとも、通常のレート制御において割り当てられる量子化値より小さな量子化値であって、できるだけ小さな量子化値とすることで、画質劣化を最小限に抑えて、編集済みの圧縮映像データの画質の劣化を防ぐことができるようになされている。参照画として利用するためにエンコードされるピクチャの量子化値は、設定可能な最小の値とすると好適である。
第2の方法を実行する場合の編集装置51の処理について、図9を用いて説明する。
HDD66には、図9に示されるLong GOPのOpen GOP方式で圧縮された圧縮素材映像1および圧縮素材映像2のデータが記憶されている。図9において、圧縮された圧縮素材映像1および圧縮素材映像2は、表示されるピクチャ順(display order)で記載されている。
CPU61は、サウスブリッジ65を制御して、図示しない操作入力部から供給されたユーザの操作入力を基に、HDD66から、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータを読み出させ、ノースブリッジ62、PCIバス64、および、PCIブリッジ67を介して、メモリ68に供給させて記憶させるとともに、編集点を示す情報と、編集開始を示すコマンドを、ノースブリッジ62、PCIバス64、PCIブリッジ67、および、コントロールバス69を介して、CPU70に供給する。
CPU70は、CPU61から供給された編集点を示す情報を基に、圧縮符号化された圧縮素材映像1のデータおよび圧縮素材映像2のデータのうち、再エンコードを行う範囲を決定する。そして、CPU70は、PCIブリッジ67を制御して、メモリ68に記憶されている圧縮符号化された圧縮素材映像1のデータのうち、再エンコードを行う範囲のピクチャと、参照する必要があるピクチャに対応する圧縮素材映像1のデータをデコーダ72に供給させるとともに、圧縮素材映像2のデータのうち、再エンコードを行う範囲のピクチャと、参照する必要があるピクチャに対応する圧縮素材映像2のデータをデコーダ73に供給させる。
すなわち、この時、圧縮素材映像1のうち、Bピクチャ86およびBピクチャ87が再エンコードを行う範囲に含まれている場合、Bピクチャ86およびBピクチャ87をデコードするために、Iピクチャ81、および、Pピクチャ82乃至Pピクチャ85もデコードされる。また、同様に、圧縮素材映像2のうち、Bピクチャ89およびBピクチャ90が再エンコードを行う範囲に含まれている場合、Bピクチャ89およびBピクチャ90をデコードするために、Iピクチャ91もデコードされる。Bピクチャ89およびBピクチャ90は、Pピクチャ88およびIピクチャ91を参照してデコードされる。
また、このとき、CPU70は、PCIブリッジ67を制御して、メモリ68に記憶されている圧縮符号化された圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲のピクチャを、ストリームスプライサ75に供給させる。
CPU70は、デコーダ72およびデコーダ73を制御して、供給された圧縮符号化されたデータをデコードさせる。
デコーダ72およびデコーダ73は、CPU70の制御に基づいて、供給されたデータをデコードし、復号されて得られた素材映像1および素材映像2の信号をエフェクト/スイッチ76に供給する。エフェクト/スイッチ76は、CPU70の制御に基づいて、所定のカット(Cut)編集点(スプライス点)で、非圧縮の復号素材映像1と復号素材映像2の信号を接続して、必要に応じて、エフェクトを施し、再エンコード用の非圧縮の編集映像信号を生成し、再エンコードに必要な再エンコード用参照画像(図9においては、Bピクチャ92およびBピクチャ93のエンコードに必要なIピクチャ101、および、Bピクチャ95およびBピクチャ96のエンコードに必要なIピクチャ102に対応する画像データ)とともに、エンコーダ77に供給する。
エンコーダ77は、CPU70の制御に基づいて、エフェクト/スイッチ76から供給された、再エンコード用の非圧縮の編集映像信号をエンコードする。
そのとき、エンコーダ77は、図9に示されるように、双方向予測符号化を行うBピクチャ92およびBピクチャ93をエンコードするために、参照画として、一つ前のIピクチャまたはPピクチャを用いなければならない。また、同様に、双方向予測符号化を行うBピクチャ95およびBピクチャ96をエンコードするために、参照画として、一つ後のIピクチャまたはPピクチャを用いなければならない。
したがって、エンコーダ77は、Bピクチャ92およびBピクチャ93の予測に使用する参照画として、その1つ前の画をIピクチャ(図9のIピクチャ101)としてエンコードし、それを、エンコーダ77の内部でローカルデコードしたもの、すなわち、DCTおよび量子化された後、逆量子化および逆DCTされた予測画像データを利用する。また、同様にして、エンコーダ77は、Bピクチャ95およびBピクチャ96の予測に使用する参照画として、その1つ後ろの画をIピクチャ(図9のIピクチャ102)としてエンコードし、それを、エンコーダ77の内部でローカルデコードしたものを利用する。
また、エンコーダ77は、参照画として利用するためにエンコードする図9のIピクチャ101およびIピクチャ102を、少なくとも通常のレート制御において割り当てられる量子化値より小さな量子化値であって、できる限り小さな量子化値でエンコードする。
図9においては、双方向予測符号化を行うBピクチャ92およびBピクチャ93をエンコードするための参照画、および、双方向予測符号化を行うBピクチャ95およびBピクチャ96をエンコードするための参照画を、いずれも、Iピクチャであるものとして説明したが、これらの参照画は、Pピクチャであってもよいことは言うまでもない。参照画がPピクチャである場合、この参照画をエンコードするために、更に参照画が必要になるので、CPU70は、参照画をPピクチャとする場合、参照画をエンコードするために必要な参照画も、エンコーダ77に供給されて、エンコードされるように制御するものとする。
すなわち、双方向予測符号化を行うBピクチャ92およびBピクチャ93をエンコードするための参照画、および、双方向予測符号化を行うBピクチャ95およびBピクチャ96をエンコードするための参照画をIピクチャとした場合、参照画をPピクチャとした場合と比較して、参照画に対応するデータをエンコーダ77に供給するための処理の制御は簡単になる。
そして、エンコーダ77において再エンコードされた映像データは、ストリームスプライサ75に供給される。ストリームスプライサ75は、CPU70の制御に基づいて、PCIブリッジ67から供給された、圧縮素材映像1および圧縮素材映像2のデータのうちの再エンコードを行わない範囲の圧縮素材映像1および圧縮素材映像2と、エンコーダ77から供給されたエンコードされた映像データとを接続し、圧縮編集映像データを生成する。
このとき、ストリームスプライサ75は、参照画として利用するためにエンコードしたIピクチャ101およびIピクチャ102は、圧縮編集映像データには利用せずに破棄する。
具体的には、ストリームスプライサ75は、CPU70の制御に基づいて、PCIブリッジ67から供給された、圧縮素材映像1のPピクチャ97とエンコーダ77から供給されたエンコードされた映像データのBピクチャ92とがディスプレイオーダで連続するように接続され、エンコーダ77から供給されたエンコードされた映像データのBピクチャ96と、PCIブリッジ67から供給された、圧縮素材映像2のIピクチャ98とがディスプレイオーダで連続するように接続されるように、ストリームをつなぎ合わせる。
そして、ストリームスプライサ75は、CPU70の制御に基づいて、作成した圧縮編集映像データをPCIブリッジ67に供給して、メモリ68に保存させるとともに、デコーダ74に供給してデコードさせ、編集結果確認用のモニタなどに出力させて表示させたり、デコードされて生成されたベースバンド信号を、他の装置に出力させる。デコーダ74が、独立した装置として構成されている場合、デコーダ74に対応する装置は、上述した処理により生成された編集後の圧縮映像データの供給を受けてこれをデコードし、デコードされて生成されたベースバンド信号を出力することができるようになされる。
図示しない操作入力部から、編集されて生成された圧縮編集映像データの保存が指令された場合、CPU61は、PCIブリッジ67を制御して、メモリ68に保存されている圧縮編集映像データを読み出させ、PCIバス64およびノースブリッジ62を介して、サウスブリッジ65に供給させるとともに、サウスブリッジ65を制御して、供給された圧縮編集映像データをHDD66に供給させて保存させる。
次に、図10のフローチャートを参照して、第2の方法を用いて再エンコードが行われる場合に実行される、ピクチャタイプ決定処理について説明する。
ステップS51において、CPU70は、エフェクト/スイッチ76を制御して、再エンコードが行われる部分のピクチャ、および、参照画として用いられるピクチャを、エンコーダ77に供給させる。エフェクト/スイッチ76は、CPU70の制御に基づいて、再エンコードが行われる部分のピクチャ、および、参照画として用いられるピクチャを、エンコーダ77に供給する。エンコーダ77は、CPU70の制御に基づいて、供給されたデータのエンコードを開始する。
ステップS52において、エンコーダ77は、供給されたピクチャが、いずれかのピクチャをエンコードするための参照画として用いられるピクチャであるか否か、すなわち、図9を用いて説明した場合においては、Bピクチャ92,93、または、Bピクチャ95,96をエンコードするための参照画として用いられるピクチャ101またはIピクチャ102に対応するピクチャであるか否かを判断する。ステップS52において、エンコードを実行するピクチャは、参照画として用いられるピクチャではないと判断された場合、処理は、後述するステップS55に進む。
ステップS52において、エンコードを実行するピクチャは、参照画として用いられるピクチャであると判断された場合、ステップS53において、エンコーダ77は、エンコードを実行するピクチャのピクチャタイプを、CPU70の制御に基づいて、IピクチャまたはPピクチャとする。
ステップS54において、エンコーダ77は、参照画として用いられるIピクチャまたはPピクチャを、最小の量子化値(少なくとも、通常のレート制御において割り当てられる量子化値より小さな量子化値であれば良いが、最小の量子化値であることが望ましい)で量子化し、処理は、後述するステップS57に進む。
ステップS52において、エンコードを実行するピクチャは、参照画として用いられるピクチャではないと判断された場合、ステップS55において、エンコーダ77は、通常のアルゴリズムに基づいてピクチャタイプを決定する。
ステップS56において、エンコーダ77は、通常の、例えば、TM5などに基づいたレート制御を行って、量子化値を決定する。
ステップS54またはステップS56の処理の終了後、ステップS57において、エンコーダ77は、決定された量子化値を用いて、エンコードを行う。ここで、エンコーダ77は、Bピクチャ92,93、または、Bピクチャ95,96の参照画として、Iピクチャ101またはIピクチャ102をエンコードした後、ローカルコードをしたものを用いる。また、Iピクチャ101またはIピクチャ102は、少なくとも通常のレート制御において割り当てられる量子化値より小さな量子化値であって、できるだけ小さな量子化値で量子化される。
ステップS58において、エンコーダ77は、最後のピクチャの処理が終了したか否かを判断する。
ステップS58において、最後のピクチャの処理が終了していないと判断された場合、処理は、ステップS52に戻り、それ以降の処理が繰り返される。ステップS58において、最後のピクチャの処理が終了したと判断された場合、処理が終了される。
このような処理により、再エンコードする範囲の先頭および最後の部分に連続するBピクチャの予測に用いられる参照画像のデータがエンコーダに供給される。そして、参照画として、できるだけ小さな量子化値でエンコードされた後、ローカルデコードされたものが用いられて、再エンコードする範囲の全体が参照画入力なしでエンコード可能なように、ピクチャタイプが決定されるので、編集用の圧縮素材映像データがOpenGOPであっても、参照画入力の機能を有さないエンコーダでの再エンコードが可能となる。
このとき、予測に用いられる参照画像は、少なくとも通常のレート制御において割り当てられる量子化値より小さな量子化値であって、できるだけ小さな量子化値で量子化されるので、再エンコード部分の画像の劣化を防ぐようにすることができる。
また、再エンコードの処理が終了した後、参照画として用いられるためにエンコードされたピクチャは、再エンコードされていない圧縮素材映像データと接続されるときに破棄される。
次に、参照画像入力なしで再エンコードを行うための第3の方法について説明する。
参照画像入力なしで再エンコードを行うための第3の方法は、再エンコードする際、編集されるデータのビットレートに基づいて、上述した第1の方法と第2の方法のいずれか適する方法を用いて、再エンコードを実行する方法である。
参照画入力のないエンコーダ77で、Long GOPのOpen GOP構造の圧縮映像データの編集を実現する場合、上述した第1の方法では、予測方向限定のため、予測方向限定した部分の発生符号量が、限定しない場合に比べて増加するが、第2の方法と比較して、参照画として利用するピクチャのDCT、量子化、逆量子化、逆DCTの処理による画質劣化を考慮する必要がない。したがって、高ビットレートの圧縮映像データを編集する際には、第1の方法を用い、低ビットレートの圧縮映像データを編集する際には、第2の方法を用いるようにすると好適である。
すなわち、CPU61は、編集するデータのビットレートを所定の閾値と比較し、ビットレートが所定の閾値よりも高い場合、CPU70に、第1の方法を用いて再エンコードを実行させるコマンドを生成して出力し、ビットレートが所定の閾値よりも低い場合、CPU70に、第2の方法を用いて再エンコードを実行させるコマンドを生成して出力する。CPU70は、CPU61から供給されたコマンドに基づいて、エフェクト/スイッチ76、エンコーダ77、および、ストリームスプライサ75を制御して、第1の方法、または、第2の方法による再エンコードおよび編集の処理を実行させる。
次に、図11のフローチャートを参照して、第3の方法を用いて再エンコードが行われる場合に実行される、エンコード方法決定処理について説明する。
ステップS71において、CPU61は、圧縮符号化された編集素材データのビットレートを、所定の閾値と比較する。
ステップS72において、CPU61は、圧縮符号化された編集素材データのビットレートは、所定の閾値より高いか否かを判断する。
ステップS72において、ビットレートは、所定の閾値より高いと判断された場合、ステップS73において、図8を用いて説明した予測方向制御処理が実行されて、処理が終了される。
ステップS72において、ビットレートは、所定の閾値より高くないと判断された場合、ステップS74において、図10を用いて説明したピクチャタイプ決定処理が実行されて、処理が終了される。
このような処理により、圧縮符号化された編集素材データのビットレートに適した方法で、参照画入力の無いエンコーダで再エンコードを行い、Long GOPのOpen GOP構造の圧縮映像データの編集を実現することができる。
以上説明したように、本発明を適用した編集装置51によれば、参照画入力のないエンコーダを用いて、Open Long GOP構造の圧縮映像データの編集を実現することが可能になる。これにより、一般的に用いられているエンコーダを用いてOpen Long GOP構造の圧縮映像データの編集が実現できるので、参照画入力機能を有するエンコーダのLSIを、コストと時間をかけて新たに製造する必要がなくなる。
上述した一連の処理は、ソフトウェアにより実行することもできる。そのソフトウェアは、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。この場合、例えば、図5を用いて説明した編集装置51は、図12に示されるようなパーソナルコンピュータ301により構成される。
図12において、CPU(Central Processing Unit)311は、ROM(Read Only Memory)312に記憶されているプログラム、または記憶部318からRAM(Random Access Memory)313にロードされたプログラムにしたがって、各種の処理を実行する。RAM313にはまた、CPU311が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU311、ROM312、およびRAM313は、バス314を介して相互に接続されている。このバス314にはまた、入出力インタフェース315も接続されている。
入出力インタフェース315には、キーボード、マウスなどよりなる入力部316、ディスプレイやスピーカなどよりなる出力部317、ハードディスクなどより構成される記憶部318、モデム、ターミナルアダプタなどより構成される通信部319が接続されている。通信部319は、インターネットを含むネットワークを介しての通信処理を行う。
入出力インタフェース315にはまた、必要に応じてドライブ320が接続され、磁気ディスク331、光ディスク332、光磁気ディスク333、もしくは、半導体メモリ334などが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部318にインストールされる。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
この記録媒体は、図12に示されるように、装置本体とは別に、ユーザにプログラムを供給するために配布される、プログラムが記憶されている磁気ディスク331(フロッピディスクを含む)、光ディスク332(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク333(MD(Mini-Disk)(商標)を含む)、もしくは半導体メモリ334などよりなるパッケージメディアにより構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに供給される、プログラムが記憶されているROM312や、記憶部318に含まれるハードディスクなどで構成される。
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
なお、上述の実施の形態においては、編集装置51が、それぞれ、デコーダとエンコーダを有しているものとして説明したが、デコーダおよびエンコーダが、それぞれ、独立した装置として構成されている場合においても、本発明は適用可能である。例えば、図13に示されるように、ストリームデータを復号してベースバンド信号に変換する復号装置371、ベースバンド信号を符号化してストリームデータに変換する符号化装置372が、それぞれ独立した装置として構成されていても良い。
このとき、復号装置371は、映像素材である圧縮符号化データを復号し、符号化装置372に供給するのみならず、本発明を適用することにより符号化装置372により部分的に符号化された後、編集されて生成された圧縮符号化データの供給を受け、復号処理を行い、ベースバンド信号に変換することができる。ベースバンド信号に変換された編集後のストリームは、例えば、所定の表示装置に供給されて表示されたり、他の装置に出力されて、必要な処理が施される。
さらに、上述の実施の形態においては、デコーダ72乃至74が、供給された圧縮符号化データを完全にデコードせず、対応するエンコーダ77が、非完全に復号されたデータの対応する部分を部分的にエンコードする場合においても、本発明は適用可能である。
例えば、デコーダ72乃至74が、VLC符号に対する復号および逆量子化のみを行い、逆DCT変換を実行していなかった場合、エンコーダ77は、量子化および可変長符号化処理を行うが、DCT変換処理は行わない。このような部分的な符号化(中途段階からの符号化)を行うエンコーダにおいても、本発明を適用することができるのは言うまでもない。
さらに、上述の実施の形態においては、デコーダ72乃至74が完全に復号したベースバンド信号を、エンコーダ77が中途段階まで符号化する場合(例えば、DCT変換および量子化を行うが可変長符号化処理を行わないなど)や、デコーダ72乃至74が完全に復号していない(例えば、VLC符号に対する復号および逆量子化のみを行い、逆DCT変換を実行していない)ため、中途段階まで符号化されているデータに対して、エンコーダ77が更に中途段階まで符号化する場合など(例えば、量子化を行うが可変長符号化処理を行わないなど)においても、本発明は適用可能である。
更に、図13に示される復号装置371が、供給されたストリームデータを完全に復号せず、対応する符号化装置372が、非完全に復号されたデータの対応する部分を部分的に符号化する場合においても、本発明は適用可能である。
例えば、復号装置371が、VLC符号に対する復号および逆量子化のみを行い、逆DCT変換を実行していなかった場合、符号化装置372は、量子化および可変長符号化処理を行うが、DCT変換処理は行わない。このような部分的な復号処理(中途段階までの復号)を行う復号装置371のデコード処理、および、符号化(中途段階からの符号化)を行う符号化装置372のエンコード処理において、本発明を適用することができるのは言うまでもない。
更に、復号装置371が完全に復号したベースバンド信号を、符号化装置372が中途段階まで符号化する場合(例えば、DCT変換および量子化を行うが可変長符号化処理を行わないなど)や、復号装置371が完全に復号していない(例えば、VLC符号に対する復号および逆量子化のみを行い、逆DCT変換を実行していない)ため、中途段階まで符号化されているデータに対して、符号化装置372が更に中途段階まで符号化する場合など(例えば、量子化を行うが可変長符号化処理を行わないなど)においても、本発明は適用可能である。
更に、このような部分的な復号を行う(復号処理の工程のうちの一部を実行する)符号化装置351と部分的な符号化を行う(符号化処理の工程のうちの一部を実行する)符号化装置372で構成されたトランスコーダ381においても、本発明は適用可能である。このようなトランスコーダ381は、例えば、スプライシングなどの編集を行う編集装置382、すなわち、上述した編集装置1のストリームスプライサ75やエフェクト/スイッチ76が実行可能な機能を有する編集装置が利用される場合などに用いられる。
さらに、上述の実施の形態においては、CPU61およびCPU70がそれぞれ別の形態で構成されているが、これに限らず、編集装置51全体を制御する1つのCPUとして構成する形態も考えられる。同様に、上述の実施の形態においては、メモリ63およびメモリ71がそれぞれ別の形態で構成されているが、これに限らず、編集装置51において1つのメモリとして構成する形態も考えられる。
さらに、上述の実施の形態においては、HDD66、デコーダ72乃至74、ストリームスプライサ75、エフェクト/スイッチ76、および、エンコーダ77を、それぞれ、ブリッジおよびバスを介して接続し、編集装置として一体化されている場合について述べたが、本発明はこれに限らず、例えば、これらの構成要素のうちの一部が、外部から有線または無線で接続されるようにしても良いし、これらの構成要素は、この他、種々の接続形態で相互に接続されるようにしてもよい。
さらに、上述の実施の形態においては、圧縮された編集用の素材がHDDに記憶されている場合について述べたが、本発明はこれに限らず、例えば、光ディスク、光磁気ディスク、半導体メモリ、磁気ディスク等の種々の記録媒体に記録された編集用の素材を用いて編集処理を行う場合にも適用することができる。
さらに、上述の実施の形態においては、デコーダ72乃至74、ストリームスプライサ75、エフェクト/スイッチ76、および、エンコーダ77は、同一の拡張カード(例えば、PCIカード、PCI−Expressカード)に搭載する形態に限らず、例えばPCI−Expressなどの技術によりカード間の転送速度が高い場合には、それぞれ別の拡張カードに搭載してもよい。
本発明は、MPEG方式による情報処理装置の他、これに類似する符号化または復号化のアルゴリズムを有する方式の情報処理装置に適用することができる。
通常用いられているエンコーダの構成を示すブロック図である。 編集と部分再エンコードについて説明するための図である。 ClosedGOPでの編集と部分再エンコードについて説明するための図である。 参照画の入力機能を有するエンコーダの構成を示すブロック図である。 本発明を適用した編集装置51の構成を示すブロック図である。 編集処理について説明するためのフローチャートである。 エンコード時の予測方向の制限について説明するための図である。 予測方向制御処理について説明するためのフローチャートである。 エンコード時の予測のための参照画について説明するための図である。 ピクチャタイプ決定処理について説明するためのフローチャートである。 エンコード方法洗濯処理について説明するためのフローチャートである。 パーソナルコンピュータの構成を示すブロック図である。 本発明を適用可能な異なる装置の構成について説明するための図である。
符号の説明
51 編集装置, 61 CPU, 66 HDD, 70 CPU, 72乃至74 デコーダ, 75 ストリームスプライサ, 76 エフェクト/スイッチ, 77 エンコーダ

Claims (28)

  1. 第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する情報処理装置において、
    上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成するデコード手段と、
    上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成するエンコード手段と、
    上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記エンコード手段の再エンコードを制御する制御手段と、
    上記第1の符号化ストリーム及び上記第2の符号化ストリームと上記エンコード手段により生成された上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する編集手段と
    を備える情報処理装置。
  2. 上記制御手段は、上記第3の画像データを対象としてディスプレイオーダで上記第1の切換点の直後に位置するピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御する
    請求項1に記載の情報処理装置。
  3. 上記制御手段は、レート制御で割り当てられる量子化値よりも小さな量子化値で、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御する
    請求項1に記載の情報処理装置。
  4. 上記編集手段は、上記第1の符号化ストリームに設定された第1の編集点に対して、ディスプレイオーダにおいて過去のピクチャを出力するとともに、上記第2の符号化ストリームに設定された第2の編集点に対して、ディスプレイオーダにおいて未来のピクチャを出力することにより、上記編集符号化ストリームを生成する
    請求項1に記載の情報処理装置。
  5. 上記制御手段は、上記第1の符号化ストリーム又は第2の符号化ストリームのビットレートが閾値よりも低い場合に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記エンコード手段の再エンコードを制御する
    請求項1に記載の情報処理装置。
  6. 上記制御手段は、上記第1の符号化ストリーム又は第2の符号化ストリームのビットレートが閾値よりも高い場合に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャからの参照予測をなくすように予測方向を限定して、上記第3の画像データのピクチャをBピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御する
    請求項5に記載の情報処理装置。
  7. 上記第1の符号化ストリームにおける第1の編集点及び上記第2の符号化ストリームにおける第2の編集点を設定する編集点設定手段を更に備える
    請求項1に記載の情報処理装置。
  8. 上記第1の符号化ストリームにおける第1の切換点及び上記第2の符号化ストリームにおける第2の切換点を設定する切換点設定手段を更に備える
    請求項1に記載の情報処理装置。
  9. 上記第1の編集点を含む第1の区間及び上記第2の編集点を含む第2の区間を設定する区間設定手段を更に備える
    請求項1に記載の情報処理装置。
  10. 上記エンコード手段は、MPEG方式でエンコードを行う
    請求項1に記載の情報処理装置。
  11. 上記エンコード手段は、Open GOP構造のLong GOP方式でエンコードを行う
    請求項8に記載の情報処理装置。
  12. 第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する情報処理装置の情報処理方法において、
    上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成し、
    上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成し、
    上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードを制御し、
    上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成した上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する
    ステップを含む情報処理方法。
  13. 第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する処理をコンピュータに実行させるプログラムにおいて、
    上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成し、
    上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成し、
    上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードを制御し、
    上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成した上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する
    ステップを含むプログラム。
  14. 第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する処理をコンピュータに実行させるプログラムが記録されている記録媒体において、
    上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成し、
    上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成し、
    上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第1の切換点よりも前に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードを制御し、
    上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成した上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する
    ステップを含むプログラムが記録されている記録媒体。
  15. 第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する情報処理装置において、
    上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成するデコード手段と、
    上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成するエンコード手段と、
    上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後のピクチャをIピクチャ又はPピクチャとしてエンコードし、エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記エンコード手段の再エンコードを制御する制御手段と、
    上記第1の符号化ストリーム及び上記第2の符号化ストリームと上記エンコード手段により生成された上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する編集手段と
    を備える情報処理装置。
  16. 上記制御手段は、上記第3の画像データを対象としてディスプレイオーダで上記第2の切換点の直前に位置するピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後に位置するピクチャをIピクチャ又はPピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御する
    請求項15に記載の情報処理装置。
  17. 上記制御手段は、レート制御で割り当てられる量子化値よりも小さな量子化値で、ディスプレイオーダで上記第2の切換点よりも後に位置するピクチャをIピクチャ又はPピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御する
    請求項15に記載の情報処理装置。
  18. 上記編集手段は、上記第1の符号化ストリームに設定された第1の編集点に対して、ディスプレイオーダにおいて過去のピクチャを出力するとともに、上記第2の符号化ストリームに設定された第2の編集点に対して、ディスプレイオーダにおいて未来のピクチャを出力することにより、上記編集符号化ストリームを生成する
    請求項15に記載の情報処理装置。
  19. 上記制御手段は、上記第1の符号化ストリーム又は第2の符号化ストリームのビットレートが閾値よりも低い場合に、ディスプレイオーダで上記第2の切換点よりも後に位置するピクチャをIピクチャ又はPピクチャとして再エンコードし、再エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記エンコード手段の再エンコードを制御する
    請求項15に記載の情報処理装置。
  20. 上記制御手段は、上記第1の符号化ストリーム又は第2の符号化ストリームのビットレートが閾値よりも高い場合に、ディスプレイオーダで上記第2の切換点よりも後に位置するピクチャからの参照予測をなくすように予測方向を限定して、上記第3の画像データのピクチャをBピクチャとして再エンコードするように、上記エンコード手段の再エンコードを制御する
    請求項19に記載の情報処理装置。
  21. 上記第1の符号化ストリームにおける第1の編集点及び上記第2の符号化ストリームにおける第2の編集点を設定する編集点設定手段を更に備える
    請求項15に記載の情報処理装置。
  22. 上記第1の符号化ストリームにおける第1の切換点及び上記第2の符号化ストリームにおける第2の切換点を設定する切換点設定手段を更に備える
    請求項15に記載の情報処理装置。
  23. 上記第1の編集点を含む第1の区間及び上記第2の編集点を含む第2の区間を設定する区間設定手段を更に備える
    請求項15に記載の情報処理装置。
  24. 上記エンコード手段は、MPEG方式でエンコードを行う
    請求項15に記載の情報処理装置。
  25. 上記エンコード手段は、Open GOP構造のLong GOP方式でエンコードを行う
    請求項24に記載の情報処理装置。
  26. 第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する情報処理装置の情報処理方法において、
    上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成し、
    上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成し、
    上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後のピクチャをIピクチャ又はPピクチャとしてエンコードし、エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードを制御し、
    上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成した上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する
    ステップを含む情報処理方法。
  27. 第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する処理をコンピュータに実行させるプログラムにおいて、
    上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成し、
    上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成し、
    上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後のピクチャをIピクチャ又はPピクチャとしてエンコードし、エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードを制御し、
    上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成した上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する
    ステップを含むプログラム。
  28. 第1の符号化ストリームと第2の符号化ストリームとを接続点で接続する処理をコンピュータに実行させるプログラムが記録されている記録媒体において、
    上記第1の符号化ストリームに設定された第1の切換点及び第1の編集点を含む第1の区間をデコードして第1の画像データを生成すると共に、上記第2の符号化ストリームに設定された第2の編集点及び第2の切換点を含む第2の区間をデコードして、第2の画像データを生成し、
    上記第1の画像データと上記第2の画像データとが上記第1の編集点と上記第2の編集点とで接続された第3の画像データを再エンコードして、再符号化ストリームを生成し、
    上記第3の画像データのピクチャをBピクチャとして再エンコードする際に、ディスプレイオーダで上記第2の切換点よりも後のピクチャをIピクチャ又はPピクチャとしてエンコードし、エンコードしたピクチャをデコードして得られるピクチャを参照予測ピクチャとして利用するように、上記第3の画像データの再エンコードを制御し、
    上記第1の符号化ストリーム及び上記第2の符号化ストリームと生成した上記再符号化ストリームとを、上記第1の切換点及び第2の切換点で切り換えて出力することによって、編集された編集符号化ストリームを生成する
    ステップを含むプログラムが記録されている記録媒体。
JP2004245375A 2004-08-25 2004-08-25 情報処理装置および情報処理方法、記録媒体、並びに、プログラム Expired - Fee Related JP4174728B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004245375A JP4174728B2 (ja) 2004-08-25 2004-08-25 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
US11/207,826 US7558465B2 (en) 2004-08-25 2005-08-22 Information processing apparatus and information processing method, recording medium, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004245375A JP4174728B2 (ja) 2004-08-25 2004-08-25 情報処理装置および情報処理方法、記録媒体、並びに、プログラム

Publications (2)

Publication Number Publication Date
JP2006067096A JP2006067096A (ja) 2006-03-09
JP4174728B2 true JP4174728B2 (ja) 2008-11-05

Family

ID=35943029

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004245375A Expired - Fee Related JP4174728B2 (ja) 2004-08-25 2004-08-25 情報処理装置および情報処理方法、記録媒体、並びに、プログラム

Country Status (2)

Country Link
US (1) US7558465B2 (ja)
JP (1) JP4174728B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8126312B2 (en) * 2005-03-31 2012-02-28 Apple Inc. Use of multiple related timelines
EP2471450A1 (en) 2005-10-14 2012-07-04 Nanostim, Inc. Leadless cardiac pacemaker and system
JP4229149B2 (ja) * 2006-07-13 2009-02-25 ソニー株式会社 ビデオ信号処理装置およびビデオ信号処理方法、ビデオ信号符号化装置およびビデオ信号符号化方法、並びにプログラム
JP4793150B2 (ja) * 2006-07-14 2011-10-12 ソニー株式会社 ビデオ信号処理装置およびビデオ信号情報処理方法、並びにプログラム
JP4221676B2 (ja) * 2006-09-05 2009-02-12 ソニー株式会社 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP2008066851A (ja) * 2006-09-05 2008-03-21 Sony Corp 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP2009077105A (ja) * 2007-09-20 2009-04-09 Sony Corp 編集装置および編集方法、プログラム、並びに記録媒体
CN105474642B (zh) * 2014-05-22 2018-10-26 微软技术许可有限责任公司 使用频域差对图像集合重新编码的方法、***以及介质
US20160360219A1 (en) * 2015-06-05 2016-12-08 Apple Inc. Preventing i-frame popping in video encoding and decoding

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10155156A (ja) 1996-11-22 1998-06-09 Sony Corp 映像信号切換装置とその方法
WO1999005864A1 (fr) * 1997-07-25 1999-02-04 Sony Corporation Dispositif d'edition, procede d'edition, dispositif d'epissage, procede d'epissage, dispositif de codage et procede de codage
US6141358A (en) * 1997-07-25 2000-10-31 Sarnoff Corporation Method and apparatus for aligning sub-stream splice points in an information stream
US6912251B1 (en) 1998-09-25 2005-06-28 Sarnoff Corporation Frame-accurate seamless splicing of information streams
GB9908809D0 (en) 1999-04-16 1999-06-09 Sony Uk Ltd Signal processor
JP2002125232A (ja) 2000-10-12 2002-04-26 Matsushita Electric Ind Co Ltd 動画像データの符号化装置およびその方法
JP4524908B2 (ja) * 2000-11-08 2010-08-18 日本電気株式会社 動画像編集方法、動画像編集装置及び動画像編集プログラムを記憶した記憶媒体

Also Published As

Publication number Publication date
US7558465B2 (en) 2009-07-07
JP2006067096A (ja) 2006-03-09
US20060045188A1 (en) 2006-03-02

Similar Documents

Publication Publication Date Title
JP4207072B2 (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
KR101119685B1 (ko) 정보 처리 장치, 정보 처리 방법, 및 기록 매체
US6792045B2 (en) Image signal transcoder capable of bit stream transformation suppressing deterioration of picture quality
JP2000278692A (ja) 圧縮データ処理方法及び処理装置並びに記録再生システム
JPH10145798A (ja) デジタル符号化信号処理方式
US7558465B2 (en) Information processing apparatus and information processing method, recording medium, and program
JP4342139B2 (ja) 信号処理装置
JP2007059996A (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
US20070263731A1 (en) Moving Picture Re-Encoding Apparatus, Moving Picture Editing Apparatus, Program, and Recording Medium
JP4224778B2 (ja) ストリーム変換装置および方法、符号化装置および方法、記録媒体、並びに、プログラム
US7346108B2 (en) Encoded-data converting apparatus and method for the same
JP2002199392A (ja) 映像符号化方法および装置
JP3182329B2 (ja) 符号化データ編集装置とデータ復号装置
JPH08251582A (ja) 符号化データ編集装置
JP3487205B2 (ja) 画像データ編集装置
JP4333522B2 (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP2010154502A (ja) 画像編集装置および画像編集方法
JP4539028B2 (ja) 画像処理装置および画像処理方法、記録媒体、並びに、プログラム
JP4674767B2 (ja) 動画像編集方法および装置
JP3188081B2 (ja) 画像符号化方法および画像符号化装置
JP2010130516A (ja) 画像編集装置および画像編集方法
JP2006067098A (ja) 情報処理装置および情報処理方法、記録媒体、並びに、プログラム
JP2008066845A (ja) 情報処理装置および方法、記録媒体、並びにプログラム
JP2003309803A (ja) ビデオストリーム編集装置
JPH11122580A (ja) 画像信号の編集装置、符号化装置及び復号装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080724

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080806

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees