JP2001094875A - 画像合成システム及び方法 - Google Patents

画像合成システム及び方法

Info

Publication number
JP2001094875A
JP2001094875A JP27139299A JP27139299A JP2001094875A JP 2001094875 A JP2001094875 A JP 2001094875A JP 27139299 A JP27139299 A JP 27139299A JP 27139299 A JP27139299 A JP 27139299A JP 2001094875 A JP2001094875 A JP 2001094875A
Authority
JP
Japan
Prior art keywords
picture
data
image
macro block
sub
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP27139299A
Other languages
English (en)
Other versions
JP3880255B2 (ja
Inventor
Koji Numata
孝司 沼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP27139299A priority Critical patent/JP3880255B2/ja
Priority to US09/666,525 priority patent/US6697528B1/en
Publication of JP2001094875A publication Critical patent/JP2001094875A/ja
Application granted granted Critical
Publication of JP3880255B2 publication Critical patent/JP3880255B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/488Data services, e.g. news ticker
    • H04N21/4884Data services, e.g. news ticker for displaying subtitles

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)

Abstract

(57)【要約】 【課題】 MPEGデコード時に次のフレームの予測画
像として画像データバッファに蓄積されている復元画像
の参照を可能にする。 【解決手段】 MPEG方式で圧縮された主画像データ
と、MPEGと異なる方式で圧縮された副画像データと
を合成する画像合成システムに、主画像データの逆量子
化、逆DCT処理後、Iピクチャ、Pピクチャ、Bピク
チャの伸長をマクロブロック毎に行うMC処理部124
と、Iピクチャのマクロブロックを1フレーム分格納す
るマクロブロック格納部133と、副画像データをMP
EG方式のマクロブロックに変換し、副画像に重なる部
分のマクロブロックのデータとマクロブロック格納部に
格納されているマクロブロックのデータとを半透明合成
し、半透明合成されたマクロブロックのデータをMC処
理部で伸長が行われるBピクチャのマクロブロックとし
て作成する副画像マクロブロック生成部134、13
5、136とを備える。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は画像合成システムに関す
る。特に、本発明は、MPEG(Moving Pic
ture Coding Experts Grou
p)方式で圧縮された画像データと、ランレングス方式
で圧縮された画像データとを合成する画像合成システム
及び方法に関する。
【0002】
【従来の技術】図8は本発明の前提となる画像合成シス
テムを説明する図である。本図に示すように、本発明の
前提となる画像合成システムにおいては、MPEG方式
で圧縮された主画像データと、ランレングス方式で圧縮
された映画、カラオケの字幕などの副画像データとがそ
れぞれ復号され、半透明合成処理後、再生表示が行われ
る。
【0003】MPEG方式では、動き補償のため、次の
フレームの予測画像として参照されるように、復元画像
が画像データバッファに蓄積されている。
【0004】
【発明が解決しょうとする課題】しかしながら、MPE
Gデコード、ランレングスデコードのデコード処理、合
成処理をソフトウエアで処理する場合に、従来はMPE
Gデコード後の画像データバッファ上で副画像の合成処
理を行っていたためMPEGデコード後の画像データバ
ッファに蓄積されている復元画像が書き換えられてい
た。
【0005】このように、画像データバッファの主画像
の復元画像が副画像と合成されているため、MPEGデ
コード時に次のフレームの予測画像として画像データバ
ッファに蓄積されている復元画像を参照できない。
【0006】また、パーソナルコンピュータには、MP
EGデコーダのハードウエアを搭載し、MPEG動画を
表示するものがある。このようなパーソナルコンピュー
タでは、パーソナルコンピュータのCPU(Centr
al Processing Unit)の処理負荷に
余裕がないと前述した主画像と副画像を半透明合成処理
することができないという問題がある。
【0007】このため、パーソナルコンピュータの表示
装置に特別のハードウエアを設ける場合があった。した
がって、本発明は上記問題点に鑑みて、特別のハードウ
ェアを設けずにソフトウェアのみで実現し、且つ合成処
理の負荷を少なくするための画像合成システム及び方法
を提供することを目的とする。
【0008】
【課題を解決するための手段】本発明は前記問題点を解
決するために、MPEG方式で圧縮された主画像データ
と、前記MPEGと異なる方式で圧縮された副画像デー
タとを合成する画像合成システムにおいて、前記主画像
データが逆量子化され、逆DCT処理された後、Iピク
チャ、Pピクチャ、Bピクチャの伸長をマクロブロック
毎に行うMC処理部と、前記主画像データのIピクチャ
のマクロブロックを格納するマクロブロック格納部と、
前記副画像データをMPEG方式のマクロブロックに変
換し、前記副画像に重なる部分のマクロブロックのデー
タと前記マクロブロック格納部に格納されているマクロ
ブロックのデータとを半透明合成し、半透明合成された
マクロブロックのデータを、前記MC処理部で伸長が行
われるBピクチャのマクロブロックとして作成する副画
像マクロブロック生成部とを備えることを特徴とする画
像合成システムを提供する。
【0009】この手段により、副画像と合成し、作成し
たBピクチャの画像がMC処理部で伸長されるので、合
成画像の復元が可能になり、且つ合成処理の負荷が少な
くなり、MPEGデコーダを搭載したパーソナルコンピ
ュータの表示装置に特別のハードウエアを必要としなく
なった。
【0010】さらに、本発明は、MPEG方式で圧縮さ
れた主画像データと、前記MPEGと異なる方式で圧縮
された副画像データとを合成する画像合成システムにお
いて、前記主画像データが逆量子化され、逆DCT処理
された後、Iピクチャ、Pピクチャ、Bピクチャの伸長
をマクロブロック毎に行い、且つIピクチャ、Pピクチ
ャのうち参照Iピクチャ、Pピクチャとして利用されな
いように制御を行うMC処理部と、前記主画像データの
Iピクチャのマクロブロックを格納するマクロブロック
格納部と、前記副画像データをMPEG方式のマクロブ
ロックに変換し、前記副画像に重なる部分のマクロブロ
ックのデータと前記マクロブロック格納部に格納されて
いるマクロブロックのデータとを半透明合成し、半透明
合成されたマクロブロックのデータが、前記MC処理部
で利用されない前記参照Iピクチャ、Pピクチャのマク
ロブロックとして作成され、伸長される副画像マクロブ
ロック生成部とを備えることを特徴とする画像合成シス
テムを提供する。
【0011】この手段により、副画像と合成し、作成し
たIピクチャ、Pピクチャの画像がMC処理部で伸長さ
れるので、合成画像の復元が可能になり、且つ合成処理
の負荷が少なくなり、MPEGデコーダを搭載したパー
ソナルコンピュータの表示装置に特別のハードウェアを
必要としなくなった。好ましくは、前記副画像がランレ
ングス方式で圧縮されてもよい。この手段により、ラン
レングス方式で圧縮された副画像は、映画、カラオケの
字幕などに使用される。
【0012】好ましくは、前記半透明合成の処理は:コ
ントラスト値が0から15の16通りの合成比を持つ場
合には、 Y3=(k×(Y1−Y2))÷16 U3=(k×(U1−U2))÷16 V3=(k×(V1−V2))÷16
【0013】ただし、k=コントラスト値+1(コント
ラスト値=0の時はk=0とする) ここに、Y1、U1、V1:主画像の色データ Y2、U2、V2:副画像の色データ Y3、U3、V3:合成後の差分データとして行われ
る。
【0014】この手段により、半透明合成処理の負担を
軽減できる。好ましくは、前記マクロブロック格納部
は、前記MC処理部124の出力を格納する。この手段
により、副画像データの作成が可能になる。
【0015】さらに、本発明は、MPEG方式で圧縮さ
れた主画像データと、前記MPEGと異なる方式で圧縮
された副画像データとを合成する画像合成方法におい
て、前記主画像データが逆量子化され、逆DCT処理さ
れた後、Iピクチャ、Pピクチャ、Bピクチャの伸長を
マクロブロック毎に行う工程と、前記主画像データのI
ピクチャのマクロブロックを格納する工程と、前記副画
像データをMPEG方式のマクロブロックに変換し、前
記副画像に重なる部分のマクロブロックのデータと格納
されている前記マクロブロックのデータとを半透明合成
し、半透明合成されたマクロブロックのデータを、伸長
時にBピクチャのマクロブロックとして伸長する工程と
を備えることを特徴とする画像合成方法を提供する。
【0016】この手段により、上記発明と同様に、副画
像と合成し、作成したBピクチャの画像がMC処理部で
伸長されるので、合成画像の復元が可能になり、且つ合
成処理の負荷が少なくなり、MPEGデコーダを搭載し
たパーソナルコンピュータの表示装置に特別のハードウ
ェアを必要としなくなった。
【0017】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照して説明する。図1は本発明に係る画像合
成システムの概略構成を示すブロック図である。本図に
示すように、画像合成システムには記憶装置100が設
けられ、記憶装置100はMPEG(Moving P
icture Coding Experts Gro
up)方式等で圧縮符号化された主画像データと、ラン
レングス方式等で圧縮符号化された映画、カラオケの字
幕などの副画像データとの多重化データを記憶してい
る。
【0018】記憶装置100にはデータ分離部110が
接続され、データ分離部110は記憶装置100から読
み出した多重化データから、圧縮主画像データと圧縮副
画像との分離処理を施す。データ分離部110には主画
像処理部120と副画像処理部130が接続され、主画
像処理部120にはデータ分離部110から分離処理さ
れた圧縮主画像が入力され、副画像処理部130にはデ
ータ分離部110から分離処理された圧縮副画像が入力
される。
【0019】主画像処理部120にはハフマン復号部1
21が設けられ、ハフマン復号部121はデータ分離部
110に接続され、MPEG方式等で圧縮符号化された
画像データのハフマン復号処理を施す。ハフマン復号部
121には逆量子化部122が接続され、逆量子化部1
22はMPEG方式等で圧縮符号化された画像データの
逆量子化処理を施す。
【0020】逆量子化部122にはIDCT(Inve
rse Discrete Cosine Trans
fer)部123が接続され、IDCT部123はMP
EG方式等で圧縮符号化された画像データのIDCT処
理を施す。IDCT部123にはMC(動き補償)部1
24が接続され、MC処理部124は、IDCT後のデ
ータ、つまり、1ピクチャ分のマクロブロックデータを
入力するとともに、MPEG方式等で圧縮符号化された
画像データのMC処理を施し、MC後の画像データは1
枚の画像データとして表示される。
【0021】さらに、IDCT部123には副画像処理
部130のマクロブロック格納部133が接続され、マ
クロブロック格納部133は、IDCT処理された画像
データのうち後述するIピクチャのマクロブロックデー
タを格納する。副画像処理部130には副画像復号部1
31が設けられ、副画像復号部131はランレングス方
式等で圧縮符号化された副画像の復号処理を行なう。
【0022】副画像復号部131には副画像フレームバ
ッファ132が接続され、副画像フレームバッファ13
2は副画像復号部131により復号処理された画像デー
タを保持する。副画像フレームバッファ132にはマク
ロブロック分離部134が接続され、マクロブロック分
離部134は副画像フレームバッファ132により保持
された画像データをMPEG方式等のマクロブロックデ
ータとして分離する。
【0023】マクロブロック分離部134には差分マク
ロブロック作成部135が接続され、差分マクロブロッ
ク作成部135は、マクロブロック分離部134で分離
されたマクロブロックが副画像の位置に重なる場合、分
離されたマクロブロックデータと同位置のマクロブロッ
クデータをマクロブロック格納部133から読み込み、
半透明合成処理を施したマクロブロックデータをIピク
チャに対する差分マクロブロックデータとして作成す
る。
【0024】差分マクロブロック作成部135により作
成された差分マクロブロックデータは主画像処理部12
0内のMC処理部124の入力側に出力される。さら
に、マクロブロック分離部134にはスキップドマクロ
ブロック作成部136が接続され、マクロブロック分離
部134は、マクロブロック分離部134で分離された
マクロブロックのうち副画像の位置に重ならない部分の
マクロブロックをスキップドマクロブロックとし、スキ
ップドマクロブロック作成部136にその旨を通知す
る。
【0025】なお、スキップドマクロブロックでは差分
マクロブロックデータが0である。スキップドブロック
作成部136ではマクロブロック分離部134から通知
を受けると、MC処理部124に入力側に対してスキッ
プドマクロブロックであることをフラグなどで通知し、
スキップドマクロブロックデータがMC処理部124の
入力側に出力される。
【0026】副画像処理時は、主画像処理部120内の
MC処理部124の入力側では、副画像処理部でBピク
チャとして作成したマクロブロックデータが入力され
る。
【0027】副画像処理時は、MC処理部124は、副
画像処理部で作成したBピクチャのマクロブロックデー
タにMC処理を施し、MC後の画像データは1枚の画像
データとして表示される。図2は主画像のマクロブロッ
クデータの形式を示す図である。本図(a)に示すよう
に、主画像処理部120のIDCT部123でIDCT
処理され、MC処理部124に入力されるマクロブロッ
クデータの形式は、本図に示すように、縦16画素、横
16画素分のYUV(Y:輝度信号、U:R−Yの色差
信号、V:B−Yの色差信号、R:Red、B:Blu
e)データとする。
【0028】本図(b)に示すように、UVデータにつ
いてそれぞれYデータの縦横1/2とし、8ビットのY
データ4個に対し8ビットのUVデータそれぞれ1個が
対応することとする。図3は副画像フレームバッファ1
32に格納されるマクロブロックデータ形式を示す図で
ある。本図(a)に示すように、副画像処理部130の
副画像復号部131で復号され副画像フレームバッファ
132に格納される副画像のデータ形式は、本図(b)
に示すように、1画素当り0〜15の値を持つ4ビット
のコントラスト値(Constrast)と、0〜15
の値を持つ4ビットのインデックス値(Index)と
の計8ビットの副画像フレームデータと、4ビットのイ
ンデックス値からYUV各8ビットの色データを参照す
る副画像カラーテーブルとから構成されているものとす
る。
【0029】本図(c)に示すように、マクロブロック
分離部134から出力される副画像のマクロブロックデ
ータ形式は、縦16画素、横16画素分のYUVデータ
及びコントラスト値で構成されているものとする。ここ
で、コントラスト値0は透明を現し、コントラスト値1
5は非透明を現し、コントラスト値1〜14は半透明を
現す。
【0030】図4はMPEG方式の主画像データのピク
チャ構成を示す図である。MPEG方式のピクチャタイ
プには、そのピクチャのみで伸長が可能なIピクチャ
(Intra−Coded Picture)と、前の
Iピクチャ又はPピクチャ(Pedictive−Co
ded Picture)を参照して伸長するPピクチ
ャと、2つのIピクチャ又はPピクチャを参照して伸長
するB(Bidirectionally Predi
ctive Coded−Picture)ピクチャが
存在する。
【0031】また、圧縮データに現れるピクチャの順番
と表示するピクチャの順番には違いがある。本図に示す
ように、圧縮データの順番を、 I0、P1、B2、B3、P4、B5、B6、I7、B
8、… とすると、表示の順番は、 I0、B2、B3、P1、B5、B6、P4、B8、I
7、… となり、Bピクチャの前にあるIピクチャ又はPピクチ
ャはBピクチャの後に表示されることになる。
【0032】なお、図中、I、P、Bはピクチャタイプ
を示し、ピクチャタイプに続く数字は圧縮データに現れ
るピクチャの順番である。このように、Iピクチャ、P
ピクチャは他のピクチャに参照されるが、Bピクチャは
他のピクチャに参照されることはない。すなわち、MC
処理部124の予測メモリ1、予測メモリ2にはIピク
チャ又はPピクチャが記憶され、Bピクチャは記憶され
ない。
【0033】MC処理部124では、各ピクチャの参
照、伸長等のMC処理が行われる。本実施の形態では、
Bピクチャが参照に用いられないため、副画像データを
合成した画像データをMPEG方式のBピクチャとして
処理する方法が取られる。図5はマクロブロック分離部
134により作成されるマクロブロックデータを説明す
る図である。マクロブロック分離部134は、本図
(a)に示すように、副画像フレームバッファ132か
ら主画像サイズの副画像の左上から右方向に順番に縦1
6画素、横16画素のマクロブロックデータを取り出
す。
【0034】マクロブロック分離部134が取り出した
マクロブロックデータのうち、副画像に重なる部分のマ
クロブロックは、縦16画素、横16画素分のコントラ
スト、Y、U、Vの副画像マクロブロックデータとす
る。なお、Yの副画像マクロブロックデータは、後述す
る半透明合成の計算のためにY0部、Y1部、Y2部、
Y3部に分割される。
【0035】マクロブロック分離部134は、取り出し
たマクロブロックデータのうち、主画像サイズ中、副画
像に重ならないマクロブロックデータをスキップドマク
ロブロックとし、前述のように、スキップドマクロブロ
ック作成部136に通知する。
【0036】図6は差分マクロブロック作成部135の
処理の流れを示すフローチャートであり、図7は差分マ
クロブロック作成部135におけるマクロブロックのデ
ータ構成を示す図であり、図7(a)は差分マクロブロ
ック作成部135が取り出す主画像のマクロブロックデ
ータを示し、図7(b)は差分マクロブロック作成部1
35が取り出す副画像のマクロブロックデータを示し、
図7(c)は差分マクロブロック作成部135が出力す
る半透明合成後の差分マクロブロックデータを示す。
【0037】図6に示すように、ステップS01におい
て、差分マクロブロック作成部135の処理のイニシャ
ル(初期化)を行う。ステップS02において、副画像
フレームバッファ132から1マクロブロック分のデー
タを取得する。取得されたマクロブロックデータの構成
は図7(a)、(b)に示すように、縦16画素、横1
6画素分のYUVデータ及びコントラストデータとす
る。ただし、UVデータについてはMPEGのデータ形
式にあわせて縦横1/2のデータサイズとする。
【0038】ステップS03〜ステップS08では、B
ピクチャとして、図7(a)に示すマクロブロックデー
タのY0部、Y1部、Y2部、Y3部、U部、V部の順
に合成後の差分マクロブロックデータを計算し、計算結
果を、図示しない出力バッファに格納する。先ず、ステ
ップS031において、図7(a)に示す形式の主画像
データを取得する。
【0039】ステップS032において、図7(b)に
示す形式の副画像データを取得する。ステップS033
において、Bピクチャに対して、合成後の差分マクロブ
ロックデータを計算する。ステップS034において、
計算結果を図7(c)に示す形式の図示しない出力バッ
ファに格納する。
【0040】ステップS035において、本実施の形態
のようにコントラスト値が0から15の16通りの合成
比を持つ場合には、合成後の差分計算は、次式にしたが
って行う。 Y3=(k×(Y1−Y2))÷16 U3=(k×(U1−U2))÷16
【0041】V3=(k×(V1−V2))÷16 ただし、k=コントラスト値+1(コントラスト値=0
の時はk=0とする) ここに、Y1、U1、V1:主画像の色データ Y2、U2、V2:副画像の色データ
【0042】Y3、U3、V3:合成後の差分データ Y0の画素数分(縦8横8画素分)全て処理したかをチ
ェックして、全て処理終了するまでステップS031〜
ステップS34の処理を繰り返す。ステップS04〜ス
テップS08はステップS03の処理と同様にY1部、
Y2部、Y3部、U部、V部について処理を行い、1マ
クロブロック分のマクロブロック作成処理を終了する。
【0043】以上、副画像データをMPEG方式のマク
ロブロックデータに変換する方法を説明したが、本実施
の形態では、変換したマクロブロックデータをMPEG
方式のBピクチャとして処理する方法とした。Bピクチ
ャの場合には、副画像が合成されても、他のピクチャに
参照されることがなく、復号後、すぐに表示されるため
である。
【0044】Iピクチャ又はPピクチャとして副画像デ
ータを作成した場合は、主画像復号時に参照ピクチャと
して利用される可能性がある。この場合、不正な主画像
データが復号されるためである。ただし、参照ピクチャ
として利用しないように主画像処理部120で制御を追
加すれば、副画像データをIピクチャ、Pピクチャとし
て作成することも可能である。
【0045】また、本実施の形態ではIDCT部123
からの出力をマクロブロック格納部133に格納してお
り、この場合、主画像データがIピクチャならば、副画
像データを作成できるが、主画像データがPピクチャ又
はBピクチャの場合、参照ピクチャのデータがないため
正常な副画像データを作成できない。主画像データがP
ピクチャ又はBピクチャでも副画像データを作成する必
要がある場合は、MC処理部124の出力をマクロブロ
ック格納部133に格納すればよい。
【0046】
【発明の効果】以上説明したように、本発明によれば、
主画像処理部120に特別の処理を加えなくとも、主画
像の復号時に副画像と合成した画像の参照を回避するこ
とが可能になった。MPEG方式などの圧縮画像を復号
する際には、他のピクチャを参照して復号する場合があ
るが、本発明では参照されないBピクチャを利用するた
めである。
【0047】次に、本発明によれば、CPUの処理負荷
に余裕のないMPEGデコーダ搭載のパーソナルコンピ
ュータの表示装置に特別なハードウエアを設ける必要が
ないことである。画像合成処理は標準のMPEG方式に
MC処理を利用した副画像の半透明合成処理を行えるよ
うにしたためである。次に、本発明によれば、主画像に
映画、カラオケの字幕などの副画像を合成する際の合成
処理の負荷をより低減できる。
【0048】通常の半透明合成計算は次式(1)の計算
式によるが、本発明の計算式は次式(2)のようにした
ので、計算量は少なくなるためである。 Y3=(k×Y2+(16−k)×Y1)÷16…(1) Y3=(k×(Y2−Y1))÷16 …(2) MPEGのPピクチャ、Bピクチャは参照するピクチャ
との差分データであり、MC処理部124で参照するピ
クチャとの足し合わせをするため、半透明合成後の差分
計算では足し合わせ前のデータを作成すればよいからで
ある。
【0049】さらに、差分マクロブロック作成部135
で作成されるマクロブロックの数は副画像が含まれるマ
クロブロックの数だけで済み、映画の字幕ように副画像
のサイズが小さい場合は処理量が少ないためである。次
に、本発明によれば、復号後に表示される画像データを
アクセスすることなく主画像と副画像の合成が可能にな
る。IDCT後のマクロブロックデータに対して副画像
のデータを合成するためである。
【図面の簡単な説明】
【図1】本発明に係る画像合成システムの概略構成を示
すブロック図である。
【図2】主画像のマクロブロックデータの形式を示す図
である。
【図3】副画像フレームバッファ132に格納されるマ
クロブロックデータ形式を示す図である。
【図4】MPEG方式の主画像データのピクチャ構成を
示す図である。
【図5】マクロブロック分離部134により作成される
マクロブロックデータを説明する図である。
【図6】差分マクロブロック作成部135の処理の流れ
を示すフローチャートである。
【図7】差分マクロブロック作成部135におけるマク
ロブロックのデータ構成を示す図である。
【図8】本発明の前提となる画像合成システムを説明す
る図である。
【符号の説明】
100…記憶装置 110…データ分離部 120…主画像処理部 121…ハフマン復号部 122…逆量子化部 123…IDCT部 124…MC部 130…副画像処理部 131…副画像復号部 132…副画像フレームバッファ 133…マクロブロック格納部 134…マクロブロック分離部 135…差分マクロブロック作成部 136…スキップドマクロブロック作成部
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 5B057 CA01 CA18 CB01 CB18 CE08 CG01 CG04 CG05 CH08 5C023 AA11 BA11 CA03 DA03 5C059 KK37 MA00 MA01 MA23 ME02 PP04 SS26 UA02 UA05 UA33 UA39 5C076 AA12 BA09

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 MPEG方式で圧縮された主画像データ
    と、前記MPEGと異なる方式で圧縮された副画像デー
    タとを合成する画像合成システムにおいて、 前記主画像データが逆量子化され、逆DCT処理された
    後、Iピクチャ、Pピクチャ、Bピクチャの伸長をマク
    ロブロック毎に行うMC処理部と、 前記主画像データのIピクチャのマクロブロックを格納
    するマクロブロック格納部と、 前記副画像データをMPEG方式のマクロブロックに変
    換し、前記副画像に重なる部分のマクロブロックのデー
    タと前記マクロブロック格納部に格納されているマクロ
    ブロックのデータとを半透明合成し、半透明合成された
    マクロブロックのデータを、前記MC処理部で伸長が行
    われるBピクチャのマクロブロックとして作成する副画
    像マクロブロック生成部とを備えることを特徴とする画
    像合成システム。
  2. 【請求項2】 MPEG方式で圧縮された主画像データ
    と、前記MPEGと異なる方式で圧縮された副画像デー
    タとを合成する画像合成システムにおいて、前記主画像
    データが逆量子化され、逆DCT処理された後、Iピク
    チャ、Pピクチャ、Bピクチャの伸長をマクロブロック
    毎に行い、且つIピクチャ、Pピクチャのうち参照Iピ
    クチャ、Pピクチャとして利用されないように制御を行
    うMC処理部と、 前記主画像データのIピクチャのマクロブロックを格納
    するマクロブロック格納部と、 前記副画像データをMPEG方式のマクロブロックに変
    換し、前記副画像に重なる部分のマクロブロックのデー
    タと前記マクロブロック格納部に格納されているマクロ
    ブロックのデータとを半透明合成し、半透明合成された
    マクロブロックのデータが、前記MC処理部で利用され
    ない前記参照Iピクチャ、Pピクチャのマクロブロック
    として作成する副画像マクロブロック生成部とを備える
    ことを特徴とする画像合成システム。
  3. 【請求項3】 前記副画像がランレングス方式で圧縮さ
    れていることを特徴とする、請求項1又は2に記載の画
    像合成システム。
  4. 【請求項4】 前記半透明合成の処理は:コントラスト
    値が0から15の16通りの合成比を持つ場合には、 Y3=(k×(Y1−Y2))÷16 U3=(k×(U1−U2))÷16 V3=(k×(V1−V2))÷16 ただし、k=コントラスト値+1(コントラスト値=0
    の時はk=0とする) ここに、Y1、U1、V1:主画像の色データ Y2、U2、V2:副画像の色データ Y3、U3、V3:合成後の差分データ として行われることを特徴とする、請求項1又は2に記
    載の画像合成システム。
  5. 【請求項5】 前記マクロブロック格納部は、前記MC
    処理部の出力を格納することを特徴とする、請求項1又
    は2に記載の画像合成システム。
  6. 【請求項6】 MPEG方式で圧縮された主画像データ
    と、前記MPEGと異なる方式で圧縮された副画像デー
    タとを合成する画像合成方法において、 前記主画像データが逆量子化され、逆DCT処理された
    後、Iピクチャ、Pピクチャ、Bピクチャの伸長をマク
    ロブロック毎に行う工程と、 前記主画像データのIピクチャのマクロブロックを格納
    する工程と、 前記副画像データをMPEG方式のマクロブロックに変
    換し、前記副画像に重なる部分のマクロブロックのデー
    タと格納されている前記マクロブロックのデータとを半
    透明合成し、半透明合成されたマクロブロックのデータ
    を、伸長時にBピクチャのマクロブロックとして伸長す
    る工程とを備えることを特徴とする画像合成方法。
JP27139299A 1999-09-24 1999-09-24 画像合成システム及び方法 Expired - Fee Related JP3880255B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP27139299A JP3880255B2 (ja) 1999-09-24 1999-09-24 画像合成システム及び方法
US09/666,525 US6697528B1 (en) 1999-09-24 2000-09-20 Image synthesis system and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP27139299A JP3880255B2 (ja) 1999-09-24 1999-09-24 画像合成システム及び方法

Publications (2)

Publication Number Publication Date
JP2001094875A true JP2001094875A (ja) 2001-04-06
JP3880255B2 JP3880255B2 (ja) 2007-02-14

Family

ID=17499434

Family Applications (1)

Application Number Title Priority Date Filing Date
JP27139299A Expired - Fee Related JP3880255B2 (ja) 1999-09-24 1999-09-24 画像合成システム及び方法

Country Status (2)

Country Link
US (1) US6697528B1 (ja)
JP (1) JP3880255B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7496736B2 (en) * 2004-08-27 2009-02-24 Siamack Haghighi Method of efficient digital processing of multi-dimensional data

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5408274A (en) * 1993-03-11 1995-04-18 The Regents Of The University Of California Method and apparatus for compositing compressed video data
US5568167A (en) * 1994-09-23 1996-10-22 C-Cube Microsystems, Inc. System for providing antialiased video overlays
JP2845857B2 (ja) * 1997-04-01 1999-01-13 コナミ株式会社 画像の半透明表示装置,半透明表示方法,及びコンピュータプログラムを記録した機械読取り可能な記録媒体
US6061099A (en) * 1997-10-14 2000-05-09 Motorola, Inc. Video overlay circuit and method for overlaying a video signal

Also Published As

Publication number Publication date
JP3880255B2 (ja) 2007-02-14
US6697528B1 (en) 2004-02-24

Similar Documents

Publication Publication Date Title
US5990958A (en) Apparatus and method for MPEG video decompression
US7298782B2 (en) Method and apparatus for improved memory management of video images
JPH0746628A (ja) 画像信号符号化装置及び画像信号復号化装置
JP2002521976A5 (ja)
JP5508024B2 (ja) ビデオ信号を符号化するための方法及びシステム、符号化されたビデオ信号、並びに、ビデオ信号を復号するための方法及びシステム
EP1147671B1 (en) Method and apparatus for performing motion compensation in a texture mapping engine
JP3282577B2 (ja) 画像処理装置
JPH10271516A (ja) 圧縮符号化装置、符号化方法、復号化装置および復号化方法
US20040057522A1 (en) MPEG video bitstream decoder system and method
JP2001094875A (ja) 画像合成システム及び方法
JP2008053848A (ja) 画像処理装置及び画像処理方法
JPH08256331A (ja) ビデオデコード装置
TW200934249A (en) Apparatus and method for processing a picture frame
JP2002112267A (ja) 可変解像度復号処理装置
JP2000175199A (ja) 画像処理装置及び方法、並びに提供媒体
KR100585058B1 (ko) 캡션 디스플레이를 위한 엠펙 디코더 및 디코딩 방법
JPH09275563A (ja) Osd機能を有する圧縮画像データの復号装置、及びこれに用いるosdデータの圧縮方法
JP3526316B2 (ja) 動画像圧縮符号化方法
JPH11146396A (ja) 動画像圧縮符号化・復号化方法、動画像圧縮符号化・復号化装置、動画像符号化伝送方法、動画像符号化伝送システムおよび動画像圧縮符号化・復号化プログラムを記録した記録媒体
JP2002305746A (ja) 画像復号処理装置および画像復号処理方法
JP3239824B2 (ja) Mpeg復号装置
JP4789210B2 (ja) 動画像の圧縮符号化方法および装置
JPH09261641A (ja) 圧縮画像データ処理方法及び装置
JP3017646B2 (ja) フレームレート変換機能付き画像復号装置
JP2000032475A (ja) 動画像再生装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20031224

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040220

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040507

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20040607

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20040607

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040707

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040713

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20040903

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20050311

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060925

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061107

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091117

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101117

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111117

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111117

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111117

Year of fee payment: 5

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111117

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121117

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121117

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121117

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121117

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131117

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees