JP3093499B2 - シーンチェンジ検出装置 - Google Patents

シーンチェンジ検出装置

Info

Publication number
JP3093499B2
JP3093499B2 JP35161592A JP35161592A JP3093499B2 JP 3093499 B2 JP3093499 B2 JP 3093499B2 JP 35161592 A JP35161592 A JP 35161592A JP 35161592 A JP35161592 A JP 35161592A JP 3093499 B2 JP3093499 B2 JP 3093499B2
Authority
JP
Japan
Prior art keywords
frame
encoding
unit
scene change
encoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP35161592A
Other languages
English (en)
Other versions
JPH0622304A (ja
Inventor
宏之 熊沢
稔 尾崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP35161592A priority Critical patent/JP3093499B2/ja
Publication of JPH0622304A publication Critical patent/JPH0622304A/ja
Priority to US08/787,449 priority patent/US5815217A/en
Application granted granted Critical
Publication of JP3093499B2 publication Critical patent/JP3093499B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/87Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving scene cut or scene change detection in combination with video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142Detection of scene cut or scene change
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/179Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】この発明は、複数のシーンから構
成される動画像より、シーンの変化するフレームを自動
検出するシーンチェンジ検出装置に関するものである。
【0002】
【従来の技術】図24は従来のシーンチェンジ検出装置
が適用される、予測符号化方式による動画像の符号化装
置および復号化装置の一例を示すブロック図である。図
において、1は直前の1フレーム分の画像データが格納
されているフレームメモリであり、2は入力される画像
信号とこのフレームメモリ1に格納されていた画像デー
タとの差分を算出する減算器である。3は減算器2の出
力を離散コサイン変換(以下、DCTという)するDC
T部、4はこのDCT部3で変換された信号を量子化す
る量子化部であり、5はこの量子化部4で量子化された
信号を符号化して通信路に送出するエントロピー符号化
部である。
【0003】6は前記量子化部4で量子化された信号
に、前記DCT部3とは逆の逆離散コサイン変換(以
下、逆DCTという)を施す逆DCT部であり、7は前
記フレームメモリ1に格納されていた前フレームの画像
データにこの逆DCT部6で逆DCTされた信号を加算
して、再度フレームメモリ1に格納する加算器である。
動画像の符号化装置はこれら各部によって形成されてい
る。
【0004】8は前記符号化装置より通信路に送出され
た符号化データを復号するエントロピー復号化部であ
り、9はこのエントロピー復号化部8にて復号された信
号に対して逆DCTの処理を施す逆DCT部である。1
0は直前の1フレーム分の画像データが格納されている
フレームメモリであり、11は逆DCT部9で逆DCT
処理された画像信号とこのフレームメモリ10に格納さ
れていた画像データとを加算して画像信号を再生する加
算器である。動画像の復号化装置はこれら各部によって
形成されている。
【0005】次に動作について説明する。動画像の符号
化装置に入力された画像信号は減算器2において、フレ
ームメモリ1に蓄えられていた直前のフレームの画像デ
ータと同一位置の画素ごとに差分が計算される。この減
算器2による減算結果はDCT部3に送られ、適当な大
きさの2次元ブロック(通常は8×8画素程度のブロッ
ク)に分割された上で、各ブロックごとにDCTの処理
が施される。DCT部3の演算結果は量子化部4に送ら
れて有限個の代表値で近似されて量子化され、この量子
化部4より出力される前記代表値は、エントロピー符号
化部5と逆DCT部6に送られ、各々の処理が加えられ
る。
【0006】まず、エントロピー符号化部5では、量子
化部4より受けた代表値に、その生起頻度に応じた可変
長符号を割り当てて符号化し(一般に、生起頻度の高い
量子化出力ほど短い符号が割り当てられる)、符号化デ
ータを通信路に送出する。ここで、通信路とは仮想的な
ものであり、実際の通信路であったり、或いは、記憶媒
体であったりする。このことは、以下の説明においても
同様である。
【0007】一方、逆DCT部6では、量子化部4の出
力に対してDCT部3における操作とは逆の逆DCTが
施され、その結果が加算器7に送られる。加算器7では
この逆DCT部6の出力とフレームメモリ1に蓄えられ
た前フレームの画像データを同一位置にある画素ごとに
加算し、加算結果をフレームメモリ1に再格納する。1
フレーム分の処理が終了すると、フレームメモリ1には
現フレームの画像データが再構成され、次のフレームの
予測処理時に直前のフレームの画像データとして利用さ
れる。
【0008】一方、動画像の復号化装置では、通信路よ
り受け取った符号化データが、エントロピー符号化とい
う手法によって、データの出現確率に応じた可変長符号
に符号化されているものであるため(一般に、生起確率
の高いデータほど短い符号が割り当てられる)、まずエ
ントロピー復号化部8においてその復号を行う。この復
号結果はDCT処理により周波数領域に変換されたもの
であり、従って、逆DCT部9に送って時間領域のデー
タに変換する。逆DCT部9の出力は加算器11におい
てフレームメモリ10に蓄えられている直前フレームの
画像データと同一位置の画素ごとに加算される。この加
算結果は現フレームの画像信号として出力され、また、
フレームメモリ10に記憶されて次フレームの復号に利
用される。
【0009】なお、この場合、量子化部4の出力は代表
値に割り当てられた固定長の番号ではなく、便宜上、代
表値そのものであると仮定しているが、この仮定は特に
一般性を損なうものではない。また、以下においても、
量子化部4の出力は代表値そのものであるとして説明を
行う。
【0010】ここで、マルチメディア処理技術の進歩に
より、動画像を計算機で自由に扱えることがマルチメデ
ィアの必須条件になりつつある。動画像は1秒当り数十
フレームの静止画像の連続として捉えることができる
が、さらに、大局的に眺めると、複数の連続するフレー
ムから構成されるシーンの連続と考えることもできる。
そして、計算機という情報処理装置で動画像を扱うこと
を考えると、前者のフレームの連続として捉えるより、
ある意味的にまとまりのあるシーンの連続として捉える
方が都合が良い。
【0011】例えば、動画像の編集を行うことを考えて
みた場合、動画像の編集は、撮影された動画像を映像素
材として用い、これを適宜つなぎ合わせたりカットした
りすることにより、全体として編集者の意図する映像に
組み上げる作業である。この編集作業では、意味的にま
とまりのあるシーンが編集の基本単位になる場合が多
い。計算機を用いてこの動画像の編集を行う場合、従来
は熟練者がシーンの変化を識別すると共に、この識別結
果に基づいて編集作業を行うことが多かった。そして、
ここでは、計算機は単なるマンマシンインタフェースの
道具として編集環境を提供するだけであった。
【0012】しかしながら、今後マルチメディア技術が
広く社会に広がり、家庭にまで浸透することが予想され
る状況において、熟練者のみならず、素人が計算機を用
いて動画像の編集を行うことを考慮しておく必要があ
る。このとき、計算機が動画像をシーンの集まりとして
管理していることが望ましく、さらに、自動的に動画像
のシーンの変化点を認識し、その結果を計算機が利用で
きることが望ましいことは言うまでもない。そして、そ
のための要素技術の研究が各所で進められている。
【0013】図25は、例えば情報処理学会第40回
(平成2年前期)全国大会の発表論文1Q−5(予稿集
第642〜643頁)“ビデオ作品の場面変わり自動検
出法”に示された、従来のシーンチェンジ検出装置のア
ルゴリズムを示すフローチャートである。図において、
ST1は画面の分割処理、ST2は色分布の計数処理、
ST3は相関度の計算処理、ST4は相関計数の計算処
理、ST5はしきい値との比較処理、ST6はシーンチ
ェンジ判定処理、ST7は非シーンチェンジ判定処理、
ST8は次フレームへの移行処理である。
【0014】次に動作について説明する。まず、ステッ
プST1において動画像のフレームがn×n=n2 画面
に分割され、ステップST2で各分割画面ごとの色の分
布が計測される。次にステップST3で前フレームと現
フレームの対応する分割画面ごとに色の分布の相関度を
求める。この相関度としては様々なものを考えることが
できるが、ここでは次式のカイ2乗統計量xk 2(K=
1,2,・・・n2 )を用いる。
【0015】
【数1】
【0016】式(1)において、mi は現フレームの分
割画面における色iの分布、Yi は前フレームで対応す
る分割画面におけるiという色の分布を表わしている。
そしてステップST4において、次式により相関度の総
和を計算して相関係数rを求める。
【0017】
【数2】
【0018】次に、ステップST5でこの相関係数rと
あらかじめ設定されているしきい値とを比較し、その大
小関係に応じて現フレームがシーンチェンジであるか否
かをステップST6もしくはST7にて判断し、その
後、ステップST8にて次のフレームへ処理を移行させ
るようになっている。
【0019】
【発明が解決しようとする課題】従来のシーンチェンジ
検出装置は以上のように構成されているので、動画像の
フレームごとに色の分布を調べると共に、フレーム間で
の相関係数を求める、という複雑な処理を行わなければ
ならず、これらの処理を汎用的なプロセッサで実行した
場合、到底実時間処理は不可能であり、シーンチェンジ
の自動検出を実時間処理を実現するためには専用のハー
ドウェアが必要となり、また、今後計算機で動画像を扱
うことを考えると、動画像は当然ディジタル化され、し
かも、ディジタル動画像の膨大なデータ量を削減するた
め、動画像符号化技術によりデータ量を削減した後に、
計算機内部に取り込まれるものと予想されるが、その場
合にも、上記従来例の処理では動画像符号化/復号化と
は全く独立した処理であり、従って、動画像符号化ある
いは復号化に際して、動画像のフレーム間に渡って複雑
な処理が行われているにもかかわらず、その処理結果を
利用できず、動画像符号化前、あるいは復号後の画像信
号に対して上記の複雑な処理を実行しなければならない
という問題点があった。
【0020】この発明は上記のような問題点を解消する
ためになされたものであり、動画像の符号化あるいは復
号に際して計算される様々な特徴量を用いてシーンチェ
ンジを自動検出することが可能なシーンチェンジ検出装
置を得ることを目的とする。
【0021】
【課題を解決するための手段】請求項1に記載の発明に
係るシーンチェンジ検出装置は、フレーム間の相関を利
用して符号化された動画像の符号化データを復号する際
の、フレーム間の予測誤差に所定の演算を施す演算部
と、その演算出力を1フレームごとに累計する計数部
と、1フレームの復号が終了するごとにその計数値をし
きい値と比較して、現フレームでのシーンチェンジを判
定する比較部を設けたものである。
【0022】また、請求項2に記載の発明に係るシーン
チェンジ検出装置は、フレーム間の相関を利用して符号
化された動画像の符号化データを復号する復号化装置に
入力される符号化データの、1フレームごとのデータ量
を計数する計数部と、1フレームの復号が終了するごと
にその計数値をしきい値と比較して、現フレームでのシ
ーンチェンジを判定する比較部を設けたものである。
【0023】また、請求項3に記載の発明に係るシーン
チェンジ検出装置は、フレーム間の相関で予測誤差が大
きいと判定された画素をフレーム内の相関を利用して符
号化した符号化データを復号する際、予測誤差が大きい
かあるいは予測可能と判定された画素の数を1フレーム
ごとに計数する計数部と、1フレームの復号が終了する
ごとにその計数値をしきい値と比較して、現フレームで
のシーンチェンジを判定する比較部を設けたものであ
る。
【0024】また、請求項4に記載の発明に係るシーン
チェンジ検出装置は、符号化モードを適応的に切り換
え、フレーム間の相関にて予測誤差が大きいと判定され
た画素をフレーム内の相関を利用して符号化した動画像
の符号化データより、その画素がいずれの符号化モード
で符号化されたかを抽出する多重分離部と、その符号化
モードを1フレームごとに計数して、フレーム間予測可
能あるいはフレーム間予測誤差が大きいと判定された画
素の数を算出する計数部と、その計数値を1フレームご
とにしきい値と比較して、当該フレームでのシーンチェ
ンジを判定する比較部を備えたものである。
【0025】また、請求項5に記載の発明に係るシーン
チェンジ検出装置は、複数に分割された動画像のフレー
ムの各領域を、第1〜第4の符号化モード中のいずれを
用いて符号化するかを決定する符号化モード決定手段
と、この符号化モード決定手段の出力より、フレーム内
での各符号化モードの生起頻度を計数する計数手段、前
記動画像のフレームのフレームモードが、第1〜第3の
フレーム中のいずれかであるかを示すフレームモード決
定手段と、前記フレームモード決定手段の出力であるフ
レームモードと前記計数手段の計数結果とを少なくとも
時間的に連続する2フレーム分保持する情報保持手段、
およびこの情報保持手段に保持されている各フレームに
おける分割された複数領域毎の符号化モードの使用回数
を上記連続するフレームモードの組み合わせの種類に応
じて比較し、その比較結果に基づいてそのフレームがシ
ーンチェンジであるか否かを示す検出信号を出力する検
出信号出力手段を有するものである。
【0026】また、請求項6に記載の発明に係るシーン
チェンジ検出装置は、動画像のフレームのフレームモー
ドを示すデータと、第1〜第4の符号化モードのいずれ
が使用されているかを示すデータとを符号化データより
抽出する多重分離手段、この多重分離手段の出力よりフ
レーム内での各符号化モードの生起頻度を計数する計数
手段、多重分離手段から得られるフレームモードを示す
データと、計数手段の計数結果とを少なくとも時間的に
連続する2フレーム分保持する情報保持手段、およびこ
の情報保持手段に保持されている各フレームにおける分
割された複数領域毎の符号化モードの使用回数をフレー
ムモードの組み合わせの種類に応じて比較し、その比較
結果に基づいてそのフレームがシーンチェンジであるか
否かを示す検出信号を出力する検出信号出力手段を有す
るものである。
【0027】
【作用】請求項1に記載の発明における比較手段は、復
号されたフレーム間の予測誤差に対する演算部の演算結
果を1フレーム分累計した計数部の計数値を、1フレー
ムの復号が終了する度にしきい値と比較し、その大小関
係に基づいて現フレームがシーンチェンジであるか否か
を判定することにより、動画像の復号に際して計算され
る特徴量をシーンチェンジの自動検出にも利用可能とす
る。
【0028】また、請求項2に記載の発明における比較
手段は、計数部にて1フレーム分計数された当該復号化
装置に入力される符号化データのデータ量を、1フレー
ムの復号が終了する度にしきい値と比較し、その大小関
係に基づいて現フレームがシーンチェンジであるか否か
を判定することにより、動画像の復号に際して計算され
る特徴量をシーンチェンジの自動検出にも利用可能とす
る。
【0029】また、請求項3に記載の発明における比較
手段は、フレーム間の相関にて予測誤差が大きいと判定
された画素をフレーム内の相関を利用して符号化した符
号化データの復号に際して、計数部にて1フレーム分計
数された予測誤差が大きい画素の数を、1フレームの復
号が終了する度にしきい値と比較し、その大小関係に基
づいて現フレームがシーンチェンジであるか否かを判定
することにより、動画像の復号に際して計算される特徴
量をシーンチェンジの自動検出にも利用可能とする。
【0030】また、請求項4に記載の発明における多重
分離部は、複数のシーンから構成される動画像の画像信
号をフレーム間の相関を利用して符号化する際に、フレ
ーム間符号化とフレーム内符号化とを適応的に切り換え
て、フレーム間の相関にて予測誤差が大きいと判定され
た画素についてはフレーム内の相関を利用して符号化し
た動画像の符号化データより、その画素がどちらの符号
化モードによって符号化されたかを抽出して計数部に入
力することにより、符号化装置もしくは復号化装置の存
在とは関係なく、単に符号化データから必要な情報だけ
を抽出して解析するだけでシーンチェンジの検出を可能
とする。
【0031】また、請求項5に記載の発明における検出
信号出力手段は、情報保持手段に保持された時間的に連
続する2フレーム分のフレームモードの比較を行うとと
もに、計数手段で計数されて情報保持手段に保持された
時間的に連続する2フレーム分の符号化モードの生起頻
度の比較を行い、それらの比較結果があらかじめ定めら
れた条件に合致した場合に検出信号を出力する。
【0032】また、請求項6に記載の発明における多重
分離手段は、符号化データより抽出した、動画像のフレ
ームのフレームモードを示すデータを情報保持手段に、
第1〜第4の符号化モードのいずれが使用されているか
を示すデータを、その生起頻度を計数している計数手段
に、それぞれ出力する。
【0033】
【実施例】実施例1. 以下、この発明の一実施例を図に基づいて説明する。図
1はこの発明の一実施例を示すブロック図である。図に
おいて、1はフレームメモリ、2は減算器、3はDCT
部、4は量子化部、5はエントロピー符号化部、6は逆
DCT部、7は加算器であり、図25に同一符号を付し
た従来のそれらと同一、あるいは相当部分であるため詳
細な説明は省略する。
【0034】また、12は前記逆DCT部6からのフレ
ーム間の予測誤差に対して所定の演算、例えばそれを二
乗する演算を施す演算部としての乗算器であり、13は
1フレームごとにこの乗算器12の出力を累計する計数
部である。14は1フレームの符号化が終了する都度、
この計数部13の計数値をしきい値と比較して、その大
小関係に基づいて現フレームがシーンチェンジであるか
否かを示すシーンチェンジ検出信号を発生する比較部で
ある。
【0035】次に動作について説明する。ここで、入力
された画像信号が符号化されて通信路に送出されるまで
は従来の場合と同様であるためその説明は省略する。画
像信号符号化の過程で逆DCT部6から出力されるフレ
ーム間の予測誤差の値xは乗算器12にも入力され、そ
こで次式で与えられる演算が施される。
【0036】 y=x2 ・・・・・・・(3)
【0037】ここで、式(3)におけるyは、予測誤差
信号のエネルギーに相当し、計数部13に送られて1フ
レーム分の累計が計数される。この計数部13の計数値
は比較部14に送られて、あらかじめ定められているし
きい値と1フレームごとに比較される。比較の結果、計
数部13の計数値がしきい値より大であれば、比較部1
4は現フレームがシーンチェンジである旨を示すシーン
チェンジ検出信号を出力する。
【0038】実施例2. 図2は実施例2を示すブロック図であり、この実施例2
は図1に示した実施例1をより単純化したものである。
即ち、図1のように処理の複雑なDCTの処理を含ま
ず、減算器2で現フレームとフレームメモリ1に記憶さ
れている直前フレームの同一位置の画素どうしを減算し
た結果を直接量子化部4で量子化し、量子化結果をエン
トロピー符号化部5で符号化して通信路に送出してい
る。この場合においても、乗算器12、計数部13、比
較部14によるシーンチェンジを検出する機構の動作は
図1に示した実施例1の場合と全く同じである。
【0039】実施例3. 図3は実施例3を示すブロック図である。この実施例3
では動画像の符号化の際のフレーム間予測として動き補
償予測を用いている。図において、15は入力された画
像信号とフレームメモリ1に格納されている前フレーム
の画像データとから動きベクトルを検出する動き検出部
であり、16はこの動き検出部15の検出した動きベク
トルを用いてフレームメモリ1から読み出した前フレー
ムの画像データの補償を行う動き補償部である。
【0040】次に動作について説明する。ここで、この
動き補償予測は図1に示した実施例1のようなフレーム
間で同一位置にある画素どうしを減算するという単純な
フレーム間差分ではなく、被写体の動きを検出し、この
動きに応じてフレーム間差分をとる画素を可変にできる
方式である。即ち、動き検出部15は現フレームにおけ
る物体、あるいは適当な大きさのブロックがフレームメ
モリ1に記憶されている前フレームのどの位置に対応す
るかを求め、これを動きベクトルとして検出する。そし
て、動き補償部16ではこの動き検出部15で検出され
た動きベクトルを用いて予測に用いる前フレームの画素
を決定し、減算器2で現フレームの画像信号との差分を
とる。
【0041】例えば、動きの全くないフレームが連続す
る場合には動き検出部15より出力される動きベクトル
は0となり、実施例1の場合の単純なフレーム間差分と
一致する。このように、動き補償予測を用いたものは、
図1に示した実施例1のフレーム間差分を高度化したも
のと考えられるが、シーンチェンジの検出機構である乗
算器12、計数部13、および比較部14の動作は実施
例1の場合と全く同じである。
【0042】実施例4. なお、図1および図3に示した実施例1および3では乗
算器12を逆DCT部6の出力に接続したものを示した
が、これは減算器2の出力、DCT部3の出力、あるい
は量子化部4の出力のいずれに接続したとしてもよく、
上記実施例と同様の効果を奏する。また、前記の実施例
1および3では、フレーム間差分をDCT処理する場合
について示したが、これはDCT処理に限定されるもの
ではない。
【0043】実施例5. さらに、図1〜図3に示した各実施例では、演算部とし
て乗算器12を用いて式(3)を計算するものを示した
が、この演算としてはより一般的な次式を用いてもよ
い。
【0044】 y=|x|r (rは実数) ・・・・・(4)
【0045】以上の実施例で説明したように、このシー
ンチェンジを検出する機構は、フレーム間の相関を利用
する動画像符号化のアルゴリズムには全く依存しないこ
とは明らかである。
【0046】実施例6. 一方、上記各実施例では、シーンチェンジを検出する機
構として、演算部としての乗算器12、および計数部1
3、比較部14というハードウェアを用いたが、これら
は図4に示す請求項1の発明のさらに他の実施例を示す
ブロック図のように、汎用的なCPU17を用いたソフ
トウェア処理により実現することも可能である。この実
施例では、フレームメモリ1、減算器2、量子化部4、
エントロピー符号化部5、加算器7などで形成される動
画像符号化部18がCPU17のバス19上に接続さ
れ、CPU17からシーンチェンジ検出に必要なフレー
ム間の予測誤差を読み取れるようになっている。そし
て、CPU17はメモリ20に蓄えられたプログラムに
従って、シーンチェンジ検出機構である演算部、計数
部、および比較部を実現する。
【0047】実施例7. 図5は実施例7を示すブロック図で、図1の実施例に対
応しており、相当部分には図1と同一符号を付してその
説明を省略する。図において、21はエントロピー符号
化部5の出力に接続され、当該動画像の符号化装置より
通信路に出力される符号化データのデータ量を1フレー
ム毎に計数し、計数値を比較部14に出力する計数部で
ある。
【0048】この実施例7においても、比較部14は前
記計数部21が計数した、エントロピー符号化部5から
通信路に出力される符号化データの1フレーム分のデー
タ量を、あらかじめ定められたしきい値と比較し、計数
部21の計数値がしきい値より大であれば、現フレーム
がシーンチェンジである旨を示すシーンチェンジ検出信
号を出力する。
【0049】実施例8. 図6は実施例8を示すブロック図である。この実施例8
は図2に示す実施例2に対応しており、動画像符号化部
分は図2とは全く同じ構成である。一方、シーンチェン
ジを検出する機構は図5に示した実施例7と全く同様
に、計数部21と比較部14とで構成されている。
【0050】実施例9. 図7は実施例9を示すブロック図である。この実施例9
は図3に示す実施例3に対応しており、動画像符号化部
分は図3とは全く同じ構成である。一方、シーンチェン
ジを検出する機構は図5に示した実施例7と同一構成で
ある。
【0051】実施例10. 図8は実施例10を示すブロック図である。この実施例
10はフレーム内符号化とフレーム間符号化とを適応的
に切り換える動画像の符号化装置に適用した場合のもの
である。図において、22はフレーム内符号化とフレー
ム間符号化のいずれを使用するかの判断を行う符号化制
御部であり、23,24はこの符号化制御部22の制御
によってフレーム内符号化とフレーム間符号化の切り換
えを行うスイッチである。25は入力される画像信号と
フレームメモリ1に格納されている前フレームの画像デ
ータから現フレームを予測するフレーム間予測部であ
る。
【0052】次に動作について説明する。符号化制御部
22は、例えば8×8画素程度のブロック単位にフレー
ム内符号化とフレーム間符号化のどちらかを使用するか
を判断し、スイッチ23,24、量子化部4の特性、エ
ントロピー符号化部5で使用する符号を制御すると共
に、フレーム内符号化とフレーム間符号化のどちらを用
いて符号化されたかを示すフラグを生成して通信路に送
出する。図示の状態は、スイッチ23,24がフレーム
間符号化を選択した状態を示しており、フレーム内符号
化を選択する場合、各々のスイッチ23,24はそれぞ
れ図示とは逆方向に接続される。
【0053】スイッチ23を通った信号は、フレーム内
符号化の場合は画像信号そのものであり、フレーム間符
号化の場合は予測誤差信号である。この信号はDCT部
3でDCT処理を受けた後、量子化部4にて量子化さ
れ、エントロピー符号化部5で符号化された後、通信路
に送出される。また、量子化部4における量子化の結果
は、逆DCT部6に送られて逆DCTの処理を受け、ス
イッチ24の出力と加算器7で加算され、フレームメモ
リ1に記録される。この加算結果は現フレームを復号し
た画像であり、次フレームの予測に用いられる。ここ
で、スイッチ24の出力は、フレーム内符号化の場合は
0であり、フレーム間符号化の場合はフレーム間予測信
号である。
【0054】フレーム間予測部25は、フレームメモリ
1に記憶された前フレームの画像データから現フレーム
を予測する。この実施例では、図7の場合と同様の動き
補償予測が用いられており、動きベクトルが通信路に送
出される。なお、このフレーム間予測部25は必ずしも
動き補償予測である必要はなく、単なるフレーム間差分
をとるだけであっても構わず、その場合には動きベクト
ルの伝送の必要はない。一方、シーンチェンジを検出す
る機構(計数部21、および比較部14)は図5に示し
た実施例7の場合と全く同じ構成となっている。
【0055】実施例11. 一方、上記実施例では、シーンチェンジを検出する機構
として、計数部21および比較部14というハードウェ
アを用いたものを示したが、これらは図4に示すよう
に、汎用的なCPUを用いたソフトウェア処理によって
実現することも可能である。同図では、動画像符号化部
18がCPU17のバス19上に接続され、CPU17
からシーンチェンジ検出に必要な符号化データ量を読み
取れるようになっている。そして、CPU17はメモリ
20に蓄えられたプログラムに従って、シーンチェンジ
検出機構である計数部、および比較部を実現する。
【0056】実施例12. なお、図5,図7および図8に示した実施例では、減算
器2の出力をDCT変換する場合について説明したが、
これはDCT変換にのみ限定されるものではなく、さら
にDCT変換に代表される直交変換以外の方式、例えば
予測符号化であっても構わない。
【0057】実施例13. 図9は実施例13を示すブロック図であり、シーンチェ
ンジを検出する機構以外は図8と全く同一であるので、
ここではシーンチェンジを検出する機構について説明す
る。図において、26は符号化制御部22の出力するフ
レーム内/フレーム間符号化識別フラグに基づいて、フ
レーム間の相関による予測が不可能な画素の数を計数
し、計数値を比較部14に送る計数部である。
【0058】次に動作について説明する。まず、計数部
26が、1フレームごとに符号化制御部22の出力であ
るフレーム内/フレーム間符号化識別フラグに基づいて
フレーム内符号化される画素の数を計数する。比較部1
4はあらかじめ定められたしきい値とこの計数部26の
計数値とを1フレームごとに比較し、前記計数値がしき
い値より大であれば現フレームがシーンチェンジである
旨を示すシーンチェンジ検出信号を出力する。
【0059】実施例14. なお、上記実施例13においては、フレーム間符号化と
して動き補償予測とDCTの組合せ、フレーム内符号化
としてDCTを用いたものを示したが、これらの方式に
限定されるものではなく、フレーム内符号化とフレーム
間符号化とを適応的に切り換える動画像符号化方式であ
れば、どのようなものにでも適用可能である。
【0060】実施例15. また、上記実施例では、計数部26がフレーム内符号化
されている画素の数を計数する場合について説明した
が、これはフレーム間符号化されている画素の数を計数
部26で計数して、計数部26の計数値がしきい値より
小のときにシーンチェンジ信号を出力するようにしても
よく、さらにフレーム内符号化とフレーム間符号化のい
ずれを用いているかの判定が、あるブロック単位(例え
ば、8×8画素)で行われている場合には、計数部26
でこのブロックの数を計数するようにしてもよい。
【0061】実施例16. 一方、上記実施例では、シーンチェンジを検出する機構
として計数部26、および比較部14というハードウェ
アを用いたものを示したが、これらは図4に示すよう
に、汎用的なCPUを用いたソフトウェア処理により実
現することも可能である。同図では、動画像符号化部1
8がCPU17のバス19上に接続され、CPU17か
らシーンチェンジ検出に必要なフレーム内符号化される
画素数を読み取れるようになっている。そして、CPU
17はメモリ20に蓄えられたプログラムに従って、シ
ーンチェンジ検出機構である計数部、および比較部を実
現する。
【0062】実施例17. 次にこの発明の実施例17を図について説明する。図1
0は実施例17を示すブロック図である。図において、
8はエントロピー復号化部、9は逆DCT部、10はフ
レームメモリ、11は加算器であり、図25に同一符号
を付した従来のそれらと同一、あるいは相当部分である
ため詳細な説明は省略する。
【0063】また、27は前記逆DCT部9から復号さ
れたフレーム間の予測誤差に対して所定の演算、例えば
それを二乗する演算を施す演算部としての乗算器であ
り、28は1フレームごとにこの乗算器27の出力を累
計する計数部である。29は1フレームの符号化が終了
する都度、この計数部28の計数値をしきい値と比較し
て、その大小関係に基づいて現フレームがシーンチェン
ジであるか否かを示すシーンチェンジ検出信号を発生す
る比較部である。
【0064】次に動作について説明する。ここで、通信
路より受けた符号化データを画像信号に復号するまでは
従来の場合と同様であるためその説明は省略する。画像
信号復号の過程で逆DCT部9から出力されるフレーム
間の予測誤差の値xは乗算器27にも入力され、そこで
次式で与えられる演算が施される。
【0065】 y=x2 ・・・・・・・(5)
【0066】ここで、式(5)におけるyは予測誤差信
号のエネルギーに相当し、計数部28に送られて1フレ
ーム分の累計が計数される。この計数部28の計数値は
比較部29に送られて、あらかじめ定められたしきい値
と1フレームごとに比較される。比較の結果、計数部2
8の計数値がしきい値より大であれば、比較部29は現
フレームがシーンチェンジである旨を示すシーンチェン
ジ検出信号を出力する。
【0067】実施例18. 図11は実施例18を示すブロック図であり、この実施
例18は図10の実施例17をより単純化したものであ
る。即ち、符号化データとしてフレーム間差分を直接エ
ントロピー符号化したデータが伝送されてくるので、エ
ントロピー復号化部8で復号した後、加算器11におい
てフレームメモリ10に蓄えられている直前フレームの
画像データと同一位置の画素ごとに加算される。この加
算結果は現フレームの画像信号として出力する一方、フ
レームメモリ10に格納して次フレームの復号に利用す
る。なお、シーンチェンジを検出する機構(乗算器2
7、計数部28、および比較部29)は図10の実施例
17と同一である。
【0068】実施例19. 図12は実施例19を示すブロック図である。この実施
例19では動画像符号化におけるフレーム間予測として
動き補償予測を用いて符号化されたデータを復号する動
画像復号化装置の場合を示しており、図において、30
はその動き補償を行う動き補償部である。
【0069】ここで、この動き補償予測はフレーム間で
同一位置にある画素どうしを減算するという単純なフレ
ーム間差分ではなく、被写体の動きを検出し、この動き
に応じてフレーム間差分をとる画素を可変にできる方式
である。即ち、現フレームにおける物体、あるいは適当
な大きさのブロックが前フレームのどの位置に対応する
かを求め、これを動きベクトルとして検出する。そし
て、前記動きベクトルを用いて予測に用いる前フレーム
の画素を決定し、現フレームとの差分をとる。例えば、
動きの全くないフレームが連続する場合には動きベクト
ルは0となり、単純なフレーム間差分と一致する。従っ
て、この方式では復号の際に符号化データに加えて動き
ベクトルが必要になる。
【0070】この復号化装置ではまず、符号化データは
図10の場合と同じ経路、即ち、エントロピー復号化部
8、逆DCT部9、加算器11を経て画像信号に変換さ
れる。また、現フレームの復号結果はフレームメモリ1
0に記憶され、次フレームの復号に使用される。一方、
動き補償部30は符号化装置より通信路に送出された動
きベクトルを用いて、予測に用いる前フレームの画素を
決定し、フレームメモリ10からその画素値を取り出し
て加算器11に加える。このように、動き補償予測を用
いたものは、図10のフレーム間差分を高度化したもの
と考えられるが、シーンチェンジを検出する機構である
乗算器27、計数部28、および比較部29の動作は図
10の場合と全く同じである。
【0071】実施例20. なお、図10および図12に示した実施例では乗算器2
7が逆DCT部9の出力に接続されたものを示したが、
それを逆DCT部9の入力に接続してもよく、上記実施
例と同様の効果が得られる。また、図10,図12に示
した実施例では、フレーム間差分に対してDCT処理を
施す場合を説明したが、これはDCT処理に限定される
ものではなく、さらに、DCTに代表される直交変換以
外の方式、例えば予測符号化であっても構わない。
【0072】実施例21. さらに、図10〜図12に示した実施例では、演算部と
して乗算器27を用いて式(5)を計算するものを示し
たが、この演算としてはより一般的な次式を用いてもよ
い。
【0073】 y=|x|r (rは実数) ・・・・・(6)
【0074】また、以上の実施例の説明から明らかなよ
うに、このシーンチェンジを検出する機構は、フレーム
間の相関を利用する動画像符号化のアルゴリズムには全
く依存しないことは明らかである。
【0075】実施例22. 一方、上記各実施例では、シーンチェンジを検出する機
構として、演算部としての乗算器27、および計数部2
8、比較部29というハードウェアを用いたが、これら
は図13に示すブロック図のように、汎用的なCPU3
1を用いたソフトウェア処理により実現することも可能
である。この実施例では、エントロピー復号化部、逆D
CT部9、フレームメモリ10、加算器11などで形成
される動画像復号化部32がCPU31のバス33上に
接続され、CPU31からシーンチェンジ検出に必要な
フレーム間の予測誤差を読み取れるようになっている。
そして、CPU31はメモリ34に蓄えられたプログラ
ムに従って、シーンチェンジ検出機構である演算部、計
数部、および比較部を実現する。
【0076】実施例23. 図14は実施例23を示すブロック図で、図10の実施
例に対応しており、相当部分には図10と同一符号を付
してその説明を省略する。図において、35はエントロ
ピー復号化部8の入力に接続され、当該動画像の復号化
装置に入力される符号化データのデータ量を1フレーム
ごとに計数し、計数値を比較部29に出力する計数部で
ある。
【0077】次に動作について説明する。エントロピー
復号化部8の入力に接続された計数部35は、通信路か
らの符号化データの1フレームごとのデータ量を計数し
て比較部29に送る。比較部29はあらかじめ定められ
たしきい値とこの計数部35の計数値とを1フレームご
とに比較し、計数部35の計数値がしきい値より大であ
ればシーンチェンジ検出信号を出力する。
【0078】実施例24. 図15は実施例24を示すブロック図である。この実施
例は図11に対応しており、動画像復号化部分は図11
と全く同じ構成である。一方、シーンチェンジを検出す
る機構は図14に示した実施例と全く同様に、計数部3
5と比較部29で構成されている。
【0079】実施例25. 図16は請求項5に記載した発明のさらに他の実施例を
示すブロック図である。この実施例25は図12に対応
しており、動画像復号化部分は図12と全く同じ構成で
ある。一方、シーンチェンジを検出する機構は図14と
全く同じく、計数部35と比較部29とで構成されてい
る。
【0080】実施例26. 図17は実施例26を示すブロック図である。この実施
例26はフレーム内符号化とフレーム間符号化とを適応
的に切り換える動画像符号化装置を用いて符号化された
データを復号する動画像復号化装置に適用した場合のも
のである。図において、36は通信路からのフレーム内
/フレーム間符号化フラグによって、送られてきた符号
化データがフレーム内符号化によるものかフレーム間符
号化によるものかを判断する復号化制御部であり、37
はこの復号化制御部36によって切り換えが制御される
スイッチである。
【0081】次に動作について説明する。復号化制御部
36は通信路を通して送られてくるフレーム内/フレー
ム間符号化識別フラグに応じて、例えば画像の8×8画
素程度のブロック単位にフレーム内符号化とフレーム間
符号化のどちらかが使用されているかを判断し、スイッ
チ37、およびエントロピー復号化部8で使用する符号
を制御する。図示の状態は、スイッチ37はフレーム間
符号化で符号化された符号化データを復号する状態にな
っており、フレーム内符号化で符号化された符号化デー
タを復号する場合、このスイッチ37は図示とは逆方向
に接続され、0を出力する。
【0082】通信路より受け取った符号化データはエン
トロピー復号化部8でまず復号された後、逆DCT部9
に送られて逆DCTの処理がなされ、加算器11でスイ
ッチ37の出力と加算される。この加算結果は現フレー
ムを復号した画像信号そのものであり、外部に出力され
るとともにフレームメモリ10に蓄積されて次フレーム
の復号に用いられる。また、この実施例では、フレーム
間符号化として動き補償予測を用いた符号化データを復
号することを想定しており、その動作は図12に示した
実施例の場合と同様である。ただし、このフレーム間予
測は動き補償予測に限定されるわけではない。一方、シ
ーンチェンジを検出する機構(計数部35、比較部2
9)は図14に示す実施例と同一の構成となっている。
【0083】実施例27. 一方、上記実施例では、シーンチェンジを検出する機構
として、計数部35および比較部29というハードウェ
アを用いたものを示したが、これらは図13に示すよう
に、汎用的なCPUを用いたソフトウェア処理によって
実現することも可能である。同図では、動画像復号化部
32がCPU31のバス33上に接続され、CPU31
からシーンチェンジ検出に必要な1フレームごとの符号
化データ量を読み取れるようになっている。そして、C
PU31はメモリ34に蓄えられたプログラムに従っ
て、シーンチェンジ検出機構である計数部、および比較
部を実現する。
【0084】実施例28. なお、図14,図16,図17に示した実施例では、動
画像符号化側においてフレーム間差分に対してDCTの
処理を施すことを想定しているが、これはDCT処理に
限定するものではなく、さらに、DCTに代表される直
交変換以外の方式、例えば予測符号化であっても構わな
い。
【0085】実施例29. 図18は実施例29を示すブロック図であり、シーンチ
ェンジを検出する機構以外は図17と全く同一であるの
で、ここではシーンチェンジを検出する機構について説
明する。図において、38は復号化制御部36に入力さ
れるフレーム内/フレーム間符号化識別フラグに基づい
て、フレーム間の相関による予測が不可能な画素の数を
計数し、計数値を比較部29に送る計数部である。
【0086】次に動作について説明する。まず、計数部
38は、1フレームごとにフレーム内/フレーム間符号
化識別フラグに基づいてフレーム内符号化されている画
素の数を計数する。比較部29はあらかじめ定められた
しきい値とこの計数部38の計数値とを1フレームごと
に比較し、前記計数値がしきい値より大であればシーン
チェンジ検出信号を出力する。
【0087】実施例30. なお、上記実施例29においては、フレーム間符号化と
して動き補償予測とDCTの組合せ、フレーム内符号化
としてDCTを用いて符号化されたデータを復号する場
合について説明したが、これらの方式に限定されるもの
ではなく、フレーム内符号化とフレーム間符号化とを適
応的に切り換える動画像符号化方式で符号化されたデー
タであれば、どのようなものにでも適用可能である。
【0088】実施例31. また、上記実施例では、計数部38がフレーム内符号化
されている画素の数を計数する場合について説明した
が、これはフレーム間符号化されている画素の数を計数
部38で計数して、計数部38の計数値がしきい値より
小のときにシーンチェンジ検出信号を出力するようにし
てもよく、さらに、フレーム内符号化とフレーム間符号
化のいずれを用いているかの判定が、あるブロック単位
(例えば8×8画素)で行われている場合には、計数部
38でこのブロックの数を計数するようにしてもよい。
【0089】実施例32. 一方、上記実施例では、シーンチェンジを検出する機構
として計数部38および比較部29というハードウェア
を用いたものを示したが、これらは図13に示すよう
に、汎用的なCPUを用いたソフトウェア処理により実
現することも可能である。同図では、動画像復号化部3
2がCPU31のバス33上に接続され、CPU31か
らシーンチェンジ検出に必要なフレーム内符号化される
画素数を読み取れるようになっている。そして、CPU
31はメモリ34に蓄えられたプログラムに従って、シ
ーンチェンジ検出機構である計数部、および比較部を実
現する。
【0090】実施例33. なお、上記実施例1から32では、比較部は計数部の計
数結果をしきい値と比較し、計数部の計数値がしきい値
より大であれば、そのフレームをシーンチェンジである
と判定するものを示したが、比較部の処理をより複雑に
することにより、シーンチェンジの検出をより正確に行
うこともできる。例えば、風景をカメラで撮影してお
り、カメラの撮影方向が左から右へと動く場合を考えて
みると、このとき、映像はフレーム毎に変化しているた
め、計数部に計数される計数値が連続するフレームにわ
たって大きくなり、従って、単純なしきい値比較だけで
は全フレームをシーンチェンジと判定してしまう可能性
がある。ところが、実際には計数部の計数値がしきい値
を越える最初のフレームをシーンチェンジと判定するこ
とが望ましい。これに対しては、連続するフレームにわ
たって計数値がしきい値を越える場合には、最初のフレ
ームだけをシーンチェンジと判定する、という処理を追
加することにより容易に対応可能である。また、比較部
のしきい値を計数部の計数結果に応じて適応的に変化さ
せることによっても対応可能である。
【0091】実施例34. 次にこの発明の実施例34を図について説明する。図1
9は実施例34を示すブロック図である。図において、
45は前記CPUであり、46はフレーム間の相関を利
用して複数のシーンから成る動画像の画像信号を符号化
する際に、フレーム間の相関にて予測不可能と判定され
た画素については、フレーム内の相関を利用して符号化
するというように、フレーム間符号化とフレーム内符号
化とを適応的に切り換えて符号化された動画像の符号化
データが格納されているディスクである。47はこのデ
ィスク46より取り込んだ動画像の符号化データより、
その画素の符号化にフレーム間符号化とフレーム内符号
化のいずれが適用されたかを示す符号化モードを抽出す
る多重分離部であり、48はこの多重分離部47で抽出
された符号化モードを1フレームごとに計数し、フレー
ム間予測可能あるいはフレーム間予測不可能と判定され
た画素の数を算出する計数部である。49はフレームご
とに計数部48で計数した計数値をしきい値と比較し
て、その大小関係に基づいて当該フレームがシーンチェ
ンジであるか否かを示す信号を発生する比較部である。
【0092】次に動作について説明する。多重分離部4
7はディスク41に蓄えられている動画像の符号化デー
タを順次読み出して、各画素の符号化にフレーム間符号
化とフレーム内符号化のいずれが適用されたかを示す符
号化モードを抽出する。抽出された符号化モードは計数
部48に送られ、計数部48は1フレームごとにそれを
計数して、フレーム間予測不可能と判定された画素の数
を算出する。その計数結果は比較部49に送られてしき
い値と比較され、計数値がしきい値より大きい場合、比
較部49はそのフレームがシーンチェンジである旨を示
すシーンチェンジ検出信号を出力する。そして、この比
較部49より出力されたシーンチェンジ検出信号はCP
U45から読み取れるように構成されている。
【0093】なお、この実施例34における動画像符号
化データ入力部42、計数部43,48、比較部44,
49は専用のハードウェア、あるいは汎用のCPUを用
いたソフトウェアのいずれによっても実現可能である。
【0094】実施例35. 次にこの発明の実施例35を図について説明する。図2
0は実施例35を示すブロック図である。図において、
51は複数フレーム分の画像信号が記憶されるフレーム
メモリ、52はこのフレームメモリ51から読み出され
た画像信号とフレーム間予測信号との差分をとる減算器
であり、53はその差分出力を直交変換の1つである離
散コサイン変換(以下、DCTという)する変換器であ
る。54はDCTされた信号を量子化する量子化器、5
5は量子化された信号の可変長符号化を行う可変長符号
化器であり、56は可変長符号化された信号を符号化モ
ードやフレームモードなどを示す他のデータと混合する
多重化器である。57は量子化器54より出力される信
号を逆量子化する逆量子化器、58は逆量子化された信
号を逆DCTする逆変換器であり、59はこの逆変換器
58より出力される信号にフレーム間予測信号を加算す
る加算器、60はこの加算器59の出力する画像信号を
記憶するフレームメモリである。61はこのフレームメ
モリ60よりフレーム間予測に用いるデータを読み出し
てフレーム間予測信号を生成するフレーム間予測器、6
2はフレーム間予測に必要な動きベクトルを検出してフ
レーム間予測器61に与える動きベクトル検出器であ
り、63はフレーム間予測信号と接地(アース)とを切
り換えて減算器52に供給するスイッチ、64は同じく
フレーム間予測信号と接地(アース)とを切り換えて加
算器59に供給するスイッチである。
【0095】また、65は動画像のフレームを複数の領
域に分割した領域毎の符号化モードを、現フレームの情
報を用いて符号化する第1の符号化モード、既に符号化
された時間的に過去に位置するフレームの情報を用いて
符号化する第2の符号化モード、既に符号化された時間
的に未来に位置するフレームの情報を用いて符号化する
第3の符号化モード、あるいは既に符号化された時間的
に過去に位置するフレームの情報と既に符号化された時
間的に未来に位置するフレームの情報とを用いて符号化
する第4の符号化モード中のいずれを用いるかの決定を
行う符号化モード決定手段である。66は動画像のフレ
ームのフレームモードが、前記第1の符号化モードだけ
を用いて符号化される第1のフレーム、第1の符号化モ
ードと第2の符号化モードのいずれかを用いて符号化さ
れる第2のフレーム、あるいは第1〜第4の符号化モー
ドのいずれかを用いて符号化される第3のフレーム中の
いずれであるかを決定するフレームモード決定手段であ
る。67は符号化モード決定手段65の出力からフレー
ム内での各符号化モードの生起頻度を計数する計数手段
であり、68はフレームモード決定手段66の出力と計
数手段67の計数結果とを少なくとも時間的に連続する
2フレーム分保持する情報保持手段である。69はこの
情報保持手段68に保持されている時間的に連続した2
フレーム分のフレームモードを比較するとともに、情報
保持手段68に保持されている時間的に連続した2フレ
ーム分の符号化モードの生起頻度の比較を行い、それら
の比較結果があらかじめ定められた条件に合致する場合
に検出信号を出力する検出信号出力手段である。
【0096】次に動作について説明する。ここで、この
実施例35では、動画像符号化部分にはISOで標準化
が進められている蓄積メディア用動画像符号化方式であ
るMPEG(モーション・ピクチャー・エキスパーツ・
グループ;Motion Picture Experts Group)方式を用い
ることを想定している。そこで、まず図21を用いてこ
のMPEG方式の概念について説明する。図21におい
て、I,P,Bと記されているのはフレームモードであ
り、Iフレームはこの発明における第1のフレームに、
Pフレームは同じく第2のフレーム、Bフレームは第3
のフレームにそれぞれ相当している。符号化に当たっ
て、まずIフレーム20が独立に符号化され、次にIフ
レーム80を用いてPフレーム83が予測符号化され
る。その後、Iフレーム80とPフレーム83を用いて
Bフレーム81,82がこの順に予測符号化される。そ
れ以降、時間的に最も近くにあるIまたはPフレーム
(図21ではPフレーム86)を符号化し、次に時間的
に過去にさかのぼってBフレーム(図21ではBフレー
ム84,85)の符号化を行うという操作を繰り返す。
このようにMPEG方式の符号化では、符号化に際して
複数フレーム分のバッファが必要となる。例えば、Bフ
レーム81,82の符号化を終えるにはIフレーム80
とPフレーム83が必要となり、結局、フレーム80〜
83までを蓄積しておかねばならない。
【0097】次に図20に戻って実施例35の動作を説
明する。外部からの画像信号はフレームメモリ51に記
憶される。このときフレームメモリ51には前述のよう
に複数フレームが記憶されることになる。フレームメモ
リ51からは図21のMPEGアルゴリズム概要で説明
した順にフレームの内容が読み出され、減算器52でフ
レーム間予測信号であるスイッチ63の出力との差分が
とられる。次に減算器52出力は変換器53にて直交変
換の一つであるDCTが施され、そして、変換係数を係
数毎に割り当てられたビット配分に応じて量子化器54
で量子化される。量子化された変換係数は可変長符号化
器55で、その統計的性質に応じて出現確率の高いパタ
ーンに対してより短い符号を割り当てることにより、さ
らなるデータ圧縮を施された後、多重化器56で他のデ
ータ、例えばフレームモード、符号化モードなどを示す
データと混合され、符号化データとして出力される。
【0098】一方、量子化器54の出力は逆量子化器5
7、および逆変換器58によって、前記量子化器54、
および変換器53と逆の操作がそれぞれ施され、フレー
ム間予測信号を生成するために使われる。このとき、逆
変換器58の出力から得られる信号は変換器53の入力
信号に量子化誤差が加わったものとなる。逆変換器58
の出力は加算器59においてスイッチ64の出力信号と
加算され、フレームメモリ60に記憶される。ここで、
スイッチ64の出力信号はスイッチ63の出力と同一の
信号であり、従って、加算器59の出力はフレームメモ
リ51から読み出された信号に量子化誤差が加わったも
のとなる。
【0099】次にフレーム間予測器61はフレームのフ
レームモードが、第1〜第3のフレームのいずれである
かを決定するフレームモード決定手段66と、第1〜第
4の符号化モードのいずれを用いるかを決定する符号化
モード決定手段65による制御と、動きベクトル検出器
62により与えられる動きベクトルとを受けて、フレー
ムメモリ60からフレーム間予測に用いるデータを読み
出し、フレーム間予測信号を生成してスイッチ63およ
び64に与える。ここで、符号化モード決定手段65は
可変長符号化器55から符号化データ量を受け、最も符
号化効率が良くなる符号化モードを決定している。ま
た、スイッチ63,64は符号化モード決定手段65と
フレームモード決定手段66の制御を受け、フレームモ
ードが第1のフレームの場合には、スイッチ63および
64は接点“a”側がオンになり、接地信号が各々のス
イッチ63,64から減算器52あるいは加算器59に
出力される。さらに、フレームモードが第2または第3
のフレームの場合、符号化モードが第1の符号化モード
であれば、スイッチ63および64は接点“a”側がオ
ンになって、接地信号が減算器52あるいは加算器59
に出力され、符号化モードが第1の符号化モード以外で
あれば、スイッチ63および64は接点“b”側がオン
になって、減算器52および加算器59にはフレーム間
予測器61の出力が各々のスイッチ63,64より出力
される。
【0100】次に、この実施例において動画像のシーン
チェンジを検出する機構について説明する。計数手段6
7は符号化モード決定手段65の出力を受けて、現在符
号化中のフレーム内で、第1,第2,第3,第4の符号
化モードがそれぞれ何回使用されるかをカウントする。
そして、情報保持手段68はフレームモード決定手段6
6の出力であるフレームモード、即ち、現在符号化中の
フレームが第1,第2,第3のフレームのいずれである
かを記憶するとともに、計数手段67の計数結果も記憶
する。さらに、情報保持手段68は少なくとも時間的に
連続する2フレームについて、前記フレームモードと、
符号化モードの計数結果を保持する。そして、検出信号
出力手段69は情報保持手段68より、時間的に連続す
るフレーム、即ち、注目フレームと注目フレームの1フ
レーム過去に位置するフレーム(以下それを前方フレー
ムと呼ぶ)について、前記フレームモードと、符号化モ
ードの計数結果を取り出し、以下の処理を行う。
【0101】まず、注目フレームについて、第1の符号
化モードの使用回数をN1、第2の符号化モードの使用
回数をN2、第3の符号化モードの使用回数をN3、第
4の符号化モードの使用回数をN4、同様に前方フレー
ムについて、第1の符号化モードの使用回数をn1、第
2の符号化モードの使用回数をn2、第3の符号化モー
ドの使用回数をn3、第4の符号化モードの使用回数を
n4とする。このとき、検出信号出力手段69は注目フ
レームと前方フレームの種類に応じて、以下の条件を満
たすか否かを調べ、満たす場合に注目フレームがシーン
チェンジであるという検出信号を出力する。
【0102】条件1;注目フレームが第1のフレーム
で、前方フレームが第1または第2のフレームの場合、
検出信号を出力しない。MPEG方式では、図21から
分かるようにこの条件はほとんど発生しないと考えてよ
い。
【0103】条件2;注目フレームが第1のフレーム
で、前方フレームが第3のフレームの場合、あらかじめ
定められたしきい値zに対して次式が成立すれば、注目
フレームがシーンチェンジであるという検出信号を出力
する。この条件は、前方フレームが注目フレームの情報
を用いて予測される割合が少ないことを示すものであ
る。
【0104】 n2/(n1+n2+n3+n4)>z ・・・・・・・(8)
【0105】また、上記式(8)はこの条件を表わす一
例であり、前方フレームが注目フレームの情報を用いて
予測される割合が少ないことを示すものであれば、以下
に例示するようなこれ以外の条件式を用いることも可能
である。
【0106】 n2/(n3+n4)>z ・・・・・・・(9)
【0107】 (n1+n2)/(n1+n2+n3+n4)>z ・・・(10)
【0108】条件3;注目フレームが第2のフレーム
で、前方フレームが第1または第2のフレームの場合、
あらかじめ定められたしきい値yに対して次式が成立す
れば、注目フレームがシーンチェンジであるという検出
信号を出力する。ただし、MPEG方式では、図21か
ら分かるようにこの条件はほとんど発生しないと考えて
よい。この条件は、注目フレームが前方フレームの情報
を用いて予測される割合が少ないことを示すものであ
る。
【0109】 N1/(N1+N2)>y ・・・・・・・・・(11)
【0110】また、この式(11)もこの条件を表わす
一例であり、注目フレームが前方フレームの情報を用い
て予測される割合が少ないことを示すものであれば、以
下に例示するようなこれ以外の条件式を用いることも可
能である。
【0111】 N1/N2>y ・・・・・・・・・(12)
【0112】条件4;注目フレームが第2のフレーム
で、前方フレームが第3のフレームの場合、あらかじめ
定められたしきい値xに対して次式が成立すれば、注目
フレームがシーンチェンジであるという検出信号を出力
する。この条件は、前方フレームが注目フレームの情報
を用いて予測される割合が少ないことを示すものであ
る。
【0113】 n2/(n1+n2+n3+n4)>x ・・・・・・・(13)
【0114】また、この式(13)もこの条件を表わす
一例であり、前方フレームが注目フレームの情報を用い
て予測される割合が少ないことを示すものであれば、以
下に例示するようなこれ以外の条件式を用いることも可
能である。
【0115】 n2/(n3+n4)>x ・・・・・・・(14)
【0116】 (n1+n2)/(n1+n2+n3+n4)>x ・・・(15)
【0117】条件5;注目フレームが第3のフレーム
で、前方フレームが第1または第2のフレームの場合、
あらかじめ定められたしきい値wに対して次式が成立す
れば、注目フレームがシーンチェンジであるという検出
信号を出力する。この条件は、注目フレームが前方フレ
ームの情報を用いて予測される割合が少ないことを示す
ものである。
【0118】 N3/(N1+N2+N3+N4)>w ・・・・・・(16)
【0119】また、この式(16)もこの条件を表わす
一例であり、注目フレームが前方フレームの情報を用い
て予測される割合が少ないことを示すものであれば、以
下に例示するようなこれ以外の条件式を用いることも可
能である。
【0120】 N3/(N2+N4)>w ・・・・・・・・(17)
【0121】 (N1+N3)/(N1+N2+N3+N4)>w ・・・(18)
【0122】条件6;注目フレームが第3のフレーム
で、前方フレームが第3のフレームの場合、あらかじめ
定められたしきい値vに対して次式が成立すれば、注目
フレームがシーンチェンジであるという検出信号を出力
する。この条件は、注目フレームが時間的に未来に位置
するフレームの情報を用いて予測され、前方フレームが
時間的に過去に位置するフレームの情報を用いて予測さ
れる割合が多いことを示すものである。
【0123】 (n2/(n1+n2+n3+n4)) ×(N3/(N1+N2+N3+N4))>v ・・・(19)
【0124】また、この式(19)もこの条件を表わす
一例であり、注目フレームが時間的に未来に位置するフ
レームの情報を用いて予測され、前方フレームが時間的
に過去に位置するフレームの情報を用いて予測される割
合が多いことを示すものであれば、以下に例示するよう
なこれ以外の条件式を用いることも可能である。
【0125】 ((n1+n2)/(n1+n2+n3+n4)) ×((N1+N3)/(N1+N2+N3+N4))>v・・・(20)
【0126】 (n2/(n3+n4))×(N3/(N2+N4))>v・・・(21)
【0127】以上の条件は、すべてを用いる必要はな
く、取捨選択することが可能である。例えば、MPEG
方式ではほとんど発生しない条件1,条件3を用いない
ようにしても構わない。
【0128】また、上記の条件を満たすフレームが連続
する場合、1フレーム毎にシーンが変化していると考え
ることも可能であり、あるいはこれらのフレームをひと
まとまりのシーンと考えることも可能である。後者に対
しては、検出信号出力手段69に、上記条件を満たす最
初のフレームと上記条件が満たされなくなった最初のフ
レームに対してのみ検出信号を出力する機能を付加する
ことにより対処可能である。
【0129】実施例36. 次に、この発明の実施例36を図に基づいて説明する。
図22は実施例36を示すブロック図であり、この場合
も動画像符号化部分にMPEG方式を用いることを想定
しており、図20と同一の部分には同一符号を付してそ
の説明を省略する。図において、70は多重化器56か
ら出力される符号化データより、動画像のフレームが第
1〜第3のフレームのいずれであるかのフレームモード
を示すデータと、使用されている符号化モードが第1〜
第4の符号化モードのいずれであるかを示すデータとを
分離,抽出して、それらを情報保持手段68あるいは計
数手段67に送る多重分離手段である。
【0130】次に動作について説明する。多重化器56
より出力される符号化データは外部に送出される一方、
多重分離手段70にも入力される。多重分離手段70は
入力された符号化データよりフレームモードを示すデー
タと符号化モードを示すデータとを分離,抽出して、符
号化モードを示すデータを計数手段67に、またフレー
ムモードを示すデータを情報保持手段68にそれぞれ出
力する。そして、それ以降、計数手段67、情報保持手
段68、および検出信号出力手段69によって実施例3
4の場合と同様の手順でシーンチェンジの検出処理が実
行され、検出信号が出力される。
【0131】実施例37. 次に、この発明の実施例37を図に基づいて説明する。
図23は実施例37を示すブロック図で、この場合の動
画像復号化部分はMPEG方式で符号化された動画像を
復号することを想定しており、図22と同一の部分には
同一の符号を付してその説明を省略する。図において、
71は多重分離手段70によって符号化データよりフレ
ームモードを示すデータや符号化モードを示すデータと
分離された可変長符号化データを復号する可変長復号器
である。
【0132】次に動作について説明する。外部より入力
された符号化データは多重分離手段70にて可変長符号
化データと、フレームモードを示すデータや符号化モー
ドを示すデータとに分離され、可変長符号化データは可
変長復号器71に送られて復号される。この可変長復号
器71による復号結果のうち、DCT係数は逆変換器5
8で逆DCTが施され、逆量子化器57を経て予測誤差
信号が復元される。そして、加算器59でスイッチ64
から与えられるフレーム間予測信号と加算され、画像信
号として外部に出力される。この加算器59の出力はフ
レームメモリ60にも記憶され、フレーム間予測信号を
生成するために利用される。
【0133】一方、可変長復号器71によって復号され
た動きベクトルはフレーム間予測器61に与えられる。
フレーム間予測器61はこの動きベクトルと、多重分離
手段70によって分離されたフレームモードを示すデー
タおよび符号化モードを示すデータに基づく制御を受け
て、フレームメモリ60からフレーム間予測に用いるデ
ータを読み出し、フレーム間予測信号を生成してスイッ
チ64に与える。また、スイッチ64は多重分離手段7
0よりフレームモードを示すデータと符号化モードを示
すデータに基づく制御を受けて、フレームモードが第1
のフレームの場合には接点“a”側がオンになって接地
信号を出力する。また、フレームモードが第2または第
3のフレームの場合、符号化モードが第1の符号化モー
ドであれば接点“a”側がオンになって接地信号がスイ
ッチ64から出力され、符号化モードが第1の符号化モ
ード以外であれば接点“b”側がオンになってフレーム
間予測器61の出力がスイッチ64から出力される。
【0134】同図におけるシーンチェンジを検出する機
構は実施例35と全く同じである。即ち、多重分離手段
70は、入力された符号化データよりフレームモードを
示すデータと符号化モードを示すデータとを分離,抽出
し、符号化モードを示すデータを計数手段67に、フレ
ームモードを示すデータを情報保持手段68に受け渡
す。そして、それ以降、計数手段67、情報保持手段6
8、および検出信号出力手段69によって実施例34の
場合と同様の手順でシーンチェンジの検出処理が実行さ
れ、検出信号が出力される。
【0135】実施例38. なお、実施例35,実施例36,実施例37は各々ハー
ドウェア,ソフトウェアのいずれでも実現可能である。
即ち、ハードウェアとして構成する場合、計数手段67
はカウンタ、情報保持手段68はラッチあるいはメモ
リ、検出信号出力手段69はコンパレータと乗算器,加
算器を組み合わせることにより構成可能である。そし
て、このハードウェアと動画像符号化,復号化を実行す
るハードウェアとの間でフレームモードと符号化モード
とを受け渡すことにより、実施例35,実施例36,実
施例37を実現することができる。一方、ソフトウェア
で実現する場合、計数手段67、情報保持手段68、検
出信号出力手段69はCPUと制御用メモリ、データメ
モリから成る汎用的な計算機構で実現でき、これと動画
像符号化,復号化を実行するハードウェアとの間でフレ
ームモードと符号化モードとを受け渡すことにより、実
施例35,実施例36,実施例37を実現することがで
きる。
【0136】また、動画像符号化,復号化をはじめとし
て、シーンチェンジを検出する機構である計数手段6
7、情報保持手段68、検出信号出力手段69の全てを
計算機の中でソフトウェア的に実現することも可能であ
る。この場合、実施例35,実施例36,実施例37は
特別なハードウェア無しに、計算機だけでも実現できる
ことは言うまでもない。
【0137】
【発明の効果】以上のように、請求項1に記載の発明に
よれば、演算部と計数部によって1フレームごとの予測
誤差を累計し、比較部にて予測誤差の1フレームごとの
累計としきい値とを比較し、その大小関係に基づいてシ
ーンチェンジ検出信号を生成するように構成したので、
計算量やハードウェアを極端に増大させることなくシー
ンチェンジを検出することが可能な動画像の復号化装置
が得られる効果がある。
【0138】また、請求項2に記載の発明によれば、計
数部によって1フレームごとの符号化データ量を計数
し、その計数値を比較部で1フレームごとにしきい値と
比較するように構成したので、シーンチェンジの検出に
要する付加的な計算量やハードウェアを少なくすること
ができる効果がある。
【0139】また、請求項3に記載の発明によれば、計
数部によって1フレームごとにフレーム内符号化(フレ
ーム間符号化)される画素数を計数し、計数値を比較部
で1フレームごとにしきい値と比較するように構成した
ので、シーンチェンジの検出に要する付加的な計算量や
ハードウェアを少なくすることができる効果がある。
【0140】また、請求項4に記載の発明によれば、動
画像の画像信号をフレーム間の相関を利用して符号化す
る際、符号化モードを適応的に切り換えてフレーム間の
相関にて予測誤差が大きいと判定された画素については
フレーム内の相関を利用して符号化した動画像の符号化
データより、多重分離部によってその画素がどちらの符
号化モードで符号化されたかを抽出し、計数部に入力す
るように構成したので、符号化装置や復号化装置の存在
とは関係なく、単に符号化データから必要な情報だけを
抽出して解析するだけでシーンチェンジの検出を可能と
する。
【0141】また、請求項5に記載の発明によれば、計
数手段によりフレーム内での符号化モードの使用回数を
計数し、情報保持手段により少なくとも連続する2フレ
ーム分について、フレームモードと、計数手段の計数結
果を保持し、検出信号出力手段により情報保持手段に保
持された情報の内容があらかじめ設定された条件を満た
すか否かを調べて検出信号を出力するように構成したの
で、動画像の符号化に際して計算される各種特徴量を用
いてシーンチェンジを自動的に検出することが可能とな
り、シーンチェンジの検出に要する付加的な計算量やハ
ードウェアを少なくすることができる効果がある。
【0142】また、請求項6に記載の発明によれば、多
重分離手段によって、符号化データからフレームモード
と符号化モードを示すデータを分離,抽出して、符号化
モードを示すデータを計数手段に、フレームモードを示
すデータを情報保持手段に送るように構成したので、符
号化の際の特徴量からシーンチェンジを自動的に検出す
ることが可能となり、シーンチェンジ検出のための付加
的な計算量やハードウェアを少なくできる効果がある。
【図面の簡単な説明】
【図1】この発明の実施例1を示すブロック図である。
【図2】この発明の実施例2を示すブロック図である。
【図3】この発明の実施例3を示すブロック図である。
【図4】この発明の実施例6,11および16を示すブ
ロック図である。
【図5】この発明の実施例7を示すブロック図である。
【図6】この発明の実施例8を示すブロック図である。
【図7】この発明の実施例9を示すブロック図である。
【図8】この発明の実施例10を示すブロック図であ
る。
【図9】この発明の実施例13を示すブロック図であ
る。
【図10】この発明の実施例17を示すブロック図であ
る。
【図11】この発明の実施例18を示すブロック図であ
る。
【図12】この発明の実施例19を示すブロック図であ
る。
【図13】この発明の実施例22,27および32を示
すブロック図である。
【図14】この発明の実施例23を示すブロック図であ
る。
【図15】この発明の実施例24を示すブロック図であ
る。
【図16】この発明の実施例25を示すブロック図であ
る。
【図17】この発明の実施例26を示すブロック図であ
る。
【図18】この発明の実施例29を示すブロック図であ
る。
【図19】この発明の実施例34を示すブロック図であ
る。
【図20】この発明の実施例35を示すブロック図であ
る。
【図21】この発明の実施例36を示すブロック図であ
る。
【図22】MPEG方式の動画像符号化のアルゴリズム
を説明するための説明図である。
【図23】この発明の実施例37を示すブロック図であ
る。
【図24】従来のシーンチェンジ検出装置が適用される
符号化装置および復号化装置の一例を示すブロック図で
ある。
【図25】従来のシーンチェンジ検出装置におけるシー
ンチェンジ検出のアルゴリズムを示すフローチャートで
ある。
【図26】従来のシーンチェンジ検出装置におけるシー
ンチェンジ検出のアルゴリズムを示すフローチャートで
ある。
【符号の説明】
12 演算部(乗算器) 13 計数部 14 比較部 21 計数部 26 計数部 27 演算部(乗算器) 28 計数部 29 比較部 35 計数部 38 計数部 42 動画像符号化データ入力部 43 計数部 44 比較部 47 多重分離部 48 計数部 49 比較部 65 符号化モード決定手段 66 フレームモード決定手段 67 計数手段 68 情報保持手段 69 検出信号出力手段 70 多重分離手段
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 昭62−108687(JP,A) 特開 平2−254887(JP,A) 特開 平4−68989(JP,A) 特開 平2−261264(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 7/24 - 7/68 H04N 5/91 - 5/956

Claims (6)

    (57)【特許請求の範囲】
  1. 【請求項1】 複数のシーンから構成される動画像の画
    像信号を、フレーム間の相関を利用して符号化した符号
    化データを前記画像信号に復号する復号化装置にて、前
    記動画像よりシーンの変化するフレームを自動的に検出
    するためのシーンチェンジ検出装置において、復号され
    た前記フレーム間の予測誤差に対して所定の演算を施す
    演算部と、1フレームごとに前記演算部の出力を累計す
    る計数部と、1フレームの復号が終了する度に前記計数
    部の計数値をしきい値と比較し、その比較結果に基づい
    て現フレームがシーンチェンジであるか否かを示す信号
    を発生する比較部とを備えたことを特徴とするシーンチ
    ェンジ検出装置。
  2. 【請求項2】 複数のシーンから構成される動画像の画
    像信号を、フレーム間の相関を利用して符号化した符号
    化データを前記画像信号に復号する復号化装置にて、前
    記動画像よりシーンの変化するフレームを自動的に検出
    するためのシーンチェンジ検出装置において、当該動画
    像の復号化装置に入力される符号化データの1フレーム
    ごとのデータ量を計数する計数部と、1フレームの復号
    が終了する度に前記計数部の計数値をしきい値と比較
    し、その比較結果に基づいて現フレームがシーンチェン
    ジであるか否かを示す信号を発生する比較部とを備えた
    ことを特徴とするシーンチェンジ検出装置。
  3. 【請求項3】 複数のシーンから構成される動画像の画
    像信号を、フレーム間の相関を利用して符号化する際、
    前記フレーム間の相関にて予測誤差が大きいと判定され
    た画素については、フレーム内の相関を利用して符号化
    した符号化データを前記画像信号に復号する復号化装置
    にて、前記動画像よりシーンの変化するフレームを自動
    的に検出するためのシーンチェンジ検出装置において、
    1フレームごとに前記予測誤差が大きいかあるいは前記
    予測可能と判定された画素の数を計数する計数部と、1
    フレームの復号が終了する度に前記計数部の計数値をし
    きい値と比較し、その比較結果に基づいて現フレームが
    シーンチェンジであるか否かを示す信号を発生する比較
    部とを備えたことを特徴とするシーンチェンジ検出装
    置。
  4. 【請求項4】 複数のシーンから構成される動画像の画
    像信号を、フレーム間の相関を利用して符号化する際、
    フレーム間符号化とフレーム内符号化とを適応的に切り
    換えて、前記フレーム間の相関にて予測誤差が大きいと
    判定された画素についてはフレーム内の相関を利用して
    符号化した動画像の符号化データより、前記画素が前記
    フレーム間符号化とフレーム内符号化のいずれによって
    符号化されたかを示す符号化モードを抽出する多重分離
    部と、1フレームごとに前記符号化モードを計数し、前
    記フレーム間予測可能あるいはフレーム間予測誤差が大
    きいと判定された画素の数を算出する計数部と、1フレ
    ームごとに前記計数部の計数値をしきい値と比較し、そ
    の比較結果に基づいてそのフレームがシーンチェンジで
    あるか否かを示す信号を発生する比較部とを備えたシー
    ンチェンジ検出装置。
  5. 【請求項5】 動画像のフレームを複数の領域に分割し
    た各領域毎の符号化モードとして、現フレームの情報を
    用いて符号化する第1の符号化モード、既に符号化され
    た時間的に過去に位置するフレームの情報を用いて符号
    化する第2の符号化モード、既に符号化された時間的に
    未来に位置するフレームの情報を用いて符号化する第3
    の符号化モード、あるいは既に符号化された時間的に過
    去に位置するフレームの情報と既に符号化された時間的
    に未来に位置するフレームの情報とを用いて符号化する
    第4の符号化モード中のいずれを用いるかを決定する符
    号化モード決定手段と、この符号化モード決定手段の出
    力より、前記フレーム内での前記各符号化モードの生起
    頻度を計数する計数手段と、前記動画像のフレームのフ
    レームモードが、前記第1の符号化モードだけを用いて
    符号化される第1のフレーム、前記第1の符号化モード
    と第2の符号化モードのいずれかを用いて符号化される
    第2のフレーム、あるいは第1ないし第4の符号化モー
    ドのいずれかを用いて符号化される第3のフレーム中の
    いずれであるかを決定するフレームモード決定手段と、
    前記フレームモード決定手段の出力であるフレームモー
    ドとの出力、および前記計数手段の計数結果を少なくと
    も時間的に連続する2フレーム分保持する情報保持手段
    と、前記情報保持手段に保持されている各フレームにお
    ける分割された複数領域毎の符号化モードの使用回数を
    上記連続するフレームモードの組み合わせの種類に応じ
    て比較し、その比較結果に基づいてそのフレームがシー
    ンチェンジであるか否かを示す検出信号を出力する検出
    信号出力手段とを備えたシーンチェンジ検出装置。
  6. 【請求項6】 動画像のフレームを複数の領域に分割
    し、各領域毎に、現フレームの情報を用いて符号化する
    第1の符号化モードと、既に符号化された時間的に過去
    に位置するフレームの情報を用いて符号化する第2の符
    号化モードと、既に符号化された時間的に未来に位置す
    るフレームの情報を用いて符号化する第3の符号化モー
    ドと、既に符号化された時間的に過去に位置するフレー
    ムの情報と既に符号化された時間的に未来に位置するフ
    レームの情報とを用いて符号化する第4の符号化モード
    とを適応的に切り換えることにより、前記動画像のフレ
    ームを、前記第1の符号化モードだけを用いて符号化さ
    れる第1のフレームと、前記第1の符号化モードと第2
    の符号化モードのいずれかを用いて符号化される第2の
    フレームと、第1ないし第4の符号化モードのいずれか
    を用いて符号化される第3のフレームとに分けて符号化
    した符号化データから、前記フレームが前記第1ないし
    第3のフレームのいずれであるかのフレームモードを示
    すデータ、および前記第1ないし第4の符号化モードの
    いずれが使用されているかを示すデータとを抽出する多
    重分離手段と、前記多重分離手段の出力より、前記フレ
    ーム内での前記各符号化モードの生起頻度を計数する計
    数手段と、多重分離手段から得られる前記フレームモー
    ドを示すデータと前記計数手段の計数結果とを少なくと
    も時間的に連続する2フレーム分保持する情報保持手段
    と、前記情報保持手段に保持されている各フレームにお
    ける分割された複数領域毎の符号化モードの使用回数を
    フレームモードの組み合わせの種類に応じて比較し、そ
    の比較結果に基づいてそのフレームがシーンチェンジか
    否かを示す検出信号を出力する検出信号出力手段とを備
    えたシーンチェンジ検出装置。
JP35161592A 1992-03-06 1992-12-09 シーンチェンジ検出装置 Expired - Fee Related JP3093499B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP35161592A JP3093499B2 (ja) 1992-03-06 1992-12-09 シーンチェンジ検出装置
US08/787,449 US5815217A (en) 1992-03-06 1997-01-22 Scene-change detector for a moving image composed of a plurality of frames

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP8304992 1992-03-06
JP4-141089 1992-05-07
JP14108992 1992-05-07
JP4-83049 1992-05-07
JP35161592A JP3093499B2 (ja) 1992-03-06 1992-12-09 シーンチェンジ検出装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP11240073A Division JP2000078585A (ja) 1992-03-06 1999-08-26 シ―ンチェンジ検出装置

Publications (2)

Publication Number Publication Date
JPH0622304A JPH0622304A (ja) 1994-01-28
JP3093499B2 true JP3093499B2 (ja) 2000-10-03

Family

ID=27304109

Family Applications (1)

Application Number Title Priority Date Filing Date
JP35161592A Expired - Fee Related JP3093499B2 (ja) 1992-03-06 1992-12-09 シーンチェンジ検出装置

Country Status (2)

Country Link
US (1) US5815217A (ja)
JP (1) JP3093499B2 (ja)

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2606599B2 (ja) * 1994-09-09 1997-05-07 日本電気株式会社 対数増幅回路
MY118360A (en) * 1996-04-30 2004-10-30 Nippon Telegraph & Telephone Scheme for detecting shot boundaries in compressed video data using inter-frame/inter field prediction coding and intra-frame/intra-field coding
JP3377678B2 (ja) * 1996-05-30 2003-02-17 日本電信電話株式会社 符号化映像カット検出方法
JP3496907B2 (ja) * 1996-05-24 2004-02-16 株式会社日立国際電気 音声・動画像符号化データ検索方法及び検索装置
JP3377677B2 (ja) 1996-05-30 2003-02-17 日本電信電話株式会社 映像編集装置
JPH09322174A (ja) * 1996-05-30 1997-12-12 Hitachi Ltd 動画データの再生方法
US6115420A (en) * 1997-03-14 2000-09-05 Microsoft Corporation Digital video signal encoder and encoding method
JPH1132294A (ja) * 1997-07-09 1999-02-02 Sony Corp 情報検索装置および方法、並びに伝送媒体
US6137844A (en) * 1998-02-02 2000-10-24 Oki Telecom, Inc. Digital filter for noise and error removal in transmitted analog signals
JP3738939B2 (ja) * 1998-03-05 2006-01-25 Kddi株式会社 動画像のカット点検出装置
JP4427827B2 (ja) * 1998-07-15 2010-03-10 ソニー株式会社 データ処理方法、データ処理装置及び記録媒体
JP4171940B2 (ja) * 1998-09-09 2008-10-29 ソニー株式会社 送信装置、受信装置、送信方法及び受信方法
KR100618972B1 (ko) * 1999-08-02 2006-09-01 삼성전자주식회사 가변장 코딩 방법 및 장치
JP3644320B2 (ja) * 1999-09-17 2005-04-27 日本電気株式会社 制御コード読み込みシステム
JP2001268575A (ja) 2000-03-14 2001-09-28 Pioneer Electronic Corp 画像変化検出装置及び画像変化検出方法、画像符号化装置並びに画像変化検出用プログラムがコンピュータで読取可能に記録された情報記録媒体
JP2001292372A (ja) 2000-04-04 2001-10-19 Pioneer Electronic Corp 画像変化検出装置及び画像変化検出方法、画像符号化装置並びに画像変化検出用プログラムがコンピュータで読取可能に記録された情報記録媒体
JP2002077723A (ja) * 2000-09-01 2002-03-15 Minolta Co Ltd 動画像処理装置、動画像処理方法および記録媒体
US7224892B2 (en) * 2001-06-26 2007-05-29 Canon Kabushiki Kaisha Moving image recording apparatus and method, moving image reproducing apparatus, moving image recording and reproducing method, and programs and storage media
US20030219232A1 (en) * 2001-10-01 2003-11-27 Shu Lin System and method for identifying data on a storage medium
JP3560958B2 (ja) 2002-04-17 2004-09-02 三菱電機株式会社 動画符号化制御方法および装置
US7116374B2 (en) * 2003-08-26 2006-10-03 Koplar Interactive Systems International, L.L.C. Method and system for enhanced modulation of video signals
JP4574983B2 (ja) * 2003-11-04 2010-11-04 オリンパス株式会社 画像表示装置、画像表示方法、及び画像表示プログラム
US7664175B1 (en) 2004-06-16 2010-02-16 Koplar Interactive Systems International, L.L.C. Mark-based content modulation and detection
CN1976604B (zh) 2005-01-28 2010-10-27 株式会社Utax 具有裆部的衣服
US8296662B2 (en) * 2007-02-05 2012-10-23 Brother Kogyo Kabushiki Kaisha Image display device
US8798133B2 (en) * 2007-11-29 2014-08-05 Koplar Interactive Systems International L.L.C. Dual channel encoding and detection
WO2014080253A1 (en) * 2012-11-26 2014-05-30 Golden Boy Technology & Innovation S.R.L. Automated filming process for sport events

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB8603880D0 (en) * 1986-02-17 1986-03-26 Indep Broadcasting Authority Hybrid interpolative predictive code
US4698672A (en) * 1986-10-27 1987-10-06 Compression Labs, Inc. Coding system for reducing redundancy
US4885636A (en) * 1987-06-22 1989-12-05 Eastman Kodak Company Block adaptive linear predictive coding with adaptive gain and bias
US4942467A (en) * 1988-12-05 1990-07-17 General Electric Company Predictor controlled encoder for digital transmission systems
JPH02174387A (ja) * 1988-12-26 1990-07-05 Graphics Commun Technol:Kk 画像符号化装置
JPH02174388A (ja) * 1988-12-26 1990-07-05 Graphics Commun Technol:Kk 画像符号化装置
JP2675130B2 (ja) * 1989-03-29 1997-11-12 株式会社日立製作所 画像データ転送再生方法および転送再生装置
FR2645383B1 (fr) * 1989-03-31 1997-06-27 Thomson Consumer Electronics Procede et dispositif d'interpolation temporelle d'images, a compensation de mouvement corrigee
WO1990016130A1 (en) * 1989-06-19 1990-12-27 Fujitsu Limited Dynamic image encoder and dynamic image decoder
EP0405842A3 (en) * 1989-06-26 1993-03-03 Matsushita Electric Industrial Co., Ltd. Picture coding method
US5164828A (en) * 1990-02-26 1992-11-17 Sony Corporation Video signal transmission and method and apparatus for coding video signal used in this
US5150432A (en) * 1990-03-26 1992-09-22 Kabushiki Kaisha Toshiba Apparatus for encoding/decoding video signals to improve quality of a specific region
US5347309A (en) * 1991-04-25 1994-09-13 Matsushita Electric Industrial Co., Ltd. Image coding method and apparatus
US5151784A (en) * 1991-04-30 1992-09-29 At&T Bell Laboratories Multiple frame motion estimation
JPH04334188A (ja) * 1991-05-08 1992-11-20 Nec Corp 動画像信号の符号化方式
JP3067275B2 (ja) * 1991-05-23 2000-07-17 日本放送協会 シーンチェンジ検出装置
JPH04354488A (ja) * 1991-05-31 1992-12-08 Toshiba Corp 動画像符号化装置
US5227878A (en) * 1991-11-15 1993-07-13 At&T Bell Laboratories Adaptive coding and decoding of frames and fields of video
JPH05284369A (ja) * 1992-03-31 1993-10-29 Fujitsu Ltd 画像データ符号化・復元方法及びその装置
WO1994011992A1 (en) * 1992-11-17 1994-05-26 Fujitsu Limited Digital video communication apparatus
US5497338A (en) * 1993-04-09 1996-03-05 Sharp Kabushiki Kaisha Motion vector detecting circuit

Also Published As

Publication number Publication date
US5815217A (en) 1998-09-29
JPH0622304A (ja) 1994-01-28

Similar Documents

Publication Publication Date Title
JP3093499B2 (ja) シーンチェンジ検出装置
US7023914B2 (en) Video encoding apparatus and method
KR100873586B1 (ko) 미디어 프로세서에서 mpeg2 디코딩의 동적인 복잡도예측 및 조절
KR100453714B1 (ko) Mpeg 영상 압축 기술을 이용한 디지털 영상 저장장치에서의 움직임 검출 장치 및 그 방법
EP2408207A2 (en) Adaptive quantization in multi-view image coding
JP2007251453A (ja) 動画像符号化装置及びプログラム
JP3633159B2 (ja) 動画像信号符号化方法及び装置、並びに動画像信号伝送方法
JP3667105B2 (ja) 動きベクトル検出方法及びその方法を実施する装置
WO2005062625A1 (ja) 動画像を符号化する方法及び装置
JP4494803B2 (ja) 動き補償に基づいた改善されたノイズ予測方法及びその装置とそれを使用した動画符号化方法及びその装置
US6408101B1 (en) Apparatus and method for employing M-ary pyramids to enhance feature-based classification and motion estimation
EP1374595A2 (en) Video coding method and device
KR20050085730A (ko) 탄력 저장
JP3812808B2 (ja) スキップ領域検出型動画像符号化装置および記録媒体
JP4169767B2 (ja) 符号化方法
JPH10108197A (ja) 画像符号化装置、画像符号化制御方法および画像符号化制御用プログラムを記録した媒体
JP2000078585A (ja) シ―ンチェンジ検出装置
KR20150137081A (ko) 복수의 입력 화상을 인코딩하는 방법, 프로그램을 격납하는 기억 매체 및 장치
JPH10126794A (ja) 動き予測フレーム間画像信号圧縮装置
JP2005151167A (ja) 動き補償予測符号化装置及び動き補償予測符号化プログラム
JPH07298270A (ja) 動き補償フレーム間予測符号化装置
JPH06105299A (ja) 動画像圧縮装置
JP3799842B2 (ja) 静的映像検出方法、及び装置
JP3188081B2 (ja) 画像符号化方法および画像符号化装置
JPH10191347A (ja) 動き検出装置、動き検出方法、及び、記憶媒体

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070728

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080728

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090728

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100728

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100728

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110728

Year of fee payment: 11

LAPS Cancellation because of no payment of annual fees