JP2012227669A - 情報処理装置と情報処理方法およびプログラム - Google Patents

情報処理装置と情報処理方法およびプログラム Download PDF

Info

Publication number
JP2012227669A
JP2012227669A JP2011092576A JP2011092576A JP2012227669A JP 2012227669 A JP2012227669 A JP 2012227669A JP 2011092576 A JP2011092576 A JP 2011092576A JP 2011092576 A JP2011092576 A JP 2011092576A JP 2012227669 A JP2012227669 A JP 2012227669A
Authority
JP
Japan
Prior art keywords
image
reliability
motion vector
low bit
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2011092576A
Other languages
English (en)
Inventor
Shun Ami
俊 羅
Takefumi Nagumo
武文 名雲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011092576A priority Critical patent/JP2012227669A/ja
Priority to US13/429,894 priority patent/US20120269451A1/en
Priority to CN2012101074075A priority patent/CN102752589A/zh
Publication of JP2012227669A publication Critical patent/JP2012227669A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/521Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】 簡単な構成でグローバル動きベクトルの算出をより良い精度で可能とする。
【解決手段】低ビット基準画像生成部31-cは、画素に割り当てるビット数の削減を基準画像に対して行い低ビット基準画像の画像データDVcbを生成する。低ビット参照画像生成部31-rは、参照画像のビット数削減を行い低ビット参照画像の画像データDVrbを生成する。動きベクトル情報生成部40は、低ビット基準画像と低ビット参照画像からブロック単位のローカル動きベクトルLMVを検出して、検出したローカル動きベクトルLMVの信頼度RVTを算出する。画像のビット数を削減することで、ローカル動きベクトルを簡単な構成で検出できる。信頼度に応じてローカル動きベクトルを用いてグローバル動きベクトルの算出を行えば、ビット数を削減した画像からローカル動きベクトルを検出した場合でも、より良い精度でグローバル動きベクトルを算出することが可能となる。
【選択図】 図1

Description

この技術は、情報処理装置と情報処理方法およびプログラムに関する。詳しくは、簡単な構成でグローバル動きベクトルの算出をより良い精度で可能とする。
従来、時間的に異なる画像中の物体の動きベクトルを検出して、検出した動きベクトルに基づき、例えば画像の高能率符号化における動き補償フレーム間符号化や、フレーム間時間領域フィルタによる雑音低減化等が行われている。
このような動きベクトルを検出する方法としては、例えばブロックマッチング法が用いられている。ブロックマッチング法では、1つの画面を数画素からなるブロックに分割する。次に、ブロック化された画像データと、この画像データが動いた領域を検索するために時間的に異なる画面の画像データがブロック化されてなる探索領域との間で、所定の評価関数を用いて画像の類似度を示す評価値を算出する。さらに、算出された評価値に基づき動きベクトルを検出する。
このようなブロックマッチング法では、検出対象のブロックと探索範囲内の各ブロックとの類似度を求める必要があり、動きベクトルの検出における計算量が大きくなってしまう。このため、特許文献1の技術では、解像度の低い上位階層で画素単位の動きベクトルの検出を行い、検出された画素単位の動きベクトルに基づき、上位階層における画素単位以下の精度の動きベクトルを検出する。さらに、画素単位以下の精度の動きベクトルに基づいて、上位階層よりも解像度の高い下位階層で動きベクトルを検出することで、動きベクトルの検出精度の向上と計算量の低減が行われている。
また、動きベクトルの検出では、ブロック単位の動きベクトルであるローカル動きベクトル(LMV:Local Motion Vector)を検出する。また、検出したローカル動きベクトルから、1つのフレームに対応する1つの動きベクトルであるグローバル動きベクトル(GMV:Global Motion Vector)を算出することが行われている。例えば、特許文献2の技術では、ローカル動きベクトルとブロック重みからグローバル動きベクトルを算出することが行われている。
特開平07−222158号公報 特開2009−65332号公報
ところで、解像度の低い画像を用いて、評価値例えば差分絶対値和(SAD: Sum of Absolute Difference)を算出して、差分絶対値和が最小となるブロックの位置から動きベクトルを検出する場合、解像度が低いことからブロック数は少なくなる。しかし、解像度の低い画像を用いてもブロックサイズが等しい場合、ローカル動きベクトルの検出のために画像を記憶するメモリの容量を少なくすることはできない。また、評価値を算出するロジック回路の回路規模を小さくすることもできない。さらに、検出されたローカル動きベクトルからグローバル動きベクトルを算出する場合、ローカル動きベクトルを検出するために用いられるメモリの容量や回路の規模を小さくすることができないことから、簡単な構成でグローバル動きベクトルを算出できない。
そこで、この技術では、簡単な構成でグローバル動きベクトルの算出をより良い精度で可能とする情報処理装置と情報処理方法およびプログラムを提供することを目的とする。
この技術の第1の側面は、画素に割り当てるビット数の削減を基準画像と参照画像に対して行い、低ビット基準画像と低ビット参照画像を生成する低ビット画像生成部と、低ビット基準画像と低ビット参照画像から画像を構成するブロック単位の動きベクトルであるローカル動きベクトルの検出と、該検出したローカル動きベクトルについての信頼度の算出を行う動きベクトル情報生成部とを有する情報処理装置にある。
この技術において、低ビット画像生成部は、画素に割り当てるビット数の削減を基準画像と参照画像に対して行い、低ビット基準画像と低ビット参照画像を生成する。動きベクトル情報生成部は、低ビット基準画像と低ビット参照画像から画像を構成するブロック単位の動きベクトルであるローカル動きベクトルを例えばブロックマッチングによって検出する。また、ローカル動きベクトルの検出に用いた評価値または低ビット基準画像の少なくとも何れかを用いて、ローカル動きベクトルについての信頼度の算出を行う。動きベクトル情報生成部は、評価値を用いて信頼度を算出する場合、低ビット基準画像と低ビット参照画像のブロック間の類似度が高くなるに伴い所定値に近づく評価値を用いて、この評価値が所定値に最も近い第1極値と2番目に小さい第2極値との差分に基づいて信頼度を算出する。例えば評価値として差分絶対値和を用いて、差分絶対値和が最小となる第1極小値と2番目に小さくなる第2極小値との差分が大きくなるに伴い信頼度を高くする。また、動きベクトル情報生成部は、低ビット基準画像を用いて信頼度を算出する場合、ブロック画像の輝度勾配に関する角度情報のばらつきが少なくなるに伴い信頼度を高くする。さらに、動きベクトル情報生成部は、評価値に基づく信頼度と低ビット基準画像に基づく信頼度を算出した場合、例えば信頼度が2値情報であるときは、2つの信頼度の論理演算を行って信頼度の統合を行い、信頼度が多値情報であるときは、2つの信頼度を乗算することで信頼度の統合を行う。さらに、グローバル動きベクトル算出部を設けて、検出されたローカル動きベクトルと算出された信頼度から、基準画像と参照画像間の画像単位の1つの動きベクトルであるグローバル動きベクトルを算出する。
この技術の第2の側面は、画素に割り当てるビット数の削減を基準画像と参照画像に対して行い、低ビット基準画像と低ビット参照画像を生成する工程と、低ビット基準画像と低ビット参照画像から画像を構成するブロック単位の動きベクトルであるローカル動きベクトルの検出と、該検出したローカル動きベクトルについての信頼度の算出を行う工程とを含む情報処理方法にある。
この技術の第3の側面は、コンピュータで、画素に割り当てるビット数の削減を基準画像と参照画像に対して行い、低ビット基準画像と低ビット参照画像を生成する手順と、低ビット基準画像と低ビット参照画像から画像を構成するブロック単位の動きベクトルであるローカル動きベクトルの検出と、該検出したローカル動きベクトルについての信頼度の算出を行う手順とを実行させるプログラムにある。
なお、本技術のコンピュータ・プログラムは、例えば、様々なプログラム・コードを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、あるいは、ネットワークなどの通信媒体によって提供可能なコンピュータ・プログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。
この技術によれば、画素に割り当てるビット数の削減を基準画像と参照画像に対して行うことにより生成された低ビット基準画像と低ビット参照画像ら、画像を構成するブロック単位の動きベクトルであるローカル動きベクトルが検出される。また、検出したローカル動きベクトルについての信頼度が算出される。このため、ローカル動きベクトルを簡単な構成で検出できる。さらに、ローカル動きベクトルの信頼度が算出されることから、ローカル動きベクトルと信頼度に基づき、グローバル動きベクトルをより良い精度で検出することが可能となる。
第1の実施の形態の情報処理装置の構成を示す図である。 第1の実施の形態の情報処理装置における処理を示すフローチャートである。 1ビット画像を生成する場合の低ビット基準画像生成部の構成を示す図である。 1ビット画像を生成する場合の低ビット基準画像生成部における処理を示すフローチャートである。 2ビット画像を生成する場合の低ビット基準画像生成部の構成を示す図である。 2ビット画像を生成する場合の低ビット基準画像生成部における処理を示すフローチャートである。 nビット画像を生成する場合の低ビット基準画像生成部の構成を示す図である。 nビット画像を生成する場合の低ビット基準画像生成部における処理を示すフローチャートである。 比較結果と画素値の関係を例示した図である。 ブロックマッチング部の構成を示す図である。 ブロックマッチング部における処理を示すフローチャートである。 XOR値計算処理を示すフローチャートである。 1次元評価値テーブルとして例示した図である。 第1信頼度算出部の構成を例示した図である。 第1信頼度算出部の処理を示すフローチャートである。 第2信頼度算出部の構成を例示した図である。 第2信頼度算出部の処理を示すフローチャートである。 信頼度統合部の構成を示す図である。 信頼度統合部で行われる処理を示すフローチャートである。 ブロック重み算出部の構成を例示した図である。 第2の実施の形態の情報処理装置の構成を示す図である。 第3の実施の形態の情報処理装置の構成を示す図である。 コンピュータのハードウェアの構成例を示す図である。
以下、技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態
1−1.情報処理装置の構成
1−2.情報処理装置の処理動作
1−3.低ビット画像生成部の構成と動作
1−4.ブロックマッチング部の構成と動作
1−5.第1信頼度算出部の構成と動作
1−6.第2信頼度算出部の構成と動作
1−7.信頼度統合部の構成と動作
1−8.グローバル動きベクトル算出部の構成と動作
1−9.動き補償部の構成と動作
2.第2の実施の形態
3.第3の実施の形態
4.処理をプログラムにより実行する場合について
<1.第1の実施の形態>
本技術の情報処理装置では、画素に割り当てるビット数を削減するビット数削減処理を基準画像と参照画像に対して行い、ビット数の削減された低ビットの基準画像と参照画像を生成する。次に、情報処理装置は、低ビットの基準画像と参照画像を用いたブロックマッチングによるローカル動きベクトルの検出、および低ビットの基準画像やブロックマッチング結果に基づき信頼度の算出を行う。さらに、情報処理装置は、ローカル動きベクトルと信頼度からグローバル動きベクトルを検出して、検出したグローバル動きベクトルに基づき参照画像の動き補償を行う。ローカル動きベクトル(LMV:Local Motion Vector)とは、個々のブロック単位の動きベクトルであり、グローバル動きベクトル(GMV:Global Motion Vector)とは、1つのフレームに対応する1つの動きベクトルである。なお、以下の説明では、第1の実施の形態の情報処理装置の構成と動作について説明して、その後、情報処理装置を構成する各部について詳述する。
[1−1.情報処理装置の構成]
図1は、第1の実施の形態の情報処理装置の構成を示している。情報処理装置10は、入力された画像データを記憶する画像メモリ部21を有している。また、情報処理装置10は、画素に割り当てるビット数の削減を行う低ビット基準画像生成部31-c、低ビット参照画像生成部31-rを有している。また、情報処理装置10は、ローカル動きベクトルの検出と、検出したローカル動きベクトルの信頼度の算出を行う動きベクトル情報生成部40を有している。さらに、情報処理装置10は、検出されたローカル動きベクトルと算出された信頼度を用いてグローバル動きベクトルの算出を行うグローバル動きベクトル算出部51を有している。なお、情報処理装置10には、算出されたグローバル動きベクトルを用いて動き補償を行う動き補償部61が設けられている。
画像メモリ部21は、基準画像と参照画像の画像データを記憶する。画像メモリ部21は、記憶している基準画像の画像データDV-cを低ビット基準画像生成部31-cに出力する。画像メモリ部21は、記憶している参照画像の画像データDV-rを低ビット参照画像生成部31-rと動き補償部61に出力する。
低ビット基準画像生成部31-cは、基準画像の画像データDV-cに対してビット数削減処理を行い、低ビット基準画像の画像データDV-cbを生成する。また、低ビット基準画像生成部31-cは、生成した低ビット基準画像の画像データDV-cbを動きベクトル情報生成部40のブロックマッチング部41に出力する。例えば、低ビット基準画像生成部31-cは、基準画像の8ビットの画像データに対してビット数削減処理を行い、1ビットである低ビット基準画像の画像データDV-cbを生成してブロックマッチング部41に出力する。
低ビット参照画像生成部31-rは、参照画像の画像データDV-rに対してビット数削減処理を行い、低ビット基準画像と等しいビット数の低ビット参照画像の画像データDV-rbを生成する。また、低ビット参照画像生成部31-rは、生成した低ビット参照画像の画像データDV-rbを動きベクトル情報生成部40のブロックマッチング部41に出力する。例えば、低ビット参照画像生成部31-rは、参照画像の8ビットの画像データに対してビット数削減処理を行い、1ビットである低ビット参照画像の画像データDV-rbを生成してブロックマッチング部41に出力する。
動きベクトル情報生成部40は、ブロックマッチング部41、第1信頼度算出部42、第2信頼度算出部43および信頼度統合部44を有している。
ブロックマッチング部41は、低ビット基準画像生成部31-cから出力された低ビット基準画像の画像データDV-cbと、低ビット参照画像生成部31-rから出力された低ビット参照画像の画像データDV-rbを用いてブロックマッチングを行う。ブロックマッチング部41は、ブロック単位でマッチングを行いローカル動きベクトルLMVを検出する。ブロックマッチング部41は、検出したローカル動きベクトルLMVをグローバル動きベクトル算出部51に出力する。また、ブロックマッチング部41は、ローカル動きベクトルLMVを検出するために算出した評価値EVを第1信頼度算出部42に出力する。
第1信頼度算出部42は、ブロックマッチング部41から供給された評価値EVを用いて、ブロックマッチング部41で検出されたローカル動きベクトルLMVについての信頼度RV1を算出する。第1信頼度算出部42は算出した信頼度RV1を信頼度統合部44に出力する。
第2信頼度算出部43は、低ビット基準画像の画像データDV-cbを用いて、ブロックマッチング部41で検出されたローカル動きベクトルLMVについての信頼度を算出する。第2信頼度算出部43は、低ビット画像を用いてブロック単位で特徴量を求めて、この特徴量から信頼度RV2を算出する。第2信頼度算出部43は算出した信頼度RV2を信頼度統合部44に出力する。
信頼度統合部44は、第1信頼度算出部42で算出された信頼度RV1と第2信頼度算出部43で算出された信頼度RV2を統合して、統合後の信頼度RVTをブロックマッチング部41で算出されたローカル動きベクトルLMVに対する信頼度とする。信頼度統合部44は、統合後の信頼度RVTをグローバル動きベクトル算出部51に出力する。
グローバル動きベクトル算出部51は、動きベクトル情報生成部40から供給されたローカル動きベクトルLMVと信頼度RVTを用いてグローバル動きベクトルGMVを算出して動き補償部61に出力する。
情報処理装置10には、動き補償部61が設けられており、動き補償部61は、グローバル動きベクトル算出部51で算出されたグローバル動きベクトルGMVに応じて参照画像の動き補償を行い、動き補償画像の画像データDV-mcを出力する。
[1−2.情報処理装置の処理動作]
図2は、第1の実施の形態の情報処理装置における処理を示すフローチャートである。ステップST1で低ビット基準画像生成部31-c,低ビット参照画像生成部31-rは、低ビット画像の生成を行う。低ビット基準画像生成部31-cは、基準画像の画像データDV-cに対してビット数削減処理を行い、低ビット基準画像の画像データDV-cbを生成する。低ビット参照画像生成部31-rは、参照画像の画像データDV-rに対してビット数削減処理を行い、低ビット参照画像の画像データDV-rbを生成する。このように、低ビット基準画像生成部31-c,低ビット参照画像生成部31-rは、低ビット画像の生成を行ってステップST2に進む。
ステップST2でブロックマッチング部41は、低ビット画像を用いたブロックマッチング処理を行う。ブロックマッチング部41は、低ビット基準画像の画像データDV-cbと低ビット参照画像の画像データDV-rbをブロック単位で用いてブロックマッチング処理を行い、ローカル動きベクトルLMVを検出してステップST3に進む。
ステップST3で第1信頼度算出部42は、評価値に基づいて信頼度RV1の算出を行う。第1信頼度算出部42は、ブロックマッチング処理で算出された評価値EVを用いて、ローカル動きベクトルLMVの信頼度RV1を算出してステップST4に進む。
ステップST4で第2信頼度算出部43は、低ビット画像に基づく信頼度の算出を行う。第2信頼度算出部43は、低ビット画像を用いてブロック単位で求めた特徴量から、ローカル動きベクトルLMVの信頼度RV2を算出してステップST5に進む。なお、ステップST3とステップST4の処理は、並列して行うようにしてもよく、ステップST4の処理を先に行うようにしてもよい。
ステップST5で信頼度統合部44は、信頼度統合処理を行う。信頼度統合部44は、ステップST3で算出された信頼度RV1とステップST4で算出された信頼度RV2の統合を行い、統合後の信頼度RVTを生成してステップST6に進む。
ステップST6でグローバル動きベクトル算出部51は、グローバル動きベクトルGMVの算出を行う。グローバル動きベクトル算出部51は、ステップST2で算出されたローカル動きベクトルLMVとステップST5で得られた統合後の信頼度RVTを用いてグローバル動きベクトルGMVを算出して、ステップST7に進む。
ステップST7で動き補償部61は、動き補償画像の生成を行う。動き補償部61は、ステップST6で算出されたグローバル動きベクトルGMVに応じて参照画像の動き補償を行い、動き補償画像の画像データDV-mcを生成して処理を終了する。
なお、情報処理装置は、ステップST6までの処理を行い、他の機器でグローバル動きベクトルの算出や参照画像の動き補償を行うようにしてもよい。また、情報処理装置は、ステップST7までの処理を行い、他の機器で参照画像の動き補償を行うようにしてもよい。
[1−3.低ビット画像生成部の構成と動作]
次に、低ビット画像の生成について説明する。低ビット基準画像生成部31-cは、基準画像のフィルタ処理を行い、フィルタ処理前とフィルタ処理後で画像データの比較を画素毎に行って、比較結果からビット数を削減した基準画像の画像データDV-cbを生成する。同様に、低ビット参照画像生成部31-rは、参照画像のフィルタ処理を行い、フィルタ処理前とフィルタ処理後で画像データの比較を画素毎に行って、比較結果からビット数を削減した参照画像の画像データDV-rbを生成する。
図3は、1ビット画像を生成する場合の低ビット基準画像生成部31-cの構成を示している。なお、低ビット基準画像生成部31-cと同様に低ビット参照画像生成部31-rが構成されており、低ビット参照画像生成部31-rは、参照画像に対して低ビット基準画像生成部31-cと同様な処理を行う。
低ビット基準画像生成部31-cは、フィルタ処理部311と画像比較部312を有している。フィルタ処理部311は、基準画像の画像データDV-cのフィルタ処理を行う。フィルタ処理部311は、例えば平均フィルタ(Mean Filter)やバンドパスフィルタ(Band-pass Filter)あるいは疑似平均フィルタ等の何れかを用いて、基準画像の画像データDV-cのフィルタ処理を行う。
フィルタ処理部311は、平均フィルタを用いる場合、式(1)の演算を行い、画素位置(x,y)のフィルタ処理後の画素データI'(x,y)を算出する。なお、I(i,j)は基準画像の画素データを示しており、Nは画素数である。
Figure 2012227669
フィルタ処理部311は、バンドパスフィルタを用いる場合、式(2)の演算を行い、画素位置(x,y)のフィルタ処理後の画素データI'(x,y)を算出する。なお、式(2)において「K」はフィルタ特性を決定するための係数であり、例えば式(3)に示す値とする。
Figure 2012227669
Figure 2012227669
フィルタ処理部311は、疑似平均フィルタを用いる場合、式(4)の演算を行い、画素位置(x,y)のフィルタ処理後の画素データI'(x,y)を算出する。
Figure 2012227669
画像比較部312は、基準画像の画像データとフィルタ処理後の画像データを比較して、比較結果を示す1ビットの信号を低ビット基準画像の画像データとする。
図4は、1ビット画像を生成する場合の低ビット基準画像生成部31-cにおける処理を示すフローチャートである。ステップST11で低ビット基準画像生成部31-cは、基準画像のフィルタ処理を行う。低ビット基準画像生成部31-cは、基準画像の画像データDV-cに対して平均フィルタやバンドパスフィルタ等のフィルタ処理を行ってステップST12に進む。
ステップST12で低ビット基準画像生成部31-cは、フィルタ処理結果が基準画像以下であるか否か判別する。低ビット基準画像生成部31-cは、フィルタ処理後の画像データと基準画像の画像データに対して、各画像位置での画素データの比較を行う。低ビット基準画像生成部31-cは、フィルタ処理結果の画素データが基準画像の画素データ以下である場合ステップST13に進む。また、低ビット基準画像生成部31-cは、フィルタ処理結果の画素データが基準画像の画素データよりも大きい場合ステップST14に進む。 ステップST13で低ビット基準画像生成部31-cは、画素値を「1」に設定してステップST15に進む。
ステップST14で低ビット基準画像生成部31-cは、画素値を「0」に設定してステップST15に進む。
ステップST15で低ビット基準画像生成部31-cは、全画素の比較が完了したか否か判別する。低ビット基準画像生成部31-cは、全画素の比較が完了していない場合ステップST12に戻り、次の画素について比較を行う。また、低ビット基準画像生成部31-cは、全画素の比較が完了した場合処理を終了する。
このように、フィルタ処理前とフィルタ処理後で画像データの比較を画素毎に行って、比較結果から画素に割り当てるビット数が1ビットとされた画像を生成できる。
次に、低ビット基準画像生成部31-cで、2ビットの画像を生成する場合やnビットの画像を生成する場合について説明する。図5は、2ビット画像を生成する場合の低ビット基準画像生成部31-cの構成を示している。
低ビット基準画像生成部31-cは、フィルタ処理部311a,311bと、画像比較部312a,312bを有している。フィルタ処理部311aは、基準画像の画像データのフィルタ処理を行う。フィルタ処理部311aは、上述のように平均フィルタやバンドパスフィルタあるいは疑似平均フィルタ等の何れかを用いて、基準画像の画像データのフィルタ処理を行う。画像比較部312aは、基準画像の画像データとフィルタ処理後の画像データを比較して、比較結果を示す1ビットの信号を2ビット画像の最下位ビットデータとする。フィルタ処理部311bは、フィルタ処理部311aと異なるフィルタ特性で基準画像の画像データのフィルタ処理を行う。フィルタ処理部311bは、フィルタ処理部311aと同様に、平均フィルタやバンドパスフィルタあるいは疑似平均フィルタ等の何れかを用いて、基準画像の画像データのフィルタ処理を行う。画像比較部312bは、基準画像の画像データとフィルタ処理後の画像データを比較して、比較結果を示す1ビットの信号を2ビット画像の最上位ビットデータとする。
このように、フィルタ処理前とフィルタ処理後で画像データの比較を画素毎に行って、比較結果から画素に割り当てるビット数が2ビットとされた画像データDVを生成できる。
図6は、2ビット画像を生成する場合の低ビット基準画像生成部31-cにおける処理を示すフローチャートである。ステップST21で低ビット基準画像生成部31-cは、基準画像の第1フィルタ処理を行う。低ビット基準画像生成部31-cは、基準画像の画像データに対して平均フィルタやバンドパスフィルタ等の第1フィルタ処理を行ってステップST22に進む。
ステップST22で低ビット基準画像生成部31-cは、第1フィルタ処理結果が基準画像以下であるか否か判別する。低ビット基準画像生成部31-cは、フィルタ処理後の画像データと基準画像の画像データを用いて、各画像位置での画素データの比較を行う。低ビット基準画像生成部31-cは、フィルタ処理結果の画素データが基準画像の画素データ以下である場合ステップST23に進む。また、低ビット基準画像生成部31-cは、フィルタ処理結果の画素データが基準画像の画素データよりも大きい場合ステップST24に進む。
ステップST23で低ビット基準画像生成部31-cは、画素値を「1」に設定して、2ビット画像の最下位ビットデータとしてステップST25に進む。
ステップST24で低ビット基準画像生成部31-cは、画素値を「0」に設定して、2ビット画像の最下位ビットデータとしてステップST25に進む。
ステップST25で低ビット基準画像生成部31-cは、基準画像の第2フィルタ処理を行う。低ビット基準画像生成部31-cは、基準画像の画像データに対して、ステップST21とは異なるフィルタ特性で平均フィルタやバンドパスフィルタ等の第2フィルタ処理を行ってステップST26に進む。
ステップST26で低ビット基準画像生成部31-cは、第2フィルタ処理結果が基準画像以下であるか否か判別する。低ビット基準画像生成部31-cは、フィルタ処理後の画像データと基準画像の画像データを用いて、各画像位置での画素データの比較を行う。低ビット基準画像生成部31-cは、フィルタ処理結果の画素データが基準画像の画素データ以下である場合ステップST27に進む。また、低ビット基準画像生成部31-cは、フィルタ処理結果の画素データが基準画像の画素データよりも大きい場合ステップST28に進む。
ステップST27で低ビット基準画像生成部31-cは、画素値を「1」に設定して、2ビット画像の最上位ビットデータとしてステップST29に進む。
ステップST28で低ビット基準画像生成部31-cは、画素値を「0」に設定して、2ビット画像の最上位ビットデータとしてステップST29に進む。
ステップST29で低ビット基準画像生成部31-cは、全画素の比較が完了したか否か判別する。低ビット基準画像生成部31-cは、全画素の比較が完了していない場合ステップST22に戻り、次の画素について比較を行う。また、低ビット基準画像生成部31-cは、全画素の比較が完了した場合に処理を終了する。
このように、フィルタ処理前とフィルタ処理後で画像データの比較を画素毎に行って、比較結果から画素に割り当てるビット数が2ビットとされた画像を生成できる。
次に、nビットの画像を生成する場合について説明する。図7は、nビット画像を生成する場合の低ビット基準画像生成部31-cの構成を示している。
低ビット基準画像生成部31-cは、フィルタ処理部311と、閾値設定部313と画像比較部314を有している。フィルタ処理部311は、基準画像の画像データDV-cのフィルタ処理を行う。フィルタ処理部311は、上述のように平均フィルタやバンドパスフィルタあるいは疑似平均フィルタ等の何れかを用いて、基準画像のフィルタ処理を行う。
閾値設定部313は、フィルタ処理後の画像データのシフト処理を行い、フィルタ処理後の画像データやシフト処理後の画像データを閾値として設定する。また、閾値設定部313は、設定した閾値を画像比較部314に出力する。
画像比較部314は、基準画像の画像データと画像比較部314から出力された閾値を画素毎に比較して、比較結果を示すnビットの信号を低ビット基準画像の画像データDV-cbとする。
図8は、nビット画像を生成する場合の低ビット基準画像生成部31-cにおける処理を示すフローチャートである。ステップST31で低ビット基準画像生成部31-cは、基準画像のフィルタ処理を行う。低ビット基準画像生成部31-cは、基準画像の画像データに対して平均フィルタやバンドパスフィルタ等のフィルタ処理を行ってステップST32に進む。
ステップST32で低ビット基準画像生成部31-cは閾値の設定を行う。低ビット基準画像生成部31-cは、フィルタ処理後の画像データのシフト処理を行い、フィルタ処理後の画像データやシフト処理後の画像データを閾値として設定してステップST33に進む。例えば2ビットの画像を生成する場合、低ビット基準画像生成部31-cは、フィルタ処理後の画像データから予め設定したシフト量だけ減少させた画像データを第1の閾値とする。また、低ビット基準画像生成部31-cは、フィルタ処理後の画像データを第2の閾値、フィルタ処理後の画像データから予め設定したシフト量だけ増加させた画像データを第3の閾値とする。また、nビットの画像を生成する場合、低ビット基準画像生成部31-cは、フィルタ処理後の画像データに基づき(2n−1)個の閾値を設定する。
ステップST33で低ビット基準画像生成部31-cは、基準画像の画像データと閾値を画素毎に比較する。低ビット基準画像生成部31-cは、基準画像の画像データが第1の閾値Th1よりも小さい場合、ステップST34に進む。低ビット基準画像生成部31-cは、基準画像の画像データが第1の閾値Th1以上で第2の閾値Th2よりも小さい場合、ステップST35に進む。低ビット基準画像生成部31-cは、基準画像の画像データが第2の閾値Th2以上で第3の閾値Th3よりも小さい場合、ステップST36に進む。低ビット基準画像生成部31-cは、基準画像の画像データが第3の閾値Th3以上である場合、ステップST37に進む。
ステップST34で低ビット基準画像生成部31-cは、画素値を「0」に設定してステップST38に進む。
ステップST35で低ビット基準画像生成部31-cは、画素値を「1」に設定してステップST38に進む。
ステップST36で低ビット基準画像生成部31-cは、画素値を「2」に設定してステップST38に進む。
ステップST37で低ビット基準画像生成部31-cは、画素値を「3」に設定してステップST38に進む。
ステップST38で低ビット基準画像生成部31-cは、全画素の比較が完了したか否か判別する。低ビット基準画像生成部31-cは、全画素の比較が完了していない場合ステップST32に戻り、次の画素について比較を行う。また、低ビット基準画像生成部31-cは、全画素の比較が完了した場合に処理を終了する。
図9は、比較結果と画素値の関係を例示している。画素位置が領域PA1である場合、基準画像の画素値は第2の閾値Th2以上で第3の閾値Th3よりも小さい。したがって、低ビット基準画像生成部31-cは、領域PA1の画素値を「2」とする。画素位置が領域PA2である場合、基準画像の画素値は第3の閾値Th3以上である。したがって、低ビット基準画像生成部31-cは、領域PA2の画素値を「3」とする。画素位置が領域PA3である場合、基準画像の画素値は第2の閾値Th2以上で第3の閾値Th3よりも小さい。したがって、低ビット基準画像生成部31-cは、領域PA3の画素値を「2」とする。画素位置が領域PA4である場合、基準画像の画素値は第1の閾値Th1以上で第2の閾値Th2よりも小さい。したがって、低ビット基準画像生成部31-cは、領域PA4の画素値を「1」とする。画素位置が領域PA5である場合、基準画像の画素値は第1の閾値Th1よりも小さい。したがって、低ビット基準画像生成部31-cは、領域PA5の画素値を「0」とする。
このように、フィルタ処理後の画像データに換えて、フィルタ処理後の画像データに基づいて設定した閾値を用いて、閾値とフィルタ処理前の画素レベルの比較を画素毎に行って、比較結果から画素に割り当てるビット数がnビットとされた画像を生成できる。
[1−4.ブロックマッチング部の構成と動作]
次に、ブロックマッチング部について説明する。ブロックマッチング部は、基準画像のブロックと参照画像のブロックとの間で評価値を算出して、評価値に基づきローカル動きベクトルを検出する。すなわち、ブロックマッチング部は、評価値に基づき基準画像のブロックと参照画像のブロックの画像が最も類似するブロック位置を検出して、検出したブロック位置の座標値からローカル動きベクトルを算出する。
図10は、ブロックマッチング部41の構成を示している。ブロックマッチング部41は、低ビット基準画像の画像データDV-cbと低ビット参照画像の画像データDVrbを用いてローカル動きベクトルの算出を行う。
基準ブロック指定部411は、低ビット基準画像に対して動きベクトルの検出を行うブロックを指定して、指定したブロック内の画像データを評価値算出部413に出力する。
参照ブロック指定部412は、動きベクトルの探索範囲から参照ブロックの範囲を指定して、指定した範囲の画像データを評価値算出部413に出力する。
評価値算出部413は、基準ブロック指定部411で指定されたブロックと、参照ブロック指定部412で指定された探索範囲内のブロックとの間で評価値を算出する。この評価値の算出は、探索範囲内のブロックを探索範囲内で順次移動させて各位置で行う。評価値算出部413は、評価値として低ビット基準画像と低ビット参照画像のブロック間の類似度が高くなるに伴い所定値に近づく評価値を用いる。例えば、評価値として差分絶対値和SADやXOR加算値SOXを用いる。また、差分自乗和(SSD:Sum of Squared Difference)、正規化相互相関(NCC:Normalized Cross Correlation)等を評価値として用いることもできる。
評価値算出部413は、評価値として差分絶対値和SADを用いる場合、式(5)の演算を行う。なお、式(5)において、T(i,j)は低ビット基準画像のブロック内おける位置(i,j)の画素データ、S(i,j)は低ビット参照画像のブロック内おける位置(i,j)の画素データを示している。
Figure 2012227669
評価値算出部413は、評価値としてXOR加算値SOXを用いる場合、式(6)(7)の演算を行う。なお、XOR値を求める式(7)において、T(i,j)は低ビット基準画像のブロック内おける位置(i,j)の画素データ、S(i,j)は低ビット画像のブロック内おける位置(i,j)の画素データを示している。
Figure 2012227669
また、評価値算出部413は、評価値としてXOR加算値SOXを用いる場合、低ビット基準画像と低ビット参照画像の画像データがnビットである場合は、nビットのXOR値の計算として式(8)の演算を行う。すなわち式(8)の演算によって、画素データが等しい場合は「XOR=0」、等しくない場合は「XOR=1」とする。なお、式(8)において、「k」は画素に割り当てるビット数の第k位を示している。
Figure 2012227669
ローカル動きベクトル決定部414は、評価値に基づき基準画像のブロックと最も類似度が高い参照画像のブロックの位置を検出する。さらに、基準画像のブロックと最も類似度が高い参照画像のブロックとの座標差からローカル動きベクトルLMVを求める。
図11は、ブロックマッチング部41における処理を示すフローチャートである。ステップST41でブロックマッチング部41は、基準ブロック位置の指定を行う。ブロックマッチング部41は、低ビット基準画像に対して動きベクトルの検出における基準ブロックの位置を指定してステップST42に進む。
ステップST42でブロックマッチング部41は、探索範囲の設定を行う。ブロックマッチング部41は、低ビット参照画像に対して探索範囲を設定してステップST43に進む。
ステップST43でブロックマッチング部41は、参照ブロック位置の指定を行う。ブロックマッチング部41は、探索範囲に動きベクトルの検出における参照ブロックの位置を指定してステップST44に進む。
ステップST44でブロックマッチング部41は、評価値の算出を行う。ブロックマッチング部41は、基準ブロックと参照ブロックの画素データから評価値を算出する。ブロックマッチング部41は、評価値として差分絶対値和SADやXOR加算値SOX等を算出する。また、低ビット基準画像と低ビット参照画像がnビットである場合、図12に示すXOR値計算処理を行い、ブロック内の画素毎にXOR値を決定する。
ステップST51でブロックマッチング部41は、ビット位置を示すパラメータkを「k=1」とする。ブロックマッチング部41は、ビット位置を示すパラメータkを、低ビット基準画像と低ビット参照画像における画素データの最下位ビットを示す値「k=1」に設定してステップST52に進む。
ステップST52でブロックマッチング部41は、パラメータkがnより大きくなったか否か判別する。ブロックマッチング部41は、パラメータkが低ビット基準画像と低ビット参照画像における画素データの最上位ビットよりも大きくない場合はステップST53に進む。また、ブロックマッチング部41は、パラメータkが低ビット基準画像と低ビット参照画像における画素データの最上位ビットよりも大きくなった場合ステップST58に進む。
ステップST53でブロックマッチング部41は、第k位ビットの読み出しを行う。ブロックマッチング部41は、低ビット基準画像と低ビット参照画像における画素データから第k位ビットのデータを読み出してステップST54に進む。
ステップST54でブロックマッチング部41は、XOR計算を行う。ブロックマッチング部41は、ステップST53で読み出した第k位ビットのデータについて排他論理和を算出してステップST55に進む。
ステップST55でブロックマッチング部41は、第k位が「XOR=1」であるか否か判別する。ブロックマッチング部41は、ステップST54で計算した第k位ビットの排他論理和が「0」である場合ステップST56に進む。また、ブロックマッチング部41は、ステップST54で計算した第k位ビットの排他論理和が「1」である場合ステップST57に進む。
ステップST56でブロックマッチング部41は、「k=k+1」の演算を行い、パラメータkを更新してステップST52に戻る。
ステップST57でブロックマッチング部41は、nビットのXOR値として「XOR=1」として処理を終了する。
ステップST58でブロックマッチング部41は、nビットのXOR値として「XOR=0」として処理を終了する。
このような処理を行うと、低ビット基準画像と低ビット参照画像における画素データは、最下位ビットから最上位ビット方向に、各ビットの値が等しいか否かが判別される。ここで、ビットの値が等しくない場合、XOR値は「XOR=1」となる。また、全ビットの値が等しい場合、XOR値は「XOR=0」となる。すなわち、低ビット基準画像と低ビット参照画像におけるnビットの画素データが等しくない場合、nビットのXOR値は「XOR=1」、nビットの画素データが等しい場合、nビットのXOR値は「XOR=0」となる。
このようにして、低ビット基準画像と低ビット参照画像における画像データがnビットであるときも、XOR値を得ることができる。
図11に戻り、ステップST45でブロックマッチング部41は、探索範囲内の全ブロックについて評価値の算出が完了したか否か判別する。ブロックマッチング部41は、全ブロックについて評価値の算出が完了していない場合にはステップST46に進み、全ブロックについて評価値の算出が完了した場合にはステップST47に進む。
ステップST46でブロックマッチング部41は、参照ブロックの新たな位置の指定を行う。ブロックマッチング部41は、参照範囲内で評価値の算出が完了していない参照ブロックの位置を新たに指定してステップST44に戻る。
ステップST47でブロックマッチング部41は、基準ブロックに対する動きブロックの検出を行う。ブロックマッチング部41は、算出した評価値から基準画像のブロックと類似度が最も高くなる参照画像のブロック位置を判別する、この判別した参照画像のブロックの位置と基準画像のブロックの位置との座標差からローカル動きベクトルを算出してステップST48に進む。
ステップST48でブロックマッチング部41は、全ての基準ブロックについて処理が完了したか否か判別する。ブロックマッチング部41は、処理が完了していない基準ブロックが残っている場合ステップST49に進む、また、ブロックマッチング部41は、全ての基準ブロックについて処理が完了した場合、ブロックマッチング処理を終了する。
ステップST49でブロックマッチング部41は、基準ブロックの新たな位置の指定を行う。ブロックマッチング部41は、ローカル動きベクトルの検出が完了していない基準ブロックの位置を新たに指定してステップST42に戻る。
このような処理を行うものとすれば、低ビット基準画像における各基準ブロックについてローカル動きベクトルを検出することができる。
[1−5.第1信頼度算出部の構成と動作]
第1信頼度算出部42は、ブロックマッチング部41から供給された評価値を用いて、ブロックマッチング部41で検出されたローカル動きベクトルLMVについての信頼度を算出する。第1信頼度算出部42は算出した信頼度を信頼度統合部44に出力する。以下、評価値EVとして差分絶対値和(SAD)を用いた場合を説明する。なお、差分絶対値和(SAD)を用いた場合、類似度が最も最も高くなると評価値は「0」となる。したがって、第1信頼度算出部42は、差分絶対値和(SAD)を用いた場合、極小値を用いて信頼度を算出する。
図13は、サーチ範囲と評価値の関係を1次元評価値テーブルとして例示した図である。極小値のなかで最も評価値EVが小さい第1極小値と2番目に評価値EVが小さい第2極小値の差分が小さい場合、第1極小値と第2極小値の何れの位置が正しいローカル動きベクトルに対応する位置であるか判別が困難である。しかし、第1極小値と第2極小値の差分が大きい場合は、第1極小値の位置がローカル動きベクトルに対応する位置であることがより確からしい。したがって、第1極小値と第2極小値の差分を信頼度判別値として、信頼度判別値が大きいほど信頼度が高く、信頼度判別値が小さい場合は信頼度が低いと判別する。例えば、信頼度を2値情報で示す場合、差分値DF(DF=第2極小値−第1極小値)を信頼度判別値として、信頼度判別値が閾値以上である場合、信頼度が高いとして信頼度RV1を「1」とする。また、信頼度判別値が閾値未満である場合、信頼度が低いとして信頼度RV1を「0」とする。また、信頼度を多値情報で示す場合、差分値DFを理論的な差分値の最大値DFmaxで除算して、除算結果である信頼度判別値を信頼度RV1とする。なお、極小値は、2次元評価値テーブルを用いる場合、上下左右の近傍画素より画素値が小さい画素の画素値を極小値とする。また、極小値は、第1極小値のみ存在して第2極小値がない場合も想定される。この場合、第2極小値は、理論的な最大値を第2極小値とすればよい。理論的な最大値とは、2次元評価値テーブルを用いる場合、最大値DFmax=(横方向のブロック幅×縦方向のブロック幅×画素輝度最大値)である。
また、信頼度RV1は、第1極小値と第2極小値の差分に限らず、第2極小値と第1極小値の割合に応じて決定することもできる。例えば(1−第1極小値/第2極小値)を信頼度判別値として算出する。ここで、第2極小値に対する第1極小値が小さいと信頼度判別値が大きくなり、第1極小値が第2極小値に近い値となると信頼度判別値が小さくなる。したがって、信頼度判別値と閾値を比較して、信頼度判別値が閾値以上である場合、信頼度が高いとして信頼度RV1を「1」とする。また、信頼度判別値が閾値未満である場合、信頼度が低いとして信頼度RV1を「0」とする。また、信頼度を多値情報で示す場合、信頼度判別値を信頼度RV1として用いることもできる。
図14は、第1信頼度算出部42の構成を例示している。第1信頼度算出部42は、極小値算出部421、信頼度判別値算出部422、信頼度決定部423を有している。極小値算出部421は、評価値テーブルから第1極小値と第2極小値を算出する。信頼度判別値算出部422は、第1極小値と第2極小値から上述のように信頼度判別値を算出する。信頼度決定部423は、算出した信頼度判別値に基づいて信頼度を決定する。例えば信頼度判別値を閾値と比較して、比較結果に基づき2値情報の信頼度RV1を生成する。また、多値情報である信頼度を生成する場合、信頼度判別値を信頼度RV1として用いてもよい。
図15は、第1信頼度算出部の処理を示すフローチャートである。ステップST61で第1信頼度算出部42は、画素毎に極小値の判定を行う。第1信頼度算出部42は、評価値テーブルの画素毎に極小値であるか判別してステップST62に進む。極小値であるか否かの判別は、例えば評価値テーブルが2次元テーブルである場合、上下左右の近傍画素より画素値が小さい画素の画素値を極小値とする。
ステップST62で第1信頼度算出部42は、第1極小値を選出する。第1信頼度算出部42は、ステップST61で判別された極小値のなかで、評価値EVが最も小さい極小値を第1極小値として選出してステップST63に進む。
ステップST63で第1信頼度算出部42は、第2極小値を選出する。第1信頼度算出部42は、ステップST61で判別された極小値のなかで、評価値が2番目に小さい極小値を第2極小値として選出してステップST64に進む。なお、ステップST62とステップST63の処理は、並列して行うようにしてもよく、ステップST63の処理を先に行うようにしてもよい。
ステップST64で第1信頼度算出部42は、信頼度判別値を算出する。第1信頼度算出部42は、第1極小値と第2極小値から信頼度判別値を算出してステップST65に進む。例えば、第1信頼度算出部42は、第2極小値から第1極小値を減算した差分値を信頼度判別値とする。また、第1信頼度算出部42は、第2極小値に対する第1極小値の割合に基づいて上述のように信頼度判別値を算出してもよい。
ステップST65で第1信頼度算出部42は、信頼度判別値に基づいて信頼度を決定する。例えば信頼度を二値化データとする場合、ステップST84で算出した信頼度判別値と閾値を比較して信頼度判別値が閾値以上である場合は信頼度が低いと判定して信頼度RV1を「0」とする。また、信頼度判別値が閾値未満である場合は信頼度が高いと判定して信頼度RV1を「1」とする。信頼度を連続値とする場合、信頼度判別値を信頼度として用いることもできる。
なお、評価値として差分自乗和(SSD:Sum of Squared Difference)を用いる場合、類似度が高くなるに伴い差分自乗和は「0」に近づく。したがって、差分絶対値和を用いた場合と同様な処理を行うことで信頼度を算出できる。また、正規化相互相関(NCC)を用いる場合、正規化相互相関(NCC)は「−1〜+1」の範囲の値であり、類似度が高くなるに伴い「1」に近づく。したがって、正規化相互相関(NCC)を用いる場合、極大値を用いて信頼度を算出する。
[1−6.第2信頼度算出部の構成と動作]
第2信頼度算出部43は、低ビット画像からブロック単位で特徴量を求めて、特徴量からブロックマッチング部41で検出されたローカル動きベクトルについての信頼度を算出する。
表1は、低ビット画像のブロックとローカル動きベクトルの信頼度の関係を示している。なお、表1では、低ビット画像が1ビット画像である場合を示している。また、参考として低ビット化が行われる前の例えば8ビット画像についても併記している。1ビット画像のブロックが特有パターンである場合や8ビット画像のブロックが特有テクスチャ領域である場合、検出されたローカル動きベクトルは正しい動きベクトルを示している。したがって、検出されたローカル動きベクトルの信頼度は高い。1ビット画像のブロックが繰り返しパターンである場合や8ビット画像のブロックが繰り返しパターン領域である場合、検出されたローカル動きベクトルは、パターンが繰り返されていることから正しい動きベクトルを示していないおそれがある。したがって、検出されたローカル動きベクトルの信頼度は低い。1ビット画像のブロックがランダムパターンである場合や8ビット画像のブロックが平坦領域である場合、検出されたローカル動きベクトルは、パターンに特徴がないことから正しい動きベクトルを示していないおそれがある。したがって、検出されたローカル動きベクトルの信頼度は低い。
Figure 2012227669
したがって、第2信頼度算出部43は、ブロックのパターンに応じた特徴量を求めて、特徴量からローカル動きベクトルの信頼度を算出する。第2信頼度算出部43は、画像の輝度勾配に関する角度情報を2次元ベクトルとして求めて、この角度情報に基づいて特徴量を算出する。この場合、第2信頼度算出部43は、表2から画素位置(i,j)に該当する2次元ベクトルGijを選択する。なお、画素位置(i,j+1)の画素レベルをT(i,j+1)とする。また、画素位置(i,j−1),(i+1,j)(i−1,j)の画素レベルをT(i,j−1),T(i+1,j),T(i−1,j)とする。
Figure 2012227669
例えば、「(T(i,j+1)−T(i,j−1))=−1,(T(i+1,j)−T(i−1,j))=0」の場合、2次元ベクトルGijは、表2からGij=(G1ij,G2ij)=(−1,0)となる。
また、第2信頼度算出部43は、2次元ベクトルGijの標準偏差stdを式(9)に基づき算出して特徴量とする。
Figure 2012227669
第2信頼度算出部43は、このようにして算出した特徴量を閾値と比較して信頼度を決定する。例えば、第2信頼度算出部43は、特徴量(標準偏差)が閾値未満である場合は、信頼度が高いとして信頼度RV2を「1」、特徴量(標準偏差)が閾値以上である場合は、信頼度が低いとして信頼度RV2を「0」とする。なお、信頼度は、2値情報に限らず多値情報であってもよい。例えば理論的な標準偏差の最大値をstd_maxとした場合、式(10)で求められる値を信頼度としてもよい。
信頼度=(1−std)/std_max ・・・(10)
図16は、第2信頼度算出部43の構成を示している。第2信頼度算出部43は、基準ブロック指定部431、角度情報生成部432、特徴量算出部433、信頼度決定部434を有している。基準ブロック指定部431は、信頼度を算出する基準ブロックの位置を指定する。角度情報生成部432は、基準ブロックの画素を用いて表2から角度情報を生成する。特徴量算出部433は、生成された角度情報を用いて例えば式(9)の演算を行い特徴量として標準偏差を算出する。信頼度決定部434は、算出された特徴量に基づき信頼度RV2を決定する。信頼度決定部434は、特徴量と閾値を比較して、比較結果に基づいて信頼度RV2を決定する。また、信頼度決定部434は、特徴量の理論的な最大値に対する特徴量算出部433で算出された特徴量の割合に応じて信頼度RV2を決定してもよい。
図17は、第2信頼度算出部43における処理を示すフローチャートである。ステップST71で第2信頼度算出部43は、信頼度を算出する基準ブロックの位置を指定してステップST72に進む。
ステップST72で第2信頼度算出部43は、ブロック内の1画素毎に角度情報を生成する。第2信頼度算出部43は、ブロック内の各画素について角度情報の生成を行いステップST73に進む。
ステップST73で第2信頼度算出部43は、ブロック内の全画素について角度情報の生成が完了したか判別する。第2信頼度算出部43は、角度情報の生成が行われていない画素がブロック内にある場合にはステップST72に戻り、角度情報の生成が行われていない画素について角度情報の生成を行う。また、第2信頼度算出部43は、ブロック内の全画素像について角度情報の生成が完了した場合、ステップST74に進む。
ステップST74で第2信頼度算出部43は、特徴量の算出を行う。第2信頼度算出部43は、ステップST72で算出した全画素の角度情報の例えば標準偏差を算出して特徴量としてステップST75に進む。
ステップST75で第2信頼度算出部43は、特徴量に基づいて信頼度を決定する。例えば信頼度を2値情報で示す場合、第2信頼度算出部43は、ステップST74で算出した特徴量と閾値を比較して特徴量が閾値以上である場合は信頼度が低いと判定して信頼度RV2を「0」とする。また、特徴量が閾値未満である場合は信頼度が高いと判定して信頼度RV2を「1」とする。信頼度を多値情報で示す場合、第2信頼度算出部43は、式(10)の演算を行って信頼度RV2を決定する。
[1−7.信頼度統合部の構成と動作]
信頼度統合部44は、第1信頼度算出部42で算出された信頼度RV1と第2信頼度算出部43で算出された信頼度RV2を統合して、ブロックマッチング部41で検出されたローカル動きベクトルについての信頼度を決定する。信頼度統合部44は、統合後の信頼度RVTをグローバル動きベクトル算出部51に出力する。
信頼度統合部44は、信頼度が2値情報である場合、2つの信頼度の論理和または論理積を算出して統合結果とする。2つの信頼度の論理和算出結果を用いる場合、2つの信頼度の何れかが信頼度が高いと判定されている場合、信頼度が高いと判定される。また、2つの信頼度の論理積算出結果を用いる場合、2つの信頼度の何れもが信頼度が高いと判定されている場合、信頼度が高いと判定される。
また、信頼度統合部44は、信頼度が多値情報である場合、例えば2つの信頼度を乗算して、乗算結果を統合後の信頼度RVTとする。なお、信頼度統合部44で用いる2つの信頼度は、例えば「0」〜「1」の範囲となるように第1信頼度算出部42と第2信頼度算出部43でそれぞれ正規化されている。
図18は信頼度統合部の構成を示しており、図18の(A)は、信頼度が2値情報である場合、図18の(B)は信頼度が多値情報である場合を示している。
信頼度が2値情報である場合、信頼度統合部44は、論理演算部441を用いて構成されている。論理演算部441は、第1信頼度算出部42からの信頼度RV1と第2信頼度算出部43からの信頼度RV2の論理演算を行い、演算結果を信頼度RVTとしてグローバル動きベクトル算出部51に出力する。また、信頼度が多値情報である場合、信頼度統合部44は、乗算器442を用いて構成されている。乗算器442は、第1信頼度算出部42から供給された正規化後の信頼度RV1と第2信頼度算出部43から供給された正規化後の信頼度RV1を乗算して、乗算結果を信頼度RVTとしてグローバル動きベクトル算出部51に出力する。
図19は、信頼度統合部で行われる処理を示すフローチャートである。ステップST81で信頼度統合部44は、ブロック毎に信頼度を取得する。信頼度統合部44は、ブロック毎に、第1信頼度算出部42で算出された信頼度RV1と第2信頼度算出部43で算出された信頼度RV2を取得してステップST82に進む。
ステップST82で信頼度統合部44は、信頼度の統合処理を行う。信頼度統合部44は、上述のように信頼度の論理演算または乗算を行い、信頼度を統合してステップST83に進む。
ステップST83で信頼度統合部44は、全ブロックの処理が完了したか判別する。信頼度統合部44は、信頼度の統合処理が行われていないブロックが残っている場合、ステップST81に戻り、信頼度の統合処理が行われていないブロックに対してステップST81からの処理を繰り返す。また、信頼度統合部44は、信頼度の統合処理が行われていないブロックが残っていない場合、信頼度統合処理を終了する。
[1−8.グローバル動きベクトル算出部について]
次に、グローバル動きベクトル算出部51について説明する。グローバル動きベクトル算出部51は、1つの画像を複数のブロックに区分してブロック毎に検出されているローカル動きベクトルLMVから、信頼度RVTに基づき信頼度の高いローカル動きベクトルLMVを選択する。例えば、グローバル動きベクトル算出部51は、信頼度RVTが「1」であるローカル動きベクトルLMVを選択する。グローバル動きベクトル算出部51は、選択したローカル動きベクトルLMVからグローバル動きベクトルGMVを算出する。このように、信頼度の高いローカル動きベクトルを選択して、選択したローカル動きベクトルからグローバル動きベクトルを求める手法としては、例えば、「IEEE Transactions on Consumer Electronics, Vol. 52, No. 2, MAY 2006」に記載された手法を適用することができる。
または、ブロック単位で検出されているローカル動きベクトルLMVに対して、信頼度RVTに応じた重み付けを行い、グローバル動きベクトル算出部51は、重み付け後のローカル動きベクトルLMVからグローバル動きベクトルを算出してもよい。このように信頼度RVTに応じて重み付けされたローカル動きベクトルLMVからグローバル動きベクトルを算出する手法を用いると、信頼度が多値情報である場合、信頼度が2値情報である場合に比べて詳細な重み付けを行うことができる。信頼度RVTに応じて重み付けされたローカル動きベクトルLMVからグローバル動きベクトルを算出する手法としては、例えば「特開2009−65332号公報」に記載された手法を適用することができる。この場合、図20に示すブロック重み算出部50を設けて、グローバル動きベクトル算出部51は、重み付け後のローカル動きベクトルLMVからグローバル動きベクトルを算出する。
ブロック重み算出部50は、ブロック分散値算出部501、画像間共分散算出部502、近傍LMVとの相関算出部503を有している。さらに、ブロック重み算出部50は、LMV対応重み算出部504、残差対応重み算出部505、分散対応重み算出部506、共分散対応重み算出部507、LMV相関対応重み算出部508、乗算器509を有している。
ブロック重み算出部50は、LMV対応重み算出部504でLMV対応重み[W_lmv]、残差対応重み算出部505で残差対応重み[W_sad]を算出する。また、ブロック重み算出部50は、分散対応重み算出部506で分散対応重み[W_var]、共分散対応重み算出部507で共分散対応重み[W_cor]、LMV相関対応重み算出部508でLMV相関対応重み[W_lmvcor]を各々算出する。ブロック重み算出部50は、これらのブロック重みと、信頼度RVT対応重み[W_RVT]の乗算を式(11)に示すように行い、最終的なブロック重み[W_block]を算出する構成としている。
W_block=W_lmv×W_sad×W_var×W_cor×W_lmvcor×W_RVT ・・・(11)
グローバル動きベクトル算出部51は、ブロック重み算出部50で算出したブロック重み[W_block]と、各ブロック対応のローカル動きベクトルLMVに基づいてグローバル動きベクトルGMVを算出する。
グローバル動きベクトル算出部51で算出されたグローバル動きベクトルは、動き補償部61に出力されて、動き補償部61では、グローバル動きベクトルに応じて参照画像の動き補償を行い、動き補償画像を出力する。
このように、第1の実施の形態では、低ビット画像を用いてローカル動きベクトルとローカル動きベクトルの信頼度を低コストで算出できる。さらに、ローカル動きベクトルと信頼度を用いてより良い性能でグローバル動きベクトル、例えば撮像装置の動きを検出できるようになる。
<2.第2の実施の形態>
ところで、第1の実施の形態では、低ビット画像から信頼度を算出する第1信頼度算出部と、評価値から信頼度を算出する第2信頼度算出部を設けているが、何れか一方の信頼度算出部を設ける構成であってもよい。次に、第2の実施の形態では、第2の実施の形態では、信頼度算出部として、評価値から信頼度を算出する第1信頼度算出部のみを設けた場合の構成を図21に示す。なお、図21において、図1と対応する部分については同一符号を付している。
情報処理装置10aは、入力された画像データを記憶する画像メモリ部21、画素に割り当てるビット数の削減を行う低ビット基準画像生成部31-c、低ビット参照画像生成部31-rを有している。また、情報処理装置10aは、ローカル動きベクトルと信頼度の算出を行う動きベクトル情報生成部40a、算出されたローカル動きベクトルと信頼度を用いてグローバル動きベクトルの算出を行うグローバル動きベクトル算出部51を有している。さらに、情報処理装置10aは、算出されたグローバル動きベクトルを用いて動き補償を行う動き補償部61を有している。
画像メモリ部21は、基準画像と参照画像の画像データを記憶する。画像メモリ部21は、記憶している基準画像の画像データを低ビット基準画像生成部31-cに出力する。画像メモリ部21は、記憶している参照画像の画像データを低ビット参照画像生成部31-rと動き補償部61に出力する。
低ビット基準画像生成部31-cは、基準画像の画像データに対してビット数削減処理を行い、低ビット基準画像の画像データを生成する。また、低ビット基準画像生成部31-cは、生成した低ビット基準画像の画像データを動きベクトル情報生成部40aのブロックマッチング部41に出力する。例えば、低ビット基準画像生成部31-cは、基準画像の8ビットの画像データに対してビット数削減処理を行い、1ビットである低ビット基準画像の画像データをブロックマッチング部41に出力する。
低ビット参照画像生成部31-rは、参照画像の画像データに対してビット数削減処理を行い、低ビット基準画像と等しいビット数の低ビット参照画像を生成する。また、低ビット参照画像生成部31-rは、生成した低ビット参照画像の画像データを動きベクトル情報生成部40aのブロックマッチング部41に出力する。
動きベクトル情報生成部40aは、ブロックマッチング部41、第2信頼度算出部43を有している。
ブロックマッチング部41は、低ビット基準画像生成部31-cから出力された低ビット基準画像の画像データと、低ビット参照画像生成部31-rから出力された低ビット参照画像の画像データを用いてブロックマッチングを行う。ブロックマッチング部41は、ブロックマッチングを行うことにより算出された評価値に基づきローカル動きベクトルを検出する。ブロックマッチング部41は、検出したローカル動きベクトルLMVをグローバル動きベクトル算出部51に出力する。また、評価値を第1信頼度算出部42に出力する。
第1信頼度算出部42は、ブロックマッチング部41から供給された評価値を用いて、ブロックマッチング部41で検出されたローカル動きベクトルについての信頼度を算出する。第1信頼度算出部42は、算出した信頼度をグローバル動きベクトル算出部51に出力する。
グローバル動きベクトル算出部51は、動きベクトル情報生成部40から供給されたローカル動きベクトルと信頼度を用いてグローバル動きベクトルを算出して動き補償部61に出力する。動き補償部61は、グローバル動きベクトル算出部51で算出されたグローバル動きベクトルに応じて参照画像の動き補償を行い、動き補償画像を出力する。
このように、第2の実施の形態でも、ローカル動きベクトルの算出と信頼度の算出を行い、算出したローカル動きベクトルと信頼度を用いてグローバル動きベクトルを算出できることから、低コストでグローバル動きベクトルを検出できるようになる。また、ローカル動きベクトルの信頼度を用いることから、より良い性能でグローバル動きベクトルを算出できる。
<3.第3の実施の形態>
次に、第3の実施の形態では、信頼度算出部として、低ビット画像から信頼度を算出する第1信頼度算出部のみを設けた場合の構成を図22に示す。なお、図22において、図1と対応する部分については同一符号を付している。
情報処理装置10bは、入力された画像データを記憶する画像メモリ部21、画素に割り当てるビット数の削減を行う低ビット基準画像生成部31-c、低ビット参照画像生成部31-rを有している。また、情報処理装置10bは、ローカル動きベクトルの検出と、検出したローカル動きベクトルについての信頼度の算出を行う動きベクトル情報生成部40b、検出したローカル動きベクトルと算出した信頼度を用いてグローバル動きベクトルの算出を行うグローバル動きベクトル算出部51を有している。さらに、情報処理装置10bは、算出されたグローバル動きベクトルを用いて動き補償を行う動き補償部61を有している。
画像メモリ部21は、基準画像と参照画像の画像データを記憶する。画像メモリ部21は、記憶している基準画像の画像データを低ビット基準画像生成部31-cに出力する。画像メモリ部21は、記憶している参照画像の画像データを低ビット参照画像生成部31-rと動き補償部61に出力する。
低ビット基準画像生成部31-cは、基準画像の画像データに対してビット数削減処理を行い、低ビット基準画像の画像データを生成する。また、低ビット基準画像生成部31-cは、生成した低ビット基準画像の画像データを動きベクトル情報生成部40bのブロックマッチング部41に出力する。例えば、低ビット基準画像生成部31-cは、基準画像の8ビットの画像データに対してビット数削減処理を行い、1ビットである低ビット基準画像の画像データをブロックマッチング部41に出力する。
低ビット参照画像生成部31-rは、参照画像の画像データに対してビット数削減処理を行い、低ビット基準画像と等しいビット数の低ビット参照画像を生成する。また、低ビット参照画像生成部31-rは、生成した低ビット参照画像の画像データを動きベクトル情報生成部40bのブロックマッチング部41に出力する。
動きベクトル情報生成部40bは、ブロックマッチング部41、第2信頼度算出部43を有している。
ブロックマッチング部41は、低ビット基準画像生成部31-cから出力された低ビット基準画像の画像データと、低ビット参照画像生成部31-rから出力された低ビット参照画像の画像データを用いてブロックマッチングを行う。ブロックマッチング部41は、ブロックマッチングを行うことにより算出された評価値に基づき、ローカル動きベクトルを検出する。ブロックマッチング部41は、検出したローカル動きベクトルLMVをグローバル動きベクトル算出部51に出力する。
第2信頼度算出部43は、低ビット基準画像を用いて信頼度の算出を行う。第2信頼度算出部43は、低ビット画像を用いてブロック単位で特徴量を求めて、特徴量からブロックマッチング部41で検出したローカル動きベクトルについての信頼度を算出する。第2信頼度算出部43は算出した信頼度をグローバル動きベクトル算出部51に出力する。
グローバル動きベクトル算出部51は、動きベクトル情報生成部40から供給されたローカル動きベクトルと信頼度を用いてグローバル動きベクトルを算出して動き補償部61に出力する。
なお、情報処理装置10には、動き補償部61が設けられており、動き補償部61は、グローバル動きベクトル算出部51で算出されたグローバル動きベクトルに応じて参照画像の動き補償を行い、動き補償画像を出力する。
このように、第3の実施の形態でも、ローカル動きベクトルの検出と信頼度の算出を行い、検出したローカル動きベクトルと算出した信頼度を用いてグローバル動きベクトルを算出できることから、低コストでグローバル動きベクトルを検出できるようになる。また、ローカル動きベクトルの信頼度を用いることから、より良い性能でグローバル動きベクトルを算出できる。
<4.処理をプログラムにより実行する場合について>
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータを用いる。または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどを用いて、プログラム記録媒体からソフトウェアをインストールする。
図23は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示す図である。
コンピュータ80において、CPU(Central Processing Unit)81、ROM(Read Only Memory)82、RAM(Random Access Memory)83は、バス84により相互に接続されている。
バス84には、さらに、入出力インタフェース部85が接続されている。入出力インタフェース部85には、キーボード、マウスなどよりなるユーザインタフェース部86、画像データを入力するための入力部87、ディスプレイなどよりなる出力部88、ハードディスクや不揮発性のメモリなどよりなる記録部89等が接続される。さらに、入出力インタフェース部85には、ネットワークインタフェースなどよりなる通信部90、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどのリムーバブルメディア95を駆動するドライブ91が接続されている。
以上のように構成されるコンピュータでは、CPU81が、例えば、記録部89に記録されているプログラムを、入出力インタフェース部85およびバス84を介して、RAM83にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU81)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD−ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア95に記録して提供される。または、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
そして、プログラムは、リムーバブルメディア95をドライブ91に装着することにより、入出力インタフェース部85を介して、記録部89にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部90で受信し、記録部89にインストールすることができる。その他、プログラムは、ROM82や記録部89に、予めインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであってもよいし、並列に、あるいは呼び出しが行われた場合等の必要なタイミングで処理が行われるプログラムであってもよい。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能であり、本技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
なお、本技術は以下のような構成も取ることができる。
(1) 画素に割り当てるビット数の削減を基準画像と参照画像に対して行い、低ビット基準画像と低ビット参照画像を生成する低ビット画像生成部と、
低ビット基準画像と低ビット参照画像から画像を構成するブロック単位の動きベクトルであるローカル動きベクトルの検出と、該検出したローカル動きベクトルについての信頼度の算出を行う動きベクトル情報生成部と
を有する情報処理装置。
(2) 前記動きベクトル情報生成部は、ブロックマッチングによって前記ローカル動きベクトルの検出を行い、該ローカル動きベクトルの検出に用いた評価値または前記低ビット基準画像の少なくとも何れかを用いて前記信頼度を算出する(1)に記載の情報処理装置。
(3) 前記動きベクトル情報生成部は、前記動きベクトル情報生成部は、前記低ビット基準画像と前記低ビット参照画像のブロック間の類似度が高くなるに伴い所定値に近づく評価値を用い、該評価値から前記信頼度を算出する場合、前記評価値が前記所定値に最も近い第1極値と2番目に小さい第2極値との差分に基づいて前記信頼度を算出する(2)に記載の情報処理装置。
(4) 前記動きベクトル情報生成部は、前記差分が大きくなるに伴い信頼度を高くする(3)に記載の情報処理装置。
(5) 前記動きベクトル情報生成部は、前記低ビット基準画像を用いて前記信頼度を算出する場合、ブロック画像の輝度勾配に関する角度情報に基づいて前記信頼度を算出する(2)乃至(4)の何れかに記載の情報処理装置。
(6) 前記動きベクトル情報生成部は、前記角度情報のばらつきが少なくなるに伴い信頼度を高くする(5)に記載の情報処理装置。
(7) 前記動きベクトル情報生成部は、前記評価値に基づく信頼度と前記低ビット基準画像に基づく信頼度を算出した場合、2つの信頼度を統合して1つの信頼度とする(2)乃至(6)の何れかに記載の情報処理装置。
(8) 前記動きベクトル情報生成部は、前記評価値に基づく信頼度と前記低ビット基準画像に基づく信頼度が2値情報である場合、2つの信頼度の論理演算を行って信頼度の統合を行い、前記評価値に基づく信頼度と前記低ビット基準画像に基づく信頼度が多値情報である場合、2つの信頼度を乗算することで信頼度の統合を行う(7)に記載の情報処理装置。
(9) 前記ローカル動きベクトルと前記信頼度から、前記基準画像と前記参照画像間の画像単位の1つの動きベクトルであるグローバル動きベクトルを算出するグローバル動きベクトル算出部をさらに有する(1)乃至(8)の何れかに記載の情報処理装置。
この技術の情報処理装置や情報処理方法およびプログラムでは、画素に割り当てるビット数の削減が基準画像と参照画像に対して行われて低ビット基準画像と低ビット参照画像が生成される。また、生成された低ビット基準画像と低ビット参照画像から、画像を構成するブロック単位の動きベクトルであるローカル動きベクトルが検出される。また、検出したローカル動きベクトルについての信頼度が算出される。このため、ローカル動きベクトルを簡単な構成で検出できる。さらに、ローカル動きベクトルの信頼度が算出されることから、ローカル動きベクトルと信頼度に基づき、グローバル動きベクトルをより良い精度で検出することが可能となり、撮像装置や画像データの符号化や画像処理等を行う画像処理装置等に適している。
10,10a,10b・・・情報処理装置、21・・・画像メモリ部、31-c ・・・低ビット基準画像生成部、31-r・・・低ビット参照画像生成部、40,40a,40b・・・動きベクトル情報生成部、41・・・ブロックマッチング部、42・・・第1信頼度算出部、43・・・第2信頼度算出部、44・・・信頼度統合部、50・・・重み算出部、51・・・グローバル動きベクトル算出部、61・・・動き補償部、80・・・コンピュータ、81・・・CPU、82・・・ROM、83・・・RAM、84・・・バス、85・・・入出力インタフェース部、86・・・ユーザインタフェース部、87・・・入力部、88・・・出力部、89・・・記録部、90・・・通信部、91・・・ドライブ、95・・・リムーバブルメディア、311,311a,311b ・・・フィルタ処理部、312,312a,312b,314・・・画像比較部、313・・・閾値設定部、411・・・基準ブロック指定部、412・・・参照ブロック指定部、413・・・評価値算出部、414・・・ローカル動きベクトル決定部、421・・・極小値算出部、422・・・信頼度判別値算出部、423,434・・・信頼度決定部、431・・・基準ブロック指定部、432・・・角度情報生成部、433・・・特徴量算出部、441・・・論理演算部、442、509・・・乗算器、501・・・ブロック分散値算出部、502・・・画像間共分散算出部、503・・・近傍LMVとの相関算出部、504・・・LMV対応重み算出部、505・・・残差対応重み算出部、506・・・分散対応重み算出部、507・・・共分散対応重み算出部、508・・・LMV相関対応重み算出部

Claims (11)

  1. 画素に割り当てるビット数の削減を基準画像と参照画像に対して行い、低ビット基準画像と低ビット参照画像を生成する低ビット画像生成部と、
    低ビット基準画像と低ビット参照画像から画像を構成するブロック単位の動きベクトルであるローカル動きベクトルの検出と、該検出したローカル動きベクトルについての信頼度の算出を行う動きベクトル情報生成部と
    を有する情報処理装置。
  2. 前記動きベクトル情報生成部は、ブロックマッチングによって前記ローカル動きベクトルの検出を行い、該ローカル動きベクトルの検出に用いた評価値と前記低ビット基準画像の少なくとも何れかを用いて前記信頼度を算出する
    請求項1記載の情報処理装置。
  3. 前記動きベクトル情報生成部は、前記低ビット基準画像と前記低ビット参照画像のブロック間の類似度が高くなるに伴い所定値に近づく評価値を用い、該評価値から前記信頼度を算出する場合、前記評価値が前記所定値に最も近い第1極値と2番目に小さい第2極値との差分に基づいて前記信頼度を算出する
    請求項2記載の情報処理装置。
  4. 前記動きベクトル情報生成部は、前記差分が大きくなるに伴い信頼度を高くする
    請求項3記載の情報処理装置。
  5. 前記動きベクトル情報生成部は、前記低ビット基準画像を用いて前記信頼度を算出する場合、ブロック画像の輝度勾配に関する角度情報に基づいて前記信頼度を算出する
    請求項2記載の情報処理装置。
  6. 前記動きベクトル情報生成部は、前記角度情報のばらつきが少なくなるに伴い信頼度を高くする
    請求項5記載の情報処理装置。
  7. 前記動きベクトル情報生成部は、前記評価値に基づく信頼度と前記低ビット基準画像に基づく信頼度を算出した場合、2つの信頼度を統合して1つの信頼度とする
    請求項2記載の情報処理装置。
  8. 前記動きベクトル情報生成部は、前記評価値に基づく信頼度と前記低ビット基準画像に基づく信頼度が2値情報である場合、2つの信頼度の論理演算を行って信頼度の統合を行い、前記評価値に基づく信頼度と前記低ビット基準画像に基づく信頼度が多値情報である場合、2つの信頼度を乗算することで信頼度の統合を行う
    請求項7記載の情報処理装置。
  9. 前記ローカル動きベクトルと前記信頼度から、前記基準画像と前記参照画像間の画像単位の1つの動きベクトルであるグローバル動きベクトルを算出するグローバル動きベクトル算出部をさらに有する請求項1記載の情報処理装置。
  10. 画素に割り当てるビット数の削減を基準画像と参照画像に対して行い、低ビット基準画像と低ビット参照画像を生成する工程と、
    低ビット基準画像と低ビット参照画像から画像を構成するブロック単位の動きベクトルであるローカル動きベクトルの検出と、該検出したローカル動きベクトルについての信頼度の算出を行う工程と
    を含む情報処理方法。
  11. コンピュータで、
    画素に割り当てるビット数の削減を基準画像と参照画像に対して行い、低ビット基準画像と低ビット参照画像を生成する手順と、
    低ビット基準画像と低ビット参照画像から画像を構成するブロック単位の動きベクトルであるローカル動きベクトルの検出と、該検出したローカル動きベクトルについての信頼度の算出を行う手順と
    を実行させるプログラム。
JP2011092576A 2011-04-19 2011-04-19 情報処理装置と情報処理方法およびプログラム Withdrawn JP2012227669A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011092576A JP2012227669A (ja) 2011-04-19 2011-04-19 情報処理装置と情報処理方法およびプログラム
US13/429,894 US20120269451A1 (en) 2011-04-19 2012-03-26 Information processing apparatus, information processing method and program
CN2012101074075A CN102752589A (zh) 2011-04-19 2012-04-12 信息处理设备、信息处理方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011092576A JP2012227669A (ja) 2011-04-19 2011-04-19 情報処理装置と情報処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2012227669A true JP2012227669A (ja) 2012-11-15

Family

ID=47021394

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011092576A Withdrawn JP2012227669A (ja) 2011-04-19 2011-04-19 情報処理装置と情報処理方法およびプログラム

Country Status (3)

Country Link
US (1) US20120269451A1 (ja)
JP (1) JP2012227669A (ja)
CN (1) CN102752589A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016506160A (ja) * 2012-12-19 2016-02-25 クゥアルコム・インコーポレイテッドQualcomm Incorporated 縮小されたラインバッファを有するデブロッキングフィルタ

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013041387A (ja) * 2011-08-15 2013-02-28 Sony Corp 画像処理装置、画像処理方法、撮像装置、電子機器、及び、プログラム
WO2018155198A1 (ja) * 2017-02-22 2018-08-30 ソニー株式会社 情報処理装置および方法
JP6545229B2 (ja) * 2017-08-23 2019-07-17 キヤノン株式会社 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム
US11151002B2 (en) * 2019-04-05 2021-10-19 International Business Machines Corporation Computing with unreliable processor cores

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5793985A (en) * 1996-06-17 1998-08-11 Hewlett-Packard Company Method and apparatus for block-based motion estimation
JP4640068B2 (ja) * 2005-09-16 2011-03-02 ソニー株式会社 撮像方法および撮像装置
US8417059B2 (en) * 2007-06-28 2013-04-09 Panasonic Corporation Image processing device, image processing method, and program
JP5045320B2 (ja) * 2007-09-05 2012-10-10 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016506160A (ja) * 2012-12-19 2016-02-25 クゥアルコム・インコーポレイテッドQualcomm Incorporated 縮小されたラインバッファを有するデブロッキングフィルタ

Also Published As

Publication number Publication date
US20120269451A1 (en) 2012-10-25
CN102752589A (zh) 2012-10-24

Similar Documents

Publication Publication Date Title
JP4700892B2 (ja) 画像のマッチング
US11475653B2 (en) Perceptual importance maps for image processing
TWI455588B (zh) 以雙向、局部及全域移動評估為基礎之框率轉換
JP3847827B2 (ja) 動きベクトル検出方法
KR101141467B1 (ko) 화상 처리 장치 및 방법, 및 기록 매체
WO2005084036A1 (ja) 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム
JP5777311B2 (ja) 低解像度ビデオから高解像度ビデオを生成する方法
JP2009147807A (ja) 画像処理装置
JP2012227669A (ja) 情報処理装置と情報処理方法およびプログラム
JP5201408B2 (ja) フレーム周波数変換装置、フレーム周波数変換方法、その方法を実行するためのプログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体並びに動きベクトル検出装置及び予測係数生成装置
JP2009212605A (ja) 情報処理方法、情報処理装置及びプログラム
JP4622264B2 (ja) 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム
KR20180133394A (ko) 화상 처리 장치와 화상 처리 방법
JP4622265B2 (ja) 動きベクトル検出装置、および動きベクトル検出方法、並びにプログラム
JP2013005400A (ja) 情報処理装置と情報処理方法およびプログラムと記録媒体
JP2011166266A (ja) 情報処理装置と情報処理方法およびプログラム
JP2005175872A (ja) 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム
JP4973591B2 (ja) 動きベクトル検出装置及び動きベクトル検出方法
KR101854611B1 (ko) 엔트로피를 이용한 가중치 할당에 기초한 이미지 처리 방법
JP4207763B2 (ja) 動きベクトル検出装置、および動きベクトル検出方法、並びにコンピュータ・プログラム
JP2013131789A (ja) 情報処理装置と情報処理方法とプログラムおよび記録媒体
JP3651093B2 (ja) 動きベクトル検出装置および方法
JP4139342B2 (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体
JP3777593B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム
JP3777592B2 (ja) 画像処理装置および方法、記録媒体、並びにプログラム

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20140701