JP2015177322A - 画像処理装置および方法、並びにプログラム - Google Patents
画像処理装置および方法、並びにプログラム Download PDFInfo
- Publication number
- JP2015177322A JP2015177322A JP2014051894A JP2014051894A JP2015177322A JP 2015177322 A JP2015177322 A JP 2015177322A JP 2014051894 A JP2014051894 A JP 2014051894A JP 2014051894 A JP2014051894 A JP 2014051894A JP 2015177322 A JP2015177322 A JP 2015177322A
- Authority
- JP
- Japan
- Prior art keywords
- image
- block
- reference image
- calculation
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Image Analysis (AREA)
Abstract
【課題】動きベクトルを利用したブロックマッチングによるノイズ除去効率を向上できるようにする。
【解決手段】動き検出部31は、基準画像および参照画像に基づいて、動きベクトルを検出する。画枠内外判定部34は、動きベクトルに基づいて、基準画像のブロックに対応する参照画像のブロックが参照画像の画枠外であるか否かを判定し、画枠フラグマップを生成する。MC画像生成部32は、画枠フラグマップおよび動きベクトルに基づいて、MC画像を生成する。ノイズ低減演算部33は、MC画像および基準画像を混合して、出力画像を生成する。演算強度算出部35は、MC画像および基準画像より、混合比のマップである演算強度マップを生成する。平滑処理部36は、ブロック単位の画枠フラグマップに基づいて、演算強度マップを画素単位で平滑処理する。本技術は、画像処理装置に適用することができる。
【選択図】図4
【解決手段】動き検出部31は、基準画像および参照画像に基づいて、動きベクトルを検出する。画枠内外判定部34は、動きベクトルに基づいて、基準画像のブロックに対応する参照画像のブロックが参照画像の画枠外であるか否かを判定し、画枠フラグマップを生成する。MC画像生成部32は、画枠フラグマップおよび動きベクトルに基づいて、MC画像を生成する。ノイズ低減演算部33は、MC画像および基準画像を混合して、出力画像を生成する。演算強度算出部35は、MC画像および基準画像より、混合比のマップである演算強度マップを生成する。平滑処理部36は、ブロック単位の画枠フラグマップに基づいて、演算強度マップを画素単位で平滑処理する。本技術は、画像処理装置に適用することができる。
【選択図】図4
Description
本技術は、画像処理装置および方法、並びにプログラムに関し、特に、動きベクトルを利用したブロックマッチングによるノイズ除去(NR:Noise Reduction)効率を向上できるようにした画像処理装置および方法、並びにプログラムに関する。
ノイズ除去(Noise Reduction)(以降、NRとも称する)技術として、ブロックマッチングにより動きベクトルを検出し、検出された動きベクトルの始点位置の基準画像における画素ブロックと、動きベクトルの終点位置の参照画像における画素ブロックとを重ね合わせることによりノイズを除去する技術が提案されている。
このNR技術は、基準画像における画素ブロックと対応する画素ブロックを、所定の時間間隔だけ異なるタイミングで入力される参照画像上でブロックマッチングにより検出し、検出された画素ブロックと基準画像における画素ブロックとの位置関係からローカルの動きベクトルを求め、そのまま使用するものが提案されている。また、画像内の全てのブロック、または一部のブロックのローカルの動きベクトルからグローバルモーションを求め、このグローバルモーションに対応する動きベクトルを利用するものも提案されている(特許文献1,2参照)。
しかしながら、ブロックマッチングで、基準画像の画素ブロック(以下、単にブロックとも称する)に対応するブロックを参照画像上で検索する場合、対応するブロックが参照画像の画枠内に存在しないことがある。特に、グローバルモーションに対応する動きベクトルを使用する場合、各ブロックの動きベクトルが、グローバルモーションに対応する動きベクトルに制約されることになるので、画枠近くのブロックで算出された動きベクトルの終点位置は画枠外となることがある。
このため、グローバルモーションを使用する場合、基準画像のブロックに対応するブロックが参照画像の画枠内に存在しないことがある。
結果として、基準画像のブロックと、対応する参照画像上のブロックとを用いてノイズを除去しようとすると、適切にノイズを除去することができない恐れがあった。
本技術は、このような状況に鑑みてなされたものであり、特に、動きベクトルを利用した基準画像上のブロックに対する参照画像上のブロックが検出できない場合でも、適切にノイズ除去できるようにし、動きベクトルを利用したNR効率を向上させるものである。
本技術の一側面の画像処理装置は、基準画像および参照画像に基づいて、動きベクトルを検出する動き検出部と、前記動き検出部により検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する動き補償画像生成部と、前記動き補償画像および前記基準画像を混合して、出力画像を生成する出力画像生成部と、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力する演算強度算出部と、前記演算強度マップにおける前記演算強度を平滑処理する平滑処理部とを含み、前記出力画像生成部は、前記平滑処理部により平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像を混合する。
前記動きベクトルに基づいて、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外であるか否かを判定する画枠内外判定部をさらに含ませるようにすることができ、前記演算強度算出部には、前記画枠内外判定部における判定結果に基づいて、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出させるようにすることができる。
前記画枠内外判定部には、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外であるか否かの判定結果に基づいてフラグを設定させ、前記フラグからなる画枠フラグマップを出力させ、前記演算強度算出部には、前記画枠フラグマップに基づいて、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出させるようにすることができる。
前記演算強度算出部には、前記画枠フラグマップに基づいて、前記動き補償画像および前記基準画像の混合比を算出させ、前記ブロック単位の演算強度マップとして出力させるようにすることができる。
前記平滑処理部には、前記画枠フラグマップに基づいて、前記ブロック単位の前記演算強度マップを画素単位で平滑処理させ、前記動き補償画像および前記基準画像の画素単位の前記演算強度マップを生成させるようにすることができる。
前記平滑処理部には、前記ブロック単位の前記演算強度マップを画素単位で平滑処理する複数のフィルタを含ませるようにすることができ、前記画枠フラグマップに基づいて、前記複数のフィルタを制御して、前記ブロック単位の前記演算強度マップを画素単位で平滑処理させるようにすることができる。
前記画枠フラグマップに基づいて、前記動きベクトルを修正するベクトル修正部をさらに含ませるようにすることができ、前記動き補償画像生成部には、前記ベクトル修正部により修正された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出させ、抽出した前記ブロックより動き補償画像を生成させるようにすることができる。
前記ベクトル修正部には、前記画枠フラグマップに基づいて、前記基準画像が複数に分割された各ブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外である前記動きベクトルを、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠内となるベクトルに修正させるようにすることができる。
本技術の一側面の画像処理方法は、基準画像および参照画像に基づいて、動きベクトルを検出し、検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成し、前記動き補償画像および前記基準画像を混合して、出力画像を生成し、前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力し、前記演算強度マップにおける前記演算強度を平滑処理するステップを含み、平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像が混合される。
本技術の一側面のプログラムは、基準画像および参照画像に基づいて、動きベクトルを検出する動き検出ステップと、前記動き検出ステップの処理により検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する動き補償画像生成ステップと、前記動き補償画像および前記基準画像を混合して、出力画像を生成する出力画像生成ステップと、前記出力画像生成ステップの処理における前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力する演算強度算出ステップと、前記演算強度マップにおける前記演算強度を平滑処理する平滑処理ステップとを含む処理をコンピュータに実行させ、前記出力画像生成ステップの処理は、前記平滑処理ステップの処理により平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像を混合する。
本技術の一側面においては、基準画像および参照画像に基づいて、動きベクトルが検出され、検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックが前記参照画像より抽出され、抽出された前記ブロックより動き補償画像が生成され、前記動き補償画像および前記基準画像が混合されて、出力画像が生成され、前記動き補償画像および前記基準画像の混合比が演算強度として算出され、演算強度マップとして出力され、前記演算強度マップにおける前記演算強度が平滑処理され、平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像が混合される。
本技術の一側面の画像処理装置は、独立した装置であっても良いし、画像処理を行うブロックであっても良い。
本技術の一側面によれば、動きベクトルを利用したブロックマッチングによるノイズ除去(NR:Noise Reduction)効率を向上させることが可能となる。
なお、説明は以下の順序で行う。
1.第1の実施の形態(動きベクトルをそのまま利用するNR部の構成例)
2.変形例1
3.変形例2
4.変形例3
5.第2の実施の形態(動きベクトルを修正して利用するNR部の構成例)
6.変形例4
1.第1の実施の形態(動きベクトルをそのまま利用するNR部の構成例)
2.変形例1
3.変形例2
4.変形例3
5.第2の実施の形態(動きベクトルを修正して利用するNR部の構成例)
6.変形例4
<1.第1の実施の形態>
<画像処理装置の構成例>
図1は、本技術を適用した画像処理装置の一実施の形態の構成例を示している。図1の情報処理装置は、入力画像信号よりノイズを除去して出力画像信号として出力する。
<画像処理装置の構成例>
図1は、本技術を適用した画像処理装置の一実施の形態の構成例を示している。図1の情報処理装置は、入力画像信号よりノイズを除去して出力画像信号として出力する。
より詳細には、図1の画像処理装置は、制御部10、信号選択部11,12、NR(Noise Reduction)処理部13、およびバッファメモリ14を備えている。
制御部10は、マイクロコンピュータなどから構成されており、信号選択部11,12、NR(Noise Reduction)処理部13、およびバッファメモリ14を制御することにより、画像処理装置の動作の全体を制御する。
信号選択部11は、最初の入力画像信号を、基準画像を構成する基準画像信号として信号選択部12に出力する。また、信号選択部11は、2枚目以降の入力画像信号を、参照画像を構成する参照画像信号としてNR処理部13に、切り替えて供給する。さらに、NR処理部13は、最初の入力画像信号のみをそのまま出力画像信号として出力し、バッファメモリ14に記憶させる。
信号選択部12は、基準画像信号として供給される、最初の入力画像信号をNR処理部13に供給すると共に、以降において、バッファメモリ14に記憶されている画像信号を参照画像信号としてNR処理部13に供給する。
NR処理部13は、直前の出力画像信号を、基準画像信号としてバッファメモリ14より読み込むと共に、新たに入力される入力画像信号を参照画像信号として読み込み、ノイズを除去して出力画像信号として出力する。
より詳細には、図2で示されるように、信号選択部11は、端子11a乃至11cを、信号選択部12は、端子12a乃至12cを、さらに、NR処理部13は、端子13a乃至13cおよびNR部13dを備えている。
そして、最初の画像信号が入力されるとき、図2の上段で示されるように、信号選択部11の端子11a,11cが接続され、信号選択部12の端子12a,12bが接続され、さらに、NR処理部13の端子13a,13bが接続される。この結果、信号選択部11は、最初の入力画像信号を、基準画像を構成する基準画像信号として信号選択部12に出力する。また、信号選択部12は、基準画像信号として供給される、最初の入力画像信号をNR処理部13に供給する。そして、NR処理部13は、端子13a,13bを介して最初の入力画像信号をそのまま出力画像信号として出力し、バッファメモリ14に記憶させる。
一方、2枚目以降の画像信号が入力されるとき、図2の下段で示されるように、信号選択部11の端子11a,11bが接続され、信号選択部12の端子12b,12cが接続され、さらに、NR処理部13の端子13a,13cが接続される。この結果、信号選択部11は、2枚目以降の入力画像信号を、参照画像を構成する参照画像信号としてNR処理部13に供給する。信号選択部12は、バッファメモリ14に記憶されている画像信号を基準画像信号としてNR部13dに供給する。そして、NR部13dは、直前の出力画像信号を、基準画像信号としてバッファメモリ14より読み込むと共に、新たに入力される入力画像信号を参照画像信号として読み込み、ノイズを除去して出力画像信号を生成し出力する。
このような処理により、図3で示されるように、最初の入力画像信号は、最初の基準画像信号Fi1として入力されると、そのまま出力画像信号Fo1とされる。また、2枚目の入力画像信号が2枚目の参照画像Fi2とされ、直前の出力画像信号Fo1が、2枚目の基準画像信号Fb1とされる。NR部13dは、この2枚目の参照画像Fi2および基準画像信号Fb1とから出力画像信号Fo2を生成して出力する。
同様に、3枚目の入力画像信号が3枚目の参照画像Fi3とされ、直前の出力画像信号Fo2が、3枚目の基準画像信号Fb2とされる。NR部13dは、この3枚目の参照画像Fi3および基準画像信号Fb2とから出力画像信号Fo3を生成して出力する。
以降、順次同様の処理が繰り返されて、n枚目の入力画像信号がn枚目の参照画像Finとされ、直前の出力画像信号Fon−1が、3枚目の基準画像信号Fbn−1とされる。NR部13dは、このn枚目の参照画像Finおよび基準画像信号Fbn−1とから出力画像信号Fonを生成して出力する。
<NR部の第1の実施の形態の構成例>
次に、図4を参照して、NR部13dの構成例について説明する。
次に、図4を参照して、NR部13dの構成例について説明する。
NR部13dは、動き検出部31、MC(Motion Compensation:動き補償)画像生成部32、ノイズ低減演算部33、画枠内外判定部34、演算強度算出部35、および平滑処理部36を備えている。
動き検出部31は、基準画像信号よりなる基準画像をm画素×n画素からなる画素ブロック(以降、単に、ブロックとも称する)に分割し、これを基準ブロックとして、ブロックマッチングにより参照画像信号からなる参照画像上の対応するブロックを参照ブロックとして検索する。さらに、動き検出部31は、検索された参照ブロックの所定の位置を終点とし、基準ブロックの所定の位置を始点とする動きベクトルを基準ブロックの動きベクトルとして検出し、MC画像生成部32、および画枠内外判定部34に供給する。
画枠内外判定部34は、動き検出部31より供給されてくる動きベクトルに基づいて、基準画像における各ブロックに対応する動きベクトルの終点位置が参照画像の画枠外となっているか否かを判定し、判定結果からなるフラグを設定する。また、画枠内外判定部34は、各ブロックの位置に対応するフラグからなる画枠フラグマップを生成し、演算強度算出部35に供給する。
MC(Motion Compensation:動き補償)画像生成部32は、動きベクトルの情報に基づいて、参照画像内において、基準画像の各ブロックの動きベクトルの終点位置のブロックの画像を、始点位置に移動させることにより、基準画像に類似したMC画像を生成し、ノイズ低減演算部33および演算強度算出部35に供給する。この際、MC画像生成部32は、画枠フラグマップの情報に基づいて、終点位置が画枠外であり、MC画像を生成できない領域のブロックについては、空白ブロック(画素値が0または最大値のブロック)とする。
演算強度算出部35は、基準画像およびMC画像をブロック単位で比較し、類似している程度に基づいて、後述するノイズ低減演算部33における、基準画像およびMC画像の混合比である演算強度を算出し、ブロック単位の演算強度マップを生成する。より具体的には、演算強度算出部35は、まず、基準画像およびMC画像のブロック単位の画素間差分絶対値和Mなどを、類似度を示す指標として算出する。この画素間差分絶対値和Mは、基準画像およびMC画像の類似度が高いほど小さな値となるため、小さいほど両者が類似していることを示す。演算強度算出部35は、この画素間差分絶対値和Mに応じた混合比(基準画像:MC画像)として、例えば、1:xとし、演算強度xとして算出する。ここで、xは、例えば、画素間差分絶対値和Mに反比例する値であって、0乃至1の値であるものとする。
この際、演算強度算出部35は、画枠フラグマップを参照して、画枠外のブロックについては、MC画像の混合比を下げ、例えば、xを0に設定して、ブロック単位の演算強度マップを生成し、平滑処理部36に供給する。
平滑処理部36は、画枠フラグマップに基づいて、演算強度マップにおけるブロック単位の演算強度の分布を、画素単位で平滑化して、平滑化した画素単位の演算強度マップをノイズ低減演算部33に供給する。
ノイズ低減演算部33は、基準画像およびMC画像の各画素を、平滑処理部36より供給されてくる、画素単位の演算強度マップで設定される混合比に基づいて合成し、出力画像を生成して、出力画像信号として出力する。
<図4のNR部によるNR処理>
次に、図5,図6のフローチャートを参照して、図4のNR部13dによるNR処理について説明する。
次に、図5,図6のフローチャートを参照して、図4のNR部13dによるNR処理について説明する。
ステップS11において、制御部10は、最初の画像信号が供給されてきたか否かを判定し、例えば、最初の画像信号が供給されてきた場合、処理は、ステップS43(図6)に進む。
ステップS43において、制御部10は、図2の上段で示されるように、信号選択部11,12およびNR処理部13を制御して、入力画像信号をそのまま出力画像信号として出力し、処理は、ステップS41に進む。
ステップS41において、制御部10は、NR処理部13より出力された出力画像信号をバッファメモリ14に記憶させる。
ステップS42において、制御部10は、次の画像信号が存在するか否かを判定し、次の画像信号が存在しないと判定した場合、処理は、終了する。また、ステップS42において、次の画像信号が存在すると判定された場合、処理は、ステップS11(図5)に戻る。
尚、ステップS11において、ステップS42の処理の後、戻ってくる処理である場合、最初の画像信号ではない、すなわち、2枚目以降の画像信号であるので、処理は、ステップS12に進む。
ステップS12において、制御部10は、図2の下段で示されるように、信号選択部11,12を制御して、入力画像信号を参照画像信号としてNR部13dに供給させる。また、このとき、制御部10は、バッファメモリ14を制御して、記憶されている直前の画像信号を基準画像信号としてNR部13dに供給させる。
ステップS13において、動き検出部31は、基準画像信号より構成される基準画像を複数のブロックに分割し、各ブロックについて、ブロックマンチングにより参照画像上の対応するブロックを検索する。そして、動き検出部31は、検出された基準画像上のブロックの所定の位置を起点とし、参照画像における対応するブロックの所定の位置を終点とする動きベクトルを検出する。動き検出部31は、検出した動きベクトルを基準画像上のブロックの位置に対応付けてMC画像生成部32、および画枠内外判定部34に出力する。この際、動き検出部31は、各ブロックの上辺の位置B.top、下辺の位置B.bottom、左辺の位置B.left、および右辺の位置B.rightの情報を合わせて出力する。
ステップS14において、画枠内外判定部34は、基準画像が複数に分割されたブロックのうち、未処理ブロックのいずれかを処理対象ブロックに設定する。
ステップS15において、画枠内外判定部34は、処理対象ブロックの動きベクトルに基づいて検索される参照画像のブロックの位置が、画枠を超えるか否かを判定する。
例えば、図7の左上部で示されるような基準画像F11で、かつ、図7の中央上部で示されるような参照画像F12の場合、処理対象ブロックがブロックB1であるものとすると、動きベクトルV1に基づいて特定されるブロックは、ブロックB11となる。この場合、参照画像のブロックB11は、参照画像F12の画枠L内に存在するので、画枠Lを超えていないと判定され、処理は、ステップS16に進む。
より詳細には、画枠内外判定部34は、図7の中央下部で示されるように、各ブロックBの上辺の位置B.topが、画像Fの上辺の位置F.topより上であるか、下辺の位置B.bottomが、下辺の位置F.bottomより下であるか、左辺の位置B.leftが、左辺の位置F.leftより左側であるか、または、右辺の位置B.rightが、右辺の位置F.rightより右側であるか否かに基づいて、画枠Lを超えているか否かを判定する。
処理対象ブロックがブロックB1であり、動きベクトルV1に基づいて特定されるブロックが、ブロックB11である場合、図7の中央下部で示されるブロックBにおける画枠Fに対する条件と一致する。すなわち、参照画像のブロックB11の上辺の位置B.topが、参照画像F12の上辺の位置F.topよりも下の位置であり、かつ、下辺の位置B.bottomが、下辺の位置F.bottomよりも上の位置であり、かつ、左辺の位置B.leftが、左辺の位置F.leftよりも右側の位置であり、かつ、右辺の位置B.rightが、右辺の位置F.rightよりも左側の位置に存在する。結果として、ブロックB11は、参照画像F12の画枠L内に存在するので、画枠Lを超えていないと判定される。
ステップS16において、画枠内外判定部34は、処理対象ブロックに対応する画枠フラグFlagを0に設定する。
一方、ステップS15において、例えば、処理対象ブロックがブロックB2であるものとすると、動きベクトルV2に基づいて特定されるブロックは、ブロックB12となる。この場合、参照画像のブロックB12は、参照画像F12の画枠L内に存在しないので、画枠を超えていると判定され、処理は、ステップS17に進む。
すなわち、この場合、参照画像のブロックB12の右辺の位置B.rightが、右辺の位置F.rightよりも右側の位置に存在するので、ブロックB12は、参照画像F12の画枠L内に存在しないので、画枠Lを超えていると判定され、処理は、ステップS17に進む。
ステップS17において、画枠内外判定部34は、処理対象ブロックに対応する画枠フラグFlagを1に設定する。
ステップS18において、画枠内外判定部34は、未処理のブロックがあるか否かを判定し、未処理のブロックが存在する場合、処理は、ステップS14に戻る。すなわち、未処理のブロックがなく、全てのブロックの画枠の内外が判定されるまで、ステップS14乃至S18の処理が繰り返される。そして、ステップS18において、未処理のブロックがない、すなわち、全てのブロックの画枠の内外が判定されたとみなされると、処理は、ステップS19に進む。
ステップS19において、画枠内外判定部34は、全てのブロックについてのフラグFlagで示される画枠内外判定結果からなる画枠フラグマップをMC画像生成部32、演算強度算出部35、および平滑処理部36に出力する。
すなわち、ステップS14乃至S18の処理が繰り返されることにより、各ブロックについて、画枠の内外が判定されて、図7の右下部で示されるように、画枠外に存在する場合、フラグFlagが1に設定され、画枠内に存在する場合、フラグFlagが0に設定される。この処理により、例えば、図7の右上部で示されるように、参照画像F12に対して、動きベクトルに基づいて検索されるブロックが、ブロックB21乃至B24の場合、参照画像F12の画枠Lより内側には存在しない、すなわち、外側に存在するとみなされ、フラグFlagは1に設定される。また、ブロックB25,B26の場合、参照画像F12の画枠Lより内側には存在するとみなされ、フラグFlagは0に設定される。
ステップS20において、MC画像生成部32は、基準画像が複数に分割されたブロックのうち、未処理ブロックのいずれかを処理対象ブロックに設定する。
ステップS21において、MC画像生成部32は、画枠フラグマップを参照して、処理対象ブロックの画枠フラグFlagが1、すなわち、画枠外に存在するものであるとみなされたか否かを判定する。ステップS21において、例えば、処理対象ブロックの画枠フラグFlagが0であり、画枠外ではないとみなされた場合、処理は、ステップS22に進む。
ステップS22において、MC画像生成部32は、処理対象ブロックの動きベクトルに基づいて検索される参照画像のブロックを、処理対象ブロックの画像として設定し、MC画像の一部を生成する。すなわち、MC画像生成部32は、基準画像における処理対象ブロックの位置に、参照ブロック内で動きベクトルに基づいて設定されるブロックの画像を当て嵌めることにより、MC画像を生成する。
一方、ステップ21において、例えば、処理対象ブロックの画枠フラグFlagが1であり、画枠外であるとみなされた場合、処理は、ステップS23に進む。
ステップS23において、MC画像生成部32は、処理対象ブロックの画像を、基準画像のブロックの画像に設定して、MC画像の一部を生成する。すなわち、この場合、参照画像に対応するブロックが存在しないので、MC画像生成部32は、基準画像の画像をそのまま利用する。また、基準画像の画像供給を受けない場合、MC画像生成部32は、処理対象ブロックの画像をブランクにする。
ステップS24において、MC画像生成部32は、未処理のブロックが存在するか否かを判定し、未処理のブロックが存在する場合、処理は、ステップS20に戻る。すなわち、全てのブロックについてMC画像が生成されるまで、ステップS20乃至S24の処理が繰り返される。そして、ステップS24において、未処理のブロックが存在しない、すなわち、MC画像の全てのブロックについて処理がなされて、MC画像が完成した場合、処理は、ステップS25に進む。
ステップS25において、MC画像生成部32は、生成されたMC画像をノイズ低減演算部33、および演算強度算出部35に出力する。
ステップS26(図6)において、演算強度算出部35は、基準画像が複数に分割されたブロックのうち、未処理ブロックのいずれかを処理対象ブロックに設定する。
ステップS27において、演算強度算出部35は、処理対象ブロックの演算強度を算出する。より詳細には、演算強度算出部35は、基準画像およびMC画像のブロック単位の画素間差分絶対値和Mなどを、類似度を示す指標として算出し、画素間差分絶対値和Mに応じた混合比(基準画像:MC画像)を、例えば、1:xとして、演算強度xを算出する。ここで、xは、例えば、画素間差分絶対値和Mに反比例する値であって、0乃至1の値であるものとする。
すなわち、基準画像およびMC画像のブロック間の画素間差分絶対値和Mが小さく、類似度が高い場合、例えば、演算強度算出部35は、xを1に近い値に設定し、混合比(基準画像:MC画像)を設定する。この場合、MC画像の信頼度が高いので、演算強度算出部35は、基準画像とMC画像とを1:1に近い比率で混合する。また、基準画像およびMC画像のブロック間の画素間差分絶対値和Mが大きく、類似度が低い場合、例えば、演算強度算出部35は、xをゼロに近い値に設定し、MC画像の混合比を小さく設定する。すなわち、この場合、MC画像の信頼度が低いので、演算強度算出部35は、基準画像の割合を高めるように混合する。
ステップS28において、演算強度算出部35は、画枠フラグマップを参照して、処理対象ブロックの画枠フラグFlagが1、すなわち、画枠外に存在するものであるとみなされたか否かを判定する。ステップS28において、例えば、処理対象ブロックの画枠フラグFlagが1であり、画枠外であるとみなされた場合、処理は、ステップS29に進む。
ステップS29において、演算強度算出部35は、処理対象ブロックの演算強度を低減させる。より具体的には、例えば、演算強度算出部35は、処理対象ブロックの演算強度xである基準画像とMC画像との混合比のうち、MC画像の比率をゼロ(x=0)にする。
一方、ステップS28において、例えば、処理対象ブロックの画枠フラグFlagが0であり、画枠外ではないとみなされた場合、ステップS29の処理はスキップされる。
ステップS30において、演算強度算出部35は、未処理のブロックが存在するか否かを判定し、未処理のブロックが存在する場合、処理は、ステップS26に戻る。すなわち、全てのブロックについて演算強度が算出されるまで、ステップS26乃至S30の処理が繰り返される。そして、ステップS30において、未処理のブロックが存在しない、すなわち、全てのブロックについて演算強度が算出された場合、処理は、ステップS31に進む。
ステップS31において、演算強度算出部35は、生成された演算強度の分布からなる演算強度マップを平滑処理部36に出力する。
以上のように、ステップS26乃至S31の処理が繰り返されることにより、図8の左上部で示されるような演算強度マップCSM1が生成されると共に、これに対して、図8の左下部で示されるような画枠フラグマップFMに対応して、図8の右上部で示されるように、画枠F内に存在しないブロックについては、演算強度であるMC画像と基準画像との混合比のうち、MC画像の比率が0に設定されて、演算強度マップCSM2が出力される。
ここで、図8の左上部においては、垂直方向×水平方向に4ブロック×5ブロックの演算強度マップCSM1が示されており、各ブロックには演算強度に応じた色(斜線)が付されている。尚、図8においては、説明の関係上、演算強度が0以外の値であるブロックに斜線が付されている。また、図8の左下部の画枠フラグマップFMは、垂直方向×水平方向に4ブロック×5ブロックのフラグFlagからなるマップが示されており、最右列4ブロックおよび右から2列目の上から2段目までの合計6ブロックが、画枠フラグFlagが1に設定され、それ以外のブロックが0に設定されている。すなわち、最右列4ブロックおよび右から2列目の上から2段目までの合計6ブロックが、動きベクトルに基づいた対応するブロックが参照画像の画枠外であることが示されている。このため、上述したステップS26乃至S31の処理により、図8の右上部で示されるように、最右列4ブロックおよび右から2列目の上から2段目までの合計6ブロックが、演算強度が0にされている(斜線が付されていない状態にされている)。このような処理により、基準画像における各ブロックのうち、対応する参照画像上のブロックが画枠外となるブロックについては、MC画像の信頼度が低くなるので、後述するノイズ低減演算部33による処理において、信頼性の低いMC画像の混合比を小さくし、基準画像の混合比を高めることが可能となる。
ステップS32において、平滑処理部36は、基準画像が複数に分割されたブロックのうち、未処理ブロックのいずれかを処理対象ブロックに設定する。
ステップS33において、平滑処理部36は、処理対象ブロックが画枠の内外の境界に存在するか否かを判定する。すなわち、図9の左上部の演算強度マップCSM2で示されるように、ブロックB51が、処理対象ブロックである場合、図9の左下部の画枠フラグマップFMで示されるように、ブロックB51に隣接する右上側、右側、右下側の3ブロックおよび上側の1ブロックの画枠フラグFlagが1であり、それ以外の隣接ブロックは画枠フラグFlagが0である。このため、処理対象ブロックであるブロックB51は、境界に存在するブロックであると判定され、処理は、ステップS34に進む。
ステップS34において、平滑処理部36は、処理対象ブロックの演算強度マップを画素単位で平滑化する。
より詳細には、平滑処理部36は、処理対象ブロックを画素単位で平滑処理する複数のフィルタを備えており、処理対象ブロックの周辺のブロックの画枠フラグFlagの分布に基づいて、それぞれのオン、またはオフ(フィルタを掛けるか、または掛けないか)を制御して、画素単位で平滑化する。
より詳細には、平滑処理部36は、例えば、図10で示されるフィルタpatternU,patternL,patternB,patternR,patternLU,patternRU,patternRB,patternBLの8枚のフィルタを備えている。尚、図10の各フィルタは、8画素×8画素のブロックサイズに対するフィルタの例を示したものである。また、各マス内の値は、各画素のMC画像の各画素の混合比である演算強度xに対するフィルタ係数が記載されている。
すなわち、図10のフィルタpatternUは、処理対象ブロックの上側のブロックUが画枠フラグFlag=1であるときに適用されるフィルタであり、各列について、各画素が属するブロックの演算強度に対して上から1/8,2/8,3/8,・・・7/8,1が乗じられることが示されている。
また、フィルタpatternLは、処理対象ブロックの左側のブロックLが画枠フラグFlag=1であるときに適用されるフィルタであり、各行について、各画素が属するブロックの演算強度に対して左から1/8,2/8,3/8,・・・7/8,1が乗じられることが示されている。
さらに、フィルタpatternBは、処理対象ブロックの下側のブロックBがフラグFlag=1であるときに適用されるフィルタであり、各列について、各画素が属するブロックの演算強度に対して下から1/8,2/8,3/8,・・・7/8,1が乗じられることが示されている。
また、フィルタpatternRは、処理対象ブロックの右側のブロックRが画枠フラグFlag=1であるときに適用されるフィルタであり、各行について、各画素が属するブロックの演算強度に対して右から1/8,2/8,3/8,・・・7/8,1が乗じられることが示されている。
さらに、フィルタpatternLUは、処理対象ブロックの左上側のブロックLUが画枠フラグFlag=1であって、上側および左側のブロックU,Lがいずれも画枠フラグFlag=0であるときに適用されるフィルタである。また、フィルタpatternLUは、各画素が属するブロックの演算強度について左上の画素から1/8が乗じられ、左上の画素から水平方向または垂直方向に1画素離れるごとに1/8ずつ加算された値が乗じられることが示されている。
また、フィルタpatternRUは、処理対象ブロックの右上側のブロックRUが画枠フラグFlag=1であって、上側および右側のブロックU,Rがいずれも画枠フラグFlag=0であるときに適用されるフィルタである。また、フィルタpatternRUは、各画素が属するブロックの演算強度について右上の画素から1/8が乗じられ、右上の画素から水平方向または垂直方向に1画素離れるごとに1/8ずつ加算される値が乗じられることが示されている。
さらに、フィルタpatternRBは、処理対象ブロックの右下側のブロックRBが画枠フラグFlag=1であって、下側および右側のブロックB,Rがいずれも画枠フラグFlag=0であるときに適用されるフィルタである。また、フィルタpatternRBは、各画素の属するブロックの演算強度について右下の画素から1/8が乗じられ、右下の画素から水平方向または垂直方向に1画素離れるごとに1/8ずつ加算される値が乗じられることが示されている。
また、フィルタpatternLBは、処理対象ブロックの左下側のブロックLBが画枠フラグFlag=1であって、下側および左側のブロックB,Lがいずれも画枠フラグFlag=0であるときに適用されるフィルタである。また、フィルタpatternLBは、各画素の属するブロックの演算強度について左下の画素から1/8が乗じられ、左下の画素から水平方向または垂直方向に1画素離れるごとに1/8ずつ加算される値が乗じられることが示されている。
平滑処理部36は、処理対象ブロックについて、その周辺のブロックの画枠フラグFlagの分布に応じて、フィルタpatternU乃至patternLBのそれぞれをオンまたはオフに制御して、処理対象ブロックを構成する画素単位で演算強度を設定する。
例えば、図9の左上部のブロックB51が処理対象ブロックである場合、処理対象ブロックの上側のブロックおよび右側のブロックの画枠フラグFlag=1である。そこで、平滑処理部36は、フィルタpatternU,patternRをオンに制御して、それ以外のフィルタをオフに制御する。結果として、図9の右上部で示されるようにブロックB51に対してフィルタを掛けて、画素単位の演算強度マップを設定することで、ブロック単位の演算強度マップを平滑処理する。その他の境界とみなされるブロックについても、同様の処理がなされることにより、図9の右上部で示されるような、境界となるブロックが画素単位の演算強度マップとされることにより、境界が平滑処理される。
尚、図9の右上部のブロックB51においては、ブロックB51に属する画素のうち、左下部の画素の演算強度が最も高く、右上部の画素に近づくにつれて、演算強度が小さく設定され、右上部の画素の演算強度が最小となる。従って、図9におけるブロックB51の画素単位の演算強度の分布を、色を付して表現すれば、左下から右上に向かって配色が変化するグラデーションが付されることになる。
また、同様に、図9の右中部で示されるように処理対象ブロックB61が画枠F21の境界であるような場合、上側、右側、および下側に隣接するブロックの画枠フラグFlag=1であるので、平滑処理部36は、フィルタpatternU,patternR,patternBをオンにして、それ以外のフィルタをオフに制御する。
さらに、同様に、図9の右下部で示されるように処理対象ブロックB61が画枠F21の境界であるような場合、右側、および下側に隣接するブロックの画枠フラグFlag=1であるので、平滑処理部36は、フィルタpatternR,patternBをオンにして、それ以外のフィルタをオフに制御する。
以上のような処理により、例えば、図10の左上部で示されるような演算強度マップCSM11が入力されると、図10の右下部で示されるような演算強度マップCSM12で示されるように境界付近が平滑化される。尚、図10の演算強度マップCSM11は、ブロック単位の演算強度マップであり、演算強度マップCSM12は、画素単位の演算強度マップである。また、演算強度マップCSM11,CSM12は、いずれも黒色領域が対応するブロックまたは画素の演算強度が1であることを表しており、白色が対応する演算強度が0であることを表していおり、その中間色が色味に応じた演算強度であることを示している。
さらに、ステップS33において、処理対象ブロックが画枠の境界ではないとみなされた場合、ステップS34の処理がスキップされる。
ステップS35において、平滑処理部36は、未処理のブロックが存在するか否かを判定し、未処理のブロックが存在する場合、処理は、ステップS32に戻る。すなわち、全てのブロックについて処理がなされるまで、ステップS32乃至S35の処理が繰り返される。そして、ステップS35において、未処理のブロックが存在しない、すなわち、全ての画枠境界のブロックについて平滑処理がなされたとみなされた場合、処理は、ステップS36に進む。
ステップS36において、平滑処理部36は、平滑処理がなされた画素単位の演算強度マップをノイズ低減演算部33に出力する。尚、この際、平滑処理部36は、ブロック単位で演算強度が設定されているブロックについては、ブロックを構成する画素のそれぞれについて、属するブロックの演算強度を設定し、全体として画素単位の演算強度マップが構成されるようにしてノイズ低減演算部33に出力する。
ステップS37において、ノイズ低減演算部33は、出力画像を構成する各画素のうち、未処理の画素のいずれかを処理対象画素に設定する。
ステップS38において、ノイズ低減演算部33は、平滑処理部36より供給されてくる演算強度マップに基づいて、処理対象画素の演算強度を読み出し、読み出した演算強度、すなわち、MC画像、および基準画像の各画素の混合比に基づいて、処理対象画素のMC画像、および基準画像のそれぞれの画素値を混合して出力画像の画素値を生成する。
ステップS39において、ノイズ低減演算部33は、未処理の画素が存在するか否かを判定し、未処理の画素が存在する場合、処理は、ステップS37に戻る。すなわち、未処理の画素が存在しないとみなされるまで、ステップS37乃至S39の処理が繰り返されて、出力画像の各画素が生成される。そして、ステップS39において、未処理の画素が存在しない、すなわち、出力画像の全画素が生成されたとみなされた場合、処理は、ステップS40に進む。
ステップS40において、ノイズ低減演算部33は、出力画像の画像信号を出力し、処理は、ステップS41に進む。
ステップS41において、制御部10は、バッファメモリ14に、出力された出力画像信号を記憶させる。
ステップS42において、制御部10は、次の画像信号が存在するか否かを判定し、次の画像信号が存在する場合、処理は、ステップS11(図5)に戻り、ステップS11乃至S42の処理が繰り返されて、次の画像信号が存在しない場合、処理は、終了する。
以上の処理により、基準画像上のブロックに対応するブロックが、参照画像上に存在するか否かを示す画枠フラグFlagを設定すると共にブロック単位で基準画像とMC画像の混合比からなる演算強度を設定するようにした。さらに、画枠フラグFlagの値が変化する境界となるブロックについては、画素単位で演算強度を平滑処理することで、演算強度を適切に設定するようにし、平滑処理された混合比に基づいて、基準画像とMC画像とを混合することにより、ノイズを低減するようにした。結果として、動きベクトルを利用して参照画像上にブロックを検出できない領域を含んでも、基準画像のノイズを適切に低減させることが可能となる。
<2.変形例1>
以上においては、図11の左から2列目で示されるように、処理対象ブロックに対して、上側、左上側、左側、左下側、下側、右下側、右側、右上側に隣接するブロックU,LU,L,LB,B,RB,R,RUの画枠フラグFlagを考慮して8種類のフィルタのオン、またはオフを切り替える例について説明してきた。しかしながら、処理対象ブロックの近傍のブロックの画枠フラグFlagを考慮するようにできればよいので、例えば、図11の最左列の処理対象ブロックに対して上側、左側、下側、右側に隣接するブロックU,L,B,Rの画枠フラグFlagのみを考慮して8種類のフィルタのオン、またはオフを切り替えるようにしてもよい。
以上においては、図11の左から2列目で示されるように、処理対象ブロックに対して、上側、左上側、左側、左下側、下側、右下側、右側、右上側に隣接するブロックU,LU,L,LB,B,RB,R,RUの画枠フラグFlagを考慮して8種類のフィルタのオン、またはオフを切り替える例について説明してきた。しかしながら、処理対象ブロックの近傍のブロックの画枠フラグFlagを考慮するようにできればよいので、例えば、図11の最左列の処理対象ブロックに対して上側、左側、下側、右側に隣接するブロックU,L,B,Rの画枠フラグFlagのみを考慮して8種類のフィルタのオン、またはオフを切り替えるようにしてもよい。
また、同様に、図11の右から2列目で示されるように、処理対象ブロックに対して、隣接する上側、左上側、左側、左下側、下側、右下側、右側、右上側に隣接するブロックU,LU,L,LB,B,RB,R,RUの画枠フラグFlagに加えて、2段上側、2段右側、2段下側、2段右側に隣接するブロックUU,LL,BB,RRの画枠フラグFlagを考慮して8種類のフィルタのオン、またはオフを切り替えるようにしてもよい。
さらに、図11の最右列で示されるように、図11の右から2列目で示されるブロックに加えて、処理対象ブロックに対して、左上に隣接するブロックの上側、および左側に隣接するブロックLUU,LLU、処理対象ブロックに対して、左下に隣接するブロックの左側、および下側に隣接するブロックLLB,LBB、処理対象ブロックに対して、右下に隣接するブロックの下側、および右側に隣接するブロックBBR,BRR、並びに、処理対象ブロックに対して、右上に隣接するブロックの右側、および上側に隣接するブロックURR,UURを考慮して、8種類のフィルタのオン、またはオフを切り替えるようにしてもよい。
<3.変形例2>
以上においては、図12の左部で示されるように、画枠フラグFlagの値が変化する1ブロック分の範囲U1について画素単位で演算強度を平滑処理する例について説明してきたが、平滑処理する範囲は、さらに広い範囲であってもよい。例えば、図12の中部で示されるように、境界を含む2ブロック分の範囲U2の演算強度が画素単位で平滑処理されるようにしてもよいし、図12の右部で示されるように、境界を含む3ブロック分の範囲U3の演算強度が画素単位で平滑処理されるようにしてもよい。
以上においては、図12の左部で示されるように、画枠フラグFlagの値が変化する1ブロック分の範囲U1について画素単位で演算強度を平滑処理する例について説明してきたが、平滑処理する範囲は、さらに広い範囲であってもよい。例えば、図12の中部で示されるように、境界を含む2ブロック分の範囲U2の演算強度が画素単位で平滑処理されるようにしてもよいし、図12の右部で示されるように、境界を含む3ブロック分の範囲U3の演算強度が画素単位で平滑処理されるようにしてもよい。
<4.変形例3>
以上においては、平滑処理部36により、図10で示されるような8種類のフィルタを利用して画素単位で演算強度を平滑化する例について説明してきたが、例えば、図13で示されるように、フィルタpatternU,patternL,patternB,patternRの4枚のフィルタのみを利用するようにしてもよい。このようにすることで、フィルタによる演算処理負荷を低減することが可能となり、処理速度を向上させることが可能となる。
以上においては、平滑処理部36により、図10で示されるような8種類のフィルタを利用して画素単位で演算強度を平滑化する例について説明してきたが、例えば、図13で示されるように、フィルタpatternU,patternL,patternB,patternRの4枚のフィルタのみを利用するようにしてもよい。このようにすることで、フィルタによる演算処理負荷を低減することが可能となり、処理速度を向上させることが可能となる。
<5.第2の実施の形態>
<NR部の第2の実施の形態の構成例>
以上においては、基準画像における処理対象ブロックの動きベクトルで特定される参照画像上のブロックが画枠外である場合、MC画像を生成する際には、ブランクとするか、または、基準画像のブロックを利用する例について説明してきた。しかしながら、処理対象ブロックに対応するブロックが参照画像上のブロックとなるように動きベクトルを修正するようにしてもよい。
<NR部の第2の実施の形態の構成例>
以上においては、基準画像における処理対象ブロックの動きベクトルで特定される参照画像上のブロックが画枠外である場合、MC画像を生成する際には、ブランクとするか、または、基準画像のブロックを利用する例について説明してきた。しかしながら、処理対象ブロックに対応するブロックが参照画像上のブロックとなるように動きベクトルを修正するようにしてもよい。
図14は、処理対象ブロックに対応する参照画像上のブロックが画枠外である場合、処理対象ブロックに対応するブロックが参照画像上のブロックとなるように動きベクトルを修正するようにしたNR部13dの構成例を示している。尚、図14のNR部13dにおいて、図4のNR部13dと同一の機能を備えた構成については同一の名称および同一の符号を付しており、その説明は適宜省略するものとする。
すなわち、図14のNR部13dにおいて、図4のNR部13dと異なる点は、ベクトル修正部101をさらに設けた点である。尚、図14においては、動き検出部31により生成される動きベクトルは、ブロック単位でベクトル修正部101に供給される。また、画枠内外判定部34により生成される画枠フラグマップは、MC画像生成部32に対してではなく、ベクトル修正部101に供給される。
ベクトル修正部101は、画枠内外判定部34より供給されてくる画枠フラグマップに基づいて、処理対象ブロックに対応する参照画像上のブロックが画枠外である場合、処理対象ブロックに対応するブロックが参照画像上のブロックとなるように動きベクトルを修正する。
<図14のNR部によるNR処理>
次に、図15のフローチャートを参照して、図14のNR部13dによるNR処理について説明する。尚、図15のフローチャートにおけるステップS111乃至S119の処理については、図5のフローチャートにおけるステップS11乃至S19の処理と同様であるので、その説明は省略するものとする。また、図15における丸印のA乃至C以降の処理については、図6のフローチャートにおける処理と同様であるので、そのフローチャートおよび説明は省略するものとする。
次に、図15のフローチャートを参照して、図14のNR部13dによるNR処理について説明する。尚、図15のフローチャートにおけるステップS111乃至S119の処理については、図5のフローチャートにおけるステップS11乃至S19の処理と同様であるので、その説明は省略するものとする。また、図15における丸印のA乃至C以降の処理については、図6のフローチャートにおける処理と同様であるので、そのフローチャートおよび説明は省略するものとする。
すなわち、ステップS113において動きベクトルが検出されて、ステップS114乃至S119の処理により画枠フラグマップが生成されると処理は、ステップS120に進む。
ステップS120において、ベクトル修正部101は、基準画像が複数に分割されたブロックのうち、未処理ブロックのいずれかを処理対象ブロックに設定する。
ステップS121において、ベクトル修正部101は、画枠フラグマップに基づいて、処理対象ブロックの画枠フラグFlagが1であるか否かを判定する。ステップS121において、例えば、処理対象ブロックの画枠フラグFlagが1であり、対応する動きベクトルにより特定される参照画像上のブロックが画枠外である場合、処理は、ステップS122に進む。
ステップS122において、ベクトル修正部101は、処理対象ブロックの動きベクトルに基づいて特定される参照画像上のブロックが画枠内となるように動きベクトルを修正する。
すなわち、例えば、処理対象ブロックが、図16の左上部で示されるようにブロックB101であり、動きベクトルV11に基づいた対応する参照画像の画枠F31上のブロックがブロックB102であり、参照画像の画枠外である場合、ベクトル修正部101は、例えば、図16の右上部で示されるように、動きベクトルV11を動きベクトルV12に修正する。
より具体的には、ベクトル修正部101は、図16の右上部で示されるように、処理対象ブロックに対応するブロックが、参照画像の画枠F31内となるように、動きベクトルV11の大きさを小さくし、動きベクトルV12とするように修正する。
ステップS123において、ベクトル修正部101は、未処理のブロックが存在するか否かを判定し、未処理のブロックが存在する場合、処理は、ステップS120に戻る。
また、ステップS121において、処理対象ブロックの画枠フラグFlagが1ではない場合、ステップS122の処理がスキップされる。
すなわち、未処理のブロックがなくなるまで、つまり、全ブロックについて、動きベクトルに基づいて求められる参照画像上のブロックが画枠外の動きベクトルが、画枠内となるように修正されるまで、ステップS120乃至S123の処理が繰り返される。
そして、ステップS123において、未処理のブロックが存在しないとみなされた場合、処理は、ステップS124に進む。
ステップS124において、ベクトル修正部101は、基本画像における全ブロックの修正された動きベクトルをMC画像生成部32に出力する。
ステップS125において、MC画像生成部32は、基準画像が複数に分割されたブロックのうち、未処理ブロックのいずれかを処理対象ブロックに設定する。
ステップS126において、MC画像生成部32は、処理対象ブロックの動きベクトルに基づいて検索される参照画像のブロックを、処理対象ブロックの画像として設定し、MC画像の一部を生成する。すなわち、MC画像生成部32は、基準画像における処理対象ブロックの位置に、参照ブロック内で動きベクトルに基づいて設定されるブロックの画像を当て嵌めることにより、MC画像を生成する。
ステップS127において、MC画像生成部32は、未処理のブロックが存在するか否かを判定し、未処理のブロックが存在する場合、処理は、ステップS125に戻る。すなわち、全てのブロックについてMC画像が生成されるまで、ステップS125乃至S127の処理が繰り返される。そして、ステップS127において、未処理のブロックが存在しない、すなわち、MC画像の全てのブロックについて処理がなされて、MC画像が完成した場合、処理は、ステップS128に進む。
ステップS128において、MC画像生成部32は、生成されたMC画像をノイズ低減演算部33、および演算強度算出部35に出力する。
すなわち、以上の処理により、基準画像における全ブロックのうち、動きベクトルに基づいて設定される参照画像上のブロックが参照画像の画枠外である場合、参照画像上のブロックが画枠内となるように動きベクトルが修正される。この結果、MC画像生成部32においては、基準画像上の全ブロックに対応する参照画像上のブロックは、画枠内に全て存在することになるので、対応するブロックが用いられることで、MC画像を確実に生成されるようにすることができる。ただし、動きベクトルが修正されることにより生成されるMC画像用のブロックは、信頼性が低いことになるが、これについては、演算強度が調整されることにより基準画像との混合比が調整されることになるので、適度に混合させることが可能となる。
<6.変形例4>
以上においては、動きベクトルの修正については、ベクトルの方向を維持し、大きさを小さくして、対応するブロックが参照画像上の画枠内となるように修正する例について説明してきたが、水平方向、および垂直方向の画枠外となっているいずれか、または、その両方を画枠内となるように修正するようにしてもよい。すなわち、例えば、図16の右中部で示されるように、ブロックB102が参照画像の画枠F31の水平方向に画枠外となっている場合、動きベクトルV13で示されるように動きベクトルを修正し、対応するブロックB103で示されるように、水平方向に参照画像の画枠F31内となるようにしてもよい。
以上においては、動きベクトルの修正については、ベクトルの方向を維持し、大きさを小さくして、対応するブロックが参照画像上の画枠内となるように修正する例について説明してきたが、水平方向、および垂直方向の画枠外となっているいずれか、または、その両方を画枠内となるように修正するようにしてもよい。すなわち、例えば、図16の右中部で示されるように、ブロックB102が参照画像の画枠F31の水平方向に画枠外となっている場合、動きベクトルV13で示されるように動きベクトルを修正し、対応するブロックB103で示されるように、水平方向に参照画像の画枠F31内となるようにしてもよい。
また、図16の右下部で示されるように、動きベクトルV11を動きベクトルV14で示されるように、ベクトルの大きさをゼロにすることで、基準画像上のブロックと同一の位置のブロックを参照画像上から利用するようにしてもよい。
以上のいずれにおいても、基準画像上のブロックに対応する動きベクトルで特定される参照画像上のブロックが、参照画像の画枠外であるか否かを示す画枠フラグマップを生成し、画枠フラグマップに基づいて、ブロック単位の演算強度を画素単位の演算強度により平滑処理して、演算強度に応じた混合比率でMC画像および基準画像を混合して出力画像を生成するようにしたので、基準画像上の各ブロックと参照画像上の対応するブロックとを合成することで、ノイズを抑制することが可能となる。結果として、動きベクトルを利用したブロックマッチングによるノイズ除去(NR:Noise Reduction)効率を向上させることが可能となる。
尚、以上においては、基準画像を複数に分割したブロック単位の、いわゆる、ローカル動きベクトルを利用した例について説明してきたが、複数のローカル動きベクトルなどから求められるグローバルモーションに基づいた動きベクトルを利用しても同様の効果を得ることができる。
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
図17は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタ-フェイス1005が接続されている。バス1004には、ROM(Read Only Memory)1002およびRAM(Random Access Memory)1003が接続されている。
入出力インタ-フェイス1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどのリムーバブルメディア1011に対してデータを読み書きするドライブ1010が接続されている。
CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア1011ら読み出されて記憶部1008にインストールされ、記憶部1008からRAM1003にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。
以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを、入出力インタフェース1005及びバス1004を介して、RAM1003にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU1001)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1011に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブルメディア1011をドライブ1010に装着することにより、入出力インタフェース1005を介して、記憶部1008にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部1009で受信し、記憶部1008にインストールすることができる。その他、プログラムは、ROM1002や記憶部1008に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
尚、本技術は、以下のような構成も取ることができる。
(1) 基準画像および参照画像に基づいて、動きベクトルを検出する動き検出部と、
前記動き検出部により検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する動き補償画像生成部と、
前記動き補償画像および前記基準画像を混合して、出力画像を生成する出力画像生成部と、
前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力する演算強度算出部と、
前記演算強度マップにおける前記演算強度を平滑処理する平滑処理部とを含み、
前記出力画像生成部は、前記平滑処理部により平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像を混合する
画像処理装置。
(2) 前記動きベクトルに基づいて、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外であるか否かを判定する画枠内外判定部をさらに含み、
前記演算強度算出部は、前記画枠内外判定部における判定結果に基づいて、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出する
(1)に記載の画像処理装置。
(3) 前記画枠内外判定部は、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外であるか否かの判定結果に基づいてフラグを設定し、前記フラグからなる画枠フラグマップを出力し、
前記演算強度算出部は、前記画枠フラグマップに基づいて、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出する
(2)に記載の画像処理装置。
(4) 前記演算強度算出部は、前記画枠フラグマップに基づいて、前記動き補償画像および前記基準画像の混合比を算出し、前記ブロック単位の演算強度マップとして出力する
(3)に記載の画像処理装置。
(5) 前記平滑処理部は、前記画枠フラグマップに基づいて、前記ブロック単位の前記演算強度マップを画素単位で平滑処理し、前記動き補償画像および前記基準画像の画素単位の前記演算強度マップを生成する
(4)に記載の画像処理装置。
(6) 前記平滑処理部は、前記ブロック単位の前記演算強度マップを画素単位で平滑処理する複数のフィルタを含み、前記画枠フラグマップに基づいて、前記複数のフィルタを制御して、前記ブロック単位の前記演算強度マップを画素単位で平滑処理する
(5)に記載の画像処理装置。
(7) 前記画枠フラグマップに基づいて、前記動きベクトルを修正するベクトル修正部をさらに含み、
前記動き補償画像生成部は、前記ベクトル修正部により修正された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する
(3)に記載の画像処理装置。
(8) 前記ベクトル修正部は、前記画枠フラグマップに基づいて、前記基準画像が複数に分割された各ブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外である前記動きベクトルを、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠内となるベクトルに修正する
(7)に記載の画像処理装置。
(9) 基準画像および参照画像に基づいて、動きベクトルを検出し、
検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成し、
前記動き補償画像および前記基準画像を混合して、出力画像を生成し、
前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力し、
前記演算強度マップにおける前記演算強度を平滑処理するステップを含み、
平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像が混合される
画像処理方法。
(10) 基準画像および参照画像に基づいて、動きベクトルを検出する動き検出ステップと、
前記動き検出ステップの処理により検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する動き補償画像生成ステップと、
前記動き補償画像および前記基準画像を混合して、出力画像を生成する出力画像生成ステップと、
前記出力画像生成ステップの処理における前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力する演算強度算出ステップと、
前記演算強度マップにおける前記演算強度を平滑処理する平滑処理ステップとを含む処理をコンピュータに実行させ、
前記出力画像生成ステップの処理は、前記平滑処理ステップの処理により平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像を混合する
プログラム。
(1) 基準画像および参照画像に基づいて、動きベクトルを検出する動き検出部と、
前記動き検出部により検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する動き補償画像生成部と、
前記動き補償画像および前記基準画像を混合して、出力画像を生成する出力画像生成部と、
前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力する演算強度算出部と、
前記演算強度マップにおける前記演算強度を平滑処理する平滑処理部とを含み、
前記出力画像生成部は、前記平滑処理部により平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像を混合する
画像処理装置。
(2) 前記動きベクトルに基づいて、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外であるか否かを判定する画枠内外判定部をさらに含み、
前記演算強度算出部は、前記画枠内外判定部における判定結果に基づいて、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出する
(1)に記載の画像処理装置。
(3) 前記画枠内外判定部は、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外であるか否かの判定結果に基づいてフラグを設定し、前記フラグからなる画枠フラグマップを出力し、
前記演算強度算出部は、前記画枠フラグマップに基づいて、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出する
(2)に記載の画像処理装置。
(4) 前記演算強度算出部は、前記画枠フラグマップに基づいて、前記動き補償画像および前記基準画像の混合比を算出し、前記ブロック単位の演算強度マップとして出力する
(3)に記載の画像処理装置。
(5) 前記平滑処理部は、前記画枠フラグマップに基づいて、前記ブロック単位の前記演算強度マップを画素単位で平滑処理し、前記動き補償画像および前記基準画像の画素単位の前記演算強度マップを生成する
(4)に記載の画像処理装置。
(6) 前記平滑処理部は、前記ブロック単位の前記演算強度マップを画素単位で平滑処理する複数のフィルタを含み、前記画枠フラグマップに基づいて、前記複数のフィルタを制御して、前記ブロック単位の前記演算強度マップを画素単位で平滑処理する
(5)に記載の画像処理装置。
(7) 前記画枠フラグマップに基づいて、前記動きベクトルを修正するベクトル修正部をさらに含み、
前記動き補償画像生成部は、前記ベクトル修正部により修正された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する
(3)に記載の画像処理装置。
(8) 前記ベクトル修正部は、前記画枠フラグマップに基づいて、前記基準画像が複数に分割された各ブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外である前記動きベクトルを、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠内となるベクトルに修正する
(7)に記載の画像処理装置。
(9) 基準画像および参照画像に基づいて、動きベクトルを検出し、
検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成し、
前記動き補償画像および前記基準画像を混合して、出力画像を生成し、
前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力し、
前記演算強度マップにおける前記演算強度を平滑処理するステップを含み、
平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像が混合される
画像処理方法。
(10) 基準画像および参照画像に基づいて、動きベクトルを検出する動き検出ステップと、
前記動き検出ステップの処理により検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する動き補償画像生成ステップと、
前記動き補償画像および前記基準画像を混合して、出力画像を生成する出力画像生成ステップと、
前記出力画像生成ステップの処理における前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力する演算強度算出ステップと、
前記演算強度マップにおける前記演算強度を平滑処理する平滑処理ステップとを含む処理をコンピュータに実行させ、
前記出力画像生成ステップの処理は、前記平滑処理ステップの処理により平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像を混合する
プログラム。
10 制御部, 11,12 信号選択部, 13 NR処理部, 13d NR部, 14 バッファメモリ, 31 動き検出部, 32 MC画像生成部, 33 ノイズ低減演算部, 34 画枠内外判定部, 35 演算強度算出部, 36 平滑処理部, 101 ベクトル修正部
Claims (10)
- 基準画像および参照画像に基づいて、動きベクトルを検出する動き検出部と、
前記動き検出部により検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する動き補償画像生成部と、
前記動き補償画像および前記基準画像を混合して、出力画像を生成する出力画像生成部と、
前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力する演算強度算出部と、
前記演算強度マップにおける前記演算強度を平滑処理する平滑処理部とを含み、
前記出力画像生成部は、前記平滑処理部により平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像を混合する
画像処理装置。 - 前記動きベクトルに基づいて、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外であるか否かを判定する画枠内外判定部をさらに含み、
前記演算強度算出部は、前記画枠内外判定部における判定結果に基づいて、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出する
請求項1に記載の画像処理装置。 - 前記画枠内外判定部は、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外であるか否かの判定結果に基づいてフラグを設定し、前記フラグからなる画枠フラグマップを出力し、
前記演算強度算出部は、前記画枠フラグマップに基づいて、前記出力画像生成部における前記動き補償画像および前記基準画像の混合比を演算強度として算出する
請求項2に記載の画像処理装置。 - 前記演算強度算出部は、前記画枠フラグマップに基づいて、前記動き補償画像および前記基準画像の混合比を算出し、前記ブロック単位の演算強度マップとして出力する
請求項3に記載の画像処理装置。 - 前記平滑処理部は、前記画枠フラグマップに基づいて、前記ブロック単位の前記演算強度マップを画素単位で平滑処理し、前記動き補償画像および前記基準画像の画素単位の前記演算強度マップを生成する
請求項4に記載の画像処理装置。 - 前記平滑処理部は、前記ブロック単位の前記演算強度マップを画素単位で平滑処理する複数のフィルタを含み、前記画枠フラグマップに基づいて、前記複数のフィルタを制御して、前記ブロック単位の前記演算強度マップを画素単位で平滑処理する
請求項5に記載の画像処理装置。 - 前記画枠フラグマップに基づいて、前記動きベクトルを修正するベクトル修正部をさらに含み、
前記動き補償画像生成部は、前記ベクトル修正部により修正された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する
請求項3に記載の画像処理装置。 - 前記ベクトル修正部は、前記画枠フラグマップに基づいて、前記基準画像が複数に分割された各ブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠外である前記動きベクトルを、前記基準画像におけるブロックに対応する前記参照画像におけるブロックが前記参照画像の画枠内となるベクトルに修正する
請求項7に記載の画像処理装置。 - 基準画像および参照画像に基づいて、動きベクトルを検出し、
検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成し、
前記動き補償画像および前記基準画像を混合して、出力画像を生成し、
前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力し、
前記演算強度マップにおける前記演算強度を平滑処理するステップを含み、
平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像が混合される
画像処理方法。 - 基準画像および参照画像に基づいて、動きベクトルを検出する動き検出ステップと、
前記動き検出ステップの処理により検出された前記動きベクトルに基づいて、前記基準画像が複数に分割された各ブロックに対応するブロックを前記参照画像より抽出し、抽出した前記ブロックより動き補償画像を生成する動き補償画像生成ステップと、
前記動き補償画像および前記基準画像を混合して、出力画像を生成する出力画像生成ステップと、
前記出力画像生成ステップの処理における前記動き補償画像および前記基準画像の混合比を演算強度として算出し、演算強度マップとして出力する演算強度算出ステップと、
前記演算強度マップにおける前記演算強度を平滑処理する平滑処理ステップとを含む処理をコンピュータに実行させ、
前記出力画像生成ステップの処理は、前記平滑処理ステップの処理により平滑処理された演算強度マップに基づいて、前記動き補償画像および前記基準画像を混合する
プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014051894A JP2015177322A (ja) | 2014-03-14 | 2014-03-14 | 画像処理装置および方法、並びにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014051894A JP2015177322A (ja) | 2014-03-14 | 2014-03-14 | 画像処理装置および方法、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015177322A true JP2015177322A (ja) | 2015-10-05 |
Family
ID=54256100
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014051894A Pending JP2015177322A (ja) | 2014-03-14 | 2014-03-14 | 画像処理装置および方法、並びにプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015177322A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107905667A (zh) * | 2017-05-23 | 2018-04-13 | 孙霞 | 基于图像处理的安全窗户控制平台 |
CN110959284A (zh) * | 2017-08-03 | 2020-04-03 | Eizo株式会社 | 图像处理装置、图像处理方法、以及图像处理程序 |
-
2014
- 2014-03-14 JP JP2014051894A patent/JP2015177322A/ja active Pending
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107905667A (zh) * | 2017-05-23 | 2018-04-13 | 孙霞 | 基于图像处理的安全窗户控制平台 |
CN107905667B (zh) * | 2017-05-23 | 2019-03-29 | 吕衍荣 | 基于图像处理的安全窗户控制平台 |
CN110959284A (zh) * | 2017-08-03 | 2020-04-03 | Eizo株式会社 | 图像处理装置、图像处理方法、以及图像处理程序 |
CN110959284B (zh) * | 2017-08-03 | 2021-09-21 | Eizo株式会社 | 图像处理装置、图像处理方法、以及记录介质 |
US11132776B2 (en) | 2017-08-03 | 2021-09-28 | Eizo Corporation | Image processing device, image processing method, and image processing program for maintaining sharpness of image |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9911174B2 (en) | Multi-rate processing for image data in an image processing pipeline | |
US11831891B2 (en) | Image coding method, image decoding method, image coding apparatus, and image decoding apparatus | |
TWI455588B (zh) | 以雙向、局部及全域移動評估為基礎之框率轉換 | |
US10999500B2 (en) | Imaging apparatus and imaging method, and image processing apparatus and image processing method | |
US20190215518A1 (en) | Histogram of gradient based optical flow | |
US20170070692A1 (en) | Correcting pixel defects based on defect history in an image processing pipeline | |
US20160006978A1 (en) | Image processing device, image processing method, image processing program, and recording medium | |
US20190362505A1 (en) | Image processing apparatus, method, and storage medium to derive optical flow | |
US9462189B2 (en) | Piecewise perspective transform engine | |
EP3051822A1 (en) | Encoding method and encoder | |
US9942477B2 (en) | Image processing apparatus and method | |
US9811892B1 (en) | Separating sub-band image data for processing and merging with unprocessed image data | |
JP2015177322A (ja) | 画像処理装置および方法、並びにプログラム | |
US10158790B2 (en) | Image processing apparatus, image processing system, and image processing method | |
US20210342989A1 (en) | Hue preservation post processing with early exit for highlight recovery | |
CN110431840B (zh) | 图像处理装置、方法以及存储介质 | |
CN109155845B (zh) | 图像处理装置、图像处理方法及计算机可读存储介质 | |
JP2010108205A (ja) | 超解像画像作成方法 | |
US20200413083A1 (en) | Image coding apparatus, image coding method, and storage medium | |
WO2015198368A1 (ja) | 画像処理装置及び画像処理方法 | |
EP3175613B1 (en) | Projection apparatus, image processing apparatus, and image processing method | |
US9911177B2 (en) | Applying chroma suppression to image data in a scaler of an image processing pipeline | |
JP2018174470A (ja) | 雑音除去装置及びプログラム | |
US8478063B2 (en) | Image processing apparatus and image processing method | |
US9916637B1 (en) | Splitting and merging subband image data |