JP6403720B2 - 画像処理装置及び画像処理方法、コンピュータプログラム - Google Patents

画像処理装置及び画像処理方法、コンピュータプログラム Download PDF

Info

Publication number
JP6403720B2
JP6403720B2 JP2016122881A JP2016122881A JP6403720B2 JP 6403720 B2 JP6403720 B2 JP 6403720B2 JP 2016122881 A JP2016122881 A JP 2016122881A JP 2016122881 A JP2016122881 A JP 2016122881A JP 6403720 B2 JP6403720 B2 JP 6403720B2
Authority
JP
Japan
Prior art keywords
signal
color difference
frequency component
luminance
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016122881A
Other languages
English (en)
Other versions
JP2017228898A (ja
Inventor
巽 栄作
栄作 巽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016122881A priority Critical patent/JP6403720B2/ja
Priority to US15/614,721 priority patent/US10109040B2/en
Publication of JP2017228898A publication Critical patent/JP2017228898A/ja
Application granted granted Critical
Publication of JP6403720B2 publication Critical patent/JP6403720B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/18Image warping, e.g. rearranging pixels individually
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/20Circuitry for controlling amplitude response
    • H04N5/205Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic
    • H04N5/208Circuitry for controlling amplitude response for correcting amplitude versus frequency characteristic for compensating for attenuation of high frequency components, e.g. crispening, aperture distortion correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • G06K7/14Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation using light without selection of wavelength, e.g. sensing reflected white light
    • G06K7/1404Methods for optical code recognition
    • G06K7/146Methods for optical code recognition the method including quality enhancement steps
    • G06K7/1469Methods for optical code recognition the method including quality enhancement steps using sub-pixel interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/50Lighting effects
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)
  • Computer Hardware Design (AREA)

Description

本発明は画像処理装置及び画像処理方法、コンピュータプログラムに関する。
従来から、映像信号における輝度信号と色差信号の解像度を異なるものとして伝送することが行われている。飛び越し走査(インターレース)であるSD(スタンダードディフィニション)映像やHD(ハイディフィニション)映像においては、422形式と呼ばれる信号形式で伝送が行われることが多い。422形式とは、4画素分の輝度信号に対して、2画素分の赤色差信号と2画素分の青色差信号を格納する形式であり、色差信号は輝度信号に比べて半分の解像度に縮小したことになる。これは、人間の眼の視覚特性が輝度変化に対して敏感で、色変化に対しては比較的鈍感であることを利用して、伝送及び記録に必要な信号帯域を節約したものである。
最近になって、4K解像度のUHD(ウルトラハイディフィニション)映像や8K解像度のSHV(スーパーハイビジョン)映像を放送及びメディアで流通させることが行われ始めている。これらの信号形式は順次走査(プログレッシブ)で、420形式と呼ばれる形式が主流である。420形式では、輝度信号が縦に2画素、横に2画素で計4画素あるうちに、1画素分の赤色差信号と1画素分の青色差信号しかない形式である。この場合、色差信号は輝度信号に比べて縦横それぞれ2分の1の解像度となり、合わせると4分の1の解像度に縮小したことになる。
なお、縮小処理を行うときには空間周波数が半分になるので、モアレが発生し易い。そこで、色差信号を縮小するときには、LPF(ロ−パスフィルタ)を通すことによって、モアレの発生を防いでいる。
422形式や420形式は、伝送や記録においては必要帯域を節約するのに有効であるが、最終的に表示を行うためには、輝度色差が同じ解像度である444形式に戻す必要がある。輝度色差422形式や420形式から直接RGB信号に変換するときも、RGB信号は444形式である。
この422形式や420形式から444形式に戻す際に、色差信号を拡大する処理を行う。輝度値は1画素ごとであるのに、色差成分は横方向あるいは縦横方向に2画素に1つの情報なので、2画素の間で輝度値が大きく変わっている部分において、色差信号がその変化に対応できず、色ずれと呼ばれる妨害が発生する。色ずれとは輝度値と色差信号との間の空間的な位置ずれに伴なう彩度や色相のずれをいう。色ずれは人間の視覚にとって非常に目立つものであるから、画質を劣化させる要因となる。
このような画質上の問題に対応するために、特許文献1及び特許文献2には、色差信号の拡大処理において、輝度信号の変化を参照することにより、色ずれを減少させることが記載されている。特許文献1には、輝度信号の変化を参照して色差信号を線形補間することが記載されている。特許文献2には、輝度信号の変化を参照して色差の変化方向を輝度信号の変化方向に合わせることが記載されている。
特開2014−033357号公報 特開2010−021808号公報
しかしながら、上記従来の構成では以下の課題がある。すなわち、444形式の元画像において縦の細線があった場合、このような細線は、422形式の色差信号においては、平均化されて中間的な値により表現されることになる。このような場合、特許文献1の構成によっては、細線の色ずれを低減することは難しい。
特許文献2の構成においては、増減の方向が揃えられるだけなので、元々増減の方向が揃っている細線の部分では改善が難しい。また、輝度信号の大きさに色差信号を合わせるわけではないので、色ずれの低減効果は小さいものに限られる。
このように、従来の構成では、色差信号に空間周波数の高周波成分が含まれておらず、輝度信号にだけ高周波成分が含まれている場合には、色ずれを効果的に低減することができなかった。このような課題は、420形式だけでなく422形式や411形式といった、輝度信号と色差信号の解像度が異なる信号に共通している。
そこで、本発明は、複数の画像成分信号を含む画像信号に対して、効果的に色ずれを低減する技術を提供することを目的とする。
上記目的を達成するため、本発明による画像処理装置は以下の構成を備える。即ち、
数の画像成分信号を含む画像信号から輝度信号を取得する第1の取得手段と、
前記第1の取得手段により取得された輝度信号から当該輝度信号の高周波成分信号を取得する第2の取得手段と、
前記画像信号に含まれる色差信号の解像度が拡大された拡大色差信号を、前記第2の取得手段により取得された高周波成分信号を基にした補正値で補正する補正手段と
を備えることを特徴とする。
本発明によれば、複数の画像成分信号を含む画像信号に対して、効果的に色ずれを低減する技術を提供することができる。
画像処理装置の構成を示すブロック図。 色ずれ低減処理ブロックの構成を示す図。 LPF、HPF、及び、EDFの一例を示す図。 色ずれ低減処理を説明するための説明図。 色ずれ低減処理ブロックの構成を示す図。 画像処理装置の動作を説明するための説明図。 色ずれ低減処理ブロックの構成を示す図。 画像処理装置の構成を示すブロック図。 RGB信号に対する色ずれ低減処理ブロックの構成を示す図。 画像処理装置の構成を示すブロック図。 マイクロプロセッサを用いた画像処理装置の構成を示すブロック図。 マイクロプロセッサによる色ずれ低減処理を示すフローチャート。
以下、添付図面を参照して本発明の実施の形態を詳細に説明する。
<第1実施形態>
(画像処理装置の構成)
図1〜図4を用いて、第1実施形態を説明する。図1は、第1実施形態における画像処理装置のハードウェア構成を示すブロック図である。ただし、図1のブロックの少なくとも一部がソフトウェアによって実現されるようにしてもよい。図1中、21は入力信号である422形式の輝度色差信号である。22は色差信号の拡大処理ブロックであり、入力された422形式の輝度色差信号を444形式に変換して色ずれ低減処理ブロック24へ出力する。23は拡大処理ブロック22により444形式に変換された輝度色差信号、24は色ずれ低減処理ブロックである。25は色ずれ低減処理された444形式の輝度色差信号、26は一般的な画像処理及びRGBへの色変換を行うブロック、27は画像処理ブロック26でRGB化された表示用信号、28は入力信号が420形式の場合の輝度色差信号である。
放送波やディスクメディアのコンテンツでは、輝度色差信号がエンコード(圧縮)されている。このように圧縮されている輝度色差信号において、さらに色差信号を間引く方式として、2K解像度(HD:High-Definition)では422形式と呼ばれる方式が知られている。422形式は、左右方向の色差信号が、輝度信号の半分しかない方式である。4K解像度(UHD)や8K解像度(SHV)においては、色差信号を間引く方式は420形式と呼ばれる形式で、左右方向だけでなく上下方向においても色差信号が、輝度信号の半分しかない方式が使用されている。なお、UHDはUltra High-Definitionの略称であり、SHVはSuper Hi-Visionの略称である。また、DV(テープ記録のデジタルビデオ)においては、411形式と呼ばれる形式で、水平方向の色差信号が、輝度信号の4分の1しかない方式が使用されている。本実施形態の手法は、これら色差信号が輝度信号より少ない方式の全ての方式に適用することができる。以下、色差信号の解像度が輝度信号よりも低い方式の一例として、主として422形式を中心に説明する。
これらの圧縮されている輝度色差信号を、まず不図示のデコーダーで、デコード(伸長)して、非圧縮状態の輝度色差信号に戻す。非圧縮に戻した輝度色差信号を、本実施形態の入力信号21とする。422信号の場合である入力信号21では、2つのY信号(輝度信号)に対して、PbPr信号(色差信号)が1つずつしか存在しないので、Y0とY1に対して、Pb0とPr0のみが存することになる。なお、422形式におけるPb0とPr0の位置はY0と一致する場合と、Y0とY1の中間の位置にある場合の2通りあるが、本実施形態の手法は、どちらの場合にも適用可能である。
420信号28の場合は縦方向にも色差信号(PbPr信号)が輝度信号の半分しかないので、輝度信号Y00,Y01,Y10,Y11に対応する色差信号は、Pb00とPr00しかない。なお、420形式におけるPb0とPr0の位置はY00とY10の中間の位置にある場合と、Y00とY01とY10とY11のちょうど中央の位置にある場合、またフレームによってPb00とPr00の位置が交互に置き換わる場合がありうる。本実施形態の手法は、いずれの場合についても適用可能である。
色差信号拡大処理ブロック22において、輝度信号と色差信号の数を合わせるために色差信号を横方向に拡大して拡大色差信号を生成する。この拡大処理には一般的に2つの方式が使用されている。
一つは単純に色差信号を同じ値で2つにする方式である。すなわち、Pb1=Pb0、Pr1=Pb0、とする。
もう一つは、次の画素との補間を行う方式である。この方式においては、次の画素の色差信号をPb2とPr2とすると、
Pb1=(Pb0+Pb2)/2、Pr1=(Pr0+Pr2)/2
となる。補間による拡大処理の方が良好な結果を得ることが多いので、本実施形態では、後者の方式に従い補間による拡大を行う例を説明する。
420信号28については、縦方向にも同様に拡大処理を行う。本実施形態では、縦方向についても補間による拡大を行う例を説明する。
次に、色ずれ低減処理ブロック24において、輝度信号Yの高周波成分を用いて、色差信号PbPrの高周波成分を補う。この処理によって、色ずれを低減した色差信号Spr,Spbが得られる。色ずれ低減処理ブロック24の詳細は、図2等を参照して後述する。色ずれ低減処理された信号25は、画像処理ブロック26によって、他の一般的な画像処理が行われたのち、RGB信号化された信号27として、画像表示を行う不図示の表示装置や、パネルドライバやタイミングコントローラなどの表示制御装置へ出力される。
なお、図1に示す本画像処理の前段において、既に422形式または420形式または411形式から444形式の信号に変換されている場合がある。その場合は既に色ずれを起こしている信号になっていることが多い。そのような信号を入力した場合は、色差信号拡大処理ブロックをスルーし、直接的に色ずれ低減処理ブロック24に信号入力することで、既に発生していた色ずれを低減する処理を行うことができる。
(色ずれ低減処理ブロックの構成)
次に、図2を用いて、色ずれ低減処理ブロック24内部を説明する。図2は、第1実施形態における色ずれ低減処理ブロック24の構成を示すブロック図である。
図2中、11はHPF(ハイパスフィルタ)であり、輝度信号の高周波成分を取り出す。12は係数Aであり、輝度の高周波成分の寄与度を決定づける。13は乗算器であり、輝度信号の高周波成分に係数A12をかけ合わせる。14は加算器であり、係数A12がかけ合わせた高周波成分を色差信号に加算して、両者を合成する。15は符号付加器であり、色差信号の正負符号に合わせるために、入力値を色差信号の正負に応じて補数に変換する。なお、図2中の色差信号は、色差信号拡大処理ブロック22において解像度が拡大された拡大色差信号である。
第1実施形態においては、まずHPF11を用いて輝度信号Yの高周波成分HYを取り出す。次に、輝度信号の高周波成分HYをある程度制限して最適な値とするために、輝度信号の高周波成分に対して係数A12を乗算器13で乗算する。ここで係数A12は、例えば0.1〜2.0程度の間で調整可能な値であり、画質設計者やユーザの指示等に応じて予め定められている。
乗算器13の出力(A×HY)を符号付加器15によって、色差信号Pb,Prの正負符号と合わせる。具体的には、色差信号Pb,Prが正ならそのままで、色差信号が負の値であったなら補数に変換する。符号付加器15の出力であるTPb、TPrを加算器14によって、色差信号Pb、Prに付加(加算)することによって、Spb、Sprであるところの出力色差信号を取得する。すなわち、Spb、Sprは以下の式により算出される。
SPb=Pb±A×HY (Pb<0の場合はマイナス(減算)を用いる)
SPr=Pr±A×HY (Pr<0の場合はマイナス(減算)を用いる)
なお、演算順序は、乗除算が加減算に優先する。
また、以下のように処理の順序を変更してもよい。
SPb=HY×(Pb/HY±A) (Pb<0の場合はマイナス(減算)を用いる)
SPr=HY×(Pr/HY±A) (Pr<0の場合はマイナス(減算)を用いる)
(フィルタの構成)
次に、図2の色ずれ低減処理ブロック24で用いられるHPF、並びに、LPF(ローパスフィルタ)、EDF(エッジ検出フィルタ)の構成例について、図3を参照して説明する。LPF、EDFを用いた構成は後述の実施形態において説明する。
図3は、LPF、HPF、及びEDFの一例を示す図である。図3(A)は元信号が422形式の場合に用いるLPF、図3(B)は元信号が422形式の場合に用いるHPF、図3(C)は元信号が422形式の場合に用いる横EDFである。図3(D)は元信号が420形式の場合に用いるLPF、図3(E)は元信号が420形式の場合に用いるHPF、図3(F)は元信号が420形式の場合に横EDFと共に用いる縦EDFである。
図3は、処理対象の画素を表の中央に対応させた場合の、当該画素の画素値と周囲の画素の画素値に乗算する係数を示している。元の信号が422形式の場合は、図3(A)、図3(B)、又は図3(C)を用いて横方向のみの画素を参照する。元の信号が420形式の場合は、図3(D)又は図3(E)を用いて横方向と縦方向とを合わせて9画素を参照するとともに、図3(C)と図3(F)を用いて4画素を参照する。中央及び周囲の参照画素に図のセル内の係数を乗算して、その合計を計算し、右に示した値で割ることにより、対象画素に対する各フィルタの出力が得られる。輝度信号のサンプリング周波数をSFとすると、ここで示したLPF及びHPFのカットオフ周波数はSF/4付近にある。
図3に例示した各フィルタのサイズ及び定数は一例であり、LPF及びHPFはカットオフ周波数が色差信号の上限、すなわち、SF/4付近の値を取るフィルタであれば、どのようなフィルタを用いても構わない。また、カットオフ周波数の値は必ずしもSF/4に限定されることはなく、少々カットオフ周波数が大小していても、使用できる。
例えば、LPFやHPFは、1×5や1×7、あるいは、5×5や7×7のものを使用してもよい。また、EDFは、1×4や1×5などのサイズで、両側を1ないし−1などとしたフィルタを使用することができる。
(色ずれ低減処理)
次に、図4を用いて、色ずれ低減処理ブロックの動作原理を説明する。図4は色ずれ低減処理を説明するための説明図である。図4(A)は輝度信号の空間周波数分布を示す図、(B)は色差信号の空間周波数分布を示している。
図4中、51は輝度信号の空間周波数に対する分布、52は色差信号の空間周波数に対する分布、53はHPFのカットオフ特性、54の点線は輝度信号の高周波成分、55は色差信号に付加する高周波成分である。図4において、横軸は空間周波数、縦軸は空間周波数成分を表す。
輝度信号の周波数分布51は、高い周波数まで分布しているのに対し、色差信号の周波数分布52は、422形式や420形式から拡大したので、輝度信号と比べて高い周波数まで分布していない。
具体的には、前述のように輝度信号のサンプリング周波数をSFとすると、ナイキストの原理から、空間周波数はSF/2まで分布している。輝度信号の解像度は入力画像の解像度と等しいので、空間周波数はSF/2まで分布する。色差信号の解像度は入力画像の解像度の半分なので、空間周波数はSF/4までしか分布しない。
そこで、色差信号の最も高い空間周波数であるSF/4に近いカットオフ周波数特性を持つHPFを用いて、色差信号に含まれなくて輝度信号に含まれる周波数帯の高周波成分54を抽出する。
次に適切な係数Aをかけて、色差信号に付加する高周波成分55を作成し、色差信号の分布52に加えることによって、高周波領域まで分布した色差信号を取得する。
以上のように、本実施形態では、解像度が異なる複数の画像成分信号を含む画像信号に対して、解像度が低い画像成分信号(色差信号)の解像度の拡大を伴う画像処理を行う。ここで、本実施形態の画像処理装置は、画像信号から輝度信号を取得し、その輝度信号の高周波成分信号を取得する。そして、画像信号に含まれる複数の画像成分信号のうち、輝度信号より解像度が低い画像成分信号の解像度が拡大された拡大画像成分信号を、輝度信号の高周波成分信号を基にした補正値で補正する。具体的には、画像信号に含まれる輝度信号と異なる画像成分信号である色差信号に対し、輝度信号の高周波成分信号を基にした補正値を加算することにより、色差信号を補正する。このように、解像度が低い色差信号を、輝度信号の微細な変動を反映した高周波成分信号を加算して補正することで、簡易な構成により色差信号と輝度信号との間の色ずれを効果的に補正することが可能である。また、色差信号を補正する際に、予め定められた係数を輝度成分の高周波成分信号に乗じた値を加算するため、画像の特性や用途に応じて輝度成分の高周波成分の寄与分を適切に調整することができる。
ここまで、輝度信号の高周波成分の一部を付加するための、色ずれ低減処理ブロック24を実現する手法の一例を述べたが、輝度信号の高周波成分を付加して色ずれを低減する処理は上記第1実施形態以外にもいろいろな形態で行うことができる。
<第2実施形態>
(色ずれ低減処理ブロックの構成)
次に、図5を用いて、色ずれ低減処理ブロック24内部を実施する第2実施形態を説明する。図5は、第2実施形態における色ずれ低減処理ブロックの構成を示すブロック図である。
図5中、11はHPFであり、図2と同様に入力された輝度信号Yから高周波成分HYを取り出す。31は輝度信号から低周波成分を取り出すLPF(ローパスフィルタ)、32は色差信号から低周波成分を取り出すLPFである。33は色差信号の低周波成分を輝度信号の低周波成分により除算する割り算器(除算器)、34は除算した値をYの高周波成分に乗算する乗算器である。14は加算器であり、入力された色差信号Pb,Prと乗算器34の出力とを加算して、出力色差信号SPb,SPrを出力する。なお、前述のように、LPFは、例えば図3(A)、図3(D)のように構成することができる。
第2実施形態では、まずLPF31を用いて輝度信号Yの低周波成分LYを取り出し、LPF32を用いて色差信号Pb,Prの低周波成分LPb及びLprを取り出す。
輝度信号の低周波成分LYに対する色差信号の低周波成分LPb,LPrの割合を、除算器33によって計算し、比率dPb、dPrを得る(dPb=LPb/LY,dPr=LPr/LY)。この比率を乗算器34によって、輝度信号Yの高周波成分HYに乗算することにより、TPb、TPrを得る。さらに加算器14によって、色差信号Pb、Prに付加することによって、SPb、SPrであるところの出力色差信号を得る。
SPb=Pb+HY×LPb/LY
SPr=Pr+HY×LPr/LY
なお、第2実施形態においては、LPb、Lprに色差信号の正負符号が付されているため、第1実施形態における符号付加器は必要としない。
なお回路を簡略化して、LPFを使わずに、色差信号Pb,Prと輝度信号Yの比率(Pb/Y,Pr,Y)を用いてもよい。
SPb=Pb+HY×Pb/Y
SPr=Pr+HY×Pr/Y
また、処理の順序を以下のようにすることもできる。
SPb=(Pb×LY+HY×LPb)/LY
SPr=(Pr×LY+HY×LPr)/LY
この場合、演算の最後に除算を行うので、丸め誤差をより小さくすることができ、精度を向上させることができる。
この場合も、LPFを使わずに輝度信号Yと色差信号Pr,Pbとの比率を信号の比率として用いるようにしてもよい。
SPb=(Pb×Y+HY×Pb)/Y
SPr=(Pr×Y+HY×Pr)/Y
さらに、図2を参照して説明した定数A12と乗算器13を用いて、TPb、TPrの値を調整してもよい。この場合のA12の値は、例えば、0.3〜4.0程度の間で調整可能な値とすることができる。
SPb=Pb+A×HY×LPb/LY
SPr=Pr+A×HY×LPr/LY
またLPFを用いない場合は以下のような演算となる。
SPb=Pb+A×HY×Pb/Y
SPr=Pr+A×HY×Pr/Y
以上のように、本実施形態では、色差信号の低周波成分信号を輝度信号の低周波成分信号により除算して除算値を求め、その除算値を輝度成分の高周波成分信号に乗じた値を色差信号に加算することにより色差信号を補正する。このため、色差信号の大局的な信号強度と輝度信号の大局的な信号強度との比率に応じて、色差信号に反映させる輝度成分の高周波成分信号の寄与分を決定することで、高周波成分信号の寄与分を適切に決定することができる。さらに、第1実施形態1と同様に、予め定められた係数を輝度成分の高周波成分信号に乗じた値を補正値とすることで、画像の特性や用途に応じて個別的に輝度値の寄与分を調整することができる。
<第3実施形態>
次に、第3実施形態として、色差信号の処理画素ごとに輝度信号の高周波成分を付加するかどうかを、切り替える構成例を説明する。色差信号がほとんど変化していない画素部分で、輝度信号のみが変化しているような場合がある。このような画素部分は無色または他方の色差信号だけが変化していると考えられるので、変化していない色差信号に輝度信号の高周波成分を加えると、かえって色ずれが発生してしまう可能性がある。そこで、本実施形態では、色差信号の空間周波数が一定の周波数を超えて分布しており、色差信号の変動が一定の大きさを超えている領域に対してのみ輝度信号の高周波成分を反映させる処理を行う。これにより、色差信号の空間周波数の分布が小さく色差信号の変動が小さい領域においては、輝度信号の高周波成分が反映されないことから、加算すべきでない色差信号の部分に輝度信号の高周波成分を付加することにより生じる色ずれを低減することができる。
(色ずれ低減処理)
図6は、第3実施形態における色ずれ低減処理の動作原理を説明するための説明図である。図6(A)は輝度信号の空間周波数分布を示す図である。図6(B)は色差信号の空間周波数が所定周波数を超えて分布している場合の色差信号の空間周波数を示す図、図6(C)は色差信号の空間周波数が所定周波数以下までしか分布していない場合の色差信号の空間周波数を示す図である。
図6中、51から55は図4と同様であるから、詳細な説明は省略する。71は色差信号の狭い周波数分布、72は所定の閾値、73は所定の空間周波数、74は色差信号に付加しない高周波成分である。
図6(C)における色差信号の狭い周波数分布71は、図6(B)の色差信号の周波数分布52よりも低い周波数帯にしか色差信号が分布していない。本実施形態では、このように色差信号が低い周波数帯にしか分布していない場合を判別するために、閾値となる所定の空間周波数73と、信号強度の所定の閾値72を予め設定しておく。そして、所定の空間周波数73における色差信号の空間周波数成分が所定の閾値72以下である場合には、色差信号は変化させない方が望ましいと判断し、輝度信号の高周波成分54を付加しないようにする。
空間周波数73において閾値72を上回る強度の色差信号の空間周波数成分が分布している場合は、図6(B)で示すように、輝度信号の高周波成分に係数を乗算してから色差信号に付加する。
(色ずれ低減処理ブロックの構成)
図7は、第3実施形態における色ずれ低減処理ブロック24の構成を示すブロック図である。図7中、11はHPFであり、図2と同様に輝度信号Yから高周波成分HYを取り出す。31から34は図5と同様である。第2実施形態と同様に、乗算器34は輝度信号Yの高周波成分HYに対して、色差信号Pb,Prの低周波成分LPb,LPrの、輝度信号Yの低周波成分LYに対する割合dPb,dPrを乗じた値Tb,Trを出力する。
61はEDF(エッジフィルタ)であり、色差信号Pb,Prのエッジ成分EPb,EPrを取り出す。62は比較器であり、色差信号のエッジ成分と閾値smを比較する。63はセレクタであり、比較器62の出力によってTPb及びTPr、又は、0を選択する。64は補数器であり、TPb、TPrの正負を逆にした補数を計算する。66は比較器であり、色差信号と閾値を比較する。65はセレクタであり、比較器の比較の結果に応じて、TPb及びTPr、又は、その補数を選択する。14は加算器であり、色差信号Pr,Pbにセレクタ63の出力を加算して出力色差信号SPb,SPrを出力する。
次に、図7を参照して、図5の構成に追加した部分を中心に説明する。EDF61は、色差信号Pb、Prからのエッジ成分EPb、EPrを取り出す。EDF61は、図3(C)、図3(F)に例示したEDFを用いることができる。入力信号が420形式の場合は、図3(C)、図3(F)で示した、横EDFと縦EDFの出力を絶対値演算してから合成すれば、横方向及び縦方向の両方のエッジを検出することができる。なお、EDFの代わりにHPFを用いてエッジを検出してもよい。
次に、比較器62によって、色差信号のエッジ成分の絶対値と閾値smとの大小を比較し、エッジ成分の絶対値が閾値smを上回るか否かを判定する。比較器62は、閾値を上回っていれば1を出力し、閾値以下であれば0を出力する。閾値smの一例をあげると、色差信号が±128階調の場合に、エッジ成分は0から128の値を取るので、閾値smは、例えば、10程度から80程度までの値に設定することができる。なお、エッジ成分は正負の値を取るので、本実施形態では絶対値を閾値と比較している。ここで、EDF61においてエッジが検出される周波数の閾値は図6の空間周波数73に対応し、エッジ成分の強度に関する閾値smは信号強度の閾値72に対応する。
次に、セレクタ63によって、比較器62の出力が1であれば乗算器34が出力するTPb、TPrを出力し、比較器62の出力が0であれば0を出力する。
次に、比較器66によって、色差信号Pb,Prの絶対値と閾値ssとの大小を比較し、色差信号の絶対値が閾値ssを上回っているか否かを判定する。比較器66は、閾値を上回っていれば1を出力し、閾値以下であれば0を出力する。次に、セレクタ65によって、比較器66の出力が1であればセレクタ63の出力をそのまま出力し、閾値の出力が0であればセレクタ63の出力の補数を出力する。例えば、セレクタ63がTPb、TPrを出力したときは、比較器66の出力が1であればTPb、TPrを出力し、比較器66の出力が0であればTPb、TPrの補数を出力する。
この閾値ssに基づく比較器66の出力によって、中途半端な値になって色ずれを起こしている色差に対し、補正する方向を決定している。閾値ssの一例をあげると、色差信号が±128階調の場合に、閾値ssは、例えば、0から100程度までの値にすることができる。なお、色差信号は正負の値を取るので、本実施形態では、色差信号の絶対値を閾値ssと比較している。
以上の処理を数式で表すと、以下のようになる。
|EPb|>sm かつ |Pb|>ssの場合 SPb=Pb+HY×LPb/LY
|EPb|>sm かつ |Pb|≦ssの場合 SPb=Pb−HY×LPb/LY
|EPb|≦smの場合 SPb=Pb
なお、彩度を上げる補正のみを行うときは、
|EPb|>sm かつ |Pb|>ssの場合 SPb=Pb+HY×LPb/LY
それ以外の場合は、
SPb=Pb
と表される。
同様にPrでは、
|EPr|>sm かつ |Pr|>ssの場合 SPr=Pr+HY×LPr/LY
|EPr|>sm かつ |Pr|≦ssの場合 SPr=Pr−HY×LPr/LY
|EPr|≦smの場合 SPr=Pr
なお、彩度を上げるのみの補正をするときは、
|EPr|>sm かつ |Pr|>ssの場合 SPr=Pr+HY×LPr/LY
それ以外の場合は、SPr=Pr
と表される。
なお、セレクタ63は、比較器62の出力1又は0をTPb、TPrに乗算することで、実現してもよい。また、セレクタ65は、比較器66の出力1又は0をセレクタ63の出力(比較器62の出力が1の場合はTPb、TPr)に乗算することで、実現してもよい。その場合は、彩度を上げる方向のみに、補正される。正しい値よりも彩度が下がってしまっている部分の方が、彩度が余分に上回っている部分よりもより目立つので、彩度を上げる方向のみ実施するのである。
本実施形態においても、第1実施形態のように、色差信号と輝度信号との割合を反映させずに、比率Aのみを反映させるようにしてもよい。例えば、|EPb|>sm かつ |Pb|>ssの場合は、以下のような演算を行うようにしてもよい。
SPb=Pb+A×HY
|EPb|>sm かつ |Pb|≦ssの場合、|EPb|≦smの場合、彩度を上げる補正のみを行う場合や、Prに対する補正も同様であるから、詳細な説明は省略する。
また、色差信号と輝度信号との割合を反映させつつ、さらに比率Aを乗じてもよい。すなわち、|EPb|>sm かつ |Pb|>ssの場合に、次のような演算を行ってもよい。
SPb=Pb+A×HY×LPb/LY
|EPb|>sm かつ |Pb|≦ssの場合、|EPb|≦smの場合、彩度を上げる補正のみを行う場合や、Prに対する補正も同様である。
また、本実施形態においても、HPF11の出力は、元の輝度信号からLPF31の出力を減算することで取得してもよい。また、EDF61の代わりに、色差信号に対してHPFで高周波成分を取り出し、高周波成分を絶対値演算器とLPFで広げることで、同様のエッジ検出が可能である。
本実施形態における処理の原理を要約する。444形式の画像信号に含まれる色差信号成分の解像度を縮小して得られた422形式の信号が与えられた場合を考える。前述と同様に、SFを元画像のサンプリング周波数とする。このような場合、422形式への変換により色差信号成分の解像度は半分になる。そして、元画像の色差信号にSF/2付近まで空間周波数成分が存在していた画素部分においては、変換によりSF/4を超える周波数成分が失われるとしても、変換後の色差信号の周波数成分はSF/4付近まで残ることになる。換言すると、変換後の色差信号にSF/4付近まで空間周波数成分が存在していたならば、元画像の色差成分にはSF/4を超える周波数成分が存在していたはずである。そこで、本実施形態では、SF/4付近の画素部分をEDFないしHPFで検出し、その強度が閾値を上回っている画素部分については、輝度信号のSF/4を上回る周波数成分を付加して、補正を行う。
一方で、元画像において、色差信号がSF/4以下(例えばSF/8)の周波数成分しかなかった画素部分については、422形式に縮小したとしても、色差信号の空間周波数は同じSF/4以下(例えばSF/8)に分布することになる。そこで、そのような画素部分には、SF/4以上の周波数成分を付加しないようにする。
このように、本実施形態では、色差信号の周波数が予め定められた値を超えて分布している場合にのみ、輝度信号の高周波成分信号を基に色差信号を補正する。このため、色差信号がほとんど変化していない画素部分に輝度信号の高周波成分を反映させて色ずれが生じることを防止できる。また、本実施形態では、画像のエッジ部分は画像信号の変化が大きく色ずれが目立つことに鑑み、このようなエッジ部分を特に判別して輝度信号の高周波成分を色差信号に反映させる。このため、補正が必要な個所における色ずれを防止するとともに、不要な補正による色ずれの発生を抑止することが可能となる。
なお、本実施形態では、色差信号のエッジ成分の信号強度が予め定められた閾値を超えて分布している場合に、色差信号を補正する例を説明したが、具体的な構成はこれに限られない。例えば、図6(C)を参照して説明したように、色差信号の予め定められた周波数成分の信号強度が予め定められた閾値を超えて分布しているかを直接判定し、超えて分布している場合に色差信号を補正するようにしてもよい。また、色差信号の信号強度の絶対値が予め定められた値を超えている場合に色差信号を補正するようにしてもよい。
<第4実施形態>
次に、輝度信号を色差信号の解像度に合わせて縮小して画像処理を行った後に、輝度信号の高周波成分を用いて輝度信号及び色差信号の解像度を拡大する構成例を、実施形態4として説明する。
(画像処理装置の構成)
図8は、第4実施形態における画像処理装置の構成を示すブロック図である。図8中、81は輝度信号の縮小処理ブロック、82は画像処理ブロック、83は輝度信号の高周波成分を抜き出すHPFである。84は輝度信号を拡大し高周波成分を付加する輝度信号拡大処理ブロック、85は色差信号の拡大処理ブロック、86は色ずれ低減処理ブロックである。87は420形式のYPbPr信号、88はYを縮小したYPbPr信号、89はY及びPbPrを拡大したYPbPr信号、90は色ずれ低減したYPbPr信号である。
本実施形態では、420形式信号87を入力した場合の例を説明する。422形式や411形式の場合は、輝度信号縮小処理ブロック81、及び、輝度信号拡大処理ブロック84をその信号形式に応じて変わるだけであり、同様の構成を適用することができる。
420形式信号87の輝度信号を入力すると、輝度信号Yは輝度信号縮小処理ブロック81によって縦横とも2分の1に縮小され、色差信号と同じ解像度の輝度色差信号88になる。画像処理に適する色差信号と同じ解像度に変換された輝度色差信号88は、画像処理ブロック82において、ガンマ調整、色調整などの画像処理が行われる。元の輝度信号Yの高周波成分はHPF83の出力として保存されているので、輝度信号拡大処理ブロック84において、画像処理後の輝度信号を縦横2倍に拡大し、輝度信号の高周波成分を加算することで、解像度の高い輝度信号が得られる。一方、色差信号については、色差信号拡大処理部85によって縦横2倍に拡大し、拡大した輝度色差信号89が得られる。拡大した輝度色差信号89において、輝度信号は高周波成分を付加したのに対して、色差信号は高周波信号を持たないので、これをそのままRGB化して表示すると色ずれが見えてしまう。そこで、拡大した色差信号に対して、色ずれ低減処理ブロック86による色ずれ低減処理を行うことで、色ずれ低減した輝度色差信号90が得られるので、これを出力する。本実施形態における色ずれ低減処理ブロック86の内部、処理内容は、第1から第3の実施形態と同様なので、説明を省略する。
本実施形態においては、解像度を縮小した輝度信号及び色差信号を用いて画像処理を行う。このため、画像処理回路が小さくて済み、かつ、画像処理を高速に行うことが可能である。さらに、輝度信号の高周波成分を色差信号に反映させるとともに、輝度信号の高周波成分を用いて解像度を縮小した輝度信号を拡大して復元するため、色ずれの少ない高精細な画像を出力することができる。
<第5実施形態>
図1の構成では、画像処理を行った後にRGBに変換したが、画像処理を行う前、あるいは画像処理をしないでRGBに変換する実施形態も考えられる。その場合には、RGB信号に変換しながら色ずれ低減処理を行ってもよい。
図9は、第5実施形態におけるRGB信号に対して行う色ずれ低減処理ブロック24の構成を示すブロック図である。図9中、11はHPFであり、図2と同様に輝度信号Yから高周波成分を取り出す。31から34は図5と同様である。もっとも、本実施形態では、画像をRGB信号形式で処理する。そのため、LPF32は、RGB形式の色差信号R,G,Bから低周波成分LR,LG,LBを取り出して出力する。割り算器33は、色差信号の低周波成分LR,LG,LBを、輝度信号Yの低周波成分LYにより除算して、色差信号の低周波成分の、輝度信号の低周波成分に対する割合dR,dG,dBを算出する。乗算器34は、輝度信号Yの高周波成分HYに対して、割合dR,dG,dBを乗じた値TR,TG,TBを出力する。
91は輝度信号Yの縮小処理ブロックである。92は色空間変換処理ブロックであり、縮小した輝度信号及び色差信号Pb,PrからRGB信号への色空間変換を行う。93は拡大処理器である。94は420形式の輝度色差信号、95は解像度の高い輝度と解像度の低いRGB信号、96は解像度の高い輝度及び拡大したRGB信号、97は解像度の高いRGB信号である。14は加算器であり、図2と同様に、拡大処理器93が出力する拡大したRGB信号と、乗算器34が出力するTR,TG,TBとを加算して、出力RGB信号SR,SG,SBを出力する。
まず、入力された輝度信号Yの解像度を縮小処理器91によって、色差信号と同じ解像度に低減させる。解像度が揃っている輝度信号Y及び色差信号Pr,Pbを、色空間変換処理ブロック92でRGB信号に変換する。
この場合の変換式は、輝度色差信号の種類によって予め定められている。例えば、ITU−R BT.709規格の映像信号の場合、変換式は以下のようになる。
R=Y+1.15748×Pr
G=Y−0.187324×Pb−0.468124×Pr
B=Y+1.8556×Pb
なお、階調0と100%をオフセットしている輝度信号の場合はオフセットをなくしてフルスケール階調信号に直してから色空間の変換処理を行う。
次に、色空間変換処理ブロック92の出力に対して拡大処理器93で2倍の拡大処理を行い、RGB信号を得る。ここでの拡大処理は、新たに作成する画素を周囲画素からの補間で作成する。補間方式にはさまざまな方式が知られているが、線形補間を採用することで回路を簡単にすることができ、また、特性がスムーズである。もちろん、他の補間方式を使用しても構わない。
次に、HPF11を用いて、輝度信号の高周波成分を取り出す、次に、LPF31を用いて輝度信号の低周波成分LYを取り出し、LPF32を用いてRGB信号の低周波成分LR、LG、LBを取り出す。この2つの低周波成分の比率を除算器33によって計算し、比率dR,dG、dBを得る。この比率を乗算器34によって、輝度信号の高周波成分HYに乗算することにより、TR、TG、TBを得る。さらに加算器14によって、RGB信号に付加することによって、SR,SG,SBであるところの出力RGB信号を取得する。
SR=R+HY×LR/LY
SG=R+HY×LG/LY
SB=R+HY×LB/LY
なお、本実施形態においては、RGB信号は正しかとらない信号なので、第1実施形態における符号負荷器は必要としない。
また、輝度の高周波成分を固定比率Aで処理したり、固定比率Aをさらに乗算する構成もある。例えば、図2にあげた定数A12と乗算器13を用いて、TPb、TPrの値を調整してもよい。この場合のAの値は、例えば、0.3〜1.3程度の値とすることができる。
SR=R+A×HY×LR/LY
SG=R+A×HY×LG/LY
SB=R+A×HY×LB/LY
また、本実施形態においても、第3実施形態に示したように各RGB信号に高周波成分がある色信号にのみ、輝度信号の高周波信号を付加するようにしてもよい。すなわち、図7におけるHPF、比較器、セレクタを追加することにより、以下の式に従って処理を行うように構成してもよい。
|HR|>smの場合 SR=R+HY×LR/LY
|HR|≦smの場合 SR=R
|HG|>smの場合 SG=G+HY×LR/LY
|HG|≦smの場合 SG=G
|HB|>smの場合 SB=B+HY×LR/LY
|HB|≦smの場合 SB=B
以上のように、本実施形態では、解像度が縮小された輝度信号と色差信号からRGB信号形式へ変換された画像信号の解像度が拡大された拡大画像信号の、R信号成分、G信号成分、及び、B信号成分の各々を、輝度信号の高周波成分信号を基にした補正値により補正する。このため、解像度は低いが色ずれの少ない輝度色差信号からRGB信号形式に変換することにより、解像度は低いが色ずれの少ないRGB信号を得ることができる。さらに、RGB信号形式に変換した画像を拡大した後に輝度信号の高周波成分を用いて補正するため、色ずれの少ない高精細な画像を出力することができる。
なお、一般的には、色差信号を拡大して色ずれが発生した後に色空間変換処理が行われているが、本実施形態のように、輝度信号を縮小して色ずれが少ない状態で色空間変換処理を行ってから拡大処理を行った方が、色ずれの発生を防ぐことができる。
ただし、本実施形態の処理の順番では、高周波成分が不足するので、輝度信号の高周波成分を、RGB信号の大きさに応じた比率で付加することにより、色ずれが少なく高周波成分が保存されたRGB信号が得られる。
<第6実施形態>
次に、既に色ずれしているRGB信号から色ずれを低減する構成を、第6実施形態として説明する。図10は、第6実施形態における色ずれ低減処理ブロックの構成を示すブロック図である。
図10中、11はHPFであり、図2と同様に輝度信号Yから高周波成分HYを取り出す。31から34は図5、図9と同様である。第5実施形態と同様に、乗算器34は輝度信号Yの高周波成分HYに対して、RGB形式の信号R,G,Bの低周波成分LR,LG,LBの、輝度信号Yの低周波成分LYに対する割合dR,dG,dBを乗じた値Tr,Tg,Tbを出力する。加算器14は、入力信号R,G,Bと乗算器34の出力Tr,Tg,Tbとを加算して、出力RGB信号SR,SG,SBを出力する。101は輝度信号抽出処理器であり、入力されたRGB信号から輝度信号Yを抽出する。102は入力の色ずれしているRGB信号、103は解像度の高い輝度及びRGB信号である。97は図9と同様に、解像度の高いRGB信号である。
まず、RGB信号から、輝度信号抽出処理器101で輝度信号を抽出する。この場合の抽出式は、輝度信号の種類によって予め定められている。例えば、ITU−R BT.709規格の映像信号の場合、抽出式は以下のようになる。
Y=0.2126×R+0.7152×G+0.0722×B
次に、RGB信号から抽出したY信号から、HPF11を用いて、輝度信号Yの高周波成分HYを取り出す。次に、LPF31を用いて輝度信号の低周波成分LYを取り出し、LPF32を用いてRGB信号の低周波成分LR、LG、及びLBを取り出す。輝度信号の低周波成分LYに対するRGB信号の低周波成分LR,RG,LBの割合を除算器33によって計算し、比率dR、dG、及びdBを得る。この比率を乗算器34によって、輝度信号の高周波成分HYに乗算することにより、TR、TG、及びTBを得る。さらに加算器14によって、RGB信号に付加することによって、SR、SG、及びSBであるところの出力RGB信号を得る。
SR=R+HY×LR/LY
SG=R+HY×LG/LY
SB=R+HY×LB/LY
第6実施形態においても、第1実施形態のように、固定比率Aを乗算したり、第3実施形態のように閾値以下のRGB信号には付加しないようにしたりすることができる。
また、出力したSR、SG、SB信号を元に色空間の変換処理を行うことで、高周波数成分までもった色差信号SPb、SPrを得られることは、言うまでもない。
以上のように、本実施形態では、画像信号はRGB信号形式により与えられ、その画像信号の、R信号成分、G信号成分、及び、B信号成分の各々を、輝度信号の高周波成分信号を基にした補正値により補正する。このため、色ずれの少ない高精細な画像を出力することができる。
なお、第6実施形態では、RGBの解像度が同じなので、RGBから輝度信号の高周波成分を抽出した。RGB信号の解像度について、DualGreen信号のように、G信号のみがRB信号より解像度の高い場合は、G信号の高周波成分を抽出して、輝度信号の代わりに使うことができる。
<第7実施形態>
上述の実施形態では、画像処理装置を専用の回路により実現した場合の例を説明した。本実施形態では、マイクロプロセッサなどを用いた汎用的なハードウェア構成によって色ずれ低減処理を行う構成例を、図11、図12を用いて説明する。
図11は、第7実施形態における、マイクロプロセッサを用いた画像処理装置の構成を模式的に示すブロック図である。本実施形態の画像処理装置は、パーソナルコンピュータ(PC)、タブレット端末等の汎用の情報処理装置により構成されるが、専用の組込み機器等により実現しても構わない。
図11中、111は演算及び制御を行うマイクロプロセッサ(MPU)である。112は入力インターフェースであり、処理対象の画像を入力する。113は出力インターフェースであり、画像処理が施された画像を出力する。114はコンピュータプログラムを格納するROM(読出し専用メモリ)、115はワーキングメモリとして使用するRAM(書込み可能メモリ)、116は画像の一時記憶を行うストレージである。なお、RAM115が複数枚の画像を記憶できるほど大きな容量を有する場合は、ストレージ116は設けなくてもよい。
図12は、第7実施形態における、マイクロプロセッサによって行う処理を示したフローチャートである。ここでは、第2実施形態の処理をマイクロプロセッサによって実現した場合のフローチャートを一例として説明するが、他の実施形態の処理もその内容に即したフローチャートに従い処理を実行することで、実現可能である。そのため、他の実施形態に即した処理の説明は省略する。
図11の構成において、ROM114に書かれている図12のフローチャートに示した処理を行う。処理の各ステップはMPU111の制御に基づき実行される。以下、処理のステップごとに説明する。
まず、S1201において、入力画像を入力インターフェース112からRAM115に読み込む。読み込んだ入力画像はS1202において、輝度画像と色差画像に分離して、ストレージ116に一時記憶する。
色差画像に対してはS1203において、拡大処理を行い、拡大画像としてRAM115上に置くとともに、ストレージ116に記憶する。この拡大処理は、第1実施形態で説明したものと同様の処理を行う。
S1202で一時記憶していた輝度画像を用いて、S1204においてHPF処理を行い、輝度画像の高周波画像を得て、ストレージ116に一時記憶する。このHPF処理は、図3で示したフィルタ係数で乗算と加算と除算を行えばよい。なお輝度の高周波画像は、元の輝度画像からS1205における輝度のLPF画像を減算することでも取得することができる。
S1205において、ストレージ116から輝度画像を読み出し、LPF処理を行い、輝度画像の低周波画像を得て、ストレージ116に一時記憶する。
S1206において、ストレージ116から拡大処理した色差画像を読み出し、LPF処理を行い、色差画像の低周波画像を得て、ストレージ116に一時記憶する。
次に、S1207において、ストレージ116から、色差の低周波画像と輝度の低周波画像を読み出し、色差の低周波画像を輝度の低周波画像で除算処理を行う。
除算処理した結果に対し、S1208において、輝度の高周波画像をストレージ116から読み出して、乗算する。
乗算した結果を、次にS1209で、ストレージ116から拡大した色差画像を読み出して、加算する。
こうして得られた、色ずれ低減済みの色差画像を、S1210でストレージ116に一時記憶する。
S1211では、ストレージ116から、輝度画像と色ずれ低減済みの色差画像を用いて、色補正やガンマ補正などの所望の画像処理を行う。画像処理した結果の輝度色差画像は、S1212でRGB画像に変換する。
そして、S1213でRGB画像を出力インターフェース113を通じて出力して、処理を終了する。
上記、フローチャートでは、RGB画像に変換して出力したが、輝度色差画像として出力してもよい。
以上、第2実施形態と同様の処理をマイクロプロセッサによって行う構成を説明した。同様に汎用的なマイクロプロセッサを用いて、第1、及び、第3〜第6実施形態の処理を行うことができることは自明であるため、詳細な説明を省略する。
本実施形態によれば、解像度が異なる複数の画像成分信号を含む画像信号に対して、解像度が低い画像成分信号の解像度の拡大を伴う画像処理を行う場合に、汎用的な情報処理装置を用いて色ずれを低減することが可能となる。
以上、複数の構成例により本発明の実施形態を説明したが、本発明の趣旨を逸脱しない限り、本発明の実施の形態はここに挙げた具体的構成例に限られるわけではない。例えば、上記の各実施形態では、輝度信号の解像度が他の画像成分信号よりも高い場合に、輝度信号の高周波成分信号を基にした補正値を他の画像成分信号に加算する例を説明した。もっとも、輝度信号以外の画像成分信号の解像度が高い場合は、その画像成分信号の高周波成分信号に基づき補正を行うようにしてもよい。これにより、画像成分信号の解像度に応じて色ずれを効果的に低減させることが可能となる。
<その他の実施形態>
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
11:HPF、12:係数A、13:乗算器、14:加算器、15:符号付加器

Claims (15)

  1. 数の画像成分信号を含む画像信号から輝度信号を取得する第1の取得手段と、
    前記第1の取得手段により取得された輝度信号から当該輝度信号の高周波成分信号を取得する第2の取得手段と、
    前記画像信号に含まれる色差信号の解像度が拡大された拡大色差信号を、前記第2の取得手段により取得された高周波成分信号を基にした補正値で補正する補正手段と
    を備えることを特徴とする画像処理装置。
  2. 該輝度信号の解像度は当該色差信号の解像度よりも高く、
    前記補正手段は、前記輝度信号の高周波成分信号を基にした補正値を前記色差信号の解像度が拡大された前記拡大色差信号に加算することにより、当該拡大色差信号を補正する
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正手段は、予め定められた係数を前記高周波成分信号に乗じた値を前記拡大色差信号に加算することにより、当該拡大色差信号を補正することを特徴とする請求項2に記載の画像処理装置。
  4. 前記輝度信号から当該輝度信号の低周波成分信号を取得する第3の取得手段と、
    前記色差信号から当該色差信号の低周波成分信号を取得する第4の取得手段と、
    をさらに備え、
    前記補正手段は、前記第2の取得手段により取得された高周波成分信号と、前記第3の取得手段により取得された前記輝度信号の低周波成分信号と、前記第4の取得手段により取得された前記色差信号の低周波成分信号とを基にした補正値を前記拡大色差信号に加算することにより、当該拡大色差信号を補正する
    ことを特徴とする請求項2に記載の画像処理装置。
  5. 前記第3の取得手段により取得された前記輝度信号の低周波成分信号を前記第4の取得手段により取得された前記色差信号の低周波成分信号により除算して除算値を求める除算器をさらに備え、
    前記補正手段は、前記除算値と前記高周波成分信号の乗算に応じた値を前記拡大色差信号に加算することにより、当該拡大色差信号を補正することを特徴とする請求項4に記載の画像処理装置。
  6. 前記補正手段は、予め定められた係数及び前記除算値を前記高周波成分信号に乗じた値を前記拡大色差信号に加算することにより、当該拡大色差信号を補正することを特徴とする請求項5に記載の画像処理装置。
  7. 前記補正手段は、前記拡大色差信号の周波数成分が予め定められた値を超えて分布している場合に、前記輝度信号の高周波成分信号を基にした補正値を該拡大色差信号に加算することにより、当該拡大色差信号を補正することを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。
  8. 前記補正手段は、前記拡大色差信号の予め定められた周波数成分が予め定められた信号強度を超えている場合に、前記輝度信号の高周波成分信号を基にした補正値を該拡大色差信号に加算することにより、当該拡大色差信号を補正することを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
  9. 前記補正手段は、前記拡大色差信号のエッジ成分が予め定められた閾値を超えて分布している場合に、前記輝度信号の高周波成分信号を基にした補正値を該拡大色差信号に加算することにより、当該拡大色差信号を補正することを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。
  10. 前記補正手段は、前記拡大色差信号のエッジ成分の予め定められた周波数成分があらかじめ定められた信号強度を超えている場合に、前記輝度信号の高周波成分信号を基にした補正値を該拡大色差信号に加算することにより、当該拡大色差信号を補正することを特徴とする請求項1から9のいずれか1項に記載の画像処理装置。
  11. 前記輝度信号と、前記補正手段により補正された前記拡大色差信号とに対して画像処理を行う画像処理手段をさらに備えることを特徴とする請求項1から10のいずれか1項に記載の画像処理装置。
  12. 前記輝度信号の解像度を前記輝度信号より解像度が低い画像成分信号としての色差信号の解像度まで縮小する縮小手段と、
    前記縮小手段により解像度が縮小された前記輝度信号と、前記色差信号とに対して画像処理を行う画像処理手段と
    をさらに備え、
    前記補正手段は、前記画像処理手段により画像処理が行われた前記色差信号の解像度が拡大された拡大色差信号に対し、画像処理が行われる前の前記輝度信号の高周波成分信号を基にした補正値を加算することにより、該拡大色差信号を補正する
    ことを特徴とする請求項1から10のいずれか1項に記載の画像処理装置。
  13. 前記画像信号は前記輝度信号と前記輝度信号より解像度が低い画像成分信号としての色差信号とを有し、
    前記輝度信号の解像度を前記色差信号の解像度まで縮小する縮小手段と、
    前記縮小手段により解像度が縮小された前記輝度信号と、前記色差信号とを、RGB信号形式に変換する変換手段と
    をさらに備え、
    前記補正手段は、前記変換手段によりRGB信号形式に変換された前記画像信号の解像度が拡大された拡大色差信号の、R信号成分、G信号成分、及び、B信号成分の各々を、前記高周波成分信号を基にした補正値により補正する
    ことを特徴とする請求項1に記載の画像処理装置。
  14. 画像処理方法であって、
    数の画像成分信号を含む画像信号から輝度信号を取得する第1の取得工程と、
    前記取得された輝度信号から当該輝度信号の高周波成分信号を取得する第2の取得工程と、
    前記画像信号に含まれる色差信号の解像度が拡大された拡大色差信号を、前記高周波成分信号を基にした補正値で補正する補正工程と
    を備えることを特徴とする画像処理方法。
  15. コンピュータを請求項1から13のいずれか1項に記載の画像処理装置が備える各手段として機能させるためのコンピュータプログラム。
JP2016122881A 2016-06-21 2016-06-21 画像処理装置及び画像処理方法、コンピュータプログラム Active JP6403720B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016122881A JP6403720B2 (ja) 2016-06-21 2016-06-21 画像処理装置及び画像処理方法、コンピュータプログラム
US15/614,721 US10109040B2 (en) 2016-06-21 2017-06-06 Image processing apparatus, image processing method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016122881A JP6403720B2 (ja) 2016-06-21 2016-06-21 画像処理装置及び画像処理方法、コンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2017228898A JP2017228898A (ja) 2017-12-28
JP6403720B2 true JP6403720B2 (ja) 2018-10-10

Family

ID=60660861

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016122881A Active JP6403720B2 (ja) 2016-06-21 2016-06-21 画像処理装置及び画像処理方法、コンピュータプログラム

Country Status (2)

Country Link
US (1) US10109040B2 (ja)
JP (1) JP6403720B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110235438B (zh) * 2016-12-01 2021-12-28 Lg 电子株式会社 图像显示设备和包含该图像显示设备的图像显示***
WO2021010020A1 (ja) * 2019-07-17 2021-01-21 ソニー株式会社 画像処理装置、撮像装置、画像処理方法、プログラム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS55154894A (en) * 1979-05-21 1980-12-02 Sony Corp Improving circuit for frequency characteristic of color signal
JPS62143589A (ja) * 1985-12-18 1987-06-26 Matsushita Electric Ind Co Ltd 輪郭補正器
JP2804546B2 (ja) * 1989-10-24 1998-09-30 三洋電機株式会社 色信号輪郭補正回路
JP2619153B2 (ja) * 1991-06-20 1997-06-11 三菱電機株式会社 映像信号処理回路
US5515112A (en) * 1994-12-19 1996-05-07 Tektronix, Inc. Chrominance transition corrector
DE69629423T2 (de) * 1995-06-30 2004-06-17 Mitsubishi Denki K.K. Vorrichtung zur Flimmerreduzierung
JPH10126808A (ja) * 1996-10-17 1998-05-15 Victor Co Of Japan Ltd 色帯域改善装置
JPH10224815A (ja) * 1997-02-12 1998-08-21 Nippon Hoso Kyokai <Nhk> エンハンサおよび色差信号エンハンサ
US6360022B1 (en) * 1997-04-04 2002-03-19 Sarnoff Corporation Method and apparatus for assessing the visibility of differences between two signal sequences
JP2003235056A (ja) * 2002-02-12 2003-08-22 Pioneer Electronic Corp 映像信号処理装置
JP2010021808A (ja) 2008-07-10 2010-01-28 Sony Corp 画像処理装置、画像処理方法、及び、プログラム
JP5337737B2 (ja) * 2010-02-16 2013-11-06 日本放送協会 送信信号変換装置および送信信号変換プログラム、並びに、受信信号変換装置および受信信号変換プログラム
US9653026B2 (en) 2012-03-07 2017-05-16 Canon Kabushiki Kaisha Backlight controlling apparatus, backlight controlling method and program
JP2014033357A (ja) 2012-08-03 2014-02-20 Jvc Kenwood Corp 映像信号処理装置及び映像信号処理方法
JP2016111616A (ja) 2014-12-09 2016-06-20 キヤノン株式会社 情報処理装置および曲線算出方法、画像表示装置
JP2016180802A (ja) 2015-03-23 2016-10-13 キヤノン株式会社 投影制御装置、及び制御方法、プログラム
JP6744723B2 (ja) 2016-01-27 2020-08-19 キヤノン株式会社 画像処理装置および画像処理方法、コンピュータプログラム

Also Published As

Publication number Publication date
JP2017228898A (ja) 2017-12-28
US20170365039A1 (en) 2017-12-21
US10109040B2 (en) 2018-10-23

Similar Documents

Publication Publication Date Title
WO2010073582A1 (ja) 画像拡大装置、方法、集積回路及びプログラム
US9137464B2 (en) Image processing apparatus and control method of the same
KR20220002977A (ko) 하이 다이내믹 레인지 이미지들에 대한 디스플레이 관리
US8305489B2 (en) Video conversion apparatus and method, and program
EP2161687B1 (en) Video signal processing device, video signal processing method, and video signal processing program
JP6485068B2 (ja) 画像処理方法および画像処理装置
US9762850B2 (en) Image processing apparatus, image processing method, and storage medium
JP6403720B2 (ja) 画像処理装置及び画像処理方法、コンピュータプログラム
JP4427592B2 (ja) 画像処理装置、および画像処理方法
US10771755B2 (en) Image processing apparatus, image processing method, and program
JP5585885B2 (ja) 画像処理装置及び画像処理方法
JP5249111B2 (ja) 画像処理装置、方法、プログラム、及び撮像システム
JP2008033592A (ja) 画像処理装置および画像処理方法、並びにプログラム
KR102095518B1 (ko) 영상의 고해상도 변환을 위한 리마스터링 시스템 및 그 방법
JP2006308665A (ja) 画像処理装置
JP5112528B2 (ja) 映像表示装置及び映像処理方法
JP6135937B2 (ja) 画像処理方法および画像処理装置
JP6575742B2 (ja) 画像処理方法および画像処理装置
KR20200042742A (ko) 영상의 고해상도 변환을 위한 리마스터링 시스템 및 그 방법
JP6627528B2 (ja) 画像処理方法及び画像処理装置
JP5045119B2 (ja) 色トランジェント補正装置
KR100943902B1 (ko) 디지털 tv 모니터용 범용 영상 처리 장치
KR102216391B1 (ko) 디지털 리마스터링 기술을 이용한 실시간 화상송출 시스템 및 방법
JP2014096745A (ja) 画像伝送システム
JP2000115720A (ja) 走査線補間装置および走査線補間方法

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180424

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180717

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180813

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180911

R151 Written notification of patent or utility model registration

Ref document number: 6403720

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151