実施の形態1.
図1は本発明の実施の形態1による映像記録再生装置の構成を表す図である。
映像記録再生装置1において、映像入力信号が圧縮処理部13において、例えばMPEG−2などの高能率の非可逆圧縮方式によりデータ圧縮された後、アクセス手段14により記録処理され、光ディスクなどの記録メディア2に書き込まれる。また、アクセス手段14により記録メディア2から読み出された圧縮データは、伸張処理部15によりデータ伸張等の映像信号再生処理により映像再生信号に復元された後、拡大処理部12bにおいて画像が拡大され、信号処理手段11bに入力される。信号処理手段11bにおいては高周波数成分を生成・加算し画像の解像感を高めるような信号処理がなされる。なお、拡大処理手段12bからは信号処理をおこなった拡大映像信号の他に、拡大率に応じた制御信号CTLを出力し信号処理手段11bへ送るものとする。
図2は、図1における信号処理手段11bの構成を表す図である。信号処理手段11bは入力信号DINから特定の周波数帯域近傍の成分を取り出した中間画像D111を生成する第1の中間画像生成手段111、画像D111に後述する処理を行った中間画像D112を生成する第2の中間画像生成手段112、入力信号DINと中間画像D112を加算する加算手段113からなり、加算手段113にて入力信号DINと中間画像D112を加算した結果が出力信号DOUTとして出力される。
第1の中間画像生成手段111は入力信号DINから高周波数成分のみを取り出した画像D111Aを生成する高周波数成分画像生成手段111A、画像D111Aの低周波数成分のみを取り出した画像D111Bを生成する低周波数成分画像生成手段111Bからなる。第1の中間画像生成手段111からは画像D111Bが中間画像D111として出力される。
第2の中間画像生成手段112は中間画像D111に対し、後述する非線形処理を行った画像D112Aを出力する非線形処理手段112A、画像D112Aの高周波数成分のみを取り出した画像D112Bを出力する高周波数成分画像生成手段112B、中間画像D111と画像D112Bを加算した画像D112Cを出力する加算手段112Cからなる。第2の中間画像生成手段112からは画像D112Cが中間画像D112として出力される。
なお、上記高周波数成分画像生成手段111A、低周波数成分画像生成手段111Bならびに高周波数成分画像生成手段112Bは、拡大処理手段12bからの制御信号CTLを受け、抽出する信号帯域を設定する。
以下、本発明の実施の形態1による映像記録再生装置の詳細な動作について説明を行う。
入力端子3aから入力された映像信号は、圧縮処理部13において例えばMPEG−2などの高能率の非可逆圧縮方式によりデータ圧縮された後、アクセス手段14へ入力され、アクセス手段14においては、光ディスクなどの記録メディア2へのデータの書き込み、読み出しを行うことにより映像再生信号を出力する。この映像再生信号は拡大処理手段12bによる拡大処理により折り返し成分を有する拡大映像信号として出力される。信号処理手段11bでは、拡大映像信号の折り返し成分を取り除いた高周波数成分と、拡大映像信号のナイキスト周波数以上の帯域の高周波数成分とを拡大映像信号に加算するような信号処理をおこなうことで、記録に伴うデータ圧縮により損なわれた高周波数成分を補償することで画像の解像感を高めるような映像信号を出力する。
信号処理手段11bについて、以下詳細に説明する。信号処理手段11bは、入力信号DINから特定の周波数帯域近傍の成分を取り出した中間画像D111を生成する第1の中間画像生成手段111と、画像D111に後述する処理を行った中間画像D112を生成する第2の中間画像生成手段112と、入力信号DINと中間画像D111と中間画像D112とを加算する加算手段113により構成される。
第1の中間画像生成手段111の詳細な動作について説明する。
第1の中間画像生成手段111は、高周波数成分画像生成手段111Aにおいて、入力画像DINの高周波数成分のみを取り出した画像D111Aを生成する。高周波数成分の取り出しは、ハイパスフィルタ処理を行うことで可能である。なお、高周波数成分の取り出しは画像の水平方向、垂直方向それぞれについて行う。すなわち高周波数成分画像生成手段111Aは、入力画像DINに対し、水平方向のハイパスフィルタ処理を行って水平方向についてのみ高周波数成分を取り出した画像D111Ahを生成する水平方向高周波数成分画像生成手段111Ahと、垂直方向のハイパスフィルタ処理を行って垂直方向についてのみ高周波数成分を取り出した画像D111Avを生成する垂直方向高周波数成分画像生成手段111Avからなり、画像D111Aは画像D111Ahと画像D111Avからなる。なお、水平方向高周波数成分画像生成手段111Ahと垂直方向高周波数成分画像生成手段111Avはそれぞれ拡大処理手段12bからの制御信号CTLの値により、抽出する信号帯域設定を変更するものである。
次に、第1の中間画像生成手段111は、低周波数成分画像生成手段111Bにおいて、画像D111Aの低周波数成分のみを取り出した画像D111Bを生成する。低周波数成分の取り出しは、ローパスフィルタ処理を行うことで可能である。なお、低周波数成分の取り出しは水平方向、垂直方向それぞれについて行う。すなわち低周波数成分画像生成手段111Bは、画像D111Ahに対し水平方向のローパスフィルタ処理を行った画像D111Bhを生成する水平方向低周波数成分画像生成手段111Bと、画像D111Avに対し垂直方向のローパスフィルタ処理を行った画像D111Bvを生成する垂直方向低周波数成分画像生成手段111Bvからなり、画像D111Bは画像D111Bhと画像D111Bvからなる。そして、第1の中間画像生成手段111からは、画像D111Bが中間画像D111として出力される。なお、中間画像D111は、画像D111Bhに相当する画像D111h、画像D111Bvに相当する画像D111vからなる。なお、水平方向低周波数成分画像生成手段111Bhと垂直方向低周波数成分画像生成手段111Bvは、前記水平方向高周波数成分画像生成手段111Ahと垂直方向高周波数成分画像生成手段111Av同様に、それぞれ拡大処理手段12bからの制御信号CTLの値により、抽出する信号帯域設定を変更するものである。
次に、第2の中間画像生成手段112の詳細な動作について説明する。
まず、第2の中間画像生成手段112は、非線形処理手段112Aにおいて、中間画像D111に対して後述する非線形処理を行った画像D112Aを生成する。非線形処理は、水平方向、垂直方向それぞれについて行う。すなわち非線形処理手段112Aは、画像D111Bhに対して後述する非線形処理を行って画像D112Ahを生成する水平方向非線形処理手段112Ahと、画像D111Bvに対して後述する非線形処理を行って画像D112Avを生成する垂直方向非線形処理手段112Avからなり、画像D112Aは画像D112Ahと画像D112Avからなる。
非線形処理手段112Aの動作についてさらに詳しく説明する。非線形処理手段112Aは同様の構成からなる水平方向非線形処理手段112Ah、垂直方向非線形処理手段112Avを備える。ここで、水平方向非線形処理手段112Ahは水平方向の処理を行い、垂直方向非線形処理手段112Avは垂直方向の処理を行う。
図3は水平方向非線形処理手段112Ahの構成を表す図である。水平方向非線形処理手段112Ahはゼロクロス判定手段112Ah1、信号増幅手段112Ah2を備える。なお、非線形処理手段112Ahには、画像D111hが入力画像DIN112Ah1として入力される。
ゼロクロス判定手段112Ah1は入力画像DIN112Ah1における画素値の変化を水平方向に沿って確認する。そして画素値が正の値から負の値あるいは負の値から正の値へと変化する箇所をゼロクロス点として捉え、信号D112Ah1によってゼロクロス点の前後にある画素の位置を信号増幅手段112Ah2に伝達する。例えばゼロクロス点の左右に位置する画素がゼロクロス点の前後に位置する画素として認識される。
信号増幅手段112Ah2は信号D112Ah1をもとにゼロクロス点の前後にある画素を特定し、ゼロクロス点の前後にある画素についてのみその画素値を増幅させた(絶対値を大きくした)非線形処理画像D112Ah2を生成する。すなわち、ゼロクロス点前後にある画素の画素値に対しては増幅率を1より大きな値とし、それ以外の画素の画素値に対しての増幅率は1とする。
そして水平方向非線形処理手段112Ahからは画像D112Ahとして非線形処理画像D112Ah2が出力される。
図4は垂直方向非線形処理手段112Avの構成を表す図である。垂直方向非線形処理手段112Avはゼロクロス判定手段112Av1、信号増幅手段112Av2を備える。なお、非線形処理手段112Avには、画像D111vが入力画像DIN112Av1として入力される。
ゼロクロス判定手段112Av1は入力画像DIN112Av1における画素値の変化を垂直方向に沿って確認する。そして画素値が正の値から負の値あるいは負の値から正の値へと変化する箇所をゼロクロス点として捉え、信号D112Av1によってゼロクロス点の前後にある画素の位置を信号増幅手段112Av2に伝達する。例えばゼロクロス点の上下に位置する画素がゼロクロス点の前後に位置する画素として認識される。
信号増幅手段112Av2は信号D112Av2をもとにゼロクロス点の前後にある画素を特定し、ゼロクロス点の前後にある画素についてのみその画素値を増幅させた(絶対値を大きくした)非線形処理画像D112Av2を生成する。すなわち、ゼロクロス点前後にある画素の画素値に対しては増幅率を1より大きな値とし、それ以外の画素の画素値に対しての増幅率は1とする。
以上が非線形処理手段112Aの動作である。非線形処理手段においては、画素ごとに適応的に増幅率を変える、あるいは画素に応じて処理の内容を適宜変えることで、高周波数成分を生成しているが詳細は後述する。
次に、第2の中間画像生成手段112は、高周波数成分画像生成手段112Bにおいて、画像D112Aの高周波数成分のみを取り出した画像D112Bを生成する。高周波数成分の取り出しは、ハイパスフィルタ処理を行うことで可能である。なお、高周波数成分の取り出しは画像の水平方向、垂直方向それぞれについて行う。すなわち高周波数成分画像生成手段112Bは、画像D112Ahに対し水平方向のハイパスフィルタ処理を行った画像D112Bhを生成する水平方向高周波数成分画像生成手段112Bhと、画像D112Avに対し垂直方向のハイパスフィルタ処理を行った画像D112Bvを生成する垂直方向高周波数成分画像生成手段112Bvからなり、画像D112Bは画像D112Bhと画像D112Bvからなる。なお、水平方向高周波数成分画像生成手段112Bhと垂直方向高周波数成分画像生成手段112Bvは、前記水平方向高周波数成分画像生成手段111Ahと垂直方向高周波数成分画像生成手段111Av同様に、それぞれ拡大処理手段12bからの制御信号CTLの値により、抽出する信号帯域設定を変更するものである。
次に加算手段112Cは、中間画像D111と画像D112Bを加算して画像D112Cを生成する。なお、中間画像D111は画像D111hおよび画像D111vからなっており、画像D112Bは画像D112Bhおよび画像D112Bvからなっているので、中間画像D111と画像D112Bを加算することは、画像D111h、D111v、D112Bh、D112Bvの全てを加算することを意味する。そして第2の中間画像生成手段112からは、画像D112Cが中間画像D112として出力される。中間画像D112は折り返し成分を取り除いた高周波数成分であり、これを加算することは、折り返し成分を強調することなく画像の解像感を高めることを可能とするが詳細は後述する。
加算手段113の動作について説明する。加算手段113は入力画像DINと中間画像D112を加算した出力画像DOUTを生成する。そして出力画像DOUTが出力画像として出力される。
以下、本発明における映像記録再生装置における拡大処理手段と信号処理手段の動作例について説明する。なお、以下の説明では特に断らない限り、Fnという記号は入力画像DINのナイキスト周波数を表す。
拡大処理手段12bは、記録メディア2から再生された再生信号の画像サイズが、端子2bより出力される画像サイズより小さい場合、記録メディア2から再生された再生信号を拡大した画像を出力する。ここで画像を拡大する手段としては、バイキュービック法などを用いることができる。
本発明における信号処理手段11bは、入力画像D12bに対し、先に説明した処理を行った画像D11bを出力する。
以下、原画DORGは、水平方向、垂直方向ともその画素数が出力信号の画素数の半分であるとして、まず拡大処理手段12bの動作、作用について説明を行う。
図5は、拡大処理手段12bの構成および動作を表す図であり、拡大処理手段12bは水平方向ゼロ挿入手段121、水平方向低周波数成分通過手段122、垂直方向ゼロ挿入手段123、垂直方向低周波数成分通過手段124からなる。水平方向ゼロ挿入手段121は入力信号DORGの水平方向に関して画素値0を持つ画素を適宜挿入した画像D121を生成する。水平方向低周波数成分通過手段122はローパスフィルタ処理により画像D121の低周波数成分のみを取り出した画像D122を生成する。垂直方向ゼロ挿入手段123は画像D122の垂直方向に関して画素値0を持つ画素を適宜挿入した画像D123を生成する。垂直方向低周波数成分通過手段124は画像D123の低周波数成分のみを取り出した画像D124を生成する。そして画像D124が原画DORGを水平方向、垂直方向とも2倍した画像として、拡大処理手段から出力される。
図7は拡大処理手段12bの動作を詳しく説明するための図であり、図7(A)は原画DORGを、図7(B)は画像D121に、図7(C)は画像D122に、図7(D)は画像D123に、図7(E)は画像D124を表す。図7(A)〜(E)に関して、四角は画素を表し、その中に書かれた記号あるいは数値は各画素の画素値を表す。
水平方向ゼロ挿入手段121は図7(A)に示す原画DORGに対して、水平方向の1画素につき1個、画素値0をもった画素を挿入し、図7(B)に示す画像D121を生成する。水平方向低周波数成分通過手段122は図7(B)に示す画像D121に対して、ローパスフィルタ処理を施し、図7(C)に示す画像D122を生成する。垂直方向ゼロ挿入手段123は図7(C)に示す画像D122に対して、垂直方向の1画素につき1個、画素値0をもった画素を挿入し、図7(D)に示す画像D123を生成する。垂直方向低周波数成分通過手段124は図7(D)に示す画像D123に対して、ローパスフィルタ処理を施し、図7(E)に示す画像D124を生成する。以上の処理により原画DORGを水平方向、垂直方向とも2倍に拡大した画像D124が生成される。
図8は拡大処理手段12bによる処理の作用を周波数空間上で表したものであり、図8(A)は原画DORGの周波数スペクトル、図8(B)は画像D121の周波数スペクトル、図8(C)は水平方向周波数成分通過手段122の周波数応答、図8(D)は画像D122の周波数スペクトルを表している。なお、図8において横軸は水平方向の空間周波数を表す周波数軸であり、縦軸は周波数スペクトルもしくは周波数応答の強度を表している。なお原画DORGの画素数は入力画像DINの半分となっており、言い換えると原画DORGのサンプリング間隔は入力画像DINのサンプリング間隔の2倍になっている。したがって原画DORGのナイキスト周波数は入力画像DINのナイキスト周波数の半分すなわち、Fn/2となる。
なお、図8では表記を簡素にするため、1本の周波数軸しか用いていない。しかしながら、通常、画像データは2次元平面状に並んだ画素配列上に与えられた画素値からなり、その周波数スペクトルも水平方向の周波数軸および垂直方向の周波数軸で張られる平面上に与えられるものである。したがって原画DORG等の周波数スペクトル等を正確に表すためには、水平方向の周波数軸および垂直方向の周波数軸の両方を記載する必要がある。しかしながらその周波数スペクトルの形状は通常、周波数軸上の原点を中心に等方的に広がったものであり、周波数軸1本で張られる空間上での周波数スペクトルを示しさえすれば、そこから周波数軸2本で張られる空間へ拡張して考察することは当業者にとって容易である。したがって以降の説明でも特に断らない限り、周波数空間上での説明は、1本の周波数軸で張られる空間を用いて行う。
まず、原画DORGの周波数スペクトルについて説明する。通常、自然画像が原画DORGとして入力されるがそのスペクトル強度は周波数空間の原点周辺に集中している。したがって原画DORGの周波数スペクトルは図8(A)のように表すスペクトルSPOのようになる。
次に、画像D121のスペクトル強度について説明する。画像D121は、原画DORGに対して、水平方向に1画素につき1画素、画素値0を持った画素を挿入することで生成される。このような処理を行うと周波数スペクトルには原画DORGのナイキスト周波数を中心にした折り返しが発生する。すなわち周波数±Fn/2を中心にスペクトルSPOが折り返したスペクトルSPMが発生するので、画像D121の周波数スペクトルは図8(B)のように表される。
次に、水平方向低周波数成分通過手段122の周波数応答について説明する。水平方向低周波数成分通過手段はローパスフィルタによって実現されるので、その周波数応答は図8(C)に示すように周波数が高くなるほど低くなる。
最後に、画像D122の周波数スペクトルについて説明する。図8(B)に示す周波数スペクトルを持った画像D121に対し、図8(C)に示した周波数応答を持ったローパスフィルタ処理を行うことで、画像D122が得られる。したがって画像D122の周波数スペクトルは画像D122に示すように、スペクトルSPMの強度がある程度落ちたスペクトルSP2と、スペクトルSPOの強度がある程度落ちたスペクトルSP1からなる。なお一般に、ローパスフィルタの周波数応答は周波数が高くなるほど低くなる。従って、スペクトルSP1の強度をスペクトルSPOと比較すると、水平方向低周波数成分通過手段122によって、高周波数成分側、すなわち周波数が±Fn/2近傍でのスペクトル強度が減少したものとなる。
また、画像拡大手段12bによる処理のうち、垂直方向ゼロ挿入手段123および垂直方向低周波数成分通過手段124による処理について、その周波数空間上での作用についての説明は省略するが、その処理の内容から、垂直方向の空間周波数を表す軸方向に対して、図8を用いて説明した内容と同様の作用があることは容易に理解できる。すなわち、画像D124の周波数スペクトルは、図8(D)に示した周波数スペクトルが2次元上に広がったものとなる。
また、以降の説明ではスペクトルSP2のことを折り返し成分と呼ぶ。この折り返し成分は、画像上では、比較的高い周波数成分を持ったノイズあるいは偽の信号として現れる。そのようなノイズあるいは偽の信号としてオーバーシュートやジャギーあるいはリンギング等が挙げられる。
以下、本発明における映像記録再生装置の作用、効果について説明する。
図9(A)〜(E)は入力画像DINとして原画DORGを拡大して得られた画像D124が入力された場合の、入力画像DINから中間画像D111を生成する際の作用、効果を模式的に表した図であり、図9(A)は入力画像DINの周波数スペクトルを、図9(B)は高周波数成分画像生成手段1の周波数応答を、図9(C)は低周波数成分画像生成手段2の周波数応答を、図9(D)は第1の中間画像生成手段111の周波数応答を、図9(E)は中間画像D111の周波数スペクトルを表す。なお、図9においても図8同様の理由で周波数軸は1本しか用いていない。
さらに図9では、空間周波数が0以上となる範囲でのみ周波数スペクトルあるいは周波数応答の強度を表しているが、以下の説明での周波数スペクトルあるいは周波数応答は、周波数軸上の原点を中心に対称的な形状となる。したがって説明に用いる図は、空間周波数が0以上となる範囲のみを示したもので十分である。
まず、入力画像DINの周波数スペクトルについて説明する。入力画像DINの周波数スペクトルは図9(A)に示すように、周波数スペクトルは図8(D)で説明したものと同じ形状となり、原画DORGのスペクトルSPOの強度がある程度落ちたスペクトルSP1と折り返し成分となるスペクトルSP2からなる。
次に、高周波数成分画像生成手段111Aの周波数応答について説明する。高周波数成分画像生成手段111Aはハイパスフィルタにより構成されているので、その周波数応答は図9(B)に示すように周波数が低くなるほど低くなる。
次に、低周波数成分画像生成手段111Bの周波数応答について説明する。低周波数成分画像生成手段111Bはローパスフィルタにより構成されているので、その周波数応答は図9(C)に示すように周波数が高くなるほど低くなる。
次に、中間画像生成手段1の周波数応答について説明する。入力画像DINが持つ周波数成分のうち、図9(D)に示された低周波数成分側の領域RL1の周波数成分については、第1の中間画像生成手段111内の高周波数成分画像生成手段111Aで弱められる。一方、図9(D)に示された高周波数成分側の領域RH1の周波数成分については、第1の中間画像生成手段111内の低周波数成分画像生成手段111Bで弱められる。したがって、第1の中間画像生成手段111の周波数応答は、図9(D)に示すように、低周波数成分側の領域RL1と高周波数成分側の領域RH1によって帯域を制限された中間の領域RM1にピークを持ったものとなる。
次に、中間画像D111の周波数スペクトルについて説明する。図9(A)に示す周波数スペクトルを持つ入力画像DINが、図9(D)に示した周波数応答を持つ第1の中間画像生成手段111を通過することで、中間画像D111が得られる。そして第1の中間画像生成手段111の周波数応答は、低周波数成分側の領域RL1と高周波数成分側の領域RH1によって帯域制限された中間の領域RM1にピークを持ったものなので、中間画像D111の周波数スペクトルは、入力画像DINの周波数スペクトルのうち、低周波数成分側の領域RL1と高周波数成分側の領域RH1に含まれる部分の強度が弱くなったものとなる。従って中間画像D111は入力画像DINの持つ高周波数成分から折り返し成分となるスペクトルSP1を取り除いたものとなる。すなわち第1の中間画像生成手段111には、入力画像DINのもつ高周波数成分から折り返し成分となるスペクトルSP1を取り除いた中間画像D111を生成するという効果がある。
図10(A)〜(C)は第2の中間画像生成手段112の作用、効果を表した図であり、図10(A)は非線形処理画像D112Aの周波数スペクトルを、図10(B)は高周波数成分画像112Bの周波数応答を、図10(C)は画像D112Bの周波数スペクトルを表す。なお、図10では、図9と同様の理由で、空間周波数が0以上となる範囲でのみ周波数スペクトルあるいは周波数応答の強度を表している。
後述するように非線形処理画像D112Aでは、高周波数成分側の領域RH2に相当する高周波数成分が生成される。図10(A)はその様子を模式的に表した図である。画像D112Bは非線形処理画像D112Aが高周波数成分画像生成手段112Bを通過することで生成される。高周波数成分画像生成手段112Bはハイパスフィルタで構成されており、その周波数応答は図10(B)に示すように周波数が高くなるほど高いものとなる。従って画像D112Bの周波数スペクトルは図10(C)に示すように非線形処理画像D112Aの周波数スペクトルから低周波数成分側の領域RL2に相当する成分を取り除いたものとなる。言い換えると、非線形処理手段112Aには高周波数成分側の領域RH2に相当する高周波数成分を生成する効果があり、高周波数成分画像生成手段112Bには非線形処理手段112Aで生成された高周波数成分のみを取り出す効果がある。
上記の作用、効果についてさらに詳しく説明する。
図11、図12はステップエッジをサンプリングした際に得られる信号について表した図である。図11(A)はステップエッジとサンプリング間隔S1を表しており、図11(B)はステップエッジをサンプリング間隔S1でサンプリングした際に得られる信号を表しており、図11(C)は図11(B)に表された信号の高周波数成分を表している。一方、図12(A)はステップエッジとサンプリング間隔S1より間隔の広いサンプリング間隔S2を表しており、図12(B)はステップエッジをサンプリング間隔S2でサンプリングした際に得られる信号を表し、図12(C)は図12(B)に表された信号の高周波数成分を表している。なお、以下の説明ではサンプリング間隔S2の長さはサンプリング間隔S1の長さの2倍であるとする。
図11(C)、図12(C)に表されるようにステップエッジの中央は高周波数成分を表した信号においてゼロクロス点Zとして現れる。また、高周波数成分を表した信号のゼロクロス点Zの近傍での傾きは、サンプリング間隔が短いほど急になり、かつゼロクロス点Z近傍での局所的な最大値、最小値を与える点の位置も、サンプリング間隔が短いほどゼロクロス点Zに近づく。
すなわち、サンプリング間隔が変わっても、エッジ近傍において高周波数成分を表す信号のゼロクロス点の位置は変化しないが、サンプリング間隔が小さくなるほど(あるいは解像度が上がるほど)エッジ近傍での高周波数成分の傾きは急になり、局所的な最大値、最小値を与える点の位置はゼロクロス点に近づく。
図13はステップエッジをサンプリング間隔S1でサンプリングした信号が2倍に拡大された後、本発明における映像記録装置に入力された際の作用、効果を表す図であり、特に第1の中間画像生成手段111および第2の中間画像生成手段112の作用、効果を表している。なお、先に述べた通り、第1の中間画像生成手段111および第2の中間画像生成手段112内部の処理は水平方向、垂直方向のそれぞれについて行われるのでその処理は一次元的に行われる。したがって図13では一次元信号を用いて処理の内容を表している。
図13(A)は、図12(B)同様ステップエッジをサンプリング間隔S2でサンプリングした信号である。図13(B)は、図13(A)に表した信号を2倍に拡大した信号である。すなわち、原画DORGに図13(A)に示すようなエッジが含まれる場合、入力画像DINとして図13(B)に示すような信号が入力される。なお、信号を2倍に拡大するとサンプリング間隔は拡大前の半分になるため、図13(B)に表した信号のサンプリング間隔は図10中のサンプリング間隔S1と同じになる。また、図13(A)において座標P3で表される位置はエッジ信号の低輝度側の境界部分であり、座標P4で表される位置はエッジ信号の高輝度側の境界である。
図13(C)は図13(B)に表した信号の高周波数成分を表した信号、すなわち高周波数成分画像生成手段111Aから出力される画像D111Aに相当する信号である。なお、画像D111Aは、入力画像DINの高周波数成分を取り出したものなので、その中には折り返し成分も含まれている。
図13(D)は図13(C)に表した信号の低周波数成分を表した信号、すなわち低周波数成分画像生成手段111Bから出力される画像D111Bに相当する信号である。なお先に述べたとおり画像D111Bが中間画像D111として出力されるので、図13(D)は中間画像D111にも相当する。図13(D)に示すとおり、中間画像D111においてゼロクロス点Z近傍の局所的な最小値は座標P3に、局所的な最大値は座標P4に表れ、その様子は図12(C)に示した、ステップエッジをサンプリング間隔S2でサンプリングした信号から取り出した高周波数成分と一致する。また、画像D111Aに含まれていた折り返し成分は、低周波数成分画像生成手段111Bで行うローパスフィルタ処理によって取り除かれる。
図13(E)は、図13(D)に表した信号に対する非線形処理手段112Aに入力された際の出力信号、すなわち、中間画像D111が入力された場合に非線形処理手段112Aから出力される画像D112Aを表している。非線形処理手段112Aではゼロクロス点Zの前後の座標P1、P2の信号値が増幅される。したがって、画像D112Aは図13(E)に示すように座標P1、P2での信号値の大きさが他の値に比べ大きくなり、ゼロクロス点Z近傍で、局所的な最小値の現れる位置が座標P3からよりゼロクロス点Zに近い座標P1に、局所的な最大値の現れる位置が座標P4からよりゼロクロス点Zに近い座標P1へと変化する。これは非線形処理手段112Aにおける、ゼロクロス点Z前後の画素の値を増幅するという非線形処理によって、高周波数成分が生成されたことを意味する。このように画素ごとに適応的に増幅率を変える、あるいは画素に応じて処理の内容を適宜変えることで、高周波数成分を生成することが可能になる。すなわち非線形処理手段112Aには、中間画像D111には含まれない高周波数成分、すわなち、図10(A)に示した高周波数成分側の領域RH2に相当する高周波数成分を生成する効果がある。
図13(F)は図13(E)に表した信号の高周波数成分を表した信号、すなわち高周波数成分画像生成手段112Bから出力される画像D112Bに相当する信号である。図13(F)に示すとおり、画像D112Bにおいてゼロクロス点Z近傍の局所的な最小値は座標P1に、最大値は座標P2に表れ、その様子は図11(C)に示した、ステップエッジをサンプリング間隔S1でサンプリングした信号から取り出した高周波数成分と一致する。これは非線形処理手段112Aにおいて生成された高周波数成分が高周波数成分画像生成手段112Bによって取り出され、画像D112Bとして出力されることを意味する。また、取り出された画像D112Bはサンプリング間隔S1に対応した周波数成分を含む信号であるといえる。言い換えると、高周波数成分画像生成手段112Bには非線形処理手段112Aで生成された高周波数成分のみを取り出す効果がある。
加算手段112Cでは中間画像D111と画像D112Bを加算し画像D112Cを生成する。先に述べたとおり中間画像D111は入力画像DINの持つ高周波数成分から折り返し成分を取り除いたものであり、図9(E)に示すように原画DORGのナイキスト周波数近傍の高周波数成分に対応している。図8(D)で説明したとおり、原画DORGのナイキスト周波数近傍のスペクトル強度は拡大処理手段12bによって弱められているので、中間画像D111を加算することで、拡大処理によって弱められたスペクトル強度を補うことができる。また、中間画像D111から、折り返し成分は取り除かれているので、オーバーシュートやジャギーあるいはリンギングといった偽の信号を強調することはない。一方、画像D112Bはサンプリング間隔S1に対応した高周波数成分である。したがって画像D112Cを加算することで原画DORGのナイキスト周波数以上の帯域の高周波数成分を与えることがでるので、画像の解像感を増すことができる。したがって中間画像D111と画像D112Bを加算した画像D112Cを入力画像DINに加算することで、折り返し成分を強調することなく高周波数成分を加算することが可能となり、画像の解像感を高めることが可能となる。
加算手段113では画像D112Cが中間画像D112として入力画像DINに加算される。したがって、折り返し成分に起因するオーバーシュートやジャギーあるいはリンギング等の増加を抑えつつ高周波数成分を加算し、画像の解像感を高めることができる。
さらに、本発明における映像記録装置では、第1の中間画像生成手段111および第2の中間画像生成手段112において、画像の水平方向に関する処理、垂直方向に関する処理を並列に行っているので、画像の水平方向のみ、あるいは垂直方向のみに限らず任意の方向に関して上記の効果を得ることができる。
また、本発明における映像記録装置では周波数空間で考えて原点からFnに渡る周波数帯域のうち、原画DORGのナイキスト周波数±Fn/2近傍(あるいは特定の周波数帯域)に入力画像DINが持っている成分をもとに、ナイキスト周波数±Fn近傍の高周波数成分に対応した画像D112Bを生成している。したがってなんらかの理由で、入力画像DINにおいて、ナイキスト周波数±Fn近傍の周波数成分が失われていたとしても、画像D112Bにより、ナイキスト周波数±Fn近傍の周波数成分を与えることが可能になる。
次に拡大処理手段12bにおける拡大率と、高周波数成分画像生成手段111A、低周波数成分画像生成手段111B、高周波数成分画像生成手段112Bにおいて抽出する信号帯域について、図15、図16を用いて説明する。
入力画像DINの画像の拡大率を大きくした場合には、周波数スペクトルは図14(A)における実線部に対しての破線部に示すような低い周波数成分側となる。上記に対応するためには、高周波数成分画像生成手段111Aの周波数応答は、図14(B)における実線部に対しての点線部に示すような低い周波数成分とし、低周波数成分画像生成手段111Bの周波数応答は、図14(C)における実線部に対しての点線部に示すような低い周波数成分とする。このとき、第1の中間画像生成手段111の周波数応答は、図14(D)に示された低周波数成分側の領域RL1の周波数成分については、第1の中間画像生成手段111内の高周波数成分画像生成手段111Aで弱められ、高周波数成分側の領域RH1の周波数成分については、第1の中間画像生成手段111内の低周波数成分画像生成手段111Bで弱められるため、図14(B)と(C)の点線部のような周波数応答とした場合は、第1の中間画像生成手段111の周波数応答は、図14(D)の領域RM1も低い周波数成分側にピークを持ったものとなる。この場合、中間画像D111の周波数スペクトルは図14(E)のように低い周波数成分側となる。
第2の中間画像生成手段112における入力信号である画像D111が前記のように低い周波数成分側となった場合、非線形処理画像D112Aの周波数スペクトルは図15(A)のようになる。高周波数成分画像生成手段112Bの周波数応答は、図15(B)における実線部に対しての点線部に示すような低い周波数成分とすると、画像D112Bの周波数スペクトルは図15(C)の高周波数成分側の領域RH2が低周波数成分側になる。その結果、拡大率を大きくした場合に入力画像DINの周波数スペクトルが低い周波数成分寄りとなることに対して、上記それぞれの画像生成手段において低い周波数成分を抽出するように変更することで対応できる。
よって、拡大率を大きくしたときに上記それぞれの画像生成手段において抽出する周波数成分を低周波数に変更できるなど、拡大率に応じた制御信号CTLを受けて、高周波数成分画像生成手段111A、低周波数成分画像生成手段111B、高周波数成分画像生成手段112Bにおいて抽出する周波数成分を変更することで、拡大率の大きさに合わせ強調処理を自動的に調整することが可能である。
なお、上記説明では、アクセス手段に入力する信号について映像の強調処理を行い、信号を記録し、再生信号であるアクセス手段からの出力信号について映像の強調処理を行う構成としていたが、図6のように、アクセス手段に入力する信号について映像の強調処理を行う構成とし、記録信号について強調処理を行う構成において上記と同様に拡大率によって強調処理の度合いを変更してもよい。
また、上記説明では、拡大率によって強調処理の度合いを変更するために、拡大処理手段12bからの制御信号CTLの値により、高周波数成分画像生成手段111Aや低周波数成分画像生成手段111などにおいて抽出する信号帯域設定を変更するにしていたが、信号処理手段11bにおける加算手段112Cの代わりに、図16に示すような加重加算手段112Dを備え、拡大処理手段12bからの制御信号CTLの値により、非線形処理手段出力信号D112Bに対して乗算する乗算値を、中間画像D111に対して乗算する乗算値に比べて小さくすることで強調処理の度合いを弱めるような構成としてもよい。
実施の形態2.
図17は本発明の実施の形態2による映像記録再生方法のフローを表す図であり、本発明の実施の形態2による画像処理方法は、圧縮処理ステップST1、メディアアクセスステップST2、伸張処理ステップST3、拡大処理ステップST4、信号処理ステップST5からなる。
信号処理ステップST5は図18に示すように、中間画像生成ステップST5A、中間画像生成ステップST5B、加算ステップST5Cからなり、中間画像生成ステップST5Aは高周波数成分画像生成ステップST5A1、低周波数成分画像生成ステップST5A2から、中間画像生成ステップST5Bは非線形処理ステップST5B1、高周波数成分画像生成ステップST5B2、加算ステップST5B3により実現される。
高周波数成分画像生成ステップST5A1は図19に示すように、水平方向高周波数成分通過ステップST5A1h、垂直方向高周波数成分通過ステップST5A1vを含む。
低周波数成分画像生成ステップST5A2は図20に示すように、水平方向低周波数成分通過ステップST5A2h、垂直方向低周波数成分通過ステップST5A2vを含む。
非線形処理ステップST5B1は図21に示すように、水平方向非線形処理ステップST5B1h、垂直方向非線形処理ステップST5B1vを含む。
高周波数成分画像生成ステップST5B2は図22に示すように、水平方向高周波数成分通過ステップST5B2h、垂直方向高周波数成分通過ステップST5B2vを含む。
水平方向非線形処理ステップST5B1hは図23に示すように、ゼロクロス判定ステップST5B11h、信号増幅ステップST5B12hからなり、垂直方向非線形処理ステップST5B1vは図24に示すように、ゼロクロス判定ステップST5B11v、信号増幅ステップST5B12vを含む。
まず、図18、図19ならびに図20のフローに従って中間画像生成ステップST5Aの動作について説明する。
高周波数成分画像生成ステップST5A1では、図示しない画像入力ステップにて入力された入力画像DINに対し、以下のような処理が行われる。まず、水平方向高周波数成分画像生成ステップST5A1hでは、水平方向のハイパスフィルタ処理によって、入力画像DINから水平方向の高周波数成分を取り出した画像D111Ahを生成する。垂直方向高周波数成分画像ステップST5A1vでは、垂直方向のハイパスフィルタ処理によって、入力画像DINから垂直方向の高周波数成分を取り出した画像D111Avを生成する。すなわち、高周波数成分画像生成ステップST5A1は、高周波数成分画像生成手段111Aと同様の処理を行い、入力画像DINから、画像D111Ahおよび画像D111Avからなる画像D111Aを生成する。この動作は高周波数成分画像生成手段111Aと同等である。
低周波数成分画像生成ステップST5A2では、画像D111Aに対し、以下のような処理が行われる。まず、水平方向低周波数成分画像生成ステップST5A2hでは、水平方向のローパスフィルタ処理によって、画像D111Ahから水平方向の低周波数成分を取り出した画像D111Bhを生成する。垂直方向低周波数成分画像生成ステップST5A2vでは、垂直方向のローパスフィルタ処理によって、画像D111Avから垂直方向の低周波数成分を取り出した画像D111Bvを生成する。すなわち、低周波数成分画像生成ステップST5A2は、低周波数成分画像生成手段111Bと同様の処理を行い、画像D111Aから、画像D111Bhおよび画像D111Bvからなる画像D111Bを生成する。この動作は低周波数成分画像生成手段111Bと同等である。
以上が中間画像生成ステップST5Aの動作であり、中間画像生成ステップST5Aでは画像D111Bhを画像D111hとし、画像D111Bvを画像D111vとし、画像D111hおよび画像D111vからなる中間画像D111を出力する。以上の動作は第1の中間画像生成手段111と同等である。
次に図21〜25のフローに従って中間画像処理ステップST5Bの動作について説明する。
まず、非線形処理ステップST5B2では中間画像D111に対し、以下のような処理を行う。
まず、水平方向非線形処理ステップST5B1hでは、図23に示すフローに従った処理で画像D111hから画像D112Ahを生成する。図23に示すフローでの処理は以下の通りである。まず、ゼロクロス判定ステップST5B11hでは、画像D111hにおける画素値の変化を水平方向に沿って確認する。そして画素値が正の値から負の値あるいは負の値から正の値へと変化する箇所をゼロクロス点として捉え、ゼロクロス点の左右に位置する画素を信号増幅ステップST5B12hに通知する。信号増幅ステップST5B12hでは画像D111hについて、ゼロクロス点の左右に位置すると通知された画素の画素値を増幅し、その画像を画像D112Ahとして出力する。すなわち、非線形処理ステップST5B1hは、画像D111hに対し、水平方向非線形処理手段112Ahと同様の処理を行い、画像D112Ahを生成する。
次に、垂直方向非線形処理ステップST5B1vでは、図24に示すフローに従った処理で画像D111vから画像D112Avを生成する。図24に示すフローでの処理は以下の通りである。まず、ゼロクロス判定ステップST5B11vでは、画像D111vにおける画素値の変化を垂直方向に沿って確認する。そして画素値が正の値から負の値あるいは負の値から正の値へと変化する箇所をゼロクロス点として捉え、ゼロクロス点の上下に位置する画素を信号増幅ステップST5B12vに通知する。信号増幅ステップST5B12vでは画像D111vについて、ゼロクロス点の上下に位置すると通知された画素の画素値を増幅し、その画像を画像D112Avとして出力する。すなわち、非線形処理ステップST5B1vは、画像D111vに対し、垂直方向非線形処理手段112Avと同様の処理を行い、画像D112Avを生成する。
以上が非線形処理ステップST5B1の動作であり、非線形処理ステップST5B1は画像D112Ahおよび画像D112Avからなる画像D112Aを生成する。その動作は非線形処理手段112Aと同等である。
次に、高周波数成分画像生成ステップST5B2では画像D112Aに対し、以下の様な処理を行う。
まず、水平方向高周波数成分画像生成ステップST5B2hでは、画像D112Ahに対し水平方向のハイパスフィルタ処理を行った画像D112Bhを生成する。すなわち、水平方向高周波数成分画像生成ステップST5B2hは、水平方向高周波数成分画像生成手段112Bhと同様の処理を行う。
次に、垂直方向高周波数成分画像生成ステップST5B2vでは、画像D112Avに対し垂直方向のハイパスフィルタ処理を行った画像D112Bvを生成する。すなわち、垂直方向高周波数成分画像生成ステップST5B2vは、垂直方向高周波数成分画像生成手段112Bvと同様の処理を行う。
以上が高周波数成分画像生成ステップST5B2の動作であり、高周波数成分画像生成ステップST5B2は画像D112Bhおよび画像D112Bvからなる画像D112Bを生成する。その動作は高周波数成分画像生成手段112Bと同等である。
加算ステップST5B3は画像D112Bと中間画像D111を加算して画像D112Cを生成する。この際、画像D112BとD111の加算は重み付け加算でもよい。この動作は加算手段112Cと同等である。
以上が中間画像処理ステップST5Bの動作であり、中間画像処理ステップST5Bは画像D112Cを中間画像D112として出力する。この動作は第2の中間画像生成手段112と同等である。
加算ステップST5Cは入力画像DINと中間画像D112を加算し、出力画像DOUTを生成する。そして出力画像DOUTが本発明における画像処理方法の最終出力画像として出力される。すなわち、加算ステップST5Cの動作は加算手段113の動作と同等である。
以上が本発明における映像記録再生方法の動作である。
本発明における映像記録再生方法の動作はその説明から明らかなように、本発明の実施の形態1における映像記録再生装置と同等である。したがって本発明における映像記録再生方法は、本発明の実施の形態1における映像記録再生装置と同様の効果を持つ。
上記の説明では、映像記録再生装置について説明したが同様な構成で映像記録をおこなわない映像再生装置において、同様の強調処理をおこなうようにしてもよい。
なお、文中において一枚の絵として処理するものを画像とし、時系列で流れるものを映像あるいは映像信号としている。