JP2017224906A - 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム - Google Patents
画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム Download PDFInfo
- Publication number
- JP2017224906A JP2017224906A JP2016117511A JP2016117511A JP2017224906A JP 2017224906 A JP2017224906 A JP 2017224906A JP 2016117511 A JP2016117511 A JP 2016117511A JP 2016117511 A JP2016117511 A JP 2016117511A JP 2017224906 A JP2017224906 A JP 2017224906A
- Authority
- JP
- Japan
- Prior art keywords
- image
- color blur
- color
- optical information
- decrease
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Adjustment Of Camera Lenses (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
Abstract
【課題】光学情報を利用し色にじみ判定を行うことで、画像ぶれを補正したときに生ずる色にじみを低減しつつ、良好な色にじみ補正処理を提供する。【解決手段】入力画像を取得する画像取得工程S1と、取得した画像の撮影情報を取得する撮影情報取得工程と、撮影時の防振群の位置情報を取得する位置情報取得工程と、撮影光学系の収差による色にじみ発生方向に関する光学情報を取得する光学情報取得工程と、撮影画像における各色画素値が単調増加或いは単調減少している領域を検出する単調増減領域検出工程S2と、単調増減領域検出工程S2により検出された領域の単調増減方向と光学情報の色にじみ発生方向から色にじみ領域を判定する色にじみ判定工程S4と、撮影画像の色にじみを補正する色にじみ補正工程S5を備える。色にじみ判定工程S4において撮影時の露光時間中の防振群の位置の変動に基づく光学情報を色にじみ判定に利用することを特徴とする。【選択図】図1
Description
本発明は、カラー画像に対して色にじみを軽減する画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラムに関する。
従来、カラー撮像が可能な撮像装置では、撮像素子に被写体の光学像を結像させる撮影光学系の色収差により、画像の明るい部分の周囲に本来存在しない色が色にじみとして生じる場合がある。
撮像装置による可視光カラー撮像では、撮影光学系の中心波長である緑から離れた部分で色にじみが起きやすく、青や赤或いは双方が混じった紫色のアーチファクトがにじみ状に生じ、色にじみやパープルフリンジなどと呼ばれる。撮像装置の撮影光学系の色収差は、異なる分散を持つレンズを複数組み合わせることにより、ある程度光学的に抑えることができる。
しかし、近年、撮像装置(デジタルカメラ)の小型化が進み、撮像素子に用いる撮像センサの高解像度化と共に撮影光学系の小型化に対する要求も高まり、色収差を撮影光学系のみで十分に抑えることは困難となってきている。
そこで、画像処理による上記アーチファクトの抑制が求められている。
色収差は横色収差(倍率色収差)と縦色収差(軸上色収差)に大別される。横色収差は図16に示すように結像位置が波長により像面に沿う方向にずれる現象である。また、縦色収差は図17に示すように結像位置が波長により光軸に沿う方向にずれる現象である。横色収差に対しては、原色系のデジタル撮像系であれば、R(赤)、G(緑)、B(青)の各色プレーンに対し異なる歪曲を加える幾何変換により補正することができる(特許文献1)。
一方、縦色収差は、例えば可視光域の中心波長を担うG(緑)プレーンで合焦した画像においては、可視光域端部となるR(赤)プレーンやB(青)プレーンでは被写体に焦点が合わず不鮮明な画像(ピンボケ画像)となる。これは横色収差のような幾何変換では補正できない。色にじみは主に白とび(予め設定した信号の飽和領域)周辺に生じる特性を利用して、G(緑)プレーンの飽和している領域を探索し、その周辺の領域の画素を積分して補正量を算出し補正する方法が提案されている(特許文献2)。
一方、撮像装置で撮像した画像の色にじみは白とび周辺で大きく発生するが、白とびしていない領域にも観察者にとって違和感のある色にじみは生じる。撮影したカラー画像における色プレーンの信号レベルが単調増加或いは単調減少している領域を色にじみ発生領域と判定し、色にじみを除去する方法が提案されている(特許文献3)。
特許文献2に記載されているような白とび領域を探索しその周辺の領域の色にじみを補正する処理方法では、白とびしていない領域にも観察者にとって違和感のある色にじみは生じるため、色にじみの補正効果は不十分である。
特許文献3に記載されているような撮影したカラー画像における色プレーンの信号レベルが単調増加或いは単調減少している領域を色にじみ発生領域と判定し、色にじみを除去する処理方法は、白とびしていない領域の色にじみも補正が可能となる。これにより、高品質な撮影画像を得ることができる。
しかしながら、被写体の色が、撮影光学系の色収差と同系色の場合、単調増減判定のみで色にじみを判定すると、被写体の色を色にじみとして誤判定してしまう場合がある。色にじみは撮影光学系の収差により発生するため、コマ収差といった非対称な収差を持つ撮影光学系では、被写体に対して色にじみが発生する方向や発生しない方向が存在する。被写体の色が色にじみと同系色の場合、本来は色にじみが発生しない方向でも被写体の色を色にじみとして誤判定し、被写体本来の色を除去してしまうという問題が発生する。
また、従来より画像ぶれを補正する技術として、撮像装置の振動を検知し防振レンズ群や撮像素子を光軸に対して垂直方向に移動させることで、手ぶれ等による影響を緩和する防振システムが存在する。こうした光学防振システムあるいは撮像素子防振システムは、画像のぶれを低減できる一方で、防振を行わない状態と比べて防振レンズ群や撮像素子の偏芯に伴う偏芯収差等の影響によって結像性能が劣化してしまうという課題がある。
こうした光学防振システムあるいは撮像素子防振システムは、画像のぶれを低減できる一方で、防振を行わない状態と比べて防振レンズ群や撮像素子の偏芯による結像性能の低下、特にカラー画像の場合は像の色にじみが増大するという課題がある。
本発明は、画像ぶれを補正したときに生ずる色にじみを低減しつつ、良好な色にじみ補正処理が可能な画像処理方法、画像処理装置、撮像装置、および、画像処理プログラムを提供することを目的とする。
上記の目的を達成するために、本発明に係る画像処理方法は、
カラーの撮影画像から撮影光学系の色収差を補正する画像処理方法であって、
入力画像を取得する画像取得工程と、
前記画像取得工程において取得した画像の撮影情報を取得する撮影情報取得工程と、
撮影時の防振群の位置情報を取得する位置情報取得工程と、
撮影光学系の収差による色にじみ発生方向に関する光学情報を取得する光学情報取得工程と、
前記撮影画像における各色画素値が単調増加或いは単調減少している領域を検出する単調増減領域検出工程と、
前記単調増減領域検出工程により検出された領域の単調増減方向と前記光学情報の色にじみ発生方向から色にじみ領域を判定する色にじみ判定工程と、
前記撮影画像の色にじみを補正する色にじみ補正工程を備え、
前記色にじみ判定工程において撮影時の露光時間中の防振群の位置の変動に基づく光学情報を色にじみ判定に利用することを特徴とする。
カラーの撮影画像から撮影光学系の色収差を補正する画像処理方法であって、
入力画像を取得する画像取得工程と、
前記画像取得工程において取得した画像の撮影情報を取得する撮影情報取得工程と、
撮影時の防振群の位置情報を取得する位置情報取得工程と、
撮影光学系の収差による色にじみ発生方向に関する光学情報を取得する光学情報取得工程と、
前記撮影画像における各色画素値が単調増加或いは単調減少している領域を検出する単調増減領域検出工程と、
前記単調増減領域検出工程により検出された領域の単調増減方向と前記光学情報の色にじみ発生方向から色にじみ領域を判定する色にじみ判定工程と、
前記撮影画像の色にじみを補正する色にじみ補正工程を備え、
前記色にじみ判定工程において撮影時の露光時間中の防振群の位置の変動に基づく光学情報を色にじみ判定に利用することを特徴とする。
本発明によれば、カラー画像の色にじみ補正処理の際、各色信号レベルの単調増加或いは単調減少判定に加えて結像光学系の色にじみ発生方向の情報を用いることで判定精度を向上させることができる。本発明の手法を用いることにより単調増減判定と色にじみ発生方向の情報を利用した判定の2つの判定結果から補正量を決めることで、本来色にじみが発生する方向のみ補正するため、被写体本来の色を除去してしまうという課題を解決することができる。さらに、本発明は防振レンズ群あるいは撮像素子の位置に基づいた色にじみ発生方向に関する光学情報を利用し色にじみ判定を行うことで、画像ぶれを補正したときに生ずる色にじみを低減しつつ、良好な色にじみ補正処理を実現する画像処理方法を提供することができる。
以下、本発明の実施の形態を図面に基づいて説明する。
まず、図1を参照して、本発明の画像処理方法について説明する。ここで説明される画像処理方法は、後述の各実施例において適宜用いられる。
図1は本実施例における画像処理方法(画像処理プログラム)のフローチャートである。
図1のフローチャートは、後述の画像処理装置や画像処理システムの指令に基づいて実行される。
まずステップS1において、撮影画像を入力画像として取得する。入力画像は、撮影光学系を介して撮像素子で受光することで得られたデジタル画像(撮影画像)であり、レンズと各種の光学フィルタ類を含む撮影光学系の収差により劣化している。撮影光学系は、レンズだけでなく曲率を有するミラー(反射面)を用いて構成することもできる。
入力画像の色成分は、例えばRGB色成分の情報を有する。色成分としては、これ以外にもLCHで表現される明度、色相、彩度や、YCbCrで表現される輝度、色差信号など一般に用いられている色空間を選択して用いることができる。その他の色空間として、XYZ、Lab、Yuv、JChを用いることが可能である。更に、色温度を用いてもよい。
撮影画像は、撮像装置と画像処理装置を有線または無線で接続して取得することができる。また撮影画像は、記憶媒体を介して取得することもできる。
次に単調増減検出工程(ステップS2)は、カラー画像を構成する複数の色プレーンのうち何れかの色プレーンの画素値が単調増加或いは単調減少している領域を検出し、色にじみ発生領域と仮判定する。単調増減領域検出工程で色にじみの領域を判定する方法としてはいくつかの方法が考えられるが、ここでは一定の画素区間の色にじみの画素値の変化特性に基づいて判定を行う。
色にじみは結像位置が波長により光軸に沿う方向にずれることで発生するため、例えば青色のにじみの場合は青色プレーン(以下Bプレーン)の焦点が合わない(ピンボケしている)ことになる。ピンボケによる色にじみは一定の画素区間に渡って存在し、その際の色にじみの画素値変化は画像のハイライト部からシャドウ部にかけて緩やかに減少していく特性を有する。従って、一定の画素区間の色にじみの画素値変化が単調増加或いは単調減少の特性を有する場合では、色にじみが発生している可能性があるため色にじみの発生領域として仮判定する。
実際には、撮影光学系がコマ収差といった非対称な収差を有する場合、撮影光学系によって発生する色にじみは被写体に対して発生する方向と発生しない方向が存在する。よって、単調増減のみから色にじみを判定すると、被写体が色にじみと同系色の場合、被写体の色を色にじみと誤判定する場合が発生するため、単調増減検出のみでは色にじみが発生している領域を正しく判定できない。
単調増加或いは単調減少の検出する領域は、カラー画像の注目画素を中心とした水平方向或いは垂直方向或いは斜め方向の画素区間、注目画素を端の点とした水平方向或いは垂直方向或いは斜め方向の画素区間、の何れかを含む。
単調増減検出は、まず、色プレーンの画素値傾斜を計算する。入力画像が、例えば、Gプレーン、Bプレーン、Rプレーンの3色の色プレーンで構成されているとき、Bプレーンを色にじみ除去対象とし、基準プレーンとしてGプレーンを用いる。Bプレーン、Gプレーンに対するそれぞれの輝度傾斜Blea、Gleaを、下式で示すように計算する。
ここで、G(x+1,y)、B(x+1,y)は、Gプレーン、Bプレーンにおける注目画素の右隣の画素値である。G(x−1,y)、B(x−1,y)は、Gプレーン、Bプレーンにおける注目画素の左隣の画素値である。G(x,y+1)、B(x,y+1)は、Gプレーン、Bプレーンにおける注目画素の下隣の画素値である。G(x,y−1)、B(x,y−1)は、Gプレーン、Bプレーンにおける注目画素の上隣の画素値である。ここでは、3色の色プレーンで説明を行うが、画像を構成する色プレーン数により、任意の色プレーンで処理を行うことができる。
次に、単調増減検出工程の色にじみ発生領域の判定方法について図2のフローチャート、図3、図4を用いて説明する。
図2において、まず、後述の画像処理装置は、ISO感度が高いかどうかを判定する(ステップS1520)。ISO感度が高い場合は後述のステップS1521に移行し、ISO感度が高くない場合はステップS1522に移行する。
入力画像の注目画素を中心とした時の縦・横・斜めの画素区間に対して入力信号の画素値変化を解析する(ステップS1522)。
更に、上記の画素区間の入力信号の画素値変化が単調増減の特性を持つかどうかを判定する(ステップS1523)。
判定の結果、上記の画素区間の入力信号の画素値変化が単調増減の特性を有さない場合は、注目画素を端の点とした時の縦・横・斜めの画素区間に対して入力信号の画素値変化を解析する(ステップS1524)。
更に、上記の画素区間の入力信号の画素値変化が単調増減の特性を持つかどうかを判定する(ステップS1525)。
更に、上記の画素区間の入力信号の画素値変化が単調増減の特性を持つかどうかを判定する(ステップS1525)。
図3に、単調増減判定対象の画素区間が単調増減特性を持つ例を示す。図4に、単調増減判定対象の画素区間が単調増減特性を持たない例を示す。図3、図4に示すような画素値変化を持つ入力信号に対して単調増減判定を行う。図3、図4にそれぞれ示す白い四角が注目画素である。
図3のように入力信号の画素値変化が単調増減の特性を持つ画像に対しては、単調増減判定を行う画素区間内も単調増減の特性を持つため、ステップS1522の解析の結果、単調増減の特性を有すると判定する(ステップS1523)。
他方、図4のような入力信号の画素値変化の特性を持つ画像に対しては、単調増減の特性は有さないと判定する(ステップS1523)。
以上の判定を経て、上記の画素区間の入力信号の画素値変化が単調増減の特性(単調増加の特性或いは単調減少の特性)を有していれば、単調増減フラグを立てる(ステップS1527)。
他方、上記の画素区間の入力信号の画素値変化が単調増減の特性(単調増加の特性或いは単調減少の特性)を有していなければ、単調増減フラグを立てない(ステップS1526)。
上述した単調増減判定をBプレーンの各画素に対して適用する。その結果、各画素において単調増減フラグが立っていれば「1」、単調増減フラグが立っていなければ「0」をそれぞれ対応させ、単調増減判定結果プレーンとして生成して保持し、後述の色にじみ判定ステップS4、ステップS8で利用する。単調増減判定結果プレーンの利用方法の詳細については後述する。
次に、注目画素に対する単調増減判定を行う画素区間の設定方法を図5、図6を用いて説明する。
図5(a)〜(d)は注目画素を中心とした単調増減判定用の画素区間を示す。図6(a)〜(h)は注目画素を端の点とした単調増減判定用の画素区間を示す。
注目画素を中心とした画素区間の設定方法と注目画素を端の点とした画素区間の設定方法のうち、注目画素を中心とした画素区間の設定方法としては、図5(a)、(b)に示すように注目画素を中心として水平/垂直方向に設定する方法が考えられる。
また、注目画素を中心とした画素区間の設定方法としては、図5(c)、(d)に示すように注目画素を中心として斜め方向に設定する方法が考えられる。即ち、斜め方向についても水平/垂直方向と同程度の距離の画素区間を設定すれば等方性を持たせることができる。この場合、斜め方向の角度は図示のように45°の設定に限定されるものではなく、任意の角度を設定してもよい。その際の画素区間の距離dは以下の式で算出する。
ここで、xは水平方向を示し、θは水平からの角度を示す。
一方、画像におけるハイライト部周辺の色にじみやシャドウ部周辺の色にじみは、各々、飽和やノイズの影響を受けることで、色にじみが存在するにも関わらず、判定対象の画素区間内では単調増減の特性を持たず正しく判定できない場合がある。その場合は、図6に示すように注目画素を端の点として画素区間を設定する方法が効果的である。
以上のような方法で単調増減判定を行い、図5、図6に示す画素区間のいずれか1つでも単調増減の特性を持つ画素区間が存在すれば、注目画素は単調増減の特性を持つ画素として判定する。
本実施の形態では、単調増減判定を行う対象として入力信号の画素値を利用しているが、輝度傾斜を利用しても構わない。その場合は、一定の画素区間において輝度傾斜の変化が1回だけ反転する特性を持つ場合が色にじみであると判定することとなる。画素区間の画素数の適正値は、撮像装置のある撮影条件にて発生する色にじみのうち、最小の色にじみのにじみ幅に合わせるのが効果的である。
色にじみのにじみ幅は、撮像装置の撮影条件(絞り値、焦点距離、フォーカシング精度、画像面内におけるフォーカス位置、撮像素子上の座標等)により様々である。そのため、画素区間の画素数の適正値を、各種の撮影条件により発生する様々な色にじみの最小幅の色にじみに合わせることで、最小幅の色にじみを検出することが可能となる。最大幅の色にじみに関しては、最小幅の色にじみ用に合わせた画素区間を利用しても検出は可能である。
以上のように単調増減判定を行うことで、検出したい色にじみを抽出することが可能となる。しかし、高いISO感度などの撮影条件によっては入力信号にノイズが乗りS/N比が低下し、その結果、色にじみが単調増減の特性を持たなくなることが考えられる。その際は、入力信号に対してデジタルフィルタによるフィルタリング処理を施す(以下「かける」)ことが有効である(ステップS1521)。本実施の形態ではデジタルフィルタをローパスフィルタとした場合を例にとる。
入力信号にローパスフィルタをかける方法としては幾つかの方法が考えられるが、例えば、注目画素の重み係数を隣接する画素の2倍の係数とする[1 2 1]のローパスフィルタをかける例を示す。図7に示すような画像内の3×3画素のある領域においてpを注目画素としたとき、まず、[1 2 1]のローパスフィルタを水平方向にかけると、注目画素は下式で表される。
隣接する画素も同様に計算すると図8に示すようになる。次に、[1 2 1]のローパスフィルタを垂直方向にかけると、注目画素は下式で表される。
ローパスフィルタをかけたときの入力信号の変化の一例を図9に示す。図9において横軸は画像上の断面(注目画素からの画素区間)であり、縦軸はプレーンの画素値である。
図示の実線はローパスフィルタをかけない場合、細かい破線は[1 2 1]のローパスフィルタをかけた場合、粗い破線は[1 4 6 4 1] のローパスフィルタをかけた場合を示す。ここで、 [1 4 6 4 1]は、注目画素と隣接する画素と更にもう1画素分離れた画素にも重み係数をかけてローパスフィルタをかけることを意味する。
このようにして、ローパスフィルタをかけて入力信号を滑らかにすることで、色にじみが本来持つ単調増減の特性を際立たせることが可能となる。尚、本実施の形態ではローパスフィルタを水平→垂直の順番でかけたが、これに限定されるものではない。ローパスフィルタを垂直→水平の逆の順番でかけても構わない。また、2次元のローパスフィルタ係数を算出してローパスフィルタを水平・垂直同時にかけても構わない。
図1に戻り、ステップS3において防振システムが有効であるか無効であるかを判別する。ここで、防振システムが無効であった場合、つまり、防振レンズ群を移動させない場合は防振を考慮した色にじみ補正処理を行う必要がなく、以下に説明するステップS4からステップS6の処理を実施し、色にじみを低減した画像を出力する。一方、防振システムが有効であった場合は防振レンズ群を移動に伴う色にじみの補正処理を実行する必要がある。この場合は図1に示すように、ステップS7で防振レンズ群の位置情報を取得し、取得した位置情報に応じた光学情報を用いてステップS8で色にじみ判定を実行しステップS5の色にじみ補正処理へと移行する。
防振システムが有効である場合と無効である場合の処理の違いは撮影時の露光時間中の防振レンズ群の位置変化を考慮するかどうかという部分であり、有効である場合は位置の変化を考慮した光学情報を用いてステップS8で色にじみの判定を行う。逆に無効である場合は光学系内において露光時間中、防振レンズ群の位置の変化がなく光学性能も変化しないため、撮影時における色にじみに関する光学情報を用いて色にじみ判定を実行する。まずは防振システムが無効である場合における一連の処理について説明する。
ステップS4の色にじみ判定工程では、単調増減検出手段で色にじみ発生領域と仮判定された領域に対し、入力画像を撮影した撮影光学系の色にじみ発生方向の光学情報を用いて、色にじみ発生領域であるのかを判定する。単調増減検出のみから、色にじみ領域を判定した場合の弊害について図10、図11を用いて説明する。
デジタルカメラ等の撮像装置により被写体を撮像して得られた画像には、撮像光学系の球面収差、コマ収差、像面湾曲、非点収差等に起因する画像劣化成分としてのぼけ成分が含まれる。このようなぼけ成分は、無収差で回折の影響もない場合に被写体の一点から出た光束が撮像面上で再度一点に集まるべきものが、ある広がりをもって像を結ぶことで発生する。
ここにいうぼけ成分は、光学的には、点像分布関数(Point Spread Function:PSF)により表され、ピントのずれによるぼけとは異なる。また、カラー画像での色にじみも、光学系の軸上色収差、色の球面収差、色のコマ収差が原因であるものに関しては、光の波長ごとのぼけ方の相違と言うことができる。さらに、横方向の色ずれも、光学系の倍率色収差が原因であるものに関しては、光の波長ごとの撮像倍率の相違による位置ずれ又は位相ずれと言うことができる。
点像分布関数(PSF)をフーリエ変換して得られる光学伝達関数(Optical Transfer Function:OTF)は、収差の周波数成分情報であり、複素数で表される。光学伝達関数(OTF)の絶対値、すなわち振幅成分を、MTF(Modulation Transfer Function)といい、位相成分をPTF(Phase Transfer Function)という。MTFおよびPTFはそれぞれ、収差による画像劣化の振幅成分および位相成分の周波数特性である。ここでは、位相成分を位相角として以下の式で表す。Re(OTF)およびIm(OTF)はそれぞれ、OTFの実部および虚部を表す。
PTF=tan−1(Im(OTF)/Re(OTF))
このように、光学系の光学伝達関数(OTF)は、画像の振幅成分と位相成分に対して劣化を与与えるため、劣化画像は被写体の各点がコマ収差のように非対称にぼけた状態になる。
PTF=tan−1(Im(OTF)/Re(OTF))
このように、光学系の光学伝達関数(OTF)は、画像の振幅成分と位相成分に対して劣化を与与えるため、劣化画像は被写体の各点がコマ収差のように非対称にぼけた状態になる。
図10は被写体の各点が球面収差のような対称にぼける光学特性の状態で撮影された画像に対し、単調増減検出を行う場合を説明した図である。図10(a)は被写体の画素値断面、(b)は撮光学系のPSF断面、(c)は撮影光学系で撮影された被写体の画素値断面を表している。
図10(b)に示すように、撮影光学系が対称な収差特性を持ちPSFが対称である場合、被写体の両側のエッジ断面は、両方とも劣化した画像として図10(c)の実線のように撮影される。比較のため被写体の輝度断面図10(a)を点線で表示している。図10(c)の白い四角を注目画素として、単調増減判定を行うとすると、両エッジとも単調増減領域として判定される。また、色のにじみも実際に発生するため、色にじみ発生領域の判定としては正しく判定される。
図11は被写体の各点がコマ収差のような非対称にぼける光学特性の状態で撮影された画像に対し、単調増減検出を行う場合を説明した図である。図11(a)は被写体の画素値断面、(b)は結像光学系のPSF断面、(c)は撮影光学で撮影された被写体の画素断面を表している。
図11(b)に示すように、撮影光学系が非対称な収差特性を持ちPSFが非対称である場合、特に片側のエッジのみ大きく劣化する光学特性では、被写体のエッジ断面は、片側のみ大きく劣化した画像として図11(c)の実線のように撮影される。このような撮影画像に対し単調増減検出を行うと、両エッジとも単調増減領域として判定されるが、実際に撮影光学系により発生する色にじみは片側のみであるため、被写体本来の色を色にじみとして判定してしまう弊害が発生する。単調増減のみで色にじみ補正を行うと被写体本来の色を除去することになり、不自然な画像となり問題となる。
そこで、本件では、図10(b)や図11(b)のような撮影光学系の色にじみ発生方向に関する光学情報を有しておき、単調増減検出の単調増減方向と色にじみ発生方向が一致した場合に、色にじみ発生領域と判定を行っている。
光学情報について図12で説明する。図には、撮影光学系のPSF断面と光学情報を示している。図12(a)は図10(b)に示す撮影光学系のPSFが対称な場合の光学情報である。また、図12(b)は図11(b)に示す撮影光学系のPSFは非対称な場合の光学情報である。例えば、撮影光学系の収差により色にじみが発生する方向には1を持ち、発生しない場合は0を持つ。図12(a)は色にじみが対称に両側で発生するため光学情報は両側とも1の値を持つ。図12(b)は色にじみが非対称に発生しており、左側エッジでは色にじみが発生しないため0、右側エッジでは色にじみが発生するため1の値を持つ。
図13(a)に示すように、単調増減検出により、例えば、単調減少が検出された場合、その単調減少方向の光学情報を参照し、1を有していれば色にじみ補正領域と判定する。また、図13(b)で示すように単調減少方向の光学情報を参照し、0を有していれば被写体の色であると判定する。このように、撮影光学系の収差として色収差が発生する方向と、発生しない方向の情報を有することで、被写体の色と色にじみを正しく判定することができるため、色にじみ補正の精度を向上させることが可能となる。なお、色にじみの発生方向を1、発生しない方向を0としたが、発生の方向がわかればよく、0と1である必要性はない。撮影光学系の収差は、像高により変化するため、複数の像高での光学情報を有しておくことで、精度良く補正を行うことが可能となる。補正値を持たない像高では、近傍の補正値より補間生成しても良い。また、撮影光学系の収差は、撮影条件(焦点距離、物体距離、Fno)でも変化するため、撮影条件ごとに光学補正情報を持つことで、精度良く補正を行うことが可能となる。
また、図10、図11では光学情報を1次元の情報として説明を行ったが、撮影画像が、2次元配列のデータの場合は、光学情報も2次元のデータとして保持しても良い。
図14は光学情報が2次元の場合を説明した図である。
図14では、光学情報を画面上下左右、斜め45度、135度の8方向のデータとして保持する場合の例を示す。図14では、撮影光学系の色のコマ収差が画面上方向に発生しており、その発生方向に1の光学情報を保持する。色にじみの発生しない方向には0を保持する。単調増減検出を前記8方向で行い、単調減少が検出された方向に光学情報の1が保持されていた場合に色にじみと判定される。単調減少が検出されても、検出された方向に光学情報の1が保持されていなければ被写体の色と判定を行う。
以上のように、撮影光学系の色にじみが発生する方向に関する光学情報を保持しておき、単調増減検出時に、検出方向と光学情報を参照することにより精度良く色にじみ領域を判定することが可能となる。
なお、単調増減判定を単調減少方向で説明したが、単調増加方向を使用して、色にじみ判定を行っても良い。また、単調増減判定と光学情報の補正値を8方向で説明したが、8方向に限ったものではない。精度向上のため、検出方向を増加して良い。または、光学情報に関するデータ量の削減のため、検出方向を減少させても良い。
さらには、光学情報に、色にじみ発生方向に加え、色にじみの強度情報を保持することでさらに精度よく補正を行うことが可能となる。図14(b)に示すように、一般に撮影光学系の収差による色にじみの発生量は方向により異なる。そこで、図14(d)に示すように、色にじみの発生する方向に色にじみの発生量に関する色にじみ強度の情報を追加して良い。
図15を用いて、色にじみ強度情報を用いた場合の色にじみ判定について説明する。
図15(a)は光学情報に色にじみ発生方向のみを持つ場合の例である。
図の四角で囲まれた注目画素1について色にじみ発生領域の判定を行う場合、まず、注目画素を中心に上下左右、斜め45度、斜め135度の8方向について単調減少判定を行う。図15(a)の場合、高輝度被写体が注目画素の下側に位置するため、注目画素1の単調減少が検出される方向は、上と右上、左上の3箇所が判定される。その3方向の光学情報は色にじみ発生方向を示す「1」であるため、この注目画素1は色にじみ発生領域と判定される。また、同様に注目画素2についても検出を行うと、単調減少方向は上、右上、右、右下が判定される。
しかしながら、光学情報の色にじみ発生方向は、右下に発生しない方向を表す「0」を保持しているため、単調減少と光学情報より、最終的な注目画素2の色にじみ検出方向は、上、右上、右の3方向となる。注目画素1、注目画素2共に色にじみ発生が素と判定されるが図14(b)に示すように撮影光学系の色にじみ発生量は方向により異なるため、注目画素1と注目画素2では、色にじみの発生量が異なっている。光学情報に強度情報を持たない場合には、色にじみ量を判定できないため、このあとの色にじみ補正工程において補正の強さを変えて補正を行うことができない。よって、注目画素1にあわせて色にじみ補正を強くすると注目画素2では過補正となり、注目画素2にあわせて色にじみ補正を弱くすると注目画素1では、補正不足となってしまう。
そこで、図14(d)のように、光学情報に色にじみの発生方向と、その方向の色にじみ強度情報を追加すると良い。
図15(a)、(b)は光学情報に色にじみ強度情報も付加した場合の色にじみ領域の判定方法を示したものである。
図15(b)の注目画素3では、単調減少判定にて上、左上、右上の3方向が判定されるが、光学情報の色にじみ強度もそれぞれ2、3、2と強い色にじみ強度と検出することができる。図15(c)の注目画素4においては、上、右上、左下の3方向が判定されるが、その方向の光学情報の色にじみ強度はそれぞれ3、2、1と注目画素3に対して弱い色にじみ強度が検出される。よって、例えば、検出された方向の色にじみ強度の平均値により、この後の色にじみ補正処理の補正の強さを変えるといった処理を行うことで、色にじみの発生量が方向で異なる場合でもより正確に補正が可能となる。注目画素3では色にじみ強度の平均値が約2.3であり、また、注目画素4では色にじみ強度の平均値が2.0となり、この値を使って補正の強さを変えることが可能となる。色にじみ強度の平均値を使用する説明を行ったが、これに限ったものではなく、例えば色にじみ方向と検出された複数の方向の重心方向の色にじみ強度値を使用して色にじみ補正係数を変えても良い。注目画素3では重心方向が上となるため色にじみ強度は3、注目画素4では重心方向が右上となるため色にじみ強度は2となり、この値を使って補正の強さを変えることが可能となる。重心方向を採用する場合、例えば上、右上、右、右下といった4方向の重心を計算すると、重心方向に最も近い方向は右上、右の2方向となる場合がある。この場合は、2方向の平均値、2方向のうち大きい方の色にじみ強度、または、2方向のうち小さいほうの色にじみ強度を用いるなどが考えられる。平均値、重心方向で説明したが、光学情報の色にじみ強度情報を任意に演算して色にじみ補正時の補正の強さを変えてよい。
図27を用いて、光学情報の算出方法について説明する。
図27は光学情報として保持する任意の方向での、撮影光学系のGプレーンのPSF断面(実線)とBプレーンのPSF断面(点線)を示している。
Gプレーンを基準プレーンとし、Bプレーンの色にじみに関して光学情報を算出する方法を説明する。
撮影光学系の色収差により、Gプレーン、Bプレーンはそれぞれの波長帯での収差により、異なったPSF形状となる。また、倍率色収差により、Gプレーン、Bプレーンはそれぞれ、ずれた位置に結像するため、それぞれのPSFのピーク位置も図27(a)に示すように、ずれた位置で算出される。倍率色収差による各色プレーンのずれは、従来から行われている、各色プレーンに対し異なる歪曲を加える幾何学変換により補正することができる。そのため、図27(b)に示すように、Gプレーン、BプレーンのそれぞれのPSFのピーク位置を一致させて、図の斜線部にあたる基準であるGプレーンとBプレーンのPSF面積差を色にじみ強度として採用する方法が考えられる。図27(b)では、ピークよりも左側エッジの面積差よりも右側エッジの面積差が大きいため、右側エッジで大きく色にじみが発生することがわかる。この面積が小さければ色にじみは目立たないので、面積が小さい場合を色にじみが発生しない方向とすることができる。また、面積比より、色にじみ強度を決定することが可能となる。以上により、光学情報の色にじみが発生する方向や色にじみ強度を算出できるが、算出方法としてPSFの面積差を使用する方法に限ったものではない。例えば、図27(b)において、GプレーンとBプレーンのエッジの傾き差を使用する方法が考えられる。色にじみが発生する場合、エッジの傾きは緩くなる傾向にあるため、傾き差等を使うことで、光学情報を決定するなどしても良い。
このように、光学情報の色にじみ発生方向と、色にじみ強度情報を算出することができる。
尚、光学情報を算出する際には、撮像光学系の設計値を元に生成してもよいし、実際に製造したレンズを計測することでPSF等を求め光学情報を生成してもよい。
図1に戻り、色にじみ補正工程(ステップS5)で、ステップ4にて色にじみ領域と判定された領域に対して色にじみを補正する処理を実行し、ステップS6で色にじみが補正された画像を出力する。
図18に、青色にじみの典型的な画素値変化を示す。
図18において横軸は画像上の断面であり、縦軸はBプレーン及びGプレーンの画素値である。図18では左端に飽和輝度を超える高輝度被写体が存在するとする。そして、本来明るくない光源周囲も、収差やフレアにより光源からにじんだ光により、画素値変化の裾が指数関数的に拡がる。
基準プレーンであるGプレーンであってもにじみは無いわけではなく、ある程度の拡がりが存在するが、それは色にじみ除去対象のBプレーンに比べると小さい。また、撮像素子は一定の飽和レベル以上の画素値を測定することはできない。このような画素値変化において、色にじみ除去対象のBプレーンの強度が基準プレーンであるGプレーンの強度を上回ると青色にじみとなる。
本実施の形態では、色にじみ除去対象のBプレーンの画素値変化の傾きによりBプレーンのにじみ量を推定する。そこで、Bプレーンの輝度傾斜Bleaの絶対値に係数k1を乗じて第1の推定にじみ量E1とする。
E1=k1|Rlea|
ここで、k1は正値である。ただし、Bプレーンが飽和している領域A1では画素値傾斜は0になってしまい飽和前の輝度傾斜が得られない。
ここで、k1は正値である。ただし、Bプレーンが飽和している領域A1では画素値傾斜は0になってしまい飽和前の輝度傾斜が得られない。
そこで、Bプレーンが飽和している領域A1に対する推定にじみ量E2をGプレーンの画素値変化の輝度傾斜Gleaにより推定する。
E2=k2|Glea|
ここで、k2は正値である。
ここで、k2は正値である。
次に、Bプレーンの画素値に対する非線形変換を行い、飽和度Sを生成する。この非線形変換はBプレーンが飽和しているかどうかを示すものであり、Bプレーンの強度が飽和している領域では飽和度Sが1となり、Bプレーンの強度が小さい領域では飽和度Sは0となる。飽和度Sは0、1の2値でもよいが、図19に示すように飽和度Sは0〜1にかけて連続的に変化する値としてもよい。
そして、上記の生成した飽和度Sにより、上記のように算出した推定にじみ量E1または推定にじみ量E2を選択する。即ち、飽和度Sが0、1の2値であれば新たな推定にじみ量Eを、
E=E1 (S=0の場合)
E=E2 (S=1の場合)
とする。また、飽和度Sが0〜1にかけて連続的に変化する値であれば、新たな推定にじみ量Eを、
E=(1−S)E1+SE2
とする。
E=E1 (S=0の場合)
E=E2 (S=1の場合)
とする。また、飽和度Sが0〜1にかけて連続的に変化する値であれば、新たな推定にじみ量Eを、
E=(1−S)E1+SE2
とする。
次に、上記の推定にじみ量Eを修正し、実際に除去する量E’を決める。推定にじみ量(除去量)は一定のモデルに沿ったものであり、実際のにじみ量とは必ずしも一致しない。
例えば同じBプレーンに検出される光であっても波長450nmの光と波長400nmの光ではにじみ方が変化するが、推定ステップS153ではこれを考慮していない。推定にじみ量(除去量)が過小である場合は、青色にじみの除去後も若干の青みが残る。一方、推定にじみ量(除去量)が過大である場合は、灰色の背景に対してBプレーンを減らし過ぎ、黄緑色になる場合がある。
特に後者(黄緑色になる場合)は不自然で観察者に大きな違和感を与える。そこで、過除去抑制ステップS154では、一定の色相範囲内でのみ、にじみ除去が作用するよう制限する。このため、まず、色にじみ除去部140は、画素の色度を計算する。R、G、Bの各プレーンの強度に対し、
とする。
上記のaを横軸としbを縦軸とする色度座標ab面を図20に示す。図示のように青色は色度座標ab面の斜線で示す第4象限にある(尚、赤、黄、紫は第1象限、緑、白は第2象限、青緑は第3象限にある)。Bプレーンの強度から推定にじみ量Eを除去すると、B=B−Eとなり、色度座標ab面上では点線矢印のように左上方向へ移動する。矢印の始点が推定にじみ量Eの除去前の色度であり、終点が推定にじみ量Eの除去後の色度である。このことから、作用する色相範囲をa>0かつb<0に制限すると、
B>0.22R+0.68G かつ B>−1.84R+3.30G
となる。
B>0.22R+0.68G かつ B>−1.84R+3.30G
となる。
このため、上記式の条件を満たさない画素に対し、実際に除去する除去量E’=0とし、色にじみ除去対象から外す。これにより、上記式の条件を満たさない画素は、画素値が影響を受けることがない。図20では斜線で示す第4象限の領域のみが除去対象となる。
更に、上記式の条件を満たす画素に対しても、除去量E’を、
E’=min(E,B−(0.22R+0.68G),B−(−1.84R+3.30G))
とする。除去量E’の除去による色度変化は図20に実線矢印で示すように、第4象限内に留まるようになる。
E’=min(E,B−(0.22R+0.68G),B−(−1.84R+3.30G))
とする。除去量E’の除去による色度変化は図20に実線矢印で示すように、第4象限内に留まるようになる。
尚、本実施の形態では色度座標ab面の第4象限で制限したが、任意の角度で制限しても構わない。その際には、
B>r1・G+r2・R かつ B>r3・G+r4・R
が条件となる。
B>r1・G+r2・R かつ B>r3・G+r4・R
が条件となる。
ここで、r1〜r4は制限角θを用いて下記の式で算出される。色相制限は色度座標ab面の原点を通る2本の直線で定義され、θ1、θ2はその2本の直線を表す角度である
これにより、色相制限範囲を超えてBプレーンが減少するのを防ぐことができる。以上のようにして算出した、色にじみの除去対象とする色プレーンの除去量E’を除去量プレーンとして保持し、色にじみ補正処理を行う。除去量プレーンに対しては上記のローパスフィルタ処理を行う。尚、本実施の形態では、色相制限に簡易的なa*b*平面を用いたが、3×3のRGB→YUVマトリクスを用いてuv平面にて色相制限処理を行っても構わない。
上記の除去量E’をBプレーンの強度から差し引くことで新たなBプレーンを作成する。色にじみ除去対象としては、色にじみ判定ステップS4にて色にじみ領域と判定された画素のみとする
従って、新たなBプレーンの強度は、単調増減判定フラグが「1」ならば、
B=B−E’
単調増減判定フラグが「0」ならば、
B=B
となる。このように、Bプレーンを修正したカラー画像を出力画像として出力する(ステップS5)。
従って、新たなBプレーンの強度は、単調増減判定フラグが「1」ならば、
B=B−E’
単調増減判定フラグが「0」ならば、
B=B
となる。このように、Bプレーンを修正したカラー画像を出力画像として出力する(ステップS5)。
さて、図7に示した画像内の3×3画素のある領域における単調増減判定結果が、図21に示すように隣接する画素で単調増減判定フラグの値が切り替わる場合を考える。このような場合、画素の境界部では除去量がばたつき(隣接する画素で除去される場合と除去されない場合が混在すること)、画素値の変化が急峻になり、不自然で観察者に違和感を与える場合がある。そこで、このような場合には、生成した除去量プレーンに対してローパスフィルタをかける方法が有効である。
また、下記に示す式により単調増減判定結果プレーンを用いて色プレーンの各画素のゲインを算出し、除去量に乗算することで、境界部(単調増減判定結果プレーン)に対するスムージング処理を行ってもよい。
図21に示す例では、画素pの除去量E’’は
となる。
このような方法で、色にじみのみを違和感無く除去することが可能となる。以上が本実施例における防振システムを無効にした場合の色にじみ補正の流れとなる。
次に、防振システムが有効の場合、つまりステップS3においてYESが選択された場合の色にじみ補正処理について説明する。
防振システムが有効の場合は、まずステップS7において防振レンズ群の位置情報を取得する。図24は横軸を時間、縦軸を防振レンズ群の撮像面と平行な方向における位置を示している。尚、縦軸のスケールは説明の便宜上与えられており、移動範囲の最大最小の絶対値を1.0に正規化している。本実施例では図24に示すように、露光時間中において時間Tごとに防振レンズ群の位置情報を取得する。時間Tは防振レンズ群の可動範囲や光学系の性能に合わせて設定され、防振レンズ群の可動域が広く防振レンズ群の位置が大きく変化する場合や防振レンズ群の変化に対して結像性能の変動が大きい光学系ついてはより細かい間隔で取得する必要がある。また、図24のように等間隔で取得するのではなく、防振群の変化に合わせて、変化がある場合のみ取得することで取得データ量削減の図ってもよい。
次に、ステップS8において、前ステップS7で取得した防振レンズ群の位置情報を用いて色にじみ判定を行う。本ステップはステップS3で色にじみ発生領域と仮判定された領域に対し、撮影光学系の色にじみ発生方向の光学情報を用いて再度色にじみ判定を行うという点は既出のステップS4における色にじみ判定と同じであるが、用いる光学情報が異なる。よって、ここでは本ステップにおける色にじみ発生方向の光学情報について詳しく説明する。
図24は撮影光学系の色にじみが発生する方向及び強度に関する光学情報の一例を示したものであり、(a)、(b)、(c)、(d)、(e)は防振レンズ群の位置がそれぞれー1.0、―0.5、0.0、0.5、1.0にある場合を表している。図24のように、防振レンズ群の位置により光学性能は変化するため、それに応じて撮影画像の色のにじみ方も変化する。図24(c)は防振レンズ群がちょうど中央にある状態を示しており、防振システムが無効である場合は防振レンズを偏芯させずに光軸上で固定となるため、図24の例では(c)を利用すればよいということになる。一方、防振システムが有効である場合、基本的には露光時間中に防振レンズ群の位置が変化することになるので、位置の変動を考慮した光学情報で色にじみの判定を行う必要がある。位置の変動を考慮した光学情報の作成方法としてはいくつか手法が存在するが、ここではまず露光時間中の防振群の平均位置を算出し、その位置に対応する光学情報を利用する場合について説明する。
まず、前ステップS7で時間Tの間隔で取得した位置情報を加算し、取得したデータ数で除算すること平均位置を算出する。図24の黒点のように防振レンズ群が変動する場合、点線で示した値が露光時間中における防振群の平均位置でとなり約0.35となる。この平均位置に対応した光学情報を利用することで、防振を考慮しない場合、つまり図24(c)の光学情報で色にじみ判定をするよりも高精度な判定を行うことができるが、必ずしもその平均位置の光学情報を保持しているとは限らない。もっとも単純な方法は色にじみに関する光学情報を防振レンズ群の位置に対してより細かく刻んで記録部にあらかじめ保持しておき、算出した防振レンズ群の平均値と記録部にある光学情報を照合して最も近い光学情報を取得するという方法がある。図24で示した5つのデータを保持している場合は、平均値に最も近い光学情報は(d)となるので、本ステップでは光学情報(d)を記録部より取得する。図24では説明の都合で防振レンズ群の位置に対する光学情報として5つのパターンとしているが、平均値に最も近い光学情報を取得するという方式を採用する場合は、より多くの光学情報を保持しておく方が好ましい。
このように算出した平均値に最も近い光学情報を選択する以外の手法としては、複数の光学情報を取得しそれらの光学情報から算出した平均の位置に対応する光学情報を生成するという方法もある。次に、2つ光学情報から算出した平均の位置に対応する光学情報を生成する手法について、図23、図24を用いて説明する。前述のように防振レンズ群が図23に示すような軌道を描く場合、平均値は約0.35となり、この平均値に対応する光学情報は図24の(c)、(d)の間に存在する。よって、本ステップにおいてまず光これらの光学情報は図24の(c)、(d)を取得する。次に、これら2つの光学情報を補間することで平均の位置に対応する光学情報を生成する。図26に図24の(c)、(d)から新たに生成した光学情報を示す。図26の光学情報は図24(c)、(d)の防振レンズ群の位置をPc、Pd、防振レンズ群の平均位置をPave、新たに生成した光学情報のある方位の強度をV、対応する図24(c)、(d)の各強度をVc,Vdとしたとき、以下の式を用いている。
図26に示すような光学情報を記録部から取得してきた光学情報と防振レンズ群の位置情報より新たに生成することで、記録部から取得してきた光学情報をそのまま用いるよりもより精度良く色にじみの判定を行うことができる。あるいはあらかじめ記録しておく光学情報の量を減らす必要がある場合は、こうした補間処理を行って適用する光学情報を新たに生成する手法は非常に有効であるといえる。また、このような補間処理を行ったあとに、整数値にするため数値を丸めてもよく、たとえば図26上側を四捨五入して2.0とするような処理を実施してもよい。
ここでは、記録している2つの光学情報の間に相当する光学情報を生成しているが、保持している光学情報よりもより外側に位置するような光学情報を生成してもよい。たとえば、図24(c)、(d)の(d)側、つまり(d)、(e)の間あるいは(e)のさらにプラス側を(c)、(d)から生成する場合、
と変形することで対応する光学情報を生成することができる。逆に、(c)、(d)よりもマイナス側の位置に対応する光学情報を生成する場合は、PcとPd、VcとVdを入れ替えればよい。以上、記録部から取得してきた複数の光学情報から補間処理を行い、新たに光学情報を生成する手法を述べたが、上記の例のように2つの光学情報から生成するだけでなく、3つ以上のデータから補間処理を行って光学情報を生成してもよい。
また、本ステップにおいて、防振を考慮した光学情報を求める際に露光時間中の防振レンズ群の位置の平均値から導出したが、必ずしも平均の位置を算出しなくてもよい。例えば露光時間が短い場合は、防振レンズ群の位置がほとんど変化していないという場合も起こりうる。その場合はある時間における防振レンズ群の位置に対応する光学情報を選択、あるいは導出することで、平均の位置を計算する手間を省くことができる。
また、光学情報を新たに生成する方法として、実施例では複数の光学情報を使用し補間処理等を行う方法を述べたが、補間処理だけでなく別の処理を加えて防振を考慮した光学情報を導出してもよい。その場合はベースのなる光学情報を記録部に保持しておき、露光時間中の防振レンズ群の変動に応じて、記録部から取得してきた光学情報に対して変動を加える。例えば、図25(c)をベースの光学情報とし、(e)の光学情報を生成する方法としては以下のような処理が考えられる。
まず図25(c)の上段(左上、上、右上)を1つずつ下にシフトし、新たに生成する光学情報の中段(左、右)とする。新たな光学情報の上段はもとの上段の倍とすることし、前述の中段と組み合わせることで、(c)から(e)を生成することができる。このようにベースの光学情報を変化させて防振レンズ群の光学情報を生成してもよく、前述の補間処理と組み合わせても良い。
以上が、防振レンズの移動を考慮した光学情報の生成方法に関する説明であり、こうした方法で生成した光学情報を用いることで防振しない状態の光学情報をそのまま色にじみ判定に利用するよりも、色にじみ判定の精度をより向上させることができる。
次に、このようにして得られた光学情報を用いて色にじみ判定処理を行う。色にじみ判定については、判定に使用する光学情報が防振を考慮しているということ以外は、ステップS4で説明してきた内容と同様になるため詳細説明は割愛する。
ステップS8の色にじみ判定を実施後はステップS5において、ステップS4にて色にじみ領域と判定された領域に対して色にじみ補正を実行し、ステップS6で色にじみが補正された画像を出力する。
このような方法により、露光時間中の防振レンズ群の位置から適切な色にじみ判定に利用する光学情報を取得するため、防振時であっても色にじみのみを違和感無く除去することが可能となる。以上が本実施例における防振システムを有効にした場合の色にじみ補正の流れとなる。
次に、図22を参照して、本実施例1における撮像装置について説明する。
図22は本実施例における撮像装置100の構成図である。
撮像装置100には、撮影画像の色にじみ補正処理(上述の画像処理方法)を行う画像処理プログラムがインストールされており、この色にじみ補正処理は撮像装置100の内部の画像処理部104(画像処理装置)により実行される。
撮像装置100は、撮像光学系101(レンズ)および撮像装置本体(カメラ本体)を備えて構成されている。撮像光学系101は、絞り101aおよびフォーカスレンズ101bを備え、撮像装置本体(カメラ本体)と一体的に構成されている。ただし本実施例はこれに限定されるものではなく、撮像光学系101が撮像装置本体に対して交換可能に装着される撮像装置にも適用可能である。
撮像素子102は、撮像光学系101を介して得られた被写体像(結像光)を光電変換して撮影画像を生成する。すなわち被写体像は、撮像素子102により光電変換が行われてアナログ信号(電気信号)に変換される。そして、このアナログ信号はA/Dコンバータ103によりデジタル信号に変換され、このデジタル信号は画像処理部104に入力される。
画像処理部104(画像処理装置)は、このデジタル信号に対して所定の処理を行うとともに、上述の色にじみ補正処理を行う。まず画像処理部104(撮影条件取得手段)は、状態検知部107から撮像装置の撮像条件情報を取得する。撮像条件情報とは、絞り、撮影距離、または、ズームレンズの焦点距離等に関する情報である。状態検知部107は、システムコントローラ110から直接に撮像条件情報を取得することができるが、これに限定されるものではない。例えば撮像光学系101に関する撮像条件情報は、撮像光学系制御部106から取得することもできる。本実施例の色にじみ補正処理の処理フロー(画像処理方法)は、図1を参照して説明したとおりである。
撮影光学系の色にじみ発生方向に関する光学情報は、記憶部108に保持されている。画像処理部104は上記撮影条件に該当する光学情報を記憶部108より取得し、色にじみ補正処理を行い、その出力画像は、画像記録媒体109に所定のフォーマットで保存される。表示部105には、本実施例の色にじみ補正処理を行った画像に表示用の所定の処理を行った画像が表示される。ただしこれに限定されるものではなく、高速表示のために簡易処理を行った画像を表示部105に表示するように構成してもよい。
本実施例における一連の制御はシステムコントローラ110により行われ、撮像光学系101の機械的な駆動はシステムコントローラ110の指示に基づいて撮像光学系制御部106により行われる。撮像光学系制御部106は、Fナンバーの撮影状態設定として、絞り101aの開口径を制御する。また撮像光学系制御部106は、被写体距離に応じてピント調整を行うため、不図示のオートフォーカス(AF)機構や手動のマニュアルフォーカス機構により、フォーカスレンズ101bの位置を制御する。なお、絞り101aの開口径制御やマニュアルフォーカスなどの機能は、撮像装置100の仕様に応じて実行しなくてもよい。
撮像光学系101には、ローパスフィルタや赤外線カットフィルタ等の光学素子を入れ
てもよい。
てもよい。
次に、本実施例におけるぶれ補正処理に関して説明する。ぶれ補正が有効であるときには以下の処理が行われる。撮像光学系制御部106には撮像装置のぶれ(振動)を検知する角速度センサ(振動検知手段)112から情報と防振レンズ群101cの位置を検出する位置検出部(位置検出手段)111からの情報が入力される。
撮像光学系制御部106は、これらの情報に基づいて計算された駆動量だけ、防振レンズ群101cを移動させる。撮像素子102で撮像され、A/Dコンバータ103を介して画像処理部104に入力される撮影画像は画像のぶれが補正された画像となる。
次に、図28を参照して、本実施例2における撮像装置について説明する。
図28において、位置検出部111は撮像素子102の光軸方向の位置を検出する位置検出部であって、他の構成は図22と同じである。実施例2では、撮像素子102を光軸に対して垂直方向の成分を持つ方向に移動させることによって画像のぶれを補正している撮像素子防振システムであるという点において、実施例1と相違している。本実施例では、実施例1の防振レンズ群の代わりに撮像素子の位置の変化に基づいた光学情報を生成する。このようにして生成した光学情報を色にじみ判定に利用することで防振時においても、より精度の高い色にじみ補正処理を実施することができる。
本実施例における画像処理方法についても、実施例1で説明した図1の流れと防振レンズ群が撮像素子となる部分以外は同様であるため詳細説明は割愛する。
次に、図23を参照して、本発明の実施例3における画像処理装置および画像処理システムについて説明する。
図23は本実施例における画像処理システム300の構成図である。なお、本実施例の色にじみ補正処理の処理フロー(画像処理方法)は、図1を参照して説明した実施例1と同様であるため、その説明は省略する。
図23において、画像処理装置301は、本実施例の画像処理方法をコンピュータに実行させるための画像処理ソフトウェア306を搭載したコンピュータ機器である。撮像機器302は、カメラ、顕微鏡、内視鏡、または、スキャナなどの撮像装置である。記憶媒体303は、半導体メモリ、ハードディスク、または、ネットワーク上のサーバなど、撮影画像を記憶した記憶手段である。
画像処理装置301は、撮像機器302または記憶媒体303から撮影画像データを取得し、所定の画像処理を行った画像データを出力機器305、撮像機器302、記憶媒体303のいずれか一つまたは複数に出力する。また、その出力先を画像処理装置301に内蔵された記憶部に保存することもできる。出力機器305は、例えばプリンタである。
画像処理装置301にはモニタである表示機器304が接続されている。このため、ユーザは表示機器304を通して画像処理作業を行うとともに、補正された画像を評価することができる。画像処理ソフトウェア306は、本実施例の色にじみ補正処理(画像処理方法)を行うほか、必要に応じて現像やその他の画像処理を行う。
なお、本実施例における画像処理を行うためのデータの内容や機器間での受け渡しなどに関する情報(補正情報)については、個々の画像データに付帯させることが好ましい。必要な補正情報を画像データに付帯させることで、本実施例の画像処理装置を搭載した機器であれば、適切に本実施例の補正処理を行うことが可能である。
上記各実施例によれば、撮影光学系の色にじみ発生方向に関する光学情報を保持しておき、単調増減検出手段の結果と光学情報より色にじみ補正領域を決定することにより、被写体の色を除去する弊害を低減することができ、高品質名画像を得ることが可能となる。さらに、防振システムが機能している状態であれば、防振群(レンズ群、撮像素子)の露光時間中の位置情報に基づいた光学情報を選定、あるいは生成する。こうすることで、防振群を移動させたことにより変化する色にじみ量に合わせて色にじみ判定を実施できるため、色にじみ補正処理の補正精度を向上させることができる。
従って、各実施例によれば、良好な画像回復処理が可能な画像処理方法、画像処理装置、撮像装置、および、画像処理プログラムを提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
100 撮像装置、101 撮影光学系、101a 絞り、
101b フォーカスレンズ、101c 防振レンズ群、102 撮像素子、
103 A/Dコンバータ、104 画像処理部、105 画像表示部、
106 撮影光学系制御部、107 状態検知部、108 記憶部、
109 画像記録体、110 システムコントローラ、300 画像処理システム、
301 画像処理装置、302 撮像機器、303 記憶媒体、304 表示機器、
305 出力機器、306 画像処理ソフトウェア
101b フォーカスレンズ、101c 防振レンズ群、102 撮像素子、
103 A/Dコンバータ、104 画像処理部、105 画像表示部、
106 撮影光学系制御部、107 状態検知部、108 記憶部、
109 画像記録体、110 システムコントローラ、300 画像処理システム、
301 画像処理装置、302 撮像機器、303 記憶媒体、304 表示機器、
305 出力機器、306 画像処理ソフトウェア
Claims (16)
- カラーの撮影画像から撮影光学系の色収差を補正する画像処理方法であって、
入力画像を取得する画像取得工程と、
前記画像取得工程において取得した画像の撮影情報を取得する撮影情報取得工程と、
撮影時の防振群の位置情報を取得する位置情報取得工程と、
撮影光学系の収差による色にじみ発生方向に関する光学情報を取得する光学情報取得工程と、
前記撮影画像における各色画素値が単調増加或いは単調減少している領域を検出する単調増減領域検出工程と、
前記単調増減領域検出工程により検出された領域の単調増減方向と前記光学情報の色にじみ発生方向から色にじみ領域を判定する色にじみ判定工程と、
前記撮影画像の色にじみを補正する色にじみ補正工程を備え、
前記色にじみ判定工程において撮影時の露光時間中の防振群の位置の変動に基づく光学情報を色にじみ判定に利用することを特徴とする画像処理方法。 - 前記色にじみ判定工程において、露光時間中に変化する防振群の位置に応じた複数の光学情報を平均的な光学情報を生成し、該光学情報を用いて色にじみ判定を行うことを特徴とする請求項1に記載の画像処理方法。
- 前記色にじみ判定工程において露光時間中の防振群の平均的な位置に対応した光学情報を利用することを特徴とする請求項1に記載の画像処理方法。
- 前記色にじみ判定工程において防振群が露光時間中に通過した代表的な位置に対応した光学情報を利用することを特徴とする請求項1に記載の画像処理方法。
- 前記単調増減検出工程において、単調増加或いは単調減少と判定された注目画素はその位置における前記光学情報の色にじみ発生方向と単調増加或いは単調減少の方向が一致した場合に色にじみ発生領域と判定することを特徴とする請求項1に記載の画像処理方法。
- 前記光学情報は色にじみの発生の強さに関する情報(色にじみ強度情報)を有することを特徴とする請求項1に記載の画像処理方法。
- 前記色にじみ補正工程において、前記色にじみ強度情報に基づき補正の強さを変えることを特徴とする請求項6に記載の画像処理方法。
- 単調増加或いは単調減少と判定された方向と、光学情報の色にじみ発生方向が一致する方向が複数の場合、一致した複数の方向の色にじみ強度情報を演算して色にじみ補正処理を行うことを特徴とする請求項7に記載の画像処理方法。
- 単調増加或いは単調減少と判定された方向と、光学情報の色にじみ発生方向が一致する方向が複数の場合、一致した複数の方向の重心方向の色にじみ強度情報を用いて色にじみ補正処理を行うことを特徴とする請求項7に記載の画像処理方法。
- 前記光学情報は、撮影条件ごとに保持することを特徴とする請求項1に記載の画像処理方法。
- 前記光学情報は撮影光学系の焦点距離、被写体距離、Fnoのいずれか、または複数の状態において保持することを特徴とする請求項1に記載の画像処理方法。
- カラーの撮影画像から撮影光学系の色収差を補正する画像処理装置であって、
入力画像を取得する画像取得手段と、
前記画像取得手段により取得された画像の撮影情報を取得する撮影情報取得手段と、
撮影時の防振群の位置情報を取得する位置情報取得手段と、
撮影光学系の収差による色にじみ発生方向に関する光学情報を取得する光学情報取得手段と、
前記撮影画像における各色画素値が単調増加或いは単調減少している領域を検出する単調増減領域検出手段と、
前記単調増減領域検出手段により検出された領域の単調増減方向と前記光学情報の色にじみ発生方向から色にじみ領域を判定する色にじみ判定手段と、
前記撮影画像の色にじみを補正する色にじみ補正手段を備え、
前記色にじみ判定手段により撮影時の露光時間中の防振群の位置の変動に基づく光学情報を色にじみ判定に利用することを特徴とする画像処理装置。 - カラーの撮影画像から撮影光学系の色収差を補正する撮像装置であって、
前記撮像装置は、撮影光学系、撮像素子部、画像処理部、記憶部を有し、
該記憶部に前記撮影光学系の収差による色にじみ発生方向に関する光学情報を有し、
前記撮影画像における各色画素値が単調増加或いは単調減少している領域を検出する単調増減領域検出手段と、
前記単調増減領域検出工程により検出された領域の単調増減方向と前記光学情報の色にじみ発生方向から色にじみ領域を判定する色にじみ判定手段と、
前記撮影画像の色にじみを補正する色にじみ補正手段を備え、
前記色にじみ判定手段が撮影時の露光時間中の防振群の位置の変動に基づく光学情報を色にじみ判定に利用することを特徴とする撮像装置。 - 前記防振群はレンズ群であることを特徴とする請求項13に記載の撮像装置。
- 前記防振群は撮像素子であることを特徴とする請求項13に記載の撮像装置。
- コンピュータにカラーの撮影画像から撮影光学系の色収差を補正する処理を実行させる画像処理プログラムであって、
入力画像を取得する画像取得工程と、
前記画像取得工程において取得した画像の撮影情報を取得する撮影情報取得工程と、
撮影時の防振群の位置情報を取得する位置情報取得工程と、
前記撮影光学系の収差による色にじみ発生方向に関する光学情報を取得する光学情報取得工程と、
前記撮影画像における各色画素値が単調増加或いは単調減少している領域を検出する単調増減領域検出工程と、
前記単調増減領域検出工程により検出された領域の単調増減方向と前記光学情報の色にじみ発生方向から色にじみ領域を判定する色にじみ判定工程と、
前記撮影画像の色にじみを補正する色にじみ補正工程を備え、
前記色にじみ判定工程において撮影時の露光時間中の防振群の位置の変動に基づく光学情報を色にじみ判定に利用することを特徴とする画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016117511A JP2017224906A (ja) | 2016-06-14 | 2016-06-14 | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016117511A JP2017224906A (ja) | 2016-06-14 | 2016-06-14 | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017224906A true JP2017224906A (ja) | 2017-12-21 |
Family
ID=60686398
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016117511A Pending JP2017224906A (ja) | 2016-06-14 | 2016-06-14 | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017224906A (ja) |
-
2016
- 2016-06-14 JP JP2016117511A patent/JP2017224906A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6327922B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP6525718B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
JP5188651B2 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
JP5284537B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、およびそれを用いた撮像装置 | |
KR101536162B1 (ko) | 화상처리장치 및 방법 | |
US8754957B2 (en) | Image processing apparatus and method | |
JP2011215707A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
WO2011121763A1 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
JP5950949B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6415108B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP6682184B2 (ja) | 画像処理方法、画像処理プログラム、画像処理装置および撮像装置 | |
JP6436840B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP5425136B2 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
JP6238673B2 (ja) | 画像処理装置、撮像装置、撮像システム、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6333076B2 (ja) | 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体 | |
JP6604737B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6486076B2 (ja) | 画像処理装置および画像処理方法 | |
JP2017224906A (ja) | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム | |
JP2017118293A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP2017126952A (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6452389B2 (ja) | 画像処理装置および画像処理方法 | |
WO2011121761A1 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
JP2017092800A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |