JP5261796B2 - 撮像装置、撮像方法、画像処理装置、画像処理方法、およびプログラム - Google Patents

Description

本発明は、撮像装置、撮像方法、画像処理装置、画像処理方法、およびプログラムに関する。本発明は、特に、画像を撮像する撮像装置および撮像方法、撮像画像を処理する画像処理装置および画像処理方法、ならびに撮像装置および画像処理装置用のプログラムに関する。

ソフト撮影の選択設定に応じて自動的に絞り開口を拡大する技術が知られている（例えば、特許文献１参照。）。また、受光素子アレイのピッチの２倍よりも大きなＰＳＦを有する対物オプチクスを備えたカメラが知られている（例えば、特許文献２参照。）。
特許第２５２６８２６号明細書 特表２００６−５１９５２７号公報

特許文献１および２に記載の技術のように、被写体像がぼけるように撮像すると、空間的に平均化された画素値が得られるので、ピントを合わせて通常撮像した場合と比べると、輝度の最大値が下がったり、輝度の最小値が上がったりする場合がある。このような場合に、通常撮影時と同じダイナミックレンジで画素値を表すと、ビット値を有効に使用することができない場合がある。

上記課題を解決するために、本発明の第１の形態によると、撮像装置であって、光を結像する光学系と、光学系の空間周波数伝達特性に応じて、光学系を通じて撮像された撮像画像を階調変換する階調処理部とを備える。

本発明の第２の形態によると、撮像方法であって、光を結像する光学系の空間周波数伝達特性に応じて、光学系を通じて撮像された撮像画像を階調変換する階調処理段階を備える。

本発明の第３の形態によると、撮像装置用のプログラムであって、撮像装置を、光を結像する光学系の空間周波数伝達特性に応じて、光学系を通じて撮像された撮像画像を階調変換する階調処理部として機能させる。

本発明の第４の形態によると、画像処理装置であって、撮像部により撮像された撮像画像の空間周波成分に基づいて、撮像部の空間周波数伝達特性を特定する空間周波数伝達特性特定部と、空間周波数伝達特性特定部により特定された空間周波数伝達特性に応じて、撮像画像を階調変換する階調処理部とを備える。

本発明の第５の形態によると、画像処理方法であって、撮像部により撮像された撮像画像の空間周波成分に基づいて、撮像部の空間周波数伝達特性を特定する空間周波数伝達特性特定段階と、空間周波数伝達特性特定段階において特定された空間周波数伝達特性に応じて、撮像画像を階調変換する階調処理段階とを備える。

本発明の第６の形態によると、画像処理装置用のプログラムであって、画像処理装置を、撮像部により撮像された撮像画像の空間周波成分に基づいて、撮像部の空間周波数伝達特性を特定する空間周波数伝達特性特定部、空間周波数伝達特性特定部により特定された空間周波数伝達特性に応じて、撮像画像を階調変換する階調処理部として機能させる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。

図１は、一実施形態に係わる撮像装置１０４のブロック構成の一例を示す。撮像システム１００は、光学ユニット１０２および撮像装置１０４を備える。光学ユニット１０２は、光を結像する光学系の一例としてのレンズ系１１０およびレンズ情報記憶部１１２を有する。撮像装置１０４は、レンズ系１１０を通過した光を受光する受光部１２０、画像生成部１６０、および出力部１５０を有する。画像生成部１６０は、レンズ情報取得部１６５、レンズ特性記憶部１８５、空間周波数伝達特性特定部１７０、階調処理部１８０、補正部１４０、および画像処理部１４５を含む。なお、受光部１２０および受光部１２０は、この発明における撮像部１０５として機能する。

装着部１９０には、レンズ系１１０を有する光学ユニット１０２を着脱することができる。そして、装着部１９０は、異なる光学特性を有する複数の光学ユニット１０２のいずれかを通じて受光部１２０に受光させるよう光学ユニット１０２を装着することができる。なお、撮像装置１０４に装着可能な光学ユニット１０２が有するレンズ系１１０の光学特性の一例については、図２に関連して定性的に説明する。

レンズ情報記憶部１１２は、レンズ情報を記憶している。レンズ情報としては、レンズ系１１０を識別するＩＤ情報を例示することができる。なお、レンズ情報記憶部１１２は、不揮発性メモリ等により実装されてよい。

受光部１２０は、レンズ系１１０を通じて被写体からの光を受光する。具体的には、受光部１２０は、２次元的に配置された複数の受光素子を有している。複数の受光素子は、装着部１９０に装着されている光学ユニット１０２が有するレンズ系１１０により結像された光を受光する。

画像生成部１６０は、受光部１２０が受光した受光量に基づいて、出力画像を生成する。画像生成部１６０が生成した出力画像は出力部１５０に供給される。

具体的には、レンズ情報取得部１６５は、装着部１９０に装着された光学ユニット１０２が有するレンズ情報記憶部１１２が記憶しているレンズ情報を取得する。例えば、レンズ情報取得部１６５は、レンズ系１１０を識別するＩＤ情報をレンズ情報記憶部１１２から読み出す。

レンズ特性記憶部１８５は、レンズ系１１０を識別するＩＤ情報に対応づけて、レンズ系１１０の光学特性を特定する光学特性データを記憶している。光学特性データとしては、レンズ系１１０の空間周波数伝達特性を示す情報を例示することができる。空間周波数伝達特性特定部１７０は、レンズ情報取得部１６５が取得したＩＤ情報に対応づけてレンズ特性記憶部１８５が記憶しているレンズ系１１０の空間周波数伝達特性を示す情報を特定する。このように、空間周波数伝達特性特定部１７０は、装着部１９０に装着されたレンズ系１１０の空間周波数伝達特性を示す情報を取得することにより、レンズ系１１０の空間周波数伝達特性を特定する。

このようにして、空間周波数伝達特性特定部１７０は、レンズ系１１０の空間周波数伝達特性を示す情報を取得することにより、レンズ系１１０の空間周波数伝達特性を特定する。他にも、空間周波数伝達特性特定部１７０は、撮像部１０５により撮像された撮像画像の空間周波成分に基づいて、撮像部１０５の空間周波数伝達特性を特定してもよい。例えば、空間周波数伝達特性特定部１７０は、撮像画像を空間周波数解析した解析結果から、撮像部１０５の空間周波数伝達特性を特定してもよい。例えば、空間周波数伝達特性特定部１７０は、撮像画像が示す撮像画像におけるより高い空間周波成分がより大きいほど、空間周波数伝達特性をより高く特定してよい。他にも、空間周波数伝達特性特定部１７０は、撮像画像が示す撮像画像において、予め定められた高周波数領域における空間周波成分が、予め定められた低周波数領域における空間周波数成分より大きいほど、空間周波数伝達特性をより高く特定してよい。

階調処理部１８０は、受光部１２０が設けられた位置における空間周波数伝達特性に応じて、受光部１２０が受光した光により得られた撮像画像を階調変換する。なお、階調処理部１８０が処理する撮像画像は、受光部１２０により受光された受光量に基づく撮像画像あるいは補正部１４０により補正された撮像画像であってよい。具体的には、階調処理部１８０は、撮像画像を、レンズ系１１０の空間周波数伝達特性に応じた広さのダイナミックレンジの画像に変換する。より具体的には、階調処理部１８０は、高周波数領域における空間周波数伝達特性がより低い場合に、撮像画像をより狭いダイナミックレンジの画像に変換する。なお、上記高周波領域は、予め定められた周波数領域であってよい。

具体的には、階調処理部１８０は、空間周波数伝達特性特定部１７０により特定されたレンズ系１１０の空間周波数伝達特性に応じて、撮像画像を補正する。具体的には、空間周波数伝達特性特定部１７０により特定された空間周波数伝達特性が高周波数領域においてより低い場合に、撮像画像をより狭いダイナミックレンジの画像に変換してよい。より具体的には、階調処理部１８０は、高周波数領域における空間周波数伝達特性がより低い場合に、撮像画像を、より狭いダイナミックレンジの画像に変換すべくガンマ補正してよい。このように、階調処理部１８０は、空間周波数伝達特性特定部１７０により特定されたレンズ系１１０の空間周波数伝達特性に応じて、レンズ系１１０を通じて撮像された撮像画像を階調変換する。

補正部１４０は、複数の受光素子がそれぞれ受光した受光量がＡ／Ｄ変換されて得られた画像を補正する。例えば、補正部１４０は、Ａ／Ｄ変換された受光量の値、各受光素子の位置、及びレンズ系１１０の光学的伝達関数に基づいて、画像を補正する。このように、補正部１４０は、レンズ系１１０の光学伝達関数に基づいて、受光部１２０が受光した光により得られた撮像画像を補正する。なお、補正部１４０により補正された撮像画像は、階調処理部１８０に供給されて、階調処理される。

このように、階調処理部１８０は、レンズ系１１０の空間周波数伝達特性に応じて、光学系を通じて撮像された撮像画像を階調変換する。このため、撮像装置１０４によると、撮像画像に含まれるぼけ量に応じて、画素値を表すビット幅を有効に利用することができる。

画像処理部１４５は、補正部１４０によって補正された画像に画像処理を施す。画像処理部１４５が施す画像処理としては、カラーバランス処理、色同時化処理、輪郭補正処理、色補正処理等を例示することができる。このように、画像処理部１４５は、補正部１４０によって補正された画像の画素値を、受光素子の受光量に非線形な値に変換する。

そして、出力部１５０は、補正部１４０および画像処理部１４５によって処理されて得られた出力画像を出力する。例えば、出力部１５０は、出力画像を表示してよい。また、出力部１５０は、記録媒体に出力画像を記録してよい。他にも、出力部１５０は、通信回線に出力を送出してよい。なお、出力部１５０は、出力画像を圧縮してから出力してもよい。

このように、撮像装置１０４は、レンズを取り替えることが可能な撮像機器であってよい。例えば、撮像装置１０４は、一眼レフ式の撮像機器であり、光学ユニット１０２は一眼レフ用の交換レンズであってもいい。また、撮像装置１０４は、内視鏡であってもよい。また、光学ユニット１０２はターレット式で交換されて装着部１９０に装着されてよい。

図２は、レンズ系１１０の光学特性の一例を模式的に示す。本図には、光軸上の物点からレンズ系１１０に入射した光線のうち、入射瞳２０５において光軸２００から異なる位置に入射した３の光線２１０、光線２２０、光線２３０の軌跡が模式的に示されている。図示されるように、光線２１０、光線２２０、および光線２３０は、この順で入射瞳２０５において光軸２００に近い位置に入射する。

図示されるように、光線２１０は、レンズ系１１０により、近軸焦点の位置２５０より光軸方向にレンズ系１１０より離れた位置２１５で光軸２００と交差する。また、光線２３０は、レンズ系１１０により、位置２１５より光軸方向にレンズ系１１０より離れた位置２３５で光軸２００と交差する。そして、光線２２０は、最も光軸２００から離れた位置に入射する光線２３０は、レンズ系１１０により、位置２１５と位置２３５との間の位置２２５で光軸２００と交差する。

図示されるように、レンズ系１１０による光の拡がりの大きさは、位置２１５から位置２３５の間では略同一の大きさになることが期待される。このように、レンズ系１１０は過剰補正された球面収差を有しており、光を近軸焦点の位置２５０より実質的に遠くに結像する。このため、レンズ系１１０によると、光軸方向の像面位置によらず物点からの光の拡がりの大きさが実質的に略同一となる光軸方向の距離を、球面収差が過剰補正されていない場合に比べて長くすることができる。

このように、当該光軸方向の距離が長くなると、レンズ系１１０からのより広い距離範囲に存在する物点からの光について、光の拡がりの大きさが実質的に略同一となる像面位置が存在し得る。このような像面位置に受光部１２０を設けると、物点までの距離によらず、受光部１２０が設けられた位置における光学伝達関数が実質的に略同一となる。このように、レンズ系１１０は、上述した収差特性によって、物点からの光に対する光学的伝達関数は物点までの距離によらず略同一となる。

以上、図２を用いてレンズ系１１０の光学特性を定性的に説明した。なお、図２に示したレンズ系１１０の模式図は、レンズ系１１０の光学特性を定性的に理解することを目的として作図したものであり、実スケールに従って作図されたものではないことに注意すべきである。

図３は、レンズ系１１０の構成の一例を示す。レンズ系１１０は、絞り７００、レンズ７１０、レンズ７２０、およびレンズ７３０を有する。また、像面は符号７８０で示されている。なお、本図には、複数の光線がレンズ系１１０に重ねて描かれている。以下、レンズ７１０、レンズ７２０、およびレンズ７３０の配置およびそれらの光学特性を説明する。

レンズ７１０およびレンズ７３０の屈折率は、波長４８６．１３３ｎｍ、波長５８７．５６２ｎｍ、および波長６５６．２７３ｎｍの光に対してそれぞれ１．５３１２８７１０、１．５２４７０１６６、および１．５２１９６０９１である。また、レンズ７２０の屈折率は、波長４８６．１３３ｎｍ、波長５８７．５６２ｎｍ、および波長６５６．２７３ｎｍの光に対してそれぞれ１．５９９４３８６９、１．５８５４６９９２、および１．５７９８６３７７である。また、絞り７００は、レンズ７１０の頂点より像面側に０．００１５６６６６１ｍｍ離れて設けられる。

レンズ７１０の厚さは１．９８７０９１ｍｍである。なお、本図の説明における厚さとは、レンズの光軸方向の長さを示す。また、レンズ７１０の物体側表面の曲率半径は１５．４８６７６ｍｍであり、物体側の断面半径は１．１８８９４１ｍｍであり、物体側表面の円錐定数は−９０３７８．４である。また、レンズ７１０の像側表面の曲率半径は−１２．０９０３８ｍｍであり、像側の断面半径は２．１４８０３ｍｍであり、物体側表面の円錐定数は２８．７９３７４。なお、本図の説明において、曲率半径が負である場合は、その表面形状が光に対して凹面であることを示す。

レンズ７２０は、レンズ７１０から像面方向に距離０．４００５２８２ｍｍ離れて設けられる。なお、本図の説明で、レンズ間の距離は、光軸上における、物体側のレンズの像側表面と像側のレンズの物体側表面との間の距離を示す。レンズ７２０の厚さは０．０９２１４７９７ｍｍである。また、レンズ７２０の物体側表面の曲率半径は２．１１４０３５ｍｍであり、物体側表面の断面半径は２．３８１２２ｍｍであり、物体側表面の円錐定数は−０．３９２９２７６である。また、レンズ７２０の像側表面の曲率半径は１．１１９４１４ｍｍであり、像側の断面半径は２．３６２１２４ｍｍであり、像側表面の円錐定数は−２．７８０４６５である。

レンズ７３０は、レンズ７２０から像面方向に距離１．７７０７８９ｍｍ離れて設けられる。レンズ７３０の厚さは０．５２０４４３８ｍｍである。また、レンズ７３０の物体側表面の曲率半径は−０．６００２８９３ｍｍであり、物体側表面の断面半径は３．４８６５７２ｍｍであり、物体側表面の円錐定数は−９５８．９２８９である。また、レンズ７３０の像側表面の曲率は−０．３０１８１７９ｍｍであり、像側の断面半径は４．２６２５０４ｍｍであり、像側表面の円錐定数は−４６５．３０７１である。そして、像面は、レンズ７３０から距離１．１ｍｍ離れた位置に設定されている。

このように、複数のレンズ７１０、レンズ７２０、およびレンズ７３０は、各レンズの中心軸をそろえて同軸に配列されている。したがって、レンズ系１１０は、光軸に関して回転対称である。

また、像面の法線の角度と主光線が像面に入射する角度との差の絶対値は、レンズ系１１０の光学伝達関数の算出誤差を予め定められた値より小さくすべく、予め定められた値より小さい。このように、レンズ系１１０のテレセントリック性をより大きくすることによって、光学伝達関数の算出誤差を低減することができる。例えば、ＭＴＦを算出する場合に、ＦＦＴによっても十分小さい誤差でＭＴＦを算出することができる。このため、レンズ系１１０による画像のボケを高速に復元することが可能になる。

図４は、図３に示したレンズ系１１０の収差特性を示す。本図には、上から順に球面収差図、非点収差および歪曲収差図、および横収差図が示されている。最上段の球面収差図に示されるように、図３に示したレンズ系１１０の球面収差は過剰補正されている。なお、本図において、本球面収差図の横軸は設定された像面に対する位置を示しており、近軸焦点に対する位置を示していないことに注意すべきである。

図示されるように、像面の全面にわたって縦収差は正の値となっている。つまり、少なくとも、レンズ系１１０の入射瞳上において光軸から第１距離ほど離れた位置にある第１入射位置と光軸との間の範囲に入射した光に対して、縦収差の値は正の値となっている。

また、本図の最下段には、複数の像高における横収差を示すグラフが示されている。最左上のグラフは光軸上の横収差図を示しており、最右上のグラフは像高１４．１０ｍｍにおける横収差図を示す。また、最左下のグラフは像高１９．７４ｍｍにおける横収差図、最右下のグラフは像高２８．２０ｍｍにおける横収差図を示す。このように、レンズ系１１０の横収差は、各像高において略同一の形状を示している。

図５は、図３に示したレンズ系１１０の光学伝達特性を示す。本図には、上から順にスポットダイアグラムの像高およびデフォーカス依存性を示すスポットダイアグラム図、ＭＴＦのデフォーカス依存性、およびＭＴＦの空間周波数特性が示されている。

最上段のスポットダイアグラム図には、異なる複数の像高および異なる複数のデフォーカス量におけるスポットダイアグラムが示されている。本スポットダイアグラム図では、同一像高における、異なる複数のデフォーカス量での複数のスポットダイアグラムが横方向に並べられている。また、同一デフォーカス量における、異なる複数の像高における複数のスポットダイアグラムが縦方向に並べられている。

各スポットダイアグラムの左に数値で示された像高が示すように、本スポットダイアグラム図には、光軸上、光軸から１４．１０ｍｍ、光軸から１９．７４ｍｍ、および光軸から２０．２０ｍｍの位置の像高におけるスポットダイアグラムが含まれている。また、各スポットダイアグラムの下に数値で示されたデフォーカス量が示すように、本スポットダイアグラム図には、設定した像面から−７５μｍの位置、像面から−３７．５μｍの位置、像面の位置、像面から３７．５μｍの位置、および像面から７５μｍの位置におけるスポットダイアグラムが含まれている。

本スポットダイアグラム図が示すように、スポットダイアグラムの拡がりは、少なくとも予め定められた範囲の光軸方向の像面位置にわたって略同一であり、像高によらず略同一であることがわかる。このように、レンズ系１１０による物点からの光の拡がりは、予め定められた範囲の光軸方向の像面位置にわたって略同一となる。なお、光の拡がりとは、本図に示すようにスポットダイアグラムの拡がりであってよく、点像分布関数が示す光の拡がりであってもよい。このように、レンズ系１１０による物点からの光の拡がりは、像高によらず略同一であり、レンズ系１１０による物点からの光の拡がりは、少なくとも予め定められた範囲の光軸方向の像面位置にわたって略同一であることがわかる。

また、本図中段に示されるＭＴＦのデフォーカス依存性のグラフが示すように、複数の像高についても、サジタル光線及びメリジオナル光線についても、略同一のＭＴＦ値の分布を持つことが分かる。また、ＭＴＦは、少なくともグラフに示されるデフォーカスの範囲内では、略同一の値を示している。このように、広いデフォーカス範囲にわたってレンズ系１１０のＭＴＦは略同一の値をとる。

また、本図最下段のＭＴＦの空間周波数特性のグラフが示すように、レンズ系１１０は複数の像高についても、サジタル光線及びメリジオナル光線についても、略同一のＭＴＦ周波数特性を持つことが分かる。このように、レンズ系１１０のＭＴＦは、像高によらず略同一であるといえる。また、レンズ系１１０のＭＴＦは、予め定められた範囲の光軸方向の像面位置にわたって略同一となっているといえる。

このように、レンズ系１１０は、物点からの光を物点までの距離によらず受光部１２０において略同一の大きさに拡げることにより、物点からの光に対するレンズ系１１０の光学伝達関数を物点までの距離によらず略同一にする。具体的には、レンズ系１１０は、物点からの光を、物点までの距離によらず受光部１２０が有する複数の受光素子のピッチより大きい大きさに拡げる。そして、後述するように、階調処理部１８０は、レンズ系１１０が物点からの光をより大きく拡げる場合に、撮像画像をより狭いダイナミックレンジの画像に変換する。例えば、階調処理部１８０は、図３−５に関連して説明したレンズ系１１０が装着部１９０に装着されていることが検出された場合には、撮像画像をより狭いダイナミックレンジの画像に変換する。なお、ズーミングまたは絞りを変更することで、レンズ系１１０による光の拡がりが変わる。したがって、階調処理部１８０は、ズーム値または絞り値の少なくとも一方に応じて撮像画像を階調変換してよい。

図６は、レンズ特性記憶部１８５が格納しているレンズ特性情報の一例を示す。レンズ特性記憶部１８５は、レンズ系１１０を識別するＩＤ情報の一例としてのレンズＩＤに対応づけて、当該レンズＩＤで識別されるレンズ系１１０の空間周波数伝達特性の一例としての光学伝達関数データ（ＯＴＦデータ１、ＯＴＦデータ２・・・）を格納している。なお、ＯＴＦデータは、光学伝達関数そのものであってよく、図５の最下段に示したようなＭＴＦの空間周波数特性を示すデータであってもよい。

そして、空間周波数伝達特性特定部１７０は、レンズ情報取得部１６５がレンズ情報記憶部１１２から読み出したレンズＩＤに対応づけてレンズ特性記憶部１８５が格納しているＯＴＦデータを取得する。そして、空間周波数伝達特性特定部１７０は、ＯＴＦデータが示す光学応答を解析することによって、空間周波数伝達特性を特定する。

例えば、図３から図５に関連して説明したレンズ系１１０によると、図５の最下段のＭＴＦの空間周波数特性図が示すように、ＭＴＦは特に高周波領域において回折限界よりも著しく低くなっている。このことは、得られた撮像画像がボケることを示している。ボケた撮像画像の画素値は空間的に光量が平均化された値になっているので、ボケた撮像画像における最大輝度値と最小輝度値との間の差は、同じ被写体が撮像されたボケていない撮像画像に比べて小さいことが予測される。

したがって、撮像画像の画素値を所定のビット数でデジタル的に表す場合には、ビット数を有効に利用するという観点からは、ボケた撮像画像のダイナミックレンジをボケていない撮像画像よりも狭くすることが好ましい。撮像装置１０４によると、上述したように空間周波数伝達特性特定部１７０により特定された空間周波数伝達特性が、高周波数領域においてより低いことを示す場合には、γ処理等を調整することによって、ダイナミックレンジを狭くするので、ビット数を有効に利用することができる。なお、レンズ特性記憶部１８５が格納する空間周波数伝達特性としては、レンズ系１１０の光学応答の空間周波数依存性を示すものであればよく、本図に示したＯＴＦデータに限らない。

図７は、撮像画像を空間周波数解析することによって得られた空間周波数成分の一例を示す。本図に示されるように、周波数領域は、予め定められた周波数ｆ０を境に、周波数ｆ０より低い低周波数領域と、周波数ｆ０より高い高周波数領域とに分けられている。一例として、空間周波数伝達特性特定部１７０は、周波数ｆ０より高い高周波数領域の周波数成分のうち、予め定められた値より大きい周波数成分が存在するか否かを判断する。

空間周波数伝達特性特定部１７０が予め定められた値より大きい周波数成分が存在すると判断した場合には、階調処理部１８０は、撮像画像を予め定められたダイナミックレンジより狭いダイナミックレンジの画像に変換する。なお、空間周波数伝達特性特定部１７０は、高周波数領域の周波数成分の最大値を算出してもよい。そして、階調処理部１８０は、撮像画像を、空間周波数伝達特性特定部１７０によって算出された周波数成分の最大値に対応づけて予め定められているダイナミックレンジの画像に変換してもよい。

図８は、階調処理部１８０による階調処理の一例を示す。横軸は階調処理部１８０への入力画素値を示しており、縦軸は階調処理部１８０からの出力画素値を示す。階調処理部１８０は、入力画素値を、０から図示された出力最大値までの出力画素値に変換する。

一例として、階調処理部１８０は、レンズ系１１０の高周波伝達特性が低い場合には、線８１０に示される入出力関係で、入力画素値を出力画素値に変換する。この場合、解像することができる強度は、入力画素値が示すＩ１からＩ２までの範囲となり、入力された０から入力最大値までの階調範囲より狭くなる。このようにして、階調処理部１８０は、レンズ系１１０の高周波伝達特性がより低い場合に、より狭いダイナミックレンジの画素値に入力画素値を変換する。なお、階調処理部１８０は、レンズ系１１０の高周波伝達特性が低い場合には、例えば入力画素値が示すＩ１からＩ２までの範囲において、入出力関係を示す線の傾きを大きくしてよい。このようにしても、階調処理部１８０は、その他の階調領域よりも中階調領域に、単位階調あたりのビット値を多く割り当てることができる。

一方、階調処理部１８０は、レンズ系１１０の高周波伝達特性が高い場合には、線８２０に示される入出力関係で、入力画素値を出力画素値に変換する。このように、階調処理部１８０は、レンズ系１１０の高周波伝達特性が高い場合には、ダイナミックレンジを変化させない。なお、線８１０および線８２０が示す入出力関係は、出力部１５０から出力される出力機器の特性に応じて定められてよい。

このように、空間周波数伝達特性特定部１７０は、レンズ系１１０を含む撮像部により撮像された撮像画像の空間周波成分に基づいて、撮像部１０５の空間周波数伝達特性を特定する。そして、階調処理部１８０は、空間周波数伝達特性特定部１７０が特定した空間周波数特性がレンズ系１１０による物点からの光の拡がりがより大きい特性を示す場合に、撮像画像をより狭いダイナミックレンジの画像に変換する。

図９は、階調処理部１８０が階調処理する部分領域の一例を示す。階調処理部１８０は、撮像画像９００における特定の部分領域９１０については、補正部１４０が補正することによって得られた補正後の画像に対して階調処理する。一方、階調処理部１８０は、撮像画像９００における特定の部分領域９１０以外の領域については、受光部１２０の受光素子が受光した受光量から得られた画像、すなわち、補正部１４０によって補正されていない画像に対して階調処理する。階調処理等によって受光量に非線形な画素値に変換されていると、補正部１４０は光学伝達関数に基づく補正処理を適切に行うことができなくなってしまう。しかしながら、撮像装置１０４によると、特定の部分領域９１０については、光学伝達関数に基づく補正処理を施した後に階調処理が行われるので、レンズ系１１０によるボケが適切に補正された画像を生成することができる。なお、特定の部分領域９１０は、予め定められた画像領域であってよく、予め定められた画像特徴量を有する部分領域であってもよい。

図１０は、階調処理部１８０および補正部１４０における処理内容の一例を模式的に示す。ここでは、階調処理部１８０および補正部１４０における処理を、画像信号のｘ方向成分を参照して説明する。

ここで、画像信号１０１０は、被写体からの光がレンズ系１１０を通過して受光部１２０が受光して得られた画像信号を概念的に示している。画像信号１０００は、撮像装置１０４に光として入力される本来の画像信号を概念的に示している。本実施形態のレンズ系１１０によると、物点からの光はぼけた像となって結像される。このため、画像信号１０１０は、画像信号１０００の高空間周波数領域の信号成分がより強く低減されたものになっている。

ここで、階調処理部１８０は、受光部１２０から２４ビットで量子化された画像信号１０１０を取得するとする。階調処理部１８０は、画像信号１０１０を、低空間周波数の画像信号である低周波成分１０２１、および、高空間周波数の画像信号である高周波成分１０２２に分離する。なお、本図では、ＤＣ成分を除く低周波成分１０２１が概念的に示されている。また、高周波成分１０２２の振幅は、低周波成分１０２１の振幅より小さくなっているものとする。

階調処理部１８０は、低周波成分１０２１の振幅に応じた階調幅の低周波成分１０２１を１２ビット階調で量子化して、補正部１４０に供給する。また、階調処理部１８０は、高周波成分１０２２の振幅に応じた階調幅の高周波数成分１０２２を、１２ビット階調で量子化して、補正部１４０に供給する。低周波成分１０２１の振幅が高周波成分１０２２の振幅より大きい場合、階調処理部１８０は、低周波成分１０２１に対する量子化幅より小さい量子化幅で高周波成分１０２２を量子化することになる。このように、階調処理部１８０は、撮像画像に含まれるより高い空間周波数領域の画像成分をより小さい量子化幅で量子化することにより、撮像画像を階調変換する。

補正部１４０は、レンズ系１１０の光学伝達関数に対する逆フィルタ等により、低周波成分１０２１および高周波成分１０２２を空間周波数領域毎に補正する。そして、補正部１４０は、補正した低周波成分１０２１および高周波成分１０２２を合成して、得られた画像信号を補正された画像信号として生成する。この場合、補正部１４０は、補正後の高周波成分１０２２を１２ビットの画像信号に変換したものと、低周波成分１０２１とを合成することにより、補正された画像信号を生成してよい。補正部１４０において補正された画像信号は、階調処理部１８０に戻され、階調処理部１８０において輝度値に非線形な処理を含む各種の階調処理がなされる。

なお、階調処理部１８０による量子化幅は、レンズ系１１０の空間周波伝達特性に応じた値であってよい。例えば、量子化幅は、各空間周波数領域に対応するレンズ系１１０のＭＴＦ値に略反比例した値であってよい。このように、階調処理部１８０は、撮像画像に含まれる異なる空間周波数領域の画像成分を、レンズ系１１０の空間周波数伝達特性に応じた量子化幅で量子化することにより、撮像画像を階調変換してよい。なお、階調処理部１８０は、画像信号１０１０を、２より大きい数の空間周波数領域の画像信号に分解してよい。

上記したように、画像信号１０１０は低空間周波数領域より高空間周波数領域においてより強く低減されたものとなる。この場合、逆フィルタ等による復元処理は、高い空間周波数領域の画像信号をより大きく強調するものとなる。このため、全空間周波数領域にわたって同じ量子化幅で量子化された画像信号を復元したとすると、高い空間周波数領域において量子化ノイズがより顕著になってしまう場合がある。しかしながら、本実施形態における撮像装置１０４によると、階調処理部１８０がより高い空間周波数領域の画像信号をより小さい量子化幅で量子化してから復元処理をすることにより、全空間周波数領域にわたって同じ量子化幅で量子化された画像信号を復元する場合に比べて、復元処理前後における量子化ノイズの増加量を低減することができる場合がある。

図１１は、撮像装置１０４として機能するコンピュータ１５００のハードウェア構成の一例を示す。コンピュータ１５００は、ＣＰＵ周辺部と、入出力部と、レガシー入出力部とを備える。ＣＰＵ周辺部は、ホスト・コントローラ１５８２により相互に接続されるＣＰＵ１５０５、ＲＡＭ１５２０、グラフィック・コントローラ１５７５、及び表示デバイス１５８０を有する。入出力部は、入出力コントローラ１５８４によりホスト・コントローラ１５８２に接続される通信インターフェイス１５３０、ハードディスクドライブ１５４０、及びＣＤ−ＲＯＭドライブ１５６０を有する。レガシー入出力部は、入出力コントローラ１５８４に接続されるＲＯＭ１５１０、フレキシブルディスク・ドライブ１５５０、及び入出力チップ１５７０を有する。

ホスト・コントローラ１５８２は、ＲＡＭ１５２０と、高い転送レートでＲＡＭ１５２０をアクセスするＣＰＵ１５０５、及びグラフィック・コントローラ１５７５とを接続する。ＣＰＵ１５０５は、ＲＯＭ１５１０、及びＲＡＭ１５２０に格納されたプログラムに基づいて動作して、各部の制御をする。グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等がＲＡＭ１５２０内に設けたフレーム・バッファ上に生成する画像データを取得して、表示デバイス１５８０上に表示させる。これに代えて、グラフィック・コントローラ１５７５は、ＣＰＵ１５０５等が生成する画像データを格納するフレーム・バッファを、内部に含んでもよい。

入出力コントローラ１５８４は、ホスト・コントローラ１５８２と、比較的高速な入出力装置であるハードディスクドライブ１５４０、通信インターフェイス１５３０、ＣＤ−ＲＯＭドライブ１５６０を接続する。ハードディスクドライブ１５４０は、ＣＰＵ１５０５が使用するプログラム、及びデータを格納する。通信インターフェイス１５３０は、ネットワーク通信装置１５９８に接続してプログラムまたはデータを送受信する。ＣＤ−ＲＯＭドライブ１５６０は、ＣＤ−ＲＯＭ１５９５からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、及び通信インターフェイス１５３０に提供する。

入出力コントローラ１５８４には、ＲＯＭ１５１０と、フレキシブルディスク・ドライブ１５５０、及び入出力チップ１５７０の比較的低速な入出力装置とが接続される。ＲＯＭ１５１０は、コンピュータ１５００が起動時に実行するブート・プログラム、あるいはコンピュータ１５００のハードウェアに依存するプログラム等を格納する。フレキシブルディスク・ドライブ１５５０は、フレキシブルディスク１５９０からプログラムまたはデータを読み取り、ＲＡＭ１５２０を介してハードディスクドライブ１５４０、及び通信インターフェイス１５３０に提供する。入出力チップ１５７０は、フレキシブルディスク・ドライブ１５５０、あるいはパラレル・ポート、シリアル・ポート、キーボード・ポート、マウス・ポート等を介して各種の入出力装置を接続する。

ＣＰＵ１５０５が実行するプログラムは、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５、またはＩＣカード等の記録媒体に格納されて利用者によって提供される。記録媒体に格納されたプログラムは圧縮されていても非圧縮であってもよい。プログラムは、記録媒体からハードディスクドライブ１５４０にインストールされ、ＲＡＭ１５２０に読み出されてＣＰＵ１５０５により実行される。ＣＰＵ１５０５により実行されるプログラムは、コンピュータ１５００を、図１から図１０に関連して説明した受光部１２０、画像生成部１６０あるいは画像生成部１６０が有する各構成要素、および出力部１５０として機能させる。

以上に示したプログラムは、外部の記憶媒体に格納されてもよい。記憶媒体としては、フレキシブルディスク１５９０、ＣＤ−ＲＯＭ１５９５の他に、ＤＶＤまたはＰＤ等の光学記録媒体、ＭＤ等の光磁気記録媒体、テープ媒体、ＩＣカード等の半導体メモリ等を用いることができる。また、専用通信ネットワークあるいはインターネットに接続されたサーバシステムに設けたハードディスクまたはＲＡＭ等の記憶装置を記録媒体として使用して、ネットワークを介したプログラムとしてコンピュータ１５００に提供してもよい。このように、プログラムにより制御される電子情報処理装置などのコンピュータ１５００が撮像装置１０４として機能する。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

一実施形態に係わる撮像装置１０４のブロック構成の一例を示す図である。 レンズ系１１０の光学特性の一例を模式的に示す図である。 レンズ系１１０の構成例を示す図である。 図３に示したレンズ系１１０の収差特性を示す図である。 図３に示したレンズ系１１０の光学伝達特性を示す図である。 レンズ特性記憶部１８５が格納しているレンズ特性情報の一例を示す図である。 撮像画像を空間周波数解析することによって得られた空間周波数成分の一例を示す図である。 階調処理部１８０による階調処理の一例を示す図である。 階調処理部１８０が階調処理する部分領域の一例を示す図である。 階調処理部１８０および補正部１４０における処理内容の一例を模式的に示す図である。 撮像装置１０４として機能するコンピュータ１５００のハードウェア構成の一例を示す図である。

１０２ 光学ユニット
１０４ 撮像装置
１０５ 撮像部
１１０ レンズ系
１１２ レンズ情報記憶部
１２０ 受光部
１４０ 補正部
１４５ 画像処理部
１５０ 出力部
１６０ 画像生成部
１６５ レンズ情報取得部
１７０ 空間周波数伝達特性特定部
１８０ 階調処理部
１８５ レンズ特性記憶部
１９０ 装着部
２００ 光軸
２０５ 入射瞳
２１０ 光線
２２０ 光線
２３０ 光線
７００ 絞り
７１０ レンズ
７２０ レンズ
７３０ レンズ
１５０５ ＣＰＵ
１５１０ ＲＯＭ
１５２０ ＲＡＭ
１５３０ 通信インターフェイス
１５４０ ハードディスクドライブ
１５５０ フレキシブルディスク・ドライブ
１５６０ ＣＤ−ＲＯＭドライブ
１５７０ 入出力チップ
１５７５ グラフィック・コントローラ
１５８０ 表示デバイス
１５８２ ホスト・コントローラ
１５８４ 入出力コントローラ
１５９０ フレキシブルディスク
１５９５ ＣＤ−ＲＯＭ
１５９８ ネットワーク通信装置

Claims (24)

1. 光を結像する光学系の空間周波数伝達特性に応じた量子化幅で、前記光学系を通じて撮像された撮像画像に含まれる異なる空間周波数領域の画像成分を量子化することにより、前記撮像画像を階調変換する階調処理部
   を備え、
   前記階調処理部は、前記撮像画像に含まれるより高い空間周波数領域の画像成分をより小さい量子化幅で量子化することにより、前記撮像画像を階調変換する
   撮像装置。
2. 前記階調処理部は、前記撮像画像の画像信号を空間周波数成分に分離して、得られた第１空間周波数領域の画像成分および第２空間周波数領域の画像成分に対してそれぞれ量子化し、前記第２空間周波数領域より高い前記第１空間周波数領域の画像成分を量子化する場合に、前記第２空間周波数領域の画像成分を量子化する量子化幅より小さい量子化幅で量子化する
   請求項１に記載の撮像装置。
3. 前記光学系は、物点からの光を、前記光学系を通じて被写体からの光を受光する受光部において物点までの距離によらず略同一の大きさに拡げることにより、物点からの光に対する前記光学系の光学伝達関数を物点までの距離によらず略同一にし、
   前記撮像装置は、
   前記光学系の光学伝達関数に基づいて、前記光学系を通じて撮像された撮像画像に対して、前記光学系によるボケを補正する補正処理を施して、補正された画像信号を生成する補正部
   をさらに備え、
   前記補正部は、前記光学系の光学伝達関数に基づいて、前記階調処理部でそれぞれ階調変換された前記第１空間周波数領域の画像成分および前記第２空間周波数領域の画像成分を、空間周波数領域毎に補正し、得られた各空間周波数領域の画像成分を合成することにより、前記補正された画像信号を生成する
   請求項２に記載の撮像装置。
4. 前記光学系を通じて被写体からの光を受光する受光部
   をさらに備え、
   前記階調処理部は、前記受光部が設けられた位置における前記空間周波数伝達特性に応じた量子化幅で、前記受光部が受光した光により得られた前記撮像画像を量子化する
   請求項１から３のいずれか一項に記載の撮像装置。
5. 前記光学系の空間周波数伝達特性を示す情報を取得することにより、前記光学系の空間周波数伝達特性を特定する空間周波数伝達特性特定部
   をさらに備える請求項１から４のいずれか一項に記載の撮像装置。
6. 前記光学系を着脱することができる装着部
   をさらに備え、
   前記空間周波数伝達特性特定部は、前記装着部に装着された前記光学系の空間周波数伝達特性を示す情報を取得することにより、前記光学系の空間周波数伝達特性を特定する
   請求項５に記載の撮像装置。
7. 前記空間周波数伝達特性特定部は、前記装着部に装着された前記光学系の空間周波数伝達特性を示す情報を、前記光学系から取得することにより、前記光学系の空間周波数伝達特性を特定する
   請求項６に記載の撮像装置。
8. 前記光学系の光学伝達関数に基づいて、前記光学系を通じて撮像された撮像画像に対して、前記光学系によるボケを補正する補正処理を施して、補正された画像信号を生成する補正部
   をさらに備え、
   前記階調処理部は、前記撮像画像における特定の部分領域において、前記補正部による補正後の画像に対して輝度値に非線形な処理を含む階調処理を行い、前記撮像画像における前記特定の部分領域以外の領域において、前記補正部によって補正されていない、前記光学系を通じて被写体からの光を受光する受光部が受光した受光量から得られた画像に対して前記階調処理を行う
   請求項１または２に記載の撮像装置。
9. 前記階調処理部は、前記撮像画像における前記特定の部分領域以外の領域において、高周波数領域における前記空間周波数伝達特性がより低い場合に、前記撮像画像を、より狭いダイナミックレンジの画像に変換すべくガンマ補正する
   請求項８に記載の撮像装置。
10. 前記光学系は、物点からの光を、前記光学系を通じて被写体からの光を受光する受光部において物点までの距離によらず略同一の大きさに拡げることにより、物点からの光に対する前記光学系の光学伝達関数を物点までの距離によらず略同一にし、
    前記階調処理部は、前記撮像画像における前記特定の部分領域以外の領域において、前記光学系が物点からの光をより大きく拡げる場合に、前記撮像画像をより狭いダイナミックレンジの画像に変換すべくガンマ補正する
    請求項９に記載の撮像装置。
11. 前記光学系は、物点からの光を、物点までの距離によらず前記受光部が有する複数の受光素子のピッチより大きい大きさに拡げる
    請求項３または１０に記載の撮像装置。
12. 前記光学系をさらに備える
    請求項１から１１のいずれか一項に記載の撮像装置。
13. 光を結像する光学系の空間周波数伝達特性に応じた量子化幅で、前記光学系を通じて撮像された撮像画像に含まれる異なる空間周波数領域の画像成分を量子化することにより、前記撮像画像を階調変換する階調処理段階
    を備え、
    前記階調処理段階は、前記撮像画像に含まれるより高い空間周波数領域の画像成分をより小さい量子化幅で量子化することにより、前記撮像画像を階調変換する
    撮像方法。
14. 撮像装置用のプログラムであって、コンピュータを、
    光を結像する光学系の空間周波数伝達特性に応じた量子化幅で、前記光学系を通じて撮像された撮像画像に含まれる異なる空間周波数領域の画像成分を量子化することにより、前記撮像画像を階調変換する階調処理部
    として機能させ、
    前記階調処理部は、前記撮像画像に含まれるより高い空間周波数領域の画像成分をより小さい量子化幅で量子化することにより、前記撮像画像を階調変換する
    プログラム。
15. 撮像部により撮像された撮像画像の空間周波成分に基づいて、前記撮像部の空間周波数伝達特性を特定する空間周波数伝達特性特定部と、
    前記空間周波数伝達特性特定部により特定された前記空間周波数伝達特性に応じた量子化幅で、前記撮像画像に含まれる異なる空間周波数領域の画像成分を量子化することにより、前記撮像画像を階調変換する階調処理部と
    を備え、
    前記階調処理部は、前記撮像画像に含まれるより高い空間周波数領域の画像成分をより小さい量子化幅で量子化することにより、前記撮像画像を階調変換する
    画像処理装置。
16. 前記階調処理部は、前記撮像画像の画像信号を空間周波数成分に分離して、得られた第１空間周波数領域の画像成分および第２空間周波数領域の画像成分に対してそれぞれ量子化し、前記第２空間周波数領域より高い前記第１空間周波数領域の画像成分を量子化する場合に、前記第２空間周波数領域の画像成分を量子化する量子化幅より小さい量子化幅で量子化する
    請求項１５に記載の画像処理装置。
17. 前記空間周波数伝達特性特定部は、物点からの光を物点までの距離によらず略同一の大きさに拡げることにより、物点からの光に対する光学伝達関数を物点までの距離によらず略同一にする光学系を含む前記撮像部により撮像された撮像画像の空間周波成分に基づいて、前記撮像部の空間周波数伝達特性を特定し、
    前記画像処理装置は、
    前記空間周波数伝達特性特定部により特定された前記空間周波数伝達特性に基づいて、前記光学系を通じて撮像された撮像画像に対して、前記光学系によるボケを補正する補正処理を施して、補正された画像信号を生成する補正部
    をさらに備え、
    前記補正部は、前記空間周波数伝達特性特定部により特定された前記空間周波数伝達特性に基づいて、前記階調処理部でそれぞれ階調変換された前記第１空間周波数領域の画像成分および前記第２空間周波数領域の画像成分を、空間周波数領域毎に補正し、得られた各空間周波数領域の画像成分を合成することにより、前記補正された画像信号を生成する
    請求項１６に記載の画像処理装置。
18. 前記空間周波数伝達特性特定部は、前記撮像画像が示す撮像画像におけるより高い空間周波成分がより大きいほど、前記空間周波数伝達特性をより高く特定する
    請求項１５から１７のいずれか一項に記載の画像処理装置。
19. 前記空間周波数伝達特性特定部は、前記撮像画像が示す撮像画像において、予め定められた高周波数領域における空間周波成分が、予め定められた低周波数領域における空間周波数成分より大きいほど、前記空間周波数伝達特性をより高く特定する
    請求項１５から１７のいずれか一項に記載の画像処理装置。
20. 前記空間周波数伝達特性特定部により特定された前記空間周波数伝達特性に基づいて、前記撮像画像に対して、前記撮像部が含む光学系によるボケを補正する補正処理を施して、補正された画像信号を生成する補正部
    をさらに備え、
    前記階調処理部は、前記撮像画像における特定の部分領域において、前記補正部による補正後の画像に対して輝度値に非線形な処理を含む階調処理を行い、前記撮像画像における前記特定の部分領域以外の領域において、前記補正部によって補正されていない、前記撮像部において前記光学系を通じて被写体からの光を受光された受光量から得られた画像に対して前記階調処理を行う
    請求項１５または１６に記載の画像処理装置。
21. 前記階調処理部は、前記撮像画像における前記特定の部分領域以外の領域において、前記空間周波数伝達特性特定部が特定した空間周波数特性が高周波数領域においてより低い場合に、前記撮像画像を、より狭いダイナミックレンジの画像に変換すべくガンマ補正する
    請求項２０に記載の画像処理装置。
22. 前記空間周波数伝達特性特定部は、物点からの光を物点までの距離によらず略同一の大きさに拡げることにより、物点からの光に対する光学伝達関数を物点までの距離によらず略同一にする光学系を含む前記撮像部により撮像された撮像画像の空間周波成分に基づいて、前記撮像部の空間周波数伝達特性を特定し、
    前記階調処理部は、前記空間周波数伝達特性特定部が特定した空間周波数特性が前記光学系による物点からの光の拡がりがより大きい特性を示す場合に、前記撮像画像をより狭いダイナミックレンジの画像に変換すべくガンマ補正する
    請求項２１に記載の画像処理装置。
23. コンピュータを、請求項１５から２２のいずれか一項に記載の画像処理装置として機能させるためのプログラム。
24. 撮像部により撮像された撮像画像の空間周波成分に基づいて、前記撮像部の空間周波数伝達特性を特定する空間周波数伝達特性特定段階と、
    前記空間周波数伝達特性特定段階において特定された前記空間周波数伝達特性に応じた量子化幅で、前記撮像画像に含まれる異なる空間周波数領域の画像成分を量子化することにより、前記撮像画像を階調変換する階調処理段階と
    を備え、
    前記階調処理段階は、前記撮像画像に含まれるより高い空間周波数領域の画像成分をより小さい量子化幅で量子化することにより、前記撮像画像を階調変換する
    画像処理方法。

Images