JP3826174B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP3826174B2 JP3826174B2 JP2001206991A JP2001206991A JP3826174B2 JP 3826174 B2 JP3826174 B2 JP 3826174B2 JP 2001206991 A JP2001206991 A JP 2001206991A JP 2001206991 A JP2001206991 A JP 2001206991A JP 3826174 B2 JP3826174 B2 JP 3826174B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- luminance
- unit
- color
- wavelength component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Processing Of Color Television Signals (AREA)
Description
【発明の属する技術分野】
本発明は被写体の分光情報を正確に推定できる撮像装置に関する技術である。
【0002】
【従来の技術】
ディジタル化と集積技術の進歩によって、高精細画像を取得できるビデオカメラ、デジタルカメラ、スチルカメラ、スキャナなどの撮像装置の開発が盛んである。カラーマネジメントの観点から見ると、撮像装置は被写体の測色値、あるいは分光情報を正確に取り込む必要があり、撮像素子の出力信号から被写体の測色値、あるいは分光情報を推定する推定精度の向上が鍵となる。円滑な色情報交換のために、近年のデジタルカメラではsRGB信号を標準信号として出力することが主流となっている。
【0003】
しかし、R、G、Bの3つの色フィルタを持つ撮像素子の出力信号を線形変換して被写体の測色値を正確に求めるには、色フィルタの分光透過率分布が等色関数の線形結合で表現できる、いわゆるルーター条件を満たす必要がある。ルーター条件が満たせない場合には、撮像素子の出力信号に非線形変換を施す必要がある。これは、正確な測色的推定が困難な場合が多く、sRGB信号への変換誤差が生じやすい。仮に測色的推定が正確に実現できても、条件等色の問題が残り、被写体の分光反射率を正確に推定することが望まれる。
【0004】
しかし、被写体の分光反射率を400nmから700nmの可視域で10nmおきに離散的に推定する場合、分光反射率ベクトルは31次元ベクトルとなる。よって、分光反射率ベクトルの次元数(つまり31)と撮像素子のチャネル(つまり3)の違いから、3バンドカメラでの分光反射率推定が容易でないことが理解できる。
【0005】
以上のように、R、G、Bの3つの色フィルタを用いた3バンド撮像装置では、正確な色情報推定が困難であるため、バンド数を増やしたマルチバンド撮像装置が有効な手段となる。
【0006】
たとえば杉浦らは、「分光画像の入力系システム(カラーフォーラムJAPAN‘99、P65−P72)」で、5枚のバンドパスフィルタと1つの撮像素子を用いて時分割方式でマルチバンド画像を撮影するマルチバンドカメラの技術を開示している。このようにバンド数を増やせば、分光推定の精度は向上するが、子の方法は時分割撮影方式のため、撮影回数が増加する問題が発生する。
【0007】
そこで、近年、バンド数と色推定精度のトレードオフに関連した研究(たとえば、村上ら「正確な色再現が可能なカラー画像システムの開発(カラーフォーラムJAPAN‘99、P5−P8)」など)が盛んに行われ、5バンドから10バンド程度が適当とする研究報告がなされている。
【0008】
しかし、時分割方式はバンド数の分だけ撮影時間が長くなり、動く被写体を撮影することが困難になる。そこで、特開平4−329322号公報には、バンドパスフィルタごとに撮像素子を設け、マルチバンド画像を同時撮影する技術が開示されている。
【0009】
【発明が解決しようとする課題】
しかしながら上記の従来の同時撮影方式マルチバンド撮像装置においては、以下のような課題を残す。
【0010】
近年の学会への研究報告では、上述したように、正確な被写体の分光反射率推定には少なくとも5バンド以上は必要であるとしている。そこで、バンドパスフィルタごとに撮像素子を設ける方式では、最低でも5つの撮像素子が必要である。さらに、撮像レンズから入力した光を5つの光路に分ける色分解光学系が必要になり、装置サイズと重量の増大を招く。また、色分解光学系のサイズが大きくなると、撮像レンズから撮像素子までの距離が長くなり、その結果、撮像レンズの口径の増大をも併発し、撮像装置のコストアップを引き起こす。
【0011】
本発明は、かかる点に鑑みてなされたもので、被写体の分光情報を推定するに必要なバンド数よりも少ない数の撮像素子で、必要なバンド数のマルチバンド画像を同時に撮影することを目的とする。
【0012】
【課題を解決するための手段】
この目的を達成するために本発明は、撮像レンズから入力した光をハーフミラーで2つの光路に分割し、一方の光から輝度画像を生成し、他方の光を短波長成分と長波長成分に分割し、短波長成分の光および長波長成分の光からそれぞれ被写体の分光情報を推定し、推定した被写体の分光情報から算出した測色値の明度情報を明度信号変換部の変換した明度信号にセル単位で置換するようにした。
【0013】
これにより、視覚系の解像力の高い輝度成分情報を高精細に保ちつつ、分光推定に必要なバンド数より少ない数の撮像素子で複数バンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能となる。
【0014】
【発明の実施の形態】
本発明の第1の態様にかかる撮像装置は、撮像レンズからの光を2つの光路に分割するハーフミラーと、前記ハーフミラーで分割された一方の光を受光して前記被写体の輝度情報を取得する輝度撮像素子と、前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、前記輝度信号を明度信号に変換する明度信号変換部と、前記ハーフミラーで分割された他方の光を短波長成分と長波長成分に分割するダイクロイックミラーと、前記短波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する短波長成分撮像素子と、前記長波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する長波長成分撮像素子と、前記短波長成分撮像素子と前記長波長成分撮像素子の出力する前記色信号から被写体の分光情報を推定する被写体分光情報推定部と、前記分光情報から算出した測色値の明度情報を前記明度信号変換部の変換した明度信号に前記受光セル単位で置換するセル単位明度信号置換部と、を具備する構成を採る。
【0015】
このように、視覚系の解像力の高い明度成分情報を前記輝度撮像素子で高精細に取得し、同時に前記短波長成分撮像素子と前記長波長成分撮像素子から取得された測色値の明度成分のみを前記輝度撮像素子からの明度成分情報で撮像素子の受光セル単位に置換することによって、前記短波長成分撮像素子と前記長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない2つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【0016】
本発明の第2の態様にかかる撮像装置は、撮像レンズからの光を2つの光路に分割するハーフミラーと、前記ハーフミラーで分割された一方の光を受光して前記被写体の輝度情報を取得する輝度撮像素子と、前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、前記輝度信号を明度信号に変換する明度信号変換部と、前記ハーフミラーで分割された他方の光を短波長成分と長波長成分に分割するダイクロイックミラーと、前記短波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する短波長成分撮像素子と、前記長波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する長波長成分撮像素子と、前記短波長成分撮像素子と前記長波長成分撮像素子の出力する前記色信号から被写体の分光情報を推定する被写体分光情報推定部と、前記分光情報から算出した測色値を前記輝度信号により前記受光セル単位でスケーリングするセル単位測色値スケーリング部と、を具備する構成を採る。
【0017】
このように、視覚系の解像力の高い輝度成分情報を前記輝度撮像素子で高精細に取得し、同時に前記短波長成分撮像素子と前記長波長成分撮像素子から取得された測色値を前記輝度撮像素子からの輝度成分情報で撮像素子の受光セル単位にスケーリングすることによって、前記短波長成分撮像素子と前記長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない2つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【0018】
本発明の第3の態様は、第1の態様または第2に態様にかかる撮像装置において、前記短波長成分撮像素子全体の前記色フィルタの配置は隣接する複数の前記セルからなる単位ブロックの繰り返しパターンとなっていて、前記短波長成分撮像素子の前記色フィルタは前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内におけるすべての前記色フィルタの分光透過率分布を組み合わせると前記短波長成分の光の波長帯域をカバーする。
【0019】
このように、ダイクロイックミラーが分割した短波長成分の光を無駄なく受光し、視覚系の解像力の低い色成分情報を単位ブロックごとで取得することにより、1つに撮像素子で複数のマルチバンド画像を撮影できる作用を有する。
【0020】
本発明の第4の態様は、第1の態様または第2の態様にかかる撮像装置において、前記長波長成分撮像素子全体の前記色フィルタの配置は隣接する複数の前記セルからなる単位ブロックの繰り返しパターンとなっていて、前記長波長成分撮像素子の前記色フィルタは前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内におけるすべての前記色フィルタの分光透過率分布を組み合わせると前記長波長成分の光の波長帯域をカバーする。
【0021】
このように、ダイクロイックミラーが分割した長波長成分の光を無駄なく受光し、視覚系の解像力の低い色成分情報を単位ブロックごとで取得することにより、1つに撮像素子で複数のマルチバンド画像を撮影できる作用を有する。
【0022】
本発明の第5の態様にかかる撮像装置は、撮像レンズからの光を2つの光路に分割するハーフミラーと、前記ハーフミラーで分割された一方の光を受光して前記被写体の輝度情報を取得する輝度撮像素子と、前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、前記輝度信号を明度信号に変換する明度信号変換部と、前記ハーフミラーで分割された他方の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する色撮像素子と、前記色信号から被写体の分光情報を推定する被写体分光情報推定部と、前記分光情報から算出した測色値のうち、明度情報だけを前記明度信号変換部の変換した明度情報に前記受光セル単位で置換するセル単位明度信号置換部と、を具備する構成を採る。
【0023】
このように、視覚系の解像力の高い明度成分情報を前記輝度撮像素子で高精細に取得し、同時に前記短波長成分撮像素子と前記長波長成分撮像素子から取得された測色値の明度成分のみを前記輝度撮像素子からの明度成分情報で撮像素子の受光セル単位に置換することによって、前記短波長成分撮像素子と前記長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない1つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【0024】
本発明の第6の態様にかかる撮像装置は、撮像レンズからの光を2つの光路に分割するハーフミラーと、前記ハーフミラーで分割された一方の光を受光して前記被写体の輝度情報を取得する輝度撮像素子と、前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、前記輝度信号を明度信号に変換する明度信号変換部と、前記ハーフミラーで分割された他方の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する色撮像素子と、前記色信号から被写体の分光情報を推定する被写体分光情報推定部と、前記分光情報から算出した測色値を前記輝度信号により前記受光セル単位でスケーリングするセル単位測色値スケーリング部と、を具備する構成を採る。
【0025】
このように、視覚系の解像力の高い輝度成分情報を前記輝度撮像素子で高精細に取得し、同時に前記短波長成分撮像素子と前記長波長成分撮像素子から取得された測色値を前記輝度撮像素子からの輝度成分情報で撮像素子の受光セル単位にスケーリングすることによって、前記短波長成分撮像素子と前記長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない1つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【0026】
本発明の第7の態様は、第5の態様または第6の態様にかかる撮像装置において、前記色撮像素子は、撮像素子の受光セルごとに色フィルタを通して光を受光し、前記色フィルタは隣接する複数の受光セルを単位ブロックとして、前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内のすべての色フィルタを組み合わせると撮像レンズから入射した波長帯域をカバーする分光透過率分布を持ち、色撮像素子全体の色フィルタの配置は、前記単位ブロックの繰り返しパターンとなっている。
【0027】
このように、ハーフミラーが分割した光を無駄なく受光し、視覚系の解像力の低い色成分情報を単位ブロック単位で取得することにより、1つに撮像素子で複数のマルチバンド画像を撮影できる。
【0028】
本発明の第8の態様は、第1の態様から第7の態様のいずれかにかかる撮像装置において、前記単位ブロックは、縦2セル、横2セルからなり、前記被写体分光情報推定部は、前記単位ブロックごとに被写体の分光情報を推定する。
【0029】
これにより、1つの撮像素子で単位ブロックごとに4つのマルチバンド画像が同時に撮影できる作用を有する。
【0030】
本発明の第9の態様は、第1の態様から第7の態様のいずれかにかかる撮像装置において、前記単位ブロックの縦方向の位置は、前記単位ブロックの1ライン目が画像走査の走査ラインと一致するように決定される。
【0031】
これにより、撮像装置の出力信号をラインメモリへ一時的に保持することなくストリーム形式で出力でき、かつ被写体の分光情報を走査ラインごとに緻密の推定できる作用を有する。
【0032】
本発明の第10の態様は、第1の態様から第7の態様のいずれかにかかる撮像装置において、前記単位ブロックは縦nセルから構成されており、前記単位ブロック内の(n−1)ラインに相当する外部出力信号をラインメモリに記憶し、前記単位ブロック内の第2ライン以降の前記外部出力信号を前記ラインメモリから出力する。
【0033】
これにより、受光セル単位でnライン分同時に生成されるマルチバンド画像のうち、第1ラインはラインメモリを介さず出力し、第2ライン以降の(n−1)ラインは画像走査の同期に合わせてラインメモリから出力して、様々な走査方式に対応できる作用を有する。
【0034】
本発明の第11の態様は、第1の態様、第2の態様、第5の態様または第6の態様のいずれかにかかる撮像装置において、照明の分光情報を記憶した照明分光情報記憶部と、前記照明分光情報記憶部に保持した前記照明の分光情報を用いて被写体の測色値を算出する測色値変換部と、を具備し、前記セル単位明度信号置換部あるいは前記セル単位測色値スケーリング部は、前記被写体分光情報推定部が推定した被写体の分光情報と、前記測色値変換部から測色値情報を入手する。
【0035】
これにより、撮像素子の受光セル単位で置換される明度を持つ測色値、あるいはスケーリングされる測色値を被写体の分光情報と照明の分光情報から算出できる作用を有する。
【0036】
本発明の第12の態様は、第1の態様、第2の態様、第5の態様または第6の態様のいずれかにかかる撮像装置において、前記セル単位明度信号置換部あるいはセル単位測色値スケーリング部が前記受光セルごとに算出した測色値を表示デバイスの輝度リニアドライブレベルに変換する原色変換部と、前記原色変換部の出力から前記表示デバイスのガンマ特性を補正するガンマ補正部と、前記ガンマ補正部の出力から輝度・色差信号を算出する輝度・色差信号変換部と、を具備した構成を採る。
【0037】
これにより、撮像素子の受光セル単位で明度が置換された測色値、あるいはスケーリングされた測色値を表示デバイスのガンマ補正処理を含んだ輝度・色差信号に変換できる作用を有する。
【0038】
本発明の第13の態様は、第1の態様、第2の態様、第5の態様または第6の態様のいずれかにかかる撮像装置において、前記セル単位明度信号置換部あるいはセル単位測色値スケーリング部が前記受光セルごとに算出した測色値を表示デバイスの輝度リニアドライブレベルに変換する原色変換部と、前記原色変換部の出力から輝度・色差信号を算出する輝度・色差信号変換部と、を具備した構成を採る。
【0039】
これにより、撮像素子の受光セル単位で明度が置換された測色値、あるいはスケーリングされた測色値を、輝度・色差信号に輝度線形性を保ったまま変換できる作用を有する。
【0040】
本発明の第14の態様は、第1の態様、第2の態様、第5の態様または第6の態様のいずれかにかかる撮像装置において、セル単位明度信号置換部あるいはセル単位測色値スケーリング部が前記受光セルごとに算出した測色値を明度成分と色差成分に変換する明度・色差信号変換部を具備した構成を採る。
【0041】
これにより、撮像素子の受光セル単位で明度が置換された測色値、あるいはスケーリングされた測色値を明度・色差信号に明度線形性を保ったまま変換できる作用を有する。
【0042】
本発明の第15の態様は、第12の態様または第13の態様にかかる撮像装置において、前記輝度・色差信号変換部は、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成し、前記デバイスドライブ信号あるいは前記輝度リニアデバイスドライブ信号の構成要素のうち、前記線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから前記輝度信号を差し引いた差分値を色差信号とし、前記輝度信号と色差信号を出力する。
【0043】
これにより、表示デバイスに特別な処理部を設けることになくデバイスドライブ信号と発光色の輝度の線形性を確保し、かつデバイスドライブ信号よりも帯域の小さい輝度・色差信号での信号伝送を可能にする作用を有する。
【0044】
本発明の第16の態様は、第14の態様にかかる撮像装置において、前記明度・色差信号変換部は、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成し、前記デバイスドライブ信号あるいは前記輝度リニアデバイスドライブ信号の構成要素のうち、前記線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから前記輝度信号を差し引いた差分値を色差信号とし、前記輝度信号を指数関数によって明度信号に変換し、前記明度信号と前記色差信号を出力する。
【0045】
これにより、映像表示デバイスに特別な処理部を設けることになくデバイスドライブ信号と発光色の明度の線形性を確保し、かつデバイスドライブ信号よりも帯域の小さい明度・色差信号での信号伝送を可能にする作用を有する。
【0046】
本発明の第17の態様は、第15の態様または第16の態様にかかる撮像装置において、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がR、G、Bの3バンドからなるか、あるいは輝度リニアデバイスドライブ信号がR、G、Bの3バンドからなるとき、Rバンドの寄与率を0.30、Gバンドの寄与率を0.59、Bバンドの寄与率を0.11とした線形和で輝度信号を算出する。
【0047】
これにより、EIA−RS 170A方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする作用を有する。
【0048】
本発明の第18の態様は、第15の態様または第16の態様にかかる撮像装置において、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がR、G、Bの3バンドからなるか、あるいは輝度リニアデバイスドライブ信号がR、G、Bの3バンドからなるとき、Rバンドの寄与率を0.299、Gバンドの寄与率を0.587、Bバンドの寄与率を0.114とした線形和で輝度信号を算出する。
【0049】
これにより、SMPTE 170M方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする作用を有する。
【0050】
本発明の第19の態様は、第15の態様または第16の態様にかかる撮像装置において、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がR、G、Bの3バンドからなるか、あるいは輝度リニアデバイスドライブ信号がR、G、Bの3バンドからなるとき、Rバンドの寄与率を0.2126、Gバンドの寄与率を0.7152、Bバンドの寄与率を0.0722とした線形和で輝度信号を算出する。
【0051】
これにより、ITU−R Rec.BT.709−3方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする作用を有する。
【0052】
本発明の第20の態様にかかる色分解光学系は、入射光を2つの光路に分割するハーフミラーを備えた第一の光学プリズムと、前記第一の光学プリズムで分割された一方の光を短波長成分のみ反射するダイクロイックミラーを備えた第二の光学プリズムと、前記第二の光学プリズムで透過した長波長成分を透過する第三の光学プリズムと、前記第一の光学プリズムと前記第二の光学プリズムとの間にエアギャップと、を具備する構成を採る。
【0053】
この構成により、被写体からの光を輝度成分と短波長、長波長の2つの色成分に分割する色分解光学系を3つの光学プリズムの容積分だけに小型化できる作用を有する。
【0054】
本発明の第21の態様は、第20の態様にかかる色分解光学系において、前記第三の光学プリズムは、長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタを具備する構成を採る。
【0055】
この構成により、赤外光に感度を持つ撮像素子からのノイズを簡単な構成で抑制できる作用を有する。
【0056】
本発明の第22の態様にかかる色分解光学系は、入射光を2つの光路に分割するハーフミラーを備えた第一の光学プリズムと、前記第一の光学プリズムで分割された一方の光を長波長成分のみ反射するダイクロイックミラーを備えた第二の光学プリズムと、前記第二の光学プリズムで透過した短波長成分を透過する第三の光学プリズムと、前記第一の光学プリズムと前記第二の光学プリズムの間にエアギャップと、を具備する構成を採る。
【0057】
この構成により、被写体からの光を輝度成分と色成分に分割する色分解光学系を2つの光学プリズムの容積分だけに小型化できる作用を有する。
【0058】
本発明の第23の態様は、第22の態様にかかる色分解光学系において、前記第二の光学プリズムは、反射された長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタを具備する構成を採る。
【0059】
この構成により、赤外光に感度を持つ撮像素子からのノイズを簡単な構成で抑制できる作用を有する。
【0060】
(実施の形態1)
以下、本発明の実施の形態1にかかる撮像装置であるマルチバンドビデオカメラについて説明する。まず、実施の形態1における3つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステムについて図1を用いて説明する。図1は、本発明の実施の形態1における3つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成図である。
【0061】
被写体からの光は、撮像レンズ101を通して色分解光学系102に入る。そして、色分解光学系102が、入射された光を第一の光路、第二の光路、および第三の光路の、3光路に分割する。
【0062】
第一の光路には、分光特性として撮像レンズ101を通過した光と同一の光が供給される。第一の光路上には、輝度撮像素子103が配置されていて、第一の光路の光は輝度撮像素子103に入射される。輝度撮像素子103は、受光セルごとに入射された光に対応する信号を明度信号変換部105に出力する。輝度撮像素子103の受光セルごとに出力される信号値は、輝度信号生成部104で輝度信号として調整されて、明度信号変換部105に出力される。そして、明度信号変換部105は、入力された輝度信号を、指数関数を用いて明度信号に変換し、出力する。
【0063】
第二の光路には、分光特性として撮像レンズ101を通過した光の短波長成分が供給される。そして、第二の光路上には、短波長成分撮像素子106が配置されていて、第二の光路の光は短波長成分撮像素子106に入射される。第三の光路には、分光特性として撮像レンズ101を通過した光の長波長成分が供給される。そして、第三の光路上には長波長成分撮像素子107が配置されていて、第三の光路の光は長波長成分撮像素子107に入射される。ただし、第二の光路の光と第三の光路の光は、色分解光学系102で撮像レンズ101を通過した光をもとに分光的に分割したもので、これら2つの光の、波長帯域の和は、撮像レンズ101を通過した光の波長帯域に一致する。
【0064】
短波長成分撮像素子106は、受光セルに密接した分光透過率分布の互いに異なる複数の色フィルタを介して光を受光する。そして、短波長成分撮像素子106は、受光セルごとに入射された光に対応する色信号を短波長成分色信号処理部108に出力する。短波長成分色信号処理部108は、入力された色信号値から色フィルタの種類の数だけのマルチバンド画像を同時に生成する。同様に長波長成分撮像素子107は受光セルに密接した分光透過率分布の互いに異なる複数に色フィルタを介して光を受光し、長波長成分色信号処理部109で色フィルタの種類の数だけのマルチバンド画像を同時に生成する。
【0065】
短波長成分色信号処理部108と長波長成分色信号処理部109で生成されたマルチバンド画像はともに被写体分光情報推定部110へ供給され、被写体の分光情報が推定される。被写体の分光情報とは、被写体が自発光体である場合は、発光スペクトルの推定であり、被写体が照明の光を反射する反射物体である場合は分光反射率となる。また、被写体分光情報推定部110による推定結果の分光情報は、分光情報出力端子111を介してカメラ外部へ出力できる。被写体分光情報推定部110が推定した被写体の分光情報は、測色値変換部112に与えられる。
【0066】
測色値変換部112は、入力された分光情報を、CIEXYZ三刺激値を経てたとえばCIELAB値のような明度成分(つまりL*)と色味成分(つまりa*、b*)に分離された測色値に変換する。ただし、測色値の算出に必要な照明の分光情報は予め、照明分光情報記憶部113に格納されていて、照明分光情報記憶部113から測色値変換部112へ与えられる。測色値変換部112で算出された測色値は、セル単位明度信号置換部114へ入力される。
【0067】
セル単位明度信号置換部114は、測色値変換部112から出力された測色値のうち、明度成分のみ、明度信号変換部105において受光セル単位で生成された明度信号と置き換える。
【0068】
また、撮像した被写体の色情報を測色値として取り出したい場合は、測色値出力端子115を介してカメラ外部へ出力できる。セル単位明度信号置換部114から出力された受光セル単位の測色値は、原色変換部116で映像表示デバイスが持つ原色系の信号へ変換される。また、原色変換部116の出力である輝度リニアデバイスドライブ信号はガンマ補正部117において、映像表示デバイスのガンマ特性を相殺するような逆ガンマ特性を施し、デバイスドライブ信号としてデバイスドライブ信号用ラインメモリ118と輝度・色差信号変換部119へ供給される。輝度・色差信号変換部119はデバイスドライブ信号を輝度信号と色差信号に変換して輝度・色差信号用ラインメモリ120に出力される。
【0069】
デバイスドライブ信号用ラインメモリ118と輝度・色差信号用ラインメモリ120の2種類のラインメモリは、走査方式の違いに対応するために設けられており、短波長成分撮像素子106と、長波長成分撮像素子107の持つ色フィルタの配列に応じて動作が決まる。そこで、撮像素子の持つ色フィルタの説明の後、詳細に説明を行う。さらに、デバイスドライブ信号用送信機121と輝度・色差信号用送信機122は様々な通信プロトコルに対応するために設けられていて、マルチバンドビデオカメラの撮影映像信号をディスプレイ等の受信デバイスへ定められたプロトコルに則って出力する。
【0070】
次に、色分解光学系102、輝度撮像素子103、短波長成分撮像素子106、長波長成分撮像素子107、被写体分光情報推定部110、測色値変換部112、セル単位明度信号置換部114、原色変換部116、ガンマ補正部117、輝度・色差信号変換部119、デバイスドライブ信号用ラインメモリ118、輝度・色差信号信号用ラインメモリ120について順を追って詳細に説明する。
【0071】
第一に、色分解光学系102について、図2を用いて詳細に説明する。図2は、実施の形態1にかかる色分解光学系の内部構造を説明する図である。
【0072】
色分解光学系102は、被写体からの光を3つの光学プリズムを用いて、輝度成分、短波長成分、超波長成分の3つの成分に分解する。
【0073】
色分解光学系102は、三角プリズムである第1光学プリズム202と、三角プリズムである第2光学プリズム209と、台形プリズムである第3光学プリズム216とから構成される。
【0074】
第1光学プリズム202は、撮像レンズ101からの入射光201に垂直に配置され、入射光201が入射される入射面である第1面206と、第1面206の長波長成分撮像素子107側と接続され面の法線が輝度撮像素子103側に所定の角度傾いた入射光201の半透過面(第2面)であるハーフミラー203と、第1面206の輝度撮像素子103側と接続され、面法線が輝度撮像素子103の方向に垂直な透過面である第3面207と、から構成される。
【0075】
ハーフミラー203は、入射光201を、反射光である第1反射光204と、透過光である第1透過光205の、2つの光に分割する。また、ハーフミラー203には波長選択性はなく、分割された2つの光、第1反射光204と第1透過光205は同じ分光分布を持つ。
【0076】
第1反射光204は、ハーフミラー203の法線が輝度撮像素子103側に傾いているため、入射光201に対して輝度撮像素子103側に傾いて進む。そして、第1反射光204は、第1光学プリズム202の第1面206に臨界角以上で入射し、すべての第1反射光204が第1面206で反射されて、第3面207の方向に進む。そして、第1反射光204は、第3面207を透過し輝度撮像素子103へ入射する。
【0077】
一方、第1透過光205は、第1光学プリズム202と、エアギャップ208を介して配置された第2光学プリズム209へ入射される。
【0078】
第2光学プリズム209は、第1透過光205の入射される透過面であり、エアギャップ208を介して第1光学プリズム202のハーフミラー203と平行に配置された第1面213と、第1面213の輝度撮像素子103側と接続され面の法線が長波長成分撮像素子107側に所定の角度傾いた第1透過光205の半透過面(第2面)である長波長成分反射ダイクロイックミラー210と、第1面213の長波長成分撮像素子107側と接続され、面法線が長波長成分撮像素子107側に垂直な透過面である第3面214と、から構成される。
【0079】
長波長成分反射ダイクロイックミラー210は、第1透過光205を、光を短波長成分と長波長成分の2つの光に分割し、長波長成分の光である第2反射光211を反射し、短波長成分の光である第2透過光212を透過する。
【0080】
第2反射光211は、第2光学プリズム209の第1面213に臨界角以上で入射する。第1面213と第1光学プリズム202との間にはエアギャップ208があるので、第2反射光211のすべての光が第1面213で反射されて、第3面214を介して長波長成分撮像素子107へ入射する。また、第2面214には、赤外吸収フィルタ215が蒸着されており、赤外域に感度を持つ撮像素子のノイズを抑制する。
【0081】
また、第2透過光212は、第3光学プリズム216に入射される。第3光学プリズム216は、第2光学プリズム209の長波長成分反射ダイクロイックミラー210と接触した透過面である第1面217と、第1面217と所定間隔あけて、短波長成分撮像素子106と水平に配置された第2面218と、第2面218と垂直にかつ第1面217と接触する第3面219および第4面220と、から構成されている。
【0082】
長波長成分反射ダイクロイックミラー210の反射と透過の境界の波長、いわゆるカットオフ波長は、光の損失を最小限にするために、長波長成分撮像素子107の受光セルが持つ色フィルタの透過域のみを反射するように設定する。以上の構成により、被写体からの光を3つの光学プリズムを用いて、輝度成分と短波長、長波長の2つの色成分に分解でき、3つの光学プリズムの容積分だけに小型化できる。
【0083】
第2透過光212は、第3光学プリズム216の第1面から入射し、第3光学プリズム216により結像し、第2面217を透過して短波長成分撮像素子106へ入射する。
【0084】
なお、ハーフミラー203で2つに分割される第1反射光204と第1透過光205の光量の割合は、3つの撮像素子、輝度撮像素子103、短波長成分撮像素子106、長波長成分撮像素子107の感度特性に応じて最適化することが望ましい。また、長波長成分反射ダイクロイックミラー210は長波長成分透過ダイクロイックミラーであっても構わない。ただし、この場合、短波長成分撮像素子106と長波長成分撮像素子107の位置が入れ替わり、同時に赤外吸収フィルタも第3光学プリズムに設置される。
【0085】
第二に、輝度撮像素子103、短波長成分撮像素子106、長波長成分撮像素子107について、図3を用いて詳細に説明する。図3は、実施の形態1にかかる、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の受光セルと色フィルタの構造を説明する概念図である。
【0086】
図3(a)は、撮像素子を側面から見た模式的構造図であり、輝度撮像素子103、短波長成分撮像素子106、長波長成分撮像素子107に共通する図である。基板301の上に、複数の受光セル302が並んで配置されている。複数の受光セル302上には、それぞれ分光透過率分布の互いに異なる複数の色フィルタ303が密接して配置されている。
【0087】
短波長成分撮像素子106、長波長成分撮像素子107は、色フィルタ303を通して、受光セル302で光を受ける。ただし、輝度撮像素子103は、色フィルタ302を持たず、波長選択性なしに受光する。
【0088】
図3(b)は、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の色フィルタの配列を示す概念図である。
【0089】
輝度撮像素子103は、色フィルタを持たないため、仮にLと示した。短波長成分撮像素子106はf1からf4で示される4種類の色フィルタを縦2セル、横2セルのブロック単位で具備する。同様に、長波長成分撮像素子107はf5からf8で示される4種類の色フィルタを縦2セル、横2セルのブロック単位で具備する。
【0090】
短波長成分撮像素子106と長波長成分撮像素子107を合わせた8種類の色フィルタf1からf8は互いに異なる分光透過率分布を持ち、たとえば図4に示すように8つで可視域(図4では380nmから780nm)をカバーする関係を持つ。つまり可視域全体の光を8つの色フィルタで分担して受光する。
【0091】
このように可視域全体の光を8つの色フィルタで分担して受光することにより、従来の3バンド系カメラに比べて各バンドが狭帯域であり、かつバンド数が多くなる。このため、被写体の分光推定を行うに際し、8バンドカメラは3バンドカメラより自由度が高く、構造的に分光推定精度向上の可能性を持つ。
【0092】
被写体分光情報推定部110は、色フィルタf1からf8の8つの信号をもとに被写体の分光情報を推定する。従って、被写体分光情報推定部110は、分光情報を縦2セル、横2セルのブロック単位で推定し、算出する。
【0093】
図3(c)は、実施の形態1にかかる輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の画素単位で見た色信号の配列と輝度変換部の動作と被写体分光情報推定部の動作を説明する概念図である。
【0094】
輝度信号生成部104は、受光セルごとに輝度信号Yij(i=1,2,…,m,j=1,2,…,n)を生成する。一方、被写体分光情報推定部110は、縦2セル、横2セルのブロック単位ごとに分光情報信号Rkl((k=1,2,…,m/2,l=1,2,…,n/2)を生成する。よって、色成分である分光情報信号は、輝度信号に対し、縦1/2、横1/2の解像度となる。
【0095】
ところで、坂田らの「視覚系における色度の空間周波数特性(色差弁別閾)、テレビジョン第31巻第1号(1997年)」によると、視覚系は輝度変調に対して感度が高く、逆に色味変調に対して感度が低い。反対色対の空間的正弦波(輝度一定)を用いた弁別能は0.3cycles/degに感度ピークを持つ。一方、無彩色成分のみで作成した空間的正弦波(色度一定)を用いた弁別能は3cycles/degでピークを持つ。
【0096】
以上の結果に基づくと、カメラで取り込む被写体の色情報は、視覚系の空間的解像能から見ると、輝度成分を高精細に取り込むことが重要になる。言い換えると、視覚系に対して同じ空間的解像性をカメラ取り込み画像に持たせるには、色味成分は輝度成分の半分未満のサンプリング間隔で構わないことになる。
【0097】
本発明は、上記のような視覚系が持つ輝度成分と色味成分への空間的弁別能の違いに着目し、積極的に利用したものである。つまり、色味成分のサンプリング間隔を広くすることで、マルチバンド画像を同時に撮影でき、かつ分光推定精度を落とさない効果を有するようにしている。
【0098】
なお、図3では、縦2セル、横2セルを単位ブロックとしたが、単位ブロックを形成する受光セル数は任意であり、本発明はこれらを限定しない。受光セル数の増加は、分光推定精度の向上につながるが、反面、解像度の低下を導く。このため、単位ブロックを構成する受光セル数は、分光推定精度と空間解像度のバランスで決まり、各システムの色再現目標に応じて最適化されるべきである。
【0099】
また、図4に示した8つの色フィルタの分光透過率は互いに同じ形状を持ち、ピーク波長が等間隔で異なるが、本発明が言及するのは短波長成分撮像素子106と長波長成分撮像素子107の色フィルタすべての組み合わせで可視域(たとえば380nmから780nm)全体をカバーするところにあり、分光的形状やピーク波長に関して制限を与えるものではない。ただし、信号処理の複雑化を避けるために、短波長成分撮像素子106と長波長成分撮像素子107の色フィルタの配列は同一であることが望ましい。
【0100】
第三に、被写体分光情報推定部110について詳細に説明する。ここでは、被写体の分光情報として分光反射率を取り上げて説明する。マルチバンド信号から被写体の分光反射率を推定する方法は様々提案されている。本発明は、分光推定方法を制限するものではないため、任意の方法を適応可能である。そこで、ここではウィナー推定による方法を説明する。短波長成分色信号処理部108からの出力を列ベクトルVshort=[v1,v2,v3,v4]t、長波長成分色信号処理部109からの出力を列ベクトルVlong=[v5,v6,v7,v8]t、カメラ特性を行列S、被写体の分光反射率を列ベクトルR=[r1,r2,…,rq]tとするとこれらは以下の関係を持つ。
【0101】
【数1】
ただしセンサー応答を表わす列ベクトルVは
【0102】
【数2】
で与えられる。またカメラ特性を表わす行列Sは
【0103】
【数3】
で与えられる。ここで、行列Fは受光セルに配置された色フィルタの分光透過率を表わし、8つの色フィルタを用いるとして8行q列からなる。たとえば380nmから780nmを10nmおきに取った場合、q=41となる。また、行列Eは照明の分光分布を表わす対角行列であり、対角成分にq個の成分が並ぶ。
【0104】
さて、式(1)において、センサー応答Vの次元(ここでは8)と波長の次元qが同一であれば、カメラ特性行列Sは正則であり、逆行列S-1によって
【0105】
【数4】
から被写体の分光反射率が求まる。
【0106】
しかし、本実施の形態のように、8種類の色フィルタを用いて380nmから780nmの帯域を10nmおきに量子化するとq=41となり、行列Sは正則とならない。このような場合はウィナー推定法が用いられる。今、被写体の真の分光反射率を行列Rreal、推定された分光反射率を行列Rest、行列Sに対応する擬似逆行列をGとすると、式(1)は
【0107】
【数5】
と表わされ、式(4)は
【0108】
【数6】
と表わされる。従って以下で与えられる行列Rrealと行列Restの最小自乗誤差εを最小化する推定行列Gを求めれば良い。
【0109】
【数7】
ここでtは転置、<>はアンサンブル平均を表わす。εを最小にする推定行列はウィナー推定から次式で与えられる。
【0110】
【数8】
ここで、行列ρは相関行列を表わす。行列Rsamplesと行列Vsamplesは相関行列ρを算出するためのサンプルデータで、行列Rsamplesはサンプルの分光反射率行列、VsamplesはRsamplesに対する信号値を表わし、短波長成分色信号処理部108と長波長成分色信号処理部109の出力信号に対応する。
【0111】
第四に、測色値変換部112とセル単位明度信号置換部114について、図5を用いて詳細に説明する。図5は、実施の形態1にかかる、測色変換部、照明分光情報記憶部、明度信号変換部、セル単位明度置換部の動作を説明する図である。
【0112】
図5に示すように、測色値変換部112は、被写体分光情報推定部110が縦2セル、横2セルのブロック単位で推定した被写体の分光情報と照明分光情報記憶部113から供給される照明の分光情報から次式に用いてブロック単位でCIEXYZ三刺激値を算出する。
【0113】
【数9】
ここで、rhは波長h番目の被写体の分光反射率を表わす。測色値変換部112は、CIEXYZ三刺激値をさらに輝度成分と色味成分に分離された測色値、たとえば、式(10)を用いてCIELAB値などに変換する。
【0114】
【数10】
ここで、Xn、Yn、Znは基準白色のCIEXYZ三刺激値を表わす。ただし、輝度成分は式(10)にあるような視覚系の明るさ間隔に対して比例的な関係を持つ明度信号に変換する。一般に、式(9)で与えられる輝度値は視覚系の明るさ間隔に対して線形関係が成り立たず、式(10)に示すような1/3乗程度の指数関数で輝度値を変換すると視覚系の明るさ間隔と線形関係が成立すると言われている。
【0115】
一方、明度信号変換部105は輝度信号生成部104で受光セル単位に算出された輝度信号Yを式(10)を用いて明度信号L*に変換する。測色値変換部112が縦2セル、横2セルのブロック単位で測色値を算出するのに対し、明度信号変換部105はセル単位で明度信号L*を算出する。
【0116】
そこで、セル単位明度信号置換部114は、測色値変換部112から出力される測色値のうち、明度成分L*のみ、明度信号変換部105からの出力に置き換える。
【0117】
前述したように、視覚系は輝度変調に対する解像力が高いため、縦2セル、横2セルのブロック単位で算出されたCIELAB値の明度成分L*のみを色成分a*とb*に対して縦方向、横方向それぞれで2倍の解像度に変換する。
【0118】
ところで、照明分光情報記憶部113に格納する照明の分光分布を、被写体が撮影された環境の照明と別の分光分布に入れ替えれば、照明変換が容易に行える。
【0119】
たとえば、再現画像はプリンタで紙に印刷されるとして、被写体は色温度4000K程度のタングステンランプで照明されていて、再現画像は6500K程度の昼光ランプで観察する場合を考える。被写体の撮影の視環境下(つまり4000Kタングステンランプ)で定義されるCIEXYZ三刺激値で出力したい場合は、式(9)のehに4000Kタングステンランプの分光分布を代入すればいい。プリントを観察する視環境下(つまり6500K昼光ランプ)で定義されるCIEXYZ三刺激値で出力したい場合は、式(9)のehに6500K昼光ランプの分光分布を代入すればいい。上記のような照明変換は、マルチバンドカメラ特有の機能であり、マルチバンドカメラは被写体の分光反射率を算出できるためである。測色値情報をCIEXYZ三刺激値ベースで持ち、分光情報を持たない3バンドカメラと大きく差別化される特徴である。
【0120】
このように、測色値変換部112が照明分光情報記憶部113に保持した照明の分光情報を用いて被写体の測色値を算出することで、測色値を被写体の分光情報と照明の分光情報から算出できる。
【0121】
第五に、原色変換部116について詳細に説明する。原色変換部116は測色値を映像表示デバイスに依存した信号に変換する。測色値とデバイス依存信号の関係は、ディスプレイの原色点の測色値で決まる。たとえばITU−R Rec.BT.709−3では測色パラメータとして3原色の色度値を定めている。すなわち、R原色は(x,y)=(0.64,0.33)、G原色は(x,y)=(0.30,0.60)、B原色は(x,y)=(0.15,0.06)であり、表示色の輝度値と比例関係にある輝度リニアデバイスドライブ信号R、G、BとCIEXYZ三刺激値との関係は以下で与えられる。
【0122】
【数11】
ここで、XR、YR、ZRはR原色のCIEXYZ三刺激値を表わし、同様にXG、YG、ZGはG原色のCIEXYZ三刺激値を、XB、YB、ZBはB原色のCIEXYZ三刺激値を表わす。CIEXYZ三刺激値とxy色度座標の関係は
【0123】
【数12】
で与えられるために、式(11)はR原色の色度座標(xR,yR)、G原色の色度座標(xG,yG)、B原色の色度座標(xB,yB)を用いて以下のように書き換えられる。
【0124】
【数13】
以上、原色変換部116は、式(13)によってCIEXYZ三刺激値を輝度リニアデバイスドライブ信号R、G、Bに変換する。
【0125】
なお、本発明は映像表示デバイスの原色数を限定するものではなく、式(11)と式(13)の3原色は任意数に拡張可能である。
【0126】
第六に、ガンマ補正部117について詳細に説明する。現在、流通しているデバイス依存のRGB信号は、NTSC方式の概念を周到するCRTディスプレイのガンマ補正処理が施されている。CRTディスプレイは、表示管や信号処理系などの総合的入出力特性として、デバイスドライブ信号と発光輝度の関係が2.2乗の指数関数で表わされる。これがいわゆるガンマ特性である。そこで、デバイスドライブ信号と発光輝度の関係が線形になるように、予め送信側で1/2.2乗の指数関数変換を施し、CRTディスプレイのガンマ特性を相殺するように、いわゆるガンマ補正を施してR信号、G信号、B信号を送出する。ガンマ補正部117は、式(14)で輝度リニアデバイスドライブ信号R、G、Bをガンマ補正済のデバイスドライブ信号R'、G'、B'に変換する。
【0127】
【数14】
なお、本発明は映像表示デバイスの原色数を限定するものではなく、式(14)の3原色は任意数に拡張可能である。
【0128】
このように、ガンマ補正部117を具備することで、撮像素子の受光セル単位で明度が置換された測色値を表示デバイスのガンマ補正処理を含んだ輝度・色差信号に変換できる。
【0129】
第七に、輝度・色差信号変換部119について詳細に説明する。デバイスドライブ信号R'、G'、B'は、輝度・色差信号変換部119において様々な伝送フォーマットに対応させるために輝度・色差信号に変換される。たとえばITU−R Rec.BT.709−3に従う場合は、式(15)によってデバイスドライブ信号R'、G'、B'が輝度・色差信号に変換される。
【0130】
【数15】
このように、輝度・色差信号変換部119を具備することで、撮像素子の受光セル単位で明度が置換された測色値の輝度線形性を保ったまま、輝度・色差信号に変換できる作用を有する。
【0131】
なお、本発明は、デバイスドライブ信号R'、G'、B'を輝度・色差信号へ変換する方式に対して制限を与えるものではなく、伝送フォーマットに応じて自由に設定できることを特筆しておく。
【0132】
たとえば、Rバンドの寄与率を0.30、Gバンドの寄与率を0.59、Bバンドの寄与率を0.11とした線形和で輝度信号を算出することで、EIA−RS 170A方式に従わせることができ、EIA−RS 170A方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする。
【0133】
また、Rバンドの寄与率を0.299、Gバンドの寄与率を0.587、Bバンドの寄与率を0.114とした線形和で輝度信号を算出することで、SMPTE 170M方式のデコーダを有する映像表示デバイスで正確な色再現を可能にする。
【0134】
最後に、走査方式の違いに対応する方法とデバイスドライブ信号用ラインメモリ118、輝度・色差信号用ラインメモリ120について詳細に説明する。一般に映像方式には1走査ラインおきに飛び越し走査を行うインタレース方式と飛び越しなしに走査ライン順に走査を行うプログレッシブ方式がある。本発明では、短波長成分色信号処理部108と長波長成分色信号処理部109が受光セル単位で縦2セル、横2セルを単位ブロックとしたブロック単位で測色値を算出する。従って、走査ライン方向に見た場合、2ライン分の測色値が1回の動作で求められる。そこで、プログレッシブ方式の場合は、2ライン目の測色値データを保持しておいて、走査タイミングに合わせて、保持しておいた2ライン目の測色データを送出する必要がある。
【0135】
図1におけるデバイスドライブ信号用ラインメモリ118は、取り込んだ被写体の色情報をデバイスドライブ信号形式で保持し、デバイスドライブ信号用送信機121からの走査タイミングに合わせた読み出し指示に従って保持したデバイスドライブ信号を出力する。
【0136】
同様に、輝度・色差信号用ラインメモリ120は、取り込んだ被写体の色情報を輝度・色差信号形式で保持し、輝度・色差信号用送信機122からの走査タイミングに合わせた読み出し指示に従って保持した輝度・色差信号を出力する。
【0137】
またインタレース方式の場合は、ラインメモリに保持することなく取得された被写体の分光情報をそのまま出力すればいい。すなわち、図3に示すように、被写体の分光反射率は縦2セルずつ取得される。そこで、インタレース走査が奇数ラインを走査中でも偶数ラインを走査中でも、被写体分光情報推定部110は同一の分光反射率を出力する。このため、測色値変換部112は奇数ラインでも偶数ラインでも同じ測色値を出力し、ラインメモリにデータを保持しておく必要はない。
【0138】
ただし、被写体の分光反射率を推定する単位ブロックの縦方向のセル数が3以上の場合は、プログレッシブ方式とインタレース方式の両走査方式において、データを保持しておく必要がある。プログレッシブ方式の場合は、単位ブロックの縦方向のセル数をnとすると(n−1)ライン分のラインメモリを必要とする。インタレース方式の場合は、(n−1)/2の商にあたるライン分のラインメモリを必要とする。ラインメモリに保持された信号値は、送信機から指示された読み出しタイミングに応じて出力される。
【0139】
このように、単位ブロックが縦nセルから構成されている際には、単位ブロック内の(n−1)ラインに相当する外部出力信号をラインメモリに記憶し、単位ブロック内の第2ライン以降の出力はラインメモリから撮像装置の外部へ出力することで、受光セル単位でnライン分同時に生成されるマルチバンド画像のうち、第1ラインはラインメモリを介さず出力し、第2ライン以降の(n−1)ラインは画像走査の同期に合わせてラインメモリから出力して、様々な走査方式に対応できる。
【0140】
一方、被写体の分光情報を推定する単位ブロックが走査ラインごとに移動する場合は最小限の構成でプログレッシブ方式とインタレース方式に対応できる。図6は、実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの動作を説明する図である。図6は、図3と同様に縦2セル、横2セルを単位ブロックとして被写体の分光情報を推定するケースである。図6(a)は、実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの画像の第1走査ライン走査時における動作を表わした図であり、図6(b)は、実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリ画像の、第2走査ライン走査時の動作を表わした図である。
【0141】
撮影装置が画像の第1走査ラインを走査している場合、図6(a)に示すように、短波長成分撮像素子106と長波長成分撮像素子107は、素子の第1走査ラインと第2走査ラインがアクティブとなり、2ライン分の信号が同時に被写体分光情報推定部110に出力されて、被写体の分光情報を2ライン単位で推定する。そこで、撮影装置は、第2走査ラインの出力信号を、画像の走査が第2走査ラインに入るまで保持する必要があり、分光情報は測色値に変換された後、1ライン分のラインメモリ601(図1中のデバイスドライブ信号用ラインメモリ118および輝度・色差信号用ラインメモリ120に相当)に第2走査ラインの測色値が保存される。画像の走査が第2走査ラインに移ったら、図6(b)に示すように、短波長成分撮像素子106、長波長成分撮像素子107、被写体分光情報推定部110とは関係なく、ラインメモリ602(実体はラインメモリ601と同一。)から、すでに計算済の出力信号を外部出力する。
【0142】
図7は、被写体の分光情報推定における単位ブロックの位置を画像の走査位置に合わせて、1ラインずつ移動する場合である。図7(a)は、実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの画像の、第1走査ライン走査時の動作を表わした図であり、図7(b)は、実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリ画像の、第2走査ライン走査時の動作を表わした図である。
【0143】
画像の第1走査ライン走査時は、図6(a)と同様に、短波長成分撮像素子106と長波長成分撮像素子107の第1走査ラインと第2走査ラインがアクティブとなり、2ライン分の信号が同時に被写体分光情報推定部110に出力されて、被写体の分光情報を2ライン単位で推定する。分光情報は測色値に変換されて、そのまま外部へ出力される。画像の走査が第2走査ラインに移ると、図7(b)に示すように、短波長成分撮像素子106と長波長成分撮像素子107は、素子の第2走査ラインと第3走査ラインがアクティブとなり、2ライン分の信号が同時に被写体分光情報推定部110に出力されて、被写体の分光情報を2ライン単位で推定する。引き続き、分光情報は測色値に変換されて、そのまま外部へ出力される。
【0144】
図7に示すように、分光推定を行う撮像素子上の単位ブロックの第1ラインが、画像走査の走査ラインと一致するように移動すれば、図6に示すようなラインメモリが必要なくなる。また、図7で推定される分光情報は、撮像素子を1ラインずつ移動していくため、2ラインごとに分光推定を行う図6より、推定精度が高くなる利点がある。
【0145】
つまり、図6の場合、奇数走査ライン、偶数走査ラインの順で隣接する2ラインは同一の分光情報を持ち、たとえば図6の隣接するセル603とセル604は同一の分光情報R11を持つ。
【0146】
一方、図7の場合、セル604と同一位置にあるセル701は、画像の第1走査ラインを走査時図7(a)には、分光情報R11を持つが、画像の第2走査ラインを走査時図7(b)には、分光情報R21に書き換えられる。分光情報R21は撮像素子の第2ライン、第3ラインで取得した被写体情報であり、撮像素子の第1ライン、第2ラインから取得された被写体情報R11とは異なる。
【0147】
以上、分光推定を行う撮像素子上の単位ブロックの第1ラインが、画像走査の走査ラインと一致するように移動することで、単位ブロック固定の場合よりも正確な分光推定が可能になるが、図5において、すでに詳細に説明を行ったセル単位明度信号置換部114との組み合わせで、色推定精度がさらに向上することを追記しておく。
【0148】
なお、図6と図7では分光推定を行う単位ブロックを縦2セル、横2セルを例にとって説明したが、本発明は単位ブロックのセル数に制限されるものではなく、任意サイズの単位ブロックで実施可能であることを特筆しておく。
【0149】
また、デバイスドライブ信号用送信機121と輝度・色差信号用送信機122は任意の伝送フォーマットを適応可能であり、ITU−RやSMPTEのテレビジョン、VTR、ディスク記録フォーマット等の標準規格や、多くのデジタルカメラで採用されているsRGB信号など、任意に対応できる。
【0150】
以上、実施の形態1によって、視覚系の解像力の高い明度成分情報を前記輝度撮像素子で高精細に取得し、同時に短波長成分撮像素子と長波長成分撮像素子から取得された測色値の明度成分のみを輝度撮像素子からの明度成分情報で撮像素子の受光セル単位に置換することによって、短波長成分撮像素子と長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない2つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる。
【0151】
また、実施の形態1は、短波長成分撮像素子106および長波長成分撮像素子107が、互いに異なり、かつ単位ブロック内のすべての色フィルタを組み合わせるとダイクロイックミラー210が分割した短波長側および長波長側の光の波長帯域をカバーする分光透過率分布を持つ受光セルからなる単位ブロックを持つので、ダイクロイックミラー210が分割した短波長成分および長波長成分の光を無駄なく受光し、視覚系の解像力の低い色成分情報を単位ブロックごとで取得することにより、1つに撮像素子で複数のマルチバンド画像を撮影できる。
【0152】
さらに、実施の形態1は、単位ブロックが、縦2セル、横2セルからなるので、縦2セル、横2セルの単位ブロックごとに被写体の分光情報を推定できる。この結果、1つの撮像素子で単位ブロックごとに4つのマルチバンド画像が同時に撮影できる作用を有する。よって、短波長成分撮像素子106および長波長成分撮像素子107の2つの撮像素子を使用することで、4×2の8バンドの画像が同じに撮影できる。
【0153】
また、実施の形態1は、単位ブロックの縦方向の位置が、単位ブロックの1ライン目が画像走査の走査ラインと一致するように決定されているので、撮像装置の出力信号をラインメモリへ一時的に保持することなくストリーム形式で出力でき、かつ被写体の分光情報を走査ラインごとに緻密の推定できる。
【0154】
また、実施の形態1は、色分解光学系102を、入射光を2つの光路に分割するハーフミラー203を備えた第1光学プリズム202と、第1光学プリズム202で分割された一方の光の短波長成分のみ反射するダイクロイックミラー210を備えた第2光学プリズム209と、第2光学プリズム209で透過した長波長成分を透過する第3光学プリズム216と、エアギャップ208と、から構成した。これにより、輝度成分と短波長、長波長の2つの色成分に分割する色分解光学系102を3つの光学プリズムの容積分だけに小型化できる。また、ここで着目すべき点に、色分解光学系102が、従来のRGBからなる色分解光学系等と同様に3つの光学プリズムから構成されている点がある。つまり、本実施の形態の色分解光学系102は、従来の色分解光学系を少し改良するだけで作成できる。よって、本実施の形態の色分解光学系102は、既存の材料から作成できるので、既存の撮像装置に適用することが容易である。
【0155】
また、実施の形態1は、第2光学プリズム209は、長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタ215を具備することで、赤外光に感度を持つ撮像素子からのノイズを簡単な構成で抑制できる。
【0156】
(実施の形態2)
以下、本発明の実施の形態2にかかる撮像装置であるマルチバンドビデオカメラについて説明する。まず、実施の形態2における3つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステムについて図8を用いて説明する。図8は、実施の形態2における3つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成図である。図8と図1の相違点は以下の2点で、その他は同一の構成を持ち、かつ同一の動作、機能を有する。
【0157】
第一の相違点は、図8には図1の明度信号変換部105がない点である。第二の相違点は、図1のセル単位明度信号置換部114がセル単位測色値スケーリング部801に変更されている点である。
【0158】
図1のセル単位明度信号置換部114は、図5で詳細に説明したように、撮像素子の受光セル単位で、測色値変換部112からの測色値の明度のみを明度信号変換部105からの明度信号で置換した。一方、図8のセル単位測色値スケーリング部801は、図8の測色値変換部802から供給された測色値を、輝度信号生成部803の輝度信号を用いてスケーリングする。
【0159】
次に、図9を用いてセル単位測色値スケーリング部801の動作を詳細に説明する。図9は図5と同様に、被写体の分光推定の単位ブロックを、縦2セル、横2セルとした場合である。測色値変換部802は、図8の被写体分光情報推定部804が供給する被写体の分光反射率rhと図8の照明分光情報記憶部805が供給する照明の分光分布ehから式(9)を用いてCIEXYZ三刺激値を算出する。測色値変換部802の出力(X'Y'Z')は、セル単位測色値スケーリング部801に与えられ、輝度生成部803で生成されたセル単位の輝度信号Yを用いて式(16)のスケーリング処理が施される。
【0160】
【数16】
従って、セル単位測色値スケーリング部801は、分光情報推定の単位ブロックごとに算出された相対的な測色値情報(X'Y'Z')を、セル単位のスケーリング処理を用いて、セル単位で絶対的測色値情報(XYZ)に変換する機能を有する。
【0161】
図8の原色変換部806は、セル単位測色値スケーリング部801の出力であるCIEXYZ三刺激値を式(13)を用いて、輝度リニアデバイスドライブ信号R、G、Bに変換する。
【0162】
以上、実施の形態2によって、視覚系の解像力の高い輝度成分情報を高精細に保ちつつ、短波長成分撮像素子と長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない2つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる。
【0163】
(実施の形態3)
次に、本発明の実施の形態3にかかる撮像装置であるマルチバンドビデオカメラについて説明する。
【0164】
図10は、本発明の実施の形態3における3つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成を示し、図1と比較しながら、以下に説明する。図1と図10の相違点は以下の1点で、その他は同一の構成を持ち、かつ同一の動作、機能を有する。図10と図1との相違点は、図10には図1のガンマ補正部117がない点である。
【0165】
ガンマ補正は、図1で詳細に説明したように、表示デバイスが持つデバイスドライブ信号と表示色の輝度との非線形特性を線形化するものである。表示デバイスに特別な処理回路を搭載することなく、送信側の処理のみで対応できるため、受信側の端末機器の簡素化、廉価化に有効である。
【0166】
しかし、近年、半導体部品を中心とする電子機器の高性能化とコストダウンが大幅に達成され、受信端末機に様々な処理機能を持たせることが可能になってきた。特に、計算機端末としての表示デバイスは、ビジネスグラフィックスやコンピュータグラフィックスを作成する映像表示装置として活用され、表示デバイス自身で輝度リニア信号を発生する機能を有するものが増えてきた。インターネットを中心とする放送と通信の融合は、逆ガンマ特性を持った信号で映像を表示するテレビジョンと輝度リニア信号で映像を表示する計算機ビジュアル端末の2つの機能を持つ映像表示装置の需要を作り上げた。
【0167】
このため、受信端末が自身でガンマ補正機能を持っている場合、送信側はガンマ補正を施す必要がなくなる。実施の形態3は、ガンマ補正を加えずに映像信号を出力する撮像装置であり、表示デバイス自身でガンマ補正を実行する計算機ビジュアル端末等に、正確な色情報を供給できる。
【0168】
以上、実施の形態3によって、視覚系の解像力の高い輝度成分情報を高精細に保ちつつ、短波長成分撮像素子と長波長成分撮像素子の受光セルに具備された色フィルタの種類より少ない2つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になり、かつガンマ補正の必要がない画像デバイスにガンマ補正なしの色信号を供給できる。
【0169】
(実施の形態4)
以下、本発明の実施の形態4にかかる撮像装置であるマルチバンドビデオカメラについて説明する。図11は、本発明の実施の形態4における2つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成を示し、図1と比較しながら、以下に説明する。図1と図11の相違点は以下の3点で、その他は同一の構成を持ち、かつ同一の動作、機能を有する。
【0170】
第一の相違点は、色分解光学系にあり、図1の色分解光学系102は撮像レンズ101から入射した被写体からの光を3つの光路に分けるのに対し、図11の色分解光学系1101は撮像レンズ1102から入射した被写体からの光を2つの光路に分け、輝度撮像素子1103と後述する色成分撮像素子1104に光を分配する点である。
【0171】
第二の相違点は、被写体の分光情報を撮像する撮像素子で、図1では短波長成分撮像素子106と長波長成分撮像素子107の2つの撮像素子で被写体の分光情報を推定するのに対し、図11では色成分撮像素子1104の1つの撮像素子で被写体の分光情報を推定する点である。
【0172】
第三の相違点は、撮像素子が1つになったことに伴う信号処理部の違いで、色成分撮像素子1104からの信号は色成分色信号処理部1105へ入力し、被写体分光情報推定部1106での分光推定は、色成分色信号処理部1105からの出力のみで実行される点である。
【0173】
次に、図12を用いて、色分解光学系1101について詳細に説明する。色分解光学系1101内部には、撮像レンズ1102からの入射光1203を2つの光路に分割するハーフミラー1201が設けられている。ハーフミラー1201により分割された第1の光路の光は、ハーフミラー1201の反射光1205である。ハーフミラー1201は、反射光1205が輝度撮像素子1103に垂直に入射されるように配置されている。ハーフミラー1201により分割された第2の光路の光は、ハーフミラー1201の透過光1204である。ハーフミラー1201は、透過光1204が色成分撮像素子1104に垂直に入射されるように配置されている。
【0174】
このようにハーフミラー1201により、入射光1203は、透過光1204と反射光1205に分割され、透過光1204は色成分撮像素子1104に入射し、反射光1205は輝度撮像素子1103に入射する。
【0175】
また、ハーフミラー1201には波長選択性はなく、ハーフミラー1201によって分割された光1204と光1205とは同一の分光分布を持つ。
【0176】
また、色分解光学系1101の内部の、ハーフミラー1204に対して色成分撮像素子1104側、つまり、透過光1204の進む方向には、赤外吸収フィルタ1202が色成分撮像素子1104と平行に設けられている。これにより、透過光1204は、色成分撮像素子1104に入射される前に、赤外吸収フィルタ1202によりノイズを除去される。
【0177】
次に色成分撮像素子1104と被写体分光情報推定部1106について詳細に説明する。図13(a)は色フィルタの配列を説明する図、図13(b)は画素単位で見た色信号の配列を説明する図である。
【0178】
色成分撮像素子1104はf1からf9で示される9種類の色フィルタを縦3セル、横3セルのブロック単位で具備する。9種類の色フィルタf1からf9は互いに異なる分光透過率分布を持ち、たとえば図14に示すように9つで可視域(図14では380nmから780nm)をカバーする関係を持つ。つまり可視域全体の光を9つの色フィルタで分担して受光する。
【0179】
上述したように、被写体の分光推定には、少なくとも5バンド分の情報が必要である。このため、縦横同じ数の正方形の単位ブロックで、5バンド分以上のバンドを形成するには、図13に示すような、縦3セル、横3セルが最小構成となる。
【0180】
そして、被写体分光情報推定部1106は、色フィルタf1からf9の9つの信号をもとに被写体の分光情報を推定する。従って、被写体分光推定部1106は、分光情報を縦3セル、横3セルのブロック単位で推定し、算出する。
【0181】
図1の2つの撮像素子で分光推定を行う構成に比べて、色成分の空間解像度は1/3に落ちるが、撮像素子が1つであり、かつ図12に示したように、色分解光学系の構成も簡素化されるため、サイズやコスト面で大きな利点を持つ。 また、図7ですでに説明したように分光推定の単位ブロックを画像走査に合わせて移動すれば、解像度低下の影響を抑えられる。
【0182】
以上、実施の形態4によって、視覚系の解像力の高い輝度成分情報を高精細に保ちつつ、色撮像素子の受光セルに具備された色フィルタの種類より少ない1つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる作用を有する。
【0183】
なお、実施の形態4の明度信号変換部105を無くし、セル単位明度信号置換部114をセル単位測色値スケーリング部801に置き換えた形態であっても良い。この構成により、視覚系の解像力の高い輝度成分情報を輝度撮像素子1103で高精細に取得し、同時に色成分撮像素子1104から取得した測色値を輝度撮像素子1103からの輝度成分情報で撮像素子の受光セル単位にスケーリングできる。この結果、色成分撮像素子1104の受光セルに具備された色フィルタの種類より少ない1つの撮像素子でマルチバンド画像を同時に撮影でき、動きの速い被写体のスチル画像撮影や動画撮影が可能になる。
【0184】
(実施の形態5)
以下、本発明の実施の形態5にかかる撮像装置であるマルチバンドビデオカメラについて図15を用いて説明する。図15は、実施の形態5における3つの撮像素子でマルチバンド画像を同時に撮影するマルチバンドビデオカメラのシステム構成図である。すでに、説明した部分と同一の部分については、同一の符番を付与し説明を省略する。
【0185】
実施の形態5と実施の形態1との相違点は、輝度・色差信号変換部119が明度・色差信号変換部1501に、輝度・色差信号用ラインメモリ120が明度・色差信号用ラインメモリ1502に、輝度・色差信号用送信機122が明度・色差信号用送信機1503になっている点である。
【0186】
明度・色差信号変換部1501は、セル単位明度信号置換部114が、撮像素子の受光セルごとに算出した測色値を明度成分と色差成分に変換する。具体的には、明度・色差信号変換部1501は、まず、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成する。次に、明度・色差信号変換部1501は、デバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の構成要素のうち、線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから輝度信号を差し引いた差分値を色差信号とし、輝度信号を指数関数によって明度信号に変換し、明度信号と色差信号を出力する。
【0187】
また、明度・色差信号用ラインメモリ1502および明度・色差信号用送信機1503は、実施の形態1の輝度・色差信号用ラインメモリ120および輝度・色差信号用送信機122が輝度信号を扱うのに対し、明度信号を扱うようにしたものであり、その他の動作については同一である。
【0188】
以上説明したように、実施の形態5によれば、撮像素子の受光セル単位で明度が置換された測色値を、明度線形性を保ったまま、明度・色差信号に変換できる作用を有する。また、映像表示デバイスに特別な処理部を設けることになくデバイスドライブ信号と発光色の明度の線形性を確保し、かつデバイスドライブ信号よりも帯域の小さい明度・色差信号での信号伝送を可能にする作用を有する。
【0189】
なお、実施の形態5では、実施の形態1を変形した形態で説明したが、実施の形態2〜4の輝度・色差信号変換部119を明度・色差信号変換部1501に、輝度・色差信号用ラインメモリ120を明度・色差信号用ラインメモリ1502に、輝度・色差信号用送信機122を明度・色差信号用送信機1503に変形した形態であっても良い。
【0190】
【発明の効果】
以上のように本発明は、互いに分光透過率の異なる複数の色フィルタを受光セル単位で並置させた1つ、あるいは2つの撮像素子から被写体の分光情報を推定し、受光セル単位で取得した被写体の輝度情報で、前記被写体の分光情報から得た測色値の輝度情報を受光セル単位で置換して、あるいはスケーリングして高精細でかつ高色忠実な映像を出力できる優れた撮像装置を提供する。また、ハーフミラーとダイクロイックミラーを組み合わせて、被写体からの光を光量の損失を抑えて1つの輝度撮像素子と2つの色成分撮像素子へ入射させることができ、かつ3つのプリズムの組み合わせで省スペースを実現できる優れた色分解光学系を提供する。
【図面の簡単な説明】
【図1】本発明の実施の形態1におけるマルチバンドビデオカメラの構成を示す図
【図2】実施の形態1にかかる色分解光学系の内部構造を説明する図
【図3】(a) 実施の形態1にかかる、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子を側面から見た模式的構造図
(b) 実施の形態1にかかる、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の色フィルタの配列を説明する概念図
(c) 実施の形態1にかかる、輝度撮像素子、短波長成分撮像素子、および長波長成分撮像素子の画素単位で見た色信号の配列と輝度変換部の動作と被写体分光情報推定部の動作を説明する概念図
【図4】実施の形態1にかかる色フィルタの分光透過率の一例を示す図
【図5】実施の形態1にかかる測色変換部、照明分光情報記憶部、明度信号変換部、およびセル単位明度置換部の動作を説明する図
【図6】(a) 実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの画像の第1走査ライン走査時における動作を表わした図(単位ブロックが固定された場合)
(b) 実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリ画像の第2走査ライン走査時における動作を表わした図(単位ブロックが固定された場合)
【図7】(a) 実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリの画像の第1走査ライン走査時における動作を表わした図(単位ブロックが画像走査に対応して移動する場合)
(b) 実施の形態1にかかるデバイスドライブ信号用ラインメモリと、輝度・色差信号用ラインメモリ画像の第2走査ライン走査時における動作を表わした図(単位ブロックが画像走査に対応して移動する場合)
【図8】本発明の実施の形態2におけるマルチバンドビデオカメラの構成を示す図
【図9】実施の形態2にかかるセル単位測色値スケーリング部の動作を説明する図
【図10】本発明の実施の形態3におけるマルチバンドビデオカメラの構成を示す図
【図11】本発明の実施の形態4におけるマルチバンドビデオカメラの構成を示す図
【図12】実施の形態4にかかる色分解光学系の内部構成を示す図
【図13】(a) 実施の形態4にかかる色成分撮像素子の色フィルタ配列を説明する図(b) 実施の形態4にかかる画素単位の色信号の配列と被写体分光情報推定部の動作を示す図
【図14】実施の形態4にかかる9種類の色フィルタf1からf9の分光透過率の一例を示す図
【図15】本発明の実施の形態5におけるマルチバンドビデオカメラの構成を示す図
【符号の説明】
101、1102 撮像レンズ
102、1101 色分解光学系
103、1103 輝度撮像素子
104、803、1107 輝度信号生成部
105 明度信号変換部
106 短波長成分撮像素子
107 長波長成分撮像素子
108 短波長成分色信号処理部
109 長波長成分色信号処理部
110、804 被写体分光情報推定部
111 分光情報出力端子
112、802 測色値変換部
113、805 照明分光情報記憶部
114 セル単位明度信号置換部
115 測色値出力端子
116、806 原色変換部
117 ガンマ補正部
118 デバイスドライブ信号用ラインメモリ
119 輝度・色差信号変換部
120 輝度・色差信号用ラインメモリ
121 デバイスドライブ信号用送信機
122 輝度・色差信号用送信機
201、1203 撮像レンズからの入射光
202 第1光学プリズム
203、1201 ハーフミラー
204 第1反射光
205 第1透過光
206 第1光学プリズムの面
207 第1光学プリズムの面
208 エアギャップ
209 第2光学プリズム
210 長波長成分反射ダイクロイックミラー
211 第2反射光
212 第2透過光
213 第2光学プリズムの面
214 第2光学プリズムの面
215、1202 赤外吸収フィルタ
216 第3光学プリズム
301 基板
302 受光セル
303 色フィルタ
601、602 ラインメモリ
603、604、701 セル
801 セル単位測色値スケーリング部
1104 色成分撮像素子
1105 色成分信号処理部
1106 被写体分光情報推定部
1204 透過光
1205 反射光
1501 明度・色差信号変換部
Claims (23)
- 撮像レンズからの光を2つの光路に分割するハーフミラーと、
前記ハーフミラーで分割された一方の光を受光して被写体の輝度情報を取得する輝度撮像素子と、
前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、
前記輝度信号を明度信号に変換する明度信号変換部と、
前記ハーフミラーで分割された他方の光を短波長成分と長波長成分に分割するダイクロイックミラーと、
前記短波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する短波長成分撮像素子と、
前記長波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する長波長成分撮像素子と、
前記短波長成分撮像素子と前記長波長成分撮像素子が出力する前記色信号から前記被写体の分光情報を推定する被写体分光情報推定部と、
前記分光情報から算出した測色値の明度情報を前記明度信号変換部が変換した明度信号に前記受光セル単位で置換するセル単位明度信号置換部と、
を具備することを特徴とする撮像装置。 - 撮像レンズからの光を2つの光路に分割するハーフミラーと、
前記ハーフミラーで分割された一方の光を受光して被写体の輝度情報を取得する輝度撮像素子と、
前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、
前記輝度信号を明度信号に変換する明度信号変換部と、
前記ハーフミラーで分割された他方の光を短波長成分と長波長成分に分割するダイクロイックミラーと、
前記短波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する短波長成分撮像素子と、
前記長波長成分の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する長波長成分撮像素子と、
前記短波長成分撮像素子と前記長波長成分撮像素子が出力する前記色信号から前記被写体の分光情報を推定する被写体分光情報推定部と、
前記分光情報から算出した測色値を前記輝度信号により前記受光セル単位でスケーリングするセル単位測色値スケーリング部と、
を具備することを特徴とする撮像装置。 - 前記短波長成分撮像素子全体の前記色フィルタの配置は、隣接する複数の前記受光セルからなる単位ブロックの繰り返しパターンとなっており、
前記短波長成分撮像素子の前記色フィルタは、前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内におけるすべての前記色フィルタの分光透過率分布を組み合わせると前記短波長成分の光の波長帯域をカバーする、
ことを特徴とする請求項1または請求項2記載の撮像装置。 - 前記長波長成分撮像素子全体の前記色フィルタの配置は、隣接する複数の前記受光セルからなる単位ブロックの繰り返しパターンとなっており、
前記長波長成分撮像素子の前記色フィルタは、前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内におけるすべての前記色フィルタの分光透過率分布を組み合わせると前記長波長成分の光の波長帯域をカバーする、
ことを特徴とする請求項1または請求項2記載の撮像装置。 - 撮像レンズからの光を2つの光路に分割するハーフミラーと、
前記ハーフミラーで分割された一方の光を受光して被写体の輝度情報を取得する輝度撮像素子と、
前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、
前記輝度信号を明度信号に変換する明度信号変換部と、
前記ハーフミラーで分割された他方の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する色撮像素子と、
前記色信号から前記被写体の分光情報を推定する被写体分光情報推定部と、
前記分光情報から算出した測色値のうち、明度情報だけを前記明度信号変換部が変換した明度情報に前記受光セル単位で置換するセル単位明度信号置換部と、
を具備することを特徴とする撮像装置。 - 撮像レンズからの光を2つの光路に分割するハーフミラーと、
前記ハーフミラーで分割された一方の光を受光して被写体の輝度情報を取得する輝度撮像素子と、
前記輝度情報から輝度信号を生成し出力する輝度信号生成部と、
前記輝度信号を明度信号に変換する明度信号変換部と、
前記ハーフミラーで分割された他方の光を異なる複数の色フィルタを通して異なる複数の受光セルで受光し、受光した光に対応する色信号を出力する色撮像素子と、
前記色信号から前記被写体の分光情報を推定する被写体分光情報推定部と、
前記分光情報から算出した測色値を前記輝度信号により前記受光セル単位でスケーリングするセル単位測色値スケーリング部と、
を具備することを特徴とする撮像装置。 - 前記色撮像素子は、撮像素子の受光セルごとに色フィルタを通して光を受光し、
前記色フィルタは、隣接する複数の受光セルを単位ブロックとして、前記単位ブロック内で互いに異なる分光透過率分布を持ち、かつ前記単位ブロック内のすべての色フィルタを組み合わせると撮像レンズから入射した波長帯域をカバーする分光透過率分布を持ち、
前記色撮像素子全体の前記色フィルタの配置は、前記単位ブロックの繰り返しパターンとなっている、
ことを特徴とする請求項5または請求項6記載の撮像装置。 - 前記単位ブロックは、縦2セル、横2セルからなり、
前記被写体分光情報推定部は、前記単位ブロックごとに被写体の分光情報を推定する、
ことを特徴とする請求項3、請求項4および請求項7のいずれかに記載の撮像装置。 - 前記単位ブロックの縦方向の位置は、前記単位ブロックの1ライン目が画像走査の走査ラインと一致するように決定される、
ことを特徴とする請求項3、請求項4および請求項7のいずれかに記載の撮像装置。 - 前記単位ブロックは、縦nセルから構成されており、
前記単位ブロック内の(n−1)ラインに相当する外部出力信号をラインメモリに記憶し、前記単位ブロック内の第2ライン以降の前記外部出力信号を前記ラインメモリから出力する、
ことを特徴とする請求項3、請求項4および請求項7のいずれかに記載の撮像装置。 - 照明の分光情報を記憶した照明分光情報記憶部と、
前記照明分光情報記憶部に保持した前記照明の分光情報を用いて前記被写体の測色値を算出する測色値変換部と、を具備し、
前記セル単位明度信号置換部あるいは前記セル単位測色値スケーリング部は、前記被写体分光情報推定部が推定した被写体の分光情報と、前記測色値変換部から測色値情報を入手する、
ことを特徴とする請求項1、請求項2、請求項5および請求項6のいずれかに記載の撮像装置。 - 前記セル単位明度信号置換部あるいはセル単位測色値スケーリング部は、
前記受光セルごとに算出した測色値を表示デバイスの輝度リニアドライブレベルに変換する原色変換部と、
前記原色変換部の出力から前記表示デバイスのガンマ特性を補正するガンマ補正部と、
前記ガンマ補正部の出力から輝度・色差信号を算出する輝度・色差信号変換部と、
を具備することを特徴とする請求項1、請求項2、請求項5および請求項6のいずれかに記載の撮像装置。 - 前記セル単位明度信号置換部あるいはセル単位測色値スケーリング部は、
前記受光セルごとに算出した測色値を表示デバイスの輝度リニアドライブレベルに変換する原色変換部と、
前記原色変換部の出力から輝度・色差信号を算出する輝度・色差信号変換部と、
を具備することを特徴とする請求項1、請求項2、請求項5および請求項6のいずれかに記載の撮像装置。 - セル単位明度信号置換部あるいはセル単位測色値スケーリング部は、
前記受光セルごとに算出した測色値を明度成分と色差成分に変換する明度・色差信号変換部、
を具備することを特徴とする請求項1、請求項2、請求項5および請求項6のいずれかに記載の撮像装置。 - 前記輝度・色差信号変換部は、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成し、前記デバイスドライブ信号あるいは前記輝度リニアデバイスドライブ信号の構成要素のうち、前記線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから前記輝度信号を差し引いた差分値を色差信号とし、前記輝度信号と色差信号を出力する、
ことを特徴とする請求項12または請求項13に記載の撮像装置。 - 前記明度・色差信号変換部は、映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号あるいは輝度リニアデバイスドライブ信号の線形和で輝度信号を生成し、前記デバイスドライブ信号あるいは前記輝度リニアデバイスドライブ信号の構成要素のうち、前記線形和において輝度信号生成への寄与率の最も大きい要素を除いた全ての要素のそれぞれから前記輝度信号を差し引いた差分値を色差信号とし、前記輝度信号を指数関数によって明度信号に変換し、前記明度信号と前記色差信号を出力する、
ことを特徴とする請求項14記載の撮像装置。 - 映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がR、G、Bの3バンドからなるか、あるいは輝度リニアデバイスドライブ信号がR、G、Bの3バンドからなるとき、Rバンドの寄与率を0.30、Gバンドの寄与率を0.59、Bバンドの寄与率を0.11とした線形和で輝度信号を算出する、
ことを特徴とする請求項15または請求項16記載の撮像装置。 - 映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がR、G、Bの3バンドからなるか、あるいは輝度リニアデバイスドライブ信号がR、G、Bの3バンドからなるとき、Rバンドの寄与率を0.299、Gバンドの寄与率を0.587、Bバンドの寄与率を0.114とした線形和で輝度信号を算出する、
ことを特徴とする請求項15または請求項16記載の撮像装置。 - 映像表示デバイスのガンマ特性を相殺するデバイスドライブ信号がR、G、Bの3バンドからなるか、あるいは輝度リニアデバイスドライブ信号がR、G、Bの3バンドからなるとき、Rバンドの寄与率を0.2126、Gバンドの寄与率を0.7152、Bバンドの寄与率を0.0722とした線形和で輝度信号を算出する、
ことを特徴とする請求項15または請求項16記載の撮像装置。 - 前記ハーフミラーと前記ダイクロイックミラーは、色分解光学系に含まれており、
前記色分解光学系は、
入射光を2つの光路に分割する前記ハーフミラーを備えた第一の光学プリズムと、
前記第一の光学プリズムで分割された一方の光を短波長成分のみ反射する前記ダイクロイックミラーを備えた第二の光学プリズムと、
前記第二の光学プリズムで透過した長波長成分を透過する第三の光学プリズムと、
前記第一の光学プリズムと前記第二の光学プリズムとの間にエアギャップと、
を具備することを特徴とする請求項1または請求項2記載の撮像装置。 - 前記第三の光学プリズムは、長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタを具備する、
ことを特徴とする請求項20記載の撮像装置。 - 前記ハーフミラーと前記ダイクロイックミラーは、色分解光学系に含まれており、
前記色分解光学系は、
入射光を2つの光路に分割する前記ハーフミラーを備えた第一の光学プリズムと、
前記第一の光学プリズムで分割された一方の光を長波長成分のみ反射する前記ダイクロイックミラーを備えた第二の光学プリズムと、
前記第二の光学プリズムで透過した短波長成分を透過する第三の光学プリズムと、
前記第一の光学プリズムと前記第二の光学プリズムの間にエアギャップと、
を具備することを特徴とする請求項1または請求項2記載の撮像装置。 - 前記第二の光学プリズムは、反射された長波長成分がプリズム内部からプリズム外部へ出力される境界面に赤外吸収フィルタを具備する、
ことを特徴とする請求項22記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001206991A JP3826174B2 (ja) | 2001-07-06 | 2001-07-06 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001206991A JP3826174B2 (ja) | 2001-07-06 | 2001-07-06 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2003023643A JP2003023643A (ja) | 2003-01-24 |
JP3826174B2 true JP3826174B2 (ja) | 2006-09-27 |
Family
ID=19043043
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001206991A Expired - Lifetime JP3826174B2 (ja) | 2001-07-06 | 2001-07-06 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3826174B2 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7773802B2 (en) | 2002-07-26 | 2010-08-10 | Olympus Corporation | Image processing system with multiple imaging modes |
JPWO2004036162A1 (ja) | 2002-07-26 | 2006-02-16 | オリンパス株式会社 | 画像処理システム |
EP1686810A4 (en) | 2003-11-11 | 2009-06-03 | Olympus Corp | DEVICE FOR ENTERING MULTISPECTRAL IMAGES |
CN1910431A (zh) | 2004-01-23 | 2007-02-07 | 奥林巴斯株式会社 | 图像处理***以及照相机 |
JP2009100271A (ja) * | 2007-10-17 | 2009-05-07 | Olympus Corp | 撮像素子および表示装置 |
JP2009260411A (ja) | 2008-04-11 | 2009-11-05 | Olympus Corp | 撮像装置 |
KR101681059B1 (ko) * | 2009-09-22 | 2016-12-01 | 삼성전자주식회사 | 밝기 신호와 색차 신호간의 크로스토크를 최소화하는 비디오 신호 생성 장치 및 방법 |
CN114397255B (zh) * | 2021-11-12 | 2023-09-01 | 中国科学院西安光学精密机械研究所 | 一种宽谱段高分辨视频光谱成像***和方法 |
JP2023099967A (ja) * | 2022-01-04 | 2023-07-14 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置および電子機器 |
-
2001
- 2001-07-06 JP JP2001206991A patent/JP3826174B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JP2003023643A (ja) | 2003-01-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11785170B2 (en) | Combined HDR/LDR video streaming | |
US20090059046A1 (en) | Field Sequential Color Camera System | |
EP2323408A1 (en) | Image processing device, image processing method, image capturing device, and computer program | |
JP2006148931A (ja) | 補色カラーフィルタを採用したSoCカメラシステム | |
US8174585B2 (en) | Color conversion coefficient calculation apparatus, computer readable recording medium for recording color conversion coefficient calculation program, and color conversion coefficient calculation method | |
AU2017217833A1 (en) | Devices and methods for high dynamic range video | |
JP4308473B2 (ja) | 画像信号処理方法及び画像信号処理装置、並びに画像信号処理システム | |
JP3826174B2 (ja) | 撮像装置 | |
JPH0378388A (ja) | カラー固体撮像素子 | |
JP2006311524A (ja) | 撮像装置 | |
KR100267198B1 (ko) | 칼라 화상 입력 장치 | |
JPH06133319A (ja) | カラー撮像装置 | |
JP4945852B2 (ja) | 単板式カラーディジタルカメラにおける撮像画像の生成方法および装置、ならびにディジタルカメラ、携帯型ディジタル情報装置、ディジタルビデオプリンタ | |
JP3406674B2 (ja) | 2板式撮像装置 | |
JP2001186536A (ja) | 2板式撮像装置 | |
JP2008178010A (ja) | 撮像装置及び撮像装置の駆動方法 | |
JPH06253318A (ja) | カラー撮像装置 | |
JPH05130622A (ja) | 撮像装置 | |
JPH066814A (ja) | 撮像装置 | |
JPH0694906A (ja) | 光分岐プリズム光学装置 | |
JP2014175731A (ja) | 撮像装置 | |
JPH05244611A (ja) | 固体カラー撮像装置 | |
JPH0686301A (ja) | 2板式撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20040513 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20040517 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20040928 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20040928 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20051209 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060117 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060317 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060502 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060529 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20060529 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 3826174 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100714 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110714 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120714 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130714 Year of fee payment: 7 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130714 Year of fee payment: 7 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
EXPY | Cancellation because of completion of term |