JP2007174266A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2007174266A JP2007174266A JP2005369184A JP2005369184A JP2007174266A JP 2007174266 A JP2007174266 A JP 2007174266A JP 2005369184 A JP2005369184 A JP 2005369184A JP 2005369184 A JP2005369184 A JP 2005369184A JP 2007174266 A JP2007174266 A JP 2007174266A
- Authority
- JP
- Japan
- Prior art keywords
- pixel data
- difference
- pixel
- exposure
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
【課題】イメージセンサ(光電変換素子)からの電荷(画素信号)の読み出しを、非破壊読み出し方式を用いて行う場合の画質劣化を低減するのに好適な撮像装置を提供する。
【解決手段】撮像装置1を、光電変換素子等から構成されるイメージセンサと、イメージセンサからの画素信号を非破壊読み出し方式で読み出し、当該画素信号の画素データを出力する撮像処理部10と、撮像処理部10から出力されるOB領域の画素データ、最小露光時間時の画素データ等の各種画素データに基づき、OB差分画素データ及び最小露光画素データを生成すると共に、これら生成した画素データに基づき通常露光時間時の画素データからノイズ成分を除去した差分画素データを生成する画像処理部12と、撮像処理部10から出力される各種画素データ、OB差分画素データ、最小露光画素データ及び前記差分画素データを記憶するフレームメモリ14とを含んだ構成とした。
【選択図】図1
【解決手段】撮像装置1を、光電変換素子等から構成されるイメージセンサと、イメージセンサからの画素信号を非破壊読み出し方式で読み出し、当該画素信号の画素データを出力する撮像処理部10と、撮像処理部10から出力されるOB領域の画素データ、最小露光時間時の画素データ等の各種画素データに基づき、OB差分画素データ及び最小露光画素データを生成すると共に、これら生成した画素データに基づき通常露光時間時の画素データからノイズ成分を除去した差分画素データを生成する画像処理部12と、撮像処理部10から出力される各種画素データ、OB差分画素データ、最小露光画素データ及び前記差分画素データを記憶するフレームメモリ14とを含んだ構成とした。
【選択図】図1
Description
本発明は、光電変換素子からの電荷の読み出しを非破壊で読み出すことが可能な撮像装置に関する。
従来、撮像装置のイメージセンサ(光電変換素子)からの電荷の読み出し方式としては、破壊読み出し方式と非破壊読み出し方式とがある。
ここで、破壊読み出し方式は、光電変換素子から電荷(画素信号)を読み出すときに、当該光電変換素子に蓄積された電荷を空にするリセット処理を行うものである。
また、非破壊読み出し方式は、光電変換素子から電荷(画素信号)を読み出すときに、当該光電変換素子に蓄積された電荷を空にせず蓄積状態を維持したままで読み出すものである。つまり、電荷読み出し時にリセット処理を行わないため、設定された露光時間に至るまで、電荷の蓄積途中において、何度でも電荷の読み出しを行うことができる。従って、非破壊読み出し方式には、多段階露光を容易に実現することができるという利点がある。
ここで、破壊読み出し方式は、光電変換素子から電荷(画素信号)を読み出すときに、当該光電変換素子に蓄積された電荷を空にするリセット処理を行うものである。
また、非破壊読み出し方式は、光電変換素子から電荷(画素信号)を読み出すときに、当該光電変換素子に蓄積された電荷を空にせず蓄積状態を維持したままで読み出すものである。つまり、電荷読み出し時にリセット処理を行わないため、設定された露光時間に至るまで、電荷の蓄積途中において、何度でも電荷の読み出しを行うことができる。従って、非破壊読み出し方式には、多段階露光を容易に実現することができるという利点がある。
また、光電変換素子から読み出された電荷(画素信号)には、光電変換素子等の画素を構成する各素子の特性(画素構造からくる分光特性など)のバラツキなどが原因で発生するノイズが混入し、このノイズが撮像画像の画質を著しく悪化させるという問題がある。一般に、破壊読み出しを用いて電荷を読み出す方式を用いる場合は、読み出した電荷(画素信号)と、当該読み出し後のリセット処理直後の電荷(画素信号)との差分をとって、前記ノイズを除去することが行われる。つまり、撮像時の露光時間で露光された状態で得た画素信号と、リセット直後の略遮光状態時(暗時)に得た画素信号との差分をとることによって前記ノイズを画素信号から除去し、画質改善を行っている。
一方、非破壊読み出しを用いて光電変換素子から電荷(画素信号)を読み出す撮像装置としては、例えば、特許文献1に記載の撮像装置がある。
特許文献1に記載の撮像装置は、複数の各画素が増幅型の光電変換素子を備えた撮像装置において、露光時間の異なる複数の画素信号を読み出し、露光時間の長い一の画素信号の中から飽和画素信号を検出した場合に、該飽和画素信号を露光時間のより短い該画素の非飽和画素信号と置換するものである。
特開平5―22670号公報
特許文献1に記載の撮像装置は、複数の各画素が増幅型の光電変換素子を備えた撮像装置において、露光時間の異なる複数の画素信号を読み出し、露光時間の長い一の画素信号の中から飽和画素信号を検出した場合に、該飽和画素信号を露光時間のより短い該画素の非飽和画素信号と置換するものである。
しかしながら、上記特許文献1の従来技術にあっては、画素信号の読み出し時にリセットを行わない非破壊読み出し方式を用いており、前述した破壊読み出し方式のように、リセット直後の暗時の信号を取得してノイズを除去するといった画質改善処理を行っていないため、光電変換素子等の画素を構成する素子の特性のバラツキが原因で発生するノイズによって、撮像画像の画質が悪化するといった問題があった。
また、上記特許文献1の従来技術において、例えば、暗時(例えば、最小露光時間時)の画素信号を撮像前に取得してこれを予め記憶しておき、この記憶された暗時の画素信号を用いて撮像時の画素信号からノイズを除去するという方法が考えられるが、このような方法を用いると、暗時の画素信号をリアルタイムに変更することができないため、長時間の撮像時や周囲環境の変化(例えば、温度変化)等によって各素子の特性が変化してノイズの状態が変わってしまうような場合に、ノイズ除去精度が低下してしまうという問題があった。
そこで、本発明は、このような従来の技術の有する未解決の課題に着目してなされたものであって、イメージセンサ(光電変換素子)からの電荷(画素信号)の読み出しを、非破壊読み出し方式を用いて行う場合の画質劣化を低減するのに好適な撮像装置を提供することを目的としている。
〔形態1〕 上記目的を達成するために、形態1の撮像装置は、
露光した光を電荷に変換して蓄積する光電変換素子が複数マトリクス状に配設された光電変換部と、前記光電変換部における前記光電変換素子の構成する画素からの電荷の読み出しを非破壊で行う撮像手段とを備えた撮像装置であって、
設定可能な最小露光時間での露光時に読み出した電荷に対応する画素データである最小露光画素データを取得する最小露光画素データ取得手段と、
所定露光時間での露光時に読み出した電荷に対応する各画素データの画素値と、当該各画素データに対応する前記取得した各最小露光画素データの画素値との差分値を算出し、当該算出した差分値からなる差分画素データを生成する差分画素データ生成手段と、を備えることを特徴としている。
露光した光を電荷に変換して蓄積する光電変換素子が複数マトリクス状に配設された光電変換部と、前記光電変換部における前記光電変換素子の構成する画素からの電荷の読み出しを非破壊で行う撮像手段とを備えた撮像装置であって、
設定可能な最小露光時間での露光時に読み出した電荷に対応する画素データである最小露光画素データを取得する最小露光画素データ取得手段と、
所定露光時間での露光時に読み出した電荷に対応する各画素データの画素値と、当該各画素データに対応する前記取得した各最小露光画素データの画素値との差分値を算出し、当該算出した差分値からなる差分画素データを生成する差分画素データ生成手段と、を備えることを特徴としている。
このような構成であれば、最小露光画素データ取得手段によって、設定可能な最小露光時間での露光時に読み出した電荷に対応する画素データである最小露光画素データを取得することが可能であり、差分画素データ生成手段によって、所定露光時間での露光時に読み出した電荷に対応する各画素データの画素値と、当該各画素データに対応する前記取得した各最小露光画素データの画素値との差分値を算出し、当該算出した差分値からなる差分画素データを生成することが可能である。
従って、動画像の撮像前に、例えば、電子シャッタ機能等により設定できる最小露光時間の画素データを暗時の画素データとして取得し、この最小露光画素データを、例えば、画像撮影時の通常の露光時間で読み出した画素データから減じて、各素子のバラツキ等が原因で生じる固定パターンノイズを通常露光時の画素データからほぼ除去することが可能となるので、撮像画像の画質を改善することができるという効果が得られる。
ここで、上記「最小露光時間」は、例えば、電子シャッタ機能等により}設定できる最小の露光時間が望ましいが、上記差分画素データから構成される撮像画像の画質が劣化しない範囲であれば最小でなくても良い。
また、上記「撮像手段」は、例えば、CMOS技術を用いて構成されており、CMOS技術を利用したイメージセンサとしては、閾値変調型撮像素子(VMIS(Threshold Voltage Modulation Image Sensor))などがある。
また、上記「撮像手段」は、例えば、CMOS技術を用いて構成されており、CMOS技術を利用したイメージセンサとしては、閾値変調型撮像素子(VMIS(Threshold Voltage Modulation Image Sensor))などがある。
また、上記「固定パターンノイズ」には、長時間露光時に問題になる暗電流シェーディングや、画素ごとのセンサ感度の違いによって発生するものなどがある。イメージセンサは、露光によって発生した電荷の量から、逆に露光量を求めることができるが、露光しない状態でも時間に比例して蓄積される電荷があり、これを暗電流という。なお、暗電流の原因は、主にシリコン表面で発生する熱励起がある。また、光電効果による電子の励起は、光エネルギーだけでなく熱エネルギーによっても生じ、一般に、5〜8℃上昇する毎に暗電流は倍増する。 また、画素ごとのセンサ感度の違いは、開口率やフォトダイオードの厚みの製造時に生じるバラツキなどが原因で生じる。
〔形態2〕 更に、形態2の撮像装置は、形態1記載の撮像装置において、
(N−1)種類(Nは2以上の自然数)の露光時間に対応し、当該各種類毎の露光時間での露光時に読み出した前記画素のライン毎の電荷に対応する画素データを前記各種類毎にそれぞれ独立に記憶し、且つ当該記憶した画素データを前記各種類毎にそれぞれ独立に出力する(N−1)個の第1〜第(N−1)出力チャンネルと、
前記(N−1)種類の露光時間に対する露光において、前記最小露光時間での露光時の前記画素のライン毎の電荷を読み出すと共に当該読み出した電荷に対応する画素データを記憶し、且つ当該記憶した画素データを出力する第N出力チャンネルと、を備え、
前記最小露光画素データ取得手段は、前記第N出力チャンネルを介して出力される前記最小露光画素データを取得するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第N−1出力チャンネルから出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出し、当該算出した差分値からなる差分画素データを生成するようになっていることを特徴としている。
(N−1)種類(Nは2以上の自然数)の露光時間に対応し、当該各種類毎の露光時間での露光時に読み出した前記画素のライン毎の電荷に対応する画素データを前記各種類毎にそれぞれ独立に記憶し、且つ当該記憶した画素データを前記各種類毎にそれぞれ独立に出力する(N−1)個の第1〜第(N−1)出力チャンネルと、
前記(N−1)種類の露光時間に対する露光において、前記最小露光時間での露光時の前記画素のライン毎の電荷を読み出すと共に当該読み出した電荷に対応する画素データを記憶し、且つ当該記憶した画素データを出力する第N出力チャンネルと、を備え、
前記最小露光画素データ取得手段は、前記第N出力チャンネルを介して出力される前記最小露光画素データを取得するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第N−1出力チャンネルから出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出し、当該算出した差分値からなる差分画素データを生成するようになっていることを特徴としている。
このような構成であれば、第1〜第(N−1)出力チャンネルによって、(N−1)種類(Nは2以上の自然数)の露光時間に対応し、当該各種類毎の露光時間での露光時に読み出した前記画素のライン毎の電荷に対応する画素データを前記各種類毎にそれぞれ独立に記憶し、且つ当該記憶した画素データを前記各種類毎にそれぞれ独立に出力することが可能であり、第N出力チャンネルによって、前記N−1種類の露光時間に対する露光において、前記最小露光時間での露光時の前記画素のライン毎の電荷を読み出すと共に当該読み出した電荷に対応する画素データを記憶し、且つ当該記憶した画素データを出力することが可能である。
また、前記最小露光画素データ取得手段は、前記第N出力チャンネルを介して出力される前記最小露光画素データを取得することが可能であり、前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルからそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出し、当該算出した差分値からなる差分画素データを生成することが可能である。
従って、それぞれが独立した第1〜第(N−1)チャンネルを介して(N−1)種類の各露光時間毎の画素データを取得できる一方、第1〜第(N−1)チャンネルとは独立した第N出力チャンネルを介して最小露光時間時の画素データを取得することができるので、画像撮像時において、(N−1)種類の各露光時間毎の電荷の読み出しと同じ露光区間において、最小露光時間時の電荷の読み出しを行うことができるので、最小露光時間時(暗時)の画素データをリアルタイムに変更してこれを差分画素データの生成に用いることができ、これにより、周辺環境の変化等によってノイズの状態が変化しても、この変化したノイズにリアルタイムに対応することができるという効果が得られる。
〔形態3〕 更に、形態3の撮像装置は、形態2の撮像装置において、
前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される、前記最小露光時間での露光時の電荷に対応する画素データを取得し、前記第N出力チャンネルを介して出力される、前記最小露光時間での露光時の電荷に対応する画素データを取得し、前記第1〜第(N−1)出力チャンネルの各出力チャンネル毎に、当該各出力チャンネルを介して取得した最小露光時の画素データの画素値と、前記第N出力チャンネルを介して取得した最小露光時の画素データの画素値との差分値を算出し、当該差分値からなる最小露光差分画素データを生成する最小露光差分画素データ生成手段と、
前記最小露光差分画素データを記憶する最小露光差分画素データ記憶手段と、を備え、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、当該各画素データに対応する前記最小露光差分画素データ記憶手段に記憶された最小露光差分画素データの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴としている。
前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される、前記最小露光時間での露光時の電荷に対応する画素データを取得し、前記第N出力チャンネルを介して出力される、前記最小露光時間での露光時の電荷に対応する画素データを取得し、前記第1〜第(N−1)出力チャンネルの各出力チャンネル毎に、当該各出力チャンネルを介して取得した最小露光時の画素データの画素値と、前記第N出力チャンネルを介して取得した最小露光時の画素データの画素値との差分値を算出し、当該差分値からなる最小露光差分画素データを生成する最小露光差分画素データ生成手段と、
前記最小露光差分画素データを記憶する最小露光差分画素データ記憶手段と、を備え、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、当該各画素データに対応する前記最小露光差分画素データ記憶手段に記憶された最小露光差分画素データの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴としている。
このような構成であれば、最小露光差分画素データ生成手段によって、 前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される、前記最小露光時間での露光時の電荷に対応する画素データを取得し、前記第N出力チャンネルを介して出力される、前記最小露光時間での露光時の電荷に対応する画素データを取得し、前記第1〜第(N−1)出力チャンネルの各出力チャンネル毎に、当該各出力チャンネルを介して取得した最小露光時の画素データの画素値と、前記第N出力チャンネルを介して取得した最小露光時の画素データの画素値との差分値を算出し、当該差分値からなる最小露光差分画素データを生成することが可能であり、最小露光差分画素データ記憶手段によって、前記最小露光差分画素データを記憶することが可能である。
また、前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、当該各画素データに対応する前記最小露光差分画素データ記憶手段に記憶された最小露光差分画素データの値との差分値を算出し、当該差分値からなる差分画素データを生成することが可能である。
従って、(N−1)種類の露光時間にそれぞれ対応する画素データから、各画素の特性のバラツキが原因で生じるノイズに加え、第1〜第(N−1)出力チャンネル並びに第N出力チャンネルにおいてそれぞれ発生するノイズを除去することが可能となるので、撮像画像の画質をより改善することができるという効果が得られる。
〔形態4〕 更に、形態4の撮像装置は、形態3の撮像装置において、
前記画素のラインの所定の1ライン分の前記最小露光差分画素データを前記最小露光差分画素データ記憶手段に記憶するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、前記最小露光差分画素データ記憶手段に記憶された1ライン分の最小露光差分画素データの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴としている。
前記画素のラインの所定の1ライン分の前記最小露光差分画素データを前記最小露光差分画素データ記憶手段に記憶するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、前記最小露光差分画素データ記憶手段に記憶された1ライン分の最小露光差分画素データの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴としている。
このような構成であれば、前記画素のラインの所定の1ライン分の前記最小露光差分画素データを前記最小露光差分画素データ記憶手段に記憶することが可能であり、前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、前記最小露光差分画素データ記憶手段に記憶された1ライン分の最小露光差分画素データの値との差分値を算出し、当該差分値からなる差分画素データを生成することが可能である。
ここで、本発明者らは、実験を行って、上記形態2の構成の撮像装置によって撮像した画像に、第1〜第(N−1)出力チャンネル並びに第N出力チャンネルにおいてそれぞれ発生するノイズが原因で複数の縦縞が発生するのを確認した。つまり、第1〜第(N−1)出力チャンネル並びに第N出力チャンネルにおいて発生するノイズは、ラインメモリを構成する特定の素子において発生していることになり、更に縦縞が発生するということは、同じようなノイズが、全ラインの同じ画素位置の画素データに対して発生していることになる。従って、本形態の構成のように、1ライン分の最小露光差分画素データを記憶する構成であれば、全ラインに対して第1〜第(N−1)出力チャンネル並びに第N出力チャンネルにおいて発生するノイズを低減することが可能であり、これにより、1ライン分の最小露光差分画素データのみを記憶するだけで良くなるので、第1〜第(N−1)出力チャンネル並びに第N出力チャンネルにおいて発生するノイズを低減できると共に、最小露光差分画素データを記憶するのに必要なメモリ容量を低減することができるという効果が得られる。
〔形態5〕 更に、形態5の撮像装置は、形態3の撮像装置において、
前記画素のラインの全ライン数よりも少ない複数ライン分の前記最小露光差分画素データを前記最小露光差分画素データ記憶手段に記憶するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、前記最小露光差分画素データ記憶手段に記憶された複数ライン分の最小露光差分画素データのいずれかの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴としている。
前記画素のラインの全ライン数よりも少ない複数ライン分の前記最小露光差分画素データを前記最小露光差分画素データ記憶手段に記憶するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、前記最小露光差分画素データ記憶手段に記憶された複数ライン分の最小露光差分画素データのいずれかの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴としている。
このような構成であれば、前記画素のラインの全ライン数よりも少ない複数ライン分の前記最小露光差分画素データを前記最小露光差分画素データ記憶手段に記憶することが可能であり、前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、前記最小露光差分画素データ記憶手段に記憶された複数ライン分の最小露光差分画素データのいずれかの値との差分値を算出し、当該差分値からなる差分画素データを生成することが可能である。
ここで、本発明者らは、実験を行って、上記形態4の構成の撮像装置によって撮像した画像は、形態2の構成のように第1〜第(N−1)出力チャンネル並びに第N出力チャンネルにおいて発生するノイズを、このノイズに対して低減させる処理を何もしないときよりは低減させることができたが、上記形態3の構成のように、全ライン分の最小露光差分画素データを用いたときよりも低減できていないことを確認した。そこで、本形態の構成のように、複数ライン分の最小露光差分画素データを記憶するようにし、これら複数ライン分の最小露光差分画素データを、例えば、最小露光差分画素データと同じライン及びその近傍のラインに対して適用するなど、複数ライン分の最小露光差分画素データを用いることで形態4の構成よりもノイズを低減させることができた。従って、本形態の構成であれば、全ライン分の最小露光差分画素データを記憶するよりもメモリ容量を低減できると共に、1ライン分の最小露光差分画素データを用いるよりもノイズを低減できるという効果が得られる。
〔形態6〕 更に、形態6の撮像装置は、形態2乃至5のいずれか1の撮像装置において、
前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される、前記光電変換部の光学的黒となる領域の光電変換素子の電荷に対応した画素データを取得し、前記第N出力チャンネルを介して出力される、前記光学的黒となる領域の光電変換素子の電荷に対応した画素データを取得し、前記第1〜第(N−1)出力チャンネルの各出力チャンネル毎に、当該各出力チャンネルを介してそれぞれ取得した光学的黒となる領域の画素データの画素値と、前記第N出力チャンネルを介して取得した光学的黒となる領域の画素データの画素値との差分値に基づく値からなるOB差分画素データを生成するOB差分画素データ生成手段と、を備え、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値に、OB差分画素データの値を加算し、当該加算結果からなる差分画素データを生成するようになっていることを特徴としている。
前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される、前記光電変換部の光学的黒となる領域の光電変換素子の電荷に対応した画素データを取得し、前記第N出力チャンネルを介して出力される、前記光学的黒となる領域の光電変換素子の電荷に対応した画素データを取得し、前記第1〜第(N−1)出力チャンネルの各出力チャンネル毎に、当該各出力チャンネルを介してそれぞれ取得した光学的黒となる領域の画素データの画素値と、前記第N出力チャンネルを介して取得した光学的黒となる領域の画素データの画素値との差分値に基づく値からなるOB差分画素データを生成するOB差分画素データ生成手段と、を備え、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値に、OB差分画素データの値を加算し、当該加算結果からなる差分画素データを生成するようになっていることを特徴としている。
このような構成であれば、OB差分画素データ生成手段によって、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される、前記光電変換部の光学的黒となる領域の光電変換素子の電荷に対応した画素データを取得し、前記第N出力チャンネルを介して出力される、前記光学的黒となる領域の光電変換素子の電荷に対応した画素データを取得し、前記第1〜第(N−1)出力チャンネルの各出力チャンネル毎に、当該各出力チャンネルを介してそれぞれ取得した光学的黒となる領域の画素データの画素値と、前記第N出力チャンネルを介して取得した光学的黒となる領域の画素データの画素値との差分値に基づく値からなるOB差分画素データを生成することが可能であり、前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値に、OB差分画素データの値を加算し、当該加算結果からなる差分画素データを生成することが可能である。
ここで、本発明者らは、実験を行って、第1〜(N−1)出力チャンネルからそれぞれ出力されるN−1種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出したときに、差分値がマイナスの値になるときがあることを確認した。マイナスの画素値は画像処理において通常は存在し得ない値であり、このようなマイナス値となる値は予め「0」に固定するなどの処置がとられるため、例えば、この部分が点となって画像に出現するなど画質を劣化させる要因となる。また、差分値を算出したときにマイナス値になる要因の一つとしては、第1〜第(N−1)出力チャンネル並びに第N出力チャンネルを介して読み出したOB(オプティカルブラック)領域の画素信号のレベル差によるものがある。そこで、本形態の構成のように、OB領域の画素信号を用いて、例えば、第1〜第(N−1)出力チャンネルを介してそれぞれ取得したOB領域の全画素信号の画素値の各出力チャンネル毎の平均値と第N出力チャンネルを介して取得したOB領域の全画素信号の画素値の平均値との差分値、第1〜第(N−1)出力チャンネルを介して取得したOB領域の画素信号の画素値の各出力チャンネル毎の最大値と最小値との差分と、第N出力チャンネルを介して取得したOB領域の画素信号の画素値の最大値と最小値との差分との差分などを算出するなど、OB領域の画素信号の画素値の差分値に基づく値を算出してOB差分画素データを生成し、この値を、第1〜第(N−1)出力チャンネルを介して出力されるN−1種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値に加算して差分画素データを生成することで、OB領域の画素信号のレベル差が原因で画素値がマイナスになるのを防ぐことができるという効果が得られる。
以下、本発明に係る撮像装置の実施の形態を、図面に基づいて説明する。図1〜図7は、本発明に係る撮像装置1の実施の形態を示す図である。
この撮像装置1は、1フレーム期間(1回の露光区間)に2種類の露光時間(通常露光時間≫最小露光時間)で画像を撮像可能な電子シャッタ機能を備えた撮像素子を備える。また、この撮像素子からは、画素列毎に順次、光電変換された画素信号が出力される。
この撮像装置1は、1フレーム期間(1回の露光区間)に2種類の露光時間(通常露光時間≫最小露光時間)で画像を撮像可能な電子シャッタ機能を備えた撮像素子を備える。また、この撮像素子からは、画素列毎に順次、光電変換された画素信号が出力される。
以下、図1に基づき、本発明に係る撮像装置1の概略構成を説明する。ここで、図1は、本発明に係る撮像装置1の概略構成を示すブロック図である。
撮像装置1は、図1に示すように、光電変換素子等から構成されるイメージセンサ10a(後述)と、イメージセンサ10aからの画素信号を非破壊読み出し方式で読み出し、当該画素信号の画素データを出力する撮像処理部10と、撮像処理部10から出力される各種画素データに基づき、OB差分画素データ及び最小露光画素データを生成すると共に、これら生成した画素データに基づきノイズ成分を除去した差分画素データを生成する画像処理部12と、撮像処理部10から出力される各種画素データ、OB差分画素データ、最小露光画素データ及び前記差分画素データを記憶するフレームメモリ14とを含んで構成される。
撮像装置1は、図1に示すように、光電変換素子等から構成されるイメージセンサ10a(後述)と、イメージセンサ10aからの画素信号を非破壊読み出し方式で読み出し、当該画素信号の画素データを出力する撮像処理部10と、撮像処理部10から出力される各種画素データに基づき、OB差分画素データ及び最小露光画素データを生成すると共に、これら生成した画素データに基づきノイズ成分を除去した差分画素データを生成する画像処理部12と、撮像処理部10から出力される各種画素データ、OB差分画素データ、最小露光画素データ及び前記差分画素データを記憶するフレームメモリ14とを含んで構成される。
また、本実施の形態における撮像装置1は、図1に示すホストシステム2からの各種制御信号に基づき、OB差分画素データ生成処理、最小露光画素データ生成処理、差分画素データ生成処理等の各種処理が制御され且つ実行される。
更に、図2に基づき、撮像装置1の内部構成を説明する。ここで、図2は、本発明に係る撮像装置1の内部構成を示すブロック図である。
更に、図2に基づき、撮像装置1の内部構成を説明する。ここで、図2は、本発明に係る撮像装置1の内部構成を示すブロック図である。
図2に示すように、撮像処理部10は、イメージセンサ10aと、露光時間設定用レジスタ10bと、第1のAFE(Analog Front End)10cと、第2のAFE10dとを含んで構成される。
イメージセンサ10aは、被写体からの光を撮像レンズ(不図示)でセンサセルアレイ(不図示)に集光し、その集光量に応じた電荷をセンサセルアレイの各画素に蓄積させる。また、イメージセンサ10aは、タイミング制御部12f(後述)から出力される駆動信号(ピクセルクロック、水平同期信号及び垂直同期信号)に基づいて、センサセルアレイの各画素列に蓄積されている電荷群を電圧群に順次変換し、異なる2種類の露光時間の各種類毎に、その変換された電圧群を、一方の露光時間の電圧群は、第1水平転送部(不図示)の有する、第1ラインメモリを含んで構成される第1出力チャンネル(以下、CH1と称す)を介して第1のAFE10cに順次出力させ、他方の露光時間の電圧群は、第2水平転送部(不図示)の有する、第2ラインメモリを含んで構成される第2出力チャンネル(以下、CH2と称す)を介して第2のAFE10dに順次出力させる。また、本実施の形態においては、非破壊読み出し方式で各画素からの電荷の読み出しを行うことによって、電子シャッタ機能による1回の露光区間(通常露光時間)において、各画素列の最小露光時間(設定可能な最小時間)での露光時の電荷群と、通常露光時間(ユーザ等によって任意に設定可能)での露光時の電荷群とを読み出すようになっている。
イメージセンサ10aは、被写体からの光を撮像レンズ(不図示)でセンサセルアレイ(不図示)に集光し、その集光量に応じた電荷をセンサセルアレイの各画素に蓄積させる。また、イメージセンサ10aは、タイミング制御部12f(後述)から出力される駆動信号(ピクセルクロック、水平同期信号及び垂直同期信号)に基づいて、センサセルアレイの各画素列に蓄積されている電荷群を電圧群に順次変換し、異なる2種類の露光時間の各種類毎に、その変換された電圧群を、一方の露光時間の電圧群は、第1水平転送部(不図示)の有する、第1ラインメモリを含んで構成される第1出力チャンネル(以下、CH1と称す)を介して第1のAFE10cに順次出力させ、他方の露光時間の電圧群は、第2水平転送部(不図示)の有する、第2ラインメモリを含んで構成される第2出力チャンネル(以下、CH2と称す)を介して第2のAFE10dに順次出力させる。また、本実施の形態においては、非破壊読み出し方式で各画素からの電荷の読み出しを行うことによって、電子シャッタ機能による1回の露光区間(通常露光時間)において、各画素列の最小露光時間(設定可能な最小時間)での露光時の電荷群と、通常露光時間(ユーザ等によって任意に設定可能)での露光時の電荷群とを読み出すようになっている。
以下、図3に基づき、撮像処理部10におけるイメージセンサ10aの露光時間の制御方法、及びイメージセンサ10aからの画素信号の読み出し方法について説明する。ここで、図3は、撮像処理部10における各画素のライン毎の露光及び画素信号の非破壊読み出し動作の一例を示す図である。
ここで、本発明の露光時間の制御は、センサセルアレイに対して、蓄積電荷を空にするためのクリアラインを設定し、このクリアラインを基準として、露光時間設定用レジスタ10bに書き込まれる通常露光時間の画素信号の非破壊読み出しを行う第1読み出しラインを設定すると共に、露光時間設定用レジスタ10bに予め書き込まれている最小露光時間時の画素信号の非破壊読み出しを行う第2読み出しラインを設定し、1回の露光区間(通常露光時間)において、通常露光時間時の画素信号及び最小露光時間時の画素信号の非破壊読み出しが実行されるように行われる。つまり、これら第1読み出しライン及び第2読み出しラインは、図3に示すように、所定位置の画素のライン(例えば、第1ライン)にクリアラインが設定されると、当該クリアラインから最小露光時間分の時間を空けて第2読み出しラインが第1ラインの画素信号を読み出すように設定され、クリアラインから通常露光時間分の時間を空けて第1ラインの画素信号を読み出すように第1読み出しラインが設定される。なお、本実施の形態において、通常露光時間時の画素信号は、CH1の第1ラインメモリに読み出されて第1のAFE10cに出力されそこでデジタルデータ(以下、画素データと称す)に変換される。一方、最小露光時間時の画素信号は、CH2の第2ラインメモリに読み出されて第2のAFE10dに出力されそこでデジタルデータ(画素データ)に変換される。
ここで、本発明の露光時間の制御は、センサセルアレイに対して、蓄積電荷を空にするためのクリアラインを設定し、このクリアラインを基準として、露光時間設定用レジスタ10bに書き込まれる通常露光時間の画素信号の非破壊読み出しを行う第1読み出しラインを設定すると共に、露光時間設定用レジスタ10bに予め書き込まれている最小露光時間時の画素信号の非破壊読み出しを行う第2読み出しラインを設定し、1回の露光区間(通常露光時間)において、通常露光時間時の画素信号及び最小露光時間時の画素信号の非破壊読み出しが実行されるように行われる。つまり、これら第1読み出しライン及び第2読み出しラインは、図3に示すように、所定位置の画素のライン(例えば、第1ライン)にクリアラインが設定されると、当該クリアラインから最小露光時間分の時間を空けて第2読み出しラインが第1ラインの画素信号を読み出すように設定され、クリアラインから通常露光時間分の時間を空けて第1ラインの画素信号を読み出すように第1読み出しラインが設定される。なお、本実施の形態において、通常露光時間時の画素信号は、CH1の第1ラインメモリに読み出されて第1のAFE10cに出力されそこでデジタルデータ(以下、画素データと称す)に変換される。一方、最小露光時間時の画素信号は、CH2の第2ラインメモリに読み出されて第2のAFE10dに出力されそこでデジタルデータ(画素データ)に変換される。
また、上記第1読み出しライン及び第2読み出しラインの画素信号の読み出しタイミングの制御は、図3に示すように、各画素のライン毎に、クリアライン、第2読み出しライン及び第1読み出しラインを順次走査し(図3では上方向)、クリアラインにおける電荷のクリア後に、このクリア後の画素のラインに対して、第2読み出しラインにおいて最小露光時間時の画素信号の非破壊読み出しを行い、クリアラインにおける電荷のクリア後で通常露光時間が経過した画素のラインに対して、第1読み出しラインにおいて通常露光時間時の画素信号の非破壊読み出しを行う。このような手順で、センサセルアレイの全画素のラインに対して、各画素のライン毎に、電荷のクリア及び最小露光時の画素信号の非破壊読み出しを順次行うと共に、当該最小露光時の画素信号の非破壊読み出しが行われた画素のラインに対して通常露光時の画素信号の読み出しを順次行う。従って、CH1及びCH2から出力される画素データには、少なくとも「通常露光時間−最小露光時間」の時間差が生じることになる。
図2に戻って、露光時間設定用レジスタ10bは、電子シャッタ機能における露光時間(電荷蓄積時間)を指定するためのレジスタで、本実施の形態においては、当該露光時間設定用レジスタ10bに書き込まれた露光時間に基づきCH1及びCH2の各チャンネルに対応した読み出しラインに対して最小露光時間及び通常露光時間がそれぞれ設定される。この通常露光時間による露光が上記1回の露光区間となる。
第1のAFE10c及び第2のAFE10dは、第1水平転送部のCH1及び第2水平転送部のCH2を介して出力される異なる2種類の露光時間にそれぞれ対応する電圧(アナログデータ)を、デジタルデータ(画素データ)に変換する。そして、第1のAFE10c及び第2のAFE10dは、その生成された画素データを画像処理部12の第1バッファ12c(後述)及び第2バッファ12d(後述)にそれぞれ出力する。
画像処理部12は、通信部12aと、処理モード設定用レジスタ及びステータス用レジスタ12bと、第1バッファ12cと、第2バッファ12dと、差分処理部12eと、フレームメモリアクセス部12fとを含んで構成される。
通信器12aは、上記ホストシステム2からの各種制御信号を受信する機能と、イメージセンサ10aに駆動制御信号を送信する機能と、露光時間設定用レジスタ10bに露光時間設定信号を送信する機能と、処理モード設定用レジスタ及びステータス用レジスタ12bにモード設定信号を送信する機能とを有している。ここで、処理モードとは、第1バッファ12c及び第2バッファ12d並びに差分処理部12eの動作状態の組み合わせを示すものである。更に、ホストシステム2に対して、第1バッファ12c及び第2バッファ12d並びに差分処理部12eの各処理状態を示すステータス信号を送信する機能を有している。
通信器12aは、上記ホストシステム2からの各種制御信号を受信する機能と、イメージセンサ10aに駆動制御信号を送信する機能と、露光時間設定用レジスタ10bに露光時間設定信号を送信する機能と、処理モード設定用レジスタ及びステータス用レジスタ12bにモード設定信号を送信する機能とを有している。ここで、処理モードとは、第1バッファ12c及び第2バッファ12d並びに差分処理部12eの動作状態の組み合わせを示すものである。更に、ホストシステム2に対して、第1バッファ12c及び第2バッファ12d並びに差分処理部12eの各処理状態を示すステータス信号を送信する機能を有している。
処理モード設定用レジスタ及びステータス用レジスタ12bは、第1バッファ12c及び第2バッファ12d並びに差分処理部12eに実行させる処理モードを指定するためのレジスタであると共に、第1バッファ12c及び第2バッファ12d並びに差分処理部12eの各処理状態を示すステータスを書き込むレジスタである。なお、通信器12aは、処理モード設定用レジスタ及びステータス用レジスタ12bに、ホストシステム2から送られてきたモード設定信号に基づくモード情報を書き込んで処理モードを指定し、処理モード設定用レジスタ及びステータス用レジスタ12bに書き込まれたステータス情報をステータス信号としてホストシステム2に送信する。
ここで、本実施の形態において、上記処理モードには、イメージセンサ10aのOB(オプティカルブラック)領域の画素データからOB差分画素データを生成するOB差分画素データ生成モード、最小露光時間時のCH1及びCH2からの画素データの差分値からなる最小露光差分画素データを生成する最小露光差分画素データ生成モード、通常露光時の画素データから各種ノイズ成分を除去した差分画素データを生成する差分画素データ生成モードの3つのモードがある。
第1バッファ12c及び第2バッファ12dは、第1のAFE10c及び第2のAFE10dからそれぞれ出力される画素データを一次的に保存し、当該保存した画素データと当該画素データを保存するフレームメモリ14のアドレスをフレームメモリアクセス部12gに出力する機能を有している。
差分処理部12eは、処理モード設定用レジスタ及びステータス用レジスタ12bに書き込まれた処理モードに応じて、OB差分画素データ、最小露光差分画素データ及び差分画素データのいずれか1の生成処理を実行する。
差分処理部12eは、処理モード設定用レジスタ及びステータス用レジスタ12bに書き込まれた処理モードに応じて、OB差分画素データ、最小露光差分画素データ及び差分画素データのいずれか1の生成処理を実行する。
具体的には、OB差分画素データ生成モードであれば、撮像処理部10からイメージセンサ10aのOB領域の画素データをCH1及びCH2のそれぞれを介して取得し、このOB領域の画素データに基づきOB差分画素データを生成する。
また、最小露光差分画素データ生成モードであれば、最小露光時間時の画素データをCH1及びCH2を介してそれぞれ取得し、各画素毎に、CH1を介して取得した画素データの画素値から、CH2を介して取得したCH1と同じ画素に対応する画素データの画素値を減算した差分値を算出し、当該差分値からなる最小露光差分画素データを生成する。
また、最小露光差分画素データ生成モードであれば、最小露光時間時の画素データをCH1及びCH2を介してそれぞれ取得し、各画素毎に、CH1を介して取得した画素データの画素値から、CH2を介して取得したCH1と同じ画素に対応する画素データの画素値を減算した差分値を算出し、当該差分値からなる最小露光差分画素データを生成する。
また、差分画素データ生成モードであれば、1回の露光区間において、ユーザ等によって任意に設定される通常露光時間時の画素データを各ライン毎にCH1を介して取得し、予め設定された最小露光時間時の画素データを各ライン毎にCH2を介して取得し、各画素毎に、CH1を介して取得した画素データの画素値から、CH2を介して取得したCH1と同じ画素に対応する画素データの画素値を減算した差分値を算出し、この差分値に、OB差分画素データ生成モードで生成したOB差分画素データの値を加算すると共に、この加算後の値から、最小露光差分画素データ生成モード生成した最小露光差分画素データの値を減算して差分画素データを生成する。
タイミング制御部12fは、駆動信号(ピクセルクロック、水平同期信号、垂直同期信号)を生成し、それをイメージセンサ10aに出力すると共に、同期信号を第1バッファ12c及び第2バッファ12dに出力する。また、タイミング制御部12fは、水平同期信号、垂直同期信号から、撮像処理部10から出力される画素信号の、撮像素子における画素位置(画素列(ライン)番号、画素番号)が分かるので、その画素列(ライン)番号(以下、「アドレス情報」とも呼ぶ。)を生成し、そのアドレス情報を第1バッファ12c及び第2バッファ12dに出力する。
フレームメモリアクセス部12gは、第1バッファ12c及び第2バッファ12d並びに差分処理部12eと、フレームメモリ14との間のデータの送受信を管理する機能を有している。つまり、フレームメモリアクセス部12gは、第1バッファ12c及び第2バッファ12d並びに差分処理部12eのいずれかから読み出し指令が出力されると、その出力された読み出し指令が示す画素データ(各種差分画素データを含む)をフレームメモリ14から読み出し、その画素データを読み出し指令の出力元に出力する。また、第1バッファ12c及び第2バッファ12d並びに差分処理部12eのいずれかから書き込み指令が出力されると、その出力された書き込み指令が示す画素データ(各種差分画素データを含む)をフレームメモリ14に書き込む。
フレームメモリ14は、図2に示すように、CH1を介して取得した通常露光時間時の画素データ(撮像領域の全ライン分)、CH2を介して取得した通常露光時間時の画素データ(撮像領域の全ライン分)、第1差分画素データ(撮像領域の全ライン分)、OB差分画素データ、最小露光差分画素データ(撮像領域の全ライン分)、第2差分画素データ(撮像領域の全ライン分)を記憶可能な容量を有したメモリであり、フレームメモリアクセス部12gから読み出し要求があると、その要求が示す画素データを読み出させる。また、フレームメモリ14は、フレームメモリアクセス部12gから書き込み要求があると、その書き込み要求が示す画素データを書き込ませる。
更に、図4に基づき、OB差分画素データの生成処理の流れを説明する。ここで、図4は、OB差分画素データの生成処理を示すフローチャートである。
OB差分画素データの生成処理は、ホストシステム2からのモード設定信号に基づき、処理モード設定用レジスタ及びステータス用レジスタ12bに、OB差分画素データ生成モードのデータ取得モード情報が設定される(書き込まれる)ことにより開始される処理である。ここで、通信器12aは、ホストシステム2からのモード設定信号に加え、ホストシステム2からの駆動信号をイメージセンサ10aに送信し、且つホストシステム2からの露光時間設定信号を露光時間設定用レジスタ10bに送信する。この露光時間設定信号は、OB差分画素データ生成モードにおけるCH1の第1読み出しラインに対する露光時間を設定するためのもので、ここでは、例えば、最小露光時間に設定する。なお、このCH1に対する露光時間の情報は、CH2の最小露光時間と同様に予め露光時間設定用レジスタ10bに記憶しておいても良い。
OB差分画素データの生成処理は、ホストシステム2からのモード設定信号に基づき、処理モード設定用レジスタ及びステータス用レジスタ12bに、OB差分画素データ生成モードのデータ取得モード情報が設定される(書き込まれる)ことにより開始される処理である。ここで、通信器12aは、ホストシステム2からのモード設定信号に加え、ホストシステム2からの駆動信号をイメージセンサ10aに送信し、且つホストシステム2からの露光時間設定信号を露光時間設定用レジスタ10bに送信する。この露光時間設定信号は、OB差分画素データ生成モードにおけるCH1の第1読み出しラインに対する露光時間を設定するためのもので、ここでは、例えば、最小露光時間に設定する。なお、このCH1に対する露光時間の情報は、CH2の最小露光時間と同様に予め露光時間設定用レジスタ10bに記憶しておいても良い。
上記のように各種設定がなされると、図4に示すように、まずステップS100に移行して、第1バッファ12c及び第2バッファ12dにおいて、撮像処理部10のCH1及びCH2を介してイメージセンサ10aのOB領域の画素データを取得し、当該取得した画素データをフレームメモリアクセス部12gを介してフレームメモリ14に記憶してステップS102に移行する。
ステップS102では、第1バッファ12c及び第2バッファ12dにおいて、OB領域の画素データの取得処理が終了したか否かを判定し、終了したと判定された場合(Yes)は、ステップS104に移行し、そうでない場合(No)は、ステップS100に移行して取得処理を続行する。
ステップS104に移行した場合は、第1バッファ12c及び第2バッファ12dにおいて、データ取得処理の終了を示すステータス信号を、処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信してステップS106に移行する。
ステップS104に移行した場合は、第1バッファ12c及び第2バッファ12dにおいて、データ取得処理の終了を示すステータス信号を、処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信してステップS106に移行する。
ステップS106では、差分処理部12eにおいて、処理モード設定用レジスタ及びステータス用レジスタ12bに、OB差分画素データ生成モードのデータ生成モード情報が設定されたか否か(書き込まれたか否か)を判定し、設定されたと判定された場合(Yes)は、ステップS108に移行し、そうでない場合(No)は、設定されるまで待機する。
ステップS108に移行した場合は、差分処理部12eにおいて、ステップS100で取得し且つフレームメモリ14に記憶された各チャンネル毎のOB領域の画素データをフレームメモリアクセス部12gを介して読み出し、当該読み出したOB領域の画素データに基づきOB差分画素データを生成し、当該生成したOB差分画素データを、フレームメモリアクセス部12gを介してフレームメモリ14に記憶してステップS110に移行する。
ステップS108に移行した場合は、差分処理部12eにおいて、ステップS100で取得し且つフレームメモリ14に記憶された各チャンネル毎のOB領域の画素データをフレームメモリアクセス部12gを介して読み出し、当該読み出したOB領域の画素データに基づきOB差分画素データを生成し、当該生成したOB差分画素データを、フレームメモリアクセス部12gを介してフレームメモリ14に記憶してステップS110に移行する。
ステップS110では、差分処理部12eにおいて、OB差分画素データの生成処理が終了したか否かを判定し、終了したと判定された場合(Yes)は、ステップS112に移行し、そうでない場合(No)は、ステップS108に移行してOB差分画素データの生成処理を続行する。
ステップS112に移行した場合は、差分処理部12eにおいて、OB差分画素データの生成処理の終了を示すステータス信号を、処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信して処理を終了する。ここで、ホストシステム2は、OB差分画素データの生成処理の終了を示すステータス信号を受信すると、最小露光差分画素データ生成モードのデータ取得モードを示すモード設定信号を通信器12aを介して、撮像処理部12に送信する。撮像処理部12は、通信器12aで受信したデータ取得モードを示すモード信号に基づき、データ取得モード情報を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aに設定し(書き込み)、最小露光差分画素データ生成モードのデータ取得モードへと移行する。なお、本実施の形態において、上記OB差分画素データの生成処理は、電源投入後にバッチ処理として1回だけ行われる処理である。
ステップS112に移行した場合は、差分処理部12eにおいて、OB差分画素データの生成処理の終了を示すステータス信号を、処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信して処理を終了する。ここで、ホストシステム2は、OB差分画素データの生成処理の終了を示すステータス信号を受信すると、最小露光差分画素データ生成モードのデータ取得モードを示すモード設定信号を通信器12aを介して、撮像処理部12に送信する。撮像処理部12は、通信器12aで受信したデータ取得モードを示すモード信号に基づき、データ取得モード情報を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aに設定し(書き込み)、最小露光差分画素データ生成モードのデータ取得モードへと移行する。なお、本実施の形態において、上記OB差分画素データの生成処理は、電源投入後にバッチ処理として1回だけ行われる処理である。
更に、図5に基づき、最小露光差分画素データ生成処理の流れを説明する。ここで、図5は、最小露光差分画素データ生成処理を示すフローチャートである。
最小露光差分画素データの生成処理は、ホストシステム2からのモード設定信号に基づき、処理モード設定用レジスタ及びステータス用レジスタ12bに、最小露光差分画素データ生成モードのデータ取得モード情報が設定される(書き込まれる)ことにより開始される処理である。ここで、通信器12aは、ホストシステム2からのモード設定信号に加え、ホストシステム2からの駆動信号をイメージセンサ10aに送信し、且つホストシステム2からの露光時間設定信号を露光時間設定用レジスタ10bに送信する。この露光時間設定信号は、最小露光差分画素データ生成モードにおけるCH1の第1読み出しラインに対する露光時間を設定するためのもので、ここでは、最小露光時間に設定する。なお、このCH1に対する露光時間の情報は、CH2の最小露光時間と同様に予め露光時間設定用レジスタ10bに記憶しておいても良い。
最小露光差分画素データの生成処理は、ホストシステム2からのモード設定信号に基づき、処理モード設定用レジスタ及びステータス用レジスタ12bに、最小露光差分画素データ生成モードのデータ取得モード情報が設定される(書き込まれる)ことにより開始される処理である。ここで、通信器12aは、ホストシステム2からのモード設定信号に加え、ホストシステム2からの駆動信号をイメージセンサ10aに送信し、且つホストシステム2からの露光時間設定信号を露光時間設定用レジスタ10bに送信する。この露光時間設定信号は、最小露光差分画素データ生成モードにおけるCH1の第1読み出しラインに対する露光時間を設定するためのもので、ここでは、最小露光時間に設定する。なお、このCH1に対する露光時間の情報は、CH2の最小露光時間と同様に予め露光時間設定用レジスタ10bに記憶しておいても良い。
上記のように各種設定がなされると、図5に示すように、まずステップS200に移行して、第1バッファ12c及び第2バッファ12dにおいて、撮像処理部10のCH1及びCH2を介して、イメージセンサ10aの最小露光時間での露光時の画素データをそれぞれ順次取得し、当該取得した画素データをフレームメモリアクセス部12gを介してフレームメモリ14に記憶してステップS202に移行する。
ステップS202では、第1バッファ12c及び第2バッファ12dにおいて、H1及びCH2を介して、1フレーム分(撮像領域の画素の全ライン分)の最小露光時間で露光時の画素データの取得処理が終了したか否かを判定し、終了したと判定された場合(Yes)は、ステップS204に移行し、そうでない場合(No)は、ステップS200に移行して取得処理を続行する。
ステップS204に移行した場合は、第1バッファ12c及び第2バッファ12dにおいて、データ取得処理の終了を示すステータス信号を、処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信してステップS206に移行する。
ステップS206では、差分処理部12eにおいて、処理モード設定用レジスタ及びステータス用レジスタ12bに、最小露光差分画素データ生成モードのデータ生成モード情報が設定されたか否か(書き込まれたか否か)を判定し、設定されたと判定された場合(Yes)は、ステップS208に移行し、そうでない場合(No)は、設定されるまで待機する。
ステップS206では、差分処理部12eにおいて、処理モード設定用レジスタ及びステータス用レジスタ12bに、最小露光差分画素データ生成モードのデータ生成モード情報が設定されたか否か(書き込まれたか否か)を判定し、設定されたと判定された場合(Yes)は、ステップS208に移行し、そうでない場合(No)は、設定されるまで待機する。
ステップS208に移行した場合は、差分処理部12eにおいて、ステップS200で取得し且つフレームメモリ14に記憶された各チャンネル毎の1フレーム分の画素データをフレームメモリアクセス部12gを介して読み出し、当該読み出した画素データに基づき最小露光差分画素データを生成し、当該生成した最小露光差分画素データを、フレームメモリアクセス部12gを介してフレームメモリ14に記憶してステップS210に移行する。
ステップS210では、差分処理部12eにおいて、最小露光差分画素データの生成処理が終了したか否かを判定し、終了したと判定された場合(Yes)は、ステップS212に移行し、そうでない場合(No)は、ステップS208に移行して最小露光差分画素データの生成処理を続行する。
ステップS212に移行した場合は、差分処理部12eにおいて、最小露光差分画素データの生成処理の終了を示すステータス信号を、処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信して処理を終了する。ここで、ホストシステム2は、最小露光差分画素データの生成処理の終了を示すステータス信号を受信すると、通常撮影モードを示すモード設定信号を通信器12aを介して、撮像処理部12に送信する。撮像処理部12は、通信器12aで受信したデータ取得モードを示すモード設定信号に基づき、通常撮影モード情報を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aに設定し(書き込み)、通常撮影モードへと移行する。なお、本実施の形態において、上記最小露光差分画素データの生成処理は、電源投入後にバッチ処理として1回だけ行われる処理である。
ステップS212に移行した場合は、差分処理部12eにおいて、最小露光差分画素データの生成処理の終了を示すステータス信号を、処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信して処理を終了する。ここで、ホストシステム2は、最小露光差分画素データの生成処理の終了を示すステータス信号を受信すると、通常撮影モードを示すモード設定信号を通信器12aを介して、撮像処理部12に送信する。撮像処理部12は、通信器12aで受信したデータ取得モードを示すモード設定信号に基づき、通常撮影モード情報を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aに設定し(書き込み)、通常撮影モードへと移行する。なお、本実施の形態において、上記最小露光差分画素データの生成処理は、電源投入後にバッチ処理として1回だけ行われる処理である。
更に、図6に基づき、差分画素データ生成処理の流れを説明する。ここで、図6は、差分画素データ生成処理を示すフローチャートである。
差分画素データ生成処理は、ホストシステム2からのモード設定信号に基づき、処理モード設定用レジスタ及びステータス用レジスタ12bに、通常撮影モード情報が設定される(書き込まれる)ことにより開始される処理である。ここで、通信器12aは、ホストシステム2からのモード設定信号に加え、ホストシステム2からの駆動信号をイメージセンサ10aに送信し、且つホストシステム2からの露光時間設定信号を露光時間設定用レジスタ10bに送信する。この露光時間設定信号は、CH1の第1読み出しラインに対する露光時間を設定するためのもので、ここでは、例えば、最小露光時間に設定する。
ここで、通信器12aは、ホストシステム2からのモード設定情報(信号)の設定に加え、ホストシステム2からの駆動信号をイメージセンサ10aに送信し、且つホストシステム2からの露光時間設定信号を露光時間設定用レジスタ10bに送信する。この露光時間設定信号は、CH1の第1読み出しラインに対する露光時間を設定するためのもので、ここでは、露光時間として、ユーザ等によって指定される任意の露光時間(通常露光時間)が設定される。
差分画素データ生成処理は、ホストシステム2からのモード設定信号に基づき、処理モード設定用レジスタ及びステータス用レジスタ12bに、通常撮影モード情報が設定される(書き込まれる)ことにより開始される処理である。ここで、通信器12aは、ホストシステム2からのモード設定信号に加え、ホストシステム2からの駆動信号をイメージセンサ10aに送信し、且つホストシステム2からの露光時間設定信号を露光時間設定用レジスタ10bに送信する。この露光時間設定信号は、CH1の第1読み出しラインに対する露光時間を設定するためのもので、ここでは、例えば、最小露光時間に設定する。
ここで、通信器12aは、ホストシステム2からのモード設定情報(信号)の設定に加え、ホストシステム2からの駆動信号をイメージセンサ10aに送信し、且つホストシステム2からの露光時間設定信号を露光時間設定用レジスタ10bに送信する。この露光時間設定信号は、CH1の第1読み出しラインに対する露光時間を設定するためのもので、ここでは、露光時間として、ユーザ等によって指定される任意の露光時間(通常露光時間)が設定される。
上記のように各種設定がなされると、図6に示すように、まずステップS300に移行して、イメージセンサ10aにおいて、露光時間設定用レジスタ10bに設定されたCH1用の露光時間に基づき、当該CH1の読み出しラインに通常露光時間を設定してステップS302に移行する。
ステップS302では、イメージセンサ10aにおいて、露光時間設定用レジスタ10bに設定されたCH2用の露光時間に基づき、当該CH2の読み出しラインに最小露光時間を設定してステップS304に移行する。
ステップS302では、イメージセンサ10aにおいて、露光時間設定用レジスタ10bに設定されたCH2用の露光時間に基づき、当該CH2の読み出しラインに最小露光時間を設定してステップS304に移行する。
ステップS304では、第1バッファ12c及び第2バッファ12dにおいて、撮像処理部10のCH2を介して、最小露光時間での露光時のイメージセンサ10aの1フレーム分の画素データを画素のライン毎に順次取得し、CH1を介して通常露光時間での露光時のイメージセンサ10aの1フレーム分の画素データを画素のライン毎に順次取得してステップS306に移行する。
ステップS306では、第1バッファ12c及び第2バッファ12dにおいて、ステップS304においてCH1及びCH2を介して取得した通常露光時間及び最小露光時間の画素データをフレームメモリアクセス部12gを介してフレームメモリ14に記憶してステップS308に移行する。
ステップS308では、差分処理部12eにおいて、CH1を介して取得した通常露光時の画素データ(以下、通常露光画素データと称す)と、CH2を介して取得した最小露光時の画素データ(以下、最小露光画素データと称す)とを、画素のライン毎にフレームメモリアクセス部12gを介してフレームメモリ14から読み出してステップS310に移行する。
ステップS308では、差分処理部12eにおいて、CH1を介して取得した通常露光時の画素データ(以下、通常露光画素データと称す)と、CH2を介して取得した最小露光時の画素データ(以下、最小露光画素データと称す)とを、画素のライン毎にフレームメモリアクセス部12gを介してフレームメモリ14から読み出してステップS310に移行する。
ステップS310では、差分処理部12eにおいて、ステップS308で読み出したライン単位の画素データの各画素データ毎に、CH1の通常露光画素データの画素値から、この画素データと同じ画素位置のCH2の最小露光画素データの画素値を減算した差分値を算出し、当該差分値からなる第1差分画素データを生成してステップS312に移行する。
ステップS312では、差分処理部12eにおいて、ステップS310で生成した第1差分画素データを、フレームメモリアクセス部12gを介してフレームメモリ14に記憶してステップS314に移行する。
ステップS314では、差分処理部12eにおいて、画素のライン毎の第1差分画素データ、OB差分画素データ及び画素のライン毎の最小露光差分画素データを、フレームメモリアクセス部12gを介してフレームメモリ14から読み出してステップS316に移行する。
ステップS314では、差分処理部12eにおいて、画素のライン毎の第1差分画素データ、OB差分画素データ及び画素のライン毎の最小露光差分画素データを、フレームメモリアクセス部12gを介してフレームメモリ14から読み出してステップS316に移行する。
ステップS316では、差分処理部12eにおいて、ステップS314で読み出したライン単位の第1差分画素データの各画素データ毎に、当該第1差分画素データの画素値から、この画素データと同じ画素位置の最小露光差分画素データの画素値を減算した差分値を算出し、この差分値にOB差分画素データの画素値を加算した加算結果からなる第2差分画素データを生成してステップS318に移行する。
ステップS318では、差分処理部12eにおいて、ステップS316で生成した第2差分画素データを、フレームメモリアクセス部12gを介してフレームメモリ14に記憶してステップS320に移行する。
ステップS320では、フレームメモリアクセス部12gにおいて、ステップS318でフレームメモリ14に記憶された第2差分画素データをホストシステム2に出力してステップS322に移行する。
ステップS320では、フレームメモリアクセス部12gにおいて、ステップS318でフレームメモリ14に記憶された第2差分画素データをホストシステム2に出力してステップS322に移行する。
ステップS322では、差分処理部12eにおいて、1フレーム分の画素の全ラインに対して、第1差分画素データ生成処理、第2差分画素データの生成処理及び第2差分画素データの出力処理が終了したか否かを判定し、終了したと判定された場合(Yes)は、ステップS300に移行し、そうでない場合(No)は、ステップS304に移行する。
ここで、図7は、通常撮影モードにおける、第1差分画素データの生成処理、第2差分画素データの生成処理及び第2差分画素データの出力処理のパイプライン処理の流れを示す図である。なお、第1差分画素データの生成処理(図7中の処理1)は、図6のフローチャートにおけるステップS304〜S310の処理に該当し、第2差分画素データの生成処理(図7中の処理2)は、図6のフローチャートにおけるステップS312〜318の処理に該当し、第2差分画素データの出力処理(図7中の処理3)は、ステップS322の処理に該当する。
ここで、図7は、通常撮影モードにおける、第1差分画素データの生成処理、第2差分画素データの生成処理及び第2差分画素データの出力処理のパイプライン処理の流れを示す図である。なお、第1差分画素データの生成処理(図7中の処理1)は、図6のフローチャートにおけるステップS304〜S310の処理に該当し、第2差分画素データの生成処理(図7中の処理2)は、図6のフローチャートにおけるステップS312〜318の処理に該当し、第2差分画素データの出力処理(図7中の処理3)は、ステップS322の処理に該当する。
本実施の形態においては、図7に示すように、上記処理1、処理2及び処理3がパイプライン処理される。
具体的には、処理1が開始されると、まず、CH1を介して取得した通常露光時のイメージセンサ10aの撮像領域における第1ラインの画素データと、同様にCH2を介して取得した最小露光時の第1ラインの画素データとから第1ラインに対する第1差分画素データが生成される。第1ラインに対する第1差分画素データが生成されると、次いで、CH1を介して取得した通常露光時の第2ラインの画素データと、CH2を介して取得した最小露光時の第2ラインの画素データとから第2ラインに対する第1差分画素データが生成される。つまり、イメージセンサ10aの撮像領域における第1ライン〜第nライン(nは撮像領域の最大ライン数)の各ラインに対応した画素データに対して、各ライン毎に処理1が順次行われる。
具体的には、処理1が開始されると、まず、CH1を介して取得した通常露光時のイメージセンサ10aの撮像領域における第1ラインの画素データと、同様にCH2を介して取得した最小露光時の第1ラインの画素データとから第1ラインに対する第1差分画素データが生成される。第1ラインに対する第1差分画素データが生成されると、次いで、CH1を介して取得した通常露光時の第2ラインの画素データと、CH2を介して取得した最小露光時の第2ラインの画素データとから第2ラインに対する第1差分画素データが生成される。つまり、イメージセンサ10aの撮像領域における第1ライン〜第nライン(nは撮像領域の最大ライン数)の各ラインに対応した画素データに対して、各ライン毎に処理1が順次行われる。
一方、処理1において、第1ラインに対する第1差分画素データが生成され且つこの生成された第1差分画素データがフレームメモリ14に記憶されると、処理2が開始され、フレームメモリ14に記憶された、第1ラインに対する第1差分画素データと、OB差分画素データと、第1ラインに対応する最小露光差分画素データとから第1ラインに対する第2差分画素データが生成される。第1ラインに対する第2差分画素データが生成され、且つ第2ラインに対する第1差分画素データがフレームメモリ14に記憶されると、次いで、第2ラインに対する第1差分画素データと、OB差分画素データと、第2ラインに対応する最小露光差分画素データとから第2ラインに対する第2差分画素データが生成される。つまり、処理1に追随して、第1ライン〜第nラインの第1差分画素データに対して、各ライン毎に処理2が順次行われる。
更に、第2処理において、第1ラインに対する第2差分画素データが生成され且つこの生成された第1差分画素データがフレームメモリ14に記憶されると、処理3が開始され、フレームメモリ14に記憶された、第1ラインに対する第2差分画素データをホストシステム2に出力する。第1ラインに対する第2差分画素データが出力され、且つ第2ラインに対する第2差分画素データがフレームメモリ14に記憶されると、次いで、第2ラインに対する第2差分画素データがホストシステム2に出力される。つまり、処理2に追随して、第1ライン〜第nラインの第2差分画素データに対して、各ライン毎に処理3が順次行われる。
このように、上記処理1〜処理3は、パイプライン処理方式で実行される。
次に、本実施形態の撮像装置1の実際の動作を説明する。
撮像装置1は、電源が投入され、且つホストシステム2からのOB差分画素データの生成処理モードにおけるデータ取得モードのモード設定信号を通信器12aが受信すると、当該受信したモード設定信号に基づき、処理モード設定用レジスタ及びステータス用レジスタ12bに、当該データ取得モードの情報が設定される(書き込まれる)。
次に、本実施形態の撮像装置1の実際の動作を説明する。
撮像装置1は、電源が投入され、且つホストシステム2からのOB差分画素データの生成処理モードにおけるデータ取得モードのモード設定信号を通信器12aが受信すると、当該受信したモード設定信号に基づき、処理モード設定用レジスタ及びステータス用レジスタ12bに、当該データ取得モードの情報が設定される(書き込まれる)。
処理モード設定用レジスタ及びステータス用レジスタ12bに前記データ取得モードの情報が設定されると、撮像処理部10は、CH1及びCH2に対応する第1及び第2読み出しラインに対して、それぞれ最小露光時間を設定する。一方、第1バッファ12c及び第2バッファ12dは、CH1及びCH2を介して、イメージセンサ10aのOB領域の最小露光時間時の画素データを取得し、当該取得した画素データをフレームメモリ14に記憶する(ステップS100)、第1バッファ12c及び第2バッファ12dは、OB領域の画素データを全て取得し且つフレームメモリ14に記憶すると(ステップS102の「Yes」の分岐)、取得処理終了を示すステータス信号を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信する(ステップ104)。
そして、ホストシステム2からのOB差分画素データの生成処理モードにおけるデータ生成モードのモード設定信号を通信器12aが受信し、処理モード設定用レジスタ及びステータス用レジスタ12bに、当該データ生成モードの情報が設定される(書き込まれる)と(ステップS106の「Yes」の分岐)、差分処理部12eにおいて、OB差分画素データの生成処理が実行される(ステップS108)。
本実施の形態においては、まず、CH1を介して取得したOB領域の画素データの画素値の平均値を算出し、次いで、CH2を介して取得したOB領域の画素データの画素値の平均値を算出する。そして、CH1の前記平均値から、CH2の前記平均値を減算した差分値を算出し、当該差分値からなる画素データをOB差分画素データとしてフレームメモリ14に記憶する。このようにして、OB差分画素データが生成され且つフレームメモリ14に記憶されると(ステップS110の「Yes」の分岐)、差分処理部12eは、生成処理終了を示すステータス信号を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信する(ステップ112)。
一方、ホストシステム2は、通信器12aを介して、差分処理部12eからのOB差分画素データの生成処理終了を示すステータス信号を受信すると、通信器12aを介して、最小露光差分画素データの生成モードにおけるデータ取得モード情報を処理モード設定用レジスタ及びステータス用レジスタ12bに設定する。
処理モード設定用レジスタ及びステータス用レジスタ12bに最小露光差分画素データの生成モードにおけるデータ取得モード情報が設定されると、撮像処理部10は、CH1及びCH2に対応する第1及び第2読み出しラインに対して、それぞれ最小露光時間を設定する。一方、第1バッファ12c及び第2バッファ12dは、CH1及びCH2を介して、イメージセンサ10aの各画素の最小露光時間時の画素データを取得し、当該取得した画素データをフレームメモリ14に記憶する(ステップS200)、第1バッファ12c及び第2バッファ12dは、1フレーム分の最小露光時間時の画素データを全て取得し且つフレームメモリ14に記憶すると(ステップS202の「Yes」の分岐)、取得処理終了を示すステータス信号を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信する(ステップ204)。
処理モード設定用レジスタ及びステータス用レジスタ12bに最小露光差分画素データの生成モードにおけるデータ取得モード情報が設定されると、撮像処理部10は、CH1及びCH2に対応する第1及び第2読み出しラインに対して、それぞれ最小露光時間を設定する。一方、第1バッファ12c及び第2バッファ12dは、CH1及びCH2を介して、イメージセンサ10aの各画素の最小露光時間時の画素データを取得し、当該取得した画素データをフレームメモリ14に記憶する(ステップS200)、第1バッファ12c及び第2バッファ12dは、1フレーム分の最小露光時間時の画素データを全て取得し且つフレームメモリ14に記憶すると(ステップS202の「Yes」の分岐)、取得処理終了を示すステータス信号を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信する(ステップ204)。
そして、ホストシステム2からの最小露光差分画素データの生成処理モードにおけるデータ生成モードのモード設定信号を通信器12aを受信し、処理モード設定用レジスタ及びステータス用レジスタ12bに、当該データ生成モードの情報が設定される(書き込まれる)と(ステップS206の「Yes」の分岐)、差分処理部12eにおいて、最小露光差分画素データの生成処理が実行される(ステップS208)。
本実施の形態においては、各ラインの画素データに対して、各画素毎に、CH1を介して取得した画素データの画素値から、CH2を介して取得した当該画素データと同じ画素位置の画素データの画素値を減算した差分値を算出し、当該差分値からなる画素データを最小露光差分画素データとしてフレームメモリ14に記憶する。このように、最小露光時間(略遮光状態)で、CH1及びCH2を介してそれぞれ別々に取得した画素データの差分値を算出することで、CH1及びCH2のラインメモリの特性のバラツキによるノイズ成分からなる信号を得ることができる。
上記のようにして、1フレーム分の画素データに対して最小露光差分画素データが生成され且つフレームメモリ14に記憶されると(ステップS210の「Yes」の分岐)、差分処理部12eは、生成処理終了を示すステータス信号を処理モード設定用レジスタ及びステータス用レジスタ12b並びに通信器12aを介してホストシステム2に送信する(ステップ212)。
一方、ホストシステム2は、通信器12aを介して、差分処理部12eからの最小露光差分画素データの生成処理終了を示すステータス信号を受信すると、通信器12aを介して、通常撮影モード情報を処理モード設定用レジスタ及びステータス用レジスタ12bに設定する。
処理モード設定用レジスタ及びステータス用レジスタ12bに通常撮影モード情報が設定されると、撮像処理部10は、CH1に対応する第1読み出しラインに対して、ホストシステム2からの露光時間設定信号によって露光時間設定用レジスタ10bに設定された通常露光時間を設定し(ステップS300)、CH2に対応する第2読み出しラインに対して、露光時間設定用レジスタ10bに予め設定されている最小露光時間を設定する(ステップS302)。
処理モード設定用レジスタ及びステータス用レジスタ12bに通常撮影モード情報が設定されると、撮像処理部10は、CH1に対応する第1読み出しラインに対して、ホストシステム2からの露光時間設定信号によって露光時間設定用レジスタ10bに設定された通常露光時間を設定し(ステップS300)、CH2に対応する第2読み出しラインに対して、露光時間設定用レジスタ10bに予め設定されている最小露光時間を設定する(ステップS302)。
CH1及びCH2に対応する第1及び第2読み出しラインに対してそれぞれ露光時間が設定されると、第1バッファ12cは、CH1を介してイメージセンサ10aの各画素の通常露光時間時の画素データを各ライン毎に順次取得すると共に、第2バッファ12dは、CH2を介してイメージセンサ10aの各画素の最小露光時間時の画素データを各ライン毎に順次取得して(ステップS304)、それぞれ取得した画素データをフレームメモリ14に記憶する(ステップS306)。前述したように、各画素のラインに対しては、電子シャッタ機能による通常露光時間の露光区間において、最小露光時間時及び通常露光時間時の画素信号をそれぞれCH1及びCH2を介して非破壊で読み出す。
そして、差分処理部12eにおいて、CH1を介してイメージセンサ10aの通常露光時間時の第1ラインの画素データが取得され且つフレームメモリ14に記憶されたことを確認すると、第1差分画素データの生成処理(上記処理1)が開始され、フレームメモリ14から、CH1を介して取得した第1ラインの通常露光時間時の画素データと、CH2を介して取得した第1ラインの最小露光時間時の画素データとを読み出し(ステップS308)、各画素毎に、通常露光時間時の画素データの画素値から、この画素データと同じ画素位置の最小露光時間時の画素データの画素値を減算した差分値を算出し、当該差分値からなる画素データを生成し(ステップS310)、これを第1差分画素データとしてフレームメモリ14に記憶する(ステップS312)。このように、CH2を介して最小露光時間(略遮光状態)の露光時に取得した画素データと、CH1を介して通常露光時間の露光時に取得した画素データとの差分値を算出することで、イメージセンサ10aの各画素を構成する素子の特性のバラツキによるノイズ成分を除去した画素信号を得ることができる。
上記のような第1差分画素データの生成処理及びその記憶処理は、撮像画像の1フレーム分の画素のラインである第1ライン〜第nラインまで各ライン毎に順次行われる。
更に、差分処理部12eにおいて、第1ラインに対する第1差分画素データが生成され且つフレームメモリ14に記憶されたことを確認すると、第2差分画素データの生成処理(上記処理2)が開始され、フレームメモリ14から、第1ラインに対応する第1差分画素データ、OB差分画素データ及び第1ラインに対応する最小露光差分画素データを読み出し(ステップS314)、第1ラインの第1差分画素データの各画素毎に、第1差分画素データの画素値から、この画素データと同じ画素位置の最小露光差分画素データの画素値を減算した差分値を算出し、当該差分値にOB差分画素データの画素値を加算して第2差分画素データを生成する(ステップS316)。そして、この生成した第2差分画素データをフレームメモリ14に記憶する(ステップS318)。このように、イメージセンサ10aの各画素を構成する素子の特性のバラツキによるノイズ成分が除去された第1差分画素データから、最小露光差分画素データの画素値を減算することで、CH1及びCH2のラインメモリの特性のバラツキによるノイズ成分を更に除去することができる。更に、このCH1及びCH2のラインメモリの特性のバラツキによるノイズ成分が除去された画素データの画素値に対して、OB差分画素データの値を加算することで、CH1及びCH2のラインメモリにおいて、それぞれ読み出したOB領域の画素データにレベル差が生じるときに、ノイズ成分を除去した各画素データの画素値がマイナスの値になることを防ぐことができる。
更に、差分処理部12eにおいて、第1ラインに対する第1差分画素データが生成され且つフレームメモリ14に記憶されたことを確認すると、第2差分画素データの生成処理(上記処理2)が開始され、フレームメモリ14から、第1ラインに対応する第1差分画素データ、OB差分画素データ及び第1ラインに対応する最小露光差分画素データを読み出し(ステップS314)、第1ラインの第1差分画素データの各画素毎に、第1差分画素データの画素値から、この画素データと同じ画素位置の最小露光差分画素データの画素値を減算した差分値を算出し、当該差分値にOB差分画素データの画素値を加算して第2差分画素データを生成する(ステップS316)。そして、この生成した第2差分画素データをフレームメモリ14に記憶する(ステップS318)。このように、イメージセンサ10aの各画素を構成する素子の特性のバラツキによるノイズ成分が除去された第1差分画素データから、最小露光差分画素データの画素値を減算することで、CH1及びCH2のラインメモリの特性のバラツキによるノイズ成分を更に除去することができる。更に、このCH1及びCH2のラインメモリの特性のバラツキによるノイズ成分が除去された画素データの画素値に対して、OB差分画素データの値を加算することで、CH1及びCH2のラインメモリにおいて、それぞれ読み出したOB領域の画素データにレベル差が生じるときに、ノイズ成分を除去した各画素データの画素値がマイナスの値になることを防ぐことができる。
上記のような第2差分画素データの生成処理及びその記憶処理は、撮像画像の1フレーム分の画素のラインである第1ライン〜第nラインまで各ライン毎に順次行われる。
なお更に、フレームメモリアクセス部12gにおいて、第1ラインに対する第2差分画素データが生成され且つフレームメモリ14に記憶されたことを確認すると、ホストシステム2からのピクセルクロック、水平同期信号及び垂直同期信号に同期して、第1ラインに対する第2差分画素データをホストシステム2に出力する(ステップS320)。
なお更に、フレームメモリアクセス部12gにおいて、第1ラインに対する第2差分画素データが生成され且つフレームメモリ14に記憶されたことを確認すると、ホストシステム2からのピクセルクロック、水平同期信号及び垂直同期信号に同期して、第1ラインに対する第2差分画素データをホストシステム2に出力する(ステップS320)。
上記のような第2差分画素データの出力処理は、第1ライン〜第nラインまで各ライン毎に順次行われ、第nラインまで処理が終了すると(ステップS322の「Yes」の分岐)、再びCH1及びCH2の露光時間の設定処理(変更なしの場合はスルーしても良い)に移行し、通常撮影モードにおける上記処理1〜処理3をパイプライン処理によって繰り返し行う。
なお、イメージセンサ10aやCH1及びCH2のラインメモリにおいて生じるノイズは環境の変化(特に温度変化)によって変わるので、例えば、温度センサ等の周囲の環境の変化を測定できるセンサによって周囲の温度等の環境の変化を測定し、測定値に大きな変化があった場合などに、通常撮影モードの移行前にバッチ処理で生成される上記OB差分画素データ及び最小露光差分画素データを生成し直すことで、環境の変化にも対応することが可能である。
このように、本実施の形態の撮像装置1では、非破壊読み出し方式で読み出した画素データから、イメージセンサ10aの各画素を構成する素子の特性のバラツキによるノイズ成分を除去するようにし、CH1及びCH2のラインメモリの特性のバラツキによるノイズ成分を除去するようにしたので、これにより、非破壊読み出し方式で読み出した画素信号を用いて生成される撮像画像の画質を改善することが可能である。
また、イメージセンサ10aの各画素を構成する素子の特性のバラツキによるノイズ成分及びCH1及びCH2のラインメモリの特性のバラツキによるノイズ成分が除去された画素データに対して、OB差分画素データの値を加算するようにしたので、これにより、CH1及びCH2のラインメモリにおいて、それぞれ読み出したOB領域の画素データにレベル差が生じるときに、前記ノイズ成分を除去後の各画素データの画素値がマイナスの値になることを防ぐことができるので、OB領域の画素データのチャンネル間のレベル差による画質劣化を防ぐことが可能である。
上記実施の形態において、撮像処理部10は、形態1の撮像手段に対応し、画像処理部12における撮像処理部10からの最小露光時間時の画素データの取得処理は、形態1乃至形態5のいずれか1の最小露光画素データ取得手段に対応し、画像処理部12における最小露光差分画素データの生成処理は、形態3の最小露光差分画素データ生成手段に対応し、画像処理部12におけるOB差分画素データの生成処理は、形態6のOB差分画素データ生成手段に対応し、画像処理部12における第1差分画素データ及び第2差分画素データの生成処理は、形態1乃至6のいずれか1の差分画素データ生成手段に対応し、フレームメモリ14は、形態3乃至5のいずれか1の最小露光差分画素データ記憶手段に対応する。
なお、上記実施の形態において、通常露光時の画素信号を読み出す第1出力チャンネル1つと、最小露光時の画素信号を読み出す第2出力チャンネル1つとの計2つの出力チャンネルを有する構成としたが、これに限らず、設定する露光時間の種類に応じて、例えば、(N−1)種類(Nは2以上の自然数)の露光時間にそれぞれ対応した第1〜第(N−1)出力チャンネルの複数チャンネルと、最小露光時間に対応した第Nチャンネルとを備える構成としても良い。これにより、1フレーム期間に、複数種類の露光時間で露光を行う多段露光によってHDRデータを生成するような場合にも対応することができる。
また、上記実施の形態においては、最小露光差分画素データを、イメージセンサ10aの撮像領域の画素全てに対して生成してフレームメモリ14に記憶するようにしたが、これに限らず、前述したように各出力チャンネルで生じるノイズは、画像に縦縞を発生させる特性があるので、イメージセンサ10aのセンサセルの所定の1ライン分に対する最小露光差分画素データを生成し、これを第1差分画素データの各ラインに繰り返し用いて第2差分画素データを生成する構成としても良いし、イメージセンサ10aのセンサセルの所定の複数ライン分(但し、最大ライン数よりも少ない)に対する最小露光差分画素データを生成し、これらを第1差分画素データの各ラインに割り振って用い第2差分画素データを生成する構成としても良い。複数ライン分の最小露光差分画素データを生成する場合は、例えば、センサセルの撮像領域の画素のラインを均等に上中下の3つの領域に分けて、それぞれの領域から1ラインずつ任意の画素のラインを選択し、これら選択した画素のラインに対してのみ最小露光差分画素データを生成する。そして、上中下の3つの領域から選択された各ラインの最小露光差分画素データを、それぞれ同じ領域に含まれる各第1差分画素データに対して用いて第2差分画素データを生成する。このように、最小露光差分画素データを、イメージセンサ10aの撮像領域の画素全てに対して生成せずに、1ライン、又は複数ライン分だけ生成することで、最小露光差分画素データの記憶に必要なメモリの容量を低減することができ、撮像装置1のコストを低減することが可能である。
また、上記実施の形態においては、OB差分画素データを、CH1及びCH2を介して取得したOB領域の画素データのそれぞれの平均値の差分値とする例を説明したが、これに限らず、例えば、CH1に対応するOB領域の画素データの最大値と最小値との差分値から、CH2に対応するOB領域の画素データの最大値と最小値との差分値を減算した差分値からなるデータをOB差分画素データとするなど他の値としても良い。
1は撮像装置、2はホストシステム、10は撮像処理部、12は画像処理部、14はフレームメモリ、10aはイメージセンサ、10bは露光時間設定用レジスタ、10cは第1のAFE、10dは第2のAFE、12aは通信器、12bは処理モード設定用及びステータス用レジスタ、12cは第1バッファ、12dは第2バッファ、12eは差分処理部、12fはタイミング制御部、12gはフレームメモリアクセス部
Claims (6)
- 露光した光を電荷に変換して蓄積する光電変換素子が複数マトリクス状に配設された光電変換部と、前記光電変換部における前記光電変換素子の構成する画素からの電荷の読み出しを非破壊で行う撮像手段とを備えた撮像装置であって、
設定可能な最小露光時間での露光時に読み出した電荷に対応する画素データである最小露光画素データを取得する最小露光画素データ取得手段と、
所定露光時間での露光時に読み出した電荷に対応する各画素データの画素値と、当該各画素データに対応する前記取得した各最小露光画素データの画素値との差分値を算出し、当該算出した差分値からなる差分画素データを生成する差分画素データ生成手段と、を備えることを特徴とする撮像装置。 - (N−1)種類(Nは2以上の自然数)の露光時間に対応し、当該各種類毎の露光時間での露光時に読み出した前記画素のライン毎の電荷に対応する画素データを前記各種類毎にそれぞれ独立に記憶し、且つ当該記憶した画素データを前記各種類毎にそれぞれ独立に出力する(N−1)個の第1〜第(N−1)出力チャンネルと、
前記(N−1)種類の露光時間に対する露光において、前記最小露光時間での露光時の前記画素のライン毎の電荷を読み出すと共に当該読み出した電荷に対応する画素データを記憶し、且つ当該記憶した画素データを出力する第N出力チャンネルと、を備え、
前記最小露光画素データ取得手段は、前記第N出力チャンネルを介して出力される前記最小露光画素データを取得するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第N−1出力チャンネルから出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出し、当該算出した差分値からなる差分画素データを生成するようになっていることを特徴とする請求項1記載の撮像装置。 - 前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される、前記最小露光時間での露光時の電荷に対応する画素データを取得し、前記第N出力チャンネルを介して出力される、前記最小露光時間での露光時の電荷に対応する画素データを取得し、前記第1〜第(N−1)出力チャンネルの各出力チャンネル毎に、当該各出力チャンネルを介して取得した最小露光時の画素データの画素値と、前記第N出力チャンネルを介して取得した最小露光時の画素データの画素値との差分値を算出し、当該差分値からなる最小露光差分画素データを生成する最小露光差分画素データ生成手段と、
前記最小露光差分画素データを記憶する最小露光差分画素データ記憶手段と、を備え、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、当該各画素データに対応する前記最小露光差分画素データ記憶手段に記憶された最小露光差分画素データの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴とする請求項2記載の撮像装置。 - 前記画素のラインの所定の1ライン分の前記最小露光差分画素データを前記最小露光差分画素データ記憶手段に記憶するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、前記最小露光差分画素データ記憶手段に記憶された1ライン分の最小露光差分画素データの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴とする請求項3記載の撮像装置。 - 前記画素のラインの全ライン数よりも少ない複数ライン分の前記最小露光差分画素データを前記最小露光差分画素データ記憶手段に記憶するようになっており、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小露光画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値と、前記最小露光差分画素データ記憶手段に記憶された複数ライン分の最小露光差分画素データのいずれかの値との差分値を算出し、当該差分値からなる差分画素データを生成するようになっていることを特徴とする請求項3記載の撮像装置。 - 前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される、前記光電変換部の光学的黒となる領域の光電変換素子の電荷に対応した画素データを取得し、前記第N出力チャンネルを介して出力される、前記光学的黒となる領域の光電変換素子の電荷に対応した画素データを取得し、前記第1〜第(N−1)出力チャンネルの各出力チャンネル毎に、当該各出力チャンネルを介してそれぞれ取得した光学的黒となる領域の画素データの画素値と、前記第N出力チャンネルを介して取得した光学的黒となる領域の画素データの画素値との差分値に基づく値からなるOB差分画素データを生成するOB差分画素データ生成手段と、を備え、
前記差分画素データ生成手段は、前記画素のライン毎に、前記第1〜第(N−1)出力チャンネルを介してそれぞれ出力される(N−1)種類の露光時間にそれぞれ対応する画素データの画素値と、当該各画素データに対応する前記最小画素データ取得手段で取得した最小露光画素データの画素値との差分値を算出すると共に、当該各画素データの差分値に、OB差分画素データの値を加算し、当該加算結果からなる差分画素データを生成するようになっていることを特徴とする請求項2乃至請求項5のいずれか1項に記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005369184A JP2007174266A (ja) | 2005-12-22 | 2005-12-22 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005369184A JP2007174266A (ja) | 2005-12-22 | 2005-12-22 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2007174266A true JP2007174266A (ja) | 2007-07-05 |
Family
ID=38300244
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005369184A Withdrawn JP2007174266A (ja) | 2005-12-22 | 2005-12-22 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2007174266A (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007201735A (ja) * | 2006-01-25 | 2007-08-09 | Canon Inc | 撮像装置及びその制御方法 |
EP2112821A3 (en) * | 2008-04-21 | 2010-06-09 | Nikon Corporation | Imaging device |
JP2010161663A (ja) * | 2009-01-08 | 2010-07-22 | Hoya Corp | 固定パターンノイズ除去ユニット、撮像ユニット、および電子内視鏡システム |
JP2010193042A (ja) * | 2009-02-17 | 2010-09-02 | Hoya Corp | 固定パターンノイズ除去ユニット、撮像ユニット、および電子内視鏡システム |
JP2011000189A (ja) * | 2009-06-16 | 2011-01-06 | Hoya Corp | 固定パターンノイズ除去ユニット、撮像ユニット、および電子内視鏡システム |
US8026956B2 (en) | 2007-12-07 | 2011-09-27 | Seiko Epson Corporation | Image sensor, image taking apparatus, and state inspection system |
JP2014199458A (ja) * | 2009-02-09 | 2014-10-23 | 日本電気株式会社 | カメラ機能付き携帯端末、フラッシュライト制御方法およびフラッシュライト制御プログラム |
-
2005
- 2005-12-22 JP JP2005369184A patent/JP2007174266A/ja not_active Withdrawn
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007201735A (ja) * | 2006-01-25 | 2007-08-09 | Canon Inc | 撮像装置及びその制御方法 |
US8026956B2 (en) | 2007-12-07 | 2011-09-27 | Seiko Epson Corporation | Image sensor, image taking apparatus, and state inspection system |
EP2112821A3 (en) * | 2008-04-21 | 2010-06-09 | Nikon Corporation | Imaging device |
US8259197B2 (en) | 2008-04-21 | 2012-09-04 | Nikon Corporation | Imaging device |
JP2010161663A (ja) * | 2009-01-08 | 2010-07-22 | Hoya Corp | 固定パターンノイズ除去ユニット、撮像ユニット、および電子内視鏡システム |
JP2014199458A (ja) * | 2009-02-09 | 2014-10-23 | 日本電気株式会社 | カメラ機能付き携帯端末、フラッシュライト制御方法およびフラッシュライト制御プログラム |
JP2010193042A (ja) * | 2009-02-17 | 2010-09-02 | Hoya Corp | 固定パターンノイズ除去ユニット、撮像ユニット、および電子内視鏡システム |
JP2011000189A (ja) * | 2009-06-16 | 2011-01-06 | Hoya Corp | 固定パターンノイズ除去ユニット、撮像ユニット、および電子内視鏡システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4888081B2 (ja) | 撮像装置、撮像方法、撮像システム及び画像処理装置 | |
CN101753843B (zh) | 摄像设备及其控制方法 | |
EP2161919B1 (en) | Read out method for a CMOS imager with reduced dark current | |
JP2007194687A (ja) | 撮像装置 | |
CN101072303A (zh) | 摄像元件及摄像装置 | |
JP2008205530A (ja) | 撮像装置、撮像システム及び撮像方法 | |
JP2007174266A (ja) | 撮像装置 | |
CN101656819B (zh) | 图像拍摄装置及减少拖尾的方法 | |
JP2011109281A5 (ja) | ||
US7777793B2 (en) | Signal processor having A/D conversion unit and operation part | |
JP5222068B2 (ja) | 撮像装置 | |
CN110832846B (zh) | 像素单元、图像传感器及其运行方法、摄像装置 | |
JP2007019577A (ja) | 固体撮像装置 | |
JP2002027300A (ja) | デジタルカメラ | |
US20100271518A1 (en) | Solid-state imaging device and camera system | |
JPWO2008023806A1 (ja) | 感度補正方法および撮像装置 | |
JP4948089B2 (ja) | 撮像装置及びその制御方法 | |
JP5028077B2 (ja) | 撮像装置、及びその欠陥画素の判別方法、並びにプログラム | |
JP4612848B2 (ja) | 撮像装置及びその制御方法 | |
JP2008118571A (ja) | 撮像装置及びその制御方法 | |
JP7020463B2 (ja) | 撮像装置 | |
JP6218408B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2009212603A (ja) | 撮像装置、及び撮像装置の制御方法 | |
JP2012175331A (ja) | 撮像装置 | |
JP2017188837A (ja) | 画像処理装置、その制御方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20070405 |
|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20090303 |