JP5625286B2 - Imaging device - Google Patents
Imaging device Download PDFInfo
- Publication number
- JP5625286B2 JP5625286B2 JP2009190413A JP2009190413A JP5625286B2 JP 5625286 B2 JP5625286 B2 JP 5625286B2 JP 2009190413 A JP2009190413 A JP 2009190413A JP 2009190413 A JP2009190413 A JP 2009190413A JP 5625286 B2 JP5625286 B2 JP 5625286B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- defective
- focus detection
- imaging
- pixels
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Description
本発明は、撮像装置に関する。 The present invention relates to an imaging apparatus.
撮像素子における欠陥撮像画素の補正データとして、欠陥撮像画素の周囲のn×nの領域における撮像画素のデータのメディアンを採用する撮像装置が知られている。(たとえば、特許文献1参照)。 2. Description of the Related Art An imaging device that employs a median of imaging pixel data in an n × n region around a defective imaging pixel as correction data for a defective imaging pixel in an imaging element is known. (For example, refer to Patent Document 1).
しかしながら、撮像画素と瞳分割型の焦点検出画素を混載する撮像素子を備えた撮像装置に対して、特許文献1に記載の撮像画素に適した欠陥画素補正処理を一律に適用した場合には、欠陥画素補正処理に撮像画素の画素信号と瞳分割型の焦点検出画素の画素信号とが混合することとなり、欠陥画素のデータが不適切に補正されてしまうという問題がある。欠陥画素が焦点検出画素の場合、正確な焦点検出を行うことができなくなる可能性がある。欠陥画素が撮像画素の場合は、画像品質が劣化する可能性がある。
However, when the defective pixel correction process suitable for the imaging pixel described in
請求項1の発明による撮像装置は、像を形成する光束を射出する光学系と、前記光束を受光して画素信号を出力する複数の撮像画素と、瞳分割型の複数の焦点検出画素とを二次元配列に従って配置した撮像素子と、前記複数の撮像画素に含まれる欠陥撮像画素の画素信号を、当該欠陥撮像画素の周囲の前記複数の撮像画素の画素信号に基づき第1の欠陥画素補正処理により補正するとともに、前記複数の焦点検出画素に含まれる欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素の周囲の前記複数の焦点検出画素の画素信号に基づき第2の欠陥画素補正処理により補正する第1の欠陥画素補正処理手段と、前記複数の撮像画素に含まれる欠陥撮像画素の画素信号を、前記第1の欠陥画素補正処理よりも精度が低い第3の欠陥画素補正処理により補正する第2の欠陥画素補正処理手段と、前記第1の欠陥画素補正処理により補正された前記欠陥撮像画素の画素信号を含む前記複数の撮像画素の画素信号に基づいて第1の画像信号を生成し、前記第3の欠陥画素補正処理により補正された前記欠陥撮像画素の画素信号を含む前記複数の撮像画素の画素信号に基づいて第2の画像信号を生成する画像生成手段と、撮影動作の開始前には、前記第2の欠陥画素補正処理手段に前記第3の欠陥画素補正処理による補正を行わせると共に前記画像生成手段に第2の画像信号を生成させ、撮影動作の開始後には、前記第1の欠陥画素補正処理手段に前記第1の欠陥画素補正処理による補正を行わせると共に前記画像生成手段に前記第2の画像信号を生成させる制御手段と、前記第1の欠陥画素補正処理手段により補正された前記欠陥焦点検出画素の画素信号を含む前記複数の焦点検出画素の画素信号に基づいて、前記光学系の焦点調節状態を検出する焦点検出手段と、前記欠陥撮像画素および前記欠陥焦点検出画素の欠陥画素位置を示す欠陥画素位置情報と、前記欠陥画素位置に配置されるのが前記欠陥撮像画素であるか前記欠陥焦点検出画素であるかに応じて前記第1の欠陥画素補正処理または前記第2の欠陥画素補正処理を指定する欠陥画素補正処理情報と、前記欠陥画素位置の周囲に配置され、前記第1の欠陥画素補正処理または前記第2の欠陥画素補正処理に用いられる複数の非欠陥撮像画素または複数の非欠陥焦点検出画素の位置を、前記欠陥画素位置を基準とした相対的な画素位置情報として指定する補正用画素位置情報と、を前記欠陥撮像画素および前記欠陥焦点検出画素毎に記憶する欠陥画素情報記憶手段と、を備え、前記第1の欠陥画素補正処理手段は、前記欠陥撮像画素および前記欠陥焦点検出画素毎に記憶された前記欠陥画素位置情報と前記補正用画素位置情報とに基づき定められる前記複数の非欠陥撮像画素の画素信号または前記複数の非欠陥焦点検出画素の画素信号に対して前記欠陥画素補正処理情報に基づき定められる前記第1の欠陥画素補正処理または前記第2の欠陥画素補正処理を施すことを特徴とする。
請求項2の発明による撮像装置は、像を形成する光束を射出する光学系と、第1、第2及び第3の分光感度特性をそれぞれ有し、前記光束をそれぞれ受光して画素信号をそれぞれ出力する第1、第2及び第3の撮像画素が所定の配列規則に従って2次元状に配列される撮像画素と、前記光学系の一対の瞳領域を通過した一対の光束を受光し、前記一対の光束による一対の像が前記光学系の焦点調節状態に応じて相対的にずれる方向に配列されると共に前記撮像画素の一部に置換して配置される複数の焦点検出画素からなる焦点検出画素列と、を有する撮像素子と、前記複数の撮像画素に含まれる欠陥撮像画素の画素信号を、当該欠陥撮像画素の周囲の複数の周囲画素の画素信号に基づき第1の欠陥画素補正処理により補正すると共に、前記焦点検出画素列に含まれる欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素の周囲の複数の周囲画素の画素信号に基づき第2の欠陥画素補正処理により補正する欠陥画素補正処理手段と、前記欠陥画素補正処理手段により補正された前記欠陥撮像画素の画素信号を含む前記複数の撮像画素の画素信号に基づいて、画像信号を生成する画像生成手段と、前記欠陥画素補正処理手段により補正された前記欠陥焦点検出画素の画素信号を含む前記焦点検出画素列の画素信号に基づいて、前記光学系の焦点調節状態を検出する焦点検出手段と、前記欠陥撮像画素および前記欠陥焦点検出画素の欠陥画素位置を示す欠陥画素位置情報と、前記第1の欠陥画素補正処理に用いられる前記欠陥撮像画素の周囲の複数の周囲画素の位置情報として、当該欠陥撮像画素と所定の位置関係にある周囲画素の位置を当該欠陥撮像画素位置を基準として表す欠陥撮像画素補正用の画素位置情報と、前記第2の欠陥画素補正処理に用いられる前記欠陥焦点検出画素の周囲の複数の周囲画素の位置情報として、当該欠陥焦点検出画素が属する前記焦点検出画素列内の、当該欠陥焦点検出画素近傍の焦点検出画素の位置を前記欠陥焦点検出画素位置を基準として表す欠陥焦点検出画素補正用の画素位置情報と、を前記欠陥撮像画素および前記欠陥焦点検出画素毎に記憶する欠陥画素情報記憶手段と、を備え、前記欠陥撮像画素補正用の画素位置情報は、前記所定の位置関係にある周囲画素が前記焦点検出画素を含む場合には、当該焦点検出画素の位置情報を含まず、前記欠陥画素補正処理手段は、前記欠陥画素情報記憶手段に記憶された前記欠陥画素位置情報に対応する前記欠陥撮像画素の画素信号を、当該欠陥撮像画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥撮像画素補正用の画素位置情報に対応する前記周囲画素の画素信号に基づき前記第1の欠陥画素補正処理により補正すると共に、前記欠陥画素情報記憶手段に記憶された前記欠陥画素位置情報に対応する前記欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報に対応する前記周囲画素の画素信号に基づき前記第2の欠陥画素補正処理により補正し、前記焦点検出画素列は、マイクロレンズと光電変換部とを有すると共に前記光電変換部が前記一対の光束の一方を受光する第1焦点検出画素と、マイクロレンズと光電変換部とを有すると共に当該光電変換部が前記一対の光束の他方を受光する第2焦点検出画素とが交互に配列されたものであり、前記欠陥焦点検出画素が前記第1焦点検出画素である場合に、当該欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報は、前記第1焦点検出画素の位置情報であり、前記欠陥焦点検出画素が前記第2焦点検出画素である場合に、当該欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報は、前記第2焦点検出画素の位置情報であることを特徴とする。
請求項3の発明による撮像装置は、像を形成する光束を射出する光学系と、第1、第2及び第3の分光感度特性をそれぞれ有し、前記光束をそれぞれ受光して画素信号をそれぞれ出力する第1、第2及び第3の撮像画素が所定の配列規則に従って2次元状に配列される撮像画素と、前記光学系の一対の瞳領域を通過した一対の光束を受光し、前記一対の光束による一対の像が前記光学系の焦点調節状態に応じて相対的にずれる方向に配列されると共に前記撮像画素の一部に置換して配置される複数の焦点検出画素からなる焦点検出画素列と、を有する撮像素子と、前記複数の撮像画素に含まれる欠陥撮像画素の画素信号を、当該欠陥撮像画素の周囲の複数の周囲画素の画素信号に基づき第1の欠陥画素補正処理により補正すると共に、前記焦点検出画素列に含まれる欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素の周囲の複数の周囲画素の画素信号に基づき第2の欠陥画素補正処理により補正する欠陥画素補正処理手段と、前記欠陥画素補正処理手段により補正された前記欠陥撮像画素の画素信号を含む前記複数の撮像画素の画素信号に基づいて、画像信号を生成する画像生成手段と、前記欠陥画素補正処理手段により補正された前記欠陥焦点検出画素の画素信号を含む前記焦点検出画素列の画素信号に基づいて、前記光学系の焦点調節状態を検出する焦点検出手段と、前記欠陥撮像画素および前記欠陥焦点検出画素の欠陥画素位置を示す欠陥画素位置情報と、前記第1の欠陥画素補正処理に用いられる前記欠陥撮像画素の周囲の複数の周囲画素の位置情報として、当該欠陥撮像画素と所定の位置関係にある周囲画素の位置を当該欠陥撮像画素位置を基準として表す欠陥撮像画素補正用の画素位置情報と、前記第2の欠陥画素補正処理に用いられる前記欠陥焦点検出画素の周囲の複数の周囲画素の位置情報として、当該欠陥焦点検出画素が属する前記焦点検出画素列内の、当該欠陥焦点検出画素近傍の焦点検出画素の位置を前記欠陥焦点検出画素位置を基準として表す欠陥焦点検出画素補正用の画素位置情報と、を前記欠陥撮像画素および前記欠陥焦点検出画素毎に記憶する欠陥画素情報記憶手段と、を備え、前記欠陥撮像画素補正用の画素位置情報は、前記所定の位置関係にある周囲画素が前記焦点検出画素を含む場合には、当該焦点検出画素の位置情報を含まず、前記欠陥画素補正処理手段は、前記欠陥画素情報記憶手段に記憶された前記欠陥画素位置情報に対応する前記欠陥撮像画素の画素信号を、当該欠陥撮像画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥撮像画素補正用の画素位置情報に対応する前記周囲画素の画素信号に基づき前記第1の欠陥画素補正処理により補正すると共に、前記欠陥画素情報記憶手段に記憶された前記欠陥画素位置情報に対応する前記欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報に対応する前記周囲画素の画素信号に基づき前記第2の欠陥画素補正処理により補正し、前記焦点検出画素列の焦点検出画素の各々は、マイクロレンズと前記マイクロレンズを通過した前記一対の光束をそれぞれ受光する一対の光電変換部とを有し、前記一対の光電変換部は、前記一対の光束による一対の像が前記光学系の焦点調節状態に応じて相対的にずれる方向に配列され、前記欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報は、当該欠陥焦点検出画素の両隣に位置する焦点検出画素であることを特徴とする。
An imaging apparatus according to a first aspect of the present invention includes: an optical system that emits a light beam that forms an image; a plurality of imaging pixels that receive the light beam and output a pixel signal; and a plurality of pupil-division focus detection pixels. First defective pixel correction processing based on pixel signals of the plurality of imaging pixels around the defective imaging pixel, with respect to the imaging elements arranged according to the two-dimensional array and the pixel signals of the defective imaging pixels included in the plurality of imaging pixels And the pixel signals of the defective focus detection pixels included in the plurality of focus detection pixels are corrected by the second defective pixel correction process based on the pixel signals of the plurality of focus detection pixels around the defect focus detection pixels. first and defective pixel correction unit, the pixel signal of the defective imaging pixels included in the plurality of imaging pixels, the first defect pixel correction processing third defective pixel correction process is less accurate than the correction A second defective pixel correcting means for further correcting the first image signal based on the pixel signals of the plurality of imaging pixel including the pixel signal of the defective imaging pixel corrected by the first defective pixel correction process It generates an image generating means for generating a second image signal based on the pixel signals of the plurality of imaging pixel including the pixel signal of the defective imaging pixel corrected by the third defective pixel correction processing, photographing Before the start of the operation, the second defective pixel correction processing unit is caused to perform correction by the third defective pixel correction processing and the image generation unit is caused to generate a second image signal. includes control means for generating said second image signal to the image generating means together to perform correction by the first defective pixel correction process to the first defective pixel correction processing means, the first defective pixel Focus detection means for detecting a focus adjustment state of the optical system based on pixel signals of the plurality of focus detection pixels including pixel signals of the defective focus detection pixels corrected by the positive processing means, the defect imaging pixels, and Defect pixel position information indicating a defective pixel position of the defective focus detection pixel, and the first defect depending on whether the defective imaging pixel or the defective focus detection pixel is disposed at the defective pixel position. Defective pixel correction processing information for designating pixel correction processing or the second defective pixel correction processing, and arranged around the defective pixel position, are used for the first defective pixel correction processing or the second defective pixel correction processing. Correction pixel position information that specifies the position of a plurality of non-defective imaging pixels or a plurality of non-defective focus detection pixels used as relative pixel position information based on the defective pixel position And defective pixel information storage means for storing each of the defective imaging pixels and the defective focus detection pixels, and the first defective pixel correction processing means is provided for each of the defective imaging pixels and the defective focus detection pixels. The defective pixel correction process for the pixel signals of the plurality of non-defective imaging pixels or the pixel signals of the plurality of non-defective focus detection pixels determined based on the stored defective pixel position information and the correction pixel position information The first defective pixel correction process or the second defective pixel correction process determined based on the information is performed.
An image pickup apparatus according to a second aspect of the present invention has an optical system that emits a light beam that forms an image, and first, second, and third spectral sensitivity characteristics, and each receives the light beam and outputs a pixel signal. The first, second, and third imaging pixels to be output are two-dimensionally arranged according to a predetermined arrangement rule, and a pair of light beams that have passed through a pair of pupil regions of the optical system are received, and the pair A focus detection pixel composed of a plurality of focus detection pixels arranged in a direction in which a pair of images by the luminous flux of the optical system is relatively shifted according to the focus adjustment state of the optical system and replaced with a part of the imaging pixel And a pixel signal of a defective imaging pixel included in the plurality of imaging pixels is corrected by a first defective pixel correction process based on pixel signals of a plurality of surrounding pixels around the defective imaging pixel. And A defective pixel correction processing unit that corrects a pixel signal of a defective focus detection pixel included in the detection pixel column by a second defective pixel correction process based on pixel signals of a plurality of surrounding pixels around the defective focus detection pixel; Based on the pixel signals of the plurality of imaging pixels including the pixel signal of the defective imaging pixel corrected by the defective pixel correction processing unit, an image generation unit that generates an image signal and the correction by the defective pixel correction processing unit Focus detection means for detecting a focus adjustment state of the optical system based on a pixel signal of the focus detection pixel row including a pixel signal of the defective focus detection pixel, and a defective pixel of the defective imaging pixel and the defective focus detection pixel As the defective pixel position information indicating the position and the positional information of a plurality of surrounding pixels around the defective imaging pixel used for the first defective pixel correction processing, Pixel position information for defective imaging pixel correction that represents the position of surrounding pixels in a predetermined positional relationship with the imaging pixel with reference to the position of the defective imaging pixel, and the defective focus detection pixel used for the second defective pixel correction processing As the position information of a plurality of surrounding pixels, the position of the focus detection pixel in the vicinity of the defect focus detection pixel in the focus detection pixel column to which the defect focus detection pixel belongs is expressed as the reference. Pixel position information for defect focus detection pixel correction, and defective pixel information storage means for storing each of the defect imaging pixels and the defect focus detection pixels, and the pixel position information for defect imaging pixel correction is When the surrounding pixels in the predetermined positional relationship include the focus detection pixel, the defect pixel correction processing unit does not include the position information of the focus detection pixel, and the defective pixel information is not included. A pixel position for correcting the defective imaging pixel stored in the defective pixel information storage unit with respect to the defective imaging pixel; and a pixel signal of the defective imaging pixel corresponding to the defective pixel position information stored in the information storage unit. A pixel of the defective focus detection pixel corresponding to the defective pixel position information stored in the defective pixel information storage unit and corrected by the first defective pixel correction processing based on the pixel signal of the surrounding pixels corresponding to the information The second defective pixel correction based on the pixel signal of the surrounding pixels corresponding to the pixel position information for the defective focus detection pixel correction stored in the defective pixel information storage unit with respect to the defective focus detection pixel corrected by the processing, the focus detection pixel row, focus first the photoelectric conversion portion receives one of the pair of light beams and having a microlens and a photoelectric conversion unit A detection pixel, a microlens, and a photoelectric conversion unit, and the photoelectric conversion unit is alternately arranged with second focus detection pixels that receive the other of the pair of light beams. In the case of the first focus detection pixel, the defect focus detection pixel correction pixel position information stored in the defect pixel information storage unit for the defect focus detection pixel is the position of the first focus detection pixel. Information, and when the defective focus detection pixel is the second focus detection pixel, the defect focus detection pixel correction pixel position information stored in the defective pixel information storage unit with respect to the defect focus detection pixel Is the position information of the second focus detection pixel .
An image pickup apparatus according to a third aspect of the present invention includes an optical system that emits a light beam that forms an image, and first, second, and third spectral sensitivity characteristics. The first, second, and third imaging pixels to be output are two-dimensionally arranged according to a predetermined arrangement rule, and a pair of light beams that have passed through a pair of pupil regions of the optical system are received, and the pair A focus detection pixel composed of a plurality of focus detection pixels arranged in a direction in which a pair of images by the luminous flux of the optical system is relatively shifted according to the focus adjustment state of the optical system and replaced with a part of the imaging pixel And a pixel signal of a defective imaging pixel included in the plurality of imaging pixels is corrected by a first defective pixel correction process based on pixel signals of a plurality of surrounding pixels around the defective imaging pixel. And A defective pixel correction processing unit that corrects a pixel signal of a defective focus detection pixel included in the detection pixel column by a second defective pixel correction process based on pixel signals of a plurality of surrounding pixels around the defective focus detection pixel; Based on the pixel signals of the plurality of imaging pixels including the pixel signal of the defective imaging pixel corrected by the defective pixel correction processing unit, an image generation unit that generates an image signal and the correction by the defective pixel correction processing unit Focus detection means for detecting a focus adjustment state of the optical system based on a pixel signal of the focus detection pixel row including a pixel signal of the defective focus detection pixel, and a defective pixel of the defective imaging pixel and the defective focus detection pixel As the defective pixel position information indicating the position and the positional information of a plurality of surrounding pixels around the defective imaging pixel used for the first defective pixel correction processing, Pixel position information for defective imaging pixel correction that represents the position of surrounding pixels in a predetermined positional relationship with the imaging pixel with reference to the position of the defective imaging pixel, and the defective focus detection pixel used for the second defective pixel correction processing As the position information of a plurality of surrounding pixels, the position of the focus detection pixel in the vicinity of the defect focus detection pixel in the focus detection pixel column to which the defect focus detection pixel belongs is expressed as the reference. Pixel position information for defect focus detection pixel correction, and defective pixel information storage means for storing each of the defect imaging pixels and the defect focus detection pixels, and the pixel position information for defect imaging pixel correction is When the surrounding pixels in the predetermined positional relationship include the focus detection pixel, the defect pixel correction processing unit does not include the position information of the focus detection pixel, and the defective pixel information is not included. A pixel position for correcting the defective imaging pixel stored in the defective pixel information storage unit with respect to the defective imaging pixel; and a pixel signal of the defective imaging pixel corresponding to the defective pixel position information stored in the information storage unit. A pixel of the defective focus detection pixel corresponding to the defective pixel position information stored in the defective pixel information storage unit and corrected by the first defective pixel correction processing based on the pixel signal of the surrounding pixels corresponding to the information The second defective pixel correction based on the pixel signal of the surrounding pixels corresponding to the pixel position information for the defective focus detection pixel correction stored in the defective pixel information storage unit with respect to the defective focus detection pixel corrected by processing each of the focus detection pixel of the focus detection pixel column to receive the pair of the light beam passing through the microlenses and microlens respectively A pair of photoelectric conversion units, wherein the pair of photoelectric conversion units are arranged in a direction in which a pair of images by the pair of light beams are relatively shifted according to a focus adjustment state of the optical system, and the defect focus detection The pixel position information for correcting the defective focus detection pixel stored in the defective pixel information storage unit with respect to the pixel is a focus detection pixel located on both sides of the defective focus detection pixel .
本発明によれば、撮像画素と瞳分割型の焦点検出画素を混載する撮像素子を備えた撮像装置において、欠陥画素のデータの不適切な補正を防止することが可能になる。 ADVANTAGE OF THE INVENTION According to this invention, in the imaging device provided with the image pick-up element which mounts an imaging pixel and a pupil division type focus detection pixel together, it becomes possible to prevent the correction | amendment of the data of a defective pixel inappropriately.
−−−第1の実施の形態−−−
第1の実施の形態の撮像装置として、レンズ交換式のデジタルスチルカメラを例に挙げて説明する。図1は第1の実施の形態のデジタルスチルカメラの構成を示す横断面図である。本実施の形態のデジタルスチルカメラ201は、交換レンズ202とカメラボディ203とから構成され、交換レンズ202がマウント部204を介してカメラボディ203に装着される。カメラボディ203にはマウント部204を介して種々の撮影光学系を有する交換レンズ202が装着可能である。
--- First embodiment ---
A lens interchangeable digital still camera will be described as an example of the imaging apparatus according to the first embodiment. FIG. 1 is a cross-sectional view showing the configuration of the digital still camera according to the first embodiment. A digital
交換レンズ202は、レンズ209、ズーミング用レンズ208、フォーカシング用レンズ210、絞り211、レンズ駆動制御装置206などを備えている。レンズ駆動制御装置206は、不図示のマイクロコンピューター、メモリ、駆動制御回路などから構成される。レンズ駆動制御装置206は、フォーカシング用レンズ210の焦点調節と絞り211の開口径調節のための駆動制御や、ズーミング用レンズ208、フォーカシング用レンズ210および絞り211の状態検出などを行う。また、後述するボディ駆動制御装置214との通信によりレンズ情報の送信とカメラ情報(デフォーカス量や絞り値など)の受信を行う。絞り211は、光量およびボケ量調整のために光軸中心に開口径が可変な開口を形成する。
The
カメラボディ203は、撮像素子212、ボディ駆動制御装置214、液晶表示素子駆動回路215、液晶表示素子216、接眼レンズ217、メモリカード219、バッファメモリ220、欠陥画素情報記憶メモリ221などを備えている。撮像素子212には、撮像画素が二次元状(行と列)に配置されるとともに、焦点検出位置(焦点検出エリア)に対応した部分に焦点検出画素が組み込まれている。この撮像素子212については詳細を後述する。
The
ボディ駆動制御装置214は、マイクロコンピューター、メモリ、駆動制御回路などから構成され、撮像素子212の駆動制御と、撮像素子212からの画素信号の読み出しおよび欠陥画素補正処理と、焦点検出画素の画素信号に基づく焦点検出演算と、交換レンズ202の焦点調節とを繰り返し行うとともに、画像信号の処理と記録、デジタルスチルカメラ201の動作制御などを行う。また、ボディ駆動制御装置214は電気接点213を介してレンズ駆動制御装置206と通信を行い、レンズ情報の受信とカメラ情報の送信を行う。
The body
液晶表示素子216は電気的なビューファインダー(EVF:Electronic View Finder)として機能する。液晶表示素子駆動回路215は撮像素子212から読み出されたスルー画像を液晶表示素子216に表示し、撮影者は接眼レンズ217を介してスルー画像を観察することができる。メモリカード219は、撮像素子212により撮像された画像を記憶する画像ストレージである。
The liquid
バッファメモリ220は、撮像素子212から読み出された画素信号を一時的に保持するメモリである。撮像素子212からは行順次に画素信号が読み出され、数行分の画素信号のデータがバッファメモリ220に保持される。欠陥画素情報記憶メモリ221は撮像素子212の欠陥画素に関する情報を記憶するメモリである。欠陥画素とは受光光量に対して異常な画素信号を発生する画素のことであって、例えば、いわゆる白キズ、黒キズとなる画素である。製造時において撮像素子212をカメラボディ201に組み込む際に、所定の一様照明状態を撮像素子212上に形成し、所定水準の画素信号が得られなかった画素を欠陥画素と認定する。該欠陥画素の位置情報(行、列)と該欠陥画素の種類とに応じた欠陥画素補正処理の種類および欠陥画素補正処理に用いる周囲の画素の位置に関する情報が、欠陥画素情報記憶メモリ221に記憶される。
The
交換レンズ202を通過した光束により、撮像素子212の受光面上に被写体像が形成される。この被写体像は撮像素子212により光電変換され、撮像画素および焦点検出画素の画素信号がバッファメモリ220を介してボディ駆動制御装置214へ送られる。
A subject image is formed on the light receiving surface of the
ボディ駆動制御装置214は、撮像素子212の焦点検出画素からの画素信号に基づいてデフォーカス量を算出し、このデフォーカス量をレンズ駆動制御装置206へ送る。また、ボディ駆動制御装置214は、撮像素子212の撮像画素の画素信号を処理して画像データを生成し、メモリカード219に格納するとともに、撮像素子212から読み出されたスルー画像信号を液晶表示素子駆動回路215へ送り、スルー画像を液晶表示素子216に表示させる。さらに、ボディ駆動制御装置214は、レンズ駆動制御装置206へ絞り制御情報を送って絞り211の開口制御を行う。
The body
レンズ駆動制御装置206は、フォーカシング状態、ズーミング状態、絞り設定状態、絞り開放F値などに応じてレンズ情報を更新する。具体的には、ズーミング用レンズ208とフォーカシング用レンズ210の位置と絞り211の絞り値を検出し、これらのレンズ位置と絞り値に応じてレンズ情報を演算したり、あるいは予め用意されたルックアップテーブルからレンズ位置と絞り値に応じたレンズ情報を選択する。
The
レンズ駆動制御装置206は、受信したデフォーカス量に基づいてレンズ駆動量を算出し、レンズ駆動量に応じてフォーカシング用レンズ210を合焦位置へ駆動する。また、レンズ駆動制御装置206は受信した絞り値に応じて絞り211を駆動する。
The lens
図2は、交換レンズ202の撮影画面上における焦点検出位置(焦点検出エリア)を示す図であり、後述する撮像素子212上の焦点検出画素列が焦点検出の際に撮影画面上で像をサンプリングする領域(焦点検出エリア、焦点検出位置)の一例を示す。この例では、矩形の撮影画面100上の中央(光軸上)および上下左右の5箇所に焦点検出エリア101〜105が配置される。長方形で示す焦点検出エリアの長手方向に、焦点検出画素が直線的に配列される。焦点検出エリア101、102、103においては焦点検出画素が水平方向に配列され、焦点検出エリア104、105においては焦点検出画素が水平方向に配列される。
FIG. 2 is a diagram showing a focus detection position (focus detection area) on the shooting screen of the
図3、図4は撮像素子212の詳細な構成を示す正面図である。図3は、図2における焦点検出エリア101、102、103の近傍を拡大した画素配列の詳細を示し、図4は、図2における焦点検出エリア104、105の近傍を拡大した画素配列の詳細を示す。撮像素子212には撮像画素310が二次元正方格子状に稠密に配列される。撮像画素310は赤画素(R)、緑画素(G)、青画素(B)からなり、ベイヤー配列の配置規則によって配置されている。図4においては、垂直方向の焦点検出用に撮像画素と同一の画素サイズを有する垂直方向焦点検出用の焦点検出画素313、314が交互に、本来緑画素と赤画素とが連続的に配置されるべき垂直方向の直線上に連続して配列される。同じく、図3においては、水平方向の焦点検出用に撮像画素と同一の画素サイズを有する水平方向焦点検出用の焦点検出画素315、316が交互に、本来緑画素と青画素とが連続的に配置されるべき水平方向の直線上に連続して配列される。
3 and 4 are front views showing a detailed configuration of the
図5は、撮像画素と焦点検出画素とのマイクロレンズ10の形状を示す図である。撮像画素と焦点検出画素とのマイクロレンズ10の形状は、元々、画素サイズより大きな円形のマイクロレンズ9から画素サイズに対応した正方形の形状で切り出した形状をしている。マイクロレンズ10の光軸を通る対角線の方向の断面と、マイクロレンズ10の光軸を通る水平線の方向の断面とは、それぞれ図5に(a)、(b)で示す形状になっている。
FIG. 5 is a diagram illustrating the shape of the
撮像画素310は、図6に示すように矩形のマイクロレンズ10、後述の遮光マスクで受光領域を正方形に制限された光電変換部11、および色フィルタ(不図示)から構成される。色フィルタは赤(R)、緑(G)、青(B)の3種類からなり、それぞれの分光感度は図7に示す特性を有している。撮像素子212には、各色フィルタを備えた撮像画素310がベイヤー配列されている。
As shown in FIG. 6, the
焦点検出画素313、314、315、316には全ての色に対して焦点検出を行うために全ての可視光を透過する白色フィルタが設けられており、その白色フィルタの分光感度特性は図10に示される。つまり、図7に示す緑画素、赤画素および青画素の分光感度特性を加算したような分光感度特性となり、そのような分光感度特性に対応する光波長領域は、緑画素、赤画素および青画素が高い分光感度を示す光波長領域を包括している。
The
図9は焦点検出画素の正面図である。焦点検出画素313は、図9(a)に示すように矩形のマイクロレンズ10と後述の遮光マスクで受光領域を正方形の上半分(正方形を水平線で2等分した場合の上半分)に制限された光電変換部13、および白色フィルタ(不図示)とから構成される。
FIG. 9 is a front view of the focus detection pixel. As shown in FIG. 9A, the
また、焦点検出画素314は、図9(b)に示すように、矩形のマイクロレンズ10と後述の遮光マスクで受光領域を正方形の下半分(正方形を水平線で2等分した場合の下半分)に制限された光電変換部14、および白色フィルタ(不図示)とから構成される。
Further, as shown in FIG. 9B, the
焦点検出画素313と焦点検出画素314とをマイクロレンズ10を基準に重ね合わせて表示すると、遮光マスクで受光領域を制限された光電変換部13と14が垂直方向に並んでいる。
When the
また図9(a)、(b)において、正方形を半分にした受光領域の部分に正方形を半分にした残りの部分(破線部分)を加えると、撮像画素の受光領域と同じサイズの正方形となる。 In FIGS. 9A and 9B, when the remaining portion (broken line portion) obtained by halving the square is added to the light receiving region portion obtained by halving the square, a square having the same size as the light receiving region of the imaging pixel is obtained. .
焦点検出画素315は、図9(c)に示すように、矩形のマイクロレンズ10と後述の遮光マスクで受光領域を正方形の左半分(正方形を垂直線で2等分した場合の左半分)に制限された光電変換部15、および白色フィルタ(不図示)とから構成される。
As shown in FIG. 9C, the
また、焦点検出画素316は、図9(d)に示すように、矩形のマイクロレンズ10と後述の遮光マスクで受光領域を正方形の右半分(正方形を垂直線で2等分した場合の右半分)に制限された光電変換部16、および白色フィルタ(不図示)とから構成される。
Further, as shown in FIG. 9D, the
焦点検出画素315の正面図と焦点検出画素316の正面図とをマイクロレンズ10を基準に重ね合わせて表示すると、遮光マスクで受光領域を制限された光電変換部15と16が水平方向に並んでいる。
When the front view of the
また図9(c)、(d)において、正方形を半分にした受光領域の部分に正方形を半分にした残りの部分(破線部分)を加えると、撮像画素の受光領域と同じサイズの正方形となる。 9C and 9D, when the remaining part (broken line part) obtained by halving the square is added to the light receiving area part obtained by halving the square, a square having the same size as the light receiving area of the imaging pixel is obtained. .
図10は、垂直方向の直線で撮像画素配列の断面をとった場合の撮像画素310の断面図である。撮像画素310では撮像用の光電変換部11の上に近接して遮光マスク30が形成され、光電変換部11は、遮光マスク30の開口部30aを通過した光を受光する。遮光マスク30の上には平坦化層31が形成され、その上に色フィルタ38が形成される。色フィルタ38の上には平坦化層32が形成され、その上にマイクロレンズ10が形成される。マイクロレンズ10により開口部30aの形状が前方に投影される。光電変換部11は半導体回路基板29上に形成される。
FIG. 10 is a cross-sectional view of the
図11は、垂直方向の直線で焦点検出画素313、314からなる焦点検出画素配列の断面をとった場合の焦点検出画素313、314の断面図である。焦点検出画素313、314では焦点検出用の光電変換部13,14の上に近接して遮光マスク30が形成され、光電変換部13,14は、遮光マスク30の開口部30b、30cを通過した光を受光する。遮光マスク30の上には平坦化層31が形成され、その上に白色フィルタ34が形成される。白色フィルタ34の上には平坦化層32が形成され、その上にマイクロレンズ10が形成される。マイクロレンズ10により開口部30b、30cの形状が前方に投影される。光電変換部13,14は半導体回路基板29上に形成される。
FIG. 11 is a cross-sectional view of the
焦点検出画素315、316の構造も焦点検出画素313、314の構造を90度回転しただけであって、基本的に図11に示す焦点検出画素の構造と同様である。
The structure of the
図12は、図3、図4、図10に示す撮像画素310が受光する撮影光束の様子を説明するための図であって、垂直方向の直線で撮像画素配列の断面をとっている。
FIG. 12 is a diagram for explaining the state of the imaging light beam received by the
撮像素子上に配列された全ての撮像画素の光電変換部11は、光電変換部11に近接して配置された前記遮光マスク開口30aを通過した光束を受光する。遮光マスク開口30aの形状は、各撮像画素のマイクロレンズ10によりマイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上の全撮像画素共通な領域95に投影される。
The
従って各撮像画素の光電変換部11は、領域95と各撮像画素のマイクロレンズ10を通過する光束71を受光し、領域95を通過して各撮像画素のマイクロレンズ10へ向う光束71によって各マイクロレンズ10上に形成される像の強度に対応した信号を出力する。
Therefore, the
図13は、図4、図11に示す焦点検出画素313,314が受光する焦点検出光束の様子を図12と比較して説明するための図であって、垂直方向の直線で焦点検出画素配列の断面をとっている。
FIG. 13 is a diagram for explaining the state of the focus detection light beam received by the
撮像素子上に配列された全ての焦点検出画素の光電変換部13,14は、光電変換部13,14に近接して配置された前記遮光マスク開口30b、30cを通過した光束を受光する。遮光マスク開口30bの形状は、各焦点検出画素313のマイクロレンズ10によりマイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上の焦点検出画素313に全てに共通した領域93に投影される。同じく、遮光マスク開口30cの形状は、各焦点検出画素314のマイクロレンズ10により、マイクロレンズ10から測距瞳距離dだけ離間した射出瞳90上の焦点検出画素314に全てに共通した領域94に投影される。一対の領域93,94を測距瞳と呼ぶ。
The
従って各焦点検出画素313の光電変換部13は、測距瞳93と各撮像画素のマイクロレンズ10を通過する光束73を受光し、測距瞳93を通過して各撮像画素のマイクロレンズ10へ向う光束73によって各マイクロレンズ10上に形成される像の強度に対応した信号を出力する。また、各焦点検出画素314の光電変換部14は、測距瞳94と各撮像画素のマイクロレンズ10を通過する光束74を受光し、測距瞳94を通過して各撮像画素のマイクロレンズ10へ向う光束74によって各マイクロレンズ10上に形成される像の強度に対応した信号を出力する。
Accordingly, the
一対の焦点検出画素313,314が受光する光束73,74が通過する射出瞳90上の測距瞳93と94を統合した領域は、撮像画素310が受光する光束71が通過する射出瞳90上の領域95と一致する。射出瞳90上において光束73,74は光束71に対して相補的な関係になっている。
A region where the
上述した一対の焦点検出画素313、314を交互にかつ直線状に多数配置する。各焦点検出画素の光電変換部の出力を測距瞳93および測距瞳94に対応した一対の出力グループにまとめることによって、測距瞳93と測距瞳94をそれぞれ通過する一対の光束が焦点検出画素配列上(垂直方向)に形成する一対の像の強度分布に関する情報が得られる。この情報に対して、後述する像ズレ検出演算処理(相関演算処理、位相差検出処理)を施すことによって、いわゆる瞳分割型位相差検出方式で一対の像の像ズレ量が検出される。さらに、像ズレ量に一対の測距瞳の重心間隔と測距瞳距離の比例関係に応じた変換演算を行うことによって、焦点検出位置(垂直方向)における予定結像面と結像面の偏差(デフォーカス量)が算出される。
A large number of the pair of
焦点検出画素315、316が受光する焦点検出光束も焦点検出画素313、314の受光する一対の焦点検出光束73,74を90度回転しただけであって、基本的に図13に示す光束と同様であり、測距瞳93、94を90度回転した一対の測距瞳が設定される。一対の焦点検出画素315、316を交互にかつ直線状に多数配置する。各焦点検出画素の光電変換部の出力を一対の測距瞳に対応した一対の出力グループにまとめることによって、一対の測距瞳をそれぞれ通過する一対の光束が焦点検出画素配列上(水平方向)に形成する一対の像の強度分布に関する情報が得られる。この情報に基づき、焦点検出位置(水平方向)における予定結像面と結像面の偏差(デフォーカス量)が算出される。
The focus detection light beams received by the
撮像素子212はCMOSイメージセンサーとして構成される。図14に撮像素子212の回路構成概念図を示す。撮像素子212の回路構成を、水平方向8画素×垂直方向4画素のレイアウトに簡略化して説明する。図14は、図2の水平方向の焦点検出エリア101,102、103に対応して描かれており、水平方向に焦点検出画素315,316が同一の行に配置されている。垂直方向の焦点検出エリア104、105には、焦点検出画素313,314が、垂直方向に配置され、かつ互いに異なる行に配置される。
The
2行目には、焦点検出画素315、316が配置されている。図14では、“○”で示す中央の4つの焦点検出画素315、316が、複数の焦点検出画素を代表して示されており、左右の2つずつの撮像画素310(“□”で示す)が、焦点検出画素の左右に配置された複数の撮像画素を代表して示されている。
In the second row, focus
1行目、3行目、4行目には、撮像画素310のみが配置されている。図14では、1行目、3行目、4行目の撮像画素310が、焦点検出画素が配置された行の上下の複数の撮像画素のみからなる行を代表して示されている。
Only the
図14において、ラインメモリ320は、1行分の画素の画素信号をサンプルホールドして一時的に保持するバッファであり、垂直信号線501に出力されている同一行の画素信号を垂直走査回路が発する制御信号ΦH1に基づいてサンプルホールドする。なお、ラインメモリ320に保持される画素信号は、制御信号ΦS1〜ΦS4の立ち上がりに同期してリセットされる。
In FIG. 14, a
撮像画素310および焦点検出画素315、316からの画素信号の出力は、垂直走査回路が発生する制御信号(ΦS1〜ΦS4)により行ごとに独立に制御される。制御信号(ΦS1〜ΦS4)により選択された行の画素の画素信号は、垂直信号線501に出力される。
Output of pixel signals from the
ラインメモリ320に保持された画素信号は、水平走査回路が発生する制御信号(ΦV1〜ΦV8)により、順次、出力回路330に転送され、出力回路330において、設定された増幅度で増幅されて外部に出力される。
The pixel signals held in the
撮像画素310および焦点検出画素315、316は、画素信号がサンプルホールドされた後、垂直走査回路が発生する制御信号(ΦR1〜ΦR4)によりリセットされ、制御信号ΦR1〜ΦR4の立ち下がりで次回の画素信号出力のための電荷蓄積を開始する。
The
制御信号φSyncは垂直同期信号であって、フレーム毎に外部に出力される。また、制御信号ΦS1〜ΦS4、制御信号ΦR1〜ΦR4も外部に出力される。 The control signal φSync is a vertical synchronization signal and is output to the outside for each frame. Further, control signals ΦS1 to ΦS4 and control signals ΦR1 to ΦR4 are also output to the outside.
図15は、図14に示す撮像素子212の撮像画素310および焦点検出画素315、316の詳細回路図である。光電変換部はフォトダイオード(PD)で構成される。PDで蓄積された電荷は浮遊拡散層(フローティングディフュージョン:FD)に蓄積される。FDは増幅MOSトランジスタ(AMP)のゲートに接続されており、AMPはFDに蓄積された電荷の量に応じた信号を発生する。
FIG. 15 is a detailed circuit diagram of the
FD部は、リセットMOSトランジスタ510を介し、電源電圧Vddに接続されている。制御信号ΦRn(ΦR1〜ΦR3)によりリセットMOSトランジスタ510がONとなると、FDおよびPDに溜まった電荷がクリアされ、リセット状態となる。
The FD portion is connected to the power supply voltage Vdd via the
AMPの出力は、行選択MOSトランジスタ512を介して垂直出力線501に接続されている。制御信号ΦSn(ΦS1〜ΦS3)により行選択MOSトランジスタ512がONとなると、AMPの出力が垂直出力線501に出力される。
The output of AMP is connected to a
図16は、図14に示す撮像素子212の動作タイミングチャートである。CMOSイメージセンサーにおいては、いわゆるローリングシャッタ動作により、画素のリセット、露光、信号の読み出しが以下のように各行毎に順次行われる。
FIG. 16 is an operation timing chart of the
撮像素子212からの全画素の信号の出力(1フレーム分の画像信号の出力)に同期して、垂直同期信号φSyncが発せられる。1行目の撮像画素310は、垂直同期信号φSyncに同期して垂直走査回路が発する制御信号ΦS1により選択され、選択された撮像画素310の画素信号は垂直信号線501に出力される。制御信号ΦS1と同期して発せられる制御信号ΦH1により垂直信号線501に出力された1行目の画素信号は、ラインメモリ320に一時的に保持される。
A vertical synchronization signal φSync is generated in synchronization with the output of all pixel signals from the image sensor 212 (output of image signals for one frame). The
ラインメモリ320に保持された1行目の撮像画素310の画素信号は、水平走査回路から順次発せられる制御信号ΦV1〜ΦV8にしたがって出力回路330に転送され、出力回路330において、設定された増幅度で増幅されて外部に出力される。
The pixel signals of the
1行目の撮像画素310の画素信号のラインメモリ320への転送が終了した時点で、リセット回路より発せられる制御信号ΦR1により1行目の撮像画素310がリセットされ、制御信号ΦR1の立ち下がりで1行目の撮像画素310の次の電荷蓄積が開始される。
When the transfer of the pixel signal of the
1行目の撮像画素310の画素信号の、出力回路330からの出力が終了した時点で、2行目の撮像画素310および焦点検出画素315,316は、垂直走査回路が発する制御信号ΦS2により選択され、選択された撮像画素310の画素信号は垂直信号線501に出力される。
When the output of the pixel signal of the
以下、同様にして2行目の撮像画素310および焦点検出画素315,316の画素信号の保持および撮像画素310のリセット、画素信号の出力および次の電荷蓄積の開始が行われる。続いて3行目、4行目の撮像画素310の画素信号の保持および撮像画素310のリセット、撮像画素310の画素信号の出力および次の電荷蓄積の開始が行われる。全ての画素の画素信号の出力が終了すると、再び1行目に戻って上記動作が周期的に繰り返される。
Thereafter, similarly, the pixel signals of the
n行目の撮像画素310および焦点検出画素315,316のリセット動作は、制御信号φRnの立ち上がりから立ち下がりまでの時間に行われ、n行目の撮像画素310および焦点検出画素315,316の露光動作は、制御信号φRnの立ち下がりから、制御信号φSnの立ち上がりまでの時間(露光時間、蓄積時間)に行われ、n行目の撮像画素310および焦点検出画素315,316の信号読み出し動作は、制御信号φSnの立ち上がりから制御信号φSn+1の立ち上がりまでの時間に行われる。
The reset operation of the n-
図17は、デジタルスチルカメラ201の撮像動作を示すフローチャートである。ボディ駆動制御装置214は、ステップS100でデジタルスチルカメラ201の電源がオンされると、ステップS110以降の撮像動作を開始する。ステップS110において、撮像素子212は、一定周期で撮像動作を繰り返す動作モード(例えば1秒間に60フレームを出力する)に設定される。そして1フレーム分の全画素データを読み出すとともに、欠陥画素に対して欠陥画素補正処理を施す。欠陥画素補正処理の詳細は後述する。続くステップS120では、撮像画素310のデータから一部を間引きしたデータを液晶表示素子216に表示(ライブビュー表示)させる。ステップS130では焦点検出画素313、314、315、316のデータに基づき5つの焦点検出エリア101〜105において焦点検出を行い、最終的に1つのデフォーカス量を算出する。デフォーカス量の信頼性が低い場合、またはデフォーカス量の算出が不能であった場合は、焦点検出不能となる。ステップS130におけるデフォーカス量の算出処理の詳細については後述する。
FIG. 17 is a flowchart showing the imaging operation of the digital
ステップS140で、合焦近傍か否か、すなわち算出されたデフォーカス量の絶対値が所定値以内であるか否かを調べる。合焦近傍でないと判定された場合は、ステップS150へ進み、デフォーカス量をレンズ駆動制御装置206へ送信し、交換レンズ202のフォーカシングレンズ210を合焦位置に駆動させる。その後、ステップS110へ戻って上述した動作を繰り返す。
In step S140, it is checked whether or not the focus is close, that is, whether or not the calculated absolute value of the defocus amount is within a predetermined value. If it is determined that the focus is not close, the process proceeds to step S150, the defocus amount is transmitted to the
なお、焦点検出不能な場合もこのステップに分岐し、レンズ駆動制御装置206へスキャン駆動命令を送信し、交換レンズ202のフォーカシングレンズ210を無限から至近までの間でスキャン駆動させる。その後、ステップS110へ戻って上述した動作を繰り返す。
Even when focus detection is impossible, the process branches to this step, a scan drive command is transmitted to the lens
ステップS140で合焦近傍であると判定された場合はステップS160へ進み、シャッターボタン(不図示)の操作によりシャッターレリーズがなされたか否かを判別する。シャッターレリーズがなされていないと判定された場合はステップS110へ戻り、上述した動作を繰り返す。一方、シャッターレリーズがなされたと判定された場合はステップS170へ進み、レンズ駆動制御装置206へ絞り調整命令を送信し、交換レンズ202の絞り値を制御F値(撮影者または自動により設定されたF値)にする。絞り制御が終了した時点で、撮像素子212に被写体輝度に応じた露光時間による撮像動作を行わせ、撮像素子212の撮像画素310および全ての焦点検出画素313、314、315、316から画像データを読み出すとともに、欠陥画素に対して欠陥画素補正処理を施す。欠陥画素補正処理の詳細は後述する。
If it is determined in step S140 that the focus is close, the process proceeds to step S160, and it is determined whether or not a shutter release has been performed by operating a shutter button (not shown). If it is determined that the shutter release has not been performed, the process returns to step S110 and the above-described operation is repeated. On the other hand, if it is determined that the shutter release has been performed, the process proceeds to step S170, where an aperture adjustment command is transmitted to the lens
ステップS180において、焦点検出画素列の各画素位置における仮想的な撮像画素のデータを焦点検出画素313、314、315、316の周囲の撮像画素310のデータと焦点検出画素313、314、315、316のデータに基づいて画素補間する。例えば特願2007−264557に開示された画素補間処理を行う。続くステップS190では、撮像画素310のデータおよび補間された仮想的な撮像画素のデータからなる画像データをメモリーカード219に記憶し、ステップS110へ戻って上述した動作を繰り返す。
In step S180, the data of the virtual imaging pixels at the respective pixel positions of the focus detection pixel row are changed to the data of the
次に、図17のステップS130で用いられる一般的な像ズレ検出演算処理(相関演算処理、位相差検出処理)の詳細について説明する。簡単のため1つの焦点検出エリアの焦点検出画素配列に対する処理を記載するが、もう他の焦点検出エリアにおける処理も同様である。 Next, details of general image shift detection calculation processing (correlation calculation processing, phase difference detection processing) used in step S130 of FIG. 17 will be described. For the sake of simplicity, the processing for the focus detection pixel array in one focus detection area will be described, but the processing in the other focus detection areas is the same.
焦点検出画素313、314、または焦点検出画素315、316が検出する一対の像は、測距瞳がレンズの絞り開口により口径蝕を受けて光量バランスが崩れている可能性があるので、光量バランスに対して像ズレ検出精度を維持できるタイプの相関演算を施す。
In the pair of images detected by the
焦点検出画素列から読み出された一対のデータ列(A11〜A1M、A21〜A2M:Mはデータ数)に対し、特開2007−333720号公報に開示された相関演算式(1)を用い、相関量C(k)を演算する。
C(k)=Σ|A1n×A2n+1+k−A2n+k×A1n+1| (1)
For a pair of data strings (A1 1 to A1 M , A2 1 to A2 M : M is the number of data) read out from the focus detection pixel string, a correlation calculation formula (1) disclosed in Japanese Patent Laid-Open No. 2007-333720 ) To calculate the correlation amount C (k).
C (k) = Σ | A1 n × A2 n + 1 + k -A2 n + k × A1 n + 1 | (1)
式(1)において、Σ演算はnについて累積されるが、nのとる範囲は、像ずらし量kに応じてA1n、A1n+1、A2n+k、A2n+1+kのデータが存在する範囲に限定される。像ずらし量kは整数であり、データ列のデータ間隔を単位とした相対的ずらし量である。 In equation (1), the Σ operation is accumulated for n, but the range taken by n is limited to a range in which data of A1 n , A1 n + 1 , A2 n + k , A2 n + 1 + k exists according to the image shift amount k. . The image shift amount k is an integer and is a relative shift amount with the data interval of the data string as a unit.
式(1)の演算結果は、図18(a)に示すように、一対のデータの相関が高いシフト量(図18(a)ではk=kj=2)において相関量C(k)が極小(小さいほど相関度が高い)になる。式(2)〜(5)による3点内挿の手法を用いて連続的な相関量に対する極小値C(ks)を与えるずらし量ksを求める。
ks=kj+D/SLOP (2)
C(ks)= C(kj)−|D| (3)
D={C(kj−1)-C(kj+1)}/2 (4)
SLOP=MAX{C(kj+1)−C(kj),C(kj−1)-C(kj)} (5)
As shown in FIG. 18A, the calculation result of the expression (1) indicates that the correlation amount C (k) is the amount of shift with high correlation between a pair of data (k = k j = 2 in FIG. 18A). Minimal (the smaller the value, the higher the degree of correlation). The shift amount k s that gives the minimum value C (k s ) with respect to the continuous correlation amount is obtained using the three-point interpolation method according to the equations (2) to (5).
k s = k j + D / SLOP (2)
C (k s ) = C (k j ) − | D | (3)
D = {C (k j −1) −C (k j +1)} / 2 (4)
SLOP = MAX {C (k j +1) −C (k j ), C (k j −1) −C (k j )} (5)
式(2)で算出されたずらし量ksの信頼性があるかどうかは、以下のようにして判定される。図18(b)に示すように、一対のデータの相関度が低い場合は、内挿された相関量の極小値C(ks)の値が大きくなる。したがって、C(ks)が所定の閾値以上の場合は、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量ksをキャンセルする。 Whether or not the shift amount k s calculated by Expression (2) is reliable is determined as follows. As shown in FIG. 18 (b), when a low level of correlation between the pair of data, the value of the minimum value C of the interpolated correlation quantity (k s) is increased. Therefore, when C (k s ) is equal to or greater than a predetermined threshold, it is determined that the calculated shift amount is not reliable, and the calculated shift amount k s is canceled.
あるいは、C(ks)をデータのコントラストで規格化するために、コントラストに比例した値となるSLOPでC(ks)を除した値が所定値以上の場合は、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量ksをキャンセルする。 Alternatively, in order to normalize C (k s ) with the contrast of data, when the value obtained by dividing C (k s ) by SLOP that is proportional to the contrast is equal to or greater than a predetermined value, the calculated shift amount It is determined that the reliability is low, and the calculated shift amount k s is canceled.
あるいはまた、コントラストに比例した値となるSLOPが所定値以下の場合は、被写体が低コントラストであり、算出されたずらし量の信頼性が低いと判定し、算出されたずらし量ksをキャンセルする。 Alternatively, when SLOP that is a value proportional to the contrast is equal to or smaller than a predetermined value, it is determined that the subject has low contrast and the reliability of the calculated shift amount is low, and the calculated shift amount k s is canceled. .
図18(c)に示すように、一対のデータの相関度が低く、ずらし量の範囲kmin〜kmaxの間で相関量C(k)の落ち込みがない場合は、極小値C(ks)を求めることができず、このような場合は焦点検出不能と判定する。 As shown in FIG. 18 (c), the low level of correlation between the pair of data when there is no drop in correlation quantity C (k) is between the shift amount in the range k min to k max, the minimum value C (k s In such a case, it is determined that the focus cannot be detected.
算出されたずらし量ksの信頼性があると判定された場合は、式(6)により像ズレ量shftに換算される。
shft=PY×ks (6)
If it is determined that the calculated shift amount k s is reliable, it is converted into the image shift amount shft by Equation (6).
shft = PY × k s (6)
式(6)において、PYは焦点検出画素313、314、または焦点検出画素315、316の画素ピッチの2倍(検出ピッチ)である。式(6)で算出された像ずらし量に所定の変換係数Kdを乗じて、式(7)に表されるようにデフォーカス量defへ変換する。なお、変換係数Kdは、焦点検出画素313、314、または焦点検出画素315、316が受光する一対の焦点検出光束の開き角に応じた値であって、測距瞳距離dを一対の測距瞳の重心間隔で除算した値である。
def=Kd×shft (7)
In Expression (6), PY is twice the pixel pitch (detection pitch) of the
def = Kd × shft (7)
図19は、ボディ駆動制御装置214が、欠陥画素情報記憶メモリ221に格納された欠陥画素情報に基づき、バッファメモリ220に一時的に格納された撮像素子212からの画素信号(画素データ)に対して欠陥画素補正処理を行う際の画素データおよび処理の内容についての概念図である。
In FIG. 19, the body
撮像素子212において、行及び列方向に配置された撮像画素310および焦点検出画素313、314、315、316の画素データは、ローリングシャッタ方式で行順次に読み出される。図19では、一番上の行から下方に向かって行順次に読み出される。
In the
撮像素子212から読み出された1行分の画素データは、6行分(L1〜L6)のラインメモリを備えたバッファメモリ220に、ラインメモリL1からFIFO(First In First Out)方式で格納されていく。すなわち、ラインメモリL1に全ての画素データが揃うと、ラインメモリL6に格納された1行分の画素データは廃棄され、ラインメモリL1〜L5に格納された5行分の画素データがラインメモリL2〜L6にシフトする。すなわち、バッファメモリ220には撮像素子212から読み出された5行分の完全な画素データが常時揃っていることになる。この5行分のデータの領域が撮像素子の画素データの読み出しの進行に応じて、上辺から下辺に移動していく。バッファメモリL4はバッファメモリ中心行である。
The pixel data for one row read from the
カメラボディ201の組み立て時において、撮像素子212を所定輝度で一様照明して画素データを読み出し、該画素データに基づき白キズ画素(画素出力が飽和する画素または画素感度が所定閾値以上の画素)、黒キズ画素(画素出力が不足する画素または画素感度が所定閾値以下の画素)等の欠陥画素を抽出して、該欠陥画素の位置情報(行、列のアドレスで表される欠陥画素位置情報)が、欠陥画素情報記憶メモリ221に格納される。さらに該位置情報に付随して、該欠陥画素が撮像画素310であるか焦点検出画素313、314、315、316であるかに応じて定められる欠陥画素補正処理の種類についての情報(欠陥画素補正処理情報)が、欠陥画素情報記憶メモリ221に格納される。具体的には、欠陥画素が撮像画素310の場合には、欠陥画素補正処理はメディアンフィルタ処理(図19では、「M」として表す)であり、焦点検出画素313、314、315、316の場合は、平均処理(図19では、「A」として表す)である。さらに、欠陥位置情報に付随して、該欠陥画素を中心とした5×5画素の領域において該欠陥画素に施される欠陥画素補正処理に用いられる画素の位置を表す位置情報(補正用画素位置情報)が、欠陥画素情報記憶メモリ221に格納される。具体的には、図20のように欠陥画素を除いた5×5画素のマトリックスを24ビットで表した場合、欠陥画素補正処理に用いられる画素のビットを1、欠陥画素補正処理に用いられない画素のビットを0とした24ビットデータで補正用画素位置情報を表す。例えば、欠陥画素が撮像画素310(緑画素)であり、該欠陥画素の周囲に別の欠陥画素や焦点検出画素313、314、315、316がない場合には、図19に示すように、5×5画素の領域のうち“○”で示した画素が欠陥画素補正処理に用いられる。この場合、「0xCCC555」で表される24ビットデータが補正用画素位置情報となる。
At the time of assembling the
ボディ駆動制御装置214は、バッファメモリ220のバッファメモリ中心行Vnを検出するとともに、列Hを第1列から最終列まで走査しながら欠陥画素補正処理を行う。例えば、行Vn、列Hmで表される画素位置が欠陥画素情報記憶メモリ221に欠陥画素位置情報として登録されているか否かを調べる。欠陥画素位置情報として登録されていなければ、バッファメモリ220に格納されている画素中心行Vn、列Hmで表される画素位置の画素データをそのまま欠陥画素補正処理なしで画素データとして読み込む。欠陥画素位置情報として登録されている場合には、その欠陥画素位置情報に付随して欠陥画素情報記憶メモリ221に格納されている欠陥画素補正処理情報と補正用画素位置情報とに基づき、バッファメモリ220に格納されている画素中心行Vn、列Hmで表される画素位置の画素を中心とした5×5の画素データに対して欠陥画素補正処理を施して補正画素データとする。
The body
補正用画素位置情報は欠陥画素の周囲の状況に応じて変更される。図21(a)は、欠陥画素が撮像画素310(赤画素)であり、かつ該欠陥画素の周囲に別の欠陥画素や焦点検出画素313、314、315、316がない場合における該欠陥画素を中心とした5×5の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図21(b)において“○”で示すように、該欠陥画素を中心とした5×5画素の領域に存在する赤画素となる。
The correction pixel position information is changed according to the situation around the defective pixel. FIG. 21A shows the defective pixel when the defective pixel is the imaging pixel 310 (red pixel) and there are no other defective pixels or focus
図22(a)は、欠陥画素が撮像画素310(緑画素)であり、該欠陥画素の1行下に焦点検出画素315、316(行方向に配列した一対の焦点検出画素315、316をA1、A2で示す)が行方向に配列されている場合における該欠陥画素を中心とした5×5の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図22(b)において“○”で示すように、該欠陥画素を中心とした5×5画素の領域に存在する緑画素となる。
In FIG. 22A, the defective pixel is the imaging pixel 310 (green pixel), and the
図23(a)は、欠陥画素が撮像画素310(緑画素)であり、該欠陥画素の1列左に焦点検出画素313、314(列方向に配列した一対の焦点検出画素313、314をA3、A4で示す)が列方向に配列されている場合における該欠陥画素を中心とした5×5の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図23(b)において“○”で示すように、該欠陥画素を中心とした5×5画素の領域に存在する緑画素となる。
In FIG. 23A, the defective pixel is the imaging pixel 310 (green pixel), and the
図24(a)は、欠陥画素が撮像画素310(緑画素)であり、該欠陥画素の1列右側から焦点検出画素315、316が行方向に配列されている場合における該欠陥画素を中心とした5×5の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図24(b)において“○”で示すように、該欠陥画素を中心とした5×5画素の領域に存在する緑画素となる。
In FIG. 24A, the defective pixel is the imaging pixel 310 (green pixel), and the
図25(a)は欠陥画素が焦点検出画素315または316(A1)であり、焦点検出画素315、316が行方向に配列されている場合における該欠陥画素を中心とした5×5の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図25(b)において“○”で示すように、該欠陥画素を中心とした5×5画素の領域に存在する焦点検出画素315または316(A1)となる。
FIG. 25A shows a 5 × 5 region centered on the defective pixel when the defective pixel is the
図26(a)は欠陥画素が焦点検出画素313または314(A3)であり、焦点検出画素313、314が列方向に配列されている場合における該欠陥画素を中心とした5×5の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図26(b)において“○”で示すように、該欠陥画素を中心とした5×5画素の領域に存在する焦点検出画素313または314(A3)となる。
FIG. 26A shows a 5 × 5 region centered on the defective pixel when the defective pixel is the
図27(a)は欠陥画素が焦点検出画素315または316(A1)であり、行方向に配列している焦点検出画素315、316の左端の焦点検出画素315または316が欠陥画素であった場合における該欠陥画素を中心とした5×5の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図27(b)において“○”で示すように、該欠陥画素を中心とした5×5画素の領域に存在する焦点検出画素315または316(A1)となる。
In FIG. 27A, the defective pixel is the
図28を用いて、図17のステップS110およびステップS170における欠陥画素補正処理の詳細を説明する。本欠陥画素補間処理はボディ駆動制御装置214により実行される。ステップS200で行Vを1行目にリセットする。ステップS210で行Vがバッファメモリ中心行になるのを待機する。ステップS220で列Hを1列目にリセットする。ステップS230で行V、列Hで表される画素位置の画素を中心とした5×5のバッファメモリ領域を設定する。
The details of the defective pixel correction processing in step S110 and step S170 in FIG. 17 will be described with reference to FIG. This defective pixel interpolation process is executed by the body
ステップS240で行V、列Hで表される画素位置が欠陥画素位置情報として欠陥画素情報に登録されているか否かを判定する。欠陥画素位置情報として登録されていない場合は、ステップS290で、5×5画素のバッファメモリ領域の中心位置の画素データを、行V、列Hで表される画素位置での画素データとして読み出し、ステップS300に進む。 In step S240, it is determined whether or not the pixel positions represented by row V and column H are registered in the defective pixel information as defective pixel position information. If not registered as defective pixel position information, the pixel data at the center position of the 5 × 5 pixel buffer memory area is read out as pixel data at the pixel position represented by row V and column H in step S290, Proceed to step S300.
欠陥画素位置情報として登録されている場合は、該画素位置における欠陥画素の欠陥画素補正処理の種類を特定し、メディアンフィルタ処理の場合はステップS270に進む。補正用画素位置情報に応じて5×5のバッファメモリ領域内で補正に使用される画素データのメディアンを算出して画素データとし、ステップS300に進む。 If registered as defective pixel position information, the type of defective pixel correction processing of the defective pixel at the pixel position is specified, and in the case of median filter processing, the process proceeds to step S270. In accordance with the correction pixel position information, the median of the pixel data used for correction in the 5 × 5 buffer memory area is calculated as pixel data, and the process proceeds to step S300.
平均処理の場合は、ステップS280に進み、補正用画素位置情報に応じて5×5のバッファメモリ領域内で補正に使用される画素データの平均値を算出して画素データとし、ステップS300に進む。 In the case of the average process, the process proceeds to step S280, and the average value of the pixel data used for correction in the 5 × 5 buffer memory area is calculated according to the correction pixel position information to obtain pixel data, and the process proceeds to step S300. .
ステップS300において、列Hをインクリメントする。ステップS310では、列Hが最終列を超えたか否かを判定し、超えていない場合は、ステップS230に戻って上記処理を繰り返す。最終列を超えた場合は、ステップS320において、行Vをインクリメントする。ステップS330では、行Vが最終行を超えたか否かを判定し、超えていない場合は、ステップS210に戻って上記処理を繰り返す。最終行を超えた場合は、1フレーム分の欠陥画素の補正処理を終了する。 In step S300, column H is incremented. In step S310, it is determined whether or not the column H exceeds the final column. If not, the process returns to step S230 and the above process is repeated. If the final column is exceeded, the row V is incremented in step S320. In step S330, it is determined whether or not the row V exceeds the final row. If not, the processing returns to step S210 and the above processing is repeated. If the last row is exceeded, the correction process for defective pixels for one frame is terminated.
なお、1行分の欠陥画素補正処理の実行時間は、撮像素子212からの1行分の画素データ読み出し時間より短くなるように設計される。
Note that the execution time of the defective pixel correction process for one row is designed to be shorter than the pixel data read time for one row from the
また、カメラボディ203に組み込まれる撮像素子212は、予め欠陥画素の状態に応じて選別されており、全ての欠陥画素に対し該欠陥画素を中心とした5×5の領域において欠陥画素補正に用いられる補正用の画素が必ず所定個数以上存在する。すなわち、その所定個数を判定水準とすることにより、欠陥画素の密度が高く、欠陥画素補正処理が不能になってしまうような撮像素子212は欠陥品として排除される。例えば、正常な撮像素子212において、欠陥画素が撮像画素310の場合、該欠陥画素を中心とした5×5の領域には、欠陥画素補正に用いられる補正用の撮像画素310が3個以上存在するものとする。欠陥画素が焦点検出画素313、314、315、316の場合(ただし、焦点検出画素配列の端および端から2番目の焦点検出画素を除く)、該欠陥画素を中心とした5×5の領域においては、欠陥画素補正に用いられる補正用の焦点検出画素が2個以上存在するものとする。換言すると、同種類の焦点検出画素が連続して欠陥画素であることは無いこととなる。このようにして、焦点検出画素313、314、315、316に対する判定水準を撮像画素310に対する判定水準よりも厳しくすることにより、撮像素子212が選別される。こうして選別された撮像素子212においては、撮像画素310に比して、焦点検出画素313、314、315、316のうちのいずれか1種類の画素の配置密度が相対的に低い場合であっても、該焦点検出画素の画素信号の品質を維持することができるとともに、焦点検出精度の劣化を防止することができる。
Further, the
−−−変形例−−−
以上説明した実施形態において、欠陥画素補正処理に用いる画素の領域を、欠陥画素を中心とした5×5画素の領域として説明したが、N×N画素(N>5)の領域であっても構わない。ただし、焦点検出画素313、314、315、316の欠陥画素補正処理に用いる焦点検出画素は、欠陥焦点検出画素と同種類の2個の焦点検出画素であって、かつ欠陥焦点検出画素に最近接するものとする。
---- Modified example ---
In the embodiment described above, the pixel area used for the defective pixel correction process has been described as a 5 × 5 pixel area centered on the defective pixel, but even if it is an N × N pixel (N> 5) area, I do not care. However, the focus detection pixels used for the defective pixel correction processing of the
以上説明した実施形態において、欠陥画素補正処理に用いる画素の領域を、欠陥画素を中心とした5×5画素の領域とし、該領域内で欠陥画素補正処理に用いる画素の、欠陥画素を基準とした相対的な位置を補正用画素位置情報として記憶しているので、5×5画素の領域内に別の欠陥画素が存在する場合にも対応できる。また、欠陥画素が撮像画素310であるか焦点検出画素313、314、315、316であるかに否かに関わらず対応することもできる。あるいは、欠陥画素が撮像領域の端にあった場合や、近傍に他の種類の画素がある場合にも対応することができる。さらには、撮像素子の中央と周辺とにおいて、撮像画素310の欠陥画素補正処理に用いる撮像画素の範囲を変えたいような場合にも対応することができる。
In the embodiment described above, the pixel area used for the defective pixel correction process is a 5 × 5 pixel area centered on the defective pixel, and the defective pixel of the pixel used for the defective pixel correction process in the area is used as a reference. Since the relative position is stored as correction pixel position information, a case where another defective pixel exists in the 5 × 5 pixel region can be handled. Further, it is possible to cope with the defective pixel regardless of whether it is the
以上説明した実施形態においては、欠陥画素に施す欠陥画素補正処理の種類を、欠陥画素位置に付随して、欠陥画素毎に、欠陥画素情報記憶メモリ221に記憶している。そのため、複数種類の欠陥画素補正処理を、画素信号読み出しシーケンスに同期してスムースに行うことが可能になるとともに、同一種類の画素においても、撮像素子の中央と周辺とにおいて、欠陥画素補正処理の種類を変えたいような場合にも対応することができる。
In the embodiment described above, the type of defective pixel correction processing to be performed on the defective pixel is stored in the defective pixel
以上説明した実施形態において、撮像画素310の欠陥画素補正処理としてメディアンフィルタを用いる理由は、像の2次元的な構造の違いに依らず比較的簡易に良好な補正性能が得られるためである。また、焦点検出画素313、314、315、316の欠陥画素補正処理として最近接の焦点検出画素の平均処理を用いる理由は以下のとおりである。すなわち、焦点検出画素の場合は、焦点検出画素の配列方向における最近接の焦点検出画素との相関が高く、最近接の焦点検出画素のみを欠陥画素補正処理に用いることで焦点検出精度の劣化を防ぐためである。焦点検出画素313、314、315、316の欠陥画素補正処理としてメディアンフィルタを用いた場合には、欠陥焦点検出画素から位置的に離れた焦点検出画素の信号が欠陥焦点検出画素の補正値として用いられる場合があり、このような場合には焦点検出精度が低下する場合がある。
In the embodiment described above, the reason why the median filter is used as the defective pixel correction process of the
以上説明した実施形態においては、撮像画素310の欠陥画素補正処理としてメディアンフィルタを用い、焦点検出画素313、314、315、316の欠陥画素補正処理として最近接の焦点検出画素の一次元的な平均処理を用いているが、これに限定されるわけではない。
In the embodiment described above, the median filter is used as the defective pixel correction process of the
例えば、撮像画素310の欠陥画素補正処理として、2次元的な平均処理や、2次元的なスプライン補間・ラグランジェ補間などの数値計算法を採用することが可能である。また、焦点検出画素313、314、315、316の欠陥画素補正処理として、2個の最近接の焦点検出画素およびその隣の2個の焦点検出画素の合計4個の焦点検出画素を用いた一次元的なスプライン補間を用いることもできる。
For example, as the defective pixel correction process of the
以上説明した実施形態においては、撮像画素310の欠陥画素補正処理としてメディアンフィルタを用いるが、デジタルスチルカメラ201の動作シーケンスに応じて欠陥画素補正処理の種類を変更するようにしてもよい。例えば、図17の動作フローチャートにおいて、シャッターレリーズ前に電子ビューファインダー表示を繰り返し行っている間(ライブビュー動作モード)は、欠陥画素補正処理の精度は視認性に及ぼす影響が小さいので、撮像画素310の欠陥画素補正処理として比較的軽い処理である前置または後置画素置き換え処理を採用することにより処理負荷を軽減する。シャッターレリーズ後の欠陥画素補正処理としてはメディアンフィルタ処理を採用して画像品質を維持するようにしてもよい。
In the embodiment described above, the median filter is used as the defective pixel correction process of the
図17の動作フローチャートにおいては、欠陥画素補正処理(ステップS170)の後に焦点検出画素位置における仮想的な撮像画素の画素信号を補間する処理(ステップS180)を行っているが、画素補間処理(ステップS180)の後に仮想的な撮像画素の画素信号を用いて再度欠陥画素補正処理をすることにより、さらに欠陥画素補正処理性能を向上させることができる。 In the operation flowchart of FIG. 17, after the defective pixel correction process (step S170), a process (step S180) of interpolating the pixel signal of the virtual imaging pixel at the focus detection pixel position is performed. By performing the defective pixel correction process again using the pixel signal of the virtual imaging pixel after S180), the defective pixel correction processing performance can be further improved.
図17のステップS130で用いられる一般的な像ズレ検出演算処理(相関演算処理)として数式1を用いた演算を示したが、その他の演算を用いることもできる。例えば焦点検出画素列から読み出された一対のデータ列(A11〜A1M、A21〜A2M:Mはデータ数)に対し相関演算式(8)を用い、相関量C(k)を演算する。
C(k)=−Σ{(A1n−A1av)×(A2n+k−A2av))/(A1dev×A2dev)} (8)
Although the
C (k) = − Σ {(A1 n −A1 av ) × (A2 n + k −A2 av )) / (A1 dev × A2 dev )} (8)
Σ演算はnについて累積される。A1avおよびA1devは、nが累積される区間におけるA1nの平均値および標準偏差である。A2avおよびA2devは、nが累積される区間におけるA2n+kの平均値および標準偏差である。 The Σ operation is accumulated for n. A1 av and A1 dev are the average value and standard deviation of A1 n in the interval where n is accumulated. A2 av and A2 dev are the average value and standard deviation of A2 n + k in the interval where n is accumulated.
像ずらし量kは整数であり、データ列のデータ間隔を単位とした相対的ずらし量である。 The image shift amount k is an integer and is a relative shift amount with the data interval of the data string as a unit.
式(8)の演算結果は、一対のデータの相関が高いずらし量において相関量C(k)が極小となるので、式(2)〜(5)による3点内挿の手法を用いて連続的な相関量に対する極小値C(ks)を与えるずらし量ksを求めることができる。 The calculation result of Expression (8) is continuous using the three-point interpolation method according to Expressions (2) to (5) because the correlation amount C (k) is minimized when the shift amount of the pair of data is high. The shift amount k s that gives the minimum value C (k s ) with respect to the general correlation amount can be obtained.
式(2)〜(5)の代わりに2次関数を仮定した3点内挿の手法に基づく式(9)を用いて連続的な相関量に対する極小値C(ks)を与えるずらし量ksを求めるようにしてもよい。
ks=kj+D/{C(kj+1)+C(kj−1)−2×C(kj))} (9)
A shift amount k that gives a minimum value C (k s ) with respect to a continuous correlation amount using Equation (9) based on a three-point interpolation method assuming a quadratic function instead of Equations (2) to (5) s may be obtained.
k s = k j + D / {C (k j +1) + C (k j −1) −2 × C (k j ))} (9)
−−−第2の実施の形態−−−
図3、図4に示す撮像素子212の部分拡大図では、各画素に1つの光電変換部を有する一対の焦点検出画素313,314および一対の焦点検出画素315,316を備える例を示したが、ひとつの焦点検出画素内に一対の光電変換部を備えるようにしてもよい。図29、図30は図3、図4に対応した撮像素子212の部分拡大図であり、焦点検出画素311および312は一対の光電変換部を備える。
--- Second Embodiment ---
In the partial enlarged view of the
図31(a)に示す焦点検出画素311は、図9(a)、(b)に示す焦点検出画素313と焦点検出画素314のペアに相当した機能を果たし、図31(b)に示す焦点検出画素312は、図9(c)、(d)に示す焦点検出画素315と焦点検出画素316のペアに相当した機能を果たす。焦点検出画素311、312は、図31(a)、(b)に示すように、マイクロレンズ10と一対の光電変換部13,14および一対の光電変換部15,16から構成される。焦点検出画素311、312には白色フィルタが配置されており、その分光感度特性は、光電変換を行うフォトダイオードの分光感度と、赤外カットフィルタ(不図示)の分光感度特性とを総合した分光感度特性(図8参照)となる。つまり、図7に示す緑画素、赤画素および青画素の分光感度特性を加算したような分光感度特性となり、その焦点検出画素311、312が高い分光感度を示す光波長領域は、緑画素、赤画素および青画素が高い分光感度を示す光波長領域を包括している。
The
図32は図31(a)に示した焦点検出画素311の断面図であって、光電変換部13,14の上に近接して遮光マスク30が形成され、光電変換部13,14は、遮光マスク30の開口部30dを通過した光を受光する。遮光マスク30の上には平坦化層31が形成され、その上に白色フィルタ34が形成される。白色フィルタ34の上には平坦化層32が形成され、その上にマイクロレンズ10が形成される。マイクロレンズ10により開口部30dに制限された光電変換部13,14の形状が前方に投影されて、一対の測距瞳を形成する。光電変換部13,14は半導体回路基板29上に形成される。
FIG. 32 is a cross-sectional view of the
焦点検出画素312の構造も焦点検出画素311の構造を90度回転しただけであって、基本的に図32に示す焦点検出画素311の構造と同様である。
The structure of the
上記のような構成の焦点検出画素311,312を備えた撮像素子においても、本発明を適用することが可能である。例えば、焦点検出画素311の1つが欠陥画素である場合には、欠陥焦点検出画素311の光電変換部13,14の信号は、その欠陥焦点検出画素の上下の焦点検出画素311の光電変換部13,14の信号をそれぞれ平均することにより欠陥画素補正処理される。
The present invention can also be applied to an image sensor including the
−−−第3の実施の形態−−−
図33は、交換レンズ202の撮影画面上における焦点検出位置(焦点検出エリア)を示す図であり、撮像素子212上の焦点検出画素列が焦点検出の際に撮影画面上で像をサンプリングする領域(焦点検出エリア、焦点検出位置)の一例を示す。この例では、矩形の撮影画面100上の中央および上下左右の5箇所に焦点検出エリア101〜105、ならびに撮影画面100の対角線方向に焦点検出エリア106〜109が配置される。焦点検出エリア106〜109においては、長方形で示す焦点検出エリアの長手方向に、焦点検出画素が斜め右上がり45度方向および斜め左上がり45度方向に直線的に配列される。
--- Third embodiment ---
FIG. 33 is a diagram illustrating a focus detection position (focus detection area) on the imaging screen of the
図34、図35は撮像素子212の詳細な構成を示す正面図であり、撮像素子212上の焦点検出エリア106、108および焦点検出エリア107、109の近傍を拡大して示す。撮像素子212には撮像画素310が二次元正方格子状に稠密に配列される。撮像画素310は、赤画素(R)、緑画素(G)、青画素(B)からなり、ベイヤー配列の配置規則によって配置されている。焦点検出エリア106、108に対応する位置には、撮像画素310と同一の画素サイズを有し、白色フィルタを備えた焦点検出画素323、324が、交互に本来緑画素が連続的に配置されるべき斜め右上がり45度方向の直線上に連続して配列される。これとともに、焦点検出エリア107、109に対応する位置には、撮像画素310と同一の画素サイズを有し、白色フィルタを備えた焦点検出画素325、326が、交互に本来緑画素が連続的に配置されるべき斜め左上がり45度方向の直線上に連続して配列される。焦点検出画素323、324および焦点検出画素325、326は、本来緑画素が配置される画素位置に配置される。
FIGS. 34 and 35 are front views showing the detailed configuration of the
焦点検出画素323は、図36(a)に示すように、矩形のマイクロレンズ10、遮光マスクで受光領域を正方形の半分(正方形を左上がり45度方向の対角線で2等分した場合の右上半分)に制限された光電変換部23、および白色フィルタ(不図示)から構成される。
As shown in FIG. 36A, the
また、焦点検出画素324は、図36(b)に示すように、矩形のマイクロレンズ10、遮光マスクで受光領域を正方形の半分(正方形を左上がり45度方向の対角線で2等分した場合の左下半分)に制限された光電変換部24、および白色フィルタ(不図示)から構成される。
Further, as shown in FIG. 36 (b), the
焦点検出画素323と焦点検出画素324とをマイクロレンズ10を基準に重ね合わせて表示すると、遮光マスクで受光領域を制限された光電変換部23と24とが右上がり斜め45度方向に並んでいる。
When the
また、図36(a)、(b)において、正方形を半分にした受光領域の部分に正方形を半分にした残りの部分(破線部分)を加えると、撮像画素の受光領域と同じサイズの正方形となる。 In FIGS. 36 (a) and 36 (b), when the remaining part (broken line part) obtained by halving the square is added to the light receiving area part obtained by halving the square, a square having the same size as the light receiving area of the imaging pixel is obtained. Become.
焦点検出画素325は、図36(c)に示すように、矩形のマイクロレンズ10、遮光マスクで受光領域を正方形の半分(正方形を右上がり45度方向の対角線で2等分した場合の左上半分)に制限された光電変換部25、および白色フィルタ(不図示)から構成される。
As shown in FIG. 36C, the
また、焦点検出画素326は、図36(d)に示すように矩形のマイクロレンズ10、遮光マスクで受光領域を正方形の半分(正方形を右上がり45度方向の対角線で2等分した場合の右下半分)に制限された光電変換部26、および白色フィルタ(不図示)から構成される。
Further, as shown in FIG. 36 (d), the
焦点検出画素325と焦点検出画素326とをマイクロレンズ10を基準に重ね合わせて表示すると、遮光マスクで受光領域を制限された光電変換部25と26とが左上がり斜め45度方向に並んでいる。
When the
また、図36(c)、(d)において、正方形を半分にした受光領域の部分に正方形を半分にした残りの部分(破線部分)を加えると、撮像画素の受光領域と同じサイズの正方形となる。 In addition, in FIGS. 36C and 36D, when the remaining part (broken line part) obtained by halving the square is added to the light receiving area part obtained by halving the square, a square having the same size as the light receiving area of the imaging pixel is obtained. Become.
上記のような斜め方向に配列された焦点検出画素を備えた撮像素子212においても、本発明を適用することが可能である。
The present invention can also be applied to the
図37(a)は、欠陥画素が撮像画素310(緑画素)であり、該欠陥画素の右下に隣接して焦点検出画素323、324(一対の焦点検出画素323、324をA5、A6で示す)が右上がりに配列されている場合における該欠陥画素を中心とした5×5画素の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図37(b)において、“○”で示す緑画素である。
In FIG. 37A, the defective pixel is the imaging pixel 310 (green pixel), and the
図38(a)は、欠陥画素が撮像画素310(緑画素)であり、該欠陥画素の左下に隣接して焦点検出画素325、326(一対の焦点検出画素325、326をA7、A8で示す)が左上がりに配列されている場合における該欠陥画素を中心とした5×5画素の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図38 (b)に“○”で示す緑画素である。
In FIG. 38A, the defective pixel is the imaging pixel 310 (green pixel), and the
図39(a)は、欠陥画素が撮像画素310(緑画素)であり、該欠陥画素が斜め右上がり方向に配列している焦点検出画素323、324の左下端の焦点検出画素の斜め左下にある場合における該欠陥画素を中心とした5×5画素の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図39(b)に“○”で示す緑画素である。
In FIG. 39 (a), the defective pixel is the imaging pixel 310 (green pixel), and the defective pixel is located diagonally to the lower left of the focus detection pixels at the lower left corner of the
図40(a)は、欠陥画素が焦点検出画素323(A5)であり、焦点検出画素323、324が斜め右上がり方向に配列している場合における該欠陥画素を中心とした5×5画素の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図40(b)に“○”で示す焦点検出画素323(A5)である。
In FIG. 40A, when the defective pixel is the focus detection pixel 323 (A5), and the
図41(a)は、欠陥画素が焦点検出画素325(A7)であり、焦点検出画素325、326が斜め左上がり方向に配列している場合における該欠陥画素を中心とした5×5画素の領域の領域を示している。、欠陥画素補正処理に用いられる補正用画素は、図41(b)に“○”で示す焦点検出画素325(A7)である。
In FIG. 41A, when the defective pixel is the focus detection pixel 325 (A7) and the
図42(a)は、欠陥画素が焦点検出画素323(A5)であり、斜め右上がり方向に配列している焦点検出画素323、324の左下端の焦点検出画素が欠陥画素であった場合における該欠陥画素を中心とした5×5画素の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図42(b)に“○”で示す焦点検出画素323(A5)となる。
FIG. 42A shows a case where the defective pixel is the focus detection pixel 323 (A5), and the focus detection pixels at the lower left corners of the
−−−第4の実施の形態−−−
図43は、交換レンズ202の撮影画面上における焦点検出位置(焦点検出エリア)を示す図であり、撮像素子212上の焦点検出画素列が焦点検出の際に撮影画面上で像をサンプリングする領域(焦点検出エリア、焦点検出位置)の一例を示す。この例では、矩形の撮影画面100上の中央および上下左右の5箇所に焦点検出エリア111〜115、ならびに撮影画面100の対角方向の4カ所に焦点検出エリア116〜119が配置される。焦点検出エリア111〜115においては、水平方向および垂直方向に配列した焦点検出画素配列が、互いに十字型を形成するように交差している。焦点検出エリア116〜119においては、斜め右上がり方向および斜め左上がり方向に配列した焦点検出画素配列が、X型を形成するように交差している。
--- Fourth embodiment ---
FIG. 43 is a diagram showing a focus detection position (focus detection area) on the imaging screen of the
図44、図45は撮像素子212の詳細な構成を示す正面図であり、撮像素子212上の焦点検出エリア111、112、113および焦点検出エリア116、118の近傍を拡大して示す。
44 and 45 are front views showing a detailed configuration of the
図44において、水平方向の焦点検出画素315、316の配列と垂直方向の焦点検出画素313、314の配列とが交差する交差位置には、水平方向の焦点検出画素315が配置される。交差位置にあるべき垂直方向の焦点検出画素314の画素信号は、該交差位置を挟む最近接の2つの垂直方向の焦点検出画素314の画素信号の平均により求められる。
In FIG. 44, horizontal
図45において、斜め右上がり方向の焦点検出画素323、324の配列と斜め左上がり方向の焦点検出画素325、326の配列とが交差する交差位置には、右上がり方向の焦点検出画素323が配置される。交差位置にあるべき斜め左上がり方向の焦点検出画素325の画素信号は、該交差位置を挟む最近接の2つの斜め左上がりの焦点検出画素325の画素信号の平均により求められる。
In FIG. 45, focus
上記のような交差した焦点検出画素配列を有する撮像素子においても、本発明を適用することが可能である。 The present invention can also be applied to an image sensor having the intersecting focus detection pixel array as described above.
図46(a)は欠陥画素が撮像画素310(緑画素)であり、該欠陥画素の左下で水平方向の焦点検出画素315、316と垂直方向の焦点検出画素313、314とが交差している場合における該欠陥画素を中心とした5×5画素の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図46(b)において、“○”で示す緑画素である。
In FIG. 46A, the defective pixel is the imaging pixel 310 (green pixel), and the horizontal
図47(a)は欠陥画素が撮像画素310(緑画素)であり、該欠陥画素の2画素下で斜め右上がり方向の焦点検出画素323、324と斜め左上がり方向の焦点検出画素325、326とが交差している場合における該欠陥画素を中心とした5×5画素の領域を示している。欠陥画素補正処理に用いられる補正用画素は、図47(b)において、“○”で示す緑画素である。
In FIG. 47A, the defective pixel is the imaging pixel 310 (green pixel), and the
−−−第5の実施の形態−−−
図3、図4に示す撮像素子212の部分拡大図では、各画素に1つの光電変換部を有する一対の焦点検出画素315,316および一対の焦点検出画素313,314を、1行または1列に交互に配列する例を示した。しかし、一対の焦点検出画素315,316および一対の焦点検出画素313,314を、2行または2列に連続して配列するようにしてもよい。図48は、撮像素子212の部分拡大図であり、焦点検出画素315が1行に連続して配置されるとともに、焦点検出画素316が隣接した1行に連続して配置される。このように焦点検出画素315、316を配列することにより、焦点検出画素315および焦点検出画素316がそれぞれ像を検出するサンプリング間隔が短くなり、焦点検出精度が向上する。
--- Fifth embodiment ---
3 and 4, the pair of
上記のような構成の焦点検出画素配列を備えた撮像素子212においても、本発明を適用することが可能である。例えば、焦点検出画素315の1つが欠陥画素である場合には、欠陥焦点検出画素315の画素信号は、その欠陥焦点検出画素の左右の焦点検出画素315の画素信号を平均することにより欠陥画素補正処理される。
The present invention can also be applied to the
−−−変形例−−−
上述した実施形態における撮像素子212では、焦点検出画素が白色フィルタを備えた例を示したが、撮像画素と同じ色フィルタ(例えば緑フィルタ)を備えるようにした場合にも本発明を適用することができる。
---- Modified example ---
In the
上述した実施形態における撮像素子では、撮像画素がベイヤー配列の色フィルタを備えた例を示した。しかし、色フィルタの構成や配列はこれに限定されることはなく、補色フィルタ(緑:G、イエロー:Ye、マゼンタ:Mg,シアン:Cy)の配列やベイヤー配列以外の配列にも本発明を適用することができる。また色フィルタを備えないモノクロの撮像素子にも適用することができる。 In the image sensor according to the above-described embodiment, an example in which the imaging pixel includes a color filter with a Bayer array is shown. However, the configuration and arrangement of the color filters are not limited to this, and the present invention can be applied to arrangements other than the arrangement of complementary color filters (green: G, yellow: Ye, magenta: Mg, cyan: Cy) and the Bayer arrangement. Can be applied. Further, the present invention can also be applied to a monochrome image sensor that does not include a color filter.
上述した実施形態においては、撮像素子212と光学系との間に光学要素を何も配置していないが、適宜必要な光学要素を挿入することが可能である。例えば、赤外カットフィルタや光学的ローパスフィルタ、ハーフミラーなどを設置してもよい。
In the above-described embodiment, no optical element is disposed between the
上述した実施形態においては、撮像素子212をCMOSイメージセンサーとしているが、CCDなどの他のタイプの撮像素子であってもよい。
In the above-described embodiment, the
なお、撮像装置としては、上述したような、カメラボディに交換レンズが装着される構成のデジタルスチルカメラやフィルムスチルカメラに限定されない。例えば、レンズ一体型のデジタルスチルカメラ、フィルムスチルカメラ、あるいはビデオカメラにも本発明を適用することができる。さらには、携帯電話などに内蔵される小型カメラモジュール、監視カメラやロボット用の視覚認識装置、車載カメラなどにも適用できる。 Note that the imaging apparatus is not limited to the digital still camera or the film still camera having the configuration in which the interchangeable lens is mounted on the camera body as described above. For example, the present invention can also be applied to a lens-integrated digital still camera, film still camera, or video camera. Furthermore, the present invention can be applied to a small camera module built in a mobile phone, a surveillance camera, a visual recognition device for a robot, an in-vehicle camera, and the like.
9、10 マイクロレンズ、
11、13、14、15、16、23、24、25、26 光電変換部、
29 半導体回路基板、
30 遮光マスク、30a、30b、30c、30d 開口部、
31、32 平坦化層、34 白色フィルタ、38 色フィルタ、
71、73、74 光束、
90 射出瞳、91 交換レンズの光軸、93、94 測距瞳、95 領域、
100 撮影画面、
101、102、103、104、105、106、107、108、109、111、112、113、114、115、116、117、118、119 焦点検出エリア、
201 デジタルスチルカメラ、202 交換レンズ、203 カメラボディ、
204 マウント部、206 レンズ駆動制御装置、
208 ズーミング用レンズ、209 レンズ、210 フォーカシング用レンズ、
211 絞り、212 撮像素子、213 電気接点、
214 ボディ駆動制御装置、
215 液晶表示素子駆動回路、216 液晶表示素子、217 接眼レンズ、
219 メモリカード、220 バッファメモリ、221 欠陥画素情報記憶メモリ、
310 撮像画素、
311、312、313、314、315、316、323、324、325、326 焦点検出画素、
320 ラインメモリ、330 出力回路、501 垂直出力線、
510 リセットMOSトランジスタ、512 行選択MOSトランジスタ
9, 10 micro lens,
11, 13, 14, 15, 16, 23, 24, 25, 26 photoelectric conversion unit,
29 Semiconductor circuit board,
30 shading mask, 30a, 30b, 30c, 30d opening,
31, 32 Flattening layer, 34 White filter, 38 color filter,
71, 73, 74 luminous flux,
90 Exit pupil, 91 Optical axis of interchangeable lens, 93, 94 Distance pupil, 95 area,
100 shooting screen,
101, 102, 103, 104, 105, 106, 107, 108, 109, 111, 112, 113, 114, 115, 116, 117, 118, 119 Focus detection area,
201 digital still camera, 202 interchangeable lens, 203 camera body,
204 mount unit, 206 lens drive control device,
208 zooming lens, 209 lens, 210 focusing lens,
211 Aperture, 212 Image sensor, 213 Electrical contact,
214 body drive control device,
215 liquid crystal display element driving circuit, 216 liquid crystal display element, 217 eyepiece,
219 memory card, 220 buffer memory, 221 defective pixel information storage memory,
310 imaging pixels,
311, 312, 313, 314, 315, 316, 323, 324, 325, 326 focus detection pixels,
320 line memory, 330 output circuit, 501 vertical output line,
510 reset MOS transistor, 512 row selection MOS transistor
Claims (5)
前記光束を受光して画素信号を出力する複数の撮像画素と、瞳分割型の複数の焦点検出画素とを二次元配列に従って配置した撮像素子と、
前記複数の撮像画素に含まれる欠陥撮像画素の画素信号を、当該欠陥撮像画素の周囲の前記複数の撮像画素の画素信号に基づき第1の欠陥画素補正処理により補正するとともに、前記複数の焦点検出画素に含まれる欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素の周囲の前記複数の焦点検出画素の画素信号に基づき第2の欠陥画素補正処理により補正する第1の欠陥画素補正処理手段と、
前記複数の撮像画素に含まれる欠陥撮像画素の画素信号を、前記第1の欠陥画素補正処理よりも精度が低い第3の欠陥画素補正処理により補正する第2の欠陥画素補正処理手段と、
前記第1の欠陥画素補正処理により補正された前記欠陥撮像画素の画素信号を含む前記複数の撮像画素の画素信号に基づいて第1の画像信号を生成し、前記第3の欠陥画素補正処理により補正された前記欠陥撮像画素の画素信号を含む前記複数の撮像画素の画素信号に基づいて第2の画像信号を生成する画像生成手段と、
撮影動作の開始前には、前記第2の欠陥画素補正処理手段に前記第3の欠陥画素補正処理による補正を行わせると共に前記画像生成手段に第2の画像信号を生成させ、撮影動作の開始後には、前記第1の欠陥画素補正処理手段に前記第1の欠陥画素補正処理による補正を行わせると共に前記画像生成手段に前記第2の画像信号を生成させる制御手段と、
前記第1の欠陥画素補正処理手段により補正された前記欠陥焦点検出画素の画素信号を含む前記複数の焦点検出画素の画素信号に基づいて、前記光学系の焦点調節状態を検出する焦点検出手段と、
前記欠陥撮像画素および前記欠陥焦点検出画素の欠陥画素位置を示す欠陥画素位置情報と、前記欠陥画素位置に配置されるのが前記欠陥撮像画素であるか前記欠陥焦点検出画素であるかに応じて前記第1の欠陥画素補正処理または前記第2の欠陥画素補正処理を指定する欠陥画素補正処理情報と、前記欠陥画素位置の周囲に配置され、前記第1の欠陥画素補正処理または前記第2の欠陥画素補正処理に用いられる複数の非欠陥撮像画素または複数の非欠陥焦点検出画素の位置を、前記欠陥画素位置を基準とした相対的な画素位置情報として指定する補正用画素位置情報と、を前記欠陥撮像画素および前記欠陥焦点検出画素毎に記憶する欠陥画素情報記憶手段と、を備え、
前記第1の欠陥画素補正処理手段は、前記欠陥撮像画素および前記欠陥焦点検出画素毎に記憶された前記欠陥画素位置情報と前記補正用画素位置情報とに基づき定められる前記複数の非欠陥撮像画素の画素信号または前記複数の非欠陥焦点検出画素の画素信号に対して前記欠陥画素補正処理情報に基づき定められる前記第1の欠陥画素補正処理または前記第2の欠陥画素補正処理を施すことを特徴とする撮像装置。 An optical system that emits a light beam that forms an image;
An imaging device in which a plurality of imaging pixels that receive the light flux and output a pixel signal and a plurality of pupil division type focus detection pixels are arranged according to a two-dimensional array;
The pixel signals of the defective imaging pixels included in the plurality of imaging pixels are corrected by a first defective pixel correction process based on the pixel signals of the plurality of imaging pixels around the defective imaging pixels, and the plurality of focus detections First defective pixel correction processing means for correcting a pixel signal of a defective focus detection pixel included in a pixel by a second defective pixel correction process based on pixel signals of the plurality of focus detection pixels around the defective focus detection pixel When,
Second defective pixel correction processing means for correcting pixel signals of defective imaging pixels included in the plurality of imaging pixels by a third defective pixel correction process having a lower accuracy than the first defective pixel correction process;
A first image signal is generated based on the pixel signals of the plurality of imaging pixels including the pixel signal of the defective imaging pixel corrected by the first defective pixel correction processing , and the third defective pixel correction processing Image generating means for generating a second image signal based on the pixel signals of the plurality of imaging pixels including the corrected pixel signal of the defective imaging pixel ;
Before the start of the photographing operation, the second defective pixel correction processing unit is caused to perform correction by the third defective pixel correction processing, and the image generation unit is caused to generate a second image signal to start the photographing operation. And a control unit that causes the first defective pixel correction processing unit to perform correction by the first defective pixel correction processing and causes the image generation unit to generate the second image signal.
Focus detection means for detecting a focus adjustment state of the optical system based on pixel signals of the plurality of focus detection pixels including pixel signals of the defective focus detection pixels corrected by the first defective pixel correction processing means; ,
According to the defective pixel position information indicating the defective pixel position of the defective imaging pixel and the defective focus detection pixel, and whether the defective imaging pixel or the defective focus detection pixel is disposed at the defective pixel position. The defective pixel correction processing information for designating the first defective pixel correction processing or the second defective pixel correction processing is arranged around the defective pixel position, and the first defective pixel correction processing or the second defective pixel correction processing is arranged. Correction pixel position information that designates the positions of a plurality of non-defective imaging pixels or a plurality of non-defective focus detection pixels used in the defective pixel correction process as relative pixel position information with reference to the defective pixel position; Comprising defective pixel information storage means for storing each of the defective imaging pixels and the defective focus detection pixels,
The first defective pixel correction processing means includes the plurality of non-defective imaging pixels determined based on the defective pixel position information and the correction pixel position information stored for each of the defective imaging pixel and the defective focus detection pixel. The first defective pixel correction processing or the second defective pixel correction processing determined based on the defective pixel correction processing information is performed on the pixel signal of the first pixel signal or the pixel signals of the plurality of non-defective focus detection pixels. An imaging device.
第1、第2及び第3の分光感度特性をそれぞれ有し、前記光束をそれぞれ受光して画素信号をそれぞれ出力する第1、第2及び第3の撮像画素が所定の配列規則に従って2次元状に配列される撮像画素と、前記光学系の一対の瞳領域を通過した一対の光束を受光し、前記一対の光束による一対の像が前記光学系の焦点調節状態に応じて相対的にずれる方向に配列されると共に前記撮像画素の一部に置換して配置される複数の焦点検出画素からなる焦点検出画素列と、を有する撮像素子と、
前記複数の撮像画素に含まれる欠陥撮像画素の画素信号を、当該欠陥撮像画素の周囲の複数の周囲画素の画素信号に基づき第1の欠陥画素補正処理により補正すると共に、前記焦点検出画素列に含まれる欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素の周囲の複数の周囲画素の画素信号に基づき第2の欠陥画素補正処理により補正する欠陥画素補正処理手段と、
前記欠陥画素補正処理手段により補正された前記欠陥撮像画素の画素信号を含む前記複数の撮像画素の画素信号に基づいて、画像信号を生成する画像生成手段と、
前記欠陥画素補正処理手段により補正された前記欠陥焦点検出画素の画素信号を含む前記焦点検出画素列の画素信号に基づいて、前記光学系の焦点調節状態を検出する焦点検出手段と、
前記欠陥撮像画素および前記欠陥焦点検出画素の欠陥画素位置を示す欠陥画素位置情報と、前記第1の欠陥画素補正処理に用いられる前記欠陥撮像画素の周囲の複数の周囲画素の位置情報として、当該欠陥撮像画素と所定の位置関係にある周囲画素の位置を当該欠陥撮像画素位置を基準として表す欠陥撮像画素補正用の画素位置情報と、前記第2の欠陥画素補正処理に用いられる前記欠陥焦点検出画素の周囲の複数の周囲画素の位置情報として、当該欠陥焦点検出画素が属する前記焦点検出画素列内の、当該欠陥焦点検出画素近傍の焦点検出画素の位置を前記欠陥焦点検出画素位置を基準として表す欠陥焦点検出画素補正用の画素位置情報と、を前記欠陥撮像画素および前記欠陥焦点検出画素毎に記憶する欠陥画素情報記憶手段と、を備え、
前記欠陥撮像画素補正用の画素位置情報は、前記所定の位置関係にある周囲画素が前記焦点検出画素を含む場合には、当該焦点検出画素の位置情報を含まず、
前記欠陥画素補正処理手段は、前記欠陥画素情報記憶手段に記憶された前記欠陥画素位置情報に対応する前記欠陥撮像画素の画素信号を、当該欠陥撮像画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥撮像画素補正用の画素位置情報に対応する前記周囲画素の画素信号に基づき前記第1の欠陥画素補正処理により補正すると共に、前記欠陥画素情報記憶手段に記憶された前記欠陥画素位置情報に対応する前記欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報に対応する前記周囲画素の画素信号に基づき前記第2の欠陥画素補正処理により補正し、
前記焦点検出画素列は、マイクロレンズと光電変換部とを有すると共に前記光電変換部が前記一対の光束の一方を受光する第1焦点検出画素と、マイクロレンズと光電変換部とを有すると共に当該光電変換部が前記一対の光束の他方を受光する第2焦点検出画素とが交互に配列されたものであり、
前記欠陥焦点検出画素が前記第1焦点検出画素である場合に、当該欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報は、前記第1焦点検出画素の位置情報であり、
前記欠陥焦点検出画素が前記第2焦点検出画素である場合に、当該欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報は、前記第2焦点検出画素の位置情報であることを特徴とする撮像装置。 An optical system that emits a light beam that forms an image;
The first, second, and third imaging pixels having first, second, and third spectral sensitivity characteristics, respectively receiving the luminous flux and outputting pixel signals, respectively, are two-dimensional according to a predetermined arrangement rule. A pair of light beams that have passed through a pair of pupil regions of the optical system, and a pair of images formed by the pair of light beams are relatively displaced depending on a focus adjustment state of the optical system. A focus detection pixel array composed of a plurality of focus detection pixels arranged in place of and part of the imaging pixels.
The pixel signals of the defective imaging pixels included in the plurality of imaging pixels are corrected by the first defective pixel correction process based on the pixel signals of the plurality of surrounding pixels around the defective imaging pixels, and the focus detection pixel array Defective pixel correction processing means for correcting pixel signals of the defective focus detection pixels included by the second defective pixel correction processing based on pixel signals of a plurality of surrounding pixels around the defective focus detection pixels;
Image generating means for generating an image signal based on pixel signals of the plurality of imaging pixels including pixel signals of the defective imaging pixels corrected by the defective pixel correction processing means;
A focus detection unit that detects a focus adjustment state of the optical system based on a pixel signal of the focus detection pixel column including a pixel signal of the defective focus detection pixel corrected by the defective pixel correction processing unit;
As defective pixel position information indicating a defective pixel position of the defective imaging pixel and the defective focus detection pixel, and positional information of a plurality of surrounding pixels around the defective imaging pixel used in the first defective pixel correction processing, Defect imaging pixel correction pixel position information that represents the positions of surrounding pixels that are in a predetermined positional relationship with the defective imaging pixel with reference to the defective imaging pixel position, and the defective focus detection used in the second defective pixel correction processing As position information of a plurality of surrounding pixels around the pixel, the position of the focus detection pixel in the vicinity of the defect focus detection pixel in the focus detection pixel column to which the defect focus detection pixel belongs is used as a reference for the position of the defect focus detection pixel. Pixel position information for defect focus detection pixel correction to represent, and defective pixel information storage means for storing for each of the defect imaging pixels and the defect focus detection pixels,
The pixel position information for correcting the defective imaging pixel does not include the position information of the focus detection pixel when the surrounding pixels in the predetermined positional relationship include the focus detection pixel.
The defective pixel correction processing unit stores a pixel signal of the defective imaging pixel corresponding to the defective pixel position information stored in the defective pixel information storage unit with respect to the defective imaging pixel in the defective pixel information storage unit. The defective pixel position corrected by the first defective pixel correction process based on the pixel signal of the surrounding pixels corresponding to the pixel position information for correcting the defective imaging pixel, and stored in the defective pixel information storage unit The pixel signal of the defective focus detection pixel corresponding to the information is stored in the pixel position information for correcting the defect focus detection pixel stored in the defective pixel information storage unit with respect to the defective focus detection pixel. Correcting by the second defective pixel correction process based on the pixel signal ;
The focus detection pixel array includes a microlens and a photoelectric conversion unit, and the photoelectric conversion unit includes a first focus detection pixel that receives one of the pair of light beams, a microlens, and a photoelectric conversion unit. The conversion unit is alternately arranged with second focus detection pixels that receive the other of the pair of light beams,
When the defect focus detection pixel is the first focus detection pixel, the defect focus detection pixel correction pixel position information stored in the defect pixel information storage unit with respect to the defect focus detection pixel is the first focus detection pixel. 1 focus detection pixel position information,
When the defect focus detection pixel is the second focus detection pixel, the defect focus detection pixel correction pixel position information stored in the defect pixel information storage unit with respect to the defect focus detection pixel is the first focus detection pixel. An imaging apparatus characterized by being position information of a bifocal detection pixel .
第1、第2及び第3の分光感度特性をそれぞれ有し、前記光束をそれぞれ受光して画素信号をそれぞれ出力する第1、第2及び第3の撮像画素が所定の配列規則に従って2次元状に配列される撮像画素と、前記光学系の一対の瞳領域を通過した一対の光束を受光し、前記一対の光束による一対の像が前記光学系の焦点調節状態に応じて相対的にずれる方向に配列されると共に前記撮像画素の一部に置換して配置される複数の焦点検出画素からなる焦点検出画素列と、を有する撮像素子と、
前記複数の撮像画素に含まれる欠陥撮像画素の画素信号を、当該欠陥撮像画素の周囲の複数の周囲画素の画素信号に基づき第1の欠陥画素補正処理により補正すると共に、前記焦点検出画素列に含まれる欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素の周囲の複数の周囲画素の画素信号に基づき第2の欠陥画素補正処理により補正する欠陥画素補正処理手段と、
前記欠陥画素補正処理手段により補正された前記欠陥撮像画素の画素信号を含む前記複数の撮像画素の画素信号に基づいて、画像信号を生成する画像生成手段と、
前記欠陥画素補正処理手段により補正された前記欠陥焦点検出画素の画素信号を含む前記焦点検出画素列の画素信号に基づいて、前記光学系の焦点調節状態を検出する焦点検出手段と、
前記欠陥撮像画素および前記欠陥焦点検出画素の欠陥画素位置を示す欠陥画素位置情報と、前記第1の欠陥画素補正処理に用いられる前記欠陥撮像画素の周囲の複数の周囲画素の位置情報として、当該欠陥撮像画素と所定の位置関係にある周囲画素の位置を当該欠陥撮像画素位置を基準として表す欠陥撮像画素補正用の画素位置情報と、前記第2の欠陥画素補正処理に用いられる前記欠陥焦点検出画素の周囲の複数の周囲画素の位置情報として、当該欠陥焦点検出画素が属する前記焦点検出画素列内の、当該欠陥焦点検出画素近傍の焦点検出画素の位置を前記欠陥焦点検出画素位置を基準として表す欠陥焦点検出画素補正用の画素位置情報と、を前記欠陥撮像画素および前記欠陥焦点検出画素毎に記憶する欠陥画素情報記憶手段と、を備え、
前記欠陥撮像画素補正用の画素位置情報は、前記所定の位置関係にある周囲画素が前記焦点検出画素を含む場合には、当該焦点検出画素の位置情報を含まず、
前記欠陥画素補正処理手段は、前記欠陥画素情報記憶手段に記憶された前記欠陥画素位置情報に対応する前記欠陥撮像画素の画素信号を、当該欠陥撮像画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥撮像画素補正用の画素位置情報に対応する前記周囲画素の画素信号に基づき前記第1の欠陥画素補正処理により補正すると共に、前記欠陥画素情報記憶手段に記憶された前記欠陥画素位置情報に対応する前記欠陥焦点検出画素の画素信号を、当該欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報に対応する前記周囲画素の画素信号に基づき前記第2の欠陥画素補正処理により補正し、
前記焦点検出画素列の焦点検出画素の各々は、マイクロレンズと前記マイクロレンズを通過した前記一対の光束をそれぞれ受光する一対の光電変換部とを有し、
前記一対の光電変換部は、前記一対の光束による一対の像が前記光学系の焦点調節状態に応じて相対的にずれる方向に配列され、
前記欠陥焦点検出画素に対して前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報は、当該欠陥焦点検出画素の両隣に位置する焦点検出画素であることを特徴とする撮像装置。 An optical system that emits a light beam that forms an image;
The first, second, and third imaging pixels having first, second, and third spectral sensitivity characteristics, respectively receiving the luminous flux and outputting pixel signals, respectively, are two-dimensional according to a predetermined arrangement rule. A pair of light beams that have passed through a pair of pupil regions of the optical system, and a pair of images formed by the pair of light beams are relatively displaced depending on a focus adjustment state of the optical system. A focus detection pixel array composed of a plurality of focus detection pixels arranged in place of and part of the imaging pixels.
The pixel signals of the defective imaging pixels included in the plurality of imaging pixels are corrected by the first defective pixel correction process based on the pixel signals of the plurality of surrounding pixels around the defective imaging pixels, and the focus detection pixel array Defective pixel correction processing means for correcting pixel signals of the defective focus detection pixels included by the second defective pixel correction processing based on pixel signals of a plurality of surrounding pixels around the defective focus detection pixels;
Image generating means for generating an image signal based on pixel signals of the plurality of imaging pixels including pixel signals of the defective imaging pixels corrected by the defective pixel correction processing means;
A focus detection unit that detects a focus adjustment state of the optical system based on a pixel signal of the focus detection pixel column including a pixel signal of the defective focus detection pixel corrected by the defective pixel correction processing unit;
As defective pixel position information indicating a defective pixel position of the defective imaging pixel and the defective focus detection pixel, and positional information of a plurality of surrounding pixels around the defective imaging pixel used in the first defective pixel correction processing, Defect imaging pixel correction pixel position information that represents the positions of surrounding pixels that are in a predetermined positional relationship with the defective imaging pixel with reference to the defective imaging pixel position, and the defective focus detection used in the second defective pixel correction processing As position information of a plurality of surrounding pixels around the pixel, the position of the focus detection pixel in the vicinity of the defect focus detection pixel in the focus detection pixel column to which the defect focus detection pixel belongs is used as a reference for the position of the defect focus detection pixel. Pixel position information for defect focus detection pixel correction to represent, and defective pixel information storage means for storing for each of the defect imaging pixels and the defect focus detection pixels,
The pixel position information for correcting the defective imaging pixel does not include the position information of the focus detection pixel when the surrounding pixels in the predetermined positional relationship include the focus detection pixel.
The defective pixel correction processing unit stores a pixel signal of the defective imaging pixel corresponding to the defective pixel position information stored in the defective pixel information storage unit with respect to the defective imaging pixel in the defective pixel information storage unit. The defective pixel position corrected by the first defective pixel correction process based on the pixel signal of the surrounding pixels corresponding to the pixel position information for correcting the defective imaging pixel, and stored in the defective pixel information storage unit The pixel signal of the defective focus detection pixel corresponding to the information is stored in the pixel position information for correcting the defect focus detection pixel stored in the defective pixel information storage unit with respect to the defective focus detection pixel. Correcting by the second defective pixel correction process based on the pixel signal ;
Each of the focus detection pixels of the focus detection pixel row includes a microlens and a pair of photoelectric conversion units that respectively receive the pair of light beams that have passed through the microlens.
The pair of photoelectric conversion units are arranged in a direction in which a pair of images by the pair of light beams are relatively shifted according to a focus adjustment state of the optical system,
The defect focal point detection pixel correction pixel position information stored in the defective pixel information storage unit with respect to the defective focal point detection pixel is a focal point detection pixel located on both sides of the defective focal point detection pixel. An imaging device.
前記第1の欠陥画素補正処理は、前記欠陥画素情報記憶手段に記憶された前記欠陥撮像画素補正用の画素位置情報に対応する前記周囲画素の画素信号に対するメディアンフィルタ処理であることを特徴とする撮像装置。 In the imaging device according to claim 2 or 3 ,
The first defective pixel correction process is a median filter process for a pixel signal of the surrounding pixels corresponding to the pixel position information for the defective imaging pixel correction stored in the defective pixel information storage unit. Imaging device.
前記第2の欠陥画素補正処理は、前記欠陥画素情報記憶手段に記憶された前記欠陥焦点検出画素補正用の画素位置情報に対応する前記周囲画素の画素信号に対する平均処理であることを特徴とする撮像装置。
In the imaging device according to claim 2 or 3 ,
The second defective pixel correction process is an average process for pixel signals of the surrounding pixels corresponding to the defective focus detection pixel correction pixel position information stored in the defective pixel information storage unit. Imaging device.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009190413A JP5625286B2 (en) | 2009-08-19 | 2009-08-19 | Imaging device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009190413A JP5625286B2 (en) | 2009-08-19 | 2009-08-19 | Imaging device |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2011044820A JP2011044820A (en) | 2011-03-03 |
JP2011044820A5 JP2011044820A5 (en) | 2012-10-25 |
JP5625286B2 true JP5625286B2 (en) | 2014-11-19 |
Family
ID=43831935
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009190413A Expired - Fee Related JP5625286B2 (en) | 2009-08-19 | 2009-08-19 | Imaging device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5625286B2 (en) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5817154B2 (en) * | 2011-03-10 | 2015-11-18 | 株式会社ニコン | Imaging device |
JP5867806B2 (en) * | 2011-09-16 | 2016-02-24 | 株式会社リコー | Imaging device and object identification device using the same |
JP5634614B2 (en) * | 2011-09-29 | 2014-12-03 | 富士フイルム株式会社 | Imaging device and imaging apparatus |
JP5943596B2 (en) * | 2011-12-19 | 2016-07-05 | キヤノン株式会社 | Imaging device |
JP6027777B2 (en) * | 2012-04-06 | 2016-11-16 | キヤノン株式会社 | Pixel information management device and imaging device using the same |
JP5968025B2 (en) * | 2012-04-11 | 2016-08-10 | キヤノン株式会社 | IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD |
CN106133575B (en) | 2014-03-25 | 2019-05-14 | 富士胶片株式会社 | Photographic device and focusing control method |
JP6602109B2 (en) * | 2015-08-28 | 2019-11-06 | キヤノン株式会社 | Control device, imaging device, control method, program, and storage medium |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3480739B2 (en) * | 1992-09-11 | 2003-12-22 | 株式会社東芝 | Solid-state imaging device |
JP3980782B2 (en) * | 1999-02-03 | 2007-09-26 | 富士フイルム株式会社 | Imaging control apparatus and imaging control method |
JP2001016504A (en) * | 1999-06-30 | 2001-01-19 | Toshiba Corp | Defective pixel correcting circuit and its correcting method |
US6724945B1 (en) * | 2000-05-24 | 2004-04-20 | Hewlett-Packard Development Company, L.P. | Correcting defect pixels in a digital image |
JP4054184B2 (en) * | 2001-10-03 | 2008-02-27 | オリンパス株式会社 | Defective pixel correction device |
JP2006217113A (en) * | 2005-02-02 | 2006-08-17 | Funai Electric Co Ltd | Electronic camera and method of inspecting electronic camera |
JP4754939B2 (en) * | 2005-11-01 | 2011-08-24 | オリンパス株式会社 | Image processing device |
JP5029274B2 (en) * | 2007-10-10 | 2012-09-19 | 株式会社ニコン | Imaging device |
JP5180795B2 (en) * | 2007-12-10 | 2013-04-10 | キヤノン株式会社 | Imaging apparatus and control method thereof |
-
2009
- 2009-08-19 JP JP2009190413A patent/JP5625286B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011044820A (en) | 2011-03-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8063978B2 (en) | Image pickup device, focus detection device, image pickup apparatus, method for manufacturing image pickup device, method for manufacturing focus detection device, and method for manufacturing image pickup apparatus | |
US8243189B2 (en) | Image sensor and imaging apparatus | |
US7863550B2 (en) | Focus detection device and focus detection method based upon center position of gravity information of a pair of light fluxes | |
JP4867552B2 (en) | Imaging device | |
JP5045350B2 (en) | Imaging device and imaging apparatus | |
JP6149369B2 (en) | Image sensor | |
JP5625286B2 (en) | Imaging device | |
JP4946313B2 (en) | Imaging device | |
JP5256711B2 (en) | Imaging device and imaging apparatus | |
JP5895355B2 (en) | Imaging device | |
JP5454223B2 (en) | camera | |
CN103444185B (en) | Color image element and imaging device | |
JP4867566B2 (en) | Imaging device, focus detection device, and imaging device | |
JP5817154B2 (en) | Imaging device | |
JP2009122524A (en) | Focus detecting device and imaging apparatus | |
JP5699480B2 (en) | Focus detection device and camera | |
JP5211590B2 (en) | Image sensor and focus detection apparatus | |
JPWO2012127701A1 (en) | Color imaging device, imaging device, and imaging program | |
JP5609098B2 (en) | Imaging device | |
JP5278123B2 (en) | Imaging device | |
JP5962830B2 (en) | Focus detection device | |
JP5804104B2 (en) | Focus adjustment device | |
JP2010091848A (en) | Focus detecting apparatus and imaging apparatus | |
JP5724208B2 (en) | Imaging device | |
JP6760424B2 (en) | Focus adjuster |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120809 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120910 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130528 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130604 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130805 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131203 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140203 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140902 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140915 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5625286 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |