KR20220053067A - 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법 - Google Patents

왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR20220053067A
KR20220053067A KR1020200136546A KR20200136546A KR20220053067A KR 20220053067 A KR20220053067 A KR 20220053067A KR 1020200136546 A KR1020200136546 A KR 1020200136546A KR 20200136546 A KR20200136546 A KR 20200136546A KR 20220053067 A KR20220053067 A KR 20220053067A
Authority
KR
South Korea
Prior art keywords
pixel
pixel data
image
sub
pixels
Prior art date
Application number
KR1020200136546A
Other languages
English (en)
Inventor
이정국
최윤석
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020200136546A priority Critical patent/KR20220053067A/ko
Priority to US17/350,003 priority patent/US11758288B2/en
Priority to CN202111209747.4A priority patent/CN114390192A/zh
Publication of KR20220053067A publication Critical patent/KR20220053067A/ko

Links

Images

Classifications

    • H04N9/04551—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00—Geometric image transformations in the plane of the image
    • G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/815—Camera processing pipelines; Components thereof for controlling the resolution by using a single image
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50—Control of the SSIS exposure
    • H04N25/57—Control of the dynamic range
    • H04N25/59—Control of the dynamic range by controlling the amount of charge storable in the pixel, e.g. modification of the charge conversion ratio of the floating node capacitance
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78—Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters
    • H04N5/2253—
    • H04N5/2254—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/3559—
    • H04N5/374—
    • H04N5/378—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10024—Color image
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70—SSIS architectures; Circuits associated therewith
    • H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Geometry (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

본 발명은 전자 장치에 관한 것으로, 좀 더 상세하게는 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 방법에 관한 것이다. 본 발명의 실시 예에 따른 전자 장치는 촬영되는 이미지를 제 1 방향으로 압축시키는 왜곡을 발생시키는 렌즈를 통해 수신된 빛에 기반하여 픽셀 데이터를 생성하는 이미지 센서 및 상기 픽셀 데이터에 대해 상기 제 1 방향으로 발생한 왜곡을 보정하기 위한 리모자이크 처리(remosaic processing)를 수행하여 리모자이크된 픽셀 데이터를 생성하는 이미지 신호 프로세서를 포함한다.

Description

왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법{DEVICE FOR IMPROVING IMAGE RESOLUTION IN CAMERA SYSTEM HAVING LENS CAUSING DISTORTION AND OPERATION METHOD THEREOF}
본 발명은 전자 장치에 관한 것으로, 좀 더 상세하게는 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법에 관한 것이다.
이미지 센서의 종류로서 CCD(Charge Coupled Device) 이미지 센서, CMOS(Complementary Metal-Oxide Semiconductor) 이미지 센서(CIS) 등이 있다. CMOS 이미지 센서는 CMOS 트랜지스터들로 구성되는 픽셀들을 포함하며, 각 픽셀에 포함된 광전 변환 소자를 이용하여 빛 에너지를 전기적 신호로 변환시킨다. CMOS 이미지 센서는 각 픽셀에서 발생된 전기적 신호를 이용하여 촬영 이미지에 관한 정보를 획득한다.
근래 시네마틱 와이드스크린(cinematic widescreen)과 같이 기존의 화각보다 넓은 화각을 갖춘 카메라를 탑재하는 스마트폰이 증가하고 있다. 이미지 센서의 종횡비(aspect ratio) 대비 넓은 가로 비율을 갖는 영상을 얻기 위해서 영상을 크롭(crop)할 수도 있다. 그러나, 이 경우 영상은 좁은 화각을 갖게 되고, 크롭하는 과정에서 버려지는 영역이 발생하기 때문에 사용자가 원하는 넓은 화각을 확보하는 데 어려움이 있다. 왜곡을 발생시키는 렌즈를 이용하면 넓은 화각을 확보할 수 있는 대신, 원하는 종횡비를 갖는 영상을 얻기 위해서 넓은 화각이 확보된 영상의 왜곡을 보정해 주는 기능이 반드시 필요하다.
본 발명의 목적은 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서, 멀티 픽셀 구조를 갖는 이미지 센서를 이용한 리모자이크 처리에 의해 이미지 해상도를 개선하는 전자 장치 및 그 동작 방법을 제공하는 데 있다.
본 발명의 실시 예에 따른 전자 장치는 촬영되는 이미지를 제 1 방향으로 압축시키는 왜곡을 발생시키는 렌즈를 통해 수신된 빛에 기반하여 픽셀 데이터를 생성하는 이미지 센서 및 상기 픽셀 데이터에 대해 상기 제 1 방향으로 발생한 왜곡을 보정하기 위한 리모자이크 처리(remosaic processing)를 수행하여 리모자이크된 픽셀 데이터를 생성하는 이미지 신호 프로세서를 포함한다.
본 발명의 실시 예에 따른 전자 장치는 촬영되는 이미지를 제 1 방향으로 압축시키는 왜곡을 발생시키는 렌즈를 통해 수신된 빛에 기반하여 픽셀 데이터를 생성하는 이미지 센서 및 상기 픽셀 데이터에 대해 상기 제 1 방향으로 발생한 왜곡을 보정하기 위한 리모자이크 처리(remosaic processing)를 수행하여 리모자이크된 픽셀 데이터를 생성하는 이미지 신호 프로세서를 포함하되, 상기 픽셀 어레이는 제 1 플로팅 확산 영역을 공유하는 제 1 복수의 서브 픽셀들을 포함하고, 제 1 컬러 필터를 가지는 제 1 단위 픽셀, 제 2 플로팅 확산 영역을 공유하는 제 2 복수의 서브 픽셀들을 포함하고, 제 2 컬러 필터를 가지는 제 2 단위 픽셀, 및 제 3 플로팅 확산 영역을 공유하는 제 3 복수의 서브 픽셀들을 포함하고, 제 3 컬러 필터를 가지는 제 3 단위 픽셀을 포함한다.
본 발명의 실시 예에 따른 제 1 복수의 서브 픽셀들을 포함하고, 제 1 컬러 필터를 가지는 제 1 단위 픽셀, 제 2 복수의 서브 픽셀들을 포함하고, 제 2 컬러 필터를 가지는 제 2 단위 픽셀, 제 3 복수의 서브 픽셀들을 포함하고, 제 3 컬러 필터를 가지는 제 3 단위 픽셀을 포함하는 이미지 센서로부터 출력되는 신호들을 처리하는 방법은 촬영되는 이미지를 제 1 방향으로 압축시키는 왜곡을 발생시키는 렌즈를 통해 수신된 빛에 기반하여, 상기 서브 픽셀들에 의해 픽셀 값들을 생성하는 단계, 상기 픽셀 값들에 대해 상관 이중 샘플링을 수행하여 픽셀 데이터를 생성하는 단계, 및 상기 픽셀 데이터에 대해 상기 제 1 방향으로 발생한 왜곡을 보정하기 위한 리모자이크 처리(remosaic processing)를 수행하여 리모자이크된 픽셀 데이터를 생성하는 단계를 포함한다.
본 발명의 실시 예에 따르면, 리모자이크 처리에 의해 왜곡이 발생한 이미지의 왜곡을 보정하여 해상도를 개선할 수 있다. 특히, 멀티 픽셀 구조를 갖는 이미지 센서를 이용함으로써 뛰어난 이미지 해상도 개선 성능을 가질 수 있다.
도 1은 본 발명의 실시 예에 따른 이미지 처리 블록의 예시적인 구성을 나타내는 블록도이다.
도 2는 도 1의 픽셀 어레이의 예시적인 구성을 나타낸다.
도 3는 도 2의 픽셀 어레이를 가지는 이미지 센서에서 출력하는 픽셀 데이터에 대한 리모자이크 처리를 예시적으로 나타낸다.
도 4는 도 3의 리모자이크 처리 과정을 예시적으로 나타낸다.
도 5는 도 1의 픽셀 어레이의 다른 예시적인 구성을 나타낸다.
도 6은 도 5의 단위 픽셀들 중 어느 하나의 예시적인 회로도를 나타낸다.
도 7은 도 5의 픽셀 어레이를 가지는 이미지 센서에서 출력하는 제 1 픽셀 데이터에 대한 디지털 비닝 및 제 2 픽셀 데이터에 대한 리모자이크 처리를 예시적으로 나타낸다.
도 8은 도 7의 디지털 비닝 및 리모자이크 처리 과정을 예시적으로 나타낸다.
도 9는 본 발명의 실시 예에 따른 리모자이크 처리에 의해 이미지 해상도가 개선되는 과정을 개념적으로 나타낸다.
도 10은 본 발명의 실시 예에 따른 이미지 해상도를 개선하는 장치의 동작 방법을 나타내는 예시적인 흐름도이다.
도 11은 본 발명의 다른 실시 예에 따른 이미지 처리 블록과 애플리케이션 프로세서의 예시적인 구성을 나타내는 블록도이다.
도 12는 본 발명의 실시 예에 따른 이미지 해상도 개선 방법이 채택된 멀티 카메라 모듈을 포함하는 전자 장치의 예시적인 구성을 나타내는 블록도이다.
도 13은 도 10의 카메라 모듈의 예시적인 구성을 나타내는 블록도이다.
이하에서, 본 발명의 기술 분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있을 정도로, 본 발명의 실시 예들이 명확하고 상세하게 기재될 것이다.
상세한 설명에서 사용되는 부 또는 유닛(unit), 모듈(module), 블록(block), ~기(~or, ~er) 등의 용어들을 참조하여 설명되는 구성 요소들 및 도면에 도시된 기능 블록들은 소프트웨어, 또는 하드웨어, 또는 그것들의 조합의 형태로 구현될 수 있다. 예시적으로, 소프트웨어는 기계 코드, 펌웨어, 임베디드 코드, 및 애플리케이션 소프트웨어일 수 있다. 예를 들어, 하드웨어는 전기 회로, 전자 회로, 프로세서, 컴퓨터, 집적 회로, 집적 회로 코어들, 압력 센서, 관성 센서, 멤즈(microelectromechanical system; MEMS), 수동 소자, 또는 그것들의 조합을 포함할 수 있다.
도 1은 본 발명의 실시 예에 따른 이미지 처리 블록(100)의 예시적인 구성을 나타내는 블록도이다. 이미지 처리 블록(100)은 스마트폰, 디지털 카메라, 랩톱, 데스크톱과 같은 다양한 전자 장치의 일부로서 구현될 수 있다. 이미지 처리 블록(100)은 렌즈(110), 이미지 센서(120), 및 이미지 신호 프로세서(130)를 포함할 수 있다.
빛은 촬영의 대상이 되는 객체(10)에 의해 반사될 수 있고, 렌즈(110)는 반사된 빛을 수신할 수 있다. 특히, 본 개시의 실시 예에서 이용되는 렌즈(110)는 넓은 화각(field of view)을 확보할 수 있으나, 화각이 넓어진 방향으로 압축되는 왜곡(distortion)을 발생시킬 수 있다. 예를 들어, 렌즈(110)는 특정 방향으로 넓은 화각을 확보할 수 있으나, 특정 방향(즉, 화각이 넓어진 방향)으로 압축되는 왜곡을 발생시키는 아나모픽(anamorphic) 렌즈일 수 있다. 이하 본 개시에서 렌즈(110)에 의해 왜곡이 발생한 방향은 렌즈(110)에 의해 화각이 넓어진 방향과 동일한 것으로 한다.
이미지 센서(120)는 렌즈(110)를 통해 수신되는 빛에 기반하여 전기 신호를 생성할 수 있다. 예를 들어, 이미지 센서(120)는 CMOS(Complementary Metal Oxide Semiconductor) 이미지 센서 등으로 구현될 수 있다. 예를 들어, 이미지 센서(120)는 듀얼 픽셀(dual pixel) 구조 또는 테트라셀(tetracell) 구조를 갖는 멀티 픽셀(multi pixel) 이미지 센서일 수 있다.
이미지 신호 프로세서(130)는 이미지 센서(120)에 의해 생성된 전기 신호를 적절히 처리하여, 촬영된 객체(10)와 관련된 이미지 데이터를 생성할 수 있다. 이하의 설명에서 객체(10)는 이미지 센서(120)의 촬영 대상뿐만 아니라 배경, 풍경 등을 모두 포함할 수 있다.
이미지 센서(120)는 픽셀 어레이(121)를 포함할 수 있다. 픽셀 어레이(121)의 픽셀들은 빛을 전기 신호로 변환하여 픽셀 값들을 생성할 수 있다. 이미지 센서(120)는 픽셀 값들에 대해 상관 이중 샘플링(CDS)을 수행하여 픽셀 데이터(PDAT)를 생성할 수 있다. 특히, 본 개시의 렌즈(110)가 왜곡을 발생시킬 수 있기 때문에, 픽셀 데이터(PDAT)는 왜곡이 발생한 이미지를 나타낼 수 있다. 예를 들어, 렌즈(110)가 화각이 넓어진 방향의 왜곡을 발생시키는 아나모픽 렌즈인 경우, 픽셀 데이터(PDAT)는 화각이 넓어진 방향의 왜곡이 발생한 이미지를 나타낼 수 있다. 본 개시에서 '왜곡이 발생한 이미지 또는 데이터'는 '왜곡을 발생시키는 렌즈를 통해 수신되는 빛에 기반하여 생성된 이미지 또는 데이터'를 의미한다.
이미지 신호 프로세서(130)는 리모자이크 프로세서(131)를 포함할 수 있다. 리모자이크 프로세서(131)는 픽셀 데이터(PDAT)에 대해 왜곡이 발생한 방향으로 왜곡 보정을 수행하여 리모자이크된 픽셀 데이터(RDAT)를 생성할 수 있다. 예를 들어, 리모자이크 프로세서(131)는 픽셀 데이터(PDAT)에 대해 왜곡이 발생한 방향으로 리모자이크 처리(remosaic processing)를 수행할 수 있다.
예를 들어, 리모자이크 프로세서(131)는 화각이 넓어진 방향의 왜곡이 발생한 이미지를 나타내는 픽셀 데이터(PDAT)에 대해, 왜곡이 발생한 방향으로 리모자이크 처리를 수행하여 리모자이크된 픽셀 데이터(RDAT)를 생성할 수 있다. 이 경우, 리모자이크된 픽셀 데이터(RDAT)는 렌즈(110)에 의한 왜곡이 보정되어, 왜곡이 발생한 방향의 해상도가 개선된 이미지를 나타낼 수 있다.
예를 들어, 리모자이크 처리는 왜곡이 발생한 방향으로 픽셀 데이터(PDAT)의 크기를 늘리고(즉, 업스케일링(upscaling)하고), 픽셀 데이터(PDAT)의 값에 기반하여 보간(interpolation)하는 과정을 포함할 수 있다. 반면, 리모자이크 프로세서(131)는 왜곡이 발생하지 않은 방향(즉, 화각이 넓어지지 않은 방향)으로 리모자이크 처리를 수행하지 않을 수 있다.
이미지 신호 프로세서(130)는 리모자이크된 픽셀 데이터(RDAT)에 기반하여 객체(10)와 관련된 이미지 데이터(IDAT)를 생성할 수 있다. 이를 위해, 이미지 신호 프로세서(130)는 리모자이크된 픽셀 데이터(RDAT)에 대하여 색 보정(color correction), 자동 백색 보정(auto white balance), 감마 보정(gamma correction), 색 포화 보정(color saturation correction), 불량 픽셀 보정(bad pixel correction), 색도 보정(hue correction)과 같은 다양한 처리를 수행할 수 있다.
도 1은 하나의 렌즈(110), 및 하나의 이미지 센서(120)를 나타낸다. 그러나, 다른 실시 예에서, 이미지 처리 블록(100)은 복수의 렌즈들 및 복수의 이미지 센서들을 포함할 수 있다. 이 경우, 복수의 렌즈들은 서로 다른 화각을 가질 수 있고, 서로 다른 왜곡을 발생시킬 수 있다. 복수의 이미지 센서들은 상이한 기능들, 상이한 성능들, 및/또는 상이한 특성들을 가질 수 있고, 상이한 구성의 픽셀 어레이를 포함할 수 있다. 나아가, 도시의 간략화를 위해 도시되지 않았으나 이미지 센서(120)는 상관 이중 샘플링(CDS)을 수행하기 위한 아날로그 디지털 변환기(ADC), 카운터, 버퍼 등을 더 포함할 수 있다.
또한, 도 1은 리모자이크 프로세서(131)가 이미지 처리 블록(100)의 내부에 하드웨어로서 구현된 경우를 나타낸다. 그러나 본 발명은 이에 한정되지 않으며, 다른 실시 예에서 도 1의 리모자이크 프로세서(131)는 이미지 처리 블록(100) 외부의 메인 프로세서(예를 들어, 애플리케이션 프로세서) 상에 소프트웨어로서 구현될 수 있다. 리모자이크 프로세서(131)가 애플리케이션 프로세서 상에 소프트웨어로서 구현된 경우의 실시 예는 도 11을 통해 설명된다.
도 2는 도 1의 픽셀 어레이(121)의 예시적인 구성을 나타낸다. 픽셀 어레이(200)는 M개의 열들과 N개의 행들(M, N은 정수)을 따라 매트릭스 형태로 배치된 복수의 단위 픽셀들(예를 들어, 201 내지 204)을 포함할 수 있다.
복수의 단위 픽셀들의 각각은 컬러 필터를 포함할 수 있다. 예를 들어, 복수의 단위 픽셀들의 각각은 붉은 스펙트럼 영역의 빛을 투과시키는 레드 필터, 녹색 스펙트럼 영역의 빛을 투과시키는 그린 필터, 또는 파란 스펙트럼 영역의 빛을 투과시키는 블루 필터를 포함할 수 있다. 도 2에서 단위 픽셀(201) 및 단위 픽셀(204)은 그린 필터, 단위 픽셀(202)은 레드 필터, 그리고 단위 픽셀(203)은 블루 필터를 포함한다. 이하의 설명에서 그린 필터를 포함하는 픽셀은 Gr 픽셀 또는 Gb 픽셀, 레드 필터를 포함하는 픽셀은 R 픽셀, 그리고 블루 필터를 포함하는 픽셀은 B 픽셀로 표현된다.
픽셀 어레이(200)의 복수의 단위 픽셀들은 베이어 패턴(Bayer pattern)으로 배치될 수 있다. 예를 들어, 픽셀 어레이(200)의 홀수 번째 행(예를 들어, 제 1 행, 제 3 행)에는 Gr 픽셀과 R 픽셀이 번갈아 배치될 수 있다. 예를 들어, 픽셀 어레이(200)의 짝수 번째 행(예를 들어, 제 2 행, 제 4 행)에는 B 픽셀과 Gb 픽셀이 번갈아 배치될 수 있다.
픽셀 어레이(200)의 복수의 단위 픽셀들(예를 들어, 201 내지 204)의 각각은 2개의 서브 픽셀들(예를 들어, 201a 내지 204b)을 포함할 수 있다. 하나의 단위 픽셀(예를 들어, 201)을 구성하는 2개의 서브 픽셀들(예를 들어, 201a, 201b)은 하나의 마이크로렌즈를 공유할 수 있고, 동일한 컬러 필터를 가질 수 있다. 즉, 픽셀 어레이(200)는 듀얼 픽셀 구조를 가질 수 있다. 서브 픽셀들 각각은 광전 변환 소자(예를 들어, 포토다이오드)를 포함할 수 있다. 본 개시의 도면에서 복수의 단위 픽셀들은 굵은 실선으로 구분되고, 복수의 서브 픽셀들은 얇은 실선으로 구분된다.
하나의 단위 픽셀(예를 들어, 201)을 구성하는 2개의 서브 픽셀들(예를 들어, 201a, 201b)은 하나의 플로팅 확산 영역(floating diffusion region)을 공유하거나, 각각이 플로팅 확산 영역을 가질 수 있다. 서브 픽셀들 각각은 아날로그 신호를 출력할 수 있고, 출력된 각 아날로그 신호는 아날로그 디지털 컨버터(도시되지 않음)에서 디지털 신호로 변환될 수 있다. 픽셀 데이터(PDAT)는 서브 픽셀들 각각에서 출력한 신호들의 집합일 수 있다.
픽셀 어레이(200)의 단위 픽셀들이 M개의 혈들과 N개의 행들을 따라 매트릭스 형태로 배치된 경우 픽셀 데이터(PDAT)의 크기는 M×N으로 나타낼 수 있다. 이하의 설명에서 이미지 데이터의 크기가 M×N으로 표현되는 경우, 그 이미지 데이터가 M개의 열들과 N개의 행들을 따라 매트릭스 형태로 배치된 단위 픽셀들에 의해 표현되는 이미지임을 나타낸다.
도 2는 서브 픽셀들 각각이 점유하는 공간의 크기가 같은 경우(예를 들어, 서브 픽셀(201a)이 점유하는 공간의 크기와 서브 픽셀(201b)이 점유하는 공간의 크기가 같음)를 나타낸다. 그러나, 본 발명은 이에 한정되지 않으며, 다른 실시 예에서 서브 픽셀들 각각은 서로 다른 크기의 공간을 점유(예를 들어, 서브 픽셀(201a)이 서브 픽셀(201b)보다 더 넓은 공간을 점유)할 수 있다.
도 3은 도 2의 픽셀 어레이(200)를 가지는 이미지 센서(120)에서 출력하는 픽셀 데이터(PDATa)에 대한 리모자이크 처리를 예시적으로 나타낸다. 도 3에서 픽셀 데이터(PDATa)의 크기는 4×4, 리모자이크된 픽셀 데이터(RDATa)의 크기는 8×4로 예시적으로 나타나 있으나, 본 발명은 이에 한정되지 않는다. 이하 도 3과 함께, 도 1 내지 도 2를 참조하여 설명한다.
픽셀 어레이(200)의 각 단위 픽셀은 2개의 서브 픽셀들을 포함하므로, 픽셀 어레이(200)의 각 단위 픽셀로부터 출력된 이미지 데이터는 각 단위 픽셀을 구성하는 2개의 서브 픽셀들로부터 출력된 픽셀 값들을 포함할 수 있다. 따라서, 픽셀 데이터(PDATa)는 픽셀 어레이(200)를 구성하는 각 서브 픽셀들로부터 출력된 픽셀 값들을 포함할 수 있다.
리모자이크된 픽셀 데이터(PDATa)는 리모자이크 프로세서(131)가 픽셀 데이터(PDATa)에 대해 왜곡이 발생한 방향(즉, 화각이 넓어진 방향)으로 리모자이크 처리를 수행함으로써 생성될 수 있다. 다시 말해, 리모자이크된 픽셀 데이터(RDATa)가 나타내는 이미지는, 픽셀 데이터(PDATa)가 나타내는 이미지에 비해 왜곡이 발생한 방향으로 데이터 크기가 늘어난(즉, 왜곡이 발생한 방향으로 업스케일링된) 이미지일 수 있다.
리모자이크된 픽셀 데이터(RDATa)의 픽셀 값들은 픽셀 데이터(PDATa)의 픽셀 값들(즉, 픽셀 어레이(200)를 구성하는 각 서브 픽셀들로부터 출력된 픽셀 값들)에 기반하여 결정될 수 있다. 예를 들어, 리모자이크된 픽셀 데이터(RDATa)의 제 1 행(220)은 픽셀 데이터(PDATa)의 제 1 행(210)의 픽셀 값들에 기반한 보간을 수행함으로써 결정될 수 있다. 상술한 리모자이크 처리를 수행함으로써, 리모자이크된 픽셀 데이터(RDATa)는 렌즈(110)에 의한 왜곡이 보정되어 왜곡이 발생한 방향의 해상도가 개선된 이미지를 나타낼 수 있다.
도 4는 도 3의 리모자이크 처리 과정을 예시적으로 나타낸다. 좀 더 상세하게는, 도 4는 도 3의 픽셀 데이터(PDATa)의 제 1 행(210)에 대한 리모자이크 처리를 통해 도 3의 리모자이크된 픽셀 데이터(RDATa)의 제 1 행(220)이 생성되는 과정을 예시적으로 나타낸다. 이하 도 4와 함께, 도 1 내지 도 2를 참조하여 설명한다.
픽셀 데이터(PDATa)의 제 1 행(210)은 4개의 단위 픽셀들(즉, 8개의 서브 픽셀들)로부터 출력된 8개의 픽셀 값들(Gr1 내지 R4)을 포함할 수 있다. 리모자이크된 픽셀 데이터(RDATa)의 제 1 행(220)은 8개의 픽셀 값들(Gr1R 내지 R4R)을 포함할 수 있다. 리모자이크 프로세서(131)는 픽셀 데이터(PDATa)의 제 1 행(210)의 픽셀 값들에 기반하여 리모자이크된 픽셀 데이터(RDATa)의 제 1 행(220)의 픽셀 값들을 결정할 수 있다. 예를 들어, 리모자이크 프로세서(131)는 픽셀 데이터(PDATa)의 제 1 행(210)의 픽셀 값들(Gr1 내지 R4)에 기반하여 보간을 수행함으로써 리모자이크된 픽셀 데이터(RDATa)의 제 1 행(220)의 픽셀 값들(Gr1R 내지 R4R)을 결정할 수 있다.
리모자이크된 픽셀 데이터(RDATa)의 Gr 픽셀 값들, Gb 픽셀 값들, R 픽셀 값들, 및 B 픽셀 값들은 각각 픽셀 데이터(PDATa)의 Gr 픽셀 값들, Gb 픽셀 값들, R 픽셀 값들, 및 B 픽셀 값들에 기반하여 결정될 수 있다. 예를 들어, 리모자이크된 픽셀 데이터(RDATa)의 픽셀 값 Gr1R은 픽셀 데이터(PDATa)의 픽셀 값 Gr1과 같을 수 있다. 마찬가지로, 리모자이크된 픽셀 데이터(RDATa)의 픽셀 값 R2R, 픽셀 값 Gr3R, 그리고 픽셀 값 R4R은 픽셀 데이터(PDATa)의 픽셀 값 R2, 픽셀 값 Gr3, 그리고 픽셀 값 R4와 같을 수 있다.
예를 들어, 리모자이크된 픽셀 데이터(RDATa)의 픽셀 값 Gr2R은 아래의 수학식 1과 같이 픽셀 데이터(PDATa)의 픽셀 값 Gr2 및 픽셀 값 Gr3에 의해 결정될 수 있다.
Figure pat00001
픽셀 값 R1R, 픽셀 값 R3R, 및 픽셀 값 Gr4R 또한 상술한 픽셀 값 Gr2R을 결정하는 방법과 유사하게 픽셀 데이터(PDATa)의 픽셀 값들에 기반하여 결정될 수 있다. 그러나, 본 발명은 이에 한정되지 않으며, 리모자이크된 픽셀 데이터(RDATa)의 픽셀 값들은 상술한 예시적인 방법과 다른 방법에 의해 결정될 수도 있다.
도 5는 도 1의 픽셀 어레이(121)의 다른 예시적인 구성을 나타낸다. 픽셀 어레이(300)는 M개의 열들과 N개의 행들(M, N은 정수)을 따라 매트릭스 형태로 배치된 복수의 단위 픽셀들(예를 들어, 301 내지 304)을 포함할 수 있다.
복수의 단위 픽셀들의 각각은 컬러 필터를 포함할 수 있다. 도 5에서 단위 픽셀(301) 및 단위 픽셀(304)은 그린 필터, 단위 픽셀(302)은 레드 필터, 그리고 단위 픽셀(303)은 블루 필터를 포함한다. 픽셀 어레이(300)의 복수의 단위 픽셀들은 베이어 패턴으로 배치될 수 있다.
픽셀 어레이(300)의 복수의 단위 픽셀들(예를 들어, 301 내지 304)의 각각은 4개의 서브 픽셀들(예를 들어, 301a 내지 304d)을 포함할 수 있다. 하나의 단위 픽셀(예를 들어, 301)을 구성하는 4개의 서브 픽셀들(예를 들어, 301a 내지 301d)은 동일한 컬러 필터를 가질 수 있다. 즉, 픽셀 어레이(300)는 테트라셀 구조를 가질 수 있다. 서브 픽셀들 각각은 광전 변환 소자(예를 들어, 포토다이오드)를 포함할 수 있다. 또한, 서브 픽셀들 각각은 마이크로렌즈를 가질 수 있다. 하나의 단위 픽셀(예를 들어, 301)을 구성하는 4개의 서브 픽셀들(예를 들어, 301a내지 301d)은 하나의 플로팅 확산 영역을 공유할 수 있다.
서브 픽셀들 각각은 아날로그 신호를 출력할 수 있고, 출력된 각 아날로그 신호는 아날로그 디지털 컨버터(도시되지 않음)에서 디지털 신호로 변환될 수 있다. 픽셀 데이터(PDAT)는 서브 픽셀들 각각에서 출력한 신호들의 집합일 수 있다.
도 6은 도 5의 단위 픽셀들 중 어느 하나의 예시적인 회로도를 나타낸다. 예를 들어, 단위 픽셀(301)은 광전 변환 소자들(PD1 내지 PD4), 전송 트랜지스터들(Tx1 내지 Tx4), 리셋 트랜지스터(RST), 듀얼 컨버전 트랜지스터(DC), 구동 트랜지스터(Dx), 및 선택 트랜지스터(SEL)를 포함할 수 있다. 단위 픽셀(301)은 서브 픽셀들(301a 내지 301d)을 포함할 수 있다.
제 1 서브 픽셀(301a)은 제 1 광전 변환 소자(PD1) 및 제 1 전송 트랜지스터(Tx1)를 포함할 수 있고, 다른 서브 픽셀들(301b, 301c, 301d)도 유사한 구성 요소들을 각각 포함할 수 있다. 서브 픽셀들(301a 내지 301d) 각각은 리셋 트랜지스터(RST), 듀얼 컨버전 트랜지스터(DC), 구동 트랜지스터(Dx), 및 선택 트랜지스터(SEL)를 공유할 수 있다. 또한, 서브 픽셀들(301a 내지 301d) 각각은 도 5를 통해 설명한 바와 같이 플로팅 확산 영역(FD)을 공유할 수 있다.
듀얼 컨버전 트랜지스터(DC)는 듀얼 컨버전 신호(VDC)에 의해 구동될 수 있다. 듀얼 컨버전 트랜지스터(DC)가 턴-오프되는 경우 플로팅 확산 영역(FD)은 제 1 플로팅 확산 커패시터(CFD1)에 연결될 수 있으며, 플로팅 확산 영역(FD)의 정전 용량은 제 1 플로팅 확산 커패시터(CFD1)의 정전 용량에 대응할 수 있다.
듀얼 컨버전 트랜지스터(DC)가 턴-온되는 경우 플로팅 확산 영역(FD)은 제 1 플로팅 확산 커패시터(CFD1)뿐만 아니라 제 2 플로팅 확산 커패시터(CFD2)에도 연결될 수 있다. 확장된 플로팅 확산 영역(FD`)은 듀얼 컨버전 트랜지스터(DC)가 턴-온되었을 때의 플로팅 확산 영역을 나타낸다. 제 2 플로팅 확산 커패시터(CFD2)는 포화를 방지하기 위해 제공될 수 있다. 예를 들어, 플로팅 확산 커패시터들(CFD1, CFD2)은 기생 커패시터 및/또는 커패시터 소자일 수 있다.
전송 트랜지스터들(Tx1 내지 Tx4)은 각각 전송 신호들(VT1 내지 VT4)에 의해 구동될 수 있고, 광전 변환 소자들(PD1 내지 PD4)에 의해 생성된 전하들을 플로팅 확산 영역(FD) 또는 확장된 플로팅 확산 영역(FD`)으로 전송할 수 있다. 예를 들어, 전송 트랜지스터들(Tx1 내지 Tx4)의 한쪽 단들은 광전 변환 소자들(PD1 내지 PD4)에 각각 연결될 수 있고, 다른 한쪽 단들은 플로팅 확산 영역(FD)에 연결될 수 있다.
플로팅 확산 영역(FD) 또는 확장된 플로팅 확산 영역(FD`)은 입사한 빛의 양에 대응하는 전하들을 축적할 수 있다. 전송 신호들(VT1 내지 VT4)에 의해 전송 트랜지스터들(Tx1 내지 Tx4)이 각각 턴-온되는 동안, 플로팅 확산 영역(FD) 또는 확장된 플로팅 확산 영역(FD`)은 광전 변환 소자들(PD1 내지 PD4)로부터 전하들을 제공 받아 축적할 수 있다. 플로팅 확산 영역(FD)은 소스 팔로워 증폭기로서 구동되는 구동 트랜지스터(Dx)의 게이트 단과 연결될 수 있으므로, 플로팅 확산 영역(FD)에 축적된 전하들에 대응하는 전압이 형성될 수 있다.
리셋 트랜지스터(RST)는 리셋 신호(VRST)에 의해 구동될 수 있고, 플로팅 확산 영역(FD) 또는 확장된 플로팅 확산 영역(FD`)에 전원 전압(VDD)을 제공할 수 있다. 이로써, 플로팅 확산 영역(FD) 또는 확장된 플로팅 확산 영역(FD`)에 축적된 전하들은 전원 전압(VDD) 단으로 이동할 수 있고, 플로팅 확산 영역(FD) 또는 확장된 플로팅 확산 영역(FD`)의 전압은 리셋될 수 있다.
구동 트랜지스터(Dx)는 플로팅 확산 영역(FD) 또는 확장된 플로팅 확산 영역(FD`)의 전압을 증폭하여 픽셀 신호(PIX)를 생성할 수 있다. 선택 트랜지스터(SEL)는 선택 신호(VSEL)에 의해 구동될 수 있고, 행 단위로 읽어낼 픽셀을 선택할 수 있다. 선택 트랜지스터(SEL)가 턴-온되는 경우, 픽셀 신호(PIX)는 컬럼 라인(CL)을 통해 출력될 수 있다.
도 7은 도 5의 픽셀 어레이(300)를 가지는 이미지 센서(120)에서 출력하는 제 1 픽셀 데이터(PDATb_1)에 대한 디지털 비닝 및 제 2 픽셀 데이터(PDATb_2)에 대한 리모자이크 처리를 예시적으로 나타낸다. 도 5에서 제 1 픽셀 데이터(PDATb_1), 및 제 2 픽셀 데이터(PDATb_2)의 크기는 4×4, 리모자이크된 픽셀 데이터(RDATb)의 크기는 8×4로 예시적으로 나타나 있으나, 본 발명은 이에 한정되지 않는다. 이하 도 7과 함께, 도 1 및 도 5를 참조하여 설명한다.
픽셀 어레이(300)의 각 픽셀은 4개의 서브 픽셀들을 포함하므로, 픽셀 어레이(300)의 각 픽셀로부터 출력된 이미지 데이터는 각 픽셀을 구성하는 4개의 서브 픽셀들로부터 출력된 픽셀 값들을 포함할 수 있다. 따라서, 제 1 픽셀 데이터(PDATb_1)는 픽셀 어레이(300)를 구성하는 각 서브 픽셀들로부터 출력된 픽셀 값들을 포함할 수 있다.
제 2 픽셀 데이터(PDATb_2)는 제 1 픽셀 데이터(PDATb_1)의 픽셀 값들에 대해 왜곡이 발생하지 않은 방향(즉, 열 방향)으로 디지털 비닝(digital binning)을 수행한 결과로서 생성될 수 있다. 예를 들어, 이미지 신호 프로세서(130)는 제 1 픽셀 데이터(PDATb_1)의 픽셀 값들에 대해 왜곡이 발생하지 않은 방향으로 디지털 비닝을 수행하여 제 2 픽셀 데이터(PDATb_2)를 생성할 수 있다. 예를 들어, 제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)의 픽셀 값들은 제 1 픽셀 데이터(PDATb_1)의 제 1 행(310)의 픽셀 값들에 대해 왜곡이 발생하지 않은 방향으로 디지털 비닝을 수행함으로써 결정될 수 있다.
다른 실시 예에서, 이미지 센서(120)는 아날로그 비닝(analog binning)을 수행할 수도 있다. 이하 도 6을 참조하여 픽셀 어레이(300)를 구성하는 단위 픽셀들 중 어느 하나(예를 들어, 301)에 대해 아날로그 비닝이 수행되는 경우를 예시적으로 설명한다.
제 1 전송 트랜지스터(Tx1) 및 제 3 전송 트랜지스터(Tx3)가 동시에 턴-온될 수 있고, 단위 픽셀은 제 1 광전 변환 소자(PD1) 및 제 3 광전 변환 소자(PD3)로부터 전송된 전하들의 합에 대응하는 제 1 픽셀 신호를 출력할 수 있다. 마찬가지로, 제 2 전송 트랜지스터(Tx2) 및 제 4 전송 트랜지스터(Tx4)가 동시에 턴-온될 수 있고, 단위 픽셀은 제 2 광전 변환 소자(PD2) 및 제 4 광전 변환 소자(PD4)로부터 전송된 전하들의 합에 대응하는 제 2 픽셀 신호를 출력할 수 있다. 제 1 픽셀 신호 및 제 2 픽셀 신호는 각각 아날로그 디지털 변환기(도시되지 않음)에 의해 디지털 신호로 변환될 수 있다.
다른 단위 픽셀들도 상술한 바와 같이 전하들의 합에 대응하는 픽셀 신호들을 출력할 수 있고, 출력된 픽셀 신호들은 각각 디지털 신호들로 변환될 수 있다. 변환된 디지털 신호들의 집합은 픽셀 데이터로서 출력될 수 있다. 이로써, 픽셀 어레이(300)는 아날로그 비닝이 수행된 픽셀 데이터(예를 들어, 제 2 픽셀 데이터(PDATb_2)와 같은 픽셀 데이터)를 출력할 수 있다.
리모자이크된 픽셀 데이터(RDATb)는 리모자이크 프로세서(131)가 제 2 픽셀 데이터(PDATb_2)에 대해 왜곡이 발생한 방향(즉, 화각이 넓어진 방향)으로 리모자이크 처리를 수행함으로써 생성될 수 있다. 다시 말해, 리모자이크된 픽셀 데이터(RDATb)가 나타내는 이미지는, 제 2 픽셀 데이터(PDATb_2)가 나타내는 이미지에 비해 왜곡이 발생한 방향으로 데이터 크기가 늘어나고(즉, 왜곡이 발생한 방향으로 업스케일링되고), 왜곡이 발생하지 않은 방향의 데이터 크기는 동일한 이미지일 수 있다.
리모자이크된 픽셀 데이터(RDATb)의 픽셀 값들은 제 2 픽셀 데이터(PDATb_2)의 픽셀 값들(즉, 픽셀 어레이(300)를 구성하는 각 서브 픽셀들로부터 출력된 픽셀 값들)에 기반하여 결정될 수 있다. 예를 들어, 리모자이크된 픽셀 데이터(RDATb)의 제 1 행(330)은 제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)의 픽셀 값들에 기반한 보간을 수행함으로써 결정될 수 있다. 상술한 리모자이크 처리를 수행함으로써, 리모자이크된 픽셀 데이터(RDATb)는 렌즈(110)에 의한 왜곡이 보정되어 왜곡이 발생한 방향의 해상도가 개선된 이미지를 나타낼 수 있다.
도 8은 도 7의 디지털 비닝 및 리모자이크 처리 과정을 예시적으로 나타낸다. 좀 더 상세하게는, 도 8은 도 7의 제 1 픽셀 데이터(PDATb_1)의 제 1 행(310)에 대한 디지털 비닝을 통해 도 7의 제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)이 생성되고, 제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)에 대한 리모자이크 처리를 통해 도 7의 리모자이크된 픽셀 데이터(RDATb)의 제 1 행(330)이 생성되는 과정을 예시적으로 나타낸다. 이하 도 8과 함께, 도 1 및 도 5를 참조하여 설명한다.
제 1 픽셀 데이터(PDATb_1)의 제 1 행(310)은 4개의 단위 픽셀들(즉, 16개의 서브 픽셀들)로부터 출력된 16개의 픽셀 값들(Gr1 내지 R8)을 포함할 수 있다. 제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)은 8개의 픽셀 값들(Gr1B 내지 R4B)을 포함할 수 있다. 리모자이크된 픽셀 데이터(RDATb)의 제 1 행(330)은 8개의 픽셀 값들(Gr1R 내지 R4R)을 포함할 수 있다.
이미지 신호 프로세서(130)는 제 1 픽셀 데이터(PDATb_1)의 제 1 행(310)의 픽셀 값들에 대해 왜곡이 발생하지 않은 방향(즉, 열 방향)으로 디지털 비닝을 수행하여 제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)의 픽셀 값들을 결정할 수 있다. 예를 들어, 제 2 픽셀 데이터(PDATb_2)의 픽셀 값 Gr1B는 제 1 픽셀 데이터(PDATb_1)의 픽셀 값 Gr1 및 픽셀 값 Gr3의 평균 값으로서 결정될 수 있고, 제 2 픽셀 데이터(PDATb_2)의 픽셀 값 Gr2B는 제 1 픽셀 데이터(PDATb_1)의 픽셀 값 Gr2 및 픽셀 값 Gr4의 평균 값으로서 결정될 수 있다.
마찬가지로, 제 2 픽셀 데이터(PDATb_2)의 나머지 픽셀 값들도 제 1 픽셀 데이터(PDATb_1)의 픽셀 값들의 평균을 계산함으로써 결정될 수 있다. 그러나, 본 발명은 이에 한정되지 않으며, 이미지 신호 프로세서(130)는 상술한 예시적인 방법과 다른 방법에 의해 제 1 픽셀 데이터(PDATb_1)의 픽셀 값들에 대한 디지털 비닝을 수행할 수도 있다.
리모자이크 프로세서(131)는 제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)의 픽셀 값들에 기반하여 리모자이크된 픽셀 데이터(RDATb)의 제 1 행(330)의 픽셀 값들을 결정할 수 있다. 예를 들어, 리모자이크 프로세서(131)는 제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)의 픽셀 값들(Gr1B 내지 R4B)에 기반하여 보간을 수행함으로써 리모자이크된 픽셀 데이터(RDATb)의 제 1 행(330)의 픽셀 값들(Gr1R 내지 R4R)을 결정할 수 있다.
제 2 픽셀 데이터(PDATb_2)의 제 1 행(320)의 픽셀 값들(Gr1B 내지 R4B)에 기반하여 보간을 수행하는 방법은 도 4에서 설명한 바와 같으므로, 상세한 설명은 생략하기로 한다. 마찬가지로, 본 발명은 이에 한정되지 않으며, 리모자이크된 픽셀 데이터(RDATb)의 픽셀 값들은 상술한 예시적인 방법과 다른 방법에 의해 결정될 수도 있다.
도 8은 리모자이크 프로세서(131)가 리모자이크 처리를 수행하기 이전에, 픽셀 데이터(PDATb_1)에 대해 디지털 비닝을 수행하는 경우를 나타내지만, 본 발명은 이에 한정되지 않는다. 다른 실시 예에서는, 도 6 내지 도 7을 참조하여 설명한 바와 같이 아날로그 비닝이 수행된 픽셀 데이터가 출력될 수도 있다. 한편 또 다른 실시 예에서는 아날로그 비닝 및 디지털 비닝이 모두 수행되지 않을 수 있고, 리모자이크 프로세서(131)는 제 1 픽셀 데이터(PDATb_1)의 모든 픽셀 값들을 이용하여 리모자이크 처리를 수행할 수도 있다.
나아가, 본 발명은 도 1의 이미지 센서(120)가 도 2의 듀얼 셀 구조 또는 도 5의 테트라셀 구조를 갖는 경우에 제한되지 않으며, 다른 실시 예에서 도 1의 픽셀 어레이(121)는 각각 동일한 컬러 필터를 가지는 복수의 서브 픽셀들(예를 들어, 4개 이상)로 구성된 복수의 단위 픽셀들을 포함하는 임의의 멀티 픽셀 구조를 가질 수 있다. 도 2 및 도 5를 참조하여 설명한 바와 같이, 서브 픽셀들 각각은 광전 변환 소자(예를 들어, 포토다이오드)를 포함하는 복수의 서브 픽셀들을 포함할 수 있다. 하나의 단위 픽셀을 구성하는 복수의 서브 픽셀들은 하나의 플로팅 확산 영역을 공유할 수도 있고, 복수의 플로팅 확산 영역들을 공유할 수도 있다.
도 9는 본 발명의 실시 예에 따른 리모자이크 처리에 의해 이미지 해상도가 개선되는 과정을 개념적으로 나타낸다.
본 개시의 실시 예에서 이용되는 렌즈(110)는 D1 방향으로 넓은 화각을 확보할 수 있고, D1 방향으로(즉, 화각이 넓어진 방향으로) 압축되는 왜곡을 발생시키는 아나모픽 렌즈일 수 있다. 예를 들어, 종횡비 2M:N을 갖는 영역 a는 본 개시의 실시 예에서 이용되는 렌즈(110)를 이용하는 경우 촬영 가능한 영역일 수 있으며, 종횡비 M:N을 갖는 영역 b는 왜곡을 발생시키지 않는 일반적인 렌즈를 이용하는 경우 촬영 가능한 영역일 수 있다.
픽셀 어레이(121)는 렌즈(110)를 통해 수신되는 빛에 기반하여 전기 신호인 픽셀 데이터(PDAT)를 생성할 수 있다. 렌즈(110)에 의해 D1 방향으로 압축되는 왜곡이 발생하였으므로, 픽셀 데이터(PDAT)의 크기는 M×N이다. 도 2 내지 도 8을 통해 상술한 바와 같이, 리모자이크 프로세서(131)는 픽셀 데이터(PDAT)에 대해 리모자이크 처리를 수행하여 리모자이크된 픽셀 데이터(RDAT)를 생성할 수 있다. 리모자이크된 픽셀 데이터(RDAT)가 나타내는 이미지는, 픽셀 데이터(PDAT)가 나타내는 이미지에 비해 D1 방향으로 데이터 크기가 M에서 2M으로 늘어난(즉, D1 방향으로 업스케일링된) 이미지일 수 있다.
다시 말해, 리모자이크된 픽셀 데이터(RDAT)의 크기는 2M×N이고, 종횡비는 2M:N이다. 리모자이크된 픽셀 데이터(RDAT)는 렌즈(110)에 의한 왜곡이 보정되어 왜곡이 발생한 방향(즉, D1 방향)의 해상도가 개선된(즉, M에서 2M으로 개선된) 이미지를 나타낼 수 있다.
반면 왜곡을 발생시키지 않는 일반적인 렌즈를 이용하여 2M:N의 종횡비를 갖는 이미지를 얻기 위해서는 b 영역을 촬영한 후 픽셀 데이터로부터 영역 c에 대응하는 이미지를 크롭해야 한다. 따라서, 본 개시의 이미지 센서(120)에 의해 획득된 특정 종횡비를 갖는 이미지는 일반적인 이미지 센서에 의해 획득된 특정 종횡비를 갖는 이미지에 비해 훨씬 넓은 영역을 나타낼 수 있다.
도 10은 본 발명의 실시 예에 따른 이미지 해상도를 개선하는 장치의 동작 방법을 나타내는 예시적인 흐름도이다. 이하 도 10과 함께, 도 1을 참조하여 설명한다.
단계 S110에서, 픽셀 어레이(121)는 렌즈(110)를 통해 수신되는 빛에 기반하여 픽셀 값들을 생성할 수 있다. 단계 S120에서, 이미지 센서(120)는 픽셀 어레이(121)에 의해 생성된 픽셀 값들에 대해 상관 이중 샘플링(CDS)을 수행하여 픽셀 데이터(PDAT)를 생성할 수 있다. 특히, 본 개시의 실시 예에서 이용되는 렌즈(110)가 왜곡을 발생시킬 수 있기 때문에, 픽셀 데이터(PDAT)는 왜곡이 발생한 이미지를 나타낼 수 있다. 예를 들어, 렌즈(110)가 화각이 넓어진 방향으로 왜곡을 발생시키는 아나모픽 렌즈인 경우, 픽셀 데이터(PDAT)는 화각이 넓어진 방향의 왜곡이 발생한 이미지를 나타낼 수 있다.
단계 S130에서, 리모자이크 프로세서(131)는 픽셀 데이터(PDAT)에 대해 왜곡이 발생한 방향으로 리모자이크 처리를 수행하여 리모자이크된 픽셀 데이터(RDAT)를 생성할 수 있다. 이 경우, 리모자이크된 픽셀 데이터(RDAT)는 왜곡이 보정되어 왜곡이 발생한 방향의 해상도가 개선된 이미지를 나타낼 수 있다.
도 11은 본 발명의 다른 실시 예에 따른 이미지 처리 블록(100)과 애플리케이션 프로세서(140)의 예시적인 구성을 나타내는 블록도이다. 도 1과 달리, 도 11은 리모자이크 프로세서(141)가 이미지 신호 프로세서(130)에 포함되지 않고, 이미지 처리 블록(100) 외부의 애플리케이션 프로세서(140)에 소프트웨어로서 포함된 실시 예를 나타낸다.
픽셀 어레이(121)는 렌즈(110)를 통해 수신되는 빛에 기반하여 픽셀 데이터(PDAT)를 생성할 수 있고, 이미지 신호 프로세서(130)는 픽셀 데이터(PDAT)에 기반하여 객체(10)와 관련된 이미지 데이터(IDAT)를 생성할 수 있다. 리모자이크 프로세서(141)는 이미지 데이터(IDAT)에 대해 리모자이크 처리를 수행하여 리모자이크된 이미지 데이터(RDAT)를 생성할 수 있다. 리모자이크 프로세서(141)가 애플리케이션 프로세서(140)에 포함된 것을 제외하면, 이미지 데이터(IDAT)에 대해 리모자이크 처리를 수행하는 방법은 도 2 내지 도 8에서 설명한 픽셀 데이터(PDAT)에 대해 리모자이크 처리를 수행하는 방법과 같으므로 생략하기로 한다.
도 12는 본 발명의 실시 예에 따른 이미지 해상도 개선 방법이 채택된 멀티 카메라 모듈을 포함하는 전자 장치의 예시적인 구성을 나타내는 블록도이다. 도 13은 도 12의 카메라 모듈의 예시적인 구성을 나타내는 블록도이다.
도 12를 참조하면, 전자 장치(1000)는 카메라 모듈 그룹(1100), 애플리케이션 프로세서(1200), PMIC(1300), 및 외부 메모리(1400)를 포함할 수 있다.
카메라 모듈 그룹(1100)은 복수의 카메라 모듈(1100a, 1100b, 1100c)을 포함할 수 있다. 비록 도면에는 3개의 카메라 모듈(1100a, 1100b, 1100c)이 배치된 실시 예가 도시되어 있으나, 실시 예들이 이에 제한되는 것은 아니다. 몇몇 실시 예에서, 카메라 모듈 그룹(1100)은 2개의 카메라 모듈만을 포함하도록 변형되어 실시될 수 있다. 또한, 몇몇 실시 예에서, 카메라 모듈 그룹(1100)은 n개(n은 4 이상의 자연수)의 카메라 모듈을 포함하도록 변형되어 실시될 수도 있다.
이하, 도 13을 참조하여, 카메라 모듈(1100b)의 상세 구성에 대해 보다 구체적으로 설명할 것이나, 이하의 설명은 실시 예에 따라 다른 카메라 모듈들(1100a, 1100c)에 대해서도 동일하게 적용될 수 있다.
도 13을 참조하면, 카메라 모듈(1100b)은 프리즘(1105), 광학 경로 폴딩 요소(Optical Path Folding Element, 이하, ˝˝액츄에이터(1130), 이미지 센싱 장치(1140), 및 저장부(1150)를 포함할 수 있다.
프리즘(1105)은 광 반사 물질의 반사면(1107)을 포함하여 외부로부터 입사되는 광(L)의 경로를 변형시킬 수 있다.
몇몇 실시 예에서, 프리즘(1105)은 제 1 방향(X)으로 입사되는 광(L)의 경로를 제 1 방향(X)에 수직인 제 2 방향(Y)으로 변경시킬 수 있다. 또한, 프리즘(1105)은 광 반사 물질의 반사면(1107)을 중심축(1106)을 중심으로 A방향으로 회전시키거나, 중심축(1106)을 B방향으로 회전시켜 제 1 방향(X)으로 입사되는 광(L)의 경로를 수직인 제 2 방향(Y)으로 변경시킬 수 있다. 이때, OPFE(1110)도 제 1 방향(X)및 제 2 방향(Y)과 수직인 제 3 방향(Z)로 이동할 수 있다.
몇몇 실시 예에서, 도시된 것과 같이, 프리즘(1105)의 A방향 최대 회전 각도는 플러스(+) A방향으로는 15도(degree)이하이고, 마이너스(-) A방향으로는 15도보다 클 수 있으나, 실시 예들이 이에 제한되는 것은 아니다.
몇몇 실시 예에서, 프리즘(1105)은 플러스(+) 또는 마이너스(-) B방향으로 20도 내외, 또는 10도에서 20도, 또는 15도에서 20도 사이로 움직일 수 있고, 여기서, 움직이는 각도는 플러스(+) 또는 마이너스(-) B방향으로 동일한 각도로 움직이거나, 1도 내외의 범위로 거의 유사한 각도까지 움직일 수 있다.
몇몇 실시 예에서, 프리즘(1105)은 광 반사 물질의 반사면(1107)을 중심축(1106)의 연장 방향과 평행한 제 3 방향(예를 들어, Z방향)으로 이동할 수 있다.
OPFE(1110)는 예를 들어 m(여기서, m은 자연수)개의 그룹으로 이루어진 광학 렌즈를 포함할 수 있다. m개의 렌즈는 제 2 방향(Y)으로 이동하여 카메라 모듈(1100b)의 광학 줌 배율(optical zoom ratio)을 변경할 수 있다. 예를 들어, 카메라 모듈(1100b)의 기본 광학 줌 배율을 Z라고할 때, OPFE(1110)에 포함된 m개의 광학 렌즈를 이동시킬 경우, 카메라 모듈(1100b)의 광학 줌 배율은 3Z 또는 5Z 또는 5Z 이상의 광학 줌 배율로 변경될 수 있다. OPFE(1110)는 상술한 m개의 렌즈의 전면에 n(여기서, n은 자연수)개의 그룹으로 이루어진 광학 렌즈(예를 들어, 아나모픽 렌즈)를 더 포함할 수 있다.
액츄에이터(1130)는 OPFE(1110) 또는 광학 렌즈(이하, 광학 렌즈로 지칭)를 특정 위치로 이동시킬 수 있다. 예를 들어 액츄에이터(1130)는 정확한 센싱을 위해 이미지 센서(1142)가 광학 렌즈의 초점 거리(focal length)에 위치하도록 광학 렌즈의 위치를 조정할 수 있다.
이미지 센싱 장치(1140)는 이미지 센서(1142), 제어 로직(1144), 및 메모리(1146)을 포함할 수 있다. 이미지 센서(1142)는 광학 렌즈를 통해 제공되는 광(L)을 이용하여 센싱 대상의 이미지를 센싱할 수 있다. 제어 로직(1144)은 카메라 모듈(1100b)의 전반적인 동작을 제어할 수 있다. 예를 들어, 제어 로직(1144)은 제어 신호 라인(CSLb)을 통해 제공된 제어 신호에 따라 카메라 모듈(1100b)의 동작을 제어할 수 있다. 나아가, 제어 로직(1144)은 본 개시의 리모자이크 처리를 수행하기 위한 리모자이크 프로세서(예를 들어, 도 1의 131)를 포함할 수 있다.
메모리(1146)는 캘리브레이션 데이터(1147)와 같은 카메라 모듈(1100b)의 동작에 필요한 정보를 저장할 수 있다. 캘리브레이션 데이터(1147)는 카메라 모듈(1100b)이 외부로부터 제공된 광(L)을 이용하여 이미지 데이터를 생성하는데 필요한 정보를 포함할 수 있다. 캘리브레이션 데이터(1147)는 예를 들어, 앞서 설명한 회전도(degree of rotation)에 관한 정보, 초점 거리(focal length)에 관한 정보, 광학 축(optical axis)에 관한 정보 등을 포함할 수 있다. 카메라 모듈(1100b)이 광학 렌즈의 위치에 따라 초점 거리가 변하는 멀티 스테이트(multi state) 카메라 형태로 구현될 경우, 캘리브레이션 데이터(1147)는 광학 렌즈의 각 위치 별(또는 스테이트 별) 초점 거리 값과 오토 포커싱(auto focusing)과 관련된 정보를 포함할 수 있다. 캘리브레이션 데이터(1147)는 본 개시의 리모자이크 처리를 수행할 방향과 관련된 정보를 포함할 수 있다.
저장부(1150)는 이미지 센서(1142)를 통해 센싱된 이미지 데이터를 저장할 수 있다. 저장부(1150)는 이미지 센싱 장치(1140)의 외부에 배치될 수 있으며, 이미지 센싱 장치(1140)를 구성하는 센서 칩과 스택된(stacked) 형태로 구현될 수 있다. 몇몇 실시 예에서, 저장부(1150)는 EEPROM(Electrically Erasable Programmable Read-Only Memory)으로 구현될 수 있으나 실시 예들이 이에 제한되는 것은 아니다.
도 12와 도 13을 함께 참조하면, 몇몇 실시 예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각은 액츄에이터(1130)를 포함할 수 있다. 이에 따라, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각은 그 내부에 포함된 액츄에이터(1130)의 동작에 따른 서로 동일하거나 서로 다른 캘리브레이션 데이터(1147)를 포함할 수 있다.
몇몇 실시 예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 중 하나의 카메라 모듈(예를 들어, 1100b)은 앞서 설명한 프리즘(1105)과 OPFE(1110)를 포함하는 폴디드 렌즈(folded lens) 형태의 카메라 모듈이고, 나머지 카메라 모듈들(예를 들어, 1100a, 1100b)은 프리즘(1105)과 OPFE(1110)가 포함되지 않은 버티컬(vertical) 형태의 카메라 모듈일 수 있으나, 실시 예들이 이에 제한되는 것은 아니다.
몇몇 실시 예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 중 하나의 카메라 모듈(예를 들어, 1100c)은 예를 들어, IR(Infrared Ray)을 이용하여 깊이(depth) 정보를 추출하는 버티컬 형태의 깊이 카메라(depth camera)일 수 있다. 이 경우, 애플리케이션 프로세서(1200)는 이러한 깊이 카메라로부터 제공받은 이미지 데이터와 다른 카메라 모듈(예를 들어, 1100a 또는 1100b)로부터 제공받은 이미지 데이터를 병합(merge)하여 3차원 깊이 이미지(3D depth image)를 생성할 수 있다.
몇몇 실시 예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 중 적어도 두 개의 카메라 모듈(예를 들어, 1100a, 1100b)은 서로 다른 관측 시야(Field of View, 시야각)를 가질 수 있다. 이 경우, 예를 들어, 복수의 카메라 모듈(1100a, 1100b, 1100c) 중 적어도 두 개의 카메라 모듈(예를 들어, 1100a, 1100b)의 광학 렌즈가 서로 다를 수 있으나, 이에 제한되는 것은 아니다.
또한, 몇몇 실시 예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각의 시야각은 서로 다를 수 있다. 이 경우, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각에 포함된 광학 렌즈 역시 서로 다를 수 있으나, 이에 제한되는 것은 아니다.
몇몇 실시 예에서, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각은 서로 물리적으로 분리되어 배치될 수 있다. 즉, 하나의 이미지 센서(1142)의 센싱 영역을 복수의 카메라 모듈(1100a, 1100b, 1100c)이 분할하여 사용하는 것이 아니라, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각의 내부에 독립적인 이미지 센서(1142)가 배치될 수 있다.
다시 도 12를 참조하면, 애플리케이션 프로세서(1200)는 이미지 처리 장치(1210), 메모리 컨트롤러(1220), 내부 메모리(1230)를 포함할 수 있다. 애플리케이션 프로세서(1200)는 복수의 카메라 모듈(1100a, 1100b, 1100c)과 분리되어 구현될 수 있다. 예를 들어, 애플리케이션 프로세서(1200)와 복수의 카메라 모듈(1100a, 1100b, 1100c)은 별도의 반도체 칩으로 서로 분리되어 구현될 수 있다. 몇몇 실시 예에서, 애플리케이션 프로세서(1200)는 본 개시의 리모자이크 처리를 수행하기 위한 리모자이크 프로세서(예를 들어, 도 11의 141)를 포함할 수 있다.
이미지 처리 장치(1210)는 복수의 서브 이미지 프로세서(1212a, 1212b, 1212c), 이미지 생성기(1214), 및 카메라 모듈 컨트롤러(1216)를 포함할 수 있다.
이미지 처리 장치(1210)는 복수의 카메라 모듈(1100a, 1100b, 1100c)의 개수에 대응하는 개수의 복수의 서브 이미지 프로세서(1212a, 1212b, 1212c)를 포함할 수 있다.
각각의 카메라 모듈(1100a, 1100b, 1100c)로부터 생성된 이미지 데이터는 서로 분리된 이미지 신호 라인(ISLa, ISLb, ISLc)를 통해 대응되는 서브 이미지 프로세서(1212a, 1212b, 1212c)에 제공될 수 있다. 예를 들어, 카메라 모듈(1100a)로부터 생성된 이미지 데이터는 이미지 신호 라인(ISLa)을 통해 서브 이미지 프로세서(1212a)에 제공되고, 카메라 모듈(1100b)로부터 생성된 이미지 데이터는 이미지 신호 라인(ISLb)을 통해 서브 이미지 프로세서(1212b)에 제공되고, 카메라 모듈(1100c)로부터 생성된 이미지 데이터는 이미지 신호 라인(ISLc)을 통해 서브 이미지 프로세서(1212c)에 제공될 수 있다. 이러한 이미지 데이터 전송은 예를 들어, MIPI(Mobile Industry Processor Interface)에 기반한 카메라 직렬 인터페이스(CSI; Camera Serial Interface)를 이용하여 수행될 수 있으나, 실시 예들이 이에 제한되는 것은 아니다.
한편, 몇몇 실시 예에서, 하나의 서브 이미지 프로세서가 복수의의 카메라 모듈에 대응되도록 배치될 수도 있다. 예를 들어, 서브 이미지 프로세서(1212a)와 서브 이미지 프로세서(1212c)가 도시된 것처럼 서로 분리되어 구현되는 것이 아니라 하나의 서브 이미지 프로세서로 통합되어 구현되고, 카메라 모듈(1100a)과 카메라 모듈(1100c)로부터 제공된 이미지 데이터는 선택 소자(예를 들어, 멀티플렉서) 등을 통해 선택된 후, 통합된 서브 이미지 프로세서에 제공될 수 있다.
각각의 서브 이미지 프로세서(1212a, 1212b, 1212c)에 제공된 이미지 데이터는 이미지 생성기(1214)에 제공될 수 있다. 이미지 생성기(1214)는 이미지 생성 정보(Generating Information) 또는 모드 신호(Mode Signal)에 따라 각각의 서브 이미지 프로세서(1212a, 1212b, 1212c)로부터 제공된 이미지 데이터를 이용하여 출력 이미지를 생성할 수 있다.
구체적으로, 이미지 생성기(1214)는 이미지 생성 정보 또는 모드 신호에 따라, 서로 다른 시야각을 갖는 카메라 모듈들(1100a, 1100b, 1100c)로부터 생성된 이미지 데이터 중 적어도 일부를 병합(merge)하여 출력 이미지를 생성할 수 있다. 또한, 이미지 생성기(1214)는 이미지 생성 정보 또는 모드 신호에 따라, 서로 다른 시야각을 갖는 카메라 모듈들(1100a, 1100b, 1100c)로부터 생성된 이미지 데이터 중 어느 하나를 선택하여 출력 이미지를 생성할 수 있다.
몇몇 실시 예에서, 이미지 생성 정보는 줌 신호(zoom signal or zoom factor)를 포함할 수 있다. 또한, 몇몇 실시 예에서, 모드 신호는 예를 들어, 유저(user)로부터 선택된 모드에 기초한 신호일 수 있다.
이미지 생성 정보가 줌 신호(줌 팩터)이고, 각각의 카메라 모듈(1100a, 1100b, 1100c)이 서로 다른 관측 시야(시야각)를 갖는 경우, 이미지 생성기(1214)는 줌 신호의 종류에 따라 서로 다른 동작을 수행할 수 있다. 예를 들어, 줌 신호가 제 1 신호일 경우, 카메라 모듈(1100a)로부터 출력된 이미지 데이터와 카메라 모듈(1100c)로부터 출력된 이미지 데이터를 병합한 후, 병합된 이미지 신호와 병합에 사용하지 않은 카메라 모듈(1100b)로부터 출력된 이미지 데이터를 이용하여, 출력 이미지를 생성할 수 있다. 만약, 줌 신호가 제 1 신호와 다른 제 2 신호일 경우, 이미지 생성기(1214)는 이러한 이미지 데이터 병합을 수행하지 않고, 각각의 카메라 모듈(1100a, 1100b, 1100c)로부터 출력된 이미지 데이터 중 어느 하나를 선택하여 출력 이미지를 생성할 수 있다. 하지만 실시 예들이 이에 제한되는 것은 아니며, 필요에 따라 이미지 데이터를 처리하는 방법은 얼마든지 변형되어 실시될 수 있다.
몇몇 실시 예에서, 이미지 생성기(1214)는 복수의 서브 이미지 프로세서(1212a, 1212b, 1212c) 중 적어도 하나로부터 노출 시간이 상이한 복수의 이미지 데이터를 수신하고, 복수의 이미지 데이터에 대하여 HDR(high dynamic range) 처리를 수행함으로써, 다이나믹 레인지가 증가된 병합된 이미지 데이터를 생성할 수 있다. 또한 몇몇 실시 예에서, 이미지 생성기(1214)는 왜곡이 발생한 이미지 데이터를 수신하고, 왜곡이 발생한 이미지 데이터에 대해 왜곡이 발생한 방향으로 리모자이크 처리를 수행함으로써, 해상도가 개선된 이미지 데이터를 생성할 수 있다.
카메라 모듈 컨트롤러(1216)는 각각의 카메라 모듈(1100a, 1100b, 1100c)에 제어 신호를 제공할 수 있다. 카메라 모듈 컨트롤러(1216)로부터 생성된 제어 신호는 서로 분리된 제어 신호 라인(CSLa, CSLb, CSLc)를 통해 대응되는 카메라 모듈(1100a, 1100b, 1100c)에 제공될 수 있다.
복수의 카메라 모듈(1100a, 1100b, 1100c) 중 어느 하나는 줌 신호를 포함하는 이미지 생성 정보 또는 모드 신호에 따라 마스터(master) 카메라(예를 들어, 1100b)로 지정되고, 나머지 카메라 모듈들(예를 들어, 1100a, 1100c)은 슬레이브(slave) 카메라로 지정될 수 있다. 이러한 정보는 제어 신호에 포함되어, 서로 분리된 제어 신호 라인(CSLa, CSLb, CSLc)를 통해 대응되는 카메라 모듈(1100a, 1100b, 1100c)에 제공될 수 있다.
줌 팩터 또는 동작 모드 신호에 따라 마스터 및 슬레이브로서 동작하는 카메라 모듈이 변경될 수 있다. 예를 들어, 카메라 모듈(1100a)의 시야각이 카메라 모듈(1100b)의 시야각보다 넓고, 줌 팩터가 낮은 줌 배율을 나타낼 경우, 카메라 모듈(1100b)이 마스터로서 동작하고, 카메라 모듈(1100a)이 슬레이브로서 동작할 수 있다. 반대로, 줌 팩터가 높은 줌 배율을 나타낼 경우, 카메라 모듈(1100a)이 마스터로서 동작하고, 카메라 모듈(1100b)이 슬레이브로서 동작할 수 있다.
몇몇 실시 예에서, 카메라 모듈 컨트롤러(1216)로부터 각각의 카메라 모듈(1100a, 1100b, 1100c)에 제공되는 제어 신호는 싱크 인에이블 신호(sync enable) 신호를 포함할 수 있다. 예를 들어, 카메라 모듈(1100b)이 마스터 카메라이고, 카메라 모듈들(1100a, 1100c)이 슬레이브 카메라인 경우, 카메라 모듈 컨트롤러(1216)는 카메라 모듈(1100b)에 싱크 인에이블 신호를 전송할 수 있다. 이러한 싱크 인에이블 신호를 제공받은 카메라 모듈(1100b)은 제공받은 싱크 인에이블 신호를 기초로 싱크 신호(sync signal)를 생성하고, 생성된 싱크 신호를 싱크 신호 라인(SSL)을 통해 카메라 모듈들(1100a, 1100c)에 제공할 수 있다. 카메라 모듈(1100b)과 카메라 모듈들(1100a, 1100c)은 이러한 싱크 신호에 동기화되어 이미지 데이터를 애플리케이션 프로세서(1200)에 전송할 수 있다.
몇몇 실시 예에서, 카메라 모듈 컨트롤러(1216)로부터 복수의 카메라 모듈(1100a, 1100b, 1100c)에 제공되는 제어 신호는 모드 신호에 따른 모드 정보를 포함할 수 있다. 이러한 모드 정보에 기초하여 복수의 카메라 모듈(1100a, 1100b, 1100c)은 센싱 속도와 관련하여 제 1 동작 모드 및 제 2 동작 모드로 동작할 수 있다.
복수의 카메라 모듈(1100a, 1100b, 1100c)은 제 1 동작 모드에서, 제 1 속도로 이미지 신호를 생성(예를 들어, 제 1 프레임 레이트의 이미지 신호를 생성)하여 이를 제 1 속도보다 높은 제 2 속도로 인코딩(예를 들어, 제 1 프레임 레이트보다 높은 제 2 프레임 레이트의 이미지 신호를 인코딩)하고, 인코딩된 이미지 신호를 애플리케이션 프로세서(1200)에 전송할 수 있다. 이때, 제 2 속도는 제 1 속도의 30배 이하일 수 있다.
애플리케이션 프로세서(1200)는 수신된 이미지 신호, 다시 말해서 인코딩된 이미지 신호를 내부에 구비되는 메모리(1230) 또는 애플리케이션 프로세서(1200) 외부의 스토리지(1400)에 저장하고, 이후, 메모리(1230) 또는 스토리지(1400)로부터 인코딩된 이미지 신호를 독출하여 디코딩하고, 디코딩된 이미지 신호에 기초하여 생성되는 이미지 데이터를 디스플레이할 수 있다. 예컨대 이미지 처리 장치(1210)의 복수의 서브 프로세서들(1212a, 1212b, 1212c) 중 대응하는 서브 프로세서가 디코딩을 수행할 수 있으며, 또한 디코딩된 이미지 신호에 대하여 이미지 처리를 수행할 수 있다.
복수의 카메라 모듈(1100a, 1100b, 1100c)은 제 2 동작 모드에서, 제 1 속도보다 낮은 제 3 속도로 이미지 신호를 생성(예를 들어, 제 1 프레임 레이트보다 낮은 제 3 프레임 레이트의 이미지 신호를 생성)하고, 이미지 신호를 애플리케이션 프로세서(1200)에 전송할 수 있다. 애플리케이션 프로세서(1200)에 제공되는 이미지 신호는 인코딩되지 않은 신호일 수 있다. 애플리케이션 프로세서(1200)는 수신되는 이미지 신호에 대하여 이미지 처리를 수행하거나 또는 이미지 신호를 메모리(1230) 또는 스토리지(1400)에 저장할 수 있다.
PMIC(1300)는 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각에 전력, 예컨대 전원 전압을 공급할 수 있다. 예를 들어, PMIC(1300)는 애플리케이션 프로세서(1200)의 제어 하에, 파워 신호 라인(PSLa)을 통해 카메라 모듈(1100a)에 제 1 전력을 공급하고, 파워 신호 라인(PSLb)을 통해 카메라 모듈(1100b)에 제 2 전력을 공급하고, 파워 신호 라인(PSLc)을 통해 카메라 모듈(1100c)에 제 3 전력을 공급할 수 있다.
PMIC(1300)는 애플리케이션 프로세서(1200)로부터의 전력 제어 신호(PCON)에 응답하여, 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각에 대응하는 전력을 생성하고, 또한 전력의 레벨을 조정할 수 있다. 전력 제어 신호(PCON)는 복수의 카메라 모듈(1100a, 1100b, 1100c)의 동작 모드 별 전력 조정 신호를 포함할 수 있다. 예를 들어, 동작 모드는 저전력 모드(low power mode)를 포함할 수 있으며, 이때, 전력 제어 신호(PCON)는 저전력 모드로 동작하는 카메라 모듈 및 설정되는 전력 레벨에 대한 정보를 포함할 수 있다. 복수의 카메라 모듈(1100a, 1100b, 1100c) 각각에 제공되는 전력들의 레벨은 서로 동일하거나 또는 서로 상이할 수 있다. 또한, 전력의 레벨은 동적으로 변경될 수 있다.
상술된 내용은 본 발명을 실시하기 위한 구체적인 실시 예들이다. 본 발명은 상술된 실시 예들뿐만 아니라, 단순하게 설계 변경되거나 용이하게 변경할 수 있는 실시 예들 또한 포함할 것이다. 또한, 본 발명은 실시 예들을 이용하여 용이하게 변형하여 실시할 수 있는 기술들도 포함될 것이다. 따라서, 본 발명의 범위는 상술된 실시 예들에 국한되어 정해져서는 안되며 후술하는 특허청구범위뿐만 아니라 이 발명의 특허청구범위와 균등한 것들에 의해 정해져야 할 것이다.
110: 렌즈 120: 이미지 센서
121: 픽셀 어레이 130: 이미지 신호 프로세서
131: 리모자이크 프로세서

Claims (10)

  1. 촬영되는 이미지를 제 1 방향으로 압축시키는 왜곡을 발생시키는 렌즈를 통해 수신된 빛에 기반하여 픽셀 데이터를 생성하는 이미지 센서; 및
    상기 픽셀 데이터에 대해 상기 제 1 방향으로 발생한 왜곡을 보정하기 위한 리모자이크 처리(remosaic processing)를 수행하여 리모자이크된 픽셀 데이터를 생성하는 이미지 신호 프로세서를 포함하는 전자 장치.
  2. 제 1 항에 있어서,
    상기 이미지 센서는 픽셀 어레이를 포함하고,
    상기 픽셀 어레이는:
    제 1 복수의 서브 픽셀들, 제 1 컬러 필터, 및 제 1 마이크로렌즈를 가지는 제 1 단위 픽셀;
    제 2 복수의 서브 픽셀들, 제 2 컬러 필터, 및 제 2 마이크로렌즈를 가지는 제 2 단위 픽셀; 및
    제 3 복수의 서브 픽셀들, 제 3 컬러 필터, 및 제 3 마이크로렌즈를 가지는 제 3 단위 픽셀을 포함하는 전자 장치.
  3. 제 2 항에 있어서,
    상기 리모자이크 처리는 상기 픽셀 데이터에 대해 상기 제 1 방향으로 상기 픽셀 데이터의 해상도를 늘리는 것을 포함하는 전자 장치.
  4. 제 3 항에 있어서,
    상기 이미지 신호 프로세서는 상기 픽셀 데이터 중 동일한 유형의 픽셀 데이터의 적어도 일부에 기반하여 상기 리모자이크 처리를 수행하는 전자 장치.
  5. 제 1 항에 있어서,
    상기 이미지 센서는 픽셀 어레이를 포함하고,
    상기 픽셀 어레이는:
    제 1 플로팅 확산 영역을 공유하는 제 1 복수의 서브 픽셀들을 포함하고, 제 1 컬러 필터를 가지는 제 1 단위 픽셀;
    제 2 플로팅 확산 영역을 공유하는 제 2 복수의 서브 픽셀들을 포함하고, 제 2 컬러 필터를 가지는 제 2 단위 픽셀; 및
    제 3 플로팅 확산 영역을 공유하는 제 3 복수의 서브 픽셀들을 포함하고, 제 3 컬러 필터를 가지는 제 3 단위 픽셀을 포함하되,
    상기 복수의 서브 픽셀들의 각각은 마이크로렌즈를 가지는 전자 장치.
  6. 제 5 항에 있어서,
    상기 리모자이크 처리는 상기 픽셀 데이터에 대해 상기 제 1 방향으로 상기 픽셀 데이터의 해상도를 늘리는 것을 포함하는 전자 장치.
  7. 제 6 항에 있어서,
    상기 이미지 신호 프로세서는 상기 픽셀 데이터 중 동일한 유형의 픽셀 데이터의 적어도 일부에 기반하여 상기 리모자이크 처리를 수행하는 전자 장치.
  8. 촬영되는 이미지를 제 1 방향으로 압축시키는 왜곡을 발생시키는 렌즈를 통해 수신된 빛에 기반하여 픽셀 데이터를 생성하는 이미지 센서; 및
    상기 픽셀 데이터에 대해 상기 제 1 방향으로 발생한 왜곡을 보정하기 위한 리모자이크 처리(remosaic processing)를 수행하여 리모자이크된 픽셀 데이터를 생성하는 이미지 신호 프로세서를 포함하되,
    상기 픽셀 어레이는:
    제 1 플로팅 확산 영역을 공유하는 제 1 복수의 서브 픽셀들을 포함하고, 제 1 컬러 필터를 가지는 제 1 단위 픽셀;
    제 2 플로팅 확산 영역을 공유하는 제 2 복수의 서브 픽셀들을 포함하고, 제 2 컬러 필터를 가지는 제 2 단위 픽셀; 및
    제 3 플로팅 확산 영역을 공유하는 제 3 복수의 서브 픽셀들을 포함하고, 제 3 컬러 필터를 가지는 제 3 단위 픽셀을 포함하는 전자 장치.
  9. 제 8 항에 있어서,
    상기 리모자이크 처리는 상기 픽셀 데이터에 대해 상기 제 1 방향으로 상기 픽셀 데이터의 해상도를 늘리는 것을 포함하는 전자 장치.
  10. 제 1 복수의 서브 픽셀들을 포함하고, 제 1 컬러 필터를 가지는 제 1 단위 픽셀, 제 2 복수의 서브 픽셀들을 포함하고, 제 2 컬러 필터를 가지는 제 2 단위 픽셀, 및 제 3 복수의 서브 픽셀들을 포함하고, 제 3 컬러 필터를 가지는 제 3 단위 픽셀을 포함하는 이미지 센서로부터 출력되는 신호들을 처리하는 방법에 있어서,
    촬영되는 이미지를 제 1 방향으로 압축시키는 왜곡을 발생시키는 렌즈를 통해 수신된 빛에 기반하여, 상기 서브 픽셀들에 의해 픽셀 값들을 생성하는 단계;
    상기 픽셀 값들에 대해 상관 이중 샘플링을 수행하여 픽셀 데이터를 생성하는 단계; 및
    상기 픽셀 데이터에 대해 상기 제 1 방향으로 발생한 왜곡을 보정하기 위한 리모자이크 처리(remosaic processing)를 수행하여 리모자이크된 픽셀 데이터를 생성하는 단계를 포함하는 방법.
KR1020200136546A 2020-10-21 2020-10-21 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법 KR20220053067A (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020200136546A KR20220053067A (ko) 2020-10-21 2020-10-21 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법
US17/350,003 US11758288B2 (en) 2020-10-21 2021-06-17 Device for improving image resolution in camera system having lens that permits distortion and operation method thereof
CN202111209747.4A CN114390192A (zh) 2020-10-21 2021-10-18 用于提高图像分辨率的装置及其操作方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200136546A KR20220053067A (ko) 2020-10-21 2020-10-21 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법

Publications (1)

Publication Number Publication Date
KR20220053067A true KR20220053067A (ko) 2022-04-29

Family

ID=81185455

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200136546A KR20220053067A (ko) 2020-10-21 2020-10-21 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법

Country Status (3)

Country Link
US (1) US11758288B2 (ko)
KR (1) KR20220053067A (ko)
CN (1) CN114390192A (ko)

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5381145B2 (ja) 2009-02-13 2014-01-08 セイコーエプソン株式会社 プロジェクター
JP2013066146A (ja) * 2011-08-31 2013-04-11 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
US9438866B2 (en) * 2014-04-23 2016-09-06 Omnivision Technologies, Inc. Image sensor with scaled filter array and in-pixel binning
US9210391B1 (en) 2014-07-31 2015-12-08 Apple Inc. Sensor data rescaler with chroma reduction
US9219870B1 (en) 2014-07-31 2015-12-22 Apple Inc. Sensor data rescaler for image signal processing
JP6598507B2 (ja) 2015-05-11 2019-10-30 キヤノン株式会社 撮像装置、撮像システム、信号処理方法
WO2016191035A1 (en) 2015-05-26 2016-12-01 Lytro, Inc. Capturing light-field images with uneven and/or incomplete angular sampling
US10148864B2 (en) 2015-07-02 2018-12-04 Pixart Imaging Inc. Imaging device having phase detection pixels and regular pixels, and operating method thereof
US9936123B2 (en) * 2016-08-04 2018-04-03 Omnivision Technologies, Inc. Camera and method with widescreen image on nearly-square aspect ratio photosensor array
CN106353747A (zh) 2016-09-06 2017-01-25 乐视控股（北京）有限公司 距离测量方法及装置
CN108886571B (zh) 2017-03-13 2020-12-01 亮锐控股有限公司 具有改善的自动对焦性能的成像设备
KR102354991B1 (ko) * 2017-05-24 2022-01-24 삼성전자주식회사 픽셀 회로 및 이를 포함하는 이미지 센서
KR102441363B1 (ko) 2017-07-13 2022-09-07 삼성전자주식회사 이미지 신호 프로세서, 이미지 처리 시스템 및 이미지 센서의 비닝 방법
US10638055B2 (en) * 2018-01-15 2020-04-28 Qualcomm Incorporated Aperture simulation
JP2020043435A (ja) * 2018-09-07 2020-03-19 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP7195120B2 (ja) * 2018-11-16 2022-12-23 キヤノン株式会社 撮像装置およびその制御方法
WO2020111369A1 (ko) * 2018-11-30 2020-06-04 엘지전자 주식회사 이미지 센서 및 그 제어 방법
US10853913B2 (en) * 2019-03-11 2020-12-01 Qualcomm Incorporated Color filter array pattern conversion
US11470286B2 (en) * 2019-07-16 2022-10-11 Mritunjay Singh Image sensors with color, panchromatic and infrared pixels
CN110944160B (zh) 2019-11-06 2022-11-04 维沃移动通信有限公司 一种图像处理方法及电子设备
US20210390747A1 (en) * 2020-06-12 2021-12-16 Qualcomm Incorporated Image fusion for image capture and processing systems
US11184553B1 (en) * 2020-09-23 2021-11-23 Qualcomm Incorporated Image signal processing in multi-camera system

Also Published As

Publication number Publication date
US11758288B2 (en) 2023-09-12
CN114390192A (zh) 2022-04-22
US20220122219A1 (en) 2022-04-21

Similar Documents

Publication Publication Date Title
US11425323B2 (en) Image sensor and operating method thereof
KR102632474B1 (ko) 이미지 센서의 픽셀 어레이 및 이를 포함하는 이미지 센서
KR20210151316A (ko) 멀티-컬러 필터 어레이를 갖는 이미지 센서의 크로스토크를 보상하는 전자 장치 및 방법
KR20220000761A (ko) 이미지 센서 및 이미지 센서의 비닝 방법
CN114390227A (zh) 被配置为改善组合模式中的伪影的图像传感器
KR20230006674A (ko) 이미지 센서, 그것을 포함하는 이미지 장치 및 그것의 동작 방법
KR20220122008A (ko) 이미지 신호 프로세싱 방법, 이미지 신호 프로세서 및 그 이미지 센싱 장치
KR20220055390A (ko) 균등하게 배치된 위상 검출 픽셀을 포함하는 픽셀 어레이, 및 이를 포함하는 이미지 센서
CN115280766B (zh) 图像传感器、成像装置、电子设备、图像处理***及信号处理方法
US11700460B2 (en) Image sensing apparatus and image binning method thereof
US20220334357A1 (en) Image sensor for zoom processing and electronic device including the same
KR20220053067A (ko) 왜곡을 발생시키는 렌즈를 갖는 카메라 시스템에서 이미지 해상도를 개선하는 장치 및 그 동작 방법
CN114500892A (zh) 像素阵列和包括该像素阵列的图像传感器
US20230154945A1 (en) Image sensor
US20220408038A1 (en) Image sensing device
US20230005980A1 (en) Image sensor
US11825226B2 (en) Image sensor and pixel array of image sensor
EP4099691A1 (en) Image sensor
US20240098384A1 (en) Image sensor including an auto-focus pixel
US20220337771A1 (en) Camera module and operating method of camera module
KR20230135389A (ko) 이미지 센싱 장치 및 그 이미지 신호 프로세싱 방법
KR20240082675A (ko) 이미지 신호 프로세서 및 그 이미지 센싱 장치
KR20210114313A (ko) 이미지 비닝 방법 및 그 이미지 센싱 장치
KR20230067491A (ko) 이미지 센서, 어플리케이션 프로세서 및 이미지 센싱 장치
CN116095525A (zh) 图像传感器、应用处理器和图像感测装置