KR101763436B1 - 상이한 광 감도들을 갖는 포토다이오드들을 갖는 이미징 어레이 및 관련 이미지 복원 방법들 - Google Patents

상이한 광 감도들을 갖는 포토다이오드들을 갖는 이미징 어레이 및 관련 이미지 복원 방법들 Download PDF

Info

Publication number
KR101763436B1
KR101763436B1 KR1020120081335A KR20120081335A KR101763436B1 KR 101763436 B1 KR101763436 B1 KR 101763436B1 KR 1020120081335 A KR1020120081335 A KR 1020120081335A KR 20120081335 A KR20120081335 A KR 20120081335A KR 101763436 B1 KR101763436 B1 KR 101763436B1
Authority
KR
South Korea
Prior art keywords
pixel
sensors
saturated
pixel sensors
pixels
Prior art date
Application number
KR1020120081335A
Other languages
English (en)
Other versions
KR20130012935A (ko
Inventor
라스티슬라브 루칵
쉬리 라마스와미
상훈 배
Original Assignee
포베온, 인크.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US13/473,313 external-priority patent/US8842912B2/en
Application filed by 포베온, 인크. filed Critical 포베온, 인크.
Publication of KR20130012935A publication Critical patent/KR20130012935A/ko
Application granted granted Critical
Publication of KR101763436B1 publication Critical patent/KR101763436B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14623Optical shielding
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • H01L27/14627Microlenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/585Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise

Landscapes

  • Engineering & Computer Science (AREA)
  • Power Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Input (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Image Processing (AREA)

Abstract

픽셀 센서 어레이는 제1 이득을 갖는 복수의 픽셀 센서들과 제1 이득보다 작은 제2 이득을 갖는 복수의 픽셀 센서들을 포함한다.

Description

상이한 광 감도들을 갖는 포토다이오드들을 갖는 이미징 어레이 및 관련 이미지 복원 방법들{IMAGING ARRAY HAVING PHOTODIODES WITH DIFFERENT LIGHT SENSITIVITIES AND ASSOCIATED IMAGE RESTORATION METHODS}
관련된 출원들
본 출원은 2011년 7월 26일자로 제출된 미국 가특허 출원 번호 제61/511,661호의 우선권을 주장한다.
발명의 분야
본 발명은 포토센서들 및 포토센서들의 이미징 어레이들에 관한 것이다. 보다 구체적으로, 본 발명은 상이한 광 감도를 갖는 픽셀들을 이용하여 형성된 이미징 어레이들 및 그러한 이미징 어레이들을 이용하여 캡쳐된 디지털 이미지의 시각적 정보를 복원하는 방법들에 관한 것이다.
이미지 센서는 일반적으로 포토다이오드들로서 형성된 광감성(light-sensitive) 셀들(포토센서들)의 어레이이다. 이미지의 품질 및 동적 범위는 픽셀 센서들 그 자체의 특성에 의해 제한되며, 특히, 센서 셀들이 일반적으로 포화되는, 즉, 센서들이 수집할 수 있는 최대 전하에 도달하는 밝은 이미지 영역에서 제한된다. 포화 레벨을 초과하면 캡쳐된 이미지들에 화면 반점 부산물(blooming artifacts)을 만들어 낸다.
이미지 센서는 일반적으로 포토다이오드들로서 형성되는 감광성 셀들(포토센서들)의 어레이다. 모두가 동일한 광 감도를 갖는 포토센서들을 이용하는 종래의 이미지 센서들과는 달리, 본 발명은 상이한 광 감도들을 갖는 포토다이오드들을 이용하는 센서를 제시한다. 본 발명은, 특히 센서 셀들이 일반적으로 포화되는 밝은 이미지 영역들에서, 이미지들의 품질 및 동적 범위 모두를 향상시킨다.
종래 기술의 이미지 센서들에 내재하는 문제를 극복하기 위해, 본 발명은 정상의 광 감도를 갖는 포토다이오드들 및 더 낮은 광 감도를 갖는 포토다이오드들 모두를 포함하는 이미지 센서를 지향한다. 정상의 광 감도를 갖는 포토다이오드들은, 낮은 값들로부터 포화되지 않은 높은 값들까지 범위의 광 감도들과 연관된 시각적 정보를 캡처링하는 것을 목적으로 한다. 더 낮은 광 감도를 갖는 포토다이오드들은 정상 광 감도를 갖는 포토다이오드들이 일반적으로 포화되는 하이라이트를 갖는 영역들에서 시각적 정보를 캡처링하는 것을 목적으로 한다. 더 낮은 감도의 포토다이오드들은 몇가지 상이한 방식들, 예를 들어, 포토다이오드에 들어오는 광을 차단하거나 포토다이오드의 커패시턴스를 변화시킴으로써 달성될 수 있다.
포화되지 않는 영역들에서, 적절한 이득들을 적용함에 의해 더 낮은 광 감도를 갖는 포토다이오드들에 대응하는 픽셀 값들을 정상의 광 감도를 갖는 포토다이오드들에 대응하는 픽셀 값들로 가져감으로써 고품질 이미지 정보가 복원된다. 본 명세서에서 하이라이트 픽셀 이득으로서 지칭되는 이들 이득들은, 일반적으로 교정(calibration)에서 획득된다. 대안적으로, 임의의 하이라이트 픽셀의 하이라이트 픽셀 이득은 하이라이트 픽셀의 이웃에서 이용가능한 비-포화된 정상 광 감도 픽셀들의 평균 값 또는 (예를 들어, 가우시안 가중치를 이용하여) 가중된 평균값과 하이라이트 픽셀 값의 비로서 계산될 수 있다. 대안의 해결책은 이미지 보간 또는 신호 추정에 의해, 정상 광 감도를 갖는 포토다이오드들에 대응하는 이웃 픽셀 값들을 이용하여 더 낮은 광 감도를 갖는 포토다이오드들에 대응하는 픽셀 값들을 복원하는 것을 목적으로 할 수 있다.
본 발명에 따른 감소된 감도들을 갖는 픽셀들을 결합하여 디지털 이미지들에서 하이라이트들을 복원하는 방법들이 개시된다.
본 발명에 도입된 개념은, 정상 광 감도를 갖는 포토다이오드들의 어레이에서 더 낮은 광 감도를 갖는 포토다이오드들의 다양한 주기적, 의사-랜덤, 및 랜덤 구성과 같은 임의의 포토다이오드 레이아웃에 적용가능하다. 또한, 본 발명은 제시된 개념이 융통성이 있기 때문에 임의의 특정 감도 설정으로 한정되지 않으며, 상이한 감도들을 갖는 포토다이오드들을 허용한다.
도 1은 통상적인 종래 기술 픽셀의 단면도이다.
도 2는 본 발명의 일 양태에 따른 감소된 감도 픽셀의 단면도이다.
도 3은 정상 픽셀 및 감소된 감도 픽셀 모두에 대한 면판(face-plate) 노출 대 픽셀 출력의 그래프이다.
도 4는 본 발명에 따른 감소된 감도 픽셀에 대한 광 차폐의 일 예시적인 실시예를 도시하는 도면이다.
도 5는 본 발명에 따른 감소된 감도 픽셀에 대한 광 차폐의 다른 예시적인 실시예를 도시하는 도면이다.
도 6은 본 발명에 따른 감소된 감도 픽셀들을 정의하는 픽셀 어레이 위에 배치된 그리드 부분의 예시적인 형태를 도시하는 도면이다.
도 7은 본 발명에 따른 규칙적인 방식으로 배치된 감소된 감도 픽셀들을 포함하는 본 발명에 따른 예시적인 픽셀 어레이의 부분을 도시하는 도면이다.
도 8은 본 발명에 따른 다이아몬드 패턴으로 규칙적인 방식으로 배치된 감소된 감도 픽셀들을 포함하는 본 발명에 따른 예시적인 픽셀 어레이의 부분을 도시하는 도면이다.
도 9는 본 발명에 따른 예시적인 이미지 복원 방법을 도시하는 흐름도이다.
도 10은 본 발명에 따른 다른 예시적인 이미지 복원 방법을 도시하는 흐름도이다.
도 11은 본 발명에 따른 또 다른 예시적인 이미지 복원 방법을 도시하는 흐름도이다.
본 기술분야의 당업자는 본 발명의 이하의 설명이 예시적일 뿐이며 임의의 방식으로 한정하는 것이 아님을 알 것이다. 그러한 당업자들에게 본 발명의 다른 실시예들이 명확하게 제공된다.
본 발명에 따른 이미징 어레이들은 2개의 상이한 광 감도들을 갖는 픽셀 센서들을 포함한다. 제1 복수의 픽셀 센서들은 제1 광 감도를 갖고, 제2 복수의 픽셀 센서들은 제1 광 감도보다 낮은 제2 광 감도를 갖는다. 제1 복수의 픽셀은 때로는 본 명세서에서 "정상" 픽셀들로서 지칭되며, 제2 복수의 픽셀은 때로는 본 명세서에서 "하이라이트" 픽셀들로서 지칭된다.
도 1을 참조하면, 정상 픽셀(10)의 단면도가 도시된다. 포토센서(도시되지 않음)가 기판(12)에 형성된다. 픽셀을 동작시키는데 필요한 트랜지스터들을 제조하는데 이용되는 폴리실리콘층(14)의 일부가 기판 위에 배치되는 것으로 도시된다. 또한, 3개의 예시적인 금속 상호접속층들(16, 18 및 20)의 일부가 도시된다. CMOS 이미지 센서는 선택된 기술에 따라 적거나 많은 금속층들을 가질 수 있다. 도 1에 도시된 바와 같이, 폴리실리콘층(14) 및 금속 상호접속층들(16, 18 및 20)은, 그들이 가시 광을 흡수하기 때문에 포토-다이오드 위에 위치되지 않는다.
픽셀 영역을 정의하는 그리드(22)의 일부가 도 1에 도시된다. 평탄화/패시베이션(planarization/passivation)층(24)이 픽셀의 표면 위에 배치될 수 있다. 이러한 층은 폴리머층 및 또는 질화물층으로부터 형성될 수 있다. 마이크로렌즈(26)는 본 기술분야에 알려진 바와 같이 평탄화/패시베이션층 위에 형성될 수 있다. 마이크로렌즈는 픽셀에서 포토센서(들)로 인입하는 광을 집중(focus)시키는데 이용된다.
일부 이미징 어레이들에서, 픽셀 어레이의 에지 상의 열들(columns) 및 행들(rows)에 대해 모든 광을 의도적으로 차단하기 위해 어두운 광 차폐가 통상적으로 이용된다. 이들 어두운 열들 및 행들은 이미저(imager)의 잡음원을 특징지우는 데이터를 제공한다.
이제 도 2를 참조하면, 본 발명의 일 양태에 따른 감소된 감도 픽셀(30)의 단면도가 도시된다. 도 1의 픽셀(10)에서와 같이, 픽셀(30)은 기판(12)에 형성된 포토센서(도시되지 않음)를 포함한다. 폴리실리콘층(14)의 일부가 기판 위에 배치되는 것으로 도시되고, 3개의 예시적인 금속 상호접속층들(16, 18 및 20)의 일부가 도시된다.
평탄화/패시베이션 층(24)이 픽셀의 표면 위에 배치되고, 마이크로렌즈(26)가 본 기술분야에 공지된 평탄화/패시베이션 층(24) 위에 형성된다. 마이크로렌즈(26)는 픽셀 내의 포토센서(들) 상으로 입사광을 포커스하는데 사용된다. 그러나, 도 1의 픽셀(10)과 달리, 도 2의 픽셀(30)은 다크 쉴드 재료(32)의 층에 의해 생성된 감소된 개구(aperture) 크기를 갖는다. BEOL(back-end-of-line)에서 사용된 금속들은 광학적으로 불투명하기 때문에, 다크 쉴드 재료(32)는 BEOL 프로세싱에서 사용된 임의의 금속일 수 있다.
픽셀의 표면 또는 표면 근처에 배치된 다크 쉴드 재료(32)가 도시되어 있지만, 임의의 금속층 또는 복수의 금속층의 결합의 일부분들이 입사광의 일부를 차단하는데 사용되어 결과적인 감도가 정상 픽셀의 감도보다 낮게 될 수 있다는 것을 본 기술분야의 당업자들은 인식할 것이다. 금속 또는 프로세스와 호환되고 낮은 광 투과율을 갖는 임의의 다른 재료를 광 쉴드 재료로서 선택할 수 있다. 도 1에 도시된 바와 같은 그리드(22)가 사용되면, 그리드(22)는 픽셀(30)과 같은 감소된 감도 픽셀들에 대해 작은 개구들을 갖도록 패터닝될 수 있다.
본 발명의 일 양태에 따르면, 픽셀에 입사하는 광의 1/2 내지 1/8을 제공하도록 조절되는 개구를 갖는 부분적인 광 쉴드가 생성된다. 이러한 개념은 도 1 및 도 2에 도시되어 있고, 여기에서 2차원 광선 트레이싱들은 단면들에서 점선들로 도시된다. 도 1은 정상 픽셀(10)에 대한 광선 트레이스를 도시하는 한편. 도 2는 개구를 갖는 다크 금속을 사용하여 도 1의 픽셀(10)에 입사하는 광의 대략 1/4 만이 픽셀(30)로 입사할 수 있게 하는 것을 도시한다. 도 3은 도 1의 정상 픽셀과 도 2의 감소된 감도 픽셀 모두에 대한 면판 노출(face-plate exposure) 대 픽셀 출력을 도시하는 그래프이다.
감소된 감도 픽셀에 대한 예시적인 목표 범위는 통상적으로 정상 픽셀의 약 1/2 내지 1/8이지만, 본 기술분야의 당업자라면 다른 범위들이 사용될 수 있다는 것을 쉽게 이해할 것이다. 예를 들어, 픽셀에 입사하는 광량이 정상 픽셀의 입사광의 1/4로 감소하면, 감도는 정상 픽셀의 감도의 대략 1/4가 된다. 주어진 기술에 대하여 통상의 픽셀과 비교시에 감소된 광 감도를 갖는 포토다이오드들을 제조하기 위해, 광 쉴드를 이용할 것이다. 그것은 감소된 감도를 위해 목표된 그 픽셀들에 입사하는 광의 일부분을 차단할 것이다. 본 기술분야의 당업자에게 쉽게 인식될 수 있는 바와 같이, 광 쉴드의 개구가 작을수록 더 많은 광 감도 감소가 취득된다.
감소된 감도 픽셀을 위한 광 쉴드는 몇몇의 방법들로 구현될 수 있다. 이하 도 4 및 도 5를 참조하면, 본 발명에 따른 감소된 감도 픽셀용 광 쉴드에 대한 2개의 예시적인 기하학적 레이아웃들이 도시된다. 도 4는 정방형 개구(34)를 갖는 광 쉴드(32)를 도시한다. 본 기술분야의 당업자라면 개구에 대하여 다른 형상의 변형들이 사용될 수 있다는 것을 쉽게 이해할 것이다. 예를 들어, 도 5에 도시된 광 쉴드(32)의 8각형 개구(36), 원형 개구, 또는 면취된(chamfered) 모서리들을 갖는 정방형 개구가 이용될 수 있다.
격리된 감소된 감도 픽셀들에 대해서만 광 쉴드를 이용하는 그외의 가능한 변형이 또한 픽셀 어레이에 대하여 그리드를 형성한다. 이것은 도 6의 레이아웃으로서 도시된다. 이 경우, 광 쉴드가 금속 그리드로서 형성되면, 그것은 전원 플레인(power plane)과 같은 추가의 전기 층으로서 사용될 수 있다. 그리드의 형성은 또한 감소된 감도 픽셀들을 더 잘 제조하는 것을 도울 수 있다.
전술된 바와 같이, 정상 픽셀들과 감소된 감도 픽셀들 사이의 감도의 차이는 픽셀에 대한 개구 크기의 차이에 기인한 것이다. 본 기술분야의 당업자라면 2개의 상이한 감도를 갖는 픽셀들을 형성하는데 다른 기술들이 사용될 수 있다는 것을 이해할 것이다. 이러한 기술들은 상이한 픽셀들에서 상이한 도핑 레벨들을 이용하는 것 및 감소된 감도 픽셀에 대하여 감도된 광 투과율을 갖는 재료의 층을 형성하는 것을 포함하지만 이에 한정되는 것은 아니다.
본 발명의 일 양태에 따르면, 감소된 감도 픽셀들은 전체 이미징 어레이에 대하여 통상의 방식으로 배치된다. 감소된 감도 픽셀들은, 이미지의 전체적인 품질과 타협하기 위해서가 아니라 하이라이트 데이터에 대한 이미지 프로세싱을 보충하기 위해 간격이 떨어져 있다. 본 발명에 따른 픽셀들의 하나의 예시적인 배치는 주어진 행과 열 상의 100개의 픽셀들에 대하여 대략 매 2개씩이지만, 본 기술 분야의 당업자라면, 주기적인, 의사-랜덤(pseudo-random) 및 랜덤 등의 상이한 간격들이 이용될 수 있음을 인식할 것이다. 결과는, 감소된 감도 픽셀들은 픽셀들의 전체 수의 약 40%와 약 0.01% 사이를 차지할 수 있다는 것이다. 일 예시에서, 매 10×10 픽셀 영역에 대하여 하나의 감소된 감도 픽셀을 포함하는 배열이 도 7에 도시되어 있다. 본 기술분야의 당업자라면 픽셀들 및 배열의 크기에 따라 적절한 비율이 선택될 수 있다는 것을 인식할 것이다.
도 8을 참조하면, 다른 예시적인 하이라이트 픽셀 레이아웃/배열이 도시되고, 하이라이트 픽셀들은 다이아몬드 패턴으로 배열된다. 일반적으로, 이러한 다이아몬드 패턴은, 먼저 도 7의 간격과 유사한 규칙적인 간격을 생성한 다음 4개의 기존 하이라이트 픽셀들의 정방형의 중심에 하이라이트 픽셀을 추가함으로써 생성된다. 도 8은 하이라이트 픽셀들이 수평 방향 및 수직 방향으로 매 10번째의 픽셀마다 배치되고 대각 방향으로 매 5번째의 픽셀마다 배치되는 예시적인 배열을 도시한다.
본 발명에 도입된 개념은, 정상 광 감도를 갖는 포토다이오드들의 배열에서 더 낮은 광 감도를 갖는 포토다이오드들의 다양한 주기적인, 의사-랜덤, 및 랜덤 배열들과 같은 임의의 포토다이오드 레이아웃에 적용가능하다. 또한, 본 개념은 유연하고 상이한 감도들을 갖는 포토다이오드들을 허용하기 때문에, 본 발명은 임의의 특정한 감도 설정에 한정되지 않는다.
포화된 신호 값들을 갖는 영역들에서, 적절한 하이라이트 픽셀 이득들을 적용하여 기준 신호를 생성함으로써 더 낮은 광 감도를 갖는 포토다이오드들에 대응하는 픽셀 값들이 취득된다. 다음으로, 기준 신호 값들의 특성을 포화된 픽셀들에 맵핑함으로써, 예를 들어, 정상 광 감도를 갖는 포토다이오드들에 대응하는 비-포화된 픽셀 값들 및 이용 가능한 기준 신호 값들을 결합함으로써, 정상 광 감도를 갖는 포토다이오드들에 대응하는 픽셀 위치들에서의 이미지 정보를 복원하는데 이러한 기준 신호 값들이 사용될 수 있다.
대안의 해결책은, 이미지 보간 또는 신호 추정에 의해 더 낮은 광 감도를 갖는 포토다이오드들에 대응하는 이웃하는 픽셀 값들을 이용하여 정상 광 감도를 갖는 포토다이오드들에 대응하는 픽셀 값들을 복원하는 것을 목표로 할 수 있다. 본 기술분야의 당업자에게 쉽게 인식되는 바와 같이, 실제의 구현에 따라, 복원 프로세스를 수행하기 전에 또는 직접 복원 프로세스 중에 더 낮은 광 감도를 갖는 포토다이오드들에 대응하는 픽셀 값들에 하이라이트 픽셀 이득들이 적용될 수 있다.
본 발명에 따른 예시적인 방법(40)이 도 9를 참조하여 도시된다. 프로세스는 참조 번호(42)에서 시작된다. 참조 번호(44)에서, 하이라이트 픽셀 이득들이 하이라이트 픽셀 값들에 적용된다. 다음으로, 참조 번호(46)에서, 정상 광 감도를 갖는 포화된 픽셀을 찾는다. 참조 번호(48)에서, (하나 이상의) 하이라이트 픽셀들의 세트가 포화된 픽셀의 지역 이웃에서 식별된다. 지역 이웃은 크기가 제한된 정방형 또는 원형 윈도우를 사용하여 정의되어 적어도 하나의 하이라이트 픽셀이 이 윈도우 내에 배치될 수 있다. 이러한 윈도우의 중심은 통상적으로 수정중이거나 복원중인 정상 광 감도 픽셀에 배치된다. 대안으로, 수정중이거나 복원중인 정상 광 감도 픽셀에 대하여 공간적으로 가장 가까운 하나 이상의 하이라이트 픽셀들이 찾아진다. 이러한 공간적으로 가장 가까운 하이라이트 픽셀들의 최소수는 미리 결정될 수 있다.
참조 번호(50)에서, 지역적으로 이용 가능한 하이라이트 픽셀들에서 대응하는 비-포화된 컬러 성분들을 결합함으로써 정상 광 감도를 갖는 픽셀의 포화된 컬러 성분이 대체된다. 지역적으로 이용 가능한 하이라이트 픽셀들에서 대응하는 비-포화된 컬러 성분들의 평균 또는 가중화된 평균으로서 대체가 수행될 수 있다. 가중치들은 복원중인 픽셀 위치와 이용 가능한 하이라이트 픽셀들의 픽셀 위치들 사이의 공간 거리(예를 들어, 절대 거리 또는 유클리드(Euclidean) 거리)에 반비례하는 것으로 산출될 수 있거나, 또는 일반적으로 가중치들은 증가된 공간 거리에 대해 감소해야 한다. 대안으로, 가중치들은 복원중인 픽셀과 지역적으로 이용 가능한 하이라이트 픽셀들 사이의 차이에 반비례하는 것으로 산출될 수 있거나(모든 컬러 성분들 또는 적어도 비-포화된 컬러 채널들로부터의 성분들이 사용될 수 있음에 유의함), 일반적으로 가중치들은 증가된 픽셀 값 차이들에 대해 감소해야 한다. 대안으로, 가중치들은 공간 및 강도 차이들 모두를 결합(예를 들어, 곱셈)함으로써 산출될 수 있다. 가중치들이 산출되는 방법에 관계없이, 바이어스되지 않은 추정을 생성하도록 가중화된 평균을 수행하기 전에 가중치들은 정규화되어야 한다(가중치들의 합은 1과 일치해야 함).
참조 번호 52에서, 모든 포화된 픽셀들이 처리되었는지의 여부가 결정된다. 만약 그렇지 않다면, 프로세스는 정상 광 감도를 갖는 다른 포화된 픽셀의 위치를 찾아내는 참조 번호 46으로 반환된다. 모든 포화된 픽셀들이 처리되었다면, 프로세스는 참조 번호 54에서 종료된다.
본 발명에 따른 다른 예시적인 방법(60)이 도 10에 도시된다. 도 10의 방법(60)에서, 복구 프로세스는 복구되는 컬러 채널로부터의 강도 값들 대신에 컬러 차이들을 사용하여 수행된다. 이 경우, 포화된 컬러 채널은 이용 가능한 하이라이트 픽셀들의 (복구되는 픽셀 위치에서 관찰되는, 포화되지 않은 컬러 채널들과 포화된 컬러 채널들 간의) 평균 또는 가중화된 평균 컬러 차이를 복구되는 픽셀 위치 내의 포화되지 않은 컬러 성분에 부가함으로써 복구된다. 예를 들어, 정상 광 감도 픽셀 내에서 녹색 및 청색 채널 둘 다가 포화되었다면, 그 녹색 성분은 정상 광 감도 픽셀의 비포화된 적색 성분을 지역적으로 이용가능한 하이라이트 픽셀들의 이득화된 녹색 및 적색 성분들 간의 평균 색 차이에 부가함으로써 복구될 수 있다. 유사한 방식으로, 정상 광 감도 픽셀의 포화된 청색 성분은 정상 광 감도 픽셀의 비포화된 적색 성분을 지역적으로 이용가능한 하이라이트 픽셀들의 이득화된 청색 및 적색 성분들 간의 평균 색 차이에 부가함으로써 복구될 수 있다.
프로세스는 참조 번호 62에서 시작한다. 참조 번호 64에서, 하이라이트 픽셀 이득들이 하이라이트 픽셀 값들에 적용된다. 그 후, 참조 번호 66에서, 정상 광 감도를 갖는 포화된 픽셀의 위치를 찾아낸다. 참조 번호 68에서, 포화된 픽셀의 지역 이웃 내에서 (하나 이상의) 하이라이트 픽셀들의 세트가 식별된다. 도 9의 방법에서와 같이, 지역 이웃은, 윈도우 내에 적어도 하나의 하이라이트 픽셀이 위치하도록 크기가 제한되는 정사각형 또는 원형 윈도우를 사용하여 정의될 수 있다. 그러한 윈도우의 중심은 일반적으로, 정정되거나 복구되고 있는 정상 광 감도 픽셀에 배치된다. 대안적으로, 정정되거나 복구되고 있는 정상 광 감도 픽셀에 공간적으로 가장 가까운 하나 이상의 하이라이트 픽셀들의 위치를 찾아낸다. 그러한 공간적으로 가장 가까운 하이라이트 픽셀들의 최소한의 수는 미리 결정될 수 있다.
참조 번호 70에서, 지역적으로 이용가능한 하이라이트 픽셀들의 성분들을 사용하여 (복구되는 픽셀 위치에서 관찰되는 비포화된 컬러 채널들과 포화된 컬러 채널들 간의) 평균 또는 가중된 평균 컬러 차이가 계산된다. 참조 번호 72에서, 이 컬러 차이는 정상 광 감도 픽셀의 포화된 컬러 성분을 복구하기 위해 그것의 대응하는 비포화된 성분에 부가된다.
참조 번호 74에서, 모든 포화된 픽셀들이 처리되었는지의 여부가 결정된다. 만약 그렇지 않다면, 프로세스는 정상 광 감도를 갖는 다른 포화된 픽셀의 위치를 찾아내는 참조 번호 66으로 돌아간다. 모든 포화된 픽셀들이 처리되었다면, 프로세스는 참조 번호 76에서 종료된다.
하나의 컬러 채널만이 포화되었다면, 결과는 (두 개의 비포화된 컬러 채널들이 존재하므로) 두 개의 다양한 컬러 차이 신호들을 사용하여 복구된 샘플들을 결함함으로써 얻어질 수 있다. 본 기술분야의 당업자들은 컬러 차이 계산들이 비율들로 대체될 수 있고, 결과는 복구되는 위치의 비포화된 컬러 성분을 이용가능한 하이라이트 픽셀들의 픽셀 값들을 사용하여 계산된 평균 또는 가중된 평균 컬러 비율을 곱함으로써 얻어질 수 있다는 것을 인식할 것이다.
본 발명의 다른 양태에 따라, 본원에 개시된 하이라이트 픽셀들, 또는 본원에 개시된 비포화된 정상 광 감도 픽셀들 및 하이라이트 픽셀들을 사용하여 정정 팩터들의 적어도 하나의 테이블이 생성되는 방법들이 포화된 픽셀들을 복구하기 위해 사용될 수 있다.
이전의 예시적인 방법들에서와 같이, 하이라이트 픽셀 이득들은 복구 프로세스를 수행하기 전에, 또는 복구 프로세스 동안 직접, 하이라이트 픽셀 값들에 적용될 수 있다. 본 발명의 일 양태에 따라, 의문의 컬러 채널이 포화되지 않은 픽셀들에 대해, 하이라이트 픽셀들을 포함하는 이미지 전체가 분석된다. 대안적으로, 의문의 컬러 채널이 포화되지 않은 픽셀들에 대해 하이라이트 픽셀들만이 분석된다. 이는, 다른 제약들, 예를 들어, 정정 팩터들의 테이블을 구축하는 데 사용될 픽셀들은 특정 임계치보다 큰 발광 값을 가져야 하고, 그것들의 컬러 채널들 중 어느 것도 클리핑되지(포화되지) 않아야 한다는 것 등의 제약들과 결합될 수 있다. 이 정정 테이블을 구축하기 위해 선택된 이 픽셀들 각각에 대해 두 개의 값들이 계산되며, 각각은 하나 이상의 컬러 채널들의 함수이다. 한 값은 정정 팩터들의 테이블의 인덱스로서 사용되는 반면, 다른 값은 정정 팩터 자체이다. 그러한 동작 특성들이 요구된다면, 본 발명의 방법은 하나보다 많은 정정 팩터를 계산하는 것을 허용한다는 것을 유념한다.
정정 팩터들의 테이블 내의 입력들의 수는 테이블 크기 a로 표시된다. 이 설계 파라미터는 일반적으로 미리 결정된다. 전형적으로, a는 각각의 컬러 채널을 나타내기 위해 사용되는 비트들의 수보다 작거나 같은 값으로 설정된다. 메모리 효율적인 구현들은 더 작은 a 값들을 목표로 할 수 있다(예를 들어, 색 채널당 12비트의 표현에 대해 a = 255). 그러나, 너무 작은 값들은, 지나치게 상이한 픽셀들이 동일한 인덱스와 연관될 것이기 때문에 정정의 정확도를 감소시킬 수 있다.
인덱스 값은 하나 이상의 컬러 채널들의 함수이다. B 채널이 정정되고 있고, M은 주어진 비트 표현 내에서 최대 허용 가능한 값과 일반적으로 같은 설계 파라미터인 것을 고려하라(다른 설정들 또한 가능함). 일 예에서, 인덱스는 복구되지 않고 있는 하나 또는 두개의 컬러 채널들의 함수이다; 예컨대, 그러한 함수는 amin(R,M)/M, amin(G,M)/M, aR /(R + G), 또는 aG /(R + G)로 정의될 수 있으며, min은 최소 연산자를 나타내고 R, G, 및 B는 각각 적색, 녹색 및 청색 컬러 성분을 나타낸다. 다른 예에서, 인덱스는 복구되고 있는 컬러 채널의 함수이다; 예컨대, 그러한 함수는 amin(B,M)/M으로 정의될 수 있다. 또다른 예에서, 인덱스는 복구되고 있는 컬러 채널 및 다른 컬러 채널들 중 하나 또는 둘다의 함수이다; 예컨대, 그러한 함수는 aB /(R + G + B)로 정의될 수 있다. 최종 인덱스는 위에서 설명한 바와 같이 계산된 인덱스 값의 반올림한 버전임을 유념하라.
정정 팩터들은 또한 하나보다 많은 방식으로 결정될 수 있다. B 채널이 정정되고 있는 것을 다시 고려하라. 일 예에서, 정정 팩터는 정정되고 있는 컬러 채널의 스케일링된 값; y가 이미지 통계에 기초하여 미리 결정되거나 적응적으로 결정될 때 yB로서 계산된다. 다른 예에서, 정정 팩터는, 픽셀 내의 다른 두 개의 컬러 채널들 중 하나에 대한 정정될 컬러 채널의 비율로서 계산된다; 예컨대, 그러한 정정 팩터는 B/G 또는 B/R로서 정의될 수 있다. 다른 예에서, 정정 팩터는 정정될 컬러 채널과 픽셀 내의 다른 두 개의 컬러 채널들 중 하나 간의 차이, 즉, 예컨대 B - G 또는 B - R로서 계산된다. 다른 예에서, 정정 팩터는 정정될 컬러 채널 및 픽셀 내의 다른 컬러 채널들 둘다의 함수로서 계산된다; 예컨대, 그러한 함수는 2B - R - G, 2B/(R + G), 또는 B 2 /( RG )로 정의될 수 있다. 또다른 예에서, 두 개의 정정 팩터들이 정정될 컬러 채널과 다른 두 개의 컬러 채널들 각각 간의 비율 또는 차이로서 계산된다. 동일한 정정 팩터 계산 접근에 있어서, 동일한 인덱스 값에 대응하는 상이한 픽셀들이 상이한 정정 팩터들을 생성할 수 있으므로, 정정 팩터들의 테이블에 저장된 최종 정정 팩터는 픽셀 단위의 정정 팩터들의 함수로서 계산된다. 일 예에서, 동일한 인덱스에 대응하는 모든 픽셀들에 대한 정정 팩터들의 평균이 내어진다. 다른 예에서, 동일한 인덱스를 갖는 픽셀들의 상이한 정정 팩터들은 상이한 가중치들을 갖는다; 이러한 가중치들은 히스토그램, 특정 값으로부터의 거리 등의 함수 등과 같은 어떤 미리 결정된 조건으로서 유도될 수 있다. 정정 팩터들의 테이블을 채우기 위해 이미지 전체가 검사되면, 정정 팩터들의 테이블에 남아있는 임의의 빈 곳들은 기존 입력들을 보간(interpolate)함으로써 채워진다.
복구 절차는 이미지 내의 각각의 픽셀을 검사한다. 먼저, (테이블을 생성하기 위해 사용된 것과 동일한 접근법을 사용하여) 정정 테이블에 대한 인덱스가 계산되어, 주어진 픽셀에 대한 적절한 정정 팩터를 취득한다. B 채널이 정정되고 있는 것을 다시 고려하라. 정정 팩터가 yB와 동일한 컬러 채널을 사용하여 결정된다면, 그것의 값은 정정된 출력을 직접 나타낸다. 모든 다른 경우들에서, 정정되는 픽셀로부터의 포화되지 않은 컬러 성분은 정정 팩터 계산들에 대해 역 계산을 행함으로써 대응하는 정정 팩터와 결합된다(즉, 그것을 컬러 비율 기반 팩터들과 곱하거나, 컬러 차이 기반 팩터들에 더함). 동일한 컬러 채널에 대해 정정 팩터들의 하나보다 많은 테이블이 생성되었다면, 최종 정정된 값은 그러한 테이블 각각을 사용하여 얻어진 정정된 값들의 조합으로서 얻어질 수 있다. 픽셀의 모든 세 개의 채널들이 포화되었다면 복구를 위한 임의의 시도를 건너뛸 수 있다.
상기 나열된 예들 모두는 정정되는 채널로서 B 채널을 고려하지만, 제안된 방법의 다른 채널들에의 적용은 간단하며, 여기에서 논의되지 않을 것이다.
이제 도 11을 참조하면 흐름도는 본 발명의 양상을 따라 정정 팩터들의 테이블을 구성하고 그들을 이미지에 적용하는 예시적인 방법(80)을 도시한다. 방법은 참조 번호(82)에서 시작한다.
참조 번호(84)에서, 의심이 가는 컬러 채널이 포화되지 않은 픽셀들에 대해 전체 이미지가 분석된다. 이것은 다른 제한들과 결합될 수 있으며, 예를 들면, 정정 팩터들의 테이블을 구성하는 데에 사용되는 픽셀들은 특정 임계값보다 큰 그들의 조명 값을 가져야 하고/하거나 클리핑된(포화된) 그들의 컬러 채널 등 중 어떤 것도 가지지 못한다.
정정 테이블을 구성하는 데에 선택되는 각각의 픽셀들에 대해, 적어도 2개의 값이 하나 이상의 컬러 채널들과 각각의 함수로 계산된다. 하나의 값이 정정 팩터의 테이블에 인덱스로서 사용되는 반면, 다른 값은 정정 팩터 그 자체이다. 참조 번호(86)에서, 정정 테이블을 위한 인덱스 값이 계산되고 정정 팩터의 값이 계산된다. 당업자는 이러한 계산들의 수행되는 순서가 그다지 중요하지 않다는 것을 인지할 것이다. 본 발명의 방법은 그러한 동작 특성이 요구된다면 하나 보다 많은 정정 팩터를 계산하는 것을 고려한다.
정정 팩터의 테이블에서 엔트리들의 수는 테이블 크기 a로 표시된다. 이러한 설계 파라미터는 보통 미리 정의되어 있다. 통상적으로, a는 각각의 컬러 채널을 나타내는 데에 사용되는 비트들의 수보다 작거나 같게 설정되지만; 너무 작은 a의 값은 지나치게 상이한 픽셀들이 동일한 인덱스에 연관될 것이기 때문에 정정의 정확도를 감소시킬 수 있다.
인덱스 값은 하나 이상의 컬러 채널과 함수관계이다. B 채널이 정정되고 있고 M은 주어진 비트 표시에서 최대 허용 값과 일반적으로 동일한 설계 파라미터인 것을 고려하자(다른 설정도 가능함). 일 예시에서, 인덱스는 복원되지 않은 하나 또는 2개의 컬러 채널과 함수관계이고; 예를 들면, 그러한 함수관계는 amin(R,M)/M, amin(G,M)/M, aR /(R + G), 또는 aG /(R + G)로 정의될 수 있으며, 여기서 min은 최소 연산자 및 R, G, 및 B는 적색, 녹색, 청색 성분을 각각이 나타낸다. 다른 예시에서, 인덱스는 복원되는 컬러 채널과 함수관계이고; 예를 들면 그러한 함수관계는 amin(B,M)/M 으로 정의될 수 있다. 또 다른 예시에서, 인덱스는 복원된 컬러 채널과 하나 또는 둘 다 다른 컬러 채널들의 함수관계일 수 있고; 예를 들면, 그러한 함수는 aB /(R+G+B)로 정의될 수 있다. 최종 인덱스는 상기한 바와 같이 계산되는 인덱스 값의 라운딩 버전일 수 있음을 유의하자.
정정 팩터들은 또한 하나보다 많은 방식으로 결정될 수 있다. B 채널이 정정되는 것을 다시 고려하자. 일 예시에서, 정정 팩터는 정정된 컬러 채널의 스케일링된 값으로 계산될 수 있고; 즉, y가 미리 정의되어 있거나 이미지 통계에 기초하여 적응적으로 정의되는 yB이다. 다른 예시에서, 정정 팩터는 정정될 컬러 채널 대 픽셀 내의 다른 2개의 컬러 채널 중 하나의 비율로 계산되고; 예를 들면, 그러한 정정 팩터는 B/G, 또는 B/R로 정의될 수 있다. 다른 예시에서, 정정 팩터는 정정될 컬러 채널과 픽셀 내의 다른 2개의 컬러 채널 중 하나와의 차이로 계산될 수 있고, 즉, 예를 들면 B-G 또는 B-R 이다. 다른 예시에서, 정정 팩터는 정정될 컬러 채널과 픽셀 내의 다른 컬러 채널 둘 다의 함수관계로 계산될 수 있고; 예를 들면 그러한 함수관계는 2B-R-G, 2B/(R+G), 또는 B 2 /( RG )로 정의될 수 있다. 또 다른 예시에서, 2개의 정정 팩터들이 정정되어야 할 컬러 채널과 다른 2개의 컬러 채널들 각각과의 비율 또는 차로 계산된다. 동일한 인덱스 값에 대응하는 상이한 픽셀들이 동일한 정정 팩터 계산 방식에 대해 상이한 정정 팩터들을 생성할 수 있기 때문에, 정정 팩터들의 테이블에 저장된 최종 정정 팩터는 픽셀 단위의 정정 팩터의 함수관계로 계산된다. 일례에서, 동일한 인덱스에 대응하는 모든 픽셀들에 대한 정정 팩터들은 평균화된다. 다른 예에서, 동일한 인덱스를 갖는 픽셀들의 상이한 정정 팩터들은 상이한 가중치를 가지며; 이 가중치들은 히스토그램, 특정 값으로수터의 거리, 등과 같은 일부 미리 정의된 기준의 함수관계로 유도될 수 있다.
전체 이미지가 검사되면, 참조 번호(88)에서 정정 팩터들의 테이블이 채워지고 정정 팩터들의 테이블에 남아 있는 임의의 갭들은 존재하는 엔트리들을 보간함으로써 채워진다. 일부 경우들에서, 1개 보다 많은 정정 팩터들이 생성될 수 있다. 당업자는 정정 테이블이 인덱스 값 및 정정 팩터가 결정됨으로써 순차적으로 구성될 수 있다는 것을 인지할 것이다.
복원 절차는 포화 맵에 기초하여 이미지내의 각각의 픽셀을 검사한다. 참조 번호(90)에서, 픽셀이 선택된다. 참조 번호(92)에서, 픽셀의 모든 컬러 채널이 포화되었는지 결정된다. 그렇지 않다면, 픽셀은 처리될 수 있고 참조 번호(94)에서 픽셀에 대한 인덱스 값이 (테이블을 생성하는 데에 사용된 동일한 방식을 사용하여) 계산된다.
참조 번호(96)에서 인덱스 값이 정정 팩터를 획득하기 위해 정정 테이블을 어드레싱하는 데에 사용된다.
일부 예시에서 하나 보다 많은 정정 테이블이 이용되고 최종 정정 값이 그러한 테이블 각각을 사용하여 획득된 정정된 값의 결합으로서 획득될 수 있다. 참조 번호(98)에서, 추가 정정 테이블이 사용 중 인지 판단된다. 그렇다면, 프로세스는 추가 정정 팩터를 획득하기 위해 참조 번호(94, 96)으로 리턴한다. 모든 정정 팩터 테이블이 액세스되고 정정 팩터들이 결정되었다면, 참조 번호(100)에서 획득된 정정 팩터가 정정된 픽셀 값을 생성하도록 픽셀에 적용된다. 정정 팩터가 동일한 컬러 채널 yB를 사용하여 결정된다면, 그것의 값은 정정된 출력을 직접 나타낸다. 모든 다른 경우들에서, 정정되고 있는 픽셀로부터 비포화 컬러 성분이 정정 팩터 계산에 대한 역 계산을 따름으로써 대응하는 정정 팩터와 결합(즉, 컬러 비율-기반 팩터와 곱함, 또는 컬러 차이-기반 팩터에 더함)된다. 정정 픽셀 값은 오직 하나의 정정 테이블이 사용되었다면 직접 생성된다. 그렇지 않다면, 모든 획득된 정정 팩터가 하나 보다 많은 정정 테이블이 사용되었다면 중간 정정된 픽셀 값들을 결합하도록 픽셀에 적용된다. 그 후, 최종 정정된 픽셀 값이 저장된다.
참조 번호(102)에서, 이미지 내의 모든 픽셀이 처리되었는지 결정된다. 그렇지 않다면, 프로세스는 다른 픽셀이 처리를 위해 선택되는 참조 번호(90)으로 리턴한다. 이미지 내의 모든 픽셀이 처리되었다면 프로세스는 참조 번호(104)에서 종료한다.
본 발명의 다른 양상에 따라, 2개의 방식, 즉 정정 테이블에 기초하는 하나와 지역 이웃에서 사용가능한 하이라이트 픽셀을 사용하는 다른 하나가 결합될 수 있다. 예시적인 구현에서, 각각의 포화된 픽셀은 이 2가지 방식을 사용하여 생성된 2개의 중간 픽셀의 평균 또는 가중화된 평균으로 정정될 수 있다. 그러한 가중화된 평균 계산에서, 가중치들의 합은 바이어스되지 않은 추정치를 생성하도록 1과 동일해야 한다. 본 발명의 다른 양상에 따라, 정정 팩터의 테이블은 복원되는 실제 이미지의 하나 이상의 영역을 사용하여 계산될 수 있고; 이 영역들은 이미지 통계에 기초하여 자동적으로 결정 및/또는 사용자에 의해 선택될 수 있다. 본 발명의 다른 양상에 따라, 정정 팩터의 테이블은 복원되는 실제 이미지에 독립적으로 (예를 들면, 교정으로) 계산될 수 있다.
하이라이트 영역 외에도, 본 발명에서 제공되는 이미지 복원 개념은 고 ISO 캡쳐를 위한 이미지 처리의 실행 및 품질을 향상시키는 데에 사용될 수 있다. 그러한 경우에, 정상 감도를 갖는 포토다이오드와 더 높은 감도를 갖는, 따라서 이미지 획득 프로세스 동안 이미지에 도입되는 노이즈에 덜 영향을 받는 포토다이오드를 결합하는 것이 바람직할 수 있다. 여기서, 더 높은 감도를 갖는 픽셀에 의해 캡쳐되는 픽셀 값이 적절한 이득을 적용함으로써 스케일링 다운된다면, 가장 노이즈가 많은 하나 또는 2개의 컬러 채널은 본원에서 설명한 신호 처리 개념을 적용함으로써 더 높은 감도를 갖는 픽셀들로부터 다른 하나 또는 2개의 컬러 채널을 사용하여 복원될 수 있다(포화된 채널 대신에, 여기서는 가장 노이즈가 많은 채널 또는 가장 감도가 낮은 채널이 고려됨). 이러한 전략은 일부 미리 정의된 기준에 따라 일부 선택된 영역들(예를 들면, 저-광 영역, 일부 원하는 컬러 및 구조적인 특성 등을 갖는 영역)에서 적용되거나 또는 모든 픽셀 위치에 적용될 수 있다는 점을 유의하라.
이 발명의 실시예들 및 응용들이 기재되고 설명되었지만, 당업자에게는 상기한 것보다 많은 수정들이 본원의 발명 개념을 벗어나지 않고 가능할 것이다. 그러므로, 본 발명은 첨부한 청구범위의 사상을 제외하고는 제한되지 않는다.

Claims (7)

  1. 삭제
  2. 삭제
  3. 삭제
  4. 제1 광 감도를 갖는 제1 복수의 픽셀 센서들과 상기 제1 광 감도보다 작은 제2 광 감도를 갖는 제2 복수의 픽셀 센서들을 갖는 이미지 센서 어레이에 의해 캡처되는 이미지에서 - 상기 제1 복수의 픽셀 센서들과 상기 제2 복수의 픽셀 센서들 중의 각각의 픽셀 센서는 복수의 컬러 채널을 가짐 -, 상기 제1 복수의 픽셀 센서들에 의해 캡처되는 포화된 픽셀 데이터를 정정하는 방법으로서,
    a) 상기 제2 복수의 픽셀 센서들로부터의 픽셀 값들에 픽셀 이득들을 적용하는 단계와,
    b) 상기 제1 복수의 픽셀 센서들에서 적어도 하나의 포화된 컬러 성분을 갖는 픽셀을 선택하는 단계와,
    c) 선택된 제1 픽셀 센서의 지역 이웃에서 상기 제2 복수의 픽셀 센서들 중 적어도 하나를 식별하는 단계와,
    d) 상기 제2 복수의 픽셀 센서들에서 식별된 픽셀들의 대응하는 비포화된 컬러 성분들을 결합함으로써 선택된 픽셀 데이터의 포화된 컬러 성분을 대체하는 단계와,
    e) 모든 포화된 픽셀 센서들로부터의 픽셀 데이터가 처리될 때까지 b) 내지 d) 단계를 반복하는 단계
    를 포함하는 방법.
  5. 제1 광 감도를 갖는 제1 복수의 픽셀 센서들과 상기 제1 광 감도보다 작은 제2 광 감도를 갖는 제2 복수의 픽셀 센서들을 갖는 이미지 센서 어레이에 의해 캡처되는 이미지에서 - 상기 제1 복수의 픽셀 센서들과 상기 제2 복수의 픽셀 센서들 중의 각각의 픽셀 센서는 복수의 컬러 채널을 가짐 -, 상기 제1 복수의 픽셀 센서들에 의해 캡처되는 포화된 픽셀 데이터를 정정하는 방법으로서,
    a) 상기 제2 복수의 픽셀 센서들의 픽셀 값들에 픽셀 이득들을 적용하는 단계와,
    b) 상기 제1 복수의 픽셀 센서들에서 적어도 하나의 포화된 컬러 성분을 갖는 픽셀을 선택하는 단계와,
    c) 선택된 제1 픽셀 센서의 지역 이웃에서 상기 제2 복수의 픽셀 센서들 중 적어도 하나를 식별하는 단계와,
    d) 상기 제1 복수의 픽셀 센서들에서 선택된 픽셀의 비포화된 컬러 성분과, 상기 제2 복수의 픽셀 센서들에서 식별된 지역적으로 이용가능한 픽셀들의 비포화된 컬러 채널 및 포화된 컬러 채널로부터의 픽셀 데이터 간의 대응하는 평균 또는 가중 평균 차이와의 합으로, 상기 제1 복수의 픽셀 센서들에서 선택된 픽셀의 포화된 컬러 성분을 대체하는 단계와,
    e) 적어도 하나의 포화된 컬러 채널을 갖는 모든 픽셀 센서들로부터의 픽셀 데이터가 처리될 때까지 b) 내지 d) 단계를 반복하는 단계
    를 포함하는 방법.
  6. 제1 광 감도를 갖는 제1 복수의 픽셀 센서들과 상기 제1 광 감도보다 작은 제2 광 감도를 갖는 제2 복수의 픽셀 센서들을 갖는 이미지 센서 어레이에 의해 캡처되는 이미지에서 - 상기 제1 복수의 픽셀 센서들과 상기 제2 복수의 픽셀 센서들 중의 각각의 픽셀 센서는 복수의 컬러 채널을 가짐 -, 상기 제1 복수의 픽셀 센서들에 의해 캡처되는 포화된 픽셀 데이터를 정정하는 방법으로서,
    a) 상기 제2 복수의 픽셀 센서들의 픽셀 값들에 픽셀 이득들을 적용하는 단계와,
    b) 상기 제1 복수의 픽셀 센서들에서 적어도 하나의 포화된 컬러 성분을 갖는 픽셀을 선택하는 단계와,
    c) 선택된 제1 픽셀 센서의 지역 이웃에서 상기 제2 복수의 픽셀 센서들 중 적어도 하나를 식별하는 단계와,
    d) 상기 제1 복수의 픽셀 센서들에서 선택된 픽셀의 비포화된 컬러 성분과, 상기 제2 복수의 픽셀 센서들에서 식별된 지역적으로 이용가능한 픽셀들의 비포화된 컬러 채널 및 포화된 컬러 채널로부터의 픽셀 데이터 간의 대응하는 평균 또는 가중 평균 비와의 곱으로, 상기 제1 복수의 픽셀 센서들에서 선택된 픽셀의 포화된 컬러 성분을 대체하는 단계와,
    e) 적어도 하나의 포화된 컬러 채널을 갖는 모든 픽셀 센서들로부터의 픽셀 데이터가 처리될 때까지 b) 내지 d) 단계를 반복하는 단계
    를 포함하는 방법.
  7. 제1 광 감도를 갖는 제1 복수의 픽셀 센서들과 상기 제1 광 감도보다 작은 제2 광 감도를 갖는 제2 복수의 픽셀 센서들을 갖는 이미지 센서 어레이에 의해 캡처되는 이미지에서 - 상기 제1 복수의 픽셀 센서들과 상기 제2 복수의 픽셀 센서들 중의 각각의 픽셀 센서는 복수의 컬러 채널을 가짐 -, 상기 제1 복수의 픽셀 센서들에 의해 캡처되는 포화된 픽셀 데이터를 정정하는 방법으로서,
    a) 컬러 채널을 선택하는 단계와,
    b) 전체 이미지를 분석하여 비포화된 픽셀들을 식별하는 단계와,
    c) 각각의 식별된 픽셀 데이터에 대하여, 하나 이상의 컬러 채널들의 함수로서 정정 팩터들의 테이블에 대한 인덱스 및 정정 팩터를 계산함으로써 정정 테이블을 구축하는 단계와,
    d) 상기 정정 테이블에서 기존의 엔트리들을 보간함으로써 상기 정정 테이블에서 임의의 갭들을 채우는 단계와,
    e) 상기 제1 복수의 픽셀 센서들에서 픽셀을 선택하는 단계와,
    f) 상기 픽셀 데이터에서 모든 컬러 채널들이 포화되어 있는지를 판정하는 단계와,
    g) 상기 선택된 픽셀로부터의 픽셀 데이터에서 모든 컬러 채널들이 포화되어 있지 않은 경우에만,
    상기 픽셀에 대한 인덱스 값을 계산하고,
    상기 계산된 인덱스 값을 이용하여 상기 정정 테이블을 어드레싱하여 상기 정정 팩터를 획득하고,
    상기 획득된 정정 팩터를 상기 픽셀 데이터에 적용하여 정정된 픽셀 데이터 값을 생성하는 단계와,
    h) 적어도 하나의 포화된 컬러 채널을 갖는 모든 픽셀 센서들로부터의 픽셀 데이터가 처리될 때까지 e) 내지 g) 단계를 반복하는 단계
    를 포함하는 방법.
KR1020120081335A 2011-07-26 2012-07-25 상이한 광 감도들을 갖는 포토다이오드들을 갖는 이미징 어레이 및 관련 이미지 복원 방법들 KR101763436B1 (ko)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201161511661P 2011-07-26 2011-07-26
US61/511,661 2011-07-26
US13/473,313 2012-05-16
US13/473,313 US8842912B2 (en) 2011-05-19 2012-05-16 Method for processing highlights and saturated regions in a digital image
US13/550,436 2012-07-16
US13/550,436 US9191556B2 (en) 2011-05-19 2012-07-16 Imaging array having photodiodes with different light sensitivities and associated image restoration methods

Publications (2)

Publication Number Publication Date
KR20130012935A KR20130012935A (ko) 2013-02-05
KR101763436B1 true KR101763436B1 (ko) 2017-07-31

Family

ID=47503328

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120081335A KR101763436B1 (ko) 2011-07-26 2012-07-25 상이한 광 감도들을 갖는 포토다이오드들을 갖는 이미징 어레이 및 관련 이미지 복원 방법들

Country Status (5)

Country Link
US (2) US9191556B2 (ko)
JP (1) JP6177507B2 (ko)
KR (1) KR101763436B1 (ko)
CN (1) CN102905090B (ko)
DE (1) DE102012213189B4 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022120029A1 (en) * 2020-12-04 2022-06-09 Lumileds Llc Reduction of defective pixel appearance in light-emitting arrays

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8842912B2 (en) * 2011-05-19 2014-09-23 Foveon, Inc. Method for processing highlights and saturated regions in a digital image
US9191556B2 (en) * 2011-05-19 2015-11-17 Foveon, Inc. Imaging array having photodiodes with different light sensitivities and associated image restoration methods
JP5961149B2 (ja) * 2013-08-26 2016-08-02 キヤノン株式会社 画像処理装置およびその制御方法
KR102171387B1 (ko) * 2014-03-06 2020-10-28 삼성전자주식회사 포화 픽셀 데이터의 보정 방법 및 이를 이용한 이미지 데이터의 프로세싱 방법
KR20160109694A (ko) * 2015-03-12 2016-09-21 삼성전자주식회사 이미지 센서 및 상기 이미지 센서를 포함하는 이미지 처리 시스템
DE102015225797B3 (de) 2015-12-17 2017-05-04 Robert Bosch Gmbh Optischer Detektor
JP2017163010A (ja) 2016-03-10 2017-09-14 ソニー株式会社 撮像装置、電子機器
US10002408B2 (en) * 2016-08-04 2018-06-19 Intel Corporation Restoring color and infrared images from mosaic data
JP2018186317A (ja) * 2017-04-24 2018-11-22 株式会社シグマ 撮像装置
US10475840B1 (en) 2018-10-02 2019-11-12 Foveon, Inc. Imaging array having improved surface-to-detector light transmission
KR20210002966A (ko) * 2019-07-01 2021-01-11 삼성전자주식회사 이미지 센서 및 그것의 구동 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001054017A (ja) 1999-08-09 2001-02-23 Minolta Co Ltd 固体撮像装置及び固体撮像装置の信号処理方法
JP2003060983A (ja) * 2001-08-10 2003-02-28 Olympus Optical Co Ltd 撮像装置
JP2003524347A (ja) 2000-02-23 2003-08-12 ザ トラスティーズ オブ コロンビア ユニヴァーシティ イン ザ シティ オブ ニューヨーク 高ダイナミックレンジ画像を獲得する方法及び装置
JP2006191114A (ja) * 2004-12-30 2006-07-20 Dongbuanam Semiconductor Inc Cmosイメージセンサのカラーフィルターアレイ

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7199410B2 (en) * 1999-12-14 2007-04-03 Cypress Semiconductor Corporation (Belgium) Bvba Pixel structure with improved charge transfer
JP4115574B2 (ja) 1998-02-02 2008-07-09 オリンパス株式会社 撮像装置
FR2796740B1 (fr) 1999-07-19 2001-10-26 Ge Medical Syst Sa Procede et systeme de gestion de la saturation sur une image radiographique numerisee
US6937362B1 (en) 2000-04-05 2005-08-30 Eastman Kodak Company Method for providing access to an extended color gamut digital image and providing payment therefor
US6646246B1 (en) * 2000-11-21 2003-11-11 Eastman Kodak Company Method and system of noise removal for a sparsely sampled extended dynamic range image sensing device
US6765611B1 (en) * 2000-11-21 2004-07-20 Eastman Kodak Company Method for compressing an image from a sparsely sampled extended dynamic range image sensing device
GB0212367D0 (en) 2002-05-29 2002-07-10 Eastman Kodak Co Image processing
JP4094364B2 (ja) * 2002-07-19 2008-06-04 富士フイルム株式会社 固体撮像装置およびその測光方法
JP4322166B2 (ja) * 2003-09-19 2009-08-26 富士フイルム株式会社 固体撮像素子
US20050140804A1 (en) * 2003-12-29 2005-06-30 Eastman Kodak Company Extended dynamic range image sensor capture using an array of fast and slow pixels
JP4500574B2 (ja) * 2004-03-30 2010-07-14 富士フイルム株式会社 広ダイナミックレンジカラー固体撮像装置及びこの固体撮像装置を搭載したデジタルカメラ
KR100594155B1 (ko) * 2004-10-04 2006-06-28 삼성전자주식회사 색분산에 강한 이중 바이너리 광송신기
US7593603B1 (en) 2004-11-30 2009-09-22 Adobe Systems Incorporated Multi-behavior image correction tool
US7636115B2 (en) * 2005-08-11 2009-12-22 Aptina Imaging Corporation High dynamic range imaging device using multiple pixel cells
JP4487944B2 (ja) * 2006-02-09 2010-06-23 ソニー株式会社 固体撮像装置
KR100830587B1 (ko) * 2007-01-10 2008-05-21 삼성전자주식회사 이미지 센서 및 이를 이용한 이미지 표시 방법
WO2008135995A2 (en) 2007-05-07 2008-11-13 D-Blur Technologies Ltd. Image restoration with enhanced filtering
WO2009042901A1 (en) * 2007-09-28 2009-04-02 Regents Of The University Of Minnesota Image sensor with high dynamic range imaging and integrated motion detection
TWI504256B (zh) * 2008-04-07 2015-10-11 Sony Corp 固態成像裝置,其訊號處理方法,及電子設備
JP2009284010A (ja) * 2008-05-19 2009-12-03 Canon Inc 画像処理装置、撮像装置及び画像処理方法
US7964840B2 (en) * 2008-06-19 2011-06-21 Omnivision Technologies, Inc. High dynamic range image sensor including polarizer and microlens
CN101931756B (zh) 2009-06-19 2012-03-21 比亚迪股份有限公司 一种提高cmos图像传感器动态范围的装置和方法
US8648948B2 (en) * 2009-09-30 2014-02-11 Infrared Newco, Inc. Imaging systems with multiple imaging pixel types and related methods
JP5630991B2 (ja) 2009-12-14 2014-11-26 キヤノン株式会社 撮像装置
JP5454894B2 (ja) 2009-12-16 2014-03-26 株式会社東芝 固体撮像装置およびその製造方法
WO2011078999A1 (en) * 2009-12-24 2011-06-30 Imagerlabs Inc. Adjustable cmos sensor array
JP5025746B2 (ja) * 2010-03-19 2012-09-12 株式会社東芝 固体撮像装置
US9191556B2 (en) * 2011-05-19 2015-11-17 Foveon, Inc. Imaging array having photodiodes with different light sensitivities and associated image restoration methods

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001054017A (ja) 1999-08-09 2001-02-23 Minolta Co Ltd 固体撮像装置及び固体撮像装置の信号処理方法
JP2003524347A (ja) 2000-02-23 2003-08-12 ザ トラスティーズ オブ コロンビア ユニヴァーシティ イン ザ シティ オブ ニューヨーク 高ダイナミックレンジ画像を獲得する方法及び装置
JP2003060983A (ja) * 2001-08-10 2003-02-28 Olympus Optical Co Ltd 撮像装置
JP2006191114A (ja) * 2004-12-30 2006-07-20 Dongbuanam Semiconductor Inc Cmosイメージセンサのカラーフィルターアレイ

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022120029A1 (en) * 2020-12-04 2022-06-09 Lumileds Llc Reduction of defective pixel appearance in light-emitting arrays
US11901481B2 (en) 2020-12-04 2024-02-13 Lumileds Llc Reduction of defective pixel appearance in light-emitting arrays

Also Published As

Publication number Publication date
DE102012213189A1 (de) 2013-01-31
US9942495B2 (en) 2018-04-10
US9191556B2 (en) 2015-11-17
DE102012213189B4 (de) 2021-02-11
KR20130012935A (ko) 2013-02-05
JP6177507B2 (ja) 2017-08-09
US20130027591A1 (en) 2013-01-31
CN102905090A (zh) 2013-01-30
CN102905090B (zh) 2017-03-01
JP2013081154A (ja) 2013-05-02
US20160073046A1 (en) 2016-03-10

Similar Documents

Publication Publication Date Title
KR101763436B1 (ko) 상이한 광 감도들을 갖는 포토다이오드들을 갖는 이미징 어레이 및 관련 이미지 복원 방법들
US7830426B2 (en) Method and apparatus providing color interpolation in color filter arrays using edge detection and correction terms
US6646246B1 (en) Method and system of noise removal for a sparsely sampled extended dynamic range image sensing device
JP4846608B2 (ja) 固体撮像装置
JP4161295B2 (ja) 画像センサのダイナミックレンジを拡大するカラー画像撮像システム
US7876363B2 (en) Methods, systems and apparatuses for high-quality green imbalance compensation in images
US9560294B2 (en) Systems and methods for pixel-level dark current compensation in image sensors
JP6021613B2 (ja) 撮像素子、撮像装置、および、撮像システム
EP2290950A2 (en) Method and apparatus for obtaining high dynamic range images
US20070133893A1 (en) Method and apparatus for image noise reduction
JP5420730B2 (ja) 画像の平均信号対雑音比値を推定するための方法およびカメラ
US8902336B2 (en) Dynamic, local edge preserving defect pixel correction for image sensors with spatially arranged exposures
US9456155B2 (en) Image processing apparatus, method, and program, and image pickup apparatus having image processing apparatus
WO2015198875A1 (ja) イメージセンサ、演算方法、および電子装置
JP2008514134A (ja) 有効ダイナミック・レンジの拡張
US9153036B2 (en) Texture detection in image processing
US20110205404A1 (en) Image processing device and image processing method
US20230177713A1 (en) Information processing apparatus, information processing method, and program
CN111885281B (zh) 图像处理
JP5933690B2 (ja) 画像処理装置及び方法、並びに画像処理プログラム
TOADERE et al. SIMULATION OF THE FUNCTIONALITY FOR A CMOS IMAGE SENSOR WITH PASSIVE PIXELS
JP2012114782A (ja) 撮像装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant