KR101174742B1 - 색수차들 및 퍼플 프린징을 해결하기 위한 방법 및 장치 - Google Patents
색수차들 및 퍼플 프린징을 해결하기 위한 방법 및 장치 Download PDFInfo
- Publication number
- KR101174742B1 KR101174742B1 KR1020107013904A KR20107013904A KR101174742B1 KR 101174742 B1 KR101174742 B1 KR 101174742B1 KR 1020107013904 A KR1020107013904 A KR 1020107013904A KR 20107013904 A KR20107013904 A KR 20107013904A KR 101174742 B1 KR101174742 B1 KR 101174742B1
- Authority
- KR
- South Korea
- Prior art keywords
- blue
- digital image
- processor
- red
- values
- Prior art date
Links
- 230000004075 alteration Effects 0.000 title claims abstract description 106
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000012937 correction Methods 0.000 claims abstract description 61
- 241000347391 Umbrina cirrosa Species 0.000 claims description 10
- 239000013598 vector Substances 0.000 claims description 9
- 101100440695 Dictyostelium discoideum corB gene Proteins 0.000 claims description 8
- 101100324830 Escherichia coli (strain K12) mgtA gene Proteins 0.000 claims description 8
- 102100030796 E3 ubiquitin-protein ligase rififylin Human genes 0.000 claims 2
- 101710128004 E3 ubiquitin-protein ligase rififylin Proteins 0.000 claims 2
- 241001326510 Phacelia sericea Species 0.000 abstract description 21
- 238000004836 empirical method Methods 0.000 abstract 1
- 238000006073 displacement reaction Methods 0.000 description 25
- 238000010586 diagram Methods 0.000 description 20
- 230000000694 effects Effects 0.000 description 20
- 239000003086 colorant Substances 0.000 description 19
- 238000004422 calculation algorithm Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 11
- 239000000872 buffer Substances 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 9
- 238000012360 testing method Methods 0.000 description 9
- 238000012545 processing Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 241001085205 Prenanthella exigua Species 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 230000007547 defect Effects 0.000 description 4
- 238000013461 design Methods 0.000 description 4
- 239000011521 glass Substances 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 238000005259 measurement Methods 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 239000006185 dispersion Substances 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 238000003491 array Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000007480 spreading Effects 0.000 description 2
- FMKJUUQOYOHLTF-OWOJBTEDSA-N (e)-4-azaniumylbut-2-enoate Chemical compound NC\C=C\C(O)=O FMKJUUQOYOHLTF-OWOJBTEDSA-N 0.000 description 1
- 241000656145 Thyrsites atun Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000875 corresponding effect Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 125000001475 halogen functional group Chemical group 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/611—Correction of chromatic aberration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
- G06T2207/30208—Marker matrix
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Color Television Image Signal Generators (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Abstract
본원에는 색수차 및 퍼플 프린징을 검출 및 보정하기 위한 방법 및 시스템이 개시되어 있다. 색수차는 이미지를 컬러 플레인들로 분할시킨 다음에 이들을 조정하여 이미지 획득 장치를 교정하는 경험적 방법으로서 특정의 교정 이미지(교정 차트)를 통해 색수차를 감소시킴으로써 해결될 수 있다. 퍼플 프린징은 처음에 배율 색수차(lateral chromatic aberration; LCA) 때문에 생기는 컬러 수차를 해결함으로써 보정될 수 있다. 그러한 LCA는 먼저 제거된 다음에 보정이 퍼플 프린징에 이르기까지 확장된다. 이는 퍼플 프린징이 색수차의 방향으로 생성되고 색수차의 방향으로 더 동화(pronounciation)된다는 발견에 의존한다.
Description
본 발명은 일반적으로 디지털 이미지들에서 색수차들 및 퍼플 프린징을 보정하는 분야에 관한 것이다.
진공과는 다른 어떤 매질의 굴절률은 파장에 따라 변한다. 따라서, 임의의 굴절 광학 시스템의 가우스(Gaussian) 및 수차의 성질들은 파장의 함수들이다. 다시 말하면, 색수차(chromatic aberration)들이 존재한다. 감지할 수 있는 파장 범위에 걸쳐 사용하도록 의도된 대부분의 최신 굴절 시스템들의 성능은, 궁극적으로 가우스 및 그보다 높은 정도의 색 효과들에 의해 제한을 받는다. 유용한 예로서는, 천체 망원경(astronomical telescope) 설계의 역사를 들 수 있다. 이삭 뉴우톤(Issac Newton)은 반사 망원경을 발명하였는데, 그 이유는 그가 고려했던 것이 2개의 단일 렌즈를 결합하여 소위 색지움 접합 렌즈(achromatic doublet)를 형성함으로써 단일 렌즈들에서의 색 효과들을 보정하는 것이 가능하지 않다는 것이었기 때문이며, 실제로 그가 생각했던 것은 비록 서로 다른 유리들이라도 비례 상수가 동일할 경우에 모든 렌드들의 색 효과가 모든 렌즈들의 파워(power)들에 비례한다는 것이었다. 그리고나서, 18세기 중반에, 존 돌론드(John Dollond) 및 체스터 무어 홀(Chester Moore Hall)은 뉴우톤의 생각이 부적절한 것임을 보였고 색지움 접합 렌즈들을 만들었다. 이로 인해 점점 더 큰 망원경 접합 대물렌즈들이 만들어지게 되었다. 그러나, 대물렌즈들이 점점 더 커지고 설계 기법들이 점점 더 섬세해짐에 따라, "색지움" 접합 렌즈에서는 색수차가 아주 없어지게 되었고 "2차 스펙트럼(secondary spectrum)"으로서 알려져 있는 잔류 오차가 나타났음이 알게 되었다.
위에서 언급된 바와 같이, 빛의 서로 다른 컬러들이 소정의 매질에서 서로 다른 속도들로 전파할 경우에는, 굴절률이 파장에 의존한다. 이러한 현상은 분산(dispersion)으로 알려져 있다. 공지의 예로서는 백색광의 입사 비임을 무지개 컬러들로 분산시켜 주는 프리즘 유리(glass prism)가 있다. 사진 렌즈들은 다양한 분산 및 유전 특성을 갖는 유리들을 포함한다. 이러한 유리들은 동일 각도에서 입사광의 모든 컬러성분들을 굴절시키지 않으므로, 모든 컬러들의 초점들을 동일한 지점에 모이게 하는 전반적으로 양호한 보정 능력을 갖는 렌즈를 설계하는데 많은 노력들이 요구될 수 있다. 색수차들은 분산으로 인한 완전한 이미징으로부터의 일탈(逸脫)을 의미한다. 반면에 자이델 수차(Seidel aberration)들은 단색성을 띤다. 다시 말하면, 상기 자이델 수차들은 또한 단색성의 빛때문에 생기지만, 색수차들은 오직 다색성의 빛때문에 생긴다는 점에 유념하기 바란다.
축상 색수차(axial chromatic aberration)들
색수차는 2가지 타입으로 구별될 수 있다. 종색수차(longitudinal color aberration)로서 또한 알려져 있는 축상 컬러 수차(axial color aberration; ACA)는 렌즈가 다른 컬러들의 초점들을 동일 초점 평면에 모이게 할 수 없는 것을 의미한다. 광축상의 피사체 지점에 대하여, 여러 컬러들의 초점들이 광축상에도 있지만, 종방향(다시 말하면, 상기 광축을 따라) 배치된다. 이에 대한 동작은 도 1a - 도 1b에서 일정 광원에 대해 설명되어 있다. 이러한 개략도에서는, 단지 녹색광만이 센서상에 선명한 초점을 이루고 있다. 청색 및 적색 광은 소위 센서 평면에서 착란원(circle of confusion)을 지니며 선명하게 이미징되지 않는다. 도 1b는 종색수차의 원인(origin)들을 예시한 것이다. 도 1b는 여러 컬러들 중 3개의 컬러들의 초점 평면들이 일치하지 않음을 보인 것이다.
실용적 응용에서는, 이미지의 초점이 약간 흐려진 경우에만 컬러를 변경시키는 이미지 중심 부근의 프린지(fringe)가 존재한다면, 이는 종색수차일 가능성이 높다. 이러한 타입은 기존의 소프트웨어를 사용하여 보정될 수 없고, 이러한 타입은 렌즈의 조리개를 조여줄 경우 감소하며, 그리고 이러한 타입은 초점거리에 의존한다.
배율 색수차(
lateral
chromatic
aberration
)들
비스듬한 입사광을 통해, 또한 래터럴 컬러(lateral color)로서 알려져 있는 횡색수차(transverse chromatic aberration)가 생기게 된다. 이는 측방으로 배치된 초점들을 일컫는다. 축상 컬러가 없으면, 모든 컬러들이 동일 평면에 초점이 놓여지지만, 이미지 배율(image magnification)은 파장에 의존한다. 래터럴 컬러의 발생이 암시하는 것은 초점거리가 파장에 의존한다는 것이며, 반면에 복합 렌즈에서의 축상 컬러의 발생은 엄격하게 말하면 가변 초점거리를 필요로 하지 않는다. 이는 반직관적인(counterintuitive) 것처럼 보이지만, 종색수차에 대해 보정되는 렌즈에서는, 주평면(principal plane)들이 모든 컬러들에 대해 일치해야 할 필요가 없다. 초점거리가 후방 주평면에서 이미지 평면에 이르기 까지의 거리에 의해 결정되기 때문에, 비록 모든 이미지들이 동일 평면에 있는 경우라도 초점거리가 파장에 의존할 수 있다. 도 1c는 배율 색수차의 원인들을 예시한 것이다. 이미지의 크기는 컬러마다 바뀌게 된다. 적색 이미지는 녹색 이미지보다 크게 확대되고, 적색 및 녹색 이미지들은 청색 이미지보다 크게 확대된다.
요약하면, 렌즈가 종색수차에 대해 보정될 경우에, 서로 다른 컬러들의 초점들이 다소 광축상의 동일 지점에서 모이게 되지만, 서로 다른 컬러들의 초점들이 축으로부터 서로 다른 거리들에 놓여질 수 있기 때문에 서로 다른 컬러들에 대해 서로 다른 크기의 이미지들이 생기게 될 수 있다. 이러한 타입은 배율 또는 횡색수차(transverse chromatic aberration; TCA)라고 일컫는다.
실제적인 관점에서 볼 때, 프린지들이 중심으로부터 모서리 부분들로 점차 보색(complementary color)을 띄게 되면, 이는 횡색수차일 가능성이 크다. 이러한 타입은 소프트웨어에 의해 보정될 수 있고, 이러한 타입은 렌즈의 조리개를 조여도 변하지 않으며, 그리고 이러한 타입은 초점거리에 의존하지 않는다. 도 1d는 종축색수차(LACA) 및 횡축색수차(TACA)의 발생들에 대한 비교를 보인 개략도이다.
도 1b - 도 1c는 2가지 경우를 간단하게 구별해 놓은 것인데, 그 이유는 실제로 축상 성분과 래터럴 성분이 공존하기 때문이다. 다색의 피사체가 다양한 크기 및 위치를 갖는 단색성 이미지들의 연속체로 구성되는 이미지 공간의 체적을 차지한다. 래터럴 컬러는 망원 렌즈 및 역망원(역초점(retrofocus)) 렌즈에서 특히 현저하게 나타난다. 색수차들은 종종 달리 양호하게 보정된 망원 설계들의 성능을 제한한다. 색수차들의 전형적인 징후는 이미지의 어두운 부분과 이미지의 밝은 부분을 분리시키는 경계부들에 따른 컬러 프린징(color fringing)이다. 이는, 문헌마다 감지할 수 있는 색수차들의 효과들에 대한 설명들이 제각기 다르기도 하다. 래터럴 컬러는 축상 컬러보다 더 심한 수차를 보인다고 이해될 수 있는데, 그 이유는 래터럴 컬러가 컬러 프린지들을 나타내지만 축상 컬러가 단지 선예도(sharpness)만을 감소시키기 때문이다. 오버코헨(Oberkochen)은 다른 시각을 가지고 있으며 대부분의 현저한 컬러 수차로서 축상 컬러를 지적하고 있다. 헥트(Hecht)는 희끄무레하게 흐려지거나 흐릿해지는 오버랩으로서 색수차들의 누적 효과를 설명하고 있다. 축상 컬러에 대한 색지움 보정 기능을 갖는(축상 컬러에 대한 색지움 보정 동작을 수행하는) 광학 시스템의 잔류 컬러 오차들 때문에 각각의 이미지 지점 주위에 마젠타 할로(magenta halo) 또는 블러(blur)가 생기게 된다.
퍼플 프린징(purple fringing)
디지털 이미지들에 대한 다른 관련 문제는 퍼플 프린징이다. 이러한 프린징 효과는 퍼플(purple)과는 다른 컬러들을 지닐 수 있지만, 그러한 컬러로 흔히 보이게 되면 퍼플 프린징이라고 일반적으로 알려져 있다. 퍼플 프린징 강도는 종종 색수차와 상호관련된다. 프린지들은 종종 색수차 변위벡터들의 방향으로 형성된다. 비록 프린징의 정확한 원인들이 불명확하지만, 보다 널리 받아들여지고 있는 퍼플 프린징의 설명들 중 하나는 퍼플 프린징이 센서 블루밍(sensor blooming)의 결과이라는 것이다. 블루밍은 센서 픽셀이 포화되어 전하가 하나 이상의 이웃하는 픽셀들에 누설될 때 생기는 현상이다. 도 6a - 도 6b는 이상적인 이미징 시스템에서, 중심 픽셀에서의 녹색값이 255이고 주변 픽셀들의 값이 제로(0)이며, 화살표들로 표시된 바와 같은 검출기 열(row)들 또는 행(column)들에 따른 전하 누설이 정확한 값들보다 높은 적색 및 청색 센서 응답들을 일으키게 된다는 것을 예시하는 도면들이다.
하나의 광다이오드 웰로부터 주변의 광다이오드 웰들 내로 전하가 누설되는 경우에 나타나는 결과로 상기 주변의 광다이오드 웰들에서는 불필요하게 높은 신호가 생기게 된다. 그와 같은 불필요한 신호는 주변 센서들이 어떠한 신호도 발생시키지 않을 경우에 특히 현저해 보일 수 있는데, 그 이유는 이러한 영역들에서 장면이 어둡기 때문이다. 바꾸어 말하면, 본 발명자들은 밝은 부분으로부터 어두운 부분으로의 선명한 천이들에서 가장 강력하게 블루밍 효과를 볼 수 있을 것이라고 예상한다. 앞서 유념했던 점은 렌즈 수차들 때문에 밝은 백색광의 청색 및 적색 성분들이 부정확한 센서 위치들에서 나타나게 된다는 것이다. 전하 누설은 진정한 위치로부터 더 멀리 센서 응답을 확산시킴으로써 이러한 효과를 확대시키고, 위치 설정 오차가 디모자이킹(demosaicing)에 의해 추가로 전달된다. 이미지에 센서 블루밍이 얼마나 나타나게 되는지에 관한 효과가 고려될 수 있다. 어둠으로 둘러싸인 장면에서 매우 밝은 백색 지점이 있는 경우에, 예를 들면, 밤 장면에서의 일정 간격의 가로등, 및 이러한 지점으로부터 나오는 빛은 녹색 센서에 입사하게 된다. 그러므로, 이론적으로는, 이러한 센서에서 높은 녹색 값이 예상될 수 있고 주변의 센서들에 대하여는 낮은 값들이 예상될 수 있다. 그러나, 화살표들로 도시된 바와 같은 검출기 열들 또는 행들에 따른 전하 누설은 정확한 값보다 높은 적색 및 청색 센서 응답들을 일으키게 된다. 본 발명자들에 의한 밝기의 대략적인 추정은 30%의 적색과 59%의 녹색 및 11%의 청색을 더한 값으로서 감지될 수 있다.
결과적으로, 강화된 적색 및 청색 값들은 이미지의 밝기를 증가시키는데 거의 기여를 하지 않지만 그러한 것이 퍼플 휴(purple hue)를 제공하게 된다. 만약 그러한 지점으로부터 나온 빛이 녹색 센서 대신에 적색 센서상에 입사하게 되면, 전하 누설은 녹색 값들을 증가시켜 준다. 이는 그러한 휴를 다소 변화시키지만, 주로 밝기를 증가시키는데 기여하는데, 그 이유는 녹색이 밝기를 감지하는데 매우 강하게 기여하기 때문이다. (물론, 이러한 사실은 청색 센서에서도 적용된다.) 따라서, 센서 블루밍 때문에, 이미지의 어두운 영역들에서 불필요한 퍼플 컬러가 생기게 되고 만약 퍼플이 일반적으로 적색 및 청색의 다양한 혼합들로서 정의된다면, 이는 상기 효과가 종종 퍼플 프린징으로서 언급되는 것으로 실제로 확인된다. 도 2a - 도 2c 및 도 3a - 도 3d.
센서 블루밍이 렌즈 수차 및 보간 오차들과 상호작용하기 때문에 동일한 이미지가 수차에 의한 다양한 컬러들을 포함하는 것이 가능하다. 상기 블루밍 효과의 강도는 그의 원인으로부터 예상되는 것처럼 밝기에 강하게 의존한다.
센서 블루밍이 임의의 렌즈 색수차를 증가시키기 때문에, 본 발명자가 렌즈 수차에 의한 결함이 존재할 것이라고 예상하는 곳에서 높은 레벨의 블루밍 결함이 존재한다는 것이 특이하지는 않다.
하나의 광다이오드 웰로부터 주변의 광다이오드 웰들 내로 전하가 누설되는 경우에 나타나는 결과로 상기 주변의 광다이오드 웰들에서 불필요하게 높은 신호가 생기게 된다. 그와 같은 불필요한 신호는 주변 센서들이 어떠한 신호도 발생시키지 않을 경우에 특히 현저해 보일 수 있는데, 그 이유는 이러한 영역들에서 장면이 어둡기 때문이다. 바꾸어 말하면, 본 발명자들은 밝은 부분으로부터 어두운 부분으로의 선명한 천이들에서 가장 강력하게 블루밍 효과를 볼 수 있을 것이라고 예상한다. 렌즈 수차들 때문에 밝은 백색광의 청색 및 적색 성분들이 부정확한 센서 위치들에서 나타나게 된다. 전하 누설은 진정한 위치로부터 더 멀리 센서 응답을 확산시킴으로써 이러한 효과를 확대시키고, 위치 설정 오차가 디모자이킹에 의해 추가로 전달된다. 이미지에 센서 블루밍이 얼마나 나타나게 되는지에 관한 효과가 고려될 수 있다. 어둠으로 둘러싸인 장면에서 매우 밝은 백색 지점이 있는 경우에, 예를 들면, 밤 장면에서의 일정 간격의 가로등, 및 이러한 지점으로부터 나오는 빛은 녹색 센서에 입사하게 된다. 도 6a - 도 6b에 도시된 바와 같이, 완벽한 이미징 시스템에서, 본 발명자는 이러한 센서에서 높은 녹색 값 255를 예상하며 주변의 센서들에 대하여는 제로(0) 값들을 예상한 것이다.
그러나, 화살표들로 도시된 바와 같은 검출기 열들 및 행들에 따른 전하 누설은 정확한 값보다 높은 적색 및 청색 센서 응답들을 일으키게 된다. 본 발명자들에 의한 밝기의 대략적인 추정은 30%의 적색과 59%의 녹색 및 11%의 청색을 더한 값으로서 감지될 수 있다. 결과적으로, 강화된 적색 및 청색 값들은 이미지의 밝기을 증가시키는데 거의 기여를 하지 않지만 그러한 것이 퍼플 휴를 제공하게 된다. 만약 그러한 지점으로부터 나온 빛이 녹색 센서 대신에 적색 센서상에 입사하게 되면, 본 발명자는 상기 도면의 우측에 보인 바와 같은 경우가 나타나게 됨을 보여준다. 전하 누설은 녹색 값들을 증가시켜 준다. 이는 그러한 휴를 다소 변화시키지만, 주로 밝기를 증가시키는데 기여하는데, 그 이유는 녹색이 밝기를 감지하는데 매우 강하게 기여하기 때문이다. (물론, 이러한 사실은 청색 센서에서도 적용된다.) 따라서, 본 발명자는 센서 블루밍 때문에, 이미지의 어두운 영역들에서 불필요한 퍼플 컬러가 생기게 되는 것으로 생각하게 된 것이고 만약 본 발명자가 퍼플을 일반적으로 적색 및 청색의 다양한 혼합들로서 정의한다면, 이는 상기 효과가 종종 퍼플 글로우(purple glow) 또는 퍼플 프린징으로서 언급되는 것으로 실제로 확인된다.
센서 블루밍이 렌즈 수차 및 보간 오차들과 상호작용하기 때문에 동일한 이미지가 수차에 의한 다양한 컬러들을 포함하는 것이 가능하다. 도 3e의 이미지는 극단적이지만 실제의 예이다.
상기 블루밍 효과의 강도는 도 2a - 도 2c에 예시되어 있는 바와 같이, 그의 원인으로부터 예상되는 것처럼 밝기에 강하게 의존한다. 그러나, 밝기의 차이가 크다면 그러한 효과는 보다 낮은 밝기 레벨들로 감소된 정도로 여전히 존재할 수 있다. 이는 다음의 이미지에서 볼 수 있는데, 이러한 이미지에서는 뚜렷하고 넓은 퍼플-청색 밴드가 큰 밝기 천이(transition)에 걸쳐 나타나지만, 이러한 것은 상기 천이가 작을 경우에 나타나지 않는다. 밝기의 차이가 중간 정도일 경우에는 미약하게 나마 간신히 감지할 수 있는 좁은 청색 밴드가 보일 수 있다. 센서 블루밍이 임의의 렌즈 색수차를 증가시키기 때문에, 본 발명자가 렌즈 수차에 의한 결함이 존재할 것이라고 예상하는 곳에서 높은 레벨의 블루밍 결함이 존재한다는 것이 특이하지는 않다. 이미지 모서리 영역들에서 콘트라스트가 높을 경우에 블루밍 효과를 볼 수 있는 가장 좋은 장소는 이미지 모서리들이다. 이러한 것에 직면하는 일반적인 경우는 하늘에 대한 나무가지들이다. 도 3a - 도 3b는 나무 상의 잎 가장자리들 주위에 퍼플 프린징이 나타난 이미지와 퍼플 프린징을 감소시키거나 제거하도록 처리된 이미지 버전을 각각 예시한 것이고, 도 3c - 도 3d는 바코드 라벨 주위에 퍼플 프린징이 나타난 이미지와 퍼플 프린징을 감소시키거나 제거하도록 처리된 바코드 라벨 이미지 버전을 각각 예시한 것이다.
본 발명의 목적은 디지털 이미지 획득 장치 내의 디지털 이미지들에서 색수차들 및 퍼플 프린징을 보정하는 기법을 제공하는 것이다.
디지털 이미지 획득 장치 내의 디지털 이미지들에서 배율 색수차들을 보정하기 위한 프로세서 구현 방법이 제공되어 있다. 상기 방법은 카메라 렌즈 쌍을 교정하는 단계, 및 디지털 이미지를 획득하는 단계를 포함한다. 디지털 이미지 내에서 배율 색수차들을 보정하는 것은 다음의 단계, 즉 (1) 현재 픽셀에 대한 변위를 구하고 이를 임시 버퍼에 저장하는 단계를 포함한다. 상기 변위는 소스 버퍼에서 상대적인 위치로서 지정된다. 상기 임시 버퍼에서는 변위 값이 보간되어 저장된다. 그러한 프로세스는 다수의 픽셀들에 대해 수행된다. 상기 방법은 배율 색수차들에 보정된 보정 디지털 이미지, 부가적으로 처리된 보정 디지털 이미지 버전 또는 이들의 조합을 출력, 저장, 디스플레이, 투영, 또는 전송하는 단계를 부가적으로 포함한다.
상기 교정 단계는 테스트 이미지의 측정 지점들을 검출하는 단계, 수차를 측정하는 단계, 및 산포된 데이터를 보간하는 단계를 포함할 수 있다. 상기 수차의 측정 단계는 스레스홀딩(thresholding)을 포함할 수 있다. 상기 교정 단계는 제1 치수의 제1 및 제2 데이터 지점들을 찾아서 이들을 저장하는 단계, 선형 보간을 적용하여 상기 제1 및 제2 데이터 지점들 간의 지점들을 없게 하는 단계, 제1 지점의 값을 제2 지점의 값으로 대체하는 단계, 제2 치수를 증가시키는 단계 및 한번 이상 반복하는 단계를 포함할 수 있다.
상기 보간 단계는 sinc 필터를 적용하는 단계를 포함할 수 있다. 상기 sinc 필터는 5x5 sinc 필터일 수 있다.
디지털 이미지 획득 장치 내의 디지털 이미지들에서 배율 색수차들을 보정하기 위한 다른 한 프로세서 구현 방법이 제공되어 있다. 디지털 이미지가 획득된다. 적색(R) 및 청색(B) 채널들에 대해 보정 값들은 다음과 같이 계산된다.
R' = R + (G - R) x corR; B' = B + (G - B) x corB
상기 식 중, corR 및 corB는 각각 상기 적색 및 청색 채널들에 대해 선택된 보정 비율들이다. 배율 색수차들에 대해 보정된 보정 디지털 이미지, 및/또는 부가적으로 처리된 디지털 이미지 버전은 출력, 저장, 디스플레이, 투영, 및/또는 전송된다.
상기 선택된 보정 비율들(corR,corB)은 다음과 같이 결정될 수 있다.
CorR = {CR = 0.1 x clamp ([R(x,y) - RC(x,y)],10)} x CRB; 그리고
CorB = {CB = 0.1 x clamp ([B(x,y) - BC(x,y)],10)} x CRB
상기 식 중, clamp (.,.)는 첫번째 항이 두번째 항을 초과할 때 두번째 항을 리턴(return)하는 것이고,
abs(Rc(x,y) - Bc(x,y)) < 200인 경우,
CRB = 1 + cos[abs(Rc(x,y) - Bc(x,y))π/200이며; 그리고
abs(Rc(x,y) - Bc(x,y)) > 200인 경우,
CRB = 0이다.
상기 방법은 또한 G < R'이며 R' < B'인 경우에 컬러 변조 보정을 적용하는 단계를 포함할 수 있다.
상기 보간 단계는 하나의 픽셀 인접영역(pixel neighborhood)을 선택하는 단계 및 싱글 패스(single pass) 방식으로 상기 방법을 수행하는 단계를 포함할 수 있다.
디지털 이미지 획득 장치 내의 디지털 이미지들에서 배율 색수차들을 보정하기 위한 다른 하나의 프로세서 구현 방법이 제공되어 있다. 디지털 이미지가 획득된다. 각각의 컬러 성분에 대한 수직 및 수평 경사(gradient)들이 계산된다. 픽셀 위치 및 이미지 중심에 의해 형성되는 컬러 성분 경사 및 벡터 간의 도트 곱(dot product)을 기반으로 하여 보정 비율들이 계산된다. 새로운 적색(R') 및 청색(B') 값들은, 현재의 적색(R) 및 청색(B) 값들 및 녹색(G) 값 간의 선형 보간을 사용하여 대응하는 보정 비율들을 통해 계산된다. 배율 색수차들에 대해 보정된 보정 디지털 이미지, 및/또는 부가적으로 처리된 디지털 이미지 버전은 출력, 저장, 디스플레이, 투영, 및/또는 전송된다.
상기 보정 비율들은 다음과 같이 결정될 수 있다.
Rcorr = (x·Gradx(R) + y·Grady(R))/(abs[x2 + y2]·Rnorm이며; 그리고
Bcorr = (x·Gradx(B) + y·Grady(B))/(abs[x2 + y2]·Bnorm이고
상기 식 중,
Rnorm = 1 + absGrad(G) + max(G,R-min(B,G))이며; 그리고
Bnorm = 1 + absGrad(G) + max(G,B-min(R,G))이고;
상기 식 중,
absGrad(G)는 녹색 경사 벡터의 길이를 포함한다.
상기 새로운 적색(R') 및 청색(B') 값들은 다음과 같이 결정될 수 있다.
R' = R·(l-Rcorr) + G·Rcorr이며; 그리고
B' = B·(1-Bcorr) + G·Bcorr이다.
본 명세서 중 위에서 기재되고 그리고 아래에서 기재되는 디지털 이미지들에서 배율 색수차들을 보정하기 위한 방법들 중 어느 하나의 방법을 수행하도록 프로세서를 프로그래밍하기 위한 코드가 수록된 하나 이상의 프로세서 판독가능 매체가 또한 제공되어 있다.
또한, 휴대용 디지털 이미지 획득 장치는 렌즈, 이미지 센서, 프로세서, 및 본 명세서에 기재된 방법들 중 어느 하나의 방법을 수행하도록 상기 프로세서를 프로그램밍하기 위한 코드가 수록된 하나 이상의 프로세서 판독가능 매체를 구비한다.
본 발명은 디지털 이미지 획득 장치 내의 디지털 이미지들에서 색수차들 및 퍼플 프린징을 보정하는 기법을 통해 색수차들 및 퍼플 프린징을 해결한다.
본원 출원서는 컬러로 제작된 적어도 하나의 도면을 포함한다. 본원 출원서의 공보 및 컬러 도면(들)의 사본들은 복사 신청서를 제출하고 그에 필요한 수수료를 지불할 경우에 미국 특허청에서 제공받을 수 있다.
본 발명은 이하의 설명 및 본 발명의 실시예들을 예시하는데 사용된 첨부 도면들을 참조함으로써 가장 잘 이해될 수 있을 것이다.
도 1a는 빛의 굴절 성질이 파장에 의존하는 것을 예시하는 도면이다.
도 1b는 초점 렌즈 상에 입사하는 빛의 다른 컬러들에 대한 초점 평면들이 일치하지 않는 경우에, 축상 또는 종색수차들이 파장에 의존하는 것을 예시하는 도면이다.
도 1c는 서로 다른 컬러들에 대한 이미지들의 크기들이 다양할 경우에 횡 또는 배율 색수차들이 파장에 의존하는 것을 예시하는 도면이다.
도 1d는 축상 및 배율 색수차들을 비교가능하게 예시하는 도면이다.
도 2a - 도 2c는 퍼플 프린징 상의 밝기 차이들의 효과들 및 블루밍 효과를 예시하는 도면들이다.
도 3a - 도 3b는 나무 상의 잎 가장자리들 주위에 퍼플 프린징이 나타난 이미지 및 상기 퍼플 프린징을 감소 또는 제거하도록 처리된 이미지 버전을 각각 예시하는 도면들이다.
도 3c - 도 3d는 바코드 라벨 주위에 퍼플 프린징이 나타난 이미지 및 상기 퍼플 프린징을 감소 또는 제거하도록 처리된 이미지 버전을 각각 예시하는 도면들이다.
도 3e는 센서 블루밍이 렌즈 수차 및 보간 오차들과 상호작용할 때 수차에 의한 다양한 컬러들이 나타난 이미지를 예시하는 도면이다.
도 4a는 색수차 보정을 교정하는데 사용된 테스트 타깃의 중심 영역의 크롭(crop)을 예시하는 도면이다.
도 4b는 황색 관심영역들에 의해 에워싸여 있고 적색 및 청색 변위들(적색 및 청색 라인들 각각)이 나타나 있는 테스트 타깃으로부터의 점들을 예시하는 도면이다.
도 4c는 하나의 타깃의 흑색원들 주위에 그리고 백색점들의 컬러 변위들에서 나타난 배율 색수차를 예시하는 도면이다.
도 4d는 흑색원들 주위에 그리고 백색점들에서 컬러 변위들이 보정된 도 4c의 처리 버전을 예시하는 도면이다.
도 5a - 도 5b는 초점거리 18mm 및 F#5 조리개의 녹색 채널에 대하여 도 5a에서는 청색에 대해 그리고 도 5b에서는 적색에 대해 컬러 시프트(color shift)들이 계산된 컬러 오정렬 크기를 보이는 수차 맵들을 예시하는 도면들이다.
도 6a - 도 6b는 이상적인 이미징 시스템에서 중심 픽셀에서의 녹색값이 255이고 주변 픽셀들의 값이 제로(0)이며, 화살표들로 표시된 바와 같은 검출기 열(row)들 또는 행(column)들에 따른 전하 누설이 정확한 값들보다 높은 적색 및 청색 센서 응답들을 일으키게 된다는 것을 예시하는 도면들이다.
도 7은 특정 실시예들에 따른 교정 모듈의 일례를 예시하는 블록선도이다.
도 8은 특정 실시예들에 따른 보정 모듈의 일례를 예시하는 블록 선도이다.
도 9는 특정 실시예들에 따른 퍼플 프린징 보정 프로세스의 일례를 예시하는 흐름도이다.
도 1b는 초점 렌즈 상에 입사하는 빛의 다른 컬러들에 대한 초점 평면들이 일치하지 않는 경우에, 축상 또는 종색수차들이 파장에 의존하는 것을 예시하는 도면이다.
도 1c는 서로 다른 컬러들에 대한 이미지들의 크기들이 다양할 경우에 횡 또는 배율 색수차들이 파장에 의존하는 것을 예시하는 도면이다.
도 1d는 축상 및 배율 색수차들을 비교가능하게 예시하는 도면이다.
도 2a - 도 2c는 퍼플 프린징 상의 밝기 차이들의 효과들 및 블루밍 효과를 예시하는 도면들이다.
도 3a - 도 3b는 나무 상의 잎 가장자리들 주위에 퍼플 프린징이 나타난 이미지 및 상기 퍼플 프린징을 감소 또는 제거하도록 처리된 이미지 버전을 각각 예시하는 도면들이다.
도 3c - 도 3d는 바코드 라벨 주위에 퍼플 프린징이 나타난 이미지 및 상기 퍼플 프린징을 감소 또는 제거하도록 처리된 이미지 버전을 각각 예시하는 도면들이다.
도 3e는 센서 블루밍이 렌즈 수차 및 보간 오차들과 상호작용할 때 수차에 의한 다양한 컬러들이 나타난 이미지를 예시하는 도면이다.
도 4a는 색수차 보정을 교정하는데 사용된 테스트 타깃의 중심 영역의 크롭(crop)을 예시하는 도면이다.
도 4b는 황색 관심영역들에 의해 에워싸여 있고 적색 및 청색 변위들(적색 및 청색 라인들 각각)이 나타나 있는 테스트 타깃으로부터의 점들을 예시하는 도면이다.
도 4c는 하나의 타깃의 흑색원들 주위에 그리고 백색점들의 컬러 변위들에서 나타난 배율 색수차를 예시하는 도면이다.
도 4d는 흑색원들 주위에 그리고 백색점들에서 컬러 변위들이 보정된 도 4c의 처리 버전을 예시하는 도면이다.
도 5a - 도 5b는 초점거리 18mm 및 F#5 조리개의 녹색 채널에 대하여 도 5a에서는 청색에 대해 그리고 도 5b에서는 적색에 대해 컬러 시프트(color shift)들이 계산된 컬러 오정렬 크기를 보이는 수차 맵들을 예시하는 도면들이다.
도 6a - 도 6b는 이상적인 이미징 시스템에서 중심 픽셀에서의 녹색값이 255이고 주변 픽셀들의 값이 제로(0)이며, 화살표들로 표시된 바와 같은 검출기 열(row)들 또는 행(column)들에 따른 전하 누설이 정확한 값들보다 높은 적색 및 청색 센서 응답들을 일으키게 된다는 것을 예시하는 도면들이다.
도 7은 특정 실시예들에 따른 교정 모듈의 일례를 예시하는 블록선도이다.
도 8은 특정 실시예들에 따른 보정 모듈의 일례를 예시하는 블록 선도이다.
도 9는 특정 실시예들에 따른 퍼플 프린징 보정 프로세스의 일례를 예시하는 흐름도이다.
프린징(예컨대, 퍼플 프린징)을 포함하는 색수차들을 검출 및 보정하기 위한 시스템들 및 방법들이 기재되어 있다.
특정 실시예들에서, 색수차는 이미지를 컬러 플레인들로 분할한 다음에 이들을 조정하여 상기 이미지 획득 장치를 교정하는 경험적 방식으로서 특정의 교정 이미지(교정 차트)를 통해 색수차를 감소시킴으로써 해결된다. 퍼플 프린징은 또한, 처음에 배율 색수차(lateral chromatic aberration; LCA) 때문에 생기는 컬러 수차를 해결함으로써 보정된다. 그러한 LCA는 먼저 제거된 다음에 보정이 상기 프린징에 이르기까지 확장된다. 이는 퍼플 프린징이 색수차의 방향으로 생성되고 색수차의 방향으로 더 동화(pronounciation)된다는 발견 및 관찰에 의해 가능하게 된다.
색수차들 및 퍼플 프린징이 어떻게 여러 실시예들과 아울러, 여러 실시예들에 대한 특정의 구현 세부들에 따라 검출 및 보정되는 지에 대한 상세한 설명이 이하에 제공된다.
이러한 실시예들은 색수차들 및 퍼플 프린징이 식별 및 보정되는 다양한 환경들에 적용될 수 있다.
색수차들(
chromatic
aberrations
)
이하의 본 명세서 부분은 배율 색수차(lateral chromatic aberration)들에 관련된 것이다. 특정 실시예들은 2가지 주된 동작들, 즉 교정 및 보정을 포함한다. 교정은 한쌍의 카메라/렌즈에 대해 수행되며 보정은 교정 데이터를 사용하여 컬러 가공물(color artifact)들을 제거하는 것이다.
교정(
calibration
)
교정은 특정 실시예들에서 측정 지점들의 검출을 포함한다. 도 4a에 예시된 바와 같은 테스트 이미지는 수차 보정을 위해 백색 도트들의 어레이로 이루어져 있다. 도 4b는 황색 관심영역들에 의해 에워싸여 있고 적색 및 청색 변위들(적색 및 청색 라인들 각각)이 나타나 있는 테스트 타깃의 다른 예로부터의 점들을 예시하는 도면이다. 도 4c는 도 4a의 테스트 타깃의 흑색원들 주위에 그리고 백색점들의 컬러 변위들에서 나타난 배율 색수차를 예시하는 도면이다. 비록 보정이 이하에 상세하게 논의되겠지만, 도 4d는 상기 효과를 예시하도록 상기 흑색원들 주위에 그리고 백색점들에서 컬러 변위들이 보정된 도 4c의 처리 버전을 예시하는 도면이다.
도 4a의 테스트 이미지가 예를 들면 사진촬영될 경우에, 최종의 이미지상에는 색수차 때문에 생긴 컬러 프린지들이 나타난 백색 도트들이 보일 수 있다. 채널들 간의 변위 크기를 측정하기 위하여, 상기 변위들이 측정될 수 있는 이미지의 영역들, 다시 말하면 백색점들을 알고리즘이 먼저 구하여야 한다. 특정 실시예들에서는, 잡음이 있는 흑색 배경과 관심영역들을 구별하기 위하여, 한 검출 단계는 스레스홀딩(thresholding)을 포함한다. 그후, 스레스홀드 이미지는 백색점들의 탐색시 트래버스(traverse)된다. 일단 지점이 발견될 경우에, 알고리즘이 그 지점의 주위들을 체크하여 발견된 픽셀이 점 또는 라인의 일부인지를 결정한다. 발견된 픽셀이 상기 점의 일부일 경우에, 16x16 픽셀의 관심영역(region of interest; ROI)은 그러한 점 상에 배치되며 ROI의 픽셀들은 부가적인 탐색으로부터 배제된다. 발견된 모든 ROI들은 동적 리스트(dynamic list)에 추가된다.
수차 측정
각각의 ROI에 대해, 160x160 픽셀들의 임시 버퍼가 할당될 수 있다. 이때, 상기 버퍼는 현재 처리되는 ROI에 놓인 이미지의 확대 부분으로 채워진다. 간략성을 위해 한 실시예에서는 선형 보간이 사용될 수 있고, 특정 실시예들에서는, 실험연구를 통해 알 수 있었던 바와 같이, 이 정도의 정확도이면 충분하다. 다음 단계에서는, 각각의 컬러 채널이 개별적으로 스레스홀딩되어 RGB 채널들의 점들을 위한 커버리지 맵(map of coverage)이 생성된다. 각각의 채널의 각각의 점에 대해, 질량 중심(centre of mass)이 계산되고 중심들(RG,BG) 간의 변위들이 이러한 화상 위치에서 수차의 크기들로서 간주된다. 본 실시예에서 이러한 계산이 상기 이미지의 10x 확대 부분에 대해 수행되기 때문에, 변위는 0.1 픽셀의 정확도로 계산된다. 특정 실시예들에 의하면, 도 5a - 도 5b는, 예컨대 초점거리 18mm 및 F#5 조리개의 녹색 채널에 대하여 도 5a에서는 청색에 대해 그리고 도 5b에서는 적색에 대해 컬러 시프트(color shift)들이 계산된 컬러 오정렬 크기들을 결정하는 데 사용될 수 있는 수차 맵들을 예시하는 도면들이다.
산포된 데이터의 보간
수차가 측정된 지점들의 위치들이 테스트 타깃 및 카메라 간의 오정렬로 인해, 그리고 렌즈의 기하학적 왜곡으로 인해 적절하게 예측될 수 없기 때문에, 상기 지점들의 위치들은 산포된 데이터 지점들로서 간주된다. 이로 인해 보간 태스크가 더 복잡해지는데, 그 이유는 이미지의 각각의 픽셀에 대해, 최근린 데이터 지점들을 찾아내기 위해 특정의 인접영역에서 알고리즘이 탐색되기 때문이다.
그러나, 데이터 지점들의 정확한 위치들은 적절하게 예측될 수 없는데, 그 이유는 데이터 지점들이 일부의 작은 오차들에 의해 왜곡된 규칙 그리드(regular grid) 상에 놓이기 때문이다. 그러한 탐색 도메인을 감소시키기 위하여, 이하의 접근법이 사용되는 것이 유리할 수 있다.
ㆍ 데이터 지점들 간의 평균거리가 추정된다.
ㆍ 데이터 지점들이 직사각형 모양의 어레이로 편성되는데, 이 경우에 어레이 인덱스()가 작은 값만큼 축소된 그리드 공간(grid spacing; )으로 분할된 데이터 지점의 원래 위치()를 사용하여 계산된다. 즉, 이다. 이러한 어레이는 탐색 도메인을 실질적으로 감소시킨다.
ㆍ 그후, 상기 처리된 이미지의 모든 픽셀에 대해 변위를 추정하기 위해 역거리 가중(Inversed Distance Weighted; IDW) 방법이 사용된다. 더 복잡한 알고리즘들이 사용될 수 있지만, 이는 데이터 값들이 이미지에 걸쳐 느리게 변하는 경우이면 충분하다.
이러한 단계의 결과는 상기 이미지의 각각의 픽셀에 대한 RG 및 BG 변위들을 포함하는 벡터 필드이다.
이러한 보간 알고리즘의 새롭게 개선된 버전이 개발되어 왔다. 그렇게 하는 것은, 저장될 데이터 크기의 감소 및 개선된 알고리즘 효율을 포함하는 적어도 2가지 이점이 있다. 한 초점거리에 대한 데이터는 이전 버전에서 180 MB를 초과하는 것에 대해 188 kB 메모리를 점유할 수 있다. 보간 속도의 개선은 매우 크다. 현재 버전에서는, 보간이 이전 버전에서 10 초(s)를 초과하는 것에 대해 (저장 크기에 대하여) 약 2 밀리초(ms) 소요된다.
이 같은 새로운 알고리즘은 변위 값들이 이미지에 걸쳐 느리게 변하고 데이터 지점들이 완전히 임의적이지만 특정 구조를 갖는다는 사실을 이용한다. 작은 변위 변화들 때문에, 모든 픽셀에 대해 데이터를 저장할 필요가 전혀 없다. 데이터 어레이들은 특정 인자만큼 축소될 수 있고 (실험연구에서, 이는 16배이었지만, 적어도 2, 4, 8 및 32가 또한 사용될 수 있고), 그리고 이용가능한 데이터로 채워질 수 있다. 이 같이 생성된 매트릭스에서는, 데이터 지점들 간의 거리들이 충분히 작기 때문에 수정된 선형 보간 알고리즘이 적용될 수 있다. 데이터 지점들 간의 가변 공간(variable spacing)을 알고리즘이 사용한다. 데이터 어레이의 한 열에 대한 특정 실시예들에 따른 알고리즘의 구조의 일례는 다음과 같다.
1. 현재의 열에서 데이터를 포함하는 제1 지점을 찾아서 그의 값을 저장함.
2. 데이터를 포함하는 제2/다음 지점을 찾아서 그의 값을 저장함.
3. 선형 보간을 적용하여 데이터 지점들 간의 지점들을 없게 함.
4. 제1 지점의 값을 최종 지점의 값으로 대체함.
5. 2.로 진행함.
유효한 데이터 지점들을 포함하지 않는 열들을 제외하고는 모든 열들을 채운 후에, 행에 대해 동작이 수행될 수 있다.
보정된 이미지의 크기에 대한 변위 데이터의 업샘플링은 0.5초 미만으로 소요된다.
이 같은 새로운 방법으로 준비된 변위 데이터를 사용한 보정 알고리즘의 성능은 기존의 보간 방법과 시각적으로 동일할 수도 있고 그러하지 않을 수도 있다. 작은 차이들이 차이 이미지를 계산한 후에 보일 수 있다. 그러나, 기존의 알고리즘은 산포된 데이터 지점들의 보간에 대해 보정되는 것으로 생각될 수 없다.
도 7은 특정 실시예들에 따라 교정 모듈의 일례를 예시하는 블록선도이다. 검출된 교정 지점들을 찾는데 테스트 타깃 이미지가 사용된다. 이들은 수차 측정 및 보간 성분에 대한 입력으로 사용된다. 변위 벡터들이 결정되고 수차 맵이 저장된다.
색수차 보정
보정된 이미지의 각각의 픽셀에 대해, RG 및 BG 변위들을 포함하는 2개의 벡터가 이용가능하다. R 및 B 성분들은 독립된 그레이스케일 이미지들로서 간주된다. 2개의 임시 버퍼는 보정된 데이터를 저장하도록 생성된다. 그러한 보정 프로세스는 (하나의 채널에 대해) 다음과 같이 수행될 수 있다.
ㆍ 임시 버퍼에서 현재 픽셀에 대한 변위를 구함.
ㆍ 소스 버퍼 상에서 상대적인 위치로서 변위를 간주함.
ㆍ 변위가 일부분일 수 있기 때문에, 5x5 sinc 필터를 사용하여 값을 보간함.
ㆍ 보간된 값을 임시 버퍼에 저장함.
ㆍ 다음 픽셀로 진행함.
R 및 B 채널들의 보정 후에, 그들의 데이터는 임시 버퍼들에 저장된 데이터로 대체된다.
퍼플 프린징(프린징)
위에서 언급된 바와 같이, 한 실시예에서는 플린징이 색수차의 방향으로 생성되고 색수차가 높은 영역들에서 더 강해진다는 발견 및 관찰을 통해 퍼플 프린징이 해결된다. R 및 B 값들이 변경되는 방식은 이하에서 설명된다. 보정 비율은 0과 1 사이에서 변할 수 있다. 값 0은 현재의 성분이 동일한 상태에 있음을 의미하고 값 1은 현재의 성분이 G 성분의 값을 갖게 됨을 의미한다. 예를 들면, 본 발명자가 보정 비율(corR)을 취할 경우에, 적색 채널들에 대한 새로운 값이 다음과 같이 계산될 것이다.
상기 식 중,
은 새로운 성분값이며 프라임 부호가 없는 문자들은 초기값들을 나타낸다. 위와 같은 사항은 청색 채널에 대해 적용된다. 보정 프로세스는 적색 및 청색 성분들에 대해 독립적으로 계산된 보정 비율로 제어된다. 보정 비율은 2개의 항들을 포함한다. 첫번째 항()은 색수차 보정의 수행 전후의 성분값들 간의 차이에 의존한다.
상기 식 중,
은 적색 성분의 원래값이며, 는 색수차 보정의 수행 후의 적색 값이고 는 제1 값이 제2 값을 초과할 경우에 제2 값을 리턴(return)하는 클램핑 함수이다. B 채널에 대한 첫번째 항은 유사한 방식으로 계산된다. 이러한 항의 값은 0에서 1까지 변할 수 있다. 두번째 보정 항은 2개의 채널들에 대해 공통이며 색수차 보정의 수행 후의 R 및 B 값들의 차이에 의존한다. 이러한 항은 R 및 B 간의 차이가 작은 퍼플의 세이드들(shades of purple)에 대한 보정을 제한한다. 이러한 항은 다음과 같이 정의될 수 있다.
이러한 식은 차이가 0일 경우에 값 1을 갖고 차이들이 200보다 클 경우에 값 0을 갖는 S-형 보정 곡선을 형성한다. 상기 식의 복잡성은 보정 속도에 대해 어떠한 의미도 갖지 않는데, 그 이유는 보정 속도가 미리 계산되고 어레이로 값들이 저장될 수 있기 때문이다. 최종 보정 항은 특정 실시예들에서 컬러 종속 항 및 RB 차이 항의 승산에 의해 계산된다.
한 실시예에 의하면, 데이터 처리는 디지털 처리 시스템(digital processing system; DSP)을 사용하여 수행된다. 상기 DSP는 디지털 이미지들 및 비디오를 포함하는 복수의 다양한 타입들의 디지털 정보를 저장, 처리, 및 통신하도록 구성될 수 있다.
위에서 논의된 바와 같이, 실시예들은 DSP 또는 디지털 처리 능력들을 갖는 장치들을 채용할 수 있다. 그러한 시스템의 대표적인 구성요소들은 중앙 처리 유닛(central processing unit; CPU), 및 메인 메모리, 스태틱 메모리, 및 대용량 저장 장치에 연결된 신호 프로세서를 포함한다. 상기 메인 메모리는 본 발명의 동작들을 수행하도록 하는 다양한 애플리케이션들을 저장할 수 있고, 상기 대용량 저장 장치는 다양한 디지털 콘텐츠를 저장할 수 있다.
상기 DSP는 또한 입력/출력(input/output; I/O) 장치들 및 오디오/비주얼 장치들에 연결될 수 있다. 상기 CPU는 상기 처리 시스템을 위한 정보 및/또는 신호들을 처리하는데 사용될 수 있다. 상기 메인 메모리는 상기 CPU에 의해 사용되는 정보 또는 명령어들(프로그램 코드)을 저장하기 위한 랜덤 액세스 메모리(random access memory; RAM) 또는 기타의 다이내믹 저장 장치일 수 있다. 상기 스태틱 메모리는, 또한 상기 CPU에 의해 사용될 수 있는 정보 또는 명령어들을 저장하기 위한 판독 전용 메모리(read only memory; ROM) 및/또는 다른 스태틱 저장 장치들일 수 있다. 상기 대용량 저장 장치는, 예를 들면 상기 처리 시스템용 정보 또는 명령어들을 저장하기 위한 하드 디스크 드라이브, 광디스크 드라이브, 또는 펌웨어일 수 있다.
도 8은 특정 실시예들에 따른 보정 모듈의 일례를 예시하는 블록 선도이다. LCA 보정 성분에 대한 입력들은 카메라 조리개 및 초점거리에 따른 보간을 사용하여 수차 맵들로부터 생성된 보간 맵 및 수차 이미지를 포함한다. 이때, 퍼플 프린징 보정이 적용되고 보정 이미지가 생성, 저장, 디스플레이, 전송, 출력되는 등의 동작이 수행된다.
도 9는 특정 실시예들에 따른 퍼플 프린징 보정 프로세스의 일례를 예시하는 흐름도이다. 적색 및 청색에 대한 보정 비율들이 계산된다. 보정 비율은 색수차 보정의 수행 전후의 컬러 성분 값들 간의 차이를 기반으로 하여 계산될 수 있다. 보정 비율은 제로(0) 및 1 간의 범위에 있는 값을 지니게 된다. 이때, 컬러가 적절한 범위에 있는지가 체크된다. 이는 프린지들에 속하지 않는 컬러들이 변조되는 것을 방지한다. 컬러가 적절한 범위에 있는 경우에, 적색 및 청색 성분들은 보정 비율에 따라 녹색 측으로 스케일링된다. 보정값이 제로(0)일 경우에, 그 성분은 변경되지 않는 상태로 된다. 1인 보정 비율들에 대하여는, 보정 성분이 녹색 성분 값으로 제공된다. 보정 값들은 저장된다.
전반적인 사항들
본 발명의 실시예들은 지금까지 다양한 동작들을 포함하는 것으로 설명되었다. 그러한 프로세스들 대부분은 그들 대부분의 기본 형태에 따라 설명된 것이지만, 동작들이 본 발명의 범위로부터 일탈하지 않고 상기 프로세스들 중 어느 하나에 추가될 수도 있고 상기 프로세스들 중 어느 하나로부터 삭제될 수도 있다.
본 발명의 동작들은 하드웨어 구성요소들에 의해 수행될 수도 있고 기계 실행가능 명령어들에 포함될 수도 있는데, 상기 기계 실행가능 명령어들은 상기 명령어들로 프로그램된 범용 또는 전용 프로세서 또는 논리 회로들이 상기 동작들을 수행하게 하는데 사용될 수 있다. 변형적으로는, 상기 단계들이 하드웨어 또는 소프트웨어의 조합에 의해 수행될 수 있다. 본 발명은 컴퓨터(또는 다른 전자 장치들)를 프로그래밍하여 본 발명에 따른 프로세스를 수행하는데 사용될 수 있는 명령어들이 저장된 기계 판독가능 매체를 포함할 수 있는 컴퓨터 프로그램 제품으로서 제공될 수 있다. 상기 기계 판독가능 매체는 플로피 디스켓들, 광디스크들, CD-ROM들, 및 광자기 디스크들, ROM들, RAM들, EPROM들, EEPROM들, 마그네틱 또는 옵티컬 카드들, 플래시 메모리, 또는 전자 명령어들을 저장하기에 적합한 다른 타입의 매체/기계 판독가능 매체를 포함할 수 있지만 이들에 국한되지 않는다. 더욱이, 본 발명은 또한 컴퓨터 프로그램 제품으로서 다운로드될 수 있는데, 이 경우에 프로그램은 통신 셀(예컨대, 모뎀 또는 네트워크 접속)을 통해 반송파 또는 다른 전파 매체에 포함된 데이터 신호들로 원격 컴퓨터에서 요청 컴퓨터에 전송될 수 있다. 동일한 중앙 사이트에서 모든 동작들이 수행될 수도 있으며 변형적으로는 하나 이상의 동작들이 그 외의 장소에서 수행될 수 있다.
그 외에도, 프로세스들 및 방법들이 지금까지 서식 작성을 위해 특정 순서들로 기재되었다. 이들이 의미하는 것은 그러한 순서가 반드시 필요하다는 것이 아니라는 점이며, 특정 순서가 반드시 필요하다고 명백히 기재되어 있지 않거나 특정의 순서가 반드시 필요하다고 당업자가 인식하지 않는 한은 다른 순서로 단계들이 수행될 수 있다.
Claims (17)
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 디지털 이미지 획득 장치 내의 디지털 이미지들에서 퍼플 플린징 수차(purple fringing aberration)들을 보정하는 프로세서 구현 방법에 있어서,
상기 프로세서 구현 방법은,
디지털 이미지를 획득하는 단계;
R' = R + (G - R) x corR이며; 그리고
B' = B + (G - B) x corB인 것으로부터,
적색(R) 및 청색(B) 채널들에 대한 보정값들을 계산하는 단계로서, 상기 식 중, corR 및 corB는 각각 적색 및 청색 채널들에 대해 선택된 보정 비율들인, 단계; 및
퍼플 플린징 수차들에 대해 보정된 보정 디지털 이미지, 또는 부가적으로 처리된 디지털 이미지 버전, 또는 이들의 조합을 출력, 저장, 디스플레이, 또는 전송하는 단계
를 포함하는 것을 특징으로 하는, 프로세서 구현 방법. - 제7항에 있어서,
상기 선택된 보정 비율들(corR,corB)은,
CorR = {CR = 0.1 x clamp ([R(x,y) - RC(x,y)],10)} x CRB이며; 그리고
CorB = {CB = 0.1 x clamp ([B(x,y) - BC(x,y)],10)} x CRB인 것
을 포함하고,
상기 식 중, clamp (.,.)는 첫번째 항이 두번째 항을 초과할 때 두번째 항을 리턴(return)하는 것이며,
abs(Rc(x,y) - Bc(x,y)) < 200인 경우에,
CRB = 1 + cos[abs(Rc(x,y) - Bc(x,y))π/200이고; 그리고
abs(Rc(x,y) - Bc(x,y)) > 200인 경우에,
CRB = 0인 것을 특징으로 하는, 프로세서 구현 방법. - 제8항에 있어서, 상기 프로세서 구현 방법은,
G < R'이며 R' < B'인 경우에 컬러 변조 보정을 적용하는 단계
를 부가적으로 포함하는 것을 특징으로 하는, 프로세서 구현 방법. - 제7항에 있어서, 상기 프로세서 구현 방법은,
하나의 픽셀 인접영역을 선택하는 단계 및 싱글 패스(single pass) 방식으로 상기 프로세서 구현 방법을 수행하는 단계를 부가적으로 포함하는 것을 특징으로 하는, 프로세서 구현 방법. - 디지털 이미지 획득 장치 내의 디지털 이미지들에서 퍼플 프린징 수차(purple fringing aberration)들을 보정하는 프로세서 구현 방법에 있어서,
상기 프로세서 구현 방법은,
디지털 이미지를 획득하는 단계;
각각의 컬러 성분에 대한 수직 및 수평 경사들을 계산하는 단계;
픽셀 위치 및 이미지 중심에 의해 형성되는 컬러 성분 경사 및 벡터 간의 도트 곱(dot product)을 기반으로 하여 보정 비율들을 계산하는 단계;
현재의 적색(R) 및 청색(B) 값들 및 녹색(G) 값 간의 선형 보간을 사용하여 대응하는 보정 비율들을 통해 새로운 적색(R') 및 청색(B') 값들을 계산하는 단계; 및
퍼플 프린징 수차들에 대해 보정된 보정 디지털 이미지, 또는 부가적으로 처리된 디지털 이미지 버전, 또는 이들의 조합을 출력, 저장, 디스플레이, 또는 전송하는 단계
를 포함하는 것을 특징으로 하는, 프로세서 구현 방법. - 제11항에 있어서,
상기 보정 비율들은,
Rcorr = (x·Gradx(R) + y·Grady(R))/(abs[x2 + y2]·Rnorm이며; 그리고
Bcorr = (x·Gradx(B) + y·Grady(B))/(abs[x2 + y2]·Bnorm인 것
을 포함하고,
상기 식 중,
Rnorm = 1 + absGrad(G) + max(G,R-min(B,G))이며; 그리고
Bnorm = 1 + absGrad(G) + max(G,B-min(R,G))이고,
absGrad(G)는 녹색 경사 벡터의 길이를 포함하는 것을 특징으로 하는, 프로세서 구현 방법. - 제12항에 있어서, 상기 새로운 적색(R') 및 청색(B') 값들은,
R' = R·(l-Rcorr) + G·Rcorr이며; 그리고
B' = B·(1-Bcorr) + G·Bcorr인 것을 포함함을 특징으로 하는, 프로세서 구현 방법. - 제7항 내지 제13항 중 어느 한 항에 따른 디지털 이미지에서의 퍼플 프린징 수차(purple fringing aberration)들의 보정 방법을 수행하도록 프로세서를 프로그래밍하기 위한 코드가 수록된 하나 이상의 프로세서 판독가능 매체.
- 삭제
- 렌즈, 이미지 센서, 프로세서, 및 디지털 이미지들에서의 퍼플 프린징 수차(purple fringing aberration)들의 보정 방법을 수행하도록 상기 프로세서를 프로그래밍하기 위한 코드가 수록된 하나 이상의 프로세서 판독가능 매체를 포함하는 휴대용 디지털 이미지 획득 장치로서,
상기 방법은,
R' = R + (G - R) x corR이며; 그리고
B' = B + (G - B) x corB인 것으로부터,
적색(R) 및 청색(B) 채널들에 대한 보정값들을 계산하는 단계
를 포함하며, 상기 식 중, corR 및 corB는 각각 적색 및 청색 채널들에 대해 선택된 보정 비율들인 것을 특징으로 하는, 휴대용 디지털 이미지 획득 장치. - 렌즈, 이미지 센서, 프로세서, 및 디지털 이미지들에서의 퍼플 프린징 수차(purple fringing aberration)들의 보정 방법을 수행하도록 상기 프로세서를 프로그래밍하기 위한 코드가 수록된 하나 이상의 프로세서 판독가능 매체를 포함하는 휴대용 디지털 이미지 획득 장치로서,
상기 방법은,
디지털 이미지를 획득하는 단계;
각각의 컬러 성분에 대한 수직 및 수평 경사들을 계산하는 단계;
픽셀 위치 및 이미지 중심에 의해 형성되는 컬러 성분 경사 및 벡터 간의 도트 곱(dot product)을 기반으로 하여 보정 비율들을 계산하는 단계; 및
현재의 적색(R) 및 청색(B) 값들 및 녹색(G) 값 간의 선형 보간을 사용하여 대응하는 보정 비율들을 통해 새로운 적색(R') 및 청색(B') 값들을 계산하는 단계
를 포함하는 것을 특징으로 하는, 휴대용 디지털 이미지 획득 장치.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US2394608P | 2008-01-28 | 2008-01-28 | |
US61/023,946 | 2008-01-28 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20100092961A KR20100092961A (ko) | 2010-08-23 |
KR101174742B1 true KR101174742B1 (ko) | 2012-08-17 |
Family
ID=40829732
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020107013904A KR101174742B1 (ko) | 2008-01-28 | 2009-01-28 | 색수차들 및 퍼플 프린징을 해결하기 위한 방법 및 장치 |
Country Status (5)
Country | Link |
---|---|
EP (1) | EP2293582A3 (ko) |
JP (1) | JP4966413B2 (ko) |
KR (1) | KR101174742B1 (ko) |
CN (2) | CN103209330B (ko) |
WO (1) | WO2009095422A2 (ko) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8339462B2 (en) | 2008-01-28 | 2012-12-25 | DigitalOptics Corporation Europe Limited | Methods and apparatuses for addressing chromatic abberations and purple fringing |
US8339471B2 (en) | 2009-12-31 | 2012-12-25 | DigitalOptics Corporation Europe Limited | Auto white balance algorithm using RGB product measure |
US8457393B2 (en) * | 2010-07-14 | 2013-06-04 | Omnivision Technologies, Inc. | Cross-color image processing systems and methods for sharpness enhancement |
JP5917048B2 (ja) * | 2011-08-26 | 2016-05-11 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
TWI594632B (zh) | 2013-12-31 | 2017-08-01 | 佳能企業股份有限公司 | 一種影像補正參數的設定方法、電子裝置、電子裝置可讀取的儲存媒體與應用於電子裝置的程式 |
CN104767982A (zh) * | 2014-01-03 | 2015-07-08 | 佳能企业股份有限公司 | 一种影像补正参数的设定方法与电子装置 |
DE102014112648A1 (de) * | 2014-08-29 | 2016-03-03 | Carl Zeiss Ag | Bildaufnahmevorrichtung und Verfahren zur Bildaufnahme |
CN106303483B (zh) * | 2015-05-20 | 2019-05-24 | 浙江大华技术股份有限公司 | 一种图像处理方法及装置 |
CN105430231B (zh) * | 2015-11-24 | 2018-09-04 | 努比亚技术有限公司 | 图像处理装置和方法 |
CN111199524B (zh) * | 2019-12-26 | 2023-03-17 | 浙江大学 | 一种针对可调光圈光学***的图像紫边校正方法 |
CN114943658B (zh) * | 2022-06-09 | 2024-06-14 | 豪威科技(武汉)有限公司 | 一种基于横向色差标定的去色边方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030206179A1 (en) | 2000-03-17 | 2003-11-06 | Deering Michael F. | Compensating for the chromatic distortion of displayed images |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000003437A (ja) * | 1998-06-16 | 2000-01-07 | Fuji Photo Film Co Ltd | 収差補正方法、電子スチルカメラ及び画像処理システム |
JP2000134483A (ja) * | 1998-10-26 | 2000-05-12 | Minolta Co Ltd | 画像読取装置 |
US6584287B2 (en) * | 2000-10-18 | 2003-06-24 | Fuji Photo Film Co., Ltd. | Camera and image forming system using the camera |
JP4539278B2 (ja) * | 2004-10-13 | 2010-09-08 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
US7577292B2 (en) * | 2005-12-30 | 2009-08-18 | Microsoft Corporation | Automatic removal of purple fringing from images |
CN100423027C (zh) * | 2006-09-08 | 2008-10-01 | 南京大学 | 图像缩放器中辛克函数加窗插值方法 |
-
2009
- 2009-01-28 CN CN201310086059.2A patent/CN103209330B/zh not_active Expired - Fee Related
- 2009-01-28 KR KR1020107013904A patent/KR101174742B1/ko not_active IP Right Cessation
- 2009-01-28 EP EP10004310.8A patent/EP2293582A3/en not_active Withdrawn
- 2009-01-28 WO PCT/EP2009/050967 patent/WO2009095422A2/en active Application Filing
- 2009-01-28 CN CN2009801030302A patent/CN102017639B/zh not_active Expired - Fee Related
- 2009-01-28 JP JP2010538802A patent/JP4966413B2/ja not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030206179A1 (en) | 2000-03-17 | 2003-11-06 | Deering Michael F. | Compensating for the chromatic distortion of displayed images |
Also Published As
Publication number | Publication date |
---|---|
WO2009095422A2 (en) | 2009-08-06 |
WO2009095422A3 (en) | 2009-12-03 |
CN102017639A (zh) | 2011-04-13 |
CN103209330A (zh) | 2013-07-17 |
CN103209330B (zh) | 2015-11-25 |
CN102017639B (zh) | 2013-08-21 |
KR20100092961A (ko) | 2010-08-23 |
JP4966413B2 (ja) | 2012-07-04 |
EP2293582A2 (en) | 2011-03-09 |
JP2011507437A (ja) | 2011-03-03 |
EP2293582A3 (en) | 2015-11-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101174742B1 (ko) | 색수차들 및 퍼플 프린징을 해결하기 위한 방법 및 장치 | |
US8339462B2 (en) | Methods and apparatuses for addressing chromatic abberations and purple fringing | |
JP5188651B2 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
KR101340518B1 (ko) | 영상의 색수차 보정 방법 및 장치 | |
US7792357B2 (en) | Chromatic aberration correction | |
CN107113370B (zh) | 图像记录设备及记录图像方法 | |
CN102625043B (zh) | 图像处理设备、成像设备和图像处理方法 | |
US8358835B2 (en) | Method for detecting and correcting chromatic aberration, and apparatus and method for processing image using the same | |
US8587712B2 (en) | Image processing apparatus and method of correcting image quality degradation caused by aberrations due to optical system | |
JP5840008B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN110519585A (zh) | 一种应用于图像采集设备的成像校准方法及装置 | |
JP5528139B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
WO2009141403A1 (en) | Correction of optical lateral chromatic aberration in digital imaging systems | |
JP6415108B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP6436840B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
Ju et al. | Color fringe removal in narrow color regions of digital images | |
Lluis-Gomez et al. | Chromatic aberration correction in RAW domain for image quality enhancement in image sensor processors | |
JP6238673B2 (ja) | 画像処理装置、撮像装置、撮像システム、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6604737B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
WO2011121761A1 (ja) | 画像処理装置、およびそれを用いた撮像装置 | |
CN118365576A (zh) | 图像处理方法、装置、电子设备、可读存储介质和程序产品 | |
JP2017092800A (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20150724 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20160726 Year of fee payment: 5 |
|
FPAY | Annual fee payment |
Payment date: 20170728 Year of fee payment: 6 |
|
LAPS | Lapse due to unpaid annual fee |