KR20160149842A - 영상 처리 방법 및 그 장치 - Google Patents

영상 처리 방법 및 그 장치 Download PDF

Info

Publication number
KR20160149842A
KR20160149842A KR1020150087577A KR20150087577A KR20160149842A KR 20160149842 A KR20160149842 A KR 20160149842A KR 1020150087577 A KR1020150087577 A KR 1020150087577A KR 20150087577 A KR20150087577 A KR 20150087577A KR 20160149842 A KR20160149842 A KR 20160149842A
Authority
KR
South Korea
Prior art keywords
image
images
electronic device
motion
color
Prior art date
Application number
KR1020150087577A
Other languages
English (en)
Inventor
박민규
이기혁
이용구
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150087577A priority Critical patent/KR20160149842A/ko
Priority to US15/186,351 priority patent/US20160373653A1/en
Publication of KR20160149842A publication Critical patent/KR20160149842A/ko

Links

Images

Classifications

    • H04N5/357—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682—Vibration or motion blur correction
    • H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6845—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95—Computational photography systems, e.g. light-field imaging systems
    • H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681—Motion detection
    • H04N23/6811—Motion detection based on the image signal
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681—Motion detection
    • H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00—Details of colour television systems
    • H04N9/64—Circuits for processing colour signals
    • H04N9/68—Circuits for processing colour signals for controlling the amplitude of colour signals, e.g. automatic chroma control circuits

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

본 발명의 다양한 실시 예에 따른 전자 장치는 피사체 대한 하나 이상의 이미지를 획득하는 이미지 센서와, 상기 하나 이상의 이미지의 일부가 변경된 하나 이상의 전처리 이미지(pre-processed image)를 생성하는 전처리부와, 상기 하나 이상의 전처리 이미지의 일부가 변경된 후처리 이미지를 생성하는 영상 신호 처리부를 포함하는 것을 특징으로 한다.

Description

영상 처리 방법 및 그 장치{METHOD FOR PROCESSING AN IMAGE AND ELECTRONIC DEVICE THEREOF}
본 발명의 다양한 실시 예들은 이미지 센서에서 획득되는 이미지를 처리하는 전자장치 및 그의 동작 제어 방법에 관한 것이다.
최근 디지털 기술의 발달과 함께 디지털 영상(image)을 처리하는 다양한 방법의 개발이 활발히 이뤄지고 있다. 디지털 영상을 처리하는 대표적인 전자 장치로는 디지털 카메라, 스마트 폰(smart phone), 테블릿(tablet) PC(Personal Computer) 등이 있을 수 있다.
상기 전자 장치는 카메라 모듈 및 영상 신호 처리부를 구비할 수 있다. 상기 카메라 모듈은 렌즈를 통해 입사되는 광 신호를 이미지 데이터로 변환하고, 영상 신호 처리부는 상기 이미지 데이터를 프리뷰 이미지로 표시할 수 있으며, 동영상 데이터 또는 정지 영상 데이터로 처리하여 저장할 수 있다.
영상 처리 장치에서 영상 신호의 밝기는 노출 시간(exposure time)과 이득(gain)에 의하여 결정될 수 있다. 그런데 영상을 밝게 하기 위해 노출 시간을 늘릴 경우, 영상은 밝아지지만 피사체의 움직임에 취약하게 되어 움직임 블러(blur, 흐림)가 발생될 수 있다. 반대로 영상을 밝게 하기 위해 이득(gain)을 늘릴 경우, 영상은 밝아지지만 잡음이 늘어 영상의 열화가 발생될 수 있다. 그리고 영상 처리 장치는 짧은 노출 시간에서 열화가 없는 영상을 획득할 수 있는 것이 좋을 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치 및 방법은 노출 시간을 줄이면서 화질의 열화없이 이미지를 획득 및 처리할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치 및 방법은 인트라-프레임 합(intra-frame sum)을 이용하여 베이어 형식(bayer format)의 이미지를 RGB 형식으로 스케일링한 후 영상 처리할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치 및 방법은 정지 영상을 캡쳐할 때 버퍼링된 이미지들을 합성하여 정지 이미지를 생성하고 처리할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치 및 방법은 이미지 센서를 통해 획득된 동적 영상(image) 신호(예를 들면, 동영상 또는 카메라 프리뷰)를 다운 스케일링(down scaling)하는 전처리를 수행하여 적은 노출에도 밝은 영상을 획득할 수 있으며, 영상 처리를 위한 연산량을 감소시킬 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치 및 방법은 이미지 센서를 통해 획득된 정적 영상 신호(예를 들면, 캡쳐(capture) 이미지 또는 스틸(still) 이미지)를 상기 정적 영상 신호의 전후 신호들과 합성하여 적은 노출에도 밝은 영상을 획득할 수 있으며, 영상 처리를 위한 연산량을 감소시킬 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치는 피사체 대한 하나 이상의 이미지를 획득하는 이미지 센서와, 상기 하나 이상의 이미지의 일부가 변경된 하나 이상의 전처리 이미지(pre-processed image)를 생성하는 전처리부와, 상기 하나 이상의 전처리 이미지의 일부가 변경된 후처리 이미지를 생성하는 영상 신호 처리부를 포함할 수 있다.
본 발명의 다양한 실시 예에 따른 전처리부와 영상 신호 처리부를 포함하는 전자 장치의 동작 방법은, 상기 전자 장치와 기능적으로 연결된 이미지 센서를 통해 피사체에 대한 하나 이상의 이미지를 획득하는 동작과, 상기 전처리부를 이용하여 상기 하나 이상의 이미지의 일부가 변경된 하나 이상의 전처리 이미지를 생성하는 동작과, 상기 영상 신호 처리부를 이용하여 상기 하나 이상의 전처리 이미지의 일부가 변경된 후처리 이미지를 생성하는 동작을 포함할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치는 노출 시간(exposure time)을 줄이면서 잡음과 블러를 해결할 수 있다. 본 발명의 다양한 실시 예에 따른 전자 장치는 이미지를 스케일링하는 동작(preview 모드 또는 동영상 처리모드 등)에서 인트라-프레임 합(intra-frame sum, spatial sum)을 사용하고 캡쳐(capture) 모드에서 인터-프레임 합(inter-frame sum, temporal sum)을 사용하여 노출 시간을 줄일 수 있는 효과를 가질 수 있다. 그리고 상기 이미지 스케일링 동작을 실행할 때, 상기 전자 장치는 이미지의 Bayer to Bayer 변환 대신에 Bayer to RGB 변환 방법을 사용하여 밝기 및 해상도를 동시에 확보할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치는 프리뷰 영상, 동영상 또는 정지 영상 처리 동작을 다르게 처리하여 노출 시간을 실제적으로 늘리지 않으면서 잡음과 블러 문제를 동시에 해결할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치 및 그 동작 방법은 영상 전처리 과정에서 노출 시간을 줄이면서도 밝은 영상을 획득할 수 있으며, 블러(blur)를 줄일 수 있다.
도 1은 다양한 실시 예에 따른 전자 장치를 포함하는 네트워크 환경을 도시한다.
도 2는 다양한 실시 예에 따른 전자 장치의 블록도이다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 일 실시 예에 따른 영상을 처리하는 전자 장치를 도시한다.
도 5는 본 발명의 다양한 실시 예에 따른 전자 장치의 기능 블록도이다.
도 6은 본 발명의 다양한 실시 예에 따른 저화소 전처리부를 도시하는 도면이다.
도 7는 본 발명의 다양한 실시 예에 따른 이미지 스케일러에서 이미지를 스케일링하는 것을 설명하기 위한 도면이다.
도 8은 본 발명의 다양한 실시 예에 따른 인트라-프레임 합을 이용하여 RGB 이미지를 생성하는 예를 설명하기 위한 도면이다.
도 9은 본 발명의 다양한 실시 예에 따른 이미지 데이터를 표시한 그래프를 도시한다.
도 10은 본 발명의 다양한 실시 예에 따른 고화소 전처리부에서 이미지 데이터의 처리 절차를 도시한다.
도 11은 본 발명의 다양한 실시 예에 따른 고화소 전처리부에서 이미지의 흐름을 도시한다.
도 12는 본 발명의 다양한 실시 예에 따른 고화소 전처리부에서 이미지 데이터의 처리 절차를 도시한다.
도 13은 본 발명의 다양한 실시 예에 따른 고화소 전처리부에서 이미지의 흐름을 도시한다.
도 14는 본 발명의 다양한 실시 예에 따른 HDR(High Dynamic Range) 효과를 구현하는 이미지 데이터를 도시한다.
도 15는 본 발명의 다양한 실시 예에 따른 이미지 데이터를 처리하는 전자 장치의 동작을 도시하는 흐름도이다.
도 16은 본 발명의 다양한 실시 예에 따른 저화소 전처리부의 인트라-프레임 합 동작을 도시하는 흐름도이다.
도 17은 본 발명의 다양한 실시 예에 따른 고화소 전처리부의 인터-프레임 합 동작을 도시하는 흐름도이다.
도 18은 본 발명의 다양한 실시 예에 따른 고화소 이미지 전처리부의 또 다른 인터-프레임 합 동작을 도시하는 흐름도이다.
도 19는 본 발명의 다양한 실시 예에 따른 전자 장치의 동작을 도시한 흐름도이다.
도 20은 본 발명의 다양한 실시 예에 따른 전자 장치의 동작을 도시한 흐름도이다.
이하, 본 개시의 다양한 실시 예가 첨부된 도면을 참고하여 기재된다. 그러나, 이는 본 개시를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 개시의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참고 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다","포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나" 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", " A 및 B 중 적어도 하나" 또는 "A 또는 B 중 적어도 하나"는 (1) 적어도 하나의 A를 포함,(2) 적어도 하나의 B를 포함, 또는(3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
다양한 실시 예에서 사용된 "제 1","제 2","첫째",또는"둘째",등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 해당 구성요소들을 한정하지 않는다. 상기 표현들은 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 수 있다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 개시의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)",또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 개시의 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 일반적으로 사용되는 사전에 정의된 용어들은 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미를 가지는 것으로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 개시의 실시 예들을 배제하도록 해석될 수 없다.
본 개시의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 전자 장치는 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상 전화기, 전자북 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device)(예: 스마트 안경, 머리 착용형 장치(head-mounted-device(HMD)), 전자 의복, 전자 팔찌, 전자 목걸이, 전자 앱세서리(appcessory), 전자 문신, 스마트 미러, 또는 스마트 와치(smart watch))중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 스마트 가전 제품(smart home appliance)일 수 있다. 스마트 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSync™, 애플TV™, 또는 구글 TV™), 게임 콘솔(예: Xbox™, PlayStation™), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller’s machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 개시의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참고하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 다양한 실시 예에 따른 전자 장치를 포함하는 네트워크 환경을 도시한다.
상기 도 1을 참고하여, 다양한 실시 예에서의, 네트워크 환경 100 내의 전자 장치 101가 기재된다. 상기 전자 장치 101는 버스 110, 프로세서 120, 메모리 130, 입출력 인터페이스 150, 디스플레이 160, 및 통신 인터페이스 170을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치 101는, 상기 구성요소들 중 적어도 하나를 생략하거나 다른 구성 요소를 추가적으로 구비할 수 있다.
상기 버스 110은, 예를 들면, 상기 구성요소들 110-170을 서로 연결하고, 상기 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
상기 프로세서 120은, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 상기 프로세서 120은, 예를 들면, 상기 전자 장치 101의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다. 특히, 본 발명의 일 실시 예에 따라, 상기 프로세서 120은 1차 근접 서비스 데이터를 수신하고, 상기 제1근접 서비스 데이터에 포함된 2차 근접 서비스 데이터를 수신하기 위해 필요한 가이드 정보를 이용하여 상기 2차 근접 서비스 데이터를 수신하도록 제어할 수 있다. 또는, 상기 프로세서 120는 2차 근접 서비스 데이터를 수신하기 위해 필요한 가이드 정보를 포함하는 1차 근접 서비스 데이터를 송신하도록 제어할 수 있다.
상기 메모리 130은, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 상기 메모리 130은, 예를 들면, 상기 전자 장치 101의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 상기 메모리 130은 소프트웨어 및/또는 프로그램 140을 저장할 수 있다. 상기 프로그램 140은, 예를 들면, 커널 141, 미들웨어 143, 어플리케이션 프로그래밍 인터페이스(application programming interface(API)) 145, 및/또는 어플리케이션 프로그램(또는 "어플리케이션") 147 등을 포함할 수 있다. 상기 커널 141, 미들웨어 143, 또는 API 145의 적어도 일부는, 운영 시스템(operating system(OS))라 불릴 수 있다.
상기 커널 141은, 예를 들면, 다른 프로그램들(예: 미들웨어 143, API 145, 또는 어플리케이션 프로그램 147)에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스 110, 프로세서 120, 또는 메모리 130 등)을 제어 또는 관리할 수 있다. 또한, 상기 커널 141은 상기 미들웨어 143, 상기 API 145, 또는 상기 어플리케이션 프로그램 147에서 상기 전자 장치 101의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
상기 미들웨어 143는, 예를 들면, 상기 API 145 또는 상기 어플리케이션 프로그램 147이 상기 커널 141과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 상기 미들웨어 143는 상기 어플리케이션 프로그램 147로부터 수신된 작업 요청들과 관련하여, 예를 들면, 상기 어플리케이션 프로그램 147 중 적어도 하나의 어플리케이션에 상기 전자 장치 101의 시스템 리소스(예: 버스 110, 프로세서 120, 또는 메모리 130 등)를 사용할 수 있는 우선 순위를 배정하는 등의 방법을 이용하여 작업 요청에 대한 제어(예: 스케쥴링 또는 로드 밸런싱)을 수행할 수 있다.
상기 API 145는, 예를 들면, 상기 어플리케이션 147이 상기 커널 141 또는 상기 미들웨어 143에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 화상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
상기 입출력 인터페이스 150은, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 상기 전자 장치 101의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 상기 입출력 인터페이스 150은 상기 전자 장치 101의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
상기 디스플레이 160은, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 상기 디스플레이 160은, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 상기 디스플레이 160은, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
상기 통신 인터페이스 170은, 예를 들면, 상기 전자 장치 101와 외부 장치(예: 제 1 외부 전자 장치 102, 제 2 외부 전자 장치 104, 또는 서버 106) 간의 통신을 설정할 수 있다. 예를 들면, 상기 통신 인터페이스 170은 무선 통신 또는 유선 통신을 통해서 네트워크 162에 연결되어 상기 외부 장치(예: 제 2 외부 전자 장치 104 또는 서버 106)와 통신할 수 있다.
상기 무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE, LTE-A, CDMA, WCDMA, UMTS, WiBro, 또는 GSM 등 중 적어도 하나를 사용할 수 있다. 상기 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard 232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 상기 네트워크 162는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
상기 제 1 및 제 2 외부 전자 장치 102, 104 각각은 상기 전자 장치 101와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 상기 서버 106는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예에 따르면, 상기 전자 장치 101에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치 102, 104, 또는 서버 106)에서 실행될 수 있다. 한 실시 예에 따르면, 상기 전자 장치 101가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 상기 전자 장치 101는 상기 기능 또는 상기 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치 102, 104, 또는 서버 106)에게 요청할 수 있다. 상기 다른 전자 장치(예: 전자 장치 102, 104, 또는 서버 106)는 상기 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 상기 전자 장치 101로 전달할 수 있다. 상기 전자 장치 101는 수신된 결과를 그대로 또는 추가적으로 처리하여 상기 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 전자 장치 201의 블록도 200이다. 상기 전자 장치 201는, 예를 들면, 도 1에 도시된 전자 장치 101의 전체 또는 일부를 포함할 수 있다. 상기 전자 장치 201는 하나 이상의 어플리케이션 프로세서(AP: application processor) 210, 통신 모듈 220, SIM(subscriber identification module) 카드 224, 메모리 230, 센서 모듈 240, 입력 장치 250, 디스플레이 260, 인터페이스 270, 오디오 모듈 280, 카메라 모듈 291, 전력 관리 모듈 295, 배터리 296, 인디케이터 297, 및 모터 298 를 포함할 수 있다.
상기 AP 210은, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 상기 AP 210에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 상기 AP 210은, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시 예에 따르면, 상기 AP 210은 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 상기 AP 210은 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈 221)를 포함할 수도 있다. 상기 AP 210 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
상기 통신 모듈 220은, 도 1의 상기 통신 인터페이스 160와 동일 또는 유사한 구성을 가질 수 있다. 상기 통신 모듈 220은, 예를 들면, 셀룰러 모듈 221, WIFI 모듈 223, BT 모듈 225, GPS 모듈 227, NFC 모듈 228 및 RF(radio frequency) 모듈 229를 포함할 수 있다. 상기 통신 모듈 220은 신호를 송신/수신하는 기능을 제공한다. 따라서, 상기 통신 모듈 220은 '수신부', '송신부', '송수신부', '통신부' 등으로 지칭될 수 있다.
상기 셀룰러 모듈 221은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈 221은 가입자 식별 모듈(예: SIM 카드 224)을 이용하여 통신 네트워크 내에서 전자 장치 201의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈 221은 상기 AP 210이 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 상기 셀룰러 모듈 221은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
상기 WIFI 모듈 223, 상기 BT 모듈 225, 상기 GPS 모듈 227 또는 상기 NFC 모듈 228 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈 221, WIFI 모듈 223, BT 모듈 225, GPS 모듈 227 또는 NFC 모듈 228 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
상기 RF 모듈 229는, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. 상기 RF 모듈 229는, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈 221, WIFI 모듈 223, BT 모듈 225, GPS 모듈 227 또는 NFC 모듈 228 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
상기 SIM 카드 224는, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
상기 메모리 230(예: 메모리 230)는, 예를 들면, 내장 메모리 232 또는 외장 메모리 234를 포함할 수 있다. 상기 내장 메모리 232는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
상기 외장 메모리 234는 flash drive, 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 상기 외장 메모리 234는 다양한 인터페이스를 통하여 상기 전자 장치 201과 기능적으로 및/또는 물리적으로 연결될 수 있다.
상기 센서 모듈 240은, 예를 들면, 물리량을 계측하거나 전자 장치 201의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 상기 센서 모듈 240은, 예를 들면, 제스처 센서 240A, 자이로 센서 240B, 기압 센서 240C, 마그네틱 센서 240D, 가속도 센서 240E, 그립 센서 240F, 근접 센서 240G, color 센서 240H(예: RGB(red, green, blue) 센서), 생체 센서 240I, 온/습도 센서 240J, 조도 센서 240K, 또는 UV(ultra violet) 센서 240M 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 상기 센서 모듈 240은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 상기 센서 모듈 240은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치 201는 AP 210의 일부로서 또는 별도로, 센서 모듈 240을 제어하도록 구성된 프로세서를 더 포함하여, 상기 AP 210이 슬립(sleep) 상태에 있는 동안, 센서 모듈 240을 제어할 수 있다.
상기 입력 장치 250은, 예를 들면, 터치 패널(touch panel) 252,(디지털) 펜 센서(pen sensor) 254, 키(key) 256, 또는 초음파(ultrasonic) 입력 장치 258를 포함할 수 있다. 상기 터치 패널 252은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 상기 터치 패널 252은 제어 회로를 더 포함할 수도 있다. 상기 터치 패널 252은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
상기(디지털) 펜 센서 254는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 상기 키 256는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 상기 초음파 입력 장치 258는 초음파 신호를 발생하는 입력 도구를 통해, 전자 장치 201에서 마이크(예: 마이크 288)로 음파를 감지하여 데이터를 확인할 수 있다.
상기 디스플레이 260(예: 디스플레이 160)은 패널 262, 홀로그램 장치 264, 또는 프로젝터 266을 포함할 수 있다. 상기 패널 262은, 도 1의 디스플레이 160과 동일 또는 유사한 구성을 포함할 수 있다. 상기 패널 262은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 상기 패널 262은 상기 터치 패널 252과 하나의 모듈로 구성될 수도 있다. 상기 홀로그램 장치 264은 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 상기 프로젝터 266는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 상기 스크린은, 예를 들면, 상기 전자 장치 201의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 상기 디스플레이 260은 상기 패널 262, 상기 홀로그램 장치 264, 또는 프로젝터 266를 제어하기 위한 제어 회로를 더 포함할 수 있다.
상기 인터페이스 270은, 예를 들면, HDMI(high-definition multimedia interface) 272, USB(universal serial bus) 274, 광 인터페이스(optical interface) 276, 또는 D-sub(D-subminiature) 278를 포함할 수 있다. 상기 인터페이스 270은, 예를 들면, 도 1에 도시된 통신 인터페이스 160에 포함될 수 있다. 추가적으로 또는 대체적으로, 상기 인터페이스 270은, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
상기 오디오 모듈 280은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 상기 오디오 모듈 280의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스 140에 포함될 수 있다. 상기 오디오 모듈 280은, 예를 들면, 스피커 282, 리시버 284, 이어폰 286, 또는 마이크 288 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
상기 카메라 모듈 291은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래쉬(flash)(예: LED 또는 xenon lamp)를 포함할 수 있다.
상기 전력 관리 모듈 295는, 예를 들면, 상기 전자 장치 201의 전력을 관리할 수 있다. 한 실시 예에 따르면, 상기 전력 관리 모듈 295는 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. 상기 PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 상기 배터리 게이지는, 예를 들면, 상기 배터리 296의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 상기 배터리 296는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
상기 인디케이터 297는 상기 전자 장치 201 혹은 그 일부(예: AP 210)의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 상기 모터 298는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 상기 전자 장치 201는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 상기 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어 플로우(media flow) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
상기 전자 장치의 전술한 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시 예에 따른 프로그램 모듈 310의 블록도 300이다. 한 실시 예에 따르면, 상기 프로그램 모듈 310(예: 프로그램 140)은 전자 장치(예: 전자 장치 101)에 관련된 자원을 제어하는 운영 체제(operation system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램 147)을 포함할 수 있다. 상기 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈 310은 커널 320, 미들웨어 330, API(application programming interface) 360, 및/또는 어플리케이션 370을 포함할 수 있다. 상기 프로그램 모듈 310의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 서버(예: 서버 106)로부터 다운로드(download) 가능하다.
상기 커널 320(예: 도 1의 커널 141)은, 예를 들면, 시스템 리소스 매니저 321 또는 장치 드라이버 323를 포함할 수 있다. 상기 시스템 리소스 매니저 321는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 상기 시스템 리소스 매니저 321는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 상기 장치 드라이버 323은, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WIFI 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
상기 미들웨어 330은, 예를 들면, 상기 어플리케이션 370이 공통적으로 필요로 하는 기능을 제공하거나, 상기 어플리케이션 370이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 상기 API 360을 통해 다양한 기능들을 상기 어플리케이션 370으로 제공할 수 있다. 한 실시 예에 따르면, 상기 미들웨어 330(예: 미들웨어 143)는 런타임 라이브러리 335, 어플리케이션 매니저(application manager) 341, 윈도우 매니저(window manager) 342, 멀티미디어 매니저(multimedia manager) 343, 리소스 매니저(resource manager) 344, 파워 매니저(power manager) 345, 데이터베이스 매니저(database manager) 346, 패키지 매니저(package manager) 347, 연결 매니저(connectivity manager) 348, 통지 매니저(notification manager) 349, 위치 매니저(location manager) 350, 그래픽 매니저(graphic manager) 351, 또는 보안 매니저(security manager) 352 중 적어도 하나를 포함할 수 있다.
상기 런타임 라이브러리 335는, 예를 들면, 상기 어플리케이션 370이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 상기 런타임 라이브러리 335는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
상기 어플리케이션 매니저 341는, 예를 들면, 상기 어플리케이션 370 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 상기 윈도우 매니저 342는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 상기 멀티미디어 매니저 343는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 상기 리소스 매니저 344는 상기 어플리케이션 370 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
상기 파워 매니저 345는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 상기 데이터베이스 매니저 346는 상기 어플리케이션 370 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 상기 패키지 매니저 347는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
상기 연결 매니저 348는, 예를 들면, WIFI 또는 블루투스 등의 무선 연결을 관리할 수 있다. 상기 통지 매니저 349는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 상기 위치 매니저 350은 전자 장치의 위치 정보를 관리할 수 있다. 상기 그래픽 매니저 351는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 상기 보안 매니저 352는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치(예: 전자 장치 101)가 전화 기능을 포함한 경우, 상기 미들웨어 330은 상기 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
상기 미들웨어 330은 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 상기 미들웨어 330은 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 상기 미들웨어 330은 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
상기 API 360(예: API 145)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
상기 어플리케이션 370(예: 어플리케이션 프로그램 147)은, 예를 들면, 홈 371, 다이얼러 372, SMS/MMS 373, IM(instant message) 374, 브라우저 375, 카메라 376, 알람 377, 컨택트 378, 음성 다이얼 379, 이메일 380, 달력 381, 미디어 플레이어 382, 앨범 383, 또는 시계 384, 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 제공할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 상기 어플리케이션 370은 상기 전자 장치(예: 전자 장치 101)와 외부 전자 장치(예: 전자 장치 102, 104) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 상기 정보 교환 어플리케이션은, 예를 들면, 상기 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 상기 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 상기 알림 전달 어플리케이션은 상기 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치 102, 104)로 전달하는 기능을 포함할 수 있다. 또한, 상기 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 상기 장치 관리 어플리케이션은, 예를 들면, 상기 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치 104)의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 상기 외부 전자 장치에서 동작하는 어플리케이션 또는 상기 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 상기 어플리케이션 370은 상기 외부 전자 장치(예: 전자 장치 102, 104)의 속성(예: 전자 장치의 속성으로서, 전자 장치의 종류가 모바일 의료 기기)에 따라 지정된 어플리케이션(예: 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 상기 어플리케이션 370은 외부 전자 장치(예: 서버 106 또는 전자 장치 102, 104)로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 상기 어플리케이션 370은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈 310의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시 예에 따르면, 상기 프로그램 모듈 310의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 상기 프로그램 모듈 310의 적어도 일부는, 예를 들면, 프로세서(예: AP 210)에 의해 구현(implement)(예: 실행)될 수 있다. 상기 프로그램 모듈 310의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면 "모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어는, 프로세서(예: 프로세서 120)에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 상기 메모리 130이 될 수 있다.
상기 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시 예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치는 이미지 센서에서 획득되는 영상을 처리할 때 이미지 센서에 획득되는 이미지를 이미지 처리 모드에 따라 인트라-프레임 합(intra-frame sum) 또는 인터-프레임 합(inter-frame sum)하여 노출 시간의 손실 없이 밝은 이미지를 획득하는 효과를 가지도록 이미지를 전처리하고, 상기 전처리된 이미지를 처리하여 표시 또는 저장할 수 있다. 먼저 상기 이미지를 스케일링하여 처리하는 동작이면, 상기 전자 장치는 상기 이미지 센서에서 획득되는 이미지를 인트라-프레임 합하여 RGB 이미지로 변환하는 전처리 동작을 수행하며, 상기 전처리된 이미지를 처리하여 프리뷰 이미지로 표시하거나 동영상 이미지로 저장할 수 있다. 두 번째로 상기 이미지를 정지 영상(예를 들면, 스틸 이미지 또는 캡쳐 이미지)으로 처리하는 동작이면, 상기 전자 장치는 상기 이미지 센서에서 획득되는 이미지를 버퍼링(buffering)하며, 상기 버퍼링된 이미지들을 인터-프레임 합하여 정지 영상으로 설정하고, 상기 설정된 이미지를 처리하여 정지 영상으로 저장할 수 있다. 상기 설정된 영상은 블러가 가장 작은 이미지를 기준 이미지(reference image) 로 선택한 후, 상기 선택된 기준 이미지와 버퍼링된 이미지들의 비교 분석에 의해 이미지 내에 포함된 움직이는 피사체의 움직임을 보상한 이미지가 될 수 있다.
도 4는 본 발명의 일 실시 예에 따른 영상을 처리하는 전자 장치를 도시한다.
상기 도 4를 참조하면 전자 장치 400은 카메라 410, 전처리부 420, 영상 신호 처리부 430, 디스플레이 440, 입력부 450, 메모리 460, 프로세서 470, 센서 480을 포함할 수 있다.
카메라 410은 적어도 하나 이상의 카메라 집합을 의미할 수 있다. 카메라 410은 전자장치 전면에 위치할 수 있고, 후면에 위치할 수 있으며, 또는 전후면에 모두 위치할 수 있다. 카메라 410은 렌즈(lens), 액츄에이터(actuator), 이미지 센서(image sensor) 등을 포함할 수 있다. 카메라 410은 렌즈를 통해 광학적 신호를 획득할 수 있으며, 이미지 센서를 통해 상기 획득된 광학적 신호를 전기적 신호로 변환할 수 있다. 상기 이미지 센서의 밝기는 노출 시간(exposure time) 및/또는 이득(gain)에 의해 결정될 수 있다.
전처리부 420은 카메라의 이미지 센서를 통해 획득한 이미지 데이터를 전처리하는 기능을 수행할 수 있다. 전처리부 420은 뒤에 위치한 영상 신호 처리부에서 영상을 처리할 때 영상의 열화가 발생되지 않도록 노출 시간을 보상하는 전처리 동작을 수행할 수 있다. 전처리부 420은 카메라 410의 이미지 센서에서 출력되는 영상을 인트라-프레임 합(intra-frame sum)하여 RGB 이미지로 변환하는 전처리 동작을 수행할 수 있다. 또한 전처리부 420은 카메라 410의 상기 이미지 센서에서 출력되는 영상을 버퍼링하며, 상기 버퍼링된 이미지들을 인터-프레임 합(inter-frame sum)하여 정지 영상으로 설정하고, 상기 설정된 이미지를 처리하여 정지 영상으로 저장할 수 있다. 전처리부 420은 상기 카메라 410에서 획득된 이미지 데이터를 정적 이미지 및 동적 이미지로 분류하여 처리할 수 있다. 이하의 설명에서 상기 정적 이미지는 캡쳐(capture) 이미지, 스틸(still) 이미지, 고화소의 이미지 등으로 지칭될 수 있다. 또한 상기 동적 이미지는 동영상, 카메라의 프리뷰 영상, 저화소 이미지 등으로 지칭될 수 있다.
영상 신호 처리부(Image Signal Processing) 430은 처리되는 이미지를 표시 또는 저장하기 용이한 이미지로 처리할 수 있다. 영상 신호 처리부 430은 3A 처리(자동 노출(auto exposure) 조절, 자동 초점(auto focus) 조절, 자동 화이트 밸런스(auto white balance) 조절), 노이즈 처리(noise reduction), 선명도 개선(image sharpening), 디모자이킹(demosaicking), 색 조정(color correction), 엣지 강조(edge enhancement), 감마 보정(gamma correction) 등을 수행할 수 있다. 영상 신호 처리부 430에서 가공된 영상 신호는 프로세서 470의 제어에 의해 디스플레이 440 등을 통해 표시될 수 있으며, 메모리 460에 저장될 수 있다. 전처리부 420은 전자 장치에 따라 영상 신호 처리부 430에 포함될 수도 있다.
또한, 영상 신호 처리부 430은 전자 장치 400의 프로세서 470의 일부로 구성될 수 있다.
디스플레이 440은 영상 신호 처리부에서 가공된 영상 신호를 표시할 수 있다. 디스플레이 440은 캡쳐(capture) 또는 스틸(still) 이미지를 표시할 수 있고, 동영상 또는 카메라 프리뷰(preview) 이미지를 표시할 수 있다. 디스플레이 440은 LCD(Liquid Crystal Display) 또는 OLED(Organic Light Emitting Diode)가 될 수 있다.
입력부 450은 전자 장치의 입력을 감지할 수 있다. 입력부 450은 터치패널이 될 수 있다. 입력부 450은 손가락 및 펜의 터치 또는 호버링(hovering) 입력을 감지할 수 있다. 입력부 450은 본 발명의 다양한 실시 예에 따른 영상의 획득 및 처리에 관련된 입력들을 발생시킬 수 있다.
디스플레이 440 및 입력부 450은 일체형의 터치스크린(touch screen)으로 구성될 수 있다.
메모리 460은 하나 이상의 메모리 집합을 의미할 수 있다. 메모리 460은 상기 가공된 영상 신호를 저장할 수 있다. 또한, 메모리 460은 전자 장치의 각 모듈(예를 들면, 전처리부 420, 영상 신호 처리부 430, 프로세서 470 내부의 모듈 등)에 필요한 명령어, 프로그램 등을 저장할 수 있다.
프로세서 470은 SoC(System On Chip)으로 구현될 수 있다. 프로세서 470은 필요한 경우 각각 분리되어 전자 장치의 내부 구성요소(카메라 410, 디스플레이 440, 센서 480)와 결합하여 구현될 수 있다. 프로세서 470은 전자 장치의 내부 구성요소를 제어할 수 있으며, 내부 구성요소의 동작에 따른 데이터들을 처리할 수 있다. 그리고 프로세서 470은 CPU(Central Processing Unit) 및 GPU(Graphic Processing Unit)를 포함할 수 있다.
센서 480은 하나 이상의 다양한 센서들의 집합을 의미할 수 있다. 예를 들면, 센서 480은 모션 센서(motion sensor), 가속도 센서, 지자기 센서, 자이로스코프 센서 등을 포함할 수 있다. 센서 480은 카메라 촬영 시점의 전자 장치의 상태를 감지하는 기능을 수행할 수 있다.
도 5는 본 발명의 다양한 실시 예에 따른 전자 장치의 기능 블록도이다.
도 5를 참조하면, 이미지 센서 510은 이미지 데이터를 획득할 수 있다. 이미지 센서 510은 카메라 410의 렌즈를 통하여 들어온 광학적 신호를 전기적 신호로 변환할 수 있으며, 마이크로 렌즈, 컬러 필터 및 광 검출기(예를 들면, photo detector) 등으로 구성될 수 있다. 이미지 센서 510은 베이어 형식(Bayer format)의 이미지를 생성할 수 있다. 이미지 센서 510에 의해 전기적 신호로 변환된 이미지 데이터는 전처리부 420에 입력될 수 있다. 전처리부 420은 이미지 센서 510에서 생성되는 이미지 데이터의 종류에 따라 다른 모드의 이미지 전처리를 수행할 수 있다. 구체적으로, 전처리부 420은 인트라-프레임 합 또는 인터-프레임 합을 수행할 수 있다.
여기서 인트라-프레임 합은 영상 내의 인근 픽셀의 정보를 참고하여 대표 픽셀을 생성하는 방법일 수 있다. 인트라 프레임 합은 베이어 형식의 영상을 컬러 인터폴레이션(color interpolation)하고 사이즈 조정(resize)하여 RGB 형식의 영상으로 변환할 수 있다. 그리고 인트라-프레임 합은 동적 영상에 사용되는 기법일 수 있다. 즉, 전자 장치 400은 인트라-프레임 합에 기반한 전처리를 수행하여 영상 처리 연산량을 감소시킬 수 있으며, 픽셀의 밝기가 증가된 영상을 획득할 수 있다.
여기서 인터-프레임 합은 동일한 피사체에 대한 서로 다른 프레임 영상의 픽셀 정보를 참고하여 대표 픽셀을 생성하는 방법일 수 있다. 인터-프레임 합은 간략화된 연산을 통하여 각 프레임 별 피사체 위치를 비교하는 심플 디모자이킹(simple demosaicking) 기능, 복수 프레임 간 비교를 통해 영상 내에서 움직임이 발생한 부분을 추정하는 움직임 검출(motion estimation) 기능, 움직임 없는 부분 영상 간 합성을 통해 흐림(blur)이 적은 영상을 생성하는 움직임 보상(motion compensation) 기능, 복수의 프레임 혹은 픽셀 정보에 기반하여 하나의 픽셀 정보를 생성하는 영상 합성(image fusion) 기능 등을 포함할 수 있다. 그리고 인터-프레임 합은 정적 영상에 사용되는 기법일 수 있다. 예를 들면, 전처리부 420은 시계열적으로 구성된 멀티 프레임 영상의 픽셀을 인터-프레임 합하여 대표 픽셀이 포함된 영상을 생성할 수 있다. 또한, 전처리부 420은 여러 카메라를 통해 획득한 영상의 픽셀을 인터-프레임 합하여 대표 픽셀이 포함된 영상을 생성할 수 있다. 이러한 전처리를 통해, 전자 장치 400은 영상 처리 연산량을 감소시킬 수 있으며, 픽셀의 밝기가 증가된 영상을 획득할 수 있다.
전처리부 420은 이미지 처리모드에 따라 상기 이미지 센서 510에서 생성되는 이미지 데이터를 처리할 수 있다. 여기서 상기 이미지 처리 모드는 프리뷰 모드(preview mode), 동적 영상 처리 모드(moving picture processing mode), 정적 영상 처리 모드(still image processing mode, capture mode) 등이 될 수 있다. 상기 프리뷰 모드 및 동적 처리 모드는 상기 이미지 센서 510에서 생성되는 이미지들을 설정된 화소 크기로 스케일링(scaling)하여 처리할 수 있으며, 정적 영상 처리 모드는 상기 이미지 센서 510에서 생성되는 이미지를 그대로 또는 설정된 크기로 스케일링하여 처리할 수 있다. 이 때 상기 정적 영상 처리 모드에서 처리되는 이미지 사이즈는 상기 프리뷰 모드 또는 동적 영상 처리 모드에서 처리되는 이미지 사이즈에 비하여 상대적으로 이미지 사이즈가 큰 고해상도 이미지가 될 수 있다. 전처리부 420은 이미지의 종류(예를 들면, 저화소 이미지, 고화소 이미지)에 따라 이미지 데이터를 분류하여 전처리할 수 있다.
상기 생성된 이미지 데이터가 저화소 이미지이면, 상기 생성된 이미지 데이터는 전처리부 420의 저화소 전처리부 520에 입력될 수 있다. 여기서, 저화소 전처리부 520은 동적 영상 전처리부 등으로 지칭될 수도 있다. 그리고 본 문서에서 저화소 영상은 동적 영상, 프리뷰 영상 등을 의미할 수 있다. 즉, 본 문서에서 저화소 전처리부 520은 고화소의 동적 영상을 전처리하는 기능을 포함할 수 있다.
저화소 전처리부 520은 인트라-프레임 합을 이용하여 이미지를 전처리할 수 있다. 구체적으로 저화소 전처리부 520은 입력된 이미지 데이터의 사이즈를 줄이는 전처리 동작(image scaling)을 수행하여 영상 신호 처리부 540에 전달할 수 있다. 상기 저화소 이미지는 동영상, 카메라 프리뷰(preview) 이미지 등이 될 수 있다. 상기 저화소 전처리부 520은 이미지 센서 510에서 생성되는 베이어 패턴의 이미지 데이터들을 인트라-프레임 합(intra-frame sum)하여 RGB 패턴으로 이미지 스케일링할 수 있다. 따라서 전자 장치 400은 저화소 전처리부 520을 통해 영상 신호의 연산량을 감소시킬 수 있다. 또한, 전자 장치 400은 저화소 전처리부 520을 통해 해상도를 감소시키면서도 증가된 밝기를 가지는 이미지를 획득할 수 있다.
상기 생성된 이미지 데이터가 고화소 이미지이면, 이미지 센서 510에서 출력되는 이미지는 고화소 전처리부 530에 입력될 수 있다. 여기서 고화소 전처리부 530은 정적 영상 전처리부 등으로 지칭될 수도 있다. 그리고 본 문서에서 고화 영상은 정적 영상, 캡쳐(capture) 영상 등을 의미할 수 있다. 즉, 본 문서에서 고화소 전처리부 530은 저화소의 정적 영상을 전처리하는 기능을 포함할 수 있다. 고화소 전처리부 530은 버퍼를 포함할 수 있으며, 이미지 센서 510에서 생성되는 이미지들을 버퍼링할 수 있다. 그리고 상기 버퍼링된 이미지들을 합성하여 하나의 정지 이미지로 전처리한 후 영상 신호 처리부 430에 전달할 수 있다. 고화소 전처리부 530은 복수의 이미지들을 합성하여 노출 시간의 손실없이 밝은 이미지를 생성할 수 있다.
상기 전처리부 420으로부터 전처리된 이미지를 입력 받는 영상 신호 처리부 430은 상기 전처리된 이미지를 처리하여 YUV 형식으로 변환할 수 있다. 그리고 상기 YUV 형식의 이미지를 프로세서 470에 전달할 수 있다. 그리고 프로세서 470은 입력 받은 YUV 형식의 이미지를 컬러 매칭(color matching)하고, 쉐이딩 매칭(shading matching)하여 인코더(encoder) 540에 전달할 수 있다. 인코더 540은 수신한 영상 신호를 저장하기 적합하게 압축(즉, 인코딩: encoding)할 수 있다. 인코더 540을 통해 인코딩된 영상은 메모리 460에 저장될 수 있다. 영상 신호 처리부 430, 프로세서 470, 인코더 540은 연산을 위해 메모리 460에서 명령어 등을 수신할 수 있다.
다양한 실시 예에 따른 전자 장치 400은 도 5와 같은 구성을 통해 베이어 형식의 영상을 RGB 형식으로 변환하여 전자 장치 400 내의 구성 요소(예를 들면, 영상 신호 처리부 430, 메모리 460, 프로세서 470, 인코더 540) 간의 신호 처리량을 감소시킬 수 있다.
또한, 다양한 실시 예에 따른 전자 장치 400은 도 5와 같은 구성을 통해 움직임 검출(motion estimation) 및 영상 합성(image fusion)을 영상 신호 처리 전에 수행하여 프로세서 470의 연산량을 감소시킬 수 있다. 그리고 상기 연산량 감소에 대응하여 전자 장치 400은 프로세서 470을 이용하여 저장 혹은 표시에 적합한 후처리 이미지를 생성할 수 있다.
또한, 다양한 실시 예에 따른 전자 장치 400은 보다 짧은 노출로 밝은 영상을 제공할 수 있다.
도 6은 본 발명의 다양한 실시 예에 따른 저화소 전처리부를 도시하는 도면이다. 도 6은 저화소 전처리부를 스케일러로 구현한 예를 도시하는 도면이다.
도 6을 참조하면, 이미지 센서 610은 베이어 형식(Bayer Format)의 이미지 데이터를 출력할 수 있다. 스케일러 630은 베이어 형식의 이미지 데이터를 인트라-프레임 합하여 RGB 형태의 이미지 데이터로 스케일링하는 전처리 데이터를 생성할 수 있다. 스케일러(scaler) 630은 이미지 데이터를 원하는 해상도의 크기로 스케일링할 수 있다. 스케일링(scaling) 방법은 nearest-neighbor 및/또는 linear interpolation하는 동작을 포함할 수 있다. 또한 스케일러 630은 입력된 이미지 데이터의 형식을 변환하여 스케일링할 수 있다. 예를 들면, 스케일러 630은 이미지 센서 610에서 출력되는 베이어 형식의 이미지를 RGB 형식의 이미지 데이터로 변환할 수 있다.
스케일러 630에서 출력된 이미지 데이터는 영상 신호 처리부 650에 입력될 수 있다.
도 7는 본 발명의 다양한 실시 예에 따른 이미지 스케일러에서 이미지를 스케일링하는 것을 설명하기 위한 도면이다. 도 7은 이미지 스케일러에서 베이어 형식의 이미지 데이터를 인트라-프레임 합하여 RGB 형식의 이미지 데이터로 전처리하는 예(즉, 인트라-프레임 합을 이용하여 전처리하는 예)를 도시하고 있다.
도 7를 참조하면 이미지 데이터 710은 이미지 센서 610에서 생성된 베이어 형식의 이미지 데이터일 수 있다. 이미지 데이터 710은 이미지 스케일러에서 이미지 데이터 720과 같은 베이어 형식의 이미지로 스케일링되거나 또는 이미지 데이터 730과 같은 RGB 형식의 이미지로 스케일링될 수 있다. 이미지 데이터 720 또는 730은 이미지 데이터 710과 비교하여 화소(pixel) 수가 1/4로 감소된 이미지 데이터가 될 수 있다.
이미지 데이터 730은 베이어 형식의 이미지 데이터 710과 비교하여 화소(pixel) 수가 1/4로 감소된 R화소, G화소, B화소의 집합의 합일 수 있다. 이 때, 이미지 데이터 730을 구성하는 각 화소(pixel)들은 대응되는 이미지 데이터 710의 인접 화소(pixel)들의 인트라-프레임 합(intra-frame sum)에 의해 결정될 수 있다. 예를 들면 Ra는 R1, R3, R17, 및 R19의 인트라-프레임 합에 의하여 결정될 수 있고, Ga는 G2, G4, G9, G11, G18, G20, G25, 및 G27의 인트라-프레임 합에 의하여 결정될 수 있으며, Ba는 B10, B12, B26 및 B28의 인트라-프레임 합에 의하여 결정될 수 있다. 이미지 데이터 710의 각 화소들의 인트라-프레임 합에 의해 이미지 데이터 730의 각 화소들이 결정되기 때문에, 이미지 데이터 730의 밝기는 이미지 데이터 720의 밝기의 4배일 수 있다. 따라서 이미지 데이터 730은 노출 시간을 1/4로 감소시키더라도 원본 이미지의 밝기를 유지할 수 있다. 또한, 이미지 데이터 730은 저조도의 영상이기 때문에, 이후 영상 처리 절차에서 연산량을 감소시킬 수 있다.
도 8은 본 발명의 다양한 실시 예에 따른 인트라-프레임 합을 이용하여 RGB 이미지를 생성하는 예를 설명하기 위한 도면이다.
도 8을 참조하면 이미지 데이터 810은 베이어 형식의 이미지 데이터일 수 있다. 이미지 데이터 810은 이미지 데이터 710에 대응될 수 있다.
이미지 데이터 820은 베이어 형식의 이미지 데이터를 RGB 형식의 이미지 데이터로 변환한 이미지일 수 있다. 이미지 데이터 820은 R 화소의 집합, G 화소의 집합 및 B 화소의 집합을 포함할 수 있다. 도 8에서 이미지 데이터 820은 3개의 레이어(layer)로 구성되어 있는데, 이는 설명을 위한 도시일 뿐이다. 즉, 이미지 데이터 820은 하나의 이미지 데이터일 수 있다.
이미지 데이터 820의 R 화소의 집합 830은 이미지 데이터 810의 R화소들의 인트라-프레임 합에 의하여 결정될 수 있다. 상기 인트라-프레임 합은 대응되는 윈도우 내에 위치된 화소들의 값을 합하여 이루어질 수 있다. 예를 들면, 이미지 데이터 810 의 일부를 포함하는 윈도우 815가 설정되면 Ra 화소 825의 값은 윈도우 815에 포함되어 있는 R1 화소 816, R2 화소 817, R3 화소 818 및 R4 화소 819의 값에 기반하여 결정될 수 있다. 예를 들어 상기 Ra 화소 825의 값은 R1 화소 816, R2 화소 817, R3 화소 818, R4 화소 819의 값의 합(즉, Ra=R1+R2+R3+R4)이 될 수 있다.
또한 상기 인트라-프레임 합은 윈도우 내의 화소들의 값과 화소들이 위치되는 거리에 따라 가중치를 부가하여 이뤄질 수 있다. 예를 들어, 스케일러 630은 윈도우 815 내의 4개의 화소들을 합하여 R 화소의 집합 830을 결정할 수 있다. R 화소의 집합 830을 결정하는 경우(즉, 4:1로 스케일링하는 경우), R 화소의 집합 830 내에 포함된 적어도 하나의 Ra 화소 825는 이미지 데이터 810의 일정 영역 815에 포함되어 있는 R1 화소 816, R2 화소 817, R3 화소 818, R4 화소 819와 이에 대응되는 가중치에 의해 결정될 수 있다. 즉, Ra=R1xw1+R2xw2+R3xw3+R4xw4일 수 있다. 여기서 w1, w2, w3, w4는 Ra 화소 825와 각각의 R1 화소 816, R2 화소 817, R3 화소 818, R4 화소 819와의 거리에 기반한 가중치일 수 있다. 예컨대, 가중치들(예를 들면, w1, w2, w3, w4)은 Ra 화소와 Ra 화소에 대응되는 각 화소들(예를 들면, R1, R2, R3, R4 등)의 거리에 따라 크기를 달리하여 부여될 수 있다. 즉, Ra가 맵핑(mapping)될 위치와 가장 가까운 곳에 위치한 R1에 대한 가중치 w1은 w1, w2, w3, 및 w4 중 가장 큰 값을 가질 수 있다. 또한 Ra가 맵핑 될 위치와 가장 먼 곳에 위치한 R4에 대한 가중치 w4는 w1, w2, w3, 및 w4 중 가장 작은 값을 가질 수 있다.
상기 가중치들은 원하는 밝기에 따라 다양한 크기를 가질 수 있다. 예를 들어 R 화소의 집합 830이 이미지 데이터 810보다 4배의 밝기를 가지길 원한다면 가중치 w1, w2, w3, 및 w4의 합은 4가 될 수 있다. 그리고 이러한 가중치들의 크기 조절로 전자 장치 400은 노출 시간의 손실없이 상대적으로 밝은 이미지를 획득할 수 있다. 예를 들어 w1, w2, w3, w4의 합이 4인 경우, 새로운 이미지 데이터는 노출 시간을 1/4로 줄이더라도 밝기를 유지할 수 있다.
도 8의 실시 예는 이미지 데이터 810 내의 인접 4개의 화소를 고려하고 있지만, 설정에 따라 이보다 많은 화소에 기반한 실시 예가 고려될 수도 있다. 예를 들면 5개 이상의 인접 화소를 기반으로 하여 Ra값을 결정하는 실시 예가 고려될 수도 있다. 또한, 도 8의 실시 예는 Ra 인접의 4개의 화소를 사각형으로 구역을 나눠 분류하였지만, 이는 설명을 위한 예시일 뿐이며, 필요한 경우 다른 방식으로 구역을 나눌 수 있다.
도 9은 본 발명의 다양한 실시 예에 따른 이미지 데이터를 표시한 그래프를 도시한다.
도 9을 참조하면, 그래프 910은 베이어 형식의 원본 이미지 데이터(예를 들면, 이미지 데이터 710, 또는 이미지 데이터 810)를 표시한 것일 수 있다. 그리고 그래프 920은 베이어 형식의 원본 이미지를 베이어 형식의 이미지로 스케일링(Bayer to Bayer scale down)한 이미지 데이터(예를 들면, 이미지 데이터 720)를 표시한 것일 수 있다. 그리고 그래프 930은 베이어 형식의 원본 이미지를 RGB 형식의 이미지로 스케일링(Bayer to RGB scale down)한 이미지 데이터(예를 들면, 이미지 데이터 730, 이미지 데이터 820)를 표시한 것일 수 있다.
그래프 920에 표시된 이미지 데이터는 G4 픽셀의 위치에서 다른 화소의 정보(예를 들면, 화소 R, B)를 가지고 있지 않을 수 있다. 그러나 그래프 930에 표시된 이미지 데이터는 G4' 픽셀의 위치에서 다른 화소의 정보(예를 들면, 그래프 930에서 화소 R4', B4')를 가지고 있을 수 있다. 그리고 상기 R4'는 인터폴레이션(interpolation)을 통해 원본 이미지 데이터(그래프 910에 표시된)의 R5의 정보를 포함할 수 있고, 상기 B4'는 B3의 정보를 일부 포함할 수 있다. 따라서 그래프 930에 표시된 이미지 데이터는 그래프 920에 표시된 이미지 데이터보다 보다 많은 원본 이미지 데이터(그래프 910에 표시된)의 정보를 포함할 수 있다.
따라서 스케일러 630은 저화소 이미지를 전처리할 때 상기 이미지 센서로부터 생성되는 이미지 데이터를 최종적으로 생성할 영상의 해상도 사이즈로 스케일링할 수 있다. 예를 들면, 이미지 센서는 베이어 형식의 고화소 이미지(예를 들면, 16M 픽셀 이미지)를 생성하고, 디스플레이 440은 상대적으로 저화소 이미지(예를 들면, 2M 픽셀의 이미지)를 표시할 수 있다. 이 때 스케일러 630은 고화소 이미지 데이터를 인트라-프레임 합하여 저화소의 RGB 형식을 가지는 이미지 데이터들로 스케일링(전처리)하며, 상기 스케일링된 이미지 데이터를 영상 신호 처리부 430에 전달할 수 있다. 상기 저화소를 처리하는 동작 모드는 프리뷰 모드 및 동영상 처리 모드가 될 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치 400은 저화소 처리 모드 시 노출 시간의 손실없이, 밝기 및 해상도를 확보할 수 있다. 그리고 이로 인해 전자 장치는 프리뷰 모드 또는 동영상 처리 모드에서 블러(blur) 및 노이즈(noise)가 상대적으로 적은 이미지를 획득할 수 있다. 또한, 본 발명의 다양한 실시 에에 따른 전자 장치 400은 스케일러 630을 통해 저조도 영상을 획득할 수 있어 이후의 영상 처리 절차에서의 연산량을 감소시킬 수 있다.
도 10은 본 발명의 다양한 실시 예에 따른 고화소 전처리부에서 이미지 데이터의 처리 절차를 도시한다.
도 10을 참조하면, 이미지 센서 1010은 베이어 형식(Bayer Format)의 이미지 데이터를 생성할 수 있다. 이미지 센서 1010에 의해 생성된 이미지 데이터는 흐림(blur) 처리부 1020에 입력될 수 있다.
흐림 처리부 1020은 입력된 상기 이미지 데이터에 흐림이 발생하였는지 검출(blur estimation)할 수 있다. 전자 장치 400이 움직이면 이미지 센서 1010에서 생성되는 이미지에 블러(흐림)가 포함될 수 있다. 전자 장치 400의 센서 480은 모션 감지 센서를 포함할 수 있다. 그리고 상기 모션 감지 센서는 장치의 움직임을 감지하는 센서일 수 있다. 상기 모션 감지 센서는 독립적인 모션 감지 센서를 구비할 수 있으며, 또는 가속도 센서 또는 지자기 센서를 이용하여 장치의 움직임을 감지할 수도 있다. 흐림처리부 1020은 상기 흐림 검출(blur estimation)을 한 프레임의 이미지를 이용하여 수행할 수도 있고, 복수의 프레임의 이미지를 이용하여 수행할 수도 있다.
그리고 흐림 처리부 1020은 입력된 상기 이미지 데이터에 흐림이 발생한 경우 상기 이미지 데이터에 포함된 흐림(blur)를 보상(compensation)할 수 있다. 또한 흐림 처리부 1020은 입력된 상기 이미지 데이터에 흐림이 심각하게 발생한 경우 상기 이미지 데이터를 폐기(discard)할 수 있다. 예를 들어, 빛의 산란, 카메라 내부의 처리 과정, 전자 장치 400의 움직임 등을 원인으로 하여 원본 이미지 데이터에 흐림(blur)이 발생한 경우, 흐림 처리부 1020은 상기 흐림을 검출할 수 있다. 또한 흐림 처리부 1020은 상기 검출 결과에 따라, 보상 가능한 흐림이면 상기 이미지의 흐림을 보상하고, 보상이 불가능한 흐림이면 상기 이미지를 폐기할 수 있다.
흐림 처리부 1020에서 출력된 이미지 데이터는 움직임(motion) 처리부 1030에 입력될 수 있다. 여기서 상기 움직임은 이미지 내에 포함된 피사체(object)의 움직임이 될 수 있다. 이미지 센서 1010에서 생성되는 이미지는 연속되는 이미지이며, 상기 연속되는 이미지 내에는 움직이는 피사체가 포함될 수 있다. 움직임 처리부 1030은 연속되는 이미지들을 기준 이미지와 비교 이미지들로 분류할 수 있다. 상기 기준 이미지는 흐림 처리부 1020에서 처리된 이미지들 중 가장 적은 흐림을 가지는 피사체를 포함하는 이미지일 수 있다. 또한 상기 기준 이미지는 블러가 없는 제로 셔터렉의 이미지 또는 제로 셔터렉 시점에 가장 가까운 블러가 없는 이미지일 수도 있다. 그리고 상기 비교 이미지는 흐림 처리부 1020에서 처리된 이미지 데이터 중 기준 이미지 데이터를 제외한 나머지 이미지들일 수 있다. 움직임 처리부 1030은 기준 이미지로부터 피사체의 일부분에 대응하는 영역을 추출하고, 비교 이미지로부터 피사체의 나머지 부분에 대응하는 영역을 추출할 수 있다. 그리고 움직임 처리부 1030은 기준 이미지의 움직임과 비교 이미지의 움직임을 결정할 수 있다. 그 후, 움직임 처리부 1030은 비교 이미지의 상기 나머지 부분을 기준 이미지의 대응하는 부분으로 위치를 보정(즉, 움직임 보상: motion compensation)할 수 있다.
버퍼 1040은 움직임 처리부 1030에서 처리된 이미지들을 버퍼링할 수 있다. 버퍼 1040에 저장되는 이미지들은 이미지 센서 101에서 생성되어 흐림 처리부 1020 및 움직임 처리부 1030에서 블러 및 움직임이 보상되는 연속된 이미지들이 될 수 있다. 버퍼 1040은 설정된 수의 프레임 이미지들이 임시로 저장하는 버퍼가 될 수도 있다. 예를 들면 버퍼 1040은 복수의 프레임이 취득된 순서대로 임시 저장되는 링 버퍼(Circular buffer) 형태로 구성될 수 있다.
합성부 1050은 이미지 처리가 요구되는 시점에서 버퍼 1040에 임시 저장된 이미지들을 합성할 수 있다. 예를 들면 전자 장치 400에 캡쳐(capture)가 요구되는 경우, 합성부 1050은 버퍼 1040에 저장된 이미지 데이터를 인터-프레임 합(inter-frame sum)할 수 있다. 즉, 합성부 1050은 복수의 프레임의 인터-프레임 합을 통해 하나의 이미지 데이터를 생성하도록 구성될 수 있다. 원본 이미지 데이터 n개의 인터-프레임 합에 의해 상기 이미지 데이터가 생성되었기 때문에, 상기 생성된 이미지 데이터의 밝기는 원본 이미지 데이터의 밝기의 n배 일 수 있다. 따라서 상기 생성된 이미지 데이터는 노출 시간을 1/n로 감소시키더라도 이미지의 밝기를 유지할 수 있다. 예를 들면, 전자 장치 400은 저조도 영상 4장을 합성하여 하나의 밝은 영상을 생성할 수 있다. 즉, 전자 장치 400은 획득한 복수 개의 영상 중 흐림이 적은 영상에 대하여 움직임을 보상하며 인터-프레임 합을 수행하기 때문에 흐림이 상대적으로 적게 포함된 밝은 영상을 생성할 수 있다.
도 10과 같은 구성을 가지는 고화소 전처리부 530은 이미지 센서 1010에서 연속 생성되는 이미지들을 합성하여 노출 시간이 보상된 이미지(전처리된 이미지)를 생성할 수 있다. 그리고 상기 전처리된 고화소 이미지는 정지 이미지일 수 있다. 그리고 상기 전처리된 고화소 이미지는 정지 이미지로 저장될 수 있다. 따라서 고화소 전처리부 530은 이미지 센서 1010에서 생성되는 이미지의 블러 및 움직임을 보상한 후 전처리하는 것이 바람직할 수 있다. 상기 이미지는 두 종류의 움직임 성분을 가질 수 있다. 하나는 장치의 움직임이 될 수 있으며, 다른 하나는 이미지 내에 포함되는 피사체의 움직임이 될 수 잇다.
고화소 전처리부 530은 연속적으로 생성되는 이미지들 중에서 적어도 하나의 영상으로부터 흐림 검출(blur estimation)을 할 수 있다. 상기 흐림 검출은 디컨벌루젼(deconvolution) 방법을 이용할 수 있다. 또한 상기 움직임 검출은 촬영된 영상에서 움직임을 검출하는 것으로, 움직임 중 단말의 움직임(hand blur 포함)에 의해 발생한 글로벌 움직임(global motion)과 피사체의 움직임에 발생한 로컬 움직임(local motion)을 분리하여 검출할 수도 있다. 상기 흐림 검출은 모션 감지 센서(motion sensor)를 이용하여 단말의 움직임 벡터를 검출할 수 있다. 또한 상기 흐림 검출은 복수의 영상들을 비교하여 블록 대응 알고리즘(block matching algorithm)을 통해 영상 중 일부 영역의 움직임 벡터를 검출할 수 있다. 또한 상기 흐림 검출은 영상으로부터 얻은 움직임 벡터와 모션 센서로부터 얻은 움직임 벡터를 조합하여 로컬 움직임을 추출할 수도 있다.
도 11은 본 발명의 다양한 실시 예에 따른 고화소 전처리부에서 이미지의 흐름을 도시한다. 도 11에 도시된 동작 절차는 인터-프레임 합을 의미하는 것일 수 있다.
도 11을 참조하면, 블록 1110의 이미지 i는 이미지 센서 510에서 생성되는 이미지이며, 흐림 처리부 1120에 입력될 수 있다. 블록 1110의 이미지 i가 흐림 처리부 1120에 입력되면, 흐림 처리부 1120은 블록 1110의 이미지 i 의 흐림을 검출(blur estimation: 1130)할 수 있다. 상기 검출 결과에 따라 블록 1110의 이미지 i는 그대로 출력될 수도 있고, 보상(compensation: 1140)될 수도 있으며, 폐기(discard: 1150)될 수도 있다. 흐림 처리부 1120에 의해 처리가 완료된 이미지는 움직임 처리부 1160에 입력될 수 있다.
상기 처리된 이미지가 움직임 처리부 1160에 입력되면, 움직임 처리부 1160은 상기 처리된 이미지를 기준 이미지 1170 및 비교 이미지 1180로 분류할 수 있다. 상기 분류 후 움직임 처리부 1160은 기준 이미지 1170을 중심으로 움직임을 검출(motion estimation)할 수 있고, 비교 이미지 1180을 기준 이미지 1170으로 보상(compensation: 1190)을 통해 이동시킬 수 있다. 상기 기준 이미지 1170 및 비교 이미지 1180의 분류 절차는 필요한 경우 움직임 검출이 완료된 후 이뤄질 수도 있다.
움직임 처리부 1160에 의해 처리가 완료된 이미지는 전자 장치 400에 캡쳐(capture)가 요구될 때 인터-프레임 합되어 전처리된 하나의 이미지 1195로 영상 신호 처리부에 인가될 수 있다.
도 12는 본 발명의 다양한 실시 예에 따른 고화소 전처리부에서 이미지 데이터의 처리 절차를 도시한다.
도 12를 참조하면 이미지 센서 1210는 베이어 형식(Bayer Format)의 이미지 데이터를 연속 출력할 수 있다.
버퍼 1220은 상기 이미지 데이터를 버퍼링할 수 있다. 버퍼 1220은 이미지 센서 1210에서 생성되는 설정된 수의 프레임 이미지들을 저장할 수 있는 버퍼(예를 들면, ring buffer)가 될 수 있다.
흐림 처리부 1230은 버퍼 1220에 임시 저장된 이미지 데이터의 흐림 검출(blur estimation), 흐림 보상(blur compensation), 이미지 폐기(discard) 등을 수행할 수 있다.
움직임 처리부 1240은 흐림 처리부 1230에서 처리한 이미지 데이터의 움직임 검출(motion estimation), 움직임 보상(motion compensation) 등을 수행할 수 있다.
합성부 1250은 움직임 처리가 완료된 이미지 데이터를 최종적으로 인터-프레임 합하는 기능을 수행할 수 있다.
도 12와 같은 구성을 가지는 고화소 전처리부 530은 캡쳐 요구 시점에서 움직임 보상된 복수의 이미지들을 합성하여 전처리된 정지 이미지를 출력할 수 있다. 이 때 상기 복수의 이미지를 합성하는 시점은 다음과 같은 방법으로 수행될 수 있다.
먼저 버퍼 1220은 이미지 센서 1210에서 생성되는 이미지들을 버퍼링할 수 있다. 그리고 캡쳐 요구 시 흐림 처리부 1230은 버퍼링된 이미지들의 블러 여부를 판정하고, 움직임 처리부 1240은 입력된 이미지들 중에서 기준 이미지를 선택하고, 다른 이미지들과 비교하여 이미지 내의 움직임을 보상할 수 있다. 그리고 움직임 처리부 1240은 상기 움직임 보상된 이미지들을 합성하여 출력할 수 있다.
두 번째로 버퍼 1220은 상기 이미지 센서에서 생성되는 이미지들을 버퍼링하고, 흐림 처리부 1230은 버퍼링된 이미지들의 블러 여부를 판정할 수 있다. 그리고 움직임 처리부 1240은 입력된 이미지들 중에서 기준 이미지를 선택하고, 다른 이미지들과 비교하여 이미지 내의 움직임을 보상한 후, 이를 버퍼에 저장할 수 있다. 그리고 캡쳐 요구 시 합성부 1250은 버퍼링 중인 움직임 보상 이미지들을 합성하여 출력할 수 있다.
여기서 상기 기준 이미지는 제로 셔터렉 이미지, 제로 셔터렉 이미지에 블러가 존재하면 제로 셔터렉이 가장 가까우면서 블러가 가장 적은 이미지가 될 수 있다.
도 13은 본 발명의 다양한 실시 예에 따른 고화소 전처리부에서 이미지의 흐름을 도시한다.
도 13을 참조하면, 고화소 전처리부는 블록 1310에서 n개의 이미지를 버퍼 1220에 저장할 수 있다. 그 후 고화소 전처리부는 흐림 처리를 통해 임시 저장된 n개의 이미지 중에서 피사체의 흐림이 가장 적은 이미지를 기준 이미지로 선택할 수 있고, n개 이미지 중 폐기(discard)된 이미지를 제외한 나머지 이미지를 비교 이미지(Image 1, ... , n)로 선택할 수 있다.
그리고 고화소 전처리부는 블록 1320에서 기준 이미지와 비교 이미지의 비교를 통하여 움직임 검출을 수행할 수 있다. 기준 이미지가 획득된 시점과 비교 이미지가 획득된 시점 간에는 시간 차가 존재할 수 있다. 그리고 상기 시간 차 동안, 양 이미지에 포함된 피사체는 움직일 수 있다. 따라서 고화소 전처리부는 블록 1320에서 피사체의 이러한 움직임을 검출할 수 있다. 이러한 움직임 검출은 이후 절차에서 움직임 보상의 기반이 될 수 있다.
상기 움직임 검출이 완료되면, 고화소 전처리부는 블록 1330에서 상기 이미지들의 움직임 보상을 수행할 수 있다. 그 후, 고화소 전처리부는 전자 장치 400에 캡쳐(capture)가 요구되는 경우, 블록 1340에서 상기 이미지들을 인터-프레임 합할 수 있다.
도 14는 본 발명의 다양한 실시 예에 따른 HDR(High Dynamic Range) 효과를 구현하는 이미지 데이터를 도시한다.
도 14를 참조하면, 이미지 데이터 1410은 HDR 효과를 구현한 원본 이미지 데이터(예를 들면, 각각의 화소마다 노출을 달리한 이미지 데이터)일 수 있다. 원본 이미지 데이터 1410은 HDR 효과를 위해 장노출 화소 및 단노출 화소를 포함할 수 있다.
이미지 데이터 1420 내의 R 화소의 집합 1430은 이미지 데이터 1410의 R화소(장 노출 화소, 단 노출 화소를 모두 포함할 수 있는)들의 가중치를 부가한 인트라-프레임 합에 의하여 결정될 수 있다. 상기 가중치는 도 8에서와 달리 노출시간에 따라 다른 값을 가질 수 있다. 예를 들어, 도 8의 경우 w1이 가장 큰 가중치를 가질 수 있지만, 이미지 데이터 1420의 경우, 장 노출 픽셀에 대응하는 w2 또는 w3가 가장 큰 가중치를 가질 수 있다. 왜냐하면 장 노출 픽셀의 가중치 w2, w3는 단 노출 픽셀의 가중치 w1, w4보다 높은 값일 수 있기 때문이다.
이미지 데이터 1440은 HDR 효과를 구현한 원본 이미지 데이터의 집합(예를 들면, 각 레이어(layer)마다 노출 시간을 달리한 이미지 데이터의 집합)일 수 있다. 이미지 데이터 1440은 시간적으로 선후 관계를 가질 수 있다. 또는 이미지 데이터 1440은 동시에 각각 다른 카메라에서 촬영된 이미지일 수 있다. 따라서 이미지 데이터 1440은 전자 장치 400 내의 버퍼에 저장될 수 있다.
이미지 데이터 1450은 이미지 데이터 1440의 인터-프레임 합에 의해 구성된 이미지 데이터일 수 있다. 이미지 데이터 1450은 노출 시간이 각각 다른 여러 시점의 이미지 데이터를 하나로 합성하였다는 점에서 이미지 데이터 1195 등과 구별될 수 있다. 구체적으로, 이미지 데이터 1450은 이미지 데이터 1450 내의 특정 픽셀이 전체 영상에서 상대적으로 어두운 영역에 해당된다고 판단되는 경우, 장 노출 픽셀의 가중치를 크게 하여 어두운 영역의 대비(contrast)를 증가시킨 영상일 수 있다. 또한, 이미지 데이터 1450은 이미지 데이터 1450 내의 특정 픽셀이 전체 영상에서 상대적으로 밝은 영역에 해당된다고 판단되는 경우, 단 노출 픽셀의 가중치를 크게 하여 밝은 영역의 대비(contrast)를 증가시킨 영상일 수 있다.
상기와 같이 본 발명의 다양한 실시 예에 따른 전자 장치는, 피사체에 대한 하나 이상의 이미지를 획득하는 이미지 센서와, 상기 하나 이상의 이미지의 일부가 변경된 하나 이상의 전처리 이미지를 생성하는 전처리부와, 상기 하나 이상의 전처리 이미지의 일부가 변경된 후처리 이미지를 생성하는 영상 신호 처리부를 포함할 수 있다. 상기 하나 이상의 이미지는 베이어 형식의 이미지를 포함할 수 있고, 상기 하나 이상의 전처리 이미지는 RGB 형식의 이미지를 포함할 수 있다. 상기 전처리부는 상기 하나 이상의 이미지들을 합성하여 상기 하나 이상의 전처리 이미지를 생성할 수 있으며, 상기 생성된 하나 이상의 전처리 이미지는 상기 하나 이상의 이미지보다 데이터 용량이 감소된 이미지일 수 있다.
또한, 상기 하나 이상의 이미지는 제1 이미지 및 제2 이미지를 포함하는 복수의 이미지들일 수 있다. 상기 전처리부는 상기 제1 이미지로부터 피사체의 일부에 대응하는 제1 영역을 추출할 수 있고, 상기 제2 이미지로부터 상기 피사체의 다른 일부분에 대응하는 제2 영역을 추출할 수 있으며, 상기 제1 영역 및 상기 제2 영역을 합성하여 상기 하나 이상의 전처리 이미지를 생성할 수 있다. 상기 제1 영역 및 상기 제2 영역의 합성은 상기 제1 영역에 대한 제1 움직임 또는 상기 제2 영역에 대한 제2 움직임을 결정할 수 있고, 상기 제1 움직임 또는 상기 제2 움직임에 기반하여, 상기 제1 이미지 또는 상기 제2 이미지 중 대응하는 이미지에 대하여 움직임 보정을 수행할 수 있다.
또한, 상기 전처리부는 상기 하나 이상의 이미지를 하나 이상의 색상에 대하여 다운 스케일링하여 상기 하나 이상의 전처리 이미지를 생성할 수 있다. 상기 하나 이상의 색상은 제1 색상과 제2 색상을 포함할 수 있고, 상기 다운 스케일링은 상기 하나 이상의 이미지로부터 제1 색상에 대응하는 복수 개의 제1 색상 값들을 추출할 수 있으며, 상기 전처리부는 상기 제1 색상의 값과 상기 제2 색상의 값에 기반하여 상기 하나 이상의 이미지를 합성하여 상기 하나 이상의 전처리 이미지를 생성할 수 있다.
또한, 상기 전처리부는 디모자이킹(demoasicking), 움직임 추정(motion estimation), 움직임 보상(motion compensation) 또는 영상 합성(image fusion) 중 하나 또는 그 이상을 실행하여 상기 하나 이상의 이미지들을 전처리할 수 있다.
또한, 상기 영상 신호 처리부는 상기 하나 이상의 전처리 이미지의 적어도 일부에 대하여 화이트 밸런스, 색상의 조정 또는 노이즈의 조정 중 하나 또는 그 이상을 수행하여 상기 후처리 이미지를 생성할 수 있다.
도 15는 본 발명의 다양한 실시 예에 따른 이미지 데이터를 처리하는 전자 장치의 동작을 도시하는 흐름도이다.
도 15를 참조하면, 전자 장치 400은 동작 1510에서 원본 이미지 데이터와 같이 고화소를 유지할지 여부(즉, 원본 이미지 데이터(이미지 센서에서 출력된 이미지 데이터)의 화소 수 조절이 필요한지 여부)를 판단할 수 있다. 상기 화소수 조절은 이미지 센서에서 생성되는 이미지의 화소수를 다운 스케일링하는 것을 의미할 수 있다. 일반적으로 이미지 센서에서 생성되는 이미지의 화소수는 디스플레이 440에서 표시되는 화소수보다 크다. 따라서 프리뷰 모드 시 전자 장치 400은 이미지 센서에서 생성되는 이미지의 화소 수를 조절(down scaling)하여 처리 할 수 있다. 또한 동영상 처리 모드에서, 전자 장치 400은 이미지 센서에서 생성되는 동영상 이미지들을 다운 스케일링하여 처리할 수 있다. 그러나 정지 이미지를 캡쳐하는 경우, 전자 장치 400은 이미지 센서에서 생성되는 이미지의 화소수를 스케일링하지 않고 처리할 수 있다. 따라서 동작 1510은 원본 이미지 데이터를 어디(예를 들면, 저화소 전처리부 520 또는 고화소 전처리부 530)에서 처리할 것인지를 결정하는 동작일 수 있다.
원본 이미지 데이터의 화소 수 조절이 필요한 경우(즉, 저화소 이미지 데이터, 동영상, 카메라 프리뷰 영상 등의 경우), 전자 장치 400은 동작 1520에서 상기 원본 이미지 데이터를 인트라-프레임 합하는 동작을 수행할 수 있다. 반면 원본 이미지 데이터의 화소 수 조절이 필요하지 않은 경우(즉, 고화소 이미지 데이터, 스틸, 캡쳐 이미지 등의 경우), 전자 장치 400은 동작 1530에서 원본 이미지 데이터를 인터-프레임 합하는 동작을 수행할 수 있다.
동작 1520 또는 동작 1530에서 전처리된 이미지 데이터는 동작 1540에서 표시 또는 저장에 적합하게 가공될 수 있다.
도 16은 본 발명의 다양한 실시 예에 따른 저화소 전처리부의 인트라-프레임 합 동작을 도시하는 흐름도이다.
도 16를 참조하면, 전자 장치 400은 동작 1610에서 스케일링 지수(scaling factor)를 결정할 수 있다. 상기 스케일링 지수는 화소 수 조절 비율을 의미할 수 있다. 예를 들어, 도 7 또는 도 8에 도시된 실시 예의 경우, 4개의 인접 화소들을 고려하여 RGB 형식의 이미지 데이터를 생성하였기 때문에, 상기 스케일링 지수는 4가 될 수 있다. 동작 1610에서 스케일링 지수가 결정되면. 전자 장치 400은 동작 1620 내지 1640에서 상기 스케일링 지수에 대응하여 각 화소(예를 들면, R, G, B 화소)의 가중치를 부가한 인트라-프레임 합을 수행할 수 있다.
도 17은 본 발명의 다양한 실시 예에 따른 고화소 전처리부의 인터-프레임 합 동작을 도시하는 흐름도이다.
도 17을 참조하면, 전자 장치 400은 동작 1710에서 이미지 데이터의 흐림 여부를 검출(estimation)할 수 있다. 상기 이미지 데이터의 흐림이 미리 정해진 기준값보다 낮은 경우, 전자 장치 400은 상기 이미지 데이터를 기준 이미지 데이터로 선택할 수 있다.
그러나 상기 이미지 데이터의 흐림이 미리 정해진 기준값보다 높은 경우, 전자 장치 400은 동작 1720에서 흐림 보상(compensation)이 가능한지 여부를 판단할 수 있다. 이미지 데이터의 흐림 보상이 불가능하다면 상기 전자 장치 400은 해당 이미지 데이터를 폐기할 수 있다. 이와 달리, 이미지 데이터의 흐림 보상이 가능하다면, 전자 장치 400은 해당 이미지 데이터를 흐림 보상하여 비교 이미지 데이터로 선택할 수 있다.
동작 1720에서 보상 가부 판단이 완료되면 전자 장치 400은 동작 1730에서 움직임 처리 동작을 수행할 수 있다. 움직임 처리 동작은 움직임 검출(motion estimation) 동작, 움직임 보상(motion compensation) 동작 등을 포함할 수 있다.
동작 1730에서 움직임 처리 동작이 완료되면 전자 장치 400은 동작 1740에서 버퍼에 상기 처리된 이미지 데이터를 저장할 수 있다. 그 후 전자 장치 400은 동작 1750에서 버퍼에 저장된 이미지 데이터들을 이용하여 인터-프레임 합을 수행할 수 있다.
도 18은 본 발명의 다양한 실시 예에 따른 고화소 이미지 전처리부의 또 다른 인터-프레임 합 동작을 도시하는 흐름도이다. 도 18과 같은 동작 절차는 고화소 전처리부 530에서 제어할 수 있다.
도 18을 참조하면, 전자 장치 400은 동작 1810에서 이미지 데이터를 버퍼에 임시 저장할 수 있다. 그 후 전자 장치 400은 동작 1820에서 임시 저장된 이미지 데이터를 기반하여 흐림 검출을 수행할 수 있다. 전자 장치 400은 상기 이미지 데이터들 중에서 흐림이 가장 적은 이미지 데이터를 기준 이미지 데이터로 선택할 수 있다.
그러나 상기 이미지 데이터에서 흐림이 검출되면, 전자 장치 400은 동작 1830에서 흐림 보상이 가능한지 여부를 판단할 수 있다. 이미지 데이터의 흐림 보상이 불가능하다면 상기 전자 장치 400은 해당 이미지 데이터를 폐기할 수 있다. 이와 달리, 이미지 데이터의 흐림 보상이 가능하다면 전자 장치 400은 해당 이미지 데이터를 흐림 보상하여 비교 이미지 데이터로 선택할 수 있다.
동작 1830에서 보상 가부 판단이 완료되면 전자 장치 400은 동작 1840에서 움직임 처리 동작을 수행할 수 있다. 동작 1840에서 움직임 처리 동작이 완료되면 전자 장치 400은 1850에서 상기 처리가 완료된 이미지 데이터들을 이용하여 인터-프레임 합을 수행할 수 있다.
도 19는 본 발명의 다양한 실시 예에 따른 전자 장치의 동작을 도시한 흐름도이다. 도 19와 같은 동작 절차는 전처리부 420, 영상 신호 처리부 430, 및/또는 프로세서 470에서 제어할 수 있다.
도 19를 참조하면, 전자 장치 400은 동작 1910에서 짧은 노출(short exposure) 합성 모드 사용 여부를 사용자에게 물을 수 있다. 노출 시간 합성 모드 불사용 의사가 입력되면, 전자 장치 400은 동작 1920에서 촬영 조건 설정 및 이미지 촬영을 수행할 수 있다.
그러나 노출 시간 합성 모드 사용 의사가 입력되면, 전자 장치 400은 동작 1930에서 원본 이미지의 화소수 조절이 필요한지 여부를 판단할 수 있다.
만약 동영상, 카메라의 프리뷰 이미지 등과 같이 화소수 조절이 필요한 이미지라면, 전자 장치 400은 동작 1940에서 촬영 조건 설정 및 이미지 촬영을 수행할 수 있다. 그 후, 전자 장치 400은 동작 1950에서 인트라-프레임 합(즉, 스케일링을 통한 저화소 이미지 전처리)을 수행할 수 있다.
이와 달리, 만약 스틸(still) 이미지, 캡쳐(capture) 이미지 등과 같이 화소수 조절이 불 필요한 이미지라면, 또는 여러 카메라들로부터 동시 촬영된 여러 장의 이미지라면, 전자 장치 400은 동작 1960에서 촬영 조건 설정 및 이미지 촬영을 수행할 수 있다. 그 후, 전자 장치 400은 동작 1970에서 인터-프레임 합(즉, 멀티 프레임 합성을 통한 고화소 전처리)을 수행할 수 있다.
동작 1920, 동작 1950, 또는 동작 1970이 완료되면, 전자 장치 400은 동작 1980에서 영상 처리를 수행할 수 있다. 영상 처리를 통해 표시 또는 저장에 적합하도록 가공된 이미지 데이터는 동작 1990에서 디스플레이 440에 표시될 수 있거나, 메모리 460에 저장될 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치 400의 동작은 상술한 바와 같이 이미지 센서 510을 통해 획득되는 이미지를 전처리부 420을 통해 설정된 전처리할 수 있다. 그 후 전자 장치 400은 상기 전처리된 이미지를 영상처리부 430에서 후처리할 수 있다. 도 20은 본 발명의 다양한 실시 예에 따른 전자 장치의 동작을 도시한 흐름도이다.
도 20을 참조하면, 전자 장치 400은 동작 2010에서 이미지 센서 510을 통해 피사체에 대한 하나 이상의 이미지를 획득할 수 있다. 이 때 상기 획득된 하나 이상의 이미지는 베이어 형식(Bayer format)일 수 있다. 그 후, 전자 장치 400은, 동작 2020에서, 인트라-프레임 합 또는 인터-프레임 합을 통해 상기 획득된 하나 이상의 이미지 전부 또는 일부를 합성한 하나 이상의 전처리 이미지를 획득할 수 있다. 전자 장치 400은 이러한 합성 동작(동작 2020)을 통해 상대적으로 적은 노출로 밝은 이미지를 획득할 수 있다. 또한 전자 장치 400은 이러한 합성 동작을 통해 이후 이미지 처리 절차에서 연산량을 감소시킬 수 있다. 동작 2020이 완료되면, 전자 장치 400은 상기 하나 이상의 전처리 이미지의 일부가 변경된 후처리 이미지를 생성할 수 있다. 상기 후처리 이미지는 상기 하나 이상의 전처리 이미지에 3A 처리(auto exposure, auto focus, auto white balance) 동작, 노이즈 처리(noise reduction) 동작, 선명도 개선(image sharpening) 동작, 디모자이킹(demosaicking) 동작, 색 조정(color correction) 동작, 엣지 강조(edge enhancement) 동작 또는 감마 보정(gamma correction) 동작 중 하나 또는 그 이상의 동작을 수행한 이미지일 수 있다.
본 발명의 다양한 실시 예에 따른 전처리부와 영상 신호 처리부를 포함하는 전자 장치의 동작 방법은, 상기 전자 장치와 기능적으로 연결된 이미지 센서를 통해 피사체에 대한 하나 이상의 이미지를 획득하는 동작과, 상기 전처리부를 이용하여 상기 하나 이상의 이미지의 일부가 변경된 하나 이상의 전처리 이미지를 생성하는 동작과, 상기 영상 신호 처리부를 이용하여 상기 하나 이상의 전처리 이미지의 일부가 변경된 후처리 이미지를 생성하는 동작을 포함할 수 있다. 상기 하나 이상의 이미지는 베이어 형식의 이미지를 포함할 수 있고, 상기 하나 이상의 전처리 이미지는 RGB 형식의 이미지를 포함할 수 있다.
또한, 상기 하나 이상의 전처리 이미지를 생성하는 동작은 상기 하나 이상의 이미지들을 합성하여 상기 하나 이상의 전처리 이미지를 생성할 수 있고, 상기 생성된 하나 이상의 전처리 이미지는 상기 하나 이상의 이미지보다 데이터 용량이 감소된 이미지일 수 있다.
또한, 상기 하나 이상의 이미지는 제1 이미지 및 제2 이미지를 포함하는 복수의 이미지들을 포함할 수 있다. 상기 하나 이상의 전처리 이미지를 생성하는 동작은 상기 제1 이미지로부터 피사체의 일부분에 대응하는 제1 영역을 추출하는 동작과, 상기 제2 이미지로부터 상기 피사체의 다른 일부분에 대응하는 제2 영역을 출하는 동작과, 상기 제1 영역과 상기 제2 영역을 합성하는 동작을 포함할 수 있다. 상기 합성하는 동작은 상기 제1 영역에 대한 제1 움직임 또는 상기 제2 영역에 대한 제2 움직임을 결정하는 동작과, 상기 제1 움직임 또는 상기 제2 움직임에 기반하여, 상기 제1 이미지 또는 상기 제2 이미지 중 대응하는 이미지에 대하여 움직임 보정을 수행하는 동작을 포함할 수 있다.
또한, 상기 하나 이상의 전처리 이미지를 생성하는 동작은 상기 하나 이상의 이미지를 하나 이상의 색상에 대하여 다운 스케일링하는 동작을 포함할 수 있다. 상기 하나 이상의 색상은 제1 색상과 제2 색상을 포함할 수 있고, 상기 다운 스케일링하는 동작은 상기 하나 이상의 이미지로부터 상기 제1 색상에 대응하는 복수 개의 제1 색상 값들을 추출하는 동작과, 상기 하나 이상의 이미지로부터 상기 제2 색상에 대응하는 복수 개의 제2 색상 값들을 추출하는 동작과, 상기 제1 색상 값과 상기 제2 색상 값에 기반하여 상기 하나 이상의 이미지를 합성하는 동작을 포함할 수 있다.
또한, 상기 하나 이상의 전처리 이미지를 생성하는 동작은 디모자이킹, 움직임 추정, 움직임 보상 또는 영상 합성 중 하나 또는 그 이상을 실행하는 동작을 포함할 수 있다.
또한, 상기 후처리 이미지를 생성하는 동작은 상기 전처리 이미지의 적어도 일부에 대하여 화이트 밸런스, 색상, 또는 노이즈를 조정하는 동작 중 하나 또는 그 이상을 수행하는 동작을 포함할 수 있다.
본 발명의 청구항 또는 명세서에 기재된 실시 예들에 따른 방법들은 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합의 형태로 구현될(implemented) 수 있다.
소프트웨어로 구현하는 경우, 하나 이상의 프로그램(소프트웨어 모듈)을 저장하는 컴퓨터 판독 가능 저장 매체가 제공될 수 있다. 컴퓨터 판독 가능 저장 매체에 저장되는 하나 이상의 프로그램은, 전자 장치(device) 내의 하나 이상의 프로세서에 의해 실행 가능하도록 구성된다(configured for execution). 하나 이상의 프로그램은, 전자 장치로 하여금 본 발명의 청구항 또는 명세서에 기재된 실시 예들에 따른 방법들을 실행하게 하는 명령어(instructions)를 포함한다.
이러한 프로그램(소프트웨어 모듈, 소프트웨어)은 랜덤 액세스 메모리 (random access memory), 플래시(flash) 메모리를 포함하는 불휘발성(non-volatile) 메모리, 롬(ROM: Read Only Memory), 전기적 삭제가능 프로그램가능 롬(EEPROM: Electrically Erasable Programmable Read Only Memory), 자기 디스크 저장 장치(magnetic disc storage device), 컴팩트 디스크 롬(CD-ROM: Compact Disc-ROM), 디지털 다목적 디스크(DVDs: Digital Versatile Discs) 또는 다른 형태의 광학 저장 장치, 마그네틱 카세트(magnetic cassette)에 저장될 수 있다. 또는, 이들의 일부 또는 전부의 조합으로 구성된 메모리에 저장될 수 있다. 또한, 각각의 구성 메모리는 다수 개 포함될 수도 있다.
또한, 상기 프로그램은 인터넷(Internet), 인트라넷(Intranet), LAN(Local Area Network), WLAN(Wide LAN), 또는 SAN(Storage Area Network)과 같은 통신 네트워크, 또는 이들의 조합으로 구성된 통신 네트워크를 통하여 접근(access)할 수 있는 부착 가능한(attachable) 저장 장치(storage device)에 저장될 수 있다. 이러한 저장 장치는 외부 포트를 통하여 본 발명의 실시 예를 수행하는 장치에 접속할 수 있다. 또한, 통신 네트워크상의 별도의 저장장치가 본 발명의 실시 예를 수행하는 장치에 접속할 수도 있다.
상술한 본 발명의 구체적인 실시 예들에서, 발명에 포함되는 구성 요소는 제시된 구체적인 실시 예에 따라 단수 또는 복수로 표현되었다. 그러나, 단수 또는 복수의 표현은 설명의 편의를 위해 제시한 상황에 적합하게 선택된 것으로서, 본 발명이 단수 또는 복수의 구성 요소에 제한되는 것은 아니며, 복수로 표현된 구성 요소라 하더라도 단수로 구성되거나, 단수로 표현된 구성 요소라 하더라도 복수로 구성될 수 있다.
한편 본 발명의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시 예에 국한되어 정해져서는 아니 되며 후술하는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다.

Claims (20)

  1. 전처리부와 영상 신호 처리부를 포함하는 전자 장치의 동작 방법에 있어서,
    상기 전자 장치와 기능적으로 연결된 이미지 센서를 통해 피사체에 대한 하나 이상의 이미지를 획득하는 동작;
    상기 전처리부를 이용하여, 상기 하나 이상의 이미지의 일부가 변경된 하나 이상의 전처리 이미지(pre-processed image)를 생성하는 동작; 및
    상기 영상 신호 처리부를 이용하여, 상기 하나 이상의 전처리 이미지의 일부가 변경된 후처리 이미지(post-processed image)를 생성하는 동작을 포함하는 방법.
  2. 청구항 1에 있어서,
    상기 하나 이상의 이미지는
    베이어 형식(Bayer format)의 이미지를 포함하고,
    상기 하나 이상의 전처리 이미지는
    RGB 형식(RGB format)의 이미지를 포함하는 방법.
  3. 청구항 1에 있어서,
    상기 하나 이상의 전처리 이미지를 생성하는 동작은
    상기 하나 이상의 이미지들을 합성하여 상기 하나 이상의 전처리 이미지를 생성하고,
    상기 생성된 하나 이상의 전처리 이미지는 상기 하나 이상의 이미지보다 데이터 용량이 감소된 이미지인 방법.
  4. 청구항 1에 있어서,
    상기 하나 이상의 이미지는 제 1 이미지 및 제 2 이미지를 포함하는 복수의 이미지들을 포함하는 방법.
  5. 청구항 4에 있어서,
    상기 하나 이상의 전처리 이미지를 생성하는 동작은,
    상기 제 1 이미지로부터 피사체의 일부분에 대응하는 제 1 영역을 추출하는 동작;
    상기 제 2 이미지로부터 상기 피사체의 다른 일부분에 대응하는 제 2 영역을 추출하는 동작; 및
    상기 제 1 영역과 상기 제 2 영역을 합성하는 동작을 포함하는 방법.
  6. 청구항 5에 있어서,
    상기 합성하는 동작은,
    상기 제 1 영역에 대한 제 1 움직임 또는 상기 제 2 영역에 대한 제 2 움직임을 결정하는 동작; 및
    상기 제 1 움직임 또는 상기 제 2 움직임에 기반하여, 상기 제 1 이미지 또는 상기 제 2 이미지 중 대응하는 이미지에 대하여 움직임 보상(motion compensation)을 수행하는 동작을 포함하는 방법.
  7. 청구항 1에 있어서,
    상기 하나 이상의 전처리 이미지를 생성하는 동작은,
    상기 하나 이상의 이미지를 하나 이상의 색상에 대하여 다운 스케일링(down scaling)하는 동작을 포함하는 방법.
  8. 청구항 7에 있어서,
    상기 하나 이상의 색상은 제 1 색상과 제 2 색상을 포함하고,
    상기 다운 스케일링하는 동작은,
    상기 하나 이상의 이미지로부터 상기 제 1 색상에 대응하는 복수 개의 제 1 색상 값들을 추출하는 동작;
    상기 하나 이상의 이미지로부터 상기 제 2 색상에 대응하는 복수 개의 제 2 색상 값들을 추출하는 동작; 및
    상기 제 1 색상 값과 상기 제 2 색상 값에 기반하여 상기 하나 이상의 이미지를 합성하는 동작을 포함하는 방법.
  9. 청구항 1에 있어서,
    상기 하나 이상의 전처리 이미지를 생성하는 동작은,
    디모자이킹(demosaicking), 움직임 추정(motion estimation), 움직임 보상(motion compensation) 또는 영상 합성(image fusion) 중 하나 또는 그 이상을 실행하는 동작을 포함하는 방법.
  10. 청구항 1에 있어서,
    상기 후처리 이미지를 생성하는 동작은,
    상기 전처리 이미지의 적어도 일부에 대한 화이트 밸런스(white balance), 색상(color), 또는 노이즈(noise)를 조정하는 동작 중 하나 또는 그 이상을 포함하는 방법.
  11. 피사체에 대한 하나 이상의 이미지를 획득하는 이미지 센서;
    상기 하나 이상의 이미지의 일부가 변경된 하나 이상의 전처리 이미지(pre-processed image)를 생성하는 전처리부; 및
    상기 하나 이상의 전처리 이미지의 일부가 변경된 후처리 이미지(post-processed image)를 생성하는 영상 신호 처리부를 포함하는 전자 장치.
  12. 청구항 11에 있어서,
    상기 하나 이상의 이미지는
    베이어 형식(bayer format)의 이미지를 포함하고,
    상기 하나 이상의 전처리 이미지는
    RGB 형식(RGB format)의 이미지를 포함하는 장치.
  13. 청구항 11에 있어서,
    상기 전처리부는
    상기 하나 이상의 이미지들을 합성하여 상기 하나 이상의 전처리 이미지를 생성하고,
    상기 생성된 하나 이상의 전처리 이미지는 상기 하나 이상의 이미지보다 데이터 용량이 감소된 이미지인 장치.
  14. 청구항 11에 있어서,
    상기 하나 이상의 이미지는 제1 이미지 및 제2 이미지를 포함하는 복수의 이미지들을 포함하는 장치.
  15. 청구항 14에 있어서,
    상기 전처리부는,
    상기 제1 이미지로부터 피사체의 일부분에 대응하는 제1 영역을 추출하고,
    상기 제2 이미지로부터 상기 피사체의 다른 일부분에 대응하는 제2 영역을 추출하며,
    상기 제1 영역 및 상기 제2 영역을 합성하여 상기 하나 이상의 전처리 이미지를 생성하는 장치.
  16. 청구항 15에 있어서,
    상기 제1 영역 및 상기 제2 영역의 합성은
    상기 제1 영역에 대한 제1 움직임 또는 상기 제2 영역에 대한 제2 움직임을 결정하고,
    상기 제1 움직임 또는 상기 제2 움직임에 기반하여, 상기 제1 이미지 또는 상기 제2 이미지 중 대응하는 이미지에 대하여 움직임 보상을 수행하는 장치.
  17. 청구항 11에 있어서,
    상기 전처리부는
    상기 하나 이상의 이미지를 하나 이상의 색상에 대하여 다운 스케일링(down scaling)하여 상기 하나 이상의 전처리 이미지를 생성하는 전자 장치.
  18. 청구항 17에 있어서,
    상기 하나 이상의 색상은 제1 색상과 제2 색상을 포함하고,
    상기 다운 스케일링은
    상기 하나 이상의 이미지로부터 제1 색상에 대응하는 복수 개의 제1 색상 값들을 추출하고,
    상기 하나 이상의 이미지로부터 제2 색상에 대응하는 복수 개의 제2 색상 값들을 추출하며,
    상기 전처리부는
    상기 제1 색상의 값과 상기 제2 색상의 값에 기반하여 상기 하나 이상의 이미지를 합성하여 상기 하나 이상의 전처리 이미지를 생성하는 장치.
  19. 청구항 11에 있어서,
    상기 전처리부는
    디모자이킹(demosaicking), 움직임 추정(motion estimation), 움직임 보상(motion compensation) 또는 영상 합성(image fusion) 중 하나 또는 그 이상을 실행하여 상기 하나 이상의 이미지들을 전처리하는 장치.
  20. 청구항 11에 있어서,
    상기 영상 신호 처리부는
    상기 하나 이상의 전처리 이미지의 적어도 일부에 대하여 화이트 밸런스(white balance), 색상(color)의 조정 또는 노이즈(noise)의 조정 중 하나 또는 그 이상을 수행하여 상기 후처리 이미지를 생성하는 장치.
KR1020150087577A 2015-06-19 2015-06-19 영상 처리 방법 및 그 장치 KR20160149842A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020150087577A KR20160149842A (ko) 2015-06-19 2015-06-19 영상 처리 방법 및 그 장치
US15/186,351 US20160373653A1 (en) 2015-06-19 2016-06-17 Method for processing image and electronic device thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150087577A KR20160149842A (ko) 2015-06-19 2015-06-19 영상 처리 방법 및 그 장치

Publications (1)

Publication Number Publication Date
KR20160149842A true KR20160149842A (ko) 2016-12-28

Family

ID=57588692

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150087577A KR20160149842A (ko) 2015-06-19 2015-06-19 영상 처리 방법 및 그 장치

Country Status (2)

Country Link
US (1) US20160373653A1 (ko)
KR (1) KR20160149842A (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10825378B2 (en) 2019-01-18 2020-11-03 Samsung Electronics Co., Ltd. Electronic apparatus and method for controlling thereof
WO2022005157A1 (en) * 2020-07-02 2022-01-06 Samsung Electronics Co., Ltd. Electronic device and controlling method of electronic device

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180060786A (ko) * 2016-11-29 2018-06-07 삼성전자주식회사 전자 장치 및 전자 장치의 자동 초점 방법
CN110602468A (zh) * 2019-10-17 2019-12-20 哈尔滨工业大学 基于ARM的Bayer图像转RGB***及方法
KR20210053377A (ko) 2019-11-01 2021-05-12 삼성전자주식회사 이미지 센서 및 이미지 신호 처리기를 포함하는 이미지 장치, 및 이미지 센서의 동작 방법
WO2023245343A1 (zh) * 2022-06-20 2023-12-28 北京小米移动软件有限公司 一种图像处理方法、图像处理装置及存储介质

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6744471B1 (en) * 1997-12-05 2004-06-01 Olympus Optical Co., Ltd Electronic camera that synthesizes two images taken under different exposures
US6236433B1 (en) * 1998-09-29 2001-05-22 Intel Corporation Scaling algorithm for efficient color representation/recovery in video
TWI271998B (en) * 2005-09-21 2007-01-21 Inventec Appliances Corp Image processing method and apparatus thereof
JP4678603B2 (ja) * 2007-04-20 2011-04-27 富士フイルム株式会社 撮像装置及び撮像方法
JP4561845B2 (ja) * 2008-02-29 2010-10-13 カシオ計算機株式会社 撮像装置と画像処理プログラム
JP2010161521A (ja) * 2009-01-07 2010-07-22 Nec Corp 画像処理装置、撮像装置、画像ぶれの補正方法、及びプログラム
JP5208057B2 (ja) * 2009-06-16 2013-06-12 キヤノン株式会社 画像処理装置およびその制御方法
GB0915589D0 (en) * 2009-09-07 2009-10-07 Sony Comp Entertainment Europe Image processing method, apparatus and system
US20120019677A1 (en) * 2010-07-26 2012-01-26 Nethra Imaging Inc. Image stabilization in a digital camera
JP5649927B2 (ja) * 2010-11-22 2015-01-07 オリンパス株式会社 画像処理装置、画像処理方法、および、画像処理プログラム
JP5898466B2 (ja) * 2011-11-11 2016-04-06 キヤノン株式会社 撮像装置、その制御方法、及びプログラム
TWI520604B (zh) * 2012-03-20 2016-02-01 華晶科技股份有限公司 攝像裝置及其影像預覽系統及影像預覽方法
US9681026B2 (en) * 2013-04-15 2017-06-13 Htc Corporation System and method for lens shading compensation
US9479695B2 (en) * 2014-07-31 2016-10-25 Apple Inc. Generating a high dynamic range image using a temporal filter

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10825378B2 (en) 2019-01-18 2020-11-03 Samsung Electronics Co., Ltd. Electronic apparatus and method for controlling thereof
WO2022005157A1 (en) * 2020-07-02 2022-01-06 Samsung Electronics Co., Ltd. Electronic device and controlling method of electronic device

Also Published As

Publication number Publication date
US20160373653A1 (en) 2016-12-22

Similar Documents

Publication Publication Date Title
KR102444085B1 (ko) 휴대용 통신 장치 및 휴대용 통신 장치의 영상 표시 방법
CN108289161B (zh) 电子设备及其图像捕捉方法
EP3209012B1 (en) Electronic device and operating method thereof
EP3440829B1 (en) Apparatus and method for processing image
US9692959B2 (en) Image processing apparatus and method
US20180025478A1 (en) Electronic device for processing image
US20160037067A1 (en) Method for generating image and electronic device thereof
KR20180003235A (ko) 전자 장치 및 전자 장치의 이미지 촬영 방법
KR20170097860A (ko) 디스플레이를 이용하여 이미지를 촬영하는 전자 장치 및 이미지 촬영 방법
CN113890989B (zh) 一种拍摄方法以及电子装置
KR20170040572A (ko) 이미지 데이터를 생성하는 전자 장치 및 방법
US10848669B2 (en) Electronic device and method for displaying 360-degree image in the electronic device
KR20160031706A (ko) 이미지의 잡음 특성 개선 방법 및 그 전자 장치
KR20160149842A (ko) 영상 처리 방법 및 그 장치
CN106254807B (zh) 提取静止图像的电子设备和方法
KR102489279B1 (ko) 이미지 처리장치 및 방법
KR20170048792A (ko) 이미지 처리 장치 및 이의 동작 방법
KR20170112066A (ko) 이미지를 처리하기 위한 전자 장치 및 방법
KR102423364B1 (ko) 영상을 제공하는 방법 및 이를 지원하는 전자 장치
US20170111569A1 (en) Face detection method and electronic device for supporting the same
KR102317624B1 (ko) 전자 장치 및 그의 이미지 처리 방법
KR20160103444A (ko) 이미지 처리 방법과 이를 지원하는 전자 장치
KR102519803B1 (ko) 촬영 장치 및 그 제어 방법

Legal Events

Date Code Title Description
A201 Request for examination
E601 Decision to refuse application