KR20200118600A - 이미지 프로세싱을 수행하는 전자 장치 및 방법 - Google Patents
이미지 프로세싱을 수행하는 전자 장치 및 방법 Download PDFInfo
- Publication number
- KR20200118600A KR20200118600A KR1020190040697A KR20190040697A KR20200118600A KR 20200118600 A KR20200118600 A KR 20200118600A KR 1020190040697 A KR1020190040697 A KR 1020190040697A KR 20190040697 A KR20190040697 A KR 20190040697A KR 20200118600 A KR20200118600 A KR 20200118600A
- Authority
- KR
- South Korea
- Prior art keywords
- image data
- electronic device
- display
- processor
- external electronic
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims description 61
- 238000012545 processing Methods 0.000 title abstract description 48
- 238000004891 communication Methods 0.000 claims abstract description 88
- 230000015654 memory Effects 0.000 claims abstract description 86
- 238000012937 correction Methods 0.000 claims description 43
- 230000006835 compression Effects 0.000 claims description 9
- 238000007906 compression Methods 0.000 claims description 9
- 238000005070 sampling Methods 0.000 claims description 7
- 238000003672 processing method Methods 0.000 claims description 6
- 238000005286 illumination Methods 0.000 claims description 2
- 230000006870 function Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 17
- 230000008569 process Effects 0.000 description 13
- 238000005516 engineering process Methods 0.000 description 10
- 239000003381 stabilizer Substances 0.000 description 6
- 238000003825 pressing Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000009977 dual effect Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000000712 assembly Effects 0.000 description 2
- 238000000429 assembly Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 230000020169 heat generation Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/60—Memory management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T9/00—Image coding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
- G06V10/945—User interactive design; Environments; Toolboxes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/21—Server components or server architectures
- H04N21/222—Secondary servers, e.g. proxy server, cable television Head-end
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
- H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/91—Television signal processing therefor
- H04N5/917—Television signal processing therefor for bandwidth reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/08—Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division
- H04N7/0806—Systems for the simultaneous or sequential transmission of more than one television signal, e.g. additional information signals, the signals occupying wholly or partially the same frequency band, e.g. by time division the signals being two or more video signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/804—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
- H04N9/8042—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/79—Processing of colour television signals in connection with recording
- H04N9/80—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
- H04N9/82—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
- H04N9/8205—Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Human Computer Interaction (AREA)
- Studio Devices (AREA)
- Controls And Circuits For Display Device (AREA)
- Quality & Reliability (AREA)
Abstract
전자 장치가 개시된다. 전자 장치는, 통신 회로, 디스플레이, 프로세서 및 상기 프로세서에 작동적으로(operatively) 연결된 메모리를 포함하고, 상기 메모리는, 실행되었을 때 상기 프로세서로 하여금, 제1 로우 이미지(raw image) 데이터를 상기 메모리에 저장하고, 상기 제1 로우 이미지 데이터로부터, 상기 제1 로우 이미지 데이터의 크기보다 작은 제1 스몰 로우 이미지 데이터를 생성하고, 상기 제1 스몰 로우 이미지 데이터를, 상기 통신 회로를 통해 제1 외부 전자 장치로 전송하고, 상기 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 영역 정보를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치로부터 수신하고, 사용자 입력 및 상기 오브젝트 영역 정보에 기반하여, 상기 제1 로우 이미지 데이터의 제1 영역을, 상기 통신 회로를 통해 제2 외부 전자 장치로 전송하도록 하는 인스트럭션들(instructions)을 저장한다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.
Description
본 문서에서 개시되는 실시 예들은, 이미지 프로세싱을 수행하는 전자 장치 및 방법과 관련된다.
전자 장치는 이미지 센서를 통하여 로우(raw) 이미지 데이터를 획득할 수 있다. 전자 장치는 내장된 이미지 시그널 프로세서(image signal processor, ISP)(또는 프로세서)를 이용하여 획득된 로우 이미지 데이터를 처리할 수 있다. 이미지 시그널 프로세서(또는 프로세서)는 화질 개선 알고리즘을 이용하여 수신된 로우 이미지를 처리함으로써 화질이 개선된 이미지를 제공할 수 있다. 이미지 시그널 프로세서(또는 프로세서)는 화이트 밸런스(white balance) 조절, 컬러 조정(color adjustment)(예: color matrix, color correction, color enhancement), 색 필터 배열 보간(color filter array interpolation), 잡음 감소(noise reduction) 처리 또는 샤프닝(sharpening), 또는 이미지 개선(image enhancement)(예: HDR(high-dynamic-range), face detection 등)과 같은 다양한 처리를 수행할 수 있다. 이미지 시그널 프로세서(또는 프로세서)로부터 출력된 이미지는 압축되고, 압축된 이미지(예: JPEG 형식의 이미지)는 전자 장치에 저장될 수 있다.
전자 장치는 이미지 백업 기능 및 새로운 미디어 콘텐츠 생성 기능을 사용자에게 제공하기 위하여, 클라우드 시스템을 이용할 수 있다. 클라우드 시스템은 영상 매칭 등의 기법과 같이 전자 장치에서 수행되기 어려운 컴퓨터 기반의 기술을 적용함으로써 이미지를 처리할 수 있다.
이미지 프로세싱 방식은 예를 들어, ISP와 같은 하드웨어 장치의 성능 또는 알고리즘과 같은 소프트웨어적 성능에 기반할 수 있다. 발전된(advanced) 이미지 프로세싱 방식을 이용하기 위하여, 전자 장치는 새로운 하드웨어 장치를 장착해야 할 수 있다. 전자 장치가 새로운 하드웨어 장치를 장착하기 위해서는 칩(chip) 가격의 증가, 발열 문제, 또는 실장 공간을 고려해야 할 수 있다.
한편, 전자 장치에서 수행되기 어려운 컴퓨터 기반의 기술을 적용함으로써 이미지를 처리하기 위해 이미지 데이터의 전 영역을 전송하여 클라우드 시스템을 이용하는 경우, 사용자에게 이미지 백업 기능 및 새로운 미디어 콘텐츠 생성 기능을 제공하기까지 다소의 시간이 소요될 수 있다.
본 문서에 개시되는 실시 예에 따르면, 이미지 프로세싱을 수행하는 데에 소요되는 시감을 감소시키기 위해, 전자 장치는 외부 전자 장치에 로우 이미지 데이터의 일부만을 전송할 수 있다.
본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 통신 회로, 디스플레이, 프로세서 및 상기 프로세서에 작동적으로(operatively) 연결된 메모리를 포함하고, 상기 메모리는, 실행되었을 때 상기 프로세서로 하여금, 제1 로우 이미지(raw image) 데이터를 상기 메모리에 저장하고, 상기 제1 로우 이미지 데이터로부터, 상기 제1 로우 이미지 데이터의 크기보다 작은 제1 스몰 로우 이미지 데이터를 생성하고, 상기 제1 스몰 로우 이미지 데이터를, 상기 통신 회로를 통해 제1 외부 전자 장치로 전송하고, 상기 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 영역 정보를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치로부터 수신하고, 사용자 입력 및 상기 오브젝트 영역 정보에 기반하여, 상기 제1 로우 이미지 데이터의 제1 영역을, 상기 통신 회로를 통해 제2 외부 전자 장치로 전송하도록 하는 인스트럭션들(instructions)을 저장한다.
또한, 본 문서에 개시되는 일 실시 예에 따른 전자 장치의 이미지 프로세싱 방법은, 제1 로우 이미지(raw image) 데이터를 메모리에 저장하는 동작, 상기 제1 로우 이미지 데이터로부터, 상기 제1 로우 이미지 데이터의 크기보다 작은 제1 스몰 로우 이미지 데이터를 생성하는 동작, 상기 제1 스몰 로우 이미지 데이터를 제1 외부 전자 장치로 전송하는 동작, 상기 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 영역 정보를 상기 제1 외부 전자 장치로부터 수신하는 동작 및 사용자 입력 및 상기 오브젝트 영역 정보에 기반하여, 상기 제1 로우 이미지 데이터의 제1 영역을, 제2 외부 전자 장치로 전송하도록 하는 동작을 포함할 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 통신 회로, 디스플레이, 프로세서 및 상기 프로세서에 작동적으로(operatively) 연결된 메모리를 포함하고, 상기 메모리는, 실행되었을 때 상기 프로세서로 하여금, 제1 및 제2 오브젝트를 포함하는 로우 이미지(raw image) 데이터를 상기 메모리에 저장하고, 상기 제1 및 제2 오브젝트를 포함하는 제1 스몰 로우 이미지 데이터를, 상기 통신 회로를 통해 제1 외부 전자 장치로 전송하고, 상기 제1 스몰 로우 이미지 데이터에 기반하여 생성되고, 상기 제1 및 제2 오브젝트 각각을 식별하는 제1 및 제2 오브젝트 영역 정보를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치로부터 수신하여 상기 디스플레이를 통해 표시하고, 상기 제1 오브젝트의 선택과 관련된 사용자 입력을 식별하고, 상기 사용자 입력에 기반하여, 상기 제1 오브젝트는 포함하고, 상기 제2 오브젝트는 포함하지 않는 상기 로우 이미지 데이터의 일부 영역을 제2 외부 전자 장치에 전송하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 하우징, 상기 하우징 내에 배치된 무선 통신 회로, 상기 하우징 내에 배치되고, 상기 하우징의 일부를 통하여 노출되고, 원본(raw) 이미지 데이터를 생성하도록 구성된 카메라, 상기 하우징 내에 배치되고, 상기 하우징의 일부를 통하여 보이고, 상기 원본 이미지 데이터에 기반하여 생성된 제1 표시 이미지 데이터의 이미지를 표시하도록 구성된 디스플레이, 상기 무선 통신 회로, 상기 디스플레이 및 상기 카메라와 작동적으로 연결된 적어도 하나의 프로세서 및 상기 프로세서와 작동적으로(operatively) 연결되고, 상기 원본 이미지 데이터를 저장하도록 구성된 적어도 하나의 메모리를 포함하고, 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 원본 이미지 데이터에 기초하여, 상기 원본 이미지 데이터보다 크기가 작은 제1 스몰 로우 이미지 데이터를 생성하고, 상기 제1 스몰 로우 이미지 데이터를 상기 무선 통신 회로를 이용하여, 기지국에 로컬하게 연결된 서버로 전송하고, 상기 서버에 의하여 상기 제1 스몰 로우 이미지 데이터에 기반하여 생성되고, 상기 제1 스몰 로우 이미지 데이터 내의 오브젝트 인식에 관한 메타 데이터를 포함하는 제1 이미지 데이터를 상기 무선 통신 회로를 이용하여 수신하고, 상기 제1 표시 이미지 데이터 및 상기 제1 이미지 데이터를 이용하여 제2 표시 이미지 데이터를 생성하고, 상기 제2 표시 이미지 데이터의 이미지를 상기 디스플레이에 표시하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 전자 장치는 클라우드 서버와 같은 외부 전자 장치에 로우 이미지 데이터의 일부만을 전송함으로써, 이미지 프로세싱을 수행하는 데에 소요되는 시간 및 전송 비용을 감소시킬 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 전자 장치는 에지 서버(edge server)와 같은 다른 외부 전자 장치도 이용함으로써, 오브젝트가 식별된 이미지 데이터를 사용자에게 빠르게 보여줄 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 전자 장치는 에지 서버와 같은 외부 전자 장치에 로우 이미지 데이터보다 크기가 작은 이미지 데이터를 전송함으로써, 오브젝트가 식별된 이미지 데이터를 사용자에게 빠르게 보여줄 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 본 문서에 개시되는 실시 예에 따른 네트워크 환경 내의 전자 장치의 블럭도이다.
도 2는 카메라 모듈을 예시하는 블럭도이다.
도 3은 본 문서에 개시되는 실시 예에 따라 제1 외부 전자 장치 및 제2 외부 전자 장치를 이용하여 이미지 프로세싱을 수행하기 위한 전자 장치, 제1 외부 전자 장치 및 제2 외부 전자 장치의 블록도이다.
도 4는 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도 5a는 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도 5b는 본 문서에 개시되는 실시 예에 따른 전자 장치, 제1 외부 전자 장치 및 제2 외부 전자 장치의 동작을 설명하기 위한 개념도이다.
도 6은 본 문서에 개시되는 실시 예에 따른 제1 로우 이미지 데이터를 설명하기 위한 도면이다.
도 7a 및 도 7b 각각은, 본 문서에 개시되는 실시 예에 따른 제1 표시 이미지 데이터를 설명하기 위한 도면이다.
도 8은 본 문서에 개시되는 실시 예에 따른 제1 로우 이미지 데이터의 제1 영역을 설명하기 위한 도면이다.
도 9는 본 문서에 개시되는 실시 예에 따라, 제1 외부 전자 장치가 오브젝트 영역 정보를 전자 장치로 제공하는 동작을 설명하기 위한 흐름도다.
도 10은 본 문서에 개시되는 실시 예에 따라, 제2 외부 전자 장치가 제1 영역의 보정 데이터를 전자 장치로 제공하는 동작을 설명하기 위한 흐름도다.
도 11은 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도 12a 및 도 12b는 본 문서에 개시되는 실시 예에 따른 오브젝트 식별 정보 및 제2 표시 이미지 데이터를 설명하기 위한 도면이다.
도 13은 본 문서에 개시되는 실시 예에 따라, 제1 외부 전자 장치가 오브젝트 식별 정보를 전자 장치로 제공하는 동작을 설명하기 위한 흐름도다.
도 14는 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도 15는 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
도 2는 카메라 모듈을 예시하는 블럭도이다.
도 3은 본 문서에 개시되는 실시 예에 따라 제1 외부 전자 장치 및 제2 외부 전자 장치를 이용하여 이미지 프로세싱을 수행하기 위한 전자 장치, 제1 외부 전자 장치 및 제2 외부 전자 장치의 블록도이다.
도 4는 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도 5a는 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도 5b는 본 문서에 개시되는 실시 예에 따른 전자 장치, 제1 외부 전자 장치 및 제2 외부 전자 장치의 동작을 설명하기 위한 개념도이다.
도 6은 본 문서에 개시되는 실시 예에 따른 제1 로우 이미지 데이터를 설명하기 위한 도면이다.
도 7a 및 도 7b 각각은, 본 문서에 개시되는 실시 예에 따른 제1 표시 이미지 데이터를 설명하기 위한 도면이다.
도 8은 본 문서에 개시되는 실시 예에 따른 제1 로우 이미지 데이터의 제1 영역을 설명하기 위한 도면이다.
도 9는 본 문서에 개시되는 실시 예에 따라, 제1 외부 전자 장치가 오브젝트 영역 정보를 전자 장치로 제공하는 동작을 설명하기 위한 흐름도다.
도 10은 본 문서에 개시되는 실시 예에 따라, 제2 외부 전자 장치가 제1 영역의 보정 데이터를 전자 장치로 제공하는 동작을 설명하기 위한 흐름도다.
도 11은 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도 12a 및 도 12b는 본 문서에 개시되는 실시 예에 따른 오브젝트 식별 정보 및 제2 표시 이미지 데이터를 설명하기 위한 도면이다.
도 13은 본 문서에 개시되는 실시 예에 따라, 제1 외부 전자 장치가 오브젝트 식별 정보를 전자 장치로 제공하는 동작을 설명하기 위한 흐름도다.
도 14는 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도 15는 본 문서에 개시되는 실시 예에 따른 전자 장치가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.
도 1은 본 문서에 개시되는 실시 예에 따른 네트워크 환경(100) 내의 전자 장치(101)의 블럭도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)는, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102)) (예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)으로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시 예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, or 108) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다.. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 카메라 모듈(180)을 예시하는 블럭도이다.
도 2를 참조하면, 카메라 모듈(180)은 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(260)를 포함할 수 있다. 렌즈 어셈블리(210)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일 실시 예에 따르면, 카메라 모듈(180)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(180)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(210)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(220)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일 실시 예에 따르면, 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(230)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(210)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일 실시 예에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(240)는 카메라 모듈(180) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 이미지 센서(230)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일 실시 예에 따르면, 이미지 스태빌라이저(240)는, 일 실시 예에 따르면, 이미지 스태빌라이저(240)는 카메라 모듈(180)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(180) 또는 전자 장치(101)의 그런 움직임을 감지할 수 있다. 일 실시 예에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(250)는 이미지 센서(230)를 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 표시 장치(160)를 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 일 실시 예에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는 이미지 센서(230)를 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(180)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장 되거나 카메라 모듈(180)의 외부 구성 요소(예: 메모리(130), 표시 장치(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 제공될 수 있다. 일 실시 예에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(260)가 프로세서(120)와 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 적어도 하나의 이미지는 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 표시 장치(160)를 통해 표시될 수 있다.
일 실시 예에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(180)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
도 3은 본 문서에 개시되는 실시 예에 따라 제1 외부 전자 장치(401) 및 제2 외부 전자 장치(501)를 이용하여 이미지 프로세싱을 수행하기 위한 전자 장치(301), 제1 외부 전자 장치(401) 및 제2 외부 전자 장치(501)의 블록도이다.
도 3을 참조하면, 네트워크 환경(300)(예: 도 1의 네트워크 환경(100))은, 전자 장치(301)(예: 도 1의 전자 장치(101) 또는 도 2의 카메라 모듈(180)), 제1 외부 전자 장치(401) 및 제2 외부 전자 장치(501)를 포함할 수 있다. 제1 외부 전자 장치(401) 및 제2 외부 전자 장치(501)는 서로 물리적, 기능적으로 상이한 장치일 수 있다.
일 실시 예에 따르면, 전자 장치(301)는 예를 들어, 스마트 폰, 태블릿, 웨어러블 장치, 가전 장치 또는 디지털 카메라와 같은 휴대용 장치를 포함하고, 제1 외부 전자 장치(401)는 에지 서버(edge server)를 포함할 수 있다. 에지 서버는, 에지 컴퓨팅(edge computing) 기술을 구현하는 데에 이용될 수 있다. 에지 컴퓨팅 기술은, 예를 들어, MEC(multi-access edge computing)(또는, 포그 컴퓨팅(fog computing))을 포함할 수 있다. 예를 들어, 에지 컴퓨팅 기술은, 전자 장치(301) 또는 전자 장치(301)가 연결된 기지국과 지리적으로 가까운 위치(예: 기지국 내부 또는 기지국 근처)에 설치된 별도의 서버(이하, 에지 서버)를 통해 전자 장치(301)에게 데이터를 제공하는 기술을 의미할 수 있다. 예를 들어, 전자 장치(301)에 설치된 적어도 하나의 어플리케이션 중 낮은 지연 시간(latency)을 요구하는 어플리케이션은, 외부 데이터 네트워크(data network, DN)(예: 인터넷)에 위치한 서버를 통하지 않고, 지리적으로 가까운 위치에 설치된 에지 서버를 통해 데이터를 송수신할 수 있다. 다른 예를 들어, 에지 컴퓨팅 기술은, 다른 서버에 비하여 상대적으로 낮은 지연 시간을 갖는 에지 서버를 통하여 전자 장치(301)에게 데이터를 제공하는 기술을 의미할 수 있다.
일 실시 예에 따르면, 전자 장치(301)는 스마트 폰, 태블릿, 웨어러블 장치, 가전 장치 또는 디지털 카메라와 같은 휴대용 장치를 포함할 수 있다. 제2 외부 전자 장치(501)는 에지 서버가 아닌 서버(예: 클라우드 서버)를 포함할 수 있다.
전자 장치(301)는, 프로세서(320)(예: 도 1의 프로세서(120) 및/또는 도 2의 이미지 시그널 프로세서(260)), 메모리(330)(예: 도 1의 메모리(130) 및/또는 도 2의 메모리(250)), 디스플레이(360)(예: 도 1의 표시 장치(160)) 및/또는 통신 회로(390)(예: 도 1의 통신 모듈(190))를 포함할 수 있다.
일 실시 예에 따르면, 전자 장치(301)는 도 3에 도시된 구성요소들 이외에 추가적인 구성요소를 더 포함할 수 있다. 전자 장치(301)는, 예를 들어, 로우 이미지 데이터를 획득하는 이미지 센서(예: 도 2의 이미지 센서(230)), 사용자 입력을 수신하는 입력 장치(예: 도 1의 입력 장치(150)), 제1 외부 전자 장치(401)와 물리적으로 연결되기 위하여 이용되는 연결 단자(예: USB 커넥터) 및 제2 외부 전자 장치(501)와 물리적으로 연결되기 위하여 이용되는 연결 단자(예: USB 커넥터)중 적어도 하나를 더 포함할 수 있다.
통신 회로(390)는, 제1 외부 전자 장치(401) 및/또는 제2 외부 전자 장치(501)로 전송하는 데이터, 또는 제1 외부 전자 장치(401) 및/또는 제2 외부 전자 장치(501)로부터 수신하는 데이터를 처리할 수 있다.
디스플레이(360)는, 프로세서(320)와 전기적으로 연결될 수 있다. 디스플레이(360)는, 다양한 정보를 시각적으로 제공할 수 있다. 예를 들어, 디스플레이(360)는, 이미지 데이터를 표시할 수 있다. 일 실시 예에서, 디스플레이(360)는 터치 스크린 디스플레이일 수 있다. 디스플레이(360)가 터치 스크린 디스플레이인 경우, 사용자 입력은 디스플레이(360)를 통해 수신될 수 있다.
메모리(330)는 전자 장치(301)에 포함된 구성요소들의 동작과 연관된 명령, 정보 또는 데이터를 저장할 수 있다. 예를 들어, 메모리(330)는, 실행 시에, 프로세서(320)가 본 문서에 기재된 다양한 동작을 수행할 수 있도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
프로세서(320)는, 전자 장치(301)의 전반적인 기능을 수행하기 위해, 통신 회로(390), 메모리(330) 및 디스플레이(360)와 작동적으로(operatively) 연결될(coupled) 수 있다. 프로세서(320)는 예를 들어, 하나 이상의 프로세서를 포함할 수 있다. 하나 이상의 프로세서는 예를 들어, 이미지 시그널 프로세서(image signal processor, ISP), 애플리케이션 프로세서(application processor, AP), 또는 통신 프로세서(communication processor, CP)를 포함할 수 있다.
프로세서(320)는, 이미지 센서(예: 도 2의 이미지 센서(230))를 통해 적어도 하나의 오브젝트(object)에 대해 획득된 로우 이미지 데이터를, 메모리(330)에 저장할 수 있다. 예를 들어, 사용자가 장면을 캡처(capture)하여 로우 이미지 데이터가 생성되면, 프로세서(320)는 생성된 로우 이미지 데이터를 메모리(330)에 저장할 수 있다. 로우 이미지 데이터는 예를 들어, 사진(picture) 또는 동영상(video)에 포함되는 스틸 이미지(still image)를 포함할 수 있다.
로우 이미지 데이터는, 예를 들어, 픽셀(pixel)이 RGB(red, green blue) 중 하나의 색으로 표현되고, 8 내지 16 비트(bit)-뎁스(depth)로 표현될 수 있다. 로우 이미지 데이터는, 예를 들어, CFA(color filter array) 패턴에 의하여 처리된 Bayer 이미지 데이터일 수 있다. 로우 이미지 데이터는, 예를 들어, 하나의 픽셀에서 세 가지 색을 감지할 수 있는 레이어 구조의 로우 이미지 데이터일 수 있다. 로우 이미지 데이터는, 예를 들어, 하나의 픽셀에서 서로 다른 시차 정보 또는 위상차 정보를 포함하는 DP(dual pixel) 구조의 로우 이미지 데이터일 수 있다. 로우 이미지 데이터는, 예를 들어, 동일하거나 서로 다른 둘 이상의 이미지 센서들을 통해 획득된 둘 이상의 로우 이미지들을 포함할 수 있다. 둘 이상의 이미지 센서들은 예를 들어 듀얼 센서(dual sensor)(예: RGB + RGB, RGB + 모노(mono), wide + tele), 트리플 센서(triple sensor) 또는 쿼드 센서(quad sensor)를 포함하거나, 어레이 센서(array sensor)를 포함할 수 있다. 로우 이미지 데이터는, 예를 들어, 이미지의 메타 데이터일 수 있다. 이미지의 메타 데이터는, 예를 들어, 이미지 파일 식별자(identifier, ID), 촬영 일자, 촬영 모드, 노출 모드, 사진 회전, 측광 모드, ISO 정보, 노출 시간, 로우 이미지 형식, 이미지 크기, 최대 조리개 값, 초점 거리, 화이트 밸런스, 또는 플래시 사용 중 적어도 하나를 포함할 수 있다.
이미지 데이터 생성 회로(325)는, 로우 이미지 데이터를 이용하여 스몰 로우 이미지 데이터를 생성할 수 있다. 스몰 로우 이미지 데이터는, 로우 이미지 데이터로부터 생성될 수 있다. 스몰 로우 이미지 데이터의 크기(size)는, 로우 이미지 데이터의 크기보다 작을 수 있다. 이미지 데이터 생성 회로(325)는, 스몰 로우 이미지 데이터를 생성하기 위해, 로우 이미지 데이터에 대해 다운 스케일링(down scaling), 다운 샘플링(down sampling), 또는 압축(compression) 중 적어도 하나를 수행할 수 있다.
도 3에서, 이미지 데이터 생성 회로(325)가 프로세서(320)에 포함되는 것으로 도시하였으나, 이에 제한되는 것은 아니다. 예를 들어, 이미지 데이터 생성 회로(325)는, 프로세서(320)와 별개의 회로로 형성될 수 있다. 또는, 예를 들어, 이미지 데이터 생성 회로(325)는 생략되고, 이미지 데이터 생성 회로(325)의 기능은 프로세서(320)에 의해 구현될 수 있다.
이미지 데이터 생성 회로(325)는 생성된 스몰 로우 이미지 데이터를, 통신 회로(390)를 통해 제1 외부 전자 장치(401)로 전송할 수 있다. 프로세서(320)는, 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 영역 정보를, 통신 회로(390)를 통해 제1 외부 전자 장치(401)로부터 수신할 수 있다.
프로세서(320)는, 오브젝트 영역 정보에 대응되는 표시 이미지 데이터를 디스플레이(360)를 통해 표시할 수 있다. 프로세서(320)가 디스플레이(360)를 통해 표시하는 표시 이미지 데이터는, 식별된 적어도 하나의 오브젝트의 카테고리 또는 명칭 중 적어도 어느 하나를 포함할 수 있다. 예를 들어, 프로세서(320)는, 오브젝트 영역 정보에 기반하여, 로우 이미지 데이터에서 식별된 적어도 하나의 오브젝트에, 카테고리 또는 명칭 중 적어도 어느 하나를 표시하여 디스플레이(360)를 통해 사용자에게 제공할 수 있다.
프로세서(320)는, 사용자 입력 및 오브젝트 영역 정보에 기반하여, 로우 이미지 데이터의 일부 영역을, 통신 회로(390)를 통해 제2 외부 전자 장치(501)로 전송할 수 있다. 사용자 입력은, 예를 들어, 오브젝트 영역의 선택과 관련될 수 있다. 프로세서(320)는, 사용자 입력에 의해 선택된 오브젝트 영역에 대응되는 로우 이미지 데이터의 일부 영역을 제2 외부 전자 장치(501)로 전송하고, 사용자 입력에 의해 선택되지 않은 오브젝트 영역에 대응되는 로우 이미지 데이터의 다른 영역을 제2 외부 전자 장치(501)로 전송하지 않을 수 있다.
프로세서(320)는, 로우 이미지 데이터의 일부 영역의 보정 데이터를, 통신 회로(390)를 통해 제2 외부 전자 장치(501)로부터 수신할 수 있다. 프로세서(320)는, 로우 이미지 데이터의 일부 영역의 보정 데이터와, 일부 영역을 제외한 나머지 영역의 로우 이미지 데이터를 합성(merge) 하여, 보정 이미지 데이터를 생성할 수 있다.
제1 외부 전자 장치(401)는, 예를 들어, 프로세서(420) 및 메모리(430)를 포함할 수 있다. 프로세서(420)는, 전자 장치(301)로부터 수신된 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하여, 오브젝트 영역 정보를 제공할 수 있다.
예를 들어, 프로세서(420)는, 스몰 로우 이미지 데이터를 분석하여, 스몰 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트를 식별할 수 있다. 프로세서(420)는 예를 들어, 스몰 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트를 세그먼테이션하고 인식하여, 적어도 하나의 오브젝트를 식별할 수 있다. 프로세서(420)는, 예를 들어, 스몰 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트의 속성을 판단하여, 적어도 하나의 오브젝트를 식별할 수 있다. 프로세서(420)는, 예를 들어, 적어도 하나의 오브젝트가 사람, 동물, 또는 물체인지 식별할 수 있으며, 나아가 식별된 적어도 하나의 오브젝트에서 사람의 신체 부위(예: 얼굴, 몸), 동물의 종류, 또는 물체의 종류를 식별할 수 있다. 프로세서(420)는, 예를 들어, 적어도 하나의 오브젝트가 배치된 스몰 로우 이미지 데이터(또는 화면)에서의 위치(예: 좌표 정보)를 식별할 수 있다.
프로세서(420)는, 적어도 하나의 오브젝트를 식별하여, 오브젝트 영역 정보를 제공할 수 있다. 프로세서(420)는, 예를 들어, 식별된 적어도 하나의 오브젝트에 대응되도록, 스몰 로우 이미지 데이터의 영역을 분할할 수 있다. 예를 들어, 스몰 로우 이미지 데이터에 제1 오브젝트가 포함되어 있고, 오브젝트 영역 정보에 제1 오브젝트에 대응되는 제1 오브젝트 영역에 대한 정보가 포함되어 있는 경우, 전자 장치(301)의 프로세서(320)는, 오브젝트 영역 정보에 기반하여, 제1 오브젝트 영역에 대응되는 로우 이미지 데이터의 일부 영역을 식별할 수 있다. 식별된 로우 이미지 데이터의 일부 영역에는, 제1 오브젝트가 포함되어 있을 수 있다.
오브젝트 영역 정보 또는 스몰 로우 이미지 데이터 중 적어도 어느 하나는, 메모리(430)에 저장될 수 있다.
제2 외부 전자 장치(501)는, 프로세서(520) 및 메모리(530)를 포함할 수 있다. 제2 외부 전자 장치(501)는 도 3에 도시된 구성요소들 이외에 추가적인 구성요소를 적어도 하나 더 포함할 수 있다. 예를 들어, 제2 외부 전자 장치(501)는 전자 장치(301)와 통신을 수행하기 위한 통신 모듈 또는 연결 단자를 포함할 수 있다. 일 실시 예에 따르면, 제2 외부 전자 장치(501)의 구성요소들은 동일한 개체(entity)이거나, 별도의 개체를 형성할 수 있다.
프로세서(520)는 전자 장치(301)로부터 수신된 로우 이미지 데이터의 일부 영역을 처리하기 위한 전반적인 기능을 수행할 수 있다. 제2 외부 전자 장치(501)는 예를 들어, 적어도 하나의 프로세서(520)를 포함할 수 있다. 프로세서(520)는 인식 회로(521), 전처리부(523), 인코더(527), 및/또는 ISP(525)를 포함할 수 있다. 프로세서(520)에 포함되는 구성요소들은 하나의 프로세서에 의하여 제어되거나, 복수의 프로세서들에 의하여 분산적으로 구현될 수 있다.
프로세서(520)는, 로우 이미지 데이터의 일부 영역의 보정 데이터를 생성할 수 있다.
예를 들어, 전처리부(523)는, 로우 이미지 데이터의 일부 영역을 인식 회로(521) 또는 ISP(525)로 전달하기 전에, 압축 해제, 화질 개선, 디모자이크(de-mosaic) 처리, 또는 이미지 형식 변경 중 적어도 하나를 수행할 수 있다.
인식 회로(521)는, 로우 이미지 데이터의 일부 영역과 관련된 정보를 분석하기 위한 알고리즘을 수행할 수 있다. 인식 회로(521)는 논리 회로일 수도 있고, 프로세서(520)에 의해 구현될 수도 있다. 인식 회로(521)는, 예를 들어, 사물 인식, 얼굴 인식, 속도 벡터, 세그먼테이션, 또는 장면 파싱(scene parsing)을 분석할 수 있다. 인식 회로(521)는 로우 이미지 데이터의 일부 영역과 관련된 정보에 기반하여 레시피 정보(recipe information)를 생성할 수 있다. 레시피 정보는 예를 들어, 세그먼트(segments), 레이어, 벡터, 또는 장면 카테고리(scene category)를 포함할 수 있다. 인식 회로(521)는 레시피 정보를 ISP(525)로 전송할 수 있다.
ISP(525)는 인식 회로(521)로부터 수신된 레시피 정보를 이용하여 로우 이미지 데이터의 일부 영역에 대한 이미지 프로세싱을 수행할 수 있다. 예를 들어, 전자 장치(301)의 프로세서(320)가 수행하는 이미지 프로세싱과, ISP(525)가 수행하는 이미지 프로세싱의 적어도 일부는 상이할 수 있다. 예를 들어, 전자 장치(301)의 프로세서(320)의 종류는, ISP(525)의 종류와 서로 상이할 수 있다.
예를 들어, ISP(525)는 레시피 정보를 이용하여 화이트 밸런스 조절, 컬러 조정, 색 필터 배열 보간, 샤프닝, 또는 이미지 개선을 수행할 수 있다. 일 실시 예에 따르면, ISP(525)는 메모리(530)에 저장된 추가 정보(예: 특징 벡터(feature vector))를 이용하여 이미지 프로세싱을 수행할 수 있다. 이미지 프로세싱된 로우 이미지 데이터의 일부 영역은 예를 들어, YUV 형식을 가질 수 있다.
인코더(527)는 로우 이미지 데이터의 일부 영역을 인코딩 함으로써 일부 영역의 보정 데이터(예: 이미지 파일)를 생성할 수 있다. 이미지 파일(예: JPEG, MPEG, 또는 360도 영상)은 사진, 동영상, 또는 동영상의 스틸 이미지에 대한 파일을 포함할 수 있다.
메모리(530)는, 로우 이미지 데이터의 일부 영역의 보정 데이터를 저장하기 위한 하나 이상의 메모리를 의미할 수 있다.
도 4는 본 문서에 개시되는 실시 예에 따른 전자 장치(301)가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다.
이하에서는 도 3의 전자 장치(301)가 도 4의 프로세스를 수행하는 것을 가정한다. 전자 장치에 의해 수행되는 것으로 기술된 동작은 전자 장치(301)의 프로세서(320)에 의해 수행(혹은, 실행)될 수 있는 인스트럭션(명령어)들로 구현될 수 있다. 인스트럭션들은, 예를 들어, 컴퓨터 기록 매체 또는 도 3에 도시된 전자 장치(301)의 메모리(330)에 저장될 수 있다.
도 4를 참조하면, 동작 1001에서, 전자 장치(예: 도 3의 전자 장치(301) 및/또는 도 3의 프로세서(320))는, 이미지 센서(230)에 의해 캡처된 제1 로우 이미지 데이터를 메모리(예: 도 3의 메모리(330))에 저장할 수 있다. 제1 로우 이미지 데이터는, 사용자가 이미지 센서(예: 도 2의 이미지 센서(230))를 포함하는 카메라(예: 도 1 및 도 2의 카메라 모듈(180))의 셔터를 눌러 캡처한 데이터일 수 있다. 제1 로우 이미지 데이터는, 도 3을 참조하여 설명한 로우 이미지 데이터에 대응될 수 있다.
동작 1003에서, 전자 장치는 제1 로우 이미지 데이터로부터 제1 스몰 로우 이미지 데이터를 생성할 수 있다. 제1 스몰 로우 이미지 데이터의 크기는, 제1 로우 이미지 데이터의 크기보다 작을 수 있다. 예를 들어, 전자 장치(301)는, 제1 로우 이미지 데이터에 대해 다운 스케일링, 다운 샘플링, 또는 압축 중 적어도 어느 하나를 수행하여, 제1 스몰 로우 이미지 데이터를 생성할 수 있다. 제1 스몰 로우 이미지 데이터는, 제1 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트를 포함할 수 있다. 제1 스몰 로우 이미지 데이터는, 도 3을 참조하여 설명한 스몰 로우 이미지 데이터에 대응될 수 있다.
동작 1005에서, 전자 장치는 제1 스몰 로우 이미지 데이터를 제1 외부 전자 장치(예: 도 3의 제1 외부 전자 장치(401) 및/또는 프로세서(420))로 전송할 수 있다.
동작 1007에서, 전자 장치는 제1 외부 전자 장치로부터 오브젝트 영역 정보를 수신할 수 있다. 오브젝트 영역 정보는, 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 정보일 수 있다. 오브젝트 영역 정보는, 예를 들어, 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트가 위치하는 영역을 식별할 수 있는 정보일 수 있다. 제1 스몰 로우 이미지 데이터와 제1 로우 이미지 데이터는 동일한 적어도 하나의 오브젝트를 포함하기 때문에, 오브젝트 영역 정보에 의하면, 제1 로우 이미지 데이터에 포함된 오브젝트 중 적어도 하나는 식별될 수 있다.
동작 1009에서, 전자 장치는 제1 로우 이미지 데이터의 제1 영역과 관련된 데이터를 제2 외부 전자 장치(예: 도 3의 제2 외부 전자 장치(501) 및/또는 프로세서(520))로 전송할 수 있다. 전자 장치는 오브젝트와 관련된 조건에 기반하여, 제1 로우 이미지 데이터의 제1 영역과 관련된 데이터를 제2 외부 전자 장치로 전송할 수 있다. 일 실시 예에서, 오브젝트와 관련된 조건은, 제1 영역의 선택과 관련된 사용자 입력일 수 있다. 예를 들어, 전자 장치는, 제1 영역의 선택과 관련된 사용자 입력에 기반하여, 제1 로우 이미지 데이터의 제1 영역과 관련된 데이터를 제2 외부 전자 장치로 전송할 수 있다.
도 5a는 본 문서에 개시되는 실시 예에 따른 전자 장치(301)가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다. 도 5b는 본 문서에 개시되는 실시 예에 따른 전자 장치(301), 제1 외부 전자 장치(401) 및 제2 외부 전자 장치(501)의 동작을 설명하기 위한 개념도이다. 설명의 명확성을 위해, 앞서 설명한 것과 중복되는 것은 간략히 하거나 생략한다.
이하에서는 도 3의 전자 장치(301)가 도 5a의 프로세스를 수행하는 것을 가정한다. 전자 장치에 의해 수행되는 것으로 기술된 동작은 전자 장치(301)의 프로세서(320)에 의해 수행(혹은, 실행)될 수 있는 인스트럭션(명령어)들로 구현될 수 있다. 인스트럭션들은, 예를 들어, 컴퓨터 기록 매체 또는 도 3에 도시된 전자 장치(301)의 메모리(330)에 저장될 수 있다.
도 3, 도 5a 및 도 5b를 참조하면, 동작 2001에서, 전자 장치(301)(예: 도 3의 프로세서(320))는, 이미지 센서(230)에 의해 캡처된 제1 로우 이미지 데이터를 메모리(330)에 저장할 수 있다. 동작 2001은 도 4의 동작 1001과 대응될 수 있다.
도 6은 본 문서에 개시되는 실시 예에 따른 제1 로우 이미지 데이터를 설명하기 위한 도면이다.
도 6을 참조하면, 제1 로우 이미지 데이터는, 적어도 하나의 오브젝트를 포함할 수 있다. 예를 들어, 적어도 하나의 오브젝트는, 제1 오브젝트(OB1), 제2 오브젝트(OB2), 및/또는 제3 오브젝트(OB3)를 포함할 수 있다.
도 3, 도 4, 도 5a 및 도 5b를 참조하면, 동작 2003에서, 전자 장치(301)는, 제1 로우 이미지 데이터로부터 제1 스몰 로우 이미지 데이터를 생성할 수 있다. 예를 들어, 제1 스몰 로우 이미지 데이터는, 제1 로우 이미지 데이터와 마찬가지로, 제1, 제2 및 제3 오브젝트(예: 도 6의 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3))를 포함할 수 있다.
이미지 데이터 생성 회로(325)가 별개의 회로로 형성되지 않는 일 실시 예에서, 제1 스몰 로우 이미지 데이터는, 전자 장치(301)의 프로세서(320)에 의해 생성될 수 있다. 이미지 데이터 생성 회로(325)가 별개의 회로로 형성되는 일 실시 예에서, 제1 스몰 로우 이미지 데이터는, 전자 장치(301)의 이미지 데이터 생성 회로(325)에 의해 생성될 수 있다. 이미지 데이터 생성 회로(325)가 프로세서(320)에 포함되는 일 실시 예에서, 제1 스몰 로우 이미지 데이터는, 도 5a 및 도 5b에 도시된 바와 같이 이미지 데이터 생성 회로(325)에 의해 생성될 수 있다.
동작 2005에서, 전자 장치(301)는, 제1 스몰 로우 이미지 데이터를 제1 외부 전자 장치(401)(예: 프로세서(420))로 전송할 수 있다.
동작 2007에서, 제1 외부 전자 장치(401)는, 오브젝트 영역 정보를 생성할 수 있다. 오브젝트 영역 정보는, 예를 들어, 제1, 제2 및 제3 오브젝트(예: 도 6의 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3))를 식별하는, 제1, 제2 및 제3 오브젝트 영역 정보를 포함할 수 있다. 오브젝트 영역 정보는, 제1 스몰 로우 이미지 데이터에서 제1, 제2 및 제3 오브젝트(예: 도 6의 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3))가 위치하는 영역을 식별할 수 있는 정보일 수 있다. 제1 스몰 로우 이미지 데이터와 제1 로우 이미지 데이터는 동일한 적어도 하나의 오브젝트를 포함하기 때문에, 오브젝트 영역 정보에 의하면, 제1 로우 이미지 데이터에서 제1, 제2 및 제3 오브젝트(예: 도 6의 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3))중 적어도 하나는 식별될 수 있다.
동작 2009에서, 제1 외부 전자 장치(401)는 오브 젝트 영역 정보를 전자 장치(301)로 전송하고, 전자 장치(301)는 오브젝트 영역 정보를 수신할 수 있다.
동작 2011에서, 전자 장치(301)는, 오브젝트 영역 정보에 대응되는 제1 표시 이미지 데이터를 디스플레이(360)에 표시할 수 있다. 예를 들어, 전자 장치(301)는, 오브젝트 영역 정보에 기반하여, 제1 스몰 로우 이미지 데이터에 포함된 제1, 제2 및 제3 오브젝트(예: 도 6의 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3))를 서로 구분되게 표시하여 제1 표시 이미지 데이터를 생성할 수 있다.
예를 들어, 전자 장치(301)는, 제1 오브젝트 영역 정보에 기반하여, 제1 스몰 로우 이미지 데이터의 제1 오브젝트를 식별할 수 있다. 전자 장치(301)는 식별된 제1 오브젝트에, 제1 오브젝트를 다른 오브젝트와 구분할 수 있는 표시를 함으로써, 제1 표시 이미지 데이터를 생성할 수 있다.
도 7a 및 도 7b 각각은, 본 문서에 개시되는 실시 예에 따른 제1 표시 이미지 데이터를 설명하기 위한 도면이다.
일 실시 예에 따르면 도 7a에 도시된 바와 같이, 전자 장치(301)는, 오브젝트 영역 정보에 기반하여, 식별된 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트 각각에, 적어도 하나의 오브젝트 각각을 식별(또는 구분)할 수 있는 태그(tag)를 표시할 수 있다. 예를 들어, 전자 장치(301)는, 오브젝트 영역 정보에 기반하여, 식별된 제1 스몰 로우 이미지 데이터의 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3)에, 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3)를 식별할 수 있는 태그를 표시할 수 있다. 예를 들어, 제1 표시 이미지 데이터는, 제1 스몰 로우 이미지 데이터의 제1 오브젝트(OB1)를 식별할 수 있는 태그(예: OBA1)를 포함할 수 있다. 태그는, 적어도 하나의 오브젝트의 카테고리 또는 명칭 중 적어도 어느 하나를 포함할 수 있다. 예를 들어, 태그는, 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3)의 카테고리(예: 인물, 배경, 동물) 또는 명칭(예: 하늘, 구름, 바위, 인물의 이름)을 포함할 수 있다.
일 실시 예에 따르면 도 7b에 도시된 바와 같이, 전자 장치(301)는, 오브젝트 영역 정보에 기반하여, 식별된 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트의 영역을 표시할 수 있다. 예를 들어, 전자 장치(301)는, 오브젝트 영역 정보에 기반하여, 식별된 제1 스몰 로우 이미지 데이터의 제1 오브젝트(OB1)에 대응되는 영역을 제2 및 제3 오브젝트(OB2, OB3)와 구분되도록 표시할 수 있다. 예를 들어, 제1 표시 이미지 데이터는, 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트에 대응되는 영역을 표시한 정보를 포함할 수 있다.
도 3, 도 5a 및 도 5b를 참조하면, 동작 2013에서, 전자 장치(301)는 오브젝트와 관련된 조건을 확인할 수 있다. 일 실시 예에서, 오브젝트와 관련된 조건은, 오브젝트의 선택과 관련된 사용자 입력일 수 있다. 예를 들어, 사용자는 디스플레이(360)를 통해 표시된 제1 표시 이미지 데이터로부터, 오브젝트를 선택할 수 있다.
일 실시 예에 따르면, 도 7a에 도시된 바와 같이, 전자 장치(301)는 제1 오브젝트(OB1)의 선택과 관련된 사용자 입력(UI)을 식별할 수 있다. 예를 들어, 사용자는, 디스플레이(360)를 통해 표시된 제1 표시 이미지 데이터를 보고, 제1 오브젝트(OB1)를 나타내는 태그(OBA1) 또는 제1 오브젝트(OB1)를 선택할 수 있다. 전자 장치(301)는 사용자 입력(UI)을 식별하여, 사용자로부터 제1 스몰 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트 중 제1 오브젝트(OB1)가 선택되었음을 판단할 수 있다.
일 실시 예에 따르면, 도 7b에 도시된 바와 같이, 전자 장치(301)는 제1 오브젝트(OB1)의 선택과 관련된 사용자 입력(UI)을 식별할 수 있다. 예를 들어, 사용자는, 디스플레이(360)를 통해 표시된 제1 표시 이미지 데이터를 보고, 제1 오브젝트(OB1)를 나타내는 영역을 선택함으로써, 제1 오브젝트(OB1)를 선택할 수 있다. 전자 장치(301)는 사용자 입력(UI)을 식별하여, 사용자로부터 제1 스몰 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트 중 제1 오브젝트(OB1)가 선택되었음을 판단할 수 있다.
도 3, 도 5a 및 도 5b를 참조하면, 동작 2015에서, 전자 장치(301)는, 오브젝트와 관련된 조건에 기반하여, 제1 로우 이미지 데이터의 제1 영역과 관련된 데이터를 제2 외부 전자 장치(501)로 전송할 수 있다. 오브젝트와 관련된 조건이 식별된 적어도 하나의 오브젝트 중 제1 오브젝트를 선택하는 사용자 입력인 일 실시 예에서, 전자 장치(301)는 오브젝트 영역 정보 중 제1 오브젝트 영역 정보에 대응되는 제1 로우 이미지 데이터의 제1 영역과 관련된 데이터만을 제2 외부 전자 장치(501)로 전송할 수 있다. 예컨대, 전자 장치(301)가 제2 외부 전자 장치(501)로 전송하는 제1 로우 이미지 데이터의 제1 영역은, 제1 오브젝트(예: 도 6의 제1 오브젝트(OB1))를 포함하고, 제2 및 제3 오브젝트(예: 도 6의 제2 및 제3 오브젝트(OB2, OB3))는 포함하지 않을 수 있다.
도 8은 본 문서에 개시되는 실시 예에 따른 제1 로우 이미지 데이터의 제1 영역을 설명하기 위한 도면이다.
도 8을 참조하면, 오브젝트와 관련된 조건이 제1 영역(예: 도 7a 및 도 7b의 제1 오브젝트(OB1))의 선택과 관련된 사용자 입력인 일 실시 예에서, 전자 장치(301)는, 사용자 입력(예: 도 7a 및 도 7b의 사용자 입력(UI)) 및 오브젝트 영역 정보에 기반하여, 제1 로우 이미지 데이터의 제1 영역(P1)과 관련된 데이터를 제2 외부 전자 장치(501)로 전송할 수 있다. 예를 들어, 사용자 입력이 제1 오브젝트(OB1)를 선택하는 것인 경우, 전자 장치(301)는 제1 로우 이미지 데이터의 제1 오브젝트(OB1)에 관련된 데이터만을 제2 외부 전자 장치(501)로 전송할 수 있다.
도 3, 도 5a 및 도 5b를 참조하면, 동작 2017에서, 제2 외부 전자 장치(501)는, 제1 로우 이미지 데이터의 제1 영역의 보정 데이터를 생성할 수 있다. 제2 외부 전자 장치(501)는, 전자 장치(301)로부터 수신한 제1 영역(예: 도 8의 제1 영역(P1))과 관련된 데이터에 기반하여, 제1 로우 이미지 데이터의 제1 영역에 대한 이미지 프로세싱을 수행하여, 제1 영역의 보정 데이터를 생성할 수 있다.
동작 2019에서, 제2 외부 전자 장치(501)는 제1 영역의 보정 데이터를 전자 장치(301)로 전송하고, 전자 장치(301)는 제1 영역의 보정 데이터를 제2 외부 전자 장치(501)로부터 수신할 수 있다.
동작 2021에서, 전자 장치(301)는, 제1 영역의 보정 데이터와, 제1 영역을 제외한 나머지 영역의 제1 로우 이미지 데이터를 합성(merge)하여 보정 이미지 데이터를 생성할 수 있다.
본 문서에 개시되는 실시 예에 따르면, 제1 로우 이미지 데이터가 제1, 제2 및/또는 제3 오브젝트를 포함하는 경우, 전자 장치(301)는 제1 외부 전자 장치(401)로 제1, 제2 및/또는 제3 오브젝트를 포함하는 제1 스몰 로우 이미지 데이터를 전송하고, 제2 외부 전자 장치(501)로 사용자가 선택한 오브젝트(예: 제1 오브젝트)만을 포함하는 제1 로우 이미지 데이터의 일부 영역과 관련된 데이터를 전송함으로써, 제2 외부 전자 장치(501)를 이용한 이미지 프로세싱에 소요되는 시간 및 비용을 감소시킬 수 있다. 예를 들어, 전자 장치(301)는, 제1 외부 전자 장치(401)로 제1 로우 이미지 데이터보다 크기가 작은 제1 스몰 로우 이미지 데이터를 전송함으로써, 제1 외부 전자 장치(401)로부터 오브젝트 영역 정보를 빠르게 수신할 수 있다. 전자 장치(301)는, 수신된 오브젝트 영역 정보에 대응되는 제1 표시 이미지 데이터를 디스플레이(360)를 통해 사용자에게 빠르게 보여줄 수 있다. 사용자가 제1, 제2 및 제3 오브젝트 중 제1 오브젝트에 대해 이미지 백업 기능 및 새로운 미디어 콘텐츠 생성 기능과 같은 전자 장치에서 수행되기 어려운 컴퓨터 기반의 기술을 적용한 이미지 프로세싱을 원하는 경우, 사용자는 제1 표시 이미지 데이터를 이용하여 제1 오브젝트를 선택할 수 있다. 전자 장치(301)는, 크기가 큰 제1 로우 이미지 데이터 전부를 제2 외부 전자 장치(501)로 전송하는 대신, 사용자가 선택한 제1 오브젝트에 대응되는 제1 로우 이미지 데이터의 제1 영역과 관련된 데이터만을 제2 외부 전자 장치(501)로 전송할 수 있다. 이로써, 제2 외부 전자 장치(501)가 제1 로우 이미지 데이터의 전부에 대해 이미지 프로세싱을 수행하는 시간보다, 본 문서에 개시되는 실시 예에 따라 제2 외부 전자 장치(501)가 제1 로우 이미지 데이터의 제1 영역에 대해 이미지 프로세싱을 수행하는 시간이 짧을 수 있다. 따라서, 전자 장치(301)는, 제2 외부 전자 장치(501)로부터 비교적 짧은 시간 내에 제1 영역의 보정 데이터를 수신할 수 있다.
도 9는 본 문서에 개시되는 실시 예에 따라, 제1 외부 전자 장치(401)가 오브젝트 영역 정보를 전자 장치(301)로 제공하는 동작을 설명하기 위한 흐름도다. 도 9는, 도 5a의 동작 2007을 설명하기 위한 흐름도일 수 있다. 설명의 명확성을 위해, 앞서 설명한 것과 중복되는 것은 간략히 하거나 생략한다.
도 9를 참조하면, 동작 4001에서, 제1 외부 전자 장치(401)(예: 도 3의 프로세서(420))는, 전자 장치(301)로부터 수신한 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별할 수 있다. 예를 들어, 제1 스몰 로우 이미지 데이터에 제1, 제2 및 제3 오브젝트(예: 도 6의 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3))가 포함되어 있는 경우, 제1 외부 전자 장치(401)는 제1 오브젝트와 제2 오브젝트를 구분하고, 제1 오브젝트와 제3 오브젝트를 구분하고, 제2 오브젝트와 제3 오브젝트를 구분할 수 있다.
동작 4003에서, 제1 외부 전자 장치(401)는, 식별된 오브젝트 각각에 대응되는 오브젝트 영역 정보를 생성할 수 있다. 오브젝트 영역 정보는, 예를 들어, 식별된 오브젝트가 제1 스몰 로우 이미지 데이터에서 위치하는 영역에 대한 정보를 포함할 수 있다.
도 10은 본 문서에 개시되는 실시 예에 따라, 제2 외부 전자 장치(501)가 제1 영역의 보정 데이터를 전자 장치(301)로 제공하는 동작을 설명하기 위한 흐름도다. 도 10은, 도 5a의 동작 2017을 설명하기 위한 흐름도일 수 있다. 설명의 명확성을 위해, 앞서 설명한 것과 중복되는 것은 간략히 하거나 생략한다.
도 10을 참조하면, 동작 5001에서, 제2 외부 전자 장치(501)(예: 도 3의 프로세서(520))는 제1 로우 데이터의 제1 영역(예: 도 8의 제1 영역(P1))과 관련된 데이터를 수신할 수 있다. 예를 들어, 제1 로우 데이터의 제1 영역은, 사용자가 선택한 제1 오브젝트에 대응되는 제1 로우 데이터의 일부 영역일 수 있다. 예를 들어, 제1 로우 데이터의 제1 영역은, 사용자가 선택한 제1 오브젝트만을 포함하고, 사용자가 선택하지 않은 다른 오브젝트는 포함하지 않는 제1 로우 데이터의 일부 영역일 수 있다.
동작 5003에서, 제2 외부 전자 장치(501)(예: 도 3의 ISP(525))는 제1 영역의 보정 데이터를 생성할 수 있다. 제2 외부 전자 장치(501)는, 제1 로우 이미지 데이터의 제1 영역에 대해 이미지 프로세싱을 수행하여, 제1 영역의 보정 데이터를 생성할 수 있다.
동작 5005에서, 제2 외부 전자 장치(501)(예: 도 3의 프로세서(520))는, 제1 영역의 보정 데이터를 메모리(예: 도 3의 메모리(520))에 저장할 수 있다.
도 11은 본 문서에 개시되는 실시 예에 따른 전자 장치(301)가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다. 도 11은 도 5a의 동작 2001이 수행되기 전의 동작을 설명하기 위한 도면일 수 있다. 설명의 명확성을 위해, 앞서 설명한 것과 중복되는 것은 간략히 하거나 생략한다.
이하에서는 도 3의 전자 장치(301)가 도 11의 프로세스를 수행하는 것을 가정한다. 전자 장치에 의해 수행되는 것으로 기술된 동작은 전자 장치(301)의 프로세서(320)에 의해 수행(혹은, 실행)될 수 있는 인스트럭션(명령어)들로 구현될 수 있다. 인스트럭션들은, 예를 들어, 컴퓨터 기록 매체 또는 도 3에 도시된 전자 장치(301)의 메모리(330)에 저장될 수 있다.
도 3, 및 도 11을 참조하면, 동작 6001에서, 전자 장치(301)는, 이미지 센서(230)에 의해 캡처된 제2 로우 이미지 데이터를 메모리(330)에 저장할 수 있다. 예를 들어, 제2 로우 이미지 데이터는, 사용자가 카메라(예: 도 1 및 도 2의 카메라 모듈(180))의 셔터를 눌러 캡처하지 않고, 라이브 뷰 모드에서 사용자가 카메라를 통해 보고 있는 장면에 대한 이미지 데이터일 수 있다. 라이브 뷰 모드에서 이미지 센서(230)는, 사용자가 카메라를 통해 보고 있는 장면을 제2 로우 이미지 데이터로써 메모리(330)에 저장할 수 있다.
동작 6003에서, 전자 장치(301)는, 제2 로우 이미지 데이터로부터 제2 스몰 로우 이미지 데이터를 생성할 수 있다. 제2 스몰 로우 이미지 데이터의 크기는, 제2 로우 이미지 데이터의 크기보다 작을 수 있다. 전자 장치(301)는, 제2 로우 이미지 데이터에 대해 다운 스케일링, 다운 샘플링, 또는 압축 중 적어도 어느 하나를 수행하여, 제2 스몰 로우 이미지 데이터를 생성할 수 있다.
제2 스몰 로우 이미지 데이터는, 제2 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트를 포함할 수 있다. 예를 들어, 사용자가 제1, 제2 및 제3 오브젝트가 포함된 장면을 카메라를 통해 보고있는 경우(예: 라이브 뷰 모드인 경우), 제2 로우 이미지 데이터는 제1, 제2 및 제3 오브젝트를 포함할 수 있고, 제2 스몰 로우 이미지 데이터도 제1, 제2 및/또는 제3 오브젝트를 포함할 수 있다.
동작 6005에서, 전자 장치(301)는 제2 스몰 로우 이미지 데이터를 제1 외부 전자 장치(401)로 전송할 수 있다.
동작 6007에서, 제1 외부 전자 장치(401)는, 수신된 제2 스몰 로우 이미지 데이터에 기반하여 오브젝트 식별 정보를 생성할 수 있다. 오브젝트 식별 정보는, 제2 스몰 로우 이미지 데이터에 포함되는 적어도 하나의 오브젝트를 식별할 수 있는지를 나타내는 정보일 수 있다. 예를 들어, 오브젝트 식별 정보는, 오브젝트 식별의 성공 또는 실패를 지시하는 정보가 포함될 수 있다.
오브젝트 식별의 성공은, 예를 들어, 제2 스몰 로우 이미지 데이터에포함된 적어도 하나의 오브젝트가 식별되었음을 의미할 수 있다. 예를 들어, 제1 외부 전자 장치(401)가 적어도 하나의 오브젝트를 세그먼테이션하고 인식하여 오브젝트를 식별하는 경우, 오브젝트 식별의 성공은 제1 외부 전자 장치(401)가 제2 스몰 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트를 세그멘테이션하고 인식하였음을 나타낼 수 있다. 오브젝트 식별 정보가 오브젝트 식별의 성공을 지시하는 정보를 포함하는 경우, 오브젝트 식별 정보는, 사용자가 카메라를 통해 보고 있는 장면을 카메라 셔터를 눌러 캡처하는 경우, 제2 외부 전자 장치(501)를 이용할 수 있음을 나타낼 수 있다.
오브젝트 식별의 실패는, 예를 들어, 제2 스몰 로우 이미지 데이터에포함된 적어도 하나의 오브젝트가 식별되지 않았음을 의미할 수 있다. 예를 들어, 제1 외부 전자 장치(401)가 적어도 하나의 오브젝트를 세그먼테이션하고 인식하여 오브젝트를 식별하는 경우, 오브젝트 식별의 실패는 제1 외부 전자 장치(401)가 제2 스몰 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트를 세그멘테이션하고 인식하지 못하였음을 나타낼 수 있다. 오브젝트 식별 정보가 오브젝트 식별의 실패를 지시하는 정보를 포함하는 경우, 오브젝트 식별 정보는, 사용자가 카메라를 통해 보고 있는 장면을 카메라 셔터를 눌러 캡처하는 경우, 제2 외부 전자 장치(501)를 이용할 수 없음을 나타낼 수 있다.
동작 6009에서, 전자 장치(301)는, 제1 외부 전자 장치(401)로부터 오브젝트 식별 정보를 수신할 수 있다.
동작 6011에서, 전자 장치(301)는, 오브젝트 식별 정보에 기반하여, 제2 표시 이미지 데이터를 디스플레이(360)를 통해 표시할 수 있다. 전자 장치(301)는 예를 들어, 제2 스몰 로우 이미지 데이터에 아이콘을 포함한 제2 표시 이미지 데이터를, 디스플레이(360)에 표시할 수 있다. 아이콘은 예를 들어, 디스플레이(360)를 통해 사용자에게 표시되는 오브젝트일 수 있다. 아이콘은 예를 들어, 사용자가 카메라를 통해 보고 있는 장면을 카메라 셔터를 눌러 캡처하는 경우, 제2 외부 전자 장치(501)를 이용할 수 있는지 여부를 나타내는 오브젝트일 수 있다.
전자 장치(301)는, 오브젝트 식별 정보에 오브젝트 식별의 실패를 지시하는 정보가 포함되는 경우, 제2 표시 이미지 데이터의 아이콘 표시의 속성을 변환할 수 있다. 예를 들어, 전자 장치(301)는, 오브젝트 식별 정보에 오브젝트 식별의 실패를 지시하는 정보가 포함되는 경우, 제2 표시 이미지 데이터의 아이콘 표시의 명도, 아이콘 표시의 채도 또는 아이콘의 이미지 중 적어도 어느 하나를 변환할 수 있다. 전자 장치(301)는, 예를 들어, 오브젝트 식별 정보에 오브젝트 식별의 실패를 지시하는 정보가 포함되는 경우, 제2 표시 이미지 데이터의 아이콘 표시를 비활성화시킬 수 있다. 제2 표시 이미지 데이터의 아이콘 표시의 속성이 변환되는 것은, 사용자가 전자 장치(301)를 통해 보고 있는 장면을 캡처하는 경우, 제2 외부 전자 장치(501)를 통한 이미지 프로세싱을 이용할 수 없다는 것을 의미할 수 있다.
전자 장치(301)는, 오브젝트 식별 정보에 오브젝트 식별의 성공을 지시하는 정보가 포함되는 경우, 제2 표시 이미지 데이터의 아이콘 표시의 속성을 변환시키지 않을 수 있다. 제2 표시 이미지 데이터의 아이콘 표시의 속성이 변환되지 않는 것은, 사용자가 전자 장치(301)를 통해 보고 있는 장면을 캡처하는 경우, 제2 외부 전자 장치(501)를 통한 이미지 프로세싱을 이용할 수 있다는 것을 의미할 수 있다.
도 12a 및 도 12b는 본 문서에 개시되는 실시 예에 따른 오브젝트 식별 정보 및 제2 표시 이미지 데이터를 설명하기 위한 도면이다.
일 실시 예에서, 도 12a를 참조하면, 전자 장치(301)를 통해 표시되는 장면은 제2 표시 이미지 데이터에 대응될 수 있다. 도 12a는 오브젝트 식별 정보에 오브젝트 식별의 실패를 지시하는 정보가 포함되는 경우일 수 있다. 전자 장치(301)는 제2 표시 이미지 데이터의 아이콘(IC) 표시의 속성을 변환시킬 수 있다.
일 실시 예에서, 도 12b를 참조하면, 전자 장치(301)를 통해 표시되는 장면은 제2 표시 이미지 데이터에 대응될 수 있다. 도 12b는 오브젝트 식별 정보에 오브젝트 식별의 성공을 지시하는 정보가 포함되는 경우일 수 있다. 전자 장치(301)는 제2 표시 이미지 데이터의 아이콘(IC) 표시의 속성을 변환시키지 않을 수 있다. 예를 들어, 사용자는 전자 장치(301)를 통해 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3)가 포함된 장면을 보고 있을 수 있다. 사용자가 전자 장치(301)를 통해 보고있는 장면은, 제2 로우 이미지 데이터로써 메모리(330)에 저장될 수 있다. 전자 장치(301)는 제2 로우 이미지 데이터로부터 제2 스몰 로우 이미지 데이터를 생성하여 제1 외부 전자 장치(401)로 전송할 수 있다. 제1 외부 전자 장치(401)는, 제2 스몰 로우 이미지 데이터의 제1, 제2 및 제3 오브젝트(OB1, OB2, OB3)를 식별할 수 있다. 전자 장치(301)는 제1 외부 전자 장치(401)로부터 오브젝트 식별의 성공을 지시하는 정보가 포함된 오브젝트 식별 정보를 수신할 수 있고, 아이콘(IC) 표시를 활성화시킨 제2 표시 이미지 데이터를 디스플레이(360)에 표시할 수 있다.
도 3, 및 도 11을 참조하면, 동작 6013에서, 전자 장치(301)는 사용자에 의해 제1 로우 이미지 데이터를 획득할 수 있다. 예를 들어, 사용자는, 제2 표시 이미지 데이터의 아이콘(IC) 표시가 활성화된 것에 기반하여, 전자 장치(301)를 통해 보고 있는 장면을 카메라를 통해 캡처하면 제2 외부 전자 장치(501)를 이용할 수 있음을 인식할 수 있다. 예를 들어, 사용자가 전자 장치(301)를 통해 보고 있는 장면을 카메라를 통해 캡처하면, 전자 장치(301)는 제1 로우 이미지 데이터를 획득할 수 있다.
전자 장치(301)는, 획득된 제1 로우 이미지 데이터를 메모리(330)에 저장할 수 있다(도 5a의 동작 2001).
도 13은 본 문서에 개시되는 실시 예에 따라, 제1 외부 전자 장치(401)가 오브젝트 식별 정보를 전자 장치(301)로 제공하는 동작을 설명하기 위한 흐름도다. 도 13은, 도 11의 동작 6007을 설명하기 위한 흐름도일 수 있다. 설명의 명확성을 위해, 앞서 설명한 것과 중복되는 것은 간략히 하거나 생략한다.
도 13를 참조하면, 동작 7001에서, 제1 외부 전자 장치(401)는, 전자 장치(301)로부터 수신한 제2 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별할 수 있다. 예를 들어, 제2 스몰 로우 이미지 데이터에 제1, 제2 및 제3 오브젝트가 포함되어 있는 경우, 제1 외부 전자 장치(401)는 제1 오브젝트와 제2 오브젝트를 구분하고, 제1 오브젝트와 제3 오브젝트를 구분하고, 제2 오브젝트와 제3 오브젝트를 구분할 수 있다.
동작 7003에서, 제1 외부 전자 장치(401)는 적어도 하나의 오브젝트의 식별에 성공했는지 여부를 판단할 수 있다.
동작 7005에서, 제1 외부 전자 장치(401)는, 적어도 하나의 오브젝트의 식별에 실패한 경우(도 12a 참조), 오브젝트 식별의 실패를 지시하는 정보를 포함하는 오브젝트 식별 정보를 생성할 수 있다.
동작 7007에서, 제1 외부 전자 장치(401)는, 적어도 하나의 오브젝트의 식별에 성공한 경우(도 12b 참조), 적어도 하나의 오브젝트를 식별하는 오브젝트 식별 정보를 생성할 수 있다.
도 14는 본 문서에 개시되는 실시 예에 따른 전자 장치(301)가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다. 설명의 명확성을 위해, 앞서 설명한 것과 중복되는 것은 간략히 하거나 생략한다.
이하에서는 도 3의 전자 장치(301)가 도 14의 프로세스를 수행하는 것을 가정한다. 전자 장치에 의해 수행되는 것으로 기술된 동작은 전자 장치(301)의 프로세서(320)에 의해 수행(혹은, 실행)될 수 있는 인스트럭션(명령어)들로 구현될 수 있다. 인스트럭션들은, 예를 들어, 컴퓨터 기록 매체 또는 도 3에 도시된 전자 장치(301)의 메모리(330)에 저장될 수 있다.
도 14를 참조하면, 동작 2001, 동작 2003, 동작 2005 및 동작 2007은, 도 5a의 동작 2001, 동작 2003, 동작 2005 및 동작 2007과 실질적으로 동일할 수 있다.
동작 8001에서, 제1 외부 전자 장치(401)(예: 프로세서(420))는, 중요 오브젝트에 대한 정보 및 중요 오브젝트에 대한 보정 방법에 대한 정보를 식별할 수 있다.
제1 외부 전자 장치(401)는, 생성된 오브젝트 영역 정보에 기반하여, 식별된 오브젝트 영역 중 중요 오브젝트를 식별하여, 중요 오브젝트에 대한 정보를 생성할 수 있다. 제1 외부 전자 장치(401)는, 중요 오브젝트에 대한 보정 방법에 대한 정보를 생성할 수 있다. 중요 오브젝트에 대한 보정 방법은, 예를 들어, 중요 오브젝트에 대한 보정 강도에 대한 정보, 중요 오브젝트에 대한 블러 처리 적용에 대한 정보, 및/또는 중요 오브젝트에 대한 AR(augmented reality) 오브젝트 삽입에 대한 정보를 포함할 수 있다.
일 실시 예에서, 제1 외부 전자 장치(401)는, 중요 오브젝트에 대한 정보를 저장하고 있을 수 있다. 예를 들어, 제1 스몰 로우 이미지 데이터로부터 배경 및 인물이 식별된 경우, 인물이 중요 오브젝트라는 정보는 제1 외부 전자 장치(401)에 저장되어 있을 수 있다. 예를 들어, 제1 스몰 로우 이미지 데이터로부터 인물의 얼굴, 몸, 머리카락 및/또는 옷이 식별된 경우, 인물의 얼굴 중 피부톤과 눈이 중요 오브젝트라는 정보는 제1 외부 전자 장치(401)에 저장되어 있을 수 있다. 제1 외부 전자 장치(401)는, 생성된 오브젝트 영역 정보에 기반하여, 식별된 오브젝트 중 인물이 포함된 경우, 인물 또는 인물의 얼굴 중 피부톤과 눈이 중요 오브젝트라는 정보를 생성할 수 있다.
일 실시 예에서, 제1 외부 전자 장치(401)는, 제1 외부 전자 장치(401)의 지역적 정보에 기반하여 중요 오브젝트를 식별할 수 있다. 예를 들어, 제1 외부 전자 장치(401)가 위치한 지역의 랜드마크에 대한 정보는, 중요 오브젝트에 대한 정보로써 제1 외부 전자 장치(401)에 저장되어 있을 수 있다. 제1 외부 전자 장치(401)는, 생성된 오브젝트 영역 정보에 기반하여, 식별된 오브젝트 중 랜드마크가 포함된 경우, 랜드마크가 중요 오브젝트라는 정보 또는 랜드마크에 관한 정보를 생성할 수 있다.
일 실시 예에서, 제1 외부 전자 장치(401)는, 제1 외부 전자 장치(401)의 운영자에 의해 저장된 정보에 기반하여 중요 오브젝트를 식별할 수 있다. 제1 외부 전자 장치(401)가 상업적 이벤트와 관련되어 운영되는 경우, 제1 외부 전자 장치(401)의 운영자는 일부 오브젝트에 대해 블러 처리를 하도록 하거나, 또 다른 일부 오브젝트에 대응하여 AR 오브젝트를 삽입하고자 할 수 있다. 예를 들어, 제1 외부 전자 장치(401)가 콘서트 장에서 운영되는 경우, 제1 외부 전자 장치(401)는 식별된 오브젝트 중 무대 위의 인물이 식별된 경우, 무대 위의 인물에 대응되는 오브젝트가 중요 오브젝트라는 정보를 생성할 수 있다. 예를 들어, 제1 외부 전자 장치(401)가 콘서트 장에서 운영되는 경우, 제1 외부 전자 장치(401)는 식별된 오브젝트 중 간판이 식별된 경우, 간판이 중요 오브젝트라는 정보를 생성할 수 있다.
동작 8003에서, 제1 외부 전자 장치(401)는 오브젝트 영역 정보, 중요 오브젝트에 대한 정보 및/또는 중요 오브젝트에 대한 보정 방법을 전자 장치(301)에 전송할 수 있다.
동작 8005에서, 전자 장치(301)는 제1 외부 전자 장치(401)로부터 수신한 오브젝트 영역 정보, 중요 오브젝트에 대한 정보 및/또는 중요 오브젝트에 대한 보정 방법에 기반하여, 제1 로우 이미지 데이터의 중요 오브젝트에 대한 보정을 수행할 수 있다. 예를 들어, 전자 장치(301)는 제1 외부 전자 장치(401)로부터 수신한 오브젝트 영역 정보에 기반하여, 제1 로우 이미지 데이터에 포함된 적어도 하나의 오브젝트를 식별할 수 있다. 전자 장치(301)는, 제1 외부 전자 장치(401)로부터 수신한 중요 오브젝트에 대한 정보에 기반하여, 식별된 적어도 하나의 오브젝트 중 중요 오브젝트를 식별할 수 있다. 전자 장치(301)는, 제1 외부 전자 장치(401)로부터 수신한 중요 오브젝트에 대한 보정 방법에 기반하여, 중요 오브젝트에 대한 이미지 프로세싱을 수행함으로써, 보정된 제1 로우 이미지 데이터를 생성할 수 있다.
예를 들어, 제1 외부 전자 장치(401)로부터 수신한 중요 오브젝트에 대한 보정 방법이 중요 오브젝트에 대한 보정 강도에 관한 정보를 포함하는 경우, 전자 장치(301)는 제1 로우 이미지 데이터에서 중요 오브젝트에 대한 보정 강도를, 식별된 나머지 오브젝트에 대한 보정 강도보다 높게 하여 이미지 프로세싱을 수행함으로써, 보정된 제1 로우 이미지 데이터를 생성할 수 있다.
예를 들어, 제1 외부 전자 장치(401)로부터 수신한 중요 오브젝트에 대한 보정 방법이 중요 오브젝트에 대한 블러 처리 적용에 대한 정보를 포함하는 경우, 전자 장치(301)는 제1 로우 이미지 데이터에서 중요 오브젝트에 대해 블러 처리를 수행함으로써, 보정된 제1 로우 이미지 데이터를 생성할 수 있다.
예를 들어, 제1 외부 전자 장치(401)로부터 수신한 중요 오브젝트에 대한 보정 방법이 중요 오브젝트에 대한 AR 오브젝트 삽입에 대한 정보를 포함하는 경우, 전자 장치(301)는 제1 로우 이미지 데이터에서 중요 오브젝트 상에 AR 오브젝트를 삽입함으로써, 보정된 제1 로우 이미지 데이터를 생성할 수 있다.
동작 8007에서, 전자 장치(301)는 보정된 제1 로우 이미지 데이터를 디스플레이(예: 도 3의 디스플레이(360))에 표시할 수 있다.
도 15는 본 문서에 개시되는 실시 예에 따른 전자 장치(301)가 이미지 프로세싱을 수행하는 방법을 설명하기 위한 흐름도다. 설명의 명확성을 위해, 앞서 설명한 것과 중복되는 것은 간략히 하거나 생략한다.
이하에서는 도 3의 전자 장치(301)가 도 15의 프로세스를 수행하는 것을 가정한다. 전자 장치에 의해 수행되는 것으로 기술된 동작은 전자 장치(301)의 프로세서(320)에 의해 수행(혹은, 실행)될 수 있는 인스트럭션(명령어)들로 구현될 수 있다. 인스트럭션들은, 예를 들어, 컴퓨터 기록 매체 또는 도 3에 도시된 전자 장치(301)의 메모리(330)에 저장될 수 있다.
도 15를 참조하면, 동작 2001, 동작 2003, 동작 2005 및 동작 2007은, 도 5a의 동작 2001, 동작 2003, 동작 2005 및 동작 2007과 실질적으로 동일할 수 있다. 동작 8001, 동작 8003, 동작 8005, 및 동작 8007은, 도 14의 동작 8001, 동작 8003, 동작 8005, 및 동작 8007과 실질적으로 동일할 수 있다.
동작 8004에서, 제1 외부 전자 장치(401)는, 오브젝트 영역 정보, 중요 오브젝트에 대한 정보 및 중요 오브젝트에 대한 보정 방법을 제2 외부 전자 장치(501)로 전송할 수 있다.
사용자의 선택에 의해 제1 로우 이미지 데이터의 일부 영역이 제2 외부 전자 장치(501)로 전송된 경우, 제2 외부 전자 장치(501)는 제1 외부 전자 장치(401)로부터 수신한 오브젝트 영역 정보, 중요 오브젝트에 대한 정보 및 중요 오브젝트에 대한 보정 방법에 기반하여, 제1 로우 이미지 데이터의 일부 영역에 대한 이미지 프로세싱을 수행할 수 있다. 예를 들어, 제1 로우 이미지 데이터의 일부 영역에 중요 오브젝트가 포함되어 있는 경우, 제2 외부 전자 장치(501)는, 중요 오브젝트에 대해 중요 오브젝트에 대한 보정 방법에 기반하여 이미지 프로세싱을 수행할 수 있다.
본 문서에 개시되는 실시 예에 따른 전자 장치(301)는, 통신 회로(390), 디스플레이(360), 프로세서(320) 및 상기 프로세서에 작동적으로(operatively) 연결된 메모리(330)를 포함하고, 상기 메모리는, 실행되었을 때 상기 프로세서(320)로 하여금, 제1 로우 이미지(raw image) 데이터를 상기 메모리(330)에 저장하고, 상기 제1 로우 이미지 데이터로부터, 상기 제1 로우 이미지 데이터의 크기보다 작은 제1 스몰 로우 이미지 데이터를 생성하고, 상기 제1 스몰 로우 이미지 데이터를, 상기 통신 회로(390)를 통해 제1 외부 전자 장치(401)로 전송하고, 상기 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 영역 정보를, 상기 통신 회로(390)를 통해 상기 제1 외부 전자 장치로(401)부터 수신하고, 사용자 입력 및 상기 오브젝트 영역 정보에 기반하여, 상기 제1 로우 이미지 데이터의 제1 영역을, 상기 통신 회로(390)를 통해 제2 외부 전자 장치(501)로 전송하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서(320)가, 상기 오브젝트 영역 정보에 대응되는 제1 표시 이미지 데이터를 상기 디스플레이(360)를 통해 표시하고, 상기 오브젝트 영역의 선택과 관련된 상기 사용자 입력을 식별하도록 할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서가, 식별된 상기 적어도 하나의 오브젝트의 카테고리 또는 명칭 중 적어도 어느 하나를 포함하는 상기 제1 표시 이미지 데이터를 상기 디스플레이(360)를 통해 표시하도록할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서(320)가, 상기 제1 로우 이미지 데이터에 대해 다운 스케일링(down scaling), 다운 샘플링(down sampling), 또는 압축(compression) 중 적어도 어느 하나를 수행하여 상기 제1 스몰 로우 이미지 데이터를 생성하도록 할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서(320)가, 상기 제1 영역의 보정 데이터를, 상기 통신 회로(390)를 통해 상기 제2 외부 전자 장치(501)로부터 수신하고, 상기 제1 영역의 보정 데이터 및 상기 제1 로우 이미지 데이터를 합성(merge)하도록 할 수 있다.
일 실시 예에서, 상기 제1 외부 전자 장치(401)는, 에지 서버(edge server)이고, 상기 제2 외부 전자 장치(501)는, 상기 에지 서버가 아닌 서버일 수 있다.
일 실시 예에서, 상기 전자 장치(301)는, 카메라(180)를 더 포함하고, 상기 인스트럭션들은, 상기 프로세서(320)가, 제2 로우 이미지 데이터를 상기 메모리(330)에 저장하고, 상기 제2 로우 이미지 데이터로부터, 상기 제2 로우 이미지 데이터의 크기보다 작은 제2 스몰 로우 이미지 데이터를 생성하고, 상기 제2 스몰 로우 이미지 데이터를, 상기 통신 회로(390)를 통해 상기 제1 외부 전자 장치(401)로 전송하고, 상기 제2 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 식별 정보를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치(401)로부터 수신하고, 상기 오브젝트 식별 정보에 기반하여 제2 표시 이미지 데이터를 상기 디스플레이(360)를 통해 표시하고, 사용자에 의해, 상기 카메라(180)를 통해 상기 제1 로우 이미지 데이터를 획득하도록 할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서가, 상기 오브젝트 식별 정보에 상기 적어도 하나의 오브젝트의 식별의 실패를 지시하는 정보가 포함되면, 상기 제2 표시 이미지 데이터의 아이콘 표시의 속성을 변환하도록 할 수 있다.
본 문서에 개시되는 실시 예에 따른 전자 장치(301)의 이미지 프로세싱 방법은, 제1 로우 이미지(raw image) 데이터를 메모리(330)에 저장하는 동작, 상기 제1 로우 이미지 데이터로부터, 상기 제1 로우 이미지 데이터의 크기보다 작은 제1 스몰 로우 이미지 데이터를 생성하는 동작, 상기 제1 스몰 로우 이미지 데이터를 제1 외부 전자 장치(401)로 전송하는 동작, 상기 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 영역 정보를 상기 제1 외부 전자 장치로부터 수신하는 동작 및 사용자 입력 및 상기 오브젝트 영역 정보에 기반하여, 상기 제1 로우 이미지 데이터의 제1 영역을, 제2 외부 전자 장치(501)로 전송하도록 하는 동작을 포함할 수 있다.
일 실시 예에서, 상기 오브젝트 영역 정보에 대응되는 제1 표시 이미지 데이터를 디스플레이(360)를 통해 표시하는 동작을 더 포함하고, 상기 사용자 입력은, 상기 오브젝트 영역의 선택과 관련될 수 있다.
일 실시 예에서, 상기 제1 표시 이미지 데이터는, 식별된 상기 적어도 하나의 오브젝트의 카테고리 또는 명칭 중 적어도 어느 하나를 포함할 수 있다.
일 실시 예에서, 상기 제1 스몰 로우 이미지 데이터를 생성하는 동작은, 상기 제1 로우 이미지 데이터를 다운 스케일링(down scaling), 다운 샘플링(down sampling), 또는 압축(compression) 중 적어도 어느 하나를 수행하는 것일 수 있다.
일 실시 예에서, 상기 제1 영역의 보정 데이터를 상기 제2 외부 전자 장치로부터 수신하는 동작 및 상기 제1 영역의 보정 데이터 및 상기 제1 로우 이미지 데이터를 합성(merge)하는 동작을 더 포함할 수 있다.
일 실시 예에서, 상기 제1 외부 전자 장치는, 에지 서버(edge server)이고, 상기 제2 외부 전자 장치는, 상기 에지 서버가 아닌 서버일 수 있다.
일 실시 예에서, 제2 로우 이미지 데이터를 상기 메모리에 저장하는 동작, 상기 제2 로우 이미지 데이터로부터, 상기 제2 로우 이미지 데이터의 크기보다 작은 제2 스몰 로우 이미지 데이터를 생성하는 동작, 상기 제2 스몰 로우 이미지 데이터를, 상기 제1 외부 전자 장치로 전송하는 동작, 상기 제2 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 식별 정보를, 상기 제1 외부 전자 장치로부터 수신하는 동작, 상기 오브젝트 식별 정보에 기반하여 제2 표시 이미지 데이터를 디스플레이를 통해 표시하는 동작 및 사용자에 의해, 카메라를 통해 상기 제1 로우 이미지 데이터를 획득하는 동작을 더 포함할 수 있다.
본 문서에 개시되는 실시 예에 따른 전자 장치(301)는, 통신 회로(390), 디스플레이(360), 프로세서(320) 및 상기 프로세서에 작동적으로(operatively) 연결된 메모리(330)를 포함하고, 상기 메모리는, 실행되었을 때 상기 프로세서로 하여금, 제1 및 제2 오브젝트를 포함하는 로우 이미지(raw image) 데이터를 상기 메모리에 저장하고, 상기 제1 및 제2 오브젝트를 포함하는 제1 스몰 로우 이미지 데이터를, 상기 통신 회로를 통해 제1 외부 전자 장치(401)로 전송하고, 상기 제1 스몰 로우 이미지 데이터에 기반하여 생성되고, 상기 제1 및 제2 오브젝트 각각을 식별하는 제1 및 제2 오브젝트 영역 정보를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치로부터 수신하여 상기 디스플레이를 통해 표시하고, 상기 제1 오브젝트의 선택과 관련된 사용자 입력을 식별하고, 상기 사용자 입력에 기반하여, 상기 제1 오브젝트는 포함하고, 상기 제2 오브젝트는 포함하지 않는 상기 로우 이미지 데이터의 일부 영역을 제2 외부 전자 장치(501)에 전송하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서(320)가, 상기 로우 이미지 데이터로부터, 상기 로우 이미지 데이터의 크기보다 작은 상기 제1 스몰 로우 이미지 데이터를 생성하도록 할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서(320)가, 상기 로우 이미지 데이터에 대해 다운 스케일링(down scaling), 다운 샘플링(down sampling), 또는 압축(compression) 중 적어도 어느 하나를 수행하여 상기 제1 스몰 로우 이미지 데이터를 생성하도록 할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서(320)가, 식별된 상기 제1 및 제2 오브젝트의 카테고리 또는 명칭 중 적어도 어느 하나를 포함하는 상기 제1 표시 이미지 데이터를 상기 디스플레이를 통해 표시하도록 할 수 있다.
본 문서에 개시되는 실시 예에 따른 전자 장치(301)는, 하우징, 상기 하우징 내에 배치된 무선 통신 회로(390), 상기 하우징 내에 배치되고, 상기 하우징의 일부를 통하여 노출되고, 원본(raw) 이미지 데이터를 생성하도록 구성된 카메라(180), 상기 하우징 내에 배치되고, 상기 하우징의 일부를 통하여 보이고, 상기 원본 이미지 데이터에 기반하여 생성된 제1 표시 이미지 데이터의 이미지를 표시하도록 구성된 디스플레이(360), 상기 무선 통신 회로, 상기 디스플레이 및 상기 카메라와 작동적으로 연결된 적어도 하나의 프로세서(320) 및 상기 프로세서와 작동적으로(operatively) 연결되고, 상기 원본 이미지 데이터를 저장하도록 구성된 적어도 하나의 메모리(330)를 포함하고, 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 원본 이미지 데이터에 기초하여, 상기 원본 이미지 데이터보다 크기가 작은 제1 스몰 로우 이미지 데이터를 생성하고, 상기 제1 스몰 로우 이미지 데이터를 상기 무선 통신 회로를 이용하여, 기지국에 로컬하게 연결된 서버(401)로 전송하고, 상기 서버에 의하여 상기 제1 스몰 로우 이미지 데이터에 기반하여 생성되고, 상기 제1 스몰 로우 이미지 데이터 내의 오브젝트 인식에 관한 메타 데이터를 포함하는 제1 이미지 데이터를 상기 무선 통신 회로를 이용하여 수신하고, 상기 제1 표시 이미지 데이터 및 상기 제1 이미지 데이터를 이용하여 제2 표시 이미지 데이터를 생성하고, 상기 제2 표시 이미지 데이터의 이미지를 상기 디스플레이에 표시하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
일 실시 예에서, 상기 제1 스몰 로우 이미지 데이터는 시간, 위치, 장소, 조도, 또는 날씨 중 적어도 하나를 더 포함할 수 있다.
일 실시 예에서, 상기 인스트럭션들은 상기 프로세서가, 상기 디스플레이에 표시된 상기 제1 표시 이미지 데이터의 이미지 중 일부 영역을 선택하는 사용자 입력을 수신하고, 상기 사용자 입력에 적어도 일부 기초하여 상기 제1 스몰 로우 이미지 데이터를 생성하도록 할 수 있다.
일 실시 예에서, 상기 인스트럭션들은, 상기 프로세서가 상기 디스플레이에 표시된 상기 제2 표시 이미지 데이터의 이미지 중 일부 영역을 선택하는 사용자 입력을 수신하고, 상기 사용자 입력에 적어도 일부 기초하여, 제2 스몰 로우 이미지 데이터를 생성하여, 외부 서버로 전송하고, 상기 외부 서버에 의하여 상기 제2 스몰 로우 이미지 데이터의 화질을 보정하여 생성된 제2 이미지 데이터를 수신하고, 상기 원본 이미지 데이터와 상기 제2 이미지 데이터를 이용하여 제3 표시 이미지 데이터를 생성하고, 상기 제3 표시 이미지 데이터의 이미지를 상기 디스플레이에 표시하도록 할 수 있다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나",“A 또는 B 중 적어도 하나,”"A, B 또는 C," "A, B 및 C 중 적어도 하나,”및 “A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, “기능적으로” 또는 “통신적으로”라는 용어와 함께 또는 이런 용어 없이, “커플드” 또는 “커넥티드”라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시 예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시 예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어™)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
Claims (24)
- 전자 장치에 있어서,
통신 회로;
디스플레이;
프로세서; 및
상기 프로세서에 작동적으로(operatively) 연결된 메모리를 포함하고,
상기 메모리는, 실행되었을 때 상기 프로세서로 하여금:
제1 로우 이미지(raw image) 데이터를 상기 메모리에 저장하고,
상기 제1 로우 이미지 데이터로부터, 상기 제1 로우 이미지 데이터의 크기보다 작은 제1 스몰 로우 이미지 데이터를 생성하고,
상기 제1 스몰 로우 이미지 데이터를, 상기 통신 회로를 통해 제1 외부 전자 장치로 전송하고,
상기 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 영역 정보를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치로부터 수신하고,
사용자 입력 및 상기 오브젝트 영역 정보에 기반하여, 상기 제1 로우 이미지 데이터의 제1 영역을, 상기 통신 회로를 통해 제2 외부 전자 장치로 전송하도록 하는 인스트럭션들(instructions)을 저장하는, 전자 장치. - 청구항 1에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
상기 오브젝트 영역 정보에 대응되는 제1 표시 이미지 데이터를 상기 디스플레이를 통해 표시하고,
상기 오브젝트 영역의 선택과 관련된 상기 사용자 입력을 식별하도록 하는, 전자 장치. - 청구항 2에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
식별된 상기 적어도 하나의 오브젝트의 카테고리 또는 명칭 중 적어도 어느 하나를 포함하는 상기 제1 표시 이미지 데이터를 상기 디스플레이를 통해 표시하도록 하는, 전자 장치. - 청구항 1에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
상기 제1 로우 이미지 데이터에 대해 다운 스케일링(down scaling), 다운 샘플링(down sampling), 또는 압축(compression) 중 적어도 어느 하나를 수행하여 상기 제1 스몰 로우 이미지 데이터를 생성하도록 하는, 전자 장치. - 청구항 1에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
상기 제1 영역의 보정 데이터를, 상기 통신 회로를 통해 상기 제2 외부 전자 장치로부터 수신하고,
상기 제1 영역의 보정 데이터 및 상기 제1 로우 이미지 데이터를 합성(merge)하도록 하는, 전자 장치. - 청구항 1에 있어서,
상기 제1 외부 전자 장치는, 에지 서버(edge server)이고,
상기 제2 외부 전자 장치는, 상기 에지 서버가 아닌 서버인, 전자 장치. - 청구항 1에 있어서,
상기 전자 장치는, 카메라를 더 포함하고,
상기 인스트럭션들은, 상기 프로세서가,
제2 로우 이미지 데이터를 상기 메모리에 저장하고,
상기 제2 로우 이미지 데이터로부터, 상기 제2 로우 이미지 데이터의 크기보다 작은 제2 스몰 로우 이미지 데이터를 생성하고,
상기 제2 스몰 로우 이미지 데이터를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치로 전송하고,
상기 제2 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 식별 정보를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치로부터 수신하고,
상기 오브젝트 식별 정보에 기반하여 제2 표시 이미지 데이터를 상기 디스플레이를 통해 표시하고,
사용자에 의해, 상기 카메라를 통해 상기 제1 로우 이미지 데이터를 획득하도록 하는, 전자 장치. - 청구항 7에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
상기 오브젝트 식별 정보에 상기 적어도 하나의 오브젝트의 식별의 실패를 지시하는 정보가 포함되면, 상기 제2 표시 이미지 데이터의 아이콘 표시의 속성을 변환하도록 하는, 전자 장치. - 전자 장치의 이미지 프로세싱 방법에 있어서,
제1 로우 이미지(raw image) 데이터를 메모리에 저장하는 동작;
상기 제1 로우 이미지 데이터로부터, 상기 제1 로우 이미지 데이터의 크기보다 작은 제1 스몰 로우 이미지 데이터를 생성하는 동작;
상기 제1 스몰 로우 이미지 데이터를 제1 외부 전자 장치로 전송하는 동작;
상기 제1 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 영역 정보를 상기 제1 외부 전자 장치로부터 수신하는 동작; 및
사용자 입력 및 상기 오브젝트 영역 정보에 기반하여, 상기 제1 로우 이미지 데이터의 제1 영역을, 제2 외부 전자 장치로 전송하도록 하는 동작을 포함하는, 이미지 프로세싱 방법. - 청구항 9에 있어서,
상기 오브젝트 영역 정보에 대응되는 제1 표시 이미지 데이터를 디스플레이를 통해 표시하는 동작을 더 포함하고,
상기 사용자 입력은, 상기 오브젝트 영역의 선택과 관련되는, 이미지 프로세싱 방법. - 청구항 10에 있어서,
상기 제1 표시 이미지 데이터는, 식별된 상기 적어도 하나의 오브젝트의 카테고리 또는 명칭 중 적어도 어느 하나를 포함하는, 이미지 프로세싱 방법. - 청구항 9에 있어서,
상기 제1 스몰 로우 이미지 데이터를 생성하는 동작은,
상기 제1 로우 이미지 데이터를 다운 스케일링(down scaling), 다운 샘플링(down sampling), 또는 압축(compression) 중 적어도 어느 하나를 수행하는 것인, 이미지 프로세싱 방법. - 청구항 9에 있어서,
상기 제1 영역의 보정 데이터를 상기 제2 외부 전자 장치로부터 수신하는 동작; 및
상기 제1 영역의 보정 데이터 및 상기 제1 로우 이미지 데이터를 합성(merge)하는 동작을 더 포함하는, 이미지 프로세싱 방법. - 청구항 9에 있어서,
상기 제1 외부 전자 장치는, 에지 서버(edge server)이고,
상기 제2 외부 전자 장치는, 상기 에지 서버가 아닌 서버인, 이미지 프로세싱 방법. - 청구항 9에 있어서,
제2 로우 이미지 데이터를 상기 메모리에 저장하는 동작;
상기 제2 로우 이미지 데이터로부터, 상기 제2 로우 이미지 데이터의 크기보다 작은 제2 스몰 로우 이미지 데이터를 생성하는 동작;
상기 제2 스몰 로우 이미지 데이터를, 상기 제1 외부 전자 장치로 전송하는 동작;
상기 제2 스몰 로우 이미지 데이터의 적어도 하나의 오브젝트를 식별하는 오브젝트 식별 정보를, 상기 제1 외부 전자 장치로부터 수신하는 동작;
상기 오브젝트 식별 정보에 기반하여 제2 표시 이미지 데이터를 디스플레이를 통해 표시하는 동작; 및
사용자에 의해, 카메라를 통해 상기 제1 로우 이미지 데이터를 획득하는 동작을 더 포함하는, 이미지 프로세싱 방법. - 전자 장치에 있어서,
통신 회로;
디스플레이;
프로세서; 및
상기 프로세서에 작동적으로(operatively) 연결된 메모리를 포함하고,
상기 메모리는, 실행되었을 때 상기 프로세서로 하여금:
제1 및 제2 오브젝트를 포함하는 로우 이미지(raw image) 데이터를 상기 메모리에 저장하고,
상기 제1 및 제2 오브젝트를 포함하는 제1 스몰 로우 이미지 데이터를, 상기 통신 회로를 통해 제1 외부 전자 장치로 전송하고,
상기 제1 스몰 로우 이미지 데이터에 기반하여 생성되고, 상기 제1 및 제2 오브젝트 각각을 식별하는 제1 및 제2 오브젝트 영역 정보를, 상기 통신 회로를 통해 상기 제1 외부 전자 장치로부터 수신하여 상기 디스플레이를 통해 표시하고,
상기 제1 오브젝트의 선택과 관련된 사용자 입력을 식별하고,
상기 사용자 입력에 기반하여, 상기 제1 오브젝트는 포함하고, 상기 제2 오브젝트는 포함하지 않는 상기 로우 이미지 데이터의 일부 영역을 제2 외부 전자 장치에 전송하도록 하는 인스트럭션들(instructions)을 저장하는, 전자 장치. - 청구항 16에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
상기 로우 이미지 데이터로부터, 상기 로우 이미지 데이터의 크기보다 작은 상기 제1 스몰 로우 이미지 데이터를 생성하도록 하는, 전자 장치. - 청구항 17에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
상기 로우 이미지 데이터에 대해 다운 스케일링(down scaling), 다운 샘플링(down sampling), 또는 압축(compression) 중 적어도 어느 하나를 수행하여 상기 제1 스몰 로우 이미지 데이터를 생성하도록 하는, 전자 장치. - 청구항 16에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
상기 제1 및 제2 오브젝트 영역 정보에 대응되는 제1 표시 이미지 데이터를 상기 디스플레이를 통해 표시하도록 하는, 전자 장치. - 청구항 19에 있어서,
상기 인스트럭션들은, 상기 프로세서가,
식별된 상기 제1 및 제2 오브젝트의 카테고리 또는 명칭 중 적어도 어느 하나를 포함하는 상기 제1 표시 이미지 데이터를 상기 디스플레이를 통해 표시하도록 하는, 전자 장치. - 전자 장치에 있어서,
하우징;
상기 하우징 내에 배치된 무선 통신 회로;
상기 하우징 내에 배치되고, 상기 하우징의 일부를 통하여 노출되고, 원본(raw) 이미지 데이터를 생성하도록 구성된 카메라;
상기 하우징 내에 배치되고, 상기 하우징의 일부를 통하여 보이고, 상기 원본 이미지 데이터에 기반하여 생성된 제1 표시 이미지 데이터의 이미지를 표시하도록 구성된 디스플레이;
상기 무선 통신 회로, 상기 디스플레이 및 상기 카메라와 작동적으로 연결된 적어도 하나의 프로세서; 및
상기 프로세서와 작동적으로(operatively) 연결되고, 상기 원본 이미지 데이터를 저장하도록 구성된 적어도 하나의 메모리를 포함하고,
상기 메모리는, 실행 시에, 상기 프로세서가,
상기 원본 이미지 데이터에 기초하여, 상기 원본 이미지 데이터보다 크기가 작은 제1 스몰 로우 이미지 데이터를 생성하고,
상기 제1 스몰 로우 이미지 데이터를 상기 무선 통신 회로를 이용하여, 기지국에 로컬하게 연결된 서버로 전송하고,
상기 서버에 의하여 상기 제1 스몰 로우 이미지 데이터에 기반하여 생성되고, 상기 제1 스몰 로우 이미지 데이터 내의 오브젝트 인식에 관한 메타 데이터를 포함하는 제1 이미지 데이터를 상기 무선 통신 회로를 이용하여 수신하고,
상기 제1 표시 이미지 데이터 및 상기 제1 이미지 데이터를 이용하여 제2 표시 이미지 데이터를 생성하고,
상기 제2 표시 이미지 데이터의 이미지를 상기 디스플레이에 표시하도록 하는 인스트럭션들(instructions)을 저장하는 전자 장치. - 제21항에 있어서,
상기 제1 스몰 로우 이미지 데이터는 시간, 위치, 장소, 조도, 또는 날씨 중 적어도 하나를 더 포함하는 전자 장치. - 제21항에 있어서, 상기 인스트럭션들은 상기 프로세서가,
상기 디스플레이에 표시된 상기 제1 표시 이미지 데이터의 이미지 중 일부 영역을 선택하는 사용자 입력을 수신하고,
상기 사용자 입력에 적어도 일부 기초하여 상기 제1 스몰 로우 이미지 데이터를 생성하도록 하는 전자 장치. - 제21 항에 있어서, 상기 인스트럭션들은, 상기 프로세서가
상기 디스플레이에 표시된 상기 제2 표시 이미지 데이터의 이미지 중 일부 영역을 선택하는 사용자 입력을 수신하고,
상기 사용자 입력에 적어도 일부 기초하여, 제2 스몰 로우 이미지 데이터를 생성하여, 외부 서버로 전송하고,
상기 외부 서버에 의하여 상기 제2 스몰 로우 이미지 데이터의 화질을 보정하여 생성된 제2 이미지 데이터를 수신하고,
상기 원본 이미지 데이터와 상기 제2 이미지 데이터를 이용하여 제3 표시 이미지 데이터를 생성하고,
상기 제3 표시 이미지 데이터의 이미지를 상기 디스플레이에 표시하도록 하는 전자 장치.
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190040697A KR102608127B1 (ko) | 2019-04-08 | 2019-04-08 | 이미지 프로세싱을 수행하는 전자 장치 및 방법 |
PCT/KR2020/004631 WO2020209560A1 (en) | 2019-04-08 | 2020-04-06 | Electronic device for performing image processing and method thereof |
US16/841,741 US11380096B2 (en) | 2019-04-08 | 2020-04-07 | Electronic device for performing image processing and method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020190040697A KR102608127B1 (ko) | 2019-04-08 | 2019-04-08 | 이미지 프로세싱을 수행하는 전자 장치 및 방법 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20200118600A true KR20200118600A (ko) | 2020-10-16 |
KR102608127B1 KR102608127B1 (ko) | 2023-12-01 |
Family
ID=72662998
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190040697A KR102608127B1 (ko) | 2019-04-08 | 2019-04-08 | 이미지 프로세싱을 수행하는 전자 장치 및 방법 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11380096B2 (ko) |
KR (1) | KR102608127B1 (ko) |
WO (1) | WO2020209560A1 (ko) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8081227B1 (en) * | 2006-11-30 | 2011-12-20 | Adobe Systems Incorporated | Image quality visual indicator |
US20150161755A1 (en) * | 2013-12-11 | 2015-06-11 | Samsung Electronics Co., Ltd. | Method, terminal and system for image processing |
US20150199121A1 (en) * | 2014-01-15 | 2015-07-16 | Samsung Electronics Co., Ltd. | Medical image providing apparatus and medical image processing method of the same |
US20180101971A1 (en) * | 2016-10-06 | 2018-04-12 | International Business Machines Corporation | Rebuilding images based on historical image data |
Family Cites Families (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2402867B1 (en) * | 2010-07-02 | 2018-08-22 | Accenture Global Services Limited | A computer-implemented method, a computer program product and a computer system for image processing |
WO2014046424A1 (en) * | 2012-09-18 | 2014-03-27 | Samsung Electronics Co., Ltd. | Information transmission method and system, and device |
KR102090269B1 (ko) * | 2012-12-14 | 2020-03-17 | 삼성전자주식회사 | 정보 검색 방법, 그와 같은 기능을 갖는 디바이스 및 기록 매체 |
GB201316921D0 (en) * | 2013-08-19 | 2013-11-06 | Goodmark Medical International Ltd | Patient test data processing system and method |
KR102228457B1 (ko) * | 2014-01-09 | 2021-03-16 | 삼성전자주식회사 | 단말과 서버간의 정보 동기화 방법 및 시스템 |
KR102230267B1 (ko) * | 2014-09-04 | 2021-03-19 | 삼성전자주식회사 | 영상 표시 장치 및 방법 |
US9311735B1 (en) * | 2014-11-21 | 2016-04-12 | Adobe Systems Incorporated | Cloud based content aware fill for images |
US9659381B2 (en) * | 2015-01-26 | 2017-05-23 | Daqri, Llc | Real time texture mapping for augmented reality system |
KR20160092136A (ko) | 2015-01-26 | 2016-08-04 | 한국전자통신연구원 | 가상 데스크탑 제공 방법 및 가상 데스크탑 제공 서버 |
JP6595287B2 (ja) | 2015-03-27 | 2019-10-23 | エヌ・ティ・ティ・コミュニケーションズ株式会社 | 監視システム、監視方法、解析装置及び解析プログラム |
US10616724B2 (en) * | 2015-11-19 | 2020-04-07 | 39Degrees C Inc. | Method, device, and non-transitory computer-readable recording medium for supporting relay broadcasting using mobile device |
US10528792B2 (en) * | 2016-06-17 | 2020-01-07 | Canon Kabushiki Kaisha | Display apparatus and display control method for simultaneously displaying a plurality of images |
US10261600B2 (en) * | 2016-08-09 | 2019-04-16 | International Business Machines Corporation | Remotely operating target device |
KR102359391B1 (ko) | 2016-11-08 | 2022-02-04 | 삼성전자주식회사 | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 |
WO2018088794A2 (ko) | 2016-11-08 | 2018-05-17 | 삼성전자 주식회사 | 디바이스가 이미지를 보정하는 방법 및 그 디바이스 |
KR102402096B1 (ko) * | 2017-03-27 | 2022-05-26 | 삼성전자주식회사 | 이미지 내 오브젝트와 관련된 정보를 제공하는 전자 장치 |
KR102390184B1 (ko) * | 2017-04-26 | 2022-04-25 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 영상 표시 방법 |
KR102287043B1 (ko) | 2017-05-22 | 2021-08-06 | 삼성전자주식회사 | 카메라를 이용하여 획득한 이미지를 처리하는 전자 장치 및 그 동작 방법 |
EP3438853A1 (en) * | 2017-08-01 | 2019-02-06 | Samsung Electronics Co., Ltd. | Electronic device and method for providing search result thereof |
WO2019027258A1 (en) * | 2017-08-01 | 2019-02-07 | Samsung Electronics Co., Ltd. | ELECTRONIC DEVICE AND METHOD FOR CONTROLLING THE ELECTRONIC DEVICE |
US10685233B2 (en) * | 2017-10-24 | 2020-06-16 | Google Llc | Sensor based semantic object generation |
KR102044241B1 (ko) * | 2017-12-28 | 2019-11-13 | 주식회사 하이퍼커넥트 | 영상 통화 서비스를 제공하는 단말 |
JP2019121836A (ja) * | 2017-12-28 | 2019-07-22 | シャープ株式会社 | 映像処理装置 |
JP6760318B2 (ja) * | 2018-03-14 | 2020-09-23 | オムロン株式会社 | 顔画像識別システム、識別器生成装置、識別装置、画像識別システム、及び識別システム |
SE1850669A1 (en) * | 2018-06-01 | 2019-12-02 | Izettle Merchant Services Ab | Collaboration server and method |
KR102609734B1 (ko) * | 2018-07-20 | 2023-12-05 | 삼성전자 주식회사 | 전자 장치 및 이미지의 전송 상태에 기반하여 이미지를 보정하는 방법 |
KR102647656B1 (ko) * | 2018-09-04 | 2024-03-15 | 삼성전자주식회사 | 증강 현실 영상에 부가 객체를 표시하는 전자 장치 및 상기 전자 장치의 구동 방법 |
CN109949422B (zh) * | 2018-10-15 | 2020-12-15 | 华为技术有限公司 | 用于虚拟场景的数据处理方法以及设备 |
US10679420B2 (en) * | 2018-11-02 | 2020-06-09 | General Motors Llc | Augmented reality (AR) remote vehicle assistance |
EP3670283A1 (en) * | 2018-12-17 | 2020-06-24 | Ningbo Geely Automobile Research & Development Co. Ltd. | Follow that car |
US10904598B2 (en) * | 2019-01-31 | 2021-01-26 | Lisa Li | Apparatuses, systems and methods for sharing content |
US10741020B1 (en) * | 2019-02-21 | 2020-08-11 | Igt | System and method for utilizing a mobile device to log a user into a gaming establishment system |
-
2019
- 2019-04-08 KR KR1020190040697A patent/KR102608127B1/ko active IP Right Grant
-
2020
- 2020-04-06 WO PCT/KR2020/004631 patent/WO2020209560A1/en active Application Filing
- 2020-04-07 US US16/841,741 patent/US11380096B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8081227B1 (en) * | 2006-11-30 | 2011-12-20 | Adobe Systems Incorporated | Image quality visual indicator |
US20150161755A1 (en) * | 2013-12-11 | 2015-06-11 | Samsung Electronics Co., Ltd. | Method, terminal and system for image processing |
US20150199121A1 (en) * | 2014-01-15 | 2015-07-16 | Samsung Electronics Co., Ltd. | Medical image providing apparatus and medical image processing method of the same |
US20180101971A1 (en) * | 2016-10-06 | 2018-04-12 | International Business Machines Corporation | Rebuilding images based on historical image data |
Also Published As
Publication number | Publication date |
---|---|
US20200320298A1 (en) | 2020-10-08 |
US11380096B2 (en) | 2022-07-05 |
KR102608127B1 (ko) | 2023-12-01 |
WO2020209560A1 (en) | 2020-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11290641B2 (en) | Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme | |
KR102383134B1 (ko) | 우선 순위에 기반하여 이미지를 처리하는 전자 장치 및 그 동작 방법 | |
CN109413399B (zh) | 使用深度图合成对象的装置及其方法 | |
US11144197B2 (en) | Electronic device performing function according to gesture input and operation method thereof | |
KR102397924B1 (ko) | 이미지 보정 방식 및 이미지의 특징 정보에 기반하여 이미지를 보정하는 전자 장치 및 방법 | |
US11626447B2 (en) | Electronic device comprising image sensor for identifying an operation setting and an external environmental condition and method of operation thereof | |
KR102330264B1 (ko) | 움직임 정보에 기반하여 동영상을 재생하기 위한 장치 및 그의 동작 방법 | |
KR102609734B1 (ko) | 전자 장치 및 이미지의 전송 상태에 기반하여 이미지를 보정하는 방법 | |
KR102418852B1 (ko) | 이미지 표시를 제어하는 전자 장치 및 방법 | |
US11308593B2 (en) | Electronic device for generating composite image and method thereof | |
EP3926942A1 (en) | Method for processing photographed image and electronic device therefor | |
US11354777B2 (en) | Image processing device and method of electronic device | |
US10970587B2 (en) | Electronic device for notifying of update of image signal processing and method for operating the same | |
US11425300B2 (en) | Electronic device and method for processing image by electronic device | |
US20230156349A1 (en) | Method for generating image and electronic device therefor | |
KR20190114242A (ko) | 이미지에 포함된 반사 객체의 속성에 기반하여, 반사 객체에 다른 이미지를 합성하는 방법 및 전자 장치 | |
KR102608127B1 (ko) | 이미지 프로세싱을 수행하는 전자 장치 및 방법 | |
KR20210144151A (ko) | Awb를 수행하여 이미지를 생성하는 전자 장치 및 방법 | |
KR20210151613A (ko) | 이미지 처리 장치 및 이미지 처리 방법 | |
KR20200114275A (ko) | 전자 장치 및 이미지에 포함된 개인 정보의 보안 방법 | |
US11477443B2 (en) | Electronic device for performing image compression and operating method of electronic device | |
KR20210016984A (ko) | 얼굴이 포함된 영상의 노출 값을 조절하는 전자 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |