KR20120051209A - 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치 - Google Patents

멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치 Download PDF

Info

Publication number
KR20120051209A
KR20120051209A KR1020100112529A KR20100112529A KR20120051209A KR 20120051209 A KR20120051209 A KR 20120051209A KR 1020100112529 A KR1020100112529 A KR 1020100112529A KR 20100112529 A KR20100112529 A KR 20100112529A KR 20120051209 A KR20120051209 A KR 20120051209A
Authority
KR
South Korea
Prior art keywords
distance
user
display screen
multimedia
multimedia device
Prior art date
Application number
KR1020100112529A
Other languages
English (en)
Other versions
KR101731346B1 (ko
Inventor
강민구
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020100112529A priority Critical patent/KR101731346B1/ko
Priority to US13/071,071 priority patent/US20120124525A1/en
Priority to CN201110087388XA priority patent/CN102467234A/zh
Priority to EP11003138.2A priority patent/EP2453342A3/en
Publication of KR20120051209A publication Critical patent/KR20120051209A/ko
Application granted granted Critical
Publication of KR101731346B1 publication Critical patent/KR101731346B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G06F3/0325—Detection arrangements using opto-electronic means using a plurality of light emitters or reflectors or a plurality of detectors forming a reference frame from which to derive the orientation of the object, e.g. by triangulation or on the basis of reference deformation in the picked up image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445—Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04806—Zoom, i.e. interaction techniques or interactors for controlling the zooming operation
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00—Control of display operating conditions
    • G09G2320/02—Improving the quality of display appearance
    • G09G2320/0261—Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00—Aspects of display data processing
    • G09G2340/04—Changes in size, position or resolution of an image
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00—Aspects of interface with display user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • User Interface Of Digital Computer (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은, 멀티미디어 장치에서 측정되는 사용자 위치에 따라, 멀티미디어 장치에서 디스플레이되는 디스플레이화면을 조정하여, 상기 사용자 거리에 따라 적합한 디스플레이화면을 제공할 수 있는 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치에 관한 것으로, 사용자의 거리정보를 획득하고, 상기 거리정보를 트래킹(tracking)하여 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소되는 것으로 인식되면, 디스플레이화면을 확대하거나 텍스트의 크기를 축소하고, 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 증가하는 것으로 인식되면, 디스플레이화면을 축소하거나 텍스트의 크기를 확대함으로써 사용자가 거리에 따라 적합한 디스플레이화면을 제공받을 수 있도록하는 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치에 관한 것이다.

Description

멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치{Method for providing display image in multimedia device and thereof}
본 발명은 멀티미디어 장치 및 그 동작 방법에 관한 것이며, 더욱 상세하게는 사용자의 이용 편의성을 향상시킬 수 있는 멀티미디어 장치 및 그 동작 방법에 관한 것이다.
특히 본 발명은 멀티미디어 장치에서 측정되는 사용자 위치에 따라, 멀티미디어 장치에서 디스플레이되는 디스플레이화면을 조정하여, 상기 사용자 거리에 따라 적합한 디스플레이화면을 제공할 수 있는 멀티미디어 장치 및 그 동작 방법에 관한 것이다.
멀티미디어 장치는 예를 들어, 사용자가 시청할 수 있는 방송영상을 수신하여 처리하는 기능을 갖춘 장치이다. 멀티미디어 장치는 예를 들어, 방송국에서 송출되는 방송신호 중 사용자가 선택한 방송을 디스플레이에 표시한다. 현재 방송은 전 세계적으로 아날로그 방송에서 디지털 방송으로 전환하고 있는 추세이다.
디지털 방송은 디지털 영상 및 음성 신호를 송출하는 방송을 의미한다. 디지털 방송은 아날로그 방송에 비해, 외부 잡음에 강해 데이터 손실이 작으며, 에러 정정에 유리하며, 해상도가 높고, 선명한 화면을 제공한다. 또한, 디지털 방송은 아날로그 방송과 달리 양방향 서비스가 가능하다.
또한, 기존의 아날로그 방송을 벗어나, 디지털 기반의 디지털 방송 기술이 개발되고 상용화됨에 따라, 기존의 전파나 유선 케이블 매체 외에도 각 가정에 연결되어 있는 인터넷 네트워크를 이용하여 실시간 방송, CoD(Contents on Demand), 게임 또는 뉴스 등 다양한 종류의 컨텐츠 서비스를 사용자에게 제공할 수 있게 되었다. 그리고 디지털 방송을 수신하는 멀티미디어 장치는 전술한 각종 컨텐츠 서비스를 제공받아 디스플레이할 수 있게 되었다.
따라서 디지털 방송을 수신하는 멀티미디어 장치는 단순히 방송국에서 송출되는 방송신호를 수신하여 출력할 뿐만 아니라, 동영상 데이터, 오디오 데이터, 이미지 데이터, 텍스트 데이터 등 다양한 컨텐츠를 이용할 수 있게 되었다.
종래 기술은, 멀티미디어 장치에서 상기와 같은 다양한 컨텐츠를 이용하는 경우, 사용자가 이용하는 컨텐츠에 따라 적절한 디스플레이화면 조정을 수행하기 불편한 문제점이 있었다.
따라서, 멀티미디어 장치에서 다양한 컨텐츠를 이용하는 경우, 이용하는 컨텐츠에 따른 적합한 디스플레이 화면을 제공하는 방법 및 그 방법을 채용한 멀티미디어 장치의 제공이 절실히 필요하였다.
본 발명의 일 목적은, 사용자의 거리에 따라 적합한 디스플레이 화면을 제공하여 사용자의 이용 편의성을 향상시킬 수 있는 멀티미디어 장치 및 그 동작 방법을 제공함에 있다.
또한, 본 발명의 다른 일 목적은, 사용자의 거리에 따라 다양한 사용자 인터페이스를 제공할 수 있는 멀티미디어 장치 및 그 동작 방법을 제공함에 있다.
상기 목적을 달성하기 위한 본 발명의 실시 예에 따른 멀티미디어 장치의 디스플레이화면 제공 방법은, 사용자의 거리정보를 획득하고, 상기 거리정보를 트래킹(tracking)하는 단계; 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소하는 경우, 상기 디스플레이화면을 확대하는 단계; 및 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 증가하는 경우, 상기 디스플레이화면을 축소하는 단계를 포함한다.
또한, 상기 목적을 달성하기 위한 본 발명의 다른 실시 예에 따른 멀티미디어 장치의 디스플레이화면 제공 방법은, 사용자의 거리정보를 획득하고, 상기 거리정보를 트래킹(tracking)하는 단계; 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소하는 경우, 상기 디스플레이 화면에 포함된 텍스트를 축소하는 단계; 및 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 증가하는 경우, 상기 디스플레이화면에 포함된 텍스트를 확대하는 단계를 포함한다.
본 발명의 실시 예에 따르면, 사용자는 복잡한 조작을 행하지 않더라도, 사용자의 위치를 변경함으로써 디스플레이화면을 적합하게 조정할 수 있으므로, 사용자의 이용 편의성이 증대될 수 있다.
한편, 본 발명의 다른 일실시 예에 따르면, 멀티미디어 장치의 디스플레이화면 의 조정에 따라 메뉴화면의 구성을 달리할 수 있으므로, 사용자의 멀티미디어 장치 조작에 있어서 정확성을 향상시킬 수 있는 효과가 있다.
도 1은 본 발명의 일실시 예에 따른 멀티미디어 장치를 포함한 전체 방송 시스템의 일례를 개략적으로 나타낸 도면이다.
도 2는 도 1에 도시된 멀티미디어 장치의 일례를 상세히 도시한 도면이다.
도 3은 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서를 이용하는 멀티미디어 장치 및 촬영 화면을 동시에 보여 주는 도면이다.
도 4는 본 발명의 일실시예에 의한 복수개의 이종 이미지 센서 및 멀티미디어 장치에서 검출 데이터(detection data) 및 인식 데이터(recognition data) 를 이용하는 과정을 설명하기 위한 도면이다.
도 5은 도 5에 도시된 데이터 베이스에 저장된 face vector 를 예시하여 설명하기 위한 도면이다.
도 6은 본 발명의 일실시예에 따른, 멀티미디어 디바이스와 연결된 복수개의 이종 이미지 센서의 동작을, 하드웨어 영역 및 소프트웨어 영역으로 나누어 설명하기 위한 도면이다.
도 7은 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 및 멀티미디어 장치를 각각 도시한 도면이다.
도 8은 본 발명의 다른 일실시예에 의한 복수 개의 이종 이미지 센서 및 멀티미디어 장치를 각각 도시한 도면이다.
도 9는 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서를 보다 상세히 도시한 도면이다.
도 10은 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 중 제1 이미지 센서의 일예를 도시한 도면이다.
도 11은 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 중 제1 이미지센서의 다른 일예를 도시한 도면이다.
도 12는 도 11에 도시된 제1 이미지 센서를 이용하여 거리를 계산하는 방법을 설명하기 위한 도면이다
도 13은 도 1 및 도 2에 도시된 멀티미디어 장치의 일례를 더욱 상세히 도시한 도면이다.
도 14는 본 발명의 일 실시 예에 따른 사용자 및 멀티미디어 장치를 도시한 도면이다.
도 15는 본 발명의 일 실시 예에 따른 사용자 신체 각 부분의 좌표를 인식하는 깊이이미지 센서의 영상을 도시한 도면이다.
도 16은 본 발명의 일 실시 예에 따른 디스플레이화면을 조정하는 과정을 도시한 순서도이다.
도 17은 본 발명의 일 실시 예에 따른 디스플레이화면을 조정하는 사용자 제스쳐를 도시한 도면이다.
도 18은 본 발명의 일 실시 예에 따른 디스플레이화면을 조정하는 사용자 위치를 도시한 도면이다.
도 19는 본 발명의 일 실시예에 따른 사용자 거리에 따라 조정되는 디스플레이화면을 도시한 도면이다.
도 20은 본 발명의 다른 일 실시예에 따른 사용자 거리에 따라 조정되는 디스플레이화면을 도시한 도면이다.
도 21은 본 발명의 다른 일 실시예에 따른 사용자 거리에 따라 조정되는 디스플레이화면을 도시한 도면이다.
도 22는 본 발명의 일 실시예에 따른, 멀티미디어 장치와 사용자의 위치를 나타낸 도면이다.
도 23은 본 발명의 일 실시예에 따른, 멀티미디어 장치의 메뉴화면이 변경되는 디스플레이화면을 도시한 도면이다.
도 24는 본 발명의 일 실시예에 따른, 멀티미디어 장치의 볼륨이 변경되는 디스플레이화면을 도시한 도면이다.
도 25는 본 발명의 일 실시예에 따른, 사용자 거리에 따라 조정되는 디스플레이화면을 도시한 도면이다.
이하에서는 첨부된 도면을 참조하여 본 발명의 여러가지 실시예들을 보다 상세히 설명하도록 하겠다. 나아가, 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함을 고려하여 부여되는 것으로서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수 있으며, 하드웨어 또는 소프트웨어로 설계 가능하다.
한편, 본 명세서에서 기술되는 멀티미디어 장치는, 예컨대 방송 데이터를 수신하여 처리하는 여러가지 타입의 디바이스들에 해당한다. 나아가 상기 멀티미디어 장치는 Connected TV에 대응할 수도 있으며, 상기 Connected TV는 방송 수신 기능 뿐만 아니라 유무선 통신 장치 등이 추가되어, 수기 방식의 입력 장치, 터치 스크린 또는 모션(motion) 인식 리모콘 등 보다 사용에 편리한 인터페이스를 가질 수 있다. 그리고, 유선 또는 무선 인터넷 기능의 지원으로 인터넷 및 컴퓨터에 접속되어, 이메일, 웹브라우징, 뱅킹 또는 게임 등의 기능도 수행가능하다. 이러한 다양한 기능을 위해 표준화된 범용 OS가 사용될 수도 있다.
따라서, 상기 Connected TV는, 예를 들어 범용의 OS 커널 상에, 다양한 애플리케이션이 자유롭게 추가되거나 삭제 가능하므로, 사용자 친화적인 다양한 기능이 수행될 수 있다. 상기 Connected TV는, 보다 구체적으로 예를 들면, 웹 TV, 인터넷 TV, HBBTV, 스마트 TV, DTV 등이 될 수 있으며, 경우에 따라 스마트폰에도 적용 가능하다.
나아가, 이하 첨부 도면들 및 첨부 도면들에 기재된 내용들을 참조하여 본 발명의 실시예를 상세하게 설명하지만, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다.
본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당분야에 종사하는 기술자의 의도 또는 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는, 단순한 용어의 명칭이 아닌 그 용어가 가지는 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 함을 밝혀두고자 한다.
도 1은 본 발명의 일실시예에 따른 멀티미디어 장치를 포함한 전체 방송 시스템의 일예를 개략적으로 나타낸 도면이다. 도 1의 멀티미디어 장치는 예컨대 Connected TV에 대응할 수도 있으나, 본 발명의 권리범위가 Connected TV 만으로 한정되는 것은 아니며 본 발명의 권리범위는 원칙적으로 특허청구범위에 의해 정해져야 한다.
도 1에 도시된 바와 같이, 본 발명의 일실시예에 따른 멀티미디어 장치를 포함한 전체 시스템은, 컨텐츠 제공자(Content Provider;CP)(10), 서비스 제공자(Service Provider;SP)(20), 네트워크 제공자(Network Provider; NP)(30) 및 HNED(40)로 구분될 수 있다. 상기 HNED(40) 는, 예를 들어 본 발명의 실시예에 따른 멀티미디어 장치인 클라이언트(100)에 대응한다.
컨텐츠 제공자(10)는, 각종 컨텐츠를 제작하여 제공한다. 컨텐츠 제공자(10)에는 도 1에서와 같이 지상파 방송 송출자(terrestrial broadcaster), 케이블 방송 사업자(cable SO(System Operator) 또는 MSO(Multiple System Operator), 위성 방송 송출자(satellite broadcaster), 인터넷 방송 송출자(Internet broadcaster) 등이 예시될 수 있다. 또한, 컨텐츠 제공자(10)는, 방송 컨텐츠 외에, 다양한 애플리케이션 등을 제공할 수도 있다.
서비스 제공자(20)는, 컨텐츠 제공자(10)가 제공하는 컨텐츠들을 서비스 패키지화하여 제공할 수 있다. 예를 들어, 도 1의 서비스 제공자(20)는, 제1 지상파 방송, 제2 지상파 방송, 케이블 MSO, 위성 방송, 다양한 인터넷 방송, 애플리케이션 등을 패키지화하여 사용자에게 제공할 수 있다.
네트워크 제공자(30)는, 서비스를 클라이언트(100)에게 제공하기 위한 네트워크 망을 제공할 수 있다. 클라이언트(100)는 홈 네트워크(Home Network End User;HNED)를 구축하여 서비스를 제공받을 수도 있다.
한편, 클라이언트(100)도 네트워크를 통해, 컨텐츠를 제공하는 것이 가능하다. 이러한 경우, 상술한 바와 달리, 역으로, 클라이언트(100)가 컨텐츠 제공자가 될 수 있으며, 컨텐츠 제공자(10)가 클라이언트(100)로부터 컨텐츠를 수신할 수도 있다. 이와 같이 설계된 경우, 양방향 컨텐츠 서비스 또는 데이터 서비스가 가능한 장점이 있다.
도 2는 도 1에 도시된 멀티미디어 장치의 일예를 보다 상세히 도시한 도면이다.
본 발명의 일실시예에 의한 멀티미디어 장치(200)는, 네트워크 인터페이스부(Network Interface)(201), TCP/IP 매니저(TCP/IP Manager)(202), 서비스 전달 매니저(Service Delivery Manager)(203), 디멀티플렉서(Demux)(205), PSI&(PSIP and/or SI) 디코더(204), 오디오 디코더(Audio Decoder)(206), 비디오 디코더(Video Decoder)(207), 디스플레이부(Display A/V and OSD Module)(208), 서비스 제어 매니저(Service Control Manager)(209), 서비스 디스커버리 매니저(Service Discovery Manager)(210), 메타데이터 매니저(Metadata Manager)(212), SI&Metadata DB(211), UI 매니저(214), 그리고 서비스 매니저(213) 등을 포함하여 이루어 진다. 나아가, 복수개의 이종 이미지 센서(260)가 상기 멀티미디어 장치(200)와 연결되어 있으며, 예를 들어 USB 방식의 커넥션으로 연결되어 있다. 또한, 도 2에서는 상기 복수개의 이종 이미지 센서(260)가 별도의 모듈로 구성되도록 설계하였으나, 상기 복수개의 이종 이미지 센서(260)가 상기 멀티미디어 장치(200)에 하우징(housing) 된 형태로 설계할 수도 있다.
네트워크 인터페이스부(201)는 네트워크 망으로부터 수신되는 패킷(packet)들을 수신하고, 네트워크 망으로 패킷을 전송한다. 즉 네트워크 인터페이스부(201)는 네트워크 망을 통해 서비스 제공자로부터 서비스, 컨텐츠 등을 수신한다.
TCP/IP 매니저(202)는, 멀티미디어 장치(200)로 수신되는 패킷과 멀티미디어 장치(200)가 전송하는 패킷에 대하여, 즉 소스로부터 목적지까지의 패킷 전달에 관여한다. 서비스 전달 매니저(203)는 수신되는 서비스 데이터의 제어를 담당한다. 예를 들어, 실시간 스트리밍(real-time streaming) 데이터를 제어하는 경우 RTP/RTCP를 사용할 수 있다. 상기 실시간 스트리밍 데이터를 RTP를 사용하여 전송하는 경우, 상기 서비스 전달 매니저(203)는 상기 수신된 데이터 패킷을 RTP에 따라 파싱(parsing)하여 디멀티플렉서(205)에 전송하거나 서비스 매니저(213)의 제어에 따라 SI&Metadata DB(711)에 저장한다. 그리고 RTCP를 이용하여 상기 네트워크 수신 정보를 서비스를 제공하는 서버측에 피드백(feedback)한다.
디멀티플렉서(205)는 수신된 패킷을 오디오, 비디오, PSI(Program Specific Information) 데이터 등으로 역다중화하여 각각 오디오/비디오 디코더(206, 207), PSI&(PSIP and/or SI) Decoder(204)에 전송한다.
PSI&(PSIP and/or SI) Decoder(204)는 상기 디멀티플렉서(205)에서 역다중화된 PSI 섹션, PSIP(Program and Service Information Protocol) 섹션 또는 SI(Service Information) 섹션 등을 수신하여 디코딩한다.
또한 상기 PSI&(PSIP and/or SI) Decoder(204)는 상기 수신된 섹션들을 디코딩하여 서비스 정보에 관한 데이터베이스를 만들고, 상기 서비스 정보에 관한 데이터베이스는 SI&Metadata DB(211)에 저장한다.
오디오/비디오 디코더(206/207)는, 상기 디멀티플렉서(205)에서 수신된 비디오 데이터와 오디오 데이터를 디코딩한다.
UI 매니저(214)는 사용자를 위한 GUI(Graphic User Interface)를 OSD(On Screen Display) 등을 이용하여 제공하며, 사용자로부터 키 입력을 받아 상기 입력에 따른 수신기 동작을 수행한다. 예를 들어, 사용자로부터 채널선택에 관한 키 입력을 받으면 상기 키 입력신호를 서비스 매니저(213)에 전송한다.
서비스 매니저(213)는 서비스 전달 매니저(203), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209) 및 메타데이터 매니저(212) 등 서비스와 연관된 매니저를 제어한다.
또한 서비스 매니저(213)는 채널 맵(Channel Map)을 만들고 상기 유저 인터페이스 매니저(214)로부터 수신한 키 입력에 따라 상기 채널 맵을 이용하여 채널을 선택하다. 서비스 디스커버리 매니저(210)는 서비스를 제공하는 서비스 제공자를 선택하는데 필요한 정보를 제공한다. 상기 서비스 매니저(213)로부터 채널선택에 관한 신호를 수신하면, 서비스 디스커버리 매니저(210)는 상기 정보를 이용하여 서비스를 찾는다.
서비스 제어 매니저(209)는 서비스의 선택과 제어를 담당한다. 예를 들어, 사용자가 기존의 방송방식과 같은 Live Broadcasting 서비스를 선택하는 경우 IGMP 또는 RTSP 등을 사용하고, VOD(Video On Demand)와 같은 서비스를 선택하는 경우에는 RTSP를 사용하여 서비스의 선택, 제어를 수행한다. 메타데이터 매니저(212)는 서비스와 연관된 메타데이터를 관리하고 상기 메타데이터를 SI&Metadata DB(211)에 저장한다.
SI&Metadata DB(211)는 PSI&(PSIP and/or SI) Decoder(204)가 디코딩한 서비스 정보, 메타데이터 매니저(212)가 관리하는 메타데이터 및 서비스 디스커버리 매니저(210)가 제공하는 서비스 제공자를 선택하는데 필요한 정보를 저장한다. 또한 SI&Metadata DB(211)는 시스템에 대한 셋업 데이터 등을 저장할 수 있다.
한편, 상기 IG(250)는, IMS 기반의 IPTV 서비스에 접근하기 위해 필요한 기능들을 모아 놓은 게이트웨이 이다.
그리고, 도 2에 도시된 복수개의 이종 이미지 센서(260)는 상기 멀티미디어 장치(200) 주변에 위치한 사람 또는 사물에 대한 단수의 이미지 또는 복수의 이미지들을 촬영하도록 설계된다. 보다 구체적으로 예를 들면, 상기 복수개의 이종 이미지 센서(260)는 단수의 이미지 또는 복수의 이미지들을 연속적으로, 주기적으로, 선택된 시간에, 또는 특정 컨디션에서만 동작하도록 설계된다. 이에 대한 구체적인 설명은 이하에서 설명하도록 하겠다.
도 3은 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서를 이용하는 멀티미디어 장치 및 촬영 화면을 동시에 보여 주는 도면이다. 이하, 도 3을 참조하여, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서를 이용하는 멀티미디어 장치 및 촬영 화면을 동시에 설명하면 다음과 같다.
일반적으로, depth data 처리와 관련된 제1 이미지 센서들은 제한된 해상도(예를 들어, 최대 VGA 급)와 인식 거리(예를 들어, 3.5m) 문제로 인하여, 원거리 안면 인식에 적합하지 않은 면이 존재한다. 또한, color data 처리와 관련된 제2 이미지 센서들은 인식 속도가 느리며 광조건(light condition)에 강인하지 못한 단점을 가지고 있다. 따라서, 이와 같은 각 이미지 센서들의 단점을 보완하기 위하여, 본 발명의 일실시예에 의한 멀티미디어 장치는 제1 이미지 센서와 제2 이미지 센서가 결합된 하이브리드 형태의 이미지 센서 모듈과 연동되도록 설계한다.
전술한 제1 이미지 센서로, 예를 들어 IR 카메라 또는 depth 카메라가 사용된다. 보다 구체적으로 예를 들면, 상기 IR 카메라 또는 depth 카메라로 TOF(Time Of Flight) 방식과 structured light 방식이 논의되고 있다. 상기 TOF 방식은, 적외선을 방사하여 돌아오는 시간차를 이용하여 거리 정보를 계산하고, 상기 structured light 방식은, 특정 패턴으로 적외선을 방사하고 변형되는 패턴을 분석하여 거리를 계산한다. 다만, 제1 이미지 센서의 경우, depth data 인식 및 처리 속도면에서 장점이 있고 어두운 곳에서도 사물, 사람 등을 용이하게 센싱 가능하다. 그러나, 먼거리에서는 해상도가 떨어지는 단점을 가지고 있다.
나아가, 전술한 제2이미지 센서로, 예를 들어 color 카메라 또는 RGB 카메라가 사용된다. 보다 구체적으로 예를 들면, 상기 color 카메라 또는 RGB 카메라로, stereo 카메라 방식과 mono 카메라 방식이 논의되고 있다. 상기 stereo 카메라 방식은, 두개의 카메라를 통해 촬영된 각각의 이미지 시차 비교 정보에 기초하여, 손 또는 얼굴 등을 검출하고 추적한다. 상기 mono 카메라 방식은, 한 개의 카메라를 통해 촬영된 shape, color 정보를 바탕으로 손 또는 얼굴 등을 검출하고 추적한다. 다만, 제2 이미지 센서의 경우, 제1 이미지 센서에 비해 해상도가 개선된 장점이 있으나, 주위 조명에 취약하고, 어두운 곳에서 인식이 어려운 한계가 있다. 특히, 정확한 depth 인식이 어려운 문제점이 존재한다.
이와 같은 종래 문제점들을 해결하기 위하여, 도 3에 도시된 바와 같이, 본 발명의 일실시예에 의한 멀티미디어 장치는 제1 이미지 센서와 제2 이미지 센서를 모두 구비하도록 설계된다. 다만, 상기 이미지 센서들은 상기 멀티미디어 장치에 embedded 형태로 설계될 수도 있고, 또는 별도의 하드웨어 모듈로 설계하는 것도 가능하다. 우선, 도 3의 (b) 영역에 도시된 바와 같이, 제1 이미지 센서는 상기 멀티미디어 장치 주변에 위치한 사용자들을 포함한 영상을 촬영한다. 구체적인 촬영 영상은 도 3의 (1), (2), (3), (4)에 순차적으로 도시되어 있다.
한편, 제1 이미지 센서의 촬영 및 데이터 분석이 완료되면, 도 3의 (a) 영역에 도시된 바와 같이, 제2 이미지 센서는 특정 사용자의 얼굴에 대한 영상을 촬영한다. 구체적인 촬영 영상은 도 3의 (5), (6), (7)에 순차적으로 도시되어 있다.
본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 중 제1 이미지 센서는 상기 멀티미디어 장치의 주변에 위치한 제1영상을 촬영하고 상기 촬영된 제1영상으로부터 depth data 를 추출한다. 이는 도 3의 (1)에 도시된 바와 같이, 거리에 따라 각 사물의 영역이 다른 명암으로 표시되도록 설계 가능하다.
나아가, 상기 제1 이미지 센서는, 상기 추출된 depth data 를 이용하여 적어도 하나의 사용자의 얼굴을 인지 및 인식할 수 있다.. 즉, 기저장된 데이터베이스 등을 이용하여, 도 3의 (2)에 도시된 바와 같이 사용자의 신체 정보(예를 들어, 얼굴, 손, 발, 관절, 기타 등등)를 추출하고, 나아가 도 3의 (3)에 도시된 바와 같이 특정 사용자의 안면에 대한 위치 좌표 및 거리 정보를 획득한다. 보다 구체적으로 설명하면, 상기 사용자의 얼굴에 대한 위치 정보인 x, y, z 값들을 계산하도록 설계되며, 상기 x 는 상기 촬영된 제1영상에서 상기 얼굴의 가로축에 대한 위치, 상기 y는 상기 촬영된 제1영상에서 상기 얼굴의 세로축에 대한 위치, 그리고 상기 z는 상기 사용자의 얼굴과 제1 이미지 센서 사이의 거리를 의미한다.
또한, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 중 color 이미지를 추출하기 위한 제2 이미지 센서는 상기 인지된 사용자의 얼굴에 대한 제2영상을 촬영하며, 이는 도 3의 (5)에 도시되어 있다.
한편, 도 3에 도시된 제1 이미지 센서)와 제2 이미지 센서()를 인접하여 설계할 경우, physical 위치 차이로 인한 에러는 무시할 만한 수준일 수도 있다. 다만, 본 발명의 또 다른 일실시예에 의하면, 전술한 physical 위치 차이에 대한 정보를 이용하여, 제1 이미지 센서에서 획득한 좌표정보나 거리정보를 보정하고, 제2 이미지 센서가 상기 보정된 좌표정보나 거리정보를 이용하여 사용자를 촬영할 수 있도록 설계된다. 또한, 상기 제1 이미지 센서와 상기 제2 이미지 센서가 지면으로부터 수평한 상태로 설계되어 있다면, 전술한 phisycal 위치 차이에 대한 정보는 수평 프레임을 기준으로 설정될 수가 있다.상기 제2 이미지 센서는, 도 3의 (7)에 도시된 바와 같이 상기 촬영된 제2영상으로부터 특징 정보를 추출한다. 상기 특징 정보는, 예컨대 상기 멀티미디어 장치를 사용하는 복수의 사용자들을 식별하기 위한 특정 부위(예를 들어, 입, 코, 눈 등)에 대응하는 데이터 이다. 나아가, 상기 제2 이미지 센서는, 상기 제1 이미지 센서의 촬영을 통해 얻어진 좌표값(상기 x, y, z 값들)에 기초하여, 상기 사용자의 얼굴에 대한 영역을 줌인할 수도 있다. 이는, 도 3의 (5)에서 (6)으로 전환되는 과정을 의미한다.
상기 제1 이미지 센서 및 상기 제2 이미지 센서의 촬영 및 분석이 완료된 경우, 본 발명의 일실시예에 의한 멀티미디어 장치는, 상기 추출된 특징 정보에 대응하는 데이터를 저장하고 있는 메모리에 액세스 하고, 상기 메모리에 저장된 특정 사용자를 식별하는 정보를 추출한다.
만약, 상기 특정 사용자를 식별하는 정보가 상기 메모리에 존재하는 경우, 상기 멀티미디어 장치는 상기 특정 사용자를 위하여 기설정된 서비스를 제공한다.
반면, 상기 특정 사용자를 식별하는 정보가 상기 메모리에 존재하지 않는 경우, 상기 멀티미디어 장치는 상기 인식된 사용자를 상기 메모리에 저장하기 위한 가이드 메시지를 디스플레이 하도록 설계된다.
전술하여 설명한 바와 같이, 본 발명의 일실시예에 의하면, 제1 이미지 센서가 사용자 위치 정보나 얼굴의 좌표 정보를 디텍트 하고, 제2 이미지 센서는 제1 이미지 센서에서 획득된 데이터를 이용하여 얼굴을 인식하도록 설계된다.
나아가, 본 발명의 다른 일실시예에 의하면, 무조건적으로 제2 이미지 센서를 이용하는 것이 아니라 특정 컨디션에서만 제2 이미지 센서가 동작하도록 설계된다. 예를 들어, 상기 제1 이미지 센서의 동작으로 획득한 사용자와의 거리 정보가 제1기준값 이하인 경우 또는 상기 제1 이미지 센서의 동작으로 획득한 사용자의 얼굴에 대한 인식율이 제2기준값 이상인 경우에는, 상기 제1 이미지 센서만으로 멀티미디어 장치 주변에 위치한 사용자 얼굴을 디텍트(detect) 하고 인식(recoginization)한다. 반면, 상기 제1 이미지 센서의 동작으로 획득한 사용자와의 거리 정보가 제1기준값 초과하는 경우 또는 상기 제1 이미지 센서의 동작으로 획득한 사용자의 얼굴에 대한 인식율이 제2기준값 미만인 경우에는, 상기 제2 이미지 센서를 추가적으로 이용하여 사용자의 얼굴을 인식하도록 설계된다.
그리고, 본 발명의 또 다른 일실시예에 의하면, 상기 제2 이미지 센서가 사용자의 얼굴을 인식하는 과정에서, 상기 제1 이미지 센서를 통해 획득한 거리 정보를 이용하여 줌인을 하고, 상기 제1 이미지 센서를 통해 획득한 얼굴 좌표 정보를 이용하여 얼굴 부분만을 촬영하도록 설계된다.
따라서, 이와 같이 전혀 다른 타입의 복수개의 이종 이미지 센서들을 이용할 경우, 원거리 안면 인식이 가능하고 데이터 처리 속도도 기존 보다 향상되는 본 발명 특유의 효과가 있다.
도 4는 본 발명의 일실시예에 의한 복수개의 이종 이미지 센서 및 멀티미디어 장치에서 검출 데이터(detection data) 및 인식 데이터(recognition data) 를 이용하는 과정을 설명하기 위한 도면이다.
얼굴 검출(face detection)과 얼굴 인식(face recognition)은 다른 프로세스 이다. 상기 얼굴 검출은, 하나의 이미지내 얼굴 영역을 디텍트 하는 프로세스를 포함한다. 반면, 상기 얼굴 인식은, 디텍트된 얼굴이 어떤 특정 사용자에 대응하는지 여부를 인식하는 프로세스이다. 특히, 본 발명의 일실시예에 따라, 제1이미지 센서를 이용하여 얼굴 검출 프로세스를 실행하고, 또한 제2이미지 센서를 이용하여 얼굴 인식 프로세스를 실행하는 과정을 도 4를 참조하여 설명하도록 하겠다.
도 4에 도시된 바와 같이, 본 발명의 일실시예에 의한 멀티미디어 디바이스는 디텍션 모듈(301), 인식 모듈(302), 데이터베이스(303), 제1이미지 센서(304), 제2이미지 센서(305) 등을 포함하며, 필요에 따라 디텍션 데이터(306) 및 인식 데이터(307)를 이용하게 된다. 상기 디텍션 데이터(306)는 예를 들어, 정보 기반(knowledge-based) 검출 기술(detection techniques), 특징 기반(feature-based) 검출 기술(detection techniques), 템플레이트 매칭 기술(template matching techniques), 외관 기반(appearance-based) 검출 기술(detection techniques)에 기초하여 생성될 수도 있다. 또한, 상기 인식 데이터(307)는 예를 들어, 특정 사용자를 식별하기 위한 눈, 코, 입, 턱, 영역, 거리, 모양, 각도 등의 데이터를 포함한다.
나아가, 상기 디텍션 모듈(301)은, 상기 제1이미지 센서(304)로부터 수신된 이미지 데이터를 이용하여사용자 얼굴의 존재를 판단한다. 또한, 사용자의 얼굴이 위치한 영역을 추정하는 과정에서, 전술하여 설명한 정보 기반(knowledge-based) 검출 기술(detection techniques), 특징 기반(feature-based) 검출 기술(detection techniques), 템플레이트 매칭 기술(template matching techniques), 외관 기반(appearance-based) 검출 기술(detection techniques)과 관련된 데이터가 사용된다.
그리고, 상기 인식 모듈(302)은, 상기 제2이미지 센서(305)로부터 수신된 이미지 데이터를 이용하여, 특정 사용자인지 여부를 식별한다. 이 때, 전술하여 설명한 인식 데이터(307)에 기초하여, 상기 수신된 이미지 데이터 및 상기 DB(303)에 저장된 face vector 정보를 비교하게 된다. 이는 도 5를 참조하여 보다 상세히 설명하도록 하겠다.
도 5는 도 4에 도시된 데이터 베이스에 저장된 face vector 를 예시하여 설명하기 위한 도면이다.
도 5에 도시된 바와 같이, 본 발명의 일실시예에 의한 멀티미디어 디바이스를 사용하는 각 유저들에 대한 face vector 들이 저장되어 있다. 상기 face vector 는, 예를 들어 유저들의 얼굴에서 나타나는 특징 정보들에 대한 데이터 집합으로, 특정 유저들 각각을 식별하기 위한 용도로 사용된다.
도 6은 본 발명의 일실시예에 따른, 멀티미디어 디바이스와 연결된 복수개의 이종 이미지 센서의 동작을, 하드웨어 영역 및 소프트웨어 영역으로 나누어 설명하기 위한 도면이다.
도 6에 도시된 바와 같이, 멀티미디어 디바이스가 복수개의 이종 이미지 센서를 통해 영상을 입력 받아 동작을 수행하는 구성은, 이미지 센서의 하드웨어 영역(360) 및 이미지 센서로부터 수신된 데이터를 처리하는 멀티미디어 디바이스의 소프트웨어 영역(350)으로 나누어 설명하도록 하겠다.
도 6에서는, 상기 하드웨어 영역(360)을 별도의 모듈로 도시하였으나, 상기 소프트웨어 영역(350)을 처리하는 멀티미디어 디바이스에 임베디드된 일체형으로 구성할 수도 있다.
먼저, 하드웨어 영역은, 데이터 수집 영역(340) 및 펌웨어 영역(330)을 포함할 수 있다.
상기 데이터 수집 영역(340)은, 이미지 센서를 통하여 멀티미디어 디바이스에서 인식되기 위한 원본 데이터를 입력 받는 영역으로, 적외선 광원(IR light projector), 깊이 이미지센서(depth image sensor), 컬러 이미지 센서(RGB image sensor), 마이크로폰, 및 카메라칩을 포함하여 구성될 수 있다.
또한, 펌웨어 영역(330)은, 하드웨어 영역에 존재하여 동작함으로써, 하드웨어 영역과 소프트웨어 영역의 연결을 구성하는 영역이다. 또한, 특정한 애플리케이션이 필요로 하는 호스트 애플리케이션으로 구성될 수 있고, 다운 샘플링(downsampling) 및 미러링(mirroring)동작 등을 수행할 수 있다.
따라서, 데이터 수집 영역(340) 및 펌웨어 영역(330)은 상호 연동하여 동작하며, 이를 통하여 하드웨어 영역(360)을 컨트롤 할 수 있으다. 또한, 상기 펌웨어 영역은 카메라칩에서 구동될 수 있다.
또한, 소프트웨어 영역(350)은, API(application programming interface)영역(320) 및 미들웨어(middleware) 영역(310)을 포함할 수 있다.
API영역(320)은, 멀티미디어 디바이스의 제어부에서 실행될 수 있다. 또한, 카메라부가 멀티미디어 디바이스와 별도의 외부기기로써 구성되는 경우, 상기 API 영역은, 퍼스널 컴퓨터, 게임콘솔, 및 셋탑박스 등에서 실행될 수 있다.
또한, API영역(320)은 상기 멀티미디어 디바이스가 하드웨어 영역의 센서를 구동시킬 수 있도록 하는 간단한 API일 수 있다.
미들웨어 영역(310)은, 인식 알고리즘 영역으로써, 깊이 프로세싱(depth processiong) 미들웨어를 포함할 수 있다. 또한, 상기 미들웨어는, 사용자가 손을 통하여 제스쳐를 입력하는 경우, 또는 신체 전 영역을 통하여 제스쳐를 입력하는 경우에도 명확한 사용자 컨트롤 API와 함께 애플리케이션을 제공할 수 있다. 또한, 상기 미들웨어 영역은 사용자의 손의 위치 검색하는 동작, 사용자의 위치 추적하는 동작, 사용자 골격의 특징을 추출하는 동작 및, 입력된 영상에서 사용자와 배경을 분리하여 인식하는 동작 등을 수행하기 위한 알고리즘을 포함할 수 있다. 또한, 상기 알고리즘은 하드웨어 영역에서 획득된 깊이(depth) 정보, 색상 정보, 적외선 정보, 및 음성 정보를 활용하여 동작될 수 있다.
도 7은 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 및 멀티미디어 장치를 각각 도시한 도면이다. 이하, 도 7을 참조하여, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 및 멀티미디어 장치를 각각 설명하면 다음과 같다. 다만, 도 7에서는 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서와 멀티미디어 장치를 별개로 도시하였으나, 상기 멀티플 카메라가 상기 멀티미디어 장치에 임베디드(embedded)된 형태로 설계하는 것도 가능하다.
도 7에 도시된 바와 같이 본 발명의 일실시예에 의한 멀티미디어 장치(400)는 CPU(Central Processing Unit)(401) 및 GPU(Graphic Processing Unit)(404)의 모듈로 설계되며, 상기 CPU(401)는 어플리케이션(402) 및 얼굴인식처리 모듈(403)을 포함하고 있다. 한편, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서(420)는 ASIC(Application Specific Intergrated Circuit)(421), 이미터(422), 제1 이미지 센서(423), 그리고 제2 이미지 센서(424)의 모듈로 설계된다. 그리고, 멀티미디어 장치(400) 및 복수 개의 이종 이미지 센서(420)는 유선 또는 무선의 인터페이스(410)로 연결되어 있으며, 예를 들어 USB (Universal Serial Bus) 인터페이스를 사용할 수도 있다. 다만, 도 7의 모듈들은 일실시예에 불과하며, 본 발명의 권리범위는 원칙적으로 특허청구범위에 의해 정해져야 한다.
상기 이미터(422)는, 상기 멀티미디어 장치(400) 주변에 위치한 적어도 하나 이상의 사용자에게 빛을 발산한다. 나아가, 상기 제1 이미지 센서(423)는, 상기 발산된 빛을 이용하여 제1영상을 촬영하고, 상기 촬영된 제1영상으로부터 depth data 를 추출하고, 상기 추출된 depth data 를 이용하여 상기 적어도 하나 이상의 사용자의 얼굴을 디텍트한다. 또한, 상기 제2 이미지 센서(424)는, 상기 디텍트된 사용자의 얼굴에 대한 제2영상을 촬영하고, 상기 촬영된 제2영상으로부터 특징 정보를 추출한다.
그리고, 상기 추출된 특징 정보는, 상기 인터페이스(410)를 통해 상기 멀티미디어 장치의 얼굴인식처리 모듈(403)로 전송된다. 도 7에 도시하지는 않았지만, 상기 얼굴인식처리 모듈(403)은 예컨대, 수신부, 메모리, 추출부, 제어부 등을 포함하도록 설계된다.
상기 얼굴인식처리 모듈(403)의 수신부는 상기 복수 개의 이종 이미지 센서(420) 및 인터페이스(410)를 통해 전송된 특징 정보를 수신한다. 나아가, 상기 얼굴인식처리 모듈(403)의 메모리는 적어도 하나 이상의 사용자에 대한 특징 정보 및 대응하는 ID를 저장하고 있다.
따라서, 상기 얼굴인식처리 모듈(403)의 추출부는, 상기 수신된 특징 정보에 대응하는 ID 를 상기 메모리로부터 추출하고, 상기 얼굴인식처리 모듈(403)의 제어부는 상기 ID에 해당하는 기설정된 기능들을 자동으로 수행하도록 설계된다.
한편, 얼굴인식처리 모듈을 도 7에 도시된 바와 같이, 멀티미디어 장치의 CPU에서 수행하도록 설계하는 경우, 카메라 설계 비용을 낮추고 다양한 얼굴인식 및 기능 추가 등의 확장성 면에서 유리한 효과가 있다.
도 8은 본 발명의 다른 일실시예에 의한 복수 개의 이종 이미지 센서 및 멀티미디어 장치를 각각 도시한 도면이다. 이하, 도 8을 참조하여, 본 발명의 다른 일실시예에 의한 복수 개의 이종 이미지 센서 및 멀티미디어 장치를 각각 설명하면 다음과 같다. 다만, 도 8에서는 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서와 멀티미디어 장치를 별개로 도시하였으나, 상기 멀티플 카메라를 상기 멀티미디어 장치에 임베디드(embedded)된 형태로 설계하는 것도 가능하다.
도 8에 도시된 바와 같이 본 발명의 일실시예에 의한 멀티미디어 장치(500)는 CPU(Central Processing Unit)(501) 및 GPU(Graphic Processing Unit)(503)의 모듈로 설계되며, 상기 CPU(501)는 어플리케이션(502)을 포함하고 있다. 한편, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서(520)는 얼굴인식처리 모듈(521), ASIC(Application Specific Intergrated Circuit)(522), 이미터(523), 제1 이미지 센서(524), 그리고 제2 이미지 센서(525)의 모듈로 설계된다. 그리고, 멀티미디어 장치(500) 및 복수 개의 이종 이미지 센서(520)는 유선 또는 무선의 인터페이스(510)로 연결되어 있으며, 예를 들어 USB (Universal Serial Bus) 인터페이스를 사용할 수도 있다. 다만, 도 8의 모듈들은 일실시예에 불과하며, 본 발명의 권리범위는 원칙적으로 특허청구범위에 의해 정해져야 한다.
도 8은 도 7과 비교하여, 얼굴인식처리 모듈(521)이 복수 개의 이종 이미지 센서(520)에 탑재된다는 점에서 차이가 있으며, 나머지 동일한 설명은 생략하도록 하겠다.
한편, 얼굴인식처리 모듈을 도 8에 도시된 바와 같이, 복수 개의 이종 이미지 센서(520)단에서 수행하도록 설계하는 경우, 독립된 플랫폼을 통하여 보다 다양한 형태의 카메라를 설계하는 것이 가능하다.
도 9는 본 발명의 일 실시예에 의한 복수 개의 이종 이미지 센서를 보다 상세히 도시한 도면이다. 이하, 도 9를 참조하여, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서를 보다 상세히 설명하면 다음과 같다.
도 9에 도시된 바와 같이, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서는, 제1 이미지 센서 그룹(610)과 제2 이미지 센서(620), 컨트롤러(630), 메모리(640), 인터페이스(650) 등을 포함하며, 상기 컨트롤러(630)의 제어에 따라 마이크로폰(670) 및 외부 오디오 소스(660)로부터 오디오 데이터를 수신하도록 설계된다.
실시 예에 따라, 상기 제1 이미지센서는 깊이 이미지 센서(depth image sensor)일 수 있다.
깊이 이미지 센서는, 상기 깊이 이미지 센서를 통하여 촬영되는 영상에서 인식되는 픽셀(Pixel)값이 상기 깊이 이미지 센서로부터의 거리인 것을 특징으로 하는 이미지 센서이다.
상기 제1 이미지 센서 그룹(610)은 이미터(emitter)(680) 및 제1 이미지 센서(690)를 포함할 수 있고, 상기 이미터는 예를 들어, IR(Infra-Red) 이미터로 설계 가능하다.
상기 제1 이미지 센서 그룹(610)을 통하여 이미지를 획득하기 위해서, 이미터(emitter)(680)에서 적외선을 방출하고, 상기 방출된 적외선과 피사체로부터 반사되어 돌아오는 적외선과의 위상차로부터 피사체와 깊이이미지 센서 사이의 거리 정보를 획득하는 방식(TOF; Time Of Flight)과, 이미터(emitter)(680)에서 적외선 패턴(수많은 적외선 점)을 방출하고, 그 패턴들이 물체에 반사된 것을 필터가 구비된 이미지센서(690)로 촬영하여 상기 패턴들이 왜곡되는 패턴에 기초하여 피사체와 깊이이미지 센서 사이의 거리 정보를 획득하는 방식(Structured Light)이 존재한다.
즉, 멀티미디어 장치는, 상기 깊이이미지 센서를 통하여, 피사체의 거리정보를 파악할 수 있다. 특히, 상기 피사체가 사람인 경우에는, 골격 정보 및 신체 각 부분의 좌표정보를 획득하고, 상기 신체 각 부분 이동을 검색하여, 상기 신체의 구체적인 동작에 대한 정보를 획득할 수 있다.
나아가, 상기 컨트롤러(630)의 제어에 따라, 상기 이미터(680)의 라이트 프로젝터(682)는 렌즈(681)를 투사하여, 멀티미디어 장치 주변에 위치한 적어도 하나 이상의 사용자에게 빛을 발산한다.
또한, 상기 컨트롤러(630)의 제어에 따라, 상기 제1 이미지 센서(690)는 렌즈(691)을 통해 수신된 빛을 이용하여 제1영상을 촬영하고, 상기 촬영된 제1영상으로부터 depth data를 추출하고, 이를 상기 컨트롤러(630)에 전송한다.
실시 예에 따라, 제2 이미지 센서(620)는 RGB이미지센서(RGB image sensor)일 수 있다.RGB이미지 센서는, 색상 정보를 픽셀(Pixel)값으로 획득하는 이미지 센서이다.
제2 이미지 센서(620)는, R(Red), G(Green), 및 B(Blue) 각 색상에 대한 정보를 획득하는 세 개의 이미지 센서(CMOS)를 포함할 수 있다.
또한, 상기 제2 이미지 센서(620)는 상기 깊이이미지 센서에 비하여, 비교적 고해상도의 이미지를 획득할 수 있다.
상기 제2 이미지 센서(620)는, 상기 컨트롤러(630)의 제어에 따라, 렌즈(621)를 통해 인가되는 상기 피사체에 대한 제2영상을 촬영한다. 나아가, 상기 제2 이미지 센서(620)는, 상기 촬영된 제2영상으로부터 추출된 특징 정보를, 상기 컨트롤러(620)에 전송할 수 있다.
또한, 제1 이미지 센서 그룹(610)과 제2 이미지 센서(620)는, 사용자의 거리정보를 획득한 경우, 상기 사용자의 거리정보를 계속하여 획득함으로써, 사용자의 위치 이동을 트래킹(tracking)할 수 있고, 상기 트래킹된 정보를 통하여 사용자가 어떠한 동작을 하는지 인식할 수 있다.
컨트롤러(630)는, 상기 각 모듈의 동작을 제어한다. 즉, 컨트롤러(630)는 이미지 센싱부를 이용한 촬영시작 신호가 수신되면, 상기 제1 이미지 센서 그룹(610)과 제2 이미지 센서(620)를 통하여 피사체를 촬영하도록 제어하고, 상기 촬영된 영상을 분석하여 메모리(640)에서 설정 정보를 로드하여 상기 제1 이미지 센서 그룹(610)과 제2 이미지 센서(620)를 제어할 수 있다.
또한, 상기 컨트롤러(630)는, 상기 인터페이스(650)를 이용하여, 상기 추출된 특징 정보를, 멀티미디어 장치에 전송하도록 설계된다. 따라서, 이를 수신한 멀티미디어 장치는, 촬영된 영상에 따른 특징 정보를 획득할 수 있다.
메모리(640)는, 상기 제1 이미지 센서 그룹(610)과 제2 이미지 센서(620)의 설정값을 저장할 수 있다. 즉, 사용자로부터 상기 이미지 센싱부를 이용하여 피사체를 촬영하고자 하는 신호가 입력되면, 상기 이미지 센싱부는 상기 이미지 센싱부에서 입력된 영상을 컨트롤러(630)를 통하여 분석하고, 상기 메모리(640)에서 상기 분석 결과에 따라 이미지 센서 설정 값을 로드하여서 상기 상기 제1 이미지 센서 그룹(610)과 제2 이미지 센서(620)의 촬영환경을 설정할 수 있다.
상기 메모리(640)는, 예를 들어, 플래쉬 메모리 등으로 설계할 수도 있고, 상기 인터페이스(650)는 예를 들어 USB 인터페이스로 설계되어 외부 멀티미디어 장치와 연결된다.
상기와 같은 구성을 통하여, 사용자는 멀티미디어 장치에 소정의 영상 및 음성을 입력할 수 있고, 상기 입력된 영상 또는 음성을 통하여 멀티미디어 장치를 제어할 수 있다.
도 10은 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 중 제1 이미지 센서의 일예를 도시한 도면이다. 이하, 도 10을 참조하여, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 중 제1 이미지 센서의 일예를 설명하면 다음과 같다. 도 10에 도시된 IR 소스(710)는 도 6의 이미터(680)에 대응할 수 있고, 도 10에 도시된 depth 이미지 프로세서(720)는 도 9의 제1 이미지 센서(690)에 대응할 수도 있는 바, 도 9 및 도 10의 설명은 보충적으로 적용될 수도 있다. 또한, 도 10에 도시된 카메라는, 예컨대 전술한 structured light 방식을 차용하여 설계하는 것도 가능하다.
도 10에 도시된 바와 같이, 상기 IR 소스(710)는 코드화된 패턴 영상을 타겟 사용자(730)에게 연속적으로 투영하도록 설계된다. 그리고, 상기 depth 이미지 프로세서(720)는 상기 타겟 사용자(730)에 의해 최초 패턴 영상이 왜곡된 정보를 이용하여, 상기 사용자의 위치를 추정한다.
도 11은 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 중 제1 이미지센서의 다른 일예를 도시한 도면이다. 이하, 도 11을 참조하여, 본 발명의 일실시예에 의한 복수 개의 이종 이미지 센서 중 제1 이미지 센서의 다른 일예를 설명하면 다음과 같다. 도 11에 도시된 LED(810)는 도 9의 이미터(680)에 대응할 수 있고, 도 11에 도시된 depth 이미지 프로세서(820)는 도 9의 제1 이미지 센서(690)에 대응할 수도 있는 바, 도 9 및 도 11의 설명은 보충적으로 적용될 수도 있다. 또한, 도 11에 도시된 카메라는, 예컨대 전술한 TOF 방식을 차용하여 설계하는 것도 가능하다.
도 11에 도시된 바와 같이, 상기 LED(810)에 의해 발산된 빛은 타겟 사용자(830)에게 전송된다. 그리고, 상기 타겟 사용자(830)에 의해 반사된 빛(reflected light)은 상기 depth 이미지 프로세서(820)에 전송된다. 도 11에 도시된 모듈들은, 도 10과 달리 시간 차이에 대한 정보를 이용하여 상기 타겟 사용자(830)의 위치를 계산한다. 이는 도 12를 참조하여 보다 상세히 설명하도록 하겠다.
도 12는 도 11에 도시된 제1 이미지 센서를 이용하여 거리를 계산하는 방법을 설명하기 위한 도면이다. 이하, 도 12를 참조하여, 도 11에 도시된 제1 이미지 센서를 이용하여 거리를 계산하는 방법을 설명하면 다음과 같다.
도 12의 왼쪽 그래프에 도시된 바와 같이, 발산된 빛(emitted light)과 반사된 빛(reflected light) 사이의 시간 차이를 통해, 도착 시간인 t 값을 얻을 수가 있다.
또한, 도 12의 오른쪽에 수식에 도시된 바와 같이, 상기 LED(810)와 상기 타겟 사용자(830)까지의 거리 및 상기 타겟 사용자(830)와 상기 depth 이미지 프로세서(820)까지의 총거리는, 광속과 상기 t 값의 곱셈으로 계산된다. 따라서, 결과적으로 상기 LED(830) 또는 상기 depth 이미지 프로세서(820)와 상기 타겟 사용자(830)까지의 거리는 1/d 로 추정된다.
도 13은 도 1 및 도 2에 도시된 멀티미디어 장치의 일례를 더욱 상세히 도시한 도면이다.
도 13에 도시된 멀티미디어 장치(100)는 방송 네트워크 및 인터넷 네트워크와 연결될 수 있다. 상기 멀티미디어 장치(100)는 예를 들어, connected TV, 스마트 TV, HBBTV(Hybrid Broad-Band TV), 셋탑 박스, DVD 플레이어, 블루레이 플레이어, 게임기기, 컴퓨터 등을 포함한다.
도 13을 참조하면, 본 발명의 일실시 예에 의한 멀티미디어 장치(100)는, 방송 수신부(105), 외부장치 인터페이스부(135), 저장부(140), 사용자입력 인터페이스부(150), 제어부(170), 디스플레이부(180), 오디오 출력부(185), 및 이미지 센싱부(190)를 포함할 수 있다. 방송 수신부(105)는, 튜너(110), 복조부(120), 및 네트워크 인터페이스부(130)를 포함할 수 있다. 물론, 필요에 따라, 튜너(110)와 복조부(120)를 구비하면서 네트워크 인터페이스부(130)는 포함하지 않도록 설계하는 것도 가능하며, 반대로 네트워크 인터페이스부(130)를 구비하면서 튜너(110)와 복조부(120)는 포함하지 않도록 설계하는 것도 가능하다.
튜너(110)는, 안테나를 통해 수신되는 RF(Radio Frequency) 방송 신호 중 사용자에 의해 선택된 채널 또는 기저장된 모든 채널에 해당하는 RF 방송 신호를 선택한다. 또한, 선택된 RF 방송 신호를 중간 주파수 신호 혹은 베이스 밴드 영상 또는 음성신호로 변환한다.
튜너(110)는, ATSC(Advanced Television System Committee) 방식에 따른 단일 캐리어의 RF 방송 신호 또는 DVB(Digital Video Broadcasting) 방식에 따른 복수 캐리어의 RF 방송 신호를 수신할 수 있다.
복조부(120)는, 복조 및 채널 복호화를 수행한 후 스트림 신호(TS)를 출력할 수 있다. 이때, 스트림 신호는 영상 신호, 음성 신호 또는 데이터 신호가 다중화된 신호일 수 있다. 일례로, 스트림 신호는 MPEG-2 규격의 영상 신호, 돌비(Dolby) AC-3 규격의 음성 신호 등이 다중화된 MPEG-2 TS(Transport Stream)일수 있다.
복조부(120)에서 출력한 스트림 신호는 제어부(170)로 입력될 수 있다. 제어부(170)는 역다중화, 영상/음성 신호 처리 등을 수행한 후, 디스플레이부(180)에 영상을 출력하고, 오디오 출력부(185)로 음성을 출력한다.
외부장치 인터페이스부(135)는 외부 장치와 멀티미디어 장치(100)를 접속할 수 있다.
외부장치 인터페이스부(135)는, DVD(Digital Versatile Disk), 블루레이(Blu ray), 게임기기, 이미지 센서, 캠코더, 컴퓨터(노트북) 등과 같은 외부 장치와 유/무선으로 접속될 수 있다. 외부장치 인터페이스부(135)는 연결된 외부 장치를 통하여 외부에서 입력되는 영상, 음성 또는 데이터 신호를 멀티미디어 장치(100)의 제어부(170)로 전달한다. 또한, 제어부(170)에서 처리된 영상, 음성 또는 데이터 신호를 연결된 외부 장치로 출력할 수 있다. 이를 위해, 외부장치 인터페이스부(135)는, A/V 입출력부(미도시) 또는 무선 통신부(미도시)를 포함할 수 있다.
A/V 입출력부는, 외부 장치의 영상 및 음성 신호를 멀티미디어 장치(100)로 입력할 수 있도록, USB 단자, CVBS(Composite Video Banking Sync) 단자, 컴포넌트 단자, S-비디오 단자(아날로그), DVI(Digital Visual Interface) 단자, HDMI(High Definition Multimedia Interface) 단자, RGB 단자, D-SUB 단자 등을 포함할 수 있다.
무선 통신부는, 다른 전자기기와 근거리 무선 통신을 수행할 수 있다. 멀티미디어 장치(100)는 예를 들어, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA (Digital Living Network Alliance) 등의 통신 규격에 따라 다른 전자기기와 네트워크 연결될 수 있다.
또한, 외부장치 인터페이스부(135)는, 다양한 셋탑 박스와 상술한 각종 단자 중 적어도 하나를 통해 접속되어, 셋탑 박스와 입력/출력 동작을 수행할 수도 있다.
네트워크 인터페이스부(130)는, 멀티미디어 장치(100)를 인터넷망을 포함하는 유/무선 네트워크와 연결하기 위한 인터페이스를 제공한다. 네트워크 인터페이스부(130)는, 유선 네트워크와의 접속을 위해, 예를 들어 이더넷(Ethernet) 단자 등을 구비할 수 있으며, 무선 네트워크와의 접속을 위해, 예를 들어 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 통신 규격 등이 이용될 수 있다.
네트워크 인터페이스부(130)는, 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 다른 사용자 또는 다른 전자 기기와 데이터를 송신 또는 수신할 수 있다.
저장부(140)는, 제어부(170) 내의 각 신호 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 신호 처리된 영상, 음성 또는 데이터신호를 저장할 수도 있다.
또한, 저장부(140)는 외부장치 인터페이스부(135) 또는 네트워크 인터페이스부(130)로부터 입력되는 영상, 음성, 또는 데이터 신호의 임시 저장을 위한 기능을 수행할 수도 있다. 또한, 저장부(140)는, 채널 기억 기능을 통하여 소정 방송 채널에 관한 정보를 저장할 수 있다.
저장부(140)는, 예를 들어 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램, 롬(EEPROM 등) 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 멀티미디어 장치(100)는, 저장부(140) 내에 저장되어 있는 컨텐츠 파일(동영상 파일, 정지영상 파일, 음악 파일, 문서 파일, 애플리케이션 파일 등)을 재생하여 사용자에게 제공할 수 있다.
도 13은 저장부(140)가 제어부(170)와 별도로 구비된 실시 예를 도시하고 있으나, 본 발명의 범위는 이에 한정되지 않는다. 저장부(140)는 제어부(170) 내에 포함될 수도 있다.
사용자 인터페이스부(150)는, 사용자가 입력한 신호를 제어부(170)로 전달하거나, 제어부(170)로부터의 신호를 사용자에게 전달한다.
예를 들어, 사용자 인터페이스부(150)는, RF(Radio Frequency) 통신 방식, 적외선(IR) 통신 방식 등 다양한 통신 방식에 따라, 원격제어장치(200)로부터 전원 온/오프, 채널 선택, 화면 설정 등의 제어 신호를 수신하여 처리하거나, 제어부(170)로부터의 제어 신호를 원격제어장치(200)로 송신하도록 처리할 수 있다.
또한, 예를 들어, 사용자 인터페이스부(150)는, 사용자의 제스처를 센싱하는 센싱부(미도시)로부터 입력되는 제어 신호를 제어부(170)에 전달하거나, 제어부(170)로부터의 신호를 센싱부(미도시)로 송신할 수 있다. 여기서, 센싱부(미도시)는, 터치 센서, 음성 센서, 위치 센서, 동작 센서 등을 포함할 수 있다.
제어부(170)는, 튜너(110) 또는 복조부(120) 또는 외부장치 인터페이스부(135)를 통하여, 입력되는 스트림을 역다중화하거나, 역다중화된 신호들을 처리하여, 영상 또는 음성 출력을 위한 신호를 생성 및 출력할 수 있다.
제어부(170)에서 영상 처리된 영상 신호는 디스플레이부(180)로 입력되어, 해당 영상 신호에 대응하는 영상으로 표시될 수 있다. 또한, 제어부(170)에서 영상 처리된 영상 신호는 외부장치 인터페이스부(135)를 통하여 외부 출력장치로 입력될 수 있다.
제어부(170)에서 처리된 음성 신호는 오디오 출력부(185)로 오디오 출력될 수 있다. 또한, 제어부(170)에서 처리된 음성 신호는 외부장치 인터페이스부(135)를 통하여 외부 출력장치로 입력될 수 있다.
디스플레이부(180)는, 제어부(170)에서 처리된 영상 신호, 데이터 신호, OSD 신호 또는 외부장치 인터페이스부(135)에서 수신되는 영상 신호, 데이터 신호 등을 각각 R, G, B 신호로 변환하여 구동 신호를 생성한다.
한편, 사용자의 제스처를 감지하기 위해, 상술한 바와 같이, 터치 센서, 음성 센서, 위치 센서, 동작 센서 중 적어도 하나를 구비하는 센싱부(미도시)가 멀티미디어 장치(100)에 더 구비될 수 있다. 센싱부(미도시)에서 감지된 신호는 사용자입력 인터페이스부(150)를 통해 제어부(170)로 전달될 수 있다.
한편, 사용자를 촬영하는 이미지 센싱부(미도시)가 더 구비될 수 있다. 이미지 센싱부(190)에서 촬영된 영상 정보는 제어부(170)에 입력될 수 있다.
상기 이미지 센싱부(190)는, 서로 상이한 정보를 획득할 수 있는 복수의 이미지 센서를 포함하여 구성될 수 있으며, 상기 이미지 센싱부의 구성과 동작에 관하여는 상기 도 9에서 상세히 설명하였다.
제어부(170)는, 이미지 센싱부(190)에서 촬영된 영상, 또는 센싱부(미도시)로부터의 감지된 신호를 각각 또는 조합하여 사용자 위치 및 사용자의 제스처를 감지할 수도 있다.
또한, 제어부(170)는, 상기 사용자 위치를 감지하기 위해, 거리측정부(171)를 포함할 수 있고, 상기 거리측정부(171)는, 상기 이미지 센싱부에서 입력된 정보에 기초하여, 멀티미디어 장치와 사용자 간의 거리가 감소 및 증가 되는지 여부를 검색할 수 있다.
또한, 상기 거리측정부(171)는, 상기 이미지 센싱부를 통하여 사용자 신체 각 부분의 좌표정보가 인식되는 경우, 상기 사용자 신체 각 부분의 좌표정보에 기초하여, 사용자가 신체를 전방으로 기울인 것으로 인식되는 경우, 상기 멀티미디어 장치와 상기 사용자와의 거리가 감소하는 것으로 판단하고, 사용자가 신체를 후방으로 기울인 것으로 인식되는 경우, 상기 멀티미디어 장치와 상기 사용자와의 거리가 증가하는 것으로 판단할 수 있다.
또한, 제어부(170)는, 상기 거리측정부(171)를 통하여 상기 거리의 감소 신호가 입력되면, 디스플레이부(180)에 디스플레이되는 디스플레이화면의 배율을 확대하여 디스플레이하고, 상기 거리측정부(171)를 통하여 상기 거리의 증가 신호가 입력되면, 디스플레이부(180)에 디스플레이되는 디스플레이화면의 배율을 축소하여 디스플레이하여, 사용자와 멀티미디어 장치 사이에 거리에 따라 적합한 디스플레이화면을 제공할 수 있다.
또한, 제어부(170)는, 상기 거리측정부(171)를 통하여 상기 거리의 감소 신호가 입력되면, 오디오출력부(185)에 출력되는 오디오 신호의 불륨을 증가시키고, 상기 거리측정부(171)를 통하여 상기 거리의 증가 신호가 입력되면, 오디오출력부(185)에 출력되는 오디오 신호의 볼륨을 감소시켜, 사용자와 멀티미디어 장치 사이에 거리에 따라 적합한 오디오출력을 제공할 수 있다.
또한, 제어부(170)는, 상기 오디오신호에 음성신호가 포함된 경우, 상기 오디오신호에 포함된 음성신호의 볼륨을 상대적으로 더 증가시켜서, 영상통화 등을 이용할 때, 사용자 편의성의 향상을 도모할 수 있다.
또한, 제어부(170)는, 상기 거리측정부를 통하여 상기 거리의 감소신호가 검색되면, 상기 디스플레이부(180)을 통하여 디스플레이되는 디스플레이화면에 포함된 선택 버튼, 또는 아이콘 사이의 간격을 감소시키고, 상기 거리측정부를 통하여 상기 거리의 증가신호가 검색되면, 상기 디스플레이부(180)을 통하여 디스플레이되는 디스플레이화면에 포함된 선택 버튼 또는 아이콘 사이의 간격을 증가시켜, 사용자의 오조작을 방지할 수 있다.
또한, 제어부(170)는, 상기 디스플레이부(180)을 통하여 디스플레이되는 디스플레이화면에 텍스트가 포함된 경우, 상기 거리측정부를 통하여 상기 거리의 감소신호가 검색되면, 상기 디스플레이화면에 포함된 텍스트를 축소하고, 상기 거리측정부를 통하여 상기 거리의 증가신호가 검색되면, 상기 디스플레이화면에 포함된 텍스트를 확대하여, 사용자의 가독성을 고려한 디스플레이화면을 제공할 수 있다.
또한, 상기 제어부(170)는, 상기 텍스트를 확대하는 경우, 상기 텍스트가 포함된 페이지 전체가 한 디스플레이화면상에 모두 디스플레이되면, 상기 텍스트를 더이상 축소하지 않을 수 있다.
원격제어장치(200)는, 사용자 입력을 사용자 인터페이스부(150)로 송신한다. 이를 위해, 원격제어장치(200)는, 블루투스(Bluetooth), RF(Radio Frequency) 통신, 적외선(IR) 통신, UWB(Ultra Wideband), 지그비(ZigBee) 방식 등을 사용할 수 있다.
또한, 원격제어장치(200)는, 사용자 인터페이스부(150)에서 출력한 영상, 음성 또는 데이터 신호 등을 수신하여, 이를 원격제어장치(200)에서 표시하거나 음성 또는 진동을 출력할 수 있다.
도 14는 본 발명의 일 실시 예에 따른 사용자 및 멀티미디어 장치를 도시한 도면이다.
실시 예에 따라, 멀티미디어 장치(1900)는, 사용자(1903)의 거리정보를 파악하기 위하여, 멀티미디어 장치의 이미지 센싱부(1901, 1902)를 통하여 사용자 영상을 획득한다.
또한, 상기 이미지 센싱부는, 사용자의 거리정보를 정확하게 인식하기 위해, 서로 상이한 정보를 획득하는 두개의 이미지 센서 모듈(1901, 1902)로 구성될 수 있다. 즉, 실시 예에 따라, 상기 이미지 센싱부는 깊이 이미지 센서(depth image sensor), 및 RGB이미지 센서(RGB image sensor)을 포함할 수 있다. 이에 관하여는, 이하 도 9에서 상세히 설명하였다.
또한, 도시한 바와 같이, 멀티미디어 장치(1900)의 이미지 센싱부(1901, 1902)는, 멀티미디어 장치의 하단부에 위치하여, 사용자의 신체 중심을 감지(detection)하기 용이하며, 조도 환경에서 상대적으로 영향을 적게 받는바, 원활한 제스쳐인식이 가능하다.
상기와 같은 구성을 통하여, 멀티미디어 장치는 사용자의 현재 상태 및 거리정보를 획득하여, 상기 획득된 정보에 따라 멀티미디어 장치의 컨텐츠 제공환경을 상기 현재 상태 및 위치에 적합하게 제공할 수 있다.
도 15는, 본 발명의 일 실시 예에 따른 사용자의 신체 각 부분의 좌표정보를 인식하는 깊이이미지 센서의 영상을 도시한 도면이다.
도 15를 참고하면, 멀티미디어 장치는 깊이이미지 센서를 통하여 촬영된 영상을 통하여, 사용자의 신체 각 부분에 대한 좌표정보를 획득할 수 있다.
즉, 상기 깊이이미지 센서를 통하여 사용자(2401)를 촬영하는 경우, 상기 깊이이미지 센서는 사용자의 거리정보를 이미지 정보로써 획득할 수 있다.
예를 들어, 사용자의 신체 중 오른쪽 팔꿈치(2402)만에 대한 좌표정보를 획득할 수 있다. 또한, 이를 통하여, 사용자가 신체 일부분(2403)만을 이용하여 소정의 제스쳐를 입력하고자 하는 경우, 상기 신체 일부분의 좌표정보를 획득하여, 상기 신체 일부분이 위치하는 영역을 확대하여 더욱 상세한 영상을 인식할 수 있도록 할 수 있다. 또한, 사용자가 신체를 움직여서 특정한 행동을 하는 경우, 상기 신체 각 부분의 거리정보의 이동을 감지하여, 어떠한 행동을 하는지 인식할 수 있다.
도 16은 본 발명의 일 실시 예에 따른 디스플레이화면을 조정하는 과정을 도시한 순서도이다.
멀티미디어 장치에서 소정의 컨텐츠 또는 서비스를 제공중, 상기 멀티미디어 장치는 상기 멀티미디어 장치의 이미지 센싱부를 통하여 현재 사용자의 거리정보를 획득하고, 상기 획득된 거리정보를 트래킹(tracking)한다(S2001).
또한, 상기 사용자의 좌표정보를 트래킹(traking)하여 상기 사용자의 움직임을 검색한다. 즉, 상기 사용자의 좌표정보의 변동 여부를 검색하여 사용자가 어떠한 움직임을 행하는지 여부를 검색한다. 또한, 상기 깊이이미지 센서는 사용자의 신체 각 부분의 좌표정보를 획득할 수 있으므로, 상기 신체 각 부분의 좌표정보의 이동을 검색하여 사용자가 앞뒤로 움직이는 동작, 몸을 앞으로 기울이는 동작, 뒤로 기울이는 동작, 팔을 움직이는 동작 등 구체적인 동작을 인식할 수 있다.
다음으로, 상기 트래킹된 거리정보를 이용하여, 기 설정된 기준치 이상의 사용자 위치 변동이 있는지 여부를 판단한다(S2002).
실시 예에 따라, 멀티미디어 장치는, 사용자 위치 변동에 대한 기준치를 설정할 수 있다. 즉, 상기 트래킹된 거리정보를 이용하여, 사용자 위치 변동을 검색하고, 상기 검색된 사용자 위치 변동이 기 설정된 기준치 이상인 경우에만, 사용자의 위치가 변동되는 것으로 인식하도록 할 수 있다.
따라서, 사용자가 숨을 쉬거나 말을 하는 등, 미세한 동작을 하는 경우에는, 사용자 위치 변동이 없는 것으로 인식하고, 명확한 사용자 움직임이 있는 경우에만 사용자 위치 변동이 있는 것으로 인식하여, 사용자가 의도하지 않은 디스플레이화면 확대 및 축소 동작이 수행되는 것을 방지할 수 있다.
상기 기 설정된 기준치는, 멀티미디어 장치의 제품 제조시 일정 거리 범위로 설정될 수 있고, 사용자가 개인 설정에 따라 상기 기준치를 변경하여 설정할 수 있다.
멀티미디어 장치는, 사용자 위치 변동이 없거나, 또는 사용자 위치 변동이 있지만 기 설정된 기준치 미만의 사용자 위치 변동인 경우, 계속하여 사용자 거리정보를 트래킹한다.
반면에, 기준치 이상의 사용자 위치 변동이 있는 경우, 멀티미디어 장치는 상기 사용자와 상기 멀티미디어 장치 사이의 거리가 감소하는지 여부를 판단한다(S2003).
실시 예에 따라, 상기 거리의 감소 여부는, 상기 사용자의 좌표정보를 검색하여 판단할 수 있다. 즉, 상기 사용자의 좌표정보를 계속하여 트래킹하여, 사용자가 멀티미디어 장치로 접근하는 경우, 상기 거리가 감소하는 것으로 판단할 수 있다.
또한, 사용자의 신체 각 부분의 좌표정보를 인식가능하므로, 상기 사용자가 골반의 좌표정보는 고정된 상태로 어깨의 좌표정보만 상기 멀티미디어 장치 측으로 접근하는 경우, 상기 사용자가 신체를 앞으로 기울이는 것으로 인식하고, 상기 거리가 감소하는 것으로 판단할 수 있다.
상기 단계(S2003)의 판단 결과, 상기 거리가 감소되는 경우, 멀티미디어 장치는 멀티미디어 장치에서 제공하는 디스플레이화면을 확대하여 사용자에게 제공한다(S2004).
즉, 멀티미디어 장치에서 이용 중인 영상 컨텐츠의 이용화면을 확대하거나, 멀티미디어 장치에서 이용 중인 텍스트 컨텐츠의 폰트크기를 감소시킬 수 있고, 멀티미디어 장치에서 디스플레이되는 메뉴 화면의 아이콘의 크기 및 아이콘 간격을 조절할 수 있다. 이에 관하여는 이하 도 19 내지 도 20에서 상세히 설명한다.
반면에, 상기 단계(S2002)의 판단 결과, 상기 사용자와 상기 멀티미디어 장치 사이의 거리가 감소하지 않는 경우, 멀티미디어 장치는 멀티미디어 장치에서 제공하는 디스플레이화면을 축소하여 사용자에게 제공한다(S2005).
즉, 사용자와 멀티미디어 장치 사이의 거리가 증가하는 경우, 디스플레이화면을 축소하여 사용자에게 제공한다.
실시 예에 따라, 상기 거리의 증가 여부는, 상기 사용자의 좌표정보를 검색하여 판단할 수 있다. 즉, 상기 사용자의 좌표정보를 계속하여 트래킹하여, 사용자가 멀티미디어 장치로부터 멀어지는 경우, 상기 거리가 증가하는 것으로 판단할 수 있다.
또한, 사용자의 신체 각 부분의 좌표정보를 인식가능하므로, 상기 사용자가 골반의 좌표정보는 고정된 상태로 어깨의 좌표정보만 상기 멀티미디어 장치에서 멀어지는 경우, 상기 사용자가 신체를 뒤로 기울이는 것으로 인식하고, 상기 거리가 증가하는 것으로 판단할 수 있다.
또한, 멀티미디어 장치는, 멀티미디어 장치에서 이용 중인 영상 컨텐츠의 이용화면을 축소하거나, 멀티미디어 장치에서 이용 중인 텍스트 컨텐츠의 폰트크기를 증가시킬 수 있고, 멀티미디어 장치에서 디스플레이되는 메뉴 화면의 아이콘의 크기 및 아이콘 간격을 조절할 수 있다. 이에 관하여는 이하 도 19 내지 도 20에서 상세히 설명한다.
이를 통하여, 사용자는 멀티미디어 장치를 통하여 소정의 컨텐츠 및 서비스를 제공받는 경우, 복잡한 조작을 수행하지 않아도 위치를 이동하거나 몸을 기울이는 것만으로 디스플레이화면을 조정하여 적합한 디스플레이화면을 제공받을 수 있다.
도 17은 본 발명의 일 실시 예에 따른 디스플레이화면을 조정하는 사용자 제스쳐를 도시한 도면이다.
도 17을 참조하면, 사용자는 사용자 위치(2205, 2206, 2207)를 이동함으로써, 멀티미디어 장치(2204)에서 인식되는 멀티미디어 장치와 사용자간의 거리를 감소시키거나 증가시킬 수 있다.
즉, 도 17(a)를 참조하면, 멀티미디어 장치(2204)는 멀티미디어 장치의 이미지 센싱부를 통하여 사용자(2205)를 촬영하여, 사용자의 거리정보를 획득한다.
또한, 상기 획득된 거리정보를 사용자의 기준 좌표정보로써 저장하고, 상기 이미지 센싱부를 통하여 계속하여 사용자의 위치를 트래킹(tracking)한다.
상기 트래킹 중, 도 17(b)와 같이 사용자가 멀티미디어 장치로 접근하는 경우, 상기 접근한 사용자의 거리정보를 상기 이미지 센싱부를 통하여 다시 사용자의 좌표정보를 획득하고, 상기 저장된 사용자의 기준 좌표정보와 비교하여, 사용자와 멀티미디어 장치의 거리가 감소되었는지, 감소된 거리는 얼마인지 판단한다.
또한, 상기 트래킹 중, 도 17(c)와 같이 사용자가 멀티미디어 장치로부터 멀어지는 경우, 상기 사용자가 접근한 경우와 마찬가지로, 상기 멀어진 사용자의 거리정보를 상기 이미지 센싱부를 통하여 다시 사용자의 좌표정보를 획득하고, 상기 저장된 사용자의 기준 좌표정보와 비교하여, 사용자와 멀티미디어 장치의 거리가 증가되었는지, 증가된 거리는 얼마인지 판단한다.
이와 같이 멀티미디어 장치에서 사용자의 좌표정보를 계속하여 검색하여, 사용자가 위치를 이동하는 경우, 그 이동에 따른 사용자와 멀티미디어 장치 사이의 거리 변화와 변화 정도에 대한 정보를 획득할 수 있으므로, 상기 획득된 정보에 기초하여 상기 멀티미디어 장치(2204)에서 제공 중인 디스플레이화면을 조정할 수 있다. 이에 대하여는 이하 도 19 내지 도 21에서 상세히 설명한다.
도 18은 본 발명의 일 실시 예에 따른 디스플레이화면을 조정하는 사용자 위치를 도시한 도면이다.
도 18을 참조하면, 사용자는 신체를 앞 또는 뒤로 기울임으로써(2105, 2106, 2107), 멀티미디어 장치(2104)에서 인식되는 멀티미디어 장치와 사용자간의 거리를 감소시키거나 증가시킬 수 있다.
상기 도 15에서 도시한 바와 같이, 상기 멀티미디어 장치는 이미지 센싱부의 깊이이미지 센서를 통하여 사용자 신체 각 부분의 좌표정보를 획득할 수 있으므로, 상기 신체 각 부분을 트래킹(tracking)하여, 사용자가 몸을 앞으로 기울이는지, 뒤로 기울이는지 여부를 검색할 수 있다.
즉, 도 18(a)를 참조하면, 멀티미디어 장치(2104)는 깊이이미지 센서를 통하여 사용자(2105)의 좌표정보 및 상기 사용자의 신체 각 부분의 좌표정보를 획득하고, 상기 획득된 사용자 및 사용자 신체 각 부분의 좌표정보를 멀티미디어 장치에 기준 좌표로써 저장한다.
또한, 상기 트래킹 중, 도 18(b)와 같이 사용자가 신체를 앞으로 기울이는 경우, 상기 신체를 앞으로 기울인 사용자의 신체 각 부분의 좌표정보를 깊이 이미지 센서를 통하여 획득하고, 상기 획득된 좌표정보를 상기 저장된 기준 좌표와 비교하여, 사용자의 골반의 좌표는 상대적으로 변동이 매우 적은 상태로 사용자의 어깨 부분의 좌표가 상기 멀티미디어 장치쪽으로 접근한 경우, 상기 사용자가 신체를 앞으로 기울인 것으로 인식할 수 있고, 상기 사용자와 상기 멀티미디어 장치 사이의 거리가 감소한 것으로 판단할 수 있다.
또한, 상기 트래킹 중, 도 18(c)와 같이 사용자가 신체를 뒤로 기울이는 경우, 상기 신체를 앞으로 기울인 경우와 마찬가지로, 상기 신체를 뒤로 기울인 사용자의 신체 각 부분의 좌표정보를 깊이 이미지 센서를 통하여 획득하고, 상기 획득된 좌표정보를 상기 저장된 기준 좌표와 비교하여, 사용자의 골반의 좌표는 상대적으로 변동이 매우 적은 상태로 사용자의 어깨 부분의 좌표가 상기 멀티미디어 장치에서 멀어진 경우, 상기 사용자가 신체를 뒤로 기울인 것으로 인식할 수 있고, 상기 사용자와 상기 멀티미디어 장치 사이의 거리가 증가한 것으로 판단할 수 있다.
또한, 멀티미디어 장치는 상기 사용자와 멀티미디어 장치 사이의 거리가 증가 또는 감소함에 따라 멀티미디어 장치의 디스플레이화면을 조정할 수 있다. 이에 관하여 이하 도 20 내지 도 22에서 상세히 설명한다. 즉, 사용자는 위치를 이동하지 않고 단지 몸을 앞, 뒤로 기울이는 것만으로 상기 멀티미디어 장치의 디스플레이화면을 조정할 수 있으므로, 사용자 편의성을 향상시킬 수 있는 효과가 있다.
도 19는 본 발명의 일 실시예에 따른 사용자 거리에 따라 조정되는 디스플레이화면을 도시한 도면이다.
실시 예에 따라, 사용자가 위치를 이동하거나, 신체를 기울여서, 상기 멀티미디어 장치와 상기 사용자 간의 거리가 증가하거나 상기 거리가 감소하는 경우, 상기 멀티미디어 장치의 디스플레이 화면을 상기 증가 또는 감소된 거리에 적합하게 조정할 수 있다.
도 19(a)와 같이, 사용자가 이용중인 영상 컨텐츠가 하나의 디스플레이화면상에 전부 표시되지 않는 경우, 사용자가 멀티미디어 장치에 접근하거나, 신체를 앞으로 기울이는 경우, 상기 사용자가 상기 영상을 더 자세히 보고자 하는 제스쳐로써 인식하여, 멀티미디어 장치는 도 19(b)와 같이, 상기 영상 컨텐츠를 확대하여 디스플레이할 수 있다.
반면에, 사용자가 멀티미디어 장치에서 멀어지거나, 신체를 뒤로 기울이는 경우, 상기 사용자가 상기 영상의 표시영역을 확장하여 보고자 하는 제스쳐로써 인식하여, 멀티미디어 장치는 도 19(c)와 같이, 상기 영상 컨텐츠의 표시영역을 확장하여 디스플레이할 수 있다. 또한, 상기 이용 중인 영상 컨텐츠의 모든 표시영역이 디스플레이화면에 표시되는 경우, 상기 영상 컨텐츠를 더이상 축소하지 않도록 할 수 있다.
또한, 사용자가 위치를 이동하는 경우는 사용자의 이동 거리, 사용자가 신체를 기울이는 경우는 기울임의 정도에 따라 표시영역의 확대 또는 축소 비율을 조절할 수 있다.
도 20은 본 발명의 다른 일 실시예에 따른 사용자 거리에 따라 조정되는 디스플레이화면을 도시한 도면이다.
실시 예에 따라, 멀티미디어 장치에서 텍스트 컨텐츠를 이용 중인 경우, 상기 멀티미디어 장치와 사용자의 거리에 따라, 상기 이용 중인 텍스트 컨텐츠의 폰트 크기를 조절할 수 있다. 상기 텍스트 컨텐츠는, 멀티미디어 장치에서 소정의 도큐멘트 파일을 열람하거나, 인터넷을 통하여 소정의 텍스트가 포함된 웹페이지(web page)를 열람하는 경우를 포함할 수 있다.
즉, 멀티미디어 장치에서 도 20(a)의 디스플레이화면과 같이 텍스트(2401)가 포함된 웹페이지를 디스플레이하고 있는 경우, 사용자가 멀티미디어 장치로 접근하거나, 상기 멀티미디어 장치측으로 신체를 기울이는 경우, 상기 사용자와 상기 멀티미디어 장치 사이의 거리가 감소하는 것으로 판단하여, 상기 텍스트의 폰트 크기를 축소하여 디스플레이할 수 있다.
즉, 상기 거리가 감소하는 경우, 상기 멀티미디어 장치에 디스플레이된 텍스트에 대한 사용자의 가독성이 증가하는바, 도 20(b)에 도시된 바와 같이 상기 텍스트의 폰트 크기를 축소시켜서(2402), 한 화면 상에 더욱 많은 텍스트를 디스플레이하도록 할 수 있다. 또한, 한 디스플레이화면상에 상기 이용 중인 텍스트 컨텐츠의 모든 영역이 디스플레이되는 경우, 더 이상 상기 폰트 크기를 축소하지 않도록 할 수 있다.
반면에, 사용자가 멀티미디어 장치로부터 멀어지거나, 신체를 멀티미디어 장치로부터 멀어지는 방향으로 기울이는 경우, 상기 사용자와 상기 멀티미디어 장치 사이의 거리가 증가하고, 상기 사용자의 디스플레이화면상의 텍스트에 대한 가독성이 감소하는바, 상기 텍스트의 폰트 크기를 확대시켜서 디스플레이할 수 있다.
도 21은 본 발명의 다른 일 실시예에 따른 사용자 거리에 따라 조정되는 디스플레이화면을 도시한 도면이다.
실시 예에 따라, 멀티미디어 장치에서 OSD(On Screen Display)를 통하여 소정의 메뉴 화면을 디스플레이하는 경우, 상기 멀티미디어 장치와 사용자의 거리에 따라, 상기 이용 중인 메뉴 화면을 조절할 수 있다.
즉, 멀티미디어 장치에서, 도 21(a)에 도시한 바와 같은 메뉴화면을 디스플레이하는 경우, 상기 메뉴화면은 소정의 아이콘 리스트(2508)을 포함할 수 있고, 상기 멀티미디어 장치에서 이용 중인 컨텐츠에 대한 정보(2505)를 포함할 수 있다.
상기 도 21(a)와 같은 디스플레이화면이 디스플레이된 상태에서 사용자가 멀티미디어 장치로 접근하거나 멀티미디어 장치측으로 신체를 기울여서 상기 멀티미디어 장치와 상기 사용자 사이의 거리가 감소한 것으로 인식되는 경우, 멀티미디어 장치는 도 21(b)와 같은 디스플레이화면을 사용자에게 제공할 수 있다.
즉, 상기 거리가 감소하여 디스플레이화면에 대한 가독성이 증가되는바, 도 21(b)에 도시한 바와 같이 상기 멀티미디어 장치에서 이용 중인 컨텐츠에 대한 정보(2504)를 상기 도 21(a)의 정보(2505)에 비하여 축소하여 디스플레이하고, 상기 메뉴에 포함된 아이콘(2507)의 크기 도 21(a)의 아이콘(2508)에 비하여 축소하여 디스플레이할 수 있다. 이를 통하여, 사용자는 한 디스플레이화면상에서 더욱 많은 정보와 아이콘 목록을 제공받을 수 있다.
또한, 상기 아이콘(2507)의 크기가 축소됨으로 인하여, 조작 상의 실수로 인하여 아이콘을 잘못 선택할 가능성이 커지는 바, 오동작을 감소시키기 위하여, 상기 아이콘(2507)간의 간격을 상기 도 21(a)에 비하여 확대하여 디스플레이할 수 있다.
반면에, 상기 도 21(a)와 같은 디스플레이화면이 디스플레이된 상태에서, 사용자가 멀티미디어 장치에서 멀어지거나 멀티미디어 장치로부터 멀어지는 방향으로 신체를 기울여서 상기 멀티미디어 장치와 상기 사용자 사이의 거리가 증가한 것으로 인식되는 경우, 멀티미디어 장치는 도 21(c)와 같은 디스플레이화면을 사용자에게 제공할 수 있다.
즉, 상기 거리가 증가한 경우에는 사용자의 디스플레이화면에 대한 가독성이 감소되는바, 도 21(c)에 도시한 바와 같이 상기 멀티미디어 장치에서 이용중인 컨텐츠에 대한 정보(2506)를 상기 도 21(a)의 정보(2505)에 비하여 확대하여 디스플레이하고, 상기 메뉴에 포함된 아이콘(2509)의 크기도 도 21(a)의 아이콘(2508)에 비하여 확대하여 디스플레이할 수 있다. 이를 통하여, 사용자는 상기 가독성이 감소되어도, 원활하게 상기 컨텐츠에 대한 정보 및 상기 아이콘에 대한 정보를 획득할 수 있다.
또한, 상기 아이콘(2509)의 크기가 확대됨으로 인하여, 조작상의 오동작이 일어날 가능성이 줄어들게 되므로, 상기 아이콘(2509) 사이의 간격을 축소하고, 상기 간격이 축소된 만큼 더욱 많은 아이콘을 디스플레이할 수 있다.
도 22는 본 발명의 일 실시예에 따른, 멀티미디어 장치와 사용자의 위치를 나타낸 도면이다.
실시 예에 따라, 멀티미디어 장치는, 멀티미디어 장치 및 사용자의 시야각을 고려하여, 사용자의 위치에 따라 디스플레이화면을 변경할 수 있다.
시야각은, 멀티미디어 장치에서 정상적인 화면을 볼 수 있는 최대한의 비스듬한 각도를 의미한다. 브라운관과는 달리 액정표시장치는 보는 각도에 따라서 밝기 또는 명암비가 크게 변화되는 특성이 있으므로, 명암비가 어느 값 이상 유지되는 각도를 시야각으로 표현한다. 즉, 시야각 범위 내에 사용자가 위치하여야 정상적인 밝기로 화면을 볼 수 있다
따라서, 도 22(b)에 도시한 바와 같이 사용자(2602)가, 멀티미디어 장치(2601)의 정면에 위치하는 경우, 멀티미디어 장치 및 사용자의 시야각 범위 내에 멀티미디어 장치의 디스플레이부의 모든 영역이 위치하게 되는 바, 멀티미디어 장치는 도 22(e)와 같은 정상상태의 디스플레이화면(2603)을 디스플레이하여 사용자에게 컨텐츠 또는 서비스를 제공할 수 있다.
반면에, 도 22(a)에 도시한 바와 같이 사용자(2602)가, 멀티미디어 장치(2601)의 좌측편에 위치하는 경우, 멀티미디어 장치의 모든 영역이 멀티미디어 장치 및 사용자의 시야각 범위 내에 위치하지 않으므로, 멀티미디어 장치는 도 22(d)와 같은 디스플레이화면을 제공함으로써, 상기 시야각 범위내에 포함되지 않는 디스플레이 영역에는 컨텐츠 또는 서비스를 디스플레이하지 않을 수 있다.
또한, 도 22(c)에 도시한 바와 같이 사용자(2602)가, 멀티미디어 장치(2601)의 우측편에 위치하는 경우, 마찬가지로, 멀티미디어 장치의 모든 영역이 멀티미디어 장치 및 사용자의 시야각 범위 내에 위치하지 않으므로, 멀티미디어 장치는 도 22(f)와 같은 디스플레이화면을 제공하여, 상기 시야각 범위내에 포함되지 않는 디스플레이 영역에는 컨텐츠 또는 서비스를 디스플레이 하지 않을 수 있다.
도 23은 본 발명의 일 실시예에 따른, 멀티미디어 장치의 메뉴화면이 변경되는 디스플레이화면을 도시한 도면이다.
실시 예에 따라, 멀티미디어 장치와 사용자 사이의 거리가 변동됨에 따라, 멀티미디어 장치에 디스플레이된 메뉴화면의 구성을 조정할 수 있다.
즉, 사용자와 멀티미디어 장치 사이의 거리가 가까운 경우, 사용자의 가독성이 높아지므로, 메뉴화면에 포함된 메뉴 항목 및 텍스트의 크기를 축소하여 디스플레이할 수 있고, 반대로 사용자와 멀티미디어 장치 사이의 거리가 멀어지는 경우, 사용자의 가독성이 낮아지므로, 메뉴화면에 포함된 메뉴 항목 및 텍스트의 크기를 확대하여 디스플레이할 수 있다.
도 23(a)를 참조하면, 멀티미디어 장치는 소정의 메뉴화면(2701)을 디스플레이할 수 있고, 상기 메뉴화면은 소정의 메뉴항목 및 텍스트를 포함할 수 있다.
다만, 사용자와 멀티미디어 장치 사이의 거리가 증가하는 경우, 멀티미디어 장치는 도 23(b) 및 도 23(c)와 같은 메뉴화면을 디스플레이할 수 있다.
즉, 도 23(b)는 본 발명의 실시 예에 따라, 사용자와 멀티미디어 장치 사이의 거리가 증가하는 경우, 메뉴화면을 확대한 디스플레이화면(2702)을 도시한 도면이다. 사용자와 멀티미디어 장치 사이의 거리가 증가하면서, 사용자의 가독성이 낮아지므로, 메뉴 화면에 포함된 메뉴항목(2704, 2705, 2706, 2708)들의 크기를 확대하여 디스플레이하여, 사용자의 조작상의 오류를 감소시킬 수 있다.
또한, 도 23(b)는 본 발명의 다른 실시예에 따라, 하이라이트된 메뉴항목만을 확대한 디스플레이화면(2703)을 도시한 도면이다. 상기 도 23(b)에 도시한 바와 같이, 사용자와 멀티미디어 장치 사이의 거리가 증가함에 따라 모든 메뉴항목을 확대하여 디스플레이할 수도 있지만, 소정의 포인터(2710)가 특정 메뉴항목에 위치하거나, 특정 메뉴항목이 선택된 경우, 상기 특정 메뉴항목(2709)만을 확대하여 디스플레이하여, 사용자가 선택한 특정 메뉴항목에 대한 정보를 더욱 용이하게 획득하도록 할 수 있다.
도 24는 본 발명의 일 실시예에 따른, 멀티미디어 장치의 볼륨이 변경되는 디스플레이화면을 도시한 도면이다.
실시 예에 따라, 멀티미디어 장치와 사용자 사이의 거리가 변동되는 경우, 상기 도 19에서 도시한 바와 같이, 멀티미디어 장치의 디스플레이화면을 확대 또는 축소할 수 있으며, 이와 함께 멀티미디어 장치의 음성신호의 볼륨을 변경할 수 있다.
즉, 사용자가 위치를 이동하거나, 신체를 기울여서, 상기 멀티미디어 장치와 상기 사용자 간의 거리가 증가하거나 상기 거리가 감소하는 것으로 인식되는 경우, 상기 멀티미디어 장치의 음성신호의 볼륨을 상기 증가 또는 감소된 거리에 적합하게 조정할 수 있다.
도 24(a)와 같이, 사용자가 이용중인 영상 컨텐츠가 일정한 볼륨을 유지하고 있고, 사용자가 멀티미디어 장치에 접근하거나, 신체를 앞으로 기울이는 경우, 상기 사용자가 상기 영상 및 음성을 더 자세히 시청하고자 하는 제스쳐로써 인식하여, 멀티미디어 장치는 도 24(b)와 같이, 상기 영상 컨텐츠를 확대하고, 음성 볼륨을 증가시켜 사용자에게 제공할 수 있다.
반면에, 사용자가 멀티미디어 장치에서 멀어지거나, 신체를 뒤로 기울이는 경우, 상기 사용자가 상기 영상의 표시영역을 확장하고, 음성 볼륨을 감소 시키고자 하는 제스쳐로써 인식하여, 멀티미디어 장치는 도 24(c)와 같이, 상기 영상 컨텐츠의 표시영역을 확장하고, 음성 볼륨을 감소시켜 사용자에게 제공할 수 있다.
또한, 사용자가 위치를 이동하는 경우는 사용자의 이동 거리, 사용자가 신체를 기울이는 경우는 기울임의 정도에 따라 음성볼륨의 증가 또는 감소 비율을 조절할 수 있다.
또한, 사용자 설정에 따라, 도 24에 도시한 바와 달리, 사용자 설정에 따라, 사용자와 멀티미디어 장치 사이의 거리가 감소하는 경우에 음성볼륨을 함께 감소시키고, 사용자와 멀티미디어 장치 사이의 거리가 증가하는 경우에는 음성볼륨을 증가시키도록 할 수 있다.
또한, 도 24에는 음성볼륨을 일예로써 설명하였으나, 멀티미디어 장치의 디스플레이화면 밝기, 명암비 등 멀티미디어 장치에서 수치조절을 통하여 사용자에게 적합한 시청환경을 제공할 수 있는 다름 조절 요소들도 상기 음성볼륨과 함께 상기 수치가 변경될 수 있다.
도 25는 본 발명의 일 실시예에 따른, 사용자 거리에 따라 조정되는 디스플레이화면을 도시한 도면이다.
실시 예에 따라, 도 25(a)에 도시한 바와 같이, 멀티미디어 장치는 컨텐츠 영상과 메뉴화면을 함께 디스플레이(1700)할 수 있다. 예를 들어, 멀티미디어 장치의 디스플레이부가 21:9의 화면 비율을 가지고 있을 때, 멀티미디어 장치의 일 부분에 16:9의 컨텐츠 영상(1701)을 디스플레이하고, 상기 컨텐츠 영상이 디스플레이되지 않는 5:9 영역에 메뉴화면(1704)을 디스플레이할 수 있다.
따라서, 멀티미디어 장치와 사용자 사이의 거리가 변동되는 경우, 멀티미디어 장치의 디스플레이화면을 확대 또는 축소할 수 있으며, 이와 함께 멀티미디어 장치의 메뉴화면을 확대 또는 축소할 수 있다.
즉, 사용자가 멀티미디어 장치에 접근하는 경우, 상기 사용자가 멀티미디어 장치의 디스플레이화면을 더 자세히 시청하고자 하는 제스쳐로써 인식하여, 멀티미디어 장치는 도 25(b)와 같이, 상기 영상 컨텐츠를 확대할 수 있고, 또한, 상기 사용자와 멀티미디어 장치 사이의 거리가 감소함으로써 사용자의 가독성이 증가하므로, 멀티미디어 장치는 메뉴화면을 축소하여 더 많은 정보를 포함하도록 디스플레이할 수 있다.
반면에, 사용자가 멀티미디어 장치에서 멀어지는 경우, 상기 사용자가 상기 영상의 표시영역을 확장하여 시청하고자하는 제스쳐로써 인식하여, 멀티미디어 장치는 도 25(c)와 같이, 상기 영상 컨텐츠를 축소함으로써 디스플레이되는 영역을 확장할 수 있고, 또한, 상기 사용자와 멀티미디어 장치 사이의 거리가 증가함으로써 사용자의 가독성이 감소되므로, 멀티미디어 장치는 메뉴화면을 확대하여 사용자에게 제공할 수 있다.
본 발명에 따른 멀티미디어 장치 및 그 동작 방법은 상기한 바와 같이 설명된 실시 예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시 예들은 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
한편, 본 발명의 멀티미디어 장치의 동작방법은 멀티미디어 장치에 구비된 프로세서가 읽을 수 있는 기록매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 기록매체는 프로세서에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 프로세서가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한, 인터넷을 통한 전송 등과 같은 캐리어 웨이브의 형태로 구현되는 것도 포함한다. 또한, 프로세서가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 프로세서가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해돼서는 안 될 것이다.
100: 멀티미디어 장치
105: 방송 수신부
110: 튜너
120: 복조부
130: 네트워크 인터페이스부
135: 외부장치 인터페이스부
140: 저장부
150: 사용자입력 인터페이스부
170: 제어부
180: 디스플레이부
185: 오디오 출력부
190: 전원 공급부
200: 원격 제어장치

Claims (15)

  1. 멀티미디어 장치의 디스플레이화면 제공 방법에 있어서,
    사용자의 거리정보를 획득하고, 상기 거리정보를 트래킹(tracking)하는 단계;
    상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소하는 경우, 상기 디스플레이화면을 확대하는 단계; 및
    상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 증가하는 경우, 상기 디스플레이화면을 축소하는 단계
    를 포함하는 멀티미디어 장치의 디스플레이화면 제공 방법.
  2. 제1항에 있어서,
    상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소하는 경우, 상기 멀티미디어 장치의 볼륨을 증가시키는 단계; 및
    상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 증가하는 경우, 상기 멀티미디어 장치의 볼륨을 감소시키는 단계
    를 포함하는 멀티미디어 장치의 디스플레이화면 제공 방법.
  3. 제2항에 있어서,
    상기 멀티미디어 장치의 볼륨을 증가시키는 단계는,
    상기 멀티미디어 장치의 오디오 출력에 포함된 음성 신호의 볼륨을 더욱 증가 시키는 단계
    를 포함하는 멀티미디어 장치의 디스플레이화면 제공 방법.
  4. 제1항에 있어서,
    상기 사용자의 거리정보를 트래킹(tracking)하는 단계는,
    상기 사용자의 신체 각 부분의 좌표정보를 획득하는 단계; 및
    상기 획득된 각 좌표정보를 트래킹하는 단계
    를 포함하고,
    상기 트래킹된 각 좌표정보에 기초하여, 사용자가 신체를 전방으로 기울인 경우, 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소하는 것으로 판단하고, 사용자가 신체를 후방으로 기울인 경우, 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 증가하는 것으로 인식하는 단계
    를 포함하는
    멀티미디어 장치의 디스플레이화면 제공 방법.
  5. 제1항에 있어서,
    상기 디스플레이 화면을 확대하는 단계는,
    상기 디스플레이 화면에 포함된 선택 버튼 또는 아이콘 사이의 간격을 감소시키는 단계를 포함하고,
    상기 디스플레이화면을 축소하는 단계는,
    상기 디스플레이화면에 포함된 선택 버튼 또는 아이콘 사이의 간격을 증가시키는 단계를 포함하는 멀티미디어 장치의 디스플레이화면 제공 방법.
  6. 멀티미디어 장치의 디스플레이화면 제공 방법에 있어서,
    사용자의 거리정보를 획득하고, 상기 거리정보를 트래킹(tracking)하는 단계;
    상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소하는 경우, 상기 디스플레이 화면에 포함된 텍스트를 축소하는 단계; 및
    상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 증가하는 경우,
    상기 디스플레이화면에 포함된 텍스트를 확대하는 단계
    를 포함하는 멀티미디어 장치의 디스플레이화면 제공 방법.
  7. 제6항에 있어서,
    상기 텍스트를 축소하는 단계는,
    상기 텍스트가 포함된 페이지 전체가 한 화면상에 모두 디스플레이되면, 상기 텍스트를 축소하지 않는 단계
    를 포함하는 멀티미디어 장치의 디스플레이화면 제공 방법.
  8. 사용자의 거리정보를 획득하고, 상기 거리정보를 트래킹(tracking)하는 이미지 센싱부;
    상기 이미지 센싱부에서 트래킹된 정보에 기초하여, 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소 및 증가되는지 검색하는 거리측정부; 및
    상기 거리측정부를 통하여 상기 거리의 감소신호가 검색되면, 디스플레이화면을 확대하고, 상기 거리의 증가신호가 검색되면, 상기 디스플레이화면을 축소하도록 제어하는 제어부
    를 포함하는 멀티미디어 장치
  9. 제8항에 있어서,
    상기 이미지 센싱부는,
    이미지 센서로부터 물체의 거리정보를 이미지로 획득하는 깊이 이미지 센서를 포함하는 멀티미디어 장치.
  10. 제8항에 있어서,
    상기 제어부는,
    상기 거리가 감소하는 경우, 상기 멀티미디어 장치의 볼륨을 증가시키고, 상기 거리가 증가하는 경우, 상기 볼륨을 감소시키도록 제어하는
    멀티미디어 장치
  11. 제10항에 있어서,
    상기 제어부는,
    상기 멀티미디어 장치의 오디오 출력에 포함된 음성 신호의 볼륨을 상대적으로 더 증가시키는 멀티미디어 장치
  12. 제8항에 있어서,
    상기 이미지 센싱부는,
    상기 사용자의 신체 각 부분에 대한 좌표정보를 획득하고, 상기 획득된 신체 각 부분의 좌표정보를 트래킹하고,
    상기 거리측정부는,
    상기 트래킹된 각 좌표정보에 기초하여, 사용자가 신체를 전방으로 기울인 경우, 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소하는 것으로 판단하고, 사용자가 신체를 후방으로 기울인 경우, 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 증가하는 것으로 인식하는
    멀티미디어 장치
  13. 제8항에 있어서,
    상기 제어부는,
    상기 거리측정부를 통하여 상기 거리의 감소신호가 검색되면, 상기 디스플레이 화면에 포함된 선택 버튼 또는 아이콘 사이의 간격을 감소시키고, 상기 거리의 증가신호가 검색되면, 상기 디스플레이 화면에 포함된 선택 버튼 또는 아이콘 사이의 간격을 증가시키는
    멀티미디어 장치
  14. 사용자의 거리정보를 획득하고, 상기 거리정보를 트래킹(tracking)하는 이미지 센싱부;
    상기 이미지 센싱부에서 트래킹된 정보에 기초하여, 상기 멀티미디어 장치와 상기 트래킹된 거리정보와의 거리가 감소 및 증가되는지 검색하는 거리측정부; 및
    상기 거리측정부를 통하여 상기 거리의 감소신호가 검색되면, 디스플레이화면에 포함된 텍스트를 축소하고, 상기 거리의 증가신호가 검색되면, 상기 디스플레이화면에 포함된 텍스트를 확대하도록 제어하는 제어부
    를 포함하는 멀티미디어 장치
  15. 제14항에 있어서,
    상기 제어부는,
    상기 텍스트가 포함된 페이지 전체가 한 디스플레이화면상에 모두 디스플레이되면, 더 이상 상기 텍스트를 축소하지 않는
    멀티미디어 장치
KR1020100112529A 2010-11-12 2010-11-12 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치 KR101731346B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020100112529A KR101731346B1 (ko) 2010-11-12 2010-11-12 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치
US13/071,071 US20120124525A1 (en) 2010-11-12 2011-03-24 Method for providing display image in multimedia device and thereof
CN201110087388XA CN102467234A (zh) 2010-11-12 2011-04-02 在多媒体装置中提供显示图像的方法和多媒体装置
EP11003138.2A EP2453342A3 (en) 2010-11-12 2011-04-13 Method for providing display image in multimedia device and device thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100112529A KR101731346B1 (ko) 2010-11-12 2010-11-12 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치

Publications (2)

Publication Number Publication Date
KR20120051209A true KR20120051209A (ko) 2012-05-22
KR101731346B1 KR101731346B1 (ko) 2017-04-28

Family

ID=44202152

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100112529A KR101731346B1 (ko) 2010-11-12 2010-11-12 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치

Country Status (4)

Country Link
US (1) US20120124525A1 (ko)
EP (1) EP2453342A3 (ko)
KR (1) KR101731346B1 (ko)
CN (1) CN102467234A (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160085225A (ko) * 2015-01-07 2016-07-15 삼성전자주식회사 디스플레이 디바이스 및 그 동작 방법
WO2020190001A1 (ko) * 2019-03-20 2020-09-24 삼성전자 주식회사 사용자의 움직임에 기반하여 객체의 속성을 제어하는 전자 장치 및 그 제어 방법
US11516381B2 (en) 2015-01-07 2022-11-29 Samsung Electronics Co., Ltd. Display device and operating method thereof with adjustments related to an image display according to bending motion of the display device
WO2024058458A1 (ko) * 2022-09-15 2024-03-21 삼성전자주식회사 웹페이지를 적응적으로 표시하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체

Families Citing this family (74)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120327099A1 (en) * 2011-06-24 2012-12-27 William John Vojak Dynamically adjusted display attributes based on audience proximity to display device
US9628843B2 (en) * 2011-11-21 2017-04-18 Microsoft Technology Licensing, Llc Methods for controlling electronic devices using gestures
CN103455253B (zh) * 2012-06-04 2018-06-08 乐金电子(中国)研究开发中心有限公司 一种与视频设备交互的方法及用于交互的视频设备
CN102842301B (zh) * 2012-08-21 2015-05-20 京东方科技集团股份有限公司 显示画面调节装置、显示装置及显示方法
WO2014041948A1 (ja) * 2012-09-11 2014-03-20 ソニー株式会社 表示制御装置、表示制御方法、及びプログラム
US20140071159A1 (en) * 2012-09-13 2014-03-13 Ati Technologies, Ulc Method and Apparatus For Providing a User Interface For a File System
CN112911252B (zh) 2012-11-28 2023-07-04 核心光电有限公司 多孔径成像***
US9449219B2 (en) * 2013-02-26 2016-09-20 Elwha Llc System and method for activity monitoring
US20140247210A1 (en) * 2013-03-01 2014-09-04 Tobii Technology Ab Zonal gaze driven interaction
US9519351B2 (en) 2013-03-08 2016-12-13 Google Inc. Providing a gesture-based interface
CN104063117A (zh) * 2013-03-19 2014-09-24 海尔集团公司 家电设备及其控制装置和方法
CN104077042B (zh) * 2013-03-29 2018-02-02 联想(北京)有限公司 一种显示方法及装置、电子设备
WO2014199338A2 (en) 2013-06-13 2014-12-18 Corephotonics Ltd. Dual aperture zoom digital camera
CN105359006B (zh) 2013-07-04 2018-06-22 核心光电有限公司 小型长焦透镜套件
CN108718376B (zh) 2013-08-01 2020-08-14 核心光电有限公司 具有自动聚焦的纤薄多孔径成像***及其使用方法
CN104469250B (zh) * 2013-09-23 2019-07-26 联想(北京)有限公司 一种信息处理方法及电子设备
KR102153743B1 (ko) 2013-11-01 2020-09-10 삼성디스플레이 주식회사 표시장치
US20150220159A1 (en) * 2014-02-04 2015-08-06 Pointgrab Ltd. System and method for control of a device based on user identification
US9582851B2 (en) 2014-02-21 2017-02-28 Microsoft Technology Licensing, Llc Using proximity sensing to adjust information provided on a mobile device
KR20150104711A (ko) * 2014-03-06 2015-09-16 엘지전자 주식회사 디스플레이 장치 및 그의 동작 방법
CN105094299B (zh) * 2014-05-14 2018-06-01 三星电子（中国）研发中心 控制电子装置的方法和设备
US9766702B2 (en) 2014-06-19 2017-09-19 Apple Inc. User detection by a computing device
US9392188B2 (en) 2014-08-10 2016-07-12 Corephotonics Ltd. Zoom dual-aperture camera with folded lens
US20160048202A1 (en) * 2014-08-13 2016-02-18 Qualcomm Incorporated Device parameter adjustment using distance-based object recognition
WO2016108093A1 (en) 2015-01-03 2016-07-07 Corephotonics Ltd. Miniature telephoto lens module and a camera utilizing such a lens module
KR101866482B1 (ko) 2015-04-16 2018-06-11 코어포토닉스 리미티드 소형 접이식 카메라의 오토 포커스 및 광학 이미지 안정화
DE112016001815T5 (de) * 2015-04-20 2017-12-28 Mitsubishi Electric Corporation Informationsanzeigevorrichtung und Informationsanzeigeverfahren
JP2017037159A (ja) * 2015-08-10 2017-02-16 キヤノン株式会社 画像表示装置、画像表示方法、及びプログラム
KR102143309B1 (ko) 2015-08-13 2020-08-11 코어포토닉스 리미티드 비디오 지원 및 스위칭/비스위칭 동적 제어 기능이 있는 듀얼-애퍼처 줌 카메라
KR20170034154A (ko) 2015-09-18 2017-03-28 삼성전자주식회사 콘텐츠 제공 방법 및 이를 수행하는 전자 장치
CN108353118B (zh) 2015-12-29 2019-04-02 核心光电有限公司 具有自动可调节长焦视场的双孔径变焦数字摄影机
KR102063411B1 (ko) 2016-05-30 2020-01-07 코어포토닉스 리미티드 회전식 볼-가이드 음성 코일 모터
WO2017221106A1 (en) 2016-06-19 2017-12-28 Corephotonics Ltd. Frame synchronization in a dual-aperture camera system
KR102226315B1 (ko) 2016-07-07 2021-03-12 코어포토닉스 리미티드 폴디드 옵틱용 선형 볼 가이드 음성 코일 모터
CN106120242A (zh) * 2016-07-29 2016-11-16 无锡飞翎电子有限公司 洗衣机及其控制装置和控制方法
US20180060553A1 (en) * 2016-08-29 2018-03-01 Lenovo (Singapore) Pte. Ltd. Using eddy currents of exhaled breath for authentication
CN110140078B (zh) 2016-12-28 2021-11-19 核心光电有限公司 具有延伸光折叠元件扫描范围的折叠相机结构
CN109417589B (zh) 2017-01-12 2021-10-22 核心光电有限公司 紧凑型折叠式摄影机及其组装方法
EP3596543B1 (en) * 2017-03-15 2024-04-10 Corephotonics Ltd. Camera with panoramic scanning range
KR20190011531A (ko) 2017-07-25 2019-02-07 삼성전자주식회사 디스플레이 장치와 원격 제어 장치, 이를 포함하는 디스플레이 시스템과 그 거리 산출 방법
WO2019048904A1 (en) 2017-09-06 2019-03-14 Corephotonics Ltd. STEREOSCOPIC DEPTH CARTOGRAPHY AND COMBINED PHASE DETECTION IN A DOUBLE-OPENING CAMERA
CN107734385B (zh) * 2017-09-11 2021-01-12 Oppo广东移动通信有限公司 视频播放方法、装置及电子装置
CN107613383A (zh) * 2017-09-11 2018-01-19 广东欧珀移动通信有限公司 视频音量调节方法、装置及电子装置
US10951834B2 (en) 2017-10-03 2021-03-16 Corephotonics Ltd. Synthetically enlarged camera aperture
CN110140076B (zh) 2017-11-23 2021-05-21 核心光电有限公司 紧凑型折叠式摄影机结构
US10976567B2 (en) 2018-02-05 2021-04-13 Corephotonics Ltd. Reduced height penalty for folded camera
WO2019155289A1 (en) 2018-02-12 2019-08-15 Corephotonics Ltd. Folded camera with optical image stabilization
US10694168B2 (en) 2018-04-22 2020-06-23 Corephotonics Ltd. System and method for mitigating or preventing eye damage from structured light IR/NIR projector systems
EP4109174A1 (en) 2018-04-23 2022-12-28 Corephotonics Ltd. An optical-path folding-element with an extended two degree of freedom rotation range
EP3652728B1 (en) 2018-08-04 2023-06-07 Corephotonics Ltd. Switchable continuous display information system above camera
US11635596B2 (en) 2018-08-22 2023-04-25 Corephotonics Ltd. Two-state zoom folded camera
WO2020144528A1 (en) 2019-01-07 2020-07-16 Corephotonics Ltd. Rotation mechanism with sliding joint
US11087778B2 (en) * 2019-02-15 2021-08-10 Qualcomm Incorporated Speech-to-text conversion based on quality metric
KR102268094B1 (ko) 2019-03-09 2021-06-22 코어포토닉스 리미티드 동적 입체 캘리브레이션을 위한 시스템 및 방법
JP6568331B1 (ja) * 2019-04-17 2019-08-28 京セラ株式会社 電子機器、制御方法、及びプログラム
KR102254947B1 (ko) 2019-07-31 2021-05-24 코어포토닉스 리미티드 카메라 패닝 또는 모션에서 배경 블러링을 생성하는 시스템 및 방법
US11659135B2 (en) 2019-10-30 2023-05-23 Corephotonics Ltd. Slow or fast motion video using depth information
US11949976B2 (en) 2019-12-09 2024-04-02 Corephotonics Ltd. Systems and methods for obtaining a smart panoramic image
WO2021116851A2 (en) 2019-12-09 2021-06-17 Corephotonics Ltd. Systems and methods for obtaining a smart panoramic image
KR20210081107A (ko) 2019-12-23 2021-07-01 삼성전자주식회사 디스플레이 장치 및 이의 제어 방법
CN114641805A (zh) 2020-02-22 2022-06-17 核心光电有限公司 用于微距摄影的分屏特征
US11693064B2 (en) 2020-04-26 2023-07-04 Corephotonics Ltd. Temperature control for Hall bar sensor correction
CN117372249A (zh) 2020-05-17 2024-01-09 核心光电有限公司 全视场参考图像的图像拼接
CN117518313A (zh) 2020-05-30 2024-02-06 核心光电有限公司 用于获得超微距图像的***
KR20230004887A (ko) 2020-07-15 2023-01-06 코어포토닉스 리미티드 스캐닝 폴디드 카메라에서의 시점 수차-보정
US11637977B2 (en) 2020-07-15 2023-04-25 Corephotonics Ltd. Image sensors and sensing methods to obtain time-of-flight and phase detection information
US11946775B2 (en) 2020-07-31 2024-04-02 Corephotonics Ltd. Hall sensor—magnet geometry for large stroke linear position sensing
EP4038432A4 (en) 2020-08-12 2022-12-14 Corephotonics Ltd. OPTICAL IMAGE STABILIZATION IN A FOLDED SCANNING CAMERA
KR102183475B1 (ko) * 2020-09-24 2020-11-26 주식회사 이노피아테크 단일 영상인식 서비스 운영환경에서 구간분할형 이종 영상인식 서비스 제공 방법 및 장치
CN116209974A (zh) 2020-09-25 2023-06-02 苹果公司 用于导航用户界面的方法
KR102355195B1 (ko) * 2020-09-25 2022-02-07 충북대학교 산학협력단 레이어가 구분된 디지털 광고 출력장치
WO2022182364A1 (en) * 2021-02-26 2022-09-01 Hewlett-Packard Development Company, L.P. Electronic device lock adjustments
TWI790556B (zh) * 2021-02-26 2023-01-21 佳世達科技股份有限公司 電子裝置及應用其之畫面控制方法
EP4204885A4 (en) 2021-06-08 2024-03-06 Corephotonics Ltd SYSTEMS AND CAMERAS FOR TILTING A FOCAL PLANE OF A SUPER MACRO-IMAGE

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20030097310A (ko) * 2002-06-20 2003-12-31 삼성전자주식회사 디스플레이장치의 화상크기조절방법 및 그화상크기조절시스템과 화상크기조절방법을 수행하는프로그램이 저장된 기록매체
US20040246272A1 (en) * 2003-02-10 2004-12-09 Artoun Ramian Visual magnification apparatus and method
JP4569555B2 (ja) * 2005-12-14 2010-10-27 日本ビクター株式会社 電子機器
US8537111B2 (en) * 2006-02-08 2013-09-17 Oblong Industries, Inc. Control system for navigating a principal dimension of a data space
US8086971B2 (en) * 2006-06-28 2011-12-27 Nokia Corporation Apparatus, methods and computer program products providing finger-based and hand-based gesture commands for portable electronic device applications
US8555207B2 (en) * 2008-02-27 2013-10-08 Qualcomm Incorporated Enhanced input using recognized gestures
KR101493748B1 (ko) * 2008-06-16 2015-03-02 삼성전자주식회사 물품 제공장치, 디스플레이 장치 및 이를 이용한 ｇｕｉ제공방법
CN101344816B (zh) * 2008-08-15 2010-08-11 华南理工大学 基于视线跟踪和手势识别的人机交互方法及装置
US8683390B2 (en) * 2008-10-01 2014-03-25 Microsoft Corporation Manipulation of objects on multi-touch user interface
US8788977B2 (en) * 2008-11-20 2014-07-22 Amazon Technologies, Inc. Movement recognition as input mechanism
US8610673B2 (en) * 2008-12-03 2013-12-17 Microsoft Corporation Manipulation of list on a multi-touch display
US7996793B2 (en) * 2009-01-30 2011-08-09 Microsoft Corporation Gesture recognizer system architecture
JP5288643B2 (ja) * 2009-02-06 2013-09-11 パナソニック株式会社 画像表示装置
US8669945B2 (en) * 2009-05-07 2014-03-11 Microsoft Corporation Changing of list views on mobile device
US20140053115A1 (en) * 2009-10-13 2014-02-20 Pointgrab Ltd. Computer vision gesture based control of a device
WO2011046208A1 (ja) * 2009-10-16 2011-04-21 ローム株式会社 モバイル機器
KR101639383B1 (ko) * 2009-11-12 2016-07-22 삼성전자주식회사 근접 터치 동작 감지 장치 및 방법
US8499257B2 (en) * 2010-02-09 2013-07-30 Microsoft Corporation Handles interactions for human—computer interface
US20120030624A1 (en) * 2010-07-30 2012-02-02 Migos Charles J Device, Method, and Graphical User Interface for Displaying Menus

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160085225A (ko) * 2015-01-07 2016-07-15 삼성전자주식회사 디스플레이 디바이스 및 그 동작 방법
US11516381B2 (en) 2015-01-07 2022-11-29 Samsung Electronics Co., Ltd. Display device and operating method thereof with adjustments related to an image display according to bending motion of the display device
WO2020190001A1 (ko) * 2019-03-20 2020-09-24 삼성전자 주식회사 사용자의 움직임에 기반하여 객체의 속성을 제어하는 전자 장치 및 그 제어 방법
US11989337B2 (en) 2019-03-20 2024-05-21 Samsung Electronics Co., Ltd. Electronic device controlling attribute of object on basis of user's motion, and control method therefor
WO2024058458A1 (ko) * 2022-09-15 2024-03-21 삼성전자주식회사 웹페이지를 적응적으로 표시하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체

Also Published As

Publication number Publication date
EP2453342A3 (en) 2015-05-27
CN102467234A (zh) 2012-05-23
US20120124525A1 (en) 2012-05-17
EP2453342A2 (en) 2012-05-16
KR101731346B1 (ko) 2017-04-28

Similar Documents

Publication Publication Date Title
KR101731346B1 (ko) 멀티미디어 장치의 디스플레이화면 제공 방법 및 그에 따른 멀티미디어 장치
EP2453384B1 (en) Method and apparatus for performing gesture recognition using object in multimedia device
KR20120051212A (ko) 멀티미디어 장치의 사용자 제스쳐 인식 방법 및 그에 따른 멀티미디어 장치
US9025023B2 (en) Method for processing image data in television having multiple image sensors and the television for controlling the same
US9250707B2 (en) Image display apparatus and method for operating the same
US8577092B2 (en) Multimedia device, multiple image sensors having different types and method for controlling the same
KR101899597B1 (ko) 오브젝트 정보 검색 방법 및 그를 이용한 영상 표시 장치
KR101758271B1 (ko) 멀티미디어 장치의 사용자 제스쳐 인식 방법 및 그에 따른 멀티미디어 장치
US20120268424A1 (en) Method and apparatus for recognizing gesture of image display device
KR101741550B1 (ko) 멀티미디어 장치에서 빔포밍을 이용한 최적 시청환경 제공 방법 및 장치
KR101772456B1 (ko) 멀티미디어 장치와 복수 개의 이종 이미지 센서 그리고 그 제어방법
KR101819499B1 (ko) 멀티미디어 장치와 복수 개의 이종 이미지 센서 그리고 그 제어방법
KR20150008769A (ko) 영상표시장치 및 그 동작방법
KR20120051213A (ko) 멀티미디어 장치의 영상촬영방법 및 그에 따른 멀티미디어 장치
EP3352466A1 (en) Remote control device, method for driving remote control device, image display device, method for driving image display device, and computer-readable recording medium
KR20120050614A (ko) 멀티미디어 장치와 복수 개의 이종 이미지 센서 그리고 그 제어방법
KR20120074484A (ko) 이미지 센서를 이용하는 멀티미디어 디바이스 및 그 제어 방법
KR20120115898A (ko) 촬영부를 구비한 디스플레이 장치 및 이를 제어하는 리모콘, 그 디스플레이 제어 방법
KR20150012677A (ko) 멀티미디어 장치 및 그의 사용자 명령 예측 방법
KR101759936B1 (ko) 복수개의 이종 이미지 센서를 이용하는 멀티미디어 디바이스 및 그 제어 방법
KR20120050616A (ko) 멀티미디어 장치와 복수 개의 이종 이미지 센서 그리고 그 제어방법
US20230179819A1 (en) Image display device and operation method thereof
KR20150064597A (ko) 디스플레이 장치 및 그의 동작 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant