KR101750339B1 - 증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기 - Google Patents

Abstract

본 명세서는 정보 표시 방법에 관한 것으로, 특히 증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기에 관한 것이다. 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법은, 증강현실정보와 연계된 대상을 표시하는 단계와, 상기 대상에 대해 증강현실정보 표시 여부를 결정하는 단계 및 상기 결정에 따라 상기 대상에 대해 증강현실정보를 표시하거나 표시하지 않는 단계를 포함한다.

Description

증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기{METHOD FOR DISPLAYING AUGMENTED REALITY INFORMATION AND MOBILE TERMINAL USING THIS METHOD}

본 명세서는 정보 표시 방법에 관한 것으로, 특히 증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기에 관한 것이다.

단말기(terminal)는 이동 가능 여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다.

이와 같은 단말기는 기능이 다양화됨에 따라, 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(multimedia player) 형태로 구현되고 있다. 이러한 단말기의 기능 지지 및 증대를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.

일반적으로, 종래 단말기는 증강현실 기술을 이용하여 사용자에게 현실 사물에 대한 다양한 정보를 제공한다. 일반적인 증강현실(augmented reality; AR) 기술은 단말기가 서버에 GPS 정보 및/또는 지자기 정보를 제공하면 서버가 제공된 정보에 기반하여 이동 단말기의 위치 및/또는 방향을 판단하고 단말기의 카메라가 촬영하고 있는 대상에 대한 가이드 정보(AR 정보)를 제공하는 방식으로 응용되고 있다.

그러나 증강현실정보 데이터베이스가 제공하는 정보의 종류나 개수가 늘어나고 다양한 증강현실정보 데이터베이스가 구축됨에 따라, 종래 단말기의 화면에 무수히 많은 증강현실정보가 중첩되게 표시되어 사용자가 자신이 원하는 정보를 용이하게 발견하기 어려운 문제가 존재한다.

본 명세서는 사용자가 자신이 원하는 증강현실정보를 용이하게 인식할 수 있도록 하는 증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기를 제공하는데 그 목적이 있다.

상술한 과제를 실현하기 위한 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법은, 증강현실정보와 연계된 대상을 표시하는 단계와, 상기 대상에 대해 증강현실정보 표시 여부를 결정하는 단계 및 상기 결정에 따라 상기 대상에 대해 증강현실정보를 표시하거나 표시하지 않는 단계를 포함한다.

상술한 과제를 실현하기 위한 본 명세서에 개시된 일 실시예에 따른 이동 단말기는, 증강현실정보와 연계된 대상을 표시하는 디스플레이부 및 상기 대상에 대해 증강현실정보 표시 여부를 결정하고, 상기 결정에 따라 상기 대상에 대해 증강현실정보를 표시하거나 표시하지 않는 제어부를 포함한다.

상기와 같은 본 명세서에 개시된 적어도 하나의 실시예에 따른 증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기는, 다수의 증강현실정보가 화면에 표시될 때 객체, 화면영역, 레이어 별로 증강현실정보를 표시하거나 표시하지 않음으로써 사용자가 자신이 원하는 정보만을 용이하게 인식할 수 있도록 한다.

도 1은 본 명세서에 개시된 일 실시예에 따른 이동 단말기를 나타내는 블록도이다.
도 2는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 각 대상 별로 증강현실정보를 표시하거나 표시하지 않는 예시도이다.
도 3는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 대상에 대해 표시된 증강현실정보를 이동시키는 예시도이다.
도 4는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 미리 정해진 화면영역 중 선택된 영역에 나타난 대상에 대해 증강현실정보를 표시하는 예시도이다.
도 5는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 터치 입력이 발생한 화면영역에 나타난 대상에 대해 증강현실정보를 표시하거나 표시하지 않는 예시도이다.
도 6은 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 영역 선택으로 지정된 화면영역에 나타난 대상에 대해 증강현실정보를 표시하는 예시도이다.
도 7은 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 영역 선택으로 지정된 화면영역에 나타난 대상에 대해 증강현실정보를 표시하거나 표시하지 않는 예시도이다.
도 8은 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 레이어 별로 분류되는 대상에 대해 증강현실정보를 표시하지 않는 예시도이다.
도 9는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 레이어 별로 분류되는 대상에 대해 증강현실정보를 표시하는 예시도이다.
도 10은 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 화면영역 및 레이어 별로 대상에 대해 증강현실정보를 표시하는 예시도이다.
도 11은 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법을 설명하는 순서도이다.
도 12는 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법으로서 증강현실정보의 표시에 앞서서 미리 표시 화면영역을 설정하는 경우를 설명하는 순서도이다.
도 13은 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법으로서 증강현실정보를 일단 표시한 후 표시 화면영역을 설정하는 경우를 설명하는 순서도이다.
도 14는 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법으로서 증강현실정보를 일단 표시한 후 비표시 화면영역을 설정하는 경우를 설명하는 순서도이다.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.

이동 단말기의 전체 구성

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션 등이 포함될 수 있다. 그러나, 본 명세서에 기재된 실시예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.

도 1은 본 명세서에 개시된 일 실시예에 따른 이동 단말기를 나타내는 블록도이다.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다. 방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.

위치정보 모듈(115)은 이동 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153) 및 햅틱 모듈(154) 등이 포함될 수 있다.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

도 1을 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치스크린의 근처에 근접 센서(141)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identify module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.

상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller, 180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

이동 단말기에 대한 사용자 입력의 처리 방법

사용자 입력부(130)는 이동 단말기(100)의 동작을 제어하기 위한 명령을 입력 받기 위해 조작되는 것으로서, 복수의 조작 유닛들을 포함할 수 있다. 조작 유닛들은 조작부(manipulating portion)로도 통칭 될 수 있으며, 사용자가 촉각적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다.

디스플레이부(151)에는 다양한 종류의 시각 정보들이 표시될 수 있다. 이들 정보들은 문자, 숫자, 기호, 그래픽, 또는 아이콘 등의 형태로 표시될 수 있다.

이러한 정보의 입력을 위하여 상기 문자, 숫자, 기호, 그래픽 또는 아이콘 들 중 적어도 하나는 일정한 배열을 이루어 표시됨으로써 키패드의 형태로 구현될 수 있다. 이러한 키패드는 소위 '소프트키'라 불릴 수 있다.

디스플레이부(151)는 전체 영역으로 작동되거나, 복수의 영역들로 나뉘어져 작동될 수 있다. 후자의 경우, 상기 복수의 영역들은 서로 연관되게 작동되도록 구성될 수 있다.

예를 들어, 디스플레이부(151)의 상부와 하부에는 출력창과 입력창이 각각 표시될 수 있다. 출력창과 입력창은 각각 정보의 출력 또는 입력을 위해 할당되는 영역이다. 입력창에는 전화 번호 등의 입력을 위한 숫자가 표시된 소프트키가 출력될 수 있다. 소프트키가 터치되면, 터치된 소프트키에 대응되는 숫자 등이 출력창에 표시된다. 조작 유닛이 조작되면 출력창에 표시된 전화번호에 대한 호 연결이 시도되거나 출력창에 표시된 텍스트가 애플리케이션에 입력될 수 있다.

디스플레이부(151) 또는 터치 패드는 스크롤(scroll)에 의해 터치 입력 받도록 구성될 수 있다. 사용자는 디스플레이부(151) 또는 터치 패드를 스크롤 함으로써 디스플레이부(151)에 표시된 개체, 예를 들어 아이콘 등에 위치한 커서 또는 포인터를 이동시킬 수 있다. 나아가, 손가락을 디스플레이부(151) 또는 터치 패드 상에서 이동시키는 경우, 손가락이 움직이는 경로가 디스플레이부(151)에 시각적으로 표시될 수도 있다. 이는 디스플레이부(151)에 표시되는 이미지를 편집함에 유용할 것이다.

디스플레이부(151)(터치스크린) 및 터치 패드가 일정 시간 범위 내에서 함께 터치되는 경우에 대응하여, 단말기의 일 기능이 실행될 수도 있다. 함께 터치되는 경우로는, 사용자가 엄지 및 검지를 이용하여 단말기 바디를 집는(clamping) 경우가 있을 수 있다. 상기 일 기능은, 예를 들어, 디스플레이부(151) 또는 터치 패드에 대한 활성화 또는 비활성화 등일 수 있다.

이하에서는 상기와 같이 구성된 단말기에서 구현될 수 있는 제어 방법에 관련된 실시예들에 대하여 첨부된 도면을 참조하여 설명한다. 후술하는 실시 예들은 단독으로 또는 서로 조합되어 사용될 수 있다. 또한, 후술하는 실시 예들이 상술한 사용자 인터페이스(UI)와 조합되어 사용될 수도 있다.

우선 본 명세서에 개시된 실시예들을 설명하는데 있어서 필요한 개념 또는 용어에 대해 설명한다.

증강현실정보

일반적으로 증강현실정보(AR정보)는 위치 기반(GPS 기반) 방식, 마커 인식 기반 방식 등에 의하여 획득될 수 있다.

위치 기반 방식의 경우 이동 단말기는 GPS 정보와 지자기센서 정보(방향, 기울기 정보)를 이용하여 이동 단말기가 바라보는 대상(예를 들어, 이동 단말기의 카메라가 촬영하고 있는 대상)에 대한 증강현실정보를 획득하고, 획득된 증강현실정보를 촬영 영상 상에 표시할 수 있다.

마커 인식 기반 방식의 경우 이동 단말기는 영상에 나타난 마커(marker)를 찾고, 마커의 크기와 이동 단말기와의 거리를 인식하여 마커가 표시된 대상의 3차원 위치 및/또는 거리를 판단할 수 있다.

이동 단말기는 해당 증강현실마커로부터 직접 증강현실정보를 획득하거나 해당 증강현실마커와 연계된 증강현실정보를 서버로부터 획득하고, 획득된 증강현실정보를 영상 또는 마커 위치에 표시할 수 있다.

예를 들어, 증강현실마커는 2차원 코드 형태로 구현될 수 있으며, 이 경우 문자, 숫자, 기호, 제어 코드 등의 다양한 데이터를 그 자체에 포함할 수 있다. 이동 단말기는 증강현실정보가 인코딩된 증강현실마커를 읽어 들이고, 읽어 들인 이미지 또는 2차원 코드를 디코딩하여 상기 증강현실정보를 획득할 수 있다. 증강현실마커를 2차원 코드로 구성하는 구체적인 방식에 대해서는 공지된 2차원 코드(예를 들어, QR코드, PDF417, DataMatrix, MaxiCode 등)와 유사한 방식으로 이해될 수 있으므로 이하 구체적인 설명은 생략한다.

또는, 증강현실마커에 각 증강현실정보를 식별할 수 있는 식별정보(예를 들어, 숫자 또는 문자의 조합 등)가 인코딩될 수도 있다. 이 경우, 이동 단말기는 상기 식별정보가 인코딩된 증강현실마커를 읽어 들이고, 읽어 들인 이미지 또는 2차원 코드를 디코딩하여 상기 식별정보를 획득할 수 있다. 이동 단말기는 상기 식별정보를 서버에 조회하여 대응하는 증강현실정보를 획득할 수 있다.

증강현실정보는 단일 증강현실정보 서버 또는 복수의 증강현실정보 서버로부터 획득될 수 있으며, 증강현실정보가 표시되는 대상은 건물, 상품, 배송물품, 노선도, 대중교통 등 가이드 정보가 제공될 수 있는 모든 사물을 포함한다.

증강현실정보의 표시 방법 및 이를 이용하는 이동 단말기

본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법은 다수의 증강현실정보가 화면에 표시될 때 객체, 화면영역, 레이어 별로 증강현실정보를 표시하거나 표시하지 않음으로써 사용자가 자신이 원하는 정보만을 용이하게 인식할 수 있도록 하는 방법을 제공한다.

구체적으로, 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법은, 이동 단말기(100)의 카메라(121)를 통하여 촬영되는 대상들에 대한 다수의 증강현실정보가 화면에 표시될 때, 사용자에게 필요하지 않는 증강현실정보가 화면을 가리지 않도록 사용자의 선택 또는 입력에 따라 사용자가 원하는 객체, 화면영역, 레이어에서만 증강현실정보를 표시함으로써 사용자가 자신이 원하는 증강현실정보만을 용이하게 인식할 수 있도록 한다.

이때, 이동 단말기(100)는 터치 입력, 키패드 입력, 가상 키패드 입력, 제스처 입력, 모션 입력 등을 통하여 증강현실정보를 표시하거나 표시하지 않을 수 있다. 예를 들어, 이동 단말기(100)는 화면에 표시된 객체(사물)에 대한 터치 입력, 화면영역 상에서의 터치 입력 또는 영역 지정, 레이어에 대한 키패드 입력, 터치 입력, 플리킹(flicking), 좌우 흔들기 등에 따라 증강현실정보를 표시하거나 표시하지 않을 수 있다.

이하에서는 본 명세서에 개시된 일 실시예에 따른 이동 단말기(100)의 동작을 증강현실정보와 연계된 대상 표시, 대상에 대한 증강현실정보 표시 여부 결정 및 표시 여부 결정에 따른 증강현실정보 표시 또는 비표시로 나누어 설명한다.

먼저 이동 단말기(100)가 증강현실정보와 연계된 대상 표시하는 동작에 대해 설명한다.

증강현실정보와 연계된 대상 표시

디스플레이부(151)는 증강현실정보와 연계된 적어도 하나의 대상을 표시한다.

구체적으로, 디스플레이부(151)는 증강현실정보와 연계된 적어도 하나의 대상이 나타난 영상을 표시할 수 있다. 예를 들어, 카메라(121)가 증강현실정보와 연계된 대상을 촬영하면, 디스플레이부(151)는 증강현실정보와 연계된 건물들이 나타난 거리 영상을 프리뷰 화면으로 표시하거나, 증강현실정보와 연계된 물품들이 진열된 쇼핑몰 영상을 프리뷰 화면으로 표시할 수 있다.

여기서, 상기 대상이 증강현실정보와 연계된다는 것은 상기 대상에 대하여 증강현실정보가 제공될 수 있다는 것을 의미한다. 예를 들어, 이동 단말기(100)는 상기 대상에 부착되거나 표시된 증강현실마커로부터 직접 상기 대상에 대한 증강현실정보를 제공 받을 수 있다. 또는, 이동 단말기(100)는 증강현실마커 정보를 서버에 제공하고, 서버로부터 상기 대상에 대한 증강현실정보를 제공받을 수도 있다. 또는, 이동 단말기(100)가 상기 대상의 위치 및 방향 정보를 서버에 제공하고, 서버에 의해 식별된 상기 대상에 대한 증강현실정보를 제공받을 수도 있다.

제어부(180)는 증강현실정보 표시 여부를 결정하기 전에, 영상에 나타난 대상들 중에서 증강현실정보와 연계된 모든 대상들에 대한 증강현실정보를 획득할 수 있다. 이 경우, 제어부(180)는 일단 증강현실정보와 연계된 모든 대상들에 대한 증강현실정보를 표시한 후, 사용자의 입력 또는 선택에 따라 증강현실정보를 표시하거나 표시하지 않는다.

다음으로 이동 단말기(100)가 대상에 대한 증강현실정보 표시 여부를 결정하는 동작에 대해 설명한다.

대상에 대한 증강현실정보 표시 여부 결정

제어부(180)는 상기 대상에 대해 증강현실정보 표시 여부를 결정한다.

이때, 제어부(180)는 각 대상 별로 증강현실정보를 표시할지 여부를 결정할 수 있다. 예를 들어, 제어부(180)는 디스플레이부(151)(터치스크린) 상에서 개별 대상에 대해 터치 입력이 있을 때마다 그 대상에 대해 증강현실정보를 표시하거나 표시하지 않는 것을 토글하여 결정할 수 있다.

도 2는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 각 대상 별로 증강현실정보를 표시하거나 표시하지 않는 예시도이다.

도 2를 참조하면, 이동 단말기(100)가 미술관 내부 전경을 나타내는 영상에 각 그림에 대한 증강현실정보(도 2에서는 제목, 화가, 작성연도)를 표시하고 있다. 사용자가 'The Dance Class'에 대해 표시된 증강현실정보를 터치하면(210), 이동 단말기(100)는 'The Dance Class'에 대해 표시된 증강현실정보를 제거한다(220). 다시 사용자가 'The Dance Class' 그림을 터치하면(230), 이동 단말기(100)는 'The Dance Class'에 대해 다시 증강현실정보를 표시한다(240).

도 3는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 대상에 대해 표시된 증강현실정보를 이동시키는 예시도이다.

도 3을 참조하면, 이동 단말기(100)가 미술관 내부 전경을 나타내는 영상에 각 그림에 대한 증강현실정보(도 3에서는 제목, 화가, 작성연도)를 표시하고 있다. 사용자가 'The Starry Night'에 대해 표시된 증강현실정보를 드래그하여 이동시키면(310), 이동 단말기(100)는 드래그가 종료된 위치에 'The Starry Night'에 대한 증강현실정보를 표시한다(320).

또는, 제어부(180)는 대상이 위치하는 화면영역 별로 증강현실정보를 표시할지 여부를 결정할 수도 있다. 즉, 제어부(180)는 증강현실정보를 표시하기로 결정된 화면영역에 나타난 대상들에 대해서만 증강현실정보를 표시할 수 있다. 그 결과, 증강현실정보를 표시하지 않기로 결정된 화면영역에 나타난 대상들에 대해서는 증강현실정보가 표시되지 않는다.

제어부(180)는 증강현실정보가 표시되기 전에 상기 화면영역을 지정할 수도 있고, 증강현실정보가 표시된 후에 상기 화면영역을 지정할 수도 있다. 전자의 경우 처음부터 증강현실정보를 표시하기로 결정된 화면영역에서만 증강현실정보가 표시되는 반면에, 후자의 경우에는 일단 증강현실정보와 연계된 모든 대상들에 대한 증강현실정보가 표시된 후 화면영역이 지정되는 차이가 있다.

예를 들어, 제어부(180)는 미리 지정된 분할영역들 중에서 사용자에 의해 선택되거나 입력된 영역에 대해 증강현실정보를 표시하거나 표시하지 않는 것으로 결정할 수 있다. 상기 미리 지정된 분할영역이란 2행 2열로 4분할된 영역, 3행 3열로 9분할된 영역 등이 될 수 있다.

또는, 제어부(180)는 사용자의 터치 입력이 발생한 영역 또는 터치 입력 등에 의하여 지정된 영역에 대해 증강현실정보를 표시하거나 표시하지 않는 것으로 결정할 수 있다. 즉, 제어부(180)는 사용자가 디스플레이부(151)(터치스크린) 상에서 문지르거나 플리킹한 영역, 그리기를 통하여 입력된 도형 내부 영역 등을 상기 영역으로 지정할 수 있다.

또한, 제어부(180)는 디스플레이부(151)(터치스크린) 상에서 특정 화면영역에 대해 터치 입력이 있을 때마다 그 화면영역에 나타난 대상들에 대해 증강현실정보를 표시하거나 표시하지 않는 것을 토글하여 결정할 수 있다.

예를 들어, 제어부(180)는 사용자가 디스플레이부(151)(터치스크린) 상에서 서로 다른 문지르는 방향 또는 서로 다른 플리킹 방향에 따라 해당 화면영역에 나타난 대상들에 대해 증강현실정보를 표시할지 여부를 토글할 수 있다.

또는, 제어부(180)는 사용자가 디스플레이부(151)(터치스크린) 상에서 동일한 영역에 대한 도형 입력이 있을 때마다 해당 화면영역에 대해 증강현실정보를 표시할지 여부를 토글할 수 있다.

도 4는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 미리 정해진 화면영역 중 선택된 영역에 나타난 대상에 대해 증강현실정보를 표시하는 예시도이다.

도 4를 참조하면, 이동 단말기(100)가 9분할된 화면영역을 표시하고 사용자가 맨 우측 열에 해당하는 3개 영역을 문지르면(410), 이동 단말기(100)는 상기 3개 영역에 나타난 그림들에 대한 증강현실정보를 표시한다(420).

도 5는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 터치 입력이 발생한 화면영역에 나타난 대상에 대해 증강현실정보를 표시하거나 표시하지 않는 예시도이다.

도 5를 참조하면, 이동 단말기(100)가 미술관 내부 전경을 나타내는 영상에 각 그림에 대한 증강현실정보(도 5에서는 제목, 화가, 작성연도)를 표시하고 있다. 사용자가 영상의 우측 화면영역을 위에서 아래로 문질러 터치하면(510), 이동 단말기(100)는 터치된 화면영역에 나타난 그림인 'The Starry Night', 'The Dance Class' 및 'Hail Mary'에 대해 표시된 증강현실정보를 제거한다(520). 다시 사용자가 영상의 우측 화면영역을 아래에서 위로 문질러 터치하면(530), 이동 단말기(100)는 터치된 화면영역에 나타난 그림인 'The Starry Night', 'The Dance Class' 및 'Hail Mary'에 대해 다시 증강현실정보를 표시한다(540).

도 6은 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 영역 선택으로 지정된 화면영역에 나타난 대상에 대해 증강현실정보를 표시하는 예시도이다.

도 6을 참조하면, 사용자가 영상의 우측을 포함하는 사각형 영역을 지정하면 (610), 이동 단말기(100)는 상기 사각형 영역에 나타난 그림인 'The Starry Night', 'The Dance Class', 'Hail Mary' 및 'Nympheas'에 대한 증강현실정보를 표시한다(620).

도 7은 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 영역 선택으로 지정된 화면영역에 나타난 대상에 대해 증강현실정보를 표시하거나 표시하지 않는 예시도이다.

도 7을 참조하면, 이동 단말기(100)가 미술관 내부 전경을 나타내는 영상에 각 그림에 대한 증강현실정보(도 7에서는 제목, 화가, 작성연도)를 표시하고 있다. 사용자가 영상의 우측 화면 일부에 대해 사각형 영역을 지정하면(710), 이동 단말기(100)는 지정된 화면영역에 나타난 그림인 'The Starry Night', 'The Dance Class' 및 'Hail Mary'에 대해 표시된 증강현실정보를 제거한다(720). 다시 사용자가 동일한 우측 화면 일부에 대해 사각형 영역을 지정하면(730), 이동 단말기(100)는 상기 사각형 영역에 나타난 그림인 'The Starry Night', 'The Dance Class' 및 'Hail Mary'에 대해 다시 증강현실정보를 표시한다(740).

한편, 제어부(180)는 대상이 위치하는 화면영역 별로 증강현실마커를 인식할지 여부를 결정할 수도 있다. 즉, 제어부(180)는 증강현실마커를 인식하기로 결정된 화면영역에 나타난 대상들에 대해서만 증강현실마커를 인식할 수 있다. 그 결과, 증강현실마커를 인식하지 않기로 결정된 화면영역에 나타난 대상들에 대해서는 증강현실정보가 표시되지 않는다.

화면영역 별로 증강현실마커를 인식할지 여부를 결정하고 특정 화면영역에 대해 터치 입력이 있을 때마다 그 화면영역에 대해 증강현실정보 표시 여부를 토글하는 경우에 대해서는 상술한 화면영역 별로 증강현실정보를 표시할지 여부를 결정하고 특정 화면영역에 대해 터치 입력이 있을 때마다 그 화면영역에 대해 증강현실정보 표시 여부를 토글하는 경우에 대하여 설명한 바와 유사하게 이해될 수 있으므로 이하 상세한 설명을 생략한다.

제어부(180)는 대상을 분류하는 레이어 별로 증강현실정보를 표시할지 여부를 결정할 수도 있다. 즉, 제어부(180)는 증강현실정보를 표시하기로 결정된 레이어에 포함된 대상들에 대해서만 증강현실정보를 표시할 수 있다. 그 결과, 증강현실정보를 표시하지 않기로 결정된 레이어에 포함된 대상들에 대해서는 증강현실정보가 표시되지 않는다.

상기 레이어(layer)는 사용자가 각 대상에 대해 부여한 레이어 태그(tag), 종류(카테고리) 또는 분류에 따라 정의될 수 있다. 또는, 상기 레이어는 사용자가 영상을 줌 인 또는 줌 아웃을 하며 각 대상에 대해 부여한 거리 정보에 따라 정의될 수도 있다.

또는, 상기 레이어(layer)는 각 대상의 종류(카테고리), 또는 각 대상과 이동 단말기(100) 간의 거리에 따라 제어부(180)에 의해 자동으로 분류되어 정의될 수도 있다.

또한, 제어부(180)는 디스플레이부(151)(터치스크린) 상에서 특정 레이어에 대해 터치 입력이 있을 때마다 그 레이어에 포함된 대상들에 대해 증강현실정보를 표시하거나 표시하지 않는 것을 토글하여 결정할 수 있다.

예를 들어, 제어부(180)는 사용자가 디스플레이부(151)(터치스크린) 상에서 서로 다른 플리킹 방향(상하 플리킹 방향, 좌우 플리킹 방향 등) 또는 서로 다른 제스처에 따라 해당 레이어에 포함된 대상들에 대해 증강현실정보를 표시할지 여부를 토글할 수 있다.

제어부(180)는 증강현실정보 표시 여부를 결정한 후에, 영상에 나타난 대상들 중에서 상기 증강현실정보를 표시하기로 결정된 대상에 대한 증강현실정보를 획득할 수 있다. 이 경우, 제어부(180)는 증강현실정보를 표시하기로 결정된 대상에 대해서만 증강현실정보를 획득함으로써 증강현실정보를 획득하는데 소요되는 리소스를 줄일 수 있다.

도 8은 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 레이어 별로 분류되는 대상에 대해 증강현실정보를 표시하지 않는 예시도이다.

도 8을 참조하면, 이동 단말기(100)가 미술관 내부 전경을 나타내는 영상에 각 그림에 대한 증강현실정보(도 8에서는 제목, 화가, 작성연도)를 표시하고 있다. 사용자가 화면의 좌측에서 우측으로 플리킹하면(810), 이동 단말기(100)는 가장 근접한 그림인 'The Starry Night', 'Hail Mary', 'Girls at the Piano', 'The Fifer' 및 'Sunset at Ivry'에 대해 표시된 증강현실정보를 제거한다(820). 다시 사용자가 화면의 좌측에서 우측으로 플리킹하면(830), 이동 단말기(100)는 그 다음으로 근접한 그림인 'The Dance Class' 및 'Nympheas'에 대해 또 증강현실정보를 제거한다(840).

도 9는 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 레이어 별로 분류되는 대상에 대해 증강현실정보를 표시하는 예시도이다.

도 9를 참조하면, 이동 단말기(100)가 미술관 내부 전경을 나타내는 영상에 각 그림에 대한 증강현실정보(도 9에서는 제목, 화가, 작성연도)를 표시하고 있다. 사용자가 화면의 우측에서 좌측으로 플리킹하면(910), 이동 단말기(100)는 현재 증강현실정보가 표시되고 있는 그림보다 좀 더 근접한 그림인 'The Dance Class' 및 'Nympheas'에 대해 증강현실정보를 표시한다(920). 다시 사용자가 화면의 우측에서 좌측으로 플리킹하면(930), 이동 단말기(100)는 가장 근접한 그림인 'The Starry Night', 'Hail Mary', 'Girls at the Piano', 'The Fifer' 및 'Sunset at Ivry'에 에 대해 증강현실정보를 표시한다(940).

도 10은 본 명세서에 개시된 일 실시예에 따른 이동 단말기가 화면영역 및 레이어 별로 대상에 대해 증강현실정보를 표시하는 예시도이다.

도 10을 참조하면, 이동 단말기(100)가 미술관 내부 전경을 나타내는 영상에 각 그림에 대한 증강현실정보(도 10에서는 제목, 화가, 작성연도)를 표시하고 있다. 사용자가 영상의 우측 화면 일부에 대해 사각형 영역을 지정하면(1010), 이동 단말기(100)는 지정된 화면영역에 나타난 그림인 'The Starry Night', 'The Dance Class' 및 'Hail Mary'에 대해 표시된 증강현실정보를 제거한다(1020). 다시 사용자가 화면의 좌측에서 우측으로 플리킹하면(1030), 이동 단말기(100)는 가장 근접한 그림인 'Girls at the Piano', 'The Fifer' 및 'Sunset at Ivry'에 대해 증강현실정보를 제거한다(1040).

다음으로 이동 단말기(100)가 증강현실정보 표시 여부 결정에 따라 증강현실정보를 표시하거나 표시하지 않는 동작에 대해 설명한다.

표시 여부 결정에 따른 증강현실정보 표시 또는 비표시

제어부(180)는 특정 대상에 대한 증강현실정보 표시 여부 결정에 따라 상기 대상에 대해 증강현실정보를 표시하거나 표시하지 않는다. 또한, 상술한 바와 같이, 제어부(180)는 사용자의 드래그 등의 입력에 따라 각 대상에 대한 증강현실정보의 위치 및/또는 방향을 조정할 수도 있다.

한편, 제어부(180)는 대상, 화면영역 또는 레이어에 대한 식별정보 및 상기 대상, 화면영역 또는 레이어에 대한 증강현실정보 표시 여부 정보를 메모리(160)에 저장할 수 있다.

여기서, 상기 대상에 대한 식별정보는 상기 대상을 특정할 수 있는 위치 및 방향 정보(예를 들어, GPS 정보 및 지자기센서 정보 등), 증강현실정보 데이터베이스 상에서 상기 대상을 특정할 수 있는 고유식별번호 등일 수 있다. 상기 대상이 화면에서 사라졌다가 다시 표시되는 경우, 제어부(180)는 상기 대상에 대한 식별정보 및 증강현실정보 표시 여부 정보에 기반하여 이전 설정대로 상기 대상에 대해 증강현실정보를 표시하거나 표시하지 않을 수 있다.

또는, 상기 화면영역은 화면 상의 X축 픽셀 좌표 및 Y축 픽셀 좌표를 이용하여 정의될 수 있다. 예를 들어, 상기 화면영역이 다각형 형태로 지정되는 경우, 상기 화면영역에 대한 식별정보는 화면 상에서 상기 다각형의 적어도 하나의 꼭지점의 X축 픽셀 좌표 및 Y축 픽셀 좌표를 포함할 수 있다. 이동 단말기(100)의 위치 및 방향의 변경으로 인하여 디스플레이부(151)가 표시하는 화면이 달라지더라도, 제어부(180)는 화면영역에 대한 식별정보에 기반하여 해당 화면영역에서만 증강현실을 표시하거나 표시하지 않을 수 있다.

또는, 레이어에 대한 식별정보는 상술한 대상에 대한 식별정보의 집합 형태로 정의될 수 있다. 즉, 레이어에 대한 식별정보는 적어도 하나의 대상에 대한 식별정보를 포함할 수 있다.

도 11은 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법을 설명하는 순서도이다.

도 11을 참조하면, 먼저 이동 단말기(100)는 증강현실정보와 연계된 대상을 표시한다(S1110).

다음으로 이동 단말기(100)는 상기 대상에 대해 증강현실정보 표시 여부를 결정한다(S1120).

이때, 이동 단말기(100)는 각 대상 별로 증강현실정보를 표시할지 여부를 결정할 수 있다. 특히, 이동 단말기(100)는 각 대상에 대한 터치 입력에 따라 증강현실정보를 표시할지 여부를 토글할 수 있다.

또는, 이동 단말기(100)는 대상이 위치하는 화면영역 별로 상기 증강현실정보 표시 여부를 결정하거나, 대상이 위치하는 화면영역 별로 증강현실마커 인식 여부를 결정할 수 있다. 특히, 이동 단말기(100)는 화면영역에 대한 터치 입력 또는 영역 지정에 따라 증강현실정보를 표시할지 여부를 토글할 수 있다.

또는, 이동 단말기(100)는 대상을 분류하는 레이어 별로 상기 증강현실정보 표시 여부를 결정할 수 있다. 여기서, 상기 레이어는 대상의 종류, 대상에 대해 부여된 태그, 또는 대상과 이동 단말기 간의 거리에 따라 대상을 분류하도록 정의될 수 있다. 특히, 이동 단말기(100)는 영상(화면) 상의 플리킹 방향에 따라 증강현실정보를 표시할지 여부를 토글할 수 있다.

한편, 이동 단말기(100)는 상기 증강현실정보 표시 여부를 결정한 후 상기 증강현실정보를 표시하기로 결정된 대상에 대한 증강현실정보를 획득하거나, 상기 증강현실정보 표시 여부를 결정하기 전에 상기 대상에 대한 증강현실정보를 획득할 수 있다. 여기서, 상기 증강현실정보는 이동 단말기(100)가 인식한 증강현실마커에 기반하여 획득되거나 이동 단말기(100)의 위치 및 방향에 기반하여 서버로부터 획득될 수 있다.

다음으로 이동 단말기(100)는 상기 결정에 따라 상기 대상에 대해 증강현실정보를 표시하거나 표시하지 않는다(S1130).

한편, 이동 단말기(100)는 상기 대상에 대한 식별정보 및 증강현실정보 표시 여부 정보를 저장할 수 있다. 이동 단말기(100)는, 상기 대상이 화면에서 사라졌다가 다시 표시되는 경우, 상기 대상에 대한 상기 식별정보 및 상기 증강현실정보 표시 여부 정보에 기반하여 상기 대상에 대해 증강현실정보를 표시하거나 표시하지 않을 수 있다.

도 12는 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법으로서 증강현실정보의 표시에 앞서서 미리 표시 화면영역을 설정하는 경우를 설명하는 순서도이다.

도 12를 참조하면, 먼저 이동 단말기(100)는 증강현실정보를 표시할 화면영역을 설정한다(S1210). 다음으로 이동 단말기(100)는 촬영 대상을 화면에 표시한다(S1220). 그리고 이동 단말기(100)는 설정된 화면영역에 포함된 대상에 대해서만 증강현실정보를 표시한다(S1230).

도 13은 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법으로서 증강현실정보를 일단 표시한 후 표시 화면영역을 설정하는 경우를 설명하는 순서도이다.

도 13을 참조하면, 먼저 이동 단말기(100)는 촬영 대상을 화면에 표시한다(S1310). 다음으로 이동 단말기(100)는 증강현실정보를 표시할 화면영역을 설정한다(S1320). 그리고 이동 단말기(100)는 설정된 화면영역에 포함된 대상에 대해서만 증강현실정보를 표시한다(S1330).

도 14는 본 명세서에 개시된 일 실시예에 따른 증강현실정보의 표시 방법으로서 증강현실정보를 일단 표시한 후 비표시 화면영역을 설정하는 경우를 설명하는 순서도이다.

도 14를 참조하면, 먼저 이동 단말기(100)는 촬영대상 및 상기 촬영대상에 대응하는 증강현실정보를 화면에 표시한다(S1410). 다음으로 이동 단말기(100)는 증강현실정보를 표시하지 않을 화면영역을 설정한다(S1420). 그리고 이동 단말기(100)는 설정된 화면영역에 포함된 대상에 대해서는 증강현실정보를 제거한다(즉, 표시하지 않는다)(S1430).

본 명세서에 개시된 실시예들에 따른 증강현실정보의 표시 방법에 대하여는 상술한 본 명세서에 개시된 실시예들에 따른 이동 단말기에 대하여 도 1 내지 도 10을 참조하여 설명한 바와 유사하게 이해될 수 있으므로 이하 상세한 설명을 생략한다.

또한, 본 명세서에 개시된 일 실시예에 의하면, 전술한 방법은, 프로그램이 기록된 매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등이 있으며, 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.

상기와 같이 설명된 이동 단말기는 상기 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

이상에서 본 명세서에 개시된 실시예들을 첨부된 도면들을 참조로 설명하였다.

여기서, 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 본 명세서에 개시된 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다.

따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 명세서에 개시된 일 실시예에 불과할 뿐이고, 본 명세서에 개시된 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형예들이 있을 수 있음을 이해하여야 한다.

100: 이동단말기 110: 무선통신부
120: A/V 입력부 130: 사용자 입력부
140: 센싱부 150: 출력부
160: 메모리 170: 인터페이스부
180: 제어부 190: 전원 공급부

Claims (26)

1. 청구항 1은(는) 설정등록료 납부시 포기되었습니다.

   화면에 복수의 대상이 포함된 이미지를 표시하는 단계;
   상기 표시된 복수 대상 간 상대 거리에 따라 분류된 각 대상의 증강현실(AR)정보를 레이어 별로 중첩되게 표시하는 단계;
   화면상에서의 터치 입력을 감지하는 단계; 및
   화면의 AR정보 표시상태 및 감지된 터치 입력 타입에 따라 상기 표시된 적어도 하나의 AR정보를 삭제 또는 표시하는 단계;를 포함하고,
   상기 AR정보를 삭제 또는 표시하는 단계는
   상기 감지된 터치 입력이 영역을 지정하기 위한 터치 제스처이면 해당 영역에 포함된 AR정보를 삭제하는 단계;
   상기 감지된 터치 입력이 플리킹이면 플리킹 방향을 체크하는 단계;
   상기 플리킹 방향이 제1방향이면 플리킹 횟수에 따라 상기 복수 대상의 AR정보를 레이어 별로 순차 삭제하는 단계; 및
   상기 플리킹 방향이 제1방향과 반대인 제2방향이면 플리킹 횟수에 따라 상기 복수 대상의 삭제된 AR정보를 레이어 별로 순차적으로 다시 표시하는 단계;를 포함하는 증강현실정보의 표시 방법.
2. 삭제
3. 삭제
4. 청구항 4은(는) 설정등록료 납부시 포기되었습니다.

   제1항에 있어서, 상기 영역은
   터치 포인트를 포함하며, 상기 영역이 터치 포인트이면 상기 터치 포인트에 의해 선택된 AR정보가 삭제되는 것을 특징으로 하는 증강현실정보의 표시 방법.
5. 삭제
6. 삭제
7. 삭제
8. 삭제
9. 청구항 9은(는) 설정등록료 납부시 포기되었습니다.

   제1항에 있어서, 상기 레이어는
   대상의 종류, 대상에 대해 부여된 태그, 또는 대상과 이동 단말기 간의 거리에 따라 대상을 분류하도록 정의되는 것을 특징으로 하는 증강현실정보의 표시 방법.
10. 청구항 10은(는) 설정등록료 납부시 포기되었습니다.

    제1항에 있어서, 상기 AR정보를 삭제 또는 표시하는 단계는
    상기 감지된 터치 입력이 영역을 지정하기 위한 터치 제스처이고 해당 영역에 AR정보가 표시되고 있지 않은 경우 해당 영역에 포함된 대상의 AR정보를 획득하는 단계; 및
    상기 획득된 대상의 AR정보를 표시하는 단계;를 더 포함하는 것을 특징으로 하는 증강현실정보의 표시 방법.
11. 삭제
12. 청구항 12은(는) 설정등록료 납부시 포기되었습니다.

    제10항에 있어서, 상기 AR정보는
    이동 단말기가 인식한 증강현실마커에 기반하여 획득되거나 이동 단말기의 위치 및 방향에 기반하여 서버로부터 획득되는 것을 특징으로 하는 증강현실정보의 표시 방법.
13. 청구항 13은(는) 설정등록료 납부시 포기되었습니다.

    제1항에 있어서, 상기 삭제된 AR정보를 저장하는 단계; 및
    상기 AR정보가 삭제된 후 이전 영역과 동일한 영역이 감지되면 상기 삭제된 AR정보를 다시 표시하는 단계;를 더 포함하는 것을 특징으로 하는 증강현실정보의 표시 방법.
14. 복수의 대상이 포함된 이미지를 표시하는 디스플레이부; 및
    상기 표시된 복수 대상 간 상대 거리에 따라 분류된 각 대상의 증강현실(AR)정보를 레이어 별로 중첩되게 표시하고, 화면에 입력되는 터치 입력의 타입에 따라 적어도 하나의 AR정보를 삭제 또는 표시하는 제어부;를 포함하고,
    상기 제어부는
    (a) 상기 감지된 터치 입력이 영역을 지정하기 위한 터치 제스처이면 해당 영역에 포함된 AR정보를 삭제하고,
    (b) 상기 감지된 터치 입력이 플리킹이면 플리킹 방향을 체크하여;
    (c) 상기 플리킹 방향이 제1방향이면 플리킹 횟수에 따라 상기 복수 대상의 AR정보를 레이어 별로 순차 삭제하고,
    (d) 상기 플리킹 방향이 제1방향과 반대인 제2방향이면 플리킹 횟수에 따라 상기 복수 대상의 삭제된 AR정보를 레이어 별로 순차적으로 다시 표시하는 것을 특징으로 하는 이동 단말기.
15. 삭제
16. 삭제
17. 제14항에 있어서, 상기 영역은
    터치 포인트를 포함하며, 상기 영역이 터치 포인트이면 상기 터치 포인트에 의해 선택된 AR정보가 삭제되는 것을 특징으로 하는 이동 단말기.
18. 삭제
19. 삭제
20. 삭제
21. 삭제
22. 제14항에 있어서, 상기 레이어는
    대상의 종류, 대상에 대해 부여된 태그, 또는 대상과 이동 단말기 간의 거리에 따라 대상을 분류하도록 정의되는 것을 특징으로 하는 이동 단말기.
23. 제14항에 있어서, 상기 제어부는
    상기 감지된 터치 입력이 영역을 지정하기 위한 터치 제스처이고 해당 영역에 AR정보가 표시되고 있지 않은 경우 해당 영역에 포함된 대상의 AR정보를 획득하여, 상기 획득된 대상의 AR정보를 표시하는 것을 특징으로 하는 이동 단말기.
24. 제14항에 있어서, 상기 제어부는
    상기 복수 객체의 레이어가 동일한지 체크하여,
    상기 복수 객체의 레이어가 동일하면 해당 영역에 포함되는 객체의 AR정보를 삭제하고,
    상기 복수 객체의 레이어가 동일하지 않으면 레이어 별로 복수 객체의 AR정보를 삭제하는 것을 특징으로 하는 이동 단말기.
25. 제23항에 있어서, 상기 증강현실정보는
    이동 단말기가 인식한 증강현실마커에 기반하여 획득되거나 이동 단말기의 위치 및 방향에 기반하여 서버로부터 획득되는 것을 특징으로 하는 이동 단말기.
26. 제14항에 있어서, 상기 삭제된 AR정보를 저장하는 메모리를 더 포함하고,
    상기 제어부는 AR정보가 삭제된 후 이전 영역과 동일한 영역이 감지되면 상기 삭제된 AR정보를 다시 표시하는 것을 특징으로 하는 이동 단말기.

Images