KR100703362B1 - 휴대형 단말기의 악기 연주 게임 방법 및 장치 - Google Patents

휴대형 단말기의 악기 연주 게임 방법 및 장치 Download PDF

Info

Publication number
KR100703362B1
KR100703362B1 KR1020050103905A KR20050103905A KR100703362B1 KR 100703362 B1 KR100703362 B1 KR 100703362B1 KR 1020050103905 A KR1020050103905 A KR 1020050103905A KR 20050103905 A KR20050103905 A KR 20050103905A KR 100703362 B1 KR100703362 B1 KR 100703362B1
Authority
KR
South Korea
Prior art keywords
sound source
pattern
instrument
input
musical instrument
Prior art date
Application number
KR1020050103905A
Other languages
English (en)
Inventor
이선기
이강훈
이정순
심대현
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020050103905A priority Critical patent/KR100703362B1/ko
Application granted granted Critical
Publication of KR100703362B1 publication Critical patent/KR100703362B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72427User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for supporting games or graphical animations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72442User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for playing music files
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2230/00General physical, ergonomic or hardware implementation of electrophonic musical tools or instruments, e.g. shape or architecture
    • G10H2230/005Device type or category
    • G10H2230/015PDA [personal digital assistant] or palmtop computing devices used for musical purposes, e.g. portable music players, tablet computers, e-readers or smart phones in which mobile telephony functions need not be used
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/52Details of telephonic subscriber devices including functional features of a camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/54Details of telephonic subscriber devices including functional features of a projector or beamer module assembly

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Electrophonic Musical Instruments (AREA)

Abstract

본 발명은 휴대형 단말기를 통해 악기연주 서비스를 제공하는 방법 및 장치에 관한 것으로, 사용자의해 선택된 악기 연주 게임 컨텐츠 설정에 따라 핑거 보드로 등록된 악기 패턴을 투사 표시하고, 상기 악기 연주 게임 컨텐츠에 대응하는 음악과 관련된 기본 음원을 재생하고, 상기 기본 음악 재생에 따른 상기 핑거 보드 입력 패턴을 표시장치에 디스플레이하고, 상기 투사 표시된 악기 패턴상의 사용자 조작을 인식하고, 상기 인식된 사용자 조작에 대응되는 음원 정보를 독출하여 상기 기본 연주 음원과 함께 재생하어 출력하고, 상기 인식된 사용자 조작과 상기 핑거 보드 입력 패턴을 비교하여 상기 사용자 조작이 미리 정해진 오차 범위 내에서 인식되어지는지에 따라 정상 입력 여부를 판단하여 결과를 제공함을 특징으로 한다.
악기 패턴 투사, 핑거 보드 입력 패턴, 악기 연주 게임

Description

휴대형 단말기의 악기 연주 게임 방법 및 장치{METHOD AND APPARATUS PLAYING A MUSICAL INSTRUMENTS GAME IN PORTABLE TERMINAL}
도1은 본 발명이 적용되는 휴대형 단말기의 구성을 나타낸 도면,
도2a와 도2b는 본 발명의 일 실시예에 따라 악기 패턴을 투사 표시한 예를 나타낸 도면,
도3은 본 발명의 일 실시예에 따라 악기 연주 게임 설정 과정에 따른 휴대형 단말기의 동작 흐름도,
도4는 본 발명의 일 실시예예 따른 악기 연주 게임 설정 과정에 따른 메뉴 화면을 나타낸 도면,
도5는 본 발명의 일 실시예에 따라 악기 연주 게임 실행 과정에 따른 휴대형 단말기의 동작 흐름도,
도6은 본 발명의 일 실시예에 따른 악기 연구 게임 실행시 악기 패턴 투사와 표시화면을 나타낸 도면.
본 발명은 휴대형 단말기에 관한 것으로, 특히 휴대형 단말기를 통해 악기연주 서비스를 제공하는 방법 및 장치에 관한 것이다.
기술의 발달과 더불어 이동통신 단말기나 PDA 등과 같은 휴대형 단말기에도 고품질의 다양한 기능이 부가되기 시작했다.
이러한 추세에 부응하여, 상기 휴대형 단말기에는 다양한 목적으로 사용가능한 멜로디나 벨을 편집하는 기능으로부터 확장된 연주 서비스가 구비되기에 이르렀다.
예를 들면, 대한민국 특허청에 "멜로디 연주기능이 구비된 휴대폰"을 명칭으로 하여 특허 출원된 제10-2002-66875호는 멜로디칩을 내장하여 사용자가 키패드를 조작하여 멜로디를 연주할 수 있도록 하기 위한 것으로, 전화번호를 다이얼하기 위한 숫자키(0-9) 및 기능키로 사용되는 *키 및 #키를 구비하고 있는 키패드 상기 키패드로부터 눌러지는 키를 인식하여 상기 키신호를 구별하기 위한 멜로디 선택제어신호를 발생하는 제어부 상기 제어부의 멜로디 선택제어신호에 의해 다양한 멜로디 주파수를 발생하는 멜로디칩 상기 멜로디 주파수를 필터링하여 음색을 갖도록 변환하여 출력하는 필터링부 및 상기 필터링부로부터 출력된 멜로디 음색을 일정레벨로 증폭하여 스피커를 통해 송출하는 증폭기를 포함하여 이루어진 멜로디 연주 기능이 구비된 휴대폰을 개시한다.
상기한 바와 같은 종래에는 악기의 형상과는 전혀 다른 휴대형 단말기의 키패드를 통해 연주 서비스를 제공하므로, 악기 조작에 익숙한 사용자도 상기 휴대형 단말기로는 자연스럽게 연주를 할 수 없었다.
또한 상기 휴대형 단말기의 키패드에 구비되는 키의 수는 매우 한정적이므로, 다양한 음역에 대한 연주 서비스를 제공할 수는 없었다.
또한 키를 누르는데 소요되는 시간을 단축시키기는 곤란하므로, 드럼 등과 같은 타악기를 상기 휴대형 단말기를 통해 자연스럽게 연주하기는 어려웠다.
더욱이 이를 이용하여 게임에 응용하는 경우도 없었다.
이에 따라 종래에는 휴대형 단말기로도 자연스러운 악기 연주를 가능하게 하고, 이를 확장하여 게임에 적용하는 기술의 발달이 절실하게 요망되었다.
따라서 본 발명의 목적은 다양한 악기를 게임에 맞추어 자연스럽고 편리하게 연주할 수 있게 하는 휴대형 단말기의 악기연주 게임 제공 방법 및 장치를 제공함에 있다.
또한 본 발명의 다른 목적은 사용자에게 익숙한 형태의 악기 패턴을 통해 연주 게임을 가능하게 하기 위해, 투사 표시된 악기 패턴상의 사용자의 조작을 감지하고 그 사용자 조작에 따른 오디오 신호를 출력하는 휴대형 단말기의 악기 연주 게임 제공 방법 및 장치를 제공함에 있다.
상기의 목적을 달성하기 위한 본 발명은 사용자의해 선택된 악기 연주 게임 컨텐츠 설정에 따라 핑거 보드로 등록된 악기 패턴을 투사 표시하는 과정과, 상기 악기 연주 게임 컨텐츠에 대응하는 음악과 관련된 기본 음원을 재생하고, 상기 기본 음악 재생에 따른 상기 핑거 보드 입력 패턴을 표시장치에 디스플레이하는 과정과, 상기 투사 표시된 악기 패턴상의 사용자 조작을 인식하는 과정과, 상기 인식된 사용자 조작에 대응되는 음원 정보를 독출하여 상기 기본 연주 음원과 함께 재생하어 출력하고, 상기 인식된 사용자 조작과 상기 핑거 보드 입력 패턴을 비교하여 상기 사용자 조작이 미리 정해진 오차 범위 내에서 인식되어지는지에 따라 정상 입력 여부를 판단하여 결과를 제공하는 과정을 포함함을 특징으로 한다.
이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 일실시예를 상세히 설명한다. 도면에서 동일한 구성요소들에 대해서는 비록 다른 도면에 표시되더라도 가능한 한 동일한 참조번호 및 부호로 나타내고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어서, 관련된 공지기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명은 생략한다.
이러한 본 발명의 바람직한 실시예에 따르는 휴대형 단말기의 구성을 도 1을 참조하여 설명한다.
상기 휴대형 단말기의 제어부(100)는 상기 휴대형 단말기를 전반적으로 제어함은 물론이며, 본 발명의 바람직한 실시예에 따른 악기연주 서비스를 제공하기 위해 도 1의 각부를 제어한다.
이러한 제어부(100)의 동작을 좀더 설명하면, 상기 제어부(100)는 악기 연주 게임 실행시 사용자의 선택에 따른 악기 연주 게임 컨텐츠에 대응하는 음악에 대한 기본 음원을 재생하고, 핑거 보드 입력 패턴을 표시장치(120)에 디스플레이하고, 선택된 악기에 대한 패턴을 투사 표시한다. 그리고 제어부(100)는 그 투사 표시된 악기 패턴상의 사용자 조작을 인식하도록 악기연주용 사용자 인터페이스부(102)를 제어한다. 상기한 제어에 따라 상기 악기연주용 사용자 인터페이스부(102)가 투사 표시된 악기 패턴상의 사용자 조작을 인식하여 그 인식결과를 제공하면, 상기 제어부(100)는 악가 연주 게임 컨텐츠에 따른 상기 핑거 보드 입력 패턴과 상기 사용자 조작을 대비하여, 미리 정해진 오차 내에 상기 사용자 조작이 입력되었는지 판단하여 그 결과를 점수로 환산한다. 그리고 제어부(100)는 상기 사용자 조작에 대응되는 음원정보를 검출하고, 그 음원정보에 따른 오디오 신호를 출력하도록 음원칩(116)을 제어한다. 이러한 제어부(100)의 제어에 따라 상기 음원칩(116)은 상기 음원정보에 따른 오디오 신호를 상기 기본 연주와 함께 실시간으로 스피커(112)를 통해 출력한다. 이로서 본 발명에 따른 악기 연주 게임이 이행된다.
또한 상기 제어부(100)는 상기 연주 서비스를 제공하는 중에 사용자에 의해 악보 서비스가 요청되면, 메모리부(124)에 저장된 악보정보를 독출하여 표시장치(120)를 통해 표시한다. 상기 악보정보의 표시방식은 다양하게 제공될 수 있으며, 상기 제어부(100)는 상기 다양한 종류의 악보정보 표시방법중 어느 하나를 사용자로부터 선택받아 그 선택에 따른 방식으로 상기 악보정보를 표시한다.
또한 상기 제어부(100)는 상기 연주 서비스를 제공하는 중에 사용자에 의해 촬상이 요청되면, 제2촬상장치(126)를 통해 사용자의 연주장면을 촬상하고, 그 촬상한 연주장면을 표시장치(120)를 통해 재생하기도 한다.
상기 메모리부(124)는 상기 제어부(100)의 처리 프로그램을 포함하는 다양한 정보를 저장한다. 특히 본 발명의 바람직한 실시예에 따라 다수의 악기 연주 게임 컨텐츠 정보, 악기 연주 게임에 이용되는 다수의 음악에 대한 기본 연주로 이루어진 기본 음원과, 각 악기 연주 게임 컨텐츠에 따른 다수의 핑거 보드 입력 패턴, 다수의 악기 패턴 정보, 다수의 악기 패턴에 각기 대응되는 음원정보, 다수의 악기 각각에 대한 세부설정항목 설정정보, 다수의 연주정보, 다수의 악보정보, 연주장면 촬상정보 등이 저장된다.
상기 악기 패턴 정보란 다수의 악기에 대응되는 악기 패턴에 대한 정보로서 예를 들어 피아노, 섹스폰, 전자 드럼 패드 등을 포함될 수 있다. 상기 핑거 보드 입력 패턴이란 악기 연주 게임시 사용자에 의해 선택된 악기의 연주를 유도하는 연주 패턴으로서, 해당 악기의 연주 시점과, 연주 형태를 나타내는 패턴이다. 예를 들어, 사용자에 의해 선택된 악기가 피아노이면, 악기 연주 게임시 사용자가 피아노를 쳐야할 시점과, 쳐야할 음원에 대한 패턴을 나타내는 것이다. 상기 핑거 보드 입력 패턴은 해당 곡의 기본 음원에 해당 악기의 연주가 어울리도록 구성되어지며, 게임 실행시 상기 표시장치(120)에 디스플레이된다. 디스플레이되는 형태는 예를 들어, 사용자가 입력해야할 음원의 종류를 나타내는 이미지가 구분되어 디스플레이되고, 각각의 음원이 입력되어야할 시점에 해당 음원에 대응하는 이미지가 점멸하는 형태로 구성되어 질 수 있다. 또는 표시화면의 하부에 사용자가 입력해야할 음원의 종류를 나타내는 기본 이미지를 디스플레이하고, 게임이 진행됨에 따라 입력해야할 음원에 대응하는 이미지를 표시화면의 상부에서 하부를 향하는 방향으로 이 동하도록 디스플레이함으로써, 입력 시점에 이미 디스플레이된 상기 기본 이미지와 완전히 일치되도록 디스플레이하도록 구성되어 질 수도 있다. 이러한 예를 도6에 도시하였다. 도6은 본 발명의 일 실시예에 따른 악기 연구 게임 실행시 악기 패턴 투사와 표시화면을 나타낸 도면이다.
여기서, 상기 악기 패턴에 대응되는 음원정보를 피아노의 연주를 예로 들어 간략히 설명한다.
상기 휴대형 단말기는 본 발명의 악기연주용 사용자 인터페이스부(102)는 피아노 건반에 대한 패턴을 투사 표시함과 아울러 그 투사 표시된 피아노 건반 패턴상의 사용자 조작을 인식할 수 있다.
상기 제어부(100)는 악기연주용 사용자 인터페이스부(102)로부터 상기 투사 표시된 피아노 건반 패턴상의 사용자 조작위치에 대한 정보를 인식한 결과를 제공받는다.
상기 사용자 조작위치에 대한 인식결과가 제공되면, 상기 제어부(100)는 피아노 건반 패턴상의 사용자 조작위치에 대응되는 오디오를 출력하도록 음원칩(116)을 제어하기 위해 상기 피아노 건반 패턴상의 사용자 조작위치에 대응되는 음원정보를 획득하여야 한다.
이를 위해 상기 메모리부(124)에는 상기 피아노 건반 패턴상의 사용자 조작위치에 대응되는 음원정보가 매칭된 테이블이 "악기 패턴에 대응되는 음원정보"라는 명칭으로 저장된다.
이에 따라 상기 제어부(100)는 피아노 건반 패턴상의 사용자 조작위치에 대 응되는 음원정보를 획득할 수 있으며, 상기 획득한 음원정보를 음원칩(116)에 제공함으로써 사용자 조작에 대응되는 오디오가 출력될 수 있게 한다.
상기 악기연주용 사용자 인터페이스부(102)는 제1촬상장치(104), 모션인식부(106), 투사형 디스플레이 장치(108), 제1비디오 신호 처리 및 출력부(110)로 구성된다.
상기 제1비디오 신호 처리 및 출력부(110)는 상기 제어부(100)가 제공하는 악기 패턴 정보를 투사 표시하기 위한 신호로 변형하여 상기 투사형 디스플레이 장치(108)에 제공한다. 상기 투사형 디스플레이 장치(108)는 상기 제1비디오 신호 처리 및 출력부(110)의 출력신호에 따라 악기 패턴을 투사 표시한다. 여기서, 사용자는 상기 투사 표시된 악기 패턴에 따른 악기를 연주하며, 상기 악기 연주를 위한 손의 움직임은 상기 제1촬상장치(104)에 의해 촬상된다.
상기 제1촬상장치(104)는 상기 투사 표시된 악기패턴상의 사용자의 손의 움직임을 촬상하고, 그 촬상정보를 모션인식부(106)에 제공한다. 상기 모션인식부(106)는 상기 촬상정보를 통해 악기패턴상의 사용자 손의 위치변화를 검출하고, 그 검출정보를 상기 제어부(100)에 제공한다. 이로서, 상기 제어부(100)는 투사표시된 악기패턴상의 사용자의 조작상태에 대한 정보를 획득할 수 있게 된다.
이러한 사용자 인터페이스에 대한 기술은 카네스타사의 버츄얼 키보드(Virtual Keyboard)의 변형으로부터 자명하다. 상기 카네스타사의 버츄얼 키보드는 키보드 패턴을 투사표시하고, 그 투사표시된 키보드상의 사용자 조작을 인식하는 기술로서, 상기한 카네스타사의 버츄얼 키보드의 패턴을 보다 다양한 형태, 즉 악 기 패턴으로 변형하여 그 활용분야를 보다 확대함으로써 본 발명의 사용자 인터페이스부는 구현될 수 있다. 그러나 투사형 디스플레이 장치의 소형화 및 다양한 형태의 모션인식기술의 발달에 기인하여 본 발명의 악기 연주용 휴대 단말기에 적합한 패턴 투사 및 정보를 독출하기 위해 구현된 것이므로, 악기연주용 사용자 인터페이스부(102)는 상기 카네스타사의 버츄얼 키보드에 한정되지는 않는다.
상기한 본 발명의 바람직한 실시예에 따라 휴대형 단말기의 악기 패턴 투사 표시예를 도 2a,b를 참조하여 설명하다.
상기 도 2a는 휴대형 단말기가 피아노 패턴을 투사 표시한 예를 도시한 것이며, 도 2b는 휴대형 단말기가 드럼 패턴을 투사 표시한 예를 도시한 것이다. 이렇듯, 본 발명은 다양한 악기에 대한 패턴을 투사 표시하고, 상기 투사 표시된 악기 패턴상의 사용자 조작을 인식하여 그에 따른 오디오를 출력하므로, 사용자는 실제 악기의 형상과 유사한 악기 패턴을 통해 연주를 할 수 있게 된다.
한편, 오디오 신호 처리 및 출력부(114)는 상기 제어부(100)의 제어에 따라 통화를 위한 음성 데이터 등을 처리하여 스피커(112)를 통해 출력한다.
음원칩(116)은 상기 제어부(110)가 제공하는 음원정보에 대응되는 아날로그의 오디오 신호를 생성하여 스피커(112)를 통해 출력한다. 특히, 상기 음원칩(116)은 본 발명에 따라 다양한 악기에 대한 연주를 가능하게 하기 위해 피아노, 기타, 드럼 등의 원음을 재현함은 물론이며, 각 악기에 대한 음향을 변조할 수 있는 고품질의 음원칩이 채용될 수 있다.
상기 스피커(112)는 상기 오디오 신호 처리 및 출력부(114) 및 음원칩(16)의 출력에 따른 오디오를 출력한다.
제2비디오 신호 처리 및 출력부(118)는 상기 제어부(100)가 제공하는 영상정보 또는 그래픽 정보 등을 처리하여 표시장치(120)를 통해 표시한다. 여기서, 상기 영상 정보에는 사용자의 요청에 따라 제2촬상장치(126)가 촬상한 연주장면 및 상기 그래픽 정보에는 악보 서비스를 위한 악보정보, 다양한 메뉴 등이 포함된다.
상기 표시장치(120)는 상기 제2비디오 신호 처리 및 출력부(118)의 출력에 따른 영상 또는 그래픽을 출력한다.
키패드(122)는 다수의 키를 구비하여 사용자로부터의 키입력신호를 상기 제어부(100)로 제공함으로써, 사용자와 상기 제어부(100)간을 인터페이스한다.
제2촬상장치(126)는 휴대형 단말기에 구비되는 일반적인 촬상장치로서, 제어부(100)의 제어에 따라 촬상을 이행한다.
상기 휴대형 단말기에서 악기 연주 서비스를 제공하는 과정은 다음과 같다. 상기 휴대형 단말기의 사용자가 키패드(122)를 통해 메인 메뉴에 포함되어 있는 악기연주 서비스의 진입을 명령하면, 상기 제어부(100)는 연주 가능한 악기들을 안내함과 아울러 안내된 악기들중 어느 하나를 선택하도록 표시장치(120)를 통해 사용자에게 안내한다. 상기 제어부(100)는 사용자가 상기 안내된 악기중 어느 하나를 선택하면, 그 선택된 악기에 대응되는 악기 패턴을 메모리부(124)로부터 독출하여 제1비디오 신호 처리 및 출력부(110) 및 투사형 디스플레이장치(108)를 통해 투사 표시한다. 상기한 바와 같이 악기 패턴을 투사 표시함과 동시에, 상기 제어부(100)는 제1촬상장치(104)와 모션인식부(106)를 통해 상기 투사 표시된 악기 패턴상의 사용자 조작을 검출한다. 상기 악기 패턴상의 사용자 조작이 검출되면, 상기 제어부(100)는 검출된 사용자 조작에 대응되는 음원정보를 메모리부(124)로부터 독출하고, 그 독출된 음원정보를 음원칩(116)에 제공한다. 상기 음원칩(116)은 상기 음원정보에 따른 오디오신호를 스피커(112)로 출력하며, 이로서 상기 투사 표시된 악기패턴을 통한 연주가 이루어진다. 이와같이 투사 표시된 악기패턴을 통해 사용자가 연주하는 오디오 신호를 출력할 때마다, 상기 제어부(100)는 해당 음원정보를 연주정보로서 순차적으로 임시 저장한 후, 사용자로부터 저장 요구가 있으면, 사용자에게 요구된 형태로 임시 저장한 음원 정보를 저장한다.
다음으로 상기와 같이 악기 연주 서비스를 제공하는 휴대용 단말기가 본 발명에 따라 악기 연주 게임 서비스를 제공하는 과정을 설명한다. 먼저, 본 발명의 일 실시예에 따라 악기 연주 게임을 서비스 및 악기 연주 게임의 세부사항을 설정하는 과정을 도3을 참조하여 설명한다. 도3은 본 발명의 일 실시예에 따라 악기 연주 게임 설정 과정에 따른 휴대형 단말기의 동작 흐름도이다.
상기 휴대형 단말기는 다수의 메뉴를 구비하며, 본 발명의 바람직한 실시예에 따라 메인 메뉴에는 그래픽 아이콘으로 구현된 다수의 메뉴 항목으로 구성되며, 상기 다수의 메뉴 항목중에는 악기 연주 게임 서비스로의 진입을 명령하기 위한 메뉴항목이 포함된다.
상기 악기 연주 게임 서비스로의 진입을 명령하기 위한 메뉴항목을 도시한 도4를 참조하면, 표시장치(120)에 표시되는 메인 메뉴에는 제1화면(301)과 같이 핸드폰 관리 메뉴항목(A), 무선인터넷 접속 메뉴항목(B), 전화번호부 메뉴항목(C), 메시지 관리 메뉴항목(E), 그 외 항목(F) 등에 악기 연주 게임 서비스로의 진입을 명령하기 위한 메뉴항목(D)이 포함되어 있다. 도3을 참조하여, 제어부(100)는 201단계에서 상기 휴대형 단말기의 사용자가 키패드(122)를 통해 메인 메뉴에 포함되어 있는 악기 연주 게임 서비스 진입을 명령하면, 203단계로 진행한다. 203단계에서 제어부(100)는 악기 연주 게임 컨텐츠를 안내하고 205단계로 진행한다. 상기 악기 연주 게임 컨텐츠는 게임시 연주할 음악에 따라서 구분되거나, 게임의 난이도에 따라 구분되어 질 수도 있다. 205단계에서 제어부(100)는 사용자로부터 임의의 악기 연주 게임 컨텐츠를 선택하는 입력이 있으면, 207단계로 진행한다. 207단계에서 제어부(100)는 선택된 악기 연주 게임 컨텐츠에서 연주 가능한 악기를 도4의 제2화면(303)과 같이 다수의 악기에 대응되는 그래픽 아이콘들(G,H,I)로서 표시장치(120)의 화면에 표시하여 안내하고 209단계로 진행한다. 209단계에서 제어부(100)는 사용자로부터 악기 선택이 있으면 211단계로 진행한다. 211단계에서 제어부(100)는 선택된 악기를 악기 연주 핑거보드로 등록하고 213단계로 진행한다. 213단계에서 제어부(100)는 사용자 요청에 따라 선택된 악기의 세부 설정항목과 악보 서비스 방식, 동영상 촬영 여부를 결정하여 게임 컨텐츠의 세부 사항으로 설정하고 215단계로 진행한다.
여기서, 상기 본 발명의 휴대형 단말기는 악기 연주 게임의 세부 사항을 설정하기 위한 상세메뉴를 제공한다. 상기 상세메뉴의 표시예를 도4를 참조하여 설명하며, 상기 상세메뉴의 구성은 사용상의 편리성을 고려하여 다양하게 변형가능하다.
도4의 제3화면(305)은 선택된 악기 연주 게임 컨텐츠의 전체 옵션을 설정하는 상세 메뉴를 나타낸 화면으로서, 선택된 악기 연주 게임 컨텐츠에 해당하는 곡의 리듬, 편곡법등을 곡의 전반적인 설정을 사용자 선택에 따라 설정하는 매뉴얼 항목(J), 상기 선택된 악기 연주 게임 컨텐츠에 해당하는 곡의 리듬, 편곡 방법등을 미리 설정된 다수의 셋팅값중 사용자가 선택하는 셋팅값으로 설정하는 셋팅 항목(K), 악기 연주 게임 컨텐츠 종류(K)등을 포함한다.
그리고 상기 209단계에서 사용자에 의해 선택된 악기의 연주 스타일을 설정할 수 있는 메뉴를 제공한다. 예를 들어 선택된 악기를 피아노라고 할때, 상기 피아노의 세부설정항목으로는 도4의 제4화면(307)과 같이 재즈(jazz) 피아노(M), 클래식(classic) 피아노(N), 일렉트릭(electric) 피아노(O) 등이 있으며, 상기 사용자는 상기한 세부설정항목중 어느 하나를 선택하여 출력되는 피아노의 음색을 변형토록 명령할 수 있다.
또한 상기 도4의 제5화면(309)을 참조하면, 상기 상세 메뉴에는 임시 저장된 연주정보를 벨소리로 저장하도록 명령하기 위한 그래픽 아이콘(S), 베이스 강화 효과의 온/오프를 명령하기 위한 그래픽 아이콘(R), 다중선택을 명령하기 위한 그래픽 아이콘(T), 연주장면의 촬상을 명령하기 위한 그래픽 아이콘(P), 임시 저장된 연주정보를 배경으로 저장하도록 명령하기 위한 그래픽 아이콘(Q) 등이 포함된다. 이와 같은 상세메뉴 등을 통해 상기 사용자는 투사 표시된 악기의 패턴과 저장 종류를 조작하여 입력할 수 있다. 또한, 악보 제공 여부와 제공 형태에 관한 설정도 할 수 있다.
상기한 세부항목 메뉴들을 통해 악기 연주 게임 컨텐츠의 세부 항목을 설정하는 다음과 같이 이루어진다. 사용자가 키패드(122)를 통해 어느 한 세부설정항목에 대한 설정상태의 변경을 요청하면, 제어부(100)는 상기한 변경요청에 따라 해당 세부설정항목의 설정상태를 변경함과 아울러 변경된 설정상태에 대한 정보를 메모리부(124)에 저장한다. 또한 상기 사용자가 키패드(122)를 통해 악보 서비스를 요청할 수 있다. 여기서, 상기 악보 서비스는 연주시에 참조할 악보를 표시장치(120)를 통해 출력토록 하는 기능으로서, 상기 악보를 한줄 단위로 흐르듯이 표시하는 것과 상기 악보를 페이지 단위로 표시하는 것 등 다양하게 구현될 수 있다. 즉 제어부(100)는 사용자가 키패드(122)를 통해 악보 서비스를 요청하는지를 체크하여, 상기 사용자가 악보 서비스를 요청하면, 서비스 가능한 다양한 악보 서비스를 안내함과 아울러, 그 다양한 악보 서비스중 어느 하나를 선택하도록 안내하기 위한 그래픽 등을 표시장치(120)에 표시한다. 상기한 안내에 따라 사용자가 키패드(122)를 통해 다양한 악보 서비스중 어느 하나를 선택하면, 상기 제어부(100)는 악기 연주 게임 실행시 메모리부(124)에 미리 저장되어 있는 다수의 악보를 사용자에게 안내함과 아울러, 그 다수의 악보중 어느 하나를 선택하도록 안내하기 위한 그래픽 등을 표시장치(120)에 표시한다.
또한 상기 사용자는 투사 표시된 악기 패턴을 조작하여 연주하는 중에, 또는 악기 연주 게임 컨텐츠의 세부 사항 설정시에 상기 사용자는 키패드(122)를 통해 연주장면 촬상을 요청할 수 있다. 이에 따라 상기 제어부(100)는 투사 표시된 악기 패턴을 통해 연주 서비스를 제공하는 동안에도 상기 사용자가 키패드(122)를 통해 연주장면의 촬상을 요청하는지를 체크한다. 상기 사용자가 연주장면의 촬상을 요청하면, 상기 제어부(100)는 사용자의 연주장면을 소정시간동안 촬상하도록 제2촬상장치(126)를 제어함과 아울러, 촬상된 영상데이터를 연주장면 촬상정보로서 메모리부(124)에 저장한다. 상기한 바와 같이 저장된 연주장면 촬상정보는 키패드(122)를 통한 사용자의 요청에 따라 재생될 수 있다.
도3으로 돌아와서, 상기 213단계의 실행 후, 215단계에서 제어부(100)는 사용자로부터 악기 연주 게임 실행요구가 있는지 확인하여 실행 요구가 있으면 A로 진행하여 도5의 231단계로 진행하고 실행요구가 없으면 217단계로 진행한다. 217단계에서 제어부(100)는 악기 연주 게임 설정 변경 요구가 있는지 확인하여, 설정 변경 요구가 있으면 상기 207단계로 돌아가 사용자 선택에 따라 선택된 악기 연주 게임 컨텐츠의 세부 사항을 변경하고, 설정 변경 요구가 없으면 219단계로 진행한다. 219단계에서 제어부(100)는 악기 연주 게임 컨텐츠 변경 요구가 있는지 확인하여 변경 요구가 있으면 상기 203단계로 진행하여 상기한 동작을 수행하여 연주 게임 컨텐츠를 변경하고 변경 요구가 없으면 221단계로 진행한다. 221단계에서 제어부(100)는 악기 연주 게임 종료 요구가 있으면 악기 연주 게임 서비스를 종료한다.
상기한 과정에 따라 사용자에 의해 설정된 악기 연주 게임 컨텐츠의 세부 사항에 따라 악기 연주 게임이 실행되는 과정을 도5를 참조하여 설명한다. 도5는 본 발명의 일 실시예에 따라 악기 연주 게임 실행 과정에 따른 휴대형 단말기의 동작 흐름도이다.
상기 215단계에서 제어부(100)는 악기 연주 게임 실행 요구에 따라 도5의 231단계에서 악기 연주 핑거 보드로 등록된 악기 패턴을 투사형 디스플레이 장치(108)를 통해서 표시하고, 표시 장치(120)에 설정된 게임 컨텐츠의 세부 사항에 따른 기본 화면을 표시하고 253단계로 진행한다. 235단계에서 제어부(100)는 미리 정해진 시간이 지나면 악기 연주 게임을 시작하고 235단계로 진행한다. 235단계에서 제어부(100)는 미리 설정된 게임 컨텐츠의 세부 사항에 따라 기본 음원을 재생하고 음악 재생에 따른 핑거보드 입력 패턴을 표시장치(120)에 디스플레이하고 237단계로 진행한다. 237단계에서 제어부(100)는 투사 표시된 악기 패턴상의 사용자 조작이 인식되는지 확인하여 사용자 조작이 인식되면 239단계로 진행한다. 239단계에서 제어부(100)는 인식되는 사용자 조작과 핑거 보드 입력 패턴을 비교하여 오차 범위 내에 인식되는지에 따라 정상 입력 여부를 판단하여 점수로 환산하고, 인식되는 사용자 조작에 대응되는 음원 정보의 오디오 신호를 출력하고 241단계로 진행한다. 이때 제어부(100)는 상기 사용자 조작에 대응되는 음원 정보와 상기 기본 음원을 함께 출력한다. 다시 말해 상기 239단계에서 제어부(100)는 핑거 보드 입력 패턴에 따라 입력되어야할 음원에 대응하는 악기 패턴 상의 사용자의 조작이 입력이 요구되는 시점에 입력되는지를 확인하는 것이다. 예를 들어, 핑거 보드 입력 패턴에서 현재 "미"라는 음원에 대응하는 피아노에 대한 사용자 조작이 입력될 차례라면, 그 입력 시점에 감지된 피아노에 대한 사용자 조작이 "미"인지 확인하는 것이다. 이때, 제어부(100)는 미리 정해진 오차 범위 내에서 상기 입력의 성공 여부를 판단하며, 그 결과에 따라 점수를 환산하여 디스플레이한다. 또한 제어부(100)는 성공 여부를 안내하는 음성을 출력할 수도 있다. 상기 미리 정해진 오차 범위란 악기에 대 한 사용자 조작을 입력으로 인정할 수 있는 시간 범위와 입력되어야할 음원 이외에 다른 음원에 대응하는 사용자 조작의 동시 발생 허용 범위에 따른 동작 범위를 포함한다. 단, 입력되어야 할 음원은 동시에 다수개가 될 수도 있다.
241단계에서 제어부(100)는 출력된 기본 음악과 음원 정보의 오디오 신호를 조합하여 임시 저장하고 243단계로 진행한다. 243단계에서 제어부(100)는 음악 연주 게임이 완료되었는지, 즉, 해당 곡의 재생이 완료되었는지 확인하여 완료되었으면 245단계로 진행하여 최종 점수를 표시한다. 이후, 247단계에서 제어부(100)는 사용자로부터 임시 저장된 정보 저장 요구가 있으면 248단계로 진행하고, 임시 저장된 정보의 저장 요구가 없으면 253단계로 진행한다. 253단계에서 제어부(100)는임시 저장된 연주 정보를 삭제하고 B로 진행하여 상기 도3의 215단계로 진행한다.
한편 상기 247단계에서 제어부(100)는 사용자의 임시 저장된 정보의 저장 요구에 따라 248단계에서 저장 종류를 안내하고 249단계로 진행한다. 249단계에서 제어부(100)는 선택된 저장 종류에 대응되게 상기 임시 저장된 음읜 정보를 저장하고 B로 진행하여 상기 도3의 215단계로 진행한다. 247단계 내지 215단계에서 임시 저장된 음원 정보의 저장형태를 사용자로부터 다시 입력 받는 과정을 도시하였지만, 상기 도3에 도시된 과정에 따라 악기 연주 게임 세부 사항 설정시 설정된 저장 종류로 저장될 수도 있다. 상기 다양한 저장종류로는 벨소리로의 저장, 배경음으로의 저장, 알람 등이 있을 수 있다.
상기한 바와 같이 본 발명은 휴대형 단말기에 투사형 디스플레이 장치를 설치하여 악기 패턴을 투사 표시하고, 임의의 음악에 대해 미리 정해진 핑거 보드 입 력 패턴과 상기 투사 표시된 악기 패턴상의 사용자 조작을 비교하여, 그 비교 결과에 따른 점수를 환산하고, 오디오 신호를 출력함으로서 악기의 연주를 이행하며 게임을 할 수 있게 한다.
상술한 본 발명의 설명에서는 구체적인 실시 예에 관해 설명하였으나, 여러 가지 변형이 본 발명의 범위에서 벗어나지 않고 실시할 수 있다. 따라서 본 발명의 범위는 설명된 실시 예에 의하여 정할 것이 아니고 특허청구범위와 특허청구범위의 균등한 것에 의해 정해 져야 한다.
상술한 바와 같이 본 발명은 휴대형 단말기에 투사형 디스플레이 장치를 설치하여 악기 패턴을 투사 표시하고, 임의의 음악을 재상하면서, 재생되는 음악에 어우러지는 연주를 유도하는 미리 정해진 핑거 보드 입력 패턴을 안내하여 투사 표시된 악기 패턴에 대한 사용자 조작을 유도하고, 상기 핑거 보드 입력 패턴과 상기 사용자 조작을 비교하여 그 비교 결과에 따라 점수를 환산하고, 오디오 신호를 출력함으로서 악기의 연주를 이행하며 게임을 할 수 있게 하여 사용자에게 즐거움을 줄 수 있다.

Claims (13)

  1. 휴대형 단말기의 악기 연주 게임 제공 방법에 있어서,
    사용자에 의해 선택된 악기 연주 게임 컨텐츠 설정에 따라 핑거 보드로 등록된 악기 패턴을 투사 표시하는 과정과,
    상기 악기 연주 게임 컨텐츠에 대응하는 음악과 관련된 기본 연주 음원을 재생하고, 상기 기본 음악 재생에 따른 핑거 보드 입력 패턴을 표시장치에 디스플레이하는 과정과,
    상기 투사 표시된 악기 패턴상의 사용자 조작을 인식하는 과정과,
    상기 인식된 사용자 조작에 대응되는 음원 정보를 독출하여 상기 기본 연주 음원과 함께 재생하여 출력하고, 상기 인식된 사용자 조작과 상기 핑거 보드 입력 패턴을 비교하여 상기 사용자 조작이 미리 정해진 오차 범위 내에서 인식되어지는지에 따라 정상 입력 여부를 판단하여 결과를 제공하는 과정을 포함함을 특징으로 하는 악기 연주 게임 제공 방법.
  2. 제1항에 있어서, 상기 기본 연주 음원과 상기 음원 정보의 재생 출력에 따른 오디오 신호를 사용자가 선택한 저장 종류에 따라 저장하는 과정을 더 포함함을 특징으로 하는 악기 연주 게임 제공 방법.
  3. 제1항에 있어서, 연주 촬상 요청이 있으면 상기 투사 표시된 악기 패턴상의 사용자 조작을 촬상하여 연주장면 촬상 정보로 저장하는 과정을 더 포함함을 특징으로 하는 악기 연주 게임 제공 방법.
  4. 제1항에 있어서, 상기 핑거 보드 입력 패턴은 재생되는 음악에 어우러지는 상기 투사 표시된 악기의 연주를 유도하기 위해 입력되어야 할 다수개의 음원과 각 음원의 입력 시점을 나타내는 연주 패턴임을 특징으로 하는 악기 연주 게임 제공 방법.
  5. 제4항에 있어서, 상기 핑거 보드 입력 패턴은 사용자가 입력해야할 음원의 종류를 나타내는 이미지가 구분되어 디스플레이되고, 각각의 음원이 입력되어야할 시점에 해당 음원에 대응하는 이미지가 변화하여 디스플레이됨을 특징으로 하는 악기 연주 게임 제공 방법.
  6. 제5항에 있어서, 상기 미리 정해진 오차 범위란 상기 입력되어야할 음원의 상기 입력 시점과 실제 상기 투사된 악기 패턴상의 사용자 조작이 인식되는 시점의 시간적 차이에 대한 허용 가능한 오차 범위와, 상기 입력되어야할 음원 이외의 음원에 대응되는 상기 투사된 악기 패턴상의 사용자 조작에 대한 허용 가능한 인식 범위에 대한 오차 범위를 포함함을 특징으로 하는 악기 연주 게임 제공 방법.
  7. 제6항에 있어서, 상기 정상 입력 여부를 판단하여 결과는 점수로 변환되어 제공됨을 특징으로 하는 악기 연주 게임 제공 방법.
  8. 제7항에 있어서, 상기 악기 연주 게임 컨텐츠는 각기 다른 음악의 종류, 난이도에 따라 구분되어 지며, 각 악기 연주 게임 컨텐츠의 세부 설정 항목은 해당 음악의 리듬, 편곡법, 악기 연주 게임시 상기 핑거 보드로 등록될 악기, 상기 악기의 연주 형식을 포함함을 특징으로 하는 연주 게임 제공 방법.
  9. 휴대형 단말기의 악기 연주 게임 제공 장치에 있어서,
    악기 패턴을 투사 표시하고 그 투사 표시된 악기 패턴상의 사용자 조작을 검출하는 악기연주용 사용자 인터페이스부와,
    악기 패턴정보와, 상기 악기 패턴상의 사용자 조작에 대응되는 음원 정보와, 음악 연주 게임 컨텐츠와, 다수의 핑거 보드 입력 패턴을 저장하는 메모리부와,
    음원 정보를 제공받아 오디오 신호를 출력하는 음원칩과,
    상기 음원칩이 출력하는 오디오 신호를 제공받아 출력하는 스피커와,
    사용자에 의해 선택된 악기 연주 게임 컨텐츠 설정에 따라 핑거 보드로 등록된 악기 패턴을 투사 표시하고, 상기 악기 연주 게임 컨텐츠에 대응하는 음악과 관련된 기본 연주 음원을 재생하고, 상기 기본 음원 재생에 따른 상기 핑거 보드 입력 패턴을 표시장치에 디스플레이하고, 상기 투사 표시된 악기 패턴상의 사용자 조작이 인식되면 인식된 사용자 조작에 대응되는 음원 정보를 독출하여 상기 기본 연주 음원과 함께 재생하여 출력하고, 상기 인식된 사용자 조작과 상기 핑거 보드 입력 패턴을 비교하여 상기 사용자 조작이 미리 정해진 오차 범위 내에서 인식되어지는지에 따라 정상 입력 여부를 판단하여 결과를 제공하는 제어부를 포함함을 특징으로 하는 악기 연주 게임 제공 장치.
  10. 제9항에 있어서, 상기 핑거 보드 입력 패턴은 재생되는 음악에 어우러지는 상기 투사 표시된 악기의 연주를 유도하기 위해 입력되어야 할 다수개의 음원과 각 음원의 입력 시점을 나타내는 연주 패턴임을 특징으로 하는 악기 연주 게임 제공 장치.
  11. 제10항에 있어서, 상기 핑거 보드 입력 패턴은 사용자가 입력해야할 음원의 종류를 나타내는 이미지가 구분되어 디스플레이되고, 각각의 음원이 입력되어야할 시점에 해당 음원에 대응하는 이미지가 변화하여 디스플레이됨을 특징으로 하는 악기 연주 게임 제공 장치.
  12. 제11항에 있어서, 상기 미리 정해진 오차 범위란 상기 입력되어야할 음원의 상기 입력 시점과 실제 상기 투사된 악기 패턴상의 사용자 조작이 인식되는 시점의 시간적 차이에 대한 허용 가능한 오차 범위와, 상기 입력되어야할 음원 이외의 음원에 대응되는 상기 투사된 악기 패턴상의 사용자 조작에 대한 허용 가능한 인식 범위에 대한 오차 범위를 포함함을 특징으로 하는 악기 연주 게임 제공 장치.
  13. 제12항에 있어서, 상기 악기 연주 게임 컨텐츠는 각기 다른 음악의 종류, 난이도에 따라 구분되어 지며, 각 악기 연주 게임 컨텐츠의 세부 설정 항목은 해당 음악의 리듬, 편곡법, 악기 연주 게임시 상기 핑거 보드로 등록될 악기, 상기 악기의 연주 형식을 포함함을 특징으로 하는 연주 게임 제공 장치.
KR1020050103905A 2005-11-01 2005-11-01 휴대형 단말기의 악기 연주 게임 방법 및 장치 KR100703362B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020050103905A KR100703362B1 (ko) 2005-11-01 2005-11-01 휴대형 단말기의 악기 연주 게임 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020050103905A KR100703362B1 (ko) 2005-11-01 2005-11-01 휴대형 단말기의 악기 연주 게임 방법 및 장치

Publications (1)

Publication Number Publication Date
KR100703362B1 true KR100703362B1 (ko) 2007-04-03

Family

ID=38160800

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020050103905A KR100703362B1 (ko) 2005-11-01 2005-11-01 휴대형 단말기의 악기 연주 게임 방법 및 장치

Country Status (1)

Country Link
KR (1) KR100703362B1 (ko)

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
기재불비

Similar Documents

Publication Publication Date Title
US7682893B2 (en) Method and apparatus for providing an instrument playing service
KR101679239B1 (ko) 휴대용 단말기에서 증강 현실 기법을 이용한 악기 연주를 제공하기 위한 장치 및 방법
KR20070095332A (ko) 악보 캡처 및 동기된 표현과 함께 동기된 오디오 연주를위한 시스템 및 방법
US20080047415A1 (en) Wind instrument phone
US8471679B2 (en) Electronic device including finger movement based musical tone generation and related methods
KR100678163B1 (ko) 휴대용 단말기에서 연주 기능을 수행하는 장치 및 방법
CN109616090A (zh) 多音轨序列生成方法、装置、设备及存储介质
KR101286412B1 (ko) 다중기능 가상 사용자 입력 장치 및 방법
JP3961544B2 (ja) ゲームの制御方法およびゲーム装置
KR100774533B1 (ko) 이동통신 단말기에서 외부입력 장치를 이용한 사운드 효과발생 방법
JP4471640B2 (ja) 音楽再生装置
KR100703362B1 (ko) 휴대형 단말기의 악기 연주 게임 방법 및 장치
JP2003223166A (ja) 情報処理装置およびその楽譜頁変更方法、楽譜表示用プログラムおよび記録媒体
JP2014066922A (ja) 楽曲演奏装置
KR100841047B1 (ko) 곡 데이터 편집 기능 및 mp3기능이 내장된 휴대용 플레이어
JP6728572B2 (ja) 撥弦楽器演奏評価装置、楽曲演奏装置及び撥弦楽器演奏評価プログラム
JP5221973B2 (ja) 楽曲送信システム及び端末
JP2003046935A (ja) データ編集方法、情報処理装置、サーバ、データ編集プログラムおよび記録媒体
JP5754449B2 (ja) 楽曲コード譜生成装置
KR101054690B1 (ko) 휴대 단말기 및 영상 데이터를 이용한 장치 조작 방법
JP2009080372A (ja) カラオケ装置
US20060269085A1 (en) Method and apparatus for mixing music
JP2022025367A (ja) カラオケ装置
KR20060032476A (ko) 키 패드를 이용한 음악 연주 방법 및 장치
JP6276673B2 (ja) カラオケ装置及びプログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20130227

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20140227

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20150226

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20160226

Year of fee payment: 10

FPAY Annual fee payment

Payment date: 20170224

Year of fee payment: 11

FPAY Annual fee payment

Payment date: 20180227

Year of fee payment: 12

LAPS Lapse due to unpaid annual fee