KR100761582B1 - 정보 제시 방법 및 정보 제시 시스템 - Google Patents

정보 제시 방법 및 정보 제시 시스템 Download PDF

Info

Publication number
KR100761582B1
KR100761582B1 KR1020067001488A KR20067001488A KR100761582B1 KR 100761582 B1 KR100761582 B1 KR 100761582B1 KR 1020067001488 A KR1020067001488 A KR 1020067001488A KR 20067001488 A KR20067001488 A KR 20067001488A KR 100761582 B1 KR100761582 B1 KR 100761582B1
Authority
KR
South Korea
Prior art keywords
information
marker
series
presentation method
markers
Prior art date
Application number
KR1020067001488A
Other languages
English (en)
Other versions
KR20060031871A (ko
Inventor
다까오 시바사끼
유이찌로 아까쯔까
유끼히또 후루하시
Original Assignee
올림푸스 가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 올림푸스 가부시키가이샤 filed Critical 올림푸스 가부시키가이샤
Publication of KR20060031871A publication Critical patent/KR20060031871A/ko
Application granted granted Critical
Publication of KR100761582B1 publication Critical patent/KR100761582B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09FDISPLAYING; ADVERTISING; SIGNS; LABELS OR NAME-PLATES; SEALS
    • G09F3/00Labels, tag tickets, or similar identification or indication means; Seals; Postage or like stamps
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K7/00Methods or arrangements for sensing record carriers, e.g. for reading patterns
    • G06K7/10Methods or arrangements for sensing record carriers, e.g. for reading patterns by electromagnetic radiation, e.g. optical sensing; by corpuscular radiation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06KGRAPHICAL DATA READING; PRESENTATION OF DATA; RECORD CARRIERS; HANDLING RECORD CARRIERS
    • G06K19/00Record carriers for use with machines and with at least a part designed to carry digital markings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Toxicology (AREA)
  • General Health & Medical Sciences (AREA)
  • Electromagnetism (AREA)
  • Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Digital Computer Display Output (AREA)

Abstract

본 발명의 정보 제시 방법은 대상물을 화상 입력 장치에 의해 촬상하여, 상기 대상물에 대응한 관련 정보를 표시 화면 내의 상기 대상물 상 혹은 표시 화면 내의 상기 대상물 주변에 표시한다. 상기 대상물의 관련 정보는, 상기 대상물 상 혹은 상기 대상물 주변에 설치된 복수의 2차원적 마커의 표기 내용에 의해 나타내고, 상기 복수의 2차원적 마커는 복수의 정보 계열 중 어느 하나에 속하는 것이다.
마커, 화상 입력 장치, 화상 처리 장치, 화상 정보 표시 장치, 화상 정보 표시 장치

Description

정보 제시 방법 및 정보 제시 시스템 {INFORMATION PRESENTATION METHOD AND INFORMATION PRESENTATION SYSTEM}
본 발명은 마커를 이용한 정보 제시 방법 및 정보 제시 시스템에 관한 것이다.
실세계 중의 대상물 및/또는 이미 정해진 마커에 대해 소정의 관련 정보를 제시하는 정보 제시 장치로서는 바코드 리더가 일반적으로 잘 알려져 있다. 그 중 대상물 및/또는 이미 정해진 마커의 공간 정보를 이용하여 정보를 제시하는 장치가 있다. 예를 들어 일본 특허 공개 제2000-82107호 공보에는 명함 상에 인쇄된 2차원 코드를 카메라로 판독하여 컴퓨터 내의 프로그램으로 ID를 해석하고, 이 ID에 상당하는 인물의 얼굴 사진을, 마치 명함 상의 2차원 코드의 옆에 있는 것과 같이 컴퓨터 상의 디스플레이에 표시하는 것이 개시되어 있다. 도7은 상기 공보에 개시된 표시의 일례를 나타내고 있고, 부호 1은 명함, 2는 2차원 코드, 3은 컴퓨터 디스플레이, 4는 얼굴 사진이다.
바코드 리더는 이미 정해진 바코드를 정확하게 인식하였을 때에 소리를 내는 등으로 하여 인식의 정부(正否)를 조작자에게 알리고 있다. 통상 바코드 리더는 한번 인식을 행하면「정보를 판독하여, 그 의미하는 정보를 제시한다」는 목적을 달성하므로 소리가 울리는 등의 기능이 있으면 조작자에게 목적의 달성 상황을 확실하게 전달할 수 있다.
한편, 실세계 중의 대상물 및/또는 이미 정해진 마커에 있어서, 그 공간 정위 정보를 해석하여 소정의 관련 정보를 출력하는 정보 제시 장치에서는, 대상물이나 이미 정해진 마커를 한번 인식하는 것만으로 좋은 것이 아닌, 계속적으로 인식하여 소정의 관련 정보를 계속적으로 출력할 필요가 있다. 공간 정위 정보를 해석하여 관련 정보를 제시하므로, 예를 들어 정보 제시 장치와 대상물이나 이미 정해진 마커와의 위치 관계가 시간과 함께 변화해도, 항상 적응적으로 정확한 정보를 계속 제시해야만 하기 때문이다.
또한 바코드의 경우는 슈퍼의 레지스터 등에 있어서 레이저 빔으로 물품을 스캔하는 경우에는 상당한 정세도로 마커 ID를 인식 가능하지만, 마커에는 기계 장치뿐만 아니라 인간도 인식할 수 있도록 하기 위해 문자나 의장 및 아이콘 등을 ID로서 이용하는 일이 많다.
그것들은 레이저 스캔이 아닌 화상 입력 장치로부터의 인식 공정을 경유하기 때문에 수많은 마커를 설정하면 이들 사이에서의 오인식률이 증대한다.
일본 특허 공개 제2000-82107호 공보에 개시된 장치는 이미 정해진 마커에 대해 화상 입력을 행하고, 그 공간 정위 정보를 해석하여 표기된 ID를 인식함으로써 소정의 관련 정보를 출력하는 정보 제시 장치이지만, 단순히 마커와 소정의 정보는 일대일로 대응시키는 취지가 판독된다. 공간 정위 정보라 해도, 명함 상의 2차원 코드의 옆에 사진을 표시하는 정도의 목적이므로, 화상 입력 장치로 수납하면 다수의 마커(2차원 코드)가 설정되어도, 어느 정도의 인식 정답률을 확보할 수 있는 일이 많다.
그러나, 매우 다수(1000을 넘는 수)의 마커(2차원 코드)가 설정되고 게다가 처리하는 측의 장치가 PDA 등의 휴대형 단말인 경우에는 고정밀도의 화상 처리는 기대할 수 없다. 마커가 산업용에 이용되는 경우에는 전술한 바와 같이 문자나 의장을 마커(2차원 코드)로서 사용하는 일이 많아 화상 인식 처리의 오인식률이 높아져 버린다.
본 발명의 목적은 사용하는 마커의 수를 적게 하여 오인식률을 저감시키는 것이 가능한 정보 제시 방법 및 정보 제시 시스템을 제공하는 데 있다.
본 발명의 제1 측면은 대상물을 화상 입력 장치에 의해 촬상하여, 상기 대상물에 대응한 관련 정보를 표시 화면 내의 상기 대상물 상 혹은 표시 화면 내의 상기 대상물 주변에 표시하는 정보 제시 방법이며, 상기 대상물의 관련 정보는, 상기 대상물 상 혹은 상기 대상물 주변에 설치된 복수의 2차원적 마커의 표기 내용에 의해 나타내고, 상기 복수의 2차원적 마커는 복수의 정보 계열 중 어느 하나에 속한다.
또한, 본 발명의 제2 측면은 대상물을 화상 입력 장치에 의해 촬상하여, 상기 대상물 상 혹은 상기 대상물 주변에 배치된 복수의 2차원적 마커에 의해 상기 대상물의 관련 정보를 표시 화면상의 대상물에 겹치게 하여 표시하는 정보 제시 방법이며, 상기 대상물 상 혹은 상기 대상물 주변에 배치된 복수의 2차원적 마커는 계층적인 의미 구조를 갖는다.
또한, 제3 발명은, 제2 발명에 관한 정보 제시 방법에 있어서 상기 2차원적 마커의 표기 내용이 상위 계층의 정보 계열을 나타내는 것인 경우에는 상기 표시 화면 내에 상기 정보 계열의 범위를 표시한다.
또한, 제4 발명은 각종 정보를 휴대 정보 단말로부터 사용자에게 제시하는 데 있어서, 상기 휴대 정보 단말에 화상 입력 수단을 탑재하여, 상기 화상 입력 수단에 의한 촬영 화상으로부터 상기 휴대 정보 단말의 위치 및 방향을 산출하고, 상기 휴대 정보 단말의 위치 및 방향과, 대면하는 대상물의 특정 결과에 따라서 상기 대상물에 관한 정보를 검색하여 사용자에게 제시하는 정보 제시 방법이며, 상기 촬영 화상으로부터 대상물 상 혹은 상기 대상물 주변에 설치된 문자 및 의장 혹은 코드 정보를 포함하는 마커군이며, 복수의 정보 계열 중 어느 하나에 대응시킨 상기 대상물을 특정하기 위한 마커군을 검출하고, 상기 복수의 정보 계열 중 상위의 정보 계열의 지시 정보를 기초로 하여 하위의 정보 계열에 대응한 마커가 지정하는 관련 정보를 검색한다.
또한, 제5 발명은, 제1 발명 또는 제4 발명에 관한 정보 제시 방법에 있어서, 상기 마커군은 미리 정해진 대상 장면 혹은 대상 지역 및 대상 시간대 내에서만 유효하도록 설정된다.
또한, 제6 발명은, 제1 발명 또는 제4 발명에 관한 정보 제시 방법에 있어서, 상기 마커군은 상위 계층의 마커와 하위 계층의 마커를 포함하고, 상기 상위 계층의 마커가 검출되는 일 없이 상기 하위 계층의 마커만이 검출된 경우에는 상기 하위 계층의 마커가 단독으로 정보 제시에 이용된다.
또한, 제7 발명은, 제1 발명 또는 제2 발명에 관한 정보 제시 방법에 있어서 단일의 마커 표시에 복수의 정보 계열이 포함되어 있다.
또한, 제8 발명은, 제7 발명에 관한 정보 제시 방법에 있어서 상기 2차원적 마커는 마커 프레임부와, 이 프레임부의 내부 및 외부인 프레임 주변부로 구성되어, 상기 마커 프레임부는 상기 휴대 정보 단말의 위치 자세 검출을 위해 이용되고, 상기 프레임 주변부는 표시 정보를 생성하기 위해 이용된다.
또한, 제9 발명은 각종 정보를 휴대 정보 단말로부터 사용자에게 제시하는 정보 제시 시스템이며, 상기 휴대 정보 단말에 탑재된 화상 입력 수단에 의해 촬영된 촬영 화상으로부터 상기 휴대 정보 단말의 위치 및 방향을 산출하는 위치 자세 계측 수단과, 상기 위치 자세 계측 수단에 의해 산출된 상기 휴대 정보 단말의 위치 및 방향과, 대면하는 대상물의 특정 결과로부터 상기 대상물에 관한 정보를 취득하는 정보 취득 수단과, 상기 정보 취득 수단에 의해 취득된 상기 대상물에 관한 정보를 사용자에 대해 표시하는 표시 수단을 구비하고, 상기 촬영 화상으로부터 대상물 상 혹은 상기 대상물 주변에 설치된 문자 및 의장 혹은 코드 정보를 포함하는 상기 대상물을 특정하기 위한 마커군을 검출하는 마커 검출 수단을 갖고, 상기 마커군은 복수의 정보 계열 중 어느 하나에 대응하고, 상기 복수의 정보 계열 중 상위의 정보 계열의 지시 정보를 기초로 하여 하위의 정보 계열에 대응한 마커가 지정하는 관련 정보가 검색된다.
또한, 여기서 말하는 휴대 정보 단말은 카메라 부착 휴대 전화기나, 소위 노트형 PC라도 좋은 것은 물론이다.
도1은 본 발명이 적용되는 정보 제시 시스템의 개략 구성을 도시하는 도면이다.
도2는 본 실시 형태의 정보 제시 시스템에 의해 대상물의 관련 정보가 중첩 표시되기까지의 순서를 설명하기 위한 흐름도이다.
도3은 2 계층 마커의 구체적인 계층 구조의 일례에 대해 설명하기 위한 도면이다.
도4는 본 발명을 전시회 혹은 관광지에 적용한 경우의 2 계층 마커의 구체예를 나타내는 도면이다.
도5는 3 계층 마커의 구체적인 계층 구조에 대해 설명하기 위한 도면이다.
도6a 및 도6b는 단일의 마커에 복수의 정보 계열이 포함되어 있는 일례를 나타내는 도면이다.
도7은 종래 기술의 정보 제시 장치의 일례를 설명하기 위한 도면이다.
우선, 본 실시 형태의 개략을 설명한다. 마커를 촬상하여, 이 마커로부터 얻어지는 정보를 기초로 하여 실세계의 대상물과 상기 대상물에 관련된 특정한 관련 정보를 동일 화면 내에 중첩 표시하는 것이 가능하다. 여기서, 실세계의 대상물이라 함은, 빌딩이나 가옥 등의 건조물(建造物), 수목 등의 자연물, 신호기, 배관, 가구 등의 인공물 등 이미 실세계 속에 존재하고 있는 것이다.
또한, 마커라 함은, 정보 제시 장치의 출력을 위해 인위적으로 설정한 각종 코드 정보나 숫자나 문자 및 기호를 프레임으로 둘러싼 것 등을 가리키는 것으로 한다. 단, 상기 실세계의 대상물 자체를, 정보 제시 장치의 출력을 위한 마커(랜드 마커)로서 등록한 경우에는 마찬가지로 마커로서 취급하는 것으로 한다.
구체적으로는, 마커는 미리 정해진 형상의 프레임부와, 그 내부 혹은 외부(주변부)에 기록된 문자를 포함하는 기호나 의장으로 구성된다. 그리고, 화상 입력 장치에 의해 프레임부의 형상을 촬상하여 그 화면 내에서의 형상의 왜곡으로부터 촬상 위치를 산출하는 위치 자세 산출 기능과, 전술한 문자, 기호나 의장 및 코드 정보를 인식하여 소정의 어법이나 의미를 부여함으로써 중첩 표시해야만 하는 정보나 프로그램을 복호하거나 원하는 정보를 호출하는 표시 정보 생성 기능의, 주로 2개의 기능을 마커에 갖게 하는 것이 가능하다(다른 정보 계열의 마커를 인식한 경우, 그 조합으로 정보 제시 내용이 결정됨).
그런데, 다수의 대상물이나 다수의 관련 정보를 표시하고자 하는 경우가 있다. 예를 들어 공장 등에 있어서는, 100 군데 이상 중첩 표시를 제공해야만 하는 곳이 있다고 하면 단순히 100 종류 이상의 마커를 필요로 하게 된다. 그런데 가반형의 컴퓨터는 일반적으로 처리 능력이 낮고, 또한 그것에 탑재되는 카메라도 소형 경량이라 일반적으로 해상도가 낮다. 이러한 시스템 환경에서는, 100종을 넘는 다수의 마커를 판별하는 것이 곤란해져 오인식률이 높아져 버린다는 문제가 생긴다.
또한, 공장 등에 있어서는 크로스 섹셔널의 코드를 식별에 사용한 마커보다도 두 자릿수 혹은 그 이상의 숫자나 영숫자를 사용함으로써 인간에 의한 마커의 인식률을 올릴 수 있지만, 그렇게 하면, 예를 들어 B와 3이나 8 혹은 S와 5라고 하는 문자 사이에서의 오인식률이 증대한다는 결점이 있다.
그래서 본 발명에서는, 대상물에 관련 정보를 부가하여 중첩 표시하는 시스템에 있어서, 대상물의 관련 정보를 상기 대상물 상 혹은 상기 대상물 주변에 설치된 복수의 마커의 표기 내용에 의해 나타내고, 복수의 마커는 복수의 정보 계열 중 어느 하나에 속하도록 한다. 즉, 복수의 정보 계열에 의해 최종적으로 중첩 표시되는 관련 정보가 지시되도록 한다. 특히, 여기서는 마커에 계층적인 의미 구조를 갖게 하고, 우선 대상물을 포함하는 공간적 범위나 개념적 범위를 나타내는 상위 계층의 마커를 검출함으로써 상위 계층에 있어서의 정보(계열)를 취득하고, 다음에 하위 계층의 마커를 검출하는 경우, 상기 하위 계층의 마커는 상위 계층에서 지정되어 있는 범위 및 분야에 있어서의 정보 계열을 지정하도록 한다. 이러한 구성에 의하면, 하위 계층의 마커가 동일해도, 먼저 검출된 상위 계층의 마커가 다르면 표시 혹은 지시 내용이 다른 정보 계열으로부터 얻어져 표시계로 이송되어 중첩 표시되게 된다.
바꾸어 말하면, 본 실시 형태에서는 복수 종류의 마커를 복수의 정보 계열로 분류하고, 복수의 정보 계열의 마커 중 상위 계층의 마커를 이용하여 대상물군의 대분류를 행하고, 하위 계층의 마커를 이용하여 개별의 대상물에 관한 관련 정보를 특정하고 표시함으로써, 필요한 마커수를 대폭으로 줄이는 것이 가능해져 마커의 오인식률을 저감시킬 수 있다.
예를 들어, 공장 등에 있어서 카메라가 탑재된 컴퓨터 단말에 의해 상위 계 층 마커를 인식함으로써 영역 인식을 시키고, 하위 계층 마커를 잇달아 인식함으로써 상기 영역 내에 있어서의 사용자가 흥미있는 대상물에 관한 정보를 대상물에 따른 위치에 대상물과 동일 화면 내에 중첩 표시시키는 것 등이 용이해진다.
이 경우, 상위 계층 마커의 정보 계열은「방」이나「대형 장치 주변」등이라고 하는 사용자가 있는 분류상의 존재 위치를 교시하기 위한 ID로서 이용되지만, 물론「위치」에다가「사용자의 방향」을 교시하기 위한 기능을 마커에 갖게 해도 좋다.
또한, 상술한 바와 같이 마커는 위치 자세 산출 기능과 표시 정보 생성 기능을 구비하는 것이지만, 여기서는 마커가 계층화되어 있는 것을 고려하여, 상위 계층 마커에 대해서는 위치 자세 산출 기능을 갖게 하지 않고, 하위 계층 마커의 위치 자세 산출 기능을 사용하여 입력 장치의 3차원 위치 자세를 검출하는 것으로 한다.
이하, 도면을 참조하여 본 발명의 실시 형태를 상세하게 설명한다. 도1은 본 발명이 적용되는 정보 제시 시스템의 개략 구성을 도시하는 도면이고, 대상물 및 마커(여기서는 제1 계층 마커 및 대상물 근방에 설정된 하위 계층 마커)를 촬상하여 입력하는 화상 입력 장치(10)와, 입력된 촬상 화상에 후술하는 화상 처리를 실시하는 화상 처리 장치(20)와, 화상 처리 장치(20)가 대상물의 관련 정보를 검색할 때에 이용되는 상위 계층 대응 정보 데이터 베이스(DB)(30a) 및 하위 계층 대응 정보 데이터 베이스(DB)(30b)와, 화상 처리 장치(20)에 의해 생성된 화상 정보를 표시하기 위한 화상 정보 표시 장치(40)를 구비한다.
상기 화상 처리 장치(20)는 마커 검출부(20a)와, 위치 자세 추정부(20b)와, 시야 내 좌표 산출부(20c)와, 관련 정보 취득부(20d)와, 중첩 화상 생성부(20e)를 구비한다. 또한, 상위 계층 대응 정보 DB(30a)에는 상위 계층 마커군에 관한 정보가 저장되어 있고, 예를 들어 각 상위 계층 마커마다 하위 계층 대응 정보 DB의 링크처를 나타내는 링크 데이터(하위 계층정보 계열의 지정)가 저장되어 있다. 또한, 하위 계층 대응 정보 DB(30b)에는 하위 계층 마커군에 관한 정보가 저장되어 있고, 예를 들어 각 상위 계층 마커로부터의 링크처마다 하위 계층 마커와 대상물의 관련 정보를 대응시킨 정보 계열이 저장되어 있다.
또한, 본 실시 형태에서는 상위 계층 대응 정보와 하위 계층 대응 정보와는 별개의 DB에 저장되어 있지만, 하나의 DB에 상위 및 하위 계층 대응 정보를 저장하도록 해도 좋다.
상기한 시스템 구성에 있어서, 우선 화상 입력 장치(10)에 의해 마커를 촬상하여 화상 처리 장치(20)에 입력한다. 화상 처리 장치(20)의 마커 검출부(20a)는 입력된 마커의 특징점을 검출함으로써 어떠한 마커가 입력되었는지를 상위 및 하위의 계층 마커 각각에 대해 인식한다. 관련 정보 취득부(20d)는 상위 계층 대응 정보 DB(30a)를 참조하여 인식된 상위 계층 마커의 하위 계층 DB(30b)에 있어서의 링크처를 검색한다. 다음에, 하위 계층 대응 정보 DB(30b)를 참조하여 검색된 링크처에 있어서의 하위 계층 마커를 검색하고, 대응하는 관련 정보를 취득하여 중첩 화상 생성부(20c)로 이송한다.
한편, 마커 검출부(20a)에서의 마커 인식 결과는 위치 자세 추정부(20b)에도 입력되어 화상 입력 장치(10)의 위치 및 방향이 추정된다. 시야 내 좌표 산출부(20c)는 위치 자세 추정부(20b)에 있어서의 추정 결과를 기초로 하여 관련 정보가 표시되는 화면 내의 위치를 결정하기 위한 시야 내 좌표를 산출하여 중첩 화상 생성부(20c)로 이송한다.
중첩 화상 생성부(20c)는 관련 정보 취득부(20d)로부터의 관련 정보와, 화상 입력 장치(10)로부터 입력된 대상물의 화상을 중첩하여 중첩 화상을 생성한다. 생성된 중첩 화상은 화상 정보 표시 장치(40)에 의해 표시된다.
도2는 본 실시 형태의 정보 제시 시스템에 의해 대상물의 관련 정보가 중첩 표시되기까지의 순서를 설명하기 위한 흐름도이다.
우선, 입력된 상위 계층 마커를 화상 처리 장치(20) 내의 마커 검출부(20a)에 의해 검출한다(스텝 S1). 다음에, 관련 정보 취득부(20d)는 상위 계층 대응 정보 DB(30a)[또는 상위 계층 대응 정보의 주소 DB(30a')]를 참조하여 상위 계층 마커에 대응하는 정보 계열을 검색한다(스텝 S2).
다음에, 검출된 상위 계층 마커에 대응하는 정보 계열의 범위를 필요에 따라서 중첩 표시한다(스텝 S2-1). 다음에, 입력된 하위 계층 마커를 화상 처리 장치(20) 내의 마커 검출부(20a)에 의해 검출한다(스텝 S3). 다음에, 검출된 하위 계층 마커에 대응하는 관련 정보를 하위 계층 대응 정보 DB(30b)로부터 검색한다(스텝 S4). 이와 병행하여, 검출한 하위 계층 마커의 프레임 부분의 화상으로부터 화상 입력 장치(10)의 3차원적 위치 및 자세를 산출한다(스텝 S5). 다음에, 하위 계층 마커에 의해 지정된 관련 정보를 화상 입력 장치(10)의 3차원적 위치 및 자세에 따라서 화상 정보 표시 장치(40)에 의해 대상물과 함께 표시한다(스텝 S6).
도3은 2 계층 마커의 구체적인 계층 구조의 일례에 대해 설명하기 위한 도면이다. 상위 계층 마커(100)는 W, Y, Z의 영숫자(100a), 의장(100b), 2차원 바코드(100c)로 이루어지는 정보 계열로 구성되어 있다. 또한, 하위 계층 마커(200)는 11, 12, 13의 영숫자(200a) 및 의장(200b)으로 이루어지는 정보 계열로 구성되어 있다. 또한, 상위 계층 마커(100) 중 하나인 "W"와, 상위 계층 마커(100) 중 다른 하나인 "X"는 동일한 하위 계층 마커(200)에 대응하고 있다.
이러한 계층 구조에 있어서, 상위 계층 마커(100)에 있어서의 영숫자 "W"가 검출된 후에 하위 계층 마커(200)에 있어서의 영숫자 "11"이 검출된 경우와, 상위 계층 마커(100)에 있어서의 영숫자 "X"가 검출된 후에 하위 계층 마커(200)에 있어서의 영숫자 "11"이 검출된 경우를 생각하면, 하위 계층에서 검출되는 마커는 모두 영숫자 "11"이지만, 상위 계층에서의 마커는 다르므로 영숫자 "11"에 대해 다른 관련 정보를 대응시킬 수 있다.
또한, 상위 계층 마커가 검출되지 않고 하위 계층 마커가 검출된 경우에는 상기 하위 계층 마커에 대응하는 정보 계열을 표시하는 것으로 한다.
도4는 본 발명을 전시회 혹은 관광지(정보 발신 기지)에 적용한 경우의 2 계층 마커의 구체예를 나타내는 도면이다. 상위 계층 마커(600)로서 역전 광장 영역(600a), 유메지히 영역(600b), 즈바끼모토하나야시끼 영역(600c) 등의 정보 발신 영역을 특정하기 위한 영역 마커가 나타나 있다. 하위 계층 마커(700)로서 발신하는 정보를 결정하기 위해 이용되는 콘텐츠 마커로서의 영숫자 마커(A1, B1, C1, D1, E1, F1, G1)가 나타나 있다. 이 경우, 하위 계층 마커(700)에 있어서의 마커가 동일해도 상위 계층 마커(600)를 다르게 함으로써 다른 콘텐츠를 발신할 수 있다.
또한, 특히 하위 계층 마커에 대응하는 DB 정보에 대해 시간 한정이나 지역(영역) 한정으로 조정하는 것도 표시의 변화를 늘릴 수 있다.
도5는 3 계층 마커의 구체적인 계층 구조에 대해 설명하기 위한 도면이다. 2 계층 마커인 경우에는 상위 계층 및 하위 계층이라는 문언을 이용하였지만, 3 계층 마커에서는 제1 계층, 제2 계층, 제3 계층이라고 하는 문언을 이용하는 것으로 한다.
제1 계층 마커(300)는 장소나 실(室) 등을 나타내는 영숫자 마커이고, 도면에서는 "A1"이 전시실(300a), "B1"이 로비(300b), "C1"이 기계실(300c), "D1"이 도서실(300d)을 나타내고 있다.
상기한 각 제1 계층 마커에는 다양한 제2 계층 마커가 대응되지만, 도5에서는 전시실(300a)에 대응하는 제2 계층 마커만이 도시되어 있다. 전시실(300a) 내의 전시 장소나 수납 장소를 나타내는 영숫자 마커로서 "33"은 로커 A(400a), "34"는 로커 B(400b), "35"는 선반 1(400c), "36"은 선반 2(400d)를 나타내고 있다.
상기한 각 제2 계층 마커에는 제3 계층 마커가 대응되지만, 도5에서는 로커 A(400a)에 대한 제3 계층 마커만이 도시되어 있다. 각 전시품을 나타내는 의장 마커로서 의장 마커(500a 내지 500c)가 도시되어 있다. 각 의장 마커(500a 내지 500c)는 각각 대상물(501a)로서의「조화」, 대상물(501b)로서의「박제 1」, 대상물 (501c)로서의「박제 3」에 대응하고 있다.
도6a 및 도6b는 단일의 마커에 복수의 정보 계열이 포함되어 있는 일례를 나타내는 도면이다. 도시되어 있는 2개의 마커(800)는 마커 프레임부(800a)와, 프레임 내부(800c)와, 프레임 외부(800b)로 구성되어 프레임 내부(800c)에 정보 계열(900)을 갖고, 프레임 외부(800b)에 정보 계열(901, 902)을 갖고 있다. 이 경우, 2개의 마커(800)의 프레임 내부(800c)의 정보 계열(900)은 동일하지만, 프레임 외부(800b)의 정보 계열(901, 902)을 다르게 함으로써[여기서는 정보 계열(901)의 색을 다르게 하는 동시에 정보 계열(902)의 위치를 다르게 함] 다른 관련 정보가 표시되도록 하는 것이 가능하다. 이 경우, 프레임 내부(800c)의 정보 계열(900) 및 프레임 외부(800b)의 정보 계열(901, 902) 중 어느 하나를 상위 계층 마커(또는 하위 계층 마커)로 설정해도 좋다.
또한, 마커는 미리 정해진 대상 장면 혹은 대상 영역 및 대상 시간 내에서만 유효해지도록 설정하는 것이 가능하다. 컨비니언스 체인 등의 간판을 하위 계층의 마커로 설정한 경우 상위 계층의 인식 없이 공통 정보를 표시하도록 설정해도 좋다.
상기한 실시 형태에 따르면, 관련 정보를 중첩 표시하는 데 사용하는 마커수를 대폭으로 줄일 수 있어, 이에 의해 오인식률을 저감시킬 수 있게 된다. 예를 들어, 대규모 공장이나 쇼핑몰 등의 시설 등으로 적어도 300 정보 제시처를 설정하고자 하였다고 한다. 각 마커에 정보 계열이 대응되어 마커가 하등 계층 구조를 갖고 있지 않은 경우에는 당연히 300의 마커가 필요해진다.
그러나, 마커 표기가 두 자릿수 및 세 자릿수의 영숫자로 이루어지는 경우에는 유사한 숫자 사이에서의 오인식이 발생하기 쉬워진다. 또한, 오인식을 적게 하기 위해서는 화상 입력 장치나 조명 환경 및 인식 확인 공정의 설정 등에 상당한 노동력이 필요로 하여, 이것이 비용 상승의 요인이 된다. 또한, 휴대 정보 단말에 있어서는 그 머신 파워로부터 판단하여 50을 넘는 의장 마커 사이에서의 판별은 매우 곤란하다.
그러나, 상기한 바와 같이 마커를 계층화함으로써 사용하는 마커의 수를 대폭으로 적게 하는 것이 가능하다. 예를 들어, 제1 계층의 마커로서 8 영역의 마커, 제2 계층의 마커로서 8 영역의 마커, 제3 계층의 마커로서 6 군데의 마커를 사용하여 계층화한 경우에는 8 + 8 + 6 = 22개의 마커이고, 8 × 8 × 6 = 378 군데의 정보 제시처를 확보할 수 있다.
본 발명에 따르면, 사용하는 마커의 수가 적어져 오인식률을 대폭 저감시킬 수 있게 된다.

Claims (9)

  1. 대상물을 화상 입력 장치에 의해 촬상하여, 상기 대상물에 대응한 관련 정보를, 표시 화면 내의 상기 대상물 상 혹은 표시 화면 내의 상기 대상물 주변에 표시하는 정보 제시 방법이며,
    상기 대상물의 관련 정보는, 상기 대상물 상 혹은 상기 대상물 주변에 설치된 복수의 2차원적 마커의 표기 내용에 의해 나타내고, 상기 복수의 2차원적 마커가 조합된 마커군에 의해 나타내어진 정보는 복수의 정보 계열 중 어느 하나에 속하는 정보 제시 방법.
  2. 대상물을 화상 입력 장치에 의해 촬상하여, 상기 대상물 상 혹은 상기 대상물 주변에 배치된 복수의 2차원적 마커에 의해 상기 대상물의 관련 정보를 표시 화면상의 대상물에 겹치게 하여 표시하는 정보 제시 방법이며,
    상기 대상물 상 혹은 상기 대상물 주변에 배치된 복수의 2차원적 마커는 계층적인 의미 구조를 갖는 정보 제시 방법.
  3. 제2항에 있어서, 상기 2차원적 마커의 표기 내용이 상위 계층의 정보 계열을 나타내는 것인 경우에는, 상기 표시 화면 내에 상기 정보 계열의 범위를 표시하는 정보 제시 방법.
  4. 각종 정보를 휴대 정보 단말로부터 사용자에게 제시하는 데 있어서,
    상기 휴대 정보 단말에 화상 입력 수단을 탑재하여, 상기 화상 입력 수단에 의한 촬영 화상으로부터 상기 휴대 정보 단말의 위치 및 방향을 산출하고,
    상기 휴대 정보 단말의 위치 및 방향과, 대면하는 대상물의 특정 결과에 따라서, 상기 대상물에 관한 정보를 검색하여 사용자에게 제시하는 정보 제시 방법이며,
    상기 촬영 화상으로부터 대상물 상 혹은 상기 대상물 주변에 설치된 문자 및 의장 혹은 코드 정보를 포함하는 마커군이며, 복수의 정보 계열 중 어느 하나에 대응시킨 상기 대상물을 특정하기 위한 마커군을 검출하고,
    상기 복수의 정보 계열 중 상위의 정보 계열의 지시 정보를 기초로 하여 하위의 정보 계열에 대응한 마커가 지정하는 관련 정보를 검색하는 정보 제시 방법.
  5. 제1항 또는 제4항에 있어서, 상기 마커군은 미리 정해진 대상 장면 혹은 대상 지역 및 대상 시간대 내에서만 유효하도록 설정되는 정보 제시 방법.
  6. 제1항 또는 제4항에 있어서, 상기 마커군은 상위 계층의 마커와 하위 계층의 마커를 포함하고, 상기 상위 계층의 마커가 검출되는 일 없이 상기 하위 계층의 마커만이 검출된 경우에는 상기 하위 계층의 마커가 단독으로 정보 제시에 이용되는 정보 제시 방법.
  7. 제1항 또는 제2항에 있어서, 단일의 마커 표시에 복수의 정보 계열이 포함되 어 있는 정보 제시 방법.
  8. 제7항에 있어서, 상기 2차원적 마커는 마커 프레임부와, 이 프레임부의 내부 및 외부인 프레임 주변부로 구성되어, 상기 마커 프레임부는 상기 휴대 정보 단말의 위치 자세 검출을 위해 이용되고, 상기 프레임 주변부는 표시 정보를 생성하기 위해 이용되는 정보 제시 방법.
  9. 각종 정보를 휴대 정보 단말로부터 사용자에게 제시하는 정보 제시 시스템이며,
    상기 휴대 정보 단말에 탑재된 화상 입력 수단에 의해 촬영된 촬영 화상으로부터 상기 휴대 정보 단말의 위치 및 방향을 산출하는 위치 자세 계측 수단과,
    상기 위치 자세 계측 수단에 의해 산출된 상기 휴대 정보 단말의 위치 및 방향과, 대면하는 대상물의 특정 결과로부터 상기 대상물에 관한 정보를 취득하는 정보 취득 수단과,
    상기 정보 취득 수단에 의해 취득된 상기 대상물에 관한 정보를 사용자에 대해 표시하는 표시 수단을 구비하고,
    상기 촬영 화상으로부터 대상물 상 혹은 상기 대상물 주변에 설치된 문자 및 의장 혹은 코드 정보를 포함하는 상기 대상물을 특정하기 위한 마커군을 검출하는 마커 검출 수단을 갖고,
    상기 마커군은 복수의 정보 계열 중 어느 하나에 대응하고, 상기 복수의 정 보 계열 중 상위의 정보 계열의 지시 정보를 기초로 하여 하위의 정보 계열에 대응한 마커가 지정하는 관련 정보가 검색되는 정보 제시 시스템.
KR1020067001488A 2003-07-24 2004-07-20 정보 제시 방법 및 정보 제시 시스템 KR100761582B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JPJP-P-2003-00201055 2003-07-24
JP2003201055A JP2005044029A (ja) 2003-07-24 2003-07-24 情報呈示方法及び情報呈示システム

Publications (2)

Publication Number Publication Date
KR20060031871A KR20060031871A (ko) 2006-04-13
KR100761582B1 true KR100761582B1 (ko) 2007-09-27

Family

ID=34100471

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020067001488A KR100761582B1 (ko) 2003-07-24 2004-07-20 정보 제시 방법 및 정보 제시 시스템

Country Status (7)

Country Link
US (1) US7505639B2 (ko)
EP (1) EP1650695A4 (ko)
JP (1) JP2005044029A (ko)
KR (1) KR100761582B1 (ko)
CN (1) CN100533472C (ko)
HK (1) HK1090726A1 (ko)
WO (1) WO2005010807A1 (ko)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1998283A4 (en) * 2006-03-23 2010-01-27 Olympus Corp DEVICE AND DEVICE FOR PRESENTING INFORMATION
JP2008261755A (ja) * 2007-04-12 2008-10-30 Canon Inc 情報処理装置、情報処理方法
JP5988563B2 (ja) * 2011-10-25 2016-09-07 キヤノン株式会社 画像処理装置と画像処理装置の制御方法およびプログラムと、情報処理装置と情報処理装置の制御方法およびプログラム
GB201122284D0 (en) * 2011-12-23 2012-02-01 Zappar Ltd Content identification and distribution
JP5791690B2 (ja) * 2013-12-03 2015-10-07 株式会社バンダイ 情報保持媒体及び情報読取装置
JP6586758B2 (ja) * 2015-03-31 2019-10-09 ソニー株式会社 情報処理システム、情報処理方法及びプログラム
US11182965B2 (en) 2019-05-01 2021-11-23 At&T Intellectual Property I, L.P. Extended reality markers for enhancing social engagement

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4742558A (en) 1984-02-14 1988-05-03 Nippon Telegraph & Telephone Public Corporation Image information retrieval/display apparatus
JPH0386823U (ko) * 1989-12-26 1991-09-03
JP2002092012A (ja) * 2000-09-19 2002-03-29 Olympus Optical Co Ltd 特定地域内情報表示システム
JP2002157575A (ja) * 2000-11-22 2002-05-31 Olympus Optical Co Ltd 画像情報表示装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2105936B1 (es) * 1994-03-21 1998-06-01 I D Tec S L Perfeccionamientos introducidos en la patente de invencion n. p-9400595/8 por: procedimiento biometrico de seguridad y autentificacion de tarjetas de identidad y de credito, visados, pasaportes y reconocimiento facial.
US5765561A (en) * 1994-10-07 1998-06-16 Medical Media Systems Video-based surgical targeting system
US6535243B1 (en) * 1998-01-06 2003-03-18 Hewlett- Packard Company Wireless hand-held digital camera
JP3786166B2 (ja) 1998-06-30 2006-06-14 ソニー株式会社 画像処理装置、画像処理方法、および画像処理プログラム
US6473522B1 (en) * 2000-03-14 2002-10-29 Intel Corporation Estimating text color and segmentation of images
JP3086823U (ja) * 2001-12-19 2002-07-05 デーティー・リサーチ・ジャパン株式会社 コードコントロール用シート
JP2004048674A (ja) * 2002-05-24 2004-02-12 Olympus Corp 視野一致型情報呈示システム、並びに、それに用いられる携帯情報端末及びサーバ

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4742558A (en) 1984-02-14 1988-05-03 Nippon Telegraph & Telephone Public Corporation Image information retrieval/display apparatus
JPH0386823U (ko) * 1989-12-26 1991-09-03
JP2002092012A (ja) * 2000-09-19 2002-03-29 Olympus Optical Co Ltd 特定地域内情報表示システム
JP2002157575A (ja) * 2000-11-22 2002-05-31 Olympus Optical Co Ltd 画像情報表示装置

Also Published As

Publication number Publication date
WO2005010807A1 (ja) 2005-02-03
JP2005044029A (ja) 2005-02-17
US20060126968A1 (en) 2006-06-15
CN100533472C (zh) 2009-08-26
EP1650695A1 (en) 2006-04-26
EP1650695A4 (en) 2008-04-30
CN1826606A (zh) 2006-08-30
US7505639B2 (en) 2009-03-17
HK1090726A1 (en) 2006-12-29
KR20060031871A (ko) 2006-04-13

Similar Documents

Publication Publication Date Title
Kim et al. Vision-based location positioning using augmented reality for indoor navigation
EP3547256B1 (en) Extracting a feature descriptor for an image feature
JP4970195B2 (ja) 人物追跡システム、人物追跡装置および人物追跡プログラム
KR20200040665A (ko) 컨볼루션 신경망을 이용하여 poi 변화를 검출하기 위한 시스템 및 방법
CN109816745B (zh) 人体热力图展示方法及相关产品
JP2010530998A (ja) 画像ベース情報検索の方法およびシステム
JP2023502972A (ja) 物品識別および追跡システム
EP3680813A1 (en) Method and system for detecting objects installed within a building
US7505639B2 (en) Information presentation method and information presentation system
CN101281422A (zh) 以对象为基础三维信息产生装置与方法及使用的互动***
KR101756713B1 (ko) 입체형 다중 마커 구조의 증강 현실 구현 시스템 및 그 방법
CN107077739A (zh) 使用单目相机的三维标记模型构建和实时跟踪
WO2018158495A1 (en) Method and system of providing information pertaining to objects within premises
CN109977853B (zh) 一种基于多辨识设备的井下工人全景监控方法
CN103688139B (zh) 用于便携式终端设备的进行行人脚步识别的方法和装置
Coughlan et al. Color targets: Fiducials to help visually impaired people find their way by camera phone
Kostoeva et al. Indoor 3D interactive asset detection using a smartphone
KR101845423B1 (ko) 구조물 검사 지원 장치 및 방법
WO2017179543A1 (ja) 情報処理装置、情報処理方法及びプログラム記録媒体
JP6304815B2 (ja) 画像処理装置ならびにその画像特徴検出方法、プログラムおよび装置
JP6065911B2 (ja) 配置情報登録装置、配置情報登録方法および配置情報登録プログラム
Uma et al. Marker based augmented reality food menu
Trucco et al. A framework for automatic progress assessment on construction sites using computer vision
CN116192822A (zh) 一种屏显通讯控制方法、装置、5g消防对讲手机及介质
JP2008052403A (ja) 2次元位置情報がコード化された模様、当該模様を用いた位置同定システム及び方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
G170 Publication of correction
FPAY Annual fee payment

Payment date: 20100910

Year of fee payment: 4

LAPS Lapse due to unpaid annual fee