TWI446175B - 通信控制裝置、通信控制方法及相關之電腦可讀媒體 - Google Patents

通信控制裝置、通信控制方法及相關之電腦可讀媒體 Download PDF

Info

Publication number
TWI446175B
TWI446175B TW099143812A TW99143812A TWI446175B TW I446175 B TWI446175 B TW I446175B TW 099143812 A TW099143812 A TW 099143812A TW 99143812 A TW99143812 A TW 99143812A TW I446175 B TWI446175 B TW I446175B
Authority
TW
Taiwan
Prior art keywords
communication
communication device
data
communication control
unit
Prior art date
Application number
TW099143812A
Other languages
English (en)
Other versions
TW201145024A (en
Inventor
Kouichi Matsuda
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of TW201145024A publication Critical patent/TW201145024A/zh
Application granted granted Critical
Publication of TWI446175B publication Critical patent/TWI446175B/zh

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38Information transfer, e.g. on bus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38Information transfer, e.g. on bus
    • G06F13/382Information transfer, e.g. on bus using universal interface adapter
    • G06F13/385Information transfer, e.g. on bus using universal interface adapter for adaptation of a particular data processing system to different peripheral devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/451Execution arrangements for user interfaces
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/02Networking aspects
    • G09G2370/025LAN communication management
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/04Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephonic Communication Services (AREA)
  • Selective Calling Equipment (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Processing Or Creating Images (AREA)

Description

通信控制裝置、通信控制方法及相關之電腦可讀媒體
本發明係關於一種通信控制裝置、一種通信控制方法及一種程式。
最近,被稱作擴增實境(AR)的技術(其處理藉由使一真實空間成像而獲得之一影像並展示經處理之影像給一使用者)備受關注。在AR技術中,一電腦識別真實空間之情況很重要。舉例而言,作為用於識別真實空間之情況之技術,日本專利特許公開案第2008-304268號揭示一種藉由應用名為同時定位與繪製地圖(SLAM)的技術(其能夠同時估計一攝影機之一位置及一姿勢與該攝影機之一影像中存在之特徵點之位置)而動態產生代表真實空間中所存在之實物之三維位置之一環境地圖。使用一單眼攝影機之SLAM技術之一基本原理係揭示於「Real-Time Simultaneous Localization and Mapping with a Single Camera」(Andrew J. Davison,9th IEEE International Conference on Computer Vision會議記錄第二卷,2003年,1403-1410頁)。
順便提到,目前資訊通信技術係廣泛地用在普通使用者之間且許多使用者擁有可互相通信之複數個通信裝置。舉例而言,從一個人電腦(PC)至一印表機之印表資料傳輸、從一數位攝影機至一PC之影像資料傳輸、一桌上型PC與一行動電話之間之資料交換、無線裝置之間之連接資料交換及類似情況係可互相通信之通信裝置之間之所有通信。舉例而言,用於改良有關通信裝置之間之通信之使用者便利之技術係揭示於日本專利特許公開案第2001-142825號。
大致上,當資料在上述通信裝置之間交換時,使用者在一傳輸源及一傳輸目的地之任一者之一螢幕上指定所要的傳輸資料及一通信夥伴之一裝置並發出一資料傳輸命令。作為發出資料傳輸命令之一方法,存在各種類型,諸如圖示拖曳、選單選擇、基於文本之命令輸入及類似動作。但是,在任何方法中使用者均應瞭解代表通信夥伴裝置之一位址、一識別名稱或一圖示。這使使用者的操作複雜化且阻止使用者執行一直觀操縱。揭示於上述日本專利特許公開案第2001-142825號中之「選放」係一種關於具有一直觀使用者介面之裝置之間之資料交換之方法。但是,由於須針對「選放」方法在傳輸源與傳輸目的地兩者之裝置中製備一特殊介面,因此,使用者無法享受足夠的便利。
同時,上述環境地圖使一電腦能準確識別定位在一真實空間中之一通信裝置之一位置。因此,一資料傳輸指令有望能夠藉由一使用者介面(環境地圖係應用至該使用者介面)而更直觀地在裝置之間提供。
鑑於上述內容,需要提供一種新穎及經改良的通信裝置、通信控制方法及程式,其藉由應用一環境地圖而提供用於裝置之間之資料傳輸之一直觀使用者介面。
根據本發明之一實施例,提供一種通信控制裝置,其包含:一資料儲存單元,其儲存代表一或多個通信裝置之外觀特徵之特徵資料;一環境地圖建構單元,其係用於基於藉由使一真實空間成像而獲得之一輸入影像及該資料儲存單元中所儲存之特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖;一偵測單元,其係用於偵測至一第一通信裝置之指定該第一通信裝置中所提供之任何資料及一方向之一使用者輸入;一選擇單元,其係用於基於使用者輸入所指定之方向而從環境地圖中選擇充當指定資料之一傳輸目的地之一第二通信裝置;及一通信控制單元,其係用於將該第一通信裝置中所提供之資料從該第一通信裝置傳輸至該第二通信裝置。
根據此組態,代表定位在真實空間中之通信裝置之位置之環境地圖係基於使真實空間成像而獲得之輸入影像而動態地建構。當偵測到至一資料傳輸源之第一通信裝置之使用者輸入時,從該第一通信裝置傳輸所指定的資料至基於使用者輸入所指定之方向而從環境地圖中選擇之該第二通信裝置。
該選擇單元可選擇在環境地圖中相對於該第一通信裝置而定位在使用者輸入所指定之方向上之一通信裝置作為該第二通信裝置。
該選擇單元可基於該第一通信裝置在環境地圖中之一位置及姿勢及使用者輸入所指定之方向而指定在第一通信裝置上具有一起始點之一直線並選擇至少定位為接近該直線之一通信裝置作為該第二通信裝置。
若在環境地圖中複數個通信裝置係相對於該第一通信裝置而定位在使用者輸入所指定之方向上,則該選擇單元可在該複數個通信裝置間選擇定位為最接近該第一通信裝置之一通信裝置作為該第二通信裝置。
該通信控制裝置可進一步包含一顯示控制單元,其係在資料係從該第一通信裝置傳輸至該第二通信裝置時用於使一顯示裝置顯示代表資料傳輸之一動畫。
使用者輸入可為拖曳在該第一通信裝置中所提供之一螢幕上所顯示一圖示且可根據一使用者所拖曳的圖示而指定待從該第一通信裝置傳輸的資料。
根據本發明之另一實施例,藉由包含儲存代表一或多個通信裝置之外觀特徵之特徵資料之一儲存媒體之一通信控制裝置提供一種通信控制方法,其包含下列步驟:基於藉由使一真實空間成像而獲得之一輸入影像及特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖;偵測至一第一通信裝置之指定該第一通信裝置中所提供之任何資料及一方向之一使用者輸入;基於使用者輸入所指定之方向而從環境地圖中選擇充當指定資料之一傳輸目的地之一第二通信裝置;及將該第一通信裝置中所提供之資料從該第一通信裝置傳輸至第二通信裝置。
根據本發明之另一實施例,提供一種程式,其係用於使控制包含儲存代表一或多個通信裝置之外觀特徵之特徵資料之一儲存媒體之一通信控制裝置之一電腦發揮下列功能:一環境地圖建構單元,其係用於基於藉由使一真實空間成像而獲得之一輸入影像及該資料儲存單元中所儲存之特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖;一偵測單元,其係用於偵測至一第一通信裝置之指定該第一通信裝置中所提供之任何資料及一方向之一使用者輸入;一選擇單元,其係用於基於使用者輸入所指定之方向而從環境地圖中選擇充當指定資料之一傳輸目的地之一第二通信裝置;及一通信控制單元,其係用於將該第一通信裝置中所提供之資料從該第一通信裝置傳輸至該第二通信裝置。
根據本發明之另一實施例,提供一種通信控制裝置,其包含:一資料儲存單元,其儲存代表一或多個通信裝置之外觀特徵之特徵資料;一環境地圖建構單元,其係用於基於藉由使一真實空間成像而獲得之一輸入影像及該資料儲存單元中所儲存之特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖;一偵測單元,其係用於偵測至一第一通信裝置之指定該第一通信裝置中所提供之任何資料之一使用者輸入;一選擇單元,其係用於基於該第一通信裝置在環境地圖中之一位置而從環境地圖中選擇充當指定資料之一傳輸目的地之一第二通信裝置;及一通信控制單元,其係用於將該第一通信裝置中所提供之資料從該第一通信裝置傳輸至第二通信裝置。
該選擇單元可選擇在環境地圖中定位在該第一通信裝置下方之一通信裝置作為該第二通信裝置。
根據本發明之另一實施例,藉由包含儲存代表一或多個通信裝置之外觀特徵之特徵資料之一儲存媒體之一通信控制裝置提供一種通信控制方法,其包含下列步驟:基於藉由使一真實空間成像而獲得之一輸入影像及特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖;偵測至一第一通信裝置之指定該第一通信裝置中所提供之任何資料之一使用者輸入;基於該第一通信裝置在環境地圖中之一位置而從環境地圖中選擇充當指定資料之一傳輸目的地之一第二通信裝置;及將該第一通信裝置中所提供之資料從該第一通信裝置傳輸至該第二通信裝置。
根據本發明之另一實施例,提供一種程式,其係用於使控制包含儲存代表一或多個通信裝置之外觀特徵之特徵資料之一儲存媒體之一通信控制裝置之一電腦發揮下列功能:一環境地圖建構單元,其係用於基於藉由使一真實空間成像而獲得之一輸入影像及該資料儲存單元中所儲存之特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖;一偵測單元,其係用於偵測至一第一通信裝置之指定該第一通信裝置中所提供之任何資料之一使用者輸入;一選擇單元,其係用於基於該第一通信裝置在環境地圖中之一位置而從環境地圖中選擇充當指定資料之一傳輸目的地之一第二通信裝置;及一通信控制單元,其係用於將該第一通信裝置中所提供之資料從該第一通信裝置傳輸至該第二通信裝置。
根據如上所述之根據本發明之實施例之通信控制裝置、通信控制方法及程式,可提供一種用於裝置之間之資料傳輸之直觀使用者介面。
下文將參考隨附圖式詳細描述本發明之較佳實施例。應注意在本說明書及隨附圖式中,具有實質相同之功能及結構之結構元件可用相同元件符號標注且省略此等結構元件之重複說明。
將按下列順序進行「(諸)實施例之詳細描述」。
1.系統概觀
2.根據實施例之通信裝置之組態
3.根據實施例之通信控制裝置之組態
3-1.成像單元
3-2.環境地圖產生單元
3-3.通信處理單元
3-4.顯示控制單元
3-5.通信控制程序之流程
4.經修改實例
5.總結
<1.系統概觀>
首先,參考圖1及圖2描述根據本發明之一實施例之系統之概觀。圖1係圖解說明根據本發明之實施例之系統之概觀之一示意圖。圖2係繪示能夠在根據圖1所示之實施例之一通信控制裝置100中獲得之一輸入影像之一實例之一說明圖。
參考圖1,一環境1係繪示為一實例,其中可使用該通信控制裝置100。一桌子10及通信裝置20a、20b、20c及20d係存在於該環境1內。該桌子10係放置在一地板上,該地板為該環境1之底部。舉例而言,該通信裝置20a對應於一行動電話諸如一智慧電話或類似物且係由一使用者握持。舉例而言,該通信裝置20b對應於一筆記型PC且係定位在該桌子10上。舉例而言,該通信裝置20c對應於一數位攝影機,且係定位在該桌子10上。舉例而言,該通信裝置20d對應於一印表機,且係放置於地板上。該等通信裝置20a、20b、20c及20d可經由一有線或無線通信連接而互相通信。
該通信控制裝置100係具有安裝在一使用者Ua上之一攝影機及一頭載式顯示器(HMD)104之一通信裝置。該通信控制裝置100之一主體不一定安裝在使用者Ua上。該通信控制裝置100可經由一有線或無線通信連接而與該等通信裝置20a、20b、20c及20d通信。該通信控制裝置100使該環境11成像為圖1所示之一實例並獲得一組輸入影像。該通信控制裝置100基於所獲得之輸入影像建構隨後將描述之一環境地圖。該通信控制裝置100偵測與至該等通信裝置20a、20b、20c及20d之任一者之與資料傳輸相關之一使用者輸入。該通信控制裝置100基於所偵測之使用者輸入控制從一裝置至另一裝置之資料傳輸。
圖2係繪示藉由該通信控制裝置100而獲得之一輸入影像106作為一實例之一說明圖。參考圖2,圖1所示之該等通信裝置20a及20d係繪示在該輸入影像106中。對應於該通信裝置20a中所提供之資料之兩個圖示係顯示在該通信裝置20a之一螢幕上。在本實施例中,舉例而言,資料係在由在圖示上執行隨後將描述之一使用者輸入之使用者Ua所進行的該通信控制裝置100之控制下從該通信裝置20a傳輸至另一通信裝置。
在本說明書中,當無須特別在該等通信裝置20a、20b、20c及20d間進行區分時,其等係藉由省略其元件符號中的字母而統稱為該等通信裝置20。相同情況適用於其他元件。
<2.根據實施例之通信裝置之組態>
圖3係繪示根據本發明之一實施例之通信裝置20之一組態之一實例之一方塊圖。參考圖3,該通信裝置20包含一儲存單元40、一顯示單元42、一使用者介面(I/F)44、一通信介面46及一控制單元48。
該儲存單元40使用一儲存媒體諸如一硬碟或一半導體記憶體儲存資料。藉由該儲存單元40所儲存之資料可為任何類型之資料,諸如一應用程式資料、文本資料、影像資料、音訊資料或程式資料。
該顯示單元42根據該控制單元48之控制在該通信裝置20上所提供之一螢幕上顯示資訊。舉例而言,如圖2所示,該顯示單元42在該螢幕上顯示分別對應於該儲存單元40中所儲存之資料之圖示。該顯示單元42可顯示儲存在該儲存單元40中所儲存之個別資料之資料檔案之一列檔案名稱。當使用者想要將資料從該通信裝置20傳輸至另一裝置時,該等圖示或檔案名稱係用於指定將傳輸之資料。
該使用者介面44提供使使用者可輸入資訊或賦予一指令之一輸入構件。在本實施例中,該使用者介面44包含一指向裝置,其使使用者能在該通信裝置20之螢幕上指定任何位置。舉例而言,該指向裝置可為與該顯示單元42整合組態之一觸控面板或可為一滑鼠、一觸控墊或取代其之類似物。此外,該使用者介面44可額外包含一鍵盤、一按鈕、一轉盤或類似物。
該通信介面46藉由該通信裝置20而中轉與其他裝置(包含該通信控制裝置100及另一通信裝置20)之通信。舉例而言,該通信介面46可為一無線通信介面諸如一無線區域網路(LAN)、藍芽(註冊商標)或WiMax(註冊商標),或可為一有線通信介面諸如一有線LAN或一通用序列匯流排(USB)。
該控制單元48藉由使用一處理器諸如一中央處理單元(CPU)或一數位信號處理器(DSP)控制該通信裝置20之整體操作。舉例而言,該控制單元48操作該通信裝置20之獨特功能(PC之資訊處理功能、智慧電話之通信功能或其他應用功能)。舉例而言,該控制單元48使該顯示單元41顯示分別對應於該儲存單元40中所儲存之資料之圖示及類似物。在本實施例中,舉例而言,當感測到經由該使用者介面44之與資料傳輸相關之一預定使用者輸入時,該控制單元48經由該通信介面46傳輸通知使用者輸入之內容之一使用者輸入信號至該通信控制裝置100。下文將具體描述與資料傳輸相關之使用者輸入。
該控制單元48根據來自該通信控制裝置100之一指令從該儲存單元40中讀取使用者所指定之資料,且經由該通信介面46傳輸該資料至另一通信裝置。舉例而言,來自該通信裝置20之資料傳輸可藉由檔案傳送協定(FTP)、超文本傳送協定(HTTP)、Samba或類似物之一結構而實現。一資料傳輸目的地係藉由該通信控制裝置100選擇。
該通信控制裝置100係用於控制從該通信裝置20至另一通信裝置之資料傳輸之一裝置。下一部分將具體描述根據本實施例之通信控制裝置100之組態。
<3.根據實施例之通信控制裝置之組態>
圖4係繪示根據本發明之一實施例之通信控制裝置100之一組態之一實例之一方塊圖。參考圖4,該通信控制裝置100包含一成像單元102、一環境地圖產生單元110、一通信處理單元180及一顯示控制單元190。
[3-1.成像單元]
舉例而言,該成像單元102可實現為具有一成像元件諸如一電荷耦合裝置(CCD)或一互補金屬氧化物半導體(CMOS)之一攝影機。該成像單元102可提供在該通信控制裝置100外部。該成像單元102輸出藉由使真實空間諸如圖1所示之該環境1成像而產生之一影像至該環境地圖產生單元110及該顯示控制單元190作為輸入影像。
[3-2.環境地圖產生單元]
該環境地圖產生單元110產生一環境地圖,其基於從該成像單元102輸入之輸入影像及一資料儲存單元130所儲存之隨後將描述之一物件之特徵資料而展示真實空間中所存在之一或多個實物之位置及類似物。在如圖4所示之此實施例中,該環境地圖產生單元110包含一自身位置偵測單元120、該資料儲存單元130、一影像識別單元140、一環境地圖建構單元150及一環境地圖儲存單元152。
(1)自身位置偵測單元
該自身位置偵測單元120基於從該成像單元102輸入之輸入影像及該資料儲存單元130中所儲存之特徵資料動態地偵測顯示輸入影像之攝影機之一位置。舉例而言,即使當該成像裝置具有一單眼攝影機時,該自身位置偵測單元120亦可藉由應用揭示於上述「Real-Time Simultaneous Localization and Mapping with a Single Camera」(Andrew J. Davison,9th IEEE International Conference on Computer Vision會議記錄第二卷,2003年,1403-1410頁)之SLAM技術而針對各圖框在該攝影機之一成像平面上動態地決定該攝影機之一位置及一姿勢及一FP之一位置。
首先,參考圖5描述應用SLAM技術之該自身位置偵測單元120之一自身位置偵測程序之整個流程。接下來,將參考圖6至圖8詳細描述自身位置偵測程序。
圖5係圖解說明應用SLAM技術之該自身位置偵測單元120之自身位置偵測程序之流程之一實例之一流程圖。在圖5中,當自身位置偵測程序開始時,該自身位置偵測單元120首先初始化一狀態變數(步驟S102)。在本實施例中,該狀態變數係包含攝影機之一位置及一姿勢(旋轉角度)、攝影機之一移動速度及一角速度及一或多個FP之位置之作為元素之一向量。該自身位置偵測單元120隨後按順序從該成像單元102獲得輸入影像(步驟S112)。可針對各輸入影像(即各圖框)重複從步驟S112至步驟S118之程序。
在步驟S114中,該自身位置偵測單元120追蹤輸入影像中所存在之FP。舉例而言,該自身位置偵測單元120從輸入影像中偵測事先儲存在該資料儲存單元130中各FP之一特徵點匹配影像區塊(patch)(例如,具有一FP之中心之3×3=9像素之一小影像)。在此,所偵測之特徵點匹配影像區塊之位置(即FP之位置)隨後在更新狀態變數時使用。
在步驟S116中,該自身位置偵測單元120舉例而言基於一預定預測模型在1圖框後產生狀態變數之一預測值。此外,在步驟S118中,該自身位置偵測單元120藉由使用步驟S116中所產生之狀態變數之預測值及對應於步驟S114中所偵測之FP之位置之一觀測值更新狀態變數。該自身位置偵測單元120基於一延展型卡爾曼(Kalman)濾波器之一原理執行步驟S116及S118之程序。
由於此處理,輸出針對各圖框所更新之狀態變數之一值。將更具體地描述FP之追蹤(步驟S114)、狀態變數之預測(步驟S116)及狀態變數之更新(步驟S118)之程序之內容。
(1-1)特徵點之追蹤
在本實施例中,該資料儲存單元130事先儲存代表對應於可能存在於真實空間中的實物(該通信裝置20及其他實物)之物件特徵之特徵資料。舉例而言,特徵資料包含小影像,即有關一或多個FP之特徵點匹配影像區塊,各代表各物件之表面之一特徵。舉例而言,特徵點匹配影像區塊可為包含具有FP之中心之3×3=9像素之小影像。
圖6圖解說明物件之兩個實例及設定在各物件上之FP及特徵點匹配影像區塊之一實例。圖6中之左側物件係代表一PC之一物件(見圖6a)。包含一特徵點FP1之複數個FP係設定在物件上。此外,結合該特徵點FP1定義一特徵點匹配影像區塊Pth1。另一方面,圖6中之右側物件係代表一行事曆之一物件(見圖6b)。包含一特徵點FP2之複數個FP係設定在物件上。此外,結合該特徵點FP2定義一特徵點匹配影像區塊Pth2。
在從該成像單元102獲得一輸入影像後,該自身位置偵測單元120即核對輸入影像中所包含之部分影像及事先儲存在該資料儲存單元130中之圖6所示之各FP之特徵點匹配影像區塊。該自身位置偵測單元120隨後指定輸入影像中所包含之各FP之一位置(舉例而言,所偵測之特徵點匹配影像區塊之一中心像素之一位置)作為一核對結果。
為了追蹤FP(圖5中之步驟S114),無需事先在該資料儲存單元130中儲存與將被追蹤之所有FP相關之資料。舉例而言,在圖7所繪示之一實例中於時間T=t-1時在輸入影像中偵測到四個FP(見圖7a)。接下來,若攝影機之位置或姿勢在時間T=t時變化,則僅時間T=t-1時之輸入影像中所顯示之四個FP之兩個顯示在輸入影像中。在本情況中,該自身位置偵測單元120可重新在具有輸入影像之一特徵像素型樣之位置設定FP且可將自身位置偵測程序中的新FP用於一之後之圖框。舉例而言,在圖7之實例中,於時間T=t時在物件上設定三個新FP(見圖7b)。這是SLAM技術的一特徵。藉此,可使用許多將被追蹤之FP降低預設定所有FP之成本及改良處理之準確性。
(1-2)狀態變數之預測
在本實施例中,該自身位置偵測單元120使用下列方程式中所示之一狀態變數X作為將應用至延展型卡爾曼濾波器之狀態變數。
[方程式1]
如下列方程式所示,方程式(1)中之狀態變數X之第一元素代表作為設定在真實空間中之一座標系之一整體座標系(x,y,z)中之攝影機之三維位置。
[方程式2]
此外,狀態變數之第二元素係一四維向量ω,其具有一四元數作為對應於代表攝影機之姿勢之一旋轉矩陣之一元素。可使用一歐拉角(Euler angle)代替四元數來代表攝影機的姿勢。此外,狀態變數之第三及第四元素分別代表攝影機的移動速度及角速度。
此外,如下列方程式所示,狀態變數的第五及之後的元素代表整體座標系中之一特徵點FPi (i=1...N)之三維位置pi 。如上所述,FP之數量N可在處理期間發生變化。
[方程式3]
該自身位置偵測單元120基於在步驟S102中初始化之狀態變數X之值或在前一圖框中更新之狀態變數X之值產生一最新圖框中之狀態變數之一預測值。如下列方程式所示,狀態變數之預測值係根據依據多維常態分佈之延展型濾波器之一狀態方程式而產生。
[方程式4]
預測狀態變數=F (X ,a )+w  (4)
在此,F代表有關一系統之狀態轉變之一預測模型且a代表一預測條件。此外,w代表高斯(Gaussian)雜訊且舉例而言可包含一模型近似誤差、一觀測誤差及類似誤差。大致上,高斯雜訊w之平均值為0。
圖8係圖解說明根據本實施例之預測模型之一實例之一說明圖。參考圖8,繪示根據本實施例之預測模型中之兩個預測條件。首先,作為一第一條件,假設FP在整體座標系中的三維位置不變。即,若在時間T時特徵點FP1之三維位置為pT ,則建立下列關係。
[方程式5]
p t =p t -1  (5)
接下來,作為一第二條件,假設攝影機之運動為均勻運動。即從時間T=t-1至時間T=t攝影機之速度與角速度建立下列關係。
[方程式6]
該自身位置偵測單元120基於方程式(4)中所示之預測模型及狀態方程式產生最新圖框之狀態變數之一預測值。
(1-3)狀態變數之更新
舉例而言,該自身位置偵測單元120使用一觀測方程式估計從狀態變數之預測值中所預測的觀測資訊與作為FP追蹤之一結果而獲得之實際觀測資訊之間之一誤差。在方程式(8)中,ν係一誤差。
[方程式7]
觀測資訊s =H ()+ν  (8)
預測的觀測資訊=H () (9)
在此,H代表一觀測模型。舉例而言,如下列方程式所示,定義特徵點FPi 在成像平面(u-v平面)上之一位置。
[方程式8]
FPi 在成像平面上的位置
在此,攝影機之位置x、攝影機之姿勢ω及特徵點FPi 之三維位置pi 係賦為狀態變數X之元素。隨後,根據一針孔模型使用下列方程式得出特徵點FPi 在成像平面上之位置。
[方程式9]
在此,λ代表一正規化參數,A代表一攝影機內部參數且Rω 代表對應於狀態變數X中所包含之代表攝影機之姿勢之四元數ω之旋轉矩陣。如下列方程式所示,根據形成輸入影像之成像裝置之特性事先賦予攝影機內部參數A。
[方程式10]
在此,f代表一焦距,θ代表一影像軸之正交性(理想值為90度),ku 代表成像平面之一垂直軸之一刻度(從整體座標系至成像平面座標系之一刻度變化速率),kv 代表成像平面之一水平軸之一刻度,且(uo ,vo )代表成像平面之一中心位置。
因此,可藉由查找狀態變數X獲得一合理的最新狀態變數X,其使使用方程式(11)而得出之預測觀測資訊即各FP在成像平面上之位置與圖5之步驟S114中之FP追蹤之結果之間之誤差最小化。
[方程式11]
最新狀態變數X← +Innov (s -) (13)
該自身位置偵測單元120輸出藉由應用SLAM技術而動態更新之攝影機(成像裝置)之位置x及姿勢ω至該環境地圖建構單元150、該通信處理單元180及該顯示控制單元190。
(2)資料儲存單元
該資料儲存單元130藉由使用一儲存媒體諸如一硬碟或一半導體記憶體事先儲存代表對應於可能存在於真實空間中之一實物之一物件之特徵之特徵資料。圖4中繪示其中該資料儲存單元130係該環境地圖產生單元110之一部分之一實例,但是本發明並不限於此一實例,且該資料儲存單元130可提供在該環境地圖產生單元110外部。圖9係圖解說明特徵資料之組態之一實例之一說明圖。
參考圖9,在一物件Obj1中繪示特徵資料FD1作為一實例。該特徵資料FD1包含一物件名稱FD11、從六個方向取得之影像資料FD12、特徵點匹配影像區塊資料FD13、三維形狀資料FD14及本體資料FD15。
物件名稱FD11係可藉由其指定一相應物件之一名稱,諸如「智慧電話A」。
舉例而言,影像資料FD12包含藉由從六個方向(正面、背面、左側、右側、上側及下側)取得對應物件之影像而獲得之六個影像資料。特徵點匹配影像區塊資料FD13係針對設定在各物件上之一或多個FP之各者之具有各FP之中心之一組小影像。影像資料FD12及特徵點匹配影像區塊資料FD13可用於隨後將描述之該影像識別單元140之一物件識別程序。此外,特徵點匹配影像區塊資料FD13可用於該自身位置偵測單元120之上述自身位置偵測程序。
三維形狀資料FD14包含用於識別對應物件之一形狀及FD之三維位置資訊之多邊形資訊。三維形狀資料FD14可用於隨後將描述之該環境地圖建構單元150之一環境地圖建構程序。
舉例而言,本體資料FD15係可用於協助該環境地圖建構單元150之環境地圖建構程序之資料。在圖9之實例中,本體資料FD15指示作為智慧電話之物件Obj1更可能與對應於一桌子之一物件接觸且較不可能與對應於一書架之一物件接觸。
(3)影像識別單元
該影像識別單元140藉由使用該資料儲存單元130中所儲存之上述特徵資料而指定哪些物件對應於輸入影像中所顯示之實物之各者。
圖10係圖解說明影像識別單元140之物件識別程序之一流程之一實例之一流程圖。參考圖10,該影像識別單元140首先獲得來自該成像單元102之一輸入影像(步驟S212)。接下來,該影像識別單元140核對輸入影像中所包含之部分影像及特徵資料中所包含之各物件之一或多個FP之特徵點匹配影像區塊並擷取輸入影像中所包含之FP(步驟S214)。該影像識別單元140之物件識別程序中所使用的FP不一定與該自身位置偵測單元120之自身位置偵測中所使用的FP一樣。但是,若兩個程序使用相同FP,則該影像識別單元140可重新使用該自身位置偵測單元120之FP追蹤結果。
接下來,該影像識別單元140基於FP之一擷取結果指定輸入影像中所顯示之物件(步驟S216)。舉例而言,若在一特定區域高密度地擷取屬於一物件之FP,則該影像識別單元140可識別該物件係顯示於該區域。該影像識別單元140隨後輸出指定物件之一物件名稱(或一標識符)及屬於該物件之FP在成像平面上之位置至該環境地圖建構單元150(步驟S218)。
(4)環境地圖建構單元
該環境地圖建構單元150藉由使用從該自身位置偵測單元120輸入之攝影機之位置及姿勢、從該影像識別單元140輸入之FP在成像平面上的位置及該資料儲存單元130中所儲存之特徵資料而產生一環境地圖。在本說明書中,環境地圖係代表真實空間中所存在之一或多個實物之位置(及姿勢)之一組資料。具體而言,在本實施例中,環境地圖包含作為真實空間中所存在之實物之兩個或更多個通信裝置20之位置及姿勢。此外,舉例而言,環境地圖可包含對應於實物之物件名稱、屬於實物之FP之三維位置、組態實物之形狀之多邊形資訊及類似物。舉例而言,環境地圖可藉由根據上述針孔模型從自該影像識別單元140輸入之FP在成像平面上之位置獲得各FP之三維位置而建構。
若修改方程式(11)中所表示之針孔模型之關係方程式,則特徵點FPi 在整體座標系中之三維位置pi 可藉由下列方程式獲得。
[方程式12]
在此,d代表整體座標系中攝影機與該FP之間之一距離。該環境地圖建構單元150可基於至少四個FP在成像平面上之位置及各物件之FP之間之距離而計算距離d。FP之間的距離係事先儲存在該資料儲存單元130中作為參考圖9所描述之特徵資料中所包含之三維形狀資料FD14。計算方程式(14)中之距離d之一程序係詳細揭示於上述日本專利特許公開案第2008-304268號中。
若計算出距離d,則方程式(14)右側之其餘變數係從該自身位置偵測單元120輸入之攝影機之位置及姿勢及從該影像識別單元140輸入之FP在成像平面上之位置,且其等係已知。該環境地圖建構單元150隨後根據方程式(14)計算從該影像識別單元140輸入之各FP在整體座標系中之三維位置。該環境地圖建構單元150隨後根據所計算之各FP之三維位置建構一最新環境地圖並使該環境地圖儲存單元152儲存所建構之環境地圖。此時,該環境地圖建構單元150可藉由使用參考圖9所描述之特徵資料中所包含之本體資料FD15而改良環境地圖之資料之準確度。
該環境地圖儲存單元152藉由使用儲存媒體諸如硬碟或半導體記憶體而儲存該環境地圖建構單元150所建構之環境地圖。在本實施例中,在該環境地圖儲存單元152中,與各通信裝置20有關之資料係與事先暫存之各通信裝置20之識別資訊(舉例而言,一IP位址、一主機名稱、一MAC位址或類似資訊)相關聯。
[3-3.通信處理單元]
該通信處理單元180藉由使用該環境地圖產生單元110所產生之一環境地圖,根據從該通信裝置20接收之一使用者輸入控制從一通信裝置20至另一裝置之資料傳輸。如圖4所示之此實施例中,該通信處理單元180包含一通信介面182、一偵測單元184、一選擇單元186及一通信控制單元188。
(1)通信介面
該通信介面182藉由該通信控制裝置100中轉與該通信裝置20之通信。舉例而言,該通信介面182可為與該通信裝置20之該通信介面46相同之無線或有線通信介面。該通信介面182輸出從該通信裝置20接收之一信號至該偵測單元184及該通信控制單元188。此外,該通信介面182傳輸從該通信控制單元188輸入之一信號至該通信裝置20。
(2)偵測單元
該偵測單元184藉由監視該通信介面182所接受的信號而偵測一使用者至該通信裝置20之一使用者輸入(其指定該通信裝置20中所提供之任何資料及一方向)。舉例而言,指定該通信裝置20中所提供之任何資料及方向之使用者輸入在該通信裝置20中轉換為一使用者輸入信號IN且係從該通信裝置20傳輸至該通信控制裝置100。當偵測到該通信介面182接收到使用者輸入信號IN時,該偵測單元184將使用者輸入之內容通知該選擇單元186且使該選擇單元186選擇一裝置,將之指定為來自使用者輸入信號IN之一傳輸源之該通信裝置20之資料之一傳輸目的地。
圖11係圖解說明將被偵測單元184偵測到之至通信裝置20之一使用者輸入之一說明圖。參考圖11,一輸入影像Im1係繪示為將藉由該通信控制裝置100之攝影機成像之一實例。該等通信裝置20a、20b及20c係繪示在輸入影像Im1中。分別代表資料D1及D2之兩個圖示係顯示在該通信裝置20a之螢幕上。
在如圖11所示之情況中,舉例而言,想要傳輸資料D2至該通信裝置20b之使用者在該通信裝置20b存在之一方向(圖式之向右方向)上拖曳代表資料D2之圖示。該通信裝置20a隨後感測拖曳事件並識別使用者輸入所指定之圖示及拖曳方向。該通信裝置20a傳輸具有用於指定對應於指定圖示之資料D2及拖曳方向之資訊(舉例而言,一資料檔案路徑)之內容至該通信控制裝置100。該通信控制裝置100之該偵測單元184監視該通信介面182所接收之信號並偵測使用者輸入信號IN。
舉例而言,該偵測單元184可藉由監視從該成像單元102輸入之一組輸入影像及識別輸入影像中所顯示之使用者操作之一影像而偵測至該通信裝置20之使用者輸入,而非偵測從該通信裝置20傳輸之使用者輸入信號IN。
(3)選擇單元
該選擇單元186基於使用者輸入所指定之方向選擇一通信裝置,該通信裝置為來自該環境地圖產生單元110所產生之一環境地圖之指定資料之一傳輸目的地。在本實施例中,舉例而言,該選擇單元186在環境地圖中選擇相對於使用者輸入信號IN之傳輸源之通信裝置20定位在使用者輸入所指定之方向之一通信裝置作為資料傳輸目的地之一裝置。舉例而言,若存在定位在該方向上之複數個通信裝置,則該選擇單元186可在該複數個裝置間選擇該定位為最接近傳輸源之通信裝置之一裝置作為資料傳輸目的地裝置。
圖12及圖13係圖解說明根據本實施例之選擇單元186之傳輸目的地之選擇之說明圖。
參考圖12,繪示環境地圖中所包含之該等通信裝置20a、20b及20c。該通信裝置20a之一位置係保留在環境地圖中作為整體座標系(x,y,z)中之三維位置Xs 。該通信裝置20a之一姿勢係保留在環境地圖中作為對應於環境地圖之整體座標系(x,y,z)中之一旋轉矩陣之一四元數ωs 。該通信裝置20a之姿勢ωs 對應於該通信裝置20a之螢幕之一法線之一旋轉角。若除該通信裝置20a之位置Xs 及姿勢ωs 外亦界定使用者輸入信號IN中所包含之該通信裝置20a之螢幕上之一拖曳方向(u,v),則在環境地圖之整體座標系中將位置Xs 指定為一起始點且使用者可沿著拖曳所指定之方向唯一地指定一直線L1。
該選擇單元186如上所述指定該直線L1並選擇定位在該直線L1上或至少定位為接近該直線L1之一通信裝置20作為資料傳輸目的地裝置。在圖12之實例中,該通信裝置20b係定位在以該通信裝置20a之位置Xs 作為起始點之該直線L1上。另一方面,該通信裝置20c係定位為遠離該直線L1。在此,該選擇單元186選擇該通信裝置20b作為來自該通信裝置20a之資料之傳輸目的地之裝置。
參考圖13,繪示環境地圖中所包含之通信裝置20a、20b及20c。此等裝置具有與圖12之實例不同之位置關係。即便在此情況中,該選擇單元186仍基於該通信裝置20a在環境地圖中之位置Xs 及姿勢ωs 及使用者輸入所指定之拖曳方向(u,v)指定在該通信裝置20a上具有起始點之直線L1。在圖13之實例中,該等通信裝置20b及20c皆定位在直線L1上。此時,舉例而言,該選擇單元186可從該等通信裝置20b及20c中選擇定位為較接近該通信裝置20a之該通信裝置20b作為來自該通信裝置20a之資料之一傳輸目的地之一裝置。或者,舉例而言,該選擇單元186可顯示用於指定任何裝置(該等通信裝置20b或20c)之一訊息給使用者且可根據使用者之指定結果選擇任何裝置作為資料傳輸目的地裝置。
圖14係繪示根據本實施例之該選擇單元186之一傳輸目的地選擇程序之一流程之一實例之一流程圖。
參考圖14,該選擇單元186首先從一環境地圖中獲得各通信裝置之一位置及一姿勢(步驟S302)。接下來,該選擇單元186指定一傳輸源之一通信裝置20之一位置作為一起始點並沿著一使用者輸入所指定之一方向指定一直線L1(步驟S304)。
接下來,該選擇單元186決定是否有另一通信裝置至少接近所指定之該直線L1(即在直線L1上或接近直線L1)(步驟S306)。舉例而言,可決定與該直線L1相距一距離(其小於一預設定臨限值)之一裝置係定位為接近該直線L1。在此,若無其他通信裝置定位為接近該直線L1,則該選擇單元186輸出一錯誤至該通信控制單元188(步驟S314)並終止程序。另一方面,若存在另一通信裝置至少接近該直線L1,則程序繼續至步驟S308。
接下來,該選擇單元186決定是否存在複數個其他通信裝置至少接近該直線L1(步驟S308)。在此,若存在複數個其他通信裝置至少接近直線L1,則該選擇單元186選擇定位為最接近傳輸源之通信裝置20之一通信裝置作為資料傳輸目的地裝置(步驟S310)。另一方面,若僅一其他通信裝置定位為至少接近該直線L1,則該選擇單元186選擇該其他通信裝置作為資料傳輸目的地裝置(步驟S312)。
該選擇單元186輸出用於識別上述傳輸目的地選擇程序所選擇之資料傳輸目的地裝置之識別資訊至該通信控制單元188。該選擇單元186所選擇之資料傳輸目的地裝置不一定具有與根據本實施例之該通信裝置20等效之組態。舉例而言,若不具有傳輸使用者輸入信號IN至該通信控制裝置100之一功能之一普通通信裝置可在該環境地圖產生單元110所產生之環境地圖中被識別,則可藉由該選擇單元186選擇該普通通信裝置作為資料傳輸目的地裝置。
(4)通信控制單元
若該偵測單元184偵測到一使用者輸入,則該通信控制單元188傳輸來自充當使用者輸入之一標的之一通信裝置20之使用者輸入所指定之資料至另一通信裝置。更具體言之,舉例而言,若從一通信裝置20接收到一使用者輸入信號IN,則該通信控制單元188經由該通信介面182傳輸一指示信號SIG,一資料傳輸指令係透過該指示信號SIG而賦予該一通信裝置20。該指示信號SIG係用於指示傳輸使用者輸入所指定的資料至該選擇單元186根據上述傳輸目的地選擇程序而選擇之另一通信裝置。因此,使用者輸入所指定的資料係從一通信裝置20傳輸至定位在使用者輸入所指定之一方向上之另一通信裝置。
該通信控制單元188傳輸指示信號SIG且亦輸出用於識別資料傳輸源裝置及資料傳輸目的地裝置之識別資訊至顯示控制單元190。
[3-4.顯示控制單元]
當資料從一資料傳輸源裝置傳輸至一資料傳輸目的地裝置時,該顯示控制單元190在一顯示裝置之一螢幕上顯示指示資料傳輸之一動畫。舉例而言,該顯示控制單元190藉由在從該成像單元102輸入之一輸入影像上疊加指示資料傳輸之動畫而產生一輸出影像。該顯示控制單元190在HMD 104上顯示所產生之輸出影像。舉例而言,指示資料傳輸之動畫可為任何虛擬物件(一數字、一符號或一文字)從資料傳輸源裝置移動至資料傳輸目的地裝置之一動畫。
更具體言之,舉例而言,該顯示控制單元190藉由使用從該環境地圖產生單元110獲得之攝影機之一位置及一姿勢,根據針孔模型之方程式(11)計算動畫被疊加在輸入影像上之一位置。舉例而言,動畫之一起始點之一顯示位置係藉由將資料傳輸源裝置之三維位置代入方程式(11)右側之特徵點FPi 之三維位置pi 而計算。此外,動畫之一結束點之一顯示位置係藉由將資料傳輸目的地裝置之三維位置代入方程式(11)右側之特徵點FPi 之三維位置pi 而計算。該顯示控制單元190將物件在起始點之顯示位置及結束點之顯示位置之間移動之動畫疊加在一組輸入影像上方。
圖15係繪示根據本實施例之與資料傳輸相關之一動畫之一實例之一說明圖。參考圖15,為方便起見,其上疊加一組動畫192a至192c之輸出影像Im2a至Im2c係繪示在一說明圖中。實際上,沿著一時間軸按順序可將動畫192a疊加在輸入影像Im2a上;將動畫192b疊加在輸入影像Im2b上及將動畫192c疊加在輸入影像Im2c上。圖15所示之動畫具有箭頭形狀。如上所述,動畫192a至192c係依序顯示使得使用者可瞭解資料係從該通信裝置20a傳輸至該通信裝置20d。只要資料傳輸目的地裝置的位置在環境地圖中被識別,該資料傳輸目的地裝置就不一定顯示在輸入影像或輸出影像中。亦即資料可傳輸至定位在使用者輸入所指定之方向上之通信裝置間定位在螢幕範圍外之一裝置。
[3.5.通信控制程序之流程]
圖16係繪示根據本實施例之通信控制裝置100之通信控制程序之一流程之一實例之一流程圖。
參考圖16,首先該偵測單元184監視至該通信裝置20之一預定使用者輸入的存在/不存在(步驟S352)。舉例而言,若該偵測單元184偵測到指定任何資料圖示及通信裝置20之一方向之一使用者輸入(一拖曳或類似動作),則程序繼續至步驟S354。
接下來,該選擇單元186獲得該環境地圖產生單元110所產生之一環境地圖(步驟S354)。在此,所獲得的環境地圖包含對應於充當該偵測單元184所偵測之使用者輸入之一標的之該通信裝置20之一物件及對應於另一通信裝置之一物件。
接下來,藉由該選擇單元186執行參考圖14所描述之傳輸目的地選擇程序(步驟S356)。藉此,選擇來自充當使用者輸入之標的之通信裝置20之資料之一傳輸目的地之一裝置。
接下來,該通信控制單元188在一選擇結果中決定資料傳輸資料目的地裝置之存在/不存在(步驟S358)。舉例而言,若在使用者輸入所指定之方向上不存在通信裝置,則從該選擇單元186輸出一錯誤至該通信控制單元188。在此情況中,該通信控制單元188指示該顯示控制單元190在螢幕上顯示一錯誤訊息(步驟S360)。
另一方面,若資料傳輸目的地裝置存在於該選擇單元186之選擇結果中,則該通信控制單元188傳輸一指示信號SIG至充當使用者輸入之標的之通信裝置並傳輸資料至該選擇單元186所選擇之資料傳輸目的地裝置(步驟S362)。在資料傳輸期間,該顯示控制單元190在HMD 104之螢幕上顯示指示資料傳輸之一動畫(步驟S364)。
<4.經修改實例>
在上述實施例中,該通信控制裝置100之該選擇單元186基於拖曳或類似動作之使用者輸入所指定之方向從環境地圖選擇充當一資料傳輸目的地之一裝置。藉此,使用者可針對通信裝置之間的資料傳輸直觀地指定傳輸目的地。另一方面,可根據其他方法執行傳輸目的地的直觀指定。在本部分中,使執行傳輸目的地之直觀指定成為可能之其他方法將描述為上述實施例之經修改實例。
圖17係圖解說明根據一經修改實例之選擇單元186之傳輸目的地之選擇之一說明圖。
參考圖17,繪示環境地圖中所包含之通信裝置20a、20b及20c。分別代表資料D1及D2之兩個圖示係顯示在該通信裝置20a之螢幕上。在如圖17所示之情況中,舉例而言,想要傳輸資料D2至該通信裝置20b之使用者在現實中將該通信裝置20a握持在該通信裝置20b上方並點擊或輕觸代表資料D2之圖示。隨後,該通信裝置20a感測使用者輸入並傳輸一使用者輸入信號IN至該通信控制裝置100。該通信控制裝置100之該偵測單元184偵測使用者輸入信號IN。
此時,該環境地圖中,保留該通信裝置20a之一位置作為環境地圖之整體座標系(x,y,z)中之三維位置Xs 。在此,該選擇單元186指定該通信裝置20a之位置Xs 作為一起始點並指定沿著環境地圖之整體座標系中之一垂直線向下延伸之一直線L2。該選擇單元186選擇定位在該直線L2上或至少定位為接近該直線L2之一通信裝置20作為資料傳輸目的地裝置。在圖17之實例中,該通信裝置20b係定位在該直線L2上。另一方面,該通信裝置20c係定位為遠離該直線L2。在此,該選擇單元186選擇該通信裝置20b作為來自該通信裝置20a之資料之傳輸目的地之裝置。
圖18係繪示根據一經修改實例之選擇單元186之傳輸目的地選擇程序之一流程之一實例之一流程圖。
參考圖18,該選擇單元186首先從環境地圖獲得各通信裝置之一位置(步驟S402)。接下來,該選擇單元186指定一傳輸源之一通信裝置20之一位置作為一起始點並指定沿著一垂直線向下延伸之一直線L2(步驟S404)。
接下來,該選擇單元186決定是否存在另一通信裝置至少接近該直線L2(即在該直線L2上或接近該直線L2)(步驟S406)。舉例而言,可決定與該直線L2相距一距離(其小於一預設定之臨限值)之一裝置係定位為接近該直線L2。在此,若無其他裝置定位為接近該直線L2,則該選擇單元186輸出一錯誤至該通信控制單元188(步驟S414)並結束程序。另一方面,若存在另一通信裝置至少接近該直線L2,則程序繼續至步驟S408。
接下來,該選擇單元186決定是否存在複數個其他通信裝置至少接近該直線L2(步驟S408)。在此,若存在複數個其他通信裝置至少接近該直線L2,則該選擇單元186選擇定位為最接近傳輸源之通信裝置20之一通信裝置作為一資料傳輸目的地裝置(步驟S410)。另一方面,若僅一其他通信裝置定位為至少接近該直線L2,則該選擇單元186選擇該其他通信裝置作為資料傳輸目的地裝置(步驟S412)。
根據與經修改實例相關之傳輸目的地選擇程序,使用者可直觀地傳輸通信裝置中所提供資料至另一通信裝置,如同該資料係因重力而落下。
<5.總結>
截至目前,已參考圖1至圖18詳細描述根據本發明之實施例及通信控制裝置100之經修改實例之通信裝置20及通信控制裝置100。根據通信控制裝置100,包含對應於複數個通信裝置20之複數個物件之一環境地圖係基於藉由使一真實空間成像而獲得之輸入影像而動態地建構。若偵測到至一資料傳輸源之一通信裝置20之一使用者輸入,則指定資料係傳輸至基於使用者輸入所指定之方向而從環境地圖中選擇之一資料傳輸目的地裝置。或者,可基於重力作用方向而非使用者輸入指定之一方向選擇資料傳輸目的地裝置。藉此,使用者可藉由至傳輸源裝置之一簡單使用者輸入(舉例而言,簡單及方便的操控諸如一拖曳、一點擊或類似動作)而直觀地執行從一PC至一印表機、從一數位攝影機至一PC及從一行動終端至一PC之各種類型之資料傳輸。
選擇作為資料傳輸目的地之一裝置可為在環境地圖中相對於資料傳輸源裝置定位在使用者輸入所指定之方向或重力作用之方向上之一裝置。該通信控制裝置100基於資訊諸如資料傳輸源裝置在環境地圖中的位置而選擇資料傳輸目的地裝置。亦即可藉由利用結合環境地圖之應用之資料傳輸目的地裝置之選擇而提供對應於通信裝置之一位置關係之一直觀使用者介面。此時,若複數個通信裝置存在於所指定之方向或重力作用的方向上,則該通信控制裝置100可選擇定位為最接近資料傳輸源裝置之一裝置作為資料傳輸目的地。亦即,即使在存在複數個通信裝置之環境中,亦可藉由將一對應環境地圖應用至一真實空間而唯一地選擇資料傳輸目的地。
當資料係從資料傳輸源之裝置傳輸至資料傳輸目的地之裝置時,該通信控制裝置100可使顯示裝置顯示代表資料傳輸之一動畫。該通信控制裝置100可藉由基於資料傳輸源裝置及資料傳輸目的地裝置在環境地圖中的位置而顯示動畫而使使用者能方便地瞭解資料傳輸之目的地/源裝置。
在本說明書中,已主要描述該通信裝置20及該通信控制裝置100係實體組態在個別主體中之一實例。但是,不包含攝影機及HMD之通信控制裝置100之各種功能可安裝在實體相同之裝置中作為通信傳輸源之通信裝置20。
本說明書中所描述之該通信裝置20及該通信控制裝置100之程序之設定係通常使用軟體而實現。舉例而言,組態軟體之一程式(其實現程序之設定)係事先儲存在各裝置內或外之一儲存媒體中。舉例而言,各程式在執行時被讀取至各裝置之一隨機存取記憶體(RAM)且係藉由一處理器諸如一CPU或類似物而執行。
熟悉此項技術者應瞭解可取決於設計要求及其他因素出現各種修改、組合、子組合及更改,只要它們屬於隨附申請專利範圍或其等效物之範圍內。
本申請案含有與2010年2月4日向日本專利局申請的日本優先專利申請案第JP 2010-0 22973號(其完整內容以引用的方式併入本文中)中所揭示之內容相關之標的。
1...環境
10...桌子
20...通信裝置
20a...通信裝置
20b...通信裝置
20c...通信裝置
20d...通信裝置
40...儲存單元
42...顯示單元
44...使用者介面
46...通信介面
48...控制單元
100...通信控制裝置
102...成像單元
104...HMD(頭載式顯示器)
106...輸入影像
110...環境地圖產生單元
120...自身位置偵測單元
130...資料儲存單元
140...影像識別單元
150...環境地圖建構單元
152...環境地圖儲存單元
180...通信處理單元
182...通信介面
184...偵測單元
186...選擇單元
188...通信控制單元
190...顯示控制單元
192a...動畫
192b...動畫
192c...動畫
D1...資料
D2...資料
FD1...特徵資料
FD11...特徵資料
FD12...特徵資料
FD13...特徵資料
FD14...特徵資料
FD15...特徵資料
FP1...特徵點
FP2...特徵點
IN...使用者輸入信號
Im1...輸入影像
Im2a...輸入影像
Im2b...輸入影像
Im2c...輸入影像
Obj1...物件
Pth1...特徵點匹配影像區塊
Pth2...特徵點匹配影像區塊
SIG...指示信號
Ua...使用者
圖1係圖解說明根據一實施例之一系統之一概觀之一示意圖;
圖2係繪示根據一實施例之一通信控制裝置中所獲得之一輸入影像之一實例之一說明圖;
圖3係繪示根據一實施例之一通信裝置之一組態之一實例之一方塊圖;
圖4係繪示根據一實施例之通信控制裝置之一組態之一實例之一方塊圖;
圖5係繪示根據一實施例之一自身位置偵測程序之一流程之一實例之一流程圖;
圖6係圖解說明設定在一物件上之一特徵點之一說明圖;
圖7係圖解說明一特徵點之添加之一說明圖;
圖8係圖解說明一預測模型之一實例之一說明圖;
圖9係圖解說明特徵資料之一組態之一實例之一說明圖;
圖10係繪示根據一實施例之一物件識別程序之一流程之一實例之一流程圖;
圖11係圖解說明根據一實施例之至通信裝置之一使用者輸入之一說明圖;
圖12係圖解說明根據一實施例之一傳輸目的地之選擇之一第一說明圖;
圖13係圖解說明根據一實施例之一傳輸目的地之選擇之一第二說明圖;
圖14係繪示根據一實施例之一傳輸目的地選擇程序之一實例之一流程圖;
圖15係繪示根據一實施例之與資料傳輸相關之一動畫之一實例之一說明圖;
圖16係繪示根據一實施例之一通信控制程序之一流程之一實例之一流程圖;
圖17係圖解說明根據一經修改實例之一傳輸目的地之選擇之一說明圖;及
圖18係繪示根據一經修改實例之一傳輸目的地選擇程序之一流程之一實例之一流程圖。
100...通信控制裝置
102...成像單元
104...HMD(頭載式顯示器)
110...環境地圖產生單元
120...自身位置偵測單元
130...資料儲存單元
140...影像識別單元
150...環境地圖建構單元
152...環境地圖儲存單元
180...通信處理單元
182...通信介面
184...偵測單元
186...選擇單元
188...通信控制單元
190...顯示控制單元
IN...使用者輸入信號
SIG...指示信號

Claims (17)

  1. 一種通信控制裝置,其包括:一資料儲存單元,其儲存代表一或多個通信裝置之外觀特徵之特徵資料;該通信控制裝置之一環境地圖建構單元,其經組態以基於藉由使一真實空間成像而獲得之一輸入影像及該資料儲存單元中所儲存之該特徵資料而建構代表在該真實空間中所存在之該一或多個通信裝置之位置之一環境地圖,其中該使該真實空間成像包含從至少一攝影機實質即時(real-time)地接收影像資料;該通信控制裝置之一偵測單元,其經組態以基於來自該至少一攝影機之實質即時成像以偵測至一第一通信裝置之指定該第一通信裝置中所提供之資料及一方向之一使用者輸入;該通信控制裝置之一選擇單元,其經組態以基於該使用者輸入所指定之該方向而從該環境地圖中選擇充當該指定資料之一傳輸目的地之一第二通信裝置;及該通信控制裝置之一通信控制單元,其經組態以將該第一通信裝置中所提供之該資料從該第一通信裝置傳輸至該第二通信裝置。
  2. 如請求項1之通信控制裝置,其中若該第二通信裝置係在該環境地圖中相對於該第一通信裝置而定位在該使用者輸入所指定之該方向上,則該選擇單元選擇該第二通信裝置。
  3. 如請求項2之通信控制裝置,其中該選擇單元基於在該環境地圖中之該第一通信裝置之一位置及一姿勢及該使用者輸入所指定之該方向而指定在該第一通信裝置上具有一起始點之一直線並選擇至少定位為接近該直線之一通信裝置作為該第二通信裝置。
  4. 如請求項2之通信控制裝置,其中若在該環境地圖中該一或多個通信裝置係相對於該第一通信裝置而定位在該使用者輸入所指定之該方向上,當該第二通信裝置在該一或多個通信裝置間定位為最接近該第一通信裝置,則該選擇單元選擇該第二通信裝置。
  5. 如請求項1之通信控制裝置,其進一步包括該通信控制裝置之一顯示控制單元,其在資料係從該第一通信裝置傳輸至該第二通信裝置時使一顯示裝置顯示代表資料傳輸之一動畫。
  6. 如請求項1之通信控制裝置,其中該使用者輸入係拖曳在該第一通信裝置中所提供之一螢幕上所顯示一圖示且可根據一使用者所拖曳的圖示而指定待從該第一通信裝置傳輸的資料。
  7. 如請求項5之通信控制裝置,其中該動畫係一三維動畫。
  8. 如請求項7之通信控制裝置,其中該三維動畫係疊加在在顯示於該顯示裝置上之一二維影像中。
  9. 如請求項8之通信控制裝置,其中該三維動畫係藉由一頭載式顯示器而呈現(render)。
  10. 如請求項9之通信控制裝置,其中該頭載式顯示器包含該至少一攝影機之至少一者。
  11. 如請求項8之通信控制裝置,其中該三維動畫係藉由該顯示裝置而呈現。
  12. 一種包含儲存代表一或多個通信裝置之外觀特徵之特徵資料之一儲存媒體之一通信控制裝置之通信控制方法,其包括下列步驟:基於藉由使一真實空間成像而獲得之一輸入影像及該特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖,其中該使該真實空間成像包含從至少一攝影機實質即時地接收影像資料;基於來自該至少一攝影機之實質即時成像以偵測至一第一通信裝置之指定該第一通信裝置中所提供之資料及一方向之一使用者輸入;基於該使用者輸入所指定之該方向而從該環境地圖中選擇充當該指定資料之一傳輸目的地之一第二通信裝置;及將該第一通信裝置中所提供之該資料從該第一通信裝置傳輸至該第二通信裝置。
  13. 一種具有一程式實現於其上之非過渡電腦可讀媒體,當該程式藉由一或多個通信裝置而執行時,造成該一或多個通信裝置發揮下列功能:該一或多個通信裝置之一環境地圖建構單元,其經組態以基於藉由使一真實空間成像而獲得之一輸入影像及 一資料儲存單元中所儲存之特徵資料而建構代表在該真實空間中所存在之該一或多個通信裝置之位置之一環境地圖,其中該使該真實空間成像包含從至少一攝影機實質即時地接收影像資料;該一或多個通信裝置之一偵測單元,其經組態以基於來自該至少一攝影機之實質即時成像以偵測至一第一通信裝置之指定該第一通信裝置中所提供之資料及一方向之一使用者輸入;該一或多個通信裝置之一選擇單元,其經組態以基於該使用者輸入所指定之該方向而從該環境地圖中選擇充當該指定資料之一傳輸目的地之一第二通信裝置;及該一或多個通信裝置之一通信控制單元,其經組態以將該第一通信裝置中所提供之該資料從該第一通信裝置傳輸至該第二通信裝置。
  14. 一種通信控制裝置,其包含:一資料儲存單元,其儲存代表一或多個通信裝置之外觀特徵之特徵資料;該通信控制裝置之一環境地圖建構單元,其經組態以基於藉由使一真實空間成像而獲得之一輸入影像及該資料儲存單元中所儲存之該特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖,其中該使該真實空間成像包含從至少一攝影機實質即時地接收影像資料;該通信控制裝置之一偵測單元,其經組態以偵測至一 第一通信裝置之指定該第一通信裝置中所提供之資料之一使用者輸入;該通信控制裝置之一選擇單元,其經組態以基於在該環境地圖中之該第一通信裝置之一位置而從該環境地圖中選擇充當該指定資料之一傳輸目的地之一第二通信裝置;及該通信控制裝置之一通信控制單元,其經組態以將該一通信裝置中所提供之該資料從該第一通信裝置傳輸至該第二通信裝置。
  15. 如請求項14之通信控制裝置,其中該選擇單元選擇在該環境地圖中定位在該第一通信裝置下方之一通信裝置作為該第二通信裝置。
  16. 一種包含儲存代表一或多個通信裝置之外觀特徵之特徵資料之一儲存媒體之一通信控制裝置之通信控制方法,其包括下列步驟:基於藉由使一真實空間成像而獲得之一輸入影像及該特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖,其中該使該真實空間成像包含從至少一攝影機實質即時地接收影像資料;偵測至一第一通信裝置之指定該第一通信裝置中所提供之資料之一使用者輸入;基於在該環境地圖中之該第一通信裝置之一位置而從該環境地圖中選擇充當該指定資料之一傳輸目的地之一第二通信裝置;及 將該第一通信裝置中所提供之該資料從該第一通信裝置傳輸至該第二通信裝置。
  17. 一種具有一程式實現於其上之非過渡電腦可讀媒體,當該程式藉由一或多個通信裝置而執行時,造成該一或多個通信裝置發揮下列功能:該一或多個通信裝置之一環境地圖建構單元,其經組態以基於藉由使一真實空間成像而獲得之一輸入影像及一資料儲存單元中所儲存之特徵資料而建構代表在該真實空間中所存在之通信裝置之位置之一環境地圖,其中該使該真實空間成像包含從至少一攝影機實質即時地接收影像資料;該一或多個通信裝置之一偵測單元,其經組態以偵測至一第一通信裝置之指定一第一通信裝置中所提供之資料之一使用者輸入;該一或多個通信裝置之一選擇單元,其經組態以基於在該環境地圖中之該第一通信裝置之一位置而從該環境地圖中選擇充當該指定資料之一傳輸目的地之一第二通信裝置;及該一或多個通信裝置之一通信控制單元,其經組態以將該第一通信裝置中所提供之該資料從該第一通信裝置傳輸至該第二通信裝置。
TW099143812A 2010-02-04 2010-12-14 通信控制裝置、通信控制方法及相關之電腦可讀媒體 TWI446175B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010022973A JP5488011B2 (ja) 2010-02-04 2010-02-04 通信制御装置、通信制御方法及びプログラム

Publications (2)

Publication Number Publication Date
TW201145024A TW201145024A (en) 2011-12-16
TWI446175B true TWI446175B (zh) 2014-07-21

Family

ID=43901540

Family Applications (1)

Application Number Title Priority Date Filing Date
TW099143812A TWI446175B (zh) 2010-02-04 2010-12-14 通信控制裝置、通信控制方法及相關之電腦可讀媒體

Country Status (8)

Country Link
US (1) US8717388B2 (zh)
EP (1) EP2354894A3 (zh)
JP (1) JP5488011B2 (zh)
KR (1) KR20110090789A (zh)
CN (1) CN102193725A (zh)
BR (1) BRPI1100726A2 (zh)
RU (1) RU2011103164A (zh)
TW (1) TWI446175B (zh)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5255674B2 (ja) * 2011-06-14 2013-08-07 シャープ株式会社 データ送信操作機器、および、データ送信制御方法
EP2602691A1 (en) * 2011-12-05 2013-06-12 Alcatel Lucent Method for gesture control, gesture server device and sensor input device
US9563278B2 (en) * 2011-12-19 2017-02-07 Qualcomm Incorporated Gesture controlled audio user interface
JP6012093B2 (ja) * 2012-03-27 2016-10-25 シャープ株式会社 データ送信操作機器、および、データ送信制御方法
CN102932412B (zh) * 2012-09-26 2016-02-03 华为终端有限公司 文件传输方法及***、主控设备
JP6155593B2 (ja) * 2012-10-15 2017-07-05 株式会社ニコン システム、装置及び方法
JP5787099B2 (ja) * 2012-11-06 2015-09-30 コニカミノルタ株式会社 案内情報表示装置
JP6225469B2 (ja) * 2013-04-26 2017-11-08 株式会社ニコン 装置、情報処理装置、方法、及び、プログラム
JP2015115046A (ja) 2013-12-16 2015-06-22 ソニー株式会社 情報処理装置、プログラム、情報処理方法及び情報処理システム
JP6261038B2 (ja) * 2014-02-27 2018-01-17 日本電気通信システム株式会社 空間認識システム及び空間認識方法
IN2014DE00899A (zh) * 2014-03-28 2015-10-02 Samsung Electronics Co Ltd
JP6292181B2 (ja) * 2014-06-27 2018-03-14 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、その制御方法及びプログラム
KR102332752B1 (ko) * 2014-11-24 2021-11-30 삼성전자주식회사 지도 서비스를 제공하는 전자 장치 및 방법
US9940521B2 (en) * 2015-02-27 2018-04-10 Sony Corporation Visibility enhancement devices, systems, and methods
JP6953948B2 (ja) * 2017-09-22 2021-10-27 富士フイルムビジネスイノベーション株式会社 情報処理装置、プログラム及び情報送信システム
GB2574882B (en) 2018-06-22 2020-08-12 Sony Interactive Entertainment Inc Method and system for displaying a virtual object
JP7274782B1 (ja) 2021-12-10 2023-05-17 株式会社 Sai 建屋内構造物認識システム及び建屋内構造物認識方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN2332124Y (zh) * 1998-07-03 1999-08-04 机械工业部广州电器科学研究所 智能型家电遥控器
JP4178697B2 (ja) 1999-11-18 2008-11-12 ソニー株式会社 携帯型情報処理端末、情報入出力システム及び情報入出力方法
JP4332964B2 (ja) * 1999-12-21 2009-09-16 ソニー株式会社 情報入出力システム及び情報入出力方法
JP2002132618A (ja) * 2000-10-27 2002-05-10 Sony Corp 情報処理装置、情報提供媒体、情報処理方法及び情報処理システム
JP3944824B2 (ja) * 2001-11-09 2007-07-18 ソニー株式会社 データ通信装置、表示方法、プログラム及びプログラム格納媒体
JP3938892B2 (ja) * 2002-08-16 2007-06-27 富士フイルム株式会社 情報授受システム
KR100746995B1 (ko) * 2005-09-22 2007-08-08 한국과학기술원 직관적인 실제 공간적 조준에 따른 시스템 및 그식별방법과 통신방법
JP2008299619A (ja) * 2007-05-31 2008-12-11 Toshiba Corp モバイル機器、データ転送方法、およびデータ転送システム
JP5380789B2 (ja) * 2007-06-06 2014-01-08 ソニー株式会社 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム
US8397168B2 (en) * 2008-04-05 2013-03-12 Social Communications Company Interfacing with a spatial virtual communication environment
JP2009205556A (ja) * 2008-02-28 2009-09-10 Panasonic Corp ユーザインタフェース装置
US8077157B2 (en) * 2008-03-31 2011-12-13 Intel Corporation Device, system, and method of wireless transfer of files
JP2010154344A (ja) * 2008-12-25 2010-07-08 Kyocera Corp 情報処理装置、通信装置、無線通信システム、および、データ送信方法
US8457651B2 (en) * 2009-10-02 2013-06-04 Qualcomm Incorporated Device movement user interface gestures for file sharing functionality

Also Published As

Publication number Publication date
RU2011103164A (ru) 2012-08-10
KR20110090789A (ko) 2011-08-10
BRPI1100726A2 (pt) 2012-12-04
EP2354894A3 (en) 2015-01-28
EP2354894A2 (en) 2011-08-10
US20110187725A1 (en) 2011-08-04
TW201145024A (en) 2011-12-16
CN102193725A (zh) 2011-09-21
US8717388B2 (en) 2014-05-06
JP2011164666A (ja) 2011-08-25
JP5488011B2 (ja) 2014-05-14

Similar Documents

Publication Publication Date Title
TWI446175B (zh) 通信控制裝置、通信控制方法及相關之電腦可讀媒體
JP5942456B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5617246B2 (ja) 画像処理装置、物体選択方法及びプログラム
JP5776201B2 (ja) 情報処理装置、情報共有方法、プログラム及び端末装置
US8355816B2 (en) Action teaching system and action teaching method
EP2988210B1 (en) Gesture control method, apparatus and system
JP5807686B2 (ja) 画像処理装置、画像処理方法及びプログラム
WO2013161182A1 (en) Image processing apparatus, image processing method, and program
US20130194238A1 (en) Information processing device, information processing method, and computer program
WO2005119591A1 (ja) 表示制御方法および装置、プログラム、並びに携帯機器
JP2013164697A (ja) 画像処理装置、画像処理方法、プログラム及び画像処理システム
WO2015093130A1 (ja) 情報処理装置、情報処理方法およびプログラム
WO2022048373A1 (zh) 图像处理方法、移动终端及存储介质
CN111813214A (zh) 虚拟内容的处理方法、装置、终端设备及存储介质
WO2024012268A1 (zh) 虚拟操作方法、装置、电子设备及可读存储介质
CN115904188A (zh) 户型图的编辑方法、装置、电子设备及存储介质
JP7299478B2 (ja) オブジェクト姿勢制御プログラムおよび情報処理装置
JP6304305B2 (ja) 画像処理装置、画像処理方法及びプログラム
KR20220135072A (ko) 3차원 객체를 저작하는 방법 및 시스템
CN111857364A (zh) 交互装置、虚拟内容的处理方法、装置以及终端设备
CN115908627B (zh) 房源数据的处理方法、装置、电子设备及存储介质
US20230215098A1 (en) Method and system for creating and storing map target
CN115278178A (zh) 一种处理方法、处理装置和电子设备
CN115760584A (zh) 一种图像处理方法及相关设备

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees