TWI303377B - Method for determining,and system for implementing,ink gestures - Google Patents

Method for determining,and system for implementing,ink gestures Download PDF

Info

Publication number
TWI303377B
TWI303377B TW092100204A TW92100204A TWI303377B TW I303377 B TWI303377 B TW I303377B TW 092100204 A TW092100204 A TW 092100204A TW 92100204 A TW92100204 A TW 92100204A TW I303377 B TWI303377 B TW I303377B
Authority
TW
Taiwan
Prior art keywords
gesture
handwriting
bayes
network
determining
Prior art date
Application number
TW092100204A
Other languages
English (en)
Other versions
TW200302977A (en
Inventor
Hullender Gregory
Gounares Alexander
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of TW200302977A publication Critical patent/TW200302977A/zh
Application granted granted Critical
Publication of TWI303377B publication Critical patent/TWI303377B/zh

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Character Discrimination (AREA)

Description

1^03377 。年月日修(界/王替換頁 一 _
九、發明說明: 【&明所屬之技術領域】 本發明之特點概為 裝置及方去、 "制圖形使用者介面(GUI)之 辨識使用1。尤其是,本發明係關於利用-筆式輸入系統來 能。 所不之手勢’並為執行關於該等手勢之各項功 【先前技術】 統的電二的電^糸統’尤其是利用圖形使甩者介面(GUI)系 來自於二糸統,像是微軟的WIND〇Ws,係經最佳化以接收 以於或更多像疋鍵盤之個別輸入裝置的使用者輸入,並 執沐任 ,和像是具一或更多按鍵之滑鼠的指向裝置以驅 勤該使用去人
上的 一 7丨面。幾乎所有經設計以執行於微軟WINDOWS 、軟體應用皆經最佳化,以按相同方式接收使用者輸入。 例如,許夕 一 °夕應用程式廣泛地利用滑鼠右鍵(即「右擊」)以顯 不文忍辨切〆 ^ Uontext sensitive)的指令選單。使用者可利用滑 鼠來產全且 日 一他的手勢,像是敲擊滑鼠左鍵(即「左擊」),或 拳h鼠左或右鍵,並移動滑鼠而同時該按住該按鍵 f左鍵擊插+ _^Γ ± 灵」或右鍵擊拖曳」)。可參閱例如Opera Software 的 Opera 6 η 如,, μ b ·0内的右鍵擊拖曳滑鼠指令。 在某些環境下,會不能或是不想運用滑鼠。例如,在一 數位化表板環境裡,主要的輸入裝置可為一尖筆(stylus)。尖 筆雖试圖對計算環境提供板面或紙狀物的感受,不過仍受目 刖系統之限制。例如,在一圖形使用者介面下利用尖筆會受 1303377 - ·*. · κ i::% 1 —」 限於點觸各種供以選取的物項。可例如參見採用p 系統3.x及4.X作業系統之Palm系列產品。同時在這業 裡’該互動方法頗為繁瑣,因為是在該數位裝置之專二, 上輸入各項文字輸入及指令’離該***點或選定―。邹 詞尚有一段距離。此外,在筆式輪人環境下,將會連^= 迫使用者須從一通常位在螢幕頂端或底部之遠端工 (一〇上選定工具或運作方式。當使用者可鍵 2 位裝置可辨識字跡時,這些運作會分別地要求選定〜S 7模式’以及須於該數位裝置之預^部分撰寫。簡盤2 按逐一新輸入,要求使用者告知該電腦使用者所欲者為’需 從而使得筆式計算作業對於-般使用者並不易運用。 有些運作可產生新的文字(例如撰寫、鍵入 等)。其他運作可佟输分士〜/ 工又予 移動現有文字)勃//子如強调、墨點、抹除、剪17與 使用者而:二=修飾作業的問題在於,對大部分的 換 k㈣者的作業通常並非是主要料作模式。 生二字::::::修飾文字,'“運作仍會是次㈣產 字(或其他内容)作章孩彳而’使用者會最終需要從修飾文 包括切換工I丨、轉到產生文字環境。傳統的移轉作業 切換按鍵雖^上的按鍵。按鍵可包含抹除鍵、強調鍵等。 狀態(藉由^使用者顯知如何選定作業模式及罐 換時,仍會否壓下切換按鍵P但當於各種模式之間進行替 概為其螢幕繁瑣而不易使用,這是因為使用者須連續地從 按鍵),平彳―的中央部分,移動到遠處的工具列(承載有該切換 订置放於該螢幕之一端然後再得回返。這項重覆性 :96= 1303377 動作,从及從一或多個辅助模式切換返回到該作業之主要模 式所需的注黃六,合# p ^ ㈢ ^使用者的注意焦點從主動地閱讀或 撰寫而刀政到各模式間進行切換的瑣碎工作。 冷^則的筆式計算系統既已藉由將筆式動作解譯成指令 ^ 解决上述問題。可參閱例如Penpoint by the Go公司 #> 過Penp〇lnt主要是提供一種對於文字的筆式指令。 對於手寫輪入,Penpoint僅提供藉一特定筆式移動之立即刪
除先前輸入(在此,筆尖處的右、左、右共線性移冑4㈣Y ,)^ Penpolnt並未提供於頁面各處的隨機編輯手寫 墨跡的功能。有鑑於筆式輸人系統即可成為主流計算環境的 部分,從而需要對於在頁面各處上編輯手寫文字之自由的支 援性。 ,後」手寫墨跡概與非墨跡應用並未相《。例如,利 用-須文字輸入之應用程式會強迫使用者將墨跡轉換為文 字。在Pahn作業系統中’將會需要置放一***點、移動到 榮幕底部之一專屬女玄. _ 輸入°卩分、於該專屬文字輪入部分處 輸入文字,然後再回返到該***點。但這些動作會很快地變 成繁瑣不易,並且強迫使用者無法使用具筆式輸入系統的傳 統系統應用程式。 發明内容】 本發明之 特點在於係一種筆式計算系統,此者可讓使 用者直接地在顯不幕表面叔 上撰寫,以解決一或更多的前述問 題。本發明各項特點可嬗^^ ” 使用者能夠使用手勢來編輯所顯示 1303377 3.^08" 曰修(更)正替換買 的資訊,包含,作π κρ # 仁不限於,手寫墨跡及文字。此外, 的特點裡,亦W料勢基礎式巡覽㈣。 本4'明之優點及特徵藉由考慮後載較佳具體實 詳細說明而得以彰顯。 在部分 施例之 【實施方式】 後載說明分為如-Ρs ^ 马女下夕項區段以利於讀者瞭解:名 般計算平臺、手勢、辨1 另辨减手勢、執行手勢與資料結構 詞、 名詞 後述各項名詞係經定義俾利瞭解本揭示之各種特 代性疋義確屬業界眾知,亦可代換該等定義。 墨跡--或更多字跡的一序列或集組。一字跡序列包 序形式之字跡。此序列可為按捕捉時間,或是按字跡 面上之出現處所排序。亦可採行其他的排序方式。一 、、且可包a字跡序列或無序字跡或任何彼等組合。此外 可包含所有組成該字跡的點,或是僅限於顯示該字跡 變化的各點,以及彼等組合。 點。替 含以有 於該頁 字跡集 ,字跡 之方向 字跡-捕捉點的一序列或集㉟。而於顯析(render)時 線段來連接此序列各點。可按數種方式來表示字跡。 可按一點及一或更多按鄰次一或多個點之方向的向 不—字跡。此外,可將字跡稱為各點及/或向量之簡易 ’可依 例如, 量來表 表(或 1303377 二月.日修(更)正有 陣列或表單)。簡言之,〜 關之各區段的表現方弋字跡係為涵蓋任何點及/或與墨跡相 表現方式無關。 工 與底層的點及/或如何連接各點之 點-定義空間中一位置二 p, f ^ 貝訊。各點可為按照即如一捕捉空 間(例如數位裝置上的某 ^ 、 ”,、、),及/或一顯示空間(一顯示器裝 置之各點或像素)所定義。 我在此,可利用各種已知技術來表示 各點’包括笛卡爾座声π (Χ,Υ)、極座標(r,Θ )、三維座標 ((Χ,Υ,Ζ)、(Γ,㊀,P )、(X,Y,t (t 為時間)ΗΓ,θ,t)),按四維座 標队口,0及^,^)),以及其他業界眾知技術。 顯析--種決定如何顯示圖形(及/或墨跡)的程序,無論是在 螢幕上、列印或以另一槽案格式加以輸出。 字詞-又稱為墨跡字詞。一字詞係一或更多字跡。一字詞内 的每一字跡具有一相關於該字跡的位置。或可替代地將各字 詞定義成能夠構成可於字典内加以定義之名詞的文字字5 或字母群組。字詞又可包含標點、字母及數宝 歎予與其他符號的 組合,且可包括複合字詞。 跡流(flow)- —或更多依序相關於另一者之车 ",、予阔。例如,各 個撰寫於一頁面上的手寫註記可代表一跡流。而增附各個士主 記會將一或更多字詞增加到含有該等字詞的跡流内。一跡流 内的各個字詞在該跡流内會具有一與其相關的位置。 9 1303377
修(吏)正替換頁 一、 ^ I例Τ,當參昭 流内各字詞之間的間阻n± + es a … 間^時,空間可破視為是一不具 隔字詞。而當參照百I ,; 、、面上的空白區域,空間可被視為是 上未經一跡流所宣佔炙區域。 可被解譯兔&人 ^ ^ 子马^曰令之圖示或其他墨跡 一般計算平臺
第1圖說明一值祕a、= m A 傳統式通用性數位計算環境略圖,此 被用來實作本發明各式特.點。在第1圖裡,一電腦100 -處理單元uo、—系統記憶體12Q,以及—將包含兮 記憶體在内之各式系統元件輕接到該處理單元110㈣ 流排,3 0。該系統匯流排i 3 〇可為多種匯流排結構任者 中含有一記憶體匯流排或記憶體控制器、一週編匯流排 利用任何匯流排架構之局部匯流排。該系統記憶體η。 唯讀記憶體(ROM) 140與隨機存取記憶體(ram) 15〇。 在此,會將一含有基本副程式而有助於像是在開機; 中,往返於該電腦100各元件間傳送資訊的基本輸入/輸; 統(BIOS) 160存放在該R〇M 14〇内。該電腦1〇〇也包令^ 取及寫入至硬碟片(未以圖示)之硬碟機17〇、—讀取及] 至一可移除式磁碟片190之磁碟機18〇,以及_讀取及) 至—像是CD-ROM或其他光學媒體之可移除式光碟片B 光碟機191。該硬碟機170、磁碟機18〇以及光碟機19 跡 間 面 手勢 可 含 統 匯 其 含 程 系 讀 入 入 的 會 10 1303377 年月白修(吏)正替换頁 由-硬碟機介面192、磁碟機介面193以及光碟機 /連接到該系統匯流排13Q。這些驅動器及其相關 :細::取媒體可提供作為該個人電腦⑽的電腦可讀取指 7貝料尨構、程式模組及其他資料的非揮發性儲存裝置。 對於熟諳^項技藝之人士而言,即得顯知在本範例作業系統 中亦可鉍用其他型態而也能儲存可被該電腦接取之資料的 電腦可讀取媒體,像是磁匡、快閃記憶卡、數位視訊、 λ 卡匣^機存取記憶體(RAM)、唯讀記憶體(ROM) 等等,可用於實例操作環境中。 可將多個程式模組存放在該硬碟片17〇、磁碟片BO、光 碟192、ROM 140或RAM 15〇内,包含一作業系統W、一 或更多應用程式196、其他程式模組197及程式資料Μ。 一使用者可透過像是鍵盤1〇1及指向裝置1〇2的输入裝置, 將指令及資訊輸入該電腦_内。其他輸入裝置(未以圖示) 可包含麥克風、搖桿、遊戲板、衛星碟、掃描器等等。彼等 及其他輸入裝置通常是會透過一耦接於該系統匯流排之序 列埠介面106而連接到該處理單元11〇,但亦可藉其他介面 而連接,像是平行埠、遊戲埠或通用序列匯流排(usb卜此 外,該等裝置可直接經由一適當介面(未以圖示)而耦接於該 系統匯流排130。一監視器107或其他型態的顯示裝置也會 透過像是視訊卡1〇8之介面連接到該系統匯流排13〇。除該 監視器107以外,個人電腦通常會包含其他的周邊輸出裝置 (未以圖示),像是喇σ八及印表機。在一較佳具體實施例中, 可供置有一筆式數位器165及隨附尖筆或觸筆166,藉以數 11 1303377 ,方式捕捉手寫輸人。圖中所緣該筆式數位器165及該處理 I兀U0雖係直接相連,但實作上該筆式數位器165可透過 序列埠、平行埠或其他介面與該系統匯流與"3〇,即如業 斤眾兵者而耦接於該處理單元11 0。此外,該數位器1 65 雖誇示為分離於該監視器1〇7,但該數位$ 165之可用輸入 二域與該監視器107的顯示區域共存一處確可為較佳。又進 田步,可將該數位器165整合於該監視器1〇7内,或可按〆 宜置或另接附於該監視器1〇7之個別裝置存在。 一 亥電腦1〇〇可利用邏輯連接至一或更多遠端電腦,像是 ,延端電細109 ’而運作於一網接環境内。該遠端電腦1〇9 可為-伺服器、一路由器、'網路pc、一端接裝置或其他常 見’路節’且if本疋包含多個或所有上述與該電腦! 〇〇相 關之7G件’然第1圖中僅繪出一記憶體儲存裝置111。如第 1圖所不之邏輯連接包含—區域網路(lan) 及一廣域網 路(WAN) 11 3。攻種網接環境常見於辦公室、企業用電腦網 路、企業内網路及網際網路。 當用於一 LAN網接環境内時,該電腦1〇〇會透過一網路 "面或介接卡114而連接到該區域網路ιΐ2。而當用於一 WAN,’.罔接%境内日寸,該個人電腦丄⑽通常會包含一數據機 115或其他裝置,以在該廣域㈣ιΐ3上建立通訊,像是網 際網路。該數據機115可為内含或外接式,且可透過序列埠 介面106❼連接至該系統匯流排13〇。在一網接環境裡,可 將與該個人電腦100'或其局部,相關而述之各程式模組, 存放在該遠端記憶體儲存裝置内 12 1303377 正替換頁 應暸解所繪之各網路連線僅屬示範性,且可採取其他用 以於各電腦間建立通訊鏈路之技術。玆將TCP/IP、乙太網 路、F T P、Η T T P專眾知協定设屬既存者,且該系統可於一客 戶端-伺服器組態内運作,讓使用者能夠從網頁式伺服器處 擷取網頁。可利用各種傳統網頁瀏覽器任者來顯示並操控網 頁上的資料。 第2圖說明一種可根據本發明各項特點而加以運用之筆 式電腦處理系統(又稱平板PC) 201。可將在如第丨圖之系統 内的任一者或全部特性、子系統及功能含納於第2圖之電腦 内。平板PC 201包括一大型顯示表面2〇2,即如一數位平板 顯示器,最好為一液晶顯示器(LCD)螢幕為宜,其上可顯示 出複數個視窗203。利用觸筆2〇4,使用者可於數位顯示區 域内進行k疋強5周及撰寫。適當的數位顯示板範例包含電 兹筆數位器’像是Mut〇h或公司之尖筆數位器。亦
可採用其他型態的尖筆數位器,如光學式數位器。平板PC 〜可利用該觸筆204來解譯各標記,以供操控資料、輸入 文字及執行俸統式電腦應用程式工作,像是試算表、文堂處 理程式等等。 曰 一且_筆可配備有按鍵或其他特性以擴增其選定功能性。在 在其體實%例中,可將—觸筆實作為〆厂鉛筆」或「鋼筆」, 迪 #組成一寫記部分,而在另-端則是組成-「橡擦」 ^,且其中杏狡氣 、田移動越於顯示器上時,會記註該顯示器上須予 抹除的各部分。右t & 在此亦可採用其他形式的輸入裝置,像是滑 ^月既、軌跡球箄 、寻。此外,可利用使用者自己的手指來選擇 13
1303377 或指定在觸敏或臨 _ gp κ , 玉”、、員示為上所示影像的各部分。從而, 1如本文所用者,兮么1「处 定義,B " 口口 1 使用者輪入裝置」係為具有廣这 V且涵蓋許多眾知輸入裳置的變里性入 範圍20S _ - 、 該觸箓日—·,、、不—回饋範圍或接觸範圍,可讓使用者決萍 當觸抵本發明之^ .Γ 在另一具體實施例裡, " 至、狀悲時,該範圍205可提供視覺回饋。 手勢 手勢可概定義A —私t仓密
在 ·、、、較手寫墨跡為廣泛之觸筆動作。當名 -.^ 京的0不方式,且該第二種方式比第一 檀為複雜時,則最好是 一 將以弟一種方式考慮為,或假定為: 一同勢、。例如,可將觸筆實體地移動約36〇度繞於一點的^ ^ ^ ώ 于甘 〇」或是數字零,然一追® 於本身的雙圓圈可被視為一丰執 散优马手勢。亦可利用其他的手勢。 "第3圖顯示一用以實作手勢之程序方法,在此係顯示為 可從-般作業環境3〇1接取到該等手勢。㈣者可於训^ 增附墨跡’或是對部分的顯示器特性(如檢視、捲轉等等)办
乂控制。一旦於302内產生(及/或辨識)一手勢後即可於30 内執行在執行後,系統即備妥以藉經路徑3 0 4而回返至3 0 俾接受更多的輸入。 或者,手勢之執行可保捧一較晚的時間。在此替代性具 體實施例裡,可將手勢顯析為稍後執行的墨跡及手勢。可在 本發明内執行之,或是傳通到另一應用程式以供執行。 可在各種位置處利用手勢。可於顯示器表面上顯作出各 14 1303377 ¥3/Wqb正替換頁! 種手勢。此外,可在空中顯作出各項手勢(某些筆式計 利用一電導(inductive)技術以偵測尖筆並可知悉該尖 度)。可將手勢顯作於按鍵及類似控制物上(即如檢查 記)。可利用各種手勢來編輯文字及/或墨跡。可在一 之專屬輪入部分(固定式或臨時性)來顯作手勢。 手勢可具一或更多的下列特徵:内定動作或控制 性質、動作區域、位置、大小/範圍,以及形狀。亦可 特徵納入此列表内。 各種手勢可具一或更多與其相關的内定動作。 點選(tap)可具一與之相關的一般性選取動作。如号 式是在之前並無其他點選,則此點選可係為選定一 該點選的方式是在之前確有一先前 U月J點埯,則此稍德 為選定一字句。如該點選的方式是在 、疋隹之刖有兩個另 則此最後點選可係為選定整個段落。 冷 Η樣地,如 選’則此最後點選可為全選。 在一些具體實施例中,内定動作可稱為—手勢 法或控制性質。—手勢的控制方法或性質係當執布 所獲作或是所影響者。例如,為以 一 A Α π 守一子詞或選工! 化之手勢方法或性質,會將該字 ,Α 及逛項的顯析% 粗體字型或表現。此外,一選定 一 另之方法或性屬 所顯示頁面上的某些標的。該頁面 、 /、有墨跡、圖 圖片及/或其他該等項目。 算系統 筆的高 求助標 顯示器 方法或 將其他 如 ,一 選的方 詞。如 選可係 點選, 四個點 控制方 手勢時 以粗體 改變為 為選定 文字、 15 1303377
動作區域 —手勢的動作區域係一該手勢會影響到的區域。例如, 在檢查標記係對某項目或按鍵或部分的使用者介面進行求 助之手勢的情況下’該檢查標記的動作區域可為一環繞於該 檢查標記内弯線的小型區域。從而’―使用者會將使用者意 户长助之項目置放在檢查標記的動作區域上。 在一些具體實施例裡,可將該檢查標記從一區域壓縮成
-點或點集。在如上的檢查標記範例,產生該檢查標記之兩 條直線交叉處的點可為該動作區域。這種具體實施例可對使 用者提供-種能夠精確地置放各個手勢的功能性。因此,例 如手勢會與一單點有關。另一方面,在動作區域係一較大範 圍的情況下,即使是該觸筆輕微地錯過一該手勢會產生影響 之所欲點’此所欲手勢可仍影響所欲區域確為較佳。例如, 右使用者嘗試將一檢查標記置放於一按鍵上,而又輕微地 k該按鍵,但大多數的標記係在該按鍵上,則這種較大範 圍方式仍可對該按鍵尋求協助。 巳
在進步具體實施例裡,該動作區域可為一限界各戋 限界益的起點。例如,藉一左括弧選取手勢,頂部及底= 角可為含有一選項之限界盒的起點。 手勢的動作區域可為可變者,且可基於該手勢的一或 更多屬性。例如,一放在於一單一字詞上的χ,可具有一 ^ j待予刪除該字詞之手勢相關的動作(在此,該手勢的動作區 /了為較小範圍或是位於該X中心處的單點)。或者,在 16 1303377 )6 咋 3·η〇8 」 年月日修(|b正碰頁 一段洛上之較大x可擴展該動作區域的範圍 落可藉其他屬性來調整此動作區域的放大 括彳=不限於,撰寫手勢的速度、觸筆在該| 上的壓力、該觸筆的角度(如能夠藉硬體進行 示器螢幕上的手勢位置、相對於顯示在螢幕上 各種其他墨跡、手勢角度等等)之手勢的位置 疋手勢的另一種特性。可按相對於 及/或相對於像是墨跡之另—顯示於該榮幕 來測量位置。在一些情況下,手勢的位置可 重要而在其他的情況下,一手勢的位置可 要或定義性特徵的其中一者。例如,若某人 然㈣除該字句以外的某字㈣,—放置在該 之字詞間的散漫性刪除手勢,x,會按照該 其相關連的解譯方式而有不同的影響。其1 該字句,因動作區域或會涵蓋該選項,I表 刪除者。或另者,事實上該x並非實際在該 的位置表示該手勢之目的係為删除該字詞而. 大小/範圍 一手勢可根據該手勢的大小具有另一特 讓手勢對彼等所修飾者具有變動性的影響連 括弧可為-直線之高度,或可為多條直:違 ,以涵蓋整個段 作業,這些包 :位裝置之表面 角度感測)、顯 之其他元件(如 顯示器螢幕, 的物體之方式 像其他特性般 一手勢之最重 欲選定一字勺 句及待予刪除 的位置如何與 式疋會被刪除 該選項係須予 項上,從而x 是該選項。 。這項資訊可 圍。例如,左 。按一具三條 17
1303377 直線之1¾度的左括弧,係為選定比起兩條直線高度的左括弧 更多區域。 在一替代性具體實施例裡,經組對之手勢(例如左及右選 定括弧)或不會按照大小而是按位置而定,因為左及右選定括 弧可標定一限界盒或待予選定之文字流的起點及終點。 形狀 手勢形狀可與彼等覆蓋之區域相關。例如,三個文字線 段高度之左括弧或具有一與具僅單一文字線高度之左括孤 不同的高度/寬度比。此外,有些手勢的真正形狀内容或會因 大小而改變。例如’晝於文字下以將其粗體化或大寫之波形 綠手勢’或會在線内愈長而具有更多的波頂。從而,辨識一 手勢可包含將手勢大小標準化至一單位面積。此辨識作業可 S比配各形狀,以決定是否重覆一單一手勢(一波形線)以 覆蓋一更大區域。 辨識手勢
。而且墨跡也最好是不 步驟404的最近字跡, 。第4圖顯示一為以將字跡辨識為 之示範性處理方法。
口P勿的字跡或可當單獨 統或亦可觀察來自 晏單獨採列,以及 1303377
pe J又於一段落卜γ 作為選取該點觸處·Ρ的字 上點觸可 7予d。兩個點觸(這音 4014的目前點觸以外,該李 心耆产乂驟 糸統尚需要憶及步驟404的第 觸K選定-包含在原先點觸下之字詞的字句或段落 點 如未收到手勢,則會在步一 々价+ 顯析於401處所接收到 的字跡。或另者,會從顯 田’岡予跡,一直刭傭笪 在步驟403被決定為一組非 』仮寺 非為手勢者,然後在步驟4〇2予以 共集地顯析。 如在步驟彻收到-手勢,則會為出現—手勢而警示該 系統。這項警示可包含設定一手勢旗標。或者,這可包含送 出該手勢以及額外資訊(包含一或更多的下列項目:該手勢大 小、手勢形狀、手勢作用區域以及控制方法或性質)。此外, 亦可警示在步驟401 &到的字跡之應用程式出現該手勢(包 含或不包含額外的手勢資訊)。 在替代性具體實施例裡,一當收到時即可顯析所有的字 跡,俾以對一使用者提供立即回饋。在這些具體實施例裡, 步驟405可抹除樣成該手勢的字跡或各字跡。 在又另一具體實施例裡.,即如步驟406所示,可決定與 該手勢相關的標的,並提供給系統或應用程式(步驟4〇7), 藉此讓系統或應用程式執行或決定何時執行該手勢。該標的 可為,如顯示在螢幕上的目標(像是按鍵、文字、圖形或任何 其他類似顯示標的),而其上或鄰近於此繪示有該手勢。例 如,若該手勢係一檢查標記,該標地可為一按鍵,且該檢查 標記手勢可引起一連同於該按鍵而產生的特定動作。而如另 19 13 03377 ο ^ 一範例,該標的係一文字字詞,且該手勢係一繪於該字詞之 上的大寫Β,則會握持相關於该大寫Β手勢的標的。 第4圖可提供在決定之後的立即手勢執行作業。第5圖 顯示一替代性具體實施例,其中不是由系統而是由一應用程 式來決定各字跡係手勢。第5圖提供先須捕捉字跡,然後再 另執行該等係為手勢之字跡的遽項。例如’如第5圖之處理 方法可適用於在實際執行各項變動前要先觀看對一文件之 所有修飾結果的使用者。 在步驟5 01裡,會收到一字跡。在 字跡且將字跡組合傳送給一應用程式5〇3。在步驟5〇4,該 應用程式讀出一或多個字跡。在步驟5〇5,該應用程式決定 該所收字跡是否係一手勢。這種方式可供辨識應用程式特定 手勢,而非僅系統範圍性的手勢。 如位於步驟505,其決定氣并土 w ?,丨 主拥 ,、厌疋為亚未收到一手勢,該應用程式 處理該等字跡506。如名半^ 在Y驟505,其決定為收到一手勢, 該應用程式會在步驟5〇7處理該手勢。 第8圖顯示另一用以辨认 ?每手勢的具體實施例。在步驟80 1 會收到一字跡。在步驟8〇2合 曰將字跡標準化。此外,可於步 驟802執行其他步驟,台括 包括任何一或更多的下列項目: 1 . 將所收一或冬他1生:TMr、 _ 予跡勺解為一單點串流,而該尖筆 與該顯示表面之接觸處為觸者及非觸者(例如0為 向下而1為向上 利用來自該數位裝置的實體維度資料,將該X及1 座標縮放為預定大小(即如-平方英对)。在-具靡 20 2. 1303377
0 8
Bl·修值)正替换頁丨 實施例裡,可拋除此縮放資訊。或另者,可保留此 縮放資訊以供後續使用。 3. 調整各點的進入時間,並重新取樣該墨跡以產生— 預定適量數量的點(即如200個)。在一具體會 汽万也例 裡,可拋除此時間比例資訊。或者,可保留此時門 比例資訊以供後續使用。 4. 可計算包含字跡繞數、字跡維持聘段、字跡縱俨 比、任意點到一連接各端點之區段的最大距離、 射點等額外項目。 反 5· 6.
針對X、y及z座標各者計算Chebychev多項式。 合併部份或全部的Chebychev多項式、繞數、縮放 率持時奴與比例並輸入到一或更多Βπα網路。。 對於母手勢利用個別的Bayes網路。 跡到各個B a y e s網路並择 過的一門檻值的網路。如 ’則將該手勢傳到該應用 示並未辨識出任何手勢。 傳通所處理之一或多個字 一分數。會辨識出任何超 僅單一網路被辨識為手勢 私式戈w亥糸統。如否,貝彳表
--'叫 丁労。這可包 述的比對步驟7。如是,系統 六疋在δ亥動作區域805 各字詞或子跡,並於步驟826 初1下^域内的手勢 標的送出給糸統或應用程式。 若否,則在步驟8〇4,孚 糸、、死曰决疋是否既已達到一 量的字跡(即如四個字跡)。如否 、』糸、洗會在步驟808 21 1303377 96. 3. 0 8 一子跡而備克 -X- 、… 。否則,系統會在步驟807拋除最先所收 然後系統會名牛_ y驟8 0 8為次一字跡而備妥。 :的歹j表列出各種示範性手勢及相關方法或性質 子型性曹鐵貝 ,、…-於該字詞上或文字的其他部分上'‘ 1 从令一字詞(或一字詞的其他部分 該字詞上繪出一IA 祖體子 DU為雔广 大寫卜々一字詞為斜體字,ϋ為加;i 又&線,ον為刪除線,而N為正常字 他的性質轡仆 J属1 。有些手勢辨識的具體實施例可包 跡平置於另一者μ 士 L a ^ ^ 有上。在此,將一字跡覆寫於一字 系統或應用程式出現一手勢。 斷句〜右下角可被解譯為一斷句、句段折返、新名 等的手勢。右上角可執行相反項。 、剪下/複製/貼上'可利用X來剪下,利用C或圈走 來複製1用―脫字符號來貼上。利用雙脫字符號表j 性貼上。 選疋―可利用左及右方括弧來定義一選定。或者, 括孤内定為溪定_ ^ 、疋一予詞。在一進一步替代例中,重覆 右方括弧可視需要調整選定。箭頭手勢可令定義(一次一 細微調整作業。彎括弧可供不連續性選定。 文字/列表/繪式群組—製於一選定上之段落手勢i 跡集組於文字内且辨識該墨跡串流(又稱為再串流)。 者 區段手勢可將其轉為一繪式或列表。這也可運戶 列表的情況下(即如L手勢)。 可將手勢施用於其他應用程式,包含網際網路網] 字跡, ^出一 >可於 £線, E出其 :將字 '助於 :落等 i的X :選擇 左方 性左/ •字元) g將墨 或另 丨在一 :與試 22 1303377
算表。可利用各方向的輕按來向上及下捲動在一劉覽器内檢 視的文件。多重輕按可調整能夠向上及向下捲動一頁面或檔 案多遠。在一試算表裡,垂直大括弧可定義一組縱行。脫字 符號(向上或旋轉)可為一手勢以插置橫列及/或縱行。 第6圖顯示各種不同的手勢。後列表格描述各種手勢以 及相關於各者之不同變數。自亦可採用其他標記、變異與語 意。 標記 名 稱 變異(重複或旋轉) 一般語意 601 點選 4 選定 602 輕按 16 捲動 603 山形紋 16 *** 604 圓圈 1 選定 605 圓圈-十字形 1 復原 606 圓圈-輕敲 1 607 雙圓圈 1 608 大寫拉丁字 26 609 角 8 610 輕按-角 24 611 檢查標記 1 求助 612 辮子 4 删除 613 方括弧 4 選定 614 著重號 2 615 三角形 4 616 無限大 1 清除選定 617 彎曲的線 1 粗筆晝 618 問號 1 求助 619 驚嘆號 1 工具提示 620 交換 2 交換串 621 箭頭 4 延伸選定 622 雙箭頭 4 623 大括號 4 不連續選定 624 圓括號 4 625 合而為一 4 626 段落 1 填滿/排整齊 23 1303377 正替換頁 627 j£z· ΛΛ· 早即 1 底下列表列出可能的手勢控制 標記 名 稱 操 作 628 點選 選擇/放置IP 629 雙重點選 選擇字詞 630 三重點選 選擇段落 631 四重點選 全選 632 向右輕按 向左捲動直到動作區域在視窗的右邊界 633 雙重向右輕按 向左捲動至文件底端 634 向左輕按 向右捲動直到動作區域在視窗的左邊界 635 雙重向左輕按 向右捲動至文件底端 636 向上輕按 向下捲動直到動作區域在螢幕的頂端 637 雙重向上輕按 向下捲動至頁面底端 638 三重向上輕按 向下捲動至文件底端 639 向下輕按 向上捲動直到動作區域在螢幕的底端 640 雙重向下輕按 向上捲動至頁面底端 641 三重向下輕按 向上捲動至文件底端 642 拉丁字母-B 使標的物粗體化 643 拉丁字母-I 使標的物斜體化 644 拉丁字母-N 使標的物正常化 645 拉丁字母-U 使標的物加底線 646 拉丁字母-X 刪除標的物 647 圓圈-十字形 複製標的物 648 向上山形紋 貼上 649 雙重向上山形紋 選擇性貼上 650 左方括弧 設定選定的左邊界 651 右方括弧 設定選定的右邊界 652 上方括弧 選擇欄 653 左大括號 設定不連續選定的左邊界 654 右大括3虎 設定不連續選定的右邊界 執行手勢 手勢執行方式係根據一應用程式被視為應如何處置一手 24 1303377 縣】Γ 猶―一———Ί 1年月日修(表)正勢&頁 勢(給定該手勢的大小、形狀與位置),以及一作業系統如何 將與該相關於該手勢之資訊遞交給該應用程式而定。一些手 勢可被作業系統所解譯,且可被傳到一應用程式作為一或更 多的滑鼠及/或鍵盤動作。其他手勢可不被作業系統所解譯, 而是會由一應用程式加以辨識。在此,應用程式會需要根據 該手勢的各種特點或特徵,來诀定須如何處置該手勢。此 外’手勢解譯應用程式可用來將完全不暸解一或各給定手勢 之無手勢功能的應用程式介接於談作業系統。 資料結構 弟7圖顯示一可用以代表一手勢之資料結構7 〇 1的具體 實施例範例。亦可採用其他的資料結構,包含陣列' 連接串 鍵等。區段702係與一手勢的泛性規格有關。區段7〇3與刪 除手勢有關。區段704則是與開始選定手勢有關。 區段705包含手勢識別。此手勢識別可為一 Unicode字元 或一 GUID,即如業界所眾知者。區段7〇6顯示一手勢的經 標準化形狀。對於手勢7〇3 ,經標準化形狀係一 “χ” 。對於
手勢704,該經標準化形狀係一“[”。區段7〇7包含該手勢 的動作區域。對於手勢703,該動作區域係例如一位於兩條 產生該手勢之線的交又下方之點。對於手勢7〇4,該動作區 域‘至該方括弧右方的字跡、字詞或各字詞。 W 區段7 0 8描述相關於該手勢之控制方法或性質。對於手 勢7〇3,該相關控制方法或性質係「刪除」。對於手勢π? 該相關控制方法或性質係「開始選定。 25 l3〇3377
『、一月日修(良替換頁I .'·ι·ιιι_·ιι ιιιι_ι .......ιι,ι I ! 本發明所具體實作之示範性系統Α y、 /、方法雖係按範例 所描述,然自應暸解本發明並不限於 4 Θ寻具體實施例。可由 热諳本項技藝之人士依照前接教示 ^ _ οσ τ邊痒進行修飾。例 如’可早獨或併合於其他具體實施例 j之兀件來利用前述各具 體貝施例之各項元件。在此,雖既已葬 —M丄 猎後载申請專利範圍來 疋義本發明,但彼等申請項目僅屬示範性,’ 為、、,内入在此揭示而按各種組合或次 ’、 丰疏 0方式的各種元件及 從而’可有任意數量之替代組合以定義本發 ^ 并入—或更多該規格之元件,包含按各種組合及次組合5 式之說明、申請專利範圍及圖式。 丄 對於热諳相關技藝之人 士,,照本發明規格後應即瞭解確可利用本 點’要不單獨或要不併合於在此所 χ 、特 驟,之替代組合,來作為本發明輪替代:。::或步 -部份。其目的係本文所含之本發=== 有該等修飾與替代項目。 风所 【圖式簡單說明】 在此’連同於隨附各 、㈡式將可為更佳瞭解前鹿 明概論以及後载之較佳| ,、 揭本辱 /、體貝鈀例砰細說明,古耸 申核之發明,僅屬所含^ γ 、於戶; ★ m屬所3靶例,而非其限制者。 弟1圖為示蘇柯 以杂作太菸日日 用目的之數位計算環境略圖,這可用 以實作本發明之各式特點。 ’用 第2圖係根據本發明夂馆姑_ 万各項特點之示範性 供運用之尖筆的平面視圖。 ’生+板電細以及可 26 1303377 9%3 修(寥)正替換頁 第3圖顯示根據本發明具體實施例之各種作業模式的範 第4及5圖顯示根據本發明具體實施例之手勢辨識處理 範例。 第6圖顯示可用於本發明具體實施例之手勢範例。 第7圖顯示根據太 相關方法或性質。a明具體實施例之手勢資料結構範例 第8圖顯示根據本 方法範例。 發明具體實施例用以識別一手勢之
例0 方法 及其 程序 [主 100 102 108 110 112 114 120 140 160 180 191 192 194 要元件符號說明】 電腦 指向裝置 101 鍵 視訊卡 107 監 處理單元 109 遠 區域網路 111 記 網路介面 113 廣 系統記憶體 115 數 唯讀記憶體(rom) 130 系 基本輪入/輪出*** 150 隨 磁碟機 170 硬 光碟機 190 可 硬碟機介面 192 可 光碟機介面 193 磁 195 作 盤 視器 端電腦 憶體 域網路 據機 統匯流排 機存取記憶體(RAM) 碟機 移除式磁碟片 移除式光碟片 碟機介面 業系統 27
1303377 196應用程式 198程式資料 202大型顯示表面 204觸筆 701資料結構 703區段 705區段 707區段 1 9 7程式模組 201筆式電腦 203視窗 205範圍 702區段 704區段 706區段 708區段 理系統 28

Claims (1)

1303377 十、申睛專利範圍·· 1’種用以决疋是否—手勢已由檢視一頁面之使用者所接 收的方法,該方法至少包含下列步驟: 接收一置放於該頁面上之字跡; 、疋k子跡疋否包含一手勢,該決定步驟包括以下步驟: (0標準化用於該字跡的資料; ()對w亥予跡之座標來計算C h e b y c h e v多項式; (ui)針對已知手勢傳通該等多項式至一或更多先 前已計算的Bayes網跃 _ _ . ' ,該等手勢各者係與一預定命令關聯 以由該計算裝置所執行;以及 (iv)決定該等吝 : 寻夕項式疋否與一或更多之Bayes網路 共相關;以及 示 如果該等多項式與—或更多之Bayes 一系統或應用程式既已收到該手勢。 網路共相關,則警 進一步包含以下步 2·如申請專利範圍第1項所述之方法, 驟: 在決定該字跡為一手勢之前右_ 在—顯示器上顯析(rendering) 如墨水般的該字跡,並於決定該聿输先 ^ μ /Μ _ _ 次予跡為一手勢之後,從該顯 示器處抹除該已顯析手勢。 3 ·如申請專利fc圍第1項所述之方法,進一步包含以下步 驟: 決定一相關於該手勢的標的(object);以及 29 1303377
將該標的,連同該手勢,傳通至該系統或該應用程式。 4 ·如申請專利範圍第1項所述之方法,進一步包含如下步 驟: 顯析該接收字跡。 5. 如申請專利範圍第1項所述之方法,進一步包含以下步 驟: 如果該等多項式並未與任何Bayes網路共相關,則造成 該計算裝置以抑制(withhold)顯析如墨水般的至少一字跡, 直到已累積到一預定複數個非相關字跡,並在已累積到該複 數個非相關字跡之後,顯現複數個如墨水般的字跡。 6. —種用以決定是否一手勢已由檢視一頁面之使用者所接 收的方法,該方法至少包含下列步驟: 接收一置放於該頁面上之字跡; 顯析該頁面上之該字跡; 將該字跡送出至一應用程式; 藉由將該字跡之資料與複數個對應至預定命令之Bayers 網路相比較的方式,在該應用程式内決定該字跡是否包含一 手勢;以及 處理該手勢。 7. —種用以決定所收字跡是否為手勢之方法,其至少包含: 30
1303377 標準化至少一字跡以產生經標準化之至少一字跡; 對該至少一字跡之座標來計算Chebychev多項式; 將該經標準化之至少一字跡與該 Chebychev多項式予以 合併俾產生一 Bayes網路; 將該Bayes網路與已知手勢之先前已計算Bayes網路相互 比較; 決定該Bayes網路是否與該等已計算Bayes網路其中一者 共相關;以及 如該Bayes網路與該等已計算Bayes網路其中一者共相 關,則按對應於該已計算Bayes網路其中一者之手勢來處理 該至少一字跡。 8. 如申請專利範圍第7項所述之方法,進一步包含: 將該至少一字跡壓縮為單點串流;以及 利用該單點串流以產生該Bayes網路。 9. 如申請專利範圍第7項所述之方法,進一步包含: 縮放該至少一字跡之各點的時間輸入項,以產生一經比 例調整之時間;以及 ’利用該經比例調整之時間以產生該Bayes網路。 1 〇.如申請專利範圍第9項所述之方法,進一步包含: 計算該至少一字跡之字跡繞數及維持時段;以及 利用該Bayes網路中該經比例調整之時間。 31 1303377 11. 一種電腦可讀取媒體,其中含有一用以決定一手勢是否 已由檢視一頁面之使用者所接收的程式,該程式至少包含各 項指令以執行如下步驟: 接收一置放於該頁面上之字跡; 決定該字跡是否包含一手勢,該決定步驟包括以下步驟: (i) 標準化用於該字跡的資料; (ii) 對該字跡之座標來計算Chebychev多項式; (iii) 針對已知手勢傳通該等多項式至一或更多先 前已計算的Bayes網路,該等手勢各者係與一預定命令關聯 以由該計算裝置所執行;以及 (iv) 決定該等多項式是否與一或更多之Bayes網路 共相關;以及 如果該等多項式與一或更多之Bayes網路共相關,則警 示一系統或應用程式已收到該手勢。 1 2.如申請專利範圍第11項所述之電腦可讀取媒體,其中該 程式進一步包含指令以執行如下步驟: 在決定該字跡為一手勢之前在一顯示器上顯析如墨水般 的該字跡,並於決定該字跡為一手勢之後,從該顯示器處抹 除該已顯析手勢。 1 3.如申請專利範圍第1 1項所述之電腦可讀取媒體,其中該 程式進一步包含指令以執行如下步驟: 32
1303377 決定一相關於該手勢的標的;以及 將該標的,連同該手勢,傳通至該ί 1 4.如申請專利範圍第1 1項所述之電腦 程式進一步包含指令以執行顯析該接收 1 5 .如申請專利範圍第11項所述之電腦 包含以下之指令: 如果該等多項式並未與任何Bayes 該計算裝置以抑制(withhold)顯析如墨 直到已累積到一預定複數個非相關字跡 數個非相關字跡之後,顯現複數個如墨 ^統或該應用程式。 可讀取媒體,其中該 字跡之步驟。 可讀取媒體,進一步 網路共相關,則造成 私般的至少一字跡, ’並在已累積到該複 水般的字跡。 33
1303377 七、指定代表圖·· (一) 、本案指定代表圖為:第(4)圖。 (二) 、本代表圖之元件代表符號簡單說明: 無 八、本案若有化學式時,請揭示最能顯示 發明特徵的化學式: 無
4
TW092100204A 2002-02-08 2003-01-06 Method for determining,and system for implementing,ink gestures TWI303377B (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US10/068,009 US6938222B2 (en) 2002-02-08 2002-02-08 Ink gestures

Publications (2)

Publication Number Publication Date
TW200302977A TW200302977A (en) 2003-08-16
TWI303377B true TWI303377B (en) 2008-11-21

Family

ID=27610523

Family Applications (1)

Application Number Title Priority Date Filing Date
TW092100204A TWI303377B (en) 2002-02-08 2003-01-06 Method for determining,and system for implementing,ink gestures

Country Status (5)

Country Link
US (3) US6938222B2 (zh)
EP (1) EP1335272A3 (zh)
JP (2) JP2003308482A (zh)
CN (1) CN100336053C (zh)
TW (1) TWI303377B (zh)

Families Citing this family (137)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB9722766D0 (en) 1997-10-28 1997-12-24 British Telecomm Portable computers
US20070177804A1 (en) * 2006-01-30 2007-08-02 Apple Computer, Inc. Multi-touch gesture dictionary
US7760187B2 (en) 2004-07-30 2010-07-20 Apple Inc. Visual expander
US7916124B1 (en) 2001-06-20 2011-03-29 Leapfrog Enterprises, Inc. Interactive apparatus using print media
JP2003122492A (ja) * 2001-10-10 2003-04-25 Wacom Co Ltd 入力システム、プログラム、および、記録媒体
US7133031B2 (en) * 2002-10-31 2006-11-07 Microsoft Corporation Optical system design for a universal computing device
US7262764B2 (en) * 2002-10-31 2007-08-28 Microsoft Corporation Universal computing device for surface applications
US7133563B2 (en) 2002-10-31 2006-11-07 Microsoft Corporation Passive embedded interaction code
US7142197B2 (en) * 2002-10-31 2006-11-28 Microsoft Corporation Universal computing device
KR20040083788A (ko) * 2003-03-25 2004-10-06 삼성전자주식회사 제스쳐 커맨드를 이용하여 프로그램을 구동시킬 수 있는휴대용 단말기 및 이를 이용한 프로그램 구동 방법
US7961909B2 (en) 2006-03-08 2011-06-14 Electronic Scripting Products, Inc. Computer interface employing a manipulated object with absolute pose detection component and a display
US8542219B2 (en) * 2004-01-30 2013-09-24 Electronic Scripting Products, Inc. Processing pose data derived from the pose of an elongate object
US9229540B2 (en) 2004-01-30 2016-01-05 Electronic Scripting Products, Inc. Deriving input from six degrees of freedom interfaces
US7826641B2 (en) 2004-01-30 2010-11-02 Electronic Scripting Products, Inc. Apparatus and method for determining an absolute pose of a manipulated object in a real three-dimensional environment with invariant features
US7831933B2 (en) 2004-03-17 2010-11-09 Leapfrog Enterprises, Inc. Method and system for implementing a user interface for a device employing written graphical elements
US20060127872A1 (en) * 2004-03-17 2006-06-15 James Marggraff Method and device for associating a user writing with a user-writable element
US7853193B2 (en) * 2004-03-17 2010-12-14 Leapfrog Enterprises, Inc. Method and device for audibly instructing a user to interact with a function
US8448083B1 (en) * 2004-04-16 2013-05-21 Apple Inc. Gesture control of multimedia editing applications
US7728821B2 (en) * 2004-08-06 2010-06-01 Touchtable, Inc. Touch detecting interactive display
US7719523B2 (en) 2004-08-06 2010-05-18 Touchtable, Inc. Bounding box gesture recognition on a touch detecting interactive display
US20060028429A1 (en) * 2004-08-09 2006-02-09 International Business Machines Corporation Controlling devices' behaviors via changes in their relative locations and positions
US7761814B2 (en) 2004-09-13 2010-07-20 Microsoft Corporation Flick gesture
US8169410B2 (en) 2004-10-20 2012-05-01 Nintendo Co., Ltd. Gesture inputs for a portable display device
US7826074B1 (en) 2005-02-25 2010-11-02 Microsoft Corporation Fast embedded interaction code printing with custom postscript commands
US7421439B2 (en) 2005-04-22 2008-09-02 Microsoft Corporation Global metadata embedding and decoding
KR100597798B1 (ko) * 2005-05-12 2006-07-10 삼성전자주식회사 휴대용 단말기에서 동작인식을 위한 정보를 사용자에게제공하기 방법
US20060267966A1 (en) * 2005-05-24 2006-11-30 Microsoft Corporation Hover widgets: using the tracking state to extend capabilities of pen-operated devices
US20060267967A1 (en) * 2005-05-24 2006-11-30 Microsoft Corporation Phrasing extensions and multiple modes in one spring-loaded control
US7400777B2 (en) 2005-05-25 2008-07-15 Microsoft Corporation Preprocessing for information pattern analysis
US7729539B2 (en) 2005-05-31 2010-06-01 Microsoft Corporation Fast error-correcting of embedded interaction codes
US7922099B1 (en) 2005-07-29 2011-04-12 Leapfrog Enterprises, Inc. System and method for associating content with an image bearing surface
US7817816B2 (en) 2005-08-17 2010-10-19 Microsoft Corporation Embedded interaction code enabled surface type identification
US8643605B2 (en) * 2005-11-21 2014-02-04 Core Wireless Licensing S.A.R.L Gesture based document editor
US7913165B2 (en) * 2005-12-15 2011-03-22 Kyocera Corporation Inserting objects using a text editor that supports scalable fonts
US7701457B2 (en) * 2006-02-21 2010-04-20 Chrysler Group Llc Pen-based 3D drawing system with geometric-constraint based 3D cross curve drawing
US7661068B2 (en) * 2006-06-12 2010-02-09 Microsoft Corporation Extended eraser functions
US8050500B1 (en) * 2006-07-06 2011-11-01 Senapps, LLC Recognition method and system
JP4762070B2 (ja) 2006-07-19 2011-08-31 富士通株式会社 手書き入力装置、手書き入力方法、及びコンピュータプログラム
US8261967B1 (en) 2006-07-19 2012-09-11 Leapfrog Enterprises, Inc. Techniques for interactively coupling electronic content with printed media
US7856605B2 (en) 2006-10-26 2010-12-21 Apple Inc. Method, system, and graphical user interface for positioning an insertion marker in a touch screen display
US8570278B2 (en) 2006-10-26 2013-10-29 Apple Inc. Portable multifunction device, method, and graphical user interface for adjusting an insertion point marker
US7844915B2 (en) 2007-01-07 2010-11-30 Apple Inc. Application programming interfaces for scrolling operations
US7752555B2 (en) * 2007-01-31 2010-07-06 Microsoft Corporation Controlling multiple map application operations with a single gesture
TWI339806B (en) * 2007-04-04 2011-04-01 Htc Corp Electronic device capable of executing commands therein and method for executing commands in the same
WO2009024971A2 (en) 2007-08-19 2009-02-26 Saar Shai Finger-worn devices and related methods of use
US9261979B2 (en) * 2007-08-20 2016-02-16 Qualcomm Incorporated Gesture-based mobile interaction
EP2191397B1 (en) * 2007-08-20 2019-01-23 Qualcomm Incorporated Enhanced rejection of out-of-vocabulary words
CN101399897B (zh) * 2007-09-30 2010-12-29 宏达国际电子股份有限公司 图像处理方法
KR20090052673A (ko) * 2007-11-21 2009-05-26 엘지전자 주식회사 단말기, 그 제어 방법 및 이를 위한 기록 매체
US8566752B2 (en) * 2007-12-21 2013-10-22 Ricoh Co., Ltd. Persistent selection marks
CN102165410A (zh) * 2008-01-31 2011-08-24 惠普开发有限公司 打印结构化文档
US8201109B2 (en) 2008-03-04 2012-06-12 Apple Inc. Methods and graphical user interfaces for editing on a portable multifunction device
US8650507B2 (en) * 2008-03-04 2014-02-11 Apple Inc. Selecting of text using gestures
US9268483B2 (en) * 2008-05-16 2016-02-23 Microsoft Technology Licensing, Llc Multi-touch input platform
US8566717B2 (en) * 2008-06-24 2013-10-22 Microsoft Corporation Rendering teaching animations on a user-interface display
WO2010006087A1 (en) * 2008-07-08 2010-01-14 David Seaberg Process for providing and editing instructions, data, data structures, and algorithms in a computer system
KR101509245B1 (ko) * 2008-07-31 2015-04-08 삼성전자주식회사 휴대용 단말기에서 패턴 인식을 이용한 사용자 인터페이스장치 및 방법
US8619048B2 (en) * 2008-08-08 2013-12-31 Moonsun Io Ltd. Method and device of stroke based user input
CN101667074B (zh) * 2008-09-03 2011-12-07 联想(北京)有限公司 一种通过图形输入完成操作的装置及其方法
US8223121B2 (en) 2008-10-20 2012-07-17 Sensor Platforms, Inc. Host system and method for determining an attitude of a device undergoing dynamic acceleration
US9335909B2 (en) * 2009-06-03 2016-05-10 Honda Motor Co., Ltd. Drawing assist device, drawing assist program, and drawing assist method
US8423916B2 (en) * 2008-11-20 2013-04-16 Canon Kabushiki Kaisha Information processing apparatus, processing method thereof, and computer-readable storage medium
US20100153890A1 (en) * 2008-12-11 2010-06-17 Nokia Corporation Method, Apparatus and Computer Program Product for Providing a Predictive Model for Drawing Using Touch Screen Devices
JP5108747B2 (ja) * 2008-12-26 2012-12-26 富士フイルム株式会社 情報表示装置、方法およびプログラム
US8587519B2 (en) * 2009-01-07 2013-11-19 Sensor Platforms, Inc. Rolling gesture detection using a multi-dimensional pointing device
US9846533B2 (en) * 2009-03-16 2017-12-19 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
KR20100107615A (ko) * 2009-03-26 2010-10-06 주식회사 팬택 터치입력을 이용한 데이터 편집 방법 및 휴대용 단말기
US8819597B2 (en) * 2009-04-10 2014-08-26 Google Inc. Glyph entry on computing device
TWI444858B (zh) * 2009-05-27 2014-07-11 Htc Corp Method and system for updating the gesture track of hand - held touch device
US8386963B2 (en) * 2009-05-28 2013-02-26 Microsoft Corporation Virtual inking using gesture recognition
JP5446624B2 (ja) * 2009-09-07 2014-03-19 ソニー株式会社 情報表示装置、情報表示方法及びプログラム
US8519960B2 (en) * 2009-09-17 2013-08-27 Aten International Co., Ltd. Method and apparatus for switching of KVM switch ports using gestures on a touch panel
US8587532B2 (en) 2009-12-18 2013-11-19 Intel Corporation Multi-feature interactive touch user interface
US8786559B2 (en) * 2010-01-06 2014-07-22 Apple Inc. Device, method, and graphical user interface for manipulating tables using multi-contact gestures
US9268404B2 (en) * 2010-01-08 2016-02-23 Microsoft Technology Licensing, Llc Application gesture interpretation
US20110210850A1 (en) * 2010-02-26 2011-09-01 Phuong K Tran Touch-screen keyboard with combination keys and directional swipes
US11429272B2 (en) * 2010-03-26 2022-08-30 Microsoft Technology Licensing, Llc Multi-factor probabilistic model for evaluating user input
US20110296333A1 (en) * 2010-05-25 2011-12-01 Bateman Steven S User interaction gestures with virtual keyboard
US20110307840A1 (en) * 2010-06-10 2011-12-15 Microsoft Corporation Erase, circle, prioritize and application tray gestures
US8773370B2 (en) 2010-07-13 2014-07-08 Apple Inc. Table editing systems with gesture-based insertion and deletion of columns and rows
CN101986248A (zh) * 2010-07-14 2011-03-16 上海无戒空间信息技术有限公司 在计算机控制中使用手势对象取代菜单的方法
CN101986249A (zh) * 2010-07-14 2011-03-16 上海无戒空间信息技术有限公司 使用手势对象控制计算机的方法及相应的计算机***
JP2012022639A (ja) 2010-07-16 2012-02-02 Ntt Docomo Inc 表示装置、映像表示システムおよび映像表示方法
US9021402B1 (en) 2010-09-24 2015-04-28 Google Inc. Operation of mobile device interface using gestures
US8957909B2 (en) 2010-10-07 2015-02-17 Sensor Platforms, Inc. System and method for compensating for drift in a display of a user interface state
US9223471B2 (en) 2010-12-28 2015-12-29 Microsoft Technology Licensing, Llc Touch screen control
US8911165B2 (en) 2011-01-24 2014-12-16 5 Examples, Inc. Overloaded typing apparatuses, and related devices, systems, and methods
JP5536690B2 (ja) * 2011-02-10 2014-07-02 シャープ株式会社 タッチ描画表示装置及びその操作方法
US20120216113A1 (en) * 2011-02-18 2012-08-23 Google Inc. Touch gestures for text-entry operations
US20120216152A1 (en) * 2011-02-23 2012-08-23 Google Inc. Touch gestures for remote control operations
US9134899B2 (en) 2011-03-14 2015-09-15 Microsoft Technology Licensing, Llc Touch gesture indicating a scroll on a touch-sensitive display in a single direction
US8719695B2 (en) 2011-05-31 2014-05-06 Apple Inc. Devices, methods, and graphical user interfaces for document manipulation
US20130093719A1 (en) 2011-10-17 2013-04-18 Sony Mobile Communications Japan, Inc. Information processing apparatus
US8478777B2 (en) * 2011-10-25 2013-07-02 Google Inc. Gesture-based search
KR101873741B1 (ko) * 2011-10-26 2018-07-03 엘지전자 주식회사 휴대 단말기 및 그 제어 방법
KR20130075849A (ko) * 2011-12-28 2013-07-08 삼성전자주식회사 디스플레이 장치 및 이를 이용한 영상 표시 방법
US9459276B2 (en) 2012-01-06 2016-10-04 Sensor Platforms, Inc. System and method for device self-calibration
US9316513B2 (en) 2012-01-08 2016-04-19 Sensor Platforms, Inc. System and method for calibrating sensors for different operating environments
US20130227460A1 (en) * 2012-02-27 2013-08-29 Bjorn David Jawerth Data entry system controllers for receiving user input line traces relative to user interfaces to determine ordered actions, and related systems and methods
US8504842B1 (en) 2012-03-23 2013-08-06 Google Inc. Alternative unlocking patterns
US9228842B2 (en) 2012-03-25 2016-01-05 Sensor Platforms, Inc. System and method for determining a uniform external magnetic field
KR20140008987A (ko) * 2012-07-13 2014-01-22 삼성전자주식회사 필기 이미지 인식을 이용한 어플리케이션 제어 방법 및 장치
CN104246680B (zh) * 2012-07-24 2018-04-10 慧与发展有限责任合伙企业 发起帮助特征
JP2014032632A (ja) * 2012-08-06 2014-02-20 Toshiba Corp 電子機器、方法、およびプログラム
US9792038B2 (en) * 2012-08-17 2017-10-17 Microsoft Technology Licensing, Llc Feedback via an input device and scribble recognition
US9020845B2 (en) * 2012-09-25 2015-04-28 Alexander Hieronymous Marlowe System and method for enhanced shopping, preference, profile and survey data input and gathering
KR102210278B1 (ko) * 2012-12-06 2021-02-02 삼성전자주식회사 디스플레이 장치 및 제어 방법
US11269431B2 (en) * 2013-06-19 2022-03-08 Nokia Technologies Oy Electronic-scribed input
US9811238B2 (en) 2013-08-29 2017-11-07 Sharp Laboratories Of America, Inc. Methods and systems for interacting with a digital marking surface
WO2015141260A1 (ja) * 2014-03-17 2015-09-24 株式会社河合楽器製作所 手書き音楽記号認識装置およびプログラム
JP5801920B2 (ja) * 2014-04-23 2015-10-28 シャープ株式会社 タッチ描画表示装置及びその操作方法
US20160048318A1 (en) * 2014-08-15 2016-02-18 Microsoft Technology Licensing, Llc Detecting selection of digital ink
US20160154555A1 (en) * 2014-12-02 2016-06-02 Lenovo (Singapore) Pte. Ltd. Initiating application and performing function based on input
US9338627B1 (en) 2015-01-28 2016-05-10 Arati P Singh Portable device for indicating emergency events
US9965445B2 (en) * 2015-08-06 2018-05-08 FiftyThree, Inc. Systems and methods for gesture-based formatting
US10402734B2 (en) 2015-08-26 2019-09-03 Google Llc Temporal based word segmentation
US10210383B2 (en) 2015-09-03 2019-02-19 Microsoft Technology Licensing, Llc Interacting with an assistant component based on captured stroke information
US20170068436A1 (en) * 2015-09-03 2017-03-09 Microsoft Technology Licensing, Llc Interpreting and Supplementing Captured Stroke Information
US10387034B2 (en) 2015-09-03 2019-08-20 Microsoft Technology Licensing, Llc Modifying captured stroke information into an actionable form
US11500535B2 (en) * 2015-10-29 2022-11-15 Lenovo (Singapore) Pte. Ltd. Two stroke quick input selection
US11402991B2 (en) * 2015-12-01 2022-08-02 Myscript System and method for note taking with gestures
US10755029B1 (en) 2016-01-05 2020-08-25 Quirklogic, Inc. Evaluating and formatting handwritten input in a cell of a virtual canvas
US10324618B1 (en) * 2016-01-05 2019-06-18 Quirklogic, Inc. System and method for formatting and manipulating digital ink
US20170285931A1 (en) 2016-03-29 2017-10-05 Microsoft Technology Licensing, Llc Operating visual user interface controls with ink commands
US11577159B2 (en) 2016-05-26 2023-02-14 Electronic Scripting Products Inc. Realistic virtual/augmented/mixed reality viewing and interactions
CN111610858B (zh) * 2016-10-26 2023-09-19 创新先进技术有限公司 基于虚拟现实的交互方法及装置
JP6807248B2 (ja) * 2017-02-24 2021-01-06 株式会社東芝 表示制御装置及び表示制御プログラム
US10429954B2 (en) 2017-05-31 2019-10-01 Microsoft Technology Licensing, Llc Multi-stroke smart ink gesture language
TWI660292B (zh) * 2018-05-16 2019-05-21 群光電子股份有限公司 游標移動輔助系統及方法
US10872199B2 (en) * 2018-05-26 2020-12-22 Microsoft Technology Licensing, Llc Mapping a gesture and/or electronic pen attribute(s) to an advanced productivity action
JP7102996B2 (ja) * 2018-07-10 2022-07-20 富士通株式会社 プログラム、情報処理装置及び筆跡入力判定方法
CN112639700A (zh) * 2018-11-19 2021-04-09 深圳市柔宇科技股份有限公司 手写笔迹处理方法、手写输入设备及计算机可读存储介质
US11379113B2 (en) 2019-06-01 2022-07-05 Apple Inc. Techniques for selecting text
JP7259828B2 (ja) * 2019-11-20 2023-04-18 株式会社リコー 表示装置、表示方法、プログラム
US11531454B2 (en) * 2020-12-10 2022-12-20 Microsoft Technology Licensing, Llc Selecting content in ink documents using a hierarchical data structure
US11587346B2 (en) 2020-12-10 2023-02-21 Microsoft Technology Licensing, Llc Detecting ink gestures based on spatial and image data processing
US20230315271A1 (en) * 2022-03-18 2023-10-05 Sony Group Corporation Collaborative whiteboard for meetings

Family Cites Families (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5369737A (en) * 1988-03-21 1994-11-29 Digital Equipment Corporation Normalization of vectors associated with a display pixels of computer generated images
AU624838B2 (en) * 1988-05-27 1992-06-25 Global 360, Inc. Document annotation and manipulation in a data processing system
US5252951A (en) * 1989-04-28 1993-10-12 International Business Machines Corporation Graphical user interface with gesture recognition in a multiapplication environment
US5946406A (en) 1991-06-17 1999-08-31 Microsoft Corporation Method and system for data entry of handwritten symbols
US5583542A (en) * 1992-05-26 1996-12-10 Apple Computer, Incorporated Method for deleting objects on a computer display
US5880411A (en) * 1992-06-08 1999-03-09 Synaptics, Incorporated Object position detector with edge motion feature and gesture recognition
US5481278A (en) 1992-10-21 1996-01-02 Sharp Kabushiki Kaisha Information processing apparatus
US5752059A (en) * 1992-12-29 1998-05-12 Apple Computer, Inc. Apparatus and method for representing electronic mail
US5502803A (en) * 1993-01-18 1996-03-26 Sharp Kabushiki Kaisha Information processing apparatus having a gesture editing function
US5920694A (en) 1993-03-19 1999-07-06 Ncr Corporation Annotation of computer video displays
US5517578A (en) 1993-05-20 1996-05-14 Aha! Software Corporation Method and apparatus for grouping and manipulating electronic representations of handwriting, printing and drawings
US5367453A (en) 1993-08-02 1994-11-22 Apple Computer, Inc. Method and apparatus for correcting words
JPH07114621A (ja) * 1993-10-15 1995-05-02 Hitachi Ltd ジェスチャ認識方法およびそれを用いたジェスチャ認識装置
US5687254A (en) 1994-06-06 1997-11-11 Xerox Corporation Searching and Matching unrecognized handwriting
JP3486459B2 (ja) * 1994-06-21 2004-01-13 キヤノン株式会社 電子情報機器及びその制御方法
US5666438A (en) * 1994-07-29 1997-09-09 Apple Computer, Inc. Method and apparatus for recognizing handwriting of different users of a pen-based computer system
US5880743A (en) * 1995-01-24 1999-03-09 Xerox Corporation Apparatus and method for implementing visual animation illustrating results of interactive editing operations
US5764797A (en) * 1995-04-25 1998-06-09 Microsoft Corporation Method and system for modeling handwriting using polynomials as a function of time
US6049329A (en) 1996-06-04 2000-04-11 International Business Machines Corporartion Method of and system for facilitating user input into a small GUI window using a stylus
GB2317090B (en) 1996-09-06 2001-04-04 Quantel Ltd An electronic graphic system
JPH1174929A (ja) * 1997-08-29 1999-03-16 Sharp Corp 電子メール処理方法及び電子メール処理プログラムを記録したコンピュータ読み取り可能な記録媒体
JPH1186016A (ja) * 1997-09-09 1999-03-30 Canon Inc 情報処理方法及び装置及びその記憶媒体
US6072494A (en) * 1997-10-15 2000-06-06 Electric Planet, Inc. Method and apparatus for real-time gesture recognition
JPH11327789A (ja) 1998-03-12 1999-11-30 Ricoh Co Ltd カラー表示装置および電子黒板システム
EP0980038A3 (en) * 1998-08-13 2002-11-20 Motorola, Inc. Device and method simultaneously presenting text and handwritten characters in a common area of a user interface
JP3475235B2 (ja) * 1999-03-08 2003-12-08 東京農工大学長 表示装置の表示内容制御方法
US6671405B1 (en) * 1999-12-14 2003-12-30 Eastman Kodak Company Method for automatic assessment of emphasis and appeal in consumer images
JP2001202174A (ja) * 2000-01-21 2001-07-27 Canon Inc 画像表示装置、方法および記憶媒体
US6771254B2 (en) * 2000-11-10 2004-08-03 Microsoft Corporation Stylus nibs for providing a pen-and-paper feel for use with a tablet-and-stylus computer
US6826316B2 (en) * 2001-01-24 2004-11-30 Eastman Kodak Company System and method for determining image similarity
JP4102105B2 (ja) * 2002-05-24 2008-06-18 株式会社日立製作所 電子ペンを利用した書類記入システム

Also Published As

Publication number Publication date
EP1335272A3 (en) 2004-08-04
JP2008305437A (ja) 2008-12-18
US7536656B2 (en) 2009-05-19
EP1335272A2 (en) 2003-08-13
US20030156145A1 (en) 2003-08-21
US20050229117A1 (en) 2005-10-13
JP2003308482A (ja) 2003-10-31
US7305630B2 (en) 2007-12-04
US20050111736A1 (en) 2005-05-26
US6938222B2 (en) 2005-08-30
CN100336053C (zh) 2007-09-05
CN1437136A (zh) 2003-08-20
JP4694606B2 (ja) 2011-06-08
TW200302977A (en) 2003-08-16

Similar Documents

Publication Publication Date Title
TWI303377B (en) Method for determining,and system for implementing,ink gestures
US10228839B2 (en) Auto-scrolling input in a dual-display computing device
US7614019B2 (en) Asynchronous and synchronous gesture recognition
JP4560062B2 (ja) 筆跡判定装置、方法およびプログラム
US7848573B2 (en) Scaled text replacement of ink
JP4295602B2 (ja) 言語をペン先idに関連付ける方法、入力デバイスを使用して電子インクを処理装置に入力する方法および電子インクを受け取るための装置
US7825922B2 (en) Temporary lines for writing
JP6902234B2 (ja) 文字列に文字を挿入するための方法および対応するデジタルデバイス
JP2019507915A (ja) ジェスチャを用いたノートテイキングのための装置および方法
JP6820919B2 (ja) 手書きされた図コネクタの認識のためのシステム及び方法
US20180121074A1 (en) Freehand table manipulation
JP2010020795A (ja) インクとのインターフェース
KR20180100207A (ko) 디지털 잉크 상호작용을 위한 시스템 및 방법
US7689927B2 (en) Viewable document section
KR20180119646A (ko) 문자열에 문자 삽입을 위한 방법 및 시스템
CN102566812B (zh) 一种手写记事本的实现方法及装置
Tian et al. An exploration of pen tail gestures for interactions
WO2014119012A1 (ja) 電子機器および手書き文書検索方法
JP4148867B2 (ja) 筆跡処理装置
CN106997266A (zh) 用于双笔划快速输入选择的方法和电子装置

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees