JP7319297B2 - 入力システム - Google Patents

入力システム Download PDF

Info

Publication number
JP7319297B2
JP7319297B2 JP2020561998A JP2020561998A JP7319297B2 JP 7319297 B2 JP7319297 B2 JP 7319297B2 JP 2020561998 A JP2020561998 A JP 2020561998A JP 2020561998 A JP2020561998 A JP 2020561998A JP 7319297 B2 JP7319297 B2 JP 7319297B2
Authority
JP
Japan
Prior art keywords
display
signal
host processor
controller
signal path
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020561998A
Other languages
English (en)
Other versions
JPWO2020136729A1 (ja
Inventor
寛 宮澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Wacom Co Ltd
Original Assignee
Wacom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Wacom Co Ltd filed Critical Wacom Co Ltd
Publication of JPWO2020136729A1 publication Critical patent/JPWO2020136729A1/ja
Priority to JP2023117976A priority Critical patent/JP2023126598A/ja
Application granted granted Critical
Publication of JP7319297B2 publication Critical patent/JP7319297B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/04162Control or interface arrangements specially adapted for digitisers for exchanging data with external devices, e.g. smart pens, via the digitiser sensing hardware
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/602Providing cryptographic facilities or services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545Pens or stylus
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/203Drawing of straight lines or curves
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/10Protecting distributed programs or content, e.g. vending or licensing of copyrighted material ; Digital rights management [DRM]
    • G06F21/16Program or content traceability, e.g. by watermarking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/64Protecting data integrity, e.g. using checksums, certificates or signatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/82Protecting input, output or interconnection devices
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2358/00Arrangements for display data security

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Technology Law (AREA)
  • Position Input By Displaying (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、タッチパネルディスプレイを用いた入力システムに関する。
特許文献1には、タッチパネルディスプレイを備える電子機器と、外部サーバとの間でTLS(Transport Layer Security)接続を確立し、秘匿情報を含むデータをセキュアに通信する方法が開示されている。
特開2018-038036号公報
ところが、電子機器のホストプロセッサが、タッチパネルディスプレイからの入力データに対して処理を行う際に、ホストプロセッサを経由することに起因する、何らかの技術上又は運用上の不都合が生じる場合がある。
本発明の目的は、ホストプロセッサのデータ処理に起因して発生する特定の不都合を改善可能な入力システムを提供することである。
第1の本発明における入力システムは、ユーザによる指示位置を検出するセンサ電極を表示パネルの表示領域に設けてなるタッチパネルディスプレイを用いたシステムであって、前記センサ電極の検出結果に基づいて前記表示領域内の指示位置を取得するセンサコントローラと、前記センサコントローラにより取得された前記指示位置を含むデータ信号を処理するホストプロセッサと、画像又は映像を示す表示信号を前記表示パネルに向けて出力する表示コントローラと、前記センサコントローラから前記ホストプロセッサを経由して前記表示コントローラに信号を伝送する第1信号経路と、前記センサコントローラから前記ホストプロセッサを経由せずに前記表示コントローラに信号を伝送する第2信号経路と、前記第1信号経路及び前記第2信号経路を切り替え可能に構成されるスイッチ部と、を備える。
第2の本発明における入力システムは、ユーザによる指示位置を検出するセンサ電極を表示パネルの表示領域に設けてなるタッチパネルディスプレイを用いたシステムであって、前記指示位置を含むデータ信号を処理するホストプロセッサと、前記ホストプロセッサに接続され、かつ画像又は映像を示す表示信号を前記表示パネルに向けて出力する表示コントローラと、前記センサ電極の検出結果に基づいて前記表示領域内の指示位置を取得するセンサコントローラと、を備え、前記センサコントローラは、前記ホストプロセッサに物理的又は論理的に接続されているとともに、前記表示コントローラに物理的に接続されている。
本発明における入力システムによれば、ホストプロセッサのデータ処理に起因して発生する特定の不都合が改善される。
本発明の各実施形態に共通する入力システムの全体構成図である。 第1実施形態における入力システムの接続構成図である。 図2に対応する機能ブロック図である。 第2実施形態における入力システムの接続構成図である。 図4に対応する機能ブロック図である。 第3実施形態における入力システムの接続構成図である。 図6に対応する機能ブロック図である。 第1出力モードの実行時におけるシーケンス図である。 補間処理の一例を示す図である。 スタイラスの操作に伴う表示画像の遷移図である。 第2出力モードの実行時におけるシーケンス図である。 図3,図5,図7に示す部分画像生成部の詳細な機能ブロック図である。 スタイラスの高速移動に対する書き込み追従性を比較する図である。 追加処理による効果の一例を示す図である。 追加処理による効果の一例を示す図である。 図1に示す入力システムが組み込まれたサイン検証システムの全体構成図である。
以下、本発明における入力システムについて、添付の図面を参照しながら説明する。なお、本発明は、後述する実施形態及び変形例に限定されるものではなく、この発明の主旨を逸脱しない範囲で自由に変更できることは勿論である。あるいは、技術的に矛盾が生じない範囲で各々の構成を任意に組み合わせてもよい。
[入力システム10の構成]
<全体構成>
図1は、本発明の各実施形態に共通する入力システム10の全体構成図である。入力システム10は、タッチパネルディスプレイ12を有する電子機器14と、ペン型のポインティングデバイスであるスタイラス16と、から基本的に構成される。
電子機器14は、例えば、タブレット型端末、スマートフォン、パーソナルコンピュータで構成される。スタイラス16は、電子機器14との間で一方向又は双方向に通信可能に構成されている。ユーザは、スタイラス16を片手で把持し、タッチパネルディスプレイ12のタッチ面にペン先を押し当てながら移動させることで、電子機器14に絵や文字を書き込むことができる。
電子機器14は、タッチパネルディスプレイ12の他に、センサコントローラ18と、表示コントローラ20と、ホストプロセッサ22と、メモリ24と、通信モジュール26と、を含んで構成される。
タッチパネルディスプレイ12は、コンテンツを可視的に表示可能な表示パネル28と、表示パネル28の上方に配置されるセンサ電極30と、を含んで構成される。表示パネル28は、モノクロ画像又はカラー画像を表示可能であり、例えば、液晶パネル、有機EL(Electro-Luminescence)パネルであってもよい。センサ電極30は、センサ座標系のX軸の位置を検出するための複数のXライン電極と、Y軸の位置を検出するための複数のYライン電極と、を備える。
センサコントローラ18は、センサ電極30の駆動制御を行う集積回路である。センサコントローラ18は、ホストプロセッサ22から供給された制御信号に基づいてセンサ電極30を駆動する。これにより、センサコントローラ18は、スタイラス16の状態を検出する「ペン検出機能」や、ユーザの指などによるタッチを検出する「タッチ検出機能」を実行する。
このペン検出機能は、例えば、センサ電極30のスキャン機能、ダウンリンク信号の受信・解析機能、スタイラス16の状態(例えば、位置、姿勢、筆圧)の推定機能、スタイラス16に対する指令を含むアップリンク信号の生成・送信機能を含む。また、タッチ検出機能は、例えば、センサ電極30の二次元スキャン機能、センサ電極30上の検出マップの取得機能、検出マップ上の領域分類機能(例えば、指、手の平などの分類)を含む。
表示コントローラ20は、表示パネル28の駆動制御を行う集積回路である。表示コントローラ20は、ホストプロセッサ22から供給されたフレーム単位の画像信号に基づいて表示パネル28を駆動する。これにより、表示パネル28の表示領域R内に画像又は映像が表示される。この画像又は映像には、アプリケーションウィンドウ、アイコン、カーソルの他にも、ユーザがスタイラス16を用いて書き込んだ筆記線が含まれ得る。
このように、スタイラス16及びセンサ電極30による入力機能と、表示パネル28による出力機能を組み合わせることで、ユーザ・インターフェース(以下、UI部32)が構築される。
ホストプロセッサ22は、CPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)を含む処理演算装置によって構成される。ホストプロセッサ22は、メモリ24に格納されたプログラムを読み出して実行することで、デジタルインクの生成、画像信号の作成、データの送受信制御を含む様々な機能を実行可能である。
後述するように、この入力システム10は、センサコントローラ18が、ホストプロセッサ22に物理的又は論理的に接続されているとともに、表示コントローラ20に物理的に接続されている点において技術的な特徴を有する。
メモリ24は、非一過性であり、かつ、コンピュータ読み取り可能な記憶媒体で構成されている。ここで、コンピュータ読み取り可能な記憶媒体は、ハードディスクドライブ(HDD:Hard Disk Drive)、ソリッドステートドライブ(SSD:Solid State Drive)を含む記憶装置、あるいは、光磁気ディスク、ROM、CD-ROM、フラッシュメモリ等の可搬媒体である。
通信モジュール26は、有線通信又は無線通信により、外部装置に対して電気信号を送受信可能に構成される。これにより、電子機器14は、例えば、検証サーバ122(図16)との間で様々なデータのやり取りが可能となる。
続いて、図1における入力システム10の第1~第3実施形態について、図2~図7を参照しながら説明する。いずれの図も、主要部であるセンサコントローラ18、表示コントローラ20、ホストプロセッサ22、表示パネル28及びセンサ電極30のみが図示され、他の構成要素が省略されている点に留意する。
<第1実施形態>
図2は、第1実施形態における入力システム10Aの接続構成図である。第1実施形態におけるセンサコントローラ18は、表示コントローラ20と物理的に接続され、かつデータ信号の出力先をホストプロセッサ22又は表示コントローラ20のいずれか一方に切り替え可能に構成される。
具体的には、センサコントローラ18、表示コントローラ20及びホストプロセッサ22が、信号線L1~L3によって物理的に接続されている。センサコントローラ18は、信号線L1を介してホストプロセッサ22に接続されている。ホストプロセッサ22は、信号線L2を介して表示コントローラ20に接続されている。センサコントローラ18は、信号線L3を介して表示コントローラ20に接続されている。例えば、信号線L1,L3はUSB(Universal Serial Bus)に対応可能な信号線であり、信号線L2はLVDS(Low Voltage Differential Signaling)に対応可能な信号線である。
つまり、信号線L1,L2は、センサコントローラ18からホストプロセッサ22を経由して表示コントローラ20に信号を伝送する第1信号経路SP1を構成する。一方、信号線L3は、センサコントローラ18からホストプロセッサ22を経由せずに表示コントローラ20に信号を伝送する第2信号経路SP2を構成する。
図3は、図2に対応する機能ブロック図である。センサコントローラ18は、位置検出部40と、出力選択部42(スイッチ部)として機能する。ホストプロセッサ22は、モード制御部44と、データ処理部46として機能する。表示コントローラ20は、2種類の出力処理部50,52として機能する。
出力処理部50は、表示パネル28に向けて表示信号を出力するための出力処理を実行可能に構成される。具体的には、出力処理部50は、部分画像生成部54と、追加処理部56と、画像合成部58と、信号生成部60と、を含んで構成される。なお、追加処理部56は、その有無が選択可能な機能部である。
出力処理部52は、ホストプロセッサ22に向けてデータ信号を出力するための出力処理を実行可能に構成される。具体的には、出力処理部52は、記憶部62と、追加処理部64と、を含んで構成される。なお、追加処理部64は、その有無が選択可能な機能部である。
<第2実施形態>
図4は、第2実施形態における入力システム10Bの接続構成図である。第2実施形態における入力システム10Bは、1つの入力端子及び2つの出力端子を有する物理スイッチ66(スイッチ部)をさらに備える。
具体的には、センサコントローラ18、表示コントローラ20、ホストプロセッサ22及び物理スイッチ66が、信号線L4~L8によって物理的に接続されている。センサコントローラ18は、信号線L4を介して物理スイッチ66の入力端子に接続されている。物理スイッチ66の一方の出力端子は、信号線L5を介してホストプロセッサ22に接続されている。ホストプロセッサ22は、信号線L6を介して表示コントローラ20に接続されている。物理スイッチ66の他方の出力端子は、信号線L7を介して表示コントローラ20に接続されている。なお、信号線L8は、ホストプロセッサ22が、物理スイッチ66に対してスイッチ信号を供給するための信号線である。例えば、信号線L4,L5,L7はUSBに対応可能な信号線であり、信号線L6はLVDSに対応可能な信号線である。
つまり、信号線L4,L5,L6は、センサコントローラ18からホストプロセッサ22を経由して表示コントローラ20に信号を伝送する第1信号経路SP1を構成する。一方、信号線L4,L7は、センサコントローラ18からホストプロセッサ22を経由せずに表示コントローラ20に信号を伝送する第2信号経路SP2を構成する。
図5は、図4に対応する機能ブロック図である。センサコントローラ18は、位置検出部40として機能する。ホストプロセッサ22は、モード制御部44と、データ処理部46として機能する。表示コントローラ20は、2種類の出力処理部50,52として機能する。図3及び図5から理解されるように、この入力システム10Bは、センサコントローラ18が出力選択部42(図3参照)の機能を欠く代わりに、センサコントローラ18の出力側に物理スイッチ66が設けられている点で、第1実施形態の入力システム10Aとは異なる構成を有する。
<第3実施形態>
図6は、第3実施形態における入力システム10Cの接続構成図である。第3実施形態における表示コントローラ20は、センサコントローラ18に論理的に接続され、かつセンサコントローラ18からのデータ信号をパススルー伝送によってホストプロセッサ22に供給するか否かを切り替え可能に構成される。
具体的には、センサコントローラ18、表示コントローラ20及びホストプロセッサ22が、信号線L9~L11によって物理的に接続されている。センサコントローラ18は、信号線L9を介して表示コントローラ20に接続されている。表示コントローラ20は、信号線L10を介してホストプロセッサ22に接続されている。ホストプロセッサ22は、信号線L11を介して表示コントローラ20に接続されている。例えば、信号線L9,L10はUSBに対応可能な信号線であり、信号線L11はLVDSに対応可能な信号線である。
つまり、信号線L9,L10,L11は、センサコントローラ18からホストプロセッサ22を経由して表示コントローラ20に信号を伝送する第1信号経路SP1を構成する。一方、信号線L9は、センサコントローラ18からホストプロセッサ22を経由せずに表示コントローラ20に信号を伝送する第2信号経路SP2を構成する。
図7は、図6に対応する機能ブロック図である。センサコントローラ18は、位置検出部40として機能する。ホストプロセッサ22は、モード制御部44と、データ処理部46として機能する。表示コントローラ20は、2種類の出力処理部50,52と、論理スイッチ68として機能する。図3及び図7から理解されるように、この入力システム10Cは、センサコントローラ18が出力選択部42(図3参照)の機能を欠く代わりに、センサコントローラ18が論理スイッチ68の機能を備える点で、第1実施形態の入力システム10Aとは異なる構成を有する。
[入力システム10の動作]
各実施形態における入力システム10は、以上のように構成される。続いて、入力システム10の動作について、図8~図13を参照しながら説明する。ホストプロセッサ22のモード制御部44は、第1信号経路SP1を用いて信号処理を行う「第1出力モード」と、第2信号経路SP2を用いて信号処理を行う「第2出力モード」を切り替えて実行する。
なお、上記した入力システム10A,10B,10Cはいずれも、ホストプロセッサ22にモード制御部44の機能を設けているが、これに代えて、センサコントローラ18又は表示コントローラ20に当該機能を設けてもよい。
<第1出力モード>
図8は、第1出力モードの実行時におけるシーケンス図である。本図は、左から右にわたって順に、センサコントローラ18、ホストプロセッサ22及び表示コントローラ20の動作を示している。
ステップS01において、ホストプロセッサ22は、スタイラス16の指示位置を含む筆記データを要求するための信号(以下、要求信号ともいう)をセンサコントローラ18に向けて出力する。
ステップS02において、センサコントローラ18の位置検出部40は、ステップS01で供給された要求信号を受け付けた後、ユーザによる現在の指示位置を検出するため、センサ電極30の駆動制御を行う。これにより、センサコントローラ18は、表示パネル28の表示領域R内に定義されるセンサ座標系上の位置を取得する。
ステップS03において、センサコントローラ18は、ステップS02で検出された指示位置を含むデータ信号をホストプロセッサ22に向けて出力する。この出力に先立ち、例えば、図2,図3の入力システム10Aの場合、センサコントローラ18の出力選択部42は、データ信号の出力先をホストプロセッサ22に切り替えておく。また、図4,図5の入力システム10Bの場合、物理スイッチ66の出力端子をホストプロセッサ22に切り替えておく。また、図6,図7の入力システム10Cの場合、表示コントローラ20の論理スイッチ68を「オン」に切り替えておく。
この切り替え動作により、センサコントローラ18は、自身が生成したデータ信号をホストプロセッサ22に向けて選択的に出力可能となる。なお、このデータ信号には、スタイラス16の筆記状態に関する情報(以下、筆記情報)や、ユーザの筆記に関わるメタ情報などの各種情報が含まれてもよい。筆記情報の一例として、現在の指示位置、筆圧、ペン傾きなどが挙げられる。また、メタ情報の一例として、ペンID、データの属性、作成者、作成日時などが挙げられる。
ステップS04において、ホストプロセッサ22のデータ処理部46は、ステップS3で供給されたデータ信号から指示位置を含む筆記データを取得し、得られた現在の指示位置を用いて軌跡曲線80を更新する補間処理を行う。以下、この補間処理について図9を参照しながら詳細に説明する。
図9は、補間処理の一例を模式的に示す図である。より詳しくは、図9(a)は補間処理前の軌跡曲線80の形状を示すとともに、図9(b)は補間処理後の軌跡曲線80の形状を示している。なお、X-Y座標系は、センサ電極30の検出位置、すなわち表示パネル28上の指示位置を特定するための「センサ座標系」に相当する。
図9(a)に示す軌跡曲線80は、過去の指示位置である離散点P1,P2,P3を順次繋いだ曲線である。例えば、前回の指示位置である離散点P3の次に、今回の指示位置である離散点P4が追加されたとする。ここで、データ処理部46は、リニア補間、スプライン補間を含む様々な手法を用いて、離散点P3,P4を連続的に繋ぐ補間処理を行う。そうすると、図9(b)に示すように、離散点P1,P2,P3を通る元の軌跡曲線82と、離散点P3,P4を通る補間曲線84を組み合わせた新たな軌跡曲線80が形成される。
そして、データ処理部46は、上記した補間処理により形成されたストローク90(図10(b)参照)の集合を示すストローク画像と、当該ストローク画像を除く非筆記画像(例えば、アプリケーションウィンドウ、ウィジェット、カーソル、アイコンなど)を合成することで、フレーム単位の画像信号を生成する。
図8のステップS05において、ホストプロセッサ22は、ステップS04で生成された画像信号を表示コントローラ20に向けて出力する。
ステップS06において、表示コントローラ20の出力処理部50(より詳しくは、信号生成部60)は、ステップS05で供給された画像信号を用いて、表示パネル28を駆動制御するための表示信号を生成する。第1出力モードでは、信号生成部60は、画像合成部58をそのまま通過した画像信号を用いて表示信号を生成する。
ステップS07において、出力処理部50は、ステップS06で生成された表示信号を表示パネル28に向けて出力する。これにより、表示パネル28の表示領域R内に、ストローク画像を含む全体画像が表示される。以下、入力システム10は、1フレーム分の時間おきにステップS01~S07を順次繰り返す。
図10は、スタイラス16の操作に伴う表示画像の遷移図である。より詳しくは、図10(a)はスタイラス16の静止状態を、図10(b)はスタイラス16の移動状態をそれぞれ示している。
図10(a)に示すように、スタイラス16の静止状態において、表示領域R内には、ペン先86に対応する位置にカーソル88が表示される。ユーザは、電子機器14のタッチ面にペン先86を押し付けた状態にてスタイラス16を移動させる。その結果、図10(b)に示すように、スタイラス16のペン先86に追従して画像又は映像が逐次更新される。具体的には、スタイラス16の移動経路に沿って、カーソル88が移動するとともに、指示位置の軌跡に相当するストローク90が延びるように出現する。
図8のステップS08において、ホストプロセッサ22のデータ処理部46は、所定の処理タイミングに至った場合、センサコントローラ18から逐次取得した筆記データに対して様々な処理を行う。この処理の一例として、デジタルインクを生成する処理や、通信モジュール26を介してデータを送信する処理が挙げられる。このようにして、入力システム10は、第1出力モードに応じた動作を終了する。
<第2出力モード>
ところで、電子機器14のホストプロセッサ22が、タッチパネルディスプレイ12からの入力データに対して処理を行う際に、ホストプロセッサ22を経由することに起因する、何らかの技術上又は運用上の不都合が生じる場合がある。そこで、ホストプロセッサ22のモード制御部44は、必要に応じて第1出力モードから第2出力モードに切り替えることで特定の不都合を改善することができる。
図11は、第2出力モードの実行時におけるシーケンス図である。本図は、図8と同様に、左から右にわたって順に、センサコントローラ18、ホストプロセッサ22及び表示コントローラ20の動作を示している。
ステップS11において、ホストプロセッサ22は、第1出力モードから第2出力モードに移行する旨の指令信号を受け付ける。なお、この指令信号の発生トリガについては後述する。
ステップS12において、ホストプロセッサ22は、第2出力モードの動作に関与する各部に向けて、第2出力モードの実行開始を示すフラグ信号を出力する。例えば、図2,図3の入力システム10Aの場合、フラグ信号の出力先は、センサコントローラ18及び表示コントローラ20である。また、図4,図5の入力システム10Bの場合、フラグ信号の出力先は、表示コントローラ20及び物理スイッチ66である。また、図6,図7の入力システム10Cの場合、フラグ信号の出力先は、表示コントローラ20である。
ステップS13において、ホストプロセッサ22のデータ処理部46は、フレーム単位の全体画像Iorg(図12)を示す画像信号を生成し、当該画像信号を表示コントローラ20に向けて出力する。なお、第2出力モードに切り替わる直前まで筆記入力が行われていた場合、データ処理部46は、最後に更新されたストローク画像を用いて画像信号を生成する点に留意する。
ステップS14において、ホストプロセッサ22は、スタイラス16の指示位置を含む筆記データを要求するための要求信号をセンサコントローラ18に向けて出力する。この動作は、図8のステップS01と同様の動作である。
ステップS15において、センサコントローラ18の位置検出部40は、ステップS14で供給された要求信号を受け付けた後、ユーザによる現在の指示位置を検出するための動作を行う。この動作は、図8のステップS02と同様の動作である。
ステップS16において、センサコントローラ18は、ステップS15で検出された現在の指示位置を含むデータ信号を表示コントローラ20に向けて出力する。この出力に先立ち、例えば、図2,図3の入力システム10Aの場合、センサコントローラ18の出力選択部42は、データ信号の出力先を表示コントローラ20に切り替えておく。また、図4,図5の入力システム10Bの場合、物理スイッチ66の出力端子を表示コントローラ20に切り替えておく。また、図6,図7の入力システム10Cの場合、表示コントローラ20の論理スイッチ68を「オフ」に切り替えておく。
この切り替え動作により、センサコントローラ18は、自身が生成したデータ信号を表示コントローラ20に向けて選択的に出力可能となる。なお、このデータ信号は、第1出力モードの場合と同じ種類の情報(例えば、上記した筆記情報やメタ情報)が含まれてもよいし、異なる種類の情報が含まれてもよい。
ステップS17において、表示コントローラ20の出力処理部50(より詳しくは、部分画像生成部54)は、ステップS16で供給されたデータ信号から指示位置を含む筆記データを取得し、得られた現在の指示位置を用いて部分画像Iparを生成する。以下、この生成方法について図12を参照しながら詳細に説明する。
図12は、図3,図5,図7に示す部分画像生成部54の詳細な機能ブロック図である。この部分画像生成部54は、補間処理を行う補間器92と、複数の小画像を結合する結合器94と、を備える。
補間器92は、指示位置の時系列を用いて2つの離散点を連続的に繋ぐことで、2点間の補間曲線を示す小画像(以下、差分画像Isubという)を生成する。この差分画像Isubは、ストローク画像同士の差分を意味し、図9(b)の例では、離散点P3,P4を通る補間曲線84を示す画像に相当する。
結合器94は、補間器92から供給される差分画像Isubを逐次結合し、補間曲線の集合体を示す中画像(以下、部分画像Iparという)を生成する。この部分画像Iparは、図9(b)の例では、離散点P1~P4をすべて繋いだ後の軌跡曲線80を示す画像に相当する。生成された後の部分画像Iparは、画像合成部58に供給されるとともに、結合器94にフィードバックされる。
このようにして、部分画像生成部54は、少なくとも現在の指示位置を含む部分画像Iparを生成し、この部分画像Iparを画像合成部58に向けて出力する(ステップS17)。
図11のステップS18において、出力処理部50(より詳しくは、画像合成部58)は、ステップS13で供給された全体画像Iorgと、ステップS17で生成された部分画像Iparを合成する。具体的には、画像合成部58は、ホストプロセッサ22から一回的又は逐次的に供給される全体画像Iorgの対応領域の画像を部分画像Iparに置換することで、加工済み画像Iprcを生成する(図12参照)。あるいは、画像合成部58は、全体画像Iorgを用いる代わりに、部分画像Iparに対して残りの表示領域を埋めるパディング処理を施すことで加工済み画像Iprcを生成してもよい。
ステップS19において、表示コントローラ20は、ステップS18で合成された加工済み画像Iprcを示す画像信号から表示信号を生成し、得られた表示信号を表示パネル28に向けて出力する。この動作は、図8のステップS06,07と同様の動作である。これにより、表示パネル28の表示領域R内に、ストローク画像を含む加工済み画像Iprcが表示される。
以下、入力システム10は、1フレーム分の時間おきにステップS13~S19を順次繰り返す。なお、全体画像Iorgを逐次的に更新しない場合、表示コントローラ20が1フレーム分の画像信号を記憶しておくことで、2回目以降のステップS13を省略することができる。
図13は、スタイラス16の高速移動に対する書き込み追従性を比較する図である。より詳しくは、図13(a)は第1出力モードの実行時における表示画像を、図13(b)は第2出力モードの実行時における表示画像をそれぞれ示している。
図13(a)に示すように、第1出力モードでは、スタイラス16の高速移動に伴い、カーソル88の位置がペン先86に対して後方にずれるとともに、ストローク90の先頭位置がカーソル88に対してさらに後方にずれる。これにより、スタイラス16を使用するユーザは、指示位置の不一致に対して違和感を覚えてしまう場合がある。
前者の位置ずれは、フレーム間隔に相当する応答時間差によって発生し得る。一方、後者の位置ずれは、例えば、データ処理や信号伝送を含むハードウェア上の制約から、取得タイミングが異なる別々の指示位置を用いて、カーソル88及びストローク90の画像をそれぞれ作成している場合が挙げられる。
一方、図13(b)に示すように、第2出力モードでは、スタイラス16の高速移動に伴い、元のストローク90の先頭に線分96が追加された新たなストローク98が形成される。つまり、ペン先86とカーソル88の間の位置ずれが残存するものの、カーソル88とストローク98の位置ずれが概ね解消されている。これにより、指示位置の不一致に対するユーザの違和感が緩和されるので、その分だけユーザビリティが向上する。
図11のステップS20において、ホストプロセッサ22は、第2出力モードから第1出力モードに移行する旨の指令信号を受け付ける。なお、この指令信号の発生トリガについては後述する。
ステップS21において、ホストプロセッサ22は、第1出力モードの動作に関与する各部に向けて、第1出力モードの実行開始を示すフラグ信号を出力する。例えば、図2,図3の入力システム10Aの場合、フラグ信号の出力先は、センサコントローラ18及び表示コントローラ20である。また、図4,図5の入力システム10Bの場合、フラグ信号の出力先は、表示コントローラ20及び物理スイッチ66である。また、図6,図7の入力システム10Cの場合、フラグ信号の出力先は、表示コントローラ20である。
ステップS22において、表示コントローラ20の出力処理部52は、記憶部62に一時的に記憶されていたデータを読み出し、指示位置の時系列を含むデータ信号をホストプロセッサ22に向けて一括して出力する。
ステップS23において、ホストプロセッサ22のデータ処理部46は、ステップS22で供給されたデータ信号から一纏まりの筆記データを取得し、この筆記データに対して様々な処理を行う。例えば、データ処理部46は、第1出力モードで既に得ていた筆記データと、第2出力モードで新たに得られた筆記データをマージした後、デジタルインクの生成処理やデータの送信処理を行ってもよい。このようにして、入力システム10は、第2出力モードに応じた動作を終了する。
<入力システム10による効果>
以上のように、入力システム10は、ユーザによる指示位置を検出するセンサ電極30を表示パネル28の表示領域Rに設けてなるタッチパネルディスプレイ12を用いたシステムであって、センサ電極30の検出結果に基づいて表示領域R内の指示位置を取得するセンサコントローラ18と、取得された指示位置を含むデータ信号を処理するホストプロセッサ22と、画像又は映像を示す表示信号を表示パネル28に向けて出力する表示コントローラ20と、センサコントローラ18からホストプロセッサ22を経由して表示コントローラ20に信号を伝送する第1信号経路SP1と、センサコントローラ18からホストプロセッサ22を経由せずに表示コントローラ20に信号を伝送する第2信号経路SP2と、第1信号経路SP1及び第2信号経路SP2を切り替え可能に構成されるスイッチ部(出力選択部42、物理スイッチ66、論理スイッチ68)と、を備える。
このように、第1信号経路SP1及び第2信号経路SP2を切り替え可能なスイッチ部を設けたので、第2信号経路SP2の選択によってホストプロセッサ22を経由しないデータ処理を適時に実行可能となり、ホストプロセッサ22のデータ処理に起因して発生する特定の不都合が改善される。
また、モード制御部44は、スイッチ部によって第1信号経路SP1が選択される第1出力モードと、スイッチ部によって第2信号経路SP2に選択される第2出力モードを切り替えて実行してもよい。第1出力モードの実行中、表示コントローラ20は、第1信号経路SP1を通った信号を用いて表示信号を生成し、該表示信号を表示パネル28に向けて出力する。第2出力モードの実行中、表示コントローラ20は、第2信号経路SP2を通ったデータ信号に対して所定の処理を施した後、表示パネル28に向けて加工済みの表示信号を出力する。第1信号経路SP1よりも短い第2信号経路SP2を用いることで、表示処理に関する時間応答性が改善される。
また、第2出力モードの実行中、ホストプロセッサ22は、表示領域Rに対応する全体画像Iorgを示す画像信号を表示コントローラ20に向けて出力し、表示コントローラ20は、第2信号経路SP2を通ったデータ信号から指示位置を逐次取得し、全体画像Iorgのうち少なくとも現在の指示位置を含む部分を変更した加工済み画像Iprcを生成し、加工済み画像Iprcを示す表示信号を表示パネル28に向けて出力してもよい。第1出力モードに対して現在の指示位置を含む部分のみを変更する所定の処理を追加すればよく、その分だけ表示コントローラ20の処理負荷の過度な増加が抑制される。
また、表示コントローラ20は、第2信号経路SP2を通ったデータ信号の時系列からストローク98(指示位置の軌跡)を含む部分画像Iparを生成し、全体画像Iorgと部分画像Iparを合成することで加工済み画像Iprcを生成してもよい。第1出力モードに対してストローク98を生成して画像を合成する所定の処理を追加すればよく、その分だけ表示コントローラ20の処理負荷の過度な増加が抑制される。
[モード切り替えの具体例]
以下、出力モードの切り替えタイミングの具体例について説明する。ホストプロセッサ22のモード制御部44は、ユーザの操作がトリガとなって発生する指示信号を受け付けてもよい(図11のステップS11,S20)。これにより、ユーザは、自身の操作を通じて出力モードの状態を認識することができる。
以下、第1出力モードから第2出力モードに変更するための操作を「第1操作」というとともに、第2出力モードから第1出力モードに変更するための操作を「第2操作」という。第2操作は、第1操作と同一の又は異なる操作である。また、第1操作及び第2操作は、ハードウェア操作であってもよいし、ソフトウェア操作であってもよい。
このハードウェア操作には、電子機器14又はスタイラス16が備えるハードウェアボタン(いわゆる機能スイッチ)の押下操作、あるいは、スタイラス16のペンダウン操作・ペンアップ操作が含まれる。このペンダウン操作・ペンアップ操作は、ペン先86に設けられる図示しない筆圧センサにより検出される。一方、ソフトウェア操作には、ホストプロセッサ22が起動しているアプリケーションの状態遷移を引き起こす特定の操作、例えば、表示画面上のユーザコントロールの操作や、アプリケーションウィンドウを開く操作・切り替える操作が含まれる。
例えば、第1操作がスタイラス16のペンダウン操作であり、第2操作がペンアップ操作に対応するペンアップ操作であってもよい。これにより、一連のストローク操作の度に出力モードを適時に切り替えることができる。
また、モード制御部44は、スタイラス16のコンタクト状態が検出されている間、第1操作を受け付けたにもかかわらず、第1出力モードから第2出力モードへの切り替えを禁止してもよい。これと併せて又はこれとは別に、モード制御部44は、スタイラス16のコンタクト状態が検出されている間、第2操作を受け付けたにもかかわらず、第2出力モードから第1出力モードへの切り替えを禁止してもよい。これにより、1本のストローク90を示す一纏まりの筆記データが、ホストプロセッサ22と表示コントローラ20に分かれて伝送されることが防止される。
また、モード制御部44は、ホストプロセッサ22が実行するアプリケーションの状態に応じて、第1出力モード及び第2出力モードを切り替えて実行してもよい。これにより、アプリケーションと連動して出力モードを適時に切り替えることができる。
[追加処理]
ところで、ユーザがUI部32を介して機密性又は著作権性を有する秘匿情報を書き込んだ場合、その秘匿情報の取り扱いに関する運用上の不都合が生じ得る。そこで、必要に応じて第2出力モードを実行することで、この不都合を改善することもできる。以下、表示コントローラ20の出力処理部50,52(追加処理部56,64)による追加処理について、図14~図16を参照しながら説明する。
<1.可視情報の保護>
ユーザが書き込んだ秘匿情報が表示パネル28にそのまま表示され続けると、その内容を第三者に盗み見られる可能性がある。そこで、出力処理部50(より詳しくは、追加処理部56)は、可視情報を保護するための追加処理を行ってもよい。この場合、図11のステップS17,S18の間に、以下に示すステップS24の動作を追加すればよい。
ステップS24において、追加処理部56は、ステップS17で得られた部分画像Iparに対して、可視情報を保護するための追加処理を行う。この追加処理の一例として、隠蔽処理、不鮮鋭化処理、情報付与処理などが挙げられる。以下、追加処理による効果の一例について、図14及び図15を参照しながら説明する。
図14(a)に示すように、表示領域R内に、ユーザのサインを示すコンテンツ100が表示されている。氏名やサインの筆跡は個人情報の一種であるし、署名された電子文書の内容から個人情報が特定される可能性もある。そこで、サインの途中又は終了後に、コンテンツ100の表示態様を経時的に変化させてもよい。
図14(b)に示すように、サインの終了時点から所定の時間(例えば10秒)が経過した後に、コンテンツ100の左側からマスク領域102が出現し、コンテンツ100の一部を隠蔽する。時間が経過するにつれてマスク領域102が拡大し、最終的には、図14(c)に示すように、マスク領域102がコンテンツ100の全部を隠蔽する。
あるいは、図14(d)に示すように、不鮮鋭化領域104に対して不鮮鋭化処理を施すことで、コンテンツ100の全部又は一部の視認性を低下させてもよい。なお、不鮮鋭化処理の他にも、ユーザの視認性を相対的に低下させる視覚効果を付与する様々な処理が用いられ得る。
このように、表示コントローラ20は、第2信号経路SP2を通ったデータ信号の時系列が示すコンテンツ100(指示位置の軌跡)が隠蔽又は不鮮鋭化された部分画像Iparを生成し、全体画像Iorgと部分画像Iparを合成することで、少なくとも一部のコンテンツが隠蔽又は不鮮鋭化された加工済み画像Iprcを生成してもよい。これにより、部分画像Iparの視認性を抑制可能となり、第三者の盗み見による情報漏洩を予防することができる。
図15に示すように、表示領域R内に、「This is a pencil.」からなる文字列と、鉛筆の絵を含むコンテンツ106が表示されている。このコンテンツ106には、秘匿性又は著作権性が高いコンテンツ(以下、特定コンテンツ108)が含まれる可能性がある。そこで、ユーザが指定した指定領域110内であって特定コンテンツ108の付近の位置に、著作権の存在を明示する著作権マーク112を表示してもよい。また、著作権マーク112に代えて、守秘義務を発生させるコンフィデンシャルマークを表示してもよい。
このように、表示コントローラ20は、第2信号経路SP2を通ったデータ信号の時系列が示す特定コンテンツ108(指示位置の軌跡)の付近に、機密性又は著作権性を示す情報(例えば、著作権マーク112)が付与された部分画像Iparを生成し、全体画像Iorgと部分画像Iparを合成することで、少なくとも一部のコンテンツに当該情報が付与された加工済み画像Iprcを生成してもよい。これにより、部分画像Iparを見た第三者に対する情報漏洩の抑止効果が得られる。
<2.データの保護>
例えば、電子機器14のセキュリティが破られた場合、ホストプロセッサ22を通じて筆記データの漏洩・改竄・破壊などが起こる可能性が高い。そこで、表示コントローラ20は、第2出力モードの実行中に第2信号経路SP2を通ったデータ信号から、スタイラス16の筆記状態に関する筆記情報及びユーザの筆記に関わるメタ情報を含む筆記データを逐次取得し、所定の処理が施された筆記データの時系列を含むデータ信号をホストプロセッサに向けて出力してもよい。
そこで、出力処理部52(より詳しくは、追加処理部56)は、データを保護するための追加処理を行う。この場合、図11のステップS21,S22の間に、以下に示すステップS25の動作を追加すればよい。
ステップS25において、追加処理部64は、記憶部62に一時的に記憶されていたデータを読み出し、データを保護するための追加処理を行う。この追加処理の一例として、不可逆処理、付与処理、暗号化処理などが挙げられる。
ここで、「不可逆処理」とは、筆記情報又はメタ情報の少なくとも一方を不可逆的に欠損させる処理を意味する。不可逆処理の一例として、ペンIDの削除、筆圧の削除、データ列の間引き・平滑化、筆記順の秘匿化、ストロークの不鮮鋭化、ラスタ画像化、冗長情報の追加などが挙げられる。
また、「付与処理」とは、筆記データの時系列に対して機密性又は著作権性を示す情報を付与する付与処理を意味する。付与処理の一例として、タグの追加、マークを含む可視情報の埋め込みなどが挙げられる。
また、「暗号化処理」は、公開鍵方式、暗号鍵方式、共通鍵方式を含む様々な手法を用いて行うことができる。以下、暗号化処理の具体例について、図16を参照しながら説明する。
図16は、図1に示す入力システム10が組み込まれたサイン検証システム120の全体構成図である。このサイン検証システム120は、電子機器14及びスタイラス16の他に、検証サーバ122を含んで構成される。電子機器14には、クレジットカード124を読取可能なカードリーダ126が接続されている。また、電子機器14は、中継機器128及びネットワークNWを介して、検証サーバ122と双方向に通信可能である。
電子機器14は、カードリーダ126を通じて、クレジットカード124に格納された暗号用鍵Kenを取得した後、この暗号用鍵Kenをメモリ24に一時的に格納する。ホストプロセッサ22は、所望の処理タイミングで暗号用鍵Kenを読み出し、筆記データに対して暗号化処理を施した後、得られた暗号化データD1をホストプロセッサ22に向けて出力する。ホストプロセッサ22は、通信モジュール26を通じて、検証サーバ122に向けて暗号化データD1を送信する処理を行う。
そして、検証サーバ122は、暗号用鍵Kenに対応する復号用鍵Kdeを用いて、電子機器14からの暗号化データD1に対して復号化処理を行う。これにより、検証サーバ122は、ユーザのサインを示すサインデータD2を取得し、当該サインの妥当性を検証することができる。
10(A,B,C) 入力システム、12 タッチパネルディスプレイ、14 電子機器、16 スタイラス、18 センサコントローラ、20 表示コントローラ、22 ホストプロセッサ、24 メモリ、26 通信モジュール、28 表示パネル、30 センサ電極、42 出力選択部(スイッチ部)、44 モード制御部、46 データ処理部、50,52 出力処理部、66 物理スイッチ(スイッチ部)、68 仮想スイッチ(スイッチ部)、80 軌跡曲線、90,98 ストローク、Ipar 部分画像、Iorg 全体画像、Iprc 加工済み画像、L1~L11 信号線、R 表示領域、SP1 第1信号経路、SP2 第2信号経路。

Claims (10)

  1. ユーザによる指示位置を検出するセンサ電極を表示パネルの表示領域に設けてなるタッチパネルディスプレイを用いた入力システムであって、
    前記センサ電極の検出結果に基づいて前記表示領域内の指示位置を取得するセンサコントローラと、
    前記センサコントローラにより取得された前記指示位置を含むデータ信号を処理するホストプロセッサと、
    画像又は映像を示す表示信号を前記表示パネルに向けて出力する表示コントローラと、
    前記センサコントローラから前記ホストプロセッサを経由して前記表示コントローラに信号を伝送する第1信号経路と、
    前記センサコントローラから前記ホストプロセッサを経由せずに前記表示コントローラに信号を伝送する第2信号経路と、
    前記第1信号経路及び前記第2信号経路を切り替え可能に構成されるスイッチ部と、
    前記スイッチ部により前記第1信号経路が選択される第1出力モードと、前記スイッチ部により前記第2信号経路が選択される第2出力モードを切り替えて実行するモード制御部と、
    を備え、
    前記モード制御部が前記第1出力モードを実行中に、前記表示コントローラは、前記第1信号経路を通った信号を用いて前記表示信号を生成し、該表示信号を前記表示パネルに向けて出力し、
    前記モード制御部が前記第2出力モードを実行中に、
    前記ホストプロセッサは、前記表示領域に対応する全体画像を示す画像信号を前記表示コントローラに向けて出力し、
    前記表示コントローラは、前記第2信号経路を通ったデータ信号に対して所定の処理を施した後、前記表示パネルに向けて加工済みの表示信号を出力し及び/又は前記ホストプロセッサに向けて加工済みのデータ信号を出力し、
    前記表示コントローラが、前記第2信号経路を通ったデータ信号に対して所定の処理を施した後前記表示パネルに向けて加工済みの表示信号を出力することは、前記表示コントローラが、前記第2信号経路を通ったデータ信号から指示位置を逐次取得し、前記全体画像のうち少なくとも現在の指示位置を含む部分を変更した加工済み画像を生成し、前記加工済み画像を示す表示信号を前記表示パネルに向けて出力することであり、
    前記表示コントローラが、前記全体画像のうち少なくとも現在の指示位置を含む部分を変更した加工済み画像を生成することは、前記第2信号経路を通ったデータ信号の時系列が示す指示位置の軌跡が隠蔽又は不鮮鋭化された部分画像を生成し、前記全体画像と前記部分画像を合成することで、少なくとも一部の指示位置の軌跡が隠蔽又は不鮮鋭化された加工済み画像を生成することである、
    ことを特徴とする入力システム。
  2. ユーザによる指示位置を検出するセンサ電極を表示パネルの表示領域に設けてなるタッチパネルディスプレイを用いた入力システムであって、
    前記センサ電極の検出結果に基づいて前記表示領域内の指示位置を取得するセンサコントローラと、
    前記センサコントローラにより取得された前記指示位置を含むデータ信号を処理するホストプロセッサと、
    画像又は映像を示す表示信号を前記表示パネルに向けて出力する表示コントローラと、
    前記センサコントローラから前記ホストプロセッサを経由して前記表示コントローラに信号を伝送する第1信号経路と、
    前記センサコントローラから前記ホストプロセッサを経由せずに前記表示コントローラに信号を伝送する第2信号経路と、
    前記第1信号経路及び前記第2信号経路を切り替え可能に構成されるスイッチ部と、
    前記スイッチ部により前記第1信号経路が選択される第1出力モードと、前記スイッチ部により前記第2信号経路が選択される第2出力モードを切り替えて実行するモード制御部と、
    を備え、
    前記モード制御部が前記第1出力モードを実行中に、前記表示コントローラは、前記第1信号経路を通った信号を用いて前記表示信号を生成し、該表示信号を前記表示パネルに向けて出力し、
    前記モード制御部が前記第2出力モードを実行中に、前記表示コントローラは、前記第2信号経路を通ったデータ信号に対して所定の処理を施した後、前記表示パネルに向けて加工済みの表示信号を出力し及び/又は前記ホストプロセッサに向けて加工済みのデータ信号を出力し、
    前記モード制御部は、ユーザによる第1操作がトリガとなって前記第1出力モードから前記第2出力モードに切り替えて実行し、前記第1操作とは異なる第2操作がトリガとなって前記第2出力モードから前記第1出力モードに切り替えて実行し、
    前記第1操作は、スタイラスのペンダウン操作であり、
    前記第2操作は、前記ペンダウン操作に対応するペンアップ操作である、
    ことを特徴とする入力システム。
  3. ユーザによる指示位置を検出するセンサ電極を表示パネルの表示領域に設けてなるタッチパネルディスプレイを用いた入力システムであって、
    前記センサ電極の検出結果に基づいて前記表示領域内の指示位置を取得するセンサコントローラと、
    前記センサコントローラにより取得された前記指示位置を含むデータ信号を処理するホストプロセッサと、
    画像又は映像を示す表示信号を前記表示パネルに向けて出力する表示コントローラと、
    前記センサコントローラから前記ホストプロセッサを経由して前記表示コントローラに信号を伝送する第1信号経路と、
    前記センサコントローラから前記ホストプロセッサを経由せずに前記表示コントローラに信号を伝送する第2信号経路と、
    前記第1信号経路及び前記第2信号経路を切り替え可能に構成されるスイッチ部と、
    前記スイッチ部により前記第1信号経路が選択される第1出力モードと、前記スイッチ部により前記第2信号経路が選択される第2出力モードを切り替えて実行するモード制御部と、
    を備え、
    前記モード制御部が前記第1出力モードを実行中に、前記表示コントローラは、前記第1信号経路を通った信号を用いて前記表示信号を生成し、該表示信号を前記表示パネルに向けて出力し、
    前記モード制御部が前記第2出力モードを実行中に、前記表示コントローラは、前記第2信号経路を通ったデータ信号に対して所定の処理を施した後、前記表示パネルに向けて加工済みの表示信号を出力し及び/又は前記ホストプロセッサに向けて加工済みのデータ信号を出力し、
    前記モード制御部は、ユーザによる第1操作がトリガとなって前記第1出力モードから前記第2出力モードに切り替えて実行し、前記第1操作と同一の又は異なる第2操作がトリガとなって前記第2出力モードから前記第1出力モードに切り替えて実行し、スタイラスのコンタクト状態が検出されている間、前記第1出力モードから前記第2出力モードへの切り替えを禁止し及び/又は前記第2出力モードから前記第1出力モードへの切り替えを禁止する、
    ことを特徴とする入力システム。
  4. ユーザによる指示位置を検出するセンサ電極を表示パネルの表示領域に設けてなるタッチパネルディスプレイを用いた入力システムであって、
    前記センサ電極の検出結果に基づいて前記表示領域内の指示位置を取得するセンサコントローラと、
    前記センサコントローラにより取得された前記指示位置を含むデータ信号を処理するホストプロセッサと、
    画像又は映像を示す表示信号を前記表示パネルに向けて出力する表示コントローラと、
    前記センサコントローラから前記ホストプロセッサを経由して前記表示コントローラに信号を伝送する第1信号経路と、
    前記センサコントローラから前記ホストプロセッサを経由せずに前記表示コントローラに信号を伝送する第2信号経路と、
    前記第1信号経路及び前記第2信号経路を切り替え可能に構成されるスイッチ部と、
    前記スイッチ部により前記第1信号経路が選択される第1出力モードと、前記スイッチ部により前記第2信号経路が選択される第2出力モードを切り替えて実行するモード制御部と、
    を備え、
    前記モード制御部が前記第1出力モードを実行中に、前記表示コントローラは、前記第1信号経路を通った信号を用いて前記表示信号を生成し、該表示信号を前記表示パネルに向けて出力し、
    前記モード制御部が前記第2出力モードを実行中に、前記表示コントローラは、前記第2信号経路を通ったデータ信号に対して所定の処理を施した後、前記表示パネルに向けて加工済みの表示信号を出力し及び/又は前記ホストプロセッサに向けて加工済みのデータ信号を出力し、
    前記表示コントローラが前記第2信号経路を通ったデータ信号に対して所定の処理を施した後前記ホストプロセッサに向けて加工済みのデータ信号を出力することは、前記表示コントローラが、前記第2信号経路を通ったデータ信号からスタイラスの筆記状態に関する筆記情報及びユーザの筆記に関わるメタ情報を含む筆記データを逐次取得し、前記所定の処理が施された前記筆記データの時系列を含むデータ信号を前記ホストプロセッサに向けて出力することであり、
    前記所定の処理は、筆記データの時系列に対して機密性又は著作権性を示す情報を付与する付与処理である、
    ことを特徴とする入力システム。
  5. ユーザによる指示位置を検出するセンサ電極を表示パネルの表示領域に設けてなるタッチパネルディスプレイを用いた入力システムであって、
    前記センサ電極の検出結果に基づいて前記表示領域内の指示位置を取得するセンサコントローラと、
    前記センサコントローラにより取得された前記指示位置を含むデータ信号を処理するホストプロセッサと、
    画像又は映像を示す表示信号を前記表示パネルに向けて出力する表示コントローラと、
    前記センサコントローラから前記ホストプロセッサを経由して前記表示コントローラに信号を伝送する第1信号経路と、
    前記センサコントローラから前記ホストプロセッサを経由せずに前記表示コントローラに信号を伝送する第2信号経路と、
    前記第1信号経路及び前記第2信号経路を切り替え可能に構成されるスイッチ部と、
    前記スイッチ部により前記第1信号経路が選択される第1出力モードと、前記スイッチ部により前記第2信号経路が選択される第2出力モードを切り替えて実行するモード制御部と、
    を備え、
    前記モード制御部が前記第1出力モードを実行中に、前記表示コントローラは、前記第1信号経路を通った信号を用いて前記表示信号を生成し、該表示信号を前記表示パネルに向けて出力し、
    前記モード制御部が前記第2出力モードを実行中に、前記表示コントローラは、前記第2信号経路を通ったデータ信号に対して所定の処理を施した後、前記表示パネルに向けて加工済みの表示信号を出力し及び/又は前記ホストプロセッサに向けて加工済みのデータ信号を出力し、
    前記表示コントローラが前記第2信号経路を通ったデータ信号に対して所定の処理を施した後前記ホストプロセッサに向けて加工済みのデータ信号を出力することは、前記表示コントローラが、前記第2信号経路を通ったデータ信号からスタイラスの筆記状態に関する筆記情報及びユーザの筆記に関わるメタ情報を含む筆記データを逐次取得し、前記所定の処理が施された前記筆記データの時系列を含むデータ信号を前記ホストプロセッサに向けて出力することであり、
    前記所定の処理は、筆記データの時系列に対して暗号化を施す暗号化処理である、
    ことを特徴とする入力システム。
  6. 前記モード制御部は、前記ホストプロセッサが実行するアプリケーションの状態に応じて、前記第1出力モード及び前記第2出力モードを切り替えて実行することを特徴とする請求項1~5のいずれか一項に記載の入力システム。
  7. 前記表示コントローラは、前記ホストプロセッサに接続されており、
    前記センサコントローラは、前記ホストプロセッサに物理的又は論理的に接続されているとともに、前記表示コントローラに物理的に接続されていることを特徴とする、
    請求項1~5のいずれか一項に記載の入力システム。
  8. 前記センサコントローラは、前記表示コントローラに物理的に接続され、かつ前記データ信号の出力先を前記ホストプロセッサ又は前記表示コントローラのいずれか一方に切り替え可能に構成されることを特徴とする請求項に記載の入力システム。
  9. 入力端子が前記センサコントローラに接続され、かつ、一方の出力端子が前記ホストプロセッサに、他方の出力端子が前記表示コントローラにそれぞれ接続されている物理スイッチをさらに備えることを特徴とする請求項に記載の入力システム。
  10. 前記表示コントローラは、前記センサコントローラに物理的に接続され、かつ前記センサコントローラからの前記データ信号をパススルー伝送によって前記ホストプロセッサに供給するか否かを切り替え可能に構成されることを特徴とする請求項に記載の入力システム。
JP2020561998A 2018-12-25 2018-12-25 入力システム Active JP7319297B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023117976A JP2023126598A (ja) 2018-12-25 2023-07-20 入力システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/047664 WO2020136729A1 (ja) 2018-12-25 2018-12-25 入力システム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023117976A Division JP2023126598A (ja) 2018-12-25 2023-07-20 入力システム

Publications (2)

Publication Number Publication Date
JPWO2020136729A1 JPWO2020136729A1 (ja) 2021-11-04
JP7319297B2 true JP7319297B2 (ja) 2023-08-01

Family

ID=71129279

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2020561998A Active JP7319297B2 (ja) 2018-12-25 2018-12-25 入力システム
JP2023117976A Pending JP2023126598A (ja) 2018-12-25 2023-07-20 入力システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023117976A Pending JP2023126598A (ja) 2018-12-25 2023-07-20 入力システム

Country Status (4)

Country Link
US (3) US11402941B2 (ja)
JP (2) JP7319297B2 (ja)
CN (1) CN112654952A (ja)
WO (1) WO2020136729A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022131325A1 (ja) 2020-12-16 2022-06-23 株式会社ワコム 画像描画方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61169928A (ja) * 1985-01-22 1986-07-31 Yokogawa Electric Corp 位置指示装置
JPH05244592A (ja) 1991-03-13 1993-09-21 Nec Home Electron Ltd ビデオテックス端末装置
JP2665836B2 (ja) * 1991-03-25 1997-10-22 三菱電機株式会社 液晶表示制御装置
JPH05165598A (ja) * 1991-12-17 1993-07-02 Hitachi Ltd 表示制御icおよび情報処理装置
JPH07261933A (ja) * 1994-03-17 1995-10-13 Hitachi Ltd ペン入力液晶表示装置
KR100819736B1 (ko) * 2004-12-21 2008-04-07 삼성전자주식회사 영상신호처리회로 및 이를 포함하는 디스플레이장치
JP2008186441A (ja) * 2007-01-04 2008-08-14 Shinsedai Kk 画像処理装置及び画像処理システム
JP2009187260A (ja) 2008-02-06 2009-08-20 Anoto Ab デジタルペンシステム
JP5589366B2 (ja) * 2009-11-27 2014-09-17 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
US9342181B2 (en) * 2012-01-09 2016-05-17 Nvidia Corporation Touch-screen input/output device touch sensing techniques
WO2014065055A1 (ja) * 2012-10-23 2014-05-01 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US9652091B1 (en) * 2013-03-15 2017-05-16 Amazon Technologies, Inc. Touch sensitive display utilizing mutual capacitance and self capacitance
TW201502898A (zh) * 2013-07-10 2015-01-16 Fih Hong Kong Ltd 觸控式電子設備及其繪圖方法
JP6731135B2 (ja) * 2014-05-30 2020-07-29 パナソニックセミコンダクターソリューションズ株式会社 センシングシステム及び運転支援システム
CN105718076B (zh) * 2014-12-03 2019-03-01 矽统科技股份有限公司 主动式触控笔及其与触控面板的信号传输方法
CN106708277A (zh) * 2015-11-18 2017-05-24 英业达科技有限公司 分享输入装置的电子设备及其方法
EP3291504B1 (en) 2016-08-30 2020-03-11 Wacom Co., Ltd. Authentication and secure transmission of data between signature devices and host computers using transport layer security
US10139975B2 (en) * 2016-09-23 2018-11-27 Apple Inc. Pressure compensation for force-sensitive touch screen

Also Published As

Publication number Publication date
JP2023126598A (ja) 2023-09-07
US12014001B2 (en) 2024-06-18
US20230333689A1 (en) 2023-10-19
US11714506B2 (en) 2023-08-01
CN112654952A (zh) 2021-04-13
US20210208758A1 (en) 2021-07-08
WO2020136729A1 (ja) 2020-07-02
US20220365648A1 (en) 2022-11-17
US11402941B2 (en) 2022-08-02
JPWO2020136729A1 (ja) 2021-11-04

Similar Documents

Publication Publication Date Title
TWI405094B (zh) 防止未授權獲取資訊之系統及其方法
JP7042622B2 (ja) 画像処理装置、画像処理システム、画像処理方法、及び、プログラム
KR20140018403A (ko) 터치 스크린을 통한 보안 입력
US10649754B2 (en) Image processing device and electronic whiteboard
US11209921B2 (en) Electronic blackboard, storage medium, and information display method
KR20100104804A (ko) Ddi, ddi 제공방법 및 상기 ddi를 포함하는 데이터 처리 장치
JP6504256B2 (ja) 電子黒板、電子黒板の画像処理方法、及び電子黒板のプログラムを記録した記録媒体
JP2023126598A (ja) 入力システム
JP6988060B2 (ja) 画像処理装置、画像処理システム、画像処理方法及びプログラム
JP2013134728A (ja) 手書き文字入力装置並びにこれを構成する遠隔装置及び電子情報端末
US9030378B2 (en) Sharing display processing system, display processing system, and display method
JP2012208794A (ja) 携帯端末及び表示制御方法
JP7200446B2 (ja) 画像処理方法
JP6255731B2 (ja) 表示システム、表示方法および表示端末
US9619126B2 (en) Computer-readable non-transitory storage medium with image processing program stored thereon, element layout changed material generating device, image processing device, and image processing system
US20150026552A1 (en) Electronic device and image data displaying method
JP2016051229A (ja) 情報処理装置、情報処理装置の制御方法、およびプログラム。
JP2015204035A (ja) コンテンツ表示装置およびコンテンツ表示装置の制御プログラム
US10146949B2 (en) Method and apparatus for encrypting area of electronic document
JP2012173872A (ja) 情報処理装置、情報処理装置の制御方法、制御プログラム、および記録媒体
CN111191264A (zh) 回显方法、装置、计算机设备和存储介质
WO2010106669A1 (ja) 電子文書暗号化装置、電子文書暗号化方法及び電子文書暗号化プログラムならびに電子文書復号装置
WO2016121403A1 (en) Information processing apparatus, image processing system, and program
US20230128724A1 (en) Image processing apparatus and control method
KR20130079786A (ko) 이북 컨텐츠뷰어의 가독성 향상 방법 및 이를 위한 컴퓨터로 판독가능한 기록매체

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230620

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230720

R150 Certificate of patent or registration of utility model

Ref document number: 7319297

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150