JPH1186016A - 情報処理方法及び装置及びその記憶媒体 - Google Patents

情報処理方法及び装置及びその記憶媒体

Info

Publication number
JPH1186016A
JPH1186016A JP24399097A JP24399097A JPH1186016A JP H1186016 A JPH1186016 A JP H1186016A JP 24399097 A JP24399097 A JP 24399097A JP 24399097 A JP24399097 A JP 24399097A JP H1186016 A JPH1186016 A JP H1186016A
Authority
JP
Japan
Prior art keywords
information
reproduction
trajectory
order
stored
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP24399097A
Other languages
English (en)
Inventor
Eiji Takasu
英司 高須
Katsuhiko Sakaguchi
克彦 阪口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP24399097A priority Critical patent/JPH1186016A/ja
Priority to US09/148,473 priority patent/US6384851B1/en
Priority to DE69836664T priority patent/DE69836664D1/de
Priority to EP98307301A priority patent/EP0905483B1/en
Publication of JPH1186016A publication Critical patent/JPH1186016A/ja
Withdrawn legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3626Details of the output of route guidance instructions
    • G01C21/3629Guidance using speech or audio output, e.g. text-to-speech
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • G06F40/169Annotation, e.g. comment data or footnotes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • G06F40/171Editing, e.g. inserting or deleting by use of digital ink
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0381Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Automation & Control Theory (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)
  • Document Processing Apparatus (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Processing Or Creating Images (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

(57)【要約】 【課題】 画像に重ねて軌跡が記入されていると、軌跡
の記入によって見えなくなった画像を視認できず、画像
と軌跡との相互理解が不可能であった。 【解決手段】 軌跡の再生の前に、一旦表示画面上から
軌跡を消去すると共に、軌跡が上書きされている画像情
報を再表示することによって、画像情報が復元された状
態にした上で、軌跡を再生する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、表示画面上に軌跡
情報を再生することの可能な情報処理方法及び装置及び
その記憶媒体に関するものである。
【0002】本発明は、再生の指示に応じて複数の情報
の再生を行うことの可能な情報処理方法及び装置及びそ
の記憶媒体に関するものである。
【0003】
【従来の技術】従来、軌跡情報を再生する時に、軌跡が
記入された時の速度で再現するものはあった。
【0004】従来、指示された選択順で情報を再生する
もの、また、入力した順に情報を再生するものはあっ
た。
【0005】
【発明が解決しようとする課題】従来の軌跡の再生は、
再生する軌跡情報を表示画面上から消去し、その位置に
軌跡情報に従って再生するのみであった為、軌跡の下に
表示されている情報を見るためには軌跡情報を移動させ
るか、削除するしかなかった。
【0006】従来の情報再生技術は、一つの再生指示手
段に対する動作は、選択順で情報を再生するのみか、入
力した順で情報を再生するのみの、どちらか一方に限定
されていた。
【0007】
【課題を解決するための手段】上記従来技術の課題を解
決するために、本発明は、複数の情報を記憶し、前記記
憶されている情報の再生を指示し、前記記憶されている
情報における選択状態を判別し、前記指示に応じた情報
の再生の順番を、前記判別に従って、情報の入力順か、
情報の選択順に切り替える情報処理方法及び装置及びそ
の記憶媒体を提供する。
【0008】上記従来技術の課題を解決するために、本
発明は、記憶されている情報の表示再生を指示し、前記
記憶されている情報における選択状態を判別し、前記指
示に応じた情報の再生の順番を、前記判別に従って、情
報の入力順か、情報の選択順に切り替え、前記切り替え
られた順番で情報の表示を再生する場合に、該情報を一
旦消去した後、該再生を開始するよう制御する情報処理
方法及び装置及びその記憶媒体を提供する。
【0009】上記従来技術の課題を解決するために、本
発明は、画像を再生する為の画像情報を記憶し、軌跡を
再生する為の軌跡情報を記憶し、 音声を再生する為の
音声情報を記憶し、軌跡と音声とを同期して再生する場
合に、画像情報を表示したまま、再生する軌跡情報を表
示画面から一旦消去した後、該軌跡情報と音声情報の再
生を開始する情報処理方法及び装置及びその記憶媒体を
提供する。
【0010】上記従来技術の課題を解決するために、本
発明は、好ましくは音声情報に関連つけられている文書
上の位置にアイコンを表示し、前記軌跡情報を表示画面
から消去する時に該軌跡情報と同期して再生する音声情
報に関連つけられているアイコンを表示画面から消去す
る。
【0011】上記従来技術の課題を解決するために、本
発明は、好ましくは前記軌跡と音声との再生を、該軌跡
が表示されている画面上で指示する。
【0012】上記従来技術の課題を解決するために、本
発明は、好ましくは画像情報と、軌跡情報と、音声情報
とを送受信する。
【0013】上記従来技術の課題を解決するために、本
発明は、好ましくは前記軌跡の再生は、該軌跡が記入さ
れた速度で再生する。
【0014】上記従来技術の課題を解決するために、本
発明は、好ましくは前記軌跡の表示画面からの消去と再
生は、グループ化されている軌跡ごとに行う。
【0015】上記従来技術の課題を解決するために、本
発明は、好ましくは前記画像情報は、テキスト情報を含
む。
【0016】
【発明の実施の形態】以下、図面を参照して、本発明の
実施の形態を詳細に説明する。
【0017】図1は、本発明の一実施形態の概略構成ブ
ロック図である。
【0018】10は、本装置全体を制御するCPU(中
央処理装置)であり、メモリ14、ハードディスク1
6、フロッピーディスク18等に記憶されている制御プ
ログラムに従って、本発明に係る各種処理を実行するよ
う制御する。
【0019】12は、メモリ制御及びI/O制御を司る
周辺I/O回路である。
【0020】14は、ROMとRAMからなるメモリ
(MEM)であって、後述するフローチャートにより説
明する本願発明に係る処理の制御プログラムや、各処理
に用いる各種パラメータを記憶し、また、各処理中に生
じるデータを格納する作業エリアとしても利用する。
【0021】16は、ハードディスクであって、後述す
るフローチャートにより説明する本願発明に係る処理の
制御プログラムや、各処理に用いる各種パラメータを記
憶する。
【0022】18は、フロッピーディスクであって、後
述するフローチャートにより説明する本願発明に係る処
理の制御プログラムや、各処理に用いる各種パラメータ
を記憶する。これらのデータは直接利用しても、また、
ハードディスク16やメモリ14にダウンロードしてか
ら利用しても良い。また、フロッピーディスクに限ら
ず、本装置に着脱可能な記憶媒体、例えばCD−ROMや、
光磁気ディスクであっても良い。
【0023】20は、マウスであって、表示画面上の所
望の位置座標を指示し、また、ボタンのクリックによっ
て、各種選択操作も行う。
【0024】22は、キーボードであって、キーを押下
することにより、そのキーに対応する各種文字、記号、
ファンクション等を入力することができ、テキストの入
力、編集が可能である。また、このキーボードは、キー
入力装置に限らず、表示画面上に表示されるソフトキー
ボードであっても良い。
【0025】24は、デジタイザであって、ペン(図
2、44)をこのデジタイザ上で動かすことにより、表
示画面上の所望の位置座表を入力することができる。本
実施形態では、図2に示したように、デジタイザ24を
表示器26に重ねて配置し、これにより表示器24に表
示される画像に重ねる感覚で任意の点や軌跡等の情報を
入力できる例について説明するが、この座標入力手段
は、表示器に重ねて配置する例に限定されるものではな
く、表示器と別体にして、机の上に置き、画面を見なが
ら机の上の座標入力手段により点や軌跡などの座標情報
を入力する、タブレット型のものを用いても良い。ま
た、大まかなデータのみ扱うのであれば、感圧式の指で
任意の位置を指示するタッチパネルを用いても良い。
【0026】26は液晶表示パネルやCRT等による表
示器、28はCPU10の制御下で、表示器26に所望
の画像を表示させる表示制御回路である。
【0027】30は、マイク及びスピーカーからなる音
声入出力装置(例えばハンドセット)、32は、CPU
10の制御下で、音声入出力装置30による音声入出力
を制御する音声制御回路である。音声入出力装置30
は、マイクとスピーカーが一体になったものに限定され
るものではなく、マイクとスピーカーとが各々別個にな
っているものでも良い。
【0028】34はファクシミリ伝送のための画像入出
力装置(即ち、イメージ・スキャナとプリンタを含
む)、36は、CPU10の制御下で、画像入出力装置
34を制御するFAX制御回路である。画像入出力装置
34は、画像入力装置であるイメージ・スキャナと、画
像出力装置であるプリンタが一体になったものに限定さ
れるものではなく、画像入力装置と画像出力装置とが各
々別個になっているものでも良い。
【0029】38は、送信すべき信号を通信回線に適し
た周波数帯に周波数変調し、通信回線からの変調信号を
復調する変復調装置(モデム)、40は、CPU10の
制御下で、通信プロトコルの設定など、通信回線との接
続及び通信を制御する通信制御回路である。通信回線
は、公衆回線或はLAN等、情報の伝送に利用される回
線であれば良い。39は各構成間のデータの授受を行う
為のデータバスである。
【0030】図2は、本実施形態の装置の外観正面図を
示す。表示器26及びデジタイザ24が正面に配置さ
れ、ハンドセット30が左側に置かれる。右側には電話
番号入力のためのテンキー42が配置される。44はデ
ジタイザ24の入力ペンである。
【0031】図3は、本実施形態の装置の機能構成図を
示し、図1に開示された各構成により実行される。
【0032】画像入力又は画像作成手段50は、画像入
出力装置34により読み込まれた画像、又は本装置上で
動作するワードプロセッサもしくは作図ソフトウェアに
よりキーボード等を用いて作成されたテキストを含むド
キュメントの画像を入力制御/記憶手段56に、データ
出力する。座標入力手段52はデジタイザ24であり、
ペン44を用いて入力される座標を、較正及びタイミン
グ調整し、きれいな座標値にして入力制御/記憶手段5
6に出力する。音声入力手段54は、ハンドセット30
から入力された音声信号をアナログ・デジタル変換して
入力制御/記憶手段56に出力する。これらの手段5
0、52、54の出力は、入力制御/記憶手段56に印
加され、データとして記憶される。
【0033】尚、詳細は後述するが、入力された画像
に、音声と軌跡によるメッセージを付加する時は、入力
制御/記憶手段56は、入力された画像を表示手段58
(即ち、表示器26)に表示する。ユーザは、その表示
画面を見ながら、デジタイザ24やマウス20で任意の
軌跡を入力し、また、ハンドセット30により音声を入
力する。
【0034】入力し、MEM14に記憶された画像、音
声及び軌跡の各データは、通信制御手段62の制御のも
と、公衆回線を介して送信される。
【0035】受信側の通信制御手段64は、公衆回線を
介して情報を受信し、記憶手段66に受信データを書き
込む。受信側のユーザの開示要求に応じて、出力制御手
段68はユーザにより特定された受信画像のデータを記
憶手段66から読み出し、画像出力手段72(画像入出
力装置34のプリンタ部)及び/又は表示手段74(表
示器26及び表示制御手段68)に印加する。音声/軌
跡データが付加されているときには、出力制御手段68
は、受信画像を先ず、表示手段に印加して受信画像を表
示させると共に、ユーザによる音声/軌跡の再生指示に
応じて、軌跡データを表示手段74に、音声データを音
声出力手段76に印加する。これにより、送信側で入力
された軌跡が、表示手段74に表示される受信画像に重
ねて、送信側で入力されたのと同じ位置に同じ速度で表
示され、これに同期して、軌跡と共に音声を入力した時
と同じタイミングで音声が出力される。受信画像を紙出
力する場合には、画像出力手段72を用いる。
【0036】図3においては、送信側と受信側におい
て、画像、座標、音声、テキストの入力と出力との機能
を各々分けて示したが、図1及び図2に示したように、
本実施形態における装置は、送信も受信も可能であっ
て、画像、座標、音声、テキストの入力も出力も同じ装
置で実行することが可能である。従って、送信側では、
画像、座標、音声、テキストを入力、編集した後に、表
示器やハンドセット、画像出力装置によって入力済みの
画像、軌跡、音声、テキストの再生を行って確認するこ
ともできるし、データを受信する側でも、受信したデー
タの再生のみならず、マウス、キーボード、デジタイ
ザ、ハンドセット、画像入力装置を利用して、受信した
データに更に画像、座標、音声、テキストの入力や、編
集を行うことも可能である。
【0037】ここで、本実施の形態の処理について、フ
ローチャートと、各状態での表示画面を例示して詳細に
説明する。
【0038】図4は、病院への道順を説明する為に作成
する文書の例であって、「病院への道順です。」とい
う、キーボード22により入力された説明のテキスト4
01と、電話番号及び診察時間を説明する、キーボード
22より入力されたテキスト402と、画像入出力装置
34のスキャナ部或は公衆回線を介して他端末より入力
した病院周辺の地図の画像403、マウス20或はデジ
タイザ24により入力された軌跡404〜406、動的
な軌跡情報及び音声が入力されていることを示し、ま
た、そこをマウス20或はデジタイザ24でクリックす
ることによって動的な軌跡或は音声の再生を指示するこ
とができるアイコン407〜409が文書ウインドウ4
10に表示されている。クリックとは、マウス20のボ
タンを押下する、或はデジタイザ24上でペンダウンす
ることを指し、クリックに応じてその時マウスカーソル
が位置していた座標或はペンダウンした位置の座標に対
応する表示画面上の情報、例えばその位置に表示されて
いるオブジェクトが選択されたものと判断する。
【0039】ここで、動的なストロークとは、後述する
が、ストロークの座標情報のみならず、各座標情報が入
力された時間情報をも保持し、その時間情報に従って入
力されたスピードで軌跡の再現を可能とするストローク
のことである。
【0040】また、動的なストロークを入力する時にマ
イク(音声入力手段)をONにしておくことにより、軌
跡により入力する座標情報に加え、音声により解説する
ことも可能である。例えば図4の軌跡405を入力する
時に、軌跡が五叉路に位置した時点で「この五叉路」と
発声する、また、本屋の角を曲がるように軌跡を入力し
ている時点で「本屋の角を右に曲がって」と発声するこ
とにより、より分かり易い情報を入力することが可能と
なる。
【0041】このように作成された文書(図4)に対し
て、動的な軌跡及び音声の全再生が指示された場合、
(1)「この五叉路を鋭角に左に曲がり、右に見える本
屋の角を右に曲がって、左側の3件目が病院です。駅か
ら徒歩4分位で病院に着きます。」という音声と共に、
軌跡405と軌跡406が記入された通りに再生され、
(2)軌跡404が記入された通りに再生され、(3)
「予約は11時にしてあります。遅れないでくださ
い。」という音声が再生される。
【0042】このような文書を作成する処理について、
図5のフローチャートに従って説明する。
【0043】文書の作成は、表示器26の表示画面上に
表示された文書ウインドウ410において行なわれる。
文書ウインドウが開かれたら、MEM14に格納されて
いるカレントモードを表わすパラメータを初期化する
(S2)。マウス20、キーボード22、デジタイザ2
4、マイク30、画像入力手段34等の入力デバイスに
より、何らかの情報入力が行なわれようとすることによ
るイベントの発生を検知し(S4)、以下、S6〜S1
0においてその検知されたイベントの種類を判断する。
S6においてイベントがマウス20やデジタイザ24に
より表示画面上の終了ボタンをクリックされる等による
終了イベントであると判断された場合には、本処理を終
了する。S8においてイベントがキーボード22からの
文字コードの入力であると判断された場合には、S26
の文字入力ルーチンに移る。この文字入力ルーチンで
は、図7の文書作成ウインドウ410に表示されている
文字入力用のカーソル702の位置に、キーボード22
から入力される文字がメモリ14に記憶されている文書
書式に従った態様で順次表示される。キーボード22に
より入力される文字群、即ちテキストデータは、MEM1
4に格納される。
【0044】S10において、イベントが、マウス20
或はデジタイザ24により文書作成ウインドウ410内
に表示されたペンメニュー701を構成するボタンをク
リックすることによるモード切り替えの指示であると判
断された場合には、その指示されたモードをMEM14内
のカレントモードを表わすパラメータに再設定し(S1
2)、そのモードに定められているメニュー画面を表示
する(S14)。
【0045】編集モードの時に表示されるペンメニュー
701を図8に示し、各ボタンについて説明する。この
ペンメニューは、通常のダイアログと同じく、タイトル
バーをドラッグすることにより、任意の位置に移動させ
て表示することができる。ペンメニューの表示されてい
る位置、及び各ボタンの位置を表わす座標情報は常にME
M14に保持され、S10において指示されたモードの
種類の判断の際も、このMEM14に格納されている座標
情報と、マウス20或はデジタイザ24によりクリック
された位置の座標情報との比較により、クリック位置の
ボタンに対応するモードを指示されたモードとして判断
する。
【0046】ボタン801はドローモードへの切り替え
を指示する為のドローモード指示ボタン、ボタン802
は編集モードへの切り替えを指示する為の編集モード指
示ボタン、ボタン803は消しゴムモードへの切り替え
を指示する為の消しゴムモード指示ボタン、ボタン80
4は録音ペンモードへの切り替えを指示する為の録音ペ
ンモード指示ボタン、ボタン805は前の処理を取り消
し、元に戻すことを指示する為のアンドゥ指示ボタン、
ボタン806は指示されている範囲のデータを画面上か
ら切り出すことを指示する為のカットボタン、ボタン8
07は指示されている範囲のデータを画面上に残したま
ま、別領域に保持することを指示する為のコピーボタ
ン、ボタン808はカット或はコピーの操作により特定
されている範囲のデータを指示された位置に表示するこ
とを指示する為のペーストボタン、ボタン809は特定
されている範囲のデータを画面上から削除することを指
示する為のクリアボタン、ボタン810は指示されてい
る軌跡データの座標列をスムージングすることを指示す
る為のスムーズボタン、ボタン811は特定されている
軌跡データを、直線、円形(楕円或は真円)、三角形
(通常或は二等辺三角形或は正三角形)、四角形(長方
形或は正方形)の中から指定された形状に清書すること
を指示する為の清書ボタン、ボタン812は指定されて
いる範囲のデータを回転させた表示に変更することを指
示する為の回転ボタン、ボタン813は指示されている
範囲のデータの大きさを変更する為の変更指示ボタンを
表示させ、そのボタンの操作に応じてデータの大きさを
変更することを指示する為のリサイズボタン、ボタン8
14は指示されている複数のストロークデータを一つの
グループとさせることを指示する為のグループボタン、
ボタン815は指示されている複数のストロークデータ
を各々別個の、グループ化されていない単独データとす
ることを指示する為のアングループボタン、ボタン81
6は文書作成ウインドウ410に表示される、一文書を
構成する全データを選択することを指示する為の全選択
ボタン、ボタン817は軌跡を入力するペンの属性、即
ち軌跡の属性(線の色及び線の太さ)を変更する為の画
面を表示させることを指示する為のペン設定ボタン、ボ
タン818は文書作成ウインドウに表示され得る、動的
なストローク及び音声データを再生することを指示する
為の再生開始ボタン。この再生開始ボタン818がクリ
ックされたら、その文書に含まれる動的なストローク及
び音声データを入力順に、或は選択されている複数のオ
ブジェクトを選択順に再生する。819は音声データの
入力時及び再生時に、針が振れるイメージを表示させる
ことにより、音声データの入力中であること或は再生中
であることを報知する為のボリュームウインドウ、82
0は再生する音声のボリュームを表わし、また、バーを
上下にドラッグして位置を変更することにより、音声の
再生ボリュームを調整する為のボリューム調整バーであ
る。
【0047】カレントモードが編集モードではなく、ド
ローモード、消しゴムモード、録音ペンモードの時のペ
ンメニューは、図8に示したものと異なり、図9に示し
たペンメニュー901のように、ドローモードボタン8
01、編集モードボタン802、消しゴムモードボタン
803、録音開始を指示する為の録音開始ボタン92
0、アンドゥボタン805、ボリュームウインドウ81
9、動的な軌跡を入力するペンの属性、即ち動的な軌跡
の属性(線の色及び線の太さ)、及び音声の属性(ボリ
ューム及び圧縮処理の有無)を変更する為の画面を表示
させることを指示する為の録音ペン設定ボタン910よ
り構成される。ただし、録音開始ボタン920がクリッ
クされた後は、録音開始ボタンに替って録音終了ボタン
921が表示される。
【0048】S10において、ドローモードボタン80
1、編集モードボタン802、消しゴムモードボタン8
03、録音ペンモード804の何れかがクリックされた
と判断した場合には、そのモードをS12において設定
する。
【0049】S10において、発生したイベントがS6
〜S10で判断される何れでもない場合、即ちクリック
された位置が現在のモードでの何らかの入力であると判
断された場合には、S16でMEM14内のカレントモー
ドを表わすパラメータを読取り、その読取ったモードに
従ってS18〜S24の各モードでの処理に分岐する。
【0050】例えば、S10において録音ペンモードボ
タン804がクリックされたと判断された場合には、録
音ペンモードがカレントモードとしてMEM14に保持さ
れ(S12)、録音ペンモードの時のペンメニュー90
1が文書作成ウインドウに表示される。この時点で、録
音ペン設定ボタン910をクリックすることにより、録
音ペン設定ダイアログ902が文書作成ウインドウに表
示される(図9)。
【0051】録音ペン設定ダイアログ902は、設定可
能なペンの色を切り替え表示するパレット、及び選択さ
れた色を表示するペンの色設定領域911、設定可能な
ペンの太さを列挙し、選択された太さを表示するペンの
太さ設定領域912、ボタンをクリックするごとに音声
データを軌跡と共に録音するか否かを切り替えるボタン
と録音ボリュームを調整するバーとを表示する録音設定
領域913、録音圧縮をするか否かを切り替え指示する
録音圧縮設定領域914から構成される。オペレータは
マウス20或はデジタイザ24を用いてこの録音ペン設
定ダイアログ902上で任意の属性に設定した後、入力
を開始する。録音ペン設定ダイアログ902で設定され
た属性は、MEM14に保持され、設定される度にMEM14
の属性データも変更する。
【0052】図6に、S24の録音ペンモードにおける
処理のフローチャートを示し、動的なストローク或は音
声データからなる複数のオブジェクトのデータを入力す
る処理について説明する。ここで、オブジェクトとは、
録音開始ボタン920が押下されてから録音終了ボタン
921が押下されるまでの間に入力されたデータ全てを
まとめて一オブジェクトと称することにする。図4のア
イコン407〜409は、オブジェクト毎に表示され
る。
【0053】では、図6のフローチャートに基き、録音
ペンによる動的ストローク及び音声データの入力処理に
ついて説明する。
【0054】図10は、S26の文字入力ルーチンにお
いて、キーボード22によりテキスト401及び402
を入力し、画像入力装置34或は通信回線を介して他端
末から入力した病院付近の地図の画像403を入力し、
録音ペンモードが指示されてペンメニュー901が表示
された画面である。ここで、画像は文字と同列で扱うも
のとし、文字入力ルーチンにおいて、画像の入力を指示
することにより、文字カーソル702が表示されている
位置を画像の基準位置として表示する。よって、文字列
(テキスト)の編集により、画像の表示位置も変わる。
録音ペンモードが指示された時点で図6のフローチャー
トに示す処理がスタートし、録音デバイスが本装置に装
着されているかを判断する(S30)。ここで、録音デ
バイスが装置に装着されていないと判断された場合は、
「音声記録デバイスが見つかりません。筆跡の記録のみ
可能です。」といったダイアログを表示し、音声記録デ
バイスが装着されていないことをオペレータに報知す
る。この後の画面が図10に示したものである。
【0055】S30で録音デバイスが装着されているか
否かを判断した後、録音開始ボタン920がクリックさ
れるのを待ち(S32)、クリックされたら録音デバイ
スが有効であるか否か判断する(S34)。この判断
は、S30において装着されていると判断された録音デ
バイスが、録音開始ボタンがクリックされた時点で使用
可能な状態にあるか否かを判断するものである。録音デ
バイスが、本アプリケーションを含め、複数のアプリケ
ーション等でも使用され得る場合は、録音デバイスが使
用中であるか否かを示すフラグを設け、このフラグを判
定することにより、S34の判断を行えば良い。
【0056】S34で録音デバイスが有効であると判断
された場合には、録音ペン設定ダイアログ902内の録
音設定913でマイクボタン(録音するか否かを切り替
えるボタン)がONになっているか否かをMEM14から
読み出す(S36)。マイクボタンがONになっている
場合は、録音ルーチン38を開始し(S38)、S42
で録音終了ボタン921がクリックされて終了の指示が
なされたと判断されるか、或は予め定められ、所定の時
間としてMEM14に保持されていた時間を超えたと判断
されてタイムアウトとなる場合までS38の音声データ
をMEM14に記憶する処理は続けられる。
【0057】また、録音ルーチンの開始と共に、マウス
20或はデジタイザ24により筆跡データが入力された
場合は、入力される筆跡をMEM14に記録するルーチン
を繰り返す(S40)。
【0058】S34で録音デバイスが有効ではないと判
断された場合、及びS36でマイクボタンがONでない
と判断された場合にも、S38の録音ルーチンは行わな
いものの、S42で肯定の判断がなされるまでS40の
筆跡記録ルーチンは繰り返す。
【0059】S42で録音終了ボタン921がクリック
されて終了の指示がなされたと判断されるか、或は予め
定められ、所定の時間としてMEM14に保持されていた
時間を超えてタイムアウトとなった場合は、S38及び
S40で記録されたデータの種類を判別し(S44)、
音声データとストロークデータの両方である場合、音声
データのみである場合、ストロークデータのみである場
合の各処理に分岐する。図4に示した例においては、ア
イコン408に対応するオブジェクトが音声データとス
トロークデータの両方であり、アイコン407に対応す
るオブジェクトがストロークデータのみであり、アイコ
ン409に対応するオブジェクトが音声データのみであ
る。アイコンの種類も、このオブジェクトのデータ種類
に応じて切り替えることにより、オブジェクトのデータ
の種類をオペレータに報知することができる。
【0060】記録種類が音声データとストロークデータ
であった場合は、録音ペン設定ダイアログ902内の録
音圧縮914において圧縮指定がなされているか否かを
示すパラメータをMEM14から読み出す(S46)。圧
縮指定がなされている場合は、S38でMEM14に格納
した音声データの圧縮を行う(S48)。圧縮指定がな
されていない場合は、S50に進む。
【0061】S38及びS40でMEM14に記憶された
音声データ及びストロークデータ(筆跡データ)につい
て、音声データのファイル化を行い(S50)、音声ク
ラスタを作成し(S52)、ストローククラスタグルー
プを作成し(S54),グループクラスタを作成し(S
56)、編集モードに戻る(S68)。S42で肯定の
判断がなされる前の、ストロークデータ及び音声データ
を入力している途中の表示画面は図11のようであり、
S42で肯定の判断がなされた後の表示画面は図12の
ようである。図11において、マウスカーソル或はペン
により指示されている位置を示すカーソルは、録音開始
ボタン920がクリックされてから録音終了ボタン92
1がクリックされるまでの間は420のような形状であ
って、ペンメニューにおける録音開始ボタン920に替
って録音終了ボタン921が表示されている。また、音
声データの録音中は、ボリュームウインドウ819の針
が振れている状態の表示にする。図12において、スト
ロークデータと音声データの両方が入力されたので、両
方のデータが記録されていることを示すアイコン408
を表示している。アイコン408の表示位置は、ストロ
ークデータの外接矩形の左上とする。しかし、アイコン
の表示位置はこのような位置に限定されるものではな
く、ストロークの外接矩形の右上でも、一番最初に入力
された座標位置でも、また、ストロークや下の画像、テ
キストにかぶらないように配慮した位置にしても良い。
また、ストロークデータが入力されず、音声データのみ
の場合は、アイコンはデフォルトで定めた位置に表示す
る。
【0062】S44で記録種類が音声データのみである
と判断された場合は、S58〜S64の処理を行い、編
集モードに戻る(S68)。S58〜S64の処理は、
S46〜S52の処理と同様である。
【0063】S44で記録種類がストロークデータのみ
であると判断された場合は、S54と同様のS66の処
理を行い、編集モードに戻る(S68)。
【0064】S44で何のデータも記録されていないと
判断された場合も、編集モードに戻る(S68)。
【0065】S50〜S66の処理により作成されるデ
ータ及びS18のドローモードで入力されるデータの構
造を図13に示す。これらのデータは、MEM14に格納
されるものである。
【0066】クラスタデータは、ストロークデータや音
声データをグループ化して1つのオブジェクトとして扱
う場合のMEM14に記憶するデータ構造である。例えば
ドローモードで記入された複数のストロークのグループ
化は、ストロークが記入される間隔(ペンアップからペ
ンダウンまでの時間間隔或はストロークの位置的間隔)
が予め定められ、パラメータとしてMEM14に保持され
ている規定値よりも近い場合に、それらのストロークを
自動的にグループ化する場合、或はグループボタン81
4をクリックすることにより、その時点でオペレータに
より選択されていた複数のデータを後天的にグループ化
する場合等がある。
【0067】通常ストロークデータは、ドローモードに
おいて記入された一つのストロークを単独のデータとし
てMEM14に記憶する場合のデータ構造である。
【0068】再生ストロークデータは、録音ペンモード
において入力されるストロークであり、先に動的ストロ
ークと表現したストロークのデータであって、ストロー
クの座標のみならず、各座標が入力された時間情報をも
合わせてMEM14に記憶する場合のデータ構造である。
ただし、一つのオブジェクトに含まれる全ての動的スト
ロークのデータを保持するのではなく、その中の一つの
ストロークに関するデータのみ保持する。
【0069】音声データは、録音ペンモードにおいて入
力される音声をMEM14に記憶する場合のデータ構造で
ある。
【0070】クラスタデータ、通常ストロークデータ、
再生ストロークデータ、音声データは、全て、Ln(デ
ータ全体のサイズ)、Ox(データの外接矩形の左上の
x座標)、Oy(データの外接矩形の左上のy座標)、
Cx(データの外接矩形の横幅)、Cy(データの外接
矩形の縦幅)、St(データの入力開始時刻)、Et
(データの入力終了時刻)、Dk(ボディ部に格納され
るデータの種別)からなるヘッダと呼ぶ部分と、データ
そのものからなるボディと呼ぶ部分からなる。ボディ部
分には、通常ストロークにはストロークの太さや色の属
性データと、n個の座標点列Pi(i=1〜n)が、再
生ストロークデータにはストロークの太さや色の属性デ
ータと、n個の座標点列Pi(i=1〜n)の他に、各
座標点が入力された時の時間を示すn個の時間情報Pi
t(i=1〜n)が、音声データには音声データを格納
しているファイル名であるszVoiceFileNa
meが格納される。
【0071】階層構造に構成されているクラスタデータ
の一例をクラスタ階層構造として示す。C0Hはルート
クラスタのヘッダ部、C0Bはルートクラスタのボディ
部であって、このC0BはクラスタC1,クラスタC4
を含んでいる。C1HはクラスタC1のヘッダ部、C1
BはクラスタC1のボディ部、C4HはクラスタC4の
ヘッダ部、C4BはクラスタC4のボディ部であって、
クラスタC1はクラスタC2とクラスタC3を含んでい
る。C2HはクラスタC2のヘッダ部、C2Bはクラス
タC2のボディ部、C3HはクラスタC3のヘッダ部、
C3BはクラスタC3のボディ部を表わす。
【0072】各クラスタのデータが再生ストロークデー
タであるのか音声データであるのかによって、ヘッダ部
及びボディ部に各々のデータが格納される。
【0073】尚、上記各データの座標値は、データが入
力された文書の左上を基準とした座標軸に沿ったもので
あり、この基準座標軸は、テキストデータと一致する。
【0074】このように、図5及び図6のフローチャー
トで説明した処理により作成された文書は、テキスト情
報と共に図13に示されたような構造のデータが一文書
として文書名で識別可能なようにしてMEM14に記憶さ
れ、その後の処理に利用できるようになる。例えば、画
像出力手段34による文書の印刷、モデム38を介して
他のファクシミリやコンピュータへの送信、FD18等
の着脱可能な記憶媒体への記憶等を行ない、必要に応じ
て呼び出して再生させる事ができる。
【0075】次に、以上のような記憶、送信の後に再生
する場合、或は文書作成途中で再生する場合の処理につ
いて図14〜16のフローチャートに基き説明する。
【0076】動的ストローク及び音声の再生は、(1)
再生開始ボタン818をクリックする。(2)再生した
いオブジェクトのアイコンをダブルクリックする。の2
通りがある。更に、(1)の再生方法では、再生開始ボ
タン818がクリックされた時点のオブジェクトの選択
状態に従って再生の対象を以下の2ケースに切り替え
る。(1−1)選択操作が行なわれていない状態で再生
開始ボタン818がクリックされた場合は、その文書に
含まれているオブジェクトが再生対象となり、オブジェ
クトの入力順に再生される場合と、(1−2)オブジェ
クトの一部をクリックして選択状態にし、複数のオブジ
ェクトが選択状態になっている場合にはその選択操作が
なされた順にオブジェクトを再生する場合とがある。
【0077】ここでは、(1−1)の選択操作が行われ
ていない状態でオブジェクトの再生が指示された時の処
理の例で図14のフローチャートを説明する。
【0078】まず、再生オブジェクトとして文書に含ま
れているオブジェクトの数をMEM14のデータから計数
し、numObjとしてMEM14に格納する(S7
0)。MEM14内のカウンタiを1に初期化し(S7
2)、iがnumObjより大きい値になっているか否
か判定し(S73)、否判定の場合はS74に進む。S
73の判定は、iがnumObjより大きい値になった
との判定、即ちS70で対象として求めた全てのオブジ
ェクトについて以下のS74〜S96の処理が行われた
と判定されるまで繰り返される。
【0079】ここでは、オブジェクトの入力された順に
S74〜S96の処理を繰り返すので、オブジェクトの
入力された順に再生オブジェクトを検索をする(S7
4)。この、オブジェクトの入力された順は、MEM14
に格納されているクラスタデータのヘッダ部のSt(入
力開始時刻)を検索して、早い時刻のものから順に検索
することにより可能である。
【0080】i番目の再生オブジェクトのデータをMEM
14内の作業エリアにコピーし(S76)、i番目の再
生オブジェクトのアイコンを表示画面上から消去する
(S78)。i番目のオブジェクトに再生ストロークが
有るか否か判定し(S80)、再生ストロークがある場
合はそのストロークを表示画面から消去する(S8
2)。再生ストロークを消去した画素には、ストローク
の下に位置する画像データ(例えば他のストローク、テ
キスト、画像等)を描画する。
【0081】図4に例示した文書を表示して再生開始ボ
タン818をクリックし、最初に記入したオブジェクト
(ストローク405と406及び音声データ)が再生対
象となっている状態でS82までの処理が進んだ時の表
示画面を図17に示す。1番目のオブジェクトのアイコ
ン408とストローク405、406が画面から消去さ
れている。
【0082】次に、i番目のオブジェクトのデータの再
生ルーチン(S86)を行う。この再生ルーチンの処理
については、図15のフローチャートにより後述する。
S80でi番目のオブジェクトには再生ストロークがな
いと判断された場合には、S82のストローク消去処理
は不要であり、S86で音声のみの再生を行う。
【0083】再生ストロークがあった場合(S90)
は、表示画面に再生ストロークを描画する(S92)。
このストロークの描画は、S86の再生処理が、テンポ
ラリーな画像の再生で有る為、再度ストロークの画像を
描画するものである。
【0084】i番目の再生オブジェクトのアイコンを描
画し(S94)、iを一つインクリメントし(S9
6)、S73に戻り、S70で設定された全てのオブジ
ェクトの再生が繰り返される。
【0085】尚、先にオブジェクトの再生が行なわれる
場合として説明した上記(1−2)の場合は、S70で
再生オブジェクトとして選択状態になっているオブジェ
クトの数をnumObjに設定し、S74では選択操作
された順にオブジェクトを検索する。また、上記(2)
の場合は、S70で再生オブジェクトの数として1をn
umObjに設定する。
【0086】S86の再生ルーチンを図15のフローチ
ャートを用いて説明する。再生オブジェクトの種類が判
断され(S100)、音声データとストロークデータの
両方であるのか、音声データのみであるのか、ストロー
クデータのみであるのかに従って処理が分岐する。こ
の、オブジェクトの種類は、S76で作業エリアにコピ
ーされた対象データを解析し、このデータに含まれるヘ
ッダ部のDk(種別)データを判別することにより可能
である。
【0087】再生オブジェクトのデータが音声データと
ストロークデータの両方である場合には、音声開始時刻
(対象データの音声データヘッダ部のSt)とストロー
ク開始時刻(対象データに含まれる再生ストロークデー
タのヘッダ部Stが最も早いもの)との差を求め、di
ffTimeとしてMEM14に記憶する(S102)。
【0088】音声データが圧縮されていると判断される
場合には(S104)、圧縮を解凍し(S106)、中
断イベント検知ループを生成し(S108)、音声の再
生を開始する(S110)。
【0089】中断イベントは、例えば、再生終了ボタン
のクリックや、入力モードの切り替え等である。
【0090】ストロークの再現ルーチン(S112)
は、図16のフローチャートにおいて後述する。
【0091】音声の再生が終了したと判断されたら(S
114)、「ジャン♪」等の所定の音を出力する等し
て、再生処理の終了をオペレータに告知する(S13
2)。ここで、音声の再生処理の終了の判断は、音声フ
ァイルに格納されているデータの末尾まで再生がなされ
たことの判断に基づく。
【0092】S100で再生オブジェクトの種類が音声
データのみであると判定された場合は、S116に進
み、音声データが圧縮されていると判断される場合には
(S116)、圧縮を解凍し(S118)、中断イベン
ト検知ループを生成し(S120)、音声の再生を開始
する(S122)。音声の再生が終了したと判断された
ら(S124)、再生処理の終了をオペレータに告知す
る(S132)。
【0093】S100で再生オブジェクトの種類がスト
ロークデータのみであると判断された場合は、S126
に進み、diffTimeとして0をMEM14に記憶
し,中断イベント検知ループを生成し(S128)、ス
トロークを再現する(S130)。ストロークの再現ル
ーチンは、S112と同じく、図16のフローチャート
により説明する。ストロークの再現が終了したら、再生
処理の終了をオペレータに告知する(S132)。
【0094】ストロークの再現処理は、図16のフロー
チャートのように行なう。
【0095】まず、i番目の再生オブジェクトのストロ
ーク数を、S76でコピーされたデータのボディ部のデ
ータを解析してストロークデータの個数を計数し、この
値をnumStrkとしてMEM14に記憶する(S1
40)。
【0096】numStrkが0より大きいか判定し
(S142)、肯定判定の場合はS144に進む。S1
42の判定は、numStrkが0より大きいと判定さ
れるまで、即ちS140で計数された全てのストローク
に対して以下のS144〜S166のストロークを再現
する処理が行なわれたと判断されるまで繰り返される。
【0097】S144で、diffTimeに設定され
ている時間スリープ状態となる。ここで、現在処理対象
となっているストロークが1番目のストロークである場
合、S112ではdiffTimeはS102で記憶さ
れた音声開始時刻とストローク開始時刻の差であり、S
130ではdiffTimeはS126で設定された0
である。
【0098】また、S144〜S166の処理を行う対
象のストロークは、S140で計数されたストロークデ
ータであるが、各々のストロークデータのヘッダ部のS
t(入力開始時刻)を比較して、最も早いストロークか
ら順にS144〜S166の処理の対象として選択する
ものとする。以下、処理対象となっているストロークデ
ータを、現ストロークデータと称する。
【0099】現ストロークデータの属性を読み込み(S
146),次のストロークデータの描画時刻nextD
rawTimeを求め、MEM14に記憶する(S14
8)。このnextDrawTimeは、現ストローク
データのStと次ストロークデータのStとの差を、現
在時刻(装置内の時計機能における現在時刻)に加算し
たものとする。
【0100】現ストロークデータのポイント数をMEM
14から読み出し、numPtsとしてMEM14に記
憶する(S150)。このポイント数は、ストロークデ
ータのボディ部のnの値とする。
【0101】始点座標(P1)をMEM14から読み出
し、prePtsとしてMEM14に記憶する(S15
2)。MEM14内のカウンタiを1に初期化し(S1
54)、diffPtTimeを0に初期化する(S1
56)する。
【0102】iがnumPtsより小さいか否か判定し
(S158)、肯定判定の場合はS160に進む。S1
58の判定は、iがnumPtsより小さくないと判定
されるまで、即ち、現ストロークの全ての座標点につい
てS160〜S166の再現処理が完了したと判断され
るまで繰り返される。
【0103】diffPtTimeとして設定されてい
る時間スリープ状態とし(S160)、prePtsと
して記憶されている座標からi番目の座標を直線で結ん
で描画し(S162)、i番目の座標時刻(Pit)と
i+1番目の座標時刻(P(i+1)t)との差をdi
ffPtTimeの値として、MEM14のデータを更
新し(S164)、iを一つインクリメントして(S1
66)S158に戻る。
【0104】S158で否定判定がなされたら、S16
8に進んでnumStrkを一つデクリメントし、S1
70でnextDrawTimeと現在時刻を比較す
る。S170でnextDrawTimeが現在時刻
(curTime)より大きいと判断された場合は、M
EM14内のdiffTimeの値をnextDraw
Time−curTimeで求めた値(S148で求め
たnextDrawTimeと現在時刻との差)に更新
し(S172)、S170でnextDrawTime
が現在時刻より大きいのではないと判断された場合は、
MEM14内のdiffTImeを0に更新する(S1
74)。
【0105】S160〜S166の処理を繰り返すこと
により、一つのストロークが、記入された時と同じ速度
で同じ形状、同じ位置に再現され、S144〜S174
の処理を繰り返すことにより、一つのオブジェクトに含
まれる全てのストロークが、記入された時と同じスピー
ド、同じ時間間隔で再現されることになる。
【0106】また、S162におけるストロークの描画
の際に、S146で読み込んだ属性を描画することによ
りS82のストロークの消去なしでもストロークの再生
をユーザに確認させることが可能となる。
【0107】次に、ドローモードにおいて記入された複
数のストロークが、先に述べたようにグループ化され、
一つのオブジェクトとして扱われ、MEM14にはクラ
スタデータとして記憶されているデータについて説明す
る。
【0108】図18に、二つのオブジェクトがドローモ
ードで記入された例を示す。この文書では、木を描いた
2本のストロークからなるオブジェクト1100と、太
陽を描いた13本のストロークからなるオブジェクト1
020がある。ここで、編集モードにおいて、カーソル
でストロークの近傍をクリックすると、そのストローク
を含むオブジェクト全体が選択され、選択されたオブジ
ェクトのヘッダ部のOx、Oy、Cx、Cyのデータに
基づいて選択されたオブジェクトの外接矩形を表示す
る。この外接矩形の表示によって、オブジェクトが選択
されたこと、及びそのオブジェクトに含まれているスト
ロークがどれであるのかをオペレータに報知することに
なる。図18は、カーソル430をオブジェクト102
0の1ストロークの近傍に位置させてクリックしたこと
により、そのストロークを含むオブジェクト1020が
選択され、オブジェクトの外接矩形1021が表示され
ている状態である。
【0109】S20において行なわれる編集処理、移
動、カット、コピー、ペースト、クリア、スムーズ、清
書、回転、リサイズ等の処理は、この選択されたオブジ
ェクト全体に対して行なわれる。
【0110】ここで、選択されたオブジェクトを移動す
る処理について、図19のフローチャートに従って、木
のオブジェクト1100を太陽のオブジェクト1020
に近づける為の移動処理を行う例で説明する。
【0111】図20に、カーソル430でオブジェクト
1100が選択され、外接矩形1101が表示されてい
る時の表示画面を示す。この状態でカーソル430をド
ラッグさせることにより、そのカーソルのx軸方向及び
y軸方向の移動量をxOffset、yOffsetと
してMEM14に記憶する(S230)。移動対象のクラ
スタ(図20ではオブジェクト1100のクラスタ)を
curClstrとしてMEM14に記憶する(S23
2)。curClstrのデータがグループ化されてい
るデータであるか否か判断し(S234)、グループ化
されていると判断される場合は、curClstr内の
全てのクラスタの矩形情報xOrigin、yOrig
inにそれぞれxOffset、yOffsetを加え
る(S26)。即ち、オブジェクト1100のように複
数のストロークが一つのオブジェクトとしてグループ化
されている場合は、全ストロークの矩形情報xOrig
in、yOriginにそれぞれxOffset、yO
ffsetを加える。
【0112】また、S234でcurClstrのデー
タがグループ化されているデータではないと判断された
場合は、curClstrの矩形情報xOrigin、
yOriginそれぞれにxOffset、yOffs
etを加える(S238)。xOffset、yOff
setを加えるS236或はS238の処理が終了した
ら、ルートクラスタの情報を更新する(S240)。マ
ウス20のボタンの継続押下が開放され、ドラッグが終
了した時点で移動指示が終了したと判定し、S236〜
S240で更新されたデータを、移動後のデータとして
MEM14内に記憶されているデータを変更することによ
り、ストロークが移動して表示される。
【0113】図22は、移動の処理が終了して、オブジ
ェクト1100がカーソルの指示した位置に表示を更新
している図である。移動途中では、図21に示されるよ
うに、オブジェクト1100は移動が指示される前の選
択時の位置に保持して表示され、カーソルに追随してス
トローク1103が移動して表示される。このストロー
ク1103は、移動中の仮表示であって、curClu
str内のデータに基づいて表示する。ただし、ストロ
ークの属性は反映させず、表示の変更が容易な、簡単な
線(例えば、線の色は黒で、線の太さは最細)とする。
【0114】次に、S22での消しゴム処理について、
図23のフローチャートに従って説明する。
【0115】消しゴムモードボタン803をクリックす
ることにより、消しゴムモードに切り替わり、マウスカ
ーソルが消しゴムの画像に切り替わる(図24の画面例
示図における消しゴムカーソル1000)。マウス20
のボタン押下或は、デジタイザ24がペンダウンの検知
に応じて、その位置に消しゴムカーソルを表示し、その
座標値をptEraseとしてMEM14内に記憶する
(S180)。文書内のオブジェクトの数をMEM14に
記憶されているデータから計数し、numObjとして
MEM14に記憶し(S182)、カウンタiを1に初期
化する(S190)。iがnumObj以下であるか否
か判定し(S192)、肯定判定の場合はS194に進
む。このS192のiがnumObj以下であるか否か
の判定は、iがnumObj以下ではないと判定される
まで、即ちS182で計数されたオブジェクト全てに対
して消しゴムカーソルの位置がオブジェクトに内包され
ているか否かの判断(S194)が行なわれたと判定さ
れるまで繰り返される。
【0116】S194では、ptEraseをi番目の
オブジェクトのヘッダ部の外接矩形を表わす情報と比較
して、ptEraseが外接矩形に含まれているか否か
を判断することにより、消しゴムカーソルがi番目のオ
ブジェクト矩形に含まれるか否かを判断する。含まれる
と判断された場合は、続けてptEraseをi番目の
オブジェクトの各クラスタのヘッダ部の外接矩形を表わ
す情報と比較することにより、ptEraseを内包す
るクラスタを全て抽出し(S198)、抽出されたクラ
スタデータの数を計数してnumClstrとしてMEM
14に記憶し(S200)、カウンタjを1に初期化す
る(S202)。jがnumClstr以下であるか否
か判定し(S204)、肯定判定の場合はS206に進
む。否定判定の場合は、S198で抽出された全てのク
ラスタについて、消しゴムカーソルがそのクラスタの表
わすストロークの近傍であるか否かの判断(S206)
を完了したと判定したことになるので、S196に進ん
でiを一つインクリメントし、次のオブジェクトとの比
較に移る。
【0117】S206では、ptEraseがj番目の
クラスタ内のストロークの近傍点であるか否かを判断す
る。この判断は、ptEraseとj番目のクラスタ内
の各座標点を結ぶ直線との距離を比較し、MEM14内に
予め記憶されている所定距離値の閾値より近い場合は、
ptEraseがj番目のクラスタ内のストロークの近
傍点であると判断することとする。S206で近傍点で
はないと判断された場合は、S208でjを一つインク
リメントし、次のクラスタとの比較に進む。S206で
近傍点であると判断された場合は、S210に進み、該
当クラスタ(j番目のクラスタ)をMEM14及び表示画
面上から削除する。
【0118】図25は、図18において説明したよう
に、13本のストロークが一つのオブジェクトとしてグ
ループ化されているものであるが、各ストロークは各々
別個のクラスタデータとして扱われている。点線は、各
クラスタの外接矩形である。ここで、消しゴムカーソル
1000がストローク1026に接近すると、消しゴム
カーソル1000の位置がストローク1026の近傍点
であるとS206で判断され、S210でストローク1
026が消去される。ストローク1026が消去された
画面が図26である。オブジェクトを構成する1クラス
タデータが消去されたあとは、オブジェクト1021は
残りの12本のストロークで構成される。図25及び図
26において、各クラスタを説明する点線枠を示した
が、消しゴムモードにおいては、実際は点線枠は表示し
ない。
【0119】尚、ここでは消しゴムモードにおいてのみ
処理対象を単独のストロークとする例について説明した
が、これは消しゴムモードに限るものではなく、他の編
集機能においても、処理対象を単独ストロークとする機
能実行時にS204〜S220の処理を実行し、単独ス
トロークのみの取り出しと、処理実行を行っても良い。
この場合、編集モードの種類によって、処理対象を単独
のストロークにするか、1グループに属する全てのスト
ロークにするかを予め設定し、テーブルとしてメモリ1
4に記憶しておき、指示された編集モードがどちらの設
定になっているか否かの判定によって、処理対象を切り
替える。
【0120】以上、文書処理におけるストロークの入
力、編集について説明したが、これらの処理は、電子メ
ール等における文書処理機能として利用することができ
る。
【0121】電子メールにおいて、送信者により行なわ
れる文書作成時の処理は上記処理と同じであるが、スト
ロークや音声データを含む電子メールの受信者がメール
を返信する時に、受信したメールを引用する場合の処理
について図27のフローチャートを用いて説明する。
【0122】挿入コメントの情報を、MEM14の引用書
式記憶領域から読み出して(S250)、挿入コメント
情報内のx方向のずれ量、y方向のずれ量を計算し、x
Move、yMoveとしてMEM14に記憶する(S2
52)。x方向のずれ量は、引用書式において設定され
ている文書の先頭への挿入コメント文章を読み出し、そ
の行数と、挿入コメントを出力する書式(行ピッチ、文
字サイズ等)とから、挿入コメントに要するx方向の長
さを求め、その値をx方向のずれ量とする。y方向のず
れ量は、引用書式において設定されている行頭の引用記
号の文字数と、引用記号を出力する書式(文字ピッチ、
文字サイズ等)とから、引用記号に要するy方向の長さ
を求め、その値をy方向のずれ量とする。引用記号と
は、引用する文章の各行の行頭に繰り返し挿入する文字
列のことであり、挿入コメント文章とは、引用する文章
の先頭に挿入する文字列のことである。尚、この挿入コ
メント文章と引用記号の内容、文字数、行数はユーザに
より自在に設定可能であり、設定された情報をメモリ1
4に記憶しておくことにより、引用処理時に適当なずれ
量を求めることができる。
【0123】引用するメールのストロークデータ、音声
データからなる元インクデータを受信したメールを記憶
しているMEM14の記憶領域から読み出して、MEM14内
の作業エリアにコピーして記憶し(S254)、MEM1
4に記憶されているxMoveの値をxOffsetの
値として、yMoveの値をyOffsetの値とし
て、MEM14に記憶する(S256)。
【0124】S254でコピーされたインクデータに対
し、移動ルーチンを呼び出し(S258)、移動ルーチ
ンを実行する(S260)。移動ルーチンは図19のフ
ローチャートに示した通りである。
【0125】移動後のインクデータを表示用メモリに描
画し、画面に表示する(S262)。
【0126】図27のフローチャートにおいては、イン
クデータ(ストロークデータ及び音声データ)の移動に
ついて説明したが、受信メールに含まれるテキストにつ
いては、テキスト編集の処理における、挿入コメント文
章及び引用記号の挿入と同様の処理が実行され、引用処
理前後で、受信メールに含まれているテキストデータ
と、インクデータの相対位置関係は変化しない。
【0127】図28に、電子メールの受信画面を示す。
メールの内容は、テキスト「本日の会議の出欠をお願い
します。」(2000)と、「出」及び「欠」を表わす
ストローク2100と、テキスト「PS.会議場所はA
会議室です。」(2001)と、メール発信者の署名2
002からなっている。このメールに対して返信を指示
すると、図27の処理が実行され、受信したメールの内
容が引用され、図29に示すように挿入コメント220
0及び引用記号2201が各行先頭に挿入された画面が
表示される。
【0128】図27のフローチャートに示した引用処理
を施すことにより、メールを受信した時のテキストデー
タとインクデータの相対位置関係(図28)と、メール
返信時のテキストデータとインクデータの相対位置関係
(図29)とで変化しない。
【0129】
【発明の効果】以上説明したように、本発明によれば、
軌跡情報の再生の時に、軌跡の下に表示されている画像
情報を確認することができる。
【0130】以上説明したように、本発明によれば、軌
跡情報の再生の時に、軌跡の下に隠れていた画像情報を
視認できる状態で軌跡の再生を確認できるので、軌跡が
記入された画像情報と軌跡情報の関係をより正確に把握
することができる。
【0131】以上説明したように、本発明によれば、情
報の再生指示手段による指示に応じて情報を再生する時
に、情報の選択状態に応じて再生順を切り替えるので、
一つの再生指示手段でもその時々の状況に応じた適切な
順番での再生を可能とする。
【図面の簡単な説明】
【図1】本発明に係る装置の概略構成図
【図2】本発明に係る装置の外観図
【図3】本発明に係る装置の機能構成図
【図4】本発明の実施の形態において作成する文書の例
示図
【図5】文書を作成する処理全体のフローチャート
【図6】録音ペンモードにおける処理のフローチャート
【図7】編集モードになっている時の文書作成ウインド
ウ例示図
【図8】編集モードでのペンメニュー例示図
【図9】録音ペンの属性設定時の画面
【図10】録音ペンによる動的ストロークを入力する前
の画面例示図
【図11】動的ストロークを入力している途中の画面の
例示図
【図12】一つのオブジェクトのデータ入力を終了した
画面の例示図
【図13】データ構造を示す図
【図14】オブジェクトの再生処理のフローチャート
【図15】再生ルーチンのフローチャート
【図16】ストローク再現処理のフローチャート
【図17】図4の文書を再生している途中の画面を説明
する図
【図18】オブジェクト選択状態の画面を説明する図
【図19】オブジェクトの移動処理のフローチャート
【図20】移動するオブジェクトを指示した状態の画面
例示図
【図21】オブジェクトの移動途中の画面例示図
【図22】オブジェクトの移動が終了した時の画面例示
【図23】消しゴム処理のフローチャート
【図24】消しゴムモードでの画面例示図
【図25】グループ化されている複数のストローク各々
の外接矩形を説明する図
【図26】消しゴムにより一つのストロークが消去され
た時の画面例示図
【図27】引用処理のフローチャート
【図28】受信メール例示図
【図29】返信メール例示図

Claims (21)

    【特許請求の範囲】
  1. 【請求項1】 複数の情報を記憶し、 前記記憶されている情報の再生を指示し、 前記記憶されている情報における選択状態を判別し、 前記指示に応じた情報の再生の順番を、前記判別に従っ
    て、情報の入力順か、情報の選択順に切り替えることを
    特徴とする情報処理方法。
  2. 【請求項2】 記憶されている情報の表示再生を指示
    し、 前記記憶されている情報における選択状態を判別し、 前記指示に応じた情報の再生の順番を、前記判別に従っ
    て、情報の入力順か、情報の選択順に切り替え、 前記切り替えられた順番で情報の表示を再生する場合
    に、該情報を一旦消去した後、該再生を開始するよう制
    御することを特徴とする情報処理方法。
  3. 【請求項3】 画像を再生する為の画像情報を記憶し、 軌跡を再生する為の軌跡情報を記憶し、 音声を再生する為の音声情報を記憶し、 軌跡と音声とを同期して再生する場合に、画像情報を表
    示したまま、再生する軌跡情報を表示画面から一旦消去
    した後、該軌跡情報と音声情報の再生を開始することを
    特徴とする情報処理方法。
  4. 【請求項4】 音声情報に関連つけられている文書上の
    位置にアイコンを表示し、前記軌跡情報を表示画面から
    消去する時に該軌跡情報と同期して再生する音声情報に
    関連つけられているアイコンを表示画面から消去するこ
    とを特徴とする請求項3に記載の情報処理方法。
  5. 【請求項5】 前記軌跡と音声との再生を、該軌跡が表
    示されている画面上で指示することを特徴とする請求項
    3に記載の情報処理方法。
  6. 【請求項6】 画像情報と、軌跡情報と、音声情報とを
    送受信することを特徴とする請求項3に記載の情報処理
    方法。
  7. 【請求項7】 前記軌跡の再生は、該軌跡が記入された
    速度で再生することを特徴とする請求項3に記載の情報
    処理方法。
  8. 【請求項8】 前記軌跡の表示画面からの消去と再生
    は、グループ化されている軌跡ごとに行うことを特徴と
    する請求項3に記載の情報処理方法。
  9. 【請求項9】 前記画像情報は、テキスト情報を含むこ
    とを特徴とする請求項3に記載の情報処理方法。
  10. 【請求項10】 複数の情報を記憶する記憶手段と、 前記記憶手段に記憶されている情報の再生を指示する指
    示手段と、 前記記憶手段に記憶されている情報における選択状態を
    判別する判別手段と、 前記指示手段による指示に応じた情報の再生の順番を、
    前記判別手段による判別に従って、情報の入力順か、情
    報の選択順に切り替える切り替え手段とを有することを
    特徴とする情報処理装置。
  11. 【請求項11】 複数の情報を記憶する記憶手段と、 前記記憶手段に記憶されている情報の表示再生を指示す
    る指示手段と、 前記記憶手段に記憶されている情報における選択状態を
    判別する判別手段と、 前記指示手段による指示に応じた情報の再生の順番を、
    前記判別手段による判別に従って、情報の入力順か、情
    報の選択順に切り替える切り替え手段と、 前記切り替え手段により切り替えられた順番で情報の表
    示を再生する場合に、該情報を一旦消去した後、該再生
    を開始するよう制御する制御手段とを有することを特徴
    とする情報処理装置。
  12. 【請求項12】 画像を再生する為の画像情報を記憶す
    る画像情報記憶手段と、 軌跡を再生する為の軌跡情報を記憶する軌跡情報記憶手
    段と、 音声を再生する為の音声情報を記憶する音声情報記憶手
    段と、 軌跡と音声とを同期して再生する同期再生手段と、 前記軌跡と音声とを同期して再生する場合に、画像情報
    を表示したまま、再生する軌跡情報を表示画面から一旦
    消去した後、該軌跡情報と音声情報の再生を開始する表
    示制御手段とを有することを特徴とする情報処理装置。
  13. 【請求項13】 前記表示制御手段は、音声情報に関連
    つけられている文書上の位置にアイコンを表示し、前記
    軌跡情報を表示画面から消去する時に該軌跡情報と同期
    して再生する音声情報に関連つけられているアイコンを
    表示画面から消去することを特徴とすることを特徴とす
    る請求項12に記載の情報処理装置。
  14. 【請求項14】 前記軌跡と音声との再生を、該軌跡が
    表示されている画面上指示する指示手段を有することを
    特徴とすることを特徴とする請求項12に記載の情報処
    理装置。
  15. 【請求項15】 画像情報と、軌跡情報と、音声情報と
    を送受信する通信制御手段とを有することを特徴とする
    ことを特徴とする請求項12に記載の情報処理装置。
  16. 【請求項16】 前記軌跡の再生は、該軌跡が記入され
    た速度で再生することを特徴とすることを特徴とする請
    求項12に記載の情報処理装置。
  17. 【請求項17】 前記軌跡の表示画面からの消去と再生
    は、グループ化されている軌跡ごとに行うことを特徴と
    することを特徴とする請求項12に記載の情報処理装
    置。
  18. 【請求項18】 前記画像情報は、テキスト情報を含む
    ことを特徴とすることを特徴とする請求項12に記載の
    情報処理装置。
  19. 【請求項19】 複数の情報を記憶する工程のプログラ
    ムと、 前記記憶されている情報の再生を指示する工程のプログ
    ラムと、 前記記憶されている情報における選択状態を判別する工
    程のプログラムと、 前記指示に応じた情報の再生の順番を、前記判別に従っ
    て、情報の入力順か、情報の選択順に切り替える工程の
    プログラムとを記憶した、コンピュータにより読取り可
    能な記憶媒体。
  20. 【請求項20】 記憶されている情報の表示再生を指示
    する工程のプログラムと、 前記記憶されている情報における選択状態を判別する工
    程のプログラムと、 前記指示に応じた情報の再生の順番を、前記判別に従っ
    て、情報の入力順か、情報の選択順に切り替える工程の
    プログラムと、 前記切り替えられた順番で情報の表示を再生する場合
    に、該情報を一旦消去した後、該再生を開始するよう制
    御する工程のプログラムととを記憶した、コンピュータ
    により読取り可能な記憶媒体。
  21. 【請求項21】 画像を再生する為の画像情報を記憶す
    る工程のプログラムと、 軌跡を再生する為の軌跡情報を記憶する工程のプログラ
    ムと、 音声を再生する為の音声情報を記憶する工程のプログラ
    ムと、 軌跡と音声とを同期して再生する場合に、画像情報を表
    示したまま、再生する軌跡情報を表示画面から一旦消去
    した後、該軌跡情報と音声情報の再生を開始する工程の
    プログラムとを記憶した、コンピュータにより読取り可
    能な記憶媒体。
JP24399097A 1997-09-09 1997-09-09 情報処理方法及び装置及びその記憶媒体 Withdrawn JPH1186016A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP24399097A JPH1186016A (ja) 1997-09-09 1997-09-09 情報処理方法及び装置及びその記憶媒体
US09/148,473 US6384851B1 (en) 1997-09-09 1998-09-08 Apparatus for facilitating observation of the screen upon reproduction
DE69836664T DE69836664D1 (de) 1997-09-09 1998-09-09 Informationsverarbeitungsverfahren und -vorrichtung sowie Speichermedium dafür
EP98307301A EP0905483B1 (en) 1997-09-09 1998-09-09 Information processing method and apparatus, and storage medium thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24399097A JPH1186016A (ja) 1997-09-09 1997-09-09 情報処理方法及び装置及びその記憶媒体

Publications (1)

Publication Number Publication Date
JPH1186016A true JPH1186016A (ja) 1999-03-30

Family

ID=17112081

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24399097A Withdrawn JPH1186016A (ja) 1997-09-09 1997-09-09 情報処理方法及び装置及びその記憶媒体

Country Status (4)

Country Link
US (1) US6384851B1 (ja)
EP (1) EP0905483B1 (ja)
JP (1) JPH1186016A (ja)
DE (1) DE69836664D1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009050528A (ja) * 2007-08-28 2009-03-12 Tanita Corp 生体測定装置
JP2015197765A (ja) * 2014-03-31 2015-11-09 富士通株式会社 表示制御プログラム、表示制御装置及び表示制御方法

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6938222B2 (en) * 2002-02-08 2005-08-30 Microsoft Corporation Ink gestures
US7337399B2 (en) * 2005-01-03 2008-02-26 Infoprint Solutions Company Apparatus, system, and method for editing a region of a document intersecting multiple content component types in a single operation
US8739068B2 (en) * 2007-06-15 2014-05-27 Microsoft Corporation Dynamic user interface for in-diagram shape selection
US8762871B2 (en) * 2008-02-03 2014-06-24 Microsoft Corporation Dynamic preview of diagram elements to be inserted into a diagram
KR20110020642A (ko) * 2009-08-24 2011-03-03 삼성전자주식회사 사용자 접근을 인식하여 반응하는 gui제공 장치 및 방법
USD665408S1 (en) * 2011-03-09 2012-08-14 Microsoft Corporation Display screen with graphical user interface
USD667434S1 (en) * 2011-09-12 2012-09-18 Microsoft Corporation Display screen with icon
KR102013239B1 (ko) * 2011-12-23 2019-08-23 삼성전자주식회사 디지털 영상 처리장치, 및 그 제어방법
KR101909031B1 (ko) * 2012-07-26 2018-10-17 엘지전자 주식회사 이동 단말기 및 이의 제어 방법
KR102102663B1 (ko) * 2012-10-05 2020-04-22 삼성전자주식회사 휴대단말기의 사용 방법 및 장치
JP5775240B1 (ja) * 2014-12-18 2015-09-09 株式会社ワコム デジタルインク生成装置、デジタルインク生成方法、及びプログラム
US20160321025A1 (en) * 2015-04-30 2016-11-03 Kabushiki Kaisha Toshiba Electronic apparatus and method

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5191617A (en) * 1987-04-20 1993-03-02 Intechnica International, Inc. Voice interactive computer system
AU624838B2 (en) * 1988-05-27 1992-06-25 Global 360, Inc. Document annotation and manipulation in a data processing system
US5596702A (en) * 1993-04-16 1997-01-21 International Business Machines Corporation Method and system for dynamically sharing user interface displays among a plurality of application program
US5801687A (en) * 1994-09-30 1998-09-01 Apple Computer, Inc. Authoring tool comprising nested state machines for use in a computer system
WO1996031829A1 (en) * 1995-04-06 1996-10-10 Avid Technology, Inc. Graphical multimedia authoring system
JP3442192B2 (ja) * 1995-05-31 2003-09-02 シャープ株式会社 データ駆動型情報処理装置
GB2315577A (en) * 1996-07-20 1998-02-04 Ibm Grouping of operations in a computer system
US5812977A (en) * 1996-08-13 1998-09-22 Applied Voice Recognition L.P. Voice control computer interface enabling implementation of common subroutines

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009050528A (ja) * 2007-08-28 2009-03-12 Tanita Corp 生体測定装置
JP2015197765A (ja) * 2014-03-31 2015-11-09 富士通株式会社 表示制御プログラム、表示制御装置及び表示制御方法

Also Published As

Publication number Publication date
US6384851B1 (en) 2002-05-07
EP0905483A3 (en) 2003-09-03
EP0905483B1 (en) 2006-12-20
DE69836664D1 (de) 2007-02-01
EP0905483A2 (en) 1999-03-31

Similar Documents

Publication Publication Date Title
JPH1186015A (ja) 情報処理方法及び装置及びその記憶媒体
US9207858B2 (en) Method and apparatus for drawing and erasing calligraphic ink objects on a display surface
KR101804759B1 (ko) 입출력 장치, 정보 입출력 시스템
JP2589999B2 (ja) 図形入出力装置
JPH1186016A (ja) 情報処理方法及び装置及びその記憶媒体
US20020141643A1 (en) Method for creating and operating control systems
JPH1185739A (ja) 情報処理方法及び装置及びその記憶媒体
EP1876516A1 (en) Information processing device, image movement instructing method, and information storage medium
US20040161151A1 (en) On-line handwritten character pattern recognizing and editing apparatus and method, and recording medium storing computer-executable program for realizing the method
JP2000029909A (ja) フリ―フォ―ムインクからアドホックリンクを生成する方法及びシステム
JPH05330289A (ja) 電子黒板装置
JPH06208654A (ja) ペン入力図形編集システム
US20140092101A1 (en) Apparatus and method for producing animated emoticon
JPH09244599A (ja) ペンベースのコンピューティングにおける消去機能
JP3007232B2 (ja) 描画処理装置及び方法
JP2007066081A (ja) 電子会議装置及び電子会議装置制御プログラム
US6448959B1 (en) Desired region specifying system in an image editing apparatus
JPH07200154A (ja) 手書き図形入力装置
JPH06309395A (ja) 画像作成装置
JP2000099223A (ja) 手書き文字入力インタフェースを有するデータ処理装置及び記録媒体
JP2008102613A (ja) 検索結果表示装置及び方法、並びプログラム
JPH08255221A (ja) 文字図形入力編集装置
JP2935336B2 (ja) 図形入出力装置
JP2660795B2 (ja) 手書き入力編集方法
JP2543926B2 (ja) スケジュ―ル管理装置

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20041207