JPH0793527A - オブジェクト指向グラフィック入力及びディスプレイシステム - Google Patents

オブジェクト指向グラフィック入力及びディスプレイシステム

Info

Publication number
JPH0793527A
JPH0793527A JP6175278A JP17527894A JPH0793527A JP H0793527 A JPH0793527 A JP H0793527A JP 6175278 A JP6175278 A JP 6175278A JP 17527894 A JP17527894 A JP 17527894A JP H0793527 A JPH0793527 A JP H0793527A
Authority
JP
Japan
Prior art keywords
objects
image
user
routine
data structure
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP6175278A
Other languages
English (en)
Other versions
JP3974196B2 (ja
Inventor
Eric Saund
サウンド エリック
Thomas P Moran
パトリック モラン トマス
Craig D Becker
デイヴィッド ベッカー クレイグ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xerox Corp
Original Assignee
Xerox Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xerox Corp filed Critical Xerox Corp
Publication of JPH0793527A publication Critical patent/JPH0793527A/ja
Application granted granted Critical
Publication of JP3974196B2 publication Critical patent/JP3974196B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)
  • Digital Computer Display Output (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

(57)【要約】 【目的】 改善されたグラフィカルエレメントの操作を
可能とするシステムを提供すること。 【構成】 ディスプレイコンポーネント138へ入力さ
れたデータは入力オブジェクトとして機能ブロック14
6へ提供され、非活動状態の非決定ブロック140の期
間中感知されたオブジェクトの描画終了時にユーザによ
ってこのヒューリスティックに定義されたエリアに基づ
いてコンピュータにより当該エリアが推論される。コン
ピュータは複雑なストラクチュア変換ルールを推論され
た空間的にフォーカスされたエリア内で検索されるオブ
ジェクトへ用い、得られる定義されたオブジェクトはデ
ィスプレイのために記憶され、ユーザはオブジェクトを
描画することによって、及びオブジェクト選択を開始し
て、オブジェクトを取り去ることによって、定義された
オブジェクトと対話する。描画されたオブジェクトは分
解されるか又はこれ以降定義されるプライムオブジェク
トへ分解される。分解されたプライムオブジェクトはP
OストラクチュアだけでなくCOストラクチュアを更新
するために使用される。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、一般にコンピュータグ
ラフィックスに係り、特に、ユーザがマウス、スタイラ
ス、オペレータの手又は他の形態のポインティングデバ
イスを用いてグラフィカル画像を作成し且つ編集するの
を可能とするシステムと方法に関する。
【0002】
【従来の技術】一般にポインティングデバイスによるコ
ンピュータグラフィックスの動作は二つのタイプがあ
る。描画動作と制御動作である。描画動作は、ペンに表
面と接触するようにモーションを起こさせることによっ
て一枚のペーパー(用紙)に描画するのと同じ様に画像
上に可視のマークを配するための場所を記述する。制御
動作は可視のマークの変更につながるコンピュータ機能
の実行を開始し且つ案内するために使用される。制御動
作は画像内の可視のマークの視覚的画質(例えば、線
幅)を消去したり、移動したり、又は変更するような編
集機能の実行に対して特に重要である。
【0003】このような対話型コンピュータ支援グラフ
ィカル編集ツールの基底にあるのは、ユーザ制御下で選
択され且つ変更されてもよい画像のグラフィック要素
(エレメント)に関する情報を保持するための手段であ
る。種々の現存のコンピュータ支援描画ツールは、操作
可能なグラフィカルエレメントの粒状度によって定義さ
れるスペクトルに沿って分類されてもよい。一方、いわ
ゆるペイント(着色)プログラムは個々の画素のレベル
における画像の視覚的内容を操作し、且つ各画素の明度
及び/又はカラー特性は他の画素から独立するように変
更可能である。ペイントスタイルプログラムは画像の細
かい改良を可能とするが、これらのプログラムは画素の
グループ全体を定義し且つ幾何学的に変換するが不可能
なので、多くの動作の実行には飽き飽きするほどの時間
を掛かることになる。これに対して、構造化されたグラ
フィック編集プログラムは、画像形成面上のその描写が
多くの画素を含み、これらの画素は、オブジェクトが移
動し、削除され、さもなれければ、変更される時、これ
らの画素の全てが一致するように変更される、線、円、
及び多角形のようなより大きな抽象オブジェクトのレベ
ルで動作する。構造化グラフィックス編集プログラムに
対する原理は、ユーザが通常実行したいとする画像の変
更の種類が抽象レベルのオブジェクト内に反映される幾
何学的ストラクチュアを保護するものであると仮定した
場合に存在する。
【0004】
【発明が解決しようとする課題】本発明は、コンピュー
タ支援描画ツールのスペクトルへグラフィカル画像エデ
ィタのペイントと構造化グラフィックスの極値の両方か
らの利点を含む新しいポイントを提供する。
【0005】本発明の目的は、個々の画素エレメントよ
りももっと抽象的であるが、現存の構造化グラフィック
スエディタによって許容されるよりももっとフレキシブ
ルなレベルにおいてグラフィカルエレメントの操作を可
能とすることにある。
【0006】
【課題を解決するための手段】上記の目的は、ユーザが
個々に又はグループでアクセスできる抽象オブジェクト
の豊富且つオーバーラップしたセットを保持し、さらに
ユーザが描画を変更する時に抽象オブジェクトのこのセ
ットをダイナミックに更新し且つ再構築するためのグラ
フィカル編集ツールに基づいた本発明によって達成され
る。これらの背景機能は編集ツールにより且つユーザの
知識又は注意を必要とせずに自動的に実行される。要す
るに、これらの機能は、知覚的に自然な「チャンク
(塊)」において画像内の可視のマークを操作するた
め、ユーザが迅速且つ丁度良くアクセスし得る抽象オブ
ジェクトの一定の新鮮な資源を保持する。構造化グラフ
ィックススタイルエディタの原理とは対象的に、本発明
による原理は、ユーザが最多頻度で操作したいとするよ
り大きな抽象画像ストラクチュアが、局所的、画素レベ
ルの、明及び暗のパターンを、小、中、大のスケール
(大きさ)の知覚チャンクに類似した線、曲線、領域、
及び他の「ゲシュタルト(Gestalt )」エンティテイへ
編成しようとする人間の知覚経過から得られるものであ
ることである。本明細書中に用いられているグラフィカ
ルオブジェクトが上記のエンティテイだけでなく英数字
テキストに関するように意図されていることが理解され
よう。本発明によって支援される操作可能なオブジェク
トは、可視画像エレメントの複数であり且つオーバーラ
ップ(重畳)する抽象オブジェクトレベルの変換を許容
することによって人間の知覚過程のフレキシブルで時に
は不明瞭な性質を反映する。画像編成及び操作のこれら
の自然なユニットは画像内に存在するマークのセット間
の空間的関係から発生し、且つこれらの作成時における
グラフィカルオブジェクトに起因する特性のみから得る
ことはできない。結果的に、本発明に貢献する核心的テ
クノロジは従来のコンピュータグラフィックスからだけ
でなくコンピュータビジョン又は画像分析から決定的に
得られる。
【0007】より詳細には、本発明の目的は、入力手
段、ディスプレイ手段、及び機能選択手段を含むデータ
ストラクチュアを有し、前記入力手段が、グラフィカル
オブジェクトを前記ディスプレイ上へ入力し且つ前記グ
ラフィカルオブジェクトを操作するために前記機能選択
手段上で機能を選択するためにユーザ操作可能であり、
前記データストラクチュアからのデータ信号に応答する
格子データストラクチュアを有し、このデータストラク
チュアが前記抽象オブジェクトを要素オブジェクトへ分
解するために前記ディスプレイ上へ入力されたオブジェ
クトを表示し、エレメンタルオブジェクトを要素オブジ
ェクトのグループへ編成するための手段と、エレメンタ
ルオブジェクトの前記グループを要素グループのさらな
るグループへ再編成するための手段を有し、前記グラフ
ィカルデータストラクチュア及び機能選択手段が前記オ
ブジェクトの全て又は部分上で実行されるように機能の
ユーザ選択によって前記再編成を調整することを含む、
ユーザ選択操作機能に応答して、グラフィカル抽象オブ
ジェクトのためのオブジェクト指向グラフィック入力と
ディスプレイシステムを提供する。
【0008】本発明は、ユーザ選択の操作機能に応答す
る、グラフィカル抽象オブジェクトに対するオブジェク
ト指向グラフィック入力及びディスプレイシステムであ
って、入力手段、ディスプレイ手段、及び機能選択手段
を含むデータストラクチュアを有し、前記入力手段がグ
ラフィカルオブジェクトを前記ディスプレイ上へ入力す
るため及び前記グラフィカルオブジェクトを操作するた
めに前記機能選択手段上で機能を選択するためにユーザ
操作可能であり、前記抽象オブジェクトを要素オブジェ
クトへ分解するために前記ディスプレイ上に入力される
オブジェクトを表現する前記データストラクチュアから
のデータ信号へ応答する格子データストラクチュアを有
し、要素オブジェクトを要素オブジェクトのグループへ
編成するための手段を有し、要素オブジェクトの前記グ
ループを要素オブジェクトのさらなるグループへ再編成
するための手段を有し、前記グラフィカルデータストラ
クチュア及び機能選択手段が前記オブジェクトの全て又
は部分上で実行されるように機能のユーザ選択に従って
前記再編成を調整すること、を備えるオブジェクト指向
グラフィック入力及びディスプレイシステムである。
【0009】
【実施例】図1の(a)及び(b)並びに図2の(a)
及び(b)は、本発明によって可能とされる機能性をそ
れぞれ示している。本発明を組み込んだグラフィカルエ
ディタアプリケーションツールを用いたプロトタイプの
描画作成及び編集セッションは、好ましくは以下のよう
に進められる。図1の(a)に関しては、描画(DRAW)
モードにおいてポインティングデバイスを使用すること
によって、ユーザが画像形成面12に見られる”L”型
曲線10を描画する。バックグラウンドをランしなが
ら、コンピュータプログラムは、”L”型曲線に対応す
る抽象オブジェクト14を作成する。コンピュータプロ
グラムはまたこの曲線内に突角した鋭いコーナ(角:か
ど)16の存在を検出する。この結果、コンピュータプ
ログラムはこの曲線の垂直と水平のセグメント(部分)
に対応する抽象オブジェクト18と20を作成する。ユ
ーザは何時でもコマンド(COMMAND )モードへトグル
(切替え)するためにポインティングデバイスのボタン
を押すか又はキー・ストロークをタイプしてもよい。コ
マンドモードにおける画像形成面上で行われるジェスチ
ュア(身振り)は当該プログラムが作成した一つ又はそ
れより多くの抽象オブジェクトを識別するのに役立つ。
本願の同日に出願され且つ本発明の譲受人に譲渡された
米国特許出願番号第08,101,645号はポインティングデバ
イスの単純且つ自然なジェスチュアを用いたオブジェク
ト選択を記述している。ユーザは今度は、削除、移動、
複写移動、回転、太さ変更、サイズ測定を行うか、さも
なければ、選択されたオブジェクト(単数又は複数)を
変更するため、ポインティングデバイス及び/又はキー
ボードを使ってさらなる命令を発してもよい。
【0010】図1の(b)に関しては、描画モードでポ
インティングデバイスを用いてユーザは反転した”L”
24を描画することを選ぶ。このコンピュータプログラ
ムは、このストロークのコーナ(角)と共に、このスト
ロークとその前のストロークの近接性から出現する追加
の有効な空間ストラクチュアを検出する。これらのスト
ラクチュアは、図の右下に形成されるコーナと上部左に
形成される交差連結部を有する。このプログラムは、
(i)一つ一つの線が短くて相対的に真っ直ぐなセグメン
ト26、(ii)交差又はT字連結部によって境界付けら
れる曲線セグメント28、(iii)コーナによって境界付
けられる曲線セグメント30、(iv)連結セグメントとコ
ーナ(角)を通って連続する曲線セグメント32、及び
(v) いくつかの突角した凸型経路を追跡することによっ
て作成される曲線セグメントに対応する抽象オブジェク
トを作成する。
【0011】図2の(a)に示されているように、コマ
ンドモードにおけるポインティングデバイスを使用し
て、ユーザは、矩形24の頂部に対応する短線セグメン
ト40を選択し、且つこのセグメントを矩形の側の下の
中間の位置まで並進するため、「移動」動作を実行す
る。このプログラムは、いくつかの抽象レベルのグラフ
ィカルオブジェクトが他のセグメントに相対するこのセ
グメントの前の位置に依存して当該移動動作によって不
要とされて、これらのオブジェクトが選択可能なオブジ
ェクトのセットから取り去られることを認識する。この
プログラムは、新しい突角した空間事象、特にセグメン
トの新しい配置によって作成される新しいT字連結部も
認識する。新しい短いセグメント44、46、48、5
0、及び識別可能な矩形を反映する新しい凸型経路オブ
ジェクトを含む適切な新しい抽象レベルオブジェクトが
作成される。
【0012】図2の(b)に示されているように、コマ
ンドモードでポインティングデバイスを用いて、ユーザ
は矩形60を選択して、それを遠くへ移動する。このプ
ログラムは、オブジェクト62及び64を残して、画像
内のこの変更によって不要とされたいくつかの抽象レベ
ルのオブジェクトを認識し、且つこのプログラムはユー
ザが操作するのに使用可能なオブジェクトのセットから
これらの(不要となった)オブジェクトを取り去る。
【0013】この簡単なユーザ対話セッションは、本発
明が、ユーザが彼らが画像形成装置上に存在する要素的
画素値を知覚的に変換することができる多数の方法によ
って、オブジェクトを選択し且つ操作するのを許容する
ことを示している。さらに、このユーザ対話セッション
は、緊急の空間特性が生成されそして消去される場合、
操作可能なオブジェクトのセットをダイナミックに更新
することの重要性を示している。ペイント(着色)スタ
イル又は構造化グラフィックスタイルを用いて、上記の
セッションにおいて実行されるように、目に見える変更
の同じシーケンスを画像へ複写するため、画像編集ツー
ルははるかに多数の相当に困難で且つより手間のかかる
ユーザアクション(動作)を必要とするであろう。
【0014】図3の(a)及び(b)は、本発明がフリ
ーハンド(手描きの)線描画エディタ又はあらゆる幾何
学的エディタを補助する二つのシナリオを提示する。図
3において、グラフィック入力ステーションで電気エン
ジニアは、アナログ入力信号がクロック信号によってゲ
ート処理された時の結果を正確に構築する。図3の
(b)においては、表にないロー(列)は、既に終了し
た表のその部分を、消去せずに再び書き込み、端に移動
することによって埋め込まれる。特に、図3の(a)に
おいては、ディスプレイスケッチパッド又は「ホワイト
ボード」のような電子データエントリディスプレイデバ
イス70で電気エンジニアが、アナログ入力信号72と
クロック信号74を描画し、且つクロック信号によって
ゲート処理された時、このアナログ入力信号がどのよう
に見えるか(ゲート処理された信号76)を見たいと思
う。エンジニアは以下の工程を実行することによってこ
れを遂行する。(1)アナログ信号の描画を結果位置へ
「複写移動(copy move )」78する。(2)クロック
信号を結果位置へ「複写移動」80し、前記アナログ信
号とオーバーラップする。(3)無関係なセグメントを
選択し且つ削除(デリート)し、且つ図示されている結
果82を残す。図3の(b)において、グループブレー
ンストーミングセッションにおいてミーティングファシ
リテータ(促進機:facilitator )が電子データ入力デ
バイス84におけるエントリの表を構築するようなオブ
ジェクト選択システムの他の例が示されている。このグ
ループは他のローがテーブル90の中間のエリア86に
属することを決定する。新しいローが入る場所を開ける
ため、この表の部分を消去し且つ再描画しなければなら
ないが、ファシリテータは、表90の適切な部分92を
選択し且つ下へ移動し、且つ新しいエントリ94のみを
描画することができる。
【0015】グラフィカル入力及びディスプレイコンポ
ーネント70は、一般に図3の(a)及び(b)に図示
されているような作業面及び複数のアクセス可能な機能
を用いる電子スケッチパッド又は「ライブボード」若し
くは「ホワイトボード」のような電子入力デバイスであ
る。作業面エリア110は、コンポーネント70の上部
エリアであり、機能(ファンクション)アクセスは下部
エリア112に沿って配置される。代表的なファンクシ
ョンはデリート(削除)、移動、縮小、拡大、その他で
ある。これらのファンクションは指示がオプショナル
(選択可能)であり、且つこれらのファンクションの主
要目的は、本発明の動作において固有である動作を定義
することである。スタイラス又はライトペン、その他1
14のような好適なユーザ操作可能制御は入力シンボル
を描画すると共にファンクションを選択するために用い
られる。当技術の範囲における他の変換が用いられても
よいことが明確である。例えば、近接センサは、ディス
プレイボードの近隣で使用されることができ且つ手又は
他のタイプのポインタの動作が実行するのを感知するこ
とができる。さらに、データ入力は、ハードコピーから
グラフィカルデータを入力するために走査デバイスによ
って行われてもよい。「ライブボード」構築の例は、同
時係属出願である、1992年4月15日に出願された
米国特許出願番号第 869,554号と、同日に出願された米
国特許出願番号第 869,559号に見られ、本発明の譲受人
に譲渡され、その内容が本明細書中に参照されることに
よって組み込まれている。これらのデバイスにおいて、
上面領域全体110は、要するに、ユーザ操作制御など
から入力されたデータに応答してその内部から画像が生
成される対話型ディスプレイである。再画像形成(リイ
メージング)は、定義されたオブジェクトのユーザ操作
から得られ、且つ図3の(a)及び(b)に示された実
施例によって示されているように、同一面上にディスプ
レイされる。
【0016】図4に関しては、図3の(a)に関して記
述されているように、入力、ファンクション選択、及び
ディスプレイエリアを含むグラフィカル入力及びディス
プレイコンポーネント70がマイクロプロセッサCPU
(中央処理装置)96と結合されている本発明を実行す
るためのシステムが示されている。CPU96は、プロ
グラムメモリ98から受け取られた命令によってコンポ
ーネント70から信号を受け取り且つ処理する。データ
はプログラム操作によって編成され且つデータメモリ1
00内に記憶される。
【0017】本発明は、機能的に指定された知覚のグル
ープ化ルールのオープンエンド(開放端)セットが、グ
ラフィカル画像データが入力され且つ編集される時、C
PU96いよってダイナミック(動的)に用いられるの
を可能にするデータストラクチュア及び動作の構成に対
する新しく且つ独特の方法及び装置を提供する。図5に
関して、データの入力及び編集に用いられることが要求
される連続的に操作可能なコンポーネント(構成要素)
は、(1)階層的格子データストラクチュア100と、
第1次及び第2次のオブジェクト又はオブジェクトのセ
ットにアクセスするために対応する動作、(2)空間的
及びスケールインデックス付けされたブラックボードデ
ータストラクチュア102と、トークンへアクセスする
ために対応する動作、(3)ビットマップデータストラ
クチュア104とその内部の画素の値へアクセスするた
めに対応する動作、(4)空間的画像アナライザ10
6、及び(5)オブジェクトをオブジェクトのセットへ
グループ分けするための収集デバイス108、である。
入力ディスプレイコンポーネント70は、CPU96へ
データを提供し、次いで、CPU96は、グループ化ル
ールが、データストラクチュア100、102、10
4、106、及び108だけでなく、あらゆる追加のデ
ータストラクチュア110へ用いられるように、調整し
且つ実行するために動作する。
【0018】これらのコンポーネントは、ユーザのアク
セスの為に、抽象オブジェクトの、正確で、一貫してお
り、且つ知覚的に有効なセットを維持するため、基本的
な動作を適切な回数だけ用いる制御アーキテクチュアの
クラスの下で編成される。以下のセクション1は制御ア
ーキテクチュアの発行について記述し、セクション2.
1〜2.5は利用可能なコンポーネントデータストラク
チュア及びそれらのファンクションについて記述し、最
後に、セクション2.6〜2.7はコンポーネントが臨
界的制御レベルの基本的動作を支援するために用いられ
る方法を詳しく説明している。
【0019】本発明の目的のため、本発明は手描きの線
描画エディタの関係において説明されている。しかしな
がら、本発明の原理及び技術は、ユーザが所定のクラス
の構造化されたオブジェクトタイプ(例:円、矩形、多
角形)から選択することによってオブジェクトの描画を
開始する構造化されたグラフィックススタイル画像エデ
ィタのような他のグラフィック環境に等しく良好に適用
される。例えば、ユーザが、1次元の平面曲線からなる
オブジェクトテキストとは異なって、画像の空間的に拡
大した(2次元において)領域を操作するペイントスタ
イル画像エディタへ、及びテキストがキーボードによっ
て入力され且つ適切なジェスチュアによって選択され且
つ配列されるテキストエディタに適用される。
【0020】1.制御アーキテクチュア及び基本動作
【0021】線描画エディタアプリケーションは、本発
明を含むコンピュータ支援グラフィカル編集ツールに対
するプロトタイプの制御ストラクチュアが示されている
図6に示されている以下の基本動作を利用することによ
って本発明を組み込むことができる。ユーザ動作は丸い
ボックスで囲まれて示されており、コンピュータ実行機
能は矩形ボックスで示されている。オペレーショナル機
能の基本シーケンスは、 1. ストローク又は曲線を描画せよ、120 2. ストローク又は曲線上のコーナ(角)を検出せ
よ、122 3. オブジェクトを選択せよ、124 4. オブジェクトを画像へ追加せよ、126 5. 画像からオブジェクトを取り去れ、130 6. 所望される変換を指定せよ、132 7. オブジェクト(単数又は複数)を変換せよ、12
8 8. 変換されたオブジェクトを画像へ追加せよ、13
4 9. 記憶及び/又はディスプレイせよ、136 である。これらの動作はユーザ/機械の対話及び/又は
変換サイクルのダイナミックスを支配するあらゆるクラ
スの制御アーキテクチュア下で用いられてもよい。
【0022】このストラクチュアにおいて、ユーザは、
新しい曲線が画像内へ繰り返し描画されるか又は現存の
曲線が選択され且つ変更され、次いで画像へ追加され
る、サイクルへ参加する。この図形における矩形のボッ
クスは、画像内のマークの外観及び編成に関して正確且
つ首尾一貫した情報を保持するのに必要な基本動作だけ
でなく、知覚的に自然なユニットに関するグラフィック
オブジェクトを操作するためにユーザが利用可能な抽象
レベルの構築(構成)を識別する。上記の制御ストラク
チュア下で、ユーザ描画(DRAW)モード又はコマンド
(COMMAND )モード命令は、システム描画変更とストラ
クチュア変換動作を交互に行う。
【0023】本発明を組み込むコンピュータ支援グラフ
ィカル編集ツールに対するアドバンスト(最新)制御ス
トラクチュアを示す図7に示されているストラクチュア
のように、より複雑な制御ストラクチュアも本発明によ
って支援される。図7に示されているストラクチュア
は、ユーザ定義動作として丸いボックスを有し、且つコ
ンピュータ実行機能として矩形のボックスを有する。こ
の制御ストラクチュアは、二つの手段によって非常に大
きなストラクチュア変換ルールの簡単なアプリケーショ
ンを可能とする。第1に、少ないセットの「コア」スト
ラクチュア変換ルールのみが各ユーザジェスチュア(身
振り)又は命令の後で自動的に用いられ、且つより複雑
なストラクチュアを識別しようとする残りのもっと多く
のアドバンストルールが、「使用可能サイクル(cycles
-available)」を基本としてそのバックグラウンド(背
景)で動作する。このストラクチュアを明示的に表わす
抽象オブジェクトは、階層的格子データストラクチュア
100(図5)とそれが発見された時のグラフィカルデ
ータストラクチュアへ加えられる。第2に、アドバンス
トルールは、複雑なストラクチュアがユーザがもっとも
関心を持ちそうな画像領域内で求められる空間的にフォ
ーカス(焦点合わせ)された方法で用いられる。ユーザ
が関心を持つ場所(軌跡)、即ち、ユーザが最も最近描
画又は移動コマンドを実行した位置、ユーザが最近ポイ
ンティングデバイスを指示した領域、又は物理的画像形
成面の近隣で一組の近接性センサがユーザが彼の手によ
ってジェスチュアを示したことを決定した領域、がヒュ
ーリスティック(発見的)ベーシスで決定される。図7
に関しては、ディスプレイコンポーネント138へ入力
されたデータが、入力されたオブジェクトとして機能ブ
ロック146へ提供される。非活動状態の非決定ブロッ
ク140の期間中に感知されたオブジェクトの描画が終
了すると、ルーチン141において、ユーザによってこ
のようにヒューリスティックに定義されたエリアに基づ
いてコンピュータによって当該領域が推論される。これ
は、タイムラインベーシスで、入力されたデータの位置
を単純に記憶する基本ルーチンを介して実行され、最新
データが入力し、最初のデータが出力される。ルーチン
142において、コンピュータは、複雑なストラクチュ
ア変換ルールを、推論された空間的にフォーカスされた
エリア内で検索されるオブジェクトへ用いる。得られる
定義されたオブジェクトは、ルーチン144において、
ディスプレイするために記憶される。次いでユーザは、
ルーチン146においてオブジェクトを描画すること、
ルーチン148においてオブジェクト選択を開始してオ
ブジェクトを取り去ることよって定義されたオブジェク
トと対話する。次いで、描画されたオブジェクトは、ル
ーチン150において、分解されるか又はこれ以降定義
されるプライムオブジェクト(Prime Objects )へ分解
される。これらの分解された又はプライムオブジェクト
は、ルーチン152において、プライムオブジェクトス
トラクチュアだけでなくコンポジットオブジェクトスト
ラクチュアを更新するために使用される。ルーチン15
4において、基本構造的変換ルールが、コンポジット
(合成)オブジェクトストラクチュア144を更新する
ため、更新されたプライムオブジェクトストラクチュア
へ用いられる。オブジェクトを取り去る時、ルーチン1
48において、ユーザは画像内のオブジェクトを最初に
選択する。次いで、ルーチン156において、コンピュ
ータはオブジェクトを取り去るために動作する。ルーチ
ン158において、移動、削除、形状変更、その他のよ
うな所望される変換が選択される。ルーチン160にお
いて、コンピュータは所望される変換を実行し、これに
よってルーチン152においてプライムオブジェクトス
トラクチュアを更新し、且つルーチン154において基
本的なストラクチュア変換ルールを適用する。
【0024】ルーチン130及びルーチン156におけ
る「画像からオブジェクトを取り去れ」動作とルーチン
126における「オブジェクトを画像へ追加せよ」動作
が以下に詳細に説明されている。描画オブジェクトルー
チン146はポインティングデバイスの位置をトラッキ
ングすることによって実行される。ルーチン122にお
ける「コーナを検出せよ」動作を実行するための多数の
方法がコンピュータビジョンの文献において見られる。
ルーチン160における「オブジェクトを選択せよ」動
作は、本願と同日に出願された米国特許出願番号08/10
1,645号により詳細に記述されており、その開示内容が
本明細書中に参照することによって組み込まれている。
最終的に、ルーチン160における「オブジェクトを変
換せよ」動作は、曲線への単純なアフィン変換又は他の
変換によって実行される。
【0025】2.データストラクチュア及び基本動作
【0026】2.1 オブジェクト格子
【0027】図5に関して、並びに図8の(a)乃至
(c)及び図9のチャートと結び付いて、オブジェクト
格子データストラクチュア100は、画像内の画素のレ
ベルにおける要素のオブジェクトとユーザによって選択
され且つ操作されることができる画像オブジェクトの関
係を保持する。プライムオブジェクト(Prime Object)
とコンポジット(合成)オブジェクト( Composite Obj
ect )の二つのタイプのオブジェクトが定義される。プ
ライムオブジェクト(PO)はより大きなグラフィカル
ストラクチュアが合成される最小のグラフィカルエレメ
ント(要素)である。フリーハンド描画エディタにおい
て、POは、画像内の「黒」又は「オン」(オン状態
の)画素の鎖状の外観を記述する単純な途切れないで且
つ交差しない曲線セグメントと対応している。POはし
かしながら(画素は不変だが)不変ではない。POは、
一般に、同一画像空間をカバーするより小さなPOのセ
ットへ分割されることにより又は他のPOによって併合
されることにより破壊されることもある。コンポジット
オブジェクト(CO)は、一組のプライムオブジェクト
と対応しており、これによって個別の又は結合した初期
の(基本の)グラフィカルエンティテイと関連する(例
えば、フリーハンド描画エディタにおける曲線)。この
変換下で、プライムオブジェクトは画像内の画素の描写
された外観と直接的に対応しているが、コンポジットオ
ブジェクトはそれらが構成されるPO(プライムオブジ
ェクト)を介してのみ画像の物理的外観と関連する。画
像と対応するCOのセットは、ユーザが、画像マークの
知覚的にコヒーレントな集合へのアクセスを得るように
抽象オブジェクトのセットを構築する。両タイプのオブ
ジェクトは、空間位置、大体の配向、及びサイズの特
性、並びに任意の他の特性の属性をとる。POとCOの
関係はポインタによって維持され、各COは当該COと
関連するPOの支持リストを保持し、各POは当該PO
が支援するCOのリストを保持する。図8の(a)乃至
(c)及び図9は、単純な画像に対するオブジェクトラ
ティス(格子)を描いている。図8の(a)は、ディス
プレイされた画像又はオブジェクトを示す。図8の
(b)は、図8の(a)のプライムオブジェクトへのオ
ブジェクトの分解(ブレークダウン)を示す。図8の
(c)は、プライムオブジェクト(PO)が一連のコン
ポジットオブジェクト(CO)としてさらに定義される
過程を示す。図9は、プライムオブジェクト(PO)と
コンポジットオブジェクト(CO)の関係を示す。PO
とCOのマッピングは一般に多対多(関連)であること
に注目されたい。この特性は、所与のパターンの「オ
ン」状態の画像画素の複数の知覚的変換のフレキシビリ
ティを達成する。さらに、各プライムオブジェクトは、
POによって記述される曲線の各端の位置及び配向を明
示的に記述する、ペアのオブジェクトを有する双方向ポ
インタのストロークエンド(Stroke-End)(SE)を保
持する。
【0028】オブジェクト格子内に用いられるルーチン
を定義する図13に示されている動作のシーケンスは以
下の通りである。
【0029】1. 画像データを記憶せよ、202 2. 画像データから画素識別を記憶せよ、204 3. POを識別せよ、206 4. COを識別せよ、208 5. POのリストを作成せよ、210 6. COのリストを作成せよ、212 7. COに対応するPOのリストを作成せよ、214 8. POに対応するCOのリストを作成せよ、21
6、 9. POに対応する一連のペアのSEを作成せよ、2
18
【0030】2.2 インデックス付けされたグラフィ
カルデータストラクチュア
【0031】プライムオブジェクト、コンポジットオブ
ジェクト、及びストロークエンドは画像内の特性の位
置、配向、及びサイズを有するグラフィックエンティテ
イである。例えば、POの位置は当該POが対応する平
面曲線の重心として定義される。本発明の多くの重要な
動作は、画像の所与の近隣にあり、及び/又は所与の範
囲内のサイズを有するオブジェクトのサブセットへの迅
速なアクセスに依存する。図14に関して、この理由の
ために、空間的/スケールのインデックス付けされたグ
ラフィカルデータストラクチュア102は、ルーチン2
20において、それらの位置及びサイズによってオブジ
ェクト又はトークンを編成する。データストラクチュア
102はより大きなサイズのオブジェクトを連続的に保
持する2次元アレイ(配列)のスタックに類似してい
る。これらのアレイの各要素的アレイは、そのサイズが
データストラクチュア102のスライスのサイズの範
囲、又はスケールに依存する、制限された空間的近隣内
にあるオブジェクトのリストを維持する。オブジェクト
は適切なアレイビンにアクセスすることによって空間的
位置及びサイズによってインデックス付けされる。デー
タストラクチュア102を利用する一般的な動作は、
「PO−Nのいづれかの端の距離d内のすべてのトーク
ンをリターンせよ」である。スケール−スペースブラッ
クボードと呼ばれるデータストラクチュア102は、例
えば、Eric Saund著の1990年発行のPAMIにおけるIEEEの
トランザクションの第12巻、第 8号の817 乃至830 頁
の"Symbolic Construction of 2D Scale-space Images"
と題された公開文献に記述されている。
【0032】図14に示されているスケール−スペース
ブラックボード内にオブジェクトを置くステップは以下
のように示されている。
【0033】 1. サイズによってオブジェクトを編成せよ、220 2. サイズによってオブジェクトのリストを作成せ
よ、222 3. 位置によってオブジェクトを編成せよ、224 4. 位置によってオブジェクトのリストを作成せよ、
226 5. オブジェクトのグループに対して空間的近隣を定
義せよ、228 6. 各オブジェクトへトークンを割当てよ、230、 及び 7. データストラクチュアアレイ内のそれぞれのトー
クンをグループ毎に配列せよ、232
【0034】2.3 ユーティリティビットマップ
【0035】手描きの線描画を操作可能なユニットへ小
分けするために本発明において識別される基準の中に
は、有効な知覚的事象が曲線の交差において発生すると
いうことがある。結果的に、POによって記述されるよ
うに、曲線のセグメントの交差部及び連結部を迅速且つ
効率的に識別することが必要である。この機能を容易に
するため、ユーティリテイビットマップデータストラク
チュア104は画像内に存在する全ての曲線の中央線路
を含む。新しい曲線が導入される時、描画モードでスト
ークを作成するユーザによって、又はコマンドモードに
おいて現在ストロークを移動するユーザによって、新し
く配置された曲線の経路はユーティリテイビットマップ
内に追跡され、且つ現在曲線とのあらゆる交差がすでに
「オン」状態の画素の存在によって検出される。すでに
存在する曲線と対応するPOの識別は、交差画素の近隣
における全てのPOをスケール−スペースブラックボー
ド102から収集し次いで順にそれぞれを検査すること
によって容易に設定される。
【0036】ユーティリテイビットマップ内に用いられ
るルーチンを定義する動作のシーケンス即ちルールは以
下の通りである。
【0037】1. データ入力、250 2. パス追跡、252 3. 現在曲線との交差を選択せよ、254 4. 交差画素の近隣において全てのPOを収集せよ、
256 5. 現在の曲線に対応するPOを識別せよ、258
【0038】2.4 空間的分析動作
【0039】本発明の目的は、ユーザへユーザの下位レ
ベルの内部的ビジュアル知覚を反映する画像の「チャン
ク(塊)」への明示的アクセスを提供することであるの
で、空間的画像分析コンポーネント106は、上記のデ
ータストラクチュア内に保持されるグラフィックオブジ
ェクトの間の空間的な関係へアクセスし且つこの関係を
変換するために必要とされる。例えば、二つのプライム
オブジェクトがそれらの対応するストロークエンドの二
つが互いに非常に近接しており且つ互いに約90°の角
度で配向されているような近接性を生じる時、これらの
曲線がコーナで整合するような視覚的な外観が生成され
る。図10の(b)を参照されたい。この幾何学的な特
性は、適切な抽象グラフィックオブジェクト(CO)
が、ユーザがこの角を形成するのに参与するPOの内の
両方を包囲するために使用可能とされることができるよ
うにプログラムにより検出及び記録されなければならな
い。本発明は図10の(a)〜(e)に示されているよ
うに以下の空間的分析動作を利用する。
【0040】−ユーザによって描画された単一曲線上で
コーナを検出せよ。図10の(a)。
【0041】−二つのPO間でコーナ構成を検出せよ。
図10の(b)。 −二つのPO間で孤立した連結部構成を検出せよ。図1
0の(c)。
【0042】−T型連結部を横切ってPOの整合を検出
せよ。図10の(d)。 −交差連結部を横切ってPOの整合を検出せよ。図10
の(e)。
【0043】これらの機能を実行するためのプログラム
ルーチンは直接的であり、且つ従来の技術における当業
者に理解されよう。専門用語の「連結部を「分解」する
こと」は、相互の空間的関係がユーザ動作によって変わ
ってしまったと疑われるPOのセットへのこれらの空間
的分析動作の適用に関連する。
【0044】空間的分析(Spatial Analysis)において
用いられるルーチンを定義する動作のシーケンスは以下
に示されている。
【0045】1. 単一曲線上でコーナを検出せよ。2
70。 2. 二つのPO間でコーナを検出せよ。272。
【0046】3. 二つのPO間で孤立した連結部構成
を検出せよ。274。 4. T連結部を横切ってPOの整合を検出せよ。27
6。
【0047】5. X連結部を横切ってPOの整合を検
出せよ。278。
【0048】2.5 グループ化動作
【0049】ルーチン108において、ユーザは、各々
がその構成要素のプライムオブジェクト(PRIME-OBJEC
T)へのポインタを保持するコンポジットオブジェクト
(COMPOSITE-OBJECTS )のレベルでグラフィックオブジ
ェクトへアクセスし且つ変更する。画像が線の描画、消
去、又は移動によって変更される時、「オン」状態の画
素の位置の記述がPOのレベルで変化する。これらの変
化は、ユーザアクセス可能なオブジェクトが曲線セグメ
ントの有効且つ知覚的に顕著な集合を常に反映するよう
にCOレベルまで上方伝搬しなければならない。POと
COの正確且つ首尾一貫した関係を保つためにそれらが
支援する責任は、一組のトークングループ化動作から始
まる。これらの動作は、所与のPOの集合に対してオブ
ジェクト格子100内で何のCOが構築されるべきかに
対するルールを実行する。本発明の設計アーキテクチュ
アの下では、ルールセットは拡張可能であり且つ指定さ
れたルールは特定の描画アーキテクチュア定義域のスト
ラクチュア特性の特定の種類を利用可能とするために蓄
積されてもよい。特に、以下の基本ルールは手描き及び
構造化曲線編集アプリケーションへ適している。図11
の(a)〜(c)及び図12の(a)〜(c)を参照さ
れたい。図11の(a)の基本オブジェクトは以下のよ
うに分解される。
【0050】1. 一つのCOが全てのPOと固有に対
応する。図11の(b)。 2. COはコーナを介してPOを連結する全ての経路
に対して表明されるが、孤立した端部及び連結部におい
て停止する。図11の(c)。
【0051】3. COは連結部を横切って整合するP
Oを連結する全ての経路に対して表明されるが、コーナ
で停止する。図12の(a)。
【0052】4. COは連結部を横切って整合するP
Oを連結する全ての経路に対して表明されるか又はコー
ナで連結される。図12の(b)。
【0053】5. 一つのCOが凸部経路に沿って連結
するPOの全てのセットに対して表明される。図12の
(c)。
【0054】これらのルールは、PO間のコーナと整合
リンクがそれらの対応するストロークエンド(STROKE-E
ND)トークン内で保持される、POのセットを介して経
路を追跡することにより主に実行される。これらのルー
ルの実行には、一つを超えるルールを満たすPOの経路
又はセットが一つ及び一つだけのCOと対応することに
注意されたい。
【0055】図17に示され且つグループ化動作におい
て用いられるルーチンを定義する動作のシーケンスは以
下の通りである。
【0056】1. 操作を定義せよ、302。 2. 新しい画素を囲むためにPOを変更せよ、30
4。
【0057】3. 新しい画素に対応するためにCOを
変更せよ、306。 4. オブジェクト格子における結果を記憶せよ、30
8。
【0058】2.6 基本的制御レベル動作:画像へオ
ブジェクト(単数又は複数)を追加せよ
【0059】画像へ一つ又はそれより多くの曲線セグメ
ントを追加するためのルーチンは図18に概略的に示さ
れている。各曲線セグメントは対応するストロークエン
ドトークンを含むプライムオブジェクトとして記述され
ていると仮定される。
【0060】1. 追加されたPOが前もって存在する
POによって新しい交差連結部を形成する場所を検出せ
よ、ルーチン310。これは、セクション2.3に記述
されているように、ユーティリテイビットマップデータ
ストラクチュア104を用いて行われる。各POと対応
する交差場所はそのPOに対する中断点として記録され
る。
【0061】2. 追加されたPOが前もって存在する
POによるT型連結部を形成する場所を検出せよ、ルー
チン312。T型連結部がいくらかの距離許容範囲をも
って検出されるのが所望される。即ち、この場合曲線セ
グメントは実際には接触しない。是に対して、Tの「水
平バー」を形成する前もって存在するPOによって形成
されるT型連結部は、ユーティリティビットマップ(前
もって存在するPOの経路が既に着色されている)を用
いて且ついくつかの許容範囲距離に対して各追加された
POの各端より上の経路を追跡することによって検出さ
れる。当該Tの水平棒を形成する追加されたPOによっ
て形成されるT連結部は全ての追加されたPOが着色さ
れているスクラッチユティリティビットマップを用いて
検出される。次いで、追加されたPOのいづれかの近隣
の前もって存在するPOはスケールスペースブラックボ
ード(Scale-Space Blackboard)102を用いて発見さ
れる。これらの各々はそのエンドポイント(端点)より
上のスクラッチユーティリティビットマップへ追跡さ
れ、且つ追加されたPOの内の一つによって既に着色さ
れた画素を捜し求める。あらゆるこのようなT型交差部
が検出された場合、Tの水平棒を形成する追加のPOの
一致は、全ての追加されたPOをスクラッチスケールス
ペースブラックボードへ書き込み、交差部の近隣におい
て追加されたPOを集め、且つどのPOの鎖コード曲線
がそのポイントを通過するかを見るためにこれらを順に
テストすることによって見つけられる。中断点はステッ
プ1で発見された交差連結部に対する場合、T連結部に
対して表明される。
【0062】3. 交差部分又はT型連結部によって形
成された少なくとも一つの中断点を有する前から存在し
ているPOと追加されたPOの各々は不要となる、ルー
チン314。各々は、ルーチン316において、中断点
に従って、POの新しいセットへ細分割される。オブジ
ェクト格子データストラクチュア100の双方向ポイン
タはルーチン318において更新され、これによって現
在不要のPOによって以前は支援されたCOは、不要の
POが細分割された新しいPOのセットによって支援さ
れるようになる。しかしながら、各不要のPOと固有に
対応するCOはそれ自体が不要となり、ルーチン320
においてオブジェクト格子100から取り去られる。不
要POと対応する全てのSEはルーチン322において
スケールスペースブラックボード102から取り去ら
れ、且つルーチン324において全ての新しく作成され
たSEがスケールスペースブラックボード102へ書き
込まれる。ルーチン326において、この手続きによっ
て作成されるか或いはこの手続きによって影響されたP
Oと対応する全てのSEが「影響されたSE」としてマ
ーキングされる。
【0063】4. ルーチン326において、影響され
たSEのセットは「連結部を分解せよ」手続き104へ
パスされ、影響されたSEとそれらが対応するPOの空
間的な関係がセクション2.4に説明されているように
分析される。各SEは、あるとすれば、近隣のどのSE
がどれと孤立した連結部、整合連結部、又はコーナ連結
部を形成するかによってラベル付けされる。すべての新
しく設定されたSE、及びその空間的な関係状態が分解
手続きによって画像変更によって影響を受けたと判別さ
れたSEのセットは「変更されたSE」とマーキングさ
れる。
【0064】5. ルーチン328において、孤立した
連結タイプの連結を形成する変更されたSEの全てのペ
アが検出され且つそれらのそれぞれのPOは一緒に併合
される。ルーチン330においてこれらの現在不要なP
Oはオブジェクト格子データストラクチュアから取り去
られ、前はPOと固有に対応していたCOもルーチン3
32で除去される。これらは、ルーチン334において
単一の新しいPOによって、及びルーチン336におい
ては固有に対応する単一の新しいCOによって置換され
る。
【0065】6. ルーチン338において、変更され
たSEと対応するPOは抽出され、且つルーチン340
において、セクション2.5内に記述されているルール
に従ってユーザアクセス可能なCOを生じる空間的に関
連したPOを通った経路を更新するためにシードとして
記憶され且つ使用される。
【0066】「画像へオブジェクトを追加せよ」におい
て用いられるルーチンを定義する図18の動作のシーケ
ンスは以下の通りである。
【0067】1. 古いPOによって新しいPOの交差
位置を検出せよ、310。 2. 現存POによってJの追加されたPOのTの機能
を検出せよ、312。
【0068】3. 交差又はTによって形成された前か
ら存在しているPO及び追加されたPOを削除せよ、3
14。
【0069】4. 新しいPOセットを作成せよ、31
6。 5. 双方向ポインタを更新せよ、318。
【0070】6. 不要POと対応するCOを取り去
れ、320。 7. 不要POと対応するCOを取り去れ、322。
【0071】8. 新しいSEをデータストラクチュア
へ書き込み、マークせよ、324。 9. 変更されたSEとしてマークされたSEを分解せ
よ、326。 10. 変更されたSEを検出し且つ対応するPOと併
合せよ、328。 11. 不要POを削除せよ、330。 12. 不要COを削除せよ、332。 13. 不要POを新しいPOと置換せよ、334。 14. 不要POを新しいPOと置換せよ、336。 15. 変更されたSEと対応するPOを抽出せよ、3
38。 16. 抽出されたPOを記憶せよ、340。
【0072】2.7 基本的制御レベル動作:画像から
オブジェクトを取り去れ
【0073】画像から一つ又はそれより多くの曲線セグ
メントを取り去るためのルーチンが図19において概略
的に示されている。各曲線セグメントは、対応するスト
ロークエンドトークンを含むプライムオブジェクトとし
て記述されると仮定される。ヒューマンユーザはコンポ
ジットオブジェクトのレベルで画像と対話するが、取り
去られるべきCOと対応するPOはオブジェクト格子デ
ータストラクチュアにおける親及び/又は子の関係を用
いて容易に推論できる。
【0074】1. ルーチン352において、取り去ら
れるべきあらゆるPOを、スケール−スペースデータス
トラクチュアから及びオブジェクト格子データストラク
チュアから削除せよ。
【0075】2. ルーチン354において、そのサポ
ートがオブジェクト格子からあらゆる取り去られるべき
POを含む全てのCOを削除せよ。
【0076】3. ルーチン356において、スケール
−スペースデータストラクチュアから取り去られるべき
あらゆるPOと対応するSEを削除せよ。これらの取り
去られるべきSEが取り去られないあらゆるSEと整合
を形成するか又はコーナ連結を形成するか、又はあらゆ
る取り去られないSEがあらゆる取り去られるべきSE
からの閾値距離内にあるか否かに注意されたい。これら
はルーチン358において「影響されたSE」とマーク
される。
【0077】4. ルーチン360において、全ての影
響されたSEにおいて「連結部を分解せよ」動作を実行
せよ。取り去られようとするPOの除去の結果として、
どの影響されたSEが他のSEと異なる整合の又はコー
ナの空間的関係を割当てられるかに注意されたい。これ
らは、ルーチン362において「変更されたSE」とし
てマークされる。
【0078】5. ルーチン364において、孤立した
連結タイプの連結を形成する変更されたSEの全てのペ
アが検出され且つそれらの各POが共に併合される。新
しく不要となったPOは、ルーチン366において、オ
ブジェクト格子データストラクチュアから取り去られ、
前もって固有にそれらと対応していたCOもルーチン3
68で除去される。それらは単一の新しいPO及び固有
に対応する単一の新しいCOによって置換される。
【0079】6. ルーチン370において変更された
SEと対応するPOが抽出され、且つこれらはセクショ
ン2.5に記述されているルールによってユーザアクセ
ス可能なCOを発生する空間的に関連するPOを介して
経路を更新するためにシードとして使用される。
【0080】図19における「画像からオブジェクトを
取り去れ」において用いられるルーチンを定義する動作
のシーケンスは以下の通りである。
【0081】1. データストラクチュアから不要PO
を削除せよ、352。 2. オブジェクト格子から不要POを削除せよ、35
4。
【0082】3. データストラクチュアから不要PO
と対応するSEを削除せよ、356。
【0083】4. 連結SEを「影響された」とマーク
せよ、358。 5. 影響されたSE上に連結解除を実行せよ、36
0。
【0084】6. 取り去られたPOによって変更され
た影響されたSEを「変更されたSE」とマークせよ、
362。
【0085】7. 変更されたSEのペアを検出し且つ
POと併合せよ、364。 8. 不要POを取り去り且つ置換せよ、366。
【0086】9. 不要COを取り去り且つ置換せよ、
368。 10. 変更されたSEと対応するPOを抽出せよ、3
70。
【0087】本発明によれば、いくつかのオブジェクト
が複数の役割を遂行する(即ち格子内に複数の親を有す
る時)。「移動」などのいくつかの動作の後で、これら
のオブジェクトはこれらの複数の役割を保護するために
複写されることができる。
【0088】複数の役割の例が図20の(a)、
(b)、及び(c)に示されている。ここで、矩形の位
置AとBの間に共用の境界を形成するように意図されて
いる分割中央線382を有する矩形のようなオブジェク
ト380が示されている。この意図はユーザ定義又はコ
ンテクスト定義であってもよい。図20の(b)におけ
る移動動作においては、部分Aは部分Bから引き離され
る。線382は固定部分B上に保持されるが、部分Aは
移動の間は点線で描かれた境界384において示されて
いる。移動が終了した後、線382の複写である境界3
84はオブジェクトのパーマネント部分から作成されて
いる。複数の役割概念を定義するグループ化ルールは他
の動作に関して上記に説明されているように新しい境界
に対してデータベースを提供する。
【0089】いくつかのエレメントは効率性の目的のた
めだけに必要とされる。従って、図5に関して記述され
ているブラックボード及びビットマップデータストラク
チュアは本発明の広い態様に対して不可欠である。画像
アナライザ(分析器)は空間的関係が演算されるのを可
能とするあらゆるデータストラクチュアを使用すること
ができる。
【0090】本明細書中に開示されている本発明の実施
例のいくつかの変更及び訂正は当技術の平均的な当業者
に容易に理解されよう。さらに、ディジタイザシステム
における調整決定以外に本発明を使用できることも当業
者に容易に理解されよう。
【0091】
【発明の効果】本発明は、個々の画素エレメントよりも
もっと抽象的であるが、現存の構造化グラフィックスエ
ディタによって許容されるよりももっとフレキシブルな
レベルにおいてグラフィカルエレメントの操作を可能と
する。
【図面の簡単な説明】
【図1】(a)はディスプレイされた画像のオブジェク
ト分析を示す図である。(b)はディスプレイされた画
像のオブジェクト分析を示す図である。
【図2】(a)はディスプレイされた画像のオブジェク
ト分析を示す図である。(b)はディスプレイされた画
像のオブジェクト分析を示す図である。
【図3】(a)は操作された画像の電子的ディスプレイ
を示す図である。(b)は操作された画像の電子的ディ
スプレイを示す図である。
【図4】本発明のシステム動作を示すルーチン図であ
る。
【図5】オブジェクトをグループ化するための動作の主
なシーケンスを示す編成図である。
【図6】オブジェクト操作のための動作のシーケンスを
示すフローチャートである。
【図7】オブジェクトの変換及び更新を示すフローチャ
ートである。
【図8】(a)は画像オブジェクトとサブオブジェクト
の関係を図形的に示す図である。(b)は画像オブジェ
クトとサブオブジェクトの関係を図形的に示す図であ
る。(c)は画像オブジェクトとサブオブジェクトの関
係を図形的に示す図である。
【図9】画像オブジェクトとサブオブジェクトの関係を
図形的に示す図である。
【図10】(a)はストローク分析を示す図である。
(b)はストローク分析を示す図である。(c)はスト
ローク分析を示す図である。(d)はストローク分析を
示す図である。(e)はストローク分析を示す図であ
る。
【図11】(a)はサブオブジェクトの選択を示す図で
ある。(b)はサブオブジェクトの選択を示す図であ
る。(c)はサブオブジェクトの選択を示す図である。
【図12】(a)はサブオブジェクトの選択を示す図で
ある。(b)はサブオブジェクトの選択を示す図であ
る。(c)はサブオブジェクトの選択を示す図である。
【図13】オブジェクト格子動作に対するルーチンを示
す図である。
【図14】グラフィカルデータストラクチュア動作に対
するルーチンを示す図である。
【図15】ユーティリティビットマップ動作に対するル
ーチンを示す図である。
【図16】空間的分析動作に対するルーチンを示す図で
ある。
【図17】グループ化動作に対するルーチンを示す図で
ある。
【図18】「画像動作へオブジェクトを追加せよ」動作
に対するルーチンを示す図である。
【図19】「画像動作からオブジェクトを取り去れ」動
作に対するルーチンを示す図である。
【図20】(a)は共用境界オブジェクトに対する複数
の役割を示す図である。(b)は共用境界オブジェクト
に対する複数の役割を示す図である。(c)は共用境界
オブジェクトに対する複数の役割を示す図である。
【符号の説明】
10 ”L”型曲線 12 画像形成面 14 抽象オブジェクト 16 コーナー(かど) 18 抽象オブジェクト
───────────────────────────────────────────────────── フロントページの続き (72)発明者 トマス パトリック モラン アメリカ合衆国 94301 カリフォルニア 州 パロ アルト グリーンウッド アヴ ェニュー 1037 (72)発明者 クレイグ デイヴィッド ベッカー アメリカ合衆国 94306 カリフォルニア 州 パロ アルト バロン アヴェニュー 785

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 ユーザ選択の操作機能に応答する、グラ
    フィカル抽象オブジェクトに対するオブジェクト指向グ
    ラフィック入力及びディスプレイシステムであって、 入力手段、ディスプレイ手段、及び機能選択手段を含む
    データストラクチュアを有し、前記入力手段がグラフィ
    カルオブジェクトを前記ディスプレイ上へ入力するため
    及び前記グラフィカルオブジェクトを操作するために前
    記機能選択手段上で機能を選択するためにユーザ操作可
    能であり、 前記抽象オブジェクトを要素オブジェクトへ分解するた
    めに前記ディスプレイ上に入力されるオブジェクトを表
    現する前記データストラクチュアからのデータ信号へ応
    答する格子データストラクチュアを有し、 要素オブジェクトを要素オブジェクトのグループへ編成
    するための手段を有し、 要素オブジェクトの前記グループを要素オブジェクトの
    さらなるグループへ再編成するための手段を有し、前記
    グラフィカルデータストラクチュア及び機能選択手段が
    前記オブジェクトの全て又は部分上で実行されるように
    機能のユーザ選択に従って前記再編成を調整すること、 を備えるオブジェクト指向グラフィック入力及びディス
    プレイシステム。
JP17527894A 1993-08-04 1994-07-27 オブジェクト指向グラフィック入力及びディスプレイシステム Expired - Lifetime JP3974196B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US101646 1993-08-04
US08/101,646 US5553224A (en) 1993-08-04 1993-08-04 Method for dynamically maintaining multiple structural interpretations in graphics system

Publications (2)

Publication Number Publication Date
JPH0793527A true JPH0793527A (ja) 1995-04-07
JP3974196B2 JP3974196B2 (ja) 2007-09-12

Family

ID=22285716

Family Applications (1)

Application Number Title Priority Date Filing Date
JP17527894A Expired - Lifetime JP3974196B2 (ja) 1993-08-04 1994-07-27 オブジェクト指向グラフィック入力及びディスプレイシステム

Country Status (4)

Country Link
US (1) US5553224A (ja)
EP (1) EP0637812B1 (ja)
JP (1) JP3974196B2 (ja)
DE (1) DE69426281T2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001236051A (ja) * 1999-11-30 2001-08-31 Nokia Corp 背面対話式ハンドヘルド・ディスプレイ装置

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3660366B2 (ja) * 1993-12-28 2005-06-15 富士通株式会社 図形を用いたプログラミングシステム
JP3483333B2 (ja) * 1995-02-23 2004-01-06 キヤノン株式会社 図形処理方法及び装置
US5664180A (en) * 1995-03-20 1997-09-02 Framework Technologies Corporation Design tool for complex objects which links object structures of a design object in multiple design domains
US6047309A (en) * 1995-10-02 2000-04-04 International Business Machines Corporation Recording observed and reported response characteristics at server and/or client nodes in a replicated data environment, and selecting a server to provide data based on the observed and/or reported response characteristics
US6366921B1 (en) 1999-02-09 2002-04-02 International Business Machines Corporation System and method for data manipulation in a dynamic object-based format
US6459442B1 (en) * 1999-09-10 2002-10-01 Xerox Corporation System for applying application behaviors to freeform data
US8806319B1 (en) * 2000-04-12 2014-08-12 Ptc Inc. Method and apparatus for linking non-geometric data to geometric elements of a CAD file independent of the proprietary CAD file format
US6883201B2 (en) * 2002-01-03 2005-04-26 Irobot Corporation Autonomous floor-cleaning robot
US7136082B2 (en) * 2002-01-25 2006-11-14 Xerox Corporation Method and apparatus to convert digital ink images for use in a structured text/graphics editor
US6903751B2 (en) * 2002-03-22 2005-06-07 Xerox Corporation System and method for editing electronic images
US20070162848A1 (en) * 2006-01-09 2007-07-12 Apple Computer, Inc. Predictive styling
US8014607B2 (en) * 2007-03-23 2011-09-06 Palo Alto Research Center Incorporated Method and apparatus for creating and editing node-link diagrams in pen computing systems
US7907141B2 (en) * 2007-03-23 2011-03-15 Palo Alto Research Center Incorporated Methods and processes for recognition of electronic ink strokes
US7725493B2 (en) * 2007-03-23 2010-05-25 Palo Alto Research Center Incorporated Optimization method and process using tree searching operation and non-overlapping support constraint requirements
US8261200B2 (en) * 2007-04-26 2012-09-04 Fuji Xerox Co., Ltd. Increasing retrieval performance of images by providing relevance feedback on word images contained in the images
WO2010016299A1 (ja) * 2008-08-07 2010-02-11 三菱電機株式会社 半導体集積回路装置、設備機器制御装置、及び機器状態表示装置
US8477103B2 (en) 2008-10-26 2013-07-02 Microsoft Corporation Multi-touch object inertia simulation
US8466879B2 (en) * 2008-10-26 2013-06-18 Microsoft Corporation Multi-touch manipulation of application objects
KR101784877B1 (ko) * 2010-07-12 2017-11-07 삼성전자주식회사 휴대용 단말기에서 메뉴 항목 관리 방법 및 장치
JP2013003596A (ja) * 2011-06-10 2013-01-07 Sony Corp 情報処理装置、プログラム及び情報処理方法
US9317937B2 (en) * 2013-12-30 2016-04-19 Skribb.it Inc. Recognition of user drawn graphical objects based on detected regions within a coordinate-plane
US10121232B1 (en) * 2015-12-23 2018-11-06 Evernote Corporation Visual quality of photographs with handwritten content
US10755029B1 (en) 2016-01-05 2020-08-25 Quirklogic, Inc. Evaluating and formatting handwritten input in a cell of a virtual canvas
US11587346B2 (en) 2020-12-10 2023-02-21 Microsoft Technology Licensing, Llc Detecting ink gestures based on spatial and image data processing
US11531454B2 (en) * 2020-12-10 2022-12-20 Microsoft Technology Licensing, Llc Selecting content in ink documents using a hierarchical data structure
US20230315271A1 (en) * 2022-03-18 2023-10-05 Sony Group Corporation Collaborative whiteboard for meetings

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4683468A (en) * 1985-03-11 1987-07-28 International Business Machines Corp. Method for manipulation of graphic sub-objects in an interactive draw graphic system
US4703321A (en) * 1985-09-30 1987-10-27 International Business Machines Corporation Method for editing a graphic object in an interactive draw graphic system
JPH0229886A (ja) * 1988-07-20 1990-01-31 Ricoh Co Ltd 特徴量抽出方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001236051A (ja) * 1999-11-30 2001-08-31 Nokia Corp 背面対話式ハンドヘルド・ディスプレイ装置

Also Published As

Publication number Publication date
DE69426281D1 (de) 2000-12-21
US5553224A (en) 1996-09-03
EP0637812A2 (en) 1995-02-08
EP0637812B1 (en) 2000-11-15
EP0637812A3 (en) 1996-09-04
DE69426281T2 (de) 2001-03-15
JP3974196B2 (ja) 2007-09-12

Similar Documents

Publication Publication Date Title
JPH0793527A (ja) オブジェクト指向グラフィック入力及びディスプレイシステム
DE69725346T2 (de) Gerät und verfahren zur erzeugung eines blechbiegemodells
Saund et al. A perceptually-supported sketch editor
KR100246066B1 (ko) 컴퓨터 그래픽 시스템 및 그래픽 시스템 동작 제어 방법
EP0635808B1 (en) Method and apparatus for operating on the model data structure on an image to produce human perceptible output in the context of the image
CA2187470C (en) Image structure maps as image representations
US5021976A (en) Method and system for generating dynamic, interactive visual representations of information structures within a computer
JP3471920B2 (ja) 計算処理上重要な対応を決定するための方法及びプロセッサ制御システムを作動する方法
Gleicher et al. Drawing with constraints
EP0194442B1 (en) Method for manipulation of graphic sub-objects in an interactive draw graphic system
US20090278848A1 (en) Drawing familiar graphs while system determines suitable form
GB2317798A (en) Method and apparatus for providing three-dimensional model associativity
JPH07160827A (ja) 手書きストローク編集装置及び方法
CN112506502B (zh) 基于人机交互的可视化编程方法、装置、设备和存储介质
US7000197B1 (en) Method and apparatus for inferred selection of objects
US5852442A (en) Method of drawing a three-dimensional object
CN107608510A (zh) 手势模型库的建立方法、装置及电子设备
Kara et al. Sim-U-Sketch: A sketch-based interface for SimuLink
Nguyen et al. A visualization tool for interactive learning of large decision trees
Kim et al. A new modeling interface for the pen-input displays
JPH08255221A (ja) 文字図形入力編集装置
JPH01240978A (ja) 対話画面定義装置
Boutin et al. Multilevel compound tree–construction visualization and interaction
JP2005234610A (ja) 手書き入力図形編集システム
Ruby Information Visualization for Financial Analysis

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040803

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041027

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20041124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050314

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20050323

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20050428

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070614

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100622

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110622

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110622

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120622

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130622

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term