JP5694234B2 - 電子機器、手書き文書表示方法、及び表示プログラム - Google Patents

Description

本発明の実施形態は、手書き文書を処理することが可能な電子機器及び同電子機器で用いられる手書き文書表示方法、及び表示プログラムに関する。

近年、タブレット型コンピュータ、ＰＤＡ（personal digital assistant）、スマートフォンといった種々の電子機器が開発されている。この種の電子機器の多くは、ユーザによる入力操作を容易にするために、タッチスクリーンディスプレイを備えている。

ユーザは、タッチスクリーンディスプレイ上に表示されるメニューまたはオブジェクトを指などでタッチすることにより、これらメニューまたはオブジェクトに関連づけられた機能の実行を携帯型電子機器に指示することができる。

しかし、タッチスクリーンディスプレイを備える既存の電子機器の多くは、画像、音楽、他の各種メディアデータに対する操作性を追求したコンシューマ向け製品であり、会議、商談、商品開発などのビジネスシーンにおける利用については必ずしも適していない場合がある。このため、いまなお、紙の手帳に手書きして情報を記録することが広く行われている。

特開２００５−１８４４２号公報

電子機器は、人の発想活動の支援を可能にしたり、過去に作成した文書のような資料の再利用を容易にしたりするためのデジタルツールとして機能することが期待される場合がある。例えば、電子機器を紙の手帳と同様の感覚で利用することができ、さらに手書きによって記録した情報を簡単に閲覧できる機能が期待される。

本発明は、手書きにより記録された情報を容易に扱うことができる電子機器、手書き文書表示方法、及び表示プログラムを提供することを目的とする。

実施形態によれば、電子機器は、記録手段と、表示処理手段と、指定手段と、検索手段と、ブロック化手段とを有する。記録手段は、複数のストロークを示す第１ストロークデータを記録する。表示処理手段は、前記第１ストロークデータに基づいて、前記複数のストロークに対応する第１軌跡をページ毎に分けて、複数のページ分の前記第１軌跡を第１の表示色によって１画面に表示する。指定手段は、検索対象とする第２ストロークデータを指定する。検索手段は、前記第２ストロークデータとの類似度が基準値以上である第３ストロークデータを、前記第１ストロークデータから検索する。ブロック化手段は、前記第３ストロークデータをブロック毎に区分する。表示処理手段は、前記第１ストロークデータに対応する複数のページのうち、前記第１軌跡中の前記第３ストロークデータに対応する第２軌跡をそれぞれ少なくとも含む複数のページのみを、前記第２ストロークデータとの類似度が最も高い第３ストロークデータが検索されたページから類似度順に配置して同時に１画面に表示し、前記第２軌跡について前記第１の表示色と異なる第２の表示色により表示し、前記ブロック毎に前記第２軌跡の近接領域内の前記第２軌跡以外を前記第２の表示色と異なる第３の表示色によって表示する。

実施形態に係る電子機器の外観を示す斜視図。 実施形態における電子機器と外部装置との連携動作を示す図。 実施形態における電子機器のタッチスクリーンディスプレイ上に手書きされる手書き文書の例を示す図。 実施形態における電子機器によって記憶媒体に保存される、図３の手書き文書に対応する時系列情報を説明するための図。 実施形態における電子機器のシステム構成を示すブロック図。 実施形態における電子機器によって実行されるデジタルノートブックアプリケーションプログラムの機能構成を示すブロック図。 実施形態における電子機器によって実行される手書き文書作成処理の手順を示すフローチャート。 実施形態における電子機器によって実行される、処理対象の時系列情報部分を選択するための選択処理の手順を示すフローチャート。 実施形態における電子機器によって表示される検索画面を示す図。 実施形態における検索画面に表示される検索結果を示す図。 実施形態における検索画面からあるページにジャンプする様子を示す図。 実施形態における表示中の時系列情報内の特定の時系列情報部分を選択するための動作を説明するための図。 実施形態における電子機器によって実行される検索処理の手順を示すフローチャート。 実施形態における検索対象とする手書きページの一部を示す図。 実施形態における強調表示処理の手順を示すフローチャート。 実施形態における反転表示枠の設定を示す図。 実施形態における強調表示処理によって表示された手書きページの一例を示す図。 実施形態における強調表示処理によってブロック毎に強調表示された手書きページの一例を示す図。 実施形態における強調表示処理によってストローク毎の軌跡に対して近接領域を設定した手書きページの一例を示す図。

以下、実施の形態について図面を参照して説明する。
図１は、一実施形態に係る電子機器の外観を示す斜視図である。電子機器は、例えば、ペンまたは指によって手書き入力可能なペン・ベースの携帯型電子機器である。電子機器は、タブレットコンピュータ、ノートブック型パーソナルコンピュータ、スマートフォン、ＰＤＡ等として実現され得る。以下では、電子機器がタブレットコンピュータ１０として実現されている場合を想定する。タブレットコンピュータ１０は、タブレットまたはスレートコンピュータとも称される携帯型電子機器であり、図１に示すように、本体１１とタッチスクリーンディスプレイ１７とを備える。タッチスクリーンディスプレイ１７は、本体１１の上面に重ね合わせるように取り付けられている。

本体１１は、薄い箱形の筐体を有している。タッチスクリーンディスプレイ１７には、フラットパネルディスプレイと、フラットパネルディスプレイの画面上のペンまたは指の接触位置を検出するように構成されたセンサとが組み込まれている。フラットパネルディスプレイは、例えば、液晶表示装置（ＬＣＤ）であってもよい。センサとしては、例えば、静電容量方式のタッチパネル、電磁誘導方式のデジタイザなどを使用することができる。以下では、デジタイザとタッチパネルの２種類のセンサの双方がタッチスクリーンディスプレイ１７に組み込まれている場合を想定する。

デジタイザ及びタッチパネルの各々は、フラットパネルディスプレイの画面を覆うように設けられる。タッチスクリーンディスプレイ１７は、指を使用した画面に対するタッチ操作のみならず、ペン１００を使用した画面に対するタッチ操作も検出することができる。ペン１００は例えば電磁誘導ペンであってもよい。ユーザは、外部オブジェクト（ペン１００又は指）を使用してタッチスクリーンディスプレイ１７上で手書き入力操作を行うことができる。手書き入力操作中においては、画面上の外部オブジェクト（ペン１００又は指）の動きの軌跡、つまり手書き入力操作によって手書きされるストロークの軌跡（筆跡）がリアルタイムで画面上に表示される。外部オブジェクトが画面に接触している間の、外部オブジェクトの動きの軌跡が１ストロークに相当する。手書き文書は、通常、手書きされた文字または図形などに対応する多数のストロークの集合、つまり多数の軌跡（筆跡）の集合により構成される。

本実施形態において、手書き文書は、イメージデータではなく、各ストロークの軌跡の座標列とストローク間の順序関係を示す時系列情報として記憶媒体に保存される。時系列情報の詳細は図４を参照して後述するが、この時系列情報は、概して、複数のストロークにそれぞれ対応する時系列のストロークデータの集合を意味する。各ストロークデータは、ある一つのストロークに対応し、ストロークの軌跡上の点それぞれに対応する座標データ系列（時系列座標）を含む。これらストロークデータの並びの順序は、ストロークそれぞれが手書きされた順序つまり筆順に相当する。

タブレットコンピュータ１０は、記憶媒体から既存の任意の時系列情報を読み出し、この時系列情報に対応する手書き文書、つまり時系列情報によって示される複数のストロークそれぞれに対応する軌跡を画面上に表示する検索機能を有している。さらに、タブレットコンピュータ１０は編集機能を有している。編集機能は、「消しゴム」ツール、範囲指定ツール、及び他の各種ツール等を用いたユーザによる編集操作に応じて、表示中の手書き文書内の任意のストロークまたは任意の手書き文字等を削除または移動することができる。さらに、編集機能は、幾つかの手書き操作の履歴を取り消す機能も含んでいる。

本実施形態では、時系列情報（手書き文書）は、１つまたは複数のページとして管理することができる。この場合、時系列情報（手書き文書）を１つの画面に収まる面積単位で区切ることによって、１つの画面に収まる時系列情報のまとまりを１つのページとして記録してもよい。あるいは、ページのサイズを可変できるようにしてもよい。この場合、ページのサイズは１つの画面のサイズよりも大きい面積に広げることができるので、画面のサイズよりも大きな面積の手書き文書を一つのページとして扱うことができる。１つのページ全体をディスプレイに同時に表示できない場合は、そのページを縮小して表示するようにしてもよいし、縦横スクロールによってページ内の表示対象部分を移動するようにしてもよい。また、ページを縮小して、複数のページを同時に１画面中に表示するようにしても良い（サムネイルの一覧表示）。

図２は、タブレットコンピュータ１０と外部装置との連携動作の例を示している。タブレットコンピュータ１０は、パーソナルコンピュータ１やクラウドコンピューティングと連携することができる。すなわち、タブレットコンピュータ１０は、無線ＬＡＮなどの無線通信デバイスを備えており、パーソナルコンピュータ１との無線通信を実行することができる。さらに、タブレットコンピュータ１０は、インターネット上のサーバ２との通信を実行することもできる。サーバ２はオンラインストレージサービス、他の各種クラウドコンピューティングサービスを実行するサーバであってもよい。

パーソナルコンピュータ１はハードディスクドライブ（ＨＤＤ）のようなストレージデバイスを備えている。タブレットコンピュータ１０は、時系列情報（手書き文書）を、ネットワークを介してパーソナルコンピュータ１に送信して、パーソナルコンピュータ１のＨＤＤに記録することができる（アップロード）。タブレットコンピュータ１０とパーソナルコンピュータ１との間のセキュアな通信を確保するために、通信開始時には、パーソナルコンピュータ１がタブレットコンピュータ１０を認証するようにしてもよい。この場合、タブレットコンピュータ１０の画面上にユーザに対してＩＤまたはパスワードの入力を促すダイアログを表示してもよいし、タブレットコンピュータ１０のＩＤなどを自動的にタブレットコンピュータ１０からパーソナルコンピュータ１に送信してもよい。

これにより、タブレットコンピュータ１０内のストレージの容量が少ない場合でも、タブレットコンピュータ１０が多数の時系列情報（手書き文書）あるいは大容量の時系列情報（手書き文書）を扱うことが可能となる。

さらに、タブレットコンピュータ１０は、パーソナルコンピュータ１のＨＤＤに記録されている任意の１以上の時系列情報を読み出し（ダウンロード）、その読み出した時系列情報によって示されるストロークそれぞれの軌跡をタブレットコンピュータ１０のディスプレイ１７の画面に表示することができる。この場合、複数の時系列情報（手書き文書）それぞれのページを縮小することによって得られるサムネイルの一覧をディスプレイ１７の画面上に表示してもよいし、これらサムネイルから選ばれた１ページをディスプレイ１７の画面上に通常サイズで表示してもよい。

さらに、タブレットコンピュータ１０が通信する先はパーソナルコンピュータ１ではなく、上述したように、ストレージサービスなどを提供するクラウドコンピューティングのサーバ２であってよい。タブレットコンピュータ１０は、時系列情報（手書き文書）を、ネットワークを介してサーバ２に送信して、サーバ２のストレージデバイス２Ａに記録することができる（アップロード）。さらに、タブレットコンピュータ１０は、サーバ２のストレージデバイス２Ａに記録されている任意の時系列情報を読み出して（ダウンロード）、その時系列情報によって示されるストロークそれぞれの軌跡をタブレットコンピュータ１０のディスプレイ１７の画面に表示することができる。

このように、本実施形態では、時系列情報が格納される記憶媒体は、タブレットコンピュータ１０内のストレージデバイス、パーソナルコンピュータ１内のストレージデバイス、サーバ２のストレージデバイスのいずれであってもよい。

次に、図３及び図４を参照して、ユーザによって手書きされたストローク（文字、マーク、図形、表など）と時系列情報との関係について説明する。図３は、ペン１００などを使用してタッチスクリーンディスプレイ１７上に手書きされる手書き文書（手書き文字列）の例を示している。

手書き文書では、一旦手書きされた文字や図形などの上に、さらに別の文字や図形などが手書きされるというケースが多い。図３においては、「ＡＢＣ」の手書き文字列が「Ａ」、「Ｂ」、「Ｃ」の順番で手書きされ、この後に、手書きの矢印が、手書き文字「Ａ」のすぐ近くに手書きされた場合が想定されている。

手書き文字「Ａ」は、ペン１００などを使用して手書きされる２つのストローク（「∧」形状の軌跡、「−」形状の軌跡）によって、つまり２つの軌跡によって表現される。最初に手書きされる「∧」形状のペン１００の軌跡は例えば等時間間隔でリアルタイムにサンプリングされ、これによって「∧」形状のストロークの時系列座標ＳＤ１１、ＳＤ１２、…ＳＤ１ｎが得られる。同様に、次に手書きされる「−」形状のペン１００の軌跡もサンプリングされ、これによって「−」形状のストロークの時系列座標ＳＤ２１、ＳＤ２２、…ＳＤ２ｎが得られる。

手書き文字「Ｂ」は、ペン１００などを使用して手書きされた２つのストローク、つまり２つの軌跡によって表現される。手書き文字「Ｃ」は、ペン１００などを使用して手書きされた手書きされた１つのストローク、つまり１つの軌跡によって表現される。手書きの「矢印」は、ペン１００などを使用して手書きされた２つのストローク、つまり２つの軌跡によって表現される。

図４は、図３の手書き文書に対応する時系列情報２００を示している。時系列情報は、複数のストロークデータＳＤ１、ＳＤ２、…、ＳＤ７を含む。時系列情報２００内においては、これらストロークデータＳＤ１、ＳＤ２、…、ＳＤ７は、筆跡順に、つまり複数のストロークが手書きされた順に時系列に並べている。

時系列情報２００において、先頭の２つのストロークデータＳＤ１、ＳＤ２は、手書き文字「Ａ」の２つのストロークをそれぞれ示している。３番目と４番目のストロークデータＳＤ３、ＳＤ４は、手書き文字「Ｂ」を構成する２つのストロークをそれぞれ示している。５番目のストロークデータＳＤ５は、手書き文字「Ｃ」を構成する１つのストロークを示している。６番目と７番目のストロークデータＳＤ６、ＳＤ７は、手書き「矢印」を構成する２つのストロークをそれぞれ示している。

各ストロークデータは、一つのストロークに対応する座標データ系列（時系列座標）、つまり一つのストロークの軌跡上の複数の点それぞれに対応する複数の座標を含む。各ストロークデータにおいては、複数の座標はストロークが書かれた順に時系列に並べられている。例えば、手書き文字「Ａ」に関しては、ストロークデータＳＤ１は、手書き文字「Ａ」の「∧」形状のストロークの軌跡上の点それぞれに対応する座標データ系列（時系列座標）、つまりｎ個の座標データＳＤ１１、ＳＤ１２、…ＳＤ１ｎを含む。ストロークデータＳＤ２は、手書き文字「Ａ」の「−」形状のストロークの軌跡上の点それぞれに対応する座標データ系列、 つまりｎ個の座標データＳＤ２１、ＳＤ２２、…ＳＤ２ｎを含む。なお、座標データの数はストロークデータ毎に異なっていてもよい。

各座標データは、対応する軌跡内のある１点に対応するＸ座標及びＹ座標を示す。例えば、座標データＳＤ１１は、「∧」形状のストロークの始点のＸ座標（Ｘ１１）及びＹ座標（Ｙ１１）を示す。ＳＤ１ｎは、「∧」形状のストロークの終点のＸ座標（Ｘ１ｎ）及びＹ座標（Ｙ１ｎ）を示す。

さらに、各座標データは、その座標に対応する点が手書きされた時点に対応するタイムスタンプ情報Ｔを含んでいてもよい。手書きされた時点は、絶対時間（例えば、年月日時分秒）またはある時点を基準とした相対時間のいずれであってもよい。例えば、各ストロークデータに、ストロークが書き始められた絶対時間（例えば、年月日時分秒）をタイムスタンプ情報として付加し、さらに、ストロークデータ内の各座標データに、絶対時間との差分を示す相対時間をタイムスタンプ情報Ｔとして付加してもよい。

このように、各座標データにタイムスタンプ情報Ｔが追加された時系列情報を使用することにより、ストローク間の時間的関係をより精度よく表すことができる。

さらに、各座標データには、筆圧を示す情報（Ｚ）を追加してもよい。

図４で説明したような構造を有する時系列情報２００は、個々のストロークの筆跡だけでなく、ストローク間の時間的関係も表すことができる。従って、時系列情報２００を使用することにより、図３に示すようにたとえ手書き「矢印」の先端部が手書き文字「Ａ」上に重ねてまたは手書き文字「Ａ」に近接して書かれたとしても、手書き文字「Ａ」と手書き「矢印」の先端部とを異なる文字または図形として扱うことが可能となる。

いま、図３に破線の四角で示されているように、ユーザによって画面上のある範囲が指定された場合を想定する。破線の四角によって示される指定範囲には、手書き文字「Ａ」の２つのストロークと、手書き「矢印」の先端部に対応する１つのストロークが含まれている。通常であれば、手書き文字「Ａ」の２つのストロークのみならず、手書き「矢印」の先端部に対応する１つのストロークも、処理対象の時系列情報部分として選択されてしまう可能性がある。

しかし、本実施形態では、時系列情報２００を使用することにより、手書き「矢印」の先端部を処理対象の時系列情報部分から除外することができる。すなわち、本実施形態では、時系列情報２００が解析され、これによって手書き文字「Ａ」の２つのストローク（ストロークデータＳＤ１、ＳＤ２）については連続的に手書きされたものと判定され、さらに、手書き「矢印」の先端部（ストロークデータＳＤ７）の手書きタイミングは、手書き文字「Ａ」の手書きタイミングと不連続であることが判定される。従って、手書き「矢印」の先端部（ストロークデータＳＤ７）を処理対象の時系列情報部分から除外することができる。この場合、手書き「矢印」の先端部（ストロークデータＳＤ７）の手書きタイミングが手書き文字「Ａ」の手書きタイミングと不連続であるか否かの判定は、時系列情報内のストロークデータの並びに基づいて行うことができる。あるいは、この判定は、上述のタイムスタンプ情報Ｔを使用して実行してもよい。タイムスタンプ情報Ｔを使用することにより、より高精度に判定することができる。

また、時系列情報内のストロークデータの並びとタイムスタンプ情報Ｔの双方に基づいて、上述の判定を実行してもよい。例えば、ストロークデータＳＤ２とストロークデータＳＤ７との間に所定数以上のストロークデータが含まれている場合には、ストロークデータＳＤ７の書き込みタイミングがストロークデータＳＤ２の書き込みタイミングと不連続であると判定し、ストロークデータＳＤ２とストロークデータＳＤ７との間のストロークデータ数が所定数よりも少ない場合には、ストロークデータＳＤ２内のタイムスタンプ情報とストロークデータＳＤ７のタイムスタンプ情報とに基づいて、ストロークデータＳＤ７の書き込みタイミングがストロークデータＳＤ２の書き込みタイミングと不連続であるか否かを判定してもよい。この場合、ストロークデータＳＤ２内の最後の座標データに付加されたタイムスタンプ情報Ｔ２ｎとストロークデータＳＤ７内の先頭の座標データに付加されたタイムスタンプ情報Ｔ７１とを比較してもよい。

さらに、本実施形態の時系列情報２００においては、上述したように、ストロークデータＳＤ１、ＳＤ２、…、ＳＤ７の並びは手書き文字の筆順を示す。例えば、ストロークデータＳＤ１及びＳＤ２の並びは、最初に「∧」形状のストロークが手書きされ、次に「−」形状のストロークが手書きされたことを表す。従って、たとえ２つの手書き文字の筆跡同士が互いに類似していても、それら２つの手書き文字の筆順が互いに異なる場合には、それら２つの手書き文字を異なる文字として区別することができる。

さらに、本実施形態では、上述したように、手書き文書は、イメージまたは文字認識結果ではなく、時系列のストロークデータの集合から構成される時系列情報２００として記憶されるので、手書き文字の言語に依存せずに手書き文字を扱うことができる。よって、本実施形態の時系列情報２００の構造は、使用言語の異なる世界中の様々な国で共通に使用できる。

図５は、タブレットコンピュータ１０のシステム構成を示す図である。
タブレットコンピュータ１０は、図５に示されるように、ＣＰＵ１０１、システムコントローラ１０２、主メモリ１０３、グラフィクスコントローラ１０５、ＢＩＯＳ−ＲＯＭ１０５、不揮発性メモリ１０６、無線通信デバイス１０７、エンベデッドコントローラ（ＥＣ）１０８等を備える。

ＣＰＵ１０１は、タブレットコンピュータ１０内の各種モジュールの動作を制御するプロセッサである。ＣＰＵ１０１は、ストレージデバイスである不揮発性メモリ１０６から主メモリ１０３にロードされる各種ソフトウェアを実行する。これらソフトウェアには、オペレーティングシステム（ＯＳ）２０１、及び各種アプリケーションプログラムが含まれている。アプリケーションプログラムには、デジタルノートブックアプリケーションプログラム２０２が含まれている。このデジタルノートブックアプリケーションプログラム２０２は、上述の手書き文書を作成及び表示する機能、手書き文書を編集する機能、筆跡検索機能、及び文字・図表認識機能等を有している。

また、ＣＰＵ１０１は、ＢＩＯＳ−ＲＯＭ１０５に格納された基本入出力システム（ＢＩＯＳ）も実行する。ＢＩＯＳは、ハードウェア制御のためのプログラムである。

システムコントローラ１０２は、ＣＰＵ１０１のローカルバスと各種コンポーネントとの間を接続するデバイスである。システムコントローラ１０２には、主メモリ１０３をアクセス制御するメモリコントローラも内蔵されている。また、システムコントローラ１０２は、ＰＣＩ ＥＸＰＲＥＳＳ規格のシリアルバスなどを介してグラフィクスコントローラ１０４との通信を実行する機能も有している。

グラフィクスコントローラ１０４は、本タブレットコンピュータ１０のディスプレイモニタとして使用されるＬＣＤ１７Ａを制御する表示コントローラである。グラフィクスコントローラ１０４によって生成される表示信号はＬＣＤ１７Ａに送られる。ＬＣＤ１７Ａは、表示信号に基づいて画面イメージを表示する。ＬＣＤ１７Ａ上にはタッチパネル１７Ｂ及びデジタイザ１７Ｃが配置されている。タッチパネル１７Ｂは、ＬＣＤ１７Ａの画面上で入力を行うための静電容量式のポインティングデバイスである。指が接触される画面上の接触位置及び接触位置の動き等はタッチパネル１７Ｂによって検出される。デジタイザ１７ＣはＬＣＤ１７Ａの画面上で入力を行うための電磁誘導式のポインティングデバイスである。ペン１００が接触される画面上の接触位置及び接触位置の動き等はデジタイザ１７Ｃによって検出される。

無線通信デバイス１０７は、無線ＬＡＮまたは３Ｇ移動通信などの無線通信を実行するように構成されたデバイスである。ＥＣ１０８は、電力管理のためのエンベデッドコントローラを含むワンチップマイクロコンピュータである。ＥＣ１０８は、ユーザによるパワーボタンの操作に応じて本タブレットコンピュータ１０を電源オンまたは電源オフする機能を有している。

次に、図６を参照して、デジタルノートブックアプリケーションプログラム２０２の機能構成について説明する。
デジタルノートブックアプリケーションプログラム２０２は、ペン軌跡表示処理部３０１、時系列情報生成部３０２、編集処理部３０３、ページ保存処理部３０４、ページ取得処理部３０５、手書き文書表示処理部３０６、処理対象ブロック選択部３０７、及び処理部３０８等を備える。

デジタルノートブックアプリケーションプログラム２０２は、タッチスクリーンディスプレイ１７を用いて入力されるストロークデータを使用することによって、手書き文書の作成、表示、編集等を行う。タッチスクリーンディスプレイ１７は、「タッチ」、「移動（スライド）」、「リリース」等のイベントの発生を検出するように構成されている。「タッチ」は、画面上に外部オブジェクトが接触したことを示すイベントである。「移動（スライド）」は、画面上に外部オブジェクトが接触されている間に接触位置が移動されたことを示すイベントである。「リリース」は、画面から外部オブジェクトが離されたことを示すイベントである。

ペン軌跡表示処理部３０１及び時系列情報生成部３０２は、タッチスクリーンディスプレイ１７によって発生される「タッチ」または「移動（スライド）」のイベントを受信し、これによって手書き入力操作を検出する。「タッチ」イベントには、接触位置の座標が含まれている。「移動（スライド）」イベントにも、移動先の接触位置の座標が含まれている。従って、ペン軌跡表示処理部３０１及び時系列情報生成部３０２は、タッチスクリーンディスプレイ１７から、接触位置の動きの軌跡に対応する座標列を受信することができる。

ペン軌跡表示処理部３０１は、タッチスクリーンディスプレイ１７から座標列を受信し、この座標列に基づいて、ペン１００等を使用した手書き入力操作によって手書きされる各ストロークの軌跡をタッチスクリーンディスプレイ１７内のＬＣＤ１７Ａの画面上に表示する。ペン軌跡表示処理部３０１により、画面にペン１００が接触している間のペン１００の軌跡、つまり各ストロークの軌跡がＬＣＤ１７Ａの画面上に描かれる。

時系列情報生成部３０２は、タッチスクリーンディスプレイ１７から出力される上述の座標列を受信し、この座標列に基づいて、図４で詳述したような構造を有する上述の時系列情報を生成する。この場合、時系列情報、つまりストロークの各点に対応する座標及びタイムスタンプ情報は作業メモリ４０１に一時保存してもよい。

さらに、時系列情報生成部３０２は、時系列情報をもとにブロック構造化処理を実行して、各ストロークに対応するストロークデータをブロック毎に区分することができる。例えば、１つの文字（あるいは１つの記号など）を構成するストローク毎に区分する。時系列情報生成部３０２は、例えば、タイムスタンプ情報をもとに判別される、１つのストロークの最後の座標が入力されてから次のストロークの最初の座標が入力されるまでの時間と、各ストロークの座標から判別される距離に基づいて、複数のストロークを区分することができる。

例えば、図３に示す手書き文字「Ａ」「Ｂ」に関しては、通常、手書き文字「Ａ」のストロークデータＳＤ１（「Ａ」の第１ストローク）が入力された後、次のストロークデータＳＤ２（「Ａ」の第２ストローク）が入力されるまでの時間は比較的短く、ストロークデータＳＤ２（「Ａ」の第２ストローク）が入力された後、次の手書き文字「Ｂ」のストロークデータＳＤ３（「Ｂ」の第１ストローク）が入力されるまでの時間は比較的長くなる。時系列情報生成部３０２は、予め決められた時間基準値と、ストロークデータＳＤ２，ＳＤ３の時間とを比較することにより、時間基準値よりもストロークＳＤ２，ＳＤ３の時間が長い場合に、ストロークデータＳＤ２とストロークデータＳＤ３との間をストロークの区分候補として求める。

また、時系列情報生成部３０２は、各ストロークの間の距離と予め設定された距離基準値とを比較し、距離基準値よりもストローク間の距離が長い場合にストロークの区分候補として求める。図３に示す手書き文字「Ａ」「Ｂ」に関しては、手書き文字「Ａ」のストロークデータＳＤ１と次のストロークデータＳＤ２（「Ａ」の第２ストローク）との距離は短く、ストロークデータＳＤ２（「Ａ」の第２ストローク）と手書き文字「Ｂ」のストロークデータＳＤ３（「Ｂ」の第１ストローク）との距離は長い。時系列情報生成部３０２は、ストロークデータＳＤ２とストロークデータＳＤ３との距離が距離基準値より長い場合に、ストロークデータＳＤ２とストロークデータＳＤ３との間をストロークの区分候補として求める。

時系列情報生成部３０２は、前述した各ストローク間の時間と距離に基づいて、複数のストロークデータをブロック毎に区分し、各ブロックを示すブロック情報を時系列情報に追加する。

ページ保存処理部３０４は、生成された時系列情報を手書き文書（手書きページ）として記憶媒体４０２に保存する。記憶媒体４０２は、上述したように、タブレットコンピュータ１０内のストレージデバイス、パーソナルコンピュータ１内のストレージデバイス、サーバ２のストレージデバイスのいずれであってもよい。

ページ取得処理部３０５は、記憶媒体４０２から既に格納されている任意の時系列情報を読み出す。読み出された時系列情報は手書き文書表示処理部３０６に送られる。手書き文書表示処理部３０６は、時系列情報を解析し、この解析結果に基づいて、時系列情報によって示される各ストロークの軌跡を画面に手書きページとして表示する。また、手書き文書表示処理部３０６は、画面に１ページ分の手書きページを表示するだけでなく、手書きページを縮小した手書きページサムネイルを、画面に複数ページ分表示することができる。手書き文書表示処理部３０６は、処理部３０８の検索処理部３０９による検索結果に応じて、複数の検索対象とする手書きページから検索キーとして指定した特定の時系列情報部分を含む手書きページを選択して、手書きページサムネイルにより一覧表示することができる。

編集処理部３０３は、現在表示中の手書きページを編集するための処理を実行する。すなわち、編集処理部３０３は、タッチスクリーンディスプレイ１７上でユーザによって行われる編集操作に応じて、表示されている複数のストローク内の１以上のストロークを削除、移動または追加等するための編集処理を実行する。さらに、編集処理部３０３は、編集処理の結果を表示中の時系列情報に反映するためにこの時系列情報を更新する。

ユーザは、「消しゴム」ツール等を使用して、表示されている複数のストローク内の任意のストロークを削除することができる。また、ユーザは、画面上の任意の部分を丸または四角によって囲むための「範囲指定」ツールを使用して、表示中の時系列情報（手書きページ）内の任意の部分を範囲指定することができる。この範囲指定操作によって指定される画面上の指定範囲に応じて、処理対象の時系列情報部分、つまり処理対象のストロークデータ群が処理対象ブロック選択部３０７によって選択される。すなわち、処理対象ブロック選択部３０７は、表示中の時系列情報から、指定範囲内に属するストロークそれぞれに対応する第１のストロークデータ群を抽出し、この第１のストロークデータ群内の他のストロークデータと時系列において不連続である第２のストロークデータを除く、第１のストロークデータ群内の個々のストロークデータを処理対象の時系列情報部分に決定する。

編集処理部３０３は、ユーザによって編集メニューから「削除」「移動」または「追加」等のメニューが選択された場合、処理対象ブロック選択部３０７によって選択されているストロークデータ群に対する削除、移動、追加等の処理を実行する。この場合、複数のストロークデータが処理対象のストロークデータ群として選択されている場合には、編集処理部３０３は、これら複数のストロークデータをまとめて画面上から削除または画面上に別の位置に移動することができる。時系列情報においては、移動された各ストロークデータの時系列座標は、移動先位置に応じて自動的に変更してもよい。また、移動された各ストロークデータの時系列座標を変更したことを表す操作履歴を時系列情報に追加してもよい。削除された各ストロークデータも、時系列座標から必ずしも削除しなくてもよく、これら各ストロークデータを削除したことを表す操作履歴を時系列情報に追加してもよい。

処理部３０８は、処理対象の時系列情報に対して様々な処理、例えば、筆跡検索処理、認識処理等を実行することができる。処理部３０８は、検索処理部３０９及び検索軌跡表示処理部３１０を含む。

検索処理部３０９は、記憶媒体４０２内に既に格納されている複数の時系列情報（複数の手書きページ）から特定の時系列情報部分（特定の手書き文字列等）に該当する時系列情報部分を検索する。検索処理部３０９は、特定の時系列情報部分を検索キーつまり検索クエリとして指定するように構成された指定モジュールを含んでいる。検索処理部３０９は、複数の時系列情報の各々から、特定の時系列情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する時系列情報部分を検索する。検索軌跡表示処理部３１０は、検索処理部３０９により見つけ出された時系列情報部分に対応する軌跡を、他の時系列情報部分と識別が容易となる表示形態によってＬＣＤ１７Ａの画面上に表示する。

例えば、検索クエリとして指定される特定の時系列情報部分は、例えば、特定の手書き文字、特定の手書き文字列、特定の手書き記号、特定の手書き図形等が使用しうる。以下では、特定の手書き文字列が検索クエリとして指定される場合を想定する。

検索処理部３０９によって実行される検索処理は筆跡検索であり、すでに記録されている複数の手書きページの中から、検索クエリである特定の手書き文字列と類似する筆跡を有する手書き文字列を検索する。なお、現在表示中のある一つの手書きページのみを対象に筆跡検索を行ってもよい。

手書き文字間の類似度の計算方法としては、様々な方法を使用することができる。例えば各ストロークの座標列をベクトルとして扱ってもよい。この場合、比較対象のベクトル同士の類似度を計算するために、それら比較対象のベクトル間の内積を比較対象のベクトル間の類似度として算出してもよい。また他の例としては、各ストロークの軌跡を画像として扱い、比較対象の軌跡間の画像の重なりがもっとも多くなる部分の面積の大きさを上述の類似度として計算してもよい。さらに計算処理量を減らすための任意の工夫をしてもよい。また、手書き文字間の類似度の計算方法として、ＤＰ（Dynamic Programming）マッチングを使用してもよい。

検索処理部３０９内の上述の指定モジュールは、検索対象とすべき文字列または図形を手書きするための検索キー入力領域を画面上に表示してもよい。ユーザによって検索キー入力領域に手書きされた文字列等が検索クエリとして使用される。

あるいは、指定モジュールとして、上述の処理対象ブロック選択部３０７を使用してもよい。この場合、処理対象ブロック選択部３０７は、ユーザによって行われる範囲指定操作に応じて、表示中の時系列情報内の特定の時系列情報部分を、検索対象とすべき文字列または図形として選択することができる。ユーザは、表示中のページ内の一部の文字列を囲むように範囲指定してもよいし、表示中のページの余白などに検索クエリ用の文字列を新たに手書きし、この検索クエリ用の文字列を囲むように範囲指定してもよい。

例えば、ユーザは、表示中のページ内の一部を手書きの丸で囲むことによって範囲指定することができる。あるいは、ユーザは、あらかじめ用意されているメニューを用いてデジタルノートブックアプリケーションプログラム２０２を「選択」モードに設定し、この後、表示中のページ内の一部をペン１００でなぞってもよい。

このように、表示中の時系列情報（手書きページ）内の時系列情報部分（手書き文字列）が検索クエリとして選択された場合においては、検索処理部３０９は、検索クエリとして選択された時系列情報部分を検索対象から除外する。すなわち、検索処理部３０９は、表示中の時系列情報全体では無く、選択された時系列情報部分を除く、表示中の時系列情報内の他の時系列情報部分から、選択され時系列情報部分に対応するストロークの軌跡との類似度が基準値以上であるストロークの軌跡を有する時系列情報部分を見つけ出す。

このように、検索クエリとして選択された時系列情報部分を検索対象から除外するという処理を行うことにより、選択された時系列情報部分（検索されて当然の文字列）それ自体が検索結果として表示されてしまうことを防止することができる。

よって、ユーザは、表示中のページに検索クエリとして使用すべき文字列を新たに手書きし、この文字列を選択するという操作を行うことによって、検索クエリの入力を行うことが可能となる。この場合、新たに手書きされた文字列（検索クエリ）自体は検索対象から除外されるので、新たに手書きされた文字列自体が検索結果として表示されることはない。よって、検索キー入力領域を画面上に表示することなく、表示中の手書きページの一部を容易に検索クエリとして使用することができる。

このように、本実施形態では、既に記録されている複数の手書きページから、検索クエリとして選択されたある手書き文字の特徴に類似する手書き文字（時系列情報部分）を検索することによって、過去に作成及び保存した多数の手書きページから、ユーザの意図に合った手書きページを簡単に検索することができる。本実施形態では、手書きページから検索された手書き文字部分については、他の手書き文字部分とは異なる表示形態によって表示するので、容易に該当する手書き文字部分を識別することができる。

本実施形態の筆跡検索においては、テキスト検索の場合とは異なり、文字認識を行う必要が無い。従って、言語に依存しないため、あらゆる言語で手書きされた手書きページを検索対象とすることができる。さらに、図形等を筆跡検索のための検索クエリとして使用することもでき、また言語以外の記号、マーク等を筆跡検索のための検索クエリとして使用することもできる。

次に、図７のフローチャートを参照して、デジタルノートブックアプリケーションプログラム２０２によって実行される手書きページ作成処理の手順について説明する。

ユーザがペン１００を使用して手書き入力操作を行うと（ステップＳ１１）、「タッチ」や「移動」のイベントが発生される。これらイベントに基づいて、デジタルノートブックアプリケーションプログラム２０２は、ペン１００の動きの軌跡を検出する（ステップＳ１２）。ペン１００の動きの軌跡が検出されたならば（ステップＳ１２のＹＥＳ）、デジタルノートブックアプリケーションプログラム２０２は、検出されたペン１００の動きの軌跡をディスプレイに表示する（ステップＳ１３）。さらに、デジタルノートブックアプリケーションプログラム２０２は、検出されたペン１００の動きの軌跡に対応する座標列に基づいて上述の時系列情報を生成し、その時系列情報を作業メモリ４０１に一時保存する（ステップＳ１４）。

次に、図８のフローチャートを参照して、デジタルノートブックアプリケーションプログラム２０２の処理対象ブロック選択部３０７によって実行される選択処理の手順について説明する。

処理対象ブロック選択部３０７は、表示中の時系列情報から、ユーザによる範囲指定操作によって指定される画面上の指定範囲内に属する全てのストロークデータを抽出する（ステップＳ２１）。ステップＳ２１の抽出処理は、時系列情報内の各ストロークデータに対応する時系列座標に基づいて実行される。処理対象ブロック選択部３０７は、抽出されたストロークデータ間の並び、または抽出された各ストロークデータ内の各座標データに付加されたタイムスタンプ情報に基づいて、抽出されたストロークデータの集合から、時間的関連度が低いストロークデータを特定する（ステップＳ２２）。

時間的関連度が低いストロークデータは、上述したように、手書きタイミングが、抽出されたストロークデータの集合内の他のストロークデータの手書きタイミングと不連続であるストロークデータである。

いま、抽出されたストロークデータの集合内の第１のストロークデータが上述の不連続のストロークデータであるか否かを決定するための処理を行う場合を想定する。この場合、まず、抽出されたストロークデータの集合から、第１のストロークデータの手書きタイミングに手書きタイミングが最も近い第２のストロークデータが特定される。そして、第２のストロークデータと第１のストロークデータとの間に存在するストローク数が所定の基準ストローク数以上であるか否か、あるいは第２のストロークデータのタイムスタンプ情報と第１のストロークデータのタイムスタンプ情報との間の時間距離が所定の基準時間以上であるか否かが判定される。この判定結果に基づき、第１のストロークデータが上述の不連続のストロークデータであるか否かが決定される。

処理対象ブロック選択部３０７は、特定されたストロークデータ（不連続のストロークデータ）を除く、他の抽出された全てのストロークデータを、処理対象データに決定する（ステップＳ２３）。そして、処理対象データに決定された各ストロークデータに対して所定の処理が実行される（ステップＳ２４）。

ユーザによる範囲指定操作によって図３の破線の四角が指定された場合を想定する。まず、図３の破線の四角によって示される指定範囲内に属するストロークデータとして、図４のストロークデータＳＤ１、ＳＤ２、ＳＤ７が抽出される。ストロークデータＳＤ１、ＳＤ２は手書きタイミングが互いに連続しているが、ストロークデータＳＤ７の手書きタイミングはストロークデータＳＤ２の手書きタイミングと不連続である。従って、ストロークデータＳＤ７は、上述の不連続のストロークデータとして特定される。

なお、ここでは、基準ストローク数または基準時間を用いて不連続のストロークデータを特定する場合を説明したが、他の方法を使用して不連続のストロークデータを特定してもよい。たとえば、互いに近傍に位置し且つ連続的に手書きされたストロークにそれぞれ対応するストロークデータ同士が同一ブロックに分類されるように、指定範囲上に存在する全てのストロークデータを２以上のブロックにグループ分けしてもよい。そして、これらブロックそれぞれと指定範囲内との重複面積を算出し、最大の重複面積を有するブロック以外の他の各ブロックに含まれるストロークデータそれぞれを不連続のストロークデータとして特定してもよい。

図９は、デジタルノートブックアプリケーションプログラム２０２によってユーザに提示される筆跡検索画面５００の例示である。

筆跡検索画面５００では、検索キー入力領域５０１、検索ボタン５０１Ａ、クリアボタン５０１Ｂが表示される。検索キー入力領域５０１は、検索対象とすべき文字列または図形を手書きするための入力領域である。検索ボタン５０１Ａは、筆跡検索処理の実行を指示するためのボタンである。クリアボタン５０１Ｂは、検索キー入力領域５０１に手書きされた文字列または図形の削除（クリア）を指示するためのボタンである。

筆跡検索画面５００は、さらに、複数の手書きページサムネイル６０１を表示する。図９の例においては、９個の手書きページそれぞれに対応する９個の手書きページサムネイル６０１が表示されている。

図１０に示されているように、検索キー入力領域５０１に手書き文字列「ＴＡＢＬＥＴ」が入力されている状態で検索ボタン５０１Ａが押下された場合、９個の手書きページの各々から手書き文字列「ＴＡＢＬＥＴ」を見つけ出すための筆跡検索処理が開始される。そして、筆跡検索画面５００上には、手書き文字列「ＴＡＢＬＥＴ」を含む幾つかの手書きページそれぞれに対応する手書きページサムネイルが表示される。図１０においては、９個の手書きページの中の５個の手書きページが手書き文字列「ＴＡＢＬＥＴ」を含む手書きページとして検索された検索結果の画面が例示されている。検索結果の画面では、手書きページから検索された手書き文字列「ＴＡＢＬＥＴ」を、容易に識別できるように強調表示している。図１０に示す例では、５個の手書きページサムネイル中の手書き文字列「ＴＡＢＬＥＴ」（ヒットワード）の表示色（白黒）を反転させると共に、手書き文字列「ＴＡＢＬＥＴ」以外の文字列を元の黒色表示からグレー表示に変更する。なお、図１０に示す破線は、グレー表示されていることを示す。筆跡検索画面５００における強調表示の詳細については後述する（図１４〜図１９参照）。

検索された５個の手書きページサムネイルの１つがユーザによって選択されたならば、図１１に示すように、選択された手書きページサムネイル６０１Ａに対応する手書きページ６０１Ｂが通常のサイズで画面上に表示される。手書きページ６０１Ｂには、検索ボタン７００が表示される。ユーザによって検索ボタン７００が押下されたならば、表示画面の内容は、図１１の左側に示される検索画面に戻される。なお、図１１における破線は、グレー表示されていることを表している。

なお、筆跡検索画面５００では、検索前の手書きページサムネイルが一覧表示されている画面において、１つがユーザによって選択されたならば、前述と同様にして、図１１に示すように、選択された手書きページサムネイル６０１Ａに対応する手書きページ６０１Ｂが通常のサイズで画面上に表示される。

図１２は、表示されている手書きページ８００内の一部分を検索対象とすべき文字列または図形として使用する例を示している。ユーザは、手書きページ８００内の一部分を例えば手書きの丸８０１によって囲むことにより、手書きページ８００内の一部分を範囲指定することができる。手書きの丸８０１には、手書き文字「Ａ」と手書きの矢印の先頭部分とが含まれているが、上述したように、手書きの矢印の先頭部は処理対象から除外することができる。よって、手書き文字「Ａ」を検索対象とすべき文字として指定することができる。

次に、図１３のフローチャートを参照して、筆跡検索処理の手順を説明する。
デジタルノートブックアプリケーションプログラム２０２は、ユーザからの指示によって検索対象とする手書きページが指定されると、ページ取得処理部３０５によって記憶媒体４０２から該当する手書きページを読み出し、手書き文書表示処理部３０６により筆跡検索画面５００において表示する。ここで、複数の手書きページが検索対象となっている場合には、手書き文書表示処理部３０６は、図９に示すように、複数の手書きページを手書きページサムネイルの形式により一覧表示する。

なお、図９に示す筆跡検索画面５００では、９個の手書きページサムネイルを画面に一覧表示するため、検索対象とする手書きページが１０個以上ある場合には、所定の順番の上位９個の手書きページを選択して表示する。また、手書き文書表示処理部３０６は、ユーザ操作によって次画面表示が指示された場合に、１０個目以降の手書きページサムネイルの一覧表示に画面を切り替えるものとする。

ここで、筆跡検索画面５００においてユーザが検索対象とすべき文字列や図形等を手書きすると、処理部３０８は、ユーザ操作により指定された手書き文字列又は手書きの図形等（時系列情報部分）を、検索キー（検索対象）として指定する（ステップＳ３１）。

検索処理部３０９は、複数の手書き文書（手書きページ）から、検索キーとして指定された時系列情報部分（ストロークの軌跡）との類似度が基準値以上であるストロークの軌跡を有する時系列情報部分を検索する（ステップＳ３２）。検索軌跡表示処理部３１０は、検索処理部３０９によって手書きページから検索キーとする時系列情報部分が検索されると、手書きページ（あるいは手書きページサムネイル）の検索キーに該当する時系列情報部分を強調表示する（ステップＳ３３）。また、手書き文書表示処理部３０６は、処理部３０８の検索処理部３０９による検索結果に応じて、検索キーとして指定した特定の時系列情報部分を含む手書きページを選択して、手書きページサムネイルにより一覧表示する。すなわち、検索キーとして指定した特定の時系列情報部分を含まない手書きページ（手書きページサムネイル）を表示しないようにすることで、ユーザが所望する手書きページを容易に識別できるようにする。

以下、検索キーに該当する時系列情報部分の強調表示の一例について説明する。
図１４は、検索対象とする手書きページの一部を示す図である。図１４に示す手書きページには「ＴＡＢＬＥＴ」の手書き文字列が含まれている。なお、図１４に示す横線は、他の手書き文字列が存在していることを表しており、具体的な文字列の記載を省略している。

ここで、手書き文書表示処理部３０６は、筆跡検索画面５００において、手書きページ（手書きページサムネイル）を複数階調（グレースケール）によって表示するものとする。初期状態では、手書きページ中の文字列等を表す軌跡を黒色により表示し、軌跡以外の背景部分を白色によって表示する。なお、文字列等を表す軌跡を黒色に近い階調、軌跡以外の背景部分を白色に近い階調によって表示するようにしても良い。すなわち、軌跡と背景の階調の差を大きくすることで、画面に表示された軌跡を識別しやすくする。

図１５は、本実施形態における強調表示処理の手順を示すフローチャートである。
筆跡検索画面５００の検索キー入力領域５０１において、ユーザにより検索対象とすべき文字列「ＴＡＢＬＥＴ」が手書きされると、検索処理部３０９は、手書き入力された文字列「ＴＡＢＬＥＴ」に相当する特定の時系列情報部分（検索キー）を、図１４に示す手書きページから検索したものとする。

検索軌跡表示処理部３１０は、手書きページから検索された検索キーに該当する時系列情報部分（ブロック）について反転表示枠を設定する（ステップＳ４１）。

図１６は、本実施形態における反転表示枠の設定を示す図である。図１６に示すように、検索軌跡表示処理部３１０は、手書きページから検索された時系列情報部分（ブロック）の全体に対する反転表示枠を設定する。例えば、時系列情報部分（ブロック）に含まれる全ての軌跡を示すストロークデータ（座標データ系列）から、最小のＸ座標（Ｘ１）とＹ座標（Ｙ１）、最大のＸ座標（Ｘ２）とＹ座標（Ｙ２）を抽出する。すなわち、検索軌跡表示処理部３１０は、図１６に示すように、座標（Ｘ１，Ｙ１）と座標（Ｘ２，Ｙ２）を対角の頂点とする外接矩形枠を設定する。さらに、検索軌跡表示処理部３１０は、外接矩形枠の枠外に所定の幅を確保することで反転表示枠を設定する。所定の幅は、予め決められているものとする。なお、所定の幅を手書きページから検索された時系列情報部分の周囲に存在する他の軌跡との距離に基づいて決定しても良い。この場合、例えば検索された時系列情報部分と周囲に存在する他の軌跡との距離の半分を所定の幅とする。

検索軌跡表示処理部３１０は、外接矩形枠の位置を示す座標（Ｘ１，Ｙ１）（Ｘ２，Ｙ２）をもとに、外接矩形枠から所定の幅を確保した反転表示枠の対角の位置を示す座標（Ｘ３，Ｙ３）（Ｘ４，Ｙ４）を算出する。

次に、検索軌跡表示処理部３１０は、手書きページから検索された時系列情報部分の軌跡を、元の表示色（黒）の反転色（白）により表示し、反転表示枠内の軌跡の近接領域を元の軌跡の表示色（黒）によって表示する。すなわち、手書きページから検索された時系列情報部分の軌跡と、軌跡の周囲の近接領域を互いに反転する色によって表示する。

さらに、検索軌跡表示処理部３１０は、手書きページ中の検索された時系列情報部分（ブロック）以外の他の軌跡を、中間色（グレー）によって表示する。すなわち、他の軌跡を元の表示色（黒）から中間色に変更することで目立たなくし、検索された時系列情報部分の軌跡と近接領域がより目立つようにする（ステップＳ４２）。

図１７は、本実施形態における強調表示処理によって表示された手書きページの一例を示す図である。
図１７に示すように、手書きページから検索された時系列情報部分（軌跡）が白色、反転表示枠内の軌跡の周囲が黒色によって表示されている。さらに、反転表示枠外の軌跡が中間色（グレー）によって表示される。このため、手書きページ中において反転表示枠部分が特に目立つようになり、手書きページから検索された時系列情報部分（軌跡）を容易に識別することができる。

なお、図１７に示す表示例では、手書きページから検索された時系列情報部分の全体に対する外接矩形枠をもとに反転表示枠を設定しているが、ブロック構造化処理によって区分されたブロック毎に外接矩形枠を求め、ブロック毎に反転表示枠を設定するようにしても良い。すなわち、ブロック構造化処理によって区分された文字毎に強調表示する。

図１８は、本実施形態における強調表示処理によってブロック毎に強調表示された手書きページの一例を示す図である。
図１８に示す例では、「Ｔ」「Ａ」「Ｂ」「Ｌ」「Ｅ」「Ｔ」の各文字に対応するストロークデータが、それぞれ１ブロックとして区分されているものとする。

検索軌跡表示処理部３１０は、各ブロックのストロークデータに対応する時系列情報部分について、図１５に示すようにして反転表示枠を設定し、軌跡の表示色と反転表示枠内の近接領域の表示色を反転させる。この結果、図１８に示すように、各ブロックの位置に合わせて強調表示が施される。

このようにして、ブロック（文字）毎に反転表示枠を設定して強調表示することにより、反転表示枠が必要以上にサイズが大きくなるといったことを回避できる。例えば時系列情報部分が斜めに配置されている場合、時系列情報部分の全体に対する外接矩形枠が、時系列情報部分が水平に配置されている場合よりも縦横方向にサイズが大きくなるが、ブロック（文字）毎に反転表示枠を設定することで、反転表示枠を拡大させなくても済む。

また、図１７及び図１８に示す例では、時系列情報部分（ブロック）に対して表示反転枠を設定しているが、ストローク毎の軌跡に対して、表示色を反転させる近接領域を設定するようにしても良い。

図１９は、本実施形態における強調表示処理によってストローク毎の軌跡に対して近接領域を設定した手書きページの一例を示す図である。図１９に示すように、ストロークデータが示すストローク毎の軌跡に対して、軌跡から一定範囲を近接領域として設定して、前述と同様にして表示色を反転させている。すなわち、近接領域を軌跡の元の表示色によって表示し、軌跡を背景色によって表示することで、軌跡を縁取るように表示する。これにより、手書きページから検索された時系列情報部分を強調表示する。

このようにして、手書きページをグレースケールによって表示する場合であっても、手書きページから検索された時系列情報部分の軌跡と、この軌跡の周囲の近接領域を、それぞれ反転色によって表示することで、手書きページから検索された時系列情報部分を容易に識別することができる。従って、筆跡検索画面５００に表示された複数の手書きページサムネイルから所望する手書きページを識別できる。ユーザは、強調表示された軌跡をもとに所望する手書きページサムネイルを識別し、この手書きページサムネイルを選択して、手書きページを表示させることができる。

また、手書き文書表示処理部３０６は、検索処理部３０９によって時系列情報部分（検索キー）が検索された手書きページサムネイルのみを選択して筆跡検索画面５００に表示する。従って、ユーザは、検索処理によって絞り込まれた手書きページから、所望する手書きページを容易に選択することができる。なお、検索によって絞り込まれた手書きページサムネイルを対象として、別の文字列を手書き入力して検索処理を実行することで、さらに手書きページサムネイルを絞り込むことも可能である。

なお、前述した説明では、筆跡検索画面５００の初期状態において、手書きページ中の文字列等を表す軌跡を黒色により表示し、軌跡以外の背景部分を白色によって表示し、強調表示では、軌跡を白色、反転表示枠内を黒色に反転色により表示している。これに対して、筆跡検索画面５００の初期状態において、手書きページ中の文字列等を表す軌跡を白色により表示し、軌跡以外の背景部分を黒色によって表示している場合には、強調表示では、前述と同様にして、軌跡を黒色、反転表示枠内を白色の反転色により表示すれば良い。

さらに、白黒反転では無く、例えば、強調表示の際には、初期状態とは異なる表示色（中間色）を用いるようにしても良い。また、初期状態では、例えば文字列等を表す軌跡を黒色に近い階調、軌跡以外の背景部分を白色に近い階調によって表示し、強調表示をする場合に白色と黒色を用いることにより、強調表示がより明確となるようにしても良い。

さらに、検索処理部３０９による検索処理において算出された類似度に応じて、強調表示をする際の表示色を変化させるようにしても良い。例えば、検索キーとする手書き文字列と類似度の高い軌跡が手書きページから検索された場合には、この手書きページから検索された手書き文字列（時系列情報部分）が目立つように強調表示する。

例えば、予め設定された基準値よりも類似度が高い場合には、強調表示では、軌跡を黒色にし、反転表示枠内を白色（あるいは軌跡を白色、反転表示枠内を黒色）とし、検索された手書き文字列以外の軌跡の階調値を白色に近くする。これにより、強調表示部分がより目立つようになる。また、類似度が低くなるに従って手書き文字列以外の軌跡の表示色を、黒色に近い階調値にする。こうして、文字列以外の軌跡の階調値を類似度に応じて変化させることにより、強調表示部分の目立ちやすさを変化させることができる。

さらに、強調表示部分についても、類似度に応じて階調値を変化させるようにしても良い。例えば、予め設定された基準値よりも類似度が高い場合には、強調表示では軌跡を黒色にし、反転表示枠内を白色（あるいは軌跡を白色、反転表示枠内を黒色）とするが、類似度が低くなるに従って、軌跡と反転表示枠内の表示色を、階調値の差が小さくなるようにする。ただし、強調表示は、検索キーとする手書き文字列との類似度が高い部分を示す。このため、検索された手書き文字列以外の軌跡を表示する表示色の階調値と反転表示枠内の表示色の階調値との差を所定以上確保して、強調表示の部分をユーザが容易に識別できるようにする。

強調表示部分について類似度に応じて階調値を変化させることで、例えば手書きページ中から複数の部分が検索された場合に、強調表示の表示色によって注目すべき部分を判断できるので、所望する手書きページサムネイルの判別を容易にすることができる。

さらに、手書き文書表示処理部３０６は、検索処理部３０９による検索処理において算出された類似度に応じて、筆跡検索画面５００に表示する手書きページサムネイルの順番を変更しても良い。例えば、類似度が最も高い手書き文字列（時系列情報部分）が検索された手書きページサムネイルから順番に配置して表示する。これにより、ユーザは、所望する手書きページサムネイルを選択し易くなる。

また、前述した説明では、グレースケールによって手書きページを表示するとしているが、カラー表示をする場合にも前述した強調表示の方法を応用することができる。すなわち、筆跡検索画面５００の初期状態において、手書きページ中の文字列等を表す軌跡の表示色と、軌跡以外の背景部分の表示色とを異なる色とし、強調表示では、軌跡と反転表示枠内の表示色を反転させる。また、強調表示では、初期状態の表示色と異なるより目立つ色を用いたり、より目立つ明度や彩度が異なる色を用いても良い。さらに、検索された手書き文字列以外の軌跡を表示する表示色を目立たない色に変えたり、表示色の明度や彩度を目立たないように変えたりすることで、強調表示が目立つようにすることもできる。

また、前述した説明では、図１１に示すように、筆跡検索画面５００の手書きページサムネイル、あるいは手書きページサムネイルに対応する手書きページを筆跡によって表示しているが、手書きページ中の時系列情報に対する文字認識処理によって得られたテキストデータ（文字コード）が記憶媒体４０２に格納されている場合には、テキストデータが示す文字フォントを用いてページを表示しても良い。例えば、手書きページに対する文字認識処理は、サーバ２において実行しても良いし、タブレットコンピュータ１０に文字認識処理モジュールを設けて、タブレットコンピュータ１０において実行しても良い。テキストデータに含まれる文字コードは、手書きページ中の文字認識対象としたブロック（文字のストロークに対応する筆跡）と関連づけられるものとする。記憶媒体４０２には、テキストデータ、手書きページ（筆跡）、文字コードとブロックとの関連を示す関連データとが対応づけて格納されるものとする。なお、テキストデータは、手書きページに含まれる一部の筆跡に対する文字認識処理により得られたものであっても良い。

この場合、筆跡検索画面５００においてテキストデータが示す文字フォントを用いてテキストページを表示し、検索キーをもとに手書きページから検索された時系列情報部分に対応するテキスト（文字フォント列）に対して強調表示をすることができる。すなわち、検索軌跡表示処理部３１０は、手書きページから検索キーとする特定の時系列情報部分と類似する時系列情報部分（ストロークの筆跡）が検索されると、関連データをもとに時系列情報部分（ブロック）に対応する文字コードを判別し、この判別された文字コードに応じて表示された文字フォントに対して強調表示をする。

このようにして、テキストデータをもとにページを表示する場合であっても、検索キーとする特定の時系列情報部分に該当する文字列を強調表示することで、手書きページから検索された文字列を容易に識別することができる。

さらに、前述した説明では、検索キーとする特定の時系列情報部分（筆跡）をもとに手書きページを検索しているが、前述したように、テキストデータと手書きページ（筆跡）とが対応づけられている場合には、検索キーとするテキスト（文字コード）をもとにテキストデータを検索するようにしても良い。例えば、筆跡検索画面５００の検索キー入力領域５０１に検索対象とすべき文字列が手書きされた場合に、手書き文字に対する文字認識処理によりテキストを生成する。検索処理部３０９は、文字認識処理によって得られたテキストを検索キーとして指定する。検索処理部３０９は、手書きページに対応するテキストデータから検索キーとするテキストを検索すると、この検索されたテキストに対応する手書きページ中の時系列情報部分を、関連データをもとに判別する。検索軌跡表示処理部３１０は、筆跡検索画面５００に表示された手書きページサムネイル（あるいは手書きページ）中の検索処理部３０９によって判別された時系列情報部分について、前述したように強調表示する。

なお、筆跡検索画面５００において、手書きページサムネイルを表示するか、テキストデータに応じたフォントによりテキストを表示するかを、ユーザからの指示に応じて切り替えるようにしても良い。また、検索キー入力領域５０１に手書きされた文字列に対する文字認識処理により検索キーとするテキストを生成しているが、ソフトウェアキーボードなどを用いて入力されたテキストや、既存のテキストデータからの範囲指定されたテキストなど、他のテキスト入力方法を用いて入力されたテキストを検索キーとしても良い。

また、前述した説明では、検索キーとするテキストがテキストデータから検索された場合に、手書きページサムネイル中の検索キーのテキストに対応する時系列情報部分を強調表示するとしているが、この時系列情報部分を新たな検索キーとして指定し、他の手書きページを検索するようにしても良い。検索軌跡表示処理部３１０は、新たな検索キーとして指定した時系列情報部分が、他の手書きページから検索された場合に、該当する時系列情報部分を強調表する。なお、検索キーのテキストに対応する時系列情報部分が手書きページから複数箇所において検索された場合、ユーザが新たな検索キーとする時系列情報部分を指定するようにしても良い。

このようにして、検索キーとするテキストを入力すると、手書きページ中の時系列情報部分を検索キーとして検索が実行されるので、手書きページ中の軌跡と同様の文字列等を手書きできないユーザであっても、テキストで指定した文字列に該当する時系列情報部分を含む手書きページを簡単に検索することができる。

なお、上述の筆跡検索処理は、タブレットコンピュータ１０と連携して動作する、パーソナルコンピュータ１またはインターネット上のサーバ２によって実行してもよい。また、上述の選択処理も、パーソナルコンピュータ１またはサーバ２によって実行してもよい。

本実施形態の手書き文書に対する各種処理はコンピュータプログラムによって実現することができるので、このコンピュータプログラムを格納したコンピュータ読み取り可能な記憶媒体を通じてこのコンピュータプログラムをタッチスクリーンディスプレイを備えた通常のコンピュータにインストールして実行するだけで、本実施形態と同様の効果を容易に実現することができる。

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

１０…タブレットコンピュータ、２００…時系列情報、３０１…ペン軌跡表示処理部、３０２…時系列情報生成部、３０３…編集処理部、３０４…ページ保存処理部、３０５…ページ取得処理部、３０６…手書き文書表示処理部、３０７…処理対象ブロック選択部、３０８…処理部、３０９…検索処理部、３１０…検索軌跡表示処理部。

Claims (9)

1. 複数のストロークを示す第１ストロークデータを記録する記録手段と、
   前記第１ストロークデータに基づいて、前記複数のストロークに対応する第１軌跡をページ毎に分けて、複数のページ分の前記第１軌跡を第１の表示色によって１画面に表示する表示処理手段と、
   検索対象とする第２ストロークデータを指定する指定手段と、
   前記第２ストロークデータとの類似度が基準値以上である第３ストロークデータを、前記第１ストロークデータから検索する検索手段と、
   前記第３ストロークデータをブロック毎に区分するブロック化手段とを備え、
   前記表示処理手段は、前記第１ストロークデータに対応する複数のページのうち、前記第１軌跡中の前記第３ストロークデータに対応する第２軌跡をそれぞれ少なくとも含む複数のページのみを、前記第２ストロークデータとの類似度が最も高い第３ストロークデータが検索されたページから類似度順に配置して同時に１画面に表示し、前記第２軌跡について前記第１の表示色と異なる第２の表示色により表示し、前記ブロック毎に前記第２軌跡の近接領域内の前記第２軌跡以外を前記第２の表示色と異なる第３の表示色によって表示する電子機器。
2. 前記表示処理手段は、前記第１軌跡中の前記第２軌跡以外を、前記第１の表示色より階調値を下げて表示する請求項１記載の電子機器。
3. 前記表示処理手段は、前記第２軌跡の全体を含む枠内を前記近接領域とする請求項１記載の電子機器。
4. 前記表示処理手段は、前記検索手段による検索の前に、前記第１軌跡を複数のページに分けて表示し、前記検索手段による検索の後に、前記第２軌跡を含むページのみを表示する請求項１記載の電子機器。
5. 前記第２ストロークデータは、時系列情報を含む請求項１記載の電子機器。
6. 前記検索手段は、前記第２ストロークデータとの類似度が基準値以上である前記第３ストロークデータを前記第１ストロークデータから検索し、
   前記表示処理手段は、前記類似度に応じて、前記第２軌跡を除く前記第１軌跡を第４の表示色により表示する請求項１記載の電子機器。
7. タッチスクリーンディスプレイをさらに具備し、
   前記タッチスクリーンディスプレイ上で前記複数のストロークが手書きされる請求項１記載の電子機器。
8. 複数のストロークを示す第１ストロークデータを記録し、
   前記第１ストロークデータに基づいて、前記複数のストロークに対応する第１軌跡をページ毎に分けて、複数のページ分の前記第１軌跡を第１の表示色によって１画面に表示し、
   検索対象とする第２ストロークデータを入力し、
   前記第２ストロークデータとの類似度が基準値以上である第３ストロークデータを、前記第１ストロークデータから検索し、
   前記第３ストロークデータをブロック毎に区分し、
   前記第１ストロークデータに対応する複数のページのうち、前記第１軌跡中の前記第３ストロークデータに対応する第２軌跡をそれぞれ少なくとも含む複数のページのみを、前記第２ストロークデータとの類似度が最も高い第３ストロークデータが検索されたページから類似度順に配置して同時に１画面に表示し、前記第２軌跡について前記第１の表示色と異なる第２の表示色により表示し、前記ブロック毎に前記第２軌跡の近接領域内の前記第２軌跡以外を前記第２の表示色と異なる第３の表示色によって表示する手書き文書表示方法。
9. コンピュータに、
   複数のストロークを示す第１ストロークデータを記録する手順と、
   前記第１ストロークデータに基づいて、前記複数のストロークに対応する第１軌跡をページ毎に分けて、複数のページ分の前記第１軌跡を第１の表示色によって１画面に表示する手順と、
   検索対象とする第２ストロークデータを指定する手順と、
   前記第２ストロークデータとの類似度が基準値以上である第３ストロークデータを、前記第１ストロークデータから検索する手順と、
   前記第３ストロークデータをブロック毎に区分する手順と、
   前記第１ストロークデータに対応する複数のページのうち、前記第１軌跡中の前記第３ストロークデータに対応する第２軌跡をそれぞれ少なくとも含む複数のページのみを、前記第２ストロークデータとの類似度が最も高い第３ストロークデータが検索されたページから類似度順に配置して同時に１画面に表示し、前記第２軌跡について前記第１の表示色と異なる第２の表示色により表示し、前記ブロック毎に前記第２軌跡の近接領域内の前記第２軌跡以外を前記第２の表示色と異なる第３の表示色によって表示する手順とを実行させるための表示プログラム。

Images