JP4962338B2 - 電子ペン及びプログラム - Google Patents

Description

本発明は、電子ペンにより電子ペン用媒体に記入された記入情報を処理する技術に関する。

近年、「電子ペン」、「デジタルペン」などと呼ばれるペン型入力デバイスが登場しており（以下、本明細書では「電子ペン」と呼ぶ。）、その代表的なものとしてスウェーデンのAnoto社が開発した「アノトペン（Anoto pen）」が知られている（特許文献１参照）。アノトペンは、所定のドットパターンが印刷された専用紙（以下、「専用ペーパー」とも呼ぶ。）とペアで使用される。アノトペンは、通常のインクタイプのペン先部に加えて、専用紙上のドットパターンを読み取るための小型カメラと、データ通信ユニットを搭載している。利用者が専用紙上にアノトペンで文字などを書いたり、専用紙上に図案化されている画像にチェックマークを記入したりすると、ペンの移動に伴って小型カメラが専用紙に印刷されたドットパターンを検出し、利用者が書き込んだ文字、画像などの記入情報が取得される。この記入情報が、データ通信ユニットによりアノトペンから近くのパーソナルコンピュータや携帯電話などの端末装置に送信される。このアノトペンを利用したシステムは、キーボードに代わる入力デバイスとして利用することが可能であり、上述のパーソナルコンピュータやキーボードの使用に抵抗がある利用者にとっては非常に使いやすい。そのため、現在、各種ビジネス上の書類、申込書、契約書等に記入されたデータをデジタル化する手法として、電子ペンを利用したシステムが普及しつつある（例えば、特許文献２）。

一方、音声を録音することが可能なＩＣメモリ音声録音再生装置において、音声データの区切りを示すマークを予め記録することにより、録音した音声の頭出しを行う手法が提案されている（特許文献３を参照）。

また、特許文献４には、手書きのメモや注釈をその属性情報を含めて電子化することにより、手書き注釈の内容による検索、筆記時間、筆記者による検索を可能とする方法が記載されている。

また、特許文献５には、紙などの媒体にユーザが手書きした内容と、音声情報、画像情報、動画情報などの各種情報とを手書き時刻及び提供時刻を用いて関連付ける方法が記載されている。

特表２００３−５１１７６１号公報 特開２００４−１５３６１２号公報 特開平５−３３４８９３号公報 特開２００６−３１４９２号公報 特開２００７−１３３５５０号公報

電子ペンでは、ユーザが書いたストロークの外枠に、ユーザエリアを自動的に割り当てられる。そして、そのユーザエリアに対して、音声データやイメージデータ等を対応付けることが出来る。しかし、特許文献３のようなレコーダに録音した音声情報を対応付ける場合、ユーザは手動で、または録音した時間をもとにファイル名を付け、そのファイル名により、頭出しを行っていた。

そこで本発明は、電子ペン用記入媒体上で、録音した音声情報を参照することができ、参照時間の短縮と操作性の向上を図ることができる電子ペン及びそれに用いられるプログラムを提供することを目的とする。

本発明に係る電子ペンは、電子ペンにより認識可能なコード化パターンが印刷された電子ペン用記入媒体に記入された情報を処理する電子ペンであって、音声を録音する音声録音部と、前記電子ペン用記入媒体への記入内容に対応する記入情報を取得する記入情報取得手段と、前記音声録音部に対して、前記記入情報に基づき、前記電子ペン用記入媒体への記入開始時刻に録音を開始し、前記電子ペン用記入媒体への記入終了時刻から所定の終了判定時間を経過したときに、録音を終了するよう指示する音声録音手段と、前記記入情報に基づいて前記記入内容に対応するユーザエリアを自動的に定義するユーザエリア定義手段と、前記ユーザエリアと、前記コード化パターン上における前記ユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶するユーザエリア定義情報記憶手段と、前記ユーザエリアと前記音声録音手段により録音された音声情報とを対応付けた対応付け情報を記憶する対応付け情報記憶手段と、を備えることを特徴とする。

上記のように構成された電子ペンは、認識可能なドットパターンが印刷された電子ペン用記入媒体に記入された内容に対応するデジタルデータである記入情報を取得し、当該記入情報に基づいて処理を実行することができる。なお、本発明において記入情報は、電子ペン用記入媒体に記入された内容に対応するデジタルデータのみではなく、電子ペン用記入媒体へのタップに対応するデジタルデータを含むものとする。タップとは、電子ペン用記入媒体を電子ペンにより叩くことである。例えば、利用者が電子ペン用記入媒体に任意の文字列を記入する。ここで、文字列とは、数字、ひらがな、カタカナ、ギリシャ文字、ＪＩＳ１、ＪＩＳ２など任意の１文字以上の文字の集まりである。このとき、電子ペンは、記入した文字列に対応する座標情報、時間情報、筆圧情報等を記入情報として取得する。座標情報とは、電子ペン用記入媒体に印刷されたドットパターン上における文字列の位置座標を示すＸ，Ｙ座標データ等である。時間情報とは、電子ペンによって記入した時刻や所定のエリアをタップした時刻を示す情報である。筆圧情報とは、圧力センサ１８から得られる筆圧データ等である。電子ペンは、取得した記入情報に含まれる座標情報に基づいて、ユーザエリアを定義する。具体的には、記入内容の外側に接するように四角形の枠を認識し、当該四角形のエリアをユーザエリアとして登録し、エリアＩＤを付与する。また、電子ペンは、ユーザエリアＩＤを付与したユーザエリアとユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶する。電子ペンは、音声録音部に対して、記入情報に基づき、電子ペン用記入媒体への記入開始時刻に録音を開始し、電子ペン用記入媒体への記入終了時刻から所定の終了判定時間を経過したときに、録音を終了するよう指示する。そして、電子ペンは、音声録音部が録音した音声情報を、定義したユーザエリアと対応付けて格納する。

本発明に係る電子ペンは、電子ペンにより認識可能なコード化パターンが印刷された電子ペン用記入媒体に記入された情報を処理する電子ペンであって、音声を録音する音声録音部と、前記電子ペン用記入媒体への記入内容に対応する記入情報を取得する記入情報取得手段と、前記音声録音部に対して、前記記入情報に基づき、前記電子ペン用記入媒体への記入開始時刻に録音を開始し、前記記入情報取得手段が前記記入情報中に含まれる特定のストローク情報を検出したときに、録音を終了するよう指示する音声録音手段と、前記記入情報に基づいて前記記入内容に対応するユーザエリアを自動的に定義するユーザエリア定義手段と、前記ユーザエリアと、前記コード化パターン上における前記ユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶するユーザエリア定義情報記憶手段と、前記ユーザエリアと前記音声録音手段により録音された音声情報とを対応付けた対応付け情報を記憶する対応付け情報記憶手段と、を備えることを特徴とする。
上記のように構成された電子ペンは、認識可能なドットパターンが印刷された電子ペン用記入媒体に記入された内容に対応するデジタルデータである記入情報を取得し、当該記入情報に基づいて処理を実行することができる。電子ペンは、取得した記入情報に含まれる座標情報に基づいて、ユーザエリアを定義する。また、電子ペンは、ユーザエリアＩＤを付与したユーザエリアとユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶する。電子ペンは、音声録音部に対して、記入情報に基づき、電子ペン用記入媒体への記入開始時刻に録音を開始し、記入情報取得手段が記入情報中に含まれる特定のストローク情報を検出したときに、録音を終了するよう指示する。そして、電子ペンは、音声録音部が録音した音声情報を、定義したユーザエリアと対応付けて格納する。

本発明に係る電子ペンは、電子ペンにより認識可能なコード化パターンが印刷された電子ペン用記入媒体に記入された情報を処理する電子ペンであって、音声を録音する音声録音部と、前記電子ペン用記入媒体への記入内容に対応する記入情報を取得する記入情報取得手段と、前記音声録音部に対して、前記記入情報に基づき、前記電子ペン用記入媒体への記入開始時刻に録音を開始し、前記記入情報取得手段が前記記入情報中に含まれる特定のストローク情報を検出して所定時間経過後に、録音を終了するよう指示する音声録音手段と、前記記入情報に基づいて前記記入内容に対応するユーザエリアを自動的に定義するユーザエリア定義手段と、前記ユーザエリアと、前記コード化パターン上における前記ユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶するユーザエリア定義情報記憶手段と、前記ユーザエリアと前記音声録音手段により録音された音声情報とを対応付けた対応付け情報を記憶する対応付け情報記憶手段と、を備えることを特徴とする。
上記のように構成された電子ペンは、認識可能なドットパターンが印刷された電子ペン用記入媒体に記入された内容に対応するデジタルデータである記入情報を取得し、当該記入情報に基づいて処理を実行することができる。電子ペンは、取得した記入情報に含まれる座標情報に基づいて、ユーザエリアを定義する。また、電子ペンは、ユーザエリアＩＤを付与したユーザエリアとユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶する。電子ペンは、音声録音部に対して、記入情報に基づき、電子ペン用記入媒体への記入開始時刻に録音を開始し、記入情報取得手段が記入情報中に含まれる特定のストローク情報を検出して所定時間経過後に、録音を終了するよう指示する。そして、電子ペンは、音声録音部が録音した音声情報を、定義したユーザエリアと対応付けて格納する。

さらに、電子ペンは、音声を出力する音声出力部と、前記記入情報に含まれる、前記ユーザエリアへのタップに対応するタップ情報に基づいて、前記ユーザエリア定義情報を参照することで、タップしたユーザエリアを特定するユーザエリア特定手段と、前記音声出力部から、前記ユーザエリア特定手段により特定されたユーザエリアと対応付けて記憶されている前記音声情報を出力する音声出力手段とを備え、利用者は自身が記入した内容に対応付けた音声情報を確認することができる。例えば、利用者が記入した文字列に対応付けた音声を参照する場合、当該文字列をタップする。これにより当該文字列に定義されたユーザエリアをタップすることになる。このとき、電子ペンは、当該タップに対応する座標情報、時間情報等を記入情報（タップ情報）として取得する。取得したタップ情報に含まれる座標情報に基づいて、ユーザエリア定義情報を参照することにより、電子ペンは、タップされたユーザエリアを特定する。電子ペンは、対応付け情報を参照し、特定したユーザエリアと対応付けて格納されている音声情報を音声出力部から出力する。これにより、利用者は記入した文字列に対応付けた音声情報を確認することができる。

さらに、電子ペンは、前記タップ情報に基づいて、当該タップのストローク開始点及びストローク終了点を特定する開始終了点特定手段を備え、前記ユーザエリア特定手段は、前記ストローク開始点及び前記ストローク終了点の座標データに基づいて前記ユーザエリア定義情報を参照することで、当該ストローク開始点及び当該ストローク終了点の双方が含まれるユーザエリアを特定することができる。

また、本発明に係るプログラムは、上記電子ペンとして機能させる。

上記プログラムを実行することで、上述の電子ペンを実現することができる。また、上述の電子ペンの各態様も同様に実現することができる。

本発明に係る電子ペン及びそれに用いられるプログラムによれば、電子ペン用記入媒体上で、録音した音声情報を参照することができ、参照時間の短縮と操作性の向上を図ることができる。

以下、図面を参照して本発明の好適な実施の形態について説明する。

本実施形態の情報処理システムは、図１及び図２に示すように、電子ペン１０と、専用ペーパー（電子ペン用媒体）２０と、端末装置２５とから構成される。ここで、図１は電子ペン１０の使用形態を模式的に示す図であり、図２は電子ペン１０の構成を示すブロック図である。専用ペーパー２０には、ドットパターン（コード化パターン）が印刷されている。電子ペン１０は、通常のインクペンと同様のペン先部１７を備えており、利用者が通常のインクペンと同様にペン先部１７によって専用ペーパー２０上に文字などを書くと、電子ペン１０は、ペン先部１７の移動軌跡に沿って、専用ペーパー２０に印刷されたドットパターンを局所的、連続的に読み取り、専用ペーパー２０におけるその局所位置の座標を算出し、その座標データ等に基づいて、入力文字を記憶したり、タップに応じた処理を行ったりする等、所定の処理を実行する。以下、各構成について詳細に説明する。

なお、端末装置２５は、ハードウェアとして、電子ペン１０とのデータ通信が可能なアンテナ装置、ＣＰＵ等のプロセッサ、ＲＯＭやＲＡＭといったメモリ、スピーカ、ディスプレイ等で構成される、ＰＣや携帯電話、或いは携帯端末である。

［専用ペーパー］
まず、専用ペーパー２０について説明する。専用ペーパー２０は、用紙上にドットパターンが印刷され、さらにその上に罫線や記入枠などの図案や項目、文言、イラスト等が印刷されたものである。ドットパターンは、赤外線を吸収するカーボンを含んだインキにより印刷される。また、図案等は、カーボンを含まない通常のインキにより印刷される。ドットパターンと図案等とは用紙に対して同時に印刷してもよいし、どちらかを先に印刷してもよい。

ドットパターンは、記入帳票のほぼ全面に印刷されており、その上に枠線等が、カーボンを含まない通常のインキにより印刷されている。利用者は、ドットパターンを意識することがなく、電子ペン１０を使用して記入する。

このように、ドットパターンを印刷した専用ペーパー上に所定の図案を印刷することにより、専用ペーパーを利用した記入用紙が生成できる。利用者が電子ペン１０を使用して記入用紙に記入すれば、その電子データが自動的に取得される。

［ドットパターン］
続いて、ドットパターンについて説明する。図３は、専用ペーパー２０に印刷されたドットパターンのドットとそのドットが変換される値との関係を説明する図である。図３に示すように、ドットパターンの各ドットは、その位置によって所定の値に対応付けられている。すなわち、ドットの位置が格子の基準位置（縦線及び横線の交差点）から上下左右のどの方向にシフトされているかによって、各ドットは、０〜３の値に対応付けられている。また、各ドットの値は、さらに、Ｘ座標用の第１ビット値及びＹ座標用の第２ビット値に変換できる。このようにして対応付けられた情報の組合せにより、専用ペーパー２０上の位置座標が決定されるよう構成されている。

図４（ａ）は、あるドットパターンの配列を示している。図４（ａ）に示すように、縦横約２mmの範囲内に６×６個のドットが、専用ペーパー上のどの部分から６×６ドットを取ってもユニークなパターンとなるように配置されている。これら３６個のドットにより形成されるドットパターンは位置座標（例えば、そのドットパターンがその専用ペーパー上のどの位置にあるのか）を保持している。図４（ｂ）は、図４（ａ）に示す各ドットを、格子の基準位置からのシフト方向によって、図３に示す規則性に基づいて対応づけられた値に変換したものである。この変換は、ドットパターンの画像を撮影する電子ペン１０によって行われる。

［電子ペン］
次に電子ペン１０について説明する。図２に示すように、電子ペン１０は、その内部にプロセッサ１１、メモリ１２、データ通信ユニット１３、バッテリー１４、ＬＥＤ１５、カメラ１６、レコーダ１７、圧力センサ１８、スピーカ（音声出力部）１９及びクロック２２を備える。また、電子ペン１０は通常のインクペンと同様の構成要素としてインクカートリッジ（図示せず）などを有する。

ＬＥＤ１５は、電子ペン１０のペン先付近に取り付けられており、専用ペーパー２０上のペン先部１７近傍（領域１５）に向けて、赤外線を照明する（図１参照）。領域１５は、ペン先部１７が専用ペーパー２０に接触する位置とはわずかにずれている。カメラ１６は、ＬＥＤ１５によって照明された領域１５内におけるドットパターンを撮影し、そのドットパターンの画像データをプロセッサ１１に供給する。ここで、カーボンは赤外線を吸収するため、ＬＥＤ１５によって照射された赤外線は、ドットの部分でドットに含まれるカーボンによって吸収される。そのため、ドットの部分は、赤外線の反射量が少なく、ドット以外の部分は赤外線の反射量が多い。したがって、カメラ１６の撮影により、赤外線の反射量の違いから、カーボンを含むドットの領域とそれ以外の領域を区別することができる。たとえ撮影領域に罫線や枠などが印刷されてあったとしても、罫線や枠などのインクには、カーボンが含まれていないため、ドットパターンを認識することができる。なお、カメラ１６による撮影領域は、図４（ａ）に示すような約２mm×約２mmの大きさを含む範囲であり、カメラ１６の撮影は、毎秒５０〜１００回程度行われる。

バッテリー１４は電子ペン１０内の各部品に電力を供給するためのものであり、例えば電子ペン１０のキャップ（図示せず）の脱着により電子ペン１０自体の電源のオン／オフを行うよう構成させてもよい。クロック２２は、現在時刻（タイムスタンプ）を発信し、プロセッサ１１に供給する。圧力センサ１８は、利用者が電子ペン１０により専用ペーパー２０上に文字などを書く際にペン先部１７に与えられる圧力、即ち筆圧を検出し、プロセッサ１１へ供給する。

プロセッサ１１は、圧力センサ１８から与えられる筆圧データに基づいて、ＬＥＤ１５及びカメラ１６のスイッチオン／オフの切換を行う。即ち、利用者が電子ペン１０で専用ペーパー２０上に文字などを書くと、ペン先部１７には筆圧がかかり、圧力センサ１８によって所定値以上の筆圧が検出されたときに、プロセッサ１１は、利用者が記入を開始したと判定して、ＬＥＤ１５及びカメラ１６を作動させる。

プロセッサ１１は、利用者の記入が行われる間、カメラ１６によって供給される画像データのドットパターンから、利用者が記入するストロークの専用ペーパー２０上でのＸ，Ｙ座標（単に「座標データ」とも呼ぶ）を連続的に算出していく。すなわち、プロセッサ１１は、カメラ１６によって供給される、図４（ａ）に示されるようなドットパターンの画像データを図４（ｂ）に示すデータ配列に変換し、さらに、Ｘ座標ビット値・Ｙ座標ビット値に変換して、そのデータ配列から所定の演算方法によりＸ，Ｙ座標データを算出する。そしてプロセッサ１１は、現在時刻（タイムスタンプ）を発信するクロック２２から時間情報を取得し、その時間情報と、筆圧データ及びＸ，Ｙ座標データとを関連付け、これらの情報を記入情報として取得する。さらに、プロセッサ１１は、記入情報に基づいて所定の処理を実行する。ここで、一枚の専用ペーパー（電子ペン用媒体）２０内の６×６のドットパターンは、その専用ペーパー２０内で重複することはないため、利用者が電子ペン１０でユーザエリアに必要事項を記入したりタップしたりすると、その記入やタップが専用ペーパー２０のどのユーザエリアに対応するものであるかを、座標データから特定することができる。

メモリ１２には、ユーザエリアと、ドットパターン上におけるユーザエリアの位置座標を示す座標データとが対応付けて記憶されている。また、後述するユーザエリア定義手段により定義されたユーザエリアと、音声録音手段３３により録音された音声情報とが対応付けて記憶されている。

データ通信ユニット１３は、プロセッサ１１が所定の処理を行った結果を近傍にある端末装置２５に記録、表示させるため、あるいは所定の処理を実行させるため、プロセッサ１１により供給されるメモリ１２内の所定のデータを端末装置２５へ無線送信する。データ通信ユニット１３による送信は、Bluetooth（登録商標）の無線送信によると好適である。なお、ＵＳＢケーブルを使用した有線送信、端子などの接触によるデータ送信など、他の方法によって、データ通信ユニット１３から端末装置２５へデータ送信を行ってもよい。

ここで電子ペン１０が有する機能について図５を参照して説明する。図５は、電子ペン１０の主要な構成を示す機能ブロック図である。電子ペン１０は、取得したＸ，Ｙ座標データ等の記入情報に基づいて、専用アプリケーションを実行することで所定の処理を行う。

図５に示すように、電子ペン１０は、情報記憶手段３１、記入情報取得手段３２、音声録音手段３３、ユーザエリア定義手段３４、開始終了点特定手段３５、ユーザエリア特定手段３６、音声出力手段３７、音声録音部３８、音声出力部３９、を備える。物理的には、情報記憶手段３１は、ＲＯＭやＲＡＭといったメモリによって構成され、記入情報取得手段３２は、データ通信ユニット、プロセッサ等によって構成され、音声録音部３８はレコーダ等で、音声出力部３９はスピーカ等で、構成される。また、ユーザエリア定義手段３４、開始終了点特定手段３５、ユーザエリア特定手段３６、音声出力手段３７は、ＣＰＵ等のプロセッサに組み込まれている。

情報記憶手段３１は、ユーザエリアと、ドットパターン上におけるユーザエリアの位置座標を示す座標データとを対応付けて記憶するメモリである。すなわち、図６に示すように、情報記憶手段３１には、ユーザエリアＩＤとユーザエリアの位置座標領域を表す座標データとを対応付けたユーザエリア定義情報が記憶されている。エリアＩＤ「Ａ０１」に関連して座標データ「（x1,y1)，Ｈ1，Ｗ1」が記憶され、エリアＩＤ「Ａ０２」に関連して座標データ「（x2,y2)，Ｈ2，Ｗ2」が記憶されている。各ユーザエリアの座標データを構成するデータ(xn,yn)、Hn、Wnは、図７に示すように、それぞれ、ドットパターン上におけるユーザエリアの頂点Ｖ(xn,yn)の座標、Ｙ軸方向の高さ(Height)、Ｘ軸方向の幅(Width)を意味する。すなわち、情報記憶手段３１は、本発明におけるユーザエリア定義情報記憶手段として機能する。また、以下に述べるように、情報記憶手段３１は、対応付け情報記憶手段としても機能する。

記入情報取得手段３２は、電子ペン１０による専用ペーパー（電子ペン用記入媒体）２０への記入内容に対応する記入情報を取得する手段である。記入情報には、タップ、文字、記号、絵柄等を記入する際に取得する情報が含まれる。特に、タップにより取得される記入情報をタップ情報と呼ぶ。

音声録音手段３３は、記入情報に含まれる時間情報及び筆圧情報に基づき、電子ペン用記入媒体への記入開始時刻に録音開始指示を音声録音部３８に出力し、音声の録音を開始する。また、音声録音手段３３は、電子ペン用記入媒体への記入終了時刻から所定時間Ｚ（以下、「終了判定時間」と呼ぶ。）を経過したときに、録音終了指示を音声録音部３８に出力することにより、音声の録音を終了する。即ち、録音終了時刻は、記入終了時刻から終了判定時間Ｚ経過後の時刻となる。よって、音声録音手段３３により録音される音声情報は、記入開始時刻を開始点とし、記入終了時刻から終了判定時間Ｚ経過後の時刻を終了点とする音声情報となる。

なお、所定の終了判定時間Ｚは、ユーザによる記入が終了したと判断できる程度に長い無記入時間に設定される。例えば、複数の文字からなる文字列を記入する際に１つの文字の記入後、次の文字の記入開始までに要する時間が一般的に０．５〜１秒程度であるとするならば、所定時間Ｚはそれより十分に長い時間（例えば３秒）に設定される。

また、音声録音手段３３は、記入情報取得手段３２が記入情報中に含まれる特定のストローク情報を検出したときに、録音終了指示を音声録音部３８に出力することにより、音声の録音を終了することとしてもよい。この場合、音声録音手段３３により録音される音声情報は、記入開始時刻を開始点とし、記入終了時刻（特定のストローク情報を検出した時刻）を終了点とする音声情報となる。もしくは、音声が途切れるのを防ぐため、特定のストローク情報を検出した時刻から所定時間α経過後を録音終了時刻としてもよい。その場合は、音声情報は、記入開始時刻を開始点とし、特定のストローク情報を検出した時刻から所定時間α経過後の時刻を終了点とする音声情報となる。

ユーザエリア定義手段３４は、記入情報取得手段３２が取得した記入情報に含まれる座標情報に基づいて記入内容に対応するユーザエリアを自動的に定義する。具体的には、記入内容の外側に接するように四角形の枠を認識し、当該四角形のエリアをユーザエリアとして登録し、エリアＩＤを付与する。ユーザエリアとして登録された座標データとエリアＩＤはユーザエリア定義情報として情報記憶手段３１に記憶される。

電子ペン１０は、ユーザエリア定義手段３４により定義されたユーザエリアと、音声録音手段３３により録音された音声情報とを対応付けて、情報記憶手段３１に記憶する。

開始終了点特定手段３５は、記入情報取得手段３２が取得した記入情報に含まれるストローク開始点及びストローク終了点を特定する。具体的には、開始終了点特定手段３５は、ストローク開始点及びストローク終了点それぞれの位置座標を示す座標データと記入時刻とを特定する。

ユーザエリア特定手段３６は、記入情報取得手段３２が取得した記入情報（タップ情報）に含まれる座標データに基づいて、情報記憶手段３１が記憶したユーザエリア定義情報（図６参照）を参照することにより、対応するユーザエリアを特定する。このとき、ユーザエリア特定手段３６は、１つのストロークのストローク開始点及びストローク終了点の双方が含まれるユーザエリアのみを特定するようにするとよい。そのような設定にすれば、利用者が記入帳票に記入したストロークのストローク開始点及びストローク終了点のいずれかがユーザエリアの範囲外にある場合には、利用者がそのユーザエリアをタップしようと意図したものではないと判定することができる。また、ユーザエリア特定手段３６は、開始終了点特定手段３５によって特定されたストローク開始点及びストローク終了点における時間及び／又は両点間の移動距離に基づいて、利用者によりユーザエリアに記入されたストロークがタップであるか否かを判定する。ユーザエリア特定手段３６は、記入情報及びユーザエリア定義情報に基づいて、電子ペン１０によりタップされたユーザエリアを特定する。

音声出力手段３７は、前記ユーザエリア特定手段により特定されたユーザエリアと対応付けて、情報記憶手段３１に格納されている音声情報を音声出力部３９から出力させる。

電子ペン１０は、専用アプリケーションがインストールされることにより、上述の各手段が構成される。

［専用アプリケーション］
次に、専用アプリケーション５０について図９を参照して説明する。図９は、専用アプリケーション５０のモジュール構成を示す。専用アプリケーション５０は、電子ペン１０が専用ペーパー２０に記入した内容に対応するデジタルデータである記入情報に基づいて所定の処理を実行するものであって、ダウンロード等により予め電子ペン１０にインストールされている。

専用アプリケーションは、原則として専用ペーパー２０に対応付けられている。つまり、専用ペーパー２０の種類が異なれば、その種類に応じて各専用ペーパー２０に記入されたデータを処理する専用アプリケーションは異なる。しかし、専用ペーパー２０と専用アプリケーションの対応は必ずしも１対１である必要はなく、複数種類の専用ペーパー２０に１つの専用アプリケーションを対応付けてデータを処理させてもよい。また、１種類の専用ペーパー２０に複数の専用アプリケーションを対応付けてデータを処理させてもよい。

図９に示すように、専用アプリケーション５０は、情報記憶モジュール１０１、記入情報取得モジュール１０２、音声録音モジュール１０３、ユーザエリア定義モジュール１０４、開始終了点特定モジュール１０５、ユーザエリア特定モジュール１０６、音声出力モジュール１０７を有する。

情報記憶モジュール１０１は、情報記憶手段３１に対して、図６に示すように、ユーザエリアと、ドットパターン上におけるユーザエリアの位置座標を示す座標データとを対応付けて記憶させるモジュールである。また、情報記憶モジュール１０１は、情報記憶手段３１に対して、図８に示すように、ユーザエリア定義手段３４により定義されたユーザエリアと音声録音手段３３により録音された音声情報を対応付けて情報記憶手段３１に記憶させる機能を有する。

記入情報取得モジュール１０２は、記入情報取得手段３２を用いて、専用ペーパー２０への電子ペン１０による記入に対応する記入情報（タップ情報を含む）を取得する機能を有する。

音声録音モジュール１０３は、音声録音手段３３を用いて、電子ペン１０による記入に対応する音声を録音する機能を有する。

ユーザエリア定義モジュール１０４は、記入情報取得モジュール１０２の実行によって取得された記入情報に含まれる座標情報に基づいて記入内容に対応するユーザエリアを自動的に定義する機能を有する。

開始終了点特定モジュール１０５は、記入情報（タップ情報）に含まれるストロークのストローク開始点及びストローク終了点につき、それぞれの座標データ及び記入時刻を特定する機能を有する。

ユーザエリア特定モジュール１０６は、記入情報（タップ情報）に含まれる座標データに基づいて、図６に示すユーザエリア定義情報を参照することで、タップ情報に対応するユーザエリアを特定する機能を有する。このとき、ユーザエリア特定モジュール１０６は、タップ情報に基づいて、電子ペン１０によりタップされたユーザエリアを特定するものであって、ストローク開始点及びストローク終了点の双方が含まれるユーザエリアを特定するようにするとよい。

音声出力モジュール１０７は、ユーザエリア特定モジュール１０６の実行によって特定されたユーザエリアと対応付けて、情報記憶モジュール１０１によって情報記憶手段３１に格納されている音声情報を音声出力部から出力させる機能を有する。

［本情報処理システムによる音声情報対応付け処理フロー］
次に、本実施形態の情報処理システムにより行われる処理フローについて図１０及び図１１を参照して説明する。図１０は、本実施形態における記入帳票上の電子ペン１０の使用形態を示す図である。図１１は、電子ペン１０における音声情報対応付け処理のフローチャートである。

利用者は、電子ペン１０により、記入帳票に任意の記入を行う。例えば、記入帳票を育児の健康管理帳として使用する場合、図１０（ａ）のように、記入帳票に「５月１０日 予防接種」の文字列を記入する。すると、電子ペン１０は、記入に対応する座標情報、時間情報及び筆圧情報等を記入情報として取得する。電子ペン１０の記入情報取得手段３２は、取得した時間情報及び筆圧情報より記入開始時刻を取得する（ステップＳ１）。音声録音手段３２は記入開始時刻を取得すると、録音開始指示を音声録音部３８に出す（ステップＳ２）。音声録音部３８は録音開始指示を受け、録音を開始する（ステップＳ３）。

音声録音手段３２は、次の読み取りデータがあるか否かを判定することにより、録音を終了するか否かを判定する（ステップＳ４）。音声録音手段３２により次の読み取りデータがあると判定された場合（ステップＳ４；Ｙｅｓ）、録音を続行する。一方、音声録音手段３２により次の読み取りデータがないと判定された場合（ステップＳ４；Ｎｏ）、音声録音手段３２により次の読み取りデータがないと判定された時刻、すなわち、記入終了時刻からの経過時間をカウントする（ステップＳ５）。音声録音手段３２は、記入終了時刻からの経過時間を「Ｔ」とし、経過時間Ｔがアプリケーションで設定した終了判定時間Ｚよりも大きいか否かを判定する（ステップＳ６）。

経過時間Ｔが終了判定時間Ｚよりも小さいと判定された場合（ステップＳ６；Ｎｏ）、録音を続行する。経過時間Ｔが終了判定時間Ｚよりも大きいと判定された場合（ステップＳ６；Ｙｅｓ）、ユーザエリア定義手段３４により、記入情報に含まれる座標情報に基づいて記入内容に対応するユーザエリアを定義する（ステップＳ７）。具体的には、記入内容である「５月１０日 予防接種」の外側に接するように四角形の枠を認識し、当該四角形のエリアをユーザエリアとして登録し、エリアＩＤを付与する（図６、図１０（ｂ）参照）。

音声録音手段３２は、記入終了時刻から終了判定時間Ｚの経過後の時刻を録音終了時刻とし（ステップＳ８）、録音終了指示を音声録音部３８に出す（ステップＳ９）。音声録音部３８は録音終了指示を受け、録音を終了する。電子ペン１０は、ユーザエリア定義手段３４により定義されたユーザエリアと、音声録音手段３３により録音された音声情報とを対応付けて、情報記憶手段３１に記憶する（ステップＳ１０）。

［本情報処理システムによる作用効果］
この情報処理システムによれば、利用者が、電子ペン１０で記入帳票に記入した内容に対応する音声情報を参照したいとき、記入帳票上で、当該記入内容に対応するユーザエリアをタップすれば、録音した音声情報を参照することができ、参照時間の短縮と操作性の向上を図ることができる（図１０（ｃ）参照）。

なお、上記実施形態は次のように構成させて変更することもできる。

例えば、情報記憶手段３１は、ユーザエリア定義情報（図６参照）とユーザエリアと音声情報との対応付け（図８参照）とを分けて記憶しているが、ユーザエリアのエリアＩＤに対して、録音した音声情報をまとめて関連付けて記憶させるようにしてもよく、これらの情報のデータ構造は任意に設定することができる。

なお、本発明は、上記実施形態に限られない。

上記の実施形態では、電子ペン１０による記入開始時刻を開始点とし、記入終了時刻から所定の終了判定時間Ｚ経過後の時刻を終了点とする録音情報が取得され、ユーザエリアと対応付けて記憶される。しかし、実際には、記入終了後の終了判定時間Ｚの間は電子ペン１０による記入が行われていない期間となる。よって、ユーザが電子ペン１０により記入を行っている間の音声を取得することを目的とするアプリケーションでは、ユーザによる記入実行中の音声のみを録音し保存することとしてもよい。具体的には、図１１におけるステップＳ１０において、音声録音手段３３は、上記のようにして得られた録音情報のうち、終了判定時間Ｚに相当する期間の音声情報を削除し、ユーザによる記入開始時刻から記入終了時刻までの期間のみの音声情報を保存することとしてもよい。

また、上記の実施形態では、電子ペン１０による記入開始時刻を録音開始点とし、記入終了時刻から所定の終了判定時間Ｚ経過後の時刻を録音終了点とするとしていたが、記入開始時刻を録音開始点とし、特定のストローク情報を検出した時刻を録音終了点としてもよい。具体的には、図１１におけるステップＳ８において、音声録音手段３３は、ピリオドや句点などの特定のストローク情報を検出した時刻を録音終了時刻としてもよい。もしくは、記入開始時刻を録音開始点とし、特定のストローク情報を検出した時刻から所定時間α経過後の時刻を録音終了点としてもよい。

また、上記実施形態では、電子ペン１０のクロック２２は現在時刻を発信することとしているが（図２参照）、クロック２２は、０から始まりストロークの記入中に経過していく記入時間を発信することとしてもよい。この場合、プロセッサ１１は、ストロークの記入中に、クロック２２が発信する経過時間（記入時間）を時間情報として取得し、その時間情報と、筆圧データと、Ｘ，Ｙ座標データとを関連付け、記入情報として取得する。

また、電子ペン１０内に、ペン自体又はその所有者に関するプロパティ情報（ペン情報又はペン所有者情報）を保持しておき、端末装置２５から参照することができるようにしてもよいし、プロパティ情報の全部又は一部を記入情報と共に端末装置２５に送信するようにしてもよい。ペン情報としては、バッテリーレベル、ペンＩＤ、ペン製造者番号、ペンソフトウェアのバージョン、サブスクリプションプロバイダのＩＤなどが挙げられる。また、ペン所有者情報としては、国籍、言語、タイムゾーン、emailアドレス、名称、住所、ファックス／電話番号、携帯電話番号などが挙げられる。

また、上記実施形態では、ドットは赤外線を吸収するカーボンを含むインクとし、電子ペン１０のＬＥＤ１５を、赤外線を照射するＬＥＤとし、カメラ１６によって赤外線の反射量の差によって、電子ペン１０でドットパターンを読み取っていたが、これに限らない。例えば、ドットは所定波長の光によって所定波長を発光するインクとし、電子ペン１０のＬＥＤ１５を、ドットのインクを発光させる光を照射するものとし、カメラ１６によってドットのインクが発光する波長の領域を検知することによって、電子ペン１０でドットパターンを読み取るようにしてもよく、カメラ１６によってドットパターンが読み取れれば、ドットのインクの種別やＬＥＤ１５の照射光等は上記実施形態で示したものに限られない。また、専用ペーパー２０における位置座標が特定できるものであれば、ドットパターンの代わりに、別のコード化されたパターン、例えば、２次元コードパターンなどであってもよい。

また、ドットパターンの割り当ては、通常、用紙の用途毎に行われるが、専用ペーパー２０を商業印刷機により大量印刷するような場合には、同一種類の電子ペン用媒体には同じドットパターンが印刷されることになる。この場合、同一種類の電子ペン用媒体を１枚１枚区別するため、電子ペン用媒体には、各媒体を識別する識別情報を記入するための識別情報記入欄を設けるとよい。電子ペン１０において、取得した記入情報に基づいて、文字認識により識別情報記入欄に記入された識別情報を特定し、当該記入情報と対応付けて記憶しておけば、同種の電子ペン用媒体を１枚１枚区別することができる。この他、ペンＩＤを当該識別情報と共に当該記入情報と対応付けて記憶することとしてもよい。これにより、電子ペン１０は、記憶した識別情報もしくは識別情報とペンＩＤに基づいて、各電子ペン用媒体を識別することができる。他方、プリンタにより印刷する場合には、用紙１枚１枚に異なるドットパターンを割り当てて、専用ペーパー２０を印刷することも可能である。この場合、各専用ペーパー２０に印刷されたドットパターンは、専用ペーパー２０毎に異なるため、ドットパターンによって専用ペーパー２０を１枚１枚識別し区別することができる。

本発明は、ユーザエリアを自動的に定義し、録音した音声情報と対応付けるアプリケーションにおいて、対応付けられた音声情報を参照する際に、ペンタップで参照するアプリケーションに利用可能である。例えば育児の健康管理帳、議事録、通院記録、出産までの記録等に適用することができる。

電子ペンの使用形態を模式的に示す図である。 電子ペンの構成を示すブロック図である。 専用ペーパーに印刷されたドットパターンによる情報の表現方法を説明する図である。 （ａ）は、ドットパターンを模式的に示し、（ｂ）は、それに対応する情報を示す図である。 電子ペンの機能ブロック図である。 ユーザエリア定義情報のデータ構造を模式的に示す図である。 座標データを説明する図である。 ユーザエリアと音声データとの対応付けを模式的に示す図である。 専用アプリケーションのモジュール構成図である。 記入帳票への記入における電子ペンの使用形態の例を示す図である。 音声情報対応付け処理のフローチャートである。

符号の説明

１１…プロセッサ、１２…メモリ、１３…データ通信ユニット、１４…バッテリー、１５…ＬＥＤ、１６…カメラ、１７…レコーダ、１８…圧力センサ、１９…スピーカ、２０…専用ペーパー（電子ペン用媒体）、２２…クロック、２５，２５Ａ，２５Ｂ…端末装置、３１…情報記憶手段、３２…記入情報取得手段、３３…音声録音手段、３４…ユーザエリア定義手段、３５…開始終了点特定手段、３６…ユーザエリア特定手段、３７…音声出力手段、３８…音声録音部、３９…音声出力部、５０…専用アプリケーション

Claims (6)

1. 電子ペンにより認識可能なコード化パターンが印刷された電子ペン用記入媒体に記入された情報を処理する電子ペンであって、
   音声を録音する音声録音部と、
   前記電子ペン用記入媒体への記入内容に対応する記入情報を取得する記入情報取得手段と、
   前記音声録音部に対して、前記記入情報に基づき、前記電子ペン用記入媒体への記入開始時刻に録音を開始し、前記電子ペン用記入媒体への記入終了時刻から所定の終了判定時間を経過したときに、録音を終了するよう指示する音声録音手段と、
   前記記入情報に基づいて前記記入内容に対応するユーザエリアを自動的に定義するユーザエリア定義手段と、
   前記ユーザエリアと、前記コード化パターン上における前記ユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶するユーザエリア定義情報記憶手段と、
   前記ユーザエリアと前記音声録音手段により録音された音声情報とを対応付けた対応付け情報を記憶する対応付け情報記憶手段と、を備えることを特徴とする電子ペン。
2. 電子ペンにより認識可能なコード化パターンが印刷された電子ペン用記入媒体に記入された情報を処理する電子ペンであって、
   音声を録音する音声録音部と、
   前記電子ペン用記入媒体への記入内容に対応する記入情報を取得する記入情報取得手段と、
   前記音声録音部に対して、前記記入情報に基づき、前記電子ペン用記入媒体への記入開始時刻に録音を開始し、前記記入情報取得手段が前記記入情報中に含まれる特定のストローク情報を検出したときに、録音を終了するよう指示する音声録音手段と、
   前記記入情報に基づいて前記記入内容に対応するユーザエリアを自動的に定義するユーザエリア定義手段と、
   前記ユーザエリアと、前記コード化パターン上における前記ユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶するユーザエリア定義情報記憶手段と、
   前記ユーザエリアと前記音声録音手段により録音された音声情報とを対応付けた対応付け情報を記憶する対応付け情報記憶手段と、を備えることを特徴とする電子ペン。
3. 電子ペンにより認識可能なコード化パターンが印刷された電子ペン用記入媒体に記入された情報を処理する電子ペンであって、
   音声を録音する音声録音部と、
   前記電子ペン用記入媒体への記入内容に対応する記入情報を取得する記入情報取得手段と、
   前記音声録音部に対して、前記記入情報に基づき、前記電子ペン用記入媒体への記入開始時刻に録音を開始し、前記記入情報取得手段が前記記入情報中に含まれる特定のストローク情報を検出して所定時間経過後に、録音を終了するよう指示する音声録音手段と、
   前記記入情報に基づいて前記記入内容に対応するユーザエリアを自動的に定義するユーザエリア定義手段と、
   前記ユーザエリアと、前記コード化パターン上における前記ユーザエリアの位置座標を示す座標データとを対応付けたユーザエリア定義情報を記憶するユーザエリア定義情報記憶手段と、
   前記ユーザエリアと前記音声録音手段により録音された音声情報とを対応付けた対応付け情報を記憶する対応付け情報記憶手段と、を備えることを特徴とする電子ペン。
4. 音声を出力する音声出力部と、
   前記記入情報に含まれる、前記ユーザエリアへのタップに対応するタップ情報に基づいて、前記ユーザエリア定義情報を参照することで、タップしたユーザエリアを特定するユーザエリア特定手段と、
   前記音声出力部から、前記ユーザエリア特定手段により特定されたユーザエリアと対応付けて記憶されている前記音声情報を出力する音声出力手段と、を備えることを特徴とする請求項１〜３のうちいずれか一項に記載の電子ペン。
5. 前記タップ情報に基づいて、当該タップのストローク開始点及びストローク終了点を特定する開始終了点特定手段をさらに備え、
   前記ユーザエリア特定手段は、前記ストローク開始点及び前記ストローク終了点の座標データに基づいて前記ユーザエリア定義情報を参照することで、当該ストローク開始点及び当該ストローク終了点の双方が含まれるユーザエリアを特定することを特徴とする請求項４に記載の電子ペン。
6. 請求項１〜５のうちいずれか一項に記載の電子ペンとして機能させることを特徴とするプログラム。

Images