以下、本発明につき図面を参照しつつ詳細に説明する。なお、以下の説明により本発明が限定されるものではない。また、以下の説明における構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。以下においては、携帯電子機器の一例として携帯電話機を取り上げるが、本発明の適用対象は携帯電話機に限定されるものではなく、例えば、PHS(Personal Handyphone System)、PDA、ポータブルナビゲーション装置、ノートパソコン、ゲーム機等に対しても本発明は適用できる。
図1は、実施形態に係る携帯電子機器の一実施形態の概略構成を示す正面図であり、図2は、図1に示す携帯電子機器の側面図である。図1、図2に示す携帯電子機器1は、無線通信機能と、出力手段と、音声取得手段と、撮像手段とを有する携帯電話機である。携帯電子機器1は、筐体1Cが複数の筐体で構成される。具体的には、筐体1Cは、第1筐体1CAと第2筐体1CBとで開閉可能に構成される。すなわち、携帯電子機器1は、折り畳み式の筐体を有する。なお、携帯電子機器1の筐体は、このような構造に限定されるものではない。例えば、携帯電子機器1の筐体は、両方の筐体を重ね合わせた状態から一方の筐体と他方の筐体とを互いにスライドできるようにしたスライド式の筐体であってもよいし、重ね合わせ方向に沿う軸線を中心に、一方の筐体を回転させるようにした回転式や、2軸ヒンジを介して両方の筐体を連結したものでもよい。
第1筐体1CAと第2筐体1CBとは、連結部であるヒンジ機構8で連結されている。ヒンジ機構8で第1筐体1CAと第2筐体1CBとを連結することにより、第1筐体1CA及び第2筐体1CBは、ヒンジ機構8を中心としてともに回動して、互いに遠ざかる方向及び互いに接近する方向(図2の矢印Rで示す方向)に回動できるように構成される。第1筐体1CAと第2筐体1CBとが互いに遠ざかる方向に回動すると携帯電子機器1が開き、第1筐体1CAと第2筐体1CBとが互いに接近する方向に回動すると携帯電子機器1が閉じて、折り畳まれた状態となる(図2の点線で示す状態)。
第1筐体1CAには、表示部として、図1に示すディスプレイ2が設けられる。ディスプレイ2は、携帯電子機器1が受信を待機している状態のときに待ち受け画像を表示したり、携帯電子機器1の操作を補助するために用いられるメニュー画像を表示したりする。また、第1筐体1CAには、携帯電子機器1の通話時に音声を出力する出力手段であるレシーバ16が設けられる。
第1筐体1CAのディスプレイ2と反対側には、画像投影部であるプロジェクタ34、プロジェクタ34の光出射部(対物レンズ)から画像投影対象までの距離を測定する距離測定手段である距離センサ36、及び、画像が投影される面の画像を撮影(取得)するカメラ40が設けられる。このような構成により、プロジェクタ34によって画像を投影対象物に投影したり、プロジェクタ34の出射面と投影対象物との距離を距離センサ36で測定して、プロジェクタ34が投影する画像の焦点を自動的に合わせたりすることができる。なお、プロジェクタ34の光出射部、カメラ40の撮影窓は、第1筐体1CAの外部に露出している。
第2筐体1CBには、通話相手の電話番号や、メール作成時等に文字を入力するための操作キー13Aが複数設けられ、また、ディスプレイ2に表示されるメニューの選択及び決定や画面のスクロール等を容易に実行するための方向及び決定キー13Bが設けられる。操作キー13A及び方向及び決定キー13Bは、携帯電子機器1の操作部13を構成する。また、第2筐体1CBには、携帯電子機器1の通話時に音声を受け取る音声取得手段であるマイク15が設けられる。操作部13は、図2に示す、第2筐体1CBの操作面1PCに設けられる。操作面1PCとは反対側の面が、携帯電子機器1の背面1PBである。なお、操作部13は、上述のキー構成に代えて、表示部上に配置されたタッチセンサであってもよい。
図3は、図1、図2に示す携帯電子機器の機能の概略構成を示すブロック図である。図3に示すように、携帯電子機器1は、処理部22と、記憶部24と、送受信部26と、操作部13と、音声処理部30と、表示部32と、プロジェクタ34と、距離センサ36と、動き検出手段である加速度センサ38と、カメラ40と、を有する。処理部22は、携帯電子機器1の全体的な動作を統括的に制御する機能を有する。すなわち、処理部22は、携帯電子機器1の各種の処理が、操作部13の操作や携帯電子機器1の記憶部24に記憶されるソフトウェアに応じて適切な手順で実行されるように、送受信部26や、音声処理部30や、表示部32等の動作を制御する。
携帯電子機器1の各種の処理としては、例えば、回線交換網を介して行われる音声通話、電子メールの作成及び送受信、インターネットのWeb(World Wide Web)サイトの閲覧等がある。また、送受信部26、音声処理部30、表示部32等の動作としては、例えば、送受信部26による信号の送受信、音声処理部30による音声の入出力、表示部32による画像の表示等がある。
処理部22は、記憶部24に記憶されているプログラム(例えば、オペレーティングシステムプログラム、アプリケーションプログラム等)に基づいて処理を実行する。処理部22は、例えば、マイクロプロセッサユニット(MPU:Micro Processing Unit)で構成され、前記ソフトウェアで指示された手順にしたがって上述した携帯電子機器1の各種の処理を実行する。すなわち、処理部22は、記憶部24に記憶されるオペレーティングシステムプログラムやアプリケーションプログラム等から命令コードを順次読み込んで処理を実行する。
処理部22は、複数のアプリケーションプログラムを実行する機能を有する。処理部22が実行するアプリケーションプログラムとしては、例えば、プロジェクタ34や距離センサ36の駆動を制御するアプリケーションプログラムや、各種の画像ファイル(画像情報)を記憶部24から読み出してデコードするアプリケーションプログラム、及びデコードして得られる画像を表示部32に表示させたりプロジェクタ34に投影させたりするアプリケーションプログラム等の複数のアプリケーションプログラムがある。
本実施形態において、処理部22は、プロジェクタ制御部22a、画像処理部22b、条件判定部22c、姿勢・位置演算部22d、投影補正部22e、連係出力制御部22f、データ編集部22gを有する。
プロジェクタ制御部22aは、プロジェクタ34を制御して画像を画像投影対象に投影させる。画像処理部22bは、記憶部24に記憶されているデータや送受信部26によって受信されたデータをデコードして、プロジェクタ34によって投影される画像や表示部32に表示される画像を生成する。また、画像処理部22bは、利用者に情報を提供したり、利用者から情報の入力を受け付けたりするための各種画面として表示又は投影される画像を生成する。画像処理部22bは、画像に対して拡大、縮小、変形等の加工を施す処理も実行する。
条件判定部22cは、プロジェクタ制御部22aによる画像の投影に影響する条件が変化したか否かを判定する。ここで、プロジェクタ制御部22aによる画像の投影に影響する条件とは、例えば、携帯電子機器1の姿勢の変化や画像投影対象との距離の変化である。姿勢・位置演算部22dは、距離センサ36や加速度センサ38の検出結果等に基づいて、携帯電子機器1の姿勢及び位置を算出する。
投影補正部22eは、画像投影対象の一定の位置に一定の大きさで画像が投影されるように補正処理を行う。具体的には、投影補正部22eは、姿勢・位置演算部22dによって算出される携帯電子機器1の姿勢及び位置の変化に応じて、プロジェクタ制御部22aによるプロジェクタ34の制御内容や、画像処理部22bによる画像処理の内容を変化させることにより、投影画像の位置と大きさとを一定に保たせる。
連係出力制御部22fは、第1の画像をプロジェクタ34から投影させるとともに、第1の画像の少なくとも一部を第2の画像として表示部32に表示させる。そして、連係出力制御部22fは、第1の画像を変化させずに投影させつつ、姿勢・位置演算部22dによって算出される携帯電子機器1の姿勢及び位置の変化に応じて、表示部32に表示される第2の画像の内容を変化させる。
例えば、連係出力制御部22fは、初期状態において、あるデータに基づく画像全体を第1の画像としてプロジェクタ34から投影させ、その画像の中央部分の所定の範囲を第2の画像として表示部32に表示させる。そして、連係出力制御部22fは、携帯電子機器1が画像投影対象上の投影面との距離を保ったままで投影面と平行方向に上下左右へ移動した場合、第1の画像のうち第2の画像として表示部32に表示される部分を移動方向と移動距離とに応じて上下左右へスクロールさせる。また、連係出力制御部22fは、携帯電子機器1の姿勢が変化した場合、第1の画像のうち第2の画像として表示部32に表示される部分を姿勢の変化方向と変化量とに応じて上下左右へスクロールさせる。
また、連係出力制御部22fは、携帯電子機器1が画像投影対象に近づいた場合、第2の画像として表示部32に表示される部分が拡大されるように、第1の画像のうち第2の画像として表示部32に表示される部分の範囲を移動距離に応じて狭める。また、連係出力制御部22fは、携帯電子機器1が画像投影対象から遠ざかった場合、第2の画像として表示部32に表示される部分が縮小されるように、第1の画像のうち第2の画像として表示部32に表示される部分の範囲を移動距離に応じて拡げる。
データ編集部22gは、第1の画像に対応するデータのうち、第2の画像として表示部32に表示されている部分を編集するための編集操作を操作部13等から受け付け、受け付けた編集操作に応じた編集処理を実行する。また、データ編集部22gは、第1の画像に対応するデータのうち、第2の画像として表示部32に表示されている部分を編集するためのメニューやポップアップ画面等を必要に応じて表示部32に表示させる。すなわち、データ編集部22gは、第1の画像に対応するデータのうち、第2の画像として表示部32に表示されている部分を編集する機能を利用者に提供する。ここでいう編集とは、データへの情報の追加、データに含まれる情報の変更、データに含まれる情報の削除等を意味する。
プロジェクタ制御部22a、画像処理部22b、条件判定部22c、姿勢・位置演算部22d、投影補正部22e、連係出力制御部22f、データ編集部22gがそれぞれ有する機能は、処理部22及び記憶部24で構成されるハードウェア資源が、処理部22の制御部が割り当てるタスクを実行することにより実現される。ここで、タスクとは、アプリケーションソフトウェアが行っている処理全体、又は同じアプリケーションソフトウェアが行っている処理のうち、同時に実行できない処理単位である。
記憶部24には、処理部22での処理に利用されるソフトウェアやデータが記憶されており、上述した、プロジェクタ34や距離センサ36の駆動を制御するアプリケーションプログラムを作動させるタスクや、画像処理用プログラムを作動させるタスクが記憶されている。また、記憶部24には、これらのタスク以外にも、例えば、通信、ダウンロードされた音声データ、あるいは記憶部24に対する制御に処理部22が用いるソフトウェア、通信相手の電話番号やメールアドレス等が記述されて管理するアドレス帳、発信音や着信音等の音声ファイル、ソフトウェアの処理過程で用いられる一時的なデータ等が記憶されている。
なお、ソフトウェアの処理過程で用いられるコンピュータプログラムや一時的なデータは、処理部22によって記憶部24に割り当てられた作業領域へ一時的に記憶される。記憶部24は、例えば、不揮発性の記憶デバイス(ROM:Read Only Memory等の不揮発性半導体メモリ、ハードディスク装置等)や、読み書き可能な記憶デバイス(例えば、SRAM:Static Random Access Memory、DRAM:Dynamic Random Access Memory)等で構成される。
送受信部26は、アンテナ26aを有し、基地局によって割り当てられるチャネルを介し、基地局との間でCDMA(Code Division Multiple Access)方式などによる無線信号回線を確立し、基地局との間で電話通信及び情報通信を行う。操作部13は、例えば、電源キー、通話キー、数字キー、文字キー、方向キー、決定キー、発信キー等、各種の機能が割り当てられた操作キー13Aと、方向及び決定キー13Bとで構成される。そして、これらのキーがユーザの操作により入力されると、その操作内容に対応する信号を発生させる。発生した信号は、ユーザの指示として処理部22へ入力される。
音声処理部30は、マイク15に入力される音声信号やレシーバ16やスピーカ17から出力される音声信号の処理を実行する。すなわち、音声処理部30は、マイク15から入力される音声を増幅し、AD変換(Analog Digital変換)を実行した後、さらに符号化等の信号処理を施して、ディジタルの音声データに変換して処理部22へ出力する。また、処理部22から送られる音声データに対して復号化、DA変換(Digital Analog変換)、増幅等の処理を施してアナログの音声信号に変換してから、レシーバ16やスピーカ17へ出力する。ここで、スピーカ17は、携帯電子機器1の筐体1C内に配置されており、着信音やメールの送信音等を出力する。
加速度センサ38は、携帯電子機器1に印加される加速度の方向及び大きさを検出する。加速度センサ38の検出結果は、携帯電子機器1の姿勢変化や移動の有無を判定したり、姿勢の変化量や移動距離を算出したりするために用いられる。なお、携帯電子機器1の姿勢変化の有無を判定したり、姿勢の変化量を算出したりするために、携帯電子機器1に方位センサを設けることとしてもよい。
表示部32は、上述したディスプレイ2を有しており、処理部22から供給される映像データに応じた映像や画像データに応じた画像を表示パネルに表示させる。ディスプレイ2は、例えば、液晶ディスプレイ(LCD、Liquid Crystal Display)や、有機EL(Organic Electro−Luminescence)パネルなどで構成された表示パネルで構成される。なお、表示部32は、ディスプレイ2に加え、サブディスプレイを有していてもよい。
プロジェクタ34は、光源と、画像データに基づいて前記光源から射出された光を投影するか否かを切り換える光学系とで構成されている。本実施形態において、プロジェクタ34は、光源である可視光照射装置(可視光照射手段)31と、光学系である描画装置35と、焦点調整装置39とを含んで構成される。可視光照射装置31は、可視光のレーザー光を照射する。可視光領域の光は、短波長側が360nmから400nm以上、長波長側が760nmから830nm以下の光であり、本実施形態において、可視光照射装置31は、R(Red)、G(Green)、B(Blue)の3色の光を照射する。
描画装置35は、可視光照射装置31から照射される3色の光を合成するとともに、画像投影対象に照射する。描画装置35は、光源から射出された光を透過させるか否かを切り換える切り換え素子、及び当該切り換え素子を通過した光をラスター走査させるミラーを含んで構成される。そして、描画装置35は、ミラーによって可視光照射装置31から射出されたレーザー光の角度を変えて、画像投影対象にレーザー光を走査させることで、画像投影対象に画像を投影させる。
前記ミラーとしては、例えば、MEMS(Micro Electro Mechanical System)ミラーが用いられる。MEMSミラーは、圧電素子を利用してミラーを駆動して、可視光照射装置31から照射される可視光を走査し、可視画像や不可視画像を生成する。この場合は、ミラーによって光源から照射された光の角度を変えて、画像投影対象の全面に光源から照射された光を走査させることで、画像投影対象に可視画像や不可視画像を投影させることができる。このように、プロジェクタ34は、スキャン方式のプロジェクタである。なお、プロジェクタ34の構成は、上述したレーザーを光源とするものに限定されるものではない。例えば、プロジェクタ34は、ハロゲンライトや、LED光源、LD光源を光源とし、LCDや、DMD(Digital Micro-mirror Device)を光学系に備える構成のプロジェクタを用いてもよい。
焦点調整装置39は、プロジェクタ制御部22aからの指令により、描画装置35から投影される可視画像が画像投影対象上で結像させる機能(焦点調整機能)を有する。焦点調整装置39は、例えば、可動するレンズ等で構成される焦点調整機構を備えており、レンズを動かすことで前記焦点調整機能を実現する。また、焦点調整装置39は、プロジェクタ34が投影する画像のデータに対して画像処理部22bによって所定の画像処理を施すことにより、前記焦点調整機能を実現するものであってもよい。さらに、焦点調整装置39は、焦点調整機能及び画像処理によって前記焦点調整機能を実現するものであってもよい。距離センサ36は、プロジェクタ34の光出射部と画像投影対象との距離を計測する。なお、距離センサ36の代わりに、焦点調整装置39の、プロジェクタ34から投影された画像の焦点を調整する機能を利用して、プロジェクタ34の光出射部と画像投影対象との距離を計測してもよい。
図4は、図1に示す携帯電子機器のプロジェクタが画像を投影している状態を示す説明図である。上述したように、プロジェクタ34は、画像を投影する画像投影部であり、画像投影面が携帯電子機器1の筐体1Cの外部に露出している。携帯電子機器1は、プロジェクタ34から画像を投影することで、図4に示すように、プロジェクタ34の画像投影面と対向する位置の画像投影対象(例えば、壁面やスクリーン等)のうち、所定の領域(投影領域)PAに画像Pを投影させることができる。なお、プロジェクタ34は、処理部22により動作が制御され、処理部22から送られる種々の映像、例えば動画やプレゼンテーション資料等を投影し、投影領域PAに表示させる。
カメラ40は、上述したようにプロジェクタ34の光射出部の近くに設けられ、投影領域を含む領域の画像を取得する撮像機構である。つまり、カメラ40は、プロジェクタ34が光を射出する方向の画像を取得する。なお、カメラ40は、プロジェクタ34により投射される画像の投射画角よりも広い画角で画像を撮影する撮影機構であり、プロジェクタ34により画像が投影される投影領域よりも広い領域の画像を撮影することができる。
処理部22は、こうしてカメラ40によって撮影される画像等に基づいて、携帯電子機器1の姿勢や位置が所定の許容範囲内で変化しても、画像Pが投影領域PAに一定の大きさで投影されるようにプロジェクタ34等を制御する。例えば、携帯電子機器1が許容範囲内で右方向へ移動した場合でも、処理部22は、プロジェクタ34の投影方向を変更させる等して、画像Pを投影領域PAに投影させる。
このように、処理部22は、携帯電子機器1の姿勢や位置が変化しても画像Pを投影領域PAに一定の大きさで投影させる一方で、表示部32に表示させる内容を、携帯電子機器1の姿勢や位置の変化に応じて変更する。例えば、処理部22は、携帯電子機器1が投影領域PAのほぼ正面に位置している場合には、投影領域PAに投影されている画像Pの中央に描画されている「E」の文字を表示部32に表示させる。また、処理部22は、携帯電子機器1が右方向に移動した場合には、画像Pの右横に描画されている「F」の文字を表示部32に表示させる。
次に、図5を用いて携帯電子機器のプロジェクタの画像出力動作を説明する。ここで、図5は、携帯電子機器の画像出力動作の一例を示すフロー図である。まず、携帯電子機器1の処理部22は、ステップS101として、条件判定部22cにより、携帯電子機器1が搭載するプロジェクタ34が使用中であるか否かを判定する。処理部22は、ステップS101でプロジェクタ動作中ではない(No)、すなわち、条件判定部22cでプロジェクタ34は使用中でないと判定したら、本制御を終了する。
また、処理部22は、ステップS101でプロジェクタが動作中である(Yes)、すなわち、条件判定部22cがプロジェクタ34は使用中であると判定したら、ステップS102として姿勢変化又は移動があったかを判定する。つまり、処理部22は、ステップS102として、条件判定部22cにより、携帯電子機器1が搭載するプロジェクタ34に動きがあったか、すなわち、プロジェクタ34(携帯電子機器1)の姿勢変化又は移動があったか否かを判定する。ここで、条件判定部22cは、カメラ40で撮影した画像、及び、オートフォーカス機能で算出した焦点距離に基づいて、プロジェクタ34の姿勢変化又は移動があったかを判定することができる。また、条件判定部22cは、距離センサ36や加速度センサ38の検出結果を用いることでも、プロジェクタ34の姿勢変化又は移動があったかを判定することができる。なお、本実施形態では、投影面とプロジェクタ34との相対的な移動も、プロジェクタ34の移動と判定する。つまり、条件判定部22cは、投影面とプロジェクタ34との間の距離が変化したら、移動したと判定する。あるいは、投影方向(つまり、投影方向に沿って投影面)に向かって進む動きや、退く動きを検出したら、移動したと判定してもよい。処理部22は、ステップS102で変化及び移動なし(No)、すなわち、条件判定部22cでプロジェクタ34に動きはなかったと判定したら、本制御は終了する。
また、処理部22は、ステップS102で、プロジェクタ34の姿勢変化又は移動があった(Yes)、つまり、条件判定部22cがプロジェクタ34に動きがあったと判定したら、ステップS103として、姿勢・位置演算部22dにより、プロジェクタ34(携帯電子機器1)の動きに基づいて、姿勢の変化量及び移動距離を算出する。つまり、プロジェクタ34と画像が投影される投影面との角度及び距離の変化を算出する。具体的には、処理部22は、カメラ40又は加速度センサ38の検出結果に基づいて、プロジェクタ34の姿勢を検出し、基準姿勢又は前回の姿勢と比較することで、姿勢の変化量を算出する。また、処理部22は、カメラ40又は距離センサ36及び加速度センサ38の検出結果に基づいて、投影面とプロジェクタ34との間の距離を検出し、基準距離又は前回の距離と比較することで、移動距離、移動方向を算出する。
処理部22は、ステップS103で姿勢の変化量及び移動距離を算出したら、ステップS104として、投影補正部22eにより、ステップS103で算出された姿勢の変化量及び移動距離に応じてプロジェクタ34の投影方向及び投影角度を変更させて、姿勢変化又は移動の前と同じ位置に同じ大きさで画像を投影させる。さらに、処理部22は、ステップS105として、算出された姿勢の変化量及び移動距離に応じて、プロジェクタ34から投影されている画像のうち、表示部32に表示される部分を変更させる。処理部22は、ステップS105の処理を終了したら、本制御を終了する。処理部22は、プロジェクタ34による画像の投影中は、上記処理を繰り返す。
なお、プロジェクタ34の投影方向の変更(投影画像の位置の調整)は、例えば、プロジェクタ34を可動式にしてプロジェクタ34自体の方向を変更することで実現してもよいし、描画装置35を構成するミラーの走査範囲(回動する範囲)を変更することで実現してもよい。また、プロジェクタ34の光射出部に可動式のレンズを配置し、そのレンズの方向を変化させることによって実現してもよい。また、画像処理部22bが透明なレイヤの上に投影対象の画像を合成した画像を生成することとし、透明なレイヤ上での投影対象の画像の位置を変更することによって実現してもよい。また、これらの方式を組み合わせてもよい。
また、プロジェクタ34の投影角度の変更(投影画像の大きさの調整)は、例えば、描画装置35を構成するミラーの振り角(回動する角度)の大きさを変更することで実現してもよい。また、プロジェクタ34の光射出部に可動式のレンズを配置し、そのレンズと光源との距離を変化させることによって実現してもよい。また、画像処理部22bが透明なレイヤの上に投影対象の画像を合成した画像を生成することとし、透明なレイヤ上での投影対象の画像の大きさを変更することによって実現してもよい。また、これらの方式を組み合わせてもよい。
次に、図6を用いて携帯電子機器が投影されている画像に対応するデータを編集する動作について説明する。ここで、図6は、携帯電子機器のデータ編集動作の一例を示すフロー図である。なお、図6に示すデータ編集動作は、図5に示した画像出力動作と並行して繰り返し実行される。まず、処理部22のデータ編集部22gは、ステップS201として、操作部13において編集操作が検出されたかを判定する。編集操作とは、投影されている画像に対応するデータを編集するために利用者が行う操作である。
データ編集部22gは、ステップS201で編集操作が検出された(Yes)と判定したら、ステップS202として、検出された編集操作に応じて表示部32の表示内容を更新する。例えば、検出された編集操作がデータに情報を追加するものであった場合、データ編集部22gは、表示部32の表示内容を、データにその情報が追加された状態に更新する。また、検出された編集操作がデータ内の情報を変更するものであった場合、データ編集部22gは、表示部32の表示内容を、データ内のその情報が変更された状態に更新する。また、検出された編集操作がデータ内の情報を削除するものであった場合、データ編集部22gは、表示部32の表示内容を、データ内のその情報が削除された状態に更新する。
表示部32の表示内容を更新した後、データ編集部22gは、ステップS203として、処理部22が有するメモリ等の記憶領域に編集内容を保持させる。そして、データ編集部22gは、本制御を終了する。
データ編集部22gは、ステップS201で編集操作が検出されていない(No)と判定したら、ステップS204として、操作部13において保存操作が検出されたかを判定する。保存操作とは、それまでに行った編集操作の結果をデータに反映させて、データを保存するために利用者が行う操作である。データ編集部22gは、ステップS204で保存操作が検出さていない(No)と判定したら、本制御を終了する。
データ編集部22gは、ステップS204で保存操作が検出された(Yes)と判定したら、ステップS205として、メモリ等に保持しておいた編集内容を、投影されている画像に対応するデータに反映される。ここでは、編集内容に応じて、情報の追加、変更、削除を行うことによってデータそのものが書き換えられる。そして、データ編集部22gは、ステップS206として、更新後のデータの内容が反映されるように、プロジェクタ34から投影される画像を更新させる。そして、データ編集部22gは、本制御を終了する。
なお、図6では、保存操作が検出された後に編集内容をデータに反映することとしたが、編集操作が行われた場合に、編集内容を直ちにデータに反映することとしてもよい。編集内容を直ちにデータに反映するか否かは、編集対象のデータの種類によって決めてもよいし、利用者が予め設定した設定情報に基づいて決めてもよい。
次に、具体例を用いて、携帯電子機器1についてより詳細に説明する。ここで、図7から図9は、それぞれ、携帯電子機器の動作を説明するための説明図である。なお、図7から図9は、携帯電子機器1の形状を模式的に図示している。
図7に示すステップS11では、携帯電子機器1は、第1の画像P1として、複数の人物が描かれた画像データをプロジェクタ34から投影させている。また、携帯電子機器1は、第1の画像P1に含まれる人物の1人を第2の画像P2としてディスプレイ2に表示させている。そして、携帯電子機器1は、第1の画像P1における第2の画像P2の位置及び範囲を表すために、フレームFを第1の画像P1中に示している。
この状態から、利用者が携帯電子機器1の姿勢又は位置を変更すると、携帯電子機器1は、それを検出し、検出結果に応じて第2の画像P2としてディスプレイ2に表示させる内容を変更する。例えば、携帯電子機器1は、画像投影対象に対して位置が左方向に移動したことを検出すると、検出した移動量に応じて、第2の画像P2としてディスプレイ2に表示させる部分を左方向にスクロールさせる。また、携帯電子機器1は、姿勢が下向きに変化したことを検出すると、検出した角度の変化量に応じて、第2の画像P2としてディスプレイ2に表示させる部分を下方向にスクロールさせる。
また、携帯電子機器1は、位置が画像投影対象に近づいたことを検出すると、検出した移動量に応じて、第2の画像P2を拡大させる。また、携帯電子機器1は、位置が画像投影対象から遠ざかったことを検出すると、検出した移動量に応じて、第2の画像P2を縮小させる。携帯電子機器1は、第2の画像P2としてディスプレイ2に表示させる部分を変化させた場合、変化後の第2の画像P2の位置及び範囲に対応するように、フレームFを第1の画像P1上で移動させる。
また、この状態において、携帯電子機器1は、第2の画像P2としてディスプレイ2に表示されている部分を利用者が編集することを可能にする。例えば、利用者は、操作部13等に対して編集操作を行って、ステップS12のように、ディスプレイ2に表示されている人物を帽子をかぶった人物へ変更することができる。この段階では、編集内容はメモリ等に保持され、第2の画像P2には反映されるが、画像データに反映されない。このため、利用者は編集内容を破棄して、変更が画像データに反映されないようにすることができる。
利用者が、編集操作を行った後に、さらに操作部13等に対して保存操作を行うと、携帯電子機器1は、保持していた編集内容を画像データに反映させ、さらに、ステップS13のように、画像データの変更を第1の画像P1にも反映させる。
また、ステップS11の状態において、利用者が携帯電子機器1を右方向へ移動させると、携帯電子機器1は、第2の画像P2としてディスプレイ2に表示させる部分を右方向にスクロールさせるとともに、フレームFを右方向に移動させる。そして、スクロールして無地部分が第2の画像P2としてディスプレイ2に表示されている状態で、利用者は、操作部13等に対して編集操作を行って、ステップS14のように、新たな人物を書き足すことができる。この段階では、編集内容はメモリ上に保持され、第2の画像P2には反映されるが、画像データに反映されない。その後、利用者が保存操作を行うと、携帯電子機器1は、保持していた編集内容を画像データに反映させ、さらに、ステップS15のように、画像データへの人物の追加を第1の画像P1にも反映させる。
このように、携帯電子機器1は、データに対応する画像をプロジェクタ34から投影させつつ、その画像の少なくとも一部をディスプレイ2に表示させ、ディスプレイ2に表示されている部分の編集を利用者に行わせる。すなわち、携帯電子機器1は、データに対応する画像を大きく投影させて全体像を確認しつつ、ディスプレイ2を参照しながら詳細部分を編集することを可能にする。
プロジェクタ34は、画像を大きく投影することができるが、詳細部分を編集するのに十分な解像度がない場合がある。一方、ディスプレイ2は、解像度が比較的高いため、詳細部分を編集するのに適しているが、面積が狭いため、全体像と詳細部分とを同時に表示することが難しい。プロジェクタ34とディスプレイ2とを組み合わせて利用することにより、両者の長所を活かすことができる。
また、ディスプレイ2に表示されている部分を対象として編集操作を受け付けることとすれば、編集内容が操作部13の近くに表示されるため、プロジェクタ34によって離れた位置に投影されている画像を編集対象とする場合よりも、利用者が編集操作を行い易い。
図7に示したように、プロジェクタ34とディスプレイ2とを組み合わせてデータを編集する方式は、例えば、ポスター等の大きな画像を作成する場合に有用である。この方式によれば、利用者は、編集中の画像全体を実際のサイズで投影して仕上がりイメージを確認しつつ、詳細部分をディスプレイ2上で編集していくことができる。
続いて、図8について説明する。図7では、画像データを編集する例を示したが、図8では、文書データを編集する例を示す。また、図9では、編集内容を直ちにデータに反映する例を示す。
図8に示すステップS21では、携帯電子機器1は、第1の画像P1として、表計算プログラムの文書データをプロジェクタ34から投影させている。また、携帯電子機器1は、第1の画像P1の全体を第2の画像P2としてディスプレイ2に表示させている。
この状態から、利用者が携帯電子機器1を画像投影対象に近づけつつ、左上方向に移動させると、携帯電子機器1は、ステップS22のように、第1の画像P1の左上寄りの部分を拡大して、第2の画像P2としてディスプレイ2に表示させる。また、携帯電子機器1は、拡大後の第2の画像P2の位置及び範囲に対応するように、フレームFを第1の画像P1上に表示させる。
また、この状態において、携帯電子機器1は、第2の画像P2としてディスプレイ2に表示されている部分を利用者が編集することを可能にする。例えば、利用者は、操作部13等に対して編集操作を行って、ステップS23のように、あるセルの内容を書き換えることができる。編集操作が行われると、携帯電子機器1は、編集内容を第2の画像P2に反映するとともに、第1の画像P1に対応する文書データに反映させる。その結果、第1の画像P1にも、セルの内容の変更が反映される。
図8に示すように、プロジェクタ34とディスプレイ2とを組み合わせてデータを編集する方式は、文書データの編集にも有用である。この方式によれば、利用者は、文書データを大きく投影して編集部分以外を参照しつつ、編集部分をディスプレイ2上で編集することができる。
続いて、図9について説明する。図8では、1人の利用者がデータを編集する例を示したが、図9では、複数の利用者がデータを編集する例を示す。なお、図9に示す携帯電子機器1a及び1bは、携帯電子機器1と同様の構成を有する装置であり、同一のデータを共有するように設定されているものとする。
図9に示すステップS31では、携帯電子機器1aは、第1の画像P1aとして、表計算プログラムの文書データをプロジェクタ34から投影させている。また、携帯電子機器1aは、第1の画像P1aの全体を第2の画像P2aとしてディスプレイ2に表示させている。
また、ステップS41のように、同時に他の場所において、携帯電子機器1bは、第1の画像P1bとして、携帯電子機器1aと共有されている文書データをプロジェクタ34から投影させている。また、携帯電子機器1bは、第1の画像P1bの全体を第2の画像P2bとしてディスプレイ2に表示させている。
この状態から、携帯電子機器1aの利用者が携帯電子機器1aを画像投影対象に近づけつつ、左上方向に移動させると、携帯電子機器1aは、ステップS32のように、第1の画像P1aの左上寄りの部分を拡大して、第2の画像P2aとしてディスプレイ2に表示させる。また、携帯電子機器1aは、拡大後の第2の画像P2aの位置及び範囲に対応するように、フレームFを第1の画像P1a上に表示させる。この段階において、携帯電子機器1bは、ステップS42のように、ステップS41と同様の状態を保っている。
また、この状態において、携帯電子機器1aは、第2の画像P2aとしてディスプレイ2に表示されている部分を利用者が編集することを可能にする。例えば、携帯電子機器1aの利用者は、操作部13等に対して編集操作を行って、ステップS33のように、あるセルの内容を書き換えることができる。編集操作が行われると、携帯電子機器1aは、編集内容を第2の画像P2aに反映するとともに、第1の画像P1aに対応する文書データに反映させる。その結果、第1の画像P1aにも、セルの内容の変更が反映される。
また、携帯電子機器1aは、編集内容を第1の画像P1aに対応する文書データに反映させると、その文書データを共有している携帯電子機器1bへ更新後の文書データを送信して、携帯電子機器1bが保持している文書データと置き換えさせる。その結果、携帯電子機器1bは、ステップS43のように、置き換えられた文書データの内容を、プロジェクタ34から投影される第1の画像P1bと、ディスプレイ2に表示される第2の画像P2bとに反映させる。
なお、ここでは、携帯電子機器1aでの編集内容を携帯電子機器1bの出力に反映させる例を示したが、同様にして、携帯電子機器1bでの編集内容を携帯電子機器1aの出力に反映させることもできる。また、ここでは、データそのものを送信することで遠隔の電子機器に編集内容を反映させることとしたが、編集内容又は差分データを送信することで遠隔の電子機器に編集内容を反映させてもよい。
また、共有されるデータをサーバ装置等の第3の装置に保持させることとしてもよい。この場合、例えば、携帯電子機器1a及び1bは、受け付けた編集内容を第3の装置へ送信し、第3の装置は、受信した編集内容をデータに反映させる。そして、携帯電子機器1a及び1bは、第3の装置から最新のデータを定期的に取得し、取得したデータの内容をプロジェクタ34から投影する画像と、表示部32に表示する画像とに反映させる。
図9に示すように、プロジェクタ34とディスプレイ2とを組み合わせてデータを編集する方式は、共有されたデータの編集にも有用である。この方式によれば、例えば、電話会議のように異なるサイト間で会議を行う場合に、共有されているデータに対応する画像をそれぞれのサイトで投影して閲覧しつつ、一方のサイトでの編集内容を他方のサイトの投影内容に反映させることができる。
なお、上記の実施形態で示した本発明の態様は、本発明の要旨を逸脱しない範囲で任意に変更することができる。例えば、プロジェクタ34が、ディスプレイ2の反対側以外の面から画像を投影することとしてもよい。
また、上記の実施形態では、編集対象のデータの例として、画像データ及び文書データを示したが、本発明の編集対象のデータはこれに限定されない。本発明は、例えば、動画データ、音声データ、拡張現実(Augmented Reality)空間のタグデータ等の多様なデータを編集対象とすることができる。拡張現実空間とは、現実の世界に重畳して電子的に構築された空間である。
また、上記の実施形態では、操作部13が、操作キー13A及び方向及び決定キー13Bによって構成される例を示したが、操作部13は、ディスプレイ2に重畳されたタッチパネルを含んでもよい。すなわち、表示部32が操作部13の機能を兼ねることとし、利用者が、ディスプレイ2に表示される画像を参照しつつ、ディスプレイ2に重畳されたタッチパネルに指等で触れることで編集操作を行うことができるようにしてもよい。
また、上記の実施形態では、携帯電子機器1が、姿勢や位置の変化に応じてディスプレイ2に表示する第2の画像をスクロールさせたり、拡大/縮小させたりする例を示したが、携帯電子機器1が、操作部13において検出された操作に応じて第2の画像のスクロール等を行うこととしてもよい。