JP2001306049A - 情報処理装置、動作認識過程表示方法及びプログラム格納媒体 - Google Patents

情報処理装置、動作認識過程表示方法及びプログラム格納媒体

Info

Publication number
JP2001306049A
JP2001306049A JP2000126344A JP2000126344A JP2001306049A JP 2001306049 A JP2001306049 A JP 2001306049A JP 2000126344 A JP2000126344 A JP 2000126344A JP 2000126344 A JP2000126344 A JP 2000126344A JP 2001306049 A JP2001306049 A JP 2001306049A
Authority
JP
Japan
Prior art keywords
recognition
user
image
cpu
moving direction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2000126344A
Other languages
English (en)
Inventor
Gakuo Inagaki
岳夫 稲垣
Junko Saito
潤子 齋藤
Keigo Ihara
圭吾 井原
Takahiko Sueyoshi
隆彦 末吉
Sachihiro Yamaguchi
祥弘 山口
Shinichiro Gomi
信一郎 五味
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000126344A priority Critical patent/JP2001306049A/ja
Priority to EP01303523A priority patent/EP1148411A3/en
Priority to US09/838,644 priority patent/US7046232B2/en
Priority to CNB01116655XA priority patent/CN100487633C/zh
Priority to KR1020010021420A priority patent/KR100843811B1/ko
Publication of JP2001306049A publication Critical patent/JP2001306049A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

(57)【要約】 【課題】本発明は、ユーザの手の動きがどのように認識
されるのかをユーザに対して学習させるようにする。 【解決手段】本発明は、CCDカメラ8によってユーザ
の手を撮像することにより得られた画像に基づいて当該
画像中の手の動きを認識し、当該認識した手の動きの軌
跡を表すビジュアルフィードバック画面を生成して液晶
ディスプレイ10に表示することにより、ユーザの手の
動きがどのように認識されたのかをユーザに対してフィ
ードバックして学習させることができる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は情報処理装置、動作
認識過程表示方法及びプログラム格納媒体に関し、例え
ばノートブック型パーソナルコンピュータ(以下、これ
をノートパソコンと呼ぶ)に適用して好適なものであ
る。
【0002】
【従来の技術】従来、ノートパソコンにおいては液晶デ
ィスプレイ等の表示手段と、所定のコマンドや文字を入
力するためのキーボードあるいはマウス等の入力手段と
によって構成され、キー操作によって入力されたコマン
ドに応じて所定の処理を実行し、その実行結果を表示部
に表示するようになされている。
【0003】また最近のノートパソコンにおいては、キ
ーボードやマウス以外の入力手段として例えば当該ノー
トパソコンの筐体側面から僅かに突出するように設けら
れた所定形状の回転操作子いわゆるジョグダイヤルが用
いられ、当該ジョグダイヤルに対する回転操作及び押圧
操作に応動して、メニュー項目の選択及びコマンドの決
定等の命令が入力されるようになされている。
【0004】
【発明が解決しようとする課題】ところでかかる構成の
ノートパソコンにおいては、上述のキーボード、マウス
あるいはジョグダイヤルの他にも、外部接続されたカメ
ラを介してユーザを撮像し、当該ユーザの動きに応じて
コマンドを自動的に入力することが提案されているが、
ユーザにとっては間違ったコマンドを入力してしまった
ときに、それがどのような動作に基づいて認識されたた
めであるのかを知り得ず、使い勝手が悪いという問題が
あった。
【0005】本発明は以上の点を考慮してなされたもの
で、認識対象の動作が認識されるまでの認識過程をユー
ザに対してフィードバックして学習させ得る情報処理装
置、動作認識過程表示方法及びプログラム格納媒体を提
案しようとするものである。
【0006】
【課題を解決するための手段】かかる課題を解決するた
め本発明においては、撮像手段によって認識対象を撮像
することにより得られた画像に基づいて当該画像中の認
識対象の移動方向を認識し、当該認識した認識対象の移
動方向の軌跡を表す認識過程画像を生成して所定の表示
手段に表示することにより、認識対象の移動方向がどの
ように認識されたのかをユーザに対してフィードバック
して学習させることができる。
【0007】
【発明の実施の形態】以下図面について、本発明の一実
施の形態を詳述する。
【0008】(1)第1の実施の形態 (1−1)ノートブック型パーソナルコンピュータの外
観構成 図1において、1は全体として本発明を適用した情報処
理装置としてのノートブック型パーソナルコンピュータ
(以下、これをノートパソコンと呼ぶ)を示し、本体2
と当該本体2に対して開閉自在に取り付けられた表示部
3とによって構成されている。
【0009】本体2は、その上面に各種文字や記号及び
数字等を入力するための複数の操作キー4、マウスカー
ソルの移動に用いられるスティック式ポインティングデ
バイス(以下、これを単にスティックと呼ぶ)5、通常
のマウスにおける左ボタン及び右ボタンに相当する左ク
リックボタン5A及び5B、マウスカーソルをスクロー
ルボタンに合わせることなくスクロールバーを操作する
ためのセンタボタン5C、内蔵スピーカ6A及び6B、
押圧式の電源スイッチ7、表示部3に設けられたCCD
(Charge Coupled Device )カメラ8用のシャッタボタ
ン9、LED(Light Emitting Diode)で構成された電
源ランプPL、電池ランプBL及びメッセージランプM
L等が設けられている。
【0010】表示部3は、その正面に例えば8.9型
(1024×480ピクセル)対応のTFT(Thin Fil
m Transisitor )カラー液晶でなる液晶ディスプレイ1
0が設けられると共に、正面の中央上端部には撮像手段
としてのCCDカメラ8を備えた撮像部11が当該表示
部3に対して回動自在に設けられている。
【0011】この撮像部11においては、CCDカメラ
8が表示部3の正面方向から背面方向までの180度程
度の角度範囲で回動して任意の角度で位置決めし得ると
共に、当該CCDカメラ8によって所望の撮像対象を撮
像する際のフォーカス調整を当該撮像部11の上端部に
設けられた調整リング12の回転操作により容易に行い
得るようになされている。
【0012】また表示部3は、撮像部11の左端近傍に
おける正面側及び背面側にマイクロフォン13が設けら
れており、当該マイクロフォン13を介して当該表示部
3の正面側から背面側までの広範囲に渡って集音し得る
ようになされている。
【0013】さらに表示部3は、液晶ディスプレイ10
の左端近傍及び右端近傍にそれぞれつめ14及び15が
設けられ、当該つめ14及び15と対応する本体2の所
定位置には孔部16及び17が設けられており、表示部
3を本体2に閉塞した状態でつめ14及び15がそれぞ
れ対応する孔部16及び17に嵌合される。
【0014】これに対して表示部3は、本体2に閉塞さ
れた当該表示部3の前側が持ち上げられたときに、孔部
16及び17とつめ14及び15の嵌合状態が解除さ
れ、その結果、当該表示部3が本体2から展開し得るよ
うになされている。
【0015】また本体2は、その右側面にIrDA(In
frared Data Association )準拠の赤外線ポート18、
ヘッドフォン端子19、マイクロフォン用入力端子2
0、USB(Universal Serial Bus)端子21、外部電
源コネクタ22、外部ディスプレイ出力用コネクタ2
3、回転操作子の回転操作及び押圧操作によって所定の
処理を実行するための命令を入力し得るジョグダイヤル
24及びモジュラージャック用のモデム端子25が設け
られている。
【0016】一方、図2に示すように本体2は、その左
側面に排気孔26、PCMCIA(Personal Computer
Memory Card International Association )規格のPC
(Personal Computer )カードに対応したPCカードス
ロット27及び4ピン対応のIEEE(Institute of E
lectrical and Electronics Engineers )1394端子
28が設けられている。
【0017】さらに図3に示すように本体2は、その後
側面にバッテリコネクタ29が設けられており、底面に
はバッテリパック30(図1)を取り外すためのスライ
ド式取り外しレバー31及び当該スライド式取り外しレ
バー31のスライド操作をロックするロックレバー32
が設けられると共に、本体2の動作を中断して電源投入
時の環境を再構築するためのリセットスイッチ33が設
けられている。なおバッテリパック30は、バッテリコ
ネクタ29に対して着脱自在に接続される。
【0018】(1−2)ノートブック型パーソナルコン
ピュータの回路構成 次にノートパソコン1の回路構成について図4を用いて
詳細に説明する。ノートパソコン1の本体2において
は、当該本体2の各種機能を統括的に制御するCPU
(Central Processing Unit )50がホストバス52に
接続されており、当該CPU50によってRAM(Rand
om Access Memory)53にロードされた各種プログラム
やアプリケーションソフトウェアに応じた処理を、クロ
ックジェネレータ60から与えられるシステムクロック
に基づいて所定の動作速度で実行することにより各種機
能を実現し得るようになされている。
【0019】またホストバス52には、キャッシュメモ
リ51が接続されており、CPU50が使用するデータ
をキャッシュし、高速アクセスを実現し得るようになさ
れている。
【0020】このホストバス52は、PCI(Peripher
al Component Interconnect )バス55とホスト−PC
Iブリッジ54を介して接続されており、当該PCIバ
ス55にはビデオコントローラ56、IEEE1349
インターフェース57、ビデオキャプチャ処理チップ8
3及びPCカードインターフェース58が接続されてい
る。
【0021】ここでホスト−PCIブリッジ54は、C
PU50と、ビデオコントローラ56、ビデオキャプチ
ャ処理チップ83、IEEE1349インターフェース
57及びPCカードインターフェース58との間で行わ
れる各種データの授受を制御すると共に、メモリバス5
9を介して接続されたRAM53のメモリコントロール
を行うようになされている。
【0022】またホスト−PCIブリッジ54は、ビデ
オコントローラ56とAGP(Accelerated Graphics P
ort )に沿った信号線を介して接続されており、これに
より当該ホスト−PCIブリッジ54及びビデオコント
ローラ56間で画像データを高速転送し得るようになさ
れている。
【0023】ビデオキャプチャ処理チップ83は、シリ
アルバスでなるI2 Cバス82(一般的にSM(System
Management )バスとも呼ばれている)と接続されてお
り、当該I2 Cバス82を介してCCDカメラ8で撮像
された画像データが供給されると、これを内蔵のフレー
ムメモリ(図示せず)に一旦格納し、JPEG(Joint
Photographic Experts Group)規格に従って画像圧縮処
理を施すことによりJPEG画像データを生成した後、
当該JPEG画像データを再度フレームメモリに格納す
るようになされている。
【0024】そしてビデオキャプチャ処理チップ83
は、CPU50からの要求に応じて、フレームメモリに
格納されているJPEG画像データをバスマスタ機能を
用いてRAM53へ転送した後、JPEG画像(静止
画)データ又はMotionJPEG画像(動画)デー
タとしてハードディスクドライブ(HDD)67へ転送
する。
【0025】またビデオコントローラ56は、適時供給
される各種アプリケーションソフトウェアに基づく画像
データや、CCDカメラ8で撮像された画像データを表
示部3の液晶ディスプレイ10に出力することにより、
複数のウィンドウ画面を表示し得るようになされてい
る。
【0026】IEEE1349インターフェース57
は、IEEE1394端子28と直結されており、当該
IEEE1394端子28を介して他のコンピュータ装
置やディジタルビデオカメラ等の外部デバイスと接続し
得るようになされている。
【0027】PCカードインターフェース58は、オプ
ション機能を追加するときに適宜PCカードスロット2
7に装填されるPCカード(図示せず)と接続され、当
該PCカードを介して例えばCD−ROM(Compact Di
sc-Read Only Memory )ドライブやDVD(Digital Ve
rsatile Disc)ドライブ等の外部デバイスと接続し得る
ようになされている。
【0028】PCIバス55は、ISA(Industrial S
tandard Architecture)バス65とPCI−ISAブリ
ッジ66を介して接続されており、当該PCI−ISA
ブリッジ66にはHDD67及びUSB端子21が接続
されている。
【0029】ここでPCI−ISAブリッジ66は、I
DE(Integrated Drive Electronics)インターフェー
ス、コンフィギュレーションレジスタ、RTC(Real-T
imeClock )回路及びUSBインターフェース等によっ
て構成されており、クロックジェネレータ60から与え
られるシステムクロックを基にIDEインターフェース
を介してHDD67の制御を行う。
【0030】HDD67のハードディスクには、 Windo
ws98(商標)等のOS(Operating System)、電子メ
ールプログラム、オートパイロットプログラム、ジョグ
ダイヤルサーバプログラム、ジョグダイヤルドライバ、
キャプチャーソフトウェア、ディジタル地図ソフトウェ
ア及びこれら以外の各種アプリケーションソフトウェア
が格納されており、起動処理の過程で適時RAM53に
転送されてロードされる。
【0031】またPCI−ISAブリッジ66は、US
B端子21を介して接続される図示しないフロッピー
(登録商標)ディスクドライブ、プリンタ及びUSBマ
ウス等の外部デバイスをUSBインターフェースを介し
て制御すると共に、ISAバス65に接続されるモデム
69及びサウンドコントローラ70の制御を行う。
【0032】モデム69は、モデム端子25から図示し
ない公衆電話回線を介してインターネットサービスプロ
バイダ(以下、これをプロバイダと呼ぶ)に接続し、当
該プロバイダを介してインターネットへダイヤルアップ
IP接続するようになされている。
【0033】サウンドコントローラ70は、マイクロフ
ォン13で集音された音声信号をディジタル変換するこ
とにより音声データを生成し、これをCPU50に出力
すると共に、当該CPU50から供給される音声データ
をアナログ変換することにより音声信号を生成し、これ
を内蔵スピーカ6を介して外部に出力する。
【0034】またISAバス65には、I/O(In/Ou
t)コントローラ73が接続されており、外部電源コネ
クタ22から電源供給充電制御回路85を介して外部電
源の電力供給を受け、電源スイッチ7がオンされたとき
に各回路へ電力の供給を行う。なお、ここでもI/Oコ
ントローラ73は、クロックジェネレータ60から供給
されるシステムクロックを基に動作する。
【0035】また電源供給充電制御回路85は、I/O
コントローラ73によって制御され、バッテリコネクタ
29(図3)に接続されたバッテリパック30の充電を
制御する。
【0036】I/Oコントローラ73は、マイクロコン
トローラ、I/Oインターフェース、CPU、ROM、
RAM等によって構成されており、フラッシュメモリ7
9に格納されているBIOS(Basic Input/Output Sys
tem )に基づいてOSやアプリケーションソフトウェア
と液晶ディスプレイ10やHDD67等の各種周辺機器
との間におけるデータの入出力を制御する。
【0037】またI/Oコントローラ73は、赤外線ポ
ート18と接続され、例えば他のコンピュータ装置との
間で赤外線通信を実行し得るようになされている。
【0038】さらにI/Oコントローラ73は、反転ス
イッチ77と接続されており、撮像部11が液晶ディス
プレイ10の背面側方向に180度回転されたとき当該
反転スイッチ77がオンされ、その旨をPCI−ISA
ブリッジ66及びホスト−PCIブリッジ54を介して
CPU50に通知する。
【0039】これに加えてI/Oコントローラ73は、
全押し/半押しスイッチ78と接続されており、本体2
の上面に設けられたシャッタボタン9が半押し状態にさ
れたとき全押し/半押しスイッチ78が半押し状態にオ
ンされ、その旨をCPU50に通知すると共に、シャッ
タボタン9が全押し状態にされたとき全押し/半押しス
イッチ78が全押し状態にオンされ、その旨をCPU5
0に通知する。
【0040】すなわちCPU50は、HDD67のハー
ドディスクからキャプチャーソフトウェアをRAM53
上に立ち上げた状態で、ユーザによってシャッタボタン
9が半押し状態にされると静止画像モードに入り、CC
Dカメラ8を制御して静止画像のフリーズを実行し、全
押し状態にされるとフリーズされた静止画像データを取
り込みビデオコントローラ56に送出する。
【0041】これに対してCPU50は、キャプチャー
ソフトウェアを立ち上げない状態で、ユーザによってシ
ャッタボタン9が全押し状態にされると動画像モードに
入り、最大60秒程度までの動画像を取り込んでビデオ
コントローラ56に送出するようになされている。
【0042】ところで、I/Oコントローラ73のRO
Mには、ウェイクアッププログラム、キー入力監視プロ
グラム、LED制御プログラム及びジョグダイヤル状態
監視プログラム、その他種々の制御プログラムが格納さ
れている。
【0043】ここでジョグダイヤル状態監視プログラム
は、HDD67のハードディスクに格納されているジョ
グダイヤルサーバプログラムと連動して用いられるプロ
グラムであり、ジョグダイヤル24が回転操作又は押圧
操作されたか否かを監視するためのものである。
【0044】ウェイクアッププログラムは、PCI−I
SAブリッジ66内のRTC回路から供給される現在時
刻が予め設定した開始時刻と一致すると、CPU50に
よって所定の処理を実行するように制御されたプログラ
ムであり、キー入力監視プログラムは操作キー4及びそ
の他の各種キースイッチからの入力を監視するプログラ
ムである。LED制御プログラムは、電源ランプPL、
電池ランプBL、メッセージランプML(図1)等の各
種ランプの点灯を制御するプログラムである。
【0045】またI/Oコントローラ73のRAMに
は、ジョグダイヤル状態監視プログラム用のI/Oレジ
スタ、ウェイクアッププログラム用の設定時刻レジス
タ、キー入力監視プログラム用のキー入力監視レジス
タ、LED制御プログラム用のLED制御レジスタ及び
その他の各種プログラム用のレジスタが設けられてい
る。
【0046】設定時刻レジスタは、ウェイクアッププロ
グラムで用いるためにユーザが予め任意に設定した開始
時刻の時間情報を格納するようになされている。従って
I/Oコントローラ73は、ウェイクアッププログラム
に基づいてRTC回路から供給される現在時刻が任意に
設定した開始時刻と一致するか否かを判別し、当該開始
時刻と一致したときにはその旨をCPU50に通知す
る。
【0047】これによりCPU50は、開始時刻で予め
設定された所定のアプリケーションソフトウェアを立ち
上げ、当該アプリケーションソフトウェアに従って所定
の処理を実行する。
【0048】またキー入力監視レジスタは、操作キー
4、スティック5、左クリックボタン5A、右クリック
ボタン5B及びセンタボタン5C等の入力操作に応じた
操作キーフラグを格納するようになされている。
【0049】従ってI/Oコントローラ73は、キー入
力監視プログラムに基づいて例えばスティック5による
ポインティング操作や、左クリックボタン5A、右クリ
ックボタン5B及びセンタボタン5Cのクリック操作が
行われたか否かを操作キーフラグの状態に基づいて判別
し、ポインティング操作やクリック操作が行われたとき
にはその旨をCPU50に通知する。
【0050】ここでポインティング操作とは、スティッ
ク5を指で上下左右に押圧操作することによりマウスカ
ーソルを画面上の所望位置に移動する操作のことであ
り、クリック操作とは左クリックボタン5A又は右クリ
ックボタン5Bを指で素早く押して離す操作のことであ
る。
【0051】これによりCPU50は、ポインティング
操作によるマウスカーソルの移動やクリック操作に応じ
た所定の処理を実行する。
【0052】またLED制御レジスタは、電源ランプP
L、電池ランプBL、メッセージランプML等の各種ラ
ンプの点灯状態を示す点灯フラグを格納するようになさ
れている。
【0053】従ってI/Oコントローラ73は、例えば
ジョグダイヤル24の押圧操作によりCPU50がHD
D67のハードディスクから電子メールプログラムを立
ち上げ、当該電子メールプログラムに従って電子メール
を受け取ったときに点灯フラグを格納すると共に、当該
点灯フラグに基づいてLED81を制御することにより
メッセージランプMLを点灯させる。
【0054】またジョグダイヤル状態監視プログラム用
のI/Oレジスタは、ジョグダイヤル24に対する回転
操作及び押圧操作に応じた回転操作フラグ及び押圧操作
フラグを格納するようになされている。
【0055】従ってI/Oコントローラ73は、回転検
出部88を介して接続されたジョグダイヤル24の回転
操作及び押圧操作により複数のメニュー項目の中からユ
ーザ所望のメニュー項目が選択されたとき、I/Oレジ
スタに格納されている回転操作フラグ及び押圧操作フラ
グを立てると共に、その旨をCPU50に通知する。
【0056】これによりCPU50は、HDD67から
読み出してRAM53上に立ち上げたジョグダイヤルサ
ーバプログラムに従って、ジョグダイヤル24の回転操
作及び押圧操作によって決定されたメニュー項目に該当
するアプリケーションソフトウェアを立ち上げて所定の
処理を実行する。
【0057】ここでI/Oコントローラ73は、電源ス
イッチ7がオフでOSが起動していない状態であって
も、電源供給充電制御回路85の制御によって常時動作
しており、専用キーを設けることなく省電力状態又は電
源オフ時のジョグダイヤル24の押圧操作によってユー
ザ所望のアプリケーションソフトウェアやスクリプトフ
ァイルを起動し得るようになされている。
【0058】なおI/Oコントローラ73は、I2 Cバ
ス82とも接続されており、操作キー4やジョグダイヤ
ル24によって設定されたCCDカメラ8に対する各種
設定パラメータをI2 Cバス82を介して供給すること
により、CCDカメラ8における明るさやコントラスト
を調整するようになされている。
【0059】(1−3)ジェスチャー認識処理 かかる構成に加えてノートパソコン1は、CCDカメラ
8で撮像されたユーザの手の動き(ジェスチャー)を認
識するためのサイバージェスチャープログラムと呼ばれ
るアプリケーションソフトウェアをHDD67のハード
ディスクから立ち上げ、当該サイバージェスチャープロ
グラムに基づいてCCDカメラ8で撮像したユーザの手
の動きを認識し、その認識結果に応じた所定の処理をア
プリケーションソフトウェアに基づくアクティブウィン
ドウ画面上で実行するようになされている。
【0060】すなわちノートパソコン1は、例えば撮像
された静止画を加工することが可能な画像編集プログラ
ムを立ち上げ、加工対象となる静止画を選択するために
HDD67のハードディスクに格納されている複数枚の
静止画を液晶ディスプレイ10に順次表示する場合、ユ
ーザによるジョグダイヤル24の回動操作に応じて液晶
ディスプレイ10に表示した静止画を1枚づつ送り進め
たり送り戻すような画像送り動作を行うが、本発明にお
いてはCCDカメラ8で撮像されたユーザの手の動きを
CPU50に認識させることにより、当該CPU50の
制御により上述の画像送り動作をジョグダイヤル24に
触れることなく非接触で実行し得るようになされてい
る。
【0061】因みにノートパソコン1では、ジョグダイ
ヤル24がユーザから見て奥行側に所定角度以上回転さ
れたときに液晶ディスプレイ10に表示した静止画を1
枚だけ送り進め、ジョグダイヤル24がユーザから見て
手前側に所定角度以上回転されたときに液晶ディスプレ
イ10に表示した静止画を1枚だけ送り戻すようになさ
れている。
【0062】実際上ノートパソコン1のCPU50は、
図5のルーチンRT1の開始ステップから入って次のス
テップSP1に移り、ユーザの操作に応じてHDD67
のハードディスクからサイバージェスチャープログラム
を立ち上げ、当該サイバージェスチャープログラムに従
って図6に示すようなジェスチャー認識画面100を生
成し、これを画像編集プログラムに応じたアクティブウ
ィンドウ画面の静止画に重ねて表示した後、次のステッ
プSP2に移る。
【0063】ここで、図7に示すようにジェスチャー認
識画面100は、164×136ピクセルの画面サイズ
で構成され、当該ジェスチャー認識画面100の上端部
にサイバージェスチャープログラムであることを示す
「CYBERGESTURE」(ソニー(株)商標)のタイトル文字
部101、機能のオプション選択を行うためのオプショ
ンボタン102、ヘルプボタン103、最小化ボタン1
04及び閉じるボタン105が設けられている。
【0064】このジェスチャー認識画面100は、液晶
ディスプレイ10の画面サイズ(1024×480ピク
セル)に比べて極めて小さな画面サイズで形成されてお
り、これにより当該ジェスチャー認識画面100の背景
に表示されているアクティブウィンドウ画面の静止画に
対する隠蔽面積を極力小さくするようになされている。
【0065】なおノートパソコン1のCPU50は、ジ
ェスチャー認識画面100においてオプションボタン1
02、ヘルプボタン103、最小化ボタン104及び閉
じるボタン105のいずれかにマウスカーソルが合わせ
られたときには、そのボタン部分を盛り上がった状態に
表示し、クリックされた選択後にはそのボタン部分を凹
んだ状態に表示するようになされており、これによりボ
タン部分に対する選択及び決定操作を視覚的に容易に実
行し得るようになされている。
【0066】またノートパソコン1のCPU50は、ジ
ェスチャー認識画面100におけるジェスチャー認識表
示エリア106を256階調のグレースケールで表示す
ると共に、当該ジェスチャー認識表示エリア106のほ
ぼ中央部分に、5個の正方形状に形成されたターゲット
107A〜107Eからなるターゲット部107を横一
列に配列して表示するようになされている。
【0067】これによりCPU50は、ジェスチャー認
識画面100のジェスチャー認識表示エリア106に表
示したターゲット部107によって、ユーザの手が動か
されたときの左右方向の動作をノートパソコン1が認識
するようになされていることを当該ユーザに対して容易
に想像させて通知し得るようになされている。
【0068】また各ターゲット107A〜107Eは、
図8に示すように全体が8ピクセル×8ピクセルのサイ
ズで、それぞれ1ピクセル幅の枠部分107AF〜10
7EFによって形成されると共に、枠部分107AF〜
107EFが赤色で表示されるようになされていおり、
これにより背景のグレースケール表示に対してターゲッ
ト107A〜107Eを視認し易くしている。
【0069】なおジェスチャー認識画面100のジェス
チャー認識表示エリア106は、走査線の2水平ライン
毎に黒色のライン表示(図示せず)がなれており、これ
により通常の画像を表示するような画面とは異なり、ジ
ェスチャー認識画面100であることをユーザに対して
容易に認識させるようになされている。
【0070】ステップSP2においてCPU50は、表
示部3の正面に存在するユーザを撮像部11のCCDカ
メラ8で撮像し、その結果得られる入力画像をジェスチ
ャー認識画面100のジェスチャー認識表示エリア10
6に表示し、次のサブルーチンSRT2に移る。
【0071】図9に示すように、サブルーチンSRT2
のステップSP21においてCPU50は、ジェスチャ
ー認識画面100のジェスチャー認識表示エリア106
に表示した入力画像を色成分に基づいて複数種類の色領
域に分割し、次のステップSP22に移る。
【0072】因みに色領域とは、図10に示すように所
定のYUV色度空間上に表され、当該YUV色度空間上
の例えば斜線で示された+Y、−U、−V象限の所定領
域をユーザの手の平の色と等価な色領域R(以下、これ
を肌色領域Rと呼ぶ)であると見なしている。
【0073】ステップSP22においてCPU50は、
YUV(輝度・色差)色度空間上の肌色領域Rに対応す
る所定の肌色テーブルと入力画像の各色領域とをそれぞ
れ比較し、次のステップSP23に移る。
【0074】この場合、入力画像の各色領域は例えばユ
ーザの顔領域や手の平領域等の肌色領域Rと、服装部分
の非肌色領域とに大きく分けられる。
【0075】ステップSP23においてCPU50は、
肌色テーブルと入力画像の各色領域とをそれぞれ比較し
た結果、入力画像の中に肌色であると認められる肌色領
域Rが存在するか否かを判定する。
【0076】ここで否定結果が得られると、このことは
肌色テーブルに対応する肌色領域Rが入力画像の中には
存在していないことを表しており、このときCPU50
は次のステップSP29に移る。
【0077】ステップSP29においてCPU50は、
肌色領域Rが入力画像の中に存在しておらず、ユーザの
手の動きを認識することはできないので次のフレームの
入力画像へ進み、上述のステップSP21に戻る。
【0078】これに対してステップSP23で肯定結果
が得られると、このことは肌色テーブルに対応する肌色
領域Rが入力画像の中に存在していることを表してお
り、このときCPU50は次のステップSP24に移
る。
【0079】ステップSP24においてCPU50は、
現フレームの入力画像における肌色領域Rの動きを当該
現フレームと前フレームとの座標値の変化に基づいて検
出し、次のステップSP25に移る。
【0080】ステップSP25においてCPU50は、
動きのある肌色領域Rが入力画像の中に存在しているか
否かを判定する。ここで否定結果が得られると、このこ
とは動きのある肌色領域Rが入力画像の中に存在してい
ないことを表しており、このときCPU50は次のステ
ップSP29に移り、次のフレームの入力画像へ進んで
上述のステップSP21に戻る。
【0081】これに対してステップSP25で肯定結果
が得られると、このことは動きのある肌色領域Rが入力
画像の中に存在していることを表しており、このときC
PU50は次のステップSP26に移る。
【0082】ステップSP26においてCPU50は、
動きのある肌色領域Rのうち最大面積の肌色領域Rを検
出し、これを仮に手の平領域として判断した後、次のス
テップSP27に移る。
【0083】ステップSP27においてCPU50は、
ステップSP26で判断した手の平領域全体の座標値を
取得し、次のステップSP28に移る。
【0084】ステップSP28においてCPU50は、
ステップSP27で取得した手の平領域全体の座標値に
基づいて当該手の平領域の重心を算出した後、当該重心
に対する垂直方向上方に相当する手の平領域の上端位置
の座標を検出し、これを手の指先に該当する重心上部デ
ータとして取得することにより、サブルーチンSRT2
における手の位置情報に関する取得処理手順を終了し、
ルーチンRT1(図5)のステップSP3に移る。
【0085】ステップSP3においてCPU50は、サ
ブルーチンSRT2で取得した重心上部データに基づい
てユーザの手がジェスチャー認識画面100のジェスチ
ャー認識表示エリア106に存在するか否かを判定す
る。
【0086】ここで否定結果が得られると、このことは
サブルーチンSRT2で重心上部データが取得されてお
らず、すなわちユーザの手がジェスチャー認識画面10
0のジェスチャー認識表示エリア106に存在していな
いことを表しており、このときCPU50は、次のステ
ップSP4に移る。
【0087】ステップSP4においてCPU50は、ユ
ーザの手がジェスチャー認識画面100のジェスチャー
認識表示エリア106に表示されていないので、現在ユ
ーザの手を認識するためのサーチ状態であることを示す
アニメーション表示を行い、上述のステップSP2に戻
る。
【0088】この場合、図11に示すようにCPU50
は、ジェスチャー認識画面100のジェスチャー認識表
示エリア106にユーザの肌色部分が殆ど表示されてお
らず、現時点ではユーザの手を認識し得ていないので、
肌色領域Rのサーチ状態であることをターゲット部10
7を用いたアニメーション表示によってユーザに容易に
認識させ得るようになされている。
【0089】すなわちCPU50は、各ターゲット10
7A〜107Eにおける枠部分107AF〜107EF
の内部領域(破線で示す)を矢印A及びBで示す左右方
向に沿って赤色で順番に交互表示することによりグラデ
ュエーション効果をもたらし、サイバージェスチャープ
ログラムが起動中でユーザの手をサーチ中であることを
ユーザに対して容易に想像させ得るようになされてい
る。
【0090】これに対してステップSP3で肯定結果が
得られると、このことはサブルーチンSRT2で重心上
部データが取得された、すなわちユーザの手がジェスチ
ャー認識画面100のジェスチャー認識表示エリア10
6に存在していることを表しており、このときCPU5
0は、次のステップSP5に移る。
【0091】ステップSP5においてCPU50は、図
12に示すように取得した重心上部データに対応する位
置に所定形状のポインタ108を表示すると共に、当該
ポインタ108を含みユーザの手の平領域全体に渡って
囲われた手の平領域認識枠109をジェスチャー認識表
示エリア106の入力画像上にオーバーラップ表示し、
次のサブルーチンSRT3に移る。
【0092】ここでCPU50は、手の平領域認識枠1
09を1ピクセル幅で白色表示し、ターゲット部107
の各107A〜107Eと同様の形状及びサイズで形成
されたポインタ108における1ピクセル幅のポインタ
枠108Fを白色表示すると共に、その内部を赤色表示
するようになされている。
【0093】これによりCPU50は、各ターゲット1
07A〜107Eにおける枠部分107AF〜107E
Fの赤色表示と、ポインタ108におけるポインタ枠1
08Fの白色表示とによって、各ターゲット107A〜
107Eとポインタ108とをユーザに対して明確に区
別させるようになされている。
【0094】なおCPU50は、ユーザの手の動きに応
じて手の平領域認識枠109及びポインタ108を連動
して動かせながら表示するようになされている。
【0095】続いて図13に示すように、サブルーチン
SRT3のステップSP31においてCPU50は、R
AM53を用いてリングバッファ状に格納された現フレ
ームと、当該現フレームに隣合う前フレームとの隣接フ
レーム間における重心上部データの座標値の差分に基づ
いて指先移動距離を求め、次のステップSP32に移
る。
【0096】ステップSP32においてCPU50は、
ステップSP31で算出した隣接フレーム間の指先移動
距離が所定の上限閾値以下であるか否かを判定する。こ
こで否定結果が得られると、このことは前フレームの指
先を示す位置から現フレームの指先を示す位置までの距
離が極端に離れ過ぎていることにより、手の動きを認識
するためのデータとして指先移動距離が不適切であるこ
とを表しており、このときCPU50は次のステップS
P33に移る。
【0097】ステップSP33においてCPU50は、
隣接フレーム間の指先移動距離をデータとして使用する
ことが不適切であるので、ステップSP34以降で行う
指先移動距離の算出を停止し、ルーチンRT1(図5)
のステップSP2に戻って上述の処理を繰り返す。
【0098】これに対してステップSP32で肯定結果
が得られると、このことは前フレームの指先を示す位置
から現フレームの指先を示す位置までの距離が極端に離
れ過ぎてはおらず、手の動きを認識するためのデータと
して指先移動距離が適切であることを表しており、この
ときCPU50は次のステップSP34に移る。
【0099】ステップSP34においてCPU50は、
図14に示すようにリングバッファ状に順次格納された
現フレームの指先を示す重心上部データと、所定範囲の
過去数フレームの中から選ばれた任意の過去フレームの
指先を示す重心上部データとの座標値の差分が最大長さ
となるものを最大指先移動距離として算出し、当該最大
指先移動距離が所定の下限閾値よりも大きいか否かを判
定する。
【0100】ここで否定結果が得られると、このことは
複数フレームに渡る入力画像の状態遷移に基づく最大指
先移動距離が所定の下限閾値よりも小さいこと、すなわ
ち手の動きとして認識するに値しない程度でしか動いて
いないことを表しており、このときCPU50は最大指
先移動距離を認識処理から除外し、ステップSP31に
戻って上述の処理を繰り返す。
【0101】これに対してステップSP34で肯定結果
が得られると、このことは最大指先移動距離が所定の下
限閾値よりも大きく、確実に手の指先が左右に移動した
と認められることを表しており、このときCPU50は
次のステップSP35に移る。
【0102】ステップSP35においてCPU50は、
現フレームの指先を示す重心上部データと最大指先移動
距離を算出したときに用いられた過去フレームの指先を
示す重心上部データとの移動ベクトルに基づいて指先移
動距離の移動方向(右方向又は左方向)を検出し、ルー
チンRT1(図5)のステップSP6に戻る。
【0103】ステップSP6においてCPU50は、最
大指先移動距離及び当該最大指先移動距離の移動方向を
検出したので、当該検出した手の平領域全体の現フレー
ムの画素データと前フレームの画素データとの座標値の
単位時間当たりの変化に基づいて当該検出した手の平領
域全体の動き速度が所定の速度を超えているか否かを判
定する。
【0104】ここで否定結果が得られると、このことは
検出した手の平領域全体の動き速度が所定の速度を超え
ていない、すなわち比較的遅く動いているので実際には
手の平領域ではなく顔領域である可能性があると判断
し、再度ステップSP2に戻って上述の処理を繰り返
す。
【0105】これに対してステップSP6で肯定結果が
得られると、このことは検出した手の平領域全体の動き
速度が所定の速度を超えている、すなわち比較的速く動
いているので手の平領域である可能性が一段と高いと判
断し、次のステップSP7に移る。
【0106】この場合CPU50は、単一フレームの入
力画像に手の平領域と思われる候補が2つ以上存在した
ときに、手の平領域と顔領域とを一段と正確に判別し得
るようになされている。
【0107】ステップSP7においてCPU50は、図
15に示すようにサイバージェスチャープログラム18
0に基づいて認識した手の平領域のジェスチャー動作の
認識結果をジョグダイヤル用のAPI(Application Pr
ogramming Interface )181を介してジョグダイヤル
サーバープログラム182に供給すると共に、ユーザが
動かした手の動き(ジェスチャー)を表す軌跡と、当該
ジェスチャーをノートパソコン1がどのように認識した
のかを示す認識過程を、ジェスチャー認識画面100に
ビジュアルフィードバック表示し、次のステップSP8
に移る。
【0108】ここでAPIとは、OSがアプリケーショ
ンソフトウェアに対して公開しているプログラムインタ
ーフェースであり、アプリケーションソフトウェアは基
本的に全ての処理を当該APIを経由して行うようにな
されている。因みに、現在一般的なOSのAPIは、関
数の形式をとっており、アプリケーションソフトウェア
からは適当な引数(パラメータ)を指定してAPIの関
数を呼び出すようになされている。
【0109】因みにCPU50は、ジョグダイヤル24
の動作結果とサイバージェスチャープログラム180に
基づく認識結果を同一の入力形式で取り込み、兼用のジ
ョグダイヤル用のAPI181を介してジョグダイヤル
サーバープログラム182に供給するようになされてお
り、これによりソフトウェア的な処理を簡素化し得るよ
うになされている。
【0110】実際上CPU50は、図16(A)に示す
ようなビジュアルフィードバック画面191を生成し、
当該ビジュアルフィードバック画面191を介して、ユ
ーザが実際に動かした手の動き(ジェスチャー)を示す
軌跡に対応して、軌跡表示枠120内に予め斜めに配置
されたターゲット107A〜107E上にポインタ10
8を重ねて矢印C方向に移動させながら表示することに
より、実際の手の動きの認識過程をユーザに対して視覚
的に確認させ得るようになされている。
【0111】続いてCPU50は、図16(B)に示す
ようなビジュアルフィードバック画面192を生成し、
これをビジュアルフィードバック画面191に置き換え
て表示する。
【0112】このビジュアルフィードバック画面192
は、ビジュアルフィードバック画面191における軌跡
表示枠120を変形することによりターゲット107A
〜107Eの高さを横一列に揃えた状態の方向表示枠1
21を形成して線素化すると共に、当該方向表示枠12
1内の右端にターゲット107Eを、左端にポインタ1
08を表示するようになされており、当該方向表示枠1
21を介してユーザの手が矢印D方向(右方向から左方
向へ)に動かされたことを簡略的に示すようになされて
いる。
【0113】最後にCPU50は、図16(C)に示す
ようなビジュアルフィードバック画面193を生成し、
これをビジュアルフィードバック画面192に置き換え
て表示する。
【0114】このビジュアルフィードバック画面193
は、ビジュアルフィードバック画面192の方向表示枠
121を消去すると共に、横一列に配列した各ターゲッ
ト107A〜107E上にポインタ108を重ねて矢印
D方向に向かって移動させながら繰り返し表示するよう
になされており、ユーザの手が右側から左側(矢印D方
向)へ動かされたとノートパソコン1が認識したことを
ユーザに対して容易に認識させ得るようになされてい
る。
【0115】なおCPU50は、各ターゲット107A
〜107E上にポインタ108を重ねて矢印D方向に向
かって移動させながら表示する際、ユーザの手の動きを
認識したときと同じ手の移動速度でポインタ108を移
動させるようになされており、これによりノートパソコ
ン1が認識可能な手の移動速度をユーザに対して知らし
めるようになされている。
【0116】ステップSP8においてCPU50は、ユ
ーザの手を動きを認識した後、当該手の動きに応じた所
定のコマンドをジョグダイヤルサーバープログラム18
2(図15)からアプリケーションソフトウェア183
に供給して所定の処理を実行するが、このとき認識結果
に応じた所定の処理を実行中であるので、手の動きの認
識直後については数フレーム分の入力画像に対してジェ
スチャー認識処理を実行せず、再度ステップSP2に戻
って上述の処理を繰り返す。
【0117】これによりCPU50は、誤動作を起こす
ことがなく確実にユーザの手の動きに応じた処理をアク
ティブウィンドウ画面上で実行した後に、次のユーザの
手の動きの応じた処理を実行することができる。
【0118】このようにノートパソコン1のCPU50
は、サイバージェスチャープログラム180に従ってユ
ーザの手の動きを認識した後、当該認識結果に応じた所
定のコマンドをジョグダイヤルサーバープログラム18
2を介してアプリケーションソフトウェア183に供給
し、当該アプリケーションソフトウェア183に基づく
アクティブウィンドウ画面上でコマンドに応じた所定の
画像送り動作を実行し得るようになされている。
【0119】実際上ノートパソコン1のCPU50は、
手のジェスチャーが左側から右側への動き(矢印D方向
とは逆方向)であると認識した場合、ジェスチャー認識
画面100の背景に表示されているアクティブウィンド
ウ画面の静止画を1枚分だけ送り進め、手のジェスチャ
ーが右側から左側への動き(矢印D方向)であると認識
した場合、ジェスチャー認識画面100の背景に表示さ
れているアクティブウィンドウ画面の静止画を1枚分だ
け送り戻すようになされている。
【0120】これによりユーザは、ジョグダイヤル24
を直接操作することなく、撮像部11のCCDカメラ8
に手をかざして左右いずれかに動かすだけで、ジェスチ
ャー認識画面100の背景に表示されているアクティブ
ウィンドウ画面の静止画を所望方向に画像送りすること
ができる。
【0121】(1−4)第1の実施の形態における動作
及び効果 以上の構成において、ノートパソコン1のCPU50
は、画像編集プログラムを立ち上げて液晶ディスプレイ
10にアクティブウィンドウ画面を表示した状態でサイ
バージェスチャープログラム180を起動することによ
り、アクティブウィンドウ画面の静止画にジェスチャー
認識画面100を重ねて表示する。
【0122】そしてノートパソコン1のCPU50は、
表示部3の正面に位置するユーザを撮像部11のCCD
カメラ8で撮像し、その結果得られる入力画像をジェス
チャー認識画面100のジェスチャー認識表示エリア1
06に表示すると共に、ユーザの手の動きを認識し、当
該認識した手の動きに応じてコマンドを生成する。
【0123】このときノートパソコン1のCPU50
は、ユーザが実際に動かした手の動き(ジェスチャー)
を示す軌跡に対応して、図16(A)に示したように軌
跡表示枠120内に予め斜めにターゲット107A〜1
07Eを配置し、当該ターゲット107A〜107E上
にポインタ108を重ねて矢印C方向に移動させながら
順番に交互表示することにより、ユーザの手の動きに対
する認識過程の軌跡を当該ユーザに対して視覚的に確認
させることができる。
【0124】その後CPU50は、図16(B)に示し
たように軌跡表示枠120を変形することによりターゲ
ット107A〜107Eの高さを横一列に揃えた状態の
方向表示枠121を形成して線素化すると共に、当該方
向表示枠121内の右端にターゲット107Eを左端に
ポインタ108を表示することにより、ユーザの手が矢
印D方向(左方向)に動かされたことを簡略的に示す。
【0125】最後にCPU50は、図16(C)に示し
たように方向表示枠121を消去すると共に、各ターゲ
ット107A〜107E上にポインタ108を重ね、認
識したときのユーザの手の移動速度で矢印D方向に向か
って当該ポインタ108を移動させながら表示すること
により、ユーザの手が右側から左側(矢印D方向)へ動
かされたと認識したことをユーザに対して確実に通知す
ることができる。
【0126】以上の構成によれば、ノートパソコン1は
CCDカメラ8で撮像したユーザの手の動きに対する認
識過程の軌跡や認識結果を各ターゲット107A〜10
7E及びポインタ108を用いて分かり易くアニメーシ
ョン表示することにより、ユーザの手の動きがどのよう
な認識過程でどのように認識されたのかを当該ユーザに
対してフィードバックして学習させることができる。
【0127】これによりユーザは、手を動かす方向や移
動速度を考慮してノートパソコン1に手の動きを認識さ
せるようになるので、例えば画像送り動作を行うための
コマンドの入力操作を短時間で実行することができる。
【0128】(2)第2の実施の形態 (2−1)ネットワークシステムの全体構成 図17において、200は全体として本発明を適用した
携帯電話機MS3が接続されているネットワークシステ
ムを示し、通信サービスの提供エリアを所望の大きさに
分割したセル内にそれぞれ固定無線局である基地局CS
1〜CS4が設置されている。
【0129】これらの基地局CS1〜CS4には、移動
無線局である携帯情報端末MS1及びMS2やカメラ付
ディジタル携帯電話機MS3及びMS4が例えばW−C
DMA(Wideband-Code Division Multiple Access)と
呼ばれる符号分割多元接続方式によって無線接続される
ようになされており、2[GHz] の周波数帯域を使用して
最大2[Mbps]のデータ転送速度で大容量データを高速に
データ通信し得るようになされている。
【0130】このように携帯情報端末MS1及びMS2
やカメラ付ディジタル携帯電話機MS3及びMS4は、
W−CDMA方式によって大容量データを高速にデータ
通信し得るようになされていることにより、音声通話だ
けでなく電子メールの送受信、簡易ホームページの閲
覧、画像の送受信等の多種に及ぶデータ通信を実行し得
るようになされている。
【0131】また基地局CS1〜CS4は、有線回線を
介して公衆回線網INWに接続されており、当該公衆回
線網INWにはインターネットITNや、図示しない多
くの加入者有線端末、コンピュータネットワーク及び企
業内ネットワーク等が接続されている。
【0132】公衆回線網INWには、インターネットサ
ービスプロバイダのアクセスサーバASも接続されてお
り、当該アクセスサーバASには当該インターネットサ
ービスプロバイダが保有するコンテンツサーバTSが接
続されている。
【0133】このコンテンツサーバTSは、加入者有線
端末や携帯情報端末MS1、MS2及びカメラ付ディジ
タル携帯電話機MS3、MS4からの要求に応じて例え
ば簡易ホームページ等のコンテンツを例えばコンパクト
HTML(Hyper Text Markup Language)形式のファイ
ルとして提供するようになされている。
【0134】ところでインターネットITNには、多数
のWWWサーバWS1〜WSnが接続され、TCP/I
Pプロトコルに従って加入者有線端末や携帯情報端末M
S1、MS2及びカメラ付ディジタル携帯電話機MS
3、MS4からWWWサーバWS1〜WSnに対してア
クセスし得るようになされている。
【0135】因みに携帯情報端末MS1、MS2及びカ
メラ付ディジタル携帯電話機MS3、MS4は、図示し
ない基地局CS1〜CS4までを2 [Mbps] の簡易トラ
ンスポートプロトコルで通信し、当該基地局CS1〜C
S4からインターネットITNを介してWWWサーバW
S1〜WSnまでをTCP/IPプロトコルで通信する
ようになされている。
【0136】なお管理制御装置MCUは、公衆回線網I
NWを介して加入者有線端末や携帯情報端末MS1、M
S2及びカメラ付ディジタル携帯電話機MS3、MS4
に接続されており、当該加入者有線端末や携帯情報端末
MS1、MS2及びカメラ付ディジタル携帯電話機MS
3、MS4に対する認証処理や課金処理等を行うように
なされている。
【0137】(2−2)カメラ付ディジタル携帯電話機
の外観構成 次に本発明を適用したカメラ付ディジタル携帯電話機M
S3の外観構成について説明する。図18に示すように
カメラ付ディジタル携帯電話機MS3は、中央のヒンジ
部211を境に表示部212と本体213とに分けられ
ており、当該ヒンジ部211を介して折り畳み可能に形
成されている。
【0138】表示部212には、上端左部に送受信用の
アンテナ214が引出し及び収納可能な状態に取り付け
られており、当該アンテナ214を介して基地局CS3
との間で電波を送受信するようになされている。
【0139】また表示部212には、上端中央部にほぼ
180度の角度範囲で回動自在なカメラ部215が設け
られており、当該カメラ部215のCCDカメラ216
によって所望の撮像対象を撮像し得るようになされてい
る。
【0140】ここで表示部212は、カメラ部215が
ユーザによってほぼ180度回動されて位置決めされた
場合、図19に示すように当該カメラ部215の背面側
中央に設けられたスピーカ217が正面側に位置するこ
とになり、これにより通常の音声通話状態に切り換わる
ようになされている。
【0141】さらに表示部212には、その正面に液晶
ディスプレイ218が設けられており、電波の受信状
態、電池残量、電話帳として登録されている相手先名や
電話番号及び発信履歴等の他、電子メールの内容、簡易
ホームページ、カメラ部215のCCDカメラ216で
撮像した画像を表示し得るようになされている。
【0142】一方、本体213には、その表面に「0」
〜「9」の数字キー、発呼キー、リダイヤルキー、終話
及び電源キー、クリアキー及び電子メールキー等の操作
キー219が設けられており、当該操作キー219を用
いて各種指示を入力し得るようになされている。
【0143】また本体213には、操作キー219の下
部にメモボタン220やマイクロフォン221が設けら
れており、当該メモボタン220によって通話中の相手
の音声を録音し得ると共に、マイクロフォン221によ
って通話時のユーザの音声を集音するようになされてい
る。
【0144】さらに本体213には、操作キー219の
上部に回動自在なジョグダイヤル222が当該本体21
3の表面から僅かに突出した状態で設け等られており、
当該ジョグダイヤル222に対する回動操作に応じて液
晶ディスプレイ218に表示されている電話帳リストや
電子メールのスクロール動作、簡易ホームページのペー
ジ捲り動作及び画像の送り動作等の種々の動作を実行す
るようになされている。
【0145】例えば本体213は、ユーザによるジョグ
ダイヤル222の回動操作に応じて液晶ディスプレイ2
18に表示された電話帳リストの複数の電話番号の中か
ら所望の電話番号が選択され、当該ジョグダイヤル22
2が本体213の内部方向に押圧されると、選択された
電話番号を確定して当該電話番号に対して自動的に発呼
処理を行うようになされている。
【0146】なお本体213は、背面側に図示しないバ
ッテリパックが挿着されており、終話及び電源キーがオ
ン状態になると、当該バッテリパックから各回路部に対
して電力が供給されて動作可能な状態に起動する。
【0147】ところで本体213には、当該本体213
の左側面上部に抜差自在なメモリスティック(ソニー
(株)商標)223を挿着するためのメモリスティック
スロット224が設けられており、メモボタン220が
押下されるとメモリスティック223に通話中の相手の
音声を記録したり、ユーザの操作に応じて電子メール、
簡易ホームページ、CCDカメラ216で撮像した画像
を記録し得るようになされている。
【0148】ここでメモリスティック223は、本願出
願人であるソニー株式会社によって開発されたフラッシ
ュメモリカードの一種である。このメモリスティック2
23は、縦21.5×横50×厚さ2.8[mm] の小型薄型形状の
プラスチックケース内に電気的に書換えや消去が可能な
不揮発性メモリであるEEPROM(Electrically Era
sable and Programmable Read Only Memory )の一種で
あるフラッシュメモリ素子を格納したものであり、10
ピン端子を介して画像や音声、音楽等の各種データの書
き込み及び読み出しが可能となっている。
【0149】またメモリスティック223は、大容量化
等による内蔵フラッシュメモリの仕様変更に対しても、
使用する機器で互換性を確保することができる独自のシ
リアルプロトコルを採用し、最大書込速度1.5[MB/S] 、
最大読出速度2.45[MB/S]の高速性能を実現していると共
に、誤消去防止スイッチを設けて高い信頼性を確保して
いる。
【0150】従ってカメラ付ディジタル携帯電話機MS
3は、このようなメモリスティック223を挿着可能に
構成されているために、当該メモリスティック223を
介して他の電子機器との間でデータの共有化を図ること
ができるようになされている。
【0151】(2−3)カメラ付ディジタル携帯電話機
の回路構成 図20に示すように、カメラ付ディジタル携帯電話機M
S3は、表示部212及び本体213の各部を統括的に
制御するようになされた主制御部250に対して、電源
回路部251、操作入力制御部252、画像エンコーダ
253、カメラインターフェース部254、LCD(Li
quid Crystal Display)制御部255、画像デコーダ2
56、多重分離部257、記録再生部262、変復調回
路部258及び音声コーデック259がメインバス26
0を介して互いに接続されると共に、画像エンコーダ2
53、画像デコーダ256、多重分離部257、変復調
回路部258及び音声コーデック259が同期バス26
1を介して互いに接続されて構成されている。
【0152】電源回路部251は、ユーザの操作により
終話及び電源キーがオン状態にされると、バッテリパッ
クから各部に対して電力を供給することによりカメラ付
ディジタル携帯電話機MS3を動作可能な状態に起動す
る。
【0153】カメラ付ディジタル携帯電話機MS3は、
CPU、ROM及びRAM等でなる主制御部250の制
御に基づいて、音声通話モード時にマイクロフォン22
1で集音した音声信号を音声コーデック259によって
ディジタル音声データに変換し、これを変復調回路部2
58でスペクトラム拡散処理し、送受信回路部262で
ディジタルアナログ変換処理及び周波数変換処理を施し
た後にアンテナ214を介して送信する。
【0154】またカメラ付ディジタル携帯電話機MS3
は、音声通話モード時にアンテナ214で受信した受信
信号を増幅して周波数変換処理及びアナログディジタル
変換処理を施し、変復調回路部258でスペクトラム逆
拡散処理し、音声コーデック259によってアナログ音
声信号に変換した後、これをスピーカ217を介して出
力する。
【0155】さらにカメラ付ディジタル携帯電話機MS
3は、データ通信モード時に電子メールを送信する場
合、操作キー219及びジョグダイヤル222の操作に
よって入力された電子メールのテキストデータを操作入
力制御部252を介して主制御部250に送出する。
【0156】主制御部250は、テキストデータを変復
調回路部258でスペクトラム拡散処理し、送受信回路
部262でディジタルアナログ変換処理及び周波数変換
処理を施した後にアンテナ214を介して基地局CS3
(図17)へ送信する。
【0157】これに対してカメラ付ディジタル携帯電話
機MS3は、データ通信モード時に電子メールを受信す
る場合、アンテナ214を介して基地局CS3から受信
した受信信号を変復調回路部258でスペクトラム逆拡
散処理して元のテキストデータを復元した後、LCD制
御部255を介して液晶ディスプレイ218に電子メー
ルとして表示する。
【0158】この後カメラ付ディジタル携帯電話機MS
3は、ユーザの操作に応じて受信した電子メールを記録
再生部262を介してメモリスティック223に記録す
ることも可能である。
【0159】一方カメラ付ディジタル携帯電話機MS3
は、データ通信モード時に画像データを送信する場合、
CCDカメラ216で撮像された画像データをカメライ
ンターフェース部254を介して画像エンコーダ253
に供給する。
【0160】因みにカメラ付ディジタル携帯電話機MS
3は、画像データを送信しない場合には、CCDカメラ
216で撮像した画像データをカメラインターフェース
部254及びLCD制御部255を介して液晶ディスプ
レイ218に直接表示することも可能である。
【0161】画像エンコーダ253は、CCDカメラ2
16から供給された画像データを例えばMPEG(Movi
g Picture Experts Group )2やMPEG4等の所定の
符号化方式によって圧縮符号化することにより符号化画
像データに変換し、これを多重分離部257に送出す
る。
【0162】このとき同時にカメラ付ディジタル携帯電
話機MS3は、CCDカメラ216で撮像中にマイクロ
フォン221で集音した音声を音声コーデック259を
介してディジタルの音声データとして多重分離部257
に送出する。
【0163】多重分離部257は、画像エンコーダ25
3から供給された符号化画像データと音声コーデック2
59から供給された音声データとを所定の方式で多重化
し、その結果得られる多重化データを変復調回路部25
8でスペクトラム拡散処理し、送受信回路部262でデ
ィジタルアナログ変換処理及び周波数変換処理を施した
後にアンテナ214を介して送信する。
【0164】これに対してカメラ付ディジタル携帯電話
機MS3は、データ通信モード時に例えば簡易ホームペ
ージ等の画像データを受信する場合、アンテナ214を
介して基地局CS3から受信した受信信号を変復調回路
部258でスペクトラム逆拡散処理し、その結果得られ
る多重化データを多重分離部257に送出する。
【0165】多重分離部257は、多重化データを分離
することにより符号化画像データと音声データとに分
け、同期バス261を介して当該符号化画像データを画
像デコーダ256に供給すると共に当該音声データを音
声コーデック259に供給する。
【0166】画像デコーダ256は、符号化画像データ
をMPEG2やMPEG4等の所定の符号化方式に対応
した復号化方式でデコードすることにより再生画像デー
タを生成し、これをLCD制御部255を介して液晶デ
ィスプレイ218に、例えば簡易ホームページにリンク
された画像として表示する。
【0167】このとき同時に音声コーデック259は、
音声データをアナログ音声信号に変換した後、これをス
ピーカ217を介して、例えば簡易ホームページにリン
クされた音声として出力する。
【0168】この場合も電子メールの場合と同様にカメ
ラ付ディジタル携帯電話機MS3は、受信した簡易ホー
ムページの画像データをユーザの操作により記録再生部
262を介してメモリスティック223に記録すること
が可能である。
【0169】かかる構成に加えてカメラ付ディジタル携
帯電話機MS3は、主制御部250のROMに第1の実
施の形態と同様のサイバージェスチャープログラム18
0(図15)及びジョグダイヤルサーバプログラム18
2が格納されており、所定のアプリケーションソフトウ
ェア183に基づくアクティブウィンドウ画面を液晶デ
ィスプレイ218に表示した状態で、サイバージェスチ
ャープログラム180に基づいてアクティブウィンドウ
画面にジェスチャー認識画面100(図6)を重ねて表
示し得ると共に、当該ジェスチャー認識画面100のジ
ェスチャー認識表示エリア106にCCDカメラ216
で撮像したユーザの画像を表示し得るようになされてい
る。
【0170】次にカメラ付ディジタル携帯電話機MS3
は、第1の実施の形態と同様に図5〜図16に示したよ
うに、主制御部250の制御によりジェスチャー認識画
面100のジェスチャー認識表示エリア106に表示し
たユーザの画像の中から肌色領域Rを検出し、そのうち
動きのある肌色領域Rを手の平領域として認識した後、
当該手の平領域のジェスチャー動作に応じた所定のコマ
ンドをジョグダイヤルサーバプログラム182を介して
アプリケーションソフトウェア183に供給する。
【0171】これによりカメラ付ディジタル携帯電話機
MS3は、第1の実施の形態におけるノートパソコン1
と同様に、主制御部250の制御によりアプリケーショ
ンソフトウェア183に従ってジェスチャー認識画面1
00の背景に表示されているアクティブウィンドウ画面
の静止画をコマンドに応じて所望方向に画像送りし得る
ようになされている。
【0172】(2−4)第2の実施の形態における動作
及び効果 以上の構成においてカメラ付ディジタル携帯電話機MS
3は、主制御部250がサイバージェスチャープログラ
ム180を起動することにより、ジェスチャー認識画面
100におけるジェスチャー認識表示エリア106のほ
ぼ中央部分に、5個の正方形状に形成されたターゲット
107A〜107Eからなるターゲット部107を横一
列に配列して表示する。
【0173】そしてカメラ付ディジタル携帯電話機MS
3は、第1の実施の形態と同様に、ユーザの手が動かさ
れたときの左右方向の動作を認識すると共に、各ターゲ
ット107A〜107E上にポインタ108を重ねてユ
ーザの手の動きに合わせて移動させながら順番に表示す
ることにより、手の動きの軌跡や認識結果をユーザに対
して確認させることができる。
【0174】このようにカメラ付ディジタル携帯電話機
MS3は、手の動きを認識し得るときの手の動きの軌跡
や認識結果をユーザに対してフィードバックして学習さ
せることにより、当該カメラ付ディジタル携帯電話機M
S3が認識し易い手の動きを当該ユーザに対して促すこ
とができるので、ユーザによってコマンドが入力される
までの時間を短縮することができる。
【0175】以上の構成によればカメラ付ディジタル携
帯電話機MS3は、CCDカメラ216で撮像したユー
ザの手の動きを認識した結果、手の動きの軌跡や認識結
果をターゲット107A〜107E及びポインタ108
を用いて分かり易くアニメーション表示することによ
り、手の動きの軌跡や認識結果をユーザに対してフィー
ドバックして学習させることができる。
【0176】(3)他の実施の形態 なお上述の第1及び第2の実施の形態においては、ノー
トパソコン1及びカメラ付ディジタル携帯電話機MS3
がユーザの手に関する左右方向の動きの軌跡や認識結果
を、認識過程画像としてのビジュアルフィードバック画
面191〜193を介して、各ターゲット107A〜1
07E上にポインタ108を重ねた状態でユーザの手の
動きに合わせて移動させながら表示するようにした場合
について述べたが、本発明はこれに限らず、各ターゲッ
ト107A〜107Eをユーザの手の動きに合わせて順
番に点滅させるようにしてもよい。
【0177】また上述の第1及び第2の実施の形態にお
いては、認識対象としてユーザの動作を認識するように
した場合について述べたが、本発明はこれに限らず、例
えばユーザ以外にロボットや動物等の他の種々の認識対
象の動作を認識するようにしても良い。
【0178】さらに上述の第1及び第2の実施の形態に
おいては、移動方向認識手段及び制御手段としてのCP
U50及び250がHDD67のハードディスクやRO
Mに予め格納されたサイバージェスチャープログラム1
80に基づいて各ターゲット107A〜107E上にポ
インタ108を重ねた状態でユーザの手の動きに合わせ
て移動させながらアニメーション表示することにより、
ユーザの手の動きの軌跡や認識結果をユーザに対して通
知するようにした場合について述べたが、本発明はこれ
に限らず、サイバージェスチャープログラム180が格
納されたプログラム格納媒体をノートパソコン1及びカ
メラ付ディジタル携帯電話機MS3にインストールする
ことにより、ユーザの手の動きの軌跡や認識結果をアニ
メーション表示によって通知するようにしても良い。
【0179】このように上述した一連の処理を実行する
サイバージェスチャープログラム180をノートパソコ
ン1及びカメラ付ディジタル携帯電話機MS3にインス
トールし、当該ノートパソコン1及びカメラ付ディジタ
ル携帯電話機MS3にインストールにおいて実行可能な
状態にするために用いられるプログラム格納媒体として
は、例えばフロッピーディスク、CD−ROM(Compac
t Disc-Read Only Memory)、DVD(Digital Versatai
le Disc )等のパッケージメディアのみならず、サイバ
ージェスチャープログラム180が一時的もしくは永続
的に格納される半導体メモリや磁気ディスク等で実現し
ても良い。また、これらプログラム格納媒体にサイバー
ジェスチャープログラム180を格納する手段として
は、ローカルエリアネットワークやインターネット、デ
ィジタル衛生放送等の有線及び無線通信媒体を利用して
も良く、ルータやモデム等の各種通信インターフェース
を介して格納するようにしても良い。
【0180】さらに上述の第1及び第2の実施の形態に
おいては、本発明の情報処理装置としてノートパソコン
1及びカメラ付ディジタル携帯電話機MS3に適用する
ようにした場合について述べたが、携帯情報端末MS1
及びMS2等の他の種々の情報処理装置に適用するよう
にしても良い。
【0181】
【発明の効果】上述のように本発明によれば、撮像手段
によって認識対象を撮像することにより得られた画像に
基づいて当該画像中の認識対象の移動方向を認識し、当
該認識した認識対象の移動方向の軌跡を表す認識過程画
像を生成して所定の表示手段に表示することにより、認
識対象の動作がどのように認識されたのかをユーザに対
してフィードバックして学習させることができる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態によるノートブック
型パーソナルコンピュータの全体構成を示す略線的斜視
図である。
【図2】本体の左側面の構成を示す略線図である。
【図3】本体の後側面及び底面の構成を示す略線図であ
る。
【図4】ノートブック型パーソナルコンピュータの回路
構成を示すブロツク図である。
【図5】ジェスチャー認識処理手順を示すフローチャー
トである。
【図6】アクティブウィンドウ画面上に重ねて表示され
たジェスチャー認識画面を示す略線図である。
【図7】ジェスチャー認識画面の構成を示す略線図であ
る。
【図8】ターゲットの構成を示す略線図である。
【図9】手の位置情報に関する取得処理手順を示すフロ
ーチャートである。
【図10】YUV色度空間上に表される色領域を示す略
線図である。
【図11】サーチ状態のジェスチャー認識画面を示す略
線図である。
【図12】ポインタ及び手の平領域認識枠がオーバーラ
ップ表示されたジェスチャー認識画面を示す略線図であ
る。
【図13】ジェスチャー動作に関する判断処理手順を示
すフローチャートである。
【図14】指先移動距離の算出の説明に供する略線図で
ある。
【図15】ソフトウェア的な処理の流れの説明に供する
略線図である。
【図16】ビジュアルフィードバック画面を示す略線図
である。
【図17】第2の実施の形態におけるネットワークシス
テムの全体構成を示す略線図である。
【図18】カメラ付ディジタル携帯電話機の外観構成を
示す略線的斜視図である。
【図19】カメラ部を回動したときの表示部を示す略線
的斜視図である。
【図20】カメラ付ディジタル携帯電話機の回路構成を
示すブロック図である。
【符号の説明】
1……ノートブック型パーソナルコンピュータ、2、2
13……本体、3、212……表示部、4、219……
操作キー、8、216……CCDカメラ、10、218
……液晶ディスプレイ、11……撮像部、24、222
……ジョグダイヤル、50……CPU、53……RA
M、100……ジェスチャー認識画面、107……ター
ゲット部、108……ポインタ、109……手の平領域
認識枠、120……軌跡表示枠、121……方向表示
枠、200……ネットワークシステム、MS1、MS2
……携帯情報端末、MS3、MS4……カメラ付ディジ
タル携帯電話機、CS1〜CS4……基地局、INW…
…公衆回線網、214……アンテナ、223……メモリ
スティック、250……主制御部、251……電源回路
部、252……操作入力制御部、253……画像エンコ
ーダ、254……カメラインターフェース部、255…
…LCD制御部、256……画像デコーダ、257……
多重分離部、258……変復調回路部、259……音声
コーデック、260……メインバス、261……同期バ
ス、262……記録再生部。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 井原 圭吾 東京都品川区北品川6丁目7番35号ソニー 株式会社内 (72)発明者 末吉 隆彦 東京都品川区北品川6丁目7番35号ソニー 株式会社内 (72)発明者 山口 祥弘 東京都品川区北品川6丁目7番35号ソニー 株式会社内 (72)発明者 五味 信一郎 東京都品川区北品川6丁目7番35号ソニー 株式会社内 Fターム(参考) 5C082 AA01 AA21 AA22 AA24 AA27 AA37 BA02 BA12 BA27 BD02 CA55 CA62 CB06 MM09

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】撮像手段によって認識対象を撮像すること
    により得られた画像に基づいて上記認識対象の移動方向
    を認識する移動方向認識手段と、 上記移動方向認識手段によって認識した上記認識対象の
    移動方向の軌跡を表す認識過程画像を生成して所定の表
    示手段に表示する制御手段とを具えることを特徴とする
    情報処理装置。
  2. 【請求項2】上記制御手段は、上記認識過程画像として
    上記認識対象の移動方向に沿って順次複数配列した所定
    形状のマークを上記移動方向に向かって順番に交互表示
    することを特徴とする請求項1に記載の情報処理装置。
  3. 【請求項3】撮像手段によって認識対象を撮像すること
    により得られた画像に基づいて上記認識対象の移動方向
    を認識する移動方向認識処理ステップと、 上記移動方向認識処理ステップで認識した上記認識対象
    の移動方向の軌跡を表す認識過程画像を生成する認識過
    程画像生成処理ステップと、 上記認識過程画像生成処理ステップで生成された上記認
    識過程画像を所定の表示手段に表示する表示処理ステッ
    プとを具えることを特徴とする動作認識過程表示方法。
  4. 【請求項4】撮像手段によって認識対象を撮像すること
    により得られた画像に基づいて上記認識対象の移動方向
    を認識する移動方向認識処理ステップと、 上記移動方向認識処理ステップで認識した上記認識対象
    の移動方向の軌跡を表す認識過程画像を生成する認識過
    程画像生成処理ステップと、 上記認識過程画像生成処理ステップで生成された上記認
    識過程画像を所定の表示手段に表示する表示処理ステッ
    プとを具えることを特徴とするプログラムを情報処理装
    置に実行させるプログラム格納媒体。
JP2000126344A 2000-04-21 2000-04-21 情報処理装置、動作認識過程表示方法及びプログラム格納媒体 Pending JP2001306049A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2000126344A JP2001306049A (ja) 2000-04-21 2000-04-21 情報処理装置、動作認識過程表示方法及びプログラム格納媒体
EP01303523A EP1148411A3 (en) 2000-04-21 2001-04-18 Information processing apparatus and method for recognising user gesture
US09/838,644 US7046232B2 (en) 2000-04-21 2001-04-19 Information processing apparatus, method of displaying movement recognizable standby state, method of showing recognizable movement, method of displaying movement recognizing process, and program storage medium
CNB01116655XA CN100487633C (zh) 2000-04-21 2001-04-20 信息处理装置、显示方法、通知方法
KR1020010021420A KR100843811B1 (ko) 2000-04-21 2001-04-20 정보 처리 장치, 이동 인식가능 대기 상태를디스플레이하는 방법, 인식가능한 이동을 도시하는 방법,이동 인식 과정을 디스플레이하는 방법, 및 프로그램 저장매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000126344A JP2001306049A (ja) 2000-04-21 2000-04-21 情報処理装置、動作認識過程表示方法及びプログラム格納媒体

Publications (1)

Publication Number Publication Date
JP2001306049A true JP2001306049A (ja) 2001-11-02

Family

ID=18636139

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000126344A Pending JP2001306049A (ja) 2000-04-21 2000-04-21 情報処理装置、動作認識過程表示方法及びプログラム格納媒体

Country Status (1)

Country Link
JP (1) JP2001306049A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008052590A (ja) * 2006-08-25 2008-03-06 Toshiba Corp インターフェース装置及びその方法
JP2013164658A (ja) * 2012-02-09 2013-08-22 Ricoh Co Ltd 画像表示装置
JP2015172887A (ja) * 2014-03-12 2015-10-01 オムロン株式会社 ジェスチャ認識装置およびジェスチャ認識装置の制御方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008052590A (ja) * 2006-08-25 2008-03-06 Toshiba Corp インターフェース装置及びその方法
US7844921B2 (en) 2006-08-25 2010-11-30 Kabushiki Kaisha Toshiba Interface apparatus and interface method
JP2013164658A (ja) * 2012-02-09 2013-08-22 Ricoh Co Ltd 画像表示装置
JP2015172887A (ja) * 2014-03-12 2015-10-01 オムロン株式会社 ジェスチャ認識装置およびジェスチャ認識装置の制御方法

Similar Documents

Publication Publication Date Title
KR100843811B1 (ko) 정보 처리 장치, 이동 인식가능 대기 상태를디스플레이하는 방법, 인식가능한 이동을 도시하는 방법,이동 인식 과정을 디스플레이하는 방법, 및 프로그램 저장매체
US20240168624A1 (en) Screen capture method and related device
WO2022022495A1 (zh) 一种跨设备的对象拖拽方法及设备
US10325394B2 (en) Mobile communication terminal and data input method
WO2020173370A1 (zh) 一种应用图标的移动方法及电子设备
EP4102379A1 (en) Data sharing method, electronic device and system
CN110601959B (zh) 会话消息显示方法、装置、终端及存储介质
KR20070080918A (ko) 휴대단말의 디지털 이미지 표시방법 및 장치
CN110559645B (zh) 一种应用的运行方法及电子设备
CN112130788A (zh) 一种内容分享方法及其装置
JP2002083302A (ja) 情報処理装置、動作認識処理方法及びプログラム格納媒体
WO2022166618A1 (zh) 一种投屏的方法和电子设备
CN115016697A (zh) 投屏方法、计算机设备、可读存储介质和程序产品
CN113946302B (zh) 一种打开文件的方法及设备
CN114915834A (zh) 一种投屏的方法和电子设备
JP2002116859A (ja) 情報処理装置、命令認識処理方法及びプログラム格納媒体
JP4415227B2 (ja) 情報処理装置、情報処理方法及び記録媒体
JP2023528384A (ja) コンテンツ共有方法、装置、およびシステム
WO2023029916A1 (zh) 批注展示方法、装置、终端设备及可读存储介质
JP2001306049A (ja) 情報処理装置、動作認識過程表示方法及びプログラム格納媒体
JP2001307108A (ja) 情報処理装置、動作認識待機状態表示方法及びプログラム格納媒体
CN117785340A (zh) 一种卡片分享的方法及装置
JP2001306236A (ja) 情報処理装置、動作認識処理方法及びプログラム格納媒体
CN115145518A (zh) 一种显示方法、电子设备和***
CN113885973A (zh) 翻译结果显示方法、装置及电子设备