JP2005246502A - ロボット - Google Patents

ロボット Download PDF

Info

Publication number
JP2005246502A
JP2005246502A JP2004056929A JP2004056929A JP2005246502A JP 2005246502 A JP2005246502 A JP 2005246502A JP 2004056929 A JP2004056929 A JP 2004056929A JP 2004056929 A JP2004056929 A JP 2004056929A JP 2005246502 A JP2005246502 A JP 2005246502A
Authority
JP
Japan
Prior art keywords
command
unit
robot
communication terminal
mobile communication
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004056929A
Other languages
English (en)
Inventor
Hisashi Taniguchi
恒 谷口
Ryosuke Sakai
亮介 坂井
Hiroshi Kaminaga
拓 神永
Taketaka Irukayama
剛堂 入鹿山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ZMP KK
NTT Docomo Inc
ZMP Inc
Original Assignee
ZMP KK
NTT Docomo Inc
ZMP Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ZMP KK, NTT Docomo Inc, ZMP Inc filed Critical ZMP KK
Priority to JP2004056929A priority Critical patent/JP2005246502A/ja
Publication of JP2005246502A publication Critical patent/JP2005246502A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Toys (AREA)
  • Manipulator (AREA)
  • Selective Calling Equipment (AREA)
  • Telephonic Communication Services (AREA)

Abstract

【課題】 携帯通信端末の利便性を損うことなく遠隔操作し易いロボットを提供する。
【解決手段】 携帯通信端末3との通信接続を行う通信制御部4と、通信制御部4を介して携帯通信端末3から音声信号として送信した指令情報を解析する指令解析部7と、各コマンドに応じてロボット動作を実現する駆動機構としてのアクチュエータ8を制御する動作制御部5cを備え、指令解析部7には、携帯通信端末3からの音声信号を認識して解析を行う音声認識解析部7aと、携帯通信端末3からDTMF信号として通話接続中に送信された指令を解析するDTMF信号解析部7bとを備え、それぞれ、音声認識解析部7aでの認識結果とコマンドとを対応させた第一コマンド対応表と、DTMF信号とコマンドとを対応させた第二コマンド対応表を格納する。
【選択図】 図4

Description

本発明はロボットに関し、とくに、携帯通信端末からの指令情報を通話情報として組み込み遠隔操作できるロボットに関する。
移動型のロボットを操作するロボットシステムとして、例えば特許文献1〜3に示すように、種々考えられている。例えば、ロボットの各関節を操作する制御用プログラムをロボットに格納する一方で、制御用プログラムに対して指令を無線LANで送信できるように組まれた遠隔操作用のソフトウエアをCD(Compact Disc)で準備したシステムが考えられている。このシステムでは、パソコンに無線LANカードを装着するとともに、遠隔操作用のソフトウエアを取り込んで起動させて、パソコンの表示画面に表示されたコントロールパネルを利用して操作者が指令を入力している。
特開2000−79587号公報 特開2002−354139号公報 特開2003−136455号公報
しかしながら、このようなシステムでは、遠隔操作用ソフトウエアにより実現される各種の操作入力キーやパソコンに取り付けられたジョイスティックなどの入力装置により入力を行っているため、パソコンの操作に精通した者しか利用することができない。
また、パソコンからロボットに対してデータ通信で指令を与え、ロボットからパソコンにデータ通信でロボットからの情報が戻ってくるので、特定のプロトコールに変換する必要がある。
そこで、本発明は、上記課題に鑑み、携帯通信端末の利便性を損うことなく遠隔操作し易いロボットを提供することを目的とする。
上記目的を達成するために、本発明は、駆動機構を備え、携帯通信端末で遠隔操作可能なロボットにおいて、上記携帯通信端末から音声信号として送信された指令情報を解析する指令解析部と、各コマンドに応じて上記駆動機構を制御する動作制御部と、を備えており、上記指令解析部は、音声信号を認識して解析を行う音声認識解析部と、この音声認識解析部での認識結果と上記コマンドとを対応させたコマンド対応表とを備える、ことを特徴とする。
この構成により、携帯通信端末からコマンドに対応した音声を入力することにより、ロボットを遠隔操作でき、操作者にとって利便性が高い。
好ましくは、前記指令解析部は、前記携帯通信端末からDTMF(dual tone multi- frequency )信号として通話接続中に送信された指令を解析するDTMF信号解析部と、DTMF信号と前記コマンドとを対応させた別のコマンド対応表とを備えており、DTMF信号解析部は音声認識解析部に並列接続されている。この好ましい構成により、携帯通信端末からコマンドに対応した押しボタンを押圧してロボットを遠隔操作でき、操作者にとって利便性が更に高くなる。
前記ロボットは、好ましくは、音声出力部と、この音声出力部から出力される音声を合成する音声合成部と、前記コマンドに応じて予め格納された言語ファイルから発話文章を生成して上記音声合成部に出力する発話文章生成部とを備え、前記指令情報には、上記発話文章生成部に対する指令を含む。この好ましい構成により、ロボット動作に対する指令だけでなく、遠隔操作でロボットに音声を発生させることもできる。
前記ロボットは、好ましくは、周囲を観察するための撮像部と、前記コマンドに応じて撮像部を制御するための撮像制御部とを備え、前記指令情報には、撮像制御部に対する指令を含む。この好ましい構成により、ロボット動作に対する指令だけでなく、遠隔操作でロボットに装着された撮像部に対する制御を行うこともできる。
好ましくは、前記ロボットは、発光する照明部と、前記コマンドに応じて照明部を制御する照明制御部とを備え、前記指令情報には照明制御部に対する指令を含む。この好ましい構成により、ロボット動作に対する指令だけでなく、遠隔操作でロボットに装着された照明部に対する制御を行うこともできる。
前記指令情報として送信される音声信号は、好ましくは、前記携帯通信端末から送信される画像情報と併せて圧縮処理されて送信される。この好ましい構成により、携帯通信端末とロボットとの間の通信容量に配慮して、通信コストを下げてロボット遠隔操作を行うことができる。
本発明は、携帯通信端末から音声信号として送信された指令情報を解析する指令解析部と、各コマンドに応じてロボット動作を実現する駆動機構を制御する動作制御部と、を備え、指令解析部は、音声信号を認識して解析を行う音声認識解析部と、音声認識解析部での認識結果とコマンドとを対応させたコマンド対応表とを備えるので、ロボットに対して携帯通信端末と通話接続を行い、携帯通信端末に対してコマンドに対応した音声を入力することで、ロボットに送信された音声信号を音声認識解析部でコマンドに変換し、変換されたコマンドに応じてロボットの動作制御を行うことができる。よって、ロボットを遠隔操作する操作者にとってロボットの遠隔操作を行い易くなる。
また、DTMF信号として通話接続中に送信された指令を解析するDTMF信号解析部が、音声認識解析部に並列接続させて接続されており、DTMF信号とコマンドとを対応させた別のコマンド対応表を備えることで、携帯通信端末から音声入力のみならず、押しボタンでもロボットを遠隔操作できる。よって、操作者のニーズに応じてロボットを遠隔操作できる。
また、ロボットは、音声出力部から出力される音声を合成する音声合成部と、コマンドに応じて予め格納された言語ファイルから発話文章を生成して音声合成部に出力する発話文章生成部とを備えることで、指令情報として、発話文章生成部に対する指令を含ませることができ、ロボットの動作のみならず、ロボットの音声出力部から音を発生させるように指令を行うこともできる。
また、ロボットは、周囲を観察するための撮像部と、コマンドに応じて撮像部を制御するための撮像制御部とを備えることで、指令情報として、撮像制御部に対する指令を含ませることができ、ロボットの動作のみならず、ロボットに装着した撮像部も遠隔操作できるようになる。
また、ロボットは、発光する照明部と、コマンドに応じて照明部を制御する照明制御部とを備えるので、指令情報として、照明制御部に対する指令を含ませることもでき、ロボットの動作のみならず、ロボットに装着した照明部も遠隔操作できるようになる。
また、携帯通信端末から送信される音声信号は、携帯通信端末から送信される画像情報と併せて圧縮処理されて送信されることで、携帯通信端末とロボットとの間の通信容量に配慮して、通信コストを下げてロボット遠隔操作を行うことができる。
以下、図面を参照して本発明を実施するための幾つかの実施の形態を説明する。
(実施の形態1)
図1は、本発明の実施の形態1であるロボット遠隔操作システムの機能ブロック構成図である。
図1に示すように、ロボット遠隔操作システム1は、遠隔操作されるロボット2と、ロボット2を遠隔操作する者(以下「操作者」とする。)が指令を入力する携帯通信端末3とを備え、ロボット2と携帯通信端末3とは、例えば無線電話回線を含んだ電話回線などで接続可能になっている。
ロボット2は、外部からの動作指令により各駆動機構を制御して所定の動きを行うものである。ロボット2としては、例えば、テーブルなどの上に置かれて上半身の各関節部に設けられた駆動機構を作動して動作するような卓上ロボットや、肩、脚等の各関節部に設けられた駆動機構を作動して歩行する動物型ロボットや、肩、脚などの各関節部に設けられた駆動機構を作動して自立歩行する二足歩行ロボットなどの人型ロボットや、駆動機構で車輪やキャタピラで移動できるような移動型ロボットなどがある。以下の説明においては、図1に示すように、駆動機構として、各関節部21に、関節状態を測るポテンショメータとモータとをアクチュエータとして内蔵しているロボットを例にとる。
携帯通信端末3は、一方の携帯通信端末3に装備されたCCD(Charge Couple Device)カメラなどの撮像素子で得た画像を処理して他方の携帯通信端末3に送信できる端末である。一例としては、携帯電話機を挙げることができる。なお、以下、全ての実施の形態では動画を送受信できる携帯テレビ電話端末を想定して説明するが、静止画像を送受信できる端末であっても構わない。
携帯通信端末3は、図1に示すように、通信時に相手先の携帯通信端末3から送信された画像情報を表示する第一表示領域3aと、通信時に相手先の携帯通信端末3に送信している画像情報を表示する第二表示領域3bとからなる表示部の他に、「0」〜「9」、「*」および「#」の一連の押しボタン3cや、相手先に送信する画像を撮像する撮像部や、撮像部を機能させるために必要な押しボタンなどが備えられている。押しボタン3cが押されることで、相手先の携帯通信端末3へ通話セッションを確立するために、DTMF(dual tone multi-frequency )信号に変換する信号変換部が内蔵されている。
なお、以下の説明においては、携帯通信端末3からロボット2に対して通話状態において、携帯通信端末3の撮像素子で撮像された画像情報と、音声入力された音声情報と、押しボタン3cの押し下げにより変換されたDTMF信号とを一つの情報として圧縮処理して圧縮情報として送信できるとともに、他の同様の携帯通信端末3から送信された圧縮情報を解凍して、画像情報を第一表示領域3aに表示し、音声信号およびDTMF信号を携帯通信端末3に内蔵された音声出力部により出力できるものとする。なお、圧縮処理の方式としては、例えばMPEG(moving picture experts group)方式が挙げられる。
図2は、ロボット2の機能ブロック構成図である。
ロボット2は、携帯通信端末3と通信を行うための通信制御部4を備えており、通信制御部4は、相手先と通話状態となるよう、例えば無線で中継局を介して、相手先との発呼処理、呼出し信号に対する応答処理や切断処理などの通信処理を行う通信処理部4aと、通話状態で通信処理部4aを介して相手先と情報を送受信する送受信部4bとで構成される。通信処理部4aとして通信カードなどを挙げることができ、図1に示したロボット2では、通信カードを背中に内蔵している。なお、送受信部4bは、図示しないが、通話状態で通信処理部4aを介して相手先から送信された圧縮情報を受信する受信部と、通話状態で通信処理部4aを介して相手先に圧縮情報を送信する送信部とで構成される。
また、ロボット2には、後述するように、ロボット2の動作やセンサーなどを統括制御する制御部5が備えられている。通信制御部4と制御部5との間には、受信情報処理部6および指令解析部7とが直列接続されている。
受信情報処理部6は、携帯通信端末3から受信した圧縮情報に対して、携帯通信端末3での圧縮の方式に対応した解凍処理を行い、画像情報と、音声信号およびDTMF信号とに分離する。
指令解析部7は、携帯通信端末3から音声信号として送信された指令情報、すなわち、携帯通信端末3で圧縮処理されて圧縮情報として送信された場合には、圧縮情報を解凍した結果としての音声信号を、指令情報として解析する。
第一の実施形態においては、指令解析部7は、音声信号を認識して解析を行う音声認識解析部7aからなり、音声認識解析部7aでの認識結果と各認識結果に対応する制御部5へのコマンドとを対応させた第一コマンド対応表を、指令解析部7内または音声認識解析部7a内に備えている。図3は第一コマンド対応表T1の一例である。
音声認識解析部7aでは、入力された音声信号を音声認識して、第一コマンド対応表T1に認識結果を照らし合わせ、認識結果に符合するコマンドを出力する。第一コマンド対応表T1は、図3に示すように、複数の認識結果に一つのコマンドが対応するようになっており、例えば、「ぜんしん」、「まえにでて」、「まっすぐ」という認識結果は、「WalkForward」に対応しており、操作者に対して操作の利便性を図っている。
制御部5は、指令解析部7からのコマンドの入力を受けるタイミング制御部5aと、発信番号確認処理部5bとを備える。なお、後述するような、動作制御部5c,発話文章生成部5d,撮像制御部5eおよび照明制御部5fとともに一個のMPU(マイクロプロセッサーユニット)に実装されて実現されるものの、複数のMPUに実装されて実現してもよい。
発信番号確認処理部5bには、予めロボット2と通話接続を許可される携帯通信端末3の電話番号一覧が格納されている。
通信処理部4aは、操作者の携帯通信端末3からの通話接続要求を受けたことを契機として、発信番号確認処理部5bに対して、携帯通信端末3から発信者番号通知で通知された携帯通信端末3の携帯番号とともに、通話接続を許可するか否かの判断要求を行う。
この判断要求を受けた発信番号確認処理部5bは、電話番号一覧に携帯通信端末3の携帯番号があるか否かの判断を行い、通信処理部4aにその判断結果を返答する。
このとき、判断結果が番号ありの場合に限り、タイミング制御部5aに対して、携帯通信端末3と通話接続中である旨の通知を行う。また、通信処理部4aで相手先の携帯通信端末3による通話切断処理がなされると、発信番号確認処理部5bに対して通話切断が通知される。通話切断の通知を受けた発信番号確認処理部5bは、タイミング制御部5aに対して通話切断である旨の通知を行う。
タイミング制御部5aは、携帯通信端末3と通話接続中である場合に、指令解析部7から入力されたコマンドに対応してタイミングをとって、すなわち、予め定められた制御に関する優先順位に基づいて、被制御部をコントロールする。
図2に示したロボット2においては、被制御部として、ロボット2の各関節部21に設けられた駆動機構としてのアクチュエータ8や、ロボッ2の口元に装着されたスピーカなどの音声出力部9bから発する音声を合成する音声合成部9a、一方の目に装着されたCCDカメラなどの撮像部10や、他方の目に装着されたLEDなどの照明部11などがある。
制御部5には、このような被制御部をそれぞれ制御するために、それぞれ、歩行パターン生成部5c1と各モータ制御部5c2とからなる動作制御部5cと、音声合成部9aに生成した発話文章を出力する発話文章生成部5dと、撮像部10を制御する撮像制御部5eと、照明部11を制御する照明制御部5fとが備えられる。なお、これらの被制御部を制御する動作制御部5c、発話文章生成部5d、撮像制御部5eおよび照明制御部5fは、制御部5内に設けられているが、制御部5とは別に設けるようにしてもよい。
制御部5のタイミング制御部5aは、指令入力部7から入力されたコマンドを判断し、入力されたコマンドが、動作制御部5c,発話文章生成部5d,撮像制御部5eおよび照明制御部5fの何れに対する指令かを判断する。そして、タイミング制御部5aに格納された優先順位テーブルに従い、現状のロボット2の動作に配慮しつつ、入力されたコマンドに対応する被制御部、すなわち、動作制御部5c,発話文章生成部5d,撮像制御部5eおよび照明制御部5fの何れかに、コマンドに対応した指示を送信する。ここでは、説明上、指令解析部7から入力されたコマンドが、各被制御部に対するコマンドを兼ねるものとする。
ここで、タイミング制御部5aは、入力されたコマンドが動作制御部5cに関すると判断すると、入力されたコマンドを、歩行者パターン生成部5c1に入力する。
歩行者パターン生成部5c1は、入力されたコマンドに応じて、予め格納された歩行パターンファイル5c3を参照して、対応する歩行パターンを生成する。なお、歩行パターンファイル5c3は、ロボット2の動作、例えば、一般的な動作(前進、左向き、右向き等)ではどの関節部21に配設したアクチュエータ8を作動させるのかを一般化したファイルである。また、歩行パターンは、各アクチュエータ8に内蔵されたポテンショメータから現状の関節状態の結果を元に、各関節部21に対応して設けられたモータ制御部5c2に対してモータの回転速度および作動時間などを定量的に算出したものである。
歩行者パターン生成部5c1で生成された歩行パターンが、各モータ制御部5c2に入力され、各モータ制御部5c2は対応するアクチュエータ8に内蔵されたモータを駆動して、タイミング制御部5aに入力されたコマンドに対応した動作をロボット2が行う。
また、タイミング制御部5aは、入力されたコマンドが発話文章生成部5dに関すると判断すると、入力されたコマンドを、発話文章生成部5dに入力する。この入力を受けた発話文章生成部5dは、入力されたコマンドに対して、予め格納された言語ファイルから発話文章を生成して音声合成部9aに出力する。生成された発話文章の入力を受けた音声合成部9aは入力された発話文章を音声出力部9bで音波として出力するように変換し、音声出力部9bから対応した音声として出力される。
また、タイミング制御部5aは、入力されたコマンドが撮像制御部5eに関すると判断すると、入力されたコマンドを撮像制御部5eに入力する。この入力を受けた撮像制御部5eは、入力されたコマンドに対応するように、撮像部10を制御する。これにより、ズーム切換えがなされたり、撮像部10が右旋回したり、上旋回したりする。
また、タイミング制御部5aは、入力されたコマンドが照明制御部5fに関すると判断すると、入力されたコマンドを、照明制御部5fに入力する。この入力を受けた照明制御部5fは、入力されたコマンドに対応するように、照明部11を制御する。これにより、照明のON,OFFがなされる。
以上により、携帯通信端末3に対して操作者が音声入力を行うと、携帯通信端末3が音声入力を音声信号に変換して画像情報と併せて圧縮処理し、ロボット2に対して圧縮情報を送信する。この圧縮情報を受信したロボット2は、受信情報処理部6により圧縮情報を解凍処理して音声信号に戻し、この音声信号を指令解析部7の音声認識解析部7aにより音声信号に対応するコマンドに変換処理する。この変換されたコマンドが制御部5のタイミング制御部5aに入力される。さらに、タイミング制御部5aでこのコマンドに対応する被制御部、例えば動作制御部5cに入力されることで、携帯通信端末3から音声信号で送信された指令情報に基づきロボット2の動作を遠隔操作することができる。
ところで、ロボット2は、マイクロフォンなどの音入力部12と送信情報処理部13とを備え、撮像部10により撮像された画像情報と音入力部12から入力された音声情報とを、送信情報処理部13で一つの情報として圧縮処理し、通信制御部4を介して相手先の携帯通信端末3に送信する。そして、携帯通信端末3でロボット2からの圧縮情報を解凍処理して、撮像部10で撮像した画像情報が第一表示領域3aに表示され、また、携帯通信端末3に設けられた音声出力部から音声情報を音として出力される。
(実施の形態2)
次に、実施の形態1を改良した実施の形態2を説明する。
図4は本発明の実施の形態2におけるロボット20の機能ブロック構成図である。ロボット20を遠隔操作する携帯通信端末3は、実施の形態1と同様であり、また、ロボット2の機能ブロックで同一または同等のものについては同一の符号を付してある。
実施の形態2では、指令解析部7は、実施の形態1で説明した音声認識解析部7aに並列にDTMF信号解析部7bを接続して構成される。
DTMF信号解析部7bは、受信情報処理部6で解凍処理された情報のうち、携帯通信端末3の押しボタン入力で変換されたDTMF(dual tone multi-frequency )信号を解析する。ここで、DTMF信号解析部7bには、各DTMF信号と該DTMF信号に対応する制御部5へのコマンドとを対応させた第二コマンド対応表(図示しない)が格納されていたり、DTMF信号解析部7bが参照可能に指令解析部7に格納されている。第二コマンド対応表は、実施の形態1で説明した第一コマンド対応表における認識結果がDTMF信号に相当するものである。
これにより、操作者は、音声による遠隔操作のみならず、携帯通信端末3の押しボタン3cを押圧することで、遠隔操作を行うこともできる。
ここで、各押しボタン3cがどのような遠隔操作に対応するかを操作者に対して教示する方法は、種々に考えられる。例えば、携帯通信端末3の表示部にコマンド一覧表を表示できるように、携帯通信端末3にプログラムをネットワークを介してダウンロードしておくこともできる。以下では、携帯通信端末3にロボット20から送信される画像情報の中に、各押しボタン3cとこの押しボタン3cに対応するコマンドを組み込むことで、操作者に教示する例を説明する。
ロボット20は、各押しボタン3cとこの押しボタン3cに対応したコマンドとを一覧表示した一以上の指令メニューを、指令メニューファイル14として格納している。
図5は、指令メニューファイル14の一例を示したものである。図5に示したように、指令メニューとしては、例えば、撮像制御部5eに関する撮像部制御メニューM1や、ロボット20の動作に関するロボット動作メニューM2や、ロボット20に会話をさせる会話コミュニケーションメニューM3などがある。ここで、撮像部制御メニューM1は、撮像部10に対する撮像向きの変更およびズームの切換え指令を、携帯通信端末3の押しボタン3cに対応させて表示した指令メニューである。ロボット動作メニューM2は、ロボット動作の指令を、携帯通信端末3の押しボタン3cに対応させて表示した指令メニューである。会話コミュニケーションメニューM3は、音声出力に関する指令を、携帯通信端末3の押しボタン3cに対応させた指令メニューである。
なお、後述するように、貼付情報一時保持部15は、タイミング制御部5aからの指示により、指令メニューファイル14に格納されている各指令メニューを切り換えることができる。図5には、携帯通信端末3の「*」および「0」の押しボタン3cで、指令メニューがどのように切り換えられるかも示している。例えば、初期メニューM0から「*」の押しボタン3cの入力があった場合には、タイミング制御部5aからの指示で、ロボット動作メニューM2に切り換えられる。
また、ロボット20は、撮像部10で撮像した情報に対して貼り付ける貼付情報を一時的に保持する貼付情報一時保持部15を備える。この貼付情報一時保持部15は、指令メニューファイル14から撮像部10で撮像した画像情報に対して貼り付けるべき貼付情報を一時的に保持する。このとき、携帯通信端末3からの指令に基づいて制御部5のタイミング制御部5aから貼付情報を切り換えるように指示を受けると、指令メニューファイル14から次に貼り付ける貼付情報を取得して保持する。
また、ロボット20には、貼付情報一時保持部15に一時的に保持されている貼付情報を、撮像部10で撮像した画像情報に貼り付けて画像合成を行って、合成画像情報を送信情報処理部13に出力する画像合成部16が備えられている。
この貼付情報一時保持部15と画像合成部16とで、撮像部10で撮像された画像情報に貼付情報を貼り付けて画像合成を行い、さらに、送信情報処理部13において、音入力部12から入力された音声情報と併せて一つの情報として所定の形式で圧縮処理して圧縮情報とし、通信制御部4を介して、携帯通信端末3に送信する。
これにより、携帯通信端末3では、ロボット20からの圧縮情報を解凍処理して、貼付情報が貼り付けられた画像情報が第一表示領域3aに表示される。そこで、貼付情報一時保持部15に指令メニュー、例えば、ロボット動作メニューM2を保持するようにタイミング制御部5aが指示することで、第一表示領域3aに対して、撮像部10で撮像した画像情報と指令メニューとを表示させることができる。よって、操作者は表示された指令メニューに基づき、ロボット20の遠隔操作を行うことができる。
(ロボット遠隔操作方法)
以下、実施の形態2を例にとって、図4を参照しながら、ロボット20の遠隔操作方法を説明する。
[通話状態の確立]
ロボット20を遠隔操作するには、先ず、携帯通信端末3とロボット20とが通話状態になるようにする。
すなわち、携帯通信端末3からロボット20の通信制御部4に対して、具体的には通信制御部4の通信処理部4aとしての通信カードに対して、電話をかける。すると、通信処理部4aから制御部5の発信番号確認処理部5bに対して、発信元である携帯通信端末3の発信者番号の通知がなされる。この通知を受けた発信番号確認処理部5bにおいて、通話接続が許可されているか否かの確認がなされ、通信処理部4aに対して、通話許可であれば通話接続許可を、通話不許可であれば通話接続不許可の返答がなされる。通信処理部4aは、通話接続許可の返答を受けると通話接続処理を行い、通話接続不許可の返答を受けると切断処理を行う。以下では通話接続処理がなされたことを前提とする。
[通話開始初期状態]
次に、携帯通信端末3とロボット20とが通話接続状態になると、発信番号確認処理部5bからタイミング制御部5aに対して通話中である旨の通知がなされる。すると、タイミング制御部5a は、貼付情報一時保持部15に対して、指令メニューファイル14から透明無地の初期メニューM0(図5参照)を選択して一時保持するように指示する。この指示を受けた貼付情報一時保持部15は、初期メニューM0を指令メニューファイル14から取得して保持して、画像合成部16に対して出力する。画像合成部16は、撮像部10で撮像された画像情報に対して、貼付情報一部保持部13から出力された初期メニューM0を貼り付けて画像を合成して、合成画像情報として送信情報処理部13に出力する。なお、初期メニューM0は透明無地であるので、実質的には撮像部10で撮像された画像情報が送信情報処理部13に出力される。そして、送信情報処理部13において、画像合成部16からの合成画像情報と音入力部12から入力された音声情報とを併せて圧縮処理されて、通信制御部4を介して、相手先の携帯通信端末3に送信される。これで、携帯通信端末3の第一表示領域3aに、合成された画像情報が表示され、また、携帯通信端末3の音声出力部から音声情報を音波として出力される。
[ロボット動作メニューの表示]
次に、ロボット20を携帯通信端末3から遠隔操作するために、携帯通信端末3の第一表示領域3aにロボット動作メニューM2(図5参照)を表示させる。
すなわち、携帯通信端末3の押しボタン3cの「*」が押圧される。すると、これに対応するDTMF信号が生成されて、ロボット20に送信される。このとき、携帯通信端末3により撮像された画像情報や音声入力の有無を問わず、これら画像情報や音声情報とともに圧縮処理されて圧縮情報として送信される。
ロボット20では、通信制御部4を介して受信情報処理部6に圧縮情報が入力され、解凍処理がなされる。そして、DTMF信号が指令解析部7に入力される。指令解析部7では、DTMF信号は音声認識解析部7aとDTMF信号解析部7bに入力される。そして、音声認識解析部7aではDTMF信号の入力に対して何も出力しないが、DTMF信号解析部7bではこのDTMF信号の入力に対して、第二コマンド対応表を参照し、対応するコマンドに変換される。この変換されたコマンドが、タイミング制御部5aに対して入力される。
タイミング制御部5aで、入力されたコマンドを認識して貼付情報一時保持部15に対して、ロボット動作メニューM2を指令メニューファイル14から選択して保持するように指示する。この指示を受けた貼付情報一時保持部15は、ロボット動作メニューM2を選択して保持し、画像合成部16に出力する。以下、前述と同様にして、画像合成部16は、ロボット動作メニューM2を撮像部10からの画像情報に貼り付けて画像合成を行い、合成された画像情報を送信情報処理部13に出力する。送信情報処理部13は、合成された画像情報と音声情報とを併せて圧縮処理して通信制御部4を介して、携帯通信端末3に送信する。
これにより、携帯通信端末3は解凍処理を行って、ロボット動作メニューM2が貼り付けられた画像情報を第一表示領域3aに表示するので、操作者は、第一表示領域3aに表示されたロボット動作メニューM2を見ながら、ロボット20への指令を入力できる。
なお、携帯通信端末3cの第一表示領域3aに表示されているロボット動作メニューM2が邪魔で見難い場合には、携帯通信端末3の「0」の押しボタン3cを押圧すれば、タイミング制御部5aから貼付情報一時保持部15に対して初期メニューM0を一時保持するように切換え指示がなされるので、撮像部10で撮像した画像情報のみを携帯通信端末3の第一表示領域3aに表示できる。
[ロボット動作指令(DTMF信号による指令)]
次に、ロボット動作指令をDTMF信号により行う場合を説明する。なお、一例としてロボット20を前進させる指令を行う場合を前提とする。
操作者は、携帯通信端末3の第一表示領域3aに表示された動作メニューM2を参照して、ロボット20を前進させる指令として、「2」の押しボタン3cを押圧する。すると、これに対応するDTMF信号が生成されて、ロボット20に送信される。このとき、携帯通信端末3で撮像された画像情報や音声入力の有無を問わず、これら画像情報や音声情報とともに圧縮処理されて圧縮情報として送信される。
ロボット20では、通信制御部4を介して受信情報処理部6に圧縮情報が入力され、解凍処理がなされる。そして、DTMF信号が指令解析部7に入力される。指令解析部7では、DTMF信号が音声認識解析部7aとDTMF信号解析部7bとに入力される。そして、音声認識解析部7aではDTMF信号の入力に対して何も出力しないが、DTMF信号解析部7bでは、第二コマンド対応表を参照して、入力されたDTMF信号に対応するコマンドに変換される。そして、この変換されたコマンドがタイミング制御部5aに対して入力される。
タイミング制御部5aでは、入力されたコマンドを認識して歩行パターン生成部5c1に対して「前進」の歩行パターンを生成するように指示する。すると、歩行パターン生成部5c1は「前進」の歩行パターンを歩行パターンファイル5c3を参照して生成して、各モータ制御部5c2に制御信号が入力される。これにより、各モータ制御部5c2は入力された制御信号に対応して各アクチュエータ8のモータを制御することで、ロボット20が前進する。
なお、「前進」以外のロボット動作指令、例えば「停止」や「右旋回」についても、操作者は、ロボット動作メニューM2を参照して携帯通信端末3の対応する押しボタン3cを押圧することで同様にロボット20に対して遠隔操作を行うことができる。
[ロボット動作指令(音声入力による指令)]
次に、ロボット動作指令を音声入力により行う場合を説明する。なお、一例としてロボットを前進させる指令を行う場合を前提とする。
操作者は、携帯通信端末3に対して、「前進」という音声を入力する。すると、入力に対応した音声信号が生成されて、ロボット20に送信される。このとき、携帯通信端末3で撮像された画像情報の有無を問わず、画像情報とともに圧縮処理されて圧縮情報として送信される。
ロボット20では、通信制御部4を介して受信情報処理部6に圧縮情報が入力され、解凍処理がなされる。そして、「前進」に対応した音声信号が指令解析部7に入力される。入力された音声信号は音声認識解析部7aとDTMF信号解析部7bに入力される。そして、音声認識解析部7aは、音声信号を認識し、第一コマンド対応表T1を参照して認識結果に符合するコマンドをタイミング制御部5aに入力する。なお、DTMF信号解析部7bは音声信号の入力に対して何も出力しない。
タイミング制御部5aは、入力されたコマンドを認識して歩行パターン生成部5c1に対して「前進」の歩行パターンを生成するように指示する。すると、歩行パターン生成部5c1は「前進」の歩行パターンを歩行パターンファイル5c3を参照して生成し、各モータ制御部5c2に制御信号が入力される。これにより、各モータ制御部5c2は入力された制御信号に対応して各アクチュエータ8のモータを制御することで、ロボット20が前進する。
なお、「前進」以外のロボット動作指令、例えば「停止」や「右旋回」についても、同様に行うことができる。
[ロボットへの音声出力指令]
次に、ロボット20に対して特定の音声出力をさせるように指令を行う場合について説明する。なお、一例としてロボット20に自己紹介させる場合を前提とする。
操作者は、携帯通信端末3に対して、「自己紹介」という音声を入力する。すると、入力に対応した音声信号が生成されて、ロボット20に送信される。このとき、携帯通信端末3で撮像された画像情報の有無を問わず、画像情報とともに圧縮処理されて圧縮情報として送信される。
ロボット2では、通信制御部4を介して受信情報処理部6に圧縮情報が入力されて解凍処理がなされる。そして、「自己紹介」に対応した音声信号が、指令解析部7に入力される。指令解析部7では、この音声信号が音声認識解析部7aとDTMF信号解析部7bとに入力される。音声認識解析部7aでは音声信号を認識して第一コマンド対応表T1を参照して認識結果に符合するコマンドをタイミング制御部5aに入力する。
タイミング制御部5aでは、入力されたコマンドを認識して発話文章生成部5dに対して「自己紹介」の文章を生成するように指示する。すると、発話文章生成部5dは「自己紹介」の言語ファイルを参照して自己紹介文を生成し、音声合成部9aに出力する。これで、音声合成部9aは音声出力部9bを制御して自己紹介文を音波として出力する。よって、ロボット20はあたかも自己紹介を行う。
なお、携帯通信端末3の押しボタン3cで自己紹介を行うように指令を送信する場合には、次のようになる。
先ず、携帯通信端末3の第一表示領域3aに表示されている指令メニューを、会話コミュニケーションメニューM3に変更する。すなわち、第一表示領域3aにロボット動作メニューM2が表示されている場合には、図5に示すように、押しボタン3cの「*」を押すことにより、前述のロボット動作メニューの表示で説明したのと同様に、タイミング制御部5aから貼付情報一時保持部15に対して、次の指令メニュー、すなわち会話コミュニケーションメニューM3に切り換えて保持するように指示する。これで、第一表示領域3aに表示される指令メニューが会話コミュニケーションメニューM3に切り替わる。
次に、第一表示領域3aに表示されている会話コミュニケーションメニューM3から「自己紹介」が「2」の押しボタン3cに対応することを、操作者は確認して、「2」の押しボタン3cを押圧する。これで、携帯通信端末3で「2」のDTMF信号が生成されてロボット20に送信される。このとき、携帯通信端末3で撮像された画像情報の有無を問わず、画像情報とともに圧縮処理されて圧縮情報として送信される。
ロボット20では、通信制御部4を介して受信情報処理部6に圧縮情報が入力されて解凍処理がなされる。そして、「2」のDTMF信号が指令解析部7に入力される。指令解析部7では、DTMF信号は音声認識解析部7aとDTMF信号解析部7bとに入力される。そして、DTMF信号解析部7bで第二コマンド対応表を参照して対応するコマンドをタイミング制御部5aに入力する。以下、音声入力した場合と同様な処理を経て、音声合成部9aは、音声出力部9bを制御して、自己紹介文を音波として出力する。よって、ロボット20はあたかも自己紹介を行う。
[撮像部に対する指令]
次に、ロボット20の撮像部10に対して指令を行う場合を説明する。なお、一例として撮像部10の撮像方向を右(「→」)に変更する場合を前提とする。
先ず、携帯通信端末3の第一表示領域3aに表示されている指令メニューを、撮像部制御メニューM1に変更する。すなわち、図5に示すように、第一表示領域3aに会話コミュニケーションメニューM3が表示されている場合には「*」を一回押圧することで、ロボット動作メニューM2が表示されている場合には「*」を二回押圧することで、初期メニューM0が表示されている場合には「*」を三回押圧することで変更できる。
次に、第一表示領域3aに表示されている撮像部制御メニューM1から、操作者は「→」が「6」の押しボタン3cに対応することを確認して、「6」の押しボタン3cを押圧する。これで、携帯通信端末3で「6」のDTMF信号が生成されて、ロボット20に送信される。このとき、携帯通信端末3で撮像された画像情報の有無を問わず、画像情報とともに圧縮処理されて圧縮情報として送信される。
ロボット20では、通信制御部4を介して受信情報処理部6に圧縮情報が入力されて解凍処理がなされる。そして、「6」のDTMF信号が指令解析部7に入力される。指令解析部7のDTMF信号解析部7bで、第二コマンド対応表を参照して対応するコマンドに変換し、このコマンドをタイミング制御部5aに入力する。
タイミング制御部5aでは、入力されたコマンドを認識して撮像制御部5eに対して撮像部10で撮像する方向を右に変更するように指示する。これにより、撮像部10に対して撮像する方向を右に変更できる。
なお、操作者の音声入力でも同様に行うことができる。
また、図5に示した撮像部制御メニューM1には、照明部11に対する指令メニュー、すなわち、照明部11のON/OFFに対する指令も含まれているので、同様にして、照明制御部5fを制御して照明部11のライトのON、OFFを行うことができる。
以上のように、操作者はロボット2,20に対して携帯通信端末3から電話をかけて、携帯通信端末3とロボット2,20とが通話接続状態になるようにして、携帯通信端末2,20から音声入力によりロボット2,20への遠隔操作や、押しボタン3cの押圧によりロボット2,20への遠隔操作を行うことができる。よって、ロボット2,20を携帯通信端末3で操作できるので、ロボット2,20が家庭に広く受け入れられ、誰でもロボット2,20を遠隔操作できるようになる。
また、ロボット2,20を自宅やビルの一室、工場内に配置しておき、携帯通信端末3から電話をかけることで、ロボット2,20の撮像部10で撮像された画像を携帯通信端末3の第一表示部3aに表示できるので、各種のセキュリティシステムの一道具として用いることができる。
なお、以上の説明では、携帯通信端末3は、携帯テレビ電話端末などの携帯電話端末であることを想定している。これは、現在、ゲームやメール送受信などもでき広く社会に受け入れられていることを考慮したものであるため、携帯通信端末3はこれに限定されることなく、ロボット2,20の通信制御部4と通話接続可能な端末であればよい。携帯通信端末3としては、テンキー付きの音声通話装置、例えば、通信会社の交換機を介さずに接続可能なコードレス電話機の親機や子機などであってもよい。
また、本発明の実施の形態1および2では、ロボット2,20と携帯通信端末3とはインターネットを用いて接続していないので、不特定の者がロボット2,20の配置箇所、例えば室内を覗くことはできない。よって、ロボット2,20と携帯通信端末3とで安全なセキュリティシステムを構築することができる。
以上説明した実施の形態は、本発明の一例に過ぎず、特許請求の範囲に記載した発明の範囲内で種々変更が可能である。
本発明の実施の形態1によるロボット遠隔操作システムの機能ブロック構成図である。 図1のロボットの機能ブロック構成図である。 図2の指令解析部に格納される第一コマンド対応表の一例である。 本発明の実施の形態2によるロボット遠隔操作システムを構成するロボットの機能ブロック構成図である。 図4の指令メニューファイルとして格納される一連の指令メニューを模式的に示したものである。
符号の説明
1 ロボット操作遠隔システム
2,20 ロボット
21 関節部
3 携帯通信端末
3a 第一表示領域
3b 第二表示領域
3c 押しボタン
4 通信制御部
4a 通信処理部
4b 送受信部
5 制御部
5a タイミング制御部
5b 発信番号確認処理部
5c 動作制御部
5c1 歩行パターン生成部
5c2 モータ制御部
5c3 歩行パターンファイル
5d 発話文章生成部
5e 撮像制御部
5f 照明制御部
6 受信情報処理部
7 指令解析部
7a 音声認識解析部
7b DTMF信号解析部
8 アクチュエータ
9a 音声合成部
9b 音声出力部
10 撮像部
11 照明部
12 音入力部
13 送信情報処理部
14 指令メニューファイル
15 貼付情報一時保持部
16 画面合成部

Claims (6)

  1. 駆動機構を備え、携帯通信端末で遠隔操作可能なロボットにおいて、
    上記携帯通信端末から音声信号として送信された指令情報を解析する指令解析部と、
    各コマンドに応じて上記駆動機構を制御する動作制御部と、を備えており、
    上記指令解析部は、
    音声信号を認識して解析を行う音声認識解析部と、
    該音声認識解析部での認識結果と上記コマンドとを対応させたコマンド対応表とを備える、ことを特徴とするロボット。
  2. 前記指令解析部は、
    前記携帯通信端末からDTMF(dual tone multi-frequency )信号として通話接続中に送信された指令を解析するDTMF信号解析部と、
    DTMF信号と前記コマンドとを対応させた別のコマンド対応表とを備えており、
    上記DTMF信号解析部は前記音声認識解析部に並列接続されていることを特徴とする、請求項1に記載のロボット。
  3. 前記ロボットは、
    音声出力部と、
    該音声出力部から出力される音声を合成する音声合成部と、
    前記コマンドに応じて予め格納された言語ファイルから発話文章を生成して上記音声合成部に出力する発話文章生成部と、を備え、
    前記指令情報には、上記発話文章生成部に対する指令を含むことを特徴とする、請求項1または2に記載のロボット。
  4. 前記ロボットは、
    周囲を観察するための撮像部と、
    前記コマンドに応じて上記撮像部を制御するための撮像制御部と、を備え、
    前記指令情報には、上記撮像制御部に対する指令を含むことを特徴とする、請求項1〜3の何れかに記載のロボット。
  5. 前記ロボットは、
    発光する照明部と、
    前記コマンドに応じて上記照明部を制御する照明制御部と、を備え、
    前記指令情報には上記照明制御部に対する指令を含むことを特徴とする、請求項1〜4に記載のロボット。
  6. 前記指令情報として送信される音声信号は、前記携帯通信端末から送信される画像情報と併せて圧縮処理されて送信されることを特徴とする、請求項1〜5に記載のロボット。
JP2004056929A 2004-03-01 2004-03-01 ロボット Pending JP2005246502A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004056929A JP2005246502A (ja) 2004-03-01 2004-03-01 ロボット

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004056929A JP2005246502A (ja) 2004-03-01 2004-03-01 ロボット

Publications (1)

Publication Number Publication Date
JP2005246502A true JP2005246502A (ja) 2005-09-15

Family

ID=35027481

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004056929A Pending JP2005246502A (ja) 2004-03-01 2004-03-01 ロボット

Country Status (1)

Country Link
JP (1) JP2005246502A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008038755A1 (fr) * 2006-09-28 2008-04-03 Tmsuk Co., Ltd. Appareils mobiles et système d'exploitation sans fil les comprenant
KR101373382B1 (ko) * 2006-05-31 2014-03-13 삼성전자주식회사 원격 장치 액세스 및 제어를 제공하기 위한 방법, 저장 매체 및 원격 장치
JP2018015824A (ja) * 2016-07-26 2018-02-01 公立大学法人会津大学 ロボットを操作する装置、その装置において実行される方法およびプログラム。
JP2018152810A (ja) * 2017-03-15 2018-09-27 株式会社日立製作所 コミュニケーションシステム及びコミュニケーション制御装置
WO2020255283A1 (ja) * 2019-06-19 2020-12-24 日本電信電話株式会社 無線移動体、制御システム、制御方法、及び制御プログラム

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07164374A (ja) * 1993-11-08 1995-06-27 Toshio Muraoka セキュリティロボットシステム
JP2001125585A (ja) * 1999-08-31 2001-05-11 Swisscom Ltd 移動ロボット及び移動ロボットを制御する方法
JP2001156930A (ja) * 1999-11-30 2001-06-08 Nippon Telegr & Teleph Corp <Ntt> ゼスチャー伝送装置
JP2002281567A (ja) * 2001-03-14 2002-09-27 Nec Corp 遠隔操作方法、遠隔操作システム、および遠隔制御システムにおけるプログラム
JP2002321180A (ja) * 2001-04-24 2002-11-05 Matsushita Electric Ind Co Ltd ロボット制御システム
JP2002337079A (ja) * 2001-05-11 2002-11-26 Sony Corp 情報処理装置および方法、記録媒体、並びにプログラム
JP2002354139A (ja) * 2001-05-23 2002-12-06 Toshiba Tec Corp ロボットの制御システム及びこのシステムに使用するロボット
JP2003006532A (ja) * 2001-06-27 2003-01-10 Fujitsu Ltd 移動ロボットとその獲得画像を用いたサーバ経由のサービス提供方式

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07164374A (ja) * 1993-11-08 1995-06-27 Toshio Muraoka セキュリティロボットシステム
JP2001125585A (ja) * 1999-08-31 2001-05-11 Swisscom Ltd 移動ロボット及び移動ロボットを制御する方法
JP2001156930A (ja) * 1999-11-30 2001-06-08 Nippon Telegr & Teleph Corp <Ntt> ゼスチャー伝送装置
JP2002281567A (ja) * 2001-03-14 2002-09-27 Nec Corp 遠隔操作方法、遠隔操作システム、および遠隔制御システムにおけるプログラム
JP2002321180A (ja) * 2001-04-24 2002-11-05 Matsushita Electric Ind Co Ltd ロボット制御システム
JP2002337079A (ja) * 2001-05-11 2002-11-26 Sony Corp 情報処理装置および方法、記録媒体、並びにプログラム
JP2002354139A (ja) * 2001-05-23 2002-12-06 Toshiba Tec Corp ロボットの制御システム及びこのシステムに使用するロボット
JP2003006532A (ja) * 2001-06-27 2003-01-10 Fujitsu Ltd 移動ロボットとその獲得画像を用いたサーバ経由のサービス提供方式

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101373382B1 (ko) * 2006-05-31 2014-03-13 삼성전자주식회사 원격 장치 액세스 및 제어를 제공하기 위한 방법, 저장 매체 및 원격 장치
WO2008038755A1 (fr) * 2006-09-28 2008-04-03 Tmsuk Co., Ltd. Appareils mobiles et système d'exploitation sans fil les comprenant
JP2018015824A (ja) * 2016-07-26 2018-02-01 公立大学法人会津大学 ロボットを操作する装置、その装置において実行される方法およびプログラム。
JP2018152810A (ja) * 2017-03-15 2018-09-27 株式会社日立製作所 コミュニケーションシステム及びコミュニケーション制御装置
WO2020255283A1 (ja) * 2019-06-19 2020-12-24 日本電信電話株式会社 無線移動体、制御システム、制御方法、及び制御プログラム
JPWO2020255283A1 (ja) * 2019-06-19 2020-12-24
US20220365528A1 (en) * 2019-06-19 2022-11-17 Nippon Telegraph And Telephone Corporation Wireless mobility device, control system, method and program

Similar Documents

Publication Publication Date Title
JP4855408B2 (ja) 複数の表示画面に情報を表示する携帯無線通信装置、その携帯無線通信装置の動作方法、及び、その携帯無線通信装置を動作させるためのコンピュータプログラム
WO1998039906A1 (fr) Terminal de telecommunications
CN112911197A (zh) 影像信息处理***、移动通信终端和影像信息处理方法
JP2007135195A (ja) 移動通信端末機及びこれを用いた画像通話時の画像処理方法
KR100583707B1 (ko) 커뮤니케이션 단말 장치
JP2005246502A (ja) ロボット
JP4605028B2 (ja) 遠隔制御システム、遠隔制御通信装置、及び被制御側通信装置
JP4081796B2 (ja) ロボット
JP4458830B2 (ja) エレベータ監視装置
JP2000115597A (ja) 通信機能付き撮像装置、撮像方法、撮像システム及び記憶媒体
JP2003348674A (ja) リモコン端末およびリモコンシステム
JP4563831B2 (ja) テレビドアホン装置
JP2002032241A (ja) 携帯電話用コンテンツのデバッグ方法およびデバッグ装置
JP2004194148A (ja) 遠隔操作システム
JP2020025284A (ja) 情報処理システム及び無線端末
JPH118823A (ja) 携帯端末、電子撮像装置及び撮像システム
KR100584352B1 (ko) 동영상 전화장치의 영상 송,수신 제어방법
JP2005277884A (ja) 通信端末装置
JP4786133B2 (ja) 通信装置およびテレビ電話システム
KR20110026362A (ko) 햅틱 화상 통화 방법 및 시스템
KR100713388B1 (ko) 휴대단말기의 화상통화모드에서 의사표시 장치 및 방법
JP3315753B2 (ja) 画像通信端末装置
JP2006140871A (ja) アバターを使用したテレビ電話端末およびそのアバター画像表示方法
JP2002305567A (ja) 携帯端末装置
JP2006101327A (ja) テレビドアホン装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060529

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080108

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080805