JP3585625B2 - 画像入力装置およびそれを用いる画像伝送装置 - Google Patents

画像入力装置およびそれを用いる画像伝送装置 Download PDF

Info

Publication number
JP3585625B2
JP3585625B2 JP4018396A JP4018396A JP3585625B2 JP 3585625 B2 JP3585625 B2 JP 3585625B2 JP 4018396 A JP4018396 A JP 4018396A JP 4018396 A JP4018396 A JP 4018396A JP 3585625 B2 JP3585625 B2 JP 3585625B2
Authority
JP
Japan
Prior art keywords
image
specific
unit
input
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP4018396A
Other languages
English (en)
Other versions
JPH09233384A (ja
Inventor
一彦 福井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP4018396A priority Critical patent/JP3585625B2/ja
Publication of JPH09233384A publication Critical patent/JPH09233384A/ja
Application granted granted Critical
Publication of JP3585625B2 publication Critical patent/JP3585625B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Digital Computer Display Output (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、いわゆるTV会議装置やTV電話装置などとして好適に実施される画像伝送装置およびそれに用いられる画像入力装置に関する。
【0002】
【従来の技術】
パーソナルコンピュータやワークステーション等のコンピュータシステム、いわゆるホームオートメーションシステム等の家庭情報端末、または携帯情報端末などに、CCD(電荷結合素子)等を撮像素子として備えるTVカメラを画像入力手段として接続し、該TVカメラで撮像した画像を伝送して前記TV会議装置やTV電話装置を実現するようにした構成が普及している。
【0003】
このような用途で使用されるTVカメラでは、撮像する必要のある被写体は、人物、特にその顔面、および書類や図面等の資料などである。したがって、これらの被写体に適宜注目して、詳細に認識するために、特定の被写体を拡大することが望まれる。このため、前記TVカメラは、光学的なズーム機構等を備えている。
【0004】
しかしながら、拡大を希望する被写体が画面の中心にない場合、単純に前記ズーム機構を用いて拡大するだけでは、所望とする特定の被写体を適切に拡大することができないという問題がある。
【0005】
このような不具合を解決するために、典型的な従来技術である特開平6−202600号公報および特開平7−135594号公報では、TVカメラに前記光学的なズーム機構を設けるとともに、その雲台をパン/チルト動作可能な可動雲台としている。
【0006】
【発明が解決しようとする課題】
したがって、上述の従来技術では、雲台が可動であるために、モータおよびその制御回路等が必要となり、高コスト化および大型化するとともに、操作が煩雑であるという問題がある。
【0007】
本発明の目的は、低コスト化および小型化を図ることができるとともに、簡単な操作で所望とする特定の画像を抽出して拡大することができる画像入力装置およびそれを用いる画像伝送装置を提供することである。
【0008】
【課題を解決するための手段】
請求項1の発明に係る画像入力装置は、被写体を撮像し、画像を出力する画像入力手段と、前記画像入力手段からの画像を予め定める複数の画素数の分割画像に分割する画像分割手段と、前記画像分割手段で分割された分割画像のうちから、特定の画像を包含する分割画像を特定画像として認識する画像特定手段と、前記画像特定手段で特定された特定画像のみを拡大する画像処理手段とを含むことを特徴とする。
【0009】
上記の構成によれば、TV会議装置などに用いられる画像入力装置において、TVカメラなどの画像入力手段で撮像された被写体の画像から、画像特定手段によって、人物、特にその顔面や資料などを含む分割画像が特定画像として認識され、その特定画像が画像処理手段で拡大される。
【0010】
したがって、操作者に煩雑な操作を要求することなく、該操作者の注目すべき前記特定の画像を認識して自動的に拡大することができ、操作性を向上することができる。また、特定画像の拡大を画像処理で行うので、画像入力手段に関連して、可動雲台やその制御回路等の構成を設ける必要はなく、小型化および低コスト化を図ることができる
【0011】
た、請求項の発明に係る画像入力装置は、上記構成において、上記画像特定手段が、複数の上記特定の画像から、認識される画像の形状に対応して、予め定められた優先順位に基づいて、いずれか1つの特定の画像を選択し、その特定の画像を包含する分割画像を上記特定画像として抽出することを特徴としている
【0012】
た請求項の発明に係る画像入力装置では、前記画像処理手段は、元の全画像の大きさまで拡大を行うことを特徴とする。
【0013】
上記の構成によれば、元の全画像の大きさに対応して決定されている通信回線等の伝送容量を充分に使用することができる。
【0014】
さらにまた請求項の発明に係る画像伝送装置は、前記請求項1または2に記載の画像入力装置と、前記画像入力装置で作成された画像信号を通信回線を介して伝送する伝送手段と、伝送されてきた画像信号に応答して画像表示を行う表示手段とを備えることを特徴とする。
【0015】
上記の構成によれば、上記の各画像入力装置のいずれかを用いて、たとえば監視カメラなどの一方向の画像伝送装置を実現することができる。
【0016】
また請求項の発明に係る画像伝送装置は、前記請求項1または2に記載の画像入力装置と、前記画像入力装置で作成された画像信号を通信回線を介して伝送する伝送手段と、伝送されてきた画像信号に応答して画像表示を行う表示手段とを、自局側と相手局側とのそれぞれに備えることを特徴とする。
【0017】
上記の構成によれば、上記各画像入力装置のいずれかを用いて、TV会議装置やTV電話装置などの双方向の画像伝送装置を実現することができる。
【0018】
さらにまた請求項の発明に係る画像伝送装置は、入力操作手段および入力処理手段を備え、前記入力処理手段は、前記入力操作手段からの出力に応答し、表示手段に、表示される画像上で入力操作手段で指示された位置に指標を合成して表示させるとともに、相手局側の画像処理手段に、前記指示された位置における画像または画像ブロックを前記特定画像または特定画像ブロックとして拡大させることを特徴とする。
【0019】
上記の構成によれば、前記請求項の一方向の画像伝送の構成に加えて、受信側となる相手局側では、カーソルなどの指標が表示され、マウスなどの入力操作手段からの入力操作によって前記指標を移動させて、その指標で指示された位置における画像または画像ブロックを所望とする特定画像または特定画像ブロックとして、認識させ拡大を行わせる。
【0020】
したがって、たとえば人物と資料となどのように、前記特定画像や特定画像ブロックが複数認識される場合、操作者の所望とする特定画像または特定画像ブロックを拡大することができる。
【0021】
また請求項の発明に係る画像伝送装置は、入力操作手段および入力処理手段を備え、前記入力処理手段は、前記入力操作手段からの出力に応答し、表示手段に、表示される画像上で入力操作手段で指示された位置に指標を合成して表示させるとともに、相手局側の画像処理手段に、前記指示された位置における画像または画像ブロックを前記特定画像または特定画像ブロックとして拡大させることを特徴とする。
【0022】
上記の構成によれば、前記請求項の双方向の画像伝送の構成に加えて、受信側となる相手局側では、カーソルなどの指標が表示され、マウスなどの入力操作手段からの入力操作によって前記指標を移動させて、その指標で指示された位置における画像または画像ブロックを所望とする特定画像または特定画像ブロックとして、認識させ拡大を行わせる。
【0023】
したがって、たとえば人物と資料となどのように、前記特定画像や特定画像ブロックが複数認識される場合、操作者の所望とする特定画像または特定画像ブロックを拡大させることができる。
【0024】
さらにまた請求項の発明に係る画像伝送装置では、前記表示手段は、表示すべき相手局側の画像とともに、相手局側の表示手段で表示されるべき自局側の画像を併せて表示することを特徴とする。
【0025】
上記の構成によれば、相手局側の操作者が自局側の画像のどこに注目しているのかを認識することができる。これによって、適切な指摘を行ったり、また会話の展開の方向を変更するなどの実際の会議により近い状態を再現することができ、円滑なコミュニケーションを図ることができる。
【0026】
また請求項の発明に係る画像伝送装置では、前記入力処理手段は、前記入力操作手段からの操作に応答して、自局側の画像上の位置にも前記指標を合成して表示するとともに、自局側の画像処理手段に、前記指示された位置における画像または画像ブロックを前記特定画像または特定画像ブロックとして拡大させることを特徴とする。
【0027】
上記の構成によれば、請求項の構成にさらに加えて、相手局側に注目を希望する部分を自局側で指摘することができ、さらに会議を円滑に進行することができるようになる。 また、請求項の発明に係る画像伝送装置は、請求項の構成において、上記入力操作手段がタッチパネルであることを特徴としている。
【0028】
さらにまた請求項10の発明に係る画像伝送装置は、前記伝送手段を介して伝送される画像信号を、第三者側の表示手段で傍受して表示可能とすることを特徴とする。
【0029】
上記の構成によれば、二者間の会議を第三者でも傍観することができる
【0030】
【発明の実施の形態】
発明の実施の第1の形態について、図1〜図6に基づいて説明すれば以下のとおりである。
図1は、本発明の実施の第1の形態の画像入力装置10の電気的構成を示すブロック図である。この画像入力装置10は、たとえばTV会議装置のカメラとして用いられ、大略的に、カメラ部12と、画像分割部13と、画像特定部14と、画像拡大部15とを備えて構成されている。
【0031】
画像入力手段であるカメラ部12は、CCDデジタルテレビジョンカメラなどで実現され、人物、または書類や図面等の資料などの被写体11を撮像し、その撮像画像に対応した画像データを画像分割部13へ出力する。
【0032】
画像分割部13は、カメラ部12での撮像画像を、たとえば図2で示すような多数の領域に分割を行う。この図2の例では、A1,A2,…,A48の(6×8=48)領域に分割する例を示している。また、前記撮像画像を前記領域A1〜A48(以下、総称するときには参照符Aで示す)で分割した例を図3で示している。
【0033】
画像特定部14は、画像分割部13からの画像を解析し、各分割画像のうちから、注目すべき特定の画像を包含する分割画像を特定画像として認識する。たとえば、前記図3の撮像画像の例では、人物の顔面P1を特定の画像とするときには、該顔面P1を構成する領域A10,A11,A12;A18,A19,A20;A26,A27,A28の分割画像を特定画像として認識し、人物の画像P2を特定の画像とするときには、領域A10,A11,A12;A18,A19,A20;A26,A27,A28;A34,A35,A36;A42,A43,A44の分割画像を特定画像として認識し、書類P3を特定の画像とするときには、領域A22,A23,A24;A30,A31,A32;A38,A39,A40の分割画像を特定画像として認識し、光源P4を特定の画像とするときには、領域A5,A6;A13,A14の分割画像を特定画像として認識する。
【0034】
図4は、画像特定部14の具体的構成を示すブロック図である。前記画像分割部13からの画像データは、エッジ抽出部141に入力され、輝度信号レベルの変化等から被写体のエッジが抽出される。エッジ抽出部141からの出力は、ブロック特定部142に入力され、前記各領域A内で、特定の画像として認識できる分割画像のブロックが特定される。
【0035】
ブロック特定部142からの出力は、顔面抽出部143に入力されており、この顔面抽出部143は、たとえば本件出願人が先に特開平7−65149号で提案した手法を適用して、顔面P1を構成する特定画像を求める。すなわち、まず所定フレームだけ隔てた画像データ間の絶対差分を求めて、動きのある領域を検出する。次に、その差分値のデータをX軸座標(水平方向)およびY軸座標(鉛直方向)に濃度投影して、動きのある領域の最上部(Y軸方向の最大値)を頭頂座標とし、またその頭頂座標が得られるX座標を人体の中央の座標とし、その中央の座標からX軸座標で所定範囲内の前記差分値のエッジを人体の顔の候補位置とする。
【0036】
一方、ブロック特定部142からの出力はまたデータ切換部144に入力されており、データ切換部144からは、顔面抽出部143で顔面P1が確認されたときには、前記ブロック特定部142からの出力のうち、顔面P1に関する分割画像の画像データが画像拡大部15へ出力され、こうして顔面P1が優先的に拡大される。
【0037】
図5は、上述の図4で示す画像特定部14の動作を説明するためのフローチャートである。ステップs1では、画像分割部13で作成された分割画像から顔面P1を表す分割画像が存在するか否かが判断され、存在するときにはステップs4において、その顔面P1を構成する分割画像が特定画像として抽出され、ステップs6において、その抽出された分割画像のデータが画像拡大部15へ出力される。
【0038】
また、前記ステップs1において、顔面P1が特定できなかったときには、ステップs2に移り、人物P2または書類P3等の前記顔面P1以外の特定すべき画像が存在するか否かが判断され、存在するときには、ステップs5において、その特定の画像のエッジから、該特定の画像を構成する分割画像が抽出された後、ステップs6において、抽出された分割画像のデータが画像拡大部15へ出力される。
【0039】
これに対して、前記ステップs2において、特定すべき画像が検出されないとき、すなわち単一色の背景のみのベタ画面等では、ステップs3において、前記画像拡大部15へ特定できないことを表すエラーメッセージデータが出力された後、ステップs1に戻る。
【0040】
このようにして画像認識が行われ、画像特定部14は、前述のように、顔面、人物、書類等の認識画像の中からいずれか1つを特定の画像として、その画像データを画像拡大部15へ出力する。
【0041】
画像拡大部15は、前記特定の画像を元の全画像の大きさまで拡大する。したがって、たとえば図6で示すように、図6(a)の元の画像に対して、顔面が選択されたときには、図6(b)で示す拡大画像が得られ、人物が選択されたときには、図6(c)で示す拡大画像が得られ、書類が選択されたときには、図6(d)で示す拡大画像が得られる。
【0042】
この画像拡大部15は、たとえば本件出願人が特開平7−288781号で示したように構成される。すなわち、2つのラインメモリに、ライン毎に交互に変換前の画像データを書込んでゆくようにし、出力は、変換前のラインと変換後のラインとの対応から、いずれか一方のラインメモリのみから、または2つのラインメモリからの出力にそれぞれ重付けすることによって行う。
【0043】
たとえば、拡大倍率が2.5倍であるときには、2本のラインの画像データを5本のラインに変換する必要があり、第1本目および第2本目のラインには、第1のラインメモリのみからの画像データが出力され、第3本目のラインには、第1および第2のラインメモリからの画像データがそれぞれ重み1/2で加算されて出力され、第4および第5のラインには、第2のラインメモリのみからの画像データが出力される。同様に、水平方向の各ドットの画像データも、変換前のドット数と変換後のドット数とに対応して変換が行われる。なお、画像の拡大手法は、このような手法に限らず、たとえば特開平4−185087号公報等で示されるような他の手法が用いられてもよい。
【0044】
画像拡大部15で拡大された特定画像のデータは、ライン16に出力され、該画像入力装置10がTV会議装置に用いられるときには、通信回線の通信規約に適応したデータ変換を行う送信回路などに入力され、またはパーソナルコンピュータなどの画像処理を行うことができる装置に入力される。またカメラ部12からは、ライン17に全画像のデータが出力されており、該画像入力装置10が前述のようにTV会議装置に用いられるときには、自局用のモニタ等に入力される。
【0045】
このようにして本発明に従う画像入力装置10では、図3で示すような原画像から、人物等の特定の画像を抽出して、図6で示すように、前記原画像の全画像の大きさまで画像処理によって自動的に拡大を行う。したがって、カメラ部12に関連して、可動雲台およびその制御回路などの煩雑な構成を設ける必要がなくなり、小型化および低コスト化を図ることができるとともに、操作性を向上することができる。
【0046】
また、前記送信回路から通信回線および受信回路を介して、表示装置等へ画像データを伝送するにあたって、前記通信回線等の伝送容量に規定されている全画像分のデータに、特定の画像のデータを出力するので、前記伝送容量を有効に使用することができる。すなわち、ライン17からの全画像データを伝送するようにし、受信側で画像を拡大するようにした場合には、拡大画像に要求される画質を満足するために伝送容量が増大してしまうのに対して、このように全画像の大きさまで拡大した画像のデータを伝送することによって、伝送容量をむやみに高く設定する必要がなくなる。
【0047】
なお、各領域Aにおける画素数が少ないとき、すなわち原画像が多数の分割画像に分割されているときには、特定の被写体以外の背景等の不要な部分をより少なくすることができる。
【0048】
前記特定の画像の選択は、たとえば顔面、人物、書類の順で、認識された画像の形状に対応して、優先順位を予め定めておくようにしてもよく、また元の全画像に対して最も拡大率が大きくなる認識画像を特定の画像とするようにしてもよい。
【0049】
本発明の実施の第2の形態について、図7〜図10に基づいて説明すれば以下のとおりである。
図7は、本発明の実施の第2の形態の画像入力装置20の電気的構成を示すブロック図である。この画像入力装置20は、前述の画像入力装置10に類似し、対応する部分には、同一の参照符号を付してその説明を省略する。
【0050】
注目すべきは、この画像入力装置20では、カメラ部12からの画像データは、ブロック分割部23において、図8で示すように、全画像のアスペクト比と等しいアスペクト比の画像ブロックB1,B2,…,B64(総称するときには、以下参照符Bで示す)に分割される。すなわち、全画像のライン数b1と、一水平走査線当りのドット数b2とに対して、各分割画像Bのライン数b1aと、ドット数b2aとが、b1:b2=b1a:b2aとなるように分割される。
【0051】
さらにブロック分割部23からの画像データは、ブロック特定部24において、前記人物等の特定の画像が映っている画像ブロックを包含するように、かつ全画像のアスペクト比を保持するように、1または複数の画像ブロックが特定画像ブロックとして認識される。すなわち、たとえば垂直方向に2つの画像ブロックが選択されると、水平方向にも2つの画像ブロックが選択されることになる。
【0052】
前記ブロック特定部24で特定された画像ブロックは、画像拡大部15において拡大される。したがって、前記図3および図6(a)と同様に、図9および図10(a)で示される原画像は、図10(b)〜図10(d)で示すように、画像ブロックが特定されて拡大される。
【0053】
すなわち、たとえば人物の顔面P1が特定されるときには、該画面P1が含まれる画像ブロックは、B10,B11,B12;B18,B19,B20;B26,B27,B28であり、ブロック特定部24は、アスペクト比を保持するために、さらに画像ブロックB13,B21,B29を加えて、図10(b)で示すように特定し、原画像の全画像の大きさまで拡大を行う。
【0054】
また、特定された画像が人物P2であるときには、該人物P2が含まれる画像ブロックB10,B11,B12;B18,B19,B20;B26,B27,B28;B34,B35,B36;B42,B43,B44;B50,B51,B52;B58,B59,B60に加えて、アスペクト比を保持するために、画像ブロックB13,B14,B15;B21,B22,B23;B29,B30,B31;B37,B38,B39;B45,B46,B47;B53,B54,B55;B61,B62,B63を加えて、図10(c)で示すように特定され、拡大が行われる。
【0055】
さらに書類P3が特定されたときには、該書類P3が含まれる画像ブロックB30,B31,B32;B38,B39,B40;B46,B47,B48;B54,B55,B56に加えて、図10(d)で示すように、アスペクト比を保持するために、画像ブロックB29,B37,B45,B53が特定され、拡大される。
【0056】
このように画像入力装置20では、原画像のアスペクト比を保持して特定画像の拡大を行うので、歪がなく、違和感のない自然な画像を形成することができる。また、前述のように画像入力装置10の構成で、アスペクト比を保持するためには領域Aの分割数を多くする必要があるのに対して、この画像入力装置20ののように予めアスペクト比を保持して分割するようにしておくことによって、分割数を少なくすることができ、画像分割部13に比べてブロック分割部23の回路構成を簡略化することができる。
【0057】
本発明の実施の第3の形態について、図11および図12に基づいて説明すれば以下のとおりである。
図11は、本発明の実施の第3の形態の画像入力装置30の電気的構成を示すブロック図である。この画像入力装置30は、前述の画像入力装置20に類似し、対応する部分には同一の参照符号を付してその説明を省略する。
【0058】
注目すべきはこの画像入力装置30では、ブロック分割部23からの画像データは、ブロック抽出部34において、前記ブロック特定部24でアスペクト比を保持するために付加された画像ブロックが、白色や黒色等のいわゆるベタ画面とされる。
【0059】
すなわち、前記図9および図10(a)と同一の図12(a)で示す原画像に対して、人物の顔面P1を抽出するときには、該顔面P1が含まれる画像ブロックB10,B11,B12;B18,B19,B20;B26,B27,B28のみが抽出され、前記図10(b)で付加された画像ブロックB13,B21,B29は、前記ベタ画面とされ、図12(b)で示すように拡大される。同様に、人物P2が抽出されるときおよび書類P3が抽出されるときには、それぞれ図12(c)および図12(d)で示すようになる。
【0060】
したがって、画像入力装置10に比べて、アスペクト比を保持した歪のない自然な画像で拡大することができ、かつ画像入力装置20に比べて、光源P4などの不要な被写体の映込みを少なくして、注目すべき部分のみを明瞭に抽出して拡大することができるとともに、通信データ量を少なくすることができる。
【0061】
本発明の実施の第4の形態について、図13〜図15に基づいて説明すれば以下のとおりである。
図13は、本発明の実施の第4の形態の画像入力装置40の電気的構成を示すブロック図である。この画像入力装置40は、前述の画像入力装置20に類似し、対応する部分には同一の参照符号を付してその説明を省略する。
【0062】
注目すべきは、この画像入力装置40では、ブロック分割部23からの画像データには、スーパーインポーズ部41において、図14において参照符SPで示す文字などのスーパーインポーズが行われる。したがって、ライン17に出力される全画像のデータは、このスーパーインポーズ部41から出力されることになる。このため、ブロック特定部24へ入力されるスーパーインポーズ部41からの全画像の画像データには、図14および図15(a)で示すように、カメラ部12からの画像データのアスペクト比が崩れた歪んだ画像となっている。(図14および図15(a)では、スーパーインポーズに伴って、画像の上下方向が圧縮されている。)このため、画像拡大部45は、スーパーインポーズ部41において崩れたアスペクト比を復元しつつ拡大を行う。
【0063】
したがって、前記図9および図10(a)で示す原画像に対して、図14および図15(a)で示すように、アスペクト比が崩れた歪んだ画像となっている原画像に対しても、前記図10(b)〜図10(d)で示す拡大画像と同様に、図15(b)〜図15(d)でそれぞれ示すように、正しいアスペクト比で拡大画像を得ることができる。
【0064】
なお、このように歪んだ原画像に対してアスペクト比を正常に復元するようにして拡大を行う手法は、前述の画像入力装置30に関しても同様に実施することができることは言うまでもない。
【0065】
本発明の実施の第5の形態について、図16に基づいて説明すれば以下のとおりである。
図16は、本発明の実施の第5の形態のTV会議装置100の構成を示す図である。このTV会議装置100は、自局側と相手局側との間で画像および音声を双方向に通信可能に構成されているものとし、この図16では、図面の簡略化のために、自局側から相手局側へ画像を伝送するための構成のみを示し、相手局側から自局側への画像を伝送するための構成および音声に関する構成は省略している。
【0066】
前記画像入力装置10,20,30,40のいずれかで構成される画像入力装置50(この図16の例では画像入力装置10の構成としている)からは、ライン17に全画像のデータが出力され、ライン16に拡大画像のデータが出力されている。これらの画像データは、自局側通信制御部101に入力されて、適宜選択および画像処理され、自局側通信制御部101からは、たとえばいずれか一方の画像データのみ、またはこの図16で示すように、全画像P0と拡大画像P1とを共通の画像内に形成したウインドウに嵌込んだ画像データが出力される。前記画像データは、自局側表示装置112において表示されるとともに、電話回線および交換機等で実現される通信回線102を介して、相手局側通信制御部111へ伝送される。前記画像データは、相手局側通信制御部111に関連して設けられた相手局側表示装置113に表示される。通信制御部101,111は、マイクロコンピュータおよびその周辺回路ならびにソフトウェア等によって実現される。
【0067】
相手局側通信制御部111に関連して、マウスやタッチパネルなどで実現される入力される入力操作部114が設けられている。この入力操作部114からの入力操作に応答して、相手局側表示装置113は、前記全画像P0内で前記入力操作部114からの操作に対応した位置に、指標である指示用ポインタ115を併せて表示している。この指示用ポインタ115で指示された位置の分割画像が前記特定の画像を構成していると判定されて、その位置の領域番号が相手局側通信制御部111から通信回線102を介して、自局側通信制御部101へ拡大エリア情報として送信される。
【0068】
自局側通信制御部101は、前記拡大エリア情報を受信すると、画像特定部14へ転送し、その指示された領域の分割画像を含む特定の画像を構成する分割画像が特定画像として認識されて、拡大画像P1が作成される。このように、入力操作部114を設けて、入力操作によって所望とする特定の画像を拡大するように構成することによって、相手局側の操作者が所望とする画像を任意に選択して拡大することができる。
【0069】
また、同様に自局側通信制御部101に関連して入力操作部116を設け、自局側の表示装置112にも指示用ポインタ117を表示するようにしてもよい。これによって、自局側の操作者は、相手局側の操作者に注目してほしい画像を拡大して伝送することができる。
【0070】
さらにまた、相手局側と自局側とで同じ画面を表示することによって、相手局側の操作者が自局側の画像のどこに注目しているのかを認識することができる。これによって、適切な指摘を行ったり、また会話の展開の方向を変更するなどの実際の会議により近い状態を再現することができ、円滑なコミュニケーションを図ることができる。
【0071】
本発明の実施の第6の形態について、図17に基づいて説明すれば以下のとおりである。
図17は、本発明の実施の第6の形態のTV会議装置120の構成を示す図である。このTV会議装置120は、前述のTV会議装置100に類似し、対応する部分には同一の参照符号を付してその説明を省略する。
【0072】
このTV会議装置120では、自局側と相手局側とのいずれか一方の通信制御部(この図17では自局側通信制御部121)に、通信回線122を介して、第三者側通信制御部127が接続されている。この第三者側通信制御部127で受信された画像データは、第三者側表示装置128に表示される。また、自局側通信制御部121に関連して、メモリなどで実現される画像記憶部126が接続されている。前記第三者側通信制御部127へは、自局側表示装置112で表示される画像が、画像記憶部126で一旦記憶された後、通信回線122を介して伝送され、第三者側表示装置128で表示される。
【0073】
このようにして、第三者が自局と相手局との間の会議を傍受することが可能となる。
【0074】
なお、第三者側の構成は、1局だけに限らず、多数局設けられていてもよい。
【0075】
本発明の実施の第7の形態について、図18に基づいて説明すれば以下のとおりである。
図18は、本発明の実施の第7の形態のTV会議装置130の構成を示す図である。このTV会議装置130において、前述のTV会議装置100,120に類似し、対応する部分には同一の参照符号を付してその説明を省略する。
【0076】
注目すべきは、このTV会議装置130では、複数(この図18では3)の端末局S,Sa,Sbが、ホストコンピュータ140を介して、相互に通信可能に構成されている。このTV会議装置130では、任意の端末局同志が当事者となって、自局側と相手局側との画像を確認しながら会話可能であり、第三者は、前記当事者と同一の画面を傍受可能に構成されている。なお、この図18の例では、端末局Sが自局となり、端末局Saが相手局となって、これらの当事者間で会話が行われ、残余の端末局Sbがそれを傍受していることを表している。
【0077】
端末局Sは、被写体11の画像を取込む前記画像入力装置50と、通信制御部131と、前記画像記憶部126と、入力操作部136と、表示装置132とを備えて構成されている。表示装置132には、自局側の全画像および拡大画像が表示されるとともに、相手局側の全画像および拡大画像が表示される。また、相手局側の全画像には、自局側で操作可能なポインタ135が併せて表示されている。
【0078】
同様の構成が端末局Sa,Sbにも設けられており、それぞれ対応する部分には、同一の参照符号に添字aまたはbを付して示している。この図18で示す例では、自局側となる端末局Sでは、相手局側の被写体11aの書類P3の拡大を指定しており、これに対して相手局側となる端末局Saでは、自局側の顔面P1の拡大が選択されている。
【0079】
各端末局S,Sa,Sbは、入力操作部136,136a,136bへの入力操作等によって、それぞれ自局が当事者となることができ、この場合、ホストコンピュータ140は、最後に発言した端末局をもう1つの当事者としてもよく、あるいは所定時間毎に当事者が入替わるなどの他の手法によって、当事者が選ばれてもよい。このようにして、多数の端末局間でコミュニケーションを図ることができる。
【0080】
なお、本発明の画像入力装置は、被写体を撮像し、画像を出力する画像入力手段と、前記画像入力手段からの画像を、アスペクト比を保持したまま、予め定める複数の画素数の画像ブロックに分割するブロック分割手段と、前記ブロック分割手段で分割された画像ブロックのうちから、元の全画像のアスペクト比と同一のアスペクト比で、特定の画像を包含する画像ブロックを特定画像ブロックとして認識するブロック特定手段と、前記ブロック特定手段で特定された特定画像ブロックのみを拡大する画像処理手段とを含む構成であってもよい。
【0081】
上記の構成によれば、特定画像のブロックを拡大するにあたって、前記画像ブロックが元の全画像のアスペクト比と同一のアスペクト比となるように選ばれる。
【0082】
したがって、元の全画像のアスペクト比を保持して、歪がなく、違和感のない拡大を行うことができる。
【0083】
さらにまた本発明の画像入力装置は、被写体を撮像し、画像を出力する画像入力手段と、前記画像入力手段からの画像を、アスペクト比を保持したまま、予め定める複数の画素数の画像ブロックに分割するブロック分割手段と、前記ブロック分割手段で分割された画像ブロックのうちから、特定の画像を包含する画像ブロックを特定画像ブロックとして認識するブロック抽出手段と、前記ブロック抽出手段で抽出された特定画像ブロックのみを、アスペクト比を保持したまま拡大する画像処理手段とを含む構成であってもよい。
【0084】
上記の構成によれば、注目すべき部分のみが特定画像のブロックとして、アスペクト比を保持して拡大され、表示手段上で前記特定画像のブロック以外となる部分には、画像が表示されず、たとえば黒色や白色の背景となる。
【0085】
したがって、注目すべき部分のみを明瞭に抽出して拡大表示することができるとともに、通信データ量を少なくすることができる。
【0086】
また本発明の画像入力装置は、被写体を撮像し、画像を出力する画像入力手段と、前記画像入力手段からの画像を予め定める複数の画素数の分割画像に分割する画像分割手段と、前記画像分割手段で分割された分割画像のうちから、元の全画像のアスペクト比と同一のアスペクト比で、特定の画像を包含する画像ブロックを特定画像ブロックとして認識するブロック特定手段と、前記ブロック特定手段で特定された特定画像ブロックのみを拡大する画像処理手段とを含む構成であってもよい。
【0087】
上記の構成によれば、アスペクト比に左右されず、微少な区画に分割されている分割画像から、特定画像のブロックが元の全画像のアスペクト比を保持するように抽出される。
【0088】
したがって、拡大すべき部分をきめ細かく選択することができるようになり、またこれによって、拡大倍率も大きな値を得ることができる。
【0089】
さらにまた本発明に係る画像入力装置は、被写体を撮像し、画像を出力する画像入力手段と、前記画像入力手段からの画像を予め定める複数の画素数の分割画像に分割する画像分割手段と、前記画像分割手段で分割された分割画像のうちから、特定の画像を包含する分割画像を特定画像として認識する画像特定手段と、前記画像特定手段で特定された特定画像のみを所望とするアスペクト比で拡大する画像処理手段とを含む構成であってもよい。
【0090】
上記の構成によれば、元の全画像とは異なる所望とするアスペクト比で拡大することができる。
【0091】
したがって、元の画像が、スーパーインポーズやテロップが挿入されるなどして、画像入力手段で撮像された画像のアスペクト比から歪んでいても、撮像手段のアスペクト比と同一のアスペクト比に復元することができる。したがって、元の画像が歪んでいても、自然な画像に復元して拡大を行うことができる。
【0092】
また、本発明の画像入力装置は、上記画像特定手段が、複数の上記特定の画像から、認識される画像のうち元の全画像に対して最も拡大率が大きくなる上記分割画像を、上記特 定画像として抽出する構成であってもよい。
【0093】
【発明の効果】
請求項1の発明に係る画像入力装置は、以上のように、TV会議装置などに用いられる画像入力装置において、被写体を撮像した画像の分割画像のうちから、人物、特にその顔面や資料などの特定の画像を包含する分割画像を拡大する。
【0094】
それゆえ、操作者に煩雑な操作を要求することなく、該操作者の注目すべき前記特定の画像を自動的に拡大することができ、操作性を向上することができる。また、特定画像の拡大を画像処理で行うので、画像入力手段に関連して、可動雲台やその制御回路等の構成を設ける必要はなく、小型化および低コスト化を図ることができる
【0095】
た、請求項の発明に係る画像入力装置は、上記構成において、複数の特定の画像から、認識される画像の形状に対応して、予め定められた優先順位に基づいて、いずれか1つの特定の画像を選択し、その特定の画像を包含する分割画像を特定画像として抽出する。
【0096】
また請求項の発明に係る画像入力装置は、以上のように、元の全画像の大きさまで拡大を行う。
【0097】
それゆえ、元の全画像の大きさに対応して決定されている通信回線等の伝送容量を充分に使用することができる。
【0098】
さらにまた請求項の発明に係る画像伝送装置は、以上のように、前記請求項1または2のいずれかに記載の画像入力装置と、前記画像入力装置で作成された画像信号を通信回線を介して伝送する伝送手段と、伝送されてきた画像信号に応答して画像表示を行う表示手段とを備える。
【0099】
それゆえ、上記の各画像入力装置のいずれかを用いて、たとえば監視カメラなどの一方向の画像伝送装置を実現することができる。
【0100】
また請求項の発明に係る画像伝送装置は、以上のように、前記請求項1または2に記載の画像入力装置と、前記画像入力装置で作成された画像信号を通信回線を介して伝送する伝送手段と、伝送されてきた画像信号に応答して画像表示を行う表示手段とを、自局側と相手局側とのそれぞれに備える。
【0101】
それゆえ、上記各画像入力装置のいずれかを用いて、TV会議装置やTV電話装置などの双方向の画像伝送装置を実現することができる。
【0102】
さらにまた請求項の発明に係る画像伝送装置は、以上のように、前記請求項の一方向の画像伝送の構成に加えて、表示される画像上で入力操作手段で指示された位置にカーソルなどの指標を合成して表示するとともに、前記指示された位置における画像または画像ブロックを拡大する。
【0103】
それゆえ、たとえば人物と資料となどのように、前記特定画像や特定画像ブロックが複数認識される場合、操作者の所望とする特定画像または特定画像ブロックを拡大することができる。
【0104】
また請求項の発明に係る画像伝送装置は、以上のように、前記請求項の双方向の画像伝送の構成に加えて、表示される画像上で入力操作手段で指示された位置にカーソルなどの指標を合成して表示するとともに、前記指示された位置における画像または画像ブロックを拡大する。
【0105】
それゆえ、たとえば人物と資料となどのように、前記特定画像や特定画像ブロックが複数認識される場合、操作者の所望とする特定画像または特定画像ブロックを拡大することができる。
【0106】
さらにまた請求項の発明に係る画像伝送装置は、以上のように、相手局側の画像とともに、自局側の画像を併せて表示する。
【0107】
それゆえ、相手局側の操作者が自局側の画像のどこに注目しているのかを認識することができる。これによって、適切な指摘を行ったり、また会話の展開の方向を変更するなどの実際の会議により近い状態を再現することができ、円滑なコミュニケーションを図ることができる。
【0108】
また請求項の発明に係る画像伝送装置は、以上のように、自局側の画像上の位置に前記指標を合成して表示するとともに、指示された位置における画像または画像ブロックを拡大する。
【0109】
それゆえ、請求項の構成にさらに加えて、相手局側に注目を希望する部分を自局側で指摘することができ、さらに会議を円滑に進行することができるようになる。
【0110】
また、請求項の発明に係る画像伝送装置は、以上のように、請求項の構成において、入力操作手段がタッチパネルである。
【0111】
さらにまた請求項10の発明に係る画像伝送装置は、以上のように、前記伝送手段を介して伝送される画像信号を、第三者側の表示手段で傍受して表示可能とする。
【0112】
それゆえ、二者間の会議を第三者でも傍観することができる。
【図面の簡単な説明】
【図1】本発明の実施の第1の形態の画像入力装置の電気的構成を示すブロック図である。
【図2】図1で示す画像入力装置における画像分割例を示す図である。
【図3】前記図2での画像分割例による撮像画像の分割例を示す図である。
【図4】図1で示す画像入力装置の画像特定部の具体的構成を示すブロック図である。
【図5】前記画像特定部の動作を説明するためのフローチャートである。
【図6】前記図1で示す画像入力装置の機能を説明するための図である。
【図7】本発明の実施の第2の形態の画像入力装置の電気的構成を示すブロック図である。
【図8】図7で示す画像入力装置における画像分割例を示す図である。
【図9】前記図8での画像分割例による撮像画像の分割例を示す図である。
【図10】前記図7で示す画像入力装置の機能を説明するための図である。
【図11】本発明の実施の第3の形態の画像入力装置の電気的構成を示すブロック図である。
【図12】前記図11で示す画像入力装置の機能を説明するための図である。
【図13】本発明の実施の第4の形態の画像入力装置の電気的構成を示すブロック図である。
【図14】前記図13で示す画像入力装置の機能を説明するための図である。
【図15】前記図13で示す画像入力装置の機能を説明するための図である。
【図16】前記各画像入力装置を用いる本発明の実施の第5の形態のTV会議装置の構成を示す図である。
【図17】本発明の実施の第6の形態のTV会議装置の構成を示す図である。
【図18】本発明の実施の第7の形態のTV会議装置の構成を示す図である。
【符号の説明】
10 画像入力装置
11 被写体
12 カメラ部(画像入力手段)
13 画像分割部(画像分割手段)
14 画像特定部(画像特定手段)
15 画像拡大部(画像処理手段)
20 画像入力装置
23 ブロック分割部(ブロック分割手段)
24 ブロック特定部(ブロック特定手段)
30 画像入力装置
34 ブロック抽出部(ブロック抽出手段)
40 画像入力装置
41 スーパーインポーズ部
45 画像拡大部(画像処理手段)
50 画像入力装置
100 TV会議装置(画像伝送装置)
101 自局側通信制御部(伝送手段)
102 通信回線(伝送手段)
111 相手局側通信制御部(伝送手段)
112 自局側表示装置(表示手段)
113 相手局側表示装置(表示手段)
114 入力操作部(入力操作手段)
115 指示用ポインタ(指標)
116 入力操作部(入力操作手段)
117 指示用ポインタ(指標)
120 TV会議装置(画像伝送装置)
121 自局側通信制御部(伝送手段)
122 通信回線(伝送手段)
126 画像記憶部
127 第三者側通信制御部(伝送手段)
128 第三者側表示装置(表示手段)
130 TV会議装置(画像伝送装置)
131 通信制御部(伝送手段)
132 表示装置
135 ポインタ(指標)
136 入力操作部(入力操作手段)
140 ホストコンピュータ
141 エッジ抽出部
142 ブロック特定部
143 顔面抽出部
144 データ切換部
A 領域(分割画像)
B 画像ブロック
P1 顔面
P2 人物
P3 書類
S 端末局
Sa 端末局
Sb 端末局

Claims (10)

  1. 被写体を撮像し、画像を出力する画像入力手段と、
    前記画像入力手段からの画像を予め定める複数の画素数の分割画像に分割する画像分割手段と、
    前記画像分割手段で分割された分割画像のうちから、特定の画像を包含する分割画像を特定画像として認識する画像特定手段と、
    前記画像特定手段で特定された特定画像のみを拡大する画像処理手段とを含み、
    前記画像特定手段は、複数の上記特定の画像から、認識される画像の形状に対応して、予め定められた優先順位に基づいて、いずれか1つの特定の画像を選択し、その特定の画像を包含する分割画像を上記特定画像として抽出することを特徴とする画像入力装置。
  2. 前記画像処理手段は、元の全画像の大きさまで拡大を行うことを特徴とする請求項1に記載の画像入力装置。
  3. 前記請求項1または2に記載の画像入力装置と、
    前記画像入力装置で作成された画像信号を通信回線を介して伝送する伝送手段と、
    伝送されてきた画像信号に応答して画像表示を行う表示手段とを備えることを特徴とする画像伝送装置。
  4. 前記請求項1または2に記載の画像入力装置と、
    前記画像入力装置で作成された画像信号を通信回線を介して伝送する伝送手段と、
    伝送されてきた画像信号に応答して画像表示を行う表示手段とを、自局側と相手局側とのそれぞれに備えることを特徴とする画像伝送装置。
  5. 入力操作手段および入力処理手段を備え、前記入力処理手段は、前記入力操作手段からの出力に応答し、表示手段に、表示される画像上で入力操作手段で指示された位置に指標を合成して表示させるとともに、相手局側の画像処理手段に、前記指示された位置における画像または画像ブロックを前記特定画像または特定画像ブロックとして拡大させることを特徴とする請求項3記載の画像伝送装置。
  6. 入力操作手段および入力処理手段を備え、前記入力処理手段は、前記入力操作手段からの出力に応答し、表示手段に、表示される画像上で入力操作手段で指示された位置に指標を合成して表示させるとともに、相手局側の画像処理手段に、前記指示された位置における画像または画像ブロックを前記特定画像または特定画像ブロックとして拡大させることを特徴とする請求項4記載の画像伝送装置。
  7. 前記表示手段は、表示すべき相手局側の画像とともに、相手局側の表示手段で表示されるべき自局側の画像を併せて表示することを特徴とする請求項6記載の画像伝送装置。
  8. 前記入力処理手段は、前記入力操作手段からの操作に応答して、自局側の画像上の位置にも前記指標を合成して表示するとともに、自局側の画像処理手段に、前記指示された位置における画像または画像ブロックを前記特定画像または特定画像ブロックとして拡大させることを特徴とする請求項7記載の画像伝送装置。
  9. 上記入力操作手段がタッチパネルであることを特徴とする、請求項5〜8のいずれかに記載の画像伝送装置。
  10. 前記伝送手段を介して伝送される画像信号を、第三者側の表示手段で傍受して表示可能とすることを特徴とする請求項3〜9のいずれかに記載の画像伝送装置。
JP4018396A 1996-02-27 1996-02-27 画像入力装置およびそれを用いる画像伝送装置 Expired - Fee Related JP3585625B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4018396A JP3585625B2 (ja) 1996-02-27 1996-02-27 画像入力装置およびそれを用いる画像伝送装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4018396A JP3585625B2 (ja) 1996-02-27 1996-02-27 画像入力装置およびそれを用いる画像伝送装置

Publications (2)

Publication Number Publication Date
JPH09233384A JPH09233384A (ja) 1997-09-05
JP3585625B2 true JP3585625B2 (ja) 2004-11-04

Family

ID=12573679

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4018396A Expired - Fee Related JP3585625B2 (ja) 1996-02-27 1996-02-27 画像入力装置およびそれを用いる画像伝送装置

Country Status (1)

Country Link
JP (1) JP3585625B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4535133B2 (ja) * 2001-09-21 2010-09-01 カシオ計算機株式会社 情報出力装置、情報出力方法、及び、プログラム
US20030174146A1 (en) * 2002-02-04 2003-09-18 Michael Kenoyer Apparatus and method for providing electronic image manipulation in video conferencing applications
DE60320169T2 (de) 2002-05-02 2009-04-09 Sony Corp. Überwachungssystem und Verfahren sowie zugehöriges Programm- und Aufzeichnungsmedium
EP1359553B1 (en) 2002-05-02 2012-10-10 Sony Corporation Monitoring system, monitoring method, computer program and storage medium
JP3714925B2 (ja) * 2002-08-09 2005-11-09 京セラ株式会社 無線通信端末装置
US7697025B2 (en) 2002-08-28 2010-04-13 Sony Corporation Camera surveillance system and method for displaying multiple zoom levels of an image on different portions of a display
US20040207743A1 (en) 2003-04-15 2004-10-21 Nikon Corporation Digital camera system
CN100448267C (zh) 2004-02-06 2008-12-31 株式会社尼康 数码相机
JP4352980B2 (ja) 2004-04-23 2009-10-28 オムロン株式会社 拡大表示装置及び拡大画像制御装置
JP2005323015A (ja) * 2004-05-07 2005-11-17 Nikon Gijutsu Kobo:Kk デジタルカメラ
JP4720167B2 (ja) * 2004-12-03 2011-07-13 株式会社ニコン 電子カメラおよびプログラム
EP2448247A1 (en) 2005-11-02 2012-05-02 Olympus Corporation An image processor for electronic camera
JP2011066745A (ja) * 2009-09-18 2011-03-31 Brother Industries Ltd 端末装置、通信方法および通信システム
CN109873980B (zh) * 2019-01-24 2020-08-21 深圳市景阳信息技术有限公司 视频监控方法、装置及终端设备
JP7126539B2 (ja) * 2020-12-18 2022-08-26 インターデイジタル マディソン パテント ホールディングス ソシエテ パー アクシオン サンプリフィエ ビデオ再生方法、端末、およびシステム

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2536868B2 (ja) * 1987-04-16 1996-09-25 富士写真フイルム株式会社 マルチ画像トリミング装置
JPH0486172A (ja) * 1990-07-30 1992-03-18 N T T Data Tsushin Kk マルチ画像表示方法
JPH0564184A (ja) * 1991-08-29 1993-03-12 Fujitsu Ltd Tv会議システムの画面構成方式
JPH05336516A (ja) * 1992-05-29 1993-12-17 Canon Inc 画像通信装置
JPH06113295A (ja) * 1992-09-29 1994-04-22 Toshiba Corp テレビ電話装置
JP3398412B2 (ja) * 1993-03-05 2003-04-21 ソニー株式会社 マルチ表示システム
JPH0759000A (ja) * 1993-08-03 1995-03-03 Canon Inc 画像送信システム

Also Published As

Publication number Publication date
JPH09233384A (ja) 1997-09-05

Similar Documents

Publication Publication Date Title
JP3585625B2 (ja) 画像入力装置およびそれを用いる画像伝送装置
US5073926A (en) Picture communication apparatus
JP2007264141A (ja) 映像表示装置
US20120127261A1 (en) Teleconferencing device and image display processing method
CN104679463A (zh) 分割显示画面并传至不同显示装置显示的显示装置及方法
JP2008294815A (ja) 情報端末装置
US11889228B2 (en) Conference device with multi-videostream capability
JP3122844U (ja) デジタルイメージズームシステム
US7565614B2 (en) Image data processing apparatus and image data processing method for a video conference system
US9263001B2 (en) Display control device
JP2008098828A (ja) 携帯端末装置
JPH08139994A (ja) 画像合成システム
KR100815121B1 (ko) 이동통신 단말기에서 화면을 분할하여 선택영역을확대하기 위한 방법
CN111953918B (zh) 一种视频单呼中的视频采集处理方法和***
US9542720B2 (en) Terminal device, image display method, and storage medium
JP3393168B2 (ja) 画像入力装置
JP2005080043A (ja) デジタルカメラ
JP4811249B2 (ja) 遠隔指示システム
EP4050890A1 (en) Conference device with multi-videostream control
US20040137957A1 (en) Mobile communication terminal with built-in digital camera and photographing method using the same
JP2006128951A (ja) 遠隔描画装置、システムおよび遠隔描画方法
JP2018082221A (ja) インターホンシステム
JPH05130598A (ja) テレビ会議システム
JPH02191018A (ja) 描画データ入力装置及び画像処理装置
JPH033586A (ja) 画像伝送装置

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040512

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20040517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040803

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040804

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070813

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080813

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080813

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090813

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090813

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100813

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110813

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110813

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120813

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120813

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130813

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees