JP5903936B2 - 情報の選択及び切り替えのための方法、記憶媒体及び装置 - Google Patents

情報の選択及び切り替えのための方法、記憶媒体及び装置 Download PDF

Info

Publication number
JP5903936B2
JP5903936B2 JP2012047972A JP2012047972A JP5903936B2 JP 5903936 B2 JP5903936 B2 JP 5903936B2 JP 2012047972 A JP2012047972 A JP 2012047972A JP 2012047972 A JP2012047972 A JP 2012047972A JP 5903936 B2 JP5903936 B2 JP 5903936B2
Authority
JP
Japan
Prior art keywords
information
signal
local
remote
stream
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012047972A
Other languages
English (en)
Other versions
JP2012186805A (ja
Inventor
バラス ジョン
バラス ジョン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Publication of JP2012186805A publication Critical patent/JP2012186805A/ja
Application granted granted Critical
Publication of JP5903936B2 publication Critical patent/JP5903936B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Calculators And Similar Devices (AREA)

Description

本発明の実施形態は、一般に電子的連携(electronic collaboration)に関し、特に連携装置(collaborative system)により表示された情報を自動的に選択しかつ変更する技術に関する。
テレビ会議は、2つまたはそれ以上の遠隔地に位置された関係者間の「フェイスツーフェイス(face−to−face)」での映像/音声のやりとりを容易にするために広く使われている。例えば、LifeSize通信社により提供されるLifeSize Room 220のようなテレビ会議装置では、ユーザは、会議参加者の表示とコンピュータの表示とを切り替えることができる。この切り替えは、遠隔制御のボタンを使用してシステムのユーザにより手動にて行われる。しかしながら、ほとんどのユーザは遠隔制御の使用方法を知らないため、これは大変厄介である。たとえ遠隔制御の使用が既知であったとしても、要求される手動の切り替えは、特に、行ったり来たりの討論タイプのシナリオで、その処理を非常に扱いにくくさせる。
本発明の実施形態は、表示された情報を自動的に選択する技術に関する。表示された情報は、1またはそれ以上の事前に設定された条件の変更に応じて自動的にかつ動的に変更され得る。
一実施形態では、方法、装置、及びデータが固定化された(non−transitory)コンピュータ読み取り可能な記憶媒体に記憶された複数の実行可能な命令群を含む技術が、表示される情報を選択するために提供される。第1の装置は、第1の情報に基づき、条件に合致するかを決定してもよい。そして、第1の装置は、条件をチェックした結果に基づき信号を生成してもよい。第1の組の1またはそれ以上の情報ストリームを含む信号は、前記条件に合致するとの決定に基づき生成されてもよい。第2の組の1またはそれ以上の情報ストリームを含む信号は、前記条件に合致しないとの決定に基づき生成されてもよい。前記第2の組の情報ストリームは、前記第1の組の情報ストリームと異なっていてもよい。例えば、前記第2の組の情報ストリームは、前記第1の組の情報ストリームを含まない、少なくとも1つの情報ストリームを含んでもよい。そして、前記第1の装置は、前記信号に含まれる前記第1の組又は前記第2の組の情報ストリームに対応する情報が表示されるように前記生成された信号を出力させてもよい。
前記条件は、異なるタイプであってもよい。一実施形態では、前記条件は位置情報に基づくものである。そのような形態では、前記第1情報は、第1のオブジェクトの位置を示す情報を含んでもよい。例えば、前記第1情報は、深度センサ(depth sensor)、近接センサ(proximity sensor)又は圧力センサにより生成されたデータを含んでもよい。
一実施形態では、前記第1のオブジェクトが第2のオブジェクトから所定距離内に位置しているとき、前記条件に合致しているとしてもよい。例えば、前記第2のオブジェクトは描画面(drawing surface)であってもよく、前記第1のオブジェクトは該描画面を使用するユーザであってもよい。
前記第1の組の情報ストリーム及び前記第2の組の情報ストリームは、異なるタイプの情報を含む1またはそれ以上のストリームをそれぞれ有してもよい。例えば一実施形態では、前記第1の組の情報ストリームは、第1の装置から遠隔に配置された第2の装置にて取得された描画のデジタル表示を有する第1ストリームと、前記第1の装置にて取得された描画のデジタル表示を有する第2ストリームと、含んでもよい。前記第2の組の情報ストリームは、前記第2の装置にて取得された映像ストリームを有する第3ストリームと、前記第1の装置にて取得された映像ストリームを有する第4ストリームと、含んでもよい。
一実施形態では、前記条件に合致すると決定されることができ、そして第1の組の1又はそれ以上の情報ストリームを有する信号が生成されることができる。第1の組の1又はそれ以上の情報ストリームを有する前記信号を生成することに続いて、前記条件に合致しないと決定されてもよい。前記条件に合致しないとの決定に応答して、変更された信号に前記第1の組の情報ストリームの替わりに第2の組の1またはそれ以上の情報ストリームが含まれるように、前記変更された信号を生成するために前記信号を変更してもよい。そして、第1の装置は、前記変更された信号に含まれる前記第2の組の情報ストリームに対応する情報が表示されるように、前記変更された信号を出力させてもよい。そのような一実施形態では、前記第1の組の情報ストリームは、前記第1の装置から遠隔に配置された第2の装置にて取得された描画のデジタル表示を有する第1ストリームと、前記第1の装置にて取得された描画のデジタル表示を有する第2ストリームと、を含んでもよい。前記第2の組の情報ストリームは、前記第2の装置にて取得された映像ストリームを有する第3ストリームと、前記第1の装置にて取得された映像ストリームを有する第4ストリームと、を含んでもよい。
上述の記載は、以下の明細書、クレーム、及び添付図面を参照したとき、その他の特徴及び態様とともに、より明らかになるであろう。
本発明の一実施形態に従った連携装置の簡易化されたブロック図である。 本発明の一実施形態に従った、複数の連携装置がネットワーク化され得る環境での簡易化されたブロック図である。 本発明の一実施形態に従った連携装置により遂行され得る処理フロー図である。 本発明の一実施形態に従った、描画面上への投影のために生成され得る映像信号の簡易化された描写である。 発明の一実施形態に従った、描画面上への投影のために生成され得る映像信号の簡易化された描写である。 本発明の一実施形態に従った、画面上に表示可能な映像ストリームを有する情報の簡易化された描写である。 本発明の一実施形態に従った、画面上に表示され得る撮像画像に対応するデジタル表示を有する情報の簡易化された描写である。 本発明の一実施形態に従ったローカル制御装置の簡易化されたブロック図を示す。 本発明の一実施形態に従った連携セッションに参加している連携装置によって遂行される処理を示す簡易化されたフローチャートを示す。 本発明の一実施形態に従ったコンピュータ装置の簡易化されたブロック図である。
以下の記載では、本発明の実施形態の理解を提供するという説明の目的のために、多数の詳細が示される。しかしながら、当業者であれば、ある実施形態はこれらのいくつかの詳細がなくても実施し得ることは明らかであろう。
図1は、本発明の一実施形態に従った連携装置100の簡易化されたブロック図である。示されるように、連携装置100は、描画面102、描画取得装置104、ビデオカメラ106、マイクロホン108、制御装置110及びプロジェクタ112を含み得る。
描画面102(又はディスプレイ面またはホワイトボードとも呼ばれる)は、連携装置100の入力及び出力インタフェイスの両方として動作可能である。入力インタフェイスとして、描画面102は、ユーザ(例えばユーザ114)によって作成された描画(drawings)(ライティング(writings)とも呼ばれる)を受け取り可能である。描画面102は、描画取得装置104と連携して、それらの描画を電子的な形式で撮影する。出力インタフェイスとして、描画面102は、撮像された描画及び遠隔連携装置(例えば装置118)から受信した情報を含む映像信号を表示可能である。ある実施形態では、映像信号は、プロジェクタ112のようなフロントプロジェクタ(front projector)により描画面102上に投影され得る。
本開示の目的のために、「描画(drawing)」、「ライティング(writing)」、「ライティング情報(writing information)」、「描画情報(drawing information)」の言葉は、1つまたはそれ以上のキャラクタ(character)、文字(letter)、シンボル(symbol)、単語(word)、文(sentence)、テーブル(tables)、描画(drawings)、スケッチ(sketches)、図形(figures)又はライティング手段116を用いて提供され得る他のあらゆる入力を含み得る。他の例としては、ライティング又は描画は、いずれかの言語又はフォーマットで表された、手書き文字、数字又はシンボルを含むことができる。更に他の例としては、ライティング又は描画は、手で描いた絵及びテキストの構成要素の組み合わせを有することができる。
描画面102は、いずれのタイプの画面、ボード、スクリーン、又はユーザによる描画も可能であって画面上に投影して情報を表示可能なその他の物理的な媒体、を用いて実行され得る。いくつかの実施形態では、描画面102は、従来のホワイトボード又は対話型ホワイトボードに近い寸法を有し得る。例えば、特定の実施形態では、描画面102は、幅が少なくとも36インチ及び高さが少なくとも24インチであり得る。ある実施形態では、描画面102は、テレビ(TV)、ハイビジョンテレビ(HDTV)、ワイドXGA(WXGA)、の産業基準アスペクト比である4:3、16:9又は16:10のアスペクト比を有することが可能である。更なる形態では、描画面102は、壁やその他の垂直面に取り付けられることを可能にする奥行きを持っていてもよい。例えば、特定の実施形態では、描画面102は、6インチより小さい奥行きを有してもよい。
ある実施形態では、ユーザ114は、ライティング手段116のような、1又はそれ以上のライティング手段を用いて描画面102上に描くことができる。一般的に言えば、ライティング手段116は、描画面102上へのストローク(stroke)を確定するために使用可能などんなタイプの物理的な物であることもできる。ある実施形態では、ライティング手段116は、たとえばユーザ114の指又は電気的ポインタ又はスタイラスのように、描画面102に使われたとき、どんな視覚的に見えるマークも残さない道具であることができる。他の形態では、ライティング手段116は、たとえばペン又は従来のホワイトボードマーカ(dry erase marker)のように、視覚的に見えるマークを残すように設計された道具であることができる。一実施形態では、描画面102は、ユーザが同時に多数のマークを付けることができるように、同時に多数のタッチを感知することが可能である。
ライティング手段116の性質によらず、ライティング手段116を使用して描画面102上にライティング手段116でユーザ114が書いた描画は、描画取得装置104により撮影され得る。特に、一実施形態では、描画取得装置104は、1又はそれ以上のセンサ及び/又は他のコンポーネントを含み得る。1又はそれ以上のセンサ及び/又は他のコンポーネントは、ユーザ114が描画面102に接触して(又は実質的に近接して)ライティング手段116を位置付け、描画又はライティングの目的のために画面上でライティング手段116を移動するとき、描画取得装置104が検知できるようにする。
ある実施形態では、描画取得装置104は、描画面102の全体部であり得る。例えば、描画取得装置104は、描画面102に内蔵されたタッチ又はマルチタッチセンサ(例えば、容量性の、抵抗性の、感圧性の等)を具備し得る。これらの内蔵されたセンサは、ライティング手段116が描画面102に対して位置づけられるときを検出し、画面上でのライティング手段116の移動を示すセンサデータのストリームを生成することができる。これらの実施形態では、タッチ又はマルチタッチセンサはまた、例えば検出された総圧力又は画面102と接触するライティング手段116の面積によりユーザ114が画面102上で描く力を検出し得る。
別の実施形態では、描画取得装置104は描画面102から物理的に分離され得る。例えば、描画取得装置104は、描画面102の前に位置づけられ、かつライティング手段116を用いて画面102上に描かれた任意の目に見えるマークの画像を撮影するように構成された1又はそれ以上のカメラを具備し得る。他の例として、描画取得装置104は、描画面102の外部に存在し、画面102上に描くためにユーザ114により用いられたとき、ライティング手段116の動作を(二次元又は三次元のいずれかで)取り込むように構成された1又はそれ以上のセンサを具備し得る。
いくつかの実施形態では、描画取得装置104は、描画取得を容易にするためにライティング手段116と通信によるリンクがなされ得る。このリンクは、有線又は無線(例えば、赤外(IR)、無線周波数(RF)、電磁気)のリンクであり得る。
ビデオカメラ106は、描画面102内に内蔵され、画面102の前方領域の映像を撮るように構成される、従来の又は特別の映像撮影デバイスであり得る。ある実施形態では、ビデオカメラ106は、カメラを調整するために描画面102内で必要とされる開口が、スレッショルドサイズを超えないように相対的に小さなフロントレンズ要素を有するように設計され得る。
一実施形態では、ビデオカメラ106は、彼又は彼女が描画面102と向かい合うとき、ユーザ114の正面像を含むユーザ114の映像ストリームを撮影することができる。下記で更に詳細を述べるように、この映像ストリームは、遠隔連携装置118に転送され得る。これにより、遠隔連携装置118のユーザは、「フェイスツーフェイス」のテレビ会議にユーザ114とともに参加することができる。
特定の実施形態では、ビデオカメラ106は、ギラギラする光を避け、迷光(例えばプロジェクタ112からの光)を抑止するために描画面102の前面からわずかに内側に配置され得る。例えば、ビデオカメラ106は、1/2インチよりも小さく描画面102の前面から内側に配置され得る。
ビデオカメラ106により行われる映像撮影と並行して、マイクロホン108は、描画面102の近くの音声情報を取得し得る。例えば、マイクロホン108は、彼又は彼女が描画面102の前にいる間、ユーザ114が話した言葉を含む音声ストリームを取得するように構成され得る。一実施形態では、この音声ストリームは、テレビ会議セッション中、ビデオカメラ106により撮られた映像ストリームと同期して、映像ストリームとともに遠隔連携装置118まで転送され得る。マイクロホン108は図1では描画面102に埋め込まれているように示されているが、いくつかの実施形態では、マイクロホン108は画面102から分離することができる。更に、マイクロホン108は図1にではビデオカメラ106から分けられるように示されているが、いくつかの実施形態では、マイクロホン108はカメラ106と一体化され得る。
制御装置110は、連携装置100の様々なコンポーネントを連携するために、かつ連携装置100によって連携機能が提供できるように、中央処理コンポーネントとして動作し得る。ある実施形態では、制御装置110は、例えば後述する図10に対して記述されたシステム1000のようなコンピュータ装置を用いて実行され得る。別の実施形態では、制御装置110は、プロセッサ、プログラマブル論理デバイス等を用いて実行され得る。
図1に示されるように、制御装置110は、描画面102、描画取得装置104、プロジェクタ112及び遠隔連携装置118と通信接続され得る。ある実施形態では、制御装置110は、描画面102から撮られた1又はそれ以上の描画に対応する描画取得装置104からの情報を受信し得る。制御装置110は、それから、撮られた描画を表示するデジタル情報を決定するために受信された情報を処理し得る。例えば、描画取得装置104から受信された情報は、例えば圧力読み込み、二次元(又は三次元)座標等のセンサデータの生データを含み得る。制御装置110は、例えば時系列のストローク、画素ベース画像(a pixel−based image)、標準又はフォーマットされたテキストのように、撮られた描画の高水準デジタル表示を生成するために生センサデータを処理し得る。
描画取得装置104から情報を受信すると同時に、制御装置110は、遠隔連携装置118からの情報を受信し得る。遠隔連携装置118は、描画情報及び/又は隔連携装置118で撮影された映像/音声情報を表示する。例えばある実施形態では、遠隔連携装置118は、構成において連携装置100に実質的に類似してもよい。連携装置100は、遠隔描画面、遠隔描画取得装置、遠隔ビデオカメラ、遠隔マイクロホン、遠隔制御装置等を有する。これらの実施形態では、制御装置110は、遠隔連携装置118からデジタル情報を受信し得る。デジタル情報は、遠隔描画面上で遠隔ユーザによって作成された(かつ遠隔描画装置を介して取得された)描画、及び/又は遠隔ビデオカメラ及び遠隔マイクロホンによって撮られた(例えば、遠隔ユーザの)映像/音声ストリームを表示する。
(1)描画面102上にユーザ114により作られた描画を示すデジタル情報、(2)遠隔描画面上に遠隔ユーザにより作られた描画を示すデジタル情報、及び(3)遠隔ビデオカメラにより撮影された映像ストリームに基づき、制御装置110は、(1)、(2)及び(3)を組み入れることにより描画面102上に(プロジェクタ112を介して)投影するための映像信号を生成する。この手段では、ユーザ114は遠隔連携装置118にて遠隔ユーザの「フェイスツーフェイス」の映像供給と同様に、描画面102上にローカルに及び遠隔に作られた描画を同時に見ることができる。ある実施形態によれば、ユーザ114は、ライティング手段116(又は、イレーシング手段等のその他の手段)を用いて描画面102上に、更なる描画又はストロークを作成することにより投影された描画を相互に扱うことができる。
なお、いくつかのケースでは、制御装置110は、映像信号を生成するタイミングにおいて描画面102上で作成された描画又は装置118の遠隔描画面上で作成された描画に関するいかなる情報も持たないかもしれない。これは、例えば、ユーザ114が描画面102にまだ何も描いておらず、装置118にて遠隔ユーザが遠隔描画面にまだ何も描いていない場合に生じ得る。このようの状況では、生成された映像信号が、遠隔連携装置118(又は下記図5に関して述べられるように、例えば、文書又は他のいくつかの共有情報の部分等の画像)にて遠隔ユーザの映像ストリームを簡単に含み得る。
ローカルの描画面102上への投影に対して上述した映像信号を生成することと並行して、制御装置110は、装置118の遠隔描画面上に対応する映像信号の投影を可能とするための遠隔連携装置118に情報を送信し得る。例えば、制御装置110は、ビデオカメラ106及びマイクロホン108によって取得されたユーザ114の映像/音声ストリームを描画面102から受信し得る。制御装置110は、それから、これらの映像/音声ストリームを、(もし利用可能ならば)描画面102上にユーザ114により作成された描画を表示するデジタル情報とともに、遠隔連携装置118に送信し得る。装置118にて、遠隔制御装置は、遠隔描画面上への投影のための本情報に基づき適切な映像信号を組み立て可能である。それから、装置118にて遠隔ユーザは、ユーザ114に対して述べたことと同じような方法で投影された映像を視聴/相互作用し得る。
プロジェクタ112は、画面の前方に設置(例えばフロントプロジェクタ)されている間、映像信号又は画像を画面上に投影することが可能などんなタイプのデバイスであってもよい。上述したように、ある実施形態では、プロジェクタ112は、ユーザ114によりローカルに作成された描画、遠隔連携装置118にて遠隔に作成された描画、及び/又は遠隔連携装置118にて遠隔に撮影された映像ストリームを含む映像信号を制御装置110から受信することができる。プロジェクタ112はまた、映像信号を描画面102上に投影することができる。特定の実施形態では、プロジェクタ112は、描画面102上で作成された特別な描画の投影された表示が、それがオリジナルに描かれた画面102上の同じ位置に現われるように、映像信号を投影することができる。更なる実施形態では、プロジェクタ112は、装置118の遠隔描画面上で作成された特定の描画の投影された表示が、それが遠隔描画面上でオリジナルに描かれた同じ位置にて画面102上に現われるように、映像信号を投影することができる。
ある実施形態では、プロジェクタ112は、描画面102上にプロジェクタによる光の放射が実質的にビデオカメラ106により実行される映像撮影と干渉しないように構成され、及び/又は位置付けられ得る。一実施形態では、プロジェクタ112は、(投射画像の幅により分けられた描画面102までのプロジェクタのレンズの距離として定義される)0.4より小さい投影比率(throw ratio)を有する、超短投射(ultra−short−throw :UST)のフロントプロジェクタであってもよい。そのようなプロジェクタの一例は、日立社により製造されたCP−AW250NMである。他の実施形態では、プロジェクタ112は、描画面102の前面の60インチ以内に位置付けられ得る。
当然のことながら、図1は一実施例であり、本発明の実施形態を限定することを意図しない。例えば、装置100は、他のコンポーネントの可能性又は図1で示したそれらより多い又は少ないコンポーネント又は他のコンポーネントの可能性を有してもよい。当事者の一人であれば、他のバリエーション、変更及び代替手段を認識しえるであろう。
図2は、本発明の一実施形態に従った、複数の連携装置がネットワーク化され得る環境での簡易化されたブロック図である。図2は、これらのネットワーク化されたシステムのユーザが、どのようにしてフェイスツーフェイスのテレビ会議でやりとりし、描画及び/又はその他の情報を相互作用的に共有するのかのフロー例を図示するために提示される。
示されているように、環境200は、通信ネットワーク250を介して遠隔連携装置252と通信接続されたローカル連携装置202を有することができる。ローカル連携装置202及び遠隔連携装置252は、それぞれ図1の協調システム100と実質的に類似した構成であり得る。例えば、装置202及び252は、各描画面(204、254)、ビデオカメラ(206、256)、制御装置(208、258)及びプロジェクタ(210、260)をそれぞれ有することができる。装置202及び252はまた、図1の連携装置100に対して記載されたその他のコンポーネントを有することもできる。例えば、示されていないが、装置202及び252の描画面204及び254は、装置100の描画取得装置104及びマイクロホン108に類似する描画取得装置及びマイクロホンをそれぞれ組み込むこともできる。
通信ネットワーク250は、データ通信が可能な、どんなタイプのネットワークであってもよく、例えば、ローカルエリアネットワーク(LAN:a local area network)、ワイドエリアネットワーク(WAN:a wide−area network)、バーチャルプライベートネットワーク(例えばVPN:virtual private network)、メトロエリアネットワーク(MAN:a metro−area network)、又はインターネットであってもよい。ある実施形態では、通信ネットワーク250は、相互接続されたネットワークの集まりを備えてもよい。
ある実施形態では、ローカル連携装置202を操作するローカルユーザ212は、遠隔ユーザ262と対話型テレビ会議を行う目的のために、ローカル連携装置202と遠隔連携装置252との接続を確立し得る。このセットアップタスクは、ユーザインタフェイスが含まれ得るローカルプロジェクタ210(ユーザインタフェイス(UI)は図示せず)からローカル描画面204上に投影されたユーザインタフェイスを介してローカルユーザ212によって実行され得る。ユーザインタフェイスは、例えば、IPアドレス又は遠隔連携装置252の名称を入力する又は選択するためのユーザインタフェイスエレメント(UI element)が含まれてもよい。
一旦接続が確立されると、ローカル連携装置202のローカルビデオカメラ206は、ローカルユーザ212の映像及び音声ストリームの取得を始めることができ、映像/音声ストリームをローカル制御装置208に送信することができる。それから、ローカル制御装置208は、これらの映像/音声ストリームを遠隔連携装置252の遠隔制御装置258に転送することを開始可能となる。同時に、遠隔連携装置252の遠隔ビデオカメラ256は、遠隔ユーザ262の映像及び音声ストリームの取得することができ、映像/音声ストリームを遠隔制御装置258に送信することができる。それから、遠隔制御装置258は、これらの映像/音声ストリームをローカル連携装置202のローカル制御装置208に転送することを開始可能となる。
遠隔制御装置258から映像/音声ストリームを受信すると、ローカル制御装置208は、ローカルプロジェクタ210を介してローカル描画面204上への投影のために受信された映像ストリームを含む映像信号を生成し得る。同様に、ローカル制御装置208から映像/音声ストリームを受信すると、遠隔制御装置258は、遠隔プロジェクタ260を介して遠隔描画面254上への投影のために受信された映像ストリームを含む映像信号を生成し得る。この方法では、ローカルユーザ212と遠隔ユーザ262とは、彼らの各描画面を介して互いを見ることができ、かつテレビ会議でやり取りすることができる。
ローカルビデオカメラ206は、ローカル描画面204の前方面から外側に向くように設計されているから(そして、ローカルユーザ212は、おそらく画面204と向かい合うであろうから)、遠隔描画面254上に投影された、ローカルユーザ212の映像ストリーム(すなわち、映像ストリーム264)は、ローカルユーザ212の正面像を表示することができる。同様に、遠隔ビデオカメラ256は、遠隔描画面254の前方面から外側に向くように設計されているから(そして、遠隔ユーザ262は、おそらく画面254と向かい合うであろうから)、ローカル描画面204上に投影された、遠隔ユーザ262の映像ストリーム(すなわち、映像ストリーム214)は、遠隔ユーザ262の正面像を表示することができる。よって、ローカルユーザ212及び遠隔ユーザ262は、フェイスツーフェイスのコミュニケーションでつながっている印象を持つころができる。図2では、ストリーム214及び264はシンプルな線画を使用して示されているが、実際の操作では、ストリーム214及び264は、標準又は高い解像度の映像画像を備えてもよい。
ある実施形態では、ローカルユーザ212及び遠隔ユーザ262の映像ストリームは、遠隔描画面254及びローカル描画面204上にそれぞれ投影される前にミラー(mirrored)させて映し出してもよい。これは、彼/彼女の描画面に対して一のユーザによってなされたどんなジェスチャーも、他のユーザに正しく現れることを確かにし得る。例えば、もしローカルユーザ212が、ローカル描画面204の右手側の位置を指したならば、ローカルビデオカメラ206により撮影されたとき、ジェスチャーは、水平方向に反転する(すなわち、左手側の位置に現れる)であろう。よって、ローカルユーザ212の映像ストリームは、遠隔ユーザ262によって見られるとき、ローカルユーザ212が遠隔描画面254の右手側に位置づけて現れるようにミラーさせる必要がある。様々な態様では、このミラーリングは、映像ストリームを転送する制御装置又は映像ストリームを受信する制御装置によって遂行され得る。
テレビ会議セッション中のあるポイントで、ローカルユーザ212及び/又は遠隔ユーザ262は、彼/彼女それぞれの描画面上に(図1の116のようなライティング手段を用いて)描画を開始することができる。たとえば、ローカルユーザ212が、ローカル描画面204に長方形を描くと仮定する。それに応じて、ローカル描画面204は、長方形の描画を撮影し、描画撮像情報をローカル制御装置208に送信可能である。それから、ローカル制御装置208は、描画撮像情報に基づき、長方形(たとえば、ストローク−ベース(stroke−based)又は画素ベースの表示)を示すデジタル情報を決定することができる。ローカル制御装置208は、デジタル情報及び映像ストリーム214に基づき、長方形及び映像ストリームを含む更新された映像信号を更に生成することができる。そして、ローカル制御装置208は、更新された映像信号を、ローカル描画面204上への投影のためにローカルプロジェクタ210に送信することができる。
同時に、ローカル制御装置208は、長方形を表すデジタル情報を遠隔制御装置258に送信し得る。遠隔制御装置258は、デジタル情報及び映像ストリーム264に基づき、長方形及び映像ストリームを含む更新された映像信号を生成可能である。そして、遠隔制御装置258は、更新された映像信号を、遠隔描画面254上への投影のために遠隔プロジェクタ260に送信することができる。
本方法では、ローカルユーザ212により作成された描画(例えば、長方形)は、ローカル及び遠隔描画面の両方にて電子的形態で表示され得る。要するに、本方法では、ローカルユーザ212及び遠隔ユーザ262が単一の描画面を共有する印象を持つ環境を提供する。
更なる例としては、続いて、遠隔ユーザ262が遠隔描画面254上に楕円を描くことを想定する。これに応じて、遠隔描画面254は、楕円の描画を撮影し、描画撮像情報をローカル制御装置208に送信し得る。遠隔制御装置258は、それから、描画撮像情報に基づき、楕円を表示するデジタル情報を決定し得る。遠隔制御装置258は、更に楕円を表示するデジタル情報、長方形を表示するデジタル情報及び映像ストリーム214に基づき、楕円、長方形及び映像ストリームを含む更新された映像信号を生成し得る。そして、遠隔制御装置258は、更新された映像信号を、遠隔描画面254上への投影のために遠隔プロジェクタ260に送信することができる。
同時に、遠隔制御装置258は、楕円を表すデジタル情報をローカル制御装置208に送信し得る。ローカル制御装置208は、楕円を表示するデジタル情報、長方形を表示するデジタル情報及び映像ストリーム264に基づき、楕円、長方形及び映像ストリームを含む更新された映像信号を生成可能である。そして、ローカル制御装置208は、更新された映像信号を、ローカル描画面204上への投影のためにローカルプロジェクタ210に送信することができる。
それ故、ローカルユーザ212により描かれた長方形のように、遠隔ユーザ262により描かれた楕円は、ローカル及び遠隔描画面の両方にて電子的形態で表示され得る。ある実施形態では、これらの描画は、(図2に示したように)描画面204及び254のそれぞれに表示されるとき、映像ストリーム214及び264に重ねられ得る。他の実施形態では、描画及び映像ストリーム214/264の相対位置が、1又はそれ以上の要因(下記図4および図5に対しての詳細で述べられる)に基づき変わり得る。
上述した流れに続いて、ローカルユーザ212及び遠隔ユーザ262は、彼らの各描画面上に追加の描画又はストロークを作成することにより更に互いに交流し合うことができる。これらの追加の描画又はストロークは、撮影され得、両サイド上に表示され得る。この相互作用は、ローカルユーザかリモートユーザがセッションを終わらせるまでいつまでも続き得る。
当然のことながら、図2は説明に役立たせるためであり、本発明の実施形態を限定することを意図しない。例えば、図2には2つの連携装置のみが示されているが、どんな数のそのような装置をも互いにネットワークで繋がり得、対話型テレビ会議セッションへの参加が可能である。更に、図2に対応して記載された流れは、様々な手法に変更可能である。例えば、ある実施形態では、遠隔ユーザ262は、ローカルユーザ212に先立って描画を開始することができる。又は、2人のユーザが、実質的に同時に彼らのそれぞれの描画面上に描画することができる。順番を考慮することなく、一人のユーザによって作成された描画は、ローカル及び遠隔の両サイドにて観察され得、操作され得る。
図3は、本発明の一実施形態に従い、遠隔連携装置252を用いて対話型テレビ会議セッションに参加する際、図2のローカル連携装置202により遂行され得る並行処理300及び350の流れ図である。特に、処理300及び350は、装置202のローカル制御装置208により実行され得る。処理300及び350は、ハードウエア、ソフトウエア又はそれらの組み合わせで実行され得る。ソフトウエアとして、処理300及び350は、コンピュータ読込可能記憶媒体に格納されたプログラムコードとしてコード化され得る。
ブロック302にて、ローカル連携装置202のローカル制御装置208は、ローカル描画面204上でローカルユーザ212により作成された描画に対応して取得された情報を受信し得る。この情報は、例えば、画面204に埋め込まれた1又はそれ以上のセンサにより取得されたセンサ読み込みの形式であってもよい。
ブロック304にて、ローカル制御装置208は、ブロック302で受信した情報に基づき、取得された描画を表示する第1のデジタル情報を生成し得る。例えば、第1のデジタル情報は、時系列のストローク、画素ベース画像(a pixel−based image)、標準又はフォーマットされたテキスト等に対応することができる。ある実施形態では、ブロック302にて受信された情報は、ローカル制御装置208によりどんな更なる処理をも要求しない手段で、すでにフォーマット化されているかもしれない。これらの実施形態では、ブロック304は省略され得る。
描画撮像情報を受信すると同時に、ローカル制御装置208は、ローカル描画面204に内蔵されたローカルビデオカメラ206により撮像されている第1の映像ストリームを受信し得る(ブロック306)。この第1の映像ストリームは、例えば、彼が画面204の前に立っている(又は座っている)ようにローカルユーザ212の正面像を含み得る。図3に示されていないが、ローカル制御装置208はまた、第1の映像ストリームとともに音声ストリームも同時に受信しえる。例えば、音声ストリームは、ローカルユーザ212により話された言葉及び/又は描画面204の近くのその他の音声を含み得る。
ブロック308にて、ローカル制御装置208は、ブロック304にて生成された第1のデジタル情報及びブロック306にて受信された第1の映像ストリームを遠隔連携装置252の遠隔制御装置258に送信し得る。遠隔制御装置258は、それから、受信された情報を処理し、(例えば遠隔プロジェクタ260を介して)遠隔描画面254上への投影のための適切な映像信号を生成し得る。
処理350では、ローカル制御装置208は、遠隔ビデオカメラ256により撮像された第2の映像ストリーム及び/又は遠隔描画面254上で遠隔ユーザ252により作成された描画を表示する第2のデジタル情報を遠隔制御装置258から受信し得る(ブロック352)。処理350は、処理300と並行して又は直列的な方法で実行されるかもしれない。ブロック354にて、ローカル制御装置208は、ブロック302又は304にて生成された第1のデジタル情報、第2のデジタル情報及び第2の映像ストリームに基づき、ローカル描画面204上への投影のための映像信号を生成し得る。もし、ローカル制御装置208が、そのような映像信号を前もって生成していた場合には、ブロック354の処理は、更新された映像信号を生成することを含み得る。
次に、ブロック356にて、ローカル制御装置208は、生成された映像信号を、ローカル描画面204上への投影のためのローカルフロントプロジェクタ210に送信し得る。様々な実施形態にて、映像信号は、ローカルユーザ212により作成された描画、遠隔ユーザ262により作成された描画、及び遠隔ビデオカメラ256により撮像された(例えば遠隔ユーザ262の)映像ストリームを含み得る。本方法では、ローカルユーザ212は、遠隔ユーザ262の「フェイスツーフェイス」の映像供給と同様に、ローカルに又は遠隔に作成された描画を画面204上で同時に見ることができる。異なるフォーマットが画面204上に情報を表示するために使用されてもよい。例えば、ピクチャ−イン−ピクチャ(picture−in−picture)のフォーマットが使用されてもよい。ピクチャ−イン−ピクチャでは、大きなピクチャーは、遠隔連携装置にて撮像された映像を表示し、該ピクチャー内より小さなピクチャー(ピクチャ−イン−ピクチャ:picture−in−picture)は、ローカル連携装置にて撮像された映像を表示するために使用される。
当然のことながら、処理300及び350は一実施例であり、そのバリエーション及び変更が可能である。順番に記載されたステップ群は、並行して実行され得る。ステップの順序は変更され得、ステップ群も変更され、組み合わせられ、追加され又は削除され得る。当業者の一人であれば、その他のバリエーション、変更及び代替手段が認識されよう。
一の実施形態では、図3のブロック354にて生成された映像信号は、ローカル描画面204及び遠隔描画面254から取得された描画が遠隔連携装置252から受信された映像ストリーム上に重ねられるように構成され得る。図4は、そのような映像信号からのフレーム400の一例を示す。図示されているように、フレーム400は、(例えば遠隔ユーザ262の)映像ストリーム402を含む。映像ストリーム402は、フレームの高さ及び幅のほとんど全体を包含している。描画404及び406は、映像ストリーム402の上に重ねられ、ローカル及び遠隔地の両方で作成されている描画を表す。このタイプの構成は、ローカルユーザ212にローカル描画面204上の一つの合成画像として遠隔ユーザ及び描画を簡単に見せることができる。一実施形態では、映像ストリーム402は、ホワイトボードの上部に半透明に作成され得、これにより、映像ストリームに対して描画404及び406を視覚的に目立たせることができる。他の実施形態では、フレーム400は、ローカルユーザ212の撮られている映像ストリームを表示するために、映像ストリーム408を表示する小ウインドウ(例えば、ピクチャ−イン−ピクチャ形式)を含んでもよい。図4で分かるように、映像ストリーム408は、ローカル連携装置202にて複数のユーザを示す。ローカル連携装置又は遠隔連携装置に1人又はそれ以上のユーザがいてもよい。
別の実施形態では、図3のブロック354にて生成された映像信号は、ローカル描画面204及び遠隔描画面254から取得された描画が静的なバックグラウンド上に表示されるように構成され得る。例えば、図5は、そのような映像信号から描画502及び504が表示されるフレーム500の一例を図示する。例えば、この構成は、ローカル連携装置202にて撮影され、遠隔連携装置252から受信された映像ストリームが、映像ストリーム上に重ねられた描画502及び504の視聴を困難にしている場合に望ましいかもしれない。これらの実施形態では、受信された映像ストリームは、ローカル描画面204上にまだ表示され得る。しかし、図5に示したように、小エリア506を覆ってもよい。
他の実施形態では、図6に図示したフレーム600により示されるように、映像ストリームは、ローカル制御装置208により生成され、ローカルプロジェクタ210によりローカル描画面204上に投影されている。映像ストリームは、それが遠隔連携装置252にて撮像され、フレームの高さ及び幅のほとんど全体を包含している映像信号(例えば、遠隔ユーザ262のビデオストリーム602)と、ローカル連携装置202にて撮影された映像ストリーム(例えば、ローカルユーザ212のビデオストリーム604)を含むように構成されてもよい。この例では、ローカル連携装置202か遠隔連携装置252のいずれかで撮られた描画のデジタル表示は示されていない。このタイプの構成では、ローカルユーザ212は、遠隔ユーザを簡単に見ることができ、描画に対応する画像によって気を散らすことなく、フェイス−ツー−フェイスの討論を容易にすることができる。
一実施形態では(図示せず)、ローカル連携装置にて撮影された映像ストリーム又はローカル及び遠隔地にて撮影された描画のデジタル表示を表示することなく、遠隔連携装置252にて撮られた映像ストリームのみがローカル描画面204に表示されるかもしれない。例えば、そのような形態では、映像ストリーム602のみが示され、映像ストリーム604は示されないかもしれない。
更に別の実施形態では、図7に図示したフレーム700により示されるように、ローカル制御装置208により生成され、ローカルプロジェクタ210によりローカル描画面204上に投影される映像ストリームは、それがローカル連携装置202及び遠隔連携装置252にて撮影された描画のデジタル表示702及び704だけを含むように構成されてもよい。この実施形態では、ローカル連携装置202又は遠隔連携装置252にて撮影された映像ストリームは示されない。このタイプの構成では、ローカルユーザ212は、より簡単に描画を見ることができ、映像ストリームによって気を散らすことなく、ローカル及び遠隔ホワイトボード上に作成された描画に集中することができる。
図4、図5、図6及び図7に示した実施形態では、ローカル連携装置及び遠隔連携装置にて撮影された映像ストリームと、ローカル連携装置及び遠隔連携装置にて撮影された描画のデジタル表示との様々な組み合わせが表示され得る。別の実施形態では、スライドプレゼンテーション(slides presentation)、ワードプロセッサ文書等を具備する情報ストリームのように、他の情報ストリームもまた表示し得る。一実施形態では、これらの他の情報ストリームは、連携装置のプロジェクタにより投影される映像信号中に組み込まれてもよい。別の実施形態では、他の情報ストリームが連携装置のプロジェクタ以外のソース源から出力されてもよい。これらの他のソース源は、例えば、別のプロジェクタ、コンピュータ、又はどんな出力デバイスであってもよい。
上述したように、連携装置の制御装置は、信号(例えば映像信号)を生成し、連携装置のプロジェクタに通信する。次に、プロジェクタは、映像信号を連携装置の描画面上に投影する。例えば、図2に示した実施形態では、ローカル制御装置208は、映像信号を生成し、ローカルプロジェクタ210に通信するように構成されている。ローカルプロジェクタ210は、映像信号に含まれる情報が連携装置202のユーザによって見られるように、映像信号をローカル描画面204上に順に投影するように構成されている。
一実施形態では、制御装置により生成された映像信号は、(1)ローカルに撮影した描画のデジタル表示(例えば、ローカル連携装置にて撮られた描画に対応するデジタル情報)、(2)遠隔に撮影した描画のデジタル表示(例えば、遠隔連携装置にて撮られた描画に対応するデジタル情報)、(3)ローカル連携装置にてビデオカメラにより撮影された映像ストリーム、及び(4)遠隔連携装置にてビデオカメラにより撮影された映像ストリーム、に基づいてもよい。例えば、図2のローカル制御装置208により生成された映像信号は、ローカル連携装置202にてローカルに撮影された描画のデジタル表示、遠隔連携装置252にて撮影された描画のデジタル表示、ローカル連携装置202にてローカルビデオカメラ(例えば、ローカルユーザ212の正面像を撮影することができるカメラ206)により撮影された映像ストリーム、及び遠隔連携装置252にてビデオカメラ(例えば、遠隔ユーザ262の正面像を撮影することができるカメラ256)により撮影された映像ストリームに基づいてもよい。
一実施形態によれば、ローカル制御装置208は、生成されてプロジェクタに送信される信号中に含まれる情報をプログラムで決定するように構成される。例えば、ローカル制御装置208は、デジタル表示及び/又は映像ストリームのいずれが、生成されてローカル描画面204上への投影のためにローカルプロジェクタ204に送信される映像信号中に含まれているか、を決定するように構成される。生成された映像信号中に含まれる情報を制御することにより、ローカル制御装置208は、描画面204上に表示される又は投影される情報を実質的に制御する。描画面204は、様々な情報のかたまりを表示するための一般的な共有表示領域をとして機能する。
図8は、本発明の一実施形態に従ったローカル制御装置208の簡易化されたブロック図を示す。示されているように、制御装置208は、セレクタモジュール802を具備する。セレクタモジュール802は、多数の情報ストリームを入力804として受信し、出力信号808(例えば、映像信号又は映像ストリーム)を生成するように構成される。入力804は、1の情報ストリーム又はそれ以上のマルチ情報ストリームを具備する。セレクタ802により生成された出力映像信号808はローカルプロジェクタ210に通信される。次に、ローカルプロジェクタ210は、信号808を含む情報が表示され、ローカル連携装置202のユーザが見ることができるように、信号をローカル描画面204上に投影する。セレクタ802は、ハードウエア、ソフトウエア(たとえば、プロセッサにより実行可能なプログラム、コード、命令)又はそれらの組み合わせで実行されてもよい。
セレクタ802への入力は、ローカル連携装置202からの入力810と遠隔連携装置252からの入力812とを含み得る。例えば、図8に示したように、入力810は、ローカル連携装置202にて撮影された描画に対するデジタル表示(例えば、ローカル描画面204上に描かれた描画)、及びローカル連携装置202にて撮影された映像ストリーム(例えば、ローカル描画面204上に位置づけられたビデオカメラ206により撮影された映像ストリーム)を含んでもよい。セレクタ802への入力812は、遠隔連携装置252からローカル連携装置202によって受信された情報に対応してもよい。例えば、入力812は、遠隔連携装置252にて撮影された描画(例えば、遠隔描画面254上で作成された描画)に対して遠隔制御装置258によって決定されたデジタル表示及び遠隔連携装置252にて撮影された映像ストリーム(例えば、遠隔描画面254上に配置されたビデオカメラ25により撮影された映像ストリーム)を具備するストリームを含んでもよい。
連携装置が1又はそれ以上の遠隔連携装置にて撮られた情報を受け得るには、様々な方法がある。一実施形態では、ローカル連携装置202は、ジャバメッセージサーバ(Java(登録商標) Message Server:JMS)仕様に従った共有メッセージサーバを用いてLANやWANを通じて遠隔連携装置252に接続されてもよい。遠隔またはローカル連携装置のいずれかから取得された各ストロークは、同じチャネル又はJMSにおける「トピック」にパブリッシュ(publish)され得、そのトピックに許可された、すべての接続されたデバイスは、メッセージを受信する。この方法では、チャネルにパブリッシュされたどんなストロークも、すべての連携装置により受信される。当業者であれば、LANやWANを通じて情報を共有するための多くの装置及びそれを実行するための多くの手段があることがわかるであろう。
セレクタ802は、入力信号804に基づき出力信号(例えば映像ストリーム)808を生成するために構成されている。セレクタ802は、映像ストリーム808中に1又はそれ以上の入力信号804を含んでもよい。映像ストリーム808は、生成されてローカル描画面204上への投影のためにローカルプロジェクタ210に通信される。例えば、一例では、セレクタ及び802は、デジタル表示と映像ストリームとの両方を含んでもよい。そのデジタル表示は、ローカル連携装置202及び遠隔連携装置252にて撮影された描画に対応する。その映像ストリームは、生成されてローカルプロジェクタ210に出力される映像ストリーム808のうちローカル連携装置202及び遠隔連携装置252にて撮影される。次に、ローカルプロジェクタ210は、受信された映像ストリーム808をローカル描画面204上に投影してもよい。そのような構成は、結果的に図4にて示された出力フレームとなり得る。図4に示したように、フレーム400は、(例えば遠隔ユーザ262の)映像ストリーム402、ローカル及び遠隔地の両方で作成された描画のデジタル表示404及び406、ローカル連携装置202にて撮られている(例えばローカルユーザ212の)映像ストリームを表示するための小ウインドウ408を含む。
他の例では、セレクタ802は、生成されてローカルプロジェクタ210に出力される映像ストリーム808のうち、ローカル連携装置202及び遠隔連携装置252にて撮影された描画に対応するデジタル表示のみを含んでもよい。ローカルプロジェクタ210は、受信された映像ストリーム808をローカル描画面204上に投影してもよい。そのような構成は、結果的に図7にて示された出力となるかもしれない。図7に示したように、フレーム700は、ローカル及び遠隔地の両方で作成された描画のデジタル表示702及び704を含む。
更に他の例では、セレクタ802は、生成されてローカルプロジェクタ210に出力された映像ストリーム808のうち、ローカル連携装置202及び遠隔連携装置252にて撮影された映像ストリームのみを含んでもよい。ローカルプロジェクタ210は、それから受信された映像ストリーム808をローカル描画面204上に投影してもよい。そのような構成は、結果的に図6にて示された出力となるかもしれない。図6に示したように、フレーム600は、遠隔連携装置252にて撮影された映像ストリーム602(例えば遠隔ユーザ262の映像ストリーム)及びローカル連携装置202にて撮影された映像ストリーム604(例えばローカルユーザ212の映像ストリーム)を含む。
他の実施形態では、セレクタ802は、生成されてローカルプロジェクタ210に出力された映像ストリーム808のうち、ローカル連携装置202及び遠隔連携装置252にて撮影された描画に対応したデジタル表示、及び遠隔連携装置252にて撮影された映像ストリームのみを含んでもよい。ローカルプロジェクタ210は、それから受信された映像ストリーム808をローカル描画面204上に投影してもよい。そのような構成は、結果的に図5にて示された出力フレームとなるかもしれない。図5に示したように、フレーム500は、遠隔連携装置252にて撮影された映像ストリーム506(例えば遠隔ユーザ262の映像ストリーム)及びローカル及び遠隔地で作成された描画のデジタル表示502及び504を含む。
別の実施形態では、セレクタ802は、セレクタ802が受信する入力のその他の組み合わせに基づき映像ストリーム808を生成するように構成されてもよい。一実施形態では、セレクタ802は、セレクタ802にアクセス可能な選択情報806に基づき、入力群のいずれを映像ストリーム808内に含むか決定する。選択情報806は、ローカル連携装置202のコンポーネント又はその他のコンポーネントを含む異なるソース源から受けられ得る。一実施形態では、セレクタ802は、選択情報806を処理し、それから、その処理結果に基づき、ローカルプロジェクタ210に送信される映像ストリーム808中に含まれる、1又はそれ以上の入力情報ストリームを決定する。
一実施形態では、選択情報806は、連続して又は周期的にモニタされ得、選択情報806内の変更が、映像ストリーム808に含まれる情報を動的に変更させるようにしてもよい。例えば、一実施形態では、セレクタ802は、特別な条件(C)が合致しているかどうかを決定するために選択情報806を使用してもよい。条件Cが合致していると決定すると、セレクタ802は、選択情報806に基づき、ローカルプロジェクタ210に送られる映像ストリーム808内に第1の組の1又はそれ以上の入力情報ストリームを含むように構成されてもよい。しかしながら、条件Cが合致しないと決定された場合には、セレクタ802は、ローカルプロジェクタ210に送られる映像ストリーム808内に第2の組の1又はそれ以上の入力情報ストリームを含むように構成されてもよい。第1の組の情報ストリームは、第2の組の情報ストリームと異なっていてもよい。
例えば、一実施形態では、第1の組の情報ストリームは、ローカル連携装置202及び遠隔連携装置252にて撮影された描画に対応するデジタル表示を具備するストリームのみを含んでもよい。そのようなローカル描画面204上の映像ストリームの、ローカルプロジェクタ210による投影は、結果的に図7に示したように表示された情報となってもよい。第2の組の情報ストリームは、ローカル連携装置202及び遠隔連携装置252にて撮影された映像ストリームのみを含んでもよい。そのようなローカル描画面204上の映像ストリームの、ローカルプロジェクタ210による投影は、結果的に図6に示したように表示された情報となってもよい。従って、一実施形態では、もし条件Cが合致するときには情報が図7に示したように表示され、もし条件Cが合致しないときには情報が図6に示したように表示されてもよい。更に、選択情報806は、時間の経過とともに変更してもよい。結果として、条件Cが合致するか否かもまた、時間とともに変更し得る。セレクタ802は、選択情報806に基づき条件Cが合致するか否かに応じて図7に示した表示と図6に示した表示とを自動的かつ動的に切り替えるように構成されている。
一実施形態では、位置情報に基づき、映像ストリーム808に含まれるための情報ストリームを選択してもよい。例えば、選択は、別のオブジェクトに対する第1のオブジェクトの位置に基づいてもよい。一実施形態では、選択は、連携装置の描画面に対する(ローカルか遠隔のいずれかの)ユーザの位置に基づいてもよい。例えば、ローカル制御装置208のセレクタ802により映像ストリーム808に含まれる情報ストリームの選択は、遠隔描画面254に対する遠隔ユーザ262の位置に基づいてもよい。このような実施形態では、条件Cが合致するとき又は条件Cが合致しないとき、条件C及び表示される情報は、次のように構成され得る。
条件C=遠隔ユーザ262が、遠隔描画面254の距離D内にいるか?
条件Cが合致する場合(例えば、上記質問に対する答えが「Yes」の場合)には、映像ストリーム808内にローカル連携装置202及び遠隔連携装置252にて撮影された描画に対応するデジタル表示のみを含む。
条件Cが合致しない場合には、映像ストリーム808内にローカル連携装置202及び遠隔連携装置252にて撮影された映像ストリームのみを含む。
このような実施形態では、セレクタ802により設定された映像ストリーム808及びその映像ストリーム内に含まれる情報(及び最終的にはローカル描画面204上に投影される)は、遠隔描画面254に対して遠隔ユーザ262の位置に依存する。遠隔ユーザ262の位置に応じて、ローカル描画面204上に投影される情報は、自動的かつ動的に図7(条件Cが合致しているとき)と図6(条件Cが合致しないとき)との表示間で切り替えてもよい。この実施形態では、もし、遠隔ユーザ262が、(例えば、画面上に描画する目的のために)画面254の距離D内に移動するならば、ローカル制御装置208は、図7で示したような描画のデジタル表示を含むための映像信号808を設定することができる。もし、遠隔ユーザ262が、遠隔描画面254から複数歩の離れるならば(すなわち、距離D内でない)、ローカル制御装置208は、図6に示したようにローカル及び遠隔地にて撮影された映像ストリームを含むための映像信号808を設定する。
投影のためのプロジェクタに送られる映像ストリーム内に含まれるために、ユーザの位置(ローカル又は遠隔のいずれか)が情報ストリームを選択するために用いられる実施形態では、選択情報806は、ユーザの位置を示す位置情報を具備し得る。様々なセンサ及び/又はデバイスが、ユーザの位置の決定に使用され得る情報を生成するために用いられてもよい。例えば、一実施形態では、遠隔画面254上又は近くに設置されたカメラ256が、遠隔画面254に対してユーザ262の位置を決定するために用いられてもよい。カメラ256は、ユーザ262に向けられ、ユーザ262をオートフォーカスするように構成されてもよい。ユーザ262の位置が遠隔画面254に対して変化するように、カメラ256の自動焦点距離もまた、ユーザへのフォーカスを維持するために遠隔画面254に対して変化する。そして、カメラのオートフォーカスは、描画面254に対するユーザ262の位置を決定するために使用されることが可能である。
別の実施形態では、1又はそれ以上の近接センサが、遠隔画面254からの遠隔ユーザ262の距離を決定するために用いられてもよい。この1又はそれ以上の近接センサは、距離を測定するために反射された超音波パルス(ultrasonic pulse)又は赤外パルス(infrared pulse)に作用してもよい。これらのセンサの出力は、ローカル制御装置208に転送され得る。ローカル制御装置208は、条件Cが合致するかどうかを決定するためにこの情報を使用する。そして、ローカル画面204上への投影のためにローカルプロジェクタ210に送られる映像ストリーム内に含まれる情報ストリームを選択する。
更なる実施形態では、1又はそれ以上の深度センサ(例えば、PrimeSense社により提供される深度センサ)が、ユーザの物理的位置を追跡するために用いられてもよい。例えば、そのような深度センサは、遠隔画面254に対する遠隔ユーザ262の位置が追跡可能なように、遠隔画面254上又はその付近に置かれてもよい。これらのセンサの出力は、ローカル画面204上への投影のためにローカルプロジェクタ210に送られる映像ストリーム808に含まれる情報ストリームを選択するためにローカル制御装置208に転送されてもよい。
別の実施形態では、感圧抵抗グリッド型(force sensitive resistance grids)の圧力分布センサ(pressure distribution sensor)(例えば、それらはマサチューセッツ州、南ボストンのTekScan社から利用可能)が、描画面に対するユーザの位置を追跡するために用いられてもよい。例えば、圧力分布センサは遠隔画面254の前方であってかつ遠隔画面254に近接したエリア内の地面に置かれてもよく、画面254にて、立っているユーザの足の位置が測定され得、ユーザの位置を追跡できるようにしてもよい。これらのセンサの出力は、映像ストリーム808に含まれる情報ストリームを選択するためにローカル制御装置208に転送されてもよい。映像ストリーム808は、ローカル画面204への投影のためにローカルプロジェクタ210に送信される。
更なる実施形態では、遠隔画面254に対向して、前方に置かれた1又はそれ以上のカメラが、遠隔画面254に対してユーザ262の位置を撮影するために用いられ得る。各カメラは、画面254とカメラとの間に位置づけられたオブジェクトの画像を含む画面254の画像を撮るように構成され得る。このようなオブジェクト(たとえばユーザ262)の位置は、画像から決定されてもよい。一実施形態では、深度カメラ例えば、(PrimeSense社からの深度カメラ)が用いられ得る。更なる実施形態では、マイクロソフト(登録商標)Kinectデバイスのようなデバイスが描画面に対するユーザの物理的位置を感知するために用いられてもよい。一実施形態では、例えばBumblebee2等のPoint Grey Researchからの製品のようなステレオカメラが、三次元のユーザの位置を認識するために表示されたユーザの2点の位置を撮像するために用いられ得る。様々な他のセンサが、他の実施形態にて、描画面に対するユーザの位置を決定するために使用されてもよい。当業者であれば、他のバリエーション、変更及び代替手段が認識されるであろう。
別の実施形態では、描画面に対するユーザの位置を決定するために、音声位置認識技術(sound localization technique)が用いられ得る。例えば、描画面に沿って配置されたマイクロホン(図1に示されたマイクロホン108)が、ユーザによって話された音声情報を取得するために使用されてもよい。取得された音声情報は、描画面に対するユーザの位置を決定するために、音声位置認識技術を使用して処理されてもよい。
上述のように、描画面に対するユーザの位置は、制御装置によって設定された映像信号内に含まれる情報ストリームを選択し、動的に変化させるための条件として使用され得、描画面上への投影のためにプロジェクタに送信され得る。別の実施形態では、1又はそれ以上の条件が予め設定されてもよい。条件が合致するかしないかは、画面上への投影のためのプロジェクタに送信される映像信号内の情報ストリームに含まれるものを決定する。
様々な異なる条件が、連携装置のために設定され得る。例えば、一実施形態では、制御装置によって生成された映像信号のコンポーネントは、連携装置の描画面における活動のレベルに基づくかもしれない。一実施形態では、これは、ユーザが描画面を使用しているか否かに基づくかもしれない。異なる技術が、ユーザが描画面を使用しているか否かを検出するために使用されてもよい。一実施形態では、描くまたは書く動作が進行中にその動作を検出するために、圧力センサが描画面上に設置されてもよい。画面上での描くまたは書く動作が検出されると、第1の組の1又はそれ以上の情報ストリームが、生成された映像信号内に含まれ得る。書く/描く動作が検出されないと、第2の組の1又はそれ以上の情報ストリームが、生成された映像信号内に含まれ得る。センサからの読み込みは制御装置に転送されてもよい。これにより、制御装置のセレクタは、生成されてプロジェクタに通信される映像信号に含まれる情報を決定するためにその情報を使用することができる。例えば、一実施形態では、条件C及び表示された情報は、条件Cが合致する又は合致しないにより、次のように設定され得る。
条件C=遠隔描画面254上に書く/描く動作が生じているか?
条件Cが合致する場合には、映像ストリーム808内にローカル連携装置202及び遠隔連携装置252にて撮影された描画に対応するデジタル表示のみを含む。
条件Cが合致しない場合には、映像ストリーム808内にローカル連携装置202及び遠隔連携装置252にて撮影された映像ストリームのみを含む。
このような実施形態では、セレクタ802により設定された映像ストリーム808及びその映像ストリーム内に含まれる情報(及び最終的にはローカル描画面204上に投影される)は、遠隔描画面254上へ描画する動作に依存する。描画する動作に応じて、ローカル描画面204上に投影される情報は、自動的かつ動的に図7(条件Cが合致しているとき)と図6(条件Cが合致しないとき)との表示間で切り替えられ得る。
図9は、本発明の一実施形態に従った協調セッションに参加する連携装置によって遂行される処理を示す簡易化されたフローチャート900である。図9に示された処理は、例えば、連携装置の制御装置のように、協調処理の1又はそれ以上のコンポーネントにより遂行されてもよい。処理は、制御装置のプロセッサにより実行されるソフトウエア(例えば、コード、命令、プログラム)、制御装置のハードウエア、又はそれらの組み合わせを使用して遂行されてもよい。一実施形態では、制御装置により実行されるソフトウエアは、データが固定化された(non−transitory)コンピュータ読み取り可能な記憶媒体に格納されてもよい。図9に示したステップ群又は図9に示した処理ステップ群の特定の部分は、本発明の実施形態の範囲を限定することを意味しない。他の又は異なる処理ステップ群が、替わりの実施形態にて遂行されてもよい。図9に示した1又はそれ以上のステップは、並行して遂行されてもよく、又は連続して遂行されてもよい。
図9に示したフローチャート900の説明を進めるために、処理は、図2に示した、遠隔連携装置252との協調セッションに参加するローカル連携装置202により遂行されると仮定される。処理は、ローカル連携装置202のローカル制御装置208により遂行されてもよい。
ローカル連携装置202の制御装置208のセレクタは、多数の情報ストリーム(ステップ902)及び選択情報(ステップ904)を受信し得る。情報ストリームは、例えばローカル強調装置202にてローカルに取得された描画のデジタル表示、遠隔連携装置252にて撮られた描画のデジタル表示、ローカル連携装置202にて撮像された映像ストリーム、遠隔連携装置252にて撮像された映像ストリーム、を具備するストリームを含んでもよい。その他のストリームが代替の態様にて受信されてもよい。
ローカル制御装置208は、それから、ステップ904にて受信された選択情報に基づき、ステップ902にて受信された情報ストリームから、1又はそれ以上の情報ストリームを決定する(ステップ906)。1又はそれ以上の情報ストリームには、生成されて、ローカル画面204上への投影のためにローカルプロジェクタ210に送信される映像信号が含まれる。一実施形態では、ストリーム906の処理は、装置のために設定された1またはそれ以上の条件が合致する(又は合致しない)かを決定するために選択情報を使用することを含み得る。そして、決定に基づき、含まれるべき情報ストリームを選択する。
ローカル制御装置208は、それから、ステップ906にて決定された1又はそれ以上の情報ストリームを含む信号(例えば映像信号又は映像ストリーム)を生成する(ステップ908)。ステップ908にて生成された信号は、それからローカル画面204上への投影のためにローカルプロジェクタ210に送信される(ステップ910)。この方法では、プロジェクタ210に送られる信号808内に含まれる情報ストリームに包含される情報は、ローカル連携装置202のユーザによって見ることができるように、ローカル画面204上に出力される。ステップ906及び908の処理を遂行することによって、ローカル制御装置208は、ローカルプロジェクタ210に送信され、ローカル画面204に表示される信号808に含まれる情報を制御する。
選択情報は、時間の経過とともに変化してもよい。ローカル制御装置208は、選択情報をモニタし、選択情報内の変化に応じてローカルプロジェクタ210に送られる信号808に含まれる情報を動的に変更させるように構成される(ステップ912)。この方法では、選択情報内の変化は、プロジェクタに送信された信号に含まれる情報が自動的にかつダイナミックに作られるための変化のきっかけになり得る。プロジェクタは、ローカル画面204上に投影される情報を変更する。
例えば、前述したように、ある実施形態では、ローカル制御装置208により生成される映像ストリームに含まれる情報ストリームの選択は、遠隔画面254に対する遠隔ユーザ262の位置に基づいてもよい。そのような実施形態では、遠隔ユーザ262が、遠隔画面254から距離D内にいるとき、ステップS908にて生成され、かつローカルプロジェクタ210に送られた信号は、ローカル連携装置202及び遠隔連携装置252にて撮影された描画に対応するデジタル表示のみを含んでもよい。さもなければ、ローカル連携装置202及び遠隔連携装置252にて撮像された映像ストリームのみを生成された映像ストリーム中に含んでもよい。遠隔ユーザ262の位置が、遠隔画面254に対して変化するように、この変化は、ローカル制御装置208により受信された選択情報内に反映される。遠隔ユーザの位置の変化が検出されたとき、ローカル制御装置208は、(例えば図7にて示された)第1の表示と、(例えば図6にて示された)第2の表示との間で自動的かつダイナミックに切り替えを行ってもよい。第1の表示では、ローカル連携装置202及び遠隔連携装置252にて撮像された描画に対応するデジタル表示のみが表される。第2の表示では、ローカル連携装置202及び遠隔連携装置252にて撮られた映像ストリームのみが表される。この方法では、表示の切り替えが、どんな手動の介在も必要とせずに条件の変化に応じて自動的に行われる。
上記の記載では、連携装置の画面上に表示される情報の変化をもたらし得る、ある条件が記載されているが、これらの条件はなんらかの限定をすることを意図せず、様々な他の条件が代替の態様として設定され得る。これらの条件は、ユーザが設定することも可能である。例えば、一実施形態では、ローカル及び遠隔連携装置の両方の画面上に現された表示は、情報の組み合わせに基づいてもよい。例えば、いずれかのユーザが各描画面に近接していれば、ローカル及び遠隔地にて撮られた描画のデジタル表示が両方のユーザに表示されてもよい。例えば、両方のユーザが各描画面から離れていれば、映像ストリームが両方のユーザ等に表示されてもよい。
図10は、本発明の一実施形態に従ったコンピュータ装置1000の簡易化されたブロック図である。一実施形態では、コンピュータ装置1000は、上述した図1に図示された制御装置110及び図2に示された制御装置208及び258を実行するために用いられ得る。図10に示したように、コンピュータ装置1000は、バスサブシステム1004を介して多数の周辺サブシステムと通信する、1又はそれ以上の処理部(processor)1002を含み得る。これらの周辺サブシステムは、記憶サブシステム1006、ユーザインタフェイス入力デバイス1012、ユーザインタフェイス出力デバイス1014およびネットワークインタフェイスサブシステム1016を含み得る。記憶サブシステム1006は、メモリサブシステム1008及びファイル記憶サブシステム1010を含む。
バスサブシステム1004は、様々なコンポーネント及びコンピュータ装置1000のサブシステム群が目的どおりに互いに通信可能とするためのメカニズムを供給することができる。バスサブシステム1004は、単一のバスとして概略的に示されているが、バスサブシステムの他の実施形態では、多重化したバスを利用することもできる。
ネットワークインタフェイスサブシステム1016は、他の装置及び/又はネットワークからデータを受信するためのインタフェイス、および他の装置及び/又はネットワークへデータを送信するためのインタフェイスとして機能し得る。例えば、ネットワークインタフェイスサブシステム1016は、一の連携装置(例えば、図2のローカル連携装置202)の制御装置を他の遠隔的に位置する連携装置(例えば、図2の遠隔連携装置252)の制御装置と、インターネットなどの通信ネットワークを介して通信させることができる。
ユーザインタフェイス入力デバイス1012は、描画面(例えば、図1の画面102)、キーボード、例えば、マウス、トラックボール、タッチパッド、グラフィックタブレット等のポインティングデバイス、又は、スキャナ、バーコードスキャナ、ディスプレイ内に組み込まれたタッチスクリーン、音声認識装置、マイクロホン等の音声入力デバイス、その他のタイプの入力デバイスを含み得る。一般に、「入力デバイス(input device)」の言葉の使用は、コンピュータシステム1000に情報を入力するためのすべての可能なタイプのデバイス及びメカニズムを含むことを意味する。
ユーザインタフェイス出力デバイス1014は、ディスプレイサブシステム、プリンタ、ファクシミリ機又は音声出力装置等の画像表示のないものを含み得る。表示サブシステムは、ブラウン管(cathode ray tube:CRT)、液晶ディスプレイ(liquid crystal display:LCD)等のフラットパネルデバイス、又はプロジェクションデバイス(例えば図1のプロジェクタ112)であり得る。一般に、「出力デバイス(output device)」の言葉の使用は、コンピュータシステム1000から情報を出力するためのすべての可能なタイプのデバイス及びメカニズムを含むことを意味する。
記憶サブシステム1006は、本発明の機能を提供する基本的なプログラミング及びデータ構造を記憶するための(データが固定化された(non−transitory)記憶装置を含む)コンピュータ読み取り可能な記憶媒体を提供可能である。ソフトウエア(例えば、プログラミ、コードモジュール、命令等)は、本発明の機能を提供するプロセッサにより実行されるとき、記憶サブシステム1006に記憶され得る。これらのソフトウエアモジュール群又は命令群は、処理部1002により実行され得る。記憶サブシステム1006はまた、本発明に従って使用されたデータを記憶するための格納場所を提供することができる。記憶サブシステム1006は、メモリサブシステム1008及びファイル/ディスク記憶サブシステム1010を備え得る。
メモリサブシステム1008は、プログラム実行中、命令及びデータの記憶のための主ランダムアクセスメモリ(random access memory:RAM)1018、及び固定した命令群が記憶されたリードオンリーメモリ(read only memory:ROM)1020を含む多数のメモリを含み得る。ファイル記憶サブシステム1010は、データが固定化された(non−transitory)持続性のある(不揮発性の)、プログラムやデータファイルのための記憶装置を提供することができる。ファイル記憶サブシステム1010は、連結した着脱可能媒体とともにフロッピー(登録商標)ディスクドライブ、ハードディスクドライブ、コンパクトディスクリードオンリーメモリ(CD−ROM)、光デバイス、着脱可能媒体カートリッジ、及び/又はその他の記憶メディアを含んでもよい。
コンピュータ装置1000は、パーソナルコンピュータ、電話、携帯型コンピュータ、ワークステーション、ネットワークコンピュータ又はその他のデータ処理措置を含む様々なタイプのものであり得る。コンピュータ及びネットワークの絶え間なく変化する性質のために、図10に示されたコンピュータ装置1000の記載は、コンピュータ装置の一実施例を図示するための特定の例示としてのみ意図する。図10に示された装置よりも多い又は少ないコンポーネントを有する多くの他の構成があり得る。
本発明の特定の形態が記載されているが、様々な変更、修正、他の構成及び等価物もまた、本発明の範囲に包含される。例えば、本発明の実施形態は、ある特定のデータ処理環境内での操作に限定されず、複数のデータ処理環境内で操作することも自由である。更に、本発明の実施形態は、特定の種類のトランザクション及びステップを使用して記載されているが、これらは、本発明の実施形態の範囲を限定することを意図するものではない。
更に、本発明の実施形態は、ハードウエアとソフトウエアとの特定の組み合わせを使用して記載しているが、ハードウエアとソフトウエアとの他の組み合わせもまた本発明の範疇に含まれると認識すべきである。例えば、本発明の実施形態は、ハードウエアのみで実行されてもよいし、ソフトウエアのみで実行されてもよいし、それらの組み合わせを使用して実行されてもよい。
従って、明細書及び図面は、限定的な意味というよりはむしろ、例示的とみなされる。追加、差分、削除、及び他の修正及び変更が、発明の広い精神及び範囲から逸脱することなく、そこになされ得ることは明らかであろう。

Claims (19)

  1. 第1の装置によって、第1のオブジェクトの位置を示す情報を含む第1の情報に基づき、位置情報に基づく条件に合致するか否かを決定する決定ステップと;
    前記第1の装置によって、前記決定ステップに基づき信号を生成する生成ステップであって、前記条件に合致する旨の判定に応じて前記生成された信号に第1の組の1以上の情報ストリームを含め、及び、前記条件に合致しない判定に応じて前記生成された信号に、前記第1の組の情報ストリームと異なる第2の組の1以上の情報ストリームを含めるステップと;
    前記信号に含まれる前記第1の組又は前記第2の組の情報ストリームに対応する情報が表示されるように前記生成された信号を出力させる出力ステップ
    有する方法。
  2. 前記第1の情報は、深度センサ、近接センサ又は圧力センサにより生成されたデータを含む、
    請求項1に記載の方法。
  3. 前記第1のオブジェクトが第2のオブジェクトから所定距離内に位置しているとき、前記条件は合致している
    請求項1に記載の方法。
  4. 前記第2のオブジェクトは描画面であり、前記第1のオブジェクトは該描画面を使用するユーザである、
    請求項3に記載の方法。
  5. 前記決定ステップは、前記条件に合致することを決定するステップを有し;
    前記生成ステップは、前記第1の組の1以上の情報ストリームを有する前記信号を生成するステップを有し;
    前記方法は、更に:
    前記第1の組の1以上の情報ストリームを有する前記信号を生成するステップに続て、前記条件に合致しないことを決定するステップと;
    前記条件に合致しない旨の判定に応答して、前記第1の組の情報ストリームの替わりに、変更された信号前記第2の組の1以上の情報ストリームを含むように前記変更された信号を生成するために前記信号を変更するステップと;
    前記変更された信号に含まれる前記第2の組の情報ストリームに対応する情報が表示されるように変更された信号を出力させるステップと;
    を有する請求項1に記載の方法。
  6. 前記第1の組の情報ストリームは、
    前記第1の装置から遠隔に配置された第2の装置にて取得された描画のデジタル表示を有する第1ストリームと、前記第1の装置にて取得された描画のデジタル表示を有する第2ストリームと、を含み;
    前記第2の組の情報ストリームは、
    前記第2の装置にて取得された映像ストリームを有する第3ストリームと、前記第1の装置にて取得された映像ストリームを有する第4ストリームと、を含む、
    請求項1ないし5のうちの何れか1項に記載の方法。
  7. 第1の装置による実行のために複数の命令を記憶する非一時的なコンピュータ読み取り可能な記憶媒体であって、
    前記複数の命令は:
    第1のオブジェクトの位置を示す情報を示す第1の情報に基づき、位置情報に基づく条件が合致するか否かを前記第1の装置に決定させる決定命令と;
    前記決定命令に基づき、前記第1の装置に信号を生成させる生成命令であって、前記第1の装置に前記信号を生成させる前記生成命令は、前記条件に合致する旨の判定に応じて前記生成された信号に第1の組の1以上の情報ストリームことを前記第1の装置に行わせ、及び、前記条件に合致しない旨の判定に応じて前記生成された信号に、前記第1の組の情報ストリームと異なる第2の組の1以上の情報ストリームを含めことを前記第1の装置に行わせる命令と;
    前記信号に含まれる前記第1の組又は前記第2の組の情報ストリームに対応する情報が表示されるように前記生成された信号を出力ることを前記第1の装置に行わせる出力命令と;
    有するコンピュータ読み取り可能な記憶媒体。
  8. 前記第1の情報は、深度センサ、近接センサ又は圧力センサにより生成されたデータを含む、
    請求項7に記載の記憶媒体。
  9. 前記第1のオブジェクトが第2のオブジェクトから所定距離内に位置しているとき、前記条件は合致している、
    請求項7に記載の記憶媒体。
  10. 前記第2のオブジェクトは描画面であり、前記第1のオブジェクトは該描画面を使用するユーザである、
    請求項9に記載の記憶媒体。
  11. 前記条件に合致するか否かを前記第1の装置に決定させる決定命令は、前記条件に合致することを前記第1の装置に決定させる命令を含み;
    前記第1の装置に前記信号を生成させる生成命令は、前記第1の組の1以上の情報ストリームを含む前記信号を前記第1の装置に生成させる命令を含み;
    更に、前記複数の命令は:
    前記第1の組の1以上の情報ストリームを含む前記信号を生成することに続て、前記条件に合致しないことを前記第1の装置に決定させる命令と;
    前記条件に合致しない旨の判定に応答して、前記第1の組の情報ストリームの替わりに、変更された信号前記第2の組の1以上の情報ストリームを含むように前記変更された信号を生成するために前記信号を変更することを前記第1の装置にさせる命令と;
    前記変更された信号に含まれる前記第2の組の情報ストリームに対応する情報が表示されるように変更された信号を出力ることを前記第1の装置にさせる命令と、
    を有する請求項9に記載の記憶媒体。
  12. 前記第1の組の情報ストリームは、
    前記第1の装置から遠隔に配置された第2の装置にて取得された描画のデジタル表示を有する第1のストリームと、前記第1の装置にて取得された描画のデジタル表示を有する第2のストリームと、含み;
    前記第2の組の情報ストリームは、
    前記第2の装置にて取得された映像ストリームを有する第3のストリームと、前記第1の装置にて取得された映像ストリームを有する第4のストリームと、を含む、
    請求項7ないし11のうち何れか1項に記載の記憶媒体。
  13. メモリと;
    前記メモリに接続された処理部と
    を備える装置であって、前記処理部は:
    第1のオブジェクトの位置を示す情報を含む第1の情報に基づき、位置情報に基づく条件に合致するか否かを決定すること
    前記決定に基づき、信号を生成することであって、該生成された信号は、前記条件に合致すること決定された場合には第1の組の1以上の情報ストリームを含み、前記条件に合致しないこと決定された場合には、前記第1の組の情報ストリームと異なる第2の組の1以上の情報ストリームを含む、こと及び
    前記信号に含まれる前記第1の組又は前記第2の組の情報ストリームに対応する情報が表示されるように前記生成された信号を出力させること;
    を行うように構成される装置。
  14. 前記第1の情報は、深度センサ、近接センサ又は圧力センサにより生成されたデータを含む、
    請求項13に記載の装置。
  15. 前記第1のオブジェクトが第2のオブジェクトから所定距離内に位置しているとき、前記条件は合致している、
    請求項13に記載の装置。
  16. 前記第2のオブジェクトは描画面であり、前記第1のオブジェクトは該描画面を使用するユーザである、
    請求項15に記載の装置。
  17. 前記処理部は、
    前記条件に合致することを決定し;
    前記第1の組の1以上の情報ストリームを含む前記信号を生成し;
    前記第1の組の1以上の情報ストリームを含む前記信号を生成することに続て、前記条件に合致しないことを決定し;
    前記条件に合致しない旨の判定に応答して、前記第1の組の情報ストリームの替わりに、変更された信号前記第2の組の1以上の情報ストリームを含むように前記変更された信号を生成するために前記信号を変更し;及び
    前記変更された信号に含まれる前記第2の組の情報ストリームに対応する情報が表示されるように前記変更された信号を出力させる、
    ように構成される、請求項13に記載の装置。
  18. 前記第1の組の情報ストリームは、
    第1の装置から遠隔に配置された第2の装置にて取得された描画のデジタル表示を有する第1のストリームと、前記第1の装置にて取得された描画のデジタル表示を有する第2のストリームと、を含み;
    前記第2の組の情報ストリームは、
    前記第2の装置にて取得された映像ストリームを有する第3のストリームと、前記第1の装置にて取得された映像ストリームを有する第4のストリームと、を含む、
    請求項13ないし17のうち何れか1項に記載の装置。
  19. 請求項1ないし6のうち何れか1項に記載の方法を装置のコンピュータに実行させるコンピュータプログラム。
JP2012047972A 2011-03-07 2012-03-05 情報の選択及び切り替えのための方法、記憶媒体及び装置 Active JP5903936B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US13/041,805 US9716858B2 (en) 2011-03-07 2011-03-07 Automated selection and switching of displayed information
US13/041,805 2011-03-07

Publications (2)

Publication Number Publication Date
JP2012186805A JP2012186805A (ja) 2012-09-27
JP5903936B2 true JP5903936B2 (ja) 2016-04-13

Family

ID=45592269

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012047972A Active JP5903936B2 (ja) 2011-03-07 2012-03-05 情報の選択及び切り替えのための方法、記憶媒体及び装置

Country Status (4)

Country Link
US (1) US9716858B2 (ja)
EP (1) EP2498485B1 (ja)
JP (1) JP5903936B2 (ja)
CN (1) CN102685440B (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9053455B2 (en) * 2011-03-07 2015-06-09 Ricoh Company, Ltd. Providing position information in a collaborative environment
US8881231B2 (en) 2011-03-07 2014-11-04 Ricoh Company, Ltd. Automatically performing an action upon a login
US8698873B2 (en) * 2011-03-07 2014-04-15 Ricoh Company, Ltd. Video conferencing with shared drawing
US9086798B2 (en) 2011-03-07 2015-07-21 Ricoh Company, Ltd. Associating information on a whiteboard with a user
US9578076B2 (en) * 2011-05-02 2017-02-21 Microsoft Technology Licensing, Llc Visual communication using a robotic device
US9092136B1 (en) * 2011-06-08 2015-07-28 Rockwell Collins, Inc. Projected button display system
US9560314B2 (en) 2011-06-14 2017-01-31 Microsoft Technology Licensing, Llc Interactive and shared surfaces
JP6085907B2 (ja) * 2011-09-13 2017-03-01 株式会社リコー 会議システム、イベント管理サーバ、および、プログラム
US9426373B2 (en) * 2013-12-04 2016-08-23 Cisco Technology, Inc. Whiteboard activity noise detection system for immersive telepresence systems
CN103747196B (zh) * 2013-12-31 2017-08-01 北京理工大学 一种基于Kinect传感器的投影方法
US9479730B1 (en) * 2014-02-13 2016-10-25 Steelcase, Inc. Inferred activity based conference enhancement method and system
US10723167B2 (en) * 2014-04-04 2020-07-28 Revolution Sign And Media Group Llc Structurally compact backlit display assembly
CN104980684B (zh) * 2014-04-11 2018-03-16 华为技术有限公司 一种远程指示方法及控制设备
US10225442B2 (en) * 2015-02-16 2019-03-05 Mediatek Inc. Electronic device and method for sensing air quality
US20160269451A1 (en) * 2015-03-09 2016-09-15 Stephen Hoyt Houchen Automatic Resource Sharing
US11199962B2 (en) * 2015-04-27 2021-12-14 Shane Venis Freehand memo image authentication
EP3384676A1 (en) 2015-12-04 2018-10-10 Sling Media, Inc. Remote-controlled media studio
US9602926B1 (en) 2016-01-13 2017-03-21 International Business Machines Corporation Spatial placement of audio and video streams in a dynamic audio video display device
JP7074056B2 (ja) * 2016-05-13 2022-05-24 ソニーグループ株式会社 画像処理装置、画像処理システム、および画像処理方法、並びにプログラム
JP2017216668A (ja) * 2016-05-26 2017-12-07 株式会社リコー 情報処理装置、会議システムおよび情報処理装置の制御方法
US11032480B2 (en) * 2017-01-31 2021-06-08 Hewlett-Packard Development Company, L.P. Video zoom controls based on received information
WO2020072676A1 (en) * 2018-10-02 2020-04-09 Brainworks Foundry, Inc. Efficient high bandwidth shared memory architectures for parallel machine learning and ai processing of large data sets and streams
TWI737138B (zh) * 2020-01-22 2021-08-21 明基電通股份有限公司 投影機推薦方法及投影機推薦系統
CN114339111A (zh) * 2020-09-25 2022-04-12 华为技术有限公司 一种视频通话方法及装置

Family Cites Families (116)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5025314A (en) * 1990-07-30 1991-06-18 Xerox Corporation Apparatus allowing remote interactive use of a plurality of writing surfaces
US5502576A (en) 1992-08-24 1996-03-26 Ramsay International Corporation Method and apparatus for the transmission, storage, and retrieval of documents in an electronic domain
WO1994007327A1 (en) 1992-09-21 1994-03-31 Rolm Company Method and apparatus for on-screen camera control in video-conference equipment
JPH06243076A (ja) 1993-02-17 1994-09-02 Toshiba Corp 複合計算機システム間のデータ転送方式
JPH06276335A (ja) 1993-03-22 1994-09-30 Sony Corp データ処理装置
US5400069A (en) * 1993-06-16 1995-03-21 Bell Communications Research, Inc. Eye contact video-conferencing system and screen
JPH07193796A (ja) * 1993-12-27 1995-07-28 Hitachi Ltd 映像通信システム
US5570301A (en) 1994-07-15 1996-10-29 Mitsubishi Electric Information Technology Center America, Inc. System for unencumbered measurement and reporting of body posture
US5767897A (en) * 1994-10-31 1998-06-16 Picturetel Corporation Video conferencing system
US20030051136A1 (en) 1995-11-06 2003-03-13 Pavel Curtis Multimedia coordination system
US5844569A (en) 1996-04-25 1998-12-01 Microsoft Corporation Display device interface including support for generalized flipping of surfaces
US5790114A (en) 1996-10-04 1998-08-04 Microtouch Systems, Inc. Electronic whiteboard with multi-functional user interface
US6070247A (en) 1996-12-03 2000-05-30 Smart Technologies Inc. Method and apparatus for controlling power to a multi-media conferencing system using any one of a system power switch and a computer
US6133912A (en) 1998-05-04 2000-10-17 Montero; Frank J. Method of delivering information over a communication network
JP2000043486A (ja) 1998-07-31 2000-02-15 Ricoh Co Ltd 電子黒板システム
JP2000059772A (ja) * 1998-08-05 2000-02-25 Toshiba Corp 映像表示方式
US6392694B1 (en) * 1998-11-03 2002-05-21 Telcordia Technologies, Inc. Method and apparatus for an automatic camera selection system
US6208373B1 (en) 1999-08-02 2001-03-27 Timothy Lo Fong Method and apparatus for enabling a videoconferencing participant to appear focused on camera to corresponding users
AU2001250802A1 (en) 2000-03-07 2001-09-17 Sarnoff Corporation Camera pose estimation
US20010051876A1 (en) 2000-04-03 2001-12-13 Seigel Ronald E. System and method for personalizing, customizing and distributing geographically distinctive products and travel information over the internet
US6963334B1 (en) 2000-04-12 2005-11-08 Mediaone Group, Inc. Smart collaborative whiteboard integrated with telephone or IP network
US6707444B1 (en) 2000-08-18 2004-03-16 International Business Machines Corporation Projector and camera arrangement with shared optics and optical marker for use with whiteboard systems
US7219233B1 (en) 2000-08-18 2007-05-15 International Business Machines Corporation Methods and apparatus for associating a user with content in a collaborative whiteboard system
US6989801B2 (en) 2001-03-22 2006-01-24 Koninklijke Philips Electronics N.V. Two-way presentation display system
US7349005B2 (en) 2001-06-14 2008-03-25 Microsoft Corporation Automated video production system and method using expert video production rules for online publishing of lectures
US6694045B2 (en) 2002-01-23 2004-02-17 Amerasia International Technology, Inc. Generation and verification of a digitized signature
JP4250884B2 (ja) * 2001-09-05 2009-04-08 パナソニック株式会社 電子黒板システム
US20030065722A1 (en) 2001-10-01 2003-04-03 Ieperen Taco Van Method and system for creating and managing secure shared workspaces
US20030070072A1 (en) 2001-10-09 2003-04-10 Nick Nassiri System and method of identity and signature and document authentication using a video conference
AU2002363055A1 (en) * 2001-10-19 2003-05-06 Bank Of America Corporation System and method for interative advertising
WO2003091890A1 (en) 2002-04-26 2003-11-06 Exceptional Software Strategies, Inc. Method and system for combining multimedia inputs into an indexed and searchable output
US20040070616A1 (en) 2002-06-02 2004-04-15 Hildebrandt Peter W. Electronic whiteboard
US7499033B2 (en) 2002-06-07 2009-03-03 Smart Technologies Ulc System and method for injecting ink into an application
US6917033B2 (en) 2002-10-15 2005-07-12 International Business Machines Corporation Passive touch-sensitive optical marker
JP4539015B2 (ja) * 2002-12-11 2010-09-08 ソニー株式会社 画像通信装置、および画像通信方法、並びにコンピュータ・プログラム
US7684624B2 (en) 2003-03-03 2010-03-23 Smart Technologies Ulc System and method for capturing images of a target area on which information is recorded
US20040199639A1 (en) 2003-04-04 2004-10-07 Harris Mitchell N. Automated shared drive mapping
US7242389B1 (en) 2003-10-07 2007-07-10 Microsoft Corporation System and method for a large format collaborative display for sharing information
US7484106B2 (en) 2003-10-24 2009-01-27 Microsoft Corporation Pre-login data access
US7111933B2 (en) 2003-10-29 2006-09-26 Hewlett-Packard Development Company, Lp. Ink-jet systems and methods using visible and invisible ink
US7260278B2 (en) 2003-11-18 2007-08-21 Microsoft Corp. System and method for real-time whiteboard capture and processing
CN101819511B (zh) 2003-12-10 2011-12-07 松下电器产业株式会社 便携式信息终端装置
US7170526B1 (en) 2004-01-26 2007-01-30 Sun Microsystems, Inc. Method and apparatus for redirecting the output of direct rendering graphics calls
US7460110B2 (en) 2004-04-29 2008-12-02 Smart Technologies Ulc Dual mode touch system
FI117662B (fi) 2004-06-29 2006-12-29 Videra Oy AV-järjestelmä sekä ohjain
US20060092178A1 (en) 2004-10-29 2006-05-04 Tanguay Donald O Jr Method and system for communicating through shared media
US8195952B2 (en) 2004-12-14 2012-06-05 International Business Machines Corporation System and method of facilitating the identification of a computer on a network
US20060143607A1 (en) 2004-12-29 2006-06-29 Morris Robert P Method and system for allowing a user to create actions to be taken by a server
US7696987B2 (en) 2005-03-04 2010-04-13 Smart Technologies Ulc Touch panel and method of manufacturing the same
US8102383B2 (en) 2005-03-18 2012-01-24 The Invention Science Fund I, Llc Performing an action with respect to a hand-formed expression
AU2005332711B2 (en) 2005-06-06 2010-12-02 Tomtom Navigation B.V. Navigation device with camera-info
US7701825B2 (en) 2005-06-17 2010-04-20 Macrovision Corporation Apparatus for and a method of authenticating recording media
US7554576B2 (en) 2005-06-20 2009-06-30 Ricoh Company, Ltd. Information capture and recording system for controlling capture devices
WO2006137798A1 (en) 2005-06-23 2006-12-28 Anoto Ab Methods and devices relating to transfer of non-pen stroke data
JP4799154B2 (ja) 2005-12-02 2011-10-26 キヤノン株式会社 会議支援システム、入力ボード及びその制御方法、プログラム
US8593502B2 (en) * 2006-01-26 2013-11-26 Polycom, Inc. Controlling videoconference with touch screen interface
US7791597B2 (en) 2006-02-10 2010-09-07 Microsoft Corporation Uniquely identifiable inking instruments
WO2007097692A2 (en) 2006-02-22 2007-08-30 Anoto Ab Electronic pen with positioning system and audio module
US20070216660A1 (en) * 2006-03-20 2007-09-20 Steve Sposato Methods and apparatus to implement electronic whiteboards
US7676833B2 (en) 2006-04-17 2010-03-09 Microsoft Corporation Login screen with identifying data
US8427344B2 (en) 2006-06-02 2013-04-23 Anoto Ab System and method for recalling media
US8234578B2 (en) 2006-07-25 2012-07-31 Northrop Grumman Systems Corporatiom Networked gesture collaboration system
US8228371B2 (en) 2006-07-31 2012-07-24 Hewlett-Packard Development Company, L.P. Projection screen and camera array
US7956849B2 (en) * 2006-09-06 2011-06-07 Apple Inc. Video manager for portable multifunction device
JP2008097272A (ja) 2006-10-11 2008-04-24 Hitachi Maxell Ltd デジタルペンのデータ処理システム
US7634540B2 (en) 2006-10-12 2009-12-15 Seiko Epson Corporation Presenter view control system and method
CN101641726A (zh) 2007-01-10 2010-02-03 智能技术Ulc公司 具有问题创制/编辑设施的参与者响应***
WO2008083481A1 (en) 2007-01-10 2008-07-17 Smart Technologies Ulc Participant response system with facilitated communications bandwidth
US8639961B2 (en) 2007-01-10 2014-01-28 Smart Technologies Ulc Participant response system employing battery powered, wireless remote units
US8125510B2 (en) 2007-01-30 2012-02-28 Ankur Agarwal Remote workspace sharing
CN101657826B (zh) 2007-02-15 2013-05-29 S·卡尔 笔记捕获装置
JP2008257660A (ja) 2007-04-02 2008-10-23 Hideaki Tsuyuki ユーザー参加メディア投稿型広告システムおよびそのプログラム
US8374992B2 (en) * 2007-05-29 2013-02-12 Livescribe, Inc. Organization of user generated content captured by a smart pen computing system
WO2008150921A1 (en) 2007-05-29 2008-12-11 Livescribe, Inc. Communicating audio and writing using a smart pen computing system
US20080316348A1 (en) 2007-06-21 2008-12-25 Cisco Technology, Inc. Virtual whiteboard
WO2009008833A1 (en) 2007-07-10 2009-01-15 Anoto Ab System, software module and methods for creating a response to input by an electronic pen
US8271864B2 (en) 2007-07-10 2012-09-18 Anoto Ab Electronic representations of position-coded products in digital pen systems
US8102377B2 (en) 2007-09-14 2012-01-24 Smart Technologies Ulc Portable interactive media presentation system
US8189878B2 (en) 2007-11-07 2012-05-29 Verizon Patent And Licensing Inc. Multifactor multimedia biometric authentication
CN101436136A (zh) 2007-11-16 2009-05-20 宏碁股份有限公司 自动执行预先安装软件元件***及其执行方法
JP2009151508A (ja) 2007-12-20 2009-07-09 Fuji Xerox Co Ltd 会議メモ記録装置および会議メモ記録プログラム
US20090173856A1 (en) 2008-01-08 2009-07-09 Smart Technologies Inc. Safety Device For A Cantilevered Beam And Boom Assembly Incorporating The Same
DE102008004656A1 (de) 2008-01-16 2009-07-23 Siemens Aktiengesellschaft Verfahren zur Verwaltung der Benutzungsberechtigungen bei einem Datenverarbeitungsnetzwerk und ein Datenverarbeitungsnetzwerk
EP2257864A1 (en) 2008-01-28 2010-12-08 Anoto AB Digital pens and a method for digital recording of information
US9300912B2 (en) * 2008-03-28 2016-03-29 Microsoft Technology Licensing, Llc Software based whiteboard capture solution for conference room meetings
US8862731B2 (en) 2008-04-25 2014-10-14 Smart Technologies Ulc Method and system for coordinating data sharing in a network with at least one physical display device
US8275197B2 (en) * 2008-06-14 2012-09-25 Microsoft Corporation Techniques to manage a whiteboard for multimedia conference events
US20090315861A1 (en) * 2008-06-18 2009-12-24 Innovative Material Solutions, Inc. Interactive whiteboard system
FR2933511A1 (fr) * 2008-07-04 2010-01-08 Optinnova Dispositif et procede de visualisation interactif utilisant une camera de detection et un pointeur optique
US20100037273A1 (en) 2008-08-07 2010-02-11 Brian Dressel Interactive video presentation
CN102144398A (zh) 2008-10-28 2011-08-03 爱尔比奎特公司 对车辆内无线电设备中播放的音乐的购买
US20100153160A1 (en) 2008-12-12 2010-06-17 Smart Technologies Ulc System for supporting coordination of resources for events in an organization
US8405706B2 (en) * 2008-12-17 2013-03-26 Microsoft Corporation Visual feedback for natural head positioning
JP2010162706A (ja) 2009-01-13 2010-07-29 Fuji Xerox Co Ltd 感圧表示媒体及び筆記表示装置
US8493340B2 (en) 2009-01-16 2013-07-23 Corel Corporation Virtual hard media imaging
US8355038B2 (en) 2009-01-28 2013-01-15 Hewlett-Packard Development Company, L.P. Systems for capturing images through a display
US8390718B2 (en) * 2009-01-28 2013-03-05 Hewlett-Packard Development Company, L.P. Methods and systems for performing visual collaboration between remotely situated participants
EP2226704B1 (en) 2009-03-02 2012-05-16 Anoto AB A digital pen
NO332210B1 (no) 2009-03-23 2012-07-30 Cisco Systems Int Sarl Grensesnittenhet mellom videokonferansekodek og interaktiv whiteboard-tavle
US20100293605A1 (en) 2009-05-14 2010-11-18 International Business Machines Corporation Positional password confirmation
US8347360B2 (en) 2009-05-15 2013-01-01 Verizon Patent And Licensing Inc. Shared device identity manager
US20100315413A1 (en) 2009-06-16 2010-12-16 Microsoft Corporation Surface Computer User Interaction
AU2010268693B2 (en) 2009-07-02 2014-07-10 Technological Resources Pty Limited A communications system
KR101695809B1 (ko) * 2009-10-09 2017-01-13 엘지전자 주식회사 이동 단말기 및 그 제어방법
US10048725B2 (en) 2010-01-26 2018-08-14 Apple Inc. Video out interface for electronic device
US9955209B2 (en) * 2010-04-14 2018-04-24 Alcatel-Lucent Usa Inc. Immersive viewer, a method of providing scenes on a display and an immersive viewing system
US8713454B2 (en) 2010-06-25 2014-04-29 Verizon Patent And Licensing Inc. Method and apparatus for sharing virtual workspaces
US8484724B2 (en) 2010-07-29 2013-07-09 Bank Of America Corporation User permissions in computing systems
US20120117514A1 (en) 2010-11-04 2012-05-10 Microsoft Corporation Three-Dimensional User Interaction
EP2659363A4 (en) 2010-12-30 2016-06-29 Kyle Kleinbart SYSTEM AND METHOD FOR ONLINE COMMUNICATION MANAGEMENT
US9086798B2 (en) 2011-03-07 2015-07-21 Ricoh Company, Ltd. Associating information on a whiteboard with a user
US8698873B2 (en) 2011-03-07 2014-04-15 Ricoh Company, Ltd. Video conferencing with shared drawing
US8881231B2 (en) 2011-03-07 2014-11-04 Ricoh Company, Ltd. Automatically performing an action upon a login
US9053455B2 (en) 2011-03-07 2015-06-09 Ricoh Company, Ltd. Providing position information in a collaborative environment
US9578076B2 (en) 2011-05-02 2017-02-21 Microsoft Technology Licensing, Llc Visual communication using a robotic device
US20120280948A1 (en) 2011-05-06 2012-11-08 Ricoh Company, Ltd. Interactive whiteboard using disappearing writing medium

Also Published As

Publication number Publication date
JP2012186805A (ja) 2012-09-27
EP2498485B1 (en) 2020-04-01
US20120229589A1 (en) 2012-09-13
CN102685440A (zh) 2012-09-19
EP2498485A2 (en) 2012-09-12
EP2498485A3 (en) 2014-05-14
CN102685440B (zh) 2015-09-02
US9716858B2 (en) 2017-07-25

Similar Documents

Publication Publication Date Title
JP5903936B2 (ja) 情報の選択及び切り替えのための方法、記憶媒体及び装置
US8698873B2 (en) Video conferencing with shared drawing
JP6015032B2 (ja) 共同環境における位置情報の提供
CN112243583B (zh) 多端点混合现实会议
US20230206569A1 (en) Augmented reality conferencing system and method
US10013805B2 (en) Control of enhanced communication between remote participants using augmented and virtual reality
JP6094550B2 (ja) 情報処理装置、プログラム
JP5906922B2 (ja) 消える筆記媒体を用いるインターラクティブホワイトボード
US20130055143A1 (en) Method for manipulating a graphical user interface and interactive input system employing the same
US8996974B2 (en) Enhancing video presentation systems
WO2015192631A1 (zh) 视频会议***及方法
Kunz et al. Collaboard: a novel interactive electronic whiteboard for remote collaboration with people on content
JP2016085748A (ja) ログイン時の自動的動作実行
JP5846270B2 (ja) 画像処理システム、情報処理装置
TWI602436B (zh) 虛擬會議系統
US9946333B2 (en) Interactive image projection
TWI640203B (zh) 擷取使用者所提供影像之技術
TW202016904A (zh) 實物教學投影系統及方法
KR20150145303A (ko) 다시점 텔레프레즌스 서비스 제공 방법 및 장치
Mock et al. Direct 3D-collaboration with Face2Face-implementation details and application concepts
JP7388159B2 (ja) 表示装置、表示方法
EP4364402A1 (en) Tactile copresence
WO2021257918A1 (en) Improved technique for natural whiteboard collaboration
US20120079435A1 (en) Interactive presentaion control system
WO2024019713A1 (en) Copresence system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151124

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160216

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160229

R151 Written notification of patent or utility model registration

Ref document number: 5903936

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151