JP6714942B1 - コミュニケーションシステム、コンピュータプログラム、及び情報処理方法 - Google Patents

コミュニケーションシステム、コンピュータプログラム、及び情報処理方法 Download PDF

Info

Publication number
JP6714942B1
JP6714942B1 JP2020036722A JP2020036722A JP6714942B1 JP 6714942 B1 JP6714942 B1 JP 6714942B1 JP 2020036722 A JP2020036722 A JP 2020036722A JP 2020036722 A JP2020036722 A JP 2020036722A JP 6714942 B1 JP6714942 B1 JP 6714942B1
Authority
JP
Japan
Prior art keywords
image
sharing target
display
moving image
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020036722A
Other languages
English (en)
Other versions
JP2021141404A (ja
Inventor
華 崔
華 崔
Original Assignee
フォクレット合同会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by フォクレット合同会社 filed Critical フォクレット合同会社
Priority to JP2020036722A priority Critical patent/JP6714942B1/ja
Application granted granted Critical
Publication of JP6714942B1 publication Critical patent/JP6714942B1/ja
Publication of JP2021141404A publication Critical patent/JP2021141404A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】意思伝達を容易に行うことができるシステム及び方法を提供する。【解決手段】コミュニケーションシステム1では、第一のディスプレイ14に表示される共有対象画像に関する共有対象データが取得される。第一のディスプレイ14を見るユーザU1を撮影可能に配置されたカメラ15により撮影される動画像に関する動画像データが更に取得される。共有対象画像と動画像との重ね合わせ画像であって、動画像が左右反転した重ね合わせ画像が、第二のディスプレイ34に表示される。【選択図】図1

Description

本開示は、コミュニケーションシステム、コンピュータプログラム、及び情報処理方法に関する。
インターネットに接続された複数の情報処理装置を用いたウェブ会議システムが既に知られている。複数の情報処理装置のそれぞれには、ユーザを撮影するカメラが設けられる。カメラは、マイクロフォンを備え、ユーザ音声を取得する。
複数の情報処理装置のうちの第一の情報処理装置は、付属するカメラにより撮影された画像及び音声成分を含む動画像データを、複数の情報処理装置のうちの第二の情報処理装置に送信する。
例えば、第一の情報処理装置は、複数の情報処理装置間の通信を仲介するサーバ装置を通じて、第二の情報処理装置に、動画像データを送信する。第二の情報処理装置も同様、付属するカメラにより撮影された画像及び音声成分を含む動画像データを第一の情報処理装置に送信する。
第一の情報処理装置は、第二の情報処理装置から受信した動画像データに基づく動画像を付属の第一のディスプレイに表示する。第二の情報処理装置は、第一の情報処理装置から受信した動画像データに基づく動画像を付属の第二のディスプレイに表示する。
上述した第一及び第二の情報処理装置の機能により、第一の情報処理装置を利用する第一のユーザと、第二の情報処理装置を利用する第二のユーザとは、インターネットを通じて対話することができる。
一つの画面を第一の情報処理装置と第二の情報処理装置との間で共有する技術も知られている(例えば特許文献1参照)。既知の技術によれば、共有画面上には、ホワイトボードに類する書き込み可能画面が重ねて表示される。この書込可能画面には、複数のユーザが、対応する情報処理装置を通じて入力した手書き画像が表示される。
この他、カメラによる撮影画像と液晶ディスプレイのパネル画像と合成する会議システムもまた知られている(特許文献2参照)。
特開2006−146629号公報 特開平8−205117号公報
ところで、ユーザの前方からユーザを撮影するカメラの撮影画像では、ユーザの右半身が、撮影画像の左に写り、ユーザの左半身が、撮影画像の右に写る。これは、第一のユーザと第二のユーザとが互いに向き合っている場合、第一のユーザの右手が、第二のユーザにとっては視界の左に位置することと同じである。
一方、第一の情報処理装置と第二の情報処理装置との間で、文書等の画像を共有する場合、第一の情報処理装置のディスプレイに表示される共有画像の左右と、第二の情報処理装置のディスプレイに表示される共有画像の左右とは、同じである。
従って、第一の情報処理装置のディスプレイに表示される共有画像の右側を指し示しながら第一のユーザが第二のユーザに対して共有画像に関する説明を行うとき、第二の情報処理装置のディスプレイに表示される第一のユーザの動画像は、第一のユーザが共有画像の左側を指し示しているように見える。
すなわち、従来技術では、第一の情報処理装置から第二の情報処理装置に第一のユーザを撮影した動画像を提供しても、第二のユーザは、第一のユーザの動画像から、共有画像のどこを指し示しているのか理解し辛い。
そこで、本開示の一側面によれば、カメラによる撮影画像を用いて、意思伝達を容易に行うことが可能なシステム及び方法を提供できることが望ましい。
本開示の一側面によれば、コミュニケーションシステムが提供される。コミュニケーションシステムは、対象取得部と、動画像取得部と、表示制御部とを備える。対象取得部は、第一の情報処理装置に付属する第一のディスプレイに表示される共有対象画像に関する共有対象データを取得するように構成される。動画像取得部は、第一のディスプレイを見るユーザを前から撮影可能に配置されたカメラにより撮影される動画像に関する動画像データを取得するように構成される。
表示制御部は、対象取得部により取得された共有対象データに基づく共有対象画像と動画像取得部により取得された動画像データに基づく動画像との重ね合わせ画像であって、共有対象画像及び動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した重ね合わせ画像を、第二の情報処理装置に付属する第二のディスプレイに表示させるように構成される。表示制御部は、重ね合わせ画像として、動画像が左右反転した重ね合わせ画像を第二のディスプレイに表示させる。
ユーザを前から撮影可能に配置されるカメラによる撮影画像では、ユーザの右半身が左側にあり、ユーザの左半身が右側にある。従って、第二のディスプレイに表示される動画像においてユーザが共有対象画像を指し示す動作は、仮に左右反転がない場合、共有対象画像に対して左右逆である。これに対して、動画像が左右反転した重ね合わせ画像によれば、左右方向に関し、動画像における共有対象画像に対するユーザの向きが、実空間における共有対象画像に対するユーザの向きと一致する。
従って、本開示によれば、第二のディスプレイを見るユーザが、第二のディスプレイに表示される重ね合わせ画像に基づいて、共有対象画像を用いた相手ユーザの説明を理解できる可能性が高まる。このため、本開示によれば、カメラによる撮影画像を用いて、意思伝達を容易に行うことが可能なシステムを提供できる。
本開示の別側面によれば、対象取得部は、共有対象データとしての第一の共有対象データとは別の第二の共有対象データを更に取得可能に構成されてもよい。表示制御部は、第二の共有対象データが取得された場合、重ね合わせ画像として、第一の共有対象データに基づく第一の共有対象画像と、第二の共有対象データに基づく第二の共有対象画像とを、動画像に重ね合わせた画像を、第二のディスプレイに表示させるように構成されてもよい。
本開示の別側面によれば、表示制御部は、第一の情報処理装置を操作するユーザ及び第二の情報処理装置を操作するユーザの少なくとも一方からの指示に基づき、半透明化の対象とされる画像の透明度を変更可能に構成されてもよい。この構成によれば、重ね合わせにより半透明化される上層の画像及び最下層の画像の視認性に関する調整を、ユーザの指示に基づき、適切に行うことができる。
本開示の別側面によれば、重ね合わせ画像は、最下層に動画像が配置された構成にされてもよい。表示制御部は、第一の情報処理装置を操作するユーザ及び第二の情報処理装置を操作するユーザの少なくとも一方からの指示に基づき、第一の共有対象画像の透明度及び第二の共有対象画像の透明度を個別に変更可能に構成されてもよい。
本開示の別側面によれば、第一の共有対象画像及び第二の共有対象画像の少なくとも一方は、第一の情報処理装置を操作するユーザ及び第二の情報処理装置を操作するユーザの少なくとも一方からの手書き入力操作に応じて表示される手書き画像であってもよい。手書き画像の表示は、意思伝達の向上に役立つ。
本開示の別側面によれば、表示制御部は、第一の共有対象画像及び第二の共有対象画像が、共通する被写体を含む写真画像であるとき、第一の共有対象画像及び第二の共有対象画像の一方の被写体のサイズ及び位置を、第一の共有対象画像及び第二の共有対象画像の他方の被写体のサイズ及び位置に合わせるように、第一の共有対象画像及び第二の共有対象画像の一方の表示サイズ及び表示位置を調整して、第一の共有対象画像と第二の共有対象画像とを動画像に重ね合わせた画像を、第二のディスプレイに表示させるように構成されてもよい。
本開示の別側面によれば、表示制御部は、重ね合わせ画像として、共有対象画像の視認性を向上させるように動画像及び共有対象画像の少なくとも一方のコントラストを調整した重ね合わせ画像を、第二のディスプレイに表示させる構成にされてもよい。
本開示の別側面によれば、表示制御部は、カメラにより撮影されるユーザの動作を判別し、重ね合わせ画像内の一部を指し示すためのポインタを、重ね合わせ画像内においてユーザの動作に応じた位置に移動させるように、重ね合わせ画像内におけるポインタの表示制御を行ってもよい。ポインタの表示は、意思伝達の向上に役立つ。
本開示の別側面によれば、表示制御部は、カメラによる撮影領域の一部を、重ね合わせ画像の領域に対応させて、撮影領域の一部におけるユーザの手の動きに応じてポインタを移動させるように、ポインタの表示制御を行うように構成されてもよい。重ね合わせ画像の領域に対応する撮影領域の一部は、撮影領域におけるユーザの位置に応じて決定されてもよい。このような表示制御部の構成によれば、ユーザは、カメラに対する位置移動によらず、手の動きにより、快適にポインタを操作することが可能である。
本開示の別側面によれば、コミュニケーションシステムは、重ね合わせ画像として表示される共有対象画像及び動画像のそれぞれを、タイムスタンプと関連付けて記憶装置に逐次記録する記録部を更に備えてもよい。記憶装置に記録されたデータは、過去のコミュニケーションに係る共有対象画像及び動画像を再生するために活用され得る。
本開示の別側面によれば、動画像取得部は、第一の動画像取得部と、第二の動画像取得部と、を備えてもよい。第一の動画像取得部は、動画像データとして、第一のディスプレイを見るユーザを前から撮影可能に配置された第一のカメラにより撮影される第一の動画像に関する第一の動画像データを取得するように構成されてもよい。
第二の動画像取得部は、第二のディスプレイを見るユーザを前から撮影可能に配置された第二のカメラにより撮影される第二の動画像に関する第二の動画像データを取得するように構成されてもよい。
表示制御部は、第一の表示制御部と、第二の表示制御部と、を備えてもよい。第一の表示制御部は、重ね合わせ画像として、取得された共有対象データに基づく共有対象画像と取得された第一の動画像データに基づく第一の動画像との重ね合わせ画像であって、共有対象画像及び第一の動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した第一の重ね合わせ画像を、第二のディスプレイに表示させるように構成されてもよい。
第二の表示制御部は、取得された共有対象データに基づく共有対象画像と取得された第二の動画像データに基づく第二の動画像との重ね合わせ画像であって、共有対象画像及び第二の動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した第二の重ね合わせ画像を、第一のディスプレイに表示させるように構成されてもよい。
第一の表示制御部は、第一の重ね合わせ画像として、第一の動画像が左右反転した重ね合わせ画像を第二のディスプレイに表示させ、第二の表示制御部は、第二の重ね合わせ画像として、第二の動画像が左右反転した重ね合わせ画像を第一のディスプレイに表示させてもよい。
本開示の別側面によれば、対象取得部は、共有対象データとして、第一の情報処理装置が保有する第一の共有対象データを取得し、更には、第二の情報処理装置が保有する第二の共有対象データを取得してもよい。
第一の表示制御部は、第一の重ね合わせ画像として、取得された第一の共有対象データに基づく第一の共有対象画像と、取得された第二の共有対象データに基づく第二の共有対象画像と、取得された第一の動画像データに基づく第一の動画像との重ね合わせ画像を、第二のディスプレイに表示させるように構成されてもよい。
第二の表示制御部は、第二の重ね合わせ画像として、取得された第一の共有対象データに基づく第一の共有対象画像と、取得された第二の共有対象データに基づく第二の共有対象画像と、取得された第二の動画像データに基づく第二の動画像との重ね合わせ画像を、第一のディスプレイに表示させるように構成されてもよい。
本開示の別側面によれば、コミュニケーションシステムは、第一のディスプレイ及び第二のディスプレイに表示される共有対象画像、第二のディスプレイに表示される及び第一の動画像、並びに、第一のディスプレイに表示される第二の動画像のそれぞれを、タイムスタンプと関連付けて記憶装置に逐次記録する記録部を更に備えてもよい。
本開示の別側面によれば、上述したコミュニケーションシステムにおける対象取得部、動画像取得部、及び、表示制御部の少なくとも一つの機能を、コンピュータに実現させるためのコンピュータプログラムが提供されてもよい。
本開示の別側面によれば、情報処理方法が提供されてもよい。情報処理方法は、第一の情報処理装置に付属する第一のディスプレイに表示される共有対象画像に関する共有対象データを取得することと、第一のディスプレイを見るユーザを前から撮影可能に配置されたカメラにより撮影される動画像に関する動画像データを取得することと、含んでいてもよい。
情報処理方法は、取得された共有対象データに基づく共有対象画像と取得された動画像データに基づく動画像との重ね合わせ画像であって、共有対象画像及び動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した重ね合わせ画像を、第二の情報処理装置に付属する第二のディスプレイに表示させることであって、重ね合わせ画像として、動画像が左右反転した重ね合わせ画像を第二のディスプレイに表示させることを含んでいてもよい。
本開示の別側面によれば、第一の情報処理装置に付属する第一のディスプレイと、第二の情報処理装置に付属する第二のディスプレイと、の間で共通して表示されるべき共有対象画像に関する共有対象データを取得することと、第一のディスプレイを見るユーザを前から撮影可能に配置された第一のカメラにより撮影される第一の動画像に関する第一の動画像データを取得することと、第二のディスプレイを見るユーザを前から撮影可能に配置された第二のカメラにより撮影される第二の動画像に関する第二の動画像データを取得することと、取得された共有対象データに基づく共有対象画像と取得された第一の動画像データに基づく第一の動画像との重ね合わせ画像であって、共有対象画像及び第一の動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した第一の重ね合わせ画像を、第二のディスプレイに表示させることであって、第一の重ね合わせ画像として、第一の動画像が左右反転した重ね合わせ画像を第二のディスプレイに表示させることと、取得された共有対象データに基づく共有対象画像と取得された第二の動画像データに基づく第二の動画像との重ね合わせ画像であって、共有対象画像及び第二の動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した第二の重ね合わせ画像を、第一のディスプレイに表示させることであって、第二の重ね合わせ画像として、第二の動画像が左右反転した重ね合わせ画像を第一のディスプレイに表示させることと、を含む情報処理方法が提供されてもよい。
本開示の例示実施形態に係るコミュニケーションシステムの説明図である。 コミュニケーションシステムの構成を表すブロック図である。 情報処理装置のプロセッサにて実現される機能を示す機能ブロック図である。 サーバ装置のプロセッサにて実現される機能を示す機能ブロック図である。 図5Aは、カメラ動画像と共有対象画像との重ね合わせにより生成される会議映像に関する説明図であり、図5Bは、カメラにより撮影されるユーザに関する説明図である。 データ処理部が実行する会議映像データ生成処理を表すフローチャートである。 手書き画像の重ね合わせに関する説明図である。 図8Aは、透明度の設定に関する情報処理装置及びサーバ装置の構成を説明した機能ブロック図であり、図8Bは、データ処理部が実行する透明度設定処理を表すフローチャートである。 会議映像に付されるポインタを説明する図である。 データ処理部が実行するデータ生成処理を表すフローチャートである。 ジェスチャに基づくポインタ表示を説明する図である。 データ処理部が実行する変形例の処理を表すフローチャートである。
以下に、本開示の例示的実施形態を、図面を参照しながら説明する。本開示の例示的実施形態に係るコミュニケーションシステム1は、図1に示すように、第一の情報処理装置10を使用するユーザU1と、第二の情報処理装置30を使用するユーザU2と、の間の広域ネットワークを通じた対話によるコミュニケーションを、サーバ装置50を通じて実現する。このコミュニケーションシステム1は、ウェブ会議システムとして使用される。
第一の情報処理装置10及び第二の情報処理装置30のそれぞれは、汎用のパーソナルコンピュータに、コミュニケーションシステム1の利用に必要なコンピュータプログラムがインストールされて構成される。
図2に示すように、第一の情報処理装置10は、プロセッサ11と、メモリ12と、ストレージ13と、ディスプレイ14と、カメラ15と、入力インタフェース16と、通信インタフェース17とを備える。
ストレージ13は、例えばハードディスクドライブ(HDD)又はソリッドステートドライブ(SSD)により構成され、コンピュータプログラムを記憶する。プロセッサ11は、ストレージ13が記憶するコンピュータプログラムに従う処理を実行する。メモリ12は、プロセッサ11による処理実行時に作業用メモリとして使用される。
ディスプレイ14は、例えば液晶ディスプレイにより構成される。ディスプレイ14は、プロセッサ11により制御されて、各種情報を表示する。ディスプレイ14は、スピーカ141を内蔵する。スピーカ141は、音声を出力する。
カメラ15は、ディスプレイ14の前に位置するユーザU1を前から撮影可能な向きに配置される。すなわち、カメラ15は、ディスプレイ14の前を向くように配置される。図1は、カメラ15による撮影範囲を破線により概念的に示す。
図2に示すようにカメラ15は、マイクロフォン151を内蔵する。カメラ15からは、マイクロフォン151により集音された音声成分を含む動画像データがカメラ画像データとして出力される。カメラ画像データは、カメラ15により撮影された動画像を表す。カメラ画像データは、プロセッサ11に入力される。以下では、カメラにより撮影された動画像のことを、カメラ画像ともいう。
入力インタフェース16は、キーボード及びポインティングデバイスを含み、ユーザU1からの操作を受けて、対応する操作信号をプロセッサ11に入力する。通信インタフェース17は、広域ネットワーク、具体的にはインターネットに接続され、プロセッサ11から入力される送信対象データを広域ネットワークに送出し、広域ネットワークから受信したデータを、プロセッサ11に入力する。
プロセッサ11は、ウェブ会議の開始指示が入力インタフェース16を通じて入力されると、特定のコンピュータプログラムを実行することにより、サーバ装置50を通じた第一の情報処理装置10と第二の情報処理装置30との間の接続を確立する。
更に、プロセッサ11は、上記特定のコンピュータプログラムの実行により、図3に示す動画像データ取得部110、共有対象データ取得部120、通信制御部130、及び表示制御部140として機能する。
動画像データ取得部110は、カメラ15から上述のカメラ画像データを取得し、これを通信制御部130に入力するように構成される。共有対象データ取得部120は、ウェブ会議に際し、第一及び第二の情報処理装置10,30のディスプレイ14,34に共通して表示されるべき共有対象画像に関する共有対象データを、第一の情報処理装置10内の対応するアプリケーションプログラムの実行タスクから取得するように構成される。
アプリケーションプログラムの例には、文書作成ソフトウェア、プレゼンテーションソフトウェア、及び図形作成ソフトウェアが含まれる。ユーザU1は、入力インタフェース16を通じて第一の情報処理装置10を操作し、共有対象画像を、対応するアプリケーションプログラムを起動することにより、ディスプレイ14に表示させた後、入力インタフェース16を通じて、この共有対象画像を、共有対象に指定する操作を行うことができる。
共有対象データ取得部120は、この指定操作に基づき、共有対象データを取得すべきアプリケーションプログラムを識別し、識別したアプリケーションプログラムの実行タスクから共有対象データを取得することができる。
共有対象データは、第一の情報処理装置10において、対応するタスクがディスプレイ14に表示しようとする共有対象画像と同じ共有対象画像を、他の情報処理装置に表示させるのに必要なデータであり得る。共有対象データ取得部120は、取得した共有対象データを通信制御部130に入力する。共有対象データ取得部120は、共有対象の指定がない環境では、指定操作が行われるまで、共有対象データを通信制御部130に入力しないように構成される。
通信制御部130は、データ送信部131及びデータ受信部135を備える。データ送信部131は、動画像データ取得部110から入力されるカメラ画像データ及び共有対象データ取得部120から入力される共有対象データを、タイムスタンプを付した送信対象データに変換し、送信対象データをサーバ装置50に送信する。
コミュニケーションシステム1では、サーバ装置50が、第一の情報処理装置10及び第二の情報処理装置30との接続確立後、第一の情報処理装置10及び第二の情報処理装置30のそれぞれに対して、共通する時刻情報を提供する。データ送信部131は、この時刻情報に基づき動作する内部時計CLKに基づき、タイムスタンプを生成する。
データ受信部135は、サーバ装置50から送信される会議映像データを受信し、受信した会議映像データを表示制御部140に入力する。表示制御部140は、入力された会議映像データに基づく会議映像をディスプレイ14に表示させるように、ディスプレイ14を制御する。会議映像データは、音声成分を含む動画像データであり、対応する音声は、スピーカ141から出力される。
図3には、会議映像の例に対応する画像G1が示される。会議映像は、会議映像を見るユーザのコミュニケーション相手のカメラ画像と、半透明化された共有対象画像との重ね合わせ動画像に対応する。会議映像は、ウェブ会議に参加するユーザU1,U2のいずれからも共有対象の指定操作がない環境では、単にコミュニケーション相手のカメラ画像であり得る。
図2に示すように、第二の情報処理装置30は、プロセッサ31と、メモリ32と、ストレージ33と、ディスプレイ34と、カメラ35と、入力インタフェース36と、通信インタフェース37とを備える。
プロセッサ31、メモリ32、ストレージ33、ディスプレイ34、カメラ35、入力インタフェース36、及び、通信インタフェース37は、それぞれ、第一の情報処理装置10におけるプロセッサ11、メモリ12、ストレージ13、ディスプレイ14、カメラ15、入力インタフェース16、及び通信インタフェース17と同様に構成される。
ディスプレイ34は、スピーカ341を備える。カメラ35は、ディスプレイ34の前に位置するユーザU2を前から撮影可能な向きに配置される。カメラ35は、マイクロフォン351を内蔵する。
カメラ35からは、カメラ35により撮影された動画像を表す動画像データであって、マイクロフォン351により集音された音声成分を含む動画像データがカメラ画像データとして出力される。カメラ画像データは、プロセッサ31に入力される。
プロセッサ31は、コンピュータプログラムの実行により、第一の情報処理装置10と同様に、図3に示す動画像データ取得部110、共有対象データ取得部120、通信制御部130、及び表示制御部140として機能する。動画像データ取得部110、共有対象データ取得部120、通信制御部130、及び表示制御部140の動作は、上述した通りである。
第二の情報処理装置30において、動画像データ取得部110は、カメラ35から出力されるカメラ画像データを取得する。共有対象データ取得部120は、ユーザU2から指定された共有対象画像に対応する共有対象データを、第二の情報処理装置30内の対応するアプリケーションプログラムの実行タスクから取得する。ユーザU2は、入力インタフェース36を通じて共有対象の指定操作を行うことができる。
通信制御部130は、取得したカメラ画像データ及び共有対象データを、タイムスタンプを付した送信対象データに変換し、この送信対象データをサーバ装置50に送信する。表示制御部140は、通信制御部130から入力されたサーバ装置50からの会議映像データに基づく会議映像をディスプレイ34に表示させるように、ディスプレイ34を制御する。
サーバ装置50は、一つ以上のコンピュータから構成され、広域ネットワークを通じて、第一の情報処理装置10と第二の情報処理装置30と通信する。図2に簡易表示されるサーバ装置50は、プロセッサ51と、メモリ53と、ストレージ55と、通信インタフェース57とを備える。
ストレージ55は、コンピュータプログラムを記憶する。プロセッサ51は、ストレージ55が記憶するコンピュータプログラムに従う処理を実行する。メモリ53は、プロセッサ51による処理実行時に作業用メモリとして使用される。通信インタフェース57は、広域ネットワークに接続される。
サーバ装置50のプロセッサ51は、ウェブ会議の開催を要求する信号を、ウェブ会議に参加する第一の情報処理装置10及び第二の情報処理装置30の双方から広域ネットワークを介して受信すると、第一の情報処理装置10及び第二の情報処理装置30を用いたユーザU1とユーザU2との間のコミュニケーションを実現するために、特定のコンピュータプログラムを実行する。
サーバ装置50のプロセッサ51は、上記特定のコンピュータプログラムの実行により、第一の情報処理装置10と第二の情報処理装置30との間の接続を確立する。
上記コンピュータプログラムの実行により、プロセッサ51は更に、図4に示すデータ受信部510、第一データ処理部520、第一データ送信部530、第二データ処理部540、及び第二データ送信部550として機能する。この機能により、プロセッサ51は、ユーザU1とユーザU2との間のウェブ会議を実現する。
データ受信部510は、第一の情報処理装置10及び第二の情報処理装置30からの送信データを、通信インタフェース57を通じて受信する。
第一データ処理部520は、第一の情報処理装置10及び第二の情報処理装置30からの共有対象データ、及び、第一の情報処理装置10からのカメラ画像データに基づき、第二の情報処理装置30向けの会議映像データを生成する。
第一データ送信部530は、第一データ処理部520にて生成された会議映像データを、第一の情報処理装置10のユーザU1に対するコミュニケーション相手の情報処理装置である第二の情報処理装置30に送信する。
第二データ処理部540は、上記共有対象データ及び第二の情報処理装置30からのカメラ画像データに基づいて、第一の情報処理装置10向けの会議映像データを生成する。第二データ送信部550は、第二データ処理部540にて生成された会議映像データを、第二の情報処理装置30のユーザU2に対するコミュニケーション相手の情報処理装置である第一の情報処理装置10に送信する。
会議映像は、上述したように、コミュニケーション相手のカメラ画像に半透明の共有対象画像が重ね合わせられた動画像である。すなわち、第一の情報処理装置10のディスプレイ14に表示される会議映像は、第二の情報処理装置30のカメラ35により撮影された動画像と、半透明の共有対象画像との重ね合わせ動画像である。以下では、重ね合わせ動画像のことを、合成画像とも表現する。
同様に、第二の情報処理装置30のディスプレイ34に表示される会議映像は、第一の情報処理装置10のカメラ15により撮影された動画像と、半透明の共有対象画像との重ね合わせ動画像である。
本実施形態によれば、特徴的なことに、第一データ処理部520では、カメラ15による撮影画像が、左右反転画像として第二の情報処理装置30のディスプレイ34に表示されるように、第一の情報処理装置10からのカメラ画像データが左右反転処理される。左右反転画像は、元の画像に対して左右が反転した画像である。
すなわち、第一データ処理部520で生成される第二の情報処理装置30向けの会議映像データは、カメラ画像として、カメラ15による撮影画像の左右反転画像を含む会議映像がディスプレイ34に表示されるように構成される。
同様に、第二データ処理部540では、カメラ35による撮影画像が、左右反転画像として第一の情報処理装置10のディスプレイ14に表示されるように、第一の情報処理装置10からのカメラ画像データが左右反転処理される。
すなわち、第二データ処理部540で生成される第一の情報処理装置10向けの会議映像データは、カメラ画像として、カメラ35による撮影画像の左右反転画像を含む会議映像がディスプレイ14に表示されるように構成される。
図5Aに示すように、第二の情報処理装置30向けの会議映像データが生成されるとき、第一データ処理部520では、カメラ15により撮影されたフレーム毎の画像データF1が、左右反転処理される(S1)。これにより、左右反転画像データF2が生成される。この左右反転画像データF2が、重ね合わせ処理(S2)により、共有対象データに基づくフレーム毎の共有対象画像データF3と重ね合わされて、その合成画像データF4がフレーム毎に生成される。会議映像データは、このような合成画像データF4を、フレーム毎に有する動画像データである。
図5Aに示される画像データF1は、例えば図5Bに示すように、ユーザU1がディスプレイ14の右領域に表示される共有対象画像の領域を指で指し示しながら、共有対象画像の説明をしているときに、カメラ15により撮影される画像に対応する。
ここで、画像データF1に対する左右反転処理を、仮に実行しない場合を考える。この場合には、ユーザU1がディスプレイ14の右領域を指し示しているのもかかわらず、第二の情報処理装置30のディスプレイ34に表示される会議映像を通じてユーザU2が見ることができるのは、ユーザU1がディスプレイ34の左領域を指し示している姿である。
一方、画像データF1に対し左右反転処理する場合を考える。この場合には、ユーザU2は、第二の情報処理装置30のディスプレイ34に表示される会議映像を通じて、ユーザU1がディスプレイ34の右領域を指し示している姿を見ることができる。
本実施形態において左右反転処理が行われるのは、このように、カメラ画像と共有対象画像との合成画像を会議映像として表示するときに、ユーザU1が実空間で指し示す共有対象画像の部位と同じ部位が、会議映像においても会議映像に写るユーザU1によって指し示されるようにするためである。なお、会議映像は、通常のコミュニケーションシステム1の使用において、ディスプレイ14,34に全画面表示される。
指し示される部位の一致により、ユーザU1,U2間では、ウェブ会議において、共通対象画像を通じた容易な意思疎通が可能である。容易な意思疎通の効果は、ユーザU2が共有対象画像を指し示しながら、ユーザU1に向けて共有対象画像に対する説明を行う場合にも、同様に得られる。
続いて、第一データ処理部520が実行する会議映像データ生成処理の詳細を、図6を用いて説明する。第一データ処理部520は、第一の情報処理装置10と第二の情報処理装置30との間の接続確立後、会議映像データ生成処理を繰返し実行する。
会議映像データ生成処理を開始すると、第一データ処理部520は、処理対象データの一群をデータ受信部510から取得する。取得される処理対象データの一群には、第一の情報処理装置10からのカメラ画像データ、及び、第一及び第二の情報処理装置10,30からの共有対象データが含まれる(S110)。
具体的に、S110で取得されるデータは、カメラ画像データ及び共有対象データのそれぞれに関して、動画像の1フレーム分のデータであり得る。以下では、1フレーム分のカメラ画像データのことを、カメラ画像フレームデータと表現し、1フレーム分の共有対象データのことを、共有対象画像フレームデータと表現する。カメラ画像フレームデータには、対応する音声データが付随する。
S110では、第一の情報処理装置10及び第二の情報処理装置30からの受信データに付されたタイムスタンプに基づき、同一時刻のカメラ画像フレームデータ及び共有対象画像フレームデータが取得され得る。
データ受信部510が情報処理装置10,30から受信する共有対象データは、共有対象画像を特定可能なデータではあるけれども、画像データそれ自体ではない場合がある。この場合、第一データ処理部520は、S110において、共有対象データから、1フレーム分の共有対象画像を表す画像データを、共有対象画像フレームデータとして生成することができる。
その後、第一データ処理部520は、上記取得したカメラ画像フレームデータに対する左右反転処理を実行し、カメラ画像フレームデータが示すカメラ画像を左右反転させるように、カメラ画像フレームデータを加工する(S120)。左右反転処理前のカメラ画像フレームデータは、上述した画像データF1に対応し、左右反転処理後のカメラ画像フレームデータは、上述した左右反転画像データF2に対応する。
更に、第一データ処理部520は、S110で取得した共有対象画像フレームデータに対する半透明化処理を実行し、共有対象画像フレームデータが示す共有対象画像を半透明画像に変換するように、共有対象画像フレームデータを加工する(S130)。S130において、第一データ処理部520は、半透明化後の共有対象画像が予め設定された透明度を有するように共有対象画像フレームデータを加工する。
その後、第一データ処理部520は、加工後のカメラ画像フレームデータ及び共有対象画像フレームデータに対してコントラスト補正処理を実行することにより、会議映像における共有対象画像の視認性が向上するように、カメラ画像、及び、カメラ画像に重ね合わせられる共有対象画像のコントラストを補正する(S140)。
具体的に、コントラスト補正処理において、第一データ処理部520は、加工後の共有対象画像フレームデータの輝度情報に対するヒストグラム平坦化により、共有対象画像のコントラストを向上させることができる。
一方、第一データ処理部520は、カメラ画像のコントラストを所定量下げるように、加工後のカメラ画像フレームデータの輝度情報を補正する処理を実行する。これにより、第一データ処理部520は、会議映像における共有対象画像の視認性が向上するように、カメラ画像及び共有対象画像のコントラストを総合的に補正する。
その後、第一データ処理部520は、コントラスト補正後のカメラ画像フレームデータ及び共有対象画像フレームデータに基づき、コントラスト補正後のカメラ画像と半透明共通対象画像との重ね合わせ画像に対応する1フレーム分の会議映像を表す会議映像フレームデータを生成する(S150)。会議映像フレームデータには、対応する音声データが付随する。重ね合わせ画像は、最下層に上記コントラスト補正後のカメラ画像を配置し、その上層に上記コントラスト補正後の半透明の共通対象画像を配置した画像に対応する。会議映像フレームデータは、上述した合成画像データF4に対応する。
第一データ処理部520は、生成した会議映像フレームデータを、第一データ送信部530に出力する(S160)。更に、第一データ処理部520は、会議映像フレームデータの生成に用いたカメラ画像フレームデータ及び共有対象画像フレームデータのそれぞれを、対応するフレームのタイムスタンプを付した記録データとしてストレージ55に保存する(S170)。ストレージ55には、付随する音声データもタイプスタンプに関連付けて記録される。記録データは、第一及び第二の情報処理装置10,30からの指示に基づいて、会議映像をプレイバックする目的で保存される。
第一データ処理部520は、上述したS110〜S170の処理を繰返し実行することにより、フレーム毎に、カメラ画像と共有対象画像との重ね合わせ画像に対応する会議映像フレームデータを生成し、これを第一データ送信部530に入力する。
第一データ送信部530は、第一データ処理部520から入力される会議映像フレームデータの配列を含む会議映像データを逐次、第二の情報処理装置30に送信することにより、第二の情報処理装置30のディスプレイ34に、上述した会議映像を表示させる。第二の情報処理装置30では、受信した会議映像データに基づき表示制御部140がディスプレイ34を制御し、ディスプレイ34に、対応する会議映像を表示させる。
第二データ処理部540も、第一データ処理部520と同様に図6に示す会議映像データ生成処理を実行する。すなわち、第二データ処理部540は、処理対象データの一群として、第二の情報処理装置30からのカメラ画像データ、及び、第一及び第二の情報処理装置10,30からの共有対象データを1フレーム分取得する(S110)。
第二データ処理部540は、S110で取得したカメラ画像フレームデータに対する左右反転処理を実行する(S120)。更に、第二データ処理部540は、S110で取得した共有対象画像フレームデータに対する半透明化処理を実行する(S130)。
第二データ処理部540は、上記左右反転処理による加工後のカメラ画像フレームデータ及び上記半透明化処理による加工後の共有対象画像フレームデータに対してコントラスト補正処理を実行する(S140)。コントラスト補正処理において、第二データ処理部540は、ヒストグラム平坦化により、共有対象画像のコントラストを向上させる。第二データ処理部540は、カメラ画像のコントラストを所定量下げる。これにより、第二データ処理部540は、会議映像における共有対象画像の視認性が向上するように、カメラ画像及び共有対象画像のコントラストを総合的に補正する。
第二データ処理部540は、コントラスト補正後のカメラ画像フレームデータ及び共有対象画像フレームデータに基づき、コントラスト補正されたカメラ35による撮影画像と共有対象画像との重ね合わせ画像に対応する会議映像フレームデータを生成する(S150)。
第二データ処理部540は、生成した会議映像フレームデータを、第二データ送信部550に出力する(S160)。更に、第二データ処理部540は、第一データ処理部520と同様に、タイムスタンプに関連付けて、カメラ画像フレームデータ及び共有対象画像フレームデータをストレージ55に保存するように、記録データをストレージ55に保存する(S170)。第二データ処理部540は、上述したS110〜S170の処理を繰返し実行することにより、会議映像データを、フレーム毎に第二データ送信部550に入力する。
第二データ送信部550は、入力される会議映像データを逐次、第一の情報処理装置10に送信することにより、第一の情報処理装置10のディスプレイ14に、上述した会議映像を表示させる。第一の情報処理装置10では、受信した会議映像データに基づき表示制御部140がディスプレイ14を制御して、ディスプレイ14に、対応する会議映像を表示させる。
以上に、コミュニケーションシステム1の基本構成を説明した。このコミュニケーションシステム1によれば、半透明の共有対象画像とカメラ画像と重ねて表示するので、カメラ画像と共有対象画像とを別の画面に分けて表示するよりも、ユーザが情報の細部を確認し易く、共有対象画像を通じた円滑なコミュニケーションが可能である。
本実施形態では更に、半透明の共有対象画像とカメラ画像との重ね合わせに際して、カメラ画像を左右反転させることで、撮影されるユーザU1が実空間上で行う行動と、ユーザU2が画面を通じてみることのできるユーザU1の行動と、の共有対象画像に対する位置関係が揃うようにした。従って、このコミュニケーションシステム1によれば、カメラ画像の左右反転がない場合と比較して、画面を通じた指し示し行動と共有対象画像との関係が分かりやすい。
このように、半透明の共有対象画像とカメラ画像との重ね合わせに関する特徴、及び、カメラ画像の左右反転に関する特徴は、相互に有意義に結びついている。表示画面全体を反転させては、共有対象画像に文字が含まれる場合に、文字が読めなくなる。本実施形態の技術では、半透明の共有対象画像とカメラ画像との重ね合わせ画像において、カメラ画像のみを左右反転させることで、カメラ画像を通じたユーザU1の共有対象画像に対する説明をユーザU2に対して効果的に伝えることができるのである。従って、本実施形態の技術は、革新的である。
続いて、コミュニケーションシステム1に任意に追加されてもよい構成又はコミュニケーションシステム1の変形例を説明する。
第一の情報処理装置10における共有対象データ取得部120は、共有対象データとして、第一の情報処理装置10における第一のアプリケーションプログラムの実行タスクから、第一の共有対象画像に対応する第一の共有対象データを取得し、第一の情報処理装置10における第二のアプリケーションプログラムの実行タスクから、第二の共有対象画像に対応する第二の共有対象データを取得するように構成されてもよい。
すなわち、共有対象データ取得部120は、第一の情報処理装置10内で複数種のデータを共有対象データとして取得するように構成されてもよい。この場合、会議映像は、コミュニケーション相手のカメラ画像に、半透明の第一の共有対象画像及び第二の共有対象画像を重ねた三層以上の画像レイヤを有する合成画像として、ディスプレイ14,34で表示されてもよい。第二の情報処理装置30は、第一の情報処理装置10と同様に構成されてもよい。
第一の情報処理装置10及び第二の情報処理装置30には、ユーザU1,U2の手書き入力操作を受付可能なアプリケーションプログラムがインストールされてもよい。第一の情報処理装置10のプロセッサ11は、このアプリケーションプログラムの実行タスクから、表示すべき手書き画像を特定可能なデータを、共有対象データ、あるいは、上述の第一の共有対象データ又は第二の共有対象データとして取得してもよい。
手書き画像に関する共有対象データは、表示すべき手書き画像それ自体を直接的に表す画像データであってもよいし、入力インタフェース16,36による手書き入力操作に関する操作データであってもよい。
サーバ装置50は、最下層にカメラ画像を配置し、その上層に共有対象画像として半透明の手書き画像を重ね合わせた会議映像を、ディスプレイ14,34に表示させるための会議映像データを、第一の情報処理装置10及び第二の情報処理装置30からの受信データに基づき生成して、第一の情報処理装置10及び第二の情報処理装置30に送信するように構成されてもよい。
図7は、カメラ画像E1に対して、第一の共有対象画像として半透明の文書画像E2が重ね合わせられ、更に、第二の共有対象画像として半透明の手書き画像E3が重ね合わされた画像E4を、会議映像の一例として示す。このように、会議映像は、カメラ画像に対して複数層に亘って、複数の共有対象画像が重ね合わられた構成にされ得る。
この他、第一の情報処理装置10及び第二の情報処理装置30は、透明度の指定操作を、入力インタフェース16,36を通じてユーザU1,U2から受付可能に構成されてもよい。すなわち、プロセッサ11,31は、コンピュータプログラムの実行により、図8Aに示す透明度指定操作受付部170として更に機能してもよい。
第一の情報処理装置10において、透明度指定操作受付部170は、入力インタフェース16を通じて、ユーザU1から、ディスプレイ14に表示される会議映像を構成する各層の共有対象画像の透明度の指定操作を受け付けることができる。
透明度指定操作受付部170は、透明度の指定操作が行われる度に、各層の共有対象画像の透明度の指定値を表す透明度指定データを、データ送信部131に入力するように構成され得る。データ送信部131は、入力された透明度指定データを、サーバ装置50に送信するように構成され得る。
同様に、第二の情報処理装置30において、透明度指定操作受付部170は、入力インタフェース36を通じて、ユーザU2から、ディスプレイ34に表示される会議映像を構成する各層の共有対象画像の透明度の指定操作を受け付けることができる。第二の情報処理装置30からは、各層の透明度指定値を有する透明度指定データが、透明度指定操作受付部170及びデータ送信部131を通じてサーバ装置50に送信され得る。
サーバ装置50のプロセッサ51は、コンピュータプログラムの実行により、透明度設定部570として更に機能することができる。透明度設定部570は、第二の情報処理装置30からの透明度指定データを、データ受信部510を通じて取得し、取得した透明度指定データに基づき、第一データ処理部520により参照されるユーザU2用の透明度設定データD1を更新することができる。
透明度設定部570は、第一の情報処理装置10からの透明度指定データを、データ受信部510を通じて取得し、取得した透明度指定データに基づき、第二データ処理部540により参照されるユーザU1用の透明度設定データD2を更新することができる。
透明度設定データD1は、ディスプレイ34に表示されるユーザU2向けの会議映像の各層の共有対象画像の透明度の設定値を有する。透明度設定データD2は、ディスプレイ14に表示されるユーザU1向けの会議映像の各層の共有対象画像の透明度の設定値を有する。
透明度設定部570は、図8Bに示す透明度設定処理を繰返し実行することにより、透明度指定データを受信する度(S210)、透明度指定元に対応するユーザU1又はユーザU2用の透明度設定データD2又は透明度設定データD1内の透明度設定値を、透明度指定データが示す透明度指定値に更新する(S220)。
第一データ処理部520は、S130において、各層の共有対象画像の透明度が、ユーザU2用の透明度設定データD1に示される設定値に一致するように、各層の共有対象画像フレームデータに対する半透明化処理を実行することができる。
第二データ処理部540は、S130において、各層の共有対象画像の透明度が、ユーザU1用の透明度設定データD2に示される設定値に一致するように、各層の共有対象画像フレームデータに対する半透明化処理を実行することができる。
この場合、ディスプレイ14には、ユーザU1から指定された透明度の共有対象画像を有する会議映像が表示され、ディスプレイ34には、ユーザU2から指定された透明度の共有対象画像を有する会議映像が表示される。
別例として、透明度設定データD1,D2に代えて、ユーザU1,U2に共通の透明度設定データが設けられてもよい。この場合には、ユーザU1,U2のいずれかからの指定に基づき、ディスプレイ14,34に表示される共有対象画像の透明度が同時に変更され得る。
更なる別例として、各層の共有対象画像には、共通の透明度が設定されてもよい。すなわち、各層の共有対象画像には、個別の透明度が設定されてもよいし、同一の透明度が設定されてもよい。
透明度の指定がない場合、共有対象画像は、予め定められた標準の透明度で表示され得る。あるいは、透明度の指定がない場合、プロセッサ51は、会議映像を構成するカメラ画像及び各層の共有対象画像に基づき、最適な透明度を探索し、探索された透明度で共有対象画像を半透明化するように、半透明化処理を実行してもよい。
この他、コミュニケーションシステム1は、コミュニケーション相手の視線又はジェスチャに従うポインタPNを含む会議映像が、ディスプレイ14,34に表示されるように、会議映像データを生成してもよい。図9に示される画像H1は、ポインタPNを含む会議映像の例である。図9では、カメラ画像の図示が省略されている。
ポインタPNは、会議映像において、コミュニケーション相手が見る共有対象画像上の位置、又は、コミュニケーション相手のジェスチャに従う共有対象画像上の位置に配置される画像であり得る。
ポインタPNの表示に関連して、第一データ処理部520は、S150において、図10に示すデータ生成処理を実行することができる。このデータ生成処理において、第一データ処理部520は、ポインタ表示モードであるか否かを判断する(S310)。この例によれば、会議映像の表示モードとして、ポインタ表示モードとポインタ非表示モードとが用意されている。表示モードは、例えば、ユーザU1,U2のうち、表示モードの切替権限を有するユーザからの指示に従って切り替えられる。
第一データ処理部520は、会議映像の表示モードがポインタ非表示モードであると判断すると(S310でNo)、S320に移行し、ポインタPNなしの会議映像をディスプレイ34に表示させるための会議映像フレームデータを生成する。S320での処理は、先に説明した実施形態におけるS150の処理と同様である。
第一データ処理部520は、会議映像の表示モードがポインタ表示モードであると判断すると(S310でYes)、カメラ15の撮影画像を表すカメラ画像データに基づき、ユーザU1の視線を判別し、ユーザU1の視線とユーザU1が見るディスプレイ14との交点に対応する共通対象画像上の位置座標を、ポインタ位置座標として算出する(S330)。別例として、第一データ処理部520は、カメラ画像データに基づき、ユーザU1のジェスチャを判別し、ユーザU1がジェスチャで指し示すディスプレイ14上の位置に対応する共通対象画像上の位置座標を、ポインタ位置座標として算出してもよい(S330)。
その後、第一データ処理部520は、カメラ画像と半透明の共有対象画像との重ね合わせ画像における上記算出したポインタ位置座標にポインタPNを配置した会議映像をディスプレイ34に表示させるための会議映像フレームデータを生成する。第一データ処理部520は、その後、生成した会議映像フレームデータを第一データ送信部530に入力する(S160)。
第二の情報処理装置30は、第一データ送信部530から広域ネットワークを通じて受信した上記会議映像データに基づき、図9に示すように、ユーザU1の視線/ジェスチャに対応する位置にポインタPNが配置された会議映像を、ディスプレイ34に表示することができる。
第二データ処理部540も同様に、S150では、図10に示すデータ生成処理を実行することができる。すなわち、第二データ処理部540は、会議映像の表示モードがポインタ表示モードである場合には(S310でYes)、カメラ35の撮影画像を表すカメラ画像に基づき、ユーザU2の視線又はジェスチャに基づくポインタ位置座標を算出することができる(S330)。第二データ処理部540は更に、カメラ画像と半透明の共通対象画像との重ね合わせ画像における上記算出したポインタ位置座標にポインタPNを配置した、第一の情報処理装置10向けの会議映像フレームデータを生成することができる(S340)。ユーザU1,U2に関するポインタPNの両方が表示されるように会議映像フレームデータは生成されてもよい。
更なる別例として、ポインタPNは、ユーザU1の指(例えば人差し指)の動きに従って会議映像内で移動されてもよい。この場合、第一データ処理部520は、カメラ15の撮影領域R0内において、ジェスチャを行うユーザU1の身体の特定点を基準に位置が相対的に定められる所定面積のエリアRを仮想的なタッチパッド領域とみなして、ユーザU1のエリアR内における指の動きに対応する会議映像内の位置にポインタPNを配置するよう、会議映像フレームデータを生成することができる。特定点は、例えば、頭の位置、目の位置、肩の位置などに定められ得る。
エリアRの例は、図11に示される。この例によれば、エリアR内の各点が、会議映像内の各点に割り当てられ、エリアRにおけるユーザU1の指の位置に対応する会議映像内の位置にポインタPNが配置される。すなわち、第一データ処理部520は、エリアR内の指の位置に基づいて、ポインタ位置座標を算出し(S330)、算出したポインタ位置座標にポインタPNを配置した会議映像フレームデータを生成することができる(S340)。
この場合には、ユーザU1が相手のディスプレイ34において意図した通りにポインタPNが表示されていることを、ディスプレイ14を通じて確認できるように、ディスプレイ14には、会議映像に重ねてユーザU1のジェスチャ確認用のポインタが追加表示されてもよい。
この他、上記実施形態では、会議映像のプレイバックを目的として、第一データ処理部520が、タイムスタンプに関連付けて、カメラ画像フレームデータ及び共有対象画像フレームデータを、ストレージ55に保存するが、第一データ処理部520は、更に次のように構成されてもよい。
すなわち、第一データ処理部520は、プレイバック時に共有対象画像の透明度、及び、コントラストの変更、並びに、複数の共有対象画像のレイヤ順位の変更を可能にするために、タイムスタンプに関連付けて、カメラ画像フレームデータ及び共有対象画像フレームデータと共に、共有対象画像の透明度及びコントラスト、並びに、各共有対象画像のレイヤ順位の情報を含む設定データを、ストレージ55に保存するように構成されてもよい。
共有対象画像が音声を含む映像であるときには、対応する音声データも、カメラ画像に対応する音声データとは別個に、タイムスタンプに関連付けられて、更には、レイヤ情報に関連付けられて保存され得る。コミュニケーションシステム1にチャット機能が設けられる場合には、タイムスタンプに関連付けられて、チャット機能によりやりとりされたメッセージが併せて保存されてもよい。
プレイバックに際して、第一データ処理部520は、タイムスタンプに関連付けられた、カメラ画像フレームデータ、共有対象画像フレームデータ、及び設定データに基づき、非プレイバック時と同様に、会議映像データを生成し、第一データ送信部530を通じて会議映像データを送信することができる。第一データ処理部520は、プレイバック中には、例えば、透明度の変更等の表示態様の変更に関するユーザ操作に応じて、表示態様を変更するように会議映像データを生成することができる。
設定データには、各共有対象画像の表示位置及び表示サイズの情報が更に含まれてもよい。第一データ処理部520は、ユーザ操作に応じて、互いに重ね合わされる複数の共有対象画像の表示位置及び表示サイズを相対的に変更して、会議映像データを生成するように構成されてもよい。
第二データ処理部540もまた、第一データ処理部520と同様に構成され得る。すなわち、第二データ処理部540は、タイムスタンプに関連付けて、カメラ画像フレームデータ及び共有対象画像フレームデータと共に、設定データをストレージ55に保存することができる。更には、プレイバックに関するユーザ操作を受け付けて、ストレージ55内の記録データに基づき、会議映像データを生成し、第二データ送信部550を通じて会議映像データを送信することができる。
この他、第一データ処理部520は、S150(図6参照)において、カメラ画像と共有対象画像との重ね合わせ画像に対応する会議映像フレームデータを生成する際に、共有対象画像の表示サイズ及び表示位置を自動調整して、カメラ画像に重ね合わせるように動作してもよい。
具体的に、第一データ処理部520は、重ね合わせ対象の複数の共有対象画像が存在し、複数の共有対象画像が、共通する被写体を含む写真画像であるときに、有効に機能する自動合わせモードを有することができる。
詳述すれば、第一データ処理部520は、S150において図12に示す処理を実行することができる。図12に示す例によれば、第一データ処理部520は、ユーザから自動合わせモードが指定されているか否かを判断する(S410)。
自動合わせモードが指定されていない場合、第一データ処理部520は、共有対象画像の表示位置及びサイズの自動調整を行わずに、上記実施形態と同様に、一つ以上の共有対象画像とカメラ画像との重ね合わせ画像に対応する会議映像フレームデータを生成する(S420)。重ね合わせ画像は、上記実施形態と同様に、コントラスト補正後のカメラ画像と半透明の共通対象画像との重ね合わせ画像である。
一方、自動合わせモードが指定されている場合、第一データ処理部520は、S430に移行する。但し、第一データ処理部520は、自動合わせモードが指定されていても、重ね合わせ対象として共有対象画像が複数存在しない場合には、自動合わせモードの指定を拒否して、S420に移行する。
S430において、第一データ処理部520は、複数の共有対象画像が、共通する被写体を含む複数の写真画像とみなして、画像解析により、複数の共有対象画像内において共通する被写体を検知する。
続くS440において、第一データ処理部520は、複数の共有対象画像のうちの一つの第一の共有対象画像内の被写体サイズに、その他の一つ以上の第二の共有対象画像内の被写体サイズを合わせるように、第二の共有対象画像の表示サイズを設定する。
更に、第一データ処理部520は、第一の共有対象画像内の被写体と、第二の共有対象画像内の被写体がぴったりと重なるように、第一の共有対象画像に対する第二の共有対象画像の表示位置を設定する(S450)。
続くS460において、第一データ処理部520は、第一の共有対象画像に対して第二の共有対象画像を、上記設定した表示サイズ及び表示位置で重ね合わせるようにして、第一の共有対象画像と第二の共有対象画像とをカメラ画像に重ね合わせた会議映像フレームデータを生成する。第一の共有対象画像及び第二の共有対象画像は、上述の実施形態と同様に半透明画像である。
以上のように、第一データ処理部520は、自動合わせモードにおいて、会議映像に含まれる共有対象画像の表示サイズ及び表示位置を自動調整することができる。更に言えば、自動合わせモードは、共通する被写体が、背景であるときに選択される背景自動合わせモードと、共通する被写体が前景であるときに選択される前景自動合わせモードとを、含んでいてもよい。
S150において、第一データ処理部520は、ユーザからの指定に従って、自動合わせモードとして、背景自動合わせモード及び前景自動合わせモードのいずれかで動作することができる。いずれのモードにおいても、第一データ処理部520は、重ね合わせ対象の複数の共有対象画像を共通する被写体を含む写真画像とみなして動作する。
背景自動合わせモードにおいて、第一データ処理部520は、第一の共有対象画像及び第二の共有対象画像に中央領域を除く外周領域を照合し、外周領域内で背景として共通する被写体を検知し、第一の共有対象画像における背景の位置及びサイズと、第二の共有対象画像における背景の位置及びサイズが一致するように、第一の共有対象画像に対して第二の共有対象画像を重ね合わせて、会議映像フレームデータを生成することができる。
前景自動合わせモードにおいて、第一データ処理部520は、第一の共有対象画像及び第二の共有対象画像に中央領域を照合し、中央領域内で前景として共通する被写体を検知し、第一の共有対象画像における前景の位置及びサイズと、第二の共有対象画像における前景の位置及びサイズが一致するように、第一の共有対象画像に対して第二の共有対象画像を重ね合わせて、会議映像フレームデータを生成することができる。
第一データ処理部520は、画像解析により共有対象画像としての写真画像をデプス(奥行)画像に変換し、デプス画像に基づき、写真画像内の背景及び前景を判別してもよい。
背景自動合わせモードは、例えば、交通事故が発生していないときの交差点画像と、交通事故が発生したときの交差点画像と、を共有対象画像として重ね合わせるときに有意義である。これらの交差点画像の重ね合わせ画像では、交通事故に関係する自動車の映像が半透明で表示されることで、自動車の奥側の背景を、ユーザが視ることができる。このような表示は、紙媒体では実現できないものであり、事故分析に大変役立つ。
背景自動合わせモードは、災害前画像と災害後画像との重ね合わせ画像を表示するときにも、同様に役立つ。すなわち、ユーザは、重ね合わせ画像に基づいて、災害前後の変化をよく理解することができる。
この他、前景自動合わせモードによれば、同じ前景を含む背景が変化した二つの写真画像の重ね合わせ画像を表示することができ、この重ね合わせ画像は、前景の周辺環境の変化を理解するのに役立つ。
上述した重ね合わせの例示は、異なる時刻に撮影された複数の写真画像を重ね合わせることに対応する。単に複数の写真画像を重ね合わせることだけでも、複数の写真画像の関係を理解するのに役立つが、自動合わせモードは、より深い理解に役立つ。
第二データ処理部540も、第一データ処理部520と同様に、自動合わせモードを有した構成にされ得る。すなわち、第二データ処理部540も、図12に示す処理を実行することができる。重ね合わせに関する処理の一部は、第一データ処理部520と第二データ処理部540との間で共通化することができる。
以上に、変形例を含む本開示の例示的実施形態を説明したが、本開示は、上記例示的実施形態に限定されるものではなく、種々の態様を採ることができる。例えば、第一の情報処理装置10及び第二の情報処理装置30の一方又は両方には、一台以上のカメラが設置されてもよい。インターネット上で公開されているライブカメラ映像が共有対象画像の一つとして表示されてもよい。
この他、上述したプレインバック目的のための記録データは、プレイバック時に自動合わせモードのオン/オフ操作を受け付け可能にストレージ55に保存されてもよい。これらの記録データに基づいて、前フレーム画像と現在フレーム画像とを自動で位置及びサイズ合わせしながら、重畳再生できるように、コミュニケーションシステム1は構成されてもよい。このような重畳プレイバックに関する機能は、スポーツトレーニング画像において動作変化を比較する場面等で活用可能である。
コミュニケーションシステム1は、自動合わせモードにおいて調整された表示位置及びサイズを、ユーザU1,U2からの指示に基づき再調整可能に構成されてもよい。さらにユーザーU1,U2から、サイズ及び位置の調整対象の二つ以上の画像に対するサイズ調整対象エリア又は参照エリアの情報を取得し、この情報に基づき、画像認識技術にて二つ以上の画像のサイズ及び位置合わせを行うように、コミュニケーションシステム1は構成されてもよい。
コミュニケーションシステム1は、サーバ装置50なしで実現されてもよい。すなわち、第一の情報処理装置10と第二の情報処理装置30とが広域ネットワークを通じてサーバ装置50を介さずに直接通信を行うことにより、上述のコミュニケーションシステム1と同等の機能が実現されてもよい。
この場合、第一データ処理部520及び第一データ送信部530としての機能は、第一の情報処理装置10において実現され得る。第二データ処理部540及び第二データ送信部550としての機能は、第二の情報処理装置30において実現され得る。
あるいは、第一の情報処理装置10は、ディスプレイ14における会議映像の表示に必要なカメラ画像データ及び共有対象データを第二の情報処理装置30から取得し、取得したデータに基づきディスプレイ14に対する表示用の会議映像データを生成し、この会議映像データに基づく会議映像をディスプレイ14に表示させるように構成されてもよい。第二の情報処理装置30も同様にディスプレイ34に対する表示用の会議映像データを生成し、この会議映像データに基づく会議映像をディスプレイ34に表示させるように構成されてもよい。
サーバ装置50を設置するか否か、第一の情報処理装置10、第二の情報処理装置30、及びサーバ装置50のいずれで会議映像データを生成するかは、任意である。
本実施形態のコミュニケーションシステム1によれば、カメラ画像の左右反転による効果の他、次の効果が得られる。すなわち、入力インタフェース16,36を通じた手書き入力操作に基づく手書き画像が半透明の共有対象画像としてディスプレイ14,34に表示されるので、ユーザU1,U2は、相手に分かりやすく資料説明を行うことができる。
例えば、ユーザU1,U2は、第一の共有対象画像としての文書画像の内容を補足するように、手書き画像を会議映像に追加する操作を行うことができる。これにより、ウェブ会議に参加するユーザU1,U2の双方は、従来よりも容易な意思疎通を図ることができる。
この他、上記実施形態のコミュニケーションシステム1では、会議映像として、ユーザU1,U2から指定された複数の資料を共有対象画像として重ね合わせ表示可能である。従って、重ね合わせにより資料の検討及び議論を、従来よりも良好に行うことができる。
この他、本実施形態では、カメラ画像と共有対象画像との重ね合わせにより劣化し得る、共有対象画像に含まれる文字等の視認性を、透明度の調整により向上させることができる。
更に、共有対象画像に含まれる文字等の視認性の向上のために、カメラ画像及び共有対象画像のコントラストがそれぞれ自動補正される。従って、本実施形態によれば、カメラ画像と共有対象画像との重ね合わせによる視認性の低下を抑えて、重ね合わせにより得られる利点を十分に発揮させることができる。
本実施形態によれば、カメラ画像と文書画像との重ね合わせなど、紙資料をベースとした旧来の会議では不可能な新しい手法で会議を進めることができる点でも有意義である。
以上には、一対一のウェブ会議用途に最適なコミュニケーションシステム1を説明したが、本開示の技術は、発表者に対応するユーザと、視聴者に対応する複数のユーザとの1対多人数のコミュニケーションに利用されてもよい。
この他、本開示の技術は、発表者に対応する単一ユーザの情報処理装置から、視聴者に対応する複数のユーザの情報処理装置に対して、一方向に会議映像データを送信するシステムに適用されてもよい。この場合には、発表者に対応する情報処理装置が上述した第一の情報処理装置10と同様に動作し、視聴者に対応する複数の情報処理装置に、会議映像データを送信するように構成され得る。
上記実施形態における1つの構成要素が有する機能は、複数の構成要素に分散して設けられてもよい。複数の構成要素が有する機能は、1つの構成要素に統合されてもよい。上記実施形態の構成の一部は、省略されてもよい。上記実施形態の構成の少なくとも一部は、他の上記実施形態の構成に対して付加又は置換されてもよい。特許請求の範囲に記載の文言から特定される技術思想に含まれるあらゆる態様が本開示の実施形態である。
1…コミュニケーションシステム、10…第一の情報処理装置、11,31…プロセッサ、12,32…メモリ、13,33…ストレージ、14,34…ディスプレイ、15,35…カメラ、16,36…入力インタフェース、17,37…通信インタフェース、30…第二の情報処理装置、50…サーバ装置、51…プロセッサ、53…メモリ、55…ストレージ、57…通信インタフェース、110…動画像データ取得部、120…共有対象データ取得部、130…通信制御部、131…データ送信部、135…データ受信部、140…表示制御部、141,341…スピーカ、151,351…マイクロフォン、170…透明度指定操作受付部、510…データ受信部、520…第一データ処理部、530…第一データ送信部、540…第二データ処理部、550…第二データ送信部、570…透明度設定部。

Claims (22)

  1. 第一の情報処理装置に付属する第一のディスプレイに表示される共有対象画像に関する共有対象データを取得するように構成される対象取得部と、
    前記第一のディスプレイを見るユーザを前から撮影可能に配置されたカメラにより撮影される動画像に関する動画像データを取得するように構成される動画像取得部と、
    前記対象取得部により取得された前記共有対象データに基づく前記共有対象画像と前記動画像取得部により取得された前記動画像データに基づく前記動画像との重ね合わせ画像であって、前記共有対象画像及び前記動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した重ね合わせ画像を、第二の情報処理装置に付属する第二のディスプレイに表示させるように構成される表示制御部と、
    を備え、前記表示制御部は、前記重ね合わせ画像として、前記動画像が左右反転した重ね合わせ画像であって、前記共有対象画像の視認性を向上させるように前記動画像及び前記共有対象画像の少なくとも一方のコントラストを調整した重ね合わせ画像を、前記第二のディスプレイに表示させるコミュニケーションシステム。
  2. 前記表示制御部は、前記動画像に対して相対的に前記共有対象画像のコントラストを上げるように、少なくとも前記共有対象画像のコントラストを調整する請求項1記載のコミュニケーションシステム。
  3. 前記表示制御部は、前記共有対象画像のコントラストを上げる一方、前記動画像のコントラストを下げるように、前記動画像及び前記共有対象画像のコントラストを調整する請求項1記載のコミュニケーションシステム。
  4. 前記表示制御部は、前記共有対象データの輝度情報に対するヒストグラム平坦化により、前記共有対象画像のコントラストを上げるように構成される請求項2又は請求項3記載のコミュニケーションシステム。
  5. 前記対象取得部は、前記共有対象データとしての第一の共有対象データとは別の第二の共有対象データを更に取得可能に構成され、
    前記表示制御部は、前記第二の共有対象データが取得された場合、前記重ね合わせ画像として、前記第一の共有対象データに基づく第一の共有対象画像と、前記第二の共有対象データに基づく第二の共有対象画像とを、前記動画像に重ね合わせた画像を、前記第二のディスプレイに表示させる請求項1〜請求項4のいずれか一項記載のコミュニケーションシステム。
  6. 前記表示制御部は、前記第一の情報処理装置を操作するユーザ及び前記第二の情報処理装置を操作するユーザの少なくとも一方からの指示に基づき、前記半透明化の対象とされる画像の透明度を変更可能に構成される請求項1〜請求項5のいずれか一項記載のコミュニケーションシステム。
  7. 前記重ね合わせ画像は、前記最下層に前記動画像が配置された構成にされ、
    前記表示制御部は、前記第一の情報処理装置を操作するユーザ及び前記第二の情報処理装置を操作するユーザの少なくとも一方からの指示に基づき、前記第一の共有対象画像の透明度及び前記第二の共有対象画像の透明度を個別に変更可能に構成される請求項記載のコミュニケーションシステム。
  8. 前記第一の共有対象画像及び前記第二の共有対象画像の少なくとも一方は、前記第一の情報処理装置を操作するユーザ及び前記第二の情報処理装置を操作するユーザの少なくとも一方からの手書き入力操作に応じて表示される手書き画像である請求項又は請求項記載のコミュニケーションシステム。
  9. 第一の情報処理装置に付属する第一のディスプレイに表示される共有対象画像に関する共有対象データを取得するように構成される対象取得部と、
    前記第一のディスプレイを見るユーザを前から撮影可能に配置されたカメラにより撮影される動画像に関する動画像データを取得するように構成される動画像取得部と、
    前記対象取得部により取得された前記共有対象データに基づく前記共有対象画像と前記動画像取得部により取得された前記動画像データに基づく前記動画像との重ね合わせ画像であって、前記共有対象画像及び前記動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した重ね合わせ画像を、第二の情報処理装置に付属する第二のディスプレイに表示させるように構成される表示制御部と、
    を備え、
    前記対象取得部は、前記共有対象データとしての第一の共有対象データとは別の第二の共有対象データを更に取得可能に構成され、
    前記表示制御部は、
    前記重ね合わせ画像として、前記動画像が左右反転した重ね合わせ画像を前記第二のディスプレイに表示させ、
    前記第二の共有対象データが取得された場合、前記重ね合わせ画像として、前記第一の共有対象データに基づく第一の共有対象画像と、前記第二の共有対象データに基づく第二の共有対象画像とを、前記動画像に重ね合わせた画像を、前記第二のディスプレイに表示させ、
    前記第一の共有対象画像及び前記第二の共有対象画像が、共通する被写体を含む写真画像であるとき、前記第一の共有対象画像及び前記第二の共有対象画像の一方の前記被写体のサイズ及び位置を、前記第一の共有対象画像及び前記第二の共有対象画像の他方の前記被写体のサイズ及び位置に合わせるように、前記第一の共有対象画像及び前記第二の共有対象画像の一方の表示サイズ及び表示位置を調整して、前記第一の共有対象画像と前記第二の共有対象画像とを前記動画像に重ね合わせた画像を、前記第二のディスプレイに表示させるコミュニケーションシステム。
  10. 前記表示制御部は、前記カメラにより撮影されるユーザの動作を判別し、前記重ね合わせ画像内の一部を指し示すためのポインタを、前記重ね合わせ画像内において前記動作に応じた位置に移動させるように、前記重ね合わせ画像内における前記ポインタの表示制御を行う請求項1〜請求項のいずれか一項記載のコミュニケーションシステム。
  11. 前記表示制御部は、前記カメラによる撮影領域の一部を、前記重ね合わせ画像の領域に対応させて、前記撮影領域の一部におけるユーザの手の動きに応じて前記ポインタを移動させるように、前記ポインタの表示制御を行うように構成され、
    前記重ね合わせ画像の領域に対応する前記撮影領域の一部は、前記撮影領域における前記ユーザの位置に応じて決定される請求項10記載のコミュニケーションシステム。
  12. 前記重ね合わせ画像として表示される前記共有対象画像及び前記動画像のそれぞれを、レイヤ情報と共に、タイムスタンプと関連付けて記憶装置に逐次記録する記録部
    を更に備え
    前記レイヤ情報は、前記共有対象画像の層及び前記動画像の層を含む複数層の前記重ね合わせ画像における層配列を説明する情報であり、
    前記表示制御部は、前記記憶装置に前記タイムスタンプと関連付けて記録された前記共有対象画像、前記動画像、及び前記レイヤ情報に基づき、前記第一の情報処理装置を操作するユーザ及び前記第二の情報処理装置を操作するユーザの少なくとも一方からの再生操作に従って前記重ね合わせ画像が再生されるように、更には、前記再生操作したユーザからの前記層配列の変更操作に応じて前記再生される前記重ね合わせ画像における前記層配列を変更するように、前記再生操作したユーザの情報処理装置に付属するディスプレイに対する表示制御を行う請求項1〜請求項11のいずれか一項記載のコミュニケーションシステム。
  13. 第一の情報処理装置に付属する第一のディスプレイに表示される共有対象画像に関する共有対象データを取得するように構成される対象取得部と、
    前記第一のディスプレイを見るユーザを前から撮影可能に配置されたカメラにより撮影される動画像に関する動画像データを取得するように構成される動画像取得部と、
    前記対象取得部により取得された前記共有対象データに基づく前記共有対象画像と前記動画像取得部により取得された前記動画像データに基づく前記動画像との重ね合わせ画像であって、前記共有対象画像及び前記動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した重ね合わせ画像を、第二の情報処理装置に付属する第二のディスプレイに表示させるように構成される表示制御部と、
    前記重ね合わせ画像として表示される前記共有対象画像及び前記動画像のそれぞれを、レイヤ情報と共に、タイムスタンプと関連付けて記憶装置に逐次記録する記録部と、
    を備え、
    前記レイヤ情報は、前記共有対象画像の層及び前記動画像の層を含む複数層の前記重ね合わせ画像における層配列を説明する情報であり、
    前記表示制御部は、
    前記重ね合わせ画像として、前記動画像が左右反転した重ね合わせ画像を前記第二のディスプレイに表示させ、
    前記記憶装置に前記タイムスタンプと関連付けて記録された前記共有対象画像、前記動画像、及び前記レイヤ情報に基づき、前記第一の情報処理装置を操作するユーザ及び前記第二の情報処理装置を操作するユーザの少なくとも一方からの再生操作に従って前記重ね合わせ画像が再生されるように、更には、前記再生操作したユーザからの前記層配列の変更操作に応じて前記再生される前記重ね合わせ画像における前記層配列を変更するように、前記再生操作したユーザの情報処理装置に付属するディスプレイに対する表示制御を行うコミュニケーションシステム。
  14. 前記記録部は、前記重ね合わせ画像として表示される前記共有対象画像及び前記動画像のそれぞれを、前記レイヤ情報及び透明度情報と共に、タイムスタンプと関連付けて前記記憶装置に逐次記録するように構成され、
    前記透明度情報は、前記複数層のそれぞれの透明度を説明する情報であり、
    前記表示制御部は更に、前記再生操作したユーザからの透明度の変更操作に応じて前記再生される前記重ね合わせ画像における前記複数層のそれぞれの透明度を変更するように、前記再生操作したユーザの前記情報処理装置に付属する前記ディスプレイに対する表示制御を行う請求項12又は請求項13記載のコミュニケーションシステム。
  15. 前記動画像取得部は、
    前記動画像データとして、前記第一のディスプレイを見るユーザを前から撮影可能に配置された第一のカメラにより撮影される第一の動画像に関する第一の動画像データを取得するように構成される第一の動画像取得部と、
    前記第二のディスプレイを見るユーザを前から撮影可能に配置された第二のカメラにより撮影される第二の動画像に関する第二の動画像データを取得するように構成される第二の動画像取得部と、
    を備え、
    前記表示制御部は、
    前記重ね合わせ画像として、取得された前記共有対象データに基づく前記共有対象画像と取得された前記第一の動画像データに基づく前記第一の動画像との重ね合わせ画像であって、前記共有対象画像及び前記第一の動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した第一の重ね合わせ画像を、前記第二のディスプレイに表示させるように構成される第一の表示制御部と、
    取得された前記共有対象データに基づく前記共有対象画像と取得された前記第二の動画像データに基づく前記第二の動画像との重ね合わせ画像であって、前記共有対象画像及び前記第二の動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した第二の重ね合わせ画像を、前記第一のディスプレイに表示させるように構成される第二の表示制御部と、
    を備え、
    前記第一の表示制御部は、前記第一の重ね合わせ画像として、前記第一の動画像が左右反転した重ね合わせ画像を前記第二のディスプレイに表示させ、前記第二の表示制御部は、前記第二の重ね合わせ画像として、前記第二の動画像が左右反転した重ね合わせ画像を前記第一のディスプレイに表示させる請求項1〜請求項11のいずれか一項記載のコミュニケーションシステム。
  16. 前記対象取得部は、前記共有対象データとして、前記第一の情報処理装置が保有する第一の共有対象データを取得し、更には、前記第二の情報処理装置が保有する第二の共有対象データを取得し、
    前記第一の表示制御部は、前記第一の重ね合わせ画像として、取得された前記第一の共有対象データに基づく第一の共有対象画像と、取得された前記第二の共有対象データに基づく第二の共有対象画像と、取得された前記第一の動画像データに基づく前記第一の動画像との重ね合わせ画像を、前記第二のディスプレイに表示させるように構成され、
    前記第二の表示制御部は、前記第二の重ね合わせ画像として、取得された前記第一の共有対象データに基づく第一の共有対象画像と、取得された前記第二の共有対象データに基づく第二の共有対象画像と、取得された前記第二の動画像データに基づく前記第二の動画像との重ね合わせ画像を、前記第一のディスプレイに表示させるように構成される請求項15記載のコミュニケーションシステム。
  17. 前記第一のディスプレイ及び前記第二のディスプレイに表示される前記共有対象画像、前記第二のディスプレイに表示される前記第一の動画像、並びに、前記第一のディスプレイに表示される前記第二の動画像のそれぞれを、レイヤ情報と共に、タイムスタンプと関連付けて記憶装置に逐次記録する記録部
    を更に備え
    前記レイヤ情報は、前記共有対象画像の層及び前記第一の動画像の層を含む複数層の前記第一の重ね合わせ画像における第一の層配列、並びに、前記共有対象画像の層及び前記第二の動画像の層を含む複数層の前記第二の重ね合わせ画像における第二の層配列を説明する情報であり、
    前記第一の表示制御部は、前記記憶装置に前記タイムスタンプと関連付けて記録された前記共有対象画像、前記第一の動画像、及び前記レイヤ情報に基づき、前記第二の情報処理装置を操作するユーザからの再生操作に従って前記第一の重ね合わせ画像が再生されるように、更には、前記再生操作したユーザからの層配列の変更操作に応じて前記再生される前記第一の重ね合わせ画像における前記第一の層配列を変更するように、前記第二のディスプレイに対する表示制御を行い、
    前記第二の表示制御部は、前記記憶装置に前記タイムスタンプと関連付けて記録された前記共有対象画像、前記第二の動画像、及び前記レイヤ情報に基づき、前記第一の情報処理装置を操作するユーザからの再生操作に従って前記第二の重ね合わせ画像が再生されるように、更には、前記再生操作したユーザからの層配列の変更操作に応じて前記再生される前記第二の重ね合わせ画像における前記第二の層配列を変更するように、前記第一のディスプレイに対する表示制御を行う請求項15記載のコミュニケーションシステム。
  18. 請求項1〜請求項11のいずれか一項記載のコミュニケーションシステムにおける前記対象取得部、前記動画像取得部、及び、前記表示制御部としての機能を、コンピュータに実現させるためのコンピュータプログラム。
  19. 請求項12〜請求項14のいずれか一項記載のコミュニケーションシステムにおける前記対象取得部、前記動画像取得部、前記表示制御部、及び前記記録部としての機能を、コンピュータに実現させるためのコンピュータプログラム。
  20. 第一の情報処理装置に付属する第一のディスプレイに表示される共有対象画像に関する共有対象データを取得することと、
    前記第一のディスプレイを見るユーザを前から撮影可能に配置されたカメラにより撮影される動画像に関する動画像データを取得することと、
    取得された前記共有対象データに基づく前記共有対象画像と取得された前記動画像データに基づく前記動画像との重ね合わせ画像であって、前記共有対象画像及び前記動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した重ね合わせ画像を、第二の情報処理装置に付属する第二のディスプレイに表示させることであって、前記重ね合わせ画像として、前記動画像が左右反転した重ね合わせ画像像であって、前記共有対象画像の視認性を向上させるように前記動画像及び前記共有対象画像の少なくとも一方のコントラストを調整した重ね合わせ画像を、前記第二のディスプレイに表示させることと、
    を含む情報処理方法。
  21. 第一の情報処理装置に付属する第一のディスプレイに表示される共有対象画像に関する共有対象データを取得することと、
    前記第一のディスプレイを見るユーザを前から撮影可能に配置されたカメラにより撮影される動画像に関する動画像データを取得することと、
    取得された前記共有対象データに基づく前記共有対象画像と取得された前記動画像データに基づく前記動画像との重ね合わせ画像であって、前記共有対象画像及び前記動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した重ね合わせ画像を、第二の情報処理装置に付属する第二のディスプレイに表示させることであって、前記重ね合わせ画像として、前記動画像が左右反転した重ね合わせ画像を前記第二のディスプレイに表示させることと、
    を含み、
    前記共有対象データを取得することは、前記共有対象データとしての第一の共有対象データとは別の第二の共有対象データを更に取得することを含み、
    前記重ね合わせ画像を表示させることは、
    前記第二の共有対象データが取得された場合、前記重ね合わせ画像として、前記第一の共有対象データに基づく第一の共有対象画像と、前記第二の共有対象データに基づく第二の共有対象画像とを、前記動画像に重ね合わせた画像を、前記第二のディスプレイに表示させることと、
    前記第一の共有対象画像及び前記第二の共有対象画像が、共通する被写体を含む写真画像であるとき、前記第一の共有対象画像及び前記第二の共有対象画像の一方の前記被写体のサイズ及び位置を、前記第一の共有対象画像及び前記第二の共有対象画像の他方の前記被写体のサイズ及び位置に合わせるように、前記第一の共有対象画像及び前記第二の共有対象画像の一方の表示サイズ及び表示位置を調整して、前記第一の共有対象画像と前記第二の共有対象画像とを前記動画像に重ね合わせた画像を、前記第二のディスプレイに表示させることと
    を含む情報処理方法。
  22. 第一の情報処理装置に付属する第一のディスプレイに表示される共有対象画像に関する共有対象データを取得することと、
    前記第一のディスプレイを見るユーザを前から撮影可能に配置されたカメラにより撮影される動画像に関する動画像データを取得することと、
    取得された前記共有対象データに基づく前記共有対象画像と取得された前記動画像データに基づく前記動画像との重ね合わせ画像であって、前記共有対象画像及び前記動画像のうちの最下層に位置する画像に対し上層に位置する画像を半透明化した重ね合わせ画像を、第二の情報処理装置に付属する第二のディスプレイに表示させることであって、前記重ね合わせ画像として、前記動画像が左右反転した重ね合わせ画像を前記第二のディスプレイに表示させることと、
    前記重ね合わせ画像として表示される前記共有対象画像及び前記動画像のそれぞれを、前記共有対象画像の層及び前記動画像の層を含む複数層の前記重ね合わせ画像における層配列を説明するレイヤ情報と共に、タイムスタンプと関連付けて記憶装置に逐次記録することと、
    前記記憶装置に前記タイムスタンプと関連付けて記録された前記共有対象画像、前記動画像、及び前記レイヤ情報に基づき、前記第一の情報処理装置を操作するユーザ及び前記第二の情報処理装置を操作するユーザの少なくとも一方からの再生操作に従って前記重ね合わせ画像が再生されるように、更には、前記再生操作したユーザからの前記層配列の変更操作に応じて前記再生される前記重ね合わせ画像における前記層配列を変更するように、前記再生操作したユーザの情報処理装置に付属するディスプレイに対する表示制御を行うことと、
    を含む情報処理方法。
JP2020036722A 2020-03-04 2020-03-04 コミュニケーションシステム、コンピュータプログラム、及び情報処理方法 Active JP6714942B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020036722A JP6714942B1 (ja) 2020-03-04 2020-03-04 コミュニケーションシステム、コンピュータプログラム、及び情報処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020036722A JP6714942B1 (ja) 2020-03-04 2020-03-04 コミュニケーションシステム、コンピュータプログラム、及び情報処理方法

Publications (2)

Publication Number Publication Date
JP6714942B1 true JP6714942B1 (ja) 2020-07-01
JP2021141404A JP2021141404A (ja) 2021-09-16

Family

ID=71131649

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020036722A Active JP6714942B1 (ja) 2020-03-04 2020-03-04 コミュニケーションシステム、コンピュータプログラム、及び情報処理方法

Country Status (1)

Country Link
JP (1) JP6714942B1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023034917A (ja) 2021-08-31 2023-03-13 株式会社日立製作所 対象物を検出するシステム及び対象物を検出する方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0813994A (ja) * 1994-07-01 1996-01-16 Fujimori Kogyo Kk 防水シートの接続固定構造
JPH10285568A (ja) * 1997-04-09 1998-10-23 Toshiba Corp 会議通信システム
JP2005323010A (ja) * 2004-05-06 2005-11-17 Nippon Telegr & Teleph Corp <Ntt> 画像共有システム
JP5413347B2 (ja) * 2010-09-29 2014-02-12 ブラザー工業株式会社 端末装置、表示制御方法および表示制御プログラム
JP5598232B2 (ja) * 2010-10-04 2014-10-01 ソニー株式会社 情報処理装置、情報処理システムおよび情報処理方法
JP2018041990A (ja) * 2015-01-22 2018-03-15 株式会社リコー 通信端末、通信システム、表示制御方法、及びプログラム
CN107040749B (zh) * 2016-02-04 2019-11-26 株式会社理光 在视频会议中分享屏幕手写图像的方法和用于进行视频会议的终端
JP2019180080A (ja) * 2018-03-30 2019-10-17 株式会社リコー 映像処理装置、通信端末、テレビ会議システム、映像処理方法、およびプログラム

Also Published As

Publication number Publication date
JP2021141404A (ja) 2021-09-16

Similar Documents

Publication Publication Date Title
JP7498209B2 (ja) 情報処理装置、情報処理方法およびコンピュータプログラム
US10437545B2 (en) Apparatus, system, and method for controlling display, and recording medium
JP6627861B2 (ja) 画像処理システムおよび画像処理方法、並びにプログラム
US20200120386A1 (en) Information processing apparatus and method, display control apparatus and method, reproducing apparatus and method, and information processing system
TWI530157B (zh) 多視角影像之顯示系統、方法及其非揮發性電腦可讀取紀錄媒體
CN114286142B (zh) 一种虚拟现实设备及vr场景截屏方法
US20190306201A1 (en) Communication terminal, image communication system, and display control method
JP2016025640A (ja) 情報処理装置、情報処理方法およびプログラム
US20200349749A1 (en) Virtual reality equipment and method for controlling thereof
CN112732089A (zh) 一种虚拟现实设备及快捷交互方法
US11877092B2 (en) Communication management device, image communication system, communication management method, and recording medium
JP2019512177A (ja) 装置および関連する方法
WO2019118028A1 (en) Methods, systems, and media for generating and rendering immersive video content
JP6714942B1 (ja) コミュニケーションシステム、コンピュータプログラム、及び情報処理方法
JP7017045B2 (ja) 通信端末、表示方法、及びプログラム
WO2022151883A1 (zh) 虚拟现实设备
US11451743B2 (en) Control of image output
WO2021147749A1 (zh) 实现3d显示的方法、装置及3d显示***
US11159765B1 (en) Systems and methods for generating video images in a centered view mode
US7480001B2 (en) Digital camera with a spherical display
JP6953221B2 (ja) 画像表示システム、画像表示プログラム、画像表示方法及びサーバ
US20240236267A9 (en) Communication management device, image communication system, communication management method, and recording medium
WO2022111005A1 (zh) 虚拟现实设备及vr场景图像识别方法
WO2024084943A1 (ja) 情報処理装置、情報処理方法、プログラム
US11863871B2 (en) Communication terminal, image communication system, and method of displaying image

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200304

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200304

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200313

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200317

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200430

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200519

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200601

R150 Certificate of patent or registration of utility model

Ref document number: 6714942

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250