JP6700672B2 - 遠隔コミュニケーションシステム、その制御方法、及びプログラム - Google Patents

遠隔コミュニケーションシステム、その制御方法、及びプログラム Download PDF

Info

Publication number
JP6700672B2
JP6700672B2 JP2015095885A JP2015095885A JP6700672B2 JP 6700672 B2 JP6700672 B2 JP 6700672B2 JP 2015095885 A JP2015095885 A JP 2015095885A JP 2015095885 A JP2015095885 A JP 2015095885A JP 6700672 B2 JP6700672 B2 JP 6700672B2
Authority
JP
Japan
Prior art keywords
image
unit
image pickup
imaging
communication system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015095885A
Other languages
English (en)
Other versions
JP2016213675A (ja
Inventor
央周 佐藤
央周 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015095885A priority Critical patent/JP6700672B2/ja
Priority to PCT/JP2016/001842 priority patent/WO2016181599A1/en
Priority to US15/572,127 priority patent/US10178347B2/en
Publication of JP2016213675A publication Critical patent/JP2016213675A/ja
Application granted granted Critical
Publication of JP6700672B2 publication Critical patent/JP6700672B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/142Constructional details of the terminal equipment, e.g. arrangements of the camera and the display
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/48Details of cameras or camera bodies; Accessories therefor adapted for combination with other photographic or optical apparatus
    • G03B17/54Details of cameras or camera bodies; Accessories therefor adapted for combination with other photographic or optical apparatus with projector
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone
    • H04N7/147Communication arrangements, e.g. identifying the communication as a video-communication, intermediate storage of the signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/15Conference systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Projection Apparatus (AREA)

Description

本発明は、遠隔地とコミュニケーションを取るための遠隔コミュニケーションシステム、その制御方法、及びプログラムに関する。
従来、離れた場所(遠隔地)にいる相手とコミュニケーションを取るためのシステムが知られている。たとえば特許文献1には、離れた場所にいる相手と会議を行うための遠隔会議システムが開示されている。特許文献1に開示されたシステムには、人物を撮像するためのカメラと、画像を投影するためのプロジェクタと、プロジェクタによって投影された画像を映し出すスクリーンが含まれる。
特許文献1に開示されたシステムでは、ある会議室に備えられたカメラで撮像した人物画像が相手側(遠隔地)のプロジェクタによってスクリーンに投影される一方で、相手側のカメラで撮像された人物が会議室のプロジェクタによってスクリーンに投影される。また、特許文献1には、人物を等身大のサイズで映し出すことによって会議の臨場感を高めることが示されている。
特開2008−191613号公報
物理的に同じ空間(例えば、同じ部屋)にいる少人数の人がコミュニケーションを取るときは、1メートルから2メートルくらいの距離で向かい合うことが多い。このような形態に近い形でのコミュニケーションを遠隔地とも取れるようになると意思の疎通が図りやすいが、従来のシステムでは十分な臨場感を出すことができなかった。なぜなら、投影される人物画像のサイズを等身大にしたところで、投影面から人物までの距離が大きく離れていると、近い距離で向かい合っているような感覚は作り出せないからである。
この問題に対して、スクリーンに近い位置に人物が立つことで、スクリーンに映し出される相手の人物との距離を近くに感じられるかもしれない。しかしながら、スクリーンに近い位置に人物が立った場合、その人物の前面をカメラで撮像することが難しくなる。スクリーンに限りなく近い位置にカメラを配置すれば人物の一部(例えば上半身のみ)を撮像することはできるが、カメラの垂直方向の画角に限界があるため、人物の全身を捉えることはできない。人物の全身が映し出されなければ臨場感が乏しく、身振り手振りを交えて会話することも難しくなってしまう。
本発明は、上記の課題に鑑みなされたものであり、複数の撮像手段を用いて人物を撮像することにより、近い距離で向かい合っているような感覚で遠隔地とコミュニケーションを取るための仕組みを提供することを目的とする。
上記の目的を達成するために本発明の遠隔コミュニケーションシステムは、遠隔地から送信された画像を影面に投影する影手段と、前記影面に配置され、撮像範囲がそれぞれ異なる複数の撮像手段と、前記複数の撮像手段によって得られた各画像から人物部分を抽出する抽出手段と、前記複数の撮像手段によって得られた複数の画像を合成する合成手段と、前記抽出手段による抽出及び前記合成手段による合成がなされた画像を、前記遠隔地に備えられた第2の投影面に投影する第2の投影手段と、を備え、前記抽出手段による抽出及び前記合成手段による合成がなされた画像が示す撮像範囲は、前記複数の撮像手段のいずれかの撮像手段によって得られた画像が示す撮像範囲よりも広いことを特徴とする。
本発明によれば、複数の撮像手段を用いて人物を撮像することにより、近い距離で向かい合っているような感覚で遠隔地とコミュニケーションを取ることが可能となる。
本発明の実施形態におけるシステムの断面図 本発明の実施形態におけるシステムの外観図 本発明の実施形態におけるシステムのハードウェア構成図 本発明の実施形態における前面カメラの撮像範囲の説明図 本発明の実施形態における前面カメラの撮像範囲とトリミング処理の説明図 本発明の実施形態における前面カメラの撮像範囲とトリミング処理の説明図 本発明の実施形態における人物の撮像処理に関するフローチャート 本発明の実施形態における人物の撮像処理に関するフローチャート 本発明の実施形態における画像の投影処理に関するフローチャート
以下、図面を参照して本発明の実施の形態を詳しく説明する。なお、以下の実施の形態は特許請求の範囲に係る発明を限定するものでなく、また実施の形態で説明されている特徴の組み合わせの全てが発明の解決手段に必須のものとは限らない。
図1は、本発明が適用される遠隔コミュニケーションシステムの断面図である。この遠隔コミュニケーションシステムを用いることにより、本社内に設けられたオフィス1と支社Aに設けられたオフィス2の間、或いはオフィス1と支社Bに設けられたオフィス3の間でコミュニケーションを取ることが可能となっている。なお、ここでは3箇所のオフィスを例にしているが、オフィス1とオフィス2の2箇所のみであっても良い。また、複数のオフィスの全体を遠隔コミュニケーションシステムと称しても良いし、1つのオフィスに含まれる構成のみを遠隔コミュニケーションシステムと称しても良い。
また、ここで説明する各オフィスは、移動に数時間を要するほど離れたものであっても良いし、同一のビルに設けられた別の会議室であっても良い。即ち、「遠隔」という表現は、物理的な空間が別であることを示すものであり、物理的な距離や移動にかかる時間の長さを定義するものではない。
図1(a)に示すオフィス1には、プロジェクタ101、背景カメラ102、スクリーン103、前面カメラ104、背面カメラ105が備えられている。プロジェクタ101は、他のオフィスで撮像された画像をスクリーン103に投影する投影装置である。スクリーン103は、プロジェクタ101によって投影される画像を映し出す投影面である。なお、スクリーン103は、他のオフィスとのコミュニケーションを取るときに一時的に設置するものであっても良いし、オフィスの壁がスクリーン103の役割を兼ねても良い。また、本実施形態では画像を表示する手段としてプロジェクタとスクリーンを使用する例を示すが、大型の液晶ディスプレイを用いて画像を表示するようにしても良い。
前面カメラ104は、人物106を撮像するための前面撮像装置である。ここでは人物106の全身を撮像するために3つ(a、b、c)の前面カメラ104を用いる例を示すが、前面カメラの数は2つまたは4つ以上であっても良い。前面カメラ104による人物106の撮像に関する処理の詳細については後述する。
背景カメラ102は、人物106の背景(即ち、図1(a)の右方向)を撮像するための背景撮像装置である。オフィス1は、遠隔コミュニケーションを行うための専用の部屋ではなく、日常の業務を行う一般的な事務室であるものとする。背景カメラ102によって撮像される背景には、社員の座席やキャビネット、他の業務を行っている人物などが含まれる。このような背景を、前面カメラ104で撮像した人物とともに投影することによって、あたかもオフィスの片隅で立ち話をしているような雰囲気を作り出すことができる。なお、背景カメラ102は、被写体である背景が人物106によって遮られないようにするために、鉛直方向の上方(天井付近)に配置されることが望ましい。
背面カメラ105は、人物106或いはスクリーン103に映し出された画像を、図1(a)の右から左に向かって撮像するための背面撮像装置である。人物106は、遠隔コミュニケーションを行っている間はスクリーン103(即ち、図1(a)の左)の方を向いているため、背景カメラ105で撮像するのは人物106の後ろ姿となる。なお、前面カメラ104と人物106の間の距離に比べて、背面カメラ105と人物106の間の距離は長いため、1つの背面カメラ105で人物106の全身を撮像することが可能となっている。
前面カメラ104には、被写体までの距離を検知するための距離センサが含まれる。前面カメラ104によって得られる画像には、RGBで8ビット3チャネルの情報からなるカラー画像と、8ビット1チャネルの情報からなる距離画像が含まれる。一方、背景カメラ102及び背面カメラ105には距離センサは含まれない。従って、背景カメラ102及び背面カメラ105によって得られる画像には、RGBで8ビット3チャネルの情報からなるカラー画像は含まれるが、距離画像は含まれない。なお、前面カメラ104、背面カメラ105、背面カメラ105で撮像される画像は時系列に沿って連続した静止画であり、これらの静止画が遠隔地において連続的に投影されることにより動画として再生される。
人物116が居るオフィス2(図1(b))にも、オフィス1と同様の設備(プロジェクタ111、背景カメラ112、スクリーン113、前面カメラ114、背面カメラ115)が備えられている。また、人物126が居るオフィス3(図1(c))にも、オフィス1または2と同様の設備(プロジェクタ121、背景カメラ122、スクリーン123、前面カメラ124、背面カメラ125)が備えられている。但し、スクリーン103及び113は、縦2.3メートル、横4メートルのサイズであるのに対し、スクリーン123は、縦1メートル、横2メートルの比較的小さいサイズとなっている。互いの全身が投影された状態でコミュニケーションを取りたい場合は大きなスクリーンが備えられたオフィス1及びオフィス2を使用する必要があるが、スペースに限りがある場合にはオフィス3のように小さなサイズのスクリーンを使用しても良い。但し、スクリーン123には遠隔地の人物の全身を映し出すことはできず、例えば人物の上半身のみの投影となる。
図2は、遠隔コミュニケーションシステムの外観図であり、オフィス1の人物106がオフィス2の人物116とコミュニケーションを取っている様子を、図1(a)の右から左に向かって見た様子を示している。上述したようにスクリーン103は横に長いため、プロジェクタ101は2つ(a、b)備えられているが、1つのプロジェクタで投影するようにしても良い。背景カメラ102は、スクリーン103の中央上部に備えられている。前面カメラ104a、b、cは、スクリーン103に埋め込まれており、スクリーン103の中央部において鉛直方向に一列に並べて配置されている。
デジタイザ201は、スクリーン103に対してなされるユーザの動作を検知するための検知装置である。デジタイザ201は、送信器201aと受信器201bを含み、送信器201aが投射した赤外光が人物106の体の一部、或いは人物106が持っている指示棒等によって遮られた場合に、その位置を示す座標を出力する。なお、ここでは送信器201aと受信器201bをそれぞれスクリーン103の左右に配置する例を示したが、スクリーン103の上下に配置しても良い。また、ユーザの動作を検知する方法はデジタイザに限らず、スクリーン103にタッチパネル機能を備えるようにし、スクリーン103が押圧された位置を検知するようにしても良い。
スクリーン103には、オフィス2の前面カメラ114によって得られた人物116の人物画像が投影されている。また、図2では、人物116の背景として、後述する文書管理サーバ340に格納されている文書(例えば、会議資料)が映し出されている。人物116の背景として、文書管理サーバ340に格納されている文書を投影するか、背景カメラ112によって得られたオフィス2の背景画像を投影するかは、デジタイザ201が検知する人物116の動作に応じて切替可能である。
図3は、遠隔コミュニケーションシステムのハードウェア構成図である。制御装置310に含まれるCPU316は、ROM318に記憶された制御プログラムを読み出して、オフィス1内に備えられた各装置を制御する。RAM317は、CPU316の主メモリ、ワークエリア等の一時記憶領域として用いられる。なお、オフィス1では、1つのCPU316が1つのメモリ(RAM317)を用いて後述するフローチャートに示す各処理を実行するものとするが、他の態様であっても構わない。例えば、各カメラやプロジェクタ、デジタイザのそれぞれに対して個別に制御装置310を備えるようにするなど、複数のCPUや複数のRAM、或いはHDDやSSDを協働させて各処理を実行するようにすることもできる。また、後述する処理の一部をASIC(Application Specific integrated Circuit)等のハードウェア回路を用いて実行するようにしても良い。
ネットワーク300は、各オフィスを繋ぐネットワークである。ネットワーク300の種類は、有線、無線、WAN、LAN、公衆回線、専用回線など、環境に合わせて適宜選択すれば良い。ネットワークI/F311は、オフィス1をネットワーク300に接続するためのインターフェースである。
図1及び2には示していないが、各オフィスにはマイクとスピーカーが設置されている。オフィス内の人物が発する言葉はマイクによって音声信号に変換され、遠隔地のスピーカーから出力される。オフィス1には、マイク319とスピーカー320が備えられており、音声I/F312は、マイク319による音声の入力及びスピーカー320による音声の出力を制御するためのインターフェースである。
プロジェクタI/F313は、プロジェクタ101による画像の投影を制御するためのインターフェースである。デジタイザI/F314は、デジタイザ201によるユーザの動作の検知を制御するためのインターフェースである。カメラI/F315は、前面カメラ104、背面カメラ105、背景カメラ102による撮像を制御するためのインターフェースである。
なお、ここでは図示しないが、オフィス2及び3には、オフィス1と同様の構成が備えられている。また、上述した各インターフェースには、USB(Universal Serial Bus)やHDMI(登録商標)(High Definition Multimedia Interface)、有線LAN、無線LANなどが適宜採用される。
中継サーバ350は、各オフィスで撮像された画像や入力された音声が他のオフィスに送信される場合に、その画像を中継する役割を担う。文書管理サーバ340は、各オフィスのプロジェクタによってスクリーンに投影される文書(例えば、会議資料)を記憶する。図2に示すように、人物とともに文書を投影させることが指示されると、CPU316は文書管理サーバ340から文書を取得し、プロジェクタ101に投影させる。なお、文書の投影は、遠隔コミュニケーションを行っているオフィスのどちらからでも指示することができる。
オブジェクト管理サーバ330は、遠隔コミュニケーションシステムの操作部としてスクリーン103を使用する場合にプロジェクタ101によってスクリーン103に投影させるオブジェクトを記憶する。オブジェクトの例としては、例えば接続先のオフィスを選択するための操作ボタンが挙げられる。オフィス1において遠隔コミュニケーションシステムが起動されると、CPU316は、オブジェクト管理サーバ330から各オフィスに対応する選択ボタンを取得し、スクリーン103に投影させる。人物106がスクリーン103にタッチすると、タッチされた座標をデジタイザ201が検知し、検知された座標に対応する選択ボタンをCPU316が特定する。そして、CPU316は、特定した選択ボタンに対応するオフィスとの間で遠隔コミュニケーションを開始する。
図4は、前面カメラ104撮像範囲を説明する図である。前面カメラ104a、104b、104cは、それぞれ床面から高さa(1800mm)、高さb(1300mm)、高さc(500mm)の位置に設置されている。即ち、前面カメラ104aと前面カメラ104bの配置間隔(500mm)は、前面カメラ104bと前面カメラ104cの配置間隔(800mm)よりも小さくなっている。また、前面カメラ104bと前面カメラ104cの配置間隔(800mm)は、前面カメラ104cから床面までの距離よりも大きくなっている。このように配置しているのは、後述する人物画像の合成(図5、図6)を行うときに、画像間の境界が人物の目立たない位置(胸のあたりと腰のあたり)になるようにするためである。
前面カメラ104a、b、cは、それぞれ鉛直方向の画角がθ(シータ)a、θb、θcとなっている。ここでは、θa、θb、θcがいずれも同じ値であるものとするが、異なる画角を有する前面カメラを使用しても良い。前面カメラ104から人物106までの距離dは、前面カメラ104によって得られる距離画像に基づいて算出される。高さh1は、前面カメラ104bと前面カメラ104cの中間に位置する高さであり、前面カメラ104bと前面カメラ104cの高さの差を2で割ることによって得られる長さfに、前面カメラ104cの高さcを加えることによって算出される。同様に、高さh2は、前面カメラ104aと前面カメラ104bの中間に位置する高さであり、前面カメラ104aと前面カメラ104bの高さの差を2で割ることによって得られる長さに、前面カメラ104bの高さbを加えることによって算出される。
長さeは、前面カメラ104cによって撮像される人物106の最も上部の高さと前面カメラcの高さcの差に相当する長さである。長さeは、θcを2で割ることによって得られる角度と、前面カメラ104から人物106までの距離dに基づいて得られる。
次に、図5及び図6を用いて、前面カメラ104によって撮像された画像の合成について説明する。図5の長さ501、502、503は、前面カメラ104a、b、cによって撮像される人物106の範囲を示す。図示するように、前面カメラ104aによって撮像される範囲501と前面カメラ104bによって撮像される範囲502は一部が重複している。また、前面カメラ104bによって撮像される範囲502と前面カメラ104cによって撮像される範囲503は一部が重複している。
本実施形態においては、各前面カメラ104によって得られた画像を合成するにあたって重複部分を削除する処理を行うが、その際に高さh1及び高さh2が画像の境界となるように処理する。この結果、504の範囲は前面カメラ104aによって得られた画像を使用し、505の範囲は前面カメラ104bによって得られた画像を使用し、506の範囲は前面カメラ104cによって得られた画像を使用することになる。
図6(a)、(b)、(c)は、前面カメラ104a、b、cによって得られる画像を示す。図5を参照すると、図6(a)の画像は501の範囲に対応しているが、遠隔地での投影に使用されるのは504で示す範囲であるため、範囲501と範囲504の差分に相当する範囲が除去されて、図6(d)に示す画像となる。同様に、図6(b)の画像は502の範囲に対応しているが、遠隔地での投影に使用されるのは505で示す範囲であるため、範囲502と範囲505の差分に相当する範囲が除去されて、図6(e)に示す画像となる。同様に、図6(c)の画像は503の範囲に対応しているが、遠隔地での投影に使用されるのは506で示す範囲であるため、範囲503と範囲506の差分に相当する範囲が除去されて、図6(f)に示す画像となる。このような処理を経て得られる図6(d)、(e)、(f)の画像を合成する(結合する)と、人物106の全身画像が得られる。
ここで、図6(c)の画像から図6(f)の画像を生成する処理について更に詳しく説明する。図6(c)における画像の中心位置が、前面カメラ104cが設置されている高さcに相当する。そして、中心位置よりも上側に含まれる画像は、図4の長さeの範囲に対応する。この長さeの範囲の画像のうち、長さgの範囲に対応する画像を除去し、長さfの範囲に対応する画像を残すために、前面カメラ104cの縦の画素数(1080画素)の半分のうち、長さeに占める長さgの割合に相当する画素数を除去対象として決定する。図6(a)及び図6(b)の画像についても、同様の方法で除去対象が決定される。
次に、図7及び8は、前面カメラ104による人物106の撮像と、前面カメラ104によって得られる人物画像の合成の処理を説明するフローチャートである。図7及び8のフローチャートに示す各動作(ステップ)は、オフィス1のCPU316がROM318に記憶された制御プログラムを実行することにより実現される。
ステップS701では、変数Nの値を1に初期化する。ステップS702では、CPU316が、前面カメラ104a、b、cのうち変数Nに対応する前面カメラ104に人物106を撮像させる。ステップS703では、前面カメラ104によって得られた撮像画像から人物画像を生成する。
図8は、ステップS703の処理を詳細に説明するフローチャートである。ステップS801では、ステップS702で得られた撮像画像に含まれる距離画像を二値化する。本実施形態では、人物106は、スクリーン103(前面カメラ104)から1メートル以上且つ2メートル以内の距離に立つことを想定している。そこで、前面カメラ104から被写体までの距離の最小値を1メートルと設定し、最大値を2メートルと設定する。そして、距離画像の各画素に対して、値が上記範囲内に含まれる画素の値を255に変更し、それ以外の画素の値を0に変更する。
ステップS802では、注目画素の周辺に1画素でも値が0の画素があれば値を0に変更する収縮処理、または、注目画素の周辺に1画素でも値が255の画素があれば値を255に変更する膨張処理を実行する。これにより、孤立点ノイズが除去される。ステップS803では、平滑化フィルタ(例えば、ガウシアンフィルタ)の処理を実行することにより、値が255となっている画素が連続している領域の輪郭を平滑化する。
ステップS804では、マスク処理を実行することにより、値が255である距離画像の画素に対応するカラー画像の画素を非透明とし、値が0である距離画像の画素に対応するカラー画像の画素を全透明とする(透明化する)。この処理により、前面カメラ104によって得られた撮像画像から人物部分が抽出される。なお、ここでの「人物部分」とは、人物のみならず、人物が手に持っている指示棒や、商品サンプルなども含まれる。
ステップS805では、図5及び図6を用いて既述したように、図6(a)、(b)、(c)の人物画像に対して上端または下端のトリミング処理を行い、図6(d)、(e)、(f)の人物画像を生成する。具時的には、図6(a)に示す画像からは下端の所定領域が除去される。図6(b)に示す画像からは上端及び下端の所定領域が除去される。図6(c)に示す画像からは上端の所定領域が除去される。
図7の説明に戻り、ステップS704では、変数Nの値が前面カメラ104の数(本実施形態では3)よりも小さいか否かを判定する。変数Nの値が前面カメラ104の数よりも小さい場合はステップS705に進み、変数Nに1を加えてステップS701に戻る。変数Nの値が前面カメラ104の数よりも小さくない場合(変数Nの値が前面カメラ104の数と等しい場合)はステップS706に進む。
ステップS706では、図6(d)、(e)、(f)の人物画像を合成する。具体的には、図6(d)の画像の下に図6(e)の画像を結合し、更にその下に図6(f)の画像を結合する。また更に、結合後の画像には周囲(頭の上側、右手の左側、左手の右側、足の下側)に余白が残っているため、値が255である画素を全て含む矩形でトリミング処理を行う。
ステップS707では、ステップS706の処理で得られた画像を接続先のオフィス2に送信する。ステップS708では、遠隔コミュニケーションの終了が指示されたか否かを判定し、終了が指示されたと判定すると処理を終了する。一方、終了が指示されなかったと判定するとステップS701に戻り、ステップS701以降の処理を再び実行する。
なお、ここではステップS703やステップS706の処理を撮像側(被写体である人物が居る方のオフィス)で実行する例を示したが、投影側(撮像された画像を投影する方のオフィス)で実行するようにしても良い。また、ステップS802〜S804で説明した人物部分の抽出処理を、ステップ706で説明した合成処理の後に実行しても良い。更に、ここでは説明を省略したが、背景カメラ102によって得られた背景画像や背面カメラ105によって得られた背面画像も、ステップS707における画像の送信と同期させて、または非同期で接続先のオフィス2に送信される。
図9は、接続先のオフィスから送信された画像を投影する処理を説明するフローチャートである。図9のフローチャートに示す各動作(ステップ)は、オフィス1のCPU316がROM318に記憶された制御プログラムを実行することにより実現される。なお、ここではオフィス2に備えられたCPU等によって図7及び図8で説明した処理がオフィス2側でも同様に実行され、その結果としてオフィス2から送信されてきた画像をオフィス1側で投影する処理について説明する。
ステップS901では、前面カメラ114によって得られた前面の人物画像を受信する。ステップS902では、背面カメラ115によって得られた背面画像を受信する。ステップS903では、背景カメラ112によって得られた背景画像を受信する。
ステップS904では、人物の前面を表示させることが指示されているか、人物の背面を表示させることが指示されているかを判定する。これらの指示は、デジタイザ201が検知する人物106の動作に応じて受け付けられる。人物の前面を表示させることが指示されていると判定すると、ステップS905に進み、ステップS901で受信した前面の人物画像とステップS903で受信した背景画像とをスクリーン103に投影させる。一方、人物の背面を表示させることが指示されていると判定すると、ステップS906に進み、ステップS902で受信した背面画像をスクリーン103に投影させる。
ステップS907では、遠隔コミュニケーションの終了が指示されたか否かを判定し、終了が指示されたと判定すると処理を終了する。一方、終了が指示されなかったと判定するとステップS901に戻り、ステップS901以降の処理を再び実行する。なお、図7に示したフローチャートと図9に示したフローチャートは、遠隔コミュニケーションが行われている間、継続的に並行して実行される。
以上説明した通り、本実施形態の遠隔コミュニケーションシステムは、遠隔地であるオフィス2から送信された画像をスクリーン103に投影するプロジェクタ101を備える。また、スクリーン103には、複数の前面カメラ104が配置されている。CPU316は、複数の前面カメラ104によって得られた各画像から人物部分を抽出する抽出処理(S703)と、複数の前面カメラ104によって得られた複数の画像を合成する合成処理(S706)を実行する。更に、抽出処理及び合成処理がなされた画像を、オフィス2に備えられたスクリーン113に投影するプロジェクタ111を備える。
このような構成を備えることにより、近い距離で向かい合っているような感覚で遠隔地とコミュニケーションを取ることを可能としている。
<他の実施形態>
本発明の目的は、以下の処理を実行することによっても達成される。即ち、上述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体をシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)が記憶媒体に格納されたプログラムコードを読み出す処理である。
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施の形態の機能を実現することになり、そのプログラムコード及び該プログラムコードを記憶した記憶媒体は本発明を構成することになる。

Claims (10)

  1. 遠隔地から送信された画像を第1の投影面に投影する第1の投影手段と、
    前記第1の投影面に配置された複数の撮像手段と、
    前記複数の撮像手段によって得られた各画像から人物部分を抽出する抽出手段と、
    前記複数の撮像手段によって得られた複数の画像を合成する合成手段と、
    前記抽出手段による抽出及び前記合成手段による合成がなされた画像を、前記遠隔地に備えられた第2の投影面に投影する第2の投影手段と、を備え、
    前記合成手段は、前記撮像手段の画角と前記撮像手段の配置関係と前記撮像手段から人物までの距離とに基づいて前記複数の画像間の重複部分を特定し、特定した前記重複部分を除去して前記複数の画像の合成を行うことを特徴とする遠隔コミュニケーションシステム。
  2. 前記合成手段は、前記抽出手段による抽出がなされた後の画像を合成することを特徴とする請求項1に記載の遠隔コミュニケーションシステム。
  3. 前記抽出手段は、前記撮像手段から被写体までの距離が所定の値を超える画素を透明化することを特徴とする請求項1または2に記載の遠隔コミュニケーションシステム。
  4. 背景を撮像するための背景撮像手段を更に備え、
    前記第2の投影手段は、前記抽出手段による抽出及び前記合成手段による合成がなされた画像を、前記背景撮像手段によって得られた画像とともに投影することを特徴とする請求項1乃至3のいずれか1項に記載の遠隔コミュニケーションシステム。
  5. 前記第1の投影面に対してなされるユーザの動作を検知する検知手段と、
    前記第1の投影手段によって投影される画像を、前記検知手段によって検知されたユーザの動作に従って切り替える切替手段と、
    を更に備えることを特徴とする請求項1乃至4のいずれか1項に記載のコミュニケーションシステム。
  6. 前記複数の撮像手段は、鉛直方向の上から順に並べられた第1の撮像手段、第2の撮像手段、第3の撮像手段を含み、
    前記第1の撮像手段と前記第2の撮像手段の配置間隔は、前記第2の撮像手段と前記第3の撮像手段の配置間隔よりも小さいことを特徴とする請求項1乃至5のいずれか1項に記載のコミュニケーションシステム。
  7. 前記複数の撮像手段は、鉛直方向の上から順に並べられた第1の撮像手段、第2の撮像手段、第3の撮像手段を含み、
    前記第2の撮像手段と前記第3の撮像手段の配置間隔は、前記第3の撮像手段から床面までの距離よりも大きいことを特徴とする請求項1乃至6のいずれか1項に記載のコミュニケーションシステム。
  8. 遠隔地から送信された画像を投影面に投影する投影手段と、
    前記投影面に配置され、撮像範囲がそれぞれ異なる複数の撮像手段と、
    前記複数の撮像手段によって得られた各画像から人物部分を抽出する抽出手段と、
    前記複数の撮像手段によって得られた複数の画像を合成する合成手段と、
    前記抽出手段による抽出及び前記合成手段による合成がなされた画像を、前記遠隔地に送信する送信手段と、を備え
    前記抽出手段による抽出及び前記合成手段による合成がなされた画像が示す撮像範囲は、前記複数の撮像手段のいずれかの撮像手段によって得られた画像が示す撮像範囲よりも広いことを特徴とする遠隔コミュニケーションシステム。
  9. 遠隔地から送信された画像を投影面に投影する投影手段と、前記投影面に配置され、撮像範囲がそれぞれ異なる複数の撮像手段と、を備える遠隔コミュニケーションシステムの制御方法であって、
    前記複数の撮像手段によって得られた各画像から人物部分を抽出する抽出工程と、
    前記複数の撮像手段によって得られた複数の画像を合成する合成工程と、
    前記抽出工程による抽出及び前記合成工程による合成がなされた画像を、前記遠隔地に送信する送信工程と、
    を備え
    前記抽出工程による抽出及び前記合成工程による合成がなされた画像が示す撮像範囲は、前記複数の撮像手段のいずれかの撮像手段によって得られた画像が示す撮像範囲よりも広いことを特徴とする遠隔コミュニケーションシステムの制御方法。
  10. 請求項9に記載の遠隔コミュニケーションシステムの制御方法をコンピュータに実行させるためのプログラム。
JP2015095885A 2015-05-08 2015-05-08 遠隔コミュニケーションシステム、その制御方法、及びプログラム Active JP6700672B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015095885A JP6700672B2 (ja) 2015-05-08 2015-05-08 遠隔コミュニケーションシステム、その制御方法、及びプログラム
PCT/JP2016/001842 WO2016181599A1 (en) 2015-05-08 2016-03-30 Remote communication system, method for controlling remote communication system, and program
US15/572,127 US10178347B2 (en) 2015-05-08 2016-03-30 Remote communication system, method for controlling remote communication system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015095885A JP6700672B2 (ja) 2015-05-08 2015-05-08 遠隔コミュニケーションシステム、その制御方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2016213675A JP2016213675A (ja) 2016-12-15
JP6700672B2 true JP6700672B2 (ja) 2020-05-27

Family

ID=57247836

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015095885A Active JP6700672B2 (ja) 2015-05-08 2015-05-08 遠隔コミュニケーションシステム、その制御方法、及びプログラム

Country Status (3)

Country Link
US (1) US10178347B2 (ja)
JP (1) JP6700672B2 (ja)
WO (1) WO2016181599A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6432118B2 (ja) 2016-10-31 2018-12-05 Thk株式会社 レンズ移動機構
CN109040643B (zh) * 2018-07-18 2021-04-20 奇酷互联网络科技(深圳)有限公司 移动终端及远程合影的方法、装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07154777A (ja) * 1993-11-30 1995-06-16 Matsushita Electric Ind Co Ltd 画像処理装置およびテレビ電話装置
US5990932A (en) * 1997-12-22 1999-11-23 Northern Telecom, Limited Collaborative shared space
JP2008191613A (ja) 2007-02-08 2008-08-21 Dainippon Printing Co Ltd 遠隔会議システム
US7911513B2 (en) * 2007-04-20 2011-03-22 General Instrument Corporation Simulating short depth of field to maximize privacy in videotelephony
WO2012008972A1 (en) * 2010-07-16 2012-01-19 Hewlett-Packard Development Company, L.P. Methods and systems for establishing eye contact and accurate gaze in remote collaboration
US8896655B2 (en) * 2010-08-31 2014-11-25 Cisco Technology, Inc. System and method for providing depth adaptive video conferencing
NO333184B1 (no) * 2011-08-31 2013-03-25 Cisco Tech Inc Metode og anordning for samarbeidende representasjon i videokonferanser
US9232183B2 (en) * 2013-04-19 2016-01-05 At&T Intellectual Property I, Lp System and method for providing separate communication zones in a large format videoconference
US9282285B2 (en) * 2013-06-10 2016-03-08 Citrix Systems, Inc. Providing user video having a virtual curtain to an online conference
US9055186B2 (en) * 2013-07-23 2015-06-09 Personify, Inc Systems and methods for integrating user personas with content during video conferencing
US9449414B1 (en) * 2015-03-05 2016-09-20 Microsoft Technology Licensing, Llc Collaborative presentation system
JP2016213677A (ja) * 2015-05-08 2016-12-15 キヤノン株式会社 遠隔コミュニケーションシステム、その制御方法、及びプログラム

Also Published As

Publication number Publication date
JP2016213675A (ja) 2016-12-15
US10178347B2 (en) 2019-01-08
WO2016181599A1 (en) 2016-11-17
US20180139409A1 (en) 2018-05-17

Similar Documents

Publication Publication Date Title
US9900568B2 (en) Remote communication system, method for controlling remote communication system, and storage medium
WO2017215295A1 (zh) 一种摄像机参数调整方法、导播摄像机及***
US10600218B2 (en) Display control system, display control apparatus, display control method, and storage medium
JP5598232B2 (ja) 情報処理装置、情報処理システムおよび情報処理方法
JP2018036955A (ja) 画像処理装置、画像処理方法及びプログラム
JP7074056B2 (ja) 画像処理装置、画像処理システム、および画像処理方法、並びにプログラム
JP6946684B2 (ja) 電子情報ボードシステム、画像処理装置、及びプログラム
JPWO2019069575A1 (ja) 情報処理装置、情報処理方法及びプログラム
US9848168B2 (en) Method, synthesizing device, and system for implementing video conference
JP2017033256A (ja) 画像処理装置、コミュニケーションシステム、画像処理方法、及びプログラム
JP6700672B2 (ja) 遠隔コミュニケーションシステム、その制御方法、及びプログラム
US11589001B2 (en) Information processing apparatus, information processing method, and program
JP4960270B2 (ja) インターホン装置
US10122964B2 (en) Communication system
JP2006318015A (ja) 画像処理装置および画像処理方法、画像表示システム、並びに、プログラム
KR102640871B1 (ko) 증강 현실을 이용한 영상 데이터를 제공하는 전자 장치 및 그 제어 방법
JP6541497B2 (ja) コミュニケーションシステム、その制御方法及びプログラム
US10545716B2 (en) Information processing device, information processing method, and program
JP6552978B2 (ja) 画像合成装置および画像合成プログラム
WO2019138682A1 (ja) 情報処理装置、情報処理方法及びプログラム
JP2016021206A (ja) 表示装置、表示システム、表示方法及び表示プログラム
JP2009055094A (ja) 映像システム
JP2016119620A (ja) 指向性制御システム及び指向性制御方法
JP2017032757A (ja) 表示制御装置、表示制御方法、表示制御システム、及び、プログラム
US10986310B2 (en) Information processing apparatus, information processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180502

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190511

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200123

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200131

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200331

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200501

R151 Written notification of patent or utility model registration

Ref document number: 6700672

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151