JP2020022152A - 通信端末、プログラム、表示方法、記録媒体 - Google Patents

通信端末、プログラム、表示方法、記録媒体 Download PDF

Info

Publication number
JP2020022152A
JP2020022152A JP2019014869A JP2019014869A JP2020022152A JP 2020022152 A JP2020022152 A JP 2020022152A JP 2019014869 A JP2019014869 A JP 2019014869A JP 2019014869 A JP2019014869 A JP 2019014869A JP 2020022152 A JP2020022152 A JP 2020022152A
Authority
JP
Japan
Prior art keywords
image
communication terminal
video
communication
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019014869A
Other languages
English (en)
Other versions
JP7346830B2 (ja
Inventor
雄一 荒海
Yuichi Araumi
雄一 荒海
伊藤 篤
Atsushi Ito
篤 伊藤
亮太 山科
Ryota Yamashina
亮太 山科
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to US16/514,238 priority Critical patent/US11212439B2/en
Publication of JP2020022152A publication Critical patent/JP2020022152A/ja
Priority to US17/455,712 priority patent/US20220078344A1/en
Priority to JP2023144941A priority patent/JP2023164525A/ja
Application granted granted Critical
Publication of JP7346830B2 publication Critical patent/JP7346830B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Studio Devices (AREA)
  • Manipulator (AREA)

Abstract

【課題】移動装置から送信される複数の撮像装置の映像を操作者が見やすい態様で表示する通信端末を提供すること。【解決手段】移動装置20に搭載された他の通信端末10B又は移動装置が有する通信部とネットワークを介して通信し、前記移動装置に対する操作指示情報を前記他の通信端末又は前記通信部に送信する通信端末10Aであって、前記他の通信端末又は前記通信部が送信した第1の映像、及び、前記他の通信端末又は前記移動装置に接続若しくは一体の広角撮像装置が撮像した広角な第2の映像を受信する通信手段11と、前記通信手段が受信した前記第1の映像及び前記第2の映像をいずれも表示できるよう制御すると共に、前記移動装置を制御するコントローラを前記第1の映像又は前記第2の映像に重ねて表示装置に表示する表示処理手段16と、を有することを特徴とする。【選択図】図2

Description

本発明は、通信端末、プログラム、表示方法、及び、記録媒体に関する。
インターネットやLAN(Local Area Network)等の通信ネットワークを介して、複数の拠点の間で通信端末が通信して、互いに映像や音声を送受信する通信システムが普及している。通信システムを利用すると遠隔地のユーザがコミュニケーションすることができ、例えばテレビ会議を開催できる。
また、通信システムがロボットに適用されたテレプレゼンスロボットが知られている。テレプレゼンスロボットとは、「テレビ会議」と「遠隔操作技術」が組み合わされたロボットである。遠隔地からのリモートコントロールとロボット技術を組み合わせて、操作者が遠方からロボットを移動させる移動装置を操作し、ある場所で操作者が存在(プレゼンス)しているように振る舞わせる技術である。
また、ロボットに複数のカメラを搭載する技術が考案されている(例えば、特許文献1参照。)。特許文献1には、走行装置の前後を写す前方カメラと後方カメラ、及び、ロボットの付近の全周囲を写すことができる俯瞰カメラを備えた移動体が開示されている。
しかしながら、従来の技術では、移動装置を制御するコントローラについて考慮されていないという問題がある。すなわち、移動装置から複数の映像が送信された場合に、映像を表示しながらどのようにコントローラを表示するかについて開示されていない。
本発明は、上記課題に鑑み、移動装置から送信される複数の撮像装置の映像を操作者が見ながらロボットを制御することができる通信端末を提供することを目的とする。
上記課題に鑑み、本発明は、移動装置に搭載された他の通信端末又は移動装置が有する通信部とネットワークを介して通信し、前記移動装置に対する操作指示情報を前記他の通信端末又は前記通信部に送信する通信端末であって、前記他の通信端末又は前記通信部が送信した第1の映像、及び、前記他の通信端末又は前記移動装置に接続若しくは一体の広角撮像装置が撮像した広角な第2の映像を受信する通信手段と、前記通信手段が受信した前記第1の映像及び前記第2の映像をいずれも表示できるよう制御すると共に、前記移動装置を制御するコントローラを前記第1の映像又は前記第2の映像に重ねて表示装置に表示する表示処理手段と、を有することを特徴とする。
移動装置から送信される複数の撮像装置の映像を操作者が見やすい態様で表示する通信端末を提供することができる。
通信システムの概略を説明する図の一例である。 平面撮像装置が撮像した正面映像又は背面映像と広角撮像装置が撮像した全天球映像の表示例を説明する図である。 一実施形態に係る通信システムの構成例を示す図である。 一実施形態に係る通信端末のハードウェア構成例を示す図である。 通信管理システムのハードウェア構成例を示す図である。 移動装置のハードウェア構成例を示す図である。 広角撮像装置の一例のハードウェア構成図である。 広角撮像装置の使用イメージ図の一例である。 広角撮像装置で撮像された画像から正距円筒射影画像及び全天球画像が作成されるまでの処理の概略を説明する図である。 広角撮像装置で撮像された画像から正距円筒射影画像及び全天球画像が作成されるまでの処理の概略を説明する図である。 全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。 図11の立体斜視図等の一例を示す図である。 所定領域情報と所定領域の画像の関係との関係を示した図の一例である。 通信システムが有する通信管理システム、通信端末10A、及び、通信端末10Aの機能をブロック状に示す機能ブロック図である。 通信システムの通信の準備段階の処理の例を示すシーケンス図である。 通信端末に表示される宛先選択画面の一例を示す図である。 通信システムの通信処理の例を示すシーケンス図である。 パターン1において通信端末が表示部に表示する映像表示画面の一例を示す図である。 パターン1の映像の配置例において映像を切り替える手順を示すフローチャート図の一例である。 パターン2において通信端末が表示部に表示する映像表示画面の一例を示す図である。 パターン2の映像の配置例において映像を表示する手順を示すフローチャート図の一例である。 パターン2の別の表示例において通信端末が表示部に表示する映像表示画面の一例を示す図である。 図22のパターン2の別の表示例において、映像を表示する手順を示すフローチャート図の一例である。 パターン3において通信端末が表示部に表示する映像表示画面の一例を示す図である。 パターン3の映像の配置例において映像を表示する手順を示すフローチャート図の一例である。 パターン3の別の表示例において通信端末が表示部に表示する映像表示画面の一例を示す図である。 図26のパターン3の別の表示例において、映像を表示する手順を示すフローチャート図の一例である。 パターンが自動で切り替えられる契機について説明する図の一例である。
以下、本発明を実施するための形態の一例として、通信端末と通信端末が行う映像の表示方法について図面を用いて説明する。
<通信システムと通信端末の動作の概略>
まず、図1を用いて通信システムの概略を説明する。図1(a)は、テレプレゼンスロボットを用いた通信システムの概略構成図の一例を示す。社内801にテレプレゼンスロボットが配置されており、自宅802に操作者810が存在している。テレプレゼンスロボットは移動装置20に搭載された通信端末10Bと広角撮像装置9を有している。また、操作者810は通信端末10Aを有している。
広角撮像装置9は通信端末10Bに後述する全天球映像(第2の映像の一例)を送信する。通信端末10A、10Bはそれぞれ平面撮像装置とマイクを有しており互いに映像と音声を送受信する。すなわち、通信端末10Bは全天球映像と正面映像831(又は/及び背面映像832。第1の映像の一例)を通信端末10Aに送信し、通信端末10Aは正面映像831を通信端末10Bに送信する。
また、通信端末10Aでは移動装置20の移動などに関する操作を受け付けるアプリケーションソフト(以下、アプリという)が動作しており、操作者810は通信端末10Bが送信する映像を確認しながら操作指示を入力する。操作者810が入力した操作指示は通信端末10Aから通信端末10Bに送信される。
通信端末10Bと移動装置20はBluetooth(登録商標)などの近距離無線で通信でき、通信端末10Bは操作指示に基づいて移動装置20を制御するので、操作者810は遠隔地(自宅)から移動装置20を移動させることができる。
このようにして移動装置20を移動させることで、図1(b)に示すように、操作者810は所望の相手820と会話することができる。図1(b)では、操作者810はAさん820aの場所まで移動装置20を移動させてAさんと会話し、次に、Bさん820bの場所まで移動装置20を移動させてBさんと会話している。
人と会うだけでなく、操作者810は遠隔地にある店舗の商品を確認したり、工場を視察したり、展示会に参加したりするなど、現地に移動しなくても多くのことを遠隔地から行うことができる。
また、通信端末10Bに内蔵された平面撮像装置が正面と後方しか撮像できないと、操作者810が移動装置20の周囲の状況(例えば、足下や左右)を確認しづらい。そこで、本実施形態では、通信端末10Bに周囲360度を撮像できる広角撮像装置9が搭載されている。広角撮像装置9は通信端末10Bに搭載されていてもよいし、移動装置20に搭載されていてもよい。広角撮像装置9は広角な範囲を撮像できるため、例えば、周囲が遮られにくい上方に配置される。図1では通信端末10Bの上側に配置されているが、左側又は右側に配置されてもよいし、移動装置20のポール部分に配置されてもよい。
図2を用いて本実施形態の通信端末10Aが、平面撮像装置と周囲360度の映像を撮像できる広角撮像装置9の映像をどのように表示するかの概略を説明する。図2は平面撮像装置が撮像した正面映像又は背面映像と広角撮像装置9が撮像した全天球映像の表示例を説明する図である。本実施形態では正面映像、背面映像及び全天球映像の配置例として3つのパターンを説明する。
図2(a)はパターン1の配置例を示す。パターン1は、全天球映像840又は正面映像(背面映像)841を切り替えて表示する配置例である。図2(a)の左図では通信端末10Aが全天球映像841を全面に表示しており、図2(a)の右図では正面映像(又は背面映像)841が全面に表示されている。全面とはディスプレイに他の要素が何ら含まれないことまでは要さず、アプリのソフトキーや別のアプリの画面が含まれていてもよい。操作者は正面映像(又は背面映像)と全天球映像を切り替えることができ、これらのどちらも大きな画面で見ることができる。
図2(b)はパターン2の配置例を示す。パターン2は、全天球映像及び正面映像(背面映像)を並べて同じ画面に表示する配置例である。図2(b)では全天球映像が正距円筒図法で平面に変換された正距円筒射影映像842が上側に小さく表示され、下側に正面映像(又は背面映像)843が大きく表示されている。操作者は正距円筒射影映像842で全体を確認しながら正面映像(又は背面映像)843で正面又は背面を確認できる。
図2(c)はパターン3の配置例を示す。パターン3は、全天球映像及び正面映像(背面映像)のどちらかを基本映像とし、メイン画面と複数のサブ画面を組み合わせる配置例である。図2(c)の左図ではメイン画面に全天球映像844が表示され、メイン画面の下方に2つのサブ画面(正面映像845と背面映像846)が配置されている。図2(c)の右図ではメイン画面847に全天球映像が表示され、メイン画面に重ねて複数のサブ画面848が配置されている。サブ画面848には正面映像、背面映像、及び、全天球映像の一部の画角の複製を任意に表示できる。
図2では、全天球映像、又は正面映像(又は背面映像)の少なくとも一方に移動装置操作ボタン614(コントローラの一例)が表示されている。従って、操作者は全天球映像又は正面映像(又は背面映像)を見ながら移動装置20を移動させることができる。
このように本実施形態の通信システムでは、操作者810の通信端末10Aが全天球映像と正面映像(背面映像)を適切に配置して表示するため、操作者は移動装置20の周囲の全体的な状況を確認することも、正面又は背後の高解像度な映像を確認することもできる。
<用語について>
操作者810は移動装置20を操作する者である。操作者810は通信端末10Aを使用するユーザでもあるが、本実施形態では操作者と称する。
会話の相手820は社内などの人であるが、犬や猫などの動物でもよい。また、移動装置20は、操作者810が相手と話すために使用されなくてもよい。例えば、移動装置20が社内などをパトロールするような場合、通信端末10Bは映像や音声を通信端末10Aに送信すればよく、操作者が会話しない場合がある。
移動装置20が移動する場所は移動装置20が移動可能な場所であればよい。また、モータなどの動力で移動する装置に限らず、人間が補助的に移動を補助してもよい。
第1の映像は通常の画角の映像をいい、第2の映像は第1の映像よりも広角な映像をいう。通常の画角は透視射影レンズで撮像しても歪みが許容される程度の画角であり、簡単には透視射影レンズで撮像された映像ということができる。広角な映像は例えば魚眼レンズのような広角レンズで撮像された映像をいう。射影方式は立体射影、等距離射影、等立体角射影、正射影などがある。広角な映像は周囲360度が撮像された全天球映像に限らず、半球が撮像された映像や水平方向に180〜360度が撮像された映像でもよい。
第1の映像又は第2の映像が大きく表示されるなどの「大きい」とは、第1の映像又は第2の映像の表示エリアが大きいこと、すなわち画面を占める面積の大小をいう。単位長さ当たりの画素数はどちらが大きくてもよい。
本実施形態では、動画を想定する場合は映像と称し、1枚の静止画を想定した説明の場合は画像と称するが、映像は複数の画像を有するものであり、映像と画像は厳密に区別しないものとする。
第1の映像及び第2の映像をいずれも表示できるよう制御するとは、第1の映像及び第2の映像を同時に表示すること、又は、一方のみを表示することをいい、好ましくは同時に表示するかどうか、第1の映像と第2の映像のどちらを表示するかをユーザが選択できることをいう。
移動装置を制御するコントローラとは、移動装置に何らかの制御信号を送信することができるユーザインタフェース、ソフトキー、表示部品等をいう。移動のための制御信号に限らず、電源ON/OFF、撮像停止/再開、ランプの点灯や動画の再生などの制御信号が含まれてよい。
<システム構成例>
図3は、一実施形態に係る通信システムの構成例を示す図である。通信システム1は、複数の通信端末(10A,10B1,10B2,10B3、10E)、移動装置20、中継装置30、及び、通信管理システム50等を有する。なお、以下の説明の中で、複数の通信端末(10A,10B1,10B2,10B3,10E)のうち、任意の通信端末を示す場合「通信端末10」を用いる。また、通信端末(10B1,10B2,10B3)のうち、任意の通信端末を示す場合「通信端末10B」を用いる。また、図3の通信端末10の数は一例である。
通信端末10、中継装置30、通信管理システム50は、それぞれ、通信ネットワーク2を介して、他の通信端末10、装置、システムとの間で通信可能に接続されている。通信ネットワーク2は、例えば、LAN(Local Area Network)、インターネット、携帯電話網、あるいは専用線等を含んでいてもよい。
通信端末10は、例えば、タブレット端末、スマートフォン、PC(Personal Computer)等の汎用の情報処理装置、又は専用のテレビ会議装置等の通信端末である。通信端末10は、他の1つ以上の通信端末10との間で、例えば、画像データ、音声データ等を送受信することにより、例えば、テレビ会議等を行うことができる。
通信端末10Aは、通信システム1に対応するアプリを実行することにより、通信端末10Bとテレビ会議を行うと共に、通信端末10Bを介して、移動装置20を遠隔操作することができる。例えば、通信端末10Aは、テレビ会議の表示画面に表示された操作ボタンを操作することにより、通信端末10Bを搭載した移動装置20を、例えば、前後、左右等に移動させることができる。なお、通信端末10Aはブラウザソフトを動作させることも可能であり、ブラウザソフトが映像を表示し、ブラウザソフトに対する移動装置20の操作を受け付けることもできる。
移動装置20と通信端末10B(広角撮像装置9を含む)をテレプレゼンスロボットという。移動装置20は、移動装置20に取り付けられた通信端末10Bからの制御に応じて、例えば、複数の車輪を駆動することにより、「前進」、「後退」、「右旋回」、「左旋回」等の移動を行う走行機能を有する装置である。ユーザが左右への移動を指示した場合、「右旋回」後又は「左旋回」後に前進する。なお、図3に示す移動装置20の外観はあくまで一例である。移動装置20は、移動装置20に搭載された通信端末10Bからの操作指示に応じて、通信端末10Bと共に移動可能であればよい。
また、移動装置20と通信端末10Bは一体でもよい。一体とは、出荷時から流通段階において移動装置20に通信端末10Bが取り付けた状態であること、移動装置20の一部の部品として通信端末10Bが存在することが外部から明らかな状態で色、デザイン、製造元、販売元に一体性が認められること、又は、移動装置20と通信端末10Bが一体不可分であり分離することが困難であるか又は分離できても機能の一部が損なわれること、等をいう。なお、移動装置20と通信端末10Bが一体の場合、通信端末10Bは移動装置20が有する通信部として扱われる。
移動装置20と通信端末10Bが一体の場合、広角撮像装置9も移動装置20に内蔵されてもいてもよいし、広角撮像装置9は移動装置20に外付けされていてもよい。広角撮像装置9が移動装置20に内蔵されている場合、広角撮像装置9は移動装置20が有する広角撮像部として扱われる。
更に、移動装置20に通信端末10Bが外付けされている場合でも、広角撮像装置9が移動装置20に内蔵されていてもよいし、広角撮像装置9は移動装置20に外付けされていてもよい。
また、広角撮像装置9は通信端末10Bに内蔵されていてもよいし、外付けされてもよい。広角撮像装置9が通信端末10Bに内蔵されている場合、広角撮像装置9は通信端末10Bが有する広角撮像部として扱われる。
中継装置30は、例えば、情報処理装置、又は1つ以上の情報処理装置を含むシステムであり、複数の通信端末10間で送受信されるコンテンツデータ(映像、音声、操作指示情報)を中継する。ただし、中継装置30を介することなく、複数の通信端末10が直接、コンテンツデータを送受信してもよい。
通信管理システム50は、例えば、情報処理装置、又は1つ以上の情報処理装置を含むシステムである。通信管理システム50は、例えば、通信端末10からのログイン認証、通信端末10の通信状況の管理、宛先リストの等の管理、及び複数の通信端末10間で中継装置30を介して通信を行うセッションの制御等を行う。
一実施形態において、セッションは、中継装置30が、複数の通信端末10間で画像データ、及び音データ(音声その他の音)を含むコンテンツデータを中継することで実現される。
上記の構成において、例えば、通信端末10Aの操作者は、通信端末10Bと通信を行い、通信端末10B及び移動装置20を遠隔操作により移動させることができる。これにより、通信端末10Aの操作者は、通信端末10B及び移動装置20を任意の相手の近くに移動させて、テレビ会議等を行うことができる。
また、通信システム1には、通信管理システム50を介して一方の通信端末10から他方の通信端末10に一方向でコンテンツデータを伝送するデータ提供システムや、通信管理システム50を介して複数の通信端末10間で情報や感情等を相互に伝達するコミュニケーションシステムが含まれる。このコミュニケーションシステムは、中継装置30を介して複数のコミュニケーション通信端末間で情報や感情等を相互に伝達するためのシステムであり、テレビ(又はビデオ)会議システムやテレビ電話システム等が例として挙げられる。
<ハードウェア構成>
<<通信端末のハードウェア構成>>
図4は、本発明の一実施形態に係る通信端末のハードウェア構成例を示す図である。通信端末10は、一般的なコンピュータの構成を含み、例えば、CPU(Central Processing Unit)101、ROM(Read Only Memory)102、RAM(Random Access Memory)103、フラッシュメモリ104、及びSSD(Solid State Drive)105等を有する。また、通信端末10は、メディアI/F(Interface)107、入力部108、表示部109、ネットワークI/F111、カメラ112、撮像素子I/F113、マイク114、スピーカ115、及び音声入出力I/F116等を有する。更に、通信端末10は、外部機器接続I/F117、近距離無線通信部118、及びバス119等を有する。
CPU101は、例えば、ROM102や、フラッシュメモリ104等からプログラムやデータを読み出し、処理を実行することで、通信端末10が備える各機能を実現する演算装置である。ROM102は、IPL(Initial Program Loader)等のCPU101の起動に用いられるプログラム等を予め記憶した不揮発性のメモリである。RAM103は、CPU101のワークエリア等として利用される揮発性のメモリである。
フラッシュメモリ104は、例えば、OS(Operating System)、アプリケーションプログラム、及び各種のデータ等を記憶するストレージデバイスである。SSD105は、CPU101の制御に従ってフラッシュメモリ104に対する各種データの読み出し、書き込みを制御する。メディアI/F107は、例えば、メモリカード等の記録媒体である記録メディア106に対するデータの読み出し又は書き込み(記憶)を制御する。記録媒体には通信端末10を制御するプログラムが記憶され得る。
入力部108は、例えば、タッチパネル、キーボード、ポインティングデバイス等の操作者からの入力操作を受け付けるための入力装置である。音声入力が可能でもよい。表示部109は、操作者に向けた各種の表示を行う表示装置である。なお、入力部108、及び表示部109は、例えば、タッチパネルとディスプレイが一体化されたタッチパネルディスプレイ等の表示入力部110であっても良い。
ネットワークI/F111は、通信端末10が通信ネットワーク2を利用してデータを送信したり受信したりするための通信インタフェースである。カメラ112は、CPU101の制御に従って被写体を撮像するための撮像素子を含む。撮像素子I/F113は、カメラ112による撮像を制御すると共に、撮像したデータを所定の画像データに変換する。カメラ112は平面撮像装置であり、広角撮像装置9よりも狭い画角で撮像するが、広角撮像装置9よりも高解像度である。解像度とはデジタル画像の細かさを表す度合いのことであり、解像度はデジタル画像を構成する個々の単位点(ドット、ピクセル)の細かさを数値化することによって表現される。解像度を表す単位には一般に「ドット」が用いられる。ディスプレイの場合は、多くの場合「1024×768ドット」のようにヨコ×タテに並んでいる数で表される。同じ撮像範囲で比較すると、広角撮像装置9のドット数はカメラ112のドット数よりも少ない。
マイク114は、収録した音声を電気信号に変換する。スピーカ115は、音声信号を音声に変換して出力する。音声入出力I/F116は、マイク114及びスピーカ115による音声の入出力を制御する。
外部機器接続I/F117は、例えば、USB(Universal Serial Bus)等の外部機器を接続するためのインタフェースである。外部機器には、例えば、図3の移動装置20等が含まれる。
近距離無線通信部118は、例えば、Bluetooth(登録商標)や、Bluetooth(登録商標) Low Energy等の近距離無線通信により、外部機器(例えば移動装置20)と通信するための通信インタフェースである。バス119は、上記の各構成に共通に接続され、アドレス信号、データ信号、及び各種の制御信号等を伝達する。
<<通信管理システム、中継装置のハードウェア構成>>
図5は、一実施形態に係る通信管理システムのハードウェア構成例を示す図である。通信管理システム50は、一般的なコンピュータの構成を有しており、例えば、CPU501、ROM502、RAM503、HD504、HDD(Hard Disk Drive)505、メディアドライブ507、及びディスプレイ508等を有する。また、通信管理システム50は、ネットワークI/F509、キーボード511、マウス512、CD−ROMドライブ514、及びバス510等を有する。
CPU501は、例えば、ROM502、HD504等に格納されたプログラムやデータを読み出し、処理を実行することにより、通信管理システム50が備える各機能を実現する演算装置である。ROM502は、IPL等のCPU501の起動に用いられるプログラム等を予め記憶した不揮発性のメモリである。RAM503は、CPU501のワークエリア等として利用される揮発性のメモリである。
HD504は、例えば、OSや、アプリケーションプログラム等のプログラムや、各種のデータを記憶するストレージ装置である。HDD505は、CPU501の制御に従って、HD504に対する各種データの読み出し又は書き込みを制御する。ディスプレイ508は、例えば、カーソル、メニュー、ウィンドウ、文字、又は画像等の各種の情報を表示する表示装置である。
ネットワークI/F509は、通信ネットワーク2を利用してデータ通信を行うための通信インタフェースである。キーボード511は、システム管理者による文字、数値、各種指示などの入力操作を受け付けるための入力装置の一例である。マウス512は、システム管理者による各種指示の選択や実行、処理対象の選択、カーソルの移動等の操作を受け付けるポインティングデバイスの一例である。
なお、ディスプレイ508、キーボード511及びマウス512に関して、通信管理システム50又は中継装置30は普段は有していなくてもよい。この場合、必要に応じて接続されてよい。
メディアドライブ507は、例えば、メモリカード等の記録メディア506に対するデータの読み出しや、書き込み(記憶)を制御する。CD−ROMドライブ514は、着脱可能な記録媒体の一例としてのディスク513に対するデータの読み出し又は書き込みを制御する。バス510は、上記の各構成要素を電気的に接続し、アドレス信号、データ信号、及び各種の制御信号等を伝達する。
なお、上記のコンピュータのハードウェア構成はあくまで一例である。
中継装置30は、通信管理システム50と同様のハードウェア構成を有しているものとする。なお、通信端末10、中継装置30、及び通信管理システム50用の各プログラムは、インストール可能な形式又は実行可能な形式のファイルによって、コンピュータで読み取り可能な記録メディアに記録されて流通されるようにしても良い。また、上記記録メディアの例として、CD−R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、ブルーレイディスク、USBメモリ等が挙げられる。また、各プログラムが記憶されたCD−ROM等の記録メディア、並びに、これらプログラムが記憶されたHD504は、プログラム製品(Program Product)として、国内又は国外へ提供されることができる。
<<移動装置のハードウェア構成>>
図6は、一実施形態に係る移動装置のハードウェア構成例を示す図である。移動装置20は、例えば、CPU401、RAM402、ROM403、外部機器I/F404、近距離無線通信部405、車輪駆動部406、操舵部407等を有する。
CPU401は、ROM403等に格納されたプログラムを実行することにより、移動装置20の各機能を実現する演算装置である。RAM402は、CPU401のワークエリア等として用いられる揮発性のメモリである。ROM403は、移動装置20のプログラム等を記憶する不揮発性のメモリである。ROM403は、例えば、フラッシュROM等の書き換え可能な不揮発性メモリであっても良い。
外部機器I/F404は、通信端末10の外部機器接続I/F117等と有線接続し、通信を行うための有線通信インタフェースである。
近距離無線通信部405は、例えば、通信端末10の近距離無線通信部118と同じ無線通信方式により無線通信を行うための無線通信インタフェースである。移動装置20は、例えば、外部機器I/F404、又は近距離無線通信部405により、通信端末10と通信可能であれば良い。
車輪駆動部406は、移動装置20を移動させるための車輪を駆動させる駆動装置の一例である。車輪駆動部406には、例えば、モータ等が含まれる。
操舵部407は、車輪駆動部406によって移動する移動装置20の操舵を行う操舵装置の一例である。操舵部407は、例えば、車輪の向きや傾きを変えるものであっても良いし、左右の車輪の回転数や速度等を制御することにより、移動装置20の向きを変えるもの等であっても良い。
<<広角撮像装置のハードウェア構成例>>
図7を用いて、広角撮像装置9のハードウェア構成を説明する。図7は、広角撮像装置9の一例のハードウェア構成図である。以下では、広角撮像装置9は、2つの撮像素子を使用した全天球(全方位)広角撮像装置9であるが、撮像素子は2つ以上いくつでもよい。また、必ずしも全方位撮像専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位の撮像ユニットを取り付けることで、実質的に広角撮像装置9と同じ機能を有するようにしてもよい。
図7に示されているように、広角撮像装置9は、撮像ユニット301、画像処理ユニット304、撮像制御ユニット305、マイク308、音処理ユニット309、CPU(Central Processing Unit)311、ROM(Read Only Memory)312、SRAM(Static Random Access Memory)313、DRAM(Dynamic Random Access Memory)314、操作部315、ネットワークI/F316、通信部317、アンテナ317a、電子コンパス318、ジャイロセンサ319、及び、加速度センサ320なども接続される。
このうち、撮像ユニット301は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)302a,302bと、各広角レンズに対応させて設けられている2つの撮像素子303a,303bを備えている。撮像素子303a,303bは、魚眼レンズ302a,302bによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサなどの画像センサ、この画像センサの水平又は垂直同期信号や画素クロックなどを生成するタイミング生成回路、この撮像素子の動作に必要な種々のコマンドやパラメータなどが設定されるレジスタ群などを有している。
撮像ユニット301の撮像素子303a,303bは、各々、画像処理ユニット304とパラレルI/Fバスで接続されている。一方、撮像ユニット301の撮像素子303a,303bは、撮像制御ユニット305とは別に、シリアルI/Fバス(I2Cバス等)で接続されている。画像処理ユニット304、撮像制御ユニット305及び音処理ユニット309は、バス310を介してCPU311と接続される。更に、バス310には、ROM312、SRAM313、DRAM314、操作部315、ネットワークI/F316、通信部317、及び電子コンパス318なども接続される。
画像処理ユニット304は、撮像素子303a,303bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、図9(c)に示されているような正距円筒射影画像のデータを作成する。
撮像制御ユニット305は、一般に撮像制御ユニット305をマスタデバイス、撮像素子303a,303bをスレーブデバイスとして、I2Cバスを利用して、撮像素子303a,303bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU311から受け取る。また、撮像制御ユニット305は、同じくI2Cバスを利用して、撮像素子303a,303bのレジスタ群のステータスデータ等を取り込み、CPU311に送る。
また、撮像制御ユニット305は、操作部315のシャッターボタンが押下されたタイミングで、撮像素子303a,303bに画像データの出力を指示する。広角撮像装置9によっては、ディスプレイ(例えば、通信端末10Bのディスプレイ)によるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子303a,303bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
また、撮像制御ユニット305は、後述するように、CPU311と協働して撮像素子303a,303bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、広角撮像装置9にはディスプレイが設けられていないが、表示部を設けてもよい。
マイク308は、音を音(信号)データに変換する。音処理ユニット309は、マイク308から出力される音データをI/Fバスを通して取り込み、音データに対して所定の処理を施す。
CPU311は、広角撮像装置9の全体の動作を制御すると共に必要な処理を実行する。ROM312は、CPU311のための種々のプログラムを記憶している。SRAM313及びDRAM314はワークメモリであり、CPU311で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM314は、画像処理ユニット304での処理途中の画像データや処理済みの正距円筒射影画像のデータを記憶する。
操作部315は、シャッターボタンなどの操作ボタンの総称である。操作者は操作部315を操作することで、種々の撮像モードや撮像条件などを入力する。
ネットワークI/F316は、SDカード等の外付けのメディアやパーソナルコンピュータなどとのインタフェース回路(USBI/F等)の総称である。また、ネットワークI/F316としては、無線、有線を問わない。DRAM314に記憶された正距円筒射影画像のデータは、このネットワークI/F316を介して外付けのメディアに記録されたり、必要に応じてネットワークI/F316を介して通信端末10B等の外部端末(装置)に送信されたりする。
通信部317は、広角撮像装置9に設けられたアンテナ317aを介して、Wi−Fi、NFC、Bluetooth(登録商標)等の近距離無線通信技術によって、通信端末10Bの外部端末(装置)と通信を行う。この通信部317によっても、正距円筒射影画像のデータを通信端末10B等の外部端末(装置)に送信することができる。
電子コンパス318は、地球の磁気から広角撮像装置9の方位を算出し、方位情報を出力する。この方位情報はExif(Exchangeable image file format)に沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。なお、関連情報には、画像の撮像日時、及び画像データのデータ容量の各データも含まれている。
ジャイロセンサ319は、広角撮像装置9の移動に伴う角度の変化(ロール角、ピッチング角、ヨー角)を検出する。角度の変化はExifに沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。
加速度センサ320は3軸方向の加速度を検出する。検出した加速度に基づいて広角撮像装置9の姿勢(重力方向に対する角度)を検出する。ジャイロセンサ319と加速度センサ320は両方を有することで画像補正の精度が向上する。
<全天球映像について>
次に、図8を用いて、広角撮像装置9の使用状況を説明する。なお、図8は、広角撮像装置9の使用イメージ図である。広角撮像装置9は、図8に示されているように、例えば、ユーザが手に持ってユーザの周りの被写体を撮像するために用いられる。この場合、図7に示されている撮像素子303a及び撮像素子303bによって、それぞれユーザの周りの被写体が撮像されることで、2つの半球画像を得ることができる。
次に、図9及び図10を用いて、広角撮像装置9で撮像された画像から正距円筒射影画像EC及び全天球画像CEが作成されるまでの処理の概略を説明する。なお、図9(a)は広角撮像装置9で撮像された半球画像(前側)、図9(b)は広角撮像装置9で撮像された半球画像(後側)、図9(c)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。図10(a)は正距円筒射影画像で球を被う状態を示した概念図、図10(b)は全天球画像を示した図である。
図9(a)に示されているように、撮像素子303aによって得られた画像は、後述の魚眼レンズ302aによって湾曲した半球画像(前側)となる。また、図9(b)に示されているように、撮像素子303bによって得られた画像は、魚眼レンズ302bによって湾曲した半球画像(後側)となる。そして、半球画像(前側)と、180度反転された半球画像(後側)とは、広角撮像装置9によって合成され、図9(c)に示されているように、正距円筒射影画像ECが作成される。
そして、OpenGL ES(Open Graphics Library for Embedded Systems)が利用されることで、図10(a)に示されているように、正距円筒射影画像が球面を覆うように貼り付けられ、図10(b)に示されているような全天球画像CEが作成される。このように、全天球画像CEは、正距円筒射影画像ECが球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2−Dimensions) 及び3D(3−Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。なお、全天球画像CEは、静止画であっても動画であってもよい。
以上のように、全天球画像CEは、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、全天球画像CEの一部の所定領域(以下、「所定領域画像」という)を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、図11及び図12を用いて説明する。
なお、図11は、全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。仮想カメラICは、三次元の立体球として表示されている全天球画像CEに対して、その画像を見る操作者の視点の位置に相当するものである。また、図12(a)は図11の立体斜視図、図12(b)はディスプレイに表示された場合の所定領域画像を表す図である。また、図12(a)では、図11に示されている全天球画像が、三次元の立体球CSで表されている。このように生成された全天球画像CEが、立体球CSであるとすると、図12に示されているように、仮想カメラICが全天球画像CEの内部に位置している。全天球画像CEにおける所定領域Tは、仮想カメラICの撮像領域であり、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮像方向と画角を示す所定領域情報によって特定される。また、所定領域Tのズームは、仮想カメラICを全天球画像CEに近づいたり、遠ざけたりすることで表現することもできる。所定領域画像Qは、全天球画像CEにおける所定領域Tの画像である。従って、所定領域Tは画角αと、仮想カメラICから全天球画像CEまでの距離fにより特定できる(図13参照)。
そして、図12(a)に示されている所定領域画像Qは、図12(b)に示されているように、所定のディスプレイに、仮想カメラICの撮像領域の画像として表示される。図12(b)に示されている画像は、初期設定(デフォルト)された所定領域情報によって表された所定領域画像である。以下では、仮想カメラICの撮像方向(ea,aa)と画角(α)を用いて説明する。なお、所定領域Tは、画角αと距離fではなく、所定領域Tである仮想カメラICの撮像領域(X,Y,Z)によって示してもよい。
次に、図13を用いて、所定領域情報と所定領域Tの画像の関係について説明する。なお、図13は、所定領域情報と所定領域Tの画像の関係との関係を示した図である。図13に示されているように、「ea」はelevation angle(仰角)、「aa」はazimuth angle(方位角)、「α」は画角(Angle)を示す。即ち、撮像方向(ea,aa)で示される仮想カメラICの注視点が、仮想カメラICの撮像領域である所定領域Tの中心点CPとなるように、仮想カメラICの姿勢を変更することになる。図13に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角画角をαとした場合の中心点CPが、所定領域情報の(x,y)パラメータとなる。fは仮想カメラICから中心点CPまでの距離である。Lは所定領域Tの任意の頂点と中心点CPとの距離である(2Lは対角線)。そして、図13では、一般的に以下の(式1)で示される三角関数が成り立つ。
L/f=tan(α/2)・・・(式1)
<機能について>
次に、図14を用いて通信システムの機能について説明する。図14は、通信システム1が有する通信管理システム50、通信端末10B、及び、通信端末10Aの機能をブロック状に示す機能ブロック図である。
<<通信端末10Aの機能構成>>
通信端末10Aは、例えば、移動装置20等の機器の制御のための操作指示を受け付ける。通信端末10Aは、送受信部11、操作入力受付部12、通信制御部13、撮像部14、音声入力部15a、音声出力部15b、表示制御部16、及び記憶・読出部17を有している。これらの各部は、図4に示されている各構成要素のいずれかが、フラッシュメモリ104からRAM103上に展開された通信端末10用のプログラムに従ったCPU101からの命令によって動作することで実現される機能又は手段である。また、通信端末10は、図4に示されているRAM103、及び図4に示されているフラッシュメモリ104によって実現される記憶部18を有している。
<<通信端末10Bの機能構成>>
通信端末10Bは、移動装置20に搭載された通信端末10である。通信端末10Bは、例えば、移動装置20等の機器の制御機能を有する通信端末10の一例である。通信端末10Bは、前述した通信端末10Aの機能構成に加えて、操作指示受信部19a、全天球映像受信部19b、機器制御部19c、及び、機器間通信部19d等を有する。なお、通信端末10Aもこれら追加の構成を有している。
(通信端末10の各機能構成)
次に、通信端末10(通信端末10A及び通信端末10B)の各機能構成について詳細に説明する。
送受信部11は、通信ネットワーク2を介して他の通信端末、装置又はシステムと各種データ(又は情報)の送受信を行う。送受信部11は、所望の宛先端末と通話を開始する前から、通信管理システム50より、宛先候補としての各通信端末の状態を示す各状態情報の受信を開始する。なお、この状態情報は、各通信端末10の稼動状態(ONラインかOFFラインかの状態)だけでなく、ONラインの場合、更に通話可能であるか、通話中であるか等の詳細な状態を示す。
通信端末10Aの送受信部11は、通信端末10B(又は通信端末10Bが有する通信部)が送信した第1の映像、及び、通信端末10B又は移動装置に接続若しくは一体の広角撮像装置9が撮像した全天球映像を受信する。
操作入力受付部12は、操作者による通信端末に対する各種入力を受け付ける。例えば、操作者が、通信端末10の電源をONさせる操作を行うと、操作入力受付部12が操作を受け付けて電源をONに制御する。
通信制御部13は、例えば、上記電源ONの受付を契機として、送受信部11から通信ネットワーク2を介して通信管理システム50に、ログインを要求する旨を示すログイン要求情報、及び要求元端末の現時点のIPアドレスを自動的に送信する。また、操作者が、通信端末10の電源をOFFする操作を行うと、送受信部11が通信管理システム50へ電源をOFFする旨の状態情報を送信した後に、操作入力受付部12が電源をOFFにする。これにより、通信管理システム50側では、通信端末10が電源ONから電源OFFになったことを把握することができる。
また、通信制御部13は、中継装置30を介して、他の通信端末10とコンテンツデータの送受信を行うセッションの確立や、切断等、様々な通信制御を行う。なお、本実施形態に係る通信制御部13は、通信管理システム50に送信するセッションの制御情報(例えば、後述する開始要求情報、開始応答情報等)に、通信端末10の通信ID(Identification)を含めて送信する。
通信IDは、通信端末10を用いてコンテンツデータの送受信を行うセッションに参加可能なアカウントの識別情報の一例である。通信IDは、例えば、操作者の識別情報であるユーザID、アプリの識別情報であるアプリID、通信端末10の契約者の識別情報である契約ID等であっても良い。また、通信IDとしては、文字、数字、記号、及び各種のしるしのうち、少なくとも2つが組み合わされた情報が挙げられる。メールアドレスなどでもよい。
撮像部14は、被写体を撮像して得られた撮像データを、所定の画像(映像)データに変換して出力する。撮像部14は通信端末の正面側に1つ(正面映像を撮像)、背面側に1つある(背面映像を撮像)。これ以上の数の撮像部があってもよい。
音声入力部15aは、マイク114によって操作者の音声が音声信号に変換された後、この音声信号を所定の音声データに変換して出力する。音声出力部15bは、音声データを音声信号に変換してスピーカに出力して、スピーカ115から音声を出力させる。
表示制御部16は、例えば、通信端末10が受信したコンテンツデータに含まれる画像データを表示部109、又は表示入力部110等に表示させる。また、表示制御部16は、通信管理システム50から受信した宛先リストの情報を表示部109に送信して、表示部109に宛先リストを表示させることができる。
通信端末10Aの表示制御部16は、送受信部11が受信した正面映像又は背面映像をいずれも表示できるよう制御すると共に、移動装置20を制御する移動装置操作ボタン614を正面映像又は背面映像に重ねて表示装置に表示する。
記憶・読出部17は、記憶部18に各種データを記憶したり、記憶部18に記憶された各種データを読み出したりする処理を行う。
記憶部18には、例えば、前述した通信IDと通信IDに対応するパスワード等の認証情報が記憶される。記憶部18には、宛先端末との通話を行う際に受信される画像データ及び音声データが、受信される度に上書き記憶される。このうち、上書きされる前の画像データによって表示部109等に画像が表示され、上書きされる前の音声データによってスピーカ115から音声が出力される。
続いて、通信端末10Bに含まれる各機能構成について説明する。
全天球映像受信部19bは、例えば、Bluetooth(登録商標)などの無線通信又はUSBケーブルなどの有線通信で広角撮像装置9から正距円筒射影映像を受信する。正距円筒射影映像は動画と見なせる程度の頻度で繰り返し送信される動画である。ただし、静止画でもよいし、動画と静止画を切り替え可能であってもよい。
操作指示受信部19aは、送受信部11を介して、通信端末10Aから通信端末10Bに対する機器(移動装置20)の制御を要求する操作指示情報を受信する。この操作指示情報には、例えば、操作指示情報を送信した通信端末10の通信ID、及び要求する制御内容を示す操作指示等が含まれる。
機器制御部19cは、操作指示受信部19aで受信された操作指示情報に含まれる操作指示に基づいて、移動装置20を制御する。機器間通信部19dは、近距離無線通信部118を用いて移動装置20と通信を行う。
<<移動装置の機能構成>>
移動装置20は、例えば、機器間通信部21、及び走行制御部22等を有する。機器間通信部21は、例えば、図6に示されているCPU401からの命令、及び外部機器I/F404、又は近距離無線通信部405等によって実現される。ここでは、機器間通信部21は、近距離無線通信部405を用いて通信端末10Bと通信を行うものとする。
走行制御部22は、通信端末10Aから取得した制御内容に応じて、例えば、図6の車輪駆動部406、及び操舵部407を制御することにより、移動装置20を前進、後退、左旋回、右旋回等の移動(走行)を制御する。
<<広角撮像装置の機能構成>>
広角撮像装置9は、例えば、広角画像送信部31、及び広角画像撮像部32等を有する。広角画像撮像部32は周囲360度の広角な正距円筒射影映像を所定のフレームレートで撮像する。静止画を撮像してもよい。広角画像送信部31は、図7に示した通信部317により実現されており、動画又は静止画の正距円筒射影映像を通信端末10Bに送信する。
<<通信管理システムの機能構成>>
通信管理システム50は、送受信部51、端末認証部52、端末管理部53、端末抽出部54、セッション管理部55、及び記憶・読出部57等を有している。これら各部は、図5に示されている各構成要素のいずれかが、HD504からRAM503上に展開された通信管理システム50用のプログラムに従ったCPU501からの命令によって動作することで実現される機能又は機能する手段である。また、通信管理システム50は、図5に示されているHD504等により実現される記憶部5000を有している。
(通信管理システムの各機能構成)
次に、通信管理システム50の各機能構成について詳細に説明する。送受信部51は、通信ネットワーク2を介して他の通信端末、装置又はシステムと各種データ(又は情報)の送受信を行う。
端末認証部52は、送受信部51を介して受信されたログイン要求情報に含まれている通信ID及びパスワードの組み合せが、認証管理DB(Database)5002に含まれるか否かを判断することにより通信端末10の認証を行う。
端末管理部53は、端末管理DB5003に、通信ID毎の、宛先名、稼動状態、要求情報等の受信日時、及び要求元端末のIPアドレス等を関連付けて記憶して、管理する。例えば、端末管理部53は、操作者が通信端末10の電源をONからOFFにすることで、通信端末10から送られてきた、電源をOFFする旨の状態情報に基づいて、端末管理DB5003の稼動状態をONラインからOFFラインに変更する。
端末抽出部54は、ログイン要求した要求元端末の通信IDをキーとして、宛先リスト管理DB5004を検索し、要求元端末と通話することができる宛先端末の通信IDを抽出する。更に、端末抽出部54は、宛先リスト管理DB5004を検索し、上記要求元端末の通信IDを宛先端末の候補として登録している他の通信端末の通信IDも抽出する。
更に、端末抽出部54は、抽出された宛先端末の候補の通信IDを検索キーとして、前述した端末管理DB5003を検索し、抽出された通信ID毎に稼動状態を読み出す。これにより、端末管理部53は、ログイン要求してきた要求元端末と通話することができる宛先端末の候補の稼動状態を取得することができる。また、端末管理部53は、要求元の通信IDを検索キーとして、前述した端末管理DB5003を検索し、ログイン要求してきた要求元端末の稼動状態も取得する。
セッション管理部55は、通信管理システム50が管理するセッションの制御を行う。セッションの制御には、例えば、セッションを確立するための制御、確立されたセッションに通信端末10を参加させる制御、セッションを切断する制御、セッションIDの生成等が含まれる。また、セッション管理部55は、セッションの識別情報であるセッションIDに対応づけて、セッションの開始を要求した通信端末10の通信ID、及び宛先端末の通信ID等を、セッション管理DB5005に記憶して、管理する。
記憶・読出部57は、図5に示されているCPU501からの命令及びHDD505によって実現され、又はCPU501からの命令によって実現される。記憶・読出部57は、記憶部5000への各種データを記憶、及び記憶部5000からの各種データの読み出しを行う。
<通信管理システムが管理する情報の例>
通信管理システム50の記憶部5000に記憶されている各管理DBについて説明する。
通信管理システム50の記憶部5000に記憶された認証管理DB5002には、例えば、表1に示されているような認証管理テーブル602が含まれる。この認証管理テーブル602では、通信管理システム50によって管理される通信端末10の通信IDと、通信IDに対応するパスワードとが関連付けられて管理されている。例えば、表1に示されている認証管理テーブル602において、通信IDが「01aa」の通信端末10のパスワードは、「aaaa」であることが示されている。
通信管理システム50の記憶部5000に記憶された端末管理DB5003には、例えば、表2に示されているような端末管理テーブル603が含まれる。この端末管理テーブル603では、通信端末10の通信ID毎に、各通信端末10を宛先とした場合の宛先名、各通信端末10の稼動状態、後述のログイン要求情報が通信管理システム50で受信された受信日時、及び通信端末10のIPアドレスが関連付けられて管理される。例えば、表2に示されている端末管理テーブル603において、通信IDが「01aa」の通信端末10は、端末名が「日本 本社」で、稼動状態が「ONライン(通信可能)」であることが示されている。また、通信IDが「01aa」の通信端末10は、通信管理システム50でログイン要求情報が受信された日時が「20xx年4月10日の13時40分」で、IPアドレスが「1.2.1.3」であることが示されている。
通信管理システム50の記憶部5000に記憶された宛先リスト管理DB5004には、例えば、表3に示されているような宛先リスト管理テーブル701が含まれる。この宛先リスト管理テーブル701では、テレビ会議における通信の開始を要求する要求元端末の通信IDに対して、宛先端末の候補として登録されている宛先端末の通信IDが全て関連付けられて管理される。例えば、表3に示されている宛先リスト管理テーブル701において、通信IDが「01aa」である要求元端末から通信の開始を要求することができる宛先端末の候補は、通信IDが「01b1」、「01b2」、及び「01b3」の通信端末である。この宛先端末の候補は、任意の要求元端末から通信管理システム50に対する追加又は削除の要請により、通信管理システム50によって追加又は削除されることで更新される。
このような構成によれば、要求元端末(例えば、01aa)は予め登録されている宛先端末の候補(例えば、01b1)としか通信を開始できない。この宛先端末(例えば、01b1)も要求元端末(例えば、01aa)を宛先端末として宛先リスト管理テーブル701に登録しておかなければ要求元端末と通信できない。このような仕組みは想定外の通信端末10同士が通信する可能性を低減できる点で好ましい。ただし、宛先リスト管理テーブル701への登録を不要にして任意に通信端末10同士が通信できてもよい。
通信管理システム50の記憶部5000に記憶されたセッション管理DB5005には、例えば、表4に示されているようなセッション管理テーブル702が含まれる。このセッション管理テーブル702には、セッションの識別情報であるセッションID毎に、中継に使用される中継装置30の中継装置ID、要求元端末の通信ID、宛先端末の通信ID、及びセッション参加日時等の情報が管理される。例えば、表4に示されているセッション管理テーブル702において、セッションID「se2」のセッションは、要求元端末の通信ID「01ad」と宛先端末の通信ID「01ca」との間で行われていることが示されている。また、セッションID「se2」のセッションは、中継装置ID「111b」の中継装置30を介して、「20xx/4/10 13:11:11」に開始されたことが示されている。
<処理の流れ>
次に、通信システム1の処理の流れについて説明する。
(準備段階の処理)
図15は、通信システム1の通信の準備段階の処理の例を示すシーケンス図である。ここでは、一例として、通信端末10Aと通信端末10B1によるセッションを開始する前の準備段階における処理について説明する。なお、以下の説明の中で、通信端末10Aの通信IDは「01aa」、通信端末10B1の通信IDは「01b」であるものとする。
まず、要求元端末である通信端末10Aの操作者が、例えば、通信端末10Aの電源をONにする操作を行うと、操作入力受付部12が電源ONにする操作を受け付けて、通信端末10Aの電源をONにする(ステップS21)。
そして、通信制御部13は、上記の電源ONを契機とし、送受信部11から通信ネットワーク2を介して通信管理システム50に、ログインを要求するログイン要求情報を送信する(ステップS22)。なお、ログイン要求情報が、通信端末10Aの電源をONにする操作によって送信されるのは一例であって、例えば、操作者による入力部108への操作や、アプリの起動等によって送信されるものであっても良い。
また、ログイン要求情報には、要求元としての自機である通信端末10Aを識別するための通信ID(要求元端末の通信ID)及びパスワードが含まれている。これら通信ID及びパスワードは、例えば、記憶・読出部17を介して記憶部18から読み出された情報である。また、通信端末10Aから通信管理システム50へログイン要求情報が送信される際に、受信側である通信管理システム50は、送信側である通信端末10AのIPアドレスを把握することができる。
次に、通信管理システム50の端末認証部52は、送受信部51を介して受信したログイン要求情報に含まれている通信ID及びパスワードを検索キーとして、前述した認証管理テーブル602を検索する。端末認証部52は、通信端末10Aから受信したログイン要求情報に含まれる通信ID及びパスワードの組み合せが、認証管理テーブル602に含まれるか否かによって認証を行う(ステップS23)。
端末認証部52により、正当な利用権限を有する通信端末10Aからのログイン要求であると判断された場合、端末管理部53は、端末管理テーブル603に記録されている通信端末10Aの通信ID「01aa」の稼動状態を、「ONライン(通信可能)」に変更する。このとき、端末管理部53は、受信日時を更新し、また、必要に応じて、通信端末10のIPアドレスを更新する(ステップS24)。これにより、端末管理テーブル603には、通信端末10Aの通信ID「01aa」に、稼動状態「ONライン(通信可能)」、受信日時「20xx.4.10.13:40」及び通信端末10AのIPアドレス「1.2.1.3」が関連付けて管理される。
そして、通信管理システム50の送受信部51は、上記の端末認証部52によって得られた認証結果が示された認証結果情報を、通信ネットワーク2を介して、上記ログイン要求してきた要求元端末である通信端末10Aに送信する(ステップS25)。ここでは、端末認証部52によって正当な利用権限を有する通信端末であると判断された場合について、以下で説明する。
通信管理システム50の端末抽出部54は、ログイン要求した要求元端末(通信端末10A)の通信ID「01aa」を検索キーとして、宛先リスト管理テーブル701を検索する。これにより、端末管理部53は、要求元端末(通信端末10A)と通信することができる宛先端末の候補の通信IDを抽出する(ステップS26)。ここでは、一例として、要求元端末(通信端末10A)の通信ID「01aa」に対応する宛先端末の通信IDとして、「01b1」、「01b2」、「01b3」が抽出されるものとする。
次に、端末抽出部54は、抽出された宛先端末の候補の通信ID(「01b1」、「01b2」、「01b3」)を検索キーとして、端末管理テーブル603を検索する。これにより、抽出された通信ID毎に稼動状態を読み出すことにより、通信ID(「01b1」、「01b2」、「01b3」)の各稼動状態を取得する(ステップS27)。
次に、送受信部51は、宛先端末の候補の通信ID(「01b1」、「01b2」、「01b3」)のそれぞれの稼動状態が含まれた宛先状態情報を、要求元端末(通信端末10A)に送信する(ステップS28)。これにより、要求元端末(通信端末10A)は、この要求元端末(通信端末10A)の宛先端末の候補となる通信ID(「01b1」、「01b2」、「01b3」)の現時点の稼動状態を把握することができる。通信端末10Aは図16に示される宛先選択画面を表示する。
更に、通信管理システム50の端末抽出部54は、ログイン要求してきた要求元端末(通信端末10A)の通信ID「01aa」を検索キーとして、宛先リスト管理テーブル701を検索する。これにより、端末抽出部54は、要求元端末(通信端末10A)の通信ID「01aa」を宛先端末の候補として登録している他の要求元端末の通信IDを抽出する(ステップS29)。表3に示されている宛先リスト管理テーブル701では、抽出される他の要求元端末の通信IDは、「01b1」、「01b2」及び「01b3」である。
次に、通信管理システム50の端末管理部53は、上記ログイン要求して来た要求元端末(通信端末10A)の通信ID「01aa」を検索キーとして、端末管理テーブル603を検索する。これにより、端末管理部53は、ログイン要求してきた要求元端末(通信端末10A)の稼動状態を取得する(ステップS30)。
そして、通信管理システム50の端末管理部53は、上記ステップS29で抽出された通信ID(「01b1」、「01b2」、「01b3」)のうち、端末管理テーブル603で稼動状態が「ONライン(通信可能)」となっている通信ID(「01b1」、「01b2」、「01b3」)を抽出する。
また、送受信部51は、抽出された通信ID(「01b1」、「01b2」、「01b3」)に対応する通信端末10B1に、要求元端末(通信端末10A)の通信ID「01aa」と稼動状態「ONライン(通信可能)」が含まれる宛先状態情報を送信する(ステップS31)。
一方、他の通信端末10B1でも、例えば、電源ONの操作等に応じて、上記ステップS22〜S32の処理と同様の処理を行う。通信端末10B1の電源ONは例えば移動装置20の管理者などによって行われる。
<宛先選択画面>
図16は、通信端末10Aに表示される宛先選択画面の一例を示す図である。図16に示す宛先選択画面1201には、操作者に宛先の通信端末10の選択を促すメッセージ1202と、宛先の通信端末10を選択する複数のボタン1203が表示されている。通信端末10Aの操作者は、例えば、表示された複数のボタン1203の中から1つのボタン1203を選択することにより、セッションへの参加を要求する宛先端末を選択する。つまり、どの移動装置20を制御するかを選択する。図16に示すように、操作者が複数の通信端末10Bを選択できることで、操作者は異なる拠点の状況を同じ場所から把握できる。
<通信処理>
図17は、通信システム1の通信処理の例を示すシーケンス図である。ここでは、通信端末10Aと、移動装置20を制御可能な機器制御端末である通信端末10B1との間で通信を開始する通信管理方法の例について説明する。
ステップS901において、通信端末10Aの操作入力受付部12は通信端末10Aの操作者による、宛先端末(通信端末10B1)の選択操作を受け付ける。
通信端末10Aの送受信部11は通信管理システム50にセッションの開始を要求する開始要求情報を送信する(ステップS902)。この開始要求情報には、例えば、要求元端末である通信端末10Aの通信IDである要求元端末の通信ID、宛先端末である通信端末10B1の通信IDである宛先端末の通信ID等が含まれる。また、開始要求情報には、通信端末10AのIPアドレス(要求元IPアドレス)等の情報も含まれる。
ステップS903において、通信端末10Aから開始要求情報を受信した通信管理システム50の端末管理部53は、開始要求情報に含まれる要求元端末(通信端末10A)の通信ID「01aa」に基づいて、端末管理DB5003を更新する。例えば、端末管理部53は、通信端末10Aの通信ID「01aa」に対応する稼動状態の情報を「ONライン(通信中)」に変更し、受信日時の情報も更新する。
ステップS904において、通信管理システム50のセッション管理部55は、宛先端末である通信端末10B1にセッションの開始を要求する開始要求情報を送信する。この開始要求情報には、例えば、要求元端末である通信端末10Aの要求元端末の通信IDが含まれる。
ステップS905において、通信管理システム50から開始要求情報を受信した通信端末10B1は、通信管理システム50に開始応答情報を送信する。この開始応答情報には、例えば、通信端末10B1の宛先端末の通信ID等が含まれる。本実施形態では、通信端末10B1側の操作は必要なく開始応答情報が送信されるものとするが、通信端末10B1を管理者が操作することを条件としてもよい。
ステップS906において、通信端末10B1から開始応答情報を受信した通信管理システム50の端末管理部53は、開始応答情報に含まれる通信端末10B1の通信ID「01b1」に基づいて、端末管理DB5003を更新する。例えば、端末管理部53は、通信端末10B1の通信ID「01b1」に対応する稼動状態の情報を「ONライン(通信中)」に変更し、受信日時の情報を更新する。
ステップS907において、通信管理システム50のセッション管理部55は、セッションを識別するための識別情報であるセッションIDを採番する。また、セッション管理部55は、作成されたセッションIDを、要求元端末の通信ID(通信端末10Aの通信ID)、及び宛先端末の通信ID(通信端末10B1の通信ID)と対応づけてセッション管理DB5005に記憶する。
ステップS909において、通信管理システム50のセッション管理部55は、中継装置30に、セッション情報を送信する。このセッション情報には、例えば、ステップS907で作成されたセッションID等の情報が含まれる。中継装置30はセッションIDに基づいてセッション管理DB5005からセッション情報を取得できる。
ステップS910aにおいて、通信管理システム50のセッション管理部55は、通信端末10Aにセッションの開始を指示する開始指示情報を送信する。同様に、ステップS910bにおいて、通信管理システム50のセッション管理部55は、通信端末10B1にセッションの開始を指示する開始指示情報を送信する。開始指示情報にはセッションIDが含まれ、通信端末10はセッションIDに基づいてセッション管理DB5005からセッション情報を取得できる。
ステップS911aにおいて、通信端末10Aは、受信した開始指示情報に基づいて、中継装置30との間でセッションを確立する。同様に、ステップ911bにおいて、通信端末10B1は、受信した開始指示情報に基づいて、中継装置30との間でセッションを確立する。これにより、同じセッションに通信端末10Aと10B1が参加できる。
ステップS911cにおいて、広角撮像装置9の広角画像送信部31は正距円筒射影映像を通信端末10B1に送信する。例えば、通信端末10B1がセッションを確立すると、通信端末10B1が正距円筒射影映像の撮像と送信の開始を広角撮像装置9に指示する。あるいは、広角撮像装置9の電源がONの間、常に、広角撮像装置9が正距円筒射影映像を通信端末10B1に送信してもよい。また、正距円筒射影映像はセッションの確立前から送信されてもよい。
通信端末10Aと通信端末10B1は、同じセッションIDのセッションに参加し、画像データや音声データ等のコンテンツデータを送受信することにより、例えば、テレビ会議を行うことができる(S912)。この画像データには正距円筒射影映像、正面映像、及び、背面映像が含まれている。
また、通信端末10Aは、確立されたセッションを用いて、通信端末10B1との間で機器(例えば移動装置20)の操作に関する情報を送受信することができる。
なお、機器の操作に関する情報の送受信は、セッションを用いずに、通信管理システム50を介した制御セッションを用いて送受信されるものであっても良いし、通信ネットワーク2等を介して、通信端末10Aと通信端末10B1との間で送受信されるものであっても良い。
ここでは、通信端末10Aは、確立されたセッションを用いて、通信端末10B1との間で機器(例えば移動装置20)の操作に関する情報を送受信するものとして以下の説明を行う。
ステップS913において、通信端末10Aの操作者が、機器の操作画面に入力を行うと、入力された操作に応じた操作指示情報が、セッションを用いて送信される。この操作指示情報には、例えば、通信端末10Aの通信ID、及び操作者の操作内容に応じた操作指示が含まれる。
ステップS914において、通信端末10B1の機器制御部19cは、通知された操作指示情報に含まれる操作指示に基づいて、機器間通信部19dを介して、移動装置20を制御する。
<パターン1>
続いてパターン1〜3の映像の配置例を説明する。
図18は、パターン1において通信端末10Aが表示部109に表示する映像表示画面610の一例を示す。映像表示画面610は映像表示欄611、正面映像ボタン612、背面映像ボタン613、及び、移動装置操作ボタン614を有している。図18(a)の映像表示欄611は全天球映像を表示している。通信端末10Aの表示制御部16は通信端末10Bから送信された正距円筒射影映像を立体球に貼り付けて全天球映像を生成している(図10参照)。
操作者は、全天球映像を指やマウス等で水平方向及び垂直方向に回転させることができる。また、指でピンチインすることで縮小でき、ピンチアウトすることで拡大できる。このようにして操作者は任意の所定領域画像Qを映像表示欄611に表示させることができる。
正面映像ボタン612は映像表示欄611に表示させる映像を正面映像に切り替えるためのボタンであり、背面映像ボタン613は映像表示欄611に表示させる映像を背面映像に切り替えるためのボタンである。移動装置操作ボタン614は4つのボタンを有しており、4つのボタンはそれぞれ移動装置20を前後左右に移動させるボタンに対応する。移動装置操作ボタン614が全天球映像と重なって表示されるので、移動装置操作ボタン614を独立して表示するよりも表示エリアを広くでき、見やすいという効果を奏することができる。
図18(b)は正面映像ボタン612が押下されることで映像表示欄611に正面映像が表示された映像表示画面610を示す。正面映像ボタン612が押下されたので映像表示欄611には正面映像が表示されている。また、正面映像ボタン612の代わりに全天球映像ボタン615が表示される。全天球映像ボタン615は映像表示欄611に表示させる映像を全天球映像に切り替えるためのボタンである。
移動装置操作ボタン614が正面映像又は背面映像と重なって表示されるので、移動装置操作ボタン614を独立して表示するよりも表示エリアを広くでき、見やすいという効果を奏することができる。
図18(c)は背面映像ボタン613が押下されることで映像表示欄611に背面映像が表示された映像表示画面610を示す。背面映像ボタン613の代わりに全天球映像ボタン615及び正面映像ボタン612が表示される。
このように、正面映像ボタン612、背面映像ボタン613、全天球映像ボタン615を押下することで、映像表示欄611に表示させる映像を交互に切り替えることができる。
図19はパターン1の映像の配置例において映像を切り替える手順を示すフローチャート図の一例である。図19の処理は通信端末10Aが全天球映像、正面映像、及び、背面映像の少なくとも1つを受信するとスタートする。
まず、表示制御部16は全天球映像を表示部109に表示する(S101)。この場合、全天球映像に重ねて移動装置操作ボタン614を表示する。全天球映像が表示された場合、操作入力受付部12は回転、拡大、縮小の操作を受け付け、表示制御部16は操作に応じた所定領域Tを映像表示欄611に表示する。
なお、全天球映像を最初に表示するのは一例であり、正面映像又は背面映像を最初に表示してもよい。受信した順に表示してもよい。
表示制御部16は正面映像ボタン612、背面映像ボタン613を表示部109に表示する(S102)。
操作入力受付部12は正面映像ボタン612が押下されたか否かを判断する(S103)。正面映像ボタン612が押下されない場合、処理はステップS106に進む。
正面映像ボタン612が押下された場合、表示制御部16は正面映像を表示する(S104)。表示制御部16は背面映像ボタン613、全天球映像ボタン615を表示部109に表示する(S105)。
操作入力受付部12は背面映像ボタン613が押下されたか否かを判断する(S106)。背面映像ボタン613が押下されない場合、処理はステップS109に進む。
背面映像ボタン613が押下された場合、表示制御部16は背面映像を表示する(S107)。表示制御部16は正面映像ボタン612、全天球映像ボタン615を表示部109に表示する(S108)。
操作入力受付部12は全天球映像ボタン615が押下されたか否かを判断する(S109)。全天球映像ボタン615が押下された場合、処理はステップS101に進む。全天球映像ボタン615が押下されない場合、処理はステップS103に進む。
以上のように、通信端末10Aは、正面映像ボタン612、背面映像ボタン613、又は全天球映像ボタン615の押下を受け付けて、パターン1の映像を表示できる。
このように、パターン1の映像の配置例では、1つの表示部109に全天球映像と正面映像(背面映像)を切り替えて表示できるため、全天球映像と正面映像(背面映像)の大きさを維持でき、操作者が見づらくなることを抑制できる。全天球映像が表示された状態では、操作者は全天球映像を回転させることで360度の周囲を確認できる。また、正面映像は解像度が高いので、正面映像が表示された状態では、看板などの文字を読むような場合、又は、物体の構造を確認する場合、などで有効である。
<パターン2>
図20は、パターン2において通信端末10Aが表示部109に表示する映像表示画面610の一例を示す。図20(a)の映像表示画面610は全体表示欄621、正面映像欄622、及び、移動装置操作ボタン614を有している。全体表示欄621には正距円筒射影映像が表示される。図20(a)の正距円筒射影映像は一例としてモデルルームのある居室が撮像されたものであり、4つの壁といくつかの什器が写っている。このように正距円筒射影映像では360度の被写体が平面上に表される。
正面映像欄622には正面映像が表示される。図20(a)では棚622aが写っているが、正距円筒射影映像では歪みが大きいのに対し、正面映像では画角が狭いものの歪みがほとんどない。また、正面映像は正距円筒射影映像よりも大きく表示されるが、正面映像は正距円筒射影映像よりも解像度が高いので、操作者は正面映像から詳細な情報を得やすくなる。例えば、操作者が看板などの文字を読むような場合、又は、製品の構造を確認する場合、などで有効である。また、正距円筒射影映像は歪んでおり、かつ、正面映像よりも小さく表示されるが、映像表示画面610に常に表示されているため、操作者は移動装置20の周囲の状況を把握できる。
移動装置操作ボタン614が正面映像と重なって表示されるので、移動装置操作ボタン614を独立して表示するよりも表示エリアを広くでき、見やすいという効果を奏することができる。
正面映像欄622は背面映像ボタン613を有しており、ユーザは正面映像を背面映像に切り替えることができる。
図20(b)は背面映像ボタンが押下された映像表示画面610の一例を示す。図20(b)の映像表示画面610は正面映像欄622の代わりに背面映像欄623を有し、背面映像を表示している。背面映像欄623は正面映像ボタン612を有し、ユーザは背面映像を正面映像に切り替えることができる。
また、ユーザは図20(a)(b)のいずれにおいても、正面映像又は背面映像を上側、正距円筒射影映像を下側に配置することができる。例えば、ユーザが全体表示欄621を下方向にスワイプ(フリックでもよい)するか、又は、正面映像欄622若しくは背面映像欄623を上方向にスワイプすることで、通信端末10Aは図20(c)(d)のような映像表示画面610を表示できる。
図20(c)では、正面映像が上側、正距円筒射影映像が下側に表示され、図20(d)では、背面映像が上側、正距円筒射影映像が下側に表示されている。このように、ユーザは自分が見たい配置で正面映像、背面映像、及び、正距円筒射影映像を表示させることができる。
図21はパターン2の映像の配置例において映像を表示する手順を示すフローチャート図の一例である。図21の処理は通信端末10Aが全天球映像、正面映像、及び、背面映像の少なくとも1つを受信するとスタートする。
表示制御部16は全体表示欄621に正距円筒射影映像を表示する(S201)。
表示制御部16は正面映像欄622に正面映像を表示する(S202)。この場合、全天球映像に重ねて移動装置操作ボタン614を表示する。なお、背面映像を先に表示してもよいし、受信した順に表示してもよい。
次に、操作入力受付部12は背面映像ボタン613が押下されたか否かを判断する(S203)。背面映像ボタン613が押下された場合、表示制御部16は背面映像欄623に背面映像を表示する(S204)。
次に、操作入力受付部12はスワイプなど上下入れ替え操作が入力されたか否かを判断する(S205)。上下入れ替え操作が入力された場合、表示制御部16は正面映像欄622と全体表示欄621、又は、背面映像欄623と全体表示欄621の上下を入れ替える(S206)。
こうすることで、映像表示画面610に、正距円筒射影映像と正面映像、又は、正距円筒射影映像と背面映像を同時に表示できる。
次に、図22を用いてパターン2の別の表示例を説明する。図22は、パターン2において通信端末10Aが表示部109に表示する映像表示画面610の一例を示す。図22(a)の映像表示画面610は、全天球表示欄631、正面映像欄622、及び、移動装置操作ボタン614を有している。全天球表示欄631には全天球映像が表示される。通信端末10Aの表示制御部16は通信端末10Bから送信された正距円筒射影映像を立体球に貼り付けて全天球映像を生成している(図10参照)。図22(b)〜(d)は図20(b)〜(d)と同様に、正面映像と背面映像が切り替わるか、又は、全天球映像と正面映像若しくは全天球映像と背面映像が切り替わった状態を示す。
図22(a)では、全天球表示欄631にコピー機631aが写っているがこれは説明の便宜上であり、操作者は全天球映像のうち任意の所定領域画像Qを全天球表示欄631に表示させることができる。正面映像欄622は図20(a)と同様である。なお、移動装置操作ボタン614は全天球表示欄631に表示されてもよい。
図22(a)において全天球表示欄631と正面映像欄622はほぼ同じ大きさである。操作者は全天球表示欄631で見たい任意の方向を大きく表示させることができる。正面映像欄622は図20(a)よりも小さくなるが、正面映像は解像度が高いので、操作者は正面映像から詳細な情報を得られる。従って、全天球表示欄631と正面映像欄622が同じ大きさであることで、全天球映像と正面映像のそれぞれのメリットを得られやすくなる。
図23は図22のパターン2の別の表示例において、映像を表示する手順を示すフローチャート図の一例である。図23は図21の正距円筒射影映像が全天球映像に変更されているが全体的な処理の流れは図21と同様でよい。映像表示画面610に、全天球映像と正面映像、又は、全天球映像と背面映像を同時に表示できる。
パターン1,2では通信端末10Aが縦長の画面の例を示したが、通信端末10Aの画面は横長でもよい。この場合、映像のアスペクト比を維持することが好ましいが、アスペクト比を変更して縦方向又は横方向に拡大縮小してもよい。
<パターン3>
図24は、パターン3において通信端末10Aが表示部109に表示する映像表示画面610の一例を示す。図24の映像表示画面610は全天球表示欄631、サブ正面映像欄642、サブ背面映像欄643、及び、移動装置操作ボタン614を有している。全天球表示欄631には全天球映像が表示される。サブ正面映像欄642には正面映像が表示され、サブ背面映像欄643には背面映像が表示される。サブ正面映像欄642とサブ背面映像欄643には移動装置20から見て方向が180度、異なる被写体が写る。
図24の映像表示画面610では、全天球表示欄631がサブ正面映像欄642とサブ背面映像欄643よりも大きい。従って、全天球映像がメインで正面映像と背面映像がサブという位置づけになる。操作者は全天球表示欄631では見たい任意の方向を大きく表示させることができる。また、常に、正面映像と背面映像が表示されるので、移動装置の進行方向を常に把握し、また、背面の状況も常に把握できる。
移動装置操作ボタン614が全天球映像と重なって表示されるので、移動装置操作ボタン614を独立して表示するよりも表示エリアを広くでき、見やすいという効果を奏することができる。
なお、全天球表示欄631がサブ正面映像欄642とサブ背面映像欄643よりも大きいとしたのは一例に過ぎず、正面映像を全天球映像及び背面映像よりも大きく表示してもよいし、背面映像を全天球映像及び正面映像よりも大きく表示してもよい。また、3つの表示欄(全天球表示欄631がサブ正面映像欄642とサブ背面映像欄643)に何を表示するかを操作者が任意に設定できるとなおよい。
図25は、パターン3の映像の配置例において映像を表示する手順を示すフローチャート図の一例である。図25の処理は通信端末10Aが全天球映像、正面映像、及び、背面映像の少なくとも1つを受信するとスタートする。
表示制御部16は全天球表示欄631に全天球映像を表示する(S301)。この場合、全天球映像に重ねて移動装置操作ボタン614を表示する。
表示制御部16はサブ正面映像欄642に正面映像を表示する(S302)。表示制御部16はサブ背面映像欄643に背面映像を表示する(S303)。
こうすることで、映像表示画面610に、全天球映像、正面映像、及び、背面映像を同時に表示できる。
次に、図26を用いてパターン3の別の表示例を説明する。図26は、パターン3において通信端末10Aが表示部109に表示する映像表示画面610の一例を示す。図26の映像表示画面610はメイン表示欄651、1つ以上の各種映像欄652(各種映像欄652a〜652c)、及び、移動装置操作ボタン614を有している。メイン表示欄651には全天球映像が表示される。通信端末10Aの表示制御部16は通信端末10Bから送信された正距円筒射影映像を立体球に貼り付けて全天球映像を生成している(図10参照)。
1つ以上の各種映像欄652には、正面映像及び背面映像を表示できるのはもちろん、任意の所定領域画像Qの全天球映像を表示できる。
メイン表示欄651は表示部109のほぼ全面を占め、その上に1つ以上の各種映像欄652が移動可能に重ねて表示されている。図26では3つの各種映像欄652a〜652cが表示されている。各種映像欄652はウィンドウであり、操作者は位置の変更、大きさの変更、削除(非表示にする。ウィンドウを閉じる。)、最小化、及び、新たな生成、が可能である。
表示制御部16は、パターン3で映像を表示する際、正面映像と背面映像を各種映像欄652に表示する。また、全天球映像の任意の1つ以上の所定領域画像Qを複製して各種映像欄652に表示する。操作者は所定領域画像Qを変更できるため、初期状態で各種映像欄652に表示される所定領域画像Qはどこでもよい。しかし、正面映像と背面映像が各種映像欄652に表示されているので、これ以外の所定領域画像Qを複製することが好ましい。例えば、移動装置20の正面に対し水平方向の右側及び左側などである。
初期状態の各種映像欄652の位置は、例えばメイン表示欄651の四隅などでよい。操作者は任意の位置に各種映像欄652を移動できる。
メイン表示欄651と各種映像欄652の大きさからメイン表示欄651がメインで各種映像欄652に表示される映像はサブという位置づけになる。操作者は全天球映像を大画面で見ることができ、見たい任意の方向を大きく表示させることができる。また、各種映像欄652では正面映像と背面映像が表示されるので、移動装置20の進行方向と背面方向の状況を把握できる。また、各種映像欄652に全天球映像を表示させると(各種映像欄652に表示された全天球映像は複製映像の一例)、移動装置20の周囲の任意の方向の状況を把握することができる。操作者が新たに各種映像欄652を生成する操作を行うと、操作入力受付部12がこれを受け付け、表示制御部16が各種映像欄652に新たに全天球映像を表示する。
各種映像欄652は移動できるので邪魔にならない場所に操作者が移動できる。削除したり最小化したりしてもよい。操作入力受付部12はこのような操作を受け付け、表示制御部16が各種映像欄652を非表示にしたり、又は、最小化したりする。
このような表示方法は、従来であれば各種映像欄652の数だけ撮像装置が必要であったが、本実施形態では全天球映像から任意の所定領域画像Qを複製して表示できるため、低コストに多くの方向の映像を常に表示することができる。
移動装置操作ボタン614が全天球映像と重なって表示されるので、移動装置操作ボタン614を独立して表示するよりも表示エリアを広くでき、見やすいという効果を奏することができる。
図27は、図26のパターン3の映像の配置例において映像を表示する手順を示すフローチャート図の一例である。図27の処理は通信端末10Aが全天球映像、正面映像、及び、背面映像の少なくとも1つを受信するとスタートする。
表示制御部16はメイン表示欄651に全天球映像を表示する(S401)。この場合、全天球映像に重ねて移動装置操作ボタン614を表示する。
表示制御部16は全天球映像に重ねて正面映像を表示する(S402)。表示制御部16は全天球映像に重ねて背面映像を表示する(S403)。正面映像と背面映像が映った各種映像欄652の初期位置は予め決まっているか、又は、ユーザが前回、図26の映像表示画面610を表示させた際に設定した位置である。
操作入力受付部12は新たな各種映像欄652が追加されたか否かを判断する(S404)。操作方法はどのようなものでもよいが、例えば長押し、ダブルタップなどしてメニューを表示させ、「各種映像欄の追加」を押下する方法がある。なお、メニューには正面映像と背面映像の選択ボタンが表示されてもよいが、正面映像又は背面映像がすでに表示されている場合には正面映像と背面映像の選択ボタンは表示されないことが好ましい。これにより、1つ以下の正面映像と背面映像を、全天球映像と同時に表示できる。
各種映像欄652が追加された場合、表示制御部16は長押し又はダブルタップされた場所の所定領域Tの全天球映像を新しい各種映像欄652に設定し、全天球映像に重ねて表示する(S405)。
以上、パターン1〜3について説明したが、操作者はボタンを押下するなど所定の操作でパターン1〜3を任意に切り変えることができる。
<パターンの切り替えについて>
パターン1〜3は任意に切り替え可能であるが、これとは別に何らかのイベントを契機にパターンが自動的に切り替わると操作者のユーザビリティが向上する。
図28を用いてパターンの切り替えの契機について説明する。図28はパターンが自動で切り替えられる契機について説明する図の一例である。
図28(a)について説明する。図28(a)は通信端末10Aがセッションを確立した時に開始される。
セッションの確立により通信端末10Aの表示制御部16は全天球映像、正面映像及び背面映像を表示可能となる。まず、表示制御部16はパターン1で映像表示欄611に全天球映像を表示する(S1001)。つまり、表示部109の全面に全天球映像を表示する。
次に、表示制御部16は全天球映像を水平方向に一定速度で回転させる(S1002)。これは、画角αを一定のまま、仰角eaを水平方向の一定に保ち、方位角aaを一定速度で変化させることにより実現される。従って、操作者には所定領域画像Qが回転するように見える。
表示制御部16は水平方向に360度回転したか否かを判断する(S1003)。回転を開始する前の中心点CPの方向(ea,aa)を記憶しておけば容易に判断できる。水平方向に360度回転するまでは回転を継続する。
水平方向に360度回転した場合(S1003のYes)、表示制御部16はパターン2又はパターン3に切り替える(S1004)。
セッションが確立した直後、操作者は周囲の状況が分からないが、セッションが確立した直後は所定領域画像Qが360度回転してから、パターン2,3で表示されるので、状況を把握してから正面映像で正面の状況を確認して移動を開始できる。なお、パターン1のまま正面映像を大きく表示してもよい。
図28(b)について説明する。図28(b)は通信端末10Aがセッションを確立した時に開始される。
セッションの確立により通信端末10Aの表示制御部16は全天球映像、正面映像及び背面映像を表示可能となる。まず、表示制御部はパターン2で正距円筒射影映像と正面映像を表示する(S2001)。つまり、表示部109の上方に小さく正距円筒射影映像を表示し、下方に正面映像を表示する。
表示制御部16はパターン2で表示してから所定時間が経過したか否かを判断する(S2002)。所定時間が経過するまではパターン2による表示を継続する。
所定時間が経過した場合(S2002のYes)、表示制御部16はパターン1又はパターン3に切り替える(S2003)。
セッションが確立した直後、操作者は周囲の状況が分からないが、セッションが確立してから所定時間、パターン2の正距円筒射影映像が表示されるので、状況を把握してからパターン1,3が表示されるので、状況を把握してから正面映像で正面の状況を確認して移動を開始できる。なお、パターン2の表示を継続してもよい。
<まとめ>
以上説明したように、本実施形態の通信端末10Aは、全天球映像と正面映像(背面映像)を適切に配置して表示するため、操作者は移動装置20の周囲の全体的な状況を確認することも、正面又は背後の高解像度な映像を確認することもできる。パターン1〜3の配置で全天球映像と正面映像(背面映像)を表示することで、操作者は全天球映像と正面映像(背面映像)を活用して移動装置20を移動したり、周囲を確認したりできる。また、パターン1〜3を任意に又は自動的に切り替えることもできる。
<その他の適用例>
以上、本発明を実施するための最良の形態について実施例を用いて説明したが、本発明はこうした実施例に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
例えば、本実施形態では広角撮像装置9が通信端末10Bに正距円筒射影映像を送信し、通信端末10Bが正距円筒射影映像を通信端末10Aに送信したが、広角撮像装置9が直接、通信端末10Aとセッションを接続し、正距円筒射影映像を送信してもよい。この場合、広角撮像装置9は通信端末10の一形態となり、映像を送信するが受信はしない通信端末10となる。
また、本実施形態では背面映像が送信されると説明したが、通信端末10Bは背面映像を送信しなくてもよい。また、通信端末10Bが正面映像と背面映像とは別に通常の画角の映像を送信してもよい。
また、パターン1〜3はそれぞれが独立しているのではなく、1つの通信端末10がパターン1から2,2から3、3から1のように(又はこれらの逆)、遷移させることができる。
また、本実施形態では、陸上を走行する移動装置20を例に説明したが、移動装置20はドローンなどのように空中を飛行してもよい。また、海上を航行してもよいし、水中を移動してもよい。また、地下、狭路、地中を移動してもよい。また、陸上を移動する場合、車輪で移動してもよいし、2足、3足、4足などの多脚移動を行ってもよいし、キャタピラー(登録商標)で移動してもよい。
また、テレプレゼンスロボットに限らず、人間が移動させる装置に搭載された広角撮像装置9と平面撮像装置の映像に本実施形態の表示方法を適用してもよい。
また、本実施形態では主に、1人の操作者が1つの移動装置20を操作する例を説明したが、1人の操作者が複数の移動装置20を操作することも可能である。この場合、通信端末10Aは複数の通信端末10Bとセッションを確立する。逆に、複数の操作者が1つの移動装置20を操作することも可能である。この場合、例えば最後に通信端末10Bに送信された操作指示情報が有効となってもよいし、操作権という概念を導入し操作権がある通信端末10Aのみが操作指示の送信を可能としてもよい。操作権は操作者などの操作により移転できる。
また、本実施形態では操作指示情報が通信セッションで送信されると説明したが、コンテンツデータのセッションで送信されてもよい。
また、本実施例では、中継装置30を介して通信端末10が通信しているが、通信端末10は中継装置を介さずに通信してもよい。このような通信の通信プロトコルとして例えばWebRTC(Web Real−Time Communication)が知られている。
また、図14などの構成例は、通信管理システム50及び通信端末10による処理の理解を容易にするために、主な機能に応じて分割したものである。処理単位の分割の仕方や名称によって本願発明が制限されることはない。通信管理システム50及び通信端末10の処理は、処理内容に応じて更に多くの処理単位に分割することもできる。また、1つの処理単位が更に多くの処理を含むように分割することもできる。
また、本実施例では説明の都合上、通信管理システム50と中継装置30を別々の装置として説明したが、両者の機能が統合された装置が通信管理システム50と中継装置30の機能を提供してもよい。
また、通信システム1が複数の通信管理システム50を有していてもよく、通信管理システム50の機能が複数のサーバに分散して設置されていてもよい。
また、通信管理システム50が記憶部5000に有する各データベースの1つ以上は通信ネットワーク2上に存在していてもよい。
なお、送受信部11は通信手段の一例であり、表示制御部16は表示処理手段の一例であり、操作入力受付部12は受付手段の一例である。
1 通信システム
9 広角撮像装置
10 通信端末
20 移動装置
30 中継装置
50 通信管理システム
特開2013−112030号公報

Claims (15)

  1. 移動装置に搭載された他の通信端末又は移動装置が有する通信部とネットワークを介して通信し、前記移動装置に対する操作指示情報を前記他の通信端末又は前記通信部に送信する通信端末であって、
    前記他の通信端末又は前記通信部が送信した第1の映像、及び、前記他の通信端末又は前記移動装置に接続若しくは一体の広角撮像装置が撮像した広角な第2の映像を受信する通信手段と、
    前記通信手段が受信した前記第1の映像及び前記第2の映像をいずれも表示できるよう制御すると共に、前記移動装置を制御するコントローラを前記第1の映像又は前記第2の映像に重ねて表示装置に表示する表示処理手段と、
    を有することを特徴とする通信端末。
  2. 前記表示処理手段は、前記第1の映像の表示エリアを前記第2の映像の表示エリアよりも大きく表示装置に表示することを特徴とする請求項1に記載の通信端末。
  3. 前記表示処理手段は、前記第2の映像の表示エリアを前記第1の映像の表示エリアよりも大きく表示装置に表示することを特徴とする請求項1に記載の通信端末。
  4. 前記表示処理手段は、前記第2の映像の表示エリアと前記第1の映像の表示エリアを同じ大きさで表示装置に表示することを特徴とする請求項1に記載の通信端末。
  5. 前記第2の映像は前記他の通信端末又は前記移動装置の周囲360度が撮像された正距円筒射影映像であることを特徴とする請求項2に記載の通信端末。
  6. 前記通信手段は、前記他の通信端末又は前記通信部が送信した撮像方向が異なる2つの前記第1の映像を受信し、
    前記表示処理手段は、2つの前記第1の映像と前記第2の映像を前記表示装置に表示することを特徴とする請求項3に記載の通信端末。
  7. 前記表示処理手段は、前記第2の映像に重ねて前記第1の映像を表示することを特徴とする請求項3に記載の通信端末。
  8. 前記表示処理手段は、前記第2の映像の一部の画角の複製を生成し、生成した複製映像を前記第2の映像に重ねて表示することを特徴とする請求項7に記載の通信端末。
  9. 前記第1の映像又は前記複製映像の前記第2の映像における位置の変更を受け付ける受付手段を有し、
    前記表示処理手段は、前記受付手段が受け付けた位置に前記第1の映像又は前記複製映像を表示することを特徴とする請求項8に記載の通信端末。
  10. 前記受付手段は、前記複製映像の削除、最小化、又は、新たな前記複製映像の生成を受け付け、
    前記表示処理手段は、前記受付手段が削除を受け付けた場合は前記複製映像を非表示にし、前記受付手段が最小化を受け付けた場合は前記複製映像を最小化し、前記受付手段が新たな前記複製映像の生成を受け付けた場合は前記複製映像を新たに表示することを特徴とする請求項9に記載の通信端末。
  11. 前記表示処理手段は、ユーザの操作に応じて前記第1の映像又は前記第2の映像のどちらか一方のみを表示装置に表示することを特徴とする請求項1に記載の通信端末。
  12. 前記通信端末が前記他の通信端末又は前記通信部との通信を開始した場合、
    前記表示処理手段は、前記第2の映像を水平方向に回転させながら表示し、一定の角度を回転すると、前記第1の映像を表示することを特徴とする請求項5に記載の通信端末。
  13. 移動装置に搭載された他の通信端末又は移動装置が有する通信部とネットワークを介して通信し、前記移動装置に対する操作指示情報を前記他の通信端末又は前記通信部に送信する通信端末を、
    前記他の通信端末又は前記通信部が送信した第1の映像、及び、前記他の通信端末又は前記移動装置に接続された広角撮像装置が撮像した広角な第2の映像を受信する通信手段と、
    前記通信手段が受信した前記第1の映像及び前記第2の映像をいずれも表示できるよう制御すると共に、前記移動装置を制御するコントローラを前記第1の映像又は前記第2の映像に重ねて表示装置に表示する表示処理手段、
    として機能させるためのプログラム。
  14. 移動装置に搭載された他の通信端末又は移動装置が有する通信部とネットワークを介して通信し、前記移動装置に対する操作指示情報を前記他の通信端末又は前記通信部に送信する通信端末が行う表示方法であって、
    通信手段が、前記他の通信端末又は前記通信部が送信した第1の映像、及び、前記他の通信端末又は前記移動装置に接続若しくは一体の広角撮像装置が撮像した広角な第2の映像を受信するステップと、
    表示処理手段が、前記通信手段が受信した前記第1の映像及び前記第2の映像をいずれも表示できるよう制御すると共に、前記移動装置を制御するコントローラを前記第1の映像又は前記第2の映像に重ねて表示装置に表示するステップと、
    を有することを特徴とする表示方法。
  15. 移動装置に搭載された他の通信端末又は移動装置が有する通信部とネットワークを介して通信し、前記移動装置に対する操作指示情報を前記他の通信端末又は前記通信部に送信する通信端末を、
    前記他の通信端末又は前記通信部が送信した第1の映像、及び、前記他の通信端末又は前記移動装置に接続若しくは一体の広角撮像装置が撮像した広角な第2の映像を受信する通信手段と、
    前記通信手段が受信した前記第1の映像及び前記第2の映像をいずれも表示できるよう制御すると共に、前記移動装置を制御するコントローラを前記第1の映像又は前記第2の映像に重ねて表示装置に表示する表示処理手段、
    として機能させるためのプログラムを記憶するコンピュータが読み取り可能な記録媒体。
JP2019014869A 2018-07-24 2019-01-30 通信端末、プログラム、表示方法、記録媒体、システム Active JP7346830B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
US16/514,238 US11212439B2 (en) 2018-07-24 2019-07-17 Communication terminal, display method, and non-transitory computer-readable medium for displaying images and controller
US17/455,712 US20220078344A1 (en) 2018-07-24 2021-11-19 Communication terminal, display method, and non-transitory computer-readable medium
JP2023144941A JP2023164525A (ja) 2018-07-24 2023-09-07 通信端末、プログラム、表示方法、記録媒体

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018138860 2018-07-24
JP2018138860 2018-07-24

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023144941A Division JP2023164525A (ja) 2018-07-24 2023-09-07 通信端末、プログラム、表示方法、記録媒体

Publications (2)

Publication Number Publication Date
JP2020022152A true JP2020022152A (ja) 2020-02-06
JP7346830B2 JP7346830B2 (ja) 2023-09-20

Family

ID=69589069

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019014869A Active JP7346830B2 (ja) 2018-07-24 2019-01-30 通信端末、プログラム、表示方法、記録媒体、システム

Country Status (1)

Country Link
JP (1) JP7346830B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021241221A1 (ja) * 2020-05-26 2021-12-02 ソニーグループ株式会社 情報処理装置及び情報処理方法
US11228737B2 (en) 2019-07-31 2022-01-18 Ricoh Company, Ltd. Output control apparatus, display terminal, remote control system, control method, and non-transitory computer-readable medium
JP2022078760A (ja) * 2020-11-13 2022-05-25 本田技研工業株式会社 遠隔操作システム、移動ロボット、及び操作端末
JP2022078761A (ja) * 2020-11-13 2022-05-25 本田技研工業株式会社 遠隔表示システム、ロボット、及び表示端末

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005175970A (ja) * 2003-12-11 2005-06-30 Canon Inc 撮像システム
JP2008170930A (ja) * 2006-12-12 2008-07-24 Asia Air Survey Co Ltd 地図情報関連付き画像データ表示システムおよび地図情報関連付き画像データ表示のプログラム
JP2009015730A (ja) * 2007-07-06 2009-01-22 Location View:Kk 立体メジャー表示機能付き画像表示システム及び立体メジャー表示機能付き画像表示のプログラム
JP2010231359A (ja) * 2009-03-26 2010-10-14 Advanced Telecommunication Research Institute International 遠隔操作装置
JP2013097094A (ja) * 2011-10-31 2013-05-20 Sony Corp 情報処理装置、情報処理方法、及びプログラム
US8903568B1 (en) * 2013-07-31 2014-12-02 SZ DJI Technology Co., Ltd Remote control method and terminal
CN104605794A (zh) * 2014-09-23 2015-05-13 东莞市万锦电子科技有限公司 地面清洁机器人***
JP2016123127A (ja) * 2016-03-03 2016-07-07 パナソニックIpマネジメント株式会社 表示装置及びコンピュータプログラム
US20170108857A1 (en) * 2015-10-19 2017-04-20 Parrot Drones Drone piloting device adapted to hold piloting commands and associated control method
JP2017123627A (ja) * 2016-01-06 2017-07-13 シャープ株式会社 画像処理装置、画像処理システム、移動体、画像処理方法、および画像処理プログラム

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005175970A (ja) * 2003-12-11 2005-06-30 Canon Inc 撮像システム
JP2008170930A (ja) * 2006-12-12 2008-07-24 Asia Air Survey Co Ltd 地図情報関連付き画像データ表示システムおよび地図情報関連付き画像データ表示のプログラム
JP2009015730A (ja) * 2007-07-06 2009-01-22 Location View:Kk 立体メジャー表示機能付き画像表示システム及び立体メジャー表示機能付き画像表示のプログラム
JP2010231359A (ja) * 2009-03-26 2010-10-14 Advanced Telecommunication Research Institute International 遠隔操作装置
JP2013097094A (ja) * 2011-10-31 2013-05-20 Sony Corp 情報処理装置、情報処理方法、及びプログラム
US8903568B1 (en) * 2013-07-31 2014-12-02 SZ DJI Technology Co., Ltd Remote control method and terminal
CN104605794A (zh) * 2014-09-23 2015-05-13 东莞市万锦电子科技有限公司 地面清洁机器人***
US20170108857A1 (en) * 2015-10-19 2017-04-20 Parrot Drones Drone piloting device adapted to hold piloting commands and associated control method
JP2017123627A (ja) * 2016-01-06 2017-07-13 シャープ株式会社 画像処理装置、画像処理システム、移動体、画像処理方法、および画像処理プログラム
JP2016123127A (ja) * 2016-03-03 2016-07-07 パナソニックIpマネジメント株式会社 表示装置及びコンピュータプログラム

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11228737B2 (en) 2019-07-31 2022-01-18 Ricoh Company, Ltd. Output control apparatus, display terminal, remote control system, control method, and non-transitory computer-readable medium
US11991477B2 (en) 2019-07-31 2024-05-21 Ricoh Company, Ltd. Output control apparatus, display terminal, remote control system, control method, and non-transitory computer-readable medium
WO2021241221A1 (ja) * 2020-05-26 2021-12-02 ソニーグループ株式会社 情報処理装置及び情報処理方法
JP2022078760A (ja) * 2020-11-13 2022-05-25 本田技研工業株式会社 遠隔操作システム、移動ロボット、及び操作端末
JP2022078761A (ja) * 2020-11-13 2022-05-25 本田技研工業株式会社 遠隔表示システム、ロボット、及び表示端末
JP7402145B2 (ja) 2020-11-13 2023-12-20 本田技研工業株式会社 遠隔操作システム、移動ロボット、及び操作端末
JP7402784B2 (ja) 2020-11-13 2023-12-21 本田技研工業株式会社 遠隔表示システム、ロボット、及び表示端末

Also Published As

Publication number Publication date
JP7346830B2 (ja) 2023-09-20

Similar Documents

Publication Publication Date Title
US10778865B2 (en) Image processing apparatus, image processing system, and image processing method
US11558431B2 (en) Communication terminal, communication system, communication method, and display method
US10979751B2 (en) Communication management apparatus, method and computer-readable storage medium for generating image data identification information communication
US10721116B2 (en) Communication terminal, method for controlling display of image, and non-transitory computer-readable storage medium
US10764513B2 (en) Communication terminal, image data communication system, and communication method
US10944798B2 (en) Communication terminal, image communication system, and display control method
US10944619B2 (en) Communication terminal, image communication system, and display control method
JP7346830B2 (ja) 通信端末、プログラム、表示方法、記録媒体、システム
US10666898B2 (en) Communication management system, communication system, and communication method
JP2023164525A (ja) 通信端末、プログラム、表示方法、記録媒体
US11228737B2 (en) Output control apparatus, display terminal, remote control system, control method, and non-transitory computer-readable medium
US20220070412A1 (en) Communication terminal, image communication system, method of displaying image, and recording medium
JP7115097B2 (ja) 通信端末、プログラム、表示方法、記録媒体
JP7338755B2 (ja) 通信端末、通信システム、通信方法及びプログラム
JP2018061243A (ja) 通信端末、表示方法、及びプログラム
JP2023140161A (ja) 通信端末、通信管理システム、通信システム、処理方法、通信管理方法、通信方法、及びプログラム
JP2023140159A (ja) 通信端末、通信管理システム、通信システム、処理方法、通信管理方法、通信方法、及びプログラム
JP2023140160A (ja) 通信端末、通信管理システム、遠隔操作移動装置、通信システム、遠隔操作方法、通信管理方法、制御方法、通信方法、及びプログラム
US20230308705A1 (en) Communication terminal, communication management system, remote operation method, processing method, and communication management method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220824

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230428

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230821

R151 Written notification of patent or utility model registration

Ref document number: 7346830

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151