JP7029118B2 - 画像表示方法、画像表示システム、及び画像表示プログラム - Google Patents

画像表示方法、画像表示システム、及び画像表示プログラム Download PDF

Info

Publication number
JP7029118B2
JP7029118B2 JP2020102701A JP2020102701A JP7029118B2 JP 7029118 B2 JP7029118 B2 JP 7029118B2 JP 2020102701 A JP2020102701 A JP 2020102701A JP 2020102701 A JP2020102701 A JP 2020102701A JP 7029118 B2 JP7029118 B2 JP 7029118B2
Authority
JP
Japan
Prior art keywords
image
image display
display device
model
trigger signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020102701A
Other languages
English (en)
Other versions
JP2021196851A (ja
Inventor
▲張▼顕赫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
3D Nest Inc
Original Assignee
3D Nest Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 3D Nest Inc filed Critical 3D Nest Inc
Priority to JP2020102701A priority Critical patent/JP7029118B2/ja
Publication of JP2021196851A publication Critical patent/JP2021196851A/ja
Application granted granted Critical
Publication of JP7029118B2 publication Critical patent/JP7029118B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Transfer Between Computers (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Digital Computer Display Output (AREA)

Description

本発明は、建物などの対象物の画像を表示する技術に関し、特に画像表示方法、画像表示システム、及び画像表示プログラムに関する。
一般的に、不動産物件を選ぶ場合、間取り図を見ながら物件を選び、選んだ物件を内覧することなどにより、所望の物件を選んでいる。また、購入者や賃貸者などの対象者の好感度を高めるために、モデルルームの展示などが行われている。
近年、インターネットなどの通信ネットワークを介して所望する物件の画像や間取り図などをコンピュータに表示させ、物件を案内する技術が望まれている。いわゆる不動産の紹介サービスに使われる遠隔案内技術といわれている。
遠隔案内技術では、物件の構造を再現した3Dモデルを作成して、作成した3Dモデルをネットで表示する3Dモデル技術が利用されている。3Dモデル技術では、建物の構造の全てが立体的に再現されており、利用者が、実際の建物の中にいて、その内部を移動しているかのように、画像の表示が変更される。
上記の遠隔案内技術では、ユーザは、一人でネット上の物件の内容を観覧する。しかし、一人だけではなく、遠く離れている複数のユーザ同士、また、複数のユーザと不動産業者との即時的コミュニケーションを取りながら、ネット上で物件の内容を観覧することも望まれている。
本発明は、上記課題を解決するためになされたものであり、遠隔に居る複数のユーザが同じ空間の同じ場所に居るような状態で同じ画像を観覧でき、ユーザへの臨場感を高められる画像表示方法、画像表示システム、及び画像表示プログラムを提供する。
本発明の第1態様は、対象物を表現する画像を画像表示装置に表示するための画像表示方法であって、複数の画像表示装置が、通信ネットワークを介してサーバにアクセスするステップと、サーバが、複数の画像表示装置に対象物を再現した3Dモデルを送信するステップと、複数の画像表示装置のうち、いずれかの画像表示装置が、トリガー操作を検出すると、トリガー信号をサーバに発信するステップと、サーバが、トリガー信号に基づいて、画像を含んでいる画像コンテンツとトリガー信号に含まれている観察角度とを複数の画像表示装置に送信するステップと、各画像表示装置が、トリガー信号により、画像コンテンツに含まれている画像を3Dモデルに合成させ、3Dモデルと合成された画像を表示するステップと、を備える。
本態様によれば、遠隔に居る複数のユーザが同じ空間の同じ場所に居るような感覚で当該空間の同じ画像を観覧することができる。また、対象物における画像の位置を3Dモデルで把握できるため、各画像表示装置は、対象物の奥行きや立体感を表現しやすくなる。これにより、ユーザの臨場感が確保できる。
本発明の第2の態様は、第1の態様の画像表示方法において、一つの画像表示装置からトリガー信号を受信すると、所定時間内に、サーバは、他の画像表示装置からのトリガー信号を拒否するステップをさらに備える。
本態様によれば、通信可能に接続された複数の画像表示装置に対して、一つの画像表示装置からのトリガー信号を受信すると、所定時間内に、サーバは、他の画像表示装置からの時間的に後のトリガー信号を拒否する。これにより、それぞれのユーザからの異なる指示による混乱がないため、ユーザの臨場感を高められる。
本発明の第3の態様は、第1の態様又は第2の態様の画像表示方法において、複数の画像表示装置のうち、いずれかの画像表示装置が他の画像表示装置に通話申請をすると、他の画像表示装置が通話申請を受け入れた場合に、通話申請した画像表示装置は、通話申請を受け入れた画像表示装置と通話できるようになるステップをさらに備える。
本態様によれば、通信可能に接続された各画像表示装置のユーザは、通話することができる。特にユーザの中に不動産案内サービスを提供する仲介業者がいる場合、仲介業者とユーザとのコミュニケーションが容易になる。
本発明の第4の態様は、第1から第3の態様のいずれかの画像表示方法において、画像は平面図とパノラマ画像とを含み、平面図と3Dモデルとは、複数の観察点を含み、パノラマ画像は、自らの観察点と違う他の観察点を一つ以上有し、各観察点は、パノラマ画像とそれぞれ関連付けられており、各観察点へのトリガー操作が検出されると、サーバは、トリガー操作された観察点に関連付けられているパノラマ画像を画像コンテンツに含めて送信する。
本態様において、平面図とパノラマ画像は、画像表示装置に送信され、3Dモデルと合成される。本態様によれば、表示している平面図やパノラマ画像における観察点がトリガー操作されて別のパノラマ画像へと切り替え表示する際に、平面図やパノラマ画像が3Dモデルと合成されているため、ただの表示する画像の切り替えではなく、3Dモデルの空間に飛んで入り、該当する観察点に立っているように臨場感がある。また、3Dモデルと表示する画像とを合成させることで、表示する画像に空間の奥行き感を表現しやすくなり、より臨場感を高めることができる。また、パノラマ画像同士の切り替えでは、切り替え表示前後の奥行き感が変化するので、インパクトがあり、臨場感をより高められる。
本発明の第5の態様は、第4の態様の画像表示方法において、表示されている画像に対するトリガー操作が検出されると、トリガー操作を受け取った位置が、観察点のないところであれば、画像表示装置は、トリガー操作を受け取った位置の最接近観察点の位置情報を取得して、トリガー信号に含ませる。
本態様によれば、表示画像の任意点にトリガー操作してもトリガー操作として検出されるようになり、使いやすい。
本発明の第6の態様は、第4又は第5の態様の画像表示方法において、複数の観察点の内、第一観察点の画像から第二観察点の画像に切り替え表示すると、切り替え後に表示される第二観察点の画像は、切り替え前に表示された第一観察点の画像と同じ観察角度で表示される。
本態様によれば、切り替え表示前後の画像が同じ観察角度で切り替えられるため、前の観察点から後の観察点へ「直行」する感覚で表示できる。ユーザへのインパクトが高く、臨場感を高めることができる。
本発明の第7の態様は、対象物を表現する画像を画像表示装置に表示するための画像表示システムであって、複数の画像表示装置と、複数の画像表示装置に、通信ネットワークを介して、対象物を再現した3Dモデルと、画像とを送信するサーバと、を備える。サーバは、画像と3Dモデルとを保存するコンテンツ記憶部と、画像表示装置からのトリガー信号に応じて画像表示装置に送信する情報処理部と、を含み、複数の画像表示装置のそれぞれは、画像を表示する表示部と、表示制御部と、操作検出部とを含み、画像表示装置がサーバにアクセスすると、サーバは画像表示装置に3Dモデルを送信し、いずれかの画像表示装置の操作検出部が、トリガー操作を検出すると、トリガー信号を情報処理部に送信し、情報処理部は、トリガー信号に基づいて、コンテンツ記憶部に画像を含んでいる画像コンテンツを要求し、コンテンツ記憶部は、情報処理部に要求された画像コンテンツを各表示制御部にそれぞれ送信し、各表示制御部は、トリガー信号より、画像コンテンツに含まれている画像を3Dモデルに合成させ、3Dモデルと合成された画像を観察角度で表示部に表示させる。
本発明の第8の態様は、第7態様の画像表示システムにおいて、複数の画像表示装置のそれぞれは、音声入力部と音声出力部とをさらに含んでおり、いずれかの画像表示装置が他の画像表示装置に通話申請をすると、他の画像表示装置が通話申請を受け入れた場合に、通話申請した画像表示装置と、通話申請を受け入れた画像表示装置とは、音声入力部と音声出力部とにより通話できるようになる。
本発明の第9の態様は、第1から第6態様のいずれかに記載の画像表示方法をコンピュータに実行させるための画像表示プログラムである。
本発明によれば、遠隔に居る複数のユーザが同じ空間の同じ場所に居るような状態で同じ画像を観覧でき、ユーザへの臨場感をたかめられる。また、遠隔に居る複数のユーザがコミュニケーションを取りながら当該空間を観覧し、案内することができる。
画像表示システムの構成を示す模式図である。 画像表示方法の処理を示すフローチャートである。 建物の3Dモデルを表示する図である。 図3の3Dモデルを時計回りに回転させた図である。 観察点P1でのパノラマ画像を表示している図である。 観察点P2でのパノラマ画像を表示している図である。 観察点P2でのパノラマ画像を表示している図である。 建物の平面図を表示している図である。 画像表示方法の処理を示すフローチャートである。
以下、図面を参照して、本発明の実施形態について説明する。図1は、実施形態に係る画像表示システムの構成を示す模式図である。本実施形態の画像表示システムは、サーバ1と複数の画像表示装置2a,2bとを含む。画像表示装置の数は、2つに限らず、2つより多くてもよい。
サーバ1は、通信ネットワーク100を介して、画像表示装置2a,2bとデータ転送可能に接続されている。サーバ1は、情報処理部11とコンテンツ記憶部12とを含む。情報処理部11は、CPUなどのプロセッサと、RAM,ROMなどのメモリとを含む。情報処理部11は、画像表示装置からの信号に応じて、コンテンツ記憶部12に保存されている画像コンテンツを要求する。コンテンツ記憶部12は、画像の表示に要する画像コンテンツを記憶しており、情報処理部11からの要求に応じて、画像表示装置に画像コンテンツを送信する。
画像コンテンツとは、2次元画像、パノラマ画像、3Dモデル、画像や3Dモデルと共に出力される効果音等の音声データや紹介用テキストや動画等が挙げられる。
2次元画像とは、写真等の平面画像である。パノラマ画像とは、対象物の前後、左右の360度と上下180度の範囲内の状況を確認できる画像である。パノラマ画像を撮影する場合、カメラを中心として、所定角度ごとに別々に撮った一群の写真を取得し、隣接し且つ重なり合う領域のある写真を、CG用ソフトウエアなどによりシームレスにつなぎ、それらを球形パノラマ画像に結合する。パノラマ画像は、カメラで撮影した写真だけではなく、CG技術で生成した画像を使って作成したパノラマ画像も含む。三次元の要素を表現しているパノラマ画像が二次元のコンピュータの表示部(スクリーンなど)で表示される際に、表示する展示角度(観察角度)により、パノラマ画像の一部分だけが表示される。
本実施形態の3Dモデルとは、対象物である建物などの空間内の要素を比例的に再現したものである。建物の空間内の要素とは、対象となる建物の全体構造、内部構造、全体空間、壁などで全体空間から区画された各子空間、各子空間と全体空間との関係、空間の奥行き、寸法、空間の内部に内蔵しているオブジェクトなど、目で確認できる物理的な存在である。3Dモデルは、コンピュータグラフィックス(computer graphics、略称:CG)で通常の3D技術用の座標系を配置して構成される。3Dモデルは、コンピュータで読み取って、表示できるデータである。3Dモデルとして、OBJファイルデータやMTLファイルデータなど、数多くのポリゴンで構成されているデータを例として挙げられる。OBJファイルデータとは、3Dモデルフォーマットの1つであり、頂点、法線などの情報が格納されている「.obj」ファイルと、モデル色やテクスチャ情報を格納している「.mtl」ファイルとで構成されている。「.mtl」ファイルがなくても、「.obj」ファイルさえあれば3Dモデルの形状を描画することは可能である。
ポリゴンとは、CG技術において、三角形や四角形等の多角形の組み合わせにより物体を再現する際に用いられる要素のことである。ポリゴンの数を減らすことで、データ量が小さくなり、解像度が低くなる。
対象物となる建物がマンションのように各部屋を有している場合には、その3Dモデルとしては、各部屋と、各部屋で構成された住戸ごとの全体構造と、を表現してもよい。図3に示しているのは、二階建ての戸建て住宅の3Dモデルである。図3の3Dモデルでは、外壁と天井がないため、外壁と天井が透明であるように表示することで、壁で区画された各部屋、各部屋で構成された住宅の全体構造、内部にある家具、家電などすべての存在を確認することができる。
画像表示装置2a、2bは、ユーザ用の端末として、通信ネットワーク100を介してサーバ1と通信可能であり、画像を表示できるコンピュータである。画像表示装置2a、2bは、例えばスマートフォンやタブレットなどの携帯端末、或いはパーソナルコンピュータである。
画像表示装置2aは、表示制御部21aと、表示部22aと、操作検出部23aと、音声入力部24aと、音声出力部25aを含む。画像表示装置2bは、表示制御部21bと、表示部22bと、操作検出部23bと、音声入力部24bと、音声出力部25bを含む。表示制御部21a、21bは、CPUなどのプロセッサと、RAM,ROMなどのメモリとを含む。表示制御部21a、21bは、トリガー信号により、コンテンツ記憶部12から送信してきた画像コンテンツを読み取り、表示用のデータを合成し、表示すべき画像を表示部22a、22bに表示させる。
表示部22a、22bは、スクリーンのような2次元の表示画面であり、2次元画像と3次元のパノラマ画像とを含む画像を表示することができる。また、表示部はタッチパネルなどの入力手段であってもよい。
操作検出部23a、23bは、タッチパネル、キーボード、マウス、マイクなどの入力手段からの入力を受け取る手段である。操作検出部23a、23bがトリガー操作を受けると、トリガー操作を受けたことを示すトリガー信号を情報処理部11に送信し、情報処理部11がトリガー信号に基づいて、表示用の画像コンテンツを判断し、判断結果により表示すべき画像コンテンツをサーバ1のコンテンツ記憶部12に要求する。
トリガー操作は、クリックに限らず、マウスやタッチパネルなどによるタップ、スライド、ドラッグ(drag-and-drop)、予め設定された認識可能なジェスチャー操作、音声操作などの入力でもよい。
操作検出部23a、23bは、トリガー操作された位置やアイコンなどにより、トリガー操作の意味を読み取り、その位置情報、観察角度情報、画像データ情報などをトリガー信号に含ませる。
画像データ情報とは、2次元画像、パノラマ画像、平面図などの画像の情報である。位置情報は、3Dモデル自身の座標系により3Dモデル内の各位置を示す情報である。3Dモデル内の各位置は、物理的な建物の空間内の各位置と対応している。観察角度は、ユーザが対象物を観察する際の角度(表示部で表示する角度)である。上記観察角度の0度を示す方向と上記3Dモデル自身の座標系の原点とは、3Dモデルを構築する際に事前に決められている。
音声入力部24a、24bは、例えばマイクであり、音声入力に用いられる。音声出力部25a、25bは、例えばイヤホンやスピーカーであり、音声出力に用いられる。音声入力部24が音声出力部25と連動することで、複数の画像表示装置の間に、画像を確認しながら電話のように即時的の会話機能が発揮される。
表示制御部21a、21bによって実行される処理の一部又は全部は、サーバ1によって実行されてもよい。
[画像表示方法]
以下、本実施形態の画像表示方法について、マンションや戸建て住宅などの建物の内部空間を例に詳細に説明する。
図2は、一つの画像表示装置2aがサーバ1にアクセスしている際の処理を示すフローチャートである。
表示の開始時に、画像表示装置2aは、サーバ1にアクセスする。サーバ1は、画像表示装置2aに識別用のユーザIDなどの設定情報を付与する。そして、サーバ1から画像表示装置2aに3DモデルのOBJファイルデータを送信する。3DモデルのOBJファイルデータが画像表示装置2aにダウンロードされる(ステップS0)。画像表示装置2aの表示部22aは3Dモデルを表示し、初期表示状態となる(ステップS1)。操作検出部23aが表示部22aへのトリガー操作を検出すると、トリガー信号を情報処理部11に送信する(ステップS2)。情報処理部11が、トリガー信号に含んでいる画像データ情報、位置情報、観察角度情報などに基づいて表示画面に表示するための画像コンテンツを判断して、コンテンツ記憶部12に要求する(ステップS3)。コンテンツ記憶部12は、情報処理部11に要求された画像コンテンツを、画像表示装置2aの表示制御部21aに送信する(ステップS4)。表示制御部21aは、画像コンテンツを読み取り、解析し、画像コンテンツに含まれている表示用の画像を3Dモデルと合成させ、表示用の画像を表示部22aに表示させる(ステップS5)。
ステップS0のダウンロード処理は一回だけで完了してもよい。画像表示装置2aは、画像の切り替え表示などを行うたびに、ステップS1からS5までの処理を繰り返し実行してもよい。
次は、図9を参考して、複数の画像表示装置(二つの画像表示装置2aと2bとを例とする)がサーバ1にアクセスする際の処理を説明する。
IM技術(Instant Messenger)により、一つの画像表示装置2aがすでにサーバ1と接続して物件の画像を観覧している状態では、他の画像表示装置2bを招請し、画像表示装置2bと連携できる。画像表示装置2aが画像表示装置2bと連携した場合、画像表示装置2aと画像表示装置2bとは同じ物件を観覧できるようになる。また、当該画像表示装置2aは、他の画像表示装置2bから同じ物件を観覧しようとする招請を受け入れ、連携することもできる。画像表示装置2aは、画像表示装置2bからの招請を受信すると、画像表示装置2bと連携するか否かを選択できる。
画像表示装置2aが、画像表示装置2bとの連携を許可すると、サーバ1は、画像表示装置2bに識別用のユーザIDを付与し、サーバ1から画像表示装置2bに3Dモデルを送信する。3Dモデルは、画像表示装置2bに保存される。また、サーバ1では、画像表示装置2aと2bが連携しているグループとして設定される(ステップS10)。
画像表示装置2bが画像表示装置2aと連携されると、サーバ1は、画像表示装置2aと連携してきた画像表示装置2bに、画像表示装置2aに直前に送信した画像コンテンツを送信する。そして、画像表示装置2bは、図2に示している処理を実行する。それにより、連携された画像表示装置2aと2bは同じ画像を表示するようになる(ステップS11)。この状態では、操作検出部23a,23bのいずれかが表示部22へのトリガー操作を検出すると、トリガー信号を情報処理部11に送信する(ステップS12)。情報処理部11が、トリガー信号を受信すると、当該トリガー信号の送信元である画像表示装置2aのユーザIDを識別し、トリガー信号に含んでいる画像データ情報、位置情報、観察角度情報などに基づいて、表示するための画像コンテンツを判断して、当該画像コンテンツをコンテンツ記憶部12に要求する(ステップS13)。また、情報処理部11が、時間的に前後して、異なる画像表示装置からトリガー信号を受信すると、前のトリガー信号を受信してから、所定時間内に同じグループにある他のユーザIDからのトリガー信号を拒否する(ステップS14)。
コンテンツ記憶部12は、画像コンテンツを、グループのすべての画像表示装置2a、2bの表示制御部21a、21bに送信する(ステップS15)。上記画像コンテンツを受信した各表示制御部21a、21bは、画像コンテンツを分析し、表示すべき画像を3Dモデルに合成し、3Dモデルと合成している画像を各表示部22a、22bに表示させる(ステップS16)。
ステップ14において、所定時間内で他の画像表示装置からのトリガー信号を拒否した場合には、拒否された画像表示装置に拒否メッセッージを送信してもよい。
ステップS10のダウンロード処理は一回だけで完了してもよい。各画像表示装置2a、2bは、画像の切り替え表示などを行うたびに、ステップS11からS16までの処理を繰り返し実行してもよい。
本実施形態において、初期表示状態における表示画像は限定されない。表示部22a、22bが初期表示状態である場合、表示される画像は、対象空間に関する画像であってよい。例えば、物件内の写真などのパノラマ画像の一部、間取り図、3Dモデルなどでもよい。
次に、連携された複数の画像表示装置2a、2bにおいて、3Dモデルの表示から平面図に切り替え表示することを例として、表示方法を説明する。平面図とは、対象物の構造、配置などを表現するために、対象物の上面からの投影図又は水平断面図であり、物件の場合には、間取図ともいう。
連携が許可された場合、サーバは、後にアクセスしてきた画像表示装置2bに、先にアクセスしていた画像表示装置2aに直前に送信した画像コンテンツを送信するので、連携された複数の画像表示装置は、常に同じ表示状態である。
図3は、対象物の3Dモデルを表示している。画像表示装置2a、2bは、それぞれサーバにアクセスして、3Dモデルをダウンロード済みである(ステップS10)。図3に示すように、連携された複数の画像表示装置2a、2bは同じ初期表示状態であり、所定の第1観察角度(例えば南方面)から3Dモデルを表示している。また、各表示部22a、22bの一部には、平面図などのアイコンA2が設置されている(ステップS11)。例えば、画像表示装置2aにおいて、平面図のアイコンA2をクリックすると、画像表示装置2aの操作検出部23aが平面図のアイコンA2へのトリガー操作を検出したトリガー信号を情報処理部11に送信する(ステップS12)。情報処理部11は、トリガー信号に基づいて、表示すべき画像は平面図であると判定し、平面図をコンテンツ記憶部12に要求する(ステップS13)。また、情報処理部11は、トリガー信号を受信すると、当該トリガー信号の送信元である画像表示装置2aのユーザIDを識別する。情報処理部11は、所定時間内に同じグループにある他のユーザIDからのトリガー信号を受信すると、そのトリガー信号を拒否し、該当する他の画像表示装置に拒否メッセージを送信する(ステップS14)。コンテンツ記憶部12は、平面図を含んでいる画像コンテンツを各画像表示装置2a、2bの表示制御部21a、21bにそれぞれ送信する(ステップS15)。画像表示装置2a、2bの各表示制御部21a、21bは、それぞれ画像コンテンツに含まれている平面図を3Dモデルに合成させる。これにより、平面図と3Dモデルとの合成3Dモデル画像が生成される。各表示制御部21a、21bは、それぞれ各表示部22a、22bに3Dモデルと合成している平面図を表示させる(ステップS16)。そして、各表示部22a、22bは、図3の3Dモデルの表示から図8のような平面図の表示に切り替える。
図3と図4の3Dモデルと、図5~図7のパノラマ画像と、図8の平面図とは、複数の観察点Pを含む。観察点とは、対象物の内部において、観覧するポイントとして事前に選択した場所であり、各観察点は、各観察点の位置を表現する位置情報を有する。各観察点は、位置情報により各観察点からのパノラマ画像と、3Dモデルや平面図における対応位置と関連付けられている。観察点と関連付けられているパノラマ画像は、当該観察点に立って観覧できる対象物内の画像である。当該パノラマ画像により、前後左右の360度と上下180度の範囲内の状況を確認できる。各パノラマ画像は、対応する観察点の位置情報を有する。各観察点へのトリガー操作が検出されると、3Dモデルの中に入るように、3Dモデルからパノラマ画像に切り替えられる。そして、各表示部22a、22bは、各観察点で対象物の空間内の様子を見ているかのように、当観察点でのパノラマ画像を表示する。
次に、連携されているすべての画像表示装置2a、2bにおいて、3Dモデルから観察点のパノラマ画像に切り替え表示することについて説明する。
画像表示装置2a、2bは、3Dモデルをダウンロード済みであり(ステップS10)、図4に示すように、3Dモデルを表示している。図4に表示されている3Dモデルには、複数の観察点が設置されており、3Dモデルへのトリガー操作が可能である(ステップS11)。画像表示装置2a、2bのうち、いずれかの操作検出部が、自らの表示部に表示されている3Dモデルへのトリガー操作を検出すると、トリガー信号を情報処理部11に送信する(ステップS12)。例えば、画像表示装置2aの表示部22aにおいて、図4に示す3Dモデルの観察点P1(第一観察点)がクリックされると、操作検出部23aは、観察点P1の位置情報と、現在表示している3Dモデルの観察角度(以下、「第2観察角度」と呼ぶ)を示す観察角度情報(後述)とを含んでいるトリガー信号を情報処理部11に送信する(ステップS12)。情報処理部11は、トリガー信号に含んでいる観察点P1の位置情報に基づいて、表示すべき画像が観察点P1のパノラマ画像であることを判断し、観察点P1の位置情報を有するパノラマ画像をコンテンツ記憶部12に要求する(ステップS13)。また、情報処理部11が、トリガー信号を受信すると、当該トリガー信号の送信元である画像表示装置2aのユーザIDを識別し、所定時間内に同じグループにある他のユーザIDからのトリガー信号を拒否する(ステップS14)。コンテンツ記憶部12は、観察点P1のパノラマ画像を含んでいる画像コンテンツを、連携されているすべての表示制御部21a,21bに送信する(ステップS15)。すべての画像表示装置2a、2bの各表示制御部21a,21bは、送信された上記画像コンテンツを読み取り、観察点P1の位置情報に基づき、観察点P1のパノラマ画像を3Dモデルと観察点P1で合成させる。これにより、観察点P1の合成3Dモデル画像を生成する。各表示制御部21a,21bは、トリガー信号により、上記第2観察角度で各表示部22a,22bに3Dモデルと合成している観察点P1のパノラマ画像をそれぞれ表示させる(ステップS16)。そして、連携された画像表示装置2a、2bの全てが、図4の3Dモデルの表示状態から、観察点P1のパノラマ画像に切り替えする(図5)。
上記観察点P1がクリックされると、操作検出部23aは、観察点P1の位置情報を読み取ってトリガー信号に含ませる。なお、予め設置された観察点以外の位置へのトリガー操作を検出した際には、操作検出部23aは、当該トリガー操作された位置に最も近い観察点を判断して、その最も近い観察点(以下、「最接近観察点」)の位置情報を読み取ってトリガー信号に含ませる。
本実施形態では、切り替え表示前の3Dモデルの表示角度(図4の3Dモデルの第2観察角度)を操作検出部23aが観察角度情報として読み取ってトリガー信号に含ませる。そして、表示制御部21a、21bは、3Dモデルと観察点P1で合成している観察点P1のパノラマ画像を第2観察角度で表示させる。従って、表示している画像の観察角度は、3Dモデルとパノラマ画像との切り替え表示前後で同じである。
次に、連携されているすべての画像表示装置2a、2bにおいて、異なる観察点のパノラマ画像に切り替え表示することについて説明する。
図5に示すように、各画像表示装置2a、2bは、第2観察角度で観察点P1のパノラマ画像をそれぞれ表示している。観察点P1(第一観察点)のパノラマ画像には、複数の別観察点(P2、P3、P4、P5、……)も表示される(ステップ11)。
図5の状態で、例えば画像表示装置2bにおいて、観察点P2(第二観察点)へのトリガー操作を検出すると、操作検出部23bは、観察点P2の位置情報と、現在表示している画面の第2観察角度とを含んでいるトリガー信号を情報処理部11に送信する(ステップS12)。情報処理部11は、観察点P2の位置情報を有するパノラマ画像をコンテンツ記憶部12に要求する(ステップS13)。情報処理部11が、トリガー信号を受信すると、当該トリガー信号の送信元である画像表示装置2bのユーザIDを識別し、所定時間内に同じグループにある他のユーザIDからのトリガー信号を拒否する(ステップS14)。コンテンツ記憶部12は、観察点P2のパノラマ画像を含んでいる画像コンテンツを、すべての表示制御部21a、21bに送信する(ステップS15)。すべての画像表示装置2a、2bの各表示制御部21a、21bは、送信してきた上記画像コンテンツを読み取り、観察点P2の位置情報に基づき、観察点P2のパノラマ画像を3Dモデルと観察点P2で合成させる。これにより、各画像表示装置2aと2bで、それぞれ観察点P2の合成3Dモデル画像が生成される。表示制御部21a、21bは、図6に示すように、トリガー信号により、3Dモデルに合成された観察点P2のパノラマ画像を、上記第2観察角度で、各表示部22a、22bのそれぞれに表示させる(ステップS16)。それにより、全ての画像表示装置2a、2bにおいて、観察点P1のパノラマ画像から観察点P2のパノラマ画像に切り替えられる。切り替え表示前後の観察角度が同じであるため、それぞれのユーザに第一観察点P1から第二観察点P2へ直行した感覚を与えることができる。それにより、当該空間内で移動している感覚をユーザに与えることができ、ユーザの臨場感を高めることができる。
図5に示すように、表示されている画像の任意の箇所P0(予め設定した観察点以外の箇所)をクリックしてトリガー操作を行うと、ステップS2においては、表示制御部21bは、このトリガー操作が発生した箇所P0に最も近い第二観察点P2の位置情報を取得し、トリガー信号に含ませる。
図5および図6に示すように、表示画像の一部分に、当該建物の平面図の簡略図Kが表示されている。簡略図は、模擬移動表示Cを有する。模擬移動表示Cは、現在表示されているパノラマ画像の観察点の建物内での位置と観察角度とを示している。すなわち、模擬移動表示Cは、建物におけるユーザの位置と観察の方向とを示している。例えば、表示画像が図5から図6に切り替えられた場合、模擬移動表示Cは、観察点P1からP2まで移動する。
図6のパノラマ画像が表示されているときに、平面図のアイコンA2や簡略図Kへの操作により、平面図への切り替え表示を要求するトリガー信号を操作検出部23bが検出すると、図6に示すパノラマ画像から、図8に示す平面図に切り替え表示する。平面図にも、パノラマ画像とそれぞれ関連付けられた複数の観察点が設けられている。従って、平面図において任意箇所をクリックすることで、平面図からパノラマ画像への切り替え表示が可能である。
次に、連携されている全ての画像表示装置2a,2bにおいて、同じ観察点のパノラマ画像の観察角度が変更される場合について説明する。
図6と図7とは、同じ観察点P2のパノラマ画像であるが、観察角度が異なる。図6の表示画像をドラッグすることで、表示する観察角度を任意に変更することができる。従って、図6の表示画像から図7の表示画像に切り換えることが可能である。また、図7の表示画像をドラッグすることで、図7の表示画像から図6の表示画像に切り換えることも可能である。同じ観察点P2のパノラマ画像であるが、観察角度が変わることで、そのパノラマ画像の異なる部分が表示される。
例えば、図6に示すように、各表示部22a、22bの初期表示状態が、第2観察角度で観察点P2のパノラマ画像の表示であるものとする(ステップS11)。操作検出部23aが表示部22aへのトリガー操作としてのドラッグ操作を検出すると、操作検出部23aは、ドラッグ操作を分析して第1観察角度が要求されているかを判定する。操作検出部23aは、第1観察角度が要求されていることを判断すると、観察点P2のパノラマ画像に対して第1観察角度に変更する情報を含んでいるトリガー信号を情報処理部11に送信する(ステップS12)。情報処理部11が、このトリガー信号に基づいて観察点P2のパノラマ画像をコンテンツ記憶部12に要求する(ステップS13)。情報処理部11が、トリガー信号を受信すると、当該トリガー信号の送信元である画像表示装置2aのユーザIDを識別し、所定時間内に同じグループにある他のユーザIDからのトリガー信号を拒否する(ステップS14)。コンテンツ記憶部12は、観察点P2のパノラマ画像と第1観察角度を含んでいる画像コンテンツを各表示制御部21a,21bに送信する(ステップS15)。すべての画像表示装置2a、2bの各表示制御部21a、21bは、送信してきた上記画像コンテンツを読み取り、観察点P2の位置情報に基づき、観察点P2のパノラマ画像を3Dモデルと観察点P2で合成させる。そして、各画像表示装置2a、2bで、観察点P2の合成3Dモデル画像を生成する。各表示制御部21a、21bは、トリガー信号により、3Dモデルに合成している観察点P2のパノラマ画像を上記第1観察角度でそれぞれ各表示部22a、22bに表示させる(ステップS16)。そして、グループ内の画像表示装置2a、2bは、同じ観察点のパノラマ画像に対して、第2観察角度での表示(図6)から第1観察角度での表示(図7)に変更する。
なお、送信するデータ量を抑えるために、ある観察点(例えばP2)のパノラマ画像を表示する際に、位置情報が変わらない場合には、変更する観察角度の情報だけを含んでいるトリガー信号を情報処理部11に送信することも可能である。そして、各表示制御部21は、サーバから送信してきたデータにより、変更された観察角度でパノラマ画像を表示させる。
連携されている画像表示装置2a、2bのうち、いずれかの画像表示装置2aが他の画像表示装置2bに通話しようとする場合の処理について説明する。
IM技術により、画像を観覧しながら、通話することが可能である。本実施形態では、画像の観覧中に、画像表示装置2aが通話アイコンなどにより他の画像表示装置2bに通話申請してもよい。他の画像表示装置2bが通話申請を受け入れた場合には、音声入力部24a、24bと音声出力部25a、25bとを起動させ、画像表示装置2aと2bは通話できるようになる。
本実施形態では、3Dモデルは、ユーザの操作によって回転可能である。例えば、画像表示装置2aにおいて、図5~図8に示している3DアイコンA1へのトリガー操作を検出すると、操作検出部23aは、3Dモデルを表示する指示として読み取り、トリガー信号に含ませて、トリガー信号をサーバ1に送信する。サーバ1は当該トリガー信号を各画像表示装置2a,2bの表示制御部21a、21bに送信する。各表示制御部21a、21bは、それぞれ保存している3Dモデルを表示部22a、22bに表示させる。3Dモデルの表示中に、表示画面の3Dモデル以外の所をドラッグしてポインターを移動させると、3Dモデルが回転して、各観察角度で3Dモデルが表示される。それにより、図4に示すように、図3とは異なる第2観察角度で3Dモデルが表示される。
なお、本実施形態において、画像と3Dモデルとを合成させるとは、3Dモデルと、3Dモデルの各部分に対応する画像とを、各画像の3Dモデルにおける位置に対応させて関連付けることである。この合成作業は、WebGLなどの従来技術を利用することが可能である。3Dモデルと合成された画像は、スクリーンなどの二次元の表示部22に表示される場合、見た目では二次元画像であるが、対象物における画像の位置を3Dモデルで把握できるため、対象物の奥行きや寸法や立体感を表現しやすくなる。
次に、本実施形態における画像データの生成方法について説明する。
まず、CG技術で、対象物としての建物の構造を再現した3Dモデルを作成する。3Dモデルは主にOBJファイルである。そして、現実感を高めるために、3Dモデルをレンダリングする。レンダリングにより、建物内の物体の実際の色、模様、質感などを3Dモデル上に再現する。そして、レンダリング後の3Dモデルを保存する。レンダリング後の3Dモデルは、解像度が高いため、3Dモデル全体のデータ量が大きい。
レンダリング後の3Dモデルから、複数の観察点でのパノラマ画像をピックアップして、各観察点のパノラマ画像として保存する。保存されたパノラマ画像は、自らの観察点の位置情報を有する。レンダリング後の3Dモデルに対して、ポリゴンの数を削減することで、レンダリング後の3Dモデルを圧縮する。圧縮されたレンダリング後の3Dモデルをサーバ1のコンテンツ記憶部12に保存する。
そして、ピックアップされた各観察点のパノラマ画像を、各観察点の位置情報により圧縮後の3Dモデルにある各観察点にそれぞれ関連付けさせる。また、各パノラマ画像にも、それぞれ他の観察点を一つ以上設置し、各観察点にパノラマ画像を関連付けさせる。
このように生成した圧縮されたレンダリング後の3Dモデルは、上述した図3および図4の3Dモデルとして、画像表示装置2a,2bに表示される。圧縮後の3Dモデルは、その解像度がレンダリング後の3Dモデルより低い。圧縮後の3Dモデルの解像度は、レンダリング後の3Dモデルからピックアップした各パノラマ画像よりも低い。それにより、圧縮後の3Dモデルによる通信データ量が著しく減少し、携帯電話などの通信端末においても、時間の遅延が発生しない。パノラマ画像は、解像度の高い圧縮前のレンダリング後の3Dモデルからピックアップされる。そのため、ユーザに解像度の高いパノラマ画像の表示を確保できる。また、上記画像表示装置がサーバにアクセスしてダウンロードしてきたのは圧縮されたレンダリング後の3Dモデルである。
なお、上記の実施形態では、レンダリング後の3Dモデルから解像度の高いパノラマ画像をピックアップしているが、ピックアップするステップを省略して、カメラで撮影して作成したパノラマ写真などを圧縮後の3Dモデルの各観察点に関連付けることも可能である。そして、3Dモデルを作成した後に、すぐ圧縮し、事前に用意したパノラマ画像を圧縮後の3Dモデルの各観察点に関連付けてもよい。レンダリング後の3Dモデルから解像度の高いパノラマ画像をピックアップする作業は、従来CG技術でパノラマ画像を生成することである。
上記実施形態では、建物の空間を対象空間として、主に戸建て住宅を例として説明したが、対象空間はこれに限定されない。オフィスタワー、博物館、百貨店の販売空間、自動車の車内空間、工場、天然洞窟、公園などの人工や自然に形成された空間など、3Dモデルで再現できる空間であればよい。
上記の実施形態では、ユーザの臨場感を高めるために、表示部に表示している画像の観察角度が3Dモデルとパノラマ画像との切り替え表示前後で同じとして説明しているが、切り替え後の観察角度は、任意に設定されてもよい。
以上、実施形態を用いて本発明を説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されないことは言うまでもない。上記実施形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。またそのような変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
1 サーバ
2 画像表示装置
11 情報処理部
12 コンテンツ記憶部
21 表示制御部
22 表示部
23 操作検出部
24 音声入力部
25 音声出力部

Claims (9)

  1. 対象物を表現する画像を画像表示装置に表示するための画像表示方法であって、
    複数の前記画像表示装置が、通信ネットワークを介してサーバにアクセスするステップと、
    前記サーバが、複数の前記画像表示装置に前記対象物を再現した3Dモデルを送信するステップと、
    複数の前記画像表示装置のうち、いずれかの前記画像表示装置が、トリガー操作を検出すると、トリガー信号を前記サーバに発信するステップと、
    前記サーバが、前記トリガー信号に基づいて、パノラマ画像を含んでいる画像コンテンツと前記トリガー信号に含まれている観察角度とを複数の前記画像表示装置に送信するステップと、
    各前記画像表示装置が、前記トリガー信号により、前記3Dモデルを前記画像コンテンツに含まれている前記パノラマ画像に切り替え、前記パノラマ画像を表示するステップと、
    を備える、画像表示方法。
  2. 一つの前記画像表示装置から前記トリガー信号を受信すると、所定時間内に、前記サーバは、他の前記画像表示装置からのトリガー信号を拒否するステップをさらに備える、
    請求項1に記載の画像表示方法。
  3. 複数の前記画像表示装置のうち、いずれかの前記画像表示装置が他の前記画像表示装置に通話申請をすると、他の前記画像表示装置が前記通話申請を受け入れた場合に、前記通話申請した前記画像表示装置は、前記通話申請を受け入れた前記画像表示装置と通話できるようになるステップをさらに備える、
    請求項1又は2に記載の画像表示方法。
  4. 前記画像コンテンツさらに平面図を含み、
    前記平面図と前記3Dモデルとは、複数の観察点を含み、
    前記パノラマ画像は、自らの観察点と違う他の観察点を一つ以上有し、
    各前記観察点は、前記パノラマ画像とそれぞれ関連付けられており、
    各前記観察点へのトリガー操作が検出されると、前記サーバは、前記トリガー操作された観察点に関連付けられている前記パノラマ画像を前記画像コンテンツに含めて送信する、
    請求項1から3のいずれか1項に記載の画像表示方法。
  5. 表示されている前記画像に対する前記トリガー操作が検出されると、前記トリガー操作を受け取った位置が、前記観察点のないところであれば、前記画像表示装置は、前記トリガー操作を受け取った位置の最接近観察点の位置情報を取得して、前記トリガー信号に含ませる、
    請求項4に記載の画像表示方法。
  6. 前記複数の観察点の内、第一観察点の画像から第二観察点の画像に切り替え表示すると、切り替え後に表示される前記第二観察点の画像は、切り替え前に表示された前記第一観察点の画像と同じ観察角度で表示される、
    請求項4又は5に記載の画像表示方法。
  7. 対象物を表現する画像を画像表示装置に表示するための画像表示システムであって、
    複数の前記画像表示装置と、
    複数の前記画像表示装置に、通信ネットワークを介して、前記対象物を再現した3Dモデルと、前記画像とを送信するサーバと、
    を備え、
    前記サーバは、前記画像と前記3Dモデルとを保存するコンテンツ記憶部と、前記画像表示装置からのトリガー信号に応じて前記画像表示装置に送信する情報処理部と、を含み、
    複数の前記画像表示装置のそれぞれは、前記画像を表示する表示部と、表示制御部と、操作検出部とを含み、
    前記画像表示装置が前記サーバにアクセスすると、前記サーバは前記画像表示装置に前記3Dモデルを送信し、
    いずれかの前記画像表示装置の前記操作検出部が、トリガー操作を検出すると、前記トリガー信号を前記情報処理部に送信し、
    前記情報処理部は、前記トリガー信号に基づいて、前記コンテンツ記憶部に前記画像を含んでいる画像コンテンツを要求し、
    前記コンテンツ記憶部は、前記情報処理部に要求された前記画像コンテンツを各前記表示制御部にそれぞれ送信し、
    各前記表示制御部は、前記トリガー信号より、前記3Dモデルを前記画像コンテンツに含まれているパノラマ画像に切り替え、前記パノラマ画像を前記3Dモデルの観察角度で前記表示部に表示させる、
    画像表示システム。
  8. 複数の前記画像表示装置のそれぞれは、音声入力部と音声出力部とをさらに含んでおり、
    いずれかの前記画像表示装置が他の前記画像表示装置に通話申請をすると、他の前記画像表示装置が前記通話申請を受け入れた場合に、前記通話申請した前記画像表示装置と、前記通話申請を受け入れた前記画像表示装置とは、前記音声入力部と前記音声出力部とにより通話できるようになる、
    請求項7に記載の画像表示システム。
  9. 請求項1から6のいずれか1項に記載の画像表示方法をコンピュータに実行させるための画像表示プログラム。
JP2020102701A 2020-06-12 2020-06-12 画像表示方法、画像表示システム、及び画像表示プログラム Active JP7029118B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020102701A JP7029118B2 (ja) 2020-06-12 2020-06-12 画像表示方法、画像表示システム、及び画像表示プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020102701A JP7029118B2 (ja) 2020-06-12 2020-06-12 画像表示方法、画像表示システム、及び画像表示プログラム

Publications (2)

Publication Number Publication Date
JP2021196851A JP2021196851A (ja) 2021-12-27
JP7029118B2 true JP7029118B2 (ja) 2022-03-03

Family

ID=79195570

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020102701A Active JP7029118B2 (ja) 2020-06-12 2020-06-12 画像表示方法、画像表示システム、及び画像表示プログラム

Country Status (1)

Country Link
JP (1) JP7029118B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130120367A1 (en) 2011-11-15 2013-05-16 Trimble Navigation Limited Providing A Real-Time Shared Viewing Experience In A Three-Dimensional Modeling Environment
WO2019026919A1 (ja) 2017-08-02 2019-02-07 ナーブ株式会社 画像処理システム、画像処理方法、及びプログラム
CN110162236A (zh) 2019-04-28 2019-08-23 深圳市思为软件技术有限公司 虚拟样板间的展示方法、装置及计算机设备

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130120367A1 (en) 2011-11-15 2013-05-16 Trimble Navigation Limited Providing A Real-Time Shared Viewing Experience In A Three-Dimensional Modeling Environment
WO2019026919A1 (ja) 2017-08-02 2019-02-07 ナーブ株式会社 画像処理システム、画像処理方法、及びプログラム
CN110162236A (zh) 2019-04-28 2019-08-23 深圳市思为软件技术有限公司 虚拟样板间的展示方法、装置及计算机设备

Also Published As

Publication number Publication date
JP2021196851A (ja) 2021-12-27

Similar Documents

Publication Publication Date Title
US8411091B2 (en) Image drawing system, image drawing server, image drawing method, and computer program
KR101918262B1 (ko) 혼합 현실 서비스 제공 방법 및 시스템
EP3332565B1 (en) Mixed reality social interaction
CN111028336B (zh) 场景切换方法及装置、存储介质
US6753857B1 (en) Method and system for 3-D shared virtual environment display communication virtual conference and programs therefor
CN111414225B (zh) 三维模型远程展示方法、第一终端、电子设备及存储介质
JP2009252240A (ja) リフレクション組み込みシステム、方法及びプログラム
JP2013099511A (ja) 描画システム、描画サーバ、その制御方法、プログラム、及び記録媒体
WO2019127349A1 (zh) 一种多媒体信息分享的方法、相关装置及***
CN111277890A (zh) 虚拟礼物的获取方法和三维全景直播间的生成方法
KR20200067537A (ko) 가상 환경 회의실 제공 시스템 및 방법
JP6975370B1 (ja) 画像表示方法、プログラム及びデータ生成方法
CN110889384A (zh) 场景切换方法及装置、电子设备和存储介质
CN110944140A (zh) 远程展示方法、远程展示***、电子装置、存储介质
WO2024027611A1 (zh) 视频直播方法、装置、电子设备以及存储介质
JP2001526502A (ja) 会議施設
JP7029118B2 (ja) 画像表示方法、画像表示システム、及び画像表示プログラム
Kurillo et al. Teleimmersive 3D collaborative environment for cyberarchaeology
KR20190085681A (ko) 실감형 vr 영상의 제공 방법 및 이를 위한 서버 장치
Ishida et al. Proposal of tele-immersion system by the fusion of virtual space and real space
JP2012128737A (ja) 3d映像生成システム
TWI799195B (zh) 利用虛擬物件實現第三人稱視角的方法與系統
JP2023134045A (ja) 通信装置、通信システム、表示方法、及びプログラム
JP2023166716A (ja) 仮想空間提供システム
JP2023134065A (ja) 通信装置、通信システム、表示方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210817

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220201

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220203

R150 Certificate of patent or registration of utility model

Ref document number: 7029118

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150