JP2022046059A - 情報生成方法、情報生成システム、及びプログラム - Google Patents

情報生成方法、情報生成システム、及びプログラム Download PDF

Info

Publication number
JP2022046059A
JP2022046059A JP2020151908A JP2020151908A JP2022046059A JP 2022046059 A JP2022046059 A JP 2022046059A JP 2020151908 A JP2020151908 A JP 2020151908A JP 2020151908 A JP2020151908 A JP 2020151908A JP 2022046059 A JP2022046059 A JP 2022046059A
Authority
JP
Japan
Prior art keywords
projected
image
projector
information
display area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020151908A
Other languages
English (en)
Other versions
JP2022046059A5 (ja
Inventor
一平 黒田
Ippei Kuroda
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2020151908A priority Critical patent/JP2022046059A/ja
Priority to US17/470,760 priority patent/US11818516B2/en
Publication of JP2022046059A publication Critical patent/JP2022046059A/ja
Publication of JP2022046059A5 publication Critical patent/JP2022046059A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2504Calibration devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3173Constructional details thereof wherein the projection device is specially adapted for enhanced portability
    • H04N9/3176Constructional details thereof wherein the projection device is specially adapted for enhanced portability wherein the projection device is incorporated in a camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】被投写物の設置場所に赴くことなく、簡便に表示領域を設定できるようにする。【解決手段】特定部410、設定支援部420A及び生成部440を有する情報生成装置1Aを提供する。特定部410は、プロジェクター2が被投写物SCに投写する第1画像と、第1画像を投写されている被投写物SCを撮像装置50で撮像した第2画像とから、プロジェクター座標系とカメラ座標系との対応関係を特定する。設定支援部420Aは、被投写物SCの撮像画像をタッチパネル10の表示装置に表示させ、表示領域を指定する第1操作の実行をユーザーに促す。生成部440は、第1操作により指定された表示領域に投写オブジェクトを配置した投写画像をプロジェクター2に投写させるための情報を、指定された表示領域を示す情報と特定部410により特定された対応関係とに基づいて生成する。【選択図】図1

Description

本開示は、情報生成方法、情報生成システム、及びプログラム、に関する。
プロジェクションマッピングでは、スクリーン等の被投写物にプロジェクターから投写される投写画像に投写オブジェクトが適切に配置されていないと、期待した効果が得られない。特許文献1には、投写オブジェクトの配置先となる表示領域を指定する操作がスクリーン上で為された場合、スクリーン上のセンシングによって当該操作を検出し、検出された操作に応じて表示領域を設定する技術が開示されている。
特開2005-195939号公報
特許文献1に開示の技術には、被投写物がユーザーの手が届かない高所に設置される場合、表示領域の指定に支障が生じるという問題がある。また、特許文献1に開示の技術には、投写画像を変更する毎に、被投写物の設置場所に赴いて表示領域を設定する作業を行う必要がある。店舗内の装飾等にプロジェクションマッピングを使用する場合、クリスマス等のイベント或いは季節に応じて投写画像を変更することが通常である。投写画像を変更する度に被投写物の設置場所に赴いて表示領域を設定する作業を行うことは煩わしい、という問題もある。
以上の課題を解決するために、本開示の情報生成方法は、プロジェクターから被投写物に投写される第1画像と、前記第1画像を投写されている状態の前記被投写物をカメラにより撮像して得られる第2画像とから、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係を特定し、前記カメラによる前記被投写物の撮像画像を表示装置に表示させることにより、前記プロジェクターから前記被投写物に投写する投写オブジェクトの前記カメラ座標系における配置先となる表示領域を指定する第1操作の実行をユーザーに促し、前記第1操作により指定された前記表示領域に前記投写オブジェクトを配置した投写画像を前記プロジェクターに投写させるための情報を、前記第1操作により指定された前記表示領域を示す情報と前記対応関係とに基づいて生成する。
また、上記課題を解決するために、本開示の情報生成システムは、入力装置と、表示装置と、処理装置と、を備え、前記処理装置は、プロジェクターから被投写物に投写される第1画像と、前記第1画像を投写されている状態の前記被投写物をカメラにより撮像して得られる第2画像とから、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係を特定すること、前記カメラによる前記被投写物の撮像画像を前記表示装置に表示させることにより、前記プロジェクターから前記被投写物に投写する投写オブジェクトの前記カメラ座標系における配置先となる表示領域を指定する第1操作の前記入力装置への入力をユーザーに促すこと、及び、前記第1操作により指定された前記表示領域に前記投写オブジェクトを配置した投写画像を前記プロジェクターに投写させるための情報を、前記第1操作により指定された前記表示領域を示す情報と前記対応関係とに基づいて生成すること、を実行する。
また、上記課題を解決するために、本開示のプログラムは、コンピューターに、プロジェクターから被投写物に投写される第1画像と、前記第1画像を投写されている状態の前記被投写物をカメラにより撮像して得られる第2画像とから、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係を特定すること、前記カメラによる前記被投写物の撮像画像を表示装置に表示させることにより、前記プロジェクターから前記被投写物に投写する投写オブジェクトの前記カメラ座標系における配置先となる表示領域を指定する第1操作の実行をユーザーに促すこと、及び、前記第1操作により指定された前記表示領域に前記投写オブジェクトを配置した投写画像を前記プロジェクターに投写させるための情報を、前記第1操作により指定された前記表示領域を示す情報と前記対応関係とに基づいて生成すること、を実行させる。
本開示の第1実施形態に係る情報生成方法を実行する情報生成装置1Aを含む画像表示システム5Aの構成例を示すブロック図である。 本実施形態における計測パターンの一例を示す図である。 情報生成装置1Aの処理装置40が、表示領域の設定を促すために表示装置に表示させる画像の一例、第1操作により描かれる軌跡、及びこの軌跡に沿って取得される複数の点の一例を示す図である。 設定支援部420Aによる補正後の第1領域情報の示す複数の点の一例を示す図である。 第2操作の一例を示す図である。 更新部430による更新後の輪郭線の一例を示す図である。 更新部430による更新後の輪郭線の他の例を示す図である。 情報生成装置1Aの処理装置40がプログラムPAに従って実行する情報生成方法の流れを示すフローチャートである。 本開示の第2実施形態に係る情報生成方法を実行する情報生成装置1Bを含む画像表示システム5Bの構成例を示すブロック図である。 情報生成装置1Bの処理装置40が、表示領域の設定を促すために表示装置に表示させる画像の一例、第1操作により描かれる軌跡、及びこの軌跡に沿って取得される複数の点の一例を示す図である。 設定支援部420Bによる補正後の第1領域情報の示す複数の点の一例を示す図である。 情報生成装置1Bの処理装置40がプログラムPBに従って実行する情報生成方法の流れを示すフローチャートである。 本開示の第3実施形態に係る情報生成方法を実行する情報生成装置1Cを含む画像表示システム5Cの構成例を示すブロック図である。 設定支援部420Cにより生成される第1領域情報の示す複数の点の一例を示す図である。 設定支援部420Bによる補正後の表示領域の輪郭線の一例を示す図である。 情報生成装置1Cの処理装置40がプログラムPCに従って実行する情報生成方法の流れを示すフローチャートである。
以下、図面を参照して本開示の実施形態を説明する。以下に述べる実施形態には技術的に好ましい種々の限定が付されている。しかし、本開示の実施形態は、以下に述べる形態に限られるものではない。
1.第1実施形態
図1は、本開示の第1実施形態に係る情報生成方法を実行する情報生成装置1Aを含む画像表示システム5Aの構成例を示すブロック図である。画像表示システム5Aには、情報生成装置1Aの他に、情報生成装置1Aと通信するプロジェクター2が含まれる。プロジェクター2は、情報生成装置1Aから供給される画像データに応じた投写画像G1を被投写物SCの表面に投写する。図1では、詳細な図示を省略したが、プロジェクター2は、光源と、光変調装置としての3つの表示パネルと、投写レンズと、表示パネル駆動部とを備える。3つの表示パネルの各々は、夫々赤、緑及び青の各色に対応する。本実施形態では、表示パネルは液晶ライトバルブである。表示パネル駆動部は、情報生成装置1Aから供給される画像データに応じて上記3つの表示パネルの各々における光の透過率を制御する。プロジェクター2は、光源から射出された光を3つの表示パネルの各々で変調して画像光を形成し、この画像光を投写レンズから投写して被投写物SCの表面に投写画像を表示する。本実施形態における被投写物SCの形状は、図1に示すように直方体であるが、三角錐或いは四角錐等の多角形の連結により構成される三次元形状、又は曲面を有する三次元形状であってもよい。
情報生成装置1Aは、例えばスマートフォンである。情報生成装置1Aは、撮像機能、及びプロジェクター2と通信する通信機能、を有する。情報生成装置1Aは、スマートフォンに限らず、例えば、通信機能と撮像機能とを有するタブレット端末でもよい。情報生成装置1Aとプロジェクター2とがネットワーク接続されると、情報生成装置1Aは、プロジェクター2と通信し、プロジェクター2からプロジェクター情報を取得する。プロジェクター情報には、解像度情報、及びプロジェクター2において復号化可能な圧縮形式を示す圧縮形式情報が含まれる。解像度情報は、プロジェクター2における表示パネルの解像度を示す情報である。解像度情報は、プロジェクター2により被投写物SCに投写される投写画像の位置を計測するための計測パターンを生成する際に利用される。詳細については後述するが、本実施形態では、計測パターンとしてバイナリコードパターンが用いられる。圧縮形式情報は、計測パターンを示す計測パターンデータを圧縮して情報生成装置1Aからプロジェクター2へ送信する場合における計測パターンデータの圧縮形式の決定に利用される。情報生成装置1Aからプロジェクター2へ計測パターンデータを圧縮して送信する場合の圧縮形式は、ランレングス、LZH、PNG、及びGIF等の可逆圧縮形式が望ましい。
情報生成装置1Aは、プロジェクター2から取得した解像度情報を用いて複数の計測パターンの各々を表す計測パターンデータを生成し、生成した計測パターンデータをプロジェクター2に与える。プロジェクター2は、情報生成装置1Aから与えられる計測パターンデータの示す複数の計測パターンの各々の画像を被投写物SCに投写する。なお、情報生成装置1Aからプロジェクター2へコマンドを送信し、このコマンドに基づいて計測パターンデータをプロジェクター2が生成してもよく、この場合、プロジェクター情報に圧縮形式情報を含めておく必要はない。プロジェクター2で計測パターンデータを生成する態様であれば、情報生成装置1Aからプロジェクター2に計測パターンを伝達するための通信時間が短縮される。情報生成装置1Aは、計測パターン毎に、当該計測パターンの画像を投写されている状態の被投写物SCを撮像することをユーザーに促す。情報生成装置1Aは、計測パターンの画像を投写されている状態の被投写物SCをユーザーの操作に応じて撮像機能により撮像する。
情報生成装置1Aは、計測パターンの画像を投写されている状態の被投写物SCの撮像画像と計測パターンの画像とからプロジェクター座標系とカメラ座標系との対応関係を特定する。プロジェクター座標系とはプロジェクター2による投写画像上の位置を示す座標系である。プロジェクター座標系の一例としては、投写画像の左上隅を原点とする二次元座標系が挙げられる。カメラ座標系とは、撮像画像上の位置を示す座標系である。カメラ座標系の具体例としては撮像画像の左上隅を原点とする二次元座標系が挙げられる。
プロジェクター座標系とカメラ座標系との対応関係を特定するとは、一方の座標系から他方の座標系への射影変換のための変換行列を生成することをいう。本実施形態では、情報生成装置1Aは、カメラ座標系の座標をプロジェクター座標系の座標へ変換する変換行列を生成する。
図1に示すように、情報生成装置1Aは、タッチパネル10と、通信装置20と、記憶装置30と、処理装置40と、撮像装置50と、を含む。通信装置20は、無線通信モジュール又は有線通信モジュールである。通信装置20が有線通信モジュールである場合、通信装置20は通信線を介してプロジェクター2に接続される。情報生成装置1Aとプロジェクター2との接続は、無線アクセスポイント装置又はルーター等の中継装置を介さない直接接続であってもよいし、中継装置を介する間接接続であってもよい。通信装置20が無線通信モジュールである場合、直接接続の具体例としてはアドホック接続が挙げられ、間接接続の具体例としては無線アクセスポイント装置を介するアクセスポイント接続が挙げられる。また、通信装置20が有線通信モジュールである場合、直接接続の具体例としてはピアトゥーピア接続が挙げられ、間接接続の具体例としては有線ルーター又は有線ハブを介する接続が挙げられる。通信装置20は、処理装置40による制御の下、プロジェクター2と通信する。撮像装置50はカメラである。撮像装置50は、処理装置40による制御の下で撮像を行い、撮像画像を表す画像データを処理装置40に供給する。
タッチパネル10は、画像を表示する表示装置と、ユーザーによる情報が入力される入力装置とが、一体化された装置である。入力装置は、例えば透明なシート状の接触センサーである。入力装置は、表示装置の表示面を覆うように設けられる。入力装置は、当該入力装置に接触する物体と当該入力装置とによって特定される静電容量を用いてタッチ位置を検出し、検出したタッチ位置を示すデータを処理装置40へ出力する。これにより、タッチパネル10に対するユーザーの操作内容が処理装置40へ伝達される。
記憶装置30は、処理装置40が読み取り可能な記録媒体である。記憶装置30は、例えば、不揮発性メモリーと揮発性メモリーとを含む。不揮発性メモリーは、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable Read Only Memory)又はEEPROM(Electrically Erasable Programmable Read Only Memory)である。揮発性メモリーは、例えば、RAM(Radom Access Memory)である。
記憶装置30の不揮発性メモリーには、処理装置40によって実行されるプログラムPAが記憶される。記憶装置30の揮発性メモリーはプログラムPAを実行する際のワークエリアとして処理装置40によって利用される。プログラムPAは、「アプリケーションプログラム」、「アプリケーションソフトウェア」又は「アプリ」とも称され得る。プログラムPAは、例えば、通信装置20を介して不図示のサーバー等から取得され、その後、記憶装置30に記憶される。プログラムPAは、記憶装置30に予め記憶されてもよい。
処理装置40は、例えばCPU(Central Processing Unit)等のプロセッサーを含んで構成される。処理装置40は、単一のプロセッサーで構成されてもよいし、複数のプロセッサーで構成されてもよい。処理装置40は、プログラムPAの実行開始を指示する操作がタッチパネル10に対して為されたことを契機としてプログラムPAを不揮発性メモリーから揮発性メモリーに読み出し、プログラムPAの実行を開始する。プログラムPAに従って作動中の処理装置40は、図1に示す特定部410、設定支援部420A、更新部430、及び生成部440として機能する。図1に示す特定部410、設定支援部420A、更新部430、及び生成部440は、処理装置40をプログラムPAに従って動作させることで実現されるソフトウェアモジュールである。
特定部410は、プロジェクター2から投写される計測パターンの画像と、当該計測パターンの画像を投写されている状態の被投写物SCを撮像装置50で撮影して得られる撮像画像とに基づいて、プロジェクター座標系とカメラ座標系との対応関係を特定する。プロジェクター2から投写される計測パターンの画像は本開示における第1画像の一例である。計測パターンの画像が投写されている状態の被投写物SCを撮像装置50で撮影して得られる撮像画像は本開示における第2画像の一例である。
より詳細に説明すると、特定部410は、情報生成装置1Aとプロジェクター2とがネットワーク接続された状況下において、タッチパネル10に対する操作により特定開始を指示されたことを契機としてプロジェクター情報を取得する。次いで、特定部410は、プロジェクター情報に含まれる解像度情報から計測パターンデータを生成する。特定部410は、計測パターンデータの表す複数の計測パターンの各々を順次投写するようにプロジェクター2を制御する。また、特定部410は、被投写物SCに順次投写される複数の計測パターンの各々を撮像するようにユーザーに促し、ユーザーの操作に応じて撮像装置50に撮像を行わせる。そして、特定部410は、複数の計測パターンの画像と、撮像装置50により撮像される複数の撮像画像とからプロジェクター座標系とカメラ座標系との対応関係を特定する。
更に詳述すると、特定部410は、撮像装置50により撮像された撮像画像における計測パターンの座標をプロジェクター2の表示装置における計測パターンの座標に射影変換するための変換行列を複数の計測パターンの画像と複数の撮像画像とから生成する。この変換行列は、被投写物SCに投写する投写画像の幾何学的な補正を実現する変形の際にも利用される。本実施形態では、プロジェクター2から投写画像を投写させる際には、上記変換行列を用いて幾何学的な補正を実施済の投写オブジェクトを含む投写画像の画像データが情報生成装置1Aからプロジェクター2に与えられ、プロジェクター2は当該画像データに従って画像を投写する。
前述したように、本実施形態では計測パターンとしてバイナリコードパターンが用いられる。バイナリコードパターンとは、バイナリコードを使って表示装置の座標を表現するための画像のことをいう。バイナリコードとは、任意の数値を2進数で表現した場合の各桁の値をスイッチのオン/オフによって表現する技法である。計測パターンとしてバイナリコードパターンを用いる場合、プロジェクター2により投写される画像が上記のスイッチにあたり、座標値を表す2進数の桁数分の画像が必要となる。また、X座標とY座標とで夫々別個の画像が必要となる。例えば、プロジェクター2の表示パネルの解像度が120×90である場合、120及び90は夫々7桁の2進数で表現されるため、X座標を表現するために7枚の画像が必要となり、Y座標を表現するために7枚の画像が必要となる。
また、バイナリコードパターンを計測パターンとして用いる場合、照明等の外乱光の影響により計測のロバスト性が低下することが一般的に知られている。このため、バイナリコードパターンを計測パターンとして用いる場合には、外乱光の影響を抑え、計測のロバスト性を向上させるために相補パターンを併用することが一般的である。相補パターンとは、白黒を反転した画像のことをいう。以下では、1を白で表し、0を黒で表すバイナリコードパターンを「ポジティブパターン」と呼び、それを反転させた相補パターンを「ネガティブパターン」と呼ぶ。本実施形態では、解像度情報の示す解像度が120×90である場合、図2に示すように、ポジティブパターンが14枚、ネガティブパターンが14枚の合計28枚の計測パターンを表す計測パターンデータが特定部410によって生成される。本実施形態では、計測パターンとしてバイナリコードパターンが用いられるが、ドットパターン、矩形パターン、多角形パターン、チェッカーパターン、グレイコードパターン、位相シフトパターン、又はランダムドットパターン等の他の構造化光が用いられてもよい。
設定支援部420Aは、カメラ座標系において投写オブジェクトの配置先となる表示領域を指定する第1操作の実行をユーザーに促すために、設定支援画面をタッチパネル10の表示装置に表示させる。本実施形態における設定支援画面は、撮像装置50による被投写物SCの撮像画像に基づいて生成される。設定支援画面の元になる撮像画像については、複数の第2画像のうちの何れかを流用してもよい。第1操作の具体例としては、表示領域の輪郭線を描く操作が挙げられる。本実施形態における第1操作は、タッチパネル10に対するスワイプにより表示領域の輪郭線に対応する軌跡を描く操作である。
設定支援部420Aは、第1操作により描かれる軌跡上の点の座標を、例えば1ミリ秒等の一定期間毎に取得し、取得した各座標を示す情報と取得順を示す情報とを対応付けて配列して、表示領域の輪郭線上の複数の点を一対一に示す複数の座標を示す第1領域情報を生成する。取得順を示す情報の具体例としては、頂点順が遅い程、値が大きくなるIDが挙げられる。なお、第1操作により描かれる軌跡上の点の座標そのものではなく、当該座標に対して所定のオフセットを加算した座標を用いて第1領域情報を生成してもよい。本実施形態では、表示領域の輪郭線に対応する軌跡をタッチパネル10に対するスワイプで描くことで表示領域を指定した。しかし、タッチパネル10に対するタップ等により、表示領域の輪郭線を描くように第1表示領域の頂点を順に指定してもよい。頂点とは、輪郭線が折れ曲がる箇所のことをいう。例えば、矩形の表示領域を指定する場合には、左上隅の頂点、右上隅、右下隅、左下隅の順に矩形の4個の頂点をタップする操作が考えられる。
図3は、第1操作の実行を促すために設定支援部420Aが表示装置に表示させる設定支援画面G2、及び設定支援画面G2に対して為された第1操作の一例を示す図である。図3にて横線のハッチングを付与した領域は、特定部410によりプロジェクター座標系との対応関係を特定済の領域である。図3には、第1操作により描かれた軌跡T1が点線で図示されている。なお、図3では、図面が煩雑になることを避けるため、軌跡T1の一部のみが図示されている。設定支援部420Aにより生成される第1領域情報には、軌跡T1上の点P1、点P2、点P3、及び点P4の各々のカメラ座標系における座標を示す情報と、各点の取得順、即ち表示領域の輪郭線を作成する際に各点を線で結ぶ順を示す情報とが含まれる。
次いで、設定支援部420Aは、第1領域情報の示す複数の点の各々について、特定部410により特定された対応関係により対応付けられるプロジェクター座標系の座標の有無を判定する。そして、設定支援部420Aは、対応関係により対応付けられるプロジェクター座標系の座標が無い点の座標を第1領域情報から除外する。対応するプロジェクター座標系の座標が無い点の座標を第1領域情報から除外するのは、輪郭線上の複数の点の座標を示す第1領域情報により表される表示領域を、確実にプロジェクター座標系へ変換できるようにするためである。
図3に示す例では、点P1、点P2、点P3、及び点P4のうち、点P2は、特定部410にて対応関係が特定された領域外に位置している。つまり、点P2には、対応するプロジェクター座標系の座標は無い。このため、設定支援部420Aは、第1領域情報から点P2に関する情報を除外することで第1領域情報を補正する。図4は、補正後の第1領域情報により示される輪郭線の一部である線R1、線R1上の点P1、点P3及び点P4を示す図である。
更新部430は、第2操作がユーザーにより為された場合、第1領域情報を第2操作に応じて更新する。第2操作は、第1操作により指定された表示領域の輪郭線上の点を指定し、指定した点を移動させる操作である。第2操作に応じて第1領域情報を更新することで、複雑な形状の表示領域を設定することが可能になる。
例えば、図5に示すように、設定支援画面G2に対して、第1操作により指定された輪郭線R2上の点P5を指定し、指定した点P5を図5における矢印方向に移動させる第2操作が為されたとする。この場合、更新部430は、第1領域情報に含まれる点P5の座標を示す情報を、第2操作に応じて更新する。その結果、更新後の第1領域情報は、図6に示す輪郭線R3を示す情報となる。なお、第2操作により指定された点の座標のみを更新するのではなく、第1操作により指定された輪郭線において、第2操作により指定された点の周囲に位置する各点の座標を、第2操作により指定された点から遠ざかるほど変更量を小さくしつつ、第2操作により移動された点と同じ方向に変更することで、第1領域情報を更新してもよい。この場合、更新後の第1領域情報は、図7に示す輪郭線R4を示す情報となる。
生成部440は、第1領域情報により輪郭線上の複数の点の座標が示される表示領域に投写オブジェクトを配置した投写画像をプロジェクター2に投写させるための情報を、第1領域情報と特定部410により特定された対応関係とに基づいて生成する。より詳細に説明すると、生成部440は、特定部410により生成した変換行列を用いて、第1領域情報を、プロジェクター座標系における表示領域の輪郭線上の複数の点の座標を示す第2領域情報に変換する。第2領域情報は、第1領域情報により輪郭線上の複数の座標が示される表示領域に投写オブジェクトを配置した投写画像をプロジェクター2に投写させるための情報の一例である。第2領域情報に従って表示領域を設定し、当該表示領域に投写オブジェクトを配置した投写画像の画像データを生成し、当該画像データをプロジェクター2に与えることで、第1操作により指定された表示領域に投写オブジェクトを配置した投写画像をプロジェクター2に投写させることができるからである。
また、プログラムPAに従って作動している処理装置40は、本開示の情報生成方法を実行する。図8は、処理装置40がプログラムPAに従って実行する情報生成方法の流れを示す図である。図8に示すように、本開示の情報生成方法には、特定処理SA110、設定支援処理SA120、第1判定処理SA130、更新処理SA140、及び生成処理SA150が含まれる。
特定処理SA110では、処理装置40は、特定部410として機能する。特定処理SA110では、処理装置40は、タッチパネル10に対する操作により、ユーザーから特定開始を指示されたことを契機としてプロジェクター2に対してプロジェクター情報の送信を要求し、プロジェクター2から返信されるプロジェクター情報を取得する。次いで、処理装置40は、プロジェクター2から取得したプロジェクター情報に含まれる解像度情報に基づいて複数の計測パターンを生成する。処理装置40は、計測パターンデータの表す複数の計測パターンの各々を順次投写するようにプロジェクター2を制御する。また、処理装置40は、被投写物SCに順次投写される複数の計測パターンの各々を撮像するようにユーザーに促し、ユーザーの操作に応じて撮像装置50に撮像を行わせ、第2画像を取得する。そして、処理装置40は、第1画像と第2画像とから、カメラ座標系の座標をプロジェクター座標系の座標に変換する変換行列を生成する。
特定処理SA110に後続する設定支援処理SA120では、処理装置40は、設定支援部420Aとして機能する。設定支援処理SA120では、処理装置40は、第1操作の実行を促すために、設定支援画面をタッチパネル10の表示装置に表示させる。そして、処理装置40は第1操作によって描かれた軌跡上の各点の座標を一定期間毎に取得して第1領域情報を生成する。ただし、処理装置40は、第1領域情報の示す複数の点の座標のうち、対応するプロジェクター座標系の座標が無い点の座標を第1領域情報から除外して第1領域情報を補正する。
設定支援処理SA120に後続する第1判定処理SA130では、処理装置40は、タッチパネル10に対する操作により、第2操作が為されたか否かを判定する。第1判定処理SA130の判定結果が“No”である場合には、処理装置40は、生成処理SA150を実行する。これに対して、第1判定処理SA130の判定結果が“Yes”である場合には、処理装置40は、更新処理SA140を実行した後に生成処理SA150を実行する。更新処理SA140では、処理装置40は、更新部430として機能する。第1領域情報を第2操作に応じて更新する。
生成処理SA150では、処理装置40は生成部440として機能する。生成処理SA150では、処理装置40は、第1領域情報を、特定処理SA110にて生成した変換行列を用いて第2領域情報に変換する。
本実施形態の情報生成装置1Aによれば、被投写物SCの撮像画像に対する操作で表示領域を設定することが可能になる。このため、被投写物SCの撮像画像を一度撮像すれば、被投写物SCの設置場所へ赴くことなく表示領域を設定することが可能になる。また、本実施形態の情報生成装置1Aによれば、被投写物SCがユーザーの手が届かない高所に設置される場合でも、何らの支障なく表示領域を指定することが可能になる。このように、本実施形態の情報生成装置1Aによれば、投写画像の変更の度に被投写物SCの設置場所へ赴くことなく、簡便に表示領域を設定することが可能になる。加えて、本実施形態の情報生成装置1Aによれば、確実にプロジェクター座標系へ変換可能な表示領域を設定することが可能になる。
2.第2実施形態
図9は、本開示の第2実施形態に係る情報生成方法を実行する情報生成装置1Bを含む画像表示システム5Bの構成例を示すブロック図である。図9では、図1におけるものと同じ構成要素には、同一の符号が付されている。図9と図1とを対比すれば明らかなように、画像表示システム5Bと画像表示システム5Aとの相違点は、情報生成装置1Aに代えて情報生成装置1Bを設けた点である。情報生成装置1Bと情報生成装置1Aとの相違点は、プログラムPAに代えてプログラムPBが記憶装置30に記憶されている点である。プログラムPBは、処理装置40を特定部410、更新部430及び生成部440として機能させる点ではプログラムPAと同一である。プログラムPBは、設定支援部420Aではなく、設定支援部420Bとして処理装置40を機能させる点においてプログラムPAと異なる。
設定支援部420Bは、第1操作の実行をユーザーに促すために、撮像装置50による被投写物SCの撮像画像を元に生成した設定支援画面をタッチパネル10の表示装置に表示させる。この点は設定支援部420Aと同一である。また、設定支援部420Bは、第1操作に応じて第1領域情報を生成する。この点も、設定支援部420Aと同一である。
設定支援部420Bと設定支援部420Aとの相違点は次の通りである。設定支援部420Bは、カメラ座標系における被投写物SCの輪郭線を示す輪郭情報を取得する。輪郭情報の具体例としては、被投写物SCの撮像画像にエッジ抽出を施して得られるエッジ情報が挙げられる。エッジ情報とは、画像におけるエッジの座標を示す情報であり、エッジとは画像の水平走査方向又は垂直走査方向に画素の輝度をサンプリングしたときに輝度が急激に変化する画素のことをいう。被投写物SCの撮像画像において被投写物SCに対応する画素と被投写物SCの背景に対応する画素とでは輝度が異なることが通常である。つまり、被投写物SCの撮像画像において被投写物SCの輪郭線はエッジとなっていることが通常である。このため、被投写物SCの撮像画像から求めたエッジ情報を輪郭情報として利用することができる。なお、輪郭情報の具体例は被投写物SCの撮像画像から求めたエッジ情報には限定されず、被投写物SCをCAD(Computer Aided Design)により描画した場合のCAD情報を輪郭情報としてもよい。
次いで、設定支援部420Bは、第1領域情報の示す複数の点の各々について、輪郭情報の示す輪郭線からの距離が第1閾値以上であるか否かを判定し、判定結果が肯定である点の座標を第1領域情報から除外することで第1領域情報を補正する。なお、第1閾値の具体的な値については、適宜実験等を行って好適な値を求めればよい。例えば、設定支援画面G3に対する第1操作により、図10に示すように、軌跡T2が描かれ、軌跡T2上の点の座標として点P1、点P2、点P3、及び点P4の各々の座標が一定期間毎にこの順に取得されたとする。なお、図10では、軌跡T2の一部のみが図示されている。そして、点P2及び点P3については、被投写物SCの輪郭線からの距離が第1閾値以上であったとする。この場合、設定支援部420Bは、点P2及び点P3の各々に関する情報を第1領域情報から除外することで第1領域情報を補正する。図11は、設定支援部420Bによる補正後の第1領域情報により示される輪郭線の一部である線R5、線R5上の点P1及び点P4を示す図である。
また、プログラムPBに従って作動している処理装置40は、本開示の情報生成方法を実行する。図12は、処理装置40がプログラムPBに従って実行する情報生成方法の流れを示す図である。図12では図8におけるものと同じ構成要素には同一の符号が付されている。本実施形態の情報生成方法は、設定支援処理SA120に代えて設定支援処理SB120を設けた点において第1実施形態の設定支援処理と異なる。設定支援処理SB120では、処理装置40は、設定支援部420Bとして機能する。設定支援処理SB120Bでは、処理装置40は、第1操作の実行をユーザーに促すために、撮像装置50による被投写物SCの撮像画像を元に生成した設定支援画面をタッチパネル10の表示装置に表示させる。処理装置40は第1操作によって描かれた軌跡上の各点の座標を一定期間毎に取得して第1領域情報を生成する。また、処理装置40は、カメラ座標系における被投写物SCの輪郭線を示す輪郭情報を取得する。そして、処理装置40は、第1領域情報の示す複数の点の各々について、輪郭情報の示す輪郭線からの距離が第1閾値以上であるか否かを判定し、判定結果が肯定である点の座標を第1領域情報から除外することで第1領域情報を補正する。補正後の第1領域情報は、輪郭情報の示す輪郭線、即ち被投写物SCの輪郭線に近似した輪郭線を表す。
本実施形態の情報生成装置1Bによっても、投写画像の変更の度に被投写物SCの設置場所へ赴く必要はない。また、本実施形態の情報生成装置1Bによっても、被投写物SCがユーザーの手が届かない高所に設置される場合でも、何らの支障なく表示領域を指定することが可能になる。このように、本実施形態の情報生成装置1Bによっても、投写画像の変更の度に被投写物SCの設置場所へ赴くことなく、簡便に表示領域を設定することが可能になる。加えて、本実施形態の情報生成装置1Bによれば、被投写物SCの輪郭線に近似した輪郭線を有する表示領域を設定することが可能になる。
本実施形態における設定支援部420Bは、第1領域情報の示す複数の点の各々について、輪郭情報の示す輪郭線からの距離が第1閾値以上であるか否かを判定し、判定結果が肯定である点の座標を第1領域情報から除外することで第1領域情報を補正した。しかし、輪郭情報に基づく補正と並列に、特定部410により特定された対応関係に基づく補正を設定支援部420Bに実行させてもよい。具体的には、第1領域情報の示す複数の点の各々について、特定部410により特定された対応関係により対応付けられるプロジェクター座標系の座標の有無を判定し、対応付けられるプロジェクター座標系の座標が無い点の座標を第1領域情報から除外する処理を、設定支援部420Bに更に実行させてもよい。
3.第3実施形態
図13は、本開示の第3実施形態に係る情報生成方法を実行する情報生成装置1Cを含む画像表示システム5Cの構成例を示すブロック図である。図13では、図1におけるものと同じ構成要素には、同一の符号が付されている。図13と図1とを対比すれば明らかなように、画像表示システム5Cと画像表示システム5Aとの相違点は、情報生成装置1Aに代えて情報生成装置1Cを設けた点である。情報生成装置1Cと情報生成装置1Aとの相違点は、プログラムPAに代えてプログラムPCが記憶装置30に記憶されている点である。プログラムPCは、処理装置40を特定部410、更新部430及び生成部440として機能させる点ではプログラムPAと同一である。プログラムPCは、設定支援部420Aではなく、設定支援部420Cとして処理装置40を機能させる点においてプログラムPAと異なる。
設定支援部420Cは、第1操作の実行をユーザーに促すために、撮像装置50による被投写物SCの撮像画像を元に生成した設定支援画面をタッチパネル10の表示装置に表示させる。この点は設定支援部420Aと同一である。設定支援部420Cと設定支援部420Aとの相違点は次の通りである。
設定支援部420Cは、第1操作により描かれる軌跡に沿って一定期間毎に取得された複数の点の座標に基づいて第1の線を推定する。複数の点の座標に基づいて推定される第1の線は直線であってもよいし、曲線であってもよい。複数の点の座標に基づいて推定される直線の具体例としては、複数の点の座標から最小二乗法により求まる直線が挙げられる。また、複数の点の座標に基づいて推定される曲線の具体例としては、複数の点の座標からハフ変換により求まる曲線が挙げられる。本実施形態における第1の線は、複数の点の座標から最小二乗法により求まる直線である。また、設定支援部420Cは、第1操作により描かれる軌跡に沿って一定期間毎に取得された各座標のうち第1の線の推定に用いた各点を除いた複数の点の座標に基づいて第2の線を推定する。第2の線についても、直線であってもよいし、曲線であってもよい。本実施形態における第2の線も、複数の点の座標から最小二乗法により求まる直線である。そして、設定支援部420Cは、第1操作により描かれた輪郭線のうち、第1の線の推定に用いた各座標を通る部分を第1の線と重なるように補正し、第1操作により描かれた輪郭線のうち第2の線の推定に用いた各座標を通る部分を第2の線と重なるように補正する。
例えば、設定支援画面G4に対する第1操作により、図14に示すように、軌跡T3が描かれ、軌跡T3上の点の座標として点P1~点P6の各々の座標が一定期間毎にこの順に取得されたとする。なお、図14では、第1操作により描かれた軌跡T3の一部が点線で描画されている。点P1、点P2及び点P3は、本来一つの直線に沿って並ぶべきであるが、図14に示す例では、軌跡T3を描く際の手振れ等により一つの直線に沿って並んでいない。同様に、点P4、点P5及び点P6も、本来一つの直線に沿って並ぶべきであるが、図14に示す例では、軌跡T3を描く際の手振れ等により一つの直線に沿って並んでいない。
図14における点P1~点P3に基づく最小二乗法により直線L1が推定され、点P4~点P6に基づく最小二乗法により直線L2が推定されたとする。直線L1は第1の線の一例であり、直線L2は第2の線の一例である。この場合、設定支援部420Cは、図15に示すように、表示領域の輪郭線のうち点P1、点P2、及び点P3を通る部分を直線L1と重なるように補正する。これにより、表示領域の輪郭線のうち点P1、点P2、及び点P3を通る部分の手振れ等に起因する輪郭線のぶれが補正される。また、設定支援部420Cは、図15に示すように、表示領域の輪郭線のうち点P4、点P5、及び点P6を通る部分を直線L2と重なるように補正する。これにより、表示領域の輪郭線のうち点P4、点P5、及び点P6を通る部分の手振れ等に起因する輪郭線のぶれが補正される。そして、設定支援部420Cは、補正後の輪郭線に即して第1領域情報を補正する。具体的には、設定支援部420Cは、点P1~点P6の各点を補正後の輪郭線上に射影し、射影後の各点の座標で第1領域情報における点P1~点P6の各点の座標を更新する。
また、設定支援部420Cは、第1の線と第2の線とが交差する場合、第1の線と第2の線との交点を表示領域の輪郭線の頂点とする。ただし、当該交点に対応するプロジェクター座標系の座標が無い場合、設定支援部420Cは、当該交点を、当該交点からの距離が第2閾値未満であり、かつ、対応するプロジェクター座標系の座標を有する点に差し替えて第1領域情報を補正する。図15にて横線のハッチングを付与した領域は、特定部410によりプロジェクター座標系との対応関係を特定済の領域である。図14に示す例では、第1の線L1と第2の線L2との交点Pxは横線のハッチングが付されて領域の外に位置している。つまり、交点Pxには、対応するプロジェクター座標系の座標が無い。このため、設定支援部420Cは、交点Pxを、当該交点Pxからの距離が第2閾値未満であり、かつ、対応するプロジェクター座標系の座標を有する点P7に差し替えて第1領域情報を補正する。この結果、第1領域情報の示す複数の座標を通る輪郭線のうち、点P1~点P3、点P7、点P4~点P6に対応する部分は図15に示す線R6のようになる。
また、プログラムPCに従って作動している処理装置40は、本開示の情報生成方法を実行する。図16は、処理装置40がプログラムPCに従って実行する情報生成方法の流れを示す図である。図16では図8におけるものと同じ構成要素には同一の符号が付されている。本実施形態の情報生成方法は、設定支援処理SA120に代えて設定支援処理SC120を設けた点において第1実施形態の情報生成方法と異なる。設定支援処理SC120では、処理装置40は、設定支援部420Cとして機能する。
設定支援処理SC120では、処理装置40は、第1操作の実行をユーザーに促すために、撮像装置50による被投写物SCの撮像画像を元に生成した設定支援画面をタッチパネル10の表示装置に表示させる。処理装置40は第1操作によって描かれた軌跡上の各点の座標を一定期間毎に取得して第1領域情報を生成する。
次いで、処理装置40は、第1操作により描かれる軌跡に沿って一定期間毎に取得された複数の点の座標に基づいて第1の線を推定する。また、処理装置40は、第1操作により描かれる軌跡に沿って一定期間毎に取得された各座標のうち第1の線の推定に用いた各点を除いた複数の点の座標に基づいて第2の線を推定する。
次いで、処理装置40は、第1操作により描かれた輪郭線のうち、第1の線の推定に用いた各座標を通る部分を第1の線と重なるように補正し、第1操作により描かれた輪郭線のうち第2の線の推定に用いた各座標を通る部分を第2の線と重なるように補正する。第1の線と第2の線とが交差する場合、処理装置40は、第1の線と第2の線との交点を表示領域の輪郭線の頂点とする。ただし、当該交点に対応するプロジェクター座標系の座標が無い場合、処理装置40は、当該交点を、当該交点からの距離が第2閾値未満であり、かつ、対応するプロジェクター座標系の座標を有する点に差し替えて第1領域情報を補正する。
本実施形態の情報生成装置1Cによっても、投写画像の変更の度に被投写物SCの設置場所へ赴く必要はない。また、本実施形態の情報生成装置1Cによっても、被投写物SCがユーザーの手が届かない高所に設置される場合でも、何らの支障なく表示領域を指定することが可能になる。このように、本実施形態の情報生成装置1Cによっても、投写画像の変更の度に被投写物SCの設置場所へ赴くことなく、簡便に表示領域を設定することが可能になる。加えて、本実施形態の情報生成装置1Cによれば、表示領域の輪郭線を手動で描画する際の手振れ等に起因する輪郭線のぶれを低減しつつ、確実にプロジェクター座標系へ変換可能な表示領域を設定することが可能になる。
4.変形例
上述の各実施形態は、以下のように変更されてもよい。
(1)各実施形態では、輪郭線を描く操作で表示領域を指定した。しかし、各種の多角形或いは楕円等の予め定められた図形を用いて表示領域をユーザーに指定させてもよい。例えば、予め定められた複数種の図形のうちの何れかを選択させるためのプルダウンメニューを表示する場合には、当該プルダウンメニューに表示される図形を選択する操作と選択された図形の位置及び形状の少なくとも一方を変更する操作とにより表示領域を指定すればよい。また、被投写物SCの全体の形状或いは被投写物SCの各面の形状をエッジ検出等を利用して特定し、当該特定された形状に対応する図形を上記プルダウンメニューに含めてもよい。
(2)第1実施形態における情報生成装置1Aは撮像装置50を有するスマートフォンであったが、撮像装置を備えるタブレット端末或いは撮像装置を備えるノート型或いは据え置き型のパーソナルコンピューターであってもよい。なお、ノート型或いは据え置き型のパーソナルコンピューターを本開示の情報生成装置として用いる場合には、マウス又はキーボードを入力装置として、表示領域を指定する第1操作を受け付けてもよい。
また、情報生成装置がLAN等のネットワーク経由のデータ通信により撮像画像を取得できる場合には、情報生成装置が撮像装置を備えている必要はない。また、スマートフォン或いはタブレット端末等の携帯端末とLAN又はインターネットを介して通信するサーバー装置とを有するコンピューターシステムにおいて、サーバー装置の処理装置を特定部410、設定支援部420A、更新部430及び生成部440として機能させ、当該携帯端末に表示装置及び入力装置の役割を担わせてもよい。このコンピューターシステムは本開示の情報生成システムの一例である。第2実施形態における情報生成装置1B及び第3実施形態における情報生成装置1Cについても同様である。
(3)第1実施形態における特定部410、設定支援部420A、更新部430、及び生成部440はソフトウェアモジュールであった。しかし、特定部410、設定支援部420A、更新部430、及び生成部440の一部又は全部は、ハードウェアであってもよい。このハードウェアの一例としては、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、及びFPGA(Field Programmable Gate Array)が挙げられる。特定部410、設定支援部420A、更新部430、及び生成部440の一部又は全部がハードウェアであっても、第1実施形態と同一の効果が奏される。第2実施形態における特定部410、設定支援部420B、更新部430、及び生成部440についても、同様に、一部又は全部がハードウェアであってもよい。また、第3実施形態における特定部410、設定支援部420C、更新部430、及び生成部440についても同様に一部又は全部がハードウェアであってもよい。
(4)第1実施形態の情報生成装置1Aは特定部410、設定支援部420A、更新部430、及び生成部440を有していた。しかし、更新部430は省略可能であり、図8に示す情報生成方法の第1判定処理SA130及び更新処理SA140も省略可能である。更新部430、第1判定処理SA130及び更新処理SA140を省略しても、表示領域の設定の度に被投写物SCの設置場所へ赴く必要はなく、被投写物SCがユーザーの手が届かない高所に設置される場合でも何らの支障なく表示領域を指定できるからである。第2実施形態の情報生成装置1B及び第3実施形態の情報生成装置1Cについても同様に、更新部430は省略可能であり、第1判定処理SA130及び更新処理SA140も省略可能である。
(5)第1実施形態では、プログラムPAが記憶装置30に記憶済であった。しかし、プログラムPAを単体で製造又は配布してもよい。プログラムPAの具体的な配布方法としては、フラッシュROM(Read Only Memory)等のコンピューター読み取り可能な記録媒体に上記プログラムPAを書き込んで配布する態様、又はインターネット等の電気通信回線経由のダウンロードにより配布する態様が考えられる。当該プログラムPAをパーソナルコンピューター等の一般的な情報処理装置にインストールし、当該情報処理装置のCPU等のコンピューターを当該プログラムに従って作動させることで当該情報処理装置を本開示の情報生成装置として機能させることが可能になる。第2実施形態のプログラムPB及び第3実施形態のプログラムPCについても同様である。
5.実施形態及び各変形例の少なくとも1つから把握される態様
本開示は、上述した実施形態及び変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の態様で実現することができる。例えば、本開示は、以下の態様によっても実現可能である。以下に記載した各態様中の技術的特徴に対応する上記実施形態中の技術的特徴は、本開示の課題の一部又は全部を解決するために、或いは本開示の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
以上に説明した課題を解決するため、本開示の情報生成方法の一態様は、特定処理SA110、設定支援処理SA120、及び生成処理SA150を含む。特定処理SA110では、プロジェクター2から被投写物SCに投写される計測パターンの画像と、計測パターンの画像を投写されている状態の被投写物SCを撮像装置50により撮像して得られる撮像画像とから、プロジェクター座標系とカメラ座標系との対応関係が特定される。プロジェクター座標系は、プロジェクター2が投写する投写画像上の位置を表す座標系である。カメラ座標系は、撮像装置50によって撮像される撮像画像上の位置を表す座標系である。計測パターンの画像は本開示における第1画像の一例である。撮像装置50による撮像画像は本開示における第2画像の一例である。撮像装置50は本開示におけるカメラの一例である。設定支援処理SA120では、撮像装置50による被投写物SCの撮像画像を、タッチパネル10の表示装置に表示させる。これにより、プロジェクター2から被投写物SCに投写する投写オブジェクトのカメラ座標系における配置先となる表示領域を指定する第1操作の実行をユーザーに促す。生成処理SA150では、第1操作により指定された表示領域に投写オブジェクトを配置した投写画像をプロジェクターに投写させるための情報が、第1操作により指定された表示領域を示す情報と対応関係とに基づいて生成される。本態様の情報生成方法によれば、被投写物SCがユーザーの手が届かない高所に設置される場合でも、表示領域を何らの支障なく指定することが可能になる。また、本態様の情報生成方法によれば、投写画像の変更の度に被投写物SCの設置場所へ赴くことなく表示領域を設定することが可能になる。
より好ましい態様の情報生成方法においては、表示領域を示す情報は、表示領域の輪郭線上の複数の点を示す情報である。第1操作は、表示装置に表示されている撮像画像上で表示領域の輪郭線を描く操作である。設定支援処理SA120では、第1操作により描かれる軌跡上の点の座標が一定期間毎に取得され、取得した各座標は表示領域の輪郭線上の点の座標とされる。本態様によれば、表示領域の輪郭線を描く操作により、表示領域を指定することが可能になる。
更に好ましい態様の情報生成方法においては、第1操作は、表示装置を含むタッチパネルに対するスワイプにより表示領域の輪郭線を描く操作である。本態様によれば、スワイプ操作で表示領域を指定することが可能になる。
別の好ましい態様の情報生成方法における設定支援処理SA120では、取得した各座標のうち、特定処理SA110にて特定された対応関係により対応付けられるプロジェクター座標系の座標が無い座標については、第1操作により描かれた輪郭線上の複数の点を一対一に示す複数の座標から除外される。本態様によれば、プロジェクター座標系へ確実に変換可能な表示領域を設定することが可能になる。
別の好ましい態様の情報生成方法は、設定支援処理SA120に代えて設定支援処理SB120を含んでもよい。設定支援処理SB120では、カメラ座標系における被投写物SCの輪郭線を示す輪郭情報が取得される。設定支援処理SB120では、取得した各座標について、輪郭情報の示す輪郭線からの距離が第1閾値以上であるか否かが判定される。そして、判定結果が肯定である座標は、第1操作により描かれた輪郭線上の複数の点を一対一に示す複数の座標から除外される。本態様によれば、被投写物の輪郭に近似した表示領域を設定することが可能になる。
別の好ましい態様の情報生成方法においては、設定支援処理SA120に代えて設定支援処理SC120を含んでもよい。設定支援処理SC120では、第1操作により描かれた軌跡に沿って一定期間毎に取得された複数の座標に基づいて第1の線が推定される。また、設定支援処理SC120では、第1の線の推定に用いた各座標を除いて、第1操作により描かれた軌跡に沿って一定期間毎に取得された複数の座標に基づいて第2の線が推定される。設定支援処理SC120では、記第1操作により描かれた輪郭線のうち第1の線の推定に用いた各座標を通る部分は第1の線と重なるように補正され、第2の線の推定に用いた各座標を通る部分は第2の線と重なるように補正される。本態様によれば、手動で輪郭線を描画する際の手振れ等に起因する輪郭線のぶれを低減することが可能になる。
別の好ましい態様の情報生成方法においては、設定支援処理SC120では、第1の線と第2の線とが交差する場合、第1の線と第2の線との交点は、第1操作により指定された表示領域の頂点とされる。本態様によれば、手動で輪郭線を描画する際の手振れ等に起因する輪郭線のぶれを低減しつつ、表示領域の頂点を新たに設定することが可能になる。
更に好ましい態様の情報生成方法では、第1の線と第2の線との交点に対応するプロジェクター座標系の座標が無い場合、第1の線と第2の線との交点に応じて定めた頂点を、当該頂点からの距離が第2閾値未満であり、かつ、対応するプロジェクター座標系の座標を有する点に差し替えることで、表示領域を示す情報が補正される。本態様によれば、手振れ等に起因する輪郭線のぶれを低減しつつ、確実にプロジェクター座標系へ変換可能な表示領域を設定することが可能になる。
別の好ましい態様の情報生成方法においては、表示領域の輪郭線上の点を指定し、指定した点を移動させる第2操作が前記ユーザーにより為された場合、表示領域を示す情報は第2操作に応じて更新する更新処理SA140を更に含んでもよい。本態様によれば、複雑な形状の表示領域を設定することが可能になる。
以上に説明した課題を解決するため、本開示の情報生成システムは、入力装置、表示装置、及び処理装置40を含む。処理装置40は、前述の特定処理SA110、設定支援処理SA120、及び生成処理SA150を実行してもよい。また、処理装置40は、前述の特定処理SA110、設定支援処理SB120、及び生成処理SA150を実行してもよい。また、処理装置40は、前述の特定処理SA110、設定支援処理SC120、及び生成処理SA150を実行してもよい。これらの態様の情報生成システムによっても、被投写物SCがユーザーの手が届かない高所に設置される場合でも、表示領域を何らの支障なく指定することが可能になる。また、投写画像の変更の度に被投写物SCが設置される場所に赴くことなく表示領域を設定することも可能になる。
以上に説明した課題を解決するため、本開示のプログラムは、コンピューターに、前述の特定処理SA110、設定支援処理SA120、及び生成処理SA150を実行させてもよい。また、本開示のプログラムは、前述の特定処理SA110、設定支援処理SB120、及び生成処理SA150を実行させてもよい。また、前述の特定処理SA110、設定支援処理SC120、及び生成処理SA150を実行させてもよい。これらの態様のプログラムによっても、被投写物SCがユーザーの手が届かない高所に設置される場合でも、表示領域を何らの支障なく指定することが可能になる。また、投写画像の変更の度に被投写物SCの設置場所に赴くことなく表示領域を設定することも可能になる。
1A,1B、1C…情報生成装置、2…プロジェクター、10…タッチパネル、20…通信装置、30…記憶装置、40…処理装置、410…特定部、420A、420B,420C…設定支援部、430…更新部、440…生成部、50…撮像装置、PA…プログラム、SC…被投写物、5A,5B,5C…画像表示システム。

Claims (11)

  1. プロジェクターから被投写物に投写される第1画像と、前記第1画像を投写されている状態の前記被投写物をカメラにより撮像して得られる第2画像とから、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係を特定し、
    前記カメラによる前記被投写物の撮像画像を表示装置に表示させることにより、前記プロジェクターから前記被投写物に投写する投写オブジェクトの前記カメラ座標系における配置先となる表示領域を指定する第1操作の実行をユーザーに促し、
    前記第1操作により指定された前記表示領域に前記投写オブジェクトを配置した投写画像を前記プロジェクターに投写させるための情報を、前記第1操作により指定された前記表示領域を示す情報と前記対応関係とに基づいて生成する、
    情報生成方法。
  2. 前記表示領域を示す情報は、前記表示領域の輪郭線上の複数の点を示す情報であり、
    前記第1操作は、前記表示装置に表示されている前記撮像画像上で前記輪郭線を描く操作であり、前記第1操作により描かれる軌跡上の点の座標を一定期間毎に取得し、取得した各座標を、前記輪郭線上の点の座標とする、請求項1に記載の情報生成方法。
  3. 前記第1操作は、前記表示装置を含むタッチパネルに対するスワイプにより、前記輪郭線を描く操作である、請求項2に記載の情報生成方法。
  4. 前記取得した各座標のうち、前記対応関係により対応付けられる前記プロジェクター座標系の座標が無い座標については、前記第1操作により描かれた輪郭線上の複数の点を一対一に示す複数の座標から除外する、請求項2又は請求項3に記載の情報生成方法。
  5. 前記カメラ座標系における前記被投写物の輪郭線を示す輪郭情報を取得し、前記取得した各座標について、前記輪郭情報の示す輪郭線からの距離が第1閾値以上であるか否かを判定し、
    判定結果が肯定である座標については、前記第1操作により描かれた輪郭線上の複数の点を一対一に示す複数の座標から除外する、請求項2乃至4のうちの何れか1項に記載の情報生成方法。
  6. 前記軌跡に沿って前記一定期間毎に取得された複数の座標に基づいて第1の線を推定し、
    前記第1の線の推定に用いた各座標を除いて前記軌跡に沿って前記一定期間毎に取得された複数の座標に基づいて第2の線を推定し、
    前記第1操作により描かれた輪郭線のうち、前記第1の線の推定に用いた各座標を通る部分を、前記第1の線と重なるように補正し、
    前記第1操作により描かれた輪郭線のうち、前記第2の線の推定に用いた各座標を通る部分を、前記第2の線と重なるように補正する、請求項2に記載の情報生成方法。
  7. 前記第1の線と前記第2の線との交点を、前記表示領域の輪郭線の頂点とする、請求項6に記載の情報生成方法。
  8. 前記頂点に対応する前記プロジェクター座標系の座標が無い場合、前記頂点を、前記頂点からの距離が第2閾値未満であり、かつ、対応する前記プロジェクター座標系の座標を有する点に差し替えて、前記表示領域を示す情報を補正する、請求項6に記載の情報生成方法。
  9. 前記表示領域の輪郭線上の点を指定し、指定した点を移動させる第2操作が前記ユーザーにより為された場合、前記表示領域を示す情報を前記第2操作に応じて更新する、請求項1乃至7のうちの何れか1項に記載の情報生成方法。
  10. 入力装置と、
    表示装置と、
    処理装置と、を備え、
    前記処理装置は、
    プロジェクターから被投写物に投写される第1画像と、前記第1画像を投写されている状態の前記被投写物をカメラにより撮像して得られる第2画像とから、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係を特定すること、
    前記カメラによる前記被投写物の撮像画像を前記表示装置に表示させることで、前記プロジェクターから前記被投写物に投写する投写オブジェクトの前記カメラ座標系における配置先となる表示領域を指定する第1操作の前記入力装置への入力をユーザーに促すこと、及び、
    前記第1操作により指定された前記表示領域に前記投写オブジェクトを配置した投写画像を前記プロジェクターに投写させるための情報を、前記第1操作により指定された前記表示領域を示す情報と前記対応関係とに基づいて生成すること、を実行する、
    情報生成システム。
  11. コンピューターに、
    プロジェクターから被投写物に投写される第1画像と、前記第1画像を投写されている状態の前記被投写物をカメラにより撮像して得られる第2画像とから、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係を特定すること、
    前記カメラによる前記被投写物の撮像画像を表示装置に表示させることで、前記プロジェクターから前記被投写物に投写する投写オブジェクトの前記カメラ座標系における配置先となる表示領域を指定する第1操作の実行をユーザーに促すこと、及び、
    前記第1操作により指定された前記表示領域に前記投写オブジェクトを配置した投写画像を前記プロジェクターに投写させるための情報を、前記第1操作により指定された前記表示領域を示す情報と前記対応関係とに基づいて生成すること、
    を実行させるプログラム。
JP2020151908A 2020-09-10 2020-09-10 情報生成方法、情報生成システム、及びプログラム Pending JP2022046059A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020151908A JP2022046059A (ja) 2020-09-10 2020-09-10 情報生成方法、情報生成システム、及びプログラム
US17/470,760 US11818516B2 (en) 2020-09-10 2021-09-09 Information generation method using projection image and taken image, information generation system, and non-transitory computer-readable storage medium storing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020151908A JP2022046059A (ja) 2020-09-10 2020-09-10 情報生成方法、情報生成システム、及びプログラム

Publications (2)

Publication Number Publication Date
JP2022046059A true JP2022046059A (ja) 2022-03-23
JP2022046059A5 JP2022046059A5 (ja) 2023-05-25

Family

ID=80471067

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020151908A Pending JP2022046059A (ja) 2020-09-10 2020-09-10 情報生成方法、情報生成システム、及びプログラム

Country Status (2)

Country Link
US (1) US11818516B2 (ja)
JP (1) JP2022046059A (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7272336B2 (ja) * 2020-09-09 2023-05-12 セイコーエプソン株式会社 情報生成方法、情報生成システム、及びプログラム
JP7163947B2 (ja) * 2020-10-22 2022-11-01 セイコーエプソン株式会社 投写領域の設定支援方法、設定支援システム、及びプログラム
WO2023168836A1 (zh) * 2022-03-11 2023-09-14 亮风台(上海)信息科技有限公司 一种投影交互方法、设备、介质及程序产品
CN115174879B (zh) * 2022-07-18 2024-03-15 峰米(重庆)创新科技有限公司 投影画面校正方法、装置、计算机设备和存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4377247B2 (ja) 2004-01-08 2009-12-02 日本電信電話株式会社 プロジェクタ投影制御システムおよびプロジェクタ投影制御方法
JP6429545B2 (ja) * 2014-09-10 2018-11-28 キヤノン株式会社 制御装置、制御方法
JP6358069B2 (ja) 2014-12-10 2018-07-18 カシオ計算機株式会社 情報出力制御装置及びプログラム
US20160173840A1 (en) 2014-12-10 2016-06-16 Casio Computer Co., Ltd. Information output control device
DE102015219538A1 (de) 2015-10-08 2017-04-13 Robert Bosch Gmbh Verfahren zur Aufnahme eines Bildes mit einem Mobilgerät
JP2017123050A (ja) 2016-01-07 2017-07-13 ソニー株式会社 情報処理装置、情報処理方法、プログラム、及びサーバ

Also Published As

Publication number Publication date
US11818516B2 (en) 2023-11-14
US20220078384A1 (en) 2022-03-10

Similar Documents

Publication Publication Date Title
JP2022046059A (ja) 情報生成方法、情報生成システム、及びプログラム
CN114173105B (zh) 信息生成方法、信息生成***以及记录介质
JP5870586B2 (ja) プロジェクタ制御装置、表示装置及びプログラム。
JP2007142495A (ja) 平面投影装置、及び平面投影プログラム
CN114630089B (zh) 投射方法、投射***以及记录介质
JP2020178248A (ja) 投影制御装置、投影制御方法、投影システム、プログラム、記憶媒体
US11496721B2 (en) Setting assistance method and setting assistance apparatus
JP2020178221A (ja) 投影制御装置、投影制御方法およびプログラム
CN114245094B (zh) 信息生成方法、信息生成***以及记录介质
CN114500963B (zh) 确定方法、确定***和记录介质
CN114979616B (zh) 显示方法、信息处理装置以及记录介质
JP7347205B2 (ja) 投写システムの制御方法、投写システム及び制御プログラム
CN114390265B (zh) 投射区域的设定辅助方法、设定辅助***以及记录介质
US20230314914A1 (en) Image display method, information processing apparatus, and recording medium having program recorded thereon
JP6787389B2 (ja) 検出装置、検出システム、検出方法、情報処理装置、及び処理プログラム
US20230316609A1 (en) Image editing method, information processing apparatus, and recording medium having program recorded thereon
US20230276036A1 (en) Method of adjusting projection image, projection system, and control apparatus
US20240069691A1 (en) Display method, display apparatus, and non-transitory computer-readable storage medium storing program
JP2023097879A (ja) 表示方法、プロジェクターおよびプログラム
CN115022602A (zh) 显示控制方法和记录介质

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20210922

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20211104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230516

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240528