JP7272336B2 - 情報生成方法、情報生成システム、及びプログラム - Google Patents

情報生成方法、情報生成システム、及びプログラム Download PDF

Info

Publication number
JP7272336B2
JP7272336B2 JP2020151096A JP2020151096A JP7272336B2 JP 7272336 B2 JP7272336 B2 JP 7272336B2 JP 2020151096 A JP2020151096 A JP 2020151096A JP 2020151096 A JP2020151096 A JP 2020151096A JP 7272336 B2 JP7272336 B2 JP 7272336B2
Authority
JP
Japan
Prior art keywords
coordinate system
projector
image
display area
projected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020151096A
Other languages
English (en)
Other versions
JP2022045483A (ja
Inventor
一平 黒田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2020151096A priority Critical patent/JP7272336B2/ja
Priority to CN202111047027.2A priority patent/CN114245094B/zh
Priority to US17/469,315 priority patent/US11616935B2/en
Publication of JP2022045483A publication Critical patent/JP2022045483A/ja
Application granted granted Critical
Publication of JP7272336B2 publication Critical patent/JP7272336B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/48Details of cameras or camera bodies; Accessories therefor adapted for combination with other photographic or optical apparatus
    • G03B17/54Details of cameras or camera bodies; Accessories therefor adapted for combination with other photographic or optical apparatus with projector
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/14Details
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/14Details
    • G03B21/147Optical correction of image distortions, e.g. keystone
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/10Selection of transformation methods according to the characteristics of the input images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3173Constructional details thereof wherein the projection device is specially adapted for enhanced portability
    • H04N9/3176Constructional details thereof wherein the projection device is specially adapted for enhanced portability wherein the projection device is incorporated in a camera
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/54Accessories
    • G03B21/56Projection screens
    • G03B21/60Projection screens characterised by the nature of the surface
    • G03B21/606Projection screens characterised by the nature of the surface for relief projection
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2206/00Systems for exchange of information between different pieces of apparatus, e.g. for exchanging trimming information, for photo finishing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Description

本開示は、情報生成方法、情報生成システム、及びプログラム、に関する。
プロジェクションマッピングのように、三次元形状を有する被投写物に対してプロジェクターから投写画像を投写することが一般に行われている。また、投写画像を投写されている状態の被投写物をカメラにより撮像し、投写画像の作成或いは設定等に当該撮像画像を利用することも提案されている。例えば、特許文献1には、プロジェクターの投写画像の画素数よりも少ない画素数のカメラを利用して投写画像を設定する方法が記載されている。特許文献1に開示の方法では、プロジェクターから格子パターン画像を投写されている状態の被投写物を撮像して得られる撮像画像上の格子パターンの座標と、格子パターン画像上での格子パターンの座標との相対関係から、プロジェクター座標系上の画素の位置とカメラ座標系上の画素の位置との対応関係が取得される。なお、プロジェクター座標系とは、プロジェクターの投写画像上の位置を示す座標系である。カメラ座標系とは、カメラの撮像画像上の位置を示す座標系である。
特開2006-33357号公報
プロジェクションマッピングの投写画像には、三次元形状を有する被投写物に投写される各種投写オブジェクトが含まれるのが通常である。閲覧者の目には投写画像を投写されている状態の被投写物の撮像画像に近い画像が写るため、カメラ座標系での表示領域の形状及び位置を確認することは重要である。しかし、従来、投写画像において投写オブジェクトの配置先となる表示領域の設定等はプロジェクター座標系において行われることが一般的であり、カメラ座標系での表示領域の形状及び位置を確認しつつ表示領域を設定することはできなかった。
以上の課題を解決するために、本開示の情報生成方法は、プロジェクターから投写される第1画像と、前記第1画像が投写されている状態の被投写物をカメラで撮影して得られる第2画像とに基づいて、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係を特定し、前記カメラ座標系と前記プロジェクター座標系とのうちの一方である第1座標系において、前記プロジェクターから前記被投写物に投写する投写オブジェクトの配置先となる第1表示領域を指定する第1操作を受け付け、前記第1表示領域を、前記対応関係に基づいて前記カメラ座標系と前記プロジェクター座標系とのうちの他方である第2座標系において前記投写オブジェクトの配置先となる第2表示領域に変換し、前記第2表示領域の形状、及び位置のうちの少なくとも一方を変更する第2操作を受け付け、前記投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報を前記第2操作に応じて生成する。
また、上記課題を解決するために、本開示の情報生成システムは、入力装置と、処理装置と、を備える。前記処理装置は、プロジェクターから投写される第1画像と、前記第1画像が投写されている状態の被投写物をカメラで撮影して得られる第2画像とに基づいて、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像された撮像画像上の位置を表すカメラ座標系との対応関係を特定すること、前記カメラ座標系と前記プロジェクター座標系とのうちの一方である第1座標系において、前記プロジェクターから前記被投写物に投写する投写オブジェクトの配置先となる第1表示領域を指定する第1操作を受け付けること、前記第1表示領域を、前記対応関係に基づいて前記カメラ座標系と前記プロジェクター座標系とのうちの他方である第2座標系において前記投写オブジェクトの配置先となる第2表示領域に変換すること、前記第2表示領域の形状、及び位置のうちの少なくとも一方を変更する第2操作を受け付けること、及び、前記投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報を前記第2操作に応じて生成すること、を実行する。
また、上記課題を解決するために、本開示のプログラムは、コンピューターに、プロジェクターから投写される第1画像と、前記第1画像が投写されている状態の被投写物をカメラで撮影して得られる第2画像とに基づいて、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像された撮像画像上の位置を表すカメラ座標系との対応関係を特定すること、前記カメラ座標系と前記プロジェクター座標系とのうちの一方である第1座標系において、前記プロジェクターから前記被投写物に投写する投写オブジェクトの配置先となる第1表示領域を指定する第1操作を受け付け、前記第1表示領域を、前記対応関係に基づいて前記カメラ座標系と前記プロジェクター座標系とのうちの他方である第2座標系において前記投写オブジェクトの配置先となる第2表示領域に変換すること、前記第2表示領域の形状、及び位置のうちの少なくとも一方を変更する第2操作を受け付けること、及び、前記投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報を前記第2操作に応じて生成すること、を実行させる。
本開示の第1実施形態に係る情報生成方法を実行する情報生成装置1Aを含む画像表示システム5Aの構成例を示すブロック図である。 本実施形態における計測パターンの一例を示す図である。 情報生成装置1Aの処理装置40が、第1操作の実行を促すために表示装置に表示させる画像の一例を示す図である。 処理装置40が、第2操作の実行を促すために表示装置に表示させる画像の一例を示す図である。 処理装置40がプログラムPAに従って実行する情報生成方法の流れを示すフローチャートである。 本開示の第2実施形態に係る情報生成方法を実行する情報生成装置1Bを含む画像表示システム5Bの構成例を示すブロック図である。 撮像装置50による撮像画像の一例を示す図である。 第1操作に応じて設定される第1表示領域A1の一例を示す図である。 第2表示領域A2の表示例を示す図である。 情報生成装置1BがプログラムPBに従って実行する情報生成方法の流れを示すフローチャートである。
以下、図面を参照して本開示の実施形態を説明する。以下に述べる実施形態には技術的に好ましい種々の限定が付されている。しかし、本開示の実施形態は、以下に述べる形態に限られるものではない。
1.第1実施形態
図1は、本開示の第1実施形態に係る情報生成方法を実行する情報生成装置1Aを含む画像表示システム5Aの構成例を示すブロック図である。画像表示システム5Aには、情報生成装置1Aの他に、情報生成装置1Aと通信するプロジェクター2が含まれる。プロジェクター2は、情報生成装置1Aから供給される画像データに応じた投写画像G1を被投写物SCの表面に投写する。図1では、詳細な図示を省略したが、プロジェクター2は、光源と、光変調装置としての3つの表示パネルと、投写レンズと、表示パネル駆動部とを備える。3つの表示パネルの各々は、夫々赤、緑及び青の各色に対応する。本実施形態では、表示パネルは液晶ライトバルブである。表示パネル駆動部は、情報生成装置1Aから供給される画像データに応じて上記3つの表示パネルの各々における光の透過率を制御する。プロジェクター2は、光源から射出された光を3つの表示パネルの各々で変調して画像光を形成し、この画像光を投写レンズから投写して被投写物SCの表面に投写画像G1を表示する。本実施形態における被投写物SCは、図1に示すように直方体であるが、三角錐或いは四角錐等、多角形の連結により構成される三次元形状、或いは曲面を有する三次元形状であってもよい。
情報生成装置1Aは、例えばスマートフォンである。情報生成装置1Aは、撮像機能、及びプロジェクター2と通信する通信機能、を有する。情報生成装置1Aとプロジェクター2とがネットワーク接続されると、情報生成装置1Aは、プロジェクター2と通信し、プロジェクター2からプロジェクター情報を取得する。プロジェクター情報には、解像度情報、及びプロジェクター2において復号化可能な圧縮形式を示す圧縮形式情報が含まれる。解像度情報は、プロジェクター2における表示パネルの解像度を示す情報である。解像度情報は、プロジェクター2により被投写物SCに投写される投写画像の位置を計測するための計測パターンを生成する際に利用される。詳細については後述するが、本実施形態では、計測パターンとしてバイナリコードパターンが用いられる。圧縮形式情報は、計測パターンを示す計測パターンデータを圧縮して情報生成装置1Aからプロジェクター2へ送信する場合における計測パターンデータの圧縮形式の決定に利用される。情報生成装置1Aからプロジェクター2へ計測パターンデータを圧縮して送信する場合の圧縮形式は、ランレングス、LZH、PNG、及びGIF等の可逆圧縮形式が望ましい。
情報生成装置1Aは、プロジェクター2から取得した解像度情報を用いて複数の計測パターンの各々を表す計測パターンデータを生成し、生成した計測パターンデータをプロジェクター2に与える。プロジェクター2は、情報生成装置1Aから与えられる計測パターンデータの示す複数の計測パターンの各々の画像を被投写物SCに投写する。なお、情報生成装置1Aからプロジェクター2へコマンドを送信し、このコマンドに基づいて計測パターンデータをプロジェクター2が生成してもよく、この場合、プロジェクター情報に圧縮形式情報を含めておく必要はない。プロジェクター2で計測パターンデータを生成する態様であれば、情報生成装置1Aからプロジェクター2に計測パターンを伝達するための通信時間が短縮される。情報生成装置1Aは、計測パターン毎に、プロジェクター2により計測パターンの画像を投写されている状態の被投写物SCを撮像することをユーザーに促す。情報生成装置1Aは、計測パターンの画像を投写されている状態の被投写物SCをユーザーの操作に応じて、撮像機能により撮像する。
情報生成装置1Aは、撮像された複数の撮像画像と複数の計測パターンの画像とからプロジェクター座標系とカメラ座標系との対応関係を特定する。プロジェクター座標系とはプロジェクター2による投写画像上の位置を示す座標系である。プロジェクター座標系の一例としては、投写画像の左上隅を原点とする二次元座標系が挙げられる。カメラ座標系とは、撮像画像上の位置を示す座標系である。カメラ座標系の具体例としては撮像画像の左上隅を原点とする二次元座標系が挙げられる。プロジェクター座標系とカメラ座標系との対応関係を特定するとは、一方の座標系から他方の座標系への射影変換のための変換行列を生成することをいう。
本実施形態では、投写画像において投写オブジェクトの配置先となる表示領域はカメラ座標系において指定される。そして、プロジェクター座標系とカメラ座標系との対応関係を利用することで、カメラ座標系において指定された投写オブジェクトの表示領域をプロジェクター座標系における表示領域に変換し、表示領域の位置及び形状の少なくとも一方をプロジェクター座標系において変更することができる。カメラ座標系とプロジェクター座標系との対応関係の精度が低い場合、カメラ座標系において表示領域が指定されると、プロジェクター座標系では表示領域がずれる可能性がある。カメラ座標系において指定された表示領域の位置及び形状の少なくとも一方をプロジェクター座標系において変更するのは、カメラ座標系とプロジェクター座標系との対応関係の精度の低さに起因する表示領域のずれを補正するためである。
図1に示すように、情報生成装置1Aは、タッチパネル10と、通信装置20と、記憶装置30と、処理装置40と、撮像装置50と、を含む。通信装置20は、無線通信モジュール又は有線通信モジュールである。通信装置20が有線通信モジュールである場合、通信装置20は通信線を介してプロジェクター2に接続される。情報生成装置1Aとプロジェクター2との接続は、無線アクセスポイント装置又はルーター等の中継装置を介さない直接接続であってもよいし、中継装置を介する間接接続であってもよい。通信装置20が無線通信モジュールである場合、直接接続の具体例としてはアドホック接続が挙げられ、間接接続の具体例としては無線アクセスポイント装置を介するアクセスポイント接続が挙げられる。また、通信装置20が有線通信モジュールである場合、直接接続の具体例としてはピアトゥーピア接続が挙げられ、間接接続の具体例としては有線ルーター又は有線ハブを介する接続が挙げられる。通信装置20は、処理装置40による制御の下、プロジェクター2と通信する。撮像装置50はカメラである。撮像装置50は、処理装置40による制御の下で撮像を行い、撮像画像を表す画像データを処理装置40に供給する。
タッチパネル10は、画像を表示する表示装置と、ユーザーによる情報が入力される入力装置とが、一体化された装置である。入力装置は、例えば透明なシート状の接触センサーである。入力装置は、表示装置の表示面を覆うように設けられる。入力装置は、当該入力装置に接触する物体と当該入力装置とによって特定される静電容量を用いてタッチ位置を検出し、検出したタッチ位置を示すデータを処理装置40へ出力する。これにより、タッチパネル10に対するユーザーの操作内容が処理装置40へ伝達される。
記憶装置30は、処理装置40が読み取り可能な記録媒体である。記憶装置30は、例えば、不揮発性メモリーと揮発性メモリーとを含む。不揮発性メモリーは、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable Read Only Memory)又はEEPROM(Electrically Erasable Programmable Read Only Memory)である。揮発性メモリーは、例えば、RAM(Radom Access Memory)である。
記憶装置30の不揮発性メモリーには、処理装置40によって実行されるプログラムPAが記憶される。記憶装置30の揮発性メモリーはプログラムPAを実行する際のワークエリアとして処理装置40によって利用される。プログラムPAは、「アプリケーションプログラム」、「アプリケーションソフトウェア」又は「アプリ」とも称され得る。プログラムPAは、例えば、通信装置20を介して不図示のサーバー等から取得され、その後、記憶装置30に記憶される。プログラムPAは、記憶装置30に予め記憶されてもよい。
処理装置40は、例えばCPU(Central Processing Unit)等のプロセッサーを含んで構成される。処理装置40は、単一のプロセッサーで構成されてもよいし、複数のプロセッサーで構成されてもよい。処理装置40は、プログラムPAの実行開始を指示する操作がタッチパネル10に対して為されたことを契機としてプログラムPAを不揮発性メモリーから揮発性メモリーに読み出し、プログラムPAの実行を開始する。プログラムPAに従って作動中の処理装置40は、図1に示す特定部410、第1受付部420A、変換部430A、第2受付部440A、及び生成部450として機能する。図1に示す特定部410、第1受付部420A、変換部430A、第2受付部440A、及び生成部450は、処理装置40をプログラムPAに従って動作させることで実現されるソフトウェアモジュールである。
特定部410は、プロジェクター2から投写される計測パターンの画像と、当該計測パターンの画像を投写されている状態の被投写物SCの撮像画像とに基づいて、プロジェクター座標系とカメラ座標系との対応関係を特定する。プロジェクター2から投写される計測パターンの画像は本開示における第1画像の一例である。計測パターンの画像が投写されている状態の被投写物SCの撮像画像は本開示における第2画像の一例である。
より詳細に説明すると、特定部410は、情報生成装置1Aとプロジェクター2とがネットワーク接続された状況下においてタッチパネル10に対する操作により特定開始を指示されたことを契機として、プロジェクター情報を取得する。次いで、特定部410は、プロジェクター情報に含まれる解像度情報から計測パターンデータを生成する。特定部410は、計測パターンデータの表す複数の計測パターンの各々を順次投写するようにプロジェクター2を制御する。また、特定部410は、被投写物SCに順次投写される複数の計測パターンの各々を撮像するようにユーザーに促し、ユーザーの操作に応じて撮像装置50に撮像を行わせる。そして、特定部410は、複数の計測パターンの画像と、撮像装置50により撮像される複数の撮像画像とからプロジェクター座標系とカメラ座標系との対応関係を特定する。
更に詳述すると、特定部410は、撮像装置50により撮像された撮像画像における計測パターンの座標をプロジェクター2の表示装置における計測パターンの座標に射影変換するための変換行列を複数の計測パターンの画像と複数の撮像画像とから生成する。この変換行列は、被投写物SCに投写する投写画像の幾何学的な補正を実現する変形の際にも利用される。本実施形態では、プロジェクター2から投写画像を投写させる際には、上記変換行列を用いて幾何学的な補正を実施済の投写オブジェクトを含む投写画像の画像データが情報生成装置1Aからプロジェクター2に与えられ、プロジェクター2は当該画像データに従って画像を投写する。
前述したように、本実施形態では計測パターンとしてバイナリコードパターンが用いられる。バイナリコードパターンとは、バイナリコードを使って表示装置の座標を表現するための画像のことをいう。バイナリコードとは、任意の数値を2進数で表現した場合の各桁の値をスイッチのオン/オフによって表現する技法である。計測パターンとしてバイナリコードパターンを用いる場合、プロジェクター2により投写される画像が上記のスイッチにあたり、座標値を表す2進数の桁数分の画像が必要となる。また、X座標とY座標とで夫々別個の画像が必要となる。例えば、プロジェクター2の表示パネルの解像度が120×90である場合、120及び90は夫々7桁の2進数で表現されるため、X座標を表現するために7枚の画像が必要となり、Y座標を表現するために7枚の画像が必要となる。
また、バイナリコードパターンを計測パターンとして用いる場合、照明等の外乱光の影響により計測のロバスト性が低下することが一般的に知られている。このため、バイナリコードパターンを計測パターンとして用いる場合には、外乱光の影響を抑え、計測のロバスト性を向上させるために相補パターンを併用することが一般的である。相補パターンとは、白黒を反転した画像のことをいう。以下では、1を白で表し、0を黒で表すバイナリコードパターンを「ポジティブパターン」と呼び、それを反転させた相補パターンを「ネガティブパターン」と呼ぶ。本実施形態では、解像度情報の示す解像度が120×90である場合、図2に示すように、ポジティブパターンが14枚、ネガティブパターンが14枚の合計28枚の計測パターンを表す計測パターンデータが特定部410によって生成される。本実施形態では、計測パターンとしてバイナリコードパターンが用いられるが、ドットパターン、矩形パターン、多角形パターン、チェッカーパターン、グレイコードパターン、位相シフトパターン、又はランダムドットパターン等の他の構造化光が用いられてもよい。
第1受付部420Aは、第1操作を受け付ける。本開示における第1操作は、カメラ座標系とプロジェクター座標系とのうちの一方である第1座標系において、プロジェクター2から被投写物SCに投写する投写オブジェクトの配置先となる第1表示領域を指定する操作である。本実施形態では、第1座標系はカメラ座標系である。第1受付部420Aは、ユーザーに第1操作の実行を促すために、被投写物SCの撮像画像をタッチパネル10の表示装置に表示させる。この撮像画像については、カメラ座標系とプロジェクター座標系との対応関係の特定の際に撮像した複数の撮像画像のうちの何れかを流用してもよい。第1操作の具体例としては、撮像画像を表示している状態のタッチパネル10に対するタップ等により、第1表示領域の輪郭線を描くように第1表示領域の頂点を順に指定する操作が挙げられる。矩形の第1表示領域を指定する第1操作の具体例としては、左上隅の頂点、右上隅、右下隅、左下隅の順に矩形の頂点をタップする操作が挙げられる。また、第1操作の他の具体例としては、第1表示領域の輪郭線を描くようタッチパネル10をスワイプする操作が挙げられる。
図3は、第1操作の実行を促すために第1受付部420Aが表示装置に表示させる撮像画像の一例を示す図である。図3にて斜め線のハッチングを付与した領域は、第1操作により設定された第1表示領域A1の一例である。図3に示す例では、被投写物SCの一つの面が第1表示領域A1として設定されている。第1受付部420Aは、第1操作に応じて、第1表示領域の各頂点の第1座標系における位置、及び各頂点を結ぶ順を示す第1頂点情報を生成する。第1頂点情報の具体例としては、第1座標系における各頂点の座標を示す情報と、頂点を結ぶ順を示す情報とを対応付けて配列した情報が挙げられる。頂点を結ぶ順を示す情報の具体例としては、頂点のタッチ順に値が大きくなるIDが挙げられる。
変換部430Aは、第1操作により指定された第1表示領域を、特定部410により特定された対応関係に基づいて、カメラ座標系とプロジェクター座標系とのうちの他方である第2座標系において投写オブジェクトの配置先となる第2表示領域に変換する。本実施形態における第2座標系はプロジェクター座標系である。つまり、変換部430Aは、カメラ座標系において指定された第1表示領域を、特定部410により特定された対応関係に基づいて、プロジェクター座標系における第2表示領域へ変換する。具体的には、変換部430Aは、第1頂点情報に含まれる座標を示す情報を、特定部410により特定された変換行列を用いて第2座標系における座標を示す情報に変換することで、第2頂点情報を生成する。
第2受付部440Aは、第2操作を受け付ける。第2操作は、第1座標系において指定された表示領域の位置及び形状の少なくとも一方を第2座標系において変更する操作である。前述したように、本実施形態における第1座標系はカメラ座標系であり、第2座標系はプロジェクター座標系である。つまり、本実施形態における第2操作は、カメラ座標系において指定された表示領域の位置及び形状の少なくとも一方をプロジェクター座標系において変更する操作である。本開示における表示領域の位置の変更には、表示領域の平行移動と表示領域の回転とが含まれる。また、本開示における表示領域の形状の変更には、大きさの異なる相似形に変形すること、及び相似形以外の任意の形状に変形することが含まれる。第2操作の具体例としては、クリック或いはタップ等により表示領域の頂点、辺或いは全体を選択し、平行移動或いは回転させる操作、又は表示領域を相似形に変形させる操作が挙げられる。
また、第2受付部440Aは、ユーザーに第2操作の実行を促すために、輪郭線の内側を第1色で塗りつぶし、かつ輪郭線を第2色で描画した状態の第2表示領域を含む投写画像をタッチパネル10の表示装置に表示させる。第1色の具体例としては赤色が挙げられ、第2色の具体例としては青色が挙げられる。本実施形態では第2表示領域の輪郭線を第2色で描画するが、第1色で描画してもよい。また、本実施形態では、第2表示領域の輪郭線の内側を第1色で塗りつぶすが、第1色による塗りつぶしは省略されてもよい。また、第2表示領域の輪郭線の描画も省略し、第2頂点情報の示す頂点の描画のみで第2表示領域を表現してもよい。そして、第2受付部440Aは、第2操作を受け付ける毎に、受け付けた第2操作に応じて、第2頂点情報を更新するとともに表示装置の表示画像を更新する。
より詳細に説明すると、第2受付部440Aは、プロジェクター2から取得した解像度情報の示す大きさと同じ大きさ、又は解像度情報の示すアスペクト比と同じアスペクト比の第3色で塗りつぶした画像を生成する。第3色の具体例としては黒色が挙げられる。解像度情報の示す大きさと同じ大きさの画像をタッチパネル10の表示装置に表示可能である場合には前者の態様を採用すればよく、表示不能である場合には後者の態様を採用すればよい。本実施形態では、第3色で塗りつぶした画像の左上隅がプロジェクター座標系の原点となる。
次いで、第2受付部440Aは、第2頂点情報により座標が示される各頂点を第3色の画像上に描画し、更に第2頂点情報の示す順に各頂点を線分で結んで得られる輪郭線を第2色で描画し、更に当該輪郭線の内側を第1色で塗りつぶして得られる画像を投写画像としてタッチパネル10の表示装置に表示させる。図4は、第2表示領域A2を含む投写画像の一例を示す図である。図4において縦線のハッチングは第3色を表し、横線のハッチングは第1色を表す。また、図4において点線は第2色で描画された線を表す。また、図4に示す投写画像において第3色で塗りつぶされた領域はプロジェクター2から画像光が発せられない領域に対応する。
生成部450は、投写画像における投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報を第2操作に応じて生成する。処理装置40は、第2表示領域に配置する投写オブジェクトが指定されると、当該投写オブジェクトの形状及び位置の少なくとも一方を当該情報に応じて変更した投写画像の画像データを生成し、この画像データをプロジェクター2に送信する。プロジェクター2が当該画像データの示す投写画像を被投写物SCに投写することで、ユーザーは上記第2操作による変更結果を実際の投写画像で確認することができる。
また、プログラムPAに従って作動している処理装置40は、本開示の第1の態様の情報生成方法を実行する。図5は、処理装置40がプログラムPAに従って実行する情報生成方法の流れを示す図である。図5に示すように、本開示の第1の態様の情報生成方法には、特定処理SA110、第1受付処理SA120、第1判定処理SA130、変換処理SA140、第2受付処理SA150、第2判定処理SA160、及び生成処理SA170が含まれる。
特定処理SA110では、処理装置40は、特定部410として機能する。特定処理SA110では、処理装置40は、タッチパネル10に対する操作により、ユーザーから特定開始を指示されたことを契機としてプロジェクター2に対してプロジェクター情報の送信を要求し、プロジェクター2から返信されるプロジェクター情報を取得する。処理装置40は、プロジェクター2から取得したプロジェクター情報に含まれる解像度情報に基づいて複数の計測パターンを生成する。処理装置40は、複数の計測パターンの各々が投写されている状態の被投写物SCの撮像画像、即ち複数の撮像画像と複数の計測パターンの画像とからプロジェクター座標系とカメラ座標系との対応関係を特定する。
第1受付処理SA120は、タッチパネル10に対する操作により、表示領域の設定開始をユーザーから指示されたことを契機として実行される処理である。なお、投写画像に複数の投写オブジェクトを配置する場合には、投写画像に配置する投写オブジェクトの数だけ第1受付処理SA120以降の処理を繰り返せばよい。第1受付処理SA120では、処理装置40は、第1受付部420Aとして機能する。第1受付処理SA120では、処理装置40は、第1操作の実行をユーザーに促すために、撮像画像をタッチパネル10の表示装置に表示させる。処理装置40は、タッチパネル10に対して第1操作が為されると、前述の第1頂点情報を生成する。第1表示領域の設定を完了すると、ユーザーはタッチパネル10に対する操作により表示領域の設定完了を情報生成装置1Aに指示する。
第1判定処理SA130では、処理装置40は、タッチパネル10に対する操作により、表示領域の設定完了を指示されたか否かを判定する。第1判定処理SA130の判定結果が“No”である場合には、処理装置40は、第1受付処理SA120を再度実行する。第1判定処理SA130の判定結果が“Yes”である場合には、処理装置40は、変換処理SA140を実行する。変換処理SA140では、処理装置40は変換部430Aとして機能する。変換処理SA140では、処理装置40は、第1受付処理SA120にて生成した第1頂点情報を、特定処理SA110にて特定された変換行列を用いて第2頂点情報に変換する。
第2受付処理SA150では、処理装置40は、第2受付部440Aとして機能する。第2受付処理SA150では、処理装置40は、第2操作の実行を促すために、輪郭線の内側を第1色で塗りつぶし、かつ第2色で輪郭線を描画した第2表示領域を含む投写画像をタッチパネル10の表示装置に表示させる。第2受付処理SA150では、処理装置40は、第2操作に応じて第2頂点情報を更新するとともに、タッチパネル10の表示画像を当該第2操作に応じて更新する。
第2判定処理SA160では、処理装置40は、タッチパネル10に対する操作により、表示領域の変更完了を指示されたか否かを判定する。第2判定処理SA160の判定結果が“No”である場合には、処理装置40は、第2受付処理SA150を再度実行する。第2判定処理SA160の判定結果が“Yes”である場合には、処理装置40は、生成処理SA170を実行する。生成処理SA170では、処理装置40は生成部450として機能する。生成処理SA170では、処理装置40は、投写画像における投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報を第2操作に応じて生成する。
本実施形態の情報生成装置1Aによれば、カメラ座標系において設定された投写オブジェクトの表示領域をプロジェクター座標系において変更することが可能となる。前述したように、カメラ座標系とプロジェクター座標系との対応関係の精度が低い場合、カメラ座標系で表示領域を指定すると、プロジェクター座標系では表示領域がずれる可能性がある。本実施形態によれば、カメラ座標系で設定された表示領域の位置及び形状の少なくとも一方をプロジェクター座標系で変更することにより、上記ずれを補正し、より高精度に表示領域を設定することが可能になる。
2.第2実施形態
図6は、本開示の第2実施形態に係る情報生成方法を実行する情報生成装置1B、及びプロジェクター2含む画像表示システム5Bの構成例を示すブロック図である。情報生成装置1Bと情報生成装置1Aとの相違点は、プログラムPAに代えてプログラムPBが記憶装置30に記憶されている点である。情報生成装置1Bの処理装置40は、プログラムPBを実行することにより、特定部410、第1受付部420B、変換部430B、第2受付部440B、及び生成部450として機能する。以下、第1実施形態との相違点である第1受付部420B、変換部430B、及び第2受付部440Bを中心に説明する。
第1受付部420Bは、第1操作を受け付ける点では、第1実施形態における第1受付部420Aと同一である。本実施形態では、第1座標系がプロジェクター座標系である点が第1実施形態と異なる。第1受付部420Bは、ユーザーに第1操作の実行を促すために、第1実施形態における第2受付部440Aと同様に、投写画像をタッチパネル10の表示装置に表示させる。より詳細に説明すると、第1受付部420Bは、プロジェクター2から取得した解像度情報の示す大きさと同じ大きさ、又は解像度情報の示すアスペクト比と同じアスペクト比の黒画像を表示させる。本実施形態における第1操作の具体例としては、当該投写画像に対して、第1表示領域の各頂点及び頂点を結ぶ順を指定する操作が挙げられる。第1受付部420Bは、第1操作に応じて、第1表示領域の各頂点及び頂点を結ぶ順を示す第1頂点情報を生成する。
変換部430Bは、変換部430Aと同様に、第1座標系における表示領域である第1表示領域を、第2座標系における表示領域である第2表示領域に変換する。具体的には、変換部430Bは、第1表示領域の各頂点及び頂点を結ぶ順を示す第1頂点情報を、第2表示領域の各頂点及び頂点を結ぶ順を示す第2頂点情報に変換する。だたし、本実施形態では第1座標系がプロジェクター座標系であり、第2座標系がカメラ座標系である点が第1実施形態と異なる。第2受付部440Bは、第2受付部440Aと同様に、第1操作により指定された第1表示領域の位置及び形状の少なくとも一方を第2座標系において変更する第2操作を受け付ける。第2受付部440Bは、ユーザーに第2操作の実行を促すために、撮像装置50による撮像画像をタッチパネル10の表示装置に表示させる。より詳細に説明すると、第2受付部440Bは、撮像装置50による撮像画像に、第2頂点情報により頂点が表される第2表示領域の画像を重ねて表示装置に表示させる。なお、第2受付部440Bは、第1実施形態における第2受付部440Aと同様に、第2操作を受け付ける毎に、受け付けた第2操作に応じて、第2頂点情報を更新するとともに表示装置の表示画像を更新する。
本実施形態における被投写物SCは三次元形状を有するため、被投写物SCの一部が撮像画像に写っていないことがあり得る。また、図7に示す撮像画像G2のように、被投写物SCの一部が撮像装置50の撮像範囲から見切れている場合もある。被投写物SCの一部が撮像画像に写っておらず、第1表示領域が、撮像画像に写っている被投写物SCの部分に対応する第1領域と、第1領域以外の第2領域と、に区分けされる場合、変換部430Bは以下の要領で第2表示領域への変換を行う。第1領域については特定部410により生成された変換行列によりカメラ座標系と対応づけられる。このため、変換部430Bは、第1領域については上記変換行列を用いてカメラ座標系における第3領域に変換する。これに対して、第2領域は上記変換行列ではカメラ座標系に対応づけられていない。このため、変換部430Bは、第2領域については、第3領域に基づいてカメラ座標系における第4領域に変換する。そして、第2受付部440Bは、第3領域及び第4領域を第2表示領域として表示装置に表示させて第2操作を促す。
例えば、図8に示す投写画像G3において、頂点A,B、C及びDを有する四角形の領域が対応関係を特定済の領域であり、頂点a、b、c及びdを有する四角形の第1表示領域が第1操作により設定されたとする。この場合、頂点a、b、c、f及びeを有する五角形の領域が第1領域であり、頂点d、e及びfを有する三角形の領域が第2領域である。なお、頂点eは線分DAと線分daの交点であり、頂点fは線分DAと線分cdの交点である。
図8に示すように第1表示領域A1が設定された場合、変換部430Bは、第1表示領域A1の4つの頂点のうち頂点a、b、及びcのカメラ座標における座標を変換行列を用いて算出する。次いで、変換部430Bは、プロジェクター座標系において線分DA、da、cdを求め、頂点e及び頂点fのプロジェクター座標系における座標を算出する。次いで、変換部430Bは、変換行列を用いて頂点e及び頂点fのカメラ座標系における座標を求め、カメラ座標系において点a及び点eを通る第1の直線と、点c及び点fを通る第2の直線とを求める。そして、変換部430Bは、第1の直線と第2の直線との交点を求め、当該交点の座標をカメラ座標系における頂点dの座標とする。第2受付部440Bは、図9に示すように、頂点dの座標に応じた余白の画像G4と、当該余白の分だけ狭めて撮像画像G2から切り出した画像G5とからなる画像G6に第2表示領域A2の画像を重ねて表示装置に表示させる。
図10は、プログラムPBに従って処理装置40が実行する情報生成方法の流れを示すフローチャートである。図10と図5とを対比すれば明らかなように、本実施形態における情報生成方法は、第1受付処理SA120に代えて第1受付処理SB120を設けた点、変換処理SA140に代えて変換処理SB140を設けた点、及び第2受付処理SA150に代えて第2受付処理SB150を設けた点が第1実施形態の情報生成方法と異なる。以下、第1実施形態との相違点である第1受付処理SB120、変換処理SB140、及び第2受付処理SB150を中心に説明する。
第1受付処理SB120は、第1実施形態における第1受付処理SA120と同様に、タッチパネル10に対する操作により、表示領域の設定開始をユーザーから指示されたことを契機として実行される。なお、投写画像に複数の投写オブジェクトを配置する場合には、投写画像に配置する投写オブジェクトの数だけ第1受付処理SB120以降の処理を繰り返せばよい。第1受付処理SB120では、処理装置40は第1受付部420Bとして機能する。第1受付処理SB120では、処理装置40は、ユーザーに第1操作の実行を促すために、投写画像をタッチパネル10の表示装置に表示させる。本実施形態では、処理装置40は、プロジェクター2から取得した解像度情報の示す大きさと同じ大きさ、又は解像度情報の示すアスペクト比と同じアスペクト比の黒画像を上記投写画像として表示させる。処理装置40は、タッチパネル10に対して第1操作が為されると、前述の第1頂点情報を生成する。第1表示領域の設定を完了すると、ユーザーはタッチパネル10に対する操作により表示領域の設定完了を情報生成装置1Bに指示する。第1実施形態にて説明したように、表示領域の設定完了を指示されると、第1判定処理SA130の判定結果は“Yes”になる。
図10に示すように、変換処理SB140は、第1判定処理SA130の判定結果が“Yes”である場合に実行される。第1判定処理SA130の判定結果が“No”である場合には第1受付処理SB120が再度実行される。変換処理SB140では処理装置40は変換部430Bとして機能する。変換処理SB140では、処理装置40は、第1表示領域を第2表示領域に変換する。具体的には、処理装置40は、第1受付処理SB120にて生成した第1頂点情報を、特定処理SA110にて特定された変換行列を用いて第2頂点情報に変換する。
第2受付処理SB150では処理装置40は第2受付部440Bとして機能する。第2受付処理SB150では、処理装置40は、第2操作の実行を促すために、撮像装置50による撮像画像をタッチパネル10の表示装置に表示させる。より詳細に説明すると、処理装置40は、撮像装置50による撮像画像に、第2頂点情報により頂点が表される第2表示領域の画像を重ねて表示装置に表示させる。また、第2受付処理SB150では、処理装置40は、第2操作に応じて第2頂点情報を更新するとともに、タッチパネル10の表示画像を当該第2操作に応じて更新する。
本実施形態の情報生成装置1Bによれば、プロジェクター座標系において指定された表示領域をカメラ座標系において変更することが可能となる。本実施形態によれば、撮像装置50で撮影できなかった範囲を含めて表示領域を設定することができ、被投写物SCの一部が撮像画像に写っていない場合でも、表示領域の形状及び位置のうちの少なくとも一方を変更することが可能になる。
3.変形例
各実施形態は、以下のように変更されてもよい。
(1)各実施形態における第1操作は、第1表示領域の輪郭線を描くように第1表示領域の頂点を順にタップ等により指定する操作であった。しかし、各種の多角形或いは楕円等の予め定められた図形を用いて第1表示領域をユーザーに指定させてもよい。例えば、予め定められた複数種の図形のうちの何れかを選択させるためのプルダウンメニューを表示する場合には、当該プルダウンメニューに表示される図形を選択する操作と選択された図形の位置及び形状の少なくとも一方を変更する操作とを第1操作とすればよい。また、被投写物SCの全体の形状或いは被投写物SCの各面の形状をエッジ検出等を利用して特定し、当該特定された形状に対応する図形を上記プルダウンメニューに含めてもよい。
(2)第2実施形態では、被投写物SCの一部が撮像画像に写っておらず、第1表示領域が第1領域と第2領域とに区分けされる場合、第1領域については変換行列を用いて第3領域に変換し、第2領域については第3領域に基づいて第4領域に変換し、第3領域と第4領域とで第2表示領域を形成した。しかし、第2領域の第4領域への変換を省略し、第3領域のみで第2表示領域を形成してもよい。
(3)第1実施形態における情報生成方法と第2実施形態における情報生成方法とを切り換えて実行できるようにしてもよい。具体的には、プログラムPAの他にプログラムPBを情報生成装置1Aの記憶装置30に予め記憶させておき、ユーザーの指示に応じてプログラムPAとプログラムPBの一方を処理装置40に実行させるようにすればよい。
(4)情報生成装置1A及び情報生成装置1Bは、何れも撮像装置50を有するスマートフォンであったが、撮像装置を備えるタブレット端末或いは撮像装置を備えるノート型或いは据え置き型のパーソナルコンピューターであってもよい。ノート型或いは据え置き型のパーソナルコンピューターを本開示の情報生成装置として用いる場合には、マウス又はキーボードを入力装置として第1操作及び第2操作を受け付けてもよい。また、情報生成装置がLAN等のネットワーク経由のデータ通信により撮像画像を取得できる場合には、情報生成装置が撮像装置を備えている必要はない。また、スマートフォン或いはタブレット端末等の携帯端末とLAN又はインターネットを介して携帯端末と通信するサーバー装置とを有するコンピューターシステムにおいて、サーバー装置の処理装置を特定部410、変換部430A或いは変換部430B、及び生成部450として機能させ、当該携帯端末に第1操作及び第2操作を入力するための入力装置の役割を担わせてもよい。このコンピューターシステムは本開示の情報生成システムの一例である。
(5)第1実施形態における特定部410、第1受付部420A、変換部430A、第2受付部440A及び生成部450はソフトウェアモジュールであったが、特定部410、第1受付部420A、変換部430A、第2受付部440A及び生成部450の一部又は全部は、ハードウェアであってもよい。このハードウェアの一例としては、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、及びFPGA(Field Programmable Gate Array)が挙げられる。特定部410、第1受付部420A、変換部430A、第2受付部440A及び生成部450の一部又は全部がハードウェアであっても、上記第1実施形態と同一の効果が奏される。第2実施形態における第1受付部420、変換部430B及び第2受付部440Bについても同様に一部又は全部がハードウェアであってもよい。
(6)第1実施形態では、プログラムPAが記憶装置30に記憶済であった。しかし、プログラムPAを単体で製造又は配布してもよい。プログラムPAの具体的な配布方法としては、フラッシュROM(Read Only Memory)等のコンピューター読み取り可能な記録媒体に上記プログラムPAを書き込んで配布する態様、又はインターネット等の電気通信回線経由のダウンロードにより配布する態様が考えられる。当該プログラムPAをパーソナルコンピューター等の一般的な情報処理装置にインストールし、当該情報処理装置のCPU等のコンピューターを当該プログラムに従って作動させることで当該情報処理装置を本開示の情報生成装置として機能させることが可能になる。第2実施形態におけるプログラムPBについても同様に単体で製造又は配布されてもよい。
4.各実施形態及び各変形例の少なくとも1つから把握される態様
本開示は、上述した各実施形態及び変形例に限られるものではなく、その趣旨を逸脱しない範囲において種々の態様で実現することができる。例えば、本開示は、以下の態様によっても実現可能である。以下に記載した各態様中の技術的特徴に対応する上記実施形態中の技術的特徴は、本開示の課題の一部又は全部を解決するために、或いは本開示の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
以上に説明した課題を解決するため、本開示の情報生成方法の一態様は、特定処理SA110、第1受付処理SA120、変換処理SA140、第2受付処理SA150、及び生成処理SA170を含む。
特定処理SA110では、プロジェクターから投写される第1画像と、第1画像が投写されている状態の被投写物をカメラで撮影して得られる第2画像とに基づいて、プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系とカメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係が特定される。
第1受付処理SA120では、カメラ座標系とプロジェクター座標系とのうちの一方である第1座標系において、プロジェクター2から被投写物SCへ投写する投写オブジェクトの配置先となる第1表示領域A1を指定する第1操作が受け付けられる。より具体的には、第1座標系はカメラ座標系であり、第1受付処理SA120における第1操作の受け付けの際には、撮像装置50による被投写物SCの撮像画像をタッチパネル10の表示装置に表示させることで第1操作の実行を促してもよい。
変換処理SA140では、第1表示領域A1は、特定処理SA110にて特定された対応関係に基づいて、カメラ座標系とプロジェクター座標系とのうちの他方である第2座標系において投写オブジェクトの配置先となる第2表示領域A2に変換される。第1座標系がカメラ座標系である場合、第2座標系はプロジェクター座標系である。
第2受付処理SA150では、第2表示領域A2の形状、及び位置のうちの少なくとも一方を変更する第2操作が受け付けられる。第2受付処理SA150における第2操作の受け付けの際には、投写画像をタッチパネル10の表示装置に表示させることで第2操作の実行を促してもよい。
生成処理SA170では、投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報が第2操作に応じて生成される。本態様の情報生成方法によれば、カメラ座標系において指定された表示領域の形状、及び位置のうちの少なくとも一方をプロジェクター座標系で変更することが可能になり、カメラ座標系とプロジェクター座標系との対応関係の精度が低い場合であっても、第2表示領域A2を高い精度で設定することが可能になる。
本開示の情報生成方法の別の態様は、第1受付処理SA120に代えて第1受付処理SB120を、変換処理SA140に代えて変換処理SB140を、第2受付処理SA150に代えて第2受付処理SB150を含んでもよい。より具体的には、第1座標系はプロジェクター座標系であり、第1受付処理SB120における第1操作の受け付けの際には、投写画像をタッチパネル10の表示装置に表示させることで第1操作の実行を促してもよい。また、第2受付処理SB150における第2操作の受け付けの際には、撮像装置50による被投写物SCの撮像画像をタッチパネル10の表示装置に表示させることで第2操作の実行を促してもよい。本態様によれば、プロジェクター座標系で設定された表示領域の位置及び形状の少なくとも一方をカメラ座標系で変更することが可能になり、カメラで撮影できなかった範囲を含めて表示領域を設定することが可能になる。
第1座標系がプロジェクター座標系である場合の更に好ましい態様では、撮像装置50による被投写物SCの撮像画像に被投写物SCの一部が写っておらず、第1表示領域A1が、撮像画像に写っている被投写物SCの部分に対応する第1領域と、第1領域以外の第2領域とに区分けされる場合、変換処理SB140及び第2受付処理SB150の処理内容は以下の通りであってもよい。変換処理SB140では、第1領域については対応関係に基づいてカメラ座標系における第3領域に変換され、第2領域については第3領域に基づいてカメラ座標系における第4領域に変換される。第2受付処理SB150では、第3領域及び第4領域が第2表示領域としてタッチパネル10の表示装置に表示される。本態様によれば、被投写物SCの一部が撮像画像に写っていない場合でも、表示領域の形状及び位置のうちの少なくとも一方を変更することが可能になる。
以上に説明した課題を解決するため、本開示の情報生成システムの一態様は、入力装置と、処理装置40とを備える。そして、処理装置40は、前述の特定処理SA110、第1受付処理SA120、変換処理SA140、第2受付処理SA150、及び生成処理SA170、或いは特定処理SA110、第1受付処理SB120、変換処理SB140、第2受付処理SB150、及び生成処理SA170を実行する。本態様の情報処理システムによっても、カメラ座標系とプロジェクター座標系のうちの一方において指定された表示領域の形状及び位置の少なくとも一方を、他方の座標系において変更することが可能になる。
より好ましい態様の情報生成システムでは、処理装置40は、投写オブジェクトの形状、及び位置のうちの少なくとも一方を第2操作に応じて生成される情報に基づいて変更済の投写画像を、プロジェクター2に投写させてもよい。本態様によれば、第2操作による変更結果をプロジェクターの投写画像によりユーザーに把握させることが可能になる。
以上に説明した課題を解決するため、本開示のプログラムの一態様は、前述の特定処理SA110、第1受付処理SA120、変換処理SA140、第2受付処理SA150、及び生成処理SA170をコンピューターに実行させる。また、本開示のプログラムの別の態様は、前述の特定処理SA110、第1受付処理SB120、変換処理SB140、第2受付処理SB150、及び生成処理SA170をコンピューターに実行させる。本態様のプログラムによれば、カメラ座標系とプロジェクター座標系の一方において指定された表示領域の形状、及び位置のうちの少なくとも一方を他方の座標系で変更することが可能になる。
1A、1B…情報生成装置、2…プロジェクター、10…タッチパネル、20…通信装置、30…記憶装置、40…処理装置、410…特定部、420A,420B…第1受付部、430A,430B…変換部、440A、440B…第2受付部、450…生成部、50…撮像装置、PA、PB…プログラム、SC…被投写物、5A、5B…画像表示システム。

Claims (7)

  1. プロジェクターから投写される第1画像と、前記第1画像が投写されている状態の被投写物をカメラで撮影して得られる第2画像とに基づいて、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像される撮像画像上の位置を表すカメラ座標系との対応関係を特定し、
    前記カメラ座標系と前記プロジェクター座標系とのうちの一方である第1座標系において、前記プロジェクターから前記被投写物に投写する投写オブジェクトの配置先となる第1表示領域を指定する第1操作を受け付け、
    前記第1表示領域を、前記対応関係に基づいて前記カメラ座標系と前記プロジェクター座標系とのうちの他方である第2座標系において前記投写オブジェクトの配置先となる第2表示領域に変換し、
    前記第2表示領域の形状、及び位置のうちの少なくとも一方を変更する第2操作を受け付け、
    前記投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報を前記第2操作に応じて生成する、
    ことを特徴とする情報生成方法。
  2. 前記第1座標系は前記カメラ座標系であり、前記第1操作の受け付けの際には前記カメラによる前記被投写物の撮像画像を表示装置に表示させることで前記第1操作を受け付け、前記第2操作の受け付けの際には前記投写画像を前記表示装置に表示させることで前記第2操作を受け付ける、請求項1に記載の情報生成方法。
  3. 前記第1座標系は前記プロジェクター座標系であり、前記第1操作の受け付けの際には前記投写画像を表示装置に表示させることで前記第1操作を受け付け、前記第2操作の受け付けの際には前記カメラによる前記被投写物の撮像画像を前記表示装置に表示させることで前記第2操作を受け付ける、請求項1に記載の情報生成方法。
  4. 前記カメラによる前記被投写物の撮像画像に前記被投写物の一部が写っておらず、前記第1表示領域が、前記撮像画像に写っている前記被投写物の部分に対応する第1領域と、前記第1領域以外の第2領域と、に区分けされる場合、
    前記第1領域については前記対応関係に基づいて前記カメラ座標系における第3領域に変換する一方、前記第2領域については前記第3領域に基づいて前記カメラ座標系における第4領域に変換し、
    前記第3領域及び前記第4領域を前記第2表示領域として前記表示装置に表示させて前記第2操作を受け付ける、請求項3に記載の情報生成方法。
  5. 入力装置と、
    処理装置と、を備え、
    前記処理装置は、
    プロジェクターから投写される第1画像と、前記第1画像が投写されている状態の被投写物をカメラで撮影して得られる第2画像とに基づいて、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像された撮像画像上の位置を表すカメラ座標系との対応関係を特定すること、
    前記カメラ座標系と前記プロジェクター座標系とのうちの一方である第1座標系において、前記プロジェクターから前記被投写物に投写する投写オブジェクトの配置先となる第1表示領域を指定する第1操作を受け付けること、
    前記第1表示領域を、前記対応関係に基づいて前記カメラ座標系と前記プロジェクター座標系とのうちの他方である第2座標系において前記投写オブジェクトの配置先となる第2表示領域に変換すること、
    前記第2表示領域の形状、及び位置のうちの少なくとも一方を変更する第2操作を受け付けること、及び、
    前記投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報を前記第2操作に応じて生成すること、を実行する、
    情報生成システム。
  6. 前記処理装置は、
    前記投写オブジェクトの形状、及び位置のうちの少なくとも一方を前記第2操作に応じて生成される情報に基づいて変更済の前記投写画像を、前記プロジェクターに投写させること、を更に実行する請求項5に記載の情報生成システム。
  7. コンピューターに、
    プロジェクターから投写される第1画像と、前記第1画像が投写されている状態の被投写物をカメラで撮影して得られる第2画像とに基づいて、前記プロジェクターが投写する投写画像上の位置を表すプロジェクター座標系と前記カメラによって撮像された撮像画像上の位置を表すカメラ座標系との対応関係を特定すること、
    前記カメラ座標系と前記プロジェクター座標系とのうちの一方である第1座標系において、前記プロジェクターから前記被投写物に投写する投写オブジェクトの配置先となる第1表示領域を指定する第1操作を受け付け、
    前記第1表示領域を、前記対応関係に基づいて前記カメラ座標系と前記プロジェクター座標系とのうちの他方である第2座標系において前記投写オブジェクトの配置先となる第2表示領域に変換すること、
    前記第2表示領域の形状、及び位置のうちの少なくとも一方を変更する第2操作を受け付けること、及び、
    前記投写オブジェクトの形状、及び位置のうちの少なくとも一方を変更するための情報を前記第2操作に応じて生成すること、
    を実行させるプログラム。
JP2020151096A 2020-09-09 2020-09-09 情報生成方法、情報生成システム、及びプログラム Active JP7272336B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020151096A JP7272336B2 (ja) 2020-09-09 2020-09-09 情報生成方法、情報生成システム、及びプログラム
CN202111047027.2A CN114245094B (zh) 2020-09-09 2021-09-07 信息生成方法、信息生成***以及记录介质
US17/469,315 US11616935B2 (en) 2020-09-09 2021-09-08 Information generation method, information generation system, and non-transitory computer-readable storage medium storing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020151096A JP7272336B2 (ja) 2020-09-09 2020-09-09 情報生成方法、情報生成システム、及びプログラム

Publications (2)

Publication Number Publication Date
JP2022045483A JP2022045483A (ja) 2022-03-22
JP7272336B2 true JP7272336B2 (ja) 2023-05-12

Family

ID=80471061

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020151096A Active JP7272336B2 (ja) 2020-09-09 2020-09-09 情報生成方法、情報生成システム、及びプログラム

Country Status (3)

Country Link
US (1) US11616935B2 (ja)
JP (1) JP7272336B2 (ja)
CN (1) CN114245094B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7163947B2 (ja) * 2020-10-22 2022-11-01 セイコーエプソン株式会社 投写領域の設定支援方法、設定支援システム、及びプログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006025191A1 (ja) 2004-09-01 2006-03-09 Olympus Corporation マルチプロジェクションシステムにおける幾何補正方法
JP2008287426A (ja) 2007-05-16 2008-11-27 Mitsubishi Electric Corp 歪み補正装置及びプログラム
JP2010271580A (ja) 2009-05-22 2010-12-02 Panasonic Electric Works Co Ltd 照明システム、空間演出システム、投影画像生成方法
JP2010283674A (ja) 2009-06-05 2010-12-16 Panasonic Electric Works Co Ltd 投影システム及び投影方法
JP2015192310A (ja) 2014-03-28 2015-11-02 セイコーエプソン株式会社 プロジェクションシステム、携帯機器、プログラム、及び、携帯機器の制御方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006033357A (ja) * 2004-07-15 2006-02-02 Olympus Corp 画像変換装置及び映像投影装置
JP3953500B1 (ja) * 2006-02-07 2007-08-08 シャープ株式会社 画像投影方法及びプロジェクタ
CN103414861B (zh) * 2013-08-21 2016-12-28 浙江大学 一种投影仪画面自适应几何矫正的方法
CN104408732B (zh) * 2014-12-10 2017-07-28 东北大学 一种基于全向结构光的大视场深度测量***及方法
JP6784280B2 (ja) * 2018-06-27 2020-11-11 セイコーエプソン株式会社 プロジェクターおよびプロジェクターの制御方法
JP7163943B2 (ja) * 2020-09-10 2022-11-01 セイコーエプソン株式会社 情報生成方法、情報生成システム、及びプログラム
JP2022046059A (ja) * 2020-09-10 2022-03-23 セイコーエプソン株式会社 情報生成方法、情報生成システム、及びプログラム
JP7196899B2 (ja) * 2020-12-10 2022-12-27 セイコーエプソン株式会社 投写方法、投写システム、及びプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006025191A1 (ja) 2004-09-01 2006-03-09 Olympus Corporation マルチプロジェクションシステムにおける幾何補正方法
JP2008287426A (ja) 2007-05-16 2008-11-27 Mitsubishi Electric Corp 歪み補正装置及びプログラム
JP2010271580A (ja) 2009-05-22 2010-12-02 Panasonic Electric Works Co Ltd 照明システム、空間演出システム、投影画像生成方法
JP2010283674A (ja) 2009-06-05 2010-12-16 Panasonic Electric Works Co Ltd 投影システム及び投影方法
JP2015192310A (ja) 2014-03-28 2015-11-02 セイコーエプソン株式会社 プロジェクションシステム、携帯機器、プログラム、及び、携帯機器の制御方法

Also Published As

Publication number Publication date
US11616935B2 (en) 2023-03-28
US20220078383A1 (en) 2022-03-10
CN114245094B (zh) 2024-04-05
JP2022045483A (ja) 2022-03-22
CN114245094A (zh) 2022-03-25

Similar Documents

Publication Publication Date Title
CN114173105B (zh) 信息生成方法、信息生成***以及记录介质
JP2022046059A (ja) 情報生成方法、情報生成システム、及びプログラム
JP7196899B2 (ja) 投写方法、投写システム、及びプログラム
JP2020178248A (ja) 投影制御装置、投影制御方法、投影システム、プログラム、記憶媒体
JP2020088691A (ja) 投写制御装置およびその制御方法、ならびに投写システム
JP7272336B2 (ja) 情報生成方法、情報生成システム、及びプログラム
US11496721B2 (en) Setting assistance method and setting assistance apparatus
JP2020178221A (ja) 投影制御装置、投影制御方法およびプログラム
JP2019204034A (ja) 投影制御装置、その制御方法、投影システム、プログラムおよび記憶媒体
CN114500963B (zh) 确定方法、确定***和记录介质
CN114979616B (zh) 显示方法、信息处理装置以及记录介质
CN115086631B (zh) 图像生成方法和信息处理装置
JP7347205B2 (ja) 投写システムの制御方法、投写システム及び制御プログラム
CN114390265B (zh) 投射区域的设定辅助方法、设定辅助***以及记录介质
US20230276036A1 (en) Method of adjusting projection image, projection system, and control apparatus
JP2019192996A (ja) 投影制御装置及び投影制御方法
US20230314914A1 (en) Image display method, information processing apparatus, and recording medium having program recorded thereon
JP2019192997A (ja) 投影制御装置及び投影制御方法
CN114727075A (zh) 投影控制方法和装置、投影设备及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210830

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210830

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230410

R150 Certificate of patent or registration of utility model

Ref document number: 7272336

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150