JP5917116B2 - 情報処理装置、情報処理装置の制御方法、およびプログラム - Google Patents

情報処理装置、情報処理装置の制御方法、およびプログラム Download PDF

Info

Publication number
JP5917116B2
JP5917116B2 JP2011267258A JP2011267258A JP5917116B2 JP 5917116 B2 JP5917116 B2 JP 5917116B2 JP 2011267258 A JP2011267258 A JP 2011267258A JP 2011267258 A JP2011267258 A JP 2011267258A JP 5917116 B2 JP5917116 B2 JP 5917116B2
Authority
JP
Japan
Prior art keywords
signal
imaging
projection pattern
pattern
projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011267258A
Other languages
English (en)
Other versions
JP2013120093A (ja
Inventor
池田 誠
誠 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011267258A priority Critical patent/JP5917116B2/ja
Priority to US13/682,140 priority patent/US9288455B2/en
Publication of JP2013120093A publication Critical patent/JP2013120093A/ja
Application granted granted Critical
Publication of JP5917116B2 publication Critical patent/JP5917116B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、情報処理装置、情報処理装置の制御方法、およびプログラムに関する。
物体の形状を計測する方法には、例えばパターン投影法がある。これは、複数のパターンを切り換えながら対象物に投影し、その反射光を撮像した画像を解析することで距離情報を計測し、物体の形状を取得する方法である。このとき、各パターンについて高速に撮像を行うためには、投影パターンの切り換えタイミングと、撮像タイミングとを正確に同期させる必要がある。
特許文献1では、投影する順番に予めパターンをメモリに格納しておき、当該格納されているパターンを計測時に連続して対象物へ投影する方法が開示されている。
一方、投影パターンの切り換え・生成を行う制御装置としては、アプリケーション開発環境が充実しており、導入が容易であるWindows(登録商標)などのOSを搭載したPCを使用することで、開発効率を上げることが期待できる。
特許第04391137号公報
しかしながら、WindowsなどのOSは、非リアルタイムOSであるため、投影パターンの作成や切り換え処理が間に合わずに、連続して同じパターンが出力されてしまうことがあり、その場合には、撮像データが重複してしまうことになる。
図15を参照して、この撮像データの重複について説明する。図15の例では、システム側で生成した投影パターンはパターン1からパターン4までの4種類であり、それぞれを1フレームずつ切り換えて投影して撮像するように制御している。しかし、パターン3の生成が1フレーム期間に間に合わなかったために、実際にはパターン2が2フレーム続けて投影されてしまい、パターン2が重複して撮像データとして取得されてしまう。また、重複の発生頻度や重複するパターンの連続数は不規則であるため、システム側で撮像データの中から同じパターンであることを識別して、重複を排除する処理が必要となり、画像解析時の負担が増大するという課題がある。
特許文献1に記載の方法では、投影パターン数分のメモリを実装しておく必要がある。また、パターンを変更するのにメモリを書き換える必要があり、パターンを追加するためにはハードウェアの変更が必要になる。また、特許文献1では、その都度パターンを生成する方法も記載されているが、1フレーム単位でパターンを切り換えるような高速処理をする場合には、撮像データが重複する可能性がある。
上記の課題に鑑み、本発明は、高フレームレートで投影パターンを切り換えながら生成し、撮像を行っても、撮像データの重複を防止することを目的とする。
上記の目的を達成する本発明に係る情報処理装置は、
投影パターンを順次生成するとともに、前記投影パターンと同期させて撮像の有効または無効を示す撮像信号を生成するデータ生成手段と、
前記投影パターンをフレームごとに対象物へ投影する投影手段と、
前記撮像信号が撮像の有効を示す場合であって、且つ、前記対象物へ投影される現フレームの投影パターンが前フレームの投影パターンとは異なる場合にトリガ信号を生成するトリガ信号生成手段と、
前記投影パターンが投影された前記対象物を前記トリガ信号に応じて撮像する撮像手段と、
を備えることを特徴とする。
本発明によれば、高フレームレートで投影パターンを切り換えながら生成し、撮像を行っても、撮像データの重複を防止することができる。
第1実施形態に係る三次元形状計測装置の構成を示すブロック図。 第1実施形態に係る動作を説明するためのタイミングチャート。 第2実施形態に係る三次元形状計測装置の構成を示すブロック図。 第2実施形態に係る動作を説明するためのタイミングチャート。 第3実施形態に係る三次元形状計測装置の構成を示すブロック図。 第4実施形態に係る三次元形状計測装置の構成を示すブロック図。 第5実施形態に係るパターン識別信号の埋め込み例を説明する図。 第6実施形態に係る2フレーム単位で制御を行った場合の動作を説明するためのタイミングチャート。 第7実施形態に係る三次元形状計測装置の構成を示すブロック図。 第7実施形態に係る動作を説明するためのタイミングチャート。 第8実施形態に係る三次元形状計測装置の構成を示すブロック図。 第9実施形態に係る三次元形状計測装置の構成を示すブロック図。 第10実施形態に係る三次元形状計測装置の構成を示すブロック図。 第11実施形態に係る2フレーム単位で制御を行った場合の動作を説明するためのタイミングチャート。 撮像データの重複を説明するためのタイミングチャート。
(第1実施形態)
図1は、第1実施形態に係る三次元形状計測装置(情報処理装置)の構成を示すブロック図である。第1実施形態では、投影パターンの変化を検出し、撮像部に入力するシャッター信号の出力を制御することを特徴としている。
本実施形態における三次元形状計測装置は、投影部101と、撮像部102と、データ生成部103と、画像解析部104と、トリガ信号生成部105と、シャッター信号生成部106とを備える。
投影部101は、データ生成部103により順次生成された投影パターンが入力されると、当該投影パターンを不図示の測定対象物上へ投影する。撮像部102は、シャッター信号生成部106により生成されたシャッター信号が入力されると、予め設定された露光期間、パターンが投影された測定対象物上を撮像する。データ生成部103は、投影タイミングに合わせて、投影部101が投影するための投影パターンを順次生成して、当該投影パターンを投影部101およびトリガ信号生成部105へそれぞれ出力する。
画像解析部104は、撮像部102により撮像された画像データを解析して、三次元形状を取得する。トリガ信号生成部105は、データ生成部103から入力された投影パターンが前フレームから変化したことを検出すると、シャッター信号生成部106へトリガ信号を出力する。シャッター信号生成部106は、シャッター信号生成部106からトリガ信号が入力されると、当該トリガ信号を基準にして、予め設定されたタイミングとパルス幅とを有するシャッター信号を生成し、撮像部102へ出力する。
次に、図2(a)を参照して、パターン投影法を用いた三次元形状計測方法を例に挙げ、全体の動作について説明する。空間符号化法と呼ばれるパターン投影法の場合、例えばWindows OSを搭載したPC内に構成されたデータ生成部103は、ネガ・ポジそれぞれのグレイコードパターンを表示するように投影パターンを順次生成する(図2(a)の2段目、パターン1からパターン4)。
ここで、高速に三次元形状計測を行うためには、データ生成部103は、投影部101のフレームレートに合わせて、投影パターンを連続して順次生成し、投影部101へ出力する必要がある。例えば、投影部101がLCD(Liquid Cristal Display)やDMD(Digital Mirror Device)等の表示素子で構成される標準のプロジェクタであり、フレームレートが60fpsである場合、データ生成部103は、パターン1からパターン4までの投影パターンを、1/60秒の間隔で1フレームずつ連続して生成し、投影部101へ出力する必要がある。しかし、この例では、パターン3の生成が1/60秒では間に合わず、実際には投影パターンとしてパターン2を2フレーム重複して出力している(図2(a)の3段目)。
この場合、投影パターンの1フレーム目、2フレーム目、4フレーム目では、それぞれ前のフレームからパターンが変化しているため、トリガ信号生成部105はトリガ信号を生成する。しかし、次の3フレーム目では再度パターン2が出力されており、パターンの変化が無いため、トリガ信号を生成しない(図2(a)の4段目)。つまり、投影部101は、投影パターンを測定対象物上へ投影するが、1、2、4フレーム目ではトリガ信号に応じてシャッター信号生成部106によりシャッター信号が生成され、3フレーム目ではシャッター信号が生成されない。したがって、1、2、4フレーム目で投影されたグレイコードパターンの反射光のみが、撮像部102により撮像される(図2(a)の6段目)。そして、撮像データは、データ生成部103を搭載したPC、または画像解析用に用意した別のPC等で構成される、画像解析部104へ入力される。画像解析部104は、撮像データを解析して、ネガ・ポジ画像の境界位置から、三角測量の原理により三次元形状を計測する。
また、この例では、パターンが変化した全てのフレームでトリガ信号を生成しているため、撮像終了時には、データ生成部103において、最後に投影したパターンを固定しておき、次に撮像を開始する時まで、前回の撮像終了時のパターンを記憶しておく必要がある。なぜなら、例えばパターン4までを用いて撮像が終了した場合、次の撮像の際にパターン5を用いると仮定すると、パターン4の情報がないとパターン5についてパターンが変化したか否かを判定できなくなってしまうからである。
そこで、図2(b)に示すように、撮像しないフレームに特別なパターンを割り当てて、これをNOP(NO Operation)フレームとし、トリガ信号生成部105においてNOPパターンを無効なパターンとして識別する構成にしてもよい。つまり、トリガ信号生成部105に、撮像信号が有効な場合であり、且つ、投影パターンが変化したときにトリガ信号を生成するという機能を持たせればよい。
また、この例では、シャッター信号生成部106は、トリガ信号を基準にタイミング調整したシャッター信号を生成しているが、撮像部102がタイミング調整機能を有する場合には、撮像部102に直接トリガ信号を入力する構成としてもよい。以上説明したように、本実施形態によれば、高フレームレートで投影パターンを切り換えながら順次生成し、撮像を行っても、撮像データの重複を防止することができる。
(第2実施形態)
図3は、第2実施形態に係る三次元形状計測装置の構成を示すブロック図である。第2実施形態では、投影パターンの変化を検出し、撮像部に出力されるシャッター信号だけでなく、投影部の光源の点灯を制御する点灯信号の投影部への出力も制御することを特徴としている。
第1実施形態との相違点は、三次元形状計測装置が、投影部301の光源の点灯を制御する点灯信号を生成する点灯信号生成部307をさらに備え、点灯信号生成部307が生成した点灯信号を投影部301へ出力している点である。点灯信号生成部307は、トリガ信号生成部105からトリガ信号が入力されると、トリガ信号を基準にして予め設定されたタイミングで点灯信号を生成する。投影部301は、点灯信号により制御される期間のみ光源を点灯し、データ生成部103から入力された投影パターンを不図示の測定対象物上へ投影する。その他の構成については、第1実施形態と同様のため説明を省略する。
次に、第1実施形態との動作の相違点について、図4を参照して説明する。第1実施形態との相違点は、点灯信号生成部307が、投影部301の光源を点灯制御している点である(図4の5段目)。第1実施形態では、図2(a)に示されるように投影部301の光源は常時点灯させ、撮像タイミングのみを制御していた。しかし、投影パターンを点灯させておく期間は、露光している期間のみでよいため、撮像部102の露光期間に合わせて投影光源を点灯するように、点灯信号生成部307がトリガ信号を基準にした点灯信号を生成する。このような構成により、例えばLEDのように高速な点灯制御が可能な光源であれば、消費電力や発熱を抑えることができる。
(第3実施形態)
図5(a)は、第3実施形態に係る三次元形状計測装置の構成を示すブロック図である。第3実施形態では、撮像を行うか否かを選択するための撮像信号を、撮像対象となる投影パターンに合わせて変化させることにより、トリガ信号の出力を制御することを特徴としている。
第1実施形態で説明したように、これまでの例では、パターンが変化したフレーム全てでトリガ信号を生成しているため、撮像終了時には、データ生成部103において、最後に投影したパターンを固定しておき、次に撮像を開始する時まで、前回の撮像最終時のパターンを記憶しておく必要がある。そこで、本実施形態では、撮像を行うか否かを選択するための撮像信号を投影パターンに合わせて生成している。これまでの例との相違点は、データ生成部503が、撮像する投影パターンに同期して撮像信号を変化させて、トリガ信号生成部505へ出力している点である。トリガ信号生成部505は、撮像信号が有効な場合であり、且つ、投影パターンが変化したフレームでトリガ信号を生成する。
図5(b)を参照して、撮像信号と投影パターンとの関係を示した動作例を説明する。この例では、撮像したいパターンをパターン2とし、パターン1は撮像しないダミーパターンとしている。また、撮像信号がHighのときに撮像を有効とし、Lowのときに撮像を無効とする。ここで本来であれば、撮像信号は3フレーム目のみを有効としてもよいが、投影パターンが重複することにより、撮像信号を変化させたフレームがずれる可能性があるため、前後に数フレームの余裕をもって撮像信号を変化させている。
図5(b)の例では、3フレーム目だけでなく2フレーム目および4フレーム目も撮像信号が有効になっている。すなわち、トリガ信号生成部505は、撮像信号が有効であり、且つ、投影パターンが変化したフレームである、3フレーム目においてトリガ信号を生成する。このような構成により、撮像を行わない場合の状態を一意に固定できるため、次の撮像開始時までの間、前回の投影パターンを保持する必要がなくなり、制御を簡素化できる。
(第4実施形態)
図6は、第4実施形態に係る三次元形状計測装置の構成を示すブロック図である。第4実施形態では、撮像を行うか否かを選択するための撮像信号を、撮像対象となる投影パターンに埋め込み、投影パターンと撮像信号とを完全に同期させることで、トリガ信号の出力を制御することを特徴としている。
本実施形態では、三次元形状計測装置は、データ埋め込み部608およびデコード部609をさらに備えている。この構成の具体例としては、データ生成部503とデータ埋め込み部608とがWindows OSを搭載したPC内に構成され、撮像信号が埋め込まれた投影パターンを、例えばDVI信号のようなデジタル映像信号としてグラフィックボードから出力する場合である。データ生成部503は、投影パターンを生成すると同時に、撮像対象となる投影パターンに同期して変化する撮像信号を生成する。撮像信号としては、例えば撮像を行う場合は投影パターンを出力するフレーム期間中Highを出力し、撮像しない場合はLowを出力することにより、有効または無効を切り替える。
データ埋め込み部608は、撮像を行う投影パターンに撮像信号を埋め込み、映像信号としてデコード部609へ送信する。撮像信号の埋め込み方法については、対応する投影パターンの特定の場所にフラグ信号を埋め込んでもよいし、任意の場所に特別なパターンを埋め込んでもよい。デコード部609は、データ埋め込み部608から受信した映像信号から撮像信号を検出し、映像信号を投影パターンと撮像信号とに分離する。他の構成は第3実施形態と同じであるため、説明を省略する。
また、撮像信号は、投影パターンの一部として埋め込まれているため、連続する2つのフレームで投影パターンが重複した場合でも、撮像信号も同時に重複することになる。そのため、第3実施形態のように撮像したいパターンの前後に数フレームの余裕を持たせる必要がなくなり、撮像開始と終了とをより高速に制御することができる。
(第5実施形態)
これまでの実施形態では、投影パターンの変化をパターン全体で比較して判別していた。第5実施形態では、投影パターンの変化を容易に検出するために、投影パターンの変化に合わせて変化するパターン識別信号を投影パターンに埋め込んでおくことを特徴としている。パターン識別信号の埋め込み例を、図7(a)、図7(b)に示す。図7(a)では、投影パターンが変化したことのみを検出するために、1フレーム毎に反転するようなパターン識別信号を埋め込んだ例である。図7(a)の例では、パターン1およびパターン3に対してパターン識別信号1が埋め込まれており、一方、パターン2およびパターン4に対してパターン識別信号0が埋め込まれている。このようにして投影パターンの変化を検出することで、パターン変化の検出が容易になり、処理負荷を軽減することができる。図7(b)では、投影パターンの投影順序に対応したパターン識別信号を埋め込み、同じ識別信号が連続したことを判別すると、トリガ信号を生成しない。図7(b)の例では、パターン識別信号が1から4まで割り当てられており、パターン識別信号が2であるパターン2が重複している。そのため、3フレーム目ではトリガ信号は生成されない。
(第6実施形態)
図8は、60fpsで動作する投影部301を使用して1フレーム以上の露光期間を確保するために、2フレーム単位で制御を行った場合の動作例である。この時の動作について、第2実施形態で使用した図3の構成を例にして説明する。
これまでの実施形態では、1フレーム単位で投影パターンの切り換えを行っていたが、本実施形態では、データ生成部103が2フレーム単位に投影パターンを切り換えて生成している(図8の2段目)。すなわち、1フレーム目と2フレーム目では、パターン1が生成され、3フレーム目と4フレーム目では、パターン2が生成され、5フレーム目と不図示の6フレーム目では、パターン3が生成される。撮像部102には、予め必要な露光時間を設定しておくが、本実施形態では最大2フレーム分の期間まで長くすることができる。また、点灯信号生成部307は、露光時間に対応する期間だけ投影部301が点灯するように、予め点灯信号の点灯期間を設定しておく。また、本実施形態では、2フレームの固定周期で投影パターンを変化させているが、周期は2フレームに固定でなくてもよく、任意のフレーム数分の固定周期であってもよい。このような構成により、パターンに同期して露光時間を任意に拡張することができるため、60fpsまたは50fpsのフレームレートで表示する汎用のプロジェクタを使用した安価なシステムを構成できる。
(第7実施形態)
図9は、第7実施形態に係る三次元形状計測装置の構成を示すブロック図である。第7実施形態では、撮像部102に入力されるべきシャッター信号の出力は、投影パターンの変化のみで制御され、および、投影部301に入力されるべき点灯信号の出力は、投影パターンの変化だけでなく、さらに、投影パターンを連続して投影するフレーム数の指定により制御されることを特徴としている。本実施形態に係る三次元形状計測装置は、点灯トリガ生成部910を備えている点が異なる。また、図9において、図1、図3に示す部分と同一ブロックには同一符号を付けてあり、その詳細な説明は省略する。
データ生成部903は、投影パターンと、連続して投影可能な投影パターンのフレームの許容数を示す連続フレーム数設定信号と、を出力する。点灯トリガ生成部910は、投影パターンが前フレームから変化したことを検出した場合、または、投影パターンが前フレームから変化しないフレーム数(対象物へ投影される現フレームの投影パターンが前フレームの投影パターンと同じであるフレームの連続数)が、連続フレーム数設定信号により示されるフレームの許容数以下である場合には、点灯信号生成部307へ点灯トリガ信号を出力する。しかし、投影パターンが前フレームから変化しないフレーム数が、連続フレーム数設定信号で指定した許容数を超えたフレームでは、点灯信号生成部307へ点灯トリガ信号を出力しない。
図10を参照して、1フレーム単位で投影、撮像制御を行う場合の動作例を説明する。まず、1フレーム単位で投影、撮像制御を行うため、連続フレーム数設定信号は「1」に設定する。次に、点灯トリガ生成部910は、投影パターンが変化しなかったフレーム数を連続数としてカウントし、連続フレーム数設定信号で指定された値「1」と比較している。この例では、パターン3の生成が間に合わず、2フレーム目と3フレーム目とでパターン2を連続して出力している(図10の3段目)。そのため、3フレーム目では連続数が「2」となり、連続フレーム数設定値「1」を超えるため、点灯トリガ信号は生成されない(図10の5段目)。したがって、投影部301の光源は3フレーム目では点灯しない。また、第1および第2実施形態と同様に、トリガ信号生成部105は投影パターンが前フレームから変化したフレームでのみトリガ信号を生成するため、3フレーム目では撮像部102を制御するシャッター信号は生成されない。したがって、3フレーム目では撮像は行われない。本実施形態によれば、高フレームレートで投影パターンを切り換えながら生成し、撮像を行っても、撮像データの重複を防止することができる。
(第8実施形態)
図11は、第8実施形態に係る三次元形状計測装置の構成を示すブロック図である。第8実施形態では、第7実施形態の構成において、撮像を行うか否かを選択する撮像信号を撮像対象となるパターンに合わせて変化させることにより、トリガ信号の出力を制御することを特徴としている。また、図11において、図5に示す部分と同一ブロックには同一符号を付けてあり、その詳細な説明は省略する。
第7実施形態では、パターンが変化したフレーム全てでトリガ信号を生成していたため、撮像終了時には、データ生成部903において最後に投影したパターンを固定しておき、次に撮像開始する時まで、前回の撮像最終時のパターンを記憶しておく必要がある。そこで、本実施形態では、データ生成部903が、撮像の有効または無効を示す撮像信号を投影パターンに合わせて生成している。
第7実施形態との相違点は、データ生成部1103が、撮像する投影パターンに同期して変化する撮像信号を、トリガ信号生成部505および点灯トリガ生成部1110へ出力している点である。トリガ信号生成部505は、撮像信号が撮像の有効を示す場合であって、且つ、対象物へ投影される現フレームの投影パターンが前フレームの投影パターンとは異なる場合に、トリガ信号を生成する。点灯トリガ生成部1110は、「撮像信号が有効な場合であり、且つ、投影パターンが変化したフレームである場合」または「撮像信号が撮像の有効を示す場合であって、且つ、投影パターンが変化しないフレーム数が連続フレーム数設定信号で指定した値以下である場合」に、点灯トリガ信号を生成する。また、撮像信号と投影パターンとの関係については、第3実施形態と同様であるため説明を省略する。本実施形態によれば、高フレームレートで投影パターンを切り換えながら生成し、撮像を行っても、撮像データの重複を防止することができる。
(第9実施形態)
図12は、第9実施形態に係る三次元形状計測装置の構成を示すブロック図である。第9実施形態では、第8実施形態の構成において、撮像を行うか否かを選択する撮像信号を撮像対象となる投影パターンに埋め込み、投影パターンと撮像信号とを完全に同期させることにより、トリガ信号の出力を制御することを特徴としている。図12において、図11に示す部分と同一ブロックには同一符号を付けてあり、その詳細な説明は省略する。
第8実施形態との相違点は、三次元形状計測装置が、データ埋め込み部1208およびデコード部1209を備えている点である。この構成の具体例としては、データ生成部1103とデータ埋め込み部1208とがWindows OSを搭載したPC内に構成され、撮像信号が埋め込まれた投影パターンを、例えばDVI信号のようなデジタル映像信号としてグラフィックボードから出力する場合である。
データ埋め込み部1208は、撮像を行う投影パターンに、撮像信号と連続フレーム数設定信号とを埋め込み、映像信号として送信する。撮像信号の埋め込み方法については、対応する投影パターンの特定の場所にフラグ信号を埋め込んでもよいし、任意の場所に特別なパターンを埋め込んでもよい。連続フレーム数設定信号の埋め込み方法についても同様であるが、投影パターンに同期して変化させる必要はないため、映像ブランキング期間などの投影パターン以外の期間を利用して予め設定しておいてもよい。デコード部1209は、受信した映像信号から撮像信号と連続フレーム設定信号とを検出し、投影パターン、撮像信号、連続フレーム数設定信号に分離する。
トリガ信号生成部505は、撮像信号が撮像の有効を示す場合であって、且つ、デコード部1209により分離された投影パターンが前フレームの投影パターンとは異なる場合に、トリガ信号を生成する。点灯トリガ生成部1110は、撮像信号が撮像の有効を示す場合であって、且つ、デコード部1209により分離された投影パターンが前フレームの投影パターンと同じであるフレームの連続数が、連続フレーム数設定信号により示されるフレームの許容数以下である場合に、点灯トリガ信号を生成する。他の構成は第8実施形態と同じである。本実施形態によれば、高フレームレートで投影パターンを切り換えながら生成し、撮像を行っても、撮像データの重複を防止することができる。
(第10実施形態)
図13は、第10実施形態に係る三次元形状計測装置の構成を示すブロック図である。第10実施形態では、第9実施形態の構成において、投影パターンの変化を容易に検出するために、投影パターンの変化に合わせて変化するパターン識別信号を投影パターンに埋め込んでおくことを特徴としている。図13において、図12に示す部分と同一ブロックには同一符号を付けてあり、その詳細な説明は省略する。
第7乃至第9実施形態では、投影パターンの変化をパターン全体で比較して判別していた。本実施形態では、投影パターンの変化を容易に検出するために、投影パターンの変化に合わせて変化するパターン識別信号を投影パターンに埋め込んでおく。
第9実施形態との相違点は、パターン識別信号の生成機能を追加した点と、投影パターンの変化検出機能をパターン識別信号の変化検出機能へ変更した点である。具体的には、データ生成部1303は、投影パターン、撮像信号、連続フレーム数設定信号に加えて、パターン識別信号をさらに生成する。
データ埋め込み部1308は、投影パターンへ、撮像信号、連続フレーム数設定信号に加えて、パターン識別信号をさらに埋め込み、映像信号として送信する。デコード部1309は、受信した映像信号からパターン識別信号と撮像信号と連続フレーム数設定信号とを検出し、投影パターン、パターン識別信号、撮像信号、連続フレーム数設定信号にそれぞれ分離する。点灯トリガ生成部1310とトリガ信号生成部1305とでは、投影パターンが前フレームから変化したかどうかをパターン識別信号の変化により検出している。すなわち、トリガ信号生成部1305は、撮像信号が撮像の有効を示す場合であって、且つ、対象物へ投影される現フレームの投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号とは異なる場合にトリガ信号を生成する。また、点灯トリガ生成部1310は、撮像信号が撮像の有効を示す場合であって、且つ、デコード部により分離された投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号と同じであるフレームの連続数が、連続フレーム数設定信号により示されるフレームの許容数以下である場合に、点灯トリガ信号を生成する。本実施形態によれば、高フレームレートで投影パターンを切り換えながら生成し、撮像を行っても、撮像データの重複を防止することができる。
(第11実施形態)
図14は、60fpsで動作する投影部301を使用して1フレーム以上の露光期間を確保するために、2フレーム単位で制御を行った場合の動作例である。この時の動作について、第7実施形態で使用した図9の構成を例にして説明する。
第7実施形態では、1フレーム単位で投影パターンの切り換えを行っていたが、本実施形態では、データ生成部903は2フレーム単位に投影パターンを切り換えて生成している(図14の2段目)。すなわち、1フレーム目と2フレーム目では、パターン1が生成され、3フレーム目と4フレーム目では、パターン2が生成され、5フレーム目と不図示の6フレーム目では、パターン3が生成される。
撮像部102は、予め必要な露光期間を設定しておくが、本実施形態では最大2フレーム分の期間まで長くすることができる。また、点灯信号生成部307は、露光期間に対応する期間だけ投影部301が点灯するように、予め点灯信号の点灯期間を設定しておく。
2フレーム単位で投影、撮像制御を行うため、連続フレーム数設定信号は「2」に設定する。次に、点灯トリガ生成部910は、投影パターンが変化しなかったフレーム数を連続数としてカウントし、連続フレーム数設定信号で指定された値「2」と比較している。この例では、5フレーム目のパターン3の生成が間に合わず、4フレーム目と5フレーム目とでパターン2を連続して出力している(図14の3段目)。
そのため、5フレーム目では連続数が「3」となり、連続フレーム数設定値「2」を超えるため、点灯トリガ信号は生成されない(図14の5段目)。したがって、投影部301の光源は5フレーム目では点灯しない。また、第1および第2実施形態と同様に、投影パターンが前フレームから変化したフレームでのみトリガ信号を生成するため、5フレーム目では撮像部102を制御するシャッター信号は生成されない。したがって、5フレーム目では撮像は行われない。また、本実施形態では、2フレームの固定周期で投影パターンを変化させているが、周期は固定でなくてもよい。
このような構成により、投影部の光源制御と撮像部のシャッター制御とを独立に行うことができるため、一度の露光期間中に複数回の光源のオンとオフとが可能となる。なお、図14の例では、投影部301のブランキング期間中に入力したパターンとは異なるパターンが表示されるデバイスを用いた例を想定しているため、ブランキング期間中は光源をオフにして不要なパターンが露光されないようにする。よって、ブランキング期間中に表示されるパターンが同じであれば、点灯信号生成部307に、予め点灯信号の点灯期間を1フレームに設定しておくことで、連続して点灯することもできる。
(その他の実施形態)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (14)

  1. 投影パターンを順次生成するとともに、前記投影パターンと同期させて撮像の有効または無効を示す撮像信号を生成するデータ生成手段と、
    前記投影パターンをフレームごとに対象物へ投影する投影手段と、
    前記撮像信号が撮像の有効を示す場合であって、且つ、前記対象物へ投影される現フレームの投影パターンが前フレームの投影パターンとは異なる場合にトリガ信号を生成するトリガ信号生成手段と、
    前記投影パターンが投影された前記対象物を前記トリガ信号に応じて撮像する撮像手段と、
    を備えることを特徴とする情報処理装置。
  2. 前記トリガ信号生成手段により生成された前記トリガ信号に応じて、シャッター信号を予め設定されたタイミングで前記撮像手段へ出力するシャッター信号生成手段をさらに備え、
    前記撮像手段は、前記シャッター信号に応じて、前記投影パターンが投影された前記対象物を撮像することを特徴とする請求項1に記載の情報処理装置。
  3. 前記トリガ信号生成手段により生成された前記トリガ信号に応じて、点灯信号を予め設定されたタイミングで前記投影手段が有する光源へ出力する点灯信号生成手段をさらに備え、
    前記投影手段は、前記点灯信号により制御された期間のみ前記光源を点灯して前記投影パターンを前記対象物へ投影することを特徴とする請求項1または2に記載の情報処理装置。
  4. 前記投影パターンに前記撮像信号を埋め込んで映像信号として送信するデータ埋め込み手段と、
    前記データ埋め込み手段から受信した前記映像信号を前記投影パターンと前記撮像信号とに分離するデコード手段と、をさらに備え、
    前記トリガ信号生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記デコード手段により分離された投影パターンが前フレームの投影パターンとは異なる場合に、前記トリガ信号を生成することを特徴とする請求項に記載の情報処理装置。
  5. 前記データ生成手段は、前記投影パターンごとに当該投影パターンを識別するパターン識別信号をさらに生成し、
    前記トリガ信号生成手段は、前記対象物へ投影される現フレームの投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号とは異なる場合に前記トリガ信号を生成することを特徴とする請求項1乃至3の何れか1項に記載の情報処理装置。
  6. 前記データ生成手段は、前記投影パターンごとに当該投影パターンを識別するパターン識別信号をさらに生成し、
    前記トリガ信号生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記対象物へ投影される現フレームの投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号とは異なる場合に、前記トリガ信号を生成することを特徴とする請求項またはに記載の情報処理装置。
  7. 前記データ生成手段は、連続して投影可能な投影パターンのフレームの許容数を示す連続フレーム数設定信号をさらに生成し、
    前記情報処理装置は、
    前記対象物へ投影される現フレームの投影パターンが前フレームの投影パターンと同じであるフレームの連続数が、前記連続フレーム数設定信号により示されるフレームの許容数以下である場合に、点灯トリガ信号を生成する点灯トリガ生成手段と、
    前記点灯トリガ生成手段により生成された前記点灯トリガ信号に応じて、点灯信号を予め設定されたタイミングで前記投影手段が有する光源へ出力する点灯信号生成手段と、をさらに備え、
    前記投影手段は、前記点灯信号により制御された期間のみ前記光源を点灯して前記投影パターンを前記対象物へ投影することを特徴とする請求項1または2に記載の情報処理装置。
  8. 前記データ生成手段は、撮像の有効または無効を示す撮像信号をさらに生成し、
    前記トリガ信号生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記対象物へ投影される現フレームの投影パターンが前フレームの投影パターンとは異なる場合に、前記トリガ信号を生成し、
    前記点灯トリガ生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記対象物へ投影される現フレームの投影パターンが前フレームの投影パターンと同じであるフレームの連続数が、前記連続フレーム数設定信号により示されるフレームの許容数以下である場合に、前記点灯トリガ信号を生成することを特徴とする請求項に記載の情報処理装置。
  9. 前記投影パターンに前記撮像信号と前記連続フレーム数設定信号とを埋め込んで映像信号として送信するデータ埋め込み手段と、
    前記データ埋め込み手段から受信した前記映像信号を前記投影パターンと前記撮像信号と前記連続フレーム数設定信号とに分離するデコード手段と、をさらに備え、
    前記トリガ信号生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記デコード手段により分離された投影パターンが前フレームの投影パターンとは異なる場合に、前記トリガ信号を生成し、
    前記点灯トリガ生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記デコード手段により分離された投影パターンが前フレームの投影パターンと同じであるフレームの連続数が、前記連続フレーム数設定信号により示されるフレームの許容数以下である場合に、前記点灯トリガ信号を生成することを特徴とする請求項に記載の情報処理装置。
  10. 前記データ生成手段は、前記投影パターンごとに当該投影パターンを識別するパターン識別信号をさらに生成し、
    前記トリガ信号生成手段は、前記対象物へ投影される現フレームの投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号とは異なる場合に、前記トリガ信号を生成し、
    前記点灯トリガ生成手段は、前記対象物へ投影される現フレームの投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号と同じであるフレームの連続数が、前記連続フレーム数設定信号により示されるフレームの許容数以下である場合に、前記点灯トリガ信号を生成することを特徴とする請求項に記載の情報処理装置。
  11. 前記データ生成手段は、前記投影パターンごとに当該投影パターンを識別するパターン識別信号をさらに生成し、
    前記トリガ信号生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記対象物へ投影される現フレームの投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号とは異なる場合に前記トリガ信号を生成し、
    前記点灯トリガ生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記対象物へ投影される現フレームの投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号と同じであるフレームの連続数が、前記連続フレーム数設定信号により示されるフレームの許容数以下である場合に、前記点灯トリガ信号を生成することを特徴とする請求項に記載の情報処理装置。
  12. 前記データ生成手段は、前記投影パターンごとに当該投影パターンを識別するパターン識別信号をさらに生成し、
    前記データ埋め込み手段は、前記投影パターンに前記撮像信号と前記連続フレーム数設定信号と前記パターン識別信号とを埋め込んで映像信号として送信し、
    前記デコード手段は、前記データ埋め込み手段から受信した前記映像信号を前記投影パターンと前記撮像信号と前記連続フレーム数設定信号と前記パターン識別信号とに分離し、
    前記トリガ信号生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記デコード手段により分離された投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号とは異なる場合に前記トリガ信号を生成し、
    前記点灯トリガ生成手段は、前記撮像信号が撮像の有効を示す場合であって、且つ、前記デコード手段により分離された投影パターンのパターン識別信号が前フレームの投影パターンのパターン識別信号と同じであるフレームの連続数が、前記連続フレーム数設定信号により示されるフレームの許容数以下である場合に、前記点灯トリガ信号を生成することを特徴とする請求項に記載の情報処理装置。
  13. データ生成手段と、投影手段と、トリガ信号生成手段と、撮像手段とを備える情報処理装置の制御方法であって、
    前記データ生成手段が、投影パターンを順次生成するとともに、前記投影パターンと同期させて撮像の有効または無効を示す撮像信号を生成するデータ生成工程と、
    前記投影手段が、前記投影パターンをフレームごとに対象物へ投影する投影工程と、
    前記トリガ信号生成手段が、前記撮像信号が撮像の有効を示す場合であって、且つ、前記対象物へ投影される現フレームの投影パターンが前フレームの投影パターンとは異なる場合にトリガ信号を生成するトリガ信号生成工程と、
    前記撮像手段が、前記投影パターンが投影された前記対象物を前記トリガ信号に応じて撮像する撮像工程と、
    を有することを特徴とする情報処理装置の制御方法。
  14. 請求項13に記載の情報処理装置の制御方法の各工程をコンピュータに実行させるためのプログラム。
JP2011267258A 2011-12-06 2011-12-06 情報処理装置、情報処理装置の制御方法、およびプログラム Expired - Fee Related JP5917116B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011267258A JP5917116B2 (ja) 2011-12-06 2011-12-06 情報処理装置、情報処理装置の制御方法、およびプログラム
US13/682,140 US9288455B2 (en) 2011-12-06 2012-11-20 Information processing apparatus, control method of information processing apparatus, and storage medium for determining whether a projection pattern of a current frame differs from that of a previous frame

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011267258A JP5917116B2 (ja) 2011-12-06 2011-12-06 情報処理装置、情報処理装置の制御方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2013120093A JP2013120093A (ja) 2013-06-17
JP5917116B2 true JP5917116B2 (ja) 2016-05-11

Family

ID=48523729

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011267258A Expired - Fee Related JP5917116B2 (ja) 2011-12-06 2011-12-06 情報処理装置、情報処理装置の制御方法、およびプログラム

Country Status (2)

Country Link
US (1) US9288455B2 (ja)
JP (1) JP5917116B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5984409B2 (ja) * 2012-02-03 2016-09-06 キヤノン株式会社 三次元計測システム及び方法
DE102014110536A1 (de) * 2014-07-25 2016-01-28 E. Zoller GmbH & Co. KG Einstell- und Messgeräte Lichtprojektor
FI126498B (en) * 2014-12-29 2017-01-13 Helmee Imaging Oy Optical measurement system
JP2017034352A (ja) 2015-07-29 2017-02-09 キヤノン株式会社 投射装置およびその制御方法、表示装置
JP6700731B2 (ja) * 2015-11-13 2020-05-27 キヤノン株式会社 投影装置および投影システム
JP6353573B1 (ja) * 2017-03-02 2018-07-04 Ckd株式会社 三次元計測装置
US11173394B2 (en) 2017-05-18 2021-11-16 Sony Interactive Entertainment Inc. Information processing apparatus and normal line information acquisition method
JP2019095376A (ja) * 2017-11-27 2019-06-20 倉敷紡績株式会社 画像処理システム
CN110868577A (zh) * 2018-08-28 2020-03-06 光焱科技股份有限公司 基于结构光照明技术的光学***及其应用方法
CN111629191A (zh) * 2020-06-05 2020-09-04 中影巴可(北京)电子有限公司 3d设备投影画面的对齐方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3237975B2 (ja) * 1993-09-20 2001-12-10 富士通株式会社 画像処理装置
JPH09325009A (ja) * 1996-06-05 1997-12-16 Minolta Co Ltd 3次元計測装置
US6049385A (en) 1996-06-05 2000-04-11 Minolta Co., Ltd. Three dimensional measurement system and pickup apparatus
US6546139B1 (en) 1998-10-07 2003-04-08 Sony Corporation Coding apparatus and method, decoding apparatus and method, data processing system, storage medium, and signal
US6545670B1 (en) * 1999-05-11 2003-04-08 Timothy R. Pryor Methods and apparatus for man machine interfaces and related activity
JP2001127983A (ja) 1999-10-29 2001-05-11 Fuji Xerox Co Ltd 画像処理装置
JP2001304815A (ja) * 2000-04-24 2001-10-31 Mitsubishi Electric Corp 位置計測システムおよび位置計測方法
JP4709407B2 (ja) * 2001-03-23 2011-06-22 株式会社リコー 画像指示手段の位置検出方法、該方法に用いられる画像投影装置及び画像制御装置
JP2002366931A (ja) * 2001-06-08 2002-12-20 Nec Corp 形状計測装置およびその方法
US7134080B2 (en) * 2002-08-23 2006-11-07 International Business Machines Corporation Method and system for a user-following interface
JP4391137B2 (ja) * 2003-06-10 2009-12-24 Jfeテクノリサーチ株式会社 3次元曲面形状の測定装置及び測定方法
JP4433981B2 (ja) * 2004-10-29 2010-03-17 ソニー株式会社 撮像方法および撮像装置
JP2006266957A (ja) * 2005-03-25 2006-10-05 Brother Ind Ltd 3次元入力装置
JP2007206797A (ja) * 2006-01-31 2007-08-16 Omron Corp 画像処理方法および画像処理装置
US8106884B2 (en) * 2006-03-20 2012-01-31 Samsung Electronics Co., Ltd. Pointing input device, method, and system using image pattern
US8768313B2 (en) * 2009-08-17 2014-07-01 Digimarc Corporation Methods and systems for image or audio recognition processing
US8818027B2 (en) * 2010-04-01 2014-08-26 Qualcomm Incorporated Computing device interface
KR20120086088A (ko) * 2011-01-25 2012-08-02 삼성전자주식회사 이미지 처리 방법 및 장치

Also Published As

Publication number Publication date
JP2013120093A (ja) 2013-06-17
US20130141569A1 (en) 2013-06-06
US9288455B2 (en) 2016-03-15

Similar Documents

Publication Publication Date Title
JP5917116B2 (ja) 情報処理装置、情報処理装置の制御方法、およびプログラム
US20170347076A1 (en) Image projection system and image projection method
US11831993B2 (en) Information processing apparatus, information processing system, device for position and posture acquisition, and device information acquisition method
JP2008015915A (ja) 画像処理方法、入力インタフェース装置
JP2006277085A (ja) 光学式ポインティング制御装置及び該装置を用いたポインティングシステム
US10565466B2 (en) Image processor and image processing method
KR20160058498A (ko) 멀티 디스플레이 장치의 레이아웃을 검출하는 장치 및 방법
US11743437B2 (en) Projection adjustment program and projection adjustment method
JP2014032159A (ja) 投影撮像システム及び投影撮像システムの制御方法
JPWO2016031359A1 (ja) 制御装置、制御方法、及びプログラム
JP2018163217A (ja) プロジェクター
JP2018163217A5 (ja)
US20150138512A1 (en) Information processing apparatus, image projecting apparatus, and method for providing distortion correction instruction
US20200077059A1 (en) Display apparatus, display system, and method for controlling display apparatus
JP2017009909A (ja) 投射型映像表示システム、投射型映像表示装置及び投射補正方法
US11399165B2 (en) Projection system, projection device, and projection method
US10212405B2 (en) Control apparatus and method
KR20170012549A (ko) 몸짓 인식을 위한 이미지 매트릭스를 생성하기 위한 모듈, 시스템 및 방법
JP6596501B2 (ja) 映像表示装置およびこれに用いる操作検出方法
JP2014219572A (ja) 表示装置及びその制御方法
JP2016142782A (ja) 画像投射装置
JP2017116304A (ja) 三次元形状計測装置
JP5471315B2 (ja) 情報提供システム
JP2006345228A (ja) ポイント画像の制御装置およびポイント画像の制御方法
US20120288144A1 (en) Image processing apparatus, image processing method, and motion detection system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150904

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151013

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160406

R151 Written notification of patent or utility model registration

Ref document number: 5917116

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees