JP6700731B2 - 投影装置および投影システム - Google Patents

投影装置および投影システム Download PDF

Info

Publication number
JP6700731B2
JP6700731B2 JP2015223340A JP2015223340A JP6700731B2 JP 6700731 B2 JP6700731 B2 JP 6700731B2 JP 2015223340 A JP2015223340 A JP 2015223340A JP 2015223340 A JP2015223340 A JP 2015223340A JP 6700731 B2 JP6700731 B2 JP 6700731B2
Authority
JP
Japan
Prior art keywords
image
unit
liquid crystal
display
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015223340A
Other languages
English (en)
Other versions
JP2017092819A (ja
JP2017092819A5 (ja
Inventor
伸洋 岡
伸洋 岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015223340A priority Critical patent/JP6700731B2/ja
Priority to US15/345,348 priority patent/US10171781B2/en
Publication of JP2017092819A publication Critical patent/JP2017092819A/ja
Publication of JP2017092819A5 publication Critical patent/JP2017092819A5/ja
Application granted granted Critical
Publication of JP6700731B2 publication Critical patent/JP6700731B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3182Colour adjustment, e.g. white balance, shading or gamut
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Studio Devices (AREA)
  • Projection Apparatus (AREA)
  • Transforming Electric Information Into Light Information (AREA)

Description

本発明は、投影装置および投影システムに関する。
近年、アミューズメント施設やフライトシミュレータなどのシミュレーション用途において、投影装置を使ったシミュレーションシステムが常設されるようになってきている。このような常設の投影システムにおける1つの課題は、投影画像の投影位置、形状あるいは画質を維持することである。
投影装置の振動などの要因によって投影位置がずれた場合、投影を一旦中断して手動で較正するためには、多大な時間と労力が発生してしまうという課題がある。特に、複数の投影装置を組み合わせて使用するシステムにおいては、互いの投影位置の較正は極めて難しく、専門的な較正技術を持った人が必要であった。
上記の課題を解決するために、特許文献1には、投影装置から投影する較正パターンをカメラで撮影し、調整パラメータを生成して、スクリーン上での較正パターンの形状を補正する技術が開示されている。また、特許文献2には非可視光で投影された較正パターンをカメラで撮影することで、較正パターンが投影画像の視聴を妨げることを防ぐ技術が開示されている。
特許第3908255号公報 特開2011−211693号公報
しかしながら、特許文献1及び2では、投影画像の撮影タイミングについて特別な言及がなされていない。そのため、例えば、投影画像が線順次に更新されていく投影装置においては、フレーム毎に異なる較正パターンを重畳した投影画像を撮影する場合、撮影するタイミングによっては、1枚の画像に複数のフレームのパターンが混在してしまうことがある。このような画像からは、適切な調整パラメータを得ることができないという課題があった。
この課題について図12を用いて説明する。図12(a)は投影装置のパネル上に描画される画像の更新タイミングの一例を示した図である。図12(b)は、フレーム1の投影画像、図12(c)はその次のフレーム2の投影画像を表している。
ここで、投影画像を表示するパネルは、水平同期信号(HD)に同期して、ライン毎に描画更新を行う。時間t121〜t122間では、フレーム1の1ライン目の画像が描画される。時間t122〜t123間では、フレーム1の2ライン目の画像が描画される。同様にして、パネルの全ライン(ここではNライン)が順に更新されていく。更新が終わったラインの画像は次の更新まで保持される。
図12(d)は時間t124においてパネル上に描画されている画像を示した図である。時間t124においては、フレーム2の画像の1/3にあたるkライン目までが更新されており、(k+1)〜Nライン目はフレーム1の画像が引き続き描画されている。このタイミングで投影画像を撮影した場合、フレーム1と2が混ざった図12(d)の様な画像が撮影されてしまう。このような画像を使って投影画像の補正を行うと誤補正の原因となってしまう。
本発明は上記問題点を鑑みてなされたものであり、投影画像の補正パラメータを得るためのより適切な画像を撮影することを目的とする。
上記目的を達成するために、本発明の投影装置は、入力された動画のフレーム画像に予め決められた較正パターンを合成して、合成したフレーム画像の画像信号を出力する合成手段と、前記合成手段から出力された画像信号に基づいて、表示手段の透過率または反射率を制御して画像を形成する表示制御手段と、前記表示手段に光を照射することにより、前記表示手段に形成された画像を投影する投影手段と、前記投影手段により投影された画像を撮影する撮像手段と、前記撮像手段により撮影された画像から前記較正パターンを抽出し、該抽出した較正パターンの状態に応じて、前記表示手段に形成する画像を補正するための補正パラメータを生成する生成手段と、前記表示手段の透過率または反射率が更新されるタイミングに基づいて、前記撮像手段により撮影された画像に、前記表示手段の透過率または反射率の更新前後の画像が混在しないように、撮像タイミングを制御する撮像制御手段と、を有し、前記撮像手段は、撮像素子を有し、前記撮像制御手段は、前記動画のフレームレートの変更に応じて、前記撮像素子の電荷蓄積時間を変更し、前記合成手段は、前記フレーム画像に対して、前記較正パターンを加算することにより合成した加算画像と、前記較正パターンを減算することにより合成した減算画像の画像信号を出力し、前記生成手段は、前記投影手段により投影された前記加算画像を撮影した画像から、前記投影手段により投影された前記減算画像を撮影した画像を差分することにより、前記較正パターンを抽出する。
本発明によれば、投影画像の補正パラメータを得るためのより適切な画像を撮影することが可能となる。
本発明の実施形態における液晶プロジェクタの全体構成を示すブロック図。 実施形態における液晶プロジェクタの基本動作の制御を説明するためのフローチャート。 第1の実施形態における画像処理部、液晶制御部および撮像部の内部構成を示すブロック図。 第1の実施形態における較正パターンの一例と、その較正パターンの投影画像への合成例を示した図。 第1の実施形態における液晶パネルの更新タイミングを示したタイミング図。 第1の実施形態における撮像センサの電荷蓄積および読み出しタイミングの一例を示したタイミング図。 第1の実施形態における撮像センサの電荷蓄積および読み出しタイミングの一例を示したタイミング図。 第1の実施形態における液晶プロジェクタの動作を示すフローチャート。 第2の実施形態における撮像センサの電荷蓄積および読み出しタイミングの一例を示したタイミング図。 第3の実施形態における画像処理部および液晶制御部と、液晶パネルの領域との関係を説明するための図。 第3の実施形態における液晶パネルの更新タイミングの一例と、撮像センサの電荷蓄積および読み出しタイミングの一例を示した図。 従来の線順次更新方式のパネルの更新タイミングの例と、液晶パネルに形成される画像について説明した図。
以下、添付図面を参照して本発明を実施するための形態を詳細に説明するが、本発明は以下の実施の形態に限定されるものではない。本実施形態では、投影装置の一例として、液晶パネルを用いたプロジェクタについて説明する。
<全体構成>
まず、図1を用いて、第1の実施形態における液晶プロジェクタの全体構成について説明する。本実施形態の液晶プロジェクタ100は、CPU110、ROM111、RAM112、操作部113、画像入力部130、画像処理部140を有する。また、液晶プロジェクタ100は、さらに、液晶制御部150、液晶パネル151R、151G、151B、光源制御部160、光源161、色分離部162、色合成部163、光学系制御部170、投影光学系171を有する。また、液晶プロジェクタ100は、さらに、記録再生部191、記録媒体192、通信部193、撮像部180、表示制御部195、表示部196を有していてもよい。
CPU110は、液晶プロジェクタ100の各動作ブロックを制御する。ROM111は、CPU110の処理手順を記述した制御プログラムを記憶し、RAM112は、ワークメモリとして一時的に制御プログラムやデータを格納する。また、CPU110は、記録再生部191により記録媒体192から再生された静止画データや動画データを一時的に記憶し、ROM111に記憶されたプログラムを用いて、それぞれの画像や映像を再生することもできる。また、CPU110は、不図示の外部装置から通信部193を介して受信した静止画データや動画データを一時的に記憶し、ROM111に記憶されたプログラムを用いて、それぞれの画像や映像を再生することもできる。また、撮像部180により得られた画像や映像を一時的にRAM112に記憶し、ROM111に記憶されたプログラムを用いて、静止画データや動画データに変換して記録媒体192に記録させることもできる。
操作部113は、ユーザの指示を受け付け、CPU110に指示信号を送信するものであり、例えば、スイッチやダイヤル、表示部196上に設けられたタッチパネルなどからなる。また、操作部113は、例えば、リモコンからの信号を受信する信号受信部(赤外線受信部など)で、受信した信号に基づいて所定の指示信号をCPU110に送信するものであってもよい。また、CPU110は、操作部113や、通信部193により外部装置から入力された制御信号を受信して、液晶プロジェクタ100の各動作ブロックを制御する。ここで、外部装置は、液晶プロジェクタ100と通信を行うことができるものであれば、パーソナルコンピュータ、カメラ、携帯電話、スマートフォン、ハードディスクレコーダ、ゲーム機、リモコンなど、どのようなものであってもよい。
画像処理部140は、外部装置から画像入力部130を介して受信した映像信号にフレーム数、画素数、画像形状などの変更処理を施して、液晶制御部150に送信するものであり、例えば画像処理用の単数または複数のマイクロプロセッサからなる。なお、画像処理部140は、専用のマイクロプロセッサである必要はなく、例えば、ROM111に記憶されたプログラムによって、CPU110が画像処理部140と同様の処理を実行しても良い。また、画像処理部140は、フレーム間引き処理、フレーム補間処理、解像度変換(スケーリング)処理、歪み補正処理(キーストン補正処理)といった機能を実行することが可能である。更に、画像処理部140は、画像入力部130から受信した映像信号以外にも、CPU110によって再生された画像や映像に対して前述の変更処理を施すこともできる。
光源161は、不図示のスクリーンに画像を投影するための光を照射するものであり、例えば、ハロゲンランプ、キセノンランプ、高圧水銀ランプなどであっても良い。光源制御部160は、光源161のオン/オフや光量の制御をするものであり、制御用の単数または複数のマイクロプロセッサからなる。なお、光源制御部160は、専用のマイクロプロセッサである必要はなく、例えば、ROM111に記憶されたプログラムによって、CPU110が光源制御部160と同様の処理を実行しても良い。色分離部162は、光源161から出力された光を、赤色(R)、緑色(G)、青色(B)に分離するものであり、例えば、ダイクロイックミラーやプリズムなどからなる。なお、光源161として、各色に対応するLED等を使用する場合には、色分離部162は不要である。
液晶制御部150(表示制御手段)は、画像処理部140で処理の施された映像信号に基づいて、液晶パネル151R、151G、151Bの画素毎の液晶に印加する電圧を制御して、液晶パネル151R、151G、151Bの透過率または反射率を調整する。なお、以下においては、透過型のプロジェクタとして説明するため、液晶制御部150は液晶パネル151R、151G、151Bの透過率を調整するが、反射型のプロジェクタの場合には、液晶パネル151R、151G、151Bの反射率を調整する。液晶制御部150は、例えば液晶制御用の単数または複数のマイクロプロセッサからなる。また、液晶制御部150は、専用のマイクロプロセッサである必要はなく、例えば、ROM111に記憶されたプログラムによって、CPU110が液晶制御部150と同様の処理を実行しても良い。
液晶パネル151Rは、赤色に対応する液晶パネルであって、光源161から出力され、色分離部162で赤色(R)、緑色(G)、青色(B)に分離された光のうち、液晶制御部150の制御により調整された透過率で、赤色(R)の光を透過する。液晶パネル151Gは、緑色に対応する液晶パネルであって、色分離部162で分離された光のうち、液晶制御部150の制御により調整された透過率で、緑色(G)の光を透過する。液晶パネル151Bは、青色に対応する液晶パネルであって、色分離部162で分離された光のうち、液晶制御部150の制御により調整された透過率で、青色(B)の光を透過する。なお、以下の説明においては、適宜、液晶パネル151R、151G、151Bをまとめて、液晶パネル151と表記する。
色合成部163は、液晶パネル151R、151G、151Bをそれぞれ透過した赤色(R)、緑色(G)、青色(B)の光を合成するもので、例えば、ダイクロイックミラーやプリズムなどからなる。そして、色合成部163により赤色(R)、緑色(G)、青色(B)の成分が合成された光は、投影光学系171を介して、スクリーンに投影される。このとき、液晶パネル151(表示手段)は、画像処理部140から入力された画像に対応する光の透過率または反射率となるように、液晶制御部150により制御されている。そのため、色合成部163により合成された光は、投影光学系171によりスクリーンに投影されると、画像処理部140により入力された画像に対応する画像がスクリーン上に表示されることになる。
光学系制御部170は、投影光学系171を制御するものであり、単数または複数の制御用のマイクロプロセッサからなる。なお、光学系制御部170は、専用のマイクロプロセッサである必要はなく、例えば、ROM111に記憶されたプログラムによって、CPU110が光学系制御部170と同様の処理を実行しても良い。投影光学系171は、色合成部163から出力された合成光をスクリーンに投影するためのものであり、複数のレンズおよびレンズ駆動用のアクチュエータからなる。そして、レンズをアクチュエータにより駆動することで、投影画像の拡大、縮小、焦点調整などを行うことができる。
記録再生部191は、記録媒体192から静止画データや動画データを再生したり、また、撮像部180により得られた画像や映像の静止画データや動画データをCPU110から受信して記録媒体192に記録したりするものである。また、通信部193より受信した静止画データや動画データを記録媒体192に記録しても良い。記録再生部191は、例えば、記録媒体192と電気的に接続するインタフェースや記録媒体192と通信するための単数または複数のマイクロプロセッサからなる。なお、記録再生部191は、専用のマイクロプロセッサを含む必要はなく、例えば、ROM111に記憶されたプログラムによって、CPU110が記録再生部191と同様の処理を実行しても良い。
記録媒体192は、静止画データや動画データ、その他、本実施形態の液晶プロジェクタに必要な制御データなどを記録する。記録媒体192としては、磁気ディスク、光学式ディスク、半導体メモリなどのあらゆる方式の記録媒体であってよく、着脱可能な記録媒体であっても、内蔵型の記録媒体であってもよい。
通信部193は、外部機器からの制御信号や静止画データ、動画データなどを受信するためのものであり、例えば、無線LAN、有線LAN、USB、Bluetooth(登録商標)などであってよく、通信方式を特に限定するものではない。また、画像入力部130の端子が、例えばHDMI(登録商標)端子であれば、その端子を介してCEC通信を行うものであっても良い。
撮像部180は、本実施形態の液晶プロジェクタ100やその周辺を撮像して画像信号を取得するものであり、投影光学系171を介して投影された画像を撮影(スクリーン方向を撮影)することができる。撮像部180は、得られた画像や映像をCPU110に送信し、CPU110は、その画像や映像を一時的にRAM112に記憶し、ROM111に記憶されたプログラムに基づいて、静止画データや動画データに変換する。撮像部180は、被写体の光学像を結像するレンズ、レンズを駆動するアクチュエータ、アクチュエータを制御するマイクロプロセッサを含む。更に、撮像部180は、レンズを介して入射した光学像を画像信号に変換する撮像素子、撮像素子により得られた画像信号をデジタル信号に変換するAD変換部などからなる。また、撮像部180は、スクリーンと逆方向の視聴者側を撮影できるようなものであっても良い。
表示制御部195は、液晶プロジェクタ100に備えられた表示部196に液晶プロジェクタ100を操作するための操作画面やスイッチアイコン等の画像を表示させるための制御を行う。また、表示制御部195は、表示制御を行う単数または複数のマイクロプロセッサなどからなる。なお、表示制御部195専用のマイクロプロセッサである必要はなく、例えば、ROM111に記憶されたプログラムによって、CPU110が表示制御部195と同様の処理を実行しても良い。また、表示部196は、液晶プロジェクタ100を操作するための操作画面やスイッチアイコンを表示する。表示部196は、画像を表示できればどのようなものであっても良く、例えば、液晶ディスプレイ、CRTディスプレイ、有機ELディスプレイ、LEDディスプレイであって良い。また、特定のボタンをユーザに認識可能に掲示するために、各ボタンに対応するLED等を発光させるものであってもよい。
<基本動作>
次に、図1および図2を用いて、本実施形態における液晶プロジェクタ100の基本動作について説明する。
図2は、本実施形態の液晶プロジェクタ100の基本動作の制御を説明するためのフローチャートである。図2の動作は、基本的にCPU110が、ROM111に記憶されたプログラムに基づいて、各機能ブロックを制御することにより実行される。また、図2のフローチャートは、操作部113や不図示のリモコンにより、ユーザが液晶プロジェクタ100の電源のオンを指示した時点をスタートとしている。
操作部113や不図示のリモコンによりユーザが液晶プロジェクタ100の電源のオンを指示すると、CPU110は、不図示の電源部から液晶プロジェクタ100の各部に電力を供給する。
次に、CPU110は、ユーザによる操作部113やリモコンの操作により選択された表示モードを判定する(S210)。本実施形態では、液晶プロジェクタ100の表示モードとして、「入力画像表示モード」、「ファイル再生表示モード」、「ファイル受信表示モード」の3つの表示モードを想定する。「入力画像表示モード」では、画像入力部130より入力された映像を表示する。「ファイル再生表示モード」では、記録再生部191により記録媒体192から読み出された静止画データや動画データの画像や映像を表示する。「ファイル受信表示モード」では、通信部193から受信した静止画データや動画データの画像や映像を表示する。なお、本実施形態では、ユーザにより表示モードが選択される場合について説明するが、電源を投入した時点での表示モードは、前回終了時の表示モードになっていてもよく、また、前述のいずれかの表示モードをデフォルトの表示モードとしてもよい。その場合には、S210の処理は省略可能である。
S210で、「入力画像表示モード」が選択されると、CPU110は、画像入力部130から映像が入力されているか否かを判定する(S220)。入力されていない場合(S220でNo)には、入力が検出されるまで待機し、入力されている場合(S220でYes)には、CPU110は、投影処理を実行する(S230)。
CPU110は、投影処理として、画像入力部130より入力された映像を画像処理部140に送信し、画像処理部140に、映像の画素数、フレームレート、形状の変形を実行させ、処理の施された1画面分の画像を液晶制御部150に送信する。そして、CPU110は、液晶制御部150に、受信した1画面分の画像の赤色(R)、緑色(G)、青色(B)の各色成分の階調レベルに応じた透過率となるように、液晶パネル151R、151G、151Bの透過率を制御させる。そして、CPU110は、光源制御部160に光源161からの光の出力を制御させる。色分離部162は、光源161から出力された光を、赤色(R)、緑色(G)、青色(B)に分離し、それぞれの光を、液晶パネル151R、151G、151Bに供給する。液晶パネル151R、151G、151Bに供給された各色の光は、各液晶パネル151の画素毎に透過する光量が透過率に応じて制限される。そして、液晶パネル151R、151G、151Bを透過した赤色(R)、緑色(G)、青色(B)のそれぞれの光は、色合成部163に供給され再び合成される。そして、色合成部163で合成された光は、投影光学系171を介して、不図示のスクリーンに投影される。この投影処理は、画像を投影している間、1フレームの画像毎に順次、実行される。
このとき、ユーザにより投影光学系171を操作する指示が操作部113から入力されると、CPU110は、光学系制御部170に、投影画像の焦点を変更したり、光学系の拡大率を変更したりするように、投影光学系171のアクチュエータを制御させる。
上述した画像の投影中に、CPU110は、ユーザにより表示モードを切り替える指示が操作部113から入力されたか否かを判定する(S240)。ここで、ユーザにより表示モードを切り替える指示が操作部113から入力されると(S240でYes)、再びS210に戻り、表示モードの判定を行う。このとき、CPU110は、画像処理部140に、表示モードを選択させるためのメニュー画面をオンスクリーンディスプレイ(OSD)画像として送信し、投影中の画像にこのOSD画像を重畳させるように画像処理部140を制御する。ユーザは、この投影されたOSD画像を見ながら、表示モードを選択することができる。
一方、画像の投影中に、ユーザにより表示モードを切り替える指示が操作部113から入力されない場合は(S240でNo)、CPU110は、ユーザにより投影終了の指示が操作部113から入力されたか否かを判定する(S250)。ここで、ユーザにより投影終了の指示が操作部113から入力された場合には(S250でYes)、CPU110は、液晶プロジェクタ100の各ブロックに対する電源供給を停止させ、画像投影を終了させる。一方、ユーザにより投影終了の指示が操作部113から入力されない場合には(S250でNo)、S220へ戻り、以降、ユーザにより投影終了の指示が操作部113から入力されるまでの間、S220からS250までの処理を繰り返す。
以上のように、本実施形態の液晶プロジェクタ100は、スクリーンに対して画像を投影する。
一方、S210において、「ファイル再生表示モード」または「ファイル受信表示モード」が選択されると、S260に移る。S260では、「ファイル再生表示モード」が選択されている場合、CPU110は、記録再生部191に記録媒体192から静止画データや動画データのファイルリストや各ファイルのサムネイルデータを読み出させ、RAM112に一時的に記憶する。また、「ファイル受信表示モード」が選択されている場合には、CPU110は、通信部193から受信した静止画データや動画データのファイルリストや各ファイルのサムネイルデータを、RAM112に一時的に記憶する。そして、S270において、CPU110は、ROM111に記憶されたプログラムに基づいて、RAM112に一時記憶されたファイルリストに基づく文字画像や各ファイルのサムネイルデータに基づく画像一覧を生成し、画像処理部140に送信する。CPU110は、「入力画像表示モード」におけるS230の投影処理と同様にして、画像処理部140、液晶制御部150、光源制御部160を制御し、画像一覧を投影する。
次に、S280において、表示された画像一覧から、操作部113により表示された文字や画像を選択する指示が入力されると、画像データを取得する処理を行う。より具体的には、「ファイル再生表示モード」の場合、CPU110は、選択された静止画データや動画データを記録媒体192から読み出すように記録再生部191を制御する。また、「ファイル受信表示モード」の場合、通信部193を介して、外部装置に選択された静止画データや動画データを送信するようにリクエストする。そして、CPU110は、得られた静止画データや動画データをRAM112に一時的に記憶する。そして、S290において、CPU110は、「入力画像表示モード」におけるS230の投影処理と同様に、記憶されたプログラムに基づいて、静止画データや動画データの画像や映像を投影する。
動画データを再生した時には、再生した動画データの映像を順次画像処理部140に送信し、「入力画像表示モード」におけるS230の投影処理と同様にして、画像処理部140、液晶制御部150、光源制御部160を制御し、動画を投影する。また、静止画データを再生した場合には、再生した画像を画像処理部140に送信し、「入力画像表示モード」におけるS230の投影処理と同様にして、画像処理部140、液晶制御部150、光源制御部160を制御して、静止画を投影する。
<第1の実施形態>
次に、図3を参照して、上述した構成を有する第1の実施形態の液晶プロジェクタ100における画像処理部140、液晶制御部150および撮像部180の構成について詳しく説明する。
●画像処理部140の構成
画像処理部140は、前処理部141、メモリ制御部142、画像メモリ143、後処理部144、出力同期信号生成部145で構成され、投影する画像データに、較正パターンを付加する。
前処理部141、メモリ制御部142、後処理部144、出力同期信号生成部145は、レジスタバス199を介してCPU110と接続されている。また、前処理部141、メモリ制御部142には、画像入力部130からの入力垂直同期信号IVDおよび入力水平同期信号IHDを含んだタイミング信号が入力されている。更には、メモリ制御部142、後処理部144には、液晶制御部150からの出力垂直同期信号OVDおよび出力水平同期信号OHDを含んだタイミング信号が入力されている。なお、以下の説明では、入力垂直同期信号IVDおよび入力水平同期信号IHDをまとめて入力同期信号、また、出力垂直同期信号OVDおよび出力水平同期信号OHDをまとめて、出力同期信号と呼ぶ。
前処理部141は、画像入力部130から入力された画像を、液晶パネル151に適した色空間、解像度へ変換する。具体的には、色空間変換、拡大縮小処理を含む表示レイアウトの変換処理を行う。
メモリ制御部142は、IP変換やフレームレート変換などの時間軸上の変換処理や、投影画像の形状補正のために使用される画像メモリ143のメモリアドレスの発行、画像の書き込みおよび読み出し制御を行う。ここでは、同じ画像を画像メモリ143から2度読み出すことによりフレームレートを倍速化する処理も行う。いずれのケースにおいても、画像メモリ143に対して、IVDおよびIHDに同期して画像の書き込み制御を行い、OVDおよびOHDに同期して画像の読み出し制御を行う。
後処理部144は、較正パターン生成部147、合成部148、画像補正部149を有する。較正パターン生成部147は、投影映像の投影位置もしくは形状の較正のために必要なパターンを生成する。このパターンは、例えば図4(a)に示すような複数の矩形からなる公知のパターンや、または米国特許第8907795号で開示されている技術を用いて生成される2次元座標情報をコード化したパターンであってもよく、限定されるものではない。
合成部148は、較正パターン生成部147が生成した較正パターンを入力画像に合成する。また、合成の際には階調のオーバーフロー、アンダーフローが発生しないように、較正パターンの階調を補正する。
なお、投影画像に合成された較正パターンは、液晶プロジェクタ100の視聴者に視認されないことが望ましい。そこで、合成部148は較正パターンを常に画像に合成するのではなく、必要に応じて、例えば数分に1回1フレームだけ合成してもよい。また、前述した様に、メモリ制御部142が画像メモリ143から同じ画像を2度読み出すことによって倍速化した場合、較正パターンを次のように合成しても良い。即ち、先に読み出したフレームでは、図4(b)の様に較正パターンを減算して合成し、後に読み出したフレームでは、図4(c)の様に較正パターンを加算して合成する。この方法では、2フレームを使って視覚的な積分効果を利用することで、パターンを視認されにくくすることができる。
画像補正部149は、液晶パネル151と投影光学系171に起因する表示むら(色むら、輝度むら)、ディスクリネーションなどの補正処理を行う。更には、液晶パネル151の階調性に合わせた、ディザリングを代表とする階調変換やガンマ変換などの画像処理を行う。
出力同期信号生成部145は、出力同期信号(OVD、OHD)を生成する。出力同期信号生成部145は、自身に入力されている不図示のドットクロックのベースとなる基準クロックをカウントしてOVD、OHDを生成する。このOVD、OHDは、メモリ制御部142による画像メモリ143の読み出しから後処理部144、更には液晶制御部150によって駆動される液晶パネル151の更新タイミングを同期化するための基準信号として扱われる。
●液晶制御部150の構成
液晶制御部150は、デジタルアナログ変換部(DAC)152およびパネルタイミングコントローラ153で構成される。DAC152は、画像処理部140で処理されたデジタルの画像信号をアナログ信号に変換して液晶パネル151に送信する。
パネルタイミングコントローラ153は、画像処理部140から受信した出力同期信号に同期して、液晶パネル151を駆動するために必要な制御信号や走査電圧信号を生成する。また、CPU110からの上下反転指示に従って、液晶パネル151に対して、画像信号に対して描画のスキャン順を指示する制御信号を生成する。パネルタイミングコントローラ153は、CPU110から投影画像を上下反転するように指示されると、液晶パネル151に対して映像データを下ラインから上に向かって順に描画を行うように制御信号を送信する。本動作により、液晶パネル151に形成される画像が上下反転される。
(液晶パネル151の各ラインの更新タイミング)
第1の実施形態における液晶パネル151の駆動方式は、線順次のアクティブマトリクス駆動方式である。液晶パネル151を構成する各画素の更新タイミングについて説明する。なお、液晶パネル151のライン数はNライン(Nは整数)として説明する。
パネルタイミングコントローラ153は、出力水平同期信号OHDに同期して、液晶パネル151の所定のラインに走査電圧を印加することで、そのラインを更新可能状態とする。この状態で、走査電圧が印加されている液晶パネル151のラインの画素電極に対して、DAC152から出力されるアナログ信号が順次印加されると、更新可能状態にあるラインの画素が駆動され、表示画像が更新される。なお、一度更新された画素は次のフレームの更新タイミングまで保持される。この走査電圧を印加するラインを、1フレーム期間にわたって順に変化させていくため、画素の更新もライン毎に行われる。以上が、液晶パネル151の更新タイミングの概略である。
次に、図5および図6を用いて、液晶パネル151の更新タイミングについて詳細に説明する。
図5(a)は画像を上下反転せずに投影する、通常投影時の液晶パネル151の更新タイミングを示した図である。まず、液晶パネル151の更新タイミングを制御するパネルタイミングコントローラ153は、t5−1においてOVDの立ち上がりを検出して、フレーム1の画像の描画処理の開始を認識する。
次に、パネルタイミングコントローラ153は、OHDを予め定められた回数(本例では2回)カウントし、所定回数目のOHDの立ち上がり(t5−2)にて液晶パネル151の先頭ラインである1ライン目に対して走査電圧を印加する。この状態において、液晶パネル151の画素電極に入力されるDAC152からのアナログ信号に応じて1ライン目の各画素の更新が行われる。次に、パネルタイミングコントローラ153は、次のOHDの立ち上がり(t5−3)にて、液晶パネル151の1ライン目の走査電圧の印加を終了することで、液晶パネル151の1ライン目の更新が終了する。またt5−3にて、パネルタイミングコントローラ153は、液晶パネル151の2ライン目に対して走査電圧を印加して2ライン目の画素の更新を始め、次のOHDの立ち上がり(t5−4)にて走査電圧の印加を終了して更新を終了する。
パネルタイミングコントローラ153は、以上の手順で液晶パネル151を1ライン目からNライン目まで昇順に更新していき、t5−5の時点で全ての画素にフレーム1の画像が描画される。
次に、パネルタイミングコントローラ153は、t5−6の時点でOVDを検出することでフレーム2の画像の描画処理を指示されたことを認識する。フレーム2における2回目のOHDの立ち上がりタイミング(t5−7)から、フレーム1の描画処理と同様に1ライン目からNライン目まで昇順に更新を行う。
以上が、画像を上下反転せずに投影する際の液晶パネル151の更新タイミングである。
図5(b)は画像を上下反転して投影する、上下反転時の液晶パネル151の更新タイミングについて示した図である。まず、液晶パネル151の更新タイミングを制御するパネルタイミングコントローラ153は、t5−11にてOVDの立ち上がりを検出して、フレーム1の画像の描画処理の開始を認識する。
次に、パネルタイミングコントローラ153は、OHDを予め定められた回数(本例では2回)カウントし、所定回数目のOHDの立ち上がり(t5−12)にて液晶パネル151の最終ラインであるNライン目に対して走査電圧を印加する。この状態において、液晶パネル151の画素電極に入力されるDAC152からのアナログ信号に応じてNライン目の各画素の更新が行われる。次に、パネルタイミングコントローラ153は、t5−13にて次のOHDの立ち上がりのタイミングにて、液晶パネル151のNライン目の走査電圧の印加を終了することで、液晶パネル151のNライン目の更新が終了する。またt5−13にて、パネルタイミングコントローラ153は、液晶パネル151のN−1ライン目に対して走査電圧を印加してN−1ライン目の画素の更新を始め、次のOHDの立ち上がり(t5−14)にて走査電圧の印加を終了して更新を終了する。
パネルタイミングコントローラ153は、以上の手順で液晶パネル151をNライン目から1ライン目まで降順に更新していき、t5−15の時点で全ての画素にフレーム1の画像が描画される。
次に、パネルタイミングコントローラ153は、t5−16の時点でOVDを検出することでフレーム2の画像の描画処理を指示されたことを認識する。フレーム2における2回目のOHDの立ち上がりタイミング(t5−17)から、フレーム1の描画処理と同様にNライン目から1ライン目まで降順に更新を行う。
以上が、画像を上下反転して投影する際の液晶パネル151の更新タイミングである。
ここまで、液晶パネル151の更新タイミングについて説明してきたが、本発明における液晶パネル151およびパネルタイミングコントローラ153の動作はこれまでの説明に限るものではない。例えばパネルタイミングコントローラ153は、不図示のデータの有効期間を表すDE信号に同期して走査電圧の印加を行ってもよい。また、液晶パネル151のラインを形成する複数の画素は、走査電圧が印加されている期間中において、同時に更新される構成であってもよいし時間順に更新される構成であってもよい。何れにせよ、液晶パネル151の各ラインが同時ではなく順に更新されるのであれば、その構成に限定はない。
●撮像部180の構成
次に、図3に戻って、撮像部180の具体的な構成について説明する。撮像部180は、撮像光学系181、撮像センサ182、信号変換部183、撮像タイミングコントローラ184(撮像制御手段)からなる。撮像光学系181を通って入射する光は、撮像センサ182によって光電変換され、画像信号となる。その後、画像信号に対して信号変換部183では撮像画像の増幅およびAD変換等が行われ、CPU110に対してデジタル化された撮像画像信号が送られる。撮像タイミングコントローラ184は、撮像センサ182の電荷蓄積や読み出しのタイミングを制御する。撮像タイミングコントローラ184は、画像処理部140の出力同期信号生成部145から出力されるOVDおよびOHDに同期して動作する。つまり、撮像センサ182の電荷蓄積および読み出しのタイミングもOVDおよびOHDに同期するため、液晶パネル151の更新タイミングと撮像センサ182の電荷蓄積および読み出しのタイミングも同期動作する。
(撮像部180の撮影タイミング)
次に、図6および図7を用いて、第1の実施形態における撮像部180が投影画像を撮影するタイミングについて説明する。第1の実施形態における撮像センサ182は、ライン毎(行毎)に電荷のリセットおよび読み出しを順に行う所謂ローリングシャッタ方式であるものとして説明する。また、撮像センサ182のライン数はMライン(Mは整数)とする。なお、図6は、液晶パネル151の更新タイミングが図5(a)で説明したタイミングの場合の撮影タイミングを示し、図7は、記載の液晶パネル151の更新タイミングが図5(b)で説明したタイミングの場合の撮影タイミングを示している。
図6(a)は第1の実施形態における撮像センサ182における電荷のリセットおよび読み出しタイミングの一例を示す。撮像タイミングコントローラ184は、OHDのパルス数をカウントして液晶パネル151のNライン目の更新が終わったタイミング(t6−1)を認識し、撮像センサ182に対して、1ライン目の電荷リセットおよび電荷蓄積の開始を指示する。そして所定の電荷蓄積期間が経過した後に、撮像タイミングコントローラ184は、撮像センサ182に対して1ライン目の読み出しを指示する。同様に、撮像タイミングコントローラ184は、撮像センサ182に対して順に2〜Mライン目の電荷リセット並びに電荷蓄積の開始、および読み出しを指示する。
なお、第1の実施形態における特徴的な動作として、Mライン目の電荷蓄積は、液晶パネル151のフレーム2の1ライン目の更新開始時間(t6−2)より前に終了している。撮像タイミングコントローラ184は、液晶パネル151の更新のタイミングのブランキング期間(t6−1〜t6−2)の長さから、各ラインの電荷蓄積時間を、以下の式に示す条件を満たすように定める。
(液晶パネル151の更新ブランキング期間
≧(撮像センサ182の1ラインの電荷蓄積時間)
+(撮像センサ182の1ラインの読み出し時間)×(M−1)
特にノイズの少ない安定した撮影画像を得るためには、上式の範囲内で1ラインの電荷蓄積時間をできるだけ長くすることが望ましい。
また、このブランキング期間は投影画像のフレームレートから一意に決まるため、撮像センサ182の電荷蓄積時間および読み出し時間を投影画像のフレームレートに基づいて決定してもよい。
また、各ラインの電荷蓄積開始時間のずれ(tR)は、1ラインの読み出し期間に等しいとより好ましい。ローリングシャッタ方式の撮像センサ182では、撮影画像の明るさのばらつきを防ぐために、各ラインの電荷蓄積時間を一定に保つ必要がある。そこで、ラインの読み出しにかかる時間分だけ前の水平ラインの電荷蓄積開始よりも時間を遅らせて次のラインの電荷蓄積を開始するようにすることで、各ラインの電荷蓄積時間を同じ時間に保ちつつ、電荷蓄積時間をできるだけ長くすることができる。これは後述の図6(b)および図7に示す撮像センサ182の電荷蓄積および読み出しタイミングにおいても同様である。
図6(b)は第1の実施形態における撮像センサ182の電荷蓄積および読み出しタイミングの別の例を示す。図6(a)に示したタイミングとの主な違いは、撮像タイミングコントローラ184が、液晶パネル151の更新期間中(t6−3〜t6−5)のOHD(この例ではt6−4)に同期して、1ライン目の電荷蓄積を開始する点である。フレーム1を撮影するための電荷蓄積開始のタイミングをこのようにすることで、図6(a)のように液晶パネル151のNライン目の更新が終わってから電荷蓄積を開始する方法に比べて、長時間の電荷蓄積および読み出し期間が確保できるという利点がある。
なお、図6(b)に示す例では、液晶パネル151のN/2−1ライン目までが更新されたタイミングで、撮像センサ182の1ライン目の電荷蓄積が開始される。この時間t6−4は、投影画像の或るフレームにおける撮像センサ182の各ラインの電荷蓄積時間中に、撮像センサ182上に形成される投影画像の更新が終了しているタイミングであればこれに限るものではない。
図7は、第1の実施形態の撮像センサ182の電荷蓄積および読み出しタイミングの別の例である。前述したように、第1の実施形態における液晶プロジェクタ100は、画像を上下反転して投影する際には、液晶パネル151をNライン目から1ライン目に向かって順に更新する。このように液晶パネル151が更新される場合に、図6(b)のように撮像センサの電荷蓄積が1ライン目から順に行われると、前のフレームの画像と現レームの画像が混ざった画像が撮影されてしまう。そこで、撮像タイミングコントローラ184は、CPU110から、現在画像を上下反転して投影している旨の通知を受けると、図6(b)とは逆にMライン目から1ライン目に向かって順に電荷蓄積および読み出しを行うように撮像センサ182を制御する。
撮像部180の各部を上記のように動作することで、フレーム毎に変化する投影画像を撮影する場合において、複数フレームの画像が混ざった画像が撮影されることなく、単一フレームの画像を撮影することが可能となる。
なお、撮像部180は必ずしも投影画像をフレーム毎に常に撮影する必要はない。例えば、合成部148にて較正パターンが重畳されたフレームの投影画像のみを撮影する構成であってもよい。また、フレーム毎に異なる投影画像やフレーム毎に異なる較正パターンが重畳された投影画像を撮影するときに限り、上述した撮影タイミングにて撮影してもよい。
次に、第1の実施形態における液晶プロジェクタ100において、較正パターンを重畳して投影した画像を撮影し、撮像画像から較正パターンの形状を検出して投影画像の形状補正を行うシーケンスについて、図8を参照して説明する。
S801では、メモリ制御部142は、以下の手順で入力画像のフレームレートを倍速化する。まず、メモリ制御部142は、IVDに同期して受信した画像を画像メモリ143に書きこむ。その後、メモリ制御部142は、OVDに同期して書き込み時とは倍のスピードで、若しくは書き込み時とは倍のデータバス幅を使って、画像メモリ143から画像を読み出す。以上のようにメモリ制御部142が動作すると、フレームレートが倍速化される。また、出力同期信号生成部145は、倍速化後の画像のフレームのうち先頭側に、その旨を表すフレーム識別信号を生成し、後処理部144に送信する。
S802では、CPU110は、投影画像に較正パターンを合成するタイミングとなったかを判断する。このタイミングは例えば、数秒毎(予め決められた時間間隔)であってもよいし、不図示の加速度センサによって投影画像の振動を検出したタイミングであってもよい。また、操作部113を介して液晶プロジェクタ100の使用者の指示を受けたタイミングであってもよい。CPU110が投影画像に較正パターンを合成するタイミングとなったと判断すると、S803に進む。
S803では、CPU110は、投影画像のフレームレートを判定する。具体的には、出力同期信号生成部145のOVDのパルスの発生タイミング周期を検出すればよい。CPU110は、フレームレートの判定結果を撮像タイミングコントローラ184に通知する。S804では、撮像タイミングコントローラ184は、通知されたフレームレートから撮像センサ182の各ラインの電荷蓄積または読み出し、もしくはその両方の時間を決定する。
S805では、合成部148は、自身に入力される画像に対して較正パターンを合成する。ここでは、前述の様に、或るフレームには図4(b)の様に較正パターンを減算し、その次のフレームには図4(c)の様に較正パターンを加算して合成するものとする。S806において、合成部148にて較正パターンが合成された画像が、画像補正部149および液晶制御部150により液晶パネル151上に形成され、投影光学系171を通して投影される。
S807において、撮像部180は、S80にて投影された画像を、前述したように出力同期信号に同期して撮影する。この例では、図4(b)および図4(c)の投影画像を撮影するため、連続して2枚の画像を撮影する。その後、撮像部180は撮影された画像をCPU110に送信する。
S808では、CPU110は、撮影画像から較正パターンを検出する。前述の様に倍速化された画像に対してそれぞれ図4(b)、図4(c)のように較正パターンを減算した画像(減算画像)及び加算した画像(加算画像)を撮影した場合、2つの画像の差分をとることで、図4(a)に示す較正パターンだけを抽出することができる。
較正パターン=((図4(c)の撮影画像)−(図4(b)の撮影画像))
S809では、CPU110は、抽出されたパターン情報を基にメモリ制御部142による画像形状および投影位置の補正パラメータを生成する。一例としては、検出された較正パターンの形状の4頂点の座標から投影画像の補正に必要な射影変換パラメータを生成する方法が挙げられる。ただし、ここでの補正パラメータの生成方法はこれに限るものではなく、公知の技術を含め、どのようなものであってもよい。
S810では、メモリ制御部142は、S809で生成された補正パラメータに基づいて画像メモリ143へのアクセスアドレスを発行し、画像を変形させる。
液晶プロジェクタ100の各部を上記の様に動作させることによって、フレーム毎に異なる較正パターンを重畳した投影画像を撮影する場合に、更新前後のフレームの画像が混在した画像が撮影されることなく、単一フレームの画像を撮影することができる。そのため、較正パターンを適切に検出することができ、投影画像の位置や形状を適切に補正することが可能となる。
なお、第1の実施形態では、撮像部180が液晶プロジェクタ100の内部に含まれる構成について説明したが、本発明はこれに限定されるものではなく、撮像部180を含むデジタルカメラと、液晶プロジェクタとからなるシステムであってもよい。この場合、液晶プロジェクタから出力同期信号OVD、OHDをデジタルカメラに有線もしくは無線の通信手段にて送信することで、上述した動作を実現することが可能である。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。第2の実施形態では、図9を用いて、撮像部180が投影画像を撮影する別のタイミング例について説明する。なお、第2の実施形態における液晶プロジェクタ100の構成は、第1の実施形態で説明したものと同じであるため、説明は省略する。
第1の実施形態との違いは、第2の実施形態における撮像センサ182が、全ラインの電荷蓄積を同時に行う、所謂グローバルシャッタ方式である点である。また、撮像センサ182のライン数はMライン(Mは整数)とする。
撮像タイミングコントローラ184は、OHDのパルス数をカウントして、液晶パネル151のフレーム1のNライン目の更新が終わったタイミング(t9−1)を認識し、撮像センサ182の全ラインの電荷リセットおよび電荷蓄積を開始する。その後、撮像タイミングコントローラ184は、液晶パネル151のフレーム2の1ライン目の更新開始時間(t9−2)前に電荷蓄積を終了させ、その後読み出しを行う。
なお、第2の実施形態における撮像センサ182の電荷蓄積時間および読み出し時間はこれに限るものではなく、
(液晶パネル151のブランキング期間)
≧(撮像センサ182の各ラインの電荷蓄積時間)
(液晶パネル151の更新期間)
≧(撮像センサ182の各ラインの読み出し時間)×M
であってよい。
上記の通り第2の実施形態によれば、フレーム毎に変化する投影画像を撮影する場合において、複数フレームの画像が混ざった画像が撮影されることなく、単一フレームの画像を撮影することが可能となる。
<第3の実施形態>
次に、本発明の第3の実施形態について図10および図11を参照して説明する。第3の実施形態は、画像処理部140および液晶制御部150が複数(本例ではそれぞれ4つ)存在する点が第1の実施形態と異なる。それ以外の液晶プロジェクタ100の構成は、第1の実施形態で説明したものと同様であるため、説明を省略する。
図10(a)は、第3の実施形態における液晶パネル151の分割領域Q1〜Q4の概念を示した図、図10(b)は、分割領域Q1〜Q4に対応する画像処理部140_Q1〜Q4および液晶制御部150_Q1〜Q4を示す図である。第3の実施形態において、液晶パネル151は水平画素数Bpix、垂直ライン数Aライン(A,Bはそれぞれ整数)であり、水平、垂直それぞれ2等分され、全体では4領域(Q1〜Q4)に分割される。
画像入力部130は、入力された画像を4分割して、画像処理部140_Q1〜Q4に送る。なお、画像処理部140_Q1〜Q4および液晶制御部150_Q1〜Q4の内部構成は、それぞれ第1の実施形態で説明した画像処理部140および液晶制御部150と同様である。そして、液晶パネル151は、液晶制御部150_Q1〜Q4から、分割領域Q1〜Q4それぞれに対応する画像および制御信号等を同時に受信して、更新を行う。
このような構成で処理を並列化することは、画像の解像度が大きくなり、所定時間当たりの処理量が増加する場合において特に有効である。
なお、第3の実施形態における撮像センサ182は、ライン毎に読み出しを順に行う所謂ローリングシャッタ方式であるものとして説明する。また、撮像センサ182のライン数はMライン(Mは整数)とする。
(分割駆動パネルのライン更新順)
図11を用いて第3の実施形態における液晶パネル151の各ラインの更新順について説明する。
まず、液晶パネル151の更新タイミングを制御するパネルタイミングコントローラ153は、t11−0においてOVDの立ち上がりを検出して、フレーム1の画像の描画処理の開始を認識する。
次に、各液晶制御部150_Q1〜Q4のパネルタイミングコントローラ153は、OHDを予め定められた回数(本例では2回)カウントする。そして、所定回数目のOHDの立ち上がり(t11−1)にて、以下に示す液晶パネル151のラインの走査電極に走査電圧を印加する。
Q1:A/2 ライン
Q2:A/2 ライン
Q3:A/2+1 ライン
Q4:A/2+1 ライン
この状態において、液晶パネル151の各分割領域Q1〜Q4の画素電極に入力されるDAC152からのアナログ信号に応じて、最初の2ライン分の各画素の更新が行われる。
次に、パネルタイミングコントローラ153は、次のOHDの立ち上がり(t11−2)にて、液晶パネル151の最初の2ライン分の走査電圧の印加を終了することで、液晶パネル151のA/2ラインおよびA/2+1ラインの更新が終了する。また11−2にて、パネルタイミングコントローラ153は、以下に示す液晶パネル151の次の2ラインに対して走査電圧を印加して次の2ライン分の画素の更新を始め、次のOHDの立ち上がりにて走査電圧の印加を終了して更新を終了する。
Q1:A/2−1ライン
Q2:A/2−1ライン
Q3:A/2+2 ライン
Q4:A/2+2 ライン
このように、液晶制御部150_Q1、Q2のパネルタイミングコントローラ153は、以上の手順で液晶パネル151をA/2ライン目から1ライン目まで昇順に更新していく。同様に、液晶制御部150_Q3、Q4のパネルタイミングコントローラ153は、以上の手順で液晶パネル151をA/2+1ライン目からAライン目までを降順に更新していく。
以上のようにパネルタイミングコントローラ153が動作することで、t11−4の時点で全ての画素にフレーム1の画像が描画される。
次に、パネルタイミングコントローラ153は、OVDの立ち上がりを検出することでフレーム2の画像の描画処理を指示されたことを認識する。フレーム2における2回目のOHDの立ち上がりタイミング(t11−5)から、フレーム1の描画処理と同様にして、液晶パネル151の中央のラインから上下方向に向かって更新を行う。
このように液晶パネル151を更新することで、各領域の境界のラインが同時に更新されるため、表示ずれが視認されないという利点がある。
(分割駆動パネルを用いたプロジェクタの撮影タイミング)
次に、図11を用いて、第3の実施形態の撮像センサ182の電荷蓄積および読み出しのタイミングについて説明する。
撮像センサ182の電荷蓄積は、第1の実施形態の図6(a)に示したように、ブランキング期間に行っても良いが、ここでは、図6(b)で説明したように、液晶パネル151の更新期間中に電荷蓄積を開始するタイミングで行う場合について説明する。即ち、撮像タイミングコントローラ184が、液晶パネル151の更新期間中(t11−1〜t11−4)のOHD(本例ではt11−3)に同期して、撮像センサ182の1ライン目の電荷蓄積を開始する。
一方、第1の実施形態の図6(b)に示したタイミングとの違いは、最初に電荷蓄積および読み出しを行うラインが、撮像センサ182の中心のラインであるM/2ライン目であるという点である。次にはM/2−1ライン目、その次はM/2+1ライン目というように、中心から外周ラインに向かって順に行われる。このように液晶パネル151の各ラインの更新順と、撮像センサ182の電荷蓄積および読み出しライン順を同様にすることで、他の電荷蓄積および読み出し順に比べて、電荷蓄積および読み出し時間を長く確保することができる。
なお、電荷蓄積開始時間t11−4は、撮像センサ182の各ラインの電荷蓄積期間中に、撮像センサ182上に形成される投影画像の更新が終了しているタイミングであればこれに限るものではない。
また、ここまで液晶パネル151が各領域同時に更新される際の、撮像センサ182の電荷蓄積および読み出しタイミングの一例について説明してきたが、本発明はこの例に限定されるものではない。例えば、本発明は、液晶パネル151の分割領域Q1〜Q4がそれぞれ同じタイミングで上ラインから下ラインに向かって順に更新される構成にも適用可能である。この場合も、撮像タイミングコントローラ184は、液晶パネル151の各ラインの更新順を考慮して撮像センサ182の電荷蓄積および読み出し順を決定する。例えば、電荷蓄積および読み出し順を1ライン目→M/2ライン目→2ライン目→M/2+1ライン目とする。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
100:液晶プロジェクタ、110:CPU、140:画像処理部、141:前処理部、144:後処理部、145:出力同期信号生成部、147:較正パターン生成部、148:合成部、149:画像補正部、150:液晶制御部、151:液晶パネル、153:パネルタイミングコントローラ、180:撮像部、182:撮像センサ、184:撮像タイミングコントローラ

Claims (9)

  1. 入力された動画のフレーム画像に予め決められた較正パターンを合成して、合成したフレーム画像の画像信号を出力する合成手段と、
    前記合成手段から出力された画像信号に基づいて、表示手段の透過率または反射率を制御して画像を形成する表示制御手段と、
    前記表示手段に光を照射することにより、前記表示手段に形成された画像を投影する投影手段と、
    前記投影手段により投影された画像を撮影する撮像手段と、
    前記撮像手段により撮影された画像から前記較正パターンを抽出し、該抽出した較正パターンの状態に応じて、前記表示手段に形成する画像を補正するための補正パラメータを生成する生成手段と、
    前記表示手段の透過率または反射率が更新されるタイミングに基づいて、前記撮像手段により撮影された画像に、前記表示手段の透過率または反射率の更新前後の画像が混在しないように、撮像タイミングを制御する撮像制御手段と、
    を有し、
    前記撮像手段は、撮像素子を有し、
    前記撮像制御手段は、前記動画のフレームレートの変更に応じて、前記撮像素子の電荷蓄積時間を変更し、
    前記合成手段は、前記フレーム画像に対して、前記較正パターンを加算することにより合成した加算画像と、前記較正パターンを減算することにより合成した減算画像の画像信号を出力し、
    前記生成手段は、前記投影手段により投影された前記加算画像を撮影した画像から、前記投影手段により投影された前記減算画像を撮影した画像を差分することにより、前記較正パターンを抽出することを特徴とする投影装置。
  2. 前記撮像制御手段は、前記表示手段に1フレームの画像の形成を終了してから次のフレームの画像の形成を開始するまでの間に、前記撮像素子の電荷蓄積を行うように前記撮像手段を制御することを特徴とする請求項1に記載の投影装置。
  3. 前記撮像素子は、行毎に電荷蓄積の制御が行われ、前記撮像制御手段は、前記撮像素子の各行に対応する前記表示手段の各領域において、1フレームの画像を形成するための透過率または反射率の制御が終了してから、次のフレームの画像を形成するために透過率または反射率の更新が行われる前までの間に、前記撮像素子の各行の電荷蓄積を行うように前記撮像手段を制御することを特徴とする請求項1または2に記載の投影装置。
  4. 前記撮像制御手段は、前記表示制御手段が上下反転した画像を形成する場合、前記撮像素子の各行の電荷蓄積および読み出し順を逆にすることを特徴とする請求項3に記載の投影装置。
  5. 前記撮像素子は、行毎に電荷蓄積の制御が行われ、
    前記撮像制御手段は、前記表示手段の所定のラインの更新タイミングを同期信号に基づいて認識し、前記撮像素子の所定の行の電荷蓄積を前記表示手段の更新期間中に開始することを特徴とする請求項1乃至4のいずれか1項に記載の投影装置。
  6. 前記表示制御手段は、前記表示手段を複数の領域に分けて、該複数の領域の透過率または反射率を並列に制御することを特徴とする請求項1乃至5のいずれか1項に記載の投影装置。
  7. 前記合成手段は、前記投影された画像の振動が検出された場合に、前記合成を行うことを特徴とする請求項1乃至のいずれか1項に記載の投影装置。
  8. 前記合成手段は、予め決められた時間間隔で、前記合成を行うことを特徴とする請求項1乃至のいずれか1項に記載の投影装置。
  9. 投影装置と撮像装置とを含む投影システムであって、
    前記投影装置が、
    入力された動画のフレーム画像に予め決められた較正パターンを合成して、合成したフレーム画像の画像信号を出力する合成手段と、
    前記合成手段から出力された画像信号に基づいて、表示手段の透過率または反射率を制御して画像を形成する表示制御手段と、
    前記表示手段に光を照射することにより、前記表示手段に形成された画像を投影する投影手段と、
    前記表示手段に形成する画像を補正するための補正パラメータを生成する生成手段と、を有し、
    前記撮像装置が、
    前記投影手段により投影された画像を撮影する撮像手段と、
    前記表示手段の透過率または反射率が更新されるタイミングに基づいて、前記撮像手段により撮影された画像に、前記表示手段の透過率または反射率の更新前後の画像が混在しないように、撮像タイミングを制御する撮像制御手段と、を有し、
    前記生成手段は、前記撮像手段により撮影された画像から前記較正パターンを抽出し、該抽出した較正パターンの状態に応じて、前記表示手段に形成する画像を補正するための補正パラメータを生成し、
    前記撮像手段は、撮像素子を有し、
    前記撮像制御手段は、前記動画のフレームレートの変更に応じて、前記撮像素子の電荷蓄積時間を変更し、
    前記合成手段は、前記フレーム画像に対して、前記較正パターンを加算することにより合成した加算画像と、前記較正パターンを減算することにより合成した減算画像の画像信号を出力し、
    前記生成手段は、前記投影手段により投影された前記加算画像を撮影した画像から、前記投影手段により投影された前記減算画像を撮影した画像を差分することにより、前記較正パターンを抽出することを特徴とする投影システム。
JP2015223340A 2015-11-13 2015-11-13 投影装置および投影システム Expired - Fee Related JP6700731B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015223340A JP6700731B2 (ja) 2015-11-13 2015-11-13 投影装置および投影システム
US15/345,348 US10171781B2 (en) 2015-11-13 2016-11-07 Projection apparatus, method for controlling the same, and projection system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015223340A JP6700731B2 (ja) 2015-11-13 2015-11-13 投影装置および投影システム

Publications (3)

Publication Number Publication Date
JP2017092819A JP2017092819A (ja) 2017-05-25
JP2017092819A5 JP2017092819A5 (ja) 2018-12-20
JP6700731B2 true JP6700731B2 (ja) 2020-05-27

Family

ID=58691671

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015223340A Expired - Fee Related JP6700731B2 (ja) 2015-11-13 2015-11-13 投影装置および投影システム

Country Status (2)

Country Link
US (1) US10171781B2 (ja)
JP (1) JP6700731B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7070417B2 (ja) 2016-08-24 2022-05-18 ソニーグループ株式会社 画像処理装置および方法
JP6642610B2 (ja) * 2018-03-22 2020-02-05 カシオ計算機株式会社 投影制御装置、投影装置、投影制御方法及びプログラム
CN108632593B (zh) * 2018-05-31 2020-05-19 歌尔股份有限公司 彩色汇聚误差的修正方法、装置及设备
JP7348756B2 (ja) * 2019-06-21 2023-09-21 キヤノン株式会社 撮像装置、制御方法及びプログラム
EP4154242A4 (en) * 2020-05-20 2024-03-13 Magic Leap, Inc. PROGRESSIVE AND CONTINUOUS CALIBRATION IN PIECES WITH CONSISTENT CONTEXT

Family Cites Families (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH089309A (ja) * 1994-06-23 1996-01-12 Canon Inc 表示方法及び装置
JP2001285691A (ja) * 2000-03-31 2001-10-12 Nikon Corp 投射型表示装置
EP1871093A4 (en) * 2005-03-15 2009-09-02 Omron Tateisi Electronics Co IMAGE PROCESSOR, IMAGE PROCESSING METHOD AND SYSTEM, PROGRAM, AND RECORDING MEDIUM
JP3908255B2 (ja) 2005-07-25 2007-04-25 オリンパス株式会社 画像投影システム
US7609837B2 (en) * 2005-09-01 2009-10-27 Sharp Laboratories Of America, Inc. System and method for automatic setup of a network device with secure network transmission of setup parameters
JP4354449B2 (ja) * 2005-10-26 2009-10-28 オリンパス株式会社 表示画像撮像方法および装置
JP5156196B2 (ja) * 2006-03-31 2013-03-06 イーストマン コダック カンパニー 撮像装置
JP4948090B2 (ja) * 2006-08-25 2012-06-06 キヤノン株式会社 撮像装置及び駆動制御方法
JP5063234B2 (ja) * 2007-07-20 2012-10-31 キヤノン株式会社 撮像装置、撮像システム、及び、撮像装置の動作方法
WO2009142015A1 (ja) * 2008-05-21 2009-11-26 パナソニック株式会社 プロジェクタ
JP5493340B2 (ja) * 2008-11-26 2014-05-14 セイコーエプソン株式会社 投写型表示装置および配置関係検出方法
US20110216205A1 (en) 2010-03-03 2011-09-08 Christie Digital Systems Usa, Inc. Automatic calibration of projection system using non-visible light
KR101784676B1 (ko) * 2010-03-08 2017-10-12 가부시키가이샤 한도오따이 에네루기 켄큐쇼 반도체 장치 및 그 제조방법
JP5625490B2 (ja) * 2010-05-25 2014-11-19 セイコーエプソン株式会社 プロジェクター、投射状態調整方法及び投射状態調整プログラム
JP5570300B2 (ja) * 2010-05-26 2014-08-13 キヤノン株式会社 投影装置及びプログラム
JP5641820B2 (ja) * 2010-08-25 2014-12-17 キヤノン株式会社 投射型表示システム及び投射型表示装置
CN103168324B (zh) * 2010-10-21 2015-08-05 夏普株式会社 显示装置及其驱动方法
US8727539B2 (en) * 2010-10-28 2014-05-20 Seiko Epson Corporation Projector and method of controlling projector
JP5781351B2 (ja) * 2011-03-30 2015-09-24 日本アビオニクス株式会社 撮像装置、その画素出力レベル補正方法、赤外線カメラシステム及び交換可能なレンズシステム
JP5778469B2 (ja) * 2011-04-28 2015-09-16 日本アビオニクス株式会社 撮像装置、画像生成方法、赤外線カメラシステム及び交換可能なレンズシステム
JP2013083826A (ja) * 2011-10-11 2013-05-09 Canon Inc 液晶表示装置、液晶表示装置の制御方法
JP5917116B2 (ja) * 2011-12-06 2016-05-11 キヤノン株式会社 情報処理装置、情報処理装置の制御方法、およびプログラム
JP5898484B2 (ja) * 2011-12-19 2016-04-06 キヤノン株式会社 情報処理装置、情報処理装置の制御方法、およびプログラム
KR101864452B1 (ko) * 2012-01-12 2018-06-04 삼성전자주식회사 이미지 촬영 및 화상 통화 장치와 방법
JP2013168922A (ja) * 2012-01-18 2013-08-29 Sony Corp 投影型画像表示装置及び画像投影方法、並びにコンピューター・プログラム
JP6071208B2 (ja) * 2012-02-17 2017-02-01 キヤノン株式会社 投影装置
US9413982B2 (en) * 2012-02-28 2016-08-09 Hewlett-Packard Development Company, L.P. System and method for video frame sequence control
JP6127366B2 (ja) * 2012-03-07 2017-05-17 セイコーエプソン株式会社 プロジェクター、及び、プロジェクターの制御方法
US8907795B2 (en) 2012-09-06 2014-12-09 Tyco Fire & Security Gmbh System and method for detecting movement of a tagged article including traffic pattern determination
JP2014123855A (ja) * 2012-12-20 2014-07-03 Panasonic Corp 合成画像生成装置、合成画像生成方法、および放送受信装置
US9363450B2 (en) * 2013-08-27 2016-06-07 Semiconductor Components Industries, Llc Imaging systems and methods for image signal gain adjustment
JP6265694B2 (ja) * 2013-11-12 2018-01-24 キヤノン株式会社 固体撮像装置及び撮像システム
JP2015114443A (ja) * 2013-12-11 2015-06-22 キヤノン株式会社 表示装置及び表示装置の制御方法
US20150194128A1 (en) * 2014-01-07 2015-07-09 Nvidia Corporation Generating a low-latency transparency effect
JP6664122B2 (ja) * 2014-08-20 2020-03-13 パナソニックIpマネジメント株式会社 固体撮像装置及びカメラ
JP6456086B2 (ja) * 2014-09-25 2019-01-23 キヤノン株式会社 投影型画像表示装置及びその制御方法並びにプロジェクタ及びその制御方法
EP3035669B1 (en) * 2014-12-16 2017-08-23 Canon Kabushiki Kaisha Driving method for image pickup apparatus
JP2017034352A (ja) * 2015-07-29 2017-02-09 キヤノン株式会社 投射装置およびその制御方法、表示装置

Also Published As

Publication number Publication date
JP2017092819A (ja) 2017-05-25
US20170142383A1 (en) 2017-05-18
US10171781B2 (en) 2019-01-01

Similar Documents

Publication Publication Date Title
JP6700731B2 (ja) 投影装置および投影システム
JP5744418B2 (ja) 投影装置及び投影方法
JP2017147634A (ja) 投影装置、投影方法及び投影システム
JP6208930B2 (ja) 投影装置及びその制御方法、プログラム、並びに記憶媒体
JP6271837B2 (ja) 投影装置及びその制御方法
JP2013083755A (ja) 表示装置、表示装置の制御方法、プログラム
JP6635748B2 (ja) 表示装置、表示装置の制御方法及びプログラム
JP2015053558A (ja) 画像表示装置及びその制御方法
JP2015114443A (ja) 表示装置及び表示装置の制御方法
JP2019134206A (ja) 投影装置および投影装置の制御方法
US20060221200A1 (en) Display device and portable imaging device
JP2018054912A (ja) 投影型表示装置及びその制御方法
JP2019114887A (ja) 投射型画像表示装置およびその制御方法
JP6103850B2 (ja) 表示装置およびその制御方法
JP2020072357A (ja) 投影装置および投影方法
JP2017203804A (ja) 投影装置及び投影方法
JP2017040734A (ja) 表示装置、表示方法及び表示システム
US20180376031A1 (en) Projection apparatus that improves dynamic range of luminance of printed material, control method therefor, and storage medium
JP2014142466A (ja) 投影装置及びその制御方法、プログラム、並びに記憶媒体
JP2640030B2 (ja) 固体撮像装置
JP6103855B2 (ja) 投影装置及びその制御方法、プログラム、並びに記憶媒体
JP2017198779A (ja) 投影型表示装置及びその制御方法
JP2019057858A (ja) 投影装置およびその制御方法
JP2019114889A (ja) 投影装置および投影装置の較正方法
JP4133878B2 (ja) デジタルカメラ及び画像信号生成方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181109

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200302

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200323

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200501

R151 Written notification of patent or utility model registration

Ref document number: 6700731

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees