JP2016040902A - 撮像表示装置及びその制御方法 - Google Patents

撮像表示装置及びその制御方法 Download PDF

Info

Publication number
JP2016040902A
JP2016040902A JP2015104667A JP2015104667A JP2016040902A JP 2016040902 A JP2016040902 A JP 2016040902A JP 2015104667 A JP2015104667 A JP 2015104667A JP 2015104667 A JP2015104667 A JP 2015104667A JP 2016040902 A JP2016040902 A JP 2016040902A
Authority
JP
Japan
Prior art keywords
imaging
unit
signal
image
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015104667A
Other languages
English (en)
Other versions
JP6565326B2 (ja
Inventor
塩原 隆一
Ryuichi Shiobara
隆一 塩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2015104667A priority Critical patent/JP6565326B2/ja
Priority to US14/808,406 priority patent/US9848131B2/en
Publication of JP2016040902A publication Critical patent/JP2016040902A/ja
Application granted granted Critical
Publication of JP6565326B2 publication Critical patent/JP6565326B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/441Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by reading contiguous pixels from selected rows or columns of the array, e.g. interlaced scanning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/445Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by skipping some contiguous pixels within the read portion of the array
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array
    • H04N25/447Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array by preserving the colour pattern with or without loss of information

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)

Abstract

【課題】レンズの光学特性の変更に応じて撮像から表示までの時間遅れを変更する。
【解決手段】撮像表示装置1は、レンズユニット10と、撮像して得た撮像信号DSを出力する撮像部20と、レンズユニット10の光学特性に応じた画像処理を施して画像信号Dを生成する画像信号生成部30と、画像信号Dに基づいて画像を表示する表示部40と、撮像信号DSのフレームの開始から画像信号Dのフレームの開始までの位相差を、画像処理に要する所定時間に応じて変更するように制御するタイミング制御部70とを備える。
【選択図】図1

Description

本発明は、撮像表示装置及びその制御方法に関する。
いわゆるミラーレス一眼のデジタルカメラでは、CCD(Charge Coupled Device)やCMOS(Complementary Metal-Oxide Semiconductor)イメージセンサ等のイメージセンサで撮像した画像信号に応じた画像をリアルタイムで筐体裏面に設けられた液晶パネルや筐体上部に取り付けられた電子ビューファインダー(以下、EVF[Electronic View Finder]と称する)等に表示するいわゆるライブビュー動作により、被写体の画像を確認することができるようになっている。
しかしながら、このライブビューでは、イメージセンサで被写体を撮像してからビューファインダー等に表示されるまでに顕著な遅延が生じている。このため、動きのある被写体にカメラを向けて追従させることが困難になる。さらに、表示されている被写体の画像に基づいて静止画像の撮像を指示すると、表示されていた被写体の画像と実際に撮像される静止画の画像とにタイミングのずれが生じ、特に動きの早い被写体の場合には、意図した静止画を撮像することが困難になる。
このため、イメージセンサによる撮像からビューファインダー等の表示部による表示までの遅延を短くする技術が知られている。
例えば、特許文献1には、イメージセンサを駆動するタイミングを規定する信号と、画像信号の読み出しタイミングを規定する信号とを、一定の位相差を持たせて同期させることで、イメージセンサによる信号の出力から、当該信号に基づく画像の表示までの遅延を低減させる技術が開示されている。
特開2007−243615号公報
ところで、撮像表示装置に用いるレンズには、大きな歪曲収差や色収差があるものもあれば、これらの収差が小さいものもある。また、ズーム機能を有するレンズでは、ズーム率が可変であるが、ズーム率に応じて歪曲収差の程度が変化することがある。さらに、ズーム率に応じて倍率色収差の程度が変化することがある。一般に、収差の程度が大きくなる程、収差を補正するための画像処理に要する時間が長くなる。
しかしながら、特許文献1に記載された撮像表示装置では、イメージセンサのフレームの開始から表示部のフレーム開始までの位相差(遅延時間)が一定となっていた。このため、従来の撮像表示装置では、想定される最大の収差を見込んで位相差を定める必要があり、イメージセンサによる信号の出力から、当該信号に基づく画像の表示までの遅延を低減するには限界があった。特に、いわゆる一眼レフデジタルカメラのようにレンズを交換が可能な撮像表示装置では、今後、発売される交換用のレンズの光学特性は未知であるので、位相差を最適に設定できないといった問題があった。
本発明は、上述した事情に鑑みてなされたものであり、レンズの光学特性が変化しても、光学特性の変化に応じて撮像から表示までの遅延を制御することを解決課題の一つとする。
以上の課題を解決するために、本発明に係る撮像表示装置の一態様は、レンズユニットを介して被写体を撮像して得た撮像信号を出力する撮像部と、前記撮像信号に少なくとも前記レンズユニットの光学特性に応じた画像処理を施して画像信号を生成する画像信号生成部と、前記画像信号生成部から出力される前記画像信号に基づいて画像を表示する表示部と、前記撮像信号のフレームの開始から前記画像信号のフレームの開始までの位相差を、前記レンズユニットの光学特性に応じて変更するように前記撮像部、前記画像処理部、及び前記表示部を制御するタイミング制御部と、を備える。
この発明によれば、レンズユニットの光学特性に応じて画像処理を実行するので、画像処理に要する時間は、レンズユニットの光学特性が変化すれば変動するところ、タイミング制御部は、撮像信号のフレームの開始から画像信号のフレームの開始までの位相差を、レンズユニットの光学特性に応じて変更するので、位相差を固定とする場合に比較して、撮像から表示までの時間遅れを短縮することが可能となる。
上述した撮像表示装置の一態様において、前記レンズユニットは、当該レンズユニットの前記光学特性に関するパラメーターを示す光学特性データを出力し、前記レンズユニットから取得した前記光学特性データに基づいて前記位相差を決定する制御部を備えることが好ましい。
この発明によれば、レンズユニットから出力される光学特性データに基づいて位相差を決定するので、レンズユニットの光学特性を位相差に反映させることができる。ここで、光学特性に関するパラメーターとは、例えば、焦点距離、絞り値、ズーム率、フォーカス値といった光学特性を直接的に示すものであってもよいし、あるいは、レンズユニットの種類を識別するための識別データのように光学特性を間接的に示すものであってもよい。さらに、光学特性に関するパラメーターは、位相差を指定するものであってもよい。
上述した撮像表示装置の一態様において、前記レンズユニットは、本体から着脱可能であり、前記光学特性データに関するパラメーターは、前記レンズユニットの種類を識別するための識別データを含み、前記画像信号生成部は、前記画像処理の一部として、前記光学特性データに応じて前記レンズユニットの収差を補正する収差補正処理を実行し、前記制御部は、前記収差補正処理に要する時間を考慮して前記位相差を決定することが好ましい。
この発明によれば、レンズユニットが交換されても、レンズユニットの種類を識別するための識別データにより、レンズユニットの収差を特定することができるので、その収差補正処理に要する時間を考慮して位相差を定めることが可能となる。このため、位相差を固定とする場合に比較して、レンズユニットの種類に応じて位相差を変更することにより、撮像から表示までの時間遅れを短縮することができる。
上述した撮像表示装置の一態様において、前記光学特性データに関するパラメーターは、ズーム率を示すズーム率データ及び焦点距離を示す焦点距離データのうち少なくとも一つを含み、前記画像信号生成部は、前記画像処理の一部として、前記光学特性データに応じて前記レンズユニットの収差を補正する収差補正処理を実行し、前記制御部は、前記収差補正処理に要する時間を考慮して前記位相差を決定することが好ましい。
この発明によれば、ズーム率、焦点距離、及び絞り値のうち少なくとも一つに応じて位相差を決定することができるので、これらの光学特性に応じて生じるレンズユニットの収差を補正する場合に、収差補正処理に要する時間が変更されても、撮像から表示までの時間遅れを適切に設定することができる。
上述した撮像表示装置の一態様において、前記タイミング制御部は、前記撮像信号のフレームの開始を規定する撮像垂直同期信号を生成した後、前記撮像垂直同期信号を前記位相差だけ遅延させて、前記画像信号のフレームの開始を規定する表示垂直同期信号を生成し、前記撮像垂直同期信号を前記撮像部に供給するとともに、前記表示垂直同期信号を前記表示部に供給することが好ましい。
この発明によれば、まず、撮像部を制御する撮像垂直同期信号を生成し、これを遅延させて、表示部を制御する表示垂直同期信号を生成する。このため、撮像部のフレーム周期に表示部のフレーム周期を合わせることができる。撮像部のフレーム周期は、画像の明るさから定まるのが通常である。よって、表示部のフレーム周期よりも撮像部のフレーム周期を優先させることにより、表示画像の品質の低下を抑えることができる。さらに、最初に表示垂直同期信号を生成し、これを遅延させて、撮像垂直同期信号を生成すると、電源を投入した直後には、撮像部が動作可能であるにも拘わらず、撮像信号を生成することができず、画像を表示させることができない。これに対して、撮像垂直同期信号→表示垂直同期信号の順に生成することにより、電源を投入した直後であっても迅速に画像を表示することが可能となる。
次に、本発明に係る撮像表示装置の制御方法は、レンズユニットを介して被写体を撮像して得た撮像信号を出力する撮像部と、前記撮像信号に少なくとも前記レンズユニットの光学特性に応じた画像処理を施して画像信号を生成する画像信号生成部と、前記画像信号生成部から出力される前記画像信号に基づいて画像を表示する表示部とを備えた撮像表示装置を制御する方法であって、前記レンズユニットの光学特性を取得し、前記撮像信号のフレームの開始から前記画像信号のフレームの開始までの位相差を、取得したレンズユニットの光学特性に応じて変更するように前記撮像部、前記画像処理部、及び前記表示部を制御することを特徴とする。
この発明によれば、レンズユニットの光学特性に応じて画像処理を実行するので、画像処理に要する時間は、レンズユニットの光学特性が変化すれば変動するところ、撮像信号のフレームの開始から画像信号のフレームの開始までの位相差を、レンズユニットの光学特性に応じて変更するので、位相差を固定とする場合に比較して、撮像から表示までの時間遅れ短縮することが可能となる。
本発明の実施形態に係る撮像表示装置1の構成を示すブロック図である。 レンズユニット10の構成を示すブロック図である。 有効イメージセンサ領域ASと表示領域ADとの関係を説明するための説明図である。 撮像表示装置1の動作を説明するためのタイミングチャートである。 撮像表示装置1の動作を説明するためのタイミングチャートである。 表示領域ADを説明するための説明図である。 画像信号生成部30の構成を示すブロック図である。 間引き処理を説明するための説明図である。 倍率色収差を説明するための説明図である。 歪曲補正処理を説明するための説明図である。 位相差テーブルTBLを説明するための説明図である。 タイミング制御部の構成を示すブロック図である。 撮像表示装置1の動作を説明するためのタイミングチャートである。 変形例に係るタイミング制御部の構成を示すブロック図である。
本発明を実施するための形態について図面を参照して説明する。ただし、各図において、各部の寸法及び縮尺は、実際のものと適宜に異ならせてある。また、以下に述べる実施の形態は、本発明の好適な具体例であるから、技術的に好ましい種々の限定が付されているが、本発明の範囲は、以下の説明において特に本発明を限定する旨の記載がない限り、これらの形態に限られるものではない。
<1.撮像表示装置の構成>
図1は、撮像表示装置1の機能を示すブロック図である。
図1に示すように、撮像表示装置1は、被写体の像を結像させるレンズユニット10と、被写体を撮像し、撮像して得たデータを撮像信号DSとして出力する撮像部20と、撮像信号DSに対して画像処理を施して画像信号Dを生成する画像信号生成部30と、画像信号Dに応じた画像を表示する表示部40と、装置全体を制御するCPU(Central Processing Unit)50と、撮像表示装置1の設定の変更、撮像の指示等を入力するための操作部60と、ブートプログラムや位相差テーブルTBLが記憶された不揮発性メモリ61と、CPU50の作業領域として機能するRAM(Random Access Memory)62と、静止画データを記憶するメモリカード63と、各種のタイミング信号を生成するタイミング制御部70とを備える。CPU50は、シャッター速度、逆光補正、絞り値といった撮影条件などを示すOSD画像信号Dosdを生成して、後述するVRAM34に格納する。なお、以下の説明では、撮像表示装置1からレンズユニット10を除いた構成を本体と称する。
この撮像表示装置1は、いわゆるミラーレスデジタル一眼レフカメラであり、レンズユニット10の交換が可能である。また、撮像表示装置1の利用者による操作部60の操作により、撮像部20で撮像した被写体に係る画像をほぼリアルタイムで表示部40に表示するライブビューモードによる動作と、撮像部20で撮像した被写体に係る画像を静止画格納用のメモリカード63に静止画データとして格納する撮像モードによる動作と、を選択可能となっている。
図2にレンズユニット10の詳細な構成を示す。レンズユニット10は、撮影光学系を備える。この撮影光学系は、被写体側から像側(カメラ側)に順に、固定レンズ11と、変倍レンズ12と、絞り13と、固定レンズ14と、フォーカスレンズ15とを備える。レンズの各々は、1枚で構成されてもよいし、あるいは複数枚で構成されてもよい。
ズーム駆動機構12aは変倍レンズ12を図中矢印Aの方向に移動させる機械的な機構であり、利用者が操作するマニュアル動作と電動動作が可能である。電動動作の場合、本体からズーム駆動機構12aを制御する制御信号C1が送信される。制御信号C1はインターフェース部17を介してCPU16に取り込まれ、CPU16からズーム機構12aに供給される。変倍レンズ12の位置は第1エンコーダー12bにより検出され、検出結果はCPU16に供給される。変倍レンズ12の位置に応じて焦点距離及びズーム率が定まる。
絞り駆動機構13aは、絞り13を駆動する機械的な機構であり、利用者が操作するマニュアル動作と電動動作が可能である。電動動作の場合、本体から絞り駆動機構13aを制御する制御信号C2が送信される。制御信号C2はインターフェース部17を介してCPU16に取り込まれ、CPU16から絞り機構13aに供給される。絞り13の状態は第2エンコーダー13bによって検出され、検出結果はCPU16に供給される。また,絞り13の状態は,カメラ側からインターフェース17を通じての指示を受けて駆動用機構により絞り込み動作を行う。
フォーカス駆動機構15aは、フォーカスレンズ15を図中矢印Bの方向に移動させる機械的な機構であり、利用者が操作するマニュアル動作と電動動作が可能である。電動動作の場合、本体からフォーカス駆動機構15aを制御する制御信号C3が送信される。制御信号C1はインターフェース部17を介してCPU16に取り込まれ、CPU16からフォーカス駆動機構15aに供給される。フォーカスレンズ15の位置は第3エンコーダー15bにより検出され、検出結果はCPU16に供給される。また,フォーカスレンズ15の状態は,カメラ側からインターフェース17を通じての指示を受けてフォーカス駆動用機構15aによりフォーカス位置を前後に移動させる動作を行う。
フラッシュROM18には、レンズユニット10の種類を識別するための識別データが記憶されている。識別データは、例えば、型番であり、これにより、レンズユニット10の基本的な光学特性を特定することができる。このため、識別データは、レンズユニット10の光学特性を示すパラメーターの一つである。CPU15は、第1エンコーダー12bの出力信号に基づいて焦点距離を特定するとともに、第2エンコーダー13bの出力信号に基づいて絞り値を特定し、第3エンコーダー15bの出力信号に基づいてフォーカス値を特定する。このように特定された焦点距離、絞り値、及びフォーカス値はレンズユニット10の光学特性に関するパラメーターに含まれる。また、特定された焦点距離を最小の焦点距離で除算して得られた値であるズーム率もレンズユニット10の光学特性に関するパラメーターに含まれる。
CPU16は、これらのパラメーターを含む光学特性データDocpを生成し、インターフェース部17を介して、本体に送信する。
説明を図1に戻す。撮像部20は、メカニカルシャッター21と、マトリックス状に配列された受光素子(撮像素子)からの信号を線順次に走査して被写体の像に応じた撮像信号DSを出力するイメージセンサ22とを備える。
次に、画像信号生成部30は、撮像信号DSに基づいて画像信号D(DGA)を生成する画像処理部31と、画像信号D(DGA)を一時的に記憶するVRAM32と、OSD画像信号Dosdを記憶するVRAM(OSD)34と、VRAM32から読み出した画像信号D(DGA)とVRAM(OSD)34から読み出したOSD画像信号Dosdとを合成して得た画像信号D(DGB)を表示部40に出力する画像信号出力部33とを備える。なお、以下の説明では、画像信号D(DGB)を単に画像信号Dと表記することがある。
次に、表示部40は、撮像対象となる被写体を示す画像を表示して撮像表示装置1の利用者に被写体の様子を把握させるためのEVF(Electronic View Finder)であり、画像信号生成部30が生成した画像信号Dに応じた画像を表示するための液晶パネル42と、液晶パネル42の動作を制御するEVFコントローラ41と、を備える。
液晶パネル42には、画像信号Dに応じた画像を表示するための表示領域ADが設けられている。表示領域ADは、X軸方向に延在するM行の走査線と、Y軸方向に延在するN列のデータ線と、走査線及びデータ線の交差に対応しても受けられるM行×N列の画素と、を含んで構成されている(図3(C)参照)。また、液晶パネル42は、走査線を選択するための走査線駆動回路421と、データ線を駆動するためのデータ線駆動回路422と、表示領域ADに表示される画像を拡大して観察可能とするための接眼光学系(図示省略)と、を備える。
図3(A)に示すように、イメージセンサ22は、有効イメージセンサ領域ASにおいて、複数の受光素子がX軸方向(水平方向)にQS列、X軸方向に交差するY軸方向(垂直方向)にPS行(PSライン)となるようにマトリックス状に配列されている(PSびQSは、2以上の自然数)。換言すれば、有効イメージセンサ領域ASには、X軸方向に配列されたQS個の受光素子からなるラインが、Y軸方向にPS行並ぶように構成されている。各受光素子は、検出した光量に応じた画素データ信号Sigを生成する。
また、各受光素子に1対1に対応するように、赤色、緑色、または、青色のうちいずれか1色のカラーフィルターがベイヤー配列で設けられている。以下では、1つの受光素子と、当該1つの受光素子に対応して設けられるカラーフィルターとの組を、イメージセンサ22の画素と称することがある。
イメージセンサ22は、撮像表示装置1が撮像モードで動作する場合、有効イメージセンサ領域ASに設けられたPS行×QS列の受光素子から出力される画素データ信号Sigの全部を静止画用撮像データとして出力することができる。そして、静止画用撮像データが出力されると、後述する画像信号生成部30が、当該静止画用撮像データに対してフィルタ処理等の各種画像処理を施して静止画データを生成し、生成した静止画データを静止画格納用のメモリカード63に格納する。
一方、イメージセンサ22は、撮像表示装置1がライブビューモードで動作する場合、PS行×QS列の受光素子が出力する画素データ信号Sigに対して間引き処理を施すことで画素データ信号Sigのデータ画素数サイズを縮小して、図3(B)に示すようなP行×Q列の画素に対応する撮像信号DSとして出力する(Pは、2≦P≦PSを満たす自然数。Qは、2≦Q≦QSを満たす自然数)。
なお、イメージセンサ22は、有効イメージセンサ領域AS以外の領域に画素を備えるものであってもよいが、本明細書では簡単のために有効イメージセンサ領域ASの画素についての説明は省略する。
また、図3(C)に示すように、液晶パネル42には、表示領域ADにおいて、複数の画素がX軸方向にN列、Y軸方向にM行(Mライン)となるようにマトリックス状に配列されている(Mは、2≦M≦Pを満たす自然数。Nは、2≦N≦Qを満たす自然数)。換言すれば、表示領域ADは、X軸方向に配列されたN個の画素からなるラインが、Y軸方向にM行並ぶように構成されている。これらM行×N列の画素は、赤色を表示するための画素、緑色を表示するための画素、及び、青色を表示するための画素を含む。当該表示領域ADには、画像信号生成部30が生成する画像信号Dに応じた画像がカラー表示される。
上述のとおり、M≦Pであり、N≦Qである。つまり、有効イメージセンサ領域ASに設けられた有効画素数と、表示領域ADに設けられた画素数は、異なる場合がある。
なお、図3(A)〜(C)に示す座標系は、それぞれ、有効イメージセンサ領域ASに固定された座標系、撮像信号DSを表すための概念上の座標系、及び、表示領域ADに固定された座標系であり、これら3つの座標系の各軸の向きは互いに相違するものであってもよい。
上述した画像信号Dは、液晶パネル42の表示領域ADに設けられるM行×N列の画素のそれぞれが表示すべきカラー画像(階調)を規定する信号である。以下では、表示領域ADで表示すべき画像を示す画像信号Dのうち、表示領域ADの第m行のラインで表示すべき画像を示す1ライン分の画像信号Dを、画像信号D[m]と表記する(mは、1≦m≦Mを満たす自然数)。
次に、図1に示すタイミング制御部70は、撮像垂直同期信号SVsync、撮像水平同期信号SHsync、及び撮像ドットクロック信号SCLKを生成し、これらをイメージセンサ22に出力するとともに、表示垂直同期信号DVsync、表示水平同期信号DHsync、及び表示ドットクロック信号DCLKを生成し、これらをEVFコントローラ41に出力する。
図4は、タイミング制御部70が生成する、撮像垂直同期信号SVsync、撮像水平同期信号SHsync、及び、撮像ドットクロック信号SCLKを説明するためのタイミングチャートである。撮像垂直同期信号SVsyncは、イメージセンサ22の有効イメージセンサ領域AS全体(PSライン分)の受光素子から画素データ信号Sigを読み出すための撮像垂直走査期間Fs(すなわち、撮像部20のフレーム期間)を規定する信号である。撮像水平同期信号SHsyncは、有効イメージセンサ領域ASの1ライン分の受光素子から画素データ信号Sigを読み出すための撮像水平走査期間Hsを規定する信号である。撮像ドットクロック信号SCLKは、有効イメージセンサ領域ASの1画素分の受光素子から画素データ信号Sigを読み出すためのタイミングを規定する信号である。
図5は、タイミング制御部70が生成する、表示垂直同期信号DVsync、表示水平同期信号DHsync、及び表示ドットクロック信号DCLKを説明するためのタイミングチャートである。表示垂直同期信号DVsyncは、液晶パネル42の表示領域AD全体(Mライン分)の画素で画像を表示するための表示垂直走査期間Fd(すなわち、表示部40のフレーム期間)を規定する信号である。表示水平同期信号DHsyncは、表示領域ADの1ライン分の画素で画像を表示すための表示水平走査期間Hdを規定する信号である。表示ドットクロック信号DCLKは、表示領域ADの各画素で画像を表示するためのタイミングを規定する信号である。
本実施形態においてイメージセンサ22における撮像垂直走査期間Fsの時間長と表示部40における表示垂直走査期間Fdの時間長とは等しくなるように設定される。一方、撮像水平走査期間Hsの時間長と表示水平走査期間Hdの時間長とは相違する。
なお、タイミング制御部70は、画像信号生成部30に対して各種のタイミング信号を出力するが、その中には、撮像垂直同期信号SVsync、撮像水平同期信号SHsync、撮像ドットクロック信号SCLK、表示垂直同期信号DVsync、表示水平同期信号DHsync、及び表示ドットクロック信号DCLKの一部または全部が含まれてもよい。
図6は、タイミング制御部70が生成する各種信号と、液晶パネル42の表示領域ADにおける画像の表示タイミングとの関係を説明するための説明図である。
この図に示すように、表示領域ADの有する第1行のラインから第M行のラインに至るM行×N列の画素は、表示垂直走査期間Fdのうち、垂直有効データ期間DVIにおいて、画像信号D[1]〜D[M]の示す1画面分の画像を表示する。
また、表示領域ADのうち第m行のラインを構成するN個の画素は、表示水平走査期間Hdのうち、水平有効データ期間DHIにおいて、画像信号D[m]の示す画像を表示する。
<2.画像処理>
次に、図7乃至図9を参照しつつ、画像信号生成部30の詳細と、画像処理部31で実行される画像処理と、について説明する。
図7は、画像処理部31の構成を示すブロック図である。
この図に示すように、画像処理部31は、イメージセンサ22から出力される撮像信号DSを一時的に格納するラインバッファ311と、ラインバッファ311に格納された撮像信号DSに対して補完処理を行う画素補完処理部312と、補完された撮像信号DSに対して色再現処理(3x3の行列計算)を行う色再現処理部313と、色再現された撮像信号DSに対してフィルタ処理を行うフィルタ処理部314と、フィルタ処理された撮像信号DSに対してガンマ補正を施すガンマ補正部315と、ガンマ補正された撮像信号DSを一時的に格納するラインバッファ316と、ラインバッファ316に格納された撮像信号DSを表示領域ADの備える画素数の画像信号Dに変換するリサイズ処理を行うリサイズ処理部317と、を備える。
図8は、イメージセンサ22が備える受光素子が出力する画素データ信号Sigと、撮像信号DSとの関係を説明するための説明図である。上述のとおり、撮像表示装置1が撮像モードで動作する場合、イメージセンサ12は、図8(A)に示す画素データ信号Sigの全部を静止画用撮像データとして出力する。一方、撮像表示装置1がライブビューモードで動作する場合、イメージセンサ12は、画素データ信号Sigを間引きして、図8(B)に示す撮像信号DSを出力する。
図8(A)において、「R」が付された四角形の各々は、赤色の画素に対応する(赤色光を検出するための)受光素子から出力される画素データ信号Sigを示し、「G」が付された四角形の各々は、緑色の画素の受光素子から出力される画素データ信号Sigを示し、「B」が付された四角形の各々は、青色の画素の受光素子から出力される画素データ信号Sigを示す。
また、 図8(B)において、「R」が付された四角形の各々は、表示領域ADの有する赤色の画素に対応する(赤色の画素で表示すべき階調を指定する)画像信号Dを生成するための撮像信号DSを示し、「G」が付された四角形の各々は、表示領域ADの有する緑色の画素に対応する画像信号Dを生成するための撮像信号DSを示し、「B」が付された四角形の各々は、表示領域ADの有する青色の画素に対応する画像信号Dを生成するための撮像信号DSを示す。
なお、本実施形態では、イメージセンサ22の有効イメージセンサ領域ASおいて、赤色、緑色、及び、青色の画素がベイヤー配列されている場合を想定する。
上述のとおり、イメージセンサ22は、PS行×QS列の受光素子が出力する画素データ信号Sigに対して加法平均読み出し及び間引き処理を施すことで、P行×Q列の画素に対応する撮像信号DSを出力する。
間引き処理において、イメージセンサ22は、Y軸方向について、PS行の受光素子が出力する画素データ信号Sigを、P行の画素に対応する信号に間引きする。
具体的には、イメージセンサ22は、PS行の中から読み出し対象ラインを選択し、読み出し対象ラインに位置する受光素子が出力する画素データ信号Sigを読み出す一方で、読み出し対象ライン以外のラインに位置する受光素子が出力する画素データ信号Sigを読み飛ばすことで、Y軸方向の間引きを行う。
本実施形態では、イメージセンサ22の有効イメージセンサ領域ASに設けられる画素の配列がベイヤー配列であるため、奇数ラインに1ラインの割合で読み出し対象ラインを定める。
画素がベイヤー配列されている場合、赤色画素及び緑色画素からなるラインと、緑色画素及び青色画素からなるラインとが、Y軸方向において交互に並んでいる。このため、奇数ラインに1ラインの割合で読み出し対象ラインを定めることで、読み出し後の画素を、赤色画素及び緑色画素からなるラインと、緑色画素及び青色画素からなるラインとが、Y軸方向において交互に並ぶように配列することができ、同色の画素が隣り合うことを防止することができる。
図8(A)に示す例では、Y軸方向において、3ラインに1ラインの割合で読み出し対象ラインを定めている。具体的には、ライン1〜9のうち、ライン1、ライン4、及び、ライン7を読み出し対象ラインとしている。この場合、図8(B)に示すように、画素データ信号SigをY軸方向に3分の1に間引いた撮像信号DSを得ることができる。
また、イメージセンサ22は、X軸方向の加法平均読み出しを行い、QS列の受光素子が出力する画素データ信号Sigを、Q列の画素に対応する信号(撮像信号DS)とする。
具体的には、イメージセンサ22は、各読み出し対象ラインに位置するQS個の受光素子を、所定数個の受光素子が1つの組となるようにグループ分けし、各組を構成する所定数個の受光素子が出力する画素データ信号Sigの示す値を加法平均することで、QS個の受光素子が出力する画素データ信号Sigを、「所定数分の1」に縮小する。また,加法平均することで,ローパスフィルターの効果が得られ,折り返しノイズの発生を抑制できる。
イメージセンサ22の画素がベイヤー配列の場合、各ラインには2色の画素が交互に配列されているため、X軸方向に1個おきに所定数個の受光素子を1組とするグループ分けを行う。そして、各組を構成する所定数個の受光素子が出力する画素データ信号Sigの示す値を加法平均する。
図8(A)に示す例では、X軸方向において、1個おきに3個の受光素子を1組としてグループ分けし、各組を構成する同色の3個の受光素子が出力する画素データ信号Sigの示す値を平均している。具体的には、例えば、ライン1及びライン7において、第1列、第3列、第5列の赤色画素を1組として、当該3個の画素に対応する3個の受光素子が出力する画素データ信号Sigの値を加算器Ave1によって加法平均し、得られた平均値を第1列の赤色画素に対応する撮像信号DSの値として設定する。同様に、ライン1及びライン7において、第2列、第4列、第6列の緑色画素に対応する受光素子が出力する画素データ信号Sigの値を加算器Ave2によって加法平均し、得られた平均値を第2列の緑色画素に対応する撮像信号DSの値として設定する。この場合、図8(B)に示すように、画素データ信号SigをX軸方向に3分の1に縮小した撮像信号DSを得ることができる。また,相加平均処理を行う事で,信号のノイズ成分も低下する。
上述のとおり、撮像信号DSの示す画像の画素数と、画像信号Dの示す画像の画素数(表示領域ADの画素数)とは異なる。このため、リサイズ処理部317では、撮像信号DSを、表示領域ADの画素数に対応した画像信号Dに変換するリサイズ処理を実行する。
撮像信号DSの示す画像は、レンズユニット10の光学特性に起因する歪曲収差や倍率色収差といった各種の収差を有する場合がある。歪曲収差としては、具体的には、被写体を撮像した際の撮像結果を示す画像が、表示領域ADにおいて本来表示すべき画像に比べて画面周辺部の直線が外側に向かって膨張する樽型収差や、または、本来表示すべき画像に比べて画面周辺部の直線が内側に向かって収縮する糸巻形収差がある。
また、倍率色収差は、レンズを通って像を結んだ時、色成分毎に像高がズレ(倍率が違ってくる)る収差である。光線成分の色波長の違いとレンズの屈折率が相違に起因する。倍率色収差については、例えば図9に示すように像高が大きくなると波長の長い光ほど、拡大率が大きくなるため、画面の周辺部において色ズレが大きくなる。
このため、リサイズ処理部317では、リサイズ処理において、樽型収差や糸巻型収差等の歪曲収差を補正する歪曲補正処理と倍率色収差とを補正する色収差補正処理も含めて実行する。
以下、図10を参照しつつ、リサイズ処理の中で実行される歪曲補正処理について説明する。なお、図10では、説明を簡便化するために撮像信号DSの示す画像のライン数が16ライン(P=16)であり、画像信号D示す画像のライン数が12ライン(M=12)である場合を想定している。(実際には,DSは600ラインとか800ラインとかになる。)
図10(C)及び(D)は、被写体を撮像した際に表示領域ADに表示されるべき、画像信号Dの示す画像を表し、図10(A)は、樽型収差が生じている場合に撮像信号DSの示す画像を表し、図10(B)は、糸巻型収差が生じている場合に撮像信号DSの示す画像を表している。
すなわち、図10(A)は、表示領域ADに表示すべき画像が四角形SQであるのにもかかわらず、撮像信号DSが、樽型収差によって四角形SQが膨張した閉曲線CV1を示す場合を表す。また、図10(B)は、表示領域ADに表示すべき画像が四角形SQであるのにもかかわらず、撮像信号DSが、糸巻型収差によって四角形SQが収縮した閉曲線CV2を示す場合を表す。
リサイズ処理部317は、図10(A)に示すような樽型収差が生じた場合、歪曲補正処理において、図10(A)に示すような閉曲線CV1で示される画像を、図9(C)に示すような四角形SQで示される画像へと補正する。同様に、リサイズ処理部317は、図10(B)に示すような樽型収差が生じた場合、歪曲補正処理において、図9(B)に示すような閉曲線CV2で示される画像を、図10(D)に示すような四角形SQで示される画像へと補正する。
これらの場合、リサイズ処理部317は、補正前の画像における画素と補正後の画像における画素とを対応付け、補正後の画素に対応する補正前の画素を中心画素とし、中心画素とその周辺の画素である周辺画素とを含む参照領域内の画素の各々で表示する階調に基づいて、補正後の画素の表示すべき階調を決定する。一般的にレンズの歪曲収差である樽型歪や糸巻歪は,レンズの光学中心(画面の中心)からの距離に応じて歪が大きくなる特性があるため,画面の中心からの距離に応じて歪を補正する処理を行う。その結果補正するべきデータ座標が画素のピッチよりも小さい場合は,バイリニア処理などの補完処理により値を階調の値を求める処理を行う事になる。
例えば、リサイズ処理部317は、図10(C)または(D)に示す、補正後の画素PxS1の階調を決定する場合、図10(A)または(B)に示す、補正前の画素PxC1を中心画素と定める。そして、リサイズ処理部317は、中心画素である画素PxC1を含む参照領域Area1内の各画素で表示すべき階調に基づいて、画素PxS1で表示すべき階調を定める。
同様に、リサイズ処理部317は、図10(C)または(D)に示す、補正後の画素PxS2の階調を決定する場合、図10(A)または(B)に示す、補正前の画素PxC2を中心画素と定める。そして、リサイズ処理部317は、中心画素である画素PxC2を含む参照領域Area2内の各画素で表示すべき階調に基づいて、画素PxS2で表示すべき階調を定める。
なお、図10(C)及び(D)において濃いハッチングを付した画素は、画像信号Dにおける第1行、第7行、及び、第12行に位置する補正後の画素を示し、図10(A)及び(B)において濃いハッチングを付した画素は、補正後の画素のそれぞれに対応する補正前の画素(中心画素)を示し、図10(A)及び(B)において淡いハッチングを付した画素は、中心画素のそれぞれに対応する周辺画素を示す。
図10に示す例からも明らかなように、樽型収差が生じている場合の画像の膨張の程度は、画面のラインの位置によって変動し、垂直方向(Y軸方向)の位置が端部に近づくにつれて、画像の膨張の程度は大きくなる。また、糸巻型収差が生じる場合における画像の収縮の程度は、画面のラインの位置によって変動し、垂直方向(Y軸方向)の位置が端部に近づくにつれて、画像の収縮の程度は大きくなる。
よって、リサイズ処理部317が画像信号D[m]を生成する場合に必要となる撮像信号DSのライン数は、画像信号D[m]に対応するラインの位置(mの値)により変動する。このため、リサイズ処理部317がリサイズ処理に要する時間長は、ラインの位置により変動することになる。
ここで、第p行のラインに対応する撮像信号DSを、撮像信号DS[p]と表す(pは、1≦p≦Pを満たす自然数)。
このとき、例えば、図10に示す例では、リサイズ処理部317が、第1行のラインに対応する画像信号D[1]を生成するためには、第1行〜第5行のラインに対応する撮像信号DS[1]〜DS[5]が必要となる。これに対して、リサイズ処理部317が、第7行のラインに対応する画像信号D[7]を生成するためには、第8行〜第10行のラインに対応する撮像信号DS[8]〜DS[10]が必要となる。つまり、リサイズ処理部317が、画像信号D[1]を生成するために要する時間長は、画像信号D[7]を生成するために要する時間長よりも長くなる。
以下では、画像信号D[m]を生成するために必要となる、1または複数ラインの撮像信号DS[p]を、撮像信号DGS[m]と総称する。
例えば、図10に示す例では、画像信号D[1]を生成するために必要となる撮像信号DGS[1]は、撮像信号DS[1]〜DS[5]の5ライン分の撮像信号DS[p]であり、画像信号D[7]を生成するために必要となる撮像信号DGS[7]は、撮像信号DS[8]〜DS[10]の3ライン分の撮像信号DS[p]であり、画像信号D[12]を生成するために必要となる撮像信号DGS[12]は、撮像信号DS[12]〜DS[16]の5ライン分の撮像信号DS[p]である。
また、色収差補正処理では、図9に示すように色(光の波長)と像高に応じて定まる倍率色収差を上述した歪曲収差と同様に、画像信号Dを像高と色に応じて拡大縮小することによって補正する。
リサイズ処理部317は、リサイズ処理が完了し、画像信号Dをライン毎に生成すると、生成した1ライン分の画像信号D[m]をVRAM32に格納する。
ところで、上述した歪曲収差補正処理は、レンズユニット10の光学特性に応じて変化する。例えば、歪曲収差の小さいレンズユニット10の場合には、画像信号D[1]を生成するために必要となる撮像信号DGS[1]は、撮像信号DS[1]〜DS[3]の3ライン分の撮像信号DS[p]となる一方、歪曲収差の大きいレンズユニット10の場合には、画像信号D[1]を生成するために必要となる撮像信号DGS[1]は、撮像信号DS[1]〜DS[7]の7ライン分の撮像信号DS[p]となることもあり得る。
さらに、歪曲収差の程度は、レンズユニット10の種類、焦点距離やズーム率、絞り値、フォーカス値になどの光学特性に関するパラメーターによって変化する(特に、レンズユニット10の種類及び焦点距離やズーム率)。したがって、レンズユニット10の光学特性に関するパラメーターに応じて、歪曲収差補正処理の内容を変更する必要がある。
また、色収差補正処理の内容もレンズユニット10の光学特性に関するパラメーターに応じて変化する。倍率色収差が大きい場合には、画面の周辺部分において色ズレが大きくなる一方、倍率色収差が小さい場合には、画面の周辺部分において色ズレが小さくなる。倍率色収差の程度は、レンズユニット10の種類、焦点距離やズーム率、絞り値、フォーカス値になどの光学特性に関するパラメーターによって変化する(特に、レンズユニット10の種類、焦点距離やズーム率及び絞り値)。したがって、レンズユニット10の光学特性に関するパラメーターに応じて、色収差補正処理の内容を変更する必要がある。
そこで、本実施形態において、CPU50は、レンズユニット10から取得した光学特性データDocpに基づいて、歪曲収差補正処理及び色収差補正処理の内容を指定する補正処理制御信号CTLを生成し、リサイズ処理部317に供給する。リサイズ処理部317は補正処理制御信号CTLで指定される補正処理を実行する。これにより、レンズユニット10が交換されたり、利用者がレンズユニット10を操作して、ズーム率、絞り値、あるいはフォーカス値が変化しても、光学特性の変更に応じて、収差補正処理の内容を変更することが可能となる。
<3.タイミング制御>
撮像信号DSが撮像部20から出力されてから、画像信号Dを表示部40に出力するまでの時間は、短い程、表示遅れが小さくなるため好ましい。一方、上述した画像処理に要する時間は、リサイズ処理部317で実行される歪曲収差補正処理及び色収差補正処理の内容に応じて変化する。上述したようにタイミング制御部70は、イメージセンサ22を制御する撮像垂直同期信号SVsync、撮像水平同期信号SHsync、及び、撮像ドットクロック信号SCLKを生成するとともに、表示部40を制御する表示垂直同期信号DVsync、表示水平同期信号DHsync、及び表示ドットクロック信号DCLKを生成する。
ここで、撮像信号DSのフレームの開始は、撮像垂直同期信号SVsyncによって規定され、画像信号Dのフレームの開始は、表示垂直同期信号DVsyncによって規定される。そこで、撮像垂直同期信号SVsyncと表示垂直同期信号DVsyncとの位相差TDをリサイズ処理部317で実行される歪曲収差補正処理及び色収差補正処理の内容に応じて変化させることによって、収差補正処理に要する時間を確保しつつ、表示遅れを短くすることが可能となる。
本実施形態のCPU50は、光学特性データDocpに基づいて上述した位相差TDを特定し、タイミング制御部70に供給する。具体的には、CPU50は、不揮発性メモリ61に記憶されている位相差テーブルTBLを参照して、位相差TDを特定する。図11に位相差テーブルTBLの記憶内容の一例を示す。位相差テーブルTBLには、上述した識別データが示すレンズユニットの種類及び焦点距離と、位相差TDとが対応付けて記憶されている。この例において、レンズユニットの種類「WQA00006」及び「SSZ01234」はズームレンズであり、レンズユニットの種類「QRD0002」及び「QRD0007」は単焦点レンズである。また、ズームレンズでは、焦点距離が短くなる程、位相差TDが大きくなっている。これは、広角になる程、歪曲収差が大きくなり、歪曲収差補正に要する時間が長くなるからである。
例えば、光学特性データDocpに含まれる識別データが「WQA00006」を示し、焦点距離データの示す焦点距離が「70mm」である場合、CPU50は位相差TDとして10msを特定し、これをタイミング制御部70に供給する。
上述したようにCPU50は、光学特性データDocpに基づいて収差補正処理の内容を指定するので、位相差TDは、レンズユニット10の光学特性に関するパラメーターの変化に追随して変更される収差補正処理に要する所定時間を考慮して、決定されることになる。
なお、位相差テーブルTBLの更新については、以下の方法を採用すればよい。まず、インターネットの特定のサイトから利用者のコンピュータに位相差テーブルTBLをダウンロードしてメモリカード63に記録する。次に、このメモリカード63を撮像表示装置1に装着し、メモリカード63に記録されている位相差テーブルTBLを不揮発性メモリ61に転送すればよい。位相差テーブルTBLを更新可能とすることにより、新たなレンズユニット10が発売されても、これに対応した収差補正を実行するとともに、適切な位相差TDを設定することが可能となる。
また、位相差テーブルTBLは、レンズユニット10の種類及び焦点距離と位相差TDを対応付けるものであったが、レンズユニット10の種類ごとに個別の位相差テーブルを用意し、各位相差テーブルにズーム率及び絞り値に対応付けて、位相差TDを記憶してもよい。さらに、フォーカス値など他のパラメーターを加えて位相差TDを記憶してもよい。
次に、タイミング制御部70の具体的な構成について、図12を参照して説明する。図12に示すようにタイミング制御部70は、第1タイミングジェネレータ70Aと第2タイミングジェネレータ70Bとを備える。第1タイミングジェネレータ70Aは、撮像ドットクロック信号SCLKを発生する撮像ドットクロック信号発生部71と、撮像ドットクロック信号SCLKに基づいて、撮像垂直同期信号SVsync及び撮像水平同期信号SHsyncを生成する撮像同期信号発生部72を備える。
また、第2タイミングジェネレータ70Bは、表示ドットクロック信号DCLKを発生する表示ドットクロック信号発生部73と、表示ドットクロック信号DCLKに基づいて、表示垂直同期信号DVsync及び表示水平同期信号DHsyncを生成する表示同期信号発生部74を備える。さらに、表示同期信号発生部74は、表示垂直同期信号発生部741と表示水平同期信号発生部742とを備える。
表示垂直同期信号発生部741は、撮像垂直同期信号SVsyncを位相差TDだけ遅延させて表示垂直同期信号DVsyncを生成する。例えば、表示垂直同期信号発生部741は、K個のDフリップフロップを縦続接続し、各Dフリップフロップの出力信号を位相差TDに応じて選択して出力する選択回路とから構成することができる。
この様にすることで,撮像垂直同期信号SVsyncと表示垂直同期信号DVsyncは,位相差TDの時間差を保持した状態で同期化されることになる。
なお,表示水平同期信号発生部742は、表示垂直同期信号DVsyncの立下りエッジから表示ドットクロック信号DCLKを所定数カウントして1つの表示水平同期パルスを生成し、これを繰り返すことにより表示水平同期信号DHsyncを生成してもよい。
図13に、位相差TDがΔT1である場合と、位相差TDがΔT2である場合における撮像垂直同期信号SVsync、撮像信号DS、表示垂直同期信号DVsync、及び画像信号Dのタイミングチャートを示す。ここで、時刻t0は、撮像信号DSのフレームの開始時刻であり、時刻t1は位相差TDがΔT1である場合における画像信号Dのフレームの開始時刻であり、時刻t2は位相差TDがΔT2である場合における画像信号Dのフレームの開始時刻である。
位相差TDがΔT2である場合は、例えば、リサイズ処理部317において収差補正処理を実行しない場合である。この場合は、収差補正処理が実行されないので、ラインバッファ316に書き込まれた撮像信号DSは、直ちにリサイズ処理部317に読み出され、リサイズされた後、VRAM32に格納される。そして、表示部40のフレーム周期の時間長は、イメージセンサ22のフレーム周期と同一の時間となり、且つ撮像信号DSが画像信号生成部30に供給されてから、画像信号Dが表示部40に出力されるまでの時間がΔT2となるようにVRAM32から画像信号Dが読み出される。
位相差TDがΔT1である場合は、例えば、リサイズ処理部317において収差補正処理を実行する場合である。この場合は、収差補正処理を実行するために、ラインバッファ316に処理に必要なライン数分の撮像信号DSを記憶する。そして、リサイズ処理部317は保存された撮像信号DSを参照して表示用の画像信号Dを生成しVRAM32に格納する。この場合、処理対象となる画像信号Dのラインの位置に応じて参照すべき撮像信号DSのラインが異なるため、フレーム内でのラインに応じて画像信号Dの生成タイミングが変化する。ここで、あるラインの画像信号Dを生成するために参照すべき撮像信号DSのライン数が最も大きい場合に収差補正処理に要する時間が最大となる。その最大時間をtmaxとすると、ΔT1は、ΔT1=ΔT2+tmaxとなる。すなわち、位相差TDは、第1ラインから第Mラインの画像信号D[1]〜D[M]を生成する場合に、最も参照ライン数が大きいラインについての処理時間である最大時間tmaxを考慮して決定される。
このように本実施形態においては、レンズユニット10の光学特性に応じて、画像処理の内容を変更し、これに伴って、撮像部20におけるフレームの開始から表示部40のフレームの開始までの位相差TDを変更した。この結果、レンズユニット10の光学特性が小さな収差を有する場合には、収差補正処理に要する時間が短くなるのに伴って、位相差TDを小さくすることにより、撮像から表示までの時間遅れを短縮する一方、レンズユニット10の光学特性が大きな収差を有する場合には、収差補正処理に要する時間が長くなるのに伴って、位相差TDを大きくすることにより、収差補正処理の時間を確保しつつ、撮像から表示までの時間遅れを適切に制御することが可能となる。
また、交換可能なレンズユニット10から光学特性データDocpを本体に送信するので、新たなレンズユニット10が発売された場合であっても、位相差テーブルTBLを更新することによって、撮像から表示までの時間遅れを最短化することが可能となる。
さらに、本実施形態では、まず、撮像部20を制御する撮像垂直同期信号SVsyncを生成し、これを遅延させて、表示部40を制御する表示垂直同期信号DVsyncを生成した。このため、撮像部20のフレーム周期の時間長に表示部40のフレーム周期の時間長を合わせることができる。撮像部20のフレーム周期は、イメージセンサ22で撮像する画像の明るさに応じて定めることができる。よって、表示部40のフレーム周期よりも撮像部20のフレーム周期を優先させることにより、表示画像の品質の低下を抑えることができる。
さらに、最初に表示垂直同期信号DVsyncを生成し、これを遅延させて、撮像垂直同期信号SVsyncを生成すると、電源を投入した直後には、撮像部20が動作可能であるにも拘わらず、撮像信号DSを生成することができず、画像を表示させることができない。これに対して、撮像垂直同期信号SVsyncを遅延させて表示垂直同期信号DVsyncを生成することにより、電源を投入した直後であっても迅速に画像を表示することが可能となる。
<4.応用例>
上述した実施形態では、撮像表示装置1を、ミラーレスデジタル一眼レフカメラを一例として説明したが、撮像表示装置1は各種の電子機器に応用することが可能である。
<応用例1>
撮像表示装置1を、レンズユニット10の交換がないデジタルカメラに適用してもよい。この場合、焦点距離、ズーム率、絞り値、あるいはフォーカス値といったレンズユニット10の光学特性に関するパラメーターの少なくなくとも一つに応じて収差補正の処理内容及び位相差TDを決定すればよい。また、例えば、ズーム、フォーカス、絞りなどを利用者の操作によって定めるマニュアル機能を搭載しておらず、本体側からの制御によって、これを設定するデジタルカメラにおいては、これらのパラメーターが本体で取得できるのであれば、レンズユニット10から光学特性データDocpを送信する必要はない。
<応用例2>
倍率を可変できる電子双眼鏡や電子望遠鏡に撮像表示装置1を応用してもよい。この場合には、倍率(レンズの光学特性に関するパラメーター)に応じて、収差補正処理の内容を変更し、これに伴い位相差TDを定めることにより、撮像から表示までの時間遅れを最短化することが可能となる。
<応用例3>
車両に用いられるサイドミラーやバックミラーの替りに、電子的な撮像表示システムを用いる場合、これに上述した撮像表示装置1を応用してもよい。車載用の撮像表示システムにおいては、車両が高速で移動する点を考慮する必要がある。すなわち、イメージセンサ22で被写体を撮像してから、表示部40で画像を表示するまでの時間遅れを短縮することが安全な運行に重要である。上述した撮像表示装置1を用いると、電子双眼鏡や電子望遠鏡と同様に、光学ズームによって変化する倍率に応じて、収差補正処理の内容を変更し、これに伴い位相差TDを定めることにより、撮像から表示までの時間遅れを最短化することが可能となる。
<5.変形例>
以上の各形態は多様に変形され得る。具体的な変形の態様を以下に例示する。以下の例示から任意に選択された2以上の態様は、相互に矛盾しない範囲内で適宜に併合され得る。なお、以下において説明する変形例では、説明の重複を避けるため、上述した本発明の実施形態との共通点については説明を省略する。
<変形例1>
上述した実施形態では、撮像垂直同期信号SVsyncを位相差TDだけ遅延させて表示垂直同期信号DVsyncを生成したが、本発明はこれに限定されるものではなく、表示垂直同期信号DVsyncを位相差TD’だけ遅延させて撮像垂直同期信号SVsyncを生成してもよい。この場合、画像信号Dのフレーム周期の時間長をTxとすると、TD’= Tx-TDとなる。(ここで,TxはFdである。)
また、タイミング制御部70は図14に示すように構成することができる。撮像水平同期信号発生部722は、撮像垂直同期信号SVsyncの立下りエッジから撮像ドットクロック信号SCLKを所定数カウントして1つの撮像水平同期パルスを生成し、これを繰り返すことにより撮像水平同期信号SHsyncを生成してもよい。
<変形例2>
上述した実施形態及び変形例において、CPU50は、位相差テーブルTBLを参照して位相差TDを決定したが、本発明はこれに限定されるものではなく、光学特性に関するパラメーターに基づいて位相差TDを決定するのであればどのような方法であってもよい。例えば、CPU50は、演算によって位相差TDを決定してもよい。この場合には、光学特性データDocpの識別データごとに演算式を用意し、当該演算式に光学特性に関するパラメーターを代入することによって位相差TDを算出してもよい。
また、CPU50は、レンズユニット10の光学特性に関するパラメーターの全てを用いて決定する必要はなく、そのうちの少なくとも一つに基づいて位相差TDを決定してもよい。
さらに、レンズユニット10のCPU15が、位相差TDを決定してもよい。この場合、CPU15は、光学特性に関するパラメーターの一つとして位相差TDを含む光学特性データDocpを生成し、本体に送信すればよい。
<変形例3>
上述した実施形態及び変形例では、表示部40が液晶パネル42を備える場合を例示したが、本発明はこのような態様に限定されるものではなく、OLED(organic light emitting diode)パネル、プラズマ表示パネル等の表示素子を用いてもよい。
<変形例4>
上述した実施形態及び変形例では、画像信号生成部30と表示部40との間のデータ伝送をパラレルインタフェースによって行うが、低電圧差動(LVDS)の高速シリアルインタフェースによって行うようにしてもよい。
<変形例5>
上述した実施形態及び変形例では、撮像表示装置1に表示部40が内蔵されているが、本発明はこのような態様に限定されるものではなく、表示部40をデジタルカメラの外部に接続するファインダー(表示装置)等として構成してもよい。
1……撮像表示装置、10……レンズユニット、20……撮像部、22……イメージセンサ、30……画像信号生成部、31……画像処理部、32……VRAM、33……画像出力部、40……表示部、41……EVFコントローラ、42……液晶パネル、50……CPU、60……操作部、70……タイミング制御部、TBL……位相差テーブル。


Claims (6)

  1. レンズユニットを介して被写体を撮像して得た撮像信号を出力する撮像部と、
    前記撮像信号に少なくとも前記レンズユニットの光学特性に応じた画像処理を施して画像信号を生成する画像信号生成部と、
    前記画像信号生成部から出力される前記画像信号に基づいて画像を表示する表示部と、
    前記撮像信号のフレームの開始から前記画像信号のフレームの開始までの位相差を、前記レンズユニットの光学特性に応じて変更するように前記撮像部、前記画像処理部、及び前記表示部を制御するタイミング制御部と、
    を備えることを特徴とする撮像表示装置。
  2. 前記レンズユニットは、当該レンズユニットの前記光学特性に関するパラメーターを示す光学特性データを出力し、
    前記レンズユニットから取得した前記光学特性データに基づいて前記位相差を決定する制御部を備える、
    ことを特徴とする請求項1に記載の撮像表示装置。
  3. 前記レンズユニットは、本体から着脱可能であり、
    前記光学特性データに関するパラメーターは、前記レンズユニットの種類を識別するための識別データを含み、
    前記画像信号生成部は、前記画像処理の一部として、前記光学特性データに応じて前記レンズユニットの収差を補正する収差補正処理を実行し、
    前記制御部は、前記収差補正処理に要する時間を考慮して前記位相差を決定する、
    ことを特徴とする請求項2に記載の撮像表示装置。
  4. 前記光学特性データに関するパラメーターは、ズーム率を示すズーム率データ、及び焦点距離を示す焦点距離データのうち少なくとも一つを含み、
    前記画像信号生成部は、前記画像処理の一部として、前記光学特性データに応じて前記レンズユニットの収差を補正する収差補正処理を実行し、
    前記制御部は、前記収差補正処理に要する時間を考慮して前記位相差を決定する、
    ことを特徴とする請求項2又は3に記載の撮像表示装置。
  5. 前記タイミング制御部は、
    前記撮像信号のフレームの開始を規定する撮像垂直同期信号を生成した後、前記撮像垂直同期信号を前記位相差だけ遅延させて、前記画像信号のフレームの開始を規定する表示垂直同期信号を生成し、
    前記撮像垂直同期信号を前記撮像部に供給するとともに、前記表示垂直同期信号を前記表示部に供給する、
    ことを特徴とする請求項1乃至4のうち何れか1項に記載の撮像表示装置。
  6. レンズユニットを介して被写体を撮像して得た撮像信号を出力する撮像部と、前記撮像信号に少なくとも前記レンズユニットの光学特性に応じた画像処理を施して画像信号を生成する画像信号生成部と、前記画像信号生成部から出力される前記画像信号に基づいて画像を表示する表示部とを備えた撮像表示装置の制御方法であって、
    前記レンズユニットの光学特性を取得し、
    前記撮像信号のフレームの開始から前記画像信号のフレームの開始までの位相差を、取得したレンズユニットの光学特性に応じて変更するように前記撮像部、前記画像処理部、及び前記表示部を制御する、
    ことを特徴とする撮像表示装置の制御方法。
JP2015104667A 2014-08-11 2015-05-22 撮像表示装置及びその制御方法 Active JP6565326B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015104667A JP6565326B2 (ja) 2014-08-11 2015-05-22 撮像表示装置及びその制御方法
US14/808,406 US9848131B2 (en) 2014-08-11 2015-07-24 Imaging display device and control method thereof

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014163281 2014-08-11
JP2014163281 2014-08-11
JP2015104667A JP6565326B2 (ja) 2014-08-11 2015-05-22 撮像表示装置及びその制御方法

Publications (2)

Publication Number Publication Date
JP2016040902A true JP2016040902A (ja) 2016-03-24
JP6565326B2 JP6565326B2 (ja) 2019-08-28

Family

ID=55268391

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015104667A Active JP6565326B2 (ja) 2014-08-11 2015-05-22 撮像表示装置及びその制御方法

Country Status (2)

Country Link
US (1) US9848131B2 (ja)
JP (1) JP6565326B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10389962B2 (en) * 2017-08-14 2019-08-20 Himax Imaging Limited Image pickup apparatus and method utilizing the same line rate for upscaling and outputting image
CN112640424A (zh) * 2020-03-30 2021-04-09 深圳市大疆创新科技有限公司 图像处理方法、装置和可移动平台
WO2021195946A1 (en) * 2020-03-31 2021-10-07 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Imaging device, electrical device, method of manufacturing imaging device, and method of manufacturing electrical device

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011252993A (ja) * 2010-06-01 2011-12-15 Seiko Epson Corp 表示制御装置
JP2013196236A (ja) * 2012-03-19 2013-09-30 Sony Corp 画像処理制御装置、画像処理制御方法およびプログラム
JP2014154999A (ja) * 2013-02-07 2014-08-25 Canon Inc 信号処理装置、その制御方法、および制御プログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007005912A (ja) 2005-06-21 2007-01-11 Olympus Imaging Corp 電子撮像装置
US8558926B2 (en) * 2005-12-05 2013-10-15 Nikon Corporation Distortion correction method, distortion correction program, image processing apparatus, interchangeable lens, camera, and camera system
JP4727457B2 (ja) * 2006-03-08 2011-07-20 富士フイルム株式会社 撮影装置
JP4798221B2 (ja) * 2006-04-14 2011-10-19 株式会社ニコン 画像の歪曲補正方法、歪曲補正プログラム、及び光学装置
JP4838681B2 (ja) 2006-09-28 2011-12-14 オリンパス株式会社 像面歪曲収差補正撮像装置及び像面歪曲収差補正方法
JP4639205B2 (ja) 2007-02-19 2011-02-23 キヤノン株式会社 撮像装置及び制御方法、及びユーザーインタフェースの表示装置
JP2009169601A (ja) * 2008-01-15 2009-07-30 Ricoh Co Ltd 画像処理システム及びこの画像処理システムを有するカメラ
WO2013031238A1 (ja) * 2011-09-02 2013-03-07 株式会社ニコン 合焦評価装置、撮像装置およびプログラム
JP5643788B2 (ja) * 2012-07-20 2014-12-17 キヤノン株式会社 撮像装置およびその制御方法、並びにレンズユニット
JP5874753B2 (ja) * 2014-01-28 2016-03-02 カシオ計算機株式会社 撮像装置、撮像方法及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011252993A (ja) * 2010-06-01 2011-12-15 Seiko Epson Corp 表示制御装置
JP2013196236A (ja) * 2012-03-19 2013-09-30 Sony Corp 画像処理制御装置、画像処理制御方法およびプログラム
JP2014154999A (ja) * 2013-02-07 2014-08-25 Canon Inc 信号処理装置、その制御方法、および制御プログラム

Also Published As

Publication number Publication date
US20160044221A1 (en) 2016-02-11
US9848131B2 (en) 2017-12-19
JP6565326B2 (ja) 2019-08-28

Similar Documents

Publication Publication Date Title
US10715733B2 (en) Imaging apparatus, imaging-displaying apparatus, and control method thereof
KR100843087B1 (ko) 영상 생성 장치 및 방법
US9210344B2 (en) Display control device
US20120050309A1 (en) Display control apparatus and display control method
US9635295B2 (en) Imaging device
JP2014096749A (ja) 撮像装置及び画像処理方法
US10477139B2 (en) Imaging display apparatus
JP6565326B2 (ja) 撮像表示装置及びその制御方法
JP2009157733A (ja) 画像歪み補正方法、画像歪み補正装置及び画像形成装置
JP2010210704A (ja) 画像表示装置
US10070064B2 (en) Display control device including display control section that causes display data to be displayed in first and second regions og display, and controlling method of image capturing sensor and display
WO2016021162A1 (ja) 撮像装置、画像処理装置、及び、撮像表示装置
JPWO2012060271A1 (ja) 画像処理方法、画像処理装置及び撮像装置
JP2010119029A (ja) 撮像装置
JP6365097B2 (ja) 画像処理方法、撮像装置、画像処理装置、及び、撮像表示装置
JP2016025447A (ja) 画像処理装置、その制御方法、および制御プログラム
US9978122B2 (en) Electronic endoscope
JP6012167B2 (ja) 画像処理装置、画像処理方法およびコンピュータプログラム
JP2022181027A (ja) 画像処理装置、画像処理方法、撮像装置、およびプログラム
JP2015128256A (ja) 画像処理装置、画像処理方法、撮像装置および撮像素子
JP2016116113A (ja) 画像処理回路、画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180417

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190131

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190702

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190715

R150 Certificate of patent or registration of utility model

Ref document number: 6565326

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150