JP2015115789A - 撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法 - Google Patents

撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法 Download PDF

Info

Publication number
JP2015115789A
JP2015115789A JP2013256599A JP2013256599A JP2015115789A JP 2015115789 A JP2015115789 A JP 2015115789A JP 2013256599 A JP2013256599 A JP 2013256599A JP 2013256599 A JP2013256599 A JP 2013256599A JP 2015115789 A JP2015115789 A JP 2015115789A
Authority
JP
Japan
Prior art keywords
imaging
exposure
subframe
signal
pixel group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2013256599A
Other languages
English (en)
Inventor
光一 前山
Koichi Maeyama
光一 前山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2013256599A priority Critical patent/JP2015115789A/ja
Priority to US14/526,674 priority patent/US9538091B2/en
Publication of JP2015115789A publication Critical patent/JP2015115789A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions
    • H04N25/535Control of the integration time by using differing integration times for different sensor regions by dynamic region selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/587Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields
    • H04N25/589Control of the dynamic range involving two or more exposures acquired sequentially, e.g. using the combination of odd and even image fields with different integration times, e.g. short and long exposures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/59Control of the dynamic range by controlling the amount of charge storable in the pixel, e.g. modification of the charge conversion ratio of the floating node capacitance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Control Of El Displays (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Electroluminescent Light Sources (AREA)
  • Studio Devices (AREA)

Abstract

【課題】映像ゴーストの発生を抑え、HDR動画表示を低コストにて実現可能な撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法を提供する。【解決手段】本開示の撮像装置は、撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスと、露出条件が個別に設定された画素群から得られる撮像信号に対して、1撮像フレーム単位で読み出し、露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う撮像信号処理部と、を備える。【選択図】 図3

Description

本開示は、撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法に関する。
ハイダイナミックレンジ(High Dynamic Range:HDR)技術として、露出を変えて撮影した複数枚の画像(明るめの画像、普通の画像、暗めの画像等)を合成処理し、しかる後、通常のモニタで表現できる情報量に圧縮して表示する手法がある(例えば、特許文献1,2参照)。
一方で、HDR映像をビデオカメラ等の撮像装置で撮影しながら、カメラのビューモニタでリアルタイムに表示することが、動画撮影時は重要となる。そのような場合に、簡易な表示を実現する手法の一つとして、階調表現範囲を分割した複数枚の画像をサブフレーム単位で時系列に出力し、倍速表示することによって簡易的にHDR映像を表示する手法も提案されている(例えば、特許文献3参照)。
特開平7−131796号公報 特開平7−135599号公報 特開2010−276968号公報
しかし、特許文献1,2に記載の手法では、静止画の撮影にはある程度効果を発揮できるものの、動画等を撮影する場合には、撮影時の時間差の影響により、動きのある被写体に関して合成を行うと、映像ゴーストが発生する。撮像デバイスの内部に感度の異なる受光素子(フォトセンサ)を配置して複数の露出画像を一括して取得する手法も考えられるが、受光素子の位置が固定されているため、取得時の映像の精細度が低下してしまう。
一方、特許文献3に記載の手法にあっては、表示パネルに倍速表示以上の性能が要求されることから、表示パネルの駆動周波数やデータ転送周波数を、当該手法を採らない場合よりも上げる必要があるためシステムのコストが増加する。
そこで、本開示は、映像ゴーストの発生を抑え、HDR動画表示を低コストにて実現可能な撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法を提供することを目的とする。
上記の目的を達成するための本開示の撮像装置は、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能で、露出条件が個別に設定された画素群から得られる撮像信号を1撮像フレーム単位で読み出すな撮像デバイスと、
撮像デバイスから出力される撮像信号に対し、露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う撮像信号処理部と、
を備える。
上記の目的を達成するための本開示の撮像信号処理回路は、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、1撮像フレーム単位で読み出される撮像信号に対して、
露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う信号処理部を有する。
上記の目的を達成するための本開示の撮像信号処理方法は、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、1撮像フレーム単位で読み出される撮像信号に対して、
露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う。
上記の目的を達成するための本開示の表示装置は、
1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するサブフレーム信号生成部と、
サブフレーム信号生成部で生成された複数のサブフレームの映像信号を基に、表示パネルに対してサブフレーム単位で表示を行う駆動部と、
を備え、
サブフレーム信号生成部は、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する。
上記の目的を達成するための本開示の画像信号処理回路は、
1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するサブフレーム信号生成部を備え、
サブフレーム信号生成部は、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する。
上記の目的を達成するための本開示の画像信号処理方法は、
1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するに当たり、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する。
本開示によれば、任意の画素群に対して2種類以上の露出条件を設定し、露出条件毎に信号分離を行うことで、取得する露出画像(個別の露出条件で撮影された画像)間に時間差が発生しないため、映像ゴーストの発生を抑えることができる。また、HDR動画表示を低コストにて実現できる。
尚、ここに記載された効果に必ずしも限定されるものではなく、本明細書中に記載されたいずれかの効果であってもよい。また、本明細書に記載された効果はあくまで例示であって、これに限定されるものではなく、また付加的な効果があってもよい。
図1は、本開示の技術が適用されるアクティブマトリクス型表示装置の基本的な構成の概略を示すシステム構成図である。 図2は、画素(画素回路)の具体的な回路構成の一例を示す回路図である。 図3は、本開示の撮像装置の構成の一例を示すブロック図である。 図4Aは、撮像デバイスの市松パターン状の画素配列を示す図であり、図4Bは、撮像信号処理部におけるカメラ信号処理部の構成の一例を示すブロック図である。 図5Aは、撮像デバイスから1撮像フレーム単位で一括して読み出しされる画素情報を示す図であり、図5Bは、長時間蓄積の露出条件が適用されたサブフレーム1の画素情報を示す図であり、図5Cは、短時間蓄積の露出条件が適用されたサブフレーム2の画素情報を示す図である。 図6は、実施例1に係る画像信号処理回路の構成を示すブロック図である。 図7は、実施例1のサブフレーム信号のデータ生成例の概要について説明する図であり、図7Aに被写体反射率−入力映像階調値の特性を示し、図7Bに被写体反射率−出力映像階調値の特性を示している。 図8は、サブフレーム表示の動作を行う場合の表示パネルの駆動タイミングを示す図である。 図9Aは、サブフレーム1の2ライン同時スキャン動作の説明に供する図であり、図9Bは、サブフレーム2の2ライン同時スキャン動作の説明に供する図である。 図10は、実施例2に係る画像信号処理回路の構成を示すブロック図である。 図11は、実施例2のサブフレーム信号のデータ生成例の概要について説明する図であり、図11Aに被写体反射率−画像情報の特性を示し、図11Bに被写体反射率−出力映像階調値の特性を示している。 図12は、ライン単位で露光条件を設定し、且つ、撮像フレーム単位で露出条件を切り替える場合の読み出し例を示す図である。 図13は、画素又は画素群単位で露光条件を設定し、且つ、撮像フレーム単位で露出条件を切り替える場合の読み出し例を示す図である。 図14は、実施例3に係る撮像奇数フレームの撮像データの読み出し及び表示の動作例を示す図である。 図15は、実施例3に係る撮像偶数フレームの撮像データの読み出し及び表示の動作例を示す図である。 図16は、露出条件識別タグデータの一例を示す図である。 図17は、実施例4に係る撮像奇数フレームの撮像データの読み出し及び表示の動作例(その1)を示す図である。 図18は、実施例4に係る撮像偶数フレームの撮像データの読み出し及び表示の動作例(その2)を示す図である。 図19は、実施例4に係る撮像奇数フレームの撮像データの読み出し及び表示の動作例(その1)を示す図である。 図20は、実施例4に係る撮像偶数フレームの撮像データの読み出し及び表示の動作例(その2)を示す図である。 図21は、実施例5に係る画像信号処理回路の構成を示すブロック図である。 図22は、実施例5に係る画像信号処理回路におけるスキャンモードの切り替えタイミングを示す図である。 図23は、実施例5に係る表示パネルの駆動の実現例を示す図である。
以下、本開示の技術を実施するための形態(以下、「実施形態」と記述する)について図面を用いて詳細に説明する。本開示の技術は実施形態に限定されるものではなく、実施形態における種々の数値などは例示である。以下の説明において、同一要素又は同一機能を有する要素には同一符号を用いることとし、重複する説明は省略する。尚、説明は以下の順序で行う。
1.本開示の撮像装置、撮像信号処理回路、及び、撮像信号処理方法、全般に関する説明
2.本開示の表示装置、画像信号処理回路、及び、画像信号処理方法、全般に関する説明
3.本開示の表示装置(本開示の技術が適用される表示装置)
2−1.システム構成
2−2.画素回路
4.実施形態の説明
4−1.本開示の撮像装置(本開示の技術が適用される撮像装置)
4−2.実施例1
4−3.実施例2
4−4.実施例3
4−5.実施例4
4−6.実施例5
<本開示の撮像装置、撮像信号処理回路、及び、撮像信号処理方法、全般に関する説明>
本開示の撮像装置、撮像信号処理回路、及び、撮像信号処理方法にあっては、撮像デバイスについて、露出条件の設定を撮像フレーム単位で切り替え可能な構成とすることができる。
上述した好ましい構成を含む本開示の撮像装置、撮像信号処理回路、及び、撮像信号処理方法にあっては、撮像エリア部内の任意の画素群について、奇数ラインの画素群、及び、偶数ラインの画素群から成る構成とすることができる。このとき、撮像デバイスについて、奇数ラインの画素群に対する露出条件の設定と、偶数ラインの画素群に対する露出条件の設定とを、撮像フレーム単位で交互に切り替え可能な構成とすることができる。
あるいは又、上述した好ましい構成を含む本開示の撮像装置、撮像信号処理回路、及び、撮像信号処理方法にあっては、撮像エリア部内の任意の画素群について、異なる露出条件が設定された第1の画素群と第2の画素群とから成り、第1の画素群及び第2の画素群が市松パターン状に配置されている構成とすることができる。このとき、撮像デバイスについて、第1の画素群に対する露出条件の設定と、第2の画素群に対する露出条件の設定とを、撮像フレーム単位で交互に切り替え可能な構成とすることができる。
<本開示の表示装置、画像信号処理回路、及び、画像信号処理方法、全般に関する説明>
本開示の表示装置、画像信号処理回路、及び、画像信号処理方法にあっては、駆動部について、複数のサブフレームの映像信号に応じてサブフレーム毎に発光素子の単位時間当たりの発光輝度を制御する構成とすることができる。
上述した好ましい構成を含む本開示の表示装置、画像信号処理回路、及び、画像信号処理方法にあっては、撮像エリア部内の任意の画素群が、奇数ラインの画素群、及び、偶数ラインの画素群から成るものとする。このとき、サブフレーム信号生成部について、奇数ラインの画素群から得られる撮像信号と、偶数ラインの画素群から得られる撮像信号とに基づいて複数のサブフレームの映像信号を生成する構成とすることができる。また、駆動部について、複数のサブフレームの映像信号を基に、表示パネルに対して2ライン(2行)単位で走査を行う、所謂、2ライン同時スキャン駆動を行う構成とすることができる。
上述した好ましい構成を含む本開示の表示装置、画像信号処理回路、及び、画像信号処理方法にあっては、駆動部について、奇数ライン及び偶数ラインの読み出し情報を基に、表示画像の書き出し位置をサブフレーム単位で制御する構成とすることができる。
あるいは又、上述した好ましい構成を含む本開示の表示装置、画像信号処理回路、及び、画像信号処理方法にあっては、サブフレーム信号生成部について、露出条件に応じてサブフレーム毎に発光素子のデューティを制御する構成とすることができる。このとき、サブフレーム信号生成部は、発光素子のデューティ制御を、各露出条件の画像間における露出時間の比率の逆数倍した値を用いて行うようにするのが好ましい。
また、上述した好ましい構成を含む本開示の表示装置、画像信号処理回路、及び、画像信号処理方法にあっては、サブフレーム信号生成部について、低輝度階調情報成分と高輝度階調情報成分とに分離したサブフレームの映像信号を生成する構成とすることができる。
あるいは又、上述した好ましい構成を含む本開示の表示装置、画像信号処理回路、及び、画像信号処理方法にあっては、サブフレーム信号生成部について、露出条件に加えて、撮像デバイスで取得可能な最大階調値を用いてサブフレームの映像信号を生成する構成とすることができる。その際、サブフレーム信号生成部は、1サブフレーム内に低輝度階調情報成分と高輝度階調情報成分とを混在させるようにするのが好ましい。
また、上述した好ましい構成を含む本開示の表示装置、画像信号処理回路、及び、画像信号処理方法にあっては、サブフレーム信号生成部について、撮像デバイスから、奇数ラインの画素群に対する露出条件の設定と、偶数ラインの画素群に対する露出条件の設定とが、撮像フレーム単位で交互に切り替えられて出力される撮像信号に基づいて、サブフレームの映像信号を生成する構成とすることができる。
<本開示の表示装置>
本開示の撮像装置、撮像信号処理回路(撮像信号処理方法)、及び、画像信号処理回路(画像信号処理方法)について説明する前に、本開示の技術が適用される表示部(表示装置)について説明する。以下に説明する表示部(表示パネル/表示装置)と、後述する本開示の画像信号処理回路とによって、本開示の表示装置が構成されることになる。
[システム構成]
図1は、本開示の技術が適用される表示装置、例えば、アクティブマトリクス型表示装置の基本的な構成の概略を示すシステム構成図である。
アクティブマトリクス型表示装置は、電気光学素子(発光素子)に流れる電流を、当該電気光学素子と同じ画素内に設けた能動素子、例えば絶縁ゲート型電界効果トランジスタによって制御する表示装置である。絶縁ゲート型電界効果トランジスタとしては、典型的には、TFT(Thin Film Transistor;薄膜トランジスタ)を用いることができる。
ここでは、一例として、画素(画素回路)の発光素子として有機EL素子を用いるアクティブマトリクス型有機EL表示装置の場合を例に挙げて説明するものとする。有機EL素子は、デバイスに流れる電流値に応じて発光輝度が変化する電流駆動型の電気光学素子の一例である。以下では、「画素回路」を単に「画素」と記述する場合もある。
図1に示すように、本開示の技術が適用される有機EL表示装置1は、有機EL素子を含む複数の画素20が行列状(マトリクス状)に2次元配置されて成る画素アレイ部30と、当該画素アレイ部30の周辺に配置される駆動回路部(駆動部)とを有する構成となっている。駆動回路部は、例えば、画素アレイ部30と同じ表示パネル10上に搭載された書込み走査部41、駆動走査部42、及び、信号出力部43等から成り、画素アレイ部30の各画素20を駆動する。尚、書込み走査部41、駆動走査部42、及び、信号出力部43のいくつか、あるいは全部を表示パネル10外に設ける構成を採ることも可能である。
ここで、有機EL表示装置1がカラー表示対応の場合は、カラー画像を形成する単位となる1つの画素(単位画素/ピクセル)は複数の副画素(サブピクセル)から構成される。このとき、副画素の各々が図1の画素20に相当することになる。より具体的には、カラー表示対応の表示装置では、1つの画素は、例えば、赤色(Red;R)光を発光する副画素、緑色(Green;G)光を発光する副画素、青色(Blue;B)光を発光する副画素の3つの副画素から構成される。
但し、1つの画素としては、RGBの3原色の副画素の組み合わせに限られるものではなく、3原色の副画素に更に1色あるいは複数色の副画素を加えて1つの画素を構成することも可能である。より具体的には、例えば、輝度向上のために白色(White;W)光を発光する副画素を加えて1つの画素を構成したり、色再現範囲を拡大するために補色光を発光する少なくとも1つの副画素を加えて1つの画素を構成したりすることも可能である。
画素アレイ部30には、m行n列の画素20の配列に対して、行方向(画素行の画素の配列方向/水平方向)に沿って走査線31(311〜31m)と電源供給線32(321〜32m)とが画素行毎に配線されている。更に、m行n列の画素20の配列に対して、列方向(画素列の画素の配列方向/垂直方向)に沿って信号線33(331〜33n)が画素列毎に配線されている。
走査線311〜31mは、書込み走査部41の対応する行の出力端にそれぞれ接続されている。電源供給線321〜32mは、駆動走査部42の対応する行の出力端にそれぞれ接続されている。信号線331〜33nは、信号出力部43の対応する列の出力端にそれぞれ接続されている。
書込み走査部41は、シフトレジスタ回路等によって構成されている。この書込み走査部41は、画素アレイ部30の各画素20への映像信号の信号電圧の書込みに際して、走査線31(311〜31m)に対して書込み走査信号WS(WS1〜WSm)を順次供給することによって画素アレイ部30の各画素20を行単位で順番に走査する、所謂、線順次走査を行う。
駆動走査部42は、書込み走査部41と同様に、シフトレジスタ回路等によって構成されている。この駆動走査部42は、書込み走査部41による線順次走査に同期して、第1電源電位Vcc_Hと当該第1電源電位Vcc_Hよりも低い第2電源電位Vcc_Lとで切り替わることが可能な電源電位DS(DS1〜DSm)を電源供給線32(321〜32m)に供給する。後述するように、駆動走査部42による電源電位DSのVcc_H/Vcc_Lの切替えによって、画素20の発光/非発光(消光)の制御が行なわれる。
信号出力部43は、信号供給源(図示せず)から供給される輝度情報に応じた映像信号の信号電圧(以下、単に「信号電圧」と記述する場合もある)Vsigと基準電圧Vofsとを選択的に出力する。ここで、基準電圧Vofsは、映像信号の信号電圧Vsigの基準となる電圧(例えば、映像信号の黒レベルに相当する電圧)であり、後述する閾値補正処理の際に用いられる。
信号出力部43から出力される信号電圧Vsig/基準電圧Vofsは、信号線33(331〜33n)を介して画素アレイ部30の各画素20に対して、書込み走査部41による走査によって選択された画素行の単位で書き込まれる。すなわち、信号出力部43は、信号電圧Vsigを行(ライン)単位で書き込む線順次書込みの駆動形態を採っている。
[画素回路]
図2は、画素(画素回路)20の具体的な回路構成の一例を示す回路図である。画素20の発光部は、デバイスに流れる電流値に応じて発光輝度が変化する電流駆動型の電気光学素子である有機EL素子21から成る。
図2に示すように、画素20は、有機EL素子21と、有機EL素子21に電流を流すことによって当該有機EL素子21を駆動する駆動回路とによって構成されている。有機EL素子21は、全ての画素20に対して共通に配線された共通電源線34にカソード電極が接続されている。
有機EL素子21を駆動する駆動回路は、駆動トランジスタ22、サンプリングトランジスタ23、保持容量24、及び、補助容量25を有する構成となっている。駆動トランジスタ22及びサンプリングトランジスタ23として、例えば、Nチャネル型のTFTを用いることができる。
但し、ここで示した、駆動トランジスタ22及びサンプリングトランジスタ23の導電型の組み合わせは一例に過ぎず、これらの組み合わせに限られるものではない。すなわち、駆動トランジスタ22及びサンプリングトランジスタ23の一方又は両方として、Pチャネル型のTFTを用いることができる。
駆動トランジスタ22は、一方の電極(ソース/ドレイン電極)が有機EL素子21のアノード電極に接続され、他方の電極(ソース/ドレイン電極)が電源供給線32(321〜32m)に接続されている。
サンプリングトランジスタ23は、一方の電極(ソース/ドレイン電極)が信号線33(331〜33n)に接続され、他方の電極(ソース/ドレイン電極)が駆動トランジスタ22のゲート電極に接続されている。また、サンプリングトランジスタ23のゲート電極は、走査線31(311〜31m)に接続されている。
駆動トランジスタ22及びサンプリングトランジスタ23において、一方の電極とは、一方のソース/ドレイン領域に電気的に接続された金属配線を言い、他方の電極とは、他方のソース/ドレイン領域に電気的に接続された金属配線を言う。また、一方の電極と他方の電極との電位関係によって一方の電極がソース電極ともなればドレイン電極ともなり、他方の電極がドレイン電極ともなればソース電極ともなる。
保持容量24は、一方の電極が駆動トランジスタ22のゲート電極に接続され、他方の電極が駆動トランジスタ22の他方の電極、及び、有機EL素子21のアノード電極に接続されている。
補助容量25は、一方の電極が有機EL素子21のアノード電極に接続され、他方の電極が固定電位のノード(本例では、共通電源線34/有機EL素子21のカソード電極)に接続されている。補助容量25は、例えば、有機EL素子21の容量不足分を補い、保持容量24に対する映像信号の書込みゲインを高めるために設けられている。但し、補助容量25は、必須の構成要素ではない。すなわち、有機EL素子21の容量不足分を補う必要がない場合には、補助容量25は不要となる。
上記構成の画素20において、サンプリングトランジスタ23は、書込み走査部41から走査線31を通してゲート電極に印加される、高電圧の状態がアクティブ状態となる書込み走査信号WSに応答して導通状態となる。これにより、サンプリングトランジスタ23は、信号線33を通して信号出力部43から異なるタイミングで供給される、輝度情報に応じた映像信号の信号電圧Vsigまたは基準電圧Vofsをサンプリングして画素20内に書き込む。サンプリングトランジスタ23によって書き込まれた信号電圧Vsigまたは基準電圧Vofsは、駆動トランジスタ22のゲート電極に印加されるとともに保持容量24に保持される。
駆動トランジスタ22は、電源供給線32(321〜32m)の電源電位DSが第1電源電位Vcc_Hにあるときには、一方の電極がドレイン電極、他方の電極がソース電極となって飽和領域で動作する。これにより、駆動トランジスタ22は、電源供給線32から電流の供給を受けて有機EL素子21を電流駆動にて発光駆動する。より具体的には、駆動トランジスタ22は、飽和領域で動作することにより、保持容量24に保持された信号電圧Vsigの電圧値に応じた電流値の駆動電流を有機EL素子21に供給し、当該有機EL素子21を電流駆動することによって発光させる。
駆動トランジスタ22は更に、電源電位DSが第1電源電位Vcc_Hから第2電源電位Vcc_Lに切り替わったときには、一方の電極がソース電極、他方の電極がドレイン電極となってスイッチングトランジスタとして動作する。これにより、駆動トランジスタ22は、有機EL素子21への駆動電流の供給を停止し、有機EL素子21を非発光状態にする。すなわち、駆動トランジスタ22は、電源電位DS(Vcc_H/Vcc_L)の切替えの下に、有機EL素子21の発光/非発光を制御するトランジスタとしての機能をも併せ持っている。
この駆動トランジスタ22のスイッチング動作により、有機EL素子21が非発光状態となる期間(非発光期間)を設け、有機EL素子21の発光期間と非発光期間の割合(デューティ)を制御することができる。このデューティ制御により、1表示フレーム期間に亘って画素が発光することに伴う残像ボケを低減できるために、特に、動画の画品位をより優れたものとすることができる。
駆動走査部42から電源供給線32を通して選択的に供給される第1,第2電源電位Vcc_H,Vcc_Lのうち、第1電源電位Vcc_Hは有機EL素子21を発光駆動する駆動電流を駆動トランジスタ22に供給するための電源電位である。また、第2電源電位Vcc_Lは、有機EL素子21に対して逆バイアスを掛けるための電源電位である。この第2電源電位Vcc_Lは、基準電圧Vofsよりも低い電位、例えば、駆動トランジスタ22の閾値電圧をVthとするとき、Vofs−Vthよりも低い電位、好ましくは、Vofs−Vthよりも十分に低い電位に設定される。
上述した有機EL表示装置1において、画素アレイ部30の各画素20は、駆動トランジスタ22の特性のばらつきに起因する駆動電流のばらつきを補正する機能を有している。ここで、駆動トランジスタ22の特性としては、例えば、駆動トランジスタ22の閾値電圧Vthや、駆動トランジスタ22のチャネルを構成する半導体薄膜の移動度u(以下、単に「駆動トランジスタ22の移動度u」と記述する)を例示することができる。
駆動トランジスタ22の閾値電圧Vthのばらつきに起因する駆動電流のばらつきの補正(以下、「閾値補正」と記述する)は、駆動トランジスタ22のゲート電圧Vgを基準電圧Vofsに初期化することによって行なわれる。具体的には、駆動トランジスタ22のゲート電圧Vgの初期化電圧(基準電圧Vofs)を基準として当該初期化電圧から駆動トランジスタ22の閾値電圧Vthを減じた電位に向けて、駆動トランジスタ22のソース電圧Vsを変化させる処理が閾値補正処理である。
一方、駆動トランジスタ22の移動度uのばらつきに起因する駆動電流のばらつきの補正(以下、「移動度補正」と記述する)は、サンプリングトランジスタ23が導通状態となり、映像信号の信号電圧Vsigを書き込んでいる状態で、駆動トランジスタ22を介した電流を保持容量24に流すことによって行なわれる。換言すれば、駆動トランジスタ22に流れる電流Idsに応じた帰還量(補正量)で保持容量24に負帰還をかける処理が移動度補正処理である。上記の閾値補正処理により、映像信号の信号電圧Vsigを書き込んだときには既にドレイン−ソース間電流Idsの閾値電圧Vthに対する依存性が打ち消されており、当該ドレイン−ソース間電流Idsは、駆動トランジスタ22の移動度uに依存したものとなっている。
従って、駆動トランジスタ22に流れるドレイン−ソース間電流Idsに応じた帰還量で駆動トランジスタ22のドレイン−ソース間電圧Vdsに負帰還をかける移動度補正処理を実行することで、駆動トランジスタ22に流れるドレイン−ソース間電流Idsの移動度uに対する依存性を抑えることができる。すなわち、閾値補正や移動度補正等の補正処理を実行することにより、駆動トランジスタ22のトランジスタ特性(閾値電圧Vthや移動度u)の経時変化等の影響を抑えつつ、有機EL素子21の発光輝度を一定に維持することができる。その結果、良好な画質の表示画像を得ることができる。
以上に説明した、本開示の技術が適用される有機EL表示装置(本開示の表示装置)1は、以下に説明する本開示の画像信号処理装置を有する(あるいは、本開示の画像信号処理方法を用いる)。そして、本開示の画像信号処理装置(画像信号処理方法)で処理された映像信号が、先述した表示パネル10上の信号出力部43に供給され、画素アレイ部30の各画素20の駆動に用いられる。以下に、本開示の画像信号処理装置(画像信号処理方法)の実施形態について説明する。
<実施形態の説明>
本実施形態にあっては、撮像部で異なる露出条件(露光条件)の複数の画像情報群を一括して取得したハイダイナミックレンジ(HDR)の信号を基に、表示部に対してサブフレーム単位で表示する、所謂、サブフレーム表示を行うための駆動が行われる。一般的には、露出条件を変更することにより、撮影可能な被写体反射率の範囲が制御可能となるために、撮像デバイスのハイダイナミックレンジ(HDR)を有効に活用することができるようになる。
通常、ハイダイナミックレンジ(HDR)と定義されるデジタルカメラでは、上記のような画像情報群を取得した後に、内蔵するプロセッサによる制御の下に、ダイナミックレンジを拡張(ハイダイナミックレンジ化)するための画像情報の合成処理が行われる。そして、所定の階調再現範囲に圧縮処理された1枚のHDR画像情報への変換処理が行われる。これに対して、本実施形態で使用する画像情報は、HDR信号合成前の画像情報群である。
本実施形態にあっては、撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られる撮像信号を1撮像フレーム単位で読み出す。そして、撮像デバイスから1撮像フレーム単位で読み出された撮像信号に対して、露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う。
一方、表示部側では、撮像部側で露出条件毎に信号分離され、露出条件との対応付けされて出力される撮像信号を、処理対象の画像信号として1表示フレーム単位で入力する。そして、対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する。その際に、好ましくは、複数の画像情報に応じてサブフレーム毎に発光素子の単位時間当たりの発光輝度を制御するようにする。
本実施形態にあっては、画像情報の合成処理を行わず、複数の画像をサブフレーム単位でそのまま表示するサブフレーム表示を行う手法を採っている。そして、サブフレーム表示では、入力される複数の画像情報を光学的に加算することになるため、撮影時の階調情報を無駄なく再現できる。しかも、露出条件に応じてサブフレーム毎に発光素子の発光条件、即ち、発光時間を制御することで、表示条件に被写体の露出条件が反映されるため、サブフレーム表現時の画面表示輝度が撮影画像の被写体反射率を正しく表現できる。
[本開示の撮像装置]
図3に、本開示の撮像装置(撮像部)の構成の一例を示す。撮像部(撮像装置)2は、撮像デバイス50及び撮像信号処理部60から成る構成となっている。撮像デバイス50は、例えば、CCD型撮像素子やCMOS型の撮像素子等の固体撮像素子から成り、図4Aに示すように、受光素子(例えば、フォトセンサ)を含む画素(副画素)51が行列状に2次元配置されて成る撮像エリア部(画素アレイ部)52を有する。
撮像デバイス50にあっても、有機EL表示装置1と同様に、カラー対応の場合、カラー画像を形成する単位となる1つの画素51は複数の副画素(サブピクセル)から構成される。具体的には、1つの画素51は、例えば、上下左右に隣接して配置されるR(赤)G(緑)B(青)を含む4つの副画素から構成される。本例にあっては、Gの2つの副画素が対角線上に配置され、Rの副画素とBの副画素が対角線上に配置されて成る市松パターン状の画素配列となっている。
市松パターン状の画素配列では、副画素の配列の隣接する2つの行が、カラー画像を形成する単位となる1つの画素51の配列の1つの行(以下、「ライン」と記述する場合もある)となる。この市松パターン状の画素配列の撮像デバイス50に対して、本実施形態にあっては、奇数ラインと偶数ラインとに個別の露出条件を設定可能な構成を採っている。個別の露出条件の設定は、撮像エリア部52の画素(副画素)51内の受光素子に対する露光時間などを制御することによって実現できる。感度に影響する画素51の受光面積については全ての画素51に共通となっている。
本実施形態にあっては、図4Aに示す画素配列において、図の上から1ライン、2ライン、3ライン、・・・とした場合、例えば、光電変換した信号電荷を相対的に長い時間蓄積する長時間蓄積(長時間露光)の露出条件を奇数ラインに適用するものとする。また、光電変換した信号電荷を相対的に短い時間蓄積する短時間蓄積(短時間露光)の露出条件を偶数ラインに適用するものとする。そして、同一のタイミングにて、露出条件の異なる画素情報を1撮像フレーム単位で一括して読み出すようにする。
撮像デバイス50から出力されるアナログの撮像信号は、撮像信号処理部60に供給される。図3に示すように、撮像信号処理部60は、ADC(アナログ/デジタル変換)処理部61、露出映像分離処理部62、カメラ信号処理部63、映像データ出力処理部64、及び、センサ露出制御部65から成る構成となっている。
この撮像信号処理部60において、入力されたアナログの撮像信号は、ADC処理部61でデジタルデータに変換された後、露出映像分離処理部62に供給される。露出映像分離処理部62は、入力データを露出条件毎の画素情報単位に分離する。本実施形態にあっては、長時間蓄積の露出条件が適用された奇数ラインの画素情報(サブフレーム1)と、短時間蓄積の露出条件が適用された偶数ラインの画素情報(サブフレーム2)とに分離する。カメラ信号処理部63での処理の詳細については後述する。映像データ出力処理部64は、露出映像分離処理部62で分離された露出条件毎の画素情報に対して、露出設定画素情報及び露出条件等の情報を付加し、各露出条件画像と共に出力映像データとして出力する。
ここで、露出設定画素情報とは、例えば、画素領域と露出条件とを対応付けした情報である。この露出設定画素情報は、本実施形態にあっては、奇数ラインに長時間蓄積の露出条件を設定し、偶数ラインに短時間蓄積の露出条件を設定していることを、以降の信号処理に反映させるための情報となる。すなわち、奇数ライン及び偶数ラインが画素領域となる。画素領域毎の露出条件の制御や、露出設定画素情報の管理は、センサ露出制御部65にて実行される。
図4Bに、撮像信号処理部60におけるカメラ信号処理部63の構成の一例を示す。本例に係るカメラ信号処理部63は、画素補正処理部631、デモザイク処理部632、ホワイトバランス(WB)補正処理部633、色変換処理部634、及び、階調補正処理部635から成る構成となっている。
上記構成のカメラ信号処理部63において、画素補正処理部631は、露出映像分離処理部62で分離された露出条件毎の画素情報に対して、撮像デバイス50の画素欠陥や感度ばらつきの補正処理を行う。デモザイク処理部632は、市松パターン等の画素配列パターンを基にRGB値を算出するデモザイク処理を行う。WB補正処理部633は、白に対するRGB値のバランスをとるホワイトバランス調整の処理を行う。このホワイトバランス調整後の信号に対して、色変換処理部634で色変換の処理が行われ、階調補正の処理部635で階調補正処理が行われる。
図5Aは、撮像デバイス50から1撮像フレーム単位で一括して読み出される画素情報を示す図である。図5Bに、長時間蓄積の露出条件が適用されたサブフレーム1の画素情報を示し、図5Cに、短時間蓄積の露出条件が適用されたサブフレーム2の画素情報を示す。撮像デバイス50の垂直解像度を2mライン(mは自然数)とすると、露出条件毎の画素情報は、mラインの垂直解像度のデータとなる。また、1撮像フレームの画素情報の垂直データ数をHとすると、サブフレーム1,2の各画素情報の垂直データ数はH/2となる。
上述したように、撮像部(撮像装置)2からは、個別の露出条件と画像情報とをパッキングした映像データ、即ち、異なる露出条件の複数の画像を一括して取得したハイダイナミックレンジ(HDR)の映像データが出力される。この映像データは、本開示の画像信号処理回路に供給され、サブフレーム表示を行うための信号処理が行われる。以下に、本開示の画像信号処理回路の具体的な実施例について説明する。
[実施例1]
図6は、実施例1に係る画像信号処理回路の構成を示すブロック図である。図6に示すように、実施例1に係る画像信号処理回路80は、露出画像分離部81、サブフレーム信号生成部82、サブフレーム補正部83、基準発光時間選択部84、及び、ガンマ回路部85を有する構成となっている。この画像信号処理回路80は、1フレーム映像情報及びユーザ輝度制御情報を入力とする。
1フレーム映像情報は、先述したように、個別の露出条件と画像情報とがパッキングされた映像情報、即ち、異なる露出条件の複数の画像を一括して取得したハイダイナミックレンジ(HDR)の映像情報である。ユーザ輝度制御情報は、ユーザが画面表示輝度を任意に設定するための制御情報であり、基準発光時間選択部84に入力される。基準発光時間選択部84は、ユーザ輝度制御情報を受けて、発光素子の基準となる発光時間として、初期発光時間IDR(Initial Duty Ratio)を選択し、設定する。
上記構成の画像信号処理回路80において、露出画像分離部81は、個別の露出条件と画像情報とがパッキングされた映像情報が入力されると、当該映像情報を個別の露出条件で撮影された画像(以下、「露出画像」と記述する)に分離する。より具体的には、露出画像分離部81は、個別の露出条件と画像情報とがパッキングされた映像情報を、例えば、2つの露出条件で撮影された2つの露出画像、即ち、奇数ラインの画素情報EV1と偶数ラインの画素情報EV2とに分離する。
露出画像分離部81は更に、露出比率EVRの算出を行う。ここで、露出比率EVRとは、露出画像間における露出時間(シャッタースピード)の比率である。奇数ラインの露出時間をTEV1とし、偶数ラインの露出時間をTEV2とし、奇数ラインの画素情報EV1の露出比率EVR1を基準とした場合、各ラインの露出比率EVR1,EVR2は、次式を基に算出することができる。
EVR1=1
EVR2=TEV2/TEV1
露出時間は、画像データ内のタグ等に記録される露出条件(露出情報/露出関連情報)の一例である。露出条件としては、露出時間に限られるものではなく、例えば、センサ個別のゲイン情報を用いることもできる。ここで言う「センサ」とは、撮像デバイスの受光素子(フォトセンサ)を意味し、「ゲイン」とは、受光素子の出力を増幅するアンプ部のゲインを意味している。この画像データ内のタグ等に記録される露出関連情報については直接用いることもできるし、タグ情報を基に何らかの変換テーブル等で翻訳処理した結果を用いることもできる。
露出画像分離部81で分離された露出画像EV(EV1,EV2)、及び、露出画像分離部81で算出された露出比率EVR(EVR1,EVR2)はサブフレーム信号生成部82に供給される。サブフレーム信号生成部82は、露出画像EV及び露出比率EVRに基づいて、最適なダイナミックレンジを実現するためのサブフレームの映像信号(以下、「サブフレーム信号」と記述する場合もある)を生成する。
ここで、サブフレーム信号生成部82において、2種類の露出画像EV1,EV2と、画像情報EV1を基準として算出された露出比率EVR1,EVR2とを入力とするときのサブフレーム信号のデータ生成例の概要について、図7に基づいて説明する。ここで説明するデータ生成例は、露出比率EVRが2倍(×2)の場合である。図7Aに被写体反射率−入力映像階調値の特性を示し、図7Bに被写体反射率−出力映像階調値の特性を示している。
露出画像EV1は、被写体反射率100[%]以上は飽和し、100[%]未満で被写体輝度を忠実に再現できる信号値を持つ、所謂、相対的に明るい画像である。従って、被写体反射率100[%]未満の情報を表示するサブフレーム1には、露出画像EV1をそのまま割り当てる処理が行われる。露出画像EV2は、被写体反射率200[%]まで飽和することなく再現できる信号値を持つ、所謂、相対的に暗い画像である。従って、サブフレーム2にて被写体反射率100[%]以上、200[%]未満の情報を表示するために、露出画像EV2を選択して割り当てるように制御が行われる。
但し、露出画像EV2には、被写体反射率100[%]未満の情報も含まれるため、そのまま表示データとして使用した場合、被写体反射率100[%]未満の情報を余計に追加してしまうことになる。従って、サブフレーム信号のデータ(以下、「サブフレームデータ」と記述する場合もある)として割り当てるために、被写体反射率100[%]の情報を差し引いて、100[%]以上の情報のみを抽出する処理を行う。具体的には、サブフレームデータについては、下記の定義式の演算によって求めることができる。
サブフレームデータ1=EV1
サブフレームデータ2=EV2−EVR2×EV1
ここで、サブフレームデータの算出の際に、露出比率EVRを大きい順番で処理することにより、データを算出するための待ち時間(演算遅延時間)を低減できるメリットがある。露出比率EVRとサブフレームデータの関係は下記のようになる。
露出比率EVRが大きい−高輝度成分が飽和しているデータ(LDR)
露出比率EVRが大きい−高輝度成分が飽和していないデータ(LDR+HDR)
LDRはローダイナミックレンジであり、HDRはハイダイナミックレンジである。
上記のことから明らかなように、露出画像EV2(LDR+HDR)が先に入力される場合、サブフレームデータ2を算出するためには、露出画像EV1(LDR)の入力が必要となる。従って、時系列でデータが入力される場合、2つのデータが揃うまで演算を待つ必要があるため、演算遅延時間が発生する。これに対して、露出画像EV1より入力を行うと、露出画像EV1自体のデータをサブフレームデータとして使用可能となり、上記の演算待ちが必要なくなるため、演算遅延時間を低減することが可能になる。
サブフレーム信号生成部82は、例えば図6に示すように、階調再現差分データ演算部821、サブフレームバッファ部822、露出条件検出部823、及び、乗算器824を有する構成となっている。階調再現差分データ演算部821及びサブフレームバッファ部822には、露出画像分離部81で分離された露出画像EVが入力される。露出条件検出部823は、露出画像分離部81で算出された露出比率EVRを入力とし、当該露出比率EVRで決まるゲインを出力する。
ここで、i番目(本例では、i=2)のサブフレームの露出画像EVをEV_iとすると、サブフレームバッファ部822からは、1サブフレーム前のサブフレームの露出画像EV_i-1が出力される。そして、露出画像EV_i-1に対して、露出条件検出部823から出力される、i番目のサブフレームの露出画像EV_iについてのゲインEVR_iが乗算器824で乗算される。乗算器824の乗算結果(=EV_i-1×EVR_i)は、階調再現差分データ演算部821に供給される。
階調再現差分データ演算部821では、被写体反射率100[%]の情報を差し引いて100[%]以上の情報のみを抽出する処理、即ち、サブフレーム階調再現差分データを算出する処理が行われる。具体的には、階調再現差分データ演算部821は、露出画像EV_iから乗算器824の乗算結果(=EV_i-1×EVR_i)を減算する処理を行う。この減算処理により、階調再現差分データ演算部821からは、サブフレームi(iはサブフレームの番号)のデータ(以下、「サブフレームデータi」と記述する)として、EV_i−EV_i-1×EVR_iが出力される。
このように、上記の定義式の演算によってサブフレームデータiを求める処理に関しては、減算機能を持つ階調再現差分データ演算部821や、1サブフレームに相当する時間の遅延機能を持つサブフレームバッファ部822を用いることで、時系列で処理することが可能である。最初のサブフレームデータ1の生成処理時にサブフレームバッファ部822が必ず0にリセットされる前提の場合には、上記の定義式を下記のように表現することが可能である。
サブフレームデータ1=EV1−EVR1×ALL0
サブフレームデータ2=EV2−EVR2×EV1
画像信号処理回路80では、サブフレーム信号生成部82にてサブフレームデータiが生成されるのと並行して、サブフレーム発光時間の補正値(補正ゲイン)を算出する処理がサブフレーム補正部83で行われる。
図7からわかるように、入力の被写体反射率とパネル表示輝度が線形の関係を維持するためには、被写体反射率100[%]未満の表示を担うサブフレーム1の輝度と被写体反射率100[%]以上、200[%]未満の表示を担うサブフレーム2の輝度はほぼ同じ値になる必要がある。生成されたサブフレーム信号の値にて発光時間を同一にした場合、サブフレーム2の輝度≒1/2サブフレーム1の輝度の関係になって、サブフレーム表示動作時に入力の被写体反射率とパネル表示輝度の線形性が満たせないことがわかる。
そこで、本実施例では、サブフレーム表示動作の輝度再現の線形性を維持するために、サブフレーム補正部83において、露出比率EVRの値に基づいてサブフレーム毎に発光時間SDR(Subframe Duty Ratio)の補正を行う。サブフレーム補正部83は、補正ゲイン算出部831及び乗算器832,833から成る構成となっている。
このサブフレーム補正部83において、補正ゲイン算出部831は、露出比率EVRを入力とし、当該露出比率EVRに基づいて補正ゲイン(補正係数)Cgainをサブフレーム毎に算出する。具体的には、補正ゲイン算出部831は、補正ゲインCgainを露出比率EVRの逆数にて算出し(Cgain=1/EVR)、その値をサブフレーム発光時間SDRの補正ゲインDgainに割り振る処理を行う。
先述したデータ生成例の場合において、サブフレーム1では、Cgain=1のために補正は実施されない。サブフレーム2では、Cgain=1/EVR2となるためにサブフレーム発光時間SDRをCgain倍する補正処理が実施される。
ここで、サブフレーム1の輝度をL1、サブフレーム2の輝度をL2、サブフレーム1のデューティをDuty1、サブフレーム2のデューティをDuty2とすると、
L1∝サブフレームデータ1×Duty1
L2∝サブフレームデータ2×Duty1×Cgain
∝1/2サブフレームデータ1×Duty1×Cgain=L1
となる。但し、サブフレーム発光時間SDRの補正に関して、制御可能な発光時間の範囲が有限であるため、基準発光時間選択部84で設定される初期発光時間IDRの値によっては補正限界が発生する。
以上のようにして、サブフレーム補正部83では、補正ゲイン算出部831において算出された補正ゲインVgain,Dgainを加味したサブフレームデータi及びサブフレーム発光時間SDRに基づいて表示パネルの発光制御が行われる。具体的には、サブフレームデータiに対して乗算器832で補正ゲインVgainが乗算されることによって補正が行われる。そして、補正後のサブフレームデータiがガンマ回路部85を介してパネル駆動回路部90に供給される。パネル駆動回路部90は、サブフレームデータiに応じた発光輝度(単位時間当たりの発光輝度)で表示パネルの各画素の発光素子を発光駆動する駆動部である。
また、基準発光時間選択部84で設定された初期発光時間IDRに対して乗算器87で補正ゲインDgainが乗算されることにより、サブフレーム表示動作の輝度再現の線形性を維持するための補正が行われる。そして、補正後のサブフレーム発光時間SDRがパネル駆動回路部90に供給される。パネル駆動回路部90は、サブフレーム発光時間SDRを基にサブフレーム毎の発光時間(サブフレーム発光時間)を決めて、発光素子の発光時間と非発光時間の割合、即ち、デューティを制御する。すなわち、露出条件に応じて発光素子のデューティを制御する。サブフレーム毎に先述した有機EL表示装置10にあっては、電源電位DSのVcc_H/Vcc_Lの切替えタイミングによって、有機EL素子21のデューティを制御することができる。
ここで、表示パネルの発光特性は、一般的に、入力信号に対して発光輝度(表示輝度)が非線形特性を示すことが知られている。そのため、入力信号に対する発光輝度の特性(即ち、表示パネルの発光特性)が線形になるように補正する処理が必要がある。この補正処理は、ガンマ回路部85において実行される。
ガンマ回路部85は、入力信号に対する発光輝度の特性を線形に補正するためのガンマ補正テーブルを備えている。そして、ガンマ回路部85において、ガンマ補正テーブルに基づいてガンマ補正を行うことにより、サブフレーム表示を行っても、入力信号に対する発光輝度の線形性が維持されることになる。
サブフレーム表示の動作での輝度は下記の式で定義され、各サブフレームの輝度Li(iはサブフレームの番号)の総和がフレーム輝度Lとなる。ここで、i=2のとき、サブフレーム1の発光時間をDR1、サブフレーム2の発光時間をDR2、サブフレーム1の信号レベルをVsig1、サブフレーム2の信号レベルをVsig2とすると、
L=L1+L2
=DR1×Vsig1+DR2×Vsig2
と定義される。
以上説明したように、実施例1に係る画像信号処理回路(画像信号処理方法)にあっては、画像情報の合成処理を行わず、階調表現範囲を分割した複数枚の画像をサブフレーム単位でそのまま表示するサブフレーム表示を行う手法を採っている。そして、サブフレーム表示では、入力される複数の画像情報を光学的に加算することになるため、撮影時の階調情報を無駄なく再現できる。
また、高価な多ビットの駆動ドライバ等を使用しなくても、低階調の表現力を維持しながら、被写体反射率が200[%]まで線形に表現が可能となる。従って、低ビットの駆動ドライバを使用できるため、システムコストの低減が可能になる。また、表示条件に被写体の露出条件が反映され、被写体反射率と表示輝度との関係を線形にできるため、サブフレーム表現時の画面表示輝度が撮影画像の被写体反射率を正しく表現でき、見た目に近い再現が可能になる。
また、実施例1に係る画像信号処理回路(画像信号処理方法)にあっては、任意の画素群に対して2種類以上の露出条件を設定し、露出条件毎に信号分離を行っているため、取得する露出画像間に時間差が発生しない。従って、取得する画像間の時間差に起因する映像ゴーストの発生を抑えることができる。また、HDR動画表示を低コストにて実現できる。
サブフレーム表示の動作を行う場合の表示パネルの駆動タイミングに関しては、図8に示すタイミング例のように動作させることが望ましい。本実施例では、撮像部2より出力される画像情報の垂直解像度が1/2となるため、そのままのタイミングで画像表示を行うと、垂直方向のみサイズが圧縮された画像になる。この問題を回避するには、垂直方向における画像補間処理等を行い、フルサイズのデータにてサブフレーム動作を実施する駆動法を採るようにすればよい。
しかし、当該駆動法を採ると、表示パネルの駆動周波数等が高くなることによって、消費電力のアップや、有機EL素子などの発光デバイスで必要となる補正時間(例えば、先述した閾値補正の補正時間)の確保が難しくなる。これらの問題を回避するために、本実施例にあっては、表示パネルに対する書き込み&スキャンを2ライン同時に行うことによって表示映像を行う駆動法を採る。
図9Aにサブフレーム1の2ライン同時スキャン動作を示す。サブフレーム1にあっては、長時間蓄積(長時間露光)の露出条件が適用された奇数ラインの画素情報についての2ライン同時スキャン動作となる。図9Bにサブフレーム2の2ライン同時スキャン動作を示す。サブフレーム2にあっては、短時間蓄積(短時間露光)の露出条件が適用された偶数ラインの画素情報についての2ライン同時スキャン動作となる。このような2ライン同時スキャン動作の駆動法を採ることで、垂直方向の解像度感に関しては、画像補間等を用いてフルサイズの画像を生成した場合よりも若干劣るものの、動画表示には十分耐え得る画質を実現することが可能となる。
[実施例2]
実施例2は、実施例1の変形例である。実施例1の場合、原理的に、画素情報EV1と画素情報EV2とは、垂直方向に1ライン分だけ画像がずれたデータとなる。そのため、隣接するライン間において、相関性の高い画像に関しては問題ないが、相関性の低い画像の場合には画質破綻が発生する可能性がある。この画質破綻の発生を回避するために為されたのが実施例2である。
図10は、実施例2に係る画像信号処理回路の構成を示すブロック図である。実施例1の問題点、即ち、相関性の低い画像の場合には画質の破綻が発生する可能性があるという問題点を解消するために、実施例2に係る画像信号処理回路80にあっては、サブフレーム生成に隣接ラインの情報を使用しない方式を採用している。
具体的には、図10に示すように、サブフレーム信号生成部82は、撮像デバイス50で取得可能な最大階調値、即ち、撮像側データのビットD(ダイナミック)レンジを検出するDレンジ検出部825を有する。そして、サブフレーム信号生成部82は、露出条件等に加えて、Dレンジ検出部825が検出するビットDレンジを用いてサブフレームデータを算出する。
実施例2に係る画像信号処理回路80の具体的な動作について、以下に説明する。上述したように、実施例1と実施例2との違いは、サブフレームデータの生成方法にある。具体的には、実施例1では、サブフレームバッファ部822から出力される、1サブフレーム前のサブフレームの露出画像EV_i-1を乗算器824に与える構成を採っていた。これに対して、実施例2では、1サブフレーム前のサブフレームの露出画像EV_i-1に代えて、Dレンジ検出部825にて検出した露出画像EV_iの最大DレンジDEV_iを乗算器824に与える構成を採っている。
そして、露出画像EV_iの最大DレンジDEV_iと露出条件EVR_iとを基に、露出画像EV_iより、下記の条件式に従ってサブフレームデータを生成する。
サブフレームデータi=if(MAX(EV_i)>DEV_i){EV_i−DEV_i×EVR_i}
else{EV_i}
具体的な演算例を図11に示す。図11Aに被写体反射率−画像情報の特性を示し、図11Bに被写体反射率−出力映像階調値の特性を示している。露出画像EV1と露出画像EV2との最大DレンジDEVがDレンジ検出部825にて検出され、DレンジDEV_iとして256値が得られる。一般的に、最大Dレンジは、使用するデータフォーマット等で規定されることが多い。従って、本実施例のように検出値を用いる以外に、固定値を用いることも可能である。
以上のようにして決定されたDレンジDEV_iの値と露出条件とを基にして、上記の条件式に従ってサブフレームデータの生成が行われる。サブフレーム1では、DEV1×EVR1が256となり、露出画像EV1の最大値255よりも大きい。従って、上記の式のelse条件に当てはまるために、サブフレームデータ1=露出画像EV1となる。サブフレーム2では、DEV2×EVR2が128となり、露出画像EV2の最大値255よりも小さいために、上記の式の条件より、サブフレームデータ2=露出画像EV2−128となる。
上述したように、実施例2に係る画像信号処理回路80では、上記の条件式に従ってサブフレームデータを生成する、即ち、露出条件等に加えて、撮像デバイス50で取得可能な最大階調値を用いてサブフレームデータするようにしている。これにより、実施例1の問題点、即ち、実施例1のデータ生成方式の場合に発生する、垂直方向に1ライン分画像がずれるような画質破綻を回避することが可能となる。
[実施例3]
実施例3では、撮像部(撮像装置)2の露出制御を動的に実施し、この動的な露出制御の下に取得される画像情報に基づいてサブフレーム表示を行う例である。図12及び図13に、撮像部2からの画素情報の読み出し例を示す。
図12は、ライン単位で露光条件を設定し、且つ、撮像フレーム単位で露出条件を切り替える場合の読み出し例を示す図である。図12に示すように、撮像デバイス50の撮像エリア部52(図4A参照)内の任意の画素群について、奇数ラインの画素群と偶数ラインの画素群とから成る構成とする。そして、奇数ラインの画素群に対する露出条件の設定と、偶数ラインの画素群に対する露出条件の設定とを、撮像フレーム単位で交互に切り替え可能とする。
図13は、画素又は画素群単位で露光条件を設定し、且つ、撮像フレーム単位で露出条件を切り替える場合の読み出し例を示す図である。図13に示すように、撮像デバイス50の撮像エリア部52内の任意の画素群について、異なる露出条件が設定された第1の画素群(例えば、実線で示す4つの副画素GRBG)と第2の画素群(例えば、破線で示す4つの副画素GRBG)とから成り、第1の画素群及び第2の画素群が市松パターン状に配置された構成とする。そして、第1の画素群に対する露出条件の設定と、第2の画素群に対する露出条件の設定とを、撮像フレーム単位で交互に切り替え可能とする。
実施例3では、例えば、図12に示す読み出し例のように、撮像デバイス50の露出条件を奇数ラインと偶数ラインとで個別に2種類設定する。そして、奇数ラインと偶数ラインとの露出条件設定を撮像フレーム単位で交互に入れ替える制御を、撮像部2のセンサ露出制御部65(図3参照)にて行う。図14及び図15に、実施例3に係る撮像データの読み出し及び表示の動作例を示す。図14は、撮像奇数フレームの撮像データの読み出し及び表示の動作例を示す図である。図15は、撮像偶数フレームの撮像データの読み出し及び表示の動作例を示す図である。いずれの読み出し例の場合にも、長時間露光/短時間露光で露光設定が異なり、撮像フレーム周期で露出条件が切り替わる。
撮像部2からの撮像画像データの出力時には、露出設定画素情報と露出条件と画像データとの対応関係について、後段の処理の際に識別可能とするタグデータ(露出条件識別タグデータ)等の識別情報が、撮像画像データに付加されて出力される。図16に、露出条件識別タグデータの一例を示す。例えば、露出条件識別タグデータは、露出制御タグデータと露出設定タグデータとから成る。
そして、例えば、1バイト(8bit)の露出制御タグデータにおいて、bit0〜bit3の4bitを露出条件配置パターン情報とし、bit5の1bitを交互制御ON/OFF情報とし、bit7の1bitを読み出し情報(0:ODD/EVEN、1:EVEN/ODD)とする。露出条件配置パターン情報については、例えば、パターン設定値が“0000”で露出設定選択パターンをラインパターンとし、“0001”で市松パターン1とし、“0002”で市松パターン2とする。また、1バイト(8bit)の露出設定タグデータにおいて、bit0〜bit3の4bitを露出条件設定1とし、bit4〜bit7の4bitを露出条件設定2とする。露出条件設定については、例えば、露出条件設定値が“0000”で露出設定選択値を1、“0001”で1/2、“0002”で1/4、“0003”で1/8とする。
一方、表示部(有機EL表示装置)側では、撮像部2からの撮像画像データを基にサブフレーム表示が行われる。このサブフレーム表示のための処理については、実施例1又は実施例2の場合と同様にして行われる。すなわち、図6に示す実施例1に係る画像信号処理回路、又は、図10に示す実施例2に係る画像信号処理回路において、撮像部2からの撮像画像データを基に、先述したサブフレーム表示のための処理が行われる。
例えば、実施例2に係る画像信号処理回路にあっては、露出条件情報を使用した処理にについて、先述したタグデータを基に処理を行う。これにより、奇数ラインと偶数ラインとの露出条件設定に関して、撮像フレーム単位で交互に切り替えてサブフレーム表示を行うことになるため、露出条件を奇数ラインと偶数ラインとで固定した場合よりも垂直方向の解像度感に優れている。
[実施例4]
実施例4は、実施例1乃至実施例3の変形例である。実施例1乃至実施例3では、撮像部2からの画像情報を低輝度階調情報成分(被写体反射率100[%]未満)と高輝度階調情報成分(被写体反射率100[%]以上)とに分割してサブフレーム表示を行うようにしている。このようなサブフレーム表示では、特定の露出条件や映像情報によって階調情報が1つのサブフレームに集中し(偏り)、他のサブフレームの階調情報がほとんどない場合が発生することがある。その場合、フリッカとして認識され、画質低下を招くことがある。
このサブフレーム表現時の階調情報の偏りに起因する画質低下を回避するために為されたのが実施例4である。実施例4においても、実施例3と同様に、撮像部(撮像装置)2の露出制御を動的に実施し、この動的な露出制御の下に取得される画像情報に基づいてサブフレーム表示を行う。図17及び図18に、実施例4に係る撮像データの読み出し及び表示の動作例(その1)を示す。図17は、撮像奇数フレームの撮像データの読み出し及び表示の動作例を示す図である。図18は、撮像偶数フレームの撮像データの読み出し及び表示の動作例を示す図である。
実施例4では、図17及び図18の下段に示すような市松パターンにて2種類の露出条件を設定し、奇数ラインと偶数ライン毎に読み出しを行うとともに、撮像フレーム単位で市松パターンの位置を交互に切り替える制御を、撮像部2のセンサ露出制御部65(図3参照)にて行う。そして、表示部(有機EL表示装置)側では、撮像部2からの撮像画像データを基にサブフレーム表示を行う。
この実施例4に係るサブフレーム表示によれば、1サブフレーム内に低輝度階調情報成分(被写体反射率100[%]未満)と高輝度階調情報成分(被写体反射率100[%]以上)とを混在させることができる。これにより、空間的に低階調成分と高階調成分とが縦縞のライン状に交互に並ぶデータ構造となるために、サブフレームによる階調情報の偏りを抑えることができ、面フリッカのような現象を低減できる。
尚、図17及び図18の下段に示すような市松パターンでは、縦縞のライン構造の影響で、ラインフリッカが認識される可能性が否定できない。そこで、更なるフリッカ改善を実施するための、撮像データの読み出し及び表示の動作例(その2)を図19及び図20に示す。図19は、撮像奇数フレームの撮像データの読み出し及び表示の動作例を示す図である。図20は、撮像偶数フレームの撮像データの読み出し及び表示の動作例を示す図である。
図19及び図20に示すような露出条件設定が可能な市松パターンを使用し、撮像フレーム単位で交互に露出条件設定の位置を制御する。このようなパターン構造を導入することによって、サブフレーム自体が市松パターンとなるため、ラインフリッカを低減することが可能である。実施例4の場合、実施例1で説明したサブフレーム補正に関して、面単位でのデューティ補正を適用することができない。従って、実施例4にあっては、映像信号の信号電圧Vsigを補正する、所謂、Vsig補正にて対応するようにすればよい。
[実施例5]
実施例5は、上記の各実施例の変形例である。上記の各実施例においては、表示パネル10の駆動として2ライン同時書き込み駆動を実施している。この2ライン同時書き込み駆動にあっては、撮像デバイス50の奇数ラインの開始点である1ライン目と、偶数ラインの開始点である2ライン目とが、パネル表示上、同じ書き出し位置となってしまうために、所謂、画像の位置ずれとして認識される懸念がある。この1ライン目と2ライン目とが同じ書き出し位置になることに起因する画像の位置ずれを回避するために為されたのが実施例5である。
図21は、実施例5に係る画像信号処理回路の構成を示すブロック図である。実施例5では、1ライン目と2ライン目とが同じ書き出し位置になることに起因する画像の位置ずれを回避するために、撮像部2の奇数ライン、偶数ラインの各読み出し情報に合わせて表示画像の書き出し位置を制御するようにする。具体的には、図21に示すように、実施例5に係る画像信号処理回路80は、表示パネル10の駆動モードを制御する駆動モード書き込み制御部86を有する構成となっている。
以下に、駆動モード書き込み制御部86による具体的な制御の動作について、図16に示す露出条件識別タグデータ等を用いて説明する。図22に、実施例5に係る画像信号処理回路におけるスキャンモードの切り替えタイミングを示す。実施例5に係る画像信号処理回路80では、駆動モード書き込み制御部86による制御の下に、図22に示すようなサブフレーム制御に同期して、奇数ライン及び偶数ラインの読み出し情報を基に、サブフレーム表示時に表示画像の書き出し位置をサブフレーム単位で制御する、書き込みスキャンモードの制御が行われる。
実施例5に係る表示パネルの駆動の実現例を図23に示す。表示パネルとしては、例えば図1に示す表示パネル10を例示することができる。上記の書き込みスキャンモードの制御に応じて、図23に示すように、書込みパルス(図2のサンプリングトランジスタ23のゲート電極に印加される書込み走査信号WSに相当)のタイミングを制御する、即ち、ゲート駆動モードをモード1/モード2でサブフレーム単位で切り替える。ここで、モード1はサブフレーム1の駆動モードであり、モード2はサブフレーム2の駆動モードである。
このように、奇数ライン及び偶数ラインの読み出し情報を基に、サブフレーム表示時に表示画像の書き出し位置をサブフレーム単位で制御することで、撮像デバイス50の読み出し位置と、表示パネル10の駆動時の書き出し位置との関係を一致させることが可能となる。これにより、撮像デバイス50の1ライン目と2ライン目とが、パネル表示上、同じ書き出し位置になることに起因する画像の位置ずれを回避することができる。
因みに、特許文献3に記載の手法にあっては、単純なサブフレーム表示(サブフレーム単位での表示)の場合、特定の露出条件や映像情報によって階調情報が1サブフレームに集中し、他のサブフレームの階調情報がほとんどない場合(例えば、黒画面)が発生することがある。このような階調情報の偏りが発生した場合、表示上は1/2のフレーム周波数で、且つ、デューティ(発光素子の発光時間と非発光時間の割合)が50%以下になってしまうためフリッカとして認識され、画質の低下を招く場合がある。
[変形例]
上記の各実施例にあっては、露出比率EVRを算出する処理を、1フレーム映像情報を個別の露出条件で撮影された露出画像に分離する露出画像分離部81で行う構成を採っているが、これに限られるものではない。例えば、露出画像分離部81とは別に露出比率算出部を設け、当該露出比率算出部において露出比率EVRを算出する構成を採ることも可能である。
尚、本開示は以下のような構成をとることもできる。
[1]撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能で、露出条件が個別に設定された画素群から得られる撮像信号を1撮像フレーム単位で読み出すな撮像デバイスと、
撮像デバイスから出力される撮像信号に対し、露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う撮像信号処理部と、
を備える撮像装置。
[2]撮像デバイスは、露出条件の設定を撮像フレーム単位で切り替え可能である、
上記[1]に記載の撮像装置。
[3]撮像エリア部内の任意の画素群は、奇数ラインの画素群、及び、偶数ラインの画素群とから成る、
上記[1]又は[2]に記載の撮像装置。
[4]撮像デバイスは、奇数ラインの画素群に対する露出条件の設定と、偶数ラインの画素群に対する露出条件の設定とを、撮像フレーム単位で交互に切り替え可能である、
上記[3]に記載の撮像装置。
[5]撮像エリア部内の任意の画素群は、異なる露出条件が設定された第1の画素群と第2の画素群とから成り、第1の画素群及び第2の画素群が市松パターン状に配置されている、
上記[1]又は[2]に記載の撮像装置。
[6]撮像デバイスは、第1の画素群に対する露出条件の設定と、第2の画素群に対する露出条件の設定とを、撮像フレーム単位で交互に切り替え可能である、
上記[5]に記載の撮像装置。
[7]撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、1撮像フレーム単位で読み出される撮像信号に対して、
露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う信号処理部を有する、
撮像信号処理回路。
[8]撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、1撮像フレーム単位で読み出される撮像信号に対して、
露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う、
撮像信号処理方法。
[9]1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するサブフレーム信号生成部と、
サブフレーム信号生成部で生成された複数のサブフレームの映像信号を基に、表示パネルに対してサブフレーム単位で表示を行う駆動部と、
を備え、
サブフレーム信号生成部は、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する、
表示装置。
[10]駆動部は、複数のサブフレームの映像信号に応じてサブフレーム毎に発光素子の単位時間当たりの発光輝度を制御する、
上記[9]に記載の表示装置。
[11]撮像エリア部内の任意の画素群が、奇数ラインの画素群、及び、偶数ラインの画素群から成るとき、
サブフレーム信号生成部は、奇数ラインの画素群から得られる撮像信号と、偶数ラインの画素群から得られる撮像信号とに基づいて複数のサブフレームの映像信号を生成し、
駆動部は、複数のサブフレームの映像信号を基に、表示パネルに対して2ライン同時スキャン駆動を行う、
上記[9]又は[10]に記載の表示装置。
[12]駆動部は、奇数ライン及び偶数ラインの読み出し情報を基に、表示画像の書き出し位置をサブフレーム単位で制御する、
上記[11]に記載の表示装置。
[13]サブフレーム信号生成部は、露出条件に応じてサブフレーム毎に発光素子のデューティを制御する、
上記[9]に記載の表示装置。
[14]サブフレーム信号生成部は、発光素子のデューティ制御を、各露出条件の画像間における露出時間の比率の逆数倍した値を用いて行う、
上記[13]に記載の表示装置。
[15]サブフレーム信号生成部は、低輝度階調情報成分と高輝度階調情報成分とに分離したサブフレームの映像信号を生成する、
上記[9]から[14]のいずれかに記載の表示装置。
[16]サブフレーム信号生成部は、露出条件に加えて、撮像デバイスで取得可能な最大階調値を用いてサブフレームの映像信号を生成する、
上記[9]に記載の表示装置。
[17]サブフレーム信号生成部は、1サブフレーム内に低輝度階調情報成分と高輝度階調情報成分とを混在させる、
上記[16]に記載の表示装置。
[18]サブフレーム信号生成部は、撮像デバイスから、奇数ラインの画素群に対する露出条件の設定と、偶数ラインの画素群に対する露出条件の設定とが、撮像フレーム単位で交互に切り替えられて出力される撮像信号に基づいて、サブフレームの映像信号を生成する、
上記[9]に記載の表示装置。
[19]1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するサブフレーム信号生成部を備え、
サブフレーム信号生成部は、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する、
画像信号処理回路。
[20]1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するに当たり、
撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する、
画像信号処理方法。
1・・・有機EL表示装置、2・・・撮像部(撮像装置)、10・・・表示パネル、20・・・画素、21・・・有機EL素子、22・・・駆動トランジスタ、23・・・サンプリングトランジスタ、24・・・保持容量、25・・・補助容量、30・・・画素アレイ部、31(311〜31m)・・・走査線、32(321〜32m)・・・電源供給線、33(331〜33n)・・・信号線、41・・・書込み走査部、42・・・駆動走査部、43・・・信号出力部、50・・・撮像デバイス、51・・・画素(副画素)、52・・・撮像エリア部(画素アレイ部)、60・・・撮像信号処理部、と80・・・画像信号処理回路、81・・・露出画像分離部、82・・・サブフレーム信号生成部、83・・・サブフレーム補正部、84・・・基準発光時間選択部、85・・・ガンマ回路部、86・・・駆動モード書き込み制御部、90・・・パネル駆動回路部、821・・・階調再現差分データ演算部、822・・・サブフレームバッファ部、823・・・露出条件検出部、824・・・乗算器、825・・・Dレンジ検出部、831・・・補正ゲイン算出部、832,833・・・乗算器

Claims (20)

  1. 撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能で、露出条件が個別に設定された画素群から得られる撮像信号を1撮像フレーム単位で読み出すな撮像デバイスと、
    撮像デバイスから出力される撮像信号に対し、露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う撮像信号処理部と、
    を備える撮像装置。
  2. 撮像デバイスは、露出条件の設定を撮像フレーム単位で切り替え可能である、
    請求項1に記載の撮像装置。
  3. 撮像エリア部内の任意の画素群は、奇数ラインの画素群、及び、偶数ラインの画素群から成る、
    請求項1に記載の撮像装置。
  4. 撮像デバイスは、奇数ラインの画素群に対する露出条件の設定と、偶数ラインの画素群に対する露出条件の設定とを、撮像フレーム単位で交互に切り替え可能である、
    請求項3に記載の撮像装置。
  5. 撮像エリア部内の任意の画素群は、異なる露出条件が設定された第1の画素群と第2の画素群とから成り、第1の画素群及び第2の画素群が市松パターン状に配置されている、
    請求項1に記載の撮像装置。
  6. 撮像デバイスは、第1の画素群に対する露出条件の設定と、第2の画素群に対する露出条件の設定とを、撮像フレーム単位で交互に切り替え可能である、
    請求項5に記載の撮像装置。
  7. 撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、1撮像フレーム単位で読み出される撮像信号に対して、
    露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う信号処理部を有する、
    撮像信号処理回路。
  8. 撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、1撮像フレーム単位で読み出される撮像信号に対して、
    露出条件毎に信号分離を行うとともに、露出条件との対応付けを行う、
    撮像信号処理方法。
  9. 1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するサブフレーム信号生成部と、
    サブフレーム信号生成部で生成された複数のサブフレームの映像信号を基に、表示パネルに対してサブフレーム単位で表示を行う駆動部と、
    を備え、
    サブフレーム信号生成部は、
    撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
    対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する、
    表示装置。
  10. 駆動部は、複数のサブフレームの映像信号に応じてサブフレーム毎に発光素子の単位時間当たりの発光輝度を制御する、
    請求項9に記載の表示装置。
  11. 撮像エリア部内の任意の画素群が、奇数ラインの画素群、及び、偶数ラインの画素群から成るとき、
    サブフレーム信号生成部は、奇数ラインの画素群から得られる撮像信号と、偶数ラインの画素群から得られる撮像信号とに基づいて複数のサブフレームの映像信号を生成し、
    駆動部は、複数のサブフレームの映像信号を基に、表示パネルに対して2ライン同時スキャン駆動を行う、
    請求項9に記載の表示装置。
  12. 駆動部は、奇数ライン及び偶数ラインの読み出し情報を基に、表示画像の書き出し位置をサブフレーム単位で制御する、
    請求項11に記載の表示装置。
  13. サブフレーム信号生成部は、露出条件に応じてサブフレーム毎に発光素子のデューティを制御する、
    請求項9に記載の表示装置。
  14. サブフレーム信号生成部は、発光素子のデューティ制御を、各露出条件の画像間における露出時間の比率の逆数倍した値を用いて行う、
    請求項13に記載の表示装置。
  15. サブフレーム信号生成部は、低輝度階調情報成分と高輝度階調情報成分とに分離したサブフレームの映像信号を生成する、
    請求項9に記載の表示装置。
  16. サブフレーム信号生成部は、露出条件に加えて、撮像デバイスで取得可能な最大階調値を用いてサブフレームの映像信号を生成する、
    請求項9に記載の表示装置。
  17. サブフレーム信号生成部は、1サブフレーム内に低輝度階調情報成分と高輝度階調情報成分とを混在させる、
    請求項16に記載の表示装置。
  18. サブフレーム信号生成部は、撮像デバイスから、奇数ラインの画素群に対する露出条件の設定と、偶数ラインの画素群に対する露出条件の設定とが、撮像フレーム単位で交互に切り替えられて出力される撮像信号に基づいて、サブフレームの映像信号を生成する、
    請求項9に記載の表示装置。
  19. 1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するサブフレーム信号生成部を備え、
    サブフレーム信号生成部は、
    撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
    対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する、
    画像信号処理回路。
  20. 1表示フレームの映像を構成する複数のサブフレームの映像信号を生成するに当たり、
    撮像エリア部内の任意の画素群に対して2種類以上の露出条件を個別に設定可能な撮像デバイスにおいて、露出条件が個別に設定された画素群から得られ、露出条件毎に信号分離され、露出条件との対応付けされた撮像信号を、処理対象の画像信号として1表示フレーム単位で入力し、
    対応付けされた露出条件に応じてサブフレーム毎に発光素子の発光時間を制御してサブフレームの映像信号を生成する、
    画像信号処理方法。
JP2013256599A 2013-12-12 2013-12-12 撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法 Pending JP2015115789A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013256599A JP2015115789A (ja) 2013-12-12 2013-12-12 撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法
US14/526,674 US9538091B2 (en) 2013-12-12 2014-10-29 Imaging apparatus, imaging signal processing circuit, imaging signal processing method, display apparatus, image signal processing circuit, and image signal processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013256599A JP2015115789A (ja) 2013-12-12 2013-12-12 撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法

Publications (1)

Publication Number Publication Date
JP2015115789A true JP2015115789A (ja) 2015-06-22

Family

ID=53370011

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013256599A Pending JP2015115789A (ja) 2013-12-12 2013-12-12 撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法

Country Status (2)

Country Link
US (1) US9538091B2 (ja)
JP (1) JP2015115789A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190022558A (ko) 2016-06-27 2019-03-06 소니 주식회사 신호 처리 장치, 신호 처리 방법, 카메라 시스템, 비디오 시스템 및 서버
JPWO2019008482A1 (ja) * 2017-07-07 2020-07-16 株式会社半導体エネルギー研究所 表示システム、および表示システムの動作方法
US11128810B2 (en) 2016-03-04 2021-09-21 Sony Corporation Signal processing device, signal processing method, and camera system
EP4013026A1 (en) 2016-06-27 2022-06-15 Sony Group Corporation Signal processing device, signal processing method, camera system, video system, and server
JP7460828B2 (ja) 2017-04-28 2024-04-02 株式会社半導体エネルギー研究所 撮像表示装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10440288B2 (en) * 2015-09-02 2019-10-08 Microsoft Technology Licensing, Llc Methods and apparatuses for capturing image frames with interlaced exposure
DE102015116026A1 (de) * 2015-09-22 2017-03-23 JENETRIC GmbH Vorrichtung und Verfahren zur direkten optischen Bildaufnahme von Dokumenten und / oder lebenden Hautbereichen ohne abbildende optische Elemente
CN109936700B (zh) * 2017-12-19 2020-12-29 群光电子股份有限公司 影像串流画质处理***及影像串流画质处理方法
CN111885320A (zh) * 2020-08-04 2020-11-03 深圳市汇顶科技股份有限公司 图像传感器及其自动曝光方法、电子设备
TWI813146B (zh) * 2022-01-26 2023-08-21 瑞昱半導體股份有限公司 高動態範圍視頻曝光補償方法與電路

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2932686B2 (ja) * 1990-11-28 1999-08-09 日本電気株式会社 プラズマディスプレイパネルの駆動方法
JP3553999B2 (ja) 1993-11-10 2004-08-11 キヤノン株式会社 撮像装置とその画像処理方法
JP3495768B2 (ja) 1993-10-29 2004-02-09 キヤノン株式会社 画像合成装置
JP4497759B2 (ja) * 2000-06-30 2010-07-07 キヤノン株式会社 画像処理装置及びその処理方法
JP2010276968A (ja) 2009-05-29 2010-12-09 Canon Inc 画像表示装置および画像表示方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11128810B2 (en) 2016-03-04 2021-09-21 Sony Corporation Signal processing device, signal processing method, and camera system
KR20190022558A (ko) 2016-06-27 2019-03-06 소니 주식회사 신호 처리 장치, 신호 처리 방법, 카메라 시스템, 비디오 시스템 및 서버
KR102299972B1 (ko) 2016-06-27 2021-09-07 소니그룹주식회사 신호 처리 장치, 신호 처리 방법, 카메라 시스템, 비디오 시스템 및 서버
EP4013026A1 (en) 2016-06-27 2022-06-15 Sony Group Corporation Signal processing device, signal processing method, camera system, video system, and server
JP7460828B2 (ja) 2017-04-28 2024-04-02 株式会社半導体エネルギー研究所 撮像表示装置
JPWO2019008482A1 (ja) * 2017-07-07 2020-07-16 株式会社半導体エネルギー研究所 表示システム、および表示システムの動作方法
JP7167022B2 (ja) 2017-07-07 2022-11-08 株式会社半導体エネルギー研究所 表示システム、および表示システムの動作方法
US11676547B2 (en) 2017-07-07 2023-06-13 Semiconductor Energy Laboratory Co., Ltd. Display system and operation method of the display system

Also Published As

Publication number Publication date
US20150172528A1 (en) 2015-06-18
US9538091B2 (en) 2017-01-03

Similar Documents

Publication Publication Date Title
JP6311868B2 (ja) 画像処理回路、画像処理方法、及び、表示装置
JP2015115789A (ja) 撮像装置、撮像信号処理回路、及び、撮像信号処理方法、並びに、表示装置、画像信号処理回路、及び、画像信号処理方法
US9847056B2 (en) Picture signal processing circuit, picture signal processing method, and display unit
US20220303448A1 (en) Imaging device that generates multiple-exposure image data
TWI260577B (en) Image display device and color balance adjustment method thereof
JP4450012B2 (ja) 有機elパネルの表示補正回路
JP4952972B2 (ja) 自発光表示装置、発光条件最適化装置、発光条件最適化方法及びプログラム
JP2008172289A (ja) 固体撮像装置
KR20190021761A (ko) 표시장치의 휘도 보상 시스템 및 그 휘도 보상 방법
CN113692612B (zh) 显示装置、显示装置的驱动方法以及电子设备
WO2017110481A1 (ja) 撮像素子及びその駆動方法、並びに撮像装置
JP4501350B2 (ja) 固体撮像装置および撮像装置
KR20120114161A (ko) 고체 촬상 소자 및 구동 방법, 및 전자 기기
JP4213943B2 (ja) 画質を向上させた画像処理回路
KR20230175155A (ko) 영상 처리 장치 및 방법
JP2015056800A (ja) 映像信号処理回路、映像信号処理方法、及び、表示装置
WO2013027326A1 (ja) 固体撮像装置
KR20200077375A (ko) 발광 표시 장치
JP2013115470A (ja) 固体撮像素子の信号処理回路、固体撮像素子の信号処理方法、及び、電子機器
TW201940010A (zh) 驅動裝置及顯示裝置
JP2000165752A (ja) 固体撮像装置の信号処理方法及び固体撮像装置
JP5377068B2 (ja) 撮像装置
JP2017152839A (ja) 撮像装置、撮像素子の制御方法及び撮像装置の制御方法
KR20150073700A (ko) 유기발광표시장치 및 이의 동작방법
JP2012168359A (ja) 走査回路、表示装置、表示装置の駆動方法、及び、電子機器