JP4508132B2 - 撮像装置、撮像回路、および撮像方法 - Google Patents

撮像装置、撮像回路、および撮像方法 Download PDF

Info

Publication number
JP4508132B2
JP4508132B2 JP2006050170A JP2006050170A JP4508132B2 JP 4508132 B2 JP4508132 B2 JP 4508132B2 JP 2006050170 A JP2006050170 A JP 2006050170A JP 2006050170 A JP2006050170 A JP 2006050170A JP 4508132 B2 JP4508132 B2 JP 4508132B2
Authority
JP
Japan
Prior art keywords
data
block
unit
minimum value
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006050170A
Other languages
English (en)
Other versions
JP2007228515A (ja
Inventor
文昭 加藤
健 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2006050170A priority Critical patent/JP4508132B2/ja
Priority to TW096104954A priority patent/TW200746806A/zh
Priority to US11/710,622 priority patent/US8023748B2/en
Priority to EP20070003776 priority patent/EP1841233A1/en
Priority to KR20070019389A priority patent/KR20070089085A/ko
Priority to CN200710079945A priority patent/CN100592759C/zh
Publication of JP2007228515A publication Critical patent/JP2007228515A/ja
Application granted granted Critical
Publication of JP4508132B2 publication Critical patent/JP4508132B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/98Adaptive-dynamic-range coding [ADRC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2201/00Indexing scheme relating to scanning, transmission or reproduction of documents or the like, and to details thereof
    • H04N2201/0077Types of the still picture apparatus
    • H04N2201/0084Digital still camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/775Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television receiver
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/84Television signal recording using optical recording
    • H04N5/85Television signal recording using optical recording on discs or drums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/907Television signal recording using static stores, e.g. storage tubes or semiconductor memories
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/7921Processing of colour television signals in connection with recording for more than one processing mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/804Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components
    • H04N9/8042Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction
    • H04N9/8047Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback involving pulse code modulation of the colour picture signal components involving data reduction using transform coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Studio Devices (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Picture Signal Circuits (AREA)

Description

本発明は、固体撮像素子を用いて画像を撮像する撮像装置、撮像回路、および撮像方法に関し、特に、撮像により得られた画像信号を一旦メモリに格納して処理する構成の撮像装置、およびそのような構成に適した撮像回路、撮像方法に関する。
近年、デジタルスチルカメラやデジタルビデオカメラなど、固体撮像素子を用いて撮像し、撮像画像をデジタルデータとして保存することができる撮像装置が広く普及している。このような撮像装置では、撮像素子の多画素化や、装置の高機能化・高性能化が進んでいる。特に、撮像素子の多画素化が進むと、撮像信号の処理負荷が増大するが、そのような撮像装置であっても、操作にストレスがないように高速で処理できることが求められている。
図11は、従来の撮像装置の構成例を示すブロック図である。
図11に示す従来の撮像装置は、撮像素子81、アナログフロントエンド(AFE)回路82、デジタル画像処理回路83、SDRAM(Synchronous Dynamic Random Access Memory)84、ROM(Read Only Memory)85、およびストレージデバイス86を備えている。また、デジタル画像処理回路83は、カメラ信号前処理部91、カメラ信号処理部92、解像度変換部93、JPEG(Joint Photographic Experts Group)エンジン94、CPU(Central Processing Unit)95、ビデオ出力エンコーダ96、およびSDRAMコントローラ97を備え、これらが内部バス98により相互に接続された構成となっている。
このような撮像装置において、撮像素子81による撮像信号は、順次AFE回路82に供給され、CDS(Correlated Double Sampling)処理やAGC(Auto Gain Control)処理が施された後、デジタル信号に変換されて、デジタル画像処理回路83に供給される。カメラ信号前処理部91は、入力された画像信号に対して、欠陥画素補正やシェーディング補正などを施し、RAW(生)データとして、SDRAMコントローラ97を介してSDRAM84に書き込む。
カメラ信号処理部92は、そのRAWデータをSDRAMコントローラ97を介してSDRAM84から読み出し、各種検波や画質補正処理(カメラ信号処理)を実行した後、輝度信号(Y)と色差信号(R−Y,B−Y)に変換して出力する。解像度変換部93は、カメラ信号処理部92からの出力画像データに対して、必要に応じて、解像度変換処理を施す。
ビデオ出力エンコーダ96は、解像度変換部93により表示に適する解像度に変換された画像データを、モニタ表示用の画像信号に変換して、図示しないモニタ、あるいはビデオ出力端子96aに対して出力する。これにより、カメラスルー画像を表示させることができる。JPEGエンジン94は、カメラ信号処理部92または解像度変換部93からの画像データを、JPEG規格に従って圧縮符号化し、一旦SDRAM84に格納する。CPU95は、SDRAM84に格納されたJPEG符号化データを、ストレージデバイス86に記録する。
なお、CPU95は、この撮像装置全体の処理を、統括的に制御し、ROM85には、CPU95が実行するプログラムや、処理に必要なデータが記録されている。
また、上記では、撮像画像をJPEGデータとして記録する構成の撮像装置について示したが、カメラ信号処理などが施されていないRAWデータをそのまま記録媒体に記録する機能を備えた撮像装置も実現されている。例えば、RAWデータをハフマンテーブルを利用した可逆的圧縮手法により圧縮して記録する機能を備え、そのハフマンテーブルを色チャネルごとに最適化するようにしたものがあった(例えば、特許文献1参照)。また、RAWデータを圧縮して記録するRAW圧縮モードに設定した際には、通常圧縮モードで使用するRAWデータの補間処理部をバイパスするようにしたものもあった(例えば、特許文献2参照)。
特開2004−40300号公報(段落番号〔0019〕〜〔0028〕、図2) 特開2003−125209号公報(段落番号〔0027〕〜〔0037〕、図1)
ところで、上記の図11のように、一般的な撮像装置では、撮像素子から得られたRAWデータを、一旦SDRAMなどの画像メモリに格納した後、読み出してカメラ信号処理などを施す構成となっている。例えば、インタレース読み出し方式の撮像素子を用いた場合など、複数フィールドで1フレームのキャプチャが終了するタイプの装置では、各フィールドのデータをメモリに格納してから、フレームのデータを生成することが必須である。また、カメラ信号処理部のラインメモリの規模を抑制するために、1H(水平同期期間)の長さの数分の一程度のディレイラインのみを用いて、全画面を部分的に(例えば、縦方向に数本の短冊状に)処理していくような処理系を持つ場合にも、少なくともその処理の前に全画面のデータをメモリに格納しておく必要がある。
ここで、RAWデータのメモリへの書き込みおよび読み出しの際には、全画面分のデータが内部バス上を流れるため、この伝送に必要なバス帯域は、撮像時の全体のバス帯域の多くを占める。特に、撮像素子の画素数が増加し、RAWデータの容量が大きくなるほど、データ転送の負荷が高まり、メモリの書き込み/読み出しに要する時間も長くなる。従って、記録処理に要する時間を短縮しようとすると、伝送周波数を高くするなどしてバス帯域を拡大することが必要となり、装置コストが増大するという問題があった。また、画素数が多いほど、RAWデータを格納するメモリの容量も大きくなるという問題もあった。
これに対して、内部バスの伝送時にRAWデータを圧縮して伝送することも考えられているが、この圧縮方式として可変長符号化方式を用いると、伝送に必要なバス帯域を一定にできなくなり、処理が複雑になる、バス帯域の削減効果を常時得られないなどの問題も生じる。
なお、上記の特許文献1は、RAWデータを可変長符号化方式で圧縮するものであり、また、特許文献1および2の双方とも、内部バスの帯域を削減するためにRAWデータを圧縮するものではない。
本発明はこのような点に鑑みてなされたものであり、内部メモリにおける画像データの読み書きに要する時間を短縮して、高速な撮像動作を可能にした撮像装置を提供することを目的とする。
また、本発明の他の目的は、内部メモリにおける画像データの読み書きに要する時間を短縮して、高速な撮像動作を可能にした撮像回路を提供することである。
さらに、本発明の他の目的は、内部メモリにおける画像データの読み書きに要する時間を短縮して、高速な撮像動作を可能にした撮像方法を提供することである。
本発明では上記課題を解決するために、固体撮像素子を用いて画像を撮像する撮像装置において、前記固体撮像素子により撮像され、デジタル変換された画像データを圧縮する圧縮部と、前記圧縮部により圧縮された圧縮画像データを一時的に保持するメモリと、前記メモリから読み出した前記圧縮画像データを伸張する伸張部と、前記伸張部により伸張された画像データに対して画質補正処理を施す信号処理部とを有し、前記圧縮部は、所定数の画素データからなるブロック内の前記画素データの最大値および最小値と、それらの当該ブロック内での位置情報と、前記最大値および前記最小値を除く当該ブロック内の前記画素データから、前記最小値を減算した減算値を量子化した量子化データとからなる前記圧縮画像データを生成し、前記量子化データのビット数より前記位置情報のビット数の方が小さくされたことを特徴とする撮像装置が提供される。
このような撮像装置では、固体撮像素子により撮像され、デジタル変換された画像データが、圧縮部により圧縮され、その圧縮画像データが一時的にメモリに格納される。そして、メモリから読み出された圧縮画像データが伸張部により伸張され、伸張された画像データに対して、信号処理部により画質補正処理が施される。ここで、圧縮部により生成される圧縮画像データは、所定数の画素データからなるブロック内の画素データの最大値および最小値と、それらのブロック内での位置情報と、最大値および最小値を除くブロック内の画素データから、最小値を減算した減算値を量子化した量子化データとからなる
本発明の撮像装置では、画像データが圧縮部に入力されてから信号処理部で画質補正処理されるまでの手順において、メモリで読み書きされる画像データが圧縮されるので、メモリにおける画像データの読み書きに要する時間が短縮される。また、メモリに一時的に格納される圧縮画像データは、ブロック内の画素データの最大値および最小値と、それらのブロック内での位置を検出し、さらにブロック内の画素データから最小値を減算した減算値を量子化することで得られるので、入力画像データを一次元的に処理するという簡便な処理で圧縮できる。さらに、量子化データの量子化語長を一定にすることで固定長の圧縮符号化が可能であるので、その圧縮画像データのメモリにおける読み書きの制御も簡単になる。従って、全体の処理負荷やデータ伝送負荷が軽減され、高速な撮像動作が可能になる。
以下、本発明の実施の形態を図面を参照して詳細に説明する。
〔第1の実施の形態〕
図1は、本発明の第1の実施の形態に係る撮像装置の構成を示すブロック図である。
図1に示す撮像装置は、撮像素子11、AFE回路12、デジタル画像処理回路13、SDRAM14、ROM15、およびストレージデバイス16を備えている。また、デジタル画像処理回路13は、カメラ信号前処理部21、カメラ信号処理部22、解像度変換部23、JPEGエンジン24、CPU25、ビデオ出力エンコーダ26、およびSDRAMコントローラ27を備え、これらが内部バス28により相互に接続された構成となっている。さらに、このような従来からの構成に加えて、本実施の形態のデジタル画像処理回路13は、RAW圧縮部31およびRAW伸張部32を備えている。
撮像素子11は、例えばCCD(Charge Coupled Devices)、CMOS(Complementary Metal Oxide Semiconductor)型イメージセンサなどの固体撮像素子であり、図示しないレンズブロックを通じて被写体から入射された光を、電気信号に変換する。
AFE回路12は、撮像素子11から出力された画像信号に対して、CDS処理によりS/N(Signal/Noise)比を良好に保つようにサンプルホールドを行い、さらにAGC処理により利得を制御し、A/D(Analog/Digital)変換を行ってデジタル画像信号を出力する。
デジタル画像処理回路13は、例えば、SoC(System On a Chip)回路などとして形成される。このデジタル画像処理回路13において、カメラ信号前処理部21は、AFE回路12から供給された画像信号に対して、撮像素子11における欠陥画素の信号補正処理、レンズの周辺光量落ちを補正するシェーディング処理などを施し、処理後の信号をRAWデータとして出力する。
RAW圧縮部31は、カメラ信号前処理部21からのRAWデータを、後述する圧縮手法により圧縮し、SDRAMコントローラ27を介して、SDRAM14に供給する。
RAW伸張部32は、SDRAM14からSDRAMコントローラ27を介して読み出した、圧縮されたRAWデータを、後述する手法により伸張して、カメラ信号処理部22に出力する。
カメラ信号処理部22は、RAW伸張部32からRAWデータにデモザイク処理を施した後、AF(Auto Focus)、AE(Auto Exposure)、ホワイトバランス制御などのための信号検波処理や、ホワイトバランス調整に代表される信号補正処理など、いわゆるカメラ信号処理、またはその処理の一部を実行する。さらに、信号補正後の画像データを、例えば4:2:2などの所定フォーマットの輝度信号(Y)と色差信号(R−Y,B−Y)に変換する。
解像度変換部23は、カメラ信号処理部22で処理された画像データ、あるいはJPEGエンジン24で伸張復号化された画像データの入力を受けて、所定の解像度に変換する。
JPEGエンジン24は、解像度変換部23で処理された画像データを圧縮符号化し、JPEG方式の符号化データを生成する。また、ストレージデバイス16から読み出されたJPEG画像データを伸張復号化する。なお、デジタル画像処理回路13には、このJPEGエンジン24以外の他の静止画圧縮方式、あるいは動画圧縮方式のエンコード/デコードエンジンが設けられてもよい。
CPU25は、ROM15に格納されたプログラムを実行することにより、このデジタル画像処理回路13、および撮像装置全体を統括的に制御し、また、その制御のための各種演算を実行する。
ビデオ出力エンコーダ26は、例えばNTSC(National Television Standards Committee)エンコーダなどとして構成され、解像度変換部23などから出力された画像データを基に、モニタ表示用の画像信号を生成し、図示しないモニタ、あるいはビデオ出力端子26aに出力する。
SDRAMコントローラ27は、SDRAM14に対するインタフェースブロックであり、アドレスデコーダなどを備えて、CPU25からの制御信号に従って、SDRAM14の書き込みおよび読み出し動作を制御する。
SDRAM14は、デジタル画像処理回路13におけるデータ処理のためのワークエリアとして用意された揮発性のメモリであり、撮像素子11からキャプチャされたデータ、すなわち、RAW圧縮部31で圧縮されたRAWデータを一時的に格納するためのキャプチャデータエリア14a、JPEGエンジン24により符号化された画像データや、その符号化・復号化処理で利用されるデータなどを一時的に格納するためのJPEG符号エリア14b、CPU25の処理で利用されるデータを一時的に格納するためのCPUワークエリア14cなどを含んでいる。
ROM15は、CPU25が実行するプログラムや各種データを保持する。このROM15としては、例えば、EEPROM(Electronically Erasable and Programmable ROM)、フラッシュメモリなどの不揮発性メモリが用いられてもよい。
ストレージデバイス16は、符号化された画像データのファイルを記録するためのデバイスであり、例えば、フラッシュメモリ、光ディスク、磁気テープなどの記録媒体、およびそれらの記録/再生ドライブなどからなる。
このような撮像装置において、撮像素子11による撮像信号は、順次AFE回路12に供給され、CDS処理やAGC処理が施された後、デジタル信号に変換されて、デジタル画像処理回路13のカメラ信号前処理部21に供給される。カメラ信号前処理部21では、入力された画像信号に対して、欠陥画素補正やシェーディング補正などを施したRAWデータが生成され、このRAWデータは、RAW圧縮部31により圧縮された後、SDRAM14に一旦書き込まれる。
このRAWデータは、SDRAM14から読み出されると、RAW伸張部32により伸張された後、カメラ信号処理部22により各種画質補正処理が施される。処理後の画像データは、例えばSDRAM14に一旦格納された後、解像度変換部23により、表示に適した解像度のデータに変換され、さらに例えばSDRAM14に格納された後、ビデオ出力エンコーダ26に供給される。これにより、カメラスルー画像がモニタに表示される。
また、図示しない入力部などを通じて画像の記録が要求されると、解像度変換部23は、カメラ信号処理部22で処理された画像データを、必要に応じて記録用に設定された解像度のデータに変換して、例えばSDRAM14に一旦格納し、JPEGエンジン24は、この画像データを圧縮符号化して、符号化データを生成する。符号化データは、例えばSDRAM14に一旦記録された後、ストレージデバイス16に記録される。
また、ストレージデバイス16に記録された画像データ(符号化データ)は、JPEGエンジン24で伸張復号化され、解像度変換部23で解像度変換された後、ビデオ出力エンコーダ26に出力されることで、モニタに表示させることができる。
このようなデジタル画像処理回路13では、カメラ信号前処理部21から内部バス28に対する画像データの入力位置に、RAWデータを圧縮するRAW圧縮部31を設けたことにより、内部バス28を通じてSDRAM14に伝送されるRAWデータのデータ量を低減することができる。また、内部バス28からカメラ信号処理部22に対する画像データの入力位置に、RAWデータを伸張するRAW伸張部32を設けたことにより、同様に、SDRAM14からカメラ信号処理部22に伝送されるRAWデータのデータ量を低減することができる。
これにより、撮像動作中の内部バス28の伝送負荷を軽減し、SDRAM14に対する書き込み/読み出し処理に要する時間を短縮することが可能となる。特に、圧縮/伸張の処理をできるだけ簡単にすることで、処理時間の短縮効果を上げることができる。また、バス上の伝送周波数を低減して、消費電力を抑制することもできる。
また、SDRAM14の容量も小さくすることができる。あるいは、SDRAM14の領域を他の処理に利用する、複数フレーム分のRAWデータを格納して、連写できる枚数を増やす、あるいは連写速度を向上させるなど、高画質化・高機能化に寄与することもできる。従って、撮像やデータ記録に必要な時間が短くされた、高性能かつ小型、低コストの撮像装置を実現できる。
また、RAW圧縮部31によるRAWデータの圧縮処理では、可逆圧縮手法を用いることで、RAWデータの品質を完全に保持できるが、非可逆圧縮であっても、圧縮歪みの発生量が、輝度/色差信号に変換された時点で、肉眼では感知できない程度となるならば、画質としては許容できる。一般に、輝度/色差信号に変換された時点のPSNR(Peak Signal to Noise Ratio)が50dB〜40dB程度であれば、圧縮歪みは許容されるレベルになる。
さらに、RAWデータを圧縮する場合に、固定長で符号化できれば、SDRAM14に対して読み書きするRAWデータの帯域を一定に保つことができ、内部バス28における伝送負荷を安定的に低減できる。また、カメラ信号処理部22におけるRAWデータの取り扱い(例えばSDRAM14からの読み出し制御処理)や、内部バス28を通じたRAWデータの伝送制御処理を、単純化することもできる。
例えば、可変長で符号化した場合には、圧縮されたRAWデータをSDRAM14から読み出す際に、バースト状にアクセスしなければならない場合が多い。また、カメラ信号処理部22の機能として、1Hの数分の一程度のディレイラインしか持たずに、全画面を部分的に(例えば、縦方向の短冊状に)処理していくような機能があった場合に、固定長で符号化することにより、任意の位置のRAWデータのSDRAM14上のアドレスを簡単に計算し、読み出すことが可能になる。デジタル画像処理回路13内のDMA(Direct Memory Access)コントローラによりアクセスすることも可能となる。
そこで、本実施の形態では、以下で説明するように、固定長の符号化が可能で、かつ、画像品質を良好に保つことができ、しかも比較的簡単な処理で実現できる非可逆圧縮/伸張手法を採用する。
なお、以下の例では、RAWデータ信号を1画素当たり14ビット、量子化語長を7ビット固定とし、同一色成分を持つ水平方向の16画素分を、1ブロックの符号化データに変換する。なお、例えば、14ビットのデータは、SDRAM14において16ビット分の領域を占有する。上記のように16画素を1ブロックとすると、1ブロックに対応するRAWデータを圧縮せずにSDRAM14に記録した場合、256ビット分の領域を占有するが、本実施の形態では、このような記録領域を128ビット分に圧縮でき、1/2の圧縮率を達成できることになる。
図2は、RAW圧縮部の内部構成を示すブロック図である。
図2に示すように、RAW圧縮部31は、折れ線圧縮部101、ブロック化部102、最大/最小検出部103、最小値ラッチ部104、最大値ラッチ部105、最小値アドレスラッチ部106、最大値アドレスラッチ部107、減算器108および109、量子化器110、量子化データバッファ111、およびパッキング部112を備えている。
折れ線圧縮部101は、入力された14ビットのRAWデータを、折れ線を用いた近似により11ビットのデータに非線形で圧縮する。この折れ線圧縮部101は、この後の圧縮手順の前に、できるだけ階調を下げておくことで、全体的な圧縮効率を向上させることを目的として設けられている。このため、目的とする圧縮率によっては、省略されてもよい。なお、この場合には、後の図4で説明するRAW伸張部32の出力段に設けられる逆折れ線変換部についても、省略する必要がある。
ここで、図3は、折れ線圧縮部で用いられる折れ線の例を示す図である。
図3では、4つの点で分割された5通りの傾きを持つ直線により、入力データの階調を変換する例を示している。この例では、人間の視覚特性に合わせて、入力データが小さいほど、すなわち暗いほど(または色がうすいほど)、高い階調を割り当てるようにしている。このような折れ線は、例えば色成分ごとに用意し、入力画素の色成分ごとに切り換えて利用してもよい。
折れ線圧縮部101では、例えば、このような折れ線を用いて、入力データの階調を変換した後、変換後のデータを8で除算(すなわち3ビット分下位にシフト)して、11ビットデータに圧縮する。このとき、捨てられる下位ビットは、例えば四捨五入する。あるいは、折れ線圧縮部101では、以上のような演算に基づく、入力データと圧縮後の出力データとを対応付けて記憶したROMテーブルを用意し、このROMテーブルに従って入出力データの変換が行われてもよい。
以下、図2に戻って説明する。
ブロック化部102は、折れ線圧縮部101から出力されたデータを、水平方向に隣接する16画素分の同色成分画素からなるブロックに分離し、分離したブロックごとに出力する。これにより、ブロック内のデータの相関が強くなり、この後の量子化処理による画質劣化を抑制することができる。
例えば、ベイヤ配列の撮像素子11が用いられた場合、出力データには、R成分とGr成分の繰り返しと、B成分とGb成分の繰り返しとが、1ラインごとに出現する。例として、ブロック化部102への入力データに、R0,Gr0,R1,Gr1,……,R15,Gr15のように、R成分とGr成分が繰り返し現れる場合には、R0,R1,R2,……,R15,Gr0,Gr1,……,Gr15のように、同色成分の画素が16個連続して現れるように、出力順序を変換して、ブロック化する。
最大/最小検出部103は、1ブロック内における最大値および最小値を検出する。具体的には、1ブロック内における最大値および最小値と、最大値および最小値をとった画素が1ブロックの先頭からそれぞれ何番目かを示すアドレス(以下、最大値アドレスおよび最小値アドレスと呼ぶ)を検出する。最大値アドレスおよび最小値アドレスは、それぞれ0〜15のアドレス値として検出される。
ただし、同一の値を持つ画素がブロック内に複数存在し、かつその値が最大値または最小値であった場合を考慮して、最大値および最小値の判定には、以下のような判定ルールを設けることで、圧縮・伸張処理上の混乱を避けるようにする。まず、最大値の判定にあたっては、初期化動作として、0番目の画素の値をテンポラリな最大値(テンポラリ最大値)として取り込む。次に、1〜15番目の画素については、テンポラリ最大値以上の値であれば、その画素の値でテンポラリ最大値を更新する。これにより、15番目の画素の判定後のテンポラリ最大値が、ブロック内の最大値と判定される。
また、最小値の判定にあたっては、同様に、初期化動作として、0番目の画素の値をテンポラリな最小値(テンポラリ最小値)として取り込む。次に、1〜15番目の画素については、テンポラリ最値未満の値であれば、その画素の値でテンポラリ最小値を更新する。これにより、15番目の画素の判定後のテンポラリ最小値が、ブロック内の最小値と判定される。
例えば、16画素のうち、先頭の2画素(0番目,1番目)が、同一の最大値をとる場合には、最大値アドレスは“1”となる。また、16画素がすべて同じ値の場合には、最小値アドレスは“0”、最大値アドレスは“15”となる。
なお、最大/最小検出部103は、検出した最小値および最大値を、それぞれ最小値ラッチ部104および最大値ラッチ部105に出力し、最小値アドレスおよび最大値アドレスを、それぞれ最小値アドレスラッチ部106および最大値アドレスラッチ部107に出力する。また、入力された1ブロック分のデータを、そのブロックの最大および最小判定の終了後に、減算器108に順次出力する。
最小値ラッチ部104および最大値ラッチ部105は、最大/最小検出部103からの最小値および最大値を、それぞれラッチする。また、最小値アドレスラッチ部106および最大値アドレスラッチ部107は、最大/最小検出部103からの最小値アドレスおよび最大値アドレスを、それぞれラッチする。これらの最小値ラッチ部104、最大値ラッチ部105、最小値アドレスラッチ部106、および最大値アドレスラッチ部107は、入力データに対応するブロックがパッキング部112において符号化されるまでの間、その入力データをラッチする。
減算器108は、最大/最小検出部103から出力される画素のデータから、最小値ラッチ部104が出力する対応するブロックの最小値を減算する。この減算は、1ブロック内の画素に共通するDCオフセット分を、各画素のデータから差し引くことと等価である。
減算器109は、最大値ラッチ部105が出力する最大値から、最小値ラッチ部104が出力する対応するブロックの最小値を減算する。この減算結果は、量子化時におけるダイナミックレンジ(DR)を示す。
量子化器110は、減算器108の出力データを、減算器109から出力されるダイナミックレンジの大きさに従って量子化する。本実施の形態では、例として、7ビットの固定長で量子化する。
この量子化器110としては、例えば、整数型の除算器を利用して、減算器108の出力データをダイナミックレンジで除算する構成を適用できる。また、量子化ステップを2のべき乗に限定した場合には、以下のように動作するビットシフタを適用でき、これにより回路規模を削減することができる。なお、圧縮処理側でこのようなビットシフタを利用すると、伸張処理側の逆量子化においても同様に回路規模を削減できる。
減算器108からの11ビットの入力データを7ビットデータに量子化する場合、例えば以下のようなシフト動作を行えばよい。
[0≦DR≦127のとき]入力データをそのまま出力する。
[128≦DR≦255のとき]入力データを1ビット分下位にシフトする。
[256≦DR≦511のとき]入力データを2ビット分下位にシフトする。
[512≦DR≦1023のとき]入力データを3ビット分下位にシフトする。
[1024≦DR≦2047のとき]入力データを4ビット分下位にシフトする。
量子化データバッファ111は、量子化器110から出力される16画素分の量子化データを一時的に保持する。
パッキング部112は、量子化データバッファ111、最小値ラッチ部104、最大値ラッチ部105、最小値アドレスラッチ部106、および最大値アドレスラッチ部107からの出力データを利用して、1ブロック当たり128ビットの圧縮データにパッキングする。このパッキング部112は、量子化データバッファ111から各画素に対応する量子化データを読み出す際に、最小値アドレスラッチ部106および最大値アドレスラッチ部107の出力データに基づいて、最大値および最小値に対応する量子化データを破棄し、次の図4に示すように、ブロック内の残りの14画素分の量子化データのみパッキングする。
図4は、パッキングにより生成される1ブロック分の圧縮データの構成を示す図である。
この図4に示すように、圧縮データは、ブロック内の最大値および最小値(ともに11ビット)と、それらの値に対応する最大値アドレスおよび最小値アドレス(ともに4ビット)と、最大値および最小値をとる画素を除く14画素分の量子化データ(98ビット)とから構成される。
ここで、ブロック内の最大値および最小値がパッキングされているので、これらに対応する量子化データを省略し、代わりに、これらの画素の位置を示す最大値アドレスおよび最小値アドレスをパッキングしておくことで、伸張時に元のデータを復元可能にしている。量子化データが7ビットなのに対して、アドレスは16番地分のため4ビットであるので、これらの差分から、1ブロック当たり、最大値および最小値をあわせて6ビットの削減効果が得られる。以上より、256ビット分のメモリ領域を占める16画素分のRAWデータを、1/2に圧縮した128ビットのデータが得られる。
次に、図5は、RAW伸張部の内部構成を示すブロック図である。
図5に示すように、RAW伸張部32は、データラッチ部201、セレクタ202、減算器203、逆量子化器204、加算器205、アドレスカウンタ206、アドレス比較部207、セレクタ208、逆折れ線変換部209、および点順次処理部210を備えている。
データラッチ部201は、SDRAM14から読み出された128ビットの圧縮データをラッチする。なお、このデータラッチ部201は、入力データに対応するブロックがセレクタ208においてすべて処理されるまでの間、その入力データをラッチする。
セレクタ202は、データラッチ部201でラッチされたデータのうち、量子化データ(98ビット)を受け取り、そのデータから1画素分に相当する7ビット分のデータをシーケンシャルに選択して、逆量子化器204に供給する。
減算器203は、データラッチ部201でラッチされたデータのうち、最大値(11ビット)および最小値(11ビット)を受け取り、最大値から最小値を減算して、ダイナミックレンジを出力する。
逆量子化器204は、セレクタ202からの画素ごとの量子化データを、ダイナミックレンジの大きさに従って逆量子化する。本実施の形態では、7ビットの固定長符号を逆量子化して、11ビットのデータを出力する。
この逆量子化器204としては、例えば、整数型の乗算器を利用して、量子化データとダイナミックレンジを乗算する構成を適用できる。また、上記の量子化器110の説明で述べた通り、量子化ステップを2のべき乗に限定して量子化した場合には、ビットシフタで構成することができ、これにより回路規模を削減することができる。このビットシフタは、例えば以下のように動作する。
[0≦DR≦127のとき]入力データ(量子化データ)をそのまま出力する。
[128≦DR≦255のとき]入力データを1ビット分上位にシフトする。
[256≦DR≦511のとき]入力データを2ビット分上位にシフトする。
[512≦DR≦1023のとき]入力データを3ビット分上位にシフトする。
[1024≦DR≦2047のとき]入力データを4ビット分上位にシフトする。
加算器205は、逆量子化器204の出力データと、データラッチ部201でラッチされた最小値とを加算する。これにより、逆量子化されたデータに、ブロック内の共通のDCオフセット値が加算される。
アドレスカウンタ206は、画素の出力タイミングにあわせてカウントアップ動作を行い、ブロック内の画素順に対応したカウント値(0〜15)を生成する。
アドレス比較部207は、データラッチ部201でラッチされたデータのうち、最大値アドレスおよび最小値アドレスを受け取り、アドレスカウンタ206からのカウント値と比較し、各アドレスの値と一致した場合に、セレクタ208に対して選択信号を出力する。
セレクタ208は、加算器205からのデータ、データラッチ部201からの最大値および最小値を選択して出力する。具体的には、アドレス比較部207から、最大値アドレスに対応する選択信号を受信したときは、データラッチ部201からの最大値を選択出力し、最小値アドレスに対応する選択信号を受信したときは、データラッチ部201からの最小値を選択出力し、それ以外では、加算器205からのデータを選択出力する。これにより、11ビットに圧縮されている同色画素のデータが、画素順に伸張される。
逆折れ線変換部209は、セレクタ208からのデータを、RAW圧縮部31の折れ線圧縮部101と逆の特性により、11ビットから14ビットのデータに伸張する。
ここで、図6は、逆折れ線変換部で用いられる折れ線の例を示す図である。
この図6の折れ線は、図3で示した折れ線圧縮部101における折れ線と、逆の特性により階調を変換するようになっている。逆折れ線変換部209は、まず、入力データに8を乗算(すなわち3ビット分上位にシフト)して14ビット化した後、図6の折れ線を用いて階調変換し、14ビットの画素のデータを伸張する。なお、入力データと伸張後の出力データとを対応付けて記憶したROMテーブルを用意し、このROMテーブルに従って入出力データの変換が行われてもよい。
なお、圧縮時に、折れ線圧縮部101による圧縮が適用されなかった場合には、伸張時には、この逆折れ線変換部209でのデータ変換もバイパスされる。
以下、図5に戻って説明する。
点順次処理部210は、RAW圧縮部31のブロック化部102で実行されたブロック化と逆のプロセスで、伸張されたデータを元のRAWデータの画素順に変換して出力する。例えば、R0,R1,R2,……,R15,Gr0,Gr1,……,Gr15のように、同色成分の画素が16個連続するようにブロック化されて圧縮されていた場合には、このようなデータを、R0,Gr0,R1,Gr1,……,R15,Gr15のように、R成分とGr成分が繰り返し現れるように並び替える。このような並び替えを行うために、点順次処理部210は、伸張された2ブロック分のデータを保持するためのバッファメモリを備え、2ブロック分のデータがバッファメモリに蓄積された時点で、各色成分のデータを交互に出力する。
以上の構成のRAW圧縮部31およびRAW伸張部32によれば、圧縮時の1画素当たりの量子化語長を固定長とすることで、固定長の符号化を行って圧縮することができる。従って、内部バス28を通じてSDRAM14に読み書きされるデータの帯域を、一定のレベルに低減することができ、SDRAM14に対するアドレス管理を簡易にすることもできる。
また、圧縮する1ブロックの画素数と量子化語長との組み合わせで圧縮率が決まるので、必要とする画質(すなわち、許容できる圧縮ひずみの量)や、伝送されるバスでの伝送帯域の割り当て、SDRAM14の読み書きの性能などにあわせて、柔軟に対応することができる。例えば、上記の実施の形態のように、16画素分のRAWデータを、量子化語長7ビットで量子化することで、圧縮率を1/2としながらも、通常の自然画であれば、圧縮/伸張後に輝度/色差信号に変換した時点でのPSNRを、50dB程度に維持できる。従って、圧縮歪みが肉眼では検知できない程度に抑えられ、画質劣化をほぼなくすことができる。
また、基本的に一次元処理により圧縮/伸張処理が実行されるので、例えば、上下ラインの画素のデータを参照するためのラインメモリが不要になり、処理も比較的簡単になる。このため、圧縮/伸張のための回路規模や、製造コストを抑制でき、処理の高速化、および処理時間の短縮の効果を高められる。
従って、撮像時の動作が高速で、高画質の画像を記録/表示でき、かつ、小型で製造コストの比較的低い撮像装置を実現できる。
なお、上記構成のRAW圧縮部31およびRAW伸張部32では、量子化語長の設定により、可変長の符号化を行うようにすることもできる。例えば、圧縮時において、ダイナミックレンジを基に適応的に量子化語長を変化させることで、可変長の符号化を行い、圧縮効率をさらに高めることができる。さらに、同様の手法で可逆圧縮として、画質劣化を完全に防止することもできる。ただし、この場合には折れ線による圧縮/伸張は行わない。
また、CPU25により、RAW圧縮部31およびRAW伸張部32の設定を適応的に制御してもよい。例えば、量子化語長や1ブロックの画素数を変化させる、折れ線圧縮/伸張機能をオン/オフするなどの制御により、圧縮率を変化させることができる。また、RAW圧縮部31およびRAW伸張部32の機能をオン/オフできるようにしてもよい。例えば、連写時のみ圧縮/伸張機能をオンにする、RAWデータをストレージデバイス16に記録するモードでは圧縮/伸張機能をオフにするなどの制御を適用できる。
また、RAW圧縮部31およびRAW伸張部32の機能を、上記の位置の代わりに、例えばSDRAMコントローラ27と内部バス28との間に設けた場合でも、SDRAM14に対するRAWデータの書き込み/読み出しに要する時間を短縮し、SDRAM14の容量を小さくする効果が得られる。
次に、上記の第1の実施の形態の変形例について説明する。
〔第2の実施の形態〕
図7は、本発明の第2の実施の形態に係る撮像装置において、RAW圧縮部により出力される圧縮データの構成を示す図である。
上述した圧縮手法において、量子化ステップを2のべき乗とした場合には、量子化器はビットシフタにより構成できる。この場合、シフト量が、ブロック内のダイナミックレンジを示唆することになる。ここで、ブロック内の最大値を量子化した場合は、その全ビットが1となるのは自明であるため、伸張側では、最大値の絶対量の代わりに、シフト量から、最大値の量子化データを求め、伸張できる。
従って、図7に示すように、圧縮データ中に、最大値(11ビット)の代わりに量子化器でのシフト量(上記動作例では少なくとも3ビット)を格納することで、圧縮データに格納すべきデータのビット数を減らすことができる。このため、圧縮率をさらに高める、あるいは量子化語長を拡張して画質を向上させることが可能となる。
なお、図7の例では、内部バス28のバス幅を64ビットと想定して、圧縮データをこのバス幅に合わせるため、8ビット分の空き領域を設けている。
〔第3の実施の形態〕
図8は、本発明の第3の実施の形態に係る撮像装置において、RAW圧縮部により出力される圧縮データの構成を示す図である。
上記の各実施の形態では、RAWデータをラインごとにブロック化して圧縮する例を示したが、上記の圧縮/伸張手法を応用して、複数ラインに亘る矩形領域ごとにブロック化することも可能である。例えば、CMOSセンサのように全画素読み出し(プログレッシブ読み出し)が可能な撮像素子を用いた場合には、シーケンシャルに画素のデータが読み出されるため、垂直方向に対する画素のデータの相関が強くなる。従って、矩形領域内の画素をブロック化しても、画質を劣化させることなく圧縮を行うことができる。
図8では、例として、8画素×8画素の領域の同色画素のデータをブロック化した場合の圧縮データの例を示している。1ブロックは64画素分に対応するので、最大値アドレスおよび最小値アドレスを、ともに6ビットにしている。また、この例では、画素間の相関を考慮して、量子化語長を5ビットとしている。また、64ビットのバス幅を想定して、このバス幅に合わせて40ビットの空き領域を設定し、圧縮データを384ビットとしている。
ここで、例えば64画素分のRAWデータをSDRAM14に格納する場合、SDRAM14上では1024ビット分の領域が占有される。これに対して、図8の例では、必要な領域が384ビットとなり、圧縮率が1/2.6となり、例えば非圧縮のRAWデータを4フレーム分だけ格納できる領域に、圧縮したRAWデータを10フレーム分格納できることになる。
なお、複数ラインの画素をブロック化するためには、RAW圧縮部31、RAW伸張部32とも、内部に複数ラインの画素のデータを蓄積するためのラインメモリなどが必要となる。しかし、例えば、複数ライン分の同色成分の画素信号を同時に出力可能なマルチチャネル仕様の撮像素子を利用した場合には、1ブロック分など、水平方向の画素数が1ラインよりずっと少ない数のラインセンサを用いればよくなり、好適である。
また、矩形領域ごとにブロック化する場合には、特に、RAW圧縮部31とカメラ信号前処理部21とを一体化した構成とすることもできる。例えば、カメラ信号前処理部21が備える欠陥画素補正機能は、対象の画素が欠陥である場合に、その画素のデータを周囲の画素のデータを用いて補間する。また、カメラ信号前処理部21には、周囲画素からの推測値と比較して著しくレベルの異なる画素の信号を補正する孤立点除去処理機能を備える場合もある。このような欠陥画素補正機能や孤立点除去処理機能は、周囲画素のデータを利用するためにラインメモリを用いるため、RAW圧縮部31において最大値/最小値を検出する機能と親和性が高い。従って、ラインメモリを共通化するなどして、RAW圧縮部31の機能またはその一部をカメラ信号前処理部21内に形成することができる。
〔第4の実施の形態〕
図9は、本発明の第4の実施の形態に係る撮像装置の構成を概略的に示すブロック図である。なお、図9では、図1に対応する機能については同じ符号を付して示し、その説明を省略する。
図9に示す撮像装置では、撮像素子11と、サンプルホールド機能やA/D変換機能を含むAFE回路12とを、1つのセンサLSI(Large Scale Integration)301上に形成している。そして、このセンサLSI301上に、RAW圧縮部31も一体に形成している。なお、この図9のカメラ信号処理部22aは、図1のカメラ信号処理部22の機能とともにカメラ信号前処理部21の機能も備える。
このような構成により、上述したような、SDRAM14に対するRAWデータの書き込み/読み出しの処理負荷を軽減し、デジタル画像処理回路13aの内部バス28におけるRAWデータの伝送帯域を低減する効果の他に、センサLSI301からデジタル画像処理回路13aに対するデータ転送周波数を低減し、消費電力を抑制する効果も得ることができる。また、センサLSI301からデジタル画像処理回路13aに対するバスからの輻射も低減でき、センサLSI301の内部の信号などに与える影響が抑制される。また、輻射防止のためのシート部材などを薄くしたり、あるいは省略することができ、装置を薄型化・小型化する効果も得られる。
さらに、この図9の例では、デジタル画像処理回路13a内のCPU25から、センサLSI301内のRAW圧縮部31の機能のオン/オフを制御できるようになっている。この場合、RAW伸張部32のオン/オフは、CPU25から内部バス28を通じて制御すればよい。このような構成により、例えば、連写時のみ圧縮/伸張機能をオンにする、RAWデータをストレージデバイス16に記録するモードでは圧縮/伸張機能をオフにするなど、設定に応じた動作を実現できる。
また、オン/オフだけでなく、RAW圧縮部31の設定をCPU25から適宜制御できるようにしてもよい。
〔第5の実施の形態〕
図10は、本発明の第5の実施の形態に係る撮像装置の構成を概略的に示すブロック図である。なお、図10では、図1に対応する機能については同じ符号を付して示し、その説明を省略する。
図10に示す撮像装置では、AFE回路12aの内部に、CDSによるサンプルホールド部12bと、A/D変換部12cとともに、RAW圧縮部31も、1つのチップとして一体に形成されている。なお、この図10のカメラ信号処理部(図示せず)も、図9の場合と同様に、図1のカメラ信号処理部22の機能とともにカメラ信号前処理部21の機能も備える。
このような構成により、上記の図9の場合と同様に、SDRAM14に対するRAWデータの書き込み/読み出しの処理負荷を軽減し、デジタル画像処理回路13の内部バス28におけるRAWデータの伝送帯域を低減する効果の他に、AFE回路12aからデジタル画像処理回路13に対するデータ転送周波数を低減し、消費電力を抑制する効果や、輻射防止効果も得ることができる。
なお、本実施の形態でも、図9と同様に、デジタル画像処理回路13b内のCPU(図示せず)から、RAW圧縮部31の機能のオン/オフを制御できるようにしてもよい。また、CPUから、RAW圧縮部31の設定を適用的に制御できるようにしてもよい。
本発明の第1の実施の形態に係る撮像装置の構成を示すブロック図である。 RAW圧縮部の内部構成を示すブロック図である。 折れ線圧縮部で用いられる折れ線の例を示す図である。 パッキングにより生成される1ブロック分の圧縮データの構成を示す図である。 RAW伸張部の内部構成を示すブロック図である。 逆折れ線変換部で用いられる折れ線の例を示す図である。 本発明の第2の実施の形態に係る撮像装置において、RAW圧縮部により出力される圧縮データの構成を示す図である。 本発明の第3の実施の形態に係る撮像装置において、RAW圧縮部により出力される圧縮データの構成を示す図である。 本発明の第4の実施の形態に係る撮像装置の構成を概略的に示すブロック図である。 本発明の第5の実施の形態に係る撮像装置の構成を概略的に示すブロック図である。 従来の撮像装置の構成例を示すブロック図である。
符号の説明
11……撮像素子、12……アナログフロントエンド(AFE)回路、13……デジタル画像処理回路、14……SDRAM、14a……キャプチャデータエリア、14b……JPEG符号エリア、14c……CPUワークエリア、15……ROM、16……ストレージデバイス、21……カメラ信号前処理部、22……カメラ信号処理部、23……解像度変換部、24……JPEGエンジン、25……CPU、26……ビデオ出力エンコーダ、26a……ビデオ出力端子、27……SDRAMコントローラ、28……内部バス、31……RAW圧縮部、32……RAW伸張部

Claims (18)

  1. 固体撮像素子を用いて画像を撮像する撮像装置において、
    前記固体撮像素子により撮像され、デジタル変換された画像データを圧縮する圧縮部と、
    前記圧縮部により圧縮された圧縮画像データを一時的に保持するメモリと、
    前記メモリから読み出した前記圧縮画像データを伸張する伸張部と、
    前記伸張部により伸張された画像データに対して画質補正処理を施す信号処理部と、
    を有し、
    前記圧縮部は、所定数の画素データからなるブロック内の前記画素データの最大値および最小値と、それらの当該ブロック内での位置情報と、前記最大値および前記最小値を除く当該ブロック内の前記画素データから、前記最小値を減算した減算値を量子化した量子化データとからなる前記圧縮画像データを生成し、前記量子化データのビット数より前記位置情報のビット数の方が小さくされたことを特徴とする撮像装置。
  2. 前記圧縮部は、
    前記ブロックごとに、前記画素データの前記最大値および前記最小値と、それらの当該ブロック内での前記位置情報とを検出する最大/最小検出部と、
    前記画素データから、対応する前記ブロックにおける前記最小値を減算した前記減算値を、当該ブロック内の前記最大値と前記最小値との差分値として算出したダイナミックレンジに応じて量子化する量子化部と、
    前記ブロックごとに、当該ブロックにおける前記最大値、前記最小値、およびそれらの前記位置情報と、前記量子化部で量子化された量子化データのうち、前記最大値および前記最小値に対応するものを除く前記量子化データとをパッキングして前記圧縮画像データを生成するパッキング部と、
    を有することを特徴とする請求項1記載の撮像装置。
  3. 前記伸張部は、
    前記ブロックごとの前記圧縮画像データから抽出した前記量子化データを、当該圧縮画像データから抽出した前記最大値と前記最小値との差分値として算出した前記ダイナミックレンジに応じて逆量子化する逆量子化部と、
    前記逆量子化部により逆量子化されたデータに前記最小値を加算する加算部と、
    前記ブロックごとの前記圧縮画像データから抽出した前記最小値および前記最大値の前記各位置情報に基づき、前記最大値と、前記最小値と、前記加算部からの出力値とを、前記圧縮部に入力された元の前記画素データの順に出力する出力制御部と、
    を有することを特徴とする請求項2記載の撮像装置。
  4. 固体撮像素子を用いて画像を撮像する撮像装置において、
    前記固体撮像素子により撮像され、デジタル変換された画像データを圧縮する圧縮部と、
    前記圧縮部により圧縮された圧縮画像データを一時的に保持するメモリと、
    前記メモリから読み出した前記圧縮画像データを伸張する伸張部と、
    前記伸張部により伸張された画像データに対して画質補正処理を施す信号処理部と、
    を有し、
    前記圧縮部は、
    所定数の画素データからなるブロックごとに、前記ブロック内の前記画素データの最大値および最小値と、それらの当該ブロック内での位置情報とを検出する最大/最小検出部と、
    量子化ステップを2のべき乗とし、前記画素データから、対応する前記ブロックにおける前記最小値を減算した減算値を、当該ブロック内の前記最大値と前記最小値との差分値として算出したダイナミックレンジに応じた数だけビットシフタにより下位にシフトし、シフトされた前記減算値を量子化データとして出力する量子化部と、
    前記ブロックごとに、当該ブロックにおける前記最小値と、前記最大値および前記最小値の当該ブロックにおける前記位置情報と、前記ビットシフタによるシフト量と、前記量子化部で量子化された前記量子化データのうち、前記最大値および前記最小値に対応するものを除く前記量子化データとをパッキングして前記圧縮画像データを生成するパッキング部と、
    を備えたことを特徴とする撮像装置。
  5. 前記伸張部は、
    前記ブロックごとの前記圧縮画像データから抽出した前記量子化データを、当該圧縮画像データから抽出した前記シフト量だけ上位にシフトすることで逆量子化するとともに、前記量子化データと同じビット数を持ち全ビットが1であるデータを前記シフト量だけ上位にシフトすることで、前記ブロック内の前記最大値を逆量子化する逆量子化部と、
    前記逆量子化部により逆量子化されたデータに前記最小値を加算する加算部と、
    前記ブロックごとの前記圧縮画像データから抽出した前記最小値および前記最大値の前記各位置情報に基づき、前記最大値と、前記最小値と、前記加算部からの出力値とを、前記圧縮部に入力された元の前記画素データの順に出力する出力制御部と、
    を有することを特徴とする請求項4記載の撮像装置。
  6. 前記圧縮部は、前記デジタル変換された画像データに対して、人間の視感度特性に応じて階調を変換した後、そのビット数を削減して前記圧縮部に供給する前圧縮部をさらに有することを特徴とする請求項1,2,4のいずれか1項に記載の撮像装置。
  7. 前記ブロックは、同色成分の前記画素データからなることを特徴とする請求項1〜6のいずれか1項に記載の撮像装置。
  8. 前記ブロックは、撮像画像上の矩形領域に含まれる前記画素データからなることを特徴とする請求項1〜7のいずれか1項に記載の撮像装置。
  9. 前記伸張部および前記信号処理部は、共通のバスを通じて前記メモリに接続され、前記伸張部により伸張された画像データは、前記バスを介さずに直接、前記信号処理部に入力されることを特徴とする請求項1〜8のいずれか1項に記載の撮像装置。
  10. 前記圧縮部は、前記圧縮画像データを前記バスを通じて前記メモリに書き込むことを特徴とする請求項9記載の撮像装置。
  11. 前記圧縮部は、前記デジタル変換を行う回路と同一のチップ上に形成されることを特徴とする請求項1〜10のいずれか1項に記載の撮像装置。
  12. 前記圧縮部は、前記デジタル変換を行う回路に加えて、前記固体撮像素子と同一のチップ上に形成されることを特徴とする請求項11記載の撮像装置。
  13. 前記圧縮部の機能は、外部の制御回路からの制御によりオン/オフされることを特徴とする請求項11記載の撮像装置。
  14. 前記圧縮部は、前記デジタル変換された画像データに対して、人間の視感度特性に応じて階調を変換した後、そのビット数を削減して前記圧縮部に供給する前圧縮部をさらに有し、
    前記伸張部は、前記出力制御部から出力された画像データを、前記前圧縮部と逆の手順で伸張する後伸張部をさらに有する、
    ことを特徴とする請求項3または5記載の撮像装置。
  15. 画像を撮像するための撮像回路において、
    入射光を電気信号に変換する固体撮像素子と、
    前記固体撮像素子による撮像信号をデジタル変換するデジタル変換回路と、
    前記デジタル変換回路からの画像信号を圧縮する圧縮回路と、
    が同一のチップ上に形成された構造を有し、
    前記圧縮回路は、
    所定数の画素データからなるブロックごとに、前記画素データの最大値および最小値と、それらの前記ブロック内での位置情報とを検出する最大/最小検出回路と、
    前記画素データから、対応する前記ブロックにおける前記最小値を減算した減算値を、対応する前記ブロック内の前記最大値と前記最小値との差分値として算出したダイナミックレンジに応じて量子化する量子化回路と、
    前記ブロックごとに、当該ブロックにおける前記最大値、前記最小値、およびそれらの前記位置情報と、前記量子化回路で量子化された量子化データのうち、前記最大値および前記最小値に対応するものを除く前記量子化データとをパッキングして、圧縮画像データを生成するパッキング回路と、
    を備え、前記量子化データのビット数より前記位置情報のビット数の方が小さくされたことを特徴とする撮像回路。
  16. 画像を撮像するための撮像回路において、
    入射光を電気信号に変換する固体撮像素子と、
    前記固体撮像素子による撮像信号をデジタル変換するデジタル変換回路と、
    前記デジタル変換回路からの画像信号を圧縮する圧縮回路と、
    が同一のチップ上に形成された構造を有し、
    前記圧縮回路は、
    所定数の画素データからなるブロックごとに、前記画素データの最大値および最小値と、それらの前記ブロック内での位置情報とを検出する最大/最小検出回路と、
    量子化ステップを2のべき乗とし、前記画素データから、対応する前記ブロックにおける前記最小値を減算した減算値を、対応する前記ブロック内の前記最大値と前記最小値との差分値として算出したダイナミックレンジに応じた数だけビットシフタにより下位にシフトし、シフトされた前記減算値を量子化データとして出力する量子化回路と、
    前記ブロックごとに、当該ブロックにおける前記最小値と、前記最大値および前記最小値の当該ブロックにおける前記位置情報と、前記ビットシフタによるシフト量と、前記量子化回路で量子化された量子化データのうち、前記最大値および前記最小値に対応するものを除く前記量子化データとをパッキングして、圧縮画像データを生成するパッキング回路と、
    を備えたことを特徴とする撮像回路。
  17. 固体撮像素子を用いて画像を撮像する撮像方法において、
    圧縮部が、前記固体撮像素子により撮像され、デジタル変換された画像データを基に、所定数の画素データからなるブロック内の前記画素データの最大値および最小値と、それらの当該ブロック内での位置情報と、前記最大値および前記最小値を除く当該ブロック内の前記画素データから、前記最小値を減算した減算値を量子化した量子化データとからなる圧縮画像データを生成して、一時的にメモリに格納するステップと、
    伸張部が、前記メモリに格納された前記圧縮画像データを読み出して伸張するステップと、
    信号処理部が、前記伸張部により伸張された画像データに対して画質補正処理を施すステップと、
    を含み、前記量子化データのビット数より前記位置情報のビット数の方が小さくされたことを特徴とする撮像方法。
  18. 固体撮像素子を用いて画像を撮像する撮像方法において、
    圧縮部が、前記固体撮像素子により撮像され、デジタル変換された画像データを圧縮して圧縮画像データを生成し、前記圧縮画像データを一時的にメモリに格納するステップと、
    伸張部が、前記メモリに格納された前記圧縮画像データを読み出して伸張するステップと、
    信号処理部が、前記伸張部により伸張された画像データに対して画質補正処理を施すステップと、
    を含み、
    前記圧縮画像データを生成する際に、前記圧縮部は、
    所定数の画素データからなるブロックごとに、前記ブロック内の前記画素データの最大値および最小値と、それらの当該ブロック内での位置情報とを検出し、
    量子化ステップを2のべき乗とし、前記画素データから、対応する前記ブロックにおける前記最小値を減算した減算値を、当該ブロック内の前記最大値と前記最小値との差分値として算出したダイナミックレンジに応じた数だけビットシフタにより下位にシフトし、シフトされた前記減算値を量子化データとして出力し、
    前記ブロックごとに、当該ブロックにおける前記最小値と、前記最大値および前記最小値の当該ブロックにおける前記位置情報と、前記ビットシフタによるシフト量と、前記量子化部で量子化された前記量子化データのうち、前記最大値および前記最小値に対応するものを除く前記量子化データとをパッキングして前記圧縮画像データを生成する、
    ことを特徴とする撮像方法。
JP2006050170A 2006-02-27 2006-02-27 撮像装置、撮像回路、および撮像方法 Expired - Fee Related JP4508132B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2006050170A JP4508132B2 (ja) 2006-02-27 2006-02-27 撮像装置、撮像回路、および撮像方法
TW096104954A TW200746806A (en) 2006-02-27 2007-02-12 Image capturing apparatus, imaging circuit, and image capturing method
US11/710,622 US8023748B2 (en) 2006-02-27 2007-02-23 Image capturing apparatus, imaging circuit, and image capturing method
EP20070003776 EP1841233A1 (en) 2006-02-27 2007-02-23 Image capturing apparatus, imaging circuit, and image capturing method
KR20070019389A KR20070089085A (ko) 2006-02-27 2007-02-27 촬상장치, 촬상회로 및 촬상방법
CN200710079945A CN100592759C (zh) 2006-02-27 2007-02-27 图像拍摄设备、成像电路、和图像拍摄方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006050170A JP4508132B2 (ja) 2006-02-27 2006-02-27 撮像装置、撮像回路、および撮像方法

Publications (2)

Publication Number Publication Date
JP2007228515A JP2007228515A (ja) 2007-09-06
JP4508132B2 true JP4508132B2 (ja) 2010-07-21

Family

ID=38362485

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006050170A Expired - Fee Related JP4508132B2 (ja) 2006-02-27 2006-02-27 撮像装置、撮像回路、および撮像方法

Country Status (6)

Country Link
US (1) US8023748B2 (ja)
EP (1) EP1841233A1 (ja)
JP (1) JP4508132B2 (ja)
KR (1) KR20070089085A (ja)
CN (1) CN100592759C (ja)
TW (1) TW200746806A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10728470B2 (en) 2016-06-14 2020-07-28 Olympus Corporation Image processing device, image processing method, and non-transitory computer readable medium storing image processing program

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4869149B2 (ja) * 2007-05-16 2012-02-08 オリンパスイメージング株式会社 画像データ圧縮装置、画像データ圧縮方法およびプログラム
JP2009124278A (ja) * 2007-11-13 2009-06-04 Hitachi Ltd 撮像装置
JP4504412B2 (ja) * 2007-11-28 2010-07-14 アキュートロジック株式会社 画像処理装置及び画像処理方法
JP5436870B2 (ja) * 2008-02-05 2014-03-05 オリンパス株式会社 画像通信装置
TWI387335B (zh) * 2008-05-26 2013-02-21 Novatek Microelectronics Corp 信號調節電路及其視訊裝置
JP5238365B2 (ja) * 2008-06-05 2013-07-17 富士フイルム株式会社 撮像装置
JP5206174B2 (ja) 2008-07-08 2013-06-12 株式会社リコー ズームレンズおよびカメラおよび携帯情報端末装置
JP2011049901A (ja) * 2009-08-27 2011-03-10 Panasonic Corp 固体撮像装置、撮像装置
US8872930B1 (en) 2009-10-27 2014-10-28 Ambarella, Inc. Digital video camera with internal data sample compression
US8705623B2 (en) * 2009-10-02 2014-04-22 Texas Instruments Incorporated Line-based compression for digital image data
JP5530198B2 (ja) 2009-11-20 2014-06-25 パナソニック株式会社 画像符号化方法、復号化方法、装置
US8687125B2 (en) * 2010-05-18 2014-04-01 Sharp Kabushiki Kaisha Image processing system and display device for carrying out subtraction or addition of a pixel value of a target pixel in accordance with a value equivalent to a noise quantity
CN102812698B (zh) * 2010-05-28 2015-07-22 松下电器产业株式会社 摄像装置
JP5529685B2 (ja) 2010-09-03 2014-06-25 パナソニック株式会社 画像符号化方法、画像復号化方法、画像符号化装置及び画像復号化装置
CN102857753B (zh) * 2011-07-01 2015-11-25 华为技术有限公司 一种参考帧压缩和解压方法及装置
US8687086B1 (en) 2012-03-30 2014-04-01 Gopro, Inc. On-chip image sensor data compression
CN103517022B (zh) * 2012-06-29 2017-06-20 华为技术有限公司 一种图像数据压缩和解压缩方法、装置
CN104243886B (zh) * 2014-09-28 2018-07-20 中国电子科技集团公司第二十七研究所 一种基于插件技术的高速图像解析及视频生成方法
JP6355595B2 (ja) * 2015-06-02 2018-07-11 キヤノン株式会社 撮像素子、撮像装置、撮像素子の制御方法、プログラムおよび記憶媒体
CN107846589B (zh) * 2016-09-19 2020-07-07 上海臻瞳电子科技有限公司 一种基于局部动态量化的图像压缩方法
WO2019078319A1 (ja) * 2017-10-19 2019-04-25 ソニー株式会社 情報処理装置と情報処理方法および撮像装置とプログラム
WO2020077625A1 (zh) * 2018-10-19 2020-04-23 深圳市汇顶科技股份有限公司 数据处理方法及装置
CN111343462B (zh) * 2020-03-08 2021-10-22 苏州浪潮智能科技有限公司 一种图像数据压缩传输方法、装置及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005086226A (ja) * 2003-09-04 2005-03-31 Auto Network Gijutsu Kenkyusho:Kk 撮像装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2629238B2 (ja) * 1988-02-05 1997-07-09 ソニー株式会社 復号装置及び復号方法
WO1990002465A2 (en) 1988-08-23 1990-03-08 Waldemar Kehler Hierarchically range adaptive coding method for signals, especially suitable for picture analysis and codings
JPH03238992A (ja) * 1990-02-15 1991-10-24 Sony Corp ビデオカメラ装置
JPH0474063A (ja) * 1990-07-13 1992-03-09 Matsushita Electric Ind Co Ltd 画像の符号化方法
JP3106749B2 (ja) * 1992-12-10 2000-11-06 ソニー株式会社 適応型ダイナミックレンジ符号化装置
JP4190576B2 (ja) 1994-08-31 2008-12-03 ソニー株式会社 撮像信号処理装置及び撮像信号処理方法、並びに撮像装置
US5878168A (en) * 1995-06-05 1999-03-02 Sony Corporation Method and apparatus for picture encoding and decoding
US5734433A (en) * 1995-06-21 1998-03-31 Sony Corporation Picture encoding apparatus, picture encoding method, picture encoding and transmitting method, and picture record medium
JP3687080B2 (ja) * 1996-07-17 2005-08-24 ソニー株式会社 画像符号化装置および画像符号化方法、画像復号化装置および画像復号化方法、並びに記録媒体
JPH10271529A (ja) 1997-03-21 1998-10-09 Mitsubishi Electric Corp 画像処理装置及び静止画像撮像装置並びに画像処理方法
US6363118B1 (en) * 1999-02-12 2002-03-26 Sony Corporation Apparatus and method for the recovery of compression constants in the encoded domain
US6535148B1 (en) * 1999-02-12 2003-03-18 Sony Corporation Method and apparatus for truncated decoding
EP1073279A4 (en) 1999-02-19 2006-04-05 Sony Corp PICTURE SIGNAL PROCESSOR, PICTURE SIGNAL PROCESSING METHOD, LEARNING DEVICE, LERMETHOID AND RECORDING MEDIUM
US6404927B1 (en) * 1999-03-15 2002-06-11 Exar Corporation Control point generation and data packing for variable length image compression
US6549672B1 (en) * 1999-06-29 2003-04-15 Sony Corporation Method and apparatus for recovery of encoded data using central value
JP3864748B2 (ja) 2001-10-10 2007-01-10 株式会社ニコン 画像処理装置、電子カメラ、および画像処理プログラム
JP2004040300A (ja) 2002-07-01 2004-02-05 Fuji Photo Film Co Ltd 画像処理装置
US7009533B1 (en) * 2004-02-13 2006-03-07 Samplify Systems Llc Adaptive compression and decompression of bandlimited signals

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005086226A (ja) * 2003-09-04 2005-03-31 Auto Network Gijutsu Kenkyusho:Kk 撮像装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10728470B2 (en) 2016-06-14 2020-07-28 Olympus Corporation Image processing device, image processing method, and non-transitory computer readable medium storing image processing program

Also Published As

Publication number Publication date
US20070223824A1 (en) 2007-09-27
CN101031021A (zh) 2007-09-05
US8023748B2 (en) 2011-09-20
EP1841233A1 (en) 2007-10-03
KR20070089085A (ko) 2007-08-30
JP2007228515A (ja) 2007-09-06
TW200746806A (en) 2007-12-16
CN100592759C (zh) 2010-02-24

Similar Documents

Publication Publication Date Title
JP4508132B2 (ja) 撮像装置、撮像回路、および撮像方法
JP4337911B2 (ja) 撮像装置、撮像回路、および撮像方法
US10986323B2 (en) Image capturing apparatus and image capturing method
JP4321496B2 (ja) 画像データ処理装置、画像データ処理方法およびプログラム
US9560256B2 (en) Image capture apparatus and image capture method in which an image is processed by a plurality of image processing devices
US20080174681A1 (en) Digital camera for recording a still image while shooting a moving image
US8823832B2 (en) Imaging apparatus
JP2008113070A (ja) 撮像装置および撮像方法
JP2008124671A (ja) 撮像装置および撮像方法
JP2010074597A (ja) 画像処理装置、画像処理方法、プログラムおよび撮像装置
JP2009290556A (ja) 画像情報処理装置及び画像情報処理方法
JP7289642B2 (ja) 画像処理装置、画像処理装置の制御方法、及びプログラム
JP2010147531A (ja) 撮像装置と撮像方法
JP2007228514A (ja) 撮像装置および方法
JP2006197181A (ja) 固体撮像素子の信号処理装置および信号処理方法、並びに画像処理装置
JP2011239240A (ja) 撮像装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100329

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100413

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100426

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130514

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees