JP3164481B2 - 撮像装置 - Google Patents

撮像装置

Info

Publication number
JP3164481B2
JP3164481B2 JP31682494A JP31682494A JP3164481B2 JP 3164481 B2 JP3164481 B2 JP 3164481B2 JP 31682494 A JP31682494 A JP 31682494A JP 31682494 A JP31682494 A JP 31682494A JP 3164481 B2 JP3164481 B2 JP 3164481B2
Authority
JP
Japan
Prior art keywords
pixels
pixel
interpolation
unit
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP31682494A
Other languages
English (en)
Other versions
JPH08172636A (ja
Inventor
利明 原田
栄二 山田
哲男 岩木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP31682494A priority Critical patent/JP3164481B2/ja
Priority to US08/574,619 priority patent/US5657082A/en
Publication of JPH08172636A publication Critical patent/JPH08172636A/ja
Application granted granted Critical
Publication of JP3164481B2 publication Critical patent/JP3164481B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/048Picture signal generators using solid-state devices having several pick-up sensors
    • H04N2209/049Picture signal generators using solid-state devices having several pick-up sensors having three pick-up sensors
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S348/00Television
    • Y10S348/913Letterbox, e.g. display 16:9 aspect ratio image on 4:3 screen

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Color Television Systems (AREA)
  • Television Systems (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、ビデオカメラの映像信
号やビデオスチルカメラの静止画信号等の画像信号を得
ることができる撮像装置に関する。
【0002】
【従来の技術】近年のディジタル信号処理技術の進歩に
より、映像信号のディジタル化が容易になり、ディジタ
ルVTR等が家庭用又はパーソナルユースとして普及の
兆しを見せ始めている。ディジタルVTRは、高S/N
比(信号対雑音比)で高画質の映像を得ることができ、
ディジタルダビングによる信号劣化がないため高品質の
編集等が行えるという点でアナログVTRよりも優れて
いるため、従来から要望の高かったものである。また、
このディジタルVTRは、SD[Standard Definition]
フォーマットとHD[High Definition]フォーマットの
統一規格が既に制定されていて仕様が明確化されている
ことも、今後の普及に際して有利となる。
【0003】上記SDフォーマットの仕様を図15に示
し、HDフォーマットの仕様を図16に示す。ただし、
これらのフォーマットは、各ラインの画素数とライン数
(走査線数)が異なり、しかも画面の縦横比であるアス
ペクト比も異なる。そして、このように異なるフォーマ
ットの映像信号を得るには、本来それぞれの方式に適合
したCCD撮像素子等を用いる必要があり、各CCD撮
像素子等が高価であるため、これら複数のフォーマット
に適合したビデオカメラは高価なものとなる。
【0004】そこで、1種類の方式に適合したCCD撮
像素子を用いて複数のフォーマットの映像信号を出力す
ることができる撮像装置が従来から提案されていた(特
開平5−207377公報)。この撮像装置は、図17
に示すように、CCD撮像素子51とCCD駆動部52
と不要電荷転送部53とで構成されている。CCD撮像
素子51は、出力可能なフォーマットのうちで最も高画
素数のフォーマットに適合した撮像素子であり、例えば
水平1920×垂直1035画素の合計約200万画素
を有するハイビジョン方式に適合したものが用いられ
る。CCD駆動部52は、このCCD撮像素子51にお
ける必要な領域の各画素の信号をインターレース走査又
はノンインターレース走査によって順次読み出す装置で
ある。また、不要電荷転送部53は、このCCD撮像素
子51における不要な画素の電荷を垂直帰線期間内に転
送し破棄するための装置である。
【0005】上記撮像装置は、ハイビジョン方式の映像
信号を出力する場合には、CCD撮像素子51の水平1
920×垂直1035画素の全画素についてインターレ
ース走査を行う。また、NTSC[National Television
System Committee]方式の映像信号を出力する場合に
は、CCD撮像素子51の全画素のうちの水平1370
×垂直984画素の領域の画素についてインターレース
走査を行う。これらのインターレース走査では、例えば
第1フィールドの走査時に、まず不要電荷転送部53が
第2フィールド側の各ラインの画素に蓄積された電荷を
転送破棄した後に、第1フィールドの各ラインの画素の
電荷を垂直転送部に転送すると共に順次水平転送部に転
送して出力する。また、NTSC方式の場合には、水平
方向に550個、垂直方向に51個の画素が不要となる
ので、これらの画素についても不要電荷転送部53で同
時に転送破棄する。従って、この撮像装置は、CCD撮
像素子51の全領域又は一部の領域の画素を読み出すこ
とにより、異なるフォーマットの映像信号を出力するこ
とができる。
【0006】ところで、安価で画素数の少ないCCD撮
像素子の解像度を向上させる技術としていわゆる空間斜
め画素ずらし法がある。この空間斜め画素ずらし法は、
図18に示すように、RGB三原色の各色用のCCD撮
像素子の画素ピッチの水平方向をdx、垂直方向をdyと
すると、緑色(G)用のCCD撮像素子の各画素に対し
て、赤色(R)用と青色(B)用のCCD撮像素子の各
画素を水平方向にdx/2と垂直方向にdy/2ずつずら
して配置する。赤色用と青色用に対して緑色用のCCD
撮像素子の画素をずらすのは、輝度信号を生成する際に
緑色の映像信号と、赤色および青色の映像信号の寄与率
が同程度であるからである。(例えばNTSC方式では
輝度信号の生成に使用される各色の寄与率は緑0.59
に対して、赤0.30、青0.11である。)そして、
各色の映像信号の画素数を水平及び垂直方向にそれぞれ
2倍に拡大させ全体で4倍の画素数とする補間処理を行
う。この補間処理は、図19に示すように、隣接する4
個の実画素S(1,1)〜S(2,2)に対して、これ
らの間に5個の画素Sa〜Seを補間する処理である。
各画素Sa〜Seのサンプリング値は、4個の実画素
(1,1)〜S(2,2)の各サンプリング値に基づい
て数1の各演算を行うことにより計算する。
【0007】
【数1】
【0008】この数1の演算は、1次のラグランジュ[L
agrange]多項式補間に相当するものである。
【0009】上記のようにして画素数を4倍にした各色
の映像信号は、赤色と青色の映像信号の場合、図19に
示した4個の実画素S(1,1)〜S(2,2)の中間
に補間された画素Scの位置に緑色の映像信号の実画素
が重ねて配置され、また、緑色の映像信号で補間された
画素に対しても赤色と青色の映像信号の実画素が同様に
重ねて配置される。従って、この空間斜め画素ずらし法
は、各色の映像信号における画素間の情報を他の色の映
像信号により補うことができるので、単に補間処理のみ
によって画素数を4倍に増加させた場合よりも水平及び
垂直解像度を向上させることができる。
【0010】
【発明が解決しようとする課題】ところが、上記従来の
複数のフォーマットの映像信号を出力することができる
撮像装置は、CCD撮像素子51の一部の領域の画素を
読み出すことにより異なるフォーマットの映像信号を得
るようにしているので、出力可能なフォーマットにおけ
る最大画素数のフォーマットに適合した撮像素子を用い
る必要がある。そして、このような例えばハイビジョン
方式に適合した高画素数のCCD撮像素子51は、製造
時の歩留りが悪く製造コストが極めて高いものになるた
め、撮像装置も高価になるという問題があった。また、
このような200万画素を有する高画素数のCCD撮像
素子51は、同じ光学系を用いた場合には、標準画素数
(例えば40万画素程度)のCCD撮像素子に比べて、
画素ごとの受光面積が狭くなるので、感度やダイナミッ
クレンジが低下するという問題もあった。
【0011】ところで、高画素数のCCD撮像素子51
が高価であるという問題に対しては、上記空間斜め画素
ずらし法によりCCD撮像素子の画素数を4倍に増加さ
せるという方法が考えられる。この空間斜め画素ずらし
法は、汎用に用いられる標準画素数のCCD撮像素子を
用いることにより、安価に高解像度を得ることができる
という特徴が発揮できるものである。ところが、例えば
水平720×垂直480画素の標準画素数のCCD撮像
素子を用いた場合、これを空間斜め画素ずらし法により
画素数を4倍にして水平1440×垂直960画素とし
ても、既存の高解像度のフォーマットが標準画素数のも
のと大きく異なるため、例えばHDフォーマットの水平
1008×垂直1024画素に対して、水平方向の画素
数は足りるが垂直方向の画素数が不足することになる。
従って、上記従来の撮像装置における高画素数のCCD
撮像素子51をこの空間斜め画素ずらし法を用いたCC
D撮像素子に取り替えたとしても、既存の高解像度のフ
ォーマットには対応し得ない。
【0012】しかも、この空間斜め画素ずらし法は、上
記のように1次のラグランジュ多項式補間を用いるの
で、図19に示す水平方向のみの補間となる画素Sa,
Seと垂直方向のみの補間となる画素Sb,Sdについ
ては、数1に示したように、隣接する2個の実画素S
(1,1),S(2,1)等のみから補間される。従っ
て、例えば画像の斜めエッジ部では、各画素で重なる実
画素と補間された画素の色が異なることから色ムラを生
じるおそれがあるという問題もあった。
【0013】本発明は、上記のような従来の問題点に鑑
みてなされたもので、空間斜め画素ずらし法により安価
に高解像度で4倍の画素数を得ると共に、画素数変換に
より任意の複数のフォーマットに対応した画像信号を得
ることができる撮像装置を提供することが本発明の目的
である。
【0014】
【課題を解決するための手段】請求項1の発明は、撮像
光を三原色に分解する色分解光学系と、該色分解光学系
によって分解されたいずれかの色の撮像光を受光する第
1の撮像部と、該色分解光学系によって分解された他の
2色の撮像光をそれぞれ受光し、かつ該第1の撮像部に
対して水平及び垂直方向に1/2画素ずらして配置され
た第2と第3の撮像部と、該第1ないし第3の撮像部が
撮像した三原色の画像信号をそれぞれディジタル信号に
変換するA/D変換部と、該A/D変換部でディジタル
信号に変換された三原色の各画像信号について、各画素
間の画素を補間することにより、水平及び垂直方向に画
素数をそれぞれ2倍に拡大させる補間処理を行う補間処
理部と、該補間処理部で補間された三原色の各画像信号
に対して、水平及び垂直方向の画素数変換処理を行うこ
とにより各ラインの画素数とライン数を変換する処理、
及びトリミング若しくは画像範囲外への所定信号の付加
を行うことによりアスペクト比を変換する処理のうち少
なくとも一つの処理を施し、該各画像信号を複数のフォ
ーマットのうちのいずれかに基づいた画像信号に変換す
るフォーマット変換処理を行う画素数変換部とを備えた
ものであり、そのことにより上記目的が達成される。
【0015】請求項2の発明は、前記補間処理部を、補
間処理を1次のラグランジュ型多項式補間によって行う
構成としたものである。
【0016】請求項3の発明は、前記補間処理部を、補
間処理を2次のラグランジュ型多項式補間によって行う
構成としたである。
【0017】請求項4の発明は、前記補間処理部を、補
間処理を2次以上のラグランジュ型多項式補間によって
行う構成としたものである。
【0018】請求項5の発明は、前記画素数変換部を、
画素数変換処理をラグランジュ型多項式補間によって行
う構成としたものである。
【0019】請求項6の発明は、前記画素数変換部を、
各ラインの各カラムの画素を現画素として順次供給する
と共に、該各現画素ごとに、当該現画素に対して1ライ
ンからnライン遅延したn個の遅延画素と、該現画素と
該1ラインからnライン遅延したn個の画素に対してそ
れぞれ1カラムからnカラム遅延したn×(n+1)個
の遅延画素の合計n×(n+2)個の遅延画素を供給す
る画素供給手段と、該現画素と当該現画素についての遅
延画素をそれぞれ係数倍して加算することによりn次の
ラグランジュ型多項式補間による補間画素を得る演算手
段と、該演算手段に所定の周期で各係数を供給する係数
供給手段とによって画素数変換を行う構成としたもので
ある。
【0020】請求項7の発明は、前記A/D変換部でデ
ィジタル信号に変換された三原色の各画像信号について
前記補間処理部で補間処理を行うかどうかを選択する選
択手段、該補間処理部で補間された三原色の各画像信号
について画素数変換部でフォーマット変換処理を行うか
どうかを選択する選択手段、又は、該A/D変換部でデ
ィジタル信号に変換された三原色の各画像信号について
該補間処理部と該画素数変換部で補間処理とフォーマッ
ト変換処理を行うかどうかを選択する選択手段を有する
ものである。
【0021】
【作用】色分解光学系は、撮像光を例えばRGB(赤緑
青)の三原色に分解する。そして、本発明は、これら分
解された各色の撮像光をそれぞれ個別の撮像部で受光す
る3板式の撮像装置を用いる。第1の撮像部と第2及び
第3の撮像部は、画素が水平及び垂直方向に1/2ずつ
ずれている。従って、これらの撮像部で撮像された画像
信号上においては、第2及び第3の撮像部で撮像された
隣接する4個の画素の中間に第1の撮像部で撮像された
画素がそれぞれ配置されることになる。通常は、輝度信
号に最も寄与する緑色(G)の撮像光を撮像するものが
第1の撮像部となる。
【0022】上記各撮像部で撮像された各画像信号は、
A/D変換部でディジタル信号に変換されて、補間処理
部で水平及び垂直方向に画素数をそれぞれ2倍に拡大さ
せる補間処理が行われる。即ち、水平及び垂直方向に隣
接する2個の画素の中間に1個の画素が補間されると共
に、隣接する4個の画素の中間にも1個の画素が補間さ
れることになる。この際、画素をずらすことなく撮像し
た画像信号に同じ補間処理を行っても、補間による単な
る拡大処理にすぎないため本来の解像度の向上は図れな
い。しかし、本発明では、第2及び第3の撮像部で撮像
された画像信号において隣接する4個の画素の中間に補
間された画素が、第1の撮像部で撮像された画像信号に
おける実画素と重なり合うので、いわゆる空間斜め画素
ずらし法により解像度を向上させることができる。
【0023】上記補間処理部で補間処理された各画像信
号は、画素数変換部でフォーマット変換処理が行われ
る。フォーマット変換処理では、水平方向及び垂直方向
の画素数変換処理を行うことにより各ラインの画素数と
ライン数の変換を行う。この際、画素数を整数分の1に
減ずる場合の処理以外では、各画素間の適宜位置に画素
の補間処理が行われる。また、このフォーマット変換処
理では、トリミング若しくは画像範囲外への所定信号の
付加を行うことによりアスペクト比の変換も行う。そし
て、これら各ラインの画素数及びライン数の変換とアス
ペクト比の変換の双方又はいずれか一方の処理を行うこ
とにより、複数のフォーマットのうちのいずれかに基づ
いた画像信号に変換する。ただし、複数のフォーマット
のうちのいずれかについては、各ラインの画素数及びラ
イン数の変換とアスペクト比の変換のいずれの処理も行
わないものがあってもよい。なお、これら各ラインの画
素数及びライン数の変換とアスペクト比の変換には、画
像信号の時間軸を伝送レートに合わせるための時間軸補
正処理が伴う。
【0024】この結果、本発明によれば、空間斜め画素
ずらし法により、低価格の撮像部を用いて画像信号の解
像度を高めることができ、各撮像部においても、画素ご
との受光量の増加を図り感度を向上させることができ
る。また、このようにして得た高解像度の画像信号に画
素数変換処理等を施すことにより、複数のフォーマット
の画像信号を選択して出力することが可能となる。
【0025】請求項2の発明は、上記補間処理部による
補間処理を1次のラグランジュ型多項式補間によって行
うものである。1次のラグランジュ型多項式補間は、隣
接する4個の画素に基づいて補間を行うものであるた
め、この演算を行う回路の構成又はプログラムの構成を
簡単なものにすることができる。
【0026】ただし、上記空間斜め画素ずらし法におけ
る補間処理を1次のラグランジュ型多項式補間によって
行うと、画像の斜めエッジ部で色ムラを生じるという欠
点がある。そこで、請求項3又は請求項4の発明では、
この補間処理を2次又は2次以上のラグランジュ型多項
式補間によって行うようにしている。2次のラグランジ
ュ型多項式補間は、隣接する9個の画素に基づいて補間
を行うものであるため、水平又は垂直方向の補間の場合
にも、隣接する2個のみの画素に基づいて補間が行われ
るような場合がなくなり、画像の斜めエッジ部において
も色ムラを抑制することができるようになる。2次以上
のラグランジュ型多項式補間の場合も、次数をn次とす
ると、9個以上の(n+1)2個の画素に基づいて補間
が行われるので、同様に色ムラを抑制することができ
る。
【0027】請求項5の発明は、上記画素数変換部が、
画素数変換処理をラグランジュ型多項式補間によって行
うものである。通常の画素数変換処理は、各画素間の適
正位置にサンプリング値0の画素を内挿して低域通過フ
ィルタを通した後に画素の間引きを行うことにより画素
数の変換を行う。しかし、画素の内挿は、サンプリング
周波数を高めることになり、処理速度を高速化する必要
がある。また、低域通過フィルタによるフィルタリング
処理は、水平及び垂直方向の各画素について、前後の複
数の画素をそれぞれフィルタ係数倍して加算する処理で
あるが、各画素についての前後の画素数が低域通過フィ
ルタの次数に応じて増大し、しかも、内挿により画素数
も増加することから、膨大な演算量を必要とする。従っ
て、安価な撮像装置において、このような画素数変換処
理は非現実的である。そこで、この請求項5の発明で
は、画素の内挿処理が不要となるラグランジュ型多項式
補間を用いて変換後に必要となる画素の補間を行うこと
により、画素数変換処理の演算を行う回路の構成又はプ
ログラムの構成を低速で処理可能となる安価で簡単なも
のにしている。
【0028】請求項6の発明は、1次のラグランジュ型
多項式補間による画素数変換処理を行う上記請求項5の
画素数変換部の具体的実施例を示すものであり、画素供
給手段と演算手段と係数供給手段とによって実現してい
る。
【0029】請求項7の発明は、補間処理部での補間処
理と画素数変換部でのフォーマット変換処理を行うかど
うかを選択することができる選択手段が設けられた撮像
装置を示す。このような選択手段により、例えば不必要
な信号処理をパスすることが可能となり、また、出力可
能なフォーマットのバリエーションを広げることもでき
るようになる。
【0030】
【実施例】以下、図面を参照しながら、本発明の実施例
を詳述する。
【0031】(実施例1)図1ないし図13は本発明の
第1実施例を示すものであって、図1は撮像装置の構成
を示すブロック図、図2は4種類のモードによる画素数
変換処理を示す図、図3はSDモードにおける出力部で
の走査を示す図、図4はHD1モードとHD2モードに
おける出力部での走査を示す図、図5はn次のラグラン
ジュ型多項式補間を行う画素を示す図、図6は1次のラ
グランジュ型多項式補間を行う画素を示す図、図7は2
次のラグランジュ型多項式補間を行う画素を示す図、図
8は補間回路の構成を示すブロック図、図9はメモリ部
の構成を示すブロック図、図10は補間処理部の補間回
路として用いる場合のメモリ部の動作を示すタイムチャ
ート、図11は画素数変換部の補間回路として用いる場
合のメモリ部の動作を示すタイムチャート、図12は補
間回路による一般的な画素数変換処理を行う画素を示す
図、図13はディジタル−ディジタル変換による画素数
変換処理を説明するための図である。
【0032】本実施例の撮像装置は、図1に示すよう
に、撮像レンズ1とダイクロイックミラー2と3個のC
CD撮像素子3〜5を備えている。撮像レンズ1は、被
写体からの撮像光を各CCD撮像素子3〜5の受光面に
結像させるための光学系である。ダイクロイックミラー
2は、撮像レンズ1を通して入射した撮像光を、青反射
ダイクロイック膜と赤反射ダイクロイック膜とによって
RGB三原色の各色の光に分解してそれぞれのCCD撮
像素子3〜5に送る光学系である。各CCD撮像素子3
〜5は、ダイクロイックミラー2から送られて来た各色
の撮像光を画素ごとに光電変換して電気信号に変換し画
像信号(映像信号)として出力するCCD[Charge Coup
led Device]を用いた固体撮像素子であり、CCD撮像
素子3は、赤色の撮像光を受けてこの赤色(R)の画像
信号を出力し、CCD撮像素子4は、緑色の撮像光を受
けてこの緑色(G)の画像信号を出力し、CCD撮像素
子5は、青色の撮像光を受けてこの青色(B)の画像信
号を出力する。
【0033】各CCD撮像素子3〜5は、SDフォーマ
ット対応の標準的な画素数である水平720×垂直48
0画素の汎用で安価なものが用いられる。また、赤色
(R)用と青色(B)用のCCD撮像素子3,5の画素
は、空間斜め画素ずらし法のために、緑色(G)のCC
D撮像素子4の画素に対して水平及び垂直方向に1/2
画素ずつずらして配置されている。なお、CCD撮像素
子は、インターレース走査を行うために内部で各画素の
信号電荷を加算してから読み出すようにしたものがあ
る。しかし、ここでは、全画素をそのままノンインター
レース走査で読み出す全画素読み出し方式のCCDを使
用する。
【0034】上記各CCD撮像素子3〜5から出力され
た各色の画像信号は、それぞれアンプ部6とA/D変換
部7を介してガンマ補正部8に送られるようになってい
る。アンプ部6は、各画像信号について相関二重サンプ
リングとオートゲインコントロールと信号レベルの増幅
処理を行う。A/D変換部7は、アンプ部6から出力さ
れたアナログ信号の各画像信号をディジタル信号に変換
する。そして、ガンマ補正部8は、A/D変換部7でデ
ィジタル信号に変換された各画像信号にガンマ補正を行
う。このガンマ補正は、CCD撮像素子3〜5の光電変
換特性による階調(色調)の非線形性を補正するための
係数を各画像信号に乗じる処理である。
【0035】上記ガンマ補正部8から出力された各画像
信号は、補間処理部9に送られるようになっている。補
間処理部9は、各画像信号の画素数を各画素間の補間に
より水平及び垂直方向に2倍に拡大する補間処理を行
い、各CCD撮像素子3〜5が出力する水平720×垂
直480画素を水平1440×垂直960画素として4
倍の画素数とする。画素間の補間には、後に詳細に説明
するラグランジュ型多項式補間を用いる。このようにし
て画素数を4倍に拡大すると、各画像信号における隣接
する4個の実画素の中間に補間される画素が相互に他の
色の画像信号の実画素と重なり合うことになるので、単
なる画素数の拡大処理の場合と異なり、空間斜め画素ず
らし法によって解像度の向上を図ることができる。
【0036】上記補間処理部9で補間された各画像信号
は、画素数変換部10に送られるようになっている。画
素数変換部10は、画素数変換処理とアスペクト比の変
換処理とからなるフォーマット変換処理を行う。画素数
変換処理は、各画像信号の水平及び垂直方向の画素数を
変換することにより、各ラインの画素数とライン数を変
えるものであり、一般に適宜位置への画素の補間を行う
必要があるので、本実施例ではこの補間にも上記ラグラ
ンジュ型多項式補間を用いる。アスペクト比の変換処理
は、画像範囲の一部をカットするトリミングを行った
り、画像範囲外への適宜信号の付加を行うことによりア
スペクト比を変更する処理である。なお、このようなト
リミングや信号の付加を行った場合にも画素数は変化す
る。そして、画素数変換処理やこのアスペクト比の変換
処理では、画像信号の時間軸を伝送レートに合わせるた
めに時間軸を補正する処理が伴う。これら画素数変換処
理とアスペクト比の変換処理は、撮像装置に設定された
変換モードに応じて実行される。変換モードは、図2に
示すように、SDモードとHD1モードとHD2モード
とスチルモードの4種類が設定可能となっている。ただ
し、これらの変換モードでは、アスペクト比の変換処理
が行われない場合がある。
【0037】SDモードは、水平720×垂直480画
素でアスペクト比が4:3のSDフォーマットに対応す
るモードであり、補間処理部9で補間された水平144
0×垂直960画素でアスペクト比が4:3の各画像信
号を、水平720×垂直960画素で同じアスペクト比
の画像信号に変換する。ここでの画素数変換では、各ラ
インの画素数のみを1/2に縮小している。従って、変
換後の各画像信号の垂直方向の画素数(ライン数)は9
60画素のままになっているが、これは後に説明するよ
うに出力時に480画素に縮小される。
【0038】HD1モードは、水平1008×垂直10
24画素でアスペクト比が16:9のHDフォーマット
に対応するモードであるが、画素数変換処理では、SD
フォーマットと同じ水平720×垂直960画素でアス
ペクト比が4:3の画像信号に変換される。そして、こ
の画素数変換した画像信号を本来のHDフォーマットの
画像に貼り付ける。即ち、図2に示すハッチング部の領
域に背景色の無地信号を付加することによりアスペクト
比を16:9に変換する。
【0039】HD2モードは、本来のHDフォーマット
に対応したモードである。この場合には、まず水平14
40×垂直960画素でアスペクト比が4:3の画像信
号から図2に示す上下のハッチング部の領域をカット
し、水平1440×垂直768画素でアスペクト比が1
6:9の画像信号にトリミングした後に、水平1008
×垂直1024画素のHDフォーマットの画像信号に画
素数変換する。ここでの画素数変換では、水平方向には
各ラインの画素を10画素から7画素に縮小する操作を
行い、垂直方向には3ラインを4ラインに拡大する操作
を行っている。
【0040】スチルモードは、静止画像を得るためのフ
ォーマットであり、この場合には、補間処理部9で補間
された水平1440×垂直960画素でアスペクト比が
4:3の各画像信号を変換を行うことなくそのまま出力
する。つまり、このスチルモードは、本実施例の撮像装
置におけるオリジナルのモードであるため、アスペクト
比の変換処理はもちろん、画素数変換処理も行わない。
そして、このスチルモードによって、空間斜め画素ずら
し法による解像度の向上効果が最大限に利用される。
【0041】上記画素数変換部10でフォーマット変換
処理された各画像信号は、図1に示すように、出力部1
1に送られるようになっている。出力部11は、各画像
信号をそれぞれのモードに応じた形式で外部に出力す
る。即ち、SDモードでは、図3に示すように、奇数フ
ィールドごとに順次連続する4ラインの各画素をそれぞ
れ加算平均しながら出力し、偶数フィールドでは、前回
と次回の奇数フィールドと2ラインずつ重複する4ライ
ンの各画素をそれぞれ加算平均しながら出力することに
よりインターレース走査を行い、1フレーム当たり上記
垂直方向の960画素から480画素への縮小を行う。
また、RGB三原色の各画像信号から輝度信号(Y信
号)、とB−Y信号及びR−Y信号からなる色差信号を
作成し、CCIR(国際無線通信諮問委員会)の勧告6
01「4:2:2コンポーネント符号化方式」に準拠す
るように、輝度信号を13.5MHz、B−Y信号の色
差信号を6.75MHz及びR−Y信号の色差信号を
6.75MHzで伝送する。
【0042】HD1モードとHD2モードでは、図4に
示すように、奇数フィールドごとに順次連続する2ライ
ンの各画素をそれぞれ加算平均しながら出力し、偶数フ
ィールドでは、前回と次回の奇数フィールドと1ライン
ずつ重複する2ラインの各画素をそれぞれ加算平均しな
がら出力することによりインターレース走査を行う。ま
た、RGB三原色の各画像信号から輝度信号(Y信
号)、とB−Y信号及びR−Y信号からなる色差信号を
作成し、「12:4:0コンポーネント符号化方式」に
基づき、輝度信号を40.5MHz、色差信号を13.
5MHzで伝送する。ここでの色差信号のB−Y信号と
R−Y信号は、各ラインごとに時分割多重化される。
【0043】スチルフォーマットでは、RGB三原色の
各画像信号をそのまま線順次のRGBデータとして出力
する。そして、このRGBデータは、ディジタルインタ
ーフェイスを通して、計算機やビデオプリンタ等に送ら
れ画像処理やディスプレイ表示又はプリント出力され
る。
【0044】上記補間処理部9の補間処理と画素数変換
部10の画素数変換処理で用いるラグランジュ型多項式
補間について説明する。n次のラグランジュ型多項式補
間は、図5に示すような水平及び垂直方向にn+1個ず
つの画素S(x1,y1)〜S(xn+1,yn+1)のサンプ
リング値に基づいて、任意位置の画素S(x,y)の補
間値を求めるものである。この場合、水平方向であるx
方向のラグランジュ多項式は数2に示すものとなり、
【0045】
【数2】
【0046】y方向のラグランジュ多項式は数3に示す
ものとなる。
【0047】
【数3】
【0048】ここで、iは1〜n+1の整数であり、x
方向の各カラムとy方向の各ラインに対応する。従っ
て、画素S(x,y)の補間値は、数4の行列式によっ
て求めることができる。
【0049】
【数4】
【0050】上記説明より、1次のラグランジュ型多項
式補間は、図6に示す4個の画素S(x1,y1)〜S
(x2,y2)のサンプリング値に基づいて画素S(x,
y)の補間値を求めることになる。ここでは、画素S
(x,y)の画素S(x1,y1)からのx方向の距離を
rxとし、y方向の距離をryとしている。そして、x方
向のラグランジュ多項式は、数2より数5に示すものと
なり、
【0051】
【数5】
【0052】y方向のラグランジュ多項式は、数3より
数6に示すものとなる。
【0053】
【数6】
【0054】ここでは、各カラム間とライン間の距離を
それぞれ1とし、各ラグランジュ多項式を距離rx,ry
を用いて表現している。また、これら各ラグランジュ多
項式は、それぞれ係数K1〜K4に割り当てている。これ
らの係数K1〜K4には、K1+K2=1、K3+K4=1の
関係がある。そして、画素S(x,y)の補間値は、数
7の行列式によって求めることができる。
【0055】
【数7】
【0056】この数7では、行列式を展開した式と、こ
れを係数K1〜K4を用いて表した式も示している。
【0057】ここで、上記図19に示した画素Scを補
間すべき画素S(x,y)とすると、距離rx,ryと係
数K1〜K4はそれぞれ数8に示したものとなり、
【0058】
【数8】
【0059】これを数7に代入すると、この画素S
(x,y)の補間値は数9となる。
【0060】
【数9】
【0061】また、例えば画素Saを補間すべき画素S
(x,y)とすると、距離rx,ryと係数K1〜K4はそ
れぞれ数10に示したものとなり、
【0062】
【数10】
【0063】これを数7に代入すると、この画素S
(x,y)の補間値は数11となる。
【0064】
【数11】
【0065】そして、以下も同様にして計算すると、画
素Sa〜Seの数7による各補間値は上記数1に一致
し、空間斜め画素ずらし法の補間処理では従来から1次
のラグランジュ型多項式補間を行っていることが分か
る。
【0066】次に、2次のラグランジュ型多項式補間の
場合には、図7に示す9個の画素S(x1,y1)〜S
(x3,y3)のサンプリング値に基づいて画素S(x,
y)の補間値を求めることになる。ここでも、画素S
(x,y)の画素S(x2,y2)からの距離をそれぞれ
rx,ryとしている。そして、x方向のラグランジュ多
項式は数12に示すものとなり、
【0067】
【数12】
【0068】y方向のラグランジュ多項式は数13に示
すものとなる。
【0069】
【数13】
【0070】従って、画素S(x,y)の補間値は、数
14の行列式によって求めることができる。
【0071】
【数14】
【0072】補間処理部9と画素数変換部10で上記1
次のラグランジュ型多項式補間を行う場合の具体的な構
成を説明する。図8に上記数7の演算を行う補間回路を
示す。この数7の演算では、隣接する4個の画素のサン
プリング値を用いるので、シリアルに入力される各画素
に対して1ライン遅延した画素とこれらの画素からさら
に1画素(カラム)遅延した画素が必要となる。従っ
て、この補間回路は、画素を1ライン遅延させるため
と、補間による入出力のサンプリングレートの相違を緩
衝するためにメモリ部21を備えている。補間処理部9
と画素数変換部10は、各色の画像信号ごとにそれぞれ
補間回路を設けているので、このメモリ部21には、い
ずれかの画像信号がシリアルに入力される。
【0073】上記補間回路には、図示しないタイミング
コントローラから入力用クロックと入力用ラインクロッ
クと第1出力用クロックと第2出力用クロックと出力用
ラインクロックが供給されるようになっている。そし
て、メモリ部21には、これらのうち、入力用クロック
と入力用ラインクロックと第1出力用クロックと出力用
ラインクロックが入力されるようになっている。入力用
クロックと入力用ラインクロックは、入力される画像信
号の各画素と各ラインを1周期とした信号であり、第2
出力用クロックと出力用ラインクロックは、補間後の画
像信号の各画素と各ラインを1周期とした信号である。
そして、第1出力用クロックは、入力される画像信号を
垂直方向にのみ補間した場合の各画素を1周期とした信
号である。従って、補間処理部9の補間回路として用い
る場合には、入力用クロックと入力用ラインクロックに
対して、第1出力用クロックと出力用ラインクロックの
周波数が2倍になり、第2出力用クロックの周波数は4
倍となる。また、画素数変換部10の補間回路として用
いる場合には、フォーマットに応じた周波数となる。
【0074】上記メモリ部21は、図9に示すように、
4個のラインメモリ21a〜21dを備えている。これ
らのラインメモリ21a〜21dは、入力画素を1ライ
ン分記憶できるFIFO[First-In First-Out]メモリに
よって構成され、入力用クロックに基づいて各画素の入
力が行われると共に、第1出力用クロックに基づいて各
画素の出力が行われるようになっている。また、本来の
FIFOメモリは出力データが失われるので、同じライ
ンの画素を繰り返し読み出すことができるように、出力
された画素をそれぞれスイッチ回路21e…を介して第
1出力用クロックに基づき再度入力できるように帰還回
路が設けられている。ただし、これらのラインメモリ2
1a〜21dがRAMと入出力アドレス制御部によって
構成される場合には、アドレス操作だけで繰り返し読み
出しを行うことができるので、このような帰還回路は不
要となる。
【0075】メモリ部21に入力された画素は、まずセ
レクタ21fに送られる。このセレクタ21fは、入力
用ラインクロックによって4進カウントを行うカウンタ
21gの出力に応じて、上記ラインメモリ21a〜21
dを順に選択し、この選択したいずれかのラインメモリ
21a〜21dに画素を送るようになっている。また、
メモリ制御部21hも、入力用ラインクロックに基づい
て同じラインメモリ21a〜21dを選択し入力動作を
行うように制御する。従って、各画素は、ラインごとに
振り分けて各ラインメモリ21a〜21dに入力される
ことになる。
【0076】上記各ラインメモリ21a〜21dから出
力された各画素は、2個のマルチプレクサ21i,21
jを介してノードAとノードBから外部に出力されるよ
うになっている。メモリ制御部21hは、出力用ライン
クロックに基づいて、入力動作を行っているラインメモ
リ21a〜21d以外のいずれか2個を選択し、それぞ
れに画素の出力動作を行わせると共に、各マルチプレク
サ21i,21jの入力を切り替えて、これらの出力画
素をノードAとノードBのいずれから出力するかを制御
する。ここでのメモリ制御部21hは、2個のラインメ
モリ21a〜21dを画素が入力された順に選択すると
共に、一方のラインメモリ21a〜21dから読み出し
た画素をマルチプレクサ21iを介してノードAに出力
する場合には、他方のラインメモリ21a〜21dは必
ず1ライン前の画素を入力したものを選択して、このラ
インメモリ21a〜21dから読み出した画素をマルチ
プレクサ21jを介してノードBに出力するように制御
する。そして、補間処理部9の補間回路として用いる場
合には、最初の1ラインを除き各ラインメモリ21a〜
21dから2回ずつ繰り返し読み出しを行う。しかし、
画素数変換部10の補間回路として用いる場合に、1ラ
イン分の画素を読み出した後に再度同じラインメモリ2
1a〜21dから繰り返し読み出すかどうかはフォーマ
ットによって異なる。
【0077】従って、メモリ部21では、入力画素をノ
ードAとノードBから第1出力用クロックに応じたレー
トで順次出力し、しかも、垂直方向の補間の際の必要に
応じて同一ラインの画素を繰り返し出力することにな
る。また、ノードBから出力される画素は、常にノード
Aから出力される画素より1ライン遅延したものとな
る。
【0078】補間処理部9の補間回路として用いる場合
の上記構成のメモリ部21の動作を図10に基づいて説
明する。この図10では、各ラインの画像信号をD1,
D2…というようにライン番号の添え字を付して示して
いる。また、ハッチングで示した部分は、ラインメモリ
21a〜21dが入力状態であることを示し、空白の部
分はデータが不定であることを示す。
【0079】メモリ部21に入力された第1ラインの画
像信号D1は、ラインメモリ21aに記憶され、次に入
力された第2ラインの画像信号D2は、ラインメモリ2
1bに記憶され、第3ラインと第4ラインの画像信号D
3,D4も同様にラインメモリ21c,21dに記憶され
る。そして、第5ラインの画像信号D5が入力される
と、ラインメモリ21aの記憶内容がこの画像信号D5
に書き替わり、以降同様の動作を繰り返す。また、ノー
ドAからは、入力の2倍の周波数で、まず第1ラインの
画像信号D1が1回出力され、第2ライン以降の画像信
号D2…が2回ずつ繰り返して出力される。これに対し
てノードBの出力は、このノードAの出力より1ライン
遅れて各画像信号D1…が2回ずつ繰り返し出力され
る。従って、この場合には、最初の1ラインを除けば、
ノードAとノードBから各ラインの画像信号が2回ずつ
出力されることになる。
【0080】画素数変換部10の補間回路として用いる
場合の上記構成のメモリ部21の動作を図11に基づい
て説明する。この図11でも、画像信号D1,D2…等を
図10と同様に表す。また、ここでは、HD2モードの
場合を例示する。従って、ライン数については、3本の
ラインを4本に変換することにより、768本のライン
を1024本に拡大する場合を示す。各ラインメモリ2
1a〜21dへの入力動作は、図10の場合と同じであ
る。
【0081】ノードAからは、入力の4/3倍の周波数
で、まず第1ライン〜第3ラインの画像信号D1〜D3が
1回ずつ順に出力され、その後第4ラインの画像信号D
4が2回続けて出力され、第5ライン以降は同じ動作を
繰り返す。また、ノードBからは、このノードAの出力
よりも1ライン遅れて、まず第1ラインと第2ラインの
画像信号D1,D2が1回ずつ順に出力され、その後第3
ラインの画像信号D3が2回続けて出力され、最後に第
4ラインの画像信号D4が1回出力され、第5ライン以
降は同じ動作を繰り返す。従って、この場合には、最初
の1ラインを除けば、ノードAとノードBから3ライン
の画像信号が出力されると、次の1ラインは前回と同じ
ラインの画像信号が出力され、4ライン周期でこれを繰
り返すことになる。
【0082】図8に示すように、上記メモリ部21のノ
ードAから出力される各画素は、係数器22を介して加
算器23に送られると共に、1画素遅延回路24で1画
素遅延されて係数器25を介し同じ加算器23に送られ
る。また、ノードBから出力される1ライン遅延された
各画素は、係数器26を介して加算器27に送られると
共に、1画素遅延回路28で1画素遅延されて係数器2
9を介し同じ加算器27に送られる。そして、加算器2
3の出力は係数器30を介して加算器31に送られ、加
算器27の出力は係数器32を介して同じ加算器31に
送られる。ここで、係数器22と係数器26は、入力値
を上記数5に示した係数K1倍する回路であり、係数器
25と係数器29は、入力値を係数K2倍する回路であ
る。また、係数器30は、入力値を上記数6に示した係
数K3倍する回路であり、係数器32は、入力値を係数
K4倍する回路である。従って、この加算器31の出力
は、上記数7に示した最後の式の演算により画素S
(x,y)の補間値を計算したものとなる。
【0083】上記係数器30,32の各係数K3,K4
は、出力用ラインクロックに基づくラインカウンタ33
の出力に応じて値が変化するので、ノードA,Bから1
ラインの画素信号が出力されるたびに係数K3,K4が切
り替わる。また、これらの係数K3,K4は、補間処理が
PラインをQラインに変換するものである場合には、P
とQの最小公倍数をRとすると、R/Pラインの周期で
繰り返し値が変化することになる。そして、ラインカウ
ンタ33は、このR/P進カウンタとして動作する。補
間処理部9の補間回路として用いられる場合には、1ラ
インが2ラインに拡張されるので2ラインで1周期とな
り、図10に示すように、係数K3の値が1→1/2→
1と変化し、係数K4の値が0→1/2→0と変化す
る。また、画素数変換部10の補間回路として用いられ
る場合であって、図11に示したHD2モードによる3
本のラインを4本に変換する際には、P=3、Q=4、
R=12となるので4ラインで1周期となり、この図1
1に示すように、K3の値が1→3/4→1/2→1/
4→1と変化し、K4の値が0→1/4→1/2→3/
4→0と変化する。
【0084】上記係数器22,25,26,29の各係
数K1,K2は、第2出力用クロックに基づくカラムカウ
ンタ34の出力に応じて値が変化するので、ノードA,
Bから出力される1個の画素に対して、水平方向の補間
に応じこれらの係数K1,K2が複数回変化する場合があ
る。また、これらの係数K1,K2は、各ラインの画素に
ついて水平方向にM画素をN画素に変換する場合には、
MとNの最小公倍数をKとすると、K/M画素の周期で
繰り返し値が変化する。そして、カラムカウンタ34
は、このK/M進カウンタとして動作する。補間処理部
9の補間回路として用いられる場合には、1画素が2画
素に拡張されるので2画素で1周期となり、係数K1の
値が1→1/2→1と変化し、係数K2の値が0→1/
2→0と変化する。この際、係数K1が1となる場合に
は、上記係数K3も1となり、係数K2,K4は0となる
ので、ノードAから出力された画素のサンプリング値が
そのまま加算器31から出力される。これは、補間回路
が形式的に実画素からの距離が0の位置にも画素を補間
することを示す。そして、係数K1,K2の値が1/2と
なった場合に本来の補間が行われ、加算器31から補間
された画素の補間値が出力される。また、画素数変換部
10の補間回路として用いられる場合には、フォーマッ
トに応じた周期で変化する。
【0085】上記加算器31から出力される値は、第2
出力用クロックに基づいてラッチ回路35でラッチされ
る。そして、このラッチ回路35から第2出力用クロッ
クに同期して出力される信号が補間回路の出力となる。
従って、この補間回路は、補間処理部9に用いる場合に
は、画素数を垂直方向と水平方向に2倍ずつ合計で4倍
に変換する補間処理を行う。これに対して、画素数変換
部10に用いる場合には、出力フォーマットに応じて異
なる画素数変換処理を行うことになる。そこで、この図
8の補間回路を用いた一般的な画素数変換処理の場合に
ついて図12にもとづいてさらに詳しく説明する。
【0086】ここでは、簡単のために、水平8×垂直6
画素の画像を水平6×垂直4画素の画像に変換する場合
について説明する。入力信号の各画素S(1,1)〜S
(8,6)は白抜きの丸で示し、出力信号の各画素Sm
(1,1)〜Sm(6,4)はハッチングを施した三角
形で示す。ここで、fIHは入力用クロックの周波数を示
し、fIVは入力用ラインクロックの周波数を示す。ま
た、fOHは第2出力用クロックの周波数を示し、fOVは
出力用ラインクロックの周波数を示す。
【0087】この図12では、図の下端に出力信号の各
画素Sm(1,1)〜Sm(6,4)のカラムごとの係数
K1,K2の値を示している。ここでは、上記M=8、N
=6、K=24であることから、K/M=3画素の周期
で値が変化している。また、図の右端には、出力信号の
各画素Sm(1,1)〜Sm(6,4)のラインごとの係
数K3,K4の値を示している。ここでは、上記P=6、
Q=4、R=12となるので、R/P=2ラインの周期
で値が変化している。
【0088】この図12における例えば画素Sm(3,
2)のサンプリング値は、数15を計算すればよい。
【0089】
【数15】
【0090】従って、図11ではHD2モードにおける
ライン数の変換のみを示したが、各ラインの画素数を1
440画素から1008画素に変換する処理も、係数K
1,K2を適宜定めることにより可能となり、これによっ
てHD2モードでの画素数変換処理を行うことができ
る。
【0091】なお、上記で説明した補間回路による演算
処理は、図8に示すようなハードウエアを用いる他、そ
の一部又は全部の処理をソフトウエアで実現することも
可能である。
【0092】ここで、上記補間回路に用いた1次のラグ
ランジュ型多項式補間は、同一ライン上の画素間又は同
一カラム上の画素間の補間を行う場合に、画像の斜め方
向のエッジ部で色ムラが生じるという欠点がある。しか
し、例えば、数14に示した2次のラグランジュ型多項
式補間の行列式に基づいて図8の補間回路を構成すれ
ば、このような色ムラを抑制することができる。この補
間回路は、図8で示した場合と同様に、数14の行列式
を展開すれば、これに応じて係数器と加算器を組み合わ
せることにより容易に構成することができる。また、数
4に示した行列式を用いて、3次以上のラグランジュ型
多項式補間による補間回路を構成することも可能であ
る。
【0093】さらに、上記補間回路は、ラグランジュ型
多項式補間以外の補間方式を用いることもできる。特に
画素数変換部10における画素数変換処理は、従来から
のテレビジョン方式の変換処理等に用いられるものと同
様の処理であるため、通常はディジタル−ディジタル変
換によるのが一般的である。このようなディジタル−デ
ィジタル変換による画素数変換処理を図13に基づいて
説明する。ここでは、HD2モードにおける水平144
0×垂直768画素から水平1008×垂直1024画
素への画素数変換処理を例示する。即ち、水平方向には
10画素を7画素に縮小し、垂直方向には3ラインを4
ラインに拡大する処理を示す。
【0094】変換前の原信号は、図示のように、水平空
間サンプリング周波数がfSH、垂直空間サンプリング周
波数がfSVとする。まず、この原信号をプリフィルタ4
1に入力する。このプリフィルタ41は、画素数変換後
に折り返し歪みが影響しないように、事前に帯域を制限
するための低域通過フィルタである。
【0095】次に、内挿処理部42で、水平方向の各画
素間にサンプリング値0の画素を6画素ずつ内挿すると
共に、垂直方向の各ライン間にもサンプリング値0の画
素のみからなるラインを3ラインずつ内挿する。即ち、
水平空間サンプリング周波数を7倍の7fSHにし、垂直
空間サンプリング周波数を4倍の4fSVにオーバーサン
プリングする。このような内挿を行っても原信号の周波
数スペクトルは変化しない。しかし、この周波数スペク
トル上におけるナイキスト周波数は水平方向が7fSH/
2に広がり垂直方向が4fSV/2に広がることになるの
で、元のナイキスト周波数であるfSH/2とfSV/2を
超える周波数帯域に不要な周波数成分が生じることにな
る。そこで、この信号を、水平空間周波数fSH/2、垂
直空間周波数fSV/2を遮断周波数とする低域通過フィ
ルタである補間用ローパスフィルタ43に通すと、この
不要な周波数成分が除去される。そして、これにより、
先に内挿した各画素のサンプリング値が補間されること
になる。また、間引き処理部44で、この補間された信
号から水平方向の10画素に1画素ずつ、及び、垂直方
向の3画素に1画素ずつを取り出す間引きを行うと、水
平空間サンプリング周波数が(7/10)fSH、垂直空
間サンプリング周波数(4/3)fSVに画素数変換され
た信号を得ることができる。
【0096】ところが、このような処理は、変換前の周
波数と変換後の周波数の最小公倍数による極めて高い周
波数によるオーバーサンプリングを行う必要があり、し
かも、プリフィルタ41や補間用ローパスフィルタ43
によるフィルタリング処理は、水平及び垂直方向の各画
素について、前後の複数の画素をそれぞれフィルタ係数
倍して加算する処理であり、各画素についての前後の画
素数がこれらのフィルタ41,43の次数に応じて増大
し、しかも、内挿により画素数も増加することから膨大
な演算量を必要とするので、演算速度の点では必ずしも
現実的ではない。
【0097】このため、本実施例では、この計算量を短
縮するために上記ラグランジュ型多項式補間を用いてい
る。ただし、上記プリフィルタ41と補間用ローパスフ
ィルタ43によるフィルタリング処理を1度で済ませ、
しかも、サンプリング値が0である内挿した画素を省い
て、本来の画素にのみフィルタ係数を供給するようにす
れば、計算量を大幅に減少させることができる。そし
て、このような演算は、フィルタ係数がラグランジュ多
項式の次数に対応するラグランジュ型多項式補間と同様
の効果を得ることができる。
【0098】以上説明したように本実施例の撮像装置に
よれば、空間斜め画素ずらし法により、標準画素数を有
する低価格のCCD撮像素子3〜5を用いて画像信号の
解像度を向上させることができるようになる。また、高
画素数の撮像素子に比べて、各CCD撮像素子3〜5の
各画素の受光量が多いので、感度やダイナミックレンジ
を向上させることができる。しかも、画素数変換部10
でこの高解像度の画像信号の画素数変換処理やアスペク
ト比の変換処理を行うことにより、4種類のフォーマッ
トの画像信号を任意に選択して出力することが可能とな
る。
【0099】さらに、補間処理部9の補間処理を1次の
ラグランジュ型多項式補間で行う場合には、演算処理が
簡単になり、装置を安価にすることができる。また、こ
の補間処理部9の補間処理を2次以上のラグランジュ型
多項式補間で行う場合には、空間斜め画素ずらし法の欠
点である画像の斜めエッジ部での色ムラを抑制すること
ができる。そして、画素数変換部10での画素数変換処
理も演算処理が簡単な1次又は2次以上のラグランジュ
型多項式補間によるので、装置を安価にすることができ
る。
【0100】(実施例2)図14は本発明の第2実施例
を示すものであって、撮像装置の構成を示すブロック図
である。なお、図1に示した第1実施例と同様の機能を
有する構成部材には同じ番号を付記して説明する。
【0101】本実施例は、図1に示した第1実施例の撮
像装置に出力セレクタ12〜14を設けたものである。
出力セレクタ12〜14は、出力部11の入力をガンマ
補正部8の出力と画素数変換部10の出力とに切り替え
るものである。そして、これらの出力セレクタ12〜1
4が図14に示すように画素数変換部10の出力側に接
続されている場合には、第1実施例と同じ構成となる。
しかし、SDモードの場合には、これらの出力セレクタ
12〜14がガンマ補正部8の出力側に接続されるよう
になっている。すると、このガンマ補正部8から出力さ
れた各色の画像信号は、補間処理部9と画素数変換部1
0とを通過せずにそのまま出力部11に入力することが
できる。SDモードは、CCD撮像素子3〜5が出力す
る水平720×垂直480画素の画像信号と同じ形式で
ある。従って、このSDモードの場合には、出力部11
が上記図4に示したHD1モードと同じように、2ライ
ンの各画素をそれぞれ加算平均すれば、インタレース走
査による画像信号を出力することができる。
【0102】なお、スチルモード時には、画素数変換部
10での画素数変換処理を行わないので、同様の出力セ
レクタ12〜14を用いて、補間処理部9で補間処理を
行った信号を直接出力部11に送るようにしてもよい。
また、ガンマ補正部8から出力された信号を補間処理部
9での補間処理を行わずに直接画素数変換部10に送り
画素数変換処理等のみを行うようにすることもできる。
【0103】以上説明したように本実施例の撮像装置に
よれば、SDモードの場合に、緑色の画像信号と赤色及
び青色の画像信号との間に1/2画素のずれは生じる
が、補間処理部9での補間処理と画素数変換部10での
間引き処理を行う無駄をなくすことができるので、信号
の劣化を少なくすることができる。また、同様の出力セ
レクタ12〜14を用いることにより、出力可能なフォ
ーマットのバリエーションを増加することも可能とな
る。
【0104】
【発明の効果】以上の説明から明らかなように、本発明
によれば、安価で高感度の撮像部を用いて複数のフォー
マットによる解像度の高い画像信号を得ることができる
ので、各フォーマットごとに異なる撮像装置を用いる必
要がなくなり、汎用性の高い撮像装置を得ることができ
る。
【0105】また、補間処理や画素数変換処理にラグラ
ンジュ型多項式補間を用いることにより演算処理を簡単
にして、撮像装置のコストアップを低減することができ
る。しかも、補間処理に2次以上のラグランジュ型多項
式補間を用いることにより、空間斜め画素ずらし法にお
ける画像の斜めエッジ部に生じる色ムラを抑制すること
ができる。
【図面の簡単な説明】
【図1】本発明の第1実施例を示すものであって、撮像
装置の構成を示すブロック図である。
【図2】本発明の第1実施例を示すものであって、4種
類のモードによる画素数変換処理を示す図である。
【図3】本発明の第1実施例を示すものであって、SD
モードにおける出力部での走査を示す図である。
【図4】本発明の第1実施例を示すものであって、HD
1モードとHD2モードにおける出力部での走査を示す
図である。
【図5】本発明の第1実施例を示すものであって、n次
のラグランジュ型多項式補間を行う画素を示す図であ
る。
【図6】本発明の第1実施例を示すものであって、1次
のラグランジュ型多項式補間を行う画素を示す図であ
る。
【図7】本発明の第1実施例を示すものであって、2次
のラグランジュ型多項式補間を行う画素を示す図であ
る。
【図8】本発明の第1実施例を示すものであって、補間
回路の構成を示すブロック図である。
【図9】本発明の第1実施例を示すものであって、メモ
リ部の構成を示すブロック図である。
【図10】本発明の第1実施例を示すものであって、補
間処理部の補間回路として用いる場合のメモリ部の動作
を示すタイムチャートである。
【図11】本発明の第1実施例を示すものであって、画
素数変換部の補間回路として用いる場合のメモリ部の動
作を示すタイムチャートである。
【図12】本発明の第1実施例を示すものであって、補
間回路による一般的な画素数変換処理を行う画素を示す
図である。
【図13】本発明の第1実施例を示すものであって、デ
ィジタル−ディジタル変換による画素数変換処理を説明
するための図である。
【図14】本発明の第2実施例を示すものであって、撮
像装置の構成を示すブロック図である。
【図15】SDフォーマットの仕様を示す図である。
【図16】HDフォーマットの仕様を示す図である。
【図17】従来例を示すものであって、撮像装置の構成
を示すブロック図である。
【図18】従来例を示すものであって、空間斜め画素ず
らし法による各CCD撮像素子の画素の配置を示す図で
ある。
【図19】従来例を示すものであって、空間斜め画素ず
らし法による画素の補間処理を示す図である。
【符号の説明】
2 ダイクロイックミラー 3 R用CCD撮像素子 4 G用CCD撮像素子 5 B用CCD撮像素子 6 アンプ部 7 A/D変換部 8 ガンマ補正部 9 補間処理部 10 画素数変換部 12、13、14 出力セレクタ 21 メモリ部 21a、21b、21c、21d ラインメモリ 21e スイッチ回路 21f セレクタ 21g カウンタ 21h メモリ制御部 21i、21j マルチプレクサ 22、25、26、29、30、32 係数器 24、28 1画素遅延回路 23、27、31 加算器 33 ラインカウンタ 34 カラムカウンタ 35 ラッチ回路 41 プリフィルタ 42 内挿処理部 43 補間用ローパスフィルタ 44 間引き処理部
フロントページの続き (56)参考文献 特開 平6−217330(JP,A) 特開 平7−288825(JP,A) 特開 平5−199547(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 9/00 - 9/11 H04N 11/00 - 11/22

Claims (7)

    (57)【特許請求の範囲】
  1. 【請求項1】 撮像光を三原色に分解する色分解光学系
    と、 該色分解光学系によって分解されたいずれかの色の撮像
    光を受光する第1の撮像部と、 該色分解光学系によって分解された他の2色の撮像光を
    それぞれ受光し、かつ該第1の撮像部に対して水平及び
    垂直方向に1/2画素ずらして配置された第2と第3の
    撮像部と、 該第1ないし第3の撮像部が撮像した三原色の画像信号
    をそれぞれディジタル信号に変換するA/D変換部と、 該A/D変換部でディジタル信号に変換された三原色の
    各画像信号について、各画素間の画素を補間することに
    より、水平及び垂直方向に画素数をそれぞれ2倍に拡大
    させる補間処理を行う補間処理部と、 該補間処理部で補間された三原色の各画像信号に対し
    て、水平及び垂直方向の画素数変換処理を行うことによ
    り各ラインの画素数とライン数を変換する処理、及びト
    リミング若しくは画像範囲外への所定信号の付加を行う
    ことによりアスペクト比を変換する処理のうち少なくと
    も一つの処理を行い、該各画像信号を複数のフォーマッ
    トのうちのいずれかに基づいた画像信号に変換するフォ
    ーマット変換処理を行う画素数変換部とを備えた撮像装
    置。
  2. 【請求項2】 前記補間処理部が、補間処理を1次のラ
    グランジュ型多項式補間によって行うものである請求項
    1に記載の撮像装置。
  3. 【請求項3】 前記補間処理部が、補間処理を2次のラ
    グランジュ型多項式補間によって行うものである請求項
    1に記載の撮像装置。
  4. 【請求項4】 前記補間処理部が、補間処理を2次以上
    のラグランジュ型多項式補間によって行うものである請
    求項1に記載の撮像装置。
  5. 【請求項5】 前記画素数変換部が、画素数変換処理を
    ラグランジュ型多項式補間によって行うものである請求
    項1ないし請求項4のいずれかに記載の撮像装置。
  6. 【請求項6】 前記画素数変換部が、各ラインの各カラ
    ムの画素を現画素として順次供給すると共に、該各現画
    素ごとに、当該現画素に対して1ラインからnライン遅
    延したn個の遅延画素と、該現画素と該1ラインからn
    ライン遅延したn個の画素に対してそれぞれ1カラムか
    らnカラム遅延したn×(n+1)個の遅延画素の合計
    n×(n+2)個の遅延画素を供給する画素供給手段
    と、該現画素と当該現画素についての遅延画素をそれぞ
    れ係数倍して加算することによりn次のラグランジュ型
    多項式補間による補間画素を得る演算手段と、該演算手
    段に所定の周期で各係数を供給する係数供給手段とによ
    って画素数変換を行う請求項5に記載の撮像装置。
  7. 【請求項7】 前記A/D変換部でディジタル信号に変
    換された三原色の各画像信号について前記補間処理部で
    補間処理を行うかどうかを選択する選択手段、該補間処
    理部で補間された三原色の各画像信号について画素数変
    換部でフォーマット変換処理を行うかどうかを選択する
    選択手段、又は、該A/D変換部でディジタル信号に変
    換された三原色の各画像信号について該補間処理部と該
    画素数変換部で補間処理とフォーマット変換処理を行う
    かどうかを選択する選択手段を有する請求項1ないし請
    求項6のいずれかに記載の撮像装置。
JP31682494A 1994-12-20 1994-12-20 撮像装置 Expired - Fee Related JP3164481B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP31682494A JP3164481B2 (ja) 1994-12-20 1994-12-20 撮像装置
US08/574,619 US5657082A (en) 1994-12-20 1995-12-19 Imaging apparatus and method using interpolation processing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP31682494A JP3164481B2 (ja) 1994-12-20 1994-12-20 撮像装置

Publications (2)

Publication Number Publication Date
JPH08172636A JPH08172636A (ja) 1996-07-02
JP3164481B2 true JP3164481B2 (ja) 2001-05-08

Family

ID=18081333

Family Applications (1)

Application Number Title Priority Date Filing Date
JP31682494A Expired - Fee Related JP3164481B2 (ja) 1994-12-20 1994-12-20 撮像装置

Country Status (2)

Country Link
US (1) US5657082A (ja)
JP (1) JP3164481B2 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0169376B1 (ko) * 1995-10-10 1999-03-20 김광호 멀티미디어 대응 가능한 씨씨디 카메라 시스템
MY117289A (en) * 1996-01-17 2004-06-30 Sharp Kk Image data interpolating apparatus
JP3651511B2 (ja) * 1996-03-22 2005-05-25 富士写真フイルム株式会社 デジタル画像記録装置および方法
US6154248A (en) * 1996-05-24 2000-11-28 Asahi Kogaku Kogyo Kabushiki Kaisha Electronic endoscope
KR100213054B1 (ko) * 1996-07-27 1999-08-02 윤종용 Hdtv용 카메라를 위한 수직 라인 배속 변환 방법 및 그 장치
US6339479B1 (en) * 1996-11-22 2002-01-15 Sony Corporation Video processing apparatus for processing pixel for generating high-picture-quality image, method thereof, and video printer to which they are applied
US6141017A (en) * 1998-01-23 2000-10-31 Iterated Systems, Inc. Method and apparatus for scaling an array of digital data using fractal transform
JP2991180B2 (ja) 1998-01-28 1999-12-20 日本電気株式会社 画素補間方法及び画素補間回路並びに画素補間プログラムを記録した記録媒体
JP3652122B2 (ja) * 1998-06-29 2005-05-25 キヤノン株式会社 画像入力装置及び画像入力方法並びにメモリ媒体
US6411334B1 (en) * 1999-03-05 2002-06-25 Teralogic, Inc. Aspect ratio correction using digital filtering
JP2000276094A (ja) * 1999-03-29 2000-10-06 Fuji Photo Film Co Ltd 階調補正方法及び画像表示システム
JP4361991B2 (ja) * 1999-08-20 2009-11-11 メディア・テック・ユーエスエイ・インコーポレーテッド 画像処理装置
US6906748B1 (en) 1999-08-24 2005-06-14 Olympus Optical Co., Ltd. Electronic camera
JP4378804B2 (ja) 1999-09-10 2009-12-09 ソニー株式会社 撮像装置
JP3991543B2 (ja) * 2000-01-11 2007-10-17 株式会社日立製作所 撮像装置
JP2001326902A (ja) * 2000-05-18 2001-11-22 Olympus Optical Co Ltd 電子カメラ
EP1173029B1 (en) * 2000-07-14 2005-11-02 Matsushita Electric Industrial Co., Ltd. Color image pickup device
KR100498594B1 (ko) * 2000-12-30 2005-07-01 매그나칩 반도체 유한회사 씨모스 이미지 센서
US6961480B2 (en) * 2001-09-10 2005-11-01 Ess Technology, Inc. Off-grid interpolation in image processing
KR100422579B1 (ko) * 2002-04-29 2004-03-12 주식회사 하이닉스반도체 이미지센서 및 이미지센서의 신호 처리 방법
JP4211292B2 (ja) * 2002-06-03 2009-01-21 ソニー株式会社 画像処理装置および画像処理方法、プログラム並びにプログラム記録媒体
JP4169340B2 (ja) * 2002-11-25 2008-10-22 カシオ計算機株式会社 表示パネル用出力信号生成回路、デジタルカメラ及び表示パネル用出力信号生成方法
US7129987B1 (en) 2003-07-02 2006-10-31 Raymond John Westwater Method for converting the resolution and frame rate of video data using Discrete Cosine Transforms
JP2007235877A (ja) * 2006-03-03 2007-09-13 Fujifilm Corp 多板式固体撮像素子モジュール及び撮像装置
JP4548390B2 (ja) * 2006-06-16 2010-09-22 ソニー株式会社 撮像装置及び信号処理方法
US7911515B2 (en) * 2007-09-20 2011-03-22 Victor Company Of Japan, Ltd. Imaging apparatus and method of processing video signal
CN101902654A (zh) * 2010-07-22 2010-12-01 杭州爱威芯科技有限公司 一种应用于多通道视频解码芯片的视频缩放控制方法
JP5849555B2 (ja) * 2011-09-15 2016-01-27 大日本印刷株式会社 解像度変換装置及び解像度変換方法
US8917329B1 (en) 2013-08-22 2014-12-23 Gopro, Inc. Conversion between aspect ratios in camera
JP2017034656A (ja) * 2015-08-04 2017-02-09 ソニー・オリンパスメディカルソリューションズ株式会社 医療用撮像装置、医療用画像取得システム及び内視鏡装置
JP7129219B2 (ja) * 2018-05-28 2022-09-01 キヤノン株式会社 撮像装置
CN109727196B (zh) * 2018-12-26 2023-06-02 呈像科技(北京)有限公司 图像内插处理方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5099317A (en) * 1988-09-28 1992-03-24 Kabushiki Kaisha Toshiba Video camera apparatus using a plurality of imaging devices
JPH05207377A (ja) * 1991-12-03 1993-08-13 Nec Corp テレビカメラ装置
JP3735867B2 (ja) * 1993-01-14 2006-01-18 ソニー株式会社 輝度信号生成装置

Also Published As

Publication number Publication date
US5657082A (en) 1997-08-12
JPH08172636A (ja) 1996-07-02

Similar Documents

Publication Publication Date Title
JP3164481B2 (ja) 撮像装置
US7349016B2 (en) Solid-state color imaging apparatus capable of reducing false signals with regard to both luminance and chrominance
JP4377428B2 (ja) 固体撮像素子及びそれを用いた撮像装置
JP3429061B2 (ja) 電子スチルカメラ
Smith et al. A single-chip 306/spl times/244-pixel CMOS NTSC video camera
JP4555775B2 (ja) 撮像装置
JP2936760B2 (ja) カラーテレビジョンカメラ装置
EP0469836B1 (en) Image signal processing apparatus
JP4641675B2 (ja) 画像信号処理装置
WO2009125673A1 (ja) 動画処理装置及び動画処理方法、動画処理プログラム
JP2007235591A (ja) カメラ装置の制御方法及びこれを用いたカメラ装置
JPH04170882A (ja) ディジタル・カメラ信号処理装置
JP4997172B2 (ja) 画像分割処理用の画像信号処理装置、方法及びプログラム
US6020922A (en) Vertical line multiplication method for high-resolution camera and circuit therefor
JP7022544B2 (ja) 画像処理装置及び方法、及び撮像装置
JP3767367B2 (ja) 撮像装置
US6266101B1 (en) Y/C separator
JPH10248069A (ja) 撮像装置
JP3463695B2 (ja) 撮影装置
JP3673068B2 (ja) カラーテレビジョンカメラ装置
EP0926888A2 (en) Imaging apparatus
JPS6386975A (ja) 固体カラ−撮像装置
JP3542396B2 (ja) 撮像装置及び撮像方法
JPH08256345A (ja) 撮像装置及び画像信号処理装置
JP2005006078A (ja) 撮像装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20010201

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080302

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090302

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100302

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100302

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110302

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees