JP4419499B2 - 画像生成装置、画像ずれ量検出装置、画像生成方法、画像ずれ量検出方法、画像生成プログラムおよび画像ずれ量検出プログラム - Google Patents
画像生成装置、画像ずれ量検出装置、画像生成方法、画像ずれ量検出方法、画像生成プログラムおよび画像ずれ量検出プログラム Download PDFInfo
- Publication number
- JP4419499B2 JP4419499B2 JP2003339880A JP2003339880A JP4419499B2 JP 4419499 B2 JP4419499 B2 JP 4419499B2 JP 2003339880 A JP2003339880 A JP 2003339880A JP 2003339880 A JP2003339880 A JP 2003339880A JP 4419499 B2 JP4419499 B2 JP 4419499B2
- Authority
- JP
- Japan
- Prior art keywords
- frame information
- information
- image
- frame
- represented
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 133
- 238000001514 detection method Methods 0.000 title claims description 32
- 238000006073 displacement reaction Methods 0.000 title claims description 12
- 230000008569 process Effects 0.000 claims description 82
- 238000013519 translation Methods 0.000 claims description 76
- 238000006243 chemical reaction Methods 0.000 claims description 75
- 238000012545 processing Methods 0.000 claims description 65
- 230000002194 synthesizing effect Effects 0.000 claims description 24
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000012937 correction Methods 0.000 description 73
- 230000033001 locomotion Effects 0.000 description 34
- 238000007639 printing Methods 0.000 description 17
- 239000000976 ink Substances 0.000 description 8
- 230000015572 biosynthetic process Effects 0.000 description 7
- 238000003786 synthesis reaction Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000012886 linear function Methods 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
また、特許文献1には、標準解像度の画像から高解像度の画像への解像度変換の際に、高解像度の画像用のメモリを用意しておき、画像の動きを検出し、画像の動きに応じて平行移動させた複数の標準解像度の画像の画素で高解像度の画像の各画素を埋めていくことが開示されている。
上記フレーム情報や画像データは、例えば、ビットマップデータ、圧縮されたデータ、等、様々なデータ形式の情報が考えられる。また、同フレーム情報や画像データは、例えば、輝度データ(Y)と色差データ(Cb,Cr)とから構成されるYCbCrデータ、レッドデータ(R)とグリーンデータ(G)とブルーデータ(B)とから構成されるRGBデータ、シアンデータ(C)とマゼンタデータ(M)とイエローデータ(Ye)とグリーンデータ(G)とから構成されるCMYeGデータ、CIE規格とされたLab空間内のLabデータ、等、様々な種類のデータが考えられる。
上記変換手段は、上記複数のフレーム情報で表現される各画像の少なくとも一つを回転させたり並進させたりして画像間の回転ずれや並進ずれをなくすように同複数のフレーム情報の少なくとも一つを変換する変換処理を行うと、さらに好適な構成となる。
上記回転量情報や並進量情報や、例えば、数値情報、文字情報、等、様々な情報が考えられる。
むろん、画像データで表現される画像の画素数がフレーム情報で表現される画像の画素数と同じであっても、静止画像の画素数を変えることができないだけであり、高画質の静止画像を得ることができることに変わりはない。
なお、請求項2〜請求項8に記載した構成を請求項10に記載した構成に対応させることも可能である。
なお、補間処理後の各階調データを平均する構成は、例えば、相加平均、相乗平均、調和平均(階調データの逆数の相加平均の逆数)、各階調データに異なる重みを付けた平均、等、様々考えられる。
なお、請求項12、請求項13に記載した両発明を併用して補間処理を行ってもよい。
ここで、各階調データをまとめる構成は、例えば、相加平均、相乗平均、調和平均、各階調データに異なる重みを付けた平均、総和、等、様々考えられる。
なお、請求項2〜請求項9、請求項11〜請求項14に記載した構成を請求項15に記載した構成に対応させることも可能である。
また、所定の手順に従って上述した手段に対応した処理を行う方法にも発明は存在する。従って、本発明は画像生成装置や画像ずれ量検出装置の制御方法としても適用可能であり、請求項16〜請求項18にかかる発明においても、基本的には同様の作用となる。
さらに、生成した画像データに基づいて印刷を行う印刷装置に対して印刷制御を行う印刷制御装置としても適用可能であるし、同印刷制御装置と印刷装置を備える印刷システムとしても適用可能であり、基本的には同様の作用となる。
むろん、請求項2〜請求項9、請求項11〜請求項14に記載した構成を上記方法、印刷制御装置、印刷システム、プログラム、プログラムを記録した媒体に対応させることも可能である。
ここで、上記記録媒体は、磁気記録媒体や光磁気記録媒体の他、今後開発されるいかなる記録媒体であってもよい。一次複製品、二次複製品などの複製段階も問わない。一部がハードウェアで実現される場合や、一部を記録媒体上に記録しておいて必要に応じて適宜読み込む場合も本発明の思想に含まれる。
(1)印刷システムの構成:
(2)画像生成装置および画像ずれ量検出装置の構成の概略:
(3)カメラモーションの推定:
(4)画像生成装置および画像ずれ量検出装置が行う処理:
(4−1)合成範囲の切り出し:
(4−2)並進補正量と回転補正量の検出:
(4−3)フレーム画像のずれ補正:
(4−4)フレーム画像の合成−その1:
(4−5)フレーム画像の合成−その2:
(4−6)フレーム画像の合成−その3:
(5)変形例:
図1は、本発明の一実施形態である印刷システム100の概略構成を示している。本システム100は、パーソナルコンピュータ(PC)10、印刷装置であるカラー印刷可能なインクジェットプリンタ20等から構成されている。なお、PC10は、映像情報の複数のフレーム情報から静止画像を表現する画像データを生成する意味で本発明にいう画像生成装置となり、同複数のフレーム情報から画像間の回転ずれを表す回転量を検出する意味で本発明にいう画像ずれ量検出装置となる。また、画像データを生成して対応する静止画像をプリンタ20に印刷させる意味で印刷制御装置となる。
PC10は演算処理の中枢をなすCPU11を備えており、このCPU11はシステムバス10aを介してPC10全体の制御を行う。同バス10aには、ROM12、RAM13、DVD−ROMドライブ15、1394用I/O17a、各種インターフェイス(I/F)17b〜e等が接続されている。また、ハードディスクドライブを介してハードディスク(HD)14も接続されている。本実施形態のコンピュータにはデスクトップ型PCを採用しているが、コンピュータとしては一般的な構成を有するものを採用可能である。
1394用I/O17aは、IEEE1394規格に準拠したI/Oであり、デジタルビデオカメラ30等が接続されるようになっている。同ビデオカメラ30は、映像情報を生成してPC10に出力可能である。CRTI/F17bにはフレーム情報や画像データに基づく画像を表示するディスプレイ18aが接続され、入力I/F17cにはキーボード18bやマウス18cが操作用入力機器として接続されている。また、プリンタI/F17eには、パラレルI/Fケーブルを介してプリンタ20が接続されている。むろん、USBケーブル等を介してプリンタ20を接続する構成としてもよい。
むろん、4色以外のインクを使用するプリンタを採用してもよい。また、インク通路内に泡を発生させてインクを吐出するバブル方式のプリンタや、レーザープリンタ等、種々の印刷装置を採用可能である。
図2に示すように、プリンタ20では、CPU21、ROM22、RAM23、通信I/O24、コントロールIC25、ASIC26、I/F27、等がバス20aを介して接続されている。通信I/O24はPC10のプリンタI/F17eと接続されており、プリンタ20は通信I/O24を介してPC10から送信されるCMYeKに変換されたデータやページ記述言語等からなる印刷ジョブを受信する。ASIC26は、CPU21と所定の信号を送受信しつつヘッド駆動部26aに対してCMYeKデータに基づく印加電圧データを出力する。同ヘッド駆動部26aは、同印加電圧データに基づいて印刷ヘッドに内蔵されたピエゾ素子への印加電圧パターンを生成し、印刷ヘッドにCMYeKのインクを吐出させる。I/F27に接続されたキャリッジ機構27aや紙送り機構27bは、印刷ヘッドを主走査させたり、適宜改ページ動作を行いながらメディアを順次送り出して副走査を行ったりする。そして、CPU21が、RAM23をワークエリアとして利用しながらROM22に書き込まれたプログラムに従って各部を制御する。
そして、上記ハードウェアと上記プログラムとが協働して画像生成装置および画像ずれ量検出装置を構築する。
図3は、上記画像生成装置の構成の概略を模式的に示している。PCを画像生成装置U0として機能させる画像生成プログラムは、以下に述べる各種手段に対応した複数のモジュールから構成されている。
映像情報D1は、フレーム画像をドットマトリクス状の多数の画素で階調表現した多数のフレーム情報D2から構成されている。これらのフレーム情報D2は、時系列に連続した情報である。図では、左側から右側に向かって時系列順、すなわち、右側ほど時系列順に後の情報として示している。フレーム取得手段U1は、映像情報D1から時系列に連続した複数のフレーム情報D3を取得する。本実施形態では、時系列順に最初のフレーム情報を参照フレーム情報D31とし、その後に続くフレーム情報(図の例では三つ)を対象フレーム情報D32としている。むろん、複数のフレーム情報のうちどれを参照フレーム情報にしてもよいし、参照フレーム情報は取得された複数のフレーム情報でなくてもよい。
ここで、ずれ量と補正量との関係を図5を用いて説明する。図5に示すように、フレーム情報の多数の画素をxy平面上で表すことにし、上段のフレーム情報52a,bは時系列の順とされ、下段のフレーム情報52c,dも時系列の順とされているものとする。図の上段に示すように、フレーム情報52a上のオブジェクト53aが回転せずに平行移動するときのx軸方向の移動量ua(=1画素)、y軸方向の移動量va(=2画素)が並進ずれ量である。また、図の下段に示すように、並進ずれ量(ua,va)が(0,0)であるときにフレーム情報52c上のオブジェクト53cがフレーム画像52cの中心52c1を回転中心として回転する時の移動量が回転ずれ量(δa)である。この時、これらのずれをなくすための補正量として回転補正量を「δ」、並進補正量として横方向を「u」、縦方向を「v」と表記すると、回転ずれ量と回転補正量との関係は、δ=−δaで、並進ずれ量と並進補正量との関係は、u=−ua、v=−vaと表すことができる。また、回転補正量δが、本発明にいう、回転量情報となり、並進補正量(u,v)が、本発明にいう、並進量情報となる。
本実施形態のずれ量取得手段U2は、複数のフレーム情報D3の画素の位置とその画素の階調データとに基づいて、最小自乗法により複数のフレーム情報で表現される画像間の回転ずれと並進ずれを求める演算式を用いて回転ずれと並進ずれを求め、回転量情報D4と並進量情報D5を取得するようにしている。同回転ずれと並進ずれを求める手法を、「カメラモーション(Camera Motion)の推定」と呼ぶことにする。
ここで、第一のフレーム画像の次に第二のフレーム画像があるとき、第一のフレーム画像から第二のフレーム画像への並進ずれ量が(ua,va)、回転ずれ量が(δa)であるとすると、第二のフレーム画像について第一のフレーム画像とのずれをなくす場合、第二のフレーム画像を(−ua,−va)並進させ、(−δa)回転させる。また、第一のフレーム画像について第二のフレーム画像とのずれをなくす場合、第一のフレーム画像を(ua,va)並進させ、(δa)回転させるようにしてもよい。むろん、第一のフレーム画像を(ua/2,va/2)並進させ、(δa/2)回転させるとともに、第二のフレーム画像を(−ua/2,−va/2)並進させ、(−δa/2)回転させてもよい。
複数のフレーム情報を合成する際、画像データを生成する注目画素を順次移動させながら、複数のフレーム情報の全画素のうち注目画素の周辺に存在する画素の階調データを用いて所定の補間処理を行って注目画素の階調値を求め、静止画像を画素別の階調値で表現する画像データD7を生成する。
次に、ずれ量取得手段およびずれ量検出手段が行うカメラモーションの推定について説明する。カメラモーションの推定とは、映像情報から切り出した複数のフレーム情報で表現される複数のフレーム画像の相対的な位置関係を推定するものである。ここで、撮影中には撮影対象物自体やビデオカメラの設置位置の動きはなく、ビデオカメラの向きのみ変化しているものと仮定している。すなわち、パンおよびチルトと呼ばれるカメラワークに相当している。また、分かりやすく説明するため、参照フレーム情報で表現される参照フレーム画像の次に対象フレーム情報で表現される対象フレーム画像があるとし、参照フレーム画像と対象フレーム画像とのずれ量を推定するものとする。
x2 = cosδ・x1 + sinδ・y1 − u ...(1)
y2 = −sinδ・x1 + cosδ・y1 − v ...(2)
x1 = cosδ・(x2+u) − sinδ・(y2 + v) ...(1a)
y1 = sinδ・(x2+u) + cosδ・(y2 + v) ...(2a)
なお、参照フレーム画像と対象フレーム画像との時間差はごく僅かであるため、u,v,δは微小量となる。ここで、δが微小量のとき、cosδ≒1、sinδ≒δであるから、上式を以下のように置き換えることができる。
x2 = x1 + δ・y1 − u ...(3)
y2 = −δ・x1 + y1 − v ...(4)
x1 = (x2 +u)−δ・(y2 + v) ...(3a)
y1 = δ・(x2 + u)+(y2 + v) ...(4a)
そして、式(3),(4)(または、(3a),(4a))のu,v,δを最小自乗法により推定する。
ここで、図7の上段に示すように、参照フレーム情報の各画素の輝度をz1(ix,iy)、対象フレーム情報の各画素の輝度をz2(ix',iy')と表すことにする。
まず、対象フレーム情報の座標(ix',iy')が参照フレーム情報の座標(ix〜ix+1,iy〜iy+1)の間にあるものとして、勾配法により座標(ix',iy')を求める手法を説明する。
{Px・Δx − (z2−z1)}2 = 0 ...(5)
また、図の下段に示すように、座標(ix',iy')のy軸方向の位置をiy+Δyとし、Py=z1(ix,iy+1)−z1(ix,iy)とすると、Py・Δy=z2(ix',iy')−z1(ix,iy)となるようなΔyを求めればよい。ここでも、単にz1=z1(ix,iy)、z2=z2(ix',iy')で表すと、以下の式が成り立つようなΔyを算出すればよい。
{Py・Δy − (z2−z1)}2 = 0 ...(6)
そこで、xy両方向を考慮すると、以下の式のS2を最小にするΔx、Δyを最小自乗法により求めればよい。
S2 = Σ{Px・Δx + Py・Δy − (z2−z1)}2 ...(7)
図8に示すように、参照フレーム情報の座標(x,y)の原点Oからの距離をr、x軸からの回転角度をθとすると、r、θは以下の式により求められる。
r = (x2 + y2)1/2 ...(8)
θ = tan-1(x/y) ...(9)
x'−x ≒ −rδsinθ = −δ・y ...(10)
y'−y ≒ rδcosθ = δ・x ...(11)
そこで、上記式(7)におけるΔx,Δyは、並進補正量u,v、回転補正量δを用いて、以下の式で表される。
Δx = u − δ・y ...(12)
Δy = v + δ・x ...(13)
これらを上記式(7)に代入すると、以下の式が得られる。
S2 = Σ{Px・(u−δ・y) + Py・(v+δ・x) − (z2−z1)}2 ...(14)
フレーム画像間の並進ずれを大ざっぱに検出する手法として、パターンマッチ法による推定手法が知られている。
図の上段に示すように、参照フレーム情報の各画素の輝度をz1(ix,iy)、対象フレーム情報において同じ位置の画素の輝度をz2(ix,iy)と表すことにする。
まず、参照フレーム情報の画素(ix,iy)を対象フレーム情報の画素(ix,iy)に対応させる場合を基準として、この場合と、対象フレーム情報の画素(ix+1,iy)、(ix−1,iy)、(ix,iy+1)、(ix,iy−1)に対応させる場合とで、以下のLが最も小さくなる位置を求める。
L = |Z2i−Z1i| ...(30)
または、
L = (Z2i−Z1i)2 ...(31)
そして、例えば、対象フレーム情報の画素(ix−3,iy−1)のLが最小となるとき、参照フレーム情報の画素(ix,iy)を対象フレーム情報の画素(ix−3,iy−1)に対応させる場合と、対象フレーム情報の画素(ix−2,iy−1)、(ix−4,iy−1)、(ix−3,iy)、(ix−3,iy−2)に対応させる場合とで、Lが最も小さくなる位置を求めたとする。探索の中心の画素(ix−3,iy−1)のLが最小となるとき、ここで探索を終了する。探索終了時の対象フレーム情報のずれは、(3,1)となる。
そこで、対象フレーム情報について並進補正量(Δx,Δy)だけ画素をずらしておくと、カメラモーションの推定を高精度にて行うことができる。
以下、画像生成装置および画像ずれ量検出装置が行う処理とともに、動作を詳細に説明していく。
図10は、本画像生成装置が行う処理をフローチャートにより示している。具体的には、PC10のCPU11が本処理を行う。
まず、フレーム取得手段にて、画像を多数の画素別のYCbCrデータ(階調データ)で表現した多数のフレーム情報からなる映像情報から、合成する範囲の複数のフレーム情報を切り出して取得する(ステップS105。以下、「ステップ」の記載を省略)。切り出すフレーム情報は、二以上であれば特に限定されない。本実施形態では、映像情報から時系列に連続した四つのフレーム情報を取得するようにしているが、時系列に連続していない離散的な複数のフレーム情報を取得しても、並進補正量と回転補正量を検出してフレーム情報を合成し、静止画像を得ることが可能である。例えば、全画素の階調データを有して他のフレーム情報を参照しないで画像を表現可能な独立フレーム情報と、全画素の階調データを有しておらず他のフレーム情報を参照しないと画像を表現できない非独立フレーム情報と、から映像情報が構成される場合、離散的な独立フレーム情報のみを参照することにより、以下のカメラモーション推定処理を高速にて行うことが可能となる。
次に、ずれ量取得手段およびずれ量検出手段にて、カメラモーションによりフレーム画像の並進補正量と回転補正量を推定して並進量情報と回転量情報を取得するカメラモーション推定処理を行う(S110)。
図11は、カメラモーション推定処理をフローチャートにより示している。
まず、映像情報から取得した複数のフレーム情報の中から、参照フレーム情報を設定する(S205)。本実施形態では、時系列順に一番最初のフレーム情報を参照フレーム情報と設定する。ここで、参照フレーム情報とするフレーム情報をRAMの中の所定の領域に格納することにより参照フレーム情報を設定してもよいし、参照フレーム情報とするフレーム情報の記憶アドレスをRAM内の所定のポインタに格納することにより参照フレーム情報を設定してもよい。
その後、参照フレーム情報から注目画素iの位置を設定し、対象フレーム情報から注目画素i'の位置を設定する(S220)。例えば、フレーム情報が横(x軸方向)nx画素、縦(y軸方向)ny画素のドットマトリクス状に構成されている場合、参照フレーム情報の座標(ix,iy)の画素を注目画素にする際に、i=ix+nx×iyにより注目画素iの位置を設定することができるし、対象フレーム情報の座標(ix',iy')の画素を注目画素にする際に、i'=ix'+nx×iy'により注目画素i'の位置を設定することができる。本実施形態では、注目画素の位置を設定する順序は、左上の画素から開始して順番に右上の画素までとし、その後一つずつ下の左端の画素から順番に右端の画素までとして、最後に右下の画素としている。以下、各種処理にて注目画素の位置を設定する場合も同様にしている。むろん、注目画素の位置を設定する順序は、適宜変更可能であり、フレーム画像の種類等に応じて異なる順序とすることも可能である。
なお、S220の処理を行う前に、上述したパターンマッチ法により参照フレーム画像から対象フレーム画像への大ざっぱな並進補正量(Δx,Δy)を検出して取得し、並進補正量(Δx,Δy)だけ画素をずらしておいてもよい。
例えば、M20については総和を算出する必要があるため、変数M20について、
M20 ← M20 + (注目画素i,i'のΣ内の値)
の演算、すなわち、注目画素i,i'のΣ内の値を加算する処理を行う。M11,M02,mu,mv,mδ,cu,cv,cδについても同様である。
そして、参照フレーム情報の全画素について、上記各種変数について演算したか否かを判断する(S230)。上記各種変数を演算していない画素が残っている場合には、上記各種変数を演算する注目画素i,i'を順次移動させながら繰り返しS220〜S230の処理を行い、全画素について上記各種変数を演算した場合には、S235に進む。
次に、上記式(15),(16)を用いて、並進補正量u,vを算出する(S240)。すなわち、複数のフレーム情報で表現される画像間の並進ずれを補正する並進補正量が1画素よりも細かい単位で検出されたことになり、並進量情報が数値情報である並進補正量u,vとして取得されたことになる。
さらに、上記式(17)を用いて、回転補正量δを算出する(S245)。すなわち、複数のフレーム情報で表現される画像間の回転ずれを補正する回転補正量が1画素よりも細かい単位で検出されたことになり、回転量情報が数値情報である回転補正量δとして取得されたことになる。
そして、u,v,δを、並進量情報と回転量情報としてRAM内の所定の領域に記憶する(S250)。
以上の処理にて、カメラモーションにより並進補正量(u,v)と回転補正量(δ)を検出し、これらを並進量情報と回転量情報として取得することができる。その際、フレーム情報の各画素の位置変換が当該画素よりも細かい単位で高精度にて行われるので、高画質の静止画像を得ることが可能となる。また、最小自乗法によりフレーム画像間の回転ずれと並進ずれを補正するための演算式を用いることにより、高速にて回転補正量と並進補正量を検出することができるので、画像データを生成する処理を高速化させることが可能となる。
なお、フレーム画像の性質等に応じて、u,v,δに所定の補正係数を乗じて並進量情報と回転量情報としてもよい。補正係数が1でなくても、並進量情報は複数のフレーム情報で表現される画像間の並進ずれを少なくさせる情報となり、回転量情報は複数のフレーム情報で表現される画像間の回転ずれを少なくさせる情報となる。
カメラモーション推定処理が終了すると、図10のS115に進み、変換手段にて、並進量情報と回転量情報とに基づいて、対象フレーム情報で表現される三枚の対象フレーム画像を並進させるとともに回転させて参照フレーム画像との並進ずれと回転ずれをなくすように、三つの対象フレーム情報を変換する変換処理を行う。
図12は、フレーム変換処理をフローチャートにより示している。
まず、対象フレーム情報の中から、画素の座標を変換する対象フレーム情報を設定する(S305)。本実施形態では、図11のS210と同様に、時系列順に対象フレーム情報を設定する。
次に、対象フレーム情報から座標変換する注目画素i'の位置を設定する(S310)。本実施形態では、図11のS220と同様にして注目画素i'の位置を設定する。
さらに、回転補正量δをRAMから読み出し、対象フレーム画像の回転ずれをキャンセルするよう、フレーム画像の中心を原点として注目画素i'の位置をさらにδ回転させるように座標変換する(S320)。ここで、座標(ix'+u,iy'+v)を、原点を中心とする座標(x',y')に置き換え、原点から座標(x',y')までの距離をr'とすると、座標(x',y')はδの回転によりx軸方向に−δ・y'、y軸方向にδ・x'移動する。すなわち、並進後の座標(ix'+u,iy'+v)の注目画素i'の位置は、座標(x'−δ・y',y'+δ・x')に移動させられる。むろん、座標(x'−δ・y',y'+δ・x')は、フレーム情報の画素よりも細かくされている。
S330では、全対象フレーム情報について、座標変換を行ったか否かを判断する。座標変換を行っていない対象フレーム情報が残っている場合には、繰り返しS305〜S330の処理を行う。本実施形態では、時系列順に対象フレーム情報を設定して、座標変換を行う。全対象フレーム情報について座標変換を行った場合、本フローを終了する。
以上の処理にて、並進量情報と回転量情報に基づいて、対象フレーム画像を並進させるとともに回転させて参照フレーム情報と対象フレーム情報とで表現される画像間の回転ずれをなくすように対象フレーム情報を変換することができる。
なお、フレーム画像の性質等に応じて、u,v,δに所定の補正係数を乗じてから座標変換を行ってもよい。補正係数が1でなくても、複数のフレーム情報で表現される画像間の並進ずれや回転ずれが少なくなるようにフレーム情報を変換することができる。
また、所定の補正係数を乗じたu,v,δを用いて、二つのフレーム情報双方とも座標変換を行うようにしてもよい。
フレーム変換処理が終了すると、図10のS120に進み、合成手段にて、参照フレーム情報と、上記フレーム変換処理にて変換処理が行われた三つの対象フレーム情報とを合成して、静止画像を多数の画素で階調表現する画像データを生成する処理を行う。
図13に示すように、四つのフレーム情報からカメラモーションの推定により、参照フレーム情報に対して並進ずれと回転ずれがなくなるように座標変換された三つの対象フレーム情報を重ね合わせる処理を行う。
まず、生成する画像データで表現される静止画像の解像度を取得する(S405)。例えば、ディスプレイに解像度選択欄を有する印刷インターフェイス画面を表示し、解像度選択欄への操作入力から合成後の静止画像の解像度を表すパラメータを取得してRAMに格納すればよい。そして、フレーム画像の解像度に対する静止画像の解像度の比が画像の拡大率となり、この拡大率となるように合成後の画像データの画素数を決定する(S410)。このように、静止画像の解像度を変え、画素数を変えることができるので、思い通りの静止画像を得ることが可能となる。本画像生成装置は、複数のフレーム情報を合成することにより高画質の静止画像を表現する画像データを生成することができるので、静止画像をフレーム画像よりも高解像度に設定することにより、画素数が多くされた高画質の静止画像を得ることができ、より思い通りの静止画像を得ることが可能となる。
以下、フレーム画像の画素をx軸方向、y軸方向ともに1.5倍に増やす場合を例にとって、静止画像を表現する画像データを生成する様子を説明する。本画像生成装置は、画像データを生成する注目画素を順次移動させながら、参照フレーム情報と対象フレーム情報の全画素のうち注目画素の周辺に存在する画素の階調データを用いて所定の補間処理を行い、画像データを生成する。
注目画素iを設定すると、四つ全てのフレーム情報の全画素のうち、注目画素iの近傍に存在する画素と同注目画素iとの距離を算出する(S420)。次に、注目画素iに最も近い最短画素を選出する(S425)。選出の際には、例えば、最短画素の座標値をRAM内の所定領域に格納すればよい。ここで、生成する画像データを基準とした注目画素iの座標を(x0,y0)、注目画素iの近傍に存在する画素の座標を(xf,yf)とすると、{(xf−x0)2+(yf−y0)2}1/2が最小となる画素を最短画素とすればよい。
図15は、上記最短画素を選択する様子を模式的に示している。図において、参照フレーム情報と三つの対象フレーム情報の全画素の位置がプロットされるとともに、生成する画像データの画素(縦横1.5倍密)の位置もプロットされている。ここで、各フレーム情報にフレーム番号f(f=1,2,3,4)を付与するとともに、各フレーム情報のそれぞれについて、注目画素に最も近い画素を選出する。図中、選出された画素と注目画素iとの距離を、L(i,f)で表している。そして、L(i,f)が最も小さくなるfnearest(i)を求める。この値が小さい画素であるほど(選出された画素が注目画素iに近いほど)、その画素を含むフレーム情報を参照した補間処理を行うことにより、静止画像中のエッジ部分のジャギーが少なくなる傾向にある。図の注目画素iについては、fnearest(i)=4であるため、フレーム4のフレーム情報を取得する。
図16は、バイ・リニア法(共1次内挿法)による補間処理を行う様子を模式的に示している。図に示すように、取得したフレーム情報から最短画素61aを含めて、注目画素iを囲む周辺の四つの画素61a〜dの階調データを用いて補間処理を行う。バイ・リニア法は、補間演算に用いる画素(格子点)61a〜dの一方から他方へと近づくにつれて階調データの重み付けが徐々に変化していき、その変化が両側の画素の階調データだけに依存する一次関数とされている。ここで、内挿したい注目画素iを取り囲む四つの画素61a〜dで区画される領域を当該注目画素iで四つの区画に分割し、その面積比で対角位置のデータに重み付けすればい。
生成された画像データの各画素について、同様のことを行えば、すべての画素値を推定することができる。
むろん、画像データを生成する処理を高速化させるために、例えばニアリストネイバー法による補間処理を行ってもよい。この場合、フレーム情報の最短画素の階調データを注目画素iの画像データとすればよい。また、例えばバイ・キュービック法のように精度のよい補間処理を行ってもよい。
さらに、「バイ・キュービック法」、「バイ・リニア法」、「ニアリストネイバー法」のいずれかを選択入力可能としておき、選択入力された補間処理により注目画素の画像データを生成するようにしてもよい。すると、画質を優先するか処理速度を優先するかを選択することが可能となり、利便性を向上させることができる。
このようにして、座標変換の行われた複数のフレーム情報が合成され、静止画像を多数の画素で階調表現する画像データが生成される。なお、この段階で例えば所定の換算式を用いてYCbCrデータをRGBデータに変換する等してもよい。
実際に試験を行ったところ、複数のフレーム情報の全画素のうち注目画素iに最も近い画素の階調データを用いて補間処理を行うようにしたことにより、静止画像中のエッジ部分にジャギーが入らなくなる効果が得られた。このように、単に1フレームを使っただけでは得られない、高精細な高解像度画像が、複数フレームを使うことによって生成することができる。特に、個々のフレーム画像の動き推定の精度が良好であるときに、高精細な高解像度画像を得ることが可能となる。
ここで、合成する複数のフレーム情報は、変化の小さい時系列に連続した情報であるので、これらのフレーム情報が合成されて静止画像を表現する画像データが生成されることにより、簡易な構成で高画質の静止画像を得ることが可能となる。
なお、図17に示すフローチャートに従って合成処理を行ってもよい。
図示していないが、図14のS405〜S410と同様、静止画像の解像度を取得し、合成後の画像データの画素数を決定した後、最短画素距離の閾値Lthを取得する(S505)。例えば、所定の選択欄を有する印刷インターフェイス画面を表示し、同選択欄への操作入力から閾値Lthを表すパラメータを取得してRAMに格納すればよい。
ここで、図18に示すように、最短画素距離の閾値Lthとは、フレーム情報の画素が注目画素iから所定の距離内にあるかどうかを判定するための閾値である。図の例では、生成する画像データにおける画素間の距離の1/2を閾値Lthとしている。注目画素iを含む各画素を中心として点線で描いた円は、同画素から閾値Lthの距離にあることを示している。
なお、閾値Lthを表すパラメータを操作入力によって取得する以外にも、生成画像の画素数、フレーム画像の総画素数などの値から自動的に閾値Lthを設定するようにしてもよい。例えば、
Lth = 3×(生成画像画素間距離)×(生成画像画素数)
/(フレーム画像総画素数)
とすれば、閾値Lthは図18で示した円内に平均3個のフレーム画像画素が入るような値に設定することができる。
さらに、算出した距離が閾値Lth以下となるフレーム情報の画素を選出する(S520)。選出の際には、例えば、同画素の座標値をRAM内の所定領域に格納すればよい。図18の例では、距離L(i,4)の画素と距離(i,2)の画素とが選出される。
このようにして、複数のフレーム情報のうち注目画素iを基準とした所定の範囲内の画素を選出することができる。
そして、補間処理後の各階調データの相加平均を求めて、注目画素iの画像データを生成する(S535)。ここで、補間処理後の階調データは、YCbCrデータであってもよいし、RGBデータであってもよい。階調データをまとめる際には、相加平均以外にも、相乗平均、調和平均、フレーム情報別に異なる重みを付けた平均、等を行ってもよい。注目画素iから所定の範囲内にあるフレーム情報の画素が一つしかないとき、平均する処理を省略すると、画像データを生成する処理を高速化させることが可能となる。
以上の処理により、座標変換の行われた複数のフレーム情報が合成され、静止画像を多数の画素で階調表現する画像データが生成される。
上記処理を行うと、特に、個々のフレーム画像の動き推定の精度が良好でないときにフレーム画像間のずれを目立たせなくすることができるため、このようなときに高精細な高解像度画像を得ることが可能となる。
また、図19に示すフローチャートに従って合成処理を行ってもよい。
図示を省略しているが、図14のS405〜S410と同様、静止画像の解像度を取得し、合成後の画像データの画素数を決定した後、静止画像を階調表現する画像データを生成する注目画素iの位置を設定する(S605)。次に、四つのフレーム情報のうち、補間処理を行うフレーム情報を設定する(S610)。
設定したフレーム情報をRAM内の所定領域に格納してもよいし、記憶アドレスを所定のポインタに格納してもよい。さらに、設定されたフレーム情報から、注目画素iの周辺の画素を選択する(S615)。そして、選択した画素のYCbCrデータ等の階調データを用いて、バイ・キュービック法等の所定の補間処理を行い、注目画素iの画像データを生成する(S620)。
バイ・キュービック法は、内挿したい注目画素iを取り囲む四つの画素(格子点)のみならず、その一周り外周の画素を含む計16の画素のデータを利用する。注目画素iの階調値は、同注目画素iを取り囲む計16の画素の階調値の影響を受けて決定される。例えば、一次式で補間しようとすれば、注目画素iを挟む二つの画素からの距離に反比例させて重みづけ加算すればよい。また、距離に応じた影響度合いを3次たたみ込み関数f(t) = {sin(πt)}/πtで表してもよい。
S630では、補間処理後の各階調データの相加平均を求めて、注目画素iの画像データを生成する。階調データをまとめる際には、相加平均以外にも、相乗平均、調和平均、フレーム情報別に異なる重みを付けた平均、等を行ってもよい。
そして、生成する画像データの全画素について、補間処理により画像データを生成したか否かを判断する(S635)。画像データを生成していない画素が残っている場合には、注目画素iを順次移動させながら繰り返しS605〜S635の処理を行い、全画素について画像データを生成した場合には、本フローを終了する。
本発明の画像生成装置および画像ずれ量検出装置は、様々な構成が可能である。
例えば、プリンタは、コンピュータと一体化されたものであってもよい。上述したフローについては、コンピュータ本体内で実行する以外にも、一部または全部をプリンタあるいは専用の画像出力装置で実行するようにしてもよい。
画像データを構成する多数の画素は、縦横に整然と並んだドットマトリクス状とされる以外にも、様々な構成が考えられる。例えば、正六角形を密に並べたような蜂の巣状に整然と並んだ画素から画像データを構成してもよい。
合成する複数のフレーム情報は、二以上であれば、数の限定はない。また、フレーム画像の一部分を合成して静止画像を表現する画像データを生成することにも、本発明を適用可能である。さらに、1ライン毎に分からない領域があるインターレース映像であっても、フィールドごとに重ね合わせることにより、I・P変換にも効果を発揮し、動画像の1シーンを高解像度の静止画として表示、印刷する場合に、精細さを高めることができる。むろん、必ずしも解像度変換を目的としない複数フレームの重ね合わせ(例えば、パノラマ合成など)にも有効である。
なお、本発明では、並進ずれと回転ずれをなくすことができるため、手ぶれ以外により生じた並進ずれと回転ずれを補正することが可能である。
図20は、変形例にかかる画像生成装置が行う処理を模式的に示している。本変形例でも、映像情報から四つのフレーム情報を取得している。そして、カメラモーション推定処理では、時系列順に隣接したフレーム情報どうしから並進量情報と回転量情報を取得する。すなわち、参照フレーム情報とするフレーム1の第一のフレーム情報と対象フレーム情報とするフレーム2の第二のフレーム情報とで表現される両画像のずれを表す第一の並進量情報(並進補正量u1,v1)と第一の回転量情報(回転補正量δ1)を取得し、次に、参照フレーム情報とするフレーム2の第二のフレーム情報と対象フレーム情報とするフレーム3の第三のフレーム情報とで表現される両画像のずれを表す第二の並進量情報(並進補正量u2,v2)と第二の回転量情報(回転補正量δ2)を取得し、さらに、参照フレーム情報とするフレーム3の別の意味での第二のフレーム情報と対象フレーム情報とするフレーム4の別の意味での第三のフレーム情報とで表現される両画像のずれを表す別の意味での第二の並進量情報(並進補正量u3,v3)と別の意味での第二の回転量情報(回転補正量δ3)を取得する。
すなわち、映像情報から取得した複数のフレーム情報の中から参照フレーム情報を設定し(フレーム1,2,3の順)、対象フレーム情報を設定し(フレーム2,3,4の順)、各種変数を初期設定する(S205〜S215)。次に、参照フレーム情報の全画素について、両フレーム情報から注目画素i,i'の位置を設定し、上記式(18)〜(28)に用いるPti,ki,M20,M11,M02,mu,mv,mδ,cu,cv,cδを順次演算する(S220〜S230)。さらに、dを算出し、並進補正量u1〜u3,v1〜v3、回転補正量δ1〜δ3を順次算出し、並進量情報と回転量情報として記憶する(S235〜S250)。すなわち、第一・第二のフレーム情報に基づいて同第一・第二のフレーム情報で表現される両画像のずれを表す並進量情報(u1,v1)と回転量情報(δ1)を取得するとともに、第二・第三のフレーム情報に基づいて同第二・第三のフレーム情報で表現される両画像のずれを表す並進量情報(u2,u3,v2,v3)と回転量情報(δ2,δ3)を取得することができる。全フレーム情報について並進量情報と回転量情報を取得したら、本フローを終了する(S255)。
フレーム変換処理は、概略、図12で示したフローに従って行うことができる。
すなわち、フレーム2〜4の順に画素の座標を変換する対象フレーム情報を設定し、座標変換する注目画素i'の位置を設定する(S305〜S310)。次に、対象フレーム情報の全画素について、注目画素i'の位置を、フレーム1のフレーム画像との並進ずれや回転ずれがなくなるように変換する(S315〜S325)。ここで、フレーム2、3,4の対象フレーム情報について、それぞれ注目画素i'の位置をx軸方向に−u1,−u1−u2,−u1−u2−u3、y軸方向に−v1,−v1−v2,−v1−v2−v3並進させ、さらに−δ1,−δ1−δ2,−δ1−δ2−δ3回転させるように座標変換する。すなわち、第一の回転量情報に基づいて第二のフレーム情報を第一のフレーム情報で表現される画像とのずれがなくなるように変換し、第一・第二の回転量情報に基づいて第三のフレーム情報を第一のフレーム情報で表現される画像との回転ずれがなくなるように変換する変換処理を行うことができる。フレーム2〜4のフレーム情報について変換処理を行ったら、本フローを終了する(S330)。
すなわち、第一・第三のフレーム情報で表現される画像間の回転ずれよりも時系列順に隣接した第二・第三のフレーム情報で表現される画像間のずれのほうが少ないことが多いので、より高精度にて並進ずれを補正するための並進補正量や回転ずれを補正するための回転補正量を検出することができる。従って、高精度にて並進量情報や回転量情報を取得することができ、より高画質の静止画像を得ることが可能となる。
以上説明したように、本発明によると、種々の態様により、映像情報の複数のフレーム情報から高画質の静止画像を得ることが可能な画像生成装置、画像ずれ量検出装置、画像生成プログラムおよび画像ずれ量検出プログラムを提供することができる。また、画像生成方法および画像ずれ量検出方法としても適用可能である。
また、必ずしも時系列に連続する複数の画像情報(フレーム情報を含む。)である必要はなく、時系列に並んだ複数の画像情報であってもよい。
11...CPU
12...ROM
13...RAM
14...ハードディスク(HD)
15...DVD−ROMドライブ
17a...1394用I/O
17b〜e...各種インターフェイス(I/F)
18a...ディスプレイ
18b...キーボード
18c...マウス
20...インクジェットプリンタ
30...デジタルビデオカメラ
51...画素
52a〜d...フレーム情報
52c1...中心
53a,c...オブジェクト
61a...最短画素
61b〜d...画素
100...印刷システム
D1...映像情報
D2...フレーム情報
D3...複数のフレーム情報
D31...参照フレーム情報
D32...対象フレーム情報
D4...回転量情報
D5...並進量情報
D6...フレーム情報
D7...画像データ
D8...階調データ
U0...画像生成装置
U1...フレーム取得手段
U2...ずれ量取得手段
U3...変換手段
U4...合成手段
Claims (17)
- 画像を多数の画素別の階調データで表現した多数のフレーム情報からなる映像情報から複数のフレーム情報を取得するフレーム取得手段と、
上記複数のフレーム情報に基づいて、同複数のフレーム情報で表現される画像間の回転ずれを表す回転量情報を取得するずれ量取得手段と、
取得された上記回転量情報に基づいて、上記複数のフレーム情報で表現される各画像の少なくとも一つを回転させて画像間の回転ずれを少なくするように同複数のフレーム情報の少なくとも一つを変換する変換処理を行う変換手段と、
上記変換処理が行われた複数のフレーム情報を合成して画像を多数の画素で階調表現する画像データを生成する合成手段と、
を具備し、
上記フレーム取得手段は、上記映像情報から時系列順に第一、第二および第三のフレーム情報を取得し、
上記ずれ量取得手段は、上記第一および第二のフレーム情報に基づいて同第一および第二のフレーム情報で表現される両画像の回転ずれを表す第一の回転量情報を取得するとともに、上記第二および第三のフレーム情報に基づいて同第二および第三のフレーム情報で表現される両画像の回転ずれを表す第二の回転量情報を取得し、
上記変換手段は、上記第一の回転量情報に基づいて上記第二のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第二のフレーム情報を変換するとともに、上記第一および第二の回転量情報を足し合わせて得られる第三の回転量情報によって表わされる回転ずれをキャンセルするように、上記第三のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第三のフレーム情報を変換する変換処理を行うことを特徴とする画像生成装置。 - 上記ずれ量取得手段は、上記複数のフレーム情報に基づいて、同複数のフレーム情報で表現される画像間の並進ずれを表す並進量情報を取得し、
上記変換手段は、上記取得された並進量情報に基づいて、上記複数のフレーム情報で表現される各画像の少なくとも一つを並進させて画像間の並進ずれを少なくするように同複数のフレーム情報の少なくとも一つを変換する変換処理を行うことを特徴とする請求項1に記載の画像生成装置。 - 上記変換手段は、上記回転量情報と並進量情報に基づいて、上記両画像のずれを少なくするように上記複数のフレーム情報の少なくとも一つの各画素の位置を当該画素よりも細かい単位で変換する変換処理を行うことを特徴とする請求項2に記載の画像生成装置。
- 上記ずれ量取得手段は、上記複数のフレーム情報の上記画素の位置および当該画素の階調データに基づいて、最小自乗法により上記画像間の回転ずれと並進ずれを求める演算式を用いて当該回転ずれと並進ずれを求め、上記回転量情報と並進量情報を取得することを特徴とする請求項3に記載の画像生成装置。
- 上記合成手段は、上記フレーム情報と異なる画素数で上記画像データを生成することを特徴とする請求項1〜請求項4のいずれかに記載の画像生成装置。
- 上記合成手段は、上記画像データを上記フレーム情報よりも多い画素数で生成することを特徴とする請求項5に記載の画像生成装置。
- 上記合成手段は、上記変換処理が行われた複数のフレーム情報から所定の補間処理を行って上記画像データを生成することを特徴とする請求項1〜請求項6のいずれかに記載の画像生成装置。
- 上記合成手段は、上記画像データを生成する注目画素を順次移動させながら、上記複数のフレーム情報の全画素のうち同注目画素の周辺に存在する画素の階調データを用いて上記補間処理を行い、補間処理後の階調データから上記画像データを生成することを特徴とする請求項7に記載の画像生成装置。
- 上記合成手段は、上記複数のフレーム情報の全画素のうち上記注目画素に最も近い画素の階調データを用いて上記補間処理を行うことを特徴とする請求項8に記載の画像生成装置。
- 上記合成手段は、上記複数のフレーム情報のうち上記注目画素に最も近い画素を含むフレーム情報を用いて上記補間処理を行うことを特徴とする請求項9に記載の画像生成装置。
- 上記合成手段は、上記複数のフレーム情報のうち上記注目画素を基準とした所定の範囲内の画素を含むフレーム情報を用いて上記補間処理を行うことを特徴とする請求項8〜請求項10のいずれかに記載の画像生成装置。
- 上記合成手段は、上記複数のフレーム情報のそれぞれについて上記補間処理を行い、当該補間処理後の各階調データをまとめることにより上記画像データを生成することを特徴とする請求項8〜請求項11のいずれかに記載の画像生成装置。
- 画像を多数の画素別の階調データで表現した多数のフレーム情報からなる映像情報から複数のフレーム情報を取得するフレーム取得手段と、
上記複数のフレーム情報に基づいて、同複数のフレーム情報で表現される画像間の回転ずれを表す回転量を検出するずれ量検出手段と、
検出された上記回転量に基づいて、上記複数のフレーム情報で表現される各画像の少なくとも一つを回転させて画像間の回転ずれを少なくするように同複数のフレーム情報の少なくとも一つを変換する変換処理を行う変換手段と、
を具備し、
上記フレーム取得手段は、上記映像情報から時系列順に第一、第二および第三のフレーム情報を取得し、
上記ずれ量検出手段は、上記第一および第二のフレーム情報に基づいて同第一および第二のフレーム情報で表現される両画像の回転ずれを表す第一の回転量を検出するとともに、上記第二および第三のフレーム情報に基づいて同第二および第三のフレーム情報で表現される両画像の回転ずれを表す第二の回転量を検出し、
上記変換手段は、上記第一の回転量に基づいて上記第二のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第二のフレーム情報を変換するとともに、上記第一および第二の回転量を足し合わせて得られる第三の回転量によって表わされる回転ずれをキャンセルするように、上記第三のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第三のフレーム情報を変換する変換処理を行うことを特徴とする画像ずれ量検出装置。 - 画像を多数の画素別の階調データで表現した多数のフレーム情報からなる映像情報から複数のフレーム情報を取得するフレーム取得工程と、
上記複数のフレーム情報に基づいて、同複数のフレーム情報で表現される画像間の回転ずれを表す回転量情報を取得するずれ量取得工程と、
取得された上記回転量情報に基づいて、上記複数のフレーム情報で表現される各画像の少なくとも一つを回転させて画像間の回転ずれを少なくするように同複数のフレーム情報の少なくとも一つを変換する変換処理を行う変換工程と、
上記変換処理が行われた複数のフレーム情報を合成して画像を多数の画素で階調表現する画像データを生成する合成工程と、
を具備し、
上記フレーム取得工程において、上記映像情報から時系列順に第一、第二および第三のフレーム情報を取得し、
上記ずれ量取得工程において、上記第一および第二のフレーム情報に基づいて同第一および第二のフレーム情報で表現される両画像の回転ずれを表す第一の回転量情報を取得するとともに、上記第二および第三のフレーム情報に基づいて同第二および第三のフレーム情報で表現される両画像の回転ずれを表す第二の回転量情報を取得し、
上記変換工程において、上記第一の回転量情報に基づいて上記第二のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第二のフレーム情報を変換するとともに、上記第一および第二の回転量情報を足し合わせて得られる第三の回転量情報によって表わされる回転ずれをキャンセルするように、上記第三のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第三のフレーム情報を変換する変換処理を行うことを特徴とする画像生成方法。 - 画像を多数の画素別の階調データで表現した多数のフレーム情報からなる映像情報から複数のフレーム情報を取得するフレーム取得工程と、
上記複数のフレーム情報に基づいて、同複数のフレーム情報で表現される画像間の回転ずれを表す回転量を検出するずれ量検出工程と、
検出された上記回転量に基づいて、上記複数のフレーム情報で表現される各画像の少なくとも一つを回転させて画像間の回転ずれを少なくするように同複数のフレーム情報の少なくとも一つを変換する変換処理を行う変換工程と、
を具備し、
上記フレーム取得工程において、上記映像情報から時系列順に第一、第二および第三のフレーム情報を取得し、
上記ずれ量検出工程において、上記第一および第二のフレーム情報に基づいて同第一および第二のフレーム情報で表現される両画像の回転ずれを表す第一の回転量を検出するとともに、上記第二および第三のフレーム情報に基づいて同第二および第三のフレーム情報で表現される両画像の回転ずれを表す第二の回転量を検出し、
上記変換工程において、上記第一の回転量に基づいて上記第二のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第二のフレーム情報を変換するとともに、上記第一および第二の回転量を足し合わせて得られる第三の回転量によって表わされる回転ずれをキャンセルするように、上記第三のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第三のフレーム情報を変換することを特徴とする画像ずれ量検出方法。 - 画像を多数の画素別の階調データで表現した多数のフレーム情報からなる映像情報から複数のフレーム情報を取得するフレーム取得機能と、
上記複数のフレーム情報に基づいて、同複数のフレーム情報で表現される画像間の回転ずれを表す回転量情報を取得するずれ量取得機能と、
取得された上記回転量情報に基づいて、上記複数のフレーム情報で表現される各画像の少なくとも一つを回転させて画像間の回転ずれを少なくするように同複数のフレーム情報の少なくとも一つを変換する変換処理を行う変換機能と、
上記変換処理が行われた複数のフレーム情報を合成して画像を多数の画素で階調表現する画像データを生成する合成機能と、
をコンピュータに実現させるとともに、
上記フレーム取得機能として、上記映像情報から時系列順に第一、第二および第三のフレーム情報を取得し、
上記ずれ量取得機能として、上記第一および第二のフレーム情報に基づいて同第一および第二のフレーム情報で表現される両画像の回転ずれを表す第一の回転量情報を取得するとともに、上記第二および第三のフレーム情報に基づいて同第二および第三のフレーム情報で表現される両画像の回転ずれを表す第二の回転量情報を取得し、
上記変換機能として、上記第一の回転量情報に基づいて上記第二のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第二のフレーム情報を変換するとともに、上記第一および第二の回転量情報を足し合わせて得られる第三の回転量情報によって表わされる回転ずれをキャンセルするように、上記第三のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第三のフレーム情報を変換する変換処理を行うことを上記コンピュータに実現させることを特徴とする画像生成プログラム。 - 画像を多数の画素別の階調データで表現した多数のフレーム情報からなる映像情報から複数のフレーム情報を取得するフレーム取得機能と、
上記複数のフレーム情報に基づいて、同複数のフレーム情報で表現される画像間の回転ずれを表す回転量を検出するずれ量検出機能と、
検出された上記回転量に基づいて、上記複数のフレーム情報で表現される各画像の少なくとも一つを回転させて画像間の回転ずれを少なくするように同複数のフレーム情報の少なくとも一つを変換する変換処理機能と、
をコンピュータに実現させるとともに、
上記フレーム取得機能として、上記映像情報から時系列順に第一、第二および第三のフレーム情報を取得し、
上記ずれ量検出機能として、上記第一および第二のフレーム情報に基づいて同第一および第二のフレーム情報で表現される両画像の回転ずれを表す第一の回転量を検出するとともに、上記第二および第三のフレーム情報に基づいて同第二および第三のフレーム情報で表現される両画像の回転ずれを表す第二の回転量を検出し、
上記変換処理機能として、上記第一の回転量に基づいて上記第二のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第二のフレーム情報を変換するとともに、上記第一および第二の回転量を足し合わせて得られる第三の回転量によって表わされる回転ずれをキャンセルするように、上記第三のフレーム情報で表現される画像を回転させて上記第一のフレーム情報で表現される画像との回転ずれを少なくするように同第三のフレーム情報を変換する変換処理を行うことを上記コンピュータに実現させることを特徴とする画像ずれ量検出プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003339880A JP4419499B2 (ja) | 2003-01-07 | 2003-09-30 | 画像生成装置、画像ずれ量検出装置、画像生成方法、画像ずれ量検出方法、画像生成プログラムおよび画像ずれ量検出プログラム |
US10/751,201 US7327494B2 (en) | 2003-01-07 | 2004-01-02 | Image producing device and image deviation amount detection device |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003001124 | 2003-01-07 | ||
JP2003339880A JP4419499B2 (ja) | 2003-01-07 | 2003-09-30 | 画像生成装置、画像ずれ量検出装置、画像生成方法、画像ずれ量検出方法、画像生成プログラムおよび画像ずれ量検出プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004234623A JP2004234623A (ja) | 2004-08-19 |
JP4419499B2 true JP4419499B2 (ja) | 2010-02-24 |
Family
ID=32964584
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003339880A Expired - Fee Related JP4419499B2 (ja) | 2003-01-07 | 2003-09-30 | 画像生成装置、画像ずれ量検出装置、画像生成方法、画像ずれ量検出方法、画像生成プログラムおよび画像ずれ量検出プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US7327494B2 (ja) |
JP (1) | JP4419499B2 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013078539A1 (en) * | 2011-11-28 | 2013-06-06 | Ati Technologies Ulc | Method and apparatus for correcting rotation of video frames |
Families Citing this family (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7609765B2 (en) * | 2004-12-02 | 2009-10-27 | Intel Corporation | Fast multi-frame motion estimation with adaptive search strategies |
JP4507855B2 (ja) * | 2004-11-25 | 2010-07-21 | ソニー株式会社 | 撮影装置の制御方法および制御装置、並びに制御プログラム |
JP4378272B2 (ja) * | 2004-12-15 | 2009-12-02 | キヤノン株式会社 | 撮影装置 |
JP2006178857A (ja) * | 2004-12-24 | 2006-07-06 | Yokohama National Univ | 画像処理装置 |
KR20060087744A (ko) * | 2005-01-31 | 2006-08-03 | 삼성전자주식회사 | 이동통신 단말기에서 잔상효과를 이용한 데이터 표시장치및 방법 |
JP4695972B2 (ja) * | 2005-12-14 | 2011-06-08 | キヤノン株式会社 | 画像処理装置、撮像装置および画像処理方法 |
JP4784297B2 (ja) * | 2005-12-15 | 2011-10-05 | Nkワークス株式会社 | 撮影済み動画像の手振れ補正装置及び手振れ補正方法 |
JP5008421B2 (ja) * | 2006-03-03 | 2012-08-22 | パナソニック株式会社 | 画像処理方法、画像処理装置、集積回路、カメラおよびプログラム |
US8116576B2 (en) | 2006-03-03 | 2012-02-14 | Panasonic Corporation | Image processing method and image processing device for reconstructing a high-resolution picture from a captured low-resolution picture |
JP2008054200A (ja) * | 2006-08-28 | 2008-03-06 | Olympus Corp | 撮像装置及び画像処理プログラム |
JP5057839B2 (ja) * | 2007-04-27 | 2012-10-24 | 株式会社東芝 | 構造物の目視検査装置およびその検査方法 |
JP2009077362A (ja) * | 2007-08-24 | 2009-04-09 | Sony Corp | 画像処理装置、動画再生装置、これらにおける処理方法およびプログラム |
JP2009077363A (ja) * | 2007-08-24 | 2009-04-09 | Sony Corp | 画像処理装置、動画再生装置、これらにおける処理方法およびプログラム |
JP5223318B2 (ja) * | 2007-12-07 | 2013-06-26 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP5092722B2 (ja) * | 2007-12-07 | 2012-12-05 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP2009151896A (ja) | 2007-12-21 | 2009-07-09 | Sony Corp | 画像処理装置、動画再生装置、これらにおける処理方法およびプログラム |
JP4697221B2 (ja) * | 2007-12-26 | 2011-06-08 | ソニー株式会社 | 画像処理装置、動画再生装置、これらにおける処理方法およびプログラム |
JP4678404B2 (ja) * | 2007-12-27 | 2011-04-27 | ソニー株式会社 | 撮像装置、その制御方法およびプログラム |
JP4692550B2 (ja) | 2008-01-21 | 2011-06-01 | ソニー株式会社 | 画像処理装置、その処理方法およびプログラム |
JP4735693B2 (ja) * | 2008-09-22 | 2011-07-27 | ソニー株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
JP5501194B2 (ja) * | 2010-10-29 | 2014-05-21 | 株式会社キーエンス | 画像計測装置、画像計測方法及びコンピュータプログラム |
JP2012191465A (ja) | 2011-03-11 | 2012-10-04 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP2012208553A (ja) | 2011-03-29 | 2012-10-25 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
WO2014047465A2 (en) * | 2012-09-21 | 2014-03-27 | The Schepens Eye Research Institute, Inc. | Collision prediction |
US9036943B1 (en) * | 2013-03-14 | 2015-05-19 | Amazon Technologies, Inc. | Cloud-based image improvement |
DE102019211929A1 (de) * | 2019-08-08 | 2021-02-11 | Prüftechnik Dieter Busch GmbH | Verfahren und System zur Drehzahlbestimmung mittels Videokamera |
CN113409370B (zh) * | 2021-06-25 | 2023-04-18 | 浙江商汤科技开发有限公司 | 图像配准方法及相关装置、设备 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3367954B2 (ja) | 1991-05-14 | 2003-01-20 | キヤノン株式会社 | プリント制御装置 |
JP4120898B2 (ja) | 1997-02-14 | 2008-07-16 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JP4541610B2 (ja) | 2001-09-17 | 2010-09-08 | キヤノン株式会社 | 画像処理装置、画像処理方法、プログラム、記憶媒体 |
-
2003
- 2003-09-30 JP JP2003339880A patent/JP4419499B2/ja not_active Expired - Fee Related
-
2004
- 2004-01-02 US US10/751,201 patent/US7327494B2/en active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013078539A1 (en) * | 2011-11-28 | 2013-06-06 | Ati Technologies Ulc | Method and apparatus for correcting rotation of video frames |
US8731335B2 (en) | 2011-11-28 | 2014-05-20 | Ati Technologies Ulc | Method and apparatus for correcting rotation of video frames |
Also Published As
Publication number | Publication date |
---|---|
US20040197075A1 (en) | 2004-10-07 |
US7327494B2 (en) | 2008-02-05 |
JP2004234623A (ja) | 2004-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4419499B2 (ja) | 画像生成装置、画像ずれ量検出装置、画像生成方法、画像ずれ量検出方法、画像生成プログラムおよび画像ずれ量検出プログラム | |
JP4151422B2 (ja) | 画像生成装置、画像生成方法および画像生成プログラム | |
US20060012830A1 (en) | Image processing device, image processing method, and image processing program | |
US7768447B2 (en) | Radar apparatus and the like | |
US7430069B2 (en) | Method of converting image data, image data conversion apparatus and program | |
US8493629B2 (en) | Image processing apparatus, method, and computer program | |
JP7020240B2 (ja) | 認識装置、認識システム、プログラムおよび位置座標検出方法 | |
JP5853466B2 (ja) | 画像処理システム、画像処理プログラム | |
JP4140519B2 (ja) | 画像処理装置、プログラムおよび記録媒体 | |
US8199344B2 (en) | Image forming apparatus for performing a correction process and increasing the specific portion's length of a dashed line up to a specific length when it is smaller than the specific length | |
JP5003445B2 (ja) | 画像処理装置、文字領域特定方法、および文字領域特定プログラム | |
KR20080032638A (ko) | 화상 처리 장치, 화상 처리 방법 및 화상 처리 프로그램을 기록한 컴퓨터 판독가능한 기록매체 | |
JP3952188B2 (ja) | 画像補間装置、画像補間方法および画像補間プログラム | |
JP4985510B2 (ja) | 対象画像における顔の画像に対応する顔領域の設定 | |
JP2006041603A (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JP5453858B2 (ja) | 画像合成装置、及び画像合成プログラム | |
JP2007200091A (ja) | 画像処理装置 | |
JP3997415B2 (ja) | エッジ生成装置、エッジ生成方法およびエッジ生成プログラム | |
JP4301137B2 (ja) | 画像合成装置、画像合成方法、画像合成プログラムおよび記録媒体 | |
JP2006309622A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体 | |
JP2005354125A (ja) | 画像処理装置および画像表示装置 | |
JP2006018571A (ja) | 画像生成装置、画像撮像装置、動画像生成装置、画像生成方法、画像生成プログラムおよび画像生成プログラムを記録した記録媒体 | |
JP2007312275A (ja) | 画像生成装置、画像生成方法、画像生成プログラムおよびその記録媒体 | |
JP4046509B2 (ja) | 画像生成方法および装置、画像処理方法および装置並びにプログラム | |
JP2023131892A (ja) | 印刷画像の欠陥判別装置、およびその判別方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060915 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090814 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090818 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20091014 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20091110 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20091123 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121211 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4419499 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121211 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131211 Year of fee payment: 4 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |