JP2002208005A - 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体 - Google Patents

画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体

Info

Publication number
JP2002208005A
JP2002208005A JP2001005245A JP2001005245A JP2002208005A JP 2002208005 A JP2002208005 A JP 2002208005A JP 2001005245 A JP2001005245 A JP 2001005245A JP 2001005245 A JP2001005245 A JP 2001005245A JP 2002208005 A JP2002208005 A JP 2002208005A
Authority
JP
Japan
Prior art keywords
area
pixel value
image
images
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001005245A
Other languages
English (en)
Inventor
Daisaku Horie
大作 保理江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Minolta Co Ltd
Original Assignee
Minolta Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Minolta Co Ltd filed Critical Minolta Co Ltd
Priority to JP2001005245A priority Critical patent/JP2002208005A/ja
Priority to US10/044,503 priority patent/US7076116B2/en
Publication of JP2002208005A publication Critical patent/JP2002208005A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 貼り合わせの対象となる2つの画像のオーバ
ーラップ領域に画素値が大きく異なる領域が存在する場
合にも画質の劣化を防止して適切に両画像を貼り合わせ
る。 【解決手段】 画像貼り合わせ処理は、貼り合わせの対
象となる複数の画像が入力されると(S601)、マッ
チング処理によりこれら複数の画像のうち隣り合う画像
間におけるオーバーラップ領域が特定される(S60
3)。そして、オーバーラップ領域の中から画像の内容
が大きく異なる動物体存在領域が特定され(S60
5)、この領域を考慮したオーバーラップ領域の各画素
値の算出が行なわれる(S607)。動物体存在領域内
の画素値は一方の画像の画素値が用いられ、それ以外の
オーバーラップ領域内の画素値は、両方の画像の画素値
に基づいて算出される。その後、オーバーラップ領域以
外の領域の画像の画素値が決定される(S609)。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は画像処理装置、画像
処理方法、画像処理プログラム、および画像処理プログ
ラムを記録したコンピュータ読み取り可能な記録媒体に
関し、特に、複数の画像を貼り合わせて1つの画像を合
成する際に、隣り合う画像同士が重なり合うオーバーラ
ップ領域内に両画像の内容が大きく異なる領域がある場
合でも画質劣化を防止することのできる画像処理装置、
画像処理方法、画像処理プログラム、および画像処理プ
ログラムを記録したコンピュータ読み取り可能な記録媒
体に関する。
【0002】
【従来の技術】従来から、例えば特開平9−33039
6号公報に開示されているように、互いにオーバーラッ
プする領域(以下「オーバーラップ領域」という)を持
つ複数の画像を合成することで1枚の画像を作成すると
いう画像貼り合わせ技術が知られている。この画像貼り
合わせ技術は、複数に分割して撮影を行なった後に画像
を合成することで、限られた画素数の撮像素子の入力機
器から高画素数の画像を得たり、限られた画角の光学系
の入力機器から広画角の画像を得るといった目的などに
有効な技術である。
【0003】一般に、貼り合わせの対象となる複数の画
像は、レンズ歪みをはじめとする様々な幾何変形や露出
ずれをはじめとする様々な画素値ずれなどによって、必
ずしもオーバーラップ領域において正確に画素値が一致
しない。また、それぞれの画像のマッチング精度が低い
場合にも同様にオーバーラップ領域を正確に重ねること
ができない。このため、たとえば単純な継ぎはぎによる
貼り合わせ処理を行なったとすると、貼り合わされたラ
インで継ぎ目が目立ち不自然な画像が得られることにな
る。
【0004】したがって、この継ぎ目を目立たなくする
ような貼り合わせ処理として、オーバーラップ領域にお
ける各画素値に位置に応じた重み付けをして平均処理を
するという重み付け平均処理が取られることが多い。こ
の処理によると、画素値が連続的に変化する写真画像の
ような画像を貼り合わせる際にも貼り合わされたライン
で継ぎ目が目立つという不都合を防止することができ
る。
【0005】以下、重み付け平均処理について簡単に説
明する。まず、図20に貼り合わせの対象となる2つの
画像の例を示す。ここでは、貼り合わせ処理を左右の2
枚の画像の間で行なうものとする。なお、左側の画像1
を左画像といい、右側の画像2を右画像という。ここ
で、両画像のオーバーラップ領域は、左画像については
点線より右側の領域であり、右画像については、点線よ
り左側の領域である。
【0006】図21は、重み付け平均処理の原理を説明
するための図である。横軸には画素位置がとられてお
り、縦軸には各画素位置における画素値がとられてい
る。ここでは、図20の左画像のオーバーラップ領域内
の直線P1Q1上の画素値、および、右画像のオーバー
ラップ領域内の直線P2Q2上の画素値をそれぞれ示し
ている。
【0007】グラフ上に示した画素位置PおよびQは、
図20のP1、P2、および、Q1、Q2にそれぞれ対
応する。曲線211は、左画像のP1Q1上での画素値
の変化を表わした曲線であり、曲線212は、右画像の
P2Q2上での画素値の変化を表わした曲線である。
【0008】たとえば、PQ間の任意の画素位置Rにお
ける貼り合わせ後の画素値をV(R)とすると、 V(R)=(距離PR×V2(R)+距離QR×V1
(R))/(距離PQ) と表わされる。ここで、V1(R)は、画素位置Rに対
応する位置の左画像上での画素値であり、V2(R)
は、画素位置Rに対応する位置の右画像上での画素値で
ある。したがって、PQ間の各位置における重み付け平
均処理をした画素値は曲線210で表わされることにな
る。
【0009】本図に示すように、貼り合わせ後の画素値
を表わした曲線210は、画素位置Pにおいて曲線21
1上の点、すなわち左画像のP1上の画素値と等しくな
る。そして、画素位置がPからQに移動するにつれて徐
々に曲線211から曲線212へと近づいていき、画素
位置Qにおいて曲線212上の点、すなわち右画像のQ
2上の画素値と等しくなる。
【0010】このように、重み付け平均処理によると、
オーバーラップ領域における貼り合わせ後の画素値は、
位置に応じて重みを変化させて求めた平均値が用いられ
る。このため、両画像間において画素値が連続的に変化
することになり、貼り合わせ後の画像における継ぎ目が
目立たない。
【0011】
【発明が解決しようとする課題】しかしながら、このよ
うな重み付け平均処理による貼り合わせでは、以下に示
すような問題が生じていた。
【0012】すなわち、最近では、パノラマ画像を作成
するための分割撮影等がしばしば行なわれている。この
ような場合、分割された画像のオーバーラップ領域の一
部に動物体が存在することも珍しくない。
【0013】たとえば、図20においては、右画像のオ
ーバーラップ領域には自動車が存在するが、左画像のオ
ーバーラップ領域の同じ位置には自動車が存在しない。
これは、右画像を撮像してから左画像が撮像されたた
め、右画像の撮像時にオーバーラップ領域に存在してい
た自動車が、左画像の撮像時には通過して存在しなくな
ったためである。
【0014】このようにオーバーラップ領域における画
像が動物体の存在等により大きく異なる領域を含む場
合、重み平均処理により貼り合わされた画像は、その領
域において不自然で、非常に見苦しくなる。
【0015】図22は、重み付け平均処理により図20
の2つの画像を貼り合わせた結果の合成画像を示す図で
ある。そして、図23は、図22の合成画像における動
物体存在領域を拡大した図である。
【0016】図20の2つの画像のオーバーラップ領域
が重み付け平均処理により貼り合わされると、図22に
示すように、接合ラインの目立たない自然な画像とな
る。ただし、オーバーラップ領域のうち動物体である自
動車の存在する領域は、図20でも示されるように、自
動車と背景とが混合されたようなぼやけた見苦しい画像
となる。
【0017】このように、貼り合わせの対象となるオー
バーラップ領域内に動物体が存在する場合には、2つの
画像間におけるオーバーラップ領域において画素値が著
しく異なる領域が存在することになり、貼り合わせて得
られる画像の画質がその領域において大きく劣化してし
まうという問題があった。
【0018】本発明は係る実情に鑑み考え出されたもの
であり、その目的は、貼り合わせの対象となる2つの画
像のオーバーラップ領域に画素値が大きく異なる領域が
存在する場合にも、画質の劣化を防止して適切に両画像
を貼り合わることのできる画像処理装置、画像処理方
法、画像処理プログラム、および画像処理プログラムを
記録したコンピュータ読み取り可能な記録媒体を提供す
ることである。
【0019】
【課題を解決するための手段】上記目的を達成するため
に本発明のある局面に従うと、画像処理装置は、隣り合
う画像の一部が相互にオーバーラップする複数の画像を
取得する画像取得手段と、取得された複数の画像のうち
隣り合う2つの画像間で、相互にオーバーラップする領
域を特定するオーバーラップ領域特定手段と、特定され
たオーバーラップ領域のうち第1の領域を特定する第1
領域特定手段と、特定された第1の領域内の画素値を、
隣り合う2つの画像の一方の画像の画素値に基づいて決
定する第1の画素値決定手段と、特定された第1の領域
以外のオーバーラップ領域である第2の領域内の画素値
を、隣り合う2つの画像の画素値に基づいて決定する第
2の画素値決定手段と、決定された第1の領域内の画素
値および第2の領域内の画素値をオーバーラップ領域の
それぞれの領域内に用いることで隣り合う2つの画像を
貼り合わせる貼り合せ手段とを備える。
【0020】この発明に従うと、特定されたオーバーラ
ップ領域のうち第1の領域が特定され、その領域内の画
素値は隣り合う2つの画像の一方の画像の画素値に基づ
いて決定される。このため、たとえば動物体等が存在す
ることにより両画像の画素値が著しく異なる領域があっ
たとしても、それが第1の領域として特定され、いずれ
か一方の画像の画素値に基づいてその領域内の画素値が
決定される。このため、その領域においては、両画像の
画素値に基づいて画素値が決定される場合のような不自
然な見苦しい画像にはならない。
【0021】また、第1の領域以外のオーバーラップ領
域である第2の領域内の画素値は隣り合う2つの画像の
画素値に基づいて決定されるため、両画像の特性が考慮
された自然な画像となる。
【0022】したがって、貼り合わせの対象となる2つ
の画像のオーバーラップ領域に動物体等の存在により画
素値が大きく異なる領域が存在する場合にも、画質の劣
化を防止して適切に両画像を貼り合わることのできる画
像処理装置を提供することが可能となる。
【0023】好ましくは、第1領域特定手段は、オーバ
ーラップ領域を所定領域に分割する分割手段と、分割さ
れた所定領域の画素値を、2つの画像間において比較す
る比較手段とを備え、比較手段による比較結果に基づ
き、第1の領域を特定することを特徴とする。
【0024】この発明に従うと、オーバーラップ領域が
所定領域に分割され、その分割された所定領域の画素値
が2つの画像間において比較される。そして、比較結果
に基づき第1の領域が特定される。所定領域ごとに画素
値が比較されるため、より適切に比較を行なうことがで
きる。また、第1の領域もその結果に基づき的確に特定
される。
【0025】好ましくは、比較手段は、2つの画像間に
おける所定領域ごとの画素値の差の絶対値和がしきい値
以上であるか否かを判断する判断手段を含み、第1領域
特定手段は、判断手段によりしきい値以上であると判断
された場合、該当する所定領域を第1の領域に特定する
ことを特徴とする。
【0026】この発明に従うと、所定領域ごとの画素値
の差の絶対値和がしきい値以上である場合には、該当す
る所定領域が第1の領域に特定される。このため両画像
の内容が大きく異なるような場合には第1の領域に特定
され、いずれか一方の画像の画素値に基づいてその領域
内の画素値が決定される。したがって、その領域内にお
いては、内容が異なる両画像から求めた画像と異なり、
適切かつ明確な画像を得ることができる。
【0027】好ましくは、第1領域特定手段は、判断手
段によりしきい値未満であると判断された場合におい
て、該当する所定領域が所定の条件を満足するときは、
該当する所定領域を第1の領域として特定することを特
徴とする。
【0028】この発明に従うと、所定領域ごとの画素値
の絶対値和がしきい値未満であると判断された場合であ
っても、所定の条件を満足するときは、第1の領域が拡
張され、この領域も第1の領域として特定される。たと
えば貼り合わせ処理の高速化や、より自然な貼り合わせ
画像を得ることを目的とする場合など、所定の条件を満
足するような領域である場合は、第1の領域が拡張され
その領域も第1の領域とされる。このため、より柔軟性
の高い適切な貼り合わせ処理を行なうことが可能とな
る。
【0029】好ましくは、第2の画素値決定手段は、位
置に関する重み付け平均して画素値を決定することを特
徴とする。
【0030】この発明に従うと、第1の領域以外のオー
バーラップ領域である第2の領域内の画素値は、各々の
位置に関する重み付け平均をとることにより決定され
る。このため、貼り合わせ後の画像は第2の領域におい
て連続的であり、継ぎ目が目立つことがない。
【0031】好ましくは、第1の画素値決定手段は、特
定された第1の領域が、隣り合う2つの画像を貼り合わ
せた際にいずれの画像に近いかを判断する判断手段を含
み、判断手段により近いと判断された方の画像を一方の
画像として用い、該一方の画像の画素値に基づいて第1
の領域内の画素値を決定することを特徴とする。
【0032】この発明に従うと、隣り合う2つの画像を
貼り合わせた際に、第1の領域により近い方の画像が一
方の画像として用いられ、その画像の画素値に基づいて
第1の領域内の画素値が決定される。より近い方の画像
の画素値に基づいて第1の領域内の画素値が決定される
ため、全体としてより自然な画像を得ることができる。
【0033】好ましくは、第1の画素値決定手段は、特
定された第1の領域内の画素のコントラストを隣り合う
2つの画像間で比較するコントラスト比較手段を含み、
コントラスト比較手段による結果に基づいて、一方の画
像を決定し、該一方の画像の画素値に基づいて前記第1
の領域内の画素値を決定することを特徴とする。
【0034】この発明に従うと、隣り合う2つの画像間
で第1の領域内の画素のコントラストが比較されその結
果に応じていずれか一方の画像が決定される。たとえ
ば、2つの画像に物体と背景とがそれぞれ写っている場
合、物体を明確に表わしたい場合は、コントラストの高
い画像が決定され、物体を消去して背景を明確に表わし
たい場合は、コントラストの低い画像が決定される。こ
のため、目的に応じた明確な画像を適切に得ることが可
能となる。
【0035】また、上記目的を達成するために本発明の
別の局面に従うと、画像処理方法は、隣り合う画像の一
部が相互にオーバーラップする複数の画像を取得する画
像取得ステップと、取得された複数の画像のうち隣り合
う2つの画像間で、相互にオーバーラップする領域を特
定するオーバーラップ領域特定ステップと、特定された
オーバーラップ領域のうち第1の領域を特定する第1領
域特定ステップと、特定された第1の領域内の画素値
を、隣り合う2つの画像の一方の画像の画素値に基づい
て決定する第1の画素値決定ステップと、特定された第
1の領域以外のオーバーラップ領域である第2の領域内
の画素値を、隣り合う2つの画像の画素値に基づいて決
定する第2の画素値決定ステップと、決定された第1の
領域内の画素値および第2の領域内の画素値をオーバー
ラップ領域のそれぞれの領域内に用いることで隣り合う
2つの画像を貼り合わせる貼り合せステップとを備え
る。
【0036】この発明に従うと、特定されたオーバーラ
ップ領域のうち第1の領域が特定され、その領域内の画
素値は隣り合う2つの画像の一方の画像の画素値に基づ
いて決定される。このため、たとえば動物体等が存在す
ることにより両画像の画素値が著しく異なる領域があっ
たとしても、それが第1の領域として特定され、いずれ
か一方の画像の画素値に基づいてその領域内の画素値が
決定される。このため、その領域においては、両画像の
画素値に基づいて画素値が決定される場合のような不自
然な見苦しい画像にはならない。
【0037】また、第1の領域以外のオーバーラップ領
域である第2の領域内の画素値は隣り合う2つの画像の
画素値に基づいて決定されるため、両画像の特性が考慮
された自然な画像となる。
【0038】したがって、貼り合わせの対象となる2つ
の画像のオーバーラップ領域に動物体等の存在により画
素値が大きく異なる領域が存在する場合にも、画質の劣
化を防止して適切に両画像を貼り合わることのできる画
像処理方法を提供することが可能となる。
【0039】本発明のさらに別の局面に従うと、画像処
理プログラムは、隣り合う画像の一部が相互にオーバー
ラップする複数の画像を取得する画像取得ステップと、
取得された複数の画像のうち隣り合う2つの画像間で、
相互にオーバーラップする領域を特定するオーバーラッ
プ領域特定ステップと、特定されたオーバーラップ領域
のうち第1の領域を特定する第1領域特定ステップと、
特定された第1の領域内の画素値を、隣り合う2つの画
像の一方の画像の画素値に基づいて決定する第1の画素
値決定ステップと、特定された第1の領域以外のオーバ
ーラップ領域である第2の領域内の画素値を、隣り合う
2つの画像の画素値に基づいて決定する第2の画素値決
定ステップと、決定された第1の領域内の画素値および
第2の領域内の画素値をオーバーラップ領域のそれぞれ
の領域内に用いることで隣り合う2つの画像を貼り合わ
せる貼り合せステップとをコンピュータに実行させる。
【0040】この発明に従うと、貼り合わせの対象とな
る2つの画像のオーバーラップ領域に動物体等の存在に
より画素値が大きく異なる領域が存在する場合にも、画
質の劣化を防止して適切に両画像を貼り合わることので
きる画像処理プログラムを提供することが可能となる。
【0041】本発明のさらに別の局面に従うと、コンピ
ュータ読み取り可能な記録媒体は、上記画像処理プログ
ラムを記録する。
【0042】この発明に従うと、貼り合わせの対象とな
る2つの画像のオーバーラップ領域に動物体等の存在に
より画素値が大きく異なる領域が存在する場合にも、画
質の劣化を防止して適切に両画像を貼り合わることので
きる画像処理プログラムを記録したコンピュータ読み取
り可能な記録媒体を提供することが可能となる。
【0043】
【発明の実施の形態】次に、本発明の実施の形態を図面
に基づいて詳細に説明する。
【0044】(第1の実施の形態)図1は、本発明の第
1の実施の形態における画像処理装置100の概略構成
を示すブロック図である。本図を参照して、画像処理装
置100は、装置全体の制御を行なうCPU(Central
Processing Unit)101と、撮像された複数の画像を
入力するための画像入力部103と、入力された複数の
画像のうち隣り合う画像間で重なり合うオーバーラップ
領域を特定するためのオーバーラップ領域特定部105
と、特定されたオーバーラップ領域内における動物体が
存在する領域を決定する動物体存在領域決定部107
と、オーバーラップ領域における画像の画素値、および
オーバーラップ領域以外の領域における画像の画素値を
決定することで入力された画像を貼り合わせる画像貼り
合せ部109と、貼り合わされた画像を出力する出力部
111とを備える。
【0045】画像入力部103は、たとえばデジタルカ
メラにより撮影されたような互いに一部が重なり合うオ
ーバーラップ領域を有する複数のデジタル画像を、画像
処理装置100に入力する。オーバーラップ領域特定部
105は、入力された複数の画像のうち、マッチング処
理等を行なうことにより隣り合う画像間におけるオーバ
ーラップ領域を特定する。動物体存在領域特定部107
は、特定されたオーバーラップ領域同士を比較する。そ
して、その中に動物体の存在により画素値の大きく異な
る領域がある場合に、その領域を動物体存在領域として
特定する。
【0046】画像貼り合せ部109は、オーバーラップ
領域とそれ以外の領域とに分けて貼り合わせ後の画像の
画素値を決定する。オーバーラップ領域においては、動
物体存在領域とそれ以外の領域とに分けて処理を行なう
ことにより、それぞれの領域における画素値が決定され
る。そして、貼り合わせ後の全画素値が決定されると、
出力部111は、その貼り合わされた画像を出力する。
具体的には、CRT等の表示装置に表示する場合もある
し、プリンタ等にプリント出力する場合もある。
【0047】続いて、具体例を用いて画像処理装置10
0の動作について説明する。ここでは、説明の便宜上、
左画像と右画像の2つの画像を貼り合わせる場合につい
て説明するが、上下画像であってもよいし、また、3つ
以上の画像であってもよい。それぞれの画像を貼り合わ
せる部分についての処理はここで説明するものと同様で
ある。
【0048】図2は、画像入力部103に入力された貼
り合わせの対象となる2つの画像の例を示す図である。
図2を参照して、対象となる画像は左画像1と右画像2
である。左画像の右端領域Aと右画像の左端領域Bとは
互いにオーバーラップする。
【0049】このような2つの画像が画像入力部103
に入力されると、オーバーラップ領域特定部105は、
これらの2つの画像間におけるオーバーラップ領域の特
定を行なう。具体的には、左画像の右側の領域と右画像
の左側の領域との局所的マッチングにより両画像の位置
合わせを行なう。局所的マッチングはそれぞれの画像内
で抽出したエッジや文字などの特徴点を左右の画像の間
で対応付けすることにより行なう。
【0050】なお、動物体が存在する場合であっても局
所的なマッチングによって動物体の存在しない領域での
位置合わせが可能である。たとえば、図2の左画像1を
基準として、マッチングを行なう場合、動物体の存在し
ない左画像1の領域bでは動物体の存在する右画像2と
正しい対応が取れない。しかし、領域aや領域cでは正
しい対応が可能であり、複数の対応結果の平均を取るこ
とで明らかに間違いであると思われる対応点を除去する
ことができる。
【0051】このようにして得られる両画像の正しい対
応点の集合をもとに、両画像を重ねるための変形パラメ
ータを算出する。そして、この変形パラメータを用いて
一方の画像(たとえば左画像1)を基準として他方の画
像(たとえば右画像2)の位置合わせを行なう。これに
より、左右両画像が重なり合うオーバーラップ領域を特
定する。
【0052】オーバーラップ領域が特定されると、動物
体存在領域決定部107は、特定されたオーバーラップ
領域の中の動物体が存在する領域すなわち動物体存在領
域を抽出する。
【0053】図3は、オーバーラップ領域を分割して、
動物体存在領域を抽出する場合を説明するための図であ
る。本図に示すように、左画像1のオーバーラップ領域
Aおよび右画像2のオーバーラップ領域Bが同様の小領
域(ブロック)に分割される。小領域の分割方法として
は、本図に示すように単純なタイル状にブロック分けし
てもよいし、周知のさまざまな領域分割方法や物体抽出
方法等によって画像の内容に応じて領域分けを行なって
もよい。
【0054】次に、対応する小領域ごとに画像マッチン
グを行う。そして、左右の画像でその内容が大きく異な
る小領域を検出し、これを動物体存在領域として設定す
る。画像マッチングとしては、たとえば、2つのオーバ
ーラップ領域AB間においてそれぞれ対応する小領域内
の画素値の差の絶対値和を取ることにより行なわれる。
すなわち、その絶対値和があるしきい値未満であれば該
当する小領域の画像の内容が一致するものとし、しきい
値以上であれば内容が一致しないものとする。
【0055】なお、画像マッチングはこの方法に限定さ
れるものではなく、たとえば、両画像の露出ずれの影響
をなくすために、それぞれの差分画像でマッチングを取
るようにしてもよい。また、オーバーラップ領域の画素
値の平均値を左右で比較して検出した値によって左右の
露出差を補正した後にマッチングを取ってもよい。どの
ような方法であれ画像の内容の一致不一致を検出できる
方法であればよい。
【0056】そして、小領域ごとの画像マッチングが行
なわれた結果、本図においては、太線で示す4つの小領
域3が動物体存在領域として決定される。
【0057】動物体存在領域3が決定されると、画像貼
り合せ部109は、その結果を用いて左右の画像の貼り
合わせ処理を行なう。図4は、図2で示した2つの画像
をオーバーラップ領域ABで貼り合わせた結果の合成画
像を示す図である。画像貼り合せ部109では、貼り合
わせ後のオーバーラップ領域C内の各画素値、およびオ
ーバーラップ領域C以外の領域の各画素値が決定され、
その画素値を用いることでひとつの貼り合わせ画像(合
成画像)が作成される。
【0058】図5は、図4のオーバーラップ領域Cにお
ける画素値が決定される場合を具体的に説明するための
図である。図4に示すように、オーバーラップ領域内に
は動物体存在領域3が含まれる。貼り合わせ後の画素値
は、動物体存在領域3内の画素に対しては、右画像2の
該当する位置の画素値が使用される。これは、動物体存
在領域3が、オーバーラップ領域において右端に近いか
らである。
【0059】そして、それ以外のオーバーラップ領域に
おいては、重み付け平均処理により各々の画素値が求め
られる。貼り合わせ後の画素値をVとすると、点R1で
示されるようなオーバーラップ領域の画素値は、直線P
1′Q1′の長さを用いて重み付け平均が取られる。す
なわち、点R1における画素値V(R1)は、 V(R1)=(P1′R1×V2(R1)+Q1′R1
×V1(R1))/(P1′Q1′) となる。そして、点R2で示されるようなオーバーラッ
プ領域では、直線P2′Q2′の長さを用いて重み付け
平均が取られる。すなわち、点R2での貼り合わせ後の
画素値V(R2)は、 V(R2)=(P2′R2×V2(R2)+Q2′R2
×V1(R2))/(P2′Q2′) となる。ここで、V1(R1)、V1(R2)はそれぞ
れ画素位置R1およびR2に対応する左画像1上での画
素値であり、V2(R1)、V2(R2)は、それぞれ
画素位置R1およびR2に対応する右画像2上の画素値
である。
【0060】このようにして、オーバーラップ領域にお
いては、動物体存在領域3では一方の画像(右画像2)
の画素値が用いられて各画素値が決定される。そして、
それ以外の領域においては、各領域に適した重み付け平
均をとることにより両画像の画素値を用いて各画素値が
決定される。
【0061】次に、図6から図12を用いて画像処理装
置100における画像の貼り合わせ処理の流れについて
詳細に説明する。ただし、処理の内容が前述した内容と
重複する場合、ここではその詳細な説明を繰り返さな
い。
【0062】図6は、画像処理装置100における画像
貼り合わせ処理の全体の流れを示したフローチャートで
ある。図6を参照して、まず、ステップS601におい
て貼り合わせの対象となる複数の画像が入力されると、
ステップS603において、局所的なマッチング処理を
行なうことによりこれら複数の画像のうち隣り合う画像
間におけるそれぞれのオーバーラップ領域が特定され
る。
【0063】続いて、ステップS605において、特定
されたそれぞれのオーバーラップ領域の中から動物体存
在領域が特定される。そして、ステップS607におい
て、決定された動物体存在領域を考慮して、オーバーラ
ップ領域における各画素値の算出が行なわれる。最後
に、ステップS609において、オーバーラップ領域以
外の領域の画像の画素値が決定される。以上で画像の貼
り合わせ処理が終了する。
【0064】図7は、図6のオーバーラップ領域特定処
理(ステップS603)の詳細を示したフローチャート
である。図7を参照して、まず、ステップS701にお
いて、両画像の部分画像(オーバーラップ領域付近の適
当な領域の画像)内で、エッジや文字等の特徴点が抽出
される。次に、ステップS703において、両画像の位
置合わせを行なうために、特徴点を基にしたマッチング
処理が行なわれる。すなわち、両画像の特徴点をそれぞ
れ対応づけることによりその中から正しい対応点対の集
合が求められる。
【0065】そして、このマッチング処理による両画像
の位置合わせが終了すると、ステップS705におい
て、変形パラメータが算出される。ここでいう変形パラ
メータとは、マッチング処理により求められた各対応点
が一致するように、一方の画像に対して他方の画像を、
回転、変倍、平行移動等の必要な幾何変形を行なうため
のパラメータである。たとえば、アフィン変換等で用い
られるアフィンパラメータ等が該当する。
【0066】変形パラメータが算出されると、ステップ
S707において、両画像の位置合わせが行なわれ、オ
ーバーラップ領域が特定される。
【0067】図8は、図7の特徴点検出処理(ステップ
S701)の詳細を示したフローチャートである。図8
を参照して、まず、左画像1の右端領域(部分画像)内
の最初の画素を取り出して(ステップS801)、その
画素の特徴量が算出される(ステップS803)。特徴
量としては、エッジやコーナーの度合いを表わすもので
あればよく、例えば2次微分の絶対値等が考えられる。
【0068】算出された特徴量がしきい値Thsより大き
い場合は(ステップS805で“YES”)、その画素
は特徴点として登録され(ステップS807)、次の画
素が取り出される(ステップS808)。一方、算出さ
れた特徴量がしきい値Ths以下である場合は、ステップ
S807の処理をスキップし、次の画素が取り出される
(ステップS808)。
【0069】次の画素が取り出されると、その画素が左
画像1の右端領域内の最後の画素であるか否かが判断さ
れる(ステップS809)。そして、最後の画素でなけ
れば、ステップS803の処理へと戻り、再び同様の処
理が繰り返される(ステップS803からステップS8
09)。最後の画素であれれば(ステップS809で
“YES”)特徴点検出処理が終了し、ステップS80
7で登録された画素が特徴点となる。
【0070】図9は、図7のマッチング処理(ステップ
S703)の詳細を示したフローチャートである。図9
を参照して、まず、左画像1の最初の特徴点Bが取り出
され(ステップS901)、右画像2の左端領域(部分
画像)の最初の画素Cが取り出される(ステップS90
3)。そして、特徴点Bに対するブロックと画素Cに対
するブロックの画素値差の絶対値和Sが計算される(ス
テップS905)。
【0071】図10は、ステップS905において、こ
の絶対値和Sが計算される場合を説明するための図であ
る。図10(a)は、特徴点Bに対するブロックを示し
ており、図10(b)は、画素Cに対するブロックを示
している。ここでは、特徴点Bあるいは画素Cを中心と
して5×5のブロックが用いられる。したがって、各ブ
ロックの画素値差の絶対値和Sは、 S=Σ|bij−cij| , (i,j=0〜4) となる。
【0072】図9に戻って、絶対値和Sが算出される
と、次に、その絶対値和Sがしきい値Thsよりも小さい
か否かが判断される(ステップS907)。しきい値よ
りも小さい場合は、両画素(特徴点Bおよび画素C)が
マッチングするとして、この時の画素対が記録される
(ステップS909)。そして、特徴点が最後の特徴点
であるか否かが判断される(ステップS915)。
【0073】一方、絶対値和Sがしきい値Ths以上であ
ると判断された場合は(ステップS907で“N
O”)、両画素(特徴点Bおよび画素C)がマッチング
しないとして、次の画素との比較処理へと移行する。す
なわち、画素Cが右画像2の左端領域内の最後の画素で
あるか否かが判断され(ステップS911)、最後の画
素でない場合は、次の画素を画素Cとして(ステップS
913)、ステップS905の処理へと戻る。
【0074】そして、絶対値和Sがしきい値以上である
場合は(ステップS907で“NO”)、画素Cが右画
像2の左端領域内の最後の画素となるまで、絶対値和S
の計算および絶対値Sとしきい値Thsとの比較が行なわ
れる。
【0075】なお、画素Cが右画像2の左端領域内の最
後の画素である場合は(ステップS911で“YE
S”)、ステップS915の処理へと移り、特徴点Bが
最後の特徴点であるか否かが判断される。
【0076】最後の特徴点でない場合は(ステップS9
15で“NO”)、次の特徴点を特徴点Bとして取り出
し、再びステップS903の処理へと戻る。そして、同
様の処理が繰り返される(ステップS903〜ステップ
S917)。そして、特徴点Bが最後の特徴点である場
合は(ステップS915で“YES”)、マッチング処
理が終了される。
【0077】このような特徴点に基づく局所的なマッチ
ング処理を行なうことにより、全画素同士のマッチング
を行なう場合と比較して、処理が容易かつ高速となる。
【0078】次に、動物体存在領域特定処理について説
明する。図11は、図6の動物体存在領域特定処理(ス
テップS605)の詳細を示したフローチャートであ
る。本図を参照して、まず、ステップS1101におい
て、特定されたオーバーラップ領域が適当なブロックに
分割される。
【0079】そして、ステップS1103において、各
ブロックごとの2つの画像間の一致判定が行なわれる。
具体的には、前述したように各ブロック内の画素値差の
絶対値和がしきい値以上か否かで一致不一致が判定され
る。
【0080】オーバーラップ領域内におけるすべてのブ
ロックについて一致判定処理が行なわれると、ステップ
S1105において、一致しないと判定されたブロック
が動物体存在領域として設定される。一致しないと判定
された場合、すなわち各ブロック内の画素値差の絶対値
和がしきい値以上である場合は、動物体の存在により画
像の内容が大きく異なるものと考えられるからである。
このようにして、動物体存在領域が特定されると、動物
体存在領域特定処理が終了する。
【0081】図12は、図6のオーバーラップ領域の画
素値決定処理(ステップS607)の詳細を示したフロ
ーチャートである。本図を参照して、ここでは、動物体
存在領域がオーバーラップ領域内において左右どちらの
端に近いかが判断され、その結果に応じて動物体存在領
域内の画素値が決定される。
【0082】本図を参照して、まずステップS1201
において、オーバーラップ領域における最初の画素が取
得される。そして、ステップS1203において、その
取得された画素が動物体存在領域内の画素であるか否か
が判断される。動物体存在領域内の画素でない場合は
(ステップS1203で“No”)、ステップS121
1において、オーバーラップ領域における両画像の画素
値の重み付け平均がとられ、その値が貼り合わせ後の画
素値として決定される。
【0083】一方、ステップS1203において、対象
となる画素が動物体存在領域内であると判断された場合
は(ステップS1203で“Yes”)、ステップS1
205において、動物体存在領域がオーバーラップ領域
において左右端のどちらに近いかが判断される。
【0084】右端に近いと判断された場合は、ステップ
S1207において、貼り合わせ後の画素値に、右画像
2の対応する画素位置の画素値が用いられる。そして、
左端に近いと判断された場合は、ステップS1209に
おいて、貼り合わせ後の画素値に左画像1の対応する画
素位置の画素値が用いられる。
【0085】このように、現在の画素が動物体存在領域
以外の領域のものであれば通常の重み付け平均処理によ
り画素値が決定され、動物体存在領域内のものであれば
左右いずれかの画像の画素値を用いることで、その画素
値が決定される。
【0086】画素値が決定されると、ステップS121
3において、その画素がオーバーラップ領域における最
後の画素であるか否かが判断される。最後の画素でない
場合は(ステップS1213で“NO”)、ステップS
1215において、オーバーラップ領域内の次の画素が
取り出される。そして再びステップS1203の処理へ
と戻り、同様の処理(ステップS1203からステップ
S1213)が繰り返される。
【0087】そして、オーバーラップ領域内における最
後の画素についての画素値が決定されると(ステップS
1213で“Yes”)、オーバーラップ領域の画素値
決定処理が終了する。
【0088】以上の処理によると、オーバーラップ領域
の動物体の存在しない領域においては、通常通り2つの
画像の画素値の位置に応じた重み付け平均処理により画
素値が決定される。そして、動物体の存在する領域にお
いては、動物体存在領域がオーバーラップ領域の左右い
ずれの端に近いかが判断され、それに応じて左右いずれ
かの画像の画素値が、その領域の画素値として用いられ
る。
【0089】一方の画像の画素値が用いられるため、動
物体存在領域における動物体がぼやけるという不都合が
回避され、貼り合わせ後も明確な画像を得ることができ
る。特に、いずれの画像の画素値を選択するかは、オー
バーラップ領域の両端のうち動物体存在領域がどちらの
端に近いかにより決定される。すなわち、より近い端の
側の画像の画素値に選択される。このため、より周囲の
画像に近い違和感のない画像が再現されることになる。
【0090】また、動物体存在領域以外の領域において
は重み付け平均処理によりそれぞれの画素値が決定され
るため、貼り合わせラインの繋ぎ目が目立たない。
【0091】図13は、本実施の形態における画像処理
装置100により、図2に示した2つの画像を貼り合わ
せた際の合成画像を示す図である。また、図14は、図
13に示した画像の動物体存在領域を拡大した図であ
る。図13および図14を参照して、合成画像は、図2
の一方の画像にのみ現われていた動物体がぼけることな
く明確に現われている。しかも、貼り合わせた画像の繋
ぎ目が目立つこともない。
【0092】(変形例)次に、本発明の実施の形態にお
ける変形例について説明する。第1の実施の形態におけ
る画像処理装置100においては、図3および図5にお
いて説明したように、2つの画像のオーバーラップ領域
において、その画像の内容が大きく異なるブロックのみ
を動物体存在領域3として設定した。しかし、そのよう
な場合に限定されず、動物体存在領域3を他のオーバー
ラップ領域にまで拡張してもよい。以下、「動物体存在
領域」という語を用いた場合、画像の内容が大きく異な
るブロックのみによる領域を意味する場合と、拡張され
た領域も含む場合とがある。
【0093】図15は、本実施の形態の変形例における
画像貼り合わせ処理の流れを示すフローチャートであ
る。この処理は、図6のフローチャートと異なり、動物
体存在領域拡張処理(ステップS1506)が追加され
ている。その他の処理については、図6のフローチャー
トと同様である。
【0094】すなわち、図6と同様に、複数の画像が入
力され(ステップS601)、隣り合う画像の部分画像
間において局所マッチングを取ることによりオーバーラ
ップ領域が特定される(ステップS603)。そして、
オーバーラップ領域の中から画像の値が大きく異なる動
物体存在領域が決定される(ステップS605)。
【0095】このようにして、動物体存在領域が決定さ
れた後、ステップS1506において、その動物体存在
領域の拡張処理が行なわれる。具体的な拡張領域につい
ての説明は後述する。
【0096】このようにして動物体存在領域が拡張され
ると、オーバーラップ領域における貼り合せ処理が行な
われ(ステップS607)、その後、オーバーラップ領
域以外の領域における貼り合せ処理が行なわれる(ステ
ップS609)。
【0097】なお、ステップS607におけるオーバー
ラップ領域の貼り合せ処理は、拡張された動物体存在領
域と、それ以外のオーバーラップ領域とで用いられる画
素値が異なる。そして画像の貼り合せ処理が終了する。
【0098】続いて、図16から図18を用いて動物体
存在領域が拡張される例について説明する。図16は、
オーバーラップ領域における動物体存在領域が拡張され
る第1の例を説明するための図である。第1の例では、
動物体存在領域3の上下に拡張された領域13が設けら
れる。これは、縦方向に対する動物体存在領域3とそれ
以外の領域との境目を目立たなくさせる効果がある。
【0099】この場合、たとえば点R3に位置する画素
に対しては、直線P3′Q3′の長さを用いた重み付け
平均が取られる。すなわち、点R3における画素値V
(R3)は、 V(R3)=(P3′R3×V2(R3)+Q3′R3
×V1(R3))/(P3′Q3′) で求められることになる。ここで、V1(R3)および
V2(R3)は、それぞれ画素位置R3に対応する位置
の左画像1および右画像2でのそれぞれの画素値を意味
する。
【0100】なお、その他の領域についての画素値の求
め方は、図5で示した方法と同様である。
【0101】図17は、オーバーラップ領域における動
物体存在領域が拡張される第2の例を説明するための図
である。本図に示すように、動物体拡張領域3に対して
斜線で示す領域14をそれぞれ拡張し、これをも動物体
存在領域とする。このように単純な形に領域を拡張する
ことで処理の高速化を図ることができる。また、当然に
縦方向についての継ぎ目が目立たなくなるという効果も
ある。
【0102】この場合、R4の位置に示される画素の画
素値は、P4′Q4′の長さを用いた重み付け平均によ
り求められる。
【0103】図18は、オーバーラップ領域における動
物体存在領域が拡張される第3の例を説明するための図
である。この例では、動物体存在領域3がオーバーラッ
プ領域の端部から離れた内側に存在している。この場合
は、動物体存在領域3とより近い端部との間に存在する
領域15が、動物体存在領域として拡張されることにな
る。
【0104】したがって、点R5の位置に存在する画素
の値は、P5′Q5′の長さを用いて重み付け平均処理
を行なうことにより求められる。このようにすること
で、拡張された動物体存在領域15における画素値はよ
り近い端部側の画像の画素値が用いられることになり、
自然な画像が得られる。
【0105】(第2の実施の形態)最後に、本発明の第
2の実施の形態における画像処理装置200について説
明する。本実施の形態における画像処理装置200は、
その全体構成については図1の第1の実施の形態におけ
る画像処理装置100と同様である。また、画像貼り合
わせ処理の流れも図6に示すフローチャートと同様であ
る。ただし、ここでは、オーバーラップ領域の画素値決
定処理(ステップS607)における処理の内容が少し
異なる。
【0106】図19は、本発明の第2の実施の形態にお
ける画像処理装置200のオーバーラップ領域の画素値
決定処理(図6のステップS607)の詳細を示したフ
ローチャートである。ここでは、図12におけるフロー
チャートとほぼ同様であるが、動物体存在領域に2つの
画像のうちどちらの画像の画素値を用いるかを決定する
際の基準が異なる。すなわち、本図においては、図12
のステップS1205の処理の代わりに、ステップS1
905の処理が設けられる。以下、異なる部分について
のみ説明する。
【0107】オーバーラップ領域内の画素が動物体存在
領域内の画素である場合は(ステップS1203で“Y
es”)、ステップS1905において、動物体存在領
域のコントラストは右画像左画像のうちどちらが高いか
が判断される。そして、コントラストの高いと判断され
た方の画像の画素値がその位置の画素値に用いられる。
これにより、例えば図2に示す2つの画像の動物体存在
領域においては右画像2がその位置の画素値に決定され
ることになる。よって、貼り合せ後の画像としては、動
物体である自動車が明確に表わされることいなる。
【0108】一般に、背景と手前にある物体とでは、そ
の画像のコントラストは背景の方が低い傾向にある。し
たがって、これを利用して、侵入物等の動物体を明確に
表わしたい場合には、コントラストの高い方の画像の画
素値が用いられる。反対に、動物体を消去したい場合に
は、コントラストの低い方の画像の画素値が用いられ
る。
【0109】このように、動物体存在領域内におけるコ
ントラストを基に侵入物等の動物体がいずれの画像にど
のような状態で含まれているかが判断される。そして、
コントラストの高低どちらの画像を用いるかを決定する
ことにより、比較的容易に動物体が明確に存在する画
像、あるいは動物体を消去した状態での明確な画像を得
ることができる。
【0110】なお、図16から図18において示したよ
うに、動物体存在領域が拡張された場合には、図19の
ステップS1203においては、拡張された動物体存在
領域をもって動物体存在領域内か否かが判断されるが、
ステップS1905では、最初に決定された拡張される
前の動物体存在領域3のみについてコントラストの高低
が比較されることになる。
【0111】なお、本実施の形態においては、コントラ
ストを比較することにより動物体がいずれの画像に存在
するかを判断しているが、これが判断することのできる
方法であれば、コントラスト以外の情報を用いてもよ
い。
【0112】今回示した画像貼り合わせのための画像処
理方法は、上述した一連の処理動作を機能させるための
プログラムによって実現されることができる。画像処理
プログラムは、予めコンピュータ内のハードディスクに
インストールされたものであってもよいし、CD−RO
M、磁気テープのような取り外し可能な記録媒体に記録
されたものであってもよい。いずれにせよ、画像処理プ
ログラムはコンピュータ読み取り可能な記録媒体に記録
されている。
【0113】なお、コンピュータ読み取り可能な記録媒
体としては、磁気テープやカセットテープなどのテープ
系、磁気ディスク(フレキシブルディスク、ハードディ
スク装置等)や光ディスク(CD−ROM/MO/MD
/DVD等)などのディスク系、ICカード(メモリカ
ードを含む)や光カードなどのカード系、あるいはマス
クROM、EPROM、EEPROM、フラッシュRO
Mなどの半導体メモリ等の、固定的にプログラムを担持
する媒体が考えられる。
【0114】なお、記録媒体に格納される内容として
は、プログラムに限定されず、データであってもよい。
【0115】なお、上述のプログラムを、デジタルカメ
ラやスキャナなどの画像の入力装置に内蔵し、撮影時に
画像を貼り合わせて、その結果を記録媒体に記録するよ
うにしてもよい。
【0116】今回開示された実施の形態はすべての点で
例示であって制限的なものではないと考えられるべきで
ある。本発明の範囲は上記した説明ではなくて特許請求
の範囲によって示され、特許請求の範囲と均等の意味お
よび範囲内でのすべての変更が含まれることが意図され
る。
【図面の簡単な説明】
【図1】 本発明の第1の実施の形態における画像処理
装置100の概略構成を示すブロック図である。
【図2】 画像入力部103に入力された貼り合わせの
対象となる2つの画像の例を示す図である。
【図3】 オーバーラップ領域を分割して、動物体存在
領域を抽出する場合を説明するための図である。
【図4】 図2で示した2つの画像をオーバーラップ領
域ABで貼り合わせた結果の合成画像を示す図である。
【図5】 図4のオーバーラップ領域Cにおける画素値
が決定される場合を具体的に説明するための図である。
【図6】 画像処理装置100における画像貼り合わせ
処理の全体の流れを示したフローチャートである。
【図7】 図6のオーバーラップ領域特定処理(ステッ
プS603)の詳細を示したフローチャートである。
【図8】 図7の特徴点検出処理(ステップS701)
の詳細を示したフローチャートである。
【図9】 図7のマッチング処理(ステップS703)
の詳細を示したフローチャートである。
【図10】 ステップS905において、この絶対値和
Sが計算される場合を説明するための図である。
【図11】 図6の動物体存在領域特定処理(ステップ
S605)の詳細を示したフローチャートである。
【図12】 図6のオーバーラップ領域の画素値決定処
理(ステップS607)の詳細を示したフローチャート
である。
【図13】 本実施の形態における画像処理装置100
により、図2に示した2つの画像を貼り合わせた際の合
成画像を示す図である。
【図14】 図13に示した画像の動物体存在領域を拡
大した図である。
【図15】 本実施の形態の変形例における画像貼り合
わせ処理の流れを示すフローチャートである。
【図16】 オーバーラップ領域における動物体存在領
域が拡張される第1の例を説明するための図である。
【図17】 オーバーラップ領域における動物体存在領
域が拡張される第2の例を説明するための図である。。
【図18】 オーバーラップ領域における動物体存在領
域が拡張される第3の例を説明するための図である。
【図19】 本発明の第2の実施の形態における画像処
理装置200のオーバーラップ領域の画素値決定処理
(図6のステップS607)の詳細を示したフローチャ
ートである。
【図20】 貼り合わせの対象となる2つの画像の例を
示す。
【図21】 重み付け平均処理の原理を説明するための
図である。
【図22】 重み付け平均処理により図20の2つの画
像を貼り合わせた結果の合成画像を示す図である。
【図23】 図22の合成画像における動物体存在領域
を拡大した図である。
【符号の説明】
100 画像処理装置、101 CPU、103 画像
入力部、105 オーバーラップ領域特定部、107
動物体存在領域決定部、109 画像貼り合せ部、11
1 出力部。

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 隣り合う画像の一部が相互にオーバーラ
    ップする複数の画像を取得する画像取得手段と、 前記取得された複数の画像のうち隣り合う2つの画像間
    で、相互にオーバーラップする領域を特定するオーバー
    ラップ領域特定手段と、 前記特定されたオーバーラップ領域のうち第1の領域を
    特定する第1領域特定手段と、 前記特定された第1の領域内の画素値を、前記隣り合う
    2つの画像の一方の画像の画素値に基づいて決定する第
    1の画素値決定手段と、 前記特定された第1の領域以外のオーバーラップ領域で
    ある第2の領域内の画素値を、前記隣り合う2つの画像
    の画素値に基づいて決定する第2の画素値決定手段と、 前記決定された第1の領域内の画素値および第2の領域
    内の画素値をオーバーラップ領域のそれぞれの領域内に
    用いることで前記隣り合う2つの画像を貼り合わせる貼
    り合せ手段とを備えた、画像処理装置。
  2. 【請求項2】 前記第1領域特定手段は、 前記オーバーラップ領域を所定領域に分割する分割手段
    と、 前記分割された所定領域の画素値を、前記2つの画像間
    において比較する比較手段とを備え、 前記比較手段による比較結果に基づき、前記第1の領域
    を特定することを特徴とする、請求項1に記載の画像処
    理装置。
  3. 【請求項3】 前記比較手段は、前記2つの画像間にお
    ける所定領域ごとの画素値の差の絶対値和がしきい値以
    上であるか否かを判断する判断手段を含み、 前記第1領域特定手段は、前記判断手段によりしきい値
    以上であると判断された場合、該当する所定領域を前記
    第1の領域に特定することを特徴とする、請求項2に記
    載の画像処理装置。
  4. 【請求項4】 前記第1領域特定手段は、前記判断手段
    によりしきい値未満であると判断された場合において、
    該当する所定領域が所定の条件を満足するときは、前記
    該当する所定領域を前記第1の領域として特定すること
    を特徴とする、請求項3に記載の画像処理装置。
  5. 【請求項5】 前記第2の画素値決定手段は、位置に関
    する重み付け平均して画素値を決定することを特徴とす
    る、請求項1〜4のいずれかに記載の画像処理装置。
  6. 【請求項6】 前記第1の画素値決定手段は、 前記特定された第1の領域が、前記隣り合う2つの画像
    を貼り合わせた際にいずれの画像に近いかを判断する判
    断手段を含み、 前記判断手段により近いと判断された方の画像を前記一
    方の画像として用い、該一方の画像の画素値に基づいて
    前記第1の領域内の画素値を決定することを特徴とす
    る、請求項1〜5のいずれかに記載の画像処理装置。
  7. 【請求項7】 前記第1の画素値決定手段は、 前記特定された第1の領域内の画素のコントラストを前
    記隣り合う2つの画像間で比較するコントラスト比較手
    段を含み、 前記コントラスト比較手段による結果に基づいて、前記
    一方の画像を決定し、該一方の画像の画素値に基づいて
    前記第1の領域内の画素値を決定することを特徴とす
    る、請求項1〜5のいずれかに記載の画像処理装置。
  8. 【請求項8】 隣り合う画像の一部が相互にオーバーラ
    ップする複数の画像を取得する画像取得ステップと、 前記取得された複数の画像のうち隣り合う2つの画像間
    で、相互にオーバーラップする領域を特定するオーバー
    ラップ領域特定ステップと、 前記特定されたオーバーラップ領域のうち第1の領域を
    特定する第1領域特定ステップと、 前記特定された第1の領域内の画素値を、前記隣り合う
    2つの画像の一方の画像の画素値に基づいて決定する第
    1の画素値決定ステップと、 前記特定された第1の領域以外のオーバーラップ領域で
    ある第2の領域内の画素値を、前記隣り合う2つの画像
    の画素値に基づいて決定する第2の画素値決定ステップ
    と、 前記決定された第1の領域内の画素値および第2の領域
    内の画素値をオーバーラップ領域のそれぞれの領域内に
    用いることで前記隣り合う2つの画像を貼り合わせる貼
    り合せステップとを備えた、画像処理方法。
  9. 【請求項9】 隣り合う画像の一部が相互にオーバーラ
    ップする複数の画像を取得する画像取得ステップと、 前記取得された複数の画像のうち隣り合う2つの画像間
    で、相互にオーバーラップする領域を特定するオーバー
    ラップ領域特定ステップと、 前記特定されたオーバーラップ領域のうち第1の領域を
    特定する第1領域特定ステップと、 前記特定された第1の領域内の画素値を、前記隣り合う
    2つの画像の一方の画像の画素値に基づいて決定する第
    1の画素値決定ステップと、 前記特定された第1の領域以外のオーバーラップ領域で
    ある第2の領域内の画素値を、前記隣り合う2つの画像
    の画素値に基づいて決定する第2の画素値決定ステップ
    と、 前記決定された第1の領域内の画素値および第2の領域
    内の画素値をオーバーラップ領域のそれぞれの領域内に
    用いることで前記隣り合う2つの画像を貼り合わせる貼
    り合せステップとをコンピュータに実行させるための画
    像処理プログラム。
  10. 【請求項10】 請求項9に記載の画像処理プログラム
    を記録したコンピュータ読み取り可能な記録媒体。
JP2001005245A 2001-01-12 2001-01-12 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体 Pending JP2002208005A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2001005245A JP2002208005A (ja) 2001-01-12 2001-01-12 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
US10/044,503 US7076116B2 (en) 2001-01-12 2002-01-10 Image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001005245A JP2002208005A (ja) 2001-01-12 2001-01-12 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体

Publications (1)

Publication Number Publication Date
JP2002208005A true JP2002208005A (ja) 2002-07-26

Family

ID=18873311

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001005245A Pending JP2002208005A (ja) 2001-01-12 2001-01-12 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体

Country Status (2)

Country Link
US (1) US7076116B2 (ja)
JP (1) JP2002208005A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007110207A (ja) * 2005-10-11 2007-04-26 Matsushita Electric Ind Co Ltd 画像合成装置及び画像合成方法
JP2009171570A (ja) * 2008-01-21 2009-07-30 Denso Internatl America Inc 画像データ処理方法及び画像データ処理システム
JP2010161520A (ja) * 2009-01-07 2010-07-22 Sony Corp 画像処理装置、画像処理方法およびプログラム
JP2011150733A (ja) * 2004-08-04 2011-08-04 Intergraph Software Technologies Co 非均一分解能で合成イメージを用意する方法
WO2012117706A1 (ja) * 2011-03-01 2012-09-07 パナソニック株式会社 映像処理装置、映像処理方法、プログラム
JP2015198277A (ja) * 2014-03-31 2015-11-09 ブラザー工業株式会社 画像処理装置およびコンピュータプログラム

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2003246268A1 (en) * 2002-08-09 2004-02-25 Sharp Kabushiki Kaisha Image combination device, image combination method, image combination program, and recording medium containing the image combination program
US7365744B2 (en) * 2004-07-26 2008-04-29 The Board Of Trustees Of The University Of Illinois Methods and systems for image modification
JP4533273B2 (ja) * 2005-08-09 2010-09-01 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム
JP4706466B2 (ja) * 2005-12-16 2011-06-22 株式会社日立製作所 撮像装置
EP1991935A1 (en) * 2006-02-27 2008-11-19 Robert Bosch GmbH Video retrieval system, method and computer program for surveillance of moving objects
JP4899803B2 (ja) * 2006-11-06 2012-03-21 ソニー株式会社 画像処理装置、カメラ装置、画像処理方法、およびプログラム
US8107769B2 (en) * 2006-12-28 2012-01-31 Casio Computer Co., Ltd. Image synthesis device, image synthesis method and memory medium storage image synthesis program
US8203764B2 (en) * 2007-06-27 2012-06-19 Lexmark International, Inc. Phased illumination method for image capture system
US8160391B1 (en) * 2008-06-04 2012-04-17 Google Inc. Panoramic image fill
US9307165B2 (en) * 2008-08-08 2016-04-05 Qualcomm Technologies, Inc. In-camera panorama image stitching assistance
WO2010025309A1 (en) * 2008-08-28 2010-03-04 Zoran Corporation Robust fast panorama stitching in mobile phones or cameras
US8924888B2 (en) * 2008-11-13 2014-12-30 SAP France S.A. Dynamic data object insertion
US9380292B2 (en) * 2009-07-31 2016-06-28 3Dmedia Corporation Methods, systems, and computer-readable storage media for generating three-dimensional (3D) images of a scene
US8947502B2 (en) 2011-04-06 2015-02-03 Qualcomm Technologies, Inc. In camera implementation of selecting and stitching frames for panoramic imagery
KR20110131949A (ko) * 2010-06-01 2011-12-07 삼성전자주식회사 영상 처리 장치 및 방법
WO2012015732A1 (en) * 2010-07-26 2012-02-02 Siemens Corporation Global error minimization in image mosaicking using graph laplacians and its applications in microscopy
US8861890B2 (en) 2010-11-24 2014-10-14 Douglas Alan Lefler System and method for assembling and displaying individual images as a continuous image
JP5756322B2 (ja) * 2011-04-08 2015-07-29 任天堂株式会社 情報処理プログラム、情報処理方法、情報処理装置および情報処理システム
JP2012222674A (ja) * 2011-04-12 2012-11-12 Sony Corp 画像処理装置、画像処理方法、プログラム
TW201301874A (zh) * 2011-06-24 2013-01-01 Wistron Corp 文件掃描方法、文件掃描裝置及可攜式電子裝置
WO2013001143A2 (en) * 2011-06-30 2013-01-03 Nokia Corporation Method, apparatus and computer program product for generating panorama images
JP5678911B2 (ja) * 2012-03-12 2015-03-04 カシオ計算機株式会社 画像合成装置、その画像合成方法、及びプログラム
JP6160168B2 (ja) * 2013-03-28 2017-07-12 ブラザー工業株式会社 画像処理装置、および、コンピュータプログラム
CN103489154B (zh) * 2013-10-01 2016-04-06 中国人民解放军国防科学技术大学 基于目标块检测的缝合线实时调整方法
US9807372B2 (en) * 2014-02-12 2017-10-31 Htc Corporation Focused image generation single depth information from multiple images from multiple sensors
US9495606B2 (en) * 2014-02-28 2016-11-15 Ricoh Co., Ltd. Method for product recognition from multiple images
US10217257B1 (en) * 2015-03-17 2019-02-26 Amazon Technologies, Inc. Process for contextualizing continuous images
US9911213B2 (en) * 2015-12-18 2018-03-06 Ricoh Co., Ltd. Panoramic image stitching using objects
CN105957004B (zh) * 2016-04-27 2019-01-29 深圳积木易搭科技技术有限公司 一种基于图割优化的全景影像修补方法及***
KR101844885B1 (ko) * 2016-07-11 2018-05-18 엘지전자 주식회사 차량 운전 보조장치 및 이를 포함하는 차량

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10126665A (ja) * 1996-10-14 1998-05-15 Sharp Corp 画像合成装置
JPH10178564A (ja) * 1996-10-17 1998-06-30 Sharp Corp パノラマ画像作成装置及び記録媒体

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5465163A (en) * 1991-03-18 1995-11-07 Canon Kabushiki Kaisha Image processing method and apparatus for processing oversized original images and for synthesizing multiple images
JP2989364B2 (ja) * 1992-03-12 1999-12-13 シャープ株式会社 画像処理装置及び画像処理方法
US5481375A (en) * 1992-10-08 1996-01-02 Sharp Kabushiki Kaisha Joint-portion processing device for image data in an image-forming apparatus
JP3107929B2 (ja) * 1992-10-22 2000-11-13 キヤノン株式会社 複眼撮像装置
JPH06195447A (ja) 1992-12-25 1994-07-15 Canon Inc 複眼撮像装置
US6128416A (en) * 1993-09-10 2000-10-03 Olympus Optical Co., Ltd. Image composing technique for optimally composing a single image from a plurality of digital images
JPH08287218A (ja) * 1995-04-10 1996-11-01 Sharp Corp 画像合成装置
US6549681B1 (en) * 1995-09-26 2003-04-15 Canon Kabushiki Kaisha Image synthesization method
JPH09312318A (ja) * 1996-05-21 1997-12-02 Hitachi Ltd パタ−ン欠陥検査装置
JPH09330396A (ja) 1996-06-11 1997-12-22 Olympus Optical Co Ltd 画像処理装置
US6359617B1 (en) * 1998-09-25 2002-03-19 Apple Computer, Inc. Blending arbitrary overlaying images into panoramas
US6456323B1 (en) * 1999-12-31 2002-09-24 Stmicroelectronics, Inc. Color correction estimation for panoramic digital camera

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10126665A (ja) * 1996-10-14 1998-05-15 Sharp Corp 画像合成装置
JPH10178564A (ja) * 1996-10-17 1998-06-30 Sharp Corp パノラマ画像作成装置及び記録媒体

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011150733A (ja) * 2004-08-04 2011-08-04 Intergraph Software Technologies Co 非均一分解能で合成イメージを用意する方法
JP2007110207A (ja) * 2005-10-11 2007-04-26 Matsushita Electric Ind Co Ltd 画像合成装置及び画像合成方法
JP4622797B2 (ja) * 2005-10-11 2011-02-02 パナソニック株式会社 画像合成装置及び画像合成方法
JP2009171570A (ja) * 2008-01-21 2009-07-30 Denso Internatl America Inc 画像データ処理方法及び画像データ処理システム
JP2010161520A (ja) * 2009-01-07 2010-07-22 Sony Corp 画像処理装置、画像処理方法およびプログラム
US8723917B2 (en) 2009-01-07 2014-05-13 Sony Corporation Image processing apparatus, image processing method and program
WO2012117706A1 (ja) * 2011-03-01 2012-09-07 パナソニック株式会社 映像処理装置、映像処理方法、プログラム
JP5852093B2 (ja) * 2011-03-01 2016-02-03 パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America 映像処理装置、映像処理方法、プログラム
JP2015198277A (ja) * 2014-03-31 2015-11-09 ブラザー工業株式会社 画像処理装置およびコンピュータプログラム

Also Published As

Publication number Publication date
US20030103683A1 (en) 2003-06-05
US7076116B2 (en) 2006-07-11

Similar Documents

Publication Publication Date Title
JP2002208005A (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
US10972672B2 (en) Device having cameras with different focal lengths and a method of implementing cameras with different focal lengths
WO2022170824A1 (zh) 图像拼接的处理方法、装置、电子***和设备、可读介质
JP2005100407A (ja) 複数のソース画像からパノラマ画像を作成するシステム及び方法
US10909703B2 (en) Image processing method, electronic device and computer-readable storage medium
JP6763417B2 (ja) 電子機器
JP2856229B2 (ja) 画像切り出し箇所検出方法
US8249394B2 (en) Method and system for shift-map image editing
CN107274337B (zh) 一种基于改进光流的图像拼接方法
CN106204437B (zh) 一种图像融合方法
JP2010122934A (ja) 画像処理装置、および画像処理方法、並びにプログラム
CN111553841B (zh) 一种基于最佳缝合线更新的实时视频拼接方法
CN106709878A (zh) 一种快速图像融合方法
CN107330856A (zh) 一种基于投影变换和薄板样条的全景成像方法
JPH09322061A (ja) 画像合成装置
CN114943823B (zh) 基于深度学习语义感知的无人机图像拼接方法及***
Koochari et al. Exemplar-based video inpainting with large patches
Xiong Eliminating ghosting artifacts for panoramic images
JP4926877B2 (ja) 画像処理装置及び方法、並びにプログラム
JP4458720B2 (ja) 画像入力装置およびプログラム
JP3887961B2 (ja) 画像対応付け方法、コンピュータに画像対応付け方法を実行させるコンピュータ読み取り可能な記憶媒体及び情報処理装置
US20240087336A1 (en) Vanishing point calculator
JP2024044618A (ja) 学習装置、推論装置、画像連結処理装置、連結不調領域の学習方法、連結不調領域の推論方法、画像連結処理方法及びプログラム
Lee et al. A novel content-aware stitching algorithm for real-time video sequences
JP2014036429A (ja) 被写体追尾装置、およびカメラ

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20050613

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061025

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090714

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091215