JP4513871B2 - 画像処理方法、画像処理プログラムおよび画像処理装置 - Google Patents

画像処理方法、画像処理プログラムおよび画像処理装置 Download PDF

Info

Publication number
JP4513871B2
JP4513871B2 JP2008034235A JP2008034235A JP4513871B2 JP 4513871 B2 JP4513871 B2 JP 4513871B2 JP 2008034235 A JP2008034235 A JP 2008034235A JP 2008034235 A JP2008034235 A JP 2008034235A JP 4513871 B2 JP4513871 B2 JP 4513871B2
Authority
JP
Japan
Prior art keywords
image
line
original
trimming
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008034235A
Other languages
English (en)
Other versions
JP2009194681A (ja
Inventor
和則 林
達 河上
曜一郎 佐古
孝安 今
恭則 鎌田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008034235A priority Critical patent/JP4513871B2/ja
Priority to SG200900128-0A priority patent/SG155115A1/en
Priority to US12/366,044 priority patent/US8218820B2/en
Priority to KR1020090011765A priority patent/KR101557999B1/ko
Priority to EP09152765.5A priority patent/EP2091020B1/en
Priority to CN2009100076438A priority patent/CN101510297B/zh
Publication of JP2009194681A publication Critical patent/JP2009194681A/ja
Application granted granted Critical
Publication of JP4513871B2 publication Critical patent/JP4513871B2/ja
Priority to US13/543,329 priority patent/US8588469B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F21LIGHTING
    • F21VFUNCTIONAL FEATURES OR DETAILS OF LIGHTING DEVICES OR SYSTEMS THEREOF; STRUCTURAL COMBINATIONS OF LIGHTING DEVICES WITH OTHER ARTICLES, NOT OTHERWISE PROVIDED FOR
    • F21V21/00Supporting, suspending, or attaching arrangements for lighting devices; Hand grips
    • F21V21/14Adjustable mountings
    • F21V21/16Adjustable mountings using wires or cords
    • F21V21/18Adjustable mountings using wires or cords operated by springs
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F21LIGHTING
    • F21SNON-PORTABLE LIGHTING DEVICES; SYSTEMS THEREOF; VEHICLE LIGHTING DEVICES SPECIALLY ADAPTED FOR VEHICLE EXTERIORS
    • F21S8/00Lighting devices intended for fixed installation
    • F21S8/04Lighting devices intended for fixed installation intended only for mounting on a ceiling or the like overhead structures
    • F21S8/06Lighting devices intended for fixed installation intended only for mounting on a ceiling or the like overhead structures by suspension
    • FMECHANICAL ENGINEERING; LIGHTING; HEATING; WEAPONS; BLASTING
    • F21LIGHTING
    • F21VFUNCTIONAL FEATURES OR DETAILS OF LIGHTING DEVICES OR SYSTEMS THEREOF; STRUCTURAL COMBINATIONS OF LIGHTING DEVICES WITH OTHER ARTICLES, NOT OTHERWISE PROVIDED FOR
    • F21V21/00Supporting, suspending, or attaching arrangements for lighting devices; Hand grips
    • F21V21/008Suspending from a cable or suspension line
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/306Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using a re-scaling of images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/804Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for lane monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Analysis (AREA)
  • Editing Of Facsimile Originals (AREA)

Description

この発明は、画像処理方法、画像処理プログラムおよび画像処理装置に関する。
図7A〜Hは、自動車の助手席付近にデジタルスチルカメラをつりさげ、進行方向を例えば10秒ごとに自動的に撮影して得られた画像の一例を示す。これらの画像は間欠撮影された静止画であるが、内容に連続性を有しているので、短い時間間隔、例えば0.8秒の時間間隔で順に再生していくと、いわゆるぱらぱら動画のような再生画像となり、動きこそぎこちないが、一連の動作や風景の変化を読み取ることができる。
なお、以後、上記のように、所定の時間間隔で撮影した画像を、短い時間間隔で順に再生していく再生方法を「スライドショウ再生」と呼ぶ。
また、例えば、ユーザが観光地を歩きまわるとき、デジタルスチルカメラを首から下げて同様に間欠撮影をし、その撮影した画像をスライドショウ再生した場合には、観光地を歩き回ったときに観たものや様子をリアルに再現することができる。
なお、先行技術文献として例えば以下のものがある。
特開2003−250117号公報
ところが、撮影時、デジタルスチルカメラが大きく揺れた場合には、その揺れにつれてデジタルスチルカメラの光軸の方向が大きく変化するので、例えば、図7に示すように、画像が図7Aから図7Hに変わって行く間に、空の占める広さ(地平線の高さ)がランダムに変化している。すなわち、中心的な被写体の位置や全体の構図が画像によって大きく変化してしまう。
したがって、このような画像をスライドショウ再生した場合、画像の内容が似ているのに、あるいは画像の内容が少しずつ変化していくのに、中心的な被写体の位置や全体の構図が画像ごとに上下あるいは左右に大きく変化するので、非常に見づらく、疲れたり、乗り物酔いのような悪寒を感じてしまうことがある。
また、動画の場合も同様で、再生時、フレーム間で中心的な被写体や全体の構図が上下あるいは左右に移動すると、その映像は非常に見づらく、疲労や悪寒をもたらしてしまう。
この発明は、以上のような問題点を解決しようとするものである。
この発明においては、
複数の原画像のそれぞれに対してエッジ抽出を行ってエッジ画像を得るエッジ抽出処理と、
上記エッジ画像から直線を抽出して線画像を得る線画像処理と、
上記線画像を構成する直線について延長線を想定し、その延長線から消失点を求める消失点決定処理と、
上記複数の原画像のそれぞれにおける上記消失点の位置が互いに一致するように、上記複数の原画像のそれぞれをトリミングして上記最終的な画像を得るトリミング処理と
を有する画像処理方法
とするものである。
この発明によれば、スライドショウ再生をした場合、中心的な被写体や全体の構図などが画像ごとに大きくずれることがなく、したがって、非常に見やすく、疲れを感じたり、乗り物酔いのような悪寒を感じることがない。
〔1〕 この発明のアウトライン
図1は、この発明における画像処理のアウトラインを示すもので、図1Aにおいて、符号11は、デジタルスチルカメラにより間欠撮影した原画像の1枚を示す。この原画像11は、例えば、上述のように、デジタルスチルカメラを自動車の助手席付近につりさげ、進行方向を例えば10秒ごとに自動的に撮影して得られた画像の一枚である。
そして、この原画像11に対して、エッジ抽出処理を行うことにより、図1Bに示すように、エッジ画像12を得る。次に、このエッジ画像12から直線を抽出して、図1Cに示すように、線画像13を得る。すると、この線画像13を構成する直線のうち、いくつかの直線は、遠近法により描画したときに、無限遠点(消失点)から放射状に伸びる直線の一部と考えることができる。
そこで、この考えを利用し、図1Dに示すように、線画像13を構成するすべて直線について延長線を想定し、その延長線が最も多く収束ないし交わる点Pxを消失点に決定する。
そして、消失点Pxが決定されたら、この消失点Pxがフレーム(最終的な画像)に含まれるように、原画像11をトリミングし、例えば図1Eに示すようにトリミング画像14を形成する。この場合、トリミングの範囲は、例えば図1Dに鎖線TRMGにより示すように、消失点Pxがフレームの例えば中央に位置し、かつ、原画像11の例えば50%の面積となるように設定される。
続いて、このトリミング画像14が、図1Fに示すように、原画像11と例えば同じ大きさの画像15となるように拡大され、この画像15が、最終的な補正画像として保存される。また、以上の処理は、スライドショウ再生がされるすべての画像に対して、実行される。
以上のような処理を実行すれば、例えば図3に示すように、スライドショウ再生をした場合、中心的な被写体や全体の構図などが画像ごとに大きくずれることがなく、したがって、見やすく、疲れを感じにくいスライドショウ再生を提供できる。
〔2〕 画像の適正化について
上記の〔1〕を実行する場合、より適切なスライドショウ再生を実現する場合、以下のような補正処理をすることが望ましい。
〔2−1〕 トリミングエリアの設定
例えば、図1Aに示す原画像11は、図1Dにおいて鎖線TRMGにより囲った範囲がトリミングエリア(トリミングで有効となる範囲)となって最終的な補正画像15となる。しかし、例えば、撮影時にデジタルスチルカメラが大きく揺れてデジタルスチルカメラの光軸が斜め下方を向いてしまい、原画像が図2Aに符号11により示すような内容となった場合には、トリミングエリアTRMGが図2Bに示すように、画像11の線画像13の上部からはみ出してしまう。
すると、このときの最終的な補正画像15は、図2Cにより示すように、上部に非撮影部分(非画像エリア)BLNKを生じてしまい、スライドショウ再生時、その非撮影部分BLNKが例えば黒く表示され、見苦しいものとなってしまう。
そこで、図2に示す例においては、図2Cに示すように、非撮影部分BLNKを生じた場合には、例えば図2Dに示すように、非撮影部分BLNKを埋めるように、補正画像15が全体に上部方向に伸張された画像15Aに補正される。
このようにすれば、スライドショウ再生時、非撮影部分BLNKの目立つことがない。また、補正画像15Aは画像15が縦方向に伸張されたものであるが、内容が前後の画像と連続しているとともに、画像15Aがスライドショウ再生により表示されるのは、ごく一瞬(例えば0.8秒間)であるから、ユーザに違和感を与えることはない。
なお、図2Bに示すように、トリミングエリアTRMGが線画像13(画像11)からはみ出すか否かを検出するため、線画像13に、トリミング可能エリアTROKが設定される。つまり、トリミングエリアTRMGが線画像13(画像11)からはみ出さないときには、消失点Pxがトリミング可能エリアTROKの中に位置し、トリミングエリアTRMGが線画像13(画像11)からはみ出すときには、消失点Pxがトリミング可能エリアTROKから外れるように、トリミング可能エリアTROKが設定される。
したがって、トリミング可能エリアTROKに対する消失点Pxの位置から、非撮影部分BLNKの有無、その方向(位置)および大きさを検出することができ、その検出結果により例えば図2Dに示すように補正した画像15Aを得ることができる。
〔2−2〕 トリミングの角度の補正
上記の〔2−1〕は、デジタルスチルカメラが自動車の助手席付近やユーザの首などから正しく水平に釣り下げられている場合であるが、実際には自動車の走行やユーザの歩行につれてデジタルスチルカメラが一時的に左右に傾くことがある。すると、そのとき撮影した画像の内容は傾いているので、そのスライドショウ再生も見苦しいものとなってしまう。
そこで、このような場合には、連続する2つの画像(n−1)、nにおいて、それぞれの失点Px、Pxを決定したら、次に、
(1) 画像nの消失点Pxが、画像(n−1)の消失点Pxに一致するように画像nをシフトさせる。
(2) 画像nにおいて消失点Pxを与えている延長線が、画像(n−1)において消失点Pxを与えている延長線に一致するように、画像nを消失点Pxを中心に回転させる。
(3) 以後、〔2−1〕のトリミング処理以降を実行する。
ものとする。
このようにすれば、デジタルスチルカメラは一時的に左右に傾いても、最終的な画像が傾くことがなく、スライドショウ再生が見苦しくなることがない。
〔3〕 処理結果
図3は、図7の画像に対して、上述の〔1〕および〔2〕の処理を実行した結果を示し、図3A〜Hが図7A〜Hにそれぞれ対応する。この図3によれば、画像の内容は、その撮影間隔にしたがって変化していくが、処理前の画像(図7A〜H)に比べ、中心的な被写体の位置や全体の構図が安定している。したがって、この画像をスライドショウ再生した場合、非常に見やすく、観ていて疲れることもない。
〔4〕 装置の構成
上述した〔1〕および〔2〕の処理は専用のハードウェアにより実現することもできるが、以下においては、パーソナルコンピュータにより実現する場合である。
図4において、符号30はパーソナルコンピュータを示し、このパーソナルコンピュータ30は、各種のプログラムを実行するCPU31と、イニシャルプログラムローダが保存されている不揮発性メモリ32と、ワークエリア用のRAM33と、大容量の記憶デバイスとしてハードディスクドライブ34とを有する。そして、これら不揮発性メモリ32、RAM33およびハードディスクドライブ34は、システムバス39を通じてCPU31に接続されている。
この場合、ハードディスクドライブ34には、OSと、各種のアプリケーションプログラムとが用意されているとともに、そのアプリケーションプログラムの一部として、例えば図5に示すルーチン100が用意されている。このルーチン100の詳細については後述するが、ルーチン100は上述した〔1〕を実行するためのものであり、図5においては、この発明に関係する部分だけを抜粋して示している。
さらに、ハードディスクドライブ34には、図7に示すような原画像(原画像の画像データ)が用意されるとともに、ルーチン100が実行されたとき、図3に示すように補正された画像(最終的な画像)が保存される。
また、システムバス39には、入力デバイス35と、カードリーダ36と、USBポート37とが接続されている。この場合、入力デバイス35は、キーボードやマウスなどのようにユーザが操作して指示やデータの入力を行うためのものであり、カードリーダ36は、外部のメモリカード(図示せず)が挿入されたとき、そのメモリカードにデータなどをアクセスするためのものである。さらに、USBポート37は、USBコネクタ38に外部のUSB機器を接続したとき、そのUSB機器との間で、データなどをアクセスするためのものである。
なお、図4においては、USBコネクタ38にデジタルスチルカメラ50が接続され、このデジタルスチルカメラ50の撮影した画像、すなわち、〔1〕による補正の対象となる原画像の取り込みが行われる。ただし、デジタルスチルカメラ50が、これに内蔵されているメモリカード(図示せず)に、撮影した画像を保存しているとともに、そのメモリカードがデジタルスチルカメラ50から着脱自在なときには、そのメモリカードをカードリーダ36にセットすることにより、デジタルスチルカメラ50の撮影した原画像の取り込みも可能とされている。
また、デジタルスチルカメラ50から取り込まれた原画像は、ハードディスクドライブ34に保存され、ルーチン100が実行されたとき、例えば図3に示すような画像に補正される。
さらに、パーソナルコンピュータ30には、オーディオ再生回路41および表示制御回路43が設けられ、これらもシステムバス39に接続されている。オーディオ再生回路41は、これにデジタルオーディオデータが供給されたとき、必要に応じてMP3などのデコード処理を行い、さらに、そのデジタルオーディオデータをアナログオーディオ信号にD/A変換し、そのアナログオーディオ信号をスピーカ42に供給するものである。
また、表示制御回路43は、図示はしないがビデオRAMを有し、このビデオRAMに表示データが供給されるとともに、所定の周期で繰り返し読み出されてビデオ信号に変換され、このビデオ信号がディスプレイ44に供給されて画像を表示するものである。
〔5〕 装置の動作
ここでは、図4のパーソナルコンピュータ30について、その動作および処理内容を、図1および図2を参照して説明する。
〔5−1〕 〔1〕の補正だけを実行する場合の動作
この場合には、パーソナルコンピュータ30の電源をオンにすると、CPU31により不揮発性メモリ32のイニシャルプログラムローダが実行され、ハードディスクドライブ34からOSが読み出されてRAM33に転送されて実行され、アプリケーションプログラムの実行待ちとなる。そこで、入力デバイス35を操作してルーチン100の実行を指示すると、ハードディスクドライブ34からルーチン100が読み出されてRAM33に転送され、ルーチン100の実行が開始される。
このルーチン100においては、CPU31の処理がステップ101から開始され、次にステップ102において、ハードディスクドライブ34に保存されている原画像のうちの第1枚目の原画像11(図1A)が、処理対象として選択される。続いて、ステップ111において、その処理対象の画像11に対して、エッジ抽出処理が行われる。
このステップ111におけるエッジ抽出処理の方法としては、例えば、J.Canny:“A Computational Approach to Edge Detection”,IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.8, No.6, Nov.1986 に示されている方法を使用することができる。
次に、ステップ112において、ステップ111により形成されたエッジ画像12から直線が抽出されて線画像13(図1C)が形成される。このエッジ画像12から直線を抽出して線画像13を得る方法として、例えばハフ変換による直線抽出法を採用することができる。このハフ変換については、P.V.C.Hough,“Method and means for recognizing complex patterns,” U.S.Patent 3069654, 1962. あるいは Duda,R.O. and P.E.Hart,“Use of the Hough Transformation to Detect Lines and Curves in Pictures,” Comm. ACM, Vol.15, pp.11-15 (January, 1972) に示されている。
続いて、ステップ113において、線画像13における直線のうち、その延長線が最も多く収束ないし交わる点Pxが消失点に決定される(図1D)。
そして、次にステップ114において、図1Dの範囲TRMGが有効範囲となるように、原画像11のトリミングが行われる(図1E)。すなわち、消失点Pxがフレーム(最終的な補正画像15)の例えば中央に位置するように、かつ、面積が原画像11の50%となるように、原画像11のトリミングが行われて画像14が形成される。
続いて、ステップ115において、ステップ114により形成されたトリミング画像14が、原画像11と同じ大きさとなるように拡大され、最終的な補正画像15が形成され(図1F)、ステップ116において、その補正画像15がハードディスクドライブ34に保存される。
次にステップ121において、ハードディスクドライブ34におけるすべての画像(補正対象となるすべての画像)に対して上述の補正処理が実行されたか否かが判別され、未補正の画像が残っている場合には、処理はステップ121からステップ122に進み、このステップ122において、次の未補正の画像が選択され、その後、処理はステップ111に戻る。したがって、ステップ122において選択された未補正の画像についても上述のように補正が行われる。
そして、ハードディスクドライブ34におけるすべての画像に対して上述の補正処理が実行されると、これがステップ121により判別され、処理はステップ121からステップ123に進み、このステップ123によりルーチン100を終了する。
こうして、ルーチン100によれば、〔1〕の補正処理を実現することができ、スライドショウ再生をした場合、中心的な被写体や全体の構図などが画像ごとに大きくずれることがなく、したがって、見やすく、疲れを感じにくいスライドショウ再生を提供できる。
〔5−2〕 〔2〕の適正化も実行する場合の動作
この場合には、ハードディスクドライブ34には、ルーチン100に代わって図6に示すルーチン200が用意され、このルーチン200がCPU31により実行される。すなわち、このルーチン200においては、CPU31の処理がステップ201から開始され、次にステップ202において、ハードディスクドライブ34に保存されている原画像のうちの第1枚目の原画像11(図1A)が、処理対象として選択される。続いて、ステップ211において、その処理対象の画像11に対して、エッジ抽出処理が行われ、エッジ画像12(図1B)が形成される。
次に、ステップ212において、ステップ211により形成されたエッジ画像12から直線が抽出されて線画像13(図1C)が形成され、続いて、ステップ213において、線画像13における直線のうち、その延長線が最も多く収束ないし交わる点Pxが消失点に決定される(図1D)。
そして、次にステップ221において、ステップ213により消失点Pxを決定できたか否か(消失点Pxの有無)が判別され、消失点Pxを決定できた場合には、処理はステップ221からステップ222に進み、このステップ222において、上記(1)項が実行され、画像nの消失点Pxが、画像(n−1)の消失点Pxに一致するように画像nがシフトされる。続いて、ステップ223において、上記(2)項が実行され、画像nにおいて消失点Pxを与えている延長線が、画像(n−1)において消失点Pxを与えている延長線に一致するように、画像nが消失点Pxを中心に回転させられる。
なお、このステップ222、223のために、1つ前の画像(n−1)がRAM33に一時的に保存されている。また、処理対象の画像が第1枚目のとき(n=1)には、基準となるn=0の画像が存在しないので、ステップ222、223は実行されない。
続いて、処理はステップ224に進み、このステップ224において、消失点Pxがトリミング可能エリアTROKの中に位置しているか否か(図2B)が判別され、位置している場合には、処理はステップ224からステップ226に進む。
しかし、消失点Pxがトリミング可能エリアTROKの中に位置していない場合には、処理はステップ224からステップ225に進み、図2C、Dに示すように、非撮影部分BLNKをカバーするように、原画像11が伸張される。すなわち、消失点Pxが、トリミング可能エリアTROKから外れている方向に、その外れた大きさだけ、原画像11が伸張される。そして、その後、処理はステップ226に進む。
そして、ステップ226において、図1Dの範囲TRMGがトリミング範囲となるように、原画像11(あるいはステップ225により伸張された画像)のトリミングが行われる(図1E)。すなわち、消失点Pxがフレーム(最終的な補正画像15)の例えば中央に位置するように、かつ、面積が原画像11の50%となるように、原画像11のトリミングが行われて画像14が形成される。
続いて、ステップ227において、ステップ226により形成されたトリミング画像14が、原画像11と同じ大きさとなるように拡大され、最終的な補正画像15(あるいは15A)が形成され(図1Fあるいは図2D)、ステップ228において、その補正画像15がハードディスクドライブ34に保存される。
次にステップ231において、ハードディスクドライブ34におけるすべての画像(補正対象となるすべての画像)に対して上述の補正処理が実行されたか否かが判別され、未補正の画像が残っている場合には、処理はステップ231からステップ232に進み、このステップ232において、次の未補正の画像が選択される。
そして、ステップ233において、ステップ232により選択された画像nと、1つ前の画像(n−1)とが比較され、次のステップ234において、両画像n、(n−1)の類似度が判別される。そして、その類似度が、所定の値以上の場合には、両画像n、(n−1)が連続した風景などであると見なされ、処理はステップ234からステップ211に戻る。したがって、ステップ232において選択された未補正の画像についても上述のように補正が行われる。
しかし、ステップ234において、両画像n、(n−1)の類似度が所定の値に達していない場合には、両画像n、(n−1)が連続した風景などではないと判断され、処理はステップ234からステップ235に進む。そして、このステップ235において、ステップ232により選択された未補正の画像が、ステップ202と同様、第1枚目の画像と見なされ、その後、処理はステップ211に戻る。したがって、ステップ232において選択された未補正の画像を第1枚目の画像として、ステップ211以降が実行され、上述のように補正が行われる。
そして、ハードディスクドライブ34におけるすべての画像に対して上述の補正処理が実行されると、これがステップ231により判別され、処理はステップ231からステップ236に進み、このステップ236によりルーチン200を終了する。
また、ステップ221において、消失点Pxを決定できなかった場合(例えば、水平線や人物しか撮影されていないような場合)には、処理はステップ221からステップ241に進み、このステップ241において、消失点Pxがない場合の処理が実行され、その後、処理はステップ231に進む。
こうして、ルーチン200によれば、〔1〕の補正処理に加えて〔2〕の適正化処理も実現することができるので、より見やすく、疲れを感じにくいスライドショウ再生を提供できる。
〔6〕 まとめ
上述のシステムによれば、スライドショウ再生をした場合、例えば図3に示すように、中心的な被写体や全体の構図などが画像ごとに大きくずれることがなく、したがって、非常に見やすく、疲れを感じたり、乗り物酔いのような悪寒を感じてしまうことがない。
また、デジタルスチルカメラは一時的に左右に傾いても、最終的な画像が傾くことがなく、スライドショウ再生が見苦しくなることがない。
〔7〕 その他
上述において、原画像11を処理が容易なサイズ(ドット数)に縮小し、その縮小画像に対して〔1〕により説明した処理を実行してトリミング範囲TRMGを決定し、このトリミング範囲TRMGを原画像11に適用して最終的な補正画像15を得ることもできる。
また、上述においては、消失点Pxがフレーム(最終的な補正画像15)の中央に位置するようにしているが、連続するフレームにおいて消失点Pxの位置が固定されていればよく、必ずしもフレームの中央に位置しなくてもよい。例えばユーザが設定できるようにしてもよい。
また、上述のように、内容が関連して変化していく画像に対して効果的であるから、デジタルムービーカメラにより撮影した動画の場合に、より効果的である。
さらに、上述においては、ステップ227において、トリミング画像14を拡大して原画像11と同じ大きさの最終的な補正画像15を得ているが、トリミング画像14をユーザが設定した大きさ、例えばディスプレイ44のドット数に等しいドット数の大きさに拡大あるいは縮小して最終的な補正画像15とすることもできる。
〔略語の一覧〕
CPU :Central Processing Unit
D/A :Digital to Analog
MP3 :MPEG-1/Audio Layer 3
MPEG:Motion Picture Experts Group
OS :Operating System
RAM :Random Access Memory
USB :Universal Serial Bus
この発明における処理内容の概要を説明するための図である。 この発明における処理内容の概要を説明するための図である。 この発明による効果を説明するための図である。 この発明の一形態を示す系統図である。 この発明の一形態を示すフローチャートである。 この発明の他の形態を示すフローチャートである。 従来の技術を説明するための図である。
符号の説明
11…原画像、12…エッジ画像、13…線画像、14…トリミング画像、15…最終補正画像、30…パーソナルコンピュータ、31…CPU、34…ハードディスクドライブ、44…ディスプレイ、Px…消失点

Claims (6)

  1. 複数の原画像のそれぞれに対してエッジ抽出を行ってエッジ画像を得るエッジ抽出処理と、
    上記エッジ画像から直線を抽出して線画像を得る線画像処理と、
    上記線画像を構成する直線について延長線を想定し、その延長線から消失点を求める消失点決定処理と、
    上記複数の原画像のそれぞれにおける上記消失点の位置が互いに一致するように、上記複数の原画像のそれぞれをトリミングして最終的な画像を得るトリミング処理と
    を含み、
    上記複数の原画像のそれぞれにおける上記消失点の位置が互いに一致するように、上記トリミング処理を行った場合に、上記原画像に非画像エリアを生じるときには、その非画像エリアを埋めるように、上記原画像を伸張する、画像処理方法。
  2. 請求項に記載の画像処理方法において、
    上記複数の原画像のそれぞれにおける上記消失点の位置が互いに一致するように、上記トリミング処理を行うとき、上記複数の原画像のそれぞれから得た上記線画像における上記直線が一致するように、上記原画像の傾きを補正する
    ことを特徴とする画像処理方法。
  3. 請求項に記載の画像処理方法において、
    上記トリミングにより上記最終的な画像を得るとき、そのトリミング結果の画像を上記原画像に基づいた大きさとする
    ことを特徴とする画像処理方法。
  4. 請求項に記載の画像処理方法において、
    上記トリミング結果の画像を記憶デバイスに保存する
    ことを特徴とする画像処理方法。
  5. 複数の画像を処理するためにコンピュータにより実行されるプログラムであって、
    複数の原画像のそれぞれに対してエッジ抽出を行ってエッジ画像を得るエッジ抽出ステップと、
    上記エッジ画像から直線を抽出して線画像を得る線画像ステップと、
    上記線画像を構成する直線について延長線を想定し、その延長線から消失点を求める消失点決定ステップと、
    上記複数の原画像のそれぞれにおける上記消失点の位置が互いに一致するように、上記複数の原画像のそれぞれをトリミングして上記最終的な画像を得るトリミングステップと
    有し、
    上記複数の原画像のそれぞれにおける上記消失点の位置が互いに一致するように、上記トリミングステップを行った場合に、上記原画像に非画像エリアを生じるときには、その非画像エリアを埋めるように、上記原画像を伸張する伸長ステップを、コンピュータに実行させるための画像処理プログラム。
  6. 複数の原画像のそれぞれに対してエッジ抽出を行ってエッジ画像を得るエッジ抽出回路と、
    上記エッジ画像から直線を抽出して線画像を得る線画像回路と、
    上記線画像を構成する直線について延長線を想定し、その延長線から消失点を求める消失点決定回路と、
    上記複数の原画像のそれぞれにおける上記消失点の位置が互いに一致するように、上記複数の原画像のそれぞれをトリミングして上記最終的な画像を得るトリミング回路と
    を備え、
    前記トリミング回路は、上記複数の原画像のそれぞれにおける上記消失点の位置が互いに一致するように、上記トリミング処理を行った場合に、上記原画像に非画像エリアを生じるときには、その非画像エリアを埋めるように、上記原画像を伸張する、画像処理装置。
JP2008034235A 2008-02-15 2008-02-15 画像処理方法、画像処理プログラムおよび画像処理装置 Expired - Fee Related JP4513871B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2008034235A JP4513871B2 (ja) 2008-02-15 2008-02-15 画像処理方法、画像処理プログラムおよび画像処理装置
SG200900128-0A SG155115A1 (en) 2008-02-15 2009-01-09 Image processing method, recording medium carrying image processing program, and image processing apparatus
US12/366,044 US8218820B2 (en) 2008-02-15 2009-02-05 Image processing method, recording medium carrying image processing program, and image processing apparatus
EP09152765.5A EP2091020B1 (en) 2008-02-15 2009-02-13 Image processing method, program and apparatus
KR1020090011765A KR101557999B1 (ko) 2008-02-15 2009-02-13 화상 처리 방법, 화상 처리 프로그램을 기록한 기록 매체 및 화상 처리 장치
CN2009100076438A CN101510297B (zh) 2008-02-15 2009-02-16 图像处理方法和图像处理装置
US13/543,329 US8588469B2 (en) 2008-02-15 2012-07-06 Image processing method, recording medium carrying image processing program, and image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008034235A JP4513871B2 (ja) 2008-02-15 2008-02-15 画像処理方法、画像処理プログラムおよび画像処理装置

Publications (2)

Publication Number Publication Date
JP2009194681A JP2009194681A (ja) 2009-08-27
JP4513871B2 true JP4513871B2 (ja) 2010-07-28

Family

ID=40652242

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008034235A Expired - Fee Related JP4513871B2 (ja) 2008-02-15 2008-02-15 画像処理方法、画像処理プログラムおよび画像処理装置

Country Status (6)

Country Link
US (2) US8218820B2 (ja)
EP (1) EP2091020B1 (ja)
JP (1) JP4513871B2 (ja)
KR (1) KR101557999B1 (ja)
CN (1) CN101510297B (ja)
SG (1) SG155115A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5017989B2 (ja) 2006-09-27 2012-09-05 ソニー株式会社 撮像装置、撮像方法
JP2008096868A (ja) 2006-10-16 2008-04-24 Sony Corp 撮像表示装置、撮像表示方法
US7800652B2 (en) * 2007-12-12 2010-09-21 Cyberlink Corp. Reducing video shaking
JP5321540B2 (ja) * 2010-06-25 2013-10-23 株式会社Jvcケンウッド 画像補正処理装置、画像補正処理方法、及び画像補正処理プログラム
CN101915570B (zh) * 2010-07-20 2012-06-06 同济大学 一种基于灭点的地面移动测量影像线段自动提取分类方法
US8731303B2 (en) * 2010-12-07 2014-05-20 Sony Corporation Vanishing point estimation system and methods
CN102289353B (zh) * 2011-09-26 2013-06-12 宇龙计算机通信科技(深圳)有限公司 终端和图标管理方法
JP5799715B2 (ja) * 2011-09-28 2015-10-28 カシオ計算機株式会社 画像遷移装置、画像遷移方法およびプログラム
KR101285075B1 (ko) * 2011-11-24 2013-07-17 팅크웨어(주) 자이로스코프의 센서 정보와 차선 정보를 이용한 증강현실 뷰 모드 표현 방법 및 그 장치
JP2013214234A (ja) 2012-04-03 2013-10-17 Sony Corp 移動制御装置、移動制御方法、およびプログラム
US9113077B2 (en) * 2013-01-17 2015-08-18 Qualcomm Incorporated Orientation determination based on vanishing point computation
US9652887B2 (en) * 2014-01-22 2017-05-16 Hankookin, Inc. Object oriented image processing and rendering in a multi-dimensional space
CN104077129B (zh) * 2014-06-10 2017-06-23 腾讯科技(深圳)有限公司 图标处理方法、装置及终端设备
EP3057062A1 (en) * 2015-02-16 2016-08-17 Application Solutions (Electronics and Vision) Limited Method and device for stabilization of a surround view image
US10652466B2 (en) 2015-02-16 2020-05-12 Applications Solutions (Electronic and Vision) Ltd Method and device for stabilization of a surround view image
US9576204B2 (en) * 2015-03-24 2017-02-21 Qognify Ltd. System and method for automatic calculation of scene geometry in crowded video scenes
KR102087681B1 (ko) 2015-09-17 2020-03-11 삼성전자주식회사 이미지 처리 장치, 이미지 처리 방법 및 컴퓨터 판독가능 기록 매체
CN106023087A (zh) * 2016-05-19 2016-10-12 北京小米移动软件有限公司 图像处理方法和装置
CN106709942B (zh) * 2016-12-13 2020-05-19 广州智能装备研究院有限公司 一种基于特征方位角的全景图像误匹配消除方法
GB2566020B (en) 2017-08-29 2020-07-01 Toshiba Kk System and method for motion compensation in images
KR102508984B1 (ko) * 2017-09-22 2023-03-13 엘지이노텍 주식회사 어라운드뷰 영상 제어장치 및 그 어라운드뷰 영상 처리방법
CN109035267B (zh) * 2018-06-22 2021-07-27 华东师范大学 一种基于深度学习的图像目标抠取方法
CN113445709A (zh) * 2021-07-02 2021-09-28 北京建筑大学 一种瓷砖定位和铺贴方法以及自动瓷砖铺贴设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000272415A (ja) * 1999-03-19 2000-10-03 Aisin Aw Co Ltd 運転支援画像合成装置
JP2002112252A (ja) * 2000-09-28 2002-04-12 Toshiba Corp 画像処理装置及び画像処理方法
JP2004205398A (ja) * 2002-12-26 2004-07-22 Nissan Motor Co Ltd 車両用レーダ装置およびレーダの光軸調整方法
JP2006245909A (ja) * 2005-03-02 2006-09-14 Fuji Photo Film Co Ltd 撮像装置、撮像方法、及び撮像プログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3069654A (en) 1960-03-25 1962-12-18 Paul V C Hough Method and means for recognizing complex patterns
JPH03238566A (ja) * 1990-02-15 1991-10-24 Nissan Motor Co Ltd 消点検出装置
CN1160210C (zh) * 1999-09-20 2004-08-04 松下电器产业株式会社 驾驶提醒装置
US6778699B1 (en) * 2000-03-27 2004-08-17 Eastman Kodak Company Method of determining vanishing point location from an image
US7893963B2 (en) * 2000-03-27 2011-02-22 Eastman Kodak Company Digital camera which estimates and corrects small camera rotations
US6968094B1 (en) * 2000-03-27 2005-11-22 Eastman Kodak Company Method of estimating and correcting camera rotation with vanishing point location
JP2003250117A (ja) 2002-02-22 2003-09-05 Ricoh Co Ltd 映像配信サーバ
JP3852934B2 (ja) * 2003-05-20 2006-12-06 株式会社バンダイナムコゲームス 画像処理システム、プログラム及び情報記憶媒体
JP4404822B2 (ja) 2004-08-31 2010-01-27 三洋電機株式会社 手ぶれ補正装置および撮像機器
JP4187704B2 (ja) * 2004-08-31 2008-11-26 三洋電機株式会社 手ぶれ補正装置
JP4617993B2 (ja) 2005-04-28 2011-01-26 ソニー株式会社 画像処理装置および画像処理方法、プログラム、並びに、記録媒体
JP5125015B2 (ja) 2006-07-28 2013-01-23 大日本印刷株式会社 単室型固体酸化物形燃料電池のスタック用治具、これを用いた単室型固体酸化物形燃料電池のスタック構造、及びその使用方法
US7773118B2 (en) * 2007-03-25 2010-08-10 Fotonation Vision Limited Handheld article with movement discrimination

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000272415A (ja) * 1999-03-19 2000-10-03 Aisin Aw Co Ltd 運転支援画像合成装置
JP2002112252A (ja) * 2000-09-28 2002-04-12 Toshiba Corp 画像処理装置及び画像処理方法
JP2004205398A (ja) * 2002-12-26 2004-07-22 Nissan Motor Co Ltd 車両用レーダ装置およびレーダの光軸調整方法
JP2006245909A (ja) * 2005-03-02 2006-09-14 Fuji Photo Film Co Ltd 撮像装置、撮像方法、及び撮像プログラム

Also Published As

Publication number Publication date
CN101510297A (zh) 2009-08-19
US8218820B2 (en) 2012-07-10
EP2091020B1 (en) 2016-11-02
SG155115A1 (en) 2009-09-30
US20090208128A1 (en) 2009-08-20
CN101510297B (zh) 2013-03-27
US8588469B2 (en) 2013-11-19
JP2009194681A (ja) 2009-08-27
KR101557999B1 (ko) 2015-10-06
KR20090088812A (ko) 2009-08-20
EP2091020A1 (en) 2009-08-19
US20120275720A1 (en) 2012-11-01

Similar Documents

Publication Publication Date Title
JP4513871B2 (ja) 画像処理方法、画像処理プログラムおよび画像処理装置
US10284789B2 (en) Dynamic generation of image of a scene based on removal of undesired object present in the scene
US9165389B2 (en) Image processing apparatus, image processing method, and program
US9357117B2 (en) Photographing device for producing composite image and method using the same
US9525821B2 (en) Video stabilization
EP3295425B1 (en) Real-time hyper-lapse video creation via frame selection
US10535147B2 (en) Electronic apparatus and method for processing image thereof
CN111833461B (zh) 一种图像特效的实现方法、装置、电子设备及存储介质
CN111401234B (zh) 三维人物模型构建方法、装置及存储介质
CN102088555A (zh) 全景图像合成器、全景图像合成方法和程序
CN109791703B (zh) 基于二维媒体内容生成三维用户体验
JP6298521B2 (ja) プログラム、システム、装置、及び方法
TWI622018B (zh) 影片編輯方法、裝置及系統
CN109931923B (zh) 一种导航引导图的生成方法和装置
CN114785957A (zh) 拍摄方法及其装置
CN115086625A (zh) 投影画面的校正方法、装置、***、校正设备和投影设备
US9077963B2 (en) Systems and methods for generating a depth map and converting two-dimensional data to stereoscopic data
CN108109107B (zh) 视频数据处理方法及装置、计算设备
CN113542847A (zh) 图像显示方法、装置、设备及存储介质
CN110827411A (zh) 自适应环境的增强现实模型显示方法、装置、设备及存储介质
RU2782543C1 (ru) Способ и устройство для детектирования линии взгляда, способ и устройство для обработки видеоданных, устройство и носитель данных
CN108965718B (zh) 图像生成方法和装置
JP3882396B2 (ja) 動画処理装置及び記録媒体
CN115294273A (zh) 拍摄方法及其装置
CN114693843A (zh) 印染织物烧毛机的动画生成方法、装置及可读存储介质

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090810

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091006

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100420

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100503

R151 Written notification of patent or utility model registration

Ref document number: 4513871

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees