JP5488548B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents

画像処理装置、画像処理方法及びプログラム Download PDF

Info

Publication number
JP5488548B2
JP5488548B2 JP2011170616A JP2011170616A JP5488548B2 JP 5488548 B2 JP5488548 B2 JP 5488548B2 JP 2011170616 A JP2011170616 A JP 2011170616A JP 2011170616 A JP2011170616 A JP 2011170616A JP 5488548 B2 JP5488548 B2 JP 5488548B2
Authority
JP
Japan
Prior art keywords
image
unit
area
straight line
specifying
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011170616A
Other languages
English (en)
Other versions
JP2013037411A (ja
Inventor
寛之 加藤
淳 村木
博 清水
博之 星野
英里奈 市川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2011170616A priority Critical patent/JP5488548B2/ja
Priority to US13/563,908 priority patent/US8744170B2/en
Priority to CN201210272181.4A priority patent/CN102915534B/zh
Publication of JP2013037411A publication Critical patent/JP2013037411A/ja
Application granted granted Critical
Publication of JP5488548B2 publication Critical patent/JP5488548B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/75Determining position or orientation of objects or cameras using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

本発明は、画像処理装置、画像処理方法及びプログラムに関する。
従来、紙面文書や名刺などの書類、ホワイトボードに書かれた文字や図形、液晶表示装置に表示された表示画面などを撮像して、画像データとして保存する機能を具備する撮像装置が知られている(例えば、特許文献1参照)。具体的には、撮像装置は、撮像画像の画像データに対する四辺形検出処理により四辺形領域を検出し、当該四辺形領域の画像を抽出した後、台形補正処理を行って矩形画像に変換する処理を行う。
特開2005−267457号公報
しかしながら、上記特許文献1の場合、四辺形検出処理における撮像画像内の直線を検出する直線検出処理にて、撮像画像に含まれる表示画面の外側に存する直線も検出してしまう。この結果、四辺形領域の画像の抽出の候補領域として、表示画面の外側に存する直線を含んで構成される四辺形領域も特定されてしまうといった問題がある。
本発明は、このような問題に鑑みてなされたものであり、撮像画像から四辺形領域の画像の抽出を効率良く行うことができる画像処理装置、画像処理方法及びプログラムを提供することを目的とする。
上記課題を解決するため、本発明に係る画像処理装置は、
撮像手段により撮像された撮像画像の画像データを取得する取得手段と、この取得手段により取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定の時間周期で変化する明るさ変化領域を検出する検出手段と、前記取得手段により取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、前記明るさ変化領域に対応する対応領域以外の領域に含まれる直線を特定することなく、前記明るさ変化領域に対応する対応領域に含まれる直線を特定する第1特定手段と、前記撮像画像内で前記第1特定手段により特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する第2特定手段と、を備えたことを特徴としている。
また、本発明に係る画像処理方法は、
画像処理装置を用いた画像処理方法であって、撮像手段により撮像された撮像画像の画像データを取得する処理と、取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定の時間周期で変化する明るさ変化領域を検出する処理と、取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、前記明るさ変化領域に対応する対応領域以外の領域に含まれる直線を特定することなく、前記明るさ変化領域に対応する対応領域に含まれる直線を特定する処理と、前記撮像画像内で特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する処理と、を含むことを特徴としている。
また、本発明に係るプログラムは、
画像処理装置のコンピュータを、撮像手段により撮像された撮像画像の画像データを取得する取得手段、この取得手段により取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定の時間周期で変化する明るさ変化領域を検出する検出手段、前記取得手段により取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、前記明るさ変化領域に対応する対応領域以外の領域に含まれる直線を特定することなく、前記明るさ変化領域に対応する対応領域に含まれる直線を特定する第1特定手段、前記撮像画像内で前記第1特定手段により特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する第2特定手段、として機能させることを特徴としている。
本発明によれば、撮像画像から四辺形領域画像の抽出を効率良く行うことができる。
本発明を適用した一実施形態の撮像装置の概略構成を示すブロック図である。 図1の撮像装置による撮像処理に係る動作の一例を示すフローチャートである。 図2の撮像処理における明るさ変化領域検出処理に係る動作の一例を示すフローチャートである。 図2の撮像処理における抽出候補領域特定処理に係る動作の一例を示すフローチャートである。 図2の撮像処理に係る画像の一例を模式的に示す図である。 図2の撮像処理に係る画像の一例を模式的に示す図である。
以下に、本発明について、図面を用いて具体的な態様を説明する。ただし、発明の範囲は、図示例に限定されない。
本実施形態の撮像装置100は、撮像部1により撮像された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定周期で変化する明るさ変化領域Aを検出する。そして、撮像装置100は、撮像画像の画像データに対して直線Lを検出する直線検出処理を施して、明るさ変化領域Aに対応する対応領域Bに含まれる直線Lを特定し、当該撮像画像内で特定された直線Lを含んで構成される四辺形領域を抽出候補領域Cとして特定する。
図1は、本発明を適用した一実施形態の撮像装置100の概略構成を示すブロック図である。
図1に示すように、撮像装置100は、具体的には、撮像部1と、撮像制御部2と、画像生成部3と、画像処理部4と、表示部5と、表示制御部6と、記録媒体制御部7と、操作入力部8と、メモリ部9と、中央制御部10等を備えている。
また、撮像制御部2、画像生成部3、画像処理部4、表示制御部6、記録媒体制御部7、メモリ部9、中央制御部10は、バスライン11を介して接続されている。
撮像部1は、被写体を撮像する撮像手段を構成している。具体的には、撮像部1は、例えば、表示装置200の表示画面201(図5(a)参照)を被写体として撮像する。
ここで、表示装置200について説明する。
表示装置200は、所定の周期で表示内容を書き換えて表示画面201に表示する公知のものを適用可能である。具体的には、表示装置200は、例えば、図示は省略するが、CRT(Cathode Ray Tube)、液晶表示パネル、有機EL表示パネル等から構成された表示画面201を有している。そして、表示装置200は、例えば、文字や数値や動作状態などのヒトの視覚により認識される各種情報のビデオ信号を生成して、リフレッシュレート(例えば、毎秒70Hz等)に対応する所定のフレームレートで各種情報に係る画像を書き換えて表示画面201に表示する。即ち、表示装置200は、各種情報に係る画像をリフレッシュレートに応じて単位時間あたり所定回数(例えば、毎秒70回等)書き換えるようにして表示画面201から出力する。
このように、表示装置200は、所定の書き換え周期で画像を出力する出力装置を構成している。
なお、被写体として、表示装置200の表示画面201を例示したが、一例であり、出力装置から所定の書き換え周期で出力された画像であればこれに限られるものではない。即ち、例えば、スクリーンや壁面等に対して投影装置(図示略)から投影されることで所定の周期で書き換えられるようにして表示された投影画像を被写体として適用しても良い。
また、撮像部1は、具体的には、レンズ部1a、電子撮像部1b及びユニット回路部1cを備えている。
レンズ部1aは、例えば、図示は省略するが、ズームレンズ、フォーカスレンズ、絞り等を有し、これらレンズを通過した被写体の光学像を結像する。
電子撮像部1bは、例えば、CCD(Charge Coupled Device)やCMOS(Complementary Metal-oxide Semiconductor)等のイメージセンサなどから構成され、レンズ部1aの各種レンズを通過した光学像を撮像フレームレートに応じた所定の撮像周期毎に二次元の画像信号(RGB画像データ)に変換して、ユニット回路部1cに出力する。
ユニット回路部1cは、例えば、図示は省略するが、CDS(Correlated Double Sampling:相関二重サンプリング回路)、AGC(Auto Gain Control:ゲイン調整アンプ)、ADC(Analog to Digital Converter:アナログ/デジタル変換器)等を具備している。このユニット回路部1cは、電子撮像部1bから出力されて入力される被写体の光学像に応じたアナログの画像信号をCDSにより保持し、当該画像信号をAGCにより増幅した後、増幅された画像信号をADCによりデジタルの画像信号に変換する。そして、ユニット回路部1cは、デジタルの画像信号を画像生成部3に送信する。
撮像制御部2は、撮像部1を構成するレンズ部1a、電子撮像部1b及びユニット回路部1c等の動作を制御する。
即ち、撮像制御部2は、例えば、モータ等の駆動源と、この駆動源を駆動するドライバ等(何れも図示略)を備え、レンズ部1aのズームレンズやフォーカスレンズを光軸方向に駆動させる。また、撮像制御部2は、例えば、レンズ部1aの絞りの拡径や縮径を行う絞り駆動部(図示略)を備え、露出調整条件に応じて絞りの拡径や縮径を行う。
また、撮像制御部2は、例えば、撮像フレームレート設定部2a、TG(Timing Generator;図示略)、電子撮像部1bを駆動するドライバ(図示略)等を備え、撮像フレームレートや各種の撮像条件(例えば、露光時間等)に従ってTG及びドライバを介して電子撮像部1bやユニット回路部1cの動作タイミングを制御する。
撮像フレームレート設定部2aは、電子撮像部1bやユニット回路部1cの駆動周期に係る撮像フレームレートを所定の値に設定する。
具体的には、撮像フレームレート設定部2aは、撮像処理の明るさ変化領域検出処理(後述)にて、通常の動画像を撮像する通常撮影に対応する撮像フレームレート(例えば、15fps等)よりも単位時間あたりのフレーム画像F(図5(a)参照)の撮像回数を多くした高速撮影に対応する撮像フレームレート(例えば、120fps等)に設定する。このとき、撮像フレームレート設定部2aは、通常撮影に対応する撮像フレームレートから高速撮影に対応する撮像フレームレートに切り替えて設定しても良いし、通常撮影に対応する撮像フレームレートから連続的に、或いは、段階的に撮像フレームレートを変化させていき、高速撮影に対応する撮像フレームレートに設定しても良い。
また、ユーザが予め被写体としての表示装置200等の出力装置のリフレッシュレート(例えば、40Hz等)を知っている場合には、撮像フレームレート設定部2aは、当該ユーザによる操作入力部8の所定操作に基づいて当該リフレッシュレートに対応する撮像フレームレート(例えば、40fps等)に設定するようにしても良い。
そして、撮像制御部2は、撮像フレームレート設定部2aにより設定された撮像フレームレートや各種の撮像条件(例えば、露光時間等)に基づいて、所定のタイミングで電子撮像部1bを動作させてレンズ部1aを通過した被写体の光学像をアナログの画像信号に変換させる。また、撮像制御部2は、ユニット回路部1cを所定のタイミングで動作させて、電子撮像部1bから出力されて入力される各フレーム画像Fに係るアナログの画像信号をデジタルの画像信号に変換させる。
即ち、撮像制御部2は、撮像部1の電子撮像部1b及びユニット回路部1cを制御して、複数のフレーム画像F、…の画像データを撮像フレームレートに応じた所定の撮像周期で撮像させる。
画像生成部3は、ユニット回路部1cから送られてきたデジタルの画像信号からデジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を生成する。
具体的には、画像生成部3は、所定の周期毎にユニット回路部1cから送られてきた各フレーム画像Fのデジタルの画像データに対して、カラープロセス回路(図示略)で画素補間処理及びγ補正処理を含むカラープロセス処理をそれぞれ行った後、デジタル値の輝度信号Y及び色差信号Cb,Cr(YUVデータ)を逐次生成する。
そして、画像生成部3は、生成された輝度色差信号の画像データを、画像処理部4に出力する。
画像処理部4は、画像生成部3により生成された各フレーム画像Fの画像データ(YUVデータ)を所定の符号化方式(例えば、Motion−JPEG方式、JPEG方式等)により圧縮・符号化する符号化部や、記録媒体制御部7から読み出された符号化された画像データを当該符号化方式に対応する復号化方式で復号化する復号化部等(何れも図示略)を具備している。
また、画像処理部4は、画像取得部4aと、明るさ変化領域検出部4bと、直線特定部4cと、候補領域特定部4dと、直角四辺形画像生成部4eとを具備している。
画像取得部4aは、撮像部1により撮像された撮像画像の画像データを取得する。
即ち、画像取得部4aは、撮像部1により所定の撮像周期で撮像されたフレーム画像Fの画像データを逐次取得する。具体的には、画像取得部4aは、被写体としての表示装置200の表示画面201、つまり、所定位置(例えば、略全面の領域)に各種情報が表示されている表示画面201を撮像部1が所定の撮像周期で撮像することによって、画像生成部3により逐次生成されて出力された複数のフレーム画像F、…のYUVデータを逐次取得する。
なお、画像取得部4aにより取得される撮像画像(フレーム画像F)の画像データとして、撮像部1により所定の撮像周期で撮像された撮像画像の画像データを例示したが、一例であってこれに限られるものではない。即ち、後述する明るさ変化領域検出部4bによって撮像画像内で明るさが所定周期で変化する明るさ変化領域を検出可能であれば、例えば、撮像部1により所定のタイミングで撮像された撮像画像の画像データであっても良い。
さらに、この場合には、画像取得部4aは、撮像部1による撮像画像の撮像タイミングに対応させるように、所定のタイミングで断続的に撮像された所定数の撮像画像の画像データを取得するようにしても良いし、所定のタイミングで撮像された一の撮像画像の画像データを取得するようにしても良い。
このように、画像取得部4aは、撮像部1により撮像された撮像画像の画像データを取得する取得手段を構成している。
また、画像取得部4aは、ユーザによる操作入力部8のシャッタボタン8aの全押し操作に基づいて、撮像部1により撮像された撮像画像(記録用画像G)の画像データを取得する。
具体的には、画像取得部4aは、ユーザによるシャッタボタン8aの全押し操作に基づいて、明るさ変化領域検出部4bによる明るさ変化領域A(図5(b)参照;後述)の検出に用いられる所定の撮像周期で撮像された複数のフレーム画像F、…と略等しい構図で、撮像部1により撮像されて画像生成部3により生成された記録用画像Gの画像データ(YUVデータ)を所定数(例えば、一つ)取得する。
明るさ変化領域検出部4bは、フレーム画像F内で明るさが所定周期で変化する明るさ変化領域Aを検出する。
即ち、表示装置200の表示画面201に所定の書き換え周期で表示されている各種情報の画像は、各画素の明るさ(輝度)が周期的に変化している。特に、リフレッシュレートが相対的に低い表示装置200では、表示画像の各画素の明るさの変化が細かいちらつき(フリッカ)となって現れる。
明るさ変化領域検出部4bは、表示装置200の表示画面201に所定の書き換え周期で表示されている画像(図5(a)参照)を被写体として撮像する場合に、画像取得部4aにより逐次取得された複数のフレーム画像F、…の画像データに基づいて、フレーム画像F内で明るさが所定周期で変化する明るさ変化領域Aを検出する。具体的には、明るさ変化領域検出部4bは、例えば、高速動画撮影に対応する撮像フレームレート(例えば、120fps等)で撮像された複数のフレーム画像F、…の中で、前後二つのフレーム画像F、Fの画像データを一組として、当該各組のフレーム画像F、Fの画像データに含まれる輝度成分(例えば、輝度信号Y)の差分を算出し、前のフレーム画像Fに対する後のフレーム画像Fの各画素について明るさの変化量を特定する。そして、明るさ変化領域検出部4bは、全てのフレーム画像Fについて特定された各画素の明るさの変化量に基づいて、明るさが周期的に変化している全ての画素を特定して、当該画素からなる領域を明るさ変化領域A(図5(b)参照)として特定する。なお、図5(b)にあっては、明るさ変化領域Aの各画素の明るさが変化する状態を模式的に破線で表している。
また、明るさ変化領域検出部4bは、フレーム画像F内で明るさ変化領域Aの位置を示す情報(例えば、明るさ変化領域Aを構成する全ての画素の座標等)を取得して、所定の格納手段(例えば、バッファメモリ9a等)に一時的に格納する。
なお、上記した明るさ変化領域Aの検出方法は、一例であってこれに限られるものではなく、公知のものであれば如何なる検出方法を適用しても良い。
また、電源周波数(例えば、50Hzや60Hz)による光量が変動する光源(例えば、蛍光灯)下で撮像する場合、明るさ変化領域検出部4bは、当該電源周波数に対応する周期は除外して、各画素の明るさの変化の周期を特定することで明るさ変化領域Aを検出しても良い。なお、表示装置200のリフレッシュレートと電源周波数が一致すると、フレーム画像Fを構成する全ての画素の明るさが変化するため、この場合には、明るさ変化領域検出部4bは、光源の影響であると判断し、一方、フレーム画像F中の一部分(例えば、表示装置200の表示画面201等)の画素の明るさが変化している場合には、光源の影響ではないと判断するようにしても良い。
なお、明るさ変化領域検出部4bによる撮像画像内での明るさ変化領域Aの検出方法として、画像取得部4aにより逐次取得された複数の撮像画像の画像データに基づいて行う方法を例示したが、一例であってこれに限られるものではなく、例えば、画像取得部4aにより取得された一の撮像画像の画像データに基づいて行っても良い。
即ち、電子撮像部1bが、例えば、CMOSイメージセンサーから構成されている場合、画素の位置に応じて電荷信号の読み出しタイミング、つまり、電荷の蓄積を開始するタイミングが異なる。そこで、明るさ変化領域検出部4bは、画像取得部4aにより取得された一のフレーム画像Fの画像データに基づいて、CMOSイメージセンサーの撮像領域における所定位置にて隣合う画素どうしに対応する輝度成分(例えば、輝度信号Y)の差分や、或いは、撮像領域を所定方向(例えば、垂直方向)に分割するように設定された複数の領域どうしに対応する輝度成分の差分等を算出し、当該輝度成分の差分を基準としてフレーム画像F内で明るさ変化領域Aを検出するようにしても良い。
また、電子撮像部1bが、例えば、CCDイメージセンサーから構成されている場合には、撮像制御部2は、CCDイメージセンサーから一のフレーム画像Fに係る電荷を複数の領域(例えば、撮像領域における複数の画素が所定方向に並んだ各行等)毎に時間差をつけて読み出し、明るさ変化領域検出部4bは、当該複数の領域どうしに対応する画像データの輝度成分の差分を算出し、当該輝度成分の差分を基準としてフレーム画像F内で明るさ変化領域Aを検出するようにしても良い。
このように、明るさ変化領域検出部4bは、画像取得部4aにより取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定周期で変化する明るさ変化領域Aを検出する検出手段を構成している。
直線特定部4cは、記録用画像G内の明るさ変化領域Aに対応する対応領域Bに含まれる直線Lを特定する。
また、直線特定部4cは、画像取得部4aにより取得された記録用画像Gに含まれる全ての直線Lから明るさ変化領域A以外の領域から検出された直線L2を除外する除外部c1を具備している。
具体的には、直線特定部4cは、処理対象領域を記録用画像Gの画像領域全体として当該撮像画像に含まれる全ての直線Lを検出する直線検出処理を行う。例えば、直線特定部4cは、画像取得部4aにより取得された記録用画像Gの画像データに含まれる輝度成分(例えば、輝度信号Y)を取得し、当該輝度成分に対して直線検出処理(例えば、ハフ変換処理など)を施して当該記録用画像G内の全ての直線Lを検出する。
そして、直線特定部4cは、格納手段(例えば、バッファメモリ9a等)から明るさ変化領域Aの位置を示す情報を取得して、明るさ変化領域検出部4bによる明るさ変化領域Aの検出に用いられたフレーム画像Fと略等しい構図の記録用画像G内で、明るさ変化領域Aに対応する対応領域Bの位置を特定する。その後、除外部c1は、記録用画像Gに含まれる全ての直線Lの中で、明るさ変化領域Aに対応する対応領域B以外の領域から検出された直線L2を特定した後、全ての直線Lから対応領域B以外の領域から検出された直線L2(図6(a)中、模式的に二点鎖線で示す)を除外する。これにより、直線特定部4cは、表示装置200の表示画面201の記録用画像G内の明るさ変化領域Aに対応する対応領域Bに含まれる候補直線L1(図6(a)中、模式的に一点鎖線で示す)を特定する。
なお、直線検出処理として、ハフ変換処理を例示したが、一例であってこれに限られるものではなく、エッジ検出処理など適宜任意に変更可能である。なお、ハフ変換処理やエッジ検出処理は、公知の技術であるので、ここでは詳細な説明を省略する。
このように、直線特定部4cは、画像取得部4aにより取得された撮像画像の画像データに対して直線Lを検出する直線検出処理を施して、明るさ変化領域Aに対応する対応領域Bに含まれる直線Lを特定する第1特定手段を構成している。
候補領域特定部4dは、記録用画像Gから抽出される画像の候補領域となる抽出候補領域Cを特定する。
即ち、候補領域特定部4dは、記録用画像G内で直線特定部4cにより特定された直線L(候補直線L1)を含んで構成される四辺形領域を抽出候補領域Cとして特定する。具体的には、候補領域特定部4dは、表示部5に識別表示される複数の四辺形領域の中から抽出候補領域Cを特定する。例えば、候補領域特定部4dは、直線特定部4cにより特定された全ての候補直線L1のうち、所定方向に延在する4本の候補直線L1、…によって形成される各四辺形領域を特定する(図6(a)参照)。そして、候補領域特定部4dは、特定された全ての四辺形領域(例えば、複数の四辺形領域等)の中で、ユーザによる操作入力部8の選択ボタン8bや決定ボタン8c等の所定操作に基づいて指定された四辺形領域を抽出候補領域Cとして特定する。
ここで、候補領域特定部4dは、撮像画像内で直線特定部4cにより特定された直線Lを含んで構成される四辺形領域を抽出候補領域Cとして特定する第2特定手段を構成している。
直角四辺形画像生成部4eは、四辺形領域の画像の直角四辺形画像R(図6(b)参照)を生成する。
即ち、直角四辺形画像生成部4eは、候補領域特定部4dにより抽出候補領域Cとして特定された四辺形領域の画像に対して直角四辺形変換処理を行って直角四辺形画像Rを生成する。具体的には、直角四辺形画像生成部4eは、記録用画像Gから抽出候補領域C(四辺形領域)内の画像領域を抽出した後、当該画像領域の画像データに対して、直角四辺形変換処理(例えば、台形補正処理等)を行って直角四辺形画像R(例えば、矩形画像、正方形画像など)を生成する。つまり、直角四辺形画像生成部4eは、例えば、抽出候補領域C内の画像領域のうち、短辺側を長辺側に合わせるように相対的に拡大する処理や長辺側を短辺側に合わせるように相対的に縮小する処理等を行って、直角四辺形画像Rを生成する。
なお、図6(b)には、図6(a)に示す抽出候補領域C(四辺形領域)に対応する画像データに対して直角四辺形変換処理を行うことで生成された直角四辺形画像Rを模式的に表している。
ここで、直角四辺形画像生成部4eは、候補領域特定部4dにより抽出候補領域Cとして特定された四辺形領域の画像に対して直角四辺形変換処理を行って直角四辺形画像Rを生成する生成手段を構成している。
表示部5は、例えば、液晶表示パネルや有機EL表示パネルなどから構成されている。そして、表示部5は、表示制御部6の制御下にて、表示画面に各種情報に係る画像を表示する。
表示制御部6は、メモリ部9のバッファメモリ9aに一時的に記憶されている表示用の画像データを読み出して表示部5に表示させる制御を行う。
具体的には、表示制御部6は、VRAM(Video Random Access Memory)、VRAMコントローラ、デジタルビデオエンコーダなどを備えている。そして、デジタルビデオエンコーダは、バッファメモリ9aから読み出されてVRAM(図示略)に記憶されている複数のフレーム画像F、…の輝度信号Y及び色差信号Cb,Crを、VRAMコントローラを介してVRAMから所定の再生フレームレートで読み出して、これらのデータを元にビデオ信号を発生して表示部5に出力する。これにより、表示部5は、撮像部1による被写体の撮像の際に、複数のフレーム画像F、…を所定の再生フレームレートで逐次更新しながらライブビュー画像を表示画面に表示する。
また、表示制御部6は、撮像部1により撮像された記録用画像Gのレックビュー用の画像のビデオ信号を表示部5に出力して、レックビュー画像を表示部5の表示画面に表示させる。
また、表示制御部6は、撮像部1により撮像された記録用画像G内で、候補領域特定部4dにより特定された複数の四辺形領域を所定の順序で表示部5に識別表示させる。
即ち、表示制御部6は、記録用画像G内で、複数の四辺形領域を明るさ変化領域Aに対応する対応領域Bに対する距離を基準として所定の順序で表示部5に識別表示させる。具体的には、表示制御部6は、例えば、ユーザによる操作入力部8のシャッタボタン8aの全押し操作に基づいて、撮像部1により撮像され画像生成部3により生成された記録用画像Gの画像データをレックビュー用の画像データとして取得する。そして、表示制御部6は、当該記録用画像Gのレックビュー画像に重畳させて、複数の四辺形領域の中で、明るさ変化領域Aに対応する対応領域Bの位置を基準として当該対応領域Bに対して最も近い位置に存する一の四辺形領域の縁部に識別枠を所定色でOSD表示する。その後、ユーザによる操作入力部8の選択ボタン8bや決定ボタン8c等の所定操作に基づいて次の四辺形領域の表示が指示されると、表示制御部6は、記録用画像Gのレックビュー画像に重畳させて、複数の四辺形領域の中で、明るさ変化領域Aに対応する対応領域Bに対して次に近い位置に存する一の四辺形領域の縁部に識別枠をOSD表示する。なお、対応領域Bに対する四辺形領域の距離の判定は、例えば、中心位置や四隅の位置等を基準として行われても良い。
このように、表示制御部6は、撮像画像内で、候補領域特定部4dにより特定された複数の四辺形領域の各々を、明るさ変化領域Aに対応する対応領域Bに対して最も近い位置に存するものから順番に表示部6に識別表示させるようになっている。
なお、撮像画像のレックビュー画像内における四辺形領域の表示態様として例示した識別枠のOSD表示は、一例であってこれに限られるものではなく、四辺形領域を識別可能な態様であれば適宜任意に変更可能である。
このように、表示制御部6は、撮像画像内で、候補領域特定部4dにより特定された複数の四辺形領域の各々を、明るさ変化領域Aに対応する対応領域Bに対する距離を基準として所定の順序で表示部5に識別表示させる表示制御手段を構成している。
記録媒体制御部7は、記録媒体Mが着脱自在に構成され、装着された記録媒体Mからのデータの読み出しや記録媒体Mに対するデータの書き込みを制御する。
なお、記録媒体Mは、例えば、不揮発性メモリ(フラッシュメモリ)等により構成されるが、一例であってこれに限られるものではなく、適宜任意に変更可能である。
操作入力部8は、当該撮像装置100の所定操作を行うためのものである。具体的には、操作入力部8は、被写体の撮影指示に係り、半押し及び全押し操作可能なシャッタボタン8a、撮像モードや機能等の選択指示に係る選択ボタン8b、撮像モードや機能等の決定指示に係る決定ボタン8c等を備え、これらのボタンの操作に応じて所定の操作信号を中央制御部10に出力する。
メモリ部9は、バッファメモリ9aと、プログラムメモリ9bを具備している。
バッファメモリ9aは、画像データ等を一時保存するバッファであるとともに、中央制御部10のワーキングメモリ等としても使用される。
プログラムメモリ9bには、当該撮像装置100の機能に係る各種プログラムやデータが格納されている。
中央制御部10は、撮像装置100の各部を制御する。具体的には、中央制御部10は、撮像装置100の各部を制御するCPU(図示略)を具備し、各種処理プログラム(図示略)に従って各種の制御動作を行う。
次に、撮像装置100による撮像処理について、図2〜図6を参照して説明する。
図2は、撮像処理に係る動作の一例を示すフローチャートである。
なお、以下の撮像処理は、ユーザによる操作入力部8の選択ボタン8bや決定ボタン8c等の所定操作に基づいて、例えば、紙面文書、名刺、ホワイトボード、表示装置200の表示画面201及び投影装置からの投影画像等を被写体とする撮像モードが選択指示された場合に実行される。
図2に示すように、先ず、表示制御部6は、撮像部1による被写体の撮像により画像生成部3により生成された複数のフレーム画像F、…に基づいてライブビュー画像を表示部5の表示画面に表示させる処理を行う(ステップS1;図5(a)参照)。
そして、中央制御部10のCPUは、ライブビュー表示処理中に、ユーザによる操作入力部8のシャッタボタン8aの半押し操作に係る操作信号が入力されたか否かを判定する(ステップS2)。
ここで、半押し操作に係る操作信号が入力されていないと判定された場合には(ステップS2;NO)、中央制御部10のCPUは、処理をステップS1に移行させて、ライブビュー画像を表示させる処理を繰り返し行わせる。
一方、ステップS2にて、半押し操作に係る操作信号が入力されたと判定されると(ステップS2;YES)、中央制御部10のCPUは、明るさ変化領域検出処理(図3参照)の実行を制御する(ステップS3)。
ここで、明るさ変化領域検出処理について、図3を参照して説明する。
図3は、明るさ変化領域検出処理に係る動作の一例を示すフローチャートである。
図3に示すように、先ず、撮像制御部2の撮像フレームレート設定部2aは、撮像フレームレートを所定の値に設定する(ステップS21)。具体的には、撮像フレームレート設定部2aは、例えば、通常撮影に対応する撮像フレームレート(例えば、15fps等)よりも単位時間あたりのフレーム画像Fの撮像回数を多くした高速撮影に対応する撮像フレームレート(例えば、120fps等)に設定する。これにより、撮像部1は、設定された撮像フレームレートに応じた所定の撮像周期で被写体(例えば、表示装置200の表示画面201等)を撮像する。
次に、画像処理部4の画像取得部4aは、撮像部1により所定の撮像周期で撮像され、画像生成部3により生成された複数のフレーム画像F、…の画像データを逐次取得する(ステップS22)。
続けて、画像処理部4の明るさ変化領域検出部4bは、画像取得部4aにより逐次取得された複数のフレーム画像F、…内で明るさが所定周期で変化する明るさ変化領域Aを検出する(ステップS23)。具体的には、明るさ変化領域検出部4bは、画像取得部4aにより取得された複数のフレーム画像F、…の各々について、一つ前のフレーム画像Fとの輝度成分(例えば、輝度信号Y)の差分を算出し、前のフレーム画像Fに対する各画素の明るさの変化量を特定する。そして、明るさ変化領域検出部4bは、全てのフレーム画像Fについて特定された各画素の明るさの変化量に基づいて、明るさが周期的に変化している全ての画素を特定して、当該画素からなる領域を明るさ変化領域A(図5(b)参照)として特定する。
これにより、明るさ変化領域検出処理を終了する。
なお、明るさ変化領域検出処理が終了した場合には、撮像フレームレート設定部2aは、撮像フレームレートが通常撮影に対応する撮像フレームレート(例えば、15fps等)となるように設定し直しても良い。
図2に戻り、画像処理部4は、明るさ変化領域検出部4bにより明るさ変化領域Aが検出されたか否かを判定する(ステップS4)。
ここで、明るさ変化領域Aが検出されたと判定された場合(ステップS4;YES)、即ち、表示装置200の表示画面201等の明るさが所定周期で変化するものを被写体として撮像している場合、明るさ変化領域検出部4bは、フレーム画像F内で明るさ変化領域Aの位置を示す情報を取得してバッファメモリ9aに一時的に記録させる(ステップS5)。
次に、中央制御部10のCPUは、ユーザによる操作入力部8のシャッタボタン8aの全押し操作に係る操作信号が入力されたか否かを判定する(ステップS6)。
また、ステップS4にて、明るさ変化領域Aが検出されていないと判定された場合には(ステップS4;NO)、中央制御部10のCPUは、ステップS5の処理をスキップして、ステップS6にて全押し操作に係る操作信号が入力されたか否かの判定を行う。
ステップS6にて、全押し操作に係る操作信号が入力されていないと判定されると(ステップS6;NO)、中央制御部10のCPUは、ユーザによる操作入力部8のシャッタボタン8aの半押し操作が解除されたか否かを判定する(ステップS7)。
ステップS7にて、半押し操作が解除されていないと判定された場合には(ステップS7;NO)、中央制御部10のCPUは、処理をステップS6に移行させて、全押し操作に係る操作信号が入力されたか否かの判定を行う。
一方、半押し操作が解除されたと判定されると(ステップS7;YES)、中央制御部10のCPUは、処理をステップS1に移行させて、表示部5の表示画面にライブビュー画像を表示する処理を行わせる。
ステップS6にて、全押し操作に係る操作信号が入力されたと判定されると(ステップS6;YES)、撮像部1は、撮像制御部2により調整された所定の撮像条件で、明るさ変化領域Aの検出に用いられた複数のフレーム画像F、…と略等しい構図で撮像して、画像取得部4aは、画像生成部3により生成された記録用画像Gの画像データ(YUVデータ)を取得する(ステップS8)。
次に、中央制御部10のCPUは、抽出候補領域特定処理(図4参照)の実行を制御する(ステップS9)。
ここで、抽出候補領域特定処理について、図4を参照して説明する。
図4は、抽出候補領域特定処理に係る動作の一例を示すフローチャートである。
図4に示すように、先ず、画像処理部4の直線特定部4cは、画像取得部4aにより取得された記録用画像Gの画像データに対して直線検出処理を施して、当該画像内の全ての直線Lを検出する(ステップS31)。具体的には、直線特定部4cは、記録用画像Gの画像データに含まれる輝度成分(例えば、輝度信号Y)を取得し、当該輝度成分に対して直線検出処理(例えば、ハフ変換処理など)を施して当該記録用画像G内の全ての直線Lを検出する。
次に、直線特定部4cは、バッファメモリ9aに明るさ変化領域Aの位置を示す情報が記録されているか否かを判定する(ステップS32)。
ここで、明るさ変化領域Aの位置を示す情報が記録されていると判定された場合(ステップS32;YES)、即ち、表示装置200の表示画面201等の明るさが所定周期で変化するものを被写体として撮像している場合、直線特定部4cは、バッファメモリ9aから明るさ変化領域Aの位置を示す情報を取得し、記録用画像G内で明るさ変化領域Aに対応する対応領域Bの位置を特定した後、検出された全ての直線Lの中で、何れか一の直線Lを所定の指定条件に従って指定する(ステップS33)。
次に、直線特定部4cの除外部c1は、指定された直線Lが記録用画像Gにおける明るさ変化領域Aに対応する対応領域B内に存するか否かを判定する(ステップS34)。
ここで、指定された直線Lが対応領域B内に存すると判定されると(ステップS34;YES)、直線特定部4cは、当該直線Lを四辺形領域の特定用の候補直線L1として指定する(ステップS35)。一方、指定された直線L(例えば、直線L2等)が対応領域B内に存しないと判定されると(ステップS34;NO)、直線特定部4cの除外部c1は、当該直線Lを四辺形領域の特定用の候補から除外する(ステップS36)。
その後、直線特定部4cは、記録用画像G内から検出された全ての直線Lについて、ステップS34における判定処理が行われたか否かを判定する(ステップS37)。
ステップS37にて、全ての直線Lについて判定処理が行われていないと判定されると(ステップS37;NO)、直線特定部4cは、所定の指定条件に従って処理対象となる次の直線Lを指定して(ステップS38)、処理をステップS34に移行させる。
上記の処理を、ステップS37にて全ての直線Lについて処理したと判定されるまで(ステップS37;YES)、繰り返すことで、直線特定部4cは、記録用画像G内の明るさ変化領域Aに対応する対応領域Bに含まれる候補直線L(図6(a)参照)を特定する。
次に、画像処理部4の候補領域特定部4dは、直線特定部4cにより特定された候補直線L1に基づいて、記録用画像G内で当該候補直線L1を含んで構成される四辺形領域を特定する(ステップS39)。具体的には、候補領域特定部4dは、直線特定部4cにより特定された全ての候補直線L1のうち、所定方向に延在する4本の候補直線L1、…によって形成される各四辺形領域を特定する。
続けて、候補領域特定部4dは、特定された所定数の四辺形領域の中で、明るさ変化領域Aに対応する対応領域Bに対して最も近い位置に存する四辺形領域を指定する(ステップS40)。そして、表示制御部6は、記録用画像G内で、候補領域特定部4dにより指定された四辺形領域を識別可能な態様で表示部5に表示させる(ステップS41)。具体的には、表示制御部6は、記録用画像Gのレックビュー画像に重畳させて、四辺形領域の縁部に識別枠をOSD表示する。
次に、候補領域特定部4dは、ユーザにより操作された操作入力部8の操作ボタンに応じて処理を分岐させる(ステップS42)。
具体的には、ユーザにより操作入力部8の選択ボタン8bが所定操作されると(ステップS42;選択ボタン)、候補領域特定部4dは、特定された所定数の四辺形領域の中で、識別表示されている四辺形領域の次に対応領域Bに近い位置に存する四辺形領域を指定した後(ステップS43)、処理をステップS41に移行させる。これにより、表示制御部6は、記録用画像G内で、候補領域特定部4dにより新たに指定された四辺形領域を識別可能な態様で表示部5に表示させる(ステップS41)。
一方、ステップS42にて、ユーザにより操作入力部8の決定ボタン8cが所定操作されると(ステップS42;決定ボタン)、候補領域特定部4dは、表示部5に識別可能な態様で表示されている四辺形領域を抽出候補領域Cとして特定して(ステップS44;図6(a)参照)、抽出候補領域特定処理を終了する。
一方、ステップS32にて、明るさ変化領域Aの位置を示す情報が記録されていないと判定された場合(ステップS32;NO)、即ち、紙面文書、名刺、ホワイトボード等の明るさが所定周期で変化しないものを被写体として撮像している場合、候補領域特定部4dは、直線特定部4cにより特定された全ての直線Lに基づいて、記録用画像G内で当該直線Lを含んで構成される四辺形領域を特定する(ステップS45)。具体的には、候補領域特定部4dは、直線特定部4cにより特定された全ての直線Lのうち、所定方向に延在する4本の直線L、…によって形成される各四辺形領域を特定する。
続けて、候補領域特定部4dは、特定された所定数の四辺形領域の中で、所定の指定条件に従って一の四辺形領域を指定する(ステップS46)。そして、表示制御部6は、記録用画像G内で、候補領域特定部4dにより指定された四辺形領域を識別可能な態様で表示部5に表示させる(ステップS47)。
次に、候補領域特定部4dは、ユーザにより操作された操作入力部8の操作ボタンに応じて処理を分岐させる(ステップS48)。
具体的には、ユーザにより操作入力部8の選択ボタン8bが所定操作されると(ステップS48;選択ボタン)、候補領域特定部4dは、特定された所定数の四辺形領域の中で、所定の指定条件に従って処理対象となる次の四辺形領域を指定した後(ステップS49)、処理をステップS47に移行させる。これにより、表示制御部6は、記録用画像G内で、候補領域特定部4dにより新たに指定された四辺形領域を識別可能な態様で表示部5に表示させる(ステップS47)。
一方、ステップS48にて、ユーザにより操作入力部8の決定ボタン8cが所定操作されると(ステップS48;決定ボタン)、候補領域特定部4dは、処理をステップS44に移行して、表示部5に識別可能な態様で表示されている四辺形領域を抽出候補領域Cとして特定し(ステップS44)、抽出候補領域特定処理を終了する。
図2に戻り、画像処理部4の直角四辺形画像生成部4eは、抽出候補領域特定処理にて特定された抽出候補領域C(四辺形領域)の画像に対して直角四辺形変換処理を行って直角四辺形画像Rを生成する(ステップS10;図6(b)参照)。具体的には、直角四辺形画像生成部4eは、記録用画像Gから抽出候補領域C内の画像領域を抽出した後、当該画像領域の画像データに対して、直角四辺形変換処理を行って直角四辺形画像Rを生成する。
その後、画像処理部4は、生成された直角四辺形画像Rの画像データを記録媒体制御部7に転送し、記録媒体制御部7は、当該直角四辺形画像Rの画像データを記録用画像Gの画像データと対応付けて記録媒体Mに記録させる(ステップS11)。
これにより、撮像処理を終了する。
以上のように、本実施形態の撮像装置100によれば、記録用画像Gの画像データに対して直線Lを検出する直線検出処理を施して、明るさが所定周期で変化する明るさ変化領域Aに対応する対応領域Bに含まれる候補直線L1を特定し、当該記録用画像G内で候補直線L1を含んで構成される四辺形領域を抽出候補領域Cとして特定するので、例えば、出力装置から所定の書き換え周期で出力された画像(例えば、表示装置200の表示画面201内の画像)を主要被写体とする場合に、記録用画像G内で抽出候補領域Cとして特定される四辺形領域を、明るさ変化領域Aに対応する対応領域Bに含まれる候補直線L1を含んで構成される四辺形領域に限定することができる。即ち、記録用画像G内で、明るさ変化領域Aに対応する対応領域Bの外側に存する直線Lを含んで構成され、最終的に記録用画像Gから抽出される可能性の低い四辺形領域を除いて、明るさ変化領域Aに対応する対応領域Bに含まれる候補直線L1を含んで構成され、当該記録用画像Gから抽出される可能性の高い四辺形領域を、抽出候補領域Cとして特定することができる。
このように、記録用画像G内での四辺形領域の特定を補助して当該記録用画像Gからの四辺形領域の画像の抽出を効率良く行うことができる。
また、直線検出処理の処理対象領域を記録用画像Gの画像領域全体として検出された当該記録用画像Gに含まれる全ての直線Lから、明るさ変化領域Aに対応する対応領域B以外の領域から検出された直線L2を除外することで、明るさ変化領域Aに対応する対応領域Bに含まれる候補直線L1の特定を効率良く行うことができ、この結果、記録用画像G内で当該候補直線L1を含んで構成される四辺形領域を抽出候補領域Cとして効率良く特定することができる。
また、記録用画像G内で、候補領域特定部4dにより特定された複数の四辺形領域の各々を明るさ変化領域Aに対応する対応領域Bに対する距離を基準として所定の順序で表示部5に識別表示するので、複数の四辺形領域の中で、ユーザ所望の四辺形領域を抽出候補領域Cとして特定することができる。特に、例えば、複数の四辺形領域の各々を明るさ変化領域Aに対応する対応領域Bの位置に対する距離の近い順に優先的に識別表示することで、ユーザにとっては当該対応領域Bの位置に対する距離が相対的に近い四辺形領域を抽出候補領域Cとして選択指定し易くなって、当該記録用画像Gからの四辺形領域の画像の抽出を効率良く行うことができる。
また、抽出候補領域Cとして特定された四辺形領域の画像に対して直角四辺形変換処理を行って直角四辺形画像Rを生成するので、四辺形領域の歪みが修正された直角四辺形画像Rを取得することができる。
なお、本発明は、上記実施形態に限定されることなく、本発明の趣旨を逸脱しない範囲において、種々の改良並びに設計の変更を行っても良い。
例えば、上記実施形態にあっては、直線特定部4cは、記録用画像G内の明るさ変化領域Aに対応する対応領域Bに含まれる直線Lの特定方法として、記録用画像Gに含まれる全ての直線Lを特定した後、明るさ変化領域Aに対応する対応領域B以外の領域から検出された直線L2を除外するようにしたが、一例であってこれに限られるものではなく、適宜任意に変更可能である。即ち、直線特定部4cは、除外部c1を具備せずに、直線検出処理の処理対象領域を記録用画像Gの明るさ変化領域Aに対応する対応領域Bとして当該対応領域Bに含まれる直線L(候補直線L1)を複数特定しても良い。
これにより、明るさ変化領域Aに対応する対応領域Bに含まれる候補直線L1の特定を効率良く行うことができ、この結果、記録用画像G内で当該候補直線L1を含んで構成される四辺形領域を抽出候補領域Cとして効率良く特定することができる。
また、上記実施形態にあっては、候補領域特定部4dは、ユーザによる操作入力部8の選択ボタン8bや決定ボタン8c等の所定操作に基づいて指定された四辺形領域を抽出候補領域Cとして特定するようにしたが、抽出候補領域C(四辺形領域)の特定方法は一例であってこれに限られるものではなく、適宜任意に変更可能である。
即ち、候補領域特定部4dは、抽出候補領域Cとなる四辺形領域を所定条件に基づいて自動的に特定する構成としても良い。例えば、候補領域特定部4dは、直線特定部4cにより特定された直線L(候補直線L1)を含む複数の四辺形領域を特定し、当該複数の四辺形領域の中で、明るさ変化領域Aに対応する対応領域Bの位置を基準として当該対応領域Bに対して最も近い位置に存する一の四辺形領域を抽出候補領域Cとして自動的に特定しても良い。
従って、記録用画像G内で明るさ変化領域Aに対応する対応領域Bの位置を基準として一の四辺形領域を抽出候補領域Cとして自動的に特定することができるので、抽出候補領域Cの特定にユーザによる操作入力部8の所定操作が不要となり、当該抽出候補領域Cの特定を簡便に行うことができる。
さらに、上記実施形態にあっては、例えば、紙面文書、名刺、ホワイトボード、表示装置200の表示画面201及び投影装置からの投影画像等を被写体とする撮像処理(図2参照)を例示して説明したが、表示装置200の表示画面201及び投影装置からの投影画像等の明るさが所定周期で変化するものを被写体とする専用の撮像処理を行っても良い。
即ち、明るさが所定周期で変化する被写体専用の撮像モードを設け、当該撮像モードがユーザによる操作入力部8の所定操作により選択指示された場合には、撮像装置100は、上記撮像処理(図2参照)における明るさ変化領域検出部4bにより明るさ変化領域Aが検出されたか否かの判定処理(ステップS4)、抽出候補領域特定処理(図4参照)における明るさ変化領域Aの位置を示す情報が記録されているか否かの判定処理(ステップS32)、当該判定の結果、明るさ変化領域Aの位置を示す情報が記録されていないと判定された場合(ステップS32;NO)に続けて行われる各種の処理(ステップS45〜S49)を行う必要がなくなる。
また、上記実施形態にあっては、抽出候補領域Cとして特定された四辺形領域の画像に対して直角四辺形変換処理を行って直角四辺形画像Rを生成するようにしたが、直角四辺形画像Rを生成するか否かは適宜任意に変更可能である。即ち、撮像装置100は、必ずしも直角四辺形画像Rを生成する直角四辺形画像生成部4eを具備する必要はなく、記録用画像G内で直線特定部4cにより特定された候補直線L1を含んで構成される四辺形領域を抽出候補領域Cとして特定可能であれば如何なる構成であっても良い。
さらに、上記実施形態の撮像処理(図2参照)では、フレーム画像F内の明るさ変化領域を特定した後、記録用画像Gを撮像するようにしたが、処理の順序は一例であってこれに限られるものではなく、適宜任意に変更可能である。即ち、記録用画像Gの撮像後に、略等しい構図でフレーム画像Fを撮像して当該フレーム画像内の明るさ変化領域を特定するようにしても良い。
また、上記実施形態では、フレーム画像Fから明るさ変化領域Aを検出し、記録用画像G内で四辺形領域(抽出候補領域C)を特定する、即ち、明るさ変化領域Aの検出対象の撮像画像と四辺形領域(抽出候補領域C)の特定対象の撮像画像とを異ならせるようにしたが、同一の撮像画像を利用して、明るさ変化領域Aの検出及び四辺形領域(抽出候補領域C)の特定を行うようにしても良い。
即ち、例えば、画像取得部4aにより取得された記録用画像Gの画像データに基づいて、明るさ変化領域Aの検出及び四辺形領域(抽出候補領域C)の特定を行っても良い。また、例えば、画像取得部4aにより取得された少なくとも一のフレーム画像Fの画像データに基づいて、明るさ変化領域Aの検出及び四辺形領域(抽出候補領域C)の特定を行っても良い。
さらに、画像処理装置として例示する撮像装置100の構成は、上記実施形態に例示したものは一例であり、これに限られるものではなく、少なくとも取得手段、検出手段、第1特定手段、第2特定手段を備える構成であれば適宜任意に変更することができる。
加えて、上記実施形態にあっては、取得手段、検出手段、第1特定手段、第2特定手段としての機能を、中央制御部10の制御下にて、画像取得部4a、明るさ変化領域検出部4b、直線特定部4c、候補領域特定部4dが駆動することにより実現される構成としたが、これに限られるものではなく、中央制御部10のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
即ち、プログラムを記憶するプログラムメモリ9bに、取得処理ルーチン、検出処理ルーチン、第1特定処理ルーチン、第2特定処理ルーチンを含むプログラムを記憶しておく。そして、取得処理ルーチンにより中央制御部10のCPUを、撮像手段により撮像された撮像画像の画像データを取得する取得手段として機能させるようにしても良い。また、検出処理ルーチンにより中央制御部10のCPUを、取得手段により取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定周期で変化する明るさ変化領域Aを検出する検出手段として機能させるようにしても良い。また、第1特定処理ルーチンにより中央制御部10のCPUを、取得手段により取得された撮像画像の画像データに対して直線Lを検出する直線検出処理を施して、明るさ変化領域Aに対応する対応領域Bに含まれる直線Lを特定する第1特定手段として機能させるようにしても良い。また、第2特定処理ルーチンにより中央制御部10のCPUを、撮像画像内で第1特定手段により特定された直線Lを含んで構成される四辺形領域を抽出候補領域Cとして特定する第2特定手段として機能させるようにしても良い。
同様に、除外手段、表示制御手段、生成手段についても、中央制御部10のCPUによって所定のプログラム等が実行されることにより実現される構成としても良い。
さらに、上記の各処理を実行するためのプログラムを格納したコンピュータ読み取り可能な媒体として、ROMやハードディスク等の他、フラッシュメモリ等の不揮発性メモリ、CD−ROM等の可搬型記録媒体を適用することも可能である。また、プログラムのデータを所定の通信回線を介して提供する媒体としては、キャリアウェーブ(搬送波)も適用される。
〔付記〕
本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
<請求項1>
撮像手段により撮像された撮像画像の画像データを取得する取得手段と、
この取得手段により取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定周期で変化する明るさ変化領域を検出する検出手段と、
前記取得手段により取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、前記明るさ変化領域に対応する対応領域に含まれる直線を特定する第1特定手段と、
前記撮像画像内で前記第1特定手段により特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する第2特定手段と、
を備えたことを特徴とする画像処理装置。
<請求項2>
前記取得手段は、出力装置から所定の書き換え周期で出力された画像が前記撮像手段により所定の撮像周期で撮像された撮像画像の画像データを逐次取得する手段を含み、
前記検出手段は、前記取得手段により逐次取得された複数の撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定周期で変化する明るさ変化領域を検出することを特徴とする請求項1に記載の画像処理装置。
<請求項3>
前記第1特定手段は、
前記直線検出処理の処理対象領域を前記撮像画像の画像領域全体として検出された当該撮像画像に含まれる全ての直線から、前記明るさ変化領域に対応する対応領域以外の領域から検出された直線を除外する除外手段を有することを特徴とする請求項1又は2に記載の画像処理装置。
<請求項4>
前記第1特定手段は、
前記直線検出処理の処理対象領域を前記撮像画像の前記明るさ変化領域に対応する対応領域として当該対応領域に含まれる直線を特定することを特徴とする請求項1又は2に記載の画像処理装置。
<請求項5>
前記第2特定手段は、前記第1特定手段により特定された直線を含んで構成される複数の四辺形領域を特定する手段を含み、
前記撮像画像内で、前記第2特定手段により特定された複数の四辺形領域の各々を、前記明るさ変化領域に対応する対応領域に対する距離を基準として所定の順序で表示手段に識別表示させる表示制御手段を更に備え、
前記第2特定手段は、前記表示手段に識別表示される複数の四辺形領域の中から前記抽出候補領域を特定することを特徴とする請求項1〜4の何れか一項に記載の画像処理装置。
<請求項6>
前記表示制御手段は、前記撮像画像内で、前記第2特定手段により特定された複数の四辺形領域の各々を、前記明るさ変化領域に対応する対応領域に対して最も近い位置に存するものから順番に前記表示手段に識別表示させることを特徴とする請求項5に記載の画像処理装置。
<請求項7>
前記第2特定手段は、
前記第1特定手段により特定された直線を含んで構成される複数の四辺形領域を特定する手段を含み、
前記複数の四辺形領域の中で、前記明るさ変化領域に対応する対応領域に対して最も近い位置に存する一の四辺形領域を前記抽出候補領域として特定することを特徴とする請求項1〜4の何れか一項に記載の画像処理装置。
<請求項8>
前記第2特定手段により前記抽出候補領域として特定された四辺形領域の画像に対して直角四辺形変換処理を行って直角四辺形画像を生成する生成手段を更に備えることを特徴とする請求項1〜7の何れか一項に記載の画像処理装置。
<請求項9>
画像処理装置を用いた画像処理方法であって、
撮像手段により撮像された撮像画像の画像データを取得する処理と、
取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定周期で変化する明るさ変化領域を検出する処理と、
取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、明るさ変化領域に対応する対応領域に含まれる直線を特定する処理と、
前記撮像画像内で特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する処理と、
を含むことを特徴とする画像処理方法。
<請求項10>
画像処理装置のコンピュータを、
撮像手段により撮像された撮像画像の画像データを取得する取得手段、
この取得手段により取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定周期で変化する明るさ変化領域を検出する検出手段、
前記取得手段により取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、前記明るさ変化領域に対応する対応領域に含まれる直線を特定する第1特定手段、
前記撮像画像内で前記第1特定手段により特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する第2特定手段、
として機能させることを特徴とするプログラム。
100 撮像装置
1 撮像部
4 画像処理部
4a 画像取得部
4b 明るさ変化領域検出部
4c 直線特定部
c1 除外部
4d 候補領域特定部
4e 直角四辺形画像生成部
5 表示部
6 表示制御部
10 中央制御部

Claims (11)

  1. 撮像手段により撮像された撮像画像の画像データを取得する取得手段と、
    この取得手段により取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定の時間周期で変化する明るさ変化領域を検出する検出手段と、
    前記取得手段により取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、前記明るさ変化領域に対応する対応領域以外の領域に含まれる直線を特定することなく、前記明るさ変化領域に対応する対応領域に含まれる直線を特定する第1特定手段と、
    前記撮像画像内で前記第1特定手段により特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する第2特定手段と、
    を備えたことを特徴とする画像処理装置。
  2. 前記取得手段は、出力装置から所定の書き換え周期で出力された画像が前記撮像手段により所定の撮像周期で撮像された撮像画像の画像データを逐次取得する手段を含み、
    前記検出手段は、前記取得手段により逐次取得された複数の撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定の時間周期で変化する明るさ変化領域を検出することを特徴とする請求項1に記載の画像処理装置。
  3. 前記第1特定手段は、
    前記直線検出処理の処理対象領域を前記撮像画像の画像領域全体として検出された当該撮像画像に含まれる全ての直線から、前記明るさ変化領域に対応する対応領域以外の領域から検出された直線を除外する除外手段を有することを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記第1特定手段は、
    前記直線検出処理の処理対象領域を前記撮像画像の前記明るさ変化領域に対応する対応領域として当該対応領域に含まれる直線を特定することを特徴とする請求項1又は2に記載の画像処理装置。
  5. 前記第2特定手段は、前記第1特定手段により特定された直線を含んで構成される複数の四辺形領域を特定する手段を含み、
    前記撮像画像内で、前記第2特定手段により特定された複数の四辺形領域の各々を、前記明るさ変化領域に対応する対応領域に対する距離を基準として所定の順序で表示手段に識別表示させる表示制御手段を更に備え、
    前記第2特定手段は、前記表示手段に識別表示される複数の四辺形領域の中から前記抽出候補領域を特定することを特徴とする請求項1〜4の何れか一項に記載の画像処理装置。
  6. 前記表示制御手段は、前記撮像画像内で、前記第2特定手段により特定された複数の四辺形領域の各々を、前記明るさ変化領域に対応する対応領域に対して最も近い位置に存するものから順番に前記表示手段に識別表示させることを特徴とする請求項5に記載の画像処理装置。
  7. 前記第2特定手段は、
    前記第1特定手段により特定された直線を含んで構成される複数の四辺形領域を特定する手段を含み、
    前記複数の四辺形領域の中で、前記明るさ変化領域に対応する対応領域に対して最も近い位置に存する一の四辺形領域を前記抽出候補領域として特定することを特徴とする請求項1〜4の何れか一項に記載の画像処理装置。
  8. 前記第2特定手段により前記抽出候補領域として特定された四辺形領域の画像に対して直角四辺形変換処理を行って直角四辺形画像を生成する生成手段を更に備えることを特徴とする請求項1〜7の何れか一項に記載の画像処理装置。
  9. 前記検出手段により前記明るさ変化領域が検出されたか否かを判断する判断手段と、
    この判断手段により前記明るさ変化領域が検出されないと判断された場合、前記取得手段により取得された撮像画像に含まれる全ての直線を特定する第3特定手段と、
    前記撮像画像内で前記第3特定手段により特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する第4特定手段とを更に備えることを特徴とする請求項1〜8の何れか一項に記載の画像処理装置。
  10. 画像処理装置を用いた画像処理方法であって、
    撮像手段により撮像された撮像画像の画像データを取得する処理と、
    取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定の時間周期で変化する明るさ変化領域を検出する処理と、
    取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、前記明るさ変化領域に対応する対応領域以外の領域に含まれる直線を特定することなく、前記明るさ変化領域に対応する対応領域に含まれる直線を特定する処理と、
    前記撮像画像内で特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する処理と、
    を含むことを特徴とする画像処理方法。
  11. 画像処理装置のコンピュータを、
    撮像手段により撮像された撮像画像の画像データを取得する取得手段、
    この取得手段により取得された撮像画像の画像データに基づいて、当該撮像画像内で明るさが所定の時間周期で変化する明るさ変化領域を検出する検出手段、
    前記取得手段により取得された撮像画像の画像データに対して直線を検出する直線検出処理を施して、前記明るさ変化領域に対応する対応領域以外の領域に含まれる直線を特定することなく、前記明るさ変化領域に対応する対応領域に含まれる直線を特定する第1特定手段、
    前記撮像画像内で前記第1特定手段により特定された直線を含んで構成される四辺形領域を抽出候補領域として特定する第2特定手段、
    として機能させることを特徴とするプログラム。
JP2011170616A 2011-08-04 2011-08-04 画像処理装置、画像処理方法及びプログラム Expired - Fee Related JP5488548B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011170616A JP5488548B2 (ja) 2011-08-04 2011-08-04 画像処理装置、画像処理方法及びプログラム
US13/563,908 US8744170B2 (en) 2011-08-04 2012-08-01 Image processing apparatus detecting quadrilateral region from picked-up image
CN201210272181.4A CN102915534B (zh) 2011-08-04 2012-08-01 图像处理装置以及图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011170616A JP5488548B2 (ja) 2011-08-04 2011-08-04 画像処理装置、画像処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2013037411A JP2013037411A (ja) 2013-02-21
JP5488548B2 true JP5488548B2 (ja) 2014-05-14

Family

ID=47613887

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011170616A Expired - Fee Related JP5488548B2 (ja) 2011-08-04 2011-08-04 画像処理装置、画像処理方法及びプログラム

Country Status (3)

Country Link
US (1) US8744170B2 (ja)
JP (1) JP5488548B2 (ja)
CN (1) CN102915534B (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5724544B2 (ja) 2011-03-31 2015-05-27 ソニー株式会社 画像処理装置、画像処理方法及びプログラム
US9495332B2 (en) * 2012-12-21 2016-11-15 International Business Machines Corporation Detection and repositioning of pop-up dialogs
US9625995B2 (en) 2013-03-15 2017-04-18 Leap Motion, Inc. Identifying an object in a field of view
US10003637B2 (en) * 2013-06-27 2018-06-19 Tencent Technology (Shenzhen) Company Limited Method, mobile terminal and system for displaying picture based on wireless network, and storage medium
JP2015032952A (ja) * 2013-08-01 2015-02-16 ソニー株式会社 表示制御装置、表示制御方法および記録媒体
EP3175773A4 (en) * 2014-07-30 2018-10-10 Olympus Corporation Image processing device
CN105812667A (zh) * 2016-04-15 2016-07-27 张磊 一种快速拍摄ppt的***和方法
CN105957114B (zh) * 2016-05-09 2018-12-11 北京小米移动软件有限公司 对图像中多边形进行检测的方法及装置
CN106331809A (zh) * 2016-08-31 2017-01-11 北京酷云互动科技有限公司 电视控制方法和电视控制***
US10971161B1 (en) 2018-12-12 2021-04-06 Amazon Technologies, Inc. Techniques for loss mitigation of audio streams
US11336954B1 (en) * 2018-12-12 2022-05-17 Amazon Technologies, Inc. Method to determine the FPS on a client without instrumenting rendering layer
US11252097B2 (en) 2018-12-13 2022-02-15 Amazon Technologies, Inc. Continuous calibration of network metrics
US11368400B2 (en) 2018-12-13 2022-06-21 Amazon Technologies, Inc. Continuously calibrated network system
US11356326B2 (en) 2018-12-13 2022-06-07 Amazon Technologies, Inc. Continuously calibrated network system
KR20200081541A (ko) * 2018-12-27 2020-07-08 삼성디스플레이 주식회사 촬상 장치 및 이의 구동 방법
US11016792B1 (en) 2019-03-07 2021-05-25 Amazon Technologies, Inc. Remote seamless windows
US11245772B1 (en) 2019-03-29 2022-02-08 Amazon Technologies, Inc. Dynamic representation of remote computing environment
US11461168B1 (en) 2019-03-29 2022-10-04 Amazon Technologies, Inc. Data loss protection with continuity

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6963661B1 (en) * 1999-09-09 2005-11-08 Kabushiki Kaisha Toshiba Obstacle detection system and method therefor
JP3633427B2 (ja) * 2000-03-15 2005-03-30 松下電工株式会社 Crt出画位置の調整法及び自動調整装置
GB0020857D0 (en) * 2000-08-25 2000-10-11 Vlsi Vision Ltd Method of detecting flicker and video camera using the method
JP4596299B2 (ja) * 2001-04-03 2010-12-08 敏夫 古閑 表示画面中のストリーク軽減方法及びその画像表示装置
JP4314043B2 (ja) * 2003-03-10 2009-08-12 キヤノン株式会社 撮像装置
JP3977776B2 (ja) * 2003-03-13 2007-09-19 株式会社東芝 ステレオキャリブレーション装置とそれを用いたステレオ画像監視装置
US8855405B2 (en) * 2003-04-30 2014-10-07 Deere & Company System and method for detecting and analyzing features in an agricultural field for vehicle guidance
JP2005267457A (ja) 2004-03-19 2005-09-29 Casio Comput Co Ltd 画像処理装置、撮影装置、画像処理方法及びプログラム
FR2868185B1 (fr) * 2004-03-23 2006-06-30 Realeyes3D Sa Procede d'extraction de donnees brutes d'une image resultant d'une prise de vue
EP1917639A4 (en) * 2005-08-25 2017-11-08 Ricoh Company, Ltd. Image processing method and apparatus, digital camera, and recording medium recording image processing program
JP4712487B2 (ja) 2005-08-25 2011-06-29 株式会社リコー 画像処理方法及び装置、デジタルカメラ装置、並びに画像処理プログラムを記録した記録媒体
JP4662874B2 (ja) * 2006-03-27 2011-03-30 Necカシオモバイルコミュニケーションズ株式会社 画像処理装置、及びプログラム
JP2009042162A (ja) * 2007-08-10 2009-02-26 Toshiba Corp キャリブレーション装置及びその方法
JP2009230193A (ja) * 2008-03-19 2009-10-08 Olympus Imaging Corp ポインティング装置としての機能を実現する撮影装置、表示装置、および情報システム
US20090278958A1 (en) * 2008-05-08 2009-11-12 Samsung Electronics Co., Ltd. Method and an apparatus for detecting a composition adjusted
DE102008052928A1 (de) * 2008-10-23 2010-05-06 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Vorrichtung, Verfahren und Computerprogramm zur Erkennung einer Geste in einem Bild, sowie Vorrichtung, Verfahren und Computerprogramm zur Steuerung eines Geräts
JP4807432B2 (ja) * 2009-03-31 2011-11-02 カシオ計算機株式会社 撮像装置、画像処理方法及びプログラム
JP4630936B1 (ja) 2009-10-28 2011-02-09 シャープ株式会社 画像処理装置、画像処理方法、画像処理プログラム、画像処理プログラムを記録した記録媒体

Also Published As

Publication number Publication date
US20130033618A1 (en) 2013-02-07
US8744170B2 (en) 2014-06-03
JP2013037411A (ja) 2013-02-21
CN102915534A (zh) 2013-02-06
CN102915534B (zh) 2015-03-25

Similar Documents

Publication Publication Date Title
JP5488548B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4947136B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6476065B2 (ja) 撮像装置及び撮像装置の制御方法
JP4784678B2 (ja) 撮像装置、撮像方法及びプログラム
US9092659B2 (en) Subject determination apparatus that determines whether or not subject is specific subject
JP2012120132A (ja) 撮像装置およびプログラム
JP2011053759A (ja) 画像処理装置、画像処理方法及びプログラム
JP5510287B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
JP6261397B2 (ja) 撮像装置及びその制御方法
JP4952574B2 (ja) 画像合成装置及びプログラム
JP5413625B2 (ja) 画像合成装置及びプログラム
JP2011066827A (ja) 画像処理装置、画像処理方法及びプログラム
JP5131399B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5910613B2 (ja) 画像合成装置及びプログラム
JP2008283477A (ja) 画像処理装置及び画像処理方法
JP6547742B2 (ja) 撮像制御装置、撮像装置および撮像制御方法
JP2013146110A (ja) 撮像装置及び方法、並びにプログラム
JP5807695B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
JP5740934B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
JP5644180B2 (ja) 撮像装置、撮像方法及びプログラム
JP2011135437A (ja) 撮像装置、画像合成方法及びプログラム
JP4671893B2 (ja) 電子カメラ
JP6601062B2 (ja) 撮像制御装置、撮像制御方法及びプログラム
JP5926039B2 (ja) 画像記録装置
JP5565227B2 (ja) 画像処理装置、画像処理方法及びプログラム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130508

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130521

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130709

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140128

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140210

R150 Certificate of patent or registration of utility model

Ref document number: 5488548

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees