JP2013162287A - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP2013162287A
JP2013162287A JP2012021894A JP2012021894A JP2013162287A JP 2013162287 A JP2013162287 A JP 2013162287A JP 2012021894 A JP2012021894 A JP 2012021894A JP 2012021894 A JP2012021894 A JP 2012021894A JP 2013162287 A JP2013162287 A JP 2013162287A
Authority
JP
Japan
Prior art keywords
image
still
image processing
processing apparatus
present
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012021894A
Other languages
English (en)
Inventor
Koji Ozaki
浩治 尾崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2012021894A priority Critical patent/JP2013162287A/ja
Priority to US13/708,128 priority patent/US20130201366A1/en
Priority to CN 201310031135 priority patent/CN103248807A/zh
Publication of JP2013162287A publication Critical patent/JP2013162287A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Abstract

【課題】複数の静止画像に基づいて、動体が消去された画像を得ることが可能な、画像処理装置、画像処理方法、およびプログラムを提供する。
【解決手段】複数の静止画像に基づいて、画像における第1静止部分を抽出し、複数の静止画像に基づいて、画像における第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出する抽出部と、第1静止部分と第2静止部分とを合成して、合成画像を生成する合成部と、を備える、画像処理装置が提供される。
【選択図】図26

Description

本開示は、画像処理装置、画像処理方法、およびプログラムに関する。
例えば観光地において撮像された画像などの画像には、特定の被写体以外の被写体が含まれていることがある。このような画像は、ユーザ(例えば撮像者や特定の被写体など)が意図する画像であるとは限らない。
このような中、移動する被写体を背景から除いた画像を得るための技術が開発されている。上記技術としては、例えば、例えば特許文献1に記載の技術が挙げられる。
特開2006−186637号公報
例えば特許文献1に記載の技術は、複数の画像に基づいて生成した特定の被写体の背景画像と、特定の被写体を含む被写体画像から抽出した特定の被写体の領域に対応する被写体領域画像とを合成する。よって、例えば特許文献1に記載の技術を用いる場合には、移動する被写体を背景から除いた画像を得ることができる可能性はある。
しかしながら、例えば特許文献1に記載の技術では、画像の単純加算平均によって移動する被写体を背景から除いた画像の取得を図るので、動体が消去された画像を得ることができるとは限らない。より具体的には、例えば特許文献1に記載の技術を用いる場合には、例えば、まれにしか動かない物体が存在する場合や、動体により特定の被写体全体が含まれる特定の被写体の領域が存在しない場合には、動体が消去された画像を得ることができない。
本開示では、複数の静止画像に基づいて、動体が消去された画像を得ることが可能な、新規かつ改良された画像処理装置、画像処理方法、およびプログラムを提案する。
本開示によれば、複数の静止画像に基づいて、画像における第1静止部分を抽出し、複数の静止画像に基づいて、画像における前記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出する抽出部と、前記第1静止部分と前記第2静止部分とを合成して、合成画像を生成する合成部と、を備える、画像処理装置が提供される。
また、本開示によれば、複数の静止画像に基づいて、画像における第1静止部分を抽出するステップと、複数の静止画像に基づいて、画像における上記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出するステップと、上記第1静止部分と上記第2静止部分とを合成して、合成画像を生成するステップと、を有する、画像処理方法が提供される。
また、本開示によれば、複数の静止画像に基づいて、画像における第1静止部分を抽出するステップ、複数の静止画像に基づいて、画像における上記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出するステップ、上記第1静止部分と上記第2静止部分とを合成して、合成画像を生成するステップ、をコンピュータに実行させるためのプログラムが提供される。
本開示によれば、複数の静止画像に基づいて、動体が消去された画像を得ることができる。
本実施形態に係る画像処理方法を説明するための説明図である。 従来の技術に係る画像処理の一例を示す説明図である。 従来の技術に係る画像処理において生じうる問題の第1の例を示す説明図である。 従来の技術に係る画像処理において生じうる問題の第2の例を示す説明図である。 本実施形態に係る画像処理方法に係る処理の概要を説明するための説明図である。 本実施形態に係る画像処理装置における通知制御の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を示す説明図である。 本実施形態に係る画像処理方法に係る処理の一例を示す説明図である。 本実施形態に係る表示制御処理の一例を示す説明図である。 本実施形態に係る表示制御処理の他の例を示す説明図である。 本実施形態に係る表示制御処理の他の例を示す説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。 本実施形態に係る画像処理方法に係る処理の一例を示す流れ図である。 本実施形態に係る画像処理方法に係る経過表示処理の一例を示す流れ図である。 本実施形態に係る画像処理方法に係る経過表示処理の一例を示す流れ図である。 本実施形態に係る画像処理装置の構成の一例を示すブロック図である。 本実施形態に係る画像処理装置のハードウェア構成の一例を示す説明図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下では、下記に示す順序で説明を行う。
1.本実施形態に係る画像処理方法
2.本実施形態に係る画像処理装置
3.本実施形態に係るプログラム
(本実施形態に係る画像処理方法)
本実施形態に係る画像処理装置の構成について説明する前に、本実施形態に係る画像処理方法について説明する。また、以下では、本実施形態に係る画像処理装置が、本実施形態に係る画像処理方法に係る処理を行うものとして説明する。
図1は、本実施形態に係る画像処理方法を説明するための説明図である。図1は、撮像装置10によって、図1のAに示す被写体(撮像対象の被写体)が撮像される場合の一例を示している。図1の例では、撮像によって、図1のAに示す被写体に加え、図1のBに示す家(静止体の一例)と、図1のC1、C2に示す被写体(撮像対象以外の被写体。動体の一例)とが含まれる画像が得られることとなる。
以下では、図1に示すような状況において撮像により得られる画像を例に挙げて、本実施形態に係る画像処理方法に係る処理について説明する。なお、本実施形態に係る画像処理方法に係る処理が処理の対象とする画像は、図1に示すような撮像装置によって撮像された画像に限られない。例えば、本実施形態に係る画像処理方法に係る処理が処理の対象とする画像は、記録媒体に記憶されている画像であってもよい。また、本実施形態に係る記録媒体に記憶されている画像には、例えば、本実施形態に係る画像処理方法に係る処理によって生成された画像(後述する合成画像)が含まれていてもよい。
ここで、本実施形態に係る、画像が記憶されている記録媒体としては、例えば、本実施形態に係る画像処理装置が備える記憶部(後述する)やRAM(Random Access Memory。図示せず)、本実施形態に係る画像処理装置に接続された、着脱可能な外部記録媒体、本実施形態に係る画像処理装置とネットワークを介して(または直接的に)有線または無線で接続された外部装置が備える記録媒体などが挙げられる。外部装置が備える記録媒体に記憶されている画像を処理する場合には、本実施形態に係る画像処理装置は、例えば、当該外部装置に対して画像を送信させる画像送信要求を送信することによって、当該外部装置から画像を取得する。
また、本実施形態に係る画像処理方法に係る処理が処理の対象とする画像は、撮像された画像と、記録媒体に記憶されている画像とが混在していてもよい。つまり、本実施形態に係る画像処理方法に係る処理が処理の対象とする画像としては、例えば、撮像された画像と、記録媒体に記憶されている画像とのうちの、一方または双方の画像が挙げられる。
また、本実施形態に係る画像処理装置が、本実施形態に係る画像処理方法に係る処理の対象とする画像としては、静止画像が挙げられる。ここで、本実施形態に係る静止画像は、いわゆる静止画像に限られず、動画像を構成するフレーム画像であってもよい。本実施形態に係るフレーム画像とは、例えば、動画像の1フレーム(動画像がインタレース画像の場合には、1フィールドに対応する。)に対応する画像である。以下では、本実施形態に係る画像処理方法に係る処理の対象とする画像が、本実施形態に係る静止画像である場合について説明する。また、以下では、静止画像を、単に「画像」と示す場合がある。
[1]従来の技術において生じうる問題
本実施形態に係る画像処理方法について説明する前に、まず、例えば特許文献1に記載の技術のような従来の技術において生じうる問題の一例について説明する。
図2は、従来の技術に係る画像処理の一例を示す説明図である。図2に示すAは、処理対象の画像(以下、「原画像」と示す場合がある。)を示している。また、図2に示すBは、処理途中の画像の一例を示し、図2に示すCは、処理後に最終的に得られる合成画像(以下、「最終画像」と示す場合がある。)の一例を示している。
従来の技術が適用される画像処理装置(以下、「従来の画像処理装置」と示す場合がある。)は、原画像のうちの特定の被写体を含む被写体画像から、特定の被写体を含む領域を特定する(図2のBに示すAR)。また、従来の画像処理装置は、複数の原画像に基づいて背景画像を生成する(図2のBに示すB1)。そして、従来の画像処理装置は、背景画像と、被写体画像から抽出した特定の被写体の領域に対応する被写体領域画像とを合成する(図2に示すC)。
例えば図2に示すように、特定の被写体が他の被写体により隠れておらず、動体が少ない場合には、従来の技術が用いられる場合においても、移動する被写体を背景から除いた画像を得ることができる可能性はある。しかしながら、上述したように、例えば特許文献1に記載の技術のような従来の技術では、画像の単純加算平均によって移動する被写体を背景から除いた画像の取得を図るので、動体が消去された画像を得ることができるとは限らない。以下、従来の技術を用いる場合において生じうる問題の一例を示す。
図3は、従来の技術に係る画像処理において生じうる問題の第1の例を示す説明図である。図3に示すAは、処理対象の画像(原画像)を示している。また、図2に示すBは、処理途中の画像の一例を示し、図2に示すCは、処理後に最終的に得られる合成画像(最終画像)の一例を示している。ここで、図3は、特定の被写体が他の被写体により隠れており、また、動体の数が図2に示す例よりも多い場合における、従来の技術に係る処理の一例を示している。
従来の画像処理装置は、原画像のうちの特定の被写体を含む被写体画像から、特定の被写体を含む領域を特定する(図3のBに示すAR)。ここで、図3のAに示す原画像では、特定の被写体が他の被写体により隠れているので、特定された特定の被写体を含む領域においても、他の被写体が含まれることとなる。
また、従来の画像処理装置は、複数の原画像に基づいて背景画像を生成する(図3のBに示すB1)。ここで、従来の画像処理装置は、画像の単純加算平均によって背景画像を生成する。よって、例えば原画像に含まれる動体の数が多くなることなどにより動体同士が重なる時間が長くなると、従来の画像処理装置が生成した背景画像には、動体(または動体の一部。例えば、図3のBに示すB2)が残ることが起こりうる(図3のBに示すB1)。そして、従来の画像処理装置は、背景画像と、被写体画像から抽出した特定の被写体の領域に対応する被写体領域画像とを合成する(図3に示すC)。
ここで、背景画像には動体(または動体の一部)が残っており、また、被写体領域画像には、他の被写体が含まれている。よって、特定の被写体が他の被写体により隠れており、また、動体の数が図2に示す例よりも多い場合には、例えば図3に示すように、従来の技術を用いたとしても、動体が消去された画像を得ることができるとは限らない。
図4は、従来の技術に係る画像処理において生じうる問題の第2の例を示す説明図である。図4に示すAは、処理対象の画像(原画像)を示している。また、図2に示すBは、処理後に最終的に得られる合成画像(最終画像)の一例を示している。ここで、図4は、原画像が、動体が特定の範囲をいったりきたりして大きく動いてはいない場合を示している。
従来の画像処理装置は、画像の単純加算平均によって背景画像を生成し、生成された背景画像を被写体領域画像とを合成するので、図4のBに示すように、合成画像に動体(または動体の一部。例えば、図4のBに示すB1)が残ることが起こりうる。また、従来の技術のように、画像の単純加算平均によって背景画像を生成する場合には、合成画像が、動体が透けてみえる不自然な画像となる恐れがある。
[2]本実施形態に係る画像処理方法の概要
例えば図3、図4に示すように、例えば特許文献1に記載の技術のような従来の技術を用いたとしても、複数の静止画像に基づいて、動体が消去された画像を得ることができるとは限らない。
そこで、本実施形態に係る画像処理装置は、例えば下記に示す(1)第1静止部分抽出処理、(2)第2静止部分抽出処理、および(3)合成画像生成処理、を行うことによって、複数の静止画像に基づいて、動体が消去された画像を得る。
(1)第1静止部分抽出処理
本実施形態に係る画像処理装置は、複数の静止画像に基づいて、画像における動体を含まない部分(以下、「第1静止部分」と示す。)を抽出する。より具体的には、本実施形態に係る画像処理装置は、例えば、複数の静止画像に基づいて動きベクトルを算出し、算出された動きベクトルに基づいて第1静止部分を抽出する。
ここで、本実施形態に係る画像処理装置は、例えば、抽出対象の被写体が含まれる静止部分を、第1静止部分として抽出してもよい。本実施形態に係る画像処理装置は、特定の人物を抽出対象の被写体とする場合には、例えば、目、鼻、口、骨格などの特徴点の検出や、顔の輝度分布および構造パターンと類似した領域を検出するなどの顔認識技術を用いることによって、抽出対象の被写体を特定する。また、本実施形態に係る画像処理装置は、特定の物体を抽出対象の被写体とする場合には、任意の物体認識技術を用いて抽出対象の被写体を特定する。また、抽出対象の被写体の特定は、ユーザによる被写体の指定操作(ユーザ操作の一例)に基づき行われてもよい。そして、本実施形態に係る画像処理装置は、例えば、特定された抽出対象の被写体全体が含まれる第1静止部分が抽出されるまで、処理対象の静止画像の数を増やしつつ、第1静止部分抽出処理を行う。ここで、本実施形態に係る画像処理装置は、例えば、エッジを検出することにより抽出対象の被写体の輪郭を検出することによって、抽出対象の被写体全体が第1静止部分に含まれているか否かを判定する。なお、本実施形態に係る画像処理装置における抽出対象の被写体全体が第1静止部分に含まれるか否かを判定する処理が、上記に限られないことは、言うまでもない。
なお、抽出対象の被写体が含まれる静止部分を第1静止部分として抽出する場合における、本実施形態に係る第1静止部分抽出処理は、上記に限られない。例えば、本実施形態に係る画像処理装置は、特定された抽出対象の被写体の一部が含まれている領域を、第1静止部分として抽出してもよい。特定された抽出対象の被写体の一部が含まれている領域を、第1静止部分として抽出する場合であっても、後述する本実施形態に係る画像処理方法に係る処理によって、動体が消去された画像を得ることが可能である。
(2)第2静止部分抽出処理
本実施形態に係る画像処理装置は、複数の静止画像に基づいて、画像における第1静止部分として抽出されなかった部分(以下、「第2静止部分」と示す。)を抽出する。より具体的には、本実施形態に係る画像処理装置は、例えば、複数の静止画像に基づいて動きベクトルを算出し、算出された動きベクトルに基づいて第2静止部分を抽出する。ここで、第2静止部分抽出処理において用いられる処理対象の複数の静止画像には、第1静止部分抽出処理において用いられる処理対象の複数の静止画像の一部、または全部が含まれていてもよいし、含まれていなくてもよい。
ここで、本実施形態に係る画像処理装置は、例えば、処理対象の静止画像の数が増えるごとに、新たな第2静止部分を抽出する。なお、本実施形態に係る画像処理装置における第2静止部分抽出処理は、上記に限られない。例えば、処理対象となる静止画像の数が決まっている場合には、本実施形態に係る画像処理装置は、処理対象の静止画像を順次に処理して第2静止部分を抽出する。
(3)合成画像生成処理
本実施形態に係る画像処理装置は、第1静止部分と第2静止部分とを合成して、合成画像を生成する。
ここで、本実施形態に係る画像処理装置は、例えば、第1静止部分が抽出され、第2静止部分がまだ抽出されていないときには、抽出された第1静止部分を示す画像そのものを、合成画像とする。また、本実施形態に係る画像処理装置は、第2静止部分が抽出されたときには、第1静止部分と第2静止部分とを合成して、合成画像を生成する。
また、本実施形態に係る画像処理装置は、例えば、第2静止部分抽出処理において第2静止部分が新たに抽出されるごとに、新たな合成画像を生成する。より具体的には、本実施形態に係る画像処理装置は、例えば、第2静止部分が新たに抽出されるごとに、第1静止部分、または既に生成されている合成画像と、新たに抽出された第2静止部分とを合成して、新たな合成画像を生成する。
また、本実施形態に係る画像処理装置は、例えば、生成した合成画像を記録媒体に記録させてもよいし、生成した合成画像を外部装置へ送信してもよい。
ここで、本実施形態に係る画像処理装置は、例えば、(3)の処理(合成画像生成処理)において生成された最終的な合成画像を、記録媒体に記録させる、および/または、外部装置へ送信させるが、本実施形態に係る画像処理装置における処理は、上記に限られない。例えば、本実施形態に係る画像処理装置は、最終的な合成画像が得られる前、すなわち、(3)の処理(合成画像生成処理)の途中においても、生成された合成画像を、記録媒体に記録させてもよく、また、当該合成画像を外部装置へ送信させてもよい。
例えば上記のように、(3)の処理(合成画像生成処理)の途中において、合成画像の記録媒体への記録、および/または、外部装置への送信を行うことによって、(3)の処理(合成画像生成処理)の途中段階の合成画像が記録媒体や外部装置において記憶される。よって、例えば、(3)の処理(合成画像生成処理)の途中で何らかの理由(例えば、電源が切れる、撮像装置が動かされるなど)によるアクシデントが生じても、何らの合成画像が得られない事態を回避することができる。
ここで、(3)の処理(合成画像生成処理)の途中において合成画像を記録、送信するタイミングとしては、例えば、最終的な合成画像が得られる予想時間に応じて設定されるタイミングや、処理の進捗状況(または、合成画像の完成度合い)に応じて設定されるタイミングが挙げられる。最終的な合成画像が得られる予想時間に応じて設定されるタイミングとしては、例えば、最終的な合成画像が得られるまで3秒かかると予想された場合に、1秒間ごとに記録、送信が行われるタイミングなどが挙げられる。また、処理の進捗状況(または、合成画像の完成度合い)に応じて設定されるタイミングとしては、例えば、処理の進捗状況(または、合成画像の完成度合い)が所定の割合に達するごとに記録、送信が行われるタイミングなどが挙げられる。
本実施形態に係る画像処理装置は、例えば、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)、および上記(3)の処理(合成画像生成処理)を、本実施形態に係る画像処理方法に係る処理として行う。
図5は、本実施形態に係る画像処理方法に係る処理の概要を説明するための説明図である。ここで、図5は、特定の人物である被写体Oが撮像対象である場合に撮像された画像に基づいて、本実施形態に係る画像処理装置が、本実施形態に係る画像処理方法に係る処理を行う例を示している。また、図5に示すAは、第1静止部分抽出処理によって得られる第1静止部分に対応する画像の一例を示している。図5に示すBは、第2静止部分抽出処理および合成画像生成処理により得られる合成画像の一例を示している。
図5に示すように、上記(1)の処理(第1静止部分抽出処理)において第1静止部分が抽出される(図5に示すA)。また、上記(2)の処理(第2静止部分抽出処理)において抽出された第2静止部分が上記(3)の処理(合成画像生成処理)において合成されることによって、動体が消去された画像である合成画像が得られる(図5に示すB)。
ここで、図5は、図5のAに示すように、本実施形態に係る画像処理装置が、上記(1)の処理(第1静止部分抽出処理)において抽出対象の被写体全体が含まれる静止部分を第1静止部分として抽出する例を示している。ここで、例えば抽出対象の被写体全体が含まれる静止部分が第1静止部分として抽出される場合には、被写体Oは、少なくとも第1静止部分が抽出されるまで(上記(1)の処理(第1静止部分抽出処理)が完了するまで)静止している必要がある。
しかしながら、抽出対象の被写体全体が含まれる静止部分が第1静止部分として抽出される場合には、第1静止部分が抽出された時点で、抽出された第1静止部分に抽出対象の被写体O全体が含まれる。つまり、上記(1)の処理(第1静止部分抽出処理)が完了した後に被写体Oが動いたとしても、被写体Oは既に第1静止部分に含まれているので、上記(3)の処理(合成画像生成処理)において生成される合成画像には、被写体O全体が含まれることとなる。
よって、例えば図1に示すように撮像対象の被写体(図1に示すA)を撮像することにより得られた撮像画像を、本実施形態に係る画像処理装置が処理する場合、撮像対象の被写体は、本実施形態に係る画像処理方法に係る処理全体が完了するまで静止している必要はない。より具体的には、上記のように、撮像対象の被写体は、上記(1)の処理(第1静止部分抽出処理)が完了するまで静止していればよい。ここで、画像全体において撮像対象の被写体が占める領域は、比較的小さいことが多い。そのため、上記(1)の処理(第1静止部分抽出処理)が完了するまでに要する時間は、画像全体に対する処理、すなわち、上記(1)の処理(第1静止部分抽出処理)〜上記(3)の処理(合成画像生成処理)が完了するまでに要する時間よりも、大幅に短い時間となる。
したがって、本実施形態に係る画像処理装置が、本実施形態に係る画像処理方法に係る処理を行うことによって、撮像対象の被写体が静止していなければならない時間を、より短縮することができ、また、撮像対象の被写体の負荷をより軽減することができる。
なお、上記では、撮像対象の被写体を先に抽出してから画像における他の部分を抽出して合成する場合を例に挙げて、本実施形態に係る画像処理装置における処理を説明したが、本実施形態に係る画像処理装置における処理は、上記に限られない。例えば、本実施形態に係る画像処理装置は、先に画像全体を抽出して合成した後に、画像全体における所望の位置に対応する位置に移動した撮像対象の被写体を撮像した撮像画像に基づいて、撮像対象の被写体を物体認識技術に係る処理などにより抽出することも可能である。上記の場合であっても、本実施形態に係る画像処理装置は、例えば、先の抽出結果により得られた合成画像と、撮像対象の被写体を撮像した撮像画像に基づき抽出された撮像対象の被写体部分とを合成することによって、撮像対象の被写体が含まれる画像を生成することができる。
また、本実施形態に係る画像処理装置は、第1静止部分の抽出が完了した場合(上記(1)の処理(第1静止部分抽出処理)が完了した場合)には、第1静止部分の抽出が完了したことをユーザに対して通知させてもよい。ここで、第1静止部分の抽出が完了したことを通知する対象のユーザとしては、例えば、本実施形態に係る画像処理装置の所有者や、撮像対象の被写体の人物、撮像対象の被写体を撮像装置により撮像する撮像者などが挙げられる。
本実施形態に係る画像処理装置が第1静止部分の抽出が完了したことをユーザに対して通知させることによって、撮像対象の被写体が動いてよいか否かを、直接的または間接的に、撮像対象の被写体に通知することが可能となる。よって、本実施形態に係る画像処理装置は、本実施形態に係る画像処理装置が第1静止部分の抽出が完了したことをユーザに対して通知させることによって、ユーザの利便性の向上を図ることができる。
図6は、本実施形態に係る画像処理装置における通知制御の一例を説明するための説明図である。ここで、図6は、本実施形態に係る画像処理装置が、図1に示す撮像装置10を制御することによって、第1静止部分の抽出が完了したことを特定の被写体(ユーザの一例)に対して通知させる例を示している。図6に示すAは、撮像装置10が通知を行う前の状態を示しており、図6に示すBは、本実施形態に係る画像処理装置による制御によって撮像装置10が通知を行っている状態の一例を示している。
本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)が完了すると、ネットワークを介して(あるいは、直接的に)有線または無線で接続された撮像装置10に対して、通知命令を送信する。本実施形態に係る画像処理装置から送信された通知命令を受信した撮像装置10は、受信した通知命令に基づいて、ランプを発光させることによって、視覚的に通知を行う(図6に示すB)。ここで、例えば図6のBに示すような視覚的な通知のような、本実施形態に係る通知は、例えば、上記(3)の処理(合成画像生成処理)が完了するまで継続されてもよいし、通知開始から一定時間経過後に停止されてもよい。
なお、本実施形態に係る画像処理装置における通知制御は、図6に示すような視覚的に通知をさせることに限られない。例えば、本実施形態に係る画像処理装置は、音声(音楽も含む。)により聴覚的に通知を行わせる通知命令を、通知を行う他の装置に送信することによって、聴覚的に通知をさせてもよい。ここで、聴覚的に通知をさせる場合における通知命令には、例えば、処理内容を示すデータ(命令そのもの)に加え、音声データがさらに含まれていてもよい。
また、上記では、本実施形態に係る画像処理装置が、通知を行う他の装置に対して通知命令を送信することによって、第1静止部分の抽出が完了したことをユーザに対して通知させる例を示したが、本実施形態に係る画像処理装置における通知制御は、上記に限られない。例えば本実施形態に係る画像処理装置が図6に示す撮像装置10であるときなど、本実施形態に係る画像処理装置が通知を行う場合には、本実施形態に係る画像処理装置は、通知制御として自装置を制御することによって、ユーザに対する通知を行ってもよい。
ここで、例えば特許文献1に記載の技術のような従来の技術との比較を行うために、上述した従来の技術において生じうる問題を説明するために用いた例における、本実施形態に係る画像処理方法に係る処理の結果の一例について説明する。
図7は、本実施形態に係る画像処理方法に係る処理の一例を示す説明図である。図7に示すAは、処理対象の画像(原画像)を示している。また、図7に示すBは、処理途中の画像の一例を示し、図7に示すCは、処理後に最終的に得られる合成画像(最終画像)の一例を示している。ここで、図7は、原画像が、従来の技術に係る画像処理の一例である図2と同様である場合、すなわち、特定の被写体が他の被写体により隠れておらず、動体が少ない場合を示している。
本実施形態に係る画像処理装置は、複数の原画像に基づき第1静止部分を抽出し(図7に示すB1)、第1静止部分以外の部分である第2静止部分を、複数の原画像に基づいて合成する(図7に示すB2)。よって、本実施形態に係る画像処理装置は、図7のAに示すような、特定の被写体が他の被写体により隠れておらず、動体が少ない場合には、動体が消去された画像を得ることができる(図7に示すC)。
図8は、本実施形態に係る画像処理方法に係る処理の一例を示す説明図である。図8に示すAは、処理対象の画像(原画像)を示している。また、図8に示すBは、処理途中の画像の一例を示し、図8に示すCは、処理後に最終的に得られる合成画像(最終画像)の一例を示している。ここで、図8は、原画像が、従来の技術に係る画像処理の一例である図3と同様である場合、すなわち、特定の被写体が他の被写体により隠れており、また、動体の数が図7に示す例よりも多い場合を示している。
本実施形態に係る画像処理装置は、複数の原画像に基づき第1静止部分を抽出し(図8に示すB1)、第1静止部分以外の部分である第2静止部分を、複数の原画像に基づいて抽出して、第1静止部分と第2静止部分とを合成する(図8に示すB2)。ここで、従来の技術が単純加算平均によって合成画像を得るのに対して、本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)それぞれにおいて、複数の静止画像に基づき算出された動きベクトルに基づいて静止部分を抽出する。
よって、本実施形態に係る画像処理装置は、図8のAに示すような、特定の被写体が他の被写体により隠れており、また、動体の数が図7に示す例よりも多い場合であっても、動体が消去された画像を得ることができる(図8に示すC)。また、図示はしていないが、本実施形態に係る画像処理装置は、従来の技術のような単純加算平均ではなく、算出された動きベクトルに基づいて静止部分を抽出するので、図4に示すような従来の技術において起こりうる問題も生じない。
図7に示すように、本実施形態に係る画像処理装置は、本実施形態に係る画像処理方法に係る処理を行うことによって、従来の技術を用いるときにおいて問題が生じない場合には、動体が消去された画像を得ることができる。また、図8に示すように、本実施形態に係る画像処理装置は、本実施形態に係る画像処理方法に係る処理を行うことによって、従来の技術を用いるときにおいて問題が生じる場合であっても、動体が消去された画像を得ることができる。
したがって、本実施形態に係る画像処理装置は、本実施形態に係る画像処理方法に係る処理として、例えば、上記(1)の処理(第1静止部分抽出処理)〜上記(3)の処理(合成画像生成処理)を行うことによって、複数の静止画像に基づいて、動体が消去された画像を得ることができる。
なお、本実施形態に係る画像処理方法に係る処理は、上記(1)の処理(第1静止部分抽出処理)〜上記(3)の処理(合成画像生成処理)に限られない。例えば、本実施形態に係る画像処理装置は、処理対象の画像を撮像する処理(撮像処理)を、本実施形態に係る画像処理方法に係る処理として行ってもよい。本実施形態に係る画像処理装置は、撮像処理において、例えば、撮像部(後述する)に撮像を行わせ、または、外部撮像装置を制御することによって、当該外部撮像装置に撮像を行わせる。撮像処理を行う場合には、本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)、および/または、上記(2)の処理(第2静止部分抽出処理)において、撮像処理により得られた撮像画像を、処理対象の画像とすることができる。
また、本実施形態に係る画像処理装置は、本実施形態に係る画像処理方法に係る処理として、さらに、上記(3)の処理(合成画像生成処理)において生成された合成画像を表示画面に表示させてもよい(表示制御処理)。本実施形態に係る画像処理装置が合成画像を表示させる表示画面としては、例えば、表示部(後述する)の表示画面や、ネットワークを介して(あるいは、直接的に)有線または無線で接続された外部装置の表示画面などが挙げられる。
ここで、本実施形態に係る表示制御処理としては、上記(3)の処理(合成画像生成処理)において生成された、最終的な合成画像を表示画面に表示させる処理が挙げられるが、本実施形態に係る表示制御処理は、上記に限られない。例えば、本実施形態に係る画像処理装置は、最終的な合成画像が得られるまでの本実施形態に係る画像処理方法に係る処理の経過を、表示画面に表示させてもよい。
図9は、本実施形態に係る表示制御処理の一例を示す説明図であり、本実施形態に係る画像処理方法に係る処理の経過を示す経過表示の一例を示している。ここで、図9は、表示制御処理の結果の一例を示しており、最終的な合成画像が得られるまでの本実施形態に係る画像処理方法に係る処理の経過を表示画面に表示させる場合において表示画面に表示される画像を、時系列で示している。
本実施形態に係る画像処理装置は、複数の静止画像に基づいて第1静止部分を抽出し、抽出された第1静止部分を示す画像(合成画像)を表示画面に表示させる(図9に示すA)。ここで、図9に示すAでは、本実施形態に係る画像処理装置が、上記(1)の処理(第1静止部分抽出処理)において顔認識処理および輪郭抽出処理を行うことによって、特定の被写体を含む最小限の領域を第1静止部分として抽出した例を示している。なお、本実施形態に係る第1静止部分抽出処理の結果得られる第1静止部分が、図9のAに示すような、特定の被写体を含む最小限の領域に限られないことは、言うまでもない。
また、本実施形態に係る画像処理装置は、例えば、画像において第1静止部分として抽出されなかった部分(第1静止部分および第2静止部分のいずれにも該当しない部分の一例)に対して色彩を付し、色彩が付された合成画像を表示画面に表示させる。ここで、本実施形態に係る画像処理装置は、例えば図9のAに示すように、グレーなどの単色の色彩を付すが、本実施形態に係る画像処理装置が画像において第1静止部分として抽出されなかった部分に付す色彩は、上記に限られない。
第1静止部分が抽出されると、本実施形態に係る画像処理装置は、複数の静止画像に基づいて第2静止部分を抽出する。本実施形態に係る画像処理装置は、例えば新たな第2静止部分が抽出されるごとに、第1静止部分、または既に生成されている合成画像と、新たに抽出された第2静止部分とを合成して、新たな合成画像を生成する。そして、本実施形態に係る画像処理装置は、合成画像が生成されるごとに、生成された合成画像を表示画面に表示させる(図9のB〜図9のG)。
また、本実施形態に係る画像処理装置は、例えば、画像において第1静止部分および第2静止部分のいずれにも該当しない部分に対して色彩を付し、色彩が付された合成画像を表示画面に表示させる。ここで、本実施形態に係る画像処理装置は、例えば図9のB〜図9のGに示すように、グレーなどの単色の色彩を付すが、本実施形態に係る画像処理装置が画像において第1静止部分、第2静止部分として抽出されなかった部分に付す色彩は、上記に限られない。
本実施形態に係る画像処理装置において例えば上記のような処理が行われることによって、表示画面に表示される画像は、例えば図9のB〜図9のGに示すように、第1静止部分および第2静止部分のいずれにも該当しない部分(図9のA〜図9のFに示すグレーの色彩が付された部分)の面積が徐々に小さくなる。したがって、本実施形態に係る画像処理装置が、例えば図9に示すような経過表示を行うことによって、ユーザは、本実施形態に係る画像処理方法に係る処理の経過を視覚的に確認することができる。また、本実施形態に係る画像処理装置が、例えば図9に示すような経過表示を行うことによって、ユーザは、最終的な合成画像が得られるまであとどのくらい時間がかかりそうかを予想することが可能となる。
なお、本実施形態に係る画像処理方法に係る処理の経過を示す経過表示は、図9に示す例に限られない。図10は、本実施形態に係る表示制御処理の他の例を示す説明図であり、本実施形態に係る画像処理方法に係る処理の経過を示す経過表示の一例を示している。ここで、図10に示すAに示す画像は、図9に示すAに示す画像に対応し、同様に、図10に示すB〜Gそれぞれに示す画像は、図9に示すB〜Gに示す画像に対応している。
例えば図10に示すように、本実施形態に係る画像処理装置は、経過表示において、処理の進捗状況(または、合成画像の完成度合い)を示すプログレスバーPを表示させてもよい。プログレスバーPが表示されることによって、本実施形態に係る画像処理装置は、処理の進捗状況を視覚的にユーザに提示することができる。なお、本実施形態に係る処理の進捗状況の提示方法は、図10に示すプログレスバーPに限られない。例えば、本実施形態に係る画像処理装置は、合成画像が完成するまでに必要な時間(または、予想時間)を表示してもよく、また、合成画像が完成するまでに必要な時間と、図10に示すような処理の進捗状況(または、合成画像の完成度合い)とを、共に表示させてもよい。
また、本実施形態に係る画像処理装置は、例えば、本実施形態に係る画像処理方法に係る処理の結果を、色彩を付すことにより表してもよい。
図11は、本実施形態に係る表示制御処理の他の例を示す説明図であり、本実施形態に係る画像処理方法に係る処理の経過を示す経過表示の一例を示している。ここで、図11は、表示制御処理の結果の一例を示しており、図9と同様に、最終的な合成画像が得られるまでの本実施形態に係る画像処理方法に係る処理の経過を表示画面に表示させる場合において表示画面に表示される画像を、時系列で示している。また、図11では、画像において静止部分として抽出された部分に対して色彩(便宜上、“Red”、“Blue”、“Green”と色彩を表している。)が付されている例を示している。
本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)において抽出された第1静止部分に対して、色彩“Red”を付す(図11に示すA)。また、本実施形態に係る画像処理装置は、上記(2)の処理(第2静止部分抽出処理)において抽出された第2静止部分に対して、他の色彩を付す。例えば図11に示すBでは、抽出された第2静止部分に対して色彩“Blue”と色彩“Green”とが付された例を示している。ここで、上記(2)の処理(第2静止部分抽出処理)中に、例えば色彩“Green”が付された被写体の人物が動いた場合には、当該被写体の人物に付された色彩“Green”が消える(図11に示すC)。また、上記(2)の処理(第2静止部分抽出処理)の対象となる静止画像の数が増え、第1静止部分および第2静止部分のいずれにも該当しない部分の面積が小さくなると、色彩がふされていない部分が徐々に消去される(図11に示すD〜図11に示すE)。そして、最終的な合成画像が表示画面に表示される(図11に示すF)。
例えば図11に示すような色彩によって本実施形態に係る画像処理方法に係る処理の経過が表現される場合であっても、ユーザは、図9に示す経過表示と同様に、本実施形態に係る画像処理方法に係る処理の経過を視覚的に確認することができる。また、本実施形態に係る画像処理装置が、例えば図11に示すような経過表示を行うことによって、ユーザは、図9に示す経過表示と同様に、最終的な合成画像が得られるまであとどのくらい時間がかかりそうかを予想することが可能となる。
本実施形態に係る画像処理装置が、本実施形態に係る画像処理方法に係る処理として、さらに表示制御処理を行うことによって、例えば図9、図11に示すような経過表示を実現することができる。
ここで、本実施形態に係る画像処理装置は、例えば、上記(1)の処理(第1静止部分抽出処理)および上記(2)の処理(第2静止部分抽出処理)それぞれの対象の静止画像に対して行った、本実施形態に係る画像処理方法に係る処理の結果を、表示画面に表示させるが、本実施形態に係る表示制御処理は、上記に限られない。例えば、本実施形態に係る画像処理装置は、処理対象の静止画像が縮小された縮小画像に対して行った、本実施形態に係る画像処理方法に係る処理の結果を、表示画面に表示させてもよい。
より具体的には、本実施形態に係る画像処理装置は、例えば、上記(1)の処理(第1静止部分抽出処理)において、処理対象の静止画像が縮小された縮小画像に基づいて、縮小画像に対応する第1静止部分を抽出する。また、本実施形態に係る画像処理装置は、上記(2)の処理(第2静止部分抽出処理)において、例えば、処理対象の静止画像の数が増えるごとに、処理対象の静止画像が縮小された縮小画像に基づいて、縮小画像に対応する新たな第2静止部分を抽出する。また、本実施形態に係る画像処理装置は、上記(3)の処理(合成画像生成処理)において、例えば、縮小画像に対応する第1静止部分、または既に生成されている縮小画像に対応する合成画像と、新たに抽出された縮小画像に対応する第2静止部分とを合成する。ここで、本実施形態に係る画像処理装置は、上記(3)の処理(合成画像生成処理)において、例えば、縮小画像に対応する第2静止部分が新たに抽出されるごとに合成を行うことによって、縮小画像に対応する新たな合成画像を生成する。そして、本実施形態に係る画像処理装置は、上記表示制御処理において、例えば、縮小画像に対応する合成画像が生成されるごとに、生成された合成画像を表示画面に表示させる。
また、例えば上記のように、縮小画像に対して行った本実施形態に係る画像処理方法に係る処理の結果を表示画面に表示させる場合には、本実施形態に係る画像処理装置は、例えば、縮小画像に対応する最終的な合成画像が得られた後に、処理対象の静止画像に対する処理を行う。ここで、縮小画像に対する経過表示に係る処理は、処理対象の静止画像に対する経過表示に係る処理よりも、処理の負荷が大幅に軽減される。つまり、縮小画像に対する経過表示に係る処理に要する時間は、処理対象の静止画像に対する経過表示に係る処理に要する時間よりも、より短くなる。
例えば上記のように、本実施形態に係る画像処理装置が縮小画像に対して行った本実施形態に係る画像処理方法に係る処理の結果を表示画面に表示させることによって、経過表示が開始されてから完了するまでの時間が短縮される。よって、本実施形態に係る画像処理装置は、本実施形態に係る画像処理方法に係る処理の経過を示す経過表示を行う場合において、ユーザの待ち時間の短縮を図ることができる。
[3]本実施形態に係る画像処理方法に係る処理における処理の具体例
次に、上述した本実施形態に係る画像処理方法に係る処理における処理について、より具体的に説明する。
(i)所望の合成画像の取得に係る処理
図12は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。図12に示すAは、本実施形態に係る画像処理装置が、ある複数の静止画像に対して上記(1)の処理(第1静止部分抽出処理)〜上記(3)の処理(合成画像生成処理)を行った結果得られた合成画像の一例を示している。また、図12に示すBは、ユーザが所望する画像の一例を示している。
図12のA、Bに示すように、本実施形態に係る画像処理装置が処理の対象とした複数の静止画像によっては、ユーザが所望する画像が得られない場合が起こりうる。例えば、図12に示す例では、図12のAに示す被写体A1が、合成画像に不要な被写体に該当する。ここで、図12のAにおいて不要な被写体A1が合成画像に残っている理由は、複数の静止画像において、被写体A1が動いていると判定されないからである。
図12のAに示すような不要な被写体A1が含まれる場合であっても、図12のAに示す合成画像と、さらに他の静止画像とに基づいて、本実施形態に係る画像処理装置が上記(2)の処理(第2静止部分抽出処理)を行うことによって、図12のBに示す所望の合成画像を得ることができる。より具体的には、例えば、撮像をさらに行うことにより得られた画像や、記憶媒体に記憶されている画像と、図12のAに示す合成画像とに基づいて、被写体A1についての動きが検出されれば、図12のBに示す所望の合成画像が得られる。なお、図12に示す被写体A2は、上記(1)の処理(第1静止部分抽出処理)において第1静止部分として抽出されている。そのため、仮に、図12のBに示す所望の合成画像を得るためにさらなる撮像を行う場合であっても、被写体A2は静止している必要はなく、撮像範囲に存在していなくてもよい。
(ii)静止部分の抽出に係る処理
図13は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。ここで、図13は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)における、静止部分の抽出に係る処理の第1の例を示している。
本実施形態に係る画像処理装置は、図13のAに示すA1のように、静止画像をブロックに分割する。また、本実施形態に係る画像処理装置は、図13のBに示す他の静止画像において、図13のAに示す静止画像と同一のブロックサイズにより、最も誤差が小さい部分を検索する。また、本実施形態に係る画像処理装置は、上記のように複数の静止画像間における最小誤差の部分を検索し、他の静止画像(例えば図13に示すB)における、一の静止画像(例えば図13に示すA)に対応する位置からのずれ量を動きベクトルとする(図13に示すC)。
動きベクトルが算出されると、本実施形態に係る画像処理装置は、例えば、ベクトルが0(ゼロ)、または、ベクトルの絶対値に係る閾値を用いた閾値判定により0(ゼロ)とみなせる値である部分を、静止部分と判定する。そして、本実施形態に係る画像処理装置は、静止部分と判定されたブロックに対応する画像部分を、静止領域として抽出する(図13に示すD)。
本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)において、例えば上記のように動きベクトルを算出することによって、静止部分(第1静止部分、第2静止部分)を抽出する。なお、本実施形態に係る静止部分の抽出に係る処理は、図13を参照して説明した処理に限られない。
図14は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。ここで、図14は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)における、静止部分の抽出に係る処理の第2の例を示している。
図13では2つの静止画像を用いて静止部分を抽出する例を示したが、本実施形態に係る画像処理装置は、図14に示すように、3つ以上の静止画像に基づいて、静止部分を抽出することも可能である。より具体的には、本実施形態に係る画像処理装置は、2つの静止画像間で、図13に示す第1の例に係る処理を行い動きベクトルを検出する。そして、本実施形態に係る画像処理装置は、一致しないブロック(図14に示すB1)や、動きが検出されたブロック(図14に示すB2)を除いたブロックを、静止領域として抽出する(図14に示すC、D)。
図15は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。ここで、図15は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)における、静止部分の抽出に係る処理の第3の例を示している。
図15は、本実施形態に係る画像処理装置が、3つ以上の静止画像に基づいて静止部分を抽出する他の例を示しており、処理対象の静止画像において静止したり動いたりする部分が存在する場合における処理の一例を示している。図15に示すB1、B3のように、2つの静止画像間において静止部分と判定した場合であっても、図15に示すB2のように、ある2つの静止画像間においては、動きが検出されたブロックが検出されることが起こりうる。図15のBに示すような場合には、本実施形態に係る画像処理装置は、例えば、静止部分と判定されていたブロックが動いたと判定されたブロック(図15のC1)や、動き先のブロック(図15のC2)など、ある特定の静止画像間で動くブロックを、動きが検出されたブロックとする(図15に示すC)。そして、本実施形態に係る画像処理装置は、動きが検出されたブロック(図15に示すC1、C2)を除いたブロックを、静止領域として抽出する(図15に示すD)。
例えば図15に示す第3の例に係る処理を行うことによって、本実施形態に係る画像処理装置は、少しでも動く領域を静止部分として抽出しないことが可能となる。
図16は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。ここで、図16は、上記(1)の処理(第1静止部分抽出処理)における、静止部分の抽出に係る処理の第4の例を示している。
上述したように、本実施形態に係る画像処理装置は、顔検出処理や輪郭抽出処理、または、任意の物体認識技術に係る処理を行うことによって、抽出対象の特定の被写体を特定することが可能である。よって、本実施形態に係る画像処理装置は、例えば、静止部分として抽出された部分(例えば、図16に示すA)に対して、顔検出処理および輪郭抽出処理を行うことによって、静止部分として抽出された部分に複数の被写体が含まれる場合においても、特定の被写体の人物のみが含まれる第1静止部分を抽出することができる。
本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)において、例えば上記第1の例に係る処理〜第3の例に係る処理や、上記第4の例に係る処理を行うことによって、静止部分(第1静止部分、第2静止部分)を抽出する。なお、本実施形態に係る画像処理装置における静止部分の抽出に係る処理が、上記第1の例に係る処理〜第4の例に係る処理に限られないことは、言うまでもない。
(iii)ずれの補正処理
上記(ii)において示したように、本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)において、例えば算出された動きベクトルに基づいて静止部分を抽出する。ここで、例えば、処理対象の静止画像に、垂直方向のずれや、水平方向のずれ、または、回転方向のずれなどの各種ずれが存在する場合には、当該各種ずれに起因して、静止部分の抽出精度が下がる恐れがある。
図17は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。ここで、図17に示すA、Bは、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)の対象の静止画像の一例を示している。
図17のBに示すように、処理対象の静止画像には、回転方向のずれなどのずれが存在しうる。そのため、仮に、本実施形態に係る画像処理装置が、図17のAに示す画像と、図17のBに示す画像とに対して、上記(ii)に示す処理(静止部分の抽出に係る処理)を行った場合には、ずれに起因して動きベクトルが検出されることによって、抽出される静止部分が小さくなってしまう。
そこで、本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)それぞれにおいて、処理対象の静止画像における、垂直方向のずれ、水平方向のずれ、または、回転方向のずれのうちの、1または2以上のずれを補正する(例えば、図17に示すC)。そして、本実施形態に係る画像処理装置は、補正後の静止画像を用いて、静止部分(第1静止部分、第2静止部分)を抽出する。
図18は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る回転方向のずれを補正する処理の一例を示している。
本実施形態に係る画像処理装置は、処理対象の静止画像(図18に示すA、B)に基づいて、動きベクトルを算出する(図18に示すC)。ここで、図18のCに示すC1、C2部分の動きベクトルが、被写体の動きに起因する動きベクトルであり、他の部分の動きベクトルは、回転方向のずれに起因する動きベクトルである。
ここで、例えば処理対象の静止画像が、撮像装置によって撮像された画像である場合には、回転方向のずれなどの各種ずれに起因する動きベクトルは、撮像装置側に起因する動きに従う。よって、本実施形態に係る画像処理装置は、1つの動きを示す多数のベクトル値で回転角度、中心、シフト量を算出し(図18の例では、回転角度が算出される。)、算出された値に基づいて処理対象の静止画像である図18のBに示す画像を補正する(図18に示すD)。
図19は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る水平方向のずれを補正する処理の一例を示している。
本実施形態に係る画像処理装置は、処理対象の静止画像(図19に示すA、B)に基づいて、動きベクトルを算出する(図19に示すC)。ここで、図19のCに示すC1、C2部分の動きベクトルが、被写体の動きに起因する動きベクトルであり、他の部分の動きベクトルは、水平方向のずれに起因する動きベクトルである。
ここで、例えば処理対象の静止画像が、撮像装置によって撮像された画像である場合には、水平方向のずれなどの各種ずれに起因する動きベクトルは、撮像装置側に起因する動きに従う。よって、本実施形態に係る画像処理装置は、1つの動きを示す多数のベクトル値で回転角度、中心、シフト量を算出し(図19の例では、シフト量が算出される。)、算出された値に基づいて処理対象の静止画像である図19のBに示す画像を補正する(図19に示すD)。
本実施形態に係る画像処理装置は、例えば、図18、図19に示すように、処理対象の静止画像における、垂直方向のずれ、水平方向のずれ、または、回転方向のずれのうちの、1または2以上のずれを補正する。そして、本実施形態に係る画像処理装置は、補正後の静止画像を用いて、静止部分(第1静止部分、第2静止部分)を抽出する。また、本実施形態に係る画像処理装置は、動きベクトルだけでなく、例えば、手振れセンサ(例えば、撮像装置などが手振れ補正のために備える角速度センサ)の検出結果を示す情報に基づいて、上記のようなずれを補正してもよい。
(iv)ノイズ低減処理
図20は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図である。
本実施形態に係る画像処理方法に係る、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)では、上述したように、例えば動きベクトルによって静止部分を抽出する。そのため、例えば、複数の静止画像から、動きベクトルによって一致度が高いと判定可能な部分が抽出される可能性がある。つまり、例えば、動画像を構成するフレーム画像が処理対象の静止画像である場合などには、処理対象の複数の静止画像の中に、抽出された静止部分(第1静止部分、第2静止部分)を有する複数の静止画像が存在することが起こりうる。
また、抽出された静止部分(第1静止部分、第2静止部分)を有する複数の静止画像が存在する場合(例えば、図20のBに示すB1、B2)には、いずれかの静止画像にノイズNが存在することもありうる(例えば図20のBに示すB2)
そこで、本実施形態に係る画像処理装置は、例えば、上記(1)の処理(第1静止部分抽出処理)において、処理対象の複数の静止画像の中に、抽出された第1静止部分を有する複数の静止画像がある場合には、複数の静止画像を加算する。より具体的には、本実施形態に係る画像処理装置は、上記の場合において、例えば、複数の静止画像における第1静止部分に対応する領域に対応する信号を平均した信号が示す画像を、第1静止部分とする。
例えば上記のように、上記(1)の処理(第1静止部分抽出処理)において、複数の静止画像を加算することによって、本実施形態に係る画像処理装置は、例えば図20のB2に示すような、ノイズを低減することができる。
また、本実施形態に係る画像処理装置は、例えば、上記(2)の処理(第2静止部分抽出処理)において、上記(1)の処理(第1静止部分抽出処理)におけるノイズ低減処理と同様の処理を行うことが可能である。
(v)第1静止部分抽出処理における処理時間の制御処理
例えば、本実施形態に係る画像処理装置が撮像機能を有し、撮像によって上記(1)の処理(第1静止部分抽出処理)の対象となる複数の静止画像を得る場合には、本実施形態に係る画像処理装置は、撮像を制御することによって、上記(1)の処理(第1静止部分抽出処理)における処理時間を制御する、処理時間制御処理を行ってもよい。
図21、図22は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図であり、本実施形態に係る処理時間制御処理の一例を説明するための説明図である。
図21は、予め設定された設定値やユーザ操作に基づき設定された設定値(図21に示すA、C)や、ユーザ操作に基づいて(図21に示すB)、上記(1)の処理(第1静止部分抽出処理)における処理時間を制御する例を示している。例えば、本実施形態に係る画像処理装置は、撮像枚数が10枚となったときに上記(1)の処理(第1静止部分抽出処理)を終了し(図21に示すA)、撮像開始から1秒が経過したときに上記(1)の処理(第1静止部分抽出処理)を終了する(図21に示すB)。また、本実施形態に係る画像処理装置は、例えば、ユーザにより特定の操作が行われたことが検出されたときに、上記(1)の処理(第1静止部分抽出処理)を終了する(図21に示すC)。ここで、ユーザによる特定の操作が外部装置において行われる場合には、本実施形態に係る画像処理装置は、例えば、当該外部装置から送信された、特定の操作が行われたことを示す操作信号を受信したときに、ユーザにより特定の操作が行われたことを検出する。
なお、本実施形態に係る処理時間制御処理は、例えば図21に示すような設定値やユーザ操作に基づき行われることに限られない。例えば、本実施形態に係る画像処理装置は、動きベクトル検出による動き量の値と、所定の閾値とを用いた閾値処理によって、上記(1)の処理(第1静止部分抽出処理)を自動的に終了させてもよい。ここで、上記所定の閾値は、予め規定された固定値であってもよいし、ユーザが変更可能な可変値であってもよい。
また、本実施形態に係る画像処理装置は、例えば図21のBに示すように、ユーザにより特定の操作が行われたことが検出されたときに、上記(1)の処理(第1静止部分抽出処理)を終了する場合には、本実施形態に係る表示制御処理によって処理の経過を表示画面に表示させてもよい。本実施形態に係る経過表示が行われることによって、ユーザは、処理の経過を視覚的に確認しながら、特定のユーザ操作を行うことができる。
図22は、撮像に係る設定を示している。図22のAに示すような連写速度や、図22のBに示すような連写速度が、予めまたはユーザ操作により設定されることによって、一定時間に得られる画像を制御することが可能であり、間接的に上記(1)の処理(第1静止部分抽出処理)における処理時間が制御される。なお、本実施形態に係る処理時間制御処理は、例えば図22に示すような設定値に基づき行われることに限られない。例えば、本実施形態に係る画像処理装置は、動きベクトル検出による動き量の値と、所定の閾値とを用いた閾値処理によって、連写速度や連写速度を制御(撮像を制御)してもよい。
本実施形態に係る画像処理装置は、上述した本実施形態に係る画像処理方法に係る処理において、例えば上記(i)〜(v)に示す処理を行う。なお、本実施形態に係る画像処理方法に係る処理において行われる処理が、上記(i)〜(v)に示す処理に限られないことは、言うまでもない。
[4]本実施形態に係る画像処理方法に係る処理
次に、本実施形態に係る画像処理方法に係る処理の一例について、より具体的に説明する。図23は、本実施形態に係る画像処理方法に係る処理の一例を示す流れ図である。以下では、図23に示す本実施形態に係る画像処理方法に係る処理を、本実施形態に係る画像処理装置が行う場合を例に挙げて説明する。また、図23は、本実施形態に係る画像処理装置が、処理対象の複数の静止画像に対応する縮小画像を用いた経過表示を行った後に、処理対象の複数の静止画像を用いた処理を行う例を示している。
本実施形態に係る画像処理装置は、経過表示処理を行う(S100)。
図24は、本実施形態に係る画像処理方法に係る経過表示処理の一例を示す流れ図である。ここで、図24のステップS200の処理〜ステップS210の処理が、上記(1)の処理(第1静止部分抽出処理)、上記(3)の処理(合成画像生成処理)、および本実施形態に係る表示制御処理に該当する。また、図24のステップS200の処理〜ステップS210の処理は、図5に示す“被写体O抽出時間”に行われる処理に該当する。また、図24のステップS216の処理〜ステップS222の処理が、上記(2)の処理(第1静止部分抽出処理)、上記(3)の処理(合成画像生成処理)、および本実施形態に係る表示制御処理に該当する。
本実施形態に係る画像処理装置は、処理対象の1枚目の画像を取得し、当該画像の縮小画像を生成する(S200)。ここで、本実施形態に係る画像処理装置は、例えば、設定された画像サイズ(処理対象の画像サイズ>設定された画像サイズ)へと画像サイズを変更するリサイズ処理によって、縮小画像を生成する。なお、本実施形態に係る画像処理装置は、設定された画像サイズへと画像サイズを変更することができれば、任意のリサイズ処理を用いることが可能である。
本実施形態に係る画像処理装置は、処理対象の2枚目の画像を取得し、ステップS200と同様に、当該画像の縮小画像を生成する(S202)。
ステップS200、S202の処理が完了すると、本実施形態に係る画像処理装置は、生成された縮小画像に基づいて動きベクトルを算出する(S204)。ここで、本実施形態に係る画像処理装置は、ステップS204において、例えば図13を参照して説明したように、縮小画像をブロックに分割して動きベクトルを算出する。
本実施形態に係る画像処理装置は、ステップS204において算出された動きベクトルに基づいて静止部分を抽出し、既に抽出されている部分がある場合には、抽出された静止部分を加算する(S206)。また、本実施形態に係る画像処理装置は、ステップS206において抽出された抽出部分のうち、動きベクトルに基づき動いたと判定された部分を削除する(S208)。ここで、ステップS208の処理は、例えば図15を参照して示した処理に相当する。
本実施形態に係る画像処理装置は、例えば、顔検出処理や輪郭抽出処理などを行うことによって、抽出対象の特定の被写体を抽出する(S210)。
本実施形態に係る画像処理装置は、画像のうちの静止部分(第1静止部分)として抽出されなかった部分の表示を変えて、抽出された静止部分(第1静止部分)を示す画像を表示画面に表示させる(S212)。ここで、ステップS212における表示を変える方法としては、例えば、図9、図11に示した方法が挙げられる。
ステップS212の処理が行われると、本実施形態に係る画像処理装置は、抽出対象の特定の被写体全体が抽出されたか否かを判定する(S214)。ここで、本実施形態に係る画像処理装置は、例えば、輪郭抽出処理の結果などに基づいて、特定の被写体の輪郭が全て検出されたと判定された場合に、特定の被写体全体が抽出されたと判定する。
ステップS214において抽出対象の特定の被写体全体が抽出されたと判定されない場合には、本実施形態に係る画像処理装置は、ステップS202からの処理を繰り返す。
また、ステップS214において抽出対象の特定の被写体全体が抽出されたと判定された場合には、本実施形態に係る画像処理装置は、処理対象の画像を1枚取得し、ステップS200と同様に、当該画像の縮小が像を生成する(S216)。
ステップS216の処理が完了すると、本実施形態に係る画像処理装置は、ステップS204と同様に、生成された縮小画像に基づいて動きベクトルを算出する(S218)。
本実施形態に係る画像処理装置は、ステップS218において算出された動きベクトルに基づいて静止部分を抽出し、新たに抽出された静止部分を既に抽出されている静止部分に加算する(S220)。また、本実施形態に係る画像処理装置は、ステップS208と同様に、ステップS220において抽出された抽出部分のうち、動きベクトルに基づき動いたと判定された部分を削除する(S222)。
本実施形態に係る画像処理装置は、画像のうちの静止部分(第1静止部分、および第2静止部分)として抽出されなかった部分の表示を変えて、抽出された静止部分(第1静止部分、および第2静止部分)を示す画像を表示画面に表示させる(S224)。ここで、ステップS224における表示を変える方法としては、例えば、図9、図11に示した方法が挙げられる。
ステップS224の処理が行われると、本実施形態に係る画像処理装置は、画像全体が抽出されたか否かを判定する(S226)。ここで、本実施形態に係る画像処理装置は、例えば、画像において第1静止部分および第2静止部分のいずれにも該当しない部分が存在しない場合に、画像全体が抽出されたと判定する。
ステップS226において抽出対象の特定の被写体全体が抽出されたと判定されない場合には、本実施形態に係る画像処理装置は、ステップS216からの処理を繰り返す。また、ステップS226において画像全体が抽出されたと判定された場合には、本実施形態に係る画像処理装置は、本実施形態に係る経過表示処理を終了する。
本実施形態に係る画像処理装置は、例えば図24に示す処理を、図23のステップ100に示す経過表示処理として行う。なお、本実施形態に係る経過表示処理は、図24に示す例に限られない。例えば、本実施形態に係る画像処理装置は、図24に示すステップS210の処理を行わなくてもよい。
再度図23を参照して、本実施形態に係る画像処理方法に係る処理の一例について説明する。ステップS100の処理が完了すると、本実施形態に係る画像処理装置は、処理対象の複数の静止画像を用いた画像処理を行う(S102)。そして、ステップS102の処理が完了すると、本実施形態に係る画像処理装置は、本実施形態に係る画像処理方法に係る処理を終了する。
図25は、本実施形態に係る画像処理方法に係る経過表示処理の一例を示す流れ図である。ここで、図25のステップS300の処理〜ステップS310の処理が、上記(1)の処理(第1静止部分抽出処理)、上記(3)の処理(合成画像生成処理)、および本実施形態に係る表示制御処理に該当する。また、図25のステップS316の処理〜ステップS322の処理が、上記(2)の処理(第1静止部分抽出処理)、上記(3)の処理(合成画像生成処理)、および本実施形態に係る表示制御処理に該当する。
本実施形態に係る画像処理装置は、処理対象の1枚目の画像を取得する(S300)。ここで、ステップS300において取得される画像は、図24のステップS200において生成された縮小画像に対応する画像である。
本実施形態に係る画像処理装置は、処理対象の2枚目以降の画像を1枚取得する(S302)。ここで、ステップS302において取得される画像は、図24のステップS202において生成された縮小画像に対応する画像である。
ステップS300、S302の処理が完了すると、本実施形態に係る画像処理装置は、取得された画像に基づいて、図24のステップS204と同様に、動きベクトルを算出する(S304)。
本実施形態に係る画像処理装置は、ステップS304において算出された動きベクトルに基づいて静止部分を抽出し、既に抽出されている部分がある場合には、抽出された静止部分を加算する(S306)。また、本実施形態に係る画像処理装置は、図24のステップS208と同様に、ステップS306において抽出された抽出部分のうち、動きベクトルに基づき動いたと判定された部分を削除する(S308)。
本実施形態に係る画像処理装置は、例えば、顔検出処理や輪郭抽出処理などを行うことによって、抽出対象の特定の被写体を抽出する(S310)。
ステップS310の処理が行われると、本実施形態に係る画像処理装置は、図24のステップS214と同様に、抽出対象の特定の被写体全体が抽出されたか否かを判定する(S312)。ステップS312において抽出対象の特定の被写体全体が抽出されたと判定されない場合には、本実施形態に係る画像処理装置は、ステップS302からの処理を繰り返す。
また、ステップS312において抽出対象の特定の被写体全体が抽出されたと判定された場合には、本実施形態に係る画像処理装置は、処理対象の画像を1枚取得する(S314)。ここで、ステップS300において取得される画像は、図24のステップS216において生成された縮小画像に対応する画像である。
ステップS314の処理が完了すると、本実施形態に係る画像処理装置は、ステップS304と同様に、取得された画像に基づいて動きベクトルを算出する(S316)。
本実施形態に係る画像処理装置は、ステップS316において算出された動きベクトルに基づいて静止部分を抽出し、新たに抽出された静止部分を既に抽出されている静止部分に加算する(S318)。また、本実施形態に係る画像処理装置は、ステップS308と同様に、ステップS318において抽出された抽出部分のうち、動きベクトルに基づき動いたと判定された部分を削除する(S320)。
ステップS320の処理が行われると、本実施形態に係る画像処理装置は、画像全体が抽出されたか否かを判定する(S322)。ここで、本実施形態に係る画像処理装置は、例えば、画像において第1静止部分および第2静止部分のいずれにも該当しない部分が存在しない場合に、画像全体が抽出されたと判定する。
ステップS322において抽出対象の特定の被写体全体が抽出されたと判定されない場合には、本実施形態に係る画像処理装置は、ステップS314からの処理を繰り返す。また、ステップS322において画像全体が抽出されたと判定された場合には、本実施形態に係る画像処理装置は、本実施形態に係る画像処理を終了する。
本実施形態に係る画像処理装置は、例えば図25に示す処理を、図23のステップ102に示す画像処理として行う。なお、本実施形態に係る画像処理は、図25に示す例に限られない。例えば、本実施形態に係る画像処理装置は、図25に示すステップS310の処理を行わなくてもよい。
本実施形態に係る画像処理装置は、本実施形態に係る画像処理方法に係る処理として、例えば図23に示す処理を行う。なお、本実施形態に係る画像処理方法に係る処理は、図23に示す処理に限られない。例えば、図23では、本実施形態に係る画像処理装置が、縮小画像を表示画面に表示させる経過表示処理と、処理対象の画像に基づく画像処理とを行う例を示したが、本実施形態に係る画像処理装置は、処理対象の画像に基づく画像処理と共に、当該画像処理の経過を表示画面に表示させてもよい。
(本実施形態に係る画像処理装置)
次に、上述した本実施形態に係る画像処理方法に係る処理を行うことが可能な、本実施形態に係る画像処理装置の構成の一例について、説明する。
図26は、本実施形態に係る画像処理装置100の構成の一例を示すブロック図である。画像処理装置100は、例えば、通信部102と、制御部104とを備える。
また、画像処理装置100は、例えば、ROM(Read Only Memory。図示せず)や、RAM(図示せず)、記憶部(図示せず)、ユーザが操作可能な操作部(図示せず)、様々な画面を表示画面に表示する表示部(図示せず)などを備えていてもよい。画像処理装置100は、例えば、データの伝送路としてのバス(bus)により上記各構成要素間を接続する。
ここで、ROM(図示せず)は、制御部104が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、制御部104により実行されるプログラムなどを一時的に記憶する。
記憶部(図示せず)は、画像処理装置100が備える記憶手段であり、例えば、画像データや、アプリケーションなど様々なデータを記憶する。ここで、記憶部(図示せず)としては、例えば、ハードディスク(Hard Disk)などの磁気記録媒体や、EEPROM(Electrically Erasable and Programmable Read Only Memory)、フラッシュメモリ(flash memory)などの不揮発性メモリ(nonvolatile memory)などが挙げられる。また、記憶部(図示せず)は、画像処理装置100から着脱可能であってもよい。
[画像処理装置100のハードウェア構成例]
図27は、本実施形態に係る画像処理装置100のハードウェア構成の一例を示す説明図である。画像処理装置100は、例えば、MPU150と、ROM152と、RAM154と、記録媒体156と、入出力インタフェース158と、操作入力デバイス160と、表示デバイス162と、通信インタフェース164とを備える。また、画像処理装置100は、例えば、データの伝送路としてのバス166で各構成要素間を接続する。
MPU150は、例えば、MPU(Micro Processing Unit)や、各種処理回路などで構成され画像処理装置100全体を制御する制御部104として機能する。また、MPU150は、画像処理装置100において、例えば、後述する抽出部110、合成部112、表示制御部114、および記録処理部116の役目を果たす。
ROM152は、MPU150が使用するプログラムや演算パラメータなどの制御用データなどを記憶する。RAM154は、例えば、MPU150により実行されるプログラムなどを一時的に記憶する。
記録媒体156は、記憶部(図示せず)として機能し、例えば、操作対象画像を構成するデータや、アプリケーションなど様々なデータを記憶する。ここで、記録媒体156としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリが挙げられる。また、記録媒体156は、画像処理装置100から着脱可能であってもよい。
入出力インタフェース158は、例えば、操作入力デバイス160や、表示デバイス162を接続する。操作入力デバイス160は、操作部(図示せず)として機能し、また、表示デバイス162は、表示部(図示せず)として機能する。ここで、入出力インタフェース158としては、例えば、USB(Universal Serial Bus)端子や、DVI(Digital Visual Interface)端子、HDMI(High-Definition Multimedia Interface)端子、各種処理回路などが挙げられる。また、操作入力デバイス160は、例えば、画像処理装置100上に備えられ、画像処理装置100の内部で入出力インタフェース158と接続される。操作入力デバイス160としては、例えば、ボタン、方向キー、ジョグダイヤルなどの回転型セレクター、あるいは、これらの組み合わせなどが挙げられる。また、表示デバイス162は、例えば、画像処理装置100上に備えられ、画像処理装置100の内部で入出力インタフェース158と接続される。表示デバイス162としては、例えば、液晶ディスプレイ(Liquid Crystal Display;LCD)や有機ELディスプレイ(organic ElectroLuminescence display。または、OLEDディスプレイ(Organic Light Emitting Diode display)ともよばれる。)などが挙げられる。
なお、入出力インタフェース158が、画像処理装置100の外部装置としての操作入力デバイス(例えば、キーボードやマウスなど)や、表示デバイスなどの、外部デバイスと接続することもできることは、言うまでもない。また、表示デバイス162は、例えばタッチスクリーンなど、表示とユーザ操作とが可能なデバイスであってもよい。
通信インタフェース164は、画像処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、撮像装置や、表示装置などの外部装置と無線/有線で通信を行うための通信部102として機能する。ここで、通信インタフェース164としては、例えば、通信アンテナおよびRF(Radio Frequency)回路(無線通信)や、IEEE802.15.1ポートおよび送受信回路(無線通信)、IEEE802.11bポートおよび送受信回路(無線通信)、あるいはLAN(Local Area Network)端子および送受信回路(有線通信)などが挙げられる。また、本実施形態に係るネットワークとしては、例えば、LANやWAN(Wide Area Network)などの有線ネットワーク、無線LAN(WLAN;Wireless Local Area Network)や基地局を介した無線WAN(WWAN;Wireless Wide Area Network)などの無線ネットワーク、あるいは、TCP/IP(Transmission Control Protocol/Internet Protocol)などの通信プロトコルを用いたインターネットなどが挙げられる。
画像処理装置100は、例えば図27に示す構成によって、本実施形態に係る画像処理方法に係る処理を行う。なお、本実施形態に係る画像処理装置100のハードウェア構成は、図27に示す構成に限られない。例えば、画像処理装置100は、静止画像または動画像を撮像する撮像部(図示せず)の役目を果たす撮像デバイスを備えていてもよい。撮像デバイスを備える場合には、画像処理装置100は、例えば、撮像デバイスにおける撮像により生成された撮像画像に基づいて、本実施形態に係る画像処理方法に係る処理を行うことが可能となる。
ここで、本実施形態に係る撮像デバイスとしては、例えば、レンズ/撮像素子と信号処理回路とが挙げられる。レンズ/撮像素子は、例えば、光学系のレンズと、CMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を複数用いたイメージセンサとで構成される。また、信号処理回路は、例えば、AGC(Automatic Gain Control)回路やADC(Analog to Digital Converter)を備え、撮像素子により生成されたアナログ信号をデジタル信号(画像データ)に変換し、各種信号処理を行う。信号処理回路が行う信号処理としては、例えば、White Balance補正処理、色調補正処理、ガンマ補正処理、YCbCr変換処理、エッジ強調処理などが挙げられる。
また、画像処理装置100は、例えば、スタンドアロンで処理を行う構成である場合には、通信デバイス164を備えていなくてもよい。また、画像処理装置100は、操作デバイス160や表示デバイス162を備えない構成をとることも可能である。
再度図26を参照して、画像処理装置100の構成の一例について説明する。通信部102は、画像処理装置100が備える通信手段であり、ネットワークを介して(あるいは、直接的に)、撮像装置や表示装置などの外部装置と無線/有線で通信を行う。また、通信部102は、例えば制御部104により通信が制御される。
通信部102を備える場合、画像処理装置100は、例えば、外部装置としての撮像装置において撮像された画像を示すデータや、外部装置(例えば、サーバ、携帯電話やスマートフォンなどのユーザ端末など)において記憶されている画像を示すデータを受信し、受信したデータが示す画像を処理することが可能である。また、画像処理装置100は、例えば、処理後の画像(合成画像)を、外部装置へと送信してもよい。よって、通信部102を備えることにより、画像処理装置100と、外部装置(撮像装置や、サーバ、携帯電話やスマートフォンなどのユーザ端末)とを有する、画像処理システムを実現することが可能となる。また、上記画像処理システムが実現されることによって、例えばユーザ端末などの外部装置側では本実施形態に係る画像処理方法に係る処理が行われないので、外部装置における処理負荷は、軽減される。
ここで、通信部102としては、例えば、通信アンテナおよびRF回路や、LAN端子および送受信回路などが挙げられるが、通信部102の構成は、上記に限られない。例えば、通信部102は、USB端子および送受信回路など通信を行うことが可能な任意の規格に対応する構成や、ネットワークを介して外部装置と通信可能な任意の構成をとることができる。
制御部104は、例えばMPUや各種処理回路などで構成され、画像処理装置100全体を制御する役目を果たす。また、制御部104は、例えば、抽出部110と、合成部112と、表示制御部114と、記録処理部116とを備え、本実施形態に係る画像処理方法に係る処理を主導的に行う役目を果たす。
抽出部110は、上記(1)の処理(第1静止部分抽出処理)、および上記(2)の処理(第2静止部分抽出処理)を主導的に行う役目を果たし、複数の静止画像に基づいて、第1静止部分を抽出し、また、複数の静止画像に基づいて、第2静止部分の少なくとも一部を抽出する。また、抽出部110は、例えば、第1静止部分抽出部118と、第2静止部分抽出部120とを備える。
第1静止部分抽出部118は、上記(1)の処理(第1静止部分抽出処理)を主導的に行う役目を果たし、複数の静止画像に基づいて、画像における第1静止部分を抽出する。ここで、第1静止部分抽出部118が処理する静止画像としては、例えば、撮像装置により撮像された画像、記録媒体に記憶されている静止画像、記録媒体に記憶されている動画像を構成するフレーム画像のうちの、1または2以上の画像が挙げられる。また、画像処理装置100が撮像デバイスを備える場合には、第1静止部分抽出部118は、当該撮像デバイスにより撮像された画像を処理してもよい。つまり、撮像デバイスにより撮像された画像を処理する場合には、画像処理装置100は、撮像装置として機能する自装置において撮像された画像を処理することが可能である。
また、第1静止部分抽出部118は、例えば、抽出した第1静止部分を示すデータを、第2静止部分抽出部110と合成部112とに伝達する。
また、画像処理装置100が、本実施形態に係る表示制御処理として、縮小画像に基づく経過表示を表示画面に表示させる場合には、第1静止部分抽出部118は、例えば、処理対象の静止画像の縮小画像を生成し、縮小画像に対応する第1静止部分を抽出してもよい。上記の場合には、第1静止部分抽出部118は、例えば、抽出した縮小画像に対応する第1静止部分を示すデータを、第2静止部分抽出部110と合成部112とに伝達する。
第2静止部分抽出部120は、上記(2)の処理(第2静止部分抽出処理)を主導的に行う役目を果たし、複数の静止画像に基づいて、画像における第2静止部分を抽出する。ここで、第2静止部分抽出部120が処理する静止画像としては、例えば、撮像装置により撮像された画像、記録媒体に記憶されている静止画像、記録媒体に記憶されている動画像を構成するフレーム画像のうちの、1または2以上の画像が挙げられる。また、画像処理装置100が撮像デバイスを備える場合には、第2静止部分抽出部120は、第1静止部分抽出部118と同様に、当該撮像デバイスにより撮像された画像を処理してもよい。
また、第2静止部分抽出部120は、例えば、抽出した第2静止部分を示すデータを合成部112とに伝達する。
また、画像処理装置100が、本実施形態に係る表示制御処理として、縮小画像に基づく経過表示を表示画面に表示させる場合には、第2静止部分抽出部120は、例えば、処理対象の静止画像の縮小画像を生成し、縮小画像に対応する第2静止部分を抽出してもよい。ここで、第2静止部分抽出部120は、例えば、処理対象の静止画像の数が増えるごとに、処理対象の静止画像が縮小された縮小画像に基づいて、縮小画像に対応する新たな第2静止部分を抽出する。また、上記の場合には、第2静止部分抽出部120は、例えば、抽出した縮小画像に対応する第2静止部分を示すデータを、合成部112に伝達する。
抽出部110は、例えば、第1静止部分抽出部118と、第2静止部分抽出部120とを備えることによって、上記(1)の処理(第1静止部分抽出処理)、および上記(2)の処理(第2静止部分抽出処理)を主導的に行う。なお、図26では、制御部104が、上記(1)の処理(第1静止部分抽出処理)、および上記(2)の処理(第2静止部分抽出処理)を主導的に行う抽出部110を備える構成を示しているが、本実施形態に係る画像処理装置の構成は、上記に限られない。例えば、本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)を主導的に行う第1静止部分抽出部118と、上記(2)の処理(第2静止部分抽出処理)を主導的に行う第2静止部分抽出部120とを、別体の構成要素(例えば、別の処理回路)として備えていてもよい。
合成部112は、上記(3)の処理(合成画像生成処理)を主導的に行う役目を果たし、第1静止部分抽出部118から伝達されるデータが示す第1静止部分と、第2静止部分抽出部120から伝達されるデータが示す第2静止部分とを合成して、合成画像を生成する。
また、画像処理装置100が、本実施形態に係る表示制御処理として、縮小画像に基づく経過表示を表示画面に表示させる場合には、合成部112は、例えば、縮小画像に対応する第1静止部分と、縮小画像に対応する第2静止部分とを合成して、縮小画像に対応する合成画像を生成してもよい。ここで、合成部112は、例えば、第2静止部分抽出部120において縮小画像に対応する第2静止部分が新たに抽出されるごとに、縮小画像に対応する第1静止部分、または既に生成されている縮小画像に対応する合成画像と、新たに抽出された縮小画像に対応する第2静止部分とを合成して、縮小画像に対応する新たな合成画像を生成する。
また、合成部112は、例えば、合成画像を示すデータを表示制御部114へ伝達する。
また、合成部112は、例えば、生成した合成画像を、記録処理部116へ伝達する。
表示制御部114は、本実施形態に係る画像処理方法に係る表示制御処理を主導的に行う役目を果たし、合成部112から伝達されるデータが示す合成画像を表示画面に表示させる。表示制御部114は、例えば、合成部112において合成画像が生成されるごとに(合成画像を示すデータが伝達されるごとに)、生成された合成画像を表示画面に表示させる。ここで、表示制御部114が合成画像を表示させる表示画面としては、例えば、画像処理装置100が備える表示部(図示せず)の表示画面や、ネットワークを介して(あるいは、直接的に)有線または無線で接続された外部装置の表示画面などが挙げられる。
記録処理部116は、合成部112から伝達される合成画像(合成部112において生成された合成画像)を所定のタイミングで記録する。
ここで、記録処理部116が合成画像を記録する記録媒体としては、例えば、記憶部(図示せず)や、画像処理装置100に接続された着脱可能な外部記録媒体、画像処理装置100とネットワークを介して(または直接的に)有線または無線で接続された外部装置が備える記録媒体などが挙げられる。外部装置が備える記録媒体に合成画像を記憶させる場合には、記録処理部116は、例えば、合成画像を示すデータと当該合成画像を記録させるための記録命令とを、外部装置に対して送信させることによって、外部装置が備える記録媒体に合成画像を記憶させる。
また、記録処理部116が合成画像を記録するタイミングとしては、例えば、最終的な合成画像が得られたときや、最終的な合成画像が得られる前、すなわち、(3)の処理(合成画像生成処理)の途中の所定のタイミングが挙げられる。(3)の処理(合成画像生成処理)の途中の所定のタイミングとしては、例えば、上述した、最終的な合成画像が得られる予想時間に応じて設定されるタイミングや、処理の進捗状況(または、合成画像の完成度合い)に応じて設定されるタイミングが挙げられる。
制御部104は、例えば、抽出部110、合成部112、表示制御部114、および記録処理部116を備えることによって、本実施形態に係る画像処理方法に係る処理を主導的に行う。
なお、本実施形態に係る制御部の構成は、上記に限られない。例えば、本実施形態に係る制御部は、表示制御部114、および/または、記録処理部116を備えていなくてもよい。表示制御部114、および/または、記録処理部116を備えていなくても本実施形態に係る制御部は、本実施形態に係る画像処理方法に係る、上記(1)の処理(第1静止部分抽出処理)〜上記(3)の処理(合成画像生成処理)を主導的に行うことが可能である。
画像処理装置100は、例えば図26に示す構成によって、本実施形態に係る画像処理方法に係る処理(例えば、上記(1)の処理(第1静止部分抽出処理)〜上記(3)の処理(合成画像生成処理))を行う。したがって、画像処理装置100は、例えば図26に示す構成によって、複数の静止画像に基づいて、動体が消去された画像を得ることができる。
なお、本実施形態に係る画像処理装置の構成は、図26に示す構成に限られない。例えば、本実施形態に係る画像処理装置は、図26に示す抽出部110、合成部112、表示制御部114、および記録処理部116のうちの1または2以上を個別に備える(例えば、それぞれを個別の処理回路で実現する)ことができる。また、本実施形態に係る画像処理装置は、上述したように、図26に示す表示制御部114、および/または、記録処理部116を備えない構成をとることも可能である。さらに、本実施形態に係る画像処理装置は、上述したように、図26に示す第1静止部分抽出部118と第2静止部分抽出部120とを、個別に備えていてもよい(例えば、それぞれが個別の処理回路で実現される)。
また、本実施形態に係る画像処理装置は、例えば、撮像部(図示せず)を備えていてもよい。撮像部(図示せず)を備える場合には、本実施形態に係る画像処理装置は、撮像部(図示せず)における撮像により生成された撮像画像に基づいて、本実施形態に係る画像処理方法に係る処理を行うことが可能となる。
また、本実施形態に係る画像処理装置は、例えば、スタンドアロンで処理を行う構成である場合には、通信部102を備えていなくてもよい。
以上のように、本実施形態に係る画像処理装置は、本実施形態に係る画像処理方法に係る処理として、例えば、上記(1)の処理(第1静止部分抽出処理)〜上記(3)の処理(合成画像生成処理)を行う。ここで、本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)において抽出された第1静止部分と、上記(2)の処理(第2静止部分抽出処理)において抽出された第2静止部分とを、合成する。ここで、従来の技術が単純加算平均によって合成画像を得るのに対して、本実施形態に係る画像処理装置は、上記(1)の処理(第1静止部分抽出処理)、上記(2)の処理(第2静止部分抽出処理)それぞれにおいて、複数の静止画像に基づき算出された動きベクトルに基づいて静止部分を抽出する。よって、例えば図7に示すように、従来の技術を用いるときにおいて問題が生じない場合には、本実施形態に係る画像処理装置は、動体が消去された画像を得ることができる。また、本実施形態に係る画像処理装置は、例えば図8に示すように、従来の技術を用いるときにおいて問題が生じる場合においても、動体が消去された画像を得ることができる。
したがって、本実施形態に係る画像処理装置は、複数の静止画像に基づいて、動体が消去された画像を得ることができる。
また、本実施形態に係る画像処理装置が処理する静止画像としては、例えば、撮像装置(自装置または外部装置)により撮像された画像、記録媒体に記憶されている静止画像、記録媒体に記憶されている動画像を構成するフレーム画像のうちの、1または2以上の画像が挙げられ、記録媒体に記憶されている静止画像には、例えば、本実施形態に係る合成画像が含まれる。よって、ある複数の静止画像を処理することによって、図12のAに示すような不要な被写体A1が含まれる合成画像が得られたとしても、本実施形態に係る画像処理装置は、当該合成画像とさらなる他の静止画像とに基づいて、本実施形態に係る画像処理方法に係る処理を行うことが可能である。したがって、本実施形態に係る画像処理装置は、例えば、本実施形態に係る合成画像が含まれる。よって、ある複数の静止画像を処理することによって、図12のAに示すような不要な被写体A1が含まれる合成画像が得られたとしても、例えば図12のBに示すような所望の合成画像を得ることができる。
以上、本実施形態として画像処理装置を挙げて説明したが、本実施形態は、かかる形態に限られない。本実施形態は、例えば、携帯電話やスマートフォンなどの通信装置や、映像/音楽再生装置(または映像/音楽記録再生装置)、ゲーム機、PC(Personal Computer)やサーバなどのコンピュータ、テレビ受像機などの表示装置、デジタルカメラなどの撮像装置など、画像を処理することが可能な様々な機器に適用することができる。また、本実施形態は、例えば、上記のような機器に組み込むことが可能な、処理IC(Integrated Circuit)に適用することもできる。
また、本実施形態に係る画像処理方法に係る処理は、例えばクラウドコンピューティングなどのように、ネットワークへの接続(または各装置間の通信)を前提とした、複数の装置からなる画像処理システムにより実現されてもよい。
(本実施形態に係るプログラム)
コンピュータを、本実施形態に係る画像処理装置として機能させるためのプログラム(例えば、上記(1)の処理(第1静止部分抽出処理)〜上記(3)の処理(合成画像生成処理)など、本実施形態に係る画像処理方法に係る処理を実行することが可能なプログラム)が、コンピュータにおいて実行されることによって、複数の静止画像に基づいて、動体が消去された画像を得ることができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、上記では、コンピュータを、本実施形態に係る画像処理装置として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体も併せて提供することができる。
上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
複数の静止画像に基づいて、画像における第1静止部分を抽出し、複数の静止画像に基づいて、画像における前記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出する抽出部と、
前記第1静止部分と前記第2静止部分とを合成して、合成画像を生成する合成部と、
を備える、画像処理装置。
(2)
前記抽出部は、抽出対象の被写体が含まれる静止部分を、前記第1静止部分として抽出する、(1)に記載の画像処理装置。
(3)
前記合成画像を表示画面に表示させる表示制御部をさらに備える、(1)〜(5)のいずれか1つに記載の画像処理装置。
(4)
前記抽出部は、処理対象の静止画像の数が増えるごとに、新たな前記第2静止部分を抽出し、
前記合成部は、前記第2静止部分が新たに抽出されるごとに、前記第1静止部分、または既に生成されている合成画像と、新たに抽出された前記第2静止部分とを合成して、新たな前記合成画像を生成し、
前記表示制御部は、前記合成画像が生成されるごとに、生成された前記合成画像を表示画面に表示させる、(3)に記載の画像処理装置。
(5)
前記合成部において生成された合成画像を、所定のタイミングで記録する記録処理部をさらに備える、(4)に記載の画像処理装置。
(6)
前記抽出部は、
処理対象の静止画像が縮小された縮小画像に基づいて、前記縮小画像に対応する前記第1静止部分を抽出し、
処理対象の静止画像の数が増えるごとに、処理対象の静止画像が縮小された縮小画像に基づいて、前記縮小画像に対応する新たな前記第2静止部分を抽出し、
前記合成部は、前記縮小画像に対応する前記第2静止部分が新たに抽出されるごとに、前記縮小画像に対応する前記第1静止部分、または既に生成されている前記縮小画像に対応する合成画像と、新たに抽出された前記縮小画像に対応する前記第2静止部分とを合成して、前記縮小画像に対応する新たな合成画像を生成し、
前記表示制御部は、前記縮小画像に対応する合成画像が生成されるごとに、生成された前記合成画像を表示画面に表示させる、(3)に記載の画像処理装置。
(7)
前記表示制御部は、前記合成画像における、前記第1静止部分および前記第2静止部分のいずれにも該当しない部分に色彩を付し、色彩が付された合成画像を表示させる、(4)、または(6)に記載の画像処理装置。
(8)
前記抽出部とは、複数の静止画像の動きベクトルに基づいて静止部分を抽出する、(1)、または(2)に記載の画像処理装置。
(9)
前記抽出部は、処理対象の静止画像における、垂直方向のずれ、水平方向のずれ、または、回転方向のずれのうちの、1または2以上のずれを補正して、前記第1静止部分、および/または、前記第2静止部分を抽出する、(1)〜(8)のいずれか1つに記載の画像処理装置。
(10)
前記抽出部が処理する対象の静止画像は、撮像装置により撮像された画像、記録媒体に記憶されている静止画像、記録媒体に記憶されている動画像を構成するフレーム画像のうちの、1または2以上の画像である、(1)〜(9)のいずれか1つに記載の画像処理装置。
(11)
前記抽出部は、処理対象の複数の前記静止画像の中に、抽出された前記第1静止部分を有する複数の静止画像がある場合には、前記複数の静止画像における前記第1静止部分に対応する領域に対応する信号を平均した信号が示す画像を、前記第1静止部分とする、(1)〜(10)のいずれか1つに記載の画像処理装置。
(12)
前記抽出部は、前記第1静止部分の抽出が完了した場合には、完了したことをユーザに対して通知させる、(1)〜(11)のいずれか1つに記載の画像処理装置。
(13)
画像を撮像する撮像部をさらに備え、
前記抽出部が処理する対象の静止画像には、前記撮像部が撮像した画像が含まれる、(1)〜(12)のいずれか1つに記載の画像処理装置。
(14)
複数の静止画像に基づいて、画像における第1静止部分を抽出するステップと、
複数の静止画像に基づいて、画像における前記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出するステップと、
前記第1静止部分と前記第2静止部分とを合成して、合成画像を生成するステップと、
を有する、画像処理方法。
(15)
前記第1静止部分を抽出するステップでは、抽出対象の被写体が含まれる静止部分が、前記第1静止部分として抽出される、(14)に記載の画像処理方法。
(16)
前記第1静止部分を抽出するステップと前記第2静止部分を抽出するステップとでは、複数の静止画像に基づいて動きベクトルが算出され、算出された動きベクトルに基づいて静止部分が抽出される、(14)または(15)に記載の画像処理方法。
(17)
前記合成画像を表示画面に表示させるステップをさらに有する、(14)〜(16)のいずれか1つに記載の画像処理方法。
(18)
前記第1静止部分を抽出するステップでは、前記第1静止部分の抽出が完了した場合に、抽出が完了したことがユーザに対して通知される、(14)〜(17)のいずれか1つに記載の画像処理方法。
(19)
画像を撮像するステップをさらに有し、
前記第1静止部分を抽出するステップと前記第2静止部分を抽出するステップとにおいて処理される対象の静止画像には、前記撮像するステップにおいて撮像された画像が含まれる、(14)〜(18)のいずれか1つに記載の画像処理方法。
(20)
複数の静止画像に基づいて、画像における第1静止部分を抽出するステップ、
複数の静止画像に基づいて、画像における前記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出するステップ、
前記第1静止部分と前記第2静止部分とを合成して、合成画像を生成するステップ、
をコンピュータに実行させるためのプログラム。
100 画像処理装置
102 通信部
104 制御部
110 抽出部
112 合成部
114 表示制御部
116 記録処理部
118 第1静止部分抽出部
120 第2静止部分抽出部

Claims (20)

  1. 複数の静止画像に基づいて、画像における第1静止部分を抽出し、複数の静止画像に基づいて、画像における前記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出する抽出部と、
    前記第1静止部分と前記第2静止部分とを合成して、合成画像を生成する合成部と、
    を備える、画像処理装置。
  2. 前記抽出部は、抽出対象の被写体が含まれる静止部分を、前記第1静止部分として抽出する、請求項1に記載の画像処理装置。
  3. 前記合成画像を表示画面に表示させる表示制御部をさらに備える、請求項2に記載の画像処理装置。
  4. 前記抽出部は、処理対象の静止画像の数が増えるごとに、新たな前記第2静止部分を抽出し、
    前記合成部は、前記第2静止部分が新たに抽出されるごとに、前記第1静止部分、または既に生成されている合成画像と、新たに抽出された前記第2静止部分とを合成して、新たな前記合成画像を生成し、
    前記表示制御部は、前記合成画像が生成されるごとに、生成された前記合成画像を表示画面に表示させる、請求項3に記載の画像処理装置。
  5. 前記合成部において生成された合成画像を、所定のタイミングで記録する記録処理部をさらに備える、請求項4に記載の画像処理装置。
  6. 前記抽出部は、
    処理対象の静止画像が縮小された縮小画像に基づいて、前記縮小画像に対応する前記第1静止部分を抽出し、
    処理対象の静止画像の数が増えるごとに、処理対象の静止画像が縮小された縮小画像に基づいて、前記縮小画像に対応する新たな前記第2静止部分を抽出し、
    前記合成部は、前記縮小画像に対応する前記第2静止部分が新たに抽出されるごとに、前記縮小画像に対応する前記第1静止部分、または既に生成されている前記縮小画像に対応する合成画像と、新たに抽出された前記縮小画像に対応する前記第2静止部分とを合成して、前記縮小画像に対応する新たな合成画像を生成し、
    前記表示制御部は、前記縮小画像に対応する合成画像が生成されるごとに、生成された前記合成画像を表示画面に表示させる、請求項3に記載の画像処理装置。
  7. 前記表示制御部は、前記合成画像における、前記第1静止部分および前記第2静止部分のいずれにも該当しない部分に色彩を付し、色彩が付された合成画像を表示させる、請求項4に記載の画像処理装置。
  8. 前記抽出部とは、複数の静止画像の動きベクトルに基づいて静止部分を抽出する、請求項2に記載の画像処理装置。
  9. 前記抽出部は、処理対象の静止画像における、垂直方向のずれ、水平方向のずれ、または、回転方向のずれのうちの、1または2以上のずれを補正して、前記第1静止部分、および/または、前記第2静止部分を抽出する、請求項1に記載の画像処理装置。
  10. 前記抽出部が処理する対象の静止画像は、撮像装置により撮像された画像、記録媒体に記憶されている静止画像、記録媒体に記憶されている動画像を構成するフレーム画像のうちの、1または2以上の画像である、請求項1に記載の画像処理装置。
  11. 前記抽出部は、処理対象の複数の前記静止画像の中に、抽出された前記第1静止部分を有する複数の静止画像がある場合には、前記複数の静止画像における前記第1静止部分に対応する領域に対応する信号を平均した信号が示す画像を、前記第1静止部分とする、請求項1に記載の画像処理装置。
  12. 前記抽出部は、前記第1静止部分の抽出が完了した場合には、完了したことをユーザに対して通知させる、請求項1に記載の画像処理装置。
  13. 画像を撮像する撮像部をさらに備え、
    前記抽出部が処理する対象の静止画像には、前記撮像部が撮像した画像が含まれる、請求項1に記載の画像処理装置。
  14. 複数の静止画像に基づいて、画像における第1静止部分を抽出するステップと、
    複数の静止画像に基づいて、画像における前記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出するステップと、
    前記第1静止部分と前記第2静止部分とを合成して、合成画像を生成するステップと、
    を有する、画像処理方法。
  15. 前記第1静止部分を抽出するステップでは、抽出対象の被写体が含まれる静止部分が、前記第1静止部分として抽出される、請求項14に記載の画像処理方法。
  16. 前記第1静止部分を抽出するステップと前記第2静止部分を抽出するステップとでは、複数の静止画像に基づいて動きベクトルが算出され、算出された動きベクトルに基づいて静止部分が抽出される、請求項14に記載の画像処理方法。
  17. 前記合成画像を表示画面に表示させるステップをさらに有する、請求項14に記載の画像処理方法。
  18. 前記第1静止部分を抽出するステップでは、前記第1静止部分の抽出が完了した場合に、抽出が完了したことがユーザに対して通知される、請求項14に記載の画像処理方法。
  19. 画像を撮像するステップをさらに有し、
    前記第1静止部分を抽出するステップと前記第2静止部分を抽出するステップとにおいて処理される対象の静止画像には、前記撮像するステップにおいて撮像された画像が含まれる、請求項14に記載の画像処理方法。
  20. 複数の静止画像に基づいて、画像における第1静止部分を抽出するステップ、
    複数の静止画像に基づいて、画像における前記第1静止部分として抽出されなかった部分に対応する、第2静止部分の少なくとも一部を抽出するステップ、
    前記第1静止部分と前記第2静止部分とを合成して、合成画像を生成するステップ、
    をコンピュータに実行させるためのプログラム。


JP2012021894A 2012-02-03 2012-02-03 画像処理装置、画像処理方法、およびプログラム Pending JP2013162287A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012021894A JP2013162287A (ja) 2012-02-03 2012-02-03 画像処理装置、画像処理方法、およびプログラム
US13/708,128 US20130201366A1 (en) 2012-02-03 2012-12-07 Image processing apparatus, image processing method, and program
CN 201310031135 CN103248807A (zh) 2012-02-03 2013-01-28 图像处理设备,图像处理方法和程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012021894A JP2013162287A (ja) 2012-02-03 2012-02-03 画像処理装置、画像処理方法、およびプログラム

Publications (1)

Publication Number Publication Date
JP2013162287A true JP2013162287A (ja) 2013-08-19

Family

ID=48902573

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012021894A Pending JP2013162287A (ja) 2012-02-03 2012-02-03 画像処理装置、画像処理方法、およびプログラム

Country Status (3)

Country Link
US (1) US20130201366A1 (ja)
JP (1) JP2013162287A (ja)
CN (1) CN103248807A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016162219A (ja) * 2015-03-02 2016-09-05 日本放送協会 不快度推定装置及び不快度推定プログラム
JP2019168886A (ja) * 2018-03-23 2019-10-03 カシオ計算機株式会社 検出体領域検出装置、撮像装置、飛行装置、検出体領域検出方法、撮像方法及びプログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6700831B2 (ja) * 2016-02-12 2020-05-27 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
CN109413437A (zh) 2017-08-15 2019-03-01 深圳富泰宏精密工业有限公司 电子设备及传送视频流的方法
TWI626846B (zh) * 2017-08-15 2018-06-11 群邁通訊股份有限公司 電子設備及傳送視頻流的方法
CN112818743B (zh) * 2020-12-29 2022-09-23 腾讯科技(深圳)有限公司 图像识别的方法、装置、电子设备及计算机存储介质

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003189168A (ja) * 2001-12-21 2003-07-04 Nec Corp 携帯電話用カメラ
US7024054B2 (en) * 2002-09-27 2006-04-04 Eastman Kodak Company Method and system for generating a foreground mask for a composite image
US20040207743A1 (en) * 2003-04-15 2004-10-21 Nikon Corporation Digital camera system
US20040223649A1 (en) * 2003-05-07 2004-11-11 Eastman Kodak Company Composite imaging method and system
US7659923B1 (en) * 2005-06-24 2010-02-09 David Alan Johnson Elimination of blink-related closed eyes in portrait photography
WO2007032082A1 (ja) * 2005-09-16 2007-03-22 Fujitsu Limited 画像処理方法及び画像処理装置
JP4821642B2 (ja) * 2007-02-15 2011-11-24 株式会社ニコン 画像処理方法、画像処理装置、ディジタルカメラ及び画像処理プログラム
US8103134B2 (en) * 2008-02-20 2012-01-24 Samsung Electronics Co., Ltd. Method and a handheld device for capturing motion
JP4513903B2 (ja) * 2008-06-25 2010-07-28 ソニー株式会社 画像処理装置、及び画像処理方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016162219A (ja) * 2015-03-02 2016-09-05 日本放送協会 不快度推定装置及び不快度推定プログラム
JP2019168886A (ja) * 2018-03-23 2019-10-03 カシオ計算機株式会社 検出体領域検出装置、撮像装置、飛行装置、検出体領域検出方法、撮像方法及びプログラム

Also Published As

Publication number Publication date
US20130201366A1 (en) 2013-08-08
CN103248807A (zh) 2013-08-14

Similar Documents

Publication Publication Date Title
KR102303514B1 (ko) 정보 처리 장치, 정보 처리 방법 및 프로그램
US9648245B2 (en) Low-light image capture method and image capture apparatus
JP4396720B2 (ja) 画像処理装置、画像処理方法、およびプログラム
JP6317577B2 (ja) 映像信号処理装置及びその制御方法
US9215374B2 (en) Image processing apparatus, image processing method, and imaging apparatus that corrects tilt of an image based on an operation input
JP2013162287A (ja) 画像処理装置、画像処理方法、およびプログラム
US8953860B2 (en) Information processing apparatus and information processing method
US20120078619A1 (en) Control apparatus and control method
KR102375688B1 (ko) 촬상 장치, 촬영 시스템 및 촬영 방법
US10182184B2 (en) Image processing apparatus and image processing method
US10750080B2 (en) Information processing device, information processing method, and program
JP2015089021A (ja) 撮像装置、撮像制御方法およびプログラム
CN107211090B (zh) 操作装置、跟踪***、操作方法及介质
JP2015192310A (ja) プロジェクションシステム、携帯機器、プログラム、及び、携帯機器の制御方法
JP2011101073A (ja) 撮像装置、ホワイトバランス設定方法、及び、プログラム
JP2018005091A (ja) 表示制御プログラム、表示制御方法および表示制御装置
US20170310921A1 (en) Image capturing apparatus connectable to display apparatus, display apparatus connectable to external apparatus, and image processing apparatus performing image processing
JP2016039409A (ja) 画像処理装置及びその制御方法、プログラム、記憶媒体
JP2006197524A (ja) 撮像装置
JP5906745B2 (ja) 画像表示装置、画像表示方法及びプログラム
CN103685853A (zh) 图像处理装置和图像处理方法
JP5928228B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
JP6354443B2 (ja) 制御装置、制御システム、制御方法及びプログラム
JP6079102B2 (ja) 被写体検出装置、被写体検出方法及びプログラム
WO2017006772A1 (ja) 画像処理装置および方法