JP2013219425A - 画像撮像装置、画像処理方法、プログラム - Google Patents

画像撮像装置、画像処理方法、プログラム Download PDF

Info

Publication number
JP2013219425A
JP2013219425A JP2012085735A JP2012085735A JP2013219425A JP 2013219425 A JP2013219425 A JP 2013219425A JP 2012085735 A JP2012085735 A JP 2012085735A JP 2012085735 A JP2012085735 A JP 2012085735A JP 2013219425 A JP2013219425 A JP 2013219425A
Authority
JP
Japan
Prior art keywords
subject
image
length
comparison data
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012085735A
Other languages
English (en)
Other versions
JP6113416B2 (ja
JP2013219425A5 (ja
Inventor
Nao Shibuhisa
奈保 澁久
Kei Tokui
圭 徳井
Yasutaka Wakabayashi
保孝 若林
Shinichi Arita
真一 有田
Daisuke Murayama
大輔 村山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2012085735A priority Critical patent/JP6113416B2/ja
Priority to US14/390,449 priority patent/US9729844B2/en
Priority to PCT/JP2013/060159 priority patent/WO2013151076A1/ja
Publication of JP2013219425A publication Critical patent/JP2013219425A/ja
Publication of JP2013219425A5 publication Critical patent/JP2013219425A5/ja
Application granted granted Critical
Publication of JP6113416B2 publication Critical patent/JP6113416B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0092Image segmentation from stereoscopic image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】従来、異なる場所に存在する複数の被写体の長さを比較することは困難であった。
【解決手段】被写体を撮像した画像と前記画像に対応する視差情報を入力とし、前記視差情報に基づいて算出した前記被写体の長さを表示する画像撮像装置であって、前記撮像した画像から前記視差情報を用いて被写体の画像を抽出する被写体抽出部と、被写体の画像と被写体の長さとを保持する比較データ保持部と、前記被写体抽出部により抽出された被写体の長さと、前記比較データ保持部から抽出された比較データの長さと、を比較する被写体比較部と、前記撮像した画像に、前記比較結果を合成して出力する画像合成部と、を備えることを特徴とする画像撮像装置。
【選択図】図1A

Description

本発明は、撮影した被写体の長さを、比較データの長さに変換して表示する、画像撮像装置に関する。
複数の撮像部を有する画像撮像装置を用いることで立体画像を撮影する方法が知られている。この撮像装置で得られた立体画像は、立体表示装置において、視聴者の左眼には左眼用画像を、右眼には右眼用画像を各々表示させることにより、立体視が可能になる。これは、同一の被写体を異なる視点位置から撮影した画像間で生じる視差を利用した方法である。この視差と、画像撮像装置で撮影した二つの視点位置間の距離と、画像撮像装置のカメラパラメータとが分かれば、三角測量で被写体までの距離を測定することができる。例えば、下記特許文献1では、ステレオカメラを用いて被写体上の指定された2点間の長さを測定する方法が開示されている。
特開2011−232330号公報
しかしながら、先述した表示方法では、被写体上のユーザが指定した2点間の長さを測定することができるものの、異なる場所に存在する複数の被写体の長さを比較することは困難であった。
本発明は上記の課題を鑑みて発明されたものであり、撮影した被写体の長さを容易に比較することができる画像撮像装置を提供することを目的とする。
本発明は上述した課題を解決するために、以下の技術手段を備えている。
被写体を撮像した画像と前記画像に対応する視差情報を入力とし、前記視差情報に基づいて算出した前記被写体の長さを表示する画像撮像装置であって、前記撮像した画像から前記視差情報を用いて被写体の画像を抽出する被写体抽出部と、被写体の画像と前記被写体の長さとを保持する比較データ保持部と、前記被写体抽出部により抽出された被写体の長さと、前記比較データ保持部から抽出された比較データの長さと、を比較する被写体比較部と、前記撮像した画像に、前記比較結果を合成して出力する画像合成部と、を備えることを特徴とする。
また、被写体を撮像した画像と前記画像に対応する距離情報を入力とし、前記距離情報に基づいて算出した前記被写体の長さを表示する画像撮像装置であって、前記撮像した画像から前記距離情報を用いて被写体を抽出する被写体抽出部と、被写体の画像と被写体の長さとを保持する比較データ保持部と、前記被写体抽出部により抽出された被写体の長さと、前記比較データ保持部から抽出された比較データの長さと、を比較する被写体比較部と、前記撮像した画像に、前記比較結果を合成して出力する画像合成部と、を備えることを特徴とする。
前記被写体比較部は、長さ倍率を算出する長さ算出部を有し、前記画像合成部は、前記長さ倍率として、文字または画像の少なくとも一方を用いることが好ましい。
前記画像合成部は、前記被写体の長さと前記比較データの長さを一致させるように前記比較データの画像解像度を変更し、前記比較データの画像を前記長さ倍率に基づき複製し、前記複製した比較データを並べて表示することを特徴とする。
前記長さ倍率は、前記被写体の長さと前記比較データの長さとの比率であることを特徴とする。
前記被写体の長さは、前記画像と重心を同じくする任意の枠内に含まれる被写体に対応する視差の平均値から算出することを特徴とする。
前記被写体比較部は、前記比較データ保持部に保持されている比較データの長さが短い比較データから比較データ候補として表示することを特徴とする。
また、本発明は、被写体を撮像した画像と前記画像に対応する視差情報を入力とし、前記視差情報に基づいて算出した前記被写体の長さを表示する画像表示方法であって、前記撮像した画像から前記視差情報を用いて被写体の画像を抽出する被写体抽出ステップと、前記被写体抽出ステップにより抽出された被写体の長さと、被写体の画像と被写体の長さとを保持する比較データ保持部から抽出された比較データの長さと、を比較する被写体比較ステップと、前記撮像した画像に、前記比較結果を合成して出力する画像合成ステップと、を備えることを特徴とする画像表示方法である。
本発明は、上記に記載の画像表示方法をコンピュータに実行させるためのプログラムであっても良く、当該プログラムを記録するコンピュータ読み取り可能な記録媒体であっても良い。
本発明の画像撮像装置によれば、撮影した被写体の長さを容易に比較することができるようになる。
本発明の実施の形態による画像撮像装置の一構成例を示す機能ブロック図である。 被写体比較部の一構成例を示す機能ブロック図である。 視差算出方法を説明するための図である。 視差について説明する図である。 被写体抽出について説明する図である。 被写体を抽出するための枠のパターンの例について説明する図である。 撮像装置と被写体との位置関係を説明するための図である。 被写体の長さの算出方法を説明するための図である。 比較データ候補の表示方法を説明するための図である。 被写体比較部の画像処理手順の一例を示すフローチャート図である。 被写体の長さを比較データの長さで表示する方法の第1例を説明するための図である。 被写体の長さを比較データの長さで表示する方法の第2例を説明するための図である。 被写体の長さを比較データの長さで表示する位置を説明するための図である。 被写体と撮像装置との位置関係が変化したときの比較データの解像度の変化を説明するための図である。
以下、図面を用いて本発明の実施形態について詳細に説明する。なお、各図における構成は、理解しやすいように誇張して記載しており、実際の間隔や大きさとは異なる。
(実施形態)
図1Aは、本発明の実施形態による画像撮像装置の一構成例を示す機能ブロック図である。実施の形態に係る画像撮像装置100は、撮像部101と、視差算出部102と、被写体抽出部103と、被写体比較部104と、比較データ保持部105と、画像合成部106と、表示部107と、を備える。
撮像部101は、第1の撮像部101Lと第2の撮像部101Rとを少なくとも備え、それぞれ左眼用画像と右眼用画像とを取得し、撮影レンズ及びCCD(Charge Coupled Device)等の撮像素子を備えて撮像機能を発揮する。撮像部101では、左眼用画像D1と、右眼用画像D2とを、視差算出部102に、撮像部101Lと101Rとの間隔である基線長L[m]と、カメラパラメータとを、被写体比較部104に出力する(D3)。ここで、カメラパラメータとは、撮像部101Lの焦点距離L[m]と、撮像部101Lのピクセルピッチp[pixel/m]と、垂直方向の画角θ[度]と、画像の縦解像度h[pixel]とである。
視差算出部102では、左眼用画像と右眼用画像とから視差を算出する。以下、左眼用画像を基準とした視差算出方法の例を説明する。左眼用画像を小面積の窓、つまりテンプレートに分割する。図2にテンプレートに分割した左眼用画像200Lを示す。この各窓について右眼用画像200R上で対応する位置を探索する。つまり、図2に示すように左眼用画像200Lのテンプレート201を右眼用画像200Rの点(u、v)の位置に重なるようにし、テンプレート201と右眼用画像中の重なる画像の部分パターン202との相違度Sを計算する。相違度Sは、例えば下式のように、左眼用画像200Lのテンプレート201と、右眼用画像200Rの部分パターン202との重ね合わさった画素の差の絶対値の和で表すことができる。
Figure 2013219425
ここで、L(x、y)は、左眼用画像の(x、y)座標における画素値を表し、R(u、v)は右眼用画像の(u,v)座標における画素値を表す。Tはテンプレートの大きさを表す。この相違度Sは点(u、v)に対象が存在する確からしさを表しており、その値Sが小さいほど、その対象らしいことを示す。対象物の位置を求めるには、この操作を画像上のすべての点に対して施し、相違度があるしきい値以下となる位置を探せばよい。左眼用画像200Lと右眼用画像200Rとの対象物の位置の差203が、対象物の視差となる。上記の処理により左眼用画像基準の視差が算出される。
図3に示した視差画像は、視差を、被写体の画素と対応させて画素毎に格納した画像であり、被写体Hの有する視差値を輝度値で表している。画像撮像装置に近い被写体ほど視差値は大きく、画像撮像装置に遠い被写体ほど視差値は小さくなり、ここでは視差値が大きいほど明るい画素で、視差値が小さいほど暗い画素で表している。
視差算出部102で算出された視差及び左目用画像(D4)が、被写体抽出部103に送られる。
被写体抽出部103では、左眼用画像から長さを計測したい被写体を抽出する。この被写体が、被比較被写体となる。具体的には、図4(a)に示す枠400内の被写体Hを被比較被写体として抽出する。枠400は、被写体を撮像部101で撮像するときにプレビュー画面に表示されており、ユーザは、枠400に被写体Hが外接するように撮影を行う。この枠400の大きさは、図示しない外部入力装置によって操作することもできる。すなわち、画像の縦横比や大きさを、ユーザが任意の値に設定することができる(矢印参照)。
例えば、枠の重心を画面中心とし、枠の大きさを図5(a)、(b)、(c)に示すように、枠500(パターン1)、枠501(パターン2)、枠502(パターン3)、のように設定しておき、ユーザがこの3パターンを切り替えるだけの操作にしておけば、ユーザの操作が簡単になり好適である。また、枠を当てはめることによって被写体H以外の大部分の領域を処理対象から除外することができるが、枠内には被写体H以外の背景画像が存在する。そこで、視差を用いて被写体と背景とを分離すると、画像合成部106での合成に違和感を生じにくくなるため好適である。このとき、被写体の視差値は、枠内の視差ヒストグラムを解析して抽出してもよいし、図示しない外部入力装置によってユーザがディスプレイをタッチした点の視差値を被写体の視差値としてもよい。上述した処理により抽出された被写体画像D5を、被写体比較部104に出力する。
被写体比較部104では、被写体画像D5と、基線長と、カメラパラメータと(D3)を用いて、被写体Hの長さを算出し、被写体画像とその長さを比較データ保持部105に出力する(D6−1)。さらに、比較データ保持部105から入力された被比較被写体と比較データ(D6−2)との長さ倍率Aを算出し、比較データとその長さ倍率Aを画像合成部106に出力する(D7)。
まず、被写体画像と基線長とカメラパラメータとを用いて、被写体の長さを算出する。被写体の代表視差d[pixel]と距離Z[m]の関係は下式となる。
Figure 2013219425
被写体の代表視差dとは、被写体の視差の平均値のことである。被写体の視差が一様でない場合、このように代表視差を決めておくと、計算がしやすくなるため好適である。被写体の長さLは下式で表される。
Figure 2013219425
ここで、hは被写体のy軸方向の画素数、hは撮像画像の縦解像度、θは垂直方向の画角である。図6、7に被写体長さLを算出するために使用したパラメータを図示する。上述の処理により算出した被写体長さLと、被写体画像を、比較データ保持部105に出力する(上記D6−1)。
次に、被写体と比較データとの長さ倍率Aを算出する。長さ倍率Aとは、被写体である被比較被写体の長さが、比較データの長さのA倍であるということを表す値である。比較データは、比較データ保持部105に保持されている。比較データ保持部105から、比較データと比較データの長さLを取得する(上記D6−2)。このとき、比較データ保持部105に保持されている比較データ画像候補の一覧がプレビュー画面上に左眼用画像とともに表示されており、図示しない外部入力装置等により、ユーザが比較データを選択できると、ユーザの視認性が向上するため、好適である。さらに、比較データ候補が、比較データの長さでソートされていると、ユーザが比較データを探しやすいため、好適である。すなわち、保持された順番に格納されている比較データを、比較データの長さで並べ替えて表示するということである。
図8に、比較データRが、長さが短い比較データから順番に並んでいる様子を示す。図8に示すように、比較データ候補(R1からR5)間で比較データ長さのスケールを合わせるように表示させると、ユーザが直感的に長さを把握しやすいため、好適である。さらに、選択した比較データRを、被写体が変化しても同一にするようにしておくと、動的に変化する被写体Hの長さを、選択した比較データの長さ倍率で表示することができ、ユーザが被写体の長さを把握しやすくなるため好適である。
被写体Hの長さは、撮像装置の位置に依存せずに同一であるが、被写体抽出部103において画面中の固定された枠内に存在する被写体Hの長さを測定するため、同じ枠内で同じ被写体を撮影したとしても、被写体と撮像装置との位置関係により枠内に含まれる被写体の長さが変動する。すなわち、被写体が撮像装置から離れると、固定された枠内で被写体の全身の長さが測定でき、被写体が撮像装置に近付くと、固定された枠内で被写体の一部分の長さが測定できる。その変動を同一の比較データで表示することでユーザにわかりやすく伝えることができる。
上述のようにして取得した比較データ長さLを用いて、長さ倍率Aは下式で算出される。
Figure 2013219425
この長さ倍率は、被写体が比較データのA倍大きいことを表す。この長さ倍率を用いて、次の画像合成部106において、ユーザが直感的に被写体の長さを比較しやすい、被写体比較表示を実現する。
図1Bは、被写体比較部104の一構成例を示す機能ブロック図である。図1Bに示すように、被写体比較部104は、データ取得部104−1と、長さ算出部104−2と、画像/長さ保存部104−3と、比較データ長さ比率算出部104−4と、画像/長さ比率出力部104−5と、を有している。
図9は、上述の被写体比較部104の手順のフローチャートである。被写体比較部104のデータ取得部104−1は、被写体抽出部103から視差情報と被写体画像を、撮像部101から基線長とカメラパラメータとを取得し(S1)、長さ算出部104−2が、視差情報と基線長とカメラパラメータから、上記式(2)、(3)を用いて被写体の長さLoを算出する(S2)。次に、画像/長さ保存部104−3が、被写体画像とその長さを比較データ保持部105に保持する(S3)。撮影した被写体とその長さを比較データ保持部105に保持することにより、被写体を比較データとして使用することが可能となる。さらに、比較データ保持部105から、比較データと比較データの長さLを取得し(S4)、比較データ長さ比率算出部104−4が、式(4)を用いて被写体に対する比較データの長さ倍率Aを算出する(S5)。次いで、画像/長さ比率出力部104−5が、比較データ画像と長さ比率Aを画像合成部106に出力し、被写体比較部104の処理は終了する(S6)。
画像合成部106では、左眼用画像に長さ倍率Aに基づいて比較データ画像を変換した画像を重畳する。具体的には、図10に示すように、被写体Hが比較データよりもA倍長いことを画像や文字等で表示する。このとき、被写体Hの種類と数え方を対応付けておけば、文字で表示する際に、ユーザが長さ比較を把握しやすいため好適である。例えば、比較データが「リンゴ」の場合はA「個」と数える。「携帯電話」の場合はA「台」と数える。「本」の場合はA「冊」と数える。「犬」のような「動物」の場合はA「匹」と数える。さらに、枠内に人間の顔が検出されたときは、比較データを「人間」とし、A「人」と数える。検出された人間の顔が枠内に占める割合が大きい場合、比較データを「人間の顔」とし、A「頭身」と数えると、人間の全身に対する頭の大きさが簡単に把握できるため好適である。「人間の全身」と「人間の顔」との判断方法は、例えば、検出した人間の顔の面積が、枠内の面積の8割以上を占めるときに「人間の顔」といった方法を用いることができる。
数え方が不明な比較データの場合は、「○○よりA倍長いです」というように、数え方を表示しないと、違和感がなく好適である。また、おおまかな長さが分かればよい場合は、小数点以下の値の表示方法は、「A個半」や「A個よりちょっと長い」などの表示方法に変更する。具体的には、長さ倍率Aを小数点以下2桁で四捨五入した値をA’とすると、A’からAを引いた値Bが、0<B<0.4であれば「A個よりちょっと長い」、0.4≦B<0.6であれば「A個半と同じ長さ」、0.6≦B<1.0であれば、「A+1個よりちょっと短い」となる。また、小数点以下を切り上げて「A個より少ない」、小数点以下を切り捨てて「A個より多い」などの表現でもよい。
さらに、図11に示すように被写体Hに隣接するように比較データR1の列で具体的な個数を表示すれば、長さ倍率Aがわかりやすくなるため好適である。つまり、比較データ画像を複製して表示し、物体としての質量をわかりやすくするということである。まず、被写体Hが撮影された環境と、比較データが撮影された環境、すなわち撮影距離や解像度などが異なるため、被写体画像の長さと比較データ画像の長さの不一致を補正する必要がある。
つまり、被写体画像では、縦解像度100[pixel]の人間が1.6[m]の長さのとき、比較データ画像では、縦解像度100[pixel]のリンゴが0.05[m]の長さとなるような不一致を補正するということである。被写体画像(人間)と比較データ画像(リンゴ)を、そのまま合成すると、人間とリンゴが異なる長さであるにも関わらず同じ解像度で表現されてしまう。そこで、被写体の長さと解像度に合わせて、比較データの解像度を変更する。具体的には、比較データの長さがL、比較データ画像の縦解像度がhの場合、被写体の長さがL、被写体画像の縦解像度がhとすると、比較データ画像の長さを被写体画像の長さに合わせるために、以下の式を用いる。
Figure 2013219425
比較データ画像をC倍拡大してから、被写体画像に合成する。つまり、被写体の長さと、比較データの長さとを、一致させるように、比較データの解像度を変更する。先述の例では、100[pixel]の人間が1.6[m]の長さのとき、0.05[m]のリンゴは、縦解像度3[pixel]となるように調整する。そして解像度を変更した後の比較データ(リンゴ)画像を32枚複製し、縦方向に重ならないように並べる。
このときR1列を表示する位置は、図11のように被写体に隣接するように表示してもよいし、図12のように画面端に表示してもよい。画面中の枠が固定されたまま、被写体と撮像装置との位置関係が変化すると、枠内に含まれる被写体の長さが変化するため(H’)、図13のように比較データ(R1’列)の解像度を変更して、枠内に含まれる被写体の長さをユーザが把握しやすいようにする。また、おおまかな長さを表現するために、「A個半と同じ長さ」の場合は、A個とA個の半分の長さとなるように切り出した画像を表示する。
これは、リンゴであれば、上半分、あるいは、下半分しか表示されていない状態を表す。ここで、長さ倍率Aが1以下の比較データを表示させるとき、長さ倍率に応じて切り出した比較データ画像と、長さ倍率1で表示した比較データ画像とを切り替えられるようにしておくと、ユーザが比較データを把握しやすくなるため好適である。例えば、被写体がリンゴで、比較データが人間の場合、長さ倍率に応じて比較データを切り出すと、リンゴの横に人間の足のみ表示される。そこで、長さ倍率1で比較データを表示する、つまり人間の全身を表示することで、比較データを把握しやすくすることができる。画像合成部106は、上述の処理により、左眼用画像に長さ倍率Aに基づいて比較データ画像を合成した画像を、表示部107に出力する。
表示部107では画像合成部106から出力された画像を表示装置に表示する。
本実施の形態では、視差算出部102にて、左眼用画像を小面積の窓、つまりテンプレートに分割し、この各窓について右眼用画像上で対応する位置を探索する手法を用いたが、グラフカットを用いる手法や、伸縮照合法、エネルギー最小化による対応点探索法などの方法を用いても同様の効果を得ることができる。また、左眼用画像を基準に視差算出を行ったが、右眼用画像を基準に視差算出を行っても良い。
本実施の形態では、2つの撮像部を備えたが、少なくとも1つの撮像部と少なくとも1つの光源発生部を備えた構成でもよい。すなわち、可視光や赤外線などの光源を用いて特定のパターンを被写体に照射し、そのパターンの歪みや光強度から距離情報を解析することにより、視差情報に代えて距離情報を用いて、長さを算出することで同様の効果を得ることができる。
本実施の形態では、撮像部101で撮影した画像から被写体を抽出し、被写体画像と長さとを、比較データ保持部105で保存したが、ネットワークやパッケージメディアなどを介して、複数の比較データと長さが保持されているデータベースを取得し、比較データ保持部105で保存しても同様の効果を得ることができる。
本実施の形態では、被写体抽出部103にて被写体を抽出するための枠を四角で表現したが、丸や多角形、フリーフォームでも同様の効果を得ることができる。
本実施の形態では、被写体比較部104にて、比較データを選択した後に長さ倍率を計算したが、あらかじめ全ての比較データに対して長さ倍率を算出しておいてもよい。この場合、長さ倍率を計算する計算量が増え、長さ倍率を保持するメモリ領域が必要となるが、長さ倍率が1以上である比較データの方が、画像合成後の効果が得られやすいため、ユーザが比較データ選択時に長さ倍率の情報を知ることができるという利点がある。つまり、長さ倍率が1以上の比較データを、比較データ候補として表示し、1未満の比較データは比較データ候補として表示させるときの順位を低くしておくと、ユーザが被写体と比較データを比較したときにわかりやすい比較データを選択しやすくなるため好適である。
本実施の形態では、被写体比較部103において、被写体の縦方向の長さを算出したが、横方向の長さについても、同様に算出することができる。この場合、カメラパラメータの垂直画角θを水平画角θに、縦解像度hを横解像度wに、被写体のy軸方向の画素数hを被写体のx軸方向の画素数hに変更することで、数式(2)、(3)を用いて被写体の横方向の長さを算出することができる。
以上のように本実施の形態の画像撮像装置では、撮影した被写体の長さを、比較データの長さに変換して表示することにより、表示された被写体の長さをユーザに容易に比較させることが可能となる。
上記の実施の形態において、添付図面に図示されている構成等については、これらに限定されるものではなく、本発明の効果を発揮する範囲内で適宜変更することが可能である。その他、本発明の目的の範囲を逸脱しない限りにおいて適宜変更して実施することが可能である。
また、本発明の各構成要素は、任意に取捨選択することができ、取捨選択した構成を具備する発明も本発明に含まれるものである。
また、本実施の形態で説明した機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。尚、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また前記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。機能の少なくとも一部は、集積回路などのハードウェアで実現しても良い。
本発明は、画像撮像装置に利用可能である。
100…画像撮像装置、101…撮像部、102…視差算出部、103…被写体抽出部、104…被写体比較部、104−1…データ取得部、104−2…長さ算出部、104−3…画像/長さ保存部、104−4…比較データ長さ比率算出部、104−5…画像/長さ比率出力部、105…比較データ保持部、106…画像合成部、107…表示部。

Claims (9)

  1. 被写体を撮像した画像と前記画像に対応する視差情報を入力とし、前記視差情報に基づいて算出した前記被写体の長さを表示する画像撮像装置であって、
    前記撮像した画像から前記視差情報を用いて被写体の画像を抽出する被写体抽出部と、
    被写体の画像と被写体の長さとを保持する比較データ保持部と、
    前記被写体抽出部により抽出された被写体の長さと、前記比較データ保持部から抽出された比較データの長さと、を比較する被写体比較部と、
    前記撮像した画像に、前記比較結果を合成して出力する画像合成部と、を備えることを特徴とする画像撮像装置。
  2. 被写体を撮像した画像と前記画像に対応する距離情報を入力とし、前記距離情報に基づいて算出した前記被写体の長さを表示する画像撮像装置であって、
    前記撮像した画像から前記距離情報を用いて被写体を抽出する被写体抽出部と、
    被写体の画像と被写体の長さとを保持する比較データ保持部と、
    前記被写体抽出部により抽出された被写体の長さと、前記比較データ保持部から抽出された比較データの長さと、を比較する被写体比較部と、
    前記撮像した画像に、前記比較結果を合成して出力する画像合成部と、を備えることを特徴とする画像撮像装置。
  3. 前記被写体比較部は、長さ倍率を算出する長さ算出部を有し、
    前記画像合成部は、前記長さ倍率として、文字または画像の少なくとも一方を用いることを特徴とする請求項1に記載の画像撮像装置。
  4. 前記画像合成部は、前記被写体の長さと前記比較データの長さを一致させるように前記比較データの画像解像度を変更し、前記比較データの画像を前記長さ倍率に基づき複製し、前記複製した比較データを並べて表示することを特徴とする請求項3に記載の画像撮像装置。
  5. 前記長さ倍率は、前記被写体の長さと前記比較データの長さとの比率であることを特徴とする請求項3又は4に記載の画像撮像装置。
  6. 前記被写体の長さは、前記画像と重心を同じくする任意の枠内に含まれる被写体に対応する視差の平均値から算出することを特徴とする請求項1から5までのいずれか1項に記載の画像撮像装置。
  7. 前記被写体比較部は、前記比較データ保持部に保持されている比較データの長さが短い比較データから比較データ候補として表示することを特徴とする請求項1から6のいずれか1項に記載の画像撮像装置。
  8. 被写体を撮像した画像と前記画像に対応する視差情報を入力とし、前記視差情報に基づいて算出した前記被写体の長さを表示する画像表示方法であって、
    前記撮像した画像から前記視差情報を用いて被写体の画像を抽出する被写体抽出ステップと、
    前記被写体抽出ステップにより抽出された被写体の長さと、被写体の画像と被写体の長さとを保持する比較データ保持部から抽出された比較データの長さと、を比較する被写体比較ステップと、
    前記撮像した画像に、前記比較結果を合成して出力する画像合成ステップと、を備えることを特徴とする画像表示方法。
  9. 請求項8に記載の画像表示方法をコンピュータに実行させるためのプログラム。
JP2012085735A 2012-04-04 2012-04-04 画像撮像装置、画像処理方法、プログラム Active JP6113416B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012085735A JP6113416B2 (ja) 2012-04-04 2012-04-04 画像撮像装置、画像処理方法、プログラム
US14/390,449 US9729844B2 (en) 2012-04-04 2013-04-03 Image capturing device, image display method, and recording medium
PCT/JP2013/060159 WO2013151076A1 (ja) 2012-04-04 2013-04-03 画像撮像装置、画像処理方法、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012085735A JP6113416B2 (ja) 2012-04-04 2012-04-04 画像撮像装置、画像処理方法、プログラム

Publications (3)

Publication Number Publication Date
JP2013219425A true JP2013219425A (ja) 2013-10-24
JP2013219425A5 JP2013219425A5 (ja) 2015-05-14
JP6113416B2 JP6113416B2 (ja) 2017-04-12

Family

ID=49300557

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012085735A Active JP6113416B2 (ja) 2012-04-04 2012-04-04 画像撮像装置、画像処理方法、プログラム

Country Status (3)

Country Link
US (1) US9729844B2 (ja)
JP (1) JP6113416B2 (ja)
WO (1) WO2013151076A1 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11102007A (ja) * 1997-09-25 1999-04-13 Casio Comput Co Ltd 画像重複表示方法およびカメラ装置
JP2004064504A (ja) * 2002-07-30 2004-02-26 Ricoh Co Ltd 撮像装置
JP2006074460A (ja) * 2004-09-02 2006-03-16 Matsushita Electric Ind Co Ltd 物体検出装置および方法
JP2009162747A (ja) * 2007-12-10 2009-07-23 Fujifilm Corp 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム
JP2010147940A (ja) * 2008-12-19 2010-07-01 Fujifilm Corp 立体画像処理装置および立体画像処理方法
JP2011153995A (ja) * 2010-01-28 2011-08-11 Fa System Engineering Kk 立体映像表示装置の立体ノギス像形成装置およびプログラム
JP2012075036A (ja) * 2010-09-29 2012-04-12 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090148038A1 (en) 2007-12-10 2009-06-11 Youichi Sawachi Distance image processing apparatus and method
JP5188452B2 (ja) * 2009-05-22 2013-04-24 富士重工業株式会社 道路形状認識装置
JP5018980B2 (ja) 2010-04-08 2012-09-05 カシオ計算機株式会社 撮像装置、長さ測定方法、及びプログラム
JP5440461B2 (ja) * 2010-09-13 2014-03-12 株式会社リコー 校正装置、距離計測システム、校正方法および校正プログラム

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11102007A (ja) * 1997-09-25 1999-04-13 Casio Comput Co Ltd 画像重複表示方法およびカメラ装置
JP2004064504A (ja) * 2002-07-30 2004-02-26 Ricoh Co Ltd 撮像装置
JP2006074460A (ja) * 2004-09-02 2006-03-16 Matsushita Electric Ind Co Ltd 物体検出装置および方法
JP2009162747A (ja) * 2007-12-10 2009-07-23 Fujifilm Corp 距離画像処理装置および方法、距離画像再生装置および方法並びにプログラム
JP2010147940A (ja) * 2008-12-19 2010-07-01 Fujifilm Corp 立体画像処理装置および立体画像処理方法
JP2011153995A (ja) * 2010-01-28 2011-08-11 Fa System Engineering Kk 立体映像表示装置の立体ノギス像形成装置およびプログラム
JP2012075036A (ja) * 2010-09-29 2012-04-12 Casio Comput Co Ltd 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
WO2013151076A1 (ja) 2013-10-10
JP6113416B2 (ja) 2017-04-12
US20150042756A1 (en) 2015-02-12
US9729844B2 (en) 2017-08-08

Similar Documents

Publication Publication Date Title
CN106797460B (zh) 三维视频的重建
KR101893047B1 (ko) 이미지 처리 방법 및 이미지 처리 장치
KR101379066B1 (ko) 화상 처리 장치, 화상 처리 방법, 및, 기록 매체
WO2019007180A1 (zh) 同时具备摄影测量和三维扫描功能的手持式大尺度三维测量扫描仪***
US11494929B2 (en) Distance measurement device
WO2014064870A1 (ja) 画像処理装置および画像処理方法
CN106462956A (zh) 局部自适应直方图均衡
KR20150021522A (ko) 입체 결상을 구현하는 방법 및 장치
CN104599317A (zh) 一种实现3d扫描建模功能的移动终端及方法
WO2013105381A1 (ja) 画像処理方法、画像処理装置および画像処理プログラム
TW201225658A (en) Imaging device, image-processing device, image-processing method, and image-processing program
JPWO2013108554A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
US8908012B2 (en) Electronic device and method for creating three-dimensional image
JP2015032883A (ja) 撮像装置及び画像表示方法
JP2015115818A (ja) 画像処理装置、画像処理方法およびプログラム。
JP2016103248A (ja) 画像提供システムおよび画像提供方法
JP2015156540A (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP6113416B2 (ja) 画像撮像装置、画像処理方法、プログラム
JP6038489B2 (ja) 画像処理装置
KR20160039447A (ko) 스테레오 카메라를 이용한 공간분석시스템
JP2014116789A (ja) 撮影装置、その制御方法及びプログラム
JP6161874B2 (ja) 撮像装置、長さ計測方法及びプログラム
JP2016062447A (ja) 画像処理装置、画像処理方法、および画像処理プログラム
KR102355578B1 (ko) 정보 처리 장치, 프로그램을 기록한 기록 매체 및 정보 처리 방법
JP2013190938A (ja) ステレオ画像処理装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150323

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160531

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160728

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20160816

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20160822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170214

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170315

R150 Certificate of patent or registration of utility model

Ref document number: 6113416

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150