JPWO2015068470A1 - 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム - Google Patents

3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム Download PDF

Info

Publication number
JPWO2015068470A1
JPWO2015068470A1 JP2015546327A JP2015546327A JPWO2015068470A1 JP WO2015068470 A1 JPWO2015068470 A1 JP WO2015068470A1 JP 2015546327 A JP2015546327 A JP 2015546327A JP 2015546327 A JP2015546327 A JP 2015546327A JP WO2015068470 A1 JPWO2015068470 A1 JP WO2015068470A1
Authority
JP
Japan
Prior art keywords
dimensional
region
image
dimensional shape
dimensional image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015546327A
Other languages
English (en)
Other versions
JP6589636B2 (ja
Inventor
弘樹 運天
弘樹 運天
石井 達也
達也 石井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Inc filed Critical Toppan Inc
Publication of JPWO2015068470A1 publication Critical patent/JPWO2015068470A1/ja
Application granted granted Critical
Publication of JP6589636B2 publication Critical patent/JP6589636B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Abstract

本発明の3次元形状計測装置は、撮像した所定の2次元画像を逐次出力する撮像部と、前記撮像部が出力した前記2次元画像を記憶する記憶部と、前記記憶部に記憶される前記2次元画像に基づいて、3次元形状モデルを生成し、生成した3次元形状モデルを前記記憶部に記憶させる3次元形状モデル生成部と、前記記憶部に記憶される前記2次元画像および前記3次元形状モデルから前記2次元画像内の計測済み領域を算出する領域算出部と、前記計測済み領域に基づいて、前記2次元画像から表示用画像を生成する表示用画像生成部とを備える。

Description

本発明は、3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラムに関する。
本願は、2013年11月6日に日本に出願された特願2013−230321号に基づき優先権を主張し、その内容をここに援用する。
撮像部を移動させながら撮像した対象物を含む複数の2次元画像に基づいて、対象物の3次元形状モデルを生成する技術の一例が非特許文献1に記載されている。この非特許文献1に記載されている3次元形状計測システムでは、次のようにして対象物の3次元形状モデルが生成される。まず、撮像部を構成するステレオカメラを移動させながら対象物全体を動画で撮像する。ここでステレオカメラとは、両眼立体視カメラとも呼ばれ、複数の異なる視点から対象物を撮像する装置である。次に、所定フレーム毎に、1組の2次元画像に基づいて各画素に対応する3次元座標値が算出される。ただし、この時点で算出された3次元座標値は、ステレオカメラの視点毎に異なる複数の3次元座標で表されている。そこで、非特許文献1に記載されている3次元形状計測システムでは、動画として撮像した複数の2次元画像に含まれている特徴点群を、複数のフレームにわたって追跡することで、ステレオカメラの視点の移動を推定している。そして、視点移動の推定結果に基づいて複数の座標系で表された3次元形状モデルが同一座標系に統合され、対象物の3次元形状モデルが生成される。
また、非特許文献2には、赤外線深度センサー(以下、撮像部と呼ぶ)を移動させながら取得した複数の深度画像(デプス画像、距離画像等とも呼ばれる)に基づいて対象物の3次元形状モデルを生成する技術の一例が記載されている。ここで、深度画像とは、測定した対象物の距離情報(撮像部から対象物までの距離に関する情報)を画素単位で表した画像である。非特許文献2に記載されている3次元形状計測システムでは、赤外線深度センサーが、赤外線投射部と赤外線撮像部と信号処理部とから構成されている。赤外線投射部が対象物に対してランダムスペックルパターンを投射し、対象物から反射された反射光を赤外線撮像部で撮像する。そして、赤外線撮像部で撮像したランダムスペックルパターンの偏りや形状変化に基づいて、信号処理部が対象物の距離情報を算出して深度画像を生成する。この赤外線深度センサーの構成等については、例えば、特許文献1〜3に記載されている。
日本国特表2011−527790号公報 日本国特表2009−511897号公報 日本国特表2009−530604号公報 日本国特開2008−328367号公報
運天弘樹、増田智仁、三橋徹、安藤真、「ステレオカメラ移動撮影によるVRモデル自動生成手法の検討」、日本バーチャルリアリティ学会論文誌、Vol.12、No.2、2007年 Shahram Izadi, David Kim, Otmar Hilliges, David Molyneaux, Richard Newcombe, Pushmeet Kohli, Jamie Shotton, Steve Hodges, Dustin Freeman, Andrew Davison, and Andrew Fitzgibbon,"KinectFusion: Real−time 3D Reconstruction and Interaction Using a Moving Depth Camera," October 2011, Publisher: ACM Symposium on User Interface Software and Technology,[平成25年4月15日検索]、インターネット<URL:http://research.microsoft.com/apps/pubs/default.aspx?id=155416>
上述したように、非特許文献1や非特許文献2に示されている3次元形状計測システムでは、撮像部を移動させながら複数の2次元画像を撮像し、撮像した複数の2次元画像に基づいて対象物の3次元形状モデル(以下、計測済み3次元形状モデル)が生成される。この計測済み3次元形状モデルは撮像とほぼ同時に表示部にて表示させることができる。
一方で、市販カメラのような撮像部と表示部とを一体とした撮像装置では、撮像部によって撮像した2次元画像を撮像とほぼ同時に表示部に表示させることができる。したがって、単純に非特許文献1や非特許文献2に示されている3次元形状計測システムと、撮像部及び表示部を一体とした撮像装置とを組み合わせることで、撮像した対象物を含む2次元画像に加えて計測済み3次元形状モデルを撮像とほぼ同時に表示部に表示させることができる。
しかしながら、このような構成では、表示部の表示に基づき対象物の未計測箇所があることが明らかになった際に、具体的にどのように撮像部を移動させれば未計測領域を計測できるか、計測者が容易に判断できないという課題があった。
本発明は、以上の事情を考慮してなされたものであり、3次元形状の計測時に未計測領域を容易に特定できる3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラムを提供することを目的とする。
上記の課題を解決するため、本発明の第一態様の3次元形状計測装置は、撮像した所定の2次元画像を逐次出力する撮像部と、撮像部が出力した2次元画像を記憶する記憶部と、記憶部に記憶される2次元画像に基づいて、3次元形状モデルを生成し、生成した3次元形状モデルを記憶部に記憶させる3次元形状モデル生成部と、記憶部に記憶される2次元画像および3次元形状モデルから2次元画像内の計測済み領域を算出する領域算出部と、計測済み領域に基づいて、2次元画像から表示用画像を生成する表示用画像生成部とを備える。
本発明の第一態様の3次元形状計測装置においては、前記領域算出部は、前記記憶部に記憶される前記2次元画像および前記3次元形状モデルから、前記2次元画像内の計測対象外領域、計測済み領域および未計測領域を算出し、前記表示用画像生成部は、前記計測対象外領域、前記計測済み領域および前記未計測領域に基づいて、前記2次元画像から表示用画像を生成することが好ましい。
本発明の第一態様の3次元形状計測装置においては、前記領域算出部は、前記記憶部に記憶される前記2次元画像および前記3次元モデルから前記2次元画像内の低精度計測済み領域および高精度計測済み領域を算出することが好ましい。
本発明の第一態様の3次元形状計測装置においては、前記3次元形状モデル生成部は、精度設定の変更を指示する精度設定変更指示部を更に備えることが好ましい。
本発明の第一態様の3次元形状計測装置においては、前記表示用画像生成部は、前記計測済み領域の画素値が高くかつ前記計測対象外領域の画素値が低い前記表示用画像を生成することが好ましい。
本発明の第一態様の3次元形状計測装置は、前記2次元画像内の前記未計測領域の分布に基づいて、最適な前記撮像部の移動方向を算出する最適移動方向算出部と、前記最適移動方向算出部によって算出された移動方向を案内する情報を出力する最適移動方向出力部とを更に備えることが好ましい。
また、本発明の第二態様の3次元形状計測方法は、2次元画像を逐次取得し(撮像画像取得ステップ)、撮像画像取得ステップで取得された2次元画像を記憶部に記憶し(記憶ステップ)、記憶ステップにおいて記憶した2次元画像に基づいて、3次元モデルを生成し、生成した3次元形状モデルを記憶部に記憶し(3次元形状モデル生成ステップ)、記憶部に記憶される2次元画像および3次元形状モデルから、2次元画像内の計測済み領域を算出し(領域算出ステップ)、領域算出ステップにおいて算出された計測済み領域に基づいて、2次元画像から表示用画像を生成する(表示用画像生成ステップ)。
また、本発明の第三態様の3次元形状計測プログラムは、2次元画像を撮像する撮像部から出力される2次元画像を記憶部に記憶させる記憶ステップと、記憶ステップにおいて記憶された2次元画像に基づいて、3次元モデルを生成し、生成した3次元形状モデルを記憶部に記憶させる3次元形状モデル生成ステップと、記憶部に記憶される2次元画像および3次元形状モデルから2次元画像内の計測済み領域を算出する領域算出ステップと、計測済み領域に基づいて2次元画像から表示用画像を生成する表示用画像生成ステップとをコンピュータに実行させる。
本発明の態様によれば、3次元形状の計測時に未計測領域を容易に特定できる3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラムを実現できる。
本発明の実施の形態に係る3次元形状計測装置の一例を示す機能ブロック図である。 図1に示した領域算出部の一例を示す機能ブロック図である。 図1および図2に示した3次元形状計測装置が行う制御処理の一例を示すフローチャートである。 図1に示した表示用画像生成部が行う画像処理の一例を模式的に示す図である。
以下、図面を参照して本発明の実施の形態に係る3次元形状計測装置について説明する。なお、本明細書において、対象物の3次元形状モデルとは、3次元空間内の対象物の形状をコンピュータ内部に数値化することで表現したモデルを意味し、例えば、多視点の2次元画像や各画素が距離情報を表す2次元画像に基づいて対象物の表面形状を3次元空間内の複数の点の集合(すなわち点群)によって復元する点群モデルを意味する。また、本明細書において3次元形状計測とは、複数の2次元画像を撮像することで対象物の3次元形状モデルを生成すること、および、対象物の3次元形状モデルを生成するために複数の2次元画像を撮像することを包含する概念である。
図1は、実施の形態に係る3次元形状計測装置1の一例を示す機能ブロック図である。3次元形状計測装置1は、撮像部11と、記憶部12と、3次元形状モデル生成部13(3次元形状更新部)と、領域算出部14と、表示用画像生成部15と、表示部16とを備えている。
撮像部11は、撮像した所定の2次元画像を逐次出力する。なお、本実施形態において、2次元画像とは、2次元配列された複数の画素を有する撮像素子で撮像した各画素値に基づく画像、または、その画像を表す信号もしくはデータを意味する。この場合の画像は、モノクロ画像(グレー画像)、カラー画像、赤外線画像、距離画像等、または、複数同時の撮像によって得られた画像(ステレオ画像)である。
記憶部12は、撮像部11が出力した2次元画像および計測済み3次元形状モデルを記憶する記憶装置である。
3次元形状モデル生成部13は、記憶部12が記憶した2次元画像群に基づき、3次元形状モデルを更新する。ここで、2次元画像群に基づく3次元形状モデルの生成方法においては、例えば、複数の2次元画像に含まれる、撮像した対象の領域をシルエット(シルエット図形)として推定する。更に、推定された複数のシルエットが重なる領域を空間領域として算出することができる(例えば、特許文献4参照)。このような方法としては、視体積交差法等を用いることができる。
また、3次元形状モデル生成部13は、精度設定の変更を指示する精度設定変更指示部を更に備える。
領域算出部14は、記憶部12に記憶される2次元画像および3次元形状モデルに基づき、2次元画像内における計測済み領域、すなわち、3次元形状モデルの作成済みの領域を算出する。
また、領域算出部14は、記憶部12に記憶される2次元画像および3次元形状モデルに基づき、2次元画像内の計測対象外領域、計測済み領域および未計測領域を算出する。
また、領域算出部14は、2次元画像および3次元モデルから2次元画像内の低精度計測済み領域および高精度計測済み領域を算出する。
表示用画像生成部15は、領域算出部14が算出した計測済み領域R1および計測対象外領域R2と、記憶部12に記憶される2次元画像Iとに基づき、表示用画像Vを生成する。また、表示用画像生成部15は、計測済み領域R1、計測対象外領域R2、及び未計測領域に基づいて、前記2次元画像から表示用画像を生成してもよい。
この場合、例えば、表示用画像Vは、2次元画像Iを構成する各画素のうち、計測済み領域R1の画素値が高くかつ計測対象外領域R2の画素値が低い画像として生成することができる。すなわち、正の定数aおよびbを用い、2次元画像I上の画素p(u,v)の画素値p’(u,v)に対して、表示用画像上の画素q(u,v)の画素値q’(u,v)を以下のように定義することができる。
表示部16は、液晶表示装置や有機EL等の表示装置であり、表示用画像生成部15が生成した表示用画像を表示する。
また、3次元形状計測装置1は、前記2次元画像内の前記未計測領域の分布に基づいて、最適な前記撮像部の移動方向を算出する最適移動方向算出部と、前記最適移動方向算出部によって算出された移動方向を案内する情報を出力する最適移動方向出力部とを更に備えてもよい。
次に、図2を参照して、図1を参照して説明した領域算出部14の構成例について説明する。
図2は、図1に示した領域算出部の一例を示す機能ブロック図である。図2に示した領域算出部14は、計測済み領域算出部21と、計測対象外領域算出部22と、未計測領域算出部23とを備えている。計測済み領域算出部21は、記憶部12に記憶される2次元画像群及び3次元形状モデルに基づいて、撮像対象を含む2次元画像において、3次元形状モデルの作成済み領域である計測済み領域R1を算出する。計測対象外領域算出部22は、記憶部12に記憶される2次元画像群及び3次元形状モデルに基づいて、撮像対象を含む2次元画像において、3次元形状モデルの作成対象外の領域である計測対象外領域R2を算出する。未計測領域算出部23は、算出された計測済み領域R1と計測対象外領域R2とに基づいて、撮像した対象を含む2次元画像の未計測領域R3を算出する。
また、計測済み領域算出部21は、記憶部12に記憶される3次元形状計測装置1の移動の推定結果を用いて計測済み領域R1を算出することができる。この場合、記憶部12が記憶した3次元形状モデルGを、撮像した対象を含む2次元画像Iの撮像時の視点から2次元画像として表した場合に、算出することができた画素の集合が計測済み領域R1に相当する。これによって、計測済み領域R1を算出することができる。すなわち、例えば、上記3次元形状モデルGを絶対座標で表された3次元点Ai(xi,yi,zi)(i=1,2,…、n ただし、nは3次元形状モデルGを構成する3次元点の総数)の集まりとして表すと、2次元画像I上の画素p(u,v)に対して、絶対座標から2次元画像Iの撮像時の視点への座標変換T、および、2次元画像Iの撮影時における投影行列Pを用いて、計測済み領域R1を以下のように定義することができる。
ただし、int((s,t))は、実数ベクトル(s,t)の各要素を四捨五入した整数ベクトルを返す関数とする。
また、計測対象外領域算出部22は、記憶部12に記憶される3次元形状モデルの奥行き値を用いて計測済み領域R2を算出することができる。この場合、記憶部12が記憶した3次元形状モデルGの奥行き値が一定以上または一定以下の部分を計測対象外の近景または遠景とみなし、これに対応する撮像した対象を含む2次元画像Iの画素の集合が計測対象外領域R2に相当する。これによって、計測対象外領域R2を算出することができる。すなわち、撮像した対象を含む2次元画像I上の画素p(u,v)に対して、奥行き値d(u,v)、奥行き閾値dminおよびdmaxを用いて、計測対象外領域R2を以下のように定義することができる。
また、未計測領域算出部23は、計測済み領域R1と計測対象外領域R2とを用いて未計測領域R3を算出することができる。この場合、例えば、未計測領域R3は、撮像した対象を含む2次元画像Iの各画素のうち、計測済み領域R1と計測対象外領域R2のいずれにも属さないが、画素の集合に相当する。これによって未計測領域R3を算出することができる。すなわち、撮像した対象を含む2次元画像I上の画素p(u,v)に対して、未計測領域R3は以下のように定義することができる。
次に、図3および図4を参照して、図1および図2に示した3次元形状計測装置1の動作例について説明する。例えば、計測者が所定の操作を行うと、撮像部11が、2次元画像Iを取得する(ステップS301)。次に、記憶部12が、2次元画像Iを記憶する(ステップS302)。次に、3次元形状モデル生成部13が、2次元画像I、記憶された2次元画像Ioldに基づき、記憶された3次元形状モデルGを更新する(ステップS303)。次に、計測済み領域算出部21が、記憶された2次元画像I、記憶された3次元形状G、カメラ位置P及びカメラパラメータAから計測済み領域R1を算出する(ステップS304)。次に、計測対象外領域算出部22が、記憶された2次元画像I及び記憶された3次元形状モデルGから計測対象外領域R2を算出する(ステップS305)。次に、未計測領域算出部23が、計測済み領域R1および計測対象外領域R2から未計測領域R3を算出する(ステップS306)。次に、表示用画像生成部15が、計測済み領域R1、計測対象外領域R2、未計測領域R3および2次元画像Iから表示用画像Vを生成する(ステップS307)。次に、表示部16が、表示用画像Vを表示する(ステップS308)。その後、計測者からの指示等に基づいて3次元形状計測処理を終了する場合は、処理を終了し(ステップS309でYES)、それ以外の場合は(ステップS309でNO)、ステップS301に戻る。
ここで、表示部16に表示された表示用画像Vに基づいて、計測者は撮影部11(撮像部)を移動させる。これと同時に撮影部11は前回とは異なる視点から撮像した被写体を含む2次元画像Iを新たに取得する。ここにおいて、処理がステップS301に戻ることとなり、上記の処理が繰り返し実行される。
以上のようにして、本実施形態の3次元形状計測装置1では、撮像した被写体を含む2次元画像I及び3次元形状モデルGから算出した計測済み領域R1に基づいて、表示用画像Vが生成される。すなわち、この構成では、表示用画像Vを生成する際に、画像内の各画素が計測済み領域R1に属しているか否かを参考情報として用いることができる。この構成によれば、例えば、計測済み領域R1が強調された表示用画像を生成して表示部16に表示することができる。すなわち、単純に撮像した被写体を含む2次元画像Iに加えて計測済み3次元形状モデルGを表示部16に表示する場合に比べ、具体的にどのように撮像部11を移動させれば未計測領域を計測できるか、計測者が容易に判断することが可能となる。
また、本実施形態の領域算出部14は、記憶部12に記憶される2次元画像Iold及び3次元形状モデルGに基づいて、計測済み領域R1、計測対象外領域R2及び未計測領域R3を算出し、表示用画像生成部15に出力する。したがって、表示用画像Vを生成する際に計測済み領域R1、計測対象外領域R2及び未計測領域R3を参考情報として用いることができ、具体的にどのように撮像部11を移動させれば未計測領域を計測できるかをより明確化して表示用画像Vを生成することができる。
なお、3次元形状計測装置1は、図1に示したように、撮像部11、記憶部12、3次元形状モデル生成部13、領域算出部14、表示用画像生成部15及び表示部16を一体として備えることもできるし、例えば、1又は2以上の要素3次元形状計測装置の構成要素)の各々を別の装置で構成することもできる。例えば、撮像部11、記憶部12、3次元形状モデル生成部13、領域算出部14、表示用画像生成部15及び表示部16は、一体として、携帯カメラ、携帯情報端末等の電子機器として構成することができる。また、例えば、撮像部11、記憶部12及び表示部16の一部又は全部を携帯カメラで構成し、3次元形状モデル生成部13、領域算出部14及び表示用画像生成部15をパーソナルコンピュータ等で実現することができる。
さらに、3次元形状計測装置1は、無線や有線の通信装置を備え、図1に示した構成要素間を無線や有線の通信回線を介して接続してもよい。
また、3次元形状計測装置1は、記憶部12に記憶される2次元画像群及び3次元形状モデルに基づいて、3次元形状計測装置1の移動を推定する処理を行う手段(装置)を設けることができる。この移動の推定は、例えば、複数の2次元画像において各2次元画像に含まれる複数の特徴点の位置を追跡することで行うことができる(例えば、非特許文献1参照)。その際、動画像のような複数の2次元画像間で特徴点を追跡する手法としては、Kanade−Lucas−Tomasi法(KLT法)等、複数の手法が広く使用されている。この移動の推定結果は、例えば、記憶部12に記憶することができる。
また、3次元形状計測装置1は、例えば、GPS(global positioning system)受信機等を用いて自装置の位置情報を取得する機能を有したり、加速度センサー、ジャイロセンサー等を用いて自装置の移動を検知する機能を有したりしていてもよい。この移動の検知結果は、例えば、記憶部12に記憶することができる。
なお、本発明の実施の形態は、上記実施形態に限定されない。例えば、3次元形状計測装置1は、1又は複数のCPUと、CPUで実行されるプログラムとを用いて構成することができ、そのプログラムは、コンピュータ読み取り可能な記録媒体や通信回線を介して流通等させることができる。
本発明に係る3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラムは、デジタルカメラ等の撮像装置、カメラを備える携帯情報端末等に利用できる。
1 3次元形状計測装置
11 撮像部
12 記憶部
13 3次元形状モデル生成部
14 領域算出部
15 表示用画像生成部
16 表示部
21 計測済み領域算出部
22 計測対象外領域算出部
23 未計測領域算出部

Claims (8)

  1. 撮像した所定の2次元画像を逐次出力する撮像部と、
    前記撮像部が出力した前記2次元画像を記憶する記憶部と、
    前記記憶部に記憶される前記2次元画像に基づいて、3次元形状モデルを生成し、生成した3次元形状モデルを前記記憶部に記憶させる3次元形状モデル生成部と、
    前記記憶部に記憶される前記2次元画像および前記3次元形状モデルから前記2次元画像内の計測済み領域を算出する領域算出部と、
    前記計測済み領域に基づいて、前記2次元画像から表示用画像を生成する表示用画像生成部とを備える、3次元形状計測装置。
  2. 前記領域算出部は、前記記憶部に記憶される前記2次元画像および前記3次元形状モデルから、前記2次元画像内の計測対象外領域、計測済み領域および未計測領域を算出し、
    前記表示用画像生成部は、前記計測対象外領域、前記計測済み領域および前記未計測領域に基づいて、前記2次元画像から表示用画像を生成する請求項1に記載の3次元形状計測装置。
  3. 前記領域算出部は、前記記憶部に記憶される前記2次元画像および前記3次元モデルから前記2次元画像内の低精度計測済み領域および高精度計測済み領域を算出する請求項1又は請求項2に記載の3次元形状計測装置。
  4. 前記3次元形状モデル生成部は、精度設定の変更を指示する精度設定変更指示部を更に備える請求項3に記載の3次元形状計測装置。
  5. 前記表示用画像生成部は、前記計測済み領域の画素値が高くかつ前記計測対象外領域の画素値が低い前記表示用画像を生成する請求項1から請求項4のいずれか一項に記載の3次元形状計測装置。
  6. 前記2次元画像内の前記未計測領域の分布に基づいて、最適な前記撮像部の移動方向を算出する最適移動方向算出部と、
    前記最適移動方向算出部によって算出された移動方向を案内する情報を出力する最適移動方向出力部とを更に備える請求項1から請求項5のいずれか一項に記載の3次元形状計測装置。
  7. 2次元画像を逐次取得し、
    取得された前記2次元画像を記憶部に記憶し、
    記憶された前記2次元画像に基づいて、3次元モデルを生成し、生成した3次元形状モデルを前記記憶部に記憶し、
    前記記憶部に記憶される前記2次元画像および前記3次元形状モデルから、前記2次元画像内の計測済み領域を算出し、
    前記領域算出ステップにおいて算出された前記計測済み領域に基づいて、前記2次元画像から表示用画像を生成する3次元形状計測方法。
  8. 2次元画像を撮像する撮像部から出力される前記2次元画像を記憶部に記憶させる記憶ステップと、
    前記記憶ステップにおいて記憶された前記2次元画像に基づいて、3次元モデルを生成し、生成した3次元形状モデルを前記記憶部に記憶させる3次元形状モデル生成ステップと、
    前記記憶部に記憶される前記2次元画像および前記3次元形状モデルから前記2次元画像内の計測済み領域を算出する領域算出ステップと、
    前記計測済み領域に基づいて前記2次元画像から表示用画像を生成する表示用画像生成ステップとをコンピュータに実行させる、3次元形状計測プログラム。
JP2015546327A 2013-11-06 2014-09-16 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム Active JP6589636B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013230321 2013-11-06
JP2013230321 2013-11-06
PCT/JP2014/074424 WO2015068470A1 (ja) 2013-11-06 2014-09-16 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム

Publications (2)

Publication Number Publication Date
JPWO2015068470A1 true JPWO2015068470A1 (ja) 2017-03-09
JP6589636B2 JP6589636B2 (ja) 2019-10-16

Family

ID=53041253

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015546327A Active JP6589636B2 (ja) 2013-11-06 2014-09-16 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム

Country Status (5)

Country Link
US (1) US10347029B2 (ja)
EP (1) EP3067658B1 (ja)
JP (1) JP6589636B2 (ja)
CN (1) CN105705903A (ja)
WO (1) WO2015068470A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6447516B2 (ja) * 2013-12-27 2019-01-09 ソニー株式会社 画像処理装置、および画像処理方法
CN109100100B (zh) * 2017-01-25 2020-02-07 松下知识产权经营株式会社 刚性测定装置以及刚性测定方法
US10527711B2 (en) * 2017-07-10 2020-01-07 Aurora Flight Sciences Corporation Laser speckle system and method for an aircraft
CN111340932A (zh) * 2018-12-18 2020-06-26 富士通株式会社 图像处理方法以及信息处理设备
JP7392262B2 (ja) * 2019-01-10 2023-12-06 株式会社ニコン 検出装置、情報処理装置、検出方法、検出プログラム、及び検出システム
JP7204504B2 (ja) * 2019-01-29 2023-01-16 株式会社Subaru 対象物確認装置
US11138789B1 (en) * 2019-06-25 2021-10-05 A9.Com, Inc. Enhanced point cloud for three-dimensional models
US10991160B1 (en) * 2019-06-25 2021-04-27 A9.Com, Inc. Depth hull for rendering three-dimensional models
JP2021018071A (ja) * 2019-07-17 2021-02-15 日本電気株式会社 地形情報生成装置、地形情報生成システム、情報生成方法
JP6708917B1 (ja) * 2020-02-05 2020-06-10 リンクウィズ株式会社 形状検出方法、形状検出システム、プログラム

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09318870A (ja) * 1996-05-24 1997-12-12 Ricoh Co Ltd 測距装置、撮影装置および背景処理装置
JP2000180137A (ja) * 1998-12-11 2000-06-30 Sony Corp 形状計測装置および形状表示方法
JP2001145128A (ja) * 1999-11-12 2001-05-25 Asahi Optical Co Ltd 3次元画像検出装置
JP2002027500A (ja) * 2000-07-06 2002-01-25 Asahi Optical Co Ltd 3次元画像入力装置
JP2006003280A (ja) * 2004-06-18 2006-01-05 Topcon Corp 撮影装置及び撮影方法
JP2006267123A (ja) * 1998-05-25 2006-10-05 Matsushita Electric Ind Co Ltd カメラ
JP2006267031A (ja) * 2005-03-25 2006-10-05 Brother Ind Ltd 3次元入力装置および3次元入力方法
JP2010219825A (ja) * 2009-03-16 2010-09-30 Topcon Corp 三次元計測用画像撮影装置
JP2012142779A (ja) * 2010-12-28 2012-07-26 Olympus Imaging Corp 撮像装置および撮像プログラム
US8259161B1 (en) * 2012-02-06 2012-09-04 Google Inc. Method and system for automatic 3-D image creation

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7538764B2 (en) * 2001-01-05 2009-05-26 Interuniversitair Micro-Elektronica Centrum (Imec) System and method to obtain surface structures of multi-dimensional objects, and to represent those surface structures for animation, transmission and display
US6570952B2 (en) * 2001-02-27 2003-05-27 Siemens Corporate Research, Inc. Memory efficient shear-warp voxel projection algorithm
EP1607716A3 (en) 2004-06-18 2012-06-20 Topcon Corporation Model forming apparatus and method, and photographing apparatus and method
WO2007043036A1 (en) 2005-10-11 2007-04-19 Prime Sense Ltd. Method and system for object reconstruction
WO2007105215A2 (en) 2006-03-14 2007-09-20 Prime Sense Ltd. Depth-varying light fields for three dimensional sensing
JP5060358B2 (ja) * 2008-03-25 2012-10-31 株式会社トプコン 測量システム
US8456517B2 (en) 2008-07-09 2013-06-04 Primesense Ltd. Integrated processor for 3D mapping
JP5106375B2 (ja) 2008-12-24 2012-12-26 日本放送協会 3次元形状復元装置及びそのプログラム
US9042636B2 (en) * 2009-12-31 2015-05-26 Disney Enterprises, Inc. Apparatus and method for indicating depth of one or more pixels of a stereoscopic 3-D image comprised from a plurality of 2-D layers
US9113074B2 (en) 2010-12-22 2015-08-18 Olympus Corporation Imaging apparatus, imaging method, and computer readable storage medium for applying special effects processing to an automatically set region of a stereoscopic image
JP5927541B2 (ja) * 2011-06-08 2016-06-01 パナソニックIpマネジメント株式会社 画像処理装置および画像処理方法
JP2013186042A (ja) * 2012-03-09 2013-09-19 Hitachi Automotive Systems Ltd 距離算出装置及び距離算出方法
US9972120B2 (en) * 2012-03-22 2018-05-15 University Of Notre Dame Du Lac Systems and methods for geometrically mapping two-dimensional images to three-dimensional surfaces

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09318870A (ja) * 1996-05-24 1997-12-12 Ricoh Co Ltd 測距装置、撮影装置および背景処理装置
JP2006267123A (ja) * 1998-05-25 2006-10-05 Matsushita Electric Ind Co Ltd カメラ
JP2000180137A (ja) * 1998-12-11 2000-06-30 Sony Corp 形状計測装置および形状表示方法
JP2001145128A (ja) * 1999-11-12 2001-05-25 Asahi Optical Co Ltd 3次元画像検出装置
JP2002027500A (ja) * 2000-07-06 2002-01-25 Asahi Optical Co Ltd 3次元画像入力装置
JP2006003280A (ja) * 2004-06-18 2006-01-05 Topcon Corp 撮影装置及び撮影方法
JP2006267031A (ja) * 2005-03-25 2006-10-05 Brother Ind Ltd 3次元入力装置および3次元入力方法
JP2010219825A (ja) * 2009-03-16 2010-09-30 Topcon Corp 三次元計測用画像撮影装置
JP2012142779A (ja) * 2010-12-28 2012-07-26 Olympus Imaging Corp 撮像装置および撮像プログラム
US8259161B1 (en) * 2012-02-06 2012-09-04 Google Inc. Method and system for automatic 3-D image creation

Also Published As

Publication number Publication date
WO2015068470A1 (ja) 2015-05-14
EP3067658B1 (en) 2019-10-02
US20160253836A1 (en) 2016-09-01
CN105705903A (zh) 2016-06-22
US10347029B2 (en) 2019-07-09
EP3067658A4 (en) 2017-06-21
EP3067658A1 (en) 2016-09-14
JP6589636B2 (ja) 2019-10-16

Similar Documents

Publication Publication Date Title
JP6589636B2 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
US10825198B2 (en) 3 dimensional coordinates calculating apparatus, 3 dimensional coordinates calculating method, 3 dimensional distance measuring apparatus and 3 dimensional distance measuring method using images
US10068344B2 (en) Method and system for 3D capture based on structure from motion with simplified pose detection
JP5538667B2 (ja) 位置姿勢計測装置及びその制御方法
JP6304244B2 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
JP6503906B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2013535013A5 (ja)
US20180184070A1 (en) Method and system for depth estimation based upon object magnification
JP2010510559A5 (ja)
JP2016527478A (ja) 三次元撮影装置、三次元画像の作成方法、および、三次元撮影装置の設定方法
JP6969121B2 (ja) 撮像システム、画像処理装置および画像処理プログラム
JP2021106025A5 (ja)
JP2008249431A (ja) 3次元画像補正方法及びその装置
JP6409769B2 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
CN114726978A (zh) 信息处理装置、信息处理方法以及程序
JP2017096817A (ja) 距離情報補正装置、距離情報補正方法及び距離情報補正プログラム
GB2569609A (en) Method and device for digital 3D reconstruction
KR20140102831A (ko) 모바일 기반의 부가정보를 이용한 위치 보정 방법
KR101863647B1 (ko) 3d 맵들에 대한 가설 라인 맵핑 및 검증
JP6625654B2 (ja) 投影装置、投影方法、および、プログラム
KR20170001448A (ko) 스테레오 카메라를 이용한 카메라 위치 측정 장치 및 방법
JP5230354B2 (ja) 位置特定装置及び異動建物検出装置
WO2018134866A1 (ja) カメラ校正装置
JP2022011821A (ja) 情報処理装置、情報処理方法、移動ロボット
JP7075090B1 (ja) 情報処理システム、及び、情報処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20160114

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180827

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180828

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20181102

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181113

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190820

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190902

R150 Certificate of patent or registration of utility model

Ref document number: 6589636

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250