JP5097480B2 - 画像測定装置 - Google Patents
画像測定装置 Download PDFInfo
- Publication number
- JP5097480B2 JP5097480B2 JP2007222002A JP2007222002A JP5097480B2 JP 5097480 B2 JP5097480 B2 JP 5097480B2 JP 2007222002 A JP2007222002 A JP 2007222002A JP 2007222002 A JP2007222002 A JP 2007222002A JP 5097480 B2 JP5097480 B2 JP 5097480B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- measurement
- processing unit
- feature extraction
- super
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000005259 measurement Methods 0.000 claims description 206
- 238000012545 processing Methods 0.000 claims description 185
- 238000000605 extraction Methods 0.000 claims description 85
- 230000015572 biosynthetic process Effects 0.000 claims description 37
- 238000003860 storage Methods 0.000 claims description 37
- 238000003384 imaging method Methods 0.000 claims description 9
- 238000000034 method Methods 0.000 description 36
- 238000010586 diagram Methods 0.000 description 25
- 230000008569 process Effects 0.000 description 25
- 230000008859 change Effects 0.000 description 8
- 238000001514 detection method Methods 0.000 description 7
- 239000003550 marker Substances 0.000 description 4
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 3
- 239000002131 composite material Substances 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 238000010998 test method Methods 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000004304 visual acuity Effects 0.000 description 2
- 241000872198 Serjania polyphylla Species 0.000 description 1
- 230000032683 aging Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003707 image sharpening Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/95—Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
- G01N21/9515—Objects of complex shape, e.g. examined with use of a surface follower device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biochemistry (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Signal Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
Description
しかしながら、このような定規を用いる方法は、煙突や外壁など高所での調査の場合、足場が必要となり、さらに計測結果が手書きによるスケッチであるため、測定誤差が生じる。
一方、近年では、ノンプリズム・トータルステーションを利用した計測法が開発されているが、この方法だと計測データと座標を同時取得し、さらに三次元での記録を保存することが可能である。なお、例えば、距離測定装置と角度測定装置等を一体化した測定装置をトータルステーションと呼ぶ。これによれば、例えば1m〜350mと離れた場所から、立ち入れない場所や手の届かない場所などでも安全に計測できるという利点がある。
また、特許文献1には、画像図面(オルソ画像)を現地にてリアルタイムで確認しながら簡単に作成することができる画像形成装置が記載されている。また、特許文献2には、通常のカメラで三次元計測する際に、安定して、信頼性が高く、かつ精度良いステレオ画像を容易に取得することができるステレオ画像撮影システムが記載されている。
また、クラックなどその特徴を計測したい場合、あらかじめ現地調査にて、計測したい場所を決めておき、トータルステーションをマニュアル操作によって計測したい場所を視準しながら対象物を詳細に順番に見ていく、という作業が必要である。そのため、時間と手間が膨大にかかる、といった課題がある。特に高倍率で計測する場合は、視準範囲が狭くなるため、観察する量が増大し効率化を妨げる。
従って、望遠鏡の倍率を上げたものや高解像度のカメラを利用するという方法も考えられるが、例えば距離が1mから350mと広い範囲を一律0.2mm以上で分解するというのは、機器側の製作において構造的にもコスト的にもあまり得策でなく、また、遠方から狭い範囲をマニュアルにて視準していくのは作業量として大変困難なものである。
ここではクラック計測を例にあげているが、クラック以外でもその壁面の状態で計測したい場合や、マーキング等してある場所などの計測やそれら経時変化の測定でも同様である。
本発明は、以上の点に鑑み、たとえ計測対象物が遠距離であってもその詳細な特徴を精度よく簡便に測定できる画像測定装置を提供することを目的とする。
測定対象物を、撮像エリアを微動させながら撮影した複数の第1画像を取得するための測定処理部と、
上記測定処理部により取得された第1画像から対象物の概略特徴部分を抽出する特徴抽出処理部と、
上記特徴抽出処理部で抽出された概略特徴部分近傍で、上記測定処理部で取得された複数の第1画像をグループ化することで複数の第1部分画像を形成する部分画像形成処理部と、
上記部分画像形成処理部により形成された複数の第1部分画像から超解像画像を形成する超解像画像形成処理部と
を備え、
上記特徴抽出処理部は、超解像画像から詳細特徴部分を抽出するように構成されていることを特徴とする画像測定装置が提供される。
また、本発明の第2の解決手段によると、
測定対象物を低倍率で撮影した第1画像を取得するための測定処理部と、
上記測定処理部により取得された第1画像から対象物の概略特徴部分を抽出する特徴抽出処理部と、
上記特徴抽出処理部で抽出された概略特徴部分近傍で、概略特徴部分を含む撮像エリアを微動させながら第1画像よりも高い倍率で撮影された複数の第2画像から超解像画像を形成する超解像画像形成処理部と
を備え、
上記特徴抽出処理部は、超解像画像から詳細特徴部分を抽出するように構成されていることを特徴とする画像測定装置が提供される。
図1に、画像測定のための説明図を示す。図中、計測装置が撮影する計測対象の全計測エリア(パノラマ)と詳細計測エリアが示される。
図14に、画像測定システムの構成図を示す。
画像測定システムは、計測装置20と画像測定装置10を備える。
計測装置20は、画像を取得する画像取得部21、及び、距離と角度を測定(三次元計測でもよい)する(三次元)距離角度測定部22を備える。これらは、モータードライブにて画像を取得、距離及び角度を測定する。一体型の場合は、画像取得と距離及び角度測定を同時に行える。
画像測定装置10は、画像測定処理を実行するためのCPU1、適宜のデータの設定や指示等を入力するための入力部3、取得画像、測定結果、処理結果等を出力するための出力部2、各種設定値、入力データ、出力データ、中間データ等を適宜のタイミングで、又は、必要に応じて適宜書込み及び読み出すための記憶部4を備える。CPU1は、各種処理・全体的な処理を実行するとともに、パノラマ画像形成部11、オルソ画像形成部12、測定処理部13、特徴抽出処理部14、部分画像形成処理部15、超解像画像形成処理部16を有する。
パノラマ画像を形成するパノラマ画像形成部11は、画像取得部21からの複数の画像データをパノラマ画像に変換するものであるが、別のパノラマカメラから画像を取得、入力するという構成にしてもよい。
オルソ画像(正射投影画像)を形成するオルソ画像形成部12は、距離角度測定部22より得られた距離(三次元)情報により、取得された画像をオルソ(正射投影)画像化するもので、計測点の数によりその精度が異なるが、計測点と画像上での対応付けが最低4点以上から、この画像を作成できる。密なほど比高歪みが補正されるので精度がよい。また、複数画像で処理する場合、これを合成してパノラマ画像としてもよい。この場合、点の密度が高ければより正確なパノラマ・オルソ画像が作成できる。
なお、オルソ画像の詳細については、後述する(6−1.参照)。
画像から特徴を抽出する特徴抽出処理部14は、これら画像から特徴を抽出する処理を実行する。例えば、エッジであれば、画像処理にてエッジを抽出したり、特徴点であれば、その特徴のものをテンプレートとしてテンプレートマッチングしてもよい。
部分画像形成処理部15は、特徴抽出処理部14で抽出された概略特徴部分の近傍の部分画像を複数形成する処理を実行する。
超解像画像形成処理部16は、画像取得部21を微動させることにより複数画像を取得し、それら画像から超解像画像を作成する処理を実行する。画像の微動には、モータードライブを利用し精密に微動させたり、ピエゾ素子に画像センサを取り付けて微動したりする。
計測対象物を計測する計測装置20は、例えば、以下の構成(i)〜(iv)がある。
(i)トータルステーション(以下TSという。)とデジタルカメラが一体となったもの((図6(a):画像TS)、TSにデジタルカメラを搭載したもの(TSにカメラを取り付け、カメラの位置とTSの光軸位置をキャリブレーションしたもの:(図6(b)))。これらは、モーター駆動しTSとデジタルカメラが一体となって動く。
(ii)レーザスキャナーとデジタルカメラが一体となったもの、レーザスキャナーにデジタルカメラを搭載したもの、でモーター駆動し一体となって動く(形態は図6(a)(b)と同じ)。
(iii)パノラマカメラ単体、もしくは、パノラマカメラで撮影したパノラマ画像をスキャナに読み取らせる、市販のデジタルカメラで複数枚撮影したものから市販あるいは付属ソフトでパノラマ画像を作成し読み取らせる。あるいは魚眼レンズをつけてパノラマ画像を取得する。パノラマカメラとは、光学的に広視野を得るものや(全方位カメラ:http://www2.sharp.co.jp/docs1/ssc/products/all_direc.html)、本体のカメラヘッドを動かしながら自動でパノラマ画像を取得する据え置き型の装置などがあり、特に後者は、エリアセンサタイプだけでなくラインセンサタイプもあり駆動は高精度に行うことが可能である(http://pencil−jp.net/weblog/archives/01000hardware_for_qtvr/01070line_scan_ccd/)。
もちろん市販の産業用デジタルカメラ(CCDカメラ)などをモーターで駆動してもよい(図6(c))。
(iv)レーザスキャナー単体、単体のみでも、本体で輝度画像や距離画像が同時に取得可能である。しかしながら、輝度画像は、それ専用用途ではないため、通常は、市販のデジタルカメラと比較しても画質が相当劣化したものとなる。
なお、トータルステーション及びレーザスキャナーの原理の詳細については後述する(6−2.参照)。
以下、本発明の第一実施の形態について説明する。
この場合、計測装置20の機器構成としては、上述の構成(i)又は(ii)とする。すなわち、計測装置20は、画像取得が可能でかつ距離及び角度の測定部もハードウェアとして持っている。
計測を行う前処理として、特徴抽出処理部14の抽出範囲を対象物の全範囲と設定しない場合は、抽出範囲を指定する必要がある。指定する場合、現況調査にて、計測を詳細にする場所をある程度決めておく必要がある。経時変化等みるときは、特徴抽出処理する範囲の近辺をマーキングしたり、その位置がわかるようにターゲットなどを貼ってもよい。このようにしておけば、特に経時変化を観測する場合は自動化が可能である。あるいは、一度計測しておいた場所を基準座標系にして、いつもその位置を計測できるようにしておいても自動化が可能である。また、最初に全範囲として計測する場合、次回からその位置を覚えておくことで効率化をはかってもよい。なお、当然、毎回全範囲を計測することでもよい。
‐S10
CPU1は、測定処理部13により、計測装置20の画像取得部21で計測する画像取得(計測)範囲を設定する。測定処理部13は計測範囲が全範囲のときは全範囲を、計測範囲が全体を必要としない場合で、局所ごとの観測でよい場合は、それら画像を個々に取得する。測定処理部13は、計測装置20の画像取得部22を用いて、例えば、全範囲の場合は、図2にあるように、全範囲をメッシュ状にして、各箇所(位置)について画像を取得しスキャンする。
‐S20
次に、CPU1は、測定処理部13により、その範囲内の画像について、微動しながら画像を取得し、記憶部4にそれら画像を記憶する。測定処理部13は、画像取得部21を用いて、画像個々を取得する際に、そのエリアにつき超解像処理を行うため、画像を微動させながら画像を複数取得する。従って、測定処理部13は、複数の位置(箇所:例えばメッシュの各位置)で取得する場合は、それぞれの位置において微動画像をさらに複数取得する。微動量は、駆動した水平方向、垂直方向の角度と撮影距離から計算できる。従って、所望の分解能としたい場合の量をふるなどする。ここで、微動とは、例えば、受光素子の画素分ぴったりでなく、ずれが出る状態であれば、1画素分ない又は数画素程度ずれるものでもよい。
‐S30
CPU1は、測定処理部13により、計測装置20の距離角度測定部22を用いて、さらにその画像取得位置につき距離角度(三次元)測定を行い、測定結果を記憶部4に記憶する。この測定は、微動画像についても行ってもよいが、その中心となる画像一つについての測定でもよい。この場合の計測点は、個々の位置(箇所)の画像につき、図3(a)(b)(c)のように、範囲内に一つ、あるいは、周囲に4箇所以上、などとする。レーザスキャナーの場合は、密に点群を取得するほうが得意なので、最初から図3(c)のように高密度にとってかまわない。全範囲を行う場合は、図4のように各画像がオーバーラップし、オーバーラップ部に距離角度測定部22により計測する点が入るようにする。
全範囲を必要とせず、局所での観測や、重点をおいた箇所の測定だけとするときは、測定処理部13は、その分だけS20とS30を繰り返す。一方、全範囲取得する場合は、測定処理部13は、ステップS20、S30を全範囲終わるまで繰り返す。全範囲とするか否かは、記憶部4に予め記憶されたデータやデフォルト値又は入力部3等により設定することができる。
‐S40
次に、CPU1はオルソ画像形成部12により、取得した画像についてオルソ画像を作成し、記憶部4に記憶する。この場合、距離角度測定部22で計測した点が多ければ、作成されるオルソ画像(正射投影画像)の精度はよいものとなるが、少なければ概略のものとなる。
なお、オルソ画像の詳細については、航空写真の例をあげて、後述する(6−1.参照)。
‐S50
CPU1は、特徴抽出処理部14により、記憶部4から読み出した取得された画像から、それぞれ特徴抽出を行う。なお、特徴・特徴部(部分)とは、例えば、クラックなどのひび割れ、きず、マーク等を含むことができる。
特徴抽出は、複数位置の画像を取得している場合は、その代表位置一つについて行ってもよいし、微動画像も含むすべてを行ってもよい。特徴抽出は、対象がひび割れなどのクラックを計測したい場合は、エッジ抽出処理を、経時変化を見たい場合などでマーキングしてあるもの等はテンプレートマッチングの処理などの画像処理を利用する。いずれかとするかは、記憶部4や入力部3により予め設定することができる。
なお、エッジ抽出処理の詳細については後述する(6−3.参照)。
なお、テンプレートマッチングの詳細については後述する(6−4.参照)。
‐S60
CPU1は、ステップS50で特徴抽出処理部14により抽出された特徴部分につき、部分画像形成処理部15により、記憶部4から画像を読み出し、部分画像を形成する。例えば、図5の例では、エッジ抽出処理によって処理された領域で、取得された画像をグルーピングして、その部分ごとを部分画像として作成したものが示される。このグルーピングを、全範囲画像取得している場合は、特徴抽出されたものを1画像ごととしてもよいし、画像からその中をさらに詳細にグルーピングしてもよい。
‐S70
次に、CPU1は、超解像画像形成処理部16により超解像画像を作成し、記憶部4にその超解像画像を記憶する。
超解像処理とは、複数の画像からより高解像、高分解能な画像を推定すること、あるいは、元画像が高解像、高分解能な画像であったとして複数の劣化画像から元画像を再構成することである。例えば、具体的には、画像の位置あわせ(変形)と合成を繰り返し行うことにより実現される。
図の例では、現画像に対し、精密に半画素ずつ上下左右にずらした場合を示している。現画像が3×3=9画素に対して、半画素ずつずらした場合、同じエリアでその4倍の6×6=36画素となっているのがわかる。単純にこのエリアの情報を上下左右4枚加えただけで情報量が4倍になっていることがわかる。すなわち、現画像に対し、n倍の解像力を持った超解像画像を作成したい場合、理論的には2のn乗倍の画像が必要となる。これを正確に実現させるためには、例えば、画像センサ(ex.CCD)を精密にピエゾなどで駆動して図16のように画素ずらしを行える機構を搭載することにより、微動画像をこのような機構から得てもよい。
さらに、微動機構を正確な画素ずらしでなく、装置を回転させながら(角度を変えながら)取得していく場合、比高による歪と撮影時の傾きによる歪みが加わり取得位置により画像が変形していく。すなわち、対象物に対して視野、視点が変わり、それぞれの計測箇所までの距離が変わるので、場所により倍率が変わるだけでなく形状が変形する。このように複雑に画像が変形、歪んでいくために、推定法を利用して超解像画像を作成する。すなわち、具体的には、抽出部の画像位置あわせを行い、変形により歪みを補正し(あるいは揃え)、所望の解像度に拡大を行い合成する。合成は変化が少なくなるまで、あるいは所定の回数を行う。
なお、超解像処理の詳細については後述する(6−5.参照)。
CPU1は、超解像処理により作成された高解像度画像を記憶部4から読み出し、その高解像度画像に対して、特徴抽出処理部14により、再び特徴抽出を行う。CPU1は、記憶部4又は入力部3による指示に従い、ステップS230又はS200に移行する。
特徴抽出の結果は、この場合、超解像画像にて特徴抽出がなされているため、その画像をプリントアウトすれば、その状態の詳細が記録として残される。またそれらから計測することももちろん可能である(S200)。ここで、CPU1は、ステップS230に移行し、特徴抽出された結果をそのまま最終結果としても良いが、さらに詳細に精度よく計測を行う場合以下の処理を行う。
‐S200
CPU1は、測定処理部13により、計測装置20の距離角度測定部22を用いて、抽出された特徴部を、特徴部に沿って、あるいはその部分画像エリア全体の距離角度測定(三次元計測)を行い、測定結果を記憶部4に記憶する。たとえばこの場合、図5に示すように、部分画像作成部全体、あるいは特徴抽出された箇所のみ、などとすることができる。この処理により例えばクラックであれば、そのクラックのXY方向の大きさから、奥行き方向の段差までが正確に求めることができる。あるいは面としてクラック周辺の凹凸まで調べることが出来る。
‐S210
CPU1は、オルソ画像形成部12により計測された点と画像から、その部分の詳細なオルソ画像を作成する。このオルソ画像を、詳細なクラックの図面とすることができる。
‐S220
CPU1は、計測位置が複数、全範囲となっている場合は、S40で作成された全体のオルソ画像に詳細画像を重ね合わせる(置き換える)。この場合、座標がわかっているので容易に重ねあわせることができる。これで、計測対象の全体のクラックの分布図と詳細図が作成できる。
‐S230
CPU1は、結果を、記憶部4に記憶し、及び/又は、出力部2に出力する。これら結果は、全体図面と詳細図面、さらにそれらの凹凸情報まで含まれるため、断面図作成や、クラックに沿ったクラックの凹凸と大きさの評価が可能となる。
次に、本発明の第2の実施の形態につき説明する。
これは、特徴抽出が微細な精度で行わなければならないため、さらに画像取得を低倍率、高倍率とし、超解像処理を行うことでさらに高精度に求めようというものである。本実施の形態では、さらに低倍率系でパノラマ(オルソ)画像を作成することができる。
図17は、画像測定の第2の実施の形態(高倍系+低倍系)のフローチャートを示す。前述のように、図2は、全範囲のメッシュ化についての説明図である。
‐S100
CPU1は、測定処理部13により、計測装置20の画像取得部21で計測する画像取得(計測)範囲を設定する。測定処理部13は、計測範囲が全範囲のときは全範囲を、計測範囲が全体を必要としない場合で、局所ごとの観測でよい場合は、それら画像を個々に取得する。
測定処理部13は、計測装置20の画像取得部21を用いて、例えば、全範囲の場合は、図2にあるように、全範囲をメッシュ状にして、各箇所について画像を取得しスキャンする。
‐S120
CPU1は、測定処理部13により、画像取得部21を用いて、画像取得を低倍率で行い、記憶部4に画像を記憶する。この場合、微動画像は取得しない。従って、全範囲画像を取得する場合、例えば図2のようにメッシュ状に行う場合は、それぞれのメッシュに画像一つずつとなる。
‐S130
CPU1は、測定処理部13により、計測装置20の距離角度測定部22を用いて、さらにその画像取得位置につき距離角度(三次元)測定を行い、記憶部4に測定結果を記憶する。この場合の計測点は、個々の画像につき、図3(a)(b)のように、範囲内に一つ、あるいは、周囲に4箇所以上などとする。全範囲を行う場合は、図4のように各画像がオーバーラップし、オーバーラップ部に距離角度測定部22により計測する点が入るようにする。
全範囲を必要とせず、局所での観測や、重点をおいた箇所の測定だけとするときは、その分だけS120とS130を繰り返す。一方、全範囲取得する場合は、S120、S130を全範囲終わるまで繰り返す。全範囲とするか否かは、記憶部4に予め記憶されたデータやデフォルト値又は入力部3等により設定することができる。
‐S140
次にCPU1は、オルソ画像形成部12により、取得した画像についてオルソ画像を作成し、記憶部4にオルソ画像を記憶する。複数範囲を画像取得した場合でオーバーラップ部をもうけ、距離角度測定部22にて計測を行っている場合は、このオルソ画像がパノラマ画像となる。このパノラマ画像は、三次元座標値が画像に反映されているために、精度のよい画像である。
‐S150
CPU1は、特徴抽出処理部14により、取得された画像から、それぞれ特徴抽出を行う。特徴抽出法については、先に説明したものと同様である。
‐S160
CPU1は、測定処理部13により、特徴抽出された部分についての計測エリアを設定する。この場合、測定処理部13は、特徴抽出されたエリアについて部分画像を作成し、高倍率系の撮像エリアを設定する。
‐S165
CPU1は、測定処理部13により、計測装置20の画像取得部21を用いて、設定された計測エリアそれぞれにつき、高倍率で画像を取得し、記憶部4にその画像を記憶する。この場合は、測定処理部13は、画像取得部21により微動させながら画像を取得する。
‐S170
CPU1は、超解像画像形成処理部16により、各特徴抽出部分について超解像画像を作成し、記憶部4に超解像画像を記憶する。
‐S180
CPU1は、超解像処理により作成された高解像度画像を記憶部4から読み出し、その高解像度画像に対して、特徴抽出処理部14により、再び特徴抽出を行う。
CPU1は、記憶部4又は入力部3による指示に従い、ステップS230又はS200に移行する。
その後の処理、ステップS200〜S230まで、図15で示したように、第1の実施の形態と同様である。
その後、CPU1は、ステップS130、S140の処理にて撮影画像と装置の位置合わせとし、オルソ画像作成ができる。また、CPU1は、距離角度の測定が行われているので、撮影された画像での寸法、スケールを知ることができる。
次に、本発明の第3の実施の形態につき説明する。
本実施の形態は、特に、上述の計測装置20の構成(i)〜(iv)のいずれかを用いることができる。計測装置20の構成(iii)の形態は、パノラマカメラでカメラ部が上下左右モーター駆動して自動で画像を取得できるものや、市販の産業用のカメラに上下左右でモーター駆動できるものなどである(図6(c))。
本実施の形態では、単純に画像を微動させながら取得し、特徴抽出を行って部分画像として特徴点をきりだし、超解像処理を行い、特徴部分を詳細に抽出させるものである。
図18は、画像測定の第3の実施の形態のフローチャートである。なお、上述のように、図2は、全範囲のメッシュ化についての説明図、及び、図5は、部分画像作成についての説明図である。
‐S300
CPU1は、測定処理部13により、計測装置20の画像取得部21で計測する画像を取得し、記憶部4に画像を記憶する。測定処理部13は、計測範囲が全範囲のときは全範囲を、計測範囲が全体を必要としない場合で、局所ごとの観測でよい場合は、それら画像を個々に取得する。測定処理部13は、計測装置20の画像取得部21を用いて、例えば、全範囲の場合は、図2にあるように、全範囲をメッシュ状にして、各箇所について画像を取得しスキャンする。測定処理部13は、画像個々を取得する際に、そのエリアにつき超解像処理を行うため、そのエリアで画像を微動させながら複数取得する。
‐S310
CPU1は、特徴抽出処理部14により、取得された複数画像を記憶部4から読み出し、それら複数画像から、それぞれ特徴抽出を行う。特徴抽出は、対象がひび割れなどのクラックを計測したい場合は、エッジ抽出処理を、経時変化を見たい場合でマーキングしてあるもの等はテンプレートマッチングの処理などの画像処理を利用する。エッジ抽出は、例えば、線検出オペレータを使用したり、LOGフィルタでゼロ交差点を求めたり、キャニーオペレータを使用したり、何を使用してもよい。
‐S320
CPU1は、部分画像形成処理部15により、抽出された特徴部分につき、部分画像を形成し、記憶部4に記憶する。例えば、図5の例では、エッジ抽出処理によって処理された領域をグルーピングしてその部分ごとを部分画像として、複数画像分作成する。
‐S330
CPU1は、超解像画像形成処理部16により、超解像画像を作成し、記憶部4に記憶する。
‐S340
CPU1は、特徴抽出処理部14により、超解像処理なされた画像に対して、再び特徴抽出を行う。
‐S400
CPU1は、記憶部4又は入力部3による指示に従い、結果出力するか、後処理S200〜230へ移行する。
結果は、この場合、超解像画像にて特徴抽出なされているため、その画像をプリントアウトすれば、その状態の詳細が記録として残される。
ステップS200〜S230の処理は、図15及び図17に示したように、第1及び第2の実施の形態と同様である。
なお、距離角度測定部22をステレオカメラ構成とすることもできる(後述)。
次に本発明の他の実施の形態について説明する。以下の実施の形態は、上述の第1〜3の実施の形態と適用可能である。
本実施の形態は、画像取得(計測)範囲設定を簡略化するための処理である。すなわち、あらかじめ全体の画像を取得し、その画像を画像測定装置10に入力することで、自動計測を行う。
図19は、前処理にパノラマ画像を用いる処理についてのフローチャートである。
以下、各ステップについて説明する。
(S2:パノラマ画像取得)
計測する全体の範囲について、市販のデジタルカメラ等の画像取得装置で複数枚の画像をオーバーラップさせながら作成する。そしてパノラマ画像合成ソフトによりパノラマ画像を作成する。これは、デジタルカメラに付属している場合もあれば、別売しているものもあるが、それらを利用する。デジタルカメラ使用の場合は、レンズを魚眼レンズなど利用すると一度に広範囲を撮影できる。但し、解像力があまりよくない場合がある。後述するオルソ画像との違いは、三次元座標が反映されていないため、画像の精度が比較的よくないという点である。
あるいは、パノラマカメラを使用して取得してもよい。これは、精密にCCDをスキャンニングさせて取得するタイプや、光学的に凹面鏡などをつけて一度に広角画像を取得するタイプなどある。これらを利用すれば、出力自体がパノラマ画像となっている。特に精密にスキャンニングさせるタイプはより精度的に信頼がおけるものである。
‐S4
CPU1は、入力部3又はインターフェス等を用いて、取得された画像を測定装置本体の記憶部4に読み込む。
‐S6
CPU1は、撮影画像と計測装置20の位置合わせを行う。
この場合、CPU1は画像測定装置10の出力部2の画面上で読み込まれた画像を表示する。操作者はその画像を見ながら、画像の左右両端から例えば最低4点以上の点を入力部3により指定し、CPU1の測定処理部13は、その指定に従い、距離角度測定部22により計測を行う。これで画像測定装置10とパノラマ画像の位置合わせが行える。なお、当然点数が多ければ位置合わせはより正確になる。
その後、CPU1は、ステップS10に移り、測定処理部13により、計測エリアの設定を行う。これは手動にて範囲を指定しても、特徴抽出処理部14により特徴抽出させエリアを決定させてもよい。この後の処理は、第1〜第3の実施の形態等と同様である(図15、図17、図18)
以上のように、最初にパノラマ画像を取得してラフに全体画像を入力させることにより、絞った計測範囲での自動計測が可能となる。こうすることで、計測範囲を最初に絞り込めるので、より自動化が容易になる。
本実施の形態は、距離角度(三次元座標)測定部から計測される三次元座標をステレオ画像から取得するものである。この場合の利点は、TSやレーザスキャナーと比べると、超高解像画像からステレオマッチング処理を行い三次元座標を得るために、精度がよく高精細(高密度)であるといったことがあげられる。
本実施の形態は、上述の計測装置20の構成(i)〜(iv)のいずれかを用いることができる。すなわちカメラがモーター駆動にて上下左右に動く構成となっている。基本的に、左右のステレオ画像から数点〜数万点以上の三次元座標(点群)が取得できるので、パノラマカメラの場合や画像TSに適した構成である。すなわち、カメラ部を高精細にできれば精密な計測が可能となる。画像TSの場合は、三次元座標の取得点数が少ない場合、例えばパノラマ画像を作成する場合や、第一画像を取得してオルソ画像を得るときは、距離角度測定部22から三次元座標を算出し、抽出された特徴抽出処理部14について左右画像から詳細な三次元座標を得る、という構成にすると効率的である。
図7に示されるように、例えば、本装置を2台おいてステレオで画像を取得するものである。例えばPCで2台を接続することにより、同時に同じエリアを撮像することにより左右画像を取得する。
画像測定のフローチャートは、図15あるいは図17に示したように、第1又は第2の実施の形態と同様であるが、ステップS30(あるいはステップS130)とステップS200の距離角度計測(三次元計測)の部分が異なる。すなわち、ステップS30(S130)の処理において、CPU1は、測定処理部13により、計測装置20を用いて、三次元測定したいポイント(図3(a)(b))をテンプレートマッチングにて左右画像(図7の場合の左と右の装置から得られる画像)から求めることにより、三次元座標を得る。
あるいは、TSの機能がある場合、計測装置20の構成(i)の場合は、図3(a)(b)の測定を距離角度測定部22を用いて測定処理部13にて行い、三次元座標に変換し、基準座標とする。そして、CPU1は、オルソ画像形成部12により、ステップS40(S140)のオルソ画像作成処理で左右画像からステレオマッチングを行い、求められた面の三次元座標と基準座標を利用してオルソ画像を作成する。こうすることで、精密なオルソ画像が作成できる。
CPU1は、ステップS200、S210も、ステップS30(S130),S40(S140)と同様に処理することで、すなわち超解像画像から作成抽出された特徴部分である部分画像の左右画像をステレオマッチングすることで、特徴部および部分画像全体のオルソ画像が精密に得られる。
このような構成にすると、特徴抽出された部分の三次元計測が詳細に精度よく行える。
本実施の形態は、レーザスキャナー内部のセンサでレーザスキャンニング時に、同時に取得できる輝度画像で超解像処理を行う例について説明する。
レーザスキャナーは、対象物上を一点一点スキャンニングしながら各点における距離を計測し、大量な距離情報を短時間で取得できる装置である。これによれば、距離取得の際に計測装置20は角度情報も得ているため、スキャナを中心とした対象物体の三次元座標を得ることができる。本来は距離情報だけであるが、一点一点のレーザ光の戻り光の強弱を画像として構成したり(http://www.krcnet.co.jp/technical/3Dlaser/3Dlaser02.htm)、あるいは、内蔵されている輝度センサにより、一点一点距離情報を取得するのと同時に輝度値が取得できる構造となっており、それを画像化するものがある。
これらレーザスキャナーは、本来画像を取得することを目的としていないために(あるいは装置構成上の制約から最適化できず)、画質が比較的良くないだけでなく、原理上、距離が遠くなるとビーム径が大きくなる、といった課題がある(図9参照)。
これらレーザスキャナーに対し、単一受光面の受光素子で受光する場合には、その一点一点得られる距離情報を色情報として画像として扱う、あるいは、その強度情報を画像として扱う、あるいは内蔵された輝度情報を画像として扱い、超解像化することは重要であり、本発明のすべての実施の形態に適用することが可能である。また、レーザスキャナーにおいて、反射光をCCDのような受光部で受光する形式の場合には、受光部で得られる画像が、そのまま画像データ(第1画像、第2画像等)として取り扱われる。
この場合、図15のフローチャートの構成(画像取得光学系1つ)の場合は、例えば、ステップS20の画像取得とステップS30の距離角度(三次元)測定との処理が同時に行える。また、ステップS40、S210のオルソ画像作成処理が、取得した点情報を画像として並べるだけの処理でよい。
第17図のフローチャートは、レーザスキャナーに計測用光学系が低倍率と高倍率2種類含まれている場合であり、この場合も、ステップS120とステップS130が同時に取得できる、また、ステップS140、S210のオルソ画像作成処理が、取得した点情報を画像として並べるだけの処理となる。
図27は、パノラマカメラ対応のフローチャートである。
本実施の形態では、計測装置20としてパノラマカメラを用いる。以下、各ステップの処理を説明する。
‐S11
CPU1は、測定処理部13により、計測装置20の画像取得部21で計測する画像取得(計測)範囲を設定する。測定処理部13は計測範囲が全範囲のときは全範囲を、計測範囲が全体を必要としない場合で、局所ごとの観測でよい場合は、それら画像を個々に取得する。測定処理部13は、計測装置20の画像取得部22を用いて、例えば、全範囲の場合は、全範囲をメッシュ状にして、各箇所(位置)について画像を取得しスキャンする。
‐S12
次に、CPU1は、測定処理部13により、その範囲内の画像について、微動しながら画像を取得し、記憶部4にそれら画像を記憶する。測定処理部13は、画像取得部21を用いて、画像個々を取得する際に、そのエリアにつき超解像処理を行うため、画像を微動させながら画像を複数取得する。従って、測定処理部13は、複数の位置(箇所:例えばメッシュの各位置)で取得する場合は、それぞれの位置において微動画像をさらに複数取得する。
‐S13
CPU1は、測定処理部13により、さらにパノラマ画像を作成し、その結果を記憶部4に記憶する。
‐S14
CPU1は、特徴抽出処理部14により、記憶部4から読み出した取得されたパノラマ画像から、それぞれ特徴抽出を行う。
‐S15
CPU1は、ステップS14で特徴抽出処理部14により抽出された特徴部分につき、部分画像形成処理部15により、記憶部4から画像を読み出し、部分画像を形成する。
以下、ステップS300〜S400の処理については、第3の実施の形態と同様である。
以下に、詳細処理について説明する。
6−1.オルソ(正射投影)画像
図20に、オルソ(正射投影)画像の説明図を示す。
図21に、中心投影における比高による像の偏位についての説明図を示す。
オルソ(正射投影)画像とは、中心投影像を地図と同じような平行投影画像とするもので、三次元の座標値により、その比高歪みを補正しながら画像を修正するものである。従って三次元座標も密度が高いほどオルソ画像の精度がよくなる。
比高歪みとは、次のものをいう。
‐対象物(図の例では地表面)が平坦でない場合に、その起伏(比高)によって生じる写真中心点からの写真像の偏位
‐レンズから対象物(地表面)までの距離(H)が異なるため、同一写真内に生じる撮影縮尺の大小の変化
空中写真は、レンズを中心とする透視投影系であり、地表面に比高があるとレンズを中心として、映像は、レンズを通る光線の地表面に垂直に交わる点(N=鉛直点)を中心に放射状に偏位する。図からわかるように、点Aは、Oを通ってaに写る。Aの基準面への投影点A’はa’に移るはずであるが、実際はa’aだけずれて(偏位)写ることになる。言い換えると、比高(h)による像の偏位量は、A’A’’を基準面上で求めて縮尺化した量だけ増大する。図において、Oをレンズ、Hを基準面までの対地高度(撮影高度)とすると、点Aの偏位する量は、
Δr=A’A’’・f/H
従って、対象物の三次元座標がわかれば、中心投影の原理から、偏位量Δrを補正できる。
距離角度測定は、測量で利用される通常のトータルステーションと呼ばれるものがある。これは、水平・垂直に精度よく角度を計測できる測角機能を有したセオドライトと光やレーザにより対象物までの距離を計測する光波距離計を合体したものである。近年では、これに画像センサを搭載したもの、モータードライブできるものなどが開発されている。
一方、レーザスキャナーは、原理はトータルステーションと類似しており、レーザを一点一点対象物に向かって照射させ、面上にスキャンニングしながらその反射に戻ってくるまでの一点一点の時間により各斜距離として面上の距離情報を得る装置である。この装置によれば、一括で自動的に高密度な点計測が可能(数千〜数百万点)であるが、高速にスキャンニングする分、トータルステーションより精度が劣る。
これらは、距離情報と水平・垂直角度が同時に得られるため、三次元座標が計算できる。TSは三角測量にて計測を行っていくものであるが、基準を自分の機械位置とした場合、どちらも類似なものである。
図8は、トータルステーション及びレーザスキャナーの、その原理を示す説明図である。
すなわち、対象物の三次元座標p(x、y、z)は、水平角をα、垂直角をγ、斜距離をD、とすれば、
p(x、y、z)=(D・sinγ・sinα、D・sinγ・cosα、D・cosγ)
となる。
これを地上座標系に変換するためには、基準点4点以上を使い、座標変換する。
基準点は、ローカルでよい場合は、基準としたいところに設置してTSで測定する。あるいは、GPSを利用してもよい。
エッジ抽出は、例えば、線検出オペレータを使用したり、LOGフィルタでゼロ交差点を求めたり、キャニーオペレータ(J.F. Canny. “A computational approach to edge detection”, IEEE Trans. on Pattern Analysis and Machine Intelligence, 8(6):679−−698, November 1986.)を使用したり、何を使用してもよい。ここでは、LOGフィルタでゼロ交差点を求めたものについて説明する。
図22に、ラプラシアンオペレータの説明図を示す。
図23に、線検出オペレータの説明図を示す。
エッジ抽出処理は、画像の鮮鋭化を行い、その画像の濃度値のゼロ交差点をエッジとすることにより行なうことができる。
画像の鮮鋭化には、画像にラプラシアンフィルタやラプラシアンガウシアンフィルタ等の処理を施し、ぼけ画像を作成、元の画像からぼけ画像を差分することにより得ることができる。
LOG(Laplacian Of Gaussian)フィルタは、局所領域の画素にガウス分布関数による平滑化を施し、さらにラプラシアンを作用させるフィルタである。他の微分オペレータと比べてノイズに強く、比較的滑らかな濃度変化に対してもフィルタ出力のゼロクロス点を求めることにより、エッジを抽出できる。これは他の微分フィルタが局所領域に作用するのに対して、LOGフィルタは平滑化の影響により、比較的広い領域に渡って作用する為である。(高木幹雄、下田陽久(編),“画像解析ハンドブック”,東京大学出版会,1991参照)
g(i,j)=f(i、j)−∇2f(i,j)
g(i,J):鮮鋭化画像、f(i,j):入力画像、
∇2f(i,j):入力画像のラプラシアン
ここで、∇2f(i,j)に関しては、いろいろな形の微分オペレータがある。
例えば一例を図22に示すがこれに限られたものではない。
また、これにガウシアンを施したものとしてもよい。
以上により、鮮鋭画像が得られる。鮮鋭画像の求め方はこれによらず、多種のものがある。
g(x,y)=f(x、y)−∇2G(x,y)
g(x,y):鮮鋭化画像、f(x,y):入力画像、
∇2G(x,y):入力画像のラプラシアンガウシアン
また、撮影時において、ピントのあった状態(上式f(x、y)に相当)とピントの合っていない状態(上式∇2G(x,y)に相当)の同一画像を撮影し、その差分画像を得ることによっても同様の効果が得られるため、そのようにしても良い。
次に、この鮮鋭化された画像からエッジ抽出を行う。
エッジ抽出処理は、先にもとめた鮮鋭化画像の濃度値のゼロ交差点をエッジとすることにより行なうことができる。
すなわち、ゼロとなった点のみを画像化する、あるいはゼロを境にしてプラス領域を白、マイナス領域を黒とすることにより画像化される。
これらのエッジ画像と原画像、あるいはエッジ画像と鮮鋭化画像を重ね合わせることによって、さらにエッジを強調した画像とし表示することもできる。
(2)他のオペレータの例
また、ある特定方向や任意の形状を強調、抽出することも可能である。
例えば、図23の線検出オペレータは縦線検出の例で、横線検出を行いたいときは、横に+1をならべたものをオペレータとして画像に畳み込む。抽出したい形状に合わせてこのような相関フィルタを構成、すなわち検出したい形状に合わせ+1、それ以外は−1/2、−1などとして行列を形成すれば、任意の形状の検出が行える。
テンプレートマッチングは、正規化相関法や残差逐次検定法(SSDA法)などがあり、本実施の形態では、どれを用いても良い。残差逐次検定法を使用すれば処理が高速化できる。
(1)残差逐次検定法
図24に、入力画像とテンプレート画像の説明図を示す。
図に示すようにN1×N1画素のテンプレート画像を、それより大きいM1×M1画素の入力画像内の探索範囲(M1−N1+1)2上で動かし、以下に示す式のR(a,b)が最小になるようなテンプレート画像の左上位置を求めて、テンプレート画像に対し探索されたとみなす。
残差逐次検定法の式を以下に示す。
残差R(a,b)が最小になる点が求める画像の位置である。処理の高速化をはかるため、上式の加算において、R(a,b)の値が過去の残差の最小値を越えたら加算を打ち切り、次の(a,b)に移るよう計算処理を行う。
図に示すようにN1×N1画素のテンプレート画像を、それより大きいM1×M1画素の入力画像内の探索範囲(M1−N1+1)2上で動かし、以下に示す式のC(a,b)が最大になるようなテンプレート画像の左上位置を求めて、テンプレート画像に対し探索されたとみなす。
相互相関法の式を以下に示す。
図25に、他の例にて実際に超解像画像を作成した例を示す。
微動した量が概略あらかじめわかっていれば、そしてまた、異なる位置に微動したものを数多くとることによって、推定結果をより確実にすることができる。本実施の形態の場合、所望の解像力で画像を作成したければ、装置から対象物までの距離と画像センサ上に写る画像エリアとの関係(倍率)、一画素分解能から、何倍の解像力がいるかを計算し画像枚数と微動量を設定する。TSやレーザスキャナーにより距離情報が得られ、画像も同時に取得できる場合は装置上で計算できる。
例えば、対象物の距離が30mで望遠鏡が30倍の倍率とした場合、センサ上の1画素で0.3mm分解する設定となっている場合、0.2mm必要であれば、その倍もしくは4倍の超解像設定にし、微動位置を4〜16に設定する。
尚、微動画像はモータードライブにて取得するが、画像センサをピエゾなどで振動させてもよい。ピエゾで振動させる場合は画像の合成処理が容易かつ確実に高精度化できる。
図11に、テンプレートと探索エリアについての説明図を示す。また、図12に、特徴点についての説明図を示す。
以下、各ステップの処理について説明する。
‐S500
CPU1の超解像画像形成処理部16は、特徴抽出された画像の位置情報から作成された部分画像の位置合わせを行う。
微動した複数画像から作成された部分画像は、微動させた情報から画像上のずれ量が概略計算できる。例えば、画像を取得した際の計測箇所までの距離、すなわち特徴抽出処理部14や部分画像作成部までの距離情報とそのときの角度情報から計算できる(TS・レーザスキャナー説明の式参照)。従ってこの式からズレ量を計算し、その分が位置あわせ量となる。正確に部分画像の位置までの距離でなくとも代表される箇所の距離情報で概略位置計算をしてもよい。
さらに厳密に位置あわせする場合や、距離情報がない場合でも、次の処理によって詳細に位置あわせができる。仮に位置情報がある場合は、探索範囲を狭く出来るので処理が高速になる。
すなわち、超解像画像形成処理部16は、抽出した部分画像どうしでテンプレートマッチングを行う。その場合、超解像画像形成処理部16は、基準画像(たとえば微動する前の中心の画像とする)の抽出された特徴部をテンプレートとし、他の微動画像の同じ位置の特徴部にマッチングをかける。例えば、図11(a)の、きりだされた領域全体(部分画像)をテンプレートとして探索してもよい。あるいは抽出された特徴の一部分でテンプレートマッチングをかけてもよい。図11(a)は複数画像中の一つから、部分画像の一部をテンプレートに設定した例で、図11(b)及び(c)は、他の画像中から、探索エリアを設定し、その中をテンプレートマッチングによって探索する例である。ズレ量を式から概略計算しておけば、位置はそんなにずれないので探索エリアは狭く取れる。
テンプレートマッチング処理は先に説明したものと同じである。マッチングをかける画像は、グレースケール画像でも、エッジ抽出を行ったあとに二値化した画像で行ってもよい。
次に、超解像画像形成処理部16は、画像の変形を行う。これは複数画像中の例えば微動前の中心の画像を基準にして、その基準とこれの部分画像同士で行う。演算処理は、例えば、射影変換やアフィン変換など使う(センサをピエゾで微動させる場合は、変形を行う必要はないので、平行移動でだけでよい)。
たとえば、図3(b)(C)のように既に計測している点を利用する(この場合点の場所がわかっている)。あるいは、図12に示すように、複数画像について、特徴抽出処理部14(図の例ではクラック上)の変曲点を特徴点として4点以上検出し、画像変換をかける。
超解像画像形成処理部16は、次の観測方程式に画像座標を代入し、アフィン係数を求め、変換をそれぞれの画像にかける。
基本(微動前)の画像座標と微動後の画像座標を上式に代入して観測方程式をたて、アフィン係数a1〜a6 を求め、微動画像を微動前の画像と同じ形に(変形)する。
‐S520
超解像画像形成処理部16は、画像の拡大を行う。例えば、2倍にしたければ、2倍の画像エリアを、4倍にしたければ、4倍の画像エリアを用意しておく。この処理は、線形補間(バイリニア)法や3次補間(キュービック)法などを使う。
‐S530
超解像画像形成処理部16は、画像合成する。加算していくだけでよい。すなわち複数画像分足し合わせていく。微動量があらかじめわかっており、分解能から微動画像の枚数を決定している場合は、超解像画像形成処理部16は、微動画像数分、処理を繰り返す。そうでない場合や、微動画像を多数取得している場合は、超解像画像形成処理部16は、画像の変化が少なくなるまでこれを繰り返す。すなわち、超解像画像形成処理部16は、合成画像の変化が少なくなるまで繰り返す。例えば閾値を設定し、作成した合成画像から一つ前に作成した合成画像を差分することで変化量を計算する。
‐S540
超解像画像形成処理部16は、画像を記憶部4に記憶し、出力部2に出力して、処理を終了する。
また、本発明は、ひび割れ以外にも、きず、マーク、きれつ等の各種の形状の測定に適用することができる。
さらに、本発明は、レーザ光や可視光の他にも、X線等を利用することにより、表面内部のひび割れ等の形状の測定に適用することができる。
2 出力部
3 入力部
4 記憶部
10 画像測定装置
11 パノラマ画像形成部
12 オルソ画像形成部
13 測定処理部
14 特徴抽出処理部
15 部分画像形成処理部
16 超解像画像形成処理部
20 計測装置
21 画像取得部
22 距離角度測定部
Claims (14)
- 測定対象物を、撮像エリアを微動させながら撮影した複数の第1画像を取得するための測定処理部と、
上記測定処理部により取得された第1画像から対象物の概略特徴部分を抽出する特徴抽出処理部と、
上記特徴抽出処理部で抽出された概略特徴部分近傍で、上記測定処理部で取得された複数の第1画像をグループ化することで複数の第1部分画像を形成する部分画像形成処理部と、
上記部分画像形成処理部により形成された複数の第1部分画像から超解像画像を形成する超解像画像形成処理部と
を備え、
上記特徴抽出処理部は、超解像画像から詳細特徴部分を抽出するように構成されていることを特徴とする画像測定装置。 - 測定対象物を低倍率で撮影した第1画像を取得するための測定処理部と、
上記測定処理部により取得された第1画像から対象物の概略特徴部分を抽出する特徴抽出処理部と、
上記特徴抽出処理部で抽出された概略特徴部分近傍で、概略特徴部分を含む撮像エリアを微動させながら第1画像よりも高い倍率で撮影された複数の第2画像から超解像画像を形成する超解像画像形成処理部と
を備え、
上記特徴抽出処理部は、超解像画像から詳細特徴部分を抽出するように構成されていることを特徴とする画像測定装置。 - さらに、上記低倍率で撮影した複数の第1画像を組合わせて全体のパノラマ画像を形成するパノラマ画像形成部を有し、
上記特徴抽出処理部は、パノラマ画像から対象物の概略特徴部分を抽出するように構成されていることを特徴とする請求項2記載の画像測定装置。 - さらに、第1画像に含まれる点までの距離と角度を測定する距離角度測定部と、
上記距離角度測定部により測定された距離と第1画像の位置に基づき画像中の各点をオルソ画像に形成するオルソ画像形成部と
を有することを特徴とする請求項1又は2記載の画像測定装置。 - 上記距離角度測定部は、レーザスキャナー、光波距離計、トータルステーションのいずれか一つの構成を少なくとも含み、距離と角度を測定することを特徴とする請求項4記載の画像測定装置。
- 第1画像又は第2画像は、測定対象物を重複して、異なる撮影位置で複数のステレオ画像として形成されたものであり、それらのステレオ画像から距離を求めることを特徴とする請求項1又は2記載の画像測定装置。
- 上記概略特徴部分又は詳細特徴部分は、測定対象部分の境界部分又はエッジ又はそれらの近傍であることを特徴とする請求項1又は2記載の画像測定装置。
- さらに、レーザスキャナーを有し、第1画像に含まれる点までの距離と角度を測定する距離角度測定部を備え、
レーザスキャナーからのレーザ光束が対象物で反射された反射レーザ光に基づき各点における距離情報を色情報として第1画像又は第2画像として扱う、その反射レーザ光の強度情報を第1画像又は第2画像として扱う、又は、内蔵された輝度情報を第1画像又は第2画像として扱うことを特徴とする請求項1又は2記載の画像測定装置。 - さらに、超解像画像で得られた詳細特徴部分の位置の距離と角度を測定する距離角度測定部を有することを特徴とする請求項1又は2記載の画像測定装置。
- 第2画像のオルソ画像を形成するように構成されている請求項9記載の画像測定装置。
- 上記超解像画像処理部は、撮像エリアが微動された複数の第1部分画像又は第2画像について、概略特徴部分の位置合わせを行い、画像合成することで詳細特徴部分を含む超解像画像を形成することを特徴とする請求項1又は2記載の画像測定装置。
- 計測装置により取得した画像のオルソ画像を作成するオルソ画像形成部をさらに備え、
上記測定処理部により、計測装置で計測する画像取得範囲を設定し、
上記測定処理部により、その範囲内の画像について、微動しながら画像を取得し、
上記測定処理部により、上記計測装置を用いて、さらにその画像取得位置につき距離角度測定又は3次元測定を行い、
上記オルソ画像形成部により、取得した画像についてオルソ画像を作成し、
上記特徴抽出処理部により、それぞれ特徴抽出を行い、
上記特徴抽出処理部により抽出された特徴部分につき、上記部分画像形成処理部により、部分画像を形成し、
上記超解像画像形成処理部により超解像画像を作成し、
超解像処理により作成された高解像度画像に対して、上記特徴抽出処理部により、再び特徴抽出を行い、
特徴抽出された結果を記憶部に記憶又は出力部に出力すること
を特徴とする請求項1に記載の画像測定装置。 - 計測装置により取得した画像のオルソ画像を作成するオルソ画像形成部をさらに備え、
上記測定処理部により、計測装置で計測する画像取得範囲を設定し、
上記測定処理部により、上記計測装置を用いて、画像取得を低倍率で行い、
上記測定処理部により、上記計測装置を用いて、さらにその画像取得位置につき距離角度測定又は3次元測定を行い、
上記オルソ画像形成部により、取得した画像についてオルソ画像を作成し、
上記特徴抽出処理部により、取得された画像から、それぞれ特徴抽出を行い、
上記測定処理部により、特徴抽出された部分についての計測エリアを設定し、
上記測定処理部により、上記計測装置を用いて、設定された計測エリアそれぞれにつき、高倍率で画像を取得し、
上記超解像画像形成処理部により、各特徴抽出部分について超解像画像を作成し、
超解像処理により作成された高解像度画像に対して、上記特徴抽出処理部により、再び特徴抽出を行い、
特徴抽出された結果を記憶部に記憶又は出力部に出力すること
を特徴とする請求項2に記載の画像測定装置。 - 上記測定処理部により、計測装置で計測する画像を取得し、
上記特徴抽出処理部により、取得された複数画像から、それぞれ特徴抽出を行い、
上記部分画像形成処理部により、抽出された特徴部分につき、部分画像を形成し、
上記超解像画像形成処理部により、超解像画像を作成し、
上記特徴抽出処理部により、超解像処理なされた画像に対して、再び特徴抽出を行い、
特徴抽出された結果を記憶部に記憶又は出力部に出力すること
を特徴とする請求項1に記載の画像測定装置。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007222002A JP5097480B2 (ja) | 2007-08-29 | 2007-08-29 | 画像測定装置 |
EP08157693A EP2031558A3 (en) | 2007-08-29 | 2008-06-05 | Image measurement apparatus |
US12/186,893 US8300986B2 (en) | 2007-08-29 | 2008-08-06 | Image measurement apparatus for creating a panoramic image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007222002A JP5097480B2 (ja) | 2007-08-29 | 2007-08-29 | 画像測定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009053126A JP2009053126A (ja) | 2009-03-12 |
JP5097480B2 true JP5097480B2 (ja) | 2012-12-12 |
Family
ID=40042999
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007222002A Expired - Fee Related JP5097480B2 (ja) | 2007-08-29 | 2007-08-29 | 画像測定装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8300986B2 (ja) |
EP (1) | EP2031558A3 (ja) |
JP (1) | JP5097480B2 (ja) |
Families Citing this family (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB0820416D0 (en) * | 2008-11-07 | 2008-12-17 | Otus Technologies Ltd | Panoramic camera |
JP2010169777A (ja) * | 2009-01-21 | 2010-08-05 | Sony Corp | 画像処理装置、画像処理方法およびプログラム |
US8503826B2 (en) * | 2009-02-23 | 2013-08-06 | 3DBin, Inc. | System and method for computer-aided image processing for generation of a 360 degree view model |
JP5218849B2 (ja) * | 2009-03-13 | 2013-06-26 | 株式会社コンステック | 欠陥検査装置 |
JP5339070B2 (ja) * | 2009-03-26 | 2013-11-13 | サクサ株式会社 | 変位量測定装置及び同測定方法 |
US8862987B2 (en) * | 2009-03-31 | 2014-10-14 | Intel Corporation | Capture and display of digital images based on related metadata |
EP2242019B1 (en) * | 2009-04-15 | 2016-01-13 | Mitsubishi Electric R&D Centre Europe B.V. | Image region interpolation |
CN102893126B (zh) | 2010-05-12 | 2016-01-20 | 莱卡地球***公开股份有限公司 | 测量仪器 |
CN103210482B (zh) * | 2010-08-09 | 2016-06-22 | Bt成像股份有限公司 | 持久性特征检测 |
US8411285B2 (en) * | 2010-11-22 | 2013-04-02 | Trimble Navigation Limited | Stationing an unleveled optical total station |
US9160914B2 (en) * | 2011-06-28 | 2015-10-13 | Inview Technology Corporation | User control of the visual performance of a compressive imaging system |
JP6009753B2 (ja) * | 2011-10-26 | 2016-10-19 | 株式会社トプコン | 画像測定装置 |
KR101804205B1 (ko) * | 2012-03-15 | 2017-12-04 | 삼성전자주식회사 | 영상 처리 장치 및 방법 |
JP5882153B2 (ja) * | 2012-07-17 | 2016-03-09 | 大成建設株式会社 | 三次元座標算出装置 |
JP5987549B2 (ja) * | 2012-08-10 | 2016-09-07 | 株式会社大林組 | 建設部材の設置精度の測定システム及び方法 |
JP5854951B2 (ja) * | 2012-08-10 | 2016-02-09 | Kddi株式会社 | パノラマ画像生成装置 |
JPWO2014132754A1 (ja) * | 2013-02-26 | 2017-02-02 | コニカミノルタ株式会社 | 画像処理装置および画像処理方法 |
US9772173B2 (en) | 2013-06-27 | 2017-09-26 | Faro Technologies, Inc. | Method for measuring 3D coordinates of a surface with a portable articulated arm coordinate measuring machine having a camera |
US9025067B2 (en) | 2013-10-09 | 2015-05-05 | General Electric Company | Apparatus and method for image super-resolution using integral shifting optics |
EP3063553B1 (en) * | 2013-11-01 | 2019-12-11 | Robert Bosch GmbH | System and method for measuring by laser sweeps |
FR3017481B1 (fr) * | 2014-02-07 | 2016-02-26 | Sagem Defense Securite | Procede de detection et de pistage de cibles |
US9235215B2 (en) * | 2014-04-03 | 2016-01-12 | Honeywell International Inc. | Feature set optimization in vision-based positioning |
US10021379B2 (en) | 2014-06-12 | 2018-07-10 | Faro Technologies, Inc. | Six degree-of-freedom triangulation scanner and camera for augmented reality |
US9402070B2 (en) | 2014-06-12 | 2016-07-26 | Faro Technologies, Inc. | Coordinate measuring device with a six degree-of-freedom handheld probe and integrated camera for augmented reality |
US10176625B2 (en) | 2014-09-25 | 2019-01-08 | Faro Technologies, Inc. | Augmented reality camera for use with 3D metrology equipment in forming 3D images from 2D camera images |
US9506744B2 (en) | 2014-12-16 | 2016-11-29 | Faro Technologies, Inc. | Triangulation scanner and camera for augmented reality |
JP6416646B2 (ja) * | 2015-02-02 | 2018-10-31 | 株式会社Soken | 位置測定装置 |
JP6594039B2 (ja) * | 2015-05-20 | 2019-10-23 | 株式会社東芝 | 画像処理装置、方法及びプログラム |
JP6505858B2 (ja) * | 2015-09-29 | 2019-04-24 | 富士フイルム株式会社 | 点検結果検索装置及び方法 |
EP3392612B1 (en) * | 2015-12-14 | 2023-05-17 | Nikon-Trimble Co., Ltd. | Defect detection apparatus and program |
US20170168285A1 (en) * | 2015-12-14 | 2017-06-15 | The Regents Of The University Of California | Systems and methods for image reconstruction |
JP6494059B2 (ja) | 2016-02-29 | 2019-04-03 | 富士フイルム株式会社 | 情報処理装置、情報処理方法、及びプログラム |
WO2017149851A1 (ja) * | 2016-02-29 | 2017-09-08 | 富士フイルム株式会社 | 情報処理装置、情報処理方法、及びプログラム |
WO2017168737A1 (ja) * | 2016-03-31 | 2017-10-05 | 株式会社 ニコン・トリンブル | 欠陥画像表示制御装置及びプログラム |
JP6278544B1 (ja) * | 2017-03-22 | 2018-02-14 | 国立研究開発法人国立環境研究所 | モニタリング装置 |
JP6899436B2 (ja) | 2017-06-14 | 2021-07-07 | 株式会社ニコン・トリンブル | 算出システム、プログラム及びターゲット |
US11195324B1 (en) | 2018-08-14 | 2021-12-07 | Certainteed Llc | Systems and methods for visualization of building structures |
KR102586815B1 (ko) * | 2020-12-30 | 2023-10-10 | 한국건설기술연구원 | 구조물 균열 측정 시스템, 방법, 및 상기 방법을 실행시키기 위한 컴퓨터 판독 가능한 프로그램을 기록한 기록 매체 |
JP7170928B1 (ja) * | 2022-05-25 | 2022-11-14 | クモノスコーポレーション株式会社 | 構造物のひび割れ現況図を作成する方法 |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07280537A (ja) * | 1994-04-11 | 1995-10-27 | Sekisui Chem Co Ltd | 撮像式検査方法および装置 |
US5649032A (en) * | 1994-11-14 | 1997-07-15 | David Sarnoff Research Center, Inc. | System for automatically aligning images to form a mosaic image |
AU1048399A (en) * | 1997-11-10 | 1999-05-31 | Gentech Corporation | System and method for generating super-resolution-enhanced mosaic images |
JP4138145B2 (ja) * | 1999-04-07 | 2008-08-20 | 株式会社トプコン | 画像形成装置 |
US6208765B1 (en) * | 1998-06-19 | 2001-03-27 | Sarnoff Corporation | Method and apparatus for improving image resolution |
JP4237868B2 (ja) * | 1999-05-10 | 2009-03-11 | 株式会社トプコン | 画像形成システム |
JP2002010297A (ja) * | 2000-06-26 | 2002-01-11 | Topcon Corp | ステレオ画像撮影システム |
JP2002328096A (ja) * | 2001-04-27 | 2002-11-15 | Tokyo Electric Power Co Inc:The | 構造物に形成されたひび割れ欠陥検出プログラム、ひび割れ欠陥検出方法及びひび割れ欠陥検出システム |
US7218751B2 (en) * | 2001-06-29 | 2007-05-15 | Digimarc Corporation | Generating super resolution digital images |
US7636486B2 (en) * | 2004-11-10 | 2009-12-22 | Fotonation Ireland Ltd. | Method of determining PSF using multiple instances of a nominally similar scene |
US7639889B2 (en) * | 2004-11-10 | 2009-12-29 | Fotonation Ireland Ltd. | Method of notifying users regarding motion artifacts based on image analysis |
US7352919B2 (en) * | 2004-04-28 | 2008-04-01 | Seiko Epson Corporation | Method and system of generating a high-resolution image from a set of low-resolution images |
US7477360B2 (en) * | 2005-02-11 | 2009-01-13 | Deltasphere, Inc. | Method and apparatus for displaying a 2D image data set combined with a 3D rangefinder data set |
US20060197867A1 (en) * | 2005-03-02 | 2006-09-07 | Peter Johnson | Imaging head and imaging system |
US7551771B2 (en) * | 2005-09-20 | 2009-06-23 | Deltasphere, Inc. | Methods, systems, and computer program products for acquiring three-dimensional range information |
JP4654887B2 (ja) * | 2005-11-14 | 2011-03-23 | 株式会社ニコン | 撮像装置 |
JP2007147422A (ja) * | 2005-11-28 | 2007-06-14 | Komatsu Engineering Corp | 計測システム、画像処理装置及び方法 |
US7587099B2 (en) * | 2006-01-27 | 2009-09-08 | Microsoft Corporation | Region-based image denoising |
US7907792B2 (en) * | 2006-06-16 | 2011-03-15 | Hewlett-Packard Development Company, L.P. | Blend maps for rendering an image frame |
US7916971B2 (en) * | 2007-05-24 | 2011-03-29 | Tessera Technologies Ireland Limited | Image processing method and apparatus |
-
2007
- 2007-08-29 JP JP2007222002A patent/JP5097480B2/ja not_active Expired - Fee Related
-
2008
- 2008-06-05 EP EP08157693A patent/EP2031558A3/en not_active Withdrawn
- 2008-08-06 US US12/186,893 patent/US8300986B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2009053126A (ja) | 2009-03-12 |
US8300986B2 (en) | 2012-10-30 |
EP2031558A2 (en) | 2009-03-04 |
EP2031558A3 (en) | 2010-07-28 |
US20090245653A1 (en) | 2009-10-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5097480B2 (ja) | 画像測定装置 | |
JP5263804B2 (ja) | 多点測定方法及び測量装置 | |
KR100817656B1 (ko) | 화상 처리 방법, 3차원 위치 계측 방법 및 화상 처리 장치 | |
JP5051493B2 (ja) | 三次元計測用マーカとこれを用いた三次元計測方法 | |
KR100785594B1 (ko) | 화상 처리 장치 | |
JP4885584B2 (ja) | レンジファインダ校正方法及び装置 | |
JP4232064B2 (ja) | 画像処理を用いたひび割れ評価装置 | |
JPWO2006135040A1 (ja) | 3次元計測を行う画像処理装置および画像処理方法 | |
KR101569193B1 (ko) | 원거리용 균열 측정장치 및 이를 이용하는 균열 측정방법 | |
JP2005215917A (ja) | 施工図作成支援方法およびリプレースモデル作成方法 | |
US11189012B2 (en) | Arrangement having a coordinate measuring machine or microscope | |
CN110915193B (zh) | 图像处理***、服务器装置、图像处理方法及记录介质 | |
JP2012088114A (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
KR100995261B1 (ko) | 매금 설치 위치 조합 방법 및 매금 설치 위치 조합 시스템 | |
JP4058421B2 (ja) | 振動計測装置及びその計測方法 | |
JP4848166B2 (ja) | 三次元計測用投影装置及びシステム | |
JP2012050013A (ja) | 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム | |
CN112415010A (zh) | 一种成像检测方法及*** | |
JP2000028332A (ja) | 3次元計測装置及び3次元計測方法 | |
Antinozzi et al. | Optimized configurations for micro-photogrammetric surveying adaptable to macro optics and digital microscope | |
JPH10122819A (ja) | キャリブレーション方法およびその装置 | |
JP2006317418A (ja) | 画像計測装置、画像計測方法、計測処理プログラム及び記録媒体 | |
JP6869880B2 (ja) | 検査画像合成装置、検査画像合成システム、検査画像合成方法およびプログラム | |
JP7044331B2 (ja) | 橋梁などの構造物を効率的に検査するための画像処理システム、画像処理方法及びプログラム | |
JP2010048581A (ja) | 埋金設置位置照合方法および埋金設置位置照合システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100802 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120607 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120612 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120629 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120918 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120924 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150928 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |